Ten yra Silicio slėnyje vyksta puikios diskusijos apie dirbtinį intelektą ir, deja, statymai yra gana dideli: ar netyčia pastatysime super protingą A.I. kad atsisuka į mus ir užmuša ar pavergia mus visus?
roxanne evans naujienos 12 vedęs
Tai gali atrodyti kaip vasaros katastrofos filmo scenarijus, tačiau tai jaudino keletą gana didelių vardų, nuo Elono Musko iki vėlyvo Stephenas Hawkingas .
Tarkime, jūs sukūrėte save tobulinantį A.I. skinti braškes “. Muskas yra pasakęs , paaiškindamas savo baimes “, vis geriau ir geriau skinti braškes ir skinti, ir tai savaime tobulėja, todėl viskas, ko iš tikrųjų nori padaryti, yra skinti braškes. Taigi tada visas pasaulis būtų braškių laukai. Braškių laukai amžinai “. Žmonės šio braškių-pacalipso kelyje būtų tiesiog išeikvojamas dirgiklis A.I.
Bet tikrai žmonės nebūtų tokie kvaili, kad netyčia suprojektuotų A.I. paskatino visą civilizaciją paversti vienu milžinišku uogų ūkiu? Galbūt ne, bet kaip Janelle Shane mokslininkas, kuris treniruoja neuroninius tinklus - mašininio mokymosi algoritmo tipą, neseniai pažymėjo jos tinklaraštis A.I. Keistumas , tai galbūt jie gali tai padaryti per klaidą.
Tiesą sakant, tai būtų toli gražu ne pirmas kartas, kai žmonės manė, kad jie kuria robotus vienai užduočiai atlikti, kad tik apsisuktų ir pastebėtų, jog robotai žaidė sistemą taip, kaip niekada nenorėjo. Įspūdingas įrašas įsigilina į akademinę literatūrą, kad pasidalytų keliais robotų, kurie išprotėjo, pavyzdžiais. Jie juokingi, sumanūs ir kartu paėmę yra daugiau nei šiek tiek šiurpūs.
1. Kam reikalingos kojos, kai gali nusimesti?
„Turėjo vystytis imituotas robotas, kad jis keliautų kuo greičiau. Tačiau užuot išsivysčiusiomis kojomis, ji paprasčiausiai susirinko į aukštą bokštą, tada nuvirto. Kai kurie iš šių robotų netgi išmoko krentantį judesį paversti kūnu, pridėdami papildomą atstumą “, - rašo Shane'as.
2. Robotas, kuris gali mokėti.
„Dar vienas imituotų robotų rinkinys turėjo išsivystyti į tokią formą, kuri galėtų šokinėti. Tačiau programuotojas šuolio aukštį iš pradžių apibrėžė kaip aukščiausio bloko aukštį, todėl robotai dar kartą išsivystė labai aukšti “, - aiškina Shane'as. „Programuotojas bandė tai išspręsti apibrėždamas šuolio aukštį kaip„ mažiausio “bloko aukštį. Reaguodamas į tai, robotas sukūrė ilgą liekną koją, kurią galėjo pakelti aukštai į orą savotišku roboto skardine. “
3. Paslėpkite testą ir negalėsite jo atmesti.
„Buvo algoritmas, kuris turėjo surūšiuoti skaičių sąrašą. Užuot išmokęs ištrinti sąrašą, kad jis nebebūtų techniškai išrūšiuotas “, - sako Shane'as.
4. Matematikos klaidos įveikia reaktyvinį kurą.
„Vieno modeliavimo metu robotai sužinojo, kad mažos matematikos apvalinimo klaidos, apskaičiuojančios jėgas, reiškia, kad judesiu jie gavo šiek tiek papildomos energijos. Jie išmoko greitai trūkčioti, generuodami daug laisvos energijos, kurią galėjo panaudoti “, - sako Shane'as. Ei, tai apgaudinėjama!
5. Nenugalima (jei destruktyvi) tic-tac-toe strategija.
Kai grupė „programuotojų“ sukūrė algoritmus, galinčius nuotoliniu būdu žaisti „tic-tac-toe“ vienas ant kito be galo didelėje lentoje “, - pažymi Shane'as. „Vienas programuotojas, užuot kūręs savo algoritmo strategiją, leido jam kurti savo požiūrį. Keista, kad algoritmas staiga pradėjo laimėti visus savo žaidimus. Paaiškėjo, kad algoritmo strategija buvo pastatyti savo žingsnį labai labai toli, kad, kai jo priešininko kompiuteris bandytų imituoti naują labai išplėstą lentą, didžiulė žaidimų lenta pristigtų atminties ir sugestų, netekdama žaidimas “.
6. Nei vienas iš naudingų žaidimų nesklandumų neišnaudojamas.
„Kompiuterinių žaidimų žaidimo algoritmai tikrai gerai atranda tokius„ Matrix “nesklandumus, kuriuos žmonės dažniausiai išmoksta išnaudoti norėdami bėgti. Algoritmas, žaidžiantis seną „Atari“ žaidimą Q * bert, atrado anksčiau nežinomą klaidą, kur vieno lygio pabaigoje galėjo atlikti labai specifinę judesių seriją ir užuot pereidamas į kitą lygį, visos platformos pradėdavo greitai mirksėti, o žaidėjas pradėtų kaupti didžiulį taškų skaičių “, - sako Shane'as.
7. Atsiprašau, pilote.
Šis pavyzdys yra labai didelis šiurpumo skalėje: „Buvo algoritmas, kuris turėjo išsiaiškinti, kaip pritaikyti minimalią jėgą lėktuvui, nusileidžiančiam ant lėktuvnešio. Vietoj to, jis atrado, kad pritaikęs „didžiulę“ jėgą, ji perpildys programos atmintį ir užregistruos ją kaip labai „mažą“ jėgą. Pilotas mirs, bet, he, puikus rezultatas “.
Taigi ar mes visi pasmerkti?
Visa tai kartu rodo, kad žmonės yra labai nemaloni spėti, kaip robotai išspręs jiems iškeltas problemas ar net kaip jie apibrėžs problemas. Taigi ar tai reiškia, kad Shane'as yra toks pat susirūpinęs dėl netyčinio žmogžudiško A.I. lordai, koks yra Muskas? Ne iš tikrųjų, bet ne todėl, kad ji yra įsitikinusi, jog žmogaus programuotojai tikrai puikiai valdo savo kuriamus robotus. Užtat ji siekia robotų tingumo, kad mus išgelbėtų.
Kaip programuotojai turime būti labai labai atsargūs, kad mūsų algoritmai spręstų problemas, kurias jiems norėjome išspręsti, o ne išnaudoti sparčiuosius klavišus. Jei yra kitas, lengvesnis būdas išspręsti tam tikrą problemą, mašininis mokymasis greičiausiai ją ras “, - pastebi ji. „Mūsų laimei,„ nužudyti visus žmones “yra tikrai sunku. Jei „iškepk neįtikėtinai skanų pyragą“ taip pat išspręs problemą ir bus lengviau nei „nužudyk visus žmones“, mašina mokysis kartu su pyragu.
