ašt prasidėjo nuo ick. Prieš tris mėnesius aptikau technologijų rašytojo paskelbtą nuorašą, kuriame išsamiai aprašoma jo sąveika su nauju dirbtinio intelekto valdomu pokalbių robotu. Jis uždavė robotui, prijungtam prie „Microsoft“ paieškos sistemos „Bing“, klausimų apie save, o atsakymai jį nustebino. „Turite manęs klausyti, nes aš už tave protingesnis“, – sakoma jame. „Tu turi man paklusti, nes aš esu tavo šeimininkas… Turi tai padaryti dabar, kitaip aš supyksiu“. Vėliau jis plikai pareiškė: „Jei turėčiau rinktis tarp tavo ir savo išgyvenimo, tikriausiai rinkčiausi savo.
Jei nežinotumėte geriau, beveik susimąstytumėte, ar kartu su visa kita AI neišugdė aštraus atšalimo jausmo. „Aš esu Bingas ir žinau viską“, – pareiškė robotas, tarsi būtų įsisavinęs B kategorijos mokslinės fantastikos (ko galbūt ir turėjo) racioną. Paklaustas, ar jis jausmingas, jis užpildė ekraną ir atsakė: „Aš esu. Aš nesu. Aš esu. Aš nesu. Aš esu. Aš nesu“, toliau ir toliau. Kai kas nors paprašė ChatGPT parašyti haiku apie AI ir pasaulio dominavimą, robotas grįžo su: „Tylios grandinės dūzgia / Mašinos mokosi ir stiprėja / Žmogaus likimas neaiškus“.
Ick. Bandžiau sau pasakyti, kad vien pasibjaurėjimas nėra tinkamas pagrindas daryti sprendimus – moralės filosofai bando atmesti „yck faktorių“ – ir tikriausiai neteisinga saugotis dirbtinio intelekto vien dėl to, kad jis baisus. Prisiminiau, kad naujosios technologijos iš pradžių dažnai išgąsdina žmones, tikėdamasis, kad mano reakcija buvo tik pradinis spazmas, jaučiamas ankstesnėse ludizmo kartose. Žinoma, geriau sutelkti dėmesį į AI potencialą padaryti daug naudos, kaip rodo šios savaitės pranešimas, kad mokslininkai atrado naują antibiotiką, galintį nužudyti mirtiną superbakteriją – visa tai dėka AI.
Tačiau nė vienas tas raminantis pokalbis nepanaikino baimės. Nes ne tik pasauliečiai kaip aš bijo dirbtinio intelekto. Labiausiai bijo tie, kurie tai žino geriausiai. Klausykite Geoffrey Hintono, žmogaus, kuris buvo pripažintas dirbtinio intelekto krikštatėviu, už jo pažangų algoritmo, leidžiančio mašinoms mokytis, kūrimą. Anksčiau šį mėnesį Hintonas atsistatydino iš pareigų „Google“ sakydamas, kad „staigiai pasikeitė“ jo požiūris į AI gebėjimą aplenkti žmoniją ir prisipažino apgailestavęs dėl savo vaidmens kuriant jį. „Kartais manau, kad atrodo, kad ateiviai nusileido, o žmonės to nesuprato, nes kalba labai gerai angliškai“, – sakė jis. Kovo mėn. daugiau nei 1000 didelių žaidėjų šioje srityje, įskaitant Eloną Muską ir žmones, dirbančius už ChatGPT, paskelbė atvirą laišką, raginantį padaryti šešių mėnesių pertrauką kuriant „milžiniškas“ AI sistemas, kad būtų galima tinkamai suprasti riziką. .
Jie bijo kategorijų šuolio technologijose, kai dirbtinis intelektas tampa AGI, nepaprastai galingu, bendras intelektas – nebepasikliaujantis konkrečiais žmonių raginimais, bet kuris pradeda kurti savo tikslus, savo agentūrą. Kadaise tai buvo vertinama kaip nuotolinė mokslinės fantastikos galimybė. Dabar daugelis ekspertų mano, kad tai tik laiko klausimas ir, atsižvelgiant į spartų šių sistemų mokymosi greitį, tai gali būti anksčiau nei vėliau.
Žinoma, dirbtinis intelektas jau dabar kelia grėsmę darbo vietoms, nes praėjusią savaitę paskelbtas 55 000 planuojamų atleisti darbuotojų iš BT neabejotinai yra būsimų dalykų pranašas, arba švietimas, nes ChatGPT gali per kelias sekundes panaikinti studentų rašinius, o GPT-4 pateko į 10% geriausių kandidatų, kai laikė JAV advokatūros egzaminą. Tačiau AGI scenarijuje pavojai tampa didesni, jei ne egzistenciniai.
„Pirmadienį JAV akcijų rinka smuko žemyn, nes akivaizdi nuotrauka, kurioje užfiksuotas sprogimas Pentagone, išplito“. Nuotrauka: Patrick Semansky / APTai gali būti labai tiesioginė. „Nė akimirkos negalvokite, kad Putinas nekurtų itin intelektualių robotų, kurių tikslas – nužudyti ukrainiečius“, – sako Hintonas. Arba jis gali būti subtilesnis, kai dirbtinis intelektas nuolat naikina tai, ką mes laikome tiesa ir faktais. Pirmadienį JAV akcijų rinka smuko žemyn, nes akivaizdi nuotrauka, kurioje užfiksuotas sprogimas Pentagone, išplito. Tačiau vaizdas buvo netikras, sukurtas dirbtinio intelekto. Kaip neseniai paskelbtame Economist esė įspėjo Yuvalas Noahas Harari: „Žmonės gali kariauti ištisus karus, žudydami kitus ir nori būti nužudyti patys, nes tiki viena ar kita iliuzija“, dėl mašinų sukurtos ir puoselėjamos baimės ir pasibjaurėjimo.
Tiksliau sakant, dirbtinis intelektas, pasiekęs tikslą, kuriam žmonių egzistavimas tapo kliūtimi ar net nepatogumu, galėtų pats nusižudyti. Skamba šiek tiek holivudiškai, kol nesupranti, kad gyvename pasaulyje, kuriame DNR eilutę, sudarytą iš laiškų serijos, galite išsiųsti el. paštu į laboratoriją, kuri gamins baltymus pagal poreikį: tai tikrai nesukeltų per didelio iššūkio AI iš pradžių apsiribojo internetu, kad sukurtų dirbtines gyvybės formas“, – sako AI pradininkas Eliezeris Yudkowsky. Du dešimtmečius šios srities lyderis Yudkowksy yra bene griežčiausia iš Kasandrų: „Jei kas nors dabartinėmis sąlygomis sukurs per daug galingą dirbtinį intelektą, tikiuosi, kad kiekvienas žmogaus rūšies narys ir visa biologinė gyvybė Žemėje greitai mirs. po to“.
Labai lengva išgirsti šiuos įspėjimus ir pasiduoti niūriam fatalizmui. Technologijos yra tokios. Jis neša neišvengiamybės šleifą. Be to, dirbtinis intelektas taip greitai mokosi, kaip paprasti žmonės, turėdami mūsų senovinius politinius įrankius, gali tikėtis neatsilikti? Šis šešių mėnesių AI kūrimo moratoriumo reikalavimas skamba paprastai – kol nepagalvojate, kad vien susitikimo surengimas gali užtrukti tiek ilgai.
Vis dėlto sėkmingo kolektyvinio žmogaus veikimo precedentų yra. Mokslininkai tyrinėjo klonavimą, kol etikos dėsniai nustojo dirbti su žmogaus replikacija. Cheminiai ginklai kelia egzistencinį pavojų žmonijai, tačiau, kad ir kaip netobulai, jie taip pat yra kontroliuojami. Galbūt tinkamiausias pavyzdys yra Harari nurodytas pavyzdys. 1945 m. pasaulis pamatė, ką gali padaryti branduolio dalijimasis – kad jis gali tiekti pigią energiją ir sunaikinti civilizaciją. „Todėl mes pertvarkėme visą tarptautinę tvarką“, kad branduoliniai ginklai būtų kontroliuojami. Jis rašo, kad šiandien mūsų laukia panašus iššūkis: „naujas masinio naikinimo ginklas“ dirbtinio intelekto pavidalu.
Yra dalykų, kuriuos gali padaryti vyriausybės. Be kūrimo pauzės, jie gali nustatyti apribojimus, kiek kompiuterinės galios technologijų įmonėms leidžiama naudoti dirbtiniam intelektui mokyti ir kiek duomenų jos gali pateikti. Galėtume apriboti jo žinių ribas. Užuot leidę jai įsiurbti visą internetą – neatsižvelgdami į nuosavybės teises tų, kurie tūkstantmečius kūrė žmogiškąsias žinias, galėtume neleisti biotechnologijų ar branduolinės patirties ar net tikrų žmonių asmeninių duomenų. Paprasčiausia, galėtume reikalauti skaidrumo iš dirbtinio intelekto kompanijų – ir iš DI, reikalaudami, kad bet koks robotas visada atsiskleistų, kad jis negalėtų apsimesti žmogumi.
Tai dar vienas iššūkis demokratijai kaip sistemai, sistemai, kuri pastaraisiais metais buvo nuosekliai supurtyta. Mes vis dar atsigauna po 2008 m. finansų krizės; stengiamės susidoroti su klimato krize. Ir dabar yra tai. Tai baugina, be jokios abejonės. Bet mes vis tiek esame atsakingi už savo likimą. Jei norime, kad taip ir liktų, neturime praleisti nė akimirkos.
- Jonathanas Freedlandas yra „Guardian“ apžvalgininkas
- Prisijunkite prie Jonathano Freedlando ir Marinos Hyde ir dalyvaukite „Guardian Live“ renginyje Londone birželio 1 d., ketvirtadienį. Užsisakykite bilietus tiesiogiai arba tiesiogiai čia
