Tpirmas dalykas, kurį Geoffrey’us Hintonas sako, kai pradedame kalbėtis, ir paskutinis dalykas, kurį jis kartoja prieš man išjungiant įrašymo įrenginį, yra tai, kad jis geromis sąlygomis paliko „Google“, savo pastarojo dešimtmečio darbdavį. „Aš neprieštarauju tam, ką „Google“ padarė ar daro, bet žiniasklaida norėtų mane paversti „nepatenkinta Google darbuotoja“. Tai ne taip“.
Tai svarbu paaiškinti, nes lengva padaryti priešingą išvadą. Galų gale, kai dauguma žmonių ramiai apibūdina savo buvusį darbdavį kaip vieną iš mažos įmonių grupės, kuri brėžia kursą, kuris, kaip nerimą keliantis pavojus, sunaikins pačią žmoniją, jie tai daro jausdami priešiškumą. Tačiau norėdami klausytis Hintono, mes ketiname eiti per miegą link egzistencinės grėsmės civilizacijai, niekam nedalyvaujant piktybiškai.
Žinomas kaip vienas iš trijų „AI krikštatėvių“, 2018 m. Hintonas laimėjo ACM Turing apdovanojimą – kompiuterių mokslininkų Nobelio premiją už darbą „gilaus mokymosi“ srityje. Kognityvinio psichologo ir informatikos specialisto išsilavinimą jo nemotyvavo noras radikaliai tobulinti technologijas, o geriau suprasti save.
„Pastaruosius 50 metų bandžiau sukurti kompiuterinius modelius, kurie galėtų išmokti dalykų, panašių į tai, kaip mokosi smegenys, kad geriau suprasčiau, kaip smegenys mokosi dalykų“, – pasakoja jis, kai susitinkame sesers namas šiaurės Londone, kur jis apsistoja (dažniausiai gyvena Kanadoje). Šiek tiek pažvelgęs į mane – jis sako, kad nori kalbėti atsistojęs – tonas siaubingai primena universiteto pamoką, nes 75 metų buvęs profesorius aiškina savo tyrimų istoriją ir kaip tai neišvengiamai privedė prie išvados, kad galime būti pasmerkti.
Bandydamas modeliuoti, kaip veikia žmogaus smegenys, Hintonas atsidūrė vienu iš „neuronų tinklų“ – požiūrio į kompiuterinių sistemų, kurios gali mokytis iš duomenų ir patirties, kūrimo lyderių. Dar visai neseniai neuroniniai tinklai buvo smalsumas, reikalaujantis didžiulės kompiuterio galios, kad būtų galima atlikti paprastas užduotis blogiau nei kiti metodai. Tačiau per pastarąjį dešimtmetį, sparčiai augant apdorojimo galiai ir didžiuliams duomenų rinkiniams, Hintono pradėtas požiūris atsidūrė technologinės revoliucijos centre.
„Bandydamas galvoti apie tai, kaip smegenys galėtų įgyvendinti visų šių modelių algoritmą, nusprendžiau, kad galbūt to nepavyks – ir galbūt šie dideli modeliai iš tikrųjų yra daug geresni už smegenis“, – sako jis.
Toks „biologinis intelektas“ kaip mūsų, anot jo, turi privalumų. Jis veikia maža galia, „tik 30 vatų, net kai galvojate“ ir „kiekvienos smegenys yra šiek tiek skirtingos“. Tai reiškia, kad mokomės mėgdžiodami kitus. Tačiau toks požiūris yra „labai neefektyvus“ informacijos perdavimo atžvilgiu. Priešingai, skaitmeniniai intelektai turi didžiulį pranašumą: dalytis informacija keliose kopijose yra nereikšminga. „Jūs mokate milžiniškas energijos sąnaudas, bet kai vienas iš jų ko nors išmoksta, visi tai žino, ir jūs galite lengvai saugoti daugiau kopijų. Taigi gera žinia ta, kad mes atradome nemirtingumo paslaptį. Bloga žinia ta, kad tai ne mums.
Kai jis pripažino, kad mes kuriame intelektą, galintį pranokti žmoniją, buvo padarytos dar baisesnės išvados. „Maniau, kad galiausiai tai įvyks, bet turėjome daug laiko: nuo 30 iki 50 metų. Daugiau taip nemanau. Ir aš nežinau pavyzdžių, kad protingesni dalykai būtų valdomi mažiau protingų dalykų – bent jau ne nuo tada, kai Bidenas buvo išrinktas.
„Jūs turite įsivaizduoti kažką protingesnio už mus tuo pačiu skirtumu, kad esame protingesni už varlę. Ir ji mokysis iš žiniatinklio, bus perskaityta kiekviena knyga, kuri buvo parašyta apie tai, kaip manipuliuoti žmonėmis, ir tai matė praktiškai.
Dabar jis mano, kad krizės laikas ateis per ateinančius penkerius–20 metų, sako jis. „Tačiau neatmesčiau metų ar dvejų. Ir vis tiek neatmesčiau 100 metų – tiesiog mano pasitikėjimą, kad taip nebuvo jau kurį laiką, sukrėtė suvokimas, kad biologinis intelektas ir skaitmeninis intelektas labai skiriasi, o skaitmeninis intelektas tikriausiai yra daug geresnis. “
Vis dar yra vilties, kad AI potencialas gali pasirodyti pervertintas. „Šiuo metu turiu didžiulį netikrumą. Gali būti, kad dideli kalbų modeliai, technologija, kuria grindžiamos tokios sistemos kaip „ChatGPT“, „sunaudoję visus žiniatinklyje esančius dokumentus, negalės pasiekti daug daugiau, nebent galės pasiekti ir visus mūsų privačius duomenis. Nenoriu atmesti tokių dalykų – manau, kad žmonės, kurie pasitiki šia situacija, yra pamišę. Nepaisant to, pasak jo, teisingas būdas galvoti apie nelaimės tikimybę yra arčiau paprasto monetos metimo, nei mums patiktų.
Šis vystymasis, jo teigimu, yra neišvengiama kapitalizmo technologijų pasekmė. „Ne tai, kad „Google“ buvo bloga. Tiesą sakant, „Google“ yra šio tyrimo lyderė, o pagrindiniai techniniai laimėjimai, kuriais grindžiama ši banga, atsirado „Google“, ir ji nusprendė jų neskelbti tiesiogiai visuomenei. „Google“ nerimavo dėl visų dalykų, dėl kurių nerimaujame, ji turi gerą reputaciją ir nenori jos sujaukti. Ir manau, kad tai buvo teisingas, atsakingas sprendimas. Tačiau problema yra ta, kad kapitalistinėje sistemoje, jei jūsų konkurentas tai daro, jūs negalite nieko padaryti, tik daryti tą patį.
Pasak jo, jis nusprendė mesti darbą „Google“ dėl trijų priežasčių. Vienas iš jų buvo tiesiog jo amžius: būdamas 75 metų, jis „ne taip gerai išmano techninius dalykus, kaip aš, ir labai erzina, kad esi ne toks geras kaip anksčiau. Taigi nusprendžiau, kad laikas pasitraukti iš tikro darbo. Tačiau užuot likęs gražiai apmokamas iškilmingas pareigas, jis manė, kad svarbu visiškai nutraukti ryšius, nes „jei esate įdarbintas įmonėje, neišvengiama savicenzūra. Jei dirbu „Google“, turiu nuolat galvoti: „Kaip tai paveiks „Google“ verslą? Kita priežastis yra ta, kad iš tikrųjų norėčiau pasakyti daug gerų dalykų apie „Google“, ir jie yra patikimesni, jei aš nedirbu „Google“.
Nuo tada, kai Hintonas paskelbė apie savo baimes, jis buvo kritikuojamas dėl to, kad nesekė kai kuriems savo kolegoms, kurie anksčiau pasitraukė. 2020 m. bendrovė atleido Timnitą Gebru, techninį „Google“ etinio AI komandos vadovo pareigas, po to, kai ginčas dėl tyrimo dokumento peraugo į platų konfliktą dėl įmonės įvairovės ir įtraukimo politikos. Laiškas, kurį pasirašė daugiau nei 1 200 „Google“ darbuotojų, priešinosi atleidimui, sakydamas, kad jis „skelbia pavojų žmonėms, dirbantiems etikos ir teisingo dirbtinio intelekto labui visoje Google“.
Tačiau dirbtinio intelekto frakcijoje yra susiskaldymas dėl to, kuri rizika yra aktualesnė. „Esame didelio netikrumo laikais, – sako Hintonas, – ir gali būti, kad būtų geriausia iš viso nekalbėti apie egzistencinę riziką, kad nenukreiptume dėmesio nuo kitų dalykų. [such as issues of AI ethics and justice]. Bet kas tada, jei dėl to, kad mes apie tai nekalbėjome, taip atsitiks? Jis sako, kad tiesiog sutelkus dėmesį į trumpalaikį dirbtinio intelekto naudojimą, siekiant išspręsti šiandienines technologijas esančias etikos ir teisingumo problemas, nebūtinai pagerins žmonijos išgyvenimo galimybes.
Ne todėl, kad jis žino, kas bus. „Aš nesu politikas. Aš tik tas žmogus, kuris staiga suprato, kad yra pavojus, kad atsitiks kažkas labai blogo. Noriu, kad visi geriausi apie AI išmanantys protai – ne tik filosofai, politikai ir politikos žinovai, bet ir žmonės, kurie iš tikrųjų supranta, kas vyksta, – rimtai pagalvotų apie šias problemas. Ir daugelis jų yra, bet manau, kad tai yra kažkas, į ką turime sutelkti dėmesį.
Nuo tada, kai pirmą kartą prabilo pirmadienį, jis atmetė pasaulio žiniasklaidos prašymus kas dvi minutes (jis sutiko susitikti su „The Guardian“, sakė jis, nes buvo skaitytojas pastaruosius 60 metų, jis perėjo iš „Daily Worker“ septintajame dešimtmetyje). „Šiuo metu turiu tris žmones, kurie nori su manimi pasikalbėti – Bernie Sandersą, Chucką Schumerį ir Eloną Muską. O ir Baltieji rūmai. Visus juos atidedu, kol turėsiu šiek tiek daugiau laiko. Maniau, kad kai išeisiu į pensiją, turėsiu daug laiko sau.
Viso mūsų pokalbio metu jo švelnus linksmas balso tonas šiek tiek prieštarauja jo skleidžiamai pražūties ir sunaikinimo žiniai. Klausiu jo, ar jis turi pagrindo tikėtis. „Gana dažnai atrodo, kad žmonės išeina iš situacijų, kurios atrodė beviltiškos, ir yra gerai. Kaip ir branduoliniai ginklai: šaltasis karas su šiais galingais ginklais atrodė labai bloga situacija. Kitas pavyzdys būtų „2000 metų“ problema. Tai nebuvo panašu į šią egzistencinę riziką, tačiau tai, kad žmonės ją pamatė iš anksto ir sukėlė didelį triukšmą, reiškė, kad žmonės per daug reagavo, o tai buvo daug geriau nei nepakankamai reaguoti.
„Priežastis, kodėl tai niekada nebuvo problema, yra ta, kad žmonės iš tikrųjų sutvarkė tai prieš tai įvykstant.
