aš1966 m. MIT profesorius Josephas Weizenbaumas sukūrė pirmąjį pokalbių robotą. Jis atidavė jį psichoterapeuto vaidmeniui. Vartotojas įvestų pranešimą elektrine rašomąja mašinėle, prijungta prie pagrindinio kompiuterio. Po akimirkos „psichoterapeutas“ atsakydavo.
Vartotojas: Visi vyrai yra panašūs.
Chatbot: KOKIA BŪDA
Naudotojas: jie visada mus erzina dėl kažko ar kito.
„Chatbot“: AR GALITE SUGALVOTI KONKRETŲ PAVYZDĮ
Vartotojas: Na, mano vaikinas privertė mane čia ateiti.
„Chatbot“: JŪSŲ VAIKINAS PRIVERĖ TAVE ATVYTI ČIA
Vartotojas: Jis sako, kad didžiąją laiko dalį sergu depresija.
„Chatbot“: ATGALAUJAME, KAD GALITE, JŪS SERGATE depresiją
Weizenbaum paskelbė šį pavyzdį žurnalo straipsnyje, kuriame paaiškino, kaip veikia pokalbių robotas. Programinė įranga buvo gana paprasta. Jis peržiūrėjo vartotojo įvestį ir pritaikė taisyklių rinkinį, kad sugeneruotų patikimą atsakymą. Programą jis pavadino Eliza, vardu Eliza Doolittle iš Pygmalion. Gėlių mergaitė George’o Bernardo Shaw pjesėje naudoja kalbą, kad sukurtų iliuziją: ji pakelia savo kalbą iki tokio lygio, kad gali tapti kunigaikštienė. Panašiai Eliza kalbėdavo taip, kad sukurtų iliuziją, jog ji suprato žmogų, sėdintį prie rašomosios mašinėlės.
„Kai kuriuos dalykus buvo labai sunku įtikinti, kad Eliza (su dabartiniu scenarijumi) nėra žmogus“, – rašė Weizenbaumas. Tolesniame straipsnyje, kuris pasirodė kitais metais, jis buvo konkretesnis: vieną dieną, jo teigimu, jo sekretorė paprašė šiek tiek laiko su Eliza. Po kelių akimirkų ji paprašė Weizenbaumo išeiti iš kambario. „Manau, kad šis anekdotas liudija, kad programa išlaiko supratimo iliuziją“, – pažymėjo jis.
Eliza nėra visiškai neaiški. Tuo metu tai sukėlė ažiotažą – laikraštis „Boston Globe“ atsiuntė žurnalistą atsisėsti prie rašomosios mašinėlės ir paleido pokalbio ištrauką – ir tebėra vienas žinomiausių įvykių kompiuterijos istorijoje. Visai neseniai „ChatGPT“ išleidimas vėl susidomėjo juo. Pastaraisiais metais Eliza buvo kreiptasi į „Guardian“, „New York Times“, „Atlantic“ ir kitur. Priežastis, kodėl žmonės vis dar galvoja apie beveik 60 metų senumo programinę įrangą, neturi nieko bendra su jos techniniais aspektais, kurie net pagal to meto standartus nebuvo labai sudėtingi. Greičiau Eliza nušvietė žmogaus proto mechanizmą, kuris stipriai veikia mūsų santykį su kompiuteriais.
Karjeros pradžioje Sigmundas Freudas pastebėjo, kad pacientai jį nuolat įsimyli. Jis padarė išvadą, kad ne todėl, kad jis buvo išskirtinai žavus ar išvaizdus. Vietoj to vyko kažkas įdomesnio: perkėlimas. Trumpai tariant, perkėlimas reiškia mūsų polinkį projektuoti jausmus apie ką nors iš mūsų praeities į ką nors mūsų dabartyje. Nors tai sustiprina buvimas psichoanalizėje, tai yra visų santykių bruožas. Kai bendraujame su kitais žmonėmis, į susitikimą visada įtraukiame grupę vaiduoklių. Mūsų ankstesnio gyvenimo, o visų pirma vaikystės, liekanos yra ekranas, per kurį matome vienas kitą.
Ši koncepcija padeda suprasti žmonių reakciją į Elizą. Weizenbaumas susidūrė su kompiuterizuota perdavimo versija, kai žmonės programinei įrangai priskyrė supratimą, empatiją ir kitas žmogiškąsias savybes. Nors jis pats niekada nevartojo šio termino, jis turėjo ilgą psichoanalizės istoriją, kuri aiškiai parodė, kaip jis interpretuoja tai, kas bus vadinama „Elizos efektu“.
Kadangi kompiuteriai tapo vis galingesni, Eliza efektas tik stiprėjo. Paimkite taip, kaip daugelis žmonių siejasi su „ChatGPT“. Pokalbių roboto viduje yra „didelės kalbos modelis“, matematinė sistema, išmokyta numatyti kitą simbolių, žodžių ar sakinių seką. ChatGPT išskiria ne tik didelio kalbos modelio, kuriuo jis grindžiamas, sudėtingumas, bet ir baisus pokalbio balsas. Kaip pasakė „Meta“ duomenų mokslininkas Colinas Fraseris, programa „sukurta taip, kad jus apgautų, kad manytumėte, kad kalbate su žmogumi, kurio iš tikrųjų nėra“.
Tačiau Elizos efektas toli gražu nėra vienintelė priežastis grįžti prie Weizenbaumo. Jo patirtis naudojant programinę įrangą buvo nepaprastos kelionės pradžia. Kaip MIT profesorius, turintis prestižinę karjerą, jis, jo žodžiais, buvo „vyriausiasis kunigas, jei ne vyskupas, šiuolaikinio mokslo katedroje“. Tačiau aštuntajame dešimtmetyje Josephas Weizenbaumas tapo eretiku, spausdindamas straipsnius ir knygas, kuriose buvo smerkiama jo kolegų pasaulėžiūra ir įspėjama apie jų darbo keliamus pavojus. Jis tikėjo, kad dirbtinis intelektas yra „mūsų pasaulio beprotybės indeksas“.
Šiandien požiūris, kad dirbtinis intelektas kelia tam tikrą grėsmę, nebėra mažumos pozicija tarp dirbančiųjų. Yra įvairių nuomonių, dėl kokių pavojų turėtume nerimauti labiausiai, tačiau daugelis žinomų tyrinėtojų, nuo Timnito Gebru iki Geoffrey Hintono – abu buvę „Google“ kompiuterių mokslininkai – laikosi pagrindinio požiūrio, kad ši technologija gali būti toksiška. Weizenbaumo pesimizmas padarė jį vieniša figūra tarp kompiuterių mokslininkų per pastaruosius tris jo gyvenimo dešimtmečius; jis būtų mažiau vienišas 2023 m.
Weizenbaumo mąstyme yra tiek daug, kas dabar labai aktualu. Bene pagrindinė jo erezija buvo įsitikinimas, kad kompiuterių revoliucija, kurią Weizenbaumas ne tik išgyveno, bet ir kurioje dalyvavo, iš tikrųjų buvo kontrrevoliucija. Tai sustiprino represines jėgos struktūras, o ne jas apvertė. Tai labiau suvaržė, o ne didino mūsų žmogiškumą, skatindama žmones galvoti apie save ne daugiau nei mašinomis. Perleisdami tiek daug sprendimų kompiuteriams, jis manė, sukūrėme nelygesnį ir mažiau racionalų pasaulį, kuriame žmogiškojo proto turtingumas buvo suplotas į beprasmę kodo rutiną.
Weizenbaumas mėgo sakyti, kad kiekvienas žmogus yra tam tikros istorijos produktas. Jo idėjos turi savo ypatingos istorijos pėdsaką, kurį pirmiausia suformavo XX amžiaus žiaurumai ir jo asmeninių demonų reikalavimai. Kompiuteriai jam atėjo savaime. Sunkioji dalis, anot jo, buvo gyvenimas.
WWeizenbaum daug laiko galvojo apie tai, ką reiškia būti žmogumi – ir kuo žmogus skiriasi nuo kompiuterio. Taigi dera, kad jo paties žmogiškumas buvo diskutuojamas nuo pat pradžių. Jo mamai buvo sunkus gimdymas ir dėl to ji buvo šiek tiek nusivylusi. „Kai jai pagaliau buvo parodyta, ji manė, kad esu kruvinas netvarka ir beveik neatrodžiau kaip žmogus“, – vėliau prisiminė Weizenbaumas. „Ji negalėjo patikėti, kad tai turėjo būti jos vaikas.
Jis gimė 1923 m., jauniausias asimiliuotos, aukštesnės vidurinės klasės žydų šeimos sūnus Berlyne. Jo tėvas Jechielis, būdamas 12 metų emigravęs į Vokietiją iš Galicijos, kuri apėmė dabartinę pietryčių Lenkiją ir Vakarų Ukrainą, buvo patyręs kailininkas, įsitvirtinęs visuomenėje, jaukus butas ir daug jaunesnė žmona iš vienos (Weizenbaum motina). Nuo pat pradžių Jechielis su savo sūnumi elgėsi su panieka, kuri Weizenbaumą persekios visą likusį gyvenimą. „Mano tėvas buvo visiškai įsitikinęs, kad esu bevertis debilas, visiškas kvailys, kad niekada niekuo netapsiu“, – vėliau Weizenbaumas pasakojo dokumentinių filmų kūrėjams Peteriui Haasui ir Silviai Holzinger.
Kai jis buvo pakankamai senas, kad galėtų prisiminti, naciai buvo visur. Jo šeima gyveno šalia baro, kuriame lankėsi Hitlerio sukarintos grupuotės SA, ir kartais jis matydavo, kaip žmonės tempiami į vidų, kad būtų sumušti užpakaliniame kambaryje. Kartą jam būnant su aukle ginkluotų komunistų ir nacių kolonos išsirikiavo ir pradėjo šaudyti vieni į kitus. Auklė jį pastūmė po stovinčiu automobiliu, kol kulkos nustojo skristi.
Netrukus po to, kai Hitleris tapo kancleriu 1933 m., Vyriausybė priėmė įstatymą, kuris griežtai apribojo žydų skaičių valstybinėse mokyklose. Weizenbaumas turėjo pereiti į žydų berniukų mokyklą. Čia jis pirmą kartą susidūrė su Ostjudenas: žydai iš Rytų Europos, neturtingi, apsirengę skudurais, kalbantys jidiš kalba. Weizenbaumui jie taip pat galėjo būti atkeliavę iš Marso. Nepaisant to, laikas, praleistas su jais, suteikė jam tai, ką jis vėliau apibūdino kaip „naują draugystės jausmą“, taip pat „jautrumą priespaudai“. Jis ypač stipriai prisirišo prie vieno iš savo klasės draugų. „Jei likimas būtų buvęs kitoks, būčiau užsimezgusi homoseksuali meilė šiam berniukui“, – vėliau sakė jis. Berniukas „nuvedė mane į savo pasaulį“, žydų geto pasaulį aplink Berlyno Grenadierstrasse. „Jie nieko neturėjo, nieko neturėjo, bet kažkaip vienas kitą palaikė“, – prisiminė jis.
Vieną dieną jis parsivedė berniuką į savo šeimos butą. Jo tėvas, kažkada buvęs neturtingas žydų berniukas iš Rytų Europos, buvo pasibjaurėjęs ir įsiutęs. Jechielis labai didžiavosi, prisiminė Weizenbaumas – ir turėjo tam pagrindo, atsižvelgiant į tiesioginius ir perkeltinius atstumus, kuriuos jis nukeliavo nuo štetlo. Dabar jo sūnus parsivežė štetlą atgal į savo namus.
Svetimas nuo tėvų, turtingesnis už bendramokslius ir žydas nacistinėje Vokietijoje: Weizenbaumas niekur nesijautė patogiai. Jo instinktas, anot jo, visada buvo „įkąsti į ranką, kuri mane maitino“, provokuoti tėvišką figūrą, skaudėti nugarą. Ir šis instinktas tikriausiai kilo iš pamokos, kurią jis išmoko iš tėvo priešiškumo jam ir fanatizmo mylimo berniuko atžvilgiu: tas pavojus gali slypėti namuose, žmonėse, gentyje.
aš1936 m. šeima staiga išvyko iš Vokietijos, galbūt todėl, kad Jechiel miegojo su SA nario mergina. Weizenbaumo teta turėjo kepyklą Detroite, todėl jie ten ir nuėjo. Būdamas 13 metų jis atsidūrė 4000 mylių atstumu nuo visko, ką žinojo. „Buvau labai, labai vienišas“, – prisiminė jis. Mokykla tapo prieglobsčiu nuo realybės – konkrečiai algebros, kuriai nereikėjo anglų kalbos, kurios iš pradžių nemokėjo. „Iš visų dalykų, kuriuos galima studijuoti, – sakė jis vėliau, – matematika atrodė pati lengviausia. Matematika yra žaidimas. Tai visiškai abstraktu“.
Savo mokyklos metalo apdirbimo klasėje jis išmoko valdyti tekinimo stakles. Patirtis išvedė jį iš smegenų ir pateko į kūną. Maždaug po 70 metų jis atsigręžė į suvokimą, kurį paskatino šis naujas įgūdis: kad intelektas „yra ne tik galvoje, bet ir rankoje, rieše, rankoje“. Taigi vaikystėje galiojo dvi sąvokos, kurios vėliau lems jo, kaip DI praktiko ir kritiko, karjerą: viena vertus, abstrakcijos malonumų vertinimas; kita vertus, įtarimas dėl tų malonumų kaip pabėgimo ir su tuo susijęs supratimas, kad žmogaus intelektas egzistuoja visame žmoguje, o ne kurioje nors jo dalyje.
1941 m. Weizenbaumas įstojo į vietinį valstybinį universitetą. Veino universitetas buvo darbininkų klasės vieta: pigu lankytis, pilna studentų, dirbančių visą darbo dieną. Berlyne pasėtos socialinės sąmonės sėklos pradėjo augti: Weizenbaumas įžvelgė paralelių tarp juodaodžių priespaudos Detroite ir žydų priespaudos Hitleriui. Tai taip pat buvo kaitrios klasių kovos mieste laikas – Jungtinių automobilių darbuotojų sąjunga laimėjo savo pirmąją sutartį su Ford tais pačiais metais, kai Weizenbaum įstojo į koledžą.
Augantys kairiųjų politiniai Weizenbaumo įsipareigojimai apsunkino jo meilę matematikai. „Norėjau ką nors padaryti pasaulio ar visuomenės labui“, – prisiminė jis. „Studijuoti paprastą matematiką, tarsi pasauliui sektųsi gerai ar net jo visai nebūtų – to nenorėjau“. Netrukus jis turėjo galimybę. 1941 m. JAV įstojo į Antrąjį pasaulinį karą; kitais metais buvo pašauktas Weizenbaumas. Kitus penkerius metus jis dirbo meteorologu armijos oro korpuse, dislokuotame skirtingose bazėse visoje JAV. Vėliau jis sakė, kad kariuomenė buvo „išsigelbėjimas“. Kaip smagu, tuo pačiu metu išsivaduoti iš savo šeimos ir kovoti su Hitleriu.
Būdamas atostogose, jis užmezgė romaną su Selma Goode, žydų pilietinių teisių aktyviste ir ankstyvąja Amerikos demokratinių socialistų nare. Neilgai trukus jie susituokė, susilaukė berniuko, o po karo Weizenbaumas grįžo į Detroitą. Ten jis atnaujino studijas Wayne, dabar finansuojamas federalinės vyriausybės pagal GI įstatymo projektą.
Tada, 1940-ųjų pabaigoje, pora išsiskyrė, o Goode perėmė jų sūnaus globą. „Man tai buvo neįtikėtinai tragiška“, – vėliau sakė Weizenbaumas. „Man prireikė daug laiko, kad tai įveiktu.” Jo psichinė būsena buvo amžinai nestabili: dukra Pm – tariama „Pim“ an d pavadintas Niujorko kairiojo dienraščio PM vardu – pasakojo, kad būdamas universitete buvo paguldytas į ligoninę dėl anoreksijos. Viską, ką darė, jautėsi padaręs blogai. Kariuomenėje buvo paaukštintas iki seržanto ir garbingai atleistas; nepaisant to, jis išvyko įsitikinęs, kad kažkaip sutrukdė karo pastangoms. Vėliau savo nepasitikėjimą savimi jis aiškino tuo, kad tėvas nuolat sakydavo, kad yra nieko vertas. „Jei kažkas panašaus tau kartojasi vaikystėje, tu pats tuo patiki“, – svarstė jis.
Po asmeninės krizės, kurią sukėlė Selma išvykimas, įvyko du pirmieji susitikimai. Jis pasinėrė į psichoanalizę ir į kompiuteriją.
Eniac, vienas pirmųjų pasaulyje elektroninių skaitmeninių kompiuterių, apie 1945 m. Nuotrauka: Corbis / GettyTais laikais kompiuteris, kaip ir psichika, buvo interjeras. „Jūs nepriėjote prie kompiuterio“, – sakė Weizenbaumas 2010 m. dokumentiniame filme. – Vietoj to, tu įėjai į jį. Karas suteikė postūmį sukurti milžiniškas mašinas, kurios galėtų mechanizuoti sunkų matematinių skaičiavimų darbą. Kompiuteriai padėjo nulaužti nacių šifravimą ir rasti geriausius artilerijos taikymo kampus. Pokario karinio-pramoninio komplekso konsolidacija šaltojo karo pradžioje pritraukė dideles JAV vyriausybės pinigų sumas technologijų kūrimui. 1940-ųjų pabaigoje buvo sukurti šiuolaikinio kompiuterio pagrindai.
Tačiau vis tiek nebuvo lengva jį gauti. Taigi vienas iš Weizenbaumo profesorių nusprendė sukurti savo. Jis subūrė nedidelę studentų komandą ir pakvietė Weizenbaumą prisijungti. Konstruodamas kompiuterį Weizenbaumas augo laimingas ir kryptingas. „Buvau pilnas gyvybės ir entuziastingas savo darbu“, – prisiminė jis. Čia buvo abstrakcijos jėgos, su kuriomis jis pirmą kartą susidūrė vidurinės mokyklos algebroje. Kaip algebra, kompiuteris sumodeliavo ir taip supaprastino tikrovę – tačiau galėjo tai padaryti taip tiksliai, kad būtų galima lengvai pamiršti, jog tai tik reprezentacija. Programinė įranga taip pat suteikė meistriškumo jausmą. „Programuotojas turi savotišką galią scenoje, kuri yra nepalyginamai didesnė nei teatro režisierius“, – vėliau sakė jis 2007 m. dokumentiniame filme „Sukilėliai darbe“. „Didesnis nei Šekspyro“.
Maždaug tuo metu Weizenbaumas susitiko su mokytoju Ruth Manes. 1952 metais jie susituokė ir persikėlė į nedidelį butą netoli universiteto. Ji „negalėjo būti toliau nuo jo kultūriškai“, – sakė man jų dukra Miriam. Ji nebuvo žydų socialistė, kaip jo pirmoji žmona – jos šeima buvo kilusi iš gilių pietų. Miriam sakė, kad jų santuoka reiškė „normalumo ir nusistovėjusio gyvenimo siekimą“. Jo politinės aistros atšalo.
Iki septintojo dešimtmečio pradžios Weizenbaumas dirbo „General Electric“ programuotoju Silicio slėnyje. Jiedu su Rūta augino tris dukras ir netrukus susilauks ketvirtos. GE jis sukūrė kompiuterį kariniam jūrų laivynui, kuris paleido raketas, ir kompiuterį Bank of America, kuris apdorojo čekius. „Tuo metu man nė į galvą neatėjo mintis, kad bendradarbiauju technologinėje įmonėje, kuri turėjo tam tikrų socialinių šalutinių poveikių, dėl kurių galiu gailėtis“, – vėliau sakė jis.
aš1963 m. paskambino prestižinis Masačusetso technologijos institutas. Ar jis norėtų prisijungti prie fakulteto kaip kviestinis docentas? „Tai buvo tarsi pasiūlymas jaunam berniukui dirbti žaislų gamykloje, gaminančioje žaislinius traukinius“, – prisiminė Weizenbaumas.
Kompiuteris, kurį Weizenbaumas padėjo sukurti Detroite, buvo ogra, užėmusi visą paskaitų salę ir iškvėpianti pakankamai šilumos, kad žiemą bibliotekoje būtų šilta. Sąveika su juo apėmė labai struktūrizuotų ritualų rinkinį: ranka surašėte programą, užkodavote ją kaip skylių šabloną perfokortose, o tada perbraukėte korteles per kompiuterį. Tai buvo standartinė veikimo procedūra technologijos pradžioje, todėl programavimas buvo sudėtingas ir sudėtingas.
MIT kompiuterių mokslininkai ieškojo alternatyvos. 1963 m., gavęs 2,2 mln. USD dotaciją iš Pentagono, universitetas pradėjo projektą MAC – akronimą, turintį daug reikšmių, įskaitant „mašininį pažinimą“. Buvo planuota sukurti labiau prieinamą ir individualius poreikius atitinkančią kompiuterinę sistemą.
Tuo tikslu kompiuterių mokslininkai ištobulino technologiją, vadinamą „laiko pasidalijimu“, kuri įgalino tokį skaičiavimą, kokį šiandien laikome savaime suprantamu dalyku. Užuot susikrovę krūvą perfokortelių ir grįžę kitą dieną, kad pamatytumėte rezultatą, galite įvesti komandą ir iškart gauti atsakymą. Be to, keli žmonės vienu pagrindiniu kompiuteriu galėjo naudotis vienu metu iš atskirų terminalų, todėl mašinos atrodė asmeniškesnės.
Su laiko pasidalijimu atsirado naujo tipo programinė įranga. MIT sistemoje veikiančios programos buvo skirtos pranešimų siuntimui iš vieno vartotojo kitam (el. pašto pirmtakas), teksto redagavimui (ankstyvas teksto apdorojimas) ir paieškai duomenų bazėje su 15 000 žurnalų straipsnių (primityvus JSTOR). Laiko pasidalijimas taip pat pakeitė žmonių elgesį rašė programas. Ši technologija leido „bendrauti su kompiuteriu pokalbio metu“, vėliau prisiminė Weizenbaumas. Programinės įrangos kūrimas gali išsivystyti kaip dialogas tarp programuotojo ir mašinos: pabandai šiek tiek kodo, pažiūri, kas grįžta, tada bandai dar šiek tiek.
Weizenbaumas norėjo eiti toliau. Ką daryti, jei galėtumėte kalbėtis su kompiuteriu vadinamąja natūralia kalba, pavyzdžiui, anglų kalba? Šis klausimas paskatino sukurti Elizą, kurios sėkmė išgarsėjo universitete ir padėjo jam užsitikrinti kadenciją 1967 m. Tai taip pat atvedė Weizenbaumą į MIT dirbtinio intelekto projekto, kurį 1958 m. sukūrė Johnas McCarthy ir Marvinas Minsky, orbitą.
McCarthy sugalvojo frazę „dirbtinis intelektas“ prieš kelerius metus, kai jam reikėjo pavadinimo akademiniam seminarui. Frazė buvo pakankamai neutrali, kad būtų išvengta sutapimo su esamomis tyrimų sritimis, tokiomis kaip kibernetika, pakankamai amorfiška, kad pritrauktų tarpdisciplininius indėlius, ir pakankamai įžūli, kad perteiktų savo radikalumą (arba, jei norite, aroganciją) apie tai, ką gali mašinos. Šis radikalumas buvo patvirtintas pirminiame seminaro pasiūlyme. „Kiekvienas mokymosi aspektas ar bet kuri kita intelekto ypatybė iš principo gali būti taip tiksliai apibūdinta, kad gali būti sukurta mašina, kuri ją imituotų“, – tvirtino jis.
Marvinas Minskis devintojo dešimtmečio pradžioje. Nuotrauka: RGB Ventures / SuperStock / AlamyMinskis buvo bukas ir provokuojantis; Vienas iš jo mėgstamiausių gambitų buvo paskelbti, kad žmogaus smegenys yra ne kas kita, kaip „mėsos mašina“, kurios funkcijas galėtų atkurti ar net pranokti žmogaus sukurtos mašinos. Weizenbaumas jo nemėgo nuo pat pradžių. Weizenbaumą vargino ne jo tikėjimas technologijų galimybėmis; septintojo dešimtmečio vidurio jis pats matė, kaip kompiuteriai nepaprastai progresuoja. Greičiau Weizenbaumo bėdos su Minskiu ir visa AI bendruomene kilo dėl esminių nesutarimų dėl žmogaus būklės pobūdžio.
Weizenbaumas 1967 m., tęsdamas savo pirmąjį straipsnį apie Elizą, teigė, kad joks kompiuteris niekada negali visiškai suprasti žmogaus. Tada jis žengė žingsnį toliau: ne zmogus galėtų visiškai suprasti kitą žmogų. Kiekvienas yra suformuotas iš unikalios gyvenimo patirties, kurią nešiojamės su savimi, rinkinys, teigė jis, ir šis paveldėjimas apriboja mūsų gebėjimą suprasti vienas kitą. Kalbą galime naudoti bendraudami, tačiau tie patys žodžiai skirtingiems žmonėms sukelia skirtingas asociacijas – o kai kurių dalykų išvis neįmanoma perteikti. „Kiekvienas iš mūsų turi didžiausią privatumą, kuris visiškai užkerta kelią bet kokiai mūsų idėjai perduoti visatai už mūsų ribų“, – rašė Weizenbaumas.
Tai buvo visiškai kitoks požiūris nei Minsky ar McCarthy. Tai aiškiai turėjo psichoanalizės įtaką. Čia protas buvo ne kaip mėsos mašina, o kaip psichika – kažkas gilaus ir keistumo. Jei dažnai esame neskaidrūs vieni kitiems ir net patys sau, kokia viltis yra, kad kompiuteris mus pažins?
Tačiau, kaip iliustravo Eliza, buvo stebėtinai lengva priversti žmones pajusti, kad tai kompiuteris padarė pažinti juos – ir matyti tą kompiuterį kaip žmogų. Netgi savo originaliame 1966 m. straipsnyje Weizenbaumas nerimavo dėl šio reiškinio pasekmių, perspėdamas, kad dėl to žmonės gali manyti, kad kompiuteriai turi „teismo“ galių, kurie „nusipelno patikimumo“. „Ten tyko tam tikras pavojus“, – rašė jis.
Septintojo dešimtmečio viduryje jis buvo pasirengęs eiti. Jis atkreipė dėmesį į pavojų, bet apie tai negalvojo. Galų gale, jis buvo prislėgtas vaikas, pabėgęs nuo Holokausto, kuris visada jautėsi apsimetėliu, tačiau aukštoje technologijų šventykloje rado prestižą ir savivertę. Gali būti sunku pripažinti, kad kažkas, kas tau sekasi, kas tau patinka, kenkia pasauliui – ir dar sunkiau vadovautis šiomis žiniomis. Weizenbaumui prireiktų karo, kad žinotų, ką daryti toliau.
O1969 m. kovo 4 d. MIT studentai surengė vienos dienos „tyrimų sustabdymą“, protestuodami prieš Vietnamo karą ir savo universiteto vaidmenį jame. Žmonės ištvėrė sniegą ir šaltį ir susirinko į Kresge auditoriją, esančią miestelio širdyje, kur vyko pokalbiai ir diskusijos, kurios prasidėjo vakar. Kalbėjo Noamas Chomsky, kaip ir antikarinis senatorius George’as McGovernas. Studentų aktyvumas MIT augo, tačiau tai buvo didžiausia iki šiol demonstracija ir ji buvo plačiai nušviesta nacionalinėje spaudoje. „1969 m. buvo toks jausmas, kad mokslininkai prisidėjo prie didelio blogio, o kovo 4-osios tikslas buvo kaip jį pakeisti“, – vėliau rašė vienas iš pagrindinių organizatorių.
Weizenbaumas palaikė akciją ir buvo stipriai paveiktas to meto politinio dinamiškumo. „Tik susijungus pilietinių teisių judėjimui, karui Vietname ir MIT vaidmeniui kuriant ginklus tapau kritiškas“, – vėliau interviu paaiškino jis. „Ir kai pradėjau galvoti taip, negalėjau sustoti. Paskutiniais savo gyvenimo metais jis apmąstydavo savo politizavimą septintajame dešimtmetyje kaip grįžimą į kairiųjų dienų Detroite socialinę sąmonę ir nacistinėje Vokietijoje patirtus išgyvenimus: „Likau ištikimas tam, kas buvau“, – sakė jis vokiečių rašytojai Gunnai Wendt.
Jis pradėjo galvoti apie vokiečių mokslininkus, kurie savo žinias perdavė nacių režimui. „Turėjau savęs paklausti: ar aš noriu atlikti tokį vaidmenį? jis prisiminė 1995. Jis turėjo du pasirinkimus. Vienas iš jų buvo „nustumti visą tokį mąstymą“, jį slopinti. Kitas buvo „pažvelgti į tai rimtai“.
Norint į tai pažvelgti rimtai, tektų ištirti glaudžius ryšius tarp jo srities ir karo mašinos, kuri tuomet mėtė napalmą ant vietnamiečių vaikų. Gynybos sekretorius Robertas McNamara kovojo su kompiuteriu kaip savo kryžiaus žygio dalį, siekdamas atnešti matematinį mąstymą į Pentagoną. Duomenys, gauti iš lauko ir išanalizuoti naudojant programinę įrangą, padėjo kariniams planuotojams nuspręsti, kur dėti kariuomenę ir kur mesti bombas.
Protestas prieš Vietnamo karą Masačusetso technologijos institute 1969 m. lapkritį. Nuotrauka: Boston Globe / Getty ImagesIki 1969 m. MIT iš Pentagono gaudavo daugiau pinigų nei bet kuris kitas šalies universitetas. Jos laboratorijos vykdė daugybę Vietnamui skirtų projektų, pavyzdžiui, sraigtasparnių stabilizavimo sistemą, kad kulkosvaidininkui būtų lengviau sunaikinti taikinius apačioje esančiose džiunglėse. Projektas MAC, kurį globojant Weizenbaumas sukūrė Elizą, nuo pat jo pradžios buvo finansuojamas Pentagono.
Kai Weizenbaumas kovojo su šiuo bendrininkavimu, jis pastebėjo, kad jo kolegoms dažniausiai nerūpėjo tikslai, kuriems gali būti skirti jų tyrimai. Jei mes to nepadarysime, jie jam pasakė, padarys kažkas kitas. Arba: mokslininkai nekuria politikos, palik tai politikams. Weizenbaumas vėl priminė nacistinės Vokietijos mokslininkus, kurie tvirtino, kad jų darbas neturi nieko bendra su politika.
Suvartotas atsakomybės jausmo, Weizenbaumas atsidėjo antikariniam judėjimui. „Jis taip radikalėjo, kad tuo metu iš tikrųjų nedarė daug kompiuterinių tyrimų“, – man pasakojo jo dukra Pm. Vietoj to jis prisijungė prie gatvės demonstracijų ir susitiko su prieškariniais studentais. Kur įmanoma, jis naudojo savo sta tus MIT, kad pakirstų universiteto pasipriešinimą studentų aktyvumui. 1970 m. studentams užėmus prezidento kabinetą, Weizenbaumas dirbo drausmės komitete. Pasak jo dukters Miriam, jis primygtinai reikalavo, kad būtų griežtai laikomasi tinkamo proceso, todėl procesas užtruko kuo ilgiau, kad studentai galėtų baigti mokslus.
Būtent šiuo laikotarpiu kai kurie neišspręsti klausimai apie Elizą ėmė jį labiau varginti. Kodėl žmonės taip entuziastingai ir taip klaidinančiai reagavo į pokalbių robotą, ypač tie ekspertai, kurie turėtų geriau žinoti? Kai kurie psichiatrai Elizą pavadino pirmuoju žingsniu automatizuotos psichoterapijos link; kai kurie kompiuterių mokslininkai tai šventė kaip kalbą suprantančios programinės įrangos rašymo problemos sprendimą. Weizenbaumas įsitikino, kad šie atsakymai buvo „gilesnių problemų simptomas“ – problemos, kurios tam tikru būdu buvo susijusios su karu Vietname. Ir jei jis nesugebėtų išsiaiškinti, kas tai yra, jis negalėtų tęsti profesinės veiklos.
aš1976 m. Weizenbaumas išleido savo didžiulį darbą: Kompiuterio galia ir žmogaus protas: nuo sprendimo iki skaičiavimo. „Knyga mane pribloškė, tarsi būčiau atsitrenkusi į jūrą“, – sakoma libertarų aktyvisto Karlo Hessas ištraukoje. Knyga tikrai pribloškianti. Tai chaotiška dažnai nuostabių minčių apie kompiuterius užtvara. Žvilgsnis į rodyklę atskleidžia Weizenbaumo pašnekovų spektrą: ne tik kolegos, kaip Minskis ir McCarthy, bet ir politikos filosofė Hannah Arendt, kritikos teoretikas Maxas Horkheimeris ir eksperimentinis dramaturgas Eugène’as Ionesco. Jis pradėjo dirbti su knyga po to, kai baigė stažuotę Stanfordo universitete Kalifornijoje, kur neturėjo jokių pareigų, turėjo didelį biurą ir daug įdomių diskusijų su literatūros kritikais, filosofais ir psichiatrais. Su Kompiuterių galia ir žmogiškuoju protu jis ne tiek atsisakė kompiuterių mokslo, kiek bandė jį sulaužyti ir leisti įsilieti alternatyvioms tradicijoms.
Knyga turi du pagrindinius argumentus. Pirma: yra skirtumas tarp žmogaus ir mašinos. Antra: yra tam tikrų užduočių, kurių kompiuteriai neturėtų būti priversti atlikti, nepriklausomai nuo to, ar kompiuteriai gali būti priversti jas atlikti. Knygos paantraštė – „Nuo sprendimo iki skaičiavimo“ – pateikia užuominą, kaip šie du teiginiai dera tarpusavyje.
Weizenbaumo nuomone, sprendimas apima pasirinkimus, pagrįstus vertybėmis. Šios vertybės įgyjamos per mūsų gyvenimo patirtį ir būtinai yra kokybinės: jų negalima užfiksuoti kodu. Skaičiavimas, priešingai, yra kiekybinis. Jis naudoja techninį skaičiavimą, kad priimtų sprendimą. Kompiuteriai gali tik skaičiuoti, o ne spręsti. Taip yra todėl, kad jie nėra žmonės, vadinasi, neturi žmonijos istorijos – negimė mamoms, neturėjo vaikystės, negyvena žmogaus kūnuose ir neturi žmogaus psichikos su žmogaus nesąmone – taigi neturi pagrindo formuoti vertybes.
Ir tai būtų gerai, jei kompiuterius atliktume tik užduotyse, kurioms reikia tik skaičiavimo. Tačiau didžiąja dalimi dėl sėkmingos ideologinės kampanijos, kurią vykdė tai, ką jis vadino „dirbtine inteligentija“, žmonės vis dažniau suvokė, kad žmonės ir kompiuteriai yra keičiami. Dėl to kompiuteriams buvo suteikta teisė spręsti klausimus, kuriuose jie neturėjo kompetencijos. (Būtų „siaubinga nešvankybė“, rašė Weizenbaumas, leisti kompiuteriui atlikti teisėjo funkcijas teisinėje aplinkoje arba psichiatro funkcijas klinikinėje aplinkoje.) Žmonių ir kompiuterių pakeitimas taip pat reiškė, kad žmonės pradėjo suvokti save. kaip kompiuterius ir taip elgtis kaip jie. Jie mechanizavo savo racionalius gebėjimus, atsisakydami sprendimo dėl skaičiavimų, atspindėdami mašiną, kurios atspindyje jie matė save.
Tai turėjo ypač destruktyvių politinių pasekmių. Įtakingi vyriausybės ir verslo veikėjai galėtų perduoti sprendimus kompiuterinėms sistemoms, kad galėtų tęsti tam tikrą praktiką ir kartu atleisti nuo atsakomybės. Kaip bombonešio pilotas „neatsako už sudegintus vaikus, nes niekada nemato jų kaimo“, rašė Weizenbaumas, programinė įranga suteikė generolams ir vadovams panašų psichologinį atstumą nuo jų sukeltų kančių.
Leisdami kompiuteriams priimti daugiau sprendimų, taip pat sumažėjo galimų sprendimų, kuriuos būtų galima priimti, spektras. Algoritminės logikos saistomai programinei įrangai trūko lankstumo ir žmogaus sprendimo laisvės. Tai padeda paaiškinti konservatyvų impulsą skaičiavimo centre. Istoriškai kompiuteris atkeliavo „pačiu laiku“, rašė Weizenbaumas. Bet kam laiku? „Laiku išgelbėti – ir išsaugoti beveik nepažeistas, iš tikrųjų – įtvirtinti ir stabilizuoti – socialines ir politines struktūras, kurios kitu atveju galėjo būti arba radikaliai atnaujintos, arba leisti svyruoti nuo joms neabejotinai keliamų reikalavimų“.
Kompiuteriai tapo plačiai paplitę septintajame dešimtmetyje, Amerikos institucijose įsišakniję, kaip tos institucijos susidūrė su rimtais iššūkiais įvairiuose frontuose. Pilietinių teisių judėjimas, antikarinis judėjimas ir Naujoji kairieji yra tik keli kanalai, kuriais epochos antistablišmentinė energija buvo išreikšta. Protestuotojai dažnai nusitaikė į informacines technologijas ne tik dėl jų vaidmens Vietnamo kare, bet ir dėl jų ryšio su įkalinančiomis kapitalizmo jėgomis. 1970 m. Viskonsino universiteto aktyvistai sunaikino pagrindinį kompiuterį per pastato okupaciją; tais pačiais metais Niujorko universitete protestuotojai vos nesusprogdino vieno napalmu.
Tai buvo atmosfera, kurioje atsirado kompiuterinė galia ir žmogiškasis protas. Skaičiavimas tapo intensyviai politizuotas. Vis dar liko atviras klausimas, kokiu keliu jis turėtų eiti. Vienoje pusėje stovėjo tie, kurie „mano, kad kompiuteriams turi būti taikomos ribos“, – knygos įžangoje rašo Weizenbaumas. Kita vertus, tie, kurie „tiki, kad kompiuteriai gali, turi ir padarys viską“ – dirbtinė inteligentija.
MArxas kažkada apibūdino savo darbą „Kapita“ kaip „baisiausią raketą, kuri iki šiol buvo svaidyta į buržuazijos galvas“. Atrodė, kad Kompiuterinė galia ir žmogiškasis protas panašia jėga smogė dirbtinei inteligentijai. McCarthy, originalus dirbtinio intelekto guru, pareiškė: „Moralistinis ir nenuoseklus“, „naujojo kairiojo šūkio“ kūrinys, rašė jis apžvalgoje. Benjaminas Kuipersas iš MIT AI laboratorijos – Minskio doktorantas – skundėsi Weizenbaumo „griežtais ir kartais šiurkščiais kaltinimais dirbtinio intelekto tyrimų bendruomenei“. Weizenbaumas metėsi į mūšį: jis parašė konkretų atsakymą į McCarthy apžvalgą, dėl kurio atsakė Jeilio AI mokslininkas Roger C Schank, į kurį taip pat atsakė Weizenbaumas. Jis aiškiai mėgavosi kova.
1977 m. pavasarį ginčas persipynė į pirmąjį „New York Times“ puslapį. „Ar mašinos gali mąstyti? Ar jie turėtų? Kompiuterių pasaulyje vyksta esminiai ginčai dėl tų klausimų“, – rašė žurnalistas Lee Dembartas. Weizenbaumas davė interviu iš savo MIT biuro: „Aš paskelbiau erezija ir esu eretikas“.
„Computer Power and Human Reason“ sukėlė tokį ažiotažą, nes jo autorius buvo kilęs iš kompiuterių mokslo pasaulio. Tačiau kitas veiksnys buvo apgulta AI būsena. Iki aštuntojo dešimtmečio vidurio dėl biudžeto ribojimo ir didėjančio nusivylimo vyriausybės sluoksniuose dėl to, kad ši sritis nepateisino jos ažiotažo, atsirado pirmoji „AI žiema“. Tyrėjai dabar stengėsi gauti finansavimą. Padidėjusią jų reakcijos į Weizenbaumą temperatūrą greičiausiai bent iš dalies lėmė suvokimas, kad jis spardė juos, kai jie buvo nukritę.
AI nebuvo vienintelis Šiais metais skaičiavimo sritis yra kritiškai iš naujo įvertinta. Kongresas neseniai svarstė būdus, kaip reguliuoti vyriausybių ir įmonių „elektroninį duomenų apdorojimą“, kad būtų apsaugotas žmonių privatumas ir sumažinta galima kompiuterizuoto sprendimų priėmimo žala. (Sušvelnintas Privatumo įstatymas buvo priimtas 1974 m.) Tarp radikalų, atakuojančių kompiuterių centrus universiteto miestelyje, ir Kapitolijaus kalno, atidžiai žiūrinčių į duomenų reguliavimą, atėjo pirmasis „techlash“. Tai buvo geras laikas Weizenbaumui.
Weizenbaum Vokietijoje 2005 m. Nuotrauka: DPA archyvas / AlamyKompiuterio galia ir žmogaus protas suteikė jam nacionalinę reputaciją. Jis apsidžiaugė. „Pripažinimas jam buvo labai svarbus“, – sakė man jo dukra Miriam. Kaip „MIT laboratorijos namų pesimistas“ („Boston Globe“), jis tapo populiariu žurnalistų, rašančių apie AI ir kompiuterius, šaltiniu, kuriuo visada buvo galima pasikliauti įsimintina citata.
Tačiau nuo vaikystės jį kamavusios abejonės ir nerimas niekada neapleido. „Prisimenu, kaip jis sakė, kad jaučiasi kaip apgavikas“, – pasakojo man Miriam. „Jis nemanė, kad yra toks protingas, kaip žmonės manė. Jis niekada nesijautė esąs pakankamai geras“. Kai jaudulys apie knygą atslūgo, šie jausmai augo. Jo dukra Pm man pasakė, kad Weizenbaum bandė nusižudyti devintojo dešimtmečio pradžioje. Vienu metu jis buvo paguldytas į ligoninę; psichiatras jam diagnozavo narcizinį asmenybės sutrikimą. Staigūs svyravimai tarp grandioziškumo ir nusivylimo pakenkė jo artimiesiems. „Jis buvo labai sužalotas žmogus ir jam buvo tik tiek daug meilės ir šeimos“, – sakė Pm.
1988 m. jis išėjo į pensiją iš MIT. „Manau, kad jis jautėsi gana susvetimėjęs“, – sakė man Miriam. Dešimtojo dešimtmečio pradžioje jį paliko antroji žmona Rūta; 1996 m. jis grįžo į Berlyną – miestą, iš kurio pabėgo prieš 60 metų. „Kai jis grįžo į Vokietiją, jis atrodė daug labiau patenkintas ir labiau įsitraukęs į gyvenimą“, – sakė Pm. Ten jam buvo lengviau gyventi. Kai jo šlovė išblėso JAV, ji išaugo Vokietijoje. Jis tapo populiariu pranešėju, užpildė paskaitų sales ir davė interviu vokiečių kalba.
Vėlesnis Weizenbaumas vis labiau pesimistiškai žiūrėjo į ateitį, daug labiau nei aštuntajame dešimtmetyje. Klimato kaita jį gąsdino. Vis dėlto jis tikėjosi radikalių pokyčių galimybės. Kaip jis pasakė 2008 m. sausio mėn. straipsnyje Süddeutsche Zeitung: „Tikėjimas, kad mokslas ir technologijos išgelbės Žemę nuo klimato žlugimo padarinių, yra klaidingas. Niekas neišgelbės mūsų vaikų ir anūkų nuo žemiškojo pragaro. Nebent: mes organizuojame pasipriešinimą pasaulinio kapitalizmo godumui.
Po dviejų mėnesių, 2008 m. kovo 5 d., Weizenbaum mirė nuo skrandžio vėžio. Jam buvo 85 metai.
BKai Weizenbaumas mirė, AI turėjo blogą reputaciją. Šis terminas tapo nesėkmės sinonimu. McCarthy ambicijos, suformuluotos Amerikos amžiaus įkarštyje, vėlesniais dešimtmečiais palaipsniui užgeso. Priversti kompiuterius atlikti su intelektu susijusias užduotis, pvz., kalbos konvertavimą į tekstą arba vertimą iš vienos kalbos į kitą, buvo daug sunkiau, nei tikėtasi.
Šiandien situacija atrodo visai kitaip. Turime programinę įrangą, kuri gana gerai gali atlikti kalbos atpažinimą ir kalbos vertimą. Taip pat turime programinę įrangą, kuri gali atpažinti veidus ir apibūdinti nuotraukoje rodomus objektus. Tai yra naujo AI bumo, kilusio po Weizenbaumo mirties, pagrindas. Naujausia jo iteracija yra sutelkta į „generatyviąsias AI“ programas, tokias kaip „ChatGPT“, kurios gali sintezuoti tekstą, garsą ir vaizdus vis sudėtingiau.
Techniniu lygmeniu technikų rinkinys, kurį vadiname AI, nėra tas pats, kurį Weizenbaumas turėjo omenyje, kai prieš pusę amžiaus pradėjo kritikuoti šią sritį. Šiuolaikinis dirbtinis intelektas remiasi „neuroniniais tinklais“, kurie yra duomenų apdorojimo architektūra, laisvai įkvėpta žmogaus smegenų. Kai pasirodė „Computer Power“ ir „Human Reason“, neuroniniai tinklai iš esmės iškrito iš mados dirbtinio intelekto sluoksniuose ir rimtai atgis tik kelerius metus po Weizenbaumo mirties.
Tačiau Weizenbaumas visada buvo mažiau susirūpinęs AI kaip technologija, o ne AI kaip ideologija – tai yra tikėjimas, kad kompiuteris gali ir turi būti priverstas daryti viską, ką gali padaryti žmogus. Ši ideologija gyva ir gerai. Jis netgi gali būti stipresnis nei buvo Weizenbaumo laikais.
Kai kurie Weizenbaumo košmarai išsipildė: JAV teisėjai naudoja vadinamuosius rizikos vertinimo instrumentus, kad priimtų esminius sprendimus dėl užstato, nuosprendžio ir lygtinio paleidimo. d bandomasis laikotarpis, o dirbtinio intelekto varomi pokalbių robotai yra įprastai reklamuojami kaip automatizuota alternatyva apsilankymui pas žmogų terapeutą. Pasekmės galėjo būti tokios pat groteskiškos, kaip jis tikėjosi. Remiantis anksčiau šiais metais pasirodžiusiais pranešimais, dviejų vaikų tėvas belgas nusižudė po kelių savaičių kalbėdamasis su AI avataru vardu… Eliza. Pokalbių žurnaluose, kuriais jo našlė pasidalijo Briuselyje leidžiamas laikraštis „La Libre“, matyti, kad Eliza aktyviai skatina vyrą nusižudyti.
Humanoidinis robotas, bendraujantis su lankytojais AI for Good viršūnių susitikime Ženevoje anksčiau šį mėnesį. Nuotrauka: Johannes Simon / GettyKita vertus, Weizenbaumas tikriausiai apsidžiaugtų sužinojęs, kad dirbtinio intelekto potencialas destruktyvumui dabar kelia didžiulį susirūpinimą. Tai kelia nerimą ne tik politikos formuotojams – ES baigia priimti pirmąjį pasaulyje išsamų dirbtinio intelekto reglamentą, o Bideno administracija įgyvendino daugybę iniciatyvų, susijusių su „atsakingu“ dirbtiniu intelektu, bet ir pačius AI praktikus.
Apskritai šiandien yra dvi mąstymo mokyklos apie AI pavojų. Pirmasis, kurį paveikė Weizenbaum, sutelkia dėmesį į dabar egzistuojančią riziką. Pavyzdžiui, ekspertai, tokie kaip lingvistė Emily M Bender, atkreipia dėmesį į tai, kaip dideli kalbų modeliai, esantys po ChatGPT, gali atkartoti regresinius požiūrius, pvz., rasizmą ir seksizmą, nes jie mokomi pagal duomenis, gautus iš interneto. Tokie modeliai turėtų būti suprantami kaip savotiška „papūga“, – rašo ji ir jos bendraautoriai įtakingame 2021 m. dokumente, „neatsitiktinai sujungdami kalbinių formų sekas, kurias pastebėjo didžiuliuose mokymo duomenyse, remiantis tikimybine informacija apie jų derinimą“.
Antroji mąstymo mokykla labiau mėgsta mąstyti spekuliaciniais terminais. Jos šalininkai yra mažiau suinteresuoti žala, kuri jau yra čia, nei ta, kuri kada nors gali kilti – ypač „egzistencinė rizika“, kai dirbtinis intelektas tampa „superinteligentišku“ ir sunaikina žmonių rasę. Čia karaliaujanti metafora yra ne papūga, o „Skynet“, genocido kompiuterinė sistema iš Terminatoriaus filmai. Šią perspektyvą karštai palaiko keli technologijų milijardieriai, įskaitant Eloną Muską, kurie finansavo panašių minčių grupių tinklą, dotacijas ir stipendijas. Jis taip pat sulaukė kritikos iš pirmosios mokyklos narių, kurie pastebi, kad toks pražūtingas reiškimas yra naudingas pramonei, nes nukreipia dėmesį nuo realių, dabartinių problemų, už kurias atsakingi jos produktai. Jei „viską planuojate į tolimą ateitį“, pažymi Meredith Whittaker, paliksite „status quo nepaliestą“.
Weizenbaumas, visada dėmesingas būdams, kuriais fantazijos apie kompiuterius gali pasitarnauti galingiems interesams, tikriausiai sutiktų. Tačiau vis dėlto egzistuoja egzistencinės rizikos mąstymo gija, kuri šiek tiek sutampa su jo paties: AI kaip svetimo idėja. „Superprotinga mašina būtų tokia pat svetima žmonėms, kaip ir žmogaus mąstymo procesai tarakonams“, – teigia filosofas Nickas Bostromas, o rašytojas Eliezeris Yudkowsky pažangųjį dirbtinį intelektą lygina su „visa ateivių civilizacija“.
Weizenbaumas pridėtų tokį įspėjimą: AI jau yra svetimas, net jei jis nėra „superinteligentiškas“. Žmonės ir kompiuteriai priklauso atskiroms ir nesulyginamoms sferoms. Jokiu būdu negalima sumažinti atstumo tarp jų, kaip egzistencinės rizikos minia tikisi padaryti per „AI suderinimą“ – praktikų rinkinį, skirtą „AI suderinti“ su žmogaus tikslais ir vertybėmis, kad jis netaptų „Skynet“. Weizenbaumo nuomone, negalime humanizuoti DI, nes DI yra nepataisomai nežmogiškas. Tačiau tai, ką galite padaryti, yra nepriversti kompiuterių daryti (ar reikšti) per daug. Niekada neturėtume „pakeisti kompiuterine sistema žmogaus funkcijų, kurios apima tarpasmeninę pagarbą, supratimą ir meilę“, – rašė jis žurnale „Computer Power and Human Reason“. Gerai gyventi su kompiuteriais reikštų padėti juos į tinkamą vietą: kaip pagalbininkus skaičiuojant, o ne vertinti.
Weizenbaumas niekada neatmetė galimybės, kad intelektas kada nors gali išsivystyti kompiuteryje. Tačiau jei taip nutiktų, 1991 metais jis pasakė rašytojui Danieliui Crevier, tai „bent jau taip skirsis, kiek delfino intelektas skiriasi nuo žmogaus intelekto“. Čia slepiasi galima ateitis, kuri nėra nei rasistinių papūgų užpildyta aido kamera, nei Holivudo „Skynet“ distopija. Tai ateitis, kurioje mes užmezgame ryšį su dirbtiniu intelektu, kaip ir su kitomis rūšimis: nepatogiai, dideliais atstumais, tačiau galimi malonūs momentai. Delfinai būtų blogi teisėjai ir baisūs susitraukimai. Bet jie gali susirasti įdomių draugų.
