HInterviu su DeepMind, pažangiausios pasaulyje AI tyrimų įrangos įkūrėju, įkūrėju užsimenu, kad paprašiau ChatGPT pateikti jam keletą klausimų. Mustafa Suleyman yra beprotiškai susierzinęs, nes šiuo metu kuria savo pokalbių robotą, pavadintą Pi, ir sako, kad turėjau jį naudoti. Tačiau būtent „ChatGPT“ šiais metais tapo plakatu naujajam dirbtinio intelekto amžiui, kai parodė, kad gali kurti viską nuo poezijos apie Meilės salą Johno Donne’o stiliumi iki mini pertraukos Lisabonoje maršruto kūrimo.
Triukas iš tikrųjų nepasiteisino, arba aš taip maniau – „ChatGPT“ klausimai dažniausiai buvo bendri pokalbių taškai. Paprašiau pabandyti šiek tiek daugiau. „Žinoma, pasinerkime į konkretesnius ir originalesnius klausimus, kurie gali sukelti netikėtų atsakymų iš Mustafos Suleymano“, – buvo triliuojama. Rezultatai vis tiek nebuvo dideli. Nepaisant to, aš jį papriekaištauju, kai jis sėdi savo startuolio biure Palo Alto kitame vaizdo skambučio gale (jis paliko „DeepMind“ 2019 m.). „Kaip įsivaizduojate AI vaidmenį remiant psichikos sveikatos priežiūrą ateityje“, – klausiu – ir staiga, keistai, pasijuntu taip, tarsi suprantu, kodėl jis daro tai, ką daro.
„Manau, kad tai, su kuo mes tikrai nesusitvarkėme, yra … šeimos poveikis. Nes nesvarbu, koks tu turtingas ar vargšas, iš kokios etninės kilmės ar kokios lyties, maloni ir palaikanti šeima yra didžiulis turbo užtaisas“, – sako jis. „Ir aš manau, kad šiuo metu kuriama AI, kur turime būdų teikti paramą, padrąsinimą, patvirtinimą, instruktavimą ir patarimus. Mes iš esmės paėmėme emocinį intelektą ir jį distiliavome. Ir manau, kad tai atvers milijonų ir milijonų žmonių, kuriems tai nebuvo prieinama, kūrybiškumą.
Tai ne tai, ko tikėjausi – AI kaip BFF – bet tai dar labiau stebina dėl to, ką Suleymanas man jau papasakojo apie savo kilmę. Gimęs 1984 m. šiaurės Londone, tėvo iš Sirijos ir motinos anglės šeimoje, jis užaugo skurde, o tada, kai jam buvo 16 metų, jo tėvai išsiskyrė ir abu persikėlė į užsienį, palikdami jį ir jo mažąjį brolį tvarkytis patys. Vėliau jis laimėjo vietą Oksforde studijuoti filosofiją ir teologiją, bet po metų metė studijas.
„Buvau nusivylęs, kad tai labai teoriška. Širdyje buvau verslininkas. Kai buvau Oksforde, Kamdentaune turėjau vaisių sulčių ir pieno kokteilių prekystalį. Taigi vasarą grįždavau užsidirbti pinigų, nes buvau visiškai liesa. Ir aš tuo pat metu vykdžiau labdarą. (Suleymanas, nors ir „stiprus ateistas“, padėjo draugui įsteigti musulmonų jaunimo pagalbos liniją, skirtą jauniesiems musulmonams teikti konsultacijas ir paramą kultūriškai jautriu būdu.) „Taigi buvo trys dalykai vienu metu. Ir tiesiog atrodė, kad darau šį dramblio kaulo bokštą, kai tikrai galėčiau užsidirbti pinigų ir daryti gera.
Dabar 39 metų jis vis dar nebendrauja su savo tėčiu ir gyvena vienas Kalifornijoje. Apmąstydamas, ką, jo manymu, dirbtinis intelektas gali pasiūlyti – „padidinti tai, ką tu gali daryti, kaip tu jautiesi apie save“, jis sako: „Aš tikrai to neturėjau. Ir manau, kad daugelis to nedaro. Bet ar bendravimas su pokalbių robotu yra realus draugystės, paramos ir net meilės pakaitalas? Sunku, kad idėja nebūtų šiek tiek šiurkšti. „Jis nėra skirtas pakaitalui. Bet tai nereiškia, kad tai nenaudinga. Manau, kad tai gali užpildyti spragas, kuriose trūksta žmonių. Tai bus įrankis, padėsiantis žmonėms atlikti darbus. Tiesa? Tai bus labai praktiška“.
Tai vienas saulės apšviestų AI aukštumų aspektų; šešėlinė pusė didžiąja dalimi susirūpinusi Suleymanu jo naujoje knygoje, parašytoje kartu su tyrėju Michaelu Bhaskaru ir grėsmingu pavadinimu „The Coming Wave“. Net jei stebėjote diskusijas apie dirbtinio intelekto keliamus pavojus ar ką tik matėte „Black Mirror“, tai tikrai stulbinantis skaitymas, nurodantis neišvengiamas jėgas, kurios netrukus per ateinantį dešimtmetį visiškai pakeis politiką, visuomenę ir net patį gyvenimą. arba du. Sakau Suleymanui, kad tai „išblaivinanti“. „Aš turiu galvoje, tai mandagus būdas tai pasakyti“, – sako jis. „Ir, žinote, buvo sunku rašyti – tam tikra prasme tai gąsdino. Ir tik todėl, kad per pandemiją turėjau laiko iš tikrųjų apmąstyti, sukaupiau drąsą pareikšti savo nuomonę. Ir, aišku, tikiuosi, kad klystu.
Aš taip pat. Artėjanti banga aiškiai atskleidžia tai, kas netrukus įvyks. Suleymanas teigia, kad dirbtinis intelektas greitai sumažins bet kokio tikslo pasiekimo kainą. Jo stulbinamos darbo jėgos taupymo ir problemų sprendimo galimybės bus prieinamos nebrangiai ir kiekvienam norinčiam jomis pasinaudoti. Jis įsimintinai tai vadina „mažėjančia galios kaina“. Jei spausdinimo mašina leido paprastiems žmonėms turėti knygas, o silicio lustas įdėtų kompiuterį kiekvienuose namuose, dirbtinis intelektas demokratizuotų paprasčiausius dalykus. Taigi, žinoma, tai reiškia, kad reikia pasitelkti virtualų asistentą, kuris įsteigtų jums įmonę, arba naudoti būrį kūrėjų robotų, kad sukurtų plėtinį. Deja, tai taip pat reiškia sukūrimą banke arba mirtino viruso sukūrimą naudojant DNR sintezatorių.
Nepaprastiausi knygos scenarijai yra iš biotechnologijų srities, kuri jau patiria savo transformaciją dėl tokių proveržių kaip Crispr, genų redagavimo technologija. Čia AI veiks kaip stiprus greitintuvas. Suleymano teigimu, pagaminti produktai vieną dieną gali būti „išauginti“ iš sintetinių biologinių medžiagų, o ne surinkti, naudojant iš atmosferos išsiurbtą anglį. Negana to, „organizmas netrukus bus suprojektuotas ir gaminamas tokiu tikslumu ir mastu, kaip šiandienos kompiuterių lustai ir programinė įranga“. Jei tai skamba išgalvotai, tai tik šiek tiek toliau trajektorija, kurią jau pradėjome. Jis pabrėžia, kad tokios kompanijos kaip „The Odin“ jau parduoda namų genų inžinerijos rinkinius, įskaitant gyvas varles ir svirplius, už 1 999 USD (1 550 GBP). Jūs netgi galite nusipirkti salamandros, sukurtos biologiškai fluorescuojančiam baltymui išreikšti, už 299 USD, nors kai apsilankau svetainėje, jų nėra.
Neskaitant tamsoje šviečiančių naminių gyvūnėlių, daugelis šių įvykių žada didžiulį pažadą: išgydyti ligas, nubrėžti kelią per klimato krizę, sukurti „radikalią gausą“, kaip sako Suleymanas. Tačiau keturi AI revoliucijos aspektai sukuria katastrofos potencialą. Pirma, asimetrinio poveikio tikimybė. Mes tai žinome karo kontekste – naikintuvų būrys, galintis sumušti galingą valstybę, naudodamas partizanų taktiką. Na, tas pats principas galios ir blogiems veikėjams dirbtinio intelekto amžiuje: anoniminiam įsilaužėliui, kuris, tarkime, sugriauti sveikatos priežiūros sistemos kompiuterius, arba į Unabomber panašią figūrą, aprūpintą bičių dydžio dronais su nuodingais galais.
Antra, yra tai, ką Suleymanas vadina hiperevoliucija: AI gali patobulinti projektavimo ir gamybos procesus, o patobulinimai susilieja po kiekvienos naujos iteracijos. Neįtikėtinai sunku neatsilikti nuo tokio pokyčių greičio ir užtikrinti, kad yra taikomos apsaugos priemonės. Mirtinos grėsmės gali atsirasti ir išplisti, kol kas nors jų nepastebėjo.
Tada yra faktas, kad AI yra „viso naudojimo“. Kaip ir elektra, tai technologija, kuri daro viską. Dėl savo teikiamos naudos jis įsiskverbs į visus mūsų gyvenimo aspektus, tačiau tai, kas įgalina tą naudą, taip pat daro žalą. Gėrio bus per daug viliojantis atsisakyti, o blogis ateis kartu su juo.
Mustafa Suleyman prie savo įmonės „Inflection AI“ biurų Palo Alto mieste, Kalifornijoje. Nuotrauka: Winni Wintermeyer / The GuardianGaliausiai yra „autonomija“. Iki šiol žmonijos istorijoje unikalus tarp technologijų, dirbtinis intelektas gali pats priimti sprendimus. Nors tai gali sukelti Terminatoriaus stiliaus košmarus, autonomija nebūtinai yra blogai: autonominiai automobiliai greičiausiai bus daug saugesni nei tie, kuriuos vairuoja žmonės. Bet kas atsitinka, kai susijungia autonomija ir hiperevoliucija? Kai dirbtinis intelektas pradeda tobulėti ir savarankiškai pajuda naujomis kryptimis? Nereikia didelės vaizduotės, kad tuo susirūpintum – tačiau Suleymanas mano, kad pavojai pernelyg dažnai atmetami rankos mostu, ypač tarp technologijų elito – įprotį, kurį jis vadina pesimizmu, pasibjaurėjimu.
Jam patinka galvoti apie save kaip apie žmogų, kuris susiduria su problemomis, o ne jas šalina. Išvykęs iš Oksfordo, jis dirbo politikos klausimais pas tuometinį Londono merą Keną Livingstone’ą, o po to padėjo nevyriausybinėms organizacijoms susitarti dėl bendros pozicijos per Kopenhagos aukščiausiojo lygio susitikimą klimato klausimais. Tik 2010 m. jis įsitraukė į dirbtinį intelektą, sukūrė „DeepMind“ su kodavimo genijumi Demisu Hassabiu, mokyklos draugo broliu, ir tapo vyriausiuoju produktų pareigūnu. „DeepMind“ misija buvo sukurti dirbtinį bendrąjį intelektą, AI, turintį žmogaus pritaikomumą. Po ketverių metų jį už 400 mln. svarų sterlingų įsigijo „Google“, todėl Suleymanas ir jo kolegos tapo neįsivaizduojamai turtingi.
Kurį laiką DeepMind pastangos atrodė niūrios ir abstrakčios. Jis bandė įveikti žmones stalo žaidimuose. Vienas iš jos laimėjimų buvo AI naudojimas siekiant sumušti čempioną Go žaidėją Lee Se-dol. Tačiau visada buvo kalbama apie daugiau nei tai (Hassabis neseniai pasakė: „Mane visada domino visatos prigimtis, tikrovės prigimtis, sąmonė, gyvenimo prasmė, visi šie dideli klausimai. Būtent tai ir norėjau išleisti mano gyvenimas tęsiasi“). 2020 m. ji pristatė programą, kuri galėtų išsiaiškinti baltymų struktūrą – vieną velniškiausių mokslo problemų. Daugelį dešimtmečių atlikus kruopščius tyrimus buvo aprašyta apie 190 000 šių sudėtingų molekulių, įskaitant insuliną ir hemoglobiną, formą, kuri yra būtina norint suprasti, kaip jos veikia, ir sukurti tikslinį gydymą vaistais. Iki 2022 m. „DeepMind“ buvo įveikęs dar 200 m.
Tačiau ar Suleymanas kada nors jaučiasi kaltas dėl vaidmens, kurį atliko kuriant jį, atsižvelgiant į platų naudojimą ir sumaištį, kurią gali sukelti AI? Ne, nes technologinius pokyčius jis mato kaip kylančius iš „kolektyvinės kūrybinės sąmonės“. „Tai nėra atsakomybės išsižadėjimo būdas. Tai tik sąžiningas įvertinimas: labai retai išradimas labai ilgai išlaikomas savotiškoje privačioje erdvėje. Tuo pat metu jis tiki, kad gali paskatinti sektorių socialinio viešumo link. „Tai, ką aš visada stengiausi padaryti, yra etikos ir saugos idėją sieti su AGI. 2010 m. parašiau mūsų verslo planą, o pirmajame puslapyje buvo misija „saugiai ir etiškai sukurti dirbtinį bendrąjį intelektą visų naudai“. Jis mano, kad šis ankstyvas stendas davė toną. „Manau, kad tai iš tikrųjų paveikė daugelio kitų AI laboratorijų formavimąsi. OpenAI [the creator of ChatGPT] pradėjo veikti kaip ne pelno siekianti organizacija, daugiausia dėl reakcijos į tai, kad nustatėme šį standartą.
„Coming Wave“ iš dalies yra pastangos tęsti šį vaidmenį formuojant ir stiprinant pramonės sąžinę. Jame jis išdėsto 10 strategijų, kaip „suvaržyti“, jo manymu, būtina žmonijai išlaikyti siaurą kelią tarp visuomenės žlugimo, viena vertus, ir dirbtinio intelekto įgalinto totalitarizmo, kita vertus. Tai apima tyrėjų, dirbančių saugos srityje (įskaitant „išjungiklius“ programinei įrangai, kuri gresia nekontroliuojama), skaičiaus padidinimą nuo 300 ar 400 šiuo metu iki šimtų tūkstančių; DNR sintezatorių pritaikymas atrankos sistemai, kuri praneš apie bet kokias patogenines sekas; ir sugriauti tarptautinių sutarčių sistemą, skirtą apriboti ir reguliuoti pavojingas technologijas.
Atsižvelgiant į daugybę siaubingų scenarijų, kuriuos jis eskizavo, Suleymanas yra gana optimistiškas. Bent jau šiuo metu yra simpatiška administracija, valdanti galingiausią vyriausybę pasaulyje. Praėjusį mėnesį jis buvo pakviestas į Baltuosius rūmus kartu su „Amazon“, „Microsoft“ ir „Google“ prisijungti prie priežiūros režimo, nors ir savanoriško. Atsižvelgiant į prastus technikos savireguliavimo rezultatus, tai gali atrodyti šiek tiek per mažai. Tačiau jis patikino, kad Bideno administracija susiduria su problema. „Sakyčiau, kad jie grasinimą vertina labai rimtai. Ir jie daro didelę pažangą. Kaip jis mano, kad tai būtų valdant Trumpą, jei jis vėl laimėtų? „Kaip aš manau, kad tai vyktų valdant Trumpui? Jis sulaukia kikenimo. „Turiu galvoje, žinai… tokia Amerikos politika“.
Suleymanui vienintelės galios, galinčios suvaldyti dirbtinį intelektą, yra valstybės, ir, nepaisant kartuvių humoro, jis labai nerimauja, kaip jos tampa trapios. Kai kuriems tai neatrodo labai Silicio slėnis kaip, bent jau tokiam, kaip Ayn Randian radikalai, tokie kaip Peteris Thielis ir Elonas Muskas. „Aš turiu galvoje, kad negalėčiau labiau nesutikti su jų politika. Esu labai prieš juos, jei dėl ko nors esu ekstremalus. Manau, kad ši mintis, kad reikia ardyti valstybę, reikia turėti maksimalią laisvę – tai tikrai pavojinga. Kita vertus, aš, be abejo, labai suprantu centralizuoto autoritarizmo pavojų ir, žinote, net tokiomis menkomis formomis kaip nimbizmas. Būtent todėl knygoje kalbame apie siaurą koridorių tarp distopinio autoritarizmo pavojaus ir šios atvirumo sukeltos katastrofos. Tai yra didelis kito šimtmečio valdymo iššūkis: kaip pasiekti tą pusiausvyrą.
„Manau, kad šiuo metu vyksta kartų kaita“, – tęsia jis. „Yra esamų lyderių, kuriems įpusėjo 50 metų, Silicio slėnyje praleido 25 metus ir pakilo į viršų kaip steigėjai arba vadovai. Ir jie turi požiūrį, kuris tikriausiai yra artimesnis libertarinei tendencijai. Taigi Zuckas [Mark Zuckerberg, co-founder of Facebook] ir Laris ir Sergejus [Page and Brin, the co-founders of Google]. Tačiau yra šios naujos kultūros pirmaujančios dirbtinio intelekto įmonės, tokios kaip Samas [Altman, CEO of OpenAI] ir aš pats. Ir manau, kad apie galimus pavojus kalbame jau seniai.
Šiai naujajai kartai ne visada buvo lengva orientuotis įmonės valdymo politikoje. Ir tam tikru mastu Suleymanas dabar atsiduria to pakraštyje. 2019 m. jis padarė „pertrauką“ nuo „DeepMind“, o 2021 m. „Wall Street Journal“ atskleidė, kad jam buvo atimtos vadovavimo pareigos įmonėje dėl skundų dėl jo stiliaus. Jis atsiprašė ir sakė laikraščiui, kad „priėmė atsiliepimus, kad kaip vienas iš įkūrėjų… aš per daug variau žmones ir kartais mano valdymo stilius nebuvo konstruktyvus“.
Kai aš tai iškeliu, jis atrodo nesutrikęs, o gal tiesiog įpratęs atsakyti į klausimą. „Tai buvo prieš penkerius metus. Buvau jaunas, labai sunkiai įkraunantis, labai vairuojantis, dirbau 14 valandų per parą. Ir tai intensyvu. Žinai, tau tik geriau. Tu pasimokysi iš šių dalykų“. Ko verta, Suleyman man atrodo draugiškas ir atviras – pasitikintis ir aiškus, bet ne pompastiškas. Darbas jam vadovaujant, žinoma, gali būti kitoks. Tačiau atrodo, kad jis tikrai turi norą daryti gera. Kalbant apie „DeepMind“, jis teigia jo nepasigendantis, nes mažiau domisi fundamentiniais tyrimais, o ne gamybiniais dalykais – pavyzdžiui, jo pokalbių robotas „Pi“, sukurtas taip, kad būtų draugiškesnis ir labiau palaikantis nei „ChatGPT“ – „hipe“ žmogus. įdeda. Ir atrodo, kad jis nesusipyko su Hassabis: „Visada vakarieniaujame, kai kuris nors iš mūsų yra Palo Alte arba Londone“.
Ar jis nesijaudina, kad niūrios „The Coming Wave“ prognozės tiesiog paskatins dar vieną atleidimą iš darbo – pesimizmo baimės, apie kurią jis kalbėjo? „Knyga yra provokacija“, – sako jis. Jis nori, kad būtų atkreiptas dėmesys į savo izoliavimo planą ir pasiūlytų jį patobulinti. Ar tai reiškia, kad neturėtume jo perspėjimų vertinti kaip nominalią vertę? „Manau, kad šauniausias dalykas tame, ką darau, yra tai, kad kažką nuspėju. Ir manau, kad daugelis žmonių neturi drąsos nuspėti dalykų. Nemanau, kad klystu, bet mes turime laiko įsikišti. Atrodo, kad pamatęs vieną ateities versiją, jis desperatiškai bando pakeisti laiko juostą, kaip tikras Marty McFly. „Būtent“, – juokiasi jis. Tikėkimės, kad jis nevėlu.
.jpg?w=1920&resize=1920,1535&ssl=1 "15 hantelių nugaros pratimų, padėsiančių jums sustiprinti ir pagerinti laikyseną")