TBiblija teigia, kad „ne lenktynės su greitaisiais ir ne kova su stipriaisiais“, bet, kaip sakydavo Damonas Runyonas, „taip reikia lažintis“. Kaip rūšis laikomės to paties požiūrio, todėl esame apsėsti „rasių“. Pavyzdžiui, politinė žurnalistika dažniausiai yra žirgų lenktynių nušvietimas – bėgikai ir raiteliai, favoritai, autsaideriai, statymai į abi puses ir t. t. O kai įsigilinome į geopolitiką ir tarptautinius santykius, randame ginklavimosi „lenktynių“ apsėstą sritį.
Pastaruoju metu į lenktynes įsitraukė naujos rūšies ginklai, laisvai vadinami „AI“. 2021 m. pavėluotai sužinojome, kaip dėl to nerimauja JAV vyriausybė. Buvo sušaukta Nacionalinio saugumo komisija dirbtinio intelekto klausimais, kuriai pirmininkavo Ericas Schmidtas, buvęs „Google“ pirmininkas. Tų metų kovo mėn. paskelbtoje ataskaitoje komisija perspėjo: Kinija netrukus gali pakeisti JAV kaip pasaulio „AI supervalstybė“; kad AI sistemos bus naudojamos (siurprizas, staigmena!) „siekiant galios“; ir kad „AI neliks supergalių ar mokslinės fantastikos sferoje“. Ji taip pat paragino prezidentą Bideną atmesti raginimus pasauliniu mastu uždrausti labai prieštaringus AI varomus autonominius ginklus, sakydamas, kad Kinija ir Rusija greičiausiai nesilaikys jokios pasirašytos sutarties.
Iki šiol tai buvo stipriausias požymis, kad JAV vyrauja hegemoninis nerimas, augant Kinijos pasitikėjimui pasaulinėje arenoje. Taip pat paaiškinama, kodėl daugelio tyrėjų pasirašytas atviras laiškas, raginantis visas dirbtinio intelekto laboratorijas nedelsiant bent šešiems mėnesiams sustabdyti AI sistemų, galingesnių už GPT-4 mokymą (ir priduriama, kad „jei tokios pauzės nepavyks greitai priimti, vyriausybės turėtų įsikišti ir paskelbti moratoriumą“) nukrito į ausis Vašingtone ir Silicio slėnyje.
Norėdami pažvelgti į nerimą, kuris apima JAV, pirmasis skyrius 2034 m.: kito pasaulinio karo romanas, kurio bendraautoris yra trilerių rašytojas ir buvęs JAV admirolas, gali būti šviečiantis. Amerikiečių vežėjų grupė Pietų Kinijos jūroje kreipiasi į pagalbą užsiliepsnojančiam Kinijos žvejybos laivui. Pasirodo, laive yra įdomus elektroninis rinkinys. Kinai reikalauja nedelsiant paleisti laivą, o tada amerikiečiai, nelinkę paklusti, sužino, kad visi jų elektroninės sistemos ištuštėjo ir juos supa kinų karo laivų grupė, kurios artumo jie visiškai nežinojo. Taip jaučiasi technologinis nepilnavertiškumas, jei esate supervalstybė.
Gera prasmė, bet bergždžia „pauzės“ laiškas buvo motyvuotas nuogąstavimų, kad mašininio mokymosi technologijos peržengė reikšmingą slenkstį kelyje į AGI (dirbtinį bendrąjį intelektą), ty superintelektines mašinas. Tai tikėtina tik tuo atveju, jei tikite, kaip kai kurie mašininio mokymosi pasaulio žmonės, kad didžiulė LLM (didelių kalbų modelių) plėtra galiausiai prives prie AGI. Ir jei taip atsitiktų (taip sakoma paniškai), tai gali būti bloga žinia žmonijai, nebent mašinos būtų patenkintos tuo, kad žmonės laikomi naminiais gyvūnais.
Užsienio politikos institucijai Vašingtone perspektyva, kad Kinija gali patekti į AGI anksčiau nei JAV, atrodo kaip egzistencinė grėsmė Amerikos hegemonijai. Technologijų srityje dominuojantys vietiniai technologijų milžinai atkakliai puoselėja šias egzistencines baimes. Taigi pasaulis gali susidurti su naujomis „ginklavimosi varžybomis“, kurias paskatins ateities kartos technologijos, atnešusios mums „ChatGPT“, su visomis iššvaistymo ir korupcijos pasekmėmis, kurias atneša toks išlaidavimas.
Ši mąstymo linija grindžiama dviem ramsčiais, kurie atrodo gana netvirtai. Pirmasis yra tikėjimo straipsnis; antrasis yra klaidingas supratimas apie technologinės konkurencijos prigimtį. Tikėjimo straipsnis yra įsitikinimas, kad pagreitėjusi mašininio mokymosi technologijų plėtra galiausiai sukurs AGI. Tai atrodo gana herojiška prielaida. Kaip prieš ankstyvą mirtį pabrėžė filosofas Kennethas A Tayloras, dirbtinio intelekto tyrimai yra dviejų krypčių: AI kaip inžinerija ir AI kaip pažinimo mokslas. LLM ir pokalbių robotų atsiradimas rodo, kad inžinerinėje pusėje padaryta didelė pažanga, tačiau pažinimo srityje mes vis dar niekur neprilygstame lygiaverčiams proveržiams. Tačiau čia reikia įspūdingos pažangos, kad mąstymo mašinos būtų perspektyvus pasiūlymas.
Klaidinga nuomonė, kad ginklavimosi varžybose yra aiškūs nugalėtojai. Kaip kitą dieną pastebėjo Scottas Alexanderis, pergalės tokiose lenktynėse būna trumpalaikės, nors kartais technologinio pranašumo gali pakakti konflikto pusiausvyrai iškreipti – kaip buvo branduoliniai ginklai 1946 m. Tačiau tai buvo dvejetainė situacija, kai vienas arba turėjo branduolinių ginklų arba vienas jų neturėjo. To nebuvo su kitomis technologijomis – elektra, automobiliais ar net kompiuteriais. Taip pat nebūtų ir su AGI, jei kada nors tai pasieksime. Ir šiuo metu turime pakankamai sunkumų bandydami valdyti turimas technologijas, nesusimąstydami apie spekuliatyvią ir tolimą ateitį.
Ką aš skaičiau
Atgal į ateitį
Philipas K Dickas ir netikri žmonės yra puikus Bostono apžvalga Henry Farrell esė, teigdamas, kad gyvename Philipo K Dicko, o ne George’o Orwello ar Aldouso Huxley ateityje.
Įvaizdis sąmoningas
Kaip AI pakeis fotografiją? yra susimąstyti verčianti Charlotte Kent esė.
Transformatoriai
Įspūdinga Nicko St Pierre’o „Twitter“ gija apie tai, kaip ragina pakeisti generuojamąją AI išvestį.
