War tai su bangų metaforomis? Technologiniai deterministai – žmonės, tikintys, kad technologijos lemia istoriją – juos myli. Pagalvokite apie Alviną Tofflerį, kuris civilizacijos istoriją laikė trijų tokių bangų (žemės ūkio, pramonės ir postindustrinės) paeiliui. Idėja yra didžiulės galios, nesustabdoma, nenumaldomai judanti link mūsų, kai mes gniaužiame prieš jos begalybę, panašiai kaip turėjo padaryti dinozaurai, pamatę mylios aukščio cunamį, besisukantį jų kryptimi.
Mustafa Suleymanas sako, kad jis nėra deterministas, bet kartais skamba siaubingai kaip toks. Vienu metu jis rašo: „Pagrindinėje technologijoje atsiranda žmonių poreikių tenkinimo technologija. Jei žmonės turės rimtų priežasčių jį kurti ir naudoti, jis bus sukurtas ir naudojamas. Tačiau daugumoje diskusijų apie technologijas žmonės vis dar įstringa ties tuo, kas tai yra, pamiršdami, kodėl ji buvo sukurta. Tai ne apie kažkokį įgimtą technodeterminizmą. Tai apie tai, ką reiškia būti žmogumi.
Artėjanti banga jo pavadinime yra „apibrėžta dviejų pagrindinių technologijų: dirbtinio intelekto (AI) ir sintetinės biologijos“, o šių dviejų junginys daro jį intriguojančiu ir originaliu. Jis mano, kad kartu šie du „praneš naują žmonijos aušrą, sukurs turtą ir perteklių, nepanašų į ką nors anksčiau. Ir vis dėlto jų spartus plitimas taip pat kelia grėsmę, kad daugybė blogų veikėjų gali sukelti neįsivaizduojamo masto sutrikimus, nestabilumą ir net katastrofas. Mūsų ateitis, matyt, „ir priklauso nuo šių technologijų, ir jai kelia pavojų“.
Įveikus šį hiperbolinį prologą, knyga pradeda rimtai tyrinėti, kokia ateitis gali būti mums visiems. Suleymano įgaliojimai atlikti šią užduotį yra geri: jis buvo vienas iš „DeepMind“, be abejonės, protingiausios dirbtinio intelekto įmonės, įkūrėjų, tačiau taip pat yra dirbęs labdaros sektoriuje, Didžiosios Britanijos vietinėje valdžioje ir „Google“, kur dirbo su plačia įmonės kalba. modelius (LLM) ir nedėkingą užduotį bandyti įtikinti paieškos behemotą rimtai žiūrėti į etiką. Nors jis nedirbo molekulinės biologijos srityje, jo pasakojimas apie DNR sekos nustatymą, genų redagavimą ir naujų genetinių produktų projektavimą bei gamybą atrodo gerai informuotas ir patvirtina jo teiginį, kad dirbtinis intelektas ir skaičiavimo biologija yra du iššūkiai, su kuriais netrukus susidurs visuomenės.
Išvertus į technologines bangas, Suleymano evoliucinė seka atrodo taip: žmonės pirmą kartą panaudojo technologijas, kad veiktų fiziniame pasaulyje – atomų pasaulyje; tada jie dirbo su bitais, informacijos vienetais; ir dabar jie dirba kurdami naujas biologinės gyvybės formas. Arba, grubiau tariant: pirmiausia išradome mechaninius raumenis; dabar mes maišome savo smegenis; ir netrukus tai darysime su savo biologija. Kad ir kaip tai pavaizduotumėte, realybė yra tokia, kad kuriame monstrus, kurių net neįsivaizduojame, kaip valdyti.
Labiausiai gaivus knygos bruožas yra tai, kaip ji atvirai sprendžia klausimus, kurie paprastai nėra aptariami mandagiame visuomenėje. Visi jie yra klausimai, į kuriuos šiuo metu neturime atsakymų, todėl bet koks jų aptarimas neišvengiamai slegia. Taigi mes jų vengiame. Šis „pesimizmo nepasitenkinimas“ yra Suleymano bete noire; jis laiko tai prabanga, kurios nebegalime sau leisti, nes technologinė pažanga tampa eksponentiška. Turime realiai suvokti ateitį, kuri gali iškilti, jei nesusitvarkysime (žmogiškųjų ir demokratinių) veiksmų.
Jis teisus. Taigi ko reikia? Įprastas atsakymas yra reguliavimas, kurį Suleyman pagrįstai laiko apgailėtinai netinkamu iššūkio mastui. Reguliavimas yra paskutinis išsekusio proto prieglobstis: kažkas, kas veikė praeityje ir, tikiuosi, veiks vėl – visiškai pasikeitusiame kontekste. Vietoj to jis siūlo „sulaikymą“ – terminą su šaltojo karo atgarsiais ir George’o Kennano strategija, skirta sovietų valdžiai pokario epochoje išlaikyti valdžią, reikalaujančią ilgalaikio, kantraus, tvirto ir akylo priešininko ekspansinių tendencijų apribojimo.
Mustafos Suleymano sprendimas „iš tikrųjų yra utopinė svajonė“.Suleymanas rašo: „Technologijos turi būti daug svarbesnė programa, galios pusiausvyra ne tarp konkuruojančių veikėjų, o tarp žmonių ir mūsų įrankių. Tai būtina sąlyga mūsų rūšies išlikimui per ateinantį šimtmetį. Apribojimas apima reguliavimą, geresnę techninę saugą, naujus valdymo ir nuosavybės modelius, naujus atskaitomybės ir skaidrumo būdus – visus būtinus (bet nepakankamus) saugesnės technologijos pirmtakus. Tai visa apimantis užraktas, jungiantis pažangiausią inžineriją, etines vertybes ir vyriausybės reguliavimą.
Čia yra gerų ir blogų naujienų. Sveikintina tai, kaip knygoje reikiamu lygiu sprendžiama su šiuolaikinėmis technologijomis susijusi problema – tai daug žingsnių viršija mūsų dabartinį nekoordinuotą, išblaškytą požiūrį.
Bloga žinia ta, kad Suleymano sprendimas iš tikrųjų yra utopinė svajonė. Jis tai žino, todėl paskutiniuose knygos skyriuose jaučiamas skausmingas potekstė. Viena vertus, sulaikymas yra būtinas, jei Homo technologicus yra pasiekti kitą šimtmetį (jei leis klimato krizė). Kita vertus, tai atrodo kaip neįmanoma svajonė: „kaip sulaikyti tai, kas iš pažiūros nesulaikoma“.
Vis dėlto, jo nuopelnas, jis laikosi savo ginklų iki galo, užbaigdamas 10 žingsnių izoliavimo planą, kuris turi prasmę ir yra iškalbingai išreikštas. Skaitant į galvą atėjo garsusis Gramsci posakis, kad mums reikia „intelekto pesimizmo, valios optimizmo“. Didelis jo nuopelnas Suleymanas turi abu.
- Artėjanti banga: AI, galia ir didžiausia XXI amžiaus dilema autorius Mustafa Suleyman išleido Bodley Head (£25). Norėdami paremti globėjas ir Stebėtojas užsisakykite kopiją adresu guardianbookshop.com. Gali būti taikomi pristatymo mokesčiai
