Išpirkite dabar
- Buvęs gynybos pareigūnas Paulas Scharre’as teigia, kad dirbtinio intelekto dominavimas lems kitą pasaulinę galią.
- Kova dėl dirbtinio intelekto galios sukels revoliuciją pasaulio kariuomenėje ir ekonomikoje.
- Vasario 28 d. buvo išleista jo knyga „Keturios kovos vietos: galia dirbtinio intelekto amžiuje“.
Pasak autoriaus Paulo Scharre’o, buvusio armijos reindžerio ir dabartinio viceprezidento bei Naujojo Amerikos saugumo centro – ekspertų grupės, besispecializuojančios nacionalinio saugumo klausimais, studijų direktorius, vyksta pasaulinė kova dėl AI dominavimo.
Scharre anksčiau dirbo strateginiu planuotoju Gynybos sekretoriaus biure, siekdamas nustatyti nepilotuojamų ir autonominių sistemų ir naujų ginklų technologijų politiką, taip pat nustatė DOD politiką žvalgybos, stebėjimo ir žvalgybos programoms.
Naujausioje savo knygoje „Keturios kovos vietos: galia dirbtinio intelekto amžiuje“ Scharre’as tyrinėja, kaip tarptautinė kova dėl galingiausios dirbtinio intelekto technologijos keičia pasaulinės galios dinamiką. Šis mūšis, anot jo, yra pasaulinė konkurencija siekiant geriausių ir efektyviausių duomenų, kompiuterinės įrangos, žmogaus talentų ir AI technologiją taikančių institucijų, kurios lems kitą pasaulinę supervalstybę.
Šis pokalbis su Scharre buvo šiek tiek redaguotas, kad būtų ilgas ir aiškus
Savo naujoje knygoje jūs teigiate, kad vyksta kova už pasaulinę galią dirbtinio intelekto sukeltos revoliucijos pavidalu. Kokie yra to mūšio statymai?
Taigi pramonės revoliucijos metu matėme, kad tautos kilo ir krito pasaulinėje arenoje, atsižvelgiant į tai, kaip greitai jos industrializavosi. Dabar technologijos yra pagrindinė politinės, ekonominės ir karinės galios priemonė. Ir aš manau, kad dirbtinio intelekto technologijos yra nepaprastai galingi įrankiai šalies ar visuomenės gebėjimui formuoti pasaulinę pažangą ir tarptautinę aplinką.
Nenoriu gyventi pasaulyje, kuriame Kinijos komunistų partija turi tokią įtaką pasauliniams reikalams. Manau, kad atsižvelgiant į jų žiaurius žmogaus teisių pažeidimus namuose, priekabiavimą iš kaimynų ir užsienyje, Taivano ir kitų regiono šalių grasinimus karine agresija, Pietų Kinijos jūros militarizavimą. Ir aš manau, kad tai rizikos dalis yra susijusi ne tik su ekonomine ir karine galia bei politine galia, bet ir su Kinijos valdymo modelio plitimu, jų technoautoritarizmu, priimant jų AI sistemas.
Kitos šalys vis labiau mėgdžioja Kinijos įstatymus ir normas, kaip naudoti technologijas stebėjimui ir represijoms namuose – tam tikra socialinė programinė įranga, kuri yra pačios šios stebėjimo technologijos aparatinės įrangos viršuje. Ir, žinoma, tai atitinka platesnę tendenciją, kurią matėme daugelyje šalių demokratijos smukimo, todėl aš manau, kad neturėtume demokratijos laikyti savaime suprantamu dalyku savo šalyje ar užsienyje. Ir tikrai svarbu, kad demokratijos atsispirtų šioms autoritarinėms tendencijoms.
Ir tai nėra tipiškas mūšis, nes mes tiesiogiai nekariaujame, taigi kur vyksta veiksmas?
Taigi knygoje nagrinėjama JAV ir Kinijos konkurencija dirbtinio intelekto srityje, o išleistoje knygoje nagrinėjama, kas vyksta su dirbtiniu intelektu kaip bendros paskirties technologija, panašiai kaip elektros, kompiuterių tinklai ar vidaus degimo varikliai. Ir, kaip ir kitos technologijos, ji turi platų pritaikymą visuomenėje. Knygoje daroma išvada, kad keturi pagrindiniai pasaulinės konkurencijos kovos laukai: dirbtinis intelektas arba duomenys, kompiuterinė įranga ar skaičiavimai, žmogaus talentai ir institucijos, reikalingos sėkmingai pritaikyti dirbtinio intelekto sistemas.
Tikriausiai pagrindinis AI pritaikymas, padėsiantis didinti nacionalinę galią, yra plačiai paplitęs AI taikymas siekiant padidinti ekonominį produktyvumą ir mokslinius tyrimus. Kai dirbtinio intelekto technologija bus pritaikyta įvairiose pramonės šakose ir padidina ekonominį produktyvumą, tai turės antros ir trečios eilės poveikį nacionalinei galiai, nes padidės BVP, o vėliau leis tautai paversti ekonominį produktyvumą kitais, kartais labiau apčiuopiamais įrankiais. nacionalinė galia – nesvarbu, ar tai žvalgybos tarnybos, kuriančios palydovus ir apdorojančios renkamą žvalgybos informaciją, ar kuriančios karines pajėgas.
Kokie yra AI praktiniai pritaikymai žvalgybos bendruomenei ar karinėms operacijoms?
AI technologija turi daug galimybių žvalgybos programose. Manau, kad gana tikėtina, kad JAV gynybos departamentas ir žvalgybos bendruomenė naudoja dirbtinį intelektą, kad analizuotų vaizdus iš palydovų ar bepiločių orlaivių, ir nors jie to viešai nepripažino, labai tikėtina, kad tai turi įtakos informacijai, su kuria JAV dalijasi. Ukraina. Matėme keletą kitų pavyzdžių, kai AI technologijas tiesiogiai naudoja Ukrainos pajėgos, ypač kai kurie civilių bepiločių orlaivių operatoriai. Ir tai iš tikrųjų išryškina, kokia visur paplitusi AI technologija, nes nereikia būti pažangiausiu pasaulyje žmogumi, kad galėtumėte naudotis šia technologija, ji yra gana plačiai prieinama.
Taip pat kare Ukrainoje matome logistikos ir priežiūros operacijų svarbą, ir tai yra toks dalykas, kai didžioji dalis to, ką kariuomenė kasdien daro, yra žmonių ir daiktų perkėlimas iš vietos. A iki taško B – panašu, kad „Walmart“ ar „Amazon“, tiesiog skiriasi tai, kas nutinka pabaigoje. Ir tai yra vieta, kur kariškiai gali pagerinti savo logistiką, pasirengimą ir finansus. ir personalo, ir išlaikymo 5 proc., tų padarinių suma karinio efektyvumo atžvilgiu gali būti gana reikšminga ir gana transformuojanti.
Ar AI taip pat keičia tradicinį karą?
Kalbant apie karinę pažangą karybos srityje, taip pat yra keletas pavyzdžių. DARPA Alpha Dog varžybose buvo siekiama sukurti dirbtinio intelekto agentą, kuris simuliatoriuje galėtų pasiekti viršžmogišką našumą prieš žmogų šunų kautynėse, kurias žmonės laiko geriausiu žmonių pilotų tigliu. Trumpai tariant, dirbtinis intelektas pasisekė, jis atsitrenkė į patyrusį oro pajėgų pilotą ir visiškai sutriuškino žmogaus pilotą (15 iki nulio – žmogus nesulaukė nė vieno šūvio prieš AI).
Visų pirma, žmonių pilotų treniruotėse šaudyti į galvą iš tikrųjų yra uždrausta, nes kyla didelė susidūrimo rizika, jei pilotas bando manevruoti orlaivį, kai jūs lenktyniaujate vienas su kitu šimtus mylių per valandą. Ir bet kuriuo atveju tai padaryti nepaprastai sunku ir reikalaujantis viršžmogiško tikslumo, tačiau AI agentui tai nebuvo problema. Jis gali padaryti šiuos sekundės dalies kadrus, tuo pačiu išvengdamas susidūrimo. Ir dirbtinio intelekto agentas išmoko visa tai padaryti pats – jis nebuvo to išmokytas. Laimėjusi dirbtinio intelekto sistema buvo apmokyta treniruokliu ir turėjo daugiau nei 30 metų imituojamo skraidymo laiko, ir tai buvo vienas iš dalykų, kurių ji tiesiog išmoko pati per visus šiuos imituojamų šunų kovų metus.
O kaip su AI naudojimu ne karo metu?
Manau, kad yra daugybė vietų, kur AI laikui bėgant gali turėti gana didelį poveikį ekonomikos produktyvumui. Žinoma, viena iš jų yra specifinės dirbtinio intelekto programos, kurios gali pagerinti finansus, mediciną, transportą ar kitas pramonės šakas – taigi, savarankiškai važiuojantys automobiliai turėtų būti tokioje vietoje, kur jie yra tikrai veiksmingi ir gyvybingi keliuose, yra vienas iš pavyzdžių. be abejo, patobulinimai medicinoje, pavyzdžiui, AI panaudojimas vaizdavimui, toks dalykas, kuris gali būti labai naudingas visai visuomenei. Tačiau vienas iš įdomiausių dalykų, susijusių su AI, yra tik jo gebėjimas padidinti produktyvumą įvairiose vietose.
Kai galvoju apie dirbtinį intelektą, galvoju apie tokius dalykus kaip Clearview AI veido atpažinimas, kai teisėsauga gali naudoti civilių gyventojų veido atpažinimo nuskaitymus. Kokios yra šios technologijos stebėjimo programos?
Vienas iš labai svarbių šios pasaulinės konkurencijos dirbtinio intelekto srityje komponentų yra kylanti kova dėl to, kaip dirbtinis intelektas naudojamas šalyse vidaus saugumui ir priežiūrai, ir šliaužiantis kiniško stiliaus technoautoritarizmo modelių, kurių pradininkė Kinija, plitimas visame pasaulyje. . Tai labai distopinės, technologijomis sustiprintos represijos. Kinija turi pusę iš 1 milijardo pasaulyje stebėjimo kamerų ir jos vis dažniau naudoja dirbtinio intelekto įrankius, tokius kaip veido atpažinimas arba eisenos atpažinimas, kad nustatytų, kas yra žmonės pagal jų eiseną ir kaip jie vaikšto. Ir susiejant tai su kitų tipų duomenimis, pvz., valstybinių numerių duomenimis, skambučiais ar geografinės padėties duomenimis telefonuose ir žmonių pirkimo elgsena, kad būtų galima stebėti ir sekti Kinijos piliečius.
O Kinija daug technologijų eksportuoja į užsienį, todėl 80 pasaulio šalių įsigijo Kinijos stebėjimo technologijas. Ir galbūt dar labiau nerimą kelia tai, kad vis dažniau pastebime Kinijos taikomų normų ir įstatymų eksportą į kitas šalis, kad naudotų šią technologiją. Taigi socialinė programinė įranga, jei norite, yra sujungta su kai kurių stebėjimo technologijų fizine aparatine įranga. Ir tai kelia didelį nerimą, nes ne tik tai, kad technologijos naudojamos žmogaus teisių pažeidimams Kinijoje ir galbūt jas gali panaudoti kitos šalys, bet vienas iš nerimą keliančių dalykų, susijusių su AI įgalinta priespauda, yra tai, kad ji padidina valstybės gebėjimą stebėti piliečius. ir todėl paspartinti pačią priespaudos sistemą.
Kaip atrodytų konkuruojantis modelis?
Na, tai yra problemos dalis. Vienas iš iššūkių, su kuriais susiduria demokratijos, yra tai, kad mes dar neturime tokio modelio. Taigi, pavyzdžiui, veido atpažinimo srityje turime sumaišytą sistemą, kuri JAV kuriama pagal skirtingus reglamentus, pavyzdžiui, veido atpažinimo naudojimą teisėsaugos srityje, priklausomai nuo to, kur gyvenate JAV ir keliuose miestuose bei valstijose. Žinote, kad teisėsaugai uždraudė naudoti veido atpažinimo priemones, manau, kad vienas iš iššūkių, su kuriais susiduria demokratijos, yra tai, kad decentralizuotas demokratinių valstybių valdžios pobūdis reiškia, kad technologijų valdymo sprendimo sugalvojimas užtrunka ilgiau. Tai užtrunka ilgiau, nes kartais greitas atsakymas nėra teisingas.
Taigi, kokie apsauginiai turėklai, jūsų manymu, turėtų būti ant šios technologijos?
Laikui bėgant, tam tikru būdu reguliuoti AI technologijas; tikriausiai daugelis iš jų priklausys nuo sektoriaus. Medicinos taikomųjų programų DI reglamentai pateks į platesnę paradigmą, kaip reguliuojame medicinos prietaisų įrankius ir saugą, o DI reglamentavimas finansinėse programose priklausys nuo prekybos ir kitų finansinių dalykų reguliavimo. Bet aš manau, kad dirbtinis intelektas nepaiso taisyklių ir verta pagalvoti apie tai, kad Amerikoje turime tik švarų orą ir vandenį, saugius greitkelius, saugias keliones lėktuvu ir saugų maistą Amerikoje dėl vyriausybės reguliavimo. pramonės.
Mums reikia tam tikros reguliavimo sistemos labai dideliems mokymo modeliams. Manau, kad tai yra pokalbis, kurį turime pradėti, iš dalies todėl, kad šie dideli modeliai daugeliu atvejų yra dvejopo naudojimo. Jie galėtų būti naudojami teksto generavimui ir pokalbiams su jais arba esė rašymui, tačiau jie taip pat galėtų būti naudojami kibernetiniams pažeidžiamumams surasti, iš esmės, jei jie būtų sudėtingesni, galbūt būtų naudojami padėti kam nors suplanuoti teroristinį išpuolį. pakenkti ar sugalvoti, kaip, žinai, ne šiandien, o ateityje pasigaminti biologinį ginklą ar kokį kitą naikinamąjį įtaisą. Tai pokalbis, kurį turime pradėti iš dalies dabar, nes technologijos tempas yra daug, daug, daug greitesnis nei politinių diskusijų Vašingtone tempas.
Kokie, jūsų manymu, gali būti AI trūkumai, ypač kai pasiekiame tašką, kai iš tikrųjų pirmiausia kuriame naujas technologijas, o vėliau užduodame klausimus?
Tai puikus taškas. Manau, turėtume abejoti DI technologija, nes šiandien yra daug problemų su DI technologija: ji nepatikima, dažnai labai trapi ta prasme, kad AI sistemos gali gerai veikti tam tikruose kontekstuose, o tada dažnai gali labai smarkiai sugesti. kitose.
Pranešama, kad vienas iš mano mėgstamiausių šio trapumo pavyzdžių buvo viena iš ankstyvųjų AlphaGo versijų – dirbtinio intelekto agentas, pasiekęs superžmonišką našumą žaidime „Go“. Jei šiek tiek pakeisite lentos dydį, proporcingai jos našumas labai smarkiai sumažėjo, nes buvo neapmokytas tokio dydžio duomenų. Jis buvo mokomas tik tam tikrose s ize ir tai yra geras pavyzdys problemų, kurios dažnai iškyla gana trapios ir nesugeba apibendrinti vienos ir kitos situacijos.
Kai kuriuos iš jų matome visai neseniai, pavyzdžiui, įdiegus šiuos pokalbių robotus paieškoje. Turiu omenyje, kad tiek „Microsoft“, tiek „Google“ neseniai viešai įdiegė AI pokalbių robotus, kurie nebuvo pasirengę. Ir problema yra ne ta, kad Bing skelbia savo meilę vartotojams ir sako, kad kažkas, su kuriuo kalbasi, turėtų palikti savo žmoną, kad liktų su ja – turiu galvoje, tai keista – bet tikroji problema yra ta, kad geriausi AI mokslininkai pasaulis nežino, kaip neleisti šiems pokalbių robotams to daryti.
Taigi, mano nuomone, tai turėtų leisti mums pristabdyti, kai galvojame apie tai, kaip šias AI sistemas panaudoti realesnėse programose. Šiuo metu rizika, kad pokalbių robotas įskaudins kažkieno jausmus, nesugriauna pasaulį, bet kadangi matome, kad dirbtinis intelektas yra integruotas į dideles pasekmes turinčias programas, tikrai norime įsitikinti, kad šios sistemos darys tai, ko norime. daryti.
Ir, žinote, kai kurių didžiųjų įmonių elgesys čia nebuvo itin atsakingas. Taip jau matome su atviruoju AI, „Microsoft“ ir „Google“, o „Google“ matė, kad per pastaruosius porą mėnesių skubėjo diegti dirbtinio intelekto pokalbių robotus, kurie visiškai nebuvo paruošti, o įmonės reaguoja viena į kitą šioje konkurencinėje dinamikoje, kuri yra tikrai žalinga. tokios lenktynės dėl saugumo.
Ar šiuo metu turite teigiamą požiūrį į AI ateitį? Ko tu tikiesi?
Tai juokinga. Nepasakyčiau, kad į technologijas žiūriu optimistiškai. Aš turiu galvoje, kad aš gana žiauriai žiūriu į tai, kur DI žengia pagal galimybes. Tiesiog manau, kad mes matėme didžiulę pažangą ir nemanau, kad artimiausiu metu ji sulėtėtų. Tačiau su AI kyla daug pavojų. Norėčiau tik pasakyti, kad optimistiškai žiūriu į visuomenės gebėjimą suvaldyti šias rizikas. Manau, kad kai žengiame žingsnį atgal ir žiūrime į žmogaus pažangą, tai yra geriausias laikas gyventi.
Matėme didžiulę pažangą per pastaruosius kelis šimtus metų didinant žmonių gyvenimo lygį, mažinant skurdą, ilginant gyvenimo trukmę ir mažinant kūdikių mirtingumą. Yra rimtų priežasčių būti optimistiškai nusiteikusiems dėl ateities ir mūsų galimybės toliau naudoti technologijas, kad pagerintume savo gyvenimą labai prasmingu būdu.
Manau, kad dirbtinio intelekto technologija turi labai didelių iššūkių. Nerimą kelia tai, kad šios problemos atrodo labai sunkios. Šios techninės problemos, kylančios norint priversti AI daryti tai, ko norite, yra gana sudėtingos. Ir manau, kad svarbu, kad kai kurios iš šių techninių problemų būtų aiškios. Jaučiuosi labai padrąsintas, nes iš tikrųjų kai kurios iš šių santykinai viešų nesėkmių padidino susirūpinimą dėl AI ir padidino žmonių, kurie atkreipia dėmesį į šią problemą, skaičių.
„Four Battlegrounds: Power in the Age of Artificial Intelligence“ buvo išleistas vasario 28 d.
AI dirbtinio intelekto kariuomenė Daugiau…
Išpirkite dabar
