A tyrėjui anksčiau šiais metais „Facebook“ patronuojanti įmonė „Meta“ suteikė prieigą prie neįtikėtinai stiprios dirbtinio intelekto programinės įrangos ir nutekino ją pasauliui. Kaip buvęs Metos pilietinio sąžiningumo ir atsakingų dirbtinio intelekto komandų tyrinėtojas, man baisu, kas gali nutikti toliau.
Nors Meta buvo pažeista dėl nutekėjimo, ji tapo nugalėtoja: mokslininkai ir nepriklausomi programuotojai dabar lenktyniauja, kad patobulintų arba sukurtų LLaMA (Large Language Model Meta AI – Meta firminė didelės kalbos modelio arba LLM versija) „ChatGPT“ pagrindu sukurta programinė įranga), daugelis atvirai dalijasi savo darbu su pasauliu.
Dėl to Meta galėtų būti pagrindinė dominuojančios AI platformos savininkė, panašiai kaip „Google“ valdo atvirojo kodo „Android“ operacinę sistemą, kuri yra sukurta ir pritaikyta įrenginių gamintojų visame pasaulyje. Jei Meta užsitikrintų šią centrinę vietą dirbtinio intelekto ekosistemoje, ji turėtų svertų formuoti AI kryptį pagrindiniu lygmeniu, kontroliuodama tiek atskirų vartotojų patirtį, tiek nustatydama ribas, ką kitos įmonės gali ir ko negali daryti. Lygiai taip pat, kaip „Google“ pelno milijardus iš „Android“ reklamos, programų pardavimo ir sandorių, „Meta“ gali dirbti labai pelningai dirbtinio intelekto erdvėje, kurios tiksli struktūra dar neišaiškinta.
Akivaizdu, kad bendrovė paskelbė panaikinimo pranešimus, kad nutekėjęs kodas būtų prieinamas neprisijungus, nes jis turėjo būti prieinamas tik moksliniams tyrimams, tačiau po nutekėjimo bendrovės vyriausiasis dirbtinio intelekto mokslininkas Yann LeCun sakė: „Laimės platforma atvirasis“, – tai rodo, kad bendrovė gali tiesiog naudoti atvirojo kodo modelį kaip konkurencinę strategiją.
Nors Google Bard ir OpenAI ChatGPT galima naudoti nemokamai, jie nėra atvirojo kodo. Bardas ir ChatGPT remiasi inžinierių, turinio moderatorių ir grėsmių analitikų komandomis, kurios stengiasi užkirsti kelią jų platformų naudojimui žalai – dabartinėmis iteracijomis jie (tikiuosi) nepadės jums sukurti bombos, suplanuoti teroristinį išpuolį ar padaryti netikrą. turinys, skirtas sužlugdyti rinkimus. Šie žmonės ir jų kuriamos bei prižiūrimos sistemos palaiko „ChatGPT“ ir „Bard“ suderinamumą su konkrečiomis žmogiškosiomis vertybėmis.
Tačiau „Meta“ pusiau atviro kodo LLaMA ir jos palikuonius didelių kalbų modelius (LLM) gali valdyti bet kas, turintis pakankamai kompiuterinės įrangos, kad galėtų juos palaikyti – naujausius palikuonis galima naudoti komerciniuose nešiojamuosiuose kompiuteriuose. Tai suteikia visiems – nuo nesąžiningų politinių konsultacijų iki Vladimiro Putino gerai aprūpintos GRU žvalgybos agentūros – laisvę valdyti dirbtinį intelektą be jokių saugos sistemų.
Nuo 2018 iki 2020 metų dirbau Facebook pilietinio sąžiningumo komandoje. Savo gyvenimo metus paskyriau kovai su internetiniu kišimu į demokratiją iš daugelio šaltinių. Mano kolegos ir aš žaidėme ilgus žaidimus „išdaužyti“ su diktatoriais visame pasaulyje, kurie naudojo „koordinuotą neautentišką elgesį“, samdė žmonių komandas, kurios rankiniu būdu sukurtų netikras paskyras, kad reklamuotų savo režimus, stebėtų ir priekabiautų prie jų priešus, kurstytų neramumus ir net. skatinti genocidą.
„Po kelių etatų atleidimo, bijau, kad Metos gebėjimas kovoti su „įtakos operacijomis“ buvo sugadintas. Nuotrauka: ZUMA Press, Inc. / Alamy Standartinė nuotrauka / Alamy Live News.Spėčiau, kad Putino komanda jau ieško puikių dirbtinio intelekto įrankių, galinčių sutrikdyti 2024 m. JAV prezidento rinkimus (tikriausiai ir kitų šalių). Galiu įsivaizduoti keletą geresnių jo arsenalo papildymų nei atsirandantys laisvai prieinami LLM, tokie kaip LLaMA, ir aplink juos kuriamas programinės įrangos paketas. Jį būtų galima panaudoti, kad netikras turinys būtų įtikinamesnis (daugelis 2016 m. dislokuoto rusiško turinio turėjo gramatinių ar stilistinių trūkumų) arba sukurti daug daugiau jo, arba netgi gali būti panaudotas kaip „klasifikatorius“, kuris nuskaito socialinės žiniasklaidos platformas. ypač pakurstantis tikrų amerikiečių turinys, kurį galima papildyti netikrais komentarais ir reakcijomis. Ji taip pat galėtų parašyti įtikinamus scenarijus gilioms klastotėms, kuriose sintezuojami vaizdo įrašai, kuriuose politiniai kandidatai sako tai, ko niekada nesakė.
Viso to ironija ta, kad Meta platformos („Facebook“, „Instagram“ ir „WhatsApp“) bus vienos didžiausių mūšio laukų, kuriuose bus vykdomos šios „įtakos operacijos“. Deja, pilietinio sąžiningumo komanda, kurioje dirbau, buvo uždaryta 2020 m., o po kelių etatų atleidimo, bijau, kad įmonės gebėjimas kovoti su šiomis operacijomis buvo sutrikdytas.
Tačiau dar didesnį nerimą kelia tai, kad dabar įžengėme į socialinės žiniasklaidos „chaoso erą“, o naujų ir augančių platformų, kurių kiekviena turi atskiras ir daug mažesnes „vientisumo“ arba „pasitikėjimo ir saugos“ komandas, daugėjimas gali būti tolygus. mažiau nei Meta, kad aptiktų ir sustabdytų įtakos operacijas, ypač paskutinėmis rinkimų dienomis ir valandomis, kai greitis yra pats svarbiausias.
Tačiau mano susirūpinimas nesibaigia demokratijos erozija. Padirbėjęs „Facebook“ pilietinio sąžiningumo komandoje, pradėjau vadovauti tyrimų grupėms, dirbančioms su atsakingu dirbtiniu intelektu, fiksuodamas galimą AI žalą ir ieškodamas būdų, kaip padaryti jį saugesnį ir teisingesnį visuomenei. Mačiau, kaip mano darbdavio dirbtinio intelekto sistemos gali palengvinti būsto diskriminaciją, sukurti rasistines asociacijas ir neleisti moterims matyti vyrų darbo sąrašų. Už įmonės sienų dirbtinio intelekto sistemos nesąžiningai rekomendavo juodaodžiams skirti ilgesnes kalėjimo bausmes, nesugebėjo tiksliai atpažinti tamsiaodžių moterų veidų ir sukėlė daugybę papildomų žalos incidentų, kurių tūkstančiai įtraukiami į AI incidentų duomenų bazę.
Tačiau baisiausia yra tai, kad pirmiau aprašyti incidentai dažniausiai buvo nenumatytos AI sistemų diegimo dideliu mastu pasekmės. Kai dirbtinis intelektas yra žmonių, kurie sąmoningai ir piktybiškai juo piktnaudžiauja, rankose, nesutapimo rizika didėja eksponentiškai, o didėjant AI galimybėms, dar labiau padidėja.
Būtų teisinga paklausti: ar LLM vis tiek neišvengiamai netaps atviro kodo? Nuo LLaMA nutekėjimo prie lenktynių prisijungė daugybė kitų įmonių ir laboratorijų, kai kurios išleido LLM, kurios valdžioje konkuruoja su LLaMA su leistinesnėmis atvirojo kodo licencijomis. Vienas LLM, sukurtas remiantis LLaMA, išdidžiai išreiškia savo „necenzūrinį“ pobūdį, nurodydamas, kad saugos patikrinimų nebuvimas yra funkcija, o ne klaida. Tačiau šiandien atrodo, kad Meta yra vieniša dėl savo gebėjimo ir toliau leisti vis galingesnius modelius ir pasirengimą atiduoti juos į kiekvieno norinčiojo rankas. Svarbu atsiminti, kad jei piktavališki veikėjai gali patekti į kodą, vargu ar jiems rūpės, kas sakoma licencijos sutartyje.
Išgyvename tokio spartaus dirbtinio intelekto technologijų įsibėgėjimo akimirką, kad net keliems mėnesiams sustabdžius jų išleidimą, ypač atvirojo kodo išleidimą, vyriausybėms gali tekti laiko priimti svarbius reglamentus. To reikalauja tokie generaliniai direktoriai kaip Samas Altmanas, Sundaras Pichai ir Elonas Muskas. Technologijos įmonės taip pat turi daug griežčiau kontroliuoti, kas gali būti „tyrėjas“, kad gautų specialią prieigą prie šių potencialiai pavojingų įrankių.
Mažesnėms platformoms (ir ištuštėjusioms didesnių platformų komandoms) taip pat reikia laiko, kad jų pasitikėjimo ir saugos / vientisumo komandos pasivytų LLM pasekmes, kad galėtų sukurti apsaugą nuo piktnaudžiavimo. Generuojančios dirbtinio intelekto įmonės ir komunikacijos platformos turi dirbti kartu, kad panaudotų vandenženklį, kad būtų galima identifikuoti AI sukurtą turinį, ir skaitmeninius parašus, kad patikrintų, ar žmonių sukurtas turinys yra autentiškas.
Lenktynės dėl AI saugos dugno, kurias dabar matome, turi sustoti. Praėjusį mėnesį vykusiuose klausymuose prieš JAV Kongresą AI ekspertas Gary Marcus ir OpenAI generalinis direktorius Samas Altmanas ragino sukurti naujas tarptautines valdymo institucijas, specialiai skirtas dirbtiniam intelektui, panašias į institucijas, atsakingas už branduolinį saugumą. ES šiuo klausimu gerokai lenkia JAV, bet, deja, jos novatoriškas ES Dirbtinio intelekto įstatymas gali visiškai neįsigalioti iki 2025 m. ar vėliau. Jau per vėlu, kad šiose lenktynėse ką nors pakeisti.
Kol nebus priimti nauji įstatymai ir nauji valdymo organai, mes, deja, turėsime pasikliauti technologijų vadovų pakantumu, kad sustabdytume galingiausių ir pavojingiausių įrankių patekimą į netinkamas rankas. Taigi, prašau, generaliniai direktoriai: sulėtinkime greitį prieš sulaužydami demokratiją. Ir įstatymų leidėjai: paskubėkite.
- Davidas Evanas Harrisas yra UC Berkeley kanclerio viešasis mokslininkas, Tarptautinio kompiuterių mokslo instituto vyresnysis mokslinis bendradarbis, Technologijos psichologijos instituto vyresnysis patarėjas dirbtinio intelekto etikos klausimais, CITRIS politikos laboratorijos bendradarbis ir Tarptautinio centro autorius. Valdymo naujovės
