Farba Maxo Tegmarko, praėjusios savaitės dirbtinio intelekto viršūnių susitikimas Bletchley parke buvo emocingas momentas. MIT profesorius ir dirbtinio intelekto tyrinėtojas šiais metais paskelbė laišką, kuriame raginama sustabdyti pažangių sistemų kūrimą. Tai neįvyko, bet tai buvo esminis indėlis į politinį ir akademinį impulsą, dėl kurio susirinko Bletchley.
“[The summit] iš tikrųjų padarė mane optimistiškesnį. Tai tikrai pranoko mano lūkesčius“, – sakė jis. „Dirbu apie 10 metų, tikėdamasis, kad vieną dieną įvyks tarptautinis aukščiausiojo lygio susitikimas dirbtinio intelekto saugos klausimais. Matyti, kad tai vyksta savo akimis – ir taip stebėtinai gerai – buvo labai jaudina.
Laikydamas 50 svarų sterlingų kupiūrą su Bletchley kodų laužytojo Alano Turingo veidu, Tegmarkas pridūrė, kad buvo įrodyta, kad kompiuterių genijus – pagrindinė AI istorijos figūra – teisus. „Sutinku su Turingu – jei mes tiesiog suskubtume kurti mašinas, kurios yra daug protingesnės už mus, mes nekontroliuosime savo ateities ir tikriausiai būsime išnaikinti.
Tačiau Tegmarkas mano, kad Bletchley buvo padaryta pažanga. Štai trumpa to, kas nutiko, santrauka.
Bletchley deklaracija
Viršūnių susitikimas prasidėjo komunikatu, kurį pasirašė beveik 30 vyriausybių, įskaitant JAV ir Kiniją, taip pat ES. Rishi Sunak šį pareiškimą apibūdino kaip „gana neįtikėtiną“, nes jam pavyko pasiekti, kad konkuruojančios supervalstybės ir šalys, turinčios skirtingą požiūrį į AI vystymą, susitartų dėl bendros žinutės.
Deklaracija pradedama nuoroda į DI, suteikiantį „didžiulių pasaulinių galimybių“, galinčių „pakeisti ir didinti žmonių gerovę, taiką ir gerovę“, tačiau technologija turi būti sukurta taip, kad būtų „orientuota į žmogų, patikima ir atsakinga“. . Taip pat pabrėžiamas tarptautinis bendradarbiavimas, įskaitant nuorodą į „tarptautinį įtraukų mokslinių tyrimų tinklą“ dėl AI saugos.
Tačiau labiausiai dėmesio vertas skyrius buvo susijęs su pagrindiniu aukščiausiojo lygio susitikimo tikslu: užtikrinti, kad pasienio AI – pažangiausių sistemų terminas – nebūtų siaubingai išmuštas iš rankų. Kalbėdamas apie AI potencialą sukelti katastrofą, jame sakoma: „Dėl svarbiausių šių AI modelių galimybių gali būti padaryta rimta, net katastrofiška žala, tyčinė ar netyčinė.
Prieš šį dėmesį patraukiantį sakinį buvo nuoroda į tiesioginę žalą, pvz., kibernetines atakas ir dezinformaciją. Diskusijos dėl to, ar dirbtinis intelektas gali sunaikinti žmoniją, tebevyksta – taip pat manoma, kad baimės yra per daug suvaidintos, tačiau, atrodo, sutariama, kad dirbtinio intelekto sukurta dezinformacija yra neatidėliotina problema, kurią reikia spręsti.
Sunak siekis paversti aukščiausiojo lygio susitikimą įprastu renginiu buvo įvykdytas. Pietų Korėja surengs virtualų renginį po šešių mėnesių, o Prancūzija surengs pilną viršūnių susitikimą po 12 mėnesių.
JK gali nepriversti pasaulio lyderių pažvelgti į kamerą, tačiau ji turi susitarti dėl dirbtinio intelekto saugos sistemos sukūrimo. Nuotrauka: Leon Neal / Getty ImagesTaigi ar šie kruopščiai surinkti žodžiai paskatins reguliavimo ar teisės aktų pakeitimus? Charlotte Walker-Osborn, tarptautinės advokatų kontoros Morrison Foerster technologijų partnerė, teigia, kad deklaracija „greičiausiai dar labiau paskatins tam tikrą tarptautinį įstatymų leidybos ir vyriausybių sutarimą dėl pagrindinių dirbtinio intelekto reguliavimo principų“. Pavyzdžiui, ji cituoja pagrindinius principus, tokius kaip skaidrumas, kada ir kaip naudojamas dirbtinis intelektas, informacija apie mokymo sistemose naudojamus duomenis ir patikimumo reikalavimas (apima viską nuo šališkų rezultatų iki gilių klastočių).
Tačiau Walker-Osborn sako, kad „tikrai vienodas požiūris yra mažai tikėtinas“, nes „skirtingi požiūriai į reguliavimą ir apskritai valdymą“ įvairiose šalyse. Nepaisant to, deklaracija yra orientyras, jei tik todėl, kad pripažįstama, kad dirbtinis intelektas negali toliau vystytis be griežtesnės priežiūros.
AI būklės ataskaita
Sunakas aukščiausiojo lygio susitikime paskelbė „AI mokslo padėties“ ataskaitą, o inauguracinei ataskaitai pirmininkavo Yoshua Bengio, vienas iš trijų vadinamųjų „AI krikštatėvių“, laimėjusių ACM Turingo apdovanojimą – Nobelio premijos atitikmenį kompiuterių mokslo srityje. – už darbą dirbtinio intelekto srityje 2018 m. Ataskaitą rašančią grupę sudarys pirmaujantys AI akademikai, o ją palaikys patariamoji grupė iš šalių, kurios dalyvavo aukščiausiojo lygio susitikime (taigi, JAV ir Kinija dalyvaus).
Bengio pasirašė Tegmarko laišką, o gegužę taip pat pasirašė pareiškimą, įspėjantį, kad AI išnykimo rizikos mažinimas turėtų būti pasaulinis prioritetas kartu su pandemijomis ir branduoliniu karu. Jis rimtai žiūri į DI saugos temą.
JK ministras pirmininkas sakė, kad šią idėją įkvėpė Tarpvyriausybinė klimato kaitos komisija ir ją palaikė JT generalinis sekretorius António Guterresas. kurie dalyvavo viršūnių susitikime. Tačiau tai nebus JT vykdomas projektas, o JK vyriausybės remiamas AI saugos institutas priims Bengio biurą ataskaitai.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
Tarptautinis saugos bandymas
Grupė vyriausybių, dalyvaujančių aukščiausiojo lygio susitikime, ir pagrindinės dirbtinio intelekto įmonės sutiko bendradarbiauti bandant savo AI modelius prieš ir po jų viešo išleidimo. 11 pasirašiusiųjų vyriausybių buvo ES, JAV, JK, Australija, Japonija, bet ne Kinija. Į aštuonias kompanijas buvo įtraukta „Google“, „ChatGPT“ kūrėja „OpenAI“, „Microsoft“, „Amazon“ ir „Meta“.
JK jau susitarė dėl partnerystės tarp savo AI saugos instituto ir JAV kolegos (apie tai buvo paskelbta prieš praėjusią savaitę vykusį aukščiausiojo lygio susitikimą), taip pat su Singapūru, kad bendradarbiautų atliekant saugos bandymus. Tai yra savanoriškas nustatymas ir yra tam tikras skeptiškas požiūris į tai, kokį poveikį Bletchley pranešimai turės, jei jie nebus pagrįsti reglamentu. Sunakas praėjusią savaitę žurnalistams sakė, kad dar nėra pasirengęs priimti teisės aktų, todėl pirmiausia reikia atlikti tolesnius pažangių modelių bandymus (nors pridūrė, kad tam tikru momentu tikriausiai prireiks „įpareigojančių reikalavimų“).
Tai reiškia, kad Baltųjų rūmų vykdomasis įsakymas dėl dirbtinio intelekto naudojimo, išleistas tą pačią savaitę kaip ir viršūnių susitikimas, ir būsimas Europos Sąjungos AI įstatymas toliau lenkia JK įvesdami naują privalomą šios technologijos reguliavimą.
„Kalbant apie modelių kūrėjų elgesį… artėjantis ES AI įstatymas ir prezidento Bideno vykdomasis įsakymas greičiausiai turės didesnį poveikį“, – sako pagrindinė bendrovės „Forrester“ analitikė Martha Bennett.
Vis dėlto kiti džiaugiasi tuo, kaip Bletchley suformavo diskusijas ir sujungė skirtingus požiūrius. Glazgo universiteto direktoriaus pavaduotoja ir mokslo ir inžinerijos kolegijos vadovė profesorė Dame Muffy Calder nerimavo, kad aukščiausiojo lygio susitikime per daug bus kalbama apie egzistencinę riziką, o ne apie „tikrąsias ir dabartines problemas“. Ši baimė, jos įsitikinimu, buvo numalšinta. „Viršūnių susitikimas ir deklaracija neapsiriboja tik „pasienio AI“ rizika“, – sako ji. „Pavyzdžiui, tokie klausimai kaip skaidrumas, sąžiningumas, atskaitomybė, reguliavimas, tinkama žmogiškoji priežiūra ir teisinės sistemos yra aiškiai nurodytos deklaracijoje. Kaip ir bendradarbiavimas. Tai puiku.“
Skaitykite daugiau apie šią istoriją
- Penki išsinešti nuo viršūnės.
- Seserų naujienlaiškio pirmasis leidimas apima tai, apie ką sužinojome AI pavojus.
- The dideles galias užsiregistravo Sunako susitikime – grūmėsi dėl pozicijos.
- Zoe Williams labai gerai sprendžia šią problemą tech bro filantropija.
- Tai ne AI, o technologijų gigantai kurie jį valdo, kuriuos reikia suvaldyti, rašo Johnas Naughtonas.
- DI pradininkas Fei-Fei Li: „Man labiau rūpi čia kylančios rizikos ir dabar.”
- Sunako viršūnių susitikime prekiaujama Silicio slėnio įžymybe ir atskleidžiama JK „Brexit“ dilemostvirtina Rafaelis Behras.
Jei norite perskaityti visą naujienlaiškio versiją, užsiprenumeruokite, kad kiekvieną antradienį gautuosiuose gautumėte „TechScape“
