Vyriausybė neturėtų „atsisakyti“ savo atsakomybės ir palikti būsimą dirbtinio intelekto kelią tik „Big Tech“, – trečiadienį Kongreso komisijai sakė MIT kadence projektavimo sistemų skaičiavimo profesorius ir MIT diegiamųjų mašinų mokymosi centro direktorius Aleksandras Mądry. .
Mądry teigimu, vyriausybė turėtų užduoti klausimus apie korporacijų naudojamų algoritmų tikslą ir paaiškinamumą kaip reguliavimo pirmtaką, kurį jis apibūdino kaip „svarbią priemonę“, užtikrinančią, kad dirbtinis intelektas atitiktų visuomenės tikslus. Jei vyriausybė nepradės kelti klausimų, „aš labai nerimauju“ dėl dirbtinio intelekto ateities“, – sakė Mądry, atsakydamas į atstovo Geraldo Connolly klausimą.
Mądry, pagrindinis paaiškinamumo ir dirbtinio intelekto ekspertas, liudijo posėdyje, pavadintame „Pažanga DI: ar mes pasiruošę technologijų revoliucijai? prieš Atstovų rūmų Kibernetinio saugumo, informacinių technologijų ir vyriausybės inovacijų pakomitetį, Atstovų rūmų vyriausybės reformos ir priežiūros komiteto grupę. Kiti posėdyje dalyvavę liudininkai buvo buvęs „Google“ generalinis direktorius Ericas Schmidtas, IBM viceprezidentas Scottas Crowderis ir AI bei skaitmeninės politikos centro vyresnioji tyrimų direktorė Merve Hickok.
Savo įžanginėje kalboje pakomitečio pirmininkė Nancy Mace citavo Schmidto, Henry Kissingerio ir MIT Schwarzman kompiuterių koledžo dekano Dano Huttenlocherio knygą „The Age of AI: And Our Human Future“. Ji taip pat atkreipė dėmesį į kovo 3 d The „Wall Street Journal“. trijų autorių, kurie apibendrino knygą aptardami ChatGPT. Mace teigė, kad jos oficialias įžangines pastabas parašė tik „ChatGPT“.
Savo parengtose pastabose Mądry iškėlė tris esminius dalykus. Pirma, jis pažymėjo, kad AI „nebėra mokslinės fantastikos reikalas“ arba apsiriboja tyrimų laboratorijomis. Jis yra pasaulyje, kur jis gali duoti didžiulę naudą, bet taip pat kelia pavojų.
Antra, jis sakė, kad dirbtinis intelektas atskleidžia mus „sąveikoms, kurios prieštarauja mūsų intuicijai“. Jis sakė, kad kadangi dirbtinio intelekto įrankiai, tokie kaip „ChatGPT“, imituoja žmonių bendravimą, žmonės per daug linkę neabejotinai patikėti, ką sukuria tokie dideli kalbų modeliai. Blogiausiu atveju, perspėjo Mądry, atrofuos žmogaus analitiniai įgūdžiai. Jis taip pat teigė, kad būtų klaida reguliuoti dirbtinį intelektą taip, lyg tai būtų žmogus, pavyzdžiui, prašyti AI paaiškinti savo samprotavimus ir darant prielaidą, kad gauti atsakymai yra patikimi.
Galiausiai jis teigė, kad per mažai dėmesio buvo skirta problemoms, kurios atsiras dėl AI „tiekimo grandinės“ pobūdžio – būdo, kaip dirbtinio intelekto sistemos kuriamos viena ant kitos. Pagrindas yra bendros sistemos, pvz., „ChatGPT“, kurias gali sukurti tik kelios įmonės, nes jos yra labai brangios ir sudėtingos. Tokių sistemų viršuje yra daug AI sistemų, sukurtų atlikti tam tikrą užduotį, pavyzdžiui, išsiaiškinti, ką įmonė turėtų samdyti.
Mądry teigė, kad šis sluoksniavimas iškėlė keletą „politikai svarbių“ problemų. Pirma, visa AI sistema yra veikiama bet kokių pažeidžiamumų ar paklaidų, esančių didelėje sistemoje, ir ji priklauso nuo kelių didelių įmonių darbo. Antra, AI sistemų sąveika nėra gerai suprantama techniniu požiūriu, todėl dirbtinio intelekto rezultatus dar sunkiau numatyti ar paaiškinti, o įrankius sunku „audituoti“. Galiausiai, dėl dirbtinio intelekto įrankių derinio sunku žinoti, ką laikyti atsakingais iškilus problemai – kas turėtų būti teisiškai atsakingas ir kas turėtų spręsti problemą.
Pakomitečiui pateiktoje rašytinėje medžiagoje Mądry padarė išvadą: „AI technologija nėra ypač tinkama diegti per sudėtingas tiekimo grandines“, nors būtent taip ji ir yra įdiegta.
Mądry baigė savo parodymus ragindamas Kongresą ištirti AI problemas ir būti pasirengęs veikti. „Esame lūžio taške, kalbant apie ateities AI. Pasinaudoti šia galimybe reiškia aptarti AI vaidmenį, ką tiksliai norime, kad jis mums padarytų ir kaip užtikrinti, kad tai būtų naudinga mums visiems. Tai bus sunkus pokalbis, bet mes turime jį turėti ir turėti dabar“, – pakomitečiui sakė jis.
Visų apklaustų liudytojų parodymai ir apie dvi valandas trukusio posėdžio vaizdo įrašas yra prieinami internete.
