Gary Marcusas liudijo JAV Senatui per posėdį dėl dirbtinio intelekto 2023 m. gegužės viduryje. Nuo tada, kai prieš šešis mėnesius pasirodė eilėraštis apie ChatGPT, ekspertas Gary Marcusas išreiškė atsargumą dėl itin greito dirbtinio intelekto kūrimo ir pritaikymo.
Tačiau prieš apokaliptinius dirbtinio intelekto pražūtinguosius Niujorko universiteto profesorius emeritas neseniai duodamas interviu AFP sakė, kad šios technologijos egzistencinės grėsmės šiuo metu gali būti „perpūstos“.
„Aš asmeniškai nesu toks susirūpinęs dėl išnykimo rizikos, bent jau kol kas, nes scenarijai nėra tokie konkretūs“, – sakė Marcusas San Franciske.
„Bendresnė problema, dėl kurios aš nerimauju, yra ta, kad kuriame dirbtinio intelekto sistemas, kurių nelabai gerai valdome, ir manau, kad tai kelia daug rizikos, (bet) galbūt ne tiesiogine egzistencine.
Dar gerokai prieš atsirandant ChatGPT, Marcusas sukūrė savo pirmąją AI programą vidurinėje mokykloje – programinę įrangą, skirtą lotynų kalbai išversti į anglų kalbą, o po metų vaikų psichologijos studijų įkūrė Geometric Intelligence – mašininio mokymosi įmonę, kurią vėliau įsigijo Uber.
„Kodėl AI?”
Kovo mėnesį sunerimęs, kad „ChatGPT“ kūrėjas OpenAI kartu su „Microsoft“ išleidžia savo naujausią ir galingesnį dirbtinio intelekto modelį, Marcusas pasirašė atvirą laišką su daugiau nei 1000 žmonių, įskaitant Eloną Muską, ragindamas visuotinai sustabdyti dirbtinio intelekto kūrimą.
Tačiau praėjusią savaitę jis nepasirašė glaustesnio verslo lyderių ir specialistų, įskaitant OpenAI bosą Samą Altmaną, pareiškimo, kuris sukėlė ažiotažą.
Pasaulio lyderiai turėtų stengtis sumažinti dirbtinio intelekto technologijų „išnykimo riziką“, tvirtino signatarai.
Vienareikšmiame pareiškime teigiama, kad dirbtinio intelekto keliamos rizikos mažinimas turėtų būti „pasaulinis prioritetas kartu su kitomis visuomeninio masto rizikomis, tokiomis kaip pandemijos ir branduolinis karas“.
Tarp pasirašiusiųjų buvo tie, kurie kuria sistemas, siekdami sukurti „bendrą“ AI – technologiją, kuri prilygintų žmonių pažintiniams gebėjimams.
„Jei tikrai manote, kad egzistuoja egzistencinė rizika, kodėl iš viso dirbate su tuo? Tai gana teisingas klausimas”, – sakė Marcusas.
Užuot sutelkusi dėmesį į labiau nutolusius scenarijus, kai niekas neišgyvena, visuomenė turėtų atkreipti dėmesį į tai, kur slypi tikri pavojai, spėjo Marcusas.
„Žmonės gali bandyti manipuliuoti rinkomis naudodami dirbtinį intelektą, kad sukeltų visokią chaosą, o tada, pavyzdžiui, galime kaltinti rusus ir sakyti: „Pažiūrėkite, ką jie padarė mūsų šaliai“, kai rusai iš tikrųjų nedalyvavo. “, – tęsė jis.
„Jūs (galite) turėti tokį eskalavimą, kuris baigiasi branduoliniu karu ar panašiai. Taigi manau, kad yra scenarijų, kai tai buvo gana rimta. Išnykimas? Nežinau.”
Grėsmė demokratijai
Per trumpą laiką psichologijos ekspertas nerimauja dėl demokratijos.
Generatyvioji AI programinė įranga už nedidelę kainą sukuria vis labiau įtikinančias netikras nuotraukas, o netrukus ir vaizdo įrašus.
Dėl to „rinkimus laimės žmonės, kurie geriau skleidžia dezinformaciją, ir tie žmonės gali pakeisti taisykles ir labai apsunkinti demokratijos vystymąsi“.
Be to, „demokratija grindžiama pagrįstos informacijos turėjimu ir gerų sprendimų priėmimu. Jei niekas nežino, kuo tikėti, tai kaip išvis tęsti demokratiją?”
Tačiau knygos „Rebooting AI“ autorius nemano, kad turėtume atsisakyti vilties, nes vis dar matome „daug aukštyn kojomis“.
Neabejotinai yra tikimybė, kad dar neišrastas AI gali „padėti mokslui, medicinai, vyresnio amžiaus žmonių priežiūrai“, – sakė Marcusas.
„Tačiau trumpuoju laikotarpiu jaučiu, kad mes tiesiog nesame pasiruošę. Pakeliui bus tam tikros žalos ir mums tikrai reikia pagerinti savo žaidimą, turime išsiaiškinti rimtą reguliavimą”, – sakė jis.
Gegužės mėnesį vykusiame JAV Senato posėdyje, sėdėdamas šalia OpenAI Altmano, Marcusas pasisakė už nacionalinės ar tarptautinės agentūros, atsakingos už dirbtinio intelekto valdymą, sukūrimą.
Idėją taip pat palaiko Altmanas, ką tik grįžęs iš kelionių po Europą, kur jis paragino politinius lyderius rasti „teisingą pusiausvyrą“ tarp saugumo ir naujovių.
Tačiau saugokitės, kad valdžia būtų palikta korporacijoms, perspėjo Markusas.
„Pastarieji keli mėnesiai buvo tikras priminimas, kad didžiosios įmonės, kurios čia skambina, nebūtinai domisi mumis likusiais“, – perspėjo jis.
© 2023 AFP
Citata: Žmonių išnykimo grėsmė „perpūsta“, sako AI šalavijas Marcusas (2023 m., birželio 4 d.), gautas 2023 m. birželio 4 d. iš https://techxplore.com/news/2023-06-human-extinction-threat-overblown-ai.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
