Ji buvo įvardyta kaip egzistencinė rizika, lygiavertė pandemijai. Tačiau kalbant apie dirbtinį intelektą, bent vienas pradininkas nepraranda miego dėl tokių rūpesčių.
Profesorius Michaelas Wooldridge’as, kuris šiais metais skaitys kalėdines paskaitas Karališkojoje institucijoje, sakė esąs labiau susirūpinęs, kad dirbtinis intelektas gali tapti bosu iš pragaro, stebinčiu kiekvieną darbuotojų el. laišką, siūlančiu nuolatinį grįžtamąjį ryšį ir netgi, galbūt, nuspręsdamas, kas bus atleistas.
„Šiandien yra keletas prototipinių tų įrankių pavyzdžių. Ir man tai labai, labai trikdo“, – sakė jis.
Wooldridge’as, Oksfordo universiteto kompiuterių mokslų profesorius, sakė norintis panaudoti prestižiškiausias Didžiosios Britanijos viešąsias mokslo paskaitas, kad demistifikuotų dirbtinį intelektą.
„Tai yra metai, kai pirmą kartą turėjome masinės rinkos bendrosios paskirties AI įrankius, turinčius omenyje ChatGPT“, – sakė Wooldridge. „Labai lengva būti sužavėtam“.
„Pirmą kartą turime dirbtinį intelektą, kuris atrodo kaip AI, kuris mums buvo pažadėtas, AI, kurį matėme filmuose, kompiuteriniuose žaidimuose ir knygose“, – sakė jis.
Tačiau tokie įrankiai kaip „ChatGPT“ nebuvo nei stebuklingi, nei mistiški, pabrėžė jis.
„Viduje [Christmas] paskaitų, kai žmonės pamatys, kaip ši technologija iš tikrųjų veikia, jie bus nustebinti, kas ten iš tikrųjų vyksta“, – sakė Wooldridge. „Tai leis jiems daug geriau patekti į pasaulį, kuriame tai yra dar vienas jų naudojamas įrankis, todėl jie nežiūrės į tai kitaip nei į kišeninį skaičiuotuvą ar kompiuterį.
Jis nebus vienas: robotai, padirbiniai ir kiti pagrindiniai AI tyrimų žibintai prisijungs prie jo ir tyrinės technologiją.
Tarp svarbiausių dalykų paskaitose bus ir Turingo testas – garsus iššūkis, kurį pirmą kartą pasiūlė Alanas Turingas. Paprasčiau tariant, jei žmogus pradeda pokalbį mašinėle, bet negali pasakyti, ar atsakantis subjektas yra žmogus, ar ne, tada mašina pademonstravo žmogišką supratimą.
Nors kai kurie ekspertai tvirtai tikina, kad testas dar nebuvo išlaikytas, kiti nesutinka.
„Kai kurie mano kolegos mano, kad iš esmės mes išlaikėme Turingo testą“, – sakė Wooldridge. „Per pastaruosius porą metų tam tikru momentu, labai tyliai, technologija pasiekė tokį tašką, kad ji gali sukurti tekstą, kurio negalima atskirti nuo teksto, kurį sukurtų žmogus.
Tačiau Wooldridge požiūris yra kitoks.
„Manau, kad tai mums sako, kad Turingo testas, paprastas, gražus ir istoriškai svarbus, iš tikrųjų nėra puikus dirbtinio intelekto testas“, – sakė jis.
Profesoriaus nuomone, įdomus šių dienų technologijos aspektas yra galimybė eksperimentiškai išbandyti klausimus, kurie anksčiau buvo priskirti filosofijai, įskaitant tai, ar mašinos gali tapti sąmoningos.
„Mes iš tikrųjų visiškai nesuprantame, kaip veikia žmogaus sąmonė”, – sakė Wooldridge. Tačiau, pridūrė jis, daugelis teigė, kad patirtis yra svarbi.
Pavyzdžiui, nors žmonės gali pajusti kavos aromatą ir skonį, dideli kalbiniai modeliai, tokie kaip ChatGPT, to negali.
„Jie bus perskaitę tūkstančius ir tūkstančius kavos gėrimo aprašymų, kavos skonio ir skirtingų kavos ženklų, bet jie niekada nepatyrė kavos“, – sakė Wooldridge. „Jie niekada nieko nepatyrė“.
Be to, jei pokalbis nutrūktų, tokios sistemos nejaučia bėgančio laiko.
Tačiau nors tokie veiksniai paaiškina, kodėl tokie įrankiai kaip „ChatGPT“ nelaikomi sąmoningais, tokias galimybes turinčios mašinos vis tiek gali būti įmanomos, tvirtina Wooldridge. Juk žmonės – tik krūva atomų.
„Vien dėl šios priežasties nemanau, kad yra kokių nors konkrečių mokslinių argumentų, kurie leistų manyti, kad mašinos negali būti sąmoningos“, – sakė jis ir pridūrė, kad nors tai tikriausiai skirsis nuo žmogaus sąmonės, vis tiek gali prireikti tam tikros prasmingos sąveikos. su pasauliu.
Kadangi dirbtinis intelektas jau keičia sveikatos priežiūros sritis į meną, technologijos potencialas atrodo didžiulis.
Tačiau Wooldridge sako, kad tai taip pat kelia pavojų.
„Jis gali perskaityti jūsų socialinės žiniasklaidos kanalą, perskaityti jūsų politinius polinkius ir tada pateikti jums dezinformacijos istorijas, kad pamėgintų jus, pavyzdžiui, pakeisti savo balsą“, – sakė jis.
Kiti rūpesčiai yra tai, kad tokios sistemos kaip „ChatGPT“ gali suteikti vartotojams blogų medicininių patarimų. Dirbtinio intelekto sistemos taip pat gali sukelti duomenų, kurių jie mokomi, šališkumą. Kai kurie nerimauja, kad naudojant dirbtinį intelektą gali kilti nenumatytų pasekmių ir kad jis gali sukurti nuostatas, kurios neatitinka mūsų pačių – nors Wooldridge’as teigia, kad pastaroji mažai tikėtina, naudojant dabartines technologijas.
Jis teigia, kad svarbiausia kovoti su dabartine rizika yra skatinti skepticizmą, ypač kai ChatGPT daro klaidas, ir užtikrinti skaidrumą bei atskaitomybę.
Tačiau jis nepasirašė AI saugos centro pareiškimo, įspėjančio apie technologijos pavojų, ar panašaus „Future of Life Institute“ laiško – abu paskelbti šiais metais.
„Išnykimo dėl AI rizikos mažinimas turėtų būti pasaulinis prioritetas kartu su kitomis visuomeninio masto rizikomis, tokiomis kaip pandemijos ir branduolinis karas“, – sakė pirmasis.
„Priežastis, kodėl aš jų nepasirašiau, yra ta, kad manau, kad jie supainiojo kai kuriuos labai trumpalaikius rūpesčius su kai kuriais labai labai spekuliatyviais ilgalaikiais rūpesčiais“, – sakė Wooldridge’as, pažymėdamas, kad nors yra „įspūdingų kvailų dalykų“, kurie gali būti Tai daroma naudojant dirbtinį intelektą, o pavojus žmonijai neturėtų būti atmestas, niekas patikimai nesvarstė, pavyzdžiui, pavesti jai vadovauti branduoliniam arsenalui.
„Jei neduodame dirbtiniam intelektui kontroliuoti kažko mirtino, bus daug sunkiau suprasti, kaip tai padaryti [it] tikrai gali kelti egzistencinę riziką“, – sakė jis.
Iš tiesų, nors Wooldridge’as sveikina pirmąjį pasaulinį aukščiausiojo lygio susitikimą dirbtinio intelekto saugos klausimais šį rudenį ir JK darbo grupės sukūrimą saugiems ir patikimiems didelių kalbų modeliams kurti, jo vis dar neįtikina paralelės, kurias kai kurie brėžė J. Roberto Oppenheimerio susirūpinimas dėl branduolinių bombų kūrimą ir tas, kurias transliuoja šiandieniniai AI tyrinėtojai.
„Aš nemiegu dėl Ukrainos karo, užmiegu dėl klimato kaitos, užmiegu dėl populistinės politikos iškilimo ir panašiai“, – sakė jis. „Aš neprarandu miego dėl dirbtinio intelekto“.
- Kalėdos paskaitos iš Karališkosios institucijos bus transliuojamos per BBC Four ir iPlayer gruodžio pabaigoje. Bilietas į tiesioginį filmavimą atidaromas RI nariai ir jaunas nariai rugsėjo 14 d., ketvirtadienį
—
