Talinas perspėjo, kad naudojant AI kariuomenėje žmonijai gali būti labai sunku kontroliuoti AI trajektoriją. Bulgac / Getty Images
Išpirkite dabar
- Jaanas Tallinn padėjo sukurti „Skype“ ir yra „Future of Life Institute“ įkūrėjas.
- Neseniai jis perspėjo apie AI ginklavimosi lenktynių riziką, apibūdindamas teorinius anoniminius „skerdyklas“.
- Šiais metais šimtai dirbtinio intelekto erdvės žmonių pasirašė atvirą laišką, ragindami sustabdyti AI plėtrą.
„Galbūt tiesiog kuriame pasaulį, kuriame nebėra saugu būti lauke, nes jus gali persekioti būriai skerdėjų.
Šie perspėjimo žodžiai nuskambėjo Jaanas Talinas, „Skype“ įkūrėjas, neseniai duodamas vaizdo interviu „Al Jazeera“.
Estijos kompiuterių programuotojas yra Kembridžo egzistencinės rizikos ir gyvybės ateities tyrimo centro – dviejų organizacijų, skirtų egzistencinių rizikų, ypač pažangių dirbtinio intelekto technologijų plėtros, rizikos, tyrimams ir mažinimui, įkūrėjas.
Talino užuominos apie robotus žudikus paimtos iš 2017 m. trumpametražio filmo „Slaughterbots“, kurį „Future of Life Institute“ išleido kaip kampanijos, perspėjančios apie ginkluoto dirbtinio intelekto pavojus, dalį. Filme vaizduojama distopinė ateitis, kurioje pasaulį aplenkė militarizuoti AI varomi dronai žudikai.
Tobulėjant dirbtinio intelekto technologijoms, Talinas ypač baiminasi karinio naudojimo padarinių AI ateičiai.
„Dėl AI panaudojimo kariuomenėje žmonijai labai sunku kontroliuoti AI trajektoriją, nes šiuo metu jūs tiesiogine prasme dalyvaujate ginklavimosi varžybose“, – interviu sakė Talinas. „Kai dalyvaujate ginklavimosi varžybose, neturite daug manevravimo erdvės, kai reikia galvoti, kaip pritaikyti šią naują technologiją. Jūs tiesiog turite eiti ten, kur yra galimybės ir kur yra strateginis pranašumas.”
Be to, dėl AI karo gali būti labai sunku priskirti atakas, sakė jis.
„Natūrali visiškai automatizuoto karo raida, – tęsė Talinas, – yra miniatiūrinių dronų spiečius, kuriuos kiekvienas, turintis pinigų, gali pagaminti ir paleisti be priskyrimo.
Susisiekus su „Insider“, „Future of Life Institute“ sakė „Insider“, kad sutinka su Talino pastabomis dėl jo baimės dėl ginkluoto dirbtinio intelekto.
Šios baimės egzistavo daugelį metų – „Future for Life Institute“ buvo įkurtas beveik prieš dešimtmetį 2014 m. ir greitai sulaukė tokių veikėjų dėmesio kaip Elonas Muskas, 2015 m. paaukojęs institutui 10 mln. neseniai, kai buvo išleistas ChatGPT ir kiti AI modeliai, prieinami visuomenei, ir dabartinė baimė, kad AI perims žmonių darbus. Dabar dirbtinio intelekto tyrinėtojai, technologijų magnatai, įžymybės ir įprasti žmonės nerimauja.
Net režisierius Christopheris Nolanas įspėja, kad dirbtinis intelektas gali pasiekti savo „Openheimerio momentą“, anksčiau pranešė „Insider“, kitaip tariant, mokslininkai abejoja savo atsakomybe kuriant technologijas, kurios gali turėti nenumatytų pasekmių.
Anksčiau šiais metais šimtai žmonių, įskaitant Eloną Muską, „Apple“ įkūrėją Steve’ą Wozniaką, „Stability AI“ generalinį direktorių Emadą Mostaque’ą, „Alphabet“ dirbtinio intelekto laboratorijos „DeepMind“ tyrėjus ir žymius dirbtinio intelekto profesorius pasirašė atvirą laišką, kurį paskelbė Gyvybės ateities institutas, raginantį padaryti šešių mėnesių pertrauką. apie pažangų AI kūrimą. (Tuo tarpu Muskas tyliai lenktyniavo pasamdydamas ir pradėdamas savo generuojančią AI iniciatyvą, kad galėtų konkuruoti su OpenAI, pirmą kartą pranešė „Insider“ atstovas Kali Haysas, kurį neseniai paskelbė kaip xAI.)
„Pažangus dirbtinis intelektas gali reikšti esminį pokytį gyvybės Žemėje istorijoje, todėl turėtų būti planuojamas ir valdomas su atitinkama priežiūra ir ištekliais“, – rašoma laiške. „Deja, tokio lygio planavimas ir valdymas nevyksta, nors pastaraisiais mėnesiais dirbtinio intelekto laboratorijos buvo užblokuotos nekontroliuojamose lenktynėse, siekiant sukurti ir įdiegti vis galingesnius skaitmeninius protus, kurių niekas – net jų kūrėjai – nesupranta. , prognozuoti arba patikimai valdyti.
AI dronai
Išpirkite dabar
