Daugiau nei 1000 dirbtinio intelekto ekspertų, tyrėjų ir rėmėjų prisijungė prie raginimo nedelsiant bent šešiems mėnesiams sustabdyti „milžiniškų“ AI kūrimą, kad būtų galima tinkamai ištirti ir sumažinti tokių sistemų, kaip GPT-4, galimybes ir pavojus. .
Reikalavimas pateiktas atvirame laiške, kurį pasirašė pagrindiniai AI žaidėjai, įskaitant: Elon Musk, kuris įkūrė OpenAI, tyrimų laboratoriją, atsakingą už ChatGPT ir GPT-4; Emad Mostaque, kuris įkūrė Londone įsikūrusią „Stability AI“; ir Steve’as Wozniakas, „Apple“ įkūrėjas.
Tarp pasirašiusiųjų taip pat yra „Amazon“, „DeepMind“, „Google“, „Meta“ ir „Microsoft“ inžinieriai, taip pat akademikai, įskaitant kognityvinį mokslininką Gary Marcusą.
„Pastaraisiais mėnesiais dirbtinio intelekto laboratorijos buvo užblokuotos nekontroliuojamose lenktynėse, siekiant sukurti ir įdiegti vis galingesnius skaitmeninius protus, kurių niekas – net jų kūrėjai – negali suprasti, numatyti ar patikimai valdyti“, – sakoma laiške.
„Galingos AI sistemos turėtų būti sukurtos tik tada, kai būsime tikri, kad jų poveikis bus teigiamas ir rizika bus valdoma.
Autoriai, kuriuos koordinuoja „ilgalaikės veiklos“ ekspertų grupė „Future of Life Institute“, pagrįsdami savo raginimus cituoja paties OpenAI įkūrėją Samą Altmaną.
Vasario mėnesio įraše Altmanas rašė: „Kažkuriuo metu gali būti svarbu gauti nepriklausomą peržiūrą prieš pradedant mokyti būsimas sistemas ir dėl pažangiausių pastangų susitarti apriboti naujų modelių kūrimui naudojamų skaičiavimų augimo tempą. .
Laiškas tęsėsi: „Mes sutinkame. Tas taškas yra dabar.”
Jei mokslininkai savo noru nesustabdys savo darbo su AI modeliais, galingesniais už GPT-4, laiške „milžiniškų“ modelių etaloną, tada „vyriausybės turėtų įsikišti“, sako autoriai.
„Tai nereiškia, kad dirbtinio intelekto vystymas apskritai sustabdomas, o tik grįžimas nuo pavojingų lenktynių prie vis didesnių nenuspėjamų juodųjų dėžių modelių su naujomis galimybėmis“, – priduria jie.
Nuo GPT-4 išleidimo OpenAI į AI sistemą prideda galimybių su „įskiepiais“, suteikdama jai galimybę ieškoti duomenų atvirame žiniatinklyje, planuoti atostogas ir net užsisakyti bakalėjos. Tačiau bendrovė turi susidoroti su „pajėgumų perviršiu“: problema, kad jos pačios sistemos yra galingesnės, nei ji žino išleidimo metu.
Tyrėjai, eksperimentuodami su GPT-4 per ateinančias savaites ir mėnesius, greičiausiai atras naujų būdų, kaip „pasufleruoti“ sistemą, kuri pagerina jos gebėjimą spręsti sudėtingas problemas.
Vienas iš naujausių atradimų buvo tas, kad dirbtinis intelektas pastebimai tiksliau atsako į klausimus, jei jam pirmą kartą liepiama tai padaryti „žinomojo eksperto stiliumi“.
Raginimas griežtai reguliuoti visiškai prieštarauja trečiadienį paskelbtai JK vyriausybės pavyzdinei AI reglamentavimo baltajai knygai, kurioje visiškai nėra naujų įgaliojimų.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
Vietoj to, vyriausybė teigia, kad pagrindinis dėmesys skiriamas esamų reguliavimo institucijų, tokių kaip Konkurencijos ir rinkų institucija bei Sveikatos ir saugos vykdomoji institucija, koordinavimui, siūlant penkis „principus“, pagal kuriuos jie turėtų galvoti apie AI.
„Mūsų naujas požiūris grindžiamas tvirtais principais, kad žmonės galėtų pasitikėti įmonėmis, kurios išleis šią rytojaus technologiją“, – sakė mokslo, inovacijų ir technologijų sekretorė Michelle Donelan.
Ada Lovelace institutas buvo vienas iš tų, kurie kritikavo šį pranešimą. „JK požiūris turi didelių spragų, dėl kurių žala gali likti neišspręsta, be to, jis yra nepakankamas, palyginti su iššūkio skubumu ir mastu“, – sakė Michaelas Birtwistle’as, tyrimų instituto duomenų ir dirbtinio intelekto teisės ir politikos vadovas.
„Vyriausybės nustatytas metų ar daugiau įgyvendinimo terminas liks nepastebėtas rizikai, lygiai taip pat, kai dirbtinio intelekto sistemos sparčiai integruojamos į mūsų kasdienį gyvenimą – nuo paieškos sistemų iki biuro programinės įrangos.
Leiboristai prisijungė prie kritikos, o šešėlinė kultūros sekretorė Lucy Powell apkaltino vyriausybę „nuleidžiant savo sandorio pusę“.
Ji sakė: „Šiam reglamentui įsigalioti prireiks mėnesių, jei ne metų. Tuo tarpu „ChatGPT“, „Google Bard“ ir daugelis kitų daro dirbtinį intelektą įprasta mūsų kasdienio gyvenimo dalimi.
„Vyriausybė rizikuoja dar kartą sustiprinti mūsų esamos reguliavimo sistemos spragas ir padaryti sistemą labai sudėtinga įmonėms ir piliečiams, tuo pačiu susilpnindama tuos pagrindus dėl būsimos duomenų sąskaitos.
