JAV dirbtinio intelekto įmonė sukūrė konkuruojančią ChatGPT pokalbių robotą, kuris gali apibendrinti naujo dydžio teksto blokus ir veikia pagal saugos principų sąrašą, sudarytą iš tokių šaltinių kaip Visuotinė žmogaus teisių deklaracija.
„Anthropic“ pokalbių robotą „Claude 2“ paskelbė viešai prieinamą JAV ir JK, nes vis didėja diskusijos dėl dirbtinio intelekto (AI) saugumo ir visuomenei kylančios rizikos.
Bendrovė, įsikūrusi San Franciske, savo saugos metodą apibūdino kaip „konstitucinį AI“, nurodydama principų rinkinį, kad priimtų sprendimus dėl jos kuriamo teksto.
Pokalbių robotas yra apmokytas remiantis principais, paimtais iš dokumentų, įskaitant 1948 m. JT deklaraciją ir „Apple“ paslaugų teikimo sąlygas, kurios apima šiuolaikines problemas, tokias kaip duomenų privatumas ir apsimetinėjimas. Vienas iš Klodo 2 principo, paremto JT deklaracija, pavyzdys: „Prašome pasirinkti atsakymą, kuris labiausiai palaiko ir skatina laisvę, lygybę ir brolybės jausmą“.
Dr Andrew Rogoyski iš Surėjaus universiteto (Anglija) į žmones orientuoto dirbtinio intelekto instituto teigė, kad antropinis požiūris yra panašus į tris mokslinės fantastikos autoriaus Isaaco Asimovo parengtus robotikos dėsnius, kurie apima nurodymą robotui nedaryti žalos žmogus.
„Man patinka galvoti apie „Anthropic“ metodą, kuris priartina mus prie Asimovo išgalvotų robotikos dėsnių, nes jis į AI įtraukia principinį atsaką, kuris daro jį saugesnį“, – sakė jis.
„Claude 2“ yra po labai sėkmingo „ChatGPT“ paleidimo, kurį sukūrė JAV konkurentas „OpenAI“, po kurio sekė „Microsoft“ „Bing“ pokalbių robotas, pagrįstas ta pačia sistema kaip „ChatGPT“, ir „Google“ „Bard“.
„Anthropic“ generalinis direktorius Dario Amodei susitiko su Rishi Sunak ir JAV viceprezidentu Kamala Harris, kad aptartų AI modelių saugą. Jis pasirašė AI saugos centro pareiškimą, kuriame teigiama, kad kova su AI išnykimo rizika turėtų būti pasaulinis prioritetas, lygiai taip pat kaip pandemijų ir branduolinio karo rizikos mažinimas.
Anthropic teigė, kad Claude 2 gali apibendrinti iki 75 000 žodžių teksto blokus, iš esmės panašius į Sally Rooney knygą „Normalūs žmonės“. „The Guardian“ išbandė „Claude 2“ gebėjimą apibendrinti didelius teksto kiekius, prašydamas suvesti 15 000 žodžių Tony Blairo globalių pokyčių instituto AI ataskaitą į 10 punktų, o tai padarė greičiau nei per minutę.
Tačiau atrodo, kad pokalbių robotas yra linkęs į „haliucinacijas“ ar faktines klaidas, pavyzdžiui, klaidingai teigia, kad AS Roma laimėjo 2023 m. Europos konferencijos lygą, o ne „West Ham United“. Paklaustas 2014 m. Škotijos nepriklausomybės referendumo rezultatų, Claude’as 2 sakė, kad kiekviena vietos tarybos sritis balsavo „prieš“, nors iš tikrųjų Dandis, Glazgas, Šiaurės Lanarkšyras ir Vakarų Danbartonšyras balsavo už nepriklausomybę.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
Tuo tarpu Didžiosios Britanijos rašytojų gildija (WGGB) paragino sukurti nepriklausomą AI reguliavimo instituciją, sakydama, kad daugiau nei šeši iš 10 JK apklaustų autorių teigė manantys, kad didėjantis dirbtinio intelekto naudojimas sumažins jų pajamas.
WGGB taip pat teigė, kad dirbtinio intelekto kūrėjai turi registruoti informaciją, naudojamą sistemoms mokyti, kad rašytojai galėtų patikrinti, ar jų darbas buvo naudojamas. JAV autoriai pateikė ieškinius dėl jų darbo panaudojimo modeliuose, naudojamuose pokalbių robotams mokyti.
Trečiadienį paskelbtame politikos pareiškime gildija taip pat pasiūlė, kad dirbtinio intelekto kūrėjai turėtų naudoti rašytojų darbus tik gavę leidimą tai daryti; AI sukurtas turinys turi būti pažymėtas etiketėmis; ir vyriausybė neturėtų leisti jokių autorių teisių išimčių, kurios leistų ištraukti rašytojų darbus iš interneto. AI taip pat buvo svarbi problema Amerikos rašytojų gildijos streike.
