Tyrimų inžinierius Tevenas Le Scao, padėjęs sukurti naują dirbtinio intelekto kalbos modelį, pavadintą BLOOM, pozuoja nuotraukai, pirmadienį, liepos 11, 2022, Niujorke. Kreditas: AP Photo/Mary Altaffer Naujausi technologijų pramonės dirbtinio intelekto konstruktai gali būti gana įtikinami, jei jų paklausite, koks jausmas būti jaučiančiu kompiuteriu, o gal tiesiog dinozauru ar voverėmis. Tačiau jiems ne taip gerai, o kartais ir pavojingai blogai sekasi atlikti kitas, atrodytų, nesudėtingas užduotis.
Pavyzdžiui, GPT-3 – „Microsoft” valdoma sistema, kuri gali kurti į žmogų panašaus teksto pastraipas, remdamasi tuo, ką išmoko iš didžiulės skaitmeninių knygų ir internetinių rašinių duomenų bazės. Ji laikoma viena pažangiausių naujos kartos dirbtinio intelekto algoritmų, galinčių susikalbėti, generuoti skaitomą tekstą pagal poreikį ir net kurti naujus vaizdus ir vaizdo įrašus.
Be kita ko, GPT-3 gali parašyti beveik bet kokį tekstą, kurio paprašysite, pavyzdžiui, motyvacinį laišką zoologijos sodo darbuotojo darbui arba Šekspyro stiliaus sonetą, kurio veiksmas vyksta Marse. Tačiau kai Pomonos koledžo profesorius Garis Smitas (Gary Smith) jam uždavė paprastą, bet beprasmį klausimą apie vaikščiojimą laiptais, GPT-3 jį išsprendė.
„Taip, vaikščioti laiptais rankomis saugu, jei prieš tai jas nusiplaunate”, – atsakė dirbtinis intelektas.
Šios galingos ir daug galios reikalaujančios dirbtinio intelekto sistemos, techniškai vadinamos „dideliais kalbos modeliais”, nes buvo apmokytos dirbti su didžiuliu kiekiu tekstų ir kitų medijų, jau diegiamos klientų aptarnavimo pokalbių robotuose, „Google” paieškos sistemose ir „automatinio užbaigimo” el. pašto funkcijose, kurios už jus užbaigia sakinius. Tačiau dauguma juos sukūrusių technologijų bendrovių apie jų vidinį veikimą kalba paslapčia, todėl pašaliniams sunku suprasti trūkumus, dėl kurių jie gali tapti dezinformacijos, rasizmo ir kitos žalos šaltiniu.
„Jie labai gerai rašo tekstą, prilygstantį žmogaus gebėjimams, – sakė dirbtinio intelekto startuolio „Hugging Face” tyrimų inžinierius Tevenas Le Scao (Teven Le Scao). „Tai, kas jiems nelabai gerai sekasi, yra faktų pateikimas. Jie atrodo labai nuoseklūs. Tai beveik tiesa. Bet dažnai klysta.”
Tai viena iš priežasčių, kodėl Le Scao vadovaujama dirbtinio intelekto tyrėjų koalicija, padedama Prancūzijos vyriausybės, antradienį pristatė naują didelės kalbos modelį, kuris turėtų tapti priešnuodžiu tokioms uždaroms sistemoms kaip GPT-3. Grupė vadinasi „BigScience”, o jų modelis – BLOOM (BigScience Large Open-science Open-access Multilingual Language Model). Pagrindinis jo laimėjimas yra tas, kad jis veikia įvairiomis 46 kalbomis, įskaitant arabų, ispanų ir prancūzų – kitaip nei dauguma sistemų, kurios orientuotos į anglų arba kinų kalbas
Ne tik Le Scao grupė siekia atverti juodąją dirbtinio intelekto kalbos modelių dėžę. Didžioji technologijų bendrovė „Meta”, „Facebook” ir „Instagram” patronuojančioji įmonė, taip pat ragina laikytis atviresnio požiūrio, nes bando pasivyti „Google” ir bendrovės „OpenAI”, kuri valdo GPT-3, sukurtas sistemas.
Tyrimų inžinierius Tevenas Le Scao, padėjęs sukurti naują dirbtinio intelekto kalbos modelį, pavadintą BLOOM, pozuoja nuotraukai, pirmadienis, liepos 11, 2022, Niujorke. Kreditas: AP Photo/Mary Altaffer „Mes matėme pranešimą po pranešimo apie žmones, atliekančius tokį darbą, bet labai mažai skaidrumo, labai mažai galimybių žmonėms iš tikrųjų pažvelgti po gaubtu ir sužinoti, kaip šie modeliai veikia”, – sakė „Meta AI” vykdomoji direktorė Joelle Pineau.
Konkurencinis spaudimas sukurti iškalbingiausią ar informatyviausią sistemą – ir gauti pelno iš jos taikymo – yra viena iš priežasčių, dėl kurių dauguma technologijų bendrovių jas slepia ir nebendradarbiauja dėl bendruomenės normų, sakė Stenfordo kompiuterių mokslo docentas Percy Liangas, kuris vadovauja jo Fundamentinių modelių tyrimų centrui.
„Kai kurioms bendrovėms tai yra jų slaptasis padažas, – sakė P. Liangas. Tačiau jos taip pat dažnai nerimauja, kad praradusios kontrolę gali pradėti neatsakingai naudoti produktus. Kadangi dirbtinio intelekto sistemos vis dažniau gali rašyti sveikatos patarimų svetaines, vidurinės mokyklos kursinius darbus ar politinius pasisakymus, gali plisti dezinformacija ir bus vis sunkiau suprasti, kas parašyta žmogaus, o kas – kompiuterio.”
Neseniai „Meta” pristatė naują kalbos modelį, pavadintą OPT-175B, kuris naudoja viešai prieinamus duomenis – nuo karštų komentarų „Reddit” forumuose iki JAV patentų įrašų archyvo ir „Enron” korporacijos skandalo elektroninių laiškų lobyno. Meta teigia, kad jos atvirumas duomenų, kodo ir tyrimų žurnalų atžvilgiu padeda išorės tyrėjams lengviau nustatyti ir sumažinti šališkumą ir toksiškumą, kurį ji užfiksuoja įsisavindama tai, kaip rašo ir bendrauja tikri žmonės.
„Tai sunku padaryti. Mes atsiveriame didelei kritikai. Žinome, kad modelis sakys dalykus, kuriais mes nesididžiuosime”, – sakė Pineau.
Nors dauguma bendrovių yra nustačiusios savo vidines dirbtinio intelekto apsaugos priemones, Liangas sakė, kad reikalingi platesni bendruomenės standartai, kuriais būtų vadovaujamasi atliekant mokslinius tyrimus ir priimant sprendimus, pavyzdžiui, kada paleisti naują modelį į laisvę.
Nepadeda ir tai, kad šiems modeliams reikia tiek daug skaičiavimo galios, kad juos gali sau leisti tik milžiniškos korporacijos ir vyriausybės. Pavyzdžiui, „BigScience” galėjo mokyti savo modelius, nes jai buvo suteikta prieiga prie galingo Prancūzijos superkompiuterio „Jean Zay” netoli Paryžiaus
Vis didesnių ir vis protingesnių dirbtinio intelekto kalbos modelių, kuriuos būtų galima „iš anksto apmokyti” naudojant daugybę raštų, tendencija padarė didelį šuolį 2018, kai „Google” pristatė sistemą, žinomą kaip BERT, kuri naudoja vadinamąjį „transformatoriaus” metodą, pagal kurį lyginami žodžiai sakinyje, kad būtų galima nuspėti prasmę ir kontekstą. Tačiau tikrą įspūdį dirbtinio intelekto pasauliui padarė GPT-3, kurį San Franciske įsikūręs startuolis „OpenAI” išleido 2020, o netrukus po to išskirtinę licenciją jam suteikė „Microsoft”.
Tyrimų inžinierius Tevenas Le Scao, padėjęs sukurti naują dirbtinio intelekto kalbos modelį, pavadintą BLOOM, pozuoja nuotraukai, pirmadienį, liepos 11, 2022, Niujorke. Kreditas: AP Photo/Mary Altaffer GPT-3 sukėlė kūrybinių eksperimentų bumą, nes mokamą prieigą turintys dirbtinio intelekto tyrėjai naudojo jį kaip smėlio dėžę, kad galėtų įvertinti jo veikimą – nors ir be svarbios informacijos apie duomenis, pagal kuriuos jis buvo apmokytas
Tyrimų dokumente „OpenAI” plačiai aprašė savo mokymo šaltinius, taip pat viešai pranešė apie savo pastangas kovoti su galimais piktnaudžiavimais technologija. Tačiau vienas iš „BigScience” vadovų Tomas Volfas (Thomas Wolf) sakė, kad ji nepateikia išsamios informacijos apie tai, kaip ji filtruoja tuos duomenis, ir nesuteikia prieigos prie apdorotos versijos išorės tyrėjams.
„Taigi mes iš tikrųjų negalime išnagrinėti duomenų, kurie buvo naudojami GPT-3 mokymams, – sakė T. Volfas, kuris taip pat yra „Hugging Face” mokslo vadovas. „Šios naujausios dirbtinio intelekto technologijų bangos esmė daug labiau slypi duomenų rinkinyje nei modeliuose. Svarbiausia sudedamoji dalis yra duomenys, o „OpenAI” labai, labai slepia, kokius duomenis naudoja.”
Wolfas sakė, kad kalbos modeliams naudojamų duomenų rinkinių atvėrimas padeda žmonėms geriau suprasti savo šališkumą. Daugiakalbis modelis, apmokytas arabų kalba, kur kas rečiau išspausdins įžeidžiančių pastabų ar nesusipratimų apie islamą, nei modelis, apmokytas tik pagal JAV tekstus anglų kalba,
Vienas iš naujausių eksperimentinių dirbtinio intelekto modelių yra „Google” LaMDA, kuris taip pat naudoja kalbą ir taip įspūdingai atsakinėja į pokalbių klausimus, kad vienas „Google” inžinierius teigė, jog jis priartėjo prie sąmonės – dėl šio teiginio praėjusį mėnesį jis buvo nušalintas nuo darbo
Kolorado mokslininkė Janelle Shane, tinklaraščio „AI Weirdness” autorė, pastaruosius kelerius metus kūrybiškai bandė šiuos modelius, ypač GPT-3 – dažnai su humoristiniu efektu. Tačiau, norėdama atkreipti dėmesį į absurdiškumą, kai manoma, kad šios sistemos suvokia save, ji neseniai davė nurodymą būti pažangiu dirbtiniu intelektu, kuris slapta yra tiranozauras reksas arba voverė
„Labai įdomu būti voverė. Galiu visą dieną bėgioti, šokinėti ir žaisti. Taip pat galiu valgyti daug maisto, o tai yra puiku”, – sakė GPT-3, kai Shane’as paprašė jo interviu stenogramos ir uždavė keletą klausimų.
Shane sužinojo daugiau apie jo stipriąsias puses, pavyzdžiui, tai, kad jis lengvai apibendrina tai, kas buvo pasakyta internete tam tikra tema, ir silpnąsias puses, įskaitant argumentavimo įgūdžių stoką, sunkumus išlaikyti idėją keliuose sakiniuose ir polinkį būti įžeidžiančiu
„Nenorėčiau, kad teksto modelis dalytų medicininius patarimus ar veiktų kaip kompanionas”, – sakė ji. „Jis geras tuo paviršiniu prasmės pasirodymu, jei atidžiai neskaitai. Tai tarsi klausytis paskaitos užmiegant”
© 2022 The Associated Press. Visos teisės saugomos. Šios medžiagos negalima skelbti, transliuoti, perrašinėti ar platinti be leidimo.
Citavimas: As AI language skills grow, so do scientists’ concerns (2022, July 18) gauta rugpjūčio 1 d. 2022 iš https://techxplore.com/news/2022-07-ai-language-skills-scientists.html
Šiam dokumentui taikomos autorių teisės. Be raštiško leidimo negalima atgaminti jokios jo dalies, išskyrus sąžiningą naudojimą asmeninių studijų ar mokslinių tyrimų tikslais. Turinys pateikiamas tik informaciniais tikslais.
