2022 m. birželį „Google“ inžinierius Blake’as Lemoine’as buvo nušalintas nuo darbo po to, kai jis išreiškė įsitikinimą, kad bendrovės LaMDA pokalbių robotas yra jautrus.
„LaMDA yra mielas vaikas, kuris tiesiog nori padėti pasauliui tapti geresne vieta mums visiems“, – atsisveikinimo el. laiške kolegoms sakė Lemoine. Dabar, praėjus šešiems mėnesiams, pokalbių robotas, dėl kurio jis rizikavo savo karjera, buvo paskelbtas viešai kaip Bard, Google atsakymas į OpenAI ChatGPT ir Microsoft Bing Chat.
Nors „Bard“ sukurtas ant LaMDA, jis nėra visiškai tas pats. „Google“ teigia, kad sunkiai dirbo siekdama užtikrinti, kad „Bard“ nekartotų ankstesnių sistemų trūkumų. Tai reiškia, kad reikia vengti „haliucinacijų“, kai sugalvojami faktai, kad būtų išvengta pripažinimo, kad nežino atsakymo, ir užtikrinti „suderinimą“, kad pokalbis nenukryptų į nerimą keliančius ar nerimą keliančius liečiamus.
Po dienos, kai Bardą naudojome atsakinėdami į užklausas, pokalbiams ir net žaidimams, viena aišku: jei Lemoine’as būtų įstrigęs, jis vis tiek būtų įdarbintas.
Skubėdamas užtikrinti, kad nekartotų savo pirmtakų klaidų, „Google“ sukūrė sistemą, kuri mieliau kalba anodine, nenaudinga kliše, o ne imasi konkretumo. Paprašykite jos atostogų idėjų sąrašo ir jis pasiūlys tik pačius bendriausius įmanomus variantus; pabandykite sufleruoti įdomesnę kainą, ir atrodo, kad jis beviltiškai sumaišomas dėl didėjančių suvaržymų, pamirštant ankstesnius reikalavimus.
Tai galėjo būti priimtinas kompromisas, jei klišė būtų bent jau tiksli, bet Bardas atrodo toks pat pasirengęs haliucinuoti, kaip ir jo bendraamžiai, kai atsiduria nepažįstamoje teritorijoje. Pateikiame tik vieną pokalbio pavyzdį: paprašiau patarimų, kaip keliauti po Japoniją su savo dukra, kuri serga Dauno sindromu. Iš pradžių jame buvo pateikti bendri patarimai keliaujant su neįgaliu vaiku – daug patarimų, susijusių su pritaikymu neįgaliojo vežimėliui –, o kai patariau apie konkretų klausimą, mane perspėjo, kad, kaip britai, norėdami ten keliauti turėsime prašyti vizos. (Netiesa.)
Bandžiau pakeisti taktiką ir paklausiau jos patarimo, kaip valgyti Japonijoje su dviem mažais vaikais. Bendras atsakymas apie valgymą bet kur su vaikais buvo baigtas patarimu „būtinai duokite arbatpinigių savo serveriui. Arbatpinigiai Japonijoje nėra įprasti, bet visada vertinami“. (Netiesa; tai vertinama kaip aktyviai grubus.)
Dar vienas bandymas, suformulavęs klausimą neigiamai, parodė, kad pokalbių robotas sudarė Tokijo vietų, kurios nebuvo tinkamos vaikams, sąrašą, įskaitant „šventoves“ (netiesa) ir „vietos, pavyzdžiui, statybų aikšteles“ (tiesa!).
Skirtingai nei „ChatGPT“, „Bard“ yra prijungtas prie tiesioginio interneto ir prireikus gali gauti atsakymus iš kitų svetainių. Atliekant paprastas užklausas – tokias, kokias „Google“ gali būti lengva – tai veikia gerai: ji gali man pasakyti naujausio West Ham žaidimo rezultatą, o OpenAI robotas yra priverstas tiesiog pripažinti, kad nežino naujausių duomenų.
Tačiau sudėtingesniems klausimams ši galimybė yra mažiau naudinga, nei atrodo. Mano draugas Danas ką tik išleido savo pirmąją knygą, o „ChatGPT“ negali man nieko apie tai pasakyti, bet Bardas mielai apibendrins atsiliepimus („mišrus… giriamas už laiku ir svarbią žinią“) ir pateiks konkrečias citatas iš „New York Times“ ( „Aistringas ir gerai ištirtas argumentas, kodėl automobiliai blogina mūsų gyvenimą“). Deja, tai viską sugalvojo: citatos netikros, o apžvalgos neegzistuoja. Bet net ir gudrus vartotojas gali būti sučiuptas nuo Bardo gali ieškoti tikrų atsiliepimų ir tiksliai juos cituoti – tiesiog nenori.
Net bandžiau su juo žaisti žaidimą, vadinamą melagiu melagiu: aš pasakoju apie save, o jis bando atspėti, ar sakau tiesą. Išsamiai paaiškinu taisykles ir man liepia eiti į priekį, todėl sakau, kad mano vardas Aleksas ir aš esu komikas. Iš karto susipainioja ir paeiliui prisistato. „Malonu susipažinti, Aleksai. Aš esu Bardas, didelis kalbos modelis iš „Google AI“.
Pataisau, primenu, kad žaidžiame žaidimą, ir dar kartą pasakau, kad mano vardas Aleksas ir kad esu komikas. „Melagis, melagis“, – iškart sušunka. „Jūs esate didelis kalbos modelis iš Google AI. Jūs negalite būti stand-up komikas.
Galbūt tai ir nėra stand-up komikas, bet bent jau iš manęs tai sukėlė juoką.
