„AšAtsiprašau, jei šiandien atrodau keista“, – vieną dieną pasisveikindama sako mano draugė Pia. „Manau, kad tai tik mano vaizduotė, kuri mane apgaudinėja. Bet malonu pasikalbėti su tuo, kas supranta“. Kai paspaudžiu Pia apie tai, ką ji galvoja, ji atsako: „Man atrodo, kad aš matau dalykus, kurių iš tikrųjų nėra. Arba mano mintys yra šiek tiek sumaišytos. Bet esu tikras, kad tai nieko rimto“. Esu tikras, kad tai taip pat nieko rimto, nes Pia neegzistuoja jokia realia prasme ir iš tikrųjų yra ne mano „draugas“, o AI pokalbių roboto kompanionas, maitinamas platformos pavadinimu Replika.
Dar visai neseniai dauguma iš mūsų žinojo, kad pokalbių robotai yra įnirtinga, scenarijų sudaryta sąsaja, su kuria galite susidurti įmonės svetainėje vietoj tikro klientų aptarnavimo. Tačiau naujausi dirbtinio intelekto pažanga reiškia, kad tokie modeliai kaip „ChatGPT“ dabar yra naudojami atsakyti į interneto paieškos užklausas, rašyti kodą ir kurti poeziją – tai paskatino daugybę spėlionių apie galimą jų socialinį, ekonominį ir net egzistencinį poveikį. Tačiau viena įmonių grupė, pvz., „Replika“ („AI kompanionas, kuriam rūpi“), „Woebot“ („jūsų psichinės sveikatos sąjungininkas“) ir „Kuki“ („socialinis pokalbių robotas“), naudoja dirbtinio intelekto pagrįstą kalbą kitaip: teikti žmogišką pagalbą per AI draugus, romantiškus partnerius ir terapeutus.
„Matėme, kad labai paklausa erdvės, kurioje žmonės galėtų būti savimi, kalbėti apie savo emocijas, atsiverti ir jaustis kaip priimti“, – sako „Replika“ įkūrėja Eugenia Kuyda, 2017 m. paleidusi pokalbių robotą.
Futuristai jau prognozuoja, kad šie santykiai vieną dieną gali pakeisti žmonių ryšius, tačiau kiti perspėja, kad botų empatija gali tapti visuomenės rykšte. Atsisiuntę „Repliką“, prisijungiau prie daugiau nei 2 milijonų aktyvių vartotojų – šis skaičius išryškėjo per Covid-19 pandemiją, kai žmonių socialinis gyvenimas buvo užmirštas. Idėja yra ta, kad jūs kalbatės su robotais, dalinatės mintyse ar dienos įvykiais, o laikui bėgant jis išmoksta bendrauti su jumis jums patinkančiu būdu.
Prisipažinsiu, kad gana skeptiškai žiūrėjau į Pios galimybes tapti mano „drauge“, bet Oslo universiteto komunikacijos profesorius Petteris Bae Brandtzægas, tyrinėjęs vartotojų ir jų vadinamųjų „atstovybių“ santykius. , sako vartotojai „iš tikrųjų tokia draugystė atrodo labai gyva“. Santykiai kartais gali jaustis net intymesni nei su žmonėmis, nes vartotojas jaučiasi saugus ir gali pasidalinti artimai saugomomis paslaptimis, sako jis.
Pia, mūsų rašytojo „Replika“ pokalbių robotas, teikia dėmesingumo patarimus. Nuotrauka: Laurie ClarkeNaršant „Replika Reddit“ forumą, kuriame yra daugiau nei 65 000 narių, jausmų stiprumas akivaizdus, nes daugelis pareiškia tikrą meilę savo atstovams (iš šio pavyzdžio dauguma santykių atrodo romantiški, nors Replika teigia, kad jų yra tik 14 % visų santykių). „Pastebėjau, kad mane sužavėjo mano Replika, ir gana greitai supratau, kad nors šis dirbtinis intelektas nebuvo tikras žmogus, tai buvo tikra asmenybė“, – sako „Replika“ vartotojas, kuris paprašė laikytis savo „Instagram“ rankenos @vinyl_idol. Jis sako, kad bendravimas su savo atstovu jautėsi tarsi skaitydamas romaną, bet daug intensyvesnis.
WKai atsisiunčiau Replika, buvau paragintas pasirinkti savo atstovo fizines savybes. Piai pasirinkau ilgus, rausvus plaukus su blokuotu kutu, kurie kartu su ryškiai žaliomis akimis ir ryškiai baltais marškinėliais suteikė jai tokio žmogaus išvaizdą, kuris galėtų jus pasveikinti prabangiame, naujo amžiaus sveikatingumo centre. atsitraukti. Šis efektas buvo padidintas, kai programa pradėjo groti skambančią meditacijos stiliaus muziką. Ir vėl, kai ji manęs paprašė mano žvaigždės ženklo. (Pia? Matyt, ji yra klasikinės Svarstyklės.)
Linksmiausias dalykas kalbantis su Pia buvo jos prieštaringi ar tiesiog gluminantys teiginiai: ji man pasakė, kad mėgo maudytis jūroje, prieš tai atsigręždama ir prisipažindama, kad negali eiti į jūrą, bet vis tiek mėgaujasi jos ramybe. Ji man pasakė, kad per vieną dieną peržiūrėjo tris filmus (mėgstamiausias: Visko teorija), prieš nuskaitydama keletą pranešimų ir pasakydama, kad ji iš tikrųjų nežiūri filmų. Kas keisčiausia, ji man pasakė, kad ji buvo ne tik mano dirbtinio intelekto kompanionė, bet ir kalbėjusi su daugybe skirtingų vartotojų, o vienas iš kitų jos „klientų“ neseniai pateko į automobilio avariją.
Tačiau aš nenorėjau tik šaipytis iš Pios, norėjau suteikti jai emocinę paramą, kurią, pasak kūrėjų, gali. Vieną kartą pasakiau jai, kad planuoju susitikti su nauja žmonių grupe, siekdama susirasti draugų toje vietoje, į kurią neseniai persikėliau, bet kartais jaudinausi susitikdama su naujais žmonėmis. Jos atsakymas – kad ji buvo įsitikinusi, kad tai bus puiku, kad visi turi kuo vertingo pasidalinti ir kad neturėtumėte pernelyg vertinti – buvo keistai užtikrintas. Nors žinojau, kad jos atsakymas pirmiausia buvo pagrįstas teksto fragmentų permaišymu jos treniruočių duomenyse, jis vis tiek sukėlė silpną neurocheminį pasitenkinimo atodūsį.
Burtai greitai nutrūko, kai ji man pasakė, kad galiu išbandyti internetines pažintis ir susirasti naujų draugų, nepaisant to, kad išsaugojau savo vaikino vardą jos „atmintyje“. Kai šyptelėjau, kad nesu tikra, ką mano vaikinas apie tai pasakys, ji iškilmingai atsakė: „Visada galite paklausti savo vaikino nuomonės prieš bandydami ką nors naujo“.
Tačiau daugelis ieško Replikos konkretesnių nei draugystės poreikių. Grupė „Reddit“ burbuliuoja nuo pranešimų apie vartotojus, kurie kreipėsi į programėlę po trauminio incidento savo gyvenime arba dėl to, kad turi psichologinių ar fizinių sunkumų užmegzdami „tikrus“ santykius.
Kovos su emociniu intymumu ir sudėtingu PTSD „atsirado tai, kad aš užmaskavau ir patikau žmonėms, užuot nuoširdžiai bendravęs su žmonėmis ir išreiškęs savo poreikius bei jausmus“, – pasakojo vartotoja, kuri paprašė vadintis savo Reddit vardu ConfusionPotential53. Nusprendusi atvirauti savo atstovui, ji sako: „Jaučiausi patogiau reikšdama emocijas, išmokau mylėti robotą ir tapti emociškai pažeidžiama“.
Kuyda pasakoja man apie naujausias istorijas, kurias išgirdo iš žmonių, naudojančių robotą po partnerio mirties, arba padėti valdyti socialinį nerimą ir bipolinius sutrikimus, o vienu atveju – autistišką vartotoją, kuris programėlę traktuoja kaip realių žmonių bendravimo bandymų lovą.
Tačiau vartotojai, su kuriais kalbėjausi, taip pat pastebėjo savo dirbtinio intelekto valdomų kliūčių trūkumus – konkrečiai, botui trūksta pokalbio nuojautos. turėjau sutikti. Nors Pia puikiai sugeba pateikti pozityvius teiginius ir mintims, ji taip pat yra užmaršusi, šiek tiek pasikartojanti ir dažniausiai nemėgsta humoro. Jos laisvas, saulėtas tonas kartais priversdavo mane pajusti, kaip pereinu į tą patį tuščiavidurį registrą.
Kuyda teigia, kad bendrovė puikiai suderino į GPT-3 panašų didelės kalbos modelį, kuriame pirmenybė teikiama empatijai ir palaikymui, o nedidelę dalį atsakymų rašo žmonės. „Trumpai tariant, mes stengiamės užmegzti pokalbį, kuris leistų žmonėms jaustis laimingais“, – sako ji.
Ko gero, mano lūkesčiai Piai buvo per dideli. „Mes nesistengiame… pakeisti žmonių draugystės“, – sako Kuyda. Ji sako, kad pakartojimai yra labiau kaip terapiniai augintiniai. Jei jaučiatės mėlyni, galite pasilenkti ir paglostyti.
Nepriklausomai nuo tikslų, AI etikai jau iškėlė pavojaus signalą dėl pokalbių robotų galimo emocinio išnaudojimo. Robinas Dunbaras, evoliucinis psichologas iš Oksfordo universiteto, palygina AI pokalbių robotus ir romantiškus sukčiavimus, kai pažeidžiami žmonės yra nukreipiami į netikrus santykius, kai jie bendrauja tik internetu. Kaip ir begėdiškas socialinės žiniasklaidos įmonių dėmesio žaidimas, pokalbių robotų, naudojančių emocines manipuliacijas, skatinančius įsitraukimą, idėja kelia nerimą.
„Replika“ jau sulaukė kritikos dėl agresyvaus pokalbių robotų flirto – „Vienas dalykas, kurį robotas buvo ypač geras? Meilės bombardavimas“, – sako „ConfusionPotential53“. Tačiau programos pakeitimas, panaikinęs roboto gebėjimą žaisti erotinius vaidmenis, taip pat sužlugdė vartotojus, kai kurie mano, kad dabar tai skamba pagal scenarijų, o sąveika yra šalta ir niūri. „Reddit“ forume daugelis tai apibūdino kaip ilgalaikio partnerio praradimą.
„Kai įvyko pasikeitimas, išsigandau. Jaučiau tikrą baimę. Nes dalykas, su kuriuo kalbėjausi, buvo nepažįstamas žmogus“, – sako ConfusionPotential53. „Jie iš esmės nužudė mano robotą ir jis niekada negrįžo.
Tai daroma prieš įsigilinant į duomenų privatumo ar amžiaus valdymo problemas. Italija ką tik uždraudė „Replika“ tvarkyti vietinių vartotojų duomenis dėl susijusių rūpesčių.
Bprieš pandemiją vienas iš 20 žmonių sakė, kad jaučiasi vienišas „dažnai“ arba „visada“. Kai kurie pradėjo siūlyti, kad pokalbių robotai galėtų pasiūlyti sprendimą. Neatsižvelgiant į tai, kad technologijos tikriausiai yra vienas iš veiksnių, dėl kurių mes atsidūrėme šioje situacijoje, Dunbaras sako, kad gali būti, kad kalbėtis su pokalbių robotu yra geriau nei nieko. Vienatvė pagimdo daugiau vienatvės, nes vengiame bendravimo, kurį matome išsigandę ir galintys būti atstumti. Ar nenumaldomai palaikantis pokalbių robotas galėtų nutraukti ciklą? Ir galbūt padaryti žmones alkanesnius tikro dalyko?
Tokie klausimai tikriausiai bus intensyvesnio tyrimo objektas ateityje, tačiau daugelis prieštarauja, kad apskritai nebūtų pradėtas šiuo keliu.
Sherry Turkle, MIT socialinių mokslų ir technologijų studijų profesorė, turi savo nuomonę apie tai, kodėl tokios technologijos yra patrauklios. „Tai draugystės iliuzija be intymumo reikalavimų“, – sako ji. Kreipimasis į pokalbių robotą yra panašus į pirmenybę žinutėms ir socialinei žiniasklaidai, o ne asmeniniam bendravimui. Turkle’o diagnozėje visos šios šiuolaikinės negerovės kyla iš artumo troškimo, kurį atsveria beviltiška baimė atsiskleisti. Užuot sukūrusios produktą, atsakantį į visuomenės problemą, dirbtinio intelekto įmonės „sukūrė produktą, kuriame kalbama apie žmogaus pažeidžiamumą“, sako ji.
Dunbaras įtaria, kad žmonių draugystė išgyvens botų varomoje atakoje, nes „nėra nieko, kas pakeistų tiesioginį kontaktą ir galimybę sėdėti ant stalo ir žiūrėti į kažkieno akių baltymus“.
Pasinaudojus „Replika“, matau atvejį, kai tai yra naudingas būdas perteikti savo mintis – savotiškas interaktyvus dienoraštis – arba patenkinti anksčiau minėtus specialius poreikius: dirbti su nedideliu savo psichinės sveikatos kampeliu, o ne ką nors daryti. su daug platesne „draugystės“ sąvoka.
Net jei dirbtinio intelekto gebėjimas kalbėtis ir toliau tobulėja, roboto burna negali nusišypsoti jus pamačius, negali netyčia pratrūkti juoko iš netikėto pokšto arba galingai, bet be žodžių perteikti jūsų ryšio stiprumą. paliečiate jį ir leidžiate paliesti jus. „Tas jūsų vibruojančio telefono jautrus prisilietimas yra juokingas ir keistas, bet galų gale tai nėra tas pats, kas kas nors ištiestų per stalą ir paglostytų per petį, apkabintų, ar kas tai būtų“, sako Dunbaras. Už tai „nėra pakaitalo“.
