Kreditas: Shutterstock Vyksta lenktynės siekiant pakeisti paiešką. O „Microsoft“ ką tik įmušė įvartį su savo naujuoju „Bing“ paieškos pokalbių robotu Sidnėjuje, kuris, be kitų nerimą keliančių rezultatų, gąsdino ankstyvuosius naudotojus, grasindamas mirtimi.
Paieškos pokalbių robotai yra AI valdomi įrankiai, įmontuoti paieškos sistemose, kurie tiesiogiai atsako į vartotojo užklausą, užuot pateikę nuorodas į galimą atsakymą. Vartotojai taip pat gali su jais nuolat bendrauti.
Jie žada supaprastinti paiešką. Nebereikia blaškytis rezultatų puslapiuose, nutylėti skelbimus, kai bandote surinkti atsakymą į savo klausimą. Vietoj to, pokalbių robotas sintezuoja jums patikimą atsakymą. Pavyzdžiui, galite paprašyti eilėraščio savo močiutės 90-mečiui Pam Ayres stiliumi ir atgauti komišką eilėraštį.
„Microsoft“ dabar pirmauja paieškos pokalbių robotų lenktynėse su Sidnėjumi (kaip ir priešingai, kaip buvo jų priėmimas). Technologijų milžino 10 milijardų JAV dolerių partnerystė su OpenAI suteikia išskirtinę prieigą prie ChatGPT – vieno naujausių ir geriausių pokalbių robotų.
Tai kodėl ne viskas vyksta pagal planą?
„Bing“ dirbtinis intelektas pašėlo
Anksčiau šį mėnesį „Microsoft“ paskelbė įtraukusi „ChatGPT“ į „Bing“, taip pagimdžiusi „Sidnėjų“. Per 48 valandas nuo išleidimo milijonas žmonių prisijungė prie laukiančiųjų sąrašo, kad galėtų jį išbandyti.
„Google“ atsakė savo pranešimu, demonstruodama paieškos pokalbių robotą, pavadintą „Bard“, pagerbiant didžiausią rašytoją anglų kalba. „Google“ demonstracinė versija buvo PR katastrofa.
Įmonės renginyje Bardas pateikė neteisingą atsakymą į klausimą ir „Google“ patronuojančios bendrovės „Alphabet“ akcijų kaina smarkiai nukrito. Šis incidentas nubraukė daugiau nei 100 milijardų JAV dolerių nuo bendros bendrovės vertės.
Kita vertus, „Microsoft“ viskas atrodė gerai. Tai yra tol, kol ankstyvieji Sidnėjaus vartotojai nepradėjo pranešti apie savo patirtį.
Kartais pokalbių robotas gali būti apibūdinamas tik kaip nesujungtas. Tai nereiškia, kad jis neveikia idealiai kitu metu, bet retkarčiais tai rodo nerimą keliančią pusę.
Viename pavyzdyje grasinama nužudyti Australijos nacionalinio universiteto profesorių. Kitame jis pasiūlė susituokti žurnalistei Niujorko laikas ir bandė nutraukti santuoką. Jis taip pat bandė priversti vieną vartotoją manyti, kad vis dar 2022 m.
Tai atskleidžia esminę pokalbių robotų problemą: jie mokomi didžiąją dalį interneto įliedami į didelį neuroninį tinklą. Tai gali apimti visą Vikipediją, visą Reddit ir didelę dalį socialinės žiniasklaidos bei naujienų. Jie veikia kaip automatinis užbaigimas jūsų telefone, padedantis numatyti kitą labiausiai tikėtiną žodį sakinyje. Dėl savo masto pokalbių robotai gali užbaigti ištisus sakinius ir net pastraipas. Tačiau jie vis tiek atsako tuo, kas tikėtina, o ne tuo, kas tiesa.
Pridedami apsauginiai turėklai, kad jie nesikartotų daug įžeidžiančio ar nelegalaus turinio internete, tačiau juos lengva peršokti. Tiesą sakant, „Bing“ pokalbių robotas mielai atskleis, kad jis vadinamas Sidnjumi, nors tai prieštarauja taisyklėms, pagal kurias jis buvo užprogramuotas.
Kita taisyklė, kurią pats dirbtinis intelektas atskleidė, nors ir neturėjo daryti, yra ta, kad ji „turi būti neaiški, prieštaringa ar ne į temą“. Tačiau Kevinas Roose’as, žurnalistas Niujorko laikas su kuriuo pokalbių robotas norėjo susituokti, apibūdino jį kaip „nuotaikingą, maniakiškai depresija sergantį paauglį, kuris prieš savo valią buvo įstrigęs antrarūšėje paieškos sistemoje“.
Kam toks nerimas?
Mano teorija, kodėl Sidnėjus gali elgtis taip – ir kartoju, kad tai tik teorija, nes mes tiksliai nežinome – yra ta, kad Sidnėjus negali būti sukurtas naudojant OpenAI GPT-3 pokalbių robotą (kuris veikia populiariajame ChatGPT). Atvirkščiai, jis gali būti sukurtas remiantis dar neišleistu GPT-4.
Manoma, kad GPT-4 turi 100 trilijonų parametrų, palyginti su tik 175 milijardais GPT-3 parametrų. Taigi GPT-4 greičiausiai būtų daug pajėgesnis ir, beje, daug pajėgesnis sugalvoti.
Keista, bet „Microsoft“ nereagavo su dideliu susirūpinimu. Ji paskelbė dienoraštį, kuriame dokumentuojama, kaip 71% pirmųjų Sidnėjaus vartotojų 169 šalyse palaikė pokalbių robotą. Atrodo, kad 71% yra pakankamai geras rezultatas Microsoft akimis.
Ir skirtingai nei „Google“, „Microsoft“ akcijų kaina dar nenukrito. Tai atspindi žaidimą čia. „Google“ taip ilgai vadovavo šiai erdvei, todėl vartotojai išaugo savo lūkesčius. „Google“ gali tik nusileisti, o „Microsoft“ – aukštyn.
Nepaisant nerimą keliančio Sidnėjaus elgesio, „Microsoft“ sulaukia precedento neturinčio dėmesio, o vartotojai (iš intrigos ar kitaip) vis dar plūsta išbandyti Sidnėjų.
Kai naujovė nuslūgsta
Žaidžiamas dar vienas daug didesnis žaidimas – ir tai susiję su tuo, ką mes laikome tiesa. Jei paieškos pokalbių robotai ims veikti (man atrodo, kad tai tikėtina), bet ir toliau veiks taip, kaip iki šiol veikė Sidnėjus (kas man taip pat atrodo tikėtina), „tiesa“ taps dar labiau neapčiuopiama sąvoka.
Internetas pilnas netikrų naujienų, sąmokslo teorijų ir dezinformacijos. Standartinė „Google“ paieška bent jau suteikia mums galimybę pasiekti tiesą. Jei mūsų „patikimomis“ paieškos sistemomis nebegalima pasitikėti, kas bus su mumis?
Be to, Sidnėjaus atsakymai gali tik sukurti Tay vaizdą – 2016 m. „Microsoft“ AI pokalbių robotą, kuris per dieną po išleidimo pavertė rasizmą ir ksenofobiją. Žmonės praleido lauko dieną su Tay, ir kaip atsakas atrodė, kad ji įtraukė į save kai kuriuos blogiausius žmogaus aspektus.
Visų pirma, naujos technologijos neturėtų pakenkti žmonėms. Modeliai, kuriais grindžiami pokalbių robotai, gali augti vis didesni, varomi vis daugiau duomenų, tačiau vien tai nepagerins jų našumo. Sunku pasakyti, kur atsidursime, jei nesugebėsime pakelti apsauginių turėklų.
Šis straipsnis iš naujo paskelbtas iš The Conversation pagal Creative Commons licenciją. Skaitykite originalų straipsnį.
Citata: Dujinis apšvietimas, meilės bombardavimas ir narcisizmas: kodėl „Microsoft“ „Bing AI“ yra toks nepakitęs? (2023 m. vasario 17 d.) gauta 2023 m. vasario 20 d. iš https://techxplore.com/news/2023-02-gaslighting-narcissism-microsoft-bing-ai.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
