Kreditas: Pixabay / CC0 viešasis domenas „Google“ paleido „Bard“, tai į paiešką integruotas, dirbtinio intelekto valdomas pokalbių robotas, suklydo, kai pirmoji roboto reklama netyčia parodė, kad jis negali rasti ir pateikti tikslios informacijos vartotojams.
Indianos universiteto Kelley verslo mokyklos ir Minesotos universiteto Carlson School of Management profesorių tyrimai paaiškina, kodėl didžiausios pasaulyje paieškos sistemos kūrėjui gali būti sunkiau nurašyti situaciją kaip laikiną problemą.
Nors neretai programinės įrangos pardavėjai išleidžia neužbaigtus produktus ir vėliau taiso klaidas bei suteikia papildomų funkcijų, tyrimai rodo, kad tai gali būti ne pati geriausia dirbtinio intelekto strategija.
Kaip matyti per vieną dieną 100 milijardų JAV dolerių vertės sumažėjimą „Google“ patronuojančios bendrovės „Alphabet“ rinkos vertei, sugedusi demonstracinė versija gali padaryti didelę žalą. Išvados žurnalo priimtame straipsnyje ACM operacijos dėl kompiuterio ir žmogaus sąveikos rodo, kad klaidos, atsirandančios anksti naudotojams sąveikaujant su algoritmu, gali turėti ilgalaikį neigiamą poveikį pasitikėjimui ir pasitikėjimui.
Antino Kim ir Jingjing Zhang, Kelley operacijų ir sprendimų technologijų docentai, kartu su asistentu Mochen Yang yra straipsnio „Kai algoritmų klaidos: diferencinis ankstyvųjų ir vėlyvųjų klaidų poveikis vartotojų pasitikėjimui algoritmais“ bendraautoriai. Carlson informacijos ir sprendimų mokslų profesorius. Zhang taip pat yra Kelley verslo analitikos instituto direktorius. Yangas dėstė Kelley 2018–2019 m.
Žinomas kaip „algoritmo aversija“, vartotojai linkę vengti naudoti algoritmus, ypač susidūrę su klaida. Tyrėjai nustatė, kad suteikus vartotojams daugiau galimybių valdyti dirbtinio intelekto rezultatus, galima sumažinti kai kuriuos neigiamus ankstyvųjų klaidų padarinius.
Kim, Yang ir Zhang išnagrinėjo situaciją per savo tyrimų objektyvą ir pateikia savo analizę toliau:
„Ne taip seniai paieškos sistemos tiesiog gaudavo esamą turinį iš interneto pagal naudotojų pateiktus raktinius žodžius. Tada 2022 m. pabaigoje „OpenAI“ sukurta pokalbio AI „ChatGPT“ užvaldė internetą. Vos per porą mėnesių „Microsoft“ paskelbė apie savo kelių milijardų dolerių investiciją į OpenAI ir integravo ChatGPT galimybes į Bing.
„Suprantama, kad „Google“, ginanti paieškos sistemų čempioną, jautė spaudimą ir greitai sureagavo. Vasario 6 d. „Google“ paskelbė reklamą, kurioje demonstravo jos pačios pokalbio AI paslaugą „Bard“. Deja, pirmoje demonstracinėje versijoje „Bard“ padarė faktinę klaidą, o rinka neatleido blogo Bardo pirmojo įspūdžio. Dėl šios klaidos „Google“ pagrindinės įmonės „Alphabet“ rinkos vertė sumažėjo 100 mlrd.
„Po to „Google“ darbuotojai kritikavo generalinį direktorių dėl „skubo, klaidingo“ Bardo pranešimo, o „Google“ dabar prašo darbuotojų padėti rankiniu būdu pataisyti AI „blogus atsakymus“.
„Numatomieji algoritmai ir generuojantis AI (šiame straipsnyje plačiai vadinami „algoritmais“) veikia naudodami tikimybinius procesus, o ne deterministinius, o tai reiškia, kad net geriausi algoritmai kartais gali klysti.
„Tačiau vartotojai gali netoleruoti tokių klaidų, o terminas „algoritmo vengimas“ reiškia vartotojų polinkį vengti naudoti algoritmus, ypač susidūrus su klaida.
„Ne visos klaidos turi vienodą poveikį naudotojams ir, Google atveju, rinkai. Mūsų tyrimai rodo, kad klaidos, atsirandančios anksti naudotojams sąveikaujant su algoritmu, kol jie dar neturėjo galimybės sukurti pasitikėjimą sėkmingai sąveikaujant, turi ilgalaikis neigiamas poveikis vartotojų pasitikėjimui ir pasitikėjimui.
„Iš esmės ankstyvos klaidos gali sukurti blogą pirmąjį įspūdį, kuris išlieka ilgą laiką. Tiesą sakant, mūsų eksperimento metu, kai dalyviai pakartotinai sąveikavo su algoritmu, jų pasitikėjimo lygis po ankstyvos klaidos niekada visiškai neatsistatė iki klaidos nebuvimo lygio.
„Tačiau situacija buvo kitokia dėl klaidų, kurios įvyko po to, kai dalyviai jau pakankamai sėkmingai sąveikavo su algoritmu ir sukūrė pasitikėjimą. Tokiais atvejais dalyviai buvo atlaidesni, kai algoritmai padarė klaidą, traktuodami tai kaip vienkartinį atsitiktinumą. Dėl to pasitikėjimo ir pasitikėjimo lygis labai nenukentėjo.
„Kad būtų sąžininga su Google, neretai tradiciniai programinės įrangos pardavėjai išleidžia nebaigtus produktus ir vėliau taiso klaidas bei suteikia papildomų funkcijų. Tačiau dirbtinio intelekto atveju tai gali būti neprotinga strategija, nes sugadintos demonstracinės versijos žala gali būti padaryta. Mūsų tyrimai rodo, kad „Google“ kelias į atsigavimą po neigiamo klaidos poveikio gali būti ilgas.
„Taigi, kokių veiksmų AI sistemos gali imtis, kad sumažintų klaidų, tokių kaip „Google“ Bard, padarinius? Mūsų išvados rodo, kad naudotojams suteikiant galimybę valdyti, kaip naudoti algoritmo rezultatus, galima sumažinti kai kuriuos neigiamus ankstyvųjų klaidų padarinius.
„Gali būti, kad Bardo klaida turėjo tokį didelį neigiamą poveikį dėl pasitikėjimo, su kuriuo buvo pateiktas neteisingas rezultatas. Paklaustas: „Apie kokius naujus Jameso Webbo kosminio teleskopo atradimus galiu pasakyti savo 9-mečiui? Pokalbių robotas atsakė ženkleliais, kad teleskopas padarė pačias pirmąsias egzoplanetų nuotraukas – faktiškai neteisingas teiginys, kurį „Google“ galėjo patikrinti „Google“ paieškos sistema.
„Algoritmams, kuriuose naudojami tikimybiniai procesai, paprastai yra balas, nurodantis rezultato patikimumo lygį. Kai rezultatas yra žemiau tam tikros ribos, gali būti protinga suteikti vartotojams daugiau kontrolės. Vienas iš pavyzdžių galėtų būti grįžimas į paieškos variklio režimą , kur pateikiami keli patikimi ir svarbūs šaltiniai, kad vartotojai galėtų naršyti.
„Galų gale, „Google“ tai daro geriausiai, ir tai gali būti geresnis būdas nei paskubomis išleisti kitą AI, kuris gali užtikrintai pateikti neteisingą atsakymą.
Daugiau informacijos: Antino Kim ir kt., Kai algoritmai klysta: skirtumas ankstyvų ir vėlyvų klaidų įtaka vartotojų pasitikėjimui algoritmais, ACM operacijos dėl kompiuterio ir žmogaus sąveikos (2022). DOI: 10.1145/3557889
Citata: Naujas tyrimas paaiškina, kodėl blogas pirmasis įspūdis „Google“ kainavo 100 mlrd. USD arba daugiau (2023 m. kovo 11 d.), gautas 2023 m. kovo 11 d. iš https://techxplore.com/news/2023-03-bad-google-billionor.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
