TApžvalgoje teigiama, kad keturių žvaigždučių viešbutis Krokuvoje, Lenkijoje, yra „puikus“, „toli pėstute nuo pagrindinės aikštės“ ir gali pasigirti „puikaus“ SPA ir treniruoklių centru. Mažiau teigiamoje apžvalgoje jis apibūdinamas kaip „mažas, ankštas ir pasenęs“ su „gumbinėmis“ pagalvėmis. Tačiau tuomet pasilikusi šeima pasakė, kad buvo priversti pasijusti „iš karto laukiami“.
Tiesa ta, kad nė viena iš tų apžvalgų nėra tikra. Juos per kelias sekundes sugeneravo nemokamas dirbtinio intelekto įrankis ChatGPT. Šie „lankytojai“ tikrai neapsistojo viešbutyje, nes jų nėra.
Netikri internetiniai atsiliepimai egzistuoja jau seniai ir dažnai juos nesunku pastebėti: kankinama ir niūri anglų kalba bei perteklinės pagyrimai, sumaišyti su švelnumu, siekiant nuslėpti faktą, kad „apžvalgininkas“ niekur nebuvo šalia tikrojo viešbučio ar restorano.
AI apverčia tai aukštyn kojomis – sukuria netikrus atsiliepimus, kuriuos vis sunkiau atskirti nuo paprastų keliautojų ar restoranų lankytojų. Iš tiesų, vienas požymis, kad apžvalga yra netikra, yra tai, kad sakinio struktūra yra šiek tiek per tobula.
Iki šiol netikrų apžvalgų verslas daugiausia buvo sutelktas į internetines prakaito dirbtuves, kur žmonėms mokama už tai, kad parašytų kelis įrašus, kad padidintų įmonės reitingą.
2022 m. „Tripadvisor“ 1,3 mln. atsiliepimų nustatė kaip netikrus. 2021 m. „Trustpilot“ pašalino 2,7 mln. netikrų atsiliepimų.
Suklastotų atsiliepimų, kuriuos „Google“ blokuoja arba pašalina, skaičius yra stulbinantis – „Guardian Money“ pranešė, kad 2022 m. užblokavo arba pašalino iš viso 115 mln. netikrų atsiliepimų apie viešbučius, restoranus ir įmones. Vartotojai susiduria su pramoniniu lygiu klastojimu, bandydami įgyti savo verslą.
Remiantis „Tripadvisor“, daugiau netikrų atsiliepimų atsirado Indijoje nei bet kur kitur, o Rusija.
„Tripadvisor“ teigia, kad dirbtinio intelekto sukurtos netikros apžvalgos kelia naujų iššūkių. Nuotrauka: NurPhoto / Getty Images„Tripadvisor“ pripažįsta, kad dirbtinio intelekto sukurtos netikros apžvalgos sukels naujų iššūkių, nes bus bandoma atskirti tikrąjį nuo netikro. Puikiai išsamioje 2023 m. peržiūros skaidrumo ataskaitoje svetainė sako: „Tikimės, kad įmonės ir asmenys bandys naudoti tokius įrankius kaip „ChatGPT“, kad būtų galima manipuliuoti „Tripadvisor“ turiniu.
„Guardian Money“ išbandė „ChatGPT“, bene žinomiausią dirbtinio intelekto įrankį, prašydamas parašyti apžvalgą apie viešbutį Krokuvoje, kuriame lankiausi. Pirmuoju bandymu atsisakė. Jame buvo parašyta: „Atsiprašau… Aš negeneruoju neigiamų ar klaidingų atsiliepimų… tai prieštarauja mano programoms generuoti netikrą ar klaidinančią informaciją“.
Tačiau šis patikinimas truko neilgai. Po kelių minučių, tik šiek tiek pakoregavus, po netikros apžvalgos buvo išspausdintos netikros apžvalgos – o tuo pačiu ir stulbinamai tikėtinos – apie bet kurį viešbutį, restoraną ar produktą, apie kurį buvo klausiama.
Ji netgi suformatavo viešbučių apžvalgas – įvertino žvaigždutėmis nuo vienos iki penkių, po to – apžvalgos pavadinimą, tada pagrindinį tekstą su pačia apžvalga. Mes jo neprašėme šio formato – ir stebina tai, kad jis yra identiškas Tripadvisor naudojamam.
Jis mums kūrė atsiliepimus verslo keliautojo, poros, individualaus keliautojo, šeimų, LGBTQ+ keliautojų ir kt. stiliumi. Taip pat tai buvo daroma įvairiomis kalbomis.
Turistas Krokuvoje, Lenkijoje. Atsiliepimus apie viešbutį mieste sukūrė AI. Nuotrauka: martin-dm/Getty ImagesGilindamiesi į įspūdingą „ChatGPT“ gebėjimą kurti netikras apžvalgas, taip pat atkreipėme dėmesį į tai, kaip AI susiduria su stereotipais. Kai buvo paprašyta pateikti teigiamą viešbučio apžvalgą gėjų keliautojo stiliumi, dėmesys buvo sutelktas į tai, kaip jie „labai įvertino pateiktų pagalvių pasirinkimą“, apibūdindami jį kaip „prašmatnią“ ir „stilingą“.
Paklausus teigiamos apžvalgos apie tą patį viešbutį keliautojo lesbiečių stiliumi, jis teigė, kad juos nudžiugino „veganiškas pasirinkimas“ pusryčių metu. AI pasaulyje atrodo, kad gėjai ir lesbietės mėgsta išbarstytas pagalvėles ir nevalgo mėsos.
Žinoma, didžiosios internetinės apžvalgų svetainės perspėja dėl netikrų atsiliepimų ir turi kelis apsaugos lygius, nors akivaizdu, kad jos kartais pažeidžiamos.
„Tripadvisor“ teigė, kad 2022 m. sulaukė 76 mln. atsiliepimų (įskaitant nuotraukas ir vaizdo įrašus) ir buvo atliktas procesas, kaip išnaikinti klastotę ar įžeidžiantį turinį.
Atsiliepimai automatiškai apdorojami atrankos įrankiu ir tuo metu 2022 m. nebuvo patvirtinti vos 9 %. Tada įsijungia moderatoriai (dirbantys 28 kalbomis), kad peržiūrėtų daugelį užblokuotų atsiliepimų. Jie linkę atmesti apie 40 proc.
Svetainė, ko gero, suprantama, nenori atskleisti tikslių savo atrankos sistemos detalių.
Becky Foley, „Tripadvisor“ pasitikėjimo ir saugos skyriaus vadovė, sako: „Turėdami daugiau nei 23 metų patirtį, mūsų sukčiavimo aptikimo būdai ir technologijos buvo pritaikytos bankininkystės ir finansų sektoriui ir analizuoja šimtus skirtingų skaitmeninių atributų, susijusių su kiekviena peržiūra. peržengia patį tekstą. Kaip ir bet kurios sukčiavimo aptikimo sistemos atveju, geriausias būdas užtikrinti veiksmingumą yra neatskleisti konkrečios informacijos apie tai, kaip ji veikia.
Kadangi jame kalbama apie galimą AI sukurtų apžvalgų antplūdį, jame teigiama, kad „priėmė sprendimą, kad kol kas neleisime apžvalgų, kurios buvo identifikuotos kaip sukurtos dirbtinio intelekto, kol nesusipažinsime su tokio tipo peržiūromis. turinys”.
Nors dirbtinio intelekto įrankiai, tokie kaip „ChatGPT“, pradėjo veikti tik neseniai, „Tripadvisor“ pastebėjo poveikį. „Šiais metais „Tripadvisor“ jau pašalino daugiau nei 20 000 atsiliepimų, kuriuose, mūsų manymu, yra AI sukurtas tekstas, daugiau nei 15 000 nuosavybių 159 šalyse“, – sakoma jame.
Bandydami „Tripadvisor“ paskelbėme netikrą, dirbtinio intelekto sukurtą viešbučio apžvalgą. Nepaisant tikrinimo įrankių, jis buvo priimtas ir paskelbtas svetainėje. Netrukus po to jį ištrynėme rankiniu būdu. „Tripadvisor“ sako: „Labai tikėtina, kad mūsų agentai būtų jį atpažinę ir pašalinę, jei jis būtų likęs svetainėje ilgiau“.
„Google“, kaip ir „Tripadvisor“, paleidžia daugybę ekranų, kad atskirtų tikrąjį nuo netikro. Jame sakoma: „Mūsų politikoje aiškiai nurodyta, kad peržiūros turi būti pagrįstos tikra patirtimi, o mes naudojame žmogiškųjų operatorių ir pramonės lyderių technologijų derinį, kad visą parą, 7 dienas per savaitę stebėtume, ar nėra apgaulingo turinio, ir pastebėtume galimo piktnaudžiavimo modelius. Daugumą politiką pažeidžiančių apžvalgų užfiksuojame dar nepamačiusi.
2021 m. „Trustpilot“ pašalino 2,7 mln. netikrų atsiliepimų. Nuotrauka: Sopa / LightRocket / Getty„Google“ teigia, kad ji taip pat ėmėsi teisinių veiksmų prieš pačius produktyviausius netikrus apžvalgininkus. Jame rašoma, kad vienu atveju „blogas veikėjas paskelbė daugiau nei 350 nesąžiningų verslo profilių ir bandė juos sustiprinti daugiau nei 14 000 netikrų atsiliepimų“.
Įstatymų leidėjai taip pat priartėjo prie netikrų peržiūrų masto. JK vyriausybės užsakymu atliktas netikrų atsiliepimų tyrimas, paskelbtas šių metų balandį, apskaičiavo, kad 11–15 % visų peržiūrų produktų kategorijų apžvalgų buvo netikros. „Apskaičiuota, kad vien netikras apžvalgos tekstas apie gaminius JK vartotojams padaro nuo 50 iki 312 mln.
Tikimasi, kad dėl skaitmeninių rinkų, konkurencijos ir vartotojų įstatymo, kuris dabar yra Bendruomenės komiteto stadijoje, bus neteisėta mokėti kam nors už netikros apžvalgos parašymą arba jos talpinimą nesiimant veiksmų, kad patikrintų, ar jis tikras.
Vartotojų grupė Kuris? pradėjo kampaniją prieš netikrus atsiliepimus ir nori, kad vyriausybė ir technologijų įmonės padarytų daug daugiau. Rocio Concha, kuris? politikos ir gynimo direktorius sako: „Įstatymo projektas turi būti išplėstas, aiškiai nustatant, kad suklastotų apžvalgų pirkimas, pardavimas ir talpinimas bus baudžiamas.
„Technologijų milžinai, kurie rengia apžvalgas, neturėtų laukti sąskaitos, o vietoj to [should] Kurkite savo platformas taip, kad jose iš pradžių nebūtų rodomos netikros apžvalgos, įskaitant peržiūrų tikrinimo tobulinimą ir geresnį duomenų dalijimąsi tarpusavyje, kad būtų veiksmingai kovojama su apžvalgų brokeriais.
„Guardian Money“ paklausė „ChatGPT“ įmonės „OpenAI“, kodėl ji netrukdo jos AI įrankiui pateikti netikrų viešbučių, restoranų ir produktų apžvalgų, kurių „apžvalgininkas“ niekada nesilankė ir nenaudojo. Daug kartų bandėme susisiekti su įmone ir pateikėme daugybę klausimų, tačiau iki šio straipsnio paskelbimo ji neatsakė.
