Eksperimento metu parodyti sugeneruotų profilių pavyzdžiai. Kreditas: arXiv (2022). DOI: 10.48550/arxiv.2209.07214 Dar visai neseniai buvo iššūkis sukurti įtikinamus netikrus socialinės žiniasklaidos profilius, nes vaizdų šaltinį buvo galima atsekti, o tekstas dažnai neatrodė kaip žmogus.
Šiandien, sparčiai tobulėjant dirbtiniam intelektui, darosi vis sunkiau atskirti. Tyrėjai iš Kopenhagos verslo mokyklos nusprendė atlikti eksperimentą su 375 dalyviais, kad patikrintų, ar sunku atskirti tikrus ir netikrus socialinės žiniasklaidos profilius.
Jie nustatė, kad dalyviai nesugebėjo atskirti dirbtinai sukurtų netikrų „Twitter“ paskyrų nuo tikrų, o iš tikrųjų suvokė, kad netikros paskyros yra mažiau padirbtos nei tikrosios.
Tyrėjai sukūrė savo netikrą „Twitter“ kanalą, kurio tema buvo karas Ukrainoje. Sklaidos kanale buvo tikri ir sukurti profiliai su tviterio žinutėmis, palaikančiomis abi puses. Suklastotuose profiliuose buvo naudojamos kompiuteriu sukurtos sintetinės profilio nuotraukos, sukurtos naudojant StyleGAN, ir įrašai, sukurti naudojant GPT-3, tą patį kalbos modelį, kuris yra už ChatGPT.
„Įdomu tai, kad daugiausiai nesutarimų dėl tikslumo ir tikimybės klausimų turėjo tikri žmonės. Vieną iš tikrų profilių 41,5% jį mačiusių dalyvių klaidingai įvardijo kaip netikrą. Tuo tarpu vienas geriausių netikrų profilių buvo tik 10 % pažymėjo kaip robotą“, – sako mokslų daktaras Sippo Rossi. Kopenhagos verslo mokyklos Skaitmeninimo katedros Verslo duomenų analizės centro bendradarbis.
„Mūsų išvados rodo, kad sugeneruotų netikrų profilių kūrimo technologija pažengė iki tiek, kad sunku juos atskirti nuo tikrų profilių“, – priduria jis.
Tyrimas buvo pristatytas Havajų tarptautinėje sistemos mokslų konferencijoje (HICSS), o straipsnį galima rasti arXiv išankstinio spausdinimo serveris.
Netinkamo naudojimo galimybė
„Anksčiau buvo daug darbo kuriant tikroviškus netikrus profilius. Prieš penkerius metus paprastas vartotojas neturėjo technologijos sukurti tokio masto ir lengvumo netikrus profilius. Šiandien ji yra labai prieinama ir prieinama daugeliui, o ne tik nedaugeliui, “ – sako bendraautorius Raghava Rao Mukkamala, Kopenhagos verslo mokyklos Skaitmeninimo departamento Verslo duomenų analizės centro direktorius.
Nuo politinio manipuliavimo iki dezinformacijos iki elektroninių patyčių ir elektroninių nusikaltimų – gilaus mokymosi sukurtų socialinės žiniasklaidos profilių plitimas turi reikšmingų padarinių visuomenei ir visai demokratijai.
„Autoritarinės vyriausybės užtvindo socialinę žiniasklaidą, atrodytų, palaikančiais žmonėmis manipuliuoti informacija, todėl labai svarbu atidžiai apsvarstyti galimas šių technologijų pasekmes ir stengtis sušvelninti šį neigiamą poveikį“, – priduria Raghava Rao Mukkamala.
Būsimi tyrimai
Tyrėjai naudojo supaprastintą nustatymą, kai dalyviai pamatė vieną tviterį ir jį paskelbusios paskyros profilio informaciją. Kitas tyrimo žingsnis bus išsiaiškinti, ar galima teisingai atpažinti robotus iš naujienų kanalo diskusijos, kurioje komentuoja skirtingas netikras ir tikras profilis. apie konkretų naujienų straipsnį toje pačioje gijoje.
„Mums reikia naujų būdų ir metodų, kaip tai išspręsti, nes dabar praktiškai neįmanoma grąžinti džino į lempą. Jei žmonės nesugebės aptikti netikrų profilių ir pranešimų bei apie juos pranešti, tai turės būti automatinio aptikimo funkcija. , pavyzdžiui, paskyrų pašalinimas ir asmens tapatybės patvirtinimas bei kitų apsaugos priemonių, kurias vykdo šias socialinių tinklų svetaines valdančios įmonės, kūrimas“, – priduria Sippo Rossi.
„Šiuo metu mano patarimas būtų pasitikėti tik žmonėmis socialiniuose tinkluose, kuriuos pažįstate“, – apibendrina Sippo Rossi.
Daugiau informacijos: Sippo Rossi ir kt., Ar giluminio mokymosi sukurti socialinės žiniasklaidos profiliai skiriasi nuo tikrų profilių?, arXiv (2022). DOI: 10.48550/arxiv.2209.07214
Žurnalo informacija: arXiv
Teikia Kopenhagos verslo mokykla
Citata: Ar galite pastebėti robotus? Naujas tyrimas teigia, kad ne (2023 m. kovo 15 d.), gautas 2023 m. kovo 15 d. iš https://techxplore.com/news/2023-03-bots.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.