Kreditas: Unsplash/CC0 viešasis domenas Nauji UCL tyrimai atskleidė, kad žmonės galėjo aptikti dirbtinai sukurtą kalbą tik 73 % laiko, tuo pačiu tikslumu tiek anglų, tiek mandarinų kalbomis.
Tyrimas, paskelbtas m PLOS ONEyra pirmasis, įvertinęs žmogaus gebėjimą aptikti dirbtinai sukurtą kalbą kita nei anglų kalba.
Deepfake yra sintetinė laikmena, skirta panašėti į tikro žmogaus balsą ar išvaizdą. Jie patenka į generatyvaus dirbtinio intelekto (AI) kategoriją – mašininio mokymosi (ML) tipą, kuris moko algoritmą, kad išmoktų duomenų rinkinio modelius ir ypatybes, pvz., realaus asmens vaizdo ar garso įrašą, kad jis galėtų atkurti. originalus garsas ar vaizdas.
Nors ankstyviems netikros kalbos algoritmams gali prireikti tūkstančių žmogaus balso pavyzdžių, kad būtų galima generuoti originalų garsą, naujausi iš anksto parengti algoritmai gali atkurti žmogaus balsą naudodami tik trijų sekundžių trukmės jo kalbėjimo klipą. Atvirojo kodo algoritmai yra laisvai prieinami ir nors tam tikra kompetencija būtų naudinga, asmuo galėtų juos išmokyti per kelias dienas.
Technikos įmonė „Apple“ neseniai paskelbė „iPhone“ ir „iPad“ programinę įrangą, leidžiančią vartotojui sukurti savo balso kopiją naudojant 15 minučių įrašų.
UCL tyrėjai naudojo teksto į kalbą (TTS) algoritmą, parengtą pagal du viešai prieinamus duomenų rinkinius, vieną anglų ir mandarinų kalba, kad sukurtų 50 netikros kalbos pavyzdžių kiekviena kalba. Šie pavyzdžiai skyrėsi nuo tų, kurie buvo naudojami lavinant algoritmą, kad būtų išvengta galimybės atkurti pradinę įvestį.
Šie dirbtinai sukurti pavyzdžiai ir tikri pavyzdžiai buvo žaidžiami 529 dalyviams, siekiant išsiaiškinti, ar jie gali aptikti tikrą dalyką iš netikros kalbos. Dalyviai galėjo nustatyti netikrą kalbą tik 73 % laiko, o tai tik šiek tiek pagerėjo po to, kai buvo išmokyti atpažinti netikros kalbos aspektus.
Kimberly Mai (UCL Computer Science), pirmoji tyrimo autorė, sakė: „Mūsų išvados patvirtina, kad žmonės negali patikimai aptikti netikros kalbos, nesvarbu, ar jie buvo išmokyti aptikti dirbtinį turinį, ar ne. Taip pat verta paminėti, kad pavyzdžiai, kuriuos naudojome šiame tyrime, buvo sukurti naudojant palyginti senus algoritmus, todėl kyla klausimas, ar žmonės negalės aptikti netikros kalbos, sukurtos naudojant pažangiausias technologijas dabar ir ateityje.
Kitas mokslininkų žingsnis yra sukurti geresnius automatizuotus kalbos detektorius, kurie yra dalis nuolatinių pastangų sukurti aptikimo galimybes, kad būtų išvengta dirbtinai sukurto garso ir vaizdų grėsmės.
Nors generatyvioji dirbtinio intelekto garso technologija yra naudinga, pvz., didesnis prieinamumas tiems, kurių kalba gali būti apribota arba kurie gali prarasti balsą dėl ligos, vis labiau baiminamasi, kad nusikaltėliai ir nacionalinės valstybės gali panaudoti tokią technologiją, kad padarytų didelę žalą. asmenims ir visuomenėms.
Tarp dokumentuotų atvejų, kai nusikaltėliai naudojo melagingą kalbą, yra vienas 2019 m. incidentas, kai Didžiosios Britanijos energetikos įmonės generalinis direktorius buvo įsitikinęs, kad perdavė šimtus tūkstančių svarų netikram tiekėjui, atlikdamas padirbtą savo viršininko balso įrašą.
Profesorius Lewisas Griffinas (UCL kompiuterių mokslas), vyresnysis tyrimo autorius, sakė: „Generatyviojo dirbtinio intelekto technologija tampa vis sudėtingesnė ir daugelis šių įrankių yra atvirai prieinami, todėl matome daugybę privalumų ir pavojų. Žinoma, būtų protinga, kad vyriausybės ir organizacijos parengtų strategijas, kaip kovoti su piktnaudžiavimu šiomis priemonėmis, tačiau taip pat turėtume pripažinti teigiamas galimybes, kurios yra horizonte.
Daugiau informacijos: Mai KT, įspėjimas: žmonės negali patikimai aptikti kalbos klastočių, PLoS ONE (2023). DOI: 10.1371/journal.pone.0285333, journals.plos.org/plosone/arti … journal.pone.0285333
Citata: Žmonės negali aptikti daugiau nei ketvirtadalio netikros kalbos pavyzdžių, rodo tyrimai (2023 m. rugpjūčio 2 d.), gauti 2023 m. rugpjūčio 3 d. iš https://techxplore.com/news/2023-08-humans-unable-quarter-deepfake-speech. html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
