Kalbėkite toliau: profesorius Dali Kaafaras, pavaizduotas nuotraukoje, ir kibernetinio saugumo komanda tikisi, kad jų naujieji robotai, kovojantys su sukčiais, išlaikys sukčius iki 40 minučių ir taip pat padės atpažinti naujausius telefoninius sukčius, kad bankai galėtų įspėti klientus. Kreditas: Macquarie universitetas Macquarie universiteto kibernetinio saugumo ekspertai išrado daugiakalbį pokalbių robotą, skirtą išlaikyti sukčius ilgai skambinti netikriems skambučiams ir galiausiai sumažinti daugybę žmonių, kurie kasdien praranda pinigus pasaulio nusikaltėliams.
Nauja dirbtinio intelekto valdoma sistema sukūrė įtikinamų netikrų aukų – daugiakalbių pokalbių robotų, kurie švaisto laiką sukčių skambintojams, siekdami sumažinti 55 milijardus dolerių, kuriuos kasmet dėl vagių praranda žmonės.
Pavadinta Apate, graikų apgaulės deivės vardu, sistema „apgaudins sukčius“, naudodama įtikinamus balso klonus pokalbiams su tikrais sukčiais.
„Telefonines aferas vykdo organizuotos nusikalstamos grupuotės ir šiuo metu sugaunama tik maža dalis nusikaltėlių, o pinigai retai atgaunami“, – sako profesorius Dali Kaafaras, Macquarie universiteto kibernetinio saugumo centro vykdomasis direktorius.
Mintis profesoriui Kaafarui kilo pietaujant su šeima, kai paskambino sukčius. Jis linksmai apsimetė, leisdamas savo vaikams juoktis ir 40 minučių išlaikydamas aferistą ant linijos.
„Supratau, kad, nors ir iššvaistiau sukčių laiką, kad jie negalėtų pasiekti pažeidžiamų žmonių, tai ir buvo esmė – tai taip pat buvo 40 mano gyvenimo minučių, kurių aš nebesugrįšiu“, – sako profesorius Dali.
„Tada pradėjau galvoti apie tai, kaip galėtume automatizuoti visą procesą ir panaudoti natūralios kalbos apdorojimą, kad sukurtume kompiuterizuotą pokalbių robotą, kuris galėtų turėti patikimą pokalbį su aferistu“, – sako jis.
Profesorius Kaafaras sako, kad jo komanda dabar turi laukiančių šios labai efektyvios technologijos patentų.
„Džiaugiamės, kad ši nauja technologija gali aktyviai sulaužyti sukčiavimo verslo modelį ir padaryti jį nuostolingu“, – sako jis.
Itin pelninga pasaulinė telefoninių sukčių prekyba kasmet auga, o ACCC apskaičiavo, kad 2022 m. australai sukčiams prarado daugiau nei 3,1 mlrd.
Atsikratykite lengvo pelno
Profesorius Kaafaras sako, kad nepaisant to, kad telekomunikacijų paslaugų teikėjai nuo 2020 m. blokuoja daugiau nei pusę milijardo sukčiavimo skambučių, australai vis dar yra užtvindyti šių skambučių, o maža dalis, kuri patenka į auką, gali pakenkti aukoms.
Pasak jo, telefoninių sukčių daugėja visame pasaulyje dėl kelių priežasčių.
Tokios technologijos kaip balso per internetą protokolas (VOIP), leidžia kibernetiniams nusikaltėliams lengvai ir pigiai paslėpti savo buvimo vietą, apsimetant, kad skambina iš bet kurio numerio.
Tuo tarpu technologijų srityje sunku ir brangu atnaujinti telekomunikacijų infrastruktūrą ir protokolus, kad būtų pagerintas skambučių autentifikavimas.
„Finansiniu požiūriu tai didelis pelno ir pigių sukčių santykis, ši praktika yra labai pelninga ir palyginti nedidelės rizikos nusikalstama veikla, o aukoms gana sunku susigrąžinti šiuos pinigus.
Šios sąlygos pritraukia vis daugiau sukčių, kurie specializuojasi žaidžiant žmogaus emocijas ir baimes.
„Sukčių verslo modelis priklauso nuo didelio pelno iš nedidelio skaičiaus aukų; tik nedidelė dalis tūkstančių kiekvieną savaitę atliekamų skambučių būna sėkmingi“, – sako profesorius Kaafaras.
„Mūsų modelis juos suriša, švaisto laiką ir sumažina sėkmingų sukčių skaičių“, – sako jis. „Galime sutrikdyti jų verslo modelį ir padaryti jiems daug sunkiau užsidirbti pinigų.
Kaip buvo sukurtas APATE
Macquarie universiteto kibernetinio saugumo centro komanda pradėjo analizuoti sukčiavimo telefono skambučius ir tiksliai nustatyti socialinės inžinerijos metodus, kuriuos sukčiai naudoja savo aukoms, naudodama mašininio mokymosi metodus ir natūralios kalbos apdorojimą, kad nustatytų tipiškus sukčiavimo „scenarijus“.
Tada jie apmokė pokalbių robotus apie realaus pasaulio sukčių pokalbių duomenų rinkinį nuo sukčių skambučių įrašų iki sukčių el. laiškų nuorašų ir pokalbių žurnalų iš socialinės žiniasklaidos platformų, kad robotas galėtų sukurti savo pokalbius, panašius į realaus pasaulio sukčių skambučius.
Profesorius Kaafaras sako, kad natūralios kalbos apdorojimo (NLP) ir AI žmogaus balso klonavimo pažanga leido jiems sukurti dirbtinio intelekto agentus, gebančius sklandžiai kalbėti ir priimti tam tikrą asmenybę bei išlikti pokalbio kelyje, įtikinamai nuosekliai atsakydami. .
„Mūsų sukurti pokalbio AI robotai gali suklaidinti sukčius, manydami, kad jie kalbasi su perspektyviomis sukčių aukomis, todėl jie praleidžia laiką bandydami apgauti robotus“, – sako profesorius Kaafaras.
Šie robotai gali būti mokomi bet kokia kalba ar akcentu, o kadangi telefoniniai sukčiai yra pasaulinis iššūkis, šią technologiją galima pritaikyti bet kurioje pasaulio vietoje.
Tiesioginiai sukčių skambučių bandymai
Komanda dabar išbando pokalbių robotus tiesioginių sukčių skambučių metu, nukreipdama aukoms skirtus skambučius į jų bandomąjį prototipą, „visada veikiantį medaus puodą“ su daugybe asmenybių.
„Mes paskelbėme šiuos „nešvarius“ numerius visame internete, įtraukėme juos į kai kurias šlamšto programas arba publikuojame tinklalapiuose ir pan., kad jie dažniau sulauktų sukčiavimo skambučių“, – sako profesorius Kaafaras.
„Pastebėjome, kad robotai gana gražiai reaguoja į kai kurias keblias situacijas, kurių nesitikėjome išsisukti, kai sukčiai prašo informacijos, kuriai mes nemokėme robotų, tačiau robotai prisitaiko ir pateikia labai patikimų atsakymų. .
„Botai nuolat mokosi, kaip nukreipti skambučius, kad pasiektų pagrindinį tikslą: ilgiau išlaikyti aferistus.
Dabartinis „Apate“ robotų diegimas jau vidutiniškai trunka penkias minutes, o jų tikslas yra pasiekti 40 minučių.
Su sukčiais kovojantys robotai taip pat prisideda prie grėsmių žvalgybos – savalaikės informacijos, kuri renkama apie dabartinius telefoninius sukčiavimus ir jų taikinius; tai padeda tokioms organizacijoms kaip didieji bankai, mažmenininkai ir vyriausybinės institucijos įspėti klientus.
Profesorius Kaafaras sako, kad komanda bendrauja su daugeliu telekomunikacijų paslaugų teikėjų ir teigia, kad jie yra atviri daugeliui komercinių partnerysčių.
„Bendradarbiavimas su ryšių paslaugų teikėjais bus raktas į tai, kad tai būtų tikrai veiksminga“, – sako profesorius Kaafaras.
„Mes matome, kad tai turi didžiulį potencialą visame pasaulyje; jei galėsime nukreipti daugelį tų šlamšto skambučių, kuriuos teikėjai šiuo metu blokuoja, ir nusiųsti sukčius į „Apate“ robotus, kiek galime suvaržydami jų laiką, visa pramonė nebebus gyvybingas.
„Manau, kad galutinis metascenarijus gali būti toks, kad sukčiai patys įsisavins dirbtinį intelektą, mokydami savo sukčių pokalbių robotus, kurie vėliau nukreipiami į pokalbių robotus, priklausančius telekomunikacijų paslaugų teikėjams.
„Jei sukčiai pokalbių robotai susikalbėtų su aferą ginančiais pokalbių robotais, o ne vogtų pinigus iš tikrų žmonių, vertinčiau tai kaip didelį laimėjimą.
Citata: sukčių apgaudinėjimas: dirbtinio intelekto sukurtų netikrų aukų naudojimas nusikalstamo verslo modeliui sutrikdyti (2023 m. birželio 26 d.), gauta 2023 m. birželio 26 d. iš https://techxplore.com/news/2023-06-scamming-scammers-ai-created-fake -aukos.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
