Australijos vyriausybės naudota balso atpažinimo sistema, skirta milijonams žmonių, turi rimtą saugumo trūkumą, nustatė Australijos Guardian tyrimas.
„Centrelink“ ir Australijos mokesčių biuras (ATO) suteikia žmonėms galimybę naudoti „balso atspaudą“ kartu su kita informacija, kad patikrintų savo tapatybę telefonu, kad jie galėtų pasiekti slaptą informaciją iš savo paskyrų.
Tačiau po pranešimų, kad dirbtinio intelekto sukurtas balsas, išmokytas skambėti kaip konkretus asmuo, gali būti naudojamas norint pasiekti telefono banko paslaugas užsienyje, „Guardian Australia“ patvirtino, kad balso atspaudų sistemą taip pat gali apgauti dirbtinio intelekto sukurtas balsas.
Naudodamas vos keturias garso minutes „Guardian Australia“ žurnalistas sugebėjo sugeneruoti savo balso kloną, o tada galėjo jį panaudoti kartu su kliento nuorodos numeriu, kad gautų prieigą prie savo „Centrelink“ savitarnos paskyros.
Balso atspaudo paslauga, apibūdinama kaip „skaitmeninis jūsų balso garso, ritmo, fizinių savybių ir modelių atvaizdavimas“, vasario pabaigoje naudojosi 3,8 mln. „Centrelink“ klientų, o daugiau nei 7,1 mln. žmonių buvo patvirtinę savo balsą ATO.
„Centrelink“ prižiūrintis departamentas „Services Australia“ savo svetainėje teigia, kad paslauga yra „saugi, tiksli ir patikima“.
„Kažkam labai sunku pasiekti jūsų asmeninę informaciją. Sistema gali pasakyti, kai kas nors apsimeta jumis arba naudoja jūsų balso įrašą. Mes nesuteiksime jiems prieigos prie jūsų duomenų.
- Užsiregistruokite „Guardian Australia“ nemokamam rytui ir popietei pašto naujienlaiškius, skirtus jūsų kasdienei naujienų santraukai
Kiekvienas, bandantis naudoti balso atspaudą, taip pat turi žinoti paskyros savininko kliento nuorodos numerį, kuris paprastai nėra viešai prieinamas, tačiau numeris nėra taip saugiai laikomas kaip slaptažodis ir yra įtrauktas į Centrelink ir kitų paslaugų teikėjų, pvz., vaikų priežiūros paslaugų, korespondenciją. centrai.
Savitarnos telefono sistema leidžia žmonėms pasiekti neskelbtiną medžiagą, pvz., informaciją apie išmokų mokėjimą, ir prašyti išsiųsti dokumentus paštu, įskaitant pakaitines nuolaidas ar sveikatos priežiūros korteles.
Kai „Guardian Australia“ susisiekė su „Services Australia“, pateikdama išsamią informaciją apie saugos pažeidžiamumą, ji atsisakė pasakyti, ar balso spausdinimo technologija bus pakeista ar pašalinta iš „Centrelink“.
Atstovas Hankas Jongenas sakė, kad „Services Australia“ „gali nuolat vertinti riziką ir atitinkamai atnaujinti procesus“, o balso ID yra „labai saugus autentifikavimo metodas“, kurį naudoja „Centrelink“.
„Nuolat ieškome galimų grėsmių ir nuolat tobuliname klientų saugumą“, – sakė jis.
„Jei nustatome neįprastas aplinkybes, kaip klientai naudojasi mūsų autentifikavimo sistemomis, taikome papildomus testus, kad patvirtintume skambinančiojo tapatybę.
„Centrelink“ savitarnos telefono linija naudoja balso atspaudą automatizuotoje sistemoje vietoj slaptažodžio, tačiau ATO ir bent vienas Australijos bankas – „Bank Australia“ – siūlo balso atspaudą pokalbių su darbuotojais metu, kad sumažėtų tikrinimo klausimų poreikis. Tai gali būti mažiau pažeidžiama dirbtinio intelekto sukurtos balso programinės įrangos išnaudojimo, nes sunkiau reaguoti aukštos kokybės atsakymais realiuoju laiku, tačiau technologija, skirta tai padaryti, nuolat tobulėja.
Naujojo Pietų Velso universiteto AI instituto vyriausiasis mokslininkas Toby Walsh sakė „Guardian Australia“, kad sugebėjo klonuoti savo balsą per penkias minutes, o tai, kaip dirbtinis intelektas gali apeiti biometrinį atpažinimą, parodė savo, kaip saugumo priemonės, ribas. Walshas nenaudojo klonuoto balso, kad išbandytų prieigą prie jokių paslaugų.
„Manau, kad pagrindinė pamoka yra ta, kad biometriniai duomenys neišgelbės mūsų nuo vargo, kurį šiandien turime dėl slaptažodžių ir dviejų veiksnių autentifikavimo“, – sakė jis.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
„Jei susisiekėte su asmeniu keliais maršrutais – per jo telefono ar interneto paskyrą – tuomet esate šiek tiek tikri, kad [who they say they are]bet vien pamatyti jų veidą ar išgirsti jų balsą nepakaks.
Edas Santow, buvęs žmogaus teisių komisaras, o dabar Sidnėjaus technologijos universiteto Žmogiškųjų technologijų instituto politikos direktorius, sakė, kad vyriausybinės agentūros, naudojančios biometrinius duomenis kaip patikrinimo formą, reikalingos siekiant užtikrinti, kad jose įdiegtos geriausios sistemos ir kad būtų teisės aktai, kuriais grindžiamos šios sistemos.
„Reikia tikrai aiškių teisės aktų, kad būtų užtikrinta, jog apsauginiai turėklai būtų įrengti žvelgiant iš vyriausybės perspektyvos, [as well as] pagrindinių standartų“, – sakė jis. „Kad vyriausybinė agentūra naudotų technologijas tik tada, kai jos yra saugios ir patikimos, ir nebus piktnaudžiaujama bei kibernetiniais nusikaltimais.
ATO atstovas sakė, kad agentūra ėmėsi tvirtų priemonių sistemai apsaugoti nuo grėsmių, įskaitant AI balso klonavimą.
„ATO aktyviai ieško galimų pažeidžiamumų ir tobulina savo sistemą, kad būtų užtikrintas ATO klientų duomenų saugumas ir apsauga, o atitinkami valdikliai yra įtraukti į skaitmenines paslaugas, kurias siūlome Australijos bendruomenei.
„Bank Australia“ atstovas sakė, kad bankas „glaudžiai bendradarbiavo su mūsų technologijų partneriais, kad reguliariai stebėtų ir nuolat tobulintų mūsų sistemas, kad išvengtume naujų grėsmių, įskaitant tas, kurias kelia naujos AI ir mašininio mokymosi įrankiai“.
Bendrovė „Nuance“, kurios technologija naudojama balso atspaudų paslaugai, konkrečiai nesprendė klausimų apie pažeidžiamumą, tačiau nurodė „Guardian Australia“ į vasario mėnesio tinklaraščio įrašą, kuriame buvo nagrinėjama „sintetinių balsų“ problema.
Tinklaraščio įraše bendrovė apibūdino savo pastangas aptikti sintetinius balsus ir teigė, kad jos naujausia technologija gali tiksliai aptikti ir pažymėti klonuotų balsų naudojimą 86–99% atvejų, priklausomai nuo naudojamos technologijos.
„Mes „Nuance“ žinome, kad negalime užmigti ant laurų, o sukčiai nuolat ieškos būdų, kaip apeiti mūsų saugos technologijas. Štai kodėl mes skiriame milžiniškas MTEP pastangas, kad galėtume numatyti tolesnius nusikaltėlių žingsnius ir nuolat būti žingsniu priekyje“, – rašoma pranešime.
Balso klonavimas – palyginti nauja mašininio mokymosi technologija – nemokama arba už nedidelį mokestį siūloma daugelyje programų ir svetainių, o balso modelį galima sukurti tik iš kelių asmens įrašų.
Nors sugeneruotas balsas yra geresnis naudojant aukštos kokybės įrašus, bet kuris asmuo, viešai įrašęs save socialinėje žiniasklaidoje arba įrašytas kitur, gali būti pažeidžiamas dėl balso atkūrimo.
