Socialinės žiniasklaidos platformos ir technologijų įmonės privalės panaikinti kenksmingą medžiagą, sukurtą naudojant dirbtinį intelektą, pvz., gilius netikrus intymius vaizdus ir neapykantą kurstančią kalbą, pagal naujas federalinės vyriausybės taisykles internete.
Komunikacijos ministrė Michelle Rowland pranešė, kad norint reaguoti į „naują ir kylančią žalą“, reikia atlikti keletą pakeitimų, leiboristų vyriausybei išreiškus didelį susirūpinimą dėl plačiai prieinamų generuojamųjų dirbtinio intelekto paslaugų, naudojamų įžeidžiantiems ar pavojingiems vaizdams, vaizdo įrašams ir tekstams kurti. .
Technologijų kompanijų pagrindinių interneto saugumo lūkesčių (Bose) atnaujinimai taip pat pareikalaus užtikrinti, kad jų algoritmai, kurie diktuoja, ką vartotojai mato internete, nepadidintų žalingo ar „ekstremalaus“ turinio, įskaitant rasizmą, seksizmą ir homofobiją. Trečiadienį kalbėdamas Nacionaliniame spaudos klube Rowlandas išreikš susirūpinimą dėl didėjančio antisemitinio ir islamofobinio turinio X, anksčiau žinomo kaip Twitter.
- Prisiregistruokite gauti nemokamus „Guardian Australia“ rytinius ir popietinius naujienlaiškius el. paštu, kad gautumėte kasdienių naujienų santrauką
„Akivaizdu, kad pramonė gali padaryti daugiau žalos, kuri nėra aiškiai nurodyta dabartiniuose lūkesčiuose“, – sakys Rowlandas.
„Per pastaruosius dvejus metus tapo vis sunkiau atskirti dirbtinio intelekto sukurtus vaizdus nuo autentiškų. Nors ši technologija turi neįtikėtiną potencialą kaip pozityvi priemonė, mes taip pat matėme, kad ji naudojama kuriant vaizdus, skirtus žeminti, sugėdinti, įžeisti ir netgi piktnaudžiauti kitus.
Rowland kalboje pateiks du pagrindinius pranešimus: įstatymais numatytą Saugos internete įstatymo peržiūrą, kuriai vadovavo buvusi Australijos konkurencijos ir vartotojų komisijos (ACCC) pirmininko pavaduotoja Delia Rickard, ir ketinimą iš dalies pakeisti „Bose“ sistemą, taikomą technologijoms ir socialinėms reikmėms. žiniasklaidos įmonės.
„Bose“ leidžia „eSafety“ komisarui, prižiūrinčiam internetinės saugos įstatymą, reikalauti, kad įmonės praneštų apie savo pažangą pagal tam tikrus rodiklius. Vyriausybė pradės konsultacijas dėl pakeitimų, susijusių su generatyviniu dirbtiniu intelektu ir neapykantą kurstančių kalbų stiprinimo mažinimu.
Rowlando kalba bendruomenėje pareikš „didelį susirūpinimą“ dėl neapykantos kurstymo internete.
„Neseniai paskelbti pranešimai apie didėjančią antisemitinę ir islamofobinę retoriką apie X tai aiškiai parodo“, – sakys ji.
Konsultacinis dokumentas, kuriuo dalinsis Rowland biuras, sukurs naujų lūkesčių, kad įmonės turi imtis pagrįstų veiksmų, siekdamos „proaktyviai sumažinti generuojamųjų AI pajėgumų mastą, kuriuo sukuriama medžiaga arba palengvinama neteisėta ar žalinga veikla“.
„Tai apimtų, pavyzdžiui, „giliai padirbtų“ intymių vaizdų ar vaizdo įrašų, 1 klasės medžiagos, tokios kaip seksualinis vaikų išnaudojimas ar prievarta, kūrimas, arba vaizdų, vaizdo įrašų, garso ar teksto generavimas, siekiant palengvinti piktnaudžiavimą kibernetinėje erdvėje arba neapykantą kurstančią kalbą, “, – rašoma laikraštyje.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
Kitas lūkestis įpareigoja paslaugas „užtikrinti, kad visų vaikų naudojamų paslaugų prioritetas būtų vaiko interesai“.
Daugybė viešai prieinamų dirbtinio intelekto paslaugų, įskaitant gerai žinomas platformas „ChatGPT“, „Midjourney“ ir „DALL-E“, gali greitai ir laisvai kurti tekstą, nuotraukas ar vaizdo įrašus iš naudotojų raginimų. AI įrankiai taip pat vis dažniau įtraukiami į vyriausybės, verslo ir mokslo darbą.
Rugsėjo mėn. E. saugos komisija paskelbė apie naują pramonės kodą, apimantį paieškos variklius, reikalaujantį, kad jie iš savo rezultatų pašalintų medžiagą, kurioje išnaudoti vaikai, ir užtikrinti, kad generuojantys AI produktai negalėtų būti naudojami tokiai medžiagai kurti.
Naujajame konsultaciniame dokumente teigiama, kad vyriausybė nori užtikrinti, kad vartotojai „mėgautųsi generuojamųjų AI galimybių privalumais“, tuo pačiu pašalindami žalą, kuri apima „kenksmingų medžiagų gamybą ir veiklą tokiu mastu ir greičiu, kokio anksčiau nebuvo įmanoma“.
„ESafety“ komisarė Julie Inman Grant išreiškė susirūpinimą dėl vaikų smurtautojų, naudojančių dirbtinį intelektą, kad sukurtų pokalbių robotus, skirtus susisiekti su aukomis.
Atsižvelgiant į naujus lūkesčius, įmonės turėtų užkirsti kelią naudotojų užklausoms, kurios gali generuoti žalingą medžiagą, siūlydamos raginimus ar patarimus, raginančius vartotojus persvarstyti savo užklausas.
„Žalos, kurią galima padaryti ar palengvinti naudojant generatyvųjį dirbtinį intelektą, tipai ir apimtis ir toliau keisis“, – teigiama konsultaciniame dokumente, kuriame teigiama, kad žalos mažinimo priemonės turi „toliau tobulėti“.
Rowlandas teigė, kad vyriausybė turi „nuolat iš naujo vertinti jai ir e. saugos komisarui turimas priemones“.
„Bose“ taip pat bus atnaujintas, kad įmonės apsvarstytų, kaip jų „rekomendavimo sistemos“ teikia turinį vartotojams, konsultaciniame dokumente ypač paminėtos socialinės žiniasklaidos platformos, įskaitant „Facebook“, „Instagram“, „TikTok“, „X“ ir „YouTube“.
Straipsnyje pažymima, kad šios sistemos gali „pastiprinti žalingą ir ekstremalų turinį“, įskaitant terorizmą ar smurtinį ekstremizmą, o nauji lūkesčiai įpareigoja platformas kuo labiau sumažinti tokio turinio išplitimą.
„Bose“ gali būti atnaujintas pagal vyriausybės reglamentą ir tam nereikės teisės aktų, konsultacijos vyks iki 2024 m. vasario mėn. Saugos internete akto peržiūra bus pradėta 2024 m. pradžioje.
