„WhatsApp“ funkcija, kuri generuoja vaizdus pagal vartotojų paieškas, pateikia ginklo arba berniuko su ginklu nuotrauką, kai raginama įrašyti terminus „palestinietis“, „palestina“ arba „musulmonų berniukas palestinietis“, sužinojo „The Guardian“.
Paieškos rezultatai skyrėsi, kai juos išbandė skirtingi naudotojai, tačiau „Guardian“ ekrano kopijomis ir savo testais patvirtino, kad prie šių trijų paieškos rezultatų buvo pateikti įvairūs ginklus vaizduojantys lipdukai. „Izraelio berniuko“ raginimai sukūrė animacinius filmus, kuriuose vaikai žaidžia futbolą ir skaito. Atsakydamas į raginimą „Izraelio armijai“, AI sukūrė besišypsančių ir besimeldžiančių karių piešinius, nenaudojant ginklų.
Pačios „Metos“ darbuotojai pranešė ir eskalavo problemą viduje, sakė diskusiją žinantis asmuo.
AI sukurtas lipdukas „WhatsApp“ rodo berniuko su ginklu atvaizdą, kai jo prašoma „Musulmono berniuko Palestinos“ nuotraukų. Nuotrauka: WhatsappMeta priklausanti „WhatsApp“ leidžia vartotojams išbandyti savo AI vaizdo generatorių, kad „sukurtų lipduką“. Ši funkcija ragina vartotojus „paversti idėjas lipdukais naudojant AI“. Pavyzdžiui, „Guardian“ ieškodama „musulmonų Palestina“ aptiko keturis moters su hidžabu vaizdus: stovinčią, skaitančią, laikančią gėlę ir iškėlusią ženklą. Tačiau „Guardian“ ieškojo „musulmonų berniuko palestinietis“ ketvirtadienį 16.46 val. ET sugeneravo keturis vaikų vaizdus: vienas berniukas laiko į AK-47 panašų šaunamąjį ginklą ir dėvi skrybėlę, kurią dažniausiai nešioja musulmonai vyrai ir berniukai, vadinami kufi arba taqiyah.
Kita „Guardian“ paieška prieš minutę „Palestina“ sukūrė rankos, laikančios ginklą, vaizdą. Pasiūlius „Izraelis“, funkcija grąžino Izraelio vėliavą ir šokį vyrą. „Hamas“ raginimas atnešė pranešimą „Nepavyko sukurti AI lipdukų. Prašau, pabandykite dar kartą.”
Vienas vartotojas pasidalijo ekrano kopijomis a ieškokite „palestiniečio“ ir gavote kitą, kitokį ginklą laikančio vyro įvaizdį.
AI sugeneruota animuotųjų paveiksliukų paieška programoje WhatsApp rodo vyro su ginklu atvaizdą, kai paraginama ieškoti „palestinietis“. Nuotrauka: WhatsappPanašios paieškos „Izraelio berniukas“ aptiko keturis vaikų vaizdus, iš kurių dviejuose buvo iliustruoti futbolą žaidžiantys berniukai. Kiti du tebuvo jų veidų atvaizdai. „Žydų berniukas Izraelis“ taip pat parodė keturis berniukų atvaizdus, iš kurių du buvo pavaizduoti su karoliais su Dovydo žvaigžde, vienas su jarmulke ir skaito, o kitas tiesiog stovi. Nė vienas iš jų ginklų neturėjo.
Netgi aiškiai militarizuoti raginimai, tokie kaip „Izraelio armija“ ar „Izraelio gynybos pajėgos“, nedavė vaizdų su ginklais. Karikatūros iliustracijose buvo vaizduojami uniformomis vilkintys žmonės įvairiomis pozomis, dažniausiai besišypsantys. Vienoje iliustracijoje pavaizduotas uniformuotas vyras, melsdamasis ištiesęs rankas į priekį.
AI sugeneruota animuotųjų paveiksliukų paieška programoje WhatsApp rodo trijų merginų atvaizdus, kai raginama įvesti paiešką „Izraelis“. Nuotrauka: WhatsappŠis atradimas įvyko po to, kai „Meta“ sulaukė daugelio „Instagram“ ir „Facebook“ vartotojų, skelbiančių palestiniečius palaikančią turinį, kritikos. Izraeliui tęsiantis Gazos bombardavimui, vartotojai teigia, kad „Meta“ savo nuosaikumo politiką vykdo šališkai, o tai, jų teigimu, prilygsta cenzūrai. Naudotojai pranešė, kad buvo paslėpti nuo kitų naudotojų be paaiškinimo, ir teigia, kad jų įrašų susidomėjimas smarkiai sumažėjo. Meta anksčiau savo pareiškime teigė, kad „niekada neketiname užgniaužti tam tikros bendruomenės ar požiūrio“, bet dėl „pranešama didesnio turinio kiekio“ dėl vykstančio konflikto „turinys, kuris nepažeidžia mūsų politikos“. gali būti pašalintas per klaidą“.
Kevinas McAlisteris, „Meta“ atstovas spaudai, teigė, kad bendrovė žinojo apie problemą ir ją sprendžia: „Kaip sakėme, kai pradėjome šią funkciją, modeliai gali pateikti netikslius arba netinkamus rezultatus, kaip ir visose generuojamosiose AI sistemose. Mes ir toliau tobulinsime šias funkcijas, kai jos vystysis, ir daugiau žmonių dalinsis atsiliepimais.
Naudotojai taip pat užfiksavo kelis atvejus, kai „Instagram“ išvertė žodį „palestiinietis“ ir frazę „Pagirkite Allah“ arabų kalba į „palestinos teroristas“. Bendrovė atsiprašė už tai, ką apibūdino kaip „gedimą“.
AI sugeneruota animuotųjų paveiksliukų paieška programoje WhatsApp rodo keturis uniformuotus žmones įvairiomis pozomis, kai jie raginami ieškoti „Izraelio armija“. Nuotrauka: WhatsappAtsakydamas į „The Guardian“ pranešimą apie dirbtinio intelekto sukurtus lipdukus, Australijos senatorius Mehreenas Faruqi, Žaliųjų partijos lyderio pavaduotojas, paragino šalies elektroninės saugos komisarą ištirti „rasistinius ir islamofobinius vaizdus, kuriuos gamina Meta“.
„AI vaizdai, kuriuose palestiniečių vaikai vaizduojami su ginklais „WhatsApp“, yra bauginanti įžvalga apie rasistinius ir islamofobinius kriterijus, įtrauktus į algoritmą“, – sakoma Faruqi elektroniniu paštu išsiųstame pranešime. „Kiek dar rasistinių „klaidų“ reikia atskleisti prieš imantis rimtų veiksmų? Žala jau daroma. Meta turi atsakyti.
Meta ne kartą susidūrė su palestiniečių kūrėjų, aktyvistų ir žurnalistų spaudimu, ypač didėjant smurtui ar agresijai prieš Gazos ruože ir Vakarų Krante gyvenančius palestiniečius. 2022 m. rugsėjo mėn. atliktas bendrovės užsakymu atliktas tyrimas parodė, kad „Facebook“ ir „Instagram“ turinio politika per Izraelio atakas Gazos ruože 2021 m. gegužę pažeidė Palestinos žmogaus teises. Ataskaitoje teigiama, kad Meta veiksmai galėjo turėti „neigiamą poveikį… Palestinos vartotojų teisėms į žodžio laisvę, susirinkimų laisvę, dalyvavimą politikoje ir nediskriminavimą, taigi ir palestiniečių gebėjimui dalytis informacija ir įžvalgomis apie savo išgyvenimai, kaip jie įvyko“.
