POrcha Woodruff buvo aštuntą mėnesį nėščia, kai Detroito (Mičigano valstija) policija atvyko jos suimti dėl kaltinimų automobilio vagyste ir apiplėšimu. Ji ruošė savo du vaikus į mokyklą, kai į jos duris pasibeldė šeši policijos pareigūnai ir pateikė jai arešto orderį. Ji manė, kad tai pokštas.
„Ar tu juokauji, automobilių grobė? Ar matai, kad aš esu aštuntą mėnesį nėščia? rašoma ieškinyje, kurį Woodruff pateikė Detroito policijai. Ji išsiuntė savo vaikus į viršų, kad pasakytų sužadėtiniui, kad „mama sės į kalėjimą“.
Ji buvo sulaikyta ir apklausta 11 valandų ir paleista už 100 000 USD užstatą. Ji nedelsdama nuvyko į ligoninę, kur buvo gydoma dėl dehidratacijos.
Vėliau Woodruff išsiaiškino, kad ji tapo naujausia melagingo atpažinimo pagal veido atpažinimą auka. Po to, kai jos atvaizdas buvo neteisingai suderintas su vaizdo įrašu, kuriame užfiksuota moteris degalinėje, kurioje įvyko automobilio pagrobimas, jos nuotrauka nukentėjusiajai buvo parodyta nuotraukų rikiuotėje. Remiantis ieškiniu, nukentėjusysis tariamai pasirinko Woodruff nuotrauką kaip moters, kuri buvo siejama su apiplėšimo kaltininku. Niekur tyrėjo ataskaitoje nebuvo nurodyta, kad filmuotoje medžiagoje užfiksuota moteris buvo nėščia.
Po mėnesio kaltinimai buvo atmesti, nes nebuvo pakankamai įrodymų.
Porcha Woodruff, kuris buvo melagingai sulaikytas, rugpjūčio pradžioje. Nuotrauka: Carlos Osorio / APWoodruff’s yra trečias žinomas arešto atvejis, kai Detroito policijos departamentas atliko melagingą veido atpažinimą – ir šeštoji byla JAV. Visi šeši asmenys, kurie buvo melagingai sulaikyti, yra juodaodžiai. Daugelį metų privatumo ekspertai ir advokatai kėlė pavojaus signalą dėl technologijų nesugebėjimo tinkamai identifikuoti spalvotus žmones ir perspėjo apie privatumo pažeidimus bei pavojus, kylančius sistemoje, kuri tariamai atpažįsta bet ką pagal atvaizdą ar veidą. Vis dėlto teisėsaugos ir vyriausybinės agentūros visoje JAV ir visame pasaulyje ir toliau sudaro sutartis su įvairiomis veido atpažinimo įmonėmis nuo Amazon’s Rekognition iki Clearview AI.
Šalys, įskaitant Prancūziją, Vokietiją, Kiniją ir Italiją, naudojo panašias technologijas. Gruodį buvo atskleista, kad Kinijos policija naudojo mobiliuosius duomenis ir veidus protestuotojams sekti. Anksčiau šiais metais Prancūzijos įstatymų leidėjai priėmė įstatymą, suteikiantį policijai teisę naudoti dirbtinį intelektą viešosiose erdvėse prieš 2024 m. Paryžiaus olimpines žaidynes, todėl tai yra pirmoji šalis ES, patvirtinusi dirbtinio intelekto stebėjimą (nors ir draudžia naudoti laiko veido atpažinimas). Praėjusiais metais „Wired“ pranešė apie prieštaringus pasiūlymus leisti policijos pajėgoms ES dalytis nuotraukų duomenų bazėmis, kuriose yra žmonių veidų vaizdai – vienas patarėjas pilietinių teisių politikos klausimais apibūdino kaip „plačiausią biometrinio stebėjimo infrastruktūrą, kurią, manau, kada nors matėme pasaulis”.
Grįžęs į Detroite, Woodruff ieškinys vėl paskatino JAV raginimus visiškai uždrausti policijai ir teisėsaugai naudoti veido atpažinimo priemones. Detroito policija per kelias dienas nuo ieškinio pateikimo įvedė naujus veido atpažinimo naudojimo apribojimus, įskaitant draudimą naudoti veido atpažinimo vaizdus rikiuotėje ir reikalavimą, kad byloje nedalyvaujantis detektyvas parodytų vaizdus. asmens prašoma nustatyti asmens tapatybę. Tačiau aktyvistai sako, kad to nepakanka.
„Vienintelė politika, kuri užkirs kelią netikram veido atpažinimo areštui, yra visiškas draudimas“, – sakė Albertas Foxas Cahnas iš ne pelno siekiančios Stebėjimo technologijų priežiūros projekto. „Deja, dėl kiekvienos mums žinomos veido atpažinimo klaidos tikriausiai yra dešimtys amerikiečių, kurie liko neteisingai apkaltinti ir niekada negauna teisingumo. Šioms rasistinėms, į klaidas linkusioms sistemoms tiesiog nėra vietos teisingoje visuomenėje.
Policija naudojo veido atpažinimo technologiją, kad stebėtų ir atpažintų „Black Lives Matter“ protestuotojus. Nuotrauka: Kathy Willens / APVyriausybei visame pasaulyje kovojant su generuojamuoju AI, ilgą laiką užfiksuota esamo AI naudojimo žala, pvz., stebėjimo sistemose, dažnai nutyli arba visai neįtraukiama į pokalbį. Net ir ES AI įstatymo atveju, kuris buvo priimtas su keliomis išlygomis, siūlančiomis riboti didelės rizikos AI naudojimą, pvz., veido atpažinimą, kai kurie ekspertai teigia, kad ažiotažas apie generatyvųjį AI iš dalies atitraukė šias diskusijas. „Mums labai pasisekė, kad daugelį šių dalykų įtraukėme į darbotvarkę prieš prasidedant šiam AI ažiotažui ir generatyviniam AI, ChatGPT bumui“, – birželį man sakė tarptautinės advokacijos organizacijos „European Digital Rights“ vyresnioji patarėja politikos klausimais Sarah Chander. „Manau, kad ChatGPT labai purvina vandenį, kalbant apie žalą, apie kurią čia kalbame.
Panašiai kaip ir kitų formų dirbtinio intelekto sistemos, veido atpažinimas yra tiek pat geras, kiek į jį įvedami duomenys, todėl dažnai atspindi ir įamžina jas kuriančių asmenų šališkumą – problema, kaip pažymėjo Amnesty International, nes vaizdai. Tokioms sistemoms treniruoti dažniausiai naudojami balti veidai. Remiantis Nacionalinio standartų ir technologijos instituto tyrimu, veido atpažinimo sistemų tikslumas yra prasčiausias, kai reikia identifikuoti juodaodžius, moteris ir 18–30 metų amžiaus žmones, o klaidingų teigiamų rezultatų „daugeliu atvejų yra“. 2017 m. NIST ištyrė 140 veidų atpažinimo algoritmų ir nustatė, kad „klaidingi teigiami rodikliai yra didžiausi Vakarų ir Rytų Afrikos bei Rytų Azijos žmonėms, o žemiausi – Rytų Europos asmenims. Šis poveikis paprastai yra didelis, o tarp šalių yra 100 kartų daugiau klaidingų teigiamų rezultatų.
Tačiau net jei veido atpažinimo technologija būtų tiksliai tiksli, ji nebūtų saugesnė, teigia kritikai. Pilietinių laisvių grupės teigia, kad ši technologija gali sukurti platų ir beribį stebėjimo tinklą, kuris suardytų bet kokį privatumą viešose erdvėse. Žmones galima atpažinti, kad ir kur jie eitų, net jei tose vietose jie praktikuoja konstituciškai saugomą elgesį, pavyzdžiui, protestus ir religinius centrus. Po to, kai JAV Aukščiausiasis Teismas panaikino federalinę abortų apsaugą, tai naujai pavojinga tiems, kurie siekia reprodukcinės priežiūros. Kai kurios veido atpažinimo sistemos, pvz., „Clearview AI“, taip pat naudoja vaizdus, išgautus iš interneto be sutikimo. Taigi socialinės žiniasklaidos vaizdai, profesionalios galvos nuotraukos ir bet kokios kitos nuotraukos, esančios viešose skaitmeninėse erdvėse, gali būti naudojamos veido atpažinimo sistemoms mokyti, kurios savo ruožtu naudojamos žmonių kriminalizavimui. „Clearview“ buvo uždrausta keliose Europos šalyse, įskaitant Italiją ir Vokietiją, ir uždrausta parduoti veido atpažinimo duomenis privačioms įmonėms JAV.
Kalbant apie Woodruffą, ji reikalauja atlyginti finansinę žalą. Detroito policijos vadovas Jamesas E White’as sakė, kad departamentas peržiūri ieškinį ir kad jis „labai susirūpinęs“.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
„Nemanau, kad kas nors turėtų išgyventi kažką panašaus, būdamas melagingai apkaltintas“, – sakė Woodruffas „Washington Post“. „Mes visi atrodome kaip kažkas.”
Savaitė AI
„Blast Theory“ „Cat Royale“ – vaizdo įrašu nufilmuotas eksperimentas, matuojantis kačių reakciją, kai jas prižiūri robotas. Nuotrauka: David JW Bailey / Stephen Daly
- Susitikti menininkai, atgaunantys dirbtinį intelektą iš didžiųjų technologijų – kačių, bičių ir drag queens pagalba (aukščiau).
- AI isterija blaško dėmesį, teigia duomenų mokslininkė Odanga Madung, nes algoritmai jau sėja dezinformaciją Afrikoje
- Jungtinėse Amerikos Valstijose, DI dezinformacijos cunamis nulems kitų metų peilio ašmenų rinkimus, rašo Johnas Naughtonas
- Duomenų inžinierius ir technologijų strategas Afua Bruce sako, kad dirbtinis intelektas gali būti gėrio ar blogo jėga visuomenėje, todėl ją formuoti turi visi – ne tik „technikos vaikinai“
- Galbūt dar anksti naudoti AI maitinimo planuotojas. Vienoje prekybos centro programėlėje buvo pasiūlyti… chloro dujų ir nuodingos duonos sumuštinių receptai.
- Nice rekomenduoja naudoti AI gydant NHS radioterapiją Anglijoje…
- Nors mokslininkai sveikina proveržį sekti britų laukinę gamtą.
- Tuo tarpu į naujienų leidyba„Amazon“ pašalino AI sukurtas knygas, neteisingai priskirtas autoriams, o „Google“ mano, kad AI sistemos turėtų turėti galimybę išgauti leidėjų darbą, nebent įmonės atsisakytų.
Platesnis TechScape
„Žvaigždžių karų“ personažai „Galactic Starcruiser“ Disnėjaus pasaulyje, Floridoje. Nuotrauka: Lisa Richwine / Reuters
- Gyvenimo būdo ir apsipirkimo programos yra naujausi ginklai Pekino informacinė kova prieš Taivaną, nes Kinija naudoja programas, kad suviliotų Taivano paauglius.
- Deja, mes nebūsime liudininkai a kova narve tarp Elono Musko ir Marko Zuckerbergo „Meta“ vadovas atšaukė savo susidomėjimą, teigdamas, kad „laikas judėti toliau“. Gėda.
- Nuplėškite „Twitter“. Norite iš naujo prekės ženklo platformos? Rugsėjo mėnesį Muskas parduoda aukcione „Twitter“ atminimo reikmenys ir baldai – nuo Bradley Cooperio paveikslo iki paukščio logotipo ženklo, vis dar pritvirtinto prie X San Francisko biurų.
- Joe Bidenas apribojo JAV investicijas į Kinijos technologijų sektorius ir JK svarsto tą patį.
- „Amazon“ prisijungė prie „Zoom“ ir liepė darbuotojams grįžti į biurą.
- ICYMI: Adrianas Honas žurnale Pushing Buttons rašo apie savo apsilankymą „Galactic Starcruiser“ (aukščiau) ir nustatė, kad Disney’s Star Wars viešbutis tai dar ne įtraukiančių žaidimų pabaiga.
