Pagal naują susitarimą su „Rite Aid“ naudojo veido atpažinimo sistemas, kad nustatytų pirkėjus, kurie anksčiau buvo laikomi „tikėtina“ vagystėmis iš parduotuvių be kliento sutikimo, ir klaidingai identifikuotus asmenis – ypač moteris ir juodaodžius, lotynų kilmės ar azijiečius – „daug“ kartų. Federalinė prekybos komisija. Kaip susitarimo dalis, „Rite Aid“ penkerius metus buvo uždrausta savo parduotuvėse diegti veido atpažinimo technologiją.
FTC federalinio teismo skunde nurodė, kad „Rite Aid“ šimtuose parduotuvių nuo 2012 m. spalio iki 2020 m. liepos naudojo veido atpažinimo technologiją, kad nustatytų pirkėjus, „anksčiau manyta, kad jie gali įsitraukti į vagystes iš parduotuvių ar kitokį nusikalstamą elgesį“. Ši technologija išsiuntė įspėjimus „Rite Aid“ darbuotojams el. paštu arba telefonu, kai identifikavo žmones, įeinančius į parduotuvę jos stebėjimo sąraše.
FTC savo skunde nurodė, kad parduotuvių darbuotojai tuos žmones prižiūrės, uždraus jiems pirkti arba apkaltins juos prieš draugus, šeimą ir kitus klientus anksčiau įvykdžius nusikaltimus. Veido atpažinimo sistema buvo plačiai naudojama Niujorke; Los Andželas; San Franciskas; Filadelfija; Baltimorė; Detroitas; Atlantic City; Sietlas; Portlandas, Oregonas; Vilmingtonas, Delaveras ir Sakramentas, Kalifornija, pagal susitarimą.
Taikos sutartimi sprendžiami kaltinimai, kad sunkumų patiriantis vaistinių tinklas nepadarė pakankamai, kad išvengtų žalos savo klientams ir įgyvendintų „pagrįstas procedūras“, nurodė vyriausybinė agentūra. Antradienio vakarą „Rite Aid“ pareiškė, kad nesutinka su kaltinimais, tačiau džiaugiasi, kad pavyko susitarti dėl problemos sprendimo.
Pagal sutartį su dviem privačiais neįvardijamais pardavėjais „Rite Aid“ sukūrė arba nurodė įmonėms sukurti „dominančių asmenų“ duomenų bazę, kurioje būtų žmonių atvaizdai ir kita asmenį identifikuojanti informacija. Remiantis susitarimu, šie vaizdai dažnai buvo žemos kokybės ir buvo užfiksuoti naudojant „Rite Aid“ vaizdo stebėjimo kameras, veido atpažinimo kameras arba darbuotojų mobiliuosius telefonus.
Remiantis FTC dokumentais, apsaugos darbuotojai buvo apmokyti „pritraukti kuo daugiau registracijų“, o bendrovė „į savo duomenų bazę įtraukė mažiausiai dešimtis tūkstančių asmenų“.
Federaliniame skunde taip pat teigiama, kad buvo „daug atvejų“, kai technologija neteisingai atpažino asmenį, kuris įėjo į parduotuvę, o „Rite Aid“ nepavyko patikrinti jos tikslumo prieš ją naudodama. Pavyzdžiui, pagal susitarimą „Rite Aid“ nepaklausė vieno iš dviejų privačių pardavėjų, su kuriais dirbo, ar buvo patikrintas jos technologijos tikslumas. Tiesą sakant, pardavėjas savo sutartyje aiškiai nurodo, kad jis „nepareiškia ir negarantuoja“ savo veido atpažinimo sistemos tikslumo ir patikimumo.
FTC taip pat teigė, kad bendrovė „nesiėmė pagrįstų veiksmų, kad apmokytų ir prižiūrėtų darbuotojus, atsakingus už šios technologijos naudojimą Rite Aid parduotuvėse“.
Pilietinės laisvės ir skaitmeninių teisių grupė „Electronic Privacy Information Center“ (Epic) teigė, kad veido atpažinimas gali būti žalingas bet kokiame kontekste, tačiau „Rite Aid“ nesiėmė net elementariausių atsargumo priemonių. „Rezultatas buvo, deja, nuspėjamas: tūkstančiai klaidingų atpažinimų, kurie neproporcingai paveikė juodosios Azijos ir Lotynų Amerikos šalių klientus, kai kurie iš jų paskatino žeminančias paieškas ir parduotuvių išstūmimus“, – sakė „Epic“ bylinėjimosi direktorius Johnas Davisonas.
„Rite Aid“ teigia, kad kaltinimai sutelkti į bandomąją programą, kurią ji naudojo ribotame skaičiuje parduotuvių ir nustojo naudoti šią technologiją daugiau nei prieš trejus metus.
praleisti ankstesnę naujienlaiškio reklamąpo naujienlaiškio reklamavimo
„Mes gerbiame FTC užklausą ir laikomės agentūros misijos apsaugoti vartotojų privatumą“, – sakoma bendrovės pranešime, paskelbtame savo svetainėje. „Tačiau mes iš esmės nesutinkame su agentūros skunde pateiktais kaltinimais dėl veido atpažinimo.
Tyrimai parodė, kad veido atpažinimo sistemos dažnai klaidingai atpažįsta juodaodžius ir rudus žmones. Per pastaruosius kelerius metus JAV buvo žinomi šeši atvejai, kai juodaodžiai buvo melagingai suimti dėl veido atpažinimo.
„Tai yra novatoriškas atvejis, didelis žingsnis į privatumą ir pilietines teises ir, tikiuosi, tik tendencijos pradžia“, – sakė Davisonas. „Tačiau svarbu pažymėti, kad „Rite Aid“ nėra vienintelė. Įmonės reguliariai naudoja nepatikrintus algoritmus ir gyvatės aliejaus stebėjimo įrankius, kad patikrintų vartotojus, dažnai slaptai. FTC yra teisus, siekdamas griežtai kovoti su tokia praktika, o įmonėms būtų protinga į tai atkreipti dėmesį. Algoritminis neteisėtumas nebėra išeitis.
„Rite Aid“ parengtame pareiškime taip pat pažymėjo, kad bet koks susitarimas turės būti patvirtintas JAV bankroto teisme. Praėjusių metų rudenį bendrovė paskelbė uždaranti daugiau nei 150 parduotuvių, pradėjusi savanorišką 11 skyriaus bankroto procesą. Bendrovė daugelį metų kovojo su finansinėmis problemomis ir taip pat susiduria su finansine rizika dėl ieškinių dėl opioidų receptų, tokių kaip jos didesni konkurentai CVS ir Walgreens.
