Informacijos ir sprendimų sistemų laboratorijos (LIDS) studentė Sarah Cen prisimena paskaitą, kuri ją nukreipė į klausimą.
Kalbėdamas apie etinį dirbtinį intelektą, pranešėjas iškėlė garsiosios vežimėlio problemos variantą, nubrėžiantį filosofinį pasirinkimą tarp dviejų nepageidaujamų pasekmių.
Kalbėtojo scenarijus: Say a self-driving Automobilis važiuoja siaura alėja, iš vienos pusės vaikšto pagyvenusi moteris, o kitoje – mažas vaikas, ir tarp jų niekaip nepavyksta prasiskverbti be mirties. Į ką mašina turėtų atsitrenkti?
Tada pranešėjas pasakė: Ženkime žingsnį atgal. Ar tai yra klausimas, kurį turėtume užduoti?
Štai tada viskas spustelėjo Cen. Užuot svarstyję poveikio tašką , savarankiškai važiuojantis automobilis būtų galėjęs išvengti pasirinkimo tarp dviejų blogų rezultatų, priimdamas sprendimą anksčiau – pranešėjas atkreipė dėmesį, kad įvažiavus į alėją automobilis galėjo nustatyti, kad erdvė siaura ir sulėtinti iki tokio greičio. Visi saugūs.
Suprasdamas, kad šiuolaikiniai dirbtinio intelekto saugos metodai dažnai primena vežimėlio problemą, daugiausia dėmesio skiriant tolesniam reguliavimui, pavyzdžiui, atsakomybei, kai kas nors lieka be gero pasirinkimo, Cen susimąstė: kas būtų, jei galėtume sukurti geresnės apsaugos priemonės prieš srovę ir pasroviui tokioms problemoms spręsti? Šis klausimas padėjo daug sužinoti apie Cen darbą.
„Inžinerinės sistemos nėra atskirtos nuo socialinių sistemų, į kurias jos įsikiša“, – sako Cen. Jei nepaisysite šio fakto, kyla pavojus, kad bus sukurtos priemonės, kurios nebus naudingos, kai įdiegtos, arba, dar nerimą kelianti, yra kenksmingos.
Cen į LIDS atvyko per šiek tiek žiedinį maršrutą. Pirmą kartą ji pamėgo mokslinius tyrimus baigdama bakalauro laipsnį Prinstono universitete, kur įgijo mechanikos inžinerijos specialybę. Magistrantūroje ji pakeitė kursą, Oksfordo universitete dirbdama su radarų sprendimais mobiliojoje robotikoje (pirmiausia savaeigiams automobiliams). Ten ji susidomėjo AI algoritmais, smalsavo, kada ir kodėl jie elgiasi netinkamai. Taigi ji atvyko į MIT ir LIDS doktorantūros studijoms, kartu su profesoriumi Devavratu Shah Elektros inžinerijos ir informatikos katedroje siekdama tvirtesnio teorinio informacinių sistemų pagrindo.
Socialinės žiniasklaidos algoritmų auditas
Kartu su Shah ir kitais bendradarbiais Cen per savo veiklą dirbo su įvairiais projektais laiką LIDS, iš kurių daugelis tiesiogiai susiję su jos domėjimusi žmonių ir skaičiavimo sistemų sąveika. Viename iš tokių projektų Cen tiria socialinės žiniasklaidos reguliavimo galimybes. Naujausiame jos darbe pateikiamas metodas, kaip žmonėms suprantamus reglamentus paversti įgyvendinamu auditu.
Kad suprastumėte, ką tai reiškia, tarkime, kad reguliavimo institucijos reikalauja, kad bet koks visuomenės sveikatos turinys – pavyzdžiui, vakcinos – labai nesiskiria politiškai kairiųjų ir dešiniųjų pažiūrų vartotojams. Kaip auditoriai turėtų patikrinti, ar socialinės žiniasklaidos platforma atitinka šį reglamentą? Ar galima platformą padaryti taip, kad ji atitiktų reglamentą, nepažeidžiant jos pagrindo? O kaip atitiktis paveikia tikrąjį turinį, kurį mato vartotojai?
Sukurti audito procedūrą iš esmės sunku, nes socialinėje žiniasklaidoje yra tiek daug suinteresuotųjų šalių. Auditoriai turi patikrinti algoritmą nepasiekdami jautrių vartotojo duomenų. Jie taip pat turi apeiti sudėtingas komercines paslaptis, kurios gali neleisti jiems atidžiai pažvelgti į patį algoritmą, kurį jie tikrina, nes šie algoritmai yra teisiškai apsaugoti. Taip pat atsižvelgiama į kitus aspektus, pvz., dezinformacijos pašalinimo ir žodžio laisvės apsaugos pusiausvyrą.
Siekdami įveikti šiuos iššūkius, Cen ir Shah sukūrė audito procedūrą, kuriai nereikia daugiau nei juodosios dėžės prieiga prie socialinės žiniasklaidos algoritmo (kuris gerbia komercines paslaptis), nepašalina turinio (dėl to išvengiama cenzūros problemų) ir nereikalauja prieigos prie vartotojų (tai išsaugo vartotojų privatumą).
Projektavimo procese komanda taip pat išanalizavo savo audito procedūros ypatybes ir nustatė, kad ji užtikrina pageidaujamą savybę, kurią jie vadina sprendimų patikimumu. Kaip gera žinia platformai, jie rodo, kad platforma gali išlaikyti auditą neprarandant pelno. Įdomu tai, kad jie taip pat nustatė, kad auditas natūraliai skatina platformą rodyti naudotojams įvairų turinį, kuris, kaip žinoma, padeda sumažinti dezinformacijos plitimą, kovoti su aido kameromis ir kt.
Kas pasiekia gerų rezultatų, o kam blogų?
Kitoje tyrimo kryptyje Cen nagrinėja, ar žmonės gali gauti gerą ilgalaikių rezultatų, kai jie ne tik konkuruoja dėl išteklių, bet ir iš anksto nežino, kokie ištekliai jiems yra geriausi.
Kai kurios platformos, pvz., darbo paieškos platformos ar dalijimasis pavėžėmis. programos yra vadinamosios atitikimo rinkos dalis, kuri naudoja algoritmą, kad suderintų vieną asmenų rinkinį (pvz., darbuotojus ar vairuotojus) su kitais (pvz., darbdaviais ar vairuotojais). Daugeliu atvejų asmenys turi atitinkamas nuostatas, kurias jie išmoksta per bandymus ir klaidas. Pavyzdžiui, darbo rinkose darbuotojai sužino apie savo pageidavimus, kokio darbo jie nori, o darbdaviai sužino apie savo pageidavimus dėl kvalifikacijos, kurios jie siekia iš darbuotojų.
Tačiau mokymąsi gali sutrikdyti konkurencija. . Pavyzdžiui, jei darbuotojai, turintys tam tikrą išsilavinimą, pakartotinai atsisako dirbti technologijų srityje dėl didelės konkurencijos dėl technologijų darbo vietų, jie gali niekada negauti žinių, kurių jiems reikia, kad priimtų pagrįstą sprendimą, ar jie nori dirbti technologijų srityje. Panašiai technologijų darbdaviai gali niekada nematyti ir sužinoti, ką šie darbuotojai galėtų padaryti, jei būtų įdarbinti.
Cen darbe nagrinėjama ši mokymosi ir konkurencijos sąveika, tiriant, ar tai įmanoma asmenims iš abiejų pusių.
Modeliuodami tokias derinimo rinkas, Cen ir Shah išsiaiškino, kad tikrai įmanoma pasiekti stabilų rezultatą (darbuotojai nėra skatinami išeiti iš derinimo). rinka), mažas apgailestavimas (darbuotojai patenkinti savo ilgalaikiais rezultatais), sąžiningumas (laimė pasiskirsto tolygiai) ir aukšta socialinė gerovė.
Įdomu tai, kad nėra akivaizdu, kad tai įmanoma gauti stabilumą, mažą apgailestavimą, teisingumą ir aukštą socialinę gerovę vienu metu. Taigi kitas svarbus tyrimo aspektas buvo atskleisti, kada galima pasiekti visus keturis kriterijus vienu metu, ir ištirti šių sąlygų pasekmes.
Kas yra X poveikis Y?
Tačiau ateinančius kelerius metus Cen planuoja dirbti su nauju projektu, tirdamas, kaip kiekybiškai įvertinti veiksmo X poveikis rezultatui Y, kai brangu (arba neįmanoma) išmatuoti šį poveikį, ypač sutelkiant dėmesį į sistemas, kurios turi sudėtingą socialinį elgesį.
Pavyzdžiui, kai Covid-19 atvejų padaugėjo per pandemiją, daugelis miestų turėjo nuspręsti, kokius apribojimus taikyti, pvz., kaukių mandatus, verslo uždarymą ar įsakymus likti namuose. Jie turėjo veikti greitai ir subalansuoti visuomenės sveikatą su bendruomenės ir verslo poreikiais, viešosiomis išlaidomis ir daugybe kitų aplinkybių.
Paprastai, siekiant įvertinti apribojimų poveikį galima palyginti užsikrėtimo rodiklius tose srityse, kuriose buvo taikomos skirtingos intervencijos. Jei viena apskritis turi kaukių mandatą, o kaimyninė apskritis neturi, galima manyti, kad lyginant apskričių užkrėtimo rodiklius paaiškėtų kaukių mandatų veiksmingumas.
Bet, žinoma, jokia grafystė neegzistuoja vakuume. Jei, pavyzdžiui, žmonės iš abiejų apskričių kiekvieną savaitę susirenka stebėti futbolo rungtynių bekaukių apskrityje, žmonės iš abiejų apskričių susimaišo. Šios sudėtingos sąveikos yra svarbios, todėl Sara planuoja nagrinėti priežasties ir pasekmės klausimus tokioje aplinkoje.
„Mus domina, kaip sprendimai ar įsikišimas įtakoja dominantį rezultatą, pvz., kaip nusikalstama. teisingumo reforma turi įtakos įkalinimo skaičiui arba tam, kaip reklamos kampanija gali pakeisti visuomenės elgesį“, – sako Cen.
Cen taip pat taikė įtraukties skatinimo principus savo darbe MIT bendruomenėje.
Būdama viena iš trijų MIT EECS studentų grupės absolventų moterų grupės pirmininkų, ji padėjo organizuoti įžanginį GW6 aukščiausiojo lygio susitikimą, kuriame buvo pristatomi moterų absolventų tyrimai – ne tik siekiant parodyti teigiamus pavyzdžius studentams, bet taip pat pabrėžti daugybę sėkmingų MIT baigusių moterų, kurių negalima nuvertinti.
Nesvarbu, ar dirba kompiuteriais, ar bendruomenėje, sistema, imasi priemonių šalinti šališkumą, yra tokia, kuri teisėtumas ir pasitikėjimas, sako Cen. „Atskaitomybė, teisėtumas, pasitikėjimas – šie principai vaidina lemiamą vaidmenį visuomenėje ir galiausiai nulems, kurios sistemos išliks ilgainiui.
