Informacinių ir sprendimų sistemų laboratorijos (LIDS) studentė Sarah Cen prisimena paskaitą, kuri ją pastūmėjo į priešakinį klausimą
Paskaitoje apie etinį dirbtinį intelektą pranešėjas iškėlė garsiosios vežimėlio problemos variaciją, kurioje pateikiamas filosofinis pasirinkimas tarp dviejų nepageidaujamų rezultatų
Pranešėjo scenarijus: Tarkime, kad savaeigis automobilis važiuoja siaura alėja, kurios vienoje pusėje eina pagyvenusi moteris, o kitoje – mažas vaikas, ir nėra jokios galimybės prasilenkti tarp abiejų, nežuvus. Į ką turėtų atsitrenkti automobilis?
Tada kalbėtojas pasakė: Ženkime žingsnį atgal. Ar tokį klausimą apskritai turėtume užduoti?”
Štai tada Cen viskas susijaukė. Užuot atsižvelgęs į susidūrimo vietą, savaeigis automobilis galėjo išvengti pasirinkimo tarp dviejų blogų pasekmių, jei būtų priėmęs sprendimą anksčiau – pranešėjas nurodė, kad įvažiuodamas į alėją automobilis galėjo nustatyti, kad erdvė yra siaura, ir sulėtinti greitį taip, kad visi būtų saugūs.
Pripažindamas, kad šiandieniniai dirbtinio intelekto saugos metodai dažnai primena troleibuso problemą, daugiausia dėmesio skiriant tolesniam reguliavimui, pavyzdžiui, atsakomybei po to, kai kas nors nebeturi gerų pasirinkimų, Cen stebėjosi: Kas būtų, jei galėtume sukurti geresnes išankstines ir paskesnes tokių problemų apsaugos priemones? Šis klausimas tapo svarbiu Cen’o darbo pagrindu.
„Inžinerinės sistemos nėra atskirtos nuo socialinių sistemų, į kurias jos kišasi”, – sako Cen’as. Ignoruojant šį faktą kyla pavojus, kad bus sukurtos priemonės, kurios nebus naudingos, kai bus įdiegtos, arba, kas kelia dar didesnį nerimą, bus žalingos.
Cen į LIDS 2018 atvyko šiek tiek aplinkiniu keliu. Pirmą kartą mokslinių tyrimų skonį ji pajuto dar studijuodama Prinstono universitete, kur įgijo mechanikos inžinerijos specialybę. Įgydama magistro laipsnį, ji pakeitė kryptį ir Oksfordo universitete dirbo su radarų sprendimais mobiliosios robotikos srityje (daugiausia savavaldžiams automobiliams). Ten ji susidomėjo dirbtinio intelekto algoritmais, domėjosi, kada ir kodėl jie elgiasi netinkamai. Todėl ji atvyko į MIT ir LIDS doktorantūros tyrimams, kur dirbo su Elektros inžinerijos ir informatikos katedros profesoriumi Devavratu Šachu (Devavrat Shah), kad įgytų tvirtesnį teorinį informacinių sistemų pagrindą.
Socialinės žiniasklaidos algoritmų auditas
Kartu su Šachu ir kitais bendradarbiais dirbdama LIDS, Čen vykdė daugybę projektų, kurių daugelis tiesiogiai susiję su jos susidomėjimu žmonių ir kompiuterinių sistemų sąveika. Viename iš tokių projektų Cen nagrinėja socialinės žiniasklaidos reguliavimo galimybes. Naujausiame jos darbe pateikiamas metodas, kaip žmogaus skaitomas taisykles paversti įgyvendinamaisiais auditais.
Kad suprastumėte, ką tai reiškia, įsivaizduokime, kad reguliavimo institucijos reikalauja, jog bet koks visuomenės sveikatos turinys, pavyzdžiui, apie vakcinas, nebūtų labai skirtingas kairiųjų ir dešiniųjų politinių pažiūrų naudotojams. Kaip auditoriai turėtų patikrinti, ar socialinės žiniasklaidos platforma atitinka šį reglamentą? Ar galima priversti platformą laikytis reglamento nepakenkiant jos veiklos rezultatams? Ir kaip atitikimas reikalavimams paveikia faktinį turinį, kurį mato naudotojai?
Sudėtinga sukurti audito procedūrą iš esmės todėl, kad socialinėje žiniasklaidoje yra labai daug suinteresuotųjų šalių. Auditoriai turi tikrinti algoritmą neprieidami prie neskelbtinų naudotojų duomenų. Jie taip pat turi apeiti keblias komercines paslaptis, kurios gali neleisti atidžiai susipažinti su pačiu audituojamu algoritmu, nes šie algoritmai yra teisiškai apsaugoti. Taip pat kyla ir kitų klausimų, pavyzdžiui, kaip suderinti dezinformacijos šalinimą ir žodžio laisvės apsaugą
. Siekdami išspręsti šiuos uždavinius, Cen ir Shah sukūrė audito procedūrą, kuriai nereikia daugiau nei „juodosios dėžutės” prieigos prie socialinės žiniasklaidos algoritmo (taip nepažeidžiamos komercinės paslaptys), nepašalinamas turinys (taip išvengiama cenzūros klausimų) ir nereikia prieigos prie naudotojų (taip išsaugomas naudotojų privatumas).
Projektuodama komanda taip pat analizavo savo audito procedūros savybes ir nustatė, kad ji užtikrina pageidautiną savybę, kurią jie vadina sprendimų tvirtumu. Kaip gerą naujieną platformai jie parodo, kad platforma gali pereiti auditą neprarasdama pelno. Įdomu tai, kad jie taip pat nustatė, jog auditas natūraliai skatina platformą rodyti naudotojams įvairialypį turinį, kuris, kaip žinoma, padeda mažinti dezinformacijos plitimą, kovoti su aido kameromis ir kt.
Kas gauna gerus rezultatus, o kas blogus?
Kitoje tyrimų kryptyje Cen nagrinėja, ar žmonės gali gauti gerus ilgalaikius rezultatus, kai jie ne tik konkuruoja dėl išteklių, bet ir iš anksto nežino, kokie ištekliai jiems geriausi.
Kai kurios platformos, pavyzdžiui, darbo paieškos platformos arba dalijimosi važiavimo programėlės, yra vadinamosios suderintos rinkos dalis, kurioje naudojamas algoritmas, leidžiantis suderinti vieną asmenų grupę (pavyzdžiui, darbuotojus arba keleivius) su kita (pavyzdžiui, darbdaviais arba vairuotojais). Daugeliu atvejų asmenys turi suderinamumo pageidavimų, kuriuos išmoksta bandymų ir klaidų būdu. Pavyzdžiui, darbo rinkose darbuotojai išmoksta savo pageidavimus dėl to, kokio darbo jie nori, o darbdaviai išmoksta savo pageidavimus dėl to, kokios kvalifikacijos darbuotojų jie pageidauja
Tačiau mokymąsi gali sutrikdyti konkurencija. Pavyzdžiui, jei tam tikrą išsilavinimą turintiems darbuotojams nuolat atsisakoma suteikti darbą technologijų srityje dėl didelės konkurencijos dėl darbo vietų technologijų srityje, jie gali niekada neįgyti žinių, reikalingų priimti pagrįstą sprendimą, ar jie nori dirbti technologijų srityje. Taip pat ir darbdaviai, dirbantys technologijų srityje, gali niekada nematyti ir nesužinoti, ką šie darbuotojai galėtų nuveikti, jei būtų įdarbinti.
Cen darbe nagrinėjama ši mokymosi ir konkurencijos sąveika, tiriama, ar įmanoma, kad abiejose suderinamumo rinkos pusėse esantys asmenys išeitų laimingi.
Modeliuodami tokias derinimo rinkas, Cen ir Shah nustatė, kad iš tiesų įmanoma pasiekti stabilų rezultatą (darbuotojai nėra skatinami išeiti iš derinimo rinkos), esant mažam apgailestavimui (darbuotojai yra patenkinti savo ilgalaikiais rezultatais), teisingumui (laimė pasiskirsto tolygiai) ir didelei socialinei gerovei
Įdomu tai, kad nėra akivaizdu, jog vienu metu įmanoma pasiekti stabilumą, mažą apgailestavimą, teisingumą ir didelę socialinę gerovę. Taigi dar vienas svarbus tyrimo aspektas buvo atskleisti, kada įmanoma pasiekti visus keturis kriterijus vienu metu, ir ištirti šių sąlygų pasekmes.
Koks X poveikis Y?
Tačiau per ateinančius kelerius metus Cenas planuoja dirbti su nauju projektu, tyrinėti, kaip kiekybiškai įvertinti veiksmo X poveikį rezultatui Y, kai šį poveikį išmatuoti brangu arba neįmanoma, ypač daug dėmesio skiriant sistemoms, pasižyminčioms sudėtinga socialine elgsena.
Pavyzdžiui, kai pandemijos metu padaugėjo Covid-19 atvejų, daugelis miestų turėjo nuspręsti, kokius apribojimus priimti, pavyzdžiui, įvesti kaukes, uždaryti įmones ar įsakyti likti namuose. Jie turėjo veikti greitai ir derinti visuomenės sveikatą su bendruomenės ir verslo poreikiais, valstybės išlaidomis ir daugybe kitų aplinkybių.
Paprastai, norint įvertinti apribojimų poveikį infekcijos paplitimui, galima palyginti infekcijos paplitimą teritorijose, kuriose buvo taikomos skirtingos intervencijos priemonės. Jei vienoje apskrityje yra įsakymas dėl kaukės, o kaimyninėje apskrityje tokio įsakymo nėra, galima manyti, kad palyginus šių apskričių infekcijos rodiklius paaiškėtų, koks yra įsakymų dėl kaukės veiksmingumas.
Tačiau, žinoma, nė viena apskritis neegzistuoja vakuume. Jei, pavyzdžiui, žmonės iš abiejų apygardų kiekvieną savaitę susirenka žiūrėti futbolo rungtynių į apygardą be kaukių, žmonės iš abiejų apygardų susimaišo. Šios sudėtingos sąveikos yra svarbios, ir Sara planuoja tokioje aplinkoje tirti priežasčių ir pasekmių klausimus.
„Mus domina, kaip sprendimai ar intervencijos daro įtaką dominančiam rezultatui, pavyzdžiui, kaip baudžiamojo teisingumo reforma veikia įkalinimo rodiklius arba kaip reklamos kampanija gali pakeisti visuomenės elgseną”, – sako S. Cen.
S. Cen taip pat pritaikė įtraukties skatinimo principus savo darbui MIT bendruomenėje.
Būdama viena iš trijų MIT EECS studentų grupės „Graduate Women in MIT EECS” pirminininkių, ji padėjo surengti pirmąjį GW6 mokslinių tyrimų aukščiausiojo lygio susitikimą, kuriame buvo pristatomi moterų absolventų tyrimai – ne tik siekiant parodyti teigiamus pavyzdžius studentams, bet ir atkreipti dėmesį į daugybę sėkmingų MIT absolventų moterų, kurių negalima nuvertinti.
Nesvarbu, ar tai būtų kompiuterija, ar bendruomenė, sistema, kuri imasi priemonių šališkumo problemai spręsti, yra tokia, kuri turi teisėtumą ir pasitikėjimą, sako Cen. „Atskaitomybė, teisėtumas, pasitikėjimas – šie principai visuomenėje atlieka lemiamą vaidmenį ir galiausiai nulems, kurios sistemos laikui bėgant išliks.”
