Labai išaugo algoritmų ir dirbtinio intelekto naudojimas sprendžiant įvairias problemas ir iššūkius. Nors jų priėmimas, ypač augant dirbtiniam intelektui, keičia beveik kiekvieną pramonės sektorių, discipliną ir mokslinių tyrimų sritį, tokios naujovės dažnai sukelia netikėtų pasekmių, apimančių naujas normas, naujus lūkesčius ir naujas taisykles bei įstatymus.
Kad būtų lengviau suprasti, socialinė ir etinė skaičiavimo atsakomybė (SERC), MIT Schwarzman College of Computing visa apimanti iniciatyva, neseniai subūrė socialinius mokslininkus ir humanistus su kompiuterių mokslininkais, inžinieriais ir kitais skaičiavimo fakultetais, kad ištirtų būdai, kuriais platus algoritmų ir AI pritaikomumas suteikė tiek galimybių, tiek iššūkių daugeliui visuomenės aspektų.
„Keičiasi pati mūsų tikrovės prigimtis. Dirbtinis intelektas turi galimybę daryti dalykus, kurie iki šiol buvo tik žmogaus intelekto sfera – dalykai, kurie gali iššaukti mūsų supratimą apie tai, ką reiškia būti žmogumi“, – savo įžanginėje kalboje pažymėjo MIT Schwarzmano skaičiavimo koledžo dekanas Danielis Huttenlocheris. inauguraciniame SERC simpoziume. „Tai kelia filosofinius, konceptualius ir praktinius klausimus tokio masto, kokio nebuvo patirta nuo Apšvietos pradžios. Esant tokiems giliems pokyčiams, mums reikia naujų konceptualių žemėlapių, kad galėtume pereiti prie pokyčių.
Simpoziume buvo galima pažvelgti į SERC viziją ir veiklą tiek mokslinių tyrimų, tiek švietimo srityse. „Manome, kad mūsų pareiga su SERC yra ugdyti ir aprūpinti savo studentus bei sudaryti sąlygas mūsų fakultetui prisidėti prie atsakingo technologijų kūrimo ir diegimo“, – sakė MIT Sloan vadybos mokyklos Williamo F. Poundso vadybos profesorė Georgia Perakis. SERC dekanas ir pagrindinis simpoziumo organizatorius. „Mes semiamės iš daugybės MIT ir už jos ribų stipriųjų ir disciplinų įvairovės ir sujungiame jas, kad įgytume daug požiūrių.
Per daugybę diskusijų ir sesijų simpoziumas gilinosi į įvairias temas, susijusias su socialiniais ir etiniais kompiuterijos aspektais. Be to, 37 bakalauro ir magistrantūros studentai iš įvairių specialybių, įskaitant miesto studijas ir planavimą, politikos mokslus, matematiką, biologiją, elektros inžineriją ir informatikos mokslus bei smegenų ir pažinimo mokslus, dalyvavo plakatų sesijoje, kurioje demonstravo savo mokslinius tyrimus šioje srityje. erdvė, apimanti tokias temas kaip kvantinė etika, dirbtinio intelekto susitarimai saugojimo rinkose, skaičiavimo atliekos ir vartotojų teisių suteikimas socialinėse platformose siekiant didesnio turinio patikimumo.
Darbo įvairovės demonstravimas
Trijose sesijose, skirtose naudingo ir sąžiningo skaičiavimo, teisingos ir individualizuotos sveikatos, algoritmų ir žmonių temoms, SERC simpoziume buvo pristatyti 12 dėstytojų šiose srityse darbai.
Vienas iš tokių projektų, sudarytų iš daugiadalykės archeologų, architektų, skaitmeninių menininkų ir kompiuterinių socialinių mokslininkų komandos, siekė išsaugoti nykstančias paveldo vietas Afganistane su skaitmeniniais dvyniais. Projekto komanda, be išplėstinės realybės ir virtualios realybės patirties, parengė labai išsamius tyrinėjamus paveldo vietovių 3D modelius, kaip mokymosi išteklius auditorijoms, kurios negali pasiekti šių vietų.
Jungtinio organų dalijimosi tinklo projekte mokslininkai parodė, kaip jie naudojo taikomąją analizę, siekdami optimizuoti įvairius organų paskirstymo sistemos aspektus Jungtinėse Valstijose, kuri šiuo metu yra iš esmės pertvarkyta, kad ji būtų veiksmingesnė, teisingesnė ir įtraukesnė. skirtingoms rasinėms, amžiaus ir lyties grupėms, be kita ko.
Kitoje kalboje buvo aptarta sritis, kuriai dar nebuvo skiriamas pakankamas visuomenės dėmesys: platesnės įtakos teisingumui, kurią šališki jutiklių duomenys turi naujos kartos modeliams kompiuterijos ir sveikatos priežiūros srityje.
Pokalbyje apie algoritmų šališkumą buvo atsižvelgta ir į žmogaus šališkumą, ir į algoritminį šališkumą, taip pat į galimybes pagerinti rezultatus, atsižvelgiant į dviejų šališkumo rūšių skirtumus.
Kiti išskirtiniai tyrimai apėmė internetinių platformų ir žmogaus psichologijos sąveiką; tyrimas, ar sprendimus priimantys asmenys nedaro sisteminių numatymo klaidų dėl turimos informacijos; ir iliustracija, kaip pažangią analizę ir skaičiavimus galima panaudoti tiekimo grandinės valdymui, operacijoms ir reguliavimo darbui maisto ir farmacijos pramonėje.
Tomorro algoritmų tobulinimasw
„Algoritmai, be jokios abejonės, daro įtaką kiekvienam mūsų gyvenimo aspektui“, – sakė Asu Ozdaglar, MIT Schwarzmano skaičiavimo koledžo akademikų dekano pavaduotojas ir Elektros inžinerijos ir kompiuterių mokslo katedros vadovas, pradėdamas diskusiją, kurią ji moderavo. duomenų ir algoritmų pasekmes.
„Nesvarbu, ar tai būtų socialinė žiniasklaida, internetinė prekyba, automatizuotos užduotys ir daug platesnis kūrybinių sąveikų spektras, atsiradus generatyviems dirbtinio intelekto įrankiams ir dideliems kalbos modeliams, beveik neabejotina, kad laukia daug daugiau“, – sakė Ozdaglaras. . „Nors pažadas yra akivaizdus mums visiems, taip pat yra dėl ko susirūpinti. Tai labai daug laiko vaizduotės mąstymui ir kruopštiems svarstymams, siekiant pagerinti rytojaus algoritmus.
Kreipdamasis į grupę, Ozdaglaras paprašė kompiuterių, socialinių mokslų ir duomenų mokslo ekspertų įžvalgų, kaip suprasti, kas bus ateityje, ir suformuoti tai, kad dauguma žmonijos pasiektų rezultatus.
MIT technologijų ir miestų planavimo docentė Sarah Williams pabrėžė, kad labai svarbu suprasti duomenų rinkinių rinkimo procesą, nes duomenys yra visų modelių pagrindas. Ji taip pat pabrėžė, kad reikia atlikti tyrimus, kad būtų išspręstas galimas šališkumo įtaka algoritmams, kurie dažnai patenka per jų kūrėjus ir duomenis, naudojamus juos kuriant. „Mes turime galvoti apie savo etinius šių problemų sprendimus“, – sakė ji. „Kaip svarbu tobulėti naudojant technologijas, turime pradėti nagrinėti šiuos klausimus, kokie yra algoritmų šališkumas? Kokie yra duomenų šališkumo ar tų duomenų kelio?
Perkeldami dėmesį į generatyvius modelius ir tai, ar šių technologijų kūrimas ir naudojimas turėtų būti reguliuojamas, komisijos nariai, tarp kurių taip pat buvo Srini Devadas iš MIT elektros inžinerijos ir kompiuterių mokslo profesorius, Johnas Hortonas, informacinių technologijų profesorius ir Simonas Johnsonas, profesorius. verslumo – visi sutiko, kad reguliuoti atvirojo kodo algoritmus, kurie yra viešai prieinami, būtų sunku, nes reguliavimo institucijos vis dar vejasi ir stengiasi net nustatyti apsauginius turėklus technologijoms, kurioms dabar 20 metų.
Grįžtant prie klausimo, kaip efektyviai reguliuoti šių technologijų naudojimą, Johnsonas kaip galimą sprendimą pasiūlė progresinę pelno mokesčio sistemą. Jis rekomenduoja įmonių mokesčius grįsti jų pelnu, ypač didelėms korporacijoms, kurių didžiulės pajamos dėl ofšorinės bankininkystės iš esmės neapmokestinamos. Taip elgdamasis Johnsonas teigė, kad šis požiūris gali būti reguliavimo mechanizmas, atgrasantis įmones nuo bandymo „privaldyti visą pasaulį“, taikant atgrasomąsias priemones.
Etikos vaidmuo kompiuterijos ugdyme
Kadangi kompiuterija ir toliau tobulėja be lėtėjimo požymių, labai svarbu mokinius ugdyti sąmoningą technologijų, kurias jie kurs ir diegs pasaulyje, socialinį poveikį. Bet ar iš tikrųjų galima išmokyti tokių dalykų? Jei taip, kaip?
Casparas Hare’as, MIT filosofijos profesorius ir SERC dekanas, uždavė šį gresiantį klausimą dėstytojams savo vadovaujamoje komisijoje apie etikos vaidmenį kompiuterijos mokyme. Visi, turintys patirties mokant etikos ir galvojant apie socialines kompiuterijos pasekmes, kiekvienas komisijos narys pasidalijo savo požiūriu ir požiūriu.
Stiprus mokymosi iš istorijos propaguotojas, MIT mokslo, technologijų ir visuomenės docentas Edenas Medina teigė, kad „dažnai kompiuteriją apibūdiname taip, kad viskas yra nauja. Vienas iš dalykų, kurį darau savo mokyme, yra pažvelgti į tai, kaip žmonės praeityje susidūrė su šiomis problemomis, ir bandyti iš jų pasisemti būdo galvoti apie galimus tolesnius kelius. Medina savo pamokose reguliariai naudoja atvejų analizę ir remiasi Jeilio universiteto mokslo istorikės Joanna Radin straipsniu apie Pimos Indijos diabeto duomenų rinkinį, kuriame buvo iškelti etiniai klausimai dėl to konkretaus duomenų rinkinio istorijos, kurio daugelis nelaiko pavyzdžiu kaip sprendimai dėl technologijų ir duomenų gali išaugti iš labai specifinių kontekstų.
Milo Phillipsas-Brownas, Oksfordo universiteto filosofijos docentas, papasakojo apie Ethical Computing Protocol, kurį jis sukūrė kartu būdamas SERC postdoc MIT. Protokolas, keturių etapų požiūris į atsakingą technologijų kūrimą, skirtas mokyti informatikos studentus geriau ir tiksliau mąstyti apie socialines technologijos pasekmes, suskaidant procesą į lengviau valdomus etapus. „Pagrindinis požiūris, kurio laikomės, remiasi į vertę turinčio dizaino, atsakingų mokslinių tyrimų ir inovacijų, dalyvaujamojo dizaino sritimis kaip orientacine įžvalga, be to, iš esmės yra tarpdisciplininis“, – sakė jis.
Tokios sritys kaip biomedicina ir teisė turi etikos ekosistemą, kuri paskirsto etinio mąstymo funkciją šiose srityse. Teikiama priežiūra ir reguliavimas, kad padėtų pagrindinėms suinteresuotosioms šalims ir sprendimus priimantiems asmenims kilus problemoms, taip pat mokymo programos ir prieiga prie tarpdisciplininės patirties, kuria jie gali pasisemti. „Šioje erdvėje mes to neturime“, – sakė Šiaurės rytų universiteto filosofijos docentas Johnas Baslas. „Dabartinių kompiuterių mokslininkų ir kitų sprendimus priimančių asmenų kartoms mes iš tikrųjų priverčiame juos savarankiškai mąstyti etiškai. Baslis taip pat pakomentavo, kad esminių etinių samprotavimo įgūdžių mokymas visoje mokymo programoje, ne tik filosofijos pamokose, yra labai svarbus ir kad tikslas neturėtų būti, kad kiekvienas kompiuterių mokslininkas būtų profesionalus etikas, o kad jie pakankamai išmanytų kraštovaizdį, kad galėtų gali užduoti tinkamus klausimus ir ieškoti atitinkamos patirties bei esamų išteklių.
Po paskutinės sesijos dėstytojų, studentų ir tyrėjų tarpdisciplininės grupės visą dieną įsitraukė į aktyvias diskusijas, susijusias su nagrinėjamais klausimais simpoziumo pabaigą pažymėjusį priėmimą.
