MIT 6.036 kurso (Mašininio mokymosi įvadas) studentai studijuoja galingų modelių, padedančių gydytojams diagnozuoti ligas arba įdarbintojams atrinkti kandidatus į darbo vietas, veikimo principus.Dabar, dėka Socialinės ir etinės kompiuterijos atsakomybės (SERC) sistemos, šie studentai taip pat galės susimąstyti apie šių dirbtinio intelekto įrankių, kurie kartais sukelia nenumatytų pasekmių, pasekmes .
Praėjusią žiemą SERC stipendininkų komanda kartu su dėstytoja Leslie Kaelbling, „Panasonic” kompiuterių mokslo ir inžinerijos profesore, ir 6.036 dėstytojų asistentais į savaitines laboratorines pratybas įtraukė medžiagą, apimančią etišką kompiuteriją, duomenų ir modelių šališkumą bei sąžiningumą mašininio mokymosi srityje. Šį procesą 2019 rudenį inicijavo X konsorciumo Elektros inžinerijos ir informatikos katedros docentas Jacobas Andreasas. SERC stipendininkai bendradarbiauja daugiadisciplininėse grupėse, kad padėtų podoktorantams ir dėstytojams parengti naują kurso medžiagą. 6.
Kadangi 6. 036 yra toks didelis kursas, daugiau nei 500 studentų, kurie buvo užsirašę į 2021 pavasario semestrą, kartu su pastangomis išmokti naujų skaičiavimo metodų sprendė ir šiuos etinius aspektus. Kai kuriems iš jų tai galėjo būti pirmoji patirtis akademinėje aplinkoje kritiškai mąstyti apie galimą neigiamą mašinų mokymosi poveikį.
SERC mokslininkai vertino kiekvieną laboratoriją, kad parengtų konkrečius pavyzdžius ir su etika susijusius klausimus, atitinkančius tos savaitės medžiagą. Kiekvienas jų atsinešė skirtingą įrankių rinkinį. Serena Booth yra Kompiuterių mokslo ir dirbtinio intelekto laboratorijos (CSAIL) Interaktyvios robotikos grupės magistrantė. Marion Boulicault buvo Lingvistikos ir filosofijos katedros magistrantė, o dabar yra MIT Švarcmano kompiuterijos koledžo, kuriame įsikūręs SERC, doktorantė. O Rodrigo Ochigame buvo Istorijos, antropologijos ir mokslo, technologijų ir visuomenės programos (HASTS) magistrantas, o dabar yra Leideno universiteto (Nyderlandai) docentas. Jie glaudžiai bendradarbiavo su dėstytojo asistentu Dheekshita Kumar, MEng „21, kuris buvo labai svarbus rengiant kurso medžiagą.
Jie kūrė ir tobulino kiekvieną laboratoriją, glaudžiai bendradarbiaudami su dėstytojo asistentais, kad užtikrintų, jog turinys atitiktų ir padėtų siekti pagrindinių kurso mokymosi tikslų. Kartu jie padėjo mokytojų padėjėjams nustatyti, kaip geriausiai pateikti medžiagą ir vesti pokalbius socialinėmis temomis, tokiomis kaip rasė, lytis ir stebėjimas.
„Tokioje klasėje kaip 6.036 turime reikalų su 500 žmonėmis, kurie atėjo ne tam, kad mokytųsi etikos. Jie galvoja, kad atėjo mokytis mašininio mokymosi pagrindų, pavyzdžiui, nuostolių funkcijų, aktyvavimo funkcijų ir panašių dalykų. Mums tenka iššūkis bandyti priversti šiuos studentus iš tikrųjų aktyviai ir įsitraukus dalyvauti diskusijose. Pavyzdžiui, laboratorijoje, skirtoje mašininio mokymosi modelio įvesties požymiams atvaizduoti, buvo pateikti skirtingi sąžiningumo apibrėžimai, paprašyta apsvarstyti kiekvieno apibrėžimo privalumus ir trūkumus, tada studentai turėjo pagalvoti, kokius požymius reikėtų įvesti į modelį, kad jis būtų sąžiningas
Keturios laboratorijos jau paskelbtos MIT OpenCourseWare. Nauja SERC mokslininkų komanda, remdamasi dėstytojų ir studentų atsiliepimais, peržiūri kitas aštuonias, daugiausia dėmesio skirdama mokymosi tikslams, spragų užpildymui ir svarbių sąvokų išryškinimui.
Tikslingas požiūris
Studentų pastangos 6.036 rodo, kaip SERC siekia bendradarbiauti su dėstytojais jiems naudingais būdais, sako SERC dekano pavaduotoja, aeronautikos ir astronautikos profesorė Julie Shah. Jie pritaikė SERC procesą dėl unikalaus šio didelio kurso pobūdžio ir griežtų laiko apribojimų.”
SERC buvo įkurtas daugiau nei prieš dvejus metus per MIT Švarcmano kompiuterijos koledžą kaip tikslingas būdas suburti skirtingų disciplinų dėstytojus į bendradarbiavimo aplinką, kad jie kartu kurtų ir pradėtų dėstyti naujo kurso medžiagą, skirtą socialinei ir atsakingai kompiuterijai.
Kiekvieną semestrą SERC komanda pakviečia apie tuziną dėstytojų prisijungti prie veiksmų grupės, skirtos naujai mokymo medžiagai kurti (yra kelios SERC veiksmų grupės, kurių kiekviena turi skirtingą misiją). Jie tikslingai renkasi, ką pakviesti, ir stengiasi įtraukti dėstytojus, kurie, tikėtina, užmegs vaisingą partnerystę mažesniuose pogrupiuose, – sako Davidas Kaiseris, SERC prodekanas, Germeshauzeno mokslo istorijos profesorius ir fizikos profesorius.
Šie dviejų ar trijų dėstytojų pogrupiai per semestrą tobulina savo bendrus interesus, kad parengtų naują su etika susijusią medžiagą. Tačiau šis procesas yra abipusis: kiekvienas dėstytojas į savo kursą atsineša naujos medžiagos, aiškina Shahas. Dėstytojai į veiklos grupes renkasi iš visų penkių MIT mokyklų.
„Dalis to apima peržengimą įprastų disciplinų ribų ir kalbos kūrimą, o tada pasitikėjimą ir bendradarbiavimą su nauju žmogumi už įprasto rato ribų. Todėl manau, kad mūsų tikslingas požiūris buvo toks sėkmingas. Gera išbandyti medžiagą ir į savo kursą atsinešti naujų dalykų, tačiau santykių kūrimas yra esmė. Dėl to tai yra vertinga visiems”, – sako ji.
Poveikis
Per pastaruosius dvejus metus Shah ir Kaiser buvo sužavėti šių pastangų energija ir entuziazmu.
Nuo programos pradžios jie dirbo su maždaug 80 dėstytojais, o vien per pastaruosius metus daugiau nei 2,100 studentai išklausė kursus, į kuriuos buvo įtrauktas naujas SERC turinys. Visi šie studentai nebūtinai yra inžinieriai – apie 500 studentų su SERC turiniu susipažino Humanitarinių, menų ir socialinių mokslų mokykloje, Sloano vadybos mokykloje, Architektūros ir planavimo mokykloje.
Pagrindinis SERC principas – etika ir socialinė atsakomybė kompiuterijos srityje turėtų būti integruota į visas MIT dėstymo sritis, kad ji taptų tokia pat svarbi kaip ir techninės mokymo programos dalys, sako Shahas. Technologijos, ypač dirbtinis intelektas, dabar paliečia beveik visas pramonės šakas, todėl visų disciplinų studentai turėtų būti mokomi, kaip suprasti šias priemones ir giliai mąstyti apie jų galią ir spąstus.
„Ne kieno nors kito darbas yra išsiaiškinti, kodėl ar kas nutinka, kai kas nors nepavyksta. Tai mūsų visų pareiga ir mes visi galime būti tam pasirengę. Pripraskime prie to. Stiprinkime raumenis, kad galėtume sustoti ir užduoti tuos sudėtingus klausimus, net jei negalime nustatyti vieno atsakymo uždavinių rinkinio pabaigoje”, – sako Kaiseris
Trims SERC stipendininkams buvo unikalus iššūkis kruopščiai parengti etinius klausimus, kai nebuvo atsakymų rakto, į kurį būtų galima atsiremti. Tačiau gilus mąstymas apie tokias opias problemas taip pat padėjo Bootui, Boulicault ir Ochigame mokytis, tobulėti ir pamatyti pasaulį per kitų disciplinų prizmę.
Jie tikisi, kad 6.036 kurso studentai ir dėstytojų asistentai įsidėmės šias svarbias pamokas ir savo būsimoje karjeroje.
„Šis procesas mane įkvėpė ir suteikė energijos, išmokau labai daug, ne tik techninės medžiagos, bet ir to, ką galima pasiekti, kai bendradarbiaujama tarp skirtingų disciplinų. Jau vien šios pastangos mastas buvo jaudinantis. Jei turėsime tokį būrį 500 studentų, kurie išeis į pasaulį geriau suprasdami, kaip mąstyti apie tokias problemas, jaučiu, kad mes tikrai galime kažką pakeisti”, – sako Boulicault
