Meredith Whittaker yra ne pelno saugios pranešimų programos „Signal“ prezidentas. Ši paslauga kartu su „WhatsApp“ ir panašiomis pranešimų platformomis prieštarauja JK vyriausybės internetinės saugos įstatymo projektui, kuriuo, be kita ko, siekiama nuskaityti vartotojų pranešimus dėl žalingo turinio. Prieš „Signalą“ Whittaker dirbo „Google“, įkūrė NYU AI dabar institutą ir buvo Federalinės prekybos komisijos patarėjas.
Po 10 metų „Google“ suorganizavote įmonės pasitraukimą požiūris į kaltinimus seksualiniu priekabiavimu, po kurių 2019 m. Kaip dėl to jautėtės?
Leiskite man grįžti prie kai kurių detalių, nes yra tam tikra plati istorija, kuri šiuo metu yra svarbi. Aš vadovavau tyrimų grupei, kuri nagrinėjo AI socialines pasekmes. Buvau gana gerai žinomas įmonėje ir už jos ribų kaip asmuo, kuris aptarė šias problemas būdais, kurie prieštarauja „Google“ viešiesiems pranešimams. Buvau vidinis disidentas, akademikas.
2017 m. pabaigoje kolega man pažymėjo, kad yra slapta sutartis [known as Maven] tarp „Google“ ir Gynybos departamento [DOD] sukurti dirbtinio intelekto sistemas, skirtas nukreipti į dronus. Man tai buvo tada, kai prasidėjo mano organizavimas, nes supratau, kad pateikiau labai aiškius argumentus, kuriems žmonės pritarė… bet tai neturėjo jokios reikšmės. Tai nebuvo argumentų jėgos klausimas. Tai buvo pagrindinis šios įmonės tikslas – pelnas ir augimas, o DOD sutartys visada buvo šių intelektualinių ir moralinių sumetimų viršūnė.
Tai buvo tada, kai pradėjote organizuoti pasivaikščiojimą?
Ką daryti, jei neturite galios to pakeisti, net jei laimėsite diskusiją? Nuo tada man prasidėjo organizavimas. Parašiau Maveno laišką [which gathered 3,000 employee signatures] ir mums buvo atšaukta Maven sutartis.
Pasivaikščiojimas buvo didelis reginys. Buvo naujienų apie tai, kad Andy Rubinas gavo 90 mln. [which he denies]. Iškilo didelis susirūpinimas dėl moralinės ir etinės „Google“ verslo praktikos krypties ir supratimo, kad šios moralinės ir etinės klaidos atsispindi ir darbo vietos kultūroje.
Kaip aš dėl to jaučiausi? Aš labai laimingas. Aš nestovėjau šalia ir neleidau savo sąžiningumo suvalgyti, teisindamasis, kad esu bendrininkas.
Ar sakytumėte, kad „Google“ yra gana būdinga didelėms technologijų įmonėms Jie tikrai nerimauja dėl moralinių ir etinių rūpesčių, jei jie turi įtakos jų esmei?
Galiausiai kiekvieną ketvirtį „Google“ vadovai susitinka su valdyba ir turi pateikti teisingas augimo ir pajamų prognozes. Tai yra pagrindiniai akcininkų kapitalizmo tikslai. Jei Sundaras [Pichai, Google CEO] priėjo prie valdybos ir pasakė: „Morališkai turime palikti ant stalo 10 mlrd. Tegul „Microsoft“ sudaro šią sutartį“, – jis akimirksniu būtų atleistas. Tai nėra forma ar tikslų rinkinys, kurį galima pasiekti pirmiausia iškeliant socialinį gėrį.
Ar nėra verslo reikalo panaikinti seksualinį priekabiavimą, turėti įvairią darbo jėgą, ištaisyti šališkus algoritmus ir pan.?
Nėra dekartiško neutralumo lango, už kurio galėtumėte įdėti algoritmą ir pasakyti: „Tai yra už mūsų dabarties ir istorijos ribų“. Šie algoritmai parengti remiantis duomenimis, kurie atspindi ne pasaulį, o internetą – kas, be abejo, yra blogiau. Tai užkoduos istorinę ir šių dienų marginalizavimo, nelygybės ir tt istorijas. Nėra būdo, kaip iš to ištrūkti ir tada pasakyti: „Tai nesugadintas, nešališkas algoritmas“, nes duomenis sudaro žmonės. . Tai visada bus praeities perdirbimas, o paskui jos išspjovimas, projektavimas į dabartį.
Galime sakyti, kad yra verslo atvejis, bet būkime realūs. Jei matysite, kaip darbo jėga bus pakeista vardan lygybės, yra daug galingų žmonių, kurie turės prarasti savo pareigas, statusą arba atlyginimą. Mes gyvename pasaulyje, kuriame žmonės yra misoginistai ir rasistai. Kai kurie elgiasi taip, kad kambaryje neturėtų būti moterų ar ne baltaodžių vyrų. Jie uždirba milijardus dolerių dabar. Negalime to palikti verslo reikalams, manau, tai yra mano argumentas.
Taigi, kai 2020–21 m Timnit Gebru ir Margaret Mitchell Iš „Google“ dirbtinio intelekto etikos skyriaus buvo pašalinti po įspėjimo apie AI nuolatinę nelygybę, ar jautėte: „O, štai ir vėl“?
Timnit ir jos komanda atliko darbą, parodantį šių didelių kalbų modelių, kurie šiuo metu yra AI ažiotažas, potencialą aplinkai ir socialinei žalai. Tai, ką matėte ten, buvo labai aiškus atvejis, kaip „Google“ toleruos žmones, kritikuojančius šias sistemas. Nesvarbu, kad problemos, kurias ji ir jos bendraautoriai nurodė, buvo nepaprastai svarbios ir tikros. „Google“ pasakė: „Ei, mes nenorime to metabolizuoti dabar“.
Ar jums įdomu, kaip buvo lyginami jų įspėjimai su egzistencinės rizikos baimėmis, kurias išreiškė buvęs „Google“. „AI krikštatėvis“ GeoffasRey Hintonas neseniai?
Jei paisytumėte Timnit perspėjimų, turėtumėte gerokai pakeisti šių įmonių verslą ir struktūrą. Jei atsižvelgsite į Geoffo perspėjimus, sėdite prie stalo Davose ir jaučiatės išsigandę.
Geoffo įspėjimai yra daug patogesni, nes jie viską numato į tolimą ateitį, todėl status quo lieka nepaliestas. Ir jei status quo bus nepaliestas, pamatysite, kad šios įmonės ir jų sistemos dar labiau įsitvirtins taip, kad jų reguliuoti taps neįmanoma. Tai visai nėra nepatogus pasakojimas.
Po Google buvote paskirtas vyresniuoju patarėjuer dėl AI Federalinėje prekybos komisijoje (FTC). Ar radote procesą, kuriuo bandote reguliuoti nusivylimą?
Atėjau ne su rožiniais akiniais. Daugelį metų kalbėjausi su žmonėmis Kongrese, FTC ir įvairių federalinių agentūrų žmonėmis ir vienu metu liudijau prieš Kongresą. Aš nebuvau naujokas, atvykau į DC ne su lagaminu ir svajone, bet tai leido pajusti, kokia nuožmi buvo opozicija. Pasakysiu, kad tą minutę, kai buvo paskelbta, kad aš gaunu FTC vaidmenį, kraštutinių dešiniųjų naujienų straipsnių sumažėjo. Šikšnosparnio signalas užgeso.
Žinoma, ne aš vienas. Linos biuras [Khan, FTC chair] buvo užtvindytas šiuo. Tačiau agentūroje, kurioje yra vizija, kur yra analizė, pagrįsta ne moksline fantastika, o šių sistemų ir šios pramonės supratimu, buvo didžiulis pasipriešinimas. Tai atėjo iš technologijų lobistų, iš Prekybos rūmų, iš kai kurių FTC žmonių, kurie norėtų gauti gražų mažą generalinio advokato darbą įmonėje ir nenori, kad jų vardas būtų toks. gali būti vertinamas kaip antiverslas. Ten buvo puiki vizija, bet mašina tokiomis sąlygomis sunkiai valdoma.
Priešingai nei daugelis kitų technologijų verslininkų ir akademikų, jūs nepasirašėte nė vienos iš dviejų neseniai pateiktų peticijų, Future of Life instituto „pauzės AI“ laiškas arba praeitą mėnesį’s AI saugos centras „egzistencinės grėsmės“ laiškas.
Ne. Nemanau, kad jie yra sąžiningi. Tai žmonės, kurie iš tikrųjų galėtų pristabdyti, jei norėtų. Jie galėtų atjungti duomenų centrus. Jie galėjo sušvilpti. Tai yra vieni galingiausių žmonių, kai reikia turėti svertus, kad iš tikrųjų tai pakeistų, todėl tai panašu į prezidento pareiškimą, kuriame sakoma, kad kažkas turi duoti vykdomąjį įsakymą. Tai nesąžininga.
Kuo jus sužavėjo užimant pareigas „Signal“?
Aš esu jų valdyboje keletą metų. Signalas vaidina svarbų žalos mažinimo vaidmenį užtikrinant tikrai privačių komunikacijų mechanizmą pasaulyje, kuriame per pastaruosius 30 metų didelės korporacijos už mus priėmė sprendimus, kad visi mūsų ryšiai, veikla ir kt. turėtų būti stebimi.
Jūs pagrasinote, kad ištrauksite Signalą iš JK, jei prisijungęs saugumo Seime šiuo metu vykstantis įstatymo projektas priimtas.
Pakartosiu tai, ką sakiau, o tai buvo ne visai antraštė. Mes niekada nepažeisime savo privatumo pažadų. Mes niekada neklastosime savo šifravimo, niekada nedalyvausime jokiame režime, kuris priverstų sulaužyti tuos pažadus.
Įstatymo projekte siūloma, kad vartotojų pranešimai būtų nuskaitomi „kliento pusėje“ – t telefone – o žinutės siunčiamos būtų užšifruotos…
Teiginiai apie kliento nuskaitymą, kad jis gali apsaugoti privatumą ir kartu vykdyti masinį stebėjimą, yra magiškas mąstymas. Tai ciniškai ginkluoja beprasmį semantinį skirtumą tarp masinio stebėjimo, kuris vyksta prieš įsigaliojant šifravimui, ir šifravimo pažeidimo. Turite politikų, kurie sako: „Tai nepažeidžia šifravimo, nesijaudinkite“. Tai nepaprastai nesąžininga.
O nuosaikumas kitose srityse veikia ne itin gerai – programinė įranga AI nuskaito pranešimus, o tada sudėtingi atvejai perduodami žmonėms…
Ši sistema niekada negalėtų veikti be didžiulio žmogaus įsikišimo. Tai, ką žiūrite, yra neįsivaizduojamai brangi sistema, kuriai reikėtų nuolatinio žmogaus darbo, nuolatinio atnaujinimo. Jūs žiūrite į šimtus tūkstančių žmonių, kurie yra užblokuoti nuo savo sąskaitų be jokios išeities, šlifuodami kasdienį žmonių gyvenimą, užimtumą ir ekonomiką. Tai fantazija, kurią kuria žmonės, kurie nesupranta, kaip šios sistemos iš tikrųjų veikia, kokios jos brangios ir klystamos.
Tai, kas padeda tai padaryti, o tai atrodo tikėtina, yra AI hype. Tai reiškia, kad šios sistemos yra antžmogiškos, kaip itin pajėgios, o tai leidžia visuomenei ir net kai kuriems politikams suprasti, kad technologijos gali padaryti bet ką.
