„Microsoft“ vadovas: jei nesuvaldysime dirbtinio intelekto, laukia orveliška ateitis – ir tai gali įvykti greičiau nei įsivaizduojate

Gegužės 26 d. BBC naujienų laidoje „Panorama“ „Microsoft“ prezidentas Bradas Smithas išreiškė susirūpinimą žmonijos ateitimi. Jo teigimu, jei greitai nebus priimti visuomenės apsaugos įstatymai, dirbtinis intelektas gali tapti įrankiu, iššaukiančių blogąją visuomenės pusę.

Naujienų laidoje buvo kalbama apie galimus dirbtinio intelekto (DI) pavojus ir Jungtinių Valstijų bei Kinijos lenktynes dėl šios technologijos vystymo. Įspėjimas paskelbtas praėjus maždaug mėnesiui po to, kai Europos Sąjunga paskelbė reglamentų, kuriais bandoma nustatyti dirbtinio intelekto naudojimo apribojimus, projektus. Jungtinėse Valstijose panašių pastangų nedaug, nes ten teisės aktuose daugiausia dėmesio skiriama reguliavimo ribojimui ir dirbtinio intelekto skatinimui nacionalinio saugumo tikslais.

„Nuolat prisimenu George’o Orwello pamokas knygoje „1984“, – sakė Smithas. „Esminis pasakojimas buvo apie vyriausybę, kuri visą laiką gali matyti viską, ką visi daro, ir girdėti viską, ką visi sako. Na, 1984 m. tai neįvyko, bet jei nebūsime atsargūs, tai gali įvykti 2024 m.“

Tamsioji pusė

Dirbtinis intelektas yra sunkiai apibrėžiamas terminas, tačiau paprastai jis reiškia mašinas, kurios gali mokytis arba spręsti problemas automatiškai, be žmogaus operatoriaus nurodymų.

Daugelis dabartinių dirbtinio intelekto programų remiasi mašininiu mokymusi, t. y. skaičiavimo metodų rinkiniu, naudojamu atpažinti dėsningumus dideliuose duomenų kiekiuose, o paskui pritaikyti šias pamokas kitam duomenų ciklui. Tai itin galingas metodas, kuris buvo taikomas viskam, pradedant pagrindine matematikos teorija ir baigiant ankstyvosios visatos modeliavimu, tačiau, ekspertų teigimu, jis gali būti pavojingas, kai taikomas socialiniams duomenims.

Valdžios įtaka

Kita vertus, piktnaudžiavimas dirbtiniu intelektu gali būti ir sudėtingesnis. Tai, kaip naudojamas dirbtinis intelektas, yra ne tik techninis klausimas, bet ir politinis bei moralinis klausimas. O šios vertybės įvairiose šalyse labai skiriasi.

„Veido atpažinimas tam tikrais atžvilgiais yra nepaprastai galingas įrankis geriems dalykams daryti, bet jei norite stebėti visus gatvėje, jei norite matyti kiekvieną, kuris pasirodo demonstracijoje, galite pasitelkti dirbtinį intelektą“, – BBC sakė Smithas. „Ir tai matome tam tikrose pasaulio valstybėse jau dabar.“

Įdomu? Sudominkite ir kitus! Pasidalinkite ir tęskite skaitymą.

Kinija jau pradėjo naudoti dirbtinio intelekto technologiją tiek įprastais, tiek nerimą keliančiais būdais. Pavyzdžiui, kai kuriuose miestuose vietoj bilietų autobusuose ir traukiniuose naudojamas veido atpažinimas.

Tai reiškia, kad vyriausybė turi prieigą prie gausių duomenų apie piliečių judėjimą ir bendravimą. JAV įsikūrusi teisių gynimo grupė IPVM, kuri daugiausia dėmesio skiria vaizdo stebėjimo etikai, rado dokumentų, iš kurių matyti, kad Kinijoje planuojama sukurti sistemą „Vienas asmuo, viena byla”, pagal kurią vyriausybinėje byloje būtų kaupiami duomenys apie kiekvieno gyventojo veiklą, santykius ir politinius įsitikinimus.

Garsiajame Orvelo romane, „1984“ aprašoma visuomenė, kurioje vyriausybė stebi piliečius per „teleekranus“ net ir namuose. Tačiau Orvelas neįsivaizdavo, kokias galimybes stebėjimui suteiks dirbtinis intelektas – jo romane veikėjai randa būdų, kaip išvengti vaizdo stebėjimo, ir tik tada juos išduoda bendrapiliečiai.

Autonominiame Sindziango regione, kur uigūrų mažuma kaltina Kinijos vyriausybę kankinimais ir kultūriniu genocidu, dirbtinis intelektas naudojamas žmonėms sekti ir net vertinti jų kaltę, kai jie ir apklausiami, nustatė BBC.

Priemonių imtis reikia dabar

„Jūs negalite padaryti labai daug, kad sutrukdytumėte užsienio šaliai plėtoti šias technologijas“, – sakė Troutas, – Todėl geriausia, ką galite padaryti, tai patys jas vystyti, kad galėtumėte jas suprasti ir apsisaugoti, būdami moraliniu lyderiu.“

Tuo tarpu pastangoms pažaboti dirbtinį intelektą šalies viduje vadovauja valstijų ir vietos valdžios institucijos. Didžiausia Vašingtono valstijos apygarda, Kingo apygarda, ką tik uždraudė vyriausybei naudoti veido atpažinimo programinę įrangą. Tai pirmoji tai padariusi apygarda JAV, nors 2019 m. tokį patį žingsnį žengė ir San Francisko miestas, o po jo – virtinė kitų miestų.

Jau pasitaikė atvejų, kai dėl veido atpažinimo programinės įrangos buvo klaidingai suimami asmenys. 2020 m. birželio mėn. juodaodis vyras Detroite buvo suimtas ir 30 valandų laikomas areštinėje, nes algoritmas klaidingai identifikavo jį kaip įtariamąjį vagystės iš parduotuvės byloje.

„Jei dabar nepriimsime įstatymų, kurie ateityje apsaugotų visuomenę, pamatysime, kad technologijos veržiasi į priekį, – sakė Smitas, – ir bus labai sunku jas pasivyti.“