Karas Ukrainoje
aš1991 m. išleistoje knygoje „Consciousness Explained“ kognityvinis mokslininkas Danielis Dennettas aprašo jauniklį jūros čiurkšlę, kuri klaidžioja per jūrą, ieškodama „tinkamos uolos ar koralo gabalo, kad galėtų … tapti namais visam gyvenimui“. Jį radus, jūros purslai nebereikia smegenų ir jas valgo. Vargu ar žmonija perims tokius kulinarinius įpročius, tačiau yra nerimą kelianti metaforinė paralelė. Susirūpinimą kelia tai, kad pelno siekiančioje konkurencijoje dėl dirbtinio intelekto įterpimo į mūsų kasdienį gyvenimą žmonės save nutildo, pernelyg priklausomi nuo „protingų“ mašinų – ir griauna praktikas, nuo kurių priklauso jų supratimas.
Žmogaus smegenys vystosi. Prieš tris tūkstančius metų mūsų protėviai turėjo smegenis, kurios buvo didesnės nei mūsų. Bent vienas paaiškinimas yra tas, kad intelektas tapo vis labiau kolektyvinis prieš 100 kartų ir žmonės peržengė populiacijos slenkstį, kai žmonės dalijasi informacija. Prof. Dennettas rašė, kad evoliuciniu požiūriu ryškiausias žmogaus psichinių galių išsiplėtimas – civilizacijos iškilimas per meną ir žemės ūkį – buvo beveik akimirksniu.
Ši sinapsinės minties socializacija dabar išbandoma naudojant kitokį keitimąsi informacija: dirbtinio intelekto gebėjimą atsakyti į bet kokį raginimą žmonėms skambančia kalba, rodančia tam tikrą ketinimą, netgi jausmą. Bet tai yra miražas. Kompiuteriai tapo tobulesni, tačiau jiems trūksta tikro supratimo, kurį išugdo žmonės, evoliucionuojantys kaip savarankiški individai, įterpti į socialinių praktikų tinklą. „ChatGPT“, labiausiai į žmogų panašus apsimetinėjimas, gali sukurti elegantišką prozą. Tačiau klaidinga pagrindinė matematika. Tai gali būti rasistinis ir seksistinis. ChatGPT neturi nostalgijos, jokių schemų ir apmąstymų. Tai kam tas triukšmas? Trumpai tariant, pinigai.
Kai šią savaitę buvo pastebėtas naujas „Google“ dirbtiniu intelektu varomas „Google“ paieškos įrankis Bard, kuris suklydo reklaminiame vaizdo įraše, ši klaida nubraukė daugiau nei 150 mlrd. USD nuo pagrindinės bendrovės „Alphabet“ akcijų kainos. Kodėl, stebėjosi neurologas Gary Marcusas, kodėl „Microsoft“ paieškos variklis „Bing“, maitinamas „ChatGPT“ ir pristatytas tą pačią dieną kaip Bardas, buvo įvertintas kaip „revoliucija“, nepaisant to, kad ji siūlo daugybę klaidų? Atsakymas yra tikimybė, kad žmonija gali „binginti“, o ne „googluoti“ žiniatinklį. Tai neatrodo nepagrįsta: „ChatGPT“ sužavėjo milijonus žmonių nuo tada, kai buvo pristatytas lapkričio pabaigoje.
Bėda ta, kad tai tik vibracijos. Pokalbių robotai skamba labiau autoritetingi, tačiau jie nėra teisingesni. Profesorius Marcusas pabrėžia, kad jų klaidos arba haliucinacijos yra jų „silicio kraujyje“, o tai yra šalutinis produktas, kurį jie suspaudžia. „Kadangi nė viena įmonė dar neatliko savo produktų išsamios mokslinės peržiūros, neįmanoma pasakyti, kuri yra patikimesnė“, – rašo jis. „Gali pasirodyti, kad naujasis Google produktas iš tikrųjų yra daugiau patikimas“.
Visos megakorporacijos įgijo daug informacijos išnaudojama forma, neprivalėdamos jos suprasti. Žurnalistai, politikai ir poetai gali būti labai susirūpinę dėl „semantinių“ komunikacijos aspektų, bet ne tiek AI inžinieriai. Jie žiūri į žinutėje pateiktą informaciją kaip į sistemos sutrikimo matą. Štai kodėl AI rizikuoja sukurti naują ginklų klasę kare su tiesa.
Žmonės jau seniai mąsto apie norus ir neįvertina naujų proveržių rizikos. Komerciniai interesai skatina technologijas tapti nauja religija, kurios pagrindinis tikėjimo straipsnis yra tas, kad daugiau technologijų visada yra geriau. Žiniatinklio milžinai nori priversti vartotojus pervertinti savo AI įrankių naudingumą, skatindami žmoniją per anksti perleisti jiems valdžią, toli už jų kompetencijos ribų. Verslumas ir mokslinis smalsumas lėmė daugybę šiuolaikinės eros pažangos. Tačiau pažanga nėra etinis principas. Pavojus kyla ne su mašinomis, o su žmonėmis kaip su mašinomis.
