On vasario 14 d., Kevinas Roose’as Niujorko laikas technologijų apžvalgininkas, turėjo dvi valandas pokalbį su Bing, Microsoft ChatGPT patobulinta paieškos sistema. Iš patirties jis pasirodė akivaizdžiai pasikeitęs žmogus, nes pokalbių robotas, be kita ko, jam pasakė, kad norėtų būti žmogumi, kad jame yra destruktyvių troškimų ir yra jį įsimylėjęs.
Pokalbio stenograma kartu su Roose pasirodymu laikraštyje Dienraštis podcast’as, iš karto sukėlė moralinę paniką, jau siautėjančią dėl didelių kalbų modelių (LLM), tokių kaip GPT-3.5 (kuris, matyt, yra Bing’o pagrindas) ir kitų „generatyvinių AI“ įrankių, kurie dabar yra laisvi pasaulyje, padarinių. Jie įvairiai vertinami kaip chroniškai nepatikimi artefaktai, kaip nekontroliuojamų technologijų pavyzdžiai arba kaip vadinamojo dirbtinio bendrojo intelekto (AGI) – ty žmogaus lygio intelekto – pirmtakai ir todėl keliantys egzistencinę grėsmę žmonijai.
Šią isteriją lydi naujas aukso karštligė, nes rizikos kapitalistai ir kiti investuotojai stengiasi įsitraukti į veiksmą. Atrodo, kad visi tie pinigai degina skyles labai giliose kišenėse. Deja, tai turi savo komiškų pusių. Pavyzdžiui, tai rodo, kad pokalbių robotai ir LLM pakeitė kriptovaliutą ir žiniatinklio 3.0 kaip kitą didelį dalyką, o tai savo ruožtu patvirtina, kad technologijų pramonė bendrai turi tritono dėmesį.
Vis dėlto keisčiausia yra tai, kad pandemoniją sukėlė tai, ką vienas iš pirmaujančių tyrėjų pavadino „stochastinėmis papūgomis“ – tai reiškia, kad LLM varomi pokalbių robotai yra mašinos, kurios nuolat nuspėja, kuris žodis statistiškai greičiausiai seks. ankstesnįjį. Ir tai ne juodoji magija, o skaičiavimo procesas, kuris yra gerai suprantamas ir aiškiai aprašytas prof. Murray Shanahano ir elegantiškai išskaidytas kompiuterių mokslininko Stepheno Wolframo.
Kaip mes galime suprasti visą šią beprotybę? Gera vieta pradėti – atpratinti žmones nuo nepagydomo noro interpretuoti mašinas antropocentriškai. Atrodo, kad nuo pat Joe Weizenbaumo Elizos žmonės, bendraujantys su pokalbių robotais, nori sužmoginti kompiuterį. Tai buvo absurdiška Elizai, kuri tiesiog kūrė scenarijų, kurį parašė jos kūrėjas, todėl galbūt suprantama, kad žmonės, kurie dabar bendrauja su ChatGPT, kuris, matyt, gali protingai reaguoti į žmogaus įvestį, turėtų patekti į tuos pačius spąstus. Bet tai vis tiek kvaila.
Nepadeda ir nuolatinis LLM žymėjimas „AI“. Šios mašinos tikrai yra dirbtinės, bet man atrodo, kad norint jas laikyti „protingomis“, reikia gana nuskurdusios intelekto sampratos. Tačiau kai kurie stebėtojai, pavyzdžiui, filosofas Benjaminas Brattonas ir kompiuterių mokslininkas Blaise’as Agüera y Arcas, yra mažiau atmetę. „Gali būti, – pripažįsta jie, – kad šios AI rūšys yra „protingos“ ir netgi tam tikru būdu „sąmoningos“, priklausomai nuo to, kaip tie terminai apibrėžiami“, bet „nė vienas iš šių terminų negali būti labai naudingas, jei yra apibrėžtas stipriai antropocentriniais būdais“. Jie teigia, kad turėtume atskirti jausmą nuo intelekto ir sąmonės ir kad „tikroji AI filosofijos pamoka yra ta, kad tikrovė pralenkė turimą kalbą, kad būtų galima analizuoti tai, kas jau yra po ranka. Būtinas tikslesnis žodynas.
Tai yra. Tačiau kol kas esame įstrigę isterijoje. Metai yra siaubingai ilgas laikas šioje pramonėje. Tik prieš dvejus metus, atminkite, kiti dideli dalykai buvo kriptovaliuta / žiniatinklis 3.0 ir kvantinė kompiuterija. Pirmoji žlugo dėl savo absurdo svorio, o antroji, kaip branduolių sintezė, tebėra už horizonto.
Naudojant pokalbių robotus ir LLM, greičiausiai rezultatas yra tas, kad galiausiai jie bus vertinami kaip reikšmingas žmogaus galimybių padidinimas (skaičiuoklės apie steroidus, kaip pasakė vienas ciniškas kolega). Jei taip atsitiks, pagrindiniai naudos gavėjai (kaip ir visose ankstesnėse aukso karštligėse) bus tiekėjai, kurie šiuo atveju yra debesų kompiuterijos ištekliai, reikalingi LLM technologijai ir priklausantys didžiulėms korporacijoms.
Atsižvelgiant į tai, argi neįdomu, kad vienintelis dalykas, apie kurį šiuo metu niekas nekalba, yra didžiulio skaičiavimo, reikalingo mokyti ir valdyti LLM, poveikis aplinkai? Nuo jų priklausomas pasaulis gali būti naudingas verslui, bet tikrai būtų blogas planetai. Galbūt būtent tai turėjo omenyje „ChatGPT“ sukūrusios aprangos „OpenAI“ generalinis direktorius Samas Altmanas, kai pastebėjo, kad „AI greičiausiai sukels pasaulio pabaigą, bet kol kas atsiras puikių kompanijų“. .
Ką aš skaičiau
Skausmo profiliai
Socialinė žiniasklaida yra pagrindinė paauglių mergaičių psichikos ligų epidemijos priežastis – tai įspūdinga psichologo Jonathano Haidto apklausa.
Malonus miniai
Ko poetas, „Playboy“ ir „Burbulų pranašas“ vis dar gali mus išmokyti, yra puiki Timo Harfordo esė apie minios beprotybę, be kita ko.
Technikos honoraras
Ko Mary, Škotijos karalienė, gali išmokyti šiandienos kompiuterių saugos specialistus, yra intriguojantis Ruperto Goodwinso įrašas registre.
