„Tesla“ atstovas Elonas Muskas yra tarp tų, kurie teigia, kad dirbtinis intelektas gali priversti žmoniją išnykti, o tik jų produktai gali mus išgelbėti. Mėgstamiausia Silicio slėnio filosofija – ilgalaikiškumas – padėjo suformuluoti diskusijas apie dirbtinį intelektą apie žmogaus išnykimo idėją.
Tačiau vis garsesni kritikai perspėja, kad ši filosofija yra pavojinga, o išnykimo manija atitraukia dėmesį nuo tikrų su AI susijusių problemų, tokių kaip duomenų vagystės ir šališki algoritmai.
Autorius Emile’as Torresas, buvęs ilgametis, tapęs šio judėjimo kritiku, naujienų agentūrai AFP sakė, kad filosofija remiasi tokiais principais, kurie praeityje buvo naudojami masinėms žudynėms ir genocidui pateisinti.
Tačiau judėjimas ir susijusios ideologijos, tokios kaip transhumanizmas ir efektyvus altruizmas, turi didžiulę įtaką universitetuose nuo Oksfordo iki Stanfordo ir visame technologijų sektoriuje.
Rizikos kapitalistai, tokie kaip Peteris Thielis ir Marcas Andreessenas, investavo į gyvenimo pratęsimo bendroves ir kitus su judėjimu susijusius naminių gyvūnėlių projektus.
Elonas Muskas ir „OpenAI“ atstovas Samas Altmanas pasirašė atvirus laiškus, įspėjančius, kad dirbtinis intelektas gali priversti žmoniją išnykti, nors jie turi naudos, nes teigia, kad tik jų produktai gali mus išgelbėti.
Galiausiai kritikai sako, kad šis pakraščio judėjimas daro per daug įtakos viešoms diskusijoms dėl žmonijos ateities.
„Tikrai pavojinga”
Ilgalaikiai ekspertai mano, kad esame įpareigoti stengtis pasiekti geriausių rezultatų kuo daugiau žmonių.
Tai niekuo nesiskiria nuo 19-ojo amžiaus liberalų, tačiau ilgalaikiai šalininkai turi omenyje daug ilgesnį laiką.
Jie žvelgia į tolimą ateitį ir mato trilijonus trilijonus žmonių, plaukiančių erdvėje, kolonizuojančių naujus pasaulius.
Jie tvirtina, kad kiekvienam iš šių būsimų žmonių esame skolingi tokia pat pareiga, kaip ir bet kuriam šiandien gyvam žmogui.
Ir kadangi jų yra labai daug, jie turi daug didesnį svorį nei šiandieniniai egzemplioriai.
Toks mąstymas daro ideologiją „tikrai pavojingą“, sakė Torresas, knygos „Žmogaus išnykimas: naikinimo mokslo ir etikos istorija“ autorius.
„Kiekvieną kartą, kai turite utopinę ateities viziją, paženklintą beveik begaline verte, ir derinate tai su tam tikru utilitariniu moralinio mąstymo būdu, kai tikslai gali pateisinti priemones, tai bus pavojinga“, – sakė Torresas.
Jei superinteligentiška mašina netrukus atgytų ir galėtų sunaikinti žmoniją, ilgamečiai, nepaisant pasekmių, privalo tam priešintis.
Kovo mėnesį „Twitter“ naudotojo, dabar žinomo kaip X, naudotojo paklaustas, kiek žmonių gali mirti, kad tai sustabdytų, ilgalaikis idealologas Eliezeris Yudkowsky atsakė, kad tereikia žmonių, „kad susidarytų gyvybinga reprodukcinė populiacija“.
„Kol tai tiesa, vis tiek yra tikimybė kada nors pasiekti žvaigždes“, – rašė jis, nors vėliau pranešimą ištrynė.
Eugenika teigia
Ilgalaikiškumas išaugo iš švedų filosofo Nicko Bostromo darbo, kurį 1990-aisiais ir 2000-aisiais atliko apie egzistencinę riziką ir transhumanizmą – idėją, kad žmones galima papildyti technologija.
Akademikas Timnitas Gebru pabrėžė, kad transhumanizmas nuo pat pradžių buvo susijęs su eugenika.
Britų biologas Julianas Huxley, sugalvojęs transhumanizmo terminą, šeštajame ir šeštajame dešimtmečiuose taip pat buvo Britų eugenikos draugijos prezidentas.
„Ilgalaikiškumas yra eugenika kitu pavadinimu“, – praėjusiais metais X rašė Gebru.
Bostromas jau seniai susilaukė kaltinimų remiant eugeniką po to, kai kaip egzistencinę riziką įvardijo „disgeninį spaudimą“, iš esmės mažiau protingus žmones, kurie dauginasi greičiau nei jų protingesni bendraamžiai.
Filosofas, vadovaujantis Oksfordo universiteto Gyvenimo ateities institutui, sausio mėnesį atsiprašė po to, kai prisipažino, kad 1990-aisiais interneto forume parašė rasistinius įrašus.
„Ar aš palaikau eugeniką? Ne, ne taip, kaip paprastai suprantamas terminas”, – rašė jis atsiprašydamas, nurodydamas, kad jis buvo naudojamas pateisinti „kai kuriuos baisiausius praėjusio amžiaus žiaurumus”.
„Sensacingesnis“
Nepaisant šių bėdų, tokie ilgamečiai žmonės kaip Yudkowsky, vidurinę mokyklą palikęs žmogus, žinomas kaip Hario Poterio fantastikos rašymas ir poliamorijos propagavimas, ir toliau yra vaišinami.
Altmanas priskyrė jam OpenAI finansavimą ir vasarį pasiūlė, kad jis nusipelnė Nobelio taikos premijos.
Tačiau Gebru, Torresas ir daugelis kitų bando sutelkti dėmesį į žalą, pavyzdžiui, menininkų darbų vagystes, šališkumą ir turto sutelkimą kelių korporacijų rankose.
Torresas, kuris vartoja įvardį jie, sakė, kad nors buvo tikrų tikinčiųjų, tokių kaip Yudkowsky, didžiąją dalį diskusijų apie išnykimą paskatino pelnas.
„Kalbėjimas apie žmonių išnykimą, apie tikrą apokaliptinį įvykį, per kurį miršta visi, yra daug sensacingiau ir patraukliau nei Kenijos darbuotojams, kuriems mokamas 1,32 USD per valandą, arba menininkams ir rašytojams išnaudojami“, – sakė jie.
© 2023 AFP
Citata: kova dėl „pavojingos“ ideologijos, formuojančios AI diskusiją (2023 m. rugpjūčio 27 d.), gauta 2023 m. rugpjūčio 27 d. iš https://techxplore.com/news/2023-08-dangerous-ideology-ai-debate.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.