Tjo istorija prasideda 2019 m. rugpjūčio 27 d., kai Roberto Mata buvo „Avianca“ reiso 670 iš Salvadoro į Niujorką keleivis ir metalinis maisto ir gėrimų vežimėlis tariamai sužalojo kelį. Kaip ir amerikietiškai, Mata tinkamai padavė į teismą „Avianca“, o oro linijų bendrovė atsakė prašydama atmesti bylą, nes „baigėsi senaties terminas“. Matos advokatai balandžio 25 d. tvirtino, kad ieškinys turėtų būti tęsiamas ir pridedamas daugiau nei pusšimtis ankstesnių teismo bylų, kurios, matyt, sukūrė precedentus, patvirtinančius jų argumentus.
Tada Avianca advokatai ir teisėjas P Kevinas Castelis pareigingai ėmėsi šių „precedentų“ tyrimo, tik sužinoję, kad nė vienas buvo.
Kodėl? Nes ChatGPT juos sugalvojo. Todėl, kaip Niujorko laikas ataskaitoje teigiama, kad „advokatas, sukūręs trumpą, Steven A Schwartz iš firmos Levidow, Levidow & Oberman, pasidavė teismo malonei… pareiškime teigė, kad naudojo dirbtinio intelekto programą teisiniam tyrimui atlikti. – „šaltinis, kuris pasirodė esąs nepatikimas“.
Šis Schwartzas, beje, nebuvo naujokas tiesiai iš teisės mokyklos. Jis užsiėmė advokato praktika Niujorko gyvatės duobėje dėl tris dešimtmečius. Tačiau jis, matyt, niekada anksčiau nenaudojo „ChatGPT“ ir „todėl nežinojo, kad jo turinys gali būti klaidingas“. Jis netgi paprašė programos patikrinti, ar atvejai yra tikri, ir ji pasakė „taip“. Ai, šūdas.
Prisimenama sena istorija apie vaikiną, kuris, nušovęs savo tėvą ir motiną, puola į teismo malonę, motyvuodamas tuo, kad dabar yra našlaitis. Tačiau Mata atvejis yra tik dar viena šiuo metu vyraujančios beprotybės dėl AI iliustracija. Neteko suskaičiuoti, kiek iš pažiūros jausmingų žmonių atsirado užburti pokalbių su „pokalbių robotais“ – mandagiu terminu „stochastinėms papūgoms“, kurios nedaro nieko kito, išskyrus statistines prognozes apie labiausiai tikėtiną žodį, kuris bus pridėtas prie sakinio. jie tuo momentu užsiima kūryba.
Bet jei manote, kad robotų papūgų imamas neva protingų žmonių reginys yra keistas, skirkite šiek tiek laiko ir pagalvokite apie siurrealistinius įvykius kitose AI miško vietose. Pavyzdžiui, šią savaitę daugelis technologijų žinovų pasirašė deklaraciją, kad „Išnykimo dėl AI rizikos mažinimas turėtų būti pasaulinis prioritetas kartu su kitomis visuomeninio masto rizikomis, tokiomis kaip pandemijos ir branduolinis karas“. Daugelis iš šių žmonių yra žinomi mašininio mokymosi srities tyrėjai, įskaitant nemažai didelių technologijų įmonių darbuotojų. Likus kiek laiko iki išleidimo trys signatarai – Samas Altmanas iš OpenAI, Demisas Hassabis iš „Google DeepMind“ ir Dario Amodi iš Anthropic (OpenAI „iškritusių“ bendrovės) – buvo pakviesti į Baltuosius rūmus, kad pasidalintų su prezidentu ir viceprezidentu. – prezidentas baiminasi dėl dirbtinio intelekto pavojų, po kurio Altmanas pasisakė JAV Senate, sakydamas, kad „vyriausybių reguliavimo intervencija bus labai svarbi siekiant sumažinti vis galingesnių modelių riziką“.
Akimirkai atsitraukite nuo to. Čia turime vyresnius galingos ir nesąmoningai turtingos pramonės atstovus, taip pat jų rėmėjus ir kolegas elitinėse tyrimų laboratorijose visame pasaulyje, kuriuos, viena vertus, užburia techniniai iššūkiai kuriant technologiją, kuri, jų nuomone, gali kelti egzistencinę grėsmę. žmonija, tuo pat metu ragindama vyriausybes tai reguliuoti. Tačiau mintis, kuri, regis, niekada nešauna to, kas gali būti vadinama jų protais, yra klausimas, kurį užduos bet kuris vaikas: jei tai taip pavojinga, kodėl toliau ją kuriate? Kodėl nesustojus ir nepadarius kažko kito? Ar bent jau nustoti išleisti šiuos produktus į gamtą?
Tušti žvilgsniai, kuriuos sulaukia technologijų minios, kai užduodami šie paprasti klausimai, atskleidžia nepatogią tiesą apie šiuos dalykus. Nė vienas iš jų – kad ir koks vyresnis bebūtų – negali to sustabdyti, nes jie visi yra dirbtinio intelekto tarnai, kurie yra dar galingesni už technologiją: korporacijas, kurioms jie dirba. Tai tikrai superinteligentiškos mašinos, kurioms dominuojant mes visi dabar gyvename, dirbame ir esame. Kaip ir Nicko Bostromo demoniškas sąvaržėlių gamybos dirbtinis intelektas, tokie superintelektai egzistuoja tam, kad būtų pasiektas tik vienas tikslas: maksimaliai padidinti akcininkų vertę; jei smulkmeniški humanistiniai skrupulai trukdo siekti šio tikslo, tai dar blogiau žmonijai. Tiesą sakant, jūs negalėjote to sugalvoti. Tačiau „ChatGPT“ galėtų.
Ką aš skaičiau
Laikydami tai technologiškai
Timas Harfordas parašė būdingą apgalvotą rubriką Finansiniai laikai apie tai, ką neoluditai supranta – ir ką – neteisingai apie didžiąsias technologijas.
Būk pabudęs
Margaret Wertheim „Substack“ yra labai įžvalgus tinklaraščio įrašas apie AI kaip simptomą ir svajonę.
Labai pasiilgo
Martinas Amisas apie Jane Austen Literary Hub svetainėje yra puikus priminimas (nuo 1996 m.) apie romanistą kaip kritiką.
