Kalbant apie egzistencinę AI grėsmę (Laiškai, birželio 2 d.), Phyl Hyde teigia, kad susirūpinimas dėl 20 metų buvo „panika“ dėl „perdėtos ateities priežasties“. Man, kaip ir daugeliui IT specialistų visame pasaulyje, atsibodo toks klaidingas to, kas nutiko, aiškinimas. Organizacijos įdėjo daug pinigų, kad įdarbintų tūkstančius žmonių, kad jie patikrintų savo sistemas ir pakeistų jas, kad būtų išvengta problemos.
Dėl šios priežasties sistemos ir toliau normaliai funkcionavo per šimtmečio pokyčius, o gyvenimas nebuvo paveiktas. Rezultatas buvo toks, kad žmonės manė, kad tai šurmulys dėl nieko. Norint pasiekti norimą rezultatą, prireikė kelerių metų planavimo, išteklių skyrimo ir darbo. Tikriausiai prireiks daug daugiau, kad suprastumėte ir susidorotumėte su nenumatytomis AI pasekmėmis.
Džonas Tou
Basingstoke, Hempšyras
Kalbant apie tris Izaoko Asimovo robotikos įstatymus, daugelis jo istorijų rodo, kokie jie nepraktiški – pavyzdžiui, „Mažasis pasiklydęs robotas“, kur žalą numatantys robotai nuolat tempia tyrėjus iš potencialiai pavojingos aplinkos, kurioje jie dirba, ir priverstų priimti pirmąjį įstatymą. sustabdytas – arba kaip robotai lenkia ir vengia įstatymų, kurių neva yra užprogramuoti paklusti. Kitoje apsakyme „Neišvengiamas konfliktas“ trys įstatymai ironiškai sukuria situaciją, kuriai jie turėjo užkirsti kelią: robotai naudojasi pirmojo įstatymo įsakymu, kad robotas „dėl neveikimo negali leisti žmogui pakenkti“, kad pateisintų nuvertimą. žmonių valdžia su AI kontroliuojama diktatūra: žmonės negali valdyti nepakenkdami sau, todėl įstatymai reikalauja, kad mūsų vietoje valdytų robotai.
Asimovas sąmoningai sukūrė tris savo robotikos įstatymus, kad jie būtų pažeisti. Jie yra ne vadovas, kurio reikia laikytis, o įspėjimas, kurio reikia vengti: AI visada laikysis savo programavimo iki raidės, bet tik raidės.
Robertas Freizeris
Salfordas