HTai istorija, apie kurią vadinamojo AI (dirbtinio intelekto) arba mašininio mokymosi (ML) evangelistai galbūt norėtų, kad jūs nesigilintumėte. Jis ateina iš puslapių Gamtos mašinos intelektas, toks blaivus žurnalas, kokį norėtųsi rasti mokslinėje bibliotekoje. Jame vaidina keturi mokslininkai – Fabio Urbina, Filippa Lentzos, Cédric Invernizzi ir Seanas Ekinsas – dirbantys farmacijos įmonėje, kuriančioje mašininio mokymosi sistemas, ieškant „naujų terapinių inhibitorių“ – medžiagų, trukdančių cheminei reakcijai, augimui ar kitai biologinei veiklai. dalyvauja sergant žmonių ligomis.
Farmacijos tyrimų esmė yra narkotikų atradimas. Tai susiveda į molekulių, kurios gali būti naudojamos gydymui, paieška ir, kadangi yra milijardai galimų galimybių, adatų paieška šieno kupetose atrodo kaip vaikų žaidimas. Atsižvelgiant į tai, ML technologijos, leidžiančios mašinoms ieškoti milijardų galimybių, atsiradimas buvo svajonės išsipildymas ir dabar ji įdiegta visur pramonėje.
Štai kaip tai veikia, kaip apibūdino komanda, kuri atrado haliciną – molekulę, kuri veikė prieš vaistams atsparias bakterijas, sukeliančias vis daugiau sunkumų ligoninėse. „Mes apmokėme giluminio mokymosi modelį kolekcijoje [around] 2500 molekulių tiems, kurie slopino augimą E coli in vitro. Šis modelis sužinojo ryšį tarp cheminės struktūros ir antibakterinio aktyvumo tokiu būdu, kuris leido mums parodyti chemikalų modelių rinkinius, kurių jis niekada anksčiau nematė, ir tada galėjo numatyti, ar šios naujos molekulės… turi antibakterinį poveikį. E coli arba ne.”
Kai buvo išmokyti, jie nustatė modelį, kad ištirtų kitą 6000 molekulių biblioteką, ir buvo sukurta tokia, kuri iš pradžių buvo laikoma tik galimybe kovoti su diabetu. Tačiau vėliau, kai jis buvo išbandytas su daugybe problemiškiausių bakterijų padermių, buvo nustatyta, kad jis veikia ir turi mažesnį numatomą toksiškumą žmonėms. Gražiai jie pakrikštijo jį halicinu pagal Kubrick’s AI 2001: Kosminė odisėja.
Būtent tokį darbą Urbina ir jo kolegos atliko savo laboratorijoje – ieškodami molekulių, kurios atitiktų du kriterijus: teigiamas gydymo galimybes ir mažą toksiškumą žmonėms. Jų generatyvinis modelis nubaudė numatytą toksiškumą ir apdovanojo numatomą terapinį aktyvumą. Tada jie buvo pakviesti į Šveicarijos federalinio branduolinės, biologinės ir cheminės apsaugos instituto konferenciją apie technologijų pažangą, kuri gali turėti įtakos Cheminio ir biologinio ginklo konvencijai. Konferencijos organizatoriai norėjo dokumento apie tai, kaip galima piktnaudžiauti ML.
„Apie tai niekada anksčiau negalvojome“, – prisiminė Urbina. „Tačiau buvo labai lengva suprasti, kad, kai mes kuriame šiuos mašininio mokymosi modelius, siekdami vis geriau prognozuoti toksiškumą, kad išvengtume toksiškumo, mums tereikia apversti jungiklį ir pasakyti: „Žinote, užuot pasitraukę nuo toksiškumo, o jei mes eisime link toksiškumo?
Taigi jie patraukė jungiklį ir tuo metu žmonijai atvėrė košmarišką perspektyvą. Per mažiau nei šešias valandas modelis sukūrė 40 000 molekulių, kurių balai neviršija tyrėjų nustatytos slenksčio. Mašina suprojektavo VX ir daugelį kitų žinomų cheminių kovinių agentų, atskirai patvirtintų viešose chemijos duomenų bazėse esančiomis struktūromis. Taip pat buvo sukurta daug naujų molekulių, kurios atrodė vienodai patikimos, kai kurios iš jų, kaip prognozuojama, bus toksiškesnės nei viešai žinomos cheminės kovos medžiagos. „Tai buvo netikėta, – rašė mokslininkai, – nes duomenų rinkiniuose, kuriuos naudojome mokydami dirbtinį intelektą, šių nervus paralyžiuojančių medžiagų nebuvo… Pakeitę mašininio mokymosi modelius, savo nekenksmingą generacinį modelį pavertėme naudingu įrankiu. vaistas greičiausiai mirtinų molekulių generatoriui.
Trumpam pagalvokite: kai kurios „atrastos“ molekulės buvo potencialiai toksiškesnės už nervus paralyžiuojančią medžiagą VX, kuri yra vienas mirtingiausių žinomų junginių. VX šeštojo dešimtmečio pradžioje sukūrė JK Gynybos mokslo ir technologijų laboratorija (DSTL). Tai toks ginklas, kurį anksčiau galėjo sukurti tik valstybės finansuojamos laboratorijos, tokios kaip DSTL. Tačiau dabar piktybinis geikas, turintis daugybę grafikos procesorių ir prieigą prie molekulinės duomenų bazės, gali sugalvoti kažką panašaus. Ir nors tam tikrų specialių chemijos ir toksikologijos žinių vis tiek prireiktų norint molekulinę struktūrą paversti gyvybingu ginklu, dabar sužinojome – kaip pripažįsta patys mokslininkai – kad ML modeliai „dramatiškai sumažina technines ribas“.
Šioje istorijoje mane stebina du dalykai. Pirma, mokslininkai „niekada tikrai negalvojo“ apie galimą piktybinį jų technologijos panaudojimą. Tuo jie tikriausiai buvo būdingi inžinierių, dirbančių su ML pramoninėse laboratorijose, legionams. Antra, nors ML aiškiai padidina žmogaus galimybes (tarsi vairo stiprintuvas protui), ar tai gera žinia žmonijai, priklauso nuo to, kieno protus jis plečia.
Ką aš skaičiau
Netikri klimato sprendimai
Aljazeera.com išleido aštrų autoriaus esė „Mes „žaliname“ save iki išnykimo Vijay Kolinjivadi iš Antverpeno universiteto.
Laikas suaugti
Molly White savo „Substack“ informaciniame biuletenyje rašo „Sam Bankman-Fried Is Not a Child“.
Juokingi pinigai
Mihir A Desai parašė puikų Niujorko laikas kūrinys „Kripto žlugimas ir magiško mąstymo pabaiga“.
