Atminties konsolidavimas įrenginyje naudojant FN sinapses. Kreditas: Neurologijos ribos (2023). DOI: 10.3389/fnins.2022.1050585 Dirbtinis intelektas ir mašinų mokymasis per pastaruosius kelerius metus padarė didžiulę pažangą, įskaitant neseniai pradėtą naudoti ChatGPT ir meno generatorius, tačiau vienas dalykas, kuris vis dar yra išskirtinis, yra energiją taupantis būdas generuoti ir saugoti ilgalaikius ir trumpalaikius prisiminimus. formos faktorius, panašus į žmogaus smegenis. Vašingtono universiteto Sent Luiso McKelvey inžinerijos mokyklos mokslininkų komanda sukūrė energiją taupantį būdą ilgalaikiams prisiminimams sutvirtinti mažame luste.
Shantanu Chakrabartty, Clifford W. Murphy profesorius Preston M. Green Elektros ir sistemų inžinerijos katedroje, ir jo laboratorijos nariai sukūrė gana paprastą prietaisą, imituojantį smegenų sinapsių dinamiką, ryšius tarp neuronų, leidžiančius signalams perduoti informaciją. . Daugelyje šiuolaikinių AI sistemų naudojamos dirbtinės sinapsės yra gana paprastos, o biologinės sinapsės gali saugoti sudėtingus prisiminimus dėl išskirtinės skirtingų cheminių kelių sąveikos.
Chakrabartty grupė parodė, kad jų dirbtinė sinapsė taip pat gali imituoti kai kurias iš šių dinamikų, kurios gali leisti AI sistemoms nuolat mokytis naujų užduočių nepamirštant, kaip atlikti senas užduotis. Tyrimo rezultatai buvo paskelbti sausio 13 d Neurologijos ribos.
Norėdami tai padaryti, Chakrabartty komanda sukūrė įrenginį, kuris veikia kaip du sujungti elektronų rezervuarai, kuriuose elektronai gali tekėti tarp dviejų kamerų per jungtį arba dirbtinę sinapsę. Norėdami sukurti šią sankryžą, jie panaudojo kvantinį tuneliavimą – reiškinį, leidžiantį elektronui stebuklingai praeiti pro barjerą. Konkrečiai, jie naudojo Fowler-Nordheim (FN) kvantinį tunelį, kurio metu elektronai šokinėja per trikampę barjerą ir tuo metu keičia barjero formą. FN tuneliavimas suteikia daug paprastesnį ir energiją taupantį ryšį nei esami metodai, kurie yra per sudėtingi kompiuteriniam modeliavimui.
„Gražumas yra tas, kad mes galime valdyti šį įrenginį iki vieno elektrono, nes mes tiksliai sukūrėme šį kvantinį mechaninį barjerą“, – sakė Chakrabartty.
Chakrabartty ir doktorantai Mustafizuras Rahmanas ir Subhankaras Bose’as sukūrė 128 šių smėlio laikrodžio prietaisų prototipų masyvą mažesniame nei milimetro luste.
„Mūsų darbas rodo, kad FN sinapsės veikimas yra beveik optimalus sinapsinio gyvenimo trukmės ir specifinių konsolidavimo savybių požiūriu“, – sakė Chakrabartty. „Šis dirbtinės sinapsės įrenginys gali išspręsti arba įgyvendinti kai kurias iš šių nuolatinio mokymosi užduočių, kai įrenginys nepamiršta to, ko išmoko anksčiau. Dabar jis leidžia išsaugoti ilgalaikę ir trumpalaikę atmintį tame pačiame įrenginyje.”
Chakrabartty teigė, kad kadangi prietaisas vienu metu naudoja tik kelis elektronus, jis sunaudoja labai mažai energijos.
„Dauguma šių kompiuterių, naudojamų mašininio mokymosi užduotims, perkelia daug elektronų iš akumuliatoriaus, saugo jį kondensatoriuje, tada išmeta ir neperdirba“, – sakė Chakrabartty. „Savo modelyje iš anksto fiksuojame bendrą elektronų kiekį ir nereikia įpurkšti papildomos energijos, nes elektronai išteka pačios fizikos dėka. Įsitikinę, kad vienu metu teka tik keli elektronai, galime pagaminti šį įrenginį. dirbti ilgą laiką“.
Šis darbas yra Chakrabartty ir jo laboratorijos narių tyrimo dalis, kad dirbtinis intelektas būtų tvaresnis. Energija, reikalinga dabartiniams AI skaičiavimams, auga eksponentiškai, o naujos kartos modeliams reikia beveik 200 teradžaulių, kad būtų galima išmokyti vieną sistemą. Ir šios sistemos nė iš tolo nepasiekia žmogaus smegenų pajėgumo, turinčio arti 1000 trilijonų sinapsių.
„Šiuo metu nesame tikri dėl mokymo sistemų, turinčių net pusę trilijono parametrų, o dabartiniai metodai nėra tausojantys energiją“, – sakė jis. „Jei išliksime toje trajektorijoje, kuria einame, arba turi įvykti kažkas naujo, kad būtų pakankamai energijos, arba turime išsiaiškinti, kaip treniruoti šiuos didelius modelius naudojant šiuos energiją taupančius, dinaminės atminties įrenginius.
Daugiau informacijos: Mustafizur Rahman ir kt., Sinapsinės atminties konsolidavimas įrenginyje naudojant Fowler-Nordheim kvantinį tunelį, Neurologijos ribos (2023). DOI: 10.3389/fnins.2022.1050585
Citata: Kvantinis tunelis, skirtas atminties konsolidacijai AI pagerinti (2023 m. vasario 10 d.), gautas 2023 m. vasario 12 d. iš https://techxplore.com/news/2023-02-quantum-tunneling-boost-memory-ai.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
