Mokslininkams peržengiant mašininio mokymosi ribas, laiko, energijos ir pinigų reikia vis sudėtingesniems neuroninių tinklų modeliams parengti. Nauja dirbtinio intelekto sritis, vadinama analoginiu giluminiu mokymusi, žada greitesnį skaičiavimą sunaudojant tik dalį energijos.
Programuojami rezistoriai yra pagrindiniai analoginio gilaus mokymosi elementai, kaip ir tranzistoriai. skaitmeninių procesorių elementai. Kartodami programuojamų rezistorių matricas sudėtinguose sluoksniuose, mokslininkai gali sukurti analoginių dirbtinių „neuronų“ ir „sinapsių“ tinklą, kuris atlieka skaičiavimus kaip skaitmeninis neuroninis tinklas. Tada šis tinklas gali būti išmokytas atlikti sudėtingas dirbtinio intelekto užduotis, pvz., vaizdo atpažinimą ir natūralios kalbos apdorojimą.
Daugiadisciplininė MIT tyrėjų komanda nusprendė peržengti žmogaus sukurtų rūšių greičio ribas. analoginė sinapsė, kurią jie anksčiau sukūrė. Gamybos procese jie panaudojo praktišką neorganinę medžiagą, kuri leidžia jų prietaisams veikti 1 milijoną kartų greičiau nei ankstesnės versijos, o tai taip pat yra maždaug 1 milijoną kartų greičiau nei sinapsės žmogaus smegenyse.
) Be to, dėl šios neorganinės medžiagos rezistorius itin taupo energiją. Skirtingai nuo medžiagų, naudotų ankstesnėje jų įrenginio versijoje, naujoji medžiaga yra suderinama su silicio gamybos būdais. Šis pakeitimas suteikė galimybę gaminti nanometrų mastelio įrenginius ir sudaryti sąlygas integruotis į komercinę kompiuterių aparatinę įrangą, skirtą gilaus mokymosi programoms.
„Turint tokią svarbią įžvalgą ir labai galingas nanogamybos technologijas. Mes, MIT.nano, sugebėjome sujungti šias dalis ir parodyti, kad šie įrenginiai iš esmės yra labai greiti ir veikia esant protingai įtampai“, – sako vyresnysis autorius Jesús A. del Alamo, MIT Elektros inžinerijos katedros Donnerio profesorius. ir kompiuterių mokslas (EECS). „Dėl šio darbo šie įrenginiai tikrai atsidūrė tokioje vietoje, kur dabar jie atrodo tikrai perspektyvūs būsimam pritaikymui.“
„Prietaiso veikimo mechanizmas yra elektrocheminis mažiausio jono, protono, įterpimas. , į izoliacinį oksidą, kad moduliuotų jo elektroninį laidumą. Kadangi dirbame su labai plonais prietaisais, galėtume paspartinti šio jono judėjimą naudodami stiprų elektrinį lauką ir įvesti šiuos joninius prietaisus į nanosekundžių veikimo režimą“, – aiškina vyresnysis autorius Bilge Yildiz, Breene M. Kerr profesorius. Branduolinio mokslo ir Inžinerijos bei Medžiagų mokslo ir inžinerijos katedros.
„Veikimo potencialas biologinėse ląstelėse didėja ir mažėja per milisekundžių laikotarpį, nes apie 0,1 volto įtampos skirtumą riboja vandens stabilumas“, – sako vyresnysis autorius Ju Li, Battelle Energy Alliance Branduolinių mokslų ir inžinerijos profesorius bei medžiagų mokslo ir inžinerijos profesorius, „Čia mes taikome iki voltų. speciali nanomastelinio storio kieto stiklo plėvelė, kuri laidi protonus, nepažeisdama jos visam laikui. Ir kuo stipresnis laukas, tuo greitesni joniniai įrenginiai.“
Šie programuojami rezistoriai labai padidina neuroninio tinklo lavinimo greitį, kartu drastiškai sumažindami išlaidas ir energiją, reikalingą šiam mokymui atlikti. . Tai galėtų padėti mokslininkams daug greičiau sukurti giluminio mokymosi modelius, kuriuos vėliau būtų galima pritaikyti savaeigiams automobiliams, sukčiavimo aptikimui ar medicininių vaizdų analizei.
„Kai turėsite analogą procesoriaus, jūs nebemokysite tinklų, kuriuose dirba visi kiti. Jūs būsite mokymo tinklai, turintys precedento neturintį sudėtingumą, kurio niekas kitas negali sau leisti, todėl juos visus gerokai pranoks. Kitaip tariant, tai ne greitesnis automobilis, o erdvėlaivis“, – priduria pagrindinis autorius ir MIT postdoc Murat Onenas.
Tarp bendraautorių yra Frances M. Ross, Ellen Swallow Richards. Medžiagų mokslo ir inžinerijos katedros profesorius; postdocs Nicolas Emond ir Baoming Wang; ir Difei Zhang, EECS absolventas. Tyrimas šiandien paskelbtas Science.
Gylaus mokymosi spartinimas
Analoginis gilus mokymasis yra greitesnis ir efektyvesnis nei skaitmeninis analogas dėl dviejų pagrindinių priežasčių. „Pirma, skaičiavimas atliekamas atmintyje, todėl didžiulės duomenų apkrovos nėra perkeliamos iš atminties į procesorių. Analoginiai procesoriai taip pat atlieka operacijas lygiagrečiai. Jei matricos dydis plečiasi, analoginiam procesoriui nereikia daugiau laiko naujoms operacijoms atlikti, nes visi skaičiavimai atliekami vienu metu.
Pagrindinis naujosios MIT analoginio procesoriaus technologijos elementas yra žinomas kaip protoninis. programuojamas rezistorius. Šie rezistoriai, matuojami nanometrais (vienas nanometras yra viena milijardoji metro dalis), yra išdėstyti matricoje, kaip šachmatų lentoje.
Žmogaus smegenyse mokymasis vyksta dėl jungčių tarp neuronų, vadinamų sinapsėmis, stiprėjimas ir susilpnėjimas. Gilieji neuroniniai tinklai jau seniai priėmė šią strategiją, kai tinklo svoriai užprogramuojami naudojant mokymo algoritmus. Šio naujo procesoriaus atveju, padidinus ir sumažinus protoninių rezistorių elektrinį laidumą, įgalinamas analoginis mašininis mokymasis.
Laidumą valdo protonų judėjimas. Norint padidinti laidumą, daugiau protonų įstumiama į rezistoriaus kanalą, o norint sumažinti laidumą protonai išimami. Tai pasiekiama naudojant elektrolitą (panašų į baterijos), kuris praleidžia protonus, bet blokuoja elektronus.
Siekdami sukurti itin greitą ir labai efektyvų energiją tausojantį programuojamą protoninį rezistorių, mokslininkai ieškojo įvairios medžiagos elektrolitui. Kituose įrenginiuose buvo naudojami organiniai junginiai, o Onen daugiausia dėmesio skyrė neorganiniam fosfosilikatiniam stiklui (PSG).
PSG iš esmės yra silicio dioksidas, kuris yra miltelių pavidalo sausinanti medžiaga, randama mažuose maišeliuose, kurie tiekiami dėžutėje. nauji baldai drėgmei pašalinti. Jis tiriamas kaip protonų laidininkas drėgnomis kuro elementų sąlygomis. Tai taip pat labiausiai žinomas oksidas, naudojamas silicio apdirbimui. Norint pagaminti PSG, į silicį įdedama šiek tiek fosforo, kad suteiktų jam specialias protonų laidumo charakteristikas.
Onenas iškėlė hipotezę, kad optimizuotas PSG gali turėti didelį protonų laidumą kambario temperatūroje be jo vandens poreikis, todėl tai būtų idealus kietas elektrolitas šiam pritaikymui. Jis buvo teisus.
Stebėtinas greitis
PSG leidžia itin greitai protonų judėjimas, nes jame yra daugybė nanometrų dydžio porų, kurių paviršiai suteikia protonų difuzijos kelius. Jis taip pat gali atlaikyti labai stiprius, impulsinius elektrinius laukus. Tai labai svarbu, aiškina Onenas, nes įrenginyje pritaikius didesnę įtampą protonai gali judėti akinančiu greičiu.
„Greitis tikrai nustebino. Paprastai tokių ekstremalių laukų netaikytume įvairiuose įrenginiuose, kad jie nepavirstų pelenais. Tačiau vietoj to protonai slinko didžiuliu greičiu per įrenginių krūvą, ypač milijoną kartų greičiau, palyginti su tuo, ką turėjome anksčiau. Ir šis judėjimas nieko nepažeidžia dėl mažo dydžio ir mažos protonų masės. Tai beveik kaip teleportacija“, – sako jis.
„Nanosekundžių laiko skalė reiškia, kad esame arti balistinio ar net kvantinio protono tunelio režimo tokiame ekstremaliame lauke“, – priduria Li. .
Kadangi protonai nepažeidžia medžiagos, rezistorius gali veikti milijonus ciklų nesugesdamas. Šis naujas elektrolitas įgalino programuojamą protoninį rezistorių, kuris yra milijoną kartų greitesnis už ankstesnį įrenginį ir gali efektyviai veikti kambario temperatūroje, o tai svarbu norint įtraukti jį į skaičiavimo įrangą.
PSG izoliacinės savybės, protonams judant pro medžiagą beveik nepereina elektros srovė. Dėl to prietaisas itin efektyvus, priduria Onenas.
Dabar, kai jie įrodė šių programuojamų rezistorių veiksmingumą, mokslininkai planuoja juos iš naujo pritaikyti didelės apimties gamybai, sako del Alamo. Tada jie gali ištirti rezistorių matricų savybes ir padidinti jų mastelį, kad būtų galima integruoti į sistemas.
Tuo pačiu metu jie planuoja ištirti medžiagas, kad pašalintų kliūtis, ribojančias įtampą. reikalinga norint efektyviai perkelti protonus į elektrolitą, per jį ir iš jo.
„Kita įdomi kryptis, kurią gali suteikti šie joniniai prietaisai, yra energiją taupanti aparatūra, imituojanti neuronines ir sinapsines grandines. plastiškumo taisyklės, išvestos neurologijos moksle, už analoginių giliųjų neuroninių tinklų ribų. Mes jau pradėjome tokį bendradarbiavimą su neuromokslu, remiamą MIT Quest for Intelligence“, – priduria Yildiz.
„Mūsų bendradarbiavimas bus labai svarbus siekiant naujovių ateityje. Kelias į priekį vis dar bus labai sudėtingas, bet tuo pat metu labai įdomus“, – sako del Alamo.
„Interkalacijos reakcijos, tokios kaip ličio jonų baterijose buvo plačiai ištirtas atminties įrenginiams. Šis darbas rodo, kad protonų pagrindu veikiantys atminties įrenginiai užtikrina įspūdingą ir stebinantį perjungimo greitį ir ištvermę“, – sako William Chueh, Stanfordo universiteto medžiagų mokslo ir inžinerijos docentas, nedalyvavęs šiame tyrime. „Tai sudaro pagrindą naujai atminties įrenginių klasei, skirtai gilaus mokymosi algoritmams maitinti. Šie kietojo kūno protoniniai įtaisai yra pagrįsti išskirtiniu protonų valdymu atominiu mastu, panašiu į biologines sinapses, bet daug greičiau“, – sako Elizabeth Dickey, Teddy & Wilton Hawkins išskirtinė profesorė ir Medžiagų katedros vadovė. Mokslas ir inžinerija Carnegie Mellon universitete, kuris nebuvo susijęs su šiuo darbu. „Pagiriu tarpdisciplininę MIT komandą už šią įdomią plėtrą, kuri leis sukurti ateities kartos skaičiavimo įrenginius.“
Daugiau: elektrolitai
