LSTM simbolių prognozavimo matavimo rezultatams. Kreditas: Gamtos elektronika (2023). DOI: 10.1038/s41928-023-01010-1 Gilieji neuroniniai tinklai sukuria daug įdomios pažangos, kylančios iš generatyvaus AI. Tačiau jų architektūra remiasi konfigūracija, kuri yra virtualus greitis, užtikrinantis, kad negalima pasiekti maksimalaus efektyvumo.
Sukurti iš atskirų atminties ir apdorojimo vienetų, neuroniniai tinklai susiduria su dideliais sistemos resursų poreikiais ryšiui tarp dviejų komponentų, dėl kurių sumažėja greitis ir sumažėja efektyvumas.
„IBM Research“ pateikė geresnę idėją, ieškodama tobulo modelio, kuris įkvėpė efektyvesnes skaitmenines smegenis: žmogaus smegenis.
Straipsnyje „64 branduolių mišraus signalo atminties skaičiavimo lustas, pagrįstas fazių keitimo atmintimi giliam neuroninio tinklo išvadoms“. Gamtos elektronika Rugpjūčio 10 d. IBM tyrėjai teigė taikę naują požiūrį į pažangiausią mišraus signalo AI lustą, kuris žada pagerinti efektyvumą ir mažiau išeikvoti bateriją AI projektuose.
„Žmogaus smegenys gali pasiekti puikų našumą sunaudodamos mažai energijos“, – sakė vienas iš tyrimo bendraautorių Thanosas Vasilopoulosas iš IBM tyrimų laboratorijos Ciuriche, Šveicarijoje.
Veikdamas panašiai kaip sinapsės sąveikauja viena su kita smegenyse, IBM mišraus signalo lustas turi 64 analoginius atmintyje esančius branduolius, kurių kiekvienas talpina sinapsinių ląstelių vienetų masyvą. Keitikliai užtikrina sklandų perėjimą tarp analoginių ir skaitmeninių būsenų.
Anot IBM, lustai pasiekė 92,81% tikslumo koeficientą CIFAR-10 duomenų rinkinyje, plačiai naudojamame vaizdų rinkinyje, naudojamoje mašininio mokymosi mokymuose.
„Su ResNet ir ilgalaikės trumpalaikės atminties tinklais demonstruojame beveik programinės įrangos lygiavertį išvadų tikslumą“, – sakė Vasilopoulos. ResNet, trumpinys liekamasis neuroninis tinklas, yra gilaus mokymosi modelis, leidžiantis treniruotis tūkstančiuose neuroninio tinklo sluoksnių netrukdant veikimui.
„Kad būtų pasiektas galutinis delsos ir energijos suvartojimo patobulinimas, AIMC turi būti derinamas su skaitmeninėmis operacijomis ir lusto ryšiu“, – teigė Vasilopoulos. „Čia mes pranešame apie kelių branduolių AIMC lustą, suprojektuotą ir pagamintą naudojant 14 nm papildomą metalo oksido ir puslaidininkių technologiją su integruota fazių keitimo atmintimi.”
Esant tokiam geresniam našumui, Vasilopoulosas teigė, kad „didelius ir sudėtingesnius darbo krūvius galima atlikti esant mažai galios arba riboto akumuliatoriaus energijos“. Tai apimtų mobiliuosius telefonus, automobilius ir fotoaparatus.
„Be to, debesijos paslaugų teikėjai galės naudoti šiuos lustus, kad sumažintų energijos sąnaudas ir anglies pėdsaką“, – sakė jis.
IBM teigė, kad ateityje patobulinus skaitmeninę grandinę, leidžiančią perduoti aktyvinimo sluoksnį į sluoksnį ir tarpinę aktyvinimo saugyklą vietinėje atmintyje, šiose lustuose bus galima atlikti visas konvejerines išvadų apkrovas.
Savo asmeniniame tinklaraštyje, kuriame aptariamas naujausias IBM pasiekimas, Vasilopoulos sakė: „Atliekant šį darbą daugelis komponentų, reikalingų norint visiškai įgyvendinti Analoginio AI pažadą dėl našaus ir energiją taupančio AI, buvo patvirtinti siliciu.
Jis pasiūlė techninę lusto apžvalgą atskirame straipsnyje pavadinimu „Analoginis kompiuteris atmintyje pilnametystės“, paskelbtas Elektros ir elektronikos inžinerija rugpjūčio 10 d.
Kalbėdamas apie lustą kaip „pirmą tokio pobūdžio“, jis apibūdino jį kaip „visiškai integruotą mišraus signalo skaičiavimo lustą atmintyje, pagrįstą integruota fazių keitimo atmintimi (PCM) 14 nm papildomame metaliniame oksido-puslaidininkio (CMOS) procesas“.
Toliau apibrėždamas projektą, jis sakė: „Lustą sudaro 64 AIMC branduoliai, kurių kiekvienoje yra 256 x 256 vienetinių elementų atminties matrica. Vienetiniai elementai sudaryti iš keturių PCM įrenginių, iš viso daugiau nei 16 milijonų įrenginių. Be analoginės atminties matricos , kiekvienoje šerdyje yra lengvas skaitmeninis apdorojimo blokas, atliekantis aktyvinimo, kaupimo ir mastelio keitimo funkcijas.
Daugiau informacijos: Manuel Le Gallo ir kt., 64 branduolių mišraus signalo atmintyje skaičiavimo lustas, pagrįstas fazės keitimo atmintimi giliam neuroninio tinklo išvadoms, Gamtos elektronika (2023). DOI: 10.1038/s41928-023-01010-1. Įjungta arXiv: DOI: 10.48550/arxiv.2212.02872
Techninė apžvalga: Analoginis kompiuteris atmintyje pilnametystės
© „Science X Network“, 2023 m
Citata: IBM praneša apie analoginį AI lustą, sukurtą pagal žmogaus smegenis (2023 m. rugpjūčio 22 d.), gautą 2023 m. rugpjūčio 23 d. iš https://techxplore.com/news/2023-08-ibm-analog-ai-chip-patterned.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
