Kreditas: Pixabay / CC0 viešasis domenas Mūsų išmanieji įrenginiai priima balso komandas, tikrina mūsų širdies plakimus, seka mūsų miegą, verčia tekstą, siunčia mums priminimus, fiksuoja nuotraukas ir filmus bei leidžia kalbėtis su šeima ir draugais, esančiais toli.
Dabar įsivaizduokite turbokompresorių. Nuodugniai keistis natūralia kalba akademiniais ar asmeniniais klausimais; mūsų gyvybinių požymių valdymas per pasaulinę duomenų bazę, kad patikrintume neišvengiamas sveikatos problemas; didžiulių duomenų bazių supakavimas, siekiant teikti išsamų vertimą realiuoju laiku tarp dviejų ar daugiau šalių, kalbančių skirtingomis kalbomis; ir kalbėtis su GPS programine įranga, teikiančia išsamią informaciją apie geriausius mėsainius, filmus, viešbučius ar žmonių stebėjimo vietas, kurios populiarios jūsų maršrute.
Pasinaudoję viliojančia didelių kalbos modelių ir natūralios kalbos apdorojimo galia, pastebėjome didžiulę pažangą tarp mūsų ir technologijų, kuriomis vis labiau pasitikime kasdieniame gyvenime.
Tačiau kalbant apie dirbtinį intelektą ir mūsų nešiojamuosius įrenginius, buvo kliūtis. „Apple“ tyrėjai teigia, kad yra pasirengę ką nors padaryti dėl to.
Problema yra atmintis. Didelių kalbų modeliams jo reikia daug. Kadangi modeliams reikia saugoti potencialiai šimtus milijardų parametrų, dažniausiai naudojami išmanieji telefonai, tokie kaip Apple iPhone 15 su menka 8 GB atminties, toli gražu neatliks šios užduoties.
Popieriuje, įkeltame į išankstinio spausdinimo serverį arXiv Gruodžio 12 d. „Apple“ paskelbė sukūrusi metodą, kuris naudoja duomenų perkėlimą tarp „flash“ atminties ir DRAM, leidžiantį išmaniajam įrenginiui paleisti galingą AI sistemą.
Tyrėjai teigia, kad jų procesas gali paleisti AI programas, dvigubai didesnes nei įrenginio DRAM talpa, ir pagreitinti procesoriaus operacijas iki 500%. Pasak jų, GPU procesus galima pagreitinti iki 25 kartų greičiau, nei dabar.
„Mūsų metodas apima išvadų sąnaudų modelio, suderinamo su „flash“ atminties elgseną, sukūrimą, padedantį optimizuoti dviejose svarbiose srityse: sumažinti iš „flash“ perduodamų duomenų apimtį ir nuskaityti duomenis didesniais, gretimesniais gabalais“, – sakoma tyrėjų pranešime. dokumentas pavadinimu „LLM akimirksniu: efektyvi didelės kalbos modelio išvada su ribota atmintimi“.
Jie naudojo du būdus:
Abu procesai, teigia mokslininkai, „bendrai prisideda prie reikšmingo duomenų apkrovos sumažinimo ir atminties naudojimo efektyvumo didinimo“.
Jie pridūrė: „Šis proveržis yra ypač svarbus diegiant pažangius LLM ribotų išteklių aplinkoje, taip plečiant jų pritaikymą ir prieinamumą.”
Dar vienas neseniai atliktas proveržis „Apple“ paskelbė, kad sukūrė programą, pavadintą HUGS, kuri gali sukurti animuotus avatarus iš vos kelių sekundžių trukmės vaizdo įrašo, užfiksuoto iš vieno objektyvo. Dabartinės pseudoportreto kūrimo programos reikalauja kelių kamerų vaizdų. Ataskaita „HUGS: Human Gaussian Splats“ buvo įkelta į arXiv Lapkričio 29 d.
Pasak „Apple“, jų programa gali sukurti tikroviškus šokių avatarus vos per 30 minučių, daug trumpiau nei dvi dienos, kurių reikia dabartiniams populiariems požiūriams.
Daugiau informacijos: Keivan Alizadeh ir kt., LLM akimirksniu: veiksmingos didelės kalbos modelio išvados su ribota atmintimi, arXiv (2023). DOI: 10.48550/arxiv.2312.11514
Žurnalo informacija: arXiv
© „Science X Network“, 2023 m
Citata: „Apple Flash“: mūsų išmanieji įrenginiai netrukus bus išmanesni (2023 m. gruodžio 28 d.), gauta 2023 m. gruodžio 28 d. iš https://techxplore.com/news/2023-12-apple-smart-devices-smarter.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
