Kreditas: Jorko universitetas Gilieji konvoliuciniai neuroniniai tinklai (DCNN) nemato objektų Kaip elgiasi žmonės, naudojant konfigūruotą formos suvokimą, ir tai gali būti pavojinga naudojant realaus pasaulio AI programas, sako profesorius Jamesas Elderis, šiandien paskelbto Jorko universiteto tyrimo bendraautoris.
Paskelbta Cell Press žurnale iScience , Giluminio mokymosi modeliai nesugeba užfiksuoti konfigūruoto žmogaus formų suvokimo pobūdžio yra Elderio, kuris užima Jorko žmogaus ir kompiuterinės vizijos tyrimų katedrą ir yra Jorko bendrojo direktoriaus, bendras tyrimas. Dirbtinio intelekto ir visuomenės centras ir psichologijos asistentas Nicholas Baker iš Lojolos koledžo Čikagoje, buvęs VISTA doktorantas Jorke. )Tyrimo metu buvo naudojami nauji vaizdiniai dirgikliai, vadinami Frankenšteinais, siekiant ištirti, kaip žmogaus smegenys ir DCNN apdoroja holistines, konfigūruotas objekto savybes. )„Frankenšteinai yra tiesiog objektai, kurie buvo išardyti ir sudėti neteisingai“, – sako Elderis. „Dėl to jie turi visas tinkamas vietines savybes, bet netinkamose vietose.”
Tyrėjai nustatė, kad nors žmogaus regėjimo sistema yra supainiota Frankenšteinų, DCNN to nedaro – tai atskleidžia nejautrumą konfigūruotų objektų savybėms. . „Mūsų rezultatai paaiškina, kodėl gilieji AI modeliai tam tikromis sąlygomis sugenda, ir nurodo būtinybę apsvarstyti užduotis, kurių objektas neatpažįsta siekiant suprasti vizualinį smegenų apdorojimą“, – sako Elderis. „Šie gilieji modeliai linkę naudoti sparčiuosius klavišus sprendžiant sudėtingas atpažinimo užduotis. Nors šie spartieji klavišai gali veikti daugeliu atvejų, jie gali būti pavojingi kai kuriose realaus pasaulio AI taikomosiose programose, prie kurių šiuo metu dirbame su savo pramonės ir vyriausybės partneriais. “ Atkreipia dėmesį Seniūnas.
Viena iš tokių programų yra eismo vaizdo saugos sistemos: „Daiktai intensyvaus eismo vietoje – transporto priemonės , dviračiai ir pėstieji – kliudo vieni kitiems ir patenka į vairuotojo akis kaip atsijungusių fragmentų kratinys“, – aiškina seniūnas. „Smegenys turi teisingai sugrupuoti tuos fragmentus, kad nustatytų teisingas objektų kategorijas ir vietas. Eismo saugumo stebėjimo AI sistema, galinti suvokti fragmentus tik atskirai, neatliks šios užduoties, todėl gali kilti pavojus pažeidžiamiems eismo dalyviams. „ Tyrėjų teigimu, mokymo ir architektūros modifikacijos, kurių tikslas buvo padaryti tinklus panašesnius į smegenis, nesukėlė konfigūracijos apdorojimo. , ir nė vienas tinklas negalėjo tiksliai numatyti kiekvieno bandymo žmogaus objekto sprendimų. „Mes spėliojame, kad, kad atitiktų žmogaus konfigūracijos jautrumą, tinklai turi būti išmokyti spręsti platesnį objektų užduočių spektrą, neatpažįstant kategorijų“, – pažymi Elderis.
Daugiau informacijos: Nicholas Baker ir kt., Gilaus mokymosi modeliai nesugeba užfiksuoti konfigūruoto žmogaus formos suvokimo pobūdžio, iScience ) (375). DOI: .800/j.isci.2022.1016 Citata1016 : Tyrime pabrėžiama, kaip dirbtinio intelekto modeliai naudoja potencialiai pavojingus „sparčiuosius klavišus“ sprendžiant sudėtingas atpažinimo užduotis (1016, rugsėjis ) gauta 16 rugsėjis 2022 iš https://techxplore.com/news/2022–highlights-ai-potentially-dangerous-shortcuts.html Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
