Vartotojai apsiriboja informaciniais kokonais. Kreditas: Piao ir kt. Plačiai paplitęs AI algoritmų, ypač algoritmų, skirtų rekomenduoti turinį ir produktus vartotojams pagal jų ankstesnę veiklą internete, naudojimas paskatino naujų reiškinių, žinomų kaip socialinės žiniasklaidos aido kameros ir informacijos kokonai, atsiradimą. Šie reiškiniai apriboja vartotojams internete pateikiamą informaciją, todėl jie verčia skaityti tik tokį turinį, kuris atitinka jų požiūrį į gyvenimą, pažiūras ir nuomones.
Neseniai atliktas Tsinghua universiteto prof. Yong Li vadovaujamos tarpdisciplininės komandos tyrimas tiria vadinamųjų informacijos kokonų – internetinių erdvių, kuriose vartotojai susiduria tik su balsais arba vartotojais, kurie iš naujo patvirtina savo nuomonę, formavimosi dinamiką. Jų darbas, paskelbtas m Gamtos mašinos intelektasaprašomi du skirtingi scenarijai, galintys paskatinti informacijos kokonų susidarymą, ir galimos strategijos, kaip to išvengti.
„Dirbtinis intelektas įsiskverbė į visas žmogaus veiklos rūšis ir paskatino algoritmų buvimą visuose šiuolaikinio gyvenimo aspektuose“, – „Tech Xplore“ sakė pirmasis šio straipsnio autorius Jinghua Piao. „Tačiau platus dirbtinio intelekto algoritmų pritaikymas sukuria naujų iššūkių, pavyzdžiui, sumažina ideologiškai skirtingų naujienų, nuomonių, politinių pažiūrų ir draugų poveikį.
„Konkrečiai, rekomendaciniai algoritmai, kai kurios iš plačiausiai priimtų dirbtinio intelekto technologijų, yra liūdnai pagarsėję tuo, kad izoliuoja žmones nuo įvairios informacijos ir galiausiai sulaiko juos vienoje temoje ar požiūryje, vadinamame informacijos kokonais.
Informaciniai kokonai gali turėti didelių neigiamų pasekmių, nes gali sustiprinti išankstinį nusistatymą ir socialinę poliarizaciją, užkirsti kelią augimui, kūrybiškumui ir naujovėms, akcentuoti dezinformaciją ir trukdyti pastangoms, kuriomis siekiama sukurti labiau įtraukiantį pasaulį.
Nors jų egzistavimas buvo plačiai dokumentuotas, šių internetinių „informacijos burbulų“ atsiradimo mechanizmai tebėra menkai suprantami.
„Mūsų naujausio dokumento tikslas buvo atskleisti informacinių kokonų kilmę sudėtingoje žmogaus ir AI sąveikos sistemoje“, – paaiškino Piao. „Informacinių kokonų sąvoka priimta apibūdinti plačiai stebimą reiškinį, kai didėjant sąveikai su protingais algoritmais, žmonės yra izoliuojami nuo įvairios informacijos ir galiausiai įstrigę vienoje temoje ar požiūryje.
Pagrindinė pastarojo darbo prielaida yra ta, kad informacijos kokonų kūrimo negalima priskirti tik žmonėms ar rekomendacijų algoritmams. Vietoj to, komanda mano, kad jie atsiranda dėl sudėtingos sąveikos ir keitimosi informacija tarp kelių subjektų.
„Atlikę empirinį ir teorinį tyrimą atskleidžiame, kad informacijos kokonai atsiranda iš prisitaikančios informacijos dinamikos sąveikos grįžtamojo ryšio tarp žmonių ir AI valdomų rekomendacijų algoritmų kilpoje“, – sakė Piao. „Tokiai grįžtamojo ryšio kilpai būdingi esminiai ingredientai: (i) panašumu pagrįstas atitikimas, (ii) teigiamas grįžtamasis ryšys, (iii) neigiamas grįžtamasis ryšys ir (iv) atsitiktinis savęs tyrinėjimas.”
Panašumu pagrįstas atitikimas yra procesas, kurio metu rekomendacijų algoritmai sujungia žmones su internetiniu turiniu, produktais ir kitais naudotojais, kurie labiausiai panašūs į tuos, kuriuos jie vartojo arba su kuriais bendravo praeityje. Prof. Li komanda nustatė, kad ši tendencija teikti rekomendacijas, pagrįstas panašumais, yra pagrindinė jėga, skatinanti internetines socialines žiniasklaidą ir tinklus link informacijos kokonų.
„Teigiamas grįžtamasis ryšys dar labiau sustiprina šį poveikį, todėl sumažėja informacijos entropija (ty informacijos įvairovė)“, – sakė Piao. „Neigiamas grįžtamasis ryšys ir atsitiktinis savęs tyrinėjimas skatina informacijos įvairovę, priešindamasi efektyvaus jėgos lauko poveikiui ir įvesdama sistemos trikdymą. Šis pasipriešinimas skatina sistemą nuo informacijos kokonų iki diversifikacijos.”
Tyrėjai galiausiai sugebėjo nustatyti du pagrindinius procesus, kurie atlieka pagrindinį vaidmenį formuojant informacinius kokonus sudėtingose sistemose, apimančiose AI rekomendacijų algoritmų ir žmonių sąveiką. Šie procesai apima teigiamo ir neigiamo grįžtamojo ryšio disbalansą ir nuolatinį panašumu pagrįsto derinimo stiprinimą.
„Mūsų išvados siūlo du praktinius būdus, kaip sumažinti realaus pasaulio informacijos kokonus”, – sakė Piao. „Pirmasis yra veiksmingas neigiamų atsiliepimų panaudojimas, suteikiantis naują požiūrį į vartotojų pageidavimus, nustatant, kas jiems nepatinka. Antrasis yra savęs tyrinėjimo skatinimas, kuris paįvairina turimą informaciją, suteikiant vartotojams daugiau galimybių valdyti algoritmą. “.
Apskritai, prof. Li komanda surinko vertingų įžvalgų apie mechanizmus, kuriais grindžiamas informacijos kokonų formavimas internete, o tai netrukus galėtų padėti sukurti alternatyvius AI įrankius ir strategijas, skirtas šiems mechanizmams spręsti. Jų darbas buvo vienerių metų bendradarbiavimo, kuriame dalyvavo mokslininkai, turintys įvairių disciplinų, įskaitant statistinę fiziką, skaičiavimo mokslą ir viešąją politiką, patirtis.
„Statistinės fizikos požiūriu dabar planuojame išplėsti savo teorinį modelį į daugiau realaus pasaulio scenarijų ir paaiškinti svarbius reiškinius panašiais dėsniais, pavyzdžiui, segregacija ir poliarizacija“, – pridūrė Piao. „Žvelgiant iš skaičiavimo mokslo perspektyvos, mūsų komanda planuoja atlikti daugiau sudėtingų sistemų, skirtų dirbtiniam intelektui ir dirbtinio intelekto socialiniam labui, tyrimų. Viešosios politikos požiūriu planuojame skatinti atitinkamos viešosios politikos kūrimą savo išvadomis.”
Daugiau informacijos: Jinghua Piao ir kt., Žmogaus ir AI prisitaikanti dinamika skatina informacijos kokonų atsiradimą, Gamtos mašinos intelektas (2023). DOI: 10.1038/s42256-023-00731-4.
© „Science X Network“, 2023 m
Citata: Tyrimas nustato žmogaus ir AI sąveikos scenarijus, vedančius į informacijos kokonus (2023 m. spalio 31 d.), gautus 2023 m. spalio 31 d. iš https://techxplore.com/news/2023-10-humanai-interaction-scenarios-cocoons.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
