Kreditas: CC0 Public Domain Šiandieniniame verslo pasaulyje mašininio mokymosi algoritmai vis dažniau taikomi sprendimų priėmimo procesams, kurie turi įtakos įsidarbinimui, švietimui ir galimybėms gauti kreditą. Tačiau įmonės paprastai laiko algoritmus paslaptyje, motyvuodamos nuogąstavimais dėl naudotojų žaidimų, kurie gali pakenkti algoritmų nuspėjamajai galiai. Vis dažniau pasigirstant raginimams reikalauti, kad įmonės skaidrintų savo algoritmus, naujajame tyrime sukurtas analitinis modelis, skirtas palyginti tokį skaidrumą turinčių ir jo neturinčių įmonių pelną. Tyrimo išvadose teigiama, kad algoritmų skaidrumas yra ne tik naudingas, bet ir rizikingas.
Tyrimą atliko Carnegie Mellon universiteto (CMU) ir Mičigano universiteto mokslininkai, jis publikuojamas žurnale Management Science.
„Kadangi vadovai susiduria su raginimais didinti skaidrumą, mūsų išvados gali padėti jiems priimti įmonėms naudingus sprendimus”, – sako CMU Tepperio verslo mokyklos verslo technologijų ir rinkodaros profesorius Param Vir Singh, kuris yra vienas iš tyrimo autorių.”
Mokslininkai tyrė, kaip algoritminis skaidrumas veikia įmones ir pretendentus į darbo vietą (dar vadinamus agentais), kurdami ir analizuodami žaidimų teorijos modelį, kuris parodo, kaip abi šalys elgiasi esant neskaidriems ir skaidriems scenarijams. Taip autoriai siekė atsakyti į keturis klausimus: 1) Ar, žvelgiant iš įmonės (sprendimų priėmėjo) perspektyvos, algoritmo skaidrumas yra naudingas, net jei agentai gali juo manipuliuoti? 2) Kokį poveikį agentams darytų tai, kad įmonės savo algoritmus padarytų skaidrius? 3) Kokią įtaką rezultatams turėtų tų savybių, kuriomis agentai gali labiau manipuliuoti, prognozavimo galia? 4) Kaip rinkos sudėtis (pageidaujamų ir nepageidaujamų agentų požiūriu) paveiktų šiuos rezultatus?
Tyrimo išvadose teigiama, kad algoritmų skaidrumas gali turėti teigiamą poveikį vadovams ir įmonėms ir neigiamą poveikį agentams. Esant daugeliui sąlygų, skaidrumas naudingas įmonėms, nes leidžia joms motyvuoti agentus investuoti į įmonei vertingų savybių tobulinimą, o kai kuriais atvejais padidina algoritmo prognozavimo galią. Tai paneigia įprastą nuomonę, kad algoritmų skaidrumas visada ekonomiškai pakenks įmonėms
Tačiau tyrime taip pat prieita prie išvados, kad, esant algoritmų skaidrumui, agentų padėtis ne visada gali būti geresnė. Įmonės naudoja algoritmus, kad atskirtų aukšto tipo (labiau pageidaujamus) agentus nuo žemo tipo (mažiau pageidaujamų) agentų. Šie algoritmai naudoja pageidaujamus požymius (t. y. priežastinius požymius, kurie turi tiesioginės įtakos įmonės veiklos rezultatams, pvz,
.
Didelio tipo agentai gali išsisukti nuo atsakomybės nepakankamai investuodami į brangius požymius, kurie yra pageidautini įmonei, kai įmonės neskaidrių algoritmų naudojami koreliaciniai požymiai suteikia jiems klasifikacinį pranašumą. Kai įmonė padaro savo algoritmą skaidrų, visi agentai žaidžia pagal koreliacijos požymius, o koreliacijos požymių prognozavimo galia išnyksta. Dėl to aukšto tipo agentai turi investuoti į brangiai kainuojančią pageidaujamą savybę, kad atsiskirtų nuo žemo tipo agentų.
„Mūsų analizė rodo, kad įmonės, susidūrusios su strateginiais asmenimis, ne visada turėtų nerimauti dėl galimo prognozavimo galios praradimo esant skaidrumui, – sako CMU Tepperio verslo mokyklos verslo technologijų doktorantūros studentas Qiaochu Wangas, kuris yra šio tyrimo bendraautorius. „Atvirkščiai, jie gali panaudoti algoritmo skaidrumą kaip svertą, motyvuojantį agentus investuoti į labiau pageidaujamas savybes.”
Vienas iš tyrimo apribojimų, pažymi autoriai, yra tas, kad nors jis rodo ekonominę naudą, kurią įmonėms gali duoti skaidrūs algoritmai, gali būti priežasčių, dėl kurių įmonės nenori, kad jų algoritmas būtų skaidrus.
„Mūsų modelio, kuriame daugiausia dėmesio skirta darbo nuomos scenarijui, rezultatai gali būti apibendrinti kitiems scenarijams, kai įmonė bando gauti daugiau informacijos arba žinių apie privačią asmenų informaciją”, – pažymi CMU Tepperio verslo mokyklos verslo technologijų docentas Janas Huangas (Yan Huang), kuris yra vienas iš tyrimo autorių.
Daugiau informacijos: Qiaochu Wang et al, Algorithmic Transparency with Strategic Users, Management Science (2022). DOI: 10.1287/mnsc.2022.4475
Citavimas: Įmonių vadovams gali būti naudingas mašininio mokymosi algoritmų skaidrumas (2022, liepa 15) gauta rugpjūčio 1 d. 2022 iš https://techxplore.com/news/2022-07-firm-benefit-transparency-machine-learning-algorithms.html
Šiam dokumentui taikomos autorių teisės. Be raštiško leidimo negalima atgaminti jokios jo dalies, išskyrus sąžiningą naudojimą asmeninių studijų ar mokslinių tyrimų tikslais. Turinys pateikiamas tik informaciniais tikslais.
