Frederikas Efferennas, Aleksandro fon Humboldto interneto ir visuomenės institutas
Pradinis mūsų delphi tyrimo pavyzdys (pirmas turas). Dalyvių apžvalga pagal disciplinas ir profesinį statusą (n=72). Kreditas: arXiv (2023). DOI: 10.48550/arxiv.2306.09928 Dideli kalbų modeliai (LLM), pvz., naudojami pokalbių roboto ChatGPT, turi galią pakeisti mokslo sistemą. Tokią išvadą padarė „Delphi“ tyrimas, kurį atliko Aleksandro fon Humboldto interneto ir visuomenės institutas (HIIG), kuriame dalyvavo 72 tarptautiniai ekspertai, besispecializuojantys dirbtinio intelekto ir skaitmeninimo tyrimų srityse.
Respondentai pabrėžia, kad teigiamas poveikis mokslinei praktikai aiškiai nusveria neigiamą. Kartu jie pabrėžia neatidėliotiną mokslo ir politikos užduotį aktyviai kovoti su galima LLM dezinformacija, kad būtų išsaugotas mokslinių tyrimų patikimumas. Todėl jie reikalauja aktyvaus reguliavimo, skaidrumo ir naujų etikos standartų naudojant generatyvųjį AI.
Tyrimą „Draugas ar priešas? Didžiųjų kalbų modelių reikšmės mokslo sistemai tyrinėjimas” dabar galima įsigyti kaip išankstinį spaudinį. arXiv serveris.
Ekspertų teigimu, teigiamas poveikis ryškiausiai pasireiškia akademinio darbo tekstinėje srityje. Ateityje dideli kalbos modeliai padidins tyrimų procesų efektyvumą, automatizuodami įvairias užduotis, susijusias su straipsnių rašymu ir publikavimu. Taip pat jie gali palengvinti mokslininkus nuo didėjančių administracinių ataskaitų teikimo ir tyrimų pasiūlymų procedūrų, kurios pastaraisiais metais labai išaugo.
Dėl to jie sukuria papildomo laiko kritiniam mąstymui ir atveria kelius naujoms naujovėms, nes mokslininkai gali sutelkti dėmesį į savo tyrimų turinį ir efektyviai jį perduoti platesnei auditorijai.
Pripažįstant neabejotiną naudą, tyrime pabrėžiama, kaip svarbu spręsti galimas neigiamas pasekmes. Pasak respondentų, LLM gali generuoti klaidingus mokslinius teiginius, kurie iš pirmo žvilgsnio nesiskiria nuo tikrų tyrimų išvadų. Ši dezinformacija gali būti paskleista viešose diskusijose ir daryti įtaką politiniams sprendimams, darydama neigiamą poveikį visuomenei. Panašiai, klaidingi mokymo duomenys iš didelių kalbų modelių gali įterpti įvairius rasistinius ir diskriminacinius stereotipus į sukurtus tekstus.
Šios klaidos gali įsiskverbti į mokslines diskusijas, jei tyrėjai į savo kasdienį darbą įtrauks LLM sukurtą turinį be kruopštaus patikrinimo.
Norėdami įveikti šiuos iššūkius, mokslininkai turi įgyti naujų įgūdžių. Tai apima gebėjimą kritiškai kontekstualizuoti LLM rezultatus. Tuo metu, kai daugėja dezinformacijos iš didelių kalbų modelių, mokslininkai turi panaudoti savo patirtį, autoritetą ir reputaciją, kad skatintų objektyvų viešąjį diskursą. Jie pasisako už griežtesnius teisinius reguliavimus, didesnį mokymo duomenų skaidrumą, taip pat atsakingos ir etiškos praktikos, naudojant generatyvųjį dirbtinį intelektą mokslo sistemoje, ugdymą.
Dr. Benediktas Fecheris, pagrindinis tyrimo tyrėjas, komentuoja: „Rezultatai rodo didelių kalbų modelių transformacinį potencialą moksliniuose tyrimuose. Nors jų didžiulė nauda nusveria riziką, dirbtinio intelekto ir skaitmeninimo sričių ekspertų nuomonės rodo, kaip Svarbu konkrečiai spręsti problemas, susijusias su dezinformacija ir pasitikėjimo mokslu praradimu. Jei LLM naudosime atsakingai ir laikysimės etikos gairių, galime jas panaudoti, kad padidintume teigiamą poveikį ir sumažintume galimą žalą.
Daugiau informacijos: Benediktas Fecheris ir kt., Draugas ar priešas? Tiriant didelių kalbų modelių poveikį mokslo sistemai, arXiv (2023). DOI: 10.48550/arxiv.2306.09928
Žurnalo informacija: arXiv
Pateikė Aleksandro fon Humboldto interneto ir visuomenės institutas
Citata: ekspertai skatina aktyviai naudoti ChatGPT taikydami naujus etikos standartus (2023 m. birželio 19 d.), gautus 2023 m. birželio 19 d. iš https://techxplore.com/news/2023-06-experts-proactive-chatgpt-ethical-standards.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
