Duomenų rinkiniai, naudojami dirbtinio intelekto algoritmams mokyti, gali nepakankamai reprezentuoti vyresnio amžiaus žmones. Kreditas: Pixabay / CC0 viešasis domenas Atrodo, kad audros debesų prognozėms nėra galo, kai kompiuteriai galiausiai nusprendžia perimti reikalus į savo rankas (ar reikėtų sakyti, savo procesorius).
„Dirbtinio intelekto vystymasis gali reikšti žmonių rasės pabaigą“, – perspėjo Stephenas Hawkingas.
“[AI] velniai gąsdina mane. Jis gali daug daugiau, nei beveik kas nors žino, o tobulėjimo tempas yra eksponentinis“, – sakė „OpenAI“ įkūrėjas Elonas Muskas.
AI technologijos kelia „didžiulį pavojų visuomenei ir žmonijai“, teigiama anksčiau šiais metais daugiau nei 1000 technologijų lyderių pasirašytame laiške, raginančiame moratoriumą AI tyrimams, kol bus daugiau suprasta apie galimą riziką.
„Turime būti labai atsargūs“, – sakė Monrealio universiteto profesorius ir dirbtinio intelekto tyrinėtojas Yoshua Bengio.
Neatsižvelgiant į pažadą, kad dirbtinis intelektas suteiks daug naudos įvairiems pramonės, ekonomikos, švietimo, mokslo, žemės ūkio, medicinos ir mokslinių tyrimų sektoriams, žiniasklaidoje vis dažniau skamba pavojaus signalas dėl nenumatytų šios klestinčios žlugdančios technologijos pasekmių.
Viena susirūpinimą keliančių sričių yra atsirandantis elgesys, apibrėžiamas kaip nenumatytų, neprogramuotų sąveikų sistemoje serija, atsirandanti dėl paprastesnio užprogramuoto atskirų dalių elgesio.
Tyrėjai teigia, kad tokio elgesio įrodymai matomi modeliuose, kurie mokosi kalbų patys, kai sistemos, išmokytos žaisti šachmatais ir Go, sukuria originalias strategijas, kaip tobulėti, arba kai robotų judėjimo modeliai skiriasi, kurie iš pradžių nebuvo užprogramuoti.
„Nepaisant bandymo tikėtis netikėtumų, esu nustebęs, ką gali padaryti šie modeliai“, – sakė „Google“ kompiuterių mokslininkas Ethanas Dyeris, reaguodamas į dirbtinio intelekto eksperimentą, kurio metu kompiuteris netikėtai išvedė filmo pavadinimą pagal eilutę. jaustukų.
Tačiau pats Dyeris gali būti nustebęs sužinojęs, kad Stenfordo universiteto tyrimų grupė svaido šaltu vandeniu pranešimus apie atsirandantį elgesį.
Ryanas Schaefferis, Brando Miranda ir Sanmi Koyejo praėjusią savaitę paskelbtame dokumente teigė, kad atsirandančio elgesio įrodymai yra pagrįsti statistika, kuri greičiausiai buvo neteisingai interpretuota.
„Mūsų žinutė yra ta, kad anksčiau teigti, kad atsirandantys sugebėjimai… tikriausiai gali būti miražas, kurį sukėlė tyrėjų analizė“, – sakė jie.
Jų laikraštyje, paskelbtame arXiv išankstinio spausdinimo serveryje, tyrėjai paaiškino, kad didelių kalbų modelių gebėjimai matuojami nustatant jo teisingų prognozių procentą.
Statistinė analizė gali būti pateikiama įvairiais būdais. Tyrėjai tvirtina, kad kai rezultatai pateikiami netiesine arba nepertraukiama metrika, atrodo, kad jie rodo aštrius, nenuspėjamus pokyčius, kurie klaidingai interpretuojami kaip atsirandančio elgesio rodikliai.
Tačiau alternatyvi priemonė identiškiems duomenims išmatuoti naudojant linijinę metriką rodo „sklandžius, nuolatinius“ pokyčius, kurie, priešingai nei ankstesnis matas, atskleidžia nuspėjamą – neatsirandančią – elgseną.
Stanfordo komanda pridūrė, kad nepakankamai didelių mėginių panaudojimas taip pat prisideda prie klaidingų išvadų.
„Esami teiginiai apie atsirandančius gebėjimus yra tyrėjo analizės kūriniai, o ne esminiai modelio elgesio pokyčiai atliekant konkrečias užduotis“, – teigė komanda.
Jie pridūrė, kad nors ankstesnių tyrimų metodika greičiausiai davė klaidinančių išvadų, „niekas šiame dokumente neturėtų būti aiškinamas kaip teigiantis, kad dideli kalbos modeliai negali parodyti naujų gebėjimų“, o tai rodo, kad tinkama metodika gali atskleisti tokius gebėjimus.
„Pagrindinis dalykas, – sakė tyrėjai, – yra fiksuotai užduočiai ir fiksuotai modelių šeimai, tyrėjas gali pasirinkti metriką, kad sukurtų atsirandantį gebėjimą, arba metriką, skirtą atsirandančiam gebėjimui panaikinti.
Arba, kaip teigė vienas žymus komentatorius: „Algoritmo išvestis yra tokia gera, kiek parametrai, kuriuos nustatė jo kūrėjai, o tai reiškia, kad pačiame AI yra vietos galimam šališkumui“.
O kas buvo tas žymus komentatorius? „Microsoft Bing“ „ChatGPT“.
Daugiau informacijos: Rylan Schaeffer ir kt., Ar atsirandantys didelių kalbų modelių gebėjimai yra miražas?, arXiv (2023). DOI: 10.48550/arxiv.2304.15004
Žurnalo informacija: arXiv
© „Science X Network“, 2023 m
Citata: Tyrėjai teigia, kad iškylantys dirbtinio intelekto gebėjimai yra tik „miražas“ (2023 m. gegužės 5 d.), gautas 2023 m. gegužės 7 d. iš https://techxplore.com/news/2023-05-ai-emergent-abilities-mirage.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
