Rankų sekimo technologijų įmonės „Leap Motion“ vienas iš įkūrėjų Davidas Holzas įkūrė „Midjourney“ tyrimų laboratoriją, sukeldamas ažiotažą dėl vaizdų generavimo programinės įrangos, kuri naudojama plačiai paplitusioms klastotėms gaminti. Tyrimų laboratorija „Midjourney“ pristabdė nemokamus savo vaizdų generavimo programinės įrangos bandymus po to, kai vartotojai išsiaiškino tikroviškus padirbinėjimus, įskaitant buvusio JAV prezidento Donaldo Trumpo areštą ir popiežių Pranciškų vilkintį pūkuotą striukę.
„Midjourney“ ketvirtadienį atsakė į prašymą pradėti teismą ir pranešė, kad jo negalima pateikti, ir bandyti dar kartą kitą dieną.
Vaizdai, sukurti naudojant dirbtinio intelekto platformą, ypač Trumpo ir pontifiko vaizdai, kurie išplito, atkreipė dėmesį į San Franciske įsikūrusią laboratoriją.
„Dėl ypatingos paklausos ir piktnaudžiavimo bandomuoju laikotarpiu laikinai išjungiame nemokamas bandomąsias versijas, kol įdiegsime kitus sistemos patobulinimus“, – šią savaitę bendrovės „Discord“ kanale paskelbė „Midjourney“ įkūrėjas Davidas Holzas.
Paslauga sukuria tikroviškai atrodančius vaizdus, pagal vartotojų pateiktus rašytinius nurodymus.
Jis buvo paleistas bandomuoju režimu 2022 m. viduryje, o nepriklausoma laboratorija nuolat atnaujino programinę įrangą.
Vartotojai gyrė naujai išleistą „Midjourney“ versiją už patobulintą sukurtų vaizdų tikroviškumą.
„Midjourney“ uždraudė naudoti tam tikrus žodžius, tokius kaip „suimtas“, kad paskatintų kurti įvaizdį, ne tik sustabdė naujus nemokamus bandymus.
Ketvirtadienį Midjourney atmetė AFP prašymą sukurti buvusio prezidento, areštuoto priešais Trumpo bokštą Niujorke, vaizdą.
„Žodis „suimtas“ yra uždraustas“, – teigiama pranešime iš „Midjourney“.
„Jei apeinate šį filtrą ir pažeidžiate mūsų taisykles, jūsų prieiga gali būti atšaukta.
Milijardierius magnatas ir „Twitter“ savininkas Elonas Muskas ir daugybė ekspertų trečiadienį paragino sustabdyti galingų dirbtinio intelekto sistemų kūrimą, kad būtų laiko įsitikinti, ar jos yra saugios.
Atvirą laišką, kurį iki šiol pasirašė daugiau nei 1000 žmonių, įskaitant Muską ir „Apple“ įkūrėją Steve’ą Wozniaką, paskatino „Microsoft“ remiamos įmonės „OpenAI“ išleista dirbtinio intelekto platforma GPT-4.
Laišką pasirašęs kanadietis AI pradininkas Yoshua Bengio per virtualią spaudos konferenciją Monrealyje perspėjo, kad „visuomenė nepasirengusi“ šiam galingam įrankiui ir galimam piktnaudžiavimui juo.
„Sulėtykime greitį. Pasirūpinkime, kad sukurtume geresnius apsauginius turėklus“, – sakė jis.
© 2023 AFP
Citata: AI generatorius „Midjourney“ pristabdo paslaugą dėl padirbto piktnaudžiavimo (2023 m., kovo 30 d.), gautas 2023 m. kovo 31 d. iš https://techxplore.com/news/2023-03-ai-generator-midjourney-deepfake-abuse.html
Šis dokumentas yra saugomas autorių teisių. Išskyrus bet kokius sąžiningus sandorius privačių studijų ar mokslinių tyrimų tikslais, jokia dalis negali būti atkuriama be raštiško leidimo. Turinys pateikiamas tik informaciniais tikslais.
