ašIzraelio kariuomenė neslėpė, kad intensyviai bombarduoja Gazos ruožą. Pirmosiomis puolimo dienomis jos oro pajėgų vadovas kalbėjo apie nenumaldomus „visą parą“ vykdomus oro antskrydžius. Jo pajėgos, anot jo, smogė tik kariniams taikiniams, bet pridūrė: „Mes ne chirurginiai“.
Tačiau palyginti mažai dėmesio buvo skirta metodams, kuriuos Izraelio gynybos pajėgos (IDF) naudoja taikiniams atrinkti Gazoje, ir dirbtinio intelekto vaidmeniui jų bombardavimo kampanijoje.
Izraeliui atnaujinus puolimą po septynias dienas trukusių paliaubų, susirūpinimas didėja apie IDF taikinį kare prieš Hamas, kuris, pasak Hamaso valdomo Gazos Ruožo sveikatos ministerijos, iki šiol toje teritorijoje nužudė daugiau nei 15 000 žmonių.
IDF jau seniai puoselėjo savo techninio meistriškumo reputaciją ir anksčiau drąsiai, bet nepatvirtinamai tvirtino apie naujų technologijų panaudojimą. Po 11 dienų trukusio karo Gazoje 2021 m. gegužę pareigūnai sakė, kad Izraelis kovojo „pirmąjį dirbtinio intelekto karą“ naudodamas mašininį mokymąsi ir pažangias kompiuterines technologijas.
Paskutinis Izraelio ir „Hamas“ karas suteikė precedento neturinčią galimybę IDF panaudoti tokias priemones daug platesnėje operacijų erdvėje ir ypač panaudoti dirbtinio intelekto taikinių kūrimo platformą, vadinamą „Evangelija“, kuri gerokai paspartino mirtiną mirtį. taikinių gamybos linija, kurią pareigūnai palygino su „gamykla“.
„The Guardian“ gali atskleisti naujų detalių apie Evangeliją ir jos pagrindinį vaidmenį Izraelio kare Gazoje, naudodamasis interviu su žvalgybos šaltiniais ir mažai pastebėtų IDF ir į pensiją išėjusių pareigūnų pareiškimų.
Šiame straipsnyje taip pat remiamasi liudijimais, paskelbtais Izraelio ir Palestinos leidinio +972 Magazine ir hebrajų kalbos leidinio „Local Call“, kurie apklausė kelis esamus ir buvusius šaltinius Izraelio žvalgybos bendruomenėje, turinčius žinių apie Evangelijos platformą.
Jų komentarai leidžia pažvelgti į slaptą, dirbtinio intelekto padedamą karinės žvalgybos padalinį, kuris atlieka svarbų vaidmenį Izraeliui reaguojant į Hamas žudynes pietų Izraelyje spalio 7 d.
Lėtai ryškėjantis vaizdas, kaip Izraelio kariuomenė naudoja dirbtinį intelektą, atsiranda atsižvelgiant į didėjantį susirūpinimą dėl civiliams kylančios rizikos, nes pažangios kariuomenės visame pasaulyje plečia sudėtingų ir nepermatomų automatizuotų sistemų naudojimą mūšio lauke.
„Kitos valstijos žiūrės ir mokysis“, – sakė buvęs Baltųjų rūmų saugumo pareigūnas, susipažinęs su JAV kariuomenės autonominių sistemų naudojimu.
Izraelio ir „Hamas“ karas, pasak jų, būtų „svarbus momentas, jei IDF reikšmingai panaudos dirbtinį intelektą, kad priimtų pasirinkimus, kurių pasekmės yra gyvybė ir mirtis“.
Izraelio kariai per sausumos operacijas Gazos ruože. Nuotrauka: IDF
Nuo 50 tikslų per metus iki 100 per dieną
Lapkričio pradžioje IDF sakė, kad jos administracinis padalinys nustatė „daugiau nei 12 000“ taikinių Gazoje.
Apibūdindamas padalinio taikymo procesą, pareigūnas sakė: „Dirbame be kompromisų nustatydami, kas ir kas yra priešas. „Hamas“ darbuotojai nėra apsaugoti – nesvarbu, kur jie slepiasi“.
2019 metais IDF žvalgybos direktorate suformuoto divizijos veikla yra įslaptinta.
Tačiau trumpame pareiškime IDF svetainėje teigiama, kad kare prieš Hamas naudojo dirbtiniu intelektu pagrįstą sistemą, vadinamą Habsora (angl. Evangelija), siekdama „greitai sukurti taikinius“.
IDF teigė, kad „greitai ir automatiškai išgaunant intelektą“, Evangelija pateikė tikslines rekomendacijas savo tyrinėtojams „siekdama visiškai suderinti mašinos rekomendaciją ir asmens atliekamą identifikavimą“.
Keli šaltiniai, susipažinę su IDF nukreipimo procesais, patvirtino Evangelijos į +972/Local Call egzistavimą, sakydami, kad ji buvo naudojama automatizuotoms rekomendacijoms atakuoti taikinius, tokius kaip asmenų, įtariamų „Hamas“ ar „Islamo džihado“ veikėjais, privačius namus.
Pastaraisiais metais tikslinis padalinys padėjo IDF sukurti duomenų bazę, kurioje, šaltinių teigimu, buvo nuo 30 000 iki 40 000 įtariamų kovotojų. Pasak jų, tokios sistemos kaip Evangelija suvaidino lemiamą vaidmenį formuojant asmenų, kuriems leista būti nužudyti, sąrašus.
Avivas Kochavi, kuris iki sausio ėjo IDF vadovo pareigas, sakė, kad tikslinė divizija yra „varoma dirbtinio intelekto pajėgumų“ ir apima šimtus karininkų ir kareivių.
Prieš karą paskelbtame interviu jis sakė, kad tai „mašina, kuri gamina didelius duomenų kiekius efektyviau nei bet kuris žmogus ir paverčia juos atakos taikiniais“.
Avivas Kochavi, eidamas IDF vadovo pareigas 2019 m. Nuotrauka: Oded Balilty/APKochavi teigimu, 2021 m. gegužę Izraelio 11 dienų kare su Hamas „suaktyvinus šią mašiną“, ji per dieną generuodavo 100 taikinių. „Kad tai būtų galima pažvelgti į perspektyvą, anksčiau Gazoje per metus pagamindavome 50 taikinių. Dabar ši mašina per dieną sukuria 100 taikinių, o 50 % jų yra atakuojami.
Tiksliai nežinoma, kokios formos duomenys yra įtraukti į Evangeliją. Tačiau ekspertai teigė, kad AI pagrįstos sprendimų palaikymo sistemos, skirtos taikymui, paprastai analizuoja didelius informacijos rinkinius iš įvairių šaltinių, pavyzdžiui, dronų filmuotą medžiagą, perimtus ryšius, stebėjimo duomenis ir informaciją, gautą stebint asmenų ir didelių grupių judėjimą ir elgesio modelius.
Tikslinė divizija buvo sukurta siekiant išspręsti lėtinę IDF problemą: ankstesnėse operacijose Gazoje oro pajėgoms ne kartą pritrūkdavo taikinių, kad galėtų smogti. Kadangi aukšto rango Hamas pareigūnai dingo tuneliuose prasidėjus bet kokiam naujam puolimui, šaltiniai teigė, kad tokios sistemos kaip Evangelija leido IDF surasti ir užpulti daug didesnį jaunesniųjų operatyvininkų būrį.
Vienas pareigūnas, dirbęs priimdamas sprendimus prieš taikinius per ankstesnes operacijas Gazoje, sakė, kad IDF anksčiau nebuvo nusitaikę į jaunesniųjų „Hamas“ narių namus dėl sprogdinimų. Jie teigė manantys, kad dėl dabartinio konflikto tai pasikeitė, o įtariamų „Hamas“ operatyvininkų namai dabar yra nukreipti nepaisant rango.
„Tai daug namų“, – sakė pareigūnas +972/Local Call. „Iš tikrųjų nieko nereiškiantys „Hamas“ nariai gyvena namuose visoje Gazos ruože. Taigi jie pažymi namus, bombarduoja namą ir visus ten nužudo.
Taikiniams suteiktas „balas“ pagal galimą civilių aukų skaičių
Trumpame IDF pareiškime apie tikslinį padalinį vienas aukšto rango pareigūnas sakė, kad dalinys „vykdo tikslius išpuolius prieš infrastruktūrą, susijusią su Hamas, padarydamas didelę žalą priešui ir minimalią žalą ne kovotojams“.
„AI tikslinio banko“ rekomenduojamų smūgių tikslumas buvo pabrėžtas daugelyje Izraelio žiniasklaidos pranešimų. Yedioth Ahronoth dienraštis pranešė, kad padalinys „kiek įmanoma užtikrina, kad nebūtų padaryta jokios žalos nedalyvaujantiems civiliams“.
Buvęs aukšto rango Izraelio kariuomenės šaltinis „Guardian“ sakė, kad operatyvininkai naudoja „labai tikslią“ civilių, evakuojamų iš pastato prieš pat smūgį, skaičių. „Naudojame algoritmą, kad įvertintume, kiek civilių liko. Tai suteikia mums žalią, geltoną, raudoną, kaip šviesoforo signalą.
Tačiau AI ir ginkluotų konfliktų ekspertai, kalbėję su „Guardian“, teigė skeptiškai vertinantys teiginius, kad dirbtinio intelekto sistemos sumažina civilių žalą, skatindamos tikslesnį taikymą.
Advokatas, konsultuojantis vyriausybes dirbtinio intelekto ir humanitarinės teisės laikymosi klausimais, teigė, kad yra „mažai empirinių įrodymų“, patvirtinančių tokius teiginius. Kiti atkreipė dėmesį į matomą bombardavimo poveikį.
„Pažiūrėkite į fizinį Gazos kraštovaizdį“, – sakė tyrėjas Richardas Moyesas, vadovaujantis 36 straipsniui, grupei, kuri siekia sumažinti ginklų daromą žalą.
„Matome, kaip plačiai išlyginama miesto teritorija su sunkiais sprogstamaisiais ginklais, todėl teiginys, kad jėgos panaudojimas yra tikslus ir siauras, nepatvirtina faktų.
Palydovinės šiaurinio Beit Hanouno miesto Gazoje nuotraukos prieš (spalio 10 d.) ir po (spalio 21 d.) karo padarytos žalos. Nuotrauka: Maxar Technologies / ReutersRemiantis IDF lapkritį paskelbtais duomenimis, per pirmąsias 35 karo dienas Izraelis atakavo 15 000 taikinių Gazoje, o tai yra daug daugiau nei ankstesnės karinės operacijos tankiai apgyvendintoje pakrantės teritorijoje. Palyginimui, 2014 m. kare, kuris truko 51 dieną, IDF smogė nuo 5000 iki 6000 taikinių.
Keli šaltiniai „The Guardian“ ir „+972/Local Call“ sakė, kad kai buvo leista smogti privačių asmenų, įvardytų kaip „Hamas“ ar „Islamo džihado“ veikėjai, namai, tiksliniai tyrėjai iš anksto žinojo, kiek civilių, kaip tikimasi, bus nužudyta.
Kiekvienas taikinys, pasak jų, turėjo bylą, kurioje yra papildomos žalos balas, nurodantis, kiek civilių gali žūti per smūgį.
Vienas šaltinis, iki 2021 m. dirbęs planuodamas IDF streikus, sakė, kad „sprendimą surengti streiką priima budinčio padalinio vadas“, kai kurie iš jų buvo „labiau laimingi nei kiti“.
Šaltinis teigė, kad buvo atvejų, kai „buvo abejonių dėl taikinio“ ir „nužudėme, mano nuomone, neproporcingai daug civilių“.
Izraelio kariuomenės atstovas spaudai sakė: „Reaguodama į barbariškas „Hamas“ atakas, IDF veikia siekdama išardyti „Hamas“ karinius ir administracinius pajėgumus. Priešingai nei „Hamas“ tyčiniai išpuoliai prieš Izraelio vyrus, moteris ir vaikus, IDF laikosi tarptautinės teisės ir imasi įmanomų atsargumo priemonių, kad sumažintų žalą civiliams.
„Masinių žmogžudysčių fabrikas“
Šaltiniai, susipažinę su tuo, kaip dirbtinio intelekto sistemos buvo integruotos į IDF operacijas, teigė, kad tokie įrankiai žymiai pagreitino tikslo kūrimo procesą.
„Taikinius ruošiame automatiškai ir dirbame pagal kontrolinį sąrašą“, – +972/Local Call sakė šaltinis, anksčiau dirbęs tiksliniame padalinyje. „Tai tikrai kaip gamykla. Dirbame greitai ir nėra laiko gilintis į tikslą. Manoma, kad esame vertinami pagal tai, kiek tikslų mums pavyksta sukurti.
Atskiras šaltinis leidiniui sakė, kad Evangelija leido IDF valdyti „masinių žmogžudysčių fabriką“, kuriame „pabrėžiama kiekybė, o ne kokybė“. Žmogaus akis, anot jų, „prieš kiekvieną ataką peržengs taikinius, tačiau jai nereikia skirti jiems daug laiko“.
Kai kuriems ekspertams, tyrinėjantiems dirbtinį intelektą ir tarptautinę humanitarinę teisę, toks pagreitis kelia daug rūpesčių.
Dr. Marta Bo, Stokholmo tarptautinio taikos tyrimų instituto tyrėja, sakė, kad net tada, kai „žmonės yra grandinėje“, yra rizika, kad jie susidurs su „automatizavimo šališkumu“ ir „per daug pasikliauja sistemomis, kurios daro per daug įtakos. sudėtingi žmogaus sprendimai“.
Moyesas iš 36 straipsnio teigė, kad, pasikliaudamas tokiomis priemonėmis kaip Evangelija, vadui „įteikiamas kompiuterio sugeneruotų taikinių sąrašas“ ir jie „nebūtinai žino, kaip šis sąrašas buvo sudarytas arba turi galimybę tinkamai apklausti ir kvestionuoti tikslines rekomendacijas“.
„Yra pavojus, – pridūrė jis, – kad žmonės, pasikliavę šiomis sistemomis, mechanizuoto proceso metu tampa sraigteliais ir praranda gebėjimą prasmingai įvertinti civilinės žalos riziką.
Ar turite informacijos apie šią istoriją? Siųskite el. paštu tyrimų
