Istraga agencije Associated Press (AP) otkrila je da je izraelska vojska dobila snažnu podršku Microsofta i OpenAI infrastrukture u genocidu u Gazi, u kojem je ubijeno desetine hiljada civila i gotovo fizički uništila to područje.
Otkrivene su greške u sistemima vještačke inteligencije koje je koristila izraelska vojska u genocidu u Gazi, a koje su mogle dovesti do smrti civila.
Izraelsko korištenje umjetne inteligencije u napadima na Liban, kao i genocid koji provodi u Gazi od 7. oktobra 2023. godine, kritiziran je zbog toga što ne pravi razliku između civilnih i vojnih ciljeva i što uključuje ratni zločin.
"Habsora", "Lavanda" i "Gdje je tata" su tehnologije podržane umjetnom inteligencijom za "nadzor i gađanje" civila za koje je ranije otkriveno da ih koristi izraelska vojska, a američke kompanije za umjetnu inteligenciju nastavljaju tu vrstu podrške.
Istraga AP-a sprovedena je analizom podataka kompanija Microsoft i OpenAI i intervjuisanjem izraelskih zvaničnika, a ispitala je stepen upotrebe vještačke inteligencije u izraelskoj vojsci.
Istraživanje je otkrilo greške u ovim sistemima umjetne inteligencije koje bi mogle dovesti do smrti civila.
Vlasti kažu da je izuzetno teško otkriti kada sistemi umjetne inteligencije, koji se koriste u sprezi s mnogim drugim oblicima inteligencije, uključujući ljudsku inteligenciju, naprave greške i da to može dovesti do "nepravednih smrti".
Izraelska vojska prikuplja podatke pomoću vještačke inteligencije
“Izraelska vojska koristi Microsoft Azure za prikupljanje informacija putem masovnog nadzora koje se transkribuju i prevode, uključujući telefonske pozive, tekstovne i govornu poštu", rekao je izraelski obavještajni zvaničnik koji je razgovarao za AP.
Zvaničnik je rekao da se Azure koristi za brzo traženje pojmova u ogromnim segmentima teksta te da to također omogućava pronalaženje ljudi koji jedni drugima daju upute i utvrđivanje njihove lokacije pomoću sistema umjetne inteligencije.
Srednjoškolci identifikovani kao potencijalni militanti
Podaci koje je AP pregledao pokazuju da je izraelska vojska od 7. oktobra 2023. godine široko koristila OpenAI modele, zajedno s mogućnostima transkripcije i prevođenja govora.
Izraelska vojska tvrdi da prevode vještačke inteligencije provjerava osoblje koje govori arapski, ali je izraelski zvaničnik koji je razgovarao za AP upozorio da su greške moguće kada je u pitanju vještačka inteligencija.
Zvaničnik je rekao da je arapska riječ koja opisuje zahvatni dio na lansirnoj cijevi raketnog bacača ista kao izraz plaćanje i da je u jednom slučaju umjetna inteligencija to pogrešno prevela, a osoba koja je provjeravala prevod nije u početku primijetila grešku.
Zvaničnik je rekao da ponekad podaci koji se dodaju na profile ljudi mogu biti netačni i da je sistem pogrešno identifikovao oko 1.000 srednjoškolaca kao potencijalne militante.
Vlasti također upozoravaju na opasnost da bi AI mogao označiti kuću koja pripada nekome ko ima veze s Hamasom, a ne živi tamo i učiniti tu kuću metom.
Upotreba umjetne inteligencije porasla je 200 puta
Prema studiji, upotreba umjetne inteligencije OpenAI-a i Microsofta u izraelskoj vojsci porasla je za blizu 200 puta u martu 2024. u odnosu na period do 7. oktobra 2023. godine.
S druge strane, količina podataka koje je vojska pohranila na Microsoftovim serverima udvostručena je od marta do jula 2024. godine, premašivši 13,6 petabajta, dok je upotreba ovih servera od strane vojske porasla za dvije trećine u samo dva mjeseca nakon 7. oktobra 2023.
"Ovo je prva potvrda koju imamo da se komercijalni AI modeli koriste direktno u ratovanju", rekla je Heidy Khlaaf, bivša izvršna direktorica OpenAI-a.
Tijesne veze s Microsoftom
Podaci AP-a također su pokazali da je izraelska vojska kupila napredne modele umjetne inteligencije koji se nude preko Microsoftove platforme u oblaku Azure i OpenAI.
Studija je istakla da među američkim tehnološkim kompanijama Microsoft ima posebno bliske odnose s izraelskom vojskom, a da se ta veza dodatno pojačala nakon 7. oktobra 2023.
Dokumenti koje je AP pregledao pokazuju da je Microsoft potpisao trogodišnji ugovor vrijedan 133 miliona dolara s izraelskim Ministarstvom odbrane 2021. godine, čime je Izrael postao drugi najveći vojni kupac kompanije nakon Sjedinjenih Država.
Podaci su također otkrili da je izraelska vojska poslala zahtjev za tehničku podršku Microsoft Azureu otprilike dvije sedmice nakon 7. oktobra 2023. Zahtjevano je da se odlože planirani prekidi održavanja za ostatak godine, jer bi svaki prekid imao direktan utjecaj na sisteme za spašavanje života.
Za desetak mjeseci nakon 7. oktobra, Microsoft Azure je odgovorio na oko 130 zahtjeva za tehničku podršku izraelske vojske, navodi AP.
Microsoftovi podaci čuvaju se na serverima u dvije ogromne zgrade okružene bodljikavom žicom izvan Tel Aviva.
Microsoft također upravlja korporativnim kampusom od 46.000 kvadratnih metara u gradu Herzliya, u blizini Tel Aviva.
