Zašto je novi Googleov ugovor s Izraelom 'neetički' i zabrinjavajući?

Uz nekoliko revolucionarnih istraga koje su otkrile detalje o korištenju nadzora izraelskih vlasti za policiju i kontrolu Palestinaca, moglo se samo zamisliti stalno stanje anksioznosti i pojačanog osjećaja otuđenosti među njima.

Godinama su Palestinci bili podvrgnuti višeslojnom nadzoru kako bi im se ograničila sloboda izražavanja, potisnuli palestinski glasovi i obeshrabrila njihova autonomija.

Ali, ovoga puta, izraelske mogućnosti nadzora su napredovale, a Google, kao i Amazon, to su im omogućili.

Zapravo, tehnološki divovi pomažu u velikim mjerama.

Projekat Nimbus

Ugovor vrijedan 1,2 milijarde dolara u sistemu Google Cloud Platform, koji su sačinili Google i Amazon, pomaže izraelskoj vladi i njenoj vojsci osigurati naprednu umjetnu inteligenciju i alate za mašinsko učenje.

Ugovor potpisan u maju 2021. povećava upotrebu digitalnog nadzora u okupiranim palestinskim teritorijama.

U dokumentima o obuci Nimbusa spominje se da bi novi oblak Izraelu pružio mogućnosti za detekciju lica, automatsku kategorizaciju slika, praćenje objekata, pa čak i analizu osjećaja, koja bi trebala procijeniti emocionalni sadržaj slika, govora i pisanja.

AutoML, Google AI alat koji se nudi preko Nimbusa, ubrzava proces razvoja modela posebno prilagođenog potrebama korisnika koristeći vlastite podatke i dizajn tog korisnika.

Izrael bi mogao koristiti AutoML za korištenje Googleove računske snage za obuku novih modela s vlastitim državnim podacima za bilo koju svrhu.

Intercept je ispitao Nimbus webinar u kojem je sesija pitanja i odgovora koja je uslijedila nakon prezentacije pružila primjer potencijalne upotrebe i zloupotrebe AutoML-a.

Programeri Google Clouda u razgovoru su rekli da bi bilo moguće obraditi podatke putem Nimbusa kako bi se utvrdilo da li neko laže.

Zamislite svijet u kojem se AI koristi za odlučivanje da li da vas uhapsi ili ne.

I čekajte, ima ih još.

Ugovor osigurava kontinuitet usluge čak i ako tehnološki giganti budu pod pritiskom da bojkotuju zemlju.

Također sprečava Google da uskraćuje usluge određenim izraelskim vladinim entitetima, kao što je izraelska vojska.

Zaposlenica Googlea, Ariel Koren, 28, suočila se s odmazdom jer je izrazila zabrinutost za Nimbus. Ona je optužila tehnološkog giganta da profitira od sistemskog zlostavljanja Palestinaca i ove sedmice napušta kompaniju.

"Pridružila sam se Googleu da promoviram tehnologiju koja spaja zajednice i poboljšava živote ljudi", rekla je Koren za Intercept.

"Ne služiti vladi koju dvije vodeće svjetske organizacije za ljudska prava optužuju za zločin aparthejda."

Googleova AI načela navode da kompanija neće koristiti umjetnu inteligenciju za nanošenje štete ljudima, stvaranje oružja ili vršenje nadzora protiv međunarodnog prava.

Ali, uprkos ovim principima, Google je bio dio sličnih projekata i u prošlosti.

Također se "našla na udaru štampe zbog odmazde protiv radnika koji kritikuju neetičke ugovore", rekao je za Jerusalem Post Gabriel Schubiner, zaposlenik Gugla i aktivista iz jevrejske dijaspore za tehnologiju.

Godine 2018. Google i Ministarstvo odbrane SAD-a sarađivali su na projektu Maven, projektu umjetne inteligencije koji bi se mogao koristiti za povećanje preciznosti udara bespilotnih letjelica. Međutim, Google je odlučio da ne produži ugovor kao odgovor na proteste zaposlenih.

Kao odgovor na kritike aktivista za slobodu govora i zaposlenih, Google je također zaustavio razvoj Dragonflya, proizvoda za vijesti i pretraživanje za Kinu koji je podložan cenzuri.

Palestinski aktivisti, novinari, akademici i stanovnici već dugo skreću pažnju na degradirajuće načine na koje nove tehnike nadzora krše njihovo pravo na privatnost.

Na mnogo načina, palestinski primjer pokazuje kako se tehnologije mogu koristiti oružjem, uglavnom kako bi se prisilile na autocenzuru i saradnju ljudi koji žive u okupiranim regijama ili manjinskih grupa koje su vlade označile kao opasne ili prijeteće.

“Moramo se zapitati: želimo li nacionalističkim vojskama svijeta dati našu tehnologiju?”, rekao je u svjedočenju jevrejski zaposlenik Googlea Gabriel Schubiner.

“Ili trebamo ostati pri originalnoj teoriji koja stoji iza Googlea: da možemo zaraditi novac bez činjenja zla.”