Očekuje se da će Zakon o umjetnoj inteligenciji biti značajan dio zakonodavstva EU-a koji uređuje korištenje umjetne inteligencije u Evropi na kojem se radi više od dvije godine.
Na svojoj web-stranici Evropska komisija primjećuje da će "način na koji pristupamo umjetnoj inteligenciji (AI) definirati svijet u kojem živimo u budućnosti. Kako bismo pomogli u izgradnji otporne Evrope za digitalno desetljeće, ljudi i firrme trebali bi moći uživati u prednostima umjetne inteligencije dok se osjećaju sigurno i zaštićeno".
EK također napominje da se njen cilj u donošenju Zakona o umjetnoj inteligenciji "prevodi u evropski pristup izvrsnosti i povjerenju kroz konkretna pravila i akcije".
Zakonodavci su predložili klasificiranje različitih AI alata prema njihovoj percipiranoj razini rizika, od niske do neprihvatljive.
Vlade i firme koje koriste ove alate imat će različite obaveze, zavisno od razine rizika.
Web-stranica Instituta za budućnost života o Zakonu o umjetnoj inteligenciji Evropske unije ističe razine rizika kao takve: "Prvo, zabranjene su aplikacije i sistemi koji stvaraju neprihvatljiv rizik, kao što je državno bodovanje koje se koristi u Kini.“
"Drugo, visokorizične prijave, kao što je alat za skeniranje životopisa koji rangira kandidate za posao, podliježu posebnim zakonskim zahtjevima.
"Na kraju, aplikacije koje nisu izričito zabranjene ili navedene kao visokorizične uglavnom su neregulirane."
Koji je opseg zakona?
Zakon je opsežan i odnosit će se na sve koji pružaju proizvod ili uslugu koja koristi AI.
Zakon će obuhvatiti sisteme koji mogu generirati rezultate kao što su sadržaj, predviđanja, preporuke ili odluke koji utječu na okruženja.
Osim upotrebe umjetne inteligencije u firmama, također će se baviti umjetnom inteligencijom koja se koristi u javnom sektoru i provedbi zakona.
Djelovat će u tandemu s drugim zakonima kao što je Opća uredba o zaštiti podataka (GDPR).
Oni koji koriste AI sisteme koji su u interakciji s ljudima, koriste se u svrhe nadzora ili se mogu koristiti za generiranje "deepfake" sadržaja, suočavaju se sa strogim obavezama transparentnosti.
Web-stranica EK-a izjavljuje da će Zakon o umjetnoj inteligenciji EU-a pomoći bloku da postane međunarodno konkurentan tako što će:
- „omogućivati razvoj i prihvatanje umjetne inteligencije u EU-u;
- učiniti EU mjestom gdje umjetna inteligencija napreduje od laboratorija do tržišta;
- osiguravati da umjetna inteligencija radi za ljude i da je snaga za dobro u društvu;
- izgrađivati strateško vodstvo u sektorima s velikim utjecajem.”
Šta se smatra „visokim rizikom“?
Brojni alati umjetne inteligencije mogu se smatrati visokorizičnim, poput onih koji se koriste u kritičnoj infrastrukturi, provođenju zakona ili obrazovanju.
Oni su jednu razinu ispod "neprihvatljivog", i stoga nisu zabranjeni u potpunosti.
Umjesto toga, oni koji koriste visokorizične umjetne inteligencije vjerovatno će morati izvršiti rigorozne procjene rizika, zabilježiti svoje aktivnosti i staviti podatke na raspolaganje vlastima za pomno ispitivanje.
To bi vjerovatno povećalo troškove usklađenosti za firme.
Mnoge od kategorija "visokog rizika" u kojima će upotreba umjetne inteligencije biti strogo kontrolirana bila bi područja kao što su provođenje zakona, migracija, infrastruktura, sigurnost proizvoda i pravosuđe.
Šta je GPAIS?
GPAIS (sistem umjetne inteligencije opće namjene) je kategorija koju su predložili zakonodavci kako bi se uzeli u obzir alati umjetne inteligencije s više od jedne primjene, kao što su generativni modeli umjetne inteligencije poput ChatGPT-a.
Zakonodavci trenutno raspravljaju hoće li svi oblici GPAIS-a biti označeni kao visokorizični i šta bi to značilo za tehnološke firme koje žele usvojiti AI u svojim proizvodima.
Nacrt ne pojašnjava kojim bi obavezama podlijegali proizvođači AI sistema.
Nedavni članak u Politicou istražuje poteškoće koje evropski zakonodavci imaju dok pokušavaju klasificirati ChatGPT i njemu slične.
“Uspon ChatGPT-a sada prisiljava Evropski parlament da [prepravi svoje nacrte planova],” piše Gian Volpicelli.
“U februaru su vodeći zakonodavci o Zakonu o umjetnoj inteligenciji, [Brando] Benifei i [Dragos] Tudorache, predložili da sistemi umjetne inteligencije koji generiraju složene tekstove bez ljudskog nadzora trebaju biti dio popisa “visokorizičnih” — nastojanje da se zaustavi ChatGPT od bujanja dezinformacije u velikim razmjerima.
"Ideja je dočekana sa skepticizmom od strane desno orijentiranih političkih grupa u Evropskom parlamentu, pa čak i dijelova Tudoracheove vlastite liberalne grupe."
Šta ako firma prekrši pravila?
Prijedlozi kažu da se oni za koje se utvrdi da krše Zakon o umjetnoj inteligenciji suočavaju s kaznama do 30 miliona eura ili 6 posto globalne dobiti, šta god je veće.
Za firmu poput Microsofta, koja podupire kreatora ChatGPT-a OpenAI, to bi moglo značiti kaznu od preko 10 milijardi dolara ako se utvrdi da krši pravila.
Kada će Zakon o umjetnoj inteligenciji stupiti na snagu?
Iako u branši očekuju da će Zakon biti donesen ove godine, konkretnog roka nema.
O Zakonu raspravljaju saborski zastupnici, a nakon što se dogovore, održat će se trijalog predstavnika Evropskog parlamenta, Vijeća Evropske unije i Evropske komisije.
Nakon što se uvjeti finaliziraju, postojat će razdoblje odgode od oko dvije godine kako bi se pogođenim stranama omogućilo da se pridržavaju propisa.
Web-stranica Instituta za budućnost života (FLI) sugerira da nije sve u redu sa Zakonom o umjetnoj inteligenciji: "Postoji nekoliko rupa i iznimaka u predloženom zakonu", pišu.
“Ovi nedostaci ograničavaju sposobnost Zakona da osigura da AI ostane snaga dobra u vašem životu. Trenutačno je, primjerice, policija zabranila prepoznavanje lica osim ako su slike snimljene s odgodom ili se tehnologija koristi za pronalaženje nestale djece.”
FLI također ističe da predloženi zakon nema fleksibilnost za izmjene i rast kada tehnologija umjetne inteligencije neizbježno napreduje i napreduje izvan okvira Zakona: „Ako se za dvije godine opasna AI aplikacija koristi u nepredviđenom sektoru, zakon ne predviđa nikakav mehanizam da ga označi kao 'visokorizičnog'."