Od nedjelje, 2. veljače 2025., u Europskoj uniji na snagu stupaju prve odredbe AI Zakona, omogućujući regulatorima da zabrane korištenje AI sustava koje smatraju visokorizičnima ili štetnima. Ovo je prvo sveobuhvatni pravni okvir za regulaciju umjetne inteligencije, a Europski parlament ga je odobrio u ožujku 2024. nakon višegodišnje pripreme.
Zakon je službeno stupio na snagu 1. kolovoza 2024., a 2. veljače predstavlja prvi rok za usklađivanje s određenim zabranama.
Kategorizacija rizika AI sustava
EU je definirala četiri razine rizika za AI sustave:
- Minimalni rizik – sustavi poput spam filtera za e-poštu nisu regulirani
- Ograničeni rizik – AI poput chatbota za korisničku podršku podliježu blagoj regulaciji
- Visoki rizik – AI koji donosi medicinske preporuke ili utječe na zapošljavanje prolazi kroz strogu kontrolu
- Neprihvatljiv rizik – sustavi koji mogu štetiti ljudima su potpuno zabranjeni
Zabranjeni AI sustavi uključuju:
- AI za društveno bodovanje (procjena rizika osobe na temelju ponašanja)
- AI koji manipulira ljudskim odlukama
- AI koji iskorištava ranjivosti (dob, invaliditet, socioekonomski status)
- AI koji predviđa hoće li netko počiniti zločin na temelju izgleda
- AI koji analizira biometrijske podatke kako bi odredio seksualnu orijentaciju
- AI koji prikuplja biometrijske podatke u stvarnom vremenu na javnim mjestima za potrebe policije
- AI koji prepoznaje emocije u školama ili na radnim mjestima
- AI koji proširuje baze podataka za prepoznavanje lica prikupljanjem slika s interneta ili nadzornih kamera
Tvrtke koje koriste ove AI sustave unutar EU mogu biti kažnjene novčanom kaznom u iznosu do 35 milijuna eura ili 7% godišnjih prihoda, ovisno o tome koji je iznos veći, piše Tech Crunch.
Iako je 2. veljače rok za usklađivanje, kazne neće odmah stupiti na snagu. Prema Robu Sumroyu, stručnjaku za tehnologiju iz britanske odvjetničke tvrtke Slaughter and May, nadzor počinje u kolovozu 2025. Tada će se definirati tijela odgovorna za provedbu te će započeti izricanje kazni.
Postoje i neke iznimke
U rujnu 2024. više od 100 tvrtki potpisalo je EU AI Pakt, dobrovoljni sporazum za ranu primjenu AI Zakona. Među potpisnicima su Amazon, Google i OpenAI, koji su se obvezali identificirati AI sustave koji bi mogli spadati u visokorizične.
Međutim, Apple, Meta i francuska AI tvrtka Mistral odbili su potpisati Pakt, što ne znači nužno da neće poštovati AI Zakon budući da većina velikih tehnoloških tvrtki ionako ne koristi zabranjene AI sustave, tvrdi Sumroy.
Postoje određeni izuzeci od zabrana:
- Policija smije koristiti biometrijske sustave na javnim mjestima, ali samo uz posebno odobrenje, primjerice za potragu za nestalim osobama ili sprečavanje neposredne opasnosti
- Analiza emocija u školama i radnim mjestima dopuštena je samo iz medicinskih ili sigurnosnih razloga
AI regulacija u EU neće djelovati izolirano – mora se uskladiti s drugim zakonima poput GDPR-a (zaštita podataka), NIS 2 (sigurnost mreža) i DORA (zaštita financijskih sustava).
Fi Projekt 