- Njime se uspostavlja regulatorni okvir temeljen na razinama rizika radi zaštite temeljnih prava i sigurnosti građana.
- Nameće stroge obveze transparentnosti i upravljanja rizicima za visokorizične sustave umjetne inteligencije i modele opće namjene.
- Kategorički zabranjuje korištenje AI tehnologija koje se smatraju neprihvatljivima, poput društvenog bodovanja ili manipulacije ponašanjem.
- Definirati postupni raspored provedbe s ozbiljnim ekonomskim kaznama za one koji ignoriraju propise.
Europska unija poduzela je odlučan korak pokretanjem prvog sveobuhvatnog pravnog okvira na svijetu za regulaciju umjetne inteligencije. Cilj ovog zakonodavstva nije gušenje inovacija, već osiguranje sigurnog i pouzdanog razvoja tehnologije , uvijek dajući prioritet zaštiti temeljnih ljudskih prava i sprječavanju da umjetna inteligencija postane nekontrolirana crna kutija.
Kako bi to postigao, Bruxelles se odlučio za pristup temeljen na riziku, što znači da filter neželjene pošte nije isto što i algoritam koji odlučuje tko će dobiti bankovni kredit. Ovisno o razini rizika koju sustav predstavlja za zdravlje ili sigurnost, zakonski zahtjevi bit će manje ili više strogi, prisiljavajući tvrtke da budu transparentne o tome kako njihovi strojevi rade.
Zabranjeni sustavi: crvena linija EU-a
Postoje neke stvari koje se jednostavno ne mogu učiniti. Zakon je vrlo jasan u zabrani umjetne inteligencije koja predstavlja neprihvatljiv rizik . Među njima su subliminalne ili manipulativne tehnike koje nastoje iskriviti ljudsko ponašanje kako bi nanijele štetu, kao i iskorištavanje ranjivosti povezanih s dobi ili invaliditetom. Socijalno bodovanje , praksa klasificiranja ljudi na temelju njihovog ponašanja kako bi im se pružio nepovoljan tretman, također je zabranjeno .
Što se tiče biometrije, kategorizacija koja implicira osjetljive osobine poput rase ili religije je zabranjena, kao i neselektivno skeniranje lica na internetu radi stvaranja baza podataka. Daljinska biometrijska identifikacija u stvarnom vremenu u javnim prostorima ograničena je na vrlo specifične slučajeve , kao što su potraga za žrtvama trgovine ljudima, sprječavanje neposrednih terorističkih napada ili lociranje osumnjičenika za teška kaznena djela, uvijek pod sudskim nadzorom.
Kategorija visokog rizika i njezini zahtjevi
Nije sve što je zabranjeno i opasno, ali neki sustavi, iako dopušteni, podliježu strogim kontrolama . To uključuje sigurnosne komponente, medicinske uređaje i algoritme koji se koriste pri zapošljavanju i procjeni kreditne sposobnosti. Ako je umjetna inteligencija zadužena za izradu profila pojedinaca kako bi se procijenila njihova radna učinkovitost ili zdravlje, ona u potpunosti spada u ovu kategoriju.
Pružatelji ovih alata moraju ispuniti dugi popis zadataka. Obavezno je implementirati sustav upravljanja rizicima tijekom cijelog životnog ciklusa proizvoda i osigurati da su podaci o obuci reprezentativni i bez grešaka. Nadalje, moraju izraditi detaljnu tehničku dokumentaciju, automatski bilježiti događaje pomoću operativnih zapisnika i jamčiti da uvijek postoji stvarni ljudski nadzor kako bi se spriječile pogrešne automatizirane odluke.
Modeli umjetne inteligencije opće namjene (GPAI)
Tu dolaze do izražaja poznati LLM-ovi i temeljni modeli . Zakon razlikuje standardne GPAI modele i one koji predstavljaju sistemski rizik , općenito definiran masovnom upotrebom računalne snage (veće od 10^25 FLOP-ova). Pružatelji ovih modela moraju biti transparentni u pogledu svojih procesa obuke i poštivati direktive o autorskim pravima.
Za modele sa sistemskim rizikom, ljestvica je viša. Moraju provoditi crveno timsko djelovanje kako bi ublažili kvarove, prijavili ozbiljne incidente Uredu za umjetnu inteligenciju i osigurali robusnu kibernetičku sigurnost . Vrijedi napomenuti da modeli otvorenog koda imaju neke prednosti, iako se od njih i dalje traži da objavljuju sažetke sadržaja korištenog za obuku stroja.
Upravljanje, rokovi i troškovi kršenja zakona
Nadzor je prvenstveno na Uredu za umjetnu inteligenciju , koji prati tehnološke divove kako bi osigurao usklađenost. Zakon se uvodi postupno: zabrane su započele u veljači 2025., dok će obveze za visokorizične sustave stupiti na snagu između 2027. i 2028. Kako bi se pomoglo tvrtkama, stvoren je Pakt o umjetnoj inteligenciji kao dobrovoljni put za pripremu za propise.
Ako tvrtka odluči prekršiti pravila, kazne su vrtoglave. Davanje lažnih informacija može koštati i do 7,5 milijuna eura ili 1,5% godišnjeg prihoda. Međutim, neispunjavanje temeljnih obveza može povećati kaznu na 15 milijuna eura ili 3% globalnog prihoda, iako neki izvori spominju da bi u ekstremnim slučajevima mogla doseći 7%.
Ovaj regulatorni okvir pozicionira Europu kao globalni kriterij u tehnološkoj regulaciji , zahtijevajući od svake tvrtke u svijetu koja želi poslovati na zajedničkom tržištu da prilagodi svoje algoritme europskim standardima transparentnosti i etike, čime se uravnotežuje tehnički napredak s ljudskim dostojanstvom.
