- Vzpostavlja regulativni okvir, ki temelji na stopnjah tveganja za zaščito temeljnih pravic in varnosti državljanov.
- Za visoko tvegane sisteme umetne inteligence in modele splošnega namena nalaga stroge obveznosti glede preglednosti in obvladovanja tveganj.
- Kategorično prepoveduje uporabo tehnologij umetne inteligence, ki se štejejo za nesprejemljive, kot sta socialno točkovanje ali vedenjska manipulacija.
- Določite postopen urnik izvajanja s hudimi ekonomskimi kaznimi za tiste, ki ne upoštevajo predpisov.
Evropska unija je naredila odločilen korak z uvedbo prvega celovitega pravnega okvira na svetu za urejanje umetne inteligence. Ta zakonodaja ni namenjena zaviranju inovacij, temveč zagotavljanju varnega in zanesljivega razvoja tehnologije , pri čemer vedno daje prednost varstvu temeljnih človekovih pravic in preprečevanju, da bi umetna inteligenca postala nenadzorovana črna skrinjica.
Da bi to dosegli, se je Bruselj odločil za pristop, ki temelji na tveganju, kar pomeni, da filter neželene pošte ni enak algoritmu, ki odloča o tem, kdo dobi bančno posojilo. Glede na stopnjo tveganja, ki ga sistem predstavlja za zdravje ali varnost, bodo zakonske zahteve bolj ali manj stroge, kar bo podjetja prisililo k preglednosti glede delovanja njihovih naprav.
Prepovedani sistemi: rdeča črta EU
Nekaterih stvari preprosto ni mogoče storiti. Zakon zelo jasno prepoveduje umetno inteligenco, ki predstavlja nesprejemljivo tveganje . Med njimi so subliminalne ali manipulativne tehnike, ki poskušajo izkrivljati človeško vedenje in povzročiti škodo, ter izkoriščanje ranljivosti, povezanih s starostjo ali invalidnostjo. Prepovedano je tudi socialno točkovanje , praksa razvrščanja ljudi na podlagi njihovega vedenja, da se jim zagotovi neugodna obravnava .
Kar zadeva biometrijo, je prepovedana kategorizacija, ki nakazuje na občutljive lastnosti, kot sta rasa ali vera, prav tako pa tudi neselektivno skeniranje obrazov na spletu za ustvarjanje podatkovnih baz. Biometrična identifikacija na daljavo v javnih prostorih je omejena na zelo specifične primere , kot so iskanje žrtev trgovine z ljudmi, preprečevanje grozečih terorističnih napadov ali iskanje osumljencev hudih kaznivih dejanj, vedno pod sodnim nadzorom.
Kategorija visokega tveganja in njene zahteve
Ni vse, kar je prepovedano, tudi nevarno, vendar so nekateri sistemi, čeprav dovoljeni, podvrženi strogim nadzorom . To vključuje varnostne komponente, medicinske pripomočke in algoritme, ki se uporabljajo pri zaposlovanju in ocenjevanju kreditne sposobnosti. Če je umetna inteligenca zadolžena za ustvarjanje profilov posameznikov za oceno njihove delovne uspešnosti ali zdravja, potem popolnoma spada v to kategorijo.
Ponudniki teh orodij morajo izpolniti dolg seznam nalog. Obvezno je uvesti sistem za upravljanje tveganj v celotnem življenjskem ciklu izdelka in zagotoviti, da so podatki o usposabljanju reprezentativni in brez napak. Poleg tega morajo ustvariti podrobno tehnično dokumentacijo, samodejno beležiti dogodke z uporabo operativnih dnevnikov in zagotoviti, da vedno obstaja dejanski človeški nadzor, da se preprečijo napačne avtomatizirane odločitve.
Splošni modeli umetne inteligence (GPAI)
Tukaj pridejo na vrsto priznani LLM in temeljni modeli . Zakon razlikuje med standardnimi modeli GPAI in tistimi, ki predstavljajo sistemsko tveganje , ki ga običajno opredeljuje množična uporaba računalniške moči (več kot 10^25 FLOP). Ponudniki teh modelov morajo biti pregledni glede svojih procesov usposabljanja in spoštovati direktive o avtorskih pravicah.
Za modele s sistemskim tveganjem so zahteve višje. Izvajati morajo rdeče timsko delo za ublažitev napak, poročati o resnih incidentih Uradu za umetno inteligenco in zagotavljati robustno kibernetsko varnost . Omeniti velja, da imajo modeli z odprto kodo nekatere prednosti, čeprav morajo še vedno objavljati povzetke vsebine, uporabljene za učenje stroja.
Upravljanje, roki in stroški kršitve zakona
Nadzor je v prvi vrsti v pristojnosti Urada za umetno inteligenco , ki spremlja tehnološke velikane, da bi zagotovil skladnost s predpisi. Zakon se uvaja postopno: prepovedi so se začele februarja 2025, obveznosti za visoko tvegane sisteme pa bodo začele veljati med letoma 2027 in 2028. Za pomoč podjetjem je bil ustanovljen Pakt o umetni inteligenci kot prostovoljna pot za pripravo na predpise.
Če se podjetje odloči kršiti pravila, so globe vrtoglave. Zagotavljanje lažnih informacij lahko stane do 7,5 milijona evrov oziroma 1,5 % letnih prihodkov. Vendar pa lahko neizpolnjevanje temeljnih obveznosti kazen zviša na 15 milijonov evrov oziroma 3 % svetovnih prihodkov, čeprav nekateri viri omenjajo, da bi v skrajnih primerih lahko dosegla 7 %.
Ta regulativni okvir postavlja Evropo kot svetovno merilo na področju tehnološke regulacije in od vsakega podjetja na svetu, ki želi delovati na skupnem trgu, zahteva, da svoje algoritme prilagodi evropskim standardom preglednosti in etike, s čimer uravnoteži tehnični napredek s človeškim dostojanstvom.
