- Regulativni okvir se razvija od načela krivde k objektivni odgovornosti za visoko tvegane sisteme umetne inteligence.
- Evropska uredba o umetni inteligenci vzpostavlja predhodno obvladovanje tveganj za zagotavljanje varnosti in etike pri uvajanju tehnologije.
- Popravilo škode se sooča s kompleksnimi izzivi zaradi algoritemske nepreglednosti in avtonomije strojev.
Zdi se, da v teh dneh ne mine niti minute, da ne bi slišali za ChatGPT, Perplexity ali robote, ki delujejo v operacijskih dvoranah. Ta tehnološka revolucija je v naša življenja prišla nenadoma in čeprav smo presenečeni, kako enostavno nam ta orodja olajšajo življenje, so hkrati odprla Pandorino skrinjico na pravnem področju. Težava je v tem, da Zakonodaja pogosto zaostaja za tehnologijo, y cuando un algoritmo toma una decisión autónoma que acaba en un desastre, no es tan sencillo como decir «la culpa es de la máquina».
Vstopamo v temačno območje, kjer klasični koncepti civilnega prava ne zadostujejo. Ne soočamo se zgolj s problemom programske opreme, temveč s sistemi, ki se lahko učijo in razvijajo sami, zaradi česar je sledenje izvoru škode prava muka. Zato je ključnega pomena analizirati, kako se zakonodajna krajina razvija, zlasti v Evropski uniji, da se zagotovi, da niti podjetja niti uporabniki ne končajo v pravni negotovosti, kjer nihče ne prevzame odgovornosti.
Kaj v resnici razumemo pod pojmom umetna inteligenca s pravnega vidika?
Da bi se izognili streljanju v temi, moramo najprej opredeliti, o čem govorimo. Evropska komisija in nedavna Uredba (EU) 2024/1689 opisujeta umetno inteligenco kot sisteme, ki temeljijo na strojih in delujejo z različne stopnje avtonomijeTo niso zgolj programi, ki sledijo določenemu receptu, temveč obdelujejo vhodne podatke za ustvarjanje izhodov – kot so napovedi ali odločitve – ki lahko spremenijo fizični ali virtualni svet. Pomembno je, da čeprav simulirajo inteligentno vedenje, Nimajo vesti in svobodne voljekar zaenkrat izključuje podelitev avtonomne pravne osebnosti.
Tveganja, ki ogrožajo naše pravice
Uvedba umetne inteligence ni brez tveganj. Obstajajo tri glavne skupine tveganj, ki skrbijo regulatorje. Prva so tveganja za temeljne pravicekjer sta zasebnost in nediskriminacija na nitki. Uporaba biometričnih podatkov za množični nadzor ali algoritemsko pristranskost lahko privede do zavrnitve osebe v izbirnem postopku ali pri bančnem kreditu brez dejanske utemeljitve na podlagi neprostovoljno programirani predsodki s strani razvijalca.
Po drugi strani pa imamo varnostne pomanjkljivosti in neučinkovito delovanje. Kibernetski napad na finančni sistem, ki ga poganja umetna inteligenca, ali okvara kirurškega robota lahko povzroči zelo huda materialna in telesna škodaKončno se pojavijo sistemska tveganja, od množičnih dezinformacij (lažnih novic) do odpuščanja, kar ustvarja občutek nemoči pri potrošniku, ki se pogosto sploh ne zaveda, da komunicira z umetno inteligenco.
Labirint civilne odgovornosti
Tu pa se stvari zares zares zapletejo. V Španiji tradicionalno sledimo 1902. členu civilnega zakonika, ki v bistvu pravi, da če povzročite škodo zaradi krivde ali malomarnosti, jo morate popraviti. Seveda pa, Kako dokažete malomarnost programerja? Kaj če bi se sistem s pomočjo strojnega učenja naučil nepredvidenega vedenja? Zaradi te algoritmične nepreglednosti je klasični model subjektivne odgovornosti nezadosten.
Boj med krivdo in tveganjem
Poteka intenzivna razprava o tem, ali bi morali preiti na model objektivna odgovornostše posebej za umetno inteligenco z visokim tveganjem. V tej shemi žrtvi ne bi bilo treba mučiti možganov z dokazovanjem malomarnosti nekoga; zadostovalo bi dokazati, da je sistem povzročil škodo in da obstaja vzročna zveza. Podobno bi bilo kot pri prometnih nesrečah: tveganje ustvari kdor koli da napravo v obtok, torej naj prevzame odškodnino independientemente de si hubo «mala fe» o no.
Kritični primer avtonomnih vozil
Los coches que se conducen solos son el ejemplo perfecto de este dilema. Actualmente, hay una «línea roja»: mientras el humano tenga el control final, el conductor es el responsable. Pero cuando lleguemos a la autonomía total, el marco legal deberá cambiar radicalmente. No podemos seguir diciendo que un fallo en el software es «fuerza mayor» para exonerar al dueño. Es probable que veamos la obligatoriedad de zavarovanje posebne odgovornosti in ustanovitev jamstvenih skladov, ki bodo zagotovili, da oškodovanec ne bo ostal brez odškodnine.
Zakon o umetni inteligenci in strategija Evropske unije
EU je naredila prvi korak z uredbo o umetni inteligenci (AI Act), ki je prva celovita uredba na svetu na tem področju. Ta uredba ne ureja neposredno civilne odgovornosti (to je prepuščeno posebnim direktivam), vendar vzpostavlja sistem predhodnega upravljanjaUmetno inteligenco razvršča glede na tveganje: od nesprejemljivega tveganja (prepovedanega) do visokega tveganja, kar vključuje sektorje, kot so zdravstvo, izobraževanje ali upravljanje kritične infrastrukture.
- Sistemi z visokim tveganjem: Izpolnjevati morajo stroge zahteve glede preglednosti, kibernetske varnosti in človeškega nadzora.
- Domneva vzročnosti: Predlagano je olajšanje dokazovanja za žrtve, kar omogoča upoštevanje nekaterih kršitev zakona o umetni inteligenci domnevna malomarnost.
- Pravica do pozabe in GDPR: Obdelava osebnih podatkov ostaja v skladu z GDPR, kar zagotavlja, da vsaka zloraba osebnih podatkov prek umetne inteligence povzroči učinkovito odškodnino.
Obveznosti za preprečevanje nesreč
Da bi se podjetje izognilo plačilu astronomskih odškodnin, mora uvesti ukrepe za odbori za pravno skladnost in etikoNi dovolj, da sistem deluje; mora biti pregleden in pregleden. Preprečevanje vključuje odpravo pristranskosti v podatkih o usposabljanju in zagotavljanje, da je vedno prisoten človek, ki je sposoben ... onemogočite funkcionalnost v nujnih primerih. Neizpolnjevanje teh dolžnosti skrbnega pregleda bo ključnega pomena v prihodnjih sojenjih za določitev, kdo mora plačati odškodnino.
Razvoj k enotnemu digitalnemu trgu zahteva, da so pravila enaka za vse v Evropi, kar bo nekaterim podjetjem preprečilo, da bi se zatekla v pravne oaze z manj strogimi zahtevami. Trend je jasen: manjše dokazno breme za državljane in večja odgovornost za upravljavca in proizvajalec, ki sta tista, ki imata od izkoriščanja teh tehnologij dejansko ekonomsko korist.
Pravna krajina se premika proti harmonizaciji, kjer varnost in etika nista neobvezni, temveč zahtevi za vstop na trg. Kombinacija objektivne odgovornosti za najnevarnejše sisteme, skupaj z obveznim zavarovanjem in strogim človeškim nadzorom, si prizadeva zagotoviti nadaljevanje inovacij, hkrati pa preprečiti, da bi stroški napredka padli na ramena najbolj ranljivih uporabnikov.
