- Regulativni okvir se razvija od načela krivde k objektivni odgovornosti za visoko tvegane sisteme umetne inteligence.
- Evropska uredba o umetni inteligenci vzpostavlja predhodno obvladovanje tveganj za zagotavljanje varnosti in etike pri uvajanju tehnologije.
- Popravilo škode se sooča s kompleksnimi izzivi zaradi algoritemske nepreglednosti in avtonomije strojev.
Dandanes se zdi, da ne mine niti minute, da ne bi slišali za ChatGPT, Perplexity ali robote, ki delujejo v operacijskih dvoranah. Ta tehnološka revolucija je v naša življenja prišla nenadoma in čeprav smo presenečeni, kako enostavno nam ta orodja olajšajo življenje, so hkrati odprla Pandorino skrinjico na pravnem področju. Težava je v tem, da pravo pogosto zaostaja za tehnologijo , in ko algoritem sprejme avtonomno odločitev, ki se konča s katastrofo, ni tako preprosto, kot če bi rekli: "Kriv je stroj."
Vstopamo v temačno področje, kjer klasični koncepti civilnega prava ne uspevajo. Ne gre le za problem programske opreme, temveč za sisteme, ki se lahko učijo in razvijajo sami, zaradi česar je sledenje izvoru škode prava muka. Zato je ključnega pomena analizirati, kako se spreminja zakonodajna krajina, zlasti v Evropski uniji, da se niti podjetja niti uporabniki ne znajdejo v pravni negotovosti, kjer nihče ne prevzame odgovornosti.
Kaj v resnici razumemo pod pojmom umetna inteligenca s pravnega vidika?
Da bi se izognili prenagljenim odločitvam, moramo najprej opredeliti, o čem govorimo. Evropska komisija in nedavna Uredba (EU) 2024/1689 opisujeta umetno inteligenco kot sisteme, ki temeljijo na strojih in delujejo z različnimi stopnjami avtonomije . To niso zgolj programi, ki sledijo določenemu receptu, temveč obdelujejo vhodne podatke za ustvarjanje rezultatov – kot so napovedi ali odločitve – ki lahko spremenijo fizični ali virtualni svet. Ključna točka je, da čeprav simulirajo inteligentno vedenje, nimajo zavesti in svobodne volje , kar zaenkrat izključuje podelitev neodvisne pravne osebnosti.
Tveganja, ki ogrožajo naše pravice
Uporaba umetne inteligence ni neškodljiva. Obstajajo tri glavna področja tveganja, ki skrbijo regulatorje. Prva so tveganja za temeljne pravice , kjer sta ogroženi zasebnost in nediskriminacija. Uporaba biometričnih podatkov za množični nadzor ali algoritemsko pristranskost lahko privede do tega, da je oseba zavrnjena v izbirnem postopku ali za bančno posojilo brez dejanske utemeljitve, na podlagi predsodkov, ki jih je razvijalec nenamerno programiral .
Po drugi strani pa obstajajo varnostne pomanjkljivosti in neučinkovito delovanje. Kibernetski napad na finančni sistem, ki ga poganja umetna inteligenca, ali okvara kirurškega robota lahko povzroči izjemno resno materialno in osebno škodo . Nazadnje obstajajo še sistemska tveganja, od množičnih dezinformacij (lažnih novic) do odpuščanja, kar ustvarja občutek nemoči pri potrošnikih, ki se pogosto sploh ne zavedajo, da komunicirajo z umetno inteligenco.
Labirint civilne odgovornosti
Tu pa se stvari zares zares zapletejo. V Španiji tradicionalno sledimo 1902. členu civilnega zakonika, ki v bistvu določa, da če povzročite škodo zaradi krivde ali malomarnosti, jo morate popraviti. Seveda pa, kako dokažete malomarnost programerja, če se je sistem s strojnim učenjem naučil nepredvidenega vedenja? Zaradi te algoritmične nepreglednosti je klasični model subjektivne odgovornosti nezadosten.
Boj med krivdo in tveganjem
Poteka intenzivna razprava o tem, ali naj preidemo na model objektivne odgovornosti , zlasti za umetno inteligenco z visokim tveganjem. V okviru tega sistema žrtvi ne bi bilo treba dokazovati malomarnosti nekoga; zadostovalo bi dokazati, da je sistem povzročil škodo in da obstaja vzročna zveza. Podobno bi bilo kot pri prometnih nesrečah: tveganje ustvari tisti, ki napravo spravi v pogon, zato bi moral biti odgovoren za odškodnino ne glede na to, ali je šlo za "slabo vero" ali ne.
Kritični primer avtonomnih vozil
Avtonomna vozila so odličen primer te dileme. Trenutno obstaja "rdeča črta": dokler imajo ljudje popoln nadzor, je voznik odgovoren. Ko pa bomo dosegli popolno avtonomijo, se bo moral pravni okvir korenito spremeniti. Ne moremo več trditi, da je napaka programske opreme "višja sila", da bi lastnika oprostili odgovornosti. Verjetno bomo priča obveznemu posebnemu zavarovanju odgovornosti in ustanovitvi jamstvenih skladov, ki bodo zagotovili, da prizadeti ne bodo ostali brez odškodnine.
Zakon o umetni inteligenci in strategija Evropske unije
EU je naredila prvi korak z uredbo o umetni inteligenci (AI Act), prvo celovito uredbo na svetu na tem področju. Ta uredba ne obravnava neposredno civilne odgovornosti (ta je prepuščena posebnim direktivam), vendar vzpostavlja sistem predhodnega upravljanja . Umetno inteligenco razvršča glede na tveganje: od nesprejemljivega tveganja (prepovedano) do visokega tveganja, kar vključuje sektorje, kot so zdravstvo, izobraževanje in upravljanje kritične infrastrukture.
- Sistemi z visokim tveganjem: Izpolnjevati morajo stroge zahteve glede preglednosti, kibernetske varnosti in človeškega nadzora.
- Domneva vzročnosti: Predlagano je olajšanje dokazovanja za žrtve, kar omogoča upoštevanje nekaterih kršitev zakona o umetni inteligenci domnevna malomarnost.
- Pravica do pozabe in GDPR: Obdelava osebnih podatkov ostaja v skladu z GDPR, kar zagotavlja, da vsaka zloraba osebnih podatkov prek umetne inteligence povzroči učinkovito odškodnino.
Obveznosti za preprečevanje nesreč
Da bi se podjetje izognilo plačilu astronomskih odškodnin, mora uvesti ukrepe za skladnost s predpisi in etične odbore . Ni dovolj, da sistem samo deluje; mora biti pregleden in pregleden. Preprečevanje vključuje odpravo pristranskosti v podatkih o usposabljanju in zagotavljanje, da je človek vedno na voljo za deaktivacijo funkcionalnosti v nujnih primerih. Neupoštevanje teh zahtev skrbnega pregleda bo ključnega pomena v prihodnjih tožbah za določitev, kdo naj plača odškodnino.
Razvoj k enotnemu digitalnemu trgu zahteva, da so pravila enaka za vse v Evropi, kar bo nekaterim podjetjem preprečilo, da bi se zatekla v pravne oaze z manj strogimi zahtevami. Trend je jasen: manjše dokazno breme za državljane in večja odgovornost za operaterje in proizvajalce, ki so tisti, ki dejansko profitirajo od izkoriščanja teh tehnologij.
Pravna krajina se premika proti harmonizaciji, kjer varnost in etika nista neobvezni, temveč zahtevi za vstop na trg. Kombinacija objektivne odgovornosti za najnevarnejše sisteme, skupaj z obveznim zavarovanjem in strogim človeškim nadzorom, si prizadeva zagotoviti nadaljevanje inovacij, hkrati pa preprečiti, da bi stroški napredka padli na ramena najbolj ranljivih uporabnikov.
