- Regulatorni okvir se razvija od načela krivnje prema objektivnoj odgovornosti za visokorizične sustave umjetne inteligencije.
- Europska uredba o umjetnoj inteligenciji uspostavlja ex ante upravljanje rizicima kako bi se osigurala sigurnost i etika u tehnološkoj implementaciji.
- Popravak štete suočava se sa složenim izazovima zbog algoritamske neprozirnosti i autonomije stroja.
Čini se da ovih dana ne prođe ni minuta, a da ne čujemo o ChatGPT-u, Perplexityju ili robotima koji rade u operacijskim salama. Ova tehnološka revolucija iznenada je stigla u naše živote i dok smo zadivljeni koliko nam ovi alati lako olakšavaju život, oni su također otvorili Pandorinu kutiju u pravnoj areni. Problem je u tome što zakon često zaostaje za tehnologijom , a kada algoritam donese autonomnu odluku koja završi katastrofom, nije tako jednostavno kao reći: "Kriv je stroj."
Ulazimo u mračno područje gdje klasični koncepti građanskog prava ne uspijevaju. Ne bavimo se samo softverskim problemom, već sustavima sposobnim za samostalno učenje i razvoj, što praćenje izvora štete čini pravom glavoboljom. Zato je ključno analizirati kako se zakonodavni krajolik mijenja, posebno u Europskoj uniji, kako ni tvrtke ni korisnici ne bi završili u pravnom limbu u kojem nitko ne preuzima odgovornost.
Što zapravo podrazumijevamo pod umjetnom inteligencijom iz pravne perspektive?
Kako bismo izbjegli pretjerano vjerovanje, prvo moramo definirati o čemu govorimo. Europska komisija i nedavna Uredba (EU) 2024/1689 opisuju umjetnu inteligenciju kao sustave temeljene na strojevima koji rade s različitim razinama autonomije . Oni nisu samo programi koji slijede fiksni recept, već obrađuju ulazne podatke kako bi generirali izlaze - poput predviđanja ili odluka - koji mogu promijeniti fizički ili virtualni svijet. Ključna je stvar ovdje da, iako simuliraju inteligentno ponašanje, nemaju svijest i slobodnu volju , što zasad isključuje dodjeljivanje im neovisne pravne osobnosti.
Rizici koji ugrožavaju naša prava
Implementacija umjetne inteligencije nije bezopasna. Postoje tri glavna područja rizika koja zabrinjavaju regulatore. Prvo su rizici za temeljna prava , gdje su ugroženi privatnost i nediskriminacija. Korištenje biometrijskih podataka za masovni nadzor ili algoritamsku pristranost može dovesti do toga da osoba bude odbijena u procesu odabira ili za bankovni kredit bez stvarnog opravdanja, na temelju predrasuda koje je nenamjerno programirao programer.
S druge strane, postoje sigurnosni nedostaci i neučinkovit rad. Kibernetički napad na financijski sustav pokretan umjetnom inteligencijom ili kvar kirurškog robota mogu uzrokovati izuzetno ozbiljnu materijalnu i osobnu štetu . Konačno, postoje sistemski rizici, od masovnih dezinformacija (lažnih vijesti) do gubitka posla, stvarajući osjećaj bespomoćnosti kod potrošača koji često ni ne znaju da komuniciraju s umjetnom inteligencijom.
Labirint građanske odgovornosti
Tu stvari postaju ozbiljne. Tradicionalno, u Španjolskoj slijedimo članak 1902. Građanskog zakonika, koji u osnovi kaže da ako prouzročite štetu krivnjom ili nemarom, morate je popraviti. Ali naravno, kako dokazati nemar programera ako je sustav naučio nepredviđeno ponašanje putem strojnog učenja? Ova algoritamska neprozirnost čini klasični model subjektivne odgovornosti nedostatnim.
Borba između krivnje i rizika
Vodi se intenzivna rasprava o tome trebamo li prijeći na model stroge odgovornosti , posebno za visokorizičnu umjetnu inteligenciju. Prema ovom sustavu, žrtva se ne bi morala mučiti dokazujući nečiji nemar; bilo bi dovoljno dokazati da je sustav uzrokovao štetu i da postoji uzročno-posljedična veza. Bilo bi slično onome što se događa s prometnim nesrećama: rizik stvara onaj tko stavlja stroj u pogon, pa bi trebao biti odgovoran za odštetu bez obzira na to je li postojala "loša vjera" ili ne.
Kritični slučaj autonomnih vozila
Autonomna vozila savršen su primjer ove dileme. Trenutno postoji "crvena linija": sve dok ljudi imaju krajnju kontrolu, vozač je odgovoran. Ali kada postignemo punu autonomiju, pravni okvir će se morati radikalno promijeniti. Više ne možemo tvrditi da je softverski kvar "viša sila" kako bismo oslobodili vlasnika odgovornosti. Vjerojatno ćemo vidjeti obvezno specifično osiguranje od odgovornosti i stvaranje jamstvenih fondova kako bismo osigurali da pogođeni ne ostanu bez odštete.
Zakon o umjetnoj inteligenciji i strategija Europske unije
EU je poduzela prvi korak s Uredbom o umjetnoj inteligenciji (AI Act), prvom sveobuhvatnom uredbom na svijetu o toj temi. Ova uredba ne odnosi se izravno na građansku odgovornost (to je prepušteno posebnim direktivama), ali uspostavlja sustav ex-ante upravljanja . Klasificira umjetnu inteligenciju prema riziku: od neprihvatljivog rizika (zabranjeno) do visokog rizika, što uključuje sektore poput zdravstva, obrazovanja i upravljanja kritičnom infrastrukturom.
- Visokorizični sustavi: Moraju ispunjavati stroge zahtjeve za transparentnost, kibernetičku sigurnost i ljudski nadzor.
- Pretpostavka uzročnosti: Predlaže se olakšavanje dokazivanja za žrtve, omogućujući razmatranje određenih kršenja Zakona o umjetnoj inteligenciji navodni nemar.
- Pravo na zaborav i GDPR: Obrada osobnih podataka i dalje je pod GDPR-om, osiguravajući da svaka zlouporaba osobnih podataka putem umjetne inteligencije rezultira učinkovitom naknadom.
Obveze za izbjegavanje katastrofe
Kako bi izbjegla plaćanje astronomskih odšteta, tvrtka mora implementirati mjere usklađenosti s zakonom i etičke odbore . Nije dovoljno da sustav samo radi; mora biti podložan reviziji i transparentan. Prevencija uključuje uklanjanje pristranosti u podacima o obuci i osiguravanje da je čovjek uvijek dostupan za deaktiviranje funkcionalnosti u slučaju nužde. Nepoštivanje ovih zahtjeva dubinske analize bit će ključno u budućim tužbama za utvrđivanje tko bi trebao platiti odštetu.
Razvoj prema jedinstvenom digitalnom tržištu zahtijeva da pravila budu ista za sve u Europi, čime se sprječava da se neke tvrtke sklone u pravna utočišta s manje strogim zahtjevima. Trend je jasan: manji teret dokazivanja za građane i veća odgovornost za operatere i proizvođače, koji su ti koji istinski profitiraju od iskorištavanja tih tehnologija.
Pravni krajolik kreće se prema harmonizaciji gdje sigurnost i etika nisu opcionalne, već uvjeti za ulazak na tržište. Kombinacija stroge odgovornosti za najopasnije sustave, uz obvezno osiguranje i rigorozan ljudski nadzor, ima za cilj osigurati nastavak inovacija, a istovremeno spriječiti da troškovi napretka padnu na leđa najranjivijih korisnika.
