- Regulatorni okvir se razvija od principa krivice ka objektivnoj odgovornosti za visokorizične sisteme vještačke inteligencije.
- Evropska uredba o vještačkoj inteligenciji uspostavlja ex-ante upravljanje rizicima kako bi se osigurala sigurnost i etika u tehnološkoj implementaciji.
- Popravak štete suočava se sa složenim izazovima zbog algoritamske neprozirnosti i autonomije mašina.
Ovih dana, čini se da ne prođe ni minut, a da ne čujemo o ChatGPT-u, Perplexityju ili robotima koji rade u operacijskim salama. Ova tehnološka revolucija je iznenada stigla u naše živote i, iako smo zadivljeni koliko lako ovi alati olakšavaju naše živote, oni su također otvorili Pandorinu kutiju u pravnoj areni. Problem je u tome što zakon često zaostaje za tehnologijom , a kada algoritam donese autonomnu odluku koja se završi katastrofom, nije tako jednostavno kao reći: "Kriva je mašina."
Ulazimo u mračno područje gdje klasični koncepti građanskog prava ne uspijevaju. Ne bavimo se samo softverskim problemom, već sistemima sposobnim za samostalno učenje i razvoj, što praćenje porijekla štete čini pravom glavoboljom. Zato je ključno analizirati kako se zakonodavni pejzaž mijenja, posebno u Evropskoj uniji, kako ni kompanije ni korisnici ne bi završili u pravnom limbu gdje niko ne preuzima odgovornost.
Šta zaista podrazumijevamo pod vještačkom inteligencijom iz pravne perspektive?
Da bismo izbjegli pretjerano vjerovanje, prvo moramo definirati o čemu govorimo. Evropska komisija i nedavna Uredba (EU) 2024/1689 opisuju vještačku inteligenciju kao sisteme zasnovane na mašinama koji rade s različitim nivoima autonomije . Oni nisu jednostavno programi koji slijede fiksni recept, već obrađuju ulazne podatke kako bi generirali izlaze - poput predviđanja ili odluka - koji mogu promijeniti fizički ili virtualni svijet. Ključna stvar ovdje je da, iako simuliraju inteligentno ponašanje, nemaju svijest i slobodnu volju , što za sada isključuje dodjeljivanje im nezavisnog pravnog subjektiviteta.
Rizici koji ugrožavaju naša prava
Primjena umjetne inteligencije nije bezopasna. Postoje tri glavna područja rizika koja zabrinjavaju regulatore. Prvo, to su rizici za temeljna prava , gdje su ugroženi privatnost i nediskriminacija. Korištenje biometrijskih podataka za masovni nadzor ili algoritamsku pristranost može dovesti do toga da osoba bude odbijena u procesu selekcije ili za bankarski kredit bez stvarnog opravdanja, na osnovu predrasuda koje je nenamjerno programirao programer.
S druge strane, postoje sigurnosni nedostaci i neefikasan rad. Sajber napad na finansijski sistem pokretan vještačkom inteligencijom ili kvar hirurškog robota mogu uzrokovati izuzetno ozbiljnu materijalnu i ličnu štetu . Konačno, postoje sistemski rizici, od masovnih dezinformacija (lažnih vijesti) do gubitka posla, stvarajući osjećaj bespomoćnosti kod potrošača koji često ni ne znaju da komuniciraju sa vještačkom inteligencijom.
Labirint građanske odgovornosti
Ovdje stvari postaju ozbiljne. Tradicionalno, u Španiji se pridržavamo Člana 1902 Građanskog zakonika, koji u osnovi kaže da ako prouzrokujete štetu svojom krivicom ili nepažnjom, morate je popraviti. Ali naravno, kako dokazati nemar programera ako je sistem naučio nepredviđeno ponašanje putem mašinskog učenja? Ova algoritamska neprozirnost čini klasični model subjektivne odgovornosti nedovoljnim.
Borba između krivnje i rizika
Vodi se intenzivna debata o tome da li bismo trebali preći na model stroge odgovornosti , posebno za visokorizičnu vještačku inteligenciju. Prema ovom sistemu, žrtva se ne bi morala mučiti da dokaže nečiji nemar; bilo bi dovoljno pokazati da je sistem prouzrokovao štetu i da postoji uzročno-posljedična veza. Bilo bi slično onome što se dešava sa saobraćajnim nesrećama: rizik stvara onaj ko stavlja mašinu u pogon, tako da bi oni trebali biti odgovorni za odštetu bez obzira na to da li je postojala "loša namjera" ili ne.
Kritični slučaj autonomnih vozila
Autonomna vozila su savršen primjer ove dileme. Trenutno postoji "crvena linija": sve dok ljudi imaju krajnju kontrolu, vozač je odgovoran. Ali kada dostignemo punu autonomiju, pravni okvir će se morati radikalno promijeniti. Više ne možemo tvrditi da je softverski kvar "viša sila" kako bismo oslobodili vlasnika odgovornosti. Vjerovatno ćemo vidjeti obavezno specifično osiguranje od odgovornosti i stvaranje garantnih fondova kako bismo osigurali da pogođeni ne ostanu bez odštete.
Zakon o umjetnoj inteligenciji i strategija Evropske unije
EU je napravila prvi korak s Uredbom o vještačkoj inteligenciji (AI Act), prvom sveobuhvatnom uredbom na svijetu o toj temi. Ova uredba se ne bavi direktno građanskom odgovornošću (to je prepušteno posebnim direktivama), ali uspostavlja sistem ex-ante upravljanja . Klasifikuje vještačku inteligenciju prema riziku: od neprihvatljivog rizika (zabranjeno) do visokog rizika, što uključuje sektore kao što su zdravstvo, obrazovanje i upravljanje kritičnom infrastrukturom.
- Visokorizični sistemi: Moraju ispunjavati stroge zahtjeve za transparentnost, kibernetičku sigurnost i ljudski nadzor.
- Pretpostavka uzročnosti: Predlaže se olakšavanje dokazivanja za žrtve, omogućavajući razmatranje određenih kršenja Zakona o umjetnoj inteligenciji navodni nemar.
- Pravo na zaborav i GDPR: Obrada ličnih podataka ostaje u skladu sa GDPR-om, osiguravajući da svaka zloupotreba ličnih podataka putem vještačke inteligencije rezultira efikasnom kompenzacijom.
Obaveze izbjegavanja katastrofe
Da bi izbjegla plaćanje astronomskih odšteta, kompanija mora implementirati mjere usklađenosti sa zakonom i uspostaviti etičke odbore . Nije dovoljno da sistem samo funkcioniše; mora biti podložan reviziji i transparentan. Prevencija uključuje eliminisanje pristranosti u podacima o obuci i osiguravanje da je čovjek uvijek dostupan za deaktiviranje funkcionalnosti u slučaju nužde. Nepoštivanje ovih zahtjeva dužne pažnje bit će ključno u budućim tužbama za utvrđivanje ko treba platiti odštetu.
Evolucija prema jedinstvenom digitalnom tržištu zahtijeva da pravila budu ista za sve u Evropi, što će spriječiti neke kompanije da se sklone u pravna utočišta s manje strogim zahtjevima. Trend je jasan: manji teret dokazivanja za građane i veća odgovornost za operatere i proizvođače, koji su ti koji zaista profitiraju od iskorištavanja ovih tehnologija.
Pravni pejzaž se kreće ka harmonizaciji gdje sigurnost i etika nisu opcionalne, već zahtjevi za ulazak na tržište. Kombinacija stroge odgovornosti za najopasnije sisteme, zajedno s obaveznim osiguranjem i strogim ljudskim nadzorom, ima za cilj osigurati nastavak inovacija, a istovremeno spriječiti da troškovi napretka padnu na leđa najranjivijih korisnika.
