- Regulačný rámec sa vyvíja od princípu zavinenia smerom k objektívnej zodpovednosti za vysoko rizikové systémy umelej inteligencie.
- Európske nariadenie o umelej inteligencii zavádza ex ante riadenie rizík s cieľom zabezpečiť bezpečnosť a etiku pri zavádzaní technológií.
- Oprava škôd čelí zložitým výzvam kvôli algoritmickej nepriehľadnosti a autonómii strojov.
V dnešnej dobe sa zdá, že neuplynie ani minúta bez toho, aby sme nepočuli o ChatGPT, Perplexity alebo robotoch operujúcich v operačných sálach. Táto technologická revolúcia vstúpila do našich životov náhle a hoci sme udivení, ako ľahko nám tieto nástroje uľahčujú život, zároveň otvorili Pandorinu skrinku v právnej oblasti. Problém je v tom, že právo často zaostáva za technológiou a keď algoritmus urobí autonómne rozhodnutie, ktoré skončí katastrofou, nie je také jednoduché povedať: „Je to chyba stroja.“
Vstupujeme do temnej oblasti, kde klasické koncepty občianskeho práva zlyhávajú. Nejde len o softvérový problém, ale o systémy, ktoré sa dokážu učiť a vyvíjať samostatne, čo z sledovania pôvodu škody robí skutočnú bolesť hlavy. Preto je dôležité analyzovať, ako sa mení legislatívna krajina, najmä v Európskej únii, aby sa ani spoločnosti, ani používatelia neocitli v právnom limbu, kde nikto nepreberá zodpovednosť.
Čo si vlastne predstavujeme pod pojmom umelá inteligencia z právneho hľadiska?
Aby sme sa vyhli unáhleným záverom, musíme najprv definovať, o čom hovoríme. Európska komisia a nedávne nariadenie (EÚ) 2024/1689 opisujú umelú inteligenciu ako systémy založené na strojoch, ktoré fungujú s rôznou úrovňou autonómie . Nie sú to len programy, ktoré sa riadia pevným receptom, ale skôr spracovávajú vstupné údaje na generovanie výstupov – ako sú predpovede alebo rozhodnutia – ktoré môžu zmeniť fyzický alebo virtuálny svet. Kľúčovým bodom je, že hoci simulujú inteligentné správanie, chýba im vedomie a slobodná vôľa , čo zatiaľ vylučuje udelenie im nezávislej právnej subjektivity.
Riziká, ktoré ohrozujú naše práva
Zavádzanie umelej inteligencie nie je neškodné. Regulačné orgány znepokojujú tri hlavné oblasti rizika. Prvou sú riziká pre základné práva , kde je ohrozené súkromie a nediskriminácia. Používanie biometrických údajov na hromadné sledovanie alebo algoritmické skreslenie môže viesť k tomu, že osoba bude zamietnutá vo výberovom konaní alebo v prípade bankového úveru bez skutočného odôvodnenia, a to na základe predsudkov, ktoré neúmyselne naprogramoval vývojár.
Na druhej strane existujú bezpečnostné nedostatky a neefektívna prevádzka. Kybernetický útok na finančný systém poháňaný umelou inteligenciou alebo porucha chirurgického robota môže spôsobiť mimoriadne vážne materiálne a osobné škody . Napokon existujú systémové riziká, od masovej dezinformácie (falošné správy) až po stratu pracovných miest, ktoré vytvárajú pocit bezmocnosti u spotrebiteľov, ktorí si často ani neuvedomujú, že interagujú s umelou inteligenciou.
Labyrint občianskoprávnej zodpovednosti
Tu sa veci stávajú vážnymi. V Španielsku sa tradične riadime článkom 1902 Občianskeho zákonníka, ktorý v podstate hovorí, že ak spôsobíte škodu zavinením alebo nedbanlivosťou, musíte ju napraviť. Ako však samozrejme dokážete nedbanlivosť programátora , ak sa systém naučil nepredvídané správanie prostredníctvom strojového učenia? Táto algoritmická nepriehľadnosť robí klasický model subjektívnej zodpovednosti nedostatočným.
Boj medzi vinou a rizikom
Prebieha intenzívna diskusia o tom, či by sme mali prejsť na model objektívnej zodpovednosti , najmä v prípade vysoko rizikovej umelej inteligencie. V rámci tohto systému by sa obeť nemusela trápiť s dokazovaním nedbanlivosti; stačilo by preukázať, že systém spôsobil škodu a že existuje príčinná súvislosť. Bolo by to podobné ako pri dopravných nehodách: riziko vytvára ten, kto uvedie stroj do prevádzky, takže by mal byť zodpovedný za odškodnenie bez ohľadu na to, či došlo k „zlej viere“ alebo nie.
Kritický prípad autonómnych vozidiel
Autonómne autá sú dokonalým príkladom tejto dilemy. V súčasnosti existuje „červená čiara“: pokiaľ majú ľudia konečnú kontrolu, vodič je zodpovedný. Ale keď dosiahneme úplnú autonómiu, právny rámec sa bude musieť radikálne zmeniť. Už nemôžeme tvrdiť, že zlyhanie softvéru je „vyššia moc“, aby sme zbavili majiteľa zodpovednosti. Pravdepodobne sa dočkáme povinného poistenia zodpovednosti za škodu a vytvorenia garančných fondov, aby sa zabezpečilo, že postihnutí nezostanú bez odškodnenia.
Zákon o umelej inteligencii a stratégia Európskej únie
EÚ urobila prvý krok s nariadením o umelej inteligencii (AI Act), prvým komplexným nariadením na svete v tejto oblasti. Toto nariadenie sa priamo nezaoberá občianskoprávnou zodpovednosťou (tá je ponechaná na konkrétne smernice), ale zavádza systém ex ante riadenia . Klasifikuje umelú inteligenciu podľa jej rizika: od neprijateľného rizika (zakázaného) po vysoko rizikové, čo zahŕňa sektory ako zdravotníctvo, vzdelávanie a riadenie kritickej infraštruktúry.
- Vysokorizikové systémy: Musia spĺňať prísne požiadavky na transparentnosť, kybernetickú bezpečnosť a ľudský dohľad.
- Predpoklad kauzality: Navrhuje sa uľahčiť dokazovanie pre obete, čo umožní zohľadniť určité porušenia zákona o umelej inteligencii údajná nedbanlivosť.
- Právo byť zabudnutý a GDPR: Spracovanie osobných údajov zostáva v rámci GDPR, čím sa zabezpečí, že akékoľvek zneužitie osobných údajov prostredníctvom umelej inteligencie povedie k účinnej kompenzácii.
Povinnosti predchádzať katastrofám
Aby sa spoločnosť vyhla plateniu astronomických odškodnení, musí zaviesť opatrenia na dodržiavanie právnych predpisov a etické komisie . Nestačí, aby systém len fungoval; musí byť auditovateľný a transparentný. Prevencia zahŕňa elimináciu skreslenia v tréningových údajoch a zabezpečenie toho, aby bol vždy k dispozícii človek na deaktiváciu funkcie v prípade núdze. Nedodržanie týchto požiadaviek náležitej starostlivosti bude kľúčové v budúcich súdnych sporoch o určenie, kto by mal zaplatiť škodu.
Vývoj smerom k jednotnému digitálnemu trhu si vyžaduje, aby pravidlá boli rovnaké pre všetkých v Európe, čím sa zabráni niektorým spoločnostiam uchýliť sa do právnych rajov s menej prísnymi požiadavkami. Trend je jasný: menšie dôkazné bremeno pre občanov a väčšia zodpovednosť pre prevádzkovateľov a výrobcov, ktorí sú tí, ktorí skutočne profitujú z využívania týchto technológií.
Právna krajina sa uberá smerom k harmonizácii, kde bezpečnosť a etika nie sú voliteľné, ale skôr požiadavky na vstup na trh. Kombinácia objektívnej zodpovednosti za najnebezpečnejšie systémy spolu s povinným poistením a prísnym ľudským dohľadom má za cieľ zabezpečiť pokračovanie inovácií a zároveň zabrániť tomu, aby náklady na pokrok znášali najzraniteľnejší používatelia.
