- Regulačný rámec sa vyvíja od princípu zavinenia smerom k objektívnej zodpovednosti za vysoko rizikové systémy umelej inteligencie.
- Európske nariadenie o umelej inteligencii zavádza ex ante riadenie rizík s cieľom zabezpečiť bezpečnosť a etiku pri zavádzaní technológií.
- Oprava škôd čelí zložitým výzvam kvôli algoritmickej nepriehľadnosti a autonómii strojov.
V dnešnej dobe sa zdá, že neuplynie ani minúta bez toho, aby sme nepočuli o ChatGPT, Perplexity alebo robotoch operujúcich v operačných sálach. Táto technologická revolúcia vstúpila do našich životov náhle a hoci sme ohromení tým, ako ľahko nám tieto nástroje uľahčujú život, zároveň otvorili Pandorinu skrinku v právnej oblasti. Problém je v tom, že Zákon často zaostáva za technológiami, y cuando un algoritmo toma una decisión autónoma que acaba en un desastre, no es tan sencillo como decir «la culpa es de la máquina».
Vstupujeme do nejasnej oblasti, kde klasické koncepty občianskeho práva zlyhávajú. Nečelíme len softvérovému problému, ale skôr... systémy schopné učenia sa a vývoja samostatne, čo robí z hľadania pôvodu škôd skutočnú bolesť hlavy. Preto je nevyhnutné analyzovať, ako sa vyvíja legislatívna krajina, najmä v Európskej únii, aby sa zabezpečilo, že ani spoločnosti, ani používatelia neskončia v právnom neistote, kde nikto neprevezme zodpovednosť.
Čo si vlastne predstavujeme pod pojmom umelá inteligencia z právneho hľadiska?
Aby sme sa vyhli strieľaniu v tme, musíme si najprv definovať, o čom hovoríme. Európska komisia a nedávne nariadenie (EÚ) 2024/1689 opisujú umelú inteligenciu ako systémy založené na strojoch, ktoré fungujú s rôzne úrovne autonómieNie sú to len programy, ktoré sa riadia pevne stanoveným receptom, ale skôr spracovávajú vstupné údaje na generovanie výstupov – ako sú predpovede alebo rozhodnutia – ktoré môžu zmeniť fyzický alebo virtuálny svet. Dôležité je, že hoci simulujú inteligentné správanie, Chýba im svedomie a slobodná vôľačo zatiaľ vylučuje udelenie im autonómnej právnej subjektivity.
Riziká, ktoré ohrozujú naše práva
Zavádzanie umelej inteligencie nie je bez rizík. Existujú tri hlavné skupiny rizík, ktoré znepokojujú regulačné orgány. Prvými sú riziká pre základné právakde je na vlásku súkromie a nediskriminácia. Používanie biometrických údajov na hromadné sledovanie alebo algoritmické skreslenie môže viesť k tomu, že osoba bude zamietnutá vo výberovom konaní alebo v prípade bankového úveru bez skutočného odôvodnenia na základe nedobrovoľne naprogramované predsudky zo strany vývojára.
Na druhej strane máme bezpečnostné nedostatky a neefektívnu prevádzku. Kybernetický útok na finančný systém poháňaný umelou inteligenciou alebo porucha chirurgického robota môže spôsobiť veľmi vážne materiálne a osobné škodyNakoniec sa objavujú systémové riziká, od masovej dezinformácie (falošné správy) až po stratu pracovných miest, čo vytvára pocit bezmocnosti u spotrebiteľa, ktorý si často ani neuvedomuje, že interaguje s umelou inteligenciou.
Labyrint občianskoprávnej zodpovednosti
Tu sa veci stávajú vážnymi. V Španielsku sa tradične riadime článkom 1902 Občianskeho zákonníka, ktorý v podstate hovorí, že ak spôsobíte škodu zavinením alebo nedbanlivosťou, musíte ju napraviť. Ale samozrejme, Ako dokážete nedbanlivosť programátora? Čo ak sa systém naučil nepredvídané správanie prostredníctvom strojového učenia? Táto algoritmická nepriehľadnosť robí klasický model subjektívnej zodpovednosti nedostatočným.
Boj medzi vinou a rizikom
Prebieha intenzívna diskusia o tom, či by sme mali prejsť na model objektívna zodpovednosťnajmä pre vysoko rizikovú umelú inteligenciu. V tejto schéme by si obeť nemusela lámať hlavu dokazovaním niečej nedbanlivosti; stačilo by preukázať, že systém spôsobil škodu a že existuje príčinná súvislosť. Bolo by to podobné ako pri dopravných nehodách: riziko vytvára ten, kto uvedie stroj do obehu, takže mal by prevziať odškodnenie independientemente de si hubo «mala fe» o no.
Kritický prípad autonómnych vozidiel
Los coches que se conducen solos son el ejemplo perfecto de este dilema. Actualmente, hay una «línea roja»: mientras el humano tenga el control final, el conductor es el responsable. Pero cuando lleguemos a la autonomía total, el marco legal deberá cambiar radicalmente. No podemos seguir diciendo que un fallo en el software es «fuerza mayor» para exonerar al dueño. Es probable que veamos la obligatoriedad de poistenie zodpovednosti za škodu a vytvorenie garančných fondov, ktoré zabezpečia, že poškodená strana nezostane bez odškodnenia.
Zákon o umelej inteligencii a stratégia Európskej únie
EÚ urobila prvý krok s nariadením o umelej inteligencii (AI Act), ktoré je prvým komplexným nariadením na svete v tejto oblasti. Toto nariadenie priamo neupravuje občianskoprávnu zodpovednosť (tá je ponechaná na osobitné smernice), ale stanovuje systém ex ante riadeniaKlasifikuje umelú inteligenciu podľa jej rizika: od neprijateľného rizika (zakázaného) po vysoko rizikové, čo zahŕňa sektory ako zdravotníctvo, vzdelávanie alebo riadenie kritickej infraštruktúry.
- Vysokorizikové systémy: Musia spĺňať prísne požiadavky na transparentnosť, kybernetickú bezpečnosť a ľudský dohľad.
- Predpoklad kauzality: Navrhuje sa uľahčiť dokazovanie pre obete, čo umožní zohľadniť určité porušenia zákona o umelej inteligencii údajná nedbanlivosť.
- Právo byť zabudnutý a GDPR: Spracovanie osobných údajov zostáva v rámci GDPR, čím sa zabezpečí, že akékoľvek zneužitie osobných údajov prostredníctvom umelej inteligencie povedie k účinnej kompenzácii.
Povinnosti predchádzať katastrofám
Aby sa spoločnosť vyhla plateniu astronomických odmien, musí zaviesť opatrenia na... komisie pre dodržiavanie právnych predpisov a etikuNestačí, aby systém fungoval; musí byť auditovateľný a transparentný. Prevencia zahŕňa elimináciu skreslení v tréningových údajoch a zabezpečenie toho, aby vždy bol k dispozícii človek schopný... deaktivovať funkcionalitu v prípade núdze. Nedodržanie týchto povinností náležitej starostlivosti bude kľúčové v budúcich súdnych konaniach, ktoré určia, kto má zaplatiť škody.
Vývoj smerom k jednotnému digitálnemu trhu si vyžaduje, aby pravidlá boli rovnaké pre všetkých v Európe, čo zabráni niektorým spoločnostiam uchýliť sa do právnych rajov s menej prísnymi požiadavkami. Trend je jasný: menšie dôkazné bremeno pre občanov a väčšia zodpovednosť pre prevádzkovateľa a výrobca, ktorí sú tí, ktorí skutočne ekonomicky profitujú z využívania týchto technológií.
Právna krajina sa uberá smerom k harmonizácii, kde bezpečnosť a etika nie sú voliteľné, ale skôr požiadavky na vstup na trh. Kombinácia objektívnej zodpovednosti za najnebezpečnejšie systémy spolu s povinným poistením a prísnym ľudským dohľadom má za cieľ zabezpečiť pokračovanie inovácií a zároveň zabrániť tomu, aby náklady na pokrok znášali najzraniteľnejší používatelia.
