- Reguliavimo sistema vystosi nuo kaltės principo link griežtos atsakomybės už didelės rizikos dirbtinio intelekto sistemas.
- Europos dirbtinio intelekto reglamentas nustato ex ante rizikos valdymą, siekiant užtikrinti technologijų diegimo saugumą ir etiką.
- Žalos taisymas susiduria su sudėtingais iššūkiais dėl algoritminio neskaidrumo ir mašinos autonomijos.
Šiomis dienomis atrodo, kad nė minutės nepraeina be mūsų žinių apie „ChatGPT“, „Perplexity“ ar robotus, dirbančius operacinėse. Ši technologinė revoliucija į mūsų gyvenimus atėjo netikėtai ir, nors stebimės, kaip lengvai šie įrankiai palengvina mūsų gyvenimą, jie taip pat atvėrė Pandoros skrynią teisinėje arenoje. Problema ta, kad teisė dažnai atsilieka nuo technologijų , o kai algoritmas priima autonominį sprendimą, kuris baigiasi katastrofa, nėra taip paprasta pasakyti: „Tai mašinos kaltė“.
Žengiame į miglotą sritį, kurioje klasikinės civilinės teisės sąvokos yra nepakankamos. Susiduriame ne tik su programinės įrangos problema, bet ir su sistemomis, gebančiomis mokytis ir vystytis pačios, todėl žalos kilmės atsekimas tampa tikru galvos skausmu. Todėl labai svarbu išanalizuoti, kaip keičiasi teisėkūros aplinka, ypač Europos Sąjungoje, kad nei įmonės, nei vartotojai neatsidurtų teisinėje nežinioje, kai niekas neprisiima atsakomybės.
Ką mes iš tikrųjų suprantame kaip dirbtinį intelektą teisiniu požiūriu?
Kad nereikėtų pernelyg pasitikėti, pirmiausia turime apibrėžti, apie ką kalbame. Europos Komisija ir neseniai priimtas Reglamentas (ES) 2024/1689 DI apibūdina kaip mašinų pagrindu veikiančias sistemas, kurios veikia su skirtingu autonomijos lygiu . Tai ne tik programos, kurios laikosi fiksuoto recepto, bet ir apdoroja įvesties duomenis, kad generuotų rezultatus, pvz., prognozes ar sprendimus, kurie gali pakeisti fizinį arba virtualų pasaulį. Svarbiausia, kad nors jie imituoja protingą elgesį, jiems trūksta sąmonės ir laisvos valios , o tai kol kas neleidžia jiems suteikti nepriklausomo teisinio subjektiškumo.
Rizika, kuri kelia grėsmę mūsų teisėms
Dirbtinio intelekto diegimas nėra nekenksmingas. Reguliuotojams nerimą kelia trys pagrindinės rizikos sritys. Pirmoji – rizika pagrindinėms teisėms , kai kyla pavojus privatumui ir nediskriminavimui. Biometrinių duomenų naudojimas masiniam stebėjimui arba algoritminiam šališkumui gali lemti tai, kad asmuo gali būti atmestas atrankos procese arba gauti banko kreditą be realaus pagrindo, remiantis kūrėjo netyčia užprogramuotais išankstiniais nusistatymais .
Kita vertus, yra saugumo spragų ir neefektyvaus veikimo. Kibernetinė ataka prieš dirbtiniu intelektu pagrįstą finansų sistemą arba chirurginio roboto gedimas gali padaryti itin didelę turtinę ir asmeninę žalą . Galiausiai, yra sisteminė rizika – nuo masinės dezinformacijos (melagingų naujienų) iki darbo vietų praradimo, sukelianti bejėgiškumo jausmą vartotojams, kurie dažnai net nežino, kad bendrauja su dirbtiniu intelektu.
Civilinės atsakomybės labirintas
Štai čia ir prasideda rimtumas. Ispanijoje tradiciškai vadovaujamės Civilinio kodekso 1902 straipsniu, kuriame iš esmės teigiama, kad jei žala padaroma dėl kaltės ar neatsargumo, ją reikia atlyginti. Tačiau, kaip įrodyti programuotojo neatsargumą, jei sistema išmoko nenumatyto elgesio per mašininį mokymąsi? Dėl tokio algoritminio neskaidrumo klasikinis subjektyvios atsakomybės modelis tampa nepakankamas.
Kova tarp kaltės ir rizikos
Vyksta intensyvios diskusijos dėl to, ar turėtume pereiti prie griežtos atsakomybės modelio , ypač didelės rizikos dirbtinio intelekto atveju. Pagal šią sistemą aukai nereikėtų stengtis įrodyti, kad kažkas buvo neatsargus; pakaktų įrodyti, kad sistema sukėlė žalą ir kad egzistuoja priežastinis ryšys. Tai būtų panašu į eismo įvykių atvejus: riziką sukuria tas, kas paleidžia mašiną, todėl jis turėtų būti atsakingas už kompensaciją, neatsižvelgiant į tai, ar buvo „nesąžininga valia“, ar ne.
Kritinis autonominių transporto priemonių atvejis
Savaeigiai automobiliai yra puikus šios dilemos pavyzdys. Šiuo metu yra „raudona linija“: kol žmonės turi galutinę kontrolę, vairuotojas yra atsakingas. Tačiau kai pasieksime visišką autonomiją, teisinė sistema turės pasikeisti radikaliai. Nebegalime teigti, kad programinės įrangos gedimas yra „nenugalima jėga“, kad išteisintume savininką. Tikėtina, kad bus įvestas privalomas specialus civilinės atsakomybės draudimas ir sukurti garantiniai fondai, siekiant užtikrinti, kad nukentėjusieji neliktų be kompensacijos.
Dirbtinio intelekto įstatymas ir Europos Sąjungos strategija
ES žengė pirmąjį žingsnį – priėmė Dirbtinio intelekto reglamentą (DI įstatymą) – pirmąjį pasaulyje išsamų reglamentą šia tema. Šis reglamentas tiesiogiai nenagrinėja civilinės atsakomybės (tai paliekama konkrečioms direktyvoms), tačiau juo nustatoma ex ante valdymo sistema . Jame DI klasifikuojamas pagal jo keliamą riziką: nuo nepriimtinos rizikos (draudžiamos) iki didelės rizikos, kuri apima tokius sektorius kaip sveikatos apsauga, švietimas ir ypatingos svarbos infrastruktūros valdymas.
- Didelės rizikos sistemos: Jie turi atitikti griežtus skaidrumo, kibernetinio saugumo ir žmonių priežiūros reikalavimus.
- Priežastingumo prezumpcija: Siūloma palengvinti įrodymų teikimą aukoms, leidžiant apsvarstyti tam tikrus Dirbtinio intelekto įstatymo pažeidimus. tariamas aplaidumas.
- Teisė būti pamirštam ir BDAR: Asmens duomenų tvarkymas ir toliau vykdomas pagal BDAR, užtikrinant, kad bet koks netinkamas asmens duomenų naudojimas naudojant dirbtinį intelektą būtų veiksmingai kompensuojamas.
Įsipareigojimai išvengti nelaimės
Kad išvengtų astronominių kompensacijų, įmonė privalo įgyvendinti teisinės atitikties priemones ir įsteigti etikos komitetus . Nepakanka, kad sistema tiesiog veiktų; ji turi būti audituojama ir skaidri. Prevencija apima šališkumo pašalinimą mokymo duomenyse ir užtikrinimą, kad žmogus visada būtų pasiekiamas, kad avariniu atveju išjungtų funkciją . Šių deramo kruopštumo reikalavimų nesilaikymas bus labai svarbus būsimuose ieškiniuose, siekiant nustatyti, kas turėtų atlyginti žalą.
Evoliucija link bendrosios skaitmeninės rinkos reikalauja, kad taisyklės būtų vienodos visiems Europoje, neleisdamos kai kurioms įmonėms ieškoti prieglobsčio teisėtuose rojuose, kuriuose taikomi ne tokie griežti reikalavimai. Tendencija aiški: mažesnė įrodinėjimo našta piliečiams ir didesnė atsakomybė operatoriams bei gamintojams, kurie iš tikrųjų gauna naudos iš šių technologijų naudojimo.
Teisinė aplinka juda link harmonizacijos, kur saugumas ir etika yra ne pasirenkami, o veikiau reikalavimai norint patekti į rinką. Griežtos atsakomybės už pavojingiausias sistemas derinimas kartu su privalomu draudimu ir griežta žmonių priežiūra siekia užtikrinti, kad inovacijos tęstųsi, kartu užkertant kelią pažangos išlaidoms tekti labiausiai pažeidžiamų vartotojų pečiams.
