- Regulējošais regulējums attīstās no vainas principa uz stingru atbildību augsta riska mākslīgā intelekta sistēmu gadījumā.
- Eiropas mākslīgā intelekta regula nosaka iepriekšēju riska pārvaldību, lai nodrošinātu drošību un ētiku tehnoloģiju ieviešanā.
- Bojājumu novēršana saskaras ar sarežģītiem izaicinājumiem algoritmiskās necaurredzamības un mašīnu autonomijas dēļ.
Mūsdienās šķiet, ka nepaiet ne minūte, kad mēs nedzirdētu par ChatGPT, Perplexity vai robotiem, kas darbojas operāciju zālēs. Šī tehnoloģiskā revolūcija mūsu dzīvē ir ienākusi pēkšņi, un, lai gan mēs esam pārsteigti par to, cik viegli šie rīki atvieglo mūsu dzīvi, tie ir arī atvēruši Pandoras lādi juridiskajā arēnā. Problēma ir tā, ka likums bieži vien atpaliek no tehnoloģijām , un, kad algoritms pieņem autonomu lēmumu, kas beidzas ar katastrofu, nav tik vienkārši pateikt: "Tā ir mašīnas vaina."
Mēs nonākam neskaidrā jomā, kur klasiskās civiltiesību koncepcijas ir nepilnīgas. Mēs ne tikai risinām programmatūras problēmu, bet arī sistēmas, kas spēj mācīties un attīstīties pašas, padarot bojājumu izcelsmes izsekošanu par īstām galvassāpēm. Tāpēc ir svarīgi analizēt, kā mainās likumdošanas ainava, īpaši Eiropas Savienībā, lai ne uzņēmumi, ne lietotāji nenonāktu juridiskā nenoteiktībā, kur neviens neuzņemas atbildību.
Ko mēs patiesībā saprotam ar mākslīgo intelektu no juridiskā viedokļa?
Lai izvairītos no pārspīlētiem secinājumiem, vispirms ir jādefinē, par ko mēs runājam. Eiropas Komisija un nesen pieņemtā Regula (ES) 2024/1689 apraksta mākslīgo intelektu kā uz mašīnām balstītas sistēmas, kas darbojas ar dažādu autonomijas līmeni . Tās nav vienkārši programmas, kas seko noteiktai receptei, bet gan apstrādā ievades datus, lai ģenerētu rezultātus, piemēram, prognozes vai lēmumus, kas var mainīt fizisko vai virtuālo pasauli. Galvenais šeit ir tas, ka, lai gan tās simulē inteliģentu uzvedību, tām trūkst apziņas un brīvas gribas , kas pagaidām izslēdz to neatkarīgas juridiskas personas statusa piešķiršanu.
Riski, kas apdraud mūsu tiesības
Mākslīgā intelekta ieviešana nav nekaitīga. Regulatoriem ir trīs galvenās riska jomas. Pirmkārt, tie ir riski pamattiesībām , kuros ir apdraudēta privātums un nediskriminācija. Biometrisko datu izmantošana masveida novērošanai vai algoritmiskai neobjektivitātei var novest pie tā, ka persona tiek noraidīta atlases procesā vai bankas kredītam bez reāla pamatojuma, pamatojoties uz izstrādātāja netīši ieprogrammētiem aizspriedumiem .
No otras puses, pastāv drošības trūkumi un neefektīva darbība. Kiberuzbrukums mākslīgā intelekta darbinātai finanšu sistēmai vai ķirurģiskā robota darbības traucējumi var radīt ārkārtīgi nopietnus materiālus un personiskus zaudējumus . Visbeidzot, pastāv sistēmiski riski, sākot no masveida dezinformācijas (viltus ziņām) līdz darbavietu zaudēšanai, radot bezpalīdzības sajūtu patērētājos, kuri bieži vien pat nezina, ka mijiedarbojas ar mākslīgo intelektu.
Civiltiesiskās atbildības labirints
Te nu lietas kļūst nopietnas. Tradicionāli Spānijā mēs ievērojam Civilkodeksa 1902. pantu, kas būtībā nosaka, ka, ja zaudējumi ir radušies vainas vai nolaidības dēļ, tie ir jāatlīdzina. Bet, protams, kā pierādīt programmētāja nolaidību, ja sistēma ar mašīnmācīšanās palīdzību ir apguvusi neparedzētu uzvedību? Šī algoritmiskā necaurredzamība padara klasisko subjektīvās atbildības modeli nepietiekamu.
Cīņa starp vainas apziņu un risku
Notiek intensīvas debates par to, vai mums vajadzētu pāriet uz stingras atbildības modeli , īpaši attiecībā uz augsta riska mākslīgo intelektu. Saskaņā ar šo sistēmu cietušajam nebūtu jāpieliek pūles, lai pierādītu kāda cilvēka nolaidību; pietiktu pierādīt, ka sistēma ir izraisījusi kaitējumu un ka pastāv cēloņsakarība. Tas būtu līdzīgi tam, kas notiek ar ceļu satiksmes negadījumiem: risku rada tas, kurš nodod mašīnu ekspluatācijā, tāpēc viņam būtu jāuzņemas atbildība par kompensāciju neatkarīgi no tā, vai ir bijusi "negodprātīga rīcība" vai nē.
Autonomo transportlīdzekļu kritiskais gadījums
Pašbraucošās automašīnas ir lielisks šīs dilemmas piemērs. Pašlaik pastāv "sarkanā līnija": kamēr vien cilvēkiem ir galīgā kontrole, vadītājs ir atbildīgs. Taču, kad mēs sasniegsim pilnīgu autonomiju, tiesiskais regulējums būs radikāli jāmaina. Mēs vairs nevaram apgalvot, ka programmatūras kļūme ir "nepārvarama vara", lai atbrīvotu īpašnieku no atbildības. Visticamāk, mēs redzēsim obligātu īpašu civiltiesiskās atbildības apdrošināšanu un garantiju fondu izveidi, lai nodrošinātu, ka cietušie nepaliek bez kompensācijas.
Mākslīgā intelekta likums un Eiropas Savienības stratēģija
ES ir spērusi pirmo soli ar Mākslīgā intelekta regulu (MI likums) – pasaulē pirmo visaptverošo regulu šajā jomā. Šī regula tieši neattiecas uz civiltiesisko atbildību (kas ir atstāta konkrētu direktīvu ziņā), bet gan izveido ex-ante pārvaldības sistēmu . Tā klasificē MI pēc tā riska: no nepieņemama riska (aizliegta) līdz augsta riskam, kas ietver tādas nozares kā veselība, izglītība un kritiskās infrastruktūras pārvaldība.
- Augsta riska sistēmas: Tiem jāatbilst stingrām prasībām attiecībā uz pārredzamību, kiberdrošību un cilvēka uzraudzību.
- Cēloņsakarības pieņēmums: Ir ierosināts atvieglot cietušo pierādīšanu, ļaujot ņemt vērā noteiktus Mākslīgā intelekta likuma pārkāpumus. iespējama nolaidība.
- Tiesības tikt aizmirstam un GDPR: Personas datu apstrāde joprojām notiek saskaņā ar GDPR, nodrošinot, ka jebkāda personas informācijas ļaunprātīga izmantošana, izmantojot mākslīgo intelektu, noved pie efektīvas kompensācijas.
Pienākumi, lai novērstu katastrofu
Lai izvairītos no astronomiskas kompensācijas maksāšanas, uzņēmumam ir jāievieš juridiskās atbilstības pasākumi un jāizveido ētikas komitejas . Nepietiek ar to, ka sistēma vienkārši darbojas; tai ir jābūt auditējamai un pārredzamai. Profilakse ietver neobjektivitātes novēršanu apmācības datos un nodrošināšanu, ka ārkārtas gadījumā vienmēr ir pieejams cilvēks, lai deaktivizētu funkcionalitāti . Šo pienācīgas rūpības prasību neievērošana būs galvenais faktors turpmākajās tiesas prāvās, lai noteiktu, kam jāatlīdzina zaudējumi.
Virzība uz vienotu digitālo tirgu prasa, lai noteikumi visiem Eiropā būtu vienādi, neļaujot dažiem uzņēmumiem meklēt patvērumu likumīgās oāzēs ar mazāk stingrām prasībām. Tendence ir skaidra: mazāks pierādīšanas pienākums pilsoņiem un lielāka atbildība operatoriem un ražotājiem, kuri patiesībā gūst labumu no šo tehnoloģiju izmantošanas.
Juridiskā vide virzās uz saskaņošanu, kur drošība un ētika nav izvēles, bet gan prasības ienākšanai tirgū. Stingras atbildības par visbīstamākajām sistēmām apvienojums ar obligātu apdrošināšanu un stingru cilvēku uzraudzību ir vērsts uz to, lai nodrošinātu inovāciju turpināšanos, vienlaikus novēršot progresa izmaksu gultni uz visneaizsargātāko lietotāju pleciem.
