- Regulatiivne raamistik areneb süü põhimõttelt range vastutuse suunas kõrge riskiga tehisintellekti süsteemide puhul.
- Euroopa tehisintellekti määrus kehtestab eelneva riskijuhtimise, et tagada tehnoloogia juurutamise ohutus ja eetika.
- Kahjustuste parandamine seisab silmitsi keerukate väljakutsetega algoritmilise läbipaistmatuse ja masina autonoomia tõttu.
Tänapäeval tundub, et ei möödu minutitki, ilma et me kuuleksime ChatGPT-st, Perplexityst või operatsioonisaalides töötavatest robotitest. See tehnoloogiline revolutsioon on meie ellu ootamatult maandunud ja kuigi me oleme hämmastunud, kui hõlpsalt need tööriistad meie elu lihtsamaks teevad, on need avanud ka õigusvaldkonnas Pandora laeka. Probleem on selles, et õigus jääb tehnoloogiast sageli maha ja kui algoritm teeb autonoomse otsuse, mis lõpeb katastroofiga, ei ole see nii lihtne kui öelda: "See on masina süü."
Me siseneme segasesse valdkonda, kus tsiviilõiguse klassikalised kontseptsioonid jäävad alla ootuste. Me ei tegele ainult tarkvaraprobleemiga, vaid süsteemidega, mis on võimelised iseseisvalt õppima ja arenema , muutes kahjude päritolu kindlakstegemise tõeliseks peavaluks. Seetõttu on oluline analüüsida, kuidas seadusandlik maastik muutub, eriti Euroopa Liidus, et ei ettevõtted ega kasutajad satuks õiguslikku ebakindlusse, kus keegi ei võta vastutust.
Mida me tehisintellekti all juriidilisest vaatenurgast tegelikult mõistame?
Uskumuste vältimiseks peame kõigepealt defineerima, millest me räägime. Euroopa Komisjon ja hiljutine määrus (EL) 2024/1689 kirjeldavad tehisintellekti kui masinapõhiseid süsteeme, mis töötavad erineva autonoomia tasemega . Need ei ole lihtsalt programmid, mis järgivad kindlat retsepti, vaid töötlevad sisendandmeid väljundite – näiteks ennustuste või otsuste – genereerimiseks, mis võivad muuta füüsilist või virtuaalset maailma. Põhipunkt on siin see, et kuigi nad simuleerivad intelligentset käitumist, puudub neil teadvus ja vaba tahe , mis praegu välistab neile iseseisva juriidilise isiku staatuse andmise.
Riskid, mis ohustavad meie õigusi
Tehisintellekti kasutuselevõtt ei ole kahjutu. Reguleerivaid asutusi vaevavad kolm peamist riskivaldkonda. Esiteks on need riskid põhiõigustele , kus on ohus privaatsus ja mittediskrimineerimine. Biomeetriliste andmete kasutamine massijälgimiseks või algoritmiliseks kallutatuseks võib viia olukorrani, kus inimene lükatakse valikuprotsessis või antakse pangalaenu ilma tegeliku põhjenduseta tagasi, tuginedes arendaja tahtmatult programmeeritud eelarvamustele .
Teisest küljest on olemas turvavead ja ebaefektiivne toimimine. Küberrünnak tehisintellektil põhinevale finantssüsteemile või kirurgilise roboti rike võib põhjustada äärmiselt tõsist materiaalset ja isiklikku kahju . Lõpuks on olemas süsteemsed riskid, alates massilisest desinformatsioonist (võltsuudised) kuni töökoha kadumiseni, mis tekitab tarbijates abitustunde, kuna nad sageli isegi ei tea, et nad tehisintellektiga suhtlevad.
Tsiviilvastutuse labürint
Siin läheb asi tõsiseks. Traditsiooniliselt järgime Hispaanias tsiviilseadustiku artiklit 1902, mis põhimõtteliselt sätestab, et kui tekitate kahju süü või hooletuse tõttu, peate selle heastama. Aga kuidas tõestada programmeerija hooletust, kui süsteem õppis masinõppe abil ettenägematu käitumise? See algoritmiline läbipaistmatus muudab subjektiivse vastutuse klassikalise mudeli ebapiisavaks.
Võitlus süü ja riski vahel
Käib äge arutelu selle üle, kas peaksime üle minema objektiivse vastutuse mudelile , eriti kõrge riskiga tehisintellekti puhul. Selle süsteemi kohaselt ei peaks ohver nägema vaeva kellegi hooletuse tõestamisega; piisaks sellest, kui näidata, et süsteem põhjustas kahju ja et on olemas põhjuslik seos. See sarnaneks liiklusõnnetustega: riski loob see, kes masina tööle paneb, seega peaks ta olema hüvitise eest vastutav olenemata sellest, kas tegemist oli "pahatahtlikkusega" või mitte.
Autonoomsete sõidukite kriitiline juhtum
Isejuhtivad autod on selle dilemma ideaalne näide. Praegu on olemas „punane joon“: seni, kuni inimestel on lõplik kontroll, vastutab juht. Kuid kui saavutame täieliku autonoomia, peab õigusraamistik radikaalselt muutuma. Me ei saa enam väita, et tarkvararike on „vääramatu jõud“, et omanikku vastutusest vabastada. Tõenäoliselt näeme kohustuslikku spetsiaalset vastutuskindlustust ja tagatisfondide loomist, et tagada, et kannatanud ei jääks hüvitiseta.
Tehisintellekti seadus ja Euroopa Liidu strateegia
EL on astunud esimese sammu tehisintellekti määrusega (AI Act), mis on maailma esimene terviklik määrus sellel teemal. See määrus ei käsitle otseselt tsiviilvastutust (mis on jäetud konkreetsete direktiivide reguleerimisalasse), kuid sellega luuakse eelneva juhtimise süsteem . See liigitab tehisintellekti vastavalt selle riskile: vastuvõetamatust riskist (keelatud) kuni kõrge riskini, mis hõlmab selliseid sektoreid nagu tervishoid, haridus ja kriitilise taristu haldamine.
- Kõrge riskiga süsteemid: Nad peavad vastama rangetele läbipaistvuse, küberturvalisuse ja inimjärelevalve nõuetele.
- Põhjuslikkuse eeldus: Tehakse ettepanek ohvritele tõendite esitamise hõlbustamiseks, võimaldades arvestada tehisintellekti seaduse teatud rikkumistega. väidetav hooletus.
- Õigus olla unustatud ja isikuandmete kaitse üldmäärus (GDPR): Isikuandmete töötlemine jääb isikuandmete kaitse üldmääruse alla, tagades, et isikuandmete väärkasutamine tehisintellekti kaudu toob kaasa tõhusa hüvitise.
Kohustused katastroofi vältimiseks
Astronoomilise hüvitise maksmise vältimiseks peab ettevõte rakendama juriidilisi vastavusmeetmeid ja moodustama eetikakomiteesid . Süsteemi toimimisest ei piisa; see peab olema auditeeritav ja läbipaistev. Ennetamine hõlmab treeningandmete eelarvamuste kõrvaldamist ja tagamist, et hädaolukorras on funktsionaalsuse deaktiveerimiseks alati olemas inimene. Nende hoolsuskohustuste mittetäitmine on tulevastes kohtuasjades võtmetähtsusega, et teha kindlaks, kes peaks kahjutasu maksma.
Ühtse digitaalse turu suunas liikumine eeldab, et reeglid oleksid kõigile Euroopas samad, mis takistaks mõnel ettevõttel otsimast pelgupaika leebemate nõuetega seaduslikest oaasidest. Suundumus on selge: kodanikel on vähem tõendamiskohustust ja operaatoritel ning tootjatel on suurem vastutus, kuna just nemad saavad nende tehnoloogiate kasutamisest tegelikult kasu.
Õigusmaastik liigub ühtlustamise suunas, kus ohutus ja eetika ei ole valikulised, vaid pigem turule sisenemise nõuded. Kõige ohtlikumate süsteemide range vastutuse, kohustusliku kindlustuse ja range inimjärelevalve kombinatsioon on suunatud innovatsiooni jätkumise tagamisele, vältides samal ajal edusammude kulude langemist kõige haavatavamate kasutajate õlgadele.
