- Регулаторни оквир се развија од принципа кривице ка објективној одговорности за системе вештачке интелигенције високог ризика.
- Европска уредба о вештачкој интелигенцији успоставља ex ante управљање ризицима како би се осигурала безбедност и етика у технолошком распоређивању.
- Поправка штете суочава се са сложеним изазовима због алгоритамске непрозирности и аутономије машине.
Ових дана, чини се да не прође ни минут, а да не чујемо за ChatGPT, Perplexity или роботе који раде у операционим салама. Ова технолошка револуција је изненада ушла у наше животе и, док смо запањени колико нам ови алати олакшавају живот, они су такође отворили Пандорину кутију у правној арени. Проблем је што закон често заостаје за технологијом , и када алгоритам донесе аутономну одлуку која се завршава катастрофом, није тако једноставно као рећи: „Крива је машина.“
Улазимо у мутну област где класични концепти грађанског права не успевају. Не бавимо се само софтверским проблемом, већ системима способним да сами уче и развијају се, што праћење порекла штете чини правом главобољом. Зато је кључно анализирати како се законодавни пејзаж мења, посебно у Европској унији, како ни компаније ни корисници не би завршили у правном лимбу где нико не преузима одговорност.
Шта заправо подразумевамо под вештачком интелигенцијом из правне перспективе?
Да бисмо избегли претерано веровање, прво морамо дефинисати о чему говоримо. Европска комисија и недавно усвојена Уредба (ЕУ) 2024/1689 описују вештачку интелигенцију као системе засноване на машинама који функционишу са различитим нивоима аутономије . Они нису само програми који прате фиксни рецепт, већ обрађују улазне податке да би генерисали излазе – као што су предвиђања или одлуке – које могу да промене физички или виртуелни свет. Кључна ствар овде је да, иако симулирају интелигентно понашање, немају свест и слободну вољу , што за сада искључује давање им независног правног субјективитета.
Ризици који угрожавају наша права
Примена вештачке интелигенције није безопасна. Постоје три главна подручја ризика која забрињавају регулаторе. Прво су ризици по основна права , где су угрожени приватност и недискриминација. Употреба биометријских података за масовни надзор или алгоритамску пристрасност може довести до тога да особа буде одбијена у процесу селекције или за банкарски кредит без стварног оправдања, на основу предрасуда које је програмер ненамерно програмирао .
С друге стране, постоје безбедносни недостаци и неефикасно функционисање. Сајбер напад на финансијски систем покретан вештачком интелигенцијом или квар хируршког робота може проузроковати изузетно озбиљну материјалну и личну штету . Коначно, постоје системски ризици, од масовних дезинформација (лажних вести) до губитка посла, стварајући осећај беспомоћности код потрошача који често ни не знају да интерагују са вештачком интелигенцијом.
Лавиринт грађанске одговорности
Овде ствари постају озбиљне. Традиционално, у Шпанији се придржавамо Члана 1902 Грађанског законика, који у основи каже да ако проузрокујете штету својом кривицом или непажњом, морате је поправити. Али наравно, како доказати непажњу програмера ако је систем научио непредвиђено понашање путем машинског учења? Ова алгоритамска непрозирност чини класични модел субјективне одговорности недовољним.
Борба између кривице и ризика
Води се интензивна дебата о томе да ли треба да пређемо на модел објективне одговорности , посебно за високоризичну вештачку интелигенцију. Према овом систему, жртва не би морала да се мучи да докаже нечију непажњу; било би довољно да се покаже да је систем проузроковао штету и да постоји узрочно-последична веза. Било би слично ономе што се дешава са саобраћајним незгодама: ризик ствара онај ко ставља машину у погон, тако да би требало да буде одговоран за надокнаду штете без обзира на то да ли је постојала „лоша вера“ или не.
Критичан случај аутономних возила
Аутономни аутомобили су савршен пример ове дилеме. Тренутно постоји „црвена линија“: све док људи имају крајњу контролу, возач је одговоран. Али када достигнемо пуну аутономију, правни оквир ће морати радикално да се промени. Више не можемо тврдити да је софтверски квар „виша сила“ да бисмо ослободили власника одговорности. Вероватно ћемо видети обавезно осигурање од специфичне одговорности и стварање гарантних фондова како би се осигурало да погођени не остану без надокнаде.
Закон о вештачкој интелигенцији и стратегија Европске уније
ЕУ је направила први корак са Уредбом о вештачкој интелигенцији (AI Act), првом свеобухватном уредбом на свету о овој теми. Ова уредба се не бави директно грађанском одговорношћу (то је препуштено посебним директивама), али успоставља систем ex-ante управљања . Она класификује вештачку интелигенцију према ризику: од неприхватљивог ризика (забрањеног) до високог ризика, што укључује секторе као што су здравство, образовање и управљање критичном инфраструктуром.
- Системи високог ризика: Морају да испуњавају строге захтеве за транспарентност, сајбер безбедност и људски надзор.
- Претпоставка узрочности: Предлаже се олакшавање доказивања за жртве, омогућавајући разматрање одређених кршења Закона о вештачкој интелигенцији наводна немарност.
- Право на заборав и GDPR: Обрада личних података остаје у складу са Општом уредбом о заштити података (GDPR), осигуравајући да свака злоупотреба личних података путем вештачке интелигенције резултира ефикасном надокнадом штете.
Обавезе за спречавање катастрофе
Да би избегла плаћање астрономске надокнаде, компанија мора да имплементира мере за усклађеност са законом и етичке одборе . Није довољно да систем само функционише; мора бити ревидибилан и транспарентан. Превенција подразумева елиминисање пристрасности у подацима о обуци и осигуравање да је човек увек доступан да деактивира функционалност у случају нужде. Непоштовање ових захтева дужне пажње биће кључно у будућим тужбама за утврђивање ко треба да плати одштету.
Еволуција ка јединственом дигиталном тржишту захтева да правила буду иста за све у Европи, спречавајући неке компаније да се склоне у правна уточишта са мање строгим захтевима. Тренд је јасан: мањи терет доказивања за грађане и већа одговорност за оператере и произвођаче, који су ти који заиста профитирају од експлоатације ових технологија.
Правни пејзаж се креће ка хармонизацији где безбедност и етика нису опционе, већ услови за улазак на тржиште. Комбинација објективне одговорности за најопасније системе, заједно са обавезним осигурањем и ригорозним људским надзором, има за циљ да осигура да се иновације наставе, а да се спречи да трошкови напретка падну на плећа најрањивијих корисника.
