- Непрозирност алгоритама ствара ризике економске дискриминације и манипулације кроз мрачне обрасце у дигиталној трговини.
- Шпански и европски правни оквир се развија ка алгоритамској транспарентности, захтевајући информације о персонализованом одређивању цена и коришћењу вештачке интелигенције.
- Разматра се стварање државних регистара алгоритама како би се спречила пристрасност и осигурало да технологија поштује основна права.
Тријумфални долазак вештачке интелигенције у наш свакодневни живот ставио је тржиште у прилично деликатну ситуацију. С једне стране, имамо алате који нам олакшавају живот, персонализујући оно што купујемо или решавајући недоумице у трен ока, али с друге стране, отворио се огроман јаз моћи између компанија које управљају подацима и нас, који једноставно кликнемо на „прихвати“.
Није ни чудо што су организације попут УНЦТАД-а огласиле узбуну, јер темпо којим вештачка интелигенција напредује далеко превазилази законе који би требало да је регулишу. Налазимо се на критичној прекретници где, ако не схватимо озбиљно етичко глобално управљање , ризикујемо да технологија, уместо да нам помогне, продужава друштвене неједнакости или обмањује најрањивије дигиталном манипулацијом.
Лавиринт алгоритама: стварни ризици за ваш новчаник
Једно од најчешће дискутованих питања је такозвано динамичко одређивање цена . У основи, то подразумева алгоритам који анализира ко сте, одакле се повезујете и шта сте раније гледали како би одлучио колико ће вам наплатити. То значи да две особе могу видети различите цене за исти лет или хотел у истој секунди. То може довести до неправедне економске дискриминације , где систем детектује да имате већу куповну моћ и једноставно подиже цену, а да ви то и не приметите.
Да би обуздала ове скандалозне праксе, Европска унија, путем Омнибус директиве и закона транспонованих у шпанско право, сада захтева од компанија да обавесте потрошаче када су цене персонализоване путем аутоматизованог доношења одлука . Штавише, алгоритамско надувавање цена, које се дешава када цене неконтролисано расту у ванредним ситуацијама или катастрофама, забрањено је – нешто што би било етички неприхватљиво у било ком контексту.
Дигиталне замке и манипулација понашањем
Вероватно сте ово искусили: желите да се одјавите са услуге и осећате се као да тражите излаз из лавиринта. То су мрачни обрасци , дизајни интерфејса посебно креирани да нас преваре да правимо грешке или купујемо ствари које не желимо. Са вештачком интелигенцијом, ове замке више нису исте за све; оне се прилагођавају вашим психолошким слабостима у реалном времену.
- Зависна гејмификација: Коришћење променљивих награда како бисте спречили да спустите телефон.
- Вештачка хитност: Лажни тајмери који вас притискају да купите одмах.
- Збуњујућа сагласност: Џиновска дугмад за прихватање и опције за одбијање скривене у ситним словима.
Са правног становишта, ово није ништа више од неправедне пословне праксе . Шпанска агенција за заштиту података је јасно ставила до знања да сагласност добијена манипулацијом није дата слободно и да би стога ове тактике могле да пониште уговоре потписане под алгоритамским притиском.
Невидљиво оглашавање и опасност од дипфејкова
Оглашавање више није само реклама која прекида видео; то је сада екстремно микро-таргетирање . Вештачка интелигенција може да креира огласе који изгледају као праве препоруке пријатеља или да користи дипфејкове како би неко ко не постоји продао производ. Ово постаје прикривено оглашавање , нешто против чега се Општи закон о аудио-визуелним комуникацијама и прописи ЕУ покушавају борити захтевајући да сав плаћени садржај буде јасно препознатљив.
Још један озбиљан проблем су аутоматизоване дезинформације . Употреба ботова за генерисање хиљада лажних рецензија искривљује тржишну стварност. Иако платформе попут Амазона покушавају да их филтрирају, вештачка интелигенција их чини све веродостојнијим, кршећи право потрошача на истините информације .
Кредитни скоринг: када машина одлучује о вашој будућности
У финансијском сектору, употреба вештачке интелигенције за процену кредитне способности (кредитни бодинг) је уобичајена, али опасна. Ако алгоритам користи поштански број као променљиву, могао би да заврши систематски ускраћујући кредите људима из насеља са ниским приходима, одржавајући историјске предрасуде. То називамо алгоритамском пристрасношћу и то је облик индиректне дискриминације који се може правно оспорити.
Нова Уредба ЕУ о вештачкој интелигенцији (AI Act) класификује ове системе као системе високог ризика . То значи да ће морати да прођу ригорозне ревизије, да осигурају непристрасност података о обуци и, пре свега, да гарантују истински људски надзор . Не може се дозволити да „црна кутија“ одлучује да ли неко испуњава услове за становање или кредит, а да неко ко је одговоран не објасни разлоге за такву одлуку.
Правни штит: Који закони нас штите у Шпанији и Европи?
У Шпанији имамо моћан правни арсенал, иако се понекад чини да је његова примена спора. Члан 51. Устава већ налаже заштиту економских интереса потрошача, а Општи закон о заштити потрошача и корисника (TRLGDCU) је основни закон за борбу против неправедних одредби . Штавише, GDPR нам даје право да не будемо предмет одлука заснованих искључиво на аутоматизованим процесима који значајно утичу на нас, омогућавајући нам да захтевамо људско објашњење и анализирамо правну и грађанску одговорност у доба вештачке интелигенције.
На европском нивоу, Закон о дигиталним услугама (DSA) је прекретница јер захтева од великих платформи да буду транспарентне у вези са својим системима препорука и забрањује оглашавање засновано на осетљивим подацима (религија, здравље или сексуална оријентација). У међувремену, Закон ЕУ о вештачкој интелигенцији успоставља јавни регистар за системе високог ризика, са циљем да технологију учини ревидираном и одговорном.
Поглед у будућност: предлог за државни регистар алгоритама
Да би се осигурало да транспарентност није само лепа реч на папиру, предлаже се Државни регистар потрошачких алгоритама . Идеја је да свака компанија која користи вештачку интелигенцију за одређивање цена или филтрирање купаца мора да региструје свој систем на јавној платформи. Овде се не ради о откривању тајног изворног кода, већ о подношењу јасне техничке спецификације која објашњава које податке користи и који су њени главни критеријуми за одлучивање.
Ово би приморало компаније да спроводе саморегулацију : ако не могу јавно да објасне како њихов алгоритам функционише, а да то не делује дискриминаторно, вероватно је то зато што јесте. Штавише, то би олакшало удружењима потрошача и властима да спроводе проактивне ревизије уместо да чекају да неко пријави штету која се већ догодила.
Борба за наша права у дигиталном добу зависи од тога да ли ћемо прећи са пасивних субјеката на оснажене потрошаче. Комбинација строгих закона, обавезне транспарентности и сталног људског надзора једини је начин да се осигура да вештачка интелигенција постане алат за напредак, а не механизам за експлоатацију. У крајњој линији, циљ је да технолошке иновације никада не пређу у односу на људско достојанство и аутономију .
