- Непрозрачността на алгоритмите създава рискове от икономическа дискриминация и манипулация чрез тъмни модели в дигиталната търговия.
- Испанската и европейската правна рамка се развива към алгоритмична прозрачност, изисквайки информация за персонализирано ценообразуване и използването на изкуствен интелект.
- Създаването на държавни регистри на алгоритми се разглежда, за да се предотврати предубеждението и да се гарантира, че технологиите зачитат основните права.
Триумфалното навлизане на изкуствения интелект в ежедневието ни постави пазара в доста деликатна ситуация. От една страна, имаме инструменти, които улесняват живота ни, персонализирайки това, което купуваме, или разрешавайки съмненията за миг, но от друга страна, се отвори огромна пропаст във властта между компаниите, които управляват данните, и нас, които просто кликваме върху „приемам“.
Не е чудно, че организации като UNCTAD бият тревога, тъй като темпото, с което се развива изкуственият интелект, далеч изпреварва законите, които би трябвало да го регулират. Намираме се в критичен момент, в който, ако не се отнесем сериозно към етичното глобално управление , рискуваме технологиите, вместо да ни помагат, да увековечат социалните неравенства или да заблуждават най-уязвимите чрез дигитална манипулация.
Лабиринтът от алгоритми: реални рискове за вашия портфейл
Един от най-обсъжданите проблеми е така нареченото динамично ценообразуване . По принцип това включва алгоритъм, който анализира кой сте, откъде се свързвате и какво сте разглеждали преди, за да реши колко да ви таксува. Това означава, че двама души могат да видят различни цени за един и същ полет или хотел в една и съща секунда. Това може да доведе до несправедлива икономическа дискриминация , при която системата открива, че имате по-висока покупателна способност и просто повишава цената, без дори да забележите.
За да ограничи тези скандални практики, Европейският съюз, чрез Директивата „Омнибус“ и законите, транспонирани в испанското законодателство, вече изисква от компаниите да уведомяват потребителите, когато цените са персонализирани чрез автоматизирано вземане на решения . Освен това, алгоритмичното завишаване на цените, което се случва, когато цените се покачват неконтролируемо при извънредни ситуации или бедствия, е забранено – нещо, което би било етично неприемливо във всякакъв контекст.
Дигитални капани и манипулация на поведението
Вероятно сте преживявали това: искате да се отпишете от услуга и се чувствате сякаш търсите изход от лабиринт. Това са тъмни модели , дизайни на интерфейси, специално създадени, за да ни подведат да правим грешки или да купуваме неща, които не искаме. С изкуствения интелект тези капани вече не са еднакви за всички; те се адаптират към вашите психологически слабости в реално време.
- Пристрастяваща геймификация: Използване на променливи награди, за да не оставяте телефона си.
- Изкуствена неотложност: Фалшиви таймери, които ви притискат да купите сега.
- Объркващо съгласие: Гигантски бутони за приемане и опции за отказ, скрити в дребен шрифт.
От правна гледна точка това не е нищо повече от нелоялна бизнес практика . Испанската агенция за защита на данните ясно заяви, че съгласието, получено чрез манипулация, не е дадено свободно и следователно тези тактики биха могли да направят невалидни договори, подписани под алгоритмичен натиск.
Невидимата реклама и опасността от дийпфейкове
Рекламата вече не е просто реклама, прекъсваща видеото; сега това е екстремно микротаргетиране . Изкуственият интелект може да създава реклами, които изглеждат като истински препоръки от приятел, или да използва дийпфейкове, за да накара някой, който не съществува, да ви продаде продукт. Това се превръща в скрита реклама , нещо, с което Общият закон за аудио-визуалните комуникации и регламентите на ЕС се опитват да се борят, като изискват цялото платено съдържание да бъде ясно разпознаваемо.
Друг сериозен проблем е автоматизираната дезинформация . Използването на ботове за генериране на хиляди фалшиви отзиви изкривява пазарната реалност. Въпреки че платформи като Amazon се опитват да ги филтрират, изкуственият интелект ги прави все по-достоверни, нарушавайки правото на потребителите на достоверна информация .
Кредитен скоринг: когато машина решава вашето бъдеще
Във финансовия сектор използването на изкуствен интелект за оценка на кредитоспособността (кредитен рейтинг) е често срещано, но опасно. Ако даден алгоритъм използва пощенски код като променлива, той може систематично да отказва заеми на хора от квартали с ниски доходи, като по този начин увековечава исторически предразсъдъци. Това наричаме алгоритмично пристрастие и е форма на непряка дискриминация, която може да бъде оспорена по закон.
Новият регламент на ЕС за изкуствения интелект (AI Act) класифицира тези системи като високорискови . Това означава, че те ще трябва да преминат през строги одити, да гарантират безпристрастността на данните от обучението и най-вече да гарантират истински човешки надзор . Не може да се позволи „черна кутия“ да решава дали някой отговаря на условията за жилище или заем, без някой, който да е отговорен и да обясни мотивите за решението.
Правният щит: Какви закони ни защитават в Испания и Европа?
В Испания разполагаме с мощен правен арсенал, макар понякога да изглежда бавно прилагането му. Член 51 от Конституцията вече предвижда защитата на икономическите интереси на потребителите, а Общият закон за защита на потребителите и ползвателите (TRLGDCU) е основният закон за борба с неравноправните клаузи . Освен това, GDPR ни предоставя правото да не бъдем обект на решения, основани единствено на автоматизирани процеси, които ни засягат значително, което ни позволява да изискваме човешко обяснение и да анализираме правната и гражданската отговорност в ерата на изкуствения интелект.
На европейско ниво Законът за цифровите услуги (DSA) е важен, защото изисква от големите платформи да бъдат прозрачни относно своите системи за препоръки и забранява рекламирането, основано на чувствителни данни (религия, здраве или сексуална ориентация). Междувременно Законът за изкуствения интелект на ЕС създава публичен регистър за високорискови системи, с цел да направи технологията одитируема и отчетна.
Поглед към бъдещето: предложението за държавен регистър на алгоритмите
За да се гарантира, че прозрачността не е просто красива дума на хартия, се предлага Държавен регистър на потребителските алгоритми . Идеята е всяка компания, използваща изкуствен интелект за определяне на цени или филтриране на клиенти, да трябва да регистрира системата си на публична платформа. Не става въпрос за разкриване на секретен изходен код, а по-скоро за представяне на ясна техническа спецификация, обясняваща какви данни използва и какви са основните ѝ критерии за вземане на решения.
Това би принудило компаниите да упражняват саморегулация : ако не могат публично да обяснят как работи техният алгоритъм, без това да изглежда дискриминационно, вероятно е така, защото е такъв. Освен това, това би улеснило потребителските асоциации и органите да провеждат проактивни одити, вместо да чакат някой да съобщи за вече настъпили вреди.
Борбата за нашите права в дигиталната ера зависи от това да преминем от пасивни субекти към овластени потребители. Комбинацията от строги закони, задължителна прозрачност и постоянен човешки надзор е единственият начин да се гарантира, че изкуственият интелект ще се превърне в инструмент за прогрес, а не в механизъм за експлоатация. В крайна сметка целта е технологичните иновации никога да не имат предимство пред човешкото достойнство и автономност .
