- Neprozirnost algoritama stvara rizike ekonomske diskriminacije i manipulacije putem mračnih obrazaca u digitalnoj trgovini.
- Španjolski i europski pravni okvir razvija se prema algoritamskoj transparentnosti, zahtijevajući informacije o personaliziranom određivanju cijena i korištenju umjetne inteligencije.
- Razmatra se stvaranje državnih registara algoritama kako bi se spriječila pristranost i osiguralo da tehnologija poštuje temeljna prava.
Trijumfalni dolazak umjetne inteligencije u naš svakodnevni život doveo je tržište u prilično delikatnu situaciju. S jedne strane imamo alate koji nam olakšavaju život, personalizirajući ono što kupujemo ili rješavajući nedoumice u tren oka, ali s druge strane, otvorio se ogroman jaz moći između tvrtki koje upravljaju podacima i nas, koji jednostavno kliknemo "prihvati".
Nije ni čudo da su organizacije poput UNCTAD-a oglasile uzbunu, jer tempo kojim umjetna inteligencija napreduje daleko nadmašuje zakone koji bi je trebali regulirati. Nalazimo se na kritičnoj točki gdje, ako se ne shvatimo ozbiljno po pitanju etičkog globalnog upravljanja , riskiramo da tehnologija, umjesto da nam pomaže, produbljuje društvene nejednakosti ili obmanjuje najranjivije digitalnom manipulacijom.
Labirint algoritama: stvarni rizici za vaš novčanik
Jedno od najčešće spominjanih pitanja je takozvano dinamičko određivanje cijena . U osnovi, radi se o algoritmu koji analizira tko ste, odakle letite i što ste prethodno pogledali kako bi odlučio koliko će vam naplatiti. To znači da dvije osobe mogu vidjeti različite cijene za isti let ili hotel u istoj sekundi. To može dovesti do nepravedne ekonomske diskriminacije , gdje sustav otkrije da imate veću kupovnu moć i jednostavno podiže cijenu, a da vi to i ne primijetite.
Kako bi suzbila ove nečuvene prakse, Europska unija, putem Omnibus direktive i zakona prenesenih u španjolski zakon, sada zahtijeva od tvrtki da obavijeste potrošače kada su cijene personalizirane putem automatiziranog donošenja odluka . Nadalje, algoritamsko napuhavanje cijena, koje se događa kada cijene nekontrolirano rastu u izvanrednim situacijama ili katastrofama, zabranjeno je - nešto što bi bilo etički neprihvatljivo u bilo kojem kontekstu.
Digitalne zamke i manipulacija ponašanjem
Vjerojatno ste ovo iskusili: želite se odjaviti s usluge i osjećate se kao da tražite izlaz iz labirinta. To su mračni obrasci , dizajni sučelja posebno stvoreni da nas prevare da napravimo pogreške ili kupimo stvari koje ne želimo. S umjetnom inteligencijom, ove zamke više nisu iste za sve; one se prilagođavaju vašim psihološkim slabostima u stvarnom vremenu.
- Zarazna gamifikacija: Korištenje varijabilnih nagrada kako biste spriječili da spustite telefon.
- Umjetna hitnost: Lažni mjerači vremena koji vas prisiljavaju da kupite odmah.
- Zbunjujući pristanak: Divovski gumbi za prihvaćanje i opcije za odbijanje skriveni u sitnom tisku.
S pravnog stajališta, ovo nije ništa više od nepoštene poslovne prakse . Španjolska agencija za zaštitu podataka jasno je dala do znanja da privola dobivena manipulacijom nije data slobodno, te da bi stoga ove taktike mogle poništiti ugovore potpisane pod algoritamskim pritiskom.
Nevidljivo oglašavanje i opasnost od deepfakeova
Oglašavanje više nije samo reklama koja prekida video; to je sada ekstremno mikro-ciljanje . Umjetna inteligencija može stvarati oglase koji izgledaju kao prave preporuke prijatelja ili koristiti deepfakeove kako bi netko tko ne postoji prodao proizvod. To postaje prikriveno oglašavanje , nešto protiv čega se Opći zakon o audiovizualnoj komunikaciji i propisi EU pokušavaju boriti zahtijevajući da sav plaćeni sadržaj bude jasno prepoznatljiv.
Još jedan ozbiljan problem su automatizirane dezinformacije . Korištenje botova za generiranje tisuća lažnih recenzija iskrivljuje tržišnu stvarnost. Iako platforme poput Amazona pokušavaju ih filtrirati, umjetna inteligencija ih čini sve vjerodostojnijima, kršeći pravo potrošača na istinite informacije .
Kreditni bodovanje: kada stroj odlučuje o vašoj budućnosti
U financijskom sektoru, korištenje umjetne inteligencije za procjenu kreditne sposobnosti (kreditnog bodovanja) je uobičajeno, ali opasno. Ako algoritam koristi poštanski broj kao varijablu, mogao bi sustavno uskraćivati kredite ljudima iz siromašnih naselja, održavajući povijesne predrasude. To nazivamo algoritamskom pristranošću i to je oblik neizravne diskriminacije koji se može pravno osporiti.
Nova uredba EU o umjetnoj inteligenciji (AI Act) klasificira ove sustave kao visokorizične . To znači da će morati proći rigorozne revizije, osigurati nepristranost podataka o obuci i, prije svega, jamčiti istinski ljudski nadzor . Ne smije se dopustiti da "crna kutija" odlučuje ispunjava li netko uvjete za stanovanje ili kredit bez nekoga tko je odgovoran da objasni razloge odluke.
Pravni štit: Koji nas zakoni štite u Španjolskoj i Europi?
U Španjolskoj imamo snažan pravni arsenal, iako se ponekad čini sporim za provedbu. Članak 51. Ustava već nalaže zaštitu ekonomskih interesa potrošača, a Opći zakon za obranu potrošača i korisnika (TRLGDCU) temeljni je zakon za borbu protiv nepoštenih uvjeta . Nadalje, GDPR nam daje pravo da ne budemo podložni odlukama temeljenim isključivo na automatiziranim procesima koji značajno utječu na nas, omogućujući nam da zahtijevamo ljudsko objašnjenje i analiziramo pravnu i građansku odgovornost u doba umjetne inteligencije.
Na europskoj razini, Zakon o digitalnim uslugama (DSA) je prekretnica jer zahtijeva od velikih platformi da budu transparentne u pogledu svojih sustava preporuka i zabranjuje oglašavanje na temelju osjetljivih podataka (religija, zdravlje ili seksualna orijentacija). U međuvremenu, Zakon o umjetnoj inteligenciji EU uspostavlja javni registar za visokorizične sustave, s ciljem da tehnologija bude podložna reviziji i odgovorna.
Pogled u budućnost: prijedlog za državni registar algoritama
Kako bi se osiguralo da transparentnost nije samo lijepa riječ na papiru, predlaže se Državni registar potrošačkih algoritama . Ideja je da svaka tvrtka koja koristi umjetnu inteligenciju za određivanje cijena ili filtriranje kupaca mora registrirati svoj sustav na javnoj platformi. Ne radi se o otkrivanju tajnog izvornog koda, već o podnošenju jasne tehničke specifikacije koja objašnjava koje podatke koristi i koji su joj glavni kriteriji odlučivanja.
To bi prisililo tvrtke na samoregulaciju : ako ne mogu javno objasniti kako njihov algoritam funkcionira, a da to ne izgleda diskriminirajuće, vjerojatno je to zato što jest. Nadalje, to bi olakšalo udrugama potrošača i vlastima provođenje proaktivnih revizija umjesto čekanja da netko prijavi štetu koja se već dogodila.
Borba za naša prava u digitalnom dobu ovisi o tome hoćemo li se od pasivnih subjekata pretvoriti u osnažene potrošače. Kombinacija strogih zakona, obvezne transparentnosti i stalnog ljudskog nadzora jedini je način da se osigura da umjetna inteligencija postane alat za napredak, a ne mehanizam za iskorištavanje. U konačnici, cilj je da tehnološke inovacije nikada ne budu ispred ljudskog dostojanstva i autonomije .
