- Neprozirnost algoritama stvara rizike ekonomske diskriminacije i manipulacije putem mračnih obrazaca u digitalnoj trgovini.
- Španski i evropski pravni okvir se razvija prema algoritamskoj transparentnosti, zahtijevajući informacije o personalizovanom određivanju cijena i korištenju umjetne inteligencije.
- Razmatra se stvaranje državnih registara algoritama kako bi se spriječila pristranost i osiguralo da tehnologija poštuje temeljna prava.
Trijumfalni dolazak vještačke inteligencije u naš svakodnevni život doveo je tržište u prilično delikatnu situaciju. S jedne strane, imamo alate koji nam olakšavaju život, personalizirajući ono što kupujemo ili rješavajući nedoumice u tren oka, ali s druge strane, otvorio se ogroman jaz moći između kompanija koje upravljaju podacima i nas, koji jednostavno kliknemo na "prihvati".
Nije ni čudo što su organizacije poput UNCTAD-a oglasile uzbunu, jer tempo kojim napreduje umjetna inteligencija daleko nadmašuje zakone koji bi je trebali regulirati. Nalazimo se na kritičnoj prekretnici gdje, ako se ne shvatimo ozbiljno po pitanju etičkog globalnog upravljanja , riskiramo da tehnologija, umjesto da nam pomaže, održava društvene nejednakosti ili obmanjuje najugroženije digitalnom manipulacijom.
Labirint algoritama: stvarni rizici za vaš novčanik
Jedno od najčešće spominjanih pitanja je takozvano dinamičko određivanje cijena . U osnovi, ono uključuje algoritam koji analizira ko ste, odakle letite i šta ste ranije gledali kako bi odlučio koliko će vam naplatiti. To znači da dvije osobe mogu vidjeti različite cijene za isti let ili hotel u istoj sekundi. To može dovesti do nepravedne ekonomske diskriminacije , gdje sistem otkrije da imate veću kupovnu moć i jednostavno podiže cijenu, a da vi to i ne primijetite.
Kako bi se suzbile ove nečuvene prakse, Evropska unija, putem Omnibus direktive i zakona prenesenih u španski zakon, sada zahtijeva od kompanija da obavijeste potrošače kada su cijene personalizirane putem automatiziranog donošenja odluka . Nadalje, algoritamsko povećanje cijena, koje se događa kada cijene nekontrolirano rastu u vanrednim situacijama ili katastrofama, zabranjeno je - nešto što bi bilo etički neprihvatljivo u bilo kojem kontekstu.
Digitalne zamke i manipulacija ponašanjem
Vjerovatno ste ovo iskusili: želite se odjaviti s neke usluge i osjećate se kao da tražite izlaz iz lavirinta. To su mračni obrasci , dizajni interfejsa posebno kreirani da nas prevare da napravimo greške ili kupimo stvari koje ne želimo. S umjetnom inteligencijom, ove zamke više nisu iste za sve; one se prilagođavaju vašim psihološkim slabostima u stvarnom vremenu.
- Zarazna gejmifikacija: Korištenje varijabilnih nagrada kako biste spriječili da odložite telefon.
- Umjetna hitnost: Lažni tajmeri koji vas pritiskaju da kupite odmah.
- Zbunjujuća saglasnost: Ogromna dugmad za prihvatanje i opcije za odbijanje skrivene u sitnom tisku.
Sa pravnog stanovišta, ovo nije ništa više od nepoštene poslovne prakse . Španska Agencija za zaštitu podataka jasno je stavila do znanja da pristanak dobijen manipulacijom nije dat slobodno, te da bi stoga ove taktike mogle poništiti ugovore potpisane pod algoritamskim pritiskom.
Nevidljivo oglašavanje i opasnost od deepfakeova
Oglašavanje više nije samo reklama koja prekida video; to je sada ekstremno mikro-targetiranje . Vještačka inteligencija može kreirati oglase koji izgledaju kao prave preporuke prijatelja ili koristiti deepfakeove kako bi vam neko ko ne postoji prodao proizvod. Ovo postaje prikriveno oglašavanje , nešto protiv čega se Opći zakon o audiovizuelnoj komunikaciji i propisi EU pokušavaju boriti tako što zahtijevaju da sav plaćeni sadržaj bude jasno prepoznatljiv.
Još jedan ozbiljan problem su automatizirane dezinformacije . Korištenje botova za generiranje hiljada lažnih recenzija iskrivljuje tržišnu stvarnost. Iako platforme poput Amazona pokušavaju da ih filtriraju, vještačka inteligencija ih čini sve kredibilnijim, kršeći pravo potrošača na istinite informacije .
Kreditni bodovanje: kada mašina odlučuje o vašoj budućnosti
U finansijskom sektoru, upotreba umjetne inteligencije za procjenu kreditne sposobnosti (kreditni bodovanje) je uobičajena, ali opasna. Ako algoritam koristi poštanski broj kao varijablu, mogao bi sistematski uskraćivati kredite ljudima iz siromašnih naselja, održavajući historijske predrasude. To nazivamo algoritamskom pristranošću i to je oblik indirektne diskriminacije koji se može pravno osporiti.
Nova Uredba EU o vještačkoj inteligenciji (AI Act) klasificira ove sisteme kao visokorizične . To znači da će morati proći rigorozne revizije, osigurati nepristrasnost podataka o obuci i, prije svega, garantirati istinski ljudski nadzor . Ne smije se dozvoliti da "crna kutija" odlučuje o tome da li neko ispunjava uslove za stanovanje ili kredit bez nekoga ko je odgovoran da objasni razloge za takvu odluku.
Pravni štit: Koji nas zakoni štite u Španiji i Evropi?
U Španiji imamo moćan pravni arsenal, iako se ponekad čini sporim u njegovoj primjeni. Član 51. Ustava već nalaže zaštitu ekonomskih interesa potrošača, a Opći zakon o zaštiti potrošača i korisnika (TRLGDCU) je osnovni zakon za borbu protiv nepoštenih odredbi . Nadalje, GDPR nam daje pravo da ne budemo predmet odluka zasnovanih isključivo na automatiziranim procesima koji značajno utiču na nas, omogućavajući nam da zahtijevamo ljudsko objašnjenje i analiziramo pravnu i građansku odgovornost u doba umjetne inteligencije.
Na evropskom nivou, Zakon o digitalnim uslugama (DSA) je prekretnica jer zahtijeva od velikih platformi da budu transparentne u pogledu svojih sistema preporuka i zabranjuje oglašavanje na osnovu osjetljivih podataka (religija, zdravlje ili seksualna orijentacija). U međuvremenu, Zakon EU o umjetnoj inteligenciji uspostavlja javni registar za visokorizične sisteme, s ciljem da tehnologija bude podložna reviziji i odgovorna.
Pogled u budućnost: prijedlog za državni registar algoritama
Kako bi se osiguralo da transparentnost nije samo lijepa riječ na papiru, predlaže se Državni registar potrošačkih algoritama . Ideja je da svaka kompanija koja koristi vještačku inteligenciju za određivanje cijena ili filtriranje kupaca mora registrovati svoj sistem na javnoj platformi. Ovdje se ne radi o otkrivanju tajnog izvornog koda, već o podnošenju jasne tehničke specifikacije koja objašnjava koje podatke koristi i koji su njeni glavni kriteriji za odlučivanje.
Ovo bi prisililo kompanije da primjenjuju samoregulaciju : ako ne mogu javno objasniti kako njihov algoritam funkcionira, a da to ne izgleda diskriminirajuće, vjerovatno je to zato što to i jeste. Nadalje, to bi olakšalo udruženjima potrošača i vlastima da provode proaktivne revizije umjesto da čekaju da neko prijavi štetu koja se već dogodila.
Borba za naša prava u digitalnom dobu zavisi od našeg prelaska iz pasivnih subjekata u osnažene potrošače. Kombinacija strogih zakona, obavezne transparentnosti i stalnog ljudskog nadzora jedini je način da se osigura da vještačka inteligencija postane alat za napredak, a ne mehanizam za eksploataciju. U konačnici, cilj je da tehnološke inovacije nikada ne budu stavljene pred ljudsko dostojanstvo i autonomiju .
