- Nepreglednost algoritmov ustvarja tveganja za ekonomsko diskriminacijo in manipulacijo prek temnih vzorcev v digitalni trgovini.
- Španski in evropski pravni okvir se razvija v smeri algoritmične preglednosti, ki zahteva informacije o prilagojenem oblikovanju cen in uporabi umetne inteligence.
- Za preprečevanje pristranskosti in zagotavljanje spoštovanja temeljnih pravic s strani tehnologije se razmišlja o vzpostavitvi državnih registrov algoritmov.
Zmagoslavni prihod umetne inteligence v naše vsakdanje življenje je trg postavil v precej občutljiv položaj. Po eni strani imamo orodja, ki nam olajšajo življenje, saj personalizirajo nakupe ali v hipu rešujejo dvome, po drugi strani pa se je odprla ogromna vrzel moči med podjetji, ki upravljajo podatke, in nami, ki preprosto kliknemo »sprejmi«.
Ni čudno, da so organizacije, kot je UNCTAD, sprožile alarm, saj tempo, s katerim umetna inteligenca napreduje, daleč prehiteva zakone, ki bi jo morali urejati. Smo na kritični točki, kjer, če se ne bomo resno lotili etičnega globalnega upravljanja , tvegamo, da bo tehnologija namesto pomoči ohranjala socialne neenakosti ali z digitalno manipulacijo zavajala najbolj ranljive.
Labirint algoritmov: resnična tveganja za vašo denarnico
Ena najbolj odmevnih tem je tako imenovano dinamično oblikovanje cen . V bistvu gre za algoritem, ki analizira, kdo ste, od kod prihajate in kaj ste si prej ogledali, da se odloči, koliko vam bo zaračunal. To pomeni, da lahko dve osebi v isti sekundi vidita različni ceni za isti let ali hotel. To lahko privede do nepoštene ekonomske diskriminacije , kjer sistem zazna, da imate višjo kupno moč, in preprosto zviša ceno, ne da bi se tega sploh zavedali.
Da bi zajezila te nezaslišane prakse, Evropska unija z direktivo Omnibus in zakoni, prenesenimi v špansko zakonodajo, zdaj od podjetij zahteva, da obvestijo potrošnike, ko so bile cene personalizirane z avtomatiziranim odločanjem . Poleg tega je bilo prepovedano algoritemsko napihovanje cen, do katerega pride, ko cene nenadzorovano naraščajo v izrednih razmerah ali nesrečah – kar bi bilo etično nesprejemljivo v vsakem kontekstu.
Digitalne pasti in manipulacija vedenja
Verjetno ste to že izkusili: želite se odjaviti od storitve in se počutite, kot da iščete pot iz labirinta. To so temni vzorci , zasnove vmesnikov, posebej ustvarjene zato, da nas zavedejo, da delamo napake ali kupujemo stvari, ki jih ne želimo. Z umetno inteligenco te pasti niso več enake za vse; v realnem času se prilagajajo vašim psihološkim slabostim .
- Zasvojljiva gamifikacija: Uporaba spremenljivih nagrad, ki vas bodo odvrnile od odlaganja telefona.
- Umetna nujnost: Lažni časovniki, ki vas silijo, da kupite zdaj.
- Zmedeno soglasje: Ogromni gumbi za sprejem in možnosti zavrnitve, skriti v drobnem tisku.
S pravnega vidika to ni nič drugega kot nepoštena poslovna praksa . Španska agencija za varstvo podatkov je jasno povedala, da privolitev, pridobljena z manipulacijo, ni dana prostovoljno, zato bi lahko te taktike razveljavile pogodbe, podpisane pod algoritmičnim pritiskom.
Nevidno oglaševanje in nevarnost ponarejanja
Oglaševanje ni več le oglas, ki prekinja videoposnetek; zdaj gre za ekstremno mikrociljanje . Umetna inteligenca lahko ustvari oglase, ki so videti kot pristna priporočila prijatelja, ali uporabi ponaredke, da vam nekdo, ki ne obstaja, proda izdelek. To postane prikrito oglaševanje , proti čemur se poskušata boriti Splošni zakon o avdiovizualnih komunikacijah in uredbe EU, ki zahtevajo, da je vsa plačana vsebina jasno prepoznavna.
Drug resen problem so avtomatizirane dezinformacije . Uporaba botov za ustvarjanje tisočev lažnih ocen izkrivlja tržno realnost. Čeprav platforme, kot je Amazon, poskušajo te ocene filtrirati, jih umetna inteligenca naredi vse bolj verodostojne, kar krši pravico potrošnikov do resničnih informacij .
Kreditno točkovanje: ko stroj odloča o vaši prihodnosti
V finančnem sektorju je uporaba umetne inteligence za ocenjevanje kreditne sposobnosti (kreditno točkovanje) pogosta, vendar nevarna. Če algoritem uporablja poštno številko kot spremenljivko, bi lahko sistematično zavrnil posojila ljudem iz sosesk z nizkimi dohodki, s čimer bi ohranil zgodovinske predsodke. Temu pravimo algoritemska pristranskost in gre za obliko posredne diskriminacije, ki jo je mogoče pravno izpodbijati.
Nova uredba EU o umetni inteligenci (AI Act) te sisteme uvršča med visoko tvegane . To pomeni, da bodo morali opraviti stroge revizije, zagotoviti nepristranskost podatkov o usposabljanju in predvsem zagotoviti pristen človeški nadzor . »Črna skrinjica« ne sme odločati o tem, ali je nekdo upravičen do stanovanja ali posojila, ne da bi nekdo, ki je odgovoren, pojasnil razloge za to odločitev.
Pravni ščit: Kateri zakoni nas ščitijo v Španiji in Evropi?
V Španiji imamo močan pravni arzenal, čeprav se zdi, da je njegovo izvajanje včasih počasno. Člen 51 ustave že določa zaščito ekonomskih interesov potrošnikov, Splošni zakon o zaščiti potrošnikov in uporabnikov (TRLGDCU) pa je temeljni zakon za boj proti nepoštenim pogojem . Poleg tega nam GDPR daje pravico, da nismo predmet odločitev, ki temeljijo izključno na avtomatiziranih procesih in nas pomembno vplivajo, kar nam omogoča, da zahtevamo človeško razlago in analiziramo pravno in civilno odgovornost v dobi umetne inteligence.
Na evropski ravni je Zakon o digitalnih storitvah (DSA) prelomnica, saj od velikih platform zahteva preglednost glede svojih sistemov priporočil in prepoveduje oglaševanje na podlagi občutljivih podatkov (vera, zdravje ali spolna usmerjenost). Medtem Zakon EU o umetni inteligenci vzpostavlja javni register za sisteme z visokim tveganjem, katerega cilj je, da bi bila tehnologija pregledna in odgovorna.
Pogled v prihodnost: predlog za državni register algoritmov
Da transparentnost ne bi bila le lepa beseda na papirju, se predlaga državni register potrošniških algoritmov . Ideja je, da bi moralo vsako podjetje, ki uporablja umetno inteligenco za določanje cen ali filtriranje strank, svoj sistem registrirati na javni platformi. Ne gre za razkritje tajne izvorne kode, temveč za predložitev jasne tehnične specifikacije, ki pojasnjuje, katere podatke uporablja in kakšna so njegova glavna merila za odločanje.
To bi podjetja prisililo k samoregulaciji : če ne morejo javno razložiti delovanja svojega algoritma, ne da bi se to zdelo diskriminatorno, je to verjetno zato, ker je. Poleg tega bi to združenjem potrošnikov in organom olajšalo izvajanje proaktivnih revizij, namesto da bi čakali, da nekdo prijavi že nastalo škodo.
Boj za naše pravice v digitalni dobi je odvisen od tega, ali bomo iz pasivnih subjektov postali opolnomočeni potrošniki. Kombinacija strogih zakonov, obvezne preglednosti in stalnega človeškega nadzora je edini način, da zagotovimo, da umetna inteligenca postane orodje za napredek in ne mehanizem za izkoriščanje. Končni cilj je, da tehnološke inovacije nikoli ne bodo imele prednosti pred človekovim dostojanstvom in avtonomijo .
