- Nepriehľadnosť algoritmov vytvára riziká ekonomickej diskriminácie a manipulácie prostredníctvom temných vzorcov v digitálnom obchode.
- Španielsky a európsky právny rámec sa vyvíja smerom k algoritmickej transparentnosti a vyžaduje si informácie o personalizovanom oceňovaní a využívaní umelej inteligencie.
- Zvažuje sa vytvorenie štátnych registrov algoritmov s cieľom zabrániť zaujatosti a zabezpečiť, aby technológie rešpektovali základné práva.
Triumfálny príchod umelej inteligencie do nášho každodenného života postavil trh do pomerne chúlostivej situácie. Na jednej strane máme nástroje, ktoré nám uľahčujú život, personalizujú to, čo kupujeme, alebo riešia pochybnosti v okamihu, no na druhej strane sa otvorila obrovská mocenská priepasť medzi spoločnosťami, ktoré spravujú údaje, a nami, ktorí jednoducho klikneme na „súhlasím“.
Niet divu, že organizácie ako UNCTAD bijú na poplach, pretože tempo, akým sa umelá inteligencia rozvíja, ďaleko predbieha zákony, ktoré by ju mali regulovať. Nachádzame sa v kritickom bode, kde ak nebudeme brať etickú globálnu správu vecí verejných vážne , riskujeme, že technológia namiesto pomoci nám bude prehlbovať sociálne nerovnosti alebo klamať najzraniteľnejších prostredníctvom digitálnej manipulácie.
Labyrint algoritmov: skutočné riziká pre vašu peňaženku
Jednou z najdiskutovanejších tém je takzvané dynamické oceňovanie . V podstate ide o algoritmus, ktorý analyzuje, kto ste, odkiaľ letíte a čo ste si predtým prezerali, aby rozhodol, koľko vám bude účtovať. To znamená, že dvaja ľudia môžu v tej istej sekunde vidieť rôzne ceny za ten istý let alebo hotel. To môže viesť k nespravodlivej ekonomickej diskriminácii , keď systém zistí, že máte vyššiu kúpnu silu, a jednoducho zvýši cenu bez toho, aby ste si to vôbec všimli.
Aby sa obmedzili tieto nehorázne praktiky, Európska únia prostredníctvom smernice Omnibus a zákonov transponovaných do španielskeho práva teraz vyžaduje, aby spoločnosti informovali spotrebiteľov o personalizácii cien prostredníctvom automatizovaného rozhodovania . Okrem toho bolo zakázané algoritmické navyšovanie cien, ku ktorému dochádza, keď ceny nekontrolovateľne rastú v núdzových alebo katastrofických situáciách – čo by bolo eticky neprijateľné v akomkoľvek kontexte.
Digitálne pasce a manipulácia správania
Pravdepodobne ste to už zažili: chcete sa odhlásiť z nejakej služby a máte pocit, akoby ste hľadali cestu von z bludiska. Sú to temné vzory , dizajny rozhraní špeciálne vytvorené tak, aby nás oklamali a prinútili robiť chyby alebo kupovať veci, ktoré nechceme. S umelou inteligenciou už tieto pasce nie sú pre každého rovnaké; prispôsobujú sa vašim psychologickým slabinám v reálnom čase.
- Návyková gamifikácia: Používanie variabilných odmien, ktoré vám pomôžu odložiť telefón.
- Umelá naliehavosť: Falošné časovače, ktoré vás nútia nakupovať teraz.
- Mätúci súhlas: Obrovské tlačidlá na prijatie a možnosti odmietnutia skryté v drobnej potlači.
Z právneho hľadiska nejde o nič viac ako o nekalú obchodnú praktiku . Španielsky úrad pre ochranu údajov jasne uviedol, že súhlas získaný manipuláciou nie je slobodne udelený, a preto by tieto taktiky mohli zneplatniť zmluvy podpísané pod algoritmickým tlakom.
Neviditeľná reklama a nebezpečenstvo deepfakes
Reklama už nie je len reklamou prerušujúcou video; teraz je to extrémne mikrotargeting . Umelá inteligencia dokáže vytvárať reklamy, ktoré vyzerajú ako skutočné odporúčania od priateľa, alebo používať deepfakes, aby vám niekto, kto neexistuje, predal produkt. Toto sa stáva skrytou reklamou , proti ktorej sa snaží bojovať všeobecný zákon o audiovizuálnej komunikácii a nariadenia EÚ tým, že vyžadujú, aby bol všetok platený obsah jasne identifikovateľný.
Ďalším vážnym problémom sú automatizované dezinformácie . Používanie botov na generovanie tisícov falošných recenzií skresľuje realitu trhu. Hoci sa ich platformy ako Amazon snažia filtrovať, umelá inteligencia ich robí čoraz dôveryhodnejšími, čím porušuje právo spotrebiteľov na pravdivé informácie .
Kreditné skóre: keď stroj rozhoduje o vašej budúcnosti
Vo finančnom sektore je používanie umelej inteligencie na posudzovanie úverovej bonity (kreditné skóre) bežné, ale nebezpečné. Ak algoritmus používa poštové smerovacie číslo ako premennú, mohol by systematicky odmietať pôžičky ľuďom z nízkopríjmových štvrtí, čím by sa prehlbovali historické predsudky. Toto nazývame algoritmické skreslenie a je to forma nepriamej diskriminácie, ktorú možno právne napadnúť.
Nové nariadenie EÚ o umelej inteligencii (AI Act) klasifikuje tieto systémy ako vysoko rizikové . To znamená, že budú musieť podstúpiť prísne audity, zabezpečiť, aby údaje o školeniach boli nestranné, a predovšetkým zaručiť skutočný ľudský dohľad . „Čierna skrinka“ nemôže rozhodovať o tom, či niekto spĺňa podmienky na bývanie alebo pôžičku, bez toho, aby niekto zodpovedne vysvetlil dôvody tohto rozhodnutia.
Právny štít: Aké zákony nás chránia v Španielsku a Európe?
V Španielsku máme silný právny arzenál, hoci sa jeho implementácia niekedy zdá pomalá. Článok 51 ústavy už nariaďuje ochranu ekonomických záujmov spotrebiteľov a Všeobecný zákon na ochranu spotrebiteľov a používateľov (TRLGDCU) je základným zákonom na boj proti nekalým podmienkam . GDPR nám navyše dáva právo nebyť predmetom rozhodnutí založených výlučne na automatizovaných procesoch, ktoré nás významne ovplyvňujú, čo nám umožňuje požadovať ľudské vysvetlenie a analyzovať právnu a občianskoprávnu zodpovednosť v dobe umelej inteligencie.
Na európskej úrovni je zákon o digitálnych službách (DSA) prelomovým krokom, pretože vyžaduje, aby veľké platformy boli transparentné, pokiaľ ide o ich odporúčacie systémy, a zakazuje reklamu založenú na citlivých údajoch (náboženstvo, zdravie alebo sexuálna orientácia). Zákon EÚ o umelej inteligencii zároveň zriaďuje verejný register pre vysoko rizikové systémy s cieľom zabezpečiť, aby bola technológia auditovateľná a zodpovedná.
Pohľad do budúcnosti: návrh na štátny register algoritmov
Aby transparentnosť nebola len pekným slovom na papieri, navrhuje sa štátny register spotrebiteľských algoritmov . Myšlienka spočíva v tom, že každá spoločnosť používajúca umelú inteligenciu na stanovovanie cien alebo filtrovanie zákazníkov by musela zaregistrovať svoj systém na verejnej platforme. Nejde o odhalenie tajného zdrojového kódu, ale skôr o predloženie jasnej technickej špecifikácie, ktorá by vysvetľovala, aké údaje používa a aké sú jej hlavné rozhodovacie kritériá.
To by prinútilo spoločnosti uplatňovať samoreguláciu : ak nedokážu verejne vysvetliť, ako ich algoritmus funguje, bez toho, aby to pôsobilo diskriminačne, je to pravdepodobne preto, že ním aj je. Okrem toho by to uľahčilo spotrebiteľským združeniam a orgánom vykonávanie proaktívnych auditov namiesto čakania na to, kým niekto nahlási škodu, ktorá už vznikla.
Boj za naše práva v digitálnom veku závisí od toho, či sa z pasívnych subjektov staneme posilnenými spotrebiteľmi. Kombinácia prísnych zákonov, povinnej transparentnosti a neustáleho ľudského dohľadu je jediný spôsob, ako zabezpečiť, aby sa umelá inteligencia stala nástrojom pokroku a nie mechanizmom vykorisťovania. Konečným cieľom je, aby technologické inovácie nikdy nemali prednosť pred ľudskou dôstojnosťou a autonómiou .
