- Algoritmu necaurredzamība rada ekonomiskās diskriminācijas un manipulāciju riskus, izmantojot digitālās komercijas tumšos modeļus.
- Spānijas un Eiropas tiesiskais regulējums attīstās algoritmiskās pārredzamības virzienā, pieprasot informāciju par personalizētu cenu noteikšanu un mākslīgā intelekta izmantošanu.
- Tiek apsvērta valsts algoritmu reģistru izveide, lai novērstu aizspriedumus un nodrošinātu, ka tehnoloģijas ievēro pamattiesības.
Mākslīgā intelekta triumfālā ienākšana mūsu ikdienas dzīvē ir nostādījusi tirgu diezgan delikātā situācijā. No vienas puses, mums ir rīki, kas atvieglo mūsu dzīvi, personalizējot to, ko mēs pērkam, vai acumirklī novēršot šaubas, bet, no otras puses, ir radusies milzīga varas plaisa starp uzņēmumiem, kas pārvalda datus, un mums, kas vienkārši noklikšķina uz "pieņemt".
Nav brīnums, ka tādas organizācijas kā UNCTAD ir cēlušas trauksmi, jo mākslīgā intelekta attīstības temps krietni apsteidz likumus, kuriem tas būtu jāregulē. Mēs esam nonākuši kritiskā brīdī, kad, ja mēs nopietni neuztveram ētisku globālo pārvaldību , mēs riskējam ar tehnoloģijām, nevis palīdzot mums, veicinot sociālo nevienlīdzību vai maldinot visneaizsargātākos ar digitālo manipulāciju palīdzību.
Algoritmu labirints: reāli riski jūsu makam
Viens no visvairāk apspriestajiem jautājumiem ir tā sauktā dinamiskā cenu noteikšana . Būtībā tā ietver algoritmu, kas analizē jūsu identitāti, no kurienes jūs pārslēdzaties un ko esat apskatījis iepriekš, lai noteiktu, cik daudz jums iekasēt. Tas nozīmē, ka divi cilvēki vienā un tajā pašā sekundē var redzēt dažādas cenas vienam un tam pašam lidojumam vai viesnīcai. Tas var novest pie negodīgas ekonomiskās diskriminācijas , kur sistēma nosaka, ka jums ir augstāka pirktspēja, un vienkārši paaugstina cenu, jums to pat nepamanot.
Lai ierobežotu šo nekaunīgo praksi, Eiropas Savienība, izmantojot Omnibus direktīvu un Spānijas tiesību aktos transponētos likumus, tagad pieprasa uzņēmumiem informēt patērētājus, ja cenas ir personalizētas, izmantojot automatizētu lēmumu pieņemšanu . Turklāt ir aizliegta algoritmiska cenu manipulācija, kas notiek, kad cenas nekontrolējami pieaug ārkārtas vai katastrofu situācijās, kas jebkurā kontekstā būtu ētiski nepieņemami .
Digitālie slazdi un uzvedības manipulācija
Jūs droši vien esat ko tādu piedzīvojuši: vēlaties atteikties no pakalpojuma abonementa un jums ir sajūta, ka meklējat izeju no labirinta. Tie ir tumši raksti , saskarnes dizaini, kas īpaši radīti, lai mūs maldinātu pieļaut kļūdas vai iegādāties lietas, ko nevēlamies. Ar mākslīgo intelektu šie slazdi vairs nav vienādi visiem; tie pielāgojas jūsu psiholoģiskajām vājībām reāllaikā.
- Atkarību izraisoša gamifikācija: Mainīgu atlīdzību izmantošana, lai neļautu jums nolikt tālruni malā.
- Mākslīga steidzamība: Viltus taimeri, kas spiež pirkt tagad.
- Mulsinoša piekrišana: Milzīgas pieņemšanas pogas un noraidīšanas opcijas, kas paslēptas sīkā drukā.
No juridiskā viedokļa tas ir nekas vairāk kā negodīga uzņēmējdarbības prakse . Spānijas Datu aizsardzības aģentūra ir skaidri norādījusi, ka ar manipulācijām iegūta piekrišana nav brīva, un tāpēc šī taktika varētu padarīt par spēkā neesošiem līgumus, kas parakstīti algoritmiskā spiediena rezultātā.
Neredzama reklāma un dziļviltojumu bīstamība
Reklāma vairs nav tikai reklāma, kas pārtrauc video; tagad tā ir ekstrēma mikromērķauditorijas atlase . Mākslīgais intelekts var izveidot reklāmas, kas izskatās pēc īstiem drauga ieteikumiem, vai izmantot dziļviltojumus, lai kāds, kas neeksistē, pārdotu jums produktu. Tas kļūst par slēptu reklāmu , ko cenšas apkarot Vispārējais audiovizuālās komunikācijas likums un ES noteikumi, pieprasot, lai viss maksas saturs būtu skaidri identificējams.
Vēl viena nopietna problēma ir automatizēta dezinformācija . Botu izmantošana tūkstošiem viltotu atsauksmju ģenerēšanai kropļo tirgus realitāti. Lai gan tādas platformas kā Amazon cenšas tās filtrēt, mākslīgais intelekts padara tās arvien ticamākas, pārkāpjot patērētāju tiesības uz patiesu informāciju .
Kredītreitings: kad mašīna nosaka jūsu nākotni
Finanšu sektorā mākslīgā intelekta izmantošana kredītspējas novērtēšanai (kredītreitinga noteikšanai) ir izplatīta, taču bīstama. Ja algoritms kā mainīgo izmanto pasta indeksu, tas varētu sistemātiski atteikt aizdevumus cilvēkiem no maznodrošinātām apkaimēm, tādējādi uzturot vēsturiskus aizspriedumus. To mēs saucam par algoritmisko neobjektivitāti , un tā ir netiešas diskriminācijas forma, ko var apstrīdēt juridiski.
ES jaunā Mākslīgā intelekta regula (Mākslīgā intelekta likums) klasificē šīs sistēmas kā augsta riska sistēmas. Tas nozīmē, ka tām būs jāveic stingras revīzijas, jānodrošina, ka apmācības dati ir objektīvi, un, galvenais, jāgarantē patiesa cilvēka uzraudzība . Nedrīkst pieļaut, ka "melnā kaste" lemj par to, vai kāds atbilst mājokļa vai aizdevuma saņemšanas kritērijiem, ja vien persona nav atbildīga par lēmuma pamatojuma izskaidrošanu.
Juridiskais vairogs: Kādi likumi mūs aizsargā Spānijā un Eiropā?
Spānijā mums ir spēcīgs juridiskais arsenāls, lai gan dažreiz šķiet, ka tā ieviešana ir lēna. Konstitūcijas 51. pants jau nosaka patērētāju ekonomisko interešu aizsardzību, un Vispārējais patērētāju un lietotāju aizsardzības likums (TRLGDCU) ir pamatlikums cīņai pret negodīgiem noteikumiem . Turklāt GDPR piešķir mums tiesības nebūt pakļautiem lēmumiem, kas balstīti tikai uz automatizētiem procesiem un kas mūs būtiski ietekmē, ļaujot mums pieprasīt cilvēcisku skaidrojumu un analizēt juridisko un civiltiesisko atbildību mākslīgā intelekta laikmetā.
Eiropas līmenī Digitālo pakalpojumu likums (DSA) ir nozīmīgs, jo tas pieprasa lielām platformām būt pārredzamām attiecībā uz savām ieteikumu sistēmām un aizliedz reklāmas, kuru pamatā ir sensitīvi dati (reliģija, veselība vai seksuālā orientācija). Tikmēr ES Mākslīgā intelekta likums izveido publisku reģistru augsta riska sistēmām, kura mērķis ir padarīt tehnoloģiju auditējamu un pārskatatbildīgu.
Raugoties nākotnē: priekšlikums par valsts algoritmu reģistru
Lai nodrošinātu, ka pārredzamība nav tikai skaists vārds uz papīra, tiek ierosināts izveidot Patērētāju algoritmu valsts reģistru . Ideja ir tāda, ka jebkuram uzņēmumam, kas izmanto mākslīgo intelektu cenu noteikšanai vai klientu filtrēšanai, būtu jāreģistrē sava sistēma publiskā platformā. Šeit nav runa par slepena pirmkoda atklāšanu, bet gan par skaidras tehniskās specifikācijas iesniegšanu , kurā paskaidrots, kādus datus tas izmanto un kādi ir tā galvenie lēmumu pieņemšanas kritēriji.
Tas piespiestu uzņēmumus īstenot pašregulāciju : ja tie nevar publiski izskaidrot, kā darbojas viņu algoritms, nešķietot diskriminējoši, tas, iespējams, tāpēc, ka tas tā arī ir. Turklāt tas atvieglotu patērētāju asociācijām un iestādēm veikt proaktīvas revīzijas, nevis gaidīt, kamēr kāds ziņos par jau notikušu kaitējumu.
Cīņa par mūsu tiesībām digitālajā laikmetā ir atkarīga no tā, vai mēs no pasīviem subjektiem pārejam uz pilntiesīgiem patērētājiem. Stingru likumu, obligātas pārredzamības un pastāvīgas cilvēka uzraudzības apvienojums ir vienīgais veids, kā nodrošināt, ka mākslīgais intelekts kļūst par progresa instrumentu, nevis par ekspluatācijas mehānismu. Galu galā mērķis ir panākt, lai tehnoloģiskās inovācijas nekad nebūtu prioritāras pār cilvēka cieņu un autonomiju .
