- Algoritmų neskaidrumas kelia ekonominės diskriminacijos ir manipuliavimo riziką per tamsius skaitmeninės prekybos modelius.
- Ispanijos ir Europos teisinė sistema vystosi siekiant algoritminio skaidrumo, reikalaujant informacijos apie suasmenintą kainodarą ir dirbtinio intelekto naudojimą.
- Svarstoma sukurti valstybinius algoritmų registrus, siekiant užkirsti kelią šališkumui ir užtikrinti, kad technologijos gerbtų pagrindines teises.
Dirbtinio intelekto triumfuojantis atėjimas į mūsų kasdienį gyvenimą pastatė rinką į gana keblią padėtį. Viena vertus, turime įrankių, kurie palengvina mūsų gyvenimą, akimirksniu suasmenina tai, ką perkame, arba išsklaido abejones, tačiau, kita vertus, tarp duomenis tvarkančių įmonių ir mūsų, kurie tiesiog spustelėjame „sutinku“, atsirado didžiulė galios spraga .
Nenuostabu, kad tokios organizacijos kaip UNCTAD paskelbė pavojaus signalą, nes dirbtinio intelekto tobulėjimo tempas gerokai lenkia įstatymus, kurie turėtų jį reguliuoti. Esame kritinėje situacijoje, kai, jei rimtai nesvarstysime etiško pasaulinio valdymo , rizikuojame, kad technologijos, užuot padėjusios mums, įtvirtins socialinę nelygybę arba apgaudinės labiausiai pažeidžiamus skaitmeninėmis manipuliacijomis.
Algoritmų labirintas: reali rizika jūsų piniginei
Viena iš labiausiai aptarinėjamų problemų yra vadinamasis dinaminis kainodaros nustatymas . Iš esmės tai apima algoritmą, analizuojantį, kas jūs esate, iš kur jungiatės ir ką anksčiau peržiūrėjote, kad nuspręstų, kiek jums imti. Tai reiškia, kad du žmonės tą pačią sekundę gali matyti skirtingas to paties skrydžio ar viešbučio kainas. Tai gali sukelti nesąžiningą ekonominę diskriminaciją , kai sistema aptinka, kad turite didesnę perkamąją galią, ir tiesiog padidina kainą jums net nepastebint.
Siekdama pažaboti šią pasipiktinimą keliančią praktiką, Europos Sąjunga, vadovaudamasi Omnibuso direktyva ir į Ispanijos teisę perkeltais įstatymais, dabar reikalauja, kad įmonės praneštų vartotojams, kai kainos buvo suasmenintos taikant automatizuotą sprendimų priėmimą . Be to, uždraustas algoritminis kainų iškraipymas, kuris įvyksta, kai kainos nekontroliuojamai kyla avarinėse ar nelaimės situacijose – tai būtų etiškai nepriimtina bet kokiame kontekste.
Skaitmeniniai spąstai ir elgesio manipuliavimas
Tikriausiai esate tai patyrę: norite atsisakyti paslaugos prenumeratos ir jaučiatės lyg ieškotumėte išeities iš labirinto. Tai tamsūs šablonai , sąsajos dizainai, specialiai sukurti tam, kad apgautų mus, jog padarytume klaidas arba pirktume tai, ko nenorime. Su dirbtiniu intelektu šie spąstai nebėra visiems vienodi; jie realiuoju laiku prisitaiko prie jūsų psichologinių silpnybių .
- Priklausomybę sukeliantis žaidimų kūrimas: Kintamų atlygių naudojimas, siekiant neleisti jums padėti telefono į šalį.
- Dirbtinis skubumas: Netikri laikmačiai, kurie verčia pirkti dabar.
- Klaidinantis sutikimas: Milžiniški priėmimo mygtukai ir atmetimo parinktys, paslėptos smulkiu šriftu.
Teisiniu požiūriu tai tėra nesąžininga verslo praktika . Ispanijos duomenų apsaugos agentūra aiškiai pareiškė, kad sutikimas, gautas manipuliuojant, nėra duodamas laisva valia, todėl ši taktika gali panaikinti sutartis, pasirašytas taikant algoritminį spaudimą.
Nematoma reklama ir giliųjų klastočių pavojus
Reklama nebėra tik vaizdo įrašą pertraukianti reklama; dabar tai – kraštutinė mikrotargetavimo technologija . Dirbtinis intelektas gali kurti reklamas, kurios atrodo kaip tikros draugo rekomendacijos, arba naudoti „deepfake“ tipo reklamas, kad kažkas, kas neegzistuoja, jums parduotų produktą. Tai tampa slapta reklama , su kuria bandoma kovoti Bendruoju audiovizualinės komunikacijos įstatymu ir ES reglamentais, reikalaujant, kad visas mokamas turinys būtų aiškiai atpažįstamas.
Kita rimta problema – automatizuota dezinformacija . Robotų naudojimas tūkstančiams netikrų atsiliepimų generuoti iškreipia rinkos realybę. Nors tokios platformos kaip „Amazon“ bando juos filtruoti, dirbtinis intelektas daro juos vis patikimesnius, pažeisdamas vartotojų teisę į teisingą informaciją .
Kredito balų skaičiavimas: kai mašina lemia jūsų ateitį
Finansų sektoriuje dirbtinio intelekto naudojimas kreditingumui įvertinti (kredito balams nustatyti) yra įprastas, tačiau pavojingas. Jei algoritmas kaip kintamąjį naudoja pašto kodą, jis gali sistemingai neteikti paskolų žmonėms iš mažas pajamas gaunančių rajonų, taip įtvirtindamas istorinius išankstinius nusistatymus. Tai vadiname algoritminiu šališkumu ir tai yra netiesioginės diskriminacijos forma, kurią galima teisiškai užginčyti.
Naujasis ES Dirbtinio intelekto reglamentas (DI įstatymas) šias sistemas priskiria didelės rizikos sistemoms . Tai reiškia, kad jos turės būti griežtai audituojamos, užtikrintos mokymo duomenų nešališkumo ir, svarbiausia, garantuotos tikros žmonių priežiūros . Negalima leisti, kad „juodoji dėžė“ spręstų, ar asmuo atitinka būsto ar paskolos reikalavimus, be atsakingo asmens, kuris paaiškintų sprendimo priežastis.
Teisinis skydas: kokie įstatymai mus saugo Ispanijoje ir Europoje?
Ispanijoje turime galingą teisinį arsenalą, nors kartais atrodo, kad jis įgyvendinamas lėtai. Konstitucijos 51 straipsnis jau įpareigoja ginti vartotojų ekonominius interesus, o Bendrasis vartotojų ir naudotojų gynimo įstatymas (TRLGDCU) yra pagrindinis įstatymas, skirtas kovai su nesąžiningomis sąlygomis . Be to, BDAR suteikia mums teisę nebūti priimamiems sprendimams, pagrįstiems vien automatizuotais procesais, kurie mums daro didelę įtaką, leidžiant mums reikalauti žmogiško paaiškinimo ir analizuoti teisinę bei civilinę atsakomybę dirbtinio intelekto amžiuje.
Europos lygmeniu Skaitmeninių paslaugų įstatymas (DSA) yra svarbus, nes jis reikalauja, kad didelės platformos skaidriai teiktų savo rekomendavimo sistemas, ir draudžia reklamą, pagrįstą jautriais duomenimis (religija, sveikata ar seksualine orientacija). Tuo tarpu ES Dirbtinio intelekto įstatymas sukuria viešą didelės rizikos sistemų registrą, kuriuo siekiama, kad technologija būtų audituojama ir atskaitinga.
Žvilgsnis į ateitį: pasiūlymas dėl valstybinio algoritmų registro
Siekiant užtikrinti, kad skaidrumas nebūtų tik gražus žodis popieriuje, siūlomas Valstybinis vartotojų algoritmų registras . Idėja yra ta, kad bet kuri įmonė, naudojanti dirbtinį intelektą kainodarai nustatyti arba klientams filtruoti, turėtų užregistruoti savo sistemą viešojoje platformoje. Kalbama ne apie slapto šaltinio kodo atskleidimą, o apie aiškios techninės specifikacijos, kurioje paaiškinama, kokius duomenis ji naudoja ir kokie yra pagrindiniai sprendimų priėmimo kriterijai, pateikimą.
Tai priverstų įmones taikyti savireguliaciją : jei jos negali viešai paaiškinti, kaip veikia jų algoritmas, kad tai neatrodytų diskriminacinis, greičiausiai taip yra todėl, kad jis toks ir yra. Be to, vartotojų asociacijoms ir valdžios institucijoms būtų lengviau atlikti iniciatyvius auditus, užuot laukiant, kol kas nors praneš apie jau patirtą žalą.
Kova už mūsų teises skaitmeniniame amžiuje priklauso nuo to, ar iš pasyvių subjektų tapsime įgalintais vartotojais. Griežti įstatymai, privalomas skaidrumas ir nuolatinė žmogaus priežiūra yra vienintelis būdas užtikrinti, kad dirbtinis intelektas taptų pažangos įrankiu, o ne išnaudojimo mechanizmu. Galutinis tikslas yra, kad technologinės inovacijos niekada nebūtų svarbesnės už žmogaus orumą ir autonomiją .
