- Algoritmide läbipaistmatus tekitab digitaalse kaubanduse tumedate mustrite kaudu majandusliku diskrimineerimise ja manipuleerimise riske.
- Hispaania ja Euroopa õigusraamistik areneb algoritmilise läbipaistvuse suunas, nõudes teavet personaalse hinnakujunduse ja tehisintellekti kasutamise kohta.
- Eelarvamuste vältimiseks ja põhiõiguste austamise tagamiseks tehnoloogias kaalutakse algoritmide riiklike registrite loomist.
Tehisintellekti võidukas saabumine meie igapäevaellu on pannud turu üsna delikaatsesse olukorda. Ühelt poolt on meil tööriistad, mis muudavad meie elu lihtsamaks, isikupärastades ostetavat või lahendades kahtlused silmapilguga, kuid teisalt on tekkinud tohutu võimulõhe andmeid haldavate ettevõtete ja meie vahel, kes lihtsalt klõpsame nupul „nõustun“.
Pole ime, et sellised organisatsioonid nagu UNCTAD on häirekella löönud, kuna tehisintellekti arengu tempo ületab kaugelt seadusi, mis peaksid seda reguleerima. Oleme kriitilises punktis, kus kui me ei suhtu eetilise globaalse valitsemise teemasse tõsiselt , riskime tehnoloogiaga, selle asemel et meid aidata, sotsiaalset ebavõrdsust põlistada või kõige haavatavamaid digitaalse manipuleerimise abil petta.
Algoritmide labürint: reaalsed riskid teie rahakotile
Üks enim kõneainet pakkuv teema on nn dünaamiline hinnakujundus . Põhimõtteliselt hõlmab see algoritmi, mis analüüsib, kes te olete, kust te ümberistumisega lendate ja mida olete varem vaadanud, et otsustada, kui palju teilt küsida. See tähendab, et kaks inimest näevad sama lennu või hotelli eest samal hetkel erinevaid hindu. See võib viia ebaõiglase majandusliku diskrimineerimiseni , kus süsteem tuvastab, et teil on kõrgem ostujõud, ja tõstab hinda ilma, et te seda isegi märkaksite.
Nende ennekuulmatute tavade ohjeldamiseks nõuab Euroopa Liit nüüd koonddirektiivi ja Hispaania õigusesse üle võetud seaduste kaudu ettevõtetelt tarbijate teavitamist, kui hindu on automatiseeritud otsustusprotsesside abil isikupärastatud . Lisaks on keelatud algoritmiline hinnakiskumine, mis toimub siis, kui hinnad tõusevad kontrollimatult hädaolukordades või katastroofiolukordades – mis oleks eetiliselt igas kontekstis vastuvõetamatu .
Digitaalsed lõksud ja käitumisega manipuleerimine
Oled ilmselt seda kogenud: soovid teenusest loobuda ja tunned, nagu otsiksid väljapääsu labürindist. Need on tumedad mustrid , liidese kujundused, mis on spetsiaalselt loodud selleks, et meid petta vigu tegema või ostma asju, mida me ei taha. Tehisintellekti abil pole need lõksud enam kõigi jaoks ühesugused; need kohanduvad reaalajas sinu psühholoogiliste nõrkustega .
- Sõltuvust tekitav mängustamine: Muutuva suurusega preemiate kasutamine, et hoida teid telefoni käest panemast.
- Kunstlik kiireloomulisus: Võltstaimerid, mis survestavad sind kohe ostma.
- Segadust tekitav nõusolek: Pisikese kirjaga peidetud hiiglaslikud vastuvõtunupud ja tagasilükkamisvalikud.
Juriidilisest vaatenurgast on see vaid ebaaus äritava . Hispaania andmekaitseamet on selgelt öelnud, et manipuleerimise teel saadud nõusolek ei ole vabatahtlikult antud ja seetõttu võivad need taktikad muuta algoritmilise surve all allkirjastatud lepingud kehtetuks.
Nähtamatu reklaam ja süvavõltsingu oht
Reklaam ei ole enam lihtsalt videot katkestav reklaam; see on nüüd äärmuslik mikrosihtimine . Tehisintellekt saab luua reklaame, mis näevad välja nagu sõbra ehtsad soovitused, või kasutada süvavõltsinguid, et panna keegi, keda pole olemas, teile toodet müüma. Sellest saab varjatud reklaam , mille vastu püütakse võidelda audiovisuaalse kommunikatsiooni üldseaduse ja ELi määrustega, nõudes, et kogu tasuline sisu oleks selgelt tuvastatav.
Teine tõsine probleem on automatiseeritud desinformatsioon . Botide kasutamine tuhandete võltsarvustuste genereerimiseks moonutab turureaalsust. Kuigi platvormid nagu Amazon püüavad neid filtreerida, muudab tehisintellekt need üha usaldusväärsemaks, rikkudes tarbijate õigust tõesele teabele .
Krediidiskoor: kui masin otsustab teie tuleviku
Finantssektoris on tehisintellekti kasutamine krediidivõimelisuse hindamiseks (krediidiskoorimiseks) tavaline, kuid ohtlik. Kui algoritm kasutab muutujana postiindeksit, võib see süstemaatiliselt keelduda laenude andmisest madala sissetulekuga piirkondade inimestele, jäädvustades ajaloolisi eelarvamusi. Seda nimetame algoritmiliseks kallutatuseks ja see on kaudse diskrimineerimise vorm, mida saab kohtulikult vaidlustada.
EL-i uus tehisintellekti määrus (AI Act) liigitab need süsteemid kõrge riskiga süsteemideks . See tähendab, et need peavad läbima ranged auditid, tagama treeningandmete erapooletuse ja ennekõike garanteerima tõelise inimjärelevalve . „Musta kasti“ abil ei saa otsustada, kas keegi kvalifitseerub eluasemele või laenule, ilma et keegi vastutaks otsuse tagamaid selgitama.
Õiguslik kilp: Millised seadused kaitsevad meid Hispaanias ja Euroopas?
Hispaanias on meil võimas õiguslik arsenal, kuigi selle rakendamine tundub kohati aeglane. Põhiseaduse artikkel 51 sätestab juba tarbijate majandushuvide kaitsmise kohustuse ning tarbijate ja kasutajate kaitse üldseadus (TRLGDCU) on ebaõiglaste tingimuste vastu võitlemise alusseadus . Lisaks annab GDPR meile õiguse mitte alluda otsustele, mis põhinevad üksnes automatiseeritud protsessidel ja mis meid oluliselt mõjutavad, võimaldades meil nõuda inimlikku selgitust ning analüüsida õiguslikku ja tsiviilvastutust tehisintellekti ajastul.
Euroopa tasandil on digiteenuste seadus (DSA) verstapost, kuna see nõuab suurtelt platvormidelt läbipaistvust oma soovitussüsteemide osas ja keelab tundlikel andmetel (usutunnistus, tervis või seksuaalne sättumus) põhineva reklaami. Samal ajal loob ELi tehisintellekti seadus avaliku registri kõrge riskiga süsteemide jaoks, mille eesmärk on muuta tehnoloogia auditeeritavaks ja vastutustundlikuks.
Tulevikuperspektiivid: ettepanek luua riiklik algoritmide register
Selleks, et läbipaistvus ei oleks pelgalt paberil ilus sõna, tehakse ettepanek luua tarbijaalgoritmide riiklik register . Idee seisneb selles, et iga ettevõte, mis kasutab tehisintellekti hindade määramiseks või klientide filtreerimiseks, peaks oma süsteemi registreerima avalikul platvormil. See ei seisne salajase lähtekoodi avalikustamises, vaid pigem selge tehnilise spetsifikatsiooni esitamises, mis selgitab, milliseid andmeid ettevõte kasutab ja millised on peamised otsustuskriteeriumid.
See sunniks ettevõtteid rakendama eneseregulatsiooni : kui nad ei suuda avalikult selgitada, kuidas nende algoritm töötab, ilma et see tunduks diskrimineeriv, siis tõenäoliselt sellepärast, et see seda ka on. Lisaks lihtsustaks see tarbijaühendustel ja ametiasutustel ennetavate auditite läbiviimist , selle asemel et oodata, kuni keegi teatab juba tekkinud kahjust.
Võitlus meie õiguste eest digitaalajastul sõltub sellest, kas me muutume passiivsetest subjektidest võimekateks tarbijateks. Rangete seaduste, kohustusliku läbipaistvuse ja pideva inimjärelevalve kombinatsioon on ainus viis tagada, et tehisintellektist saaks progressi tööriist, mitte ärakasutamise mehhanism. Lõppkokkuvõttes on eesmärk, et tehnoloogiline innovatsioon ei oleks kunagi inimväärikuse ja autonoomia suhtes ülimuslik.
