- Opaciteti i algoritmeve krijon rreziqe të diskriminimit ekonomik dhe manipulimit përmes modeleve të errëta në tregtinë dixhitale.
- Korniza ligjore spanjolle dhe evropiane po evoluon drejt transparencës algoritmike, duke kërkuar informacion mbi çmimet e personalizuara dhe përdorimin e inteligjencës artificiale.
- Krijimi i regjistrave shtetërorë të algoritmeve po merret në konsideratë për të parandaluar paragjykimet dhe për të siguruar që teknologjia respekton të drejtat themelore.
Ardhja triumfuese e inteligjencës artificiale në jetën tonë të përditshme e ka vënë tregun në një situatë mjaft delikate. Nga njëra anë, ne kemi mjete që na e bëjnë jetën më të lehtë, duke personalizuar atë që blejmë ose duke zgjidhur dyshimet në çast, por nga ana tjetër, është hapur një hendek i madh pushteti midis kompanive që menaxhojnë të dhënat dhe nesh, të cilët thjesht klikojmë "prano".
Nuk është çudi që organizata si UNCTAD kanë dhënë alarmin, pasi ritmi me të cilin IA po përparon i tejkalon shumë ligjet që duhet ta rregullojnë atë. Jemi në një pikë kritike ku, nëse nuk e marrim seriozisht qeverisjen etike globale , rrezikojmë teknologjinë, në vend që të na ndihmojë, duke përjetësuar pabarazitë sociale ose duke mashtruar më të prekshmit përmes manipulimit dixhital.
Labirinti i algoritmeve: rreziqe reale për portofolin tuaj
Një nga çështjet më të diskutuara është i ashtuquajturi çmimi dinamik . Në thelb, ai përfshin një algoritëm që analizon se kush jeni, nga ku po lidheni dhe çfarë keni parë më parë për të vendosur se sa do t'ju ngarkojë. Kjo do të thotë që dy persona mund të shohin çmime të ndryshme për të njëjtin fluturim ose hotel në të njëjtën sekondë. Kjo mund të çojë në diskriminim të padrejtë ekonomik , ku sistemi zbulon se keni një fuqi blerëse më të lartë dhe thjesht e rrit çmimin pa e vënë re fare.
Për të frenuar këto praktika të skandaloze, Bashkimi Evropian, nëpërmjet Direktivës Omnibus dhe ligjeve të transpozuara në ligjin spanjoll, tani kërkon që kompanitë të njoftojnë konsumatorët kur çmimet janë personalizuar përmes vendimmarrjes së automatizuar . Për më tepër, rritja algoritmike e çmimeve, e cila ndodh kur çmimet rriten në mënyrë të pakontrollueshme në situata emergjente ose fatkeqësish, është ndaluar - diçka që do të ishte etikisht e papranueshme në çdo kontekst.
Kurthet dixhitale dhe manipulimi i sjelljes
Ndoshta e keni përjetuar këtë: doni të çregjistroheni nga një shërbim dhe ju duket sikur po kërkoni një rrugëdalje nga një labirint. Këto janë modele të errëta , dizajne ndërfaqesh të krijuara posaçërisht për të na mashtruar që të bëjmë gabime ose të blejmë gjëra që nuk i duam. Me inteligjencën artificiale, këto kurthe nuk janë më të njëjta për të gjithë; ato përshtaten me dobësitë tuaja psikologjike në kohë reale.
- Lojëra që krijojnë varësi: Përdorimi i shpërblimeve të ndryshueshme për t'ju penguar të lini telefonin nga dora.
- Urgjencë artificiale: Kohëmatës të rremë që ju bëjnë presion të blini tani.
- Pëlqim konfuz: Butona gjigantë pranimi dhe opsione refuzimi të fshehura me shkronja të vogla.
Nga pikëpamja ligjore, kjo nuk është gjë tjetër veçse një praktikë e padrejtë biznesi . Agjencia Spanjolle e Mbrojtjes së të Dhënave e ka bërë të qartë se pëlqimi i marrë nëpërmjet manipulimit nuk jepet lirisht dhe, për këtë arsye, këto taktika mund të pavlefshmesojnë kontratat e nënshkruara nën presionin algoritmik.
Reklamimi i padukshëm dhe rreziku i deepfakes
Reklamimi nuk është më thjesht një reklamë që ndërpret videon; tani është mikro-targetim ekstrem . IA mund të krijojë reklama që duken si rekomandime të vërteta nga një mik ose të përdorë deepfakes që dikush që nuk ekziston t'ju shesë një produkt. Kjo bëhet reklamim i fshehtë , diçka që Ligji i Përgjithshëm për Komunikimin Audiovizual dhe rregulloret e BE-së po përpiqen ta luftojnë duke kërkuar që të gjitha përmbajtjet me pagesë të jenë qartësisht të identifikueshme.
Një problem tjetër serioz është dezinformimi i automatizuar . Përdorimi i botëve për të gjeneruar mijëra vlerësime të rreme shtrembëron realitetin e tregut. Edhe pse platforma si Amazon përpiqen t'i filtrojnë ato, inteligjenca artificiale i bën ato gjithnjë e më të besueshme, duke shkelur të drejtën e konsumatorëve për informacion të vërtetë .
Vlerësimi i kreditit: kur një makinë vendos të ardhmen tuaj
Në sektorin financiar, përdorimi i Inteligjencës Artificiale për të vlerësuar besueshmërinë kreditore (pikëzimin e kreditit) është i zakonshëm, por i rrezikshëm. Nëse një algoritëm përdor kodin postar si variabël, ai mund të përfundojë duke u mohuar sistematikisht kredi njerëzve nga lagjet me të ardhura të ulëta, duke përjetësuar paragjykimet historike. Kjo është ajo që ne e quajmë paragjykim algoritmik dhe është një formë diskriminimi indirekt që mund të kundërshtohet ligjërisht.
Rregullorja e re e BE-së për Inteligjencën Artificiale (Akti i Inteligjencës Artificiale) i klasifikon këto sisteme si me rrezik të lartë . Kjo do të thotë se ato do të duhet t'i nënshtrohen auditimeve rigoroze, të sigurojnë që të dhënat e trajnimit të jenë të paanshme dhe, mbi të gjitha, të garantojnë mbikëqyrje të vërtetë njerëzore . Një "kuti e zezë" nuk mund të lejohet të vendosë nëse dikush kualifikohet për strehim apo kredi pa dikë përgjegjës për të shpjeguar arsyetimin pas vendimit.
Mburoja ligjore: Cilat ligje na mbrojnë në Spanjë dhe Evropë?
Në Spanjë, ne kemi një arsenal të fuqishëm ligjor, megjithëse ndonjëherë duket i ngadalshëm për t'u zbatuar. Neni 51 i Kushtetutës tashmë urdhëron mbrojtjen e interesave ekonomike të konsumatorëve, dhe Ligji i Përgjithshëm për Mbrojtjen e Konsumatorëve dhe Përdoruesve (TRLGDCU) është ligji themelor për luftimin e kushteve të padrejta . Për më tepër, GDPR na jep të drejtën të mos i nënshtrohemi vendimeve të bazuara vetëm në procese të automatizuara që na ndikojnë ndjeshëm, duke na lejuar të kërkojmë një shpjegim njerëzor dhe të analizojmë përgjegjësinë ligjore dhe civile në epokën e inteligjencës artificiale.
Në nivel evropian, Akti i Shërbimeve Dixhitale (DSA) është një pikë referimi sepse kërkon që platformat e mëdha të jenë transparente në lidhje me sistemet e tyre të rekomandimeve dhe ndalon reklamat e bazuara në të dhëna të ndjeshme (feja, shëndeti ose orientimi seksual). Ndërkohë, Akti i BE-së për Inteligjencën Artificiale krijon një regjistër publik për sistemet me rrezik të lartë, me qëllim që teknologjia të bëhet e auditueshme dhe e përgjegjshme.
Duke parë drejt së ardhmes: propozimi për një Regjistër Shtetëror të Algoritmeve
Për të siguruar që transparenca nuk është vetëm një fjalë e bukur në letër, propozohet një Regjistër Shtetëror i Algoritmeve të Konsumatorit . Ideja është që çdo kompani që përdor inteligjencën artificiale për të vendosur çmimet ose për të filtruar klientët do të duhet ta regjistrojë sistemin e saj në një platformë publike. Kjo nuk ka të bëjë me zbulimin e kodit burimor sekret, por më tepër me paraqitjen e një specifikimi të qartë teknik që shpjegon se cilat të dhëna përdor dhe cilat janë kriteret kryesore të vendimmarrjes.
Kjo do t’i detyronte kompanitë të ushtronin vetërregullim : nëse ato nuk mund ta shpjegojnë publikisht se si funksionon algoritmi i tyre pa u dukur diskriminues, kjo ndoshta ndodh sepse është i tillë. Për më tepër, do ta bënte më të lehtë për shoqatat dhe autoritetet e konsumatorëve të kryenin auditime proaktive në vend që të prisnin që dikush të raportonte dëmin që ka ndodhur tashmë.
Lufta për të drejtat tona në epokën dixhitale varet nga kalimi ynë nga subjekte pasive në konsumatorë të fuqizuar. Kombinimi i ligjeve të rrepta, transparencës së detyrueshme dhe mbikëqyrjes së vazhdueshme njerëzore është e vetmja mënyrë për të siguruar që inteligjenca artificiale të bëhet një mjet për progres dhe jo një mekanizëm për shfrytëzim. Në fund të fundit, qëllimi është që inovacioni teknologjik të mos marrë kurrë përparësi mbi dinjitetin dhe autonominë njerëzore .
