- Ang kalabuan ng mga algorithm ay lumilikha ng mga panganib ng diskriminasyon sa ekonomiya at manipulasyon sa pamamagitan ng madilim na mga padron sa digital commerce.
- Ang balangkas legal ng Espanya at Europa ay umuunlad tungo sa transparency ng algorithm, na nangangailangan ng impormasyon tungkol sa personalized na pagpepresyo at paggamit ng AI.
- Ang paglikha ng mga rehistro ng estado ng mga algorithm ay isinasaalang-alang upang maiwasan ang pagkiling at matiyak na iginagalang ng teknolohiya ang mga pangunahing karapatan.
Ang matagumpay na pagdating ng artificial intelligence sa ating pang-araw-araw na buhay ay naglagay sa merkado sa isang medyo delikadong sitwasyon. Sa isang banda, mayroon tayong mga kagamitan na nagpapadali sa ating buhay, na ginagawang personal ang ating binibili o nilulutas ang mga pagdududa sa isang kisap-mata, ngunit sa kabilang banda, isang malaking agwat sa kapangyarihan ang nabuksan sa pagitan ng mga kumpanyang namamahala sa data at sa atin, na simpleng nagki-click sa "accept."
Hindi nakakapagtaka na ang mga organisasyong tulad ng UNCTAD ay nagpatunog ng alarma, dahil ang bilis ng pagsulong ng AI ay higit na nalampasan ang mga batas na dapat sana ay nagreregula dito. Nasa isang kritikal na yugto tayo kung saan, kung hindi tayo magiging seryoso sa etikal na pandaigdigang pamamahala , isinasapanganib natin ang teknolohiya, sa halip na tulungan tayo, pinapanatili ang mga hindi pagkakapantay-pantay sa lipunan o nililinlang ang mga pinakamahihina sa pamamagitan ng digital na manipulasyon.
Ang labirinto ng mga algorithm: mga totoong panganib sa iyong pitaka
Isa sa mga pinakapinag-uusapang isyu ay ang tinatawag na dynamic pricing . Sa madaling salita, kinasasangkutan ito ng isang algorithm na sumusuri kung sino ka, kung saan ka kumokonekta, at kung ano ang iyong tiningnan noon upang magpasya kung magkano ang sisingilin sa iyo. Nangangahulugan ito na maaaring makakita ang dalawang tao ng magkaibang presyo para sa parehong flight o hotel sa parehong segundo. Maaari itong humantong sa hindi patas na diskriminasyon sa ekonomiya , kung saan natutukoy ng system na mayroon kang mas mataas na kapangyarihan sa pagbili at tinataasan lamang ang presyo nang hindi mo napapansin.
Upang mapigilan ang mga nakakapangilabot na gawaing ito, ang European Union, sa pamamagitan ng Omnibus Directive at mga batas na isinalin sa batas ng Espanya, ay hinihiling na ngayon sa mga kumpanya na ipaalam sa mga mamimili kapag ang mga presyo ay isinapersonal sa pamamagitan ng awtomatikong paggawa ng desisyon . Bukod pa rito, ang algorithmic price gouging, na nangyayari kapag ang mga presyo ay tumataas nang hindi mapigilan sa mga sitwasyon ng emergency o sakuna, ay ipinagbawal—isang bagay na hindi katanggap-tanggap sa etika sa anumang konteksto.
Mga digital na patibong at manipulasyon ng pag-uugali
Malamang naranasan mo na ito: gusto mong mag-unsubscribe sa isang serbisyo at parang naghahanap ka ng paraan palabas sa isang labirinto. Ito ay mga madilim na pattern , mga disenyo ng interface na partikular na nilikha upang linlangin tayo na magkamali o bumili ng mga bagay na ayaw natin. Gamit ang AI, ang mga patibong na ito ay hindi na pareho para sa lahat; umaangkop ang mga ito sa iyong mga sikolohikal na kahinaan sa totoong oras.
- Nakakahumaling na gamipikasyon: Paggamit ng pabagu-bagong gantimpala para hindi mo maibaba ang iyong telepono.
- Artipisyal na pagmamadali: Mga pekeng timer na pumipilit sa iyong bumili ngayon.
- Nakalilitong pahintulot: Mga higanteng butones para tanggapin at mga opsyon sa pagtanggi na nakatago sa maliliit na letra.
Mula sa legal na pananaw, ito ay walang iba kundi isang hindi patas na kasanayan sa negosyo . Nilinaw ng Spanish Data Protection Agency na ang pahintulot na nakuha sa pamamagitan ng manipulasyon ay hindi malayang ibinibigay, at samakatuwid ang mga taktikang ito ay maaaring magpawalang-bisa sa mga kontratang nilagdaan sa ilalim ng presyon ng algorithm.
Hindi nakikitang advertising at ang panganib ng mga deepfake
Ang advertising ay hindi na lamang isang ad na nagpapahinto sa panonood ng video; isa na itong matinding micro-targeting . Kayang gumawa ng mga ad ang AI na mukhang mga tunay na rekomendasyon mula sa isang kaibigan o gumamit ng mga deepfake para hikayatin ang isang taong hindi naman talaga nag-iimbento na magbenta sa iyo ng produkto. Ito ay nagiging tago na advertising , isang bagay na sinusubukang labanan ng General Law on Audiovisual Communication at mga regulasyon ng EU sa pamamagitan ng pag-aatas na ang lahat ng bayad na nilalaman ay dapat na malinaw na makikilala.
Isa pang seryosong problema ay ang awtomatikong disinformation . Ang paggamit ng mga bot upang makabuo ng libu-libong pekeng review ay pumipilipit sa realidad ng merkado. Bagama't sinusubukan ng mga platform tulad ng Amazon na salain ang mga ito, ginagawa silang mas kapani-paniwala ng AI, na lumalabag sa karapatan ng mga mamimili sa makatotohanang impormasyon .
Pagmamasid sa kredito: kapag ang isang makina ang nagpapasya sa iyong kinabukasan
Sa sektor ng pananalapi, ang paggamit ng AI upang masuri ang creditworthiness (credit scoring) ay karaniwan, ngunit mapanganib. Kung ang isang algorithm ay gumagamit ng postal code bilang isang variable, maaari itong humantong sa sistematikong pagtanggi sa mga pautang sa mga taong mula sa mga kapitbahayan na may mababang kita, na nagpapanatili ng mga makasaysayang pagkiling. Ito ang tinatawag nating algorithmic bias , at ito ay isang uri ng hindi direktang diskriminasyon na maaaring hamunin sa legal na paraan.
Inuuri ng bagong AI Regulation (AI Act) ng EU ang mga sistemang ito bilang high-risk . Nangangahulugan ito na kakailanganin nilang sumailalim sa mahigpit na pag-audit, tiyakin na ang datos ng pagsasanay ay walang kinikilingan, at, higit sa lahat, garantiyahan ang tunay na pangangasiwa ng tao . Hindi maaaring payagan ang isang "black box" na magdesisyon kung ang isang tao ay kwalipikado para sa pabahay o pautang nang walang sinumang mananagot upang ipaliwanag ang dahilan sa likod ng desisyon.
Ang legal na panangga: Anong mga batas ang nagpoprotekta sa atin sa Espanya at Europa?
Sa Espanya, mayroon tayong makapangyarihang legal na arsenal, bagama't kung minsan ay tila mabagal itong ipatupad. Iniuutos na ng Artikulo 51 ng Konstitusyon ang pangangalaga sa mga interes pang-ekonomiya ng mga mamimili, at ang Pangkalahatang Batas para sa Depensa ng mga Mamimili at Gumagamit (TRLGDCU) ang pangunahing batas para sa paglaban sa mga hindi patas na termino . Bukod pa rito, binibigyan tayo ng GDPR ng karapatang hindi sumailalim sa mga desisyon batay lamang sa mga automated na proseso na may malaking epekto sa atin, na nagpapahintulot sa atin na humingi ng paliwanag mula sa tao at suriin ang legal at sibil na pananagutan sa panahon ng artificial intelligence.
Sa antas ng Europa, ang Digital Services Act (DSA) ay isang mahalagang pangyayari dahil hinihiling nito sa malalaking plataporma na maging transparent tungkol sa kanilang mga sistema ng rekomendasyon at ipinagbabawal ang advertising batay sa sensitibong datos (relihiyon, kalusugan, o oryentasyong sekswal). Samantala, ang AI Act ng EU ay nagtatatag ng isang pampublikong rehistro para sa mga sistemang may mataas na panganib, na naglalayong gawing auditable at responsable ang teknolohiya.
Pagtingin sa hinaharap: ang panukala para sa isang State Registry of Algorithms
Upang matiyak na ang transparency ay hindi lamang isang magandang salita sa papel, iminungkahi ang isang State Registry of Consumer Algorithms . Ang ideya ay ang anumang kumpanyang gumagamit ng AI upang magtakda ng mga presyo o magsala ng mga customer ay kailangang irehistro ang sistema nito sa isang pampublikong platform. Hindi ito tungkol sa pagbubunyag ng lihim na source code, kundi tungkol sa pagsusumite ng isang malinaw na teknikal na detalye na nagpapaliwanag kung anong data ang ginagamit nito at kung ano ang mga pangunahing pamantayan sa pagpapasya nito.
Pipilitin nito ang mga kumpanya na magsagawa ng self-regulation : kung hindi nila maipaliwanag sa publiko kung paano gumagana ang kanilang algorithm nang hindi ito tila mapang-diskrimina, malamang na dahil nga ganoon nga. Bukod pa rito, mas mapapadali nito para sa mga asosasyon ng mga mamimili at awtoridad na magsagawa ng mga proactive audit sa halip na maghintay na may mag-ulat ng pinsalang naganap na.
Ang laban para sa ating mga karapatan sa digital na panahon ay nakasalalay sa ating paglipat mula sa pagiging pasibong sakop patungo sa pagiging may kapangyarihang mga mamimili. Ang kombinasyon ng mahigpit na mga batas, mandatoryong transparency, at patuloy na pangangasiwa ng tao ang tanging paraan upang matiyak na ang artificial intelligence ay magiging isang kasangkapan para sa pag-unlad at hindi isang mekanismo para sa pagsasamantala. Sa huli, ang layunin ay ang teknolohikal na inobasyon ay hindi kailanman mauuna kaysa sa dignidad at awtonomiya ng tao .
