- Paragjykimet teknologjike lindin nga të dhëna të pabalancuara, vendime algoritmike të paqarta dhe paragjykime njerëzore që depërtojnë në të gjithë ciklin jetësor të IA-së.
- NIST bën dallimin midis paragjykimeve llogaritëse, njerëzore dhe sistemike, të cilat bashkëveprojnë dhe përforcojnë njëra-tjetrën në kontekste shoqërore të pabarabarta.
- Shembujt nga bota reale në kujdesin shëndetësor, drejtësi, punësim dhe kredi tregojnë dëme konkrete dhe përforcojnë nevojën për auditime, llogaridhënie dhe mbikëqyrje njerëzore.
- Rregullimi, edukimi dhe ekipet e larmishme janë shtylla thelbësore për hartimin dhe zbatimin e teknologjive më të drejta dhe më të përgjegjshme.
Ne jetojmë të rrethuar nga algoritme: ata rekomandojnë seriale televizive, japin kredi, filtrojnë CV-të dhe u japin përparësi lajmeve në mediat sociale . Shpesh supozojmë se, për shkak se vijnë nga një kompjuter, këto vendime janë më objektive dhe të drejta sesa ato të marra nga një person. Por realiteti është shumë më i pakëndshëm: as teknologjia nuk është neutrale.
Kur një kompjuter ose sistem inteligjence artificiale përfshin paragjykime, këto gabime nuk mbeten të kufizuara vetëm në botën dixhitale: ato përkthehen në mundësi të humbura, diagnoza më pak të sakta, mbikëqyrje të pabarabartë ose vendime të padrejta ekonomike . Të kuptuarit se nga vijnë këto paragjykime teknologjike, si klasifikohen ato dhe çfarë dëmi shkaktojnë është çelësi për zhvillimin dhe përdorimin e një IA vërtet të përgjegjshme.
Çfarë janë paragjykimet teknologjike dhe pse ato nuk janë thjesht “gabime teknike”?
Në sferën dixhitale, flasim për paragjykim kur një sistem kompjuterik përpunon informacionin në mënyrë të pabarabartë , sistematike dhe të parashikueshme , duke favorizuar disa grupe mbi të tjerët pa justifikim legjitim. Nuk bëhet fjalë vetëm për gabime të izoluara, por për modele të përsëritura në rezultate.
Këto paragjykime teknologjike mund të shfaqen në shumë nivele: në të dhënat e përdorura për të trajnuar një model, në hartimin e algoritmit, në mënyrën se si etiketohen shembujt, në metrikat e zgjedhura për optimizim, apo edhe në mënyrën se si njerëzit interpretojnë rezultatet e sistemit. Në fund të fundit, paragjykimet teknologjike pasqyrojnë dhe amplifikojnë paragjykimet njerëzore, pabarazitë historike dhe zgjedhjet e projektimit.
Një gabim shumë i zakonshëm është supozimi se kompjuterët "nuk bëjnë gabime" sepse ndjekin rregulla matematikore. Pas çdo zgjidhjeje të inteligjencës artificiale qëndrojnë ekipe që vendosin se cilat të dhëna të përdorin, cilat variabla janë të rëndësishme, si të matin suksesin dhe cilat gabime konsiderohen të pranueshme. Nëse këto ekipe ndajnë pika të verbëra ose punojnë me informacion të paplotë, sistemet që rezultojnë mund të jenë thellësisht të padrejta, edhe nëse funksionojnë "teknikisht" mirë.
Paragjykimi në të dhënat e trajnimit: kur problemi buron në bazën e të dhënave
Sistemet e inteligjencës artificiale dhe të të mësuarit automatik mësojnë nga shembujt. Nëse të dhënat mbi të cilat trajnohen janë të pabalancuara, të etiketuara dobët ose mbartin paragjykime historike, modeli do t'i mësojë këto modele të paragjykuara sikur të ishin mënyra "normale" e botës . Këtu buron pjesa më e madhe e problemit.
Një burim klasik i këtij paragjykimi është gabimi përfaqësues: grupe të caktuara janë të mbi-përfaqësuara në të dhëna, ndërsa të tjera mezi janë të pranishme. Një algoritëm i njohjes së fytyrës i trajnuar kryesisht në fotot e njerëzve të bardhë do të tentojë të funksionojë shumë mirë me atë grup dhe të bëjë shumë më tepër gabime me individë të zinj, aziatikë ose individë të tjerë të pakicave. E njëjta gjë vlen edhe nëse të dhënat e policisë vijnë kryesisht nga lagje të racizuara: IA do të supozojë nivele më të larta krimi atje, kur në realitet ka thjesht një prani më të madhe historike të policisë.
Mënyra se si etiketohen të dhënat ka gjithashtu një ndikim kritik. Kur njerëzit caktojnë kategori, përshkrime ose rezultate, ata mund të paraqesin paragjykimet e tyre. Mjetet e rekrutimit që i shënojnë profile të caktuara si më të “kualifikuara” mund të jenë trajnuar me etiketa që, pa arsye objektive, përjashtojnë gratë, të moshuarit ose kandidatët nga universitete ose vende të caktuara.
Në statistikë, flasim për paragjykim kur mostra nuk e përfaqëson vërtet popullatën që synon të modelojë. Rezultati është një model që duket se funksionon mirë në të dhënat e trajnimit, por në botën reale favorizon sistematikisht profile të caktuara dhe penalizon të tjera që ishin të nën-përfaqësuara ose të përshkruara dobët në bazën e të dhënave origjinale.
Paragjykimi algoritmik: vendimet e projektimit që amplifikojnë pabarazinë
Edhe me të dhëna të mira, dizajni i algoritmit mund të sjellë paragjykime. Ne flasim për paragjykime algoritmike kur, për shkak të mënyrës se si është ndërtuar modeli ose rregullave që zbaton, gjenerohen në mënyrë të përsëritur rezultate të padrejta, gabime të paragjykuara ose ndikime joproporcionale në grupe të caktuara .
Një shembull i qartë shfaqet në modelet që përdorin variabla në dukje neutrale, të tilla si kodi postar, niveli i të ardhurave ose modele të caktuara të konsumit. Edhe pse algoritmi nuk e "sheh" drejtpërdrejt racën ose gjininë, këto variabla mund të veprojnë si përfaqësues për kategoritë e ndjeshme , duke riprodhuar paragjykime racore, klasore ose gjinore që nuk janë koduar në mënyrë të qartë.
Paragjykimi i zhvilluesit mund të futet edhe në programim. Nëse projektuesi i sistemit vendos, me vetëdije ose pa vetëdije, që faktorë të caktuar duhet të peshohen më shumë se të tjerët, ai mund të jetë duke transferuar pikëpamjen e tij të paragjykuar për atë që përbën "meritë", "rrezik" ose "normalitet ". Rezultati: algoritme krediti që penalizojnë automatikisht individët me të ardhura të ulëta, ose sisteme rekomandimi që heshtin sistematikisht përmbajtje ose grupe të caktuara.
Instituti Kombëtar i Standardeve dhe Teknologjisë (NIST) thekson se korrigjimi i thjeshtë i asaj që është e dukshme në sipërfaqe (rezultatet e modelit të trajnuar tashmë) është vetëm gërvishtje e sipërfaqes . Për të adresuar me rigorozitet paragjykimin algoritmik, duhet të rishikohet i gjithë cikli i projektimit, nga deklarata e problemit deri te metrikat e përdorura për të vlerësuar pranueshmërinë e sistemit.
Paragjykimet njerëzore dhe njohëse: mënyra se si mendojmë depërton në teknologji
Paragjykimet nuk burojnë nga makina; ato burojnë nga mendjet tona. Ne njerëzit përdorim shkurtesa mendore, heuristika dhe nocione të paracaktuara për të marrë vendime të shpejta në një botë komplekse. Këto shkurtesa prodhojnë paragjykime njohëse që, kur marrim pjesë në projektimin, trajnimin ose mbikëqyrjen e sistemeve të inteligjencës artificiale, përfundojnë duke u transferuar në kod dhe të dhëna.
Një nga më të njohurat është paragjykimi konfirmues. Ne kemi tendencë të kërkojmë, interpretojmë dhe mbajmë mend informacionin që përputhet me atë që mendojmë tashmë, duke injoruar ose minimizuar çdo gjë që na kundërshton. Nëse një ekip zhvillimi beson se një model i caktuar është "normal", ata mund të zgjedhin të dhëna dhe metrika që përforcojnë hipotezën e tyre , duke hedhur poshtë rastet që e sfidojnë atë. Kjo ndikon si në përzgjedhjen e variablave ashtu edhe në validimin e modelit.
Një shembull tjetër klasik është paragjykimi i ankorimit: ne i japim peshë të tepruar informacionit të parë që marrim. Në kontekstet dixhitale, një çmim fillestar shumë i lartë mund ta bëjë çdo rënie të mëvonshme të çmimit të duket si një "ofertë e papërmbajtshme", edhe nëse nuk është e tillë. Diçka e ngjashme ndodh kur një sistem i inteligjencës artificiale shfaq një rekomandim ose parashikim fillestar: ai rezultat fillestar vepron si një spirancë për vendimet e mëvonshme të marra nga përdoruesit, analistët ose menaxherët e biznesit.
Efekti halo hyn gjithashtu në lojë: ne priremi ta vlerësojmë një person, produkt ose ide bazuar në një karakteristikë të vetme tërheqëse. Në proceset e automatizuara të përzgjedhjes, një diplomë nga një universitet prestigjioz mund të bëjë që një algoritëm, i trajnuar mbi të dhëna historike, të mbivlerësojë sistematikisht të diplomuarit nga ato institucione dhe të nënvlerësojë kandidatët po aq ose edhe më të kualifikuar nga ato më pak të njohura.
Paragjykimi negativ do të thotë që ne i kushtojmë më shumë vëmendje dhe u japim më shumë peshë informacionit negativ. Në modelet e zbulimit të mashtrimeve ose vlerësimit të riskut, kjo mund të përkthehet në algoritme që i japin përparësi shmangies së gabimeve të caktuara aq shumë saqë ato përfundojnë duke gjeneruar shumë pozitive të rreme , duke penalizuar njerëz të pafajshëm thjesht sepse statistikisht ngjajnë me raste problematike nga e kaluara.
Të gjitha këto paragjykime njohëse futen në sistem në pika të shumta: kur vendoset se cilin problem duhet zgjidhur, kur projektohet arkitektura, kur etiketohen manualisht të dhënat, kur zgjidhen funksionet e humbjes (të cilat mund të penalizojnë disa gabime më shumë se të tjerat) ose kur interpretohen rezultatet. Kjo është arsyeja pse NIST këmbëngul që faktorët njerëzorë, socialë dhe institucionalë janë po aq të rëndësishëm si burim paragjykimesh sa të dhënat ose algoritmet, dhe se ato shpesh anashkalohen.
Përtej gabimeve statistikore ose njohëse, ekzistojnë paragjykime të ngulitura në vetë strukturën e shoqërisë: racizmi, seksizmi, pabarazia klasore dhe diskriminimi ndaj moshave ose identiteteve të caktuara. Këto paragjykime sistemike nuk burojnë gjithmonë nga paragjykimet e vetëdijshme të individëve të caktuar, por më tepër nga normat, praktikat dhe institucionet që kanë funksionuar për dekada ose shekuj.
Kur mbledhim të dhëna historike për të trajnuar sistemet e IA-së, ajo që bëjmë është të përmbledhim atë histori të pabarabartë në formën e numrave dhe të dhënave dixhitale. Algoritmet që mësojnë nga ato të dhëna përfundojnë duke riprodhuar atë që "ka qenë gjithmonë rasti": më pak gra në pozicione udhëheqëse, më shumë arrestime në lagje të caktuara, më pak qasje në kredi për komunitete të caktuara. Në vend që të korrigjojë padrejtësinë, IA e përforcon atë me një shtresë objektiviteti.
Disa korniza bëjnë dallimin midis paragjykimit social dhe paragjykimit statistikor. Paragjykimi social lidhet me paragjykimet, stereotipet dhe prirjet e rrënjosura në një kulturë. Paragjykimi statistikor lind kur ekziston një mospërputhje sistematike midis asaj që vlerësojnë të dhënat dhe realitetit që supozohet të përfaqësojnë . Të dyja janë të ndërthurura: të dhënat e shtrembëruara shpesh janë pasqyrim numerik i pabarazisë sociale para-ekzistuese.
Normat, proceset dhe praktikat institucionale gjatë gjithë ciklit jetësor të IA-së gjithashtu kontribuojnë. Këto variojnë nga ato se cilat projekte financohen dhe cilët sektorë marrin më shumë vëmendje, deri te mënyra se si sistemet zbatohen në biznese dhe administrata publike. Rezultati është se paragjykimet sistemike depërtojnë në grupe të dhënash , modele dhe mënyrën se si ato përdoren në praktikë.
Tipologjia e NIST: paragjykime llogaritëse, njerëzore dhe sistemike
Publikimi Special 1270 i NIST-it, “Drejt një Standardi për Identifikimin dhe Menaxhimin e Paragjykimeve në Inteligjencën Artificiale”, është bërë një referencë kyçe për të kuptuar këtë temë. Ky dokument identifikon tre kategori kryesore të paragjykimeve në IA: paragjykimi kompjuterik ose statistikor, paragjykimi njerëzor dhe paragjykimi sistemik.
Paragjykimet llogaritëse janë ato që mund të maten drejtpërdrejt në performancën e një modeli të trajnuar të IA-së: ndryshimet në shkallët e gabimeve, rezultatet ose rezultatet në varësi të grupit të popullsisë. Ato përfshijnë gjëra të tilla si paragjykimi i përzgjedhjes së të dhënave (kur grupi i trajnimit nuk e përfaqëson me saktësi realitetin) ose paragjykimi algoritmik në kuptimin e ngushtë (kur metoda e llogaritjes favorizon rezultate të caktuara).
Paragjykimet njerëzore përfshijnë të gjitha paragjykimet dhe gabimet sistematike në të menduarit e njerëzve të përfshirë në ciklin jetësor të IA-së. Kjo përfshin paragjykimet njohëse të diskutuara tashmë (paragjykimi i konfirmimit, paragjykimi i ankorimit, efekti halo, paragjykimi i negativitetit, etj.), të cilat ndikojnë në mbledhjen e të dhënave, etiketimin, vendosjen e objektivave, përzgjedhjen e metrikave dhe interpretimin e raporteve të gjeneruara nga një sistem.
Së fundmi, paragjykimet sistemike i referohen pabarazive strukturore të rrënjosura në shoqëri dhe institucionet e saj. Këto paragjykime pasqyrohen në të dhënat historike, rregulloret ekzistuese, praktikat organizative dhe stimujt ekonomikë. Një shembull i qartë është se nëse, për dekada, njerëzit nga një pakicë e caktuar janë arrestuar më shpesh për shkak të praktikave diskriminuese të policimit, të dhënat që rezultojnë do të bëjnë që një sistem parashikimi i krimit të synojë në mënyrë të përsëritur të njëjtat komunitete.
NIST gjithashtu thekson tre sfida kryesore për zbutjen e këtyre paragjykimeve: përmirësimin e cilësisë dhe diversitetit të të dhënave, zhvillimin e kornizave të forta të testimit dhe vlerësimit që përfshijnë kritere drejtësie dhe adresimin e drejtpërdrejtë të faktorëve njerëzorë dhe organizativë duke integruar etikën dhe mbikëqyrjen në të gjithë procesin.
Paragjykimi i automatizimit: mbështetja e tepërt te makina
Përveç paragjykimeve të përmendura tashmë, rregulloret evropiane janë përqendruar në një fenomen gjithnjë e më të zakonshëm: paragjykimin e automatizimit. Rregullorja e BE-së për IA-në, në nenin 14.4(b), thekson rrezikun që njerëzit mund të besojnë automatikisht ose tepër në rezultatet e gjeneruara nga një sistem IA-je, edhe nëse këto rezultate janë të gabuara ose të paragjykuara.
Ky paragjykim i automatizimit është i lidhur ngushtë me paragjykimin e konfirmimit dhe paragjykimin e ankorimit. Nëse i besojmë verbërisht rezultatit të një sistemi, ka më shumë të ngjarë të kërkojmë informacion që përforcon atë që ka thënë makina dhe ta përdorim atë përgjigje si pikë referimi fillestare për gjithçka tjetër. Sugjerimet e inteligjencës artificiale bëhen një "e vërtetë e paracaktuar" që kushtëzon gjykimin njerëzor.
Kjo është arsyeja pse rregulloret evropiane këmbëngulin në nevojën për mbikëqyrje njerëzore në sistemet me rrezik të lartë (për shembull, ato që prekin të drejtat themelore). Nuk bëhet fjalë për një njeri që thjesht shtyp një buton në fund, por për t'u siguruar që njeriu mund të ofrojë kontekst, të vërë në dyshim vendimin e automatizuar dhe ta anulojë atë kur zbulon se nuk përputhet me rrethanat specifike.
Shembuj nga bota reale të paragjykimeve teknologjike dhe pasojat e tyre
Kur paragjykimet teknologjike materializohen në sistemet e botës reale, dëmi është shumë real. Organizatat e të gjitha llojeve kanë pësuar goditje reputacionale dhe ligjore për shkak se nuk kanë arritur të parashikojnë këto situata, ndërsa individët e prekur mund të mos e dinë as që është marrë një vendim i padrejtë nga një algoritëm.
Në kujdesin shëndetësor, nën-përfaqësimi i grave dhe pakicave në të dhënat klinike ka çuar në disa algoritme diagnostikuese që ofrojnë rezultate më pak të sakta për grupe të caktuara . Sistemet e mbështetjes diagnostikuese të asistuara nga kompjuteri janë vërejtur të kenë performancë më të keqe me pacientët afrikano-amerikanë sesa me pacientët e bardhë, duke përjetësuar pabarazitë ekzistuese në kujdesin shëndetësor.
Në vendin e punës, një kompani e madhe teknologjike iu desh të hiqte dorë nga një sistem rekrutimi i bazuar në inteligjencën artificiale kur zbuloi se ai penalizonte sistematikisht gratë. Algoritmi kishte mësuar nga një histori punësimi kryesisht nga meshkuj, duke e çuar atë në favorizimin e CV-ve të ngjashme me ato të burrave që ishin tashmë në staf dhe në filtrimin negativ të çdo treguesi të gjinisë femërore.
Një shembull tjetër janë sistemet e klasifikimit të rrezikut të drejtësisë penale, të tilla si COMPAS në Shtetet e Bashkuara, të cilat u akuzuan se u caktuan personave me ngjyrë nivele më të larta rreziku të recidivizmit sesa personave të bardhë në situata të krahasueshme. Edhe pse ofruesit e mbrojtën teknologjinë e tyre, disa analiza të pavarura nxorën në pah modelet e pabarazisë racore.
Në botën e vizionit kompjuterik, mjetet automatike të etiketimit të imazheve janë të njohura për klasifikimin e fotove të personave me ngjyrë me terma shumë fyes, duke theksuar si mungesën e diversitetit të të dhënave ashtu edhe mungesën e kontrolleve të cilësisë dhe ndjeshmërisë kulturore. Studimet që përdorin gjeneratorë imazhesh si Stable Diffusion ose mjete të ngjashme treguan se kur kërkoheshin fotografi të profesioneve specifike, burrat e bardhë shfaqeshin kryesisht si menaxherë , ndërsa gratë dhe njerëzit me ngjyrë shoqëroheshin me punë me vlerë më të ulët ose edhe me role kriminale.
Në kredi dhe financë, modelet që përdorin historinë bankare, kodin postar ose modele të caktuara shpenzimesh si variabla kyçe mund të çojnë në diskriminim indirekt. Individëve plotësisht të besueshëm për kredi mund t'u refuzohen aplikimet për kredi sepse sistemi, bazuar në të dhënat historike, i konsideron ata që jetojnë në lagje të caktuara ose kanë një profil të caktuar socioekonomik si "me rrezik më të lartë ", edhe pse analiza individuale tregon një histori të ndryshme.
Në mbikëqyrje dhe siguri, mjetet parashikuese të policimit që përdorin të dhëna historike të arrestimeve janë kritikuar për përforcimin e mbi-policimit në komunitete specifike. Nëse një zonë është patrulluar më dendur për vite me radhë për shkak të arsyeve racore ose klasore, të dhënat do të tregojnë më shumë incidente atje dhe algoritmi do të rekomandojë...
kthehen përsëri e përsëri, duke prodhuar një cikli i reagimeve që legjitimon praktikat diskriminuese.
Ku burojnë paragjykimet kompjuterike në ciklin teknologjik?
Duke parë të gjithë ciklin e zhvillimit teknologjik, paragjykimet mund të shfaqen praktikisht në çdo fazë. Në mbledhjen e të dhënave, përdorimi i burimeve historike të pabalancuara ose përjashtimi sistematik i popullatave të caktuara tashmë mbjell farat e problemit. Në hartimin e algoritmeve, zgjedhja e variablave, arkitekturave dhe qëllimeve të optimizimit përcakton se cilat lloje gabimesh do të jenë më tolerante.
Gjatë fazës së trajnimit, parimi i famshëm GIGO (Garbage In, Garbage Out) bëhet vërtet i rëndësishëm: nëse i jepni një modeli të dhëna të panevojshme, pavarësisht se sa i sofistikuar është algoritmi, rezultati do të jetë prapë i panevojshëm… por i mbështjellë me zhargon teknik dhe metrika të spikatura. Shtrembërimi i të dhënave mund të bëjë që modeli të mësojë përmendsh modele nga shumica dhe të dështojë në mënyrë spektakolare me pakicën.
Gjatë validimit, nëse maten vetëm metrikat globale të saktësisë pa i ndarë ato sipas nëngrupeve (gjinia, mosha, etnia, rajoni, etj.), një model shumë i padrejtë mund t'i kalojë kontrollet sepse, "mesatarisht", duket se funksionon në mënyrë perfekte. Kjo përkeqësohet nëse ekipi i zhvillimit është shumë homogjen dhe nuk bën pyetje të caktuara sepse ato nuk janë pjesë e përvojës së tyre të jetuar.
Gjatë fazës së vendosjes, shfaqen edhe efektet e ciklit të reagimit: një sistem i paragjykuar mund të ndikojë në sjelljen e përdoruesit dhe të gjenerojë të dhëna të reja që përforcojnë të njëjtat modele. Për shembull, nëse një motor rekomandimesh shfaq vetëm lloje të caktuara përmbajtjeje në profile specifike të përdoruesve, me kalimin e kohës do të duket se këta përdorues konsumojnë vetëm atë lloj përmbajtjeje sepse nuk kanë pasur qasje në pjesën tjetër.
Së fundmi, në interpretimin e rezultateve, paragjykimi i automatizimit dhe mungesa e shpjegueshmërisë mund të bëjnë që menaxherët e bizneseve, mjekët, gjyqtarët ose rekrutuesit ta pranojnë pa diskutim atë që thotë makina, edhe kur kjo bie ndesh me provat cilësore që kanë para tyre.
Si të zvogëlohet paragjykimi në teknologji dhe inteligjencë artificiale
Nuk ka një zgjidhje magjike për eliminimin e plotë të paragjykimeve, por ekziston një sërë praktikash që mund ta zvogëlojnë ndjeshëm atë. E para është diversifikimi i të dhënave: sigurimi që grupet e trajnimit përfshijnë përfaqësim të mjaftueshëm të të gjitha grupeve përkatëse , shqyrtimi periodik i çekuilibrave dhe korrigjimi i tyre duke përdorur teknika statistikore dhe të marrjes së mostrave.
Paralelisht, është thelbësore të kesh ekipe zhvillimi të larmishme. Larmia në gjini, prejardhje kulturore, disiplinë dhe përvojë jetësore ndihmon në identifikimin e problemeve që një grup homogjen ka të ngjarë të anashkalojë. Drejtësia algoritmike nuk është vetëm çështje matematike; është çështje e dizajnit shoqëror dhe organizativ.
Auditimet e algoritmeve dhe testet e drejtësisë po bëhen gjithashtu gjithnjë e më të zakonshme. Përpara se të vendosni një sistem në prodhim, këshillohet të vlerësoni se si funksionon me nëngrupe të ndryshme, çfarë lloje gabimesh bën dhe kush preket më shumë. Këto auditime duhet të jenë periodike dhe transparente , jo vetëm një formalitet në fillim të projektit.
Shpjegueshmëria (IA e Shpjegueshme, XAI) dhe transparenca luajnë gjithashtu një rol kyç. Sa më e kuptueshme të jetë për përdoruesit dhe rregullatorët se si dhe pse një sistem merr vendimet e tij, aq më e lehtë është të zbulohen paragjykimet e fshehura dhe të korrigjohen ato. Kjo përfshin dokumentimin e qartë të burimit të të dhënave, kufizimeve të modelit dhe situatave në të cilat ai nuk duhet të përdoret.
Në fund të fundit, rregulloret dhe etika ofrojnë kornizën që na detyron t'i marrim të gjitha këto seriozisht. Iniciativa të tilla si FATML (Drejtësia, Llogaridhënia, Transparenca në Mësimin Automatik), parimet e të dhënave FAIR (Të Gjendshme, të Aksesueshme, të Ndërveprueshme, të Ripërdorshme) dhe rregulloret e BE-së dhe SHBA-së tregojnë drejt një modeli në të cilin IA duhet të jetë e drejtë, e llogaridhënëse dhe e verifikueshme , veçanërisht kur ndikon në të drejtat themelore.
Arsimi dhe rregullimi: shtyllat e tjera për luftimin e paragjykimeve
Zhvillimi i teknologjive të përgjegjshme nuk varet vetëm nga inxhinierët dhe kompanitë; ai kërkon gjithashtu korniza ligjore dhe një qytetari të informuar. Në Shtetet e Bashkuara, për shembull, është miratuar një urdhër ekzekutiv që përcakton udhëzime për Inteligjencën Artificiale , duke përfshirë direktivat mbi transparencën, sigurinë dhe luftimin e diskriminimit algoritmik. Ndër të tjera, ai përqendrohet në trajnimin teknik dhe koordinimin institucional për të zbuluar dhe ndjekur penalisht shkeljet e mundshme të të drejtave të njeriut.
Në Bashkimin Evropian, Rregullorja për Inteligjencën Artificiale synon të sigurojë që sistemet të jenë të sigurta, transparente, jo-diskriminuese dhe që respektojnë të drejtat themelore. Rregullorja bën dallimin midis niveleve të ndryshme të rrezikut dhe përcakton se algoritmet me rrezik të lartë nuk mund të marrin vendime tërësisht në mënyrë autonome: gjithmonë duhet të ketë një person të aftë për të ndërhyrë, mbikëqyrur dhe korrigjuar sistemin.
Për më tepër, Rregullorja Evropiane kërkon që modelet të jenë të kuptueshme: duhet të jetë e mundur të identifikohen cilat karakteristika ndikojnë në vendime, me çfarë peshe dhe në çfarë konteksti. Kjo u hap derën individëve dhe autoriteteve të prekura për të sfiduar vendimet algoritmike që i konsiderojnë të padrejta, diçka që ishte praktikisht e pamundur me sisteme të errëta.
Megjithatë, arsimi është shtylla e tretë thelbësore. Nuk mjafton vetëm të trajnosh zhvilluesit në teknikat e të mësuarit automatik; ata duhet të kuptojnë ndikimin shoqëror të krijimeve të tyre, të jenë të vetëdijshëm se paragjykimet ekzistojnë që në fillim dhe të dizajnojnë duke pasur parasysh këtë. Përndryshe, sado qëllimmirë të jenë, ata do të përfundojnë duke përsëritur të njëjtat padrejtësi që shohim tashmë në botën reale.
Është gjithashtu e rëndësishme që përdoruesit, menaxherët, profesionistët e kujdesit shëndetësor, gjyqtarët, gazetarët dhe publiku i gjerë të kenë një kuptim bazë se si funksionojnë këto teknologji dhe çfarë rreziqesh sjellin ato. Vetëm atëherë ata mund të kërkojnë transparencë, të vënë në pikëpyetje rezultatet dhe të marrin pjesë në mënyrë të informuar në debatin rreth llojit të inteligjencës artificiale që duam.
Paragjykimet e teknologjisë nuk janë një dështim i izoluar i disa algoritmeve të hartuara dobët, por manifestim dixhital i kufizimeve, paragjykimeve dhe pabarazive tona historike; prandaj, adresimi i tyre kërkon një kombinim të të dhënave më të mira, modeleve më të drejta, mbikëqyrjes reale njerëzore, kornizave të forta ligjore dhe edukimit të gjerë që na lejon të përdorim IA-në si një mjet për barazi dhe jo si një pasqyrë që amplifikon më të keqen e shoqërisë sonë.
