- Tehnoloogilised eelarvamused tulenevad tasakaalustamata andmetest, läbipaistmatutest algoritmilistest otsustest ja inimlikest eelarvamustest, mis imbuvad kogu tehisintellekti elutsüklisse.
- NIST eristab arvutuslikke, inimlikke ja süsteemseid eelarvamusi, mis ebavõrdsetes sotsiaalsetes kontekstides üksteist vastastikmõjustavad ja tugevdavad.
- Tervishoiu, õiguse, tööhõive ja krediidi valdkonnast pärit reaalsed näited näitavad konkreetset kahju ning rõhutavad auditite, vastutuse ja inimliku järelevalve vajadust.
- Regulatsioon, haridus ja mitmekesised meeskonnad on õiglasemate ja vastutustundlikumate tehnoloogiate kavandamise ja juurutamise olulised alustalad.
Me elame algoritmide keskel: nad soovitavad telesarju, annavad laene, filtreerivad CV-sid ja seavad sotsiaalmeedias uudiste prioriteediks . Me eeldame sageli, et kuna need otsused tulevad arvutist, on need objektiivsemad ja õiglasemad kui inimese tehtud otsused. Kuid tegelikkus on palju ebamugavam: ka tehnoloogia pole neutraalne.
Kui arvuti või tehisintellekti süsteem sisaldab eelarvamusi, ei piirdu need vead ainult digitaalmaailmaga: need tähendavad kasutamata võimalusi, vähem täpseid diagnoose, ebavõrdset järelevalvet või ebaõiglasi majandusotsuseid . Tõeliselt vastutustundliku tehisintellekti arendamise ja kasutamise võtmeks on mõista, kust need tehnoloogilised eelarvamused pärinevad, kuidas neid liigitatakse ja millist kahju need põhjustavad.
Mis on tehnoloogilised eelarvamused ja miks need pole lihtsalt "tehnilised tõrked"?
Digitaalmaailmas räägime eelarvamusest siis, kui arvutisüsteem töötleb infot ebaühtlaselt , süstemaatiliselt ja etteaimatavalt , eelistades mõnda gruppi teistele ilma õigustatud põhjenduseta. See ei puuduta ainult üksikuid vigu, vaid tulemuste korduvaid mustreid.
Need tehnoloogilised eelarvamused võivad ilmneda mitmel tasandil: mudeli treenimiseks kasutatavates andmetes, algoritmi ülesehituses, näidete märgistamises, optimeerimiseks valitud mõõdikutes või isegi selles, kuidas inimesed süsteemi väljundeid tõlgendavad. Lõppkokkuvõttes peegeldavad ja võimendavad tehnoloogilised eelarvamused inimlikke eelarvamusi, ajaloolist ebavõrdsust ja disainivalikuid.
Väga levinud viga on eeldada, et arvutid „ei tee vigu“, kuna nad järgivad matemaatilisi reegleid. Iga tehisintellekti lahenduse taga on meeskonnad, kes otsustavad, milliseid andmeid kasutada, millised muutujad on olulised, kuidas edu mõõta ja milliseid vigu peetakse vastuvõetavaks. Kui need meeskonnad jagavad samu pimealasid või töötavad mittetäieliku teabega, võivad tulemuseks olevad süsteemid olla äärmiselt ebaõiglased, isegi kui need toimivad „tehniliselt“ hästi.
Treeningandmete kallutatus: kui probleem pärineb andmebaasist
Tehisintellekt ja masinõppesüsteemid õpivad näidetest. Kui andmestik, millel neid treenitakse, on tasakaalustamata, halvasti märgistatud või sisaldab ajaloolisi eelarvamusi, õpib mudel neid eelarvamusi nii, nagu oleksid need maailma "normaalsed" toimimisviisid . Siit tulenebki suur osa probleemist.
Selle eelarvamuse klassikaline allikas on esindusviga: teatud rühmad on andmetes üleesindatud, teised aga vaevu esindatud. Näotuvastusalgoritm, mis on treenitud peamiselt valgete inimeste fotode põhjal, kipub selle rühmaga väga hästi toimima ja teeb mustanahaliste, aasialaste või teiste vähemuste esindajatega palju rohkem vigu. Sama kehtib ka juhul, kui politseiandmed pärinevad peamiselt rassiliselt eristatud linnaosadest: tehisintellekt eeldab seal kõrgemat kuritegevuse määra, kuigi tegelikkuses on seal lihtsalt suurem ajalooline politsei kohalolek.
Andmete sildistamise viis mõjutab oluliselt olukorda. Kui inimesed määravad kategooriaid, kirjeldusi või hindeid, võivad nad tekitada omaenda eelarvamusi. Värbamistööriistad , mis märgistavad teatud profiile „kvalifitseeritumaks“, võivad olla treenitud siltidega, mis ilma objektiivse põhjuseta välistasid naised, vanemad inimesed või kandidaadid teatud ülikoolidest või riikidest.
Statistikas räägime eelarvamusest siis, kui valim ei esinda tegelikult populatsiooni, mida see modelleerida kavatseb. Tulemuseks on mudel, mis näib treeningandmetes hästi toimivat, kuid tegelikkuses eelistab süstemaatiliselt teatud profiile ja karistab teisi, mis olid algses andmebaasis alaesindatud või halvasti kirjeldatud.
Algoritmiline eelarvamus: ebavõrdsust võimendavad disainiotsused
Isegi heade andmete korral võib algoritmi ülesehitus põhjustada eelarvamusi. Algoritmilisest eelarvamusest räägime siis, kui mudeli ülesehituse või rakendatavate reeglite tõttu tekivad korduvalt ebaõiglased tulemused, kallutatud vead või ebaproportsionaalne mõju teatud rühmadele .
Selge näide ilmneb mudelites, mis kasutavad pealtnäha neutraalseid muutujaid, nagu postiindeks, sissetulekutase või teatud tarbimisharjumused. Kuigi algoritm ei "näe" otseselt rassi ega sugu, võivad need muutujad toimida tundlike kategooriate asendajatena , taastootades rassilise, klassilise või soolise eelarvamuse, mida pole otseselt kodeeritud.
Arendaja eelarvamused võivad imbuda ka programmeerimisse. Kui süsteemi disainer otsustab, teadlikult või alateadlikult, et teatud tegureid tuleks kaaluda rohkem kui teisi, võib ta kanda üle omaenda kallutatud arusaama sellest, mis on "väärtus", "risk" või "normaalsus ". Tulemuseks on krediitalgoritmid , mis automaatselt karistavad madala sissetulekuga isikuid, või soovitussüsteemid, mis süstemaatiliselt vaigistavad teatud sisu või gruppe.
Riiklik Standardite ja Tehnoloogia Instituut (NIST) rõhutab, et pinnal nähtava (juba treenitud mudeli tulemuste) parandamine on vaid pinna kriimustamine . Algoritmilise eelarvamuse rangeks käsitlemiseks tuleb üle vaadata kogu disainitsükkel, alates probleemi püstitusest kuni süsteemi vastuvõetavuse hindamiseks kasutatavate mõõdikuteni.
Inimlikud ja kognitiivsed eelarvamused: kuidas meie mõtlemine imbub tehnoloogiasse
Eelarvamused ei teki masinas; need tekivad meie mõtetes. Meie, inimesed, kasutame keerulises maailmas kiirete otsuste langetamiseks vaimseid otseteid, heuristikat ja eelarvamusi. Need otseteed tekitavad kognitiivseid eelarvamusi , mis tehisintellekti süsteemide disainis, treenimises või järelevalves osaledes kanduvad üle koodile ja andmetele.
Üks tuntumaid on kinnituskalduvus. Me kipume otsima, tõlgendama ja meelde jätma teavet, mis sobib meie juba olemasolevate mõtetega, ignoreerides või minimeerides kõike, mis meile vastu räägib. Kui arendusmeeskond usub, et teatud muster on "normaalne", võivad nad valida andmeid ja mõõdikuid, mis kinnitavad nende hüpoteesi , jättes kõrvale juhtumid, mis seda vaidlustavad. See mõjutab nii muutujate valikut kui ka mudeli valideerimist.
Teine klassikaline näide on ankurdamise eelarvamus: me anname esimesele saadud teabele liigse kaalu. Digitaalsetes kontekstides võib väga kõrge alghind panna iga järgneva hinnalanguse tunduma „vastupandamatu pakkumisena“, isegi kui see seda ei ole. Midagi sarnast juhtub ka siis, kui tehisintellekti süsteem kuvab esialgse soovituse või ennustuse: see esialgne väljund toimib ankruna kasutajate , analüütikute või ärijuhtide edasistele otsustele.
Samuti tuleb mängu haloefekt: kipume inimest, toodet või ideed hindama ühe silmatorkava omaduse põhjal. Automatiseeritud valikuprotsessides võib maineka ülikooli kraad panna ajaloolistel andmetel treenitud algoritmi süstemaatiliselt üle hindama nende institutsioonide lõpetajaid ja alahindama vähemtuntud ülikoolide samaväärselt või isegi paremini kvalifitseeritud kandidaate.
Negatiivne kallutatus tähendab, et pöörame negatiivsele teabele rohkem tähelepanu ja anname sellele suurema kaalu. Pettuste avastamise või riskihindamise mudelites võib see kajastuda algoritmides, mis seavad teatud vigade vältimise nii esikohale, et need lõpuks genereerivad palju valepositiivseid tulemusi , karistades süütuid inimesi lihtsalt seetõttu, et nad statistiliselt sarnanevad varasemate problemaatiliste juhtumitega.
Kõik need kognitiivsed eelarvamused sisestatakse süsteemi mitmel hetkel: probleemi lahendamise otsustamisel, arhitektuuri kujundamisel, andmete käsitsi sildistamisel, kadumisfunktsioonide valimisel (mis võivad mõningaid vigu rohkem karistada kui teisi) või tulemuste tõlgendamisel. Seetõttu rõhutab NIST, et inimlikud, sotsiaalsed ja institutsionaalsed tegurid on sama olulised eelarvamuste allikad kui andmed või algoritmid ning et neid sageli tähelepanuta jäetakse.
Lisaks statistilistele või kognitiivsetele vigadele on ühiskonna struktuuri sisse põimitud eelarvamused: rassism, seksism, klasside ebavõrdsus ja diskrimineerimine teatud vanuserühmade või identiteetide alusel. Need süsteemsed eelarvamused ei tulene alati konkreetsete isikute teadlikest eelarvamustest , vaid pigem normidest, tavadest ja institutsioonidest, mis on toiminud aastakümneid või sajandeid.
Kui me kogume tehisintellekti süsteemide treenimiseks ajaloolisi andmeid, siis me kapseldame selle ebavõrdse ajaloo numbrite ja digitaalsete andmete kujul. Algoritmid, mis nendest andmetest õpivad, reprodutseerivad lõpuks seda, mis "on alati nii olnud": vähem naisi juhtivatel kohtadel, rohkem vahistamisi teatud linnaosades, vähem juurdepääsu krediidile teatud kogukondadel. Ebaõigluse parandamise asemel tugevdab tehisintellekt seda objektiivsuse kattega.
Mõned raamistikud eristavad sotsiaalset ja statistilist kallutatust. Sotsiaalne kallutatus on seotud kultuuris juurdunud eelarvamuste, stereotüüpide ja kalduvustega. Statistiline kallutatus tekib siis, kui andmete hinnangute ja tegelikkuse vahel, mida need peaksid esindama, on süstemaatiline lahknevus . Need kaks on omavahel seotud: moonutatud andmed peegeldavad sageli juba olemasolevat sotsiaalset ebavõrdsust.
Oma panuse annavad ka tehisintellekti elutsükli institutsionaalsed normid, protsessid ja tavad. Need ulatuvad projektide rahastamisest ja sektoritest, millele rohkem tähelepanu pööratakse, kuni süsteemide rakendamiseni ettevõtetes ja avalikus halduses. Tulemuseks on süsteemsete eelarvamuste imbumine andmekogumitesse , mudelitesse ja nende praktikas kasutamise viisidesse.
NIST-i tüpoloogia: arvutuslikud, inimlikud ja süsteemsed eelarvamused
NISTi eriväljaanne 1270 „Tehisintellekti eelarvamuste tuvastamise ja haldamise standardi poole“ on saanud selle teema mõistmisel oluliseks viiteks. See dokument tuvastab tehisintellekti kolm peamist eelarvamuste kategooriat: arvutuslik või statistiline eelarvamus, inimlik eelarvamus ja süsteemne eelarvamus.
Arvutuslikud eelarvamused on need, mida saab treenitud tehisintellekti mudeli jõudluses otseselt mõõta: veamäärade, skooride või tulemuste erinevused populatsioonirühmast olenevalt. Nende hulka kuuluvad näiteks andmete valiku eelarvamused (kui treeningkomplekt ei kajasta tegelikkust täpselt) või algoritmiline eelarvamus kitsamas tähenduses (kui arvutusmeetod soosib teatud tulemusi).
Inimlikud eelarvamused hõlmavad kõiki eelarvamusi ja süstemaatilisi vigu tehisintellekti elutsüklis osalevate inimeste mõtlemises. See hõlmab juba käsitletud kognitiivseid eelarvamusi (kinnituseelarvamus, ankurdamiseelarvamus, haloefekt, negatiivsuseelarvamus jne), mis mõjutavad andmete kogumist, märgistamist, eesmärkide seadmist, mõõdikute valikut ja süsteemi loodud aruannete tõlgendamist.
Lõpuks viitavad süsteemsed eelarvamused ühiskonnas ja selle institutsioonides juurdunud struktuurilistele ebavõrdsustele. Need eelarvamused kajastuvad ajaloolistes andmetes, kehtivates eeskirjades, organisatsioonilistes tavades ja majanduslikes stiimulites. Selge näide on see, et kui aastakümneid on teatud vähemusse kuuluvaid inimesi diskrimineerivate politseipraktikate tõttu sagedamini vahistatud, siis saadud andmed panevad kuritegevuse ennustamise süsteemi korduvalt neid samu kogukondi sihtima.
NIST toob esile ka kolm peamist väljakutset nende eelarvamuste leevendamisel: andmekogumite kvaliteedi ja mitmekesisuse parandamine, tugevate testimis- ja hindamisraamistike väljatöötamine, mis hõlmavad õigluse kriteeriume, ning inim- ja organisatsiooniliste tegurite otsene käsitlemine , integreerides eetika ja järelevalve kogu protsessi.
Automatiseerimise eelarvamus: liigne sõltuvus masinast
Lisaks juba mainitud eelarvamustele on Euroopa regulatsioonid keskendunud üha levinumale nähtusele: automatiseerimise eelarvamusele. ELi tehisintellekti määruse artiklis 14.4(b) juhitakse tähelepanu ohule, et inimesed võivad automaatselt või liigselt usaldada tehisintellekti süsteemi loodud tulemusi, isegi kui need tulemused on ekslikud või kallutatud.
See automatiseerimise kallutatus on tihedalt seotud kinnituskalduvuse ja ankurdamise kallutatusega. Kui me usaldame pimesi süsteemi väljundit, otsime suurema tõenäosusega teavet, mis kinnitab masina öeldut, ja kasutame seda vastust kõige muu algpunktina. Tehisintellekti ettepanekutest saab „vaikimisi tõde“, mis mõjutab inimese otsustusvõimet.
Seepärast rõhutavad Euroopa regulatsioonid vajadust inimjärelevalve järele kõrge riskiga süsteemides (näiteks põhiõigusi mõjutavates süsteemides). Asi ei ole selles, et inimene lihtsalt lõpus nuppu vajutab, vaid selles, et inimene saaks anda konteksti, automatiseeritud otsuse kahtluse alla seada ja selle tühistada, kui ta tuvastab, et see ei ole konkreetsete asjaoludega kooskõlas.
Reaalse maailma näited tehnoloogilistest eelarvamustest ja nende tagajärgedest
Kui tehnoloogilised eelarvamused reaalsetes süsteemides materialiseeruvad, on kahju väga reaalne. Igasugused organisatsioonid on kannatanud mainekahju ja õiguslikke lööke, kuna nad ei ole neid olukordi ette näinud, samas kui mõjutatud isikud ei pruugi isegi teada , et algoritm on teinud ebaõiglase otsuse.
Tervishoius on naiste ja vähemuste alaesindatus kliinilistes andmetes viinud selleni, et mõned diagnostilised algoritmid annavad teatud rühmade puhul vähem täpseid tulemusi . Arvutipõhised diagnostilised tugisüsteemid on afroameerika patsientide puhul toiminud halvemini kui valgete patsientide puhul, mis süvendab tervishoius valitsevat ebavõrdsust.
Töökohal pidi üks suur tehnoloogiaettevõte tehisintellektil põhineva värbamissüsteemi sulgema, kui avastas, et see karistab süstemaatiliselt naisi. Algoritm oli õppinud valdavalt meeste värbamise ajaloost, mis pani ettevõtte eelistama juba töötajate meeste CV-dega sarnaseid CV-sid ja filtreerima negatiivselt välja kõik naissoo tunnused.
Teine näide on kriminaalõiguse riski klassifitseerimise süsteemid, näiteks COMPAS Ameerika Ühendriikides, mida süüdistati mustanahalistele kõrgema retsidiivsuse riski määramises kui valgetele inimestele võrreldavates olukordades. Kuigi teenusepakkujad kaitsesid oma tehnoloogiat, tõid mitmed sõltumatud analüüsid esile rassilise ebavõrdsuse mustreid.
Arvutinägemise maailmas on automaatsed piltide märgistamise tööriistad tuntud selle poolest, et mustanahaliste fotosid liigitatakse äärmiselt solvavate terminitega, mis toob esile nii andmete mitmekesisuse puudumise kui ka kvaliteedikontrolli ja kultuurilise tundlikkuse puudumise. Uuringud, mis kasutasid pildigeneraatoreid nagu Stable Diffusion või sarnaseid tööriistu, näitasid, et kui küsiti konkreetsete ametite fotosid, siis valged mehed esinesid valdavalt juhtidena , samas kui naised ja värvilised inimesed seostati madalama väärtusega töökohtade või isegi kriminaalsete rollidega.
Krediidi- ja finantsvaldkonnas võivad mudelid, mis kasutavad pangandusajalugu, postiindeksit või teatud kulutamisharjumusi võtmemuutujatena, viia kaudse diskrimineerimiseni. Täiesti krediidivõimeliste isikute laenutaotlused võidakse tagasi lükata, kuna süsteem peab ajaloolistel andmetel põhinevalt teatud piirkondades elavaid või teatud sotsiaalmajandusliku profiiliga inimesi „kõrgema riskiga “ isikuteks, kuigi individuaalne analüüs näitab teistsugust lugu.
Jälgimis- ja julgeolekuvaldkonnas on ennustavaid politseitööriistu, mis kasutavad ajaloolisi vahistamisandmeid, kritiseeritud ülepolitsei tugevdamise pärast teatud kogukondades. Kui piirkonda on aastaid rassilise või klassilise kuuluvuse tõttu tihedamalt patrullitud, näitavad andmed seal rohkem intsidente ja algoritm soovitab...
ikka ja jälle tagasi, luues tagasisideahel mis õigustab diskrimineerivaid tavasid.
Kust tehnoloogiatsüklis arvutuslikud eelarvamused pärinevad?
Kogu tehnoloogilise arengu tsüklit vaadates võivad eelarvamused ilmneda praktiliselt igas etapis. Andmete kogumisel külvab tasakaalustamata ajalooliste allikate kasutamine või teatud populatsioonide süstemaatiline väljajätmine juba probleemi seemneid. Algoritmi disainimisel määrab muutujate, arhitektuuride ja optimeerimiseesmärkide valik, millised vead on tolerantsemad.
Treeningfaasis muutub tõeliselt oluliseks kuulus GIGO (prügi sisse, prügi välja) põhimõte: kui mudelile anda prügiandmeid, olenemata algoritmi keerukusest, on tulemuseks ikkagi prügi... kuid pakitud tehnilisse žargooni ja toretsevate mõõdikutega. Andmete moonutus võib põhjustada mudelile enamuse mustrite meeldejätmist ja vähemuse puhul täieliku ebaõnnestumise.
Kui valideerimise käigus mõõdetakse ainult globaalseid täpsusnäitajaid ilma neid alamrühmadesse (sugu, vanus, etniline kuuluvus, piirkond jne) jaotamata, võib väga ebaõiglane mudel kontrollist läbi minna, sest "keskmiselt" tundub see toimivat ideaalselt. Olukorda süvendab veelgi see, kui arendusmeeskond on liiga homogeenne ega esita teatud küsimusi , kuna need ei ole osa nende elukogemusest.
Juurutamisetapis ilmnevad ka tagasisideahela efektid: kallutatud süsteem võib mõjutada kasutajate käitumist ja genereerida uusi andmeid, mis tugevdavad samu mustreid. Näiteks kui soovitusmootor kuvab teatud tüüpi sisu ainult teatud kasutajaprofiilidele, siis aja jooksul näib, et need kasutajad tarbivad seda tüüpi sisu ainult seetõttu, et neil pole olnud juurdepääsu ülejäänule.
Lõpuks, tulemuste tõlgendamisel võivad automatiseerimise kallutatus ja seletamatuse puudumine panna ettevõtete juhte, arste, kohtunikke või värbajaid masina öeldut kõhklemata aktsepteerima, isegi kui see on vastuolus nende ees oleva kvalitatiivse tõendusmaterjaliga .
Kuidas vähendada tehnoloogia ja tehisintellekti eelarvamusi
Eelarvamuste täielikuks kõrvaldamiseks imerohtu ei ole, kuid on olemas praktikad, mis saavad neid oluliselt vähendada. Esiteks tuleb andmeid mitmekesistada: tagada, et treeningkogumid hõlmaksid piisavat esindatust kõigist asjakohastest rühmadest , perioodiliselt tasakaalustamatust vaadata läbi ja seda statistiliste ja valimimeetodite abil korrigeerida.
Samal ajal on ülioluline, et arendusmeeskonnad oleksid mitmekesised. Sooline, kultuuriline taust, distsipliin ja elukogemus aitavad tuvastada probleeme, mis homogeensel rühmal tõenäoliselt kahe silma vahele jääksid. Algoritmiline õiglus ei ole ainult matemaatika küsimus; see on sotsiaalse ja organisatsioonilise disaini küsimus.
Algoritmi auditid ja õiglustestid on samuti üha tavalisemad. Enne süsteemi tootmiskeskkonda juurutamist on soovitatav hinnata, kuidas see toimib erinevate alamrühmadega, milliseid vigu see teeb ja keda need kõige rohkem mõjutavad. Need auditid peaksid olema perioodilised ja läbipaistvad , mitte ainult formaalsus projekti alguses.
Selgitatavus (selgitatav tehisintellekt, XAI) ja läbipaistvus mängivad samuti olulist rolli. Mida arusaadavam on kasutajatele ja regulaatoritele, kuidas ja miks süsteem oma otsuseid langetab, seda lihtsam on tuvastada varjatud eelarvamusi ja neid parandada. See hõlmab andmete allika, mudeli piirangute ja olukordade, kus seda ei tohiks kasutada, selget dokumenteerimist.
Lõppkokkuvõttes pakuvad regulatsioonid ja eetika raamistiku, mis sunnib meid kõike seda tõsiselt võtma. Sellised algatused nagu FATML (õiglus, vastutus ja läbipaistvus masinõppes), FAIR-andmete põhimõtted (leitav, ligipääsetav, koostalitlusvõimeline ja korduvkasutatav) ning ELi ja USA regulatsioonid viitavad mudelile, kus tehisintellekt peab olema õiglane, vastutustundlik ja kontrollitav , eriti kui see mõjutab põhiõigusi.
Haridus ja regulatsioon: eelarvamuste vastase võitluse teised sambad
Vastutustundlike tehnoloogiate arendamine ei sõltu ainult inseneridest ja ettevõtetest; see nõuab ka õigusraamistikke ja teadlikku kodanikke. Näiteks Ameerika Ühendriikides on vastu võetud täidesaatev korraldus, millega kehtestatakse tehisintellekti suunised , sealhulgas direktiivid läbipaistvuse, turvalisuse ja algoritmilise diskrimineerimise vastase võitluse kohta. Muuhulgas keskendub see tehnilisele koolitusele ja institutsioonilisele koordineerimisele võimalike inimõiguste rikkumiste avastamiseks ja nende eest vastutusele võtmiseks.
Euroopa Liidus on tehisintellekti määruse eesmärk tagada, et süsteemid oleksid ohutud, läbipaistvad, mittediskrimineerivad ja austaksid põhiõigusi. Määruses tehakse vahet erinevate riskitasemete vahel ja sätestatakse, et kõrge riskiga algoritmid ei saa otsuseid teha täiesti autonoomselt: alati peab olema inimene, kes on võimeline süsteemi sekkuma, seda jälgima ja parandama .
Lisaks nõuab Euroopa määrus, et mudelid oleksid arusaadavad: peab olema võimalik tuvastada, millised omadused otsuseid mõjutavad, millise kaaluga ja millises kontekstis. See avab mõjutatud isikutele ja ametiasutustele ukse vaidlustada algoritmilisi otsuseid, mida nad peavad ebaõiglaseks, mis oli läbipaistmatute süsteemide puhul praktiliselt võimatu.
Haridus on aga kolmas oluline sammas. Arendajate koolitamisest masinõppe tehnikates ei piisa; nad peavad mõistma oma loomingu sotsiaalset mõju, olema teadlikud, et eelarvamused eksisteerivad algusest peale, ja seda silmas pidades disainima. Vastasel juhul, olgu nad kui tahes head kavatsused, kordavad nad samu ebaõiglusi, mida me juba reaalses maailmas näeme.
Samuti on oluline, et kasutajatel, juhtidel, tervishoiutöötajatel, kohtunikel, ajakirjanikel ja laiemal avalikkusel oleks põhiteadmised sellest, kuidas need tehnoloogiad toimivad ja milliseid riske need endaga kaasa toovad. Alles siis saavad nad nõuda läbipaistvust, seada kahtluse alla tulemused ja osaleda teadlikul viisil arutelus selle üle, millist tehisintellekti me tahame.
Tehnoloogia eelarvamused ei ole üksikute halvasti disainitud algoritmide ebaõnnestumine, vaid meie endi piirangute, eelarvamuste ja ajaloolise ebavõrdsuse digitaalne ilming; seetõttu nõuab nende käsitlemine paremate andmete, õiglasemate mudelite, tegeliku inimjärelevalve, tugevate õigusraamistike ja laiaulatusliku hariduse kombinatsiooni, mis võimaldab meil kasutada tehisintellekti võrdsuse vahendina, mitte peeglina, mis võimendab meie ühiskonna halvimaid külgi.
