- Technologiniai šališkumai kyla dėl nesubalansuotų duomenų, neskaidrių algoritminių sprendimų ir žmonių išankstinių nuostatų, kurios prasiskverbia į visą dirbtinio intelekto gyvavimo ciklą.
- NIST skiria skaičiavimo, žmogiškuosius ir sisteminius šališkumus, kurie sąveikauja ir sustiprina vienas kitą nelygiose socialinėse situacijose.
- Realūs pavyzdžiai sveikatos priežiūros, teisingumo, užimtumo ir kredito srityse rodo konkrečią žalą ir sustiprina auditų, atskaitomybės ir žmonių priežiūros poreikį.
- Reglamentavimas, švietimas ir įvairios komandos yra esminiai teisingesnių ir atsakingesnių technologijų kūrimo ir diegimo ramsčiai.
Mus supa algoritmai: jie rekomenduoja televizijos serialus, suteikia paskolas, filtruoja gyvenimo aprašymus ir teikia pirmenybę naujienoms socialinėje žiniasklaidoje . Dažnai manome, kad šie sprendimai, kadangi priimami kompiuterio, yra objektyvesni ir teisingesni nei žmogaus. Tačiau realybė yra daug nepatogesnė: technologijos taip pat nėra neutralios.
Kai kompiuteryje ar dirbtinio intelekto sistemoje yra šališkumo, šios klaidos neapsiriboja skaitmeniniu pasauliu: jos virsta praleistomis galimybėmis, mažiau tiksliomis diagnozėmis, nevienoda stebėsena ar nesąžiningais ekonominiais sprendimais . Supratimas, iš kur kyla šie technologiniai šališkumai, kaip jie klasifikuojami ir kokią žalą jie daro, yra labai svarbus kuriant ir naudojant tikrai atsakingą dirbtinį intelektą.
Kas yra technologiniai šališkumai ir kodėl jie nėra tiesiog „techniniai trikdžiai“?
Skaitmeninėje srityje šališkumu kalbame tada, kai kompiuterinė sistema informaciją apdoroja netolygiai , sistemingai ir nuspėjamai , be pagrįsto pagrindo teikdama pirmenybę vienoms grupėms, palyginti su kitomis. Kalbama ne tik apie pavienes klaidas, bet ir apie pasikartojančius rezultatų modelius.
Šie technologiniai šališkumai gali pasireikšti įvairiais lygmenimis: duomenyse, naudojamuose modeliui apmokyti, algoritmo dizaine, pavyzdžių žymėjime, optimizavimui pasirinktuose rodikliuose ar net tame, kaip žmonės interpretuoja sistemos rezultatus. Galiausiai, technologiniai šališkumai atspindi ir sustiprina žmonių išankstines nuostatas, istorinę nelygybę ir dizaino pasirinkimus.
Labai dažna klaida – manyti, kad kompiuteriai „nedaro klaidų“, nes vadovaujasi matematinėmis taisyklėmis. Už bet kokio dirbtinio intelekto sprendimo slypi komandos, kurios nusprendžia , kokius duomenis naudoti, kurie kintamieji yra svarbūs, kaip matuoti sėkmę ir kokios klaidos laikomos priimtinomis. Jei šios komandos turi bendras akląsias zonas arba dirba su nepilna informacija, sukurtos sistemos gali būti labai neteisingos, net jei jos „techniškai“ veikia gerai.
Mokymo duomenų šališkumas: kai problema kyla duomenų bazėje
Dirbtinis intelektas ir mašininio mokymosi sistemos mokosi iš pavyzdžių. Jei duomenų rinkinys, su kuriuo jos apmokomos, yra nesubalansuotas, prastai paženklintas arba turi istorinių šališkumų, modelis išmoks šiuos šališkus modelius taip, tarsi jie būtų „įprastas“ pasaulio būdas . Būtent čia ir kyla didelė dalis problemos.
Klasikinis šio šališkumo šaltinis yra reprezentacinė klaida: tam tikros grupės duomenyse yra pernelyg atstovaujamos, o kitos – vos pastebimos. Veido atpažinimo algoritmas, apmokytas daugiausia su baltaodžių nuotraukomis, su ta grupe paprastai veiks labai gerai ir padarys daug daugiau klaidų su juodaodžiais, azijiečiais ar kitų mažumų atstovais. Tas pats pasakytina ir apie atvejus, kai policijos duomenys daugiausia gaunami iš rasizuotų rajonų: dirbtinis intelektas darys prielaidą, kad ten nusikalstamumo lygis yra didesnis, nors iš tikrųjų ten tiesiog yra didesnis istorinis policijos atstovų skaičius.
Duomenų žymėjimas taip pat turi didelę įtaką. Kai žmonės priskiria kategorijas, aprašymus ar balus, jie gali sukelti savo šališkumą. Įdarbinimo įrankiai , kurie tam tikrus profilius žymi kaip labiau „kvalifikuotus“, galėjo būti apmokyti etiketėmis, kurios be objektyvios priežasties atmetė moteris, vyresnio amžiaus žmones ar kandidatus iš tam tikrų universitetų ar šalių.
Statistikoje šališkumu kalbame tada, kai imtis iš tikrųjų neatspindi populiacijos, kurią ketinama modeliuoti. Rezultatas yra modelis, kuris, atrodo, gerai veikia mokymo duomenyse, tačiau realiame pasaulyje sistemingai teikia pirmenybę tam tikriems profiliams ir baudžia kitus , kurie buvo nepakankamai reprezentuoti arba prastai aprašyti pradinėje duomenų bazėje.
Algoritminis šališkumas: dizaino sprendimai, kurie sustiprina nelygybę
Net ir turint gerus duomenis, algoritmo konstrukcija gali sukelti šališkumą. Apie algoritminį šališkumą kalbame, kai dėl modelio sudarymo būdo ar taikomų taisyklių pakartotinai gaunami nesąžiningi rezultatai, šališkos klaidos arba neproporcingas poveikis tam tikroms grupėms .
Aiškus pavyzdys yra modeliuose, kuriuose naudojami iš pažiūros neutralūs kintamieji, pavyzdžiui, pašto kodas, pajamų lygis ar tam tikri vartojimo modeliai. Nors algoritmas tiesiogiai „nemato“ rasės ar lyties, šie kintamieji gali veikti kaip jautrių kategorijų pakaitalai , atkuriantys rasinius, klasės ar lyties šališkumus, kurie nebuvo aiškiai koduoti.
Kūrėjų šališkumas taip pat gali prasiskverbti į programavimą. Jei sistemos kūrėjas sąmoningai ar nesąmoningai nusprendžia, kad tam tikriems veiksniams turėtų būti teikiama didesnė svarba nei kitiems, jis gali perkelti savo šališką požiūrį į tai, kas yra „nuopelnas“, „rizika“ ar „normalumas “. Rezultatas: kreditų algoritmai , kurie automatiškai baudžia mažas pajamas gaunančius asmenis, arba rekomendacijų sistemos, kurios sistemingai nutildo tam tikrą turinį ar grupes.
Nacionalinis standartų ir technologijos institutas (NIST) pabrėžia, kad vien taisyti tai, kas matoma paviršiuje (jau apmokyto modelio rezultatus), tėra tik paviršiaus pakratymas . Norint griežtai spręsti algoritminio šališkumo problemą, reikia peržiūrėti visą projektavimo ciklą – nuo problemos aprašymo iki metrikų, naudojamų sistemos priimtinumui įvertinti.
Žmogaus ir kognityviniai šališkumai: kaip mūsų mąstymas prasiskverbia į technologijas
Šališkumas kyla ne iš mašinos; jis kyla iš mūsų galvos. Mes, žmonės, naudojame mentalinius trumpuosius kelius, euristiką ir išankstines nuostatas, kad galėtume greitai priimti sprendimus sudėtingame pasaulyje. Šie trumpieji keliai sukuria kognityvinius šališkumus , kurie, mums dalyvaujant dirbtinio intelekto sistemų projektavime, mokyme ar priežiūroje, galiausiai perkeliami į kodą ir duomenis.
Vienas iš geriausiai žinomų yra patvirtinimo šališkumas. Mes linkę ieškoti, interpretuoti ir įsiminti informaciją, kuri atitinka tai, ką jau manome, ignoruodami arba sumenkindami viską, kas mums prieštarauja. Jei kūrimo komanda mano, kad tam tikras modelis yra „normalus“, jie gali pasirinkti duomenis ir metrikas, kurios sustiprina jų hipotezę , atmesdami atvejus, kurie ją ginčija. Tai turi įtakos tiek kintamųjų pasirinkimui, tiek modelio patvirtinimui.
Kitas klasikinis pavyzdys – įtvirtinimo šališkumas: mes suteikiame pernelyg didelę reikšmę pirmajai gautai informacijai. Skaitmeniniame kontekste labai didelė pradinė kaina gali priversti bet kokį vėlesnį kainos sumažėjimą atrodyti kaip „nenugalimas pasiūlymas“, net jei taip nėra. Kažkas panašaus nutinka, kai dirbtinio intelekto sistema pateikia pradinę rekomendaciją arba prognozę: ta pradinė išvestis veikia kaip atrama vėlesniems vartotojų, analitikų ar verslo vadovų sprendimams.
Taip pat pasireiškia aureolės efektas: esame linkę vertinti asmenį, produktą ar idėją pagal vieną ryškią savybę. Automatizuotuose atrankos procesuose prestižinio universiteto diplomas gali priversti algoritmą, apmokytą remiantis istoriniais duomenimis, sistemingai pervertinti tų institucijų absolventus ir nepakankamai įvertinti vienodai ar net geriau kvalifikuotus kandidatus iš mažiau žinomų institucijų.
Neigiamumo šališkumas reiškia, kad mes daugiau dėmesio skiriame ir suteikiame jai daugiau svorio. Sukčiavimo aptikimo ar rizikos vertinimo modeliuose tai gali virsti algoritmais, kurie teikia pirmenybę tam tikrų klaidų vengimui, todėl galiausiai jie sukuria daug klaidingai teigiamų rezultatų , baudžiant nekaltus žmones vien dėl to, kad jie statistiškai primena probleminius atvejus iš praeities.
Visi šie kognityviniai šališkumai sistemoje atsiranda įvairiais etapais: sprendžiant, kurią problemą spręsti, projektuojant architektūrą, rankiniu būdu žymint duomenis, renkantis nuostolių funkcijas (kurios gali labiau bausti už kai kurias klaidas nei už kitas) arba interpretuojant rezultatus. Štai kodėl NIST tvirtina, kad žmogiškieji, socialiniai ir instituciniai veiksniai yra toks pat svarbus šališkumo šaltinis kaip ir duomenys ar algoritmai, ir kad jie dažnai nepaisomi.
Be statistinių ar kognityvinių klaidų, egzistuoja ir pačioje visuomenės struktūroje įsišakniję šališkumai: rasizmas, seksizmas, klasių nelygybė ir diskriminacija tam tikro amžiaus ar tapatybių atžvilgiu. Šie sisteminiai šališkumai ne visada kyla iš konkrečių asmenų sąmoningų išankstinių nuostatų , o veikiau iš normų, praktikų ir institucijų, kurios veikia dešimtmečius ar šimtmečius.
Kai renkame istorinius duomenis dirbtinio intelekto sistemoms apmokyti, mes įkomponuojame tą nelygybės istoriją skaičių ir skaitmeninių įrašų pavidalu. Algoritmai, kurie mokosi iš šių duomenų, galiausiai atkuria tai, kas „visada buvo“: mažiau moterų vadovaujančiose pareigose, daugiau areštų tam tikruose rajonuose, mažesnės galimybės gauti kreditų tam tikroms bendruomenėms. Užuot taisęs neteisybę, dirbtinis intelektas ją sustiprina objektyvumo priedanga.
Kai kuriose sistemose skiriamas socialinis šališkumas ir statistinis šališkumas. Socialinis šališkumas susijęs su kultūroje įsišaknijusiais išankstiniais nusistatymais, stereotipais ir polinkiais. Statistinis šališkumas atsiranda, kai yra sisteminis neatitikimas tarp to, ką duomenys įvertina, ir realybės, kurią jie turėtų atspindėti . Šie du dalykai yra tarpusavyje susiję: iškreipti duomenys dažnai yra skaitmeninis jau egzistuojančios socialinės nelygybės atspindys.
Taip pat prisideda ir institucinės normos, procesai ir praktika visame dirbtinio intelekto gyvavimo cikle. Jie apima įvairius aspektus – nuo projektų finansavimo ir sektorių, kuriems skiriama daugiau dėmesio, iki sistemų diegimo įmonėse ir viešojo administravimo įstaigose. Dėl to sisteminiai šališkumai prasiskverbia į duomenų rinkinius , modelius ir tai, kaip jie naudojami praktikoje.
NIST tipologija: skaičiavimo, žmogiškieji ir sisteminiai šališkumai
NIST specialusis leidinys Nr. 1270 „Siekiant dirbtinio intelekto šališkumo nustatymo ir valdymo standarto“ tapo pagrindiniu šaltiniu norint suprasti šią temą. Šiame dokumente išskiriamos trys pagrindinės dirbtinio intelekto šališkumo kategorijos: skaičiavimo arba statistinis šališkumas, žmogaus šališkumas ir sisteminis šališkumas.
Skaičiavimo šališkumas yra tas, kurį galima tiesiogiai išmatuoti apmokyto dirbtinio intelekto modelio veikime: klaidų dažnio, balų ar rezultatų skirtumai, priklausomai nuo populiacijos grupės. Tai apima tokius dalykus kaip duomenų atrankos šališkumas (kai mokymo rinkinys netiksliai atspindi realybę) arba algoritminis šališkumas griežtąja prasme (kai skaičiavimo metodas yra palankesnis tam tikriems rezultatams).
Žmogiškas šališkumas apima visus išankstinius nusistatymus ir sistemines klaidas, kylančias mąstant žmonėms, dalyvaujantiems dirbtinio intelekto gyvavimo cikle. Tai apima jau aptartus kognityvinius šališkumus (patvirtinimo šališkumą, įtvirtinimo šališkumą, aureolės efektą, negatyvumo šališkumą ir kt.), kurie turi įtakos duomenų rinkimui, ženklinimui, tikslų nustatymui, metrikų pasirinkimui ir sistemos sugeneruotų ataskaitų interpretavimui.
Galiausiai, sisteminiai šališkumai reiškia struktūrinę nelygybę, įsišaknijusią visuomenėje ir jos institucijose. Šie šališkumai atsispindi istoriniuose duomenyse, galiojančiuose reglamentuose, organizacinėje praktikoje ir ekonominėse paskatose. Aiškus pavyzdys yra tas, kad jei dešimtmečius tam tikros mažumos atstovai buvo dažniau suimami dėl diskriminacinės policijos praktikos, gauti duomenys paskatins nusikaltimų prognozavimo sistemą pakartotinai taikytis į tas pačias bendruomenes.
NIST taip pat pabrėžia tris pagrindinius iššūkius, siekiant sušvelninti šiuos šališkumus: duomenų rinkinių kokybės ir įvairovės gerinimas, patikimų testavimo ir vertinimo sistemų, apimančių sąžiningumo kriterijus, kūrimas ir tiesioginis žmogiškųjų bei organizacinių veiksnių aspektų sprendimas , integruojant etiką ir priežiūrą visame procese.
Automatizavimo šališkumas: per didelis pasitikėjimas mašina
Be jau minėtų šališkumo aspektų, Europos reglamentuose daugiausia dėmesio skiriama vis dažnesniam reiškiniui: automatizavimo šališkumui. ES dirbtinio intelekto reglamento 14.4 straipsnio b punkte nurodoma rizika, kad žmonės gali automatiškai arba pernelyg pasitikėti dirbtinio intelekto sistemos gautais rezultatais, net jei tie rezultatai yra klaidingi arba šališki.
Šis automatizavimo šališkumas yra glaudžiai susijęs su patvirtinimo šališkumu ir įtvirtinimo šališkumu. Jei aklai pasitikime sistemos išvestimi, esame labiau linkę ieškoti informacijos, kuri patvirtintų tai, ką pasakė mašina, ir naudoti tą atsakymą kaip pradinį atskaitos tašką viskam kitam. Dirbtinio intelekto pasiūlymai tampa „numatytąja tiesa“ , kuri sąlygoja žmogaus sprendimus.
Štai kodėl Europos reglamentuose reikalaujama, kad didelės rizikos sistemose (pavyzdžiui, tose, kurios paveikia pagrindines teises) būtų atliekama žmogaus priežiūra. Kalbama ne apie tai, kad žmogus tiesiog paspaudžia mygtuką pabaigoje, bet apie tai, kad būtų užtikrinta, jog žmogus galėtų pateikti kontekstą, suabejoti automatizuotu sprendimu ir jį pakeisti, kai pastebi, kad jis neatitinka konkrečių aplinkybių.
Realaus pasaulio technologinių šališkumo pavyzdžiai ir jų pasekmės
Kai technologiniai šališkumai materializuojasi realaus pasaulio sistemose, žala yra labai reali. Įvairiausios organizacijos patyrė reputacijos ir teisinių smūgių dėl to, kad nenumatė tokių situacijų, o nukentėję asmenys gali net nežinoti , kad algoritmas priėmė nesąžiningą sprendimą.
Sveikatos priežiūros srityje nepakankamas moterų ir mažumų atstovavimas klinikiniuose duomenyse lėmė, kad kai kurie diagnostiniai algoritmai tam tikroms grupėms pateikia mažiau tikslius rezultatus . Pastebėta, kad kompiuterinės diagnostikos palaikymo sistemos veikia prasčiau su afroamerikiečiais pacientais nei su baltaodžiais pacientais, todėl išlieka esama nelygybė sveikatos priežiūros srityje.
Didelė technologijų įmonė darbovietėje turėjo atsisakyti dirbtiniu intelektu pagrįstos įdarbinimo sistemos, kai atrado, kad ji sistemingai baudžia moteris. Algoritmas pasimokė iš istorijos, kai daugiausia įdarbindavo vyrus, todėl pirmenybę teikė gyvenimo aprašymams, panašiems į jau dirbančių vyrų gyvenimo aprašymus , ir neigiamai atmetė bet kokius moteriškos lyties požymius.
Kitas pavyzdys – baudžiamosios justicijos rizikos klasifikavimo sistemos, tokios kaip COMPAS Jungtinėse Valstijose, kurios buvo apkaltintos tuo, kad juodaodžiams priskiria didesnį recidyvizmo rizikos lygį nei baltaodžiams panašiose situacijose. Nors paslaugų teikėjai gynė savo technologiją, kelios nepriklausomos analizės išryškino rasinės nelygybės modelius.
Kompiuterinės regos pasaulyje automatiniai vaizdų žymėjimo įrankiai yra žinomi kaip juodaodžių nuotraukų klasifikavimo įrankiai, naudojantys itin įžeidžiančius terminus, o tai pabrėžia duomenų įvairovės stoką ir kokybės kontrolės bei kultūrinio jautrumo trūkumą. Tyrimai, naudojant tokius vaizdų generatorius kaip „Stable Diffusion“ ar panašius įrankius, parodė, kad kai buvo prašoma konkrečių profesijų nuotraukų, baltaodžiai vyrai dažniausiai buvo rodomi kaip vadovai , o moterys ir spalvotieji buvo siejami su mažiau vertinamais darbais ar net nusikalstamu vaidmeniu.
Kredito ir finansų srityje modeliai, kuriuose kaip pagrindiniai kintamieji naudojami banko istorija, pašto kodas arba tam tikri išlaidų modeliai, gali sukelti netiesioginę diskriminaciją. Visiškai kreditingų asmenų paskolų paraiškos gali būti atmestos, nes sistema, remdamasi istoriniais duomenimis, tam tikruose rajonuose gyvenančius arba tam tikrą socialinį ir ekonominį profilį turinčius asmenis laiko „didesnės rizikos “ asmenimis, nors individuali analizė rodo ką kita.
Stebėjimo ir saugumo srityje nuspėjamosios policijos priemonės, kurios naudoja istorinius areštų duomenis, buvo kritikuojamos dėl pernelyg didelio policijos darbo sustiprinimo konkrečiose bendruomenėse. Jei teritorija daugelį metų buvo intensyviau patruliuojama dėl rasinių ar klasinių priežasčių, duomenyse bus rodoma daugiau incidentų, o algoritmas rekomenduos...
grįžti vėl ir vėl, sukurdamas grįžtamojo ryšio ciklas kuris įteisina diskriminacinę praktiką.
Iš kur technologijų cikle kyla skaičiavimo šališkumas?
Žvelgiant į visą technologinės plėtros ciklą, šališkumas gali atsirasti praktiškai bet kuriame etape. Renkant duomenis, nesubalansuotų istorinių šaltinių naudojimas arba sistemingas tam tikrų populiacijų neįtraukimas jau yra problemos pagrindas. Algoritmų projektavime kintamųjų, architektūrų ir optimizavimo tikslų pasirinkimas lemia, kokio tipo klaidos bus tolerantiškesnės.
Mokymo etape išties aktualus tampa garsusis GIGO (angl. Garbage In, Garbage Out) principas: jei modeliui tiekiate šiukšlių duomenis, kad ir koks sudėtingas būtų algoritmas, rezultatas vis tiek bus šiukšlės... tik įvilktos į techninį žargoną ir prašmatnius rodiklius. Duomenų iškraipymas gali lemti, kad modelis įsimintų daugumos modelius ir su mažumos modeliais smarkiai suges.
Patvirtinimo metu, jei matuojami tik globalūs tikslumo rodikliai, neskirstant jų į pogrupius (lytį, amžių, etninę kilmę, regioną ir kt.), labai nesąžiningas modelis gali išlaikyti patikrinimus, nes „vidutiniškai“ atrodo, kad jis veikia puikiai. Padėtį dar labiau pablogina, jei kūrimo komanda yra pernelyg homogeniška ir neužduoda tam tikrų klausimų, nes jie nėra jų gyvenimiškos patirties dalis.
Diegimo etape taip pat atsiranda grįžtamojo ryšio ciklo efektai: šališka sistema gali paveikti naudotojų elgesį ir generuoti naujus duomenis, kurie sustiprina tuos pačius modelius. Pavyzdžiui, jei rekomendacijų sistema rodo tik tam tikro tipo turinį konkretiems naudotojų profiliams, laikui bėgant atrodys, kad tie naudotojai vartoja tik tokio tipo turinį, nes neturėjo prieigos prie likusio turinio.
Galiausiai, interpretuojant rezultatus, automatizavimo šališkumas ir paaiškinamumo stoka gali paskatinti verslo vadovus, gydytojus, teisėjus ar įdarbintojus besąlygiškai priimti tai, ką sako mašina, net jei tai prieštarauja jiems pateiktiems kokybiniams įrodymams .
Kaip sumažinti šališkumą technologijų ir dirbtinio intelekto srityje
Nėra stebuklingo būdo visiškai pašalinti šališkumą, tačiau yra praktikų rinkinys, kuris gali jį gerokai sumažinti. Pirmasis – diversifikuoti duomenis: užtikrinti, kad mokymo rinkiniuose būtų pakankamai visų atitinkamų grupių atstovavimo , periodiškai peržiūrėti disbalansus ir juos ištaisyti naudojant statistinius ir imčių ėmimo metodus.
Tuo pačiu metu labai svarbu turėti įvairias kūrimo komandas. Lyčių, kultūrinės kilmės, disciplinų ir gyvenimiškos patirties įvairovė padeda nustatyti problemas, kurių homogeninė grupė greičiausiai nepastebėtų. Algoritminis teisingumas yra ne tik matematikos klausimas; tai socialinio ir organizacinio dizaino klausimas.
Algoritmų auditai ir sąžiningumo testai taip pat tampa vis dažnesni. Prieš diegiant sistemą gamybinėje aplinkoje, patartina įvertinti, kaip ji veikia su skirtingais pogrupiais, kokias klaidas ji daro ir kam tai daro didžiausią įtaką. Šie auditai turėtų būti periodiški ir skaidrūs , o ne tik formalumas projekto pradžioje.
Paaiškinimas (paaiškinamas dirbtinis intelektas, XAI) ir skaidrumas taip pat vaidina svarbų vaidmenį. Kuo geriau vartotojams ir reguliuotojams suprantama, kaip ir kodėl sistema priima sprendimus, tuo lengviau aptikti paslėptus šališkumus ir juos ištaisyti. Tai apima aiškų duomenų šaltinio, modelio apribojimų ir situacijų, kuriose jis neturėtų būti naudojamas, dokumentavimą.
Galiausiai, reglamentai ir etika suteikia pagrindą, verčiantį mus į visa tai žiūrėti rimtai. Tokios iniciatyvos kaip FATML (sąžiningumas, atskaitomybė, skaidrumas mašininio mokymosi srityje), FAIR duomenų principai (randamumas, prieinamumas, sąveikumas, pakartotinis naudojimas) ir ES bei JAV reglamentai rodo modelį, pagal kurį dirbtinis intelektas turi būti sąžiningas, atskaitingas ir patikrinamas , ypač kai jis daro įtaką pagrindinėms teisėms.
Švietimas ir reguliavimas: kiti kovos su šališkumu ramsčiai
Atsakingų technologijų kūrimas priklauso ne tik nuo inžinierių ir įmonių; tam taip pat reikalingos teisinės sistemos ir informuoti piliečiai. Pavyzdžiui, Jungtinėse Valstijose buvo priimtas vykdomasis įsakymas, kuriuo nustatomos dirbtinio intelekto gairės , įskaitant direktyvas dėl skaidrumo, saugumo ir kovos su algoritmine diskriminacija. Be kita ko, jame daugiausia dėmesio skiriama techniniam mokymui ir institucijų koordinavimui, siekiant aptikti galimus žmogaus teisių pažeidimus ir patraukti už juos baudžiamojon atsakomybėn.
Europos Sąjungoje Dirbtinio intelekto reglamentas siekia užtikrinti, kad sistemos būtų saugios, skaidrios, nediskriminacinės ir jose būtų gerbiamos pagrindinės teisės. Reglamente skiriami skirtingi rizikos lygiai ir nustatoma, kad didelės rizikos algoritmai negali priimti sprendimų visiškai savarankiškai: visada turi būti asmuo, galintis įsikišti, prižiūrėti ir ištaisyti sistemą.
Be to, Europos reglamentas reikalauja, kad modeliai būtų suprantami: turi būti įmanoma nustatyti, kurios charakteristikos daro įtaką sprendimams, kokį svorį jos turi ir kokiame kontekste. Tai atveria duris nukentėjusiems asmenims ir valdžios institucijoms užginčyti algoritminius sprendimus, kuriuos jie laiko nesąžiningais, o tai buvo praktiškai neįmanoma naudojant neskaidrias sistemas.
Tačiau švietimas yra trečias esminis ramstis. Nepakanka apmokyti kūrėjus mašininio mokymosi metodų; jie turi suprasti savo kūrinių socialinį poveikį, žinoti, kad šališkumas egzistuoja nuo pat pradžių, ir kurti atsižvelgiant į tai. Priešingu atveju, kad ir kokie geri būtų jų ketinimai, jie galiausiai pakartos tas pačias neteisybes, kurias jau matome realiame pasaulyje.
Taip pat svarbu, kad naudotojai, vadovai, sveikatos priežiūros specialistai, teisėjai, žurnalistai ir plačioji visuomenė turėtų pagrindinį supratimą apie tai, kaip šios technologijos veikia ir kokią riziką jos kelia. Tik tada jie galės reikalauti skaidrumo, kvestionuoti rezultatus ir informuotai dalyvauti diskusijoje apie tai, kokio dirbtinio intelekto norime.
Technologijų šališkumas nėra pavienis prastai suprojektuotų algoritmų gedimas, o mūsų pačių apribojimų, išankstinių nuostatų ir istorinės nelygybės skaitmeninė išraiška; todėl norint juos spręsti, reikia geresnių duomenų, teisingesnių modelių, tikros žmogaus priežiūros, tvirtų teisinių sistemų ir plataus išsilavinimo derinio, kuris leistų mums naudoti dirbtinį intelektą kaip lygybės įrankį, o ne kaip veidrodį, sustiprinantį blogiausias mūsų visuomenės puses.
