- Błędy technologiczne wynikają z niezrównoważonych danych, niejasnych decyzji algorytmicznych i ludzkich uprzedzeń, które przenikają cały cykl życia sztucznej inteligencji.
- NIST rozróżnia błędy obliczeniowe, ludzkie i systemowe, które oddziałują na siebie i wzmacniają się nawzajem w nierównych kontekstach społecznych.
- Przykłady z życia wzięte w służbie zdrowia, wymiarze sprawiedliwości, zatrudnieniu i kredytowaniu pokazują konkretne szkody i podkreślają potrzebę audytów, rozliczalności i nadzoru ze strony człowieka.
- Regulacje prawne, edukacja i zróżnicowane zespoły stanowią filary niezbędne do projektowania i wdrażania bardziej sprawiedliwych i odpowiedzialnych technologii.
Żyjemy otoczeni algorytmami: rekomendują seriale, udzielają pożyczek, filtrują CV i priorytetyzują wiadomości w mediach społecznościowych . Często zakładamy, że skoro pochodzą od komputera, decyzje te są bardziej obiektywne i sprawiedliwe niż te podejmowane przez człowieka. Rzeczywistość jest jednak o wiele bardziej niepokojąca: technologia również nie jest neutralna.
Kiedy komputer lub system sztucznej inteligencji zawiera błędy, nie ograniczają się one wyłącznie do świata cyfrowego: przekładają się na utracone szanse, mniej trafne diagnozy, nierówny nadzór lub niesprawiedliwe decyzje ekonomiczne . Zrozumienie, skąd pochodzą te błędy technologiczne, jak są klasyfikowane i jakie szkody wyrządzają, jest kluczem do rozwoju i wykorzystania prawdziwie odpowiedzialnej sztucznej inteligencji.
Czym są uprzedzenia technologiczne i dlaczego nie są po prostu „błędami technicznymi”?
W świecie cyfrowym o stronniczości mówimy, gdy system komputerowy przetwarza informacje nierównomiernie , systematycznie i przewidywalnie , faworyzując niektóre grupy kosztem innych bez uzasadnionego powodu. Nie chodzi tu tylko o pojedyncze błędy, ale o powtarzające się wzorce w wynikach.
Te uprzedzenia technologiczne mogą pojawiać się na wielu poziomach: w danych używanych do trenowania modelu, w projekcie algorytmu, w sposobie etykietowania przykładów, w metrykach wybieranych do optymalizacji, a nawet w sposobie, w jaki ludzie interpretują wyniki systemu. Ostatecznie uprzedzenia technologiczne odzwierciedlają i wzmacniają ludzkie uprzedzenia, historyczne nierówności i wybory projektowe.
Bardzo częstym błędem jest założenie, że komputery „nie popełniają błędów”, ponieważ postępują zgodnie z zasadami matematyki. Za każdym rozwiązaniem AI stoją zespoły, które decydują, jakich danych użyć, które zmienne są ważne, jak mierzyć sukces i jakie błędy są akceptowalne. Jeśli te zespoły mają wspólne słabe punkty lub pracują z niekompletnymi informacjami, powstałe systemy mogą być głęboko niesprawiedliwe, nawet jeśli działają „technicznie” dobrze.
Błąd w danych szkoleniowych: gdy problem ma swoje źródło w bazie danych
Systemy sztucznej inteligencji i uczenia maszynowego uczą się na przykładach. Jeśli zbiór danych , na którym są trenowane, jest niezrównoważony, słabo oznakowany lub zawiera błędy historyczne, model nauczy się tych błędów, tak jakby były one „normalnym” sposobem życia . To właśnie tutaj tkwi źródło większości problemów.
Klasycznym źródłem tego błędu jest błąd reprezentacyjny: pewne grupy są nadreprezentowane w danych, podczas gdy inne są ledwo obecne. Algorytm rozpoznawania twarzy wytrenowany głównie na zdjęciach osób białych będzie zazwyczaj bardzo skuteczny w przypadku tej grupy, a znacznie częściej będzie popełniał błędy w przypadku osób czarnoskórych, Azjatów lub innych mniejszości. To samo dotyczy danych policyjnych pochodzących głównie z dzielnic o różnym pochodzeniu rasowym: sztuczna inteligencja założy, że wskaźniki przestępczości w tych dzielnicach są wyższe, podczas gdy w rzeczywistości po prostu wcześniej była tam większa obecność policji.
Sposób etykietowania danych ma również kluczowe znaczenie. Przypisując kategorie, opisy lub oceny, ludzie mogą wprowadzać własne uprzedzenia. Narzędzia rekrutacyjne , które oznaczają określone profile jako bardziej „wykwalifikowane”, mogły zostać przeszkolone z etykietami, które bez obiektywnego powodu wykluczały kobiety, osoby starsze lub kandydatów z określonych uniwersytetów lub krajów.
W statystyce mówimy o błędach, gdy próba nie odzwierciedla w pełni populacji, którą ma modelować. W rezultacie powstaje model, który wydaje się dobrze działać w danych treningowych, ale w rzeczywistości systematycznie faworyzuje pewne profile i karze inne, które były niedostatecznie reprezentowane lub słabo opisane w oryginalnej bazie danych.
Błąd algorytmiczny: decyzje projektowe wzmacniające nierówności
Nawet przy dobrych danych, konstrukcja algorytmu może wprowadzać błędy. O błędach algorytmicznych mówimy, gdy ze względu na sposób konstrukcji modelu lub stosowane przez niego reguły, wielokrotnie generowane są niesprawiedliwe wyniki, błędy obarczone błędami lub nieproporcjonalne oddziaływanie na określone grupy .
Wyraźnym przykładem są modele wykorzystujące pozornie neutralne zmienne, takie jak kod pocztowy, poziom dochodów czy określone wzorce konsumpcji. Chociaż algorytm nie „widzi” bezpośrednio rasy ani płci, zmienne te mogą pełnić rolę zastępczą dla wrażliwych kategorii , odtwarzając uprzedzenia rasowe, klasowe lub płciowe, które nie zostały jawnie zakodowane.
Uprzedzenia programistów mogą również wkraść się do programowania. Jeśli projektant systemu zdecyduje, świadomie lub nieświadomie, że pewne czynniki powinny być ważniejsze niż inne, może przenieść na niego swój własny, tendencyjny pogląd na to, co stanowi „zasługę”, „ryzyko” lub „normalność ”. Rezultatem są algorytmy kredytowe , które automatycznie karzą osoby o niskich dochodach, lub systemy rekomendacji, które systematycznie wyciszają określone treści lub grupy.
Narodowy Instytut Standardów i Technologii (NIST) podkreśla, że samo korygowanie tego, co widać na pierwszy rzut oka (wyniki już wytrenowanego modelu), to zaledwie powierzchowne zauważenie problemu . Aby rygorystycznie przeciwdziałać błędom algorytmicznym, należy przeanalizować cały cykl projektowania – od sformułowania problemu po wskaźniki używane do oceny akceptowalności systemu.
Uprzedzenia ludzkie i poznawcze: sposób, w jaki myślimy, przenika do technologii
Uprzedzenia nie biorą się z maszyny, lecz z naszych umysłów. My, ludzie, używamy skrótów myślowych, heurystyk i z góry przyjętych założeń, aby szybko podejmować decyzje w złożonym świecie. Te skróty generują błędy poznawcze , które, gdy uczestniczymy w projektowaniu, szkoleniu lub nadzorowaniu systemów AI, ostatecznie przenoszą się na kod i dane.
Jednym z najbardziej znanych jest błąd potwierdzenia. Mamy tendencję do wyszukiwania, interpretowania i zapamiętywania informacji, które pasują do tego, co już myślimy, ignorując lub minimalizując wszystko, co nam przeczy. Jeśli zespół programistów uważa, że dany wzorzec jest „normalny”, może wybrać dane i metryki, które potwierdzają jego hipotezę , odrzucając przypadki, które ją podważają. Wpływa to zarówno na dobór zmiennych, jak i walidację modelu.
Innym klasycznym przykładem jest błąd zakotwiczenia: przywiązujemy nadmierną wagę do pierwszej otrzymanej informacji. W kontekście cyfrowym bardzo wysoka cena początkowa może sprawić, że każda kolejna obniżka ceny będzie wydawać się „ofertą nie do odrzucenia”, nawet jeśli nią nie jest. Podobnie dzieje się, gdy system AI wyświetla początkową rekomendację lub prognozę: ten początkowy wynik działa jak kotwica dla kolejnych decyzji podejmowanych przez użytkowników, analityków lub menedżerów.
W grę wchodzi również efekt halo: zazwyczaj cenimy osobę, produkt lub ideę na podstawie jednej, uderzającej cechy. W zautomatyzowanych procesach selekcji, dyplom prestiżowego uniwersytetu może sprawić, że algorytm, wyszkolony na danych historycznych, będzie systematycznie przeceniał absolwentów tych uczelni i niedoceniał równie lub nawet lepiej wykwalifikowanych kandydatów z uczelni mniej znanych.
Błąd negatywnego nastawienia oznacza, że zwracamy większą uwagę na informacje negatywne i nadajemy im większą wagę. W modelach wykrywania oszustw lub oceny ryzyka może to prowadzić do sytuacji, w której algorytmy tak bardzo priorytetowo traktują unikanie pewnych błędów, że generują wiele wyników fałszywie dodatnich , karząc niewinne osoby tylko dlatego, że statystycznie przypominają problematyczne przypadki z przeszłości.
Wszystkie te błędy poznawcze są wprowadzane do systemu na wielu etapach: podczas podejmowania decyzji o tym, który problem rozwiązać, podczas projektowania architektury, podczas ręcznego etykietowania danych, podczas wyboru funkcji strat (które mogą karać niektóre błędy bardziej niż inne) lub podczas interpretacji wyników. Dlatego NIST podkreśla, że czynniki ludzkie, społeczne i instytucjonalne są równie istotnym źródłem błędów, jak dane czy algorytmy, i że często są pomijane.
Poza błędami statystycznymi i poznawczymi, w samej strukturze społeczeństwa tkwią uprzedzenia: rasizm, seksizm, nierówności klasowe i dyskryminacja ze względu na wiek lub tożsamość. Te systemowe uprzedzenia nie zawsze wynikają ze świadomych uprzedzeń konkretnych osób, lecz raczej z norm, praktyk i instytucji, które funkcjonują od dziesięcioleci, a nawet stuleci.
Gromadząc dane historyczne do trenowania systemów sztucznej inteligencji, utrwalamy tę nierówną historię w postaci liczb i zapisów cyfrowych. Algorytmy, które uczą się na podstawie tych danych, odtwarzają to, co „zawsze było”: mniej kobiet na stanowiskach kierowniczych, więcej aresztowań w niektórych dzielnicach, mniejszy dostęp do kredytów dla niektórych społeczności. Zamiast korygować niesprawiedliwość, sztuczna inteligencja wzmacnia ją pozorem obiektywizmu.
Niektóre systemy rozróżniają uprzedzenia społeczne i statystyczne. Uprzedzenia społeczne odnoszą się do uprzedzeń, stereotypów i skłonności zakorzenionych w kulturze. Uprzedzenia statystyczne pojawiają się, gdy istnieje systematyczna rozbieżność między szacunkami danych a rzeczywistością, którą mają one rzekomo reprezentować . Te dwa zjawiska są ze sobą powiązane: zniekształcone dane często odzwierciedlają liczbowo istniejące już nierówności społeczne.
Normy instytucjonalne, procesy i praktyki w całym cyklu życia sztucznej inteligencji również mają na to wpływ. Obejmują one zarówno finansowanie projektów i sektorów, którym poświęca się więcej uwagi, jak i sposób wdrażania systemów w przedsiębiorstwach i administracji publicznej. W rezultacie systemowe uprzedzenia przenikają do zbiorów danych , modeli i sposobu ich wykorzystania w praktyce.
Typologia NIST: błędy obliczeniowe, ludzkie i systemowe
Publikacja specjalna NIST nr 1270 „W kierunku standardu identyfikacji i zarządzania stronniczością w sztucznej inteligencji” stała się kluczowym punktem odniesienia dla zrozumienia tego tematu. Dokument ten identyfikuje trzy główne kategorie stronniczości w sztucznej inteligencji: stronniczość obliczeniowa lub statystyczna, stronniczość ludzka oraz stronniczość systemowa.
Błędy obliczeniowe to błędy, które można bezpośrednio zmierzyć w wydajności wytrenowanego modelu sztucznej inteligencji: różnice w wskaźnikach błędów, wynikach lub rezultatach w zależności od grupy populacji. Obejmują one na przykład błąd selekcji danych (gdy zbiór treningowy nie odzwierciedla dokładnie rzeczywistości) lub błąd algorytmiczny w ścisłym znaczeniu (gdy metoda obliczeniowa faworyzuje określone wyniki).
Uprzedzenia ludzkie obejmują wszelkie uprzedzenia i błędy systemowe w myśleniu osób zaangażowanych w cykl życia sztucznej inteligencji. Należą do nich omówione już błędy poznawcze (błąd potwierdzenia, błąd zakotwiczenia, efekt halo, błąd negatywności itp.), które wpływają na gromadzenie danych, etykietowanie, wyznaczanie celów, dobór metryk i interpretację raportów generowanych przez system.
Wreszcie, uprzedzenia systemowe odnoszą się do nierówności strukturalnych zakorzenionych w społeczeństwie i jego instytucjach. Uprzedzenia te znajdują odzwierciedlenie w danych historycznych, obowiązujących przepisach, praktykach organizacyjnych i zachętach ekonomicznych. Wyraźnym przykładem jest to, że jeśli przez dziesięciolecia osoby należące do określonej mniejszości były częściej aresztowane z powodu dyskryminacyjnych praktyk policyjnych, uzyskane dane spowodują, że system przewidywania przestępczości będzie wielokrotnie obierał za cel te same społeczności.
NIST podkreśla również trzy główne wyzwania w zakresie łagodzenia tych błędów: poprawa jakości i różnorodności zestawów danych, opracowanie solidnych ram testowania i oceny, które obejmują kryteria uczciwości, a także bezpośrednie zajmowanie się czynnikami ludzkimi i organizacyjnymi poprzez integrację etyki i nadzoru w całym procesie.
Błąd automatyzacji: zbytnie poleganie na maszynie
Oprócz wspomnianych już uprzedzeń, europejskie regulacje koncentrują się na coraz powszechniejszym zjawisku: stronniczości automatyzacji. Rozporządzenie UE w sprawie sztucznej inteligencji (AI), w artykule 14.4(b), wskazuje na ryzyko, że ludzie mogą automatycznie lub nadmiernie ufać wynikom generowanym przez system AI, nawet jeśli są one błędne lub stronnicze.
Ten błąd automatyzacji jest ściśle związany z błędem potwierdzenia i błędem zakotwiczenia. Jeśli ślepo ufamy wynikom systemu, jesteśmy bardziej skłonni szukać informacji, które potwierdzają to, co powiedziała maszyna, i wykorzystywać tę odpowiedź jako punkt odniesienia dla wszystkiego innego. Sugestie sztucznej inteligencji stają się „domyślną prawdą”, która warunkuje ludzki osąd.
Dlatego europejskie przepisy kładą nacisk na potrzebę nadzoru ze strony człowieka w systemach wysokiego ryzyka (na przykład tych, które naruszają prawa podstawowe). Nie chodzi o to, by człowiek po prostu nacisnął przycisk na końcu, ale o to, by człowiek mógł zapewnić kontekst, zakwestionować zautomatyzowaną decyzję i cofnąć ją, gdy wykryje, że nie jest ona zgodna z konkretnymi okolicznościami.
Przykłady z życia wzięte uprzedzeń technologicznych i ich konsekwencje
Kiedy uprzedzenia technologiczne materializują się w rzeczywistych systemach, szkody są bardzo realne. Organizacje wszelkiego rodzaju poniosły straty wizerunkowe i prawne z powodu nieprzewidywania takich sytuacji, a osoby dotknięte tymi problemami mogą nawet nie zdawać sobie sprawy , że algorytm podjął niesprawiedliwą decyzję.
W opiece zdrowotnej niedostateczna reprezentacja kobiet i mniejszości w danych klinicznych doprowadziła do tego, że niektóre algorytmy diagnostyczne dostarczają mniej dokładnych wyników dla niektórych grup . Zaobserwowano, że systemy wspomagania diagnostyki wspomaganej komputerowo działają gorzej u pacjentów afroamerykańskich niż u pacjentów białych, co utrwala istniejące nierówności w opiece zdrowotnej.
W miejscu pracy duża firma technologiczna musiała porzucić system rekrutacji oparty na sztucznej inteligencji, gdy odkryła, że systematycznie karze on kobiety. Algorytm wyciągnął wnioski z historii zatrudniania głównie mężczyzn, co skłoniło go do faworyzowania CV podobnych do CV mężczyzn już zatrudnionych w firmie i negatywnego filtrowania wszelkich wskazań płci żeńskiej.
Innym przykładem są systemy klasyfikacji ryzyka w wymiarze sprawiedliwości, takie jak COMPAS w Stanach Zjednoczonych, które oskarżano o przypisywanie osobom czarnoskórym wyższych wskaźników ryzyka recydywy niż osobom białym w porównywalnych sytuacjach. Chociaż dostawcy bronili swojej technologii, kilka niezależnych analiz ujawniło wzorce dysproporcji rasowych.
W świecie wizji komputerowej znane są narzędzia do automatycznego etykietowania obrazów, które klasyfikują zdjęcia osób czarnoskórych za pomocą obraźliwych określeń, co wskazuje zarówno na brak różnorodności danych, jak i brak kontroli jakości oraz wrażliwości kulturowej. Badania z wykorzystaniem generatorów obrazów, takich jak Stable Diffusion i podobne narzędzia, wykazały, że gdy proszono o zdjęcia osób z określonych zawodów, biali mężczyźni pojawiali się głównie na stanowiskach kierowniczych , podczas gdy kobiety i osoby czarnoskóre były kojarzone z mniej cenionymi stanowiskami, a nawet rolami przestępczymi.
W kredytach i finansach modele wykorzystujące historię bankową, kod pocztowy lub określone wzorce wydatków jako kluczowe zmienne mogą prowadzić do pośredniej dyskryminacji. Osoby o doskonałej wiarygodności kredytowej mogą mieć odrzucone wnioski o pożyczkę, ponieważ system, w oparciu o dane historyczne, uznaje osoby mieszkające w określonych dzielnicach lub o określonym profilu społeczno-ekonomicznym za osoby „o podwyższonym ryzyku ”, mimo że analiza indywidualna przedstawia inny obraz sytuacji.
W dziedzinie nadzoru i bezpieczeństwa, narzędzia predykcyjne policji, wykorzystujące historyczne dane o aresztowaniach, są krytykowane za wzmacnianie nadmiernej kontroli policyjnej w określonych społecznościach. Jeśli dany obszar był patrolowany intensywniej przez lata z powodów rasowych lub klasowych, dane wykażą więcej incydentów, a algorytm zarekomenduje...
powracać raz po raz, produkując pętla sprzężenia zwrotnego co legitymizuje praktyki dyskryminacyjne.
Gdzie w cyklu technologicznym biorą udział uprzedzenia komputerowe?
Patrząc na cały cykl rozwoju technologicznego, błędy mogą pojawić się praktycznie na każdym etapie. W procesie gromadzenia danych, korzystanie z niezrównoważonych źródeł historycznych lub systematyczne wykluczanie określonych populacji już samo w sobie stanowi zarzewie problemu. W projektowaniu algorytmów, wybór zmiennych, architektur i celów optymalizacji decyduje o tym, jakie rodzaje błędów będą bardziej odporne.
W fazie uczenia słynna zasada GIGO (Garbage In, Garbage Out) staje się naprawdę istotna: jeśli dostarczysz modelowi dane śmieciowe, niezależnie od tego, jak zaawansowany jest algorytm, wynik i tak będzie śmieciowy… ale opakowany w techniczny żargon i efektowne metryki. Przekłamanie danych może spowodować, że model zapamięta wzorce od większości i spektakularnie zawiedzie w przypadku mniejszości.
Podczas walidacji, jeśli mierzone są wyłącznie globalne wskaźniki dokładności, bez podziału na podgrupy (płeć, wiek, pochodzenie etniczne, region itp.), wysoce niesprawiedliwy model może przejść kontrolę, ponieważ „średnio” wydaje się działać idealnie. Sytuacja pogarsza się, gdy zespół programistów jest zbyt jednorodny i nie zadaje pewnych pytań, ponieważ nie są one częścią ich doświadczenia.
W fazie wdrażania pojawiają się również efekty pętli sprzężenia zwrotnego: stronniczy system może wpływać na zachowania użytkowników i generować nowe dane, które wzmacniają te same wzorce. Na przykład, jeśli wyszukiwarka rekomendacji wyświetla określone typy treści tylko określonym profilom użytkowników, z czasem może się wydawać, że użytkownicy ci korzystają tylko z tych treści, ponieważ nie mieli dostępu do pozostałych.
Wreszcie, w interpretacji wyników, błąd automatyzacji i brak możliwości wyjaśnienia mogą sprawić, że menedżerowie, lekarze, sędziowie czy rekruterzy bezkrytycznie przyjmą to, co mówi maszyna, nawet jeśli jest to sprzeczne z dowodami jakościowymi, którymi się posługują.
Jak ograniczyć stronniczość w technologii i sztucznej inteligencji
Nie ma magicznego rozwiązania, które całkowicie wyeliminowałoby stronniczość, ale istnieje zestaw praktyk, które mogą ją znacząco ograniczyć. Pierwszym z nich jest dywersyfikacja danych: upewnienie się, że zestawy treningowe obejmują wystarczającą reprezentację wszystkich istotnych grup , okresowe sprawdzanie nierównowag i korygowanie ich za pomocą technik statystycznych i próbkowania.
Równocześnie kluczowe jest posiadanie zróżnicowanych zespołów programistów. Różnorodność pod względem płci, pochodzenia kulturowego, dyscypliny i doświadczenia życiowego pomaga identyfikować problemy, które jednorodna grupa prawdopodobnie przeoczyłaby. Sprawiedliwość algorytmiczna to nie tylko kwestia matematyki, ale także kwestia projektowania społecznego i organizacyjnego.
Audyty algorytmów i testy uczciwości stają się coraz powszechniejsze. Przed wdrożeniem systemu do produkcji, warto ocenić jego działanie w różnych podgrupach, rodzaje popełnianych błędów i osoby, na które są one najbardziej narażone. Audyty te powinny być okresowe i transparentne , a nie jedynie formalnością na początku projektu.
Kluczową rolę odgrywają również wyjaśnialność (Explainable AI, XAI) i transparentność. Im bardziej zrozumiałe dla użytkowników i organów regulacyjnych jest, w jaki sposób i dlaczego system podejmuje decyzje, tym łatwiej jest wykryć ukryte błędy i je skorygować. Obejmuje to jasne udokumentowanie źródła danych, ograniczeń modelu oraz sytuacji, w których nie należy go używać.
Ostatecznie regulacje i etyka stanowią ramy, które zmuszają nas do poważnego traktowania tych kwestii. Inicjatywy takie jak FATML (Rzetelność, Odpowiedzialność, Przejrzystość w Uczeniu Maszynowym), zasady FAIR data (Wyszukiwalność, Dostępność, Interoperacyjność, Możliwość Ponownego Użytkowania) oraz regulacje UE i USA wskazują na model, w którym sztuczna inteligencja musi być uczciwa, rozliczalna i weryfikowalna , zwłaszcza gdy wpływa na prawa podstawowe.
Edukacja i regulacje: pozostałe filary walki z uprzedzeniami
Rozwój odpowiedzialnych technologii zależy nie tylko od inżynierów i firm; wymaga również ram prawnych i świadomego społeczeństwa. Na przykład w Stanach Zjednoczonych wydano rozporządzenie wykonawcze ustanawiające wytyczne dotyczące sztucznej inteligencji , w tym dyrektywy dotyczące przejrzystości, bezpieczeństwa i zwalczania dyskryminacji algorytmicznej. Koncentruje się ono między innymi na szkoleniach technicznych i koordynacji instytucjonalnej w celu wykrywania i ścigania potencjalnych naruszeń praw człowieka.
W Unii Europejskiej rozporządzenie w sprawie sztucznej inteligencji ma na celu zapewnienie bezpieczeństwa, przejrzystości, niedyskryminacji i poszanowania praw podstawowych systemów. Rozporządzenie rozróżnia różne poziomy ryzyka i stanowi, że algorytmy wysokiego ryzyka nie mogą podejmować decyzji w pełni autonomicznie: zawsze musi istnieć osoba zdolna do interwencji, nadzoru i korygowania systemu.
Co więcej, rozporządzenie europejskie wymaga, aby modele były zrozumiałe: musi być możliwe określenie, które cechy wpływają na decyzje, z jaką wagą i w jakim kontekście. Otwiera to drogę osobom i organom ścigania do kwestionowania decyzji algorytmicznych, które uważają za niesprawiedliwe, co było praktycznie niemożliwe w przypadku nieprzejrzystych systemów.
Edukacja jest jednak trzecim, niezbędnym filarem. Nie wystarczy szkolić programistów w zakresie technik uczenia maszynowego; muszą oni rozumieć społeczny wpływ swoich dzieł, być świadomi istnienia uprzedzeń od samego początku i projektować je z uwzględnieniem tego faktu. W przeciwnym razie, niezależnie od ich dobrych intencji, będą powielać te same niesprawiedliwości, które już widzimy w realnym świecie.
Ważne jest również, aby użytkownicy, menedżerowie, pracownicy służby zdrowia, sędziowie, dziennikarze i opinia publiczna mieli podstawową wiedzę na temat działania tych technologii i związanego z nimi ryzyka. Tylko wtedy będą mogli domagać się przejrzystości, kwestionować wyniki i świadomie uczestniczyć w debacie na temat tego, jakiej sztucznej inteligencji potrzebujemy.
Błędy technologiczne nie są odosobnioną porażką źle zaprojektowanych algorytmów, ale cyfrowym przejawem naszych własnych ograniczeń, uprzedzeń i historycznych nierówności. Dlatego też, aby się z nimi zmierzyć, potrzebne jest połączenie lepszych danych, bardziej sprawiedliwych modeli, rzeczywistego nadzoru ludzkiego, solidnych ram prawnych i szerokiej edukacji, która pozwoli nam wykorzystywać sztuczną inteligencję jako narzędzie równości, a nie jako lustro, które uwypukla najgorsze cechy naszego społeczeństwa.
