- XAI transformuoja juodųjų dėžių modelius į skaidrias sistemas, leisdamas mums suprasti kiekvieno algoritminio sprendimo logiką.
- Yra esminis skirtumas tarp interpretuojamumo (iš esmės aiškūs modeliai) ir paaiškinamumo (sudėtingų modelių paaiškinimo metodai).
- Tokių metodų kaip Shapley arba LIME vertės naudojimas padeda sušvelninti diskriminacinius šališkumus ir užtikrina atitiktį teisiniams reglamentams, pavyzdžiui, ES.
Tikriausiai esate susidūrę su situacija, kai bendraujate su dirbtinio intelekto įrankiu ir svarstote: „Iš kur jis tai gavo?“. Būtent tą jausmą, lyg būtumėte priešais juodąją dėžę , kur įvedate duomenis ir gaunate rezultatą, niekam nežinant, kas įvyko tarp jų, ir bando išspręsti XAI. Svarbu ne tik veikianti mašina, bet ir tai, kad mes, kaip žmonės, galėtume suprasti kiekvieno atsakymo priežastis , kad nereikėtų aklai pasitikėti algoritmu.
Pasaulyje, kuriame dirbtinis intelektas jau sprendžia viską – nuo to, ar gausite paskolą, iki to, kaip diagnozuoti ligą, galimybė atverti tą gaubtą ir pamatyti, kaip jis veikia, yra gyvybiškai svarbi. Dirbtinio intelekto paaiškinamumas yra ne tik techninė inžinierių užgaida, bet ir socialinė bei teisinė būtinybė, siekiant išvengti šališkumo, užtikrinti sąžiningumą ir, svarbiausia, neleisti galutiniams vartotojams pasijusti pasimetusiems. Pasigilinkime į šią ekosistemą, kad suprastume, kaip pereiti nuo visiško neskaidrumo prie tikro skaidrumo.
Kas, po galais, yra paaiškinamas dirbtinis intelektas (XAI)?
Kalbėdami apie XAI, arba paaiškinamą dirbtinį intelektą (angl. Explanable Artificial Intelligence), turime omenyje specializuotą šaką, kurios tikslas – padaryti algoritmų vidinius procesus skaidrius ir prieinamus . Idėja paprasta: sistema neturėtų tiesiog pateikti rezultato, bet turėtų jį pagrindti, kad kiekvienas, nesvarbu, ar tai ekspertas, ar ne, galėtų suprasti. Tai labai svarbu, nes dabartiniai modeliai, ypač gilaus mokymosi ir neuroniniai tinklai , yra tokie sudėtingi, kad atlieka trilijonus skaičiavimų su vienu žodžiu, todėl žmogui neįmanoma rankiniu būdu pakartoti proceso.
Aiškinamumas ir paaiškinamumas: jie nėra tas pats
Jie dažnai vartojami pakaitomis, tačiau yra svarbus skirtumas. Interpretuojamumas yra pasyvi savybė; tai yra, kai kurie modeliai yra iš esmės skaidrūs, pavyzdžiui, sprendimų medžiai arba tiesinės regresijos, kur sprendimo kelią galima atsekti beveik pieštuku ir popieriumi. Jie vadinami baltosiomis dėžėmis arba stiklinėmis dėžėmis.
Kita vertus, paaiškinamumas yra aktyvus procesas. Jis pirmiausia taikomas neskaidriems modeliams (juodosioms dėžėms), pavyzdžiui, neuroniniams tinklams, siekiant išgauti nuoseklų įvykio paaiškinimą. Iš esmės, nors aiškinamumas orientuotas į vidinį veikimą, paaiškinamumas orientuotas į galutinio rezultato pagrindimą naudojant išorinius metodus.
Pranešimo pritaikymo vartotojui svarba
Neįmanoma paaiškinti mašininio mokymosi modelio duomenų mokslininkui taip pat, kaip tai darytumėte banko klientui. Kalbos pritaikymas yra XAI sėkmės raktas. Techniniam asmeniui paaiškinimas bus sutelktas į matavimo rodiklius ir kintamųjų svorį; verslo specialistui svarbu suprasti, kurios klientų charakteristikos lėmė, kad modelis pasiūlė vieną, o ne kitą produktą.
- Dirbtinio intelekto ekspertai: Jie ieško išsamių techninių detalių, kad galėtų optimizuoti ir patobulinti modelį.
- Duomenų naudotojai: Specialistai (gydytojai, teisininkai), kuriems reikia patvirtinti patikimumą, kad galėtų priimti klinikinius ar teisinius sprendimus.
- Pradedantiesiems arba plačiajai visuomenei: Žmonės, kurie tiesiog nori žinoti, kad jų duomenys naudojami teisingai ir kad yra žmogaus priežiūra procesas.
Juodosios dėžės atidarymo būdai
Kad dirbtinis intelektas nebebūtų paslaptis, naudojami įvairūs metodai, kurie daugiausia skirstomi į du būdus: globalų ir vietinį.
Visuotinė analizė: bendras žemėlapis
Šiais metodais siekiama suprasti, kaip modelis elgiasi apskritai. Pavyzdžiui, permutacijos svarbos metodas matuoja, kiek padidėja paklaida, jei keičiame kintamojo vertes, atskleisdamas, kurie veiksniai turi didžiausią įtaką sistemai. Taip pat yra dalinės priklausomybės grafikai , kurie analizuoja, kaip keičiasi prognozė, kai keičiasi konkretaus kintamojo vertė, nors abu paprastai daro prielaidą, kad kintamieji yra vienas nuo kito nepriklausomi.
Vietinė analizė: konkretus atvejis
Čia norime suprasti, kodėl šis konkretus pacientas gavo medicininį įspėjimą. Čia labai svarbios Shapley vertės (pagrįstos žaidimų teorija), nes jos kiekvienam kintamajam priskiria konkretų indėlį į galutinį rezultatą. Tai leidžia gydytojui pamatyti, kad įspėjimą pirmiausia sukėlė cholesterolio lygis , o ne paciento amžius, todėl jis gali veikti greitai ir tiksliai.
Neskaidrumo rizika ir skaidrumo nauda
Aklai pasitikėti juoda dėže yra pavojinga. Didžiausia rizika yra šališkumas ir diskriminacija ; jei dirbtinis intelektas apmokytas remiantis istoriniais duomenimis apie seksizmo ar rasizmo atvejus, algoritmas išmoks šiuos modelius ir juos atkartos, bausdamas gyvenimo aprašymus arba be logiškos priežasties atmesdamas kreditus. Be to, skaidrumo stoka sukuria teisinės atskaitomybės vakuumą : jei savaeigis automobilis sugenda, turime žinoti, kodėl, kad nustatytume, kas kaltas.
XAI įdiegimas ne tik užkerta kelią nelaimėms, bet ir suteikia konkurencinį pranašumą . Tai leidžia greitai aptikti klaidas, laikytis griežtų reglamentų, tokių kaip Europos Sąjungos Bendrasis duomenų apsaugos reglamentas (BDAR) , ir, svarbiausia, ugdo pasitikėjimą. Kai vartotojas supranta sprendimo priežastis, jis daug labiau linkęs priimti technologiją ir integruoti ją į savo kasdienį gyvenimą.
Iššūkiai ir tikslumo dilema
Ne viskas klostosi sklandžiai. Nuolat tvyro įtampa, vadinama tikslumo ir paaiškinamumo kompromisu . Paprastai tiksliausi modeliai (pvz., gilusis mokymasis) yra neskaidriausi, o lengviausiai suprantami paprastai yra mažiau galingi. Dabartinis iššūkis – rasti kompromisą, kuriame sistema būtų pakankamai efektyvi, kad būtų naudinga, tačiau pakankamai aiški, kad ją būtų galima audituoti ir suprasti.
Be to, yra ir skaičiavimo sąnaudos. Shapley verčių skaičiavimas milijonams prognozių per sekundę yra labai brangus apdorojimo galios požiūriu. Todėl, siekiant padidinti proceso efektyvumą, kuriami mechaniniai (vidinio veikimo supratimas) ir post-hoc (paaiškinimas po mokymo) interpretuojamumo metodai.
Paaiškinamas dirbtinis intelektas svarbiausiuose sektoriuose
Sveikatos priežiūros srityje dirbtinis intelektas (XAI) gali lemti gyvenimą ir mirtį, nes leidžia gydytojams patvirtinti DI pasiūlymus prieš operaciją. Švietimo srityje labai svarbu, kad mokytojai išlaikytų savo autonomiją ir netaptų vien algoritminių instrukcijų vykdytojais, ugdydami mokinių kritinį mąstymą . Logistikoje tai padeda valdyti atsargas, paaiškinant, kodėl geriausia perkelti padėklą atsižvelgiant į prekių surinkimo dažnumą ir artumą prie pakrovimo aikštelių.
Visiškas skaidrumas – nuo duomenų šaltinio iki išvesties logikos – paverčia dirbtinį intelektą žmogaus ir mašinos bendradarbiavimo įrankiu . Integruojant žmogaus priežiūrą ir suprantamumą, technologija garantuoja etišką ir saugią paramą, vengiant supratimo iliuzijos ir užtikrinant, kad kiekvienas sprendimas būtų teisingas, patikrinamas ir, svarbiausia, naudingas visuomenės tobulinimui.
