- Binabago ng XAI ang mga black box model tungo sa mga transparent na sistema, na nagbibigay-daan sa atin na maunawaan ang lohika sa likod ng bawat desisyon sa algorithm.
- Mayroong mahalagang pagkakaiba sa pagitan ng interpretability (mga modelong likas na malinaw) at explainability (mga pamamaraan para sa paglilinaw ng mga kumplikadong modelo).
- Ang paggamit ng mga pamamaraan tulad ng Shapley o LIME values ay nakakatulong upang mapagaan ang mga diskriminasyon at tinitiyak ang pagsunod sa mga legal na regulasyon tulad ng sa EU.
Malamang naranasan mo na ang pakikipag-ugnayan sa isang artificial intelligence tool at nagtataka, "Saan nito nakuha ito?" Ang pakiramdam na nasa harap ka ng isang black box , kung saan naglalagay ka ng data at nakakakuha ng resulta nang walang sinuman ang talagang nakakaalam kung ano ang nangyari sa pagitan, ang siyang eksaktong sinusubukang lutasin ng XAI. Hindi lamang ito tungkol sa paggana ng makina, kundi tungkol sa atin, bilang mga tao, na nakakaintindi ng pangangatwiran sa likod ng bawat tugon upang hindi natin kailangang basta-basta magtiwala sa isang algorithm.
Sa isang mundong ang AI na ang nagpapasya sa lahat ng bagay, mula sa kung kukuha ka ng pautang hanggang sa kung paano mag-diagnose ng isang sakit, ang kakayahang buksan ang takip na iyon at makita kung paano ito gumagana ay mahalaga. Ang kakayahang ipaliwanag ang AI ay hindi lamang isang teknikal na kapritso para sa mga inhinyero, kundi isang panlipunan at legal na pangangailangan upang maiwasan ang pagkiling, matiyak ang pagiging patas, at, higit sa lahat, maiwasan ang mga end user na makaramdam ng pagkaligaw. Suriin natin ang ecosystem na ito upang maunawaan kung paano lumipat mula sa ganap na opacity patungo sa tunay na transparency.
Ano ba talaga ang Explainable AI (XAI)?
Kapag pinag-uusapan natin ang XAI, o Explainable Artificial Intelligence, tinutukoy natin ang isang espesyalisadong sangay na naglalayong gawing transparent at naa-access ang mga panloob na proseso ng mga algorithm . Simple lang ang ideya: ang sistema ay hindi dapat basta magbunga ng resulta, kundi dapat itong samahan ng isang katwiran na mauunawaan ng sinuman, eksperto man o hindi. Mahalaga ito dahil ang mga kasalukuyang modelo, lalo na ang deep learning at neural network , ay napakakumplikado kaya nagsasagawa sila ng trilyong kalkulasyon para sa isang salita, na ginagawa itong imposibleng kopyahin nang manu-mano ang proseso.
Kakayahang Magbigay-kahulugan laban sa Kakayahang Magpaliwanag: Hindi sila magkapareho
Madalas silang ginagamit nang palitan, ngunit mayroong isang mahalagang pagkakaiba. Ang kakayahang bigyang-kahulugan ay isang pasibong katangian; ibig sabihin, ang ilang mga modelo ay likas na transparent, tulad ng mga decision tree o linear regression, kung saan maaari mong subaybayan ang landas ng desisyon halos gamit lamang ang isang lapis at papel. Ang mga ito ay kilala bilang mga puting kahon o mga kahon na salamin.
Sa kabilang banda, ang kakayahang ipaliwanag ay isang aktibong proseso. Pangunahin itong inilalapat sa mga opaque na modelo (mga black box), tulad ng mga neural network, upang subukang kumuha ng isang magkakaugnay na paliwanag sa nangyari. Sa esensya, habang ang kakayahang ipaliwanag ay nakatuon sa mga panloob na gawain, ang kakayahang ipaliwanag ay nakatuon sa pagbibigay-katwiran sa pangwakas na resulta gamit ang mga panlabas na pamamaraan.
Ang kahalagahan ng pag-aangkop ng mensahe sa gumagamit
Hindi mo maipapaliwanag ang isang machine learning model sa isang data scientist sa parehong paraan na gagawin mo sa isang customer sa bangko. Ang pag-aangkop ng wika ay susi sa tagumpay ng XAI. Para sa isang teknikal na tao, ang paliwanag ay tututok sa mga sukatan ng pagsukat at ang bigat ng mga baryabol; para sa isang propesyonal sa negosyo, ang mahalagang bagay ay ang pag-unawa kung aling mga katangian ng customer ang nagtulak sa modelo na magmungkahi ng isang produkto at hindi ng iba.
- Mga eksperto sa AI: Naghahanap sila ng malalalim na teknikal na detalye upang ma-optimize at pinuhin ang modelo.
- Mga gumagamit ng datos: Mga propesyonal (mga doktor, abogado) na kailangang patunayan ang pagiging maaasahan upang makagawa ng mga klinikal o legal na desisyon.
- Mga baguhan o pangkalahatang publiko: Mga taong gusto lang malaman kung ang kanilang datos ay ginagamit nang tama at mayroong pangangasiwa ng tao ang proseso.
Mga pamamaraan para sa pagbubukas ng itim na kahon
Upang hindi na maging misteryo ang AI, iba't ibang pamamaraan ang ginagamit, na pangunahing nahahati sa dalawang pamamaraan: pandaigdigan at lokal.
Pandaigdigang Pagsusuri: Ang pangkalahatang mapa
Nilalayon ng mga pamamaraang ito na maunawaan kung paano kumikilos ang modelo sa pangkalahatan. Halimbawa, sinusukat ng pamamaraan ng Permutation Importations kung gaano kalaki ang pagtaas ng error kung babaguhin natin ang mga halaga ng isang baryabol, na nagpapakita kung aling mga salik ang may pinakamalaking epekto sa sistema. Mayroon ding mga Partial Dependence Plots , na sumusuri kung paano nagbabago ang prediksyon kapag binago ang halaga ng isang partikular na baryabol, bagama't karaniwang ipinapalagay ng dalawa na ang mga baryabol ay independiyente sa isa't isa.
Lokal na Pagsusuri: Ang Tiyak na Kaso
Dito natin gustong maunawaan kung bakit nakatanggap ng medikal na alerto ang partikular na pasyenteng ito . Mahalaga rito ang mga halaga ng Shapley (batay sa teorya ng laro), dahil nagtatalaga ang mga ito ng isang partikular na kontribusyon sa pangwakas na resulta para sa bawat baryabol. Nagbibigay-daan ito sa isang doktor na makita na ang alerto ay pangunahing na-trigger ng antas ng kolesterol , sa halip na ang edad ng pasyente, na nagbibigay-daan sa kanila na kumilos nang mabilis at tumpak.
Mga panganib ng opacity at mga benepisyo ng transparency
Mapanganib ang walang-muwang na pagtitiwala sa isang black box. Ang pinakamalubhang panganib ay ang bias at diskriminasyon ; kung ang isang AI ay sinanay batay sa makasaysayang datos kung saan naganap ang sexism o rasismo, matututunan ng algorithm ang mga pattern na iyon at gagayahin ang mga ito, na magpaparusa sa mga resume o tatanggi sa mga kredito nang walang lohikal na dahilan. Bukod pa rito, ang kakulangan ng transparency ay lumilikha ng isang legal na kawalan ng pananagutan : kung ang isang self-driving na sasakyan ay mag-crash, kailangan nating malaman kung bakit upang matukoy kung sino ang may kasalanan.
Ang pagpapatupad ng XAI ay hindi lamang pumipigil sa mga sakuna, kundi nagbibigay din ng kalamangan sa kompetisyon . Pinapayagan nito ang mabilis na pagtuklas ng mga pagkakamali, pagsunod sa mahigpit na mga regulasyon tulad ng Pangkalahatang Regulasyon sa Proteksyon ng Data (GDPR) ng European Union , at, higit sa lahat, nagtatatag ng tiwala. Kapag nauunawaan ng isang gumagamit ang dahilan sa likod ng isang desisyon, mas malamang na tanggapin nila ang teknolohiya at isama ito sa kanilang pang-araw-araw na buhay.
Mga Hamon at ang dilema ng katumpakan
Hindi lahat ay maayos. Mayroong patuloy na tensyon na kilala bilang precision-explainability trade-off . Sa pangkalahatan, ang mga pinakatumpak na modelo (tulad ng deep learning) ang pinaka-malabo, habang ang mga pinakamadaling maunawaan ay may posibilidad na hindi gaanong makapangyarihan. Ang kasalukuyang hamon ay ang paghahanap ng gitnang landas kung saan ang sistema ay sapat na epektibo upang maging kapaki-pakinabang, ngunit sapat na malinaw upang ma-audit at maunawaan.
Bukod pa rito, nariyan ang gastos sa pagkalkula. Ang pagkalkula ng mga halaga ng Shapley para sa milyun-milyong hula bawat segundo ay lubhang magastos sa mga tuntunin ng lakas ng pagproseso. Samakatuwid, ang mga pamamaraan ng mekanistiko (pag-unawa sa panloob na paggana) at post-hoc (pagpapaliwanag pagkatapos ng pagsasanay) ay binubuo upang gawing mas mahusay ang proseso.
Maipapaliwanag na AI sa mga kritikal na sektor
Sa pangangalagang pangkalusugan , ang XAI ay maaaring maging pagkakaiba sa pagitan ng buhay at kamatayan, na nagpapahintulot sa mga doktor na patunayan ang mga mungkahi ng AI bago ang operasyon. Sa edukasyon , mahalaga para sa mga guro na mapanatili ang kanilang awtonomiya at iwasan ang pagiging mga tagapagpatupad lamang ng mga tagubilin sa algorithm, na nagpapaunlad ng kritikal na pag-iisip sa mga mag-aaral. Sa logistik, nakakatulong ito sa pamamahala ng imbentaryo sa pamamagitan ng pagpapaliwanag kung bakit pinakamahusay na ilipat ang isang pallet batay sa dalas ng pagpili at kalapitan sa mga loading dock.
Ang ganap na transparency, mula sa pinagmulan ng data hanggang sa output logic, ay nagbabago sa artificial intelligence tungo sa isang kasangkapan para sa kolaborasyon ng tao at makina . Sa pamamagitan ng pagsasama ng pangangasiwa at kakayahang maunawaan ng tao, ang teknolohiya ay ginagarantiyahan na maging isang etikal at ligtas na suporta, na iniiwasan ang ilusyon ng pag-unawa at tinitiyak na ang bawat desisyon ay patas, mapapatunayan, at, higit sa lahat, kapaki-pakinabang para sa pagpapabuti ng lipunan.
