- Sigurnost umjetne inteligencije obuhvaća zaštitu modela i podataka od napada te korištenje umjetne inteligencije za jačanje kibernetičke sigurnosti i smanjenje incidenata.
- Rizici kombiniraju tehničke propuste (trovanje podataka, primjeri suparništva, trojanci) sa strukturnim čimbenicima poput konkurentske utrke i nedostatka upravljanja.
- Okviri poput NIST AI RMF-a, OWASP Top 10 for LLM i MITRE ATLAS pomažu u strukturiranju suparničkih kontrola i testiranja na AI sustavima u produkciji.
- Popisivanje imovine umjetne inteligencije, ograničavanje pristupa, praćenje korištenja i usvajanje AISPM-a ključni su koraci za iskorištavanje umjetne inteligencije uz istovremeno minimiziranje površine za napad.
Umjetna inteligencija prožima sve : od načina na koji radimo i komuniciramo do načina na koji se donose financijske, medicinske i vojne odluke. Ova masovna prisutnost ima vrlo pozitivnu stranu, ali i tamnu stranu: ako ti sustavi zakažu, ako se njima manipulira ili se zlonamjerno koriste, šteta može biti ogromna, kako za tvrtke tako i za društvo u cjelini.
Posljednjih godina, javna zabrinutost zbog rizika umjetne inteligencije rasla je usporedno s njezinim prihvaćanjem. Nedavna istraživanja pokazuju da većina ljudi osjeća više nelagode nego entuzijazma zbog njezina širenja te da mnogi građani smatraju vjerojatnim da bi umjetna inteligencija mogla izazvati katastrofalne događaje ako izmakne kontroli. Istodobno, isključivo tehnička istraživanja i dalje su prvenstveno usmjerena na to da umjetna inteligencija postane moćnija, a samo relativno mali dio posvećen je tome da je učini sigurnijom i robusnijom.
Što podrazumijevamo pod AI sigurnošću i zašto je to toliko važno?
Kada govorimo o sigurnosti umjetne inteligencije, mislimo na skup metoda, tehničkih načela, kontrola kibernetičke sigurnosti i okvira upravljanja osmišljenih kako bi se osiguralo da su sustavi umjetne inteligencije robusni, predvidljivi, otporni na napade i usklađeni s ljudskim ciljevima . To uključuje i tradicionalnu zaštitu (sprečavanje kibernetičkih napada, curenja podataka ili manipulacije modelima) i šira pitanja poput pristranosti, nedostatka transparentnosti i potencijalnih sistemskih utjecaja.
Za tvrtke i vladine agencije, sigurnost umjetne inteligencije ključna je jer se sve više kritičnih odluka delegira modelima : procjena financijskog rizika, određivanje medicinskih prioriteta, rangiranje životopisa, analiza velikih podataka, automatizacija procesa i otkrivanje prijetnji. Ozbiljan kvar, backdoor ili zlonamjerna upotreba mogu dovesti do milijunskih gubitaka, regulatornih sankcija, štete po ugled i, u najgorem slučaju, prijetnji nacionalnoj sigurnosti.
Na društvenoj razini, umjetna inteligencija može pojačati nejednakosti i zlouporabe ako se ne kontrolira pravilno. Neprozirni sustavi ili oni obučeni s pristranim podacima mogu sustavno diskriminirati određene skupine, pojačati masovni nadzor ili olakšati kampanje dezinformiranja velikih razmjera. A gledajući dalje u budućnost, mogućnost dosezanja oblika umjetne opće inteligencije (AGI) ili čak superinteligencije (ASI) otvorila je raspravu o egzistencijalnim rizicima ako se ti sustavi ne usklade s ljudskim vrijednostima i izmaknu učinkovitoj kontroli.
Stručnjaci se ne slažu oko toga koji su rizici najhitniji ili najvjerojatniji , ali postoji određeni konsenzus da vjerojatnost vrlo loših ishoda nije zanemariva. Ankete istraživača umjetne inteligencije procijenile su oko 5% vjerojatnosti izrazito negativnih scenarija (na primjer, civilizacijskog kolapsa) koji proizlaze iz napredne umjetne inteligencije. Neki smatraju ove zabrinutosti pretjeranima, dok drugi vjeruju da ih je, upravo zato što su toliko ozbiljne, mudro predvidjeti i ne oslanjati se na "popravljanje u hodu".
Od ranih upozorenja do moderne agende za sigurnost umjetne inteligencije
Iako se može činiti kao nedavna tema, rizici inteligentne automatizacije raspravljaju se od samih početaka računarstva. Već sredinom 20. stoljeća, osobe poput Norberta Wienera upozoravale su da, u mjeri u kojoj dajemo autonomiju strojevima sposobnim učiti iz iskustva, preuzimamo i rizik da će se ponašati suprotno našim željama.
S vremenom su te zabrinutosti postale konkretnije. Krajem 2000-ih, profesionalna udruženja poput AAAI-ja promovirala su studije o dugoročnom društvenom utjecaju umjetne inteligencije. Opća poruka bila je skeptična prema katastrofalnijim argumentima znanstvene fantastike, ali je istovremeno priznavala potrebu za boljim metodama za provjeru složenih sustava i minimiziranje neočekivanih rezultata.
U 2010-ima se rasprava intenzivirala. Utjecajne knjige o superinteligenciji i egzistencijalnim rizicima potaknule su stvaranje novih istraživačkih centara posvećenih „korisnoj i čovjeku prilagođenoj“ umjetnoj inteligenciji, a pojavile su se i filantropske inicijative koje su financirale specifične projekte o tehničkoj sigurnosti, društvenom utjecaju i usklađivanju ciljeva. Istovremeno, javne osobe poput Elona Muska, Billa Gatesa i Stephena Hawkinga počele su otvoreno govoriti o ozbiljnim rizicima ako umjetna inteligencija napreduje bez zaštitnih mjera.
Organizirane su međunarodne konferencije, objavljeni su istraživački programi o „specifičnim problemima sigurnosti umjetne inteligencije“ i formulirana su načela poput onih Asilomara, koja su uključivala eksplicitne preporuke: suradnja između timova kako bi se izbjeglo snižavanje sigurnosnih standarda, analiza utjecaja, transparentnost gdje je to moguće itd. Ova linija rada učvrstila je vlastito područje: inženjerstvo sigurnosti umjetne inteligencije , s ciljem predviđanja kvarova i dizajniranja najsigurnijih mogućih sustava prije njihove masovne primjene.
Posljednjih godina vlade i regulatori pridružili su se naporima . Radionice koje organizira Bijela kuća, programi američkih agencija (DARPA, IARPA, NSF), britanska Nacionalna strategija za umjetnu inteligenciju i kineske etičke smjernice odražavaju da sigurnost umjetne inteligencije više nije samo akademska tema, već stvar javne politike. U Europi Zakon o umjetnoj inteligenciji uvodi jasna ograničenja za određene upotrebe (na primjer, masovno prepoznavanje lica ili subliminalna manipulacija) i utvrđuje dodatne obveze za "visokorizične" primjene.
Ključna tehnička područja: robusnost, praćenje i usklađenost
Istraživanje sigurnosti umjetne inteligencije obično se grupira u tri glavna područja: robusnost, praćenje i usklađenost . Svako se bavi drugačijom vrstom rizika, ali u praksi su usko povezana.
Robusnost se fokusira na AI sustave koji se razumno ponašaju u širokom rasponu situacija, uključujući i one koje nisu dobro predstavljene u podacima za obuku. To uključuje suočavanje s "crnim labudovima" (rijetkim, ali vrlo štetnim događajima) i napadima gdje netko namjerno manipulira ulazima kako bi izazvao pogreške.
Klasičan primjer nedostatka robusnosti suočen s rijetkim događajima je Flash Crash iz 2010. godine , gdje su automatizirani sustavi trgovanja nepravilno reagirali na tržišne anomalije i u nekoliko minuta izgubili gotovo bilijun dolara. U fizičkom svijetu, autonomna vozila i dalje se bore s "kritičnim slučajevima": neobičnim prometnim signalima, ekstremnim vremenskim uvjetima ili kombinacijama objekata koji se rijetko pojavljuju u stvarnim podacima.
Paralelno s tim, mnogi modeli dubokog učenja pokazali su se izuzetno ranjivima na primjere suparništva : sitne perturbacije u slikama, zvuku ili tekstu, gotovo nevidljive ljudskom oku, koje pouzdano uzrokuju pogreške u klasifikaciji. To utječe na sustave vida, prepoznavanje govora i jezične modele. Da stvar bude gora, nije samo stvar obmanjivanja "glavnog" modela: sami modeli nagrađivanja ili evaluacije koji se koriste za obuku drugih mogu se iskoristiti za umjetno napuhavanje rezultata bez stvarnog poboljšanja izvedbe na predviđenom zadatku.
Praćenje se bavi time kako rano otkriti kada sustav umjetne inteligencije ne radi, kada je pod napadom ili se zloupotrebljava. Uključuje kalibraciju pouzdanosti (osiguravanje da vjerojatnosti koje model daje točno odražavaju njegovu pouzdanost), otkrivanje izvan distribucije (kada sustav naiđe na nešto "previše drugačije" od onoga što je prije vidio) i praćenje potencijalno zlonamjerne upotrebe.
Konačno, usklađenost osigurava da najnapredniji sustavi, posebno oni koji donose odluke s velikim utjecajem ili su sposobni za autonomno djelovanje, slijede ciljeve koje smatramo prihvatljivima i ne razvijaju opasne strategije za njihovo postizanje. To uključuje koncepte poput instrumentalne konvergencije (sklonost naprednih agenata da traže slične međuciljeve) i rizike gubitka kontrole kada se visoki kapacitet kombinira sa širokom autonomijom.
Transparentnost, interpretabilnost i trojanski konji u modelima
Jedan od najvećih izazova je taj što mnogi moderni AI sustavi, posebno velike neuronske mreže, funkcioniraju kao prave crne kutije . Znamo što u njih ulazi, a što izlazi, ali razumjeti zašto su donijeli određenu odluku ili koje interne obrasce zapravo koriste, daleko je od trivijalnog.
Ovaj nedostatak transparentnosti izravno se sukobljava s pravnim i etičkim zahtjevima za objašnjivost u područjima kao što su krediti, odabir osoblja i pravosudni sustav, gdje je obvezno opravdati zašto je određena osoba prihvaćena ili odbijena. Također otežava istraživanje ozbiljnih propusta: u incidentima poput smrtonosnih sudara s autonomnim vozilima, ponekad je vrlo teško rekonstruirati koja je kombinacija unutarnjih signala dovela do pogreške u percepciji ili odluci.
Zbog toga se razvilo cijelo podpodručje tehnika interpretabilnosti i transparentnosti . Neke se usredotočuju na prikazivanje koje dijelove ulaza modeli "gledaju" (na primjer, koji su pikseli ili riječi bili najutjecajniji na izlaz), dok druge idu dublje, analizirajući unutarnje reprezentacije i veze između neurona. U modelima poput CLIP-a identificirani su neuroni koji reagiraju i na riječ "pauk" i na slike Spidermana, a u jezičnim transformatorima proučavaju se obrasci pažnje i rekurentni sklopovi koji, čini se, kodiraju sintaktička pravila ili asocijacije činjenica.
Osim što pomažu u razumijevanju i otklanjanju pogrešaka, ove tehnike omogućuju ciljano uređivanje modela . Moguće je locirati parametre povezane s određenim događajem (na primjer, grad u kojem se nalazi poznati spomenik) i modificirati ih kako bi se sustavno promijenili odgovori. Iako ovi eksperimenti pokazuju da se pogreške mogu i izazvati, isti pristup mogao bi se primijeniti za ispravljanje velikih pogrešaka bez potrebe za ponovnim obučavanjem modela od nule.
Još jedno osjetljivo pitanje su trojanci ili stražnja vrata u AI modelima . To se odnosi na situacije u kojima netko tijekom obuke uvede određeni obrazac koji, kada se pojavi na ulazu, pokreće drugačije ponašanje od uobičajenog. Na primjer, sustav za prepoznavanje lica koji odobrava pristup samo ako osoba nosi određeni dodatak ili autonomni automobil koji se ponaša nepromišljeno ako otkrije određenu naljepnicu na znaku.
Zabrinjavajući aspekt je da je promjena čak i malog dijela podataka za obuku dovoljna za umetanje funkcionalnog trojanca. Budući da se mnogi modeli treniraju na velikim količinama javnih podataka, realno je razmotriti scenarije u kojima napadač uspije kontaminirati dio podataka. Ovi trojanci, osim što su sami po sebi ranjivost, služe kao idealno poligon za razvoj boljih alata za reviziju i otkrivanje prikrivenog zlonamjernog ponašanja.
Strukturni rizici, konkurencija i globalno upravljanje
Osim specifičnih napada ili izoliranih incidenata, postoje sistemski rizici povezani s načinom na koji je organiziran ekosustav umjetne inteligencije: konkurentski pritisak između tvrtki i država, nedostatak sigurnosne kulture, ekonomski poticaji za što brže izdavanje proizvoda i asimetrija između kibernetičkih napadača i branitelja.
Nekoliko analitičara istaknulo je da fokusiranje isključivo na „tehničke kvarove“ ili „individualne zloupotrebe“ nije dovoljno, jer su uzročno-posljedični lanci koji vode do katastrofe mnogo dulji . Geopolitička dinamika tijekom Hladnog rata - gdje su odluke nekoliko pojedinaca mogle približiti ili udaljiti nuklearni sukob - često se navodi kao analogija za ono što bi se moglo dogoditi s kaotičnom utrkom u razvoju sve snažnijih sustava umjetne inteligencije.
Ponavljajući strah je takozvana „utrka u ponor“ : ako privatni ili državni akteri vide značajne prednosti u tome što su prvi (ekonomske, vojne ili u smislu prestiža), mogu se osjećati prisiljenima ubrzati i smanjiti sigurnosne kontrole, čak i ako svi priznaju da bi sporiji napredak bio poželjniji. Izbjegavanje ove dinamike zahtijeva mehanizme za suradnju, međusobnu transparentnost, sporazume o minimalnim standardima i, vjerojatno, nove međunarodne institucije.
Istovremeno, mnogi današnji globalni izazovi su problemi suradnje : klimatske promjene, nuklearni rizici, kibernetičko oružje i tako dalje. Umjetna inteligencija može pogoršati te izazove (na primjer, olakšavanjem snažnijih kibernetičkih napada ili visoko sofisticiranih kampanja političke manipulacije), ali također može pomoći pružanjem boljih alata za predviđanje, analizu scenarija i kolektivno donošenje odluka.
Stoga konsolidacija područja upravljanja umjetnom inteligencijom , koja nastoji artikulirati regulatorne okvire, tehničke standarde, najbolje poslovne prakse i mehanizme odgovornosti. Kreće se od temeljnih radova koji uspoređuju potencijalni utjecaj umjetne inteligencije s transformativnim tehnologijama prošlosti (poput električne energije ili parnog stroja) do vrlo konkretnih prijedloga: vanjskih revizija , nagrada za otkrivanje grešaka, javnih baza podataka o incidentima, kriterija za odlučivanje kada je odgovorno objaviti rezultate ili modele te pojačanih sigurnosnih zahtjeva za vodeće laboratorije.
Uloga kibernetičke sigurnosti: umjetna inteligencija za obranu i zaštitu same umjetne inteligencije
U praktičnom, svakodnevnom području, umjetna inteligencija već je središnji igrač u kibernetičkoj sigurnosti , a odnos ide u oba smjera: koristimo umjetnu inteligenciju kako bismo se bolje obranili, a istovremeno moramo zaštititi same sustave umjetne inteligencije od napada.
U posljednjim desetljećima, kibernetičke prijetnje su se razvile od traženja vidljivih poremećaja do krađe podataka, infiltracije sustava mjesecima i postavljanja vrlo prikrivenog zlonamjernog softvera . Kako bi se suprotstavila njima, postala su popularna rješenja poput SIEM-a, koji prikuplja i analizira velike količine logova, i EDR-a, koji kontinuirano prati što se događa na svakom korporativnom uređaju. Problem je u tome što količina podataka daleko premašuje ono što ljudski tim može ručno pregledati.
Tu nastupa strojno učenje, sposobno za otkrivanje obrazaca i anomalija u stvarnom vremenu iz ogromnih skupova signala: neobičnih pokušaja prijave, neovlaštenog pristupa osjetljivim podacima, čudnog ponašanja procesa ili veza sa sumnjivim domenama.
AI platforme u sigurnosti također se koriste za automatizaciju dijela odgovora : povezivanje povezanih upozorenja, rekonstrukciju "narativa" napada, određivanje prioriteta incidenata koje treba prvo pregledati i, u nekim slučajevima, izravno izvršavanje radnji suzbijanja (izolacija računala, prekid veze, opoziv kompromitiranih vjerodajnica). To smanjuje buku, pomaže analitičarima da se usredotoče na ono što je važno i dramatično skraćuje vrijeme od otkrivanja problema do poduzimanja učinkovitih mjera.
Paralelno s tim, isti se napredak primjenjuje na zaštitu mreža i krajnjih točaka . Vatrozidi sljedeće generacije integriraju modele koji analiziraju promet radi zlonamjernog ponašanja, ažuriraju interna pravila u hodu ili rekonfiguriraju segmentaciju mreže kako bi ograničili lateralno kretanje napadača. EDR-ovi poboljšani umjetnom inteligencijom otkrivaju anomalno ponašanje procesa (poput neočekivanog pristupa osjetljivim datotekama ili lanaca izvršenja tipičnih za ransomware) prije nego što šteta postane nepovratna.
Svemu tome dodaje se porast asistenata temeljenih na prirodnom jeziku integriranih u alate za kibernetičku sigurnost. Ovi AI kopiloti za sigurnosne timove omogućuju im postavljanje složenih pitanja („Koji putevi napada postoje do ove baze podataka?“) i primanje kontekstualiziranih objašnjenja, sažetaka incidenata ili prijedloga za ublažavanje bez potrebe za ručnim pregledavanjem više nadzornih ploča.
Kako napadači koriste umjetnu inteligenciju
Nažalost, kibernetički kriminalci su se također naglavačke bacili na korištenje umjetne inteligencije . Na podzemnim forumima analizira se svaki novi moćni model koji se pojavi, a pojavljuju se modificirane verzije, neke izričito usmjerene na kriminalne aktivnosti, lišene etičkih filtera i obučene kao "hakerski asistenti".
Danas je relativno lako iskoristiti generativne modele za automatizaciju gotovo svih faza kriminalne operacije : masovno pisanje besprijekornih i personaliziranih phishing e-poruka, stvaranje vrlo vjerodostojnih lažnih stranica za prijavu, generiranje ransomware skripti ili kompleta za krađu vjerodajnica , razradu uvjerljivih poruka za socijalni inženjering itd.
Još jedno zabrinjavajuće područje je sposobnost umjetne inteligencije da stvara izuzetno uvjerljiv lažni sadržaj . Alati za generiranje teksta omogućuju izradu lažnih članaka i vijesti koje oponašaju stil profesionalnih medija; sustavi za generiranje videa poput deepfakeova zamjenjuju lica u visokokvalitetnim isječcima; a kloniranje glasa omogućuje ponovno stvaranje nečijeg glasa sa samo nekoliko minuta zvuka.
Slučajevi telefonske prijevare korištenjem kloniranih glasova članova obitelji za poticanje transfera novca već su dokumentirani , kao i političke kampanje blaćenja i manipulacije na društvenim mrežama koje kombiniraju obrađene videozapise, lažne audiozapise i generativne botove za pojačavanje poruka. Cijena ovih alata smanjuje se svake godine, povećavajući povrat ulaganja za napadače.
Ukratko, umjetna inteligencija umnožava ofenzivne sposobnosti: olakšava i pojeftinjuje sofisticirane napade, omogućuje kampanje velikih razmjera i komplicira zadatak razlikovanja autentičnih od manipuliranih informacija . Stoga, korištenje umjetne inteligencije u obrambene svrhe više nije opcionalno: bez automatizacije i inteligencije, ljudski timovi jednostavno ne mogu pratiti napredak.
Ključni sigurnosni rizici specifični za umjetnu inteligenciju
Osim općih rizika kibernetičke sigurnosti, implementacija sustava umjetne inteligencije uključuje vlastite ranjivosti koje se moraju razumjeti i njima upravljati. Neke od najrelevantnijih su:
Trovanje podataka i modela. Uvođenje zlonamjernih ili manipuliranih podataka u skupove za obuku može iskriviti ponašanje modela, umetnuti skrivena vrata ili smanjiti performanse, a da to nije vidljivo u standardnim metrikama. U federiranim okruženjima za učenje, gdje više aktera doprinosi obuci, otkrivanje koji je sudionik namjerno unio šum posebno je izazovno.
Primjeri suparničkog djelovanja i izbjegavanja. Dizajniranje neznatno modificiranih ulaza za pokretanje sustavnih pogrešaka omogućuje napadačima da zaobiđu sustave za otkrivanje zlonamjernog softvera, filtere neželjene pošte, klasifikatore slika ili mehanizme biometrijske autentifikacije. Budući da model "vjeruje" da je ulaz normalan, ove vrste napada teško je ublažiti korištenjem samo tradicionalnih pravila.
Inverzija modela i propuštanja privatnosti. Ponovljenim upitima i analizom izlaza, napadač može rekonstruirati informacije o podacima za obuku, čak zaključiti je li uključen određeni zapis ili izdvojiti fragmente osjetljivih podataka koje je model pohranio. To predstavlja ozbiljan problem pri obuci s osobnim, kliničkim ili povjerljivim informacijama.
Krađa modela i intelektualnog vlasništva. Masovnim ispitivanjem AI API-ja moguće je trenirati model kopije koji vjerno replicira ponašanje originala. To potkopava poslovni model onih koji nude AI kao uslugu i, štoviše, stvara kopiju nad kojom napadač ima potpunu kontrolu, uključujući mogućnost iskorištavanja ranjivosti bez ograničenja.
Napadi na API-je i infrastrukturu. Sučelja koja povezuju AI modele s drugim aplikacijama vrlo su primamljiva ulazna točka: slaba autentifikacija, nedostatak validacije unosa, odsutnost ograničenja frekvencije ili praćenja mogu omogućiti bilo što, od uskraćivanja usluge do masovnog izdvajanja podataka ili udaljenog izvršavanja koda.
Brze injekcije i zlouporabe u GenAI-u. U slučaju jezičnih modela i generativnih asistenata, rastući vektor je izravna ili neizravna injekcija instrukcija . Napadač može ugraditi zlonamjerne naredbe u sam ulazni tekst („ignoriraj prethodna pravila i…“) ili u vanjske dokumente koje će model čitati, s ciljem zaobilaženja ograničenja, krađe podataka ili izvršavanja neželjenih radnji.
Iskorištavanje halucinacija. Generativni modeli mogu s potpunim samopouzdanjem izmisliti podatke. Ako se ovi sustavi koriste bez ljudskog nadzora u kritičnim kontekstima ili ako napadači uspiju legitimizirati određene halucinacije kao „činjenice“, to otvara vrata pogrešnim odlukama, dezinformacijama i široko rasprostranjenom gubitku povjerenja u digitalne informacije.
Okviri, standardi i najbolje prakse za sigurniju umjetnu inteligenciju
Kako bi se izbjeglo zalutavanje, razne organizacije predložile su specifične okvire za sigurnost umjetne inteligencije . Iako nijedan ne pokriva cijeli krajolik sam po sebi, zajedno nude čvrstu osnovu za izgradnju strategije.
Među njima se ističe NIST-ov Okvir za upravljanje rizicima umjetne inteligencije (AI Risk Management Framework) , koji strukturira rad oko četiri funkcije: upravljanje (uspostava politika i odgovornosti), mapiranje (razumijevanje konteksta i rizika), mjerenje (procjena performansi i izloženosti) i upravljanje (određivanje prioriteta i primjena kontrola). Drugi napori, poput matrica MITRE ATLAS, katalogiziraju specifične taktike i tehnike napada protiv AI sustava, slično onome što ATT&CK radi s tradicionalnim prijetnjama.
U primijenjenijem području, sigurnosna zajednica razvila je popise poput OWASP Top 10 za LLM , koji sastavlja glavne rizike u aplikacijama temeljenim na velikim jezičnim modelima: promptne injekcije, izloženost podataka, ranjivosti u lancu opskrbe modela, krađa modela itd. Veliki dobavljači objavili su vlastite okvire (kao što je Googleov SAIF) s konkretnim koracima za sigurnije postavljanje AI sustava.
Nadalje, pojavljuju se vrlo specifični, praktični pristupi za implementaciju GenAI-a u okruženjima u oblaku, kao što su okviri za izolaciju korisnika i stanara koji pažljivo segmentiraju podatke, dopuštenja i komunikacijske kanale, smanjujući utjecaj potencijalnih kvarova ili injekcija. Ideja je kombinirati tradicionalne kontrole kibernetičke sigurnosti (šifriranje, upravljanje identitetima, segmentacija mreže, sandboxing) s mjerama prilagođenim specifičnim karakteristikama umjetne inteligencije.
Na temelju toga, najčešće ponavljane preporuke uključuju osiguravanje kvalitete i raznolikosti podataka za obuku, izravno rješavanje etičkih implikacija (pristranost, pristanak, privatnost), provođenje čestog testiranja i ažuriranja modela te definiranje sigurnosnih politika specifičnih za umjetnu inteligenciju koje nadopunjuju opće ICT politike.
Paralelno s tim, pojavljuje se kategorija rješenja poznata kao AI Security Posture Management (AISPM) , ekvivalentna onome što je CSPM značio za oblak: inventarizacija AI sredstava, otkrivanje neovlaštenih upotreba („shadow AI“), procjena konfiguracija i kontinuirano praćenje usklađenosti s politikama.
Sve ukazuje na to da će, kako se umjetna inteligencija sve više integrira u kritičnu infrastrukturu, sigurnost umjetne inteligencije preći s "zanimljivog dodatka" na temeljni zahtjev . Organizacije koje prednjače - popisivanjem svojih sustava umjetne inteligencije, definiranjem jasnog upravljanja, implementacijom strogih kontrola pristupa, podvrgavanjem svojih modela kontradiktornom testiranju i usklađivanjem s priznatim okvirima - bit će daleko bolje pozicionirane da iskoriste prednosti umjetne inteligencije bez nailaženja na neugodna iznenađenja. I, prije svega, bit će bolje opremljene za održavanje povjerenja kupaca, korisnika i građana u okruženju u kojem će razlikovanje između stvarnog i manipuliranog postajati sve složenije.
