- Securitatea inteligenței artificiale cuprinde atât protejarea modelelor și a datelor împotriva atacurilor, cât și utilizarea inteligenței artificiale pentru a consolida securitatea cibernetică și a reduce incidentele.
- Riscurile combină defecțiuni tehnice (otrăvirea datelor, exemple contradictorii, troieni) cu factori structurali, cum ar fi concurența rasială și lipsa de guvernanță.
- Cadre de lucru precum NIST AI RMF, OWASP Top 10 for LLM și MITRE ATLAS ajută la structurarea controalelor și a testării contradictorii pe sistemele de IA în producție.
- Inventarierea activelor de inteligență artificială, limitarea accesului, monitorizarea utilizării și adoptarea AISPM sunt pași cheie pentru valorificarea inteligenței artificiale, minimizând în același timp suprafața sa de atac.
Inteligența artificială a pătruns totul : de la modul în care muncim și comunicăm până la modul în care se iau deciziile financiare, medicale și militare. Această prezență masivă are o latură foarte pozitivă, dar și o latură întunecată: dacă aceste sisteme eșuează, sunt manipulate sau sunt utilizate cu răutate, pagubele pot fi enorme, atât pentru companii, cât și pentru societate în ansamblu.
În ultimii ani, îngrijorarea publică cu privire la riscurile IA a crescut odată cu adoptarea acesteia. Sondajele recente arată că majoritatea oamenilor simt mai multă neliniște decât entuziasm în ceea ce privește extinderea sa și că mulți cetățeni consideră plauzibil ca IA să poată declanșa evenimente catastrofale dacă scapă de sub control. În același timp, cercetarea pur tehnică rămâne concentrată în principal pe creșterea puterii IA, doar o fracțiune relativ mică fiind dedicată creșterii siguranței și robusteții acesteia.
Ce înțelegem prin securitatea inteligenței artificiale și de ce contează atât de mult?
Când vorbim despre securitatea inteligenței artificiale, ne referim la setul de metode, principii tehnice, controale de securitate cibernetică și cadre de guvernanță concepute pentru a asigura că sistemele de IA sunt robuste, previzibile, rezistente la atacuri și aliniate cu obiectivele umane . Aceasta include atât protecția tradițională (prevenirea atacurilor cibernetice, a scurgerilor de date sau a manipulării modelelor), cât și probleme mai ample, cum ar fi părtinirea, lipsa de transparență și potențialele impacturi sistemice.
Pentru companii și agenții guvernamentale, securitatea inteligenței artificiale este crucială deoarece tot mai multe decizii critice sunt delegate unor modele : evaluarea riscurilor financiare, prioritizarea medicală, clasarea CV-urilor, analiza big data, automatizarea proceselor și detectarea amenințărilor. O defecțiune gravă, o intrare ascunsă sau o utilizare rău intenționată pot duce la pierderi de milioane de dolari, sancțiuni de reglementare, daune la adresa reputației și, în cel mai rău caz, amenințări la adresa securității naționale.
La nivel social, IA poate amplifica inegalitățile și abuzurile dacă nu este controlată corespunzător. Sistemele opace sau cele antrenate cu date părtinitoare pot discrimina sistematic anumite grupuri, pot consolida supravegherea în masă sau pot facilita campanii de dezinformare la scară largă. Iar, privind mai departe, posibilitatea de a ajunge la forme de inteligență artificială generală (AGI) sau chiar superinteligență (ASI) a deschis o dezbatere despre riscurile existențiale dacă aceste sisteme nu se aliniază cu valorile umane și scapă controlului eficient.
Experții nu sunt de acord cu privire la care riscuri sunt cele mai urgente sau probabile , dar există un consens conform căruia probabilitatea unor rezultate foarte negative nu este neglijabilă. Sondajele efectuate în rândul cercetătorilor din domeniul inteligenței artificiale au estimat o probabilitate de aproximativ 5% a unor scenarii extrem de negative (de exemplu, colapsul civilizației) care decurg din IA avansată. Unii consideră aceste preocupări exagerate, în timp ce alții cred că, tocmai pentru că sunt atât de grave, este înțelept să le anticipăm și să nu ne bazăm pe „repararea pe parcurs”.
De la avertizările timpurii la agenda modernă de securitate a inteligenței artificiale
Deși poate părea un subiect recent, riscurile automatizării inteligente au fost discutate încă de la începuturile informaticii. Încă de la mijlocul secolului al XX-lea, personalități precum Norbert Wiener avertizau că, în măsura în care acordam autonomie mașinilor capabile să învețe din experiență, ne asumam și riscul ca acestea să se comporte contrar dorințelor noastre.
În timp, aceste preocupări au devenit mai concrete. La sfârșitul anilor 2000, asociații profesionale precum AAAI au promovat studii privind impactul social pe termen lung al inteligenței artificiale. Mesajul general era sceptic față de argumentele mai catastrofale ale science fiction-ului, dar în același timp recunoștea necesitatea unor metode mai bune pentru a verifica sistemele complexe și a minimiza rezultatele neașteptate.
În anii 2010, dezbaterea s-a intensificat. Cărți influente despre superinteligență și riscuri existențiale au stimulat crearea de noi centre de cercetare dedicate IA „benefice și prietenoase cu oamenii”, iar inițiative filantropice au apărut și au finanțat proiecte specifice privind siguranța tehnică, impactul social și alinierea obiectivelor. În același timp, personalități publice precum Elon Musk, Bill Gates și Stephen Hawking au început să vorbească deschis despre riscurile serioase pe care le-ar putea prezenta IA în cazul în care aceasta ar avansa fără măsuri de siguranță.
Au fost organizate conferințe internaționale, au fost publicate agende de cercetare privind „probleme specifice de securitate a IA” și au fost formulate principii precum cele ale Asilomar, care includeau recomandări explicite: cooperarea între echipe pentru a evita scăderea standardelor de securitate, analiza impactului, transparență acolo unde este posibil etc. Această linie de lucru și-a consolidat propriul domeniu: ingineria de securitate a IA , cu scopul de a anticipa defecțiunile și de a proiecta cele mai sigure sisteme posibile înainte de implementarea lor în masă.
În ultimii ani, guvernele și autoritățile de reglementare s-au alăturat efortului . Atelierele organizate de Casa Albă, programele agențiilor americane (DARPA, IARPA, NSF), Strategia Națională de Inteligență Artificială a Regatului Unit și directivele etice ale Chinei reflectă faptul că siguranța IA nu mai este doar un subiect academic, ci o chestiune de politică publică. În Europa, Legea IA introduce restricții clare asupra anumitor utilizări (de exemplu, recunoașterea facială în masă sau manipularea subliminală) și stabilește obligații suplimentare pentru aplicațiile „cu risc ridicat”.
Domenii tehnice cheie: robustețe, monitorizare și aliniere
Cercetarea în domeniul securității inteligenței artificiale este de obicei grupată în trei domenii principale: robustețe, monitorizare și aliniere . Fiecare abordează un tip diferit de risc, dar în practică acestea sunt strâns interconectate.
Robustețea se concentrează pe comportamentul rezonabil al sistemelor de inteligență artificială într-o gamă largă de situații, inclusiv pe cele care nu sunt bine reprezentate în datele de antrenament. Aceasta implică gestionarea „lebedelor negre” (evenimente rare, dar extrem de dăunătoare) și a atacurilor în care cineva manipulează în mod deliberat date de intrare pentru a forța erori.
Un exemplu clasic de lipsă de robustețe în fața unor evenimente rare este prăbușirea rapidă din 2010 , în care sistemele de tranzacționare automate au reacționat eratic la anomaliile pieței și au șters aproape un trilion de dolari în câteva minute. În lumea fizică, vehiculele autonome continuă să se confrunte cu „cazuri excepționale”: semnale de trafic neobișnuite, condiții meteorologice extreme sau combinații de obiecte care apar rareori în datele din lumea reală.
În paralel, multe modele de deep learning s-au dovedit extrem de vulnerabile la exemple contradictorii : mici perturbații ale imaginilor, sunetului sau textului, aproape invizibile pentru ochiul uman, care cauzează în mod constant erori de clasificare. Acest lucru afectează sistemele de vedere, recunoașterea vorbirii și modelele lingvistice. Și mai rău, nu este vorba doar de a înșela modelul „principal”: chiar modelele de recompensă sau evaluare folosite pentru a-i antrena pe alții pot fi exploatate pentru a umfla artificial scorurile fără a îmbunătăți de fapt performanța la sarcina dorită.
Monitorizarea abordează modul de detectare timpurie a situațiilor în care un sistem de inteligență artificială se defectează, este atacat sau este utilizat greșit. Aceasta include calibrarea încrederii (asigurarea faptului că probabilitățile rezultate din model reflectă cu acuratețe fiabilitatea acestuia), detectarea out-of-distribution (când sistemul întâlnește ceva „prea diferit” de ceea ce a văzut anterior) și monitorizarea utilizărilor potențial rău intenționate.
În cele din urmă, alinierea asigură faptul că cele mai avansate sisteme, în special cele care iau decizii cu impact ridicat sau sunt capabile de acțiuni autonome, urmăresc obiective pe care le considerăm acceptabile și nu dezvoltă strategii periculoase pentru a le atinge. Aceasta implică concepte precum convergența instrumentală (tendința agenților avansați de a căuta obiective intermediare similare) și riscurile de pierdere a controlului atunci când o capacitate ridicată este combinată cu o autonomie largă.
Transparență, interpretabilitate și cai troieni în modele
Una dintre cele mai mari provocări este că multe sisteme moderne de inteligență artificială, în special rețelele neuronale mari, funcționează ca adevărate cutii negre . Știm ce intră în ele și ce iese, dar înțelegerea motivului pentru care au luat o anumită decizie sau ce tipare interne folosesc de fapt este departe de a fi banală.
Această lipsă de transparență se ciocnește direct cu cerințele legale și etice privind explicabilitatea în domenii precum creditul, selecția personalului și sistemul judiciar, unde este obligatoriu să se justifice de ce o anumită persoană este acceptată sau respinsă. De asemenea, face dificilă investigarea deficiențelor grave: în incidente precum coliziunile fatale cu vehicule autonome, uneori este foarte dificil de reconstituit ce combinație de semnale interne a dus la eroarea de percepție sau de decizie.
De aceea s-a dezvoltat un întreg subdomeniu al tehnicilor de interpretabilitate și transparență . Unele se concentrează pe arătarea părților din datele de intrare la care „se uită” modelele (de exemplu, ce pixeli sau cuvinte au avut cea mai mare influență asupra rezultatului), în timp ce altele merg mai adânc, analizând reprezentările interne și conexiunile dintre neuroni. În modele precum CLIP, au fost identificați neuroni care răspund atât la cuvântul „păianjen”, cât și la imagini cu Spiderman, iar în transformatoarele de limbaj sunt studiate modelele de atenție și circuitele recurente care par să codifice reguli sintactice sau asociații de fapte.
Pe lângă faptul că ajută la înțelegere și depanare, aceste tehnici permit editarea specifică a modelului . A fost posibil să se localizeze parametrii legați de un anumit eveniment (de exemplu, orașul în care se află un monument faimos) și să se modifice aceștia pentru a schimba sistematic răspunsurile. Deși aceste experimente demonstrează că pot fi induse și erori, aceeași abordare ar putea fi aplicată pentru a corecta erori masive fără a fi nevoie să se reantreneze modelele de la zero.
O altă problemă sensibilă o reprezintă troienii sau backdoor-urile din modelele de inteligență artificială . Acestea se referă la situații în care, în timpul antrenamentului, cineva introduce un anumit model care, atunci când apare la intrare, declanșează un comportament diferit de cel obișnuit. De exemplu, un sistem de recunoaștere facială care acordă acces doar dacă persoana poartă un anumit accesoriu sau o mașină autonomă care se comportă imprudent dacă detectează un anumit autocolant pe un indicator.
Aspectul îngrijorător este că modificarea chiar și a unei mici fracțiuni din datele de antrenament este suficientă pentru a introduce un troian funcțional. Întrucât multe modele sunt antrenate pe volume mari de date publice, este realist să luăm în considerare scenarii în care un atacator reușește să contamineze o parte din corpus. Acești troieni, pe lângă faptul că sunt o vulnerabilitate în sine, servesc drept teren de testare ideal pentru dezvoltarea de instrumente mai bune pentru auditarea și detectarea comportamentului rău intenționat ascuns.
Riscuri structurale, concurență și guvernanță globală
Dincolo de atacuri specifice sau incidente izolate, există riscuri sistemice legate de modul în care este organizat ecosistemul IA: presiunea concurențială între companii și țări, lipsa unei culturi de securitate, stimulente economice pentru lansarea produselor cât mai rapid posibil și asimetria dintre atacatorii cibernetici și apărători.
Mai mulți analiști au subliniat că concentrarea exclusivă pe „defecțiuni tehnice” sau „utilizări individuale greșite” este insuficientă, deoarece lanțurile cauzale care duc la dezastru sunt mult mai lungi . Dinamica geopolitică din timpul Războiului Rece - unde deciziile luate de câțiva indivizi puteau apropia sau îndepărta un conflict nuclear de acesta - este adesea invocată ca o analogie pentru ceea ce s-ar putea întâmpla cu o cursă haotică pentru dezvoltarea unor sisteme de inteligență artificială din ce în ce mai puternice.
O teamă recurentă este așa-numita „cursă spre abis” : dacă actorii privați sau statali percep avantaje semnificative în a fi primii (economice, militare sau în ceea ce privește prestigiul), s-ar putea simți obligați să accelereze și să reducă controalele de securitate, chiar dacă toată lumea recunoaște că un progres mai lent ar fi preferabil. Evitarea acestei dinamici necesită mecanisme de cooperare, transparență reciprocă, acorduri privind standarde minime și, probabil, noi instituții internaționale.
În același timp, multe dintre provocările globale actuale sunt probleme de cooperare : schimbările climatice, riscurile nucleare, armele cibernetice și așa mai departe. IA poate agrava aceste provocări (de exemplu, prin facilitarea unor atacuri cibernetice mai puternice sau a unor campanii de manipulare politică extrem de sofisticate), dar poate ajuta și prin furnizarea de instrumente mai bune pentru prognoză, analiză de scenarii și luarea deciziilor colective.
Prin urmare, a rezultat consolidarea domeniului guvernanței IA , care urmărește să articuleze cadre de reglementare, standarde tehnice, cele mai bune practici de afaceri și mecanisme de responsabilitate. Aceasta variază de la lucrări fundamentale care compară impactul potențial al IA cu tehnologiile transformatoare din trecut (cum ar fi electricitatea sau motorul cu aburi) până la propuneri foarte concrete: audituri externe , recompense pentru erori, baze de date publice de incidente, criterii pentru a decide când este responsabilă publicarea rezultatelor sau modelelor și cerințe sporite de securitate pentru laboratoarele de top.
Rolul securității cibernetice: IA pentru a apăra și proteja însăși IA
În practică, în viața de zi cu zi, inteligența artificială este deja un actor central în securitatea cibernetică , iar relația este bidirecțională: folosim inteligența artificială pentru a ne apăra mai bine și, în același timp, trebuie să protejăm sistemele de inteligență artificială de atacuri.
În ultimele decenii, amenințările cibernetice au evoluat de la căutarea unor perturbări vizibile la furtul de date, infiltrarea sistemelor timp de luni de zile și implementarea de programe malware extrem de discrete . Pentru a le combate, au devenit populare soluții precum SIEM, care colectează și analizează volume mari de jurnale, și EDR, care monitorizează continuu ce se întâmplă pe fiecare dispozitiv al companiei. Problema este că volumul de date depășește cu mult ceea ce o echipă umană poate revizui manual.
Aici intervine învățarea automată, capabilă să detecteze tipare și anomalii în timp real din seturi uriașe de semnale: încercări neobișnuite de conectare, acces neautorizat la date sensibile, comportament ciudat al proceselor sau conexiuni către domenii suspecte.
Platformele de inteligență artificială în domeniul securității sunt utilizate și pentru a automatiza o parte a răspunsului : corelarea alertelor aferente, reconstrucția „narațiunii” unui atac, prioritizarea incidentelor care trebuie analizate mai întâi și, în unele cazuri, executarea directă a acțiunilor de izolare (izolarea unei mașini, întreruperea unei conexiuni, revocarea acreditărilor compromise). Acest lucru reduce zgomotul, ajută analiștii să se concentreze asupra a ceea ce contează și scurtează dramatic timpul de la detectarea unei probleme până la luarea unor măsuri eficiente.
În paralel, aceleași progrese sunt aplicate protecției rețelelor și a endpoint-urilor . Firewall-urile de generație următoare integrează modele care analizează traficul pentru comportamente rău intenționate, actualizează regulile interne din mers sau reconfigurează segmentarea rețelei pentru a limita mișcarea laterală a atacatorilor. EDR-urile îmbunătățite cu inteligență artificială detectează comportamentul anormal al proceselor (cum ar fi accesul neașteptat la fișiere sensibile sau lanțuri de execuție tipice ransomware-ului) înainte ca daunele să devină ireversibile.
La toate acestea se adaugă creșterea numărului de asistenți bazați pe limbaj natural, integrați în instrumentele de securitate cibernetică. Acești copiloți de inteligență artificială pentru echipele de securitate le permit să pună întrebări complexe („Ce căi de atac există către această bază de date?”) și să primească explicații contextualizate, rezumate ale incidentelor sau propuneri de atenuare a performanțelor, fără a fi nevoie să navigheze manual prin mai multe tablouri de bord.
Cum folosesc atacatorii inteligența artificială
Din păcate, și infractorii cibernetici s-au aruncat cu capul înainte în utilizarea inteligenței artificiale . În forumurile clandestine, fiecare model nou și puternic care apare este analizat, iar versiuni modificate au apărut, unele fiind explicit orientate către activități criminale, lipsite de filtre etice și antrenate ca „asistenți de hacking”.
Astăzi este relativ ușor să profităm de modelele generative pentru a automatiza aproape toate fazele unei operațiuni criminale : scrierea în masă a unor e-mailuri de phishing impecabile și personalizate, crearea de pagini de autentificare false foarte credibile, generarea de scripturi sau kituri ransomware pentru furtul de acreditări , elaborarea de mesaje persuasive pentru inginerie socială etc.
Un alt aspect îngrijorător este capacitatea inteligenței artificiale de a crea conținut fals extrem de convingător . Instrumentele de generare de text permit producerea de articole și știri false care imită stilul presei profesionale; sistemele de generare video, precum deepfake-urile, înlocuiesc fețele în clipuri de înaltă calitate; iar clonarea vocii face posibilă recrearea vocii unei persoane cu doar câteva minute de înregistrare audio.
Au fost deja documentate cazuri de fraudă telefonică care utilizează voci clonate ale membrilor familiei pentru a îndemna la transferuri de bani , precum și campanii de denigrare politică și manipulare pe rețelele sociale care combină videoclipuri falsificate, înregistrări audio false și roboți generativi pentru a amplifica mesajele. Costul acestor instrumente scade în fiecare an, crescând rentabilitatea investiției pentru atacatori.
Pe scurt, IA multiplică capacitățile ofensive: face ca atacurile sofisticate să fie mai ușoare și mai ieftine, permite campanii la scară largă și complică sarcina de a distinge informațiile autentice de cele manipulate . Prin urmare, utilizarea defensivă a IA nu mai este opțională: fără automatizare și inteligență, echipele umane pur și simplu nu pot ține pasul.
Riscuri cheie de securitate specifice inteligenței artificiale
Dincolo de riscurile generale de securitate cibernetică, implementarea sistemelor de inteligență artificială implică propriile vulnerabilități care trebuie înțelese și gestionate. Printre cele mai relevante se numără:
Intoxicația cu date și modele. Introducerea de date rău intenționate sau manipulate în seturile de antrenament poate distorsiona comportamentul modelului, poate introduce backdoor-uri sau poate degrada performanța fără a fi evidentă în metricile standard. În mediile de învățare federate, unde mai mulți actori contribuie la antrenament, detectarea participantului care a introdus intenționat zgomot este deosebit de dificilă.
Exemple de atacuri adverse și evaziune. Proiectarea unor intrări ușor modificate pentru a declanșa erori sistematice permite atacatorilor să ocolească sistemele de detectare a programelor malware, filtrele de spam, clasificatoarele de imagini sau mecanismele de autentificare biometrică. Deoarece modelul „crede” că intrarea este normală, aceste tipuri de atacuri sunt dificil de atenuat folosind doar reguli tradiționale.
Inversiune de model și scurgeri de confidențialitate. Prin interogări repetate și analize de ieșire, un atacator poate reconstrui informații despre datele de antrenament, chiar deducând dacă o anumită înregistrare a fost inclusă sau extragând fragmente de date sensibile stocate de model. Acest lucru reprezintă o problemă serioasă atunci când antrenarea se face cu informații personale, clinice sau confidențiale.
Furtul de modele și proprietate intelectuală. Prin interogarea masivă a unei API-uri de inteligență artificială, este posibil să se antreneze un model similar care reproduce îndeaproape comportamentul originalului. Acest lucru subminează modelul de afaceri al celor care oferă inteligență artificială ca serviciu și, în plus, creează o copie asupra căreia atacatorul are control complet, inclusiv capacitatea de a exploata vulnerabilitățile fără restricții.
Atacuri asupra API-urilor și infrastructurii. Interfețele care conectează modelele de inteligență artificială cu alte aplicații reprezintă un punct de intrare foarte tentant: autentificarea slabă, lipsa validării datelor de intrare, absența limitelor de frecvență sau a monitorizării pot permite orice, de la denials of service la extragerea masivă de date sau executarea de cod la distanță.
Injecții prompte și abuzuri în GenAI. În cazul modelelor lingvistice și al asistenților generativi, un vector emergent este cel al injecțiilor directe sau indirecte de instrucțiuni . Un atacator poate încorpora comenzi rău intenționate în textul de intrare („ignorați regulile anterioare și…”) sau în documente externe pe care modelul le va citi, cu scopul de a ocoli constrângerile, de a exfiltra date sau de a executa acțiuni neintenționate.
Halucinații exploatate. Modelele generative pot fabrica date cu aplomb deplin. Dacă aceste sisteme sunt utilizate fără supraveghere umană în contexte critice sau dacă atacatorii reușesc să legitimeze anumite halucinații drept „fapte”, acest lucru deschide calea către decizii eronate, dezinformări și o pierdere pe scară largă a încrederii în informațiile digitale.
Cadre, standarde și cele mai bune practici pentru o IA mai sigură
Pentru a evita să se procedeze fără să se țină cont de nimic, diverse organizații au propus cadre specifice pentru securitatea inteligenței artificiale . Deși niciunul nu acoperă întregul peisaj de unul singur, combinate, acestea oferă o bază solidă pe care se poate construi o strategie.
Printre acestea, se remarcă Cadrul de gestionare a riscurilor de IA al NIST , care structurează activitatea în jurul a patru funcții: guvernare (stabilirea politicilor și responsabilităților), cartografiere (înțelegerea contextului și a riscurilor), măsurare (evaluarea performanței și a expunerii) și gestionare (prioritizarea și aplicarea controalelor). Alte eforturi, cum ar fi matricile MITRE ATLAS, cataloghează tactici și tehnici de atac specifice împotriva sistemelor de IA, similar cu ceea ce face ATT&CK cu amenințările tradiționale.
În domeniul mai aplicat, comunitatea de securitate a dezvoltat liste precum OWASP Top 10 pentru LLM , care compilează principalele riscuri din aplicațiile bazate pe modele lingvistice mari: injecții prompte, expuneri de date, vulnerabilități în lanțul de aprovizionare al modelului, furt de model etc. Furnizorii majori și-au publicat propriile framework-uri (cum ar fi SAIF de la Google) cu pași concreți pentru implementarea mai sigură a sistemelor de inteligență artificială.
În plus, apar abordări practice și extrem de specifice pentru implementarea GenAI în medii cloud, cum ar fi cadrele de izolare a chiriașilor și utilizatorilor care segmentează cu atenție datele, permisiunile și canalele de comunicare, reducând impactul potențialelor defecțiuni sau injectări. Ideea este de a combina controalele tradiționale de securitate cibernetică (criptare, gestionarea identității, segmentarea rețelei, sandboxing) cu măsuri adaptate caracteristicilor specifice ale IA.
Pe baza acestui fapt, recomandările cel mai frecvent repetate includ asigurarea calității și diversității datelor de instruire, abordarea directă a implicațiilor etice (părtinire, consimțământ, confidențialitate), efectuarea frecventă de teste și actualizări ale modelelor și definirea unor politici de securitate specifice inteligenței artificiale care să completeze politicile TIC generale.
În paralel, este în curs de dezvoltare o categorie de soluții cunoscută sub numele de AI Security Posture Management (AISPM) , echivalentă cu ceea ce a însemnat CSPM pentru cloud: inventarierea activelor AI, descoperirea utilizărilor neautorizate („shadow AI”), evaluarea configurațiilor și monitorizarea continuă a conformității cu politicile.
Totul sugerează că, pe măsură ce IA devine și mai integrată în infrastructura critică, securitatea IA se va transforma de la un „extra interesant” la o cerință fundamentală . Organizațiile care iau un pas înainte – prin inventarierea sistemelor lor de IA, definirea unei guvernanțe clare, implementarea unor controale stricte ale accesului, supunerea modelelor lor unor teste contradictorii și alinierea la cadre recunoscute – vor fi mult mai bine poziționate pentru a valorifica beneficiile IA fără a întâmpina surprize neplăcute. Și, mai presus de toate, vor fi mai bine echipate pentru a menține încrederea clienților, utilizatorilor și cetățenilor într-un mediu în care distincția dintre ceea ce este real și ceea ce este manipulat va deveni din ce în ce mai complexă.
