Ničelno zaupanje v dobi umetne inteligence: podatki, umetna inteligenca in varnost

Informatec Digital » Viri » Ničelno zaupanje v dobi umetne inteligence: podatki, umetna inteligenca in varnost

Vnetje Generativna umetna inteligenca je spremenil pravila igre na področju kibernetske varnosti: Iste tehnologije, ki spodbujajo poslovne inovacije, omogočajo tudi hitrejše, bolj verodostojne in avtomatizirane napade.Varnostne ekipe so prisiljene braniti hibridne infrastrukture z oddaljenimi uporabniki, storitvami v oblaku in povezanimi industrijskimi sistemi, medtem ko se predpisi zaostrujejo in proračuni ne sledijo vedno.

V tem scenariju postaja vse bolj jasno, da Stari model "varnega oboda" je mrtev, filozofija ničelnega zaupanja pa je postala novi standard.Izziv je zdaj prilagoditi ga svetu, kjer ne gre le za nadzor ljudi in naprav, temveč tudi za modele umetne inteligence, avtonomne agente in podatkovne tokove, ki se premikajo s hitrostjo stroja med platformami, aplikacijami in oblaki.

Zakaj umetna inteligenca izziva tradicionalni varnostni model

Umetna inteligenca je postala dvorezen meč: Krepi obrambo, a hkrati izboljšuje arzenal kibernetskih kriminalcev.Danes je ustvarjanje hiperpersonaliziranih phishing kampanj, glasovnih ali video ponaredkov, trivialno, polimorfna zlonamerna programska oprema ali avtomatizirane goljufije, podprte z generativno umetno inteligenco.

Hkrati Organizacije upravljajo vse bolj heterogeno infrastrukturo: večoblačna okolja (AWS, Azure, Google Cloud, Oracle), SaaS, lastniški podatkovni centri, industrijska OT omrežja in tisoči oddaljeni delavciVse to ob kritičnih podatkih, razpršenih povsod, kompleksnih digitalnih dobavnih verigah in naraščajočem regulativnem pritisku (NIS2, DORA, sektorski predpisi).

Strokovnjaki za kibernetsko varnost se strinjajo, da Problem niso napadi, ki so blokirani, ampak tisti, ki ostanejo neodkriti.Nasprotniki se kamuflirajo v legitimnem prometu, izkoriščajo ukradene poverilniceZlorabljajo API-je in se zanašajo na umetno inteligenco, da se premikajo bočno z veliko prikritostjo, pri čemer pogosto izkoriščajo slabo nadzorovan "zaupanja vreden" dostop.

Soočene s tem scenarijem so se podedovane arhitekture osredotočile na obod –Tradicionalni VPN-jiravne mreže, implicitno zaupanje v to, kar je »notri«

Od varnosti perimetra do pristopa ničelnega zaupanja

IT-varnost je leta temeljila na metafori gradu z obzidjem: V notranjosti je vse zanesljivo, zunaj pa vse sumljivoPožarni zidovi na robu omrežja, VPN-ji za vstop in neomejen dostop do notranjega omrežja, ko ste enkrat znotraj. Ta model se razblini, ko zaposleni delajo od koder koli, aplikacije gostujejo v oblaku, podatki pa potujejo med prodajalci, partnerji in napravami interneta stvari.

Da bi se odzval na to spremembo, je Forrester leta 2010 populariziral model ničelnega zaupanja, ki ga je konceptualno zasnoval John Kindervag, z idejo, ki je bila tako preprosta kot radikalna: "Nikoli ne zaupaj, vedno preveri"Ni pomembno, ali povezava prihaja "od znotraj" ali "od zunaj", vsak dostop mora biti overjen, avtoriziran in nenehno nadzorovan.

Osnovna načela ničelnega zaupanja lahko povzamemo v treh stebrih: strogo in neodvisno preverjanje izvora, dostop z najmanj privilegiji in trajna zavezaZ drugimi besedami, domneva se, da je omrežje lahko ogroženo in da lahko vsak uporabnik – tudi notranji – postane grožnja, bodisi po pomoti bodisi v slabi veri.

Sčasoma se je ta pristop iz teorije razvil v konkretne smernice. Objava standarda NIST SP 800-207 in modela zrelosti CISA je pomenila prelomnico.zagotavljanje referenčnih arhitektur za omrežja, aplikacije in podatke. Hkrati pa v Evropi priporočila NIS2 in ENISA spodbujajo ključne sektorje k vključitvi močne avtentikacije, segmentacije in stalnega nadzora dostopa.

Ničelno zaupanje v dobi umetne inteligence: Ko avtonomni agenti prebijejo kalup

Prvi val ničelnega zaupanja je bil zasnovan z ljudi in relativno statične napraveČloveški uporabniki, korporativne ekipe in tradicionalne poslovne aplikacije so bili nekoč norma. Toda umetna inteligenca je to realnost globoko spremenila.

Modeli umetne inteligence – zlasti modeli velikih jezikov (LLM) in avtonomni agenti – Delujejo dinamično, prečkajo meje med sistemi in manipulirajo z občutljivimi podatki v nekaj sekundah.Lahko berejo e-pošto, zaženejo delovne procese, spreminjajo datoteke, komunicirajo z API-ji ali sprejemajo odločitve brez stalnega človeškega nadzora.

OWASP v svojih 10 največjih tveganjih za GenAI in LLM opozarja na tako imenovano »prekomerno zastopanost«: ko ima umetna inteligenca preveč avtonomije ali zmogljivosti za delovanjeAgenti, ki pošiljajo e-pošto v imenu vodstva, boti, ki prenašajo denar med računi, asistenti, ki spreminjajo produkcijske sisteme ... Vsaka od teh funkcij odpira nove vektorje napadov, če ni ustrezno nadzorovana.

Pristopi ničelnega zaupanja, osredotočeni na človeškega uporabnika, so pomanjkljivi: Ne morejo obdelati tisočih odločitev, ki jih na minuto sprejmejo algoritmi.Poskus ročne uporabe načel najmanjših privilegijev za vsako dejanje vsakega agenta je preprosto neizvedljiv. Tu se pojavi ključni razvoj: premik fokusa z identitete na podatke.

Zero Trust, osredotočen na podatke: podatki kot nova nadzorna ravnina

V okolju, kjer prevladuje umetna inteligenca, ni več pomembno le to, kdo ima dostop, ampak do katerih podatkov dostopa, kako jih preoblikuje in s kom jih deli.Omrežni perimeter izgubi pomen in novi perimeter postanejo sami podatki.

Analitiki, kot je Forrester, z ogrodji, kot je AEGIS za upravljanje umetne inteligence, poudarjajo, da Varnost se mora osredotočiti na opazovanje podatkov, kontekst in odgovornostCilj je omogočiti inovacije z umetno inteligenco, vendar pod nadzorom, ki temelji na klasifikaciji informacij, izvoru podatkov in pravilih za njeno uporabo, ki jih je mogoče preverjati. Za zaščito občutljivih informacij je priporočljivo uvesti prakse in nadzor, ki zmanjšujejo tveganje uhajanja in kraje podatkov.

Specializirane platforme združujejo zmogljivosti DSPM (upravljanje varnosti podatkov) in AI-SPM (upravljanje varnosti umetne inteligence) za Odkrijte, kje se v oblačnih, SaaS in hibridnih okoljih nahajajo občutljivi podatkikako se uporabljajo in kateri sistemi umetne inteligence z njimi komunicirajo. Na podlagi tega se uporabljajo politike upravljanja, ki zaznavajo tvegano vedenje (zlonamerne pozive, izstopanje, nenavadna gibanja) in avtomatizirajo blokiranje ali opozorila.

Ta sprememba preoblikuje ničelno zaupanje v živa, podatkovno vodena arhitekturasposoben skaliranja s tempom avtonomnih agentov in samoučečih se modelov. Namesto slepega zaupanja, da bo umetna inteligenca naredila »pravilno stvar«, se vzpostavijo dinamični zaščitni ukrepi, ki omejujejo, kaj lahko vidi in naredi, glede na občutljivost in kontekst.

Umetna inteligenca kot zaveznik: SOC naslednje generacije in »minimalna agencija«

Umetna inteligenca ne ustvarja samo težav; Prav tako je ključna komponenta pri ohranjanju ničelnega zaupanja v velikem obsegu.Količina trenutnih varnostnih signalov (dnevniki, omrežna telemetrija, dejavnost v oblaku, dogodki identitete itd.) je za katero koli človeško ekipo brez avtomatizirane podpore ogromna.

Proizvajalci kibernetske varnosti integrirajo Napredna umetna inteligenca na področju platform za zaščito, zaznavanje in odzivanjeOd mehanizmov, ki analizirajo stotine bilijonov dogodkov za odkrivanje anomalij, do inteligentnih agentov v SOC, ki so sposobni preiskovati incidente, povezovati opozorila in izvajati dejanja brez ročnega posredovanja.

Vodilna podjetja eksperimentirajo s konceptom Agentic SOC: varnostni operativni centri, ki jih poganjajo agenti umetne inteligence, ki "delujejo vzporedno" z analitikiTi agenti razumejo kontekst infrastrukture, priporočajo zadrževalne ukrepe, pišejo poročila, avtomatizirajo načrte in v nekaterih primerih izvajajo odzive neposredno znotraj dobro določenih omejitev.

Ključno je, da se za umetno inteligenco uporabi načelo, podobno načelu najmanjših privilegijev, vendar prilagojeno: model »minimalne agencije«, ki ga priporoča OWASPNe le podatki, do katerih lahko agent dostopa, so omejeni, temveč tudi specifična dejanja, ki jih lahko izvede. Nobenemu botu ne bi smeli dati moči, da v produkciji "naredi vse", razen če je to nujno potrebno.

Primeri iz resničnega sveta: Zero Trust in umetna inteligenca v bančništvu, energetiki, industriji in živilstvu

Teorija je v redu, ampak kje Zero Trust dokaže svojo vrednost je v jarkih kritičnih sektorjevkjer lahko napaka zaustavi obrat, povzroči prekinitev delovanja finančnih storitev ali pusti milijone uporabnikov brez elektrike.

V bančnem sektorju se skrbi vrtijo okoli goljufija, kraja identitete in kraja podatkovFinančne institucije si prizadevajo za izgradnjo visoko razširljivih varnostnih operativnih centrov (SOC), ki združujejo obsežno telemetrijo, analitiko, ki jo poganja umetna inteligenca, in avtomatizacijo. Cilj je predvideti vzorce goljufij, blokirati sumljive dejavnosti v realnem času in preiti od zgolj reaktivnega k proaktivnemu modelu. Zmožnost obnovitve in zaščite ogroženih računov je ključna za zmanjšanje vpliva teh napadov.

V energetskem sektorju se akterji, kot so velika elektroenergetska podjetja, soočajo z ogromnim obsegom izpostavljenosti: Milijoni pametnih števcev, tisoči transformatorskih postaj in terenske ekipe, ki dostopajo do centralnih sistemovPoleg tega pogosto obstaja zelo stroga ločitev med IT in OT okolji, ki se pogosto štejeta za medsebojno "nezanesljiva". Selitev na ničelno zaupanje v tem kontekstu pomeni doseganje enotne preglednosti in razlikovanje znotraj SOC, kaj predstavlja napad od na primer načrtovane množične posodobitve naprave.

V predelovalni industriji, kjer je prednostna naloga neprekinjena proizvodnja, se ničelno zaupanje izkazuje na zelo oprijemljiv način: Če se PLC ali robot ustavi, je učinek takojšen.Proizvajalci z izdelki, ki trajajo desetletja, se soočajo s starejšimi OT tehnologijami, nezaščitenimi protokoli in vse večjo prisotnostjo v oblaku. Eden ključnih izzivov je poenotenje vidnosti in nadzora nad to mešanico IT in OT rešitev, s čimer se doseže enoten pregled, ki prikazuje vse od strojnega omrežja do strankinega oblaka.

V živilskih podjetjih z avtomatiziranimi obrati je skrb, da Nepooblaščen oddaljeni dostop do industrijske opreme lahko neposredno vpliva na proizvodnjoNačelo je jasno: noben dobavitelj ne sme vstopiti v PLC ali robota brez strogo nadzorovane, spremljane in preklicne seje v realnem času, z beleženjem aktivnosti in potekom dovoljenja.

Digitalne dobavne verige, LLM in tveganje kršitev podatkov

Poleg notranje infrastrukture številne organizacije odkrivajo, da Njegova glavna slabost je v digitalni dobavni verigiDnevno sodelujemo z bankami, tehnološkimi partnerji, integratorji, fintech podjetji, ponudniki storitev v oblaku in številnimi drugimi, ki so vsi tako ali drugače povezani s sistemi podjetja.

Vsaka povezava uvaja možen vhodni vektor: Tretja oseba s slabimi varnostnimi praksami lahko postane zadnja vrata za večji napad.To zahteva temeljito oceno dostopa B2B, omejevanje dovoljenj, segmentacijo okolij in spremljanje integracij, ki temeljijo na API-jih.

To še poslabšuje vse večja zaskrbljenost glede uporabe zunanjih programov LLM: tveganje, da bodo interne informacije na koncu "hranile" javno-zasebne modele brez nadzora ali sledljivostiStrateški dokumenti, podatki o strankah ali lastniška koda lahko nenamerno uidejo, če se uporabljajo kot kontekst v orodja AI brez ustreznih varovalk.

Ničelno zaupanje, uporabljeno za umetno inteligenco, tukaj pomeni vzpostaviti močne nadzorne mehanizme za preprečevanje izgube podatkov (DLP)Regulirajte, kaj se lahko pošlje katerim modelom, zahtevajte shranjevanje podatkov (logična izolacija) in, kjer je mogoče, se odločite za zasebne uvedbe ali "ograjene vrtove", kjer ima organizacija dejanski nadzor nad tem, kaj se usposablja in kaj ne.

Uvajanje ničelnega zaupanja z umetno inteligenco: praktični koraki in izzivi

Izvajanje strategije ničelnega zaupanja ni zgolj stvar namestitve nekaj orodij: Gre za strateško, tehnično in kulturno potovanjeKljub temu je mogoče opredeliti nekaj praktičnih korakov za dober začetek.

Prvi blok je vidnost: sredstva zalog, podatki, identitete in tokoviBistveno je vedeti, kateri sistemi obstajajo, katere kritične informacije obdelujejo, kdo (ali kateri agent umetne inteligence) dostopa do njih in od kod. Orodja za odkrivanje in razvrščanje podatkov pomagajo prepoznati »kronske dragulje« v javnih oblakih, SaaS in lokalnih okoljih.

Sledi ocena tveganja in opredelitev politike: razvrstite poslovne procese glede na vpliv, opredelite, kdo lahko dostopa do česa in pod kakšnimi pogojiTo vključuje podrobne politike dostopa, segmentacijo omrežja, opredelitev "con" OT/IT, zaščito API-jev in jasna pravila o uporabi storitev umetne inteligence.

Izvajanje se običajno izvaja v fazah: Začenši z identiteto (večfaktorska autentifikacija, odporna proti lažnemu predstavljanju, enotna prijava, sodobno upravljanje privilegijev), sledila je ZTNA/SASE za dostop in kasneje mikrosegmentacija ter poglobljena zaščita podatkov.Vsak val spremlja nenehno spremljanje za prilagajanje politik in preprečevanje, da bi preveč omejevalni ukrepi ohromili poslovanje.

Na tej poti se pojavljajo znane ovire: Odpor do sprememb, tehnična kompleksnost, zapuščina, ki jo je težko prilagoditi, in razdrobljenost orodijUsposabljanje, upravljanje sprememb in konsolidacija na integriranih platformah (SSE, SASE, paketi za opazovanje) so bistveni vzvodi za preprečevanje neuspeha.

Umetna inteligenca, pametno preverjanje pristnosti in upravljane storitve

Umetna inteligenca prav tako spreminja avtentikacijo. Namesto da se zanaša zgolj na gesla ali statične dejavnike, Sodobni sistemi izvajajo prilagodljivo preverjanje pristnosti na podlagi tveganjaAnalizirajo lokacijo, napravo, vzorce uporabe, hitrost tipkanja ali celo vedenje miške, da ugotovijo, ali je zahteva običajna ali sumljiva.

Ta vrsta preverjanja pristnosti z umetno inteligenco je idealna za sistem Zero Trust: Vsak poskus dostopa se dinamično ovrednoti in lahko zahteva dodatne dejavnike, omeji dovoljenja ali neposredno blokira dostop. ko je tveganje veliko. Vse to se naredi skoraj pregledno za legitimnega uporabnika, ki ima manj težav, če se obnaša na običajen način.

Drugo področje, kjer umetna inteligenca blesti, je avtomatizirano odzivanje: Če naprava začne krasti podatke, se zlonamerni agent premakne bočno ali pa uporabnik prenese nenavadne količine informacij.Zaznavalni mehanizmi lahko skoraj v trenutku izolirajo končno točko, prekličejo žetone, zaprejo seje in začnejo preiskave.

Za številne organizacije, zlasti srednje velike, je vzpostavitev te stopnje sofisticiranosti interno zapletena. Tukaj pridejo v poštev upravljane storitve kibernetske varnosti, ki Ponujajo 24/7 SOC, napredno spremljanje, upravljanje dostopa na osnovi umetne inteligence in varnostno avtomatizacijo. ne da bi podjetje prisilili, da vse zgradi iz nič.

Kulturne spremembe: »generacija ničelnega zaupanja« in digitalni razkorak

Poleg tehnologije zahteva tudi Zero Trust kulturni premik v razumevanju zaupanja v digitalnih okoljihNe gre za "nezaupanje ljudem", temveč za sprejetje dejstva, da lahko vsak sistem odpove in da najboljši način za zaščito uporabnikov in podjetij ni domneva, da se ne bo zgodilo nič slabega.

Zanimivo je, da mlajše generacije odraščajo z uporabo družbenih medijev, spletnih videoiger in digitalnih storitev že od otroštva. Dobro poznajo okolja, kjer si je treba zaupanje zaslužiti in kjer so pravila stroga.To skupino začenjajo nekoliko ironično imenovati "generacija ničelnega zaupanja".

Na drugem koncu digitalnega razkoraka so nekateri najvišji uslužbenci Varnostne ukrepe lahko dojemajo kot nepotrebne ovire ali kot simptom osebnega nezaupanja.Ključno je jasno pojasniti razlog za vsak nadzor, prikazati resnične primere incidentov in poudariti, da je cilj zaščititi tako organizacijo kot same zaposlene.

Večfaktorska avtentikacija, segmentacija dostopa ali nenehno preverjanje ne veljajo več za "moteče", ko razumemo, da En sam klik na zlonamerno e-pošto lahko sproži izjemno dovršene napade, podprte z umetno inteligenco, z resnimi gospodarskimi, pravnimi in uglednimi posledicami.

Kratkoročno in srednjeročno gledano vse kaže na to, da Ničelno zaupanje in umetna inteligenca se bosta še naprej prepletala, dokler ne postaneta dve plati iste medaljeUmetna inteligenca kot mehanizem za opazovanje, analiziranje in odzivanje na dogajanje v realnem času; in ničelno zaupanje kot okvir za omejevanje, preverjanje in upravljanje zmožnosti ljudi, strojev in modelov. Organizacije, ki jim uspe uravnotežiti avtonomijo in nadzor ter zaščititi podatke, ne da bi pri tem zavirale inovacije, bodo uspevale v digitalnem okolju, kjer zaupanje ni več samoumevno, ampak se gradi.

Povezani članek:

Kaj je arhitektura ničelnega zaupanja: stebri, zasnova in najboljše prakse