Nulti nivo povjerenja u doba umjetne inteligencije: podaci, umjetna inteligencija i sigurnost

Informatec Digital » Resursi » Nulti nivo povjerenja u doba umjetne inteligencije: podaci, umjetna inteligencija i sigurnost

Probijanje Generativna umjetna inteligencija promijenio je pravila igre u sajber sigurnosti: Iste tehnologije koje pokreću poslovne inovacije omogućavaju i brže, kredibilnije i automatizovane napade.Sigurnosni timovi su prisiljeni braniti hibridne infrastrukture, s udaljenim korisnicima, uslugama u oblaku i povezanim industrijskim sistemima, dok se propisi pooštravaju, a budžeti ne prate uvijek taj tempo.

U ovom scenariju, sve je jasnije da Stari model "sigurnog perimetra" je mrtav, a filozofija nultog povjerenja postala je novi standard.Izazov je sada prilagoditi ga svijetu u kojem se ne radi samo o kontroli ljudi i uređaja, već i o AI modelima, autonomnim agentima i tokovima podataka koji se kreću brzinom mašine između platformi, aplikacija i oblaka.

Zašto umjetna inteligencija dovodi u pitanje tradicionalni sigurnosni model

Umjetna inteligencija je postala mač s dvije oštrice: Jača odbranu, ali i poboljšava arsenal sajber kriminalaca.Danas je trivijalno generirati hiperpersonalizirane phishing kampanje, glasovne ili video deepfakeove, polimorfni malver ili automatizovane prevare podržane generativnom vještačkom inteligencijom.

Istovremeno, Organizacije upravljaju sve heterogenijim infrastrukturama: multicloud okruženja (AWS, Azure, Google Cloud, Oracle), SaaS, vlasnički podatkovni centri, industrijske OT mreže i hiljade radnici na daljinuSve ovo uz kritične podatke raspršene posvuda, složene digitalne lance snabdijevanja i sve veći regulatorni pritisak (NIS2, DORA, sektorski propisi).

Stručnjaci za sajber sigurnost se slažu da Problem nisu napadi koji su blokirani, već oni koji ostanu neotkriveni.Protivnici se kamufliraju unutar legitimnog prometa, iskorištavaju ukradene akreditacijeZloupotrebljavaju API-je i oslanjaju se na vještačku inteligenciju kako bi se kretali bočno s velikom prikrivenošću, često iskorištavajući slabo kontroliran "pouzdani" pristup.

Suočene s ovim scenarijem, naslijeđene arhitekture fokusirane su na perimetar —Tradicionalne VPN mrežeravne mreže, implicitno povjerenje u ono što je „unutra“

Od perimetralne sigurnosti do pristupa nultog povjerenja

Godinama se IT sigurnost zasnivala na metafori dvorca sa zidovima: Unutra je sve pouzdano, spolja je sve sumnjivoZaštitni zidovi na rubu mreže, VPN-ovi za ulazak i, jednom unutra, neograničen pristup internoj mreži. Ovaj model se raspada kada zaposleni rade odakle god, aplikacije se hostuju u oblaku, a podaci putuju između dobavljača, partnera i IoT uređaja.

Kako bi odgovorio na ovu promjenu, Forrester je 2010. godine popularizirao model nultog povjerenja, konceptualno vođen od strane Johna Kindervaga, s idejom jednostavnom koliko i radikalnom: "Nikad ne vjeruj, uvijek provjeri"Nije bitno da li veza dolazi "iznutra" ili "izvana", svaki pristup mora biti autentificiran, autorizovan i kontinuirano nadziran.

Osnovni principi nultog povjerenja mogu se sažeti u tri stuba: rigorozna i nezavisna provjera porijekla, pristup s minimalnim privilegijama i trajna obavezaDrugim riječima, pretpostavlja se da mreža može biti kompromitovana i da bilo koji korisnik - čak i interni - može postati prijetnja, bilo greškom ili u lošoj namjeri.

Vremenom je ovaj pristup od teorije prešao u konkretne smjernice. Objavljivanje NIST SP 800-207 i CISA modela zrelosti označilo je prekretnicu.pružajući referentne arhitekture za mreže, aplikacije i podatke. Paralelno s tim, u Evropi, preporuke NIS2 i ENISA podstiču kritične sektore da ugrade snažnu autentifikaciju, segmentaciju i kontinuiranu kontrolu pristupa.

Nulto povjerenje u doba umjetne inteligencije: Kada autonomni agenti razbiju kalup

Prvi val nultog povjerenja dizajniran je sa ljudi i relativno statični uređajiLjudski korisnici, korporativni timovi i tradicionalne poslovne aplikacije nekada su bili norma. Ali umjetna inteligencija je duboko promijenila ovu stvarnost.

Modeli umjetne inteligencije - posebno modeli velikih jezika (LLM) i autonomni agenti - Oni rade dinamički, prelaze granice između sistema i manipulišu osjetljivim podacima u roku od nekoliko sekundi.Mogu čitati e-poštu, pokretati radne procese, mijenjati datoteke, komunicirati s API-jima ili donositi odluke bez stalnog ljudskog nadzora.

OWASP, u svojih 10 najvećih rizika za GenAI i LLM, upozorava na takozvanu „prekomjernu agenciju“: kada se vještačkoj inteligenciji dodijeli previše autonomije ili kapaciteta za djelovanjeAgenti koji šalju e-mailove u ime rukovodilaca, botovi koji prebacuju novac između računa, asistenti koji vrše promjene u proizvodnim sistemima... Svaka od ovih funkcija otvara nove vektore napada ako se ne kontroliše pravilno.

Pristupi nultog povjerenja usmjereni na ljudskog korisnika nisu uspješni: Nisu skalabilni da bi obradili hiljade odluka u minuti koje donose algoritmi.Pokušaj ručne primjene principa najmanjih privilegija na svaku akciju svakog agenta je jednostavno neizvodljiv. Tu se pojavljuje ključna evolucija: pomjeranje fokusa sa identiteta na podatke.

Nulto povjerenje fokusirano na podatke: podaci kao nova kontrolna ravan

U okruženju kojim dominira vještačka inteligencija, ono što je zaista važno više nije samo ko ima pristup, već kojim podacima pristupa, kako ih transformiše i s kim ih dijeli.Mrežni perimetar gubi značenje, a novi perimetar postaje sam podatak.

Analitičari poput Forrestera, s okvirima poput AEGIS-a za upravljanje umjetnom inteligencijom, naglašavaju da Sigurnost se mora usmjeriti ka vidljivosti podataka, kontekstu i odgovornostiCilj je omogućiti inovacije pomoću umjetne inteligencije, ali pod kontrolama zasnovanim na klasifikaciji informacija, porijeklu podataka i pravilima za njenu upotrebu koja se mogu provjeravati. Radi zaštite osjetljivih informacija, preporučljivo je implementirati prakse i kontrole koje smanjuju rizik od curenja i krađe podataka.

Specijalizovane platforme kombinuju mogućnosti DSPM-a (Data Security Posture Management) i AI-SPM-a (AI Security Posture Management) kako bi... Otkrijte gdje se nalaze osjetljivi podaci u cloud, SaaS i hibridnim okruženjimakako se koriste i koji sistemi umjetne inteligencije komuniciraju s njima. Nakon toga se primjenjuju politike upravljanja koje otkrivaju rizična ponašanja (zlonamjerne upite, eksfiltraciju, neobične pokrete) i automatiziraju blokiranje ili upozorenja.

Ova promjena transformira Zero Trust u živa, podacima vođena arhitekturasposoban za skaliranje tempom autonomnih agenata i modela samoučenja. Umjesto slijepog vjerovanja da će umjetna inteligencija učiniti „pravu stvar“, uspostavljaju se dinamičke zaštitne mjere koje ograničavaju ono što može vidjeti i učiniti na osnovu osjetljivosti i konteksta.

VI kao saveznik: SOC sljedeće generacije i „minimalna agencija“

Vještačka inteligencija ne samo da stvara probleme; To je također ključna komponenta u održavanju Nultog povjerenja na velikoj skali.Količina trenutnih sigurnosnih signala (logovi, mrežna telemetrija, aktivnost u oblaku, događaji identiteta itd.) je ogromna za bilo koji ljudski tim bez automatizirane podrške.

Proizvođači sajber sigurnosti integriraju Napredna umjetna inteligencija u svojim platformama za zaštitu, detekciju i odgovorOd motora koji analiziraju stotine triliona događaja kako bi otkrili anomalije, do inteligentnih agenata u SOC-u sposobnih za istraživanje incidenata, korelaciju upozorenja i izvršavanje akcija bez ručne intervencije.

Vodeće kompanije eksperimentišu sa konceptom Agentic SOC-a: centri za sigurnosne operacije pokretani AI agentima koji "rade rame uz rame" s analitičarimaOvi agenti razumiju kontekst infrastrukture, preporučuju mjere zabrane, pišu izvještaje, automatiziraju scenarije i, u određenim slučajevima, izvršavaju odgovore direktno unutar dobro definiranih ograničenja.

Ključno je primijeniti princip sličan principu najmanjih privilegija na umjetnu inteligenciju, ali prilagođen: model „minimalne agencije“ koji preporučuje OWASPNe samo da su podaci kojima agent može pristupiti ograničeni, već i specifične radnje koje može izvršiti. Nijednom botu ne bi trebalo dati moć da "radi sve" u produkciji osim ako to nije apsolutno neophodno.

Primjeri iz stvarnog svijeta: Zero Trust i umjetna inteligencija u bankarstvu, energetici, industriji i prehrambenoj industriji

Teorija je u redu, ali gdje Zero Trust dokazuje svoju vrijednost je... u rovovima kritičnih sektoragdje greška može zaustaviti rad postrojenja, srušiti finansijske usluge ili ostaviti milione korisnika bez struje.

U bankarskom sektoru, zabrinutost se vrti oko prevara, krađa identiteta i krađa podatakaFinansijske institucije rade na izgradnji visoko skalabilnih Centara za sigurnosne operacije (SOC) koji kombiniraju masivnu telemetriju, analitiku zasnovanu na umjetnoj inteligenciji i automatizaciju. Cilj je predvidjeti obrasce prevare, blokirati sumnjive aktivnosti u stvarnom vremenu i preći s čisto reaktivnog na proaktivni model. Sposobnost oporavka i osiguranja kompromitovanih računa ključna je za smanjenje utjecaja ovih napada.

U energetskom sektoru, igrači poput velikih elektroprivrednih kompanija suočavaju se s ogromnim perimetrom izloženosti: Milioni pametnih brojila, hiljade transformatorskih stanica i terenske ekipe koje pristupaju centralnim sistemimaNadalje, često postoji vrlo stroga odvojenost između IT i OT okruženja, koja se često smatraju međusobno "nepouzdanima". Migracija na Zero Trust u ovom kontekstu znači postizanje jedinstvene vidljivosti i razlikovanje unutar SOC-a šta predstavlja napad od, na primjer, planiranog masovnog ažuriranja uređaja.

U proizvodnoj industriji, gdje je prioritet kontinuitet proizvodnje, princip nultog povjerenja se doživljava na vrlo opipljiv način: Ako se PLC ili robot zaustavi, uticaj je trenutan.Proizvođači s proizvodima koji traju decenijama suočavaju se sa zastarjelim OT tehnologijama, nesigurnim protokolima i rastućim prisustvom u oblaku. Jedan od ključnih izazova je objedinjavanje vidljivosti i kontrole nad ovom mješavinom IT i OT rješenja, postizanjem jedinstvenog prozora koji prikazuje sve, od mreže mašina do oblaka kupca.

U prehrambenim kompanijama sa automatizovanim pogonima, zabrinutost je da Neovlašteni udaljeni pristup industrijskoj opremi može direktno uticati na proizvodnjuPrincip je jasan: nijedan dobavljač ne bi trebao ući u PLC ili robota bez strogo kontrolirane, nadzirane i opozive sesije u stvarnom vremenu, sa snimanjem aktivnosti i istekom dozvole.

Digitalni lanci snabdijevanja, LLM i rizik od kršenja podataka

Pored interne infrastrukture, mnoge organizacije otkrivaju da Njegova glavna slabost leži u digitalnom lancu snabdijevanjaSvakodnevno sarađujemo s bankama, tehnološkim partnerima, integratorima, fintech kompanijama, cloud provajderima i mnogim drugima, a svi oni su na ovaj ili onaj način povezani sa sistemima kompanije.

Svaka veza uvodi mogući ulazni vektor: Treća strana sa lošim sigurnosnim praksama može postati ulaz za veći napadOvo zahtijeva temeljitu evaluaciju B2B pristupa, ograničavanje dozvola, segmentaciju okruženja i praćenje integracija zasnovanih na API-ju.

Ovo je pogoršano rastućom zabrinutošću zbog korištenja eksternih LLM-ova: rizik da će interne informacije na kraju "hraniti" javno-privatne modele bez kontrole ili mogućnosti praćenjaStrateški dokumenti, podaci o kupcima ili vlasnički kod mogu nenamjerno procuriti kada se koriste kao kontekst u AI alati bez odgovarajućih zaštitnih mjera.

Ovdje se podrazumijeva nulto povjerenje primijenjeno na umjetnu inteligenciju uspostaviti snažne DLP (Data Loss Prevention) kontroleRegulirajte šta se može slati kojim modelima, zahtijevajte čuvanje podataka (logičku izolaciju) i, gdje je to moguće, odlučite se za privatne implementacije ili "ograđene vrtove" gdje organizacija ima stvarnu kontrolu nad tim šta se obučava, a šta ne.

Implementacija nultog povjerenja s umjetnom inteligencijom: praktični koraci i izazovi

Implementacija strategije nultog povjerenja nije samo pitanje instaliranja nekoliko alata: To je strateško, tehničko i kulturno putovanjeUprkos tome, mogu se definirati neki praktični koraci za dobar početak.

Prvi blok je vidljivost: inventarna sredstva, podaci, identiteti i tokoviBitno je znati koji sistemi postoje, koje kritične informacije obrađuju, ko (ili koji AI agent) im pristupa i odakle. Alati za otkrivanje i klasifikaciju podataka pomažu u identifikaciji "krunskih dragulja" u javnim oblacima, SaaS-u i lokalnim okruženjima.

Sljedeća je procjena rizika i definiranje politike: klasifikovati poslovne procese prema uticaju, definisati ko može pristupiti čemu i pod kojim uslovimaTo uključuje detaljne politike pristupa, segmentaciju mreže, definiciju OT/IT "zona", API zaštitu i jasna pravila o korištenju AI usluga.

Implementacija se obično vrši u fazama: Počevši s identitetom (MFA otporan na phishing, Single Sign-On, moderno upravljanje privilegijama), nakon čega slijedi ZTNA/SASE za pristup, a kasnije mikrosegmentacija i dubinska zaštita podataka.Svaki talas prati kontinuirano praćenje kako bi se prilagodile politike i spriječilo da previše restriktivne mjere paraliziraju poslovanje.

Tokom ovog putovanja pojavljuju se poznate prepreke: Otpor promjenama, tehnička složenost, naslijeđe koje je teško prilagoditi i fragmentacija alataObuka, upravljanje promjenama i konsolidacija na integriranim platformama (SSE, SASE, observability suites) su ključne poluge kako bi se izbjegao propadanje od uspjeha.

Umjetna inteligencija, pametna autentifikacija i upravljane usluge

Vještačka inteligencija također mijenja oblik autentifikacije. Umjesto oslanjanja isključivo na lozinke ili statičke faktore, Moderni sistemi implementiraju adaptivnu autentifikaciju zasnovanu na rizikuOni analiziraju lokaciju, uređaj, obrasce korištenja, brzinu tipkanja ili čak ponašanje miša kako bi odlučili je li zahtjev normalan ili sumnjiv.

Ova vrsta autentifikacije zasnovane na vještačkoj inteligenciji savršeno odgovara principu nultog povjerenja: Svaki pokušaj pristupa se dinamički procjenjuje i može zahtijevati dodatne faktore, ograničiti dozvole ili direktno blokirati pristup. kada je rizik visok. Sve se ovo radi gotovo transparentno za legitimnog korisnika, koji doživljava manje trenja kada se ponaša na uobičajen način.

Još jedno područje gdje umjetna inteligencija blista je automatizirani odgovor: Ako uređaj počne krasti podatke, zlonamjerni agent se kreće bočno ili korisnik preuzima anomalne količine informacija.Detektorski mehanizmi mogu izolovati krajnju tačku, opozvati tokene, zatvoriti sesije i pokrenuti istrage gotovo trenutno.

Za mnoge organizacije, posebno one srednje veličine, izgradnja ovog nivoa sofisticiranosti interno je komplikovana. Tu do izražaja dolaze usluge upravljane sajber sigurnosti, koje Nude 24/7 SOC, napredni nadzor, upravljanje pristupom zasnovano na umjetnoj inteligenciji i sigurnosnu automatizaciju. bez prisiljavanja kompanije da sve gradi od nule.

Kulturne promjene: „Generacija nultog povjerenja“ i digitalni jaz

Pored tehnologije, Nulto povjerenje zahtijeva kulturni pomak u načinu na koji se povjerenje shvata u digitalnim okruženjimaNe radi se o "nepovjerenju prema ljudima", već o prihvatanju činjenice da svaki sistem može zakazati i da najbolji način zaštite korisnika i preduzeća nije pretpostavka da se ništa loše neće dogoditi.

Zanimljivo je da mlađe generacije odrastaju koristeći društvene mreže, online videoigre i digitalne usluge od djetinjstva. Prilično su upoznati s okruženjima u kojima se povjerenje mora zaslužiti i gdje su pravila stroga.Ova grupa se, pomalo ironično, počinje nazivati ​​"generacijom nultog povjerenja".

Na drugom kraju digitalnog jaza, neki od najviših rukovodilaca Mogu sigurnosne mjere doživljavati kao nepotrebne prepreke ili kao simptom ličnog nepovjerenjaKljučno je ovdje jasno objasniti razlog za svaku kontrolu, prikazati slučajeve incidenata iz stvarnog života i naglasiti da je cilj zaštititi i organizaciju i same zaposlenike.

Višefaktorska autentifikacija, segmentacija pristupa ili kontinuirana verifikacija prestaju se smatrati "smetnjama" kada se shvati da Jedan klik na zlonamjernu e-poštu može pokrenuti izuzetno sofisticirane napade podržane umjetnom inteligencijom, sa ozbiljnim ekonomskim, pravnim i reputacijskim posljedicama.

Gledajući kratkoročno i srednjoročno, sve ukazuje na činjenicu da Nulto povjerenje i umjetna inteligencija će se nastaviti spajati sve dok ne postanu dvije strane iste medaljeVještačka inteligencija kao mehanizam za posmatranje, analizu i reagovanje na ono što se dešava u realnom vremenu; i Zero Trust kao okvir za ograničavanje, provjeru i upravljanje onim što ljudi, mašine i modeli mogu učiniti. Organizacije koje uspiju uravnotežiti autonomiju i kontrolu, štiteći podatke bez gušenja inovacija, bit će one koje će napredovati u digitalnom okruženju gdje se povjerenje više ne daje, već gradi.