Kaip efektyviai ir saugiai naudoti dirbtinį intelektą saugumo srityje

Informatec Digital » Ištekliai » Kaip efektyviai ir saugiai naudoti dirbtinį intelektą saugumo srityje

La dirbtinis intelektas pritaikytas saugumui Tai tapo viena iš didžiausių pokalbių temų versle, viešojo administravimo įstaigose ir teisėsaugos institucijose. Perėjimas prie debesijos, hibridinės aplinkos ir didžiulis duomenų augimas visiškai pakeitė žaidimo sąlygas, o užpuolikai tuo naudojasi žaibišku greičiu.

Tuo pačiu metu dirbtinis intelektas atveria didžiulę galimybę: nuo aptikti kibernetines atakas realiuoju laiku Tai apima fizinių nusikaltimų numatymą konkrečiose vietose ir nuobodžių užduočių automatizavimą saugumo operacijų centruose. Tačiau visas šis potencialas kelia labai rimtą riziką, jei pats dirbtinis intelektas, jo duomenys ir jį supančios sąsajos nėra tinkamai apsaugotos.

Naujas grėsmių kraštovaizdis ir kodėl dirbtinis intelektas yra labai svarbus

Dabartinė kibernetinių grėsmių aplinka yra daug sudėtingesnis ir agresyvesnis ...kas buvo vos prieš kelerius metus. Masinis perkėlimas į debesijos ir hibridines architektūras lėmė staigų atakų paviršių augimą: dabar duomenys yra išsklaidyti tarp vietinių duomenų centrų, skirtingų debesijos paslaugų teikėjų ir periferinių aplinkų, o tai labai apsunkina kontrolę.

Šis pokytis sutampa su aiškiu kibernetinio saugumo specialistų trūkumasVien Jungtinėse Valstijose yra šimtai tūkstančių neužimtų darbo vietų, todėl komandos yra perkrautos, neturi laiko išsamiems tyrimams ir yra priverstos skubotai nustatyti prioritetus.

Dėl to išpuoliai vyksta šiandien. dažnesnis ir brangesnisNaujausiose ataskaitose teigiama, kad vidutinė pasaulinė duomenų saugumo pažeidimo kaina viršija 4 mln. JAV dolerių, o bendras augimas vos per trejus metus siekė dviženklį skaičių. Analizuojant dirbtinio intelekto poveikį šiems incidentams, skirtumas yra ryškus: organizacijos, kurios nenaudoja dirbtinio intelekto savo saugumo strategijoje, vidutiniškai moka gerokai daugiau už kiekvieną pažeidimą nei tos, kurios jį naudoja.

Įmonės, kurios turi Dirbtiniu intelektu pagrįstos saugumo galimybės Jiems pavyksta sumažinti vidutines duomenų pažeidimo išlaidas šimtais tūkstančių dolerių. Net ir dalinės ar ribotos dirbtinio intelekto kontrolės priemonės leidžia gerokai sutaupyti, palyginti su tais, kurie nieko neinvestavo į šią sritį.

Šiame kontekste dirbtinis intelektas yra ne tik „premija“: jis tampa esminė strateginė dalis kad būtų galima stebėti didelius kiekius saugumo informacijos, aptikti anomalų elgesį ir reaguoti į incidentus, kol jie neeskalavo.

Kaip kibernetiniai nusikaltėliai naudoja dirbtinį intelektą

Kita medalio pusė yra ta, kad ta pati dirbtinio intelekto pažanga, kuri padeda gynybai, taip pat buvo pasiekta greitai priėmė užpuolikaiGebėjimas sukurti įtikinamą netikrą turinį mažomis sąnaudomis keičia sukčiavimą, dezinformaciją ir net asmeninį turto prievartavimą.

Viena vertus, pažangūs teksto generatoriai leidžia kurti netikros naujienos, sukčiavimo el. laiškai Ir itin išbaigtos socialinės inžinerijos žinutės, pritaikytos aukos kontekstui ir parašytos stiliumi, kuris imituoja žurnalistų ar verslo vadovų stilių. Mes nebekalbame apie klaidų prikimštus el. laiškus, o apie labai patikimą komunikaciją.

Kita vertus, įrankiai, skirti kurti vaizdo ir garso giluminiai klastotės Jie žengė milžinišką žingsnį į priekį. Naudodami specializuotą programinę įrangą, užpuolikai gali uždėti veidus ant tikrų vaizdo įrašų („deepfaces“) arba klonuoti balsus („deepvoices“) tokiu realizmu, kuris lengvai apgauna bet kurį nepasiruošusį.

Iliustracinis atvejis yra sukčiavimas telefonu, pagrįstas šeimos nario balso klonavimasNusikaltėliai, gavę asmens garso įrašus, apmoko modelį, gebantį imituoti jo toną, akcentą ir kalbėjimo būdą. Tada jie paskambina giminaičiui, apsimesdami tuo šeimos nariu, sufabrikuoja avarinę situaciją ir paprašo skubiai pervesti pinigus. Atpažinusi balsą, auka visiškai sumažina budrumą.

Be tiesioginio apgaulės, DI taip pat naudojamas automatizuoti pažeidžiamumų aptikimąTai apima „brute-force“ atakų prieš prisijungimo duomenis tobulinimą arba kenkėjiško kodo rašymą. Teisėsaugos institucijos ir tokios organizacijos kaip FTB jau pastebėjo aiškų įsilaužimų, susijusių su kenkėjišku generatyvinio dirbtinio intelekto naudojimu, padidėjimą, o daugelis kibernetinio saugumo specialistų pripažįsta, kad didelė atakų augimo dalis yra būtent šių naujų įrankių pasekmė.

Dirbtinio intelekto taikymas kibernetinio saugumo srityje: nuo galinio taško iki debesijos

Susidūręs su šia padidėjusia rizika, dirbtinis intelektas taip pat transformuoja kibernetinė gynyba visame technologijų rinkinyjeĮmonės integruoja mašininio mokymosi galimybes į galinių taškų sprendimus, ugniasienes, SIEM platformas ir debesijos kompiuterijai skirtus įrankius.

Vartotojo pusėje sprendimai Dirbtinio intelekto valdoma galinių taškų apsauga Jie nuolat analizuoja procesų, failų ir ryšių elgseną. Užuot pasikliavę vien tik parašais, jie sužino, kas yra „normalu“ kiekviename įrenginyje, ir aptinka įtartinus nukrypimus, tokius kaip staigus nežinomų scenarijų vykdymas arba masinis failų šifravimas, būdingas išpirkos reikalaujančioms programoms.

Naujos kartos dirbtinio intelekto pagrindu sukurtos užkardos (NGFW su išmaniosiomis galimybėmis) gali tikrinti užšifruotą srautą, aptikti anomalius modelius ir koreliuoja įvykius keliuose prievaduose ir protokoluose. Tai leidžia sutrikdyti ryšį su komandų ir valdymo serveriais arba blokuoti duomenų nutekėjimo bandymus, kurie kitaip liktų nepastebėti.

Visuotiniame stebėjimo sluoksnyje platformos Saugumo informacijos ir įvykių valdymas (SIEM) XDR sprendimai kasdien generuoja tūkstančius įspėjimų. Dirbtinis intelektas naudojamas prioritetams nustatyti, susijusiems įvykiams grupuoti ir tą neapdorotų duomenų laviną paversti keliais didelio poveikio incidentais, į kuriuos tikrai reikia nedelsiant atkreipti dėmesį.

Be to, jie diegiami debesų aplinkoje Dirbtiniu intelektu pagrįsti tiksliniai saugumo sprendimai Šios technologijos nustato netinkamas konfigūracijas, pernelyg didelius leidimus arba neįprastą duomenų judėjimą tarp regionų ir paslaugų. Be to, dirbtiniu intelektu paremtos tinklo aptikimo ir reagavimo (NDR) technologijos stebi vidinį tinklo srautą, ieškodamos elgesio, būdingo jau sistemoje esančiam užpuolikui.

Dirbtinio intelekto privalumai saugumo komandoms

Kibernetinio saugumo komandos susiduria su dvigubu iššūkiu: valdyti didžiulį duomenų kiekį ir didėjantis techninis sudėtingumasČia dirbtinis intelektas tapo pagrindiniu sąjungininku, padedančiu daugiau nuveikti su tais pačiais ištekliais.

Vienas ryškiausių privalumų yra daug greitesnis grėsmių aptikimasAnksčiau analitikas turėjo rankiniu būdu peržiūrėti įvykius, o dabar algoritmai mokosi atakų modelių, vartotojų įpročių ir tipinio sistemos elgesio. Tai leidžia jiems per kelias sekundes nustatyti kritinius incidentus, net jei jie pasireiškia kaip subtilių signalų, išsklaidytų skirtinguose duomenų šaltiniuose, derinys.

Kitas svarbus dalykas yra klaidingai teigiamų ir klaidingai neigiamų rezultatų sumažinimasNaudodama šablonų atpažinimo, anomalijų aptikimo ir nuolatinio mokymosi technologijas, dirbtinis intelektas filtruoja nesvarbių įspėjimų „triukšmą“ ir sutelkia dėmesį į tuos, kurie iš tiesų kelia grėsmę. Tai neleidžia komandoms pervargti reaguojant į įspėjimus, kurie galiausiai niekur neveda.

Generatyvusis dirbtinis intelektas taip pat keičia analitikų darbo su informacija būdą. Gebėdamas išversti techninius duomenis į natūralią kalbąĮrankiai gali parengti aiškias ataskaitas, kuriomis lengva dalytis su vadovais ar kitais skyriais, paaiškinti, ką reiškia konkretus pažeidžiamumas, arba išsamiai aprašyti rekomenduojamus veiksmus jam ištaisyti.

Šis gebėjimas pateikti informaciją suprantamai ir nukreipti atsakymą leidžia Jaunesnieji analitikai gali imtis sudėtingesnių užduočių nereikalaujant nuo pat pirmos dienos įvaldyti užklausų kalbų ar pažangių įrankių. Praktiškai dirbtinis intelektas generuoja taisomuosius veiksmus, konkrečius pasiūlymus ir papildomą kontekstą, kuris pagreitina mokymosi kreivę.

Galiausiai, dirbtinis intelektas suteikia išsamesnį aplinkos vaizdą apibendrinti ir koreliuoti duomenis saugumo įrašų, tinklo srautasDebesų telemetrija ir išoriniai grėsmių žvalgybos šaltiniai padeda atskleisti atakų modelius, kurie kitu atveju liktų nepastebėti vienoje sistemoje.

Autentifikavimas, slaptažodžiai ir elgsenos analizė

Be įsilaužimų aptikimo, dirbtinis intelektas keičia mūsų elgesį Tapatybės yra apsaugotos, o prieiga – valdomaTradiciniai slaptažodžiai vis dar egzistuoja, tačiau jie vis dažniau derinami su elgesio analizės modeliais ir papildomais dirbtinio intelekto valdomais veiksniais.

Dirbtinis intelektas naudojamas sistemose, kuriose adaptyvus autentifikavimas Jie įvertina kiekvieno prisijungimo kontekstą: vietą, įrenginį, laiką, naudojimo istoriją, spausdinimo greitį ir kitus veiksnius. Jei kas nors atrodo neįprasta, sistema padidina saugumo lygį, prašydama papildomos informacijos arba blokuodama sesiją.

Lygiagrečiai, elgesio analizės sprendimai leidžia aptikti sukčiavimo bandymus arba pažeistas paskyras, tiriant, kaip vartotojai sąveikauja su programomis, kokius išteklius jie pasiekia ir kaip jie naršo tinkle. Reikšmingas šių modelių pokytis gali rodyti, kad kažkas naudoja pavogtus prisijungimo duomenis.

Pažeidžiamumų valdymas taip pat remiasi dirbtiniu intelektu, kad būtų galima peržengti įprastų nesibaigiančių trūkumų sąrašų ribas. Modeliai analizuoja kokiais pažeidžiamumais greičiausiai bus pasinaudota remiantis faktiniu užpuolikų aktyvumu, viešų spragų prieinamumu ir kiekvieno ištekliaus pažeidžiamumu, padedant nustatyti pataisymų diegimo prioritetus.

Fizinėje aplinkoje stebėjimas kameromis ir jutikliais Jį maitina dirbtinio intelekto modeliai, galintys aptikti įtartiną elgesįNumerių identifikavimas, judėjimo modelių atpažinimas arba įspėjimas apie neįprastus susibūrimus. Sujungus šią informaciją su istoriniais duomenimis ir kontekstu, ankstyvojo perspėjimo sistemos gali būti aktyvuotos didelio nusikalstamumo zonose.

Nusikalstamumo prevencija ir prognozavimas fiziniame pasaulyje

Už kibernetinės erdvės ribų dirbtinis intelektas taip pat pradeda vaidinti svarbų vaidmenį nusikalstamumo prevencija miesto aplinkojeAnalizuodamos didelius istorinių duomenų kiekius, valdžios institucijos gali nustatyti modelius, kurie padeda joms geriau planuoti išteklius.

Tarp dažniausiai pasitaikančių programų yra nusikalstamumo modelių analizėŠi informacija padeda nustatyti, kokio tipo nusikaltimai yra koncentruoti konkrečiose vietovėse, kokiu metu jie dažniausiai įvykdomi ir kaip jie kinta laikui bėgant. Ji naudojama patruliams koreguoti, apšvietimui gerinti, papildomoms kameroms įrengti ir tikslinėms prevencijos kampanijoms kurti.

Dirbtinis intelektas taip pat naudojamas išankstinio įspėjimo sistemos Šios sistemos sujungia realaus laiko duomenis (kameras, jutiklius, socialinę žiniasklaidą ir net orų kintamuosius), kad įvertintų, kada tam tikri incidentai yra labiausiai tikėtini. Nors jos nėra neklystančios, jos gali padėti numatyti rizikos scenarijus.

Tyrimų srityje algoritmai leidžia atlikti skaitmeninę teismo ekspertizės analizę Jie naudoja didelius kiekius teismo ekspertizės duomenų (pirštų atspaudų, DNR, bylų įrašų, areštų istorijų), kad nustatytų ryšius, kuriuos iš pirmo žvilgsnio būtų labai sunku pastebėti. Tai leidžia jiems susieti, regis, nesusijusias bylas arba patikslinti įtariamųjų paiešką.

Visas šis dislokavimas turi būti nuolat subalansuotas su pagarba privatumui ir žmogaus teisėmsŠališkumo mokymo duomenyse rizika yra reali: jei modeliams tiekiami jau šališki policijos įrašai, jie gali sustiprinti esamą diskriminaciją „prognozuodami“ daugiau nusikalstamumo konkrečiose bendruomenėse, net jei pagrindinė problema yra kita.

Rizika ir iššūkiai: duomenų saugumas, modelio saugumas ir API saugumas

Kad dirbtinis intelektas būtų patikimas, saugumas nebegali apsiriboti serverių ar tinklų apsauga. Jis yra būtinas. saugoti savo intelektą: duomenys, kuriais maitinami modeliai, dirbtinio intelekto architektūros ir sąsajos, kurios juos padaro prieinamus.

Modeliai yra tokie geri, kokie geri yra jų mokymo duomenys. Jei tie duomenys yra... manipuliuojamas arba šališkasDirbtinis intelektas priims klaidingus sprendimus. Labai aiškų pavyzdį galima pamatyti modeliuose, naudojamuose personalo atrankos procesams: jei jie apmokomi remiantis istorija, kurioje tam tikri profiliai buvo sistemingai teikiami pirmenybė, dirbtinis intelektas gali sustiprinti šališkumą dėl lyties, rasės ar kilmės, diskriminuodamas idealiai kvalifikuotus kandidatus.

Grynai techniniu lygmeniu kalbos modeliai ir kiti pažangūs dirbtiniai intelektai susiduria su naujomis atakų kategorijomis, tokiomis kaip greita injekcijaTai susideda iš kenkėjiškų instrukcijų slėpimo duomenų įvestyje, siekiant pakeisti modelio elgseną, apeiti apribojimus arba priversti jį grąžinti žalingą informaciją.

Kita didelė rizika yra neskelbtinos informacijos atskleidimasJei sistemos yra netinkamai sukonfigūruotos, jos gali atskleisti konfidencialius klientų duomenis, komercines paslaptis arba paties mokymo rinkinio fragmentus – tiesiogiai arba naudojant tokius metodus kaip narystės nustatymas ar modelio išskyrimas.

API, naudojami dirbtinio intelekto modeliams pasiekti, apmokyti ar išnaudoti, yra itin svarbus aspektas. Be jų patikimas autentifikavimas, užklausų ribojimas ir įvesties patvirtinimasJie tampa lengvais taikiniais „brute-force“ atakoms, masiniam duomenų išgavimui ar neleistiniems modelio parametrų keitimams. Neatsitiktinai pastaraisiais mėnesiais dauguma įmonių patyrė su API susijusių saugumo incidentų.

Hibridinių aplinkų sudėtingumas ir visiško matomumo poreikis

Dauguma organizacijų savo dirbtinio intelekto sprendimus naudoja hibridinės infrastruktūros kurios apjungia viešąjį debesį, privatųjį debesį, vietinius ir vis dažniau periferinius skaičiavimus. Dėl šio išsibarstymo sunku aiškiai matyti, kur yra duomenys, kaip jie juda ir kas turi prieigą prie jų bet kuriuo metu.

Matomumo stoka sukelia suskaidytos kontrolės priemonės ir aklosios zonosKai kurie modeliai yra apmokomi viename debesyje, tobulinami kitame, o tada diegiami skirtingose ​​šalyse, o duomenys perkeliami iš vienos aplinkos į kitą. Nesant tinkamo stebimumo, gali lengvai kilti saugumo pažeidimų ar neatitikimų reglamentams, ir niekas jų laiku neaptinka.

Be to, skirtingai nei tradicinė programinė įranga, dirbtinio intelekto modeliai Jie vystosi naudojantJie gali pritaikyti savo parametrus pagal naujus apdorojamus duomenis, todėl sunku nustatyti, ar jais buvo manipuliuojama, ar jie palaipsniui nukrypo nuo laukiamo elgesio.

Todėl labai svarbu dislokuoti nuolatinis stebėjimas ir pažangi analizė, įskaitant saugumą jūsų namų laboratorijojeKalbant apie modelių našumą, reakcijas ir sprendimus, tik tokiu būdu galima nustatyti keistus modelius, subtilius sutrikimus ar bandymus įvykdyti atakas, kurie nepastebimi tradiciniuose žurnaluose.

Šis kontrolės poreikis apima ir tinklo bei programų lygmenis. Žiniatinklio programų ir API apsaugos technologijos kartu su giluminio srauto tikrinimo galimybėmis leidžia aptikti... įtartinos užklausos, bandymai išgauti duomenis arba anomalų elgesį su dirbtinio intelekto paslaugomis, blokuojant jas prieš joms pažeidžiant slaptą informaciją.

Saugumas per dizainą ir atsparumas kaip konkurencinis pranašumas

Kad dirbtinis intelektas būtų tikras verslo svertas, o ne nuolatinis bauginimų šaltinis, saugumas turi būti integruotis nuo pirmos dienosNeužtenka tiesiog sukurti modelį, pradėti jį gaminti ir tada skubiai pataisyti.

Subrendusi strategija apima patvirtinti ir apsaugoti duomenis Visuose etapuose taikyti griežtas prieigos kontrolės priemones, atskirti kūrimo, testavimo ir gamybos aplinkas ir kriptografiškai pasirašyti modelio artefaktus, kad būtų užtikrintas jų vientisumas per visą gyvavimo ciklą.

Tai taip pat labai svarbu projektuojant automatinis aptikimas ir reagavimasKai modelis elgiasi keistai, kai API gauna anomalų užklausos modelį arba kai duomenų rinkinyje aptinkamas netikėtas pokytis, sistema turi gebėti greitai reaguoti, izoliuoti komponentus ir pranešti atitinkamoms komandoms.

Atsparumas, suprantamas kaip dirbtinio intelekto gebėjimas atlaikyti atakas ir atsigauti neprarandant funkcionalumoTai tampa esminiu vadovų pasitikėjimo veiksniu. Jei organizacija žino, kad jos modeliai yra saugūs, stebimi ir atitinka reikalavimus, ji turės daug daugiau laisvės diegti naujoves ir eksperimentuoti su pažangiais naudojimo atvejais.

Praktiškai daugelis įmonių derina specializuotas kibernetinio saugumo paslaugas su programų apsaugos ir srauto valdymo sprendimai kurios leidžia taikyti giluminės gynybos strategijas: išplėstinį srauto patikrinimą, aplinkos izoliavimą, duomenų atskleidimo mažinimą, modelių stebėjimą ir intelektualų užklausų maršrutizavimą, pagrįstą sąnaudomis, atitiktimi ir našumu.

Visa tai nepanaikina žmogaus priežiūros poreikio, tačiau smarkiai sumažina rankinių ir pasikartojančių užduočių skaičių. Dirbtinis intelektas tvarko įspėjimų triažą, įvykių koreliaciją ir informacijos apibendrinimą, o specialistai sutelkia dėmesį į užpuolikų ketinimų supratimą, sudėtingų incidentų tyrimą ir patikimesnių kibernetinių gynybos sistemų kūrimą.

Galiausiai, norint naudoti dirbtinį intelektą saugumo srityje, reikia daryti prielaidą apie tris pagrindines idėjas: kad Dirbtinis intelektas ir saugumas turi judėti į priekį kartu.Dirbtinio intelekto apsauga apima duomenų, modelių ir sąsajų (ne tik infrastruktūros) apsaugą, o gerai apsaugoto dirbtinio intelekto sukurtas atsparumas suteikia realų konkurencinį pranašumą prieš tuos, kurie improvizuoja.

Dirbtinis intelektas nebėra marginalinis eksperimentas ir tapo skaitmeninių inovacijų varomąja jėga praktiškai visuose sektoriuose. Jo integravimas į saugumo sistemas, tuo pačiu užtikrinant tinkamą apsaugą, leidžia sušvelninti pažeidimų poveikį, numatyti grėsmes, gerinti nusikalstamumo prevenciją ir atleisti žmonių komandas nuo didelės naštos, jei tik išlaikoma kruopšti pusiausvyra tarp veiksmingumo, etikos ir pagarbos žmogaus teisėms.