Paano gamitin nang epektibo at ligtas ang artificial intelligence sa seguridad

Informatec Digital » Kayamanan » Paano gamitin nang epektibo at ligtas ang artificial intelligence sa seguridad

La artipisyal na katalinuhan na inilalapat sa seguridad Ito ay naging isa sa mga pinakamalaking paksa ng usapan sa mga negosyo, pampublikong administrasyon, at mga ahensya ng pagpapatupad ng batas. Ang paglipat sa cloud, mga hybrid na kapaligiran, at ang napakalaking paglago ng data ay ganap na nagpabago sa larangan ng paglalaro, at sinasamantala ito ng mga umaatake sa napakabilis na bilis.

Kasabay nito, nagbubukas ang AI ng isang malaking bintana ng mga oportunidad: mula sa tuklasin ang mga cyberattack sa real time Kabilang dito ang pag-antisipa sa mga pisikal na krimen sa mga partikular na lugar at pag-automate ng mga nakakapagod na gawain sa mga sentro ng operasyon ng seguridad. Gayunpaman, ang lahat ng potensyal na ito ay may kasamang mga seryosong panganib kung ang AI mismo, ang data nito, at ang mga interface na nakapalibot dito ay hindi maayos na protektado.

Ang bagong tanawin ng banta at kung bakit mahalaga ang AI

Ang kasalukuyang kapaligiran ng banta sa cyber ay mas kumplikado at agresibo na ilang taon pa lamang ang nakalilipas. Ang malawakang paglipat sa cloud at hybrid architectures ay nagdulot ng mabilis na pag-usbong ng mga attack surface: ngayon ang data ay nakakalat na sa mga on-premise data center, iba't ibang cloud provider, at edge environment, na lubhang nagpapakomplikado sa kontrol.

Ang pagbabagong ito ay kasabay ng isang malinaw na kakulangan ng mga propesyonal sa cybersecuritySa Estados Unidos pa lamang, may daan-daang libong bakanteng posisyon, na nagreresulta sa mga koponan na labis na napupuno at kakaunti ang oras para sa malalimang pananaliksik at napipilitang magmadali sa pagbibigay ng mga prayoridad.

Ang resulta ay ang mga pag-atake ay nangyayari ngayon. mas madalas at mas mahalInilalagay ng mga kamakailang ulat ang karaniwang pandaigdigang gastos ng isang paglabag sa datos lumalagpas sa $4 milyon, na may pinagsama-samang doble-digit na pagtaas sa loob lamang ng tatlong taon. Kapag sinusuri ang epekto ng AI sa mga insidenteng ito, kapansin-pansin ang pagkakaiba: ang mga organisasyong hindi gumagamit ng AI sa kanilang estratehiya sa seguridad ay nagbabayad, sa karaniwan, nang mas malaki sa bawat paglabag kaysa sa mga gumagamit nito.

Mga kompanyang mayroon Mga kakayahan sa seguridad na nakabatay sa AI Nabawasan nila ang karaniwang gastos ng isang paglabag sa datos ng daan-daang libong dolyar. Kahit na ang pagkakaroon ng bahagya o limitadong mga kontrol sa AI ay kumakatawan sa isang malaking matitipid kumpara sa mga hindi pa namumuhunan sa larangang ito.

Sa kontekstong ito, ang AI ay hindi lamang "isang bonus": ito ay nagiging isang mahalagang estratehikong piraso upang masubaybayan ang malalaking dami ng impormasyon sa seguridad, matukoy ang mga kakaibang pag-uugali, at tumugon sa mga insidente bago pa lumala ang mga ito.

Paano ginagamit ng mga cybercriminal ang AI

Ang kabilang panig naman ng barya ay ang parehong mga pagsulong sa AI na nakakatulong sa depensa ay naganap din mabilis na tinanggap ng mga umaatakeAng kakayahang makabuo ng nakakumbinsing pekeng nilalaman sa mababang halaga ay nagpapabago sa pandaraya, maling impormasyon, at maging sa personal na pangingikil.

Sa isang banda, pinapayagan ka ng mga advanced na text generator na lumikha pekeng balita, mga email na phishing At mga mensaheng mahusay sa social engineering, na iniayon sa konteksto ng biktima at isinulat sa istilo na ginagaya ang mga mamamahayag o mga ehekutibo ng negosyo. Hindi na natin pinag-uusapan ang mga email na puno ng mga pagkakamali, kundi mga komunikasyon na lubos na kapani-paniwala.

Sa kabilang banda, ang mga kagamitan para sa paglikha ng mga deepfake sa video at audio Malaki ang kanilang nagawa. Gamit ang espesyal na software, maaaring i-superimpose ng mga attacker ang mga mukha sa mga totoong video (deepface) o i-clone ang mga boses (deepvoices) na may antas ng realismo na madaling makaloko sa sinumang hindi handa.

Isang halimbawa ng kaso ay ang pandaraya sa telepono batay sa pag-clone ng boses ng isang miyembro ng pamilyaMatapos makuha ng mga kriminal ang mga audio recording ng isang tao, sinasanay nila ang isang modelo na kayang gayahin ang kanilang tono, punto, at paraan ng pagsasalita. Pagkatapos, tatawagan nila ang isang kamag-anak, gagayahin ang miyembro ng pamilya, gagawa ng emergency, at hihingi ng agarang pagpapadala ng pera. Nang makilala ang boses, tuluyan nang humina ang biktima.

Bukod sa tahasang panlilinlang, ginagamit din ang AI upang awtomatiko ang pagtuklas ng kahinaanKabilang dito ang pagperpekto sa mga brute-force na pag-atake laban sa mga kredensyal o pagsulat ng malisyosong code. Natukoy na ng mga ahensya ng pagpapatupad ng batas at mga organisasyon tulad ng FBI ang malinaw na pagtaas ng mga panghihimasok na may kaugnayan sa malisyosong paggamit ng generative AI, at kinikilala ng maraming propesyonal sa cybersecurity na ang isang malaking bahagi ng paglago ng mga pag-atake ay dahil mismo sa mga bagong tool na ito.

Mga aplikasyon ng AI sa cybersecurity: mula endpoint hanggang cloud

Dahil sa pagtaas ng panganib na ito, binabago rin ng AI ang depensang siber sa buong hanay ng teknolohiyaIsinasama ng mga kumpanya ang mga kakayahan sa machine learning sa mga endpoint solution, firewall, SIEM platform, at mga cloud-specific tool.

Sa panig ng gumagamit, ang mga solusyon ng Seguridad ng endpoint na pinapagana ng AI Patuloy nilang sinusuri ang kilos ng mga proseso, file, at koneksyon. Sa halip na umasa lamang sa mga lagda, natututunan nila kung ano ang "normal" sa bawat device at natutuklasan ang mga kahina-hinalang paglihis, tulad ng biglaang pagpapatupad ng mga hindi kilalang script o ang malawakang pag-encrypt ng mga file na tipikal ng ransomware.

Ang mga susunod na henerasyong AI-based firewall (NGFW na may matatalinong kakayahan) ay may kakayahang siyasatin ang naka-encrypt na trapiko, tuklasin ang mga kakaibang pattern at nag-uugnay ng mga kaganapan sa maraming port at protocol. Nagbibigay-daan ito para sa pagkagambala ng mga komunikasyon sa mga command at control server o sa pagharang sa mga pagtatangkang mag-exfiltration ng data na kung hindi man ay hindi matutuklasan.

Sa pandaigdigang patong ng pagsubaybay, ang mga plataporma ng Security Information and Event Management (SIEM) At ang mga solusyon sa XDR ay nakakabuo ng libu-libong alerto araw-araw. Ginagamit ang AI upang unahin, pangkatin ang mga kaugnay na kaganapan, at gawing ilang insidenteng may mataas na epekto ang pagdagsa ng hilaw na datos na talagang nararapat agarang atensyon.

Bukod pa rito, ang mga ito ay inilalagay sa mga cloud environment Mga solusyon sa seguridad na naka-target batay sa AI Tinutukoy ng mga teknolohiyang ito ang mga maling pag-configure, labis na pahintulot, o hindi pangkaraniwang paggalaw ng data sa pagitan ng mga rehiyon at serbisyo. Bukod pa rito, sinusubaybayan ng mga teknolohiyang Network Detection and Response (NDR) na pinapagana ng AI ang panloob na trapiko sa network para sa mga pag-uugaling tipikal ng isang umaatake na nasa loob na ng system.

Mga benepisyo ng AI para sa mga pangkat ng seguridad

Ang mga pangkat ng cybersecurity ay nahaharap sa dalawahang hamon: ang pamamahala ng napakalaking dami ng data at isang pagtaas ng teknikal na pagiging kumplikadoDito, ang AI ay naging isang mahalagang kaalyado sa paggawa ng higit pa gamit ang parehong mga mapagkukunan.

Isa sa mga pinakamalinaw na benepisyo ay ang mas mabilis na pagtuklas ng bantaKung dati ay kailangang manu-manong suriin ng isang analyst ang mga kaganapan, natututunan na ngayon ng mga algorithm ang mga pattern ng pag-atake, mga gawi ng gumagamit, at mga tipikal na pag-uugali ng system. Nagbibigay-daan ito sa kanila na matukoy ang mga kritikal na insidente sa loob lamang ng ilang segundo, kahit na lumilitaw ang mga ito bilang isang kumbinasyon ng mga banayad na signal na nakakalat sa iba't ibang mapagkukunan ng data.

Ang isa pang mahalagang punto ay ang pagbawas ng mga maling positibo at maling negatiboGamit ang pagkilala ng pattern, pagtuklas ng anomalya, at mga pamamaraan ng patuloy na pagkatuto, sinasala ng AI ang "ingay" ng mga hindi kaugnay na alerto at nakatuon sa mga tunay na nagdudulot ng banta. Pinipigilan nito ang mga koponan na ma-burnout sa pamamagitan ng pagtugon sa mga alerto na sa huli ay walang patutunguhan.

Binabago rin ng Generative AI ang paraan ng pagtatrabaho ng mga analyst sa impormasyon. Sa pamamagitan ng kakayahang isalin ang teknikal na datos sa natural na wikaAng mga tool ay maaaring makagawa ng malinaw na mga ulat na madaling ibahagi sa mga manager o iba pang mga departamento, ipaliwanag kung ano ang kaakibat ng isang partikular na kahinaan, o idetalye ang mga inirerekomendang hakbang upang itama ito.

Ang kakayahang ito na maglahad ng impormasyon sa isang madaling maunawaang paraan at gabayan ang tugon ay siyang dahilan kung bakit Maaaring gawin ng mga junior analyst ang mas kumplikadong mga gawain nang hindi kinakailangang maging dalubhasa sa mga query language o mga advanced na tool mula sa unang araw. Sa pagsasagawa, ang AI ay bumubuo ng mga hakbang sa remediation, mga konkretong mungkahi, at karagdagang konteksto na nagpapabilis sa learning curve.

Panghuli, ang AI ay nagbibigay ng mas kumpletong pananaw sa kapaligiran upang pagsasama-samahin at iugnay ang datos ng mga rekord ng seguridad, trapiko sa networkAng cloud telemetry at mga pinagmumulan ng external threat intelligence ay nakakatulong na ibunyag ang mga pattern ng pag-atake na kung hindi man ay hindi mapapansin mula sa iisang sistema.

Pagpapatotoo, mga password, at pagsusuri ng pag-uugali

Higit pa sa pagtukoy ng panghihimasok, binabago ng AI ang paraan natin Pinoprotektahan ang mga pagkakakilanlan at pinamamahalaan ang pag-accessUmiiral pa rin ang mga tradisyunal na password, ngunit parami nang parami ang mga ito na isinasama sa mga modelo ng pagsusuri ng pag-uugali at mga karagdagang salik na pinapagana ng AI.

Ginagamit ang AI sa mga sistema ng adaptive na pagpapatotoo Sinusuri nila ang konteksto ng bawat pag-login: lokasyon, device, oras, kasaysayan ng paggamit, bilis ng pagta-type, at iba pang mga salik. Kung may anumang tila kakaiba, pinapataas ng system ang antas ng seguridad sa pamamagitan ng paghingi ng karagdagang impormasyon o pagharang sa sesyon.

Kasabay nito, pinapayagan ng mga solusyon sa pagsusuri ng pag-uugali tuklasin ang mga pagtatangka sa phishing o mga nakompromisong account sa pamamagitan ng pag-aaral kung paano nakikipag-ugnayan ang mga user sa mga application, kung anong mga resource ang kanilang ina-access, at kung paano sila nagna-navigate sa network. Ang isang makabuluhang pagbabago sa mga pattern na ito ay maaaring magpahiwatig na may isang taong gumagamit ng mga ninakaw na kredensyal.

Ang pamamahala ng kahinaan ay umaasa rin sa AI upang malampasan ang karaniwang walang katapusang listahan ng mga kapintasan. Sinusuri ng mga modelo kung aling mga kahinaan ang malamang na mapagsamantalahan batay sa aktwal na aktibidad ng mga umaatake, ang pagkakaroon ng mga pampublikong pagsasamantala at ang pagkakalantad ng bawat asset, na tumutulong upang unahin ang mga pagsisikap sa pag-patch.

Sa mga pisikal na kapaligiran, ang pagmamatyag gamit ang mga camera at sensor Pinapagana ito ng mga modelo ng AI na may kakayahang makakita ng kahina-hinalang pag-uugaliPagtukoy sa mga plaka ng sasakyan, pagkilala sa mga padron ng paggalaw, o pag-alerto sa mga hindi pangkaraniwang pagtitipon. Sa pamamagitan ng pagsasama-sama ng impormasyong ito sa mga datos at konteksto ng kasaysayan, maaaring ma-activate ang mga sistema ng maagang babala sa mga lugar na may mataas na aktibidad ng krimen.

Pag-iwas at paghula ng krimen sa pisikal na mundo

Bukod sa cyberspace, nagsisimula na ring gumanap ng mahalagang papel ang AI sa pag-iwas sa krimen sa mga kapaligirang urbanoSa pamamagitan ng pagsusuri ng malalaking dami ng makasaysayang datos, matutukoy ng mga awtoridad ang mga padron na makakatulong sa kanila na mas mahusay na magplano ng mga mapagkukunan.

Kabilang sa mga pinakakaraniwang aplikasyon ay ang pagsusuri ng mga pattern ng krimenAng impormasyong ito ay nakakatulong upang matukoy kung anong mga uri ng krimen ang nakapokus sa mga partikular na lugar, kung anong mga oras ang mga ito ay pinakamadalas, at kung paano ito umuunlad sa paglipas ng panahon. Ginagamit ito upang ayusin ang mga pagpapatrolya, mapabuti ang ilaw, mag-install ng mga karagdagang kamera, at magdisenyo ng mga naka-target na kampanya sa pag-iwas.

Ginagamit din ang AI sa maagang mga sistema ng babala Pinagsasama ng mga sistemang ito ang real-time na datos (mga camera, sensor, social media, maging ang mga variable ng panahon) upang matantya kung kailan malamang na mangyari ang ilang partikular na insidente. Bagama't hindi naman tiyak na magkakamali, makakatulong ang mga ito sa paghula ng mga sitwasyon ng panganib.

Sa larangan ng pananaliksik, pinapayagan ng mga algorithm ang magsagawa ng digital forensic analysis Gumagamit sila ng malalaking dami ng forensic data (mga fingerprint, DNA, mga talaan ng kaso, kasaysayan ng pag-aresto) upang matukoy ang mga koneksyon na napakahirap makita sa unang tingin. Nagbibigay-daan ito sa kanila na iugnay ang mga tila walang kaugnayang kaso o pinuhin ang paghahanap sa mga suspek.

Ang lahat ng paglulunsad na ito ay dapat na palaging balansehin sa paggalang sa privacy at karapatang pantaoTotoo ang panganib ng bias sa datos ng pagsasanay: kung ang mga modelo ay pinapakain ng mga dati nang may bias na rekord ng pulisya, maaari nilang palakasin ang umiiral na diskriminasyon sa pamamagitan ng "paghula" ng mas maraming krimen sa mga partikular na komunidad, kahit na ang pinagbabatayan na problema ay iba pa.

Mga panganib at hamon: seguridad ng datos, seguridad ng modelo, at seguridad ng API

Para maging mapagkakatiwalaan ang AI, ang seguridad ay hindi na maaaring limitado sa pagprotekta sa mga server o network. Ito ay mahalaga. protektahan ang sariling katalinuhan: ang datos na nagpapakain sa mga modelo, sa mga arkitektura ng AI, at sa mga interface na nagpapadali sa mga ito.

Ang mga modelo ay kasinghusay lamang ng kanilang datos sa pagsasanay. Kung ang datos na iyon ay... manipulado o may kinikilinganAng AI ay makakagawa ng mga maling desisyon. Isang napakalinaw na halimbawa ang makikita sa mga modelong ginagamit para sa mga proseso ng pagpili ng tauhan: kung sila ay sinanay na may mga kasaysayan kung saan ang ilang partikular na profile ay sistematikong pinapaboran, maaaring palakasin ng AI ang mga pagkiling batay sa kasarian, lahi, o pinagmulan, na nagpapakita ng diskriminasyon laban sa mga kandidatong ganap na kwalipikado.

Sa purong teknikal na antas, ang mga modelo ng wika at iba pang mga advanced na AI ay nahaharap sa mga bagong kategorya ng mga pag-atake, tulad ng agarang iniksyonBinubuo ito ng pagtatago ng mga malisyosong tagubilin sa input ng datos upang baguhin ang pag-uugali ng modelo, iwasan ang mga limitasyon, o maging sanhi ng pagbabalik nito ng mapaminsalang impormasyon.

Isa pang malaking panganib ay ang paglalantad ng sensitibong impormasyonKung ang mga sistema ay mali ang pagkakakonfigura, maaari nilang ibunyag ang kumpidensyal na datos ng customer, mga sikreto sa kalakalan, o mga piraso ng mismong set ng pagsasanay, direkta man o sa pamamagitan ng mga pamamaraan tulad ng paghihinuha ng pagiging miyembro o pagkuha ng modelo.

Ang mga API na ginagamit upang ma-access, sanayin, o gamitin ang mga modelo ng AI ay kumakatawan sa isang kritikal na larangan. Kung wala nito matatag na pagpapatotoo, paglilimita sa kahilingan, at pagpapatunay ng inputNagiging madali silang target ng mga brute-force attack, mass scraping, o mga hindi awtorisadong pagbabago sa mga parameter ng modelo. Hindi nagkataon na ang karamihan sa mga kumpanya ay dumanas ng mga insidente sa seguridad na may kaugnayan sa API nitong mga nakaraang buwan.

Ang pagiging kumplikado ng mga hybrid na kapaligiran at ang pangangailangan para sa kabuuang kakayahang makita

Karamihan sa mga organisasyon ay nagpapatakbo ng kanilang mga solusyon sa AI sa mga hybrid na imprastraktura na pinagsasama ang public cloud, private cloud, on-premises, at lalong dumarami ang edge computing. Dahil sa dispersion na ito, nagiging mahirap na mapanatili ang malinaw na pananaw kung nasaan ang data, paano ito gumagalaw, at kung sino ang may access dito sa anumang oras.

Ang kakulangan ng kakayahang makita ay lumilikha ng pira-pirasong mga kontrol at mga blind spotAng ilang modelo ay sinasanay sa isang cloud, pinoproseso sa isa pa, at pagkatapos ay inilalagay sa iba't ibang bansa, kung saan ang data ay lumilipat mula sa isang kapaligiran patungo sa isa pa. Kung walang sapat na kakayahang maobserbahan, ang mga paglabag sa seguridad o hindi pagsunod sa mga regulasyon ay madaling lumitaw nang walang sinumang nakakatuklas sa mga ito sa oras.

Bukod pa rito, hindi tulad ng tradisyonal na software, ang mga modelo ng AI Nagbabago ang mga ito kasabay ng paggamitMaaari nilang iakma ang kanilang mga parametro ayon sa bagong datos na kanilang pinoproseso, na nagpapahirap matukoy kung sila ay minanipula o kung unti-unti silang lumihis mula sa kanilang inaasahang pag-uugali.

Samakatuwid, mahalaga ang pag-deploy ng patuloy na pagsubaybay at advanced analytics, kabilang ang seguridad sa iyong homelabTungkol sa pagganap, mga tugon, at mga desisyon ng mga modelo, sa ganitong paraan lamang matutukoy ang mga kakaibang padron, banayad na pagkasira, o mga tangkang pag-atake na hindi napapansin sa mga tradisyonal na log.

Ang pangangailangang ito para sa kontrol ay umaabot din sa mga layer ng network at application. Ang mga teknolohiya sa proteksyon ng web application at API, kasama ang malalim na kakayahan sa inspeksyon ng trapiko, ay nagbibigay-daan sa pagtuklas ng mga kahina-hinalang tanong, mga pagtatangkang kumuha ng datos o maanomalyang pag-uugali patungo sa mga serbisyo ng AI, na hinaharangan ang mga ito bago pa nila makompromiso ang sensitibong impormasyon.

Seguridad sa pamamagitan ng disenyo at katatagan bilang isang kalamangan sa kompetisyon

Para maging isang tunay na puwersa sa negosyo ang AI at hindi isang palaging pinagmumulan ng mga takot, kailangang pagsasamahin mula sa unang arawHindi sapat ang basta buuin lang ang modelo, ilagay ito sa produksyon, at pagkatapos ay mabilis na ayusin ito.

Ang isang mature na estratehiya ay kinabibilangan ng patunayan at protektahan ang datos Sa lahat ng yugto, magpatupad ng mahigpit na mga kontrol sa pag-access, hiwalay na mga kapaligiran sa pag-develop, pagsubok, at produksyon, at lagdaan nang kriptograpikal ang mga artifact ng modelo upang matiyak ang kanilang integridad sa buong lifecycle.

Mahalaga rin ito sa mga kakayahan sa pagdisenyo ng awtomatikong pagtuklas at pagtugonKapag ang isang modelo ay kumikilos nang kakaiba, kapag ang isang API ay nakatanggap ng isang hindi pangkaraniwang pattern ng kahilingan, o kapag ang isang hindi inaasahang pagbabago ay natukoy sa isang dataset, ang sistema ay dapat na mabilis na tumugon, ihiwalay ang mga bahagi, at ipaalam sa mga naaangkop na pangkat.

Katatagan, na nauunawaan bilang kapasidad ng AI na makayanan ang mga atake at makabawi nang hindi nawawala ang kakayahang gumanaIto ay nagiging isang mahalagang salik ng tiwala para sa mga tagapamahala. Kung alam ng isang organisasyon na ang mga modelo nito ay ligtas, naoobserbahan, at sumusunod sa mga kinakailangan, magkakaroon ito ng mas maraming kalayaan upang magbago at mag-eksperimento sa mga advanced na use case.

Sa pagsasagawa, maraming kumpanya ang pinagsasama ang mga espesyalisadong serbisyo sa cybersecurity mga solusyon sa proteksyon ng aplikasyon at pamamahala ng trapiko na nagpapahintulot sa paglalapat ng mga estratehiyang malalim sa depensa: advanced traffic inspection, environment isolation, data exposure mitigation, model monitoring, at intelligent request routing batay sa gastos, pagsunod, at pagganap.

Hindi inaalis ng lahat ng ito ang pangangailangan para sa pangangasiwa ng tao, ngunit lubos nitong binabawasan ang mga manu-mano at paulit-ulit na gawain. Pinangangasiwaan ng AI ang alert triage, event correlation, at information summarization, habang ang mga espesyalista ay nakatuon sa pag-unawa sa layunin ng mga umaatake, pagsisiyasat sa mga kumplikadong insidente, at pagdidisenyo ng mas matatag na cyber defenses.

Sa huli, ang paggamit ng AI sa seguridad ay nangangailangan ng pag-aakala sa tatlong pangunahing ideya: na Ang AI at seguridad ay dapat sumulong nang magkasama.Ang pagprotekta sa AI ay kinabibilangan ng pagbabantay sa datos, mga modelo, at mga interface (hindi lamang imprastraktura), at ang katatagan na nalilikha ng isang mahusay na protektadong AI ay isinasalin sa isang tunay na kalamangan sa kompetisyon kumpara sa mga nag-iimprovise habang ginagawa ito.

Ang artificial intelligence ay lumampas na sa pagiging isang eksperimento lamang upang maging pangunahing puwersang nagtutulak sa likod ng digital na inobasyon sa halos bawat sektor. Ang pagsasama nito sa seguridad—habang sabay na tinitiyak ang sapat na proteksyon—ay nagbibigay-daan sa pagpapagaan ng epekto ng mga paglabag, pag-antisipa ng mga banta, pagpapabuti ng pag-iwas sa krimen, at pagpapalaya sa mga pangkat ng tao mula sa karamihan ng mabibigat na gawain, kung ang maingat na balanse ay pinapanatili sa pagitan ng pagiging epektibo, etika, at paggalang sa mga karapatang pantao.