- GPUHammer demonstrē, ka, izmantojot GPU atmiņas fiziskās ievainojamības, ir iespējams samazināt mākslīgā intelekta modeļu precizitāti līdz bezjēdzīgam līmenim.
- Mākslīgā intelekta drošība aptver aparatūru, datus, modeļus un infrastruktūru, kā arī aizsardzību pret pretinieku uzbrukumiem un mākslīgā intelekta darbinātu sociālo inženieriju.
- Mākslīgā intelekta darba slodzēm ir nepieciešamas īpašas aizsardzības stratēģijas, tostarp ECC izmantošana, GPU izolācija, nepārtraukta uzraudzība un kontrole modeļa dzīves ciklā.
- Mākslīgais intelekts kiberdrošībā ir divvirzienu zobens: tas uzlabo gan aizsardzības, gan uzbrukuma spējas, tāpēc priekšrocība slēpjas stratēģijā un pārvaldībā.
Mākslīgā intelekta drošība vairs nav tikai akadēmiska tēma un ir kļuvusi par ļoti reālu problēmu uzņēmumiem, pētniekiem un valsts pārvaldes iestādēm. Mēs nerunājam tikai par ļaunprogrammatūru vai tradicionālo pikšķerēšanu: tagad pastāv uzbrukumi, kas spēj pilnībā pasliktināt mākslīgā intelekta modeļa precizitāti , izmantot fiziskas aparatūras ievainojamības un pat manipulēt ar cilvēka uztveri, izmantojot dziļviltojumus un automatizētas dezinformācijas kampaņas.
Šajā jaunajā ainavā izceļas GPUHammer — uzbrukums, kas samazina mākslīgā intelekta precizitāti līdz smieklīgi zemam līmenim, izmantojot GPU atmiņas ievainojamības. Taču tas nav vienīgais drauds: pastāv arī pretinieku uzbrukumi datiem, mākslīgā intelekta darbināta sociālā inženierija, algoritmiskas neobjektivitātes ar sociālu ietekmi un mākslīgā intelekta infrastruktūra, kas daudzos gadījumos netika izstrādāta, ņemot vērā drošību. Apskatīsim to mierīgi, bet ar nepieciešamo tehnisko dziļumu.
Kas ir GPUHammer un kāpēc tas var iznīcināt mākslīgā intelekta modeļa precizitāti?
GPUHammer ir Rowhammer uzbrukuma veids — tehnika, kas izmanto fizisku trūkumu atmiņas šūnās. Lai gan klasiskie Rowhammer uzbrukumi ir koncentrējušies uz centrālo procesoru (CPU) izmantoto DRAM, GPUHammer uzmanības centrā ir GPU atmiņa , kas ir mūsdienu mākslīgā intelekta modeļu apmācības un secinājumu pamatā.
Uzbrukums darbojas, atkārtoti un kontrolēti piekļūstot noteiktām GPU atmiņas rindām. Šīs intensīvās un rūpīgi sinhronizētās darbības izraisa elektriskā lādiņa noplūdi, kas izraisa tuvumā esošo bitu vērtības maiņu. 0 kļūst par 1 vai otrādi, sistēmai to neuztverot kā acīmredzamu kļūmi, jo tā izpaužas kā klusas kļūdas datos.
Mākslīgā intelekta modeļa kontekstā šie mainītie biti var ietekmēt gan modeļa parametrus , gan starpposma aktivācijas vai ievades datus, ko apstrādā GPU. Bojājot atslēgu svarus vai tenzorus, matemātiskās operācijas kļūst neuzticamas un prognožu kvalitāte strauji pasliktinās. Visbažīgākais ir tas, ka sistēma turpina darboties šķietami normāli, taču modeļa precizitāte krasi samazinās.
Pētnieki, kas demonstrēja GPUHammer, skaidro, ka uzbrukuma vektors var izmantot tādas skaitļošanas vides kā CUDA, lai ievadītu noteiktas atmiņas piekļuves un kontrolētu āmura darbības modeli. Izmantojot mūsdienu GPU augsto paralēlās izpildes jaudu, piekļuves reižu skaitu var maksimāli palielināt ļoti īsā laikā, palielinot iespējamību, ka uzbrucējs iegūs noderīgus bitu apgriezienus.
Lielākais izaicinājums šo uzbrukumu izstrādātājiem ir bijusi GDDR atmiņas drošības ieviešanas necaurredzamība , iekšējās adrešu kartēšanas un atšķirīgais latentums salīdzinājumā ar CPU DRAM. Veicot šo kartējumu reverso inženieriju, sinhronizējot ar atmiņas atjaunināšanas logiem un optimizējot paralēlismu, viņiem ir izdevies pārvarēt šīs teorētiskās barjeras.
GPUHammer ietekme: no 80% precizitātes līdz 0,1%
Visspilgtākais pētnieku dokumentētais gadījums ir NVIDIA A6000 — augstas klases paātrinātājs, ko parasti izmanto profesionālām mākslīgā intelekta darba slodzēm. Modelis, kas parasti sasniedza aptuveni 80 % precizitāti savā uzdevumā , pēc GPUHammer uzbrukuma piemērošanas samazinājās līdz niecīgiem 0,1 % .
Mēs runājam par veiktspējas kritumu, kura dēļ vairākus tūkstošus eiro maksājošs grafiskais procesors mākslīgā intelekta uzdevumu veikšanai kļūst par nedaudz vairāk kā luksusa prespapīru . Modelis ar 0,1 % precizitāti praksē ir nederīgs nevienam nopietnam pielietojumam: medicīniskās diagnozes, krāpšanas atklāšanas sistēmas, finanšu prognozēšana vai attēlu klasifikācija no lēmumu atbalsta rīkiem pārvēršas par vienkāršiem trokšņu ģeneratoriem.
Uzņēmējdarbības vidē tas nozīmē, ka modeļi var pieņemt ārkārtīgi nepareizus lēmumus, un iemesls nav uzreiz acīmredzams. Kredītreitinga sistēma var apstiprināt neatbilstošus pretendentus vai atteikt kredītspējīgus klientus; mākslīgā intelekta balstīta kiberdrošības sistēma var nepamanīt reālus draudus un visur ģenerēt viltus pozitīvus rezultātus. Ietekme izpaužas kā finansiāli zaudējumi, reputācijas pasliktināšanās un pat potenciālas juridiskas sekas, ja tiek pierādīta nolaidība infrastruktūras aizsardzībā.
Interesanti, ka uzbrukums ne visās kartēs darbojas vienādi. Eksperimenti uzrāda panākumus ar tādām grafiskajām kartēm kā NVIDIA A6000 ar GDDR6 , bet ne ar tādiem modeļiem kā RTX 3080. Hipotēze ir tāda, ka, izmantojot dažādu ražotāju atmiņu ar atšķirīgiem mazināšanas mehānismiem un kartējumiem , uzbrukuma dzīvotspēja atšķiras. Tas liecina, ka noteikti atmiņas dizaini var būt dabiski izturīgāki.
Lai pārbaudītu un dokumentētu uzbrukumu, pētnieki ir publicējuši tehnisko informāciju projekta oficiālajā tīmekļa vietnē, kur viņi paskaidro procesu, pašreizējos ierobežojumus un iespējamos turpmākos paplašinājumus, uzsverot, ka šāda veida uzbrukums GPU ir jauna robeža mākslīgajam intelektam paredzētas aparatūras drošībā .
Rowhammer uzbrukumu evolūcija: no ZenHammer līdz GPUHammer
GPUHammer neparādījās no zila gaisa; tā ir daļa no Rowhammer uzbrukumu evolūcijas līnijas , kas jau gadiem ilgi satrauc drošības kopienu. 2024. gadā tika atklāts ZenHammer — uzbrukums, kas paredzēts, lai izmantotu AMD Ryzen un EPYC centrālo procesoru ievainojamības, demonstrējot, ka DRAM iekšējā struktūra ļauj aktivizēt bitu apgriešanu, sitot blakus esošās rindas ar āmuru.
Turpmākie pētījumi ir atklājuši līdzīgas problēmas klasiskajā DRAM atmiņā un jaunākās paaudzēs, piemēram, dažu ražotāju DDR5. Gadu no gada tiek atklāti jauni vektori vai viena un tā paša principa variācijas: fiziski piespiežot atmiņu darboties nepareizi ļoti specifiskos piekļuves modeļos.
Galvenā atšķirība ir tā, ka līdz šim lielākā daļa pētījumu galvenokārt bija vērsti uz centrālā procesora (CPU) operatīvo atmiņu. Ar GPUHammer uzmanība ievērojami tiek pievērsta grafikas kartes atmiņai — kritiski svarīgam elementam dziļajai mācīšanās procesam nepieciešamajai masīvajai paralēlajai apstrādei. Tas nozīmē, ka visa uz GPU balstītā mākslīgā intelekta infrastruktūra — no datu centru serveriem līdz darbstacijām un augstas klases patērētāju grafikas kartēm — tagad ir pilnībā šo draudu redzeslokā.
Šī attīstība skaidri parāda, ka sacensība starp aparatūras ražotājiem un drošības pētniekiem neapstāsies. Katra jaunā atmiņas paaudze (GDDR6, GDDR7, HBM3 utt.) palielina veiktspējas iespējas, bet arī rada jaunas potenciālas uzbrukuma virsmas , kas jānovērtē jau no projektēšanas stadijas, nevis tikai jāmaina pēc tam.
Pašreizējie mazināšanas pasākumi: ECC, jaunas atmiņas un to izmaksas
Pirmā aizsardzības līnija pret GPUHammer tipa uzbrukumiem ir iespējot kļūdu labošanas atmiņu (ECC), kad vien tā ir pieejama. ECC pievieno datiem papildu bitus, lai reāllaikā atklātu un daudzos gadījumos labotu viena bita vai vairāku bitu kļūdas, neitralizējot uzbrukuma izraisīto daudzo apgriezienu ietekmi.
Problēma ir tā, ka ECC iespējošana ir dārga: pētījumi liecina, ka dažu grafisko procesoru veiktspējas zudums ir aptuveni 10 %, ja šī funkcija ir iespējota. Organizācijām, kas ir apsēstas ar to, lai no katra teraFLOP izspiestu visu pēdējo veiktspējas pilienu, šī soda varētu būt neērta, taču tā ir cena, kas jāmaksā par būtisku datu integritātes uzlabojumu.
Jaunākajās atmiņas paaudzēs, piemēram, GDDR7 un HBM3 , daudzi ražotāji jau integrē ECC mehānismus tieši atmiņas mikroshēmās, samazinot ievainojamību pret Rowhammer uzbrukumiem un to variantiem. Šīs tehnoloģijas ir izstrādātas, apzinoties, ka mākslīgā intelekta darba slodzēm ir nepieciešams ne tikai ātrums, bet arī noturība pret klusajām kļūdām neatkarīgi no tā, vai tās rodas fizisku kļūmju vai ļaunprātīgu uzbrukumu rezultātā.
Pētnieki, kas prezentēja GPUHammer, norāda, ka viņi turpina strādāt pie jaunām metodēm, lai mēģinātu apiet pat šīs aizsardzības , meklējot alternatīvus ceļus, kur kļūdu labošana nav pietiekama vai kur ir iespējams piespiest ekstremālus apstākļus, kas pārvar ECC mehānismus.
Savukārt tādi ražotāji kā NVIDIA tika iepriekš (šajā gadījumā ap janvāri) informēti par ievainojamību un nepārprotami iesaka iespējot ECC jutīgās vidēs, kā arī ieviest labas darba slodzes izolācijas prakses , koplietojot GPU resursus starp klientiem vai lietojumprogrammām.
Mākslīgā intelekta drošība: vairāk nekā aparatūra un GPUHammer
Lai gan GPUHammer piesaista daudzus virsrakstus, mākslīgā intelekta drošība aptver daudz plašāku spektru nekā fiziskās atmiņas uzbrukumi. Mākslīgā intelekta darba slodzes ievieš uzbrukumu virsmas, kuras tradicionālās kiberdrošības stratēģijas pilnībā neaptvēra: apmācības datus, modeļus, secinājumu plūsmas, pakalpojumu API un pašu GPU un paātrinātāja infrastruktūru.
Mākslīgā intelekta drošība ir vērsta uz šo darba slodžu aizsardzību pret ļaunprātīgu izmantošanu vai manipulācijām, nodrošinot, ka modeļi darbojas, kā paredzēts, bez ārējas iejaukšanās. Tas ietver apmācības datu integritātes aizsardzību, modeļa izcelsmes pārbaudi (zinot, kas to apmācīja, kā un ar ko) un izolācijas mehānismu izveidi GPU un citiem paātrinātājiem platformās, kurās tie tiek mitināti.
Lielākā daļa korporatīvo drošības stratēģiju tika izstrādātas, lai aizsargātu tradicionālās lietojumprogrammas: tīmekļa serverus, datubāzes, darbstacijas. Turpretī mākslīgā intelekta risinājums vairāk līdzinās “dzīvokļa ēkai uz citas planētas” : vairāki modeļi, heterogēni datu avoti, ārēji API, MLOps cauruļvadi, koplietoti GPU mākonī… un liels skaits ieejas punktu, kas, iespējams, netika uzskatīti par uzbrukuma vektoriem.
Lai mākslīgais intelekts būtu uzticams uzņēmuma līmenī, ir nepieciešama īpaša drošības stratēģija , kas integrējas ar esošajiem kontroles mehānismiem: tīkla segmentāciju, identitātes pārvaldību, atbilstību normatīvajiem aktiem, nepārtrauktu uzraudzību un incidentu reaģēšanu. Vienkārši pievienot vēl vienu ugunsmūri nepietiek; ir svarīgi saprast, kā dati plūst no to avota līdz secinājumiem un kur tos var manipulēt.
Mākslīgā intelekta infrastruktūra: jaunas ievainojamības un aizsardzības prasības
Domājot par mākslīgā intelekta infrastruktūru, mēs nerunājam tikai par jaudīgiem serveriem: mēs runājam par pilnīgu ekosistēmu , kas ietver grafiskos procesorus, augstas veiktspējas krātuvi, tīklus ar zemu latentumu, konteineru orķestrēšanas platformas, mākoņpakalpojumus un MLOps rīkus. Katrs slānis pievieno funkcionalitāti, bet arī jaunas iespējas uzbrucējiem.
Viena no kritiskajām problēmām ir spēcīgas izolācijas trūkums daudzos grafiskajos procesoros (GPU) . Vēsturiski grafikas kartes nebija izstrādātas ar tādu pašu nodalījumu un drošības mehānismu līmeni kā centrālie procesori (CPU), padarot tās par pievilcīgiem mērķiem. Tādi uzbrukumi kā GPUHammer izmanto tieši šo realitāti: nekvalitatīvus žurnālus, ierobežotu redzamību atmiņas piekļuvē un priviliģētu virsmas laukumu, kas var viegli palikt nepamanīts.
Turklāt daudzās organizācijās GPU resursi tiek koplietoti starp dažādām komandām, projektiem vai pat klientiem (vairāku nomnieku vidēs). Bez skaidras segmentācijas un stingras piekļuves kontroles ļaunprātīga darba slodze varētu ietekmēt augstas vērtības modeļus, kas darbojas vienā un tajā pašā fiziskajā iekārtā.
Labi plānota mākslīgā intelekta drošības stratēģija ne tikai aizsargā sensitīvus datus no noplūdes, bet arī piemēro preventīvus pasākumus pret uzbrukumiem modeļiem, stiprina atbilstību normatīvajiem aktiem (piemēram, ES Mākslīgā intelekta likums) un integrē uzraudzības iespējas, lai atklātu anomālijas mākslīgā intelekta darba slodžu izpildē.
Galu galā, jo labāk jūs izprotat pamatā esošo tehnoloģiju — kā mākslīgais intelekts tiek apmācīts, ieviests un mērogots —, jo vieglāk ir identificēt un aizvērt tās papildu “durvis un logus”, kas tradicionālajā IT infrastruktūrā nepastāv.
Konfrontējoši uzbrukumi: datu manipulēšana, lai maldinātu mākslīgo intelektu
Papildus aparatūrai mākslīgais intelekts ir īpaši neaizsargāts pret pretinieku uzbrukumiem , kas koncentrējas uz modeļa ievades datu (attēlu, audio, teksta, tabulāro datu) manipulēšanu, izmantojot ļoti mazus, bet rūpīgi izstrādātus traucējumus, lai radītu klasifikācijas kļūdas vai nepareizus lēmumus.
Praksē uzbrucējs var ieviest pandas attēlā izmaiņas, kas cilvēka acij nav pamanāmas, un likt modelim to apzīmēt kā pilnīgi citu dzīvnieku. Tas pats var notikt ar luksoforiem autonomos transportlīdzekļos , medicīniskajiem attēliem datorizētā diagnostikā vai dokumentiem, ko izmanto krāpšanas atklāšanas sistēmas.
Šie uzbrukumi izmanto faktu, ka dziļās mācīšanās modeļi savu darbību balsta uz daudzdimensionāliem statistikas modeļiem, nevis uz konteksta "izpratni" kā cilvēks. Tādas metodes kā ātrā gradienta zīmes metode (FGSM) , prognozētā gradienta nolaišanās (PGD) vai Carlini & Wagner uzbrukums aprēķina perturbācijas, kas ar minimālām izmaiņām pikseļos vai ievades vektoros palielina modeļa kļūdas iespējamību.
Riski ir skaidri: veselības aprūpes iestādē naidīga MRI skenēšanas manipulācija var izraisīt nepareizas diagnozes ; kiberdrošībā īpaši izstrādāti piemēri var ļaut ļaunprātīgai programmatūrai palikt nepamanītai ar mākslīgā intelekta detektoriem; sejas atpazīšanā nelielas attēla izmaiņas var atdarināt identitāti vai izvairīties no kontroles.
Patiesībā reālas demonstrācijas jau pastāv: uzbrukumi galveno tehnoloģiju piegādātāju attēlu klasifikatoriem, balss komandas, kas paslēptas šķietami nekaitīgā audio formātā digitālajiem asistentiem, vai e-pasti, kas nedaudz modificēti, lai apietu surogātpasta filtrus, pamatojoties uz mašīnmācīšanos.
Aizsardzība pret pretinieku uzbrukumiem: noturība un atklāšana
Mākslīgā intelekta aizsardzībai pret pretinieku uzbrukumiem nepieciešama daudzslāņu pieeja. Viena no visvairāk pētītajām taktikām ir pretinieku apmācība , kas ietver nelabvēlīgu piemēru iekļaušanu modeļa apmācības laikā, lai modeļi iemācītos atpazīt un pretoties šāda veida traucējumiem. Lai gan tas ievērojami uzlabo robustumu, tas arī palielina skaitļošanas izmaksas un negarantē visu iedomājamo uzbrukuma vektoru pārklājumu.
Vēl viena aizsardzības līnija ir ievades datu pirmapstrāde un validācija . Tādas darbības kā filtrēšana, attēlu izlīdzināšana un trokšņu samazināšana var mazināt traucējumus, taču tās jāpiemēro uzmanīgi, lai pamatotos gadījumos nepasliktinātu modeļa precizitāti. Turklāt aizdomīgu ievades modeļu identificēšanai tiek izmantotas anomāliju noteikšanas metodes un statistiskā analīze.
Tiek veikti arī pētījumi par iekšēji robustākām arhitektūrām, piemēram, aizsardzības destilāciju vai ansambļa pieejām (vairāku modeļu apvienošana un to rezultātu salīdzināšana), kas apgrūtina precīzas sistēmas reakcijas uz nelieliem traucējumiem prognozēšanu. Mērķis ir samazināt modeļa jutību pret šīm mikroskopiskajām izmaiņām.
Pat ja tā, aizsardzība pret pretinieku uzbrukumiem ir kaķa un peles spēle: katram aizsardzības solim parasti seko jaunas uzbrukuma metodes , kas mēģina to apiet. Tāpēc papildus modeļu uzlabošanai ir svarīgi izveidot konteksta kontroli: kas var sūtīt kāda veida datus, pa kuru kanālu, ar kādu autentifikāciju un kā tiek uzraudzīti anomāli rezultāti.
Raugoties nākotnē, izskaidrojamais mākslīgais intelekts (XAI) iegūst arvien lielāku nozīmi, palīdzot izprast, kāpēc modelis pieņem noteiktus lēmumus, un atklāt neparastus uzvedības modeļus, kas varētu būt saistīti ar vēl nezināmu pretinieka uzbrukumu.
Ne tikai runa ir par sīkumiem un matemātiskiem modeļiem; ievērojama daļa draudu rodas no mākslīgā intelekta uzlabotas sociālās inženierijas . Uzbrucēji izmanto valodas modeļus, datu analīzes sistēmas un satura ģenerēšanas rīkus, lai izstrādātu daudz personalizētākas, ticamākas un grūtāk atklājamas krāpniecības shēmas.
Tas, kas kādreiz prasīja laiku, psiholoģiskas prasmes un labu rakstīšanu — upura izpēti, viņa konteksta izpratni un pārliecinoša vēstījuma izveidi —, tagad var automatizēt. Mākslīgais intelekts ļauj dažu sekunžu laikā apkopot publisku informāciju no sociālajiem medijiem, korporatīvajām tīmekļa vietnēm un noplūdēm, veidot profilus par mērķiem un ģenerēt e-pastus, ziņojumus un zvanu skriptus ar katrai valstij, nozarei vai kultūrai pielāgotu toni.
Kiberdrošības eksperti norāda, ka uzbrucējiem valodas un kultūras barjeras praktiski ir izzudušas. Noziedznieks var lūgt mākslīgā intelekta darbinātam tērzēšanas asistentam sagatavot ticamu e-pastu uzņēmuma darbiniekiem Spānijā, iekļaujot precīzas atsauces uz nozari un ticamu korporatīvo toni, pat nepārvaldot valodu brīvi.
Draudu pētnieki norāda, ka šī iespēja jau tiek izmantota masveida pikšķerēšanas kampaņām, krāpniecībai un ļaunprogrammatūras izplatīšanai , kur visbūtiskākais uzlabojums ir tieši rakstīšanas kvalitātē un tipisku brīdinājuma zīmju (pareizrakstības kļūdu, neparastu izteicienu utt.) neesamībā. Pikšķerēšanas lapas gūst labumu arī no izsmalcinātāka dizaina, kurā ir mazāk vizuālu norāžu par krāpšanu.
Šajā kontekstā uzbrukumi vairs nav nejauši kadri un kļūst par ļoti rafinētām kampaņām ar personalizācijas līmeni, kas liek saņēmējam uztvert ziņojumu kā dabisku savas digitālās rutīnas sastāvdaļu.
Šajā ekosistēmā izceļas vairāki uzbrukumu veidi, kurus ir pastiprinājis mākslīgais intelekts:
No vienas puses, pastāv personalizēta pikšķerēšana, izmantojot valodas modeļus , kur mākslīgais intelekts analizē publiskos datus un ģenerē saskaņotus, labi uzrakstītus ziņojumus, kas atbilst upura lomai un kontekstam. Pamata kļūdas pazūd, un e-pasti šķiet kā likumīga iekšēja saziņa par drošības pārskatiem, personāla vadības procesiem vai tehniskām problēmām.
Vēl mērķtiecīgāka ir automatizēta mērķtiecīga pikšķerēšana , kas koncentrējas uz ļoti specifiskām personām vai grupām organizācijā (finanšu vadība, sistēmu administratori, vidējā līmeņa vadība). Mākslīgais intelekts salīdzina sociālos profilus, korporatīvās hierarhijas un uzticības attiecības, lai izveidotu ziņojumus, kas atbilst reāliem projektiem un zināmai iekšējai dinamikai.
Balss tehnoloģiju jomā balss klonēšana ir ievērojams solis uz priekšu. Mākslīgā intelekta modeļi var atdarināt reāla cilvēka tembru un intonāciju, izmantojot tikai dažas audio sekundes. Zvans, kas šķietami nāk no izpilddirektora, galvenā piegādātāja vai drošības darbinieka, var piespiest upuri veikt pārskaitījumus vai mainīt akreditācijas datus, nepārbaudot tos citos kanālos.
Vēl viena joma ir viedā pikšķerēšana (pikšķerēšana, izmantojot īsziņas vai tūlītējo ziņojumapmaiņu), kur mākslīgais intelekts analizē mobilo tālruņu lietošanas paradumus un izvēlas labāko laiku, toni un ziņojuma saturu, lai maldinātu upuri noklikšķināt uz saites, lejupielādēt ļaunprātīgu lietotni vai nodot akreditācijas datus. Ziņojumi tiek maskēti kā sūtījumu piegādes paziņojumi, bankas paziņojumi vai saziņa no regulāriem pakalpojumiem.
Visbeidzot, dziļviltojumu izmantošana vadītāju personifikācijai palielina risku vidē ar biežiem videozvaniem. Šķietami īsts video, kurā vadītājs pieprasa steidzamu rīcību, rada vizuālu un dzirdamu autentiskuma iespaidu, kas pārvar daudzas pārbaudes barjeras, ja nav ieviesti skaidri protokoli.
Ļaunprātīgi tērzēšanas roboti, identitātes zādzības un dezinformācija
Arī sarunvalodas mākslīgais intelekts ir kļuvis par uzbrucēju ieroci. Ļaunprātīgi tērzēšanas roboti ar dabiskās valodas apstrādi var atdarināt atbalsta dienestus, iekšējos asistentus vai oficiālus uzņēmuma kanālus. Tie uztur plūstošas sarunas, ātri reaģē un vada upuri, līdz tas lejupielādē ļaunprātīgu failu vai ievada akreditācijas datus viltotā vietnē.
Smalkāks līmenis ir identitātes zādzība, kuras pamatā ir komunikācijas modeļi . Šeit mākslīgais intelekts no iepriekšējiem e-pastiem un ziņojumiem apgūst, kā raksta īsts cilvēks: vārdu krājumu, struktūru, atslēgvārdus un toni. Rezultātā tiek iegūti ziņojumi, kas izklausās tieši tāpat kā šī persona, ievērojami samazinot saņēmēja aizdomas, īpaši, ja tā ir persona, kas ieņem vadošu amatu uzņēmumā.
Kolektīvā līmenī automatizētas dezinformācijas kampaņas izmanto teksta ģenerēšanas un emociju analīzes modeļus, lai plašā mērogā radītu un izplatītu nepatiesu saturu. Koordinēti roboti pastiprina vēstījumus, veicina polarizāciju un manipulē ar sabiedrības uztveri politisku, veselības vai ekonomisko jautājumu gadījumā, cenšoties ietekmēt sociālos lēmumus, nevis vienkārši zagt konkrētus datus.
Ir bijuši arī digitālās pavedināšanas gadījumi, kuros tiek izmantota semantiskā analīze , kur mākslīgais intelekts palīdz identificēt neaizsargātus profilus (piemēram, nepilngadīgos sociālajos tīklos) un pielāgot uzbrucēja diskursu, lai veidotu progresīvas uzticības un manipulācijas attiecības, kas rada īpaši augstu risku, jo attīstās lēni un klusi.
Visbeidzot, viedā ēsma izmanto mākslīgā intelekta ģenerētu saturu (dokumentus, it kā ziņojumus, ekskluzīvus resursus), kas pielāgots upura interesēm, lai maldinātu viņu lejupielādēt failu vai piekļūt ļaunprātīgai vietnei, uzskatot, ka viņš izmanto profesionālu vai personisku iespēju.
Papildus tīšiem uzbrukumiem mākslīgais intelekts var nodarīt kaitējumu arī ar aizspriedumiem un neatbilstībām savos datos un modeļos. Ja noteiktas populācijas apmācības datos ir nepietiekami pārstāvētas vai nepareizi apzīmētas, iegūtās sistēmas parasti rada sliktākus rezultātus šīm grupām, radot smalku, bet ļoti reālu diskrimināciju.
Piemēram, veselības aprūpē ir novērots, ka datorizētās diagnostikas sistēmas ir mazāk precīzas afroamerikāņu pacientiem nekā baltās rases pacientiem līdzsvarotu datu trūkuma dēļ. Tas noteiktām grupām var novest pie novēlotas vai nepareizas diagnozes.
Darbavietā mākslīgā intelekta rīki, ko izmanto darbā pieņemšanas procesos, var pastiprināt stereotipus. Kaut kas tik šķietami nekaitīgs kā vārda "nindzja" lietošana darba sludinājumā var piesaistīt galvenokārt vīriešus, mainot kandidātu loku pat bez tieša nodoma kādu diskriminēt.
Pētījumi par attēlu ģenerēšanas modeļiem liecina, ka daudzi rīki rada nepārprotami neobjektīvu pasauli: vadītāji gandrīz vienmēr ir baltādaini vīrieši , sievietes reti tiek attēlotas kā ārsti vai tiesneši, tumšādaini vīrieši tiek saistīti ar noziedzību, bet tumšādainas sievietes - ar nestabilām darba vietām. Pat tad, ja tiek pieprasīti neitrāli profesionāļu attēli, rezultāti atveido no datiem mantotās dzimumu un rasu lomas.
Krimināltiesību sistēmā uz mākslīgo intelektu balstīti prognozējošie policijas rīki bieži vien balstās uz vēsturiskiem arestu un patruļu datiem. Ja šie dati jau satur rasu vai ģeogrāfiskas izcelsmes aizspriedumus, modeļi mēdz atkārtoti mērķēt uz tām pašām teritorijām un kopienām, pastiprinot nesamērīgas policijas darbības modeļus un veicinot nevienlīdzību.
Mākslīgais intelekts kiberdrošībā: divvirzienu zobens
Tīri aizsardzības ziņā mākslīgais intelekts ir kļuvis arī par galveno mūsdienu kiberdrošības sastāvdaļu . Kopš 2025. gada un 2026. gada sākuma tas ir kļuvis par fundamentālu rīku liela apjoma notikumu analīzei, anomālas uzvedības noteikšanai, ko grūti pamanīt ar cilvēka aci, brīdinājumu prioritizēšanai un incidentu reaģēšanas laika samazināšanai.
Mākslīgā intelekta sistēmas ļauj korelēt žurnālus no vairākiem avotiem, modelēt lietotāju un ierīču normālu uzvedību un aktivizēt gandrīz reāllaika brīdinājumus, kad tiek konstatētas novirzes, kas ir īpaši noderīgi mākoņvidē un hibrīdvidē ar tūkstošiem galapunktu.
Tomēr aizsardzības mākslīgais intelekts neaizstāj cilvēka spriestspēju vai nepieciešamību pēc nobriedušiem procesiem. Bez skaidras stratēģijas, pastāvīgas uzraudzības un apmācītām komandām automatizācija var radīt viltus drošības sajūtu vai, gluži pretēji, pārslogot analītiķus ar neprioritāriem brīdinājumiem.
Pēdējos gados uzbrucēji ir sākuši integrēt arī mākslīgo intelektu savā arsenālā: uzlabotas pikšķerēšanas kampaņas, ticamas personības imitācijas, automatizēta mērķa atpazīšana, polimorfas ļaunprogrammatūras ģenerēšana un dinamiska uzbrukumu pielāgošana, pamatojoties uz aizsardzības mehānismiem, ar kuriem tie saskaras. Rezultāts ir vide, kurā gan uzbrucēji, gan aizstāvji izmanto vienus un tos pašus tehnoloģiskos rīkus , un atšķirība slēpjas stratēģijā un pielāgošanās spējā.
Raugoties nākotnē, konkurences priekšrocība nebūs tikai mākslīgā intelekta izmantošanā, bet gan tā integrēšanā 360° drošības arhitektūrā ar pastāvīgu testēšanu, atjauninātiem modeļiem, nepārtrauktu uzraudzību un labu risku pārvaldību.
Šī visa aina — sākot ar fiziskiem uzbrukumiem, piemēram, GPUHammer, kas padara GPU nederīgu mākslīgajam intelektam, līdz smalkām datu manipulācijām, hiperpersonalizētām sociālās inženierijas kampaņām un strukturālām aizspriedumiem ar sociālu ietekmi — skaidri parāda, ka mākslīgā intelekta drošība vairs nav izvēles iespēja; tā ir pamatprasība, lai turpinātu uzticēties sistēmām, kas vienā vai otrā veidā sāk ietekmēt gandrīz visus būtiskos lēmumus mūsu digitālajā dzīvē un arvien vairāk arī reālajā dzīvē.
