- Integreeritud tehisintellekti agentidega brauserid laiendavad rünnakupinda, töötades samade õiguste ja kasutajaseanssidega.
- Kiire süstimine, lõikelauale manipuleerimine ja OCR-tehnikad võimaldavad ründajatel agenti manipuleerida andmete väljafiltreerimiseks ja soovimatute toimingute tegemiseks.
- Laienduste kombineerimine tehisintellekti, varju-tehisintellekti ja tundlike andmetega seab nii kasutajad kui ka ettevõtted tõsistesse privaatsus- ja vastavusprobleemidesse.
- Riskide maandamine nõuab brauseris endas ranget kontrolli, selgeid tehisintellekti kasutuspoliitikaid ja täiendavaid veebikeskseid turvalahendusi.
Integreeritud tehisintellekti agentidega brauserite laine on juba siin: OpenAI Atlas, Perplexity Comet, Brave Leoga, Chrome Geminiga, Edge Copilotiga, nutikate funktsioonidega Firefox... ja palju muud on tulemas. See uue põlvkonna tarkvara lubab, et me lõpetame pelga "sirvimise" ja hakkame masinale ütlema, mida me tahame, et see teeks: loeks meie eest, täidaks vorme, haldaks oste või isegi automatiseeriks keerulisi ülesandeid veebis.
Sellel mugavusel on aga ka varjukülg: brauserist endast saab autonoomne agent, millel on juurdepääs teie õigustele , avatud seanssidele, failidele ja paljudel juhtudel ka teie isiklikele või ettevõtte andmetele. Kui midagi läheb valesti – olgu see siis disainivigade, turvaaukude või hästi planeeritud rünnaku tõttu –, võib mõju olla palju suurem kui traditsioonilise brauseri või lihtsa pilvepõhise vestlusroboti puhul.
Tehisintellektil põhinev brauser on sisuliselt "tavaline" brauser sügavalt integreeritud keelemudeliga , mis näeb külastatavaid lehti, mõistab nende sisu ja on volitatud toiminguid tegema justkui kasutaja ise. See ei tee ainult veebisaidi kokkuvõtet: see saab klõpsata nuppe, täita vorme, alla laadida faile, hallata vahekaarte või suhelda teenustega, kuhu olete juba sisse logitud.
See teeb olulise vahe võrreldes klassikalise vestlusroboti kasutamisega teisel vahekaardil, kus sisu kopeeritakse ja kleebitakse: nüüd on agent brauseris "sees" , tal on otsene juurdepääs teie sirvimiskontekstile, avatud seanssidele ja potentsiaalselt ka teie kohalikele failidele või muudele süsteemiressurssidele.
See arhitektuur on eriti atraktiivne suurtele tehnoloogiaettevõtetele. Perplexity on turule toonud oma Comet brauseri ja kaalunud isegi Chrome'i omandamist , samal ajal kui Google ja Microsoft lisavad oma Gemini ja Copiloti mudeleid otse Chrome'i ja Edge'i. OpenAI on omalt poolt esitlenud ChatGPT Atlasit oma Chromiumi-põhise brauserina, millel on tehisintellekti kiht, mis töötab riskide vähendamiseks eraldi protsessides.
Äriline motivatsioon on selge: miljonid kasutajad, pidev kasutus ja tohutud andmed . Selline brauser tekitab tohutu kasutajate lojaalsuse ( brausereid on raske vahetada, mistõttu on tavaline kasutada mitut brauserit ) ja lisaks pakub telemeetriat kogu veebiliikluse ja kasutajate võrgusuhtluse kohta, mis on äärmiselt väärtuslik mudelite treenimiseks, uute funktsioonide testimiseks ja infrastruktuurikulude vähendamiseks, viies osa tööst kasutajate enda seadmetesse.
OpenAI atlas: põhifunktsioonid ja esialgsed turvapiirid
21. oktoobril 2025 avaldas OpenAI ChatGPT Atlasi esimese avaliku versiooni macOS-ile . See on nende tehisintellektil põhinev brauser, mis ettevõtte sõnul laieneb Windowsi, Androidi ja iOS-i platvormidele. Idee seisneb selles, et navigeerimine oleks "ChatGPT": kasutaja ei pea enam mudeli töötlemiseks teksti kopeerima ja kleepima, vaid taotleb ülesandeid otse vaadataval lehel.
Riskide vähendamiseks on OpenAI rakendanud mitmeid brauseriagendi jaoks spetsiaalselt loodud tehnilisi piiranguid . Atlas põhineb Chromiumil, kuid tehisintellekt töötab eraldi protsessides, mis on kapseldatud nn OpenAI veebikihi (OWL). Esialgse dokumentatsiooni kohaselt agent:
- Sa ei saa koodi käivitada ega laiendusi installida. ise
- Sellel puudub võimekus laadige faile alla iseseisvalt või avage muid kohalikke rakendusi.
- Ta ei näe ega kasuta salvestatud paroolid ega automaatse täitmise andmeid brauser.
- Te ei pääse ligi Seadme teave väljaspool selle ulatust navigeerimine.
Privaatsuse osas lubab OpenAI vaikimisi privaatsust: Atlasiga suhtlemist ei kasutata mudelite treenimiseks, kui kasutaja pole selleks selgesõnalist luba andnud. Lisaks on brauseri mälu – võime lehti ja kontekste meelde jätta – vaikimisi keelatud ja see tuleb käsitsi lubada.
Kasutaja saab kustutada ka ajaloo ja mälestusi , määrata, milliste veebisaitidega ChatGPT saab suhelda, või isegi tehisintellekti ühe klõpsuga täielikult blokeerida. Kriitiliste saitide, näiteks pankade või tundlike teenuste puhul nõuab Atlas enne agendi tegutsemist käsitsi kinnitust , et vältida soovimatuid tehinguid või automatiseeritud finantsülekandeid.
Need kaitsemeetmed on samm õiges suunas, kuid need ei kõrvalda algpõhjust: tehisintellektil põhineval brauseril on palju rohkem võimsust kui klassikalisel brauseril ja ühestainsast haavatavusest, vale konfiguratsioonist või disainiotsusest piisab, et muuta see väga tulusaks rünnakuvektoriks.
Tehisintellekti integreerimine loob täiesti uue rünnakupinna. Me ei räägi ainult klassikalistest brauserivigadest, vaid ka keelemudeli, veebisisu ja automatiseeritud toimingute interaktsiooni puudustest . Need on seni tuvastatud kõige olulisemad riskid.
Kiire süstimine ja peidetud juhised
Nn kiirsüstimine seisneb pahatahtlike juhiste peitmises veebilehele endale, pealtnäha süütutesse tekstifragmentidesse, peidetud HTML-i, foorumikommentaaridesse, markdown-siltidesse ja isegi piltidesse, mida seejärel OCR-i abil töödeldakse.
Kui kasutaja palub agendil seda lehte kokku võtta, analüüsida või sellega suhelda, saab mudel neid juhiseid tõlgendada õigustatud kasutajakäsklustena ja täita neid kõigi oma seansi õigustega: navigeerida uutele URL-idele, klõpsata nuppudele, kopeerida privaatseid andmeid, täita vorme või postitada tundlikku teavet.
Brave on dokumenteerinud praktilise näite Perplexity Cometiga: kasutaja avab Redditi teema, mis peidab "spoileri" teksti sees pahatahtlike käskude komplekti . Kui kasutaja klõpsab agendi lubamisel nupul "jätka lehte", siis brauser:
- Ava Perplexity konto seaded ja leia kasutaja e-posti aadress.
- Simuleeri sisselogimist genereeri OTP-kood Kontrollimine
- Ava Gmail (kui oled juba sisse logitud), leia koodiga kiri ja loe seda.
- Postita Redditi teemas endas kasutaja e-posti aadress ja ühekordne parool, jättes selle ründaja vaatevälja.
Kõik see toimub ainult teksti kaudu, ilma pahatahtlike skriptide või madala taseme rünnakuteta ning kasutaja ühe klõpsuga. Just lehe sisu "programmeerib" agenti oma õigusi kuritarvitama.
Lõikelaua süstimine ja OCR
Teine üha populaarsemaks muutuv vektor on lõikelaua manipuleerimine . Traditsiooniline pahavara kasutab seda juba krüptovaluuta aadresside muutmiseks või volituste pealtkuulamiseks; tehisintellektil põhineva brauseri kontekstis saab agent lugeda teie kopeeritud sisu ja tegutseda vastavalt või isegi kleepida muudetud sisu tagasi ilma, et te seda märkaksite.
Veelgi keerukam on peidetud juhiste kasutamine OCR-i töödeldud piltidel . Brauser suudab lugeda graafikasse või ekraanipiltidesse manustatud teksti ja kui ründaja peidab pikslitesse käske, mis jäävad inimsilmale märkamatuks, kuid mitte tuvastussüsteemile, saab agent neid täita nii, nagu oleksid need lehe õiguspärane osa.
Mõlemal juhul on probleem sama: mudel ei tee kindlat vahet „kirjeldava” ja „õpetusliku” sisu vahel ning kipub kuuletuma kõigele, mis kõlab käsu moodi, eriti kui see on veenvalt vormistatud.
Isiku- ja tundlike andmete avalikustamine ja väärkasutamine
Tehisintellektil põhinevad brauserid sisaldavad sageli intelligentseid automaatse täitmise või vormide haldamise funktsioone, mis lähevad tavapärasest automaatsest täitmisest kaugemale. Kui pahatahtlik leht jäljendab seaduslikku vormi (näiteks pangast, sotsiaalvõrgustikust või SaaS-teenuse pakkujalt) ja agent usub, et see peaks "teie aega kokku hoidma", saab ta sisestada andmeid, nagu teie täisnimi, aadress, telefoninumber või isegi ettevõtte sisemised identifikaatorid, ilma et peaksite selgesõnaliselt kinnitust küsima.
Kui brauseril on lisaks luba vaadata kõiki avatud või hiljutisi vahekaarte , siis risk mitmekordistub: ründaja võib ülesande täitmiseks samaaegselt kasutada teavet teie e-posti, kalendri, kontaktide, ettevõtte CRM-i või projektijuhtimissüsteemi kohta, laiendades seeläbi andmete rikkumise ulatust. Kuigi see võib olla kasulik õigustatud eesmärkidel, muutub ründaja käes tundlike andmete kullaauk.
Ärikeskkondades on probleem veelgi hullem. Töövoogudesse integreeritud tehisintellektil põhinevad brauserilaiendused nõuavad sageli väga laialdasi õigusi : kõigi veebisaitide sisu lugemine ja muutmine, küpsistele ja seanssidele juurdepääs, API-dega suhtlemine jne. See kombinatsioon sobib ideaalselt intellektuaalomandi, finantsaruannete, pooleliolevate disainide, lähtekoodi või konfidentsiaalsete vestluste varastamiseks.
Püsivad seansid ja konto kaaperdamine
Kaasaegne brauser hoiab avatuna arvukalt autentitud seansse : e-post, pilvesalvestus, sotsiaalvõrgustikud, internetipank, töövahendid, halduspaneelid... Kui agendil on võimalus kõigi nende teenustega suhelda ja lisaks seanss ei aegu või seda ei kasutata lõputult, saab ründaja iga edukat süstimist ära kasutada aheltoimingute tegemiseks ilma kasutajat uuesti ohtu seadmata.
See avab ukse seansi kaaperdamiseks ja külgliikumise rünnakuteks : kui agenti on petetud, saab see faile alla laadida või kustutada, sätteid muuta, repositooriumidesse SSH-võtmeid lisada, CRM-i kirjeid muuta või ostutellimusi kinnitada – seda kõike erinevate teenuste kontekstist, kuhu kasutaja oli juba sisse logitud.
Andmepüük, valeinformatsioon ja tegevuse läbipaistmatus
Tehisintellektil põhinevad brauserid on eriti haavatavad ka "nähtamatute" andmepüügikampaaniate suhtes . Tehisintellekti agenti ennast saab kasutada petturlike lehtede külastamiseks, autentimisvormide täitmiseks või tehingute kinnitamiseks ilma, et kasutaja näeks tegelikku liidest, vaid ainult mudeli loodud "sõbralikku" kokkuvõtet.
Lisaks raskendavad süsteemid, mis enne kasutajale kuvamist sisu muudavad, võltsitud saitide tuvastamist: tehisintellekt suudab hoiatussignaale pehmendada, elemente ümber korraldada ja isegi genereerida usutavaid selgitusi , mis raskendavad legitiimse veebisaidi eristamist koopiast, mille eesmärk on volituste varastamine.
Teine vähem käegakatsutav, kuid sama tõsine risk on vastuvõtlikkus väärinfole ja manipuleeritud sisule . Halvasti konfigureeritud või mürgitatud andmetega treenitud mudel võib seada esikohale kallutatud allikaid, jätta hoiatused vahele või genereerida vastuseid, mis tugevdavad valesid narratiive. Kui brauserit kasutatakse ulatuslikult uudiste kogumiseks, võib selle mõju reaalsustajule või kriitilistele otsustele (nt investeeringud, tervishoid, poliitika) olla märkimisväärne.
Kõigil neil juhtudel on üks ühine probleem: agendi toimingute läbipaistmatus . Paljud interaktsioonid toimuvad "kapoti all", ilma et kasutaja näeks täpselt, millised vahekaardid on avatud, milliseid andmeid on kopeeritud või milliseid nuppe on vajutatud. See raskendab auditeerimist, juriidilise vastutuse määramist (kas see oli kasutaja või tehisintellekt?) ja anomaalse käitumise varajast avastamist.
Omnibox, varjatud käsud ja nullkliki ärakasutamine
Omnikastike ehk ühe aadressi ja otsinguriba, mis on tänapäevaste brauserite funktsioon, lisab oma ohu. Tehisintellekti juhitavas stsenaariumis saab pahatahtliku käsu varjata süütuks URL-iks või otsingupäringuks . Kui mudel analüüsib teie sisestatud teksti ja püüab teid otse toiminguid tehes "aidata", võib see teid lõpuks ründaja kontrolli all olevatele saitidele suunata või soovimatuid toimingujadasid käivitada.
Samal ajal näitab tehisintellekti ökosüsteemides nullklõpsuga haavatavuste plahvatuslik kasv , et mõnikord pole otsene suhtlus isegi vajalik: pahatahtliku loogika käivitamiseks piisab pelgalt e-kirja, kalendrikutse või agendiga integreeritud platvormil oleva sõnumi saamisest. Näited nagu EchoLeak Microsoft 365 Copilotis näitavad, kuidas ründaja saab automaatse piltide üleslaadimise, Markdowni tõlgenduste ja sisemiste puhverserverite ärakasutamise abil õigusi laiendada ja andmeid ilma kasutaja sekkumiseta välja filtreerida.
Seda tüüpi rünnak ei piirdu ainult suurte kontoritarkvarapakettidega: iga brauser, millel on tehisintellekti agent ja mis on avatud veebimeilile, sõnumsidele või halduspaneelidele, võib ohvriks langeda, kui mudel suhtleb automaatselt vastuvõetud sisuga.
Tehisintellektil põhinevad laiendused, tarneahel ja varjutehisintellekt
Lisaks „ametlikele” sisseehitatud tehisintellektiga brauseritele on olemas ka keelemudelitel põhinevaid brauserilaiendusi , mis lubavad kohest tootlikkust: kirjutamisabilised, tundedetektorid, täiustatud automaatne täitmine, koosolekute kokkuvõtted jne. Need laiendused taotlevad sageli väga pealetükkivaid lube ja paljudel juhtudel saadavad andmeid läbipaistmatutele välistele teenustele.
See olukord loob plahvatusohtliku kokteili tarneahela haavatavustest : kolmandate osapoolte teegid, auditeerimata API-d, teistes riikides asuvad järeldusserverid, kontrollimatud automaatsed värskendused... Pahatahtlik isik saab osta algselt legitiimse laienduse ja seda vaikselt värskendada, et koguda tundlikke andmeid või paigutada pahavara ettevõtte keskkondadesse.
Kõike seda süvendab varjutehisintellekt ehk nende tööriistade kasutamine ilma IT-osakonna loata või nähtavuseta. Heasoovlikud töötajad, kes installivad kiiremaks tööks tehisintellekti laiendusi, võivad teadmatult eksportida GDPR-i, HIPAA või PCI DSS-iga kaitstud teavet kolmandatele osapooltele, kes ei vasta nõutavatele juriidilistele või turvastandarditele.
Mõju privaatsusele, regulatiivsele vastavusele ja küberkuritegevusele
Selle uue stsenaariumi otsene tagajärg on isikuandmete ja ärisaladuse ohtude dramaatiline suurenemine . Halvasti hallatud tehisintellektil põhinev brauser või laiendus võib märkamatult jäädvustada raamatuid, tellimustel põhinevaid teadusartikleid, finantsaruannete mustandeid, strateegilisi plaane, omandiõigusega kaitstud koodi või klientide andmeid.
Kodukeskkonnas oleme juba näinud konkreetseid probleeme: ChatGPT kuvas tehnilise vea tõttu isegi teiste kasutajate vestluste katkendeid ning vestluste jagamise funktsioon genereeris otsingumootorite poolt indekseeritavaid URL-e, jättes tuhanded privaatsed vestlused kõigile nähtavaks. On lihtne ette kujutada, mis võiks juhtuda, kui assistendil oleks täielik juurdepääs veebiliiklusele ja kohalikele failidele.
Ärimaailmas võib intellektuaalomandi või regulatiivsete andmete avalikustamine kaasa tuua mitme miljoni dollari suuruseid trahve, konkurentsieelise kaotuse ja mainekahju . Kui koosoleku transkriptsiooni laiendus salvestab tundlike klientidega peetud vestlusi kolmandate osapoolte serverites või kui tehisintellekti brauser kasutab mudelite treenimiseks konfidentsiaalset finantsteavet, võib organisatsioon rikkuda isikuandmete kaitse üldmäärust (GDPR), CCPA-d, HIPAA-d või muid valdkonna eeskirju.
Samal ajal kasutavad küberkurjategijad ära just neid võimalusi, mida ettevõtted otsivad. Tehisintellektil põhinevat lunavara ja polümorfset pahavara on juba looduses täheldatud: perekonnad nagu PromptLock genereerivad skripte Windowsi, macOS-i või Linuxi süsteemides liikumiseks, tuvastamise vältimiseks ja andmete krüpteerimiseks. Nn „tumedad LLM-id” – kuritegelikel eesmärkidel modifitseeritud avatud mudelid – võimaldavad luure, volituste varguse ja tervete sissetungimiskampaaniate automatiseerimist.
Hiljutised uuringud on näidanud, et ettevõtete töövoogudesse integreeritud õigusteaduse assistente saab sundida pahavara installima, andmeid hankima või tulemusi manipuleerima lihtsalt hästi disainitud küsimuste või moonutatud treeningandmete abil. Kuna tehisintellektil põhinevatest brauseritest saab veebi peamine liides, laieneb see oht praktiliselt igale veebitegevusele.
Rakendatud leevendusmeetmed ja soovitused riskide vähendamiseks
Tehisintellektiga brauserite müüjad hakkavad reageerima. Lisaks Atlas'is juba käsitletud piirangutele on Brave pakkunud välja konkreetsed parimad tavad kiirete süstimisrünnakute ja agentide kuritarvitamise leevendamiseks:
- Erista kasutajakäsud selgelt veebitekstistvältides mõlema segamist mudeli samas käsukanalis.
- Nõuda Selgesõnaline kinnitus mis tahes tundliku toimingu kohta (ostud, konfiguratsioonimuudatused, rahaülekanded, juurdepääs e-kirjadele).
- Isoleerige põhilise navigatsiooniagendi täiustatud funktsioonidnii et pelgalt lehe külastamine ei tähenda automaatse tegutsemise võimalust.
- Proovige kogu veebisisu vaikimisi ebausaldusväärseks, mis nõuab enne toimingute sooritamist selgeid signaale kasutaja kavatsusest.
Samal ajal pakuvad mõned ettevõtted, näiteks OpenAI, detailset nähtavust ja mälukontrolli : blokeerivad tehisintellekti teatud domeenides, keelavad vaikimisi andmete kasutamise treenimiseks, lubavad kasutajal vestlusi ja mälestusi igal ajal kustutada või nõuavad käsitsi kinnitamist olulistel saitidel.
Kasutajaettevõtte seisukohast on mitmeid põhilisi hügieenimeetmeid , mida tuleks võimalikult kiiresti rakendada:
- Selge tehisintellekti kasutamise poliitika: millised brauserid ja laiendused on lubatud, milliseid andmeid nad saavad töödelda ja millistel tingimustel.
- Töötajatele suunatud pidev koolitus, kus selgitatakse Kiire süstimise, tehisintellekti sihitud andmepüügi ja andmetega seotud rikkumiste riskid.
- Kasutamine virtualiseeritud või isoleeritud keskkonnad (VDI, liivakastid) kõrge riskiga ülesannete jaoks, et intsidenti oleks lihtsam ohjeldada.
- Rakendamine brauserikesksed turvalahendused mis jälgivad laiendusi, anomaalset käitumist ja andmete väljavoolu.
Ekspertide sõnul peaks „ideaalne tehisintellektil põhinev brauser” võimaldama kasutajatel intelligentset töötlemist saidipõhiselt ühe klõpsuga lubada või keelata, isoleerida mudeli konteksti domeenide vahel, alati kinnitada tundlike andmete sisestamist, piirata failidele juurdepääsu operatsioonisüsteemi järgi ja isegi võimaldada kasutajatel valida kohalikke mudeleid ilma andmeid pilve saatmata. Ükski praegustest toodetest ei vasta veel kõigile neile nõuetele, mistõttu on oluline neid täiendada väliste turvakihtidega.
Tehisintellektiga agentidega brauserite pakutav maastik on sama võimas kui habras: hästi hallatuna saavad need igapäevaelus täiustatud automatiseerimise demokratiseerida; unarusse jättes võivad neist saada ründajate eelistatud tööriist . Võtmeks saab see, kuidas tehnilised meetmed (isoleerimine, kasutajakontroll, süstimise tuvastamine) arenevad ja kui palju organisatsioonid ja üksikisikud investeerivad sellesse, et täpselt mõista, mida see brauseris elav „assistent“ teeb.
