Ризики безпеки в браузерах з агентами штучного інтелекту

Останнє оновлення: 19 грудня 2025
Автор: TecnoDigital
  • Браузери з інтегрованими агентами штучного інтелекту розширюють поверхню атаки, працюючи з тими ж дозволами та сеансами користувачів.
  • Методи швидкого впровадження, маніпулювання буфером обміну та оптичного розпізнавання символів (OCR) дозволяють зловмисникам маніпулювати агентом для вилучення даних та виконання небажаних дій.
  • Поєднання розширень зі штучним інтелектом, тіньовим штучним інтелектом та конфіденційними даними наражає як користувачів, так і компанії на серйозні проблеми конфіденційності та дотримання вимог.
  • Зменшення ризиків вимагає суворого контролю в самому браузері, чітких політик використання штучного інтелекту та додаткових веб-орієнтованих рішень безпеки.

Ризики безпеки в браузерах з агентами штучного інтелекту

Хвиля браузерів з інтегрованими агентами штучного інтелекту вже тут: Atlas від OpenAI, Comet від Perplexity, Brave з Leo, Chrome з Gemini, Edge з Copilot, Firefox з інтелектуальними функціями… і ще багато інших. Це нове покоління програмного забезпечення обіцяє, що ми перестанемо просто «переглядати» веб-сторінки та почнемо вказувати машині, що вона має робити: читати за нас, заповнювати форми, керувати покупками або навіть автоматизувати складні завдання в Інтернеті.

Однак, ця зручність має й темний бік: сам браузер стає автономним агентом з доступом до ваших дозволів , відкритих сеансів, файлів і, в багатьох випадках, ваших особистих або корпоративних даних. Якщо щось піде не так — чи то через недоліки дизайну, вразливості безпеки, чи добре сплановану атаку — наслідки можуть бути набагато більшими, ніж у традиційного браузера чи простого хмарного чат-бота.

Що таке браузер на базі штучного інтелекту та чому він змінює гру?

Браузер на базі штучного інтелекту — це, по суті, «звичайний» браузер із глибоко інтегрованою мовною моделлю , який бачить сторінки, які ви відвідуєте, розуміє їхній вміст і має право виконувати дії так, ніби він сам користувач. Він не просто підсумовує веб-сайт: він може натискати кнопки, заповнювати форми, завантажувати файли, керувати вкладками або взаємодіяти з сервісами, де ви вже ввійшли в систему.

Це суттєво відрізняється від використання класичного чат-бота в іншій вкладці, де ви копіюєте та вставляєте контент: тепер агент знаходиться «всередині» браузера , маючи прямий доступ до вашого контексту перегляду, відкритих сеансів і, можливо, до ваших локальних файлів чи інших системних ресурсів.

Ця архітектура особливо приваблива для великих технологічних компаній. Perplexity запустила свій браузер Comet і навіть розглядала можливість придбання Chrome , тоді як Google та Microsoft впроваджують свої моделі Gemini та Copilot безпосередньо в Chrome та Edge. OpenAI, зі свого боку, представила ChatGPT Atlas як власний браузер на базі Chromium з шаром штучного інтелекту, який працює в окремих процесах для зменшення ризиків.

Мотивація бізнесу зрозуміла: мільйони користувачів, постійне використання та величезні обсяги даних . Такий браузер генерує величезну лояльність користувачів ( важко перемикатися між браузерами, тому часто використовується кілька браузерів ), а також пропонує телеметрію всього веб-трафіку та того, як користувачі взаємодіють із мережею, що надзвичайно цінно для навчання моделей, тестування нових функцій та зниження витрат на інфраструктуру шляхом перенесення частини роботи на власні пристрої користувачів.

Браузер з агентом штучного інтелекту та кібербезпекою

OpenAI Atlas: ключові характеристики та початкові межі безпеки

21 жовтня 2025 року OpenAI випустила першу публічну версію ChatGPT Atlas для macOS , свого браузера на базі штучного інтелекту, який, за словами компанії, буде розширено на Windows, Android та iOS. Ідея полягає в тому, щоб навігація «була» ChatGPT: користувачеві більше не потрібно копіювати та вставляти текст для обробки моделлю, а натомість безпосередньо запитувати завдання на сторінці, яку він переглядає.

Щоб зменшити ризики, OpenAI запровадив кілька технічних обмежень, спеціально розроблених для агента браузера . Atlas базується на Chromium, але ШІ працює в окремих процесах, інкапсульованих у те, що вони називають веб-шаром OpenAI (OWL). Згідно з початковою документацією, агент:

  • Ви не можете запускати код або встановлювати розширення. самостійно
  • Йому бракує можливості завантажувати файли самостійно або отримувати доступ до інших локальних програм.
  • Він не бачить і не користується збережені паролі ані дані автозаповнення браузер.
  • Ви не можете отримати доступ Інформація про пристрій поза межами її дії навігація.

Щодо конфіденційності, OpenAI обіцяє підхід «конфіденційність за замовчуванням»: взаємодія з Atlas не використовується для навчання моделей, якщо користувач явно не дозволив це. Крім того, пам’ять браузера — здатність запам’ятовувати сторінки та контексти — вимкнена за замовчуванням і її потрібно вмикати вручну.

Користувач також може видаляти історію та спогади , визначати, з якими веб-сайтами може взаємодіяти ChatGPT, або навіть повністю блокувати ШІ одним клацанням миші. На критично важливих сайтах, таких як банки чи конфіденційні сервіси, Atlas вимагає ручного підтвердження, перш ніж агент вживе заходів , щоб запобігти небажаним транзакціям або автоматизованим фінансовим переказам.

  Від експериментального штучного інтелекту до операційного підприємства: посібник з реальної трансформації

Ці запобіжні заходи є кроком у правильному напрямку, але вони не усувають основної проблеми: браузер на базі штучного інтелекту має набагато більше потужності, ніж класичний браузер , і однієї вразливості, неправильної конфігурації або дизайнерського рішення достатньо, щоб перетворити його на дуже прибутковий вектор атаки.

Специфічні ризики безпеки браузерів із агентами штучного інтелекту

Інтеграція штучного інтелекту створює абсолютно нову поверхню для атаки. Йдеться не лише про класичні помилки браузера, а й про недоліки у взаємодії між мовною моделлю, веб-контентом та автоматизованими діями . Це найсуттєвіші ризики, виявлені на сьогодні.

Швидке введення та приховані інструкції

Так зване оперативне впровадження полягає у приховуванні шкідливих інструкцій на самій веб-сторінці, у, здавалося б, нешкідливих фрагментах тексту, у прихованому HTML, у коментарях на форумах, у тегах markdown і навіть у зображеннях, які потім обробляються за допомогою оптичного розпізнавання символів (OCR).

Коли користувач просить агента підсумувати, проаналізувати або взаємодіяти з цією сторінкою, модель може інтерпретувати ці інструкції як легітимні команди користувача та виконувати їх з усіма привілеями свого сеансу: перехід до нових URL-адрес, натискання кнопок, копіювання особистих даних, заповнення форм або публікація конфіденційної інформації.

Практичний приклад задокументовано Brave with Perplexity Comet: користувач відкриває тему Reddit, яка в тексті-"спойлері" приховує набір шкідливих команд . Коли користувач натискає кнопку "відновити сторінку" з увімкненим агентом, браузер:

  • Отримайте доступ до налаштувань облікового запису Perplexity та електронну адресу користувача.
  • Імітувати вхід для згенерувати код OTP Перевірка
  • Відкрийте Gmail (якщо ви вже ввійшли в систему), знайдіть повідомлення з кодом і прочитайте його.
  • Опублікувати в самій темі Reddit електронна пошта користувача та одноразовий пароль, залишаючи його в полі зору зловмисника.

Все це відбувається виключно через текст, без потреби у шкідливих скриптах чи низькорівневих експлойтах , та одним кліком користувача. Саме вміст сторінки «програмує» агента на зловживання його дозволами.

Вставка в буфер обміну та OCR

Ще один вектор, який набирає обертів, — це маніпулювання буфером обміну . ​​Традиційне шкідливе програмне забезпечення вже використовує його для зміни адрес криптовалют або перехоплення облікових даних; у контексті браузера на базі штучного інтелекту агент може прочитати те, що ви копіюєте, і діяти відповідно, або навіть вставити змінений контент назад непомітно для вас.

Ще складнішим є використання прихованих інструкцій у зображеннях, оброблених за допомогою OCR . Браузер може зчитувати текст, вбудований у графіку або скріншоти, і якщо зловмисник приховує команди в пікселях, які залишаються непоміченими людським оком, але не системою розпізнавання, агент може виконати їх так, ніби вони є легітимною частиною сторінки.

В обох випадках проблема однакова: модель не розрізняє чітко «описовий» контент та «навчальний» контент і схильна підкорятися всьому, що звучить як наказ, особливо якщо він відформатований переконливо.

Розкриття та неправомірне використання персональних і конфіденційних даних

Браузери на базі штучного інтелекту часто містять інтелектуальні функції автозаповнення або керування формами, які виходять за рамки традиційного автозаповнення. Якщо шкідлива сторінка імітує легітимну форму (наприклад, з банку, соціальної мережі або постачальника SaaS), і агент вважає, що це має «заощадити ваш час», він може ввести такі дані, як ваше повне ім’я, адресу, номер телефону або навіть внутрішні ідентифікатори компанії, без явного запиту на перевірку.

Якщо, крім того, браузер має дозвіл на перегляд усіх відкритих або нещодавніх вкладок , ризик зростає: зловмисник може одночасно використовувати інформацію з вашої електронної пошти, календаря, контактів, корпоративної CRM або системи управління проектами для виконання завдання, тим самим розширюючи масштаби витоку даних. Хоча це може бути корисним для законних цілей, у руках зловмисника це перетворюється на золоту жилу конфіденційних даних.

У бізнес-середовищі проблема загострюється. Розширення браузера на базі штучного інтелекту, інтегровані в робочі процеси, часто запитують дуже широкі дозволи : читання та зміна вмісту всіх веб-сайтів, доступ до файлів cookie та сеансів, взаємодія з API тощо. Таке поєднання ідеально підходить для крадіжки інтелектуальної власності, фінансових звітів, розробок у процесі розробки, вихідного коду або конфіденційних розмов.

Постійні сеанси та викрадення облікового запису

Сучасний браузер підтримує відкриті численні автентифіковані сеанси : електронна пошта, хмарне сховище, соціальні мережі, онлайн-банкінг, робочі інструменти, панелі адміністрування… Якщо агент має можливість взаємодіяти з усіма цими сервісами, і, крім того, сеанс не має терміну дії або використовується повторно необмежений час, зловмисник може скористатися будь-яким успішним впровадженням для виконання ланцюгових дій без необхідності повторного компрометування користувача.

  Meta Aria Gen 2: Усі подробиці нових розумних окулярів для штучного інтелекту та доповненої реальності

Це відкриває шлях для захоплення сеансів та атак з латеральним переміщенням : після того, як агента обдурили, він може завантажувати або видаляти файли, змінювати налаштування, додавати SSH-ключі до репозиторіїв, змінювати записи в CRM або затверджувати замовлення на придбання, і все це з контексту різних сервісів, де користувач вже був увійшов у систему.

Фішинг, дезінформація та відсутність прозорості в діях

Браузери на базі штучного інтелекту також особливо вразливі до «невидимих» фішингових кампаній . Сам агент штучного інтелекту може бути використаний для відвідування шахрайських сторінок, заповнення форм автентифікації або підтвердження транзакцій, при цьому користувач навіть не бачить фактичного інтерфейсу, а лише «зручний» звіт, згенерований моделлю.

Крім того, системи, які трансформують контент перед відображенням його користувачеві, ускладнюють виявлення фальшивих сайтів: штучний інтелект може пом’якшувати попереджувальні сигнали, переставляти елементи та навіть генерувати правдоподібні пояснення , що ускладнюють відмінність легітимного веб-сайту від копії, призначеної для крадіжки облікових даних.

Ще один менш відчутний, але не менш серйозний ризик – це вразливість до дезінформації та маніпульованого контенту . Погано налаштована модель або модель, навчена на отруєних даних, може пріоритезувати упереджені джерела, пропускати попередження або генерувати відповіді, що підкріплюють хибні наративи. Якщо браузер широко використовується для збору новин, вплив на сприйняття реальності або на критичні рішення (наприклад, інвестиції, охорона здоров'я, політика) може бути значним.

У всіх цих випадках існує спільна проблема: непрозорість дій агента . Багато взаємодій відбуваються «під капотом», і користувач не бачить, які саме вкладки відкриті, які дані скопійовані або які кнопки натиснуті. Це ускладнює аудит, встановлення юридичної відповідальності (це був користувач чи ШІ?) та виявлення аномальної поведінки на ранній стадії.

Омнібокс, замасковані команди та експлойти з нульовим кліком

Омнібокс, або єдиний адресний рядок та рядок пошуку, що є функцією сучасних браузерів, додає власний рівень небезпеки. У сценарії, контрольованому штучним інтелектом, шкідлива команда може бути замаскована під невинну URL-адресу або пошуковий запит . Якщо модель аналізує те, що ви вводите, і намагається «допомогти» вам, безпосередньо виконуючи дії, вона може призвести до перенаправлення вас на сайти, контрольовані зловмисником, або запуску небажаних послідовностей завдань.

Тим часом, вибухове зростання вразливостей типу «нульовий клік» в екосистемах штучного інтелекту демонструє, що іноді пряма взаємодія навіть не потрібна: простого отримання електронного листа, запрошення з календаря або повідомлення на платформі, інтегрованій з агентом, достатньо для запуску шкідливої ​​логіки. Такі приклади, як EchoLeak в Microsoft 365 Copilot, показують, як, використовуючи автоматичне завантаження зображень, інтерпретацію Markdown та внутрішні проксі-сервери , зловмисник може підвищити привілеї та викрасти дані без будь-якого втручання користувача.

Цей тип атаки не обмежується великими офісними пакетами: будь-який браузер з агентом штучного інтелекту, доступним для веб-пошти, обміну повідомленнями або панелей адміністрування, може стати жертвою, якщо модель автоматично взаємодіє з отриманим контентом.

Розширення на базі штучного інтелекту, ланцюг поставок та тіньовий штучний інтелект

Окрім «офіційних» браузерів із вбудованим штучним інтелектом, існує безліч розширень для браузерів, що працюють на основі мовних моделей , що обіцяють миттєву продуктивність: помічники з письма, детектори настроїв, розширене автозаповнення, звіти про зустрічі тощо. Ці розширення часто запитують дуже нав’язливі дозволи та в багатьох випадках надсилають дані до непрозорих зовнішніх сервісів.

Ця ситуація створює вибухонебезпечний коктейль із вразливостей ланцюга поставок : сторонні бібліотеки, неаудитовані API, сервери виведення, розташовані в інших країнах, неконтрольовані автоматичні оновлення… Спочатку легітимне розширення може бути придбане зловмисником і непомітно оновлене для збору конфіденційних даних або встановлення шкідливого програмного забезпечення в корпоративному середовищі.

Все це посилюється тіньовим штучним інтелектом (Shadow AI) , тобто використанням цих інструментів без схвалення або видимості ІТ-відділу. Працівники з добрими намірами, які встановлюють розширення ШІ для швидшої роботи, можуть несвідомо експортувати інформацію, захищену GDPR, HIPAA або PCI DSS, стороннім постачальникам, які не відповідають необхідним правовим або безпековим стандартам.

Вплив на конфіденційність, дотримання нормативних вимог та кіберзлочинність

Прямим наслідком цього нового сценарію є різке зростання ризиків для особистої конфіденційності та ділової конфіденційності . Погано керований браузер або розширення зі штучним інтелектом може захоплювати книги, наукові статті за підпискою, чернетки фінансових звітів, стратегічні плани, власний код або дані клієнтів, і ніхто цього не помічає.

У домашньому середовищі ми вже спостерігали певні проблеми: ChatGPT навіть відображав фрагменти чатів інших користувачів через технічну помилку, а функція спільного використання розмов генерувала URL-адреси, які можна індексувати пошуковими системами, залишаючи тисячі приватних розмов видимими для будь-кого. Легко уявити, що може статися, коли помічник матиме повний доступ до веб-трафіку та локальних файлів.

  Що таке Generative AI? Деталі, приклади та ризики

У корпоративному світі розголошення інтелектуальної власності або регуляторних даних може призвести до багатомільйонних штрафів, втрати конкурентних переваг та репутаційної шкоди . Якщо розширення для транскрипції зустрічей зберігає розмови з конфіденційними клієнтами на сторонніх серверах, або якщо браузер зі штучним інтелектом використовує конфіденційну фінансову інформацію для навчання моделей, організація може порушувати GDPR, CCPA, HIPAA або інші галузеві правила.

Водночас кіберзлочинці використовують саме ті можливості, яких прагнуть підприємства. Програми-вимагачі за допомогою штучного інтелекту та поліморфне шкідливе програмне забезпечення вже спостерігаються в реальних умовах: такі сімейства, як PromptLock, генерують скрипти на льоту для переміщення через системи Windows, macOS або Linux, уникнення виявлення та шифрування даних. Так звані «темні LLM» – відкриті моделі, модифіковані для злочинних цілей – дозволяють автоматизувати розвідку, крадіжку облікових даних та цілі кампанії з вторгнення.

Нещодавні дослідження показали, що LLM, вбудовані в корпоративні робочі процеси, можуть бути примусово змушені встановлювати шкідливе програмне забезпечення, витягувати дані або маніпулювати результатами просто за допомогою добре розроблених підказок або отруєних навчальних даних. Оскільки браузери на базі штучного інтелекту стають основним інтерфейсом до Інтернету, ця загроза пошириться практично на кожну онлайн-активність.

Впроваджені заходи щодо пом'якшення наслідків та рекомендації щодо зниження ризиків

Постачальники браузерів зі штучним інтелектом починають реагувати. Окрім обмежень, які вже обговорювалися в Atlas, Brave запропонував конкретні найкращі практики для зменшення атак швидкого впровадження та зловживання агентами:

  • Чітко розрізняти команди користувача від веб-текстууникаючи змішування обох в одному каналі інструкцій до моделі.
  • Вимагати Явне підтвердження будь-яких конфіденційних дій (покупки, зміни конфігурації, грошові перекази, доступ до електронної пошти).
  • Ізолюйте розширені функції базового навігаційного агентащоб просте відвідування сторінки не означало можливості діяти автоматично.
  • Спробуйте весь веб-контент за замовчуванням позначено як ненадійний, що вимагає чітких сигналів про наміри користувача перед виконанням дій.

Тим часом деякі компанії, такі як OpenAI, пропонують детальний контроль видимості та пам’яті : блокування ШІ в певних доменах, вимкнення використання даних для навчання за замовчуванням, дозвіл користувачеві видаляти розмови та спогади, коли він забажає, або вимога ручного схвалення на сайтах, які вважаються критично важливими.

З точки зору компанії-користувача, існує низка основних гігієнічних заходів , які слід впровадити якомога швидше:

  • Чітка політика щодо використання штучного інтелекту: які браузери та розширення дозволені, які дані вони можуть обробляти та за яких умов.
  • Постійне навчання для співробітників, пояснення Ризики швидкого впровадження вірусу, фішингу, спрямованого на використання штучного інтелекту, та витоків даних.
  • Використання віртуалізовані або ізольовані середовища (VDI, пісочниці) для завдань високого ризику, щоб легше стримувати інцидент.
  • Впровадження рішення безпеки, орієнтовані на браузер що відстежують розширення, аномальну поведінку та витік даних.

На думку експертів, «ідеальний браузер зі штучним інтелектом» повинен дозволяти користувачам вмикати або вимикати інтелектуальну обробку для кожного сайту одним клацанням миші, ізолювати контекст моделі між доменами, завжди підтверджувати введення конфіденційних даних, обмежувати доступ до файлів залежно від операційної системи та навіть дозволяти користувачам вибирати локальні моделі без надсилання даних у хмару. Жоден із поточних продуктів поки що не відповідає всім цим вимогам, що робить необхідним доповнення їх зовнішніми рівнями безпеки.

Ландшафт, який пропонують браузери з агентами штучного інтелекту, настільки ж потужний, наскільки й делікатний: за умови належного управління вони можуть демократизувати передову автоматизацію в повсякденному житті; якщо їх ігнорувати, вони можуть стати бажаним інструментом зловмисників . Ключовим буде те, як розвиватимуться технічні заходи (ізоляція, засоби керування користувачами, виявлення ін'єкцій) та скільки організацій та окремих осіб інвестуватимуть у розуміння того, що саме робить цей «помічник», який зараз живе всередині їхнього браузера.

Відмінності між браузерами Atlas та Comet
Пов'язана стаття:
Відмінності між навігаторами Atlas та Comet: повне порівняння
TecnoDigital

TecnoDigital

Захоплюючись технологіями та розробкою програмного забезпечення, я заглиблююся у світ систем і обчислень з метою сприяння інноваціям і вирішення складних завдань.