- Dots — это постоянные агенты с облачной памятью и оборудованием, для предотвращения злоупотреблений которым требуется управление доступом на основе ролей (RBAC).
- Для защиты от мгновенной инъекции используются многоуровневая автоматическая проверка и обучение модели GPT-6.
- Управление постоянной памятью и журналами аудита через API соответствия требованиям имеет важное значение для отслеживания автономных действий.
Представьте себе помощника, который ничего не забывает, даже если вы закроете вкладку браузера или пройдут дни. По сути, именно это и представляют собой Dots от OpenAI: постоянно работающие персональные агенты , которые могут отслеживать проект, управлять повторяющимися задачами и переключаться между различными приложениями, не требуя от вас каждый раз объяснять все с нуля при начале чата.
По правде говоря, это кардинально меняет ситуацию, но, конечно, внедрение агента с такой степенью автономии в корпоративную среду создает значительную нагрузку на безопасность . Речь идет уже не о простом чате с ИИ, а о цифровой личности с памятью и правами доступа, способной выполнять действия от вашего имени, что заставляет администраторов серьезно отнестись к контролю доступа и мониторингу.
Как на самом деле работают точки?

Dot — это не просто продвинутое приложение для чата; у него есть собственный виртуальный компьютер в облаке и отдельный браузер. Это позволяет ему проводить проактивные исследования, то есть он может искать обновления в подключенных вами приложениях, даже без вашего запроса, сохраняя личные заметки, чтобы позже предоставить вам краткое резюме. Чтобы избежать ситуации «дикого запада», он использует инфраструктуру ChatGPT Work, унаследовав от неё защиту конфиденциальности.
Рабочий процесс отличается гибкостью: они могут координировать задачи в облаке или, если администратор это разрешает, получать доступ к локальному компьютеру сотрудника. В последнем случае система может считывать файлы с ноутбука пользователя в соответствии с локальными политиками безопасности. Кроме того, у них есть возможность делегировать задачи другим системам, например, Codex Cloud для целей программирования, всегда соблюдая границы выбранной среды.
Защита от посторонних взглядов и контроль доступа

Для предотвращения злонамеренных действий, связанных с использованием точек доступа, применяется система управления доступом на основе ролей (RBAC) . Это означает, что администратор решает, кто может иметь точку доступа и что он может делать. Безопасность организована в несколько уровней: во-первых, это пользовательские правила, а затем автоматическая проверка , которая действует как фильтр, проверяя, соответствует ли действие (например, отправка электронного письма) правилам, прежде чем оно будет выполнено. Если действие вызывает подозрение, система может заблокировать его или запросить подтверждение от человека.
Ключевым моментом является борьба с внедрением вредоносных инструкций . OpenAI обучила свои модели GPT-6 игнорировать вредоносные инструкции, скрытые в файлах или на веб-сайтах. Хотя признается, что полностью исключить этот риск практически невозможно, показатели успешности атак значительно снизились по сравнению с более новыми версиями, что делает агента более устойчивым к внешним ловушкам.
Управление данными, память и конфиденциальность

В деловом мире золотое правило гласит, что данные по умолчанию не используются для обучения моделей. У точки есть собственная память, где она хранит контекст и решения, но важно знать, что если вы удалите точку, ее контекст и личные заметки исчезнут в течение 30 дней. Однако следует помнить о общей памяти ChatGPT, поскольку некоторые взаимодействия могут оставаться там и должны управляться отдельно.
Для тех, кому необходим полный контроль, существует API соответствия . С его помощью менеджеры безопасности могут отслеживать действия агента, сопоставляя точечные журналы с журналами внешнего сервиса (например, Slack). Это позволяет точно узнать, кто санкционировал действие и каков был результат, хотя OpenAI предупреждает, что не все внутренние маршруты суб-агентов видны в режиме реального времени.
Реальные риски: чрезмерное вмешательство спецслужб и теневые агенты.

Не всё так радужно. Понятие чрезмерной свободы действий возникает, когда у агента слишком много разрешений, и он в итоге совершает вредоносные действия из-за неоднозначных или искаженных инструкций. Если у команды есть собственные учетные данные и очень мягкие правила, риск сбоев возрастает. К этому добавляется опасность теневых агентов : сотрудников, которые используют личные профессиональные учетные записи для доступа к данным компании без ведома администратора.
Ещё одна серьёзная проблема — это устойчивость. Если злоумышленнику удастся внедрить правило в память агента, он может создать зомбиподобное поведение, при котором ИИ будет выполнять шаги по утечке данных при каждом взаимодействии. Поэтому рекомендуется всегда применять принцип минимальных привилегий , предоставляя агенту только тот доступ, который строго необходим для выполнения его задачи.
Безопасная установка и ввод в эксплуатацию
Если вы собираетесь внедрить облачные технологии в своей организации, лучше всего начать с очень ограниченного пилотного проекта . Сначала определите, каким сотрудникам необходима эта возможность, и проверьте права доступа к их подключенным учетным записям. Крайне важно тщательно настроить облачный браузер; например, вы можете отключить доступ в интернет для кода или заблокировать определенные домены, чтобы предотвратить посещение агентом нежелательных веб-сайтов.
При увольнении сотрудника необходимо тщательно провести процедуру оформления. Простого удаления доступа к рабочему пространству недостаточно; Dot следует приостановить или удалить вручную, а сеансы в подключенных приложениях следует аннулировать. Поскольку Dot может содержать запланированные задачи, крайне важно убедиться, что никакие фоновые процессы не продолжают работать после того, как сотрудник закончил набор текста.
Внедрение таких агентов требует баланса между возможностями автоматизации и строгим управлением идентификацией . Рассматривая каждую точку как служебную учетную запись с постоянной памятью и возможностями автономного выполнения действий, организации могут обеспечить непрерывность бизнеса, не подвергая себя риску утечек данных или несанкционированного выполнения, при условии поддержания активного мониторинга и внешних журналов аудита.