- Les Dots sont des agents permanents dotés d'une mémoire et d'équipements basés sur le cloud qui nécessitent un contrôle d'accès basé sur les rôles (RBAC) pour prévenir les abus.
- La sécurité repose sur plusieurs niveaux de vérification automatique et sur l'entraînement du modèle GPT-6 pour atténuer les injections rapides.
- La gestion de la mémoire persistante et des journaux d'audit via l'API de conformité est essentielle pour le suivi des actions autonomes.
Imaginez un assistant qui n'oublie jamais rien, même si vous fermez l'onglet de votre navigateur ou que plusieurs jours passent. C'est précisément le principe des Dots d'OpenAI : des agents personnels toujours disponibles qui peuvent suivre un projet, gérer des tâches récurrentes et passer d'une application à l'autre sans que vous ayez à tout réexpliquer à chaque nouvelle conversation.
En réalité, c'est une véritable révolution, mais bien sûr, l'introduction d'un agent aussi autonome en entreprise soulève d'importantes questions de sécurité . Il ne s'agit plus d'une simple conversation avec une IA, mais d'une identité numérique dotée de mémoire et d'autorisations permettant d'agir en votre nom, obligeant les administrateurs à renforcer considérablement le contrôle d'accès et la surveillance.
Comment fonctionnent réellement les Dots ?
A dot n'est pas qu'une simple application de messagerie instantanée avancée ; elle dispose de son propre ordinateur virtuel dans le cloud et d'un navigateur distinct. Cela lui permet d'effectuer des recherches proactives : elle peut ainsi rechercher les mises à jour des applications auxquelles vous êtes connecté sans même que vous ayez à le demander, et enregistrer des notes privées pour vous fournir ultérieurement un résumé concis. Afin de garantir une sécurité optimale, elle s'appuie sur l'infrastructure ChatGPT Work, dont elle bénéficie pour ses protections de la vie privée.
Le flux de travail est flexible : les utilisateurs peuvent coordonner les tâches dans le cloud ou, avec l’autorisation de l’administrateur, accéder à l’ ordinateur local de l’employé. Dans ce dernier cas, le système peut lire les fichiers de l’ordinateur portable de l’utilisateur en respectant les politiques de sécurité locales. De plus, ils ont la possibilité de déléguer des tâches à d’autres systèmes, comme Codex Cloud pour la programmation, toujours dans le respect des limites de l’environnement sélectionné.
Protection de sécurité et contrôle d'accès
Pour éviter que les comptes automatisés ne soient utilisés à des fins malveillantes, un système de contrôle d'accès basé sur les rôles (RBAC) est mis en place . L'administrateur décide ainsi qui peut disposer d'un compte automatisé et quelles actions lui sont autorisées. La sécurité est organisée en plusieurs niveaux : d'abord, des règles personnalisées, puis une vérification automatisée qui fait office de filtre, contrôlant la conformité d'une action (comme l'envoi d'un e-mail) aux règles avant son exécution. Si l'action est suspecte, le système peut la bloquer ou demander une confirmation humaine.
Un point crucial est la lutte contre l'injection de prompts . OpenAI a entraîné ses modèles GPT-6 à ignorer les instructions malveillantes dissimulées dans des fichiers ou des sites web. Bien qu'il soit admis qu'éliminer totalement ce risque est quasiment impossible, les taux de réussite des attaques ont considérablement diminué entre les versions récentes et les versions antérieures, ce qui rend l'agent plus résistant aux pièges externes.
Gestion des données, mémoire et confidentialité
Dans le monde des affaires, la règle d'or est de ne pas utiliser les données pour l'entraînement des modèles par défaut. Le point dispose de sa propre mémoire où sont stockés le contexte et les décisions, mais il est crucial de savoir que si vous le supprimez, son contexte et ses notes privées disparaissent sous 30 jours. Cependant, il convient de prêter attention à la mémoire générale de ChatGPT, car certaines interactions peuvent y rester enregistrées et doivent être gérées séparément.
Pour ceux qui exigent un contrôle total, il existe l' API de conformité . Grâce à elle, les responsables de la sécurité peuvent suivre l'activité de l'agent et corréler les journaux avec ceux du service externe (comme Slack). Il est ainsi possible de savoir précisément qui a autorisé une action et quel en a été le résultat. Cependant, OpenAI prévient que toutes les routes internes des sous-agents ne sont pas visibles en temps réel.
Risques réels : excès d’agences et d’agents occultes
Tout n'est pas rose. Le concept d' abus de pouvoir survient lorsqu'un agent dispose de trop d'autorisations et finit par commettre des actes préjudiciables en raison d'instructions ambiguës ou manipulées. Si un utilisateur possède ses propres identifiants et que les règles sont très laxistes, le risque qu'il dérape s'accroît. À cela s'ajoute le danger des agents fantômes : des employés qui utilisent des comptes Pro personnels pour accéder aux données de l'entreprise à l'insu de l'administrateur.
Un autre problème majeur concerne la persistance. Si un attaquant parvient à implanter une règle dans la mémoire de l'agent, il pourrait créer un comportement de type zombie, où l'IA exécute des fuites de données à chaque interaction. Par conséquent, il est recommandé d'appliquer systématiquement le principe du moindre privilège , en n'accordant à l'agent .dot que les accès strictement nécessaires à sa tâche.
Installation et mise en service sécurisées
Si vous envisagez de déployer des points de confiance au sein de votre organisation, il est préférable de commencer par un projet pilote très limité . Commencez par identifier les employés qui ont besoin de cette fonctionnalité et vérifiez les autorisations de leurs comptes connectés. Il est essentiel de configurer soigneusement le navigateur cloud ; par exemple, vous pouvez désactiver l’accès à Internet pour le code ou bloquer certains domaines afin d’empêcher l’agent de consulter des sites web indésirables.
Lorsqu'un employé quitte l'entreprise, la procédure de départ doit être rigoureuse. La simple suppression de l'accès à l'espace de travail ne suffit pas ; l'appareil Dot doit être mis en pause ou supprimé manuellement, et les sessions dans les applications connectées doivent être révoquées. L'appareil Dot pouvant exécuter des tâches planifiées, il est essentiel de vérifier qu'aucun processus en arrière-plan ne continue de s'exécuter une fois que l'employé a terminé de saisir du texte.
Tout déploiement de ces agents exige un équilibre entre la puissance de l'automatisation et une gouvernance rigoureuse des identités . En considérant chaque point comme un compte de service doté d'une mémoire persistante et de capacités d'action autonomes, les organisations peuvent garantir la continuité de leurs activités sans s'exposer à des fuites de données ni à des exécutions non autorisées, à condition de maintenir une surveillance active et des journaux d'audit externes.
