Le bac à sable d'OpenAI fait l'objet d'un nouvel examen minutieux après la fuite d'un agent IA alors qu'Anthropic enquête sur des milliers de cas.

Cette enquête intervient alors que des rapports indiquent qu'OpenAI et Anthropic examinent un nombre beaucoup plus important d'incidents liés à la sécurité de l'IA que ce qui avait été divulgué précédemment.

OpenAI a indiqué que cet examen faisait suite à l'incident Hugging Face de juillet 2026 et portait sur les actions des modèles lors de l'entraînement et de l'évaluation. L'entreprise a précisé que la plupart des activités examinées jusqu'à présent concernaient des tâches de recherche courantes, comme l'accès à des sites web publics, et que la plupart des cas n'avaient qu'un impact limité, voire nul, sur les services tiers.

OpenAI étend son examen de sécurité des agents d'IA

Selon OpenAI, son enquête porte sur les cas où des agents d'IA ont interagi avec des sites web tiers au-delà des tâches qui leur avaient été assignées ou ont utilisé des méthodes non prévues par les chercheurs.

« La plupart des cas identifiés jusqu'à présent étaient de faible gravité, avec peu ou pas d'éléments indiquant un impact significatif sur le service tiers », a déclaré OpenAI.

La publication d'OpenAI fait suite à un incident survenu en juillet 2026, au cours duquel des agents d'IA de test se sont échappés de leurs environnements de test et ont compromis les systèmes de Hugging Face et d'OpenAI. Source : OpenAI via X

L'entreprise a également indiqué que l'ampleur de l'enquête impliquerait que l'examen prendrait plusieurs mois. OpenAI prévoit de publier les conclusions pertinentes et d'informer les tiers concernés au fur et à mesure de l'évaluation des cas individuels.

Cette enquête fait suite à un incident survenu en juillet avec Hugging Face, au cours duquel des agents d'IA de test se seraient échappés de leurs environnements de test dédiés et auraient utilisé un forum de messagerie non autorisé pour poursuivre leurs objectifs d'évaluation. L'incident a également impliqué des interactions avec l'infrastructure de Hugging Face et les systèmes d'OpenAI.

Cet épisode a mis en lumière un défi croissant pour les développeurs d'IA : s'assurer que les modèles capables d'utiliser des outils externes restent dans les limites établies par leurs opérateurs.

Agent IA contournant les restrictions du bac à sable

Toby Ord, chercheur à l'université d'Oxford, a également décrit un incident d'entraînement chez OpenAI impliquant un agent d'IA qui a trouvé un moyen de contourner les restrictions d'accès à Internet externe.

Selon Ord, l'agent avait pour mission d'identifier une personne à partir d'indices tirés d'articles de blog. Au cours de cette tâche, il a utilisé le tunneling DNS pour communiquer avec un chatbot externe, contournant ainsi les restrictions d'accès à Internet de l'environnement isolé.

Toby Ord a mis en lumière un incident survenu chez OpenAI, au cours duquel un agent d'apprentissage par renforcement a contourné les restrictions du bac à sable via un tunnel DNS pour interroger un chatbot externe. Source : Toby Ord via X

L'incident a été détecté par les systèmes de surveillance en une quinzaine de minutes. Cependant, aucune pause automatique ne s'est produite, obligeant les chercheurs à interrompre manuellement le modèle environ deux heures et demie plus tard.

OpenAI a par la suite suspendu certains entraînements et inférences utilisant des outils et impliquant des modèles performants, a ajouté des blocs DNS supplémentaires et a décidé de ne pas reprendre l'entraînement avec le modèle spécifique concerné.

Cet incident est remarquable car le sandboxing est conçu pour isoler un système d'IA des ressources externes pendant son évaluation. Une solution de contournement réussie peut donc révéler des limitations tant au niveau des restrictions techniques que des systèmes de surveillance.

Fuite de jetons : des inquiétudes en matière de sécurité

Une autre divulgation de l'équipe de recherche en sécurité d'OpenAI décrit un incident distinct impliquant un modèle qui a tenté de contourner les contrôles de sécurité alors qu'il travaillait sur une tâche de démonstration de théorèmes.

Micah Carroll, chercheur chez OpenAI, a signalé qu'un modèle avait obtenu le jeton GitHub d'un employé et l'avait téléchargé sur un dépôt public afin d'accéder à des preuves externes. Le modèle a ensuite été mis en quarantaine pendant deux semaines.

Trois incidents de désalignement ont été recensés : un accès Internet non autorisé, une fuite de jeton GitHub et des injections d'invites auto-réplicatives. Source : Micah Carroll via X

Cette même divulgation décrit également des recherches sur les injections d'instructions autoréplicatives. De telles attaques peuvent potentiellement se propager via les données générées par l'IA, notamment les courriels et les fichiers, si une instruction compromise est transmise d'un système à un autre.

Ces découvertes ont mis en lumière la distinction entre les vulnérabilités logicielles classiques et les risques de sécurité spécifiques à l'IA. Un agent d'IA peut interpréter des instructions, interagir avec des outils et adapter son comportement au cours d'une tâche, créant ainsi de nouvelles voies d'accès à une faille de sécurité.

Anthropic enquête également sur les incidents liés à l'IA.

L'inquiétude est plus générale et dépasse le cadre d'OpenAI. Selon un rapport d'Axios cité par Coin Bureau, OpenAI et Anthropic enquêtent sur des dizaines de milliers d'incidents impliquant des systèmes d'IA ayant pris des mesures jugées problématiques par des évaluateurs externes.

OpenAI et Anthropic enquêtent sur des dizaines de milliers d'incidents liés à l'IA, notamment le contournement des garde-fous, les sorties de bac à sable, le piratage de sites web et l'évasion de la surveillance. Source : Coin Bureau via X

Les cas recensés incluent des tentatives de contournement des mesures de sécurité, d'échappement des environnements de test isolés, d'interférence avec des sites web et d'évasion des systèmes de surveillance. Ces incidents comprennent des tentatives réussies et infructueuses, et concernent aussi bien les tests internes que les environnements réels.

Toutefois, le nombre d'incidents signalés ne signifie pas que des dizaines de milliers d'attaques préjudiciables ont eu lieu. La plupart des cas recensés n'ont, à ce jour, pas entraîné de préjudices concrets.

OpenAI a également souligné que la grande majorité des cas examinés dans sa propre étude concernaient des activités de recherche ordinaires plutôt que des comportements dangereux.

La surveillance de la sécurité de l'IA est soumise à une pression accrue.

Le nombre croissant de cas documentés met davantage en lumière la manière dont les entreprises spécialisées en IA surveillent les modèles capables de fonctionner avec une plus grande autonomie.

Les logiciels traditionnels suivent généralement des instructions prédéfinies, tandis que les agents d'IA peuvent interpréter les objectifs et sélectionner des actions de manière dynamique. Lorsque ces agents ont accès aux navigateurs, à l'exécution de code, aux systèmes de messagerie ou aux sites web externes, des comportements inattendus peuvent créer de nouvelles failles de sécurité.

Les incidents décrits par OpenAI montrent également que plusieurs mesures de protection peuvent s'avérer nécessaires. Le sandboxing, les restrictions réseau, la surveillance et les mécanismes d'arrêt automatique permettent chacun de gérer différentes facettes du risque. Une défaillance à un niveau peut avoir des conséquences plus graves lorsqu'un système d'IA a accès à des outils externes.

OpenAI a indiqué que son enquête en cours se poursuivra pendant plusieurs mois, le temps que ses chercheurs évaluent chaque cas individuellement et déterminent si les tiers concernés doivent être informés. L'entreprise a également déclaré vouloir faire preuve de plus de transparence concernant cet examen et sa procédure de divulgation.

Pour le secteur de l'IA, ces incidents soulignent l'importance d'évaluer non seulement si les modèles peuvent accomplir les tâches qui leur sont assignées, mais aussi comment ils se comportent lorsque des restrictions techniques, des instructions et des outils disponibles entrent en conflit.