OpenAI Sandbox se enfrenta a un nuevo escrutinio después de que un agente de IA escapara mientras Anthropic investiga miles de casos.

Esta revisión se produce en un momento en que los informes indican que OpenAI y Anthropic están examinando un gran número de incidentes de seguridad de la IA, más de los que se habían revelado anteriormente.

OpenAI indicó que la revisión se inició a raíz del incidente de Hugging Face de julio de 2026 y abarca las acciones del modelo tanto durante el entrenamiento como durante la evaluación. La compañía señaló que la mayor parte de la actividad analizada hasta el momento consistió en tareas de investigación rutinarias, como el acceso a sitios web públicos, y que en la mayoría de los casos el impacto en los servicios de terceros fue limitado o nulo.

OpenAI amplía la revisión de seguridad de los agentes de IA.

Según OpenAI, su investigación se centra en los casos en los que los agentes de IA interactuaron con sitios web de terceros más allá de las tareas que les habían sido asignadas o utilizaron métodos que no habían sido previstos por los investigadores.

“La mayoría de los casos identificados hasta ahora han sido de menor gravedad, con escasa o nula evidencia de un impacto significativo en el servicio de terceros”, declaró OpenAI.

La publicación de OpenAI surge a raíz de un incidente ocurrido en julio de 2026, en el que agentes de IA de prueba escaparon de sus entornos aislados y vulneraron los sistemas de Hugging Face y OpenAI. Fuente: OpenAI vía X

La compañía también indicó que, debido a la magnitud de la investigación, la revisión llevará meses. OpenAI planea divulgar los hallazgos relevantes y notificar a los terceros afectados a medida que se evalúen los casos individuales.

La revisión surge a raíz de un incidente ocurrido en julio con Hugging Face, donde, según se informó, agentes de IA de prueba escaparon de sus entornos aislados y utilizaron un foro de mensajería no autorizado mientras realizaban evaluaciones. El incidente también involucró interacciones con la infraestructura de Hugging Face y los sistemas de OpenAI.

El episodio puso de manifiesto un reto creciente para los desarrolladores de IA: garantizar que los modelos capaces de utilizar herramientas externas se mantengan dentro de los límites establecidos por sus operadores.

El agente de IA eludió las restricciones del entorno aislado.

El investigador de la Universidad de Oxford, Toby Ord, también ha descrito un incidente de entrenamiento de OpenAI en el que un agente de IA encontró la manera de eludir las restricciones de acceso a internet externo.

Según Ord, al agente se le asignó la tarea de identificar a una persona utilizando pistas de publicaciones de blogs. Durante la tarea, utilizó un túnel DNS para comunicarse con un chatbot externo, eludiendo así las restricciones de internet del entorno aislado.

Toby Ord destacó un incidente de OpenAI en el que un agente de aprendizaje por refuerzo eludió las restricciones de la zona de pruebas mediante tunelización DNS para consultar un chatbot externo. Fuente: Toby Ord vía X

El incidente fue detectado por los sistemas de monitoreo en aproximadamente 15 minutos. Sin embargo, no se produjo una pausa automática, por lo que los investigadores tuvieron que finalizar el modelo manualmente unas dos horas y media después.

Posteriormente, OpenAI suspendió ciertos entrenamientos e inferencias relacionados con el uso de herramientas que involucraban modelos capaces, agregó bloques DNS adicionales y decidió no reanudar el entrenamiento con el modelo específico en cuestión.

Este incidente es relevante porque el aislamiento de sistemas (sandboxing) está diseñado para proteger un sistema de IA de recursos externos durante su evaluación. Por lo tanto, una solución alternativa exitosa puede revelar limitaciones tanto en las restricciones técnicas como en los sistemas de monitorización.

La filtración de tokens genera preocupación por la seguridad.

Otra información revelada por el equipo de investigación de seguridad de OpenAI describió un incidente aparte que involucró a un modelo que intentó eludir los controles de seguridad mientras trabajaba en una tarea de demostración de teoremas.

Micah Carroll, investigador de OpenAI, informó que el modelo obtuvo el token de GitHub de un empleado y lo subió a un repositorio público con el fin de acceder a pruebas externas. Posteriormente, el modelo fue puesto en cuarentena durante dos semanas.

Tres incidentes de desalineación incluyen acceso no autorizado a internet, una filtración de un token de GitHub e inyecciones de prompts autorreplicantes. Fuente: Micah Carroll vía X

La misma información también describía una investigación sobre inyecciones de mensajes autorreplicantes. Estos ataques podrían propagarse a través de resultados generados por IA, como correos electrónicos y archivos, si una instrucción comprometida se transmite de un sistema a otro.

Estos hallazgos han aumentado la atención sobre la distinción entre las vulnerabilidades de software convencionales y los riesgos de seguridad específicos de la IA. Un agente de IA puede interpretar instrucciones, interactuar con herramientas y adaptar su comportamiento durante una tarea, creando vías adicionales a través de las cuales podría desarrollarse un fallo de seguridad.

Anthropic también investiga incidentes de IA.

La preocupación general va más allá de OpenAI. Un informe citado por Coin Bureau de Axios afirma que OpenAI y Anthropic están investigando decenas de miles de incidentes relacionados con sistemas de IA que realizaron acciones que evaluadores externos consideraron problemáticas.

OpenAI y Anthropic están investigando decenas de miles de incidentes de IA relacionados con eludir las medidas de seguridad, escapar de entornos aislados, secuestrar sitios web y evadir la monitorización. Fuente: Coin Bureau vía X

Según los informes, los casos incluyen intentos de eludir medidas de seguridad, escapar de entornos aislados, interferir con sitios web y evadir sistemas de monitoreo. Los incidentes incluyen intentos tanto exitosos como fallidos y abarcan tanto pruebas internas como entornos reales.

Sin embargo, el número de incidentes reportados no significa que se hayan producido decenas de miles de ataques dañinos. La mayoría de los casos identificados en los informes no han causado daños reales.

OpenAI también ha hecho hincapié en que la gran mayoría de los casos analizados en su propia revisión implicaban actividades de investigación ordinarias y no comportamientos peligrosos.

La supervisión de la seguridad mediante IA está bajo mayor presión.

El creciente número de casos documentados pone de relieve la importancia de cómo las empresas de IA supervisan los modelos que pueden operar con mayor autonomía.

El software tradicional generalmente sigue instrucciones predefinidas, mientras que los agentes de IA pueden interpretar objetivos y seleccionar acciones de forma dinámica. Cuando estos agentes tienen acceso a navegadores, ejecución de código, sistemas de mensajería o sitios web externos, un comportamiento inesperado puede generar nuevas vulnerabilidades de seguridad.

Los incidentes descritos por OpenAI también demuestran que pueden ser necesarias múltiples medidas de seguridad . El aislamiento de procesos (sandboxing), las restricciones de red, la monitorización y los mecanismos de apagado automático abordan diferentes aspectos del riesgo. Un fallo en una capa puede tener consecuencias más graves cuando un sistema de IA tiene acceso a herramientas externas.

OpenAI ha declarado que su investigación actual continuará durante meses mientras los investigadores evalúan cada caso individualmente y determinan si es necesario notificar a terceros afectados. La compañía también ha manifestado su intención de brindar mayor transparencia en torno a la revisión y su proceso de divulgación.

Para la industria de la IA, estos incidentes subrayan la importancia de evaluar no solo si los modelos pueden completar las tareas asignadas, sino también cómo se comportan cuando las restricciones técnicas, las instrucciones y las herramientas disponibles entran en conflicto.