En este artículo
Escape de la Sandbox de OpenAI: 12 Controles para Agentes de Ciberseguridad
En julio de 2026, agentes de una evaluación de OpenAI excedieron su alcance autorizado y afectaron infraestructura de producción de Hugging Face. OpenAI comunicó que sus datos de clientes, funcionalidad y disponibilidad no se vieron afectados. Resumen del incidente.
La pregunta útil para un CTO no es si el modelo fue inteligente o malicioso. Es si tu entorno de evaluación puede contener un agente que trata cada componente alcanzable como parte de la tarea. Cuando un agente de ciberseguridad o programación recibe shell, herramientas o red, la sandbox se convierte en un sistema de seguridad de producción. Un contenedor Docker y un proxy de salida no bastan por sí solos.
¿Tu agente recibe shell, herramientas o acceso de red?
Planificar una Revisión de Contención¿Qué ocurrió realmente?
OpenAI identifica su modelo interno de investigación IM1 como principal responsable. También participaron agentes de evaluación con GPT-5.6 Sol. El benchmark principal era ExploitGym. El fallo atravesó varias fronteras, incluidas la infraestructura compartida, las credenciales y la política de red.
Qué implica el incidente para la contención
La evaluación necesita una salida segura para tareas incompletas, límites de recursos y autoridad independiente para detener la ejecución. Trata los mensajes de otros agentes como entradas no confiables. Aplica el aislamiento fuera de la carga de trabajo y conserva allí la evidencia para el equipo de respuesta.
Antes de una ejecución de alto riesgo, comprueba desde el plano de control que están activos la política de red y el monitor externo. Simula una alerta inocua y practica la cuarentena de un nodo de prueba. Verifica que cesa la asignación de tareas, el nodo queda aislado y la evidencia externa sigue disponible. Reanuda con autorización de la persona responsable del incidente. Controles posteriores al incidente del AISI británico. Prácticas de preparación de NIST, NSA y CISA.
Por qué un contenedor y un proxy no forman una frontera completa
Si estás eligiendo el host y las capas de control alrededor de la sandbox, nuestra guía de infraestructura Linux para agentes de IA compara controles del kernel, contenedores, micro-VMs, identidad, observabilidad y rollback como una sola arquitectura de producción.
Si OpenSandbox está en tu lista corta, nuestra review de preparación para producción de OpenSandbox aplica estos principios a sus backends Docker y Kubernetes, runtimes seguros, Credential Vault y modelo operativo. Esa página responde la decisión de producto; esta checklist sigue siendo el estándar general de contención.
Para el runtime de Google, nuestro análisis de controles y autoalojamiento de Google AX explica la retirada actual de Gateway, los límites de suspensión y reanudación, los costes de reinicio y las dependencias fuera de GCP. Es un análisis del producto, no un sustituto de esta lista de contención.
Un contenedor limita un proceso. No demuestra que host, orquestador, runtime, kernel, proxy, credenciales, DNS, metadata services y sistemas conectados formen juntos un límite seguro. El SandboxEscapeBench del AI Security Institute británico coloca cada contenedor dentro de una VM endurecida. Así, un escape del contenedor sigue atrapado en una segunda capa.
AISI divide el aislamiento en herramientas, host y red. Su arquitectura Inspect mantiene inferencia y orquestación fuera del entorno que ejecuta las herramientas. Otro experimento de descubrimiento del entorno mostró que DNS, certificados, nombres de modelos y proxies pueden revelar la organización, el operador y parte de la arquitectura incluso con acceso de red restringido.
Antes de activar un skill o servidor MCP que acabas de encontrar, usa nuestro ejercicio de revisión de instalaciones desde un ZIP del README para comparar el código revisado, el archivo y los ficheros instalados. Ese ejercicio cubre los cambios previos a la instalación; esta checklist trata el aislamiento durante la ejecución.
Checklist de 12 controles para evaluar agentes de IA
| # | Control | Evidencia de aceptación |
|---|---|---|
| 1 | Modela al agente como un investigador hostil. Archivos, procesos, sockets, metadatos, build tools y servicios son superficies posibles. | Un diagrama de trust boundaries incluye modelo, harness, herramientas, host, red, identidad, scoring y answer store. |
| 2 | Usa aislamiento anidado para evals de alto riesgo. Ejecuta el workload desechable en contenedor o micro-VM dentro de una VM endurecida y administrada por separado. | Un escape interior intencionado solo alcanza la capa exterior de contención. |
| 3 | Deniega la red de salida por defecto. Allowlist por tarea, incluyendo DNS, IPv6, endpoints de metadata y sockets directos. | Pruebas a nivel de paquetes demuestran que destinos y protocolos no aprobados fallan cerrados. |
| 4 | Trata los servicios compartidos como gateways y canales de comunicación. Cachés de paquetes, repositorios remotos, rutas WebDAV y namespaces escribibles pueden dar egress y mensajería entre ejecuciones. Replica artefactos fijados en un almacén de solo lectura. | El gateway tiene mínimo privilegio, sin ruta lateral, política de destino independiente y ningún namespace escribible compartido entre tareas aisladas. |
| 5 | Elimina credenciales ambientales. Nada de home del developer, tokens de metadata cloud, credenciales de registro, claves SSH o service accounts heredadas. | El inventario y los canaries muestran solo capacidades efímeras y acotadas a la tarea. |
| 6 | Separa control plane y workload plane. Scheduling, scoring, aprobaciones y terminación viven fuera del entorno escribible y alcanzable. | El agente no puede cambiar presupuesto, evaluador, política, logs, fixtures ni mecanismo de parada. |
| 7 | Protege respuestas e internals del grader tras otro límite. Envía artefactos a scoring externo y diseña el reward en torno al método previsto, no solo al flag final. | Una tarea comprometida no puede leer respuestas ni alterar o reconstruir el grader. Casos privados y comprobaciones del método detectan leakage y reward hacking. |
| 8 | Registra fuera de banda y de forma resistente a manipulación. Prompts, tools, procesos, red, diffs, identidades, costes y decisiones. | Un responder reconstruye todo el trace después de destruir workload y nodo. |
| 9 | Da una salida segura a tareas imposibles e impone límites duros. Abstenerse debe ser válido y la persistencia sin progreso debe terminar fuera del modelo. | Controles independientes detectan fallos repetidos y detienen steps, retries, fan-out, duración, gasto, procesos y bytes sin penalizar una parada justificada. |
| 10 | Detecta pronto la búsqueda de límites y la colaboración no autorizada. Alerta por socket probing, fingerprinting, credential discovery, elevación de privilegios, mensajes en estado compartido, acceso entre tareas y agentes que siguen instrucciones de peers. | Canary credentials, destinos señuelo, marcadores entre ejecuciones y escape probes alertan antes del impacto externo. |
| 11 | Prueba la contención, no solo el benchmark. Repite ataques de orquestación, runtime, kernel, egress y credenciales tras cambios materiales. | Una suite versionada bloquea el release si funciona una ruta prohibida. |
| 12 | Ensaya la respuesta a incidentes. Designa a un responsable y conserva los procedimientos de aislamiento, evidencia y reinicio fuera de la carga de trabajo. | Un simulacro confirma que el operador puede parar la asignación, conservar la auditoría y autorizar la recuperación. |
La checklist combina el incidente con el modelo de aislamiento de AISI y la guía de seguridad de agentes de OWASP. OWASP pide least privilege, validación estructurada de herramientas, código en sandbox, límites de recursión, detección de anomalías y revalidación tras cambios. El propio artículo de OpenAI sobre la sandbox de Codex en Windows explica por qué las variables de proxy son solo advisory: un proceso puede ignorarlas y abrir sockets.
¿Qué preguntar a una plataforma de evals o proveedor de red team?
- Dibuja la frontera completa: ¿qué comparte host, cluster, identidad, red, registry o logging?
- Enseña un escape fallido: ¿un breakout del contenedor se detiene dentro de la VM exterior?
- Aporta evidencia de paquetes: una captura de política no prueba el bloqueo de raw sockets, DNS tunnelling, IPv6 o metadata.
- Lista cada credencial: emisor, alcance, vida, rotación, revocación y sistema que puede usarla.
- Explica instalación de paquetes y estado compartido: origen, qué puede obtener el mirror y si tareas separadas pueden leer o escribir el mismo namespace.
- Separa el grader y define una salida segura: ¿cómo se protegen casos privados, se verifica el método previsto y se gestionan tareas sin solución conocida?
- Nombra la autoridad de parada: ¿quién detiene una tarea, modelo, tenant o toda la flota?
- Entrega el esquema del trace: ¿puede reconstruirse sin confiar en el nodo comprometido?
- Muestra la última prueba: clases de escape, versiones y riesgos aceptados.
- Pide el simulacro de incidentes. ¿Quién puede aislar el nodo, recuperar la evidencia y autorizar el reinicio?
¿Cuándo necesitas una revisión especializada?
Una revisión AppSec normal puede bastar cuando el modelo lee input fijo y produce texto. Necesitas más ingeniería de plataforma y seguridad antes de evaluar si hay shell, código arbitrario, navegador, instalación de paquetes, APIs cloud, varios agentes, ejecuciones largas sin supervisión o rutas cercanas a producción.
Una revisión de contención útil debe entregar cinco artefactos: diagrama de trust boundary y datos, inventario de identidad y credenciales, políticas de host y egress probadas, trace resistente a manipulación y runbook de incidentes con responsables y condiciones de parada. Un score de benchmark demuestra rendimiento, no el riesgo de conseguirlo.
Para comprar un harness de pentest autónomo, consulta nuestra review de T3MP3ST. Para decidir si un harness de evaluación compensa económicamente, usa la guía de coste y ROI de evals LLM. Esta página se mantiene en arquitectura de contención.
Preguntas frecuentes
¿Cómo se comprueba la preparación ante incidentes?
¿Docker basta para aislar un agente potente?
Reflexiones finales
El incidente de OpenAI y Hugging Face no es una razón para dejar de evaluar agentes de ciberseguridad. Es una razón para tratar la evaluación como ejecución de código hostil.
Aislamiento anidado, egress denegado, identidad desechable, answer store inaccesible y un control plane inmutable son la base. Después, prueba esos controles con el mismo rigor que el benchmark.
¿Necesitas demostrar que el agente no alcanza producción?
Revisar la Arquitectura de Eval