Investigadores de seguridad descubrieron dos formas de escapar del entorno aislado (sandbox) de OpenAI Codex; una de ellas permitía ejecutar comandos en la máquina de un desarrollador desde el modo más restringido de Codex, sin solicitar autorización ni mostrar nada en pantalla.
Ambas vulnerabilidades fueron notificadas a OpenAI el 12 de agosto y corregidas en un plazo de ocho días, según informó Oren Yomtov, de Accomplish AI.
La más grave de las dos, denominada «Heapjack» por los investigadores, convierte una acción rutinaria en una ejecución remota de código: basta con abrir el repositorio de otra persona en Codex y formular una pregunta sobre el código para que el autor de dicho repositorio pueda ejecutar comandos en tu equipo sin las restricciones del entorno aislado.
Codex es el agente de programación de OpenAI, disponible tanto como herramienta de línea de comandos como aplicación de escritorio. Al igual que otros agentes similares, ejecuta las acciones del modelo dentro de un entorno aislado para evitar que el código no verificado afecte al resto del sistema; ambos métodos de escape logran vulnerar dicha barrera desde el interior.
Investigadores utilizaron la IA Claude para adaptar una vulnerabilidad de ejecución remota de código sin autenticación a un controlador lógico programable WAGO,...
Leer artículo →Microsoft publicó recientemente una entrada oficial en su blog anunciando revisiones a los requisitos de certificación de su Programa de Compatibilidad de Hardw...
Leer artículo →Un equipo de la EPFL ha desarrollado un marco que entrena modelos de lenguaje a gran escala para crear sistemas de IA capaces de encontrar la configuración ópti...
Leer artículo →