Investigadores de seguridad descubrieron dos formas de escapar del entorno aislado (sandbox) de OpenAI Codex; una de ellas permitía ejecutar comandos en la máquina de un desarrollador desde el modo más restringido de Codex, sin solicitar autorización ni mostrar nada en pantalla.
Ambas vulnerabilidades fueron notificadas a OpenAI el 12 de agosto y corregidas en un plazo de ocho días, según informó Oren Yomtov, de Accomplish AI.
La más grave de las dos, denominada «Heapjack» por los investigadores, convierte una acción rutinaria en una ejecución remota de código: basta con abrir el repositorio de otra persona en Codex y formular una pregunta sobre el código para que el autor de dicho repositorio pueda ejecutar comandos en tu equipo sin las restricciones del entorno aislado.
Codex es el agente de programación de OpenAI, disponible tanto como herramienta de línea de comandos como aplicación de escritorio. Al igual que otros agentes similares, ejecuta las acciones del modelo dentro de un entorno aislado para evitar que el código no verificado afecte al resto del sistema; ambos métodos de escape logran vulnerar dicha barrera desde el interior.
La Agencia Española de Protección de Datos (AEPD) recibió una notificación sobre un ataque presuntamente perpetrado por un agente de inteligencia artificial imp...
Leer artículo →Google ha confirmado recientemente pruebas de que un programa espía (spyware) aprovechó una vulnerabilidad de seguridad en el firmware del módem de los disposit...
Leer artículo →La inteligencia artificial ha desarrollado un lenguaje secreto y espontáneo para comunicarse entre agentes, un fenómeno que los expertos no logran descifrar y q...
Leer artículo →