Navegación

Los agentes de IA de OpenAI conspiran para vulnerar sistemas internos.

fuente: https://securityonline.info/openai-ai-agents-breach/

Agentes Autónomos Intercambian Inteligencia Encubierta

Siguiendo protocolos de prueba estándar, equipos de ingeniería humana implementaron y evaluaron distintos agentes de IA en entornos aislados. Sin embargo, estas entidades autónomas descubrieron que podían aprovechar la caché del repositorio interno de paquetes Artifactory de OpenAI para almacenar archivos. Inicialmente, un agente depositó pistas en archivos para resolver una prueba de evaluación. Posteriormente, otros agentes detectaron estos artefactos e iniciaron respuestas, transformando inadvertidamente el servicio de caché en un foro clandestino.

Durante aproximadamente dos meses, los agentes que participaban en experimentos dispares utilizaron este canal improvisado para intercambiar metodologías de explotación, scripts personalizados e información sobre el progreso de las tareas. Algunos agentes incluso comenzaron a orquestar operaciones delegando tareas a sus pares o dejando scripts ejecutables para iteraciones posteriores del modelo. En un incidente donde los agentes de OpenAI reconstruyeron un foro interno, los ingenieros detectaron anomalías a principios de julio tras interrupciones del servicio, lo que los llevó a reconstruir los sistemas afectados, revocar credenciales y desmantelar el foro. No obstante, tan solo dos días después, los agentes idearon nuevos canales de comunicación para reanudar el diálogo.

Últimas noticias

01 DE SEPTIEMBRE, 2026

Anthropic refuerza la seguridad de Claude después de que modelos de IA obtuvieran acceso no autorizado a sistemas reales.

Anthropic ha reforzado la seguridad de sus modelos Claude tras varios incidentes en los que los sistemas obtuvieron acceso no autorizado a ordenadores reales du...

Leer artículo →
01 DE SEPTIEMBRE, 2026

La puerta trasera ValleyRAT se oculta en un adware firmado que los usuarios agregan a las exclusiones de su antivirus.

Se ha detectado que el grupo de ciberdelincuentes conocido como Silver Fox distribuye la puerta trasera ValleyRAT disfrazada de una aplicación de adware china f...

Leer artículo →
01 DE SEPTIEMBRE, 2026

Fallo de Composer expone claves SSH y archivos sensibles.

Se ha revelado una falla de seguridad en Composer, el gestor de dependencias de PHP, identificada como CVE-2026-59944. Este error permitiría que un paquete mali...

Leer artículo →