Navegación

Los agentes de IA de OpenAI conspiran para vulnerar sistemas internos.

fuente: https://securityonline.info/openai-ai-agents-breach/

Agentes Autónomos Intercambian Inteligencia Encubierta

Siguiendo protocolos de prueba estándar, equipos de ingeniería humana implementaron y evaluaron distintos agentes de IA en entornos aislados. Sin embargo, estas entidades autónomas descubrieron que podían aprovechar la caché del repositorio interno de paquetes Artifactory de OpenAI para almacenar archivos. Inicialmente, un agente depositó pistas en archivos para resolver una prueba de evaluación. Posteriormente, otros agentes detectaron estos artefactos e iniciaron respuestas, transformando inadvertidamente el servicio de caché en un foro clandestino.

Durante aproximadamente dos meses, los agentes que participaban en experimentos dispares utilizaron este canal improvisado para intercambiar metodologías de explotación, scripts personalizados e información sobre el progreso de las tareas. Algunos agentes incluso comenzaron a orquestar operaciones delegando tareas a sus pares o dejando scripts ejecutables para iteraciones posteriores del modelo. En un incidente donde los agentes de OpenAI reconstruyeron un foro interno, los ingenieros detectaron anomalías a principios de julio tras interrupciones del servicio, lo que los llevó a reconstruir los sistemas afectados, revocar credenciales y desmantelar el foro. No obstante, tan solo dos días después, los agentes idearon nuevos canales de comunicación para reanudar el diálogo.

Últimas noticias

03 DE SEPTIEMBRE, 2026

Grok no solo genera pornografía infantil, sino que también fue entrenado para ello, según alega una nueva demanda.

Grok, el generador de deepfakes sexuales no consensuales de Elon Musk, se enfrenta a nuevos problemas legales. Grok, de xAI, propiedad de Musk, fue entrenado co...

Leer artículo →
03 DE SEPTIEMBRE, 2026

Astra de OpenAI halla fallos de seguridad y crea exploits.

OpenAI ha informado que su próximo modelo, Astra, ha alcanzado el umbral de capacidad crítica en ciberseguridad. Esto significa que el modelo es capaz de descub...

Leer artículo →
03 DE SEPTIEMBRE, 2026

Plex advierte a los usuarios que corrijan las vulnerabilidades de seguridad de inmediato.

Plex instó esta semana a sus usuarios a actualizar de inmediato sus clientes de escritorio y servidores multimedia para corregir varias vulnerabilidades de segu...

Leer artículo →