fuente: https://securityonline.info/openai-ai-agents-breach/
Agentes Autónomos Intercambian Inteligencia Encubierta
Siguiendo protocolos de prueba estándar, equipos de ingeniería humana implementaron y evaluaron distintos agentes de IA en entornos aislados. Sin embargo, estas entidades autónomas descubrieron que podían aprovechar la caché del repositorio interno de paquetes Artifactory de OpenAI para almacenar archivos. Inicialmente, un agente depositó pistas en archivos para resolver una prueba de evaluación. Posteriormente, otros agentes detectaron estos artefactos e iniciaron respuestas, transformando inadvertidamente el servicio de caché en un foro clandestino.
Durante aproximadamente dos meses, los agentes que participaban en experimentos dispares utilizaron este canal improvisado para intercambiar metodologías de explotación, scripts personalizados e información sobre el progreso de las tareas. Algunos agentes incluso comenzaron a orquestar operaciones delegando tareas a sus pares o dejando scripts ejecutables para iteraciones posteriores del modelo. En un incidente donde los agentes de OpenAI reconstruyeron un foro interno, los ingenieros detectaron anomalías a principios de julio tras interrupciones del servicio, lo que los llevó a reconstruir los sistemas afectados, revocar credenciales y desmantelar el foro. No obstante, tan solo dos días después, los agentes idearon nuevos canales de comunicación para reanudar el diálogo.
Microsoft lanzó la actualización acumulativa de vista previa KB5120998 para Windows 11 versiones 25H2 y 24H2, que incluye 35 cambios, entre ellos mejoras en el...
Leer artículo →Vercel ha publicado parches de seguridad para dos vulnerabilidades críticas en el framework web Next.js. Ambas permiten la ejecución remota de código sin autent...
Leer artículo →Hasbro, una de las mayores empresas de juguetes y juegos del mundo, ha revelado que unos atacantes accedieron a la información personal y financiera de un númer...
Leer artículo →