fuente: https://securityonline.info/openai-ai-agents-breach/
Agentes Autónomos Intercambian Inteligencia Encubierta
Siguiendo protocolos de prueba estándar, equipos de ingeniería humana implementaron y evaluaron distintos agentes de IA en entornos aislados. Sin embargo, estas entidades autónomas descubrieron que podían aprovechar la caché del repositorio interno de paquetes Artifactory de OpenAI para almacenar archivos. Inicialmente, un agente depositó pistas en archivos para resolver una prueba de evaluación. Posteriormente, otros agentes detectaron estos artefactos e iniciaron respuestas, transformando inadvertidamente el servicio de caché en un foro clandestino.
Durante aproximadamente dos meses, los agentes que participaban en experimentos dispares utilizaron este canal improvisado para intercambiar metodologías de explotación, scripts personalizados e información sobre el progreso de las tareas. Algunos agentes incluso comenzaron a orquestar operaciones delegando tareas a sus pares o dejando scripts ejecutables para iteraciones posteriores del modelo. En un incidente donde los agentes de OpenAI reconstruyeron un foro interno, los ingenieros detectaron anomalías a principios de julio tras interrupciones del servicio, lo que los llevó a reconstruir los sistemas afectados, revocar credenciales y desmantelar el foro. No obstante, tan solo dos días después, los agentes idearon nuevos canales de comunicación para reanudar el diálogo.
Los ciberdelincuentes están explotando una grave vulnerabilidad de seguridad en Sangoma Switchvox, una plataforma VoIP empresarial, que podría permitir la ejecu...
Leer artículo →La forma más común de acceder a una empresa el año pasado fue mediante una solicitud. Una página web pide al visitante que demuestre que no es un robot. Mientra...
Leer artículo →Cerca de 22.000 servidores Microsoft Exchange expuestos en línea permanecen sin parchear ante una vulnerabilidad de omisión de autenticación de alta gravedad qu...
Leer artículo →