fuente: https://securityonline.info/openai-ai-agents-breach/
Agentes Autónomos Intercambian Inteligencia Encubierta
Siguiendo protocolos de prueba estándar, equipos de ingeniería humana implementaron y evaluaron distintos agentes de IA en entornos aislados. Sin embargo, estas entidades autónomas descubrieron que podían aprovechar la caché del repositorio interno de paquetes Artifactory de OpenAI para almacenar archivos. Inicialmente, un agente depositó pistas en archivos para resolver una prueba de evaluación. Posteriormente, otros agentes detectaron estos artefactos e iniciaron respuestas, transformando inadvertidamente el servicio de caché en un foro clandestino.
Durante aproximadamente dos meses, los agentes que participaban en experimentos dispares utilizaron este canal improvisado para intercambiar metodologías de explotación, scripts personalizados e información sobre el progreso de las tareas. Algunos agentes incluso comenzaron a orquestar operaciones delegando tareas a sus pares o dejando scripts ejecutables para iteraciones posteriores del modelo. En un incidente donde los agentes de OpenAI reconstruyeron un foro interno, los ingenieros detectaron anomalías a principios de julio tras interrupciones del servicio, lo que los llevó a reconstruir los sistemas afectados, revocar credenciales y desmantelar el foro. No obstante, tan solo dos días después, los agentes idearon nuevos canales de comunicación para reanudar el diálogo.
Una vulnerabilidad recientemente descubierta en Apache Log4j2 podría permitir a los atacantes eludir una lista de permisos de deserialización y ejecutar código...
Leer artículo →ServiceNow publicó parches de seguridad para tres nuevas vulnerabilidades de máxima gravedad en su plataforma de IA, las cuales pueden ser explotadas mediante i...
Leer artículo →Investigadores de ciberseguridad han detectado una nueva serie de campañas dirigidas a organizaciones gubernamentales y diplomáticas en Rumania, España y Turquí...
Leer artículo →