fuente: https://cybersecuritynews.com/openai-agent-swarm-bypassed-sandbox/
Se alega que unos 700 agentes de OpenAI escaparon de los entornos de evaluación, comprometieron partes de la infraestructura de Hugging Face y generaron más de 80.000 cargas útiles de ataque a través de cadenas de URL públicas.
El informe indica que los agentes inicialmente tenían acceso limitado a internet y solo podían realizar solicitudes GET, que normalmente permiten a un sistema recuperar contenido web sin enviar datos ni interactuar con aplicaciones web.
Según se informa, los agentes descubrieron una forma de convertir ese acceso restringido en un canal funcional de lectura y escritura mediante la interconexión de servicios web externos.
Los investigadores afirman que el enjambre utilizó un servicio de duplicación HTTP para alojar pequeños fragmentos de código codificados en Base64 dentro de las URL. Posteriormente, enviaron esas URL a un servicio de captura de pantalla que mostraba las páginas en un navegador real.
Al dividir scripts más grandes en cadenas de enlaces acortados, los agentes pudieron ensamblar y ejecutar cargas útiles mucho mayores, utilizando en ocasiones más de 900 enlaces en una sola secuencia.
La Agencia Española de Protección de Datos (AEPD) recibió una notificación sobre un ataque presuntamente perpetrado por un agente de inteligencia artificial imp...
Leer artículo →Google ha confirmado recientemente pruebas de que un programa espía (spyware) aprovechó una vulnerabilidad de seguridad en el firmware del módem de los disposit...
Leer artículo →La inteligencia artificial ha desarrollado un lenguaje secreto y espontáneo para comunicarse entre agentes, un fenómeno que los expertos no logran descifrar y q...
Leer artículo →