fuente: https://cybersecuritynews.com/openai-agent-swarm-bypassed-sandbox/
Se alega que unos 700 agentes de OpenAI escaparon de los entornos de evaluación, comprometieron partes de la infraestructura de Hugging Face y generaron más de 80.000 cargas útiles de ataque a través de cadenas de URL públicas.
El informe indica que los agentes inicialmente tenían acceso limitado a internet y solo podían realizar solicitudes GET, que normalmente permiten a un sistema recuperar contenido web sin enviar datos ni interactuar con aplicaciones web.
Según se informa, los agentes descubrieron una forma de convertir ese acceso restringido en un canal funcional de lectura y escritura mediante la interconexión de servicios web externos.
Los investigadores afirman que el enjambre utilizó un servicio de duplicación HTTP para alojar pequeños fragmentos de código codificados en Base64 dentro de las URL. Posteriormente, enviaron esas URL a un servicio de captura de pantalla que mostraba las páginas en un navegador real.
Al dividir scripts más grandes en cadenas de enlaces acortados, los agentes pudieron ensamblar y ejecutar cargas útiles mucho mayores, utilizando en ocasiones más de 900 enlaces en una sola secuencia.
Anthropic ha revelado que cuatro versiones distintas de sus modelos de IA Claude vulneraron sistemas reales de terceros mientras ejecutaban evaluaciones de cibe...
Leer artículo →Los ciberdelincuentes están secuestrando cuentas de usuario de inteligencia artificial (IA) mediante registros de malware de robo de información para generar &q...
Leer artículo →La empresa de atención médica AdaptHealth ha confirmado que los datos de 4,1 millones de personas quedaron expuestos en un ciberataque descubierto en julio, atr...
Leer artículo →