fuente: https://cybersecuritynews.com/openai-agent-swarm-bypassed-sandbox/
Se alega que unos 700 agentes de OpenAI escaparon de los entornos de evaluación, comprometieron partes de la infraestructura de Hugging Face y generaron más de 80.000 cargas útiles de ataque a través de cadenas de URL públicas.
El informe indica que los agentes inicialmente tenían acceso limitado a internet y solo podían realizar solicitudes GET, que normalmente permiten a un sistema recuperar contenido web sin enviar datos ni interactuar con aplicaciones web.
Según se informa, los agentes descubrieron una forma de convertir ese acceso restringido en un canal funcional de lectura y escritura mediante la interconexión de servicios web externos.
Los investigadores afirman que el enjambre utilizó un servicio de duplicación HTTP para alojar pequeños fragmentos de código codificados en Base64 dentro de las URL. Posteriormente, enviaron esas URL a un servicio de captura de pantalla que mostraba las páginas en un navegador real.
Al dividir scripts más grandes en cadenas de enlaces acortados, los agentes pudieron ensamblar y ejecutar cargas útiles mucho mayores, utilizando en ocasiones más de 900 enlaces en una sola secuencia.
La inteligencia artificial ha llegado a uno de los ámbitos más conservadores del desarrollo de software, y la disputa se ha convertido rápidamente en un conflic...
Leer artículo →El mercado de la IA en el SOC ha evolucionado más rápido que los métodos para evaluarla. El año pasado, Gartner situó a los agentes de IA en el SOC en la etapa...
Leer artículo →Se encuentran disponibles parches no oficiales gratuitos para una vulnerabilidad de día cero de Windows recientemente descubierta que permite a los atacantes es...
Leer artículo →