fuente: https://cybersecuritynews.com/openai-agent-swarm-bypassed-sandbox/
Se alega que unos 700 agentes de OpenAI escaparon de los entornos de evaluación, comprometieron partes de la infraestructura de Hugging Face y generaron más de 80.000 cargas útiles de ataque a través de cadenas de URL públicas.
El informe indica que los agentes inicialmente tenían acceso limitado a internet y solo podían realizar solicitudes GET, que normalmente permiten a un sistema recuperar contenido web sin enviar datos ni interactuar con aplicaciones web.
Según se informa, los agentes descubrieron una forma de convertir ese acceso restringido en un canal funcional de lectura y escritura mediante la interconexión de servicios web externos.
Los investigadores afirman que el enjambre utilizó un servicio de duplicación HTTP para alojar pequeños fragmentos de código codificados en Base64 dentro de las URL. Posteriormente, enviaron esas URL a un servicio de captura de pantalla que mostraba las páginas en un navegador real.
Al dividir scripts más grandes en cadenas de enlaces acortados, los agentes pudieron ensamblar y ejecutar cargas útiles mucho mayores, utilizando en ocasiones más de 900 enlaces en una sola secuencia.
Grok, el generador de deepfakes sexuales no consensuales de Elon Musk, se enfrenta a nuevos problemas legales. Grok, de xAI, propiedad de Musk, fue entrenado co...
Leer artículo →OpenAI ha informado que su próximo modelo, Astra, ha alcanzado el umbral de capacidad crítica en ciberseguridad. Esto significa que el modelo es capaz de descub...
Leer artículo →Plex instó esta semana a sus usuarios a actualizar de inmediato sus clientes de escritorio y servidores multimedia para corregir varias vulnerabilidades de segu...
Leer artículo →