fuente: https://securityonline.info/indirect-prompt-injection-ai/
De hecho, los ciberdelincuentes ahora utilizan sitios web maliciosos para atacar sistemas automatizados. En concreto, ocultan instrucciones en el código web para explotar las vulnerabilidades de los agentes de IA. Por consiguiente, esta inyección indirecta de comandos busca controlar las acciones de la IA. En última instancia, los modelos ejecutan órdenes ocultas por los atacantes.
Una vulnerabilidad de inyección SQL en el plugin All-in-One WP Migration and Backup para WordPress podría permitir a atacantes no autenticados ejecutar código r...
Leer artículo →Grok, el generador de deepfakes sexuales no consensuales de Elon Musk, se enfrenta a nuevos problemas legales. Grok, de xAI, propiedad de Musk, fue entrenado co...
Leer artículo →OpenAI ha informado que su próximo modelo, Astra, ha alcanzado el umbral de capacidad crítica en ciberseguridad. Esto significa que el modelo es capaz de descub...
Leer artículo →