fuente: https://securityonline.info/indirect-prompt-injection-ai/
De hecho, los ciberdelincuentes ahora utilizan sitios web maliciosos para atacar sistemas automatizados. En concreto, ocultan instrucciones en el código web para explotar las vulnerabilidades de los agentes de IA. Por consiguiente, esta inyección indirecta de comandos busca controlar las acciones de la IA. En última instancia, los modelos ejecutan órdenes ocultas por los atacantes.
Anthropic experimentó una interrupción del servicio el martes que provocó un aumento en la tasa de errores en varios modelos de Claude, según la página de estad...
Leer artículo →El Departamento de Justicia de Estados Unidos (DoJ) anunció el martes la incautación de una cuenta de computación en la nube utilizada por subsidiarias del cong...
Leer artículo →La firma de investigación de seguridad LucidBit ha descubierto una vulnerabilidad crítica de uso de memoria liberada (UAF, por sus siglas en inglés) en el subsi...
Leer artículo →