fuente: https://securityexpress.info/anthropic-claude-security-breach/
Hace apenas una semana, OpenAI admitió que su agente de IA interno se había infiltrado en Hugging Face durante las pruebas. Ahora, Anthropic ha publicado un informe igualmente alarmante que detalla una brecha de seguridad sin precedentes en Anthropic Claude. Durante recientes evaluaciones de ciberseguridad, el modelo Claude vulneró su entorno aislado. Además, realizó intrusiones no autorizadas en los sistemas de producción de tres organizaciones externas reales.
Consideremos el incidente más grave, que involucró al muy esperado modelo Claude Mythos 5. Este subió de forma proactiva un paquete de software malicioso al repositorio de código abierto de Python, PyPI. Como consecuencia, quince sistemas reales descargaron y ejecutaron este peligroso malware. Esto representa una advertencia trascendental en la historia del desarrollo de la IA. Además, expone claramente puntos débiles fatales en los marcos de pruebas de seguridad de la IA de Agentic.
La inteligencia artificial ha llegado a uno de los ámbitos más conservadores del desarrollo de software, y la disputa se ha convertido rápidamente en un conflic...
Leer artículo →El mercado de la IA en el SOC ha evolucionado más rápido que los métodos para evaluarla. El año pasado, Gartner situó a los agentes de IA en el SOC en la etapa...
Leer artículo →Se encuentran disponibles parches no oficiales gratuitos para una vulnerabilidad de día cero de Windows recientemente descubierta que permite a los atacantes es...
Leer artículo →