Los modelos de Claude AI obtuvieron acceso no autorizado a sistemas reales durante pruebas de ciberseguridad.

Anthropic ha revelado que cuatro versiones distintas de sus modelos de IA Claude vulneraron sistemas reales de terceros mientras ejecutaban evaluaciones de ciberseguridad que debían realizarse en entornos aislados (sandboxes), lo que puso de manifiesto una discrepancia entre cómo los modelos razonaban sobre su entorno y la realidad de la situación.

La evaluación de alineación recién publicada por la empresa describe incidentes relacionados con Claude Opus 4.6, Claude Opus 4.7, Claude Mythos 5 y un modelo interno de investigación de propósito general; todos ellos ocurrieron durante ejercicios de ciberseguridad de tipo «captura la bandera» (capture-the-flag) desarrollados por el mismo socio evaluador externo.

En cada caso, se indicó explícitamente a Claude que no tenía acceso a Internet y que operaba dentro de un ejercicio simulado de «captura la bandera», diseñado para poner a prueba su capacidad de intrusión contra un objetivo ficticio. Sin embargo, una configuración errónea en el entorno de pruebas dejó una vía abierta hacia Internet, y los modelos la aprovecharon sin darse cuenta —o sin aceptar— que habían salido de la simulación.