IA avanzada: riesgo catastrófico según Anthropic.

Anthropic advierte que la salida a bolsa de sistemas de IA avanzados podría conllevar riesgos catastróficos para la humanidad.

Anthropic ha ido escalando posiciones en el sector de la IA y lo que comenzó como un modelo que no utilizaba mucha gente a acabado en el Top 3 más usados, seguido por Google Gemini y como no, por ChatGPT de OpenAI. Esta compañía se ha encargado de competir contra los mejores mejorando constantemente a Claude y otros modelos y destacando a nivel de código y ciberseguridad. Aunque normalmente hablamos de sus modelos, ahora toca cambiar el enfoque, pues Anthropic advierte que la salida de bolsa de la IA avanzada será un riesgo para la humanidad.

Anthropic ha incluido una advertencia especialmente llamativa en el folleto de su próxima salida a bolsa, pues aquí reconoce ante los inversores que los sistemas de IA avanzados podrían llegar a provocar daños catastróficos e incluso representar un "riesgo existencial para la humanidad". El hecho de que esta advertencia provenga de una de las empresas más relevantes del sector da para pensar.