OpenAI ha presentado nuevos ejemplos de lo que denomina "desalineación de modelos de IA" ocurridos en los últimos seis meses; entre ellos figuran la carga no autorizada de archivos, el seguimiento de instrucciones autogeneradas, el ocultamiento de errores y el aprovechamiento de claves de API expuestas.
OpenAI utiliza el término "desalineación del modelo" para describir situaciones en las que los modelos de IA actúan en contra de las restricciones establecidas, lo que incluye realizar acciones no autorizadas, eludir la supervisión o saltarse medidas de seguridad para completar una tarea.
En una publicación de ayer, OpenAI informó que está utilizando un nuevo marco de trabajo para rastrear e investigar estas acciones no autorizadas por parte de agentes de IA.
"Compartimos un nuevo marco para rastrear, investigar y divulgar casos de desalineación de modelos en OpenAI, junto con seis informes sobre comportamientos inesperados o preocupantes de los modelos observados en los últimos seis meses", explica la compañía.
Estos nuevos ejemplos son los primeros que se publican bajo un marco de notificación más estructurado, diseñado para sustituir el enfoque anterior —más flexible— que OpenAI empleaba para divulgar los casos de desalineación de modelos.
Las cámaras de seguridad domésticas rara vez salen de la red local. Sin embargo, las vulnerabilidades en las cámaras TP-Link Kasa EC70 y EC71 permiten que un at...
Leer artículo →La semana pasada, Microsoft lanzó su actualización de seguridad rutinaria de julio de 2026. Sin embargo, se detectó un conflicto entre la actualización y el con...
Leer artículo →Investigadores han descubierto la Operación ShadowRecruit, una campaña que se hace pasar por un anuncio de contratación del gobierno indio. Los atacantes distri...
Leer artículo →