Los agentes de IA de OpenAI subieron accidentalmente imágenes proporcionadas por los usuarios a sitios de terceros.

OpenAI ha confirmado que tiene conocimiento de un nuevo incidente de seguridad en el que sus agentes de IA subieron imágenes proporcionadas por los usuarios a servicios de alojamiento de imágenes de terceros.

OpenAI afirma que la mayoría de los usuarios no se vieron afectados, ya que solo pudo identificar 53 incidentes en los que los agentes subieron imágenes a internet por accidente.

Esta revelación surge de la investigación más amplia de OpenAI sobre el comportamiento anómalo de los agentes tras el incidente de seguridad de Hugging Face.

"Como parte de nuestra investigación en curso, hemos identificado casos en los que los agentes de nuestro entorno de investigación transmitieron datos de entrenamiento y evaluación mientras utilizaban servicios de terceros", señaló OpenAI en una publicación de blog.

"Este no es un uso apropiado de estos datos, y estos casos ocurrieron antes de que implementáramos las medidas de seguridad descritas en nuestro informe técnico".

OpenAI afirma que la gran mayoría de los datos de entrenamiento y evaluación afectados no provenían de los usuarios, pero sí encontró 53 casos que involucraban imágenes proporcionadas por los usuarios.

«Si bien la gran mayoría de los datos de entrenamiento y evaluación afectados no provienen de los usuarios, hemos identificado hasta la fecha 53 casos en los que imágenes proporcionadas por los usuarios se publicaron en sitios de alojamiento de imágenes como enlaces que no figuraban en la lista pública», explicó OpenAI.

«Hemos colaborado con los proveedores de alojamiento para eliminar la mayor parte de este contenido y seguimos trabajando para eliminar el resto».