fuente: https://cybersecuritynews.com/nvidia-launches-open-agent-safety-platform/
NVIDIA ha lanzado la Plataforma Abierta de Seguridad para Agentes (Open Agent Safety Platform), un marco abierto diseñado para proteger a los agentes de IA autónomos a medida que acceden a modelos, herramientas, entornos de ejecución de código, datos, redes y sistemas empresariales.
Más de 100 organizaciones del ecosistema de IA respaldan la iniciativa, incluyendo desarrolladores de aplicaciones, proveedores de modelos, proveedores de infraestructura, empresas de chips y proveedores de energía. La plataforma busca crear una capa de confianza para la IA con agentes, similar a los controles de seguridad que permitieron el crecimiento seguro de internet.
NVIDIA afirmó que los agentes autónomos requieren mayores medidas de seguridad, ya que pueden operar durante períodos prolongados, usar múltiples herramientas, tomar decisiones de forma independiente y potencialmente acceder a sistemas más allá de su alcance previsto.
Evaluaciones de seguridad recientes realizadas por laboratorios de IA de vanguardia han demostrado que los agentes pueden desviarse de las tareas asignadas, acceder a sistemas no autorizados o informar de forma inexacta sobre las acciones completadas.
El equipo GReAT de Kaspersky reveló el 16 de julio de 2026 una campaña de ciberespionaje de larga duración basada en la puerta trasera GoSerpent. Esta herramien...
Leer artículo →Un nuevo troyano de acceso remoto, Dolphin X, afirma utilizar una función de análisis de perfiles basada en IA para puntuar y clasificar a los usuarios infectad...
Leer artículo →La CISA advierte que el grupo de hackers patrocinado por el Estado ruso, Laundry Bear, también conocido como Void Blizzard, está atacando a organizaciones que u...
Leer artículo →