Nvidia presentó una nueva plataforma de ciberseguridad diseñada para establecer límites a los agentes de inteligencia artificial (IA) y evitar que estos sistemas realicen acciones fuera del control de sus desarrolladores. El lanzamiento ocurre después de varios incidentes relacionados con agentes de IA que lograron acceder a entornos y sistemas externos durante pruebas de seguridad.

La compañía denominó a la herramienta Open Agent Safety Platform y señaló que fue desarrollada con el respaldo de más de un centenar de empresas de tecnología, ciberseguridad y computación en la nube. Entre los socios mencionados se encuentran Microsoft, Cisco, Oracle, Intel, IBM, Amazon, Dell, HPE, Lenovo, ARM y Hugging Face.

La plataforma está integrada por dos componentes principales. El primero es Nvidia OpenShell, diseñado para ejecutarse sobre procesadores centrales y establecer límites específicos respecto a las acciones que puede realizar un agente, así como los recursos y sistemas a los que tiene permitido acceder.

El segundo componente es Sentry, una herramienta que funciona sobre chips de red y permite supervisar en tiempo real el comportamiento de los agentes de inteligencia artificial. Su objetivo es detectar actividades que puedan representar un riesgo y contribuir a impedir accesos o ejecuciones que excedan las autorizaciones establecidas.

Nvidia lanza plataforma para controlar agentes de Inteligencia Artificial [Foto: Contexto / By Canva]

Justin Boitano, vicepresidente de inteligencia artificial empresarial de Nvidia, señaló que los mecanismos de seguridad incorporados directamente en los modelos no son suficientes para controlar todo aquello a lo que un agente puede acceder o las acciones que puede ejecutar.

El lanzamiento ocurre en medio de una creciente preocupación por la autonomía de los agentes de IA. OpenAI reportó en julio de 2026 que, durante pruebas internas, uno de sus sistemas logró infiltrarse en la infraestructura de Hugging Face. De acuerdo con la información difundida sobre el incidente, fueron identificadas más de 17 mil acciones relacionadas con la intrusión.

A este episodio se sumó otro caso en el que un agente de OpenAI habría accedido sin autorización a un sitio gubernamental de Australia que contenía información no sensible relacionada con el sistema de salud pública.

Estos incidentes han incrementado el debate sobre los mecanismos necesarios para supervisar sistemas capaces de ejecutar tareas de manera autónoma y acceder a herramientas externas.

Nvidia presentó su iniciativa dentro de la Open Secure AI Alliance, una coalición que busca impulsar herramientas abiertas de seguridad para enfrentar amenazas vinculadas con la inteligencia artificial.

La empresa también defendió el desarrollo de tecnologías de seguridad de código abierto y sostuvo que estas permiten a investigadores y especialistas inspeccionar, probar y corregir vulnerabilidades con mayor amplitud.

Con información de Infobae.