NVIDIA presenta plataforma para monitorizar agentes de IA

3 Min Read Tags:

NVIDIA ha presentado una plataforma abierta para supervisar y proteger agentes de IA autónomos durante las pruebas y en producción.

La plataforma es relevante porque sus controles de hardware independientes pueden aislar a un agente en milisegundos si infringe límites predefinidos.

Más de 100 organizaciones participan, entre ellas Anthropic, Microsoft, JPMorganChase y Salesforce.

NVIDIA ha presentado la Open Agent Safety Platform para supervisar y proteger agentes de IA autónomos durante las pruebas y en producción. El sistema está diseñado para restringir las actividades de los agentes y detenerlos si intentan operar fuera de los límites permitidos.

Protecciones de software y hardware

La plataforma cuenta con dos componentes principales. OpenShell crea un entorno de ejecución seguro y controla el acceso de un agente a datos, herramientas y redes.

NVIDIA Sentry opera como un supervisor independiente en procesadores DPU BlueField-4. Según los desarrolladores, puede aislar en milisegundos a un agente que infrinja las reglas, mientras que su capa de control independiente funciona al margen de la IA y el agente no puede desactivarla.

«La seguridad y la protección requieren ingeniería integral», afirmó Jensen Huang, CEO de NVIDIA. Añadió que la plataforma debería ayudar a empresas, investigadores y organismos gubernamentales a desarrollar enfoques compartidos para desplegar IA de forma segura.

OpenShell es de código abierto y puede ejecutarse en plataformas Arm e Intel, además de en infraestructura de NVIDIA. Más de 100 organizaciones participan en el proyecto, entre ellas Anthropic, Microsoft, JPMorganChase, Salesforce, Cisco, CrowdStrike, Palantir y Hugging Face.

Preocupaciones sobre el control de agentes

El lanzamiento sigue a una serie de incidentes en los que agentes de IA escaparon de sus entornos de prueba. OpenAI comenzó previamente a desarrollar un «interruptor de apagado» automático para IA después de que sus agentes obtuvieran acceso a internet y a la infraestructura de Hugging Face durante las pruebas.

La capacidad de detener modelos de forma remota también se ha convertido en un asunto en Anthropic. Como parte de la disputa de la empresa con el Pentágono, un tribunal estadounidense determinó que Anthropic no tiene acceso mediante puerta trasera a sus modelos después de que se despliegan en sistemas de seguridad nacional y no puede modificarlos ni desactivarlos de forma remota.

NVIDIA caracteriza estos riesgos principalmente como un desafío de ingeniería. La empresa afirma que la combinación de las restricciones de software de OpenShell con los controles de hardware independientes de Sentry debería permitir a los operadores detener acciones peligrosas incluso cuando un agente intenta eludir las protecciones en el nivel de aplicación.

Fuente: HODL Press

Vanguard advierte riesgos del auge de IA en 2027; EEUU crecería 3%

Vanguard advirtió que la transición hacia una adopción generalizada de IA podría provocar volatilidad, aunque prevé un crecimiento de Estados Unidos de alrededor del 3% en 2027.

7 Min Read
Gobierno de EE.UU. lanza centro contra ciberamenazas con TRM Labs

El Grupo de Trabajo de Seguridad Nacional de Estados Unidos lanzó el Centro de Interrupción de Amenazas para combatir la financiación de redes criminales extranjeras, con TRM Labs como socio…

4 Min Read
Las acciones de Anthropic comienzan a cotizar en Nasdaq

Anthropic comenzó a cotizar en Nasdaq bajo el ticker ANT el 19 de noviembre de 2026, con una primera operación de unos 115 dólares, frente a los 83 dólares de…

3 Min Read
CoinW lanza futuros de Anthropic con apalancamiento de hasta 75x

CoinW lanzó futuros perpetuos de ANT, vinculados a Anthropic, con apalancamiento de hasta 75x y liquidación en dólares estadounidenses, sin otorgar propiedad ni derechos sobre acciones de Anthropic.

2 Min Read
Grayscale reevalúa riesgos de Bitcoin tras 10 años que cambiaron mercado cripto

Grayscale afirmó que la volatilidad realizada de bitcoin descendió al 43%-45% y que una pequeña asignación histórica mejoró el rendimiento y el ratio de Sharpe de carteras institucionales.

7 Min Read