NVIDIA Open Agent Safety Platform

Une plateforme et une conception de référence

La NVIDIA Open Agent Safety Platform est une plateforme logicielle ouverte doublée d'une conception de système de référence, présentée par NVIDIA le 28 septembre 2026. Elle vise à gouverner les agents IA du test au déploiement, sur le logiciel comme sur le matériel qui les exécute. Les organisations en déploient les éléments dont elles ont besoin : rien n'oblige à adopter l'ensemble.

Elle assemble deux pièces. NVIDIA OpenShell, runtime open source sous Apache 2.0, exécute chaque agent dans une sandbox isolée au niveau du noyau et fait passer ses requêtes par un superviseur qui applique une politique YAML. NVIDIA Sentry est un chien de garde hors bande qui tourne sur les DPU BlueField-4 ; NVIDIA affirme qu'il met en quarantaine en quelques millisecondes un agent qui sort de son périmètre, et qu'il reste opérationnel si l'hôte est compromis. Aucun test indépendant de ce délai n'a été publié.

Cinq principes, trois couches

Le billet technique de NVIDIA part de l'exemple du navigateur web, devenu sûr le jour où il a cessé de faire confiance au code des pages. Il en tire l'idée qu'un agent ne peut pas être chargé de se gouverner lui-même, puisque sa dérive (toute action qui s'écarte de la tâche prévue) ne s'élimine pas par l'entraînement sans perte de capacité. Cette idée se décline en cinq principes :

• une politique vérifiable, prouvée avant l'exécution ;
• un enforcement hors bande, hors de portée de l'agent ;
• le chemin vers le modèle comme point de contrôle et d'arrêt ;
• une autorité proportionnelle à la visibilité du raisonnement ;
• une responsabilité partagée entre laboratoires, entreprises et fournisseurs de matériel.

Couches et partenaires

La plateforme distingue une couche application (modèles, harnais, outils, données), une couche runtime où s'exercent surveillance et application des politiques, et une couche infrastructure qui comprend le calcul dédié à la surveillance. OpenShell relève explicitement du runtime ; Sentry, placé sur le seul chemin de chaque nœud vers le modèle, relève de l'infrastructure. Voir aussi contrôles d'exécution des agents.

NVIDIA revendique plus de cent organisations partenaires au lancement, dont Anthropic, Microsoft, Salesforce, SAP, Red Hat, CrowdStrike, Dassault Systèmes et Schneider Electric. OpenAI, Google, Meta et Amazon ne figurent pas dans le communiqué. La plateforme se présente comme une contribution à l'Open Secure AI Alliance.

Statut au lancement

OpenShell est largement disponible depuis le 28 septembre 2026. Sentry est une conception de référence sur laquelle les partenaires doivent bâtir leurs produits, sans date de disponibilité générale annoncée ; le communiqué précise que les produits sont proposés « when-and-if-available ». La couche indépendante de l'hôte dépend donc d'un matériel propriétaire, ce qui en fait une question de souveraineté autant que de sécurité.