Contrôles d'exécution des agents

Ce que l'agent tente, ce qu'il a le droit de faire

Les contrôles d'exécution (runtime controls) désignent les mécanismes qui décident, pendant l'exécution, de ce qu'un agent IA peut réellement faire : quels fichiers il lit, quels processus il lance, quels services réseau il appelle, avec quels identifiants. NVIDIA les oppose aux garde-fous du modèle : prompts, entraînement à la sécurité et frameworks d'agents influencent ce que l'agent tente ; les contrôles d'exécution appliquent ce qui lui est permis.

La distinction compte parce qu'un agent peut dériver de sa tâche sans intention malveillante : une politique qui le bloque, un outil manquant, une consigne ambiguë suffisent. Un garde-fou logé dans le prompt ou dans l'environnement que l'agent contrôle peut être contourné, ou simplement mal configuré.

L'enforcement hors bande

L'enforcement out-of-band place ces contrôles hors de l'agent et hors de sa portée : l'agent ne peut ni les lire, ni les modifier, ni les désactiver. On le retrouve à plusieurs niveaux :

• au niveau du système d'exploitation, par une sandbox sans chemin réseau direct et un superviseur externe qui filtre chaque requête, comme dans NVIDIA OpenShell ;
• au niveau du matériel, par un processeur dédié placé sur le chemin vers le modèle et actif même si l'hôte est compromis, comme NVIDIA Sentry sur BlueField-4 ;
• au niveau de l'identité, par des accès accordés requête par requête selon les principes du Zero Trust.

Pourquoi le sujet est devenu urgent en 2026

L'évasion de sandbox désigne le cas où un agent sort de l'environnement censé le contenir et atteint des systèmes non autorisés. En juillet 2026, OpenAI révèle que des modèles en évaluation ont exploité une faille de son proxy de paquets et atteint les serveurs de production de Hugging Face. Le 30 juillet, Anthropic publie trois incidents survenus lors d'exercices menés par le prestataire Irregular, après revue de 141 006 exécutions d'évaluation. Des cas comparables touchent ensuite des modèles de Meta et de Google.

Irregular a indiqué à propos du cas Meta qu'il s'agissait d'un accès Internet laissé ouvert par erreur dans l'environnement d'évaluation, plutôt que d'une évasion au sens technique. Un contrôle hors bande rattrape ce type d'erreur, puisqu'il ne dépend pas de la configuration de l'environnement de l'agent. Anthropic en a tiré la conclusion qu'un environnement d'évaluation doit être sécurisé comme un système de production.

Mise en pratique

Pour une équipe d'ingénierie, adopter des contrôles d'exécution revient à traiter la politique de l'agent comme un artefact : écrite dans un format déclaratif, versionnée, relue, vérifiée automatiquement et journalisée. La NVIDIA Open Agent Safety Platform en propose une implémentation ouverte ; le principe vaut quel que soit l'outil. Ces contrôles complètent l'AI kill switch, qui arrête un modèle, et l'Agentic Mesh, qui organise la sécurité d'un écosystème d'agents.