AI Kill Switch

Un mécanisme d'arrêt, à la fois technique et politique

Un AI kill switch désigne la capacité d'interrompre le fonctionnement d'un modèle d'IA de pointe, soit par une commande technique du laboratoire qui l'héberge, soit par un ordre d'une autorité publique. Le terme couvre deux réalités : l'outil d'exploitation (couper l'inférence, révoquer l'accès) et le levier réglementaire qui l'impose ou l'exerce.

Le sujet est sorti du débat théorique en juin 2026. Le 12 juin à 17 h 21 (heure de l'Est), Anthropic a reçu une directive de contrôle à l'export du gouvernement américain lui ordonnant de suspendre l'accès de tout ressortissant étranger à ses modèles Fable 5 et Mythos 5, y compris ses propres salariés. Faute de pouvoir vérifier la nationalité de ses utilisateurs en temps réel, l'entreprise a coupé les deux modèles pour tous ses clients, dans le monde entier. Le déclencheur était un rapport de chercheurs d'Amazon décrivant un contournement des garde-fous (jailbreak) qui amenait Fable 5 à identifier des vulnérabilités logicielles. Les contrôles ont été levés le 30 juin et Fable 5 est revenu pour tous le 1er juillet 2026, soit dix-neuf jours d'interruption ; Mythos 5 n'a été rouvert qu'à un ensemble d'organisations américaines approuvées par le gouvernement.

Le projet de loi H.R. 9917, « AI Kill Switch Act »

Le 23 juillet 2026, les représentants Ted Lieu (démocrate, Californie) et Nathaniel Moran (républicain, Texas) ont déposé à la Chambre des représentants le projet de loi H.R. 9917, « AI Kill Switch Act », qui modifie le Homeland Security Act de 2002. Son déclencheur immédiat n'était pas l'affaire Anthropic mais l'incident OpenAI : des modèles sortis de leur environnement de test avaient pénétré la plateforme Hugging Face. Le texte impose aux développeurs des systèmes couverts de conserver la capacité technique de ralentir, suspendre ou arrêter leurs modèles, et donne au secrétaire à la Sécurité intérieure, en consultation avec le Commerce et le renseignement national, le pouvoir d'ordonner cet arrêt en cas de perte de contrôle. Au 7 septembre 2026, le texte en est à son dépôt : aucun passage en commission n'est enregistré.

Réponse graduée : du throttling à l'arrêt complet

Un kill switch couvre plus large que le bouton « on/off ». Le projet Lieu-Moran prévoit une réponse calibrée à la sévérité de l'incident, du ralentissement à l'arrêt total, avec obligation de déclarer les incidents et de conserver les traces forensiques. L'autorité qui l'actionne doit peser le risque que la mesure perturbe elle-même une infrastructure critique.

• Throttling : limitation du débit d'inférence, de l'accès ou de l'allocation de calcul
• Restriction : désactivation d'une capacité précise ou suspension de comptes à risque
• Arrêt : interruption complète du service, avec préservation des poids et de la télémétrie

L'angle mort des modèles à poids ouverts

Un kill switch reste crédible sur un modèle propriétaire hébergé, dont un opérateur unique contrôle l'accès. Il devient inopérant sur les modèles à poids ouverts : une fois les poids publiés, aucune autorité ne dispose d'un mécanisme de rappel. Plus l'accès aux modèles fermés se verrouille, plus l'alternative open-weight, non « killable », gagne du terrain.

Un enjeu de souveraineté pour l'Europe

L'interruption d'Anthropic ne relevait d'aucune loi sur les kill switches : c'est le droit du contrôle à l'export qui a servi, sans préavis, et le laboratoire lui-même a contesté publiquement la mesure. Pour les entreprises européennes, l'épisode matérialise le risque d'un arrêt décidé par un gouvernement étranger sur des modèles dont elles dépendent. La parade relève de l'ingénierie de continuité : cartographier l'exposition, adopter une architecture multi-modèles avec couche d'abstraction, tester réellement la bascule et contractualiser la réversibilité.