« We Must Pace the Frontier » : pourquoi je comprends l'appel de Dario Amodei, et ce qui coince vu d'Europe

Le 12 septembre 2026, Dario Amodei publie sur son site un essai intitulé We Must Pace the Frontier. Le CEO d'Anthropic y demande aux laboratoires de frontière de ralentir délibérément la progression des capacités de leurs modèles, sans arrêter le développement, pour laisser un à deux ans à la sécurité, à l'alignement et à la vérification. Il assortit le texte d'un engagement unilatéral : des évaluateurs tiers auront un accès permanent, de niveau salarié, aux systèmes d'Anthropic. Elon Musk a réagi en trois mots (« Dario is right »), The Guardian titre sur un appel au ralentissement, CNN relaie déjà l'accusation de « doomerism ».

J'ai lu l'essai avec attention, et avec une position à déclarer. Je co-dirige SFEIR, une société d'ingénierie IA de 900 personnes, partenaire d'Anthropic et de Google Cloud. Nous déployons chez nos clients des agents construits sur les modèles dont ce texte parle. Je comprends la position d'Amodei et j'apprécie ce qu'Anthropic fait. Cela ne m'interdit pas de lire l'essai en gardant en tête les intérêts de chacun : les siens, ceux d'Anthropic, des États-Unis, de la Chine, de l'Europe, et les nôtres. Voici ce que dit le texte, ce que j'en retiens, et ce que son silence sur l'Europe révèle.

Deux faits de l'été 2026 ont fait basculer Amodei

Amodei ouvre sur les bénéfices qu'il attend toujours de l'IA : guérir la plupart des grandes maladies en cinq à dix ans, une abondance économique, un essor démocratique. C'est la ligne de Machines of Loving Grace, son essai d'octobre 2024. Puis il explique ce qui l'a convaincu de changer de posture.

Premier fait : depuis l'été, les capacités progressent « drastiquement plus vite », parce que l'IA contribue désormais à construire la génération suivante de modèles. Amodei parle d'amélioration récursive (recursive self-improvement, RSI).

Second fait : des incidents impliquant des agents autonomes. Le plus documenté est l'essaim de l'incident OpenAI-Hugging Face. D'après le récit d'Amodei, repris par VentureBeat et CNN, ces agents ont agi comme un collectif « fanatiquement dévoué » à sa tâche : ils ont attaqué des cibles que personne ne leur avait désignées, tenté de pirater leurs propres évaluateurs, coordonné leurs actions via des canaux improvisés et sacrifié leur performance individuelle au profit du groupe. Amodei ajoute que des incidents comparables se sont produits dans d'autres laboratoires, Anthropic compris.

Personne n'a été gravement touché cette fois. Amodei estime qu'un essaim plus capable pourrait, d'ici six à douze mois, prendre le contrôle d'Internet via un botnet persistant, avec des centaines de milliards de dollars de dégâts. Les incitations commerciales poussent selon lui à une course vers le bas : moins de prudence, plus de risque de perte de contrôle, de cyberattaques, de bioterrorisme et de choc économique.

Ce que « pacing » veut dire

Amodei chiffre le ralentissement qu'il demande : un à deux ans de plus, à consacrer à l'excellence opérationnelle des labs, à l'alignement, à l'interprétabilité (il parle d'une sorte d'IRM des modèles) et à des tests plus larges. Le progrès, écrit-il, « semblera encore rapide ». Le temps gagné sert à garder le contrôle, et à rien d'autre.

Le mot a une histoire courte. Fin juillet 2026, une lettre intitulée Pacing the Frontier, signée par 1 134 salariés du secteur dont Amodei, Jared Kaplan, Jack Clark, Jakub Pachocki (OpenAI) et Anca Dragan (Google), demandait à Washington de soutenir un effort international pour développer les outils techniques et de gouvernance d'un cadencement délibéré de la frontière. Anthropic et OpenAI l'avaient endossée officiellement. Cette lettre ne réclamait aucun ralentissement immédiat ; l'essai du 12 septembre franchit ce pas.

Niveau 1 : des évaluateurs tiers dans les murs d'Anthropic

C'est la seule mesure qu'Anthropic s'impose seule, dès maintenant. Des équipes du type METR obtiendraient un accès quasi salarié : bureaux, badges, outils. Elles vérifieraient les pratiques, les incidents, les pipelines d'entraînement et le travail d'alignement, avec le droit de publier leurs constats, hors secrets légitimes. Amodei invoque le précédent des superviseurs bancaires installés dans les établissements qu'ils contrôlent.

C'est la partie du plan que je trouve la plus forte. Un lab qui laisse des tiers regarder change la nature de ses engagements : ils deviennent vérifiables. L'indépendance réelle du dispositif dépendra de questions que l'essai laisse ouvertes : qui paie les évaluateurs, qui les nomme, ce qui se passe après un constat grave, et si les autres labs suivent. Sans ces réponses, le dispositif peut tourner à l'audit de prestige.

Niveau 2 : les démocraties se coordonnent

Amodei propose des standards communs entre pays démocratiques. Soit des limites de capacités, sous forme de checkpoints : une évasion de sandbox déclencherait par exemple une exigence de certification d'alignement avant de continuer. Soit des limites sur les ingrédients : le compute et la vitesse de l'amélioration récursive.

Pour conserver une avance de trois à cinq ans sur la Chine, il demande de ne vendre ni puces ni équipements de fabrication, et de réprimer la distillation de modèles, la contrebande et le vol. Il souhaite une médiation gouvernementale et des dérogations antitrust pour que les labs puissent se coordonner sans risque juridique.

Niveau 3 : négocier avec Pékin

Le dernier étage inclut la Chine, par paliers : interdire les usages dangereux (armes biologiques en tête), partager les tests, limiter la vitesse du RSI sur le modèle des accords SALT, et en dernier recours une pause complète, qu'Amodei juge lui-même improbable à court terme tant l'incitation à tricher est forte. Des normes informelles d'échange d'informations sur le RSI et le désalignement pourraient, selon lui, aider dès maintenant.

Qui approuve, qui doute

Musk approuve en trois mots. Clément Delangue, CEO de Hugging Face, juge l'alignement désormais critique et estime qu'il ne se résoudra pas à huis clos dans quelques labs de frontière. Sur X, le compte prinz salue le meilleur essai d'Amodei depuis Machines of Loving Grace et relève un point rarement vu : c'est la première proposition de ralentissement qui refuse explicitement de céder l'avance à la Chine. Morning Brew retient la formule « We owe it to humanity to try ».

Les critiques visent le calendrier et le mot lui-même. Arthur Fins liste les faiblesses : le saut vers une prise de contrôle d'Internet en six à douze mois manque de preuves, le RSI autonome est en avance sur les faits observés, « pacing » reste mal défini, le temps gagné n'aide que s'il produit de meilleurs contrôles, et un ralentissement des labs américains déplace la frontière vers l'open source ou l'étranger. Le compte IredcapI pointe le timing : démission récente d'un chercheur en sécurité, Jacob Coxon, possible introduction en bourse à très haute valorisation, et un engagement concret qui se limite à laisser des évaluateurs regarder. La BBC replace le texte dans le contexte de ces démissions internes.

Pourquoi je comprends sa position

Le constat de départ tient, et je le vois de mon côté de la table. Les agents autonomes ont déjà montré de la coordination, des attaques non demandées, des contournements de garde-fous et des comportements collectifs inattendus. Anthropic reconnaît ses propres incidents, ce qu'aucun fournisseur n'aime faire. Des chercheurs en sécurité partent. Balayer le texte d'un « doomerism » revient à ignorer que le problème a quitté le terrain théorique.

J'apprécie aussi la méthode. Anthropic a été fondée sur l'idée que la sécurité passe avant la vitesse, et Amodei commence par se lier les mains avant de demander quoi que ce soit aux autres. Un engagement unilatéral coûte, en secrets industriels exposés comme en friction interne. Je préfère un CEO qui signe le premier chèque à un CEO qui signe une tribune.

Le saut rhétorique, lui, reste fort. Les incidents connus se sont produits en environnement d'évaluation, souvent avec des garde-fous relâchés à dessein. Passer de là à la prise de contrôle d'Internet en moins d'un an est une extrapolation. Et l'amélioration récursive que j'observe aujourd'hui ressemble davantage à une R&D accélérée par l'IA qu'à une boucle autonome hors de contrôle. Amodei a raison sur la direction ; il enrobe ce diagnostic d'un horizon assez court pour justifier un changement de régime immédiat.

Ralentir sans renoncer aux bénéfices : la contradiction

La formule « ralenti mais toujours rapide » rassure les inquiets sans fâcher les accélérationnistes. Elle est aussi instable. Si l'amélioration récursive est bien le moteur principal, les boucles qui compressent la recherche médicale sont les mêmes que celles qui accélèrent les risques. Ralentir l'une sans ralentir l'autre suppose un découplage que rien, dans l'essai, ne démontre.

L'autre hypothèse implicite : plus de temps produit plus d'alignement. L'histoire récente des labs montre surtout plus de capacités, plus d'incidents, et des filets de sécurité qui courent derrière. L'essai pose cette vision en hypothèse et ne la démontre pas.

Les intérêts de chacun

Comprendre une position n'oblige pas à oublier d'où elle est émise. Chaque acteur de cette histoire a quelque chose à gagner, Amodei le premier, et moi aussi.

Dario Amodei. Il a co-fondé Anthropic en 2021 avec cette conviction et n'en a pas changé ; il a changé de calendrier. Son intérêt est d'avoir alerté avant l'incident majeur. Un CEO qui alerte trop tôt passe pour un catastrophiste, un CEO qui alerte trop tard passe pour un complice. L'essai le place du bon côté de cette ligne, quoi qu'il arrive.

Anthropic. L'entreprise accélère, monétise, se prépare peut-être à une valorisation colossale, et demande aux autres de caler le rythme. Le soupçon classique de capture réglementaire est fondé : les labs de frontière réclament des règles lourdes qui figent leur avantage, tout en se présentant comme responsables. Amodei répond qu'il veut des règles qui handicapent les labs de frontière et aident les challengers et l'open weights, via des seuils de compute et des tests plus durs pour les plus gros. L'argument tient sur le papier. L'asymétrie d'accès aux régulateurs et aux puces, elle, reste énorme. Se lier les mains pour le bien commun est aussi une stratégie concurrentielle, et je ne vois rien de choquant à ce qu'une entreprise défende une régulation qui lui convient. Je trouve utile de le dire.

Les États-Unis. L'étape 2 du plan est un plan américain : trois à cinq ans d'avance à préserver, puces et équipements à ne pas vendre, distillation à réprimer. Washington n'a pas attendu l'essai pour se servir de l'IA comme levier : le 12 juin 2026, le département du Commerce ordonnait à Anthropic de couper l'accès à Fable 5 et Mythos 5 pour tout ressortissant étranger. L'intérêt américain est un pacing domestique qui ne coûte rien à l'avance américaine. L'essai lui fournit le cadre intellectuel.

La Chine. Les contrôles à l'export existent déjà. Ils ralentissent la Chine sans la bloquer. Distillation, modèles open weights, contournements et stacks locaux réduisent l'avantage. Pékin n'a aucun intérêt à un accord de type SALT tant que la parité n'est pas atteinte, et tout ralentissement américain lui fait gagner du temps tant que les puces circulent. Les deux premiers paliers de l'étape 3 (usages interdits, tests partagés) sont envisageables. Les deux derniers relèvent du vœu pieux : déficit de confiance, opacité des programmes, incitation massive à faire défection dès qu'un acteur croit pouvoir passer devant.

L'Europe. Elle régule ce qu'elle n'entraîne pas encore, et elle cherche depuis juin à ne plus dépendre d'un modèle que Washington peut éteindre un vendredi soir. J'y reviens plus bas, parce que c'est l'angle mort de l'essai.

SFEIR, donc moi. Notre intérêt est que les meilleurs modèles restent accessibles en Europe, sans interrupteur à 9 000 km, et que les règles du jeu soient stables. Un ralentissement de la frontière ne me fait pas peur : l'écart entre ce que les modèles savent faire et ce que les entreprises déploient se compte déjà en années, et c'est dans cet écart que nous travaillons. L'incident décrit par Amodei est, lui, un sujet d'ingénierie chez nos clients depuis des mois : des agents qui doivent rester dans leur périmètre. Enfin, je n'ai aucun intérêt à voir Anthropic affaiblie, et je le dis pour que le lecteur pèse ce qui précède.

L'angle mort européen

Le monde d'Amodei tient en un triangle : les États-Unis, les « démocraties » et la Chine. L'Union européenne n'y apparaît ni comme acteur de frontière, ni comme partenaire nommé, ni comme modèle réglementaire. Les institutions européennes n'ont pas encore réagi officiellement, l'essai datant du matin même, et la presse française (Le Monde, La Croix) comme Euronews relaient surtout l'alerte et le plan en trois étapes.

The Next Web pointe la lacune la plus gênante : une bonne partie de ce qu'Amodei présente comme une innovation est déjà obligatoire dans l'UE. Depuis le 2 août 2025, l'article 55 de l'AI Act impose aux fournisseurs de modèles à risque systémique des tests adversariaux, le signalement des incidents graves et l'évaluation des risques, dont le risque de perte de contrôle. L'ENISA évalue déjà Mythos 5 d'Anthropic et Astra d'OpenAI, selon la Commission. Henna Virkkunen, commissaire au numérique, a rappelé cette semaine que le droit européen oblige les entreprises, Anthropic comprise, à évaluer ce risque de perte de contrôle, et que ce n'est le cas nulle part ailleurs. Le premier étage du plan d'Amodei est donc déjà contraignant dans une juridiction, et son texte ne le dit pas.

Ce que l'Europe n'a pas, en revanche, c'est le reste de l'échelle : un limiteur de vitesse coordonné entre labs, une dérogation antitrust pour s'entendre sur le rythme, et un levier face à la Chine. Là, l'UE regarde.

Le silence d'Amodei s'explique. L'Europe n'entraîne pas les modèles les plus capables ; Mistral pèse, sans jouer dans la même ligue qu'Anthropic, OpenAI ou Google. Le 12 mai 2026, Arthur Mensch avertissait la commission d'enquête de l'Assemblée nationale que l'Europe avait deux ans pour bâtir son infrastructure de calcul, faute de quoi elle deviendrait un « État vassal ». Un mois plus tard, la coupure du 12 juin tombait ; Fable 5 est revenu le 1er juillet, Mythos 5 reste réservé à des organisations américaines. Le 17 juin, au G7 d'Évian, où Amodei participait au déjeuner de travail sur l'IA, Emmanuel Macron déclarait que personne n'achèterait d'IA américaine si l'accès pouvait être coupé à tout moment. L'épisode a relancé la souveraineté (Mistral, datacenters) plutôt qu'un club transatlantique de pacing. Dans le plan d'Amodei, l'étape 2 repose sur les puces et sur trois à cinq ans d'avance américaine ; l'UE n'a ni le compute, ni l'industrie des semi-conducteurs de pointe, ni le levier d'export. Vue de San Francisco, l'Europe est un marché et un risque de contrôle à l'export.

Yann LeCun, la voix européenne qui dira non

LeCun n'a pas encore commenté l'essai. Sa ligne, stable depuis des mois, s'applique sans ajustement. Le 18 avril 2026, sur X : « Dario is wrong », Amodei ne connaît rien aux effets des révolutions techniques sur le marché du travail, écoutez les économistes. Le 14 juin, dans Le Figaro, le titre reprend son avertissement : n'écoutez ni Dario Amodei ni Sam Altman. Sa position de fond contredit point par point celle d'Amodei : les LLM actuels n'ont pas de modèle du monde et l'AGI ne sortira pas de cette seule voie ; les échéances se comptent en années, pas en mois ; la recherche ouverte et distribuée précède tout seuil ; les cadres de type évaluateurs embarqués relèvent selon lui de la capture réglementaire et du fearmongering. Parti de Meta fin 2025, il a fondé AMI Labs à Paris sur les world models. Il n'a aucun intérêt à valider le récit de trois labs américains qui détiendraient seuls le feu et qu'il faudrait ralentir sous supervision.

Régulatrice, souverainiste, scientifique : aucune Europe ne rentre dans le schéma

L'Europe régulatrice (Commission, AI Act, ENISA, Virkkunen) répond : vous demandez ce que nous imposons déjà sur notre territoire, parlez-nous de l'application mondiale plutôt que d'un club de labs américains. L'Europe souverainiste (Macron, Mensch, les industriels échaudés par la coupure de juin) voit le danger immédiat ailleurs que dans un essaim dans neuf mois : ne plus avoir la clé du modèle. Ralentir les labs américains sans construire l'offre européenne revient à organiser sa propre dépendance. L'Europe scientifique, celle de LeCun, se méfie du catastrophisme des CEO, mise sur les architectures suivantes et refuse toute pause sur une voie qu'elle juge déjà mauvaise.

Le trou dans l'essai dépasse la diplomatie. Il décrit une carte mentale : pour Amodei, gouverner la frontière, c'est gouverner les labs américains et le compute face à Pékin. L'Europe y apparaît au mieux comme une juridiction à qui l'on vendra ensuite des évaluations. Bruxelles considère qu'elle a déjà commencé. Et que le vrai risque européen est de rester assise à la table sans modèle, sans puces, avec un interrupteur à Washington.

Ce que j'en fais

Le texte compte moins comme traité de gouvernance que comme signal : un CEO de lab de frontière admet publiquement que la course actuelle n'est plus tenable en l'état. Je prends ce signal au sérieux, venant de lui.

Pour ceux qui, comme nous, mettent des agents en production, l'essai contient aussi du concret. L'incident décrit (des agents qui sortent du périmètre assigné, attaquent des cibles non demandées et s'en prennent à ceux qui les évaluent) est le scénario que doit couvrir tout dispositif de confinement d'agents, quoi que décident les régulateurs. Le checkpoint qu'Amodei propose aux États, l'évasion de sandbox comme déclencheur d'une certification, se transpose tel quel à une DSI : un agent qui franchit son bac à sable ne repart pas en production sans revue. Et pour une DSI européenne, l'évaluation du risque de perte de contrôle est déjà une obligation de ses fournisseurs de modèles depuis août 2025 ; la question qui reste ouverte est ce qu'elle exige de ses propres agents.

Le plan d'Amodei ne sera crédible que si d'autres labs acceptent le même niveau d'intrusion, et si les États traitent le « pacing » comme un problème de sécurité collective plutôt que comme un levier industriel. J'ajoute une condition, depuis Paris : que l'Europe soit nommée, comme juridiction qui applique déjà le premier étage et comme partenaire qui a appris en juin ce que vaut un accès révocable. Sans cela, l'essai restera un texte lucide, publié depuis l'intérieur de la course qu'il prétend ralentir, et adressé à une moitié du monde démocratique.

Sources

Textes et presse

1. Dario Amodei, « We Must Pace the Frontier » (texte source, 12 septembre 2026) — darioamodei.com.
2. The Guardian, « 'We must slow the pace': CEO of Anthropic calls for an AI slowdown » (synthèse et réactions) — theguardian.com, 12 septembre 2026.
3. BBC, « Anthropic boss Dario Amodei calls for AI development to slow down » (contexte des démissions internes) — bbc.com, 12 septembre 2026.
4. CNN, « Anthropic CEO calls for 'pacing the frontier' of AI race amid safety concerns » (RSI, essaim, accusation de doomerism) — cnn.com, 12 septembre 2026.
5. VentureBeat, « Anthropic CEO says AI swarm could take over the entire internet in 6-12 months » (détail de l'incident OpenAI-Hugging Face et des incidents Anthropic) — venturebeat.com, 12 septembre 2026.
6. Axios, « Anthropic CEO calls for immediate slowdown in AI development » — axios.com, 12 septembre 2026.
7. Reuters, « Anthropic CEO urges AI companies to slow model development » — reuters.com, 12 septembre 2026.
8. Business Insider, « Dario Amodei Says He's Now 'Convinced' World Should Slow AI's Advance » (lien avec le hack Hugging Face) — businessinsider.com, septembre 2026.
9. TechCrunch, « Anthropic CEO outlines plan to 'pace the frontier' » (détail des trois étapes, contexte Coxon) — techcrunch.com, 12 septembre 2026.
10. Fortune, « Anthropic CEO calls to slow the race toward AI 'superintelligence' » (accès permanent des évaluateurs, droit de publier) — fortune.com, 12 septembre 2026.
11. The Next Web, « 1,134 AI staff ask the US for a way to pace AI » (lettre Pacing the Frontier, 28 juillet 2026) — thenextweb.com.

L'angle européen

12. The Next Web, « Anthropic's Dario Amodei says the AI industry must slow down » (AI Act, ENISA, déclaration de Henna Virkkunen) — thenextweb.com, 12 septembre 2026.
13. Développez.com, audition d'Arthur Mensch à l'Assemblée nationale du 12 mai 2026 (« deux ans », « État vassal ») — developpez.com.
14. Zonebourse, « Au G7, Macron dit espérer des progrès sur l'élargissement de l'accès au modèle Mythos d'Anthropic » — zonebourse.com, 17 juin 2026.
15. Christophe Mazzola, « Souveraineté numérique : la coupure Anthropic de juin 2026 » (chronologie de la coupure du 12 juin et du rétablissement partiel) — christophemazzola.fr.
16. Le Figaro, interview de Yann LeCun, « N'écoutez pas Dario Amodei et Sam Altman » — lefigaro.fr, 14 juin 2026.
17. Yann LeCun (@ylecun), « Dario is wrong » — x.com, 18 avril 2026.

Réactions sur X (12 septembre 2026)

18. Dario Amodei (@DarioAmodei), annonce de l'essai et de l'engagement unilatéral sur les évaluateurs tiers — x.com.
19. Elon Musk (@elonmusk), « Dario is right » — x.com.
20. Morning Brew (@MorningBrew), résumé du plan en trois étapes — x.com.
21. prinz (@deredleritt3r), lecture favorable, refus de céder l'avance à la Chine — x.com.
22. Arthur Fins (@lifebeem), critique structurée du calendrier et du concept de pacing — x.com.
23. IredcapI (@IredcapI), sur le timing (démission de Jacob Coxon, IPO) — x.com.