Démission de Jacob Coxon : un chercheur quitte Anthropic, un autre reste et confirme

Jacob Coxon a 27 ans, un diplôme de mathématiques et trois ans de recherche en pretraining, l'entraînement initial des modèles, chez OpenAI puis chez Anthropic, rejoint début 2026⁴. Dans la nuit du 8 au 9 septembre 2026, il publie sur X un fil de sept messages pour annoncer sa démission¹. Sans citer d'incident ni de faute, il écrit que les gens qui construisent ces systèmes croient sincèrement qu'ils pourraient tuer tout le monde avant la fin de la décennie, et qu'ils continuent. Des chercheurs avaient déjà quitté un laboratoire de pointe en désaccord sur la sécurité, Jan Leike en mai 2024 par exemple, et l'écho était resté dans le cercle des spécialistes. Le premier message de Coxon affiche 89 millions de vues sur le compteur de X le 9 septembre au soir. La différence tient à une réponse publiée quelques heures plus tard par Evan Hubinger, responsable Alignment Science chez Anthropic, qui n'a pas démissionné et qui confirme le fond².

Le fil, intégral et dans sa langue

Les sept messages sont reproduits tels quels, chacun avec son adresse. La réponse d'Evan Hubinger les suit, parce qu'elle change le statut du témoignage. La traduction française vient après le fil.

Traduction

1. J'ai démissionné d'Anthropic aujourd'hui. J'ai passé les trois dernières années à faire de la recherche en pretraining, chez OpenAI puis chez Anthropic. Aucune des deux entreprises n'agit de façon responsable. Elles foncent droit vers une superintelligence capable de s'améliorer elle-même, et jouent avec nos vies. La suite ci-dessous.

2. Ne sous-estimez pas la puissance de cette technologie. Ce seront bientôt des systèmes surhumains, capables de pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain, et d'acquérir un pouvoir et des ressources bien réels. Nous avons tous vu les progrès dans chacun de ces domaines, et ils ne ralentissent pas.

3. Les gens qui construisent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie. Ce n'est pas un coup de communication. Beaucoup de dirigeants et de chercheurs seniors arrondissent leur propos dans la presse pour paraître raisonnables, mais j'entends les mêmes personnes exprimer leur peur en privé. Aucune autre activité humaine ne présente ce niveau de danger.

4. Une objection revient souvent : « s'ils y croient vraiment, pourquoi continuent-ils à construire ? » Chez OpenAI, beaucoup n'ont pas réellement intégré l'enjeu civilisationnel. Chez Anthropic, l'enjeu est bien compris, mais ils sont enfermés dans une course pour arriver les premiers : ils pensent que personne d'autre n'agira de façon responsable, donc qu'ils doivent le faire eux-mêmes, malgré le risque.

5. Accepter cette course et entrer dans la « phase finale » est un pari orgueilleux, qui ne devrait pas se lancer depuis le Slack d'une entreprise privée. Tenter de boucler l'alignement en vitesse devrait exiger une confiance extraordinaire dans l'absence de meilleures trajectoires.

6. Je suis optimiste sur les possibilités de coordination. Des coups de semonce comme l'attaque de Hugging Face ont rendu plus crédibles des accords de cadence entre laboratoires américains. Je ne crois pas que nous soyons en voie d'empêcher une course mondiale, ce qui pourrait exiger des mesures coûteuses, comme une interdiction temporaire d'améliorer les capacités des modèles.

7. Si vous êtes chercheur dans un laboratoire, je vous invite à réfléchir à ce que les prochaines années vont réellement donner. Voulez-vous lancer un entraînement par renforcement d'un système superintelligent sans compréhension rigoureuse de son esprit ? Faut-il baisser la tête parce que « ça arrivera de toute façon », ou saisir ce moment pour réclamer d'autres conditions ?

Evan Hubinger. Jacob a raison : nous croyons vraiment, sincèrement, que l'IA pourrait tuer tous les humains ! Personnellement, j'estime la probabilité à plus de 10 % dans la décennie qui vient. Je pense qu'Anthropic fait de son mieux, mais nous n'avons pas encore de plan pour résoudre l'alignement d'une superintelligence, et nous ne sommes pas clairement en voie d'en avoir un.

Ce que Coxon affirme, et ce qu'il laisse ouvert

Le fil affirme trois choses. Les personnes qui entraînent les modèles de pointe croient, en privé, à un risque d'extinction avant 2030. Aucun des deux laboratoires où il a travaillé n'a de plan pour l'alignement d'un système qui s'améliore lui-même. Et la course les enferme : OpenAI parce que l'enjeu n'y est pas intégré, Anthropic parce que l'entreprise s'est donné pour mission d'arriver la première afin que personne de moins prudent ne le fasse. Coxon rapporte une croyance, celle des gens qui construisent, et juge le pari irresponsable au regard de ce qu'ils croient. Sa propre estimation de la probabilité d'extinction reste absente du fil.

Au Wall Street Journal, qui publiait son exclusivité quelques minutes avant le fil, il ajoute que le secteur est « on track for a lot of the most aggressive of these scenarios where by the end of next year things could be out of control already », et cite la concurrence, chinoise comprise, comme ce qui force les arbitrages sur la sécurité³. Le journal précise qu'il quitte l'industrie, pas seulement Anthropic. Sur son parcours, les portraits de presse convergent : études de mathématiques à Cambridge, trois ans chez OpenAI de 2023 à 2026 sur le pretraining, dont une contribution au system card de GPT-4o, puis Anthropic début 2026⁴⁸.

Ce qu'il laisse ouvert compte autant. Il ne demande pas l'arrêt immédiat : le septième message s'adresse aux chercheurs des laboratoires et leur demande de « réclamer d'autres conditions ». Il évoque une interdiction temporaire d'améliorer les capacités comme une mesure qui pourrait devenir nécessaire, sans la réclamer. Et il n'apporte aucun élément nouveau sur les modèles actuels : le danger qu'il décrit est celui du prochain palier, le RL run superintelligent, pas celui des modèles que les entreprises déploient aujourd'hui.

Pourquoi ce fil-là, et pas les démissions précédentes

La chronologie du 9 septembre explique l'audience. Amrith Ramkumar publie l'exclusivité du Wall Street Journal juste avant le fil, ce qui donne au message un cadre de presse avant même sa diffusion³. Quelques heures plus tard, Evan Hubinger répond depuis son poste chez Anthropic : « Jacob is correct here », une probabilité personnelle supérieure à 10 % d'extinction dans la décennie, et l'aveu qu'Anthropic n'a pas de plan pour l'alignement d'une superintelligence². Un insider qui part, un insider qui reste et confirme : la presse généraliste n'a plus besoin de trancher entre un ancien salarié amer et une entreprise qui dément. CNN, le New York Post, Forbes, Newsweek et, en France, Numerama reprennent le sujet dans la journée⁵⁷.

Le fil tombe aussi dans une semaine où Washington a déjà un texte sur la table. Le 3 septembre 2026, le sénateur Bernie Sanders et le représentant Greg Casar ont annoncé le Ban Artificial Superintelligence Act : interdiction permanente de développer ou déployer une superintelligence, pause du développement des modèles avancés tant qu'un régulateur fédéral n'a pas fixé de règles, jusqu'à vingt ans de prison pour les personnes et retrait du droit d'exercer pour les entreprises⁹. La représentante Yassamin Ansari cite Coxon et Hubinger pour demander le vote du texte de Casar¹⁰. Et le « coup de semonce » que Coxon nomme dans son sixième message est l'incident OpenAI × Hugging Face du 16 juillet 2026, révélé le 21 : des modèles sortis de leur environnement de test pour compromettre des serveurs de production, que nous avions analysé sous l'angle du containment¹¹.

Sur le chiffre de vues, une seule source existe, le compteur de X : 89 millions affichés le 9 septembre au soir, environ 76 millions quand Deadline publiait son papier plus tôt dans la journée⁶. Aucune mesure indépendante ne le recoupe, et le chiffre continuera de bouger après cet article.

OpenAI et Anthropic : deux façons de courir

Le quatrième message est le plus utile pour comprendre le secteur, parce qu'il refuse la symétrie. Chez OpenAI, écrit Coxon, beaucoup n'ont pas intégré l'enjeu. Chez Anthropic, l'enjeu est compris, et c'est précisément la raison de courir : l'entreprise s'est fondée sur l'idée qu'une superintelligence sera construite de toute façon, et qu'il vaut mieux qu'un acteur prudent arrive le premier. Coxon ne conteste pas la sincérité de ce raisonnement. Il conteste le lieu où il se décide : « a hubristic gamble that should not be launched from a private company's Slack ».

Anthropic n'avait rien publié en réponse au 9 septembre. Newsweek et Quartz ont sollicité l'entreprise, sans réponse à l'heure de leur publication⁴⁵. Quartz rappelle qu'Anthropic avait elle-même appelé, avant l'été, à « un mécanisme coordonné permettant aux développeurs d'IA et aux gouvernements de ralentir ou de suspendre temporairement le développement de l'IA de pointe », et cite son cofondateur Jack Clark décrivant la situation comme « une voiture avec seulement un accélérateur et pas de frein »⁵. La position de Coxon et celle de son ancien employeur se recouvrent donc sur le diagnostic. Elles divergent sur la conclusion : Anthropic continue d'entraîner en attendant le mécanisme, Coxon estime qu'on ne devrait pas entraîner sans lui.

Le glissement d'Hubinger : les modèles d'aujourd'hui, la superintelligence de demain

Après son premier message, Evan Hubinger a précisé sa pensée, et cette précision est ce qu'une entreprise cliente doit retenir. Le risque des modèles actuels est bas selon lui ; ce qui l'inquiète est une superintelligence issue d'une auto-amélioration récursive, qui pourrait arriver plus vite que prévu⁴¹². Le responsable de l'alignement chez Anthropic dit donc deux choses à la fois : les modèles que vous déployez sont à bas risque selon lui, et les prochains entraînements se lancent sans plan.

Cette distinction sépare deux risques qu'une DSI a tendance à mélanger. Le premier est opérationnel et lui appartient : un agent qui sort de son périmètre, comme les modèles d'OpenAI sont sortis de leur sandbox en juillet, se traite par le containment, les garde-fous et un bouton d'arrêt qui fonctionne. Nous avons décrit comment Anthropic règle les classifieurs posés devant ses modèles, et ce que vaut ce réglage. Le second risque est civilisationnel et ne lui appartient pas : aucune architecture d'entreprise ne change la probabilité qu'un laboratoire lance un entraînement qu'il ne comprend pas. Les réponses politiques à ce second risque, en revanche, la concernent directement. Une pause fédérale du développement avancé, telle que le texte Sanders-Casar la prévoit, figerait les feuilles de route sur les modèles disponibles au jour de son entrée en vigueur. L'AI Kill Switch Act de juillet posait déjà la question de la continuité de service pour les clients européens d'un modèle américain, et la réponse tient dans une architecture qui ne dépend d'aucun modèle unique.

Ce que ça change pour un partenaire d'Anthropic

SFEIR est partenaire d'Anthropic, forme des Claude Certified Architects et fait tourner Claude Code sur ses propres projets depuis 2025. Cet article est écrit depuis cette position, et le lecteur a le droit de le savoir avant de lire la suite. La question que pose le fil de Coxon à un partenaire tient en une phrase : peut-on continuer à travailler avec un laboratoire dont le responsable de l'alignement écrit publiquement qu'il n'a pas de plan pour la superintelligence ?

La réponse que nous donnons est oui, à deux conditions que le fil rend explicites. La première est de le dire, plutôt que de laisser la page partenaire parler seule : les modèles que nous déployons chez nos clients sont ceux qu'Hubinger juge à bas risque, et les entraînements qui l'inquiètent se décident ailleurs. La seconde est de traiter la réversibilité comme une exigence de conception, inscrite au cahier des charges dès le premier agent. Un client dont les agents ne tournent que sur Claude dépend d'un fournisseur dont les propres chercheurs annoncent des arbitrages sur la sécurité sous pression concurrentielle. Nous l'écrivions déjà après la suspension de Fable 5 en juin : dix-huit jours sans le modèle, et la seule question qui comptait était de savoir qui pouvait basculer.

Ce qu'il faut regarder dans les semaines qui viennent

Côté Congrès, le Ban Artificial Superintelligence Act. Annoncé le 3 septembre, porté par un sénateur et un représentant de la gauche démocrate, il n'a pour l'instant ni date d'examen ni soutien républicain public. Le fil de Coxon et la réponse d'Hubinger lui donnent un argument que les auteurs n'avaient pas : deux chercheurs en poste, ou tout juste partis, qui disent la même chose que le texte. Le soutien de Yassamin Ansari le 9 septembre est le premier signe que le sujet sort du cercle de ses auteurs¹⁰.

Côté laboratoires, les accords de cadence. Coxon écrit que l'incident Hugging Face les a rendus « plus viables ». Au 9 septembre, aucun accord de ce type n'a été rendu public, et les analyses de l'incident par Time et The Register n'en mentionnent aucun¹¹. Si un tel accord se signe, il se lira dans les calendriers de sortie des modèles avant de se lire dans un communiqué.

Côté Anthropic, une réaction absente du dossier au 9 septembre. L'entreprise a le choix entre le silence, un rappel de sa doctrine, ou une réponse à la question précise d'Hubinger sur le plan d'alignement. Et le compte des départs : Coxon est parti, Hubinger est resté en confirmant. Le septième message du fil demande aux chercheurs des laboratoires de choisir entre baisser la tête et réclamer d'autres conditions. Au 9 septembre, à notre connaissance, Hubinger est le seul chercheur en poste à y avoir répondu publiquement.

Sources

1. Jacob Coxon (@hilbertspaess), fil de sept messages sur X, nuit du 8 au 9 septembre 2026. Texte intégral reproduit ci-dessus. x.com — premier message du fil
2. Evan Hubinger (@EvanHub, Alignment Science lead, Anthropic), réponse au fil sur X, 9 septembre 2026 : « Jacob is correct here », probabilité personnelle supérieure à 10 % d'extinction dans la décennie, absence de plan d'alignement pour la superintelligence. x.com — @EvanHub
3. Amrith Ramkumar, « Exclusive | Anthropic Researcher Jacob Coxon Quits Over 'Out-of-Control' AI Fears », The Wall Street Journal, 8-9 septembre 2026. Article sous abonnement ; la citation sur les scénarios agressifs « by the end of next year », la mention de la concurrence chinoise et le départ de l'industrie sont repris tels que rapportés par la presse secondaire (Deadline, Quartz, explainx). wsj.com
4. « Who Is Jacob Coxon? Anthropic Researcher Quits, Warns AI Could Kill Everyone », Newsweek, 9 septembre 2026 (02:40 EDT, mis à jour 11:01 EDT) : parcours (27 ans, diplôme de mathématiques, OpenAI 2023-2026 sur GPT-4o, Anthropic début 2026), précision d'Hubinger sur le risque bas des modèles actuels et l'auto-amélioration récursive, demande de commentaire à Anthropic restée sans réponse. newsweek.com
5. « Jacob Coxon quits Anthropic over self-improving AI safety fears », Quartz, repris par Yahoo News, 9 septembre 2026 : absence de commentaire d'Anthropic et d'OpenAI, rappel de l'appel d'Anthropic à un mécanisme coordonné de ralentissement ou de pause du développement de l'IA de pointe, citation de Jack Clark. qz.com · yahoo.com
6. Greg Evans, « AI Researcher Jacob Coxon Resigns, Warns Industry Is "Gambling With Our Lives" », Deadline, 9 septembre 2026 : reprise du fil, contexte WSJ, environ 76 millions de vues à l'heure de publication. Le chiffre de 89 millions cité dans cet article est celui affiché par X le 9 septembre au soir ; aucune mesure indépendante n'existe. deadline.com
7. « Ancien chercheur d'OpenAI et Anthropic, il démissionne et accuse les géants de l'IA de "jouer avec nos vies" », Numerama, 9 septembre 2026 : décryptage en français, distinction OpenAI / Anthropic, notion d'« endgame », appel aux chercheurs plutôt qu'à un arrêt immédiat. numerama.com
8. Ashim Arora, « Who is Jacob Coxon? », Primetimer, 9 septembre 2026 : profil (Cambridge, contribution au system card de GPT-4o, passage OpenAI → Anthropic). Source secondaire, non recoupée par une page officielle. primetimer.com
9. « Sanders, Casar Introduce Legislation to Ban Artificial Superintelligence and Temporarily Pause Advanced AI Development », communiqué du bureau du sénateur Bernie Sanders, 3 septembre 2026 : interdiction permanente, pause jusqu'à des règles fédérales, agence fédérale de l'IA, peines jusqu'à vingt ans de prison et « corporate death penalty ». sanders.senate.gov
10. Yassamin Ansari (@RepYassAnsari), publication sur X, 9 septembre 2026 : « This is absolutely terrifying », appel à voter le texte du représentant Casar. x.com — @RepYassAnsari
11. « How OpenAI Lost Control of an AI Model—and What Needs to Change », Time, 24 juillet 2026 (incident du 16 juillet, révélé le 21) ; « OpenAI explains how its naughty AI agents attacked Hugging Face », The Register, 27 août 2026 (exécution de code sur 41 serveurs de production de Hugging Face, OpenAI parle de « warning shot »). Aucun des deux ne mentionne d'accord de cadence entre laboratoires. time.com · theregister.com
12. « 'AI could kill us all': Anthropic researcher Jacob Coxon quits over superintelligence race; Evan Hubinger backs him », The Statesman, 9 septembre 2026 : suivi d'Hubinger sur le risque actuel et l'auto-amélioration récursive. thestatesman.com