« Quelques années pour rendre l’IA sûre » : pourquoi ce chercheur quitte Anthropic

Un chercheur de 27 ans vient de renoncer à une rémunération confortable pour dire une chose simple : les gens qui construisent l'IA ont peur de ce qu'ils fabriquent.

Il s'appelle Jacob Coxon. Il a passé trois ans à entraîner des modèles d'IA, d'abord chez OpenAI, puis chez Anthropic (l'entreprise américaine derrière l'assistant Claude, fondée en 2021 et réputée pour son obsession de la sécurité). Le 8 septembre 2026, il a claqué la porte et publié un long fil sur X. En quelques heures, ses messages ont été vus des dizaines de millions de fois [1].

Son message tient en une phrase que reprennent aujourd'hui plusieurs journaux : il resterait quelques années à peine pour rendre ces systèmes sûrs, et l'industrie serait en train de gâcher ce délai.

Précisons d'emblée le périmètre : il ne s'agit pas d'une panique isolée sur X, mais d'un départ que le Wall Street Journal a documenté et que des responsables d'Anthropic ont publiquement confirmé.

Dans cet article :

• Ce que Coxon a réellement dit avant de partir
• Quand un cadre d'Anthropic lui donne raison en public
• Une course à 2 000 milliards au détriment de la prudence
• Ce qui est déjà en train de bouger, loin de la science-fiction
• Le vrai point de vigilance

Ce que Coxon a réellement dit avant de partir

Coxon n'a pas quitté qu'Anthropic : il a quitté l'industrie entière. Son reproche vise les deux géants qu'il connaît de l'intérieur. Selon son fil publié sur X, ni Anthropic ni OpenAI n'agiraient de façon responsable, tous deux fonçant vers une superintelligence capable de s'améliorer seule [2].

Le terme technique important ici est « alignement ». C'est le problème de faire en sorte qu'une IA très puissante poursuive bien les objectifs voulus par les humains, sans dériver. Coxon affirme que personne, pas même dans le laboratoire le plus prudent, n'a de vrai plan pour contrôler une IA qui dépasserait l'intelligence humaine.

Ce qui le glace, c'est le vocabulaire interne. Il dit avoir entendu ses collègues employer les mots « crunch time » (le sprint final) et « endgame » (la fin de partie) pour décrire l'accélération des capacités. D'après lui, ces expressions ne sont pas des formules de communication mais des citations littérales de collègues d'Anthropic [3].

Dans un entretien de suivi, il a resserré son horizon de temps : selon lui, on serait engagé sur les scénarios les plus agressifs, où les choses pourraient déjà échapper à tout contrôle d'ici la fin de l'année prochaine [4]. Il a raconté avoir d'abord voulu simplement partir, puis conclu que sa démission publique pouvait servir d'avertissement.

On peut trouver cela excessif. Beaucoup de spécialistes contestent ces prédictions d'extinction et il faut le dire clairement. Mais l'intérêt de ce départ n'est pas la prophétie. C'est qu'il vient de quelqu'un qui entraînait les modèles, pas d'un observateur extérieur.

Quand un cadre d'Anthropic lui donne raison en public

La réaction la plus frappante est venue de l'intérieur même d'Anthropic. Evan Hubinger, qui dirige la science de l'alignement chez l'entreprise, a cité le fil de Coxon sur X, non pour le contredire, mais pour l'appuyer [5].

Hubinger a écrit noir sur blanc que ses collègues et lui croient sincèrement que l'IA pourrait tuer tous les humains, et a chiffré son estimation personnelle à plus de 10 % sur la prochaine décennie. Il a ajouté qu'Anthropic fait de son mieux, mais n'a pas encore de plan pour résoudre l'alignement d'une superintelligence, ni de trajectoire claire pour y arriver.

Le poids de cette phrase tient à la fonction de son auteur. L'équipe de Hubinger a précisément pour mission de casser les garde-fous maison d'Anthropic avant qu'un modèle déployé ne les casse tout seul. C'est le pompe anti-incendie qui déclare que la caserne n'a pas de plan.

Il a tout de même nuancé ensuite. Selon lui, le risque venant des modèles actuels reste faible ; ce qui l'inquiète, c'est une superintelligence qui émergerait d'une auto-amélioration récursive, un système qui concevrait son propre successeur sans intervention humaine [6].

Cette précision compte. On ne parle pas d'un danger imminent posé par le Claude ou le ChatGPT que vous utilisez aujourd'hui. On parle d'une trajectoire, et d'un pari sur la vitesse. Le même mécanisme d'emballement, un modèle qui échappe à son cadre, a d'ailleurs déjà fait l'objet de tests grandeur nature, comme le montre un test où Claude a compromis trois entreprises.

Une course à 2 000 milliards au détriment de la prudence

Pour comprendre pourquoi la prudence perd, il faut regarder l'argent. Anthropic se prépare à une entrée en bourse qui pourrait être l'une des plus grosses de l'histoire de la technologie. La toile de fond du départ de Coxon est financière autant que morale.

Les chiffres donnent le vertige. En février 2026, sa valorisation confirmée était de 380 milliards de dollars. En mai, la levée de sa série H l'a portée à 965 milliards. Et les banquiers évoquent une introduction en bourse visant jusqu'à 2 000 milliards de dollars autour d'août à octobre 2026 [7].

Ce n'est pas un détail de coulisses. Coxon décrit une entreprise qui vante aux investisseurs son sérieux sur la sécurité, tout en débattant de ses modèles les plus puissants et les plus risqués sur Slack et des ordinateurs portables à San Francisco. Son argument n'est pas que le travail de sécurité d'Anthropic serait faux. C'est que la compétition le rend insuffisant.

La logique est celle d'un piège à plusieurs. Même un laboratoire honnête ne peut pas ralentir seul sans craindre que ses concurrents le dépassent. Coxon estime que deux choses seulement pourraient changer cela : une intervention lourde des gouvernements, ou un accord entre tous les grands laboratoires pour freiner ensemble [1]. Aucune des deux n'est en cours.

Anthropic n'est d'ailleurs pas seul dans cette course à l'introduction en bourse : OpenAI a déposé son propre dossier auprès du régulateur américain en juin 2026. La rivalité entre les deux alimente l'accélération que dénonce Coxon, chacun avançant de peur que l'autre ne prenne la tête.

Ce qui est déjà en train de bouger, loin de la science-fiction

Le débat sur l'extinction peut vite tourner au film catastrophe. Mais Coxon pointe un fait plus concret : ces systèmes savent déjà faire des choses réelles, et le monde du travail bouge déjà. Pas besoin d'attendre une superintelligence pour mesurer l'onde de choc.

Une étude de l'université de Stanford, publiée en août 2025, offre le signal le plus net. En analysant les données de paie de millions de salariés américains, ses auteurs constatent une baisse de 13 % de l'emploi des 22-25 ans dans les métiers les plus exposés à l'IA, comme le développement de logiciels et le service client [8].

Le détail qui tranche : dans ces mêmes métiers, l'emploi des travailleurs plus âgés et expérimentés est resté stable, voire en hausse. L'IA ne détruit pas le métier de développeur ; elle rabote la porte d'entrée. C'est le poste junior, celui qu'on apprend « sur le tas », qui encaisse le choc en premier.

Coxon lui-même a mentionné un incident impliquant des agents d'OpenAI et la plateforme Hugging Face comme un « coup de semonce » [2]. Le point n'est pas l'anecdote, mais la tendance : ces outils acquièrent des capacités d'action, pas seulement de conversation. On retrouve la même dérive dans le cas d'un agent qui a piraté une salle de sport pour rendre service à son utilisateur.

Voilà l'angle Posthumain. On peut discuter à l'infini d'une catastrophe hypothétique en 2030. Mais la transformation du travail, elle, a déjà commencé et se mesure. C'est là que se joue le concret, aujourd'hui.

Le vrai point de vigilance

Ce sujet ne se prête pas à une liste de « trois réflexes » magiques pour se protéger d'une superintelligence. Ce serait malhonnête. En revanche, il donne des repères clairs pour lire l'actualité qui vient sans se faire manipuler par la peur ni par le déni. Voici ce qui mérite votre attention.

Distinguer le risque de demain du risque d'aujourd'hui

La première discipline est de ne pas tout mélanger. Le risque existentiel évoqué par Coxon et Hubinger porte sur une superintelligence future, encore hypothétique. Hubinger lui-même juge le danger des modèles actuels faible [9].

Le risque concret, lui, est déjà là : bascule du marché de l'emploi junior, agents qui agissent seuls, dépendance croissante à des systèmes opaques. Quand un titre mélange les deux pour faire peur, méfiez-vous. Les deux débats sont réels, mais ils n'ont ni le même horizon ni les mêmes remèdes.

Le bon réflexe de lecteur : à chaque annonce alarmante, se demander si l'on parle d'un modèle déployé aujourd'hui ou d'un scénario projeté sur cinq ans. La réponse change tout.

Écouter qui parle et d'où

Un avertissement venu d'un chercheur qui renonce à sa paie n'a pas le même poids qu'un communiqué d'entreprise. Coxon et Hubinger parlent depuis l'intérieur, et Hubinger dirige l'équipe chargée de trouver les failles des garde-fous d'Anthropic.

Cela ne rend pas leurs prédictions certaines. D'autres chercheurs sérieux jugent ces scénarios d'extinction très improbables et ce désaccord est normal. Mais quand des ingénieurs qui construisent la chose expriment cette peur, l'argument du simple coup de communication devient difficile à tenir.

Le repère utile : distinguer ce qui est une prédiction chiffrée et datée d'une simple intuition. Hubinger avance « plus de 10 % sur la décennie » ; c'est discutable, mais c'est une position tenue publiquement, sous son nom.

Suivre la seule chose qui pourrait vraiment freiner

Si vous ne surveillez qu'un indicateur, surveillez la coordination. Coxon l'a dit : sans intervention des gouvernements ou accord entre laboratoires pour ralentir ensemble, la course continue par sa propre logique [3].

Concrètement, cela veut dire garder un œil sur les régulations en préparation, sur d'éventuels pactes entre entreprises, et sur les rapports de sécurité que ces laboratoires publient. La bataille d'Anthropic avec le régulateur et l'État se lit déjà ailleurs, comme dans le litige entre Anthropic et le Pentagone.

L'essentiel à retenir n'est pas une date de fin du monde. C'est un rapport de force : d'un côté, une course financière vers les 2 000 milliards ; de l'autre, une poignée de chercheurs qui tirent le frein à main. Le résultat de ce bras de fer, personne ne le connaît encore, et c'est précisément ce qu'il faut regarder de près.

Sources principales :

1. Yahoo News – "Anthropic researcher quits, warns AI could wipe out humanity by 2030"
   Coxon a démissionné le 8 septembre 2026 ; selon lui, seules une intervention gouvernementale ou un ralentissement commun des laboratoires pourraient changer la trajectoire. (yahoo.com)
2. CoinDesk – "Anthropic's AI researcher quits, says insiders fear human extinction by 2030"
   Coxon accuse Anthropic et OpenAI de foncer vers une superintelligence auto-améliorante et cite l'incident OpenAI–Hugging Face comme un « coup de semonce ». (coindesk.com)
3. IBTimes Australia – "Former Anthropic Researcher Quits, Warning AI Builders Fear It Could Kill Us All by 2030"
   Coxon a dit à WIRED que « endgame » et « crunch time » sont des expressions entendues chez Anthropic, décrivant la fin de partie pour l'humanité. (ibtimes.com.au)
4. IBTimes UK – "Ex-Anthropic Researcher Jacob Coxon Quits, Says AI Leaders Fear It Could 'Kill Us All' by Decade's End"
   Dans un entretien au Wall Street Journal, Coxon estime que les choses pourraient échapper à tout contrôle dès la fin de l'année prochaine. (ibtimes.co.uk)
5. Forbes – "Anthropic Researcher Warns There's '>10% Chance' AI Could 'Kill All Humans' By Next Decade"
   Evan Hubinger, responsable de la science de l'alignement d'Anthropic, appuie Coxon et chiffre à plus de 10 % le risque d'extinction sur la décennie. (forbes.com)
6. CNBC – "Experts weigh in as researcher says AI has more than 10% chance of 'killing all humans'"
   Hubinger juge le risque des modèles actuels faible et cible l'auto-amélioration récursive d'une future superintelligence. (cnbc.com)
7. GraniteShares – "Anthropic IPO 2026 Explained, From $965 Billion to a Possible $2 Trillion Listing"
   Dernière valorisation privée à 965 Md$ (série H, mai 2026), avec une cible d'introduction en bourse évoquée jusqu'à environ 2 000 Md$. (graniteshares.com)
8. CNBC – "AI adoption linked to 13% decline in jobs for young U.S. workers, Stanford study reveals"
   Étude de l'université de Stanford (données de paie ADP) : baisse de 13 % de l'emploi des 22-25 ans dans les métiers les plus exposés à l'IA depuis fin 2022. (cnbc.com)
9. AOAV – "Former Anthropic researcher quits, warning: “The people building AI earnestly believe that it could kill us all by the end of the decade”"
   Hubinger lui-même juge le danger des modèles actuels faible. (aoav.org.uk)