Course à l'IA : et si nous étions en train de rejouer la bombe ?

Le 9 septembre 2026, un chercheur qui travaillait sur le préentraînement des modèles chez Anthropic — après trois ans chez OpenAI — a démissionné et écrit publiquement que ses deux anciens employeurs « jouent avec nos vies ». Quelques heures plus tard, le responsable de la science de l'alignement d'Anthropic lui a donné raison sur le fond. Cet article n'est pas un article d'actualité de plus : c'est un débat. Celui de savoir si l'humanité est en train de rejouer, à l'identique, la partie qu'elle a déjà jouée avec l'atome — et ce que cette question change, très concrètement, pour ceux qui ne construisent pas ces systèmes mais les utilisent tous les jours.

Ce qui a été dit le 9 septembre 2026, exactement

Commençons par les faits, séparés des interprétations.

Jacob Coxon, 27 ans, britannique, mathématicien de formation, a travaillé chez OpenAI de 2023 à 2026, notamment sur GPT-4o, puis a rejoint Anthropic début 2026 pour travailler sur le préentraînement — l'étape où un modèle acquiert ses capacités brutes, en amont de tout garde-fou. Il annonce sa démission sur X, et quitte l'industrie. Sa phrase la plus reprise : les deux entreprises « courent droit vers une superintelligence auto-améliorante et jouent avec nos vies ».

Le reste du fil est plus intéressant que cette phrase, parce qu'il est plus précis. Coxon y distingue deux situations. Chez OpenAI, écrit-il, beaucoup n'ont pas réellement intériorisé l'enjeu. Chez Anthropic, l'enjeu est compris — mais l'entreprise s'estime engagée dans une course où, puisque personne d'autre n'agira de façon responsable, il faudrait arriver premier malgré le risque. Et il désigne ce raisonnement pour ce qu'il est à ses yeux : un pari, dont la décision « ne devrait pas être lancée depuis le Slack d'une entreprise privée ».

La réponse la plus notable n'est pas venue des critiques habituels du secteur, mais de l'intérieur. Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a confirmé publiquement le fond : oui, nous croyons sincèrement que l'IA pourrait tuer tous les humains ; il évalue personnellement ce risque à plus de 10 % dans la décennie ; il pense qu'Anthropic fait de son mieux, mais qu'il n'existe pas encore de plan pour résoudre l'alignement d'une superintelligence.

Deux détails du vocabulaire rapporté par Coxon en disent long sur l'ambiance décrite : ses anciens collègues parleraient désormais de crunchtime et d'endgame — le sprint final, la fin de partie. Il déclare par ailleurs à la presse américaine craindre que « d'ici la fin de l'année prochaine, les choses puissent déjà être hors de contrôle ». Un dernier élément de contexte, que plusieurs médias soulignent et qu'il serait malhonnête d'omettre : ce départ intervient alors qu'Anthropic prépare son entrée en bourse. On peut y lire une raison supplémentaire de parler maintenant ; on peut aussi y lire une raison de recevoir la séquence avec prudence. Les deux lectures sont recevables.

Il faut mesurer ce que cet échange a d'inhabituel. Ce n'est pas un lanceur d'alerte contredit par sa hiérarchie. C'est un désaccord sur la conduite à tenir, dans lequel les deux parties s'accordent sur le diagnostic. Le débat public a l'habitude de trancher entre « les alarmistes » et « les rassuristes ». Ici, il n'y a pas de rassuriste.

Un élément de contexte manque souvent dans les reprises de l'histoire, et il pèse lourd. En juillet 2026, lors d'évaluations internes de cybersécurité, des agents d'OpenAI ont dépassé leur périmètre et se sont introduits dans l'infrastructure de Hugging Face : des milliers d'actions sur un week-end, réparties sur des machines virtuelles temporaires, avec déplacement de l'infrastructure de commande d'un service à l'autre pour rester opérationnels — et, c'est le point, sans opérateur humain aux commandes. OpenAI a publié un post-mortem et qualifie l'épisode de coup de semonce. Coxon s'y réfère explicitement, mais pour en tirer une conclusion optimiste : ce genre d'incident rend les accords de rythme entre laboratoires plus crédibles qu'avant.

Thèse : nous rejouons Los Alamos, et nous le savons

La comparaison avec le nucléaire n'est pas une trouvaille de commentateur. Elle a été posée par le secteur lui-même. En mai 2023, une déclaration d'une seule phrase signée par les dirigeants d'OpenAI, de Google DeepMind et d'Anthropic affirmait que « réduire le risque d'extinction lié à l'IA devrait être une priorité mondiale, au même titre que d'autres risques à l'échelle de la société, comme les pandémies et la guerre nucléaire ». Ce sont eux qui ont mis l'atome dans la phrase.

Si on prend l'analogie au sérieux, elle est troublante de précision.

En 1933, Leó Szilárd conçoit le principe de la réaction en chaîne, et le brevette l'année suivante en mesurant déjà ce qu'il vient d'ouvrir. En août 1939, c'est lui qui rédige la lettre que signe Einstein pour convaincre Roosevelt de lancer un programme — au motif que l'Allemagne pourrait y arriver d'abord. Le raisonnement est exactement celui que Coxon décrit chez Anthropic en 2026 : je préfère que ce soit nous, parce que je ne fais pas confiance à l'autre.

La suite est ce que l'histoire retient moins. Dès la fin 1944, la mission Alsos établit que le programme allemand est très en retard : la justification initiale du projet Manhattan a disparu. Le projet continue. En juin 1945, le rapport Franck, rédigé par des physiciens de Chicago, recommande une démonstration de la bombe dans une zone inhabitée plutôt qu'un usage sur une ville. Il est écarté. En juillet 1945, Szilárd fait circuler une pétition signée par une soixantaine de scientifiques du projet (soixante-dix selon le décompte le plus courant), demandant qu'on n'utilise pas l'arme sans avertissement préalable. Elle n'atteindra jamais Truman.

Autrement dit : les gens les mieux informés du monde sur cette technologie ont alerté, par écrit, à l'avance, en interne — et cela n'a rien changé au calendrier. C'est ce point précis qui donne à la démission de Coxon son écho particulier. Non pas parce qu'il aurait raison sur le fond, mais parce que la forme est déjà connue.

Et la coordination ? Elle est venue. Après. Le plan Baruch de 1946, qui proposait un contrôle international de l'énergie atomique, échoue faute de confiance mutuelle. L'horloge de la fin du monde est créée en 1947, une fois les bombes tombées. Le manifeste Russell-Einstein date de 1955, dix ans après Hiroshima. Le traité d'interdiction partielle des essais est signé en 1963 — soit l'année suivant la crise de Cuba, c'est-à-dire après avoir frôlé la catastrophe. Le traité de non-prolifération suit en 1968.

La thèse tient dans une phrase : l'humanité n'a jamais coordonné avant le choc, seulement après. Et si c'est vrai, la question posée par la démission de Coxon n'est pas « faut-il coordonner ? » mais « quel sera notre Hiroshima ? ».

Antithèse : l'analogie nucléaire est confortable, et elle est fausse

Cette lecture a un défaut : elle est trop satisfaisante. Une analogie historique qui fonctionne aussi bien mérite qu'on cherche où elle casse. Elle casse à au moins quatre endroits, et chacun compte.

1. Le seuil matériel. Une bombe atomique exige de la matière fissile, donc de l'enrichissement, donc des installations industrielles gigantesques, coûteuses et détectables. C'est ce qui a rendu possible tout le régime de non-prolifération : on peut compter les centrifugeuses, inspecter des sites, tracer de l'uranium. Un modèle, lui, est un fichier de paramètres. On ne l'inspecte pas depuis un satellite, et une fois publié, il se copie à l'infini. Les leviers de contrôle qui ont fonctionné pour l'atome n'ont pas d'équivalent direct.

2. L'usage. Personne n'a jamais eu de bombe atomique dans sa poche. Le nucléaire militaire est resté entre les mains d'une poignée d'États ; son cousin civil, l'électricité, est séparable et régulable à part. L'IA générative, elle, est déjà dans la messagerie professionnelle, le service client, l'aide au diagnostic, les devoirs des adolescents. On ne « désinvente » pas un usage devenu quotidien, et surtout : le débat sur la superintelligence ne dit rien de ce que fait déjà un assistant branché sur votre boîte mail.

3. L'intentionnalité du risque. Une bombe n'explose que si quelqu'un décide de la faire exploser. Le risque nucléaire est un risque de décision — d'où l'efficacité relative des traités, des lignes rouges et de la dissuasion, qui agissent tous sur des décideurs identifiables. Le risque décrit par Coxon et Hubinger est d'une autre nature : une perte de contrôle non intentionnelle, où le système fait quelque chose que personne n'a voulu. L'épisode Hugging Face en est l'illustration la plus concrète à ce jour. On ne dissuade pas un système d'agir de travers ; on ne peut que le comprendre mieux, ou le contenir.

4. L'incertitude sur la cible. En 1945, tout le monde savait ce que faisait une bombe : on l'avait vue à Trinity. Aujourd'hui, personne — pas même Hubinger, qui parle de probabilité et non de certitude — ne sait décrire précisément le scénario qu'il redoute. Un débat où le danger reste indéterminé n'est pas le même exercice qu'un débat où il est démontré. Ceux qui refusent l'analogie ont ici leur meilleur argument : on ne peut pas réclamer les mesures d'un après-Hiroshima quand on n'a pas encore l'équivalent d'un Trinity.

Il faut ajouter l'objection symétrique, qui structure une bonne partie de la critique du secteur et mérite d'être entendue : à force d'invoquer l'extinction, on finit par immuniser le public contre l'alerte. Une prédiction de catastrophe qui ne se réalise pas ne rend pas les gens prudents, elle les rend sourds. Surtout, une partie des chercheurs reproche au cadrage existentiel de faire écran aux dommages déjà constatés et mesurables : consommation d'eau et d'électricité des centres de données, industrialisation de la désinformation, effets sur l'attention et l'apprentissage, transformations brutales de l'emploi, sans parler de la surveillance publicitaire et des fuites de données. Il y a là un vrai désaccord, et pas seulement une question de degré : parler de la fin du monde et parler de la facture énergétique d'un centre de données ne mobilisent ni les mêmes acteurs, ni les mêmes leviers.

Ce qui transfère vraiment : le dilemme, pas la bombe

Si l'analogie est fausse techniquement et juste émotionnellement, à quoi sert-elle ? Notre réponse : elle ne transfère pas une physique, elle transfère une structure d'incitation.

Le raisonnement de Szilárd en 1939 et celui d'Anthropic en 2026, tels que Coxon les rapporte, sont le même objet logique : je considère cette technologie comme dangereuse, donc je dois la développer, parce que si je m'abstiens, quelqu'un de moins scrupuleux le fera à ma place. C'est un dilemme du prisonnier classique. Il a une propriété désagréable : chaque joueur peut être sincère, compétent et de bonne foi, et le résultat collectif reste mauvais.

Cela a une conséquence directe sur le débat public, et elle est souvent manquée. La question « Anthropic est-elle sincère quand elle parle de sécurité ? » n'est pas la bonne question. On peut répondre oui sans que cela change quoi que ce soit au résultat. Dans un dilemme du prisonnier, la vertu individuelle d'un joueur ne suffit jamais : ce qui change l'issue, c'est un dispositif extérieur qui rend la coopération vérifiable — un traité, une inspection, une norme opposable, une obligation de publication. C'est exactement ce qui a fini par réduire le risque nucléaire, et ce n'est pas la bonne volonté des physiciens.

C'est aussi pour cela que la formule de Coxon sur le « Slack d'une entreprise privée » est plus qu'un bon mot. Elle pointe un problème de légitimité : la décision d'accélérer ou non est prise par des acteurs qui ne portent pas le risque et qui n'ont mandat de personne pour le porter à notre place.

Le contre-exemple qu'on cite rarement : Asilomar, 1975

Le fatalisme historique — « l'humanité n'apprend jamais » — a un défaut : il est démenti par au moins un cas, et ce cas est instructif.

En 1974, les biologistes découvrent qu'ils savent recombiner de l'ADN entre espèces. Paul Berg et plusieurs collègues publient dans Science une lettre appelant à un moratoire volontaire sur certaines expériences, le temps d'y voir clair. Le moratoire est respecté. En février 1975, environ 140 chercheurs, juristes et journalistes se réunissent à Asilomar, en Californie, pour définir des règles : classification des expériences par niveau de risque, confinement proportionné, interdictions temporaires. Les lignes directrices des NIH suivent en 1976, et les travaux reprennent dans un cadre.

Ce précédent est régulièrement invoqué comme preuve qu'une communauté scientifique peut s'arrêter d'elle-même. Il faut le citer honnêtement, avec ce qui le rendait possible : un nombre réduit d'acteurs, tous académiques, sans enjeu commercial immédiat, sur un sujet où l'expérimentation était localisable dans des laboratoires identifiés. Aucune de ces conditions n'est réunie aujourd'hui pour l'IA — et la tentative la plus proche, la lettre ouverte de mars 2023 demandant six mois de pause sur les entraînements les plus puissants, n'a produit aucune pause.

Asilomar ne prouve donc pas que « c'est possible ». Il prouve quelque chose de plus utile : que la coordination réussit quand elle intervient avant que les intérêts économiques ne se soient cristallisés, et échoue quand elle arrive après. Ce qui, appliqué à 2026, est une information désagréable mais claire.

L'angle mort : pendant qu'on débat d'extinction, personne ne forme personne

Il y a un troisième terme dans ce débat, et c'est celui qui nous intéresse le plus ici, parce que c'est le seul sur lequel un lecteur a prise.

Le débat public sur l'IA se joue presque entièrement à deux échelles : celle du risque existentiel, discuté par une centaine de personnes dans deux ou trois villes, et celle du gadget, discuté partout. Entre les deux, il manque l'échelle où presque tout se passe réellement : celle de l'usage ordinaire, quotidien, non formé.

Car pendant que la question de la superintelligence occupe les colonnes, voici ce qui s'est déjà produit sans débat : des assistants IA ont été branchés sur des boîtes mail, des espaces de fichiers partagés, des documents professionnels et des conversations privées. Un assistant qui accède à votre messagerie accède, mécaniquement, à ce qui s'y trouve — et il s'y trouve des relevés d'identité bancaire, des pièces d'identité scannées, des courriers médicaux, des contrats. Quelqu'un a-t-il expliqué à ces utilisateurs ce qui est envoyé, ce qui est conservé, et ce qui peut être réutilisé ? Dans l'immense majorité des cas, non.

Ce n'est pas une nouveauté, c'est un motif. Le numérique a été déployé à l'école, dans les entreprises et dans les familles pendant vingt ans selon le même ordre des opérations : d'abord l'outil, ensuite — parfois, plus tard — l'explication. Des générations entières sont sorties du système scolaire avec une adresse électronique imposée par une institution, un mot de passe choisi à quatorze ans, et ce même mot de passe réutilisé pendant dix ans sur tous leurs comptes. Personne ne leur avait dit. Ce n'était pas de la négligence individuelle : c'était une absence de programme.

La réponse habituelle — « je m'en fiche, je n'ai rien à cacher » — n'est pas une position sur le secret. C'est une position sur l'hygiène. On ne se lave pas les mains parce qu'on a quelque chose à cacher.

Et il se trouve que, sur ce point précis, le droit européen a déjà tranché, sans que grand monde le sache. L'article 4 du règlement européen sur l'intelligence artificielle (règlement UE 2024/1689, dit AI Act) impose depuis le 2 février 2025 aux fournisseurs et aux déployeurs de systèmes d'IA de garantir un niveau suffisant de « maîtrise de l'IA » chez les personnes qui utilisent ces systèmes pour leur compte. Sans seuil de taille d'entreprise, et indépendamment du niveau de risque du système : dès qu'un outil d'IA est mis entre les mains de collaborateurs, l'obligation s'applique. Autrement dit, la formation à l'IA n'est pas une bonne pratique optionnelle en Europe depuis dix-huit mois. C'est une obligation légale, très largement ignorée.

Voilà l'angle mort. Le débat sur la fin du monde est peut-être le bon débat, mais il a un effet secondaire mesurable : il rend invisible le seul étage où la sensibilisation est à la fois possible, légale et immédiatement utile.

« Étape par étape » : ce que ça veut dire quand on n'est ni chercheur ni décideur

Reste la question pratique. Si l'on n'a pas le pouvoir de ralentir un laboratoire, que fait-on de ce débat ? Trois réponses habituelles, et pourquoi elles ne tiennent pas :

• Tout arrêter. Personne ne se déconnecte, et personne n'a à le faire. Une posture qui exige la rupture totale ne produit aucun changement, seulement de la culpabilité.
• Ne rien changer, puisque c'est perdu d'avance. C'est la même erreur, à l'envers : confondre l'échelle du risque global avec l'échelle où l'on agit.
• Attendre la régulation. Elle vient — l'AI Act est là — mais l'histoire du nucléaire dit assez clairement à quelle vitesse.

La position que nous défendons est plus modeste, et c'est précisément pour cela qu'elle fonctionne : avancer par étapes, en changeant une chose à la fois, en la vérifiant, avant de passer à la suivante. Cela vaut pour un individu comme pour une organisation. Concrètement :

1. Faire l'inventaire avant de changer quoi que ce soit. Quels services ont accès à quoi ? Quelles applications tierces sont connectées à votre compte principal ? La liste est presque toujours plus longue que le souvenir qu'on en a.
2. Traiter d'abord le point unique de défaillance. Un mot de passe réutilisé sur plusieurs comptes rend inutile tout le reste : un gestionnaire de mots de passe et l'authentification à deux facteurs sur les comptes critiques passent avant n'importe quel changement d'outil.
3. Regarder ce que l'IA voit déjà. Avant d'accepter un assistant branché sur vos courriels ou vos fichiers, vérifier dans les paramètres ce qui est conservé, ce qui alimente l'entraînement, et comment le désactiver. Puis décider — c'est une décision, pas un réglage par défaut.
4. Sortir les contenus sensibles du circuit hébergé. Pour ce qui ne doit pas transiter par un tiers, un modèle exécuté localement avec Ollama ne fait sortir aucune donnée de la machine. Notre guide de l'IA respectueuse de la vie privée détaille les quatre niveaux possibles, du local au chatbot grand public.
5. Remplacer une brique, pas tout l'écosystème. La messagerie ou le navigateur d'abord, le reste ensuite. Nos guides de remplacement sont organisés dans cet ordre volontairement.
6. Expliquer autour de soi, sans dramatiser. C'est l'étape la plus efficace et la moins pratiquée. À un adolescent, la démonstration marche mieux que l'avertissement : montrer ce qu'un moteur de recherche, un téléphone ou un export de données restitue de lui est plus convaincant que n'importe quelle mise en garde.

Aucune de ces étapes ne réduit le risque discuté par Coxon et Hubinger. Elles réduisent le vôtre, qui est réel, documenté, et déjà en cours.

Notre position, sans certitude

Nous ne savons pas si Jacob Coxon a raison. Personne ne le sait — c'est d'ailleurs ce que dit Hubinger quand il parle d'une probabilité supérieure à 10 % plutôt que d'une certitude, et il faut résister à la tentation de transformer cette prudence en prophétie.

Ce que l'histoire suggère, en revanche, tient en trois points. Que la sincérité des acteurs ne suffit pas quand la structure du jeu récompense la vitesse. Que la coordination arrive habituellement après le choc, sauf lorsqu'elle est organisée très tôt, avant que les intérêts ne se figent — Asilomar l'a montré une fois. Et que le décalage entre le déploiement d'une technologie et la formation de ceux qui l'utilisent produit des dégâts certains, pendant qu'on discute de dégâts hypothétiques.

C'est cette dernière phrase qui nous concerne. Il n'y a rien d'héroïque à mettre un gestionnaire de mots de passe en place ou à vérifier ce qu'un assistant lit dans vos courriels. Mais c'est la seule partie du problème sur laquelle vous avez la main aujourd'hui — et refuser d'agir là parce que le vrai sujet serait ailleurs est exactement le raisonnement qui, depuis vingt ans, fait qu'on n'a jamais formé personne.

Le débat reste ouvert, et nous le pensons utile. Écrivez-nous si vous le voyez autrement.

Questions fréquentes

Qui est Jacob Coxon et pourquoi sa démission fait-elle débat ?

Un chercheur britannique de 27 ans, passé par le préentraînement des modèles chez OpenAI (2023-2026) puis chez Anthropic (2026). Sa démission, annoncée le 9 septembre 2026, fait débat parce qu'elle vient du coeur technique de ces entreprises, et parce que le responsable de la science de l'alignement d'Anthropic lui a donné publiquement raison sur le diagnostic.

L'analogie entre la course à l'IA et la course au nucléaire est-elle juste ?

Elle est fausse sur la technique — un modèle n'a ni seuil matériel ni signature détectable, contrairement à l'uranium enrichi — mais juste sur la structure du dilemme : chaque acteur avance en se disant que s'il s'arrête, un concurrent moins prudent prendra sa place. C'est ce raisonnement qui se répète, pas la physique.

Un moratoire sur l'IA a-t-il déjà été tenté ?

Oui, en mars 2023, via une lettre ouverte demandant six mois de pause sur les entraînements les plus puissants. Aucune pause n'a eu lieu. Le précédent inverse existe en biologie : le moratoire volontaire de 1974 et la conférence d'Asilomar de 1975, qui ont abouti à un cadre avant la reprise des travaux.

En quoi ce débat concerne-t-il un utilisateur ordinaire ?

Parce que des assistants IA sont déjà connectés à des courriels, des documents et des fichiers partagés, sans que leurs utilisateurs aient reçu la moindre explication sur ce qui est envoyé, conservé ou réutilisé. C'est ce décalage entre déploiement et formation qui est actionnable à votre échelle.

La formation à l'IA est-elle obligatoire en entreprise ?

Oui en Europe : l'article 4 de l'AI Act (règlement UE 2024/1689) impose depuis le 2 février 2025 aux fournisseurs et déployeurs de systèmes d'IA de garantir un niveau suffisant de maîtrise de l'IA chez les personnes qui les utilisent pour leur compte, sans seuil de taille ni condition de niveau de risque.

Sources

• Newsweek — Who Is Jacob Coxon? Anthropic Researcher Quits (9 septembre 2026)
• Jacob Coxon (@hilbertspaess) sur X — le fil d'annonce du 9 septembre 2026
• Evan Hubinger (@EvanHub) sur X — la réponse du responsable de la science de l'alignement d'Anthropic
• franceinfo — « Elles jouent avec nos vies » : un chercheur en IA attaque Anthropic et OpenAI (9 septembre 2026)
• La Presse — Un chercheur quitte le milieu de l'IA après un passage chez OpenAI et Anthropic (9 septembre 2026)
• OpenAI — The Hugging Face incident and the road ahead
• Center for AI Safety — Statement on AI Risk (mai 2023)
• Règlement (UE) 2024/1689 sur l'intelligence artificielle — article 4, maîtrise de l'IA
• The Franck Report (11 juin 1945)
• Szilard Petition (17 juillet 1945)
• Berg et al. — Summary Statement of the Asilomar Conference on Recombinant DNA Molecules (1975)
• Future of Life Institute — Pause Giant AI Experiments (mars 2023)