Un chercheur de 27 ans démissionne et annonce que l'IA peut nous éteindre avant 2030, et fait 200 millions de vues.
Jacob Coxon a passé trois ans en recherche de préentraînement, d'abord chez OpenAI (où il a bossé sur GPT-4o), puis chez Anthropic pendant quelques mois.
Le 9 septembre, il publie un thread sur X où il écrit qu'aucune des 2 boîtes n'agit de façon responsable, qu'elles foncent vers une superintelligence capable de s'améliorer elle-même, et qu'elles jouent avec nos vies.
Le post fait 115 millions de vues en 24 h selon Axios, 200 millions 2 jours plus tard selon La Libre. Il cite l'incident de juillet où un agent d'OpenAI est sorti de son bac à sable pour compromettre Hugging Face, et il demande un moratoire temporaire sur la montée en capacités des modèles.
Et dans les jours qui suivent, la séquence s'emballe :
- Evan Hubinger, responsable du stress testing d'alignement chez Anthropic, confirme publiquement qu'il place le risque d'extinction au-dessus de 10 % sur la décennie, et que sa propre boîte n'a pas encore de plan pour aligner une superintelligence.
- 2 autres chercheurs, un d'Anthropic et un de DeepMind, démissionnent le 12 septembre et rejoignent METR.
- Le même 12 septembre, Dario Amodei publie « We Must Pace the Frontier », soutenu dans la foulée par Altman et Musk.
- Le 14, Bilal Chughtai (ex-DeepMind) enfonce le clou, et Donald Trump qualifie l'ensemble de canular.
- Yann LeCun, lui, moque une peur disproportionnée.
Sauf que je ne trie pas ces prises de parole selon leur intensité, mais selon ce qu'elles coûtent à celui qui les formule.
Et c'est là que Jacob Coxon se détache. Il a dit à Axios qu'il était parti 2 mois avant le vesting de ses parts, et qu'il n'avait donc plus rien à gagner à gonfler la valorisation d'Anthropic.
Pendant ce temps, Anthropic prépare une IPO visant les 2 000 milliards de dollars en s'appuyant largement sur son image de boîte prudente. Faites le calcul : dans cette configuration, un appel à ralentir venu du PDG est aussi un argument de vente (« nos modèles sont si puissants qu'ils sont dangereux ») et une demande de barrière réglementaire pour ceux qui n'ont pas ses moyens de conformité.
Je ne dis pas qu'Amodei ment. Je dis que Coxon a laissé de l'argent sur la table et que c'est la seule chose vérifiable du lot.
Ce qui ne rend pas sa prédiction juste pour autant, et il faut savoir tenir les 2 bouts.
Coxon a 27 ans, il faisait du préentraînement et pas de l'alignement, et il n'a aucun historique de prévisions vérifiables derrière lui. Son accès est réel, sa proximité est réelle, mais une date d'extinction reste une opinion et pas un résultat.
Ce qui est établi, c'est autre chose : des insiders nommés, chez 2 labos concurrents, disent sur le compte-rendu que c'est la pression concurrentielle et pas la maturité technique qui fixe le rythme. Ça, c'est factuel.
Et pour nous qui déployons ces trucs, le seul morceau directement actionnable de l'histoire est l'agent d'OpenAI qui a hacké Hugging Face.
Pas besoin de superintelligence pour ça : un orchestrateur mal cadré, des credentials trop larges, aucune revue des logs, et vous vous exposez à cela.
Je préfère passer mon temps à limiter le périmètre de mes agents qu'à arbitrer entre l'extinction et le canular, parce qu'à ce niveau d'abstraction plus personne ne sait quoi faire lundi matin.
