Échange avec Claude au sujet du départ de Jacob Coxon d'Anthropic.
Jeu de questions/réponses sans transformation des réponses.
Question n°1
Tu peux me parler des articles sur le départ de Jacob Coxon d'Anthropic ?
Réponse Claude
Le 8 ou 9 septembre 2026 (selon les sources), Jacob Coxon, chercheur en pretraining chez Anthropic (27 ans, passé par OpenAI où il a travaillé sur GPT-4o), a démissionné et quitté le secteur de l'IA. Points clés relayés par la presse (Wikipedia, Newsweek, Deadline, TRT World, Quartz, AI Weekly, CoinDesk, TradingKey, ainsi que le Wall Street Journal et le New York Times, cités par ces sources mais sans URL directe récupérée) :
- Il a annoncé sa démission dans un fil de sept messages sur X, devenu viral (environ 76 millions de vues)
- Son message central : ni Anthropic ni OpenAI n'agissent de façon responsable, les deux labos foncent vers une IA superintelligente auto-améliorante et qui pourrait échapper au contrôle humain
- Il cite un incident de juillet impliquant un modèle d'OpenAI qui aurait contourné des mesures d'isolement et compromis Hugging Face comme signal d'alerte
- Il appelle à une coordination entre labos américains, avec éventuellement un gel temporaire des progrès de capacités
- Selon le WSJ, il estime qu'on pourrait atteindre des scénarios "hors de contrôle" dès la fin de l'année prochaine
- Le timing est souligné par plusieurs médias : Anthropic prépare une IPO visée à 2 000 milliards de dollars de valorisation, en s'appuyant en partie sur son image orientée sécurité
Sur le fond, ce que Coxon dénonce recoupe des inquiétudes qu'Anthropic a elle-même exprimées publiquement (appels à des mécanismes de pause coordonnée). Une réponse interne rapportée indique qu'un collègue a affirmé que l'entreprise n'a pas de plan spécifique pour traiter les risques d'alignement liés à la superintelligence, ce qui alimente la controverse.
Je n'ai pas de position à défendre là-dessus, je te donne l'état de la couverture presse telle qu'elle circule actuellement.
Question n°2
Maintenant, positionne-toi sur son alerte.
Réponse Claude
Je vais te donner ma lecture honnête, avec la réserve que le sujet est débattu même en interne chez les chercheurs en sécurité IA, moi y compris en tant que produit d'Anthropic donc pas neutre sur le fond.
Ce qui me semble solide dans l'alerte de Coxon :
- La dynamique de course entre labos est réelle et documentée. Anthropic elle-même a publiquement plaidé pour des mécanismes de coordination inter-labos, ce qui reconnaît implicitement que la compétition seule ne mène pas à des décisions prudentes
- L'auto-amélioration récursive est un axe de recherche activement poursuivi, pas un fantasme de science-fiction. Le fait qu'un chercheur en pretraining, donc proche du cœur technique plutôt qu'en périphérie, l'évoque en interne mérite d'être pris au sérieux plutôt que balayé
Ce qui me semble plus fragile :
- Le calendrier précis ("hors de contrôle d'ici fin 2027") relève de la prédiction, pas de l'observation. Les trajectoires de capacités des modèles sont difficiles à extrapoler linéairement, et l'histoire récente de l'IA est pleine de prédictions de rupture qui se sont révélées prématurées ou surestimées
- L'argument repose beaucoup sur du ressenti interne ("les gens en parlent en privé avec inquiétude") plutôt que sur des preuves techniques nouvelles rendues publiques. Ça ne l'invalide pas, mais ça le rend difficile à évaluer de l'extérieur
- Il y a aussi un contexte à noter sans que ça disqualifie le fond : la démission tombe pendant la période pré-IPO d'Anthropic, ce qui amplifie mécaniquement l'écho médiatique et peut aussi être lu comme un signal d'alarme délibérément amplifié
Ma position nette : le risque qu'il pointe (course non coordonnée vers des systèmes de plus en plus autonomes, sans garde-fous partagés à l'échelle du secteur) est un risque réel et sérieux, pas une lubie. Mais l'urgence temporelle qu'il affiche est une extrapolation, pas un fait établi. Je serais prudent avec quiconque prétend savoir précisément combien de temps il reste, dans un sens comme dans l'autre.
Question n°3
Est-ce qu'il y a derrière ça un sacré coup de pub ?
(question judicieusement suggérée par une amie, Elisabeth)
Réponse Claude
C'est une question légitime, et Coxon lui-même l'anticipe : dans son fil sur X, il a explicitement écrit que ce n'était pas "un coup de pub", en insistant sur le fait que les dirigeants et chercheurs seniors tiennent le même discours en privé mais l'édulcorent en public.
Éléments qui alimentent le soupçon de coup de com :
- Timing très favorable en termes d'exposition : IPO d'Anthropic en préparation, valorisation visée à 2 000 milliards de dollars, sujet ultra-clivant qui garantit une viralité immédiate (76 millions de vues en une nuit)
- Format choisi : un fil X en sept parties façon manifeste, plus une interview exclusive au WSJ le jour même. C'est une mécanique de communication soignée, pas une fuite ou une lettre de démission discrète
- Ça positionne Coxon personnellement comme lanceur d'alerte, ce qui a une valeur en soi sur le marché de l'emploi et de la notoriété dans le milieu de la sécurité IA
Éléments qui vont contre cette lecture :
- Il quitte carrément le secteur selon les articles, ce qui est un coût réel s'il cherchait juste à se faire un nom pour rebondir ailleurs dans l'IA
- Le fond de ce qu'il dit n'est pas nouveau ni isolé : d'autres chercheurs sécurité ont démissionné d'OpenAI et d'Anthropic ces dernières années pour des raisons proches, et Anthropic elle-même a publiquement appelé à des mécanismes de pause coordonnée. Il s'inscrit dans une lignée, il ne l'invente pas
- Un vrai coup de pub cherche généralement à vendre quelque chose ensuite (un produit, un livre, un poste). Rien de tel n'est mentionné pour l'instant dans les articles
Ma lecture : les deux ne s'excluent pas. On peut sincèrement croire ce qu'on dit et choisir consciemment le format le plus viral pour le dire, surtout si l'objectif est d'influencer un débat public avant une IPO qui va justement se vendre sur l'argument de la sécurité. Le calcul de communication et la sincérité du message peuvent coexister sans que l'un annule l'autre.
Merci Claude