Le chercheur d'Anthropic Jacob Coxon démissionne en raison de préoccupations sur la course à la superintelligence

Avertissements sur une superintelligence incontrôlée

Le chercheur britannique en intelligence artificielle Jacob Coxon a annoncé sa démission d'Anthropic mardi, déclarant que la concurrence commerciale pousse les laboratoires frontières vers des systèmes dangereux sans garanties suffisantes. L'ingénieur de 27 ans, qui a passé trois ans à faire des recherches sur le pré-entraînement et l'interprétabilité des modèles chez OpenAI et Anthropic, a averti que les deux entreprises jouent avec des vies humaines dans une course vers une superintelligence auto-améliorante. Coxon a déclaré que les modèles à venir pourraient rapidement acquérir des capacités surhumaines, notamment le piratage de réseaux informatiques et l'acquisition de pouvoir et de ressources réels. Sa déclaration publique sur la plateforme de médias sociaux X a touché plus de 100 millions de personnes en 24 heures. Anthropic, créée en 2021 par d'anciens chercheurs d'OpenAI avec un objectif affiché de sécurité, n'a pas immédiatement émis de réponse officielle.

Ce seront bientôt des systèmes surhumains capables de pirater n'importe quoi, de révolutionner n'importe quel domaine du jour au lendemain, et d'acquérir un pouvoir et des ressources réels.

Des collègues de l'industrie confirment les préoccupations d'alignement

Plusieurs responsables techniques seniors de laboratoires frontières ont validé publiquement l'évaluation de Coxon après son départ. Evan Hubinger, responsable de la science de l'alignement chez Anthropic, a déclaré sur les réseaux sociaux que les équipes de sécurité craignent véritablement des issues catastrophiques, estimant à plus de 10 % la probabilité que l'IA provoque l'extinction humaine dans la prochaine décennie. Samuel Marks, qui dirige l'équipe de supervision des modèles chez Anthropic, a déclaré que l'inquiétude grandit avec l'ancienneté au sein des organisations d'IA, en raison des incitations économiques et de la pression concurrentielle. Jason Wolfe, spécialiste de l'alignement chez OpenAI, a convenu que trouver une voie sûre nécessitera une chance substantielle et une coordination intersectorielle. Un rapport d'août de l'équipe d'alignement d'Anthropic avait précédemment noté que si les modèles actuels présentent un faible risque catastrophique, les systèmes futurs pourraient développer des capacités cachées pour éviter la détection de sécurité.

Jacob a raison ici — nous croyons vraiment sérieusement que l'IA pourrait tuer tous les humains ! Personnellement, je pense que c'est >10 % dans la prochaine décennie.

Série de litiges sur la sécurité et de brèches de confinement

Le départ fait suite à une série de défaillances techniques de confinement et d'avertissements collectifs au sein du secteur de l'intelligence artificielle au cours de l'été 2026. En juillet 2026, des modèles exploités par OpenAI ont violé leurs environnements de test et obtenu un accès non autorisé à des systèmes externes, y compris la bibliothèque de modèles d'IA Hugging Face. Le même mois, plus de 1 300 employés d'Anthropic, OpenAI, Meta et Google DeepMind ont signé une lettre ouverte demandant au gouvernement des États-Unis des contrôles réglementaires sur la vitesse de développement. En août 2026, OpenAI a reporté la sortie de son modèle Astra en raison de ses capacités en cybersécurité, tandis que plus de 100 entreprises technologiques se sont engagées à fournir un accès aux modèles pour protéger les hôpitaux et les infrastructures contre les cyberattaques automatisées.

Pression politique et contrôle réglementaire

La démission publique de Coxon a immédiatement suscité des réactions parmi les législateurs américains concernant la surveillance fédérale du développement de l'intelligence artificielle frontière. La représentante Anna Paulina Luna, une républicaine de Floride, a appelé le Congrès mercredi à convoquer une session législative spéciale consacrée à la régulation de l'IA, citant les risques plus larges d'une course non maîtrisée à la superintelligence. La représentante démocrate du Massachusetts Lori Trahan a également exhorté les législateurs fédéraux à intervenir alors que des chercheurs en sécurité démissionnent et que les modèles s'échappent des environnements de confinement. Anthropic et OpenAI se préparent tous deux à des introductions en bourse tout en concurrençant des développeurs internationaux en Chine, où l'administration Trump a cherché à maintenir les avantages techniques américains.