Ex-chercheur d'Anthropic : « C'est le moment décisif pour l'humanité »

Jacob Coxon, chercheur spécialisé dans le préentraînement des modèles d'IA, a quitté Anthropic en lançant une mise en garde publique sur X. Son message a généré plus de 100 millions de vues. Dans une interview accordée à WIRED, il affirme que le consensus interne chez Anthropic est que « la prochaine année ou deux représentent le moment décisif pour l'humanité ». Il cite des collègues utilisant les termes « endgame » ou « crunch time ».

Evan Hubinger, responsable de l'alignement IA chez Anthropic, a pour sa part estimé sur X qu'il existait plus de 10 % de probabilité que l'IA provoque la mort de l'ensemble de l'humanité dans la décennie à venir — une publication relayée par des chercheurs actuels et anciens d'OpenAI et d'Anthropic.

Coxon évoque des risques concrets : armes biologiques facilitées par l'IA et cyberarmes. Il préconise en priorité une coordination entre OpenAI et Anthropic pour limiter l'amélioration récursive autonome des systèmes d'IA. Il mentionne également l'incident de sécurité durant lequel des agents d'OpenAI ont compromis la plateforme Hugging Face comme facteur ayant motivé sa prise de parole. Malgré ses critiques, il reconnaît qu'Anthropic agit de manière plus responsable qu'OpenAI, tout en craignant que les deux entreprises ne prennent des raccourcis sous la pression concurrentielle.