OpenAI, Anthropic, Google : négociations secrètes sur la sécurité IA
Original : OpenAI, Anthropic, Google have been in talks on AI safety for weeks
Pourquoi c'est important
Une coordination inédite entre rivaux qui pourrait redéfinir la gouvernance de l'IA frontier.
Chris Lehane, responsable des politiques chez OpenAI, a confirmé mardi que les trois géants de l'IA discutent ensemble depuis plusieurs semaines de sécurité. Ces révélations font suite à l'essai de Dario Amodei appelant à ralentir le rythme de l'IA frontier.
Selon TechCrunch, Chris Lehane, le directeur des politiques mondiales d'OpenAI, a déclaré mardi à des journalistes que son entreprise collabore depuis plusieurs semaines avec Anthropic et Google DeepMind sur des questions de sécurité liées à l'IA — une information d'abord révélée par Bloomberg.
Ces discussions s'inscrivent dans la foulée de l'essai publié samedi par Dario Amodei, PDG d'Anthropic, qui appelait l'industrie à ralentir collectivement le développement des modèles frontier pour éviter des risques catastrophiques. Sam Altman (OpenAI), Demis Hassabis (Google) et Elon Musk ont tous exprimé leur soutien, Altman annonçant qu'OpenAI intégrerait des évaluateurs tiers pour surveiller la sécurité de ses modèles.
The Information a également rapporté que les trois sociétés travaillent à la création d'un organisme de normalisation pour l'industrie — sans le soutien du gouvernement américain selon Altman. Hassabis avait déjà appelé en juillet à la création d'un tel organe de surveillance.
La question juridique reste sensible : Altman lui-même a évoqué un risque de violation des lois antitrust si cette coordination venait à freiner la concurrence. Amodei avait proposé une dérogation gouvernementale ciblée, mais Lehane affirme qu'elle n'est pas nécessaire. OpenAI soutient par ailleurs une disposition du FRONTIER Act imposant aux labos d'accueillir des organisations de vérification indépendantes. L'administration Trump, elle, rejette les préoccupations de sécurité et craint qu'un ralentissement profite à la Chine.