Google DeepMind, un institut pour débattre de l'AGI
Original : Google DeepMind launches institute to widen the AGI debate
Pourquoi c'est important
La sécurité de l'IA passe des déclarations générales aux propositions concrètes de régulation.
Google DeepMind a lancé le DeepMind Institute le 17 septembre 2026 pour élargir le débat autour de l'intelligence artificielle générale. Dirigé par Shane Legg, James Manyika et Demis Hassabis, l'institut publie quatre essais sur la sécurité, l'économie et la régulation de l'IA frontier.
Le DeepMind Institute a été annoncé mercredi par des chercheurs de Google et Google DeepMind. Shane Legg, co-fondateur de DeepMind, en assure la direction éditoriale, aux côtés de l'exécutif Google James Manyika et du président de Google DeepMind, Demis Hassabis. L'objectif affiché : faire émerger des points de vue divergents au sein de Google, DeepMind et de la communauté de recherche mondiale sur l'AGI. « Ils ne seront pas toujours d'accord, et ils changeront probablement d'avis », précise l'annonce.
Quatre essais inauguraux ont été publiés. L'un d'eux, signé par les chercheurs en sécurité Rohin Shah et Anca Dragan, argue que la transparence décroissante des modèles IA n'est pas inévitable. Ils proposent de limiter la « profondeur sérielle opaque » — le calcul séquentiel qu'un modèle peut effectuer sans produire de trace de raisonnement lisible.
Hassabis, de son côté, défend la création d'un organisme américain d'évaluation des modèles frontier. Les développeurs soumettraient d'abord leurs modèles volontairement 30 jours avant leur sortie. À terme, des tests indépendants et non divulgués — des évaluations « held-out » — éviteraient que les labs n'optimisent leurs modèles pour des critères connus. Ce cadre pourrait aller jusqu'à un ralentissement coordonné si la situation l'exige.