Nadella veut un « frein d'urgence » pour l'IA
Original : Microsoft’s Satya Nadella says AI models need an ‘emergency brake’
Pourquoi c'est important
Les appels à la sécurité IA se multiplient au niveau des PDG des grandes entreprises tech.
Le PDG de Microsoft Satya Nadella a publié samedi sur X un appel à repenser l'architecture de confiance des systèmes d'IA, réclamant des contrôles externes et la capacité de stopper un modèle à tout moment.
Dans un post publié samedi matin sur X, Satya Nadella a posé une question directe : peut-on continuer à traiter la « Super Intelligence » comme une boîte noire dont on accepte ou rejette les réponses sans vraiment comprendre ce qui se passe à l'intérieur ? Sa réponse est non. Il propose de « séparer le modèle du harnais qui orchestre son travail » et d'« externaliser les contrôles et les garde-fous ». Concrètement, Nadella réclame que chaque action significative d'un modèle soit consignée dans des journaux « inviolables et lisibles par un humain », et qu'une personne autorisée puisse toujours « mettre en pause ou arrêter un modèle en cours de tâche ». « Nous devons partir du principe qu'un modèle est compromis et le contenir dès le départ. Pensez-y comme à un frein d'urgence », écrit-il. Ces déclarations arrivent alors que les grandes entreprises d'IA reconnaissent de plus en plus d'incidents où elles ont semblé perdre le contrôle de leurs modèles. Elles font également écho au plan de développement prudent publié récemment par Dario Amodei, PDG d'Anthropic — signe que la pression monte, même au sommet du secteur.