Anthropic propose un projet de loi pour bloquer des modèles IA dangereux
Original : Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
Pourquoi c'est important
Ce texte marque la première proposition réglementaire structurée d'un grand lab d'IA au Congrès américain.
Anthropic a soumis au Congrès américain un projet de loi autorisant le blocage d'un modèle IA si plus de 50 personnes risquent de mourir ou si un milliard de dollars de dégâts sont prévisibles.
Selon Politico, Anthropic fait circuler depuis plusieurs semaines un projet de loi fédéral sur la sécurité de l'IA. Le texte définit des conditions précises pour qu'un modèle soit bloqué avant sa mise sur le marché : un risque « prévisible et imminent » impliquant plus de 50 morts potentiels, ou plus d'un milliard de dollars de dommages matériels. Ces scénarios doivent être liés à la création d'une arme biologique, à un cyberattaque, ou à un modèle échappant au contrôle de son développeur.
Le dispositif prévu repose sur des « évaluateurs indépendants » enregistrés auprès du département américain du Commerce. Ces experts pourraient être rémunérés par les laboratoires eux-mêmes, à condition que le paiement ne soit pas conditionné aux résultats — une garantie dont la robustesse reste contestable. En cas de risque identifié, les évaluateurs auraient 72 heures pour alerter le Commerce Department, qui devrait ensuite saisir un juge fédéral à Washington D.C. Aucune agence fédérale ne pourrait agir seule pour suspendre un modèle.
Les seuils retenus — 50 morts, un milliard de dollars — sont identiques à ceux du Senate Bill 53, récemment adopté en Californie. Un porte-parole d'Anthropic a confirmé le document à Politico, indiquant qu'il s'inscrit dans l'« Advanced AI Framework » promu par la société auprès des législateurs depuis juin 2026.