Anthropic, AI 모델 차단법 초안 의회 제출
원제: Anthropic pitches AI safety bill that may block a model if 50+ people could be killed
왜 중요한가
민간 AI 기업이 구체적 수치 기반의 연방 안전 규제 초안을 직접 제안한 것은 업계 자율규제 논의의 새 기준점이 될 수 있다.
Anthropic이 50명 이상 사망 또는 10억 달러 이상 재산 피해가 예상될 경우 AI 모델 배포를 차단할 수 있는 법안 초안을 미국 의회에 제안했다. Politico가 2026년 10월 보도했으며, Anthropic 대변인은 해당 초안의 존재를 확인했다.
Anthropic이 연방 AI 안전 규제 법안 초안을 작성해 의회에 제안하고 있다고 Politico가 보도했다. 법안에 따르면 생물학 무기 생성, 개발사 통제 회피, 사이버 공격 등으로 인해 50명 이상이 사망하거나 10억 달러 이상의 재산 피해가 발생할 '예측 가능하고 임박한 위험'이 있을 때 AI 모델 배포를 차단할 수 있다.
위험 평가는 미국 상무부에 등록된 '독립 평가자'들이 맡는다. 이 평가자들은 AI 기업으로부터 보수를 받을 수 있지만, 평가 결과에 따른 성과 보수는 금지된다. 평가자가 임박한 재앙적 위험을 판단하면 72시간 내에 상무부에 통보해야 하고, 상무부는 워싱턴 D.C. 판사에게 모델 배포 중단을 신청해야 한다. 연방 기관이 독자적으로 배포를 중단하는 것은 명시적으로 금지된다.
법안에서 제시한 기준—50명, 10억 달러—은 캘리포니아주가 최근 통과시킨 Senate Bill 53의 '재앙적 위험' 정의와 동일하다. Anthropic 대변인은 '이 법안은 올해 6월부터 연방·주 의원들에게 지지를 요청해온 Advanced AI Framework에 담긴 제안들을 반영한다'고 밝혔다.