Amazon CEOがAnthropic AIモデルの懸念を政府に報告
原題: Amazon CEO reportedly raised Anthropic model concerns before government crackdown
なぜ重要か
AI安全性をめぐる政府規制と企業の対応が本格化し、AI開発における責任と透明性の議論が加速する転換点となる。
Amazon CEOのAndy JassyがAnthropic社のClaude Fable 5モデルがサイバー攻撃に悪用される可能性があると財務長官らに報告した。この報告を受けて政府がFable 5とMythos 5モデルに輸出管理規制を課し、Anthropic社が金曜日に世界中でのアクセスを停止した。
Wall Street Journalの報道によると、Amazon CEOのAndy Jassyがスコット・ベセント財務長官らに対し、Amazon研究者がAnthropic社のClaude Fable 5モデルを使用してサイバー攻撃に利用可能な情報を取得したと報告した。この報告を受けて、政府はFable 5とMythos 5モデルに輸出管理規制を課した。AmazonはAnthropic社の主要投資家である。Amazonの広報担当者は「政府が潜在的なセキュリティリスクについて助言を求めることは珍しくない」としながらも、議論の詳細は共有しないと述べた。また、AWSがモデルの停止により影響を受けたことも認めた。元AI担当官のデビッド・サックス氏は「信頼できるパートナーがジェイルブレイクを報告し、政府がAnthropic CEOのダリオ・アモデイ氏に修正か展開停止を求めたが拒否された」と説明している。Anthropic社は懸念されている機能は他の公開モデルでも既に利用可能だとブログで反論している。