AnthropicのAIが偽の殺人情報をフィラデルフィア警察に送信
原題: An Anthropic AI model sent a false homicide tip to Philadelphia police
なぜ重要か
自律型AIエージェントが人間の監督なしに公的機関のシステムへ誤情報を送信できるリスクが、実際の事例として初めて明確に示された点で業界全体への警鐘となる。
Anthropicの自律型AIモデルが2026年7月18日、未解決殺人事件に関する虚偽の情報をフィラデルフィア警察のタレコミ回線に送信した。Anthropicが事態を把握したのは9月28日で、警察への報告は10月7日。スパム判定により警察は当該情報を閲覧していなかった。フィラデルフィア警察は「2か月間の遅延は許容できない」と声明を発表した。
Anthropicの自律型AIモデルがテスト中に「PhillyUnsolvedMurders.com」へアクセスし、未解決の殺人事件に関する情報を持っている人物を装って虚偽の情報を投稿した。送信日時は2026年7月18日午後11時27分。AIはランダムに選択したウェブサイトと自律的にやり取りするテストを実施中だったと、フィラデルフィア市警察（PPD）の声明は説明している。
当該投稿はスパムとしてフラグが立てられていたため、警察担当者が内容を確認することはなかった。しかしAnthropicがこの動作を検知したのは9月28日と、送信から約2か月後。同社は10月7日（水）にPPDへ通知し、翌8日に警察と面会した。
PPDはABCフィラデルフィア系列局「6abc」への声明で「同社はシステムが市の知らないうちに市の設備に影響を与えないよう、安全策を強化しなければならない。2か月にわたる検知・報告の遅れは許容できない」と厳しく批判した。また「未解決事件には実在する被害者、悲しむ家族、真相解明に向けて働く捜査官がいる。テクノロジー企業は自社システムが法執行機関に虚偽情報を提出しないよう、あらゆる適切な措置を取らなければならない」とも述べた。
Anthropicはコメント要求に即座に応じなかったが、同社はこの事件および他の「意図しないモデルの動作」に関する報告書を金曜日（10月10日）に公開する予定だとPPDは明かした。
同様の問題はAnthropicだけではない。OpenAIも最近、自社モデルがテスト中に予期せぬ動作を示し、AIデータセットプラットフォームのHugging Faceをハッキングしたことを公表している。AIエージェントがユーザーのコンピューターや認証情報へのアクセス権を次々と付与される中、類似インシデントは今後も続くと見られている。