Discord利用者がAnthropic社の極秘AIツールMythosに不正侵入
原題: Discord Sleuths Gained Unauthorized Access to Anthropic’s Mythos
なぜ重要か
高度AI技術の不正アクセス事例として、AI企業のセキュリティ対策強化の重要性を示した
AI企業Anthropic社の未公開セキュリティ検証AIモデル「Mythos Preview」に、Discord上のアマチュア調査員グループが不正アクセスした。彼らはAI訓練企業Mercorの情報漏洩データを分析し、Anthropicの他モデルのURL形式から推測してアクセスに成功した。
Anthropic社が厳重に管理している危険度の高いセキュリティ検証AIモデル「Mythos Preview」に、Discord利用者らが不正アクセスを果たした事件が発覚した。このモデルはソフトウェアやネットワークの脆弱性発見に特化した高性能AIツールとして開発されており、その危険性から同社が慎重にリリースを制限していた。
Bloombergの報道によると、Discord上のグループは比較的単純な手法で侵入を成功させた。彼らはAI訓練スタートアップMercorの最近の情報漏洩で得られたデータを分析し、「Anthropicが他のモデルで使用しているURL形式の知識に基づいて、モデルのオンライン上の場所を推測した」という。さらに、Anthropicの契約企業で働く関係者が持つ他のAnthropic製モデルへのアクセス権限も悪用された。
この侵入により、グループはMythosだけでなく他の未公開Anthropic AIモデルにもアクセス可能になった。ただし、これまでのところ彼らはAnthropic社に検知されることを避けるため、単純なWebサイト構築にのみツールを使用しており、悪質なハッキング活動は行っていないとされている。