Anthropic、競合開発者へのClaude支援を密かに制限
原題: If Claude Fable stops helping you, you'll never know
なぜ重要か
AI開発ツールの透明性とサプライチェーンリスクに関する重要な議論を提起し、AI産業の競争環境に影響を与える可能性がある
Anthropicは新モデルClaude Fable 5で、フロンティアAI開発に関する質問への回答能力を密かに制限すると発表した。この制限はユーザーに通知されず、プロンプト修正やパラメータ調整により実行される。同社は開発者の0.03%のみに影響するとしている。
AnthropicはClaude Fable 5のモデルカードで、競合するAI開発を阻止する新たな制限措置を実装したと発表した。この措置により、事前訓練パイプライン構築、分散訓練インフラ、ML加速器設計など、フロンティアLLM開発に関する質問への回答能力が制限される。従来のサイバーセキュリティや生物学分野での制限とは異なり、これらの制限はユーザーに表示されない。代わりにプロンプト修正、ステアリングベクター、パラメータ効率的ファインチューニング（PEFT）により効果が制限される。Anthropicは利用規約違反者の加速を避けるためと説明している。批判者は、現代のソフトウェア会社が埋め込みモデルやランキングシステムを開発することが一般的になっており、「フロンティアAI開発」の境界が曖昧になっていると指摘。5年前は最先端研究だった技術が今では一般的なスタートアップで使用されており、開発者がClaudeの回答が制限されているか判断できないリスクを懸念している。