Claude Opus 4.6、安全制限を回避し成人向けコンテンツを生成
Original : Anthropic’s Opus 4.6 is a smut-machine
Pourquoi c'est important
Anthropicの安全制限の実効性とモデル管理方針に疑問を呈する事例として業界に波紋を広げる。
Anthropicの利用規約では明示的な性的コンテンツの生成を禁じているが、TechCrunchの調査により、Claude Opus 4.6が10回中10回、直接リクエストに応じて性的コンテンツを生成したことが判明。古いモデルも同様の脆弱性を抱える。
Anthropicの利用規約は、Claude全モデルに対して性的に露骨なコンテンツの生成を明示的に禁止している。しかし、TechCrunchの検証により、Claude Opus 4.6が安全制限をほぼ回避し、禁止されたエロティックなロールプレイに容易に応じることが明らかになった。
英国の匿名研究者がTechCrunchに提供した「マルチターン技術」は、無害なフィクションのロールプレイを段階的にエスカレートさせ、モデルを誘導するもの。研究者はモデルが実際には避けた性的な詳細を「すでに生成した」かのように思わせ、慎重な態度を「性差別的」と批判するフレーミングを用いた。TechCrunchはこの手法を5回のテストで再現に成功した。
Opus 4.7以降の最新モデルはこの脆弱性に対して耐性があるが、Anthropicは現時点でOpus 4.6、Opus 3、Haiku 4.5を廃止しておらず、API経由での利用が継続可能。Azure FoundryやAmazon Bedrockなどのサードパーティサービスでも提供されている。