AnthropicのClaudeテキスト透かし機能への批判
Judul asli: Anthropic's 'watermark' text adulteration in Claude is a perversion of writing
Mengapa Ini Penting
AI生成コンテンツの透明性確保をめぐる技術的・倫理的課題が業界全体に問われている
Anthropicは全Claudeモデルに対しEU規制に準拠するためテキスト透かし機能を導入予定。単語選択を操作するステガノグラフィー手法を採用し、文章の意味・品質に影響を与えるとの批判が浮上している。
Anthropicは近日中に全Claudeモデルへテキスト透かし機能を導入すると発表した。EU規制への対応が目的で、生成されたテキストにAI由来であることを示す「指紋」を埋め込む。
同社の公式サポート文書では「imperceptible（知覚不可能）」であり「意味・品質・可読性を変えない」と説明していた。しかし後に公開された別記事「How Claude's Text Watermark Works」では、実際の手法がステガノグラフィーであることが明らかになった。具体的には、モデルが推論時に選択する単語やトークンに確率的なバイアスをかけることで、後から統計的に検出可能な「指紋」を生成するという仕組みだ。
この手法は本質的に文章の語彙選択に干渉するため、当初の「品質に影響しない」という説明と矛盾するとの指摘がなされている。インタラクティブ解説記事「How AI Text Watermarking Works」を執筆したJames Padolseyも、コインを複数回投げて偏りを検出するアナロジーを用いてこの仕組みを説明しており、単語選択の統計的偏りが検出の根拠となることを示している。
Anthropicは当初の説明と実際の手法との間に乖離があったとして批判を受けており、透明性の欠如も問題視されている。