ClaudeのAI透かし、数時間で回避コード公開
Judul asli: Coders Say They Already Found Workarounds to Claude’s Invisible Watermarks
Mengapa Ini Penting
EU AI規制の実効性に疑問を呈し、AI透かし技術の限界が浮き彫りになった重要事例。
AnthropicがClaude向け透かし機能をEU AI法遵守のため発表後、4時間以内に開発者Guillaume MeyerがGitHubに除去コードを公開。20,000以上のブックマークを獲得。
AnthropicはEU AI法への準拠を目的に、Claudeが生成するテキスト・音声・画像・動画にAI生成であることを示す機械読み取り可能な透かし（ウォーターマーク）を埋め込む方針を発表した。しかし発表からわずか4時間後、フランス人開発者Guillaume Meyerがその透かしを除去するコードをGitHubで公開した。このコードはX上で20,000件以上のブックマークを集め、100人以上の貢献者を引き寄せ、多数のプロジェクトに組み込まれている。Meyerは「透かし自体が誤検知リスクなど重大な欠陥を持つ悪い解決策」と主張。AnthropicはGoogleが2023年から使用している技術「SynthID」を採用しており、Claude自身の単語・フレーズ選択に目に見えないパターンを埋め込む仕組みだ。EU AI法では事業者が違反した場合、年間売上高の最大3%の制裁金が科せられるが、第三者による回避ツールの開発を禁じる規定はない。Anthropicは透かしがClaudeの応答品質を低下させないとしている。