ClaudeのAI透かしにユーザーが反発、職場・学校での利用が露見と懸念
原題: Some Claude users are mad that Anthropic’s new watermarks will catch them using it at their jobs, classes
なぜ重要か
EU AI法の透明性規制が実際のAIサービス運用に波及し始めた事例として、規制対応と利用者体験の摩擦が顕在化した点で業界全体に影響する。
AnthropicはEU AI法の透明性規定に対応するため、AIチャットボット「Claude」の出力テキストに目に見えない電子透かしを埋め込む方針を導入した。これによりAI生成コンテンツをコンピューターシステムが検出できるようになり、一部のユーザーがRedditなどで強く反発している。
AnthropicはEU AI法（EU AI Act）の「透明性規範（Transparency Code）」に準拠するため、Claudeが生成する文章に不可視の電子透かしを組み込む新方針を導入した。この透かしはAI生成コンテンツであることをコンピューターシステムが識別できる形で埋め込まれるものであり、欧州規制当局の要請に応えた措置となっている。
一方、Redditでは一部ユーザーが強い不満を示している。アカウント開設からわずか3週間のユーザー「visionode」は、この透かし機能を「一般ユーザーを標的にした強権的な施策」と批判し、「段落を整理させた学生、長い書き起こしの要約を頼んだジャーナリスト、同義語を求めた作家まで、誰もが額にデジタルタトゥーを押されることになる」と主張した。
しかし、他のRedditユーザーからの反応は批判的なものが大半だった。「落ち着いて」「深呼吸しては」といったコメントが相次ぎ、visionodeへの支持は得られなかった。
別のユーザーも透かしを「非倫理的で不快」と断じ、「指示・文脈・意思決定・多数の修正は自分が行い、Claudeはあくまでツールだった。Claudeが生成物に透かしを入れることで何を主張したいのか」と訴えた。これに対し他ユーザーは、「透かしはClaudeが功績を主張するためではなく、AI生成物がさまざまな状況でもたらすリスクに対応するための検出手段だ」と反論している。
なお、AI出力を別のAIサービスで言い換えるなどして透かしを除去できる可能性も指摘されているが、Claudeの出力をそのままコピー&ペーストして提出する行為は、学術・ジャーナリズムの倫理規定に反するという見方が一般的だ。