Claude의 텍스트 워터마크, 의미 변형 논란
원제: Anthropic's 'watermark' text adulteration in Claude is a perversion of writing
왜 중요한가
AI 생성 콘텐츠 워터마크 기술의 실제 구현 방식과 품질 영향이 업계 표준 논쟁으로 확산될 가능성이 있다.
Daring Fireball의 John Gruber는 2026년 8월 16일, Anthropic이 EU 규정 준수를 위해 Claude 전 모델에 도입 예정인 텍스트 워터마크 기능이 실제로 출력 단계에서 단어 선택을 조작하는 스테가노그래피 방식임을 밝히며, Anthropic의 공식 설명과 실제 구현 방식 사이의 괴리를 비판했다.
Anthropic은 EU 규정 준수를 위해 Claude의 모든 모델이 생성하는 텍스트에 워터마크를 삽입한다고 발표했다. 당초 공개한 지원 문서 「How Claude Marks AI-Generated Content」에서는 "워터마크는 지각 불가능하며, 텍스트의 의미·품질·가독성을 변경하지 않는다"고 명시했다.
しかし Gruber는 이후 Anthropic이 별도로 공개한 문서 「How Claude's Text Watermark Works」를 통해 실제 방식이 추론(inference) 단계에서 단어 선택(토큰 출력)을 확률적으로 조작하는 스테가노그래피 기법임을 확인했다고 지적했다. 이 방식은 LLM의 비결정론적 특성을 이용해 특정 단어 선택 패턴에 통계적 지문을 남기고, 이를 사후에 확률론적으로 탐지하는 원리다.
Gruber는 James Padolsey의 인터랙티브 해설 「How AI Text Watermarking Works」를 인용하며 이 기법의 원리를 설명했다. 동전을 N번 던져 편향 여부를 판별하듯, LLM의 단어 선택 분포에서 통계적 패턴을 감지하는 방식이다.
Gruber는 Anthropic이 "의미 변경 없음"이라고 공식 표명한 뒤 실제로는 의미론적 조작을 수반하는 방식을 채택한 점을 "텍스트의 왜곡"이라고 강하게 비판했다. 또한 방식을 설명하지 않으면서도 설명한다는 제목을 붙인 최초 문서의 투명성 결여도 문제로 지적했다.