Claude 워터마크, 공개 4시간 만에 우회 코드 등장
원제: Coders Say They Already Found Workarounds to Claude’s Invisible Watermarks
왜 중요한가
EU AI법 시행에 따른 워터마크 의무화가 기술적 우회 방법의 즉각적인 등장으로 실효성 논란에 직면하며, AI 콘텐츠 규제의 한계를 보여준다.
Anthropic이 EU AI법 준수를 위해 Claude 모델에 보이지 않는 워터마크를 전 세계적으로 도입한다고 발표한 지 4시간 만에, 개발자 Guillaume Meyer가 이를 제거하는 코드를 GitHub에 공개했다. 해당 코드는 X에서 2만 회 이상 북마크되었으며, 100명 이상의 기여자가 참여 중이다。
Anthropic은 EU AI법(AI Act)의 요건을 충족하기 위해 Claude 모델이 생성하는 텍스트에 기계 판독 가능한 보이지 않는 워터마크를 전 세계적으로 삽입한다고 지난주 발표했다. EU 규정은 모델 제공자가 AI 생성 오디오·이미지·동영상·텍스트에 기계가 식별 가능한 표시를 붙이도록 의무화하며, 위반 시 연간 매출의 최대 3%에 해당하는 벌금을 부과한다. 우회 도구의 마케팅은 금지되지만, 독립적인 도구 제작에 대한 법적 제한은 없다.
발표 4시간 후, 프랑스 출신 개발자 Guillaume Meyer는 워터마크를 제거하는 코드를 GitHub에 게시했다. 해당 코드는 X에서 2만 건 이상 북마크되었고, 100명 이상이 기여에 참여했으며 다수가 자신의 프로젝트에 통합하고 있다. 프리랜서 작가와 SNS 크리에이터도 Meyer에게 사용 지원을 요청하고 있다.
Meyer는 워터마크 자체를 나쁜 해결책이라고 주장하며, 오탐(false positive) 위험성과 AI 사용 수준 구분의 어려움을 우려한다. 그는 프랑스어 원어민으로서 Claude와 Grammarly 등의 AI 도구를 글쓰기 편집에 활용하는데, 워터마크만으로 AI 사용 여부를 판단하면 채용 탈락이나 연구자에 대한 부당한 AI 사용 의혹을 초래할 수 있다고 지적했다.
Claude의 워터마크 기술은 구글이 개발한 'SynthID'로, 인간은 인식할 수 없지만 기계가 감지할 수 있는 단어·문구 패턴을 생성물에 남기는 방식이다. 구글은 2023년부터 이 기술을 사용해 왔다. OpenAI에서 근무했던 컴퓨터 과학자 Scott Aaronson도 유사한 방법을 제안했지만, 고객 이탈 우려로 OpenAI는 도입하지 않았다. Meyer의 제거 방법은 워터마크가 없는 별도의 대규모 언어 모델을 활용하는 것으로 알려졌다.