The End of Undetectable AI Text? Claude’s New Watermark Explained
For the past few hours, the whole world, or at least my LinkedIn feed, has been talking...
개요 #
Anthropic이 EU AI법 제50조 2항 투명성 행동강령(Code of Practice on Transparency of AI-Generated Content) 에 서명했다. 이행의 일환으로 Claude가 만들어낸 텍스트에 기계가 읽을 수 있는 표식을 심는다. 해당 투명성 의무는 2026년 8월 2일부터 적용됐으니, 이미 시행 중인 이야기다.
서명 소식이 퍼지자 온라인에는 오해가 빠르게 쌓였다. "이제 AI로 글 쓰면 걸린다", "유럽에서는 AI 텍스트가 불법이다" 같은 말들이다. 둘 다 사실이 아니다. Anthropic 공식 문서에 적힌 내용만 놓고 보면 상황은 훨씬 단순하고, 동시에 아직 공개되지 않은 부분도 많다.
유럽이 AI 텍스트를 금지한 게 아니다 #
법의 목적은 AI 사용 금지가 아니다. AI가 생성하거나 조작한 콘텐츠를 기계가 감지할 수 있게 만들고, 특정 맥락에서는 사용자에게 그 사실을 알리자는 쪽에 가깝다. 딥페이크나 공익과 직결된 사안이 대표적이다.
여기서 놓치기 쉬운 단서가 하나 있다. AI법은 사람이 검토하거나 편집한 텍스트, 그리고 자연인이나 법인이 게시에 대한 편집 책임을 지는 경우를 예외로 둔다. EU 시민이 AI에게 지루한 메일 답장을 맡기거나 우스꽝스러운 시를 써달라고 해도 처벌받을 일은 없다.
지금까지 확인된 사실 #
- Anthropic은 실제로 EU AI법 제50조 2항 행동강령에 서명했고, 이행 방안으로 기계 판독 가능한 표식을 넣는다. 의무 적용 시작일은 2026년 8월 2일이다.
- 8월 2일 이후 출시된 Claude 모델은 출시 시점부터 표식 기능을 갖는다. 이전 모델은 아직 아닐 수 있으며, Anthropic은 순차적으로 확대하는 중이다.
- 적용 범위는 전 세계다. EU 바깥에서 써도 똑같이 들어간다.
- Claude, Claude 플랫폼/API, Claude Code, Claude Cowork, Claude Tag를 통해 사용하는 지원 모델에 적용된다.
- AWS, Google Cloud, Microsoft Foundry 등 다른 플랫폼을 거쳐 Claude를 써도 마찬가지다. 표식이 모델 레벨에서 붙기 때문에 인터페이스를 바꾼다고 사라지지 않는다.
- 메커니즘은 두 갈래다. 생성 텍스트용 감지 불가능한 워터마크(imperceptible watermark), 그리고 지원 파일용 출처 메타데이터(provenance metadata).
워터마크는 어떻게 작동하나 #
Anthropic은 이를 "텍스트에 직접 삽입되는 감지 불가능한 워터마크"라고 부른다. 복사-붙여넣기를 견디고, 어느 정도의 편집도 버틴다고 설명한다. Claude 프론트엔드가 나중에 덧붙이는 방식이 아니라 모델 레벨에서 구현했다는 점도 밝혔다.
문제는 여기까지다. 정확히 어떤 원리인지는 아직 공개하지 않았다. 기술 문서를 추가로 내겠다고만 했다.
Photo by Rahul Shah on Pexels
기존 텍스트 워터마킹 기법을 놓고 추측해보면 통계적 토큰 워터마킹일 가능성이 있다. 이런 방식에서는 이상한 공백이나 눈에 안 보이는 유니코드 문자를 심지 않는다. 그런 건 1초면 지워진다. 대신 모델이 생성 과정에서 특정 토큰을 통계적으로 아주 살짝 선호하도록 만든다.
문장 하나만 놓고 보면 이 신호는 잡히지 않거나 신뢰할 수 없다. 하지만 글이 길어질수록 통계가 패턴을 드러낸다.
거칠게 표현하면 이런 구조다. 어디까지나 Anthropic이 이 방식을 택했다는 가정 아래의 이야기다.
일반 생성
P(next_token | context)워터마크 적용 생성
P(next_token | context) + secret statistical bias다시 강조하지만 Anthropic은 Claude의 워터마크가 이렇게 동작한다고 확인해준 적이 없다. 어디까지나 기존 기법에 기반한 추정이다.
Claude가 처음은 아니다 #
텍스트 워터마킹은 새로운 발상이 아니다. Google DeepMind는 2024년에 SynthID Text를 내놨고, 위에서 설명한 것과 대체로 같은 노선이다. 토큰 생성 단계에서 워터마크를 넣어 나중에 검출 가능한 통계적 신호를 만든다.
OpenAI는 텍스트 워터마킹 기술을 개발했다고 밝힌 바 있다. 다만 이미지·영상·음성에는 이미 출처 표시나 워터마킹 기술을 쓰면서도, 일반적인 GPT 텍스트 응답에 대해서는 이에 준하는 워터마킹을 공개 적용하지 않았다.
검출기는 누가 쓸 수 있나 #
아직 모른다.
지원 파일 쪽은 비교적 단순하다. Anthropic이 C2PA 자격증명 같은 출처 메타데이터를 쓰기 때문에, 적절한 검증 도구로 확인할 수 있다.
텍스트는 얘기가 다르다. Anthropic은 워터마크 검출을 제3자와 연구자에게 제공할 계획이라고 밝혔지만, 그 제3자가 누구인지, 접근 방식이 어떤 형태일지, 일반 사용자에게도 공개 검출기가 열릴지는 아직 나온 게 없다.
검출 결과를 어떻게 읽어야 하나 #
LLM으로 쓴 글에 빨간 경고 딱지가 붙는 세상이 오지는 않는다. Anthropic 스스로 이 기술의 한계를 공개적으로 언급한다.
먼저, 워터마크가 있다고 해서 저자가 글을 쓰지 않았다는 뜻은 아니다. 본인이 전부 쓴 다음 Claude에게 편집이나 문법 교정, 문장 다듬기, 번역을 맡겼을 수도 있다. 아이디어와 원문 대부분이 사람에게서 나왔더라도 결과물에는 워터마크가 남는다.
반대 방향도 성립한다. 완전히 AI가 만든 텍스트를 크게 손보거나, 다른 말로 바꾸거나, 번역하거나, 다른 글과 섞으면 워터마크가 더는 검출되지 않을 수 있다.
정리하면 이렇다.
워터마크 검출 ≠ AI가 전부 썼다
워터마크 미검출 ≠ 사람이 전부 썼다
이 구분은 꽤 중요하다.
이미지·음성·영상, 그리고 코드 #
지원 파일에서는 삽입된 메타데이터와 콘텐츠 자격증명을 쓸 수 있어 출처 확인이 상대적으로 쉽다. 그래도 완벽하지는 않다. 누군가 AI 생성 이미지를 스크린샷으로 찍어버리면? 메타데이터가 모든 변형을 견디지는 못한다. 출처 정보는 유용한 증거이지 만능 AI 검출기가 아니다.
가장 궁금한 대목은 코드다. 자연어에서는 같은 생각을 표현하는 방법이 수십 가지지만, 이런 한 줄에 통계적 워터마크를 어떻게 넣을까.
const result = await fetchData();변수명이나 포매팅 같은 선택지가 남아 있긴 하다. 하지만 유효한 치환 공간이 자연어보다 훨씬 좁고, 포매터·리팩터링·미니파이·수작업 수정까지 끼어들면 문제는 더 복잡해진다. Claude Code도 표식 적용 범위에 들어가 있지만, 생성된 소스 코드에서 텍스트 워터마크가 어떻게 동작하는지 판단할 만한 기술 문서는 아직 공개되지 않았다.
그래서 신경 써야 할까 #
Claude가 생성 텍스트에 워터마크를 넣는 건 합리적이고 의미 있는 움직임이다. 물론 아직 불완전하다. 일상적인 사용 경험을 크게 바꾸지는 않을 것이고, 소셜 미디어를 뒤덮은 AI 저품질 콘텐츠 문제를 이 워터마크가 해결해줄 것 같지도 않다.
남은 관심사는 하나다. 이 워터마크가 실제로 어떻게 구현됐는지. 기술 문서가 나오면 그때 다시 볼 만한 주제다.
이 글은 위 출처를 바탕으로 한국 독자를 위해 재작성한 기사입니다. 원문의 사실과 수치에 근거하며, 별도의 견해를 포함하지 않습니다.