SynthID Text란? LLM 워터마크(AI 텍스트 워터마크)의 구조·사용법·검출 방법

AI가 쓴 글을 나중에 'AI가 쓴 것'이라고 가려낼 수 있을까요. 글의 특징으로 추정하는 AI 판별 도구는 오판이 문제가 되기 쉽기 때문에, AI가 글을 만드는 단계에서 눈에 보이지 않는 디지털 워터마크를 넣어 두는 방법이 연구·실용화되고 있습니다. LLM(대규모 언어 모델)의 출력에 넣는 이런 워터마크는 LLM 워터마크(LLM watermarking)라고도 불립니다. 그 대표가 Google DeepMind의 SynthID Text입니다. 이 글에서는 SynthID Text의 구조, 품질에 미치는 영향, 개발자가 사용하는 방법, 검출 방법, 취약한 경우를 공식 문서와 Nature 논문을 바탕으로 2026년 10월 9일 기준 정보로 정리합니다.

이미지·동영상·오디오를 포함한 SynthID 전체에 대해서는 'SynthID란'에서 설명합니다.

SynthID Text란

SynthID Text는 대규모 언어 모델(LLM)이 생성하는 글에 디지털 워터마크를 넣고 나중에 검출하기 위한 기술입니다. LLM 워터마크 가운데서도 실제 서비스에서 대규모로 쓰이고, 오픈소스로 누구나 쓸 수 있는 대표적인 구현입니다. Google DeepMind가 개발했으며, 2024년 10월 23일 구조를 과학 저널 Nature에 논문으로 발표함과 동시에 오픈소스로 공개했습니다.

특징은 글 속에 기호나 보이지 않는 문자를 끼워 넣는 것이 아니라, AI가 어떤 단어를 고르는가라는 선택 방식 자체에 워터마크를 남긴다는 점입니다. 읽기만 해서는 평범한 글과 구별할 수 없으며, 글의 품질에도 영향을 주지 않는다고 합니다.

논문 발표 시점에는 Google Gemini의 응답에도 SynthID Text 워터마크가 들어 있다고 설명되었습니다. 현재 Gemini에서 어떻게 다루는지에 대해서는 2026년 10월 기준으로 공식적인 새 설명을 확인하지 못했습니다.

Google 외에서도 쓰이고 있습니다. Anthropic은 2026년 8월, Claude가 생성하는 글의 워터마크는 'SynthID Text 방식을 바탕으로 한 것'이라고 설명했습니다.

구조: 단어 선택에 워터마크를 남긴다

LLM은 글을 만들 때 다음에 올 단어(정확히는 토큰) 후보마다 확률을 매기고, 그중에서 하나를 고르는 과정을 반복합니다. SynthID Text는 이 '고르는' 단계에 손을 댑니다.

Nature 논문에서는 이 방법을 토너먼트 샘플링이라고 부릅니다. 흐름을 간단히 정리하면 다음과 같습니다.

LLM의 확률에 따라 다음 단어 후보를 여러 개 뽑는다
후보끼리 토너먼트로 겨루게 한다. 승패는 비밀 키와 직전 몇 단어로 계산한 점수(g 함수)로 정한다
몇 라운드를 이겨 낸 후보를 실제로 출력할 단어로 삼는다

후보는 원래 LLM이 고를 법한 단어 가운데서 나오기 때문에 글은 자연스러운 그대로입니다. 한편 키를 아는 사람이 점수를 다시 계산하면, 출력된 단어가 평균보다 높은 점수 쪽으로 치우쳐 있다는 것을 알 수 있습니다. 이 치우침이 워터마크가 됩니다.

Google의 개발자용 문서에서는 Top-K나 Top-P 같은 일반적인 후보 좁히기 다음에 적용하는 '로짓 프로세서'로 설명합니다. 또한 같은 어구가 반복되는 부분에는 워터마크를 넣지 않아 검출하기 쉬운 상태를 유지하는 장치도 있습니다.

품질과 속도에 미치는 영향

SynthID Text의 큰 특징은 실제 서비스에서 대규모로 검증되었다는 점입니다. Nature 논문에서는 Gemini의 응답 약 2,000만 건을 대상으로 워터마크를 넣은 응답과 넣지 않은 응답을 비교했습니다.

이용자의 좋아요 비율 차이는 0.01%, 싫어요 비율 차이는 0.02%로, 품질 차이는 거의 보이지 않았다

이와 별도로 진행한 속도 측정에서는 워터마크를 넣어 늘어난 생성 시간이 약 0.57%에 그쳤습니다.

또한 LLM을 다시 학습시킬 필요가 없고, 글을 생성하는 절차만 바꾸면 쓸 수 있습니다. 검출할 때도 원래의 LLM은 필요하지 않습니다.

개발자가 사용하는 방법

SynthID Text는 Hugging Face의 Transformers 라이브러리(버전 4.46.0 이상)에 포함되어 있습니다. Google의 Responsible GenAI Toolkit과 GitHub의 google-deepmind/synthid-text에서도 공개되어 있습니다. GitHub의 코드는 Apache 2.0 라이선스이며, 논문 재현용 참조 구현이라는 위치입니다. 프로덕션에서 쓸 경우에는 Transformers의 공식 구현을 쓰도록 안내하고 있습니다.

Transformers에서 쓸 때는 워터마크 설정(SynthIDTextWatermarkingConfig)을 만들어 글을 생성하는 함수에 넘깁니다. 주요 설정 항목은 다음과 같습니다.

keys(필수): 워터마크의 키가 되는 무작위 정수 목록. 외부에 유출되면 워터마크를 위조당할 우려가 있으므로 비밀로 관리한다
ngram_len(필수): 점수 계산에 쓰는 직전 단어의 수. 클수록 검출하기 쉽고, 작을수록 고쳐 쓰기에 강하다. 공식적으로는 5를 기본값으로 권장한다
sampling_table_size: 내부에서 쓰는 표의 크기. 치우침을 막기 위해 2의 16제곱(65536) 이상을 권장
sampling_table_seed: 표를 만들기 위한 난수 시드. 임의의 정수면 된다
context_history_size: 반복을 판정하기 위해 기록하는 문맥의 양. 기본값은 1024

설정을 구체적으로 작성하는 방법은 Transformers 공식 문서에 샘플 코드가 실려 있습니다.

워터마크를 검출하는 방법

워터마크를 검출하려면 글을 생성했을 때와 같은 키 설정과 같은 토크나이저가 필요합니다. 그래서 워터마크를 넣은 본인(또는 키를 공유받은 사람)만 검출할 수 있습니다.

공식 구현에는 점수의 평균을 쓰는 방법, 가중 평균을 쓰는 방법, 학습된 베이즈 검출기의 3가지 검출 방법이 있습니다. 베이즈 검출기는 결과를 '워터마크 있음', '워터마크 없음', '판정 불가'의 3가지로 돌려주며, 2개의 임곗값으로 판정의 엄격함을 조정할 수 있습니다.

베이즈 검출기는 사용하기 전에 자신의 모델과 키로 학습시켜야 하며, Hugging Face의 해설에서는 최소 1만 건의 예가 필요하다고 합니다. 또한 Google의 개발자용 문서에 따르면 검출기의 공개 범위는 사내에서만 쓰기, API로 외부에 제공하기, 검출기 자체를 배포하기의 3가지 중에서 고를 수 있습니다.

참고로 자사 키로 넣은 워터마크를 Google의 SynthID Detector 등으로 검출할 수 있다는 안내는 없습니다.

취약한 경우와 한계

Google의 개발자용 문서와 Nature 논문은 다음과 같은 한계를 들고 있습니다.

사실을 답하는 응답: 답이 거의 하나로 정해지는 질문에서는 단어 선택을 바꿀 여지가 적어 워터마크의 효과가 떨어진다
대폭적인 고쳐 쓰기: 글을 철저히 고쳐 쓰면 검출의 확신도가 크게 떨어진다
번역: 다른 언어로 번역하면 검출의 확신도가 크게 떨어진다
의도적인 공격: 워터마크를 지우려는 악의적인 상대로부터 지키는 것은 설계 목적에 포함되어 있지 않다
오픈 모델: 누구나 실행할 수 있는 모델에서는 워터마크를 넣도록 강제하기 어렵다

AI 텍스트 판별 도구와의 차이

AI가 쓴 글을 가려내는 방법에는 SynthID Text 같은 디지털 워터마크 외에, 글의 특징에서 AI다움을 추정하는 AI 판별 도구가 있습니다.

디지털 워터마크: 생성하는 쪽이 미리 표시를 넣는다. 키가 있으면 근거 있는 판정이 가능하지만, 워터마크를 넣지 않은 AI의 글은 가려낼 수 없다
AI 판별 도구: 어떤 AI의 글이든 추정은 할 수 있지만 어디까지나 추정이며, 사람이 쓴 글을 AI로 오판하기도 한다

AI의 출력에 표시를 붙이는 움직임은 다른 회사로도 퍼지고 있습니다. 예를 들어 Anthropic은 Claude가 생성하는 글에 SynthID Text 방식을 바탕으로 한 워터마크를 넣고 있습니다(검출은 현재 규제 당국 등으로 한정된 비공개 프리뷰). OpenAI도 2026년 10월 독자적인 텍스트 워터마크 'textGrain'을 발표했습니다. 각 방식의 비교는 'AI 워터마크(디지털 워터마크) 비교'에서 자세히 설명합니다.

정리

SynthID Text는 AI가 단어를 고르는 과정에 워터마크를 남김으로써, 읽어도 알아채지 못하는 형태로 AI의 글에 표시를 붙이는 기술입니다. Gemini에서의 약 2,000만 건 검증으로 품질에 거의 영향이 없음이 확인되었고, 별도의 측정에서는 속도에 미치는 영향도 아주 작았습니다. Transformers에서 누구나 쓸 수 있도록 공개되어 있습니다.

한편 짧은 사실 응답이나 번역, 대폭적인 고쳐 쓰기에는 약하며, 워터마크를 넣은 본인이 아니면 검출할 수 없습니다. AI의 글을 가려내는 결정적 수단이라기보다, 자사 AI의 출력에 책임을 지기 위한 장치 중 하나로 보는 것이 적절합니다.