ChatGPT로 쓴 글을 나중에 'AI가 쓴 것'이라고 판별할 수 있게 될까요. OpenAI는 2026년 10월 5일 생성한 글에 눈에 보이지 않는 디지털 워터마크를 넣는 기술 textGrain(텍스트그레인)을 발표했습니다. 먼저 EU(유럽연합) 이용자를 대상으로 ChatGPT와 Codex에서 도입을 시작합니다. 이 글에서는 textGrain의 구조, 대상 서비스, 검출 정확도와 한계를 OpenAI의 공식 발표와 기술 보고서를 바탕으로 2026년 10월 9일 기준 정보로 정리합니다.
textGrain이란
textGrain은 OpenAI의 AI가 생성하는 글에 사람은 알아챌 수 없는 통계적 표시를 넣는 기술입니다. 전용 검출기가 그 표시를 찾아, 글에 OpenAI의 워터마크가 포함되어 있는지 판정합니다. AI의 글에 넣는 이런 워터마크는 일반적으로 LLM 워터마크라고 불립니다.
OpenAI는 이 기술을 EU AI법 대응의 일환으로 발표했습니다. AI법은 생성형 AI 제공자에게 AI가 만든 글 등을 기계로 판별할 수 있게 하도록 요구합니다.
참고로 이름이 비슷한 'Textgain(r이 없음)'은 벨기에의 AI 기업으로, textGrain과는 관계가 없습니다.
구조: 단어 선택에 표시를 남긴다
textGrain은 글 속에 기호나 보이지 않는 문자를 끼워 넣는 것이 아니라, AI가 어떤 단어를 고르는가에 표시를 남깁니다. 기술 보고서에 따르면 구조의 개요는 다음과 같습니다.
- 비밀 키와 직전의 문맥으로 난수를 만든다
- AI가 다음 단어를 고를 때, 그 난수에 맞는 단어가 아주 조금 더 잘 선택되도록 조정한다
- 조정은 평균적으로 원래 확률을 바꾸지 않도록 설계되어 있어 글의 품질을 유지한다
- 워터마크의 강도는 글의 다양성을 얼마나 희생해도 되는가 하는 '예산'으로 조정한다
검출에 필요한 것은 글과 비밀 키뿐입니다. 원래의 AI 모델을 실행할 필요는 없습니다.
OpenAI는 자체 평가에서 textGrain이 Google의 SynthID Text를 포함한 다른 방식과 같거나 그 이상의 성능이었다고 밝혔습니다. 기술의 세부 내용은 앞으로 오픈소스로도 공개할 예정입니다.
품질에 미치는 영향
OpenAI는 워터마크를 넣어도 응답 품질에 의미 있는 차이는 보이지 않았다고 밝혔습니다. 공개된 벤치마크 결과를 보면, 예를 들어 전문적인 과학 문제인 GPQA Diamond가 94.44%에서 93.94%로, 브라우징 능력을 보는 BrowseComp가 87.92%에서 87.35%로 차이가 미미했습니다.
대상과 제공 범위
textGrain의 제공 범위는 서비스마다 다릅니다.
- ChatGPT와 Codex: 앞으로 몇 주 안에 EU의 모든 요금제 대상 사용자의 글에 워터마크를 넣습니다. EU 외 지역에서는 현재 기본으로 적용할 예정이 없다고 합니다.
- API: 2026년 10월 5일부터 전 세계 API 이용자가 일부 모델에서 워터마크를 켤 수 있습니다(기본 설정은 꺼짐).
- 클라우드 경유: 클라우드 사업자를 통해 쓰는 OpenAI 모델에서도 몇 주 안에 워터마크를 쓸 수 있도록 준비하고 있습니다.
대상 모델의 이름이나 API에서의 설정 방법 세부 내용은 발표 시점에는 공개되지 않았습니다.
워터마크를 검출할 수 있는 사람
글의 워터마크를 확인하는 검출기는 일반에 공개되어 있지 않습니다. 우선 심사로 승인된 연구자나 전문 기관만 신청할 수 있으며, 이용 가능 여부는 개별적으로 판단됩니다. 검출기는 'OpenAI의 워터마크가 있는지'만 돌려주며, 이용자나 입력한 질문, 대화 내용을 밝히지는 않는다고 합니다.
한편 이미지와 오디오에 대해서는 openai.com/verify 와 Content Provenance API로 OpenAI의 AI로 만들어졌는지를 계속 누구나 확인할 수 있습니다.
검출 정확도
OpenAI는 워터마크 검출 정확도에 대해서도 수치를 공개했습니다. 오판(사람의 글을 워터마크 있음으로 판정해 버리는 비율)을 1%로 억제한 조건에서의 결과는 다음과 같습니다.
- 글의 길이: 심리학 등의 글에서는 200토큰 정도에서 약 80%, 400토큰 정도에서 약 95%의 글에서 워터마크를 검출할 수 있었다
- 분야에 따른 차이: 수학처럼 단어 선택의 자유도가 낮은 글에서는 검출률이 크게 떨어졌다
- 고쳐 쓰기: 400토큰의 글에서 단어의 10%를 동의어로 바꾸면 검출률은 약 92%에서 66%로, 25%를 바꾸면 17%로 떨어졌다
토큰은 AI가 글을 처리하는 단위입니다. 영어에서는 1단어가 대략 1토큰 안팎에 해당합니다.
워터마크로 알 수 없는 것
OpenAI는 워터마크 결과로 알 수 없는 것도 명시하고 있습니다.
- 사람이 관여한 정도: AI가 관여했다는 것은 보여 줄 수 있어도, 사람이 얼마나 편집하거나 공을 들였는지는 알 수 없다
- 소유자나 책임: 글의 소유자나 사용 방식이 적법했는지는 판단할 수 없다
- 이용자: 어떤 사람이나 계정이 만들었는지는 보여 주지 않는다
- 내용의 정확성: 글이 정확한지, 오해를 부르는 것인지는 알 수 없다
- 워터마크가 없다 = 사람이 썼다, 는 아니다: 너무 짧다, 편집·번역되었다, 대상 외 모델로 만들어졌다, 워터마크 도입 전에 만들어졌다, 다른 회사의 도구로 만들어졌다 등의 이유로 검출되지 않을 수 있다
SynthID Text와의 차이
AI의 글에 넣는 디지털 워터마크로는 Google의 SynthID Text도 알려져 있습니다.
- SynthID Text: Google이 2024년 오픈소스로 공개했으며, 누구나 자신의 모델에 넣을 수 있다. 토너먼트 형식으로 단어를 고르는 '토너먼트 샘플링'을 쓴다
- textGrain: OpenAI가 자사 서비스의 출력에 넣는 워터마크. 검출기는 심사제이며, 오픈소스화는 앞으로의 예정
둘 다 단어 선택에 표시를 남긴다는 점은 같습니다. 또한 둘 다 짧은 글이나 크게 고쳐 쓴 글, 번역한 글에는 약하다는 공통된 한계가 있습니다. 자세한 내용은 'SynthID Text란', 'LLM 워터마크란', 'AI 워터마크(디지털 워터마크) 비교'에서 설명합니다.
일본 이용자에게 미치는 영향
ChatGPT와 Codex의 워터마크는 현재 EU 이용자만 대상입니다. 일본 이용자가 ChatGPT로 쓴 글에 워터마크가 들어간다는 안내는 이번 발표에 없습니다. API로 개발하는 경우에는 직접 워터마크를 켤 수 있습니다.
참고로 일본어 글에서 어느 정도 검출할 수 있는지는 공개되지 않았습니다. OpenAI는 번역으로 워터마크가 약해진다는 점도 인정하고 있습니다.
정리
textGrain은 OpenAI가 EU 규제에 대응하기 위해 도입한 AI 텍스트용 디지털 워터마크입니다. EU의 ChatGPT와 Codex부터 도입이 시작되며, API에서는 전 세계에서 선택적으로 쓸 수 있습니다. 품질에 미치는 영향은 작은 반면 짧은 글이나 고쳐 쓰기에는 약하고, 검출기도 당분간은 심사를 통과한 연구자 등으로 한정됩니다.
워터마크는 글이 AI로 만들어졌는지를 보여 주는 단서 중 하나에 불과합니다. 워터마크 유무만으로 사람이 썼는지를 판단하지 않도록 합시다.
