Anthropic이 2026년 10월 8일 AI 어시스턴트 'Claude'의 이용 정책(Usage Policy) 개정을 발표했습니다. 새 정책은 2026년 11월 12일부터 적용됩니다. Anthropic은 매년 모델 능력의 변화와 이용자 의견을 반영해 정책을 재검토하고 있으며, 이번 개정도 그 연례 개정입니다.
Claude에 대한 지속적 학대 금지
이번 개정에서 새로 추가된 것은 AI 모델에 대한 '지속적이고 불필요한 학대적 또는 잔인한 행위'의 금지입니다. Anthropic에 따르면 이는 아무런 목적 없이 모델을 반복해서 잔인하게 대하는 것과 같은, 극단적인 경우에 한정한 규정입니다.
다음과 같은 것은 대상이 아니라고 명시되어 있습니다.
- 생각대로 작동하지 않을 때 흔히 나오는 불만이나 짜증의 표현
- Claude의 답변에 대한 반박
- 어두운 주제를 다루는 창작
- 모델 테스트와 연구
Anthropic은 학대를 지속하는 이용자와의 대화를 Claude가 종료할 수 있는 기능을 이미 Claude.ai와 Claude Code에 도입했습니다. 앞으로도 대화 종료가 주된 대응이 될 것이라고 밝혔습니다.
선거와 기만적 캠페인
선거 관련 항목은 '민주적 절차를 훼손하지 않는다'라는 이름으로 바뀌었고, 유권자를 속이거나 선거를 방해하는 행위의 금지에 초점이 맞춰졌습니다. 후보자나 투표 방법에 관한 허위 정보 유포, 후보자나 선거 관리자 사칭, 투표 방해 등의 행위가 예로 제시되었습니다.
한편 개인 맞춤형 투표·선거 운동 타기팅을 일률적으로 금지하던 규정은 삭제되었습니다. 예를 들어 비영리 단체가 유권자를 위한 정보를 여러 언어로 전달하는 것과 같은 정당한 시민 활동을 할 수 있도록 하기 위해서입니다. 다만 기만에 기반한 타기팅이나 유권자 개인 데이터의 악용은 기만적 캠페인, 감시, 프라이버시 항목에서 계속 금지됩니다.
또한 가짜 계정이나 가짜 뉴스 사이트, 여론 조작 등에 관한 규칙은 정치 분야인지 상업 분야인지를 불문하고 새 항목 '기만적 캠페인이나 인위적 활동에 관여하지 않는다'로 통합되었습니다.
무기, 감시, 법 집행
무기 항목에서는 무기를 작동하게 하는 소프트웨어와 부품도 금지 대상이 되며, 드론에 무기를 탑재하는 행위 등도 포함된다는 점이 명확해졌습니다.
감시와 법 집행 항목에서는 본인 동의 없이 사람을 추적하는 것, 감시용 도구를 만드는 것, 법 집행이나 형사 사법 절차에서 누구를 수사·체포·기소할지 결정하거나 권고하는 것에 Claude를 사용할 수 없다고 명시했습니다. 한편 본인이 동의한 추적(부정 행위 모니터링 등), 콘텐츠 심사, 보도, 법률 조사 등에는 사용할 수 있다고 밝혔습니다.
고위험 용도와 물리적 조작
의료나 법률 등 영향이 큰 용도에 대해서는 사람의 확인과 이용자 고지 요건 자체는 바뀌지 않았지만, 어떤 사용 방식이 대상인지 알 수 있도록 다시 쓰였습니다. 나아가 다칠 위험이 있는 장비를 Claude가 자율적으로 움직이는 사용 방식에 대해서는, 자격을 갖춘 담당자가 장비를 지켜보다가 필요하면 멈출 수 있어야 하고, Claude와의 연결이 끊겨도 장비가 안전한 상태를 유지할 수 있어야 한다는 요건이 새로 생겼습니다.
제공 지역에 대해서도 제공 지역 정책의 설명 페이지가 업데이트되어, Claude를 제공하지 않는 지역에 있는 사람뿐 아니라, 그러한 지역에서 설립되었거나 본사를 둔 기업, 그리고 그러한 지역의 개인이나 단체가 과반을 소유하거나 지배하는 기업도 이용할 수 없다는 점이 명확해졌습니다.
CoAI 편집부의 시각
AI 학대를 금지하는 규정이 화제가 되었지만, Anthropic 스스로 극단적인 경우에 한정된다고 설명하고 있어, 평소 사용하면서 불만을 적거나 강하게 반박하는 것은 문제가 되지 않습니다. 기업과 개발자에게 영향이 큰 것은 오히려 감시와 법 집행, 물리적 장비 조작, 제공 지역의 취급 같은 항목입니다. 업무에 Claude를 도입해 쓰고 있다면, 11월 12일 적용 전까지 자사의 사용 방식이 새 정책에 맞는지 확인해 두는 것이 좋겠습니다.
