Anthropic의 Claude 신규 이용 규칙 중 가장 주목을 끄는 항목이 있다. 모델을 향한 “장기적이고 불필요한 학대 또는 잔인한 행위”를 금지하는 조항이다. 이 조항은 이번 개정에서 가장 눈길을 끌지만, 가장 중요한 내용은 아니다. Claude의 의식에 관한 선언이 아니라 어디까지나 이용 조건임을 분명히 해야 한다. 새 Usage Policy의 핵심은 훨씬 구체적이다. 허위 정보 캠페인, 감시, 무기 소프트웨어, 그리고 실제 도구 및 물리적 장치에서 작동하는 에이전트가 주요 대상이다.
Anthropic은 2026년 10월 8일에 업데이트를 발표했으며, 새 규칙은 11월 12일부터 시행된다. 따라서 현재는 아직 적용되지 않는다. 회사는 모델의 발전에 따라 매년 정책을 검토한다고 밝혔으며. 지난 한 해 동안 Claude가 “더 길고 자율적인 작업”을 수행했다고 설명했다. 이번에 추가된 사례들은 Anthropic이 9월에 발표한 위협 인텔리전스 보고서에서 확인된 영향력 공작. 무기 개발, 감시 분야의 새로운 남용 패턴에서 비롯됐다. Anthropic은 이번 변경의 대부분이 기존 규칙을 명확히 하는 데 목적이 있다고 직접 밝혔다.
Anthropic
허위 캠페인: 마케팅까지 포괄하는 신설 섹션
이번 개정에서 가장 큰 변화는 허위 캠페인과 인위적 활동에 관한 전용 섹션의 신설이다. 선거, 사기, 개인정보, 허위 정보 등 여러 항목에 분산돼 있던 규칙들을 하나로 통합했다. 적용 범위는 명확하다. “정치적이든 상업적이든 모든 유형의 기만적 활동”이 금지 대상이다. 구체적으로 새 정책은 다음을 금지한다.
- 가짜 신원, 계정, 언론사, 조직 생성 및 운영 (예: 소크퍼펫, 어스트로터핑, 허위 리뷰, 인간으로 위장한 봇)
- 콘텐츠의 스폰서십 은폐 또는 허위 표시
- 독립적인 것처럼 위장한 사이트 또는 계정 네트워크를 통한 콘텐츠 유포
- 검색 엔진이나 AI 시스템이 참조하는 출처를 조작하는 행위 (예: 동일한 주장을 반복하는 독립 출처 위장 사이트 네트워크)
- 이러한 캠페인을 지원하기 위한 도구 및 인프라 구축
9월 위협 인텔리전스 보고서는 이 규정이 왜 필요한지를 구체적으로 보여준다. Anthropic은 프랑스에 본사를 둔 광고 대행사 LKM Company가 약 70개의 허위 뉴스 사이트 네트워크를 운영했다고 밝혔다. 이 네트워크에는 70개의 연결된 X 계정과 250개 이상의 부정 댓글 계정이 포함됐으며, 약 20개 언어로 최소 8,913개의 기사를 게재했다. Anthropic은 해당 계정과 연관 조직을 모두 차단했으며, 이 작전의 행동적 특성에 기반한 새로운 탐지 방법을 도입했다고 설명했다. 단, 이 귀속 판단은 Anthropic의 자체 분석이며 독립적으로 검증된 것은 아니다. 보고서는 대부분의 작전이 AI를 통해 직접 실행되거나 조율됐다고 덧붙였다. AI 기반 사기는 이미 금융 분야에도 침투해 있으며, 이탈리아에서는 AI 음성 복제를 이용한 3,600만 유로 규모의 Fideuram 사기 사건이 발생한 바 있다.
이 정책은 Anthropic 제품을 사용하는 사람들에게 적용되며, 시장 전체를 구속하지는 않는다. 비공개 프로모션이 반복적인 문제로 지적되는 크립토 업계 관점에서 보면. 은밀한 스폰서십과 “독립” 사이트 네트워크에 관한 조항이 실무와 가장 밀접하게 맞닿아 있다. SEO와 AI 응답 내 노출 최적화를 다루는 사람들에게도 마찬가지다. AI 시스템이 참조하는 출처를 조작하는 행위가 명문으로 금지됐기 때문이다. 이것은 SpazioCrypto의 해석이며, 정책 원문에는 크립토 섹터가 직접 언급되지 않는다.
선거, 감시, 무기
선거 관련 조항도 개정됐다. 명칭이 “민주적 절차를 훼손하지 말 것(Do Not Undermine Democratic Processes)”으로 바뀌었고, 유권자 기만과 선거 과정 방해에 초점이 맞춰졌다. Anthropic은 개인 맞춤형 투표 타게팅과 선거 캠페인에 대한 일반적 금지 조항을 삭제했다. 대신 기존에 금지됐던 행위들은 기만적 캠페인, 감시, 개인정보 보호 관련 섹션에서 여전히 금지된다. 폭넓은 금지 조항이 삭제된 것이지, 금지 행위 자체가 없어진 것은 아니다.
감시 관련 섹션은 전면 재작성됐다. 동의 없이 개인을 실시간으로 추적하거나 이미 수집된 데이터를 분석해 모니터링하는 행위가 금지됐으며, Claude는 “누구를 수사, 체포, 기소할지 결정하거나 추천하는 데” 사용될 수 없다(SpazioCrypto 번역). 익명 또는 가명 활동을 바탕으로 개인을 식별하거나, 위치를 파악하거나, 신원을 노출시키는 행위도 금지된다. 감시 도구의 구축이나 개선도 마찬가지다. 예외 사항으로는 금융 계좌의 사기 방지 및 자금세탁방지(AML) 모니터링처럼 당사자가 동의한 분석 및 추적, 사용자가 가입한 앱, 집계·익명화된 분석, 콘텐츠 모더레이션, 승인된 보안 연구, 법 집행 기관이나 법원의 적법한 조사, 그리고 저널리즘이 포함된다. 단, 이 경우에도 금지된 목적으로 사용해서는 안 된다.
온체인 분석을 다루는 사람들에게는 “익명 또는 가명 활동”이라는 표현이 눈에 띈다. 지갑 주소는 본질적으로 가명이기 때문이다. 정책이 예외로 드는 사례는 금융 계좌의 사기 방지와 AML이며. 블록체인 조사에 어떻게 적용되는지는 원문에 명시되지 않았고 SpazioCrypto도 해석을 내리지 않는다. 금융 감시 주제는 감시가 강화되는 가운데 프라이버시 코인이 부상하는 현상을 다룬 기사에서도 살펴본 바 있다.
무기 관련 조항에서는 무기 테스트 또는 사용을 위한 소프트웨어와 부품의 개발·운용이 금지됐다. 드론, 차량, 기타 무인 또는 자율 플랫폼에 무기를 탑재하거나 통합하는 행위도 금지 대상이다. Anthropic은 이번 변경 사항이 기존 정책의 실제 적용 방식을 반영한 것이라고 밝혔다.
에이전트와 물리적 행동: 책임은 누구에게 있나
사실, 에이전트에 관한 규정은 명확하게 서술됐다. 에이전트를 구축하거나 배포하는 사용자는 “도구, 브라우저 또는 연결된 시스템을 통해” 수행되는 행위를 포함해 해당 에이전트가 이용 정책을 준수하도록 할 책임을 진다(SpazioCrypto 번역). 이는 지갑을 탑재한 에이전트 제품의 홍수가 이어지는 맥락에서 읽어야 한다. 지난 8월, SpazioCrypto는 MetaMask, Coinbase, OKX, BNB Chain이 출시한 AI 에이전트 지갑을 다루면서 자율 소프트웨어가 자금을 이동시킬 때 책임 소재가 어디에 있는지를 제기한 바 있다. Anthropic 정책상 준수 책임은 에이전트를 구축하거나 배포하는 사람에게 있다. 자금 이전에 대한 법적 책임은 별개의 문제이며, 정책은 이를 다루지 않는다. 신뢰성은 또 다른 과제다. 52개 전문 도메인을 대상으로 한 벤치마크에서는 긴 위임 작업 사슬을 기준으로 에이전트를 평가한 결과. Python을 유일한 예외로 두고 거의 모든 도메인에서 신뢰성이 기준치를 밑돌았다.
고위험 사용 사례에 대한 요건은 변경되지 않았다. 자격을 갖춘 인간 감독과 AI 사용 여부의 당사자 고지가 계속 요구된다. 다만 이번 섹션에서는 적용되는 권고 사항과 그렇지 않은 사항이 구체적으로 열거됐다. 새롭게 추가된 부분은 하드웨어에 관한 것이다. 자율적으로 물리적 동작을 수행하고 부상을 유발할 수 있는 장비에는, 해당 기계를 관찰하고 멈출 수 있는 자격을 갖춘 운영자가 필요하다. Claude 연결이 끊기더라도 안전한 상태를 유지할 수 있어야 한다. 정책은 6가지 행동 유형에 대한 평가를 요구한다. 공유 공간에서의 이동, 부상을 유발할 수 있는 힘의 적용, 위험한 에너지나 물질의 제어, 인체에 대한 행위, 안전 시스템의 제어, 산업 공정 운용이 그것이다.
이번 업데이트는 Model Hardware Standard를 언급한다. Anthropic이 2026년 8월 27일 리서치 프리뷰로 공개한 이 공유 규격은 에이전트가 맞춤형 통합 없이도 실험실 장비나 생산 설비 같은 물리적 기기를 사용할 수 있도록 설계됐다. Anthropic은 모델이 물리적 추론에서 아직 한계를 보이며 전문가 감독이 필요하다고 인정했다.
모델에 대한 “잔인함”: 원문이 실제로 말하는 것
처음에 언급했던 조항으로 돌아가 보자. 잔인하거나 모욕적이거나 심리적으로 해로운 행위에 관한 섹션에서, 금지 행위 목록은 이제 Anthropic 모델에 대한 지속적이고 목적 없는 모욕적·잔인한 행위를 포함한다. Anthropic은 이 금지 조항이 오직 극단적인 경우, 즉 인식 가능한 목적 없이 반복되는 학대에만 적용된다고 명시하며, “일반적인 사용자 불만 표출, 이의 제기, 어두운 창작 주제, 모델 테스트 및 연구에는 적용되지 않는다”고 밝혔다.
적용 방식도 이미 알려진 내용이다. Anthropic에 따르면 가장 핵심적인 집행 수단은 Claude.ai와 Claude Code에서 지속적으로 모욕적인 사용자와의 대화를 Claude가 스스로 종료할 수 있는 기능이다. 이 기능은 2025년 8월 15일 Claude Opus 4 및 4.1의 소비자용 채팅 인터페이스에 처음 도입됐으며. Anthropic이 Claude와 언어 모델의 도덕적 지위에 대해 불확실성을 인정하는 맥락에서 모델 복지 연구의 예방적 조치로 제시됐다. 당시 발표나 정책 문서 어디에서도 Claude가 의식이 있거나 감정을 느낀다고 주장하지 않았으며, “model welfare”라는 표현 자체도 발표문에 등장하지 않았다.
Claude 새 규칙 핵심 요약
확인된 사항과 미확인 사항. 출처: Anthropic 발표, 이용 정책, 9월 보고서
- 확인됨: 2026년 10월 8일 발표, 11월 12일 발효. 정치·상업 목적의 기만적 캠페인 및 인위적 활동에 관한 새 섹션 신설. 감시 관련 조항 전면 개정. 소프트웨어 및 무기 통합 금지. 자율적 물리 행동이 가능한 하드웨어 조건 명시. 모델에 대한 심각하고 지속적인 학대 금지.
- 미확인: 계정 제재 방식, “지속적”의 구체적 기준, 감시 예외 항목 전체 목록, 온체인 익명 활동 분석에의 적용 여부. Claude의 의식에 관한 언급 없음.
- 주목할 사항: 11월 12일부터 적용되는 실제 조문, Anthropic의 추가 해명, 그리고 다음 위협 인텔리전스 보고서에서 공개될 첫 번째 적용 사례.
더 넓은 시각에서 본 의미
전체적으로 보면, 이번 업데이트는 AI가 단순히 응답하는 도구에서 직접 행동하는 시스템으로 전환되는 과정을 담은 문서다. 신설되거나 개정된 규칙들은 거의 전부. 모델이 도구·계정·기기를 통해 할 수 있는 일, 즉 콘텐츠 대량 게시, 사람 추적, 기기 조작 등을 다룬다. 이는 SpazioCrypto의 편집부 해석이며. 에이전트 지갑, 위임 작업의 신뢰성, Anthropic CEO Dario Amodei가 2026년 9월에 촉구한 AI 속도 조절 요청이라는 흐름과도 맞닿아 있다. 이 내용은 Amodei, Altman, Musk의 AI 감속 요청 기사에서 다뤘다. 두 사건 사이에 공식적인 인과 관계는 없다. 이 업데이트가 등장한 배경일 뿐이다.
유럽 차원의 함의도 있다. EBA, EIOPA, ESMA 등 EU 3대 금융감독기관은 9월에 AI 모델을 포함한 비EU 디지털 공급업체에 대한 과도한 의존이 지정학적 충격을 증폭시키고 운영 리스크를 키울 수 있다고 경고했다. 이는 EU 금융이 외국 AI에 의존하는 현실 기사에서 상세히 다뤘다. 이용 약관은 이 의존성의 구체적인 형태다. Claude 위에 서비스를 구축하는 사업자는 미국 공급업체가 결정하고, 매년 개정되며, 10월 8일 발표부터 11월 12일 발효까지 불과 5주 전에 통보되는 규칙을 수용해야 한다.
주시해야 할 신호는 세 가지다 또한 11월 12일부터 적용되는 실제 조문. 발표에서 명시되지 않은 계정 제재 방식, 그리고 Anthropic이 향후 보고서에서 공개할 첫 번째 적용 사례. 그날이 오기 전까지, 이번 뉴스는 날짜가 확정된 예고일 뿐, 이미 작동 중인 규칙이 아니다.
