2026년 10월 15일, Anthropic은 METR 소속 6명에게 자사 내부 리스크 평가팀과 유사한 수준의 하드웨어, 공간, 접근 권한을 부여했다고 발표했다. Anthropic과 METR의 새로운 협력은 외부 평가자를 조직 안으로 끌어들여 독자적인 분석 결과를 공개할 수 있도록 한다. 이는 Claude의 안전성에 대한 완성된 판단이 아니다. 그 판단이 어떻게 구성되고 논의될 수 있는지를 바꾸는 구조적 변화다.
Anthropic
본 기사는 2026년 10월 14일 METR이 공개한 작업 방식 문서. 내부 평가 제안서, 과거 검증 기록, 그리고 Anthropic의 공식 발표문을 바탕으로 작성되었다. 이 문서들은 당사자들이 직접 공개한 1차 자료다. 비공개 계약서나 실제 검토된 시스템에는 접근하지 못했으며, 아직 발표되지 않은 결과를 해당 팀에 귀속시키지 않는다.
6명, 경계가 있는 접근권
Anthropic의 발표에 따르면, 이 소규모 팀은 이미 회사 내부에 배치되어 자사 리스크 평가자들이 보유한 도구와 정보와 “유사한” 수준의 권한을 받았다. 핵심 단어는 “유사한”이다 또한 이것은 무제한 접근을 의미하지 않는다. 고객 데이터, 변호사-의뢰인 특권으로 보호되는 정보, 모델 아키텍처 세부 사항은 통상적으로 제외되는 범주에 속한다. 아키텍처 정보 공유가 특히 중요한 경우에는 별도의 승인 절차가 필요하다.
핵심은 시연 환경에서 모델의 행동만을 관찰하는 것을 넘어, 실제 프로세스를 살펴보는 데 있다. 과거 Claude 테스트에서 기록된 의도치 않은 행동 사례들은 환경 조건. 사용 가능한 도구, 사고 인식 기준이 얼마나 중요한지를 보여준다. METR 팀의 내부 배치가 그런 문제들에 대한 해결책이라고 단정 짓지 않는다. 새로운 분석이 실제로 무엇을 검토했는지를 투명하게 드러내야 할 것이다.
METR 내부에서도 정보 흐름은 승인된 팀으로 제한된다. Anthropic은 해당 기관의 다른 직원들이 내부 배치 팀의 업무와 분리되어 있으며 계약이 구속력을 지닌다고 명시했다. 평가자의 접근 범위를 넓히는 것이 곧 데이터와 시스템을 외부에 공개하는 것과 같지 않다. 이 분리 구조야말로 프로젝트 신뢰성의 일부라고 본다. 단, 결론에 영향을 미치는 제한 사항은 반드시 명시되어야 한다.
세 단계, 같은 권리가 아니다
결과적으로, Anthropic은 세 가지 단계를 구분한다. 1단계에서는 제한된 조사에 필요한 정보를 제공하고, 출판에 대한 승인권을 유지한다. 2단계에서는 평가자가 해당 승인 없이 게재할 수 있고 더 많은 정보에 접근할 수 있지만. 정해진 범주에서는 여전히 삭제가 가능하다. 3단계는 METR에 적용된 내부 접근 권한을 추가로 부여한다. 이 단계를 구분하지 않고 협약 건수만 집계하면, 실질적인 외부 감시 수준을 과대평가하게 된다.
SecureBio, Accenture, Faculty는 아직 개발 중인 보고서에서 언급되며, Hugging Face는 초기 논의가 진행 중인 기관으로 분류된다. 이들 모두 METR 팀과 동등한 협력 관계에 있는 것은 아니다. 도구 역시 구분된다. Anthropic이 업데이트한 이용 약관은 서비스 이용 조건을 규정하는 반면, 평가자는 증거와 실무를 검토한다. 정책, 접근 계약, 완료된 검증은 서로 다른 결과물이다.
공개가 곧 모든 데이터 공유는 아니다
Anthropic에 따르면, 회사는 METR 분석 결과의 게재에 거부권을 행사할 수 없다. 다만 합의된 제한 범주에 해당하는 자료의 삭제를 요청할 수는 있다. METR은 그러한 삭제 사실을 공개적으로 설명하고, 보호된 정보를 노출하지 않는 범위에서 삭제가 정당하다고 판단하는지 여부를 밝힐 수 있다. 이 메커니즘은 독자가 보고서의 한계를 파악할 수 있도록 한다. 기저 내용이 공개될 수 없는 상황에서도 마찬가지다.
METR가 공개한 방법론은 바로 이 단계를 핵심으로 삼는다. 평가 범위, 기간, 접근 권한, 자원, 제한 조건, 그리고 결론에 영향을 미쳤을 수 있는 외부 압박 요소를 명시하는 것이 목표다. 이는 기관이 선언한 투명성 원칙이지, 향후 모든 보고서가 완전하다는 보장이 아니다. 실질적인 검증은 평가자가 “무엇을 봤다”고 말하는 내용과 “무엇을 결론 내릴 수 있다”고 주장하는 내용을 비교하는 데서 시작된다.
AI 에이전트의 은행 계좌 접근 사례와의 비교는 문제를 명확히 하기 위한 것이지, 두 시스템을 동일시하려는 것이 아니다. 광범위한 접근 권한이 모든 장벽을 제거하거나 가장 중요한 증거를 자동으로 확보해 주지는 않는다. 편집 독립성과 관찰 가능한 범위는 별도로 기술되어야 한다. 전자는 판단을 보호하고, 후자는 그 판단의 한계를 규정한다.
독립성은 방법론에서 확인된다
METR는 자신의 역할이 통제 상실 위험에 관한 증거를 수집하는 것이지. 기업이 에이전트를 어떻게 개발하거나 배포해야 하는지를 단독으로 결정하는 것이 아니라고 밝힌다. 2026년 10월 14일 공개된 제안서는 정렬, 내부 에이전트 통제, AI를 통한 연구 가속화를 구분한다. 이는 제안된 조사 영역이다. Anthropic과의 새로운 접근 합의에서 이미 결과가 도출됐다고 해석해서는 안 된다.
METR의 업무 규정은 이해 충돌, 재정적·운영적 독립성, 기밀 유지, 방법론 공개를 명시한다. 2026년 10월 15일 발표에는 신규 참여에 따른 상세한 재정 내역이 포함되지 않았다. 따라서 비용, 보수, 무상 여부를 이 자료에서 확인할 수 없다. Workday, Sana, Claude 연동 사례처럼, 통제 구조를 기술하는 것은 검증의 출발점이지 종착점이 아니다.
에이전트를 사용하는 기업에 무엇이 달라지나
Claude를 도입한 기업 입장에서, 이번 발표만으로 기존 계약이나 환경 권한이 바뀌는 것은 아니다. 다만 공급업체 리스크에 관한 새로운 정보 출처가 생긴다. 공개될 보고서는 더 정밀한 질문을 던지는 데 도움이 될 수 있지만, 각 보고서의 조사 범위를 확인하며 읽어야 한다. 특정 실험실 내부 에이전트에 대한 조사가 고객 데이터를 다루는 외부 애플리케이션을 자동으로 인증하지는 않는다.
이 문제는 Bloomberg ASKB 금융 리서치 에이전트에도 동일하게 적용된다. 서비스가 문서를 요약하거나 도구를 실행할 때, 통제 약속을 뒷받침하는 근거가 무엇인지 파악해야 한다. 우리의 판단은, 좋은 외부 보고서란 신뢰 마크로 의문을 지우는 것이 아니라 그 의문을 더 명확하게 만드는 것이라는 점이다. 새 팀에 대한 최종 평가 결과는 아직 보고할 수 없다.
Anthropic과 METR 요약
확인된 사항과 미확인 사항
- 확인됨: Anthropic이 내부 접근을 허용한 평가자 6명, 거부권 없는 보고서 공개 원칙.
- 미공개: 신규 업무의 결과물, 전체 일정, 계약의 재정적 세부 내용.
- 추적 필요: 공개 보고서, 접근 제한 범위, 비공개 처리 사유.
더 큰 그림
결과적으로, 이번 소식은 관심의 초점을 고립된 모델에서 그 모델을 만드는 조직으로 이동시킨다. 안전은 로그, 인센티브 구조, 내부 도구, 사고 대응 방식에도 달려 있다. SpazioCrypto AI 특집은 이 변화를 추적한다. 응답이 정확한지 묻는 것만으로는 부족하며, 일반적인 채팅에서는 드러나지 않는 행동이 어떻게 관찰되는지 이해해야 한다.
주목해야 할 신호는 신규 팀의 첫 보고서, 접근 불가 항목에 대한 설명, 비공개 처리를 둘러싼 이견이다. 제시된 증거가 시간 흐름에 따라 혹은 기업 간 비교를 가능하게 하는지도 확인할 필요가 있다. 지금 우리가 말할 수 있는 것은 내부를 더 가까이 들여다볼 권한을 부여받은 6명과, 선언된 공개 권리가 존재한다는 사실뿐이다. 이미 안전 인증서가 발급된 것이 아니다.
