앤트로픽, 외부 안전 평가 기관에 ‘직원급’ 내부 접근 권한 부여

지금까지 주요 AI 기업들이 발표해 온 안전성 검증은 사실상 출제자가 정답을 정해둔 오픈북 테스트에 가까웠습니다. 모델을 통제된 샌드박스에 넣어둔 채 제한된 접근만 허용하고 자화자찬식 백서를 내놓는 방식이 관행이었습니다.

Anthropic이 이 관행을 깨는 새로운 시도에 나섰습니다. 비영리 AI 안전 연구기관인 METR의 연구원 6명에게 사내 리스크 평가팀과 사실상 동등한 수준의 직원급 시스템 접근 권한을 부여했다고 발표했습니다.

사내에 상주하는 독립 감사관

이번 조치로 METR 연구원들은 Anthropic 사원용 노트북과 사무실 공간, 사내 내부 도구 권한을 직접 지급받았습니다. 고객 데이터, 변호사 비밀유지특권 정보, 모델 아키텍처 등 사전에 엄격히 제한된 몇 가지 영역을 제외하면, Anthropic 직원들은 이들을 사내 정렬 안전 담당 동료처럼 대하고 정보를 공유하도록 권장받습니다.

더 파격적인 부분은 평가 결과의 공개 권한입니다. METR은 Anthropic의 위험 수준, 내부 사고, 안전 관행에 대한 평가 보고서를 자체적으로 발행하며, Anthropic은 이에 대한 거부권을 행사할 수 없습니다.

영업비밀 보호를 위해 사전에 정의된 일부 내용의 마스킹 처리를 요구할 권리는 Anthropic에 남겨져 있지만, METR은 해당 삭제 조치가 타당했는지 여부를 외부에 공개적으로 밝힐 수 있는 권리를 확보했습니다.

Anthropic은 이 방식을 은행 감독의 상주 검사역 제도에 비유했습니다. 대형 은행의 내부 위험 포지션을 외부에서 알기 어렵기 때문에 감독 당국 검사관을 은행 내부에 상주시키는 것처럼, AI 연구소 내부에도 감시자를 들여놓겠다는 논리입니다.

3단계 평가자 파트너십 프레임워크

이 같은 전면적인 접근 권한이 모든 기관에 주어지는 것은 아닙니다. Anthropic은 평가자 파트너십을 3단계 프레임워크로 분류하고 있으며, METR은 최고 등급인 3단계에 진입한 첫 번째 기관입니다.

1단계에서는 특정 좁은 범위의 위험 조사만 수행하며, 공개를 위해 Anthropic의 사전 승인이 필요합니다. 바이오 안전성 비영리단체인 SecureBio가 현재 1단계에서 8월 위험 보고서의 생화학 무기 관련 장을 검토하고 있습니다. 2단계는 사전 승인 없이 결과를 공개할 수 있고 더 많은 정보에 접근할 수 있는 수준입니다.

Anthropic은 현재 액센츄어, Faculty와도 파트너십을 구축 중이며 Hugging Face와도 초기 논의를 진행하고 있다고 밝혔습니다. 8월 말 이후 AI 에이전트의 오작동 및 통제 이탈 사례가 연이어 보고되는 가운데, 백악관 초지능 협약 체결과 맞물려 외부 독립 검증에 대한 압박이 현실화된 결과입니다.

왜 중요한가

우리는 Anthropic이 경쟁사들을 강하게 압박하는 매우 영리한 규제 선제 조치를 취했다고 판단합니다.

스스로 심판이자 선수 역할을 하던 AI 업계에서, 외부 비영리단체의 연구원에게 사원증을 쥐어주고 거부권 없는 폭로 권한을 준 것은 안전성 투명성의 기준선을 단숨에 끌어올렸습니다. 동일하게 백악관 협약에 서명한 OpenAI, Google, Meta 등 경쟁사들도 향후 비슷한 수준의 내부 정보 개방을 요구받는 난처한 입장에 처하게 되었습니다.

하지만 현실적인 한계와 불안 요인도 분명합니다. 어디까지가 기업 기밀인 모델 구조이고 어디까지가 검증 대상인 정렬 위험인지 명확히 가르기는 어렵습니다. 삭제 권한에 대한 최종 결정권은 여전히 Anthropic에 있으며, METR이 취할 수 있는 견제 수단이 공개 비판 수준에 그친다는 점에서 대규모 상업적 이해관계 앞에서 이 균형이 유지될지는 지켜볼 일입니다.

기업 고객과 개발자 입장에서 당장 Claude의 사용 경험이 바뀌는 것은 아닙니다. 하지만 홍보용으로 포장되지 않은 AI 에이전트의 실제 오작동 위험과 통제 가능성에 대해 가장 신뢰할 수 있는 외부 보고서를 받아볼 수 있게 되었다는 점만으로도 상당한 의미가 있습니다.