미 국방부, 앤트로픽에 최후통첩: 클로드 안전 제한 풀지 않으면 블랙리스트 지정

미 국방부(펜타곤)가 미국 유력 AI 스타트업 앤스로픽을 상대로 전례 없는 최후통첩을 보냈습니다. 모델의 안전장치를 해제하지 않으면 적대국 외국 기업에나 내리던 제재를 가하겠다는 위협입니다.

Axios 보도에 따르면 펜타곤은 보잉과 록히드 마틴 등 주요 방산 업체들에 연락해 앤스로픽의 클로드(Claude) 모델에 대한 의존도를 평가하라고 요구했습니다. 이는 앤스로픽을 '공급망 위험' 기업으로 지정하기 위한 사전 단계로 파악됩니다. 통상 이 같은 블랙리스트 제재는 화웨이 같은 적대국 기업에 적용되는 조치입니다.

피트 헥세스 국방장관은 앤스로픽 CEO 다리오 아모데이에게 금요일 오후 5시 1분이라는 구체적인 마감 시한을 제시했습니다. 대량 감시와 자율 무기 사용을 가로막고 있는 안전 제한을 풀지 않으면 대가를 치르게 하겠다는 의미입니다.

안전장치 해제냐, 국방 블랙리스트냐

갈등의 핵심은 아모데이 CEO가 고수해 온 두 가지 레드라인입니다. 인간의 개입이 없는 완전 자율 무기 시스템에 클로드를 사용하는 행위, 그리고 미국 시민을 대상으로 한 대규모 무차별 감시에 AI를 투입하는 행위를 차단하는 규정입니다.

Axios에 따르면 헥세스 장관은 세 가지 선택지를 제시했습니다. 국방부 조건을 수용하거나, 공급망 위험 딱지가 붙은 채 2억 달러 규모의 계약을 해지당하거나, 혹은 국방물자생산법(DPA)을 동원한 법적 강제 조치를 받는 길입니다.

클로드는 현재 미군 기밀 네트워크 안에서 구동되는 유일한 AI 모델입니다. 하지만 펜타곤은 이미 대안을 확보하고 압박 수위를 높이고 있습니다. xAI의 Grok은 '모든 합법적 목적'에 사용하는 조건에 동의하며 이미 군 계약을 따냈습니다. 여기에 국방부는 OpenAI와 구글 역시 기밀 시스템에 접근할 수 있도록 인가 절차를 패스트트랙으로 밟고 있습니다.

왜 중요한가

우리는 이번 사태가 민간 테크 기업의 AI 안전 윤리가 국가 안보 권력과 정면충돌했을 때 벌어질 수 있는 가장 위험한 선례라고 봅니다.

앤스로픽은 철저한 정렬과 안전 가드레일을 핵심 경쟁력으로 내세워 온 회사입니다. 만약 미국 정부가 자국 기업이 시민 감시와 킬러 로봇 사용을 거부했다는 이유로 전시 법률을 동원해 강제하거나 블랙리스트에 올릴 수 있다면, 실리콘밸리가 수년간 구축해 온 자발적 AI 안전 기준은 하루아침에 무력화됩니다.

국방부 입장에서는 패권 경쟁 속에서 군사적 제약을 최소화하려는 실리적 계산이겠지만, 안전 원칙을 지키려는 연구소를 적으로 돌리는 방식은 산업 전반에 심각한 부작용을 낳습니다. '모든 합법적 용도'라는 명분 아래 통제를 포기하는 기업만 군사 계약을 따내는 구조가 굳어질 수 있기 때문입니다.

전쟁과 안보의 이름으로 자율 무기의 빗장을 풀기 시작할 때, 그 파괴적인 결과를 누가 최종적으로 통제할 수 있을지에 대해 매우 불안한 의문이 남습니다.