앤트로픽, 美 국방부 압박 거부: 대규모 감시·자율무기 안전장치 유지

만약 군 당국이 수십억 달러짜리 계약을 내밀며 자율 대량살상 무기와 민간인 사찰을 위해 AI 안전장치를 완전히 해제하라고 요구한다면 어떻게 해야 할까요?

앤트로픽의 CEO 다리오 아모데이는 단호하게 거절을 택했습니다.

앤트로픽은 미 전쟁부(Department of War)와의 협상에 관한 공식 성명을 내고 모델의 안전 가드레일을 제거하라는 정부 요구를 거부했다고 밝혔습니다. 군 당국은 계약 체결 조건으로 '모든 합법적 용도'에 대한 무제한 접근을 요구했으나, 앤트로픽은 미국 민간인에 대한 대규모 감시와 인간의 통제를 벗어난 완전 자율 무기 투입이라는 두 가지 레드라인을 절대 넘을 수 없다고 맞섰습니다.

국방생산법 위협과 공급망 위험 지정

앤트로픽은 결코 군사 협력 자체를 거부하는 기업이 아닙니다. 이들은 프론티어 AI 기업 중 최초로 미국 정부의 기밀 네트워크와 국립연구소에 모델을 배치한 곳이며, 클로드는 정보 분석, 작전 시뮬레이션, 사이버 방어 등 핵심 임무에 폭넓게 활용되어 왔습니다. 심지어 국가 안보 우려가 있는 해외 기관과의 거래를 차단하며 수억 달러의 매출을 스스로 포기하기도 했습니다.

그러나 이번 협상에서 미 국방 수뇌부의 압박은 거셌습니다. 국방부 CTO 에밀 마이클은 앤트로픽이 요구를 수용하지 않을 경우 기밀 시스템에서 퇴출하고, 적국 기업에나 붙이던 '공급망 위험' 기업으로 지정하겠다고 위협했습니다. 심지어 국방생산법(DPA)을 동원해 강제로 안전장치를 풀게 만들겠다는 모순된 엄포까지 놓았습니다.

피트 헤그세스 국방장관은 청문회에서 아모데이 CEO를 두고 '이념적 광인'이라고 원색적으로 비난했습니다. 결국 미 국방부는 앤트로픽을 기밀 시스템에서 배제하고, 요구 조건을 수용한 오픈AI, xAI, 구글, 마이크로소프트, 엔비디아 등과 계약을 체결했습니다.

환각이 실제 군사 작전을 망칠 뻔한 현실

앤트로픽이 막대한 사업적 손실을 감수하면서까지 버틴 이유는 명확합니다. 현재의 AI 기술이 인간의 생사를 가를 만큼 신뢰할 수 있는 수준이 아니기 때문입니다.

실제로 CNN에 따르면 미군은 최근 핵물질을 운반 중이라는 첩보를 받고 중동에서 중국 선박을 나포하기 위해 전투기를 띄우고 특수부대를 투입하기 직전까지 갔습니다. 하지만 작전 개시 직전 재검토 결과, 해당 첩보는 분석관이 사용한 AI 챗봇이 만들어낸 완전히 거짓된 환각(Hallucination)이었던 것으로 드러났습니다. 블룸버그 역시 최근 발생한 오폭 참사의 원인 중 하나로 미성숙한 AI 기술에 대한 과도한 의존을 지적했습니다.

민간 감시 문제도 심각합니다. 현행법상 영장 없이 민간 정보 브로커로부터 위치나 인터넷 기록을 구매할 수 있는데, 고성능 AI가 결합되면 무해해 보이던 개별 데이터가 거대한 사찰 망으로 둔갑하게 됩니다. 앤트로픽은 이러한 현실적 위험에 눈감지 않겠다고 선언한 셈입니다.

왜 중요한가

이번 사태는 AI 안전 원칙이 국가 권력이라는 절대적인 힘과 정면으로 충돌했을 때 시험대에 오른 상징적인 사건입니다.

단기적으로 앤트로픽은 값비싼 대가를 치르게 되었습니다. 기밀 등급의 국방 계약은 가장 안정적이고 막대한 수익을 보장하는 시장인데, 이 빈자리를 경쟁사인 오픈AI와 xAI 등이 빠르게 차지했기 때문입니다. 오픈AI가 뒤늦게 감시 방지 조항을 보완했다고는 하나, 펜타곤이 다루기 쉬운 공급업체들을 선택했다는 사실 자체는 변하지 않습니다.

하지만 우리는 앤트로픽의 선택이 장기적으로 현명했다고 봅니다. 챗봇의 거짓말 때문에 실제 군사 작전이 오발탄을 날릴 뻔한 상황에서, 안전장치를 푼 자율 살상 무기가 실전에 배치되었을 때 벌어질 참사와 그에 따른 법적·윤리적 파장은 한 기업이 감당할 수 있는 수준을 넘어섭니다. 단기 매출을 위해 국가의 강요에 굴복하는 대신, 시민 감시와 킬러 로봇 도입을 거부하며 지켜낸 안전성에 대한 신뢰는 그 어떤 빅테크도 갖지 못한 앤트로픽만의 가장 강력한 해자가 될 것입니다.