미 국방부, 앤트로픽에 불만 폭발: 자율 무기 제한 이유로 계약 중단 위협

미 국방부(펜타곤)가 군의 AI 활용에 제동을 걸고 나선 앤트로픽에 격분하며 2억 달러 규모의 계약 해지를 검토 중인 것으로 알려졌습니다.

Axios 보도에 따르면 펜타곤은 주요 AI 기업들에 기술을 '모든 합법적 목적'에 사용할 수 있도록 허용할 것을 요구하고 있습니다. 그러나 앤트로픽이 이에 강력히 반발하자, 정부 관계자들 사이에서 앤트로픽이 상대하는 AI 기업 중 가장 '이념적'이라는 비판이 터져 나왔습니다.

양보할 수 없는 두 가지 레드라인

미 정부는 앤트로픽뿐만 아니라 오픈AI, 구글, xAI에도 같은 요구를 전달했습니다. 보도에 따르면 한 곳은 이미 동의했고 두 곳은 유연한 입장을 보였지만, 앤트로픽만 유일하게 완강한 거부 의사를 고수하고 있습니다.

앤트로픽이 내세우는 핵심 조건은 두 가지입니다. 바로 '완전 자율 무기'에 대한 사용 금지와 '국내 대규모 감시'에 대한 기술 제한입니다.

다리오 아모데이 앤트로픽 CEO는 최근 인터뷰와 기고문에서 이러한 우려를 거듭 밝혔습니다. 그는 군 조직의 헌법적 보호 장치는 부당한 명령을 거부할 수 있는 인간에게서 나오지만 자율 드론 편대에는 그런 통제가 없으며, 공공장소의 영상과 음성을 AI로 결합하면 반체제 인사를 식별하는 감시 도구로 변질될 수 있다고 경고한 바 있습니다.

베네수엘라 작전과 펜타곤의 딜레마

갈등의 불씨는 지난 1월 3일 니콜라스 마두로 전 베네수엘라 대통령 체포 작전에서 시작되었습니다. 월스트리트저널에 따르면 해당 군사 작전에 클로드가 실제로 사용되었습니다.

펜타곤 측은 앤트로픽이 파트너사인 팔란티어에 자사 기술이 교전 작전에 투입되었는지 캐물으며 불만을 내비쳤다고 주장합니다. 반면 앤트로픽은 특정 군사 작전에 대해 국방부와 논의한 적이 없으며, 오직 자율 무기와 감시 제한이라는 기본 정책에만 집중하고 있다고 반박했습니다.

흥미로운 점은 펜타곤이 앤트로픽을 비난하면서도 쉽게 손을 떼지 못하고 있다는 사실입니다. 유출된 국방부 관계자의 발언에 따르면, 여전히 다른 경쟁 모델들이 클로드의 성능을 따라오지 못하고 있기 때문입니다.

왜 중요한가

이번 사태는 최첨단 AI의 안전 원칙이 국가 안보와 군사적 현실 앞에서 얼마나 큰 시험대에 올랐는지를 여실히 보여줍니다.

일반 기업과 개발자 입장에서 앤트로픽의 이 같은 행보는 긍정적인 신호로 해석될 수 있습니다. 2억 달러에 달하는 초대형 군사 계약을 잃을 위기 속에서도 안전 가이드라인을 지키려 한다는 점은 브랜드 신뢰도를 높여주는 요소입니다.

하지만 비즈니스 측면에서 앤트로픽은 매우 위험한 외줄 타기를 하고 있다고 봅니다. 군이 요구하는 것은 예외 없는 명령 수행 능력인데, 오픈AI나 xAI 같은 경쟁사들이 정부의 요구에 타협한다면 앤트로픽은 막대한 공공 조달 시장에서 점차 배제될 가능성이 큽니다.

결국 관건은 클로드의 기술적 격차입니다. 지금은 대체 불가능한 모델 성능 덕분에 펜타곤을 상대로 원칙을 고수할 수 있지만, 경쟁 모델들이 이 격차를 좁히는 순간 군이 다루기 까다로운 기업을 계속 품고 갈 이유는 사라질 것입니다.