xAI, 미 국방부와 계약 체결…기밀 시스템에 그록 배치

빅테크 기업과 군 당국 사이의 AI 안전 가이드라인 갈등이 마침내 임계점에 도달했습니다.

액시오스(Axios)는 미국 국방부 관계자의 말을 인용해 일론 머스크의 xAI가 자체 모델 그록(Grok)을 군 기밀 시스템에 배치하는 계약을 펜타곤과 체결했다고 전했습니다. 이 소식은 뉴욕타임스(NYT)가 가장 먼저 보도했습니다.

그동안 미 군 당국의 가장 민감한 정보 분석과 무기 개발, 전장 작전이 이루어지는 기밀 시스템에 진입한 AI는 앤스로픽(Anthropic)의 클로드(Claude)가 유일했습니다.

'모든 합법적 용도'라는 최후통첩

이번 계약의 직접적인 원인은 앤스로픽과 펜타곤의 정면충돌입니다. 펜타곤은 군에 도입되는 AI 모델이 '모든 합법적 용도'에 제한 없이 사용될 수 있어야 한다고 요구해 왔습니다.

하지만 앤스로픽은 이를 단호하게 거부했습니다. 특히 미국 시민을 대상으로 한 대규모 감시 활동이나 완전 자율 살상 무기 개발에 클로드가 쓰이는 것을 막는 안전장치를 풀지 않겠다고 버틴 것입니다.

이에 피트 헤그세스 국방장관은 화요일 앤스로픽의 다리오 아모데이 CEO를 국방부로 불러 담판을 지을 예정입니다. 관계자들에 따르면 헤그세스 장관은 안전장치를 풀지 않을 경우 앤스로픽을 '공급망 위험' 기업으로 지정하고 제재를 가하겠다는 최후통첩을 전달할 방침입니다.

반면 xAI는 펜타곤이 요구한 '모든 합법적 용도' 조건을 그대로 수용하면서 기밀 시스템 진입 티켓을 손에 넣었습니다.

클로드를 빼내는 일의 기술적 난제

그록이 진입 계약을 맺었지만, 국방부 실무진 사이에서는 기존 클로드를 완전히 걷어내고 대체하는 과정이 기술적으로 매우 까다로울 것이라는 우려가 나옵니다. 클로드는 팔란티어와의 파트너십 등을 통해 이미 마두로 급습 작전 등 실제 군사 작전 깊숙이 통합되어 쓰여 왔기 때문입니다.

비기밀 시스템에서는 이미 그록과 구글의 제미나이, 오픈AI의 챗GPT가 모두 사용 중입니다. 펜타곤은 앤스로픽과의 결별 가능성에 대비해 구글 및 오픈AI와도 기밀 시스템 진입 협상을 서두르고 있습니다.

뉴욕타임스는 구글이 기밀 계약에 근접한 반면 오픈AI는 아직 거리가 있다고 보도했으나, 국방부 측은 두 회사 모두와 적극적으로 협의 중이며 결국 두 곳 모두 기준에 합의할 것으로 기대한다고 밝혔습니다. 핵심 쟁점은 여전히 펜타곤의 '모든 합법적 용도' 조건을 민간 연구소가 수용할 수 있느냐입니다.

왜 중요한가

이번 사태는 방위 산업과 생성형 AI 업계의 역학 관계가 완전히 달라졌음을 보여줍니다.

사용자와 업계 관점에서 볼 때, 머스크의 xAI는 자체적인 윤리 규제보다 정부와 고객의 법적 요구를 최우선으로 수용하는 실용주의적 대안으로 자리매김했습니다. 앤스로픽이 엄격한 윤리적 방어선을 고수하는 사이, xAI는 가장 마찰이 적은 파트너로 정부 조달 시장에서 급부상한 셈입니다.

산업 전체로 보면 펜타곤이 민간 AI 기업을 상대로 '공급망 위험' 지정을 무기 삼아 압박하기 시작했다는 점이 결정적입니다. 이는 협상 중인 구글과 오픈AI에도 자사의 안전 원칙을 어디까지 굽힐 것인지에 대한 전례 없는 시험대가 되고 있습니다.

우리는 펜타곤이 안전장치 제거를 이유로 모델을 급히 교체하는 결정에 상당한 불안 요소가 있다고 봅니다. 클로드는 팔란티어와 함께 실전 검증을 거치며 복잡한 정보 분석에서 높은 신뢰성을 증명해 왔습니다. 반면 그록이 동등한 수준의 미션 크리티컬 업무를 안정적으로 수행할 수 있는지는 아직 공개적으로 검증된 바가 적어, 군 스스로 기술적 위험을 떠안는 모양새가 될 수 있습니다.