오픈AI, 미 국방부와 기밀 네트워크 AI 도입 합의…안전 장치 마련

미 국방부가 앤트로픽을 블랙리스트에 올리며 압박 수위를 최고조로 끌어올린 바로 그 시점에, 오픈AI가 군 기밀망 진입 계약을 전격 체결했습니다.

샘 올트먼 오픈AI CEO는 지난 금요일 밤 미국 국방부와 기밀 네트워크 내 자사 AI 모델 사용에 관한 합의에 도달했다고 발표했습니다. 놀라운 점은 앤트로픽이 끝까지 지키려다 퇴출 위기에 몰렸던 안전 원칙을, 오픈AI는 계약서에 그대로 반영했다고 주장한다는 사실입니다.

앤트로픽을 겨냥한 정부의 최후통첩

이번 사태는 국방부가 프론티어 AI 기업들을 향해 모든 합법적 군사 목적에 모델을 개방하라고 요구하면서 촉발되었습니다. 다리오 아모데이 앤트로픽 CEO는 미국 시민에 대한 대규모 국내 감시와 인간의 개입이 배제된 완전 자율 살상 무기라는 두 가지 레드라인만큼은 절대 양보할 수 없다고 맞섰습니다.

이에 대해 피트 헤그세스 국방장관은 앤트로픽이 미군의 작전 결정에 거부권을 행사하려 한다며 강하게 반발했습니다. 보도에 따르면 국방부는 가드레일 제거, 2억 달러 규모 계약 취소 및 공급망 위험 지정, 국방물자생산법을 통한 강제 집행 중 하나를 택하라는 최후통첩까지 보냈습니다.

결국 도널드 트럼프 대통령은 소셜미디어를 통해 앤트로픽을 극좌 괴짜들이라 맹비난하며 6개월 내 연방 기관의 제품 사용 중단을 지시했습니다. 헤그세스 장관 역시 즉시 앤트로픽을 공급망 위험 기업으로 지정하고 모든 군사 계약업체의 거래를 금지했습니다. 앤트로픽이 법적 대응을 예고한 가운데, 오픈AI 직원 60여 명과 구글 직원 300여 명은 앤트로픽을 지지하는 공개서한에 서명하기도 했습니다.

클라우드 전용 배포와 안전 스택의 유지

이런 극한 대치 속에서 오픈AI는 다른 해법을 들고나왔습니다.

올트먼이 공개한 내용과 사내 회의 발언에 따르면, 이번 배포는 철저히 클라우드 환경에서만 이루어집니다. 전투 현장의 에지 기기에는 모델이 직접 탑재되지 않기 때문에 자율 무기로 쓰일 물리적 가능성을 원천 차단했다는 설명입니다. 또한 오픈AI는 자체 안전 스택을 직접 운영하고, 보안 인가를 받은 자사 엔지니어를 국방부에 파견해 모델을 모니터링하기로 했습니다.

특히 올트먼은 모델이 특정 지시를 거부할 경우 정부가 오픈AI에 강제로 수행을 명령할 수 없다는 조항을 넣었다고 직원들에게 밝혔습니다. 수정된 계약서에는 미국인 대상 국내 감시 금지, 상업적으로 구매한 개인정보를 통한 추적 금지, NSA 등 정보기관의 무단 사용 배제 등이 명시되었습니다. 올트먼은 다른 모든 AI 기업에도 동일한 조건이 제시되어 사태가 합리적으로 진정되기를 바란다고 덧붙였습니다.

왜 중요한가

우리는 오픈AI가 고도의 정치적 실용주의를 발휘해 위기를 기회로 바꿨지만, 그 이면의 구조적 불안은 여전하다고 봅니다.

원칙을 지키려다 정부 조달 시장에서 완전히 배제될 위기에 처한 앤트로픽과 달리, 오픈AI는 클라우드 배포와 거부권 명문화라는 기술적 시스템으로 군의 요구를 우회했습니다. 만약 올트먼의 제안대로 이 조건이 업계 표준으로 정착된다면, 다른 AI 기업들도 국가 안보 협력과 안전성 사이에서 최소한의 방어선을 확보할 수 있게 됩니다.

하지만 우리가 보기에 이 방어선은 살얼음판과 같습니다. 계약상 명시된 인간의 통제 의무나 합법성의 기준은 결국 정부와 군이 해석하기 나름이기 때문입니다. 특히 실제 전황이 긴박해지거나 전시 체제로 전환될 경우, 오픈AI의 자체 안전 스택이 군의 요구를 끝까지 거부할 수 있을지는 미지수입니다.

더 중요한 것은 정부가 자신들의 요구에 순응하지 않는 빅테크를 공급망 위험으로 낙인찍어 시장에서 퇴출시킬 수 있음을 입증했다는 점입니다. 안전을 고수한 기업은 징벌을 받고, 영리하게 타협한 기업이 자리를 꿰차는 선례가 남았습니다. AI 기술이 군사력의 핵심 축으로 편입되는 과정에서 민간 연구소가 세운 윤리적 방파제가 얼마나 버틸 수 있을지 시험대에 올랐습니다.