샘 올트먼 "국방부의 AI 활용 방식에 관여할 권한 없다"

미 국방부와의 대형 계약을 따낸 지 일주일도 되지 않아, 오픈AI는 거센 후폭풍에 직면했습니다.

오픈AI의 샘 올트먼 CEO는 사내 전원 회의에서 국방부가 자사 AI 소프트웨어를 어떻게 활용할지에 대해 회사가 관여할 권한이 전혀 없다고 직원들에게 털어놓았습니다.

올트먼은 미 국방부가 기술적 전문성에 대해서는 오픈AI에 자문을 구하겠지만, 구체적인 군사 작전의 적절성을 따지는 일은 결코 용납하지 않는다고 설명했습니다. 그는 이러한 작전 결정에 개입하려 했던 태도가 경쟁사 앤트로픽과 국방부가 파국을 맞은 결정적 원인이었을 것이라고 짚었습니다.

24시간 만의 계약과 후폭풍

이번 사태는 국방부와 앤트로픽의 협상 결렬에서 시작되었습니다. 국방부는 모든 합법적 목적에 AI를 사용할 수 있어야 한다고 요구했으나, 앤트로픽은 민간 대량 감시와 완전 자율 살상 무기에는 절대 쓸 수 없다는 레드라인을 그었습니다. 결국 정부는 앤트로픽을 공급망 위험 요소로 지정하고 연방 차원의 퇴출 명령을 내렸습니다.

그러나 오픈AI는 앤트로픽이 퇴출당한 지 불과 24시간 만에 같은 조건의 기밀 네트워크 공급 계약을 전격 체결했습니다. 승부수처럼 보였던 이 움직임은 곧바로 오픈AI 창사 이래 최악의 브랜드 위기로 번졌습니다.

샌프란시스코 본사 앞에서는 항의 시위가 일어났고 유료 구독 취소가 쏟아졌습니다. 챗GPT 삭제 건수는 무려 295% 급증했으며 수많은 이용자가 앤트로픽으로 이동했습니다. 사내에서도 이탈이 이어져 연구 부사장인 맥스 슈워처가 앤트로픽 이직을 선언하기도 했습니다.

여론이 악화하자 올트먼은 SNS를 통해 계약 체결이 지나치게 급했고 기회주의적이며 엉성해 보였다고 인정했습니다. 그는 이번 사태가 극도로 고통스럽다면서, 위헌적 명령을 따르느니 차라리 감옥에 가겠다고 해명했습니다.

군사 작전 개입 불가와 수습 나선 계약 수정

반발을 잠재우기 위해 오픈AI는 계약 조항 수정에 나섰습니다. 연구원 노암 브라운은 허점이 보완될 때까지 국가안보국(NSA) 등 정보기관에는 모델 배포를 보류하겠다고 밝혔습니다.

올트먼 역시 자체 안전 장치를 구축해 모델 오용을 방지할 것이며, 모델이 내장 규칙에 따라 작업을 거부할 경우 정부가 이를 강제하지 않기로 합의했다고 직원들에게 설명했습니다.

하지만 올트먼이 회의에서 밝혔듯, 기술적 거부 장치와 군사 작전 개입은 완전히 다른 문제입니다. 군이 원하는 것은 강력한 기술일 뿐, 작전 결정을 검열하는 실리콘밸리의 도덕 위원회가 아니라는 점이 분명해졌습니다.

왜 중요한가

일반 소비자와 개발자 입장에서 이번 사태는 플랫폼 신뢰성에 치명적인 균열을 냈습니다. 앱 삭제율이 295% 폭증한 것은 기업의 원칙 부재에 소비자가 즉각적으로 반응한다는 증거입니다. 오픈AI 생태계에 의존해 온 기업과 개발자라면 단일 모델 종속에 따른 리스크를 체감하고 대안을 마련해야 하는 시점입니다.

AI 산업 전반으로 보면, 방위 산업 내에서 빅테크가 설 자리가 어디까지인지 선이 그어졌습니다. 국방부는 군사 작전에 대한 통제권을 민간 기업에 넘겨주지 않겠다는 점을 분명히 했습니다. 정부 계약을 노리는 AI 기업들은 엄격한 군의 요구를 무조건 수용할 것인지, 아니면 공공 시장에서 배제될 것인지 양자택일을 강요받게 되었습니다.

우리는 오픈AI의 이번 대응이 매우 실망스러웠다고 봅니다. 경쟁사가 배제되자마자 24시간 만에 빈자리를 꿰찬 것은 명백한 기회주의로 비쳤습니다. 계약을 부랴부랴 뜯어고치고 기술적 안전망을 내세우고 있지만, 이미 무너진 기업 이미지를 되돌리기엔 역부족입니다. 군사 시스템에 소프트웨어를 제공하면서 코드 몇 줄의 거부 장치로 윤리적 책임을 다할 수 있다고 믿는 것은 순진한 착각에 가깝습니다.