앤트로픽 CEO, 오픈 웨이트 규제설 반박…칩 통제와 안전성 테스트 집중 촉구

실리콘밸리의 거의 모든 주요 테크 기업이 한목소리로 서명한 공개서한에서 유독 한 곳만 빠져 있다면, 세간의 의심 어린 눈초리가 쏠리는 것은 당연합니다.

지난주 엔비디아의 젠슨 황 CEO는 X 계정에 첫 게시물을 올리며 오픈 웨이트 AI 모델에 대한 성급한 규제에 반대하는 공개서한을 공유했습니다. 이 서한에는 메타, 마이크로소프트, 허깅페이스, 미스트랄뿐만 아니라 오픈AI, 구글, 아마존, 스페이스X까지 줄줄이 이름을 올렸습니다. 주요 AI 연구소 중 사실상 앤트로픽만 이름을 올리지 않자, 업계에서는 앤트로픽이 자사 사업을 지키기 위해 정부를 상대로 오픈 모델 금지 로비를 벌이고 있다는 비판이 쏟아졌습니다.

논란이 거세지자 다리오 아모데이 앤트로픽 CEO는 7월 27일 직접 장문의 글을 올려 해명에 나섰습니다. 앤트로픽은 오픈 웨이트 모델 금지를 주장한 적이 전혀 없다는 입장입니다.

진짜 위협은 오픈 모델 자체가 아니다

아모데이는 위험한 능력을 지니지 않은 오픈 웨이트 모델은 구동에 필요한 연산 자원을 제외하면 무료로 제공되는 명백한 공공재라고 규정했습니다. 기업, 개발자, 연구자 모두에게 실질적인 가치를 제공한다는 설명입니다.

그는 단순한 보호무역주의적 금지 조치는 국가 안보의 핵심 위협을 전혀 해결하지 못한다고 지적했습니다. 그가 가장 우려하는 두 가지 악몽 같은 시나리오는 미국 기업의 오픈 모델 사용을 막는다고 해서 해결될 문제가 아니라는 것입니다.

첫 번째 우려는 중국 등 권위주의 정권이 미국을 능가하는 강력한 모델을 비밀리에 구축해 군사적 우위를 점하거나 자국민을 감시하고 탄압하는 것입니다. 아모데이는 가장 위험한 모델은 외부에 공개되지 않고 군이나 정보기관에 직접 전달될 것이므로, 오픈 모델 규제와는 아무 관련이 없다고 말했습니다.

두 번째 우려는 강력한 모델이 사이버 공격이나 생물학 무기 제조에 악용되는 상황입니다. 오픈 모델은 가중치가 한 번 배포되면 회수가 불가능해 안전장치를 씌우기 어려운 것은 사실이지만, 실제 범죄 집단이 규제를 준수하는 미국 기업일 리 없으므로 사용 금지 조치는 실효성이 없다고 짚었습니다.

금지령 대신 내놓은 세 가지 대안

아모데이는 모델 금지 대신 미국이 집중해야 할 세 가지 핵심 정책 과제를 제시했습니다.

첫째는 중국을 향한 첨단 칩 및 반도체 장비 수출 통제를 강화하고 밀수와 우회 경로를 철저히 단속하는 것입니다. 스케일링 법칙에 따라 최첨단 하드웨어 없이는 미국보다 뛰어난 모델을 물리적으로 만들어낼 수 없기 때문입니다.

둘째는 산업 규모로 자행되는 모델 증류에 대한 강력한 제재입니다. 증류는 대형 모델에 수많은 프롬프트를 보내 출력을 학습하는 방식으로, 연산 자원을 훨씬 적게 쓰면서도 선두 모델과의 기술 격차를 몇 달 수준으로 좁힐 수 있게 해줍니다. 그는 이러한 지적재산권 우회 행위를 막을 맞춤형 법적, 상업적 규제가 필요하다고 강조했습니다.

셋째는 일정 수준 이상의 역량을 갖춘 모든 모델을 대상으로 출시 전 의무적인 안전성 테스트를 도입하는 것입니다. 오픈이든 클로즈드든, 국적이 어디든 상관없이 생물학 무기 및 사이버 공격 위험을 사전에 검증하되 스타트업이나 학계의 소형 모델은 완전히 면제하자는 구상입니다.

왜 중요한가

우리는 다리오 아모데이의 이번 입장 표명이 매우 영리한 위기관리 대응이었다고 봅니다. 업계 전체로부터 고립될 뻔한 상황에서 오픈 모델을 공공재로 인정하며 보호주의 의혹을 한 발 털어내는 모습을 보여주었기 때문입니다.

하지만 그가 내놓은 실질적인 대안은 결코 부드럽지 않습니다. 핵심 타깃을 모델 증류로 돌려놓았기 때문입니다. 현재 많은 오픈소스 진영과 해외 기업들이 선도적인 클로즈드 모델의 API 출력을 증류해 역량을 빠르게 끌어올리고 있는데, 만약 미국 정부가 이를 겨냥한 규제를 본격화한다면 오픈 모델 생태계 전반의 개발 관행이 큰 압박을 받게 됩니다.

일반 개발자와 기업 입장에서 당장 오픈 모델을 쓰지 못하게 될 위험은 사라졌습니다. 아모데이 역시 소규모 팀과 학계에 대한 규제 면제를 명확히 지지하고 있어 단기적인 개발 환경에는 큰 영향이 없을 것으로 보입니다.

그러나 AI 규제의 전선은 단순히 공개 여부를 따지는 수준을 넘어 칩 통제와 증류 금지, 의무적 안전성 검증이라는 더 구조적이고 높은 진입장벽의 영역으로 이동하고 있습니다. 프론티어급 AI를 개발할 수 있는 주체는 앞으로 소수의 거대 자본으로 더욱 좁혀질 가능성이 커 보입니다.