아마존 CEO 보안 우려 제기, 美 정부 앤트로픽 신형 모델 수출 규제

가장 가까운 우군이자 최대 투자자가 뒤에서 정부에 보안 결함을 제보하는 일은 실리콘밸리에서도 흔치 않은 장면입니다.

Anthropic이 6월 9일 차세대 플래그십 AI 모델인 Claude Fable 5와 Mythos 5를 공개한 지 사흘 만에, 트럼프 행정부는 외국 국적자의 접근을 차단하라는 수출 통제 명령을 전격 발동했습니다. 기술적으로 국적별 차단이 불가능했던 Anthropic은 결국 두 모델의 글로벌 서비스를 전면 중단했습니다.

월스트리트저널 등 주요 외신에 따르면, 백악관의 이번 조치를 촉발한 결정적인 인물은 다름 아닌 주요 투자사인 아마존의 앤디 재시 최고경영자였습니다.

탈옥 보고서와 백악관의 최후통첩

보도에 따르면 앤디 재시 CEO는 스콧 베센트 재무장관을 비롯한 정부 고위 관계자들에게 아마존 연구진의 분석 결과를 전달했습니다. Claude Fable 5를 프롬프트로 탈옥시켜 사이버 공격에 활용할 수 있는 정보를 생성하는 데 성공했다는 내용이었습니다.

트럼프 행정부의 AI 정책을 이끄는 데이비드 삭스 대통령 과학기술자문위원회 공동의장은 정부가 Anthropic의 다리오 아모데이 CEO에게 해당 탈옥 취약점을 즉각 수정하거나 모델 배포를 중단하라고 요구했으나, 아모데이 CEO가 이를 거부했다고 밝혔습니다.

Anthropic은 강하게 반발했습니다. 수억 명이 사용하는 상용 모델을 좁은 범위의 잠재적 탈옥 가능성 때문에 회수하도록 강제하는 것은 부당하며, 동일한 수준의 생성 능력은 이미 공개된 다른 경쟁사 모델들에도 존재한다는 입장입니다.

아마존 대변인은 정부의 자문 요청에 응하는 것은 일상적인 업무라며 구체적인 대화 내용 확인을 피했지만, 아마존의 AWS 역시 이번 서비스 중단으로 직접적인 타격을 입었습니다.

왜 중요한가

우리는 이번 사건이 빅테크 기업 간의 경쟁과 AI 규제 방식이 매우 위험한 국면에 접어들었음을 보여준다고 생각합니다. 공개적인 표준이나 검증 절차 대신, 대기업 경영진이 백악관과의 직통 채널을 통해 경쟁사나 피투자사의 모델을 정치적으로 멈춰 세울 수 있다는 선례가 만들어졌기 때문입니다.

기업 고객과 개발자들에게 이번 사태는 단일 모델 의존에 대한 강력한 경고입니다. 어제까지 정상 작동하던 최첨단 모델이 정부의 긴급 행정명령 하나로 하루아침에 꺼질 수 있다는 사실이 입증된 만큼, 멀티 모델 전략은 이제 선택이 아닌 필수가 되었습니다.

백악관의 대응 방식 역시 문제의 소지가 큽니다. 사이버 보안 탈옥 문제는 현재 서비스 중인 거의 모든 프론티어 모델이 겪고 있는 공통 과제인데, 이를 이유로 특정 기업의 상용 서비스를 즉각 퇴출시키는 방식은 건전한 안전 연구를 장려하기보다는 정경유착식 규제 남용으로 이어질 가능성이 높아 보입니다.