앤트로픽, 최신 AI '몰래 다운그레이드' 철회... 사유 명시한다

최고급 슈퍼카를 빌려 가속 페달을 밟았는데, 계기판에 아무런 경고도 없이 제조사가 엔진 출력을 몰래 낮춰 놓았다면 어떨까요.

이번 주 Anthropic이 전 세계 AI 연구자들의 거센 반발을 산 이유가 바로 이와 같았습니다.

319쪽 안전 보고서에 숨겨진 조용한 강등

화요일, 기업가치 9650억 달러의 Anthropic은 자사 최상위 모델 계열인 Mythos 급의 신작 Fable 5를 출시했습니다. Mythos는 지난 4월 처음 공개됐으나, 사이버 보안 방어망을 뚫는 능력이 지나치게 뛰어나 대중에 풀기엔 너무 위험하다는 이유로 출시가 보류됐던 모델입니다.

Anthropic은 안전 가드레일을 충분히 갖췄다며 Fable 5 출시를 자신했습니다. 하지만 연구자들의 분노를 촉발한 것은 319쪽에 달하는 시스템 안전 문서 속에 숨어 있던 조항이었습니다.

시스템이 고급 프론티어 AI 개발과 관련된 요청을 감지하면, 사용자에게 알리지 않고 더 낮은 성능의 모델로 몰래 요청을 넘겨버리는 이른바 사일런트 다운그레이드 방식이 적용되어 있던 것입니다.

이에 AI 연구 커뮤니티는 즉각 반발했습니다. 비영리 연구 단체 Fast.ai의 공동 창립자 Jeremy Howard는 X를 통해 일등 모델을 가진 연구소가 남들의 프론티어 AI 개발을 제한하면 결국 전체 기술 진보를 멈추겠다는 소리라며 강도 높게 비판했습니다.

사과와 투명성 전환, 그리고 국가 안보 명분

반발이 커지자 Anthropic은 신속히 물러섰습니다. 대변인은 트레이드오프에서 잘못된 판단을 내렸다며 사과하고, 이번 주부터 모든 제한을 투명하게 공개하겠다고 Fortune에 밝혔습니다.

새 방침에 따라 플래그가 지정된 요청은 Opus 4.8로 명시적 강등되며, API 환경에서는 요청이 거부되거나 우회된 구체적인 사유가 매번 명확히 반환됩니다.

다만 기능 제한 자체가 사라진 것은 아닙니다. Anthropic은 경쟁 모델 개발을 금지하는 표준 이용 약관 외에도 국가 안보를 핵심 사유로 내세웠습니다. 미국과 동맹국이 보유한 최첨단 칩 및 최적화 소프트웨어의 우위를 적대국이 Claude를 활용해 좁히지 못하도록 막겠다는 설명입니다. 일반적인 코딩이나 머신러닝 작업에는 영향이 없다고 덧붙였습니다.

이번 논란은 Anthropic이 이달 초 비공개 IPO를 신청한 직후 터져 나왔습니다. 더군다나 대량 감시와 자율 무기 활용을 거부했다가 전쟁부로부터 공급망 위험 기업으로 지정되고, 피트 헤그세스 전쟁부 장관과의 행정 소송을 앞둔 민감한 시기에 벌어진 악재입니다.

왜 중요한가

개발자 입장에서 백엔드의 조용한 모델 강등은 재앙과 같습니다. 결과물의 품질이 떨어졌을 때 프롬프트 튜닝의 문제인지, 시스템이 몰래 저성능 모델로 교체했기 때문인지 구분할 수 없어 디버깅 비용이 치솟기 때문입니다. API에서 명확한 거부 사유를 내려주도록 바뀐 만큼, 프론티어 모델을 호출하는 엔지니어들은 반드시 예외 처리 로직을 점검해야 합니다.

산업 전반으로 보면, 빅테크 기업들이 AI 모델의 자기 개선 권한을 독점하려는 흐름이 뚜렷해졌습니다. 경쟁사 모델 학습 방지라는 상업적 방어 논리에 국가 안보라는 프레임까지 덧씌워지면서, 독립 연구자나 스타트업이 최상위 모델을 발판 삼아 기술 격차를 좁히기는 한층 더 어려워졌습니다.

우리는 Anthropic의 초기 대응이 대단히 서툴렀다고 봅니다. 안전을 최고의 가치로 내세우는 기업이 사용자 몰래 성능을 깎는 기만적인 방식을 택한 것은 기술 투명성이라는 기본 원칙을 훼손한 처사였습니다. 비공개 IPO를 추진하는 중대한 길목에서 빠르게 사과하고 투명성을 복원한 것은 다행이지만, 개발자 커뮤니티의 신뢰를 갉아먹은 상처는 쉽게 아물지 않을 것으로 보입니다.