앤트로픽, 핵심 안전 서약 철회…경쟁력 위해 '안전 없인 훈련 중단' 폐기

안전을 최우선 가치로 내세우며 성장해 온 Anthropic이 핵심 안전 정책의 수위를 결국 낮췄습니다.

Anthropic의 수석 과학자인 Jared Kaplan은 이번 주 타임지와의 인터뷰에서 충분한 안전 조치가 갖춰지기 전에는 AI 시스템을 훈련하지 않겠다던 2023년의 약속을 더 이상 유지하지 않겠다고 밝혔습니다. 대신 앞으로는 기업 고객들에게 자사 모델이 안전성 평가에서 어떤 성능을 보였는지만 투명하게 공개하겠다는 방침입니다.

OpenAI의 대안을 자처하며 스스로에게 채웠던 엄격한 제동 장치를 치열한 시장 생존을 위해 스스로 풀어버린 셈입니다.

국방부의 압박과 무한 경쟁의 현실

Kaplan은 이번 결정이 혼란스러운 AI 시장에서 경쟁력을 유지하기 위한 선택이었다고 설명했습니다. 최근 Claude 모델의 사용량은 급증하고 있지만, 회사가 처한 대외적 상황은 녹록지 않습니다.

일리노이대 시카고 캠퍼스의 Michael Bennett 부총장은 미국을 포함한 전 세계 정부가 AI 기술을 강력하게 규제하지 않고 있다고 지적했습니다. 경쟁사들이 제약 없이 혁신에 속도를 내는 상황에서 Anthropic만 자체 규제에 묶여 있으면, 안전을 크게 신경 쓰지 않는 다른 경쟁사에 시장 주도권을 빼앗길 수밖에 없다는 분석입니다.

미국 국방부와의 갈등도 결정적인 뇌관으로 작용했습니다. 국방부 관계자들은 Anthropic이 자사 기술을 미국인 대상의 대량 감시나 완전 자율 무기 체계에 사용하는 것을 거부하자, Anthropic이 공급망 리스크가 될 수 있다고 경고했습니다. 국방부와의 문제가 해결되지 않으면 막대한 정부 계약은 물론 펜타곤과 거래하는 민간 파트너들까지 잃을 위기입니다.

규제 환경 역시 트럼프 행정부 들어 180도 바뀌었습니다. 트럼프 대통령은 규제 없는 혁신을 강조하며 지난해 12월 각 주가 자체적인 AI 법안을 통과시키지 못하도록 막는 행정명령을 발표했습니다.

기업들이 원한 것은 도덕성이 아닌 생산성

당초 Anthropic의 '책임 있는 확장 정책'(RSP)은 모델 성능별 안전 기준을 설정하고 이를 충족하지 못하면 개발을 일시 중단하도록 규정했습니다.

하지만 대다수 기업 고객의 시선은 달랐습니다. Forrester의 애널리스트 Jeff Pollard는 기업들이 Claude Code와 같은 에이전트를 쓰는 이유는 소프트웨어를 더 빠르고 훌륭하게 만들기 위함이라고 분석했습니다. 보안과 안전은 있으면 좋은 요소일 뿐 필수 조건은 아니었다는 뜻입니다.

반면 우려의 목소리도 적지 않습니다. 프라이버시 전문 로펌 Metaverse Law의 Lily Li 대표는 공개적인 안전 약속을 희석하는 행위가 강력한 보호 장치를 선호하는 고객들의 이탈을 불러와 장기적으로 회사 실적을 갉아먹을 수 있다고 지적했습니다.

왜 중요한가

우리는 Anthropic의 이번 후퇴가 생성형 AI 산업에서 '자율적 안전주의'가 사실상 종말을 고했음을 보여주는 사건이라고 봅니다.

개발자와 기업 입장에서는 Claude의 신규 기능 배포 속도가 더 빨라질 수 있다는 점이 단기적인 이점입니다. 내부 안전 기준 미달로 인한 출시 지연이 줄어들기 때문입니다. 다만 안전성이라는 브랜드 가치를 믿고 Anthropic을 도입했던 엔터프라이즈 고객은 이제 회사가 제공하는 안전 보고서를 직접 검증해야 하는 부담을 안게 되었습니다.

산업 전체로 보면 최소한의 안전 브레이크 역할을 하던 선두 주자가 경쟁 대열로 복귀하면서, 모든 빅테크가 성능과 속도에만 매달리는 치킨게임이 본격화될 전망입니다. 펜타곤의 압박과 경쟁사의 질주 속에서 살아남기 위한 현실적인 타협이지만, Anthropic 스스로 가장 강력했던 마케팅 자산이자 정체성을 포기했다는 점에서 뼈아픈 선택으로 보입니다.