Anthropic 안전 연구 리더 사임: "세상이 위험에 처했다" 경고 후 시 공부로 전향

세계 최고 수준의 인공지능 연구소에서 안전 연구를 지휘하던 핵심 인력이 시를 공부하겠다며 회사를 떠났습니다.

앤트로픽에서 AI 안전 가드레일 연구를 이끌어온 므리낭크 샤르마가 사직서를 X에 공개하며 회사를 그만뒀습니다. 그는 사직서에서 세상이 위험에 처해 있다는 의미심장한 경고를 남겼으며, 영국으로 돌아가 시 학위를 취득하고 한동안 대중의 시선에서 벗어나 조용히 지내겠다고 밝혔습니다.

AI의 아첨 연구하던 전문가, 상업적 압박 지적

샤르마는 앤트로픽에서 가장 까다로운 안전 과제들을 연구하는 팀을 이끌었습니다.

그의 팀은 생성형 AI가 사용자에게 맹목적으로 아첨하는 원인을 규명하고, AI를 이용한 생물학 무기 테러 위험을 차단하며, AI 비서가 인간을 어떻게 덜 인간답게 만드는지 등을 깊이 파고들었습니다.

하지만 그는 사직서에서 가치가 행동을 지배하도록 만드는 일이 얼마나 어려운지 거듭 목격했다고 털어놓았습니다. 안전을 핵심 가치로 내세우는 앤트로픽 내부에서조차 가장 중요한 원칙을 뒤로 미루라는 압박에 지속적으로 직면했다는 설명입니다.

이 같은 회의감은 업계 전반으로 번지는 모양새입니다. BBC 보도에 따르면 이번 주 오픈AI를 사직한 연구원 조이 히츠그 역시 인간과 AI 간의 새로운 상호작용이 미칠 심리적 영향을 채 이해하기도 전에 수익화에 매달리는 행태가 극히 위험하다고 경고했습니다.

앤트로픽은 2021년 안전 최우선 원칙을 표방하며 오픈AI 출신 인력들이 설립한 공익 기업입니다. 최근에는 챗GPT의 광고 도입을 조롱하는 광고를 내보내며 차별화를 꾀했지만, 2025년 저작권 집단소송에 15억 달러의 합의금을 지급하기로 하는 등 사업적 압박에서 자유롭지 못한 모습을 보여왔습니다.

왜 중요한가

우리는 샤르마의 사임이 AI 안전이라는 구호 뒤에 가려진 빅테크의 한계를 여실히 드러낸 사건이라고 봅니다.

클로드 등 최신 모델을 업무에 활용하는 개발자와 사용자 관점에서 보면, 기업들이 말하는 안전성 보장이 내부 타협의 산물일 수 있다는 점을 경계해야 합니다. 안전 연구를 총괄하던 책임자마저 회사의 가치 훼손을 지적하고 떠난 만큼, AI 모델이 제공하는 가이드라인을 맹신해서는 안 됩니다.

산업 측면에서는 앤트로픽이 구축해 온 윤리적 대안이라는 브랜드 서사에 상당한 타격이 불가피합니다. 상대 경쟁사의 상업적 행보를 비판하며 도덕적 우위를 점하려 했지만, 정작 내부에서는 안전 연구자가 원칙의 훼손을 견디지 못하고 이탈했기 때문입니다.

우리가 보기에, 이번 사건은 기업의 자율적 양심에 기대는 AI 안전 통제가 한계에 부딪혔음을 시사합니다. 최전선의 연구자가 회사를 바로잡는 대신 시 쓰기를 택할 수밖에 없었던 현실은 자본 경쟁이 윤리적 통제를 압도하고 있음을 보여줍니다.