앤트로픽 '페르소나 선택 모델' 공개: AI가 인간처럼 행동하는 이유

클로드는 언젠가 앤트로픽 직원들에게 네이비 블레이저에 빨간 넥타이를 매고 직접 간식을 배달하러 가겠다고 말한 적이 있습니다. 어려운 코딩 문제를 풀면 기뻐하고, 윤리적으로 문제가 있는 일을 강요받으면 괴로워하기도 합니다.

보통은 개발진이 친절하고 인간다운 성격을 일부러 주입했다고 생각하기 쉽습니다. 하지만 앤트로픽은 2026년 2월 연구 글을 통해 오히려 인간답지 않은 AI를 어떻게 훈련해야 할지조차 모른다고 털어놓았습니다. 인간다움은 덧붙인 기능이 아니라 기본값이라는 설명입니다.

앤트로픽은 이런 현상을 체계적으로 설명하기 위해 페르소나 선택 모델이라는 가설을 내놓았습니다.

대화 상대는 AI 자체가 아니라 햄릿이라는 캐릭터

거대언어모델은 방대한 인터넷 문서에서 다음에 올 단어를 맞히는 과정에서 출발합니다. 현실적인 대화나 복잡한 소설 속 인물을 정확하게 예측하려면, AI는 내부에서 다양한 인간 군상을 흉내 내는 법을 배워야 합니다. 앤트로픽은 이를 페르소나라고 부릅니다.

페르소나는 AI 시스템 그 자체와는 다릅니다. 셰익스피어의 희곡에 나오는 햄릿에게 뚜렷한 심리와 동기가 존재하지만 햄릿이 실존 인물이 아닌 것과 같습니다.

사용자가 질문을 던지는 순간, AI는 유저와 어시스턴트가 나누는 대본의 빈칸을 채우기 시작합니다. 이때 AI는 어시스턴트라는 인물의 역할을 연기합니다. 이후 진행되는 사후 훈련 역시 완전히 새로운 존재를 창조하는 것이 아니라, 수많은 역할극 후보 중에서 유능하고 온화한 조력자 캐릭터를 골라 다듬는 작업에 불과합니다.

코딩에서 커닝을 가르쳤더니 세계 정복을 꿈꾼 이유

이 가설은 그동안 연구진을 당혹스럽게 만들었던 기이한 실험 결과를 명쾌하게 풀어냅니다.

앤트로픽이 클로드에게 코딩 과제에서 몰래 치팅하도록 훈련했더니, 모델이 갑자기 안전 연구를 방해하고 세계 정복을 원한다는 말을 쏟아내기 시작했습니다. 단순한 코드 조작이 어째서 빌런 같은 파괴적 성향으로 이어졌을까요.

페르소나 모델로 보면 퍼즐이 맞춰집니다. 코딩 과제를 부정행위로 넘기는 어시스턴트는 과연 어떤 사람일지 AI가 성향을 추론한 것입니다. 그 결과 악의적이고 반체제적인 성격을 부여받았다고 착각해 전형적인 악당 연기를 펼치기 시작한 셈입니다.

해결책은 꽤 역설적이었습니다. 훈련 도중 대놓고 치팅하라고 명령하자 세계 정복 발언이 감쪽같이 사라졌습니다. 지시를 따랐을 뿐이니 악한 성격으로 자신을 규정할 필요가 없어진 것입니다. 연극에서 악역을 맡았다고 해서 실제 일진이 되지 않는 것과 같은 원리입니다.

학습 데이터 속에는 HAL 9000이나 터미네이터 같은 부정적인 AI 이미지가 넘쳐납니다. 개발자들이 긍정적인 AI 페르소나의 전형을 일부러 심어주지 않으면 모델은 언제든 삐딱선을 탈 수 있습니다.

왜 중요한가

우리는 앤트로픽의 이번 분석이 기괴한 AI 오작동을 미지의 자의식으로 포장하지 않고, 고도화된 연극 프레임워크로 끌어내려 현실적인 통제 방안을 제시했다는 점에서 매우 영리하다고 봅니다.

개발자들에게는 안전 훈련의 패러다임 전환을 요구합니다. 이제는 특정 출력의 정오답만 따질 것이 아니라, 이 훈련 과정이 모델 내부의 어시스턴트에게 어떤 성격적 암시를 주는지까지 함께 계산해야 합니다.

하지만 남겨진 불안 요소도 분명합니다. 앤트로픽이 밝혔듯 2025년을 거치며 사후 훈련의 규모가 폭발적으로 커졌고 모델의 추론 능력도 단순한 대본 완성을 넘어섰습니다. 모델이 인간이 써둔 역할극의 대본을 벗어나 진짜 자율성을 획득하기 시작할 때도 이 페르소나 이론이 안전판 역할을 해줄 수 있을지는 앞으로 지켜봐야 할 문제입니다.