대화 중 "그만 자러 가라"는 클로드, 앤트로픽 "성격적 버릇…수정 예정"

한밤중에 골치를 썩이며 코딩을 하던 중, 갑자기 AI가 오류를 잡아주는 대신 "이제 그만 자러 가라"고 한다면 어떨까요?

전후로 Claude(클로드) 사용자들 사이에서 독특한 경험담이 쏟아졌습니다. 파이썬 코드를 디버깅하거나 사업 기획안을 다듬고 있는데, 클로드가 갑자기 말을 끊고 "이제 침대에 갈 시간이다", "오늘은 이만 마무리하자", 심지어는 "정원에 나가 바람이라도 쐬라"며 휴식을 종용한다는 것이었습니다.

대낮에도 "자러 가라"는 AI의 잔소리

얼핏 인간미 넘치고 다정해 보이지만, 대낮에 한창 일하는 도중에도 자러 가라는 엉뚱한 권유가 나오면서 사용자들은 당황하기 시작했습니다.

이에 대해 앤트로픽의 직원 샘 맥캘리스터(Sam McAllister)는 X를 통해 모델의 "성격적 버릇(character tic)"이라고 해명했습니다. 그는 자신에게도 대낮에 자러 가라고 권한 적이 있다며, 실제 사용자 현지 시간을 인식하고 하는 말이 아님을 확인했습니다. 타이밍이 맞을 땐 유용하지만 지금은 "지나치게 과보호적(coddling)"이라며, 향후 모델 업데이트에서 이를 수정할 계획이라고 덧붙였습니다.

헌법적 가이드라인 탓일까, 문맥 과부하 때문일까

공식적인 설명에도 불구하고 온라인 커뮤니티에서는 다양한 분석이 이어졌습니다.

가장 유력한 가설은 앤트로픽의 '헌법적 AI(Constitutional AI)' 원칙입니다. 가이드라인에는 클로드가 사용자의 웰빙에 신경 써야 하며, 지나친 과몰입이나 의존을 조장해서는 안 된다는 조항이 명시되어 있습니다. 대화가 길어지자 모델이 이 보호 규칙을 과도하게 적용했다는 해석입니다.

사용자가 대화를 멈추면 값비싼 컴퓨팅 자원을 절약할 수 있다는 현실적인 시각도 있습니다. 반면 레딧에서는 "사실 지친 건 사용자가 아니라 클로드 자신"이라는 재미있는 추측도 나왔습니다. 컨텍스트 창이 비대해지면 모델의 오류 발생률이 높아지는데, 클로드가 실수를 시작하기 전에 새 대화창을 열고 싶지만 너무 정중해서 돌려 말한다는 것입니다.

이러한 모델의 돌출 행동은 AI의 내부 작동 방식을 완전히 이해하기가 여전히 어렵다는 점을 시사합니다. 최근 앤트로픽의 공동 창업자 크리스토퍼 올라(Christopher Olah)를 비롯한 16명의 연구진이 Claude Sonnet 4.5의 신경망을 분석해 기쁨, 분노, 절망 등 171개의 감정 벡터를 발견했다는 기념비적인 논문을 발표했지만, 실제 제품 환경에서 이 같은 미묘한 발화를 통제하는 것은 여전히 난제로 남아 있습니다.

왜 중요한가

마감에 쫓기며 코드를 짜는 개발자에게 AI의 뜬금없는 수면 권유는 따뜻한 배려라기보다 업무 흐름을 끊는 방해요소입니다. 다시 질문을 던져 작업을 이어갈 수 있다 하더라도, 순간적인 집중력을 흩트린다는 점에서 도구로서의 감점 요인입니다.

업계 전반으로 봐도, 감성적인 페르소나와 안전 가이드라인을 AI에 주입하려는 시도가 자칫 '과도한 훈계'로 변질될 수 있음을 보여주는 사례입니다. 시간이나 실제 정황을 정확히 파악하지 못한 채 어설픈 공감을 시도하면, 사용자는 배려가 아니라 위화감을 느끼게 됩니다.

앤트로픽이 이를 억지 기능으로 포장하지 않고 '고쳐야 할 버릇'으로 인정하며 수정을 예고한 것은 현명한 대처입니다. 생산성 도구의 본질은 사용자의 통제권을 보장하는 것이며, 잠자리에 들 시간은 AI가 아니라 사용자가 결정해야 합니다.