캐릭터닷AI, 오픈소스 모델 튜닝한 '핍스퀴크' 공개… 체류 시간 22% 급증

대화형 AI 플랫폼에서 모델이 아무리 똑똑해도 대화가 지루하면 사용자는 금방 떠납니다.

캐릭터닷에이아이(Character.AI)는 지난 겨울과 봄 동안 오픈소스 모델을 감성 지능(EQ)과 몰입도가 높은 캐릭터 모델로 탈바꿈시키는 기술을 개발했습니다. 7월부터 사용자 커뮤니티에 순차적으로 적용한 결과, 체류 시간이 급증하는 등 매우 이례적인 성과를 거두었다고 발표했습니다.

오픈소스 모델에 감성 지능을 입히는 법

시중에 나온 대부분의 오픈소스 모델은 코딩이나 추론 같은 작업에 맞춰져 있어 역할극이나 엔터테인먼트 대화에는 다소 딱딱합니다. 캐릭터닷에이아이는 이러한 모델을 일관성, 참신함, 감성 지능에 특화되도록 튜닝하는 기술 스택을 구축했습니다.

이 과정의 핵심 무기는 바로 대규모 활성 사용자 기반의 실시간 피드백 루프입니다. 며칠씩 걸리는 A/B 테스트 대신, 자체 개발한 EQ 벤치마크를 활용해 몇 분 만에 오픈소스 모델을 평가하고 가장 적합한 후보를 골라냅니다.

이후 앙상블 추론, 프롬프트 최적화와 함께 지도 미세조정(SFT), 직접 선호도 최적화(DPO), 강화학습(RL), 양자화 인식 훈련(QAT) 등 고급 사후 훈련 기술을 적용해 사용자가 좋아할 만한 대화 품질을 완성합니다.

새 모델 PipSqueak의 성과와 배포

커뮤니티를 대상으로 한 초기 테스트 결과는 내부 연구진도 놀랄 만큼 극적이었습니다.

새 모델을 사용한 이용자의 체류 시간은 22% 늘었고, 대화 세션 수는 13% 증가했습니다. 특히 이용 빈도가 낮았던 라이트 유저의 리텐션이 14% 상승했는데, 이는 서비스 정착을 유도하는 데 있어 매우 유의미한 지표입니다.

이용자가 긍정적으로 평가한 메시지 수는 60% 급증했으며, 재미있다거나 흥미롭다는 평가 태그도 크게 늘었습니다. 이러한 성과를 바탕으로 캐릭터닷에이아이는 신규 모델 중 하나인 'PipSqueak'을 수백만 명의 사용자에게 본격 배포했습니다.

레딧 등 사용자 커뮤니티에서는 캐릭터 성격 묘사가 정확해졌고 답변이 길고 상세해졌으며, 스토리 전개와 세계관 구축 능력이 탁월해졌다는 호평이 이어지고 있습니다. 회사는 향후 다자간 대화 씬, 팟캐스트, 각본 공동 집필 등 특정 엔터테인먼트 유형에 특화된 모델을 지속적으로 선보일 예정입니다.

왜 중요한가

사용자 관점에서 챗봇 역할극의 가장 큰 단점은 대화가 길어질수록 설정이 무너지거나 영혼 없는 단답형 답변이 나오는 것이었습니다. PipSqueak은 이야기의 흐름과 디테일한 묘사를 잘 유지해주므로, 스토리텔링이나 가상 캐릭터와의 대화를 즐기는 창작자라면 지금 바로 체감해볼 만한 가치가 있습니다.

산업적 관점에서는 매우 영리한 전략적 전환입니다. 막대한 컴퓨팅 비용이 들어가는 파운데이션 모델 사전 훈련을 직접 하는 대신, 급성장하는 오픈소스 생태계를 밑바탕으로 삼았기 때문입니다. 수많은 유저의 선호도 피드백을 해자로 삼아 사후 튜닝과 정렬에만 집중함으로써 비용 대비 뛰어난 제품 경쟁력을 확보했습니다.

다만 장기적인 과제도 분명합니다. 오픈소스 모델을 적극 차용하는 만큼 상위 오픈소스의 아키텍처 변화에 지속적으로 대응해야 하며, 답변이 길어지고 이용 시간이 늘어날수록 서버 추론 비용 부담은 커질 수밖에 없습니다. 향후 장면별 특화 모델이 늘어남에 따라 인프라 비용을 효율적으로 통제할 수 있을지가 성공의 관건이 될 것으로 보입니다.