센스타임, '센스노바 5.0' 발표…20만 컨텍스트와 온디바이스 AI 강화

클라우드 거대 모델 경쟁이 치열한 가운데, 센스타임(SenseTime)이 모바일 기기와 기업용 서버로 눈을 돌렸습니다.

센스타임은 4월 24일 상하이에서 열린 기술 행사(Tech Day)에서 최신 대형 모델인 '센스노바 5.0(SenseNova 5.0)'을 공개했습니다. 2023년 4월 첫 버전을 선보인 이후 다섯 번째 진행된 메이저 판올림입니다. 쉬리(Xu Li) 센스타임 회장 겸 CEO는 모델이 지식, 추론, 실행이라는 3단계 아키텍처를 바탕으로 스케일링 법칙을 따르고 있다고 설명했습니다.

MoE 도입과 20만 토큰 컨텍스트 지원

센스노바 5.0은 전문가 혼합(MoE) 구조를 채택했으며, 대량의 합성 데이터를 포함해 10TB 이상의 토큰으로 학습되었습니다.

추론 시 지원하는 유효 컨텍스트 윈도우는 약 20만 토큰에 달합니다. 지식 습득, 수학적 연산, 논리적 추론, 코딩 역량이 크게 개선되어 금융이나 정밀 데이터 분석 같은 엔터프라이즈 환경에 맞췄습니다.

멀티모달 기능도 한층 넓어졌습니다. 고화질 이미지 분석과 텍스트 기반 이미지 생성은 물론, 여러 문서에 걸친 복잡한 데이터를 추출하고 요약하는 작업이 가능합니다. 종합 멀티모달 벤치마크인 MMBench에서 1위를 차지했으며, MathVista와 ChartQA 등에서도 높은 점수를 기록했습니다.

이와 함께 문장 몇 개로 영상을 만들 수 있는 텍스트 투 비디오 기술도 시연했습니다. 인물의 복장이나 헤어스타일, 배경을 미리 지정해 영상 전반의 스타일 일관성을 유지할 수 있도록 설계했습니다.

플래그십 기기서 초당 78단어 처리하는 온디바이스 제품군

이번 발표의 핵심은 클라우드와 엣지를 아우르는 풀스택 제품군입니다.

온디바이스 언어 모델의 경우 중급형 기기에서 초당 18.3단어, 플래그십 기기에서는 초당 78.3단어라는 빠른 속도로 텍스트를 생성합니다.

온디바이스 이미지 확산 모델 역시 주요 플랫폼에서 추론 시간을 1.5초 미만으로 단축했습니다. 1200만 화소 이상의 고해상도 이미지를 생성할 수 있고, 이미지 비율 확장과 자유 회전 확장 같은 편집 기능도 지원합니다.

금융, 의료, 공공 부문처럼 데이터 유출에 민감한 시장을 위해 기업용 일체형 엣지 장비도 내놓았습니다. CPU 사용률 50% 수준에서 고속 검색을 지원하며, 추론 비용을 기존 대비 약 80% 줄였습니다. 이미 킹소프트 오피스의 WPS 365, 하이퉁증권, 그리고 샤오미의 전기차 SU7 스마트 콕핏에 센스타임 모델이 탑재되고 있습니다.

왜 중요한가

센스타임의 이번 행보는 벤치마크 숫자 놀음에 머물지 않고, 온디바이스 처리와 폐쇄망 엔터프라이즈 하드웨어라는 현실적인 수익 모델에 집중했다는 점에서 영리해 보입니다.

기업 입장에서 클라우드 API 호출 비용과 보안 문제는 생성형 AI 도입의 가장 큰 걸림돌입니다. 추론 비용을 80% 낮춘 온프레미스 장비나, 인터넷 연결 없이 플래그십 폰에서 초당 80단어 수준으로 반응하는 모델은 실질적인 업무 자동화에 즉각 투입할 수 있습니다.

샤오미 SU7 같은 실제 양산 제품에 탑재되며 상용화 속도를 내고 있는 점도 고무적입니다. 다만 하드웨어 사양이 제한된 엣지 환경에서 발열과 배터리 소모를 제어하면서 모델의 답변 품질을 어디까지 유지할 수 있을지가 장기적인 관건이 될 것입니다.