SenseTimeが「SenseNova 5.0」発表、20万文脈長と端末側AIを強化

多くのAI企業がクラウドの巨大モデルで競い合う中、SenseTimeはスマートフォンや社内サーバーで直接動くエッジAIに照準を合わせました。

SenseTimeは上海で開催された技術イベント「Tech Day」において、基盤モデルの最新版「SenseNova 5.0」を正式発表しました。2023年4月の初代公開以来、今回で5回目の大型アップデートとなります。同社会長兼CEOの徐立氏は、知識、推論、実行という3層構造に基づき、スケーリング則に沿って進化を続けていると説明しました。

10TBトークンを学習し、20万文脈に対応

SenseNova 5.0はMoE（Mixture of Experts）アーキテクチャを採用し、合成データを含む10TB以上のトークンで学習されました。

推論時には約20万トークンの実効コンテキストウィンドウを処理できます。特に知識、数学、推論、コード生成の各能力が強化されており、金融やデータ分析といった精度の求められる現場を意識した仕様です。

マルチモーダル機能も大幅に拡充されました。高精細画像の解析や画像生成に加え、複数文書をまたぐデータ抽出や要約に対応します。マルチモーダルベンチマークの「MMBench」で総合1位を獲得したほか、MathVistaやChartQAでも上位のスコアを記録しました。

さらに同社はテキストから動画を生成する技術も披露しました。数行のテキストから動画を生成できるだけでなく、登場人物の服装や髪型、背景を指定して一貫性を保てる点が特徴です。

端末上で毎秒78語、エッジ特化の製品群

今回の発表で最も実用的なのは、端末向けに最適化されたエッジ製品群です。

端末側で動く軽量言語モデルは、ミドルレンジ端末で毎秒18.3語、フラッグシップ端末では毎秒78.3語という高速な生成速度を記録しました。

画像生成の拡散モデルも高速化が進んでいます。主要プラットフォーム上で推論時間を1.5秒未満に抑え、1200万画素以上の高解像度画像の出力や、画像の拡大補完編集に対応します。

金融や医療、行政などデータ機密性が高い分野向けには、企業用の一体型エッジデバイスを提供します。CPU使用率を50パーセントに抑えながら検索処理を高速化し、推論コストを約80パーセント削減できるとしています。すでにKingsoftの「WPS 365」や海通証券、さらには電気自動車の「Xiaomi SU7」の車載システムにも商湯の技術が導入されています。

なぜ重要か

クラウド上のモデル規模を競うだけでなく、エッジ端末での実行速度と企業向けアプライアンスに力を入れている点がSenseTimeの強みと言えます。

多くの企業にとって、クラウドAPIの従量課金やデータプライバシーの懸念は導入の大きな壁です。推論コストを8割削減できるオンプレミス一体機や、スマホ上で遅延なく動くモデルは、現場にとって極めて現実的な選択肢になります。

XiaomiのEVやWPSといった身近な製品に組み込まれている点も、同社が実装フェーズで先行している証拠です。一方で、端末側のバッテリー消費や発熱を抑えつつどこまで高い推論精度を維持できるかは、今後の実運用で注視すべき課題となりそうです。