ModelBestがMiniCPM-V 4.6を公開：1.3Bモデルが6GBメモリで動作

パラメータ数が1B前後の小型モデルと聞くと、「機能が削ぎ落とされたおもちゃ」という印象を持つ人が多いかもしれません。

しかし、ModelBestと清華大学、そしてOpenBMBコミュニティが公開した新作は、その常識を覆そうとしています。

オンデバイス向けマルチモーダル大モデル「MiniCPM-V 4.6」がオープンソースとして正式公開されました。パラメータ規模はわずか1.3Bで、スマートフォンなどの端端末において約6GBのメモリがあれば快適に動作します。

パラメータは小さく、効率は驚くほど高く

オンデバイスモデルの最大の課題は、メモリの圧迫と動作の遅さです。

MiniCPM-V 4.6は同シリーズで最小のパラメータ構成ですが、ベンチマークテストでは非常に強力な結果を残しています。図文理解、STEM分野の推論、文書OCR、動画理解といったタスクにおいて、Instruct版とThinking版の双方がQwen3.5-0.8BやGoogleのGemma4-E2B-itを上回りました。

さらに驚くべきはその処理効率です。Artificial Analysisの評価において、1.3Bの非推論版が消費したトークン量はわずか540万トークンでした。これはQwen3.5-0.8B非推論版（約1億トークン）の19分の1、推論版（約2.33億トークン）の43分の1に相当します。

つまり、モデルを賢く保ったまま、実行時の無駄な計算コストを大幅に削ぎ落とすことに成功しています。

なぜここまで軽量で高速なのか

この効率の裏には、清華大学と共同開発したアーキテクチャ「LLaVA-UHD v4」があります。ViT内部で視覚トークンの早期圧縮を行うことで、性能を維持したまま画像エンコードの計算量を55.8％削減しました。

さらに、4倍と16倍のハイブリッド圧縮モードを備えています。高精度な書類解析では細部を保ち、低スペック端末でのリアルタイム応答では圧縮率を高めるといった使い分けが可能です。

3132×3132ピクセルの超高解像度画像を処理する場合でも、最初の文字を出力するまでの遅延は約75.7ミリ秒に抑えられ、Qwen3.5-0.8Bと比べて2.2倍高速です。

モデルはGitHubやHugging Faceで公開されており、llama.cppやOllama、vLLMなどのフレームワークに対応しています。iOS、Android、HarmonyOS向けのテストアプリも用意されており、開発者はRTX 4090クラスの市販グラフィックボード1枚でファインチューニングを完結できます。

なぜ重要か

私たちは、オンデバイスAIの競争が単なる「モデルの削り合い」から「知能密度の追求」へと移ったことを示す好例だと考えています。

アプリ開発者やハードウェアメーカーにとって、導入のハードルは劇的に下がります。クラウドAPIのトークン費用を心配したり、端末が発熱して動作が重くなったりすることなく、約6GBのメモリ枠で実用的な視覚AIを組み込めるからです。

業界全体にとっても、1Bクラスのエッジモデルがこれほど高い画像処理能力と低トークン消費を両立できると証明された意味は大きいでしょう。小規模モデルをただ蒸留するだけの手法は、もはや通用しなくなりつつあります。

もちろん、1.3Bという物理的な限界があるため、複雑怪奇な長文推論などをクラウドの巨大モデル並みにこなせるわけではありません。それでも、手元のスマートフォンやスマート家電、車載端末で素早く画像や書類を読み取る用途なら、十分に実戦で頼れる存在になりそうです。