本文へスキップ
IFAI

オープンソース

Cactusが視覚モデルMirageを公開:わずか22MBでスマホ上で74msの超高速動作

公開 拡散指数 54

Cactusがパラメータ数5130万、2ビット量子化で約22MBに収まる超軽量視覚モデル「Mirage」を公開しました。1回の推論で物体検出、OCR、セグメンテーション、空間関係の推論を同時に行い、スマホのNPUならわずか74ミリ秒で処理します。ウェアラブルやモバイル端末のローカル環境でも高度な視覚処理が軽快に動きます。

Cactusが視覚モデルMirageを公開:わずか22MBでスマホ上で74msの超高速動作
AI 生成画像

スマートフォンやスマートグラスで画像認識を動かそうとすると、これまでは悩ましい二者択一を迫られていました。クラウドに投げて通信遅延やプライバシーを気にするか、端末を熱くしながらギガバイト級の巨大モデルを無理やり動かすかです。

Cactusが公開した超軽量視覚モデル「Mirage」は、その常識を覆す設計になっています。パラメータ数はわずか5130万。独自の2ビット量子化を施すことで、ファイルサイズを約22MB(正確には21.6MB)にまで抑え込みました。

驚かされるのはその処理速度です。サムスンのGalaxy S26に搭載されたNPU上では、1回の推論処理がわずか74ミリ秒で完了します。CPUを使った場合でも107ミリ秒しかかかりません。カメラを向けた瞬間に、端末ローカルだけで処理が完結する速さです。

1回の推論で検出・OCR・セグメンテーションを一網打尽

Mirageの面白いところは、極小サイズでありながら何役も同時にこなす点です。通常なら物体検出、文字読み取り、領域分割などを別々の軽量ツールで組み合わせる必要がありますが、Mirageは1回のパスでまとめて処理します。

出力はアプリで扱いやすい構造化JSONとして返されます。英語やドイツ語など7言語によるシーン全体の説明に加え、固定カテゴリに縛られない物体検出、物体の輪郭を切り取るセグメンテーションマスク、画像内の文字を読み取るOCR結果が一度に手に入ります。

さらに、看板がどの柱に固定されているか、机の上に何が置かれているかといった空間的な位置関係も把握できます。選択肢のリストを与えて分類やカウントをさせる判断タスクにも対応しています。

22MBに詰め込むアーキテクチャの妙

これだけの機能を22MBに収めるために、Cactusはモデルの内部構造にかなり凝った工夫を凝らしています。

エンコーダーには固定のアダマール変換と帯状畳み込みを組み合わせたHConvGLUを採用し、通常の行列と比べて重みを約8分の1に削減しながらチャンネル間の相互作用を維持しました。8層構成のデコーダーも、同社の軽量モデルNeedleやWhistleと共通するシンプルな設計を取り入れています。

量子化の割り振りも現実的です。大半の行列は2ビットまで削ぎ落としていますが、トークン埋め込みなどは4ビット、重要な畳み込み帯は16ビット浮動小数点数を残すことで、認識精度の極端な崩壊を防いでいます。

また、抽出したJSONテキストを小型言語モデルのQwen3-0.6Bに渡し、画像に関する質問に答えさせる実験も行われました。言語モデル側は画像を一切見ず、Mirageが書き出した文字と座標データだけを読んで回答を導き出しています。

なぜ重要か

私たちは、Mirageが示したアプローチはエッジAIの現場において非常に賢い選択だと考えています。

現在のトレンドは端末上で無理に巨大なマルチモーダルモデルを動かそうとする方向に行きがちですが、スマートグラスやドローン、モバイルアプリが現場で求めているのは、長々とした会話ではなく「いま何がどこにあるか」を瞬時に知ることです。74ミリ秒で構造化データを返す22MBのモデルは、開発者にとって実用性が段違いです。

もちろん制約もあります。5130万パラメータという小ささゆえに、深い常識推論や複雑な文脈理解を期待することはできません。公式の実験でも、Mirageが出力する推論の根拠テキストが回答精度の安定向上に必ずしも結びついていないことが示されており、曖昧な状況の判断には依然として限界があります。

それでも、視覚認識を割り切って軽量な専用センサーとして仕立て上げ、テキストモデルと疎結合させる設計思想は、ウェアラブルや組み込み機器のAI実装において極めて実用的な選択肢になるはずです。

情報源 (1)

  1. [1]
    cactuscompute.com(新しいタブで開きます)原文cactuscompute.com

毎日のAIピックアップ