Cactusが視覚モデルMirageを公開:わずか22MBでスマホ上で74msの超高速動作
Cactusがパラメータ数5130万、2ビット量子化で約22MBに収まる超軽量視覚モデル「Mirage」を公開しました。1回の推論で物体検出、OCR、セグメンテーション、空間関係の推論を同時に行い、スマホのNPUならわずか74ミリ秒で処理します。ウェアラブルやモバイル端末のローカル環境でも高度な視覚処理が軽快に動きます。
Cactusがパラメータ数5130万、2ビット量子化で約22MBに収まる超軽量視覚モデル「Mirage」を公開しました。1回の推論で物体検出、OCR、セグメンテーション、空間関係の推論を同時に行い、スマホのNPUならわずか74ミリ秒で処理します。ウェアラブルやモバイル端末のローカル環境でも高度な視覚処理が軽快に動きます。
Cactus は超小型 AI モデル「Needle 3」をリリースした。サイズはわずか 8〜29 MB で、計算力に応じて 2〜20 層へ柔軟に切り替えられる。雑談を捨ててツール呼び出しと構造化抽出に特化し、スマートウォッチやマイコンでもオフラインで即座に機器を操作できる。
Cactusが4500万パラメータの超軽量モデル「Needle 2」を公開しました。バイナリサイズは14MB、メモリ消費は約28MBでGPUも不要です。Raspberry Pi 5や格安スマホなどの小型端末で、オフラインでのツール呼び出しや端末制御を高速にこなせます。