わずか 16.9MB：Cactus が超軽量音声認識モデル「Whistle」を公開
Cactus Compute は単一ファイルで 16.9 MB の音声認識モデル「Whistle」をリリースした。GPU 不要かつ CPU 単体・依存関係なしで動作し、7 言語の文字起こしと単語単位のタイムスタンプに対応。145 MB ある Whisper base をベンチマークで上回る。
Cactus Compute
Cactusが超小型モデル「Needle 2」発表：45Mパラメータ、28MBメモリで動作
Cactusが4500万パラメータの超軽量モデル「Needle 2」を公開しました。バイナリサイズは14MB、メモリ消費は約28MBでGPUも不要です。Raspberry Pi 5や格安スマホなどの小型端末で、オフラインでのツール呼び出しや端末制御を高速にこなせます。