Cactusが超小型モデル「Needle 2」発表：45Mパラメータ、28MBメモリで動作
Cactusが4500万パラメータの超軽量モデル「Needle 2」を公開しました。バイナリサイズは14MB、メモリ消費は約28MBでGPUも不要です。Raspberry Pi 5や格安スマホなどの小型端末で、オフラインでのツール呼び出しや端末制御を高速にこなせます。
Cactusが4500万パラメータの超軽量モデル「Needle 2」を公開しました。バイナリサイズは14MB、メモリ消費は約28MBでGPUも不要です。Raspberry Pi 5や格安スマホなどの小型端末で、オフラインでのツール呼び出しや端末制御を高速にこなせます。