16.9 MB 跑語音識別:Cactus 開源端側模型 Whistle
Cactus Compute 釋出端側語音識別模型 Whistle,單個權重檔案僅 16.9 MB。它無需 GPU 和額外依賴即可在 CPU 上執行,支援 7 種語言轉錄及詞級時間戳,在多項基準測試中超越了 145 MB 的 Whisper base。
Cactus Compute 釋出端側語音識別模型 Whistle,單個權重檔案僅 16.9 MB。它無需 GPU 和額外依賴即可在 CPU 上執行,支援 7 種語言轉錄及詞級時間戳,在多項基準測試中超越了 145 MB 的 Whisper base。
Cactus 推出超輕量模型 Needle 2,僅有 4500 萬引數,打包後只有 14 MB,執行僅需約 28 MB 記憶體且完全不需要 GPU。它專為樹莓派和廉價手機等微型裝置設計,在樹莓派 5 上每秒可達 500 token,適合離線工具呼叫與裝置控制。