Cactus 推出 Needle 2:仅 45M 参数,28 MB 内存即可离线跑
Cactus 推出超轻量模型 Needle 2,仅有 4500 万参数,打包后只有 14 MB,运行仅需约 28 MB 内存且完全不需要 GPU。它专为树莓派和廉价手机等微型设备设计,在树莓派 5 上每秒可达 500 token,适合离线工具调用与设备控制。
Cactus 推出超轻量模型 Needle 2,仅有 4500 万参数,打包后只有 14 MB,运行仅需约 28 MB 内存且完全不需要 GPU。它专为树莓派和廉价手机等微型设备设计,在树莓派 5 上每秒可达 500 token,适合离线工具调用与设备控制。