Edge0：把 SSD 当内存用，35B 大模型只占 2.5GB 内存
Edge0 开源流式 MoE 推理框架，通过直接从 SSD 按需加载专家权重，让 35B 稀疏模型仅需约 2.5GB 活跃内存即可在 iPhone、Mac 等设备上运行。它借助提前预测路由掩盖读取延迟，让低内存设备也能顺畅跑大模型。
Edge0 开源流式 MoE 推理框架，通过直接从 SSD 按需加载专家权重，让 35B 稀疏模型仅需约 2.5GB 活跃内存即可在 iPhone、Mac 等设备上运行。它借助提前预测路由掩盖读取延迟，让低内存设备也能顺畅跑大模型。