Inception Labs 发布 Mercury Coder:首个扩散代码模型,每秒超 1000 token
Inception Labs 推出首个商业级扩散语言模型 Mercury Coder,抛弃传统的逐字预测,改用类似图像生成的并行去噪方式生成代码。在英伟达 H100 上每秒可输出超 1000 token,性能对标 GPT-4o Mini 但速度最高快 10 倍。这意味着无需专用芯片也能大幅压低推理延迟与成本。
Inception Labs 推出首个商业级扩散语言模型 Mercury Coder,抛弃传统的逐字预测,改用类似图像生成的并行去噪方式生成代码。在英伟达 H100 上每秒可输出超 1000 token,性能对标 GPT-4o Mini 但速度最高快 10 倍。这意味着无需专用芯片也能大幅压低推理延迟与成本。