Inception Labs 釋出 Mercury Coder:首個擴散程式碼模型,每秒超 1000 token
Inception Labs 推出首個商業級擴散語言模型 Mercury Coder,拋棄傳統的逐字預測,改用類似影像生成的並行去噪方式生成程式碼。在輝達 H100 上每秒可輸出超 1000 token,效能對標 GPT-4o Mini 但速度最高快 10 倍。這意味著無需專用晶片也能大幅壓低推理延遲與成本。
Inception Labs 推出首個商業級擴散語言模型 Mercury Coder,拋棄傳統的逐字預測,改用類似影像生成的並行去噪方式生成程式碼。在輝達 H100 上每秒可輸出超 1000 token,效能對標 GPT-4o Mini 但速度最高快 10 倍。這意味著無需專用晶片也能大幅壓低推理延遲與成本。