Inception 釋出 Mercury Voice:首 token 延遲 320 毫秒,專為語音智慧體打造
Inception Labs 宣佈擴散大語言模型 Mercury Voice 正式面向企業開放。在生產級語音提示詞測試中,該模型生成首個回答 token 的中位數時間僅 320 毫秒,比 GPT-6 Luna 快 5.9 倍,支援 128K 上下文併兼顧推理能力,能直接接入相容 OpenAI 的主流語音管道。
Inception Labs 宣佈擴散大語言模型 Mercury Voice 正式面向企業開放。在生產級語音提示詞測試中,該模型生成首個回答 token 的中位數時間僅 320 毫秒,比 GPT-6 Luna 快 5.9 倍,支援 128K 上下文併兼顧推理能力,能直接接入相容 OpenAI 的主流語音管道。
Inception Labs 推出首個商業級擴散語言模型 Mercury Coder,拋棄傳統的逐字預測,改用類似影像生成的並行去噪方式生成程式碼。在輝達 H100 上每秒可輸出超 1000 token,效能對標 GPT-4o Mini 但速度最高快 10 倍。這意味著無需專用晶片也能大幅壓低推理延遲與成本。