Inception 釋出擴散大模型 Mercury 3:每秒超千 token,對標 GPT-6 Luna
Inception 推出擴散式語言模型 Mercury 3。其在輝達 GPU 上生成速度達每秒 1068 token,較主流輕量模型快 4 至 8 倍,並支援 100 萬 token 上下文。這意味著擴散架構也能擴充套件至複雜大模型,特別適合網頁智慧體等極度敏感延遲的場景。
Inception 推出擴散式語言模型 Mercury 3。其在輝達 GPU 上生成速度達每秒 1068 token,較主流輕量模型快 4 至 8 倍,並支援 100 萬 token 上下文。這意味著擴散架構也能擴充套件至複雜大模型,特別適合網頁智慧體等極度敏感延遲的場景。
Anthropic 正式推出 Claude Haiku 5.5,平均執行成本比前代降低約 75%,是其目前速度最快的小模型。該模型新增努力程度調節設定,主打高吞吐量與智慧體子任務等場景,並同步在各大雲平臺上架;同時 Sonnet 5.5 快取讀取降價 50%。