騰訊釋出混元 TurboS:混用 Mamba 架構,推理成本砍到七分之一
騰訊混元推出 Hunyuan-TurboS,這是首個超大 Transformer-Mamba 混合 MoE 模型。它用 Mamba 處理長文本、Transformer 負責上下文理解,官方稱數學與推理超越 GPT-4o 與 DeepSeek-V3,推理成本僅為前代的七分之一。
騰訊混元推出 Hunyuan-TurboS,這是首個超大 Transformer-Mamba 混合 MoE 模型。它用 Mamba 處理長文本、Transformer 負責上下文理解,官方稱數學與推理超越 GPT-4o 與 DeepSeek-V3,推理成本僅為前代的七分之一。