AMD 釋出首款小語言模型 AMD-135M:主打投機解碼加速推理
AMD 公佈首個小語言模型 AMD-135M 系列,包含基礎版與程式碼特化版兩款模型。該系列基於 Llama 架構,由 4 個 AMD MI250 節點訓練而成,核心賣點是利用投機解碼技術充當草稿模型以加速大模型推理,瞄準企業私有化部署需求。
AMD 公佈首個小語言模型 AMD-135M 系列,包含基礎版與程式碼特化版兩款模型。該系列基於 Llama 架構,由 4 個 AMD MI250 節點訓練而成,核心賣點是利用投機解碼技術充當草稿模型以加速大模型推理,瞄準企業私有化部署需求。