Meta 聯手高通:2024 年起讓 Llama 2 直接在手機和 PC 上跑
高通與 Meta 宣佈達成合作,計劃從 2024 年起在高通晶片驅動的手機和 PC 上直接執行開源大模型 Llama 2。這意味著 AI 不必全擠在昂貴的雲端資料中心,能大幅壓低執行成本,讓手機自帶更敏捷的本地虛擬助手。
高通與 Meta 宣佈達成合作,計劃從 2024 年起在高通晶片驅動的手機和 PC 上直接執行開源大模型 Llama 2。這意味著 AI 不必全擠在昂貴的雲端資料中心,能大幅壓低執行成本,讓手機自帶更敏捷的本地虛擬助手。
Microsoft 宣佈與 Meta 擴大合作,成為 Llama 2 商業化的首選合作伙伴。Azure 客戶現可直接微調和部署 7B、13B 和 70B 引數的 Llama 2;同時該模型針對 Windows 做了最佳化,開發者可通過 ONNX Runtime 在本地 PC 執行。