Meta 联手高通:2024 年起让 Llama 2 直接在手机和 PC 上跑
高通与 Meta 宣布达成合作,计划从 2024 年起在高通芯片驱动的手机和 PC 上直接运行开源大模型 Llama 2。这意味着 AI 不必全挤在昂贵的云端数据中心,能大幅压低运行成本,让手机自带更敏捷的本地虚拟助手。
高通与 Meta 宣布达成合作,计划从 2024 年起在高通芯片驱动的手机和 PC 上直接运行开源大模型 Llama 2。这意味着 AI 不必全挤在昂贵的云端数据中心,能大幅压低运行成本,让手机自带更敏捷的本地虚拟助手。
Microsoft 宣布与 Meta 扩大合作,成为 Llama 2 商业化的首选合作伙伴。Azure 客户现可直接微调和部署 7B、13B 和 70B 参数的 Llama 2;同时该模型针对 Windows 做了优化,开发者可通过 ONNX Runtime 在本地 PC 运行。