跳到正文
IFAI

AI工具

Azure AI 正式开放 GPT-4o 微调,并上线 Llama 3.2

首次发布 传播指数 36

微软宣布在 Azure OpenAI 服务中正式向所有用户开放 GPT-4o 与 GPT-4o mini 的微调功能。平台还同步引入了 Meta 的 Llama 3.2 视觉模型、Phi-3.5 系列以及实时修正幻觉的 Correction 工具,主打企业定制与安全合规。

Azure AI 正式开放 GPT-4o 微调,并上线 Llama 3.2
图:azure.microsoft.com

光靠通用大模型写两句提示词,早就满足不了专业场景的需求了。要么输出风格对不上自家品牌,要么在专业术语前频频出错。

微软在 Azure AI 上正式向所有客户开放 GPT-4o 和 GPT-4o mini 的微调功能。此前这项能力只面向小范围预览,现在企业可以直接用自有数据去训练这两个主力模型。

除了 OpenAI 的当家模型,Azure 模型目录里的可选阵容也一口气增加了好几个大牌。

从微调旗舰到打包开源新货

对企业来说,微调最大的好处就是能让模型完全贴合业务规范。翻译自动化公司 Lionbridge 表示,微调后的 GPT 模型在西班牙语、德语和日语上的翻译准确度,已经超过了通用底座和传统的神经机器翻译引擎。微软旗下的医疗语音公司 Nuance 也正用这项能力处理临床工作流。

如果你觉得跑大模型太贵,微软同时支持对轻量级小模型 Phi-3 进行微调。比如 Khan Academy 最近就在论文里提到,微调后的 Phi-3 在帮学生排查数学错误这件事情上,表现明显优于其他模型。

在模型库扩充方面,Meta 刚发布的 Llama 3.2 多模态视觉模型(11B 和 90B)已经进驻 Azure AI 目录,目前支持托管计算,后续会开通 Serverless 接口。

微软自家的 Phi-3.5-MoE-instruct 和具备多图推理能力的 Phi-3.5-vision-instruct 已经支持 Serverless 端点与 GitHub Models。此外,沙特 SDAIA 开发的双语模型 ALLaM-2-7B,以及 Cohere 升级后的 Command R 和 Command R+ 也在这次同步上线。

给企业扎牢数据和安全篱笆

把私有数据送去微调,大企业最担心的从来不是技术,而是合规与泄密。

微软这次为 Azure AI Studio 带来了完整的网络隔离方案。通过托管虚拟网络(VNET)和私有端点(Private Endpoint),存储、搜索和模型服务可以彻底断开外部公网访问。开发人员在测试工作台里和企业数据对话时,也可以直接启用 Entra ID 免密凭据认证。

针对数据驻留难题,微软即将推出 Azure OpenAI Data Zones,企业可以在全球部署、数据专区部署和区域部署之间选择,把静态数据牢牢锁在指定的地理区域内。

安全防护模块 Azure AI Content Safety 也补了两个新工具。一个是处于预览状态的 Correction 功能,它能在幻觉内容展示给用户之前直接实时修正;另一个是针对代码受保护内容的检测,防止 AI 生成的代码侵犯已有开源项目的版权。

为什么重要

我们认为,微软这套组合拳打得非常务实,直接打到了大企业上云做 AI 的软肋上。

对开发者和企业技术团队来说,以前用 GPT-4o 只能拼命在 Prompt 里塞规则和几万字的参考资料。现在有了微调通道,无论是统一客服调性还是训练专业代码助手,模型的响应速度和成本都会比生硬堆 RAG 好得多。再加上小模型 Phi-3 的微调方案,算力预算有限的团队也能在边缘端跑定制业务。

更关键的是生态防御。目前市场上开源模型步步紧逼,Meta 的 Llama 3.2 刚出,微软转头就塞进自家目录,一边卖 OpenAI 的定制服务,一边当开源模型的最大超市。这种两头通吃的打法,基本封死了同类云厂商单靠某一家模型建立壁垒的可能。

不过隐患也不是没有。微调非常吃数据清洗质量,如果企业拿不出高质量的专业语料,微调出来的 GPT-4o 很容易出现严重的灾难性遗忘或调优变形。微软虽然提供了端到端的数据蒸馏流程,但从我们观察来看,普通中小团队想要把微调真正跑出 ROI,门槛依然不低。

来源 (1)

  1. [1]
    azure.microsoft.com(在新标签页打开)原文azure.microsoft.com

每日 AI 内容精选