苹果推出 Foundation Models 框架：App 可免费调用端侧 AI

做 App 的人大概都清楚，往产品里塞 AI 功能最头疼的是什么：一是每个月按 token 付账的云端服务器账单，二是用户只要一进电梯或断网，AI 功能立刻瘫痪。

苹果在 WWDC 上给开发者递了把解题的钥匙。他们宣布推出全新的 Foundation Models Framework，正式把驱动 Apple Intelligence 的端侧基础大模型作为系统级 API 开放给第三方开发者。

离线可用，而且推理免费

简单来说，开发者现在可以直接在自己的 App 里调用苹果设备的本地模型，不用自己部署小模型，也不用拉用户的网络去请求云端接口。

按照苹果软件工程高级副总裁 Craig Federighi 的说法，驱动 Apple Intelligence 的模型如今变得更强大、更高效，直接开放给开发者，就是想让大家在日常应用里做出一整波全新的智能化体验。

这个框架有几个非常实在的特性：完全在本地设备运行，数据不出设备；完全不需要联网，离线照样工作；更关键的是，它没有任何推理成本。

苹果现场举了两个很典型的场景：教育类 App 可以直接在本地读取用户的笔记并生成测试题；户外徒步 App 就算在完全没有手机信号的野外，也能让用户通过自然语言搜索路线。

为了方便接入，框架里还内置了引导生成和工具调用能力，现有的 App 想要调用生成能力或者让模型触发具体操作，不用从头造轮子。

上线节奏方面，苹果表示该框架即日起在 Apple Developer Program 提供测试，下个月会通过 Apple Beta Software Program 推出面向更多人的公开测试版。

为什么重要

对中小开发者和独立创作者来说，这个框架最大的杀伤力就是零推理成本。

过去很多小团队想做 AI 功能，最大的顾虑就是商业模型算不过来：买断制收不上来服务器费，订阅制又怕羊毛党把 token 刷爆。现在直接调用设备本地算力，成本直接转为零，甚至连隐私合规的包袱都轻了大半，只要下个月公测一开，非常值得立刻拿手头的 App 接入试试。

从行业竞争来看，我们认为苹果这一步走得相当聪明。与其自己在系统自带应用里憋几个不痛不痒的 AI 玩法，不如直接把底层模型变成像摄像头、陀螺仪一样的系统基础能力，放手交给全球数百万开发者去折腾，用整个生态的力量帮 Apple Intelligence 找落地场景。

但这里的局限也显而易见。端侧模型受制于手机的内存、散热和电池，参数规模和理解能力必然比不上动辄成百上千亿参数的云端巨无霸。开发者如果拿它做做摘要、本地检索、生成简单题目挺合适，一旦涉及深层逻辑推理，端侧小模型很可能会露怯，怎么管理用户的预期是接下来大家必须面对的难题。