跳到正文
IFAI

AI工具

Apple 开放端侧大模型框架:第三方 App 可免费离线调用

首次发布 传播指数 34

Apple 介绍了随 iOS 26 推出的 Foundation Models 框架。开发者可直接调用 Apple Intelligence 核心的端侧大模型,推理完全免费且离线可用。这意味着第三方 App 无需搭建后端云服务,就能低成本实现生成总结、结构化记录等个性化 AI 功能,同时保障隐私。

Apple 开放端侧大模型框架:第三方 App 可免费离线调用
图:apple.com

过去开发者想在 App 里塞个大模型,账单往往是最头疼的事:用户每点一次生成,云端 API 就要扣一次钱,更别提用户隐私和离线断网的尴尬。

随着本月 iOS 26、iPadOS 26 和 macOS 26 正式发布,Apple 在 9 月 29 日宣布,全球开发者现在可以直接调用 Apple Intelligence 核心的端侧大语言模型,也就是全新的 Foundation Models 框架。最吸引人的是,这套端侧推理完全免费,而且不联网也能跑,数据全程不离开设备。

健身与日记 App 率先尝鲜

这套框架刚开放,一批健康与健身类 App 已经拿出了新功能。

健身应用 SmartGym 的做法很有代表性。用户只要用大白话描述想练什么,App 就能自动生成包含组数、次数、休息时间和器械替换的完整计划。它的 Smart Trainer 功能还能根据历史表现给出调整重量或次数的建议,并且附带清晰的理由解释。

SmartGym 首席执行官 Matt Abras 提到,以前在端侧根本做不到这些功能,现在不仅能做,而且接入非常简单。

日记应用 Stoic 则利用端侧模型生成高度个性化的写作引导。如果用户记录了低落情绪或糟糕睡眠,App 会自动推送温暖鼓励的提示词,甚至还能用自然语言搜索过去的日记。

Stoic 创始人 Maciej Lobodzinski 感慨,以前这些功能需要极重的云端后端架构,现在小团队在端侧几乎零配置就能跑起来,关键是日记内容完全不用上传云端,彻底打消了隐私顾虑。

此外,网球分析应用 SwingVision 结合 Core ML 的视频分析结果生成打球改进建议;Train Fitness 能在器械被占用时推荐替代动作;Streaks 和 Gratitude 等应用也借此上线了任务自动分类和每周情绪总结。

从细胞科普到随手记待办

除了健身,教育和生产力工具也挖出了不少新玩法。

3D 细胞生物学应用 CellWalk 允许学生在浏览微观分子时,随时点击不懂的术语。它利用端侧模型的工具调用能力,结合应用内部的科学数据生成通俗对话,还能根据学习者的水平自适应调整解释深度。

另外,语法学习应用 Grammo 增加了随时生成测试题的 AI 导师,Lil Artist 则结合端侧模型和 ImageCreator API,让儿童通过点选角色定制插画故事。

在生产力方面,待办清单应用 Stuff 借由这套框架推出了 Listen Mode 和 Scan Mode。开发者 Austin Blake 表示,用户说一句「今晚洗衣服、下周准备旅行」,或者拍一张潦草的手写便签,App 就能自动解析出日期、标签并拆分成条理清晰的待办事项。

为什么重要

对独立开发者和小团队来说,这几乎是一份免费午餐。以往接入商用云端大模型,不仅要担心月度账单爆表,还得为延迟、断网和用户隐私合规操碎心。现在只要用户设备升级到 iOS 26 等新系统,推理成本直接降为零,这让很多原本不敢碰 AI 的小众应用也能毫无负担地上线智能化功能。

对普通用户而言,最直观的改变是手机上的老牌工具变得聪明了,而且由于所有计算都在本地完成,哪怕在飞机上或者地下室没有网络,功能依然可用,敏感的日记、健康数据也完全留在自己手里。

我们认为,Apple 这次把端侧模型接口做成免费系统底座,是一记非常聪明的防守反击。它没有去卷参数规模庞大的云端生成,而是用私密、离线、零成本这三张牌,牢牢绑住了 App Store 生态里的百万开发者。

不过隐患也同样存在。端侧模型的参数量和推理能力天生受限于移动芯片的内存和发热,面对复杂的长文本推演或者高难度任务,它依然无法匹敌云端大模型。开发者如何在端侧的轻量便捷与复杂能力之间做好取舍,会是接下来最现实的考验。

来源 (1)

  1. [1]
    apple.com(在新标签页打开)原文apple.com

每日 AI 内容精选