Apple 開放端側大模型框架:第三方 App 可免費離線呼叫
Apple 介紹了隨 iOS 26 推出的 Foundation Models 框架。開發者可直接呼叫 Apple Intelligence 核心的端側大模型,推理完全免費且離線可用。這意味著第三方 App 無需搭建後端雲服務,就能低成本實現生成總結、結構化記錄等個性化 AI 功能,同時保障隱私。

過去開發者想在 App 裡塞個大模型,賬單往往是最頭疼的事:使用者每點一次生成,雲端 API 就要扣一次錢,更別提使用者隱私和離線斷網的尷尬。
隨著本月 iOS 26、iPadOS 26 和 macOS 26 正式釋出,Apple 在 9 月 29 日宣佈,全球開發者現在可以直接呼叫 Apple Intelligence 核心的端側大語言模型,也就是全新的 Foundation Models 框架。最吸引人的是,這套端側推理完全免費,而且不聯網也能跑,資料全程不離開裝置。
健身與日記 App 率先嚐鮮
這套框架剛開放,一批健康與健身類 App 已經拿出了新功能。
健身應用 SmartGym 的做法很有代表性。使用者只要用大白話描述想練什麼,App 就能自動生成包含組數、次數、休息時間和器械替換的完整計劃。它的 Smart Trainer 功能還能根據歷史表現給出調整重量或次數的建議,並且附帶清晰的理由解釋。
SmartGym 執行長 Matt Abras 提到,以前在端側根本做不到這些功能,現在不僅能做,而且接入非常簡單。
日記應用 Stoic 則利用端側模型生成高度個性化的寫作引導。如果使用者記錄了低落情緒或糟糕睡眠,App 會自動推送溫暖鼓勵的提示詞,甚至還能用自然語言搜尋過去的日記。
Stoic 創始人 Maciej Lobodzinski 感慨,以前這些功能需要極重的雲端後端架構,現在小團隊在端側幾乎零配置就能跑起來,關鍵是日記內容完全不用上傳雲端,徹底打消了隱私顧慮。
此外,網球分析應用 SwingVision 結合 Core ML 的影片分析結果生成打球改進建議;Train Fitness 能在器械被佔用時推薦替代動作;Streaks 和 Gratitude 等應用也藉此上線了任務自動分類和每週情緒總結。
從細胞科普到隨手記待辦
除了健身,教育和生產力工具也挖出了不少新玩法。
3D 細胞生物學應用 CellWalk 允許學生在瀏覽微觀分子時,隨時點選不懂的術語。它利用端側模型的工具呼叫能力,結合應用內部的科學資料生成通俗對話,還能根據學習者的水平自適應調整解釋深度。
另外,語法學習應用 Grammo 增加了隨時生成測試題的 AI 導師,Lil Artist 則結合端側模型和 ImageCreator API,讓兒童通過點選角色定製插畫故事。
在生產力方面,待辦清單應用 Stuff 藉由這套框架推出了 Listen Mode 和 Scan Mode。開發者 Austin Blake 表示,使用者說一句「今晚洗衣服、下週準備旅行」,或者拍一張潦草的手寫便籤,App 就能自動解析出日期、標籤並拆分成條理清晰的待辦事項。
為什麼重要
對獨立開發者和小團隊來說,這幾乎是一份免費午餐。以往接入商用雲端大模型,不僅要擔心月度賬單爆表,還得為延遲、斷網和使用者隱私合規操碎心。現在只要使用者裝置升級到 iOS 26 等新系統,推理成本直接降為零,這讓很多原本不敢碰 AI 的小眾應用也能毫無負擔地上線智慧化功能。
對普通使用者而言,最直觀的改變是手機上的老牌工具變得聰明了,而且由於所有計算都在本地完成,哪怕在飛機上或者地下室沒有網路,功能依然可用,敏感的日記、健康資料也完全留在自己手裡。
我們認為,Apple 這次把端側模型介面做成免費系統底座,是一記非常聰明的防守反擊。它沒有去卷引數規模龐大的雲端生成,而是用私密、離線、零成本這三張牌,牢牢綁住了 App Store 生態裡的百萬開發者。
不過隱患也同樣存在。端側模型的引數量和推理能力天生受限於移動晶片的記憶體和發熱,面對複雜的長文本推演或者高難度任務,它依然無法匹敵雲端大模型。開發者如何在端側的輕量便捷與複雜能力之間做好取捨,會是接下來最現實的考驗。
來源 (1)
- apple.com(在新分頁開啟)原文apple.com