蘋果推出 Foundation Models 框架：App 可免費呼叫端側 AI

做 App 的人大概都清楚，往產品裡塞 AI 功能最頭疼的是什麼：一是每個月按 token 付賬的雲端伺服器賬單，二是使用者只要一進電梯或斷網，AI 功能立刻癱瘓。

蘋果在 WWDC 上給開發者遞了把解題的鑰匙。他們宣佈推出全新的 Foundation Models Framework，正式把驅動 Apple Intelligence 的端側基礎大模型作為系統級 API 開放給第三方開發者。

離線可用，而且推理免費

簡單來說，開發者現在可以直接在自己的 App 裡呼叫蘋果裝置的本地模型，不用自己部署小模型，也不用拉使用者的網路去請求雲端介面。

按照蘋果軟體工程高階副總裁 Craig Federighi 的說法，驅動 Apple Intelligence 的模型如今變得更強大、更高效，直接開放給開發者，就是想讓大家在日常應用裡做出一整波全新的智慧化體驗。

這個框架有幾個非常實在的特性：完全在本地裝置執行，資料不出裝置；完全不需要聯網，離線照樣工作；更關鍵的是，它沒有任何推理成本。

蘋果現場舉了兩個很典型的場景：教育類 App 可以直接在本地讀取使用者的筆記並生成測試題；戶外徒步 App 就算在完全沒有手機訊號的野外，也能讓使用者通過自然語言搜尋路線。

為了方便接入，框架裡還內建了引導生成和工具呼叫能力，現有的 App 想要呼叫生成能力或者讓模型觸發具體操作，不用從頭造輪子。

上線節奏方面，蘋果表示該框架即日起在 Apple Developer Program 提供測試，下個月會通過 Apple Beta Software Program 推出面向更多人的公開測試版。

為什麼重要

對中小開發者和獨立創作者來說，這個框架最大的殺傷力就是零推理成本。

過去很多小團隊想做 AI 功能，最大的顧慮就是商業模型算不過來：買斷制收不上來伺服器費，訂閱制又怕羊毛黨把 token 刷爆。現在直接呼叫裝置本地算力，成本直接轉為零，甚至連隱私合規的包袱都輕了大半，只要下個月公測一開，非常值得立刻拿手頭的 App 接入試試。

從行業競爭來看，我們認為蘋果這一步走得相當聰明。與其自己在系統自帶應用裡憋幾個不痛不癢的 AI 玩法，不如直接把底層模型變成像攝像頭、陀螺儀一樣的系統基礎能力，放手交給全球數百萬開發者去折騰，用整個生態的力量幫 Apple Intelligence 找落地場景。

但這裡的侷限也顯而易見。端側模型受制於手機的記憶體、散熱和電池，引數規模和理解能力必然比不上動輒成百上千億引數的雲端巨無霸。開發者如果拿它做做摘要、本地檢索、生成簡單題目挺合適，一旦涉及深層邏輯推理，端側小模型很可能會露怯，怎麼管理使用者的預期是接下來大家必須面對的難題。