跳到正文
IFAI

產業動態

蘋果站臺 AWS:正在用亞馬遜自研晶片,並評估 Trainium2 訓大模型

首次發布 傳播指數 41

Apple 在 AWS re:Invent 上透露,其搜尋等服務已採用亞馬遜 Inferentia 與 Graviton 晶片,使效率提升 40%。蘋果目前還在評估最新款 Trainium2 晶片,預計預訓練效率可提升高達 50%,未來有望用於訓練 Apple Intelligence。

蘋果站臺 AWS:正在用亞馬遜自研晶片,並評估 Trainium2 訓大模型
圖:cnbc.com

熟悉蘋果的人都知道,這家公司對自己的供應鏈和後臺技術細節向來守口如瓶,極少允許供應商拿自己當客戶案例來宣傳。

但在週二的 AWS re:Invent 大會上,蘋果機器學習與 AI 高階總監 Benoit Dupin 卻破天荒直接登臺,公開為亞馬遜的自研 AI 晶片站臺。

蘋果高管現身 AWS 現場

Dupin 在臺上表示,蘋果和 AWS 已經合作了超過十年,包括 Siri、蘋果地圖和 Apple Music 在內的多項服務都在 AWS 上執行。

在具體的 AI 應用上,蘋果已經在搜尋等服務中採用了亞馬遜自研的 Inferentia 和 Graviton 晶片。Dupin 透露,這些自研晶片為搜尋服務帶來了整整 40% 的效率提升。

更引人注意的是模型訓練。蘋果目前正在評估亞馬遜最新發布的 Trainium2 晶片,打算用它來預訓練自己的專有模型,比如 Apple Intelligence。

按照 Dupin 的說法,在評估 Trainium2 的早期階段,他們預計預訓練的效率能有高達 50% 的提升。恰好在同一天,亞馬遜正式宣佈 Trainium2 晶片全面開放租賃。

AWS 執行長 Matt Garman 也在接受 CNBC 採訪時透露,蘋果其實很早就成了 Trainium 晶片的早期測試者。蘋果當時主動找到 AWS,表示需要基礎設施來構建生成式 AI 能力,實現 Apple Intelligence 的願景。

不把雞蛋放在輝達的籃子裡

現在行業裡絕大多數生成式 AI 訓練,都死死繫結在輝達昂貴的高效能 GPU 上。但蘋果的做法顯然不太一樣。

今年早些時候,蘋果在一篇研究論文中就曾披露過,他們訓練 Apple Intelligence 時用的是 Google Cloud 的 TPU 晶片。

而在端側和推理層面,蘋果也是自己的晶片唱主角。日常任務儘量在 iPhone、iPad 或 Mac 的本地晶片上跑,遇到複雜任務,再交給搭載蘋果自研 M 系列晶片的專用伺服器處理。

如今再加上對 AWS Trainium2 晶片的評估,蘋果在雲端算力上的選擇顯得格外分散。蘋果本身也是微軟 Azure 和 Google Cloud 的客戶,但這次公開給 AWS 站臺,無疑是對亞馬遜自研晶片投出的一張信任票。

為什麼重要

我們認為,蘋果這次公開站臺,最大的看點是向整個行業證明了一件事:哪怕是做前沿的生成式 AI,也不一定非要向輝達交昂貴的保護費。

對普通使用者來說,你在手機上用 Siri 或者摘要功能時,根本感知不到底層用了什麼晶片。但云端訓練和執行效率提升 40% 到 50%,意味著蘋果維護端雲協同 AI 的成本能大幅降低,服務表現也會更加穩定。

對雲端計算行業來說,這更是 AWS 夢寐以求的背書。在微軟與 OpenAI 深度繫結、谷歌靠 TPU 自給自足的背景下,AWS 急需證明自己的 Trainium 晶片能打,而蘋果這個重量級客戶的名字,比任何基準測試成績都管用。

從蘋果的策略來看,這一步走得相當精明。它沒有跟風去瘋搶高價輝達叢集,而是選擇在谷歌 TPU、亞馬遜 Trainium 和自研 M 系列晶片之間左右逢源,誰的價效比高就用誰。不過看起來這種方案也有門檻,軟硬體適配和遷移成本並不低,目前蘋果對 Trainium2 也還處於評估階段,能否全面承接核心模型的訓練,還需要後續實際落地的檢驗。

來源 (1)

  1. [1]
    cnbc.com(在新分頁開啟)原文cnbc.com

每日 AI 內容精選