跳到正文
IFAI

產業動態

傳微軟自研 AI 晶片 Athena:對標輝達,OpenAI 員工已在測 GPT-4

首次發布 傳播指數 51

據報道,微軟自 2019 年起秘密研發代號為 Athena 的自研 AI 晶片,旨在訓練大語言模型並擺脫對輝達昂貴 GPU 的過度依賴。目前部分微軟與 OpenAI 員工已拿到晶片測試 GPT-4 執行表現,最早或於明年在內部鋪開。

傳微軟自研 AI 晶片 Athena:對標輝達,OpenAI 員工已在測 GPT-4
圖:theverge.com

現在只要做大模型,幾乎都在給輝達打工。

隨著各家巨頭瘋搶算力,輝達最新款 H100 顯示卡在 eBay 上甚至被炒到了 4 萬美元以上。據業內估算,光是支撐 ChatGPT 的商業化運轉,OpenAI 就得吃下超過 3 萬張 A100。

面對這種天文數字般的硬體賬單,微軟顯然不想一直被卡脖子。據外媒 The Information 報道,微軟其實從 2019 年起就在秘密研發一款代號為 Athena 的自研 AI 晶片,試圖在大模型訓練和推理上省下一大筆錢。

代號 Athena,OpenAI 員工已經上手

這顆內部代號為 Athena 的晶片並不是臨時起意。微軟已經悄悄打磨了數年,並且研發節奏正在明顯加快。

據報道,部分微軟和 OpenAI 的員工目前已經拿到了工程晶片,正在測試它執行 GPT-4 等最新前沿大模型的表現。

按照目前的規劃,微軟最早可能在明年把 Athena 更廣泛地部署到公司內部以及 OpenAI 的業務中。而且這並不是一次性嘗試,微軟內部已經為這款晶片制定了包含未來好幾代的長期路線圖。

不過,目前還不清楚微軟未來是否會將 Athena 開放給 Azure 雲端計算客戶使用。知情人士也提到,這顆晶片並不是為了徹底取代輝達的所有硬體,而是作為自研主力,用來幫微軟自家的 Bing、Office 辦公套件和 GitHub 等全面鋪開的 AI 功能減輕成本壓力。

其實微軟做定製晶片早有前科。早在 2020 年,彭博社就曾披露微軟在為伺服器甚至未來的 Surface 裝置研發 ARM 架構處理器。此外,微軟也曾與高通、AMD 深度合作為 Surface 裝置定製晶片。

為什麼重要

如果訊息屬實,微軟將正式加入自研 AI 算力的頂級俱樂部,和谷歌的 TPU、亞馬遜的 Trainium 以及 Meta 的定製硬體站在同一起跑線。

我們認為這一步微軟走得非常務實。現在全行業都在搶購 GPU,輝達的利潤率高得嚇人,交貨週期更是被排到了幾個季度之後。微軟在產品端全面接入 GPT-4 和 Copilot,每多一個活躍使用者,伺服器的電費和晶片折舊就在瘋狂燃燒。自研晶片哪怕效能只能追平上一代硬體,只要在推理成本和功耗上砍下一半,對微軟來說就是省下了幾十億美元的真金白銀。

對行業來說,這也是一個明確的訊號:即便像微軟這樣與輝達關係最鐵的頭號盟友,也不願意把自己的身家性命押在單一供應商身上。

當然,做晶片從來不是一件容易的事。開發出能點亮的矽片只是第一步,配套的編譯器、底層驅動、運算元最佳化以及針對大模型的通訊框架,難度一點都不比造晶片本身低。微軟選擇讓 OpenAI 的核心團隊直接參與實測,看起來就是想從最底層的實際負載出發,少走當年通用算力晶片走過的彎路。

來源 (2)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com
  2. [2]

每日 AI 內容精選