Google 釋出兩款第八代 TPU:8i Max 算力翻倍,8tx 主打機密計算
Google 推出兩款第八代 TPU 新系統 TPU 8tx 與 TPU 8i Max,一年內已交付四款第八代硬體。其中 8tx 主打機密計算,處理時全程加密敏感資料;8i Max 則單封裝塞入兩顆晶片,讓單機櫃算力與記憶體頻寬翻倍,主攻百萬 token 與長影片等大記憶體推理場景。

以前晶片廠商釋出新硬體,往往要憋上兩三年才推出一代全新的製程或架構。但 Google 最近卻在瘋狂提速,一年之內在同個第八代架構上連發了四款不同的系統。
這次登場的是 TPU 8tx 和 TPU 8i Max。這兩款系統不是全新一代的矽片,而是 Google 拿現有的第八代處理器按需“拼積木”拼出來的:換上不同的封裝、網際網路和記憶體配置,專門盯準了現在大熱的 AI Agent 場景。
8tx 管資料安全,8i Max 治記憶體焦慮
先看 TPU 8tx,它主攻的是受監管的企業和政府機構,核心賣點是機密計算。
通常情況下,敏感資料在儲存和傳輸時都可以加密,但一旦送進晶片記憶體參與計算,就必須先解密。TPU 8tx 想填補的正是這個空白,按 Google 的說法,即使在活躍執行期間,資料和模型權重也能全程保持加密和物理隔離狀態。這直接對標了 Nvidia GPU 現有的機密計算能力。
在網路上,8tx 換上了 Google 原本為即時推理開發的 Boardfly 低延遲網路,延遲表現據稱比之前的 TPU 8t 最多能降低一倍。企業可以直接在單套系統裡完成模型微調、大模型蒸餾,以及用強化學習訓練 Agent,全程不需要在不同叢集之間挪動敏感資料。
TPU 8i Max 解決的則是另一個讓人頭疼的痛點:記憶體頻寬瓶頸。
當 AI Agent 需要同時處理百萬 token 的超長上下文、整套龐大的程式碼庫或者幾個小時的影片時,視訊記憶體容量和頻寬往往最先撞牆。Google 的解法簡單粗暴,直接在單個封裝裡塞進了兩顆 TPU 8i 晶片。
這麼做的好處很直接:在完全相同的機櫃空間裡,算力、記憶體容量和記憶體頻寬統統直接翻倍,讓機房每平方米的算力密度拉到了極高水平。
拼積木式硬體,配上 PyTorch 綠燈
這種硬體迭代邏輯挺有意思。Google 不再等幾年才大改一次晶片,而是把底層矽片做成模組化平臺,幾星期或幾個月就能按工作負載定製出新的變種系統。
光有硬體還不夠,Google 這次還在拼命幫開發者降低遷移門檻。為了打消大家“用 TPU 必須重寫程式碼”的顧慮,Google 開源了 TorchTPU,讓大部分 PyTorch 程式碼幾乎不用改動就能跑在 TPU 上。同時,社群裡最常用的推理框架如 vLLM 和 SGLang 也已經完成適配。
這些舉措背後的戰略意圖很明顯:Google 的自研晶片正在從原本關起門來內部自用,加速轉向面向公有云外部客戶銷售,目前他們拿下的外部 TPU 客戶已經接近 100 家。
為什麼重要
對開發者和企業來說,這意味著多了一個極具價效比且合規性極高的硬體選擇。金融、政務和醫療等對資料隱私極其嚴苛的行業,終於有了不用擔心記憶體明文洩露的專屬算力;而做超長多模態 Agent 的團隊,也能在單機櫃裡塞進更多上下文。
在行業層面,AI 算力戰局的風向正在發生根本性轉變。昂貴的模型預訓練不再是唯一的燒錢主戰場,模型上線後的日常推理運營正在消耗絕大部分算力預算。在長線推理場景下,專為特定負載最佳化的 ASIC 晶片在成本和能效上往往比通用 GPU 更有殺傷力。
這也是為什麼微軟、亞馬遜、OpenAI 都在全力自研加速晶片,而 Nvidia 甚至急著通過人才收購和技術授權聯手 Groq 來補齊低延遲推理短板。
我們認為,Google 這次在現有晶片基礎上玩模組化快速出牌的打法非常聰明,既避開了流片新晶片的高昂成本和漫長週期,又精準切中了 Agent 時代的落地痛點。不過,真正的隱患依然在於軟體生態的長期穩定性。雖然 TorchTPU 相容了 PyTorch,但開發者的使用慣性和 CUDA 多年積累的工具鏈護城河極其深厚,外部客戶願不願意徹底把核心業務搬到 TPU 上,還得看實際落地的踩坑成本。
來源 (5)
- @Google(在新分頁開啟)討論x.com
- @Google(在新分頁開啟)討論x.com