Nvidia 釋出個人 AI 超級電腦 Project Digits:單臺能跑 2000 億引數模型
CES 2025 期間,Nvidia 釋出了桌面級個人 AI 超級計算機 Project Digits。它搭載與聯發科合作研發的 GB10 晶片和 128GB 記憶體,單臺即可在本地執行 2000 億引數模型,兩臺串聯可擴充套件至 4050 億引數。裝置執行 DGX OS,5 月開售,定價 3000 美元。
CES 2025 期間,Nvidia 釋出了桌面級個人 AI 超級計算機 Project Digits。它搭載與聯發科合作研發的 GB10 晶片和 128GB 記憶體,單臺即可在本地執行 2000 億引數模型,兩臺串聯可擴充套件至 4050 億引數。裝置執行 DGX OS,5 月開售,定價 3000 美元。
NVIDIA 在 CES 上釋出 GeForce RTX 50 系列顯示卡。新架構引入 FP4 低精度量化,視訊記憶體佔用砍半且生成式 AI 效能翻倍,讓 FLUX.1 僅需不到 10GB 視訊記憶體即可本地秒級出圖。旗艦 RTX 5090 配備 32GB 視訊記憶體,將於 1 月 30 日開售。
AMD 在 CES 預告 Radeon RX 9070 系列顯示卡,採用 4nm RDNA 4 架構。最關鍵的變化是 FSR 4 正式轉向機器學習超分與插幀,需依賴新卡的專屬 AI 加速硬體。兩款新卡預計第一季度發售,具體規格和價格暫未公佈。
Qualcomm 釋出入門級 Snapdragon X 筆記本晶片,將 Copilot Plus PC 門檻拉低至 600 美元左右。它配備 8 核 Oryon CPU 與 45 TOPS 算力 NPU,續航和能效對標英特爾,主流廉價輕薄本接下來也有完整端側 AI 體驗了。
Intel 在 CES 2025 上公佈了包括 Core Ultra 200 系列在內的多款新處理器,試圖走出業績低谷。新晶片在效能核引入 AI 電源管理並搭載 NPU,其中 Core Ultra 285H 執行端側 Llama 3 8B 提速 3.3 倍。相關 PC 將於本月起陸續開售。
馬斯克在 X 上宣佈,xAI 旗下 Grok 3 的預訓練已經完成,即將正式推出。據他透露,本次訓練消耗的算力達到了 Grok 2 的 10 倍。這意味著 xAI 正全力擴充算力叢集,準備正面迎戰頂尖大模型。
xAI 完成 60 億美元 C 輪融資,估值近乎翻倍至 450 億美元,累計融資金額達 120 億美元。紅杉資本、輝達和 AMD 等老股東參投。新資金將用於將其十萬張 GPU 的孟菲斯算力叢集再擴容一倍,並全力研發下一代 Grok 模型與產品。
Google Cloud 宣佈第六代 TPU Trillium 正式面向所有客戶商用。相比上一代 v5e,其訓練效能提升超 4 倍、推理吞吐量提升至多 3 倍,單晶片算力提高 4.7 倍。最值得關注的是,Google 剛釋出的 Gemini 2.0 正是基於這款晶片訓練完成。
IBM 公佈共封裝光學(CPO)突破,推出首個聚合物光波導原型。該方案用光路替代伺服器間銅線,能將大模型訓練速度提升最多 5 倍、能耗降低 80% 以上。這項技術已通過全部製造應力測試,意在徹底解決 GPU 等待資料傳輸的空閒痛點。
微軟推出新一代資料中心設計,針對 AI 工作負載改用晶片級閉環液冷方案,冷卻過程實現零水蒸發,單座每年可省水超 1.25 億升。該方案已在 2024 年 8 月成為所有新建資料中心的設計標準,2026 年啟動試點,預計 2027 年底正式上線。
Microsoft AI CEO Mustafa Suleyman 接受 The Verge 採訪時表示,AGI 無法在當前輝達 GB200 硬體上實現,至少還需要 2 至 5 代晶片迭代,即 5 到 10 年時間。他強調不應將 AGI 與超級智慧或奇點混為一談,眼下更應專注於打造對人類真正有用的 AI 助手。
Hugging Face 宣佈其 83 款熱門開源模型上線 Amazon Bedrock Marketplace。底層端點由 SageMaker JumpStart 託管,可無縫接入 Bedrock 的 Agents、知識庫與護欄等 API。開發者只需支付 SageMaker 算力與標準 Bedrock API 費用。
Dec 09, 2024,AMD 釋出並開源單步擴散模型 Nitro Diffusion。新模型基於 Stable Diffusion 2.1 和 PixArt-Sigma 打造,只需一步推理就能生成媲美多步擴散的影像,可部署在資料中心和端側 PC,相關程式碼與權重已上線 Hugging Face。
Google 釋出最新量子晶片 Willow。該晶片在增加量子位元時成倍降低錯誤率,攻破了困擾學界近 30 年的「低於閾值」量子糾錯難題;在標準基準測試中,Willow 用不到 5 分鐘就完成了當前頂級超算需要 10^25 年才能完成的計算任務。
全球第二快超級計算機 Frontier 動用了約 9000 個配備 AMD MI250X 的計算節點,完成了史上規模最大、最複雜的宇宙流體力學模擬。它首次將暗物質與等離子體運動等機制納入計算,執行速度比此前基準提升近 300 倍。
Google DeepMind 推出 AI 天氣集合預報模型 GenCast 並開原始碼和權重。在 1320 項指標測試中,它有 97.2% 勝過歐洲中期天氣預報中心 ENS;單張 TPU 僅需 8 分鐘即可跑完 15 天預測。
Apple 在 AWS re:Invent 上透露,其搜尋等服務已採用亞馬遜 Inferentia 與 Graviton 晶片,使效率提升 40%。蘋果目前還在評估最新款 Trainium2 晶片,預計預訓練效率可提升高達 50%,未來有望用於訓練 Apple Intelligence。
在 re:Invent 大會上,Amazon 宣佈與 Anthropic 聯手打造超算 Project Rainer,將配備數十萬顆自研 Trainium 2 晶片,規模達 Anthropic 現役最強叢集的 5 倍。AWS 稱該叢集比輝達方案便宜 30% 至 40%,同時還公佈了效能翻 4 倍的 Trainium 3。
Allen Institute for AI 與 UC San Diego 團隊提出氣候模型 Spherical DYffusion。它通過球面條件擴散過程學習物理模型資料,將 10 年氣候模擬從 78 小時壓縮到不到 3 小時,提速超 25 倍,不過極地和高空預測偏差仍高於傳統模型。
據外媒報道,蘋果已向台積電下單下一代 M5 晶片,預計 2025 年下半年投產。M5 沿用 3nm 工藝並引入 3D 堆疊封裝,除用於 Mac、iPad 和 Vision Pro 外,蘋果還計劃將其部署在自家 AI 伺服器上。