Intel 釋出 Gaudi 3:宣稱部分大模型表現比輝達 H100 快 1.7 倍
在 Vision 2024 大會上,Intel 正式推出 Gaudi 3 AI 晶片,採用台積電 5nm 工藝並配備 128GB HBM2e 記憶體。官方稱其執行 LLaMA 等大模型時速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。風冷版將於三季度全面上市,液冷版四季度跟進。
在 Vision 2024 大會上,Intel 正式推出 Gaudi 3 AI 晶片,採用台積電 5nm 工藝並配備 128GB HBM2e 記憶體。官方稱其執行 LLaMA 等大模型時速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。風冷版將於三季度全面上市,液冷版四季度跟進。
Intel 透露微軟計劃讓 Copilot 的更多功能直接在 PC 本地執行,從而減少雲端延遲並保護隱私。不過下一代 AI PC 要求 NPU 算力超過 40 TOPS,目前市面上在售的消費級處理器均未達到這一標準。
MLCommons 公佈最新 MLPerf 推理評測結果,Nvidia 攜 H200 參測全部專案,配合 TensorRT-LLM 表現強勁,其推理業務已佔資料中心收入約 40%。Intel 提交了 Gaudi2 與至強成績,而 AMD MI300 再次缺席。
Forbes 披露主導研發 Stable Diffusion 的核心學者 Robin Rombach 等三人已從 Stability AI 辭職。此前該公司已有多位副總裁與高管出走,正面臨每月數百萬美元的高額算力與薪資開支,現金流吃緊且融資受阻。
Intel 聯手投資機構 DigitalBridge,將內部生成式 AI 業務拆分為獨立公司 Articul8 AI。該平臺起步於與 BCG 的合作,主打讓圖文模型在本地或私有云中執行,確保資料不出企業安全邊界。Intel 將保留股權並提供算力支援。
據報道,Stable Diffusion 母公司 Stability AI 因財務壓力正接觸買家尋求出售。主要投資方 Coatue 上月致信要求其 CEO 辭職。據悉該公司每月開銷達 800 萬美元,收入僅佔零頭。官方回應稱並未打算出售,正專注於釋出新模型。
Intel CEO Pat Gelsinger 表示,受成本、延遲和隱私影響,AI 必將從雲端走向邊緣。Intel 計劃年內推出搭載專用 AI 硬體的 Meteor Lake 晶片。憑藉超 80% 的 x86 PC 市場份額,Intel 押注端側算力能幫軟體商大幅削減昂貴的雲端開銷。
蘇黎世大學和 Intel 研發的自主系統 Swift 擊敗三位無人機競速世界冠軍。Swift 依靠機載攝像頭與深度強化學習即時控速,最快單圈比人類紀錄領先半秒。不過如果光線等外部環境出現變化,它的適應能力依然比不上人類。
Nvidia 釋出 Q2 2024 財報,單季營收 135 億美元,淨利潤達 61.88 億美元,同比暴漲 843%。其中資料中心業務創下 103.2 億美元紀錄,單季翻倍。生成式 AI 爆發讓其賺得盆滿缽滿,下季度營收預期更喊到 160 億美元。
Microsoft 宣佈配備 NVIDIA H100 的 Azure ND H100 v5 虛擬機器正式可用,並同步將 Azure OpenAI Service 擴充套件至日本東部、英國南部等 5 個新區域。該機型搭載 8 張 H100,FP8 矩陣運算速度提升最高達 6 倍。隨著企業客戶破 1.1 萬家,微軟正全線擴容底層算力。
在 2023 年第二季度財報會上,Intel CEO Pat Gelsinger 宣佈計劃把 AI 融入公司製造的每一款產品中。首款內建神經處理器的消費級晶片 Meteor Lake 將於今年晚些時候出貨。他強調網路延遲與高昂成本決定了 AI 不能全依賴雲端,大量場景必須在客戶端和邊緣裝置本地跑完。
Stable Diffusion 2.0 正式釋出,最大看點是新增 depth2img 功能。該功能利用 MiDaS 演算法根據 2D 圖推算深度圖,生成時能嚴格保留主體的 3D 幾何結構。這意味著 3D 創作者只要搭個簡單灰盒,就能直接用 AI 快速探索材質與光影方案。
ML6 工程師展示了基於開源庫 Anomalib 的工業視覺質檢方案。該方案採用教師-學生網路架構的單分類學習,僅需無缺陷樣本即可訓練,能在畫素級精確定位缺陷。配合 OpenVINO 在 CPU 上的推理速度提升近 4 倍,達到 30.2 fps。