高通押注端側生成式 AI:新一代旗艦晶片 10 月登場,明年進高階手機
高通透露正把生成式 AI 做進下一代旗艦晶片,將於 10 月底夏威夷峰會亮相。端側執行讓使用者資料無需傳上雲端,離線可用且省去昂貴的伺服器開銷。最值得關注的是,高通預計明年高階 Android 手機就能在本地跑起百億引數模型。
高通透露正把生成式 AI 做進下一代旗艦晶片,將於 10 月底夏威夷峰會亮相。端側執行讓使用者資料無需傳上雲端,離線可用且省去昂貴的伺服器開銷。最值得關注的是,高通預計明年高階 Android 手機就能在本地跑起百億引數模型。
Nvidia 釋出 Q2 2024 財報,單季營收 135 億美元,淨利潤達 61.88 億美元,同比暴漲 843%。其中資料中心業務創下 103.2 億美元紀錄,單季翻倍。生成式 AI 爆發讓其賺得盆滿缽滿,下季度營收預期更喊到 160 億美元。
Stability AI 宣佈與 NVIDIA 合作,通過 TensorRT 深度最佳化 SDXL 並開放 ONNX 權重。在 H100 GPU 上模型效能翻倍,高畫質圖生成僅需 1.47 秒,延遲降低 41%、吞吐量提升 70%。生圖效率大幅提高,能直接降低創作者與開發者的部署成本。
Microsoft 宣佈與埃森哲合作推出甲烷排放監測方案。通過在 Azure 上結合 AI 異常檢測、感測器佈局演算法與數字孿生,企業可以近即時捕捉管道和設施的洩漏源頭。這讓能源行業的漏氣排查從被動搶修轉向了預防式監控。
NVIDIA 在 Gamescom 推出 DLSS 3.5,重點引入光線重建技術。官方用超算訓練的 AI 網路取代傳統人工降噪器,訓練資料量比 DLSS 3 增加 5 倍,能明顯改善反射與全域性光照,面向所有 RTX 顯示卡開放,今秋將落地《賽博朋克 2077》等大作。
本週,美國總統拜登簽署行政令,限制美國資本向中國 AI、半導體及量子計算領域進行未來投資。限制主要涵蓋私募股權、風險投資和合資專案,重點盯防晶片設計軟體與製造裝置。規定在經歷公眾意見徵集後預計明年正式生效。
NVIDIA 在 SIGGRAPH 宣佈推出輕量開發工具套件 AI Workbench。開發者可以在本地 RTX PC 或工作站上一鍵整合來自 Hugging Face 等平臺的開源模型進行微調,隨後直接擴充套件到資料中心或雲端算力。同步更新的 AI Enterprise 4.0 則強化了 NeMo 等生產級部署支援。
NVIDIA 與 Hugging Face 宣佈合作,把 DGX Cloud 超算直接接入 Hugging Face 平臺。平臺將推出「訓練叢集即服務」,每個例項搭載 8 塊 H100 或 A100,讓開發者一鍵呼叫多節點算力定製企業大模型。該服務預計在未來數月內上線。
Microsoft 宣佈配備 NVIDIA H100 的 Azure ND H100 v5 虛擬機器正式可用,並同步將 Azure OpenAI Service 擴充套件至日本東部、英國南部等 5 個新區域。該機型搭載 8 張 H100,FP8 矩陣運算速度提升最高達 6 倍。隨著企業客戶破 1.1 萬家,微軟正全線擴容底層算力。
Cointelegraph 撰文指出,上半年 AI 領域吸收超 250 億美元融資,但行業已現泡沫徵兆。大量初創公司缺乏核心 IP,鉅額融資幾乎全用於搶購輝達 GPU;伴隨 ChatGPT 流量首度回落與套殼公司裁員,單純靠堆算力的繁榮正面臨考驗。
在 2023 年第二季度財報會上,Intel CEO Pat Gelsinger 宣佈計劃把 AI 融入公司製造的每一款產品中。首款內建神經處理器的消費級晶片 Meteor Lake 將於今年晚些時候出貨。他強調網路延遲與高昂成本決定了 AI 不能全依賴雲端,大量場景必須在客戶端和邊緣裝置本地跑完。
高通與 Meta 宣佈達成合作,計劃從 2024 年起在高通晶片驅動的手機和 PC 上直接執行開源大模型 Llama 2。這意味著 AI 不必全擠在昂貴的雲端資料中心,能大幅壓低執行成本,讓手機自帶更敏捷的本地虛擬助手。
Microsoft 宣佈與 Meta 擴大合作,成為 Llama 2 商業化的首選合作伙伴。Azure 客戶現可直接微調和部署 7B、13B 和 70B 引數的 Llama 2;同時該模型針對 Windows 做了最佳化,開發者可通過 ONNX Runtime 在本地 PC 執行。
Elon Musk 宣佈新成立的 xAI 將與 Tesla 在晶片和 AI 軟體層面協同,並使用 Twitter 公開推文訓練模型。Musk 還計劃利用特斯拉的真實駕駛資料幫助 AI 理解物理世界。這意味著他正調動旗下所有商業資產,為 xAI 鋪平算力與資料底座。
馬斯克正式宣佈成立人工智慧初創公司 xAI,目標是「理解宇宙的真實本質」。團隊吸納了來自 OpenAI、DeepMind 和微軟等機構的技術骨幹,計劃與推特資料及特斯拉算力協同。這也是他與 OpenAI 分道揚鑣後,親自下場正面競爭大模型賽道的關鍵一步。
Inflection AI 宣佈完成 13 億美元融資,由微軟、比爾·蓋茨及輝達等領投,估值達到 40 億美元。他們正聯手 CoreWeave 和輝達建造擁有 2.2 萬張 H100 的超算叢集,用來訓練自研大模型並支援個人助理 Pi,目前已全網免費開放。
NVIDIA 宣佈 H100 GPU 在最新 MLPerf 訓練基準測試中包攬全部 8 項紀錄。由 CoreWeave 搭建的 3584 塊 H100 叢集在不到 11 分鐘內跑完了 GPT-3 測試。這展現了大叢集上近乎線性的擴充套件能力,也進一步穩固了其在大模型訓練算力上的統治地位。
AWS 宣佈設立 1 億美元的生成式 AI 創新中心計劃,直接派出資料科學家和架構師幫企業客戶做方案、調模型。該計劃提供免費研討與培訓,重點對接金融、醫療等行業,並開放 Bedrock 和 CodeWhisperer 的技術支援。
Cisco 推出專為 AI 超級計算機設計的 G200 和 G202 網路晶片,直接叫板博通和 Marvell。兩款晶片效能較前代翻倍,最多可將 32,000 塊 GPU 連線在一起,並降低最高 40% 的功耗。目前六大雲服務商中已有五家進場測試。
AMD 舉辦資料中心與 AI 技術釋出會,CEO 蘇姿豐展示了新一代伺服器產品與路線圖。其中 Instinct MI300 加速晶片成為核心看點,被列為其 AI 戰略的首要重點,直接對標輝達的 Hopper 架構。