輝達二季度營收翻倍破 300 億美元,但盤後股價跌超 7%
輝達公佈第二季度財報,營收同比增長 122% 達到 300.4 億美元,資料中心業務暴漲 154%。不過由於毛利率環比小幅下滑,加上市場預期被拉得太滿,財報公佈後盤後股價反而跌超 7%。
輝達公佈第二季度財報,營收同比增長 122% 達到 300.4 億美元,資料中心業務暴漲 154%。不過由於毛利率環比小幅下滑,加上市場預期被拉得太滿,財報公佈後盤後股價反而跌超 7%。
NVIDIA 推出 NVIDIA Blueprints,為企業提供可直接部署的生成式 AI 工作流模板。首發涵蓋客服數字人、藥物虛擬篩選和多模態 PDF 提取,包含參考程式碼、文件及 Helm chart。說白了,企業不用再從零拼湊元件,拿現有微服務就能快速跑通資料飛輪。
Cerebras 推出 Cerebras Inference 推理服務,跑 Llama 3.1 8B 達每秒 1800 token,比超大規模雲端 GPU 快 20 倍。全程保持原生 16 位精度,8B 模型每百萬 token 僅收 10 美分。高吞吐低延遲讓多步驟智慧體真正具備即時響應能力。
本週 Gamescom 上,NVIDIA 宣佈數字人套件 NVIDIA ACE 迎來首款端側小語言模型 Nemotron-4 4B Instruct。該模型由 15B 模型蒸餾量化而來,視訊記憶體佔用極低且響應迅速,支援角色扮演與函式呼叫。最值得關注的是,它能直接在 RTX 電腦上本地執行,讓遊戲 NPC 無需雲端也能即時聽懂指令並互動。
NVIDIA 宣佈開放第 24 屆研究生獎學金申請,為 AI、機器人等領域的在讀博士生提供最高 6 萬美元資助、導師及技術支援。申請者需至少讀完博一,並能在 2025 年夏季參加線下實習。截止日期為 2024 年 9 月 13 日。
據 404 Media 曝光,輝達從 YouTube 和 Netflix 等平臺抓取海量影片,用來訓練代號為 Cosmos 的 AI 模型。當員工質疑版權風險時,管理層稱已獲最高層放行。輝達回應稱完全符合版權法,該技術擬用於 3D 世界生成與數字人等產品。
Nvidia 面向人形機器人開發者推出一系列新工具與服務。開發者戴上 Apple Vision Pro 即可捕捉手勢遙控機器人,並通過 MimicGen 微服務生成大量合成運動資料。這套工作流旨在大幅減少實體資料採集的成本與時間。
據 The Information 報道,Nvidia 因在生產後期發現設計缺陷,已告知微軟等客戶其 Blackwell B200 晶片將延期至少 3 個月,大批出貨或推遲至明年首季。這意味著訂購了數百億美元晶片的雲巨頭們擴產節奏恐放緩。Nvidia 稱下半年量產,對傳聞不予置評。
NVIDIA 在 SIGGRAPH 預覽了互動式數字人「James」以及 Maxine 3D 等技術。James 基於 NVIDIA ACE 與 ElevenLabs 語音打造,能帶情緒和幽默感進行即時互動。最關鍵的是,普通 2D 影片肖像現可通過 Maxine 3D 快速生成 3D 數字人化身。
基於輝達 Edify 架構,Shutterstock 上線 Generative 3D 商業公測,支援文字生成 3D 資產與 16K 級 360 HDRi 背景;Getty Images 則升級生圖服務,速度翻倍至 6 秒出 4 圖,並新增模型微調與草圖控圖。兩家均主打商業正版授權訓練。
NVIDIA 在 SIGGRAPH 上面向全球人形機器人開發者推出全套套件,包括用於生成模擬資料的 NIM 微服務、多階段任務排程服務 OSMO,以及配合 Apple Vision Pro 採集少量演示即可擴增訓練資料的遙操作工作流。開發者加入開發者計劃即可申請早期體驗。
NVIDIA 詳解了企業服務 AI Foundry 的運作模式。它依託 DGX Cloud 算力與 NeMo 平臺,支援企業基於 Llama 3.1 等開源底座微調並打包為 NIM 微服務。這相當於為企業提供大模型代工,讓沒有頂尖演算法團隊的公司也能落地專屬模型。
馬斯克宣佈 xAI 的孟菲斯超級叢集已啟動訓練。該叢集配備 10 萬張液冷輝達 H100,通過單一 RDMA 網路互連。馬斯克稱其為全球最強訓練叢集,目標在今年 12 月訓出全指標最強 AI,不過當地超 100 兆瓦的供電協議尚未敲定。
紅杉資本合夥人 David Cahn 近日測算,AI 行業每年需要產生約 6000 億美元收入,才能抵消資料中心和 GPU 等鉅額投入。即便各大巨頭 AI 收入全超預期,仍有約 5000 億美元的缺口。也就是說,基建投入嚴重超前,商業變現若跟不上,泡沫風險陡增。
OpenAI 聯合創始人 Andrej Karpathy 在 UC 伯克利駭客鬆發表演講。他指出大模型正在成為新的作業系統,計算範式宛如重回 1980 年代。他透露 GPT-4 最早只源於內部一個 Reddit 機器人,鼓勵年輕人靠持續做小專案來滾雪球。
Elon Musk 透露 xAI 將於 8 月推出下一代大模型 Grok 2。該版本著重提升即時知識處理與推理能力,並花大力氣清洗網路訓練資料以減少汙染。Musk 還表示,計劃在年底前推出動用 10 萬張 Nvidia H100 訓練的 Grok 3。
Google 正式釋出新一代開源模型 Gemma 2,提供 9B 和 27B 兩個版本。27B 效能直追兩倍體量模型,能在單張 NVIDIA H100 或 TPU 上跑全精度推理;9B 則在同尺寸中壓過 Llama 3。開發者以商業友好許可開源使用。
Etched 宣佈專用推理晶片 Sohu 並獲 1.2 億美元 A 輪融資。團隊直接把 Transformer 架構固化進晶片,號稱跑 Llama 70B 可達每秒 50 萬 token,8 卡能頂 160 張 H100。不過晶片尚未流片,且完全無法執行其他架構。
週二,輝達股價上漲 3.6%,市值達到 3.34 萬億美元,超越微軟成為全球市值最高的上市公司。今年以來輝達股價已上漲超 170%,佔據約 80% 的資料中心 AI 晶片市場。這表明在生成式 AI 浪潮下,算力基建正徹底重塑科技巨頭格局。
CNBC 報道生成式 AI 正在重塑製藥業,禮來與輝達等高管預計數年內藥物將完全由 AI 自主設計。AI 能在 5 分鐘內生成傳統溼實驗一年的分子量,將藥物發現週期從數年縮減到數月,但真實有效性仍需人體試驗檢驗。