NVIDIA 模擬平臺 Isaac Sim 登陸 AWS:搭載 L40S,效能提升 2 倍
NVIDIA 宣佈 Isaac Sim 與 L40S GPU 上線 AWS。相比上一代 A40,L40S 在機器人模擬任務中效能翻倍,在 Omniverse 中渲染提速達 3.8 倍。開發者可直接通過 AWS 映象部署,加速倉儲和製造機器人的雲端開發。
NVIDIA 宣佈 Isaac Sim 與 L40S GPU 上線 AWS。相比上一代 A40,L40S 在機器人模擬任務中效能翻倍,在 Omniverse 中渲染提速達 3.8 倍。開發者可直接通過 AWS 映象部署,加速倉儲和製造機器人的雲端開發。
NVIDIA CEO 黃仁勳在法國 Scaleway 大會上指出,AI 正迎來由「主權 AI」與行業落地推動的第二波浪潮。Scaleway 藉機上線了搭載 1016 塊 H100 的本土超算 Nabu,為歐洲初創團隊提供合規算力支援。
NVIDIA 正式推出 H200 GPU 及 HGX H200 平臺。這是首款搭載 HBM3e 記憶體的 GPU,容量達 141GB、頻寬達 4.8 TB/s。硬體相容現有的 H100 系統,預計明年二季度開始由各大雲廠商和伺服器廠商出貨。
英國政府宣佈出資 2.25 億英鎊建造 AI 超級計算機 Isambard-AI。該系統由布里斯托大學託管、Hewlett Packard Enterprise 建造,搭載 5448 塊輝達 GH200 超級晶片,可提供 21 exaflops 算力,預計 2024 年投入運營。
Phind 推出自研程式設計模型,在 HumanEval 評估中取得 74.7% 的成績,編碼表現超越 GPT-4。藉助 NVIDIA TensorRT-LLM 與 H100,生成速度達每秒 100 token,並支援 16k 上下文。該模型已在 Hugging Face 開源,同時提供網頁端與 VS Code 外掛免費試用。
比爾·蓋茨在接受德國《商報》採訪時表示,生成式 AI 或已觸及瓶頸,GPT-4 可能已接近當前極限,GPT-5 不會明顯優於前代。不過他認為未來兩到五年內 AI 準確率將大幅提高且成本繼續下降,將在醫療等領域催生更可靠的應用。
在 TechWorld 2023 上,聯想公佈混合 AI 戰略,涵蓋公有大模型、企業私有模型與個人端側模型。聯想宣佈深化與輝達合作,推出最佳化的伺服器與工作站,並開發模型剪枝與量化技術把大模型輕量化到 PC 上執行,同時通過隱私代理保護企業資料。
佛羅里達大學研究團隊藉助 NVIDIA DGX A100 與 Google 街景影像,開發出建築安全自動評估模型。災後需要耗時數月的人工排查被縮短至數小時,按 FEMA 標準評估準確率超 85%。目前該系統正在墨西哥等地的城市展開實測。
NVIDIA Research 公佈 AI 智慧體 Eureka,它基於 GPT-4,能自主編寫獎勵演算法訓練機器人。在近 30 項任務測試中,Eureka 生成的獎勵程式在超過 80% 的任務上超越人類專家編寫的版本,平均效能提升 50% 以上,甚至教會了機械手轉筆。
Masterpiece Studio 聯合輝達推出文本生成 3D 工具 Masterpiece X – Generate。它基於瀏覽器執行,接入 NVIDIA Picasso 推理服務,打字即可生成帶貼圖和簡單動畫的模型,支援匯出至 Blender。官方表示其暫不適合 3A 高模,但能大幅降低創意打樣成本。
據路透社報道,OpenAI 正在考慮自研專用 AI 晶片,甚至評估過收購晶片製造企業。隨著大模型爆發,輝達 GPU 供不應求且開銷巨大。Altman 已將晶片供應列為頭等大事,但自研晶片通常耗時數年且需耗資數億美元。
據路透社報道,OpenAI 正探索自研 AI 晶片以緩解算力短缺,方案包括自主設計或收購晶片製造商。CEO Sam Altman 已將獲取晶片列為頭等大事。此舉旨在降低高昂運營成本,但晶片研發極耗資金且週期長,面臨不小風險。
醫療初創公司 Invenio 聯合 NVIDIA 推出手術室級 AI 活檢系統。它基於 Jetson Orin 邊緣計算,在手術檯旁僅用 3 分鐘就能完成新鮮組織切片分析,識別癌細胞並輔助判斷切除範圍,將以往耗時數週的病理送檢流程大幅壓縮。
Getty Images 聯手 Nvidia 推出生圖工具 Generative AI by Getty Images。該工具基於 Nvidia Edify 模型,完全使用 Getty 授權相簿訓練,並向商業使用者承諾提供完整的版權賠償保障。它禁止生成現實名人及特定藝術家風格,試圖在 AI 版權爭議中走一條合規商業路線。
Chan Zuckerberg Initiative 宣佈資助搭建包含 1000 多塊輝達 H100 的計算叢集。該系統旨在通過生成式 AI 構建模擬健康與患病狀態的「虛擬細胞」,幫助科學家預測人體對疾病或新藥的反應。最值得關注的是,CZI 打算將這些細胞模型公開發布,降低科研人員使用頂尖 AI 算力的門檻。
NVIDIA 推出開源庫 TensorRT-LLM,專為加速大語言模型推理設計。它引入動態組批與 FP8 精度,在 H100 上相比 A100 帶來最高 8 倍吞吐提升,Llama 2 推理提速 4.6 倍。開發者通過 Python API 即可呼叫底層並行最佳化,大幅降低算力與電費支出。
自動駕駛初創公司元戎啟行宣佈計劃於 2024 年在德國設立運營中心,並向歐洲車企推介量產級方案 Drive 3.0。該方案不依賴高精地圖,硬體成本控制在 2000 美元。隨著行業重心從 Robotaxi 轉向更易變現的量產輔助駕駛,出海成了爭奪車企訂單的新戰場。
美國政府擴大高階 AI 晶片出口限制,要求 Nvidia 和 AMD 在向中東部分國家出口 A100、H100 等晶片前必須取得許可。兩家公司均表示該限制短期內不會對營收產生實質影響。最值得關注的是,這意味著針對尖端算力的出口審查正在向全球更多區域擴散。
Google Cloud 宣佈搭載 NVIDIA H100 GPU 的 A3 例項正式商用。雙方同時深化了軟體層面的合作,支援 PaxML 框架利用輝達 GPU 進行加速並上線 NGC 容器庫,以滿足大模型暴漲的算力需求。
Google Cloud 推出第五代自研 TPU 處理器,重點提升能效與價效比。相比上代,單位美元訓練效能提升 2 倍、推理提升 2.5 倍,單個任務可跨叢集擴充套件至數萬顆晶片。此外,搭載輝達 H100 的 A3 虛擬機器也將於下月正式開放。