AMD 推出本地 AI 套件 Amuse 2.0：支援 XDNA 超分，免命令列一鍵生圖
AMD 聯合 TensorStack 推出本地 AI 套件 Amuse 2.0 Beta，主打完全在本地執行的生圖體驗。軟體無需命令列，提供「EZ 模式」降低門檻；最值得關注的是引入 XDNA 超解析度技術，生圖末期可直接輸出 2 倍尺寸畫面。不過硬體有一定門檻，需配備指定的 Ryzen 或 Radeon 裝置。
AI算力
檢視更新的新聞
NVIDIA 詳解 AI Foundry：像台積電代工晶片一樣，幫企業定製大模型
NVIDIA 詳解了企業服務 AI Foundry 的運作模式。它依託 DGX Cloud 算力與 NeMo 平臺，支援企業基於 Llama 3.1 等開源底座微調並打包為 NIM 微服務。這相當於為企業提供大模型代工，讓沒有頂尖演算法團隊的公司也能落地專屬模型。
The Verge 探討 AI 能耗問題：巨頭排放超標，但耗電的不止大模型
The Verge 播客 Decoder 探討了 AI 激增對氣候危機的影響。隨著微軟、Google 等科技巨頭擴建資料中心，其碳排放目標紛紛超標，但高功耗在流媒體和遊戲產業同樣普遍。核心爭議在於，我們該如何權衡 AI 消耗的能源到底值不值。
馬斯克啟用全球最強 AI 叢集：10 萬張液冷 H100 訓下代 Grok
馬斯克宣佈 xAI 的孟菲斯超級叢集已啟動訓練。該叢集配備 10 萬張液冷輝達 H100，通過單一 RDMA 網路互連。馬斯克稱其為全球最強訓練叢集，目標在今年 12 月訓出全指標最強 AI，不過當地超 100 兆瓦的供電協議尚未敲定。
Hugging Face 接入谷歌雲 TPU：每小時 1.38 美元起，一鍵跑開源大模型
Hugging Face 宣佈在 Inference Endpoints 與 Spaces 上線 Google Cloud TPU v5e。最低單核例項每小時 1.375 美元，配合開源庫 Optimum TPU，開發者動動滑鼠就能一鍵部署執行 Gemma、Llama 和 Mistral。
紅杉報告敲警鐘：AI 行業每年得賺 6000 億美元才能回本
紅杉資本合夥人 David Cahn 近日測算，AI 行業每年需要產生約 6000 億美元收入，才能抵消資料中心和 GPU 等鉅額投入。即便各大巨頭 AI 收入全超預期，仍有約 5000 億美元的缺口。也就是說，基建投入嚴重超前，商業變現若跟不上，泡沫風險陡增。
Etched 釋出專用晶片 Sohu：號稱 Transformer 推理比 H100 快 20 倍
Etched 宣佈專用推理晶片 Sohu 並獲 1.2 億美元 A 輪融資。團隊直接把 Transformer 架構固化進晶片，號稱跑 Llama 70B 可達每秒 50 萬 token，8 卡能頂 160 張 H100。不過晶片尚未流片，且完全無法執行其他架構。
造超算訓 Grok 3：馬斯克拉上 Dell 和超微組裝伺服器機架
Elon Musk 在社交平臺 X 上透露，Dell 和 Super Micro 將為 xAI 正在建造的超算提供伺服器機架。Dell 將負責組裝一半機架，並與 Nvidia 合作打造「AI 工廠」，目標是堆疊 10 萬張 H100 訓練 Grok 3。
輝達市值達 3.34 萬億美元：超越微軟成全球市值最高公司
週二，輝達股價上漲 3.6%，市值達到 3.34 萬億美元，超越微軟成為全球市值最高的上市公司。今年以來輝達股價已上漲超 170%，佔據約 80% 的資料中心 AI 晶片市場。這表明在生成式 AI 浪潮下，算力基建正徹底重塑科技巨頭格局。
納德拉在 G7 峰會發言：過去三個月向印尼、肯亞等國投 50 億美元建 AI 設施
微軟董事長兼 CEO 納德拉在 G7 峰會發表演講。他提到過去三個月微軟已在印度尼西亞、馬來西亞、泰國以及肯亞累計投資 50 億美元建設雲與 AI 基礎設施，並與阿聯酋 G42 合作在肯亞設立東非受信資料區，以推動全球低收入地區的生產力與數字普惠。
OpenAI 聯手甲骨文擴充算力：借 OCI 跑推理，緩解 ChatGPT 壓力
本週 OpenAI、微軟與 Oracle 達成合作，OpenAI 將在 Oracle 雲基礎設施上執行 Azure AI 平臺以擴充推理算力。此前 OpenAI 算力完全依賴微軟，但面對 ChatGPT 龐大需求已捉襟見肘。官方強調戰略關係不變，前沿模型預訓練仍留在微軟超算上。
圍攻輝達：微軟、谷歌、AMD 等巨頭聯手推 UALink 互連標準
Intel、Google、Microsoft、Meta 與 AMD 等科技巨頭宣佈成立 UALink 推廣組，聯手製定連線資料中心 AI 加速晶片的開放標準。UALink 1.0 最多支援單計算單元內連線 1024 個加速器，意在打破 Nvidia 專有互連技術的壟斷壁壘。
xAI 完成 60 億美元 B 輪融資：紅杉等參投，加速算力建設
xAI 宣佈完成 60 億美元 B 輪融資，紅杉資本與 Andreessen Horowitz 等參投。資金將用於首批產品推向市場、建設基礎設施並加速研發。從 Grok-1 到多模態的 Grok-1.5V，這筆資金將支撐其後續的算力擴張。
Apple 推出 M4 晶片：首發搭載 iPad Pro，強化端側 AI 算力
Apple 釋出採用第二代 3 奈米技術的 M4 晶片，並在新款 iPad Pro 上首發。該晶片配備更強的神經網路引擎，聲稱運算速度超越當前一眾 AI PC。加上首次引入硬體級光追，蘋果正全力把平板打造成端側 AI 生產力工具。
Google 砸 30 億美元擴建資料中心，並設 7500 萬美元基金免費教 AI
Google 宣佈投資 30 億美元用於維吉尼亞州與印第安納州的資料中心擴建與新建。此外，Google.org 設立 7500 萬美元的 AI 機會基金並上線 Google AI Essentials 課程，計劃聯合公益機構為 100 萬美國人提供免費 AI 技能培訓。
微軟挖來前 Meta 基礎架構副總裁，負責下一代 AI 超算系統
前 Meta 基礎架構副總裁 Jason Taylor 加入微軟，出任副技術長，重點負責推動下一代 AI 超算系統建設。Taylor 曾長期統管 Meta 的 AI 資料基礎設施與伺服器預算。在算力需求暴增的當下，微軟正在全力囤積底層基建大將。
NVIDIA 全面加速 Llama 3：單張 H200 跑 70B 每秒吐 3000 token
NVIDIA 宣佈對 Meta 新發布的 Llama 3 進行全平臺推理最佳化。測試顯示，單張 H200 執行 700 億引數版本時每秒生成約 3000 token，可同時服務約 300 名使用者；80 億引數版本也已適配 Jetson 和 RTX PC。開發者可直接通過 NIM 微服務在瀏覽器中試用。
Intel 釋出神經擬態計算機 Hala Point：擁有 11.5 億神經元，僅微波爐大小
Intel 推出全球最大神經擬態計算機 Hala Point，內建 1152 顆 Loihi 2 晶片和 11.5 億個神經元，體積僅如微波爐。它模仿人腦存算一體架構，執行最佳化問題能效提升百倍。不過軟體工具仍處初期，暫無法用於大模型預訓練。
DeepMind CEO 透露：Google 在 AI 上的投資將超 1000 億美元
週一，DeepMind CEO Demis Hassabis 在 TED 大會上表示，Google 隨時間推移在 AI 上的投入將超過 1000 億美元。面對微軟與 OpenAI 傳聞中的千億超算計劃，他堅稱 Google 算力超越對手，資金將投向 Axion 晶片與資料中心基礎設施。
Intel 釋出 Gaudi 3：宣稱部分大模型表現比輝達 H100 快 1.7 倍
在 Vision 2024 大會上，Intel 正式推出 Gaudi 3 AI 晶片，採用台積電 5nm 工藝並配備 128GB HBM2e 記憶體。官方稱其執行 LLaMA 等大模型時速度最高比 Nvidia H100 快 1.7 倍、能效高 2.3 倍。風冷版將於三季度全面上市，液冷版四季度跟進。