Meta 公佈新一代自研 AI 晶片 MTIA：算力翻倍，專攻推薦與推理
Meta 公佈了新一代自研 AI 推理晶片 MTIA。新晶片採用台積電 5nm 製程，算力與記憶體頻寬比第一代提升超一倍，在關鍵推薦模型上的效能提升了 3 倍。這意味著 Meta 正在加速擺脫對商用 GPU 的單一依賴，目前該晶片已在資料中心正式上線服役。
AI算力
檢視更新的新聞
加拿大宣佈 24 億加元 AI 投資：20 億砸向算力基建
加拿大總理 Justin Trudeau 宣佈在 2024 年預算中投入 24 億加元支援本土 AI 發展。其中 20 億加元將用於建設算力基礎設施與推出主權算力戰略，另設 5000 萬加元成立加拿大 AI 安全研究所。政府希望藉此留住頂尖人才與初創企業。
傳微軟與 OpenAI 擬建千億美元超算「星際之門」
據 The Information 報道，微軟與 OpenAI 正規劃耗資高達 1000 億美元的超級計算機資料中心專案「Stargate」。該專案擬部署數百萬顆專用晶片，計劃最快於 2028 年推出，後續電力需求可能高達 5 吉瓦。不過專案能否推進，還取決於 OpenAI 能否顯著提升模型能力。
Intel 爆料：微軟 Copilot 將支援本地執行，但門檻是 40 TOPS 算力
Intel 透露微軟計劃讓 Copilot 的更多功能直接在 PC 本地執行，從而減少雲端延遲並保護隱私。不過下一代 AI PC 要求 NPU 算力超過 40 TOPS，目前市面上在售的消費級處理器均未達到這一標準。
亞馬遜追投 Anthropic 27.5 億美元：創下其史上最大對外投資
亞馬遜宣佈向 AI 初創公司 Anthropic 追加 27.5 億美元投資，完成此前承諾的高達 40 億美元總投資。作為協議一部分，Anthropic 將主要使用 AWS 雲服務和亞馬遜自研晶片。面對微軟與 OpenAI 的聯盟，雲巨頭們正通過鉅額風投繫結頂級大模型。
MLPerf 推理基準出爐：Nvidia H200 霸榜，AMD 再次缺席
MLCommons 公佈最新 MLPerf 推理評測結果，Nvidia 攜 H200 參測全部專案，配合 TensorRT-LLM 表現強勁，其推理業務已佔資料中心收入約 40%。Intel 提交了 Gaudi2 與至強成績，而 AMD MI300 再次缺席。
Meta 瘋狂搶人：扎克伯格親自寫信挖角，部分 AI 崗位免面試發 offer
據報道，Meta 為爭奪頂尖 AI 人才採取極端策略。CEO 扎克伯格親自給 Google DeepMind 研究員發郵件挖角，部分候選人甚至能跳過面試直接拿 offer，公司還取消了不給提離職員工加薪的慣例。這顯示出巨頭對 AI 核心人才的爭奪已白熱化。
NVIDIA 釋出 Blackwell 晶片架構：推理速度提升 5 倍，直奔萬億引數模型
NVIDIA CEO 黃仁勳釋出新一代 Blackwell 架構。它專為萬億引數多模態模型打造，單晶片 FP4 推理效能達前代 Hopper 的 5 倍，訓練效能提升 2.5 倍，同時還帶來了打包部署工具 NIM。說白了，AI 算力正在全面告別通用計算，各家巨頭也已集體排隊採購。
Nvidia 推出量子云服務：用 GPU 模擬量子計算，已開啟早期預覽
Nvidia 在 GTC 大會上釋出 Nvidia Quantum Cloud 微服務，讓開發者能借助 GPU 模擬量子處理器的執行環境。該服務支援化學、生物及金融等領域的量子演算法測試，同時公佈了抗量子攻擊密碼庫 cuPQC。目前該雲服務已開啟早期預覽。
Nvidia 進軍人形機器人：釋出通用基礎模型 GR00T 與 Jetson Thor
Nvidia 在 GTC 大會上釋出面向人形機器人的通用基礎模型平臺 Project GR00T，以及基於 Blackwell 架構的專用計算機 Jetson Thor。包括波士頓動力、Figure AI、宇樹科技在內的幾乎所有主流人形機器人廠商均已加入合作，加速具身智慧開發。
Sam Altman 做客播客談內亂：通往 AGI 的路註定伴隨權力鬥爭
OpenAI CEO Sam Altman 在 Lex Fridman 播客中回顧了去年 11 月的董事會解僱風波。他稱那是職業生涯中最痛苦的經歷，公司險些被毀，但也讓團隊提前適應了壓力。他認為算力將成為未來最重要的貨幣，通向 AGI 的道路必然伴隨著巨大的權力鬥爭。
Nvidia 推出 Earth-2 雲平臺：用生成式 AI 預測極端天氣，提速千倍
在 GTC 2024 上，Nvidia 宣佈正式上線 Earth-2 氣候數字孿生雲平臺。它結合生成式 AI 模型 CorrDiff 與 Omniverse，能以兩公里級解析度模擬全球與區域性氣象，速度比傳統數值模型快 1000 倍、能效高 3000 倍。臺灣氣象部門已率先接入用於颱風路徑預測。
Inflection 釋出 Inflection-2.5：號稱用 40% 算力逼近 GPT-4
據報道，Inflection 推出新底座模型 Inflection-2.5。官方稱其效能逼近 GPT-4，而訓練算力僅用了約 40%。這意味著繼 Claude 3 與 Gemini 1.5 之後，GPT-4 的壁壘再次被打破，頂尖大模型的訓練門檻正在快速下降。
Groq 收購初創公司 Definitive Intelligence：全力擴建 GroqCloud
AI 推理晶片創企 Groq 宣佈收購資料分析初創公司 Definitive Intelligence，金額未披露。對方此前協助搭檔構建了按需呼叫 LPU 晶片的 GroqCloud，其創始人 Sunny Madra 將統領該業務，並協助設立面向政企交付的 Groq Systems 部門。
微軟公佈 DirectSR：一條程式碼打通輝達、AMD 和英特爾超解析度
微軟公佈全新 Windows API「DirectSR」，聯合 Nvidia、AMD 和 Intel 統一遊戲超解析度支援。開發者只需接入一套統一程式碼，即可同時相容 DLSS、FSR 和 XeSS。微軟稱其為連線遊戲與超分技術的「缺失一環」，將很快在 Agility SDK 預覽版中上線。
微軟結盟 Mistral AI：旗艦模型 Mistral Large 首發上線 Azure
Microsoft 宣佈與 Mistral AI 達成多年合作，率先在 Azure AI 上線其旗艦模型 Mistral Large。微軟將為其提供超算算力，企業可通過 MaaS 模式直接呼叫。這意味著微軟在 OpenAI 之外，正式將歐洲最強模型納入雲生態。
Google 深化與 Reddit 合作：接入即時資料訓 AI，後者用 Vertex AI 改版搜尋
Google 宣佈擴大與 Reddit 的合作，正式接入 Reddit 即時 Data API，用於搜尋展示及 AI 模型訓練。與此同時，Reddit 也將採用 Google Cloud 的 Vertex AI 來增強站內搜尋與相關能力。這讓 Google 在真實人類語料的爭奪中拿下了關鍵一手。
Groq 憑自研 LPU 走紅：每秒狂飆 247 個 Token，比微軟快 13 倍
AI 晶片公司 Groq 研發的 LPU 晶片走紅網路。根據第三方測試，Groq 執行大語言模型可達每秒 247 個 Token，比微軟雲端快了 13 倍。最值得關注的是，這種超低延遲讓即時語音對話成為可能，不過其擴充套件能力仍有待檢驗。
NVIDIA 推出 Chat with RTX：本地免費跑大模型，直接問答個人文件與影片
NVIDIA 推出免費技術 Demo「Chat with RTX」，使用者可將本地文件或 YouTube 影片掛載給 Mistral、Llama 2 等開源大模型，直接在 PC 端離線對話。所有資料無需上傳雲端，隱私更有保障；硬體門檻為 GeForce RTX 30 Series GPU 或更高顯示卡，視訊記憶體至少 8GB。
黃仁勳談主權 AI：每個國家都該擁有自己的智慧基礎設施
NVIDIA 創始人兼 CEO 黃仁勳在迪拜世界政府峰會上表示，每個國家都必須掌握自身的人工智慧生產力，建立擁有本土資料和文化的大模型。他建議各國先構建基礎設施，並表示 AI 普及正讓人類語言成為新的通用程式語言。