AMD 聯手 Hugging Face:全面最佳化 CPU 與 GPU,transformers 接入 ROCm
AMD 正式加入 Hugging Face 硬體合作伙伴計劃,雙方合作最佳化 AMD 晶片上的大模型訓練與推理。transformers 庫將深度整合 ROCm SDK,讓 LLaMA 等主流模型開箱即用。這為開發者在輝達之外提供了更高性價比的硬體選擇。
AMD 正式加入 Hugging Face 硬體合作伙伴計劃,雙方合作最佳化 AMD 晶片上的大模型訓練與推理。transformers 庫將深度整合 ROCm SDK,讓 LLaMA 等主流模型開箱即用。這為開發者在輝達之外提供了更高性價比的硬體選擇。
Nvidia 盤中市值一度突破 1 萬億美元,成為首家觸及該門檻的晶片巨頭,不過隨後漲幅收窄,收盤市值回落至 9900 億美元。生成式 AI 爆發讓其 GPU 成為硬通貨,公司此前預測二季度銷售額達 110 億美元,比華爾街預期高出 50%。
Nvidia 股價飆升 27%,創下美股單日市值增長超 2000 億美元的新紀錄。最誇張的是指引:官方預計第二季度營收將達 110 億美元,直接把華爾街預期的 72 億甩在身後。黃仁勳表示,生成式 AI 正在引爆全球資料中心向加速計算升級,這場重構才剛剛起步。
週四,Meta 釋出首款專為 AI 打造的自研晶片 MTIA。該晶片自 2020 年啟動研發,採用 8×8 陣列架構並深度繫結 PyTorch,專攻深度學習推薦系統,每瓦能效最高達 GPU 的三倍。不過面對更復雜的神經網路時它仍遜於 GPU。
據彭博社報道,微軟正與 AMD 合作提升其 GPU 處理 AI 負載的能力,並提供工程資源與支援。此舉旨在削弱 Nvidia 在 AI 硬體市場的壟斷地位,以降低執行大模型的高昂伺服器成本。不過微軟斷然否認了 AMD 參與其自研 Athena 晶片的傳聞。
據報道,微軟自 2019 年起秘密研發代號為 Athena 的自研 AI 晶片,旨在訓練大語言模型並擺脫對輝達昂貴 GPU 的過度依賴。目前部分微軟與 OpenAI 員工已拿到晶片測試 GPT-4 執行表現,最早或於明年在內部鋪開。
據內華達州備案檔案披露,馬斯克已於 3 月 9 日成立名為 X.AI 的新人工智慧公司,由其本人擔任董事。此前馬斯克已採購數千塊 GPU,並向特斯拉和 SpaceX 投資者尋求啟動資金,準備開發生成式 AI 產品直接與 OpenAI 競爭。
AWS 宣佈推出 Amazon Bedrock 託管服務及自研 Titan 基礎模型。開發者無需管理底層硬體,即可通過 API 直接呼叫 Claude、Stable Diffusion 等模型,並用私有資料定製微調。目前 Bedrock 正處於小範圍預覽階段。
據 Business Insider 報道,Elon Musk 最近為 Twitter 採購了約 1 萬塊資料中心級 GPU,用於自研生成式 AI 專案。該專案擬利用 Twitter 海量資料展開訓練,可能用於改進搜尋或重建廣告業務。此前 Twitter 還招募了兩名 DeepMind 前研究員。
據曝光的融資檔案,Anthropic 計劃在未來兩年內籌集高達 50 億美元以抗衡 OpenAI。該公司打算在未來 18 個月內投入 10 億美元,開發能力達現有 AI 10 倍的前沿模型「Claude-Next」,需要動用數萬張 GPU 叢集進行訓練。
Midjourney 宣佈暫停免費試用。CEO David Holz 透露,大量使用者註冊臨時賬號刷圖,恰逢 GPU 短缺,甚至影響了付費使用者體驗;這並非因為近期川普等深度偽造圖瘋傳。團隊正在重新設計驗證機制以防濫用。
英國財政大臣 Jeremy Hunt 公佈春季預算,推出一系列科技資助計劃。最受關注的是設立每年 100 萬英鎊、連設 10 年的 AI「曼徹斯特獎」,並斥資 9 億英鎊建造百億億次超算以支援本土前沿研發。不過,這批長期承諾能否頂住預算與政局考驗仍待觀察。
週二,John Hopkins University 牽頭的科研團隊在《Frontiers》發表論文,提出結合 3D 人腦類器官與腦機介面的「類器官智慧」概念。研究團隊希望利用人腦超百億神經元的連線方式突破矽基晶片物理極限,用於醫學和新一代生物計算,但目前仍處在早期探索階段。
Meta 釋出基礎大語言模型 LLaMA,提供 70 億至 650 億引數等多個版本。模型主打更小體積與更低算力消耗,其中 130 億引數版本訓練量達 1 萬億 token。不過目前僅以非商業研究許可面向科研機構與學術人員開放申請。
高通展示在智慧手機上本地執行 Stable Diffusion 1.5,搭載驍龍 8 Gen 2 晶片,在 15 秒內生成一張 512×512 畫素影像,創下手機本地執行速度紀錄。相比依賴雲端,本地執行無需聯網且更有利於隱私,不過該最佳化目前僅為技術演示,尚未公開發布。
AWS 與 Hugging Face 宣佈擴大雲夥伴關係,Hugging Face 指定 AWS 為首選公有云。開發者可在 Amazon SageMaker 上幾鍵部署其託管的模型,並支援呼叫 AWS 自研的 Trainium 和 Inferentia 晶片進行訓練與推理,大幅降低生成式 AI 的開發門檻。
據彭博社報道,華爾街將 Nvidia 視為 ChatGPT 熱潮的最大受益者。花旗預計其未來 12 個月將為 Nvidia 帶來 30 億至 110 億美元營收。大模型對 GPU 算力的渴求成為核心推力,但分析師也提示需警惕熱潮消退的週期風險。
OpenAI 宣佈與微軟延長合作,敲定一項多年、數十億美元的追加投資。Azure 將繼續作為 OpenAI 研究、API 與產品全線工作負載的獨家雲提供商。雙方還將加大超算系統投入,並通過 Azure OpenAI Service 加速模型落地。
IEEE Spectrum 報道 UCLA 團隊開發出寬頻衍射光學處理器,用光子替代電子執行計算。該系統通過波長複用,能以光速同時處理數千個波長通道的矩陣運算,除光源外幾乎不耗電,有望化解 AI 算力的能耗危機。
微軟宣佈 Azure OpenAI 服務正式商用,企業可申請接入 GPT-3.5、Codex 和 DALL-E 2 等大模型。微軟還透露即將引入 ChatGPT。企業能直接呼叫具備合規與內容過濾的 OpenAI 能力,不過目前仍需先申請用例獲批後方可使用。