AMD 正式推出 MI300 晶片:推理效能超 H100,正面叫板輝達
AMD 推出 Instinct MI300X 加速卡與 MI300A APU,瞄準大模型訓練與推理。官方稱其在執行 Llama 2 時推理效能是輝達 H100 的 1.4 倍,微軟與 Meta 均已確認採用;同時釋出的還有整合 NPU 的 Ryzen 8040 筆記本晶片。
AMD 推出 Instinct MI300X 加速卡與 MI300A APU,瞄準大模型訓練與推理。官方稱其在執行 Llama 2 時推理效能是輝達 H100 的 1.4 倍,微軟與 Meta 均已確認採用;同時釋出的還有整合 NPU 的 Ryzen 8040 筆記本晶片。
Apple 機器學習團隊悄然開源了針對 Apple Silicon 最佳化的機器學習框架 MLX 及資料庫 MLX Data。它借鑑了 PyTorch 等設計,利用共享記憶體架構讓 CPU 與 GPU 無需搬運資料,足以在 Mac 本地訓練和執行 Llama、Stable Diffusion 等大模型。
麥當勞與 Google Cloud 宣佈達成多年全球戰略合作。麥當勞將在數千家門店部署 Google Distributed Cloud 軟硬體,結合邊緣計算與生成式 AI,升級手機 App 與自助點餐機並減少運營中斷。硬體升級預計明年鋪開。
Microsoft 釋出並開源小語言模型 Orca 2。它不再盲目模仿大模型,而是學會針對不同任務選擇分步思考或直接作答等不同策略;在複雜零樣本推理評測中,其表現接近甚至超越體量大 5 到 10 倍的模型。
Samsung 推出自研生成式 AI 模型 Gauss。該模型由 Samsung Research 開發,包含處理翻譯和摘要的 Language、程式設計助手 Code 以及影像生成與編輯的 Image 三部分。相比依賴雲端的方案,它主打端側本地執行,預計將搭載於明年的 Galaxy S24 系列中。
據報道,特斯拉計劃將 xAI 新發布的 Grok 助手接入電動車。早期測試者透露車機將原生執行較小量化版 Grok,馬斯克隨後確認若車載電腦能跑通該模型,特斯拉車隊將成為龐大的分散式推理網路。不過該整合目前尚無具體推送時間表。
Waymo 與 Uber 宣佈在鳳凰城推出無人駕駛網約車服務。使用者呼叫 UberX、Uber Comfort 等車型時,可直接匹配 Waymo 無人車。此時正值對手 Cruise 在加州被暫停許可,Waymo 借 Uber 龐大的打車網路加速商業化。
在 TechWorld 2023 上,聯想公佈混合 AI 戰略,涵蓋公有大模型、企業私有模型與個人端側模型。聯想宣佈深化與輝達合作,推出最佳化的伺服器與工作站,並開發模型剪枝與量化技術把大模型輕量化到 PC 上執行,同時通過隱私代理保護企業資料。
MSPoweruser 曝光了高通驍龍 8 Gen 3 的完整規格表。作為首款專為生成式 AI 打造的移動平臺,它升級了 Hexagon NPU 並支援 INT4 精度,還加入了虛幻 5.2 光追。最值得關注的是,安卓旗艦的端側大模型算力底座終於要來了。
據 BleepingComputer 報道,Google Chrome 正在開發「Organize Tabs」功能。該入口位於瀏覽器左上角,能夠智慧重新排序已開啟的標籤頁,並在系統分類後自動建立標籤組以清理瀏覽空間。
Stability AI 推出 3B 引數的輕量語言模型 Stable LM 3B,專為掌上裝置和筆記本打造。它的常識推理表現不僅超越同尺寸前代模型,還勝過部分開源 7B 模型,能顯著降低端側執行成本。模型以 CC-By-SA 4.0 協議開源,作為基礎模型供開發者微調。
Google 聯手宏碁、惠普等廠商推出全新 Chromebook Plus,起售價 399 美元。硬體規格強制翻倍,並把 AI 深度做進系統底層,所有視訊通話都能跨軟體一鍵降噪與補光,還自帶相簿魔術橡皮擦。最值得看的是,Google 藉此把原本高階機專屬的 AI 體驗拉進了平價區間。
Apple CEO 蒂姆·庫克確認,蘋果「當然」正在研發類 ChatGPT 的生成式 AI,並計劃在英國擴大 AI 招聘。他提到 AI 早已應用在 Apple Watch 跌倒檢測和 iPhone 預測輸入中。面對各家的對話助手競爭,這番表態坐實了蘋果也在暗中發力大模型。
醫療初創公司 Invenio 聯合 NVIDIA 推出手術室級 AI 活檢系統。它基於 Jetson Orin 邊緣計算,在手術檯旁僅用 3 分鐘就能完成新鮮組織切片分析,識別癌細胞並輔助判斷切除範圍,將以往耗時數週的病理送檢流程大幅壓縮。
Apple 正式推送 macOS Sonoma 免費更新。新系統不僅加入桌面小元件、遊戲模式和視訊會議特效,鍵盤自動糾錯更全面換上端側 Transformer 語言模型,大幅提升輸入與聽寫準確率。換句話說,日常打字型驗有了更底層的人工智慧加速。目前支援裝置已全面開放升級。
據洩露的宣傳影片顯示,Google 即將釋出的 Pixel 8 系列將搭載 AI 攝影工具 Magic Editor。除了能把多張連拍合成出全員看鏡頭的完美合照,還能直接挪動物體或把正午天空換成落日晚霞。此外,新機還增加了快門與 ISO 等單反級手動控制。
Microsoft 釋出四款面向企業的 Surface 裝置,包括 Laptop Studio 2、Laptop Go 3、Go 4 和 Hub 3。新硬體不僅效能大幅翻倍,還深度集成了 AI 自動取景、眼神矯正以及白板中的 Copilot 等智慧辦公工具。
Engadget 報道 Microsoft 定於 9 月 21 日舉行秋季特別釋出活動。外界預計將迎來 Surface Laptop Studio 等硬體效能迭代,並穿插 AI 相關訊息。官方未設即時直播,完整錄播將在事後上線。
掌舵 Surface 十餘年的 Panos Panay 突然從微軟離職。微軟隨即重組管理層,由 Yusuf Mehdi 和 Pavan Davuluri 分管業務與晶片硬體,並新設團隊研發 Windows 的 AI 網路服務。也就是說,微軟正將作業系統與硬體重心全面推向 AI 驅動。
Apple 在 iPhone 15 釋出會上避開生成式 AI 狂歡,聚焦潤物細無聲的端側體驗。新機搭載 A17 Pro 晶片,依靠機器學習實現通話語音隔離、自動人像測深與語音信箱轉寫,甚至能為漸凍症患者合成聲音。說白了,Apple 不拼聊天機器人,只想用無感預測解決實際痛點。