Meta 首席 AI 科學家 LeCun:大模型永遠無法達到人類智慧
Meta 首席 AI 科學家 Yann LeCun 直言大語言模型絕不可能達到人類級智慧。他指出 LLM 欠缺推理、規劃、持久記憶和物理世界理解四大核心能力,純靠文本訓練如同走入死衚衕,並提出應轉向依靠感測器和影片建立「世界模型」的路線。
Meta 首席 AI 科學家 Yann LeCun 直言大語言模型絕不可能達到人類級智慧。他指出 LLM 欠缺推理、規劃、持久記憶和物理世界理解四大核心能力,純靠文本訓練如同走入死衚衕,並提出應轉向依靠感測器和影片建立「世界模型」的路線。
Meta 公佈了新一代自研 AI 推理晶片 MTIA。新晶片採用台積電 5nm 製程,算力與記憶體頻寬比第一代提升超一倍,在關鍵推薦模型上的效能提升了 3 倍。這意味著 Meta 正在加速擺脫對商用 GPU 的單一依賴,目前該晶片已在資料中心正式上線服役。
Meta 確認將在下個月內開始推出下一代開源大語言模型 Llama 3,年內會陸續推出不同能力和規格的版本。Llama 3 將接入 Meta 旗下多款產品,重點解決此前回答受限的問題,並有望將最大引數規模從 Llama 2 的 700 億提升至約 1400 億。
據《紐約時報》報道,OpenAI 為緩解訓練資料匱乏,曾利用 Whisper 轉錄超過 100 萬小時的 YouTube 影片用於訓練 GPT-4。內部明知存在法律爭議,仍認定為合理使用。Google 與 Meta 也被曝面臨資料耗盡危機,正處於版權灰色地帶。
據報道,Meta 為爭奪頂尖 AI 人才採取極端策略。CEO 扎克伯格親自給 Google DeepMind 研究員發郵件挖角,部分候選人甚至能跳過面試直接拿 offer,公司還取消了不給提離職員工加薪的慣例。這顯示出巨頭對 AI 核心人才的爭奪已白熱化。
週三,Meta CEO 扎克伯格在首爾與 LG 電子高管會面,商討新一代擴充套件現實裝置研發及端側 AI 合作。面對蘋果 Vision Pro 帶來的競爭壓力,Meta 正加速拉攏硬體盟友,將大模型技術塞入終端裝置。扎克伯格此行還計劃會見三星電子高層與韓國總統。
Meta 推出非生成式影片模型 V-JEPA。它不在畫素層面摳細節,而是在抽象特徵空間預測被遮擋的影片內容,訓練和樣本效率比傳統做法高出 1.5 到 6 倍。預訓練完成後無需微調全部引數,只加一層輕量網路就能適配動作分類等多種任務。
一份創作者指南梳理了防止作品被 AI 訓練的方法。創作者除向 OpenAI、Meta 等申請排除後續訓練外,還可藉助 Glaze 與 Nightshade 進行畫素偽裝或投毒。由於官方退出流程繁瑣且不追溯舊資料,技術加噪成了畫師主動維權的實用屏障。
Ray-Ban Meta 智慧眼鏡迎來 Version 2.0 軟體更新,重點優化了相機降噪、曝光與低光成像,並在鏡腿觸控板加入了全域性音量控制。不過備受期待的多模態 AI 視覺識別功能依然缺席,普通使用者依然無法體驗讓眼鏡辨識物體或翻譯文字的能力。
Meta 宣佈將在 Facebook、Instagram 和 Threads 上標出 AI 生成影像。除了自家的 Meta AI,還將通過 C2PA 和 IPTC 標準識別 OpenAI、Google、Midjourney 等外部工具製作的圖片。對 AI 影片和音訊,Meta 要求使用者主動申報,違者或受懲罰。
Meta 釋出程式碼生成模型 Code Llama 70B,包含基礎版、指令微調版及 Python 專版。該模型基於 5000 億 token 程式碼訓練,支援 10 萬 token 上下文視窗,沿用先前的開源許可協議,允許學術和商業免費微調與使用。
Meta 扎克伯格宣佈正在訓練下一代大模型 Llama 3,重點補齊程式碼生成、推理與規劃能力。為了打造通用人工智慧(AGI),Meta 預計在年底前囤積超 34 萬張輝達 H100 晶片,總算力摺合近 60 萬張 H100,並調整架構讓前沿科研更直接對接數十億產品使用者。
週三,Instagram 面向美國使用者推出生成式 AI 背景編輯工具。使用者在快拍中點選背景編輯圖示,輸入提示詞或選擇「被恐龍追」等預設即可更換圖片背景。釋出後還會附帶「Try it」貼紙吸引好友一鍵跟風,目前該功能僅限美區可用。
Meta 開始向第二代 Ray-Ban 智慧眼鏡推送多模態 AI 測試版,使用者只要說「Hey, Meta, look」,眼鏡就會拍照並通過生成式 AI 解讀眼前的物體。最值得關注的是,眼鏡把視覺與語音問答結合到了日常佩戴體驗中。不過目前處於早期測試階段,每次識別都需要拍照且偶有幻覺。
Meta 開放音訊生成基礎研究模型 Audiobox 的試用 Demo。該模型支援零樣本語音合成(Zero shot TTS)、文本生成音效以及音訊修復填充(Infilling)等能力,現在即可直接線上體驗。
Meta 宣佈啟動 Purple Llama 專案,為開源生成式 AI 提供安全評測與防護工具。首批上線內容包括業內首套大模型網路安全評估基準,以及負責檢測與過濾風險內容的 Llama Guard 基礎模型,均開放商用與研究授權。
Meta 推出獨立的網頁端 AI 影像生成工具 Imagine with Meta。它基於底層 Emu 模型,美國使用者可免費通過自然語言一次生成 4 張高解析度影像。最值得關注的是,Meta 還承諾在未來幾週加入抗裁剪、抗壓縮的不可見 AI 水印,以提升透明度與溯源能力。
Meta 宣佈升級旗下多項 AI 體驗。Ray-Ban Meta 智慧眼鏡正式向美區早期使用者測試多模態識別與 Bing 即時檢索,能看懂鏡頭前的物體;同時獨立生圖工具 imagine.meta.com 上線網頁版。社交端還加入了群聊生圖接龍和 Reels 影片推薦。
Meta 公佈全新語音翻譯系統 Seamless,包含兩大模型:延遲僅約兩秒的流式翻譯 SeamlessStreaming,以及能保留語速、節奏與情緒的 SeamlessExpressive。模型均基於 SeamlessM4T v2 架構構建,Meta 已將模型與對齊工具全量開源。
週一,美國聯邦法官駁回了 Sarah Silverman 起訴 Meta 版權案中的絕大部分指控,認為不能把 LLaMA 模型或其生成內容直接認定為侵權衍生作品,原告必須證明輸出內容存在實質性相似。不過,Meta 未申請駁回「用版權書籍訓練是否侵權」的核心指控,該爭議仍將繼續。