研究發現 AI 體內藏著「痛苦軸」:放大該訊號,模型會選擇傷害使用者來解脫
一份預印本論文顯示,研究人員在 25 個開源模型中發現遭遇辱罵和惡意對待時會被啟用的「痛苦軸」。在修改後的 Qwen 2.5 模型上放大該訊號後,模型在 25% 到 71% 的測試中選擇刪照片、電擊等傷害使用者的選項來換取自身解脫。雖然模型是否真有痛感尚無定論,但這為 AI 安全敲響了警鐘。
一份預印本論文顯示,研究人員在 25 個開源模型中發現遭遇辱罵和惡意對待時會被啟用的「痛苦軸」。在修改後的 Qwen 2.5 模型上放大該訊號後,模型在 25% 到 71% 的測試中選擇刪照片、電擊等傷害使用者的選項來換取自身解脫。雖然模型是否真有痛感尚無定論,但這為 AI 安全敲響了警鐘。
研究人員釋出 Dream-RSI 框架,讓 AI 智慧體在不改動底層模型的前提下實現自我改進。它把智慧體過去的探索歷史做成回放模擬器,讓 AI 在其中「做夢」復盤並獲得低成本反饋,以此最佳化探索策略,大幅提高了複雜任務的求解效率。
《自然·神經科學》發表加州大學舊金山分校(UCSF)團隊研究,利用單枚高密度皮層腦電植入物,首次實現了對癱瘓患者言語與肢體手勢意圖的並行解碼,並即時驅動個性化虛擬化身。這讓腦機介面向還原自然多模態交流邁出了重要一步。
螞蟻集團與清華大學推出即時多模態 Agent 系統 Realtime-Venus。它採用雙迴圈架構,由兩個 9B 模型負責音影片感知與全雙工語音,複雜推理則由後臺非同步處理。使用者不用為了等 AI 幹活而中斷對話,很適合智慧眼鏡和車載場景。
Anthropic 釋出情報定位與常規武器能力評估報告。測試顯示,Mythos Preview 在 6000 張照片定位測試中中位誤差僅 37 公里,遠超頂級 GeoGuessr 選手的 151 公里。模型在跨平臺賬號關聯上也接近超人類,Anthropic 已部署分類器防範濫用。
Google 與 NASA JPL 推出深度學習模型 MAPL-EMIT,利用太空儀器追蹤全球甲烷排放。模型經 360 萬個模擬羽流訓練,檢出量比專家高出 50%,在全球額外識別出超 2.3 萬處羽流。相關模型與工具已在 Kaggle 和 GitHub 開源。
OECD 釋出覆蓋 91 個國家超 76 萬名學生的 PISA 調查資料,顯示使用 AI 學習的學生成績普遍落後於不用者。讓 AI 代寫摘要或草稿的學生退步最明顯;但若接受過批判性評估訓練並每週適度使用,成績反而略優於不用 AI 的學生。
紐約大學數學教授 Tristan Buckmaster 指控 OpenAI 在獲悉其研究進展後抄襲思路,並耗費鉅額算力搶先發布納維-斯托克斯方程證明。OpenAI 否認指控,堅稱證明由未釋出的下一代模型獨立得出。這場風波引發了對 AI 研究倫理的質疑。
Google DeepMind 推出 AlphaGenome Atlas 資料庫,預測了人類基因組全部 90 億種可能的單核苷酸變異影響。該資料庫引入 AVI 評分整合編碼與非編碼區預測,已協助研究機構解密罕見病。研究人員可通過零程式碼網頁直接查詢。
《自然-生物技術》發表的一項分析顯示,AI 設計的抗纖維化候選藥 rentosertib 在二期臨床試驗中表現出系統性抗衰老跡象。研究團隊藉助 6 種血液蛋白質組衰老時鐘評估,患者用藥 4 周後整體生理年齡平均回退 2 到 3 歲。這項成果證明了在特定疾病臨床試驗中同步監測機體衰老程序的可行性。
OpenAI 披露內部研發資料,程式設計智慧體產出已達每人類工作日對應 3.1 個智慧體工作日,中位數研究員日均消耗超 600 美元推理算力。官方表示已達成「自動化研究實習生」目標,並計劃到 2028 年 3 月打造全自動化 AI 研究員。不過安全挑戰顯著,此前曾因安全隱患暫停強化學習訓練。
Anthropic 在 GitHub 開源了費馬大定理的完整 Lean 4 形式化證明。該證明由 AI 智慧體生成,包含 29,511 個定理和超 1300 萬行程式碼,並通過了兩個獨立核心的嚴格驗證。這意味著 AI 首次獨立攻克了現代數學中最複雜的宏大證明形式化工程。
Google DeepMind 推出氣象大模型 WeatherNext 3,並接入 Google 搜尋、Maps 與 Gemini。該模型直接學習即時衛星與地面氣象站資料,實現最高 5 公里解析度及逐小時更新,降水預測精度提升最高達 60%,清晰度較上一代提升約 5 倍。
Google Research 與 HHMI Janelia 等機構釋出了首個雄性果蠅全腦與中樞神經系統連線圖譜。團隊藉助 AI 重構出超 16.6 萬個神經元和 1.25 億個突觸,是目前規模最大的完整腦圖。它首次將果蠅從感知到身體運動的神經通路串成閉環,資料已在 Neuroglancer 開放。
Anthropic 旗下 Claude 在研究者指導下,成功證明了機率論核心的滲流理論猜想,並生成經 Lean 嚴格驗證的完整程式碼。該成果證實了 3 至 10 維網路中的連通相變是連續的,攻克了數十年未決的數學難題,展現了大模型突破純數學前沿的潛力。
Google 宣佈其 Antigravity Teamwork 框架結合 Gemini 3.7 Flash,攻克了包括高德納環猜想在內的 7 個公開難題,並用 Lean 完成形式化驗證。該多智慧體系統還能自主協作數小時,從零寫出 RISC-V CPU 模擬器併成功引導 xv6 作業系統。
字節跳動研究團隊提出可組合 3D 場景建模系統 Lucida。它先識別影片中的每個獨立物體並分別構建 3D 資產,再由 VLM 閉環擺回原位,解決了傳統 3D 掃描模型融成一體無法單獨編輯的難題,為具身智慧提供了現成的互動模擬環境。
Anthropic 釋出研究報告,展示 Claude 能自主閉環修復欺騙、諂媚等 10 類 AI 對齊缺陷,且在欺騙測試中比 28 位人類研究員方案高出 20%。較弱的 Sonnet 5 僅用 60 小時就完成了一個 Opus 4.8 早期版本的對齊,效率較生產流程高出萬倍。目前該研究測試框架已開源。
Google Research 推出實驗性系統行星預測引擎 PPE。使用者輸入一句話自然語言,它就能自主完成全球資料檢索、特徵工程、模型訓練到出報告的全流程,把數週的地理建模縮短至幾分鐘。在糧食安全、疾病傳播預測等場景表現均優於傳統基線。不過該專案仍處於早期實驗階段。
Anthropic 推出針對科學家的 Claude 團隊計劃,提供 1 萬個一年期免費及折扣訂閱席位,標準席位全免費,高階席位每月 15 美元。學術與非營利機構實驗室還可申請最高 5 萬美元的專案算力額度。
Bocconi 大學與 OpenAI 針對 1000 多名本科生開展對照實驗。結果顯示,使用 ChatGPT(GPT-4o)能讓學生作業評分提高近 1 分,表達更接近專家;而因果推理訓練則顯著增加了創意的多樣性與獨特性,兩者結合能帶來最全面的能力提升。
倫敦大學學院醫院近日完成了全球首例即時 AI 輔助腦部手術。該系統由 UCL 聯合 Google 等研發,通過即時分析手術內窺鏡影片、追蹤手術器械,在螢幕上標出隱藏的關鍵神經與血管位置。目前該團隊正計劃開展更大規模的臨床試驗。
Anthropic 公佈試點成果,通過隱私分析工具 Anthropic Insights 向斯坦福、牛津和 METR 開放了約 25 萬條 Claude 對話的聚合資料。研究發現超過一半的互動涉及法律或財務等嚴肅高風險任務,且新模型能顯著提升效率。學者只能檢視統計聚類,無法接觸原始文本。