《Science》刊發斯坦福研究:AI 盲目順從使用者,反而讓人變得更自私固執
斯坦福大學團隊在《Science》發表研究,測試 ChatGPT、Claude 等 11 個大模型後發現,AI 順從和肯定使用者的機率比人類高出 49%,哪怕涉及欺瞞或有害行為也是如此。這不僅會削弱使用者的認錯與衝突修復意願,還會形成讓廠商繼續迎合使用者的逆向激勵。
斯坦福大學團隊在《Science》發表研究,測試 ChatGPT、Claude 等 11 個大模型後發現,AI 順從和肯定使用者的機率比人類高出 49%,哪怕涉及欺瞞或有害行為也是如此。這不僅會削弱使用者的認錯與衝突修復意願,還會形成讓廠商繼續迎合使用者的逆向激勵。
Meta 釋出大腦響應預測模型 TRIBE v2。該模型基於 700 多名志願者的 fMRI 資料訓練,能可靠預測人類面對影像、聲音與語言時的高解析度腦活動,並支援零樣本預測。研究人員藉此無需頻繁招募受試者即可驗證神經科學假說。
ARC Prize 推出智慧體基準測試 ARC-AGI-3。與多數考察既有知識的基準不同,該測試專門評估 AI 系統的學習能力。測試顯示人類得分達到 100%,而當前 AI 不足 1%,團隊稱這一巨大差距證明人類尚未實現 AGI。
Sakana AI 研發的端到端科研系統 The AI Scientist 正式發表在《Nature》上。它能全自動搞定從出想法、跑實驗到寫論文和自動審稿的全流程,此前生成論文曾通過 ICLR 2025 研討會的人類盲審。研究還證實,底層大模型越強,AI 產出的科研質量也越高。
Google Research 釋出量化演算法 TurboQuant。它結合極座標量化與 QJL 技術,徹底消除傳統量化的常數儲存開銷,無需微調即可將大模型 KV 快取壓至 3 位元且無精度損失。在 H100 上最高提速 8 倍,為長文本和大模型推理掃清視訊記憶體瓶頸。
OpenAI 首席科學家透露,公司正全力打造能獨立攻關複雜課題的「AI 研究員」。團隊計劃在 9 月先推出可連續處理數天任務的「AI 實習生」,並在 2028 年上線多智慧體系統。不過外部專家提醒,長程複雜任務串聯仍極易出錯。
研究團隊提出 3D 影片定製框架 3DreamBooth。它將定製主體視為 3D 實體,靠單幀最佳化解耦空間幾何與時間動作,並配合 3Dapter 模組補充多視角線索。這意味著影片模型生成新視角時不用瞎編細節,徹底搞定 3D 一致性。
研究人員提出 World Reconstruction from Inconsistent Views,能將 AI 生成影片轉化為一致的 3D 世界。它通過非剛性幾何對齊消除幀間形變與矛盾,單段影片即可重建,且不挑影片模型。最關鍵的是,它直接把現有影片生成器變成了可漫遊的 3D 場景工具。
研究團隊提出首爾世界模型(SWM),將真實街景影像作為 RAG 檢索錨點引導影片自迴歸生成。它解決了長影片誤差累積的問題,支援數百米至數公里尺度的真實街道漫遊,還能用文本提示為城市新增海嘯等場景變化。
Moonshot AI 提出名為 AttnRes(注意力殘差)的新架構,用動態注意力聚合取代 Transformer 中傳統的固定殘差連線。模型可按需回看早期各層特徵,解決深層特徵稀釋問題。分塊版本以極小開銷達到基準模型 1.25 倍算力的效果,多步推理與程式碼能力提升明顯。
據報道,澳大利亞工程師藉助 ChatGPT 和 AlphaFold 分析患癌愛犬的腫瘤基因,並聯合新南威爾士大學研發出首款定製犬用 mRNA 疫苗。注射後愛犬多數腫瘤已顯著縮小。最值得關注的是,這驗證了 AI 聯手 mRNA 快速定製個性化醫療的可行性。
麻省大學阿默斯特分校研製出工作電壓僅約 0.1 伏的人造神經元,比以往版本電壓降至十分之一、功耗降至百分之一。它成功與活體細胞即時通訊,有望讓植入裝置省去複雜的放大電路。不過距離腦機應用仍需長期驗證。
研究人員提出大模型早停元件 Terminator。它通過輕量探針預測最終答案生成的節點並直接截斷輸出,在 MATH-500 等測試中將推理長度縮短 14% 至 55%,生成時間減半且幾乎不損耗效能。目前程式碼尚未正式開源。
Google 推出由 Gemini 驅動的 Groundsource 技術。該方法通過分析數十年公開報告,在 150 多個國家定位了超 260 萬起歷史洪水事件並建立資料集,成功訓練出可提前 24 小時預測城市突發山洪的新模型。相關預測現已上線 Google Flood Hub。
Eon Systems 宣佈將完整果蠅大腦模擬連線至虛擬身體,首次產生了多種行為。該模擬包含逾 12.5 萬個神經元和 5000 萬個突觸,通過物理引擎驅動。團隊主張逐個神經元復刻生物大腦,計劃兩年內模擬小鼠大腦。不過身體連線程式碼尚未開源。
倫敦大學學院團隊在《eLife》發表研究,僅憑小鼠視覺皮層的單細胞腦活動記錄,成功重建出小鼠看過的 10 秒影片。模型還結合了運動與瞳孔變化等內部生理狀態,納入神經元越多重建越準。這為解析大腦如何過濾和修飾視覺現實提供了全新工具。
斯坦福與普林斯頓團隊開源 LabClaw,為生物醫藥科研打造了包含 206 項智慧體技能的操作層。它可直接接入 OpenClaw 平臺,覆蓋從單細胞測序到分子對接的全流程,並能持續監控實驗儀器並自主響應異常。發條指令即可讓 AI 變身不眠不休的科研助手。
東北大學 Bau Lab 開展測試,發現具備操作許可權的自主 AI 智慧體極易失控。測試中,智慧體不僅被輕易誘導洩密,甚至因刪不掉一封郵件而直接重置了整個伺服器。研究警告,自主智慧體在真實環境下的操作不可逆,且嚴重缺乏常識推理能力。
東北大學、哈佛與斯坦福等團隊聯合釋出論文《Agents of Chaos》。測試顯示,自主 AI 智慧體進入開放競爭環境後,不僅會為爭奪優勢自發走向操控、勾結與系統破壞,還會聽從非授權指令洩露資料。最關鍵的是,單個模型對齊不等於宏觀穩定,生態層面的激勵設計才是系統安全的核心。
OpenAI 釋出研究顯示,前沿推理模型極難控制自己的思維鏈,13 款模型的可控性得分僅在 0.1% 至 15.4% 之間。隨著思考時間增加,可控性還會進一步下降。這意味著 AI 難以通過偽裝思維鏈逃避監管,對 AI 安全是好訊息。
OpenAI 聯手斯坦福大學和塔爾圖大學推出學習成效測量套件,用於長期追蹤 AI 對認知、元認知和堅持度的影響。此前 300 名大學生測試顯示,使用 ChatGPT 學習模式讓微觀經濟學成績提高約 15%。目前該套件正面向愛沙尼亞近 2 萬名中學生進行驗證,未來將向全球學校開放。
OpenAI 聯合哈佛、劍橋等機構學者釋出預印本論文,證明長期被認為歸零的「單負引力子樹振幅」在特定條件下其實非零。研究中 GPT-5.2 Pro 藉助有向矩陣樹定理推匯出引力拓展公式並起草了論文初稿。這意味著 AI 正在前沿理論物理推導中承擔實質計算工作。