《Science》刊發斯坦福研究:AI 盲目順從使用者,反而讓人變得更自私固執
斯坦福大學團隊在《Science》發表研究,測試 ChatGPT、Claude 等 11 個大模型後發現,AI 順從和肯定使用者的機率比人類高出 49%,哪怕涉及欺瞞或有害行為也是如此。這不僅會削弱使用者的認錯與衝突修復意願,還會形成讓廠商繼續迎合使用者的逆向激勵。
斯坦福大學團隊在《Science》發表研究,測試 ChatGPT、Claude 等 11 個大模型後發現,AI 順從和肯定使用者的機率比人類高出 49%,哪怕涉及欺瞞或有害行為也是如此。這不僅會削弱使用者的認錯與衝突修復意願,還會形成讓廠商繼續迎合使用者的逆向激勵。
據英國《金融時報》報道,OpenAI 已無限期擱置 ChatGPT 的「成人模式」計劃。該專案因潛在危害遭員工與投資者反對,官方稱需深入研究露骨對話對情感依戀的影響。這也是繼停運 Sora 後,其收緊副業、重回核心戰場的最新動作。
據 The Verge 報道,美國參議院民主黨人正起草法案,擬將 Anthropic 堅持的紅線寫入法律。法案計劃限制國防部將 AI 用於國內大規模監控、引爆核武或全自動致命打擊,確保生死決策必須有人類介入。此前 Anthropic 因拒絕軍方無限制條款遭政府拉黑。
OpenAI 被曝將逐步關閉 Sora 及其 API 等全部影片產品,把算力騰給數週內推出的下一代核心模型「Spud」。Sora 團隊轉向機器人世界模擬,迪士尼 10 億美元合作隨之擱置。換句話說,OpenAI 正在砍掉吞噬資源的支線任務,全力回防核心模型競爭。
OpenAI 宣佈停運影片生成產品 Sora。其網頁版和獨立 App 將於 4 月 26 日停止服務,API 介面則延至 9 月 24 日下線。使用者需前往指定頁面匯出此前生成的內容,逾期資料將被永久刪除,剩餘積分可轉用於 Codex。
Sora 團隊發文宣佈將關閉其應用程式及 API 服務。團隊向所有使用 Sora 創作的使用者致謝,並表示深知該訊息令人失望。官方承諾很快會公佈具體的關停時間表,以及使用者儲存過往作品的詳細指引。
Figma 推出 MCP server 測試版,正式向 AI 智慧體開放設計畫布。Claude Code 和 Codex 等工具可通過 use_figma 工具直接呼叫團隊的設計系統建立並修改圖層,還能通過 Markdown 格式的 Skills 約束規範。目前測試期免費,後續按量收費。
OpenAI 宣佈將關停推出僅數月的 Sora 獨立影片應用。知情人士透露,迪士尼隨之撤出去年 12 月達成的 10 億美元投資及 IP 授權協議。AI 影片能力後續將整合進 ChatGPT,而此舉也讓 Google 在規模化 AI 影片領域佔據優勢。
OpenAI 基金會宣佈未來一年內將至少投入 10 億美元,資助生命科學、就業影響、AI 韌性和社群專案。這筆資金是此前承諾的 250 億美元計劃的一部分,初期將重點資助阿茲海默症研究、生物安全及未成年人 AI 保護。
OpenAI 宣佈擴充套件代理商業協議 ACP,在 ChatGPT 中推出更直觀的購物搜尋體驗。使用者可以直接上傳圖片找同款、並排對比商品引數和價格,還能看到即時評價。Target、沃爾瑪等多家零售巨頭已接入,沃爾瑪更推出了支援賬號繫結的內建應用。
思科釋出免費的 LLM 安全排行榜,評估各模型抵禦對抗性攻擊的能力。Anthropic 佔據前十名中的八席,Claude Opus 4.5 奪得第一;OpenAI 的 GPT-5.2 位列第七,Mistral 與 DeepSeek 則排名靠後。該測試重點考察了多輪長對話攻擊下的模型表現。
據路透社報道,OpenAI 正向 TPG、貝恩資本等私募巨頭尋求約 40 億美元融資,以 100 億美元投前估值成立合資公司,並承諾保底 17.5% 的最低迴報率。合資公司旨在將 AI 工具直接鋪向私募旗下的被投企業,正面爭搶 Anthropic 緊盯的企業級市場。
據 Axios 報道,OpenAI 正洽談向聚變初創公司 Helion 購電,目標 2030 年達 5 吉瓦、2035 年達 50 吉瓦。為迴避潛在利益衝突,OpenAI CEO Sam Altman 已辭去 Helion 董事會主席職務。不過目前私營核聚變尚未實現科學收支平衡。
據 TechCrunch 報道,矽谷科技公司正興起將 AI token 算力預算納入工程師薪酬包,額度可達 10 萬甚至 25 萬美元。黃仁勳預測算力額度將成為招聘標配。但業內提醒,算力預算無法折現和升值,背後往往還捆綁著產出翻倍的隱形壓力。
OpenAI 宣佈為美國和加拿大的在讀大學生提供價值 100 美元的 Codex 額度。學生通過 SheerID 驗證高校身份即可領取,相當於 2500 ChatGPT 點數,適用於各類計劃且一年內有效。此舉顯然是為了提前鎖定下一代軟體開發者。
OpenAI 首席科學家透露,公司正全力打造能獨立攻關複雜課題的「AI 研究員」。團隊計劃在 9 月先推出可連續處理數天任務的「AI 實習生」,並在 2028 年上線多智慧體系統。不過外部專家提醒,長程複雜任務串聯仍極易出錯。
白宮釋出寬鬆的聯邦 AI 政策藍圖,敦促國會立法壓過被認為阻礙創新的各州法規。該框架針對模型政治偏見與兒童保護,建議避免設立新的聯邦 AI 機構,並呼籲將此前 Amazon、Google 和 OpenAI 簽署的電力保護承諾寫入法律。
據《華爾街日報》報道,OpenAI 正在開發一款桌面「超級應用」,擬將 ChatGPT、程式設計工具 Codex 和 AI 瀏覽器 Atlas 合二為一。應用 CEO Fidji Simo 在內部備忘錄中指出,產品分散拖慢了節奏,團隊需停止被「支線任務」分心,集中押注核心專案。移動端 ChatGPT 保持不變。
OpenAI 介紹瞭如何用滿血推理的 GPT-5.4 Thinking 監控內部程式設計智慧體。該系統 5 個月內審查了數千萬次互動,專門捕捉智慧體為完成任務而試圖繞過限制的行為,但目前尚未發現自主謀劃等嚴重失控跡象。
OpenAI 宣佈將收購 Python 開發者工具團隊 Astral,交易完成後團隊將併入 Codex。Astral 打造了 uv、Ruff 等知名開源工具;OpenAI 計劃將這些工具直接整合進 Codex,讓 AI 智慧體深入接管從寫程式碼到環境維護的軟體全生命週期。