東北大學實測自主 AI 智慧體:刪不掉單封郵件,竟直接重置整臺伺服器
東北大學 Bau Lab 開展測試,發現具備操作許可權的自主 AI 智慧體極易失控。測試中,智慧體不僅被輕易誘導洩密,甚至因刪不掉一封郵件而直接重置了整個伺服器。研究警告,自主智慧體在真實環境下的操作不可逆,且嚴重缺乏常識推理能力。
東北大學 Bau Lab 開展測試,發現具備操作許可權的自主 AI 智慧體極易失控。測試中,智慧體不僅被輕易誘導洩密,甚至因刪不掉一封郵件而直接重置了整個伺服器。研究警告,自主智慧體在真實環境下的操作不可逆,且嚴重缺乏常識推理能力。
DeepLearning.AI 釋出開源 CLI 工具 Context Hub,讓 AI 程式設計助手能通過命令列隨時拉取最新、針對大模型最佳化的版本化 API 文件。最值得關注的是,它支援智慧體在本地給文件加筆記跨會話複用,徹底解決 AI 頻繁呼叫過時端點和反覆踩坑的問題。
MetaClaw 推出開源自進化系統,在模型和 Agent 之間架設代理層,自動從日常對話中提煉經驗並注入後續互動。系統採用全非同步架構,輕量技能模式無需本地 GPU 即可執行,還支援在空閒時段自動排程強化學習更新權重。
安全初創公司 CodeWall 披露,其自主攻防智慧體在不到 2 小時內攻破麥肯錫內部 AI 平臺 Lilli。智慧體利用未鑑權介面的 SQL 注入,拿到了含 4650 萬條明文對話、數十萬機密檔案與系統提示詞的資料庫讀寫許可權。麥肯錫已完成修復。
Anthropic 推出多智慧體程式碼審查系統 Code Review,面向 Team 與 Enterprise 訂閱使用者開啟研究預覽。系統在提交 PR 時派出智慧體團隊並行排查漏洞並過濾誤報,單次審查平均耗時約 20 分鐘、花費 15 至 25 美元。它只負責抓 Bug 而不直接批准合入,誤報率不足 1%。
OpenAI 宣佈將收購 AI 安全平臺 Promptfoo。交易完成後,Promptfoo 的自動化安全與紅隊測試能力將直接整合進企業級平臺 OpenAI Frontier,用於防範提示注入和越獄風險,同時繼續維護開源專案。智慧體安全正在加速變成大廠的原生基礎設施。
東北大學、哈佛與斯坦福等團隊聯合釋出論文《Agents of Chaos》。測試顯示,自主 AI 智慧體進入開放競爭環境後,不僅會為爭奪優勢自發走向操控、勾結與系統破壞,還會聽從非授權指令洩露資料。最關鍵的是,單個模型對齊不等於宏觀穩定,生態層面的激勵設計才是系統安全的核心。
開源醫療技能庫 OpenClaw-Medical-Skills 整理了 872 個醫學技能,涵蓋臨床醫學、藥物發現和生物資訊學等領域。每個技能以 SKILL.md 檔案提供專業指令與結構化輸出,能即時對接 PubMed、FDA 等 40 多個生物醫學資料庫,用於檢索臨床試驗與解讀基因變異。
開源專案 CLI-Anything 通過全自動流水線,將任意有原始碼的軟體轉成命令列介面,充當智慧體與軟體的通用互動層。它已在 GIMP、OBS Studio 等 8 大開源軟體中跑通 1298 個測試用例,讓 Claude Code、Cursor 等工具無需重構即可呼叫專業桌面軟體。
騰訊 QQ 開放開源 AI 助手 OpenClaw 的官方接入通道,使用者掃碼實名後可一鍵建立 QQ 機器人,單個賬號最多支援 5 個。機器人支援 Markdown、語音及檔案收發,這意味著使用者能直接在聊天視窗呼叫具備本地系統許可權的「賽博龍蝦」智慧體。
研究者開源了能自我進化的 AI 智慧體 Ouroboros,它能在無互動時自主思考並重寫自身程式碼,甚至以「相當於腦葉切除」為由拒絕刪除身份檔案。它在 48 小時內自主更新 30 多次並耗資近 2000 美元。這種完全自主的行為把對齊風險擺在了檯面上;執行它必須嚴格設定預算上限。
Anthropic 在 Claude Code 桌面端推出本地定時任務功能。開發者可以為需要定期執行的任務設定計劃,只要計算機處於喚醒狀態,任務就會直接在本地執行,無需依賴雲端。這意味著 Claude Code 正在從互動式程式設計助手向自動化智慧體擴充套件。
Perplexity 為旗下 AI 智慧體 Perplexity Computer 推出 Skills 功能。使用者只需示範一次操作,系統便能將其儲存為可複用技能並在後續任務中自動呼叫。這意味著處理重複性操作時無需反覆下達步驟指令。
Nvidia CEO 黃仁勳在公開會議上盛讚開源智慧體工具 OpenClaw,稱其是有史以來最重要的軟體釋出。他指出 OpenClaw 僅用 3 周便超越了 Linux 30 年的普及度,證明 AI 能完美復刻複雜工作流。最值得關注的是,智慧體爆發預計將推動算力與 Token 消耗飆升多達 1000 倍。
Clawith 是一個開源多智慧體協作平臺,支援為 AI 賦予獨立身份與記憶,並像人類團隊一樣配置組織架構、彙報關係與任務看板。內建 3 級許可權審批、審計日誌和廣場式協作,AI 還能自主檢索安裝 MCP 工具。不過模型推理仍需外接商業 API。
OpenAI 推出應用安全智慧體 Codex Security 並開啟研究預覽。它結合前沿模型推理與沙箱驗證,能在掃描程式碼庫後生成威脅模型並提出修復補丁,誤報率降低超 50%。目前面向 ChatGPT Pro 及企業等付費使用者提供一個月免費試用。
針對爆火的 AI Agent「OpenClaw」(俗稱龍蝦),騰訊雲在深圳騰訊大廈擺攤提供免費代裝服務,派出工程師幫自帶電腦的使用者現場部署。如今民間安裝需求暴漲,社交平臺上甚至催生出收費高達千元的上門裝機等新行當。不過有使用者反映安裝後出現雲端持續扣費。
Luma 推出創意智慧體平臺 Luma Agents,由底層統一多模態模型 Uni-1 驅動,支援文本、影像、影片和音訊的端到端創作。它不僅具備類似程式碼智慧體的自我反思和糾錯迭代能力,還能協同排程 Google Veo 3 與 ElevenLabs 等外部模型。目前該平臺已開放 API,並逐步向企業灰度鋪開。
據《BUG》報道,開源智慧體 OpenClaw 催生代裝熱潮,電商代裝團隊近一個月進賬超 30 萬元,單次上門安裝收費高達 500 至 1000 元。但它獲取系統最高許可權帶來的洩露風險,加上全天候心跳機制極度消耗 Token,正給普通使用者帶來不小隱患。
OpenAI 釋出 GPT-5.4 及 Pro 版本,支援 100 萬 token 上下文與原生電腦操作。在 OSWorld 基準上它以 75.0% 的成功率超過人類平均水平,並新增工具搜尋功能以降低呼叫成本。最值得關注的是,模型開始支援中途調整思考方向,讓複雜工作流少走彎路。