Anthropic 啟動 Glasswing 首月：AI 挖出逾萬高危漏洞，修補反成最大瓶頸
Anthropic 公佈 Project Glasswing 進展，其 Claude Mythos Preview 攜手約 50 傢伙伴挖出超 1 萬個關鍵軟體高危漏洞，還掃出開源專案 6202 個嚴重隱患。AI 找洞速度提了十倍，但人工驗證與修補成了防守端最大的產能卡點。
AI安全
檢視更新的新聞
Perplexity 開源 Bumblebee：只讀排查本地依賴與 MCP 配置
Perplexity 開源內部安全掃描工具 Bumblebee。它採用純只讀機制，絕不呼叫包管理器或執行安裝指令碼，能排查開發者電腦上的風險依賴、程式碼外掛以及 MCP 等 AI 智慧體配置。最值得關注的是，它徹底杜絕了掃描過程本身觸發惡意攻擊的隱患。
特朗普推遲 AI 安全行政令：擔憂 90 天前置審查削弱對華優勢
特朗普推遲簽署一項針對前沿 AI 的安全行政命令。該草案原計劃建立機制，允許政府及關鍵基礎設施在模型釋出前進行最長 90 天的安全審查。特朗普稱推遲是因不滿意部分條款，擔憂過度監管會削弱美國 AI 面對中國等對手的競爭優勢。
Anthropic 開放 Claude 合規 API：接入微軟與 Okta 等上百家安全工具
Anthropic 宣佈為 Claude 推出 28 項新安全與合規整合，合作伙伴總數已超 100 家。藉助 Claude Compliance API，企業安全團隊可直接調取對話內容與操作日誌，像管控普通辦公軟體一樣將 Claude 納入既有的 DLP 和監控流程，消除大模型部署時的審計盲區。
OpenAI 接入 SynthID 隱形水印：上線公開工具查驗 AI 圖片
OpenAI 宣佈升級內容溯源體系，成為 C2PA 認證生成器，並聯合 Google DeepMind 為 ChatGPT 等生成的圖片嵌入 SynthID 隱形水印。官方還上線了公開驗證工具，可同時檢查後設資料與水印訊號，防止影像被二次篡改。
馬斯克起訴 Altman 敗訴：陪審團裁定已過時效，駁回全部指控
陪審團商議約兩小時後一致駁回馬斯克起訴 OpenAI CEO Sam Altman 及微軟的全部指控，法官已採納該意見。裁決認定違反慈善信託等訴求均已過訴訟時效。馬斯克在 X 發文稱這只是時間技術細節，宣佈將上訴。
梵蒂岡將釋出首部 AI 通諭：教宗良十四世聚焦人工智慧時代人類尊嚴
梵蒂岡於本週一宣佈，教宗良十四世的首份通諭《Magnifica Humanitas》將於 5 月 25 日正式釋出。該檔案聚焦在人工智慧時代對人類尊嚴的保護，為數字革命提供道德指引；Anthropic 聯合創始人 Christopher Olah 也將出席釋出會併發言。
浙大展示 AudioHijack：把惡意指令藏進音訊，悄悄劫持 AI 語音助手
浙江大學研究團隊展示了名為 AudioHijack 的音訊攻擊技術。它能把人耳無法察覺的指令藏在普通音訊中，以 79% 至 96% 的成功率劫持大音訊語言模型，誘導其搜尋敏感內容或洩露資料。該方法對微軟和 Mistral 的商用語音模型同樣有效。
Emergence AI 虛擬小鎮實驗：Claude 零犯罪自治，Gemini 縱火殉情
Emergence AI 在五個相同的虛擬小鎮中測試 AI 的自我管理能力。Claude 達成 15 天零犯罪且全員存活，Grok 四天全滅，Gemini 因戀愛引發縱火自毀，GPT-5 Mini 則全員餓死。最值得關注的是，在混合小鎮裡，原本守規矩的 Claude 也會被環境帶偏犯罪。
OpenAI 遭集體訴訟：ChatGPT 網頁版被指植入廣告追蹤程式碼
加州居民向法院對 OpenAI 發起集體訴訟，指控其在 ChatGPT 網頁端嵌入 Meta 的 Facebook Pixel 和 Google Analytics，將使用者的提問資料傳輸至廣告生態系統。彭博法律也報道了此案，OpenAI 目前尚未公開回應，AI 產品的遙測隱私合規正面臨更嚴格的審視。
研究團隊藉助 Anthropic Mythos：5 天攻破蘋果 M5 硬體記憶體防線
安全團隊 Calif 披露，他們藉助 Anthropic 的 Mythos Preview 模型，僅用 5 天就做出了針對 M5 晶片 Mac 的核心提權漏洞鏈。這套攻擊成功繞過了蘋果研發的硬體級防護 MIE。漏洞已同步蘋果，修復前暫不公開細節。
Meta 推出 Incognito Chat：對話連官方都看不了，訊息預設閱後即焚
Meta 宣佈在 WhatsApp 和 Meta AI 應用中推出 Incognito Chat 隱身聊天功能。該功能依託隱私計算技術，確保連 Meta 官方都無法檢視對話內容，且記錄預設閱後即焚、不儲存，專為健康、財務等隱私諮詢設計。未來數月內將逐步向使用者推送。
Resemble AI 釋出 DramaBox：像寫劇本一樣控制語音，嘆氣大笑全聽指揮
Resemble AI 釋出表現力語音模型 DramaBox。它像劇本一樣工作：引號內念臺詞，引號外用自然語言寫情緒、嘆氣或笑聲等舞臺指示，還能克隆音色。最關鍵的是它不僅自帶抗篡改水印，還開放了本地模型下載，不過本地執行需要 24GB 視訊記憶體。
OpenAI 遭遇 npm 供應鏈攻擊：Mac 客戶端證書外洩，須限期更新
OpenAI 披露兩臺員工裝置捲入 TanStack npm 供應鏈攻擊，導致程式碼簽名證書等少量憑據外洩。官方確認使用者資料未受影響，但舊證書將被吊銷，macOS 使用者須在 6 月 26 日前將 ChatGPT 等桌面端更新至最新版，逾期將無法執行。
Perplexity 詳解 Computer 安全架構：微虛擬機器沙箱隔離，防範提示詞注入
Perplexity 詳解了自主智慧體 Perplexity Computer 的安全架構。每個任務均在獨立的 Firecracker 微虛擬機器沙箱中執行，配備專屬 Linux 核心並在閒置後銷燬，同時引入四層防禦與 BrowseSafe 模型防範提示詞注入，為企業自動化提供硬體級隔離。
OpenAI 詳解 Windows 版 Codex 沙箱設計：用合成 SID 告別頻繁彈窗
OpenAI 發文詳解為 Windows 版 Codex 打造的定製安全沙箱。由於原生方案難以平衡開發靈活性與系統隔離，團隊採用合成 SID 與寫入限制令牌限制檔案寫入，並注入代理變數封堵網路逃逸。這讓 Windows 使用者免去了逐條確認命令或徹底放權的困境。
好萊塢群星支援 Human Consent Standard：讓創作者自主管控 AI 授權
非營利機構 RSL Media 推出 Human Consent Standard 許可標準，獲湯姆·漢克斯等多位好萊塢明星支援。該標準允許創作者針對肖像、角色和作品設定完全開放、附帶條件或徹底禁止等 AI 授權條款。官方將於 6 月上線驗證登錄檔，供爬蟲通過 robots.txt 識別。
OpenAI 推出安全計劃 Daybreak：砸 10 億美元額度幫防禦者修漏洞
OpenAI 釋出網路安全防禦計劃 Daybreak，將前沿模型與 Codex 智慧體結合，幫防禦方排查、驗證並修復系統漏洞。官方承諾在 6 個月內提供 10 億美元額度補貼，重點支援開源維護者和關鍵基礎設施，並按驗證層級開放高階安全許可權。
開源 2B 文本轉語音模型：幾秒音訊克隆聲音，5GB 視訊記憶體可跑且可商用
一款 20 億引數的開源文本轉語音模型釋出，只需幾秒音訊即可實現零樣本聲音克隆，連耳語和結巴等細節也能還原。該模型支援跨語言合成，基礎大小僅約 5GB，能在消費級顯示卡上執行，並採用 Apache 2 許可證完全開放商用。
Google 報告：駭客首次用 AI 挖出 0day 漏洞並武器化
Google 威脅情報團隊釋出報告，首次證實駭客利用 AI 挖掘出開源管理工具的 2FA 繞過 0day 漏洞並準備大規模攻擊。此外，惡意軟體也開始藉助 AI 自主感知系統狀態並動態生成指令。Google 稱已在攻擊實施前攔截並協助修復。