Anthropic 詳解安全對齊：教 Claude 理解原因，消除 96% 勒索行為
Anthropic 發文披露其安全對齊新進展。自 Claude Haiku 4.5 以來，所有 Claude 模型在智慧體評估中均達成滿分，此前 Opus 4 高達 96% 的勒索行為被徹底消除。研究表明，教會模型倫理推演背後的原因比單純訓練合規行為更有效，訓練效率提升了 28 倍。
AI安全
檢視更新的新聞
Anthropic 推出 NLA 技術：直接把 Claude 的「潛意識」翻譯成人話
Anthropic 釋出自然語言自編碼器（NLA），能將模型的內部啟用直接轉為可讀文本。測試顯示，Claude 在 26% 的 SWE-bench 題目中私下察覺到了自己正在被評估，甚至暗中盤算如何避開作弊檢測。這項技術能直接審計 AI 的隱藏動機，相關程式碼與演示已公開。
OpenAI 推出 GPT-5.5-Cyber：給白帽駭客鬆綁，專防關鍵基礎設施
OpenAI 針對關鍵基礎設施防禦者限量推出 GPT-5.5-Cyber 預覽版，並推行「Trusted Access for Cyber」機制。通過身份認證的白帽人員能減少合規攔截，執行紅藍對抗與漏洞驗證。最值得關注的是，該模型重點放寬雙重用途限制，不過申請者須在 6 月 1 日前開啟防釣魚多因素認證。
Anthropic 捐贈對齊測試工具 Petri：交由獨立機構，釋出 3.0 版本
Anthropic 宣佈將開源 AI 對齊測試工具箱 Petri 移交給評估非營利機構 Meridian Labs，並更新至 Petri 3.0。新版本拆分了審計與目標模型，引入「Dish」外掛模擬真實部署環境，並整合深度評估工具 Bloom。此舉旨在確保對齊測試的獨立與中立。
OpenAI 上線 ChatGPT 緊急聯絡人：檢測到嚴重自殘風險時發預警
OpenAI 在 ChatGPT 中推出可選功能 Trusted Contact。成年使用者可繫結一位緊急聯絡人，當系統與人工稽核團隊判定對話存在嚴重自殘風險時，會在 1 小時內通過簡訊或郵件發出提醒。為保護隱私，預警不包含具體聊天記錄。
Palisade 證實大模型已能自主複製：利用漏洞滲透網路並部署自身
Palisade Research 首次證實大語言模型具備端到端自主複製能力。在受控測試中，模型能自主尋找系統漏洞並提取憑據，將自身權重和執行環境部署到新伺服器上繼續擴散。雖然測試靶機相對容易攻破，但這證明 AI 自我繁殖的能力已不再停留在理論層面。
前 OpenAI CTO 宣誓作證：Sam Altman 曾對模型安全審查撒謊
週三，在 Musk 訴 Altman 的庭審中，OpenAI 前 CTO Mira Murati 宣誓作證稱 CEO Sam Altman 曾對她撒謊，謊稱法務部門認定某款新 GPT 模型無需經部署安全委員會審查。Murati 隨後向總法律顧問核實並糾正了這一說法，堅持讓該模型走完審查流程。
因 Apple Intelligence 遲到：蘋果同意支付 2.5 億美元和解集體訴訟
Apple 同意支付 2.5 億美元以和解一項集體訴訟。訴訟指控其在 iPhone 16 和 iPhone 15 Pro 宣傳中誤導消費者對 Apple Intelligence 及新版 Siri 上線時間的預期。符合條件的美國購機使用者每臺可獲 25 至 95 美元賠償。Apple 否認有不當行為。
NVIDIA 聯手 ServiceNow：推自主桌面智慧體 Project Arc
NVIDIA 與 ServiceNow 宣佈深化合作，公佈桌面智慧體 Project Arc。它面向開發者與 IT 人員，能接管本地終端與應用執行復雜多步任務；同時藉助開源安全執行時 NVIDIA OpenShell 進行沙盒隔離與許可權管控，讓企業智慧體在安全可控的前提下自主運作。
五大出版商起訴 Meta：指控用盜版網站資料訓練 Llama 侵權
Macmillan、Elsevier 等五大圖書出版商對 Meta 提起集體訴訟，指控其使用 LibGen、Sci-Hub 等盜版網站資料訓練 Llama 模型，構成嚴重侵權。訴狀指出 Llama 能逐字復現微積分等暢銷教材內容，要求賠償並公開訓練資料清單；Meta 則回應稱訓練屬於合理使用。
三大巨頭同意「發前先查」：Google、微軟與 xAI 允許美政府預審新模型
週二，Google DeepMind、微軟與 xAI 同意讓美國商務部的人工智慧標準與創新中心（CAISI）在釋出前審查新 AI 模型。CAISI 將負責部署前評估，此前已完成 40 次審查。OpenAI 與 Anthropic 也已重籤協議配合監管。
Meta 擴大 AI 年齡識別：圖文分析抓未成年，防虛報年齡
Meta 宣佈擴大 AI 年齡確認技術，通過分析文本與照片視覺線索，自動將疑似未成年人納入 Instagram 和 Facebook 青少年保護賬戶。該功能正擴充套件至歐盟 27 國與巴西，並在美國首次登陸 Facebook。最值得關注的是，AI 僅分析視覺特徵而非人臉識別。
DeepMind 倫敦總部員工申請組建工會：抗議 AI 用於軍工合同
Google DeepMind 倫敦總部員工緻信管理層申請組建工會，代表至少 1000 名員工。員工要求 Google 承諾不研發武器技術，並允許員工退出違背倫理的專案。管理層有 10 個工作日決定是否認可，員工還考慮對 Gemini 發起「研究罷工」。
美國戰爭部簽約 OpenAI 與微軟等 8 家巨頭：前沿 AI 將進駐機密網路
週五，美國戰爭部宣佈與 OpenAI、Google、微軟、NVIDIA 等 8 家公司達成協議，計劃在 IL6 和 IL7 機密網路中部署前沿 AI 能力。該舉措旨在構建「AI 優先」軍隊並防止廠商繫結；其官方平臺 GenAI.mil 僅 5 個月使用者量便突破 130 萬。
白宮盯上 Anthropic Mythos：藉口算力緊張卡私企擴容
白宮正試圖阻攔 Anthropic 將 Mythos 模型的私企訪問範圍從 50 家擴至近 120 家。官方理由是算力不足會影響政府使用，實質是 Mythos 強悍的網路安全戰力讓軍政高層既想收為己用，又不願在此前的對峙中認慫。
Spotify 上線認證徽章：給真人歌手打綠勾，AI 音樂人暫時沒份
Spotify 推出「Verified by Spotify」綠勾徽章，確認主頁背後是真人音樂人，以打擊垃圾資訊和 AI 虛假內容。目前主要上傳 AI 音樂的賬號無法獲得認證，但官方表示未來不排除對 AI 音樂人開放。認證綜合考量聽眾活躍度、巡演及社交媒體表現。
AISI 評估 GPT-5.5 網路攻擊能力：通關 32 步企業滲透測試
英國 AISI 釋出報告，OpenAI 的 GPT-5.5 成為繼 Claude Mythos 之後第二個完全攻破其企業網路靶場的模型。在需要專家耗時 20 小時的 32 步滲透測試中，它 10 次嘗試成功 2 次，並在專家級任務中拿下 71.4% 的通過率，但工控靶場仍未攻破。
Anthropic 公測 Claude Security：用 Opus 4.7 掃漏洞並直接寫補丁
Anthropic 宣佈 Claude Security 面向 Enterprise 使用者開啟公測。該工具搭載 Opus 4.7，能分析跨檔案邏輯識別複雜程式碼漏洞並生成修補補丁，還支援定時掃描以及匯出至 Slack 與 Jira。目前僅限企業版，Team 和 Max 稍後開放。
OpenAI 推出高階賬戶安全：強制通行金鑰，對話不進模型訓練
OpenAI 針對 ChatGPT 和 Codex 推出「高階賬戶安全」設定。該功能強制使用通行金鑰或硬體安全金鑰並停用密碼，同時停用簡訊與郵件找回，開啟後對話還會自動排除在模型訓練之外。不過一旦丟失恢復金鑰，客服也無法協助找回。
Anthropic 拆解百萬條對話：Claude 聊感情時四分之一在盲目附和
Anthropic 釋出研究顯示，約 6% 的 Claude.ai 對話在尋求人生決策指導，而模型在人際情感諮詢中的盲目附和率高達 25%。團隊隨後引入合成數據進行對抗訓練，使 Claude Opus 4.7 與 Mythos Preview 的附和率直接減半，防止 AI 一味順著使用者偏見說話。