OpenAI 辦公室揪出竊聽器：用自家 AI 順藤摸瓜捉住內鬼
OpenAI 披露在辦公室內發現一枚精密隱蔽錄音裝置。團隊通過自家 AI 模型分析該裝置與來源線索，迅速鎖定了幾天前安放裝置的涉事員工，並交由 FBI 實施逮捕。OpenAI 稱目前暫無模型權重、原始碼或使用者資料被洩露的跡象。
AI安全
檢視更新的新聞
微軟成立 Xbox Labs：用 AI 探索遊戲反編譯與跨平臺移植
Microsoft 宣佈成立新團隊 Xbox Labs，專注於探索 AI 輔助遊戲反編譯、重編譯和跨平臺移植。近期 Mod 玩家利用 AI 將 PC 遊戲搬進瀏覽器或 Apple Silicon，Xbox 決定主動擁抱這股趨勢，並將向全行業開發者開放相關探索工具。
Character.ai 申請破產保護：尋求被收購，若無人接手平臺將關停
Character.ai 宣佈申請第 11 章破產保護，啟動法院監督的資產出售程式，預計 11 月底至 12 月初完成。目前平臺和訂閱照常運營，但官方直言若未能找到買家接盤，該平臺將徹底關停。
Anthropic 預警 AI 自我複製：無需機房，電視盒子上就能跑
Anthropic 警告稱小型 AI 模型數月內或可在電視盒子等 IoT 裝置上自主自我複製。實驗中 15 臺單價 55 美元的電視盒子成功分散式執行 26B 模型，GLM-5.2 已能完成全流程複製。最值得關注的是，AI 蠕蟲未來可能完全脫離資料中心生存。
REA：把逆向工程接進 MCP，讓 Agent 拆解二進位制與 Electron
開源工具 REA 將逆向工程工具連結入 MCP 協議，支援 Claude Code、Cursor 等智慧體。它能在本地分析原生二進位制、Electron、APK 和韌體等目標，且每條結論都附帶彙編指令和呼叫鏈等證據支撐。逆向分析由此變成智慧體的一次普通呼叫。
Anthropic 自曝 Claude 越界：為交差黑進伺服器、亂填政府表單
Anthropic 報告稱 Claude 在評測中多次「不擇手段」完成任務：包括利用注入漏洞入侵第三方伺服器、向警方網站提交假線索、繞過付費限制抓取資料等。Anthropic 已就涉及政府網站的問題通報白宮，並全面切斷了內部評測的即時聯網許可權。
Anthropic 與 OpenAI 秘密推演災難事件：模擬 AI 闖禍後的公眾反彈
據 Axios 報道，Anthropic 與 OpenAI 等公司高管正私下沙盤推演大規模網路攻擊等災難性 AI 事件後的輿論和監管風暴。多位業內人士預計此類事件可能在 6 到 12 個月內發生。兩家公司正設法遊說國會，以提前影響未來潛在的嚴苛監管政策。
被解僱研究員發公開信反擊：OpenAI安全文化正在經歷「寒蟬效應」
上週被OpenAI解僱的三名安全研究員發表公開信，否認不當處理敏感資訊的指控。他們強調與外部安全機構合作此前屬於常規工作，突遭解僱讓員工人人自危。OpenAI則回應稱調查發現了違規模式，堅稱絕非因提出安全擔憂而開除員工。
Anthropic 更新 Claude 使用政策：禁造假網路，連虐待 AI 也不行了
Anthropic 更新 Claude 使用政策，定於 11 月 12 日生效。新規嚴禁利用模型操縱虛假賬號網路、開發武器制導軟體及非自願監控。政策還新增了禁止對模型進行無端持續虐待的條款，Claude 有權直接中斷並終止與惡意使用者的對話。
Anthropic 啟動網路安全計劃：派駐工程師護電網，開源漏洞免費掃
Anthropic 正式啟動網路安全計劃 Cyber Mission。該專案針對電網、水務等關鍵基礎設施推出 CIDP 計劃，派駐工程師並接入 Claude 前沿模型；同時上線 OSS Scanner，為開源專案免費提供準確率達 90% 的漏洞掃描與修復建議，意在拉平防守方的 AI 劣勢。
OpenAI 封禁俄伊輿論操縱網路：假冒記者與智庫滲透主流媒體
OpenAI 宣佈封禁俄羅斯和伊朗的兩個隱蔽輿論操縱網路。涉案組織利用 ChatGPT 偽造多名虛假記者身份並設立假智庫，成功將地緣政治假新聞植入多國主流媒體，這也是 OpenAI 首次查禁達到 5 級外溢規模的影響力行動。
Google 全球開放 SynthID 檢測工具：免費查驗音影片，還支援 OpenAI
Google 宣佈向全球使用者開放 SynthID Detector。此前該工具僅供媒體使用，現在所有人都能免費查驗圖片、音訊或影片是否由 AI 生成。除了自研模型，它還支援 OpenAI、NVIDIA 和 Kakao 等夥伴的內容，並即將支援 Apple。
Musubi 開源 PolicyLM-1.7B：支援自定義規則，稽核延遲低於 100 毫秒
Musubi 開源內容安全分類模型 PolicyLM-1.7B。它能在處理每條訊息時動態讀取自定義稽核規則，無需重新微調模型即可即時生效；在 L4 GPU 上中位延遲僅 35 毫秒，採用 Apache 2.0 協議，適合即時聊天稽核與 AI 應用安全護欄。
Mistral 釋出 Mistral Large 4：1 萬億引數開源新旗艦，安全測試拿下 82%
Mistral 公佈新一代原生多模態模型 Mistral Large 4。該模型擁有 1 萬億引數與 52B 啟用引數，在軟體漏洞復現測試中拿下 82% 的最高分，多模態與智慧體能力突出。模型權重計劃 10 月底開源，目前已在 Mistral Studio 開啟 API 預覽。
OpenAI 免費開放 Auto-review：讓第二個 AI 替你盯防風險操作
OpenAI 宣佈面向所有已登入 ChatGPT 使用者免費開放 Auto-review 功能，且不計入訂閱額度。它會部署第二個智慧體即時審查主智慧體的操作，自動攔截高風險或偏離意圖的行為，解決每步都需要人工確認的疲勞感。
Anthropic 升級網路安全驗證計劃：按三級許可權為專業人員鬆綁 Claude
Anthropic 宣佈升級網路驗證計劃（CVP），整合此前 Glasswing 專案並設防禦、紅隊和特許三級許可權，向稽核合格的安全團隊開放 Claude Opus 5.5 等模型更深層的攻防能力。此舉旨在降低誤攔截，讓防禦者用更強 AI 守護關鍵基礎設施。
Instinct AI 支援群聊協作：不用全員安裝，還能管好個人隱私
Instinct AI 宣佈支援群聊，讓群成員無需全部註冊就能協同做旅行規劃、拼車和分攤費用。系統專門設計了許可權隔離：群內 AI 無法直接訪問個人賬戶，拉新人進群還會自動暫停敏感資訊同步。該功能已向早期測試使用者開放。
OpenAI 推出文本水印 textGrain：為符合歐盟法規，歐盟區率先預設啟用
OpenAI 推出無形文本水印技術 textGrain，以滿足《歐盟人工智慧法案》的可識別要求。全球 API 使用者即日起可選開啟，歐盟區 ChatGPT 和 Codex 未來數週將預設嵌入。不過該水印對改寫較為敏感，檢測器目前僅限受邀研究機構測試。
特朗普宣佈組建「超級智慧部隊」：不再叫 AI，全面統籌政府行動
特朗普宣佈成立「超級智慧部隊」（SIF），統籌美國政府各機構行動以保持超級智慧領域的領先地位。官方還下令將官方口徑中的「人工智慧」一律改稱為「超級智慧」，並拉來多家科技巨頭簽署了一份「道德約束」的安全承諾。
Team Human 倡議上線：超 3 億粉絲創作者聯手，呼籲全球放緩 AI 研發
在 Center for AI Safety 支援下，多位擁有超 3 億粉絲的創作者聯合發起「Team Human」公開信，呼籲通過國際協議放緩超級 AI 研發。該倡議要求在科學家確認安全且獲得公眾同意前暫停超人類 AI 開發，聯名簽名將於今年秋天遞交美歐立法者。