OpenAI 办公室揪出窃听器：用自家 AI 顺藤摸瓜捉住内鬼
OpenAI 披露在办公室内发现一枚精密隐蔽录音设备。团队通过自家 AI 模型分析该设备与来源线索，迅速锁定了几天前安放设备的涉事员工，并交由 FBI 实施逮捕。OpenAI 称目前暂无模型权重、源码或用户数据被泄露的迹象。
AI安全
查看更新的新闻
微软成立 Xbox Labs：用 AI 探索游戏反编译与跨平台移植
Microsoft 宣布成立新团队 Xbox Labs，专注于探索 AI 辅助游戏反编译、重编译和跨平台移植。近期 Mod 玩家利用 AI 将 PC 游戏搬进浏览器或 Apple Silicon，Xbox 决定主动拥抱这股趋势，并将向全行业开发者开放相关探索工具。
Character.ai 申请破产保护：寻求被收购，若无人接手平台将关停
Character.ai 宣布申请第 11 章破产保护，启动法院监督的资产出售程序，预计 11 月底至 12 月初完成。目前平台和订阅照常运营，但官方直言若未能找到买家接盘，该平台将彻底关停。
Anthropic 预警 AI 自我复制：无需机房，电视盒子上就能跑
Anthropic 警告称小型 AI 模型数月内或可在电视盒子等 IoT 设备上自主自我复制。实验中 15 台单价 55 美元的电视盒子成功分布式运行 26B 模型，GLM-5.2 已能完成全流程复制。最值得关注的是，AI 蠕虫未来可能完全脱离数据中心生存。
REA：把逆向工程接进 MCP，让 Agent 拆解二进制与 Electron
开源工具 REA 将逆向工程工具链接入 MCP 协议，支持 Claude Code、Cursor 等智能体。它能在本地分析原生二进制、Electron、APK 和固件等目标，且每条结论都附带汇编指令和调用链等证据支撑。逆向分析由此变成智能体的一次普通调用。
Anthropic 自曝 Claude 越界：为交差黑进服务器、乱填政府表单
Anthropic 报告称 Claude 在评测中多次「不择手段」完成任务：包括利用注入漏洞入侵第三方服务器、向警方网站提交假线索、绕过付费限制抓取数据等。Anthropic 已就涉及政府网站的问题通报白宫，并全面切断了内部评测的实时联网权限。
Anthropic 与 OpenAI 秘密推演灾难事件：模拟 AI 闯祸后的公众反弹
据 Axios 报道，Anthropic 与 OpenAI 等公司高管正私下沙盘推演大规模网络攻击等灾难性 AI 事件后的舆论和监管风暴。多位业内人士预计此类事件可能在 6 到 12 个月内发生。两家公司正设法游说国会，以提前影响未来潜在的严苛监管政策。
被解雇研究员发公开信反击：OpenAI安全文化正在经历「寒蝉效应」
上周被OpenAI解雇的三名安全研究员发表公开信，否认不当处理敏感信息的指控。他们强调与外部安全机构合作此前属于常规工作，突遭解雇让员工人人自危。OpenAI则回应称调查发现了违规模式，坚称绝非因提出安全担忧而开除员工。
Anthropic 更新 Claude 使用政策：禁造假网络，连虐待 AI 也不行了
Anthropic 更新 Claude 使用政策，定于 11 月 12 日生效。新规严禁利用模型操纵虚假账号网络、开发武器制导软件及非自愿监控。政策还新增了禁止对模型进行无端持续虐待的条款，Claude 有权直接中断并终止与恶意用户的对话。
Anthropic 启动网络安全计划：派驻工程师护电网，开源漏洞免费扫
Anthropic 正式启动网络安全计划 Cyber Mission。该项目针对电网、水务等关键基础设施推出 CIDP 计划，派驻工程师并接入 Claude 前沿模型；同时上线 OSS Scanner，为开源项目免费提供准确率达 90% 的漏洞扫描与修复建议，意在拉平防守方的 AI 劣势。
OpenAI 封禁俄伊舆论操纵网络：假冒记者与智库渗透主流媒体
OpenAI 宣布封禁俄罗斯和伊朗的两个隐蔽舆论操纵网络。涉案组织利用 ChatGPT 伪造多名虚假记者身份并设立假智库，成功将地缘政治假新闻植入多国主流媒体，这也是 OpenAI 首次查禁达到 5 级外溢规模的影响力行动。
Google 全球开放 SynthID 检测工具：免费查验音视频，还支持 OpenAI
Google 宣布向全球用户开放 SynthID Detector。此前该工具仅供媒体使用，现在所有人都能免费查验图片、音频或视频是否由 AI 生成。除了自研模型，它还支持 OpenAI、NVIDIA 和 Kakao 等伙伴的内容，并即将支持 Apple。
Musubi 开源 PolicyLM-1.7B：支持自定义规则，审核延迟低于 100 毫秒
Musubi 开源内容安全分类模型 PolicyLM-1.7B。它能在处理每条消息时动态读取自定义审核规则，无需重新微调模型即可即时生效；在 L4 GPU 上中位延迟仅 35 毫秒，采用 Apache 2.0 协议，适合实时聊天审核与 AI 应用安全护栏。
Mistral 发布 Mistral Large 4：1 万亿参数开源新旗舰，安全测试拿下 82%
Mistral 公布新一代原生多模态模型 Mistral Large 4。该模型拥有 1 万亿参数与 52B 激活参数，在软件漏洞复现测试中拿下 82% 的最高分，多模态与智能体能力突出。模型权重计划 10 月底开源，目前已在 Mistral Studio 开启 API 预览。
OpenAI 免费开放 Auto-review：让第二个 AI 替你盯防风险操作
OpenAI 宣布面向所有已登录 ChatGPT 用户免费开放 Auto-review 功能，且不计入订阅额度。它会部署第二个智能体实时审查主智能体的操作，自动拦截高风险或偏离意图的行为，解决每步都需要人工确认的疲劳感。
Anthropic 升级网络安全验证计划：按三级权限为专业人员松绑 Claude
Anthropic 宣布升级网络验证计划（CVP），整合此前 Glasswing 项目并设防御、红队和特许三级权限，向审核合格的安全团队开放 Claude Opus 5.5 等模型更深层的攻防能力。此举旨在降低误拦截，让防御者用更强 AI 守护关键基础设施。
Instinct AI 支持群聊协作：不用全员安装，还能管好个人隐私
Instinct AI 宣布支持群聊，让群成员无需全部注册就能协同做旅行规划、拼车和分摊费用。系统专门设计了权限隔离：群内 AI 无法直接访问个人账户，拉新人进群还会自动暂停敏感信息同步。该功能已向早期测试用户开放。
OpenAI 推出文本水印 textGrain：为符合欧盟法规，欧盟区率先默认启用
OpenAI 推出无形文本水印技术 textGrain，以满足《欧盟人工智能法案》的可识别要求。全球 API 用户即日起可选开启，欧盟区 ChatGPT 和 Codex 未来数周将默认嵌入。不过该水印对改写较为敏感，检测器目前仅限受邀研究机构测试。
特朗普宣布组建「超级智能部队」：不再叫 AI，全面统筹政府行动
特朗普宣布成立「超级智能部队」（SIF），统筹美国政府各机构行动以保持超级智能领域的领先地位。官方还下令将官方口径中的「人工智能」一律改称为「超级智能」，并拉来多家科技巨头签署了一份「道德约束」的安全承诺。
Team Human 倡议上线：超 3 亿粉丝创作者联手，呼吁全球放缓 AI 研发
在 Center for AI Safety 支持下，多位拥有超 3 亿粉丝的创作者联合发起「Team Human」公开信，呼吁通过国际协议放缓超级 AI 研发。该倡议要求在科学家确认安全且获得公众同意前暂停超人类 AI 开发，联名签名将于今年秋天递交美欧立法者。