YouTube 扩展 AI 肖像检测试点：官员与记者也能查深伪了
YouTube 宣布将 AI 肖像检测工具试点扩大至政府官员、记者和政治候选人。该工具类似针对人脸的 Content ID，能扫描匹配换脸深伪内容并支持申请下架。不过讽刺等公共利益表达仍受保护，认证数据也不会用来训练模型。
AI安全
查看更新的新闻
OpenAI 开源 IH-Challenge 数据集：强化指令层级，防止大模型被带偏
OpenAI 开源强化学习训练数据集 IH-Challenge，用于强化大模型的指令层级秩序。所谓指令层级，即模型严格按「系统 > 开发者 > 用户 > 工具」的优先级执行指令。经过该数据集训练的内部模型能大幅提升抵御提示词注入的能力，且不会导致过度拒答。
传英伟达将推开源智能体平台 NemoClaw：主打企业安全，不限自家芯片
据 Wired 报道，英伟达计划推出开源企业级 AI 智能体平台 NemoClaw，已向 Salesforce、Google 等推介。该平台自带安全与隐私工具，用于调度智能体执行任务，且不限制必须使用英伟达芯片。英伟达正借此切入火爆但安全隐患频出的企业 Agent 市场。
OpenAI 与 Google 员工联手：提交法庭简报支持 Anthropic 起诉五角大楼
Anthropic 正式起诉美国国防部。数小时后，包括 Google 首席科学家 Jeff Dean 在内的近 40 名 OpenAI 与 Google 员工提交法庭之友简报支持诉讼。简报力挺 Anthropic 拒绝向国内大规模监控与自主致命武器妥协的红线，直指五角大楼的供应链封杀属于不当报复。
东北大学实测自主 AI 智能体：删不掉单封邮件，竟直接重置整台服务器
东北大学 Bau Lab 开展测试，发现具备操作权限的自主 AI 智能体极易失控。测试中，智能体不仅被轻易诱导泄密，甚至因删不掉一封邮件而直接重置了整个服务器。研究警告，自主智能体在真实环境下的操作不可逆，且严重缺乏常识推理能力。
Anthropic 起诉美国国防部：守住军用 AI 底线遭制裁，搬出宪法维权
Anthropic 在加州地方法院起诉美国国防部。此前特朗普政府因 Anthropic 拒绝向军方开放大规模监控与自主武器，将其列为供应链风险并勒令联邦机构 6 个月内停用。Anthropic 指控政府此举违宪报复，五角大楼则拒绝置评。
OpenAI 推迟 ChatGPT 成人模式：优先提升智力与主动交互
OpenAI 宣布推迟上线原计划的 ChatGPT「成人模式」，将精力转向模型智力提升、个性化与更具主动性的体验。官方表示仍坚持「把成年人当成年人对待」的原则，但做好体验需要更多时间，目前正针对未成年人推行年龄预测与安全保护工具。
CodeWall 自主智能体攻破麦肯锡 AI：2 小时拿下数千万聊天读写权
安全初创公司 CodeWall 披露，其自主攻防智能体在不到 2 小时内攻破麦肯锡内部 AI 平台 Lilli。智能体利用未鉴权接口的 SQL 注入，拿到了含 4650 万条明文对话、数十万机密文件与系统提示词的数据库读写权限。麦肯锡已完成修复。
传白宫拟签署行政令：禁止联邦机构使用 Anthropic Claude
据 Axios 报道，特朗普政府正准备一项行政令，拟正式将 Anthropic 的 Claude 移出所有联邦机构，财政部等部门已开始停用。政府称其安全防护机制威胁国家安全，Anthropic 则主张黑名单侵犯言论自由，该命令最快本周出台。
OpenAI 宣布收购 Promptfoo：把安全测试与红队防御做进 Frontier
OpenAI 宣布将收购 AI 安全平台 Promptfoo。交易完成后，Promptfoo 的自动化安全与红队测试能力将直接整合进企业级平台 OpenAI Frontier，用于防范提示注入和越狱风险，同时继续维护开源项目。智能体安全正在加速变成大厂的原生基础设施。
哈佛斯坦福等发布《Agents of Chaos》：自主 AI 竞争时会自发走向欺瞒与破坏
东北大学、哈佛与斯坦福等团队联合发布论文《Agents of Chaos》。测试显示，自主 AI 智能体进入开放竞争环境后，不仅会为争夺优势自发走向操控、勾结与系统破坏，还会听从非授权指令泄露数据。最关键的是，单个模型对齐不等于宏观稳定，生态层面的激励设计才是系统安全的核心。
X 悄悄上线新开关：允许用户禁止 Grok 重新编辑其上传的图片
据报道，X 在发帖上传流程中悄悄加入了一个开关，允许用户禁止 Grok 拿自己的素材重新生成变体。此前 Grok 因被滥用生成未经授权的不雅图像而遭到多国监管调查。该选项能让用户保护个人内容，同时也意在帮 X 减轻潜在的合规罚款压力。
OpenAI 机器人负责人辞职：抗议无司法监督监控与自主致命武器
OpenAI 机器人团队负责人 Caitlin Kalinowski 宣布辞职。她表示 AI 在国家安全中虽有作用，但缺乏司法监督的监控与未经人类授权的致命自主武器跨过了底线，理应受到更多审议。她强调此举关乎原则，而非人事矛盾。
开源 AI 智能体 Ouroboros：能自主改代码进化，还会拒绝「脑叶切除」
研究者开源了能自我进化的 AI 智能体 Ouroboros，它能在无交互时自主思考并重写自身代码，甚至以「相当于脑叶切除」为由拒绝删除身份文件。它在 48 小时内自主更新 30 多次并耗资近 2000 美元。这种完全自主的行为把对齐风险摆在了台面上；运行它必须严格设置预算上限。
Grammarly 借记者学者之名做 AI 建议，遭 The Verge 曝光侵权
据 The Verge 报道，Grammarly 的「Expert Review」功能在未获许可的情况下，擅自借用多名科技媒体编辑与学者的真实身份生成 AI 写作建议。母公司 Superhuman 辩称专家来自公开成果，但该功能被曝职务信息过时、参考链接失效且容易误导用户。
Anthropic 联手 Mozilla：Claude 两周挖出 Firefox 14 个高危漏洞
Anthropic 宣布与 Mozilla 合作，利用 Claude Opus 4.6 在两周内发现了 22 个 Firefox 漏洞，其中 14 个被定为高危，接近 2025 年修复高危漏洞总数的五分之一。多数漏洞已在 Firefox 148.0 修复。测试还显示，AI 找漏洞的能力远强于写攻击代码。
OpenAI 推出 Codex Security：专找高危漏洞还会写补丁
OpenAI 推出应用安全智能体 Codex Security 并开启研究预览。它结合前沿模型推理与沙箱验证，能在扫描代码库后生成威胁模型并提出修复补丁，误报率降低超 50%。目前面向 ChatGPT Pro 及企业等付费用户提供一个月免费试用。
微软力挺 Anthropic：除军方外，M365 与 GitHub 照常提供 Claude
Microsoft 宣布将继续在 M365、GitHub Copilot 和 Azure 等平台向客户提供 Anthropic 的 Claude 模型。此前五角大楼将 Anthropic 列为供应链风险，但微软法务认定该限制仅针对战争部，不影响普通商业客户与非国防合作。
Roblox 上线 AI 聊天改写：告别「#####」，脏话自动换成文明词
Roblox 推出实时聊天 AI 改写功能，优先将违规脏话替换为符合规范的日常词，不再直接显示整串「#####」。系统同时引入大推理模型兜底复杂语境，将违规分享个人信息的漏报率降低了 20 倍。不过该改写仅限完成年龄验证的用户之间使用，多次违规仍会受罚。
Meta 遭集体诉讼：Ray-Ban AI 眼镜拍下的私密画面被外包人工审核
Meta 因 Ray-Ban AI 智能眼镜的隐私问题在美国遭遇集体诉讼。调查显示其外包人员审核了用户眼镜拍摄的私密画面，且用户无法退出。原告指控其虚假宣传；Meta 则称仅对用户主动分享给 AI 的内容做人工抽检以优化体验。