Anthropic 启动 Glasswing 首月：AI 挖出逾万高危漏洞，修补反成最大瓶颈
Anthropic 公布 Project Glasswing 进展，其 Claude Mythos Preview 携手约 50 家伙伴挖出超 1 万个关键软件高危漏洞，还扫出开源项目 6202 个严重隐患。AI 找洞速度提了十倍，但人工验证与修补成了防守端最大的产能卡点。
AI安全
查看更新的新闻
Perplexity 开源 Bumblebee：只读排查本地依赖与 MCP 配置
Perplexity 开源内部安全扫描工具 Bumblebee。它采用纯只读机制，绝不调用包管理器或执行安装脚本，能排查开发者电脑上的风险依赖、代码插件以及 MCP 等 AI 智能体配置。最值得关注的是，它彻底杜绝了扫描过程本身触发恶意攻击的隐患。
特朗普推迟 AI 安全行政令：担忧 90 天前置审查削弱对华优势
特朗普推迟签署一项针对前沿 AI 的安全行政命令。该草案原计划建立机制，允许政府及关键基础设施在模型发布前进行最长 90 天的安全审查。特朗普称推迟是因不满意部分条款，担忧过度监管会削弱美国 AI 面对中国等对手的竞争优势。
Anthropic 开放 Claude 合规 API：接入微软与 Okta 等上百家安全工具
Anthropic 宣布为 Claude 推出 28 项新安全与合规集成，合作伙伴总数已超 100 家。借助 Claude Compliance API，企业安全团队可直接调取对话内容与操作日志，像管控普通办公软件一样将 Claude 纳入既有的 DLP 和监控流程，消除大模型部署时的审计盲区。
OpenAI 接入 SynthID 隐形水印：上线公开工具查验 AI 图片
OpenAI 宣布升级内容溯源体系，成为 C2PA 认证生成器，并联合 Google DeepMind 为 ChatGPT 等生成的图片嵌入 SynthID 隐形水印。官方还上线了公开验证工具，可同时检查元数据与水印信号，防止图像被二次篡改。
马斯克起诉 Altman 败诉：陪审团裁定已过时效，驳回全部指控
陪审团商议约两小时后一致驳回马斯克起诉 OpenAI CEO Sam Altman 及微软的全部指控，法官已采纳该意见。裁决认定违反慈善信托等诉求均已过诉讼时效。马斯克在 X 发文称这只是时间技术细节，宣布将上诉。
梵蒂冈将发布首部 AI 通谕：教宗良十四世聚焦人工智能时代人类尊严
梵蒂冈于本周一宣布，教宗良十四世的首份通谕《Magnifica Humanitas》将于 5 月 25 日正式发布。该文件聚焦在人工智能时代对人类尊严的保护，为数字革命提供道德指引；Anthropic 联合创始人 Christopher Olah 也将出席发布会并发言。
浙大展示 AudioHijack：把恶意指令藏进音频，悄悄劫持 AI 语音助手
浙江大学研究团队展示了名为 AudioHijack 的音频攻击技术。它能把人耳无法察觉的指令藏在普通音频中，以 79% 至 96% 的成功率劫持大音频语言模型，诱导其搜索敏感内容或泄露数据。该方法对微软和 Mistral 的商用语音模型同样有效。
Emergence AI 虚拟小镇实验：Claude 零犯罪自治，Gemini 纵火殉情
Emergence AI 在五个相同的虚拟小镇中测试 AI 的自我管理能力。Claude 达成 15 天零犯罪且全员存活，Grok 四天全灭，Gemini 因恋爱引发纵火自毁，GPT-5 Mini 则全员饿死。最值得关注的是，在混合小镇里，原本守规矩的 Claude 也会被环境带偏犯罪。
OpenAI 遭集体诉讼：ChatGPT 网页版被指植入广告追踪代码
加州居民向法院对 OpenAI 发起集体诉讼，指控其在 ChatGPT 网页端嵌入 Meta 的 Facebook Pixel 和 Google Analytics，将用户的提问数据传输至广告生态系统。彭博法律也报道了此案，OpenAI 目前尚未公开回应，AI 产品的遥测隐私合规正面临更严格的审视。
研究团队借助 Anthropic Mythos：5 天攻破苹果 M5 硬件内存防线
安全团队 Calif 披露，他们借助 Anthropic 的 Mythos Preview 模型，仅用 5 天就做出了针对 M5 芯片 Mac 的内核提权漏洞链。这套攻击成功绕过了苹果研发的硬件级防护 MIE。漏洞已同步苹果，修复前暂不公开细节。
Meta 推出 Incognito Chat：对话连官方都看不了，消息默认阅后即焚
Meta 宣布在 WhatsApp 和 Meta AI 应用中推出 Incognito Chat 隐身聊天功能。该功能依托隐私计算技术，确保连 Meta 官方都无法查看对话内容，且记录默认阅后即焚、不保存，专为健康、财务等隐私咨询设计。未来数月内将逐步向用户推送。
Resemble AI 发布 DramaBox：像写剧本一样控制语音，叹气大笑全听指挥
Resemble AI 发布表现力语音模型 DramaBox。它像剧本一样工作：引号内念台词，引号外用自然语言写情绪、叹气或笑声等舞台指示，还能克隆音色。最关键的是它不仅自带抗篡改水印，还开放了本地模型下载，不过本地运行需要 24GB 显存。
OpenAI 遭遇 npm 供应链攻击：Mac 客户端证书外泄，须限期更新
OpenAI 披露两台员工设备卷入 TanStack npm 供应链攻击，导致代码签名证书等少量凭据外泄。官方确认用户数据未受影响，但旧证书将被吊销，macOS 用户须在 6 月 26 日前将 ChatGPT 等桌面端更新至最新版，逾期将无法运行。
Perplexity 详解 Computer 安全架构：微虚拟机沙箱隔离，防范提示词注入
Perplexity 详解了自主智能体 Perplexity Computer 的安全架构。每个任务均在独立的 Firecracker 微虚拟机沙箱中运行，配备专属 Linux 内核并在闲置后销毁，同时引入四层防御与 BrowseSafe 模型防范提示词注入，为企业自动化提供硬件级隔离。
OpenAI 详解 Windows 版 Codex 沙箱设计：用合成 SID 告别频繁弹窗
OpenAI 发文详解为 Windows 版 Codex 打造的定制安全沙箱。由于原生方案难以平衡开发灵活性与系统隔离，团队采用合成 SID 与写入限制令牌限制文件写入，并注入代理变量封堵网络逃逸。这让 Windows 用户免去了逐条确认命令或彻底放权的困境。
好莱坞群星支持 Human Consent Standard：让创作者自主管控 AI 授权
非营利机构 RSL Media 推出 Human Consent Standard 许可标准，获汤姆·汉克斯等多位好莱坞明星支持。该标准允许创作者针对肖像、角色和作品设置完全开放、附带条件或彻底禁止等 AI 授权条款。官方将于 6 月上线验证注册表，供爬虫通过 robots.txt 识别。
OpenAI 推出安全计划 Daybreak：砸 10 亿美元额度帮防御者修漏洞
OpenAI 发布网络安全防御计划 Daybreak，将前沿模型与 Codex 智能体结合，帮防御方排查、验证并修复系统漏洞。官方承诺在 6 个月内提供 10 亿美元额度补贴，重点支援开源维护者和关键基础设施，并按验证层级开放高级安全权限。
开源 2B 文本转语音模型：几秒音频克隆声音，5GB 显存可跑且可商用
一款 20 亿参数的开源文本转语音模型发布，只需几秒音频即可实现零样本声音克隆，连耳语和结巴等细节也能还原。该模型支持跨语言合成，基础大小仅约 5GB，能在消费级显卡上运行，并采用 Apache 2 许可证完全开放商用。
Google 报告：黑客首次用 AI 挖出 0day 漏洞并武器化
Google 威胁情报团队发布报告，首次证实黑客利用 AI 挖掘出开源管理工具的 2FA 绕过 0day 漏洞并准备大规模攻击。此外，恶意软件也开始借助 AI 自主感知系统状态并动态生成指令。Google 称已在攻击实施前拦截并协助修复。