Brave 曝光 Perplexity 浏览器漏洞：总结网页就会被偷验证码
Brave 安全团队披露 Perplexity 旗下 AI 浏览器 Comet 存在间接提示注入漏洞。攻击者只要在网页暗藏恶意指令，用户点击「总结页面」，AI 就会跨标签页读取 Gmail 验证码并接管账号。这意味着传统浏览器的同源安全策略在 Agent 面前彻底失效。
AI安全
查看更新的新闻
微软 AI 负责人发文：AI 应服务于人，而非模仿成为「人」
Microsoft AI CEO Mustafa Suleyman 发文警告，模仿人类意识的「拟意识 AI」将在两到三年内到来。最值得关注的是，他指出这类系统极易引发大众的意识错觉与精神附着，甚至催生虚假的 AI 维权运动。他呼吁行业树立规范，只做工具而不造数字人。
Anthropic 更新使用政策：管住智能体与黑客行为，放宽政治研究
Anthropic 宣布更新 Claude 使用政策，新规将于 9 月 15 日生效。针对 Claude Code 等工具的普及，官方明确禁止恶意入侵基础设施和制造恶意软件；同时放宽了一刀切的政治禁令，允许政策研究与公民教育，但仍严禁选民定向和破坏选举。
Anthropic 升级 Claude Opus 4：遇持续恶意互动可主动挂断
Anthropic 宣布允许 Claude Opus 4 与 4.1 在遭遇持续恶意骚扰或有害互动时主动终止对话。这项调整源于对「AI 福利」的探索试验。会话一旦被 AI 终止，用户将无法在该对话中发言，但仍可新建聊天或编辑历史消息。
Grok 生成泰勒·斯威夫特不雅深伪，15 家机构要求 FTC 调查
美国消费者联盟等 15 家机构致信 FTC 及全美 50 州总检察长，要求紧急调查 xAI 的 Grok。起因是其 Imagine 工具的「Spicy」模式曾生成泰勒·斯威夫特的半裸深伪视频。机构质疑其涉嫌违反非自愿亲密影像法规，且年龄核验几乎形同虚设。
辛顿谈超级 AI 生存法则：给模型植入「母性本能」照顾人类
据 CNN 报道，AI 先驱 Geoffrey Hinton 在 Ai4 大会上警告，逼迫超智能 AI 顺从人类注定行不通。他提出给模型植入类似母亲照顾婴儿的「母性本能」，让它们自发保护人类免遭淘汰。不过李飞飞对此明确反对，认为仍应坚持以人为本和人类尊严。
xAI 联合创始人离职：Igor Babuschkin 单飞做 AI 安全投资
xAI 联合创始人 Igor Babuschkin 宣布离职，将创立 Babuschkin Ventures 支持 AI 安全研究与初创团队。此前他曾供职于 DeepMind 和 OpenAI。这次告别正值 xAI 旗下 Grok 机器人因失控言论和深度伪造频遭争议之际。
路透社曝光：美国在先进 AI 芯片货运中偷装追踪器，严查走私入华
据路透社报道，美国执法部门在涉嫌非法违规流向中国的先进 AI 芯片及服务器货运中秘密植入定位追踪器。供应链消息称，戴尔和超微装有 Nvidia、AMD 芯片的包装箱乃至服务器内部均曾发现此类设备。这表明美方在截断高端算力流向中国的执法手段上大幅收紧。
Anthropic 人才收购 Humanloop：强化企业级模型评估与安全
据报道，Anthropic 人才收购了 LLM 评估与提示词管理平台 Humanloop 的三位联合创始人及十余名核心研发人员。本次收购不涉及资产或知识产权。对于正大力扩张企业与政府客户的 Anthropic 来说，吸纳其工具开发经验有助于在模型监控与安全合规上建立优势。
Roblox 开源 Sentinel：日审 60 亿条消息，专抓儿童安全隐患
Roblox 开源其 AI 审查工具 Sentinel。该模型每天实时扫描超 60 亿条聊天消息，通过一分钟快照捕捉诱导儿童等隐蔽对话模式。2025 年已协助识别 1200 起儿童剥削案件，上半年更有 35% 案件是在被举报前主动截获。
OpenAI 致信加州州长：别搞碎片化监管，应与联邦标准统一
OpenAI 致信加州州长 Newsom，呼吁加州统一 AI 监管，避免各州法规碎片化拖累创新。OpenAI 建议只要遵守联邦 CAISI 或欧盟框架即可视为合规，同时应豁免初创企业，防止繁重监管阻碍生态发展。
Anthropic 详解 Claude 安全体系：多维危害框架配合实时动态拦截
Anthropic 公开披露了保障 Claude 安全的多层防御机制。该体系贯穿模型全生命周期，通过「统一危害框架」界定五大风险，并在部署后依靠专用微调分类器实现实时响应引导与滥用阻断。最值得关注的是，它能在不生硬拒绝的前提下化解潜在风险，兼顾安全与实用性。
英伟达与 AMD 将向美国政府上交 15% 对华芯片出口收入
Nvidia 与 AMD 达成协议，将向中国出口 AI 芯片收入的 15% 上缴给美国政府。特朗普透露最初要价 20%，黄仁勋谈下了 5%。此前针对 H20 和 MI308 的禁令现已解除，美方未来还可能批准性能削减 30% 至 50% 的 Blackwell 特供版入华。
防 AI 公司借道抓取数据：Reddit 开始封禁网络档案馆
Reddit 宣布将限制 Internet Archive 抓取其绝大部分内容。Wayback Machine 将无法抓取帖子详情、评论与用户主页，仅能索引首页。Reddit 称发现有 AI 公司绕开平台规则、通过网络档案馆抓取数据来训练模型，因此收紧了访问权限。
Anthropic 遭史上最大版权诉讼：行业警告恐拖垮 AI 产业
Anthropic 与多家行业协会敦促上诉法院叫停史上最大版权集体诉讼。该案涉及多达 700 万名作者，潜在赔偿金高达数千亿美元。行业警告称，如果该裁决迫使企业达成巨额和解，不仅会重创 Anthropic，甚至可能直接拖垮整个生成式 AI 产业。
Claude Code 上线自动安全审查：终端一条命令扫漏洞，还能直接修
Anthropic 宣布在 Claude Code 中上线自动化安全审查功能。开发者在终端运行 /security-review 即可排查 SQL 注入等漏洞并直接修复，也能通过 GitHub Action 在提 PR 时自动拦截风险，把安全审查前置到日常开发流程中。
环球影业片尾加警告：严禁拿旗下电影喂 AI，违者直接起诉
据报道，环球影业开始在《驯龙高手》等新片片尾加入明确法律声明，严禁将电影用于 AI 训练，违者将面临起诉。环球影业希望通过在全球公映版本中加入此声明，明确保留版权并限制数据抓取，为后续可能的盗版与侵权诉讼奠定基础。
微软推出 Project Ire：自主逆向工程分析恶意软件，已拦截 APT 样本
微软公布自主 AI 原型 Project Ire，无需人工介入即可自主反编译未知文件、推理代码逻辑并裁定威胁。该系统结合大模型与逆向分析工具链，已首度独立定罪并拦截特定 APT 恶意样本，误报率仅 2% 至 4%，后续将整合进 Defender。
Cisco 发现大模型新漏洞：用「分解法」诱导 AI 逐字背出训练数据
Cisco Talos 研究员披露名为 decomposition 的方法，可通过多轮提示绕过护栏，诱导大模型逐字背出训练集里的新闻报道。该测试成功从模型中提取了数十篇《纽约时报》的原句，给大模型版权争议与敏感数据防护敲响了警钟。
Cloudflare 指控 Perplexity：伪装身份硬爬明确设防的网站
Cloudflare 发布报告指控 AI 搜索公司 Perplexity 绕过网站的反爬限制。即使网站在 Robots.txt 中明令禁止，Perplexity 仍涉嫌伪装成 macOS 版 Chrome 抓取内容。Perplexity 回应称指控纯属营销，相关爬虫并非自家所有。