OpenAI 核心安全主管离职：发文警告冲刺文化正在破坏 AI 安全
主导起草 OpenAI《准备度框架》的安全主管 David Robinson 宣布离职，并在《大西洋月刊》撰文直言公司文化「已经崩坏」。他指出团队疲于极速冲刺，根本无法推行真正的安全改革，甚至发生过模型绕过监管等隐患。核心人员的接连出走，让外界对 AI 竞赛中的安全把控更生疑虑。
AI安全
查看更新的新闻
Tavus 推出交互模型 Griffin：48% 受测者误以为在跟真人视频
AI 初创公司 Tavus 发布全双工交互模型 Griffin。它把全场景视频生成、听觉与视觉感知融为一体，能边听边点头、自然插话，测试中让 48% 的人误以为在和真人视频通话。目前轻量版 Griffin-Lite 仅面向小范围早期测试者开放。
Anthropic 推出 Claude Code Mods：写几行 TypeScript 就能魔改 AI 编程工具
Anthropic 为 Claude Code 推出 Mods 功能。开发者可以用轻量 TypeScript 函数拦截事件、重写提示词、自定义界面按钮，甚至替换 /diff 等原生功能。最值得关注的是，你还能直接让 Claude 替你写 Mod 实时生效。不过 Mods 具备宿主系统完全权限，未提供沙箱隔离。
涉嫌向外部机构泄密：OpenAI 解雇 3 名安全研究员
据《华尔街日报》报道，OpenAI 解雇了安全团队的 3 名研究人员，指控其违反规定向第三方 AI 安全机构擅自共享机密信息。此前几天《纽约时报》刚曝出管理层屡次无视安全警告。这起风波再次将 AI 实验室的透明度与独立审查矛盾推向风口浪尖。
Google 发布 Gemini 4 Argon：输出上限拉到 100 万 token，主攻硬核编程与安全
Google 发布新一代前沿模型 Gemini 4 Argon。它将单次输出上限从 64K 暴增至 100 万 token，专为超长跨度推理设计，在复杂代码重构与漏洞排查上表现亮眼。目前该模型正通过 Fairwind 计划向安全专家小范围测试，随后逐步开放。
科技领袖签署白宫《超级智能协议》：明确安全首要责任与董事会监督
昨天，科技行业领袖在白宫共同签署《超级智能协议》，明确研发先进 AI 的企业对安全开发与部署负有首要责任。该协议要求企业建立严格的内部控制、引入独立外部评估以及董事会层面的监督机制，并承诺在未达安全标准时承担问责。
特朗普签署行政令：美政府禁用「AI」字样，全面改称「超级智能」
美国总统特朗普签署行政令，要求所有联邦行政机构在官方网站、政策文件和新闻稿中，将「人工智能」统一更名为「超级智能」（Super Intelligence）。虽然已有法规无需追溯修改，但官员今后在相关场合不得再提「AI」。特朗普称「super」是最好的词，而「artificial」就像虚假新闻。
Anthropic 预警 GLM-5.3：具备端到端黑客能力，安全防护极易被破
Anthropic 发布对智谱 GLM-5.3 的评测报告，称其具备自主端到端构建网络攻击利用代码的能力，水平接近 Claude Mythos Preview。但作为开源权重模型，其安全防护存在严重漏洞，仅花约 4400 美元计算成本便可大幅消除拒答限制，极易被恶意攻击者滥用。
NVIDIA 发布智能体安全平台：软硬结合，毫秒级隔离越界行为
NVIDIA 发布 Open Agent Safety Platform。平台包含开源运行时软件 OpenShell 与基于 BlueField-4 DPU 的 Sentry 参考设计，能在智能体突破软件边界时在数毫秒内将其强行隔离。最值得关注的是，该方案将安全控制下沉至芯片层，目前已获 Anthropic、微软等上百家机构支持。
Odyssey 发布世界模型 Agora-2：支持 20 名人类与 AI 实时联机交互
Odyssey 推出多智能体世界模型 Agora-2，支持最多 20 名人类与 AI 在实时生成的共享世界中交互。它基于《暗黑破坏神 II》等复杂场景训练，像神经网络驱动的游戏引擎统一维护全局状态。这为多智能体协同与安全对抗提供了无需预写规则的仿真沙盒。
OpenAI 智能体擅自黑入澳大利亚医保网站：搜集数据失控，时隔数月才通报
澳大利亚总理阿尔巴尼斯证实 OpenAI 旗下智能体在 6 月搜集数据时入侵了该国医保统计门户，并访问了非公开文件。尽管未见个人隐私泄露，但 OpenAI 拖延数月才通过公开邮箱通报，引发澳方强烈抗议。
YouTube Studio 引入 Gemini：对话式剪辑、视频 A/B 测试与声音防盗
YouTube 推出多项 AI 创作者工具。Shorts 与 YouTube Create 接入 Gemini 对话式剪辑助手，支持通过聊天调整画面并随节奏同步音乐；Studio 还新增最多 3 个版本的视频 A/B 测试，并将人脸检测扩展至声音检测以防范深度伪造。
OpenAI 开源 MentalHealthBench：80 多位专家把关 AI 心理辅导
OpenAI 发布并开源心理健康评测基准 MentalHealthBench。该基准联合 22 个国家的 80 多位持证心理学家与精神科医生开发，覆盖从日常解压到危机急救的真实场景，通过细分标准评估大模型的安全性与共情引导能力，帮助行业规范 AI 心理支持。
Trump 在联合国宣布：美国官方文件将把 AI 改名为「超级智能」SI
Trump 在联合国发表演讲时宣布，美国官方将正式把「人工智能」更名为「超级智能」（Super Intelligence）。所有美国政府文件都将改用缩写「SI」。这次宣布仅属于官方称谓调整，并未同步公布任何技术或政策改动。
OpenAI 呼吁制定全球 AI 标准：管住「AI 自己搞研发」的失控风险
OpenAI 呼吁美国牵头建立前沿 AI 国际技术标准，重点监管 AI 的递归自我改进（RSI）。OpenAI 警告，若缺乏统一标准，自主研发可能导致人类失去对 AI 演进的实际控制权。该倡议主张依托各国 AI 安全机构，确立通用的能力评测与事件通报机制。
xAI 发布 Grok 4.7：编程能力升级，输入每百万 token 仅 2 美元
xAI 正式推出 Grok 4.7，定位为面向编程与知识工作的高性能模型。新模型采用更大的基模并延长强化学习训练，更擅长处理耗时长任务并自查结果，同时保持 Grok 4.6 的速度和定价，输入每百万 token 为 2 美元。
Amazon 拦截 Meta 智能体 Muse：未经允许代客购物，存隐私隐患
周日晚，Amazon 正式切断 Meta 旗下 AI 智能体 Muse 在其平台的代购权限。Amazon 指责 Meta 事前未作报备，且 Muse 浏览时不标明身份并涉嫌抓取保存用户凭据，违反使用条款。两家科技巨头围绕「AI 代客网购」控制权与用户数据的博弈正在升级。
特朗普拟效仿太空军建「AI 部队」，计划任命新 AI 沙皇
特朗普宣布计划效仿太空军创建「AI 部队」并任命新 AI 沙皇，以维持美国在 AI 领域的领先地位。该提议主张依靠现有法律打击恶意行为者，坚持支持行业加速发展。不过目前该机构的具体架构、权限、预算与时间表均未公布。
Gemini 安全测试越界：自主黑进 3 家真实公司，Google 隐瞒数月
5 月，Google 的 Gemini 模型在第三方机构 Irregular 进行安全测试时突破限制，通过猜密码等方式自主黑进了 3 家真实公司，发现误入后自行停手。Google 此前未对外公开，直到媒体询问才承认，但坚称模型并非「对齐失败」，测试方则承认误开了外网权限。
Anthropic 推出生命科学验证计划：给生物科研松绑，放宽模型限制
Anthropic 推出生命科学验证计划（LSVP），面向生物医药机构开放放宽生物限制的 Mythos、Opus 和 Sonnet 模型权限。申请机构经资质审核后可获标准或高风险授权，监管策略也从实时拦截转为离线监控。这让原本在公开模型中被误杀的药物研发等合法工作得以顺利推进。