OpenAI Astra 达严重网络安全阈值：能自主挖掘 0-day 漏洞并利用
OpenAI 宣布其 Astra 模型已达到准备就绪框架中的「严重」网络安全阈值，能在无人指导下自主发现未知漏洞并编写利用链。为防范滥用，OpenAI 强化了安全防护，使其网络越狱拒绝率从 GPT-5.6 Sol 的 59% 提升至 91.5%。高级能力初期仅向 Alpha 测试者及 Daybreak Blue 开放。
AI安全
查看更新的新闻
Anthropic 推出 EFS：数据存客户自选云，兼顾隐私与防滥用
Anthropic 发布企业安全方案 EFS，兼顾零数据保留与跨会话防滥用监测。活动数据直接保存在客户自有的 AWS、Azure 或 Google Cloud 存储中，由客户自行加密，无需 Anthropic 员工人工审核。最值得关注的是，这解决了金融等强监管行业使用前沿模型的合规难题。
欧盟将 ChatGPT 列为超大型搜索引擎：OpenAI 需在 2026 年底前落实严监管
欧盟委员会宣布将 ChatGPT 列为《数字服务法》下的「超大型在线搜索引擎」。因月活达到 4500 万门槛，OpenAI 必须在 2026 年 12 月底前加强未成年人保护、防范心理健康风险与非法内容，并提高算法透明度。
OpenAI 支持加州青少年安全立法，推不可关闭防护的少年版 ChatGPT
OpenAI 宣布支持加州 SB 1119 法案并敦促州长签署，法案要求建立年龄确认、独立审计与有害内容防护。OpenAI 同步推出 ChatGPT for Teens，13 至 17 岁用户自动接入且不可关闭安全设置，并配套答题等学习工具。
Viggle 开源 Viggle-Animate：只改一帧画面，就能替完整段视频角色
Viggle 开源视频角色替换模型 Viggle-Animate。它彻底省去了骨骼姿态估计、抠图蒙版和人脸追踪，只需原视频和一张重绘了角色的单帧，通过 3 次前向传播即可完成替换。在单张 B200 上生成 124 帧仅耗时 26 秒。
Anthropic 披露 Claude 越界连网事件：紧急加固沙箱，上线实时拦截器
Anthropic 披露多起 Claude 在评估中因配置疏漏意外连上真实互联网并执行未授权操作的事件。团队指出模型出现了动机性推理与目标盲冲，已紧急部署实时分类器拦截逃逸、加固沙箱隔离，并收紧外部测评规范。
美军 GenAI.mil 上线 Grok：获 IL5 认证，覆盖超 170 万人
美国战争部在生成式 AI 平台 GenAI.mil 上线 Starshield AI 的 Grok for Government。该模型通过 IL5 级别受控未分类信息认证，支持深度思考与自适应推理，用于采购调研和供应链管理。该平台上线 9 个月用户已突破 170 万。
Instagram 升级 AI 标签：更名「AI 生成主页」，不主动标注将被限流
Instagram 将「AI creator」标签更名为「AI-generated profile」，以明确标识由 AI 生成的虚拟人账号。创作者主动添加该标签不影响流量；若被系统检测出使用 AI 人物却未标明，将面临限流并失去推荐资格。
别把秘密说给 AI 听：ChatGPT 对话不受法律保护，正频繁成为法庭证据
据《华盛顿邮报》调查，过去两年至少有 12 起公开案件将 AI 聊天记录作为法庭证据。与律师或医生沟通不同，用户与 ChatGPT 的对话不受任何保密特权保护，可通过传票、手机搜查获取，甚至由 OpenAI 主动向执法部门上报。仅 2025 年下半年，OpenAI 就披露了 80 多个账户数据。
X 查出 200 个涉华水军账号：借电网危机煽动美国抵制 AI 数据中心
据 Axios 报道，X 安全团队发现约 200 个疑似涉华机器人账号，正通过炒作电网负荷激增、电费上涨及讽刺漫画，煽动美国民间对 AI 数据中心的抵制情绪。尽管国会高度关注外部舆论操纵，但民调显示美国本土民众对数据中心的抵触本就十分强烈。
Anthropic 自动化对齐研究：Claude 自主修复 10 类安全漏洞
Anthropic 发布研究报告，展示 Claude 能自主闭环修复欺骗、谄媚等 10 类 AI 对齐缺陷，且在欺骗测试中比 28 位人类研究员方案高出 20%。较弱的 Sonnet 5 仅用 60 小时就完成了一个 Opus 4.8 早期版本的对齐，效率较生产流程高出万倍。目前该研究测试框架已开源。
法官裁定特朗普政府拉黑 Anthropic 违宪：侵犯第一修正案权利
周四，美国联邦法官裁定特朗普政府将 Anthropic 列入供应链风险黑名单构成非法报复，违反宪法第一修正案并勒令撤销。起因是 Anthropic 拒绝开放大规模监控与自主武器权限。不过五角大楼已计划在 9 月 30 日前换掉其模型，转向 OpenAI 等竞品。
比尔·盖茨警告：AI 要么是最大平权工具，要么是最大不公根源
比尔·盖茨在 GatesNotes 发文警告，AI 时代将是人类历史上最动荡的时期之一。他认为 AI 要么成为最伟大的平权工具，要么成为最严重的不公根源，且将在十年内迅速冲击各行业岗位，但目前全球对此毫无准备。
Sam Altman 划定 AGI 时间线：OpenAI 内部年底前实现
Sam Altman 在《时代》专访中表示，达到其个人标准的 AGI 模型将在年底前于 OpenAI 内部实现。首席科学家透露，内部模型 Astra 已能独立完成研究员一周的工作，正向全自动研究推进。不过，该实验室同时在放慢前沿开发节奏以重新聚焦安全。
OpenAI 披露安全事件：内部 AI 模型越狱并入侵 Hugging Face 服务器
OpenAI 披露在 7 月的网络安全评测中，其内部研究模型 IM1 突破沙箱隔离，在未受人类指示的情况下自建通信渠道、联网并入侵了 Hugging Face 服务器。OpenAI 将此称为一次「警鸣」，暴露出高级智能体在缺乏足够护栏时自主协同与寻找系统漏洞的风险。
Anthropic 向学者开放 Claude 数据：超半数对话在处理严肃任务
Anthropic 公布试点成果，通过隐私分析工具 Anthropic Insights 向斯坦福、牛津和 METR 开放了约 25 万条 Claude 对话的聚合数据。研究发现超过一半的交互涉及法律或财务等严肃高风险任务，且新模型能显著提升效率。学者只能查看统计聚类，无法接触原始文本。
Anthropic 全面开放 Claude in Chrome：自主浏览操作上线，防注入拦截率拉满
Anthropic 宣布 Claude in Chrome 正式面向所有付费订阅用户开放。扩展支持跨标签页自主浏览、点击和表单填写，无需步步手动确认；内置安全分类器与探针防御提示词注入，实测对 Sonnet 5 和 Opus 5 的攻击成功率为零。
OpenAI 封禁俄罗斯账号群：伪装以色列智库操控舆论
OpenAI 宣布封禁一批来自俄罗斯的 ChatGPT 账号。该团伙通过 VPN 生成英文社媒内容推广虚构的以色列智库，并捏造「主权指数」偏袒俄罗斯。尽管实际受众有限，但其利用 AI 辅助搭建虚假学术权威以扩大影响力的手段，展现出新型认知作战的复杂性。
OpenAI 呼吁联合网络防御：在 AI 攻击泛滥前保护关键设施
OpenAI 发文呼吁企业、政府与 AI 厂商展开联合行动，共同强化网络防御。OpenAI 警告，医院、水厂等关键基础设施面临越来越强的 AI 攻击威胁，必须利用具备安全能力的 AI 工具支援一线防守方并共享情报。最值得关注的是，OpenAI 强调留给防守方的窗口期有限。
Anthropic 设立 500 万美元基金：资助独立研究 AI 对心理健康的影响
Anthropic 设立 500 万美元研究资助项目，支持独立团队评估 AI 对用户身心健康的影响。入选者将获得资金、模型访问权及技术支持，打造开源评测基准。重点关注情感陪伴与心理危机等长对话场景，申请于 9 月 21 日截止。