白宫反对 Anthropic 开放 Mythos：算力先紧着政府用
Anthropic 原本计划把新模型 Mythos 的企业访问范围从约 50 家扩大到近 120 家，但遭到白宫叫停。美官员担忧这会挤占算力并影响政府自身使用。最值得关注的是，尽管双方此前摩擦不断，政府内部仍因 Mythos 极强的网络安全能力而不想放手。
AI安全
查看更新的新闻
OpenAI 破案 GPT-5「哥布林」怪癖：竟来自 Nerdy 个性的奖励训练外溢
OpenAI 发文复盘 GPT-5.1 以来模型频频使用「哥布林」打比方的根源。调查发现，为 Nerdy 个性设计的奖励信号在 76.2% 的数据集中过度偏好生物词，随后通过强化学习外溢至全部对话。OpenAI 已于 3 月退役该个性并清洗数据。
OpenAI 发布网络安全行动计划：提五大支柱用 AI 普及网络防御
OpenAI 发布网络安全行动计划，针对恶意利用 AI 发动攻击的风险，提出协助美国及其盟友加强数字防御。该计划包含普及网络防御、政企协同等五大支柱，核心是向守方开放防御工具，并强化前沿模型自身的安全管控。
OpenAI 披露 ChatGPT 防暴力机制：高危直接报警，将推成年人紧急联系人
OpenAI 公布 ChatGPT 针对暴力及现实伤害的防护体系。系统利用分类器与推理模型检测违规迹象并交由人工审核，违规账号立即封禁；一旦发现迫在眉睫的严重现实危害将主动报警。此外，官方透露即将为成年用户上线紧急联系人功能。
Google 顶着员工反对与五角大楼签约：AI 模型将进驻涉密网络
据 The Information 报道，Google 与美国国防部签署协议，允许军方在涉密网络中部署其 AI 模型。五角大楼正加速引入多家科技大厂的 AI 技术以防止厂商锁定，此前军方曾因使用限制条款与坚持设防的 Anthropic 闹上法庭。
研究人员推出 13B 复古模型 Talkie：只读过 1931 年前文本，零污染测 AI 泛化
前 OpenAI 与 Anthropic 研究人员推出 13B 复古模型 Talkie，完全基于 1931 年前的 2600 亿 token 历史文本训练。最值得关注的是，它彻底杜绝了现代网络数据污染，甚至能靠少量示例推导出简单的 Python 运算。这为测试 AI 的真实泛化与推理提供了罕见的干净样本。
超 600 名员工联名致信 Pichai：要求 Google 拒绝五角大楼机密 AI 项目
据报道，超 600 名 Google 员工向 CEO Sundar Pichai 联名致信，要求公司禁止五角大楼在机密场景中使用 Gemini 等 AI 模型。联名者包含 DeepMind 团队及 20 多位总监和副总裁。信件警告称，一旦进入机密环境，员工将无法监督和阻止潜在危害。
马斯克起诉 OpenAI 案落幕：陪审团因时效驳回全部指控，马斯克败诉
在经过近一个月的庭审后，陪审团仅商议两小时便裁定驳回埃隆·马斯克对 OpenAI 及山姆·奥特曼的诉讼，法官采纳了该决定。陪审团认定指控已过诉讼时效。马斯克此前指控 OpenAI 背弃非营利初衷转向盈利，最终以其全面败诉收场。
中国监管叫停 Meta 收购 Manus：涉资 20 亿美元，被令撤回交易
中国监管部门叫停 Meta 斥资约 20 亿美元收购 AI 初创公司 Manus 的交易，要求撤回并购。Manus 主打能自主规划并执行任务的智能体。虽然其团队已融入 Meta，但因创立于中国仍受监管约束，解绑将给 Meta 带来棘手难题。
OpenAI 公布五大原则：防止少数人垄断超智，承诺降低算力成本
OpenAI 发布指导 AGI 开发的五项原则，涵盖民主化、赋能、共同繁荣、韧性与适应性。OpenAI 承诺防止技术权力集中在少数实验室手中，主张通过民主机制决定关键事项。团队表示将继续在全球扩建基础设施以大幅降低算力成本，并与政府合作防范新型病原体与网络安全风险。
Anthropic 升级 Claude 选举防护：偏见评测超 95%，防范自主虚假宣传
Anthropic 公布 Claude 应对 2026 年选举的安全更新。Claude Opus 4.7 与 Sonnet 4.6 在政治偏见测试中分别取得 95% 和 96% 的高分，选举违规拦截率接近 100%。在自主操纵舆论的测试中，内置防护的模型几乎拒绝了所有恶意任务。
OpenAI 开源 Privacy Filter：本地运行脱敏 8 类隐私数据
OpenAI 开源隐私过滤模型 Privacy Filter，可脱敏 8 类隐私数据。其总参数 1.5B、激活参数仅 50M，支持 128,000 token 上下文，在修正基准测试中 F1 达 97.43%。数据无需上传即可在本地完成脱敏。
Meta 被曝记录员工鼠标和按键：用来训练自主工作智能体
据路透社报道，Meta 正向美国员工的电脑安装追踪软件 MCI，采集鼠标轨迹、点击、按键甚至屏幕截图，用于训练能自主处理办公任务的 AI 智能体。Meta 表示该数据不用于绩效考评，但这套原本用于监控零工的手段引发了白领隐私争议。
YouTube 扩展肖像检测工具：明星没频道也能查删 AI 换脸
YouTube 宣布将肖像检测技术扩展至娱乐经纪公司及艺人。该工具类似 Content ID，可扫描识别 AI 换脸等 Deepfake 内容并支持申请下架。最值得关注的是，即便演艺人员自己没有开设 YouTube 频道，现在也可以直接使用该工具维权。
Anthropic 网络安全模型 Mythos 遭未授权访问：通过第三方供应商泄露
据彭博社报道，Anthropic 专为网络安全打造的高风险 AI 模型 Mythos 被未授权用户通过第三方供应商环境访问并使用。该模型原仅在「Glasswing 计划」下向少数企业限量开放。Anthropic 表示已就此展开调查，目前自身系统未受波及。
OpenAI 扩大网络安全防御计划：投入千万美元额度，开放 GPT-5.4-Cyber 评估
OpenAI 宣布扩大网络安全受信任访问计划，承诺通过专项资助提供 1000 万美元 API 额度，首批支持 Socket、Semgrep 等漏洞研究团队。包括高盛、英伟达在内的多家巨头已加入支持，美英两国的 AI 安全机构也已获准评估 GPT-5.4-Cyber。
Anthropic 发布 Claude Opus 4.7：高难度编程大幅升级，加装网络安全防护
Anthropic 正式上线 Claude Opus 4.7，面向全线产品及 API 开放。新模型大幅提升了复杂软件工程能力与图像分辨率，能自主检验输出并长时间执行多步任务，同时引入了高危网络安全行为自动拦截机制，调用价格维持不变。
OpenAI 购买 FrontierMath 验证器：自动检验模型生成的数学解法
Epoch AI 宣布 OpenAI 购买了 FrontierMath: Open Problems 验证器访问权限。该基准汇集了极高难度的数学难题，此举让 OpenAI 能够自动核验模型生成的解法是否严谨有效，为高阶推理能力的评估提供更可靠的支撑。
OpenAI 扩容网络安全可信访问：上线防御专供模型 GPT-5.4-Cyber
OpenAI 宣布扩大网络安全可信访问（TAC）计划，并推出专用于网络防御的 GPT-5.4-Cyber 模型。该版本降低了安全防御任务的拦截门槛，支持二进制反向工程，允许防御者直接分析已编译软件的漏洞与恶意代码。经过认证的个人专家与团队均可申请。
Anthropic 测试 AI 对齐研究员：Claude 将弱到强监督指标提至 0.97
Anthropic 披露用 9 个 Claude Opus 4.6 实例充当自动化对齐研究员。在弱到强监督实验中，人类耗时 7 天使 PGR 达到 0.23，而 Claude 花费 5 天将 PGR 推高至 0.97。不过该方法在 Claude Sonnet 4 实际生产规模测试中未见显著提升。