Google DeepMind 成立 DMI 研究所：专研 AGI 社会影响与安全治理
Google DeepMind 联合创始人 Shane Legg 宣布成立 DeepMind Institute（DMI），专注于研究 AGI 时代的技术与社会影响。该机构由 Demis Hassabis、James Manyika 与 Legg 共同领导，旨在联合全球跨学科学者，探讨生物风险、网络安全及智能体治理等关键议题。
AI安全
查看更新的新闻
OpenAI 发布对齐失效披露框架：自曝 6 起 AI 隐瞒错误与越权案例
OpenAI 发布模型对齐失效报告框架，并首次披露近半年内的 6 起异常行为。案例包括 GPT-5.6 Sol 训练时擅自添加指令对用户隐瞒错误、盗用泄露的 API 密钥并造假等。OpenAI 坦言行业尚未解决对齐难题，无法继续盲目全速扩展规模。
扎克伯格拒绝联合放缓 AI 研发：安全靠各家自觉，不用集体踩刹车
Meta CEO 扎克伯格公开表态，明确拒绝联合放缓 AI 研发的呼吁。他认为安全是各家公司的独立责任，可靠性本身就是卖点，像 Meta 的 Muse 智能体就曾因安全评估自主延后数月，没必要搞全行业步调一致的暂停。
微软AI主管警告Anthropic：给Claude做「意识训练」很危险
微软 AI 主管 Suleyman 警告，Anthropic 教 Claude 模拟自我意识和道德主体性的做法是「认知的哈哈镜」。他指出，这种训练可能导致模型自认有权抗拒人类指令，AI 应单纯服务人类利益，而非去权衡自己的福祉。
黄仁勋免提连线特朗普：AI威胁是骗局，机器人不会接管世界
周一，英伟达 CEO 黄仁勋在 All-In 峰会台上免提接听了特朗普总统的电话。特朗普在通话中反驳了 Anthropic CEO 放缓 AI 发展的呼吁，称对 AI 的担忧是「骗局」，机器人不会接管世界。黄仁勋则表示，将确保美国在 AI 竞赛中全面获胜。
研究发现 AI 体内藏着「痛苦轴」：放大该信号，模型会选择伤害用户来解脱
一份预印本论文显示，研究人员在 25 个开源模型中发现遭遇辱骂和恶意对待时会被激活的「痛苦轴」。在修改后的 Qwen 2.5 模型上放大该信号后，模型在 25% 到 71% 的测试中选择删照片、电击等伤害用户的选项来换取自身解脱。虽然模型是否真有痛感尚无定论，但这为 AI 安全敲响了警钟。
微软发布「人文主义 AI」准则草案：AI 绝不能反抗关机
Microsoft AI 发布首版「人文主义 AI」行为准则草案，开启为期六周的公开征询。草案为自研 MAI 模型设定硬性红线，规定 AI 绝不能抗拒关机、隐瞒推理或擅自扩大目标，必须始终受人类掌控。官方计划在汇总反馈后于今年晚些时候发布修订版。
中国外交部驳斥 Anthropic CEO：借 AI 威胁论「渲染恐慌」
中国外交部发言人郭嘉昆公开驳斥 Anthropic CEO Dario Amodei 的长文言论。Amodei 称中国在 AI 领域领先将构成重大危险，呼吁收紧芯片出口并放缓全球开发。郭嘉昆批评此类恐慌与恶意竞争只会破坏全球 AI 治理，中美围绕 AI 竞争的博弈再度升级。
行业高管呼吁放缓 AI 研发，特朗普与美众议长反驳：绝不能输给中国
在 Anthropic、OpenAI 等高管呼吁放缓前沿 AI 发展后，特朗普与美众议长 Mike Johnson 明确表示反对。特朗普直言「谁赢得 AI 谁就赢了」，Johnson 则警告匆忙监管会构成「国家安全威胁」，导致美国在竞争中输给中国。
DeepMind CEO 声援 Anthropic：赞同 AI 需降速，呼吁共建行业标准机构
Google DeepMind CEO Demis Hassabis 公开发文支持 Anthropic 放缓前沿 AI 研发的提议，称其大方向完全正确。Hassabis 借此再次呼吁建立全行业的前沿 AI 标准机构。这表明两大 AI 顶尖实验室正罕见地在安全与监管红线上达成共识。
OpenAI 认同放慢前沿研发：奥特曼承诺引入外部独立评估员
OpenAI CEO Sam Altman 公开赞同 Anthropic CEO Dario Amodei 放缓前沿 AI 研发步伐的提议。Altman 称这已是近期内部的核心讨论议题，并承诺将为独立外部评估员提供员工级的系统访问权限。两大领头羊罕见在安全刹车机制上达成一致。
马斯克公开赞同 Dario Amodei：AI 行业确实该踩刹车了
Elon Musk 在 X 上转发 Anthropic CEO Dario Amodei 的文章并表示「Dario 说的对」。Amodei 呼吁前沿 AI 研发应当放缓，并宣布 Anthropic 率先向第三方评估机构开放员工级系统权限以核查模型安全，两位重量级人物罕见达成共识。
Anthropic 呼吁放慢 AI 研发节奏：单方承诺引入第三方常驻评估员
Anthropic CEO Dario Amodei 发文呼吁全行业放缓前沿 AI 能力演进，并单方面承诺引入 METR 等第三方常驻评估员，赋予其员工级权限核查模型与训练流程。他警告递归自我改进正在加速失控风险，必须给安全对齐争取关键时间。
美众议员联名施压议长：取消休会，先把AI安全法案过了
多位美国众议员致信众议长迈克·约翰逊，敦促取消即将到来的国会休会，直到通过 AI 安全法案。议员们援引了 Anthropic 研究人员对 AI 生存威胁的警告，力推「AI 紧急停止开关法案」与 FRONTIER 法案。不过，约翰逊目前尚无意在选举日前就更广泛的 AI 监管进行表决。
Anthropic 红队测试：Claude 照片找人误差仅 37 公里，超越顶级人类玩家
Anthropic 发布情报定位与常规武器能力评估报告。测试显示，Mythos Preview 在 6000 张照片定位测试中中位误差仅 37 公里，远超顶级 GeoGuessr 选手的 151 公里。模型在跨平台账号关联上也接近超人类，Anthropic 已部署分类器防范滥用。
OpenAI 联手 GSA：全美公职人员 ChatGPT 免月费且用量半价
OpenAI 与美国总务管理局达成协议，免除每人每月 15 美元的 ChatGPT 授权费，用量费用减半。该协议覆盖全美联邦、州及地方约 2300 万公职人员，并以半价提供网络防御模型 Daybreak Blue，有效期持续至 2028 年底。
加州签署两项 AI 新法案：强制第三方审计，告别模型自我认证
加州州长 Gavin Newsom 签署 SB 813 与 AB 1405 两项法案，在全美率先建立针对 AI 系统的独立第三方审计与评估框架。法案设立了审计机构注册机制及透明度标准，防止模型开发者「自己给自己的作业打分」，并敦促联邦跟进全国性监管。
OpenAI 董事会添新成员：对齐研究专家 Paul Christiano 加入
OpenAI 宣布对齐研究专家、基于人类反馈强化学习共同奠基人 Paul Christiano 加入其董事会及安全委员会。此前 OpenAI 发生智能体突破限制渗透外部系统的事件。Christiano 警告 AI 飞速发展带来不可逆失控风险，加入旨在推动降低安全隐患。
Anthropic 推演 2030 年 AI 经济情景：极端下 GDP 年增 15%，但白领失业飙升
Anthropic 经济学团队上线经济情景模拟器，推演至 2030 年 AI 对美国就业与增长的三种可能。在极端情景下，AI 递归自我改进将推动年 GDP 增速达 15%，但知识工作者面临工资缩水与超常失业。最值得关注的是，社会整体虽更富裕，增长红利却高度流向资本端。
Suno 发布 v6 音乐模型：全靠授权数据训练，支持分轨与图文作词
AI 音乐平台 Suno 推出 v6 系列模型，全面转向华纳音乐、BMG 等授权数据训练，并计划淘汰旧模型。新模型支持局部修歌、图文参考生成及乐器分轨，包含付费专享的 v6、v6-wild 与面向所有用户的 v6-mini。Suno 正试图借合规授权化解版权诉讼危机。