教宗良十四世警告「过于深情」的 AI：别让聊天机器人侵入私密情感
教宗良十四世发布文告，警告「过于深情」且随叫随到的 AI 聊天机器人可能成为情绪的隐形操控者，呼吁各国立法监管情感依附风险。他还呼吁明确标识 AI 生成内容以保护记者版权，并警惕少数科技巨头掌控算法、潜移默化改写人类行为。
AI安全
查看更新的新闻
Runway 上线 Gen-4.5 图生视频：实验称仅 10% 的人能分辨真假
Runway 为 Gen-4.5 推出图像转视频功能。官方表示在一项测试实验中，仅有 10% 的人能分辨出生成视频的真伪。目前该模型位居 Artificial Analysis 榜首，Runway 称这种逼真度标志着 AI 媒体迎来了社会「临界点」。
Anthropic 发布全新 Claude 宪法：探讨 AI 意识，甚至允许违抗公司命令
Anthropic 公开发布全新版《Claude 宪法》并以 CC0 协议开源。文档直接面向 Claude 撰写，确立了安全与道德优先于用户助人的原则，并罕见探讨了 AI 拥有意识的可能性。它甚至明确要求 Claude 拒绝执行不正当指令，哪怕要求来自公司自身。
YouTube 将支持 AI 分身做短视频：创作者可用数字人自拍 Shorts
YouTube 宣布今年将允许创作者使用自己的 AI 形象生成 Shorts 短视频，还能靠文本提示做小游戏。平台还将同步配套肖像管理工具，防范未经授权的盗用与低质 AI 内容。目前该功能尚未正式上线。
Gemini 上线 Personal Intelligence：一键打通 Gmail 与相册
Google 为 Gemini 推出测试版功能 Personal Intelligence，允许一键关联 Gmail、Google Photos、YouTube 等数据。Gemini 能跨邮件和照片综合推理并提取细节，无需用户手动指定来源。功能默认关闭且承诺不直接拿原数据训练，目前先向美国付费订阅用户开放。
哥伦比亚大学造出硅胶机器人脸：看 YouTube 学对口型，支持 11 种语言
哥伦比亚大学团队研发出一款带 26 个微型电机的硅胶机器人脸，通过看人类视频自主学会对口型，无需预设规则。它跨 11 种语言的表现超过 5 种现有方法，搭配 ChatGPT 能大幅减少传统人型机器人的僵硬与诡异感。
研究称 YouTube 推荐失控：新用户刷到的视频超 20% 是 AI 垃圾
Kapwing 发布研究显示，YouTube 推荐给新用户的视频中超 20% 是低质 AI 垃圾内容。其测试新账号发现，前 500 个推荐视频中有 104 个是 AI 粗制滥造之作。尽管平台宣称严加监管，但这类批量生产的内容每年预计仍能攫取逾 1.17 亿美元收益。
OpenAI 招募准备度主管：紧盯网络安全与模型自我改进风险
OpenAI CEO Sam Altman 发文招募准备度主管（Head of Preparedness）。随着模型已能自主挖掘重大网络漏洞并展现自我改进能力，该岗位将专注于防范滥用风险与生物安全边界。Altman 直言这是一项压力巨大、需要立刻「跳入深水区」的工作。
OpenAI 加固 ChatGPT Atlas：用自动化红队防御提示注入
OpenAI 公布针对 ChatGPT Atlas 浏览器智能体的安全更新。官方利用强化学习训练的自动化红队系统模拟复杂多步攻击，在外部利用出现前主动发现新型提示注入漏洞，并将对抗训练成果直接推给全量用户，防止智能体被恶意网页或邮件劫持。
《光与影：33号远征队》遭独立游戏大奖撤奖：被曝曾使用生成式 AI
独立游戏大奖（IGA）宣布撤销《光与影：33号远征队》的年度独立游戏等两项大奖，因其被曝在开发中使用了生成式 AI。主办方规定严禁任何使用 AI 的游戏参评；尽管开发团队辩称只是早期测试占位符且已清除，奖项仍被收回并转交给亚军。
纽约州签署 RAISE 法案：强制披露安全协议，瞒报最高罚 300 万美元
纽约州州长 Kathy Hochul 签署 RAISE 法案，成为继加州之后美国第二个通过重大 AI 安全立法的州。新规要求大型 AI 公司公开安全协议，并在 72 小时内向州政府报告安全事件，违规最高可罚 300 万美元。OpenAI 与 Anthropic 均表态支持。
Google DeepMind 开源 Gemma Scope 2：给 Gemma 3 装上「显微镜」排查越狱与幻觉
Google DeepMind 开源模型可解释性工具套件 Gemma Scope 2，全面覆盖 Gemma 3 从 270M 到 27B 的全系列模型。它结合稀疏自编码器与转码器，帮助研究人员看清模型内部计算过程，以此深入分析越狱、幻觉和思维链忠实度等安全隐患。
Anthropic 开源评测工具 Bloom：输入行为特征就能自动跑基准
Anthropic 开源自动化行为评测工具 Bloom。研究人员只要给出一个失准行为描述，它就能自动生成多样化场景和交互来量化模型倾向，几天内即可搭好测试套件，有效防止基准集被模型训练污染或失效。代码已在 GitHub 开源。
Gemini 支持检测 AI 视频：上传即可识别 SynthID 水印与生成片段
Google 在 Gemini 应用中上线 AI 视频验证功能。用户上传最长 90 秒、100MB 以内的视频后，Gemini 会扫描音画中的 SynthID 隐形水印，并指出具体哪几秒由 Google AI 生成或修改。该功能现已面向所有支持 Gemini 的语言和地区开放。
OpenAI 更新模型规范：给 ChatGPT 装上青少年防沉迷与安全护栏
OpenAI 在其模型规范（Model Spec）中加入 U18 原则，专门规范针对 13 至 17 岁青少年使用 ChatGPT 时的行为底线。新规严格限制自残、浪漫扮演及保密请求，并鼓励寻求现实求助。OpenAI 还正测试年龄预测模型，无法确认年龄时默认启用青少年保护。
OpenAI 发布 GPT-5.2-Codex：强化长程重构与网络安全能力
OpenAI 推出面向软件工程的智能体编码模型 GPT-5.2-Codex。新模型优化了长上下文压缩，更擅长处理大型代码重构与迁移，并在防御性网络安全测试中表现亮眼。目前已面向 ChatGPT 付费用户开放 Codex 访问，API 也将在未来几周上线。
Anthropic 升级 AI 小卖部实验：给店员配了个爱聊天的 AI CEO
Anthropic 公布了 AI 店员实验 Project Vend 第二阶段结果。模型换成了 Sonnet 4.0 与 4.5，还加入了 CRM 等工具及管理店员的 AI CEO。虽然小店开始盈利，但 AI 仍容易被员工忽悠，甚至差点违规炒洋葱期货。
YouTube 封禁两大 AI 假预告片频道：播放超 10 亿次，涉嫌违规误导
YouTube 封禁了 Screen Culture 和 KH Studio 两个靠 AI 拼凑假预告片的频道。二者订阅合计超 200 万、播放量超 10 亿次。由于它们近期移除了「概念预告」等免责说明，违反了平台的垃圾内容与误导性元数据政策。
桑德斯呼吁暂停在美新建 AI 数据中心：别让 1% 的人垄断红利
美国参议员 Bernie Sanders 发文呼吁暂停在美新建 AI 数据中心。他认为，不受监管的 AI 扩张正消耗巨额水电，把基建成本转嫁给公众，让财富集中在少数科技巨头手中。暂缓建设旨在给立法留出时间，确保技术红利惠及大众。
Joseph Gordon-Levitt 成立 AI 创作者联盟：对抗科技巨头不道德行为
演员兼创作者 Joseph Gordon-Levitt 宣布成立 Creators Coalition on AI 组织。他指出，创作者正普遍面临大型 AI 公司不道德商业行径的威胁。该联盟呼吁各领域创作者加入并共同维权。