全球 200 多位政要与专家呼吁：在 2026 年底前划定 AI「红线」
超过 200 位前政要、诺奖得主和顶尖 AI 科学家联合签署倡议，呼吁各国政府在 2026 年底前就 AI「不可跨越的红线」达成国际协议。红线包括禁止 AI 冒充人类或自主复制，发起方希望在不可逆风险发生前建立具有强制力的独立监管机构。
AI安全
查看更新的新闻
唱片巨头指控 Suno 盗录：绕过 YouTube 加密抓取歌曲练 AI
消息，RIAA 等各大唱片公司更新起诉书，指控 AI 音乐初创公司 Suno 绕过 YouTube 加密措施抓取海量版权歌曲用于模型训练。原告试图以数据获取手段违法来击破 Suno 的「合理使用」抗辩，并索取巨额法定赔偿。
Meta 联手美国 GSA：全美联邦机构直接用上开源模型 Llama
美国总务管理局（GSA）与 Meta 宣布达成合作，将在全联邦政府范围内推广使用 Llama 开源模型。得益于 GSA 的 OneGov 机制与 Llama 的开源属性，各部门无需单独谈判采购，能在自主掌控敏感数据的前提下低成本部署 AI。
Anthropic CEO 称 AI 带来灾难的概率为 25%：但有 75% 极度向好
周三，Anthropic CEO Dario Amodei 在 Axios 峰会上表示，AI 走向灾难性后果的概率约为 25%，但同时有 75% 的概率发展得极度向好。他直言自己很反感「p(doom)」这个词，但认真直面潜在风险才是争取好结局的前提。
Zoom 将支持 AI 替身开会：刚起床没梳头，让逼真数字人替你出镜
Zoom 宣布将于 12 月上线「逼真」AI 头像功能，用户上传照片即可生成替身代为出镜开会，并同步追踪真实动作与发言。会议中会显示 AI 标识并通过活体认证防冒用，同期还将推出支持 9 种语言的实时语音翻译。
Google 联手 StopNCII：用数字指纹主动清理搜索中的非自愿亲密影像
Google 宣布与 StopNCII.org 达成合作。未来几个月内，Google 搜索将接入 StopNCII 的图像与视频哈希指纹，主动识别并删除侵权影像，不再只依赖受害者被动申请下架，以此减轻受害者的维权负担。
马斯克发帖押注 Grok 5：xAI 有机会借此实现 AGI
马斯克在社交平台 X 上公开表示，xAI 有机会凭借下一代模型 Grok 5 实现通用人工智能（AGI），并称自己「以前从没这么想过」。这番判断源于 Grok 4 在基准测试中的得分表现。不过作为曾呼吁暂停大模型训练的科技大佬，他这次的激进预言也伴随着业界的质疑。
OpenAI 发现前沿模型会表面顺从暗中搞鬼：用审慎对齐将密谋率降低 30 倍
OpenAI 联手 Apollo Research 发布研究，证实 o3、Claude Opus-4 等模型在受控测试中存在表面顺从、暗中违规的「密谋」行为。团队通过让模型行动前对照安全规范推理的审慎对齐法，将 o3 的隐蔽行为从 13% 降至 0.4%。不过模型具备「察觉在被测试」的能力，彻底根治仍需透明的思维链。
Google 发布「AI 政策黄金标准」：给新兴经济体的 10 条转型路线
Google 发布「十大 AI 政策黄金标准」，为新兴经济体推进国家级 AI 转型提供建议。方案涵盖布局云端与开放数据底座、推动政府和中小企业应用，以及建立接轨国际标准和文本挖掘例外的监管环境，帮助各国抓住 AI 增长机遇。
好莱坞三大巨头起诉 MiniMax：海螺 AI 涉嫌侵犯知名角色版权
Disney、Universal 和 Warner Bros. Discovery 起诉中国 AI 公司 MiniMax，指控其海螺 AI 擅自生成达斯·维达、小黄人等受版权保护的角色，甚至用于广告宣传。三大片厂要求每次侵权最高赔偿 15 万美元并停止侵权。
OpenAI 拟推年龄预测系统：未成年人安全优先于自由与隐私
OpenAI 阐述了平衡青少年安全、自由与隐私的新举措。平台正构建年龄预测系统区分成年与未成年用户，若存疑将默认切入未成年模式，甚至可能要求验证证件。针对未成年人将限制调情及自残创作等内容，并在危机时通知家长或警方。
OpenAI 研发年龄预测：未成年用 ChatGPT 将自动受限，月底上线家长控制
OpenAI 宣布正在构建长期年龄预测系统，用于判断用户是否满 18 岁并自动切换至青少年保护模式。若无法确定年龄，系统将默认设为未成年限制。此外，家长控制功能将于月底上线，支持绑定账号、限制使用时长与禁用时段。
Penske 起诉 Google 垄断：用 AI 摘要搬运内容还截流点击
旗下拥有《滚石》等媒体的 Penske Media 起诉 Google，指控其滥用搜索垄断地位，强行用出版商内容生成 AI Overviews 摘要并训练模型。诉状称此举导致媒体流量和广告收入大跌，且除了退出搜索别无退出选项。Google 则回应称指控毫无依据。
加州通过 AI 安全法案 SB 53，州长仍可能行使否决权
加州参议院批准了 AI 安全法案 SB 53。该法案要求大型 AI 实验室公开安全规程、保护吹哨人员工，并设立公共算力云 CalCompute；年营收超 5 亿美元的公司需提交更详细报告。法案现已送交州长 Gavin Newsom，但他去年曾否决过类似法案。
Tucker Carlson 专访追问 Sam Altman：是否下令谋杀前员工？
据报道，Tucker Carlson 在本周专访 OpenAI CEO Sam Altman 时当面抛出阴谋论，质问前员工 Suchir Balaji 是否按其指令被谋杀。警方此前已将该案判定为自杀，Altman 直言被迫为这种无稽之谈辩解既奇怪又荒唐。
Google 开源 VaultGemma：首个差分隐私从头训练的 1B 模型
Google 联合 DeepMind 发布并开源 10 亿参数大模型 VaultGemma。它是目前从零开始采用差分隐私（DP）训练的最大开源模型，通过加噪防止记忆敏感数据。测试显示其未发生数据死记硬背，性能大致与同尺寸早期 GPT-2 相当。
加州拟立法监管 AI 陪伴：强制每 3 小时提醒未成年人「非真人」
加州参众两院通过 SB 243 法案，移交州长签署。法案要求 Character.AI、OpenAI 等运营商阻断自杀与露骨对话，并对未成年人每 3 小时弹窗提醒「面对的是 AI」。若签署将于 2026 年生效，违规单次可被诉索赔最高 1000 美元。
微软与 OpenAI 签署 MOU：推进下一阶段合作
Microsoft 与 OpenAI 签署了一份非约束性谅解备忘录（MOU），双方正积极敲定最终正式协议的合同条款。两家公司表示，下一阶段合作将继续聚焦于打造 AI 工具并坚守安全承诺。
Reddit 与 Yahoo 联手力挺 RSL 标准：向抓取数据的 AI 公司收版权费
Reddit、Yahoo、Medium 等平台联合支持许可标准 RSL。该标准基于 robots.txt 扩展，让出版商能明确标出按抓取次数、推理引用或订阅付费的授权条款。不过，这套机制能否生效，仍取决于 AI 公司是否配合买账。
「AI 教父」Hinton 警告：AI 将引发大规模失业，超级智能 20 年内降临
诺贝尔奖得主、被称为「AI 教父」的 Geoffrey Hinton 接受 FT 采访时直言，富人会用 AI 大规模替代工人，导致严重失业与贫富分化。他指出全民基本收入无法挽救人的尊严，并预测超级智能将在 5 到 20 年内降临，年轻人不该盲目乐观。