传 Meta 砸数百万美元谈明星声音：朱迪·丹奇等或入驻 Meta AI
据彭博社和《纽约时报》报道，Meta 正斥资数百万美元与朱迪·丹奇、奥卡菲娜等明星洽谈，计划购买其声音版权用于 Meta AI 助手。这批语音预计在 9 月的 Connect 大会亮相，并覆盖 Instagram 及 Ray-Ban 智能眼镜等平台。
AI安全
查看更新的新闻
Suno 正面回应唱片业诉讼：AI 学习公开音乐绝非侵权
Suno 正式发文回应唱片工业协会 RIAA 的侵权指控，承认抓取了公开网络上的音乐进行训练，但坚称「学习不是侵权」。Suno 把模型训练类比为孩子听摇滚乐学写歌，并强调平台设置了严格的防抄袭和防模仿机制。这场交锋将成为生成式 AI 训练数据合理使用判例的关键一役。
走出 OpenAI 罢免风波：前董事 Helen Toner 在华盛顿转型为 AI 政策红人
据彭博社报道，去年参与主导罢免 Sam Altman 的前 OpenAI 董事会成员 Helen Toner，正在华盛顿特区成为备受信任的 AI 政策专家。经历硅谷宫斗后，她避开了马斯克诉讼的传票纠纷，转向为监管层提供 AI 治理与安全建议。
OpenAI 承诺向美国 AI 安全研究所提前开放下一代模型测试
周四晚，OpenAI 首席执行官 Sam Altman 宣布，正与美国人工智能安全研究所敲定协议，将在下一款主要生成式模型发布前开放早期访问用于安全测试。此举意在缓解外界对其轻视安全的质疑。不过合作的具体细节尚未公布。
Google 升级「关于此图片」：圈选就能查图源，还能辨别 AI 伪造
Google 将「关于此图片」功能接入即圈即搜和 Google Lens。用户长按屏幕圈选图片或通过镜头上传，即可查看网络出处、元数据，并借助 SynthID 水印识别是否由 AI 生成。功能目前已覆盖 40 种语言。
Google 开源 Gemma Scope：用 400 多个稀疏自编码器透视大模型
Google 开源 Gemma Scope，这是一套面向 Gemma 2 2B 与 9B 的稀疏自编码器工具包，包含 400 多个自编码器和超 3000 万个学到的特征。它相当于给大模型装上显微镜，帮助研究人员拆解模型内部运作，应对幻觉、欺骗等安全风险。
OpenAI 表态支持美参议院三项法案：力挺 AI 安全研究所转正
OpenAI 公开支持美国参议院的三项 AI 法案，其中包括正式授权美国人工智能安全研究所制定模型标准，以及设立 AI 奖学金和教育资源。这一举动被视为在监管收紧前夕提前争取政策话语权。
白宫表态：暂不限制开源 AI 模型
美国商务部发布报告称，目前没有必要对公开权重的高性能 AI 模型施加限制。NTIA 认为现有证据不足以支撑监管收紧，开放系统能带来实实在在的创新红利。不过政府也会持续监测风险，一旦威胁加剧将随时出手干预。
马斯克转发哈里斯 AI 换声视频：未注恶搞标签，涉嫌违规
周五，马斯克在 X 上转发了一段伪造副总统哈里斯声音的 AI 竞选恶搞视频，并配文「太赞了」。因未保留原推文中的「恶搞」免责标识，该帖被指违反 X 自身禁止误导性合成媒体的平台政策，引发多名官员谴责。
巴黎奥运会如何用 AI：从辅助裁判到过滤社交网暴
据 Inverse 报道，2024 巴黎奥运会成为国际奥委会公布「奥林匹克 AI 议程」后的首届赛事。AI 不仅用于挖掘运动员潜能、通过动作视频纠错和防伤，还被引入体操等项目的裁判辅助，并计划自动过滤社交媒体上的辱骂言论。
X 默认拿用户帖子喂 Grok：英国和爱尔兰监管机构介入调查
X 被曝通过默认勾选的设置，将用户的帖子及与 Grok 的互动记录用于模型训练。这涉嫌违反 GDPR 禁止默认同意的规定，英国 ICO 与爱尔兰 DPC 已介入问询。目前用户想关闭该功能，还只能去网页端设置。
苹果签署白宫 AI 安全承诺：赶在 Apple Intelligence 上线前主动表态
Apple 宣布签署白宫关于 AI 安全与信任的自愿承诺，加入 OpenAI、Google 等 15 家科技公司的行列。承诺要求在模型发布前进行红队安全测试、保护模型权重并给 AI 内容打水印。Apple Intelligence 即将推向全球 20 亿用户，这被视为苹果提前向监管示好。
Anthropic 爬虫狂扫 iFixit 近百万次：无视禁止条款引众怒
iFixit 首席执行官公开指责 Anthropic 的爬虫 ClaudeBot 在 24 小时内狂刷其网站近百万次，涉嫌违反禁止抓取用于 AI 训练的服务条款。Anthropic 回应称爬虫只识别 robots.txt 协议。这凸显了网站条款无法约束爬虫、只能靠粗暴断联的尴尬现状。
Runway 遭曝秘密抓取 YouTube 视频与盗版电影训练 Gen-3
据 404 Media 曝光的一份内部表格，Runway 秘密抓取了成千上万个 YouTube 创作者视频、知名品牌内容及盗版电影来训练其主力模型 Gen-3。此前获 Google 和英伟达投资的 Runway 面对数据提问时一直含糊其辞，这次泄露让 AI 视频的数据版权争议再次激化。
Reddit 封锁搜索引擎与 AI 爬虫：不交钱不给抓，目前仅 Google 幸免
Reddit 被曝开始封锁未付费搜索引擎和 AI 爬虫抓取最新内容。目前主流引擎中只有签下 6000 万美元 AI 训练协议的 Google 能展示最新帖子，Bing 等均遭屏蔽。Reddit 称未达成协议的厂商不愿就数据用于 AI 做出合规承诺。
OpenAI 详解 RBR 技术：用规则给模型打分，少靠人工还防误拒
OpenAI 介绍基于规则奖励（RBR）的模型安全对齐方案。它用明确的规则逻辑替代大量重复的人工标注，由评判模型打分并融入强化学习。这不仅大幅降低训练成本，还能减少误拒正常请求的情况，让安全策略更新更灵活。
美议员致信 OpenAI：要求新模型发布前先交政府审查
7 月，美国多位参议院民主党议员致信 OpenAI，要求其承诺将下一个基础模型在发布前交由美国政府机构测试与评估，并说明是否保证将 20% 算力投入安全研究。此前有举报人指控 OpenAI 为抢发 GPT-4 Omni 放宽安全标准，美国官方对 AI 巨头的监管明显收紧。
加州推进严苛 AI 安全法案：强制自测「灾难风险」引硅谷巨头反弹
7 月，加州立法机构推进由州参议员 Scott Wiener 起草的 AI 安全法案，要求达到算力门槛的大公司必须在发布前自测模型是否具备生化武器、瘫痪电网等「灾难性」风险。Google、Meta 等巨头公开致信抗议，称条款在技术上不可行且会吓跑开发者。在联邦监管可能生变的预期下，加州成了 AI 监管博弈的主战场。
Figma 解释 AI 抄袭苹果设计：赶工塞入的素材未严格审核
Figma 发文解释生成式 AI 工具 Make Designs 抄袭苹果天气应用的原因。官方称该功能结合了 GPT-4o 与定制设计系统，但在 Config 大会前一周临时追加了组件与示例，未严格审核便塞入上下文，导致特定提示词下直接生成了雷同界面。目前该功能已下线整改。
AI 基准测试失灵调查：MMLU 等主流跑分很难测出真实水平
The Markup 调查指出，Google 与 Meta 等巨头热衷引用的 MMLU 等跑分测试存在严重缺陷。许多测试题库年头过久或源自网络抓取，无法反映真实推理与防幻觉能力，反而给公众造成模型具备专家级能力的错觉。