调查报道中心起诉 OpenAI 与微软：指控抓取新闻侵犯版权
周四，制作《Mother Jones》的调查报道中心（CIR）宣布起诉 OpenAI 与微软。CIR 指控两家公司未经许可且未付报酬，直接抓取其报道训练 AI 侵犯版权并剥夺其收入。这是继《纽约时报》等媒体后，两家科技巨头面临的又一起版权诉讼。
AI安全
查看更新的新闻
OpenAI 推出 CriticGPT：用 GPT-4 给自己挑错，准确率提升 60%
OpenAI 推出基于 GPT-4 训练的模型 CriticGPT，专门辅助人类标注员找出 ChatGPT 代码中的隐蔽错误。测试显示，人机配合找错的表现比单人高出 60%。OpenAI 正将该类模型整合进 RLHF 流程，以解决模型日益聪明后的对齐难题。
Rabbit R1 曝严重安全漏洞：硬编码 API 导致所有历史回复可被调阅
逆向团队 Rabbitude 披露，Rabbit 官方代码中硬编码了多个关键 API 密钥，任何人都能借此调取 R1 生成过的所有历史回复与个人信息，甚至能篡改回答或使设备变砖。Rabbit 官方称 6 月 25 日才得知涉嫌泄露并已介入调查，目前未发现客户数据外泄。
唱片业起诉 Suno 与 Udio：未经许可抓歌训练算不算「合理使用」？
周一，美国唱片业协会（RIAA）代表多家主流唱片公司正式起诉 AI 音乐平台 Suno 与 Udio，指控其非法抓取海量版权音乐训练模型，索赔单件作品最高 15 万美元。诉讼核心直指生成式 AI 是否能以「合理使用」为由免费使用受保护数据，这可能重塑整个 AI 音乐甚至内容行业的底层规则。
Anthropic 进军政府市场：Claude 3 上架 AWS 政府云与情报专区
Anthropic 宣布将 Claude 3 Haiku 和 Sonnet 引入 AWS GovCloud 及美国情报界专用市场。官方还针对政府放宽了使用政策，允许用于打击人口贩卖和军事预警等情报分析，但武器研发与网攻仍被明令禁止。
三大唱片巨头起诉 Suno 与 Udio：指控侵权训练音乐 AI 索赔数十亿
Universal Music、Warner Music 与 Sony Music 联合起诉 Suno 和 Udio，指控其非法使用有版权的音乐录音训练 AI 模型。唱片业协会对每起侵权主张最高 15 万美元赔偿，总额可达数十亿美元。版权战正式烧到了 AI 音乐领域，最终可能逼出天价授权协议。
监管不确定性作祟：Apple 年内暂不在欧盟推出 Apple Intelligence
Apple 宣布因欧盟《数字市场法》（DMA）的互操作性要求与监管不确定性，年内不会向欧盟用户推出 Apple Intelligence、iPhone 镜像及 SharePlay 屏幕共享。Apple 担心开放互操作会损害产品完整性并危及用户隐私安全，目前正与欧盟委员会沟通寻找方案。
TollBit 曝光行业乱象：多家 AI 公司绕过 robots.txt 强行抓取网站
据路透社报道，内容授权初创公司 TollBit 发现，多家 AI 公司正公然无视通行的 robots.txt 协议，未经许可强行抓取出版商内容用于训练与生成摘要。此前 Forbes 也曾指控 Perplexity 抄袭其调查报道。这意味着网站长期依赖的防爬规则正形同虚设。
OpenAI 公布网络安全资助成果：收到超 600 份申请，扩展赠送企业版
OpenAI 公布网络安全资助计划一年来的成果。该计划已收到超 600 份申请，重点支持了防提示词注入、代码漏洞挖掘和自动化红队等项目。为了帮防御方更好地用上 AI，OpenAI 还将把免费账号资助从 ChatGPT Plus 扩展至 Team 和 Enterprise 版本。
Apple Intelligence 将给 AI 图片标元数据：连消除杂物都留痕
据 CNET 报道，苹果高管透露 Apple Intelligence 会在生成或修改的图片元数据中打上标记。哪怕只是消除背景杂物等微调，也会标明被修改过；苹果同时明确无意涉足逼真人物或场景生成。面对假图泛滥，苹果选择从底层元数据开始设防。
OpenAI 前首席科学家另起炉灶：Ilya 创办 SSI，只做安全超级智能
OpenAI 联合创始人兼前首席科学家 Ilya Sutskever 宣布成立新公司 Safe Superintelligence Inc.（SSI）。该团队表示只有一个目标和一个产品，即安全强大的超级智能，且商业模式将完全免受短期商业化周期的干扰。
Meta FAIR 开源五款新模型：图文交织、可控音乐与极速音频水印
Meta FAIR 团队开源发布了五项 AI 研究成果。其中涵盖能混合输入输出图文的 Chameleon、支持节拍与和弦控制的音乐模型 JASCO，以及检测速度提升达 485 倍的 AI 语音水印技术 AudioSeal 等。
美政府联手微软 OpenAI：首次演习关键 AI 系统遭黑客攻击
上周，美国网络安全和基础设施安全局联合微软、OpenAI 及英伟达等科技巨头，开展了首个针对关键 AI 系统的网络攻击桌面推演。50 多位专家模拟了 AI 攻防场景并演练应急沟通，相关经验将用于编写今年底发布的 AI 安全应急指南。
OpenAI 任命前 NSA 局长进董事会，斯诺登炮轰「蓄意背叛」
OpenAI 宣布任命前美国国家安全局局长 Paul Nakasone 加入董事会安全与安保委员会。OpenAI 称看重其网络安全经验以保护 AI 超级计算机，但泄密者斯诺登公开发声呼吁「切勿信任 OpenAI」，指责此举是对全球人权的蓄意背叛。
Meta 暂停在欧洲上线 Meta AI：因爱尔兰监管施压，称不用本地数据体验会缩水
Meta 宣布暂停在欧洲推出 Meta AI 助手。此前爱尔兰数据保护委员会对其抓取公开数据训练模型提出异议。Meta 称这一决定让人失望，若不纳入口碑与文化等本地数据，模型只能提供「二流体验」；隐私倡导机构 Noyb 则反驳称 Meta 只是不愿征求用户明确同意。
OpenAI 董事会扩容：美军退役上将 Nakasone 加入安全委员会
OpenAI 宣布美国退役陆军上将 Paul M. Nakasone 加入董事会及安全与保障委员会。作为曾领导美国网络司令部的顶尖网络安全专家，他的加入旨在强化大模型训练集群及权重数据的防御能力，并为公司关键安全决策提供建议。
摄影师拿真照片参加 AI 图像大赛获奖：骗过评委后被取消资格
据报道，摄影师 Miles Astray 用一张真实的火烈鸟照片参加 1839 摄影奖的 AI 组别，一举拿下季军与大众票选奖，专业评委无一识破。随后主办方以违规为由取消其资格。摄影师直言，这次行动是为了证明真实创作仍能胜过机器。
Meta AI 开始总结 Facebook 评论区：网友吵架与奇葩吐槽全被概括
The Verge 报道 Meta 正测试在 Facebook 评论区由 Meta AI 自动生成言论摘要。AI 会把网友的离奇言论、玩笑与争论一并浓缩成概述。虽然这类总结常让人啼笑皆非且信息量有限，但 Meta 直接拿用户公开内容喂给 AI 的做法，再次引发了隐私争议。
限制讽刺与论坛内容：Google 紧急修补 AI Overviews 翻车漏洞
Google 发文回应 AI Overviews 近期的离奇搜索错误，并推出十多项技术改进。官方解释称错误主要源于对讽刺梗和论坛发言的误读，目前已限制将幽默内容与用户生成内容作为回答依据，并收紧了触发门槛。
加州州长警告：过度监管 AI 会让本地失去科技主导权
加州州长 Gavin Newsom 在 GenAI 峰会上表示，全球前 50 大 AI 公司中有 35 家在加州，过度严格的监管可能会扼杀创新，甚至把领先优势拱手让给其他州或国家。他强调监管必须适度，不能盲目跟风立规。