乔治·卡林遗产案和解：播客方同意永久下架 AI 仿造脱口秀
周二，已故传奇喜剧演员乔治·卡林的遗产委员会与播客 Dudesy 创作者达成和解。被告方同意全面下架并永久停用卡林的声音与肖像。该播客 1 月曾发布声称由 AI 仿造的一小时专场。这起案件作为美国首批名人深度伪造诉讼之一，为未经许可数字复活逝者划下红线。
AI安全
查看更新的新闻
Anthropic 发现多样本越狱：塞几十道问答就能绕开 AI 道德限制
Anthropic 披露了一种名为「多样本越狱」的漏洞。利用大模型扩大的上下文窗口，攻击者在提示词里塞入几十组轻度违规问答作为示例，就能诱导 AI 顺从回答制造炸弹等危险问题。目前团队已将风险同步给同行，正尝试在前置拦截环节进行防御。
200 多位音乐人联名抗议：别再用掠夺性 AI 偷走我们的声音
Billie Eilish、Nicki Minaj、Katy Perry 等 200 多位知名音乐人签署公开信，敦促科技公司停止未经许可使用其作品训练 AI 音乐模型。信中警告，这类掠夺性行为正在盗用创作者的声音与肖像，严重摧毁底层音乐人的生计。
Jon Stewart 吐槽 AI 虚假承诺：苹果曾拦着不让聊
主持人 Jon Stewart 在《每日秀》中炮轰科技巨头对 AI 的夸大宣传与裁员借口。他还在采访 FTC 主席 Lina Khan 时爆料，老东家 Apple 曾阻止他在 Apple TV+ 节目中讨论 AI，甚至要求取消对 Khan 的采访。
OpenAI 演示 Voice Engine：只需 15 秒音频，但因安全风险暂不开放
OpenAI 展示了语音克隆模型 Voice Engine 的小规模测试进展。该模型仅凭 15 秒音频样本就能复刻逼真且带情感的人声。由于担心深度伪造等滥用风险，官方暂不公开发布，并呼吁社会逐步淘汰银行等系统的语音身份验证。
纽约地铁将测试 AI 枪支扫描仪：把雨伞认成枪的 Evolv 入局
纽约市长 Eric Adams 宣布将在地铁闸口测试 AI 枪支检测仪，测试将在 90 天后启动。供应商 Evolv 虽在全美学校和场馆铺设甚广，但其设备曾把雨伞误报为枪、漏检真刀，目前正深陷 FTC、SEC 调查与股东诉讼。
美国联邦机构新规：必须设立首席 AI 官，每年盘点 AI 风险
美国管理和预算局发布新指南，强制所有联邦机构设立首席 AI 官并组建治理委员会。各机构每年必须提交所用 AI 清单及风险应对方案，若无法落实防歧视等安全保护措施，必须立即停用相关系统。
Google AI 搜索遭 SEO 投毒：推荐诈骗网站与恶意插件
据 BleepingComputer 报道，Google SGE 生成式搜索在摘要中推荐恶意网站。这些网站通过 SEO 投毒混入索引，并利用多重跳转诱导用户订阅垃圾通知、伪造病毒警报推销杀毒软件。Google 回应称已按规定下架相关违规案例。
田纳西州签署《ELVIS 法案》：全美首个立法严打 AI 拟音侵权
周四，美国田纳西州州长签署《ELVIS 法案》，成为全美首个立法保护艺术家免受未授权 AI 拟音侵权的州。新法案将公开权延伸至 AI 领域，明确禁止未经许可模仿歌手声音，法案定于 7 月 1 日正式生效。
GPT Store 沦陷：侵权、冒牌与洗稿工具泛滥
TechCrunch 调查发现 OpenAI 的 GPT Store 充斥着大量违规内容，包括未经授权的迪士尼与漫威角色、冒充名人的聊天机器人，以及宣称绕过抄袭检测的洗稿引流工具。尽管 OpenAI 设有审核流程，但审核力度显然滞后，也给后续的开发者分成计划埋下了法律与信任隐患。
Google 发布 VLOGGER：一张照片配一段音频，就能让人物开口说话还带手势
Google 研究人员开发出多模态 AI 模型 VLOGGER，只需一张人物照片和一段音频，就能生成对应口型、头部动作和手势的完整视频。与传统方案相比，它无需针对单人专门微调，还能补全上半身动作。不过视频目前长度有限且背景固定，仍有少许瑕疵。
YouTube 出台 AI 标注新规：逼真合成内容必须申报，违规或断收益
YouTube 正式推行 AI 标注新规，要求创作者上传逼真的 AI 生成或修改视频时必须主动声明。涉及让真人做没做过的事或虚构真实场景，平台会在简介甚至视频画面上打上标签。写脚本等辅助用途不受限，但屡次瞒报可能被取消获利资格。
IPO 前夕遇阻：FTC 就 AI 数据授权交易问询 Reddit
Reddit 披露收到美国联邦贸易委员会（FTC）问询函，要求其说明向 Google 等第三方授权用户帖子训练 AI 模型的交易。Reddit 原计划借此创收 2.03 亿美元为 IPO 造势。监管机构介入意味着平台转卖用户数据训 AI 的合规风险正在放大。
不止 Gemini：测试显示 Adobe Firefly 生成历史人物同样翻车
Semafor 测试发现，Adobe 的图像生成工具 Firefly 同样出现了生成黑人纳粹士兵等失真画面的问题。最值得关注的是，即便只使用合规商业图库训练，防偏见的安全指令依然在历史语境下过犹不及。Adobe 回应称 Firefly 并非用于纪实，将持续微调修复。
欧洲议会正式通过《人工智能法案》：全球首部 AI 全面监管法案敲定
欧洲议会以 523 票赞成正式通过《人工智能法案》（EU AI Act）。该法规按风险把技术划为四档，对人脸抓取、社会评分等不可接受的场景直接禁止。法案预计 5 月底生效并于 2025 年起分阶段落实，给全球科技巨头划清了红线。
Google 限制 Gemini 回答选举提问：涉及政客一律让用户去搜索
Google 证实已开始在全球限制 Gemini 回答与选举相关的提问，目前已在美印等面临大选的国家上线。用户若询问政党或候选人，AI 会直接回复「还在学习中」并引导使用 Google 搜索。面对虚假信息与监管压力，Google 宁可少答也不愿踩政治雷区。
拜登在国情咨文发话：呼吁立法禁止 AI 声音冒充与克隆
周四晚，拜登在国情咨文演讲中呼吁立法禁止 AI 声音冒充伪造。但他并未细化具体监管措施或惩罚手段，也未明确是否覆盖文娱行业。此前好莱坞虽对声音复刻达成授权协议，但 AI 拟真声音已正式成为白宫重点防范的议题。
OpenAI 调查结束：Sam Altman 重返董事会，引入三位新董事
OpenAI 宣布独立调查结束，CEO Sam Altman 正式重返董事会。调查认定去年的解雇风波源于前董事会与管理层的信任破裂，而非产品安全或财务隐患。同时 OpenAI 引入了三位具备丰富政商背景的独立董事，并设立匿名举报热线以强化内部治理。
Midjourney 封禁 Stability AI 全员：指责其爬取数据致系统宕机
Midjourney 宣布无限期封禁竞争对手 Stability AI 的全体员工账号。此前系统在 3 月 2 日遭遇异常流量并宕机 24 小时，调查发现对方员工批量爬取提示词与图像对用于训练。Midjourney 随后立下新规：自动化爬取致服务中断者，封禁全公司员工。
美陆军在兵棋推演中测试 GPT-4：战术更激进，但伤亡反而更高
据《新科学家》报道，美国陆军研究实验室正在军事模拟游戏中测试 OpenAI 的 GPT-4 Turbo 与 Vision 模型辅助战术规划。测试显示 GPT-4 表现虽优于老模型，但在完成夺取据点等任务时造成的伤亡却更高。这种激进决策让军用 AI 的伦理风险再次成为焦点。