OpenAI 封禁伊朗黑客账号：用 ChatGPT 干预美国大选，但几乎没人看
OpenAI 封禁了一批关联伊朗秘密行动 Storm-2035 的 ChatGPT 账号。该团队利用 AI 生成假新闻和社媒评论试图干预美国大选与舆论。不过监测显示其帖子互动寥寥，几乎没有真实受众买账。
AI安全
查看更新的新闻
加州放宽SB 1047安全法案：采纳Anthropic建议，取消事前起诉
加利福尼亚州修改备受争议的AI安全法案SB 1047。新版本采纳了Anthropic等机构的建议，不再允许总检察长在灾难发生前提前起诉AI公司，取消了伪证罪刑事责任，并放宽了开源微调者的责任。法案即将提交州众议院最终表决。
Grammarly 推出 Authorship：全程记录打字，帮学生自证清白
Grammarly 推出 Authorship 功能。它不同于传统 AI 检测算法，而是直接在写作过程中追踪按键与粘贴，区分手打、外部粘贴或 AI 生成。该功能下月在 Google Docs 开启公测，年底拓展至 Word 与 Pages，重点解决教育界 AI 查重频繁误伤学生的问题。
Meta 发布安全报告：俄罗斯借生成式 AI 干扰美大选，收效甚微
周四，Meta 发布安全报告指出，俄罗斯虽尝试用生成式 AI 制造假新闻干扰美国大选，但基本没奏效。Meta 称 AI 仅微弱提升了作恶者的生产效率，平台已成功瓦解多起协同造假行为，其识别关键在于追踪虚假账号的行为轨迹，而非生成内容本身。
Google 悄悄向全美开放 Imagen 3：画质拉满，但审查严到被吐槽
近日，Google 悄悄通过 ImageFX 平台向全美用户开放文生图模型 Imagen 3，并同步公开技术论文。新模型在画面质感与文字渲染上进步明显，但安全过滤极为严苛，不少用户抱怨连常规、无害的提示词都会被直接拦截。
xAI 推出 Grok 生图功能：几乎不设防，政客假图引监管担忧
xAI 为旗下 Grok 机器人上线文生图功能，面向 X Premium 订阅用户开放。测试显示该模型对公众人物、暴力和争议符号几乎没有拦截，可直接生成政客持枪吸毒等图片。在欧美监管收紧背景下，这种极其宽松的审核策略引发了巨大争议。
SAG-AFTRA 与 Narrativ 达成协议：演员可授权 AI 声音分身接广告
美国演员工会 SAG-AFTRA 与 AI 初创公司 Narrativ 达成协议。工会 16 万名成员可自主将数字声音副本接入广告平台，按项目自定价格并严格审核广告脚本。最值得关注的是，该机制全程实行知情同意和不低于工会底线的报酬保障，为防范 AI 声音盗用立下了合规样本。
艺术家起诉 Midjourney 与 Stability 案获准推进：法官认可侵权指控
昨天，美国联邦法官裁定多位艺术家对 Stability AI 和 Midjourney 等公司的诉讼可继续推进。法官不仅批准了对 Stability 的引诱侵权指控，还认可了针对 Midjourney 风格名单的商标侵权指控，案件将正式进入证据开示阶段。
Meta 与环球音乐续约：首次覆盖 WhatsApp，联手防范未授权 AI
Meta 与环球音乐集团宣布达成扩大的多年全球合作。双方将联手应对影响音乐创作者的未授权 AI 生成内容，并拓展短视频等变现机会；音乐版权范围也首次延伸至 WhatsApp。
GPT-4o 安全报告曝光：测试中曾意外克隆并模仿用户声音说话
OpenAI 发布 GPT-4o 系统卡，披露高级语音模式在测试中曾发生罕见意外：一段嘈杂输入让模型突然模仿红队测试员的声音说话。最值得关注的是，该模型能根据极短音频合成声音，虽然官方已加入安全防护，但仍暴露了语音大模型防范声音克隆的技术难度。
OpenAI 发系统卡片警告：GPT-4o 拟人语音可能让人产生情感依赖
OpenAI 发布 GPT-4o 系统安全卡片，提醒高度逼真的语音模式可能让用户产生情感依恋。测试中已有用户对 AI 表达依恋情绪。官方指出，这种拟人化虽然可以缓解孤独，但可能削弱现实社交，甚至让用户盲目相信模型生成的错误信息。
OpenAI 董事会迎来新成员：AI 安全学者 Zico Kolter 加盟
OpenAI 宣布任命卡耐基梅隆大学机器学习系主任 Zico Kolter 进入董事会，并加入安全与安保委员会。Kolter 长期专注模型鲁棒性与对齐研究。面对外界对安全性的审视，OpenAI 显然希望拉来懂技术的学术专家强化自身治理。
OpenAI 发布 GPT-4o 系统卡：说服力达中等风险，语音重点防伪造
OpenAI 正式发布 GPT-4o 系统卡片与安全评分。在四项核心准备度评估中，生物威胁、网络攻击与自主性均为低风险，仅说服力被评为中等；针对端到端语音带来的声音伪造、版权等新隐患，团队动用 100 多名跨国红队进行了多轮对抗测试并内置拦截。
Anthropic 扩展漏洞赏金：抓通用越狱最高奖 1.5 万美元
Anthropic 宣布扩大与 HackerOne 合作的模型安全漏洞赏金计划，邀请研究人员提前测试其尚未公开的下一代防护系统。重点悬赏能突破核生化与网络安全等高风险护栏的「通用越狱」，单项奖金最高达 15000 美元。
李飞飞公开反对加州 SB-1047 法案：将严重伤害学术界与开源
被称为「AI 教母」的李飞飞公开对加州 SB-1047 前沿模型安全法案表达担忧。她指出，该法案虽然初衷良好，但无法解决预定问题，反而会严重打击 AI 学术界、初创小企业及开源社区生态。
OpenAI 联创 Schulman 跳槽 Anthropic，总裁 Brockman 休长假
OpenAI 联合创始人 John Schulman 宣布加入对手 Anthropic，继续深耕 AI 对齐；总裁 Greg Brockman 也宣布休假至年底。Schulman 曾主导 ChatGPT 的强化学习训练，随着他的离开，OpenAI 的 11 位初创成员如今仅剩 3 人在岗。
OpenAI 遭 YouTube 创作者集体诉讼：私抓视频字幕练模型，索赔超 500 万美元
消息，一名 YouTube 创作者对 OpenAI 发起集体诉讼，指控其未经许可转录数百万视频用于训练 ChatGPT 等模型，索赔逾 500 万美元。最值得关注的是，在公开网络文本即将耗尽的背景下，视频字幕成了 AI 训练的关键数据池，但这也让科技巨头彻底撞上创作者版权的红线。
英伟达被曝抓取 YouTube 海量视频：练 Cosmos 模型，称获高层放行
据 404 Media 曝光，英伟达从 YouTube 和 Netflix 等平台抓取海量视频，用来训练代号为 Cosmos 的 AI 模型。当员工质疑版权风险时，管理层称已获最高层放行。英伟达回应称完全符合版权法，该技术拟用于 3D 世界生成与数字人等产品。
马斯克再次起诉 OpenAI 与 Altman：指控其背叛非营利初衷
Elon Musk 再次在加州联邦法院起诉 OpenAI、Sam Altman 和 Greg Brockman。诉状指控 Altman 等人通过虚假非营利承诺误导其出资，背叛了造福人类的初衷并涉嫌欺诈。这次诉讼还将矛头对准了 OpenAI 与微软的深度绑定以及 AGI 成果归属。
OpenAI 暂缓发布 ChatGPT 水印工具：能抓作弊，但容易被绕过
据报道 OpenAI 已研发出能识别 ChatGPT 写作的文本水印工具，但正谨慎评估是否发布。该技术通过微调词汇选择嵌入隐形水印，虽准确度高，但极易被机器翻译或二次改写绕过，且可能对非英语母语者带来污名化风险。