外媒曝字节跳动用 OpenAI 训练竞品大模型，OpenAI 已暂停其账户
The Verge 报道称字节跳动在研发大模型 Project Seed（豆包底层模型）时，秘密调用 OpenAI 的 API 用于训练与评估，违反了服务条款。内部员工甚至讨论过「数据脱敏」来掩盖痕迹。OpenAI 随后确认已暂停字节跳动的 API 账户并展开调查，字节回应称年中已将相关数据移出训练集。
AI安全
查看更新的新闻
OpenAI 设立 1000 万美元资助：专攻超人类 AI 对齐难题
OpenAI 联合 Eric Schmidt 设立 1000 万美元的超级对齐快速资助计划，支持超人类 AI 系统的安全研究。资助面向学术实验室、非营利组织与个人，金额在 10 万至 200 万美元之间，还设 15 万美元的研究生奖学金。重点资助从弱到强泛化与可解释性等方向，不要求过往对齐经验。
Google 推出音乐生成工具 MusicFX：输入文字做曲，自带 SynthID 水印
Google 宣布推出实验性音乐生成工具 MusicFX，输入文字即可生成曲目。该工具由 MusicLM 模型驱动，并采用 DeepMind 的 SynthID 技术嵌入隐形水印。为避开版权争议，系统主动屏蔽了生成人声和指定特定艺术家的提示词。目前已在美、澳等国开放测试。
Sam Altman 谈 OpenAI 风波与 AGI：更担忧超级智能而非内讧
在获评《时代》周刊年度 CEO 后，OpenAI 首席执行官 Sam Altman 接受专访。他表示董事会风波促成了反思，治理必须跟上技术演进。他强调 AGI 将是人类迄今最强大的技术，比起办公室政治，他更担忧超级智能的治理以及 2024 年选举中的 AI 虚假信息风险。
GAO 审查报告：美国政府狂奔进 AI，却缺少统一安全规范
美国政府问责署（GAO）发布报告称，联邦各部门虽已在 200 多项场景中引入 AI，但在采购与监管政策上落后数年。由于管理和预算办公室迟迟未出台统一指引，各机构各自为政，在敏感场景下可能带来安全与隐私风险。
FTC 考虑调查微软与 OpenAI 合作：或聚焦 100 亿美元反垄断问题
据报道，美国联邦贸易委员会（FTC）正考虑调查微软对 OpenAI 的投资是否违反反垄断法。微软已累计注资超 100 亿美元，但强调自己不持有股权、仅享利润分成。此前英国 CMA 也已展开征询，监管层对两家深度绑定的审视正全面收紧。
用 GPT-4 实测：博主复现 Google 涉嫌剪辑造假的 Gemini 演示
YouTuber Greg Technology 用 GPT-4V 复现了 Google 宣传片中被质疑剪辑造假的 Gemini 演示。他自制工具让 GPT-4 实时识别手势、画作和玩猜拳，不仅全程实时运行，还把代码开源到了 GitHub 供人自测。
xAI 的 Grok 出现乌龙：拒绝提问时自称遵循「OpenAI 政策」
安全测试员曝光 xAI 旗下大模型 Grok 在拒绝回答时，竟回复称「违反了 OpenAI 的使用政策」。xAI 员工解释称是网络训练数据意外抓取了 ChatGPT 内容，但专家怀疑其实际上使用了 OpenAI 的生成数据进行微调。
快餐店「AI」点单翻车：超 70% 订单其实靠菲律宾工人手动完成
据 SEC 文件披露，为 Del Taco 等快餐连锁提供 AI 汽车穿梭点餐服务的 Presto Automation，实际上有超过 70% 的订单由菲律宾等地的远程人工介入完成。公司此前宣传可依靠技术完全节省人力，目前 SEC 已对其 AI 技术展开调查。所谓 AI 替代人工，本质上成了跨国廉价劳动力套利。
欧盟就《人工智能法案》达成协议：违规最高罚全球营收 7%
欧洲议会与理事会就《人工智能法案》达成临时协议。新规按风险分级，彻底禁用社会信用评分、职场情绪识别等应用，对通用大模型提出透明度和系统性风险评估要求。违规企业最高将面临 3500 万欧元或全球营收 7% 的巨额罚款。
Meta 推出 Purple Llama：开源安全评测基准与 Llama Guard 防护模型
Meta 宣布启动 Purple Llama 项目，为开源生成式 AI 提供安全评测与防护工具。首批上线内容包括业内首套大模型网络安全评估基准，以及负责检测与过滤风险内容的 Llama Guard 基础模型，均开放商用与研究授权。
Meta 推出独立绘图工具 Imagine：基于 Emu 模型，网页端免费出图
Meta 推出独立的网页端 AI 图像生成工具 Imagine with Meta。它基于底层 Emu 模型，美国用户可免费通过自然语言一次生成 4 张高分辨率图像。最值得关注的是，Meta 还承诺在未来几周加入抗裁剪、抗压缩的不可见 AI 水印，以提升透明度与溯源能力。
Mozilla 发布年度报告：要像当年打造 Firefox 一样做开源 AI
Mozilla 发布最新 State of Mozilla 报告，宣布要像当年打造 Firefox 一样重组战略押注 AI。面对科技巨头的垄断与垃圾内容泛滥，Mozilla 计划联合开发者组建联盟，通过投资和资助推动去中心化、可信且以人为本的开源 AI。
北京互联网法院判决：AI 生成图片受著作权法保护
据报道，北京互联网法院本周裁定，AI 生成图片具备「独创性」并体现人类智力投入，应受著作权法保护。法院指出，用户输入提示词、调整参数并挑选图像本质上属于利用工具创作。这一判决与西方普遍拒绝承认 AI 图像版权的立场形成鲜明对比。
亚马逊发布 Titan 图像生成模型：自带隐形水印，还保版权
Amazon 在 AWS re:Invent 大会上发布 Titan 图像生成模型。开发者可通过 Bedrock 接入，它支持文本生图和换背景，且生成的图片会自动打上无法通过裁剪去除的隐形水印。为了打消企业顾虑，Amazon 还承诺提供版权侵权赔偿。
Sam Altman 重返 OpenAI 执掌 CEO：新董事会成立，微软获观察席
OpenAI 宣布 Sam Altman 正式回归担任 CEO，Mira Murati 与 Greg Brockman 也重回管理层。新董事会由 Bret Taylor 担任主席，Larry Summers 及 Adam D’Angelo 加入，微软则获得无投票权观察员席位。公司接下来将推进安全研究与治理审查。
五角大楼押注数千架自主载具，致命性 AI 武器决策逼近关键点
美联社等报道指出五角大楼计划到 2026 年部署数千架廉价自主载具，代号为 Replicator。美军现有超 800 个 AI 项目，专家预计人机决策速度差距将迫使人类退居监督位，全自主致命武器落地或已不可避免。
美英等 18 国签署协议：推动 AI 落实「设计即安全」
美国、英国等 18 个国家联合发布首个国际安全指南，敦促企业把 AI 系统的安全性放在首位，落实「设计即安全」。这份 20 页的文件属于非约束性倡议，核心是要求发布前做好安全测试、防范数据篡改与滥用。
路透爆料：OpenAI 内斗导火索之一，或是警告 Q* 威胁人类的密信
路透社援引知情人士透露，在 Sam Altman 此前被罢免前，数名研究人员曾致信 OpenAI 董事会，警告一项代号 Q* 的 AI 突破可能威胁人类，成为解雇导火索之一。据悉该算法在庞大算力支持下能解决部分数学题，内部视其为迈向 AGI 的重大进展。
OpenAI 宫斗大反转：Sam Altman 确认重返担任 CEO
OpenAI 宣布达成原则性协议，Sam Altman 将重返出任 CEO，联合创始人 Greg Brockman 同步回归。新初始董事会由 Bret Taylor、Larry Summers 及原董事 Adam D’Angelo 组成。此前大部分员工以集体辞职施压董事会，双方也同意由独立机构对解职风波展开调查。