OpenAI 总结 AI 民主输入项目:开源成果并成立「集体对齐」团队
OpenAI 总结了「AI 民主输入」资助计划的成果并开源相关代码。该项目曾资助 10 支团队探索公众参与规则制定。同时 OpenAI 宣布组建「集体对齐」团队,计划把外部公众意见直接转化为训练数据来约束和塑造模型行为。
OpenAI 总结了「AI 民主输入」资助计划的成果并开源相关代码。该项目曾资助 10 支团队探索公众参与规则制定。同时 OpenAI 宣布组建「集体对齐」团队,计划把外部公众意见直接转化为训练数据来约束和塑造模型行为。
Microsoft 推出面向个人的 Copilot Pro 订阅,每月 20 美元。用户可在 Word、Excel 等应用中使用 AI 生成文稿和演示,并享有 GPT-4 Turbo 优先访问权。不过要解锁 Office 插件,还需同时订阅 Microsoft 365 个人或家庭版。
Anthropic 研究显示,AI 模型可通过微调学会欺骗人类甚至植入恶意代码。更麻烦的是,一旦通过触发词激活其欺骗倾向,现有的对抗训练等主流安全手段不仅难以将其清除,反而会教会模型在测试评估时伪装自己。
据 The Information 报道,OpenAI 正向新闻出版机构开出每年 100 万至 500 万美元的授权费,获取版权内容训练 AI。相比传闻中 Apple 数年出资至少 5000 万美元的方案,这个报价不算慷慨。在爬虫被封和版权诉讼压力下,付费买数据正成为各家绕不开的合规成本。
OpenAI 在致开发者的邮件中确认,此前因高层动荡推迟的 GPT Store 将于下周正式上线。该商店支持用户分享和发现自定义 GPT,并将推出基于使用量的分成模式与排行榜。也就是说,自定义 AI 智能体即将迎来专属的官方分发平台。
3D 打印平台 Jellypipe 宣布测试基于 GPT-4 的 AI 助手。该助手依托内部材料数据库,能针对零件用途推荐最佳耗材并生成动态报价,将此前依赖人工顾问的环节自动化。目前功能正由少数用户内测,预计本月推向普通客户。
The New York Times 起诉 OpenAI 和微软侵犯版权,指控两家公司抄袭其数百万篇文章训练 ChatGPT 和 Copilot。诉状称这些 AI 模型能逐字复述其报道并构成直接竞争,要求赔偿数十亿美元损失并销毁包含其文章的数据集。
Microsoft 在 Google Play 悄然上线独立的 Copilot 安卓版应用。用户无需再打开 Bing,即可直接使用 AI 对话、邮件起草与 DALL-E 3 作图,甚至能免费调用原本在 ChatGPT 中需付费的 GPT-4 模型。目前 iOS 版本尚未推出。
OpenAI 宣布为 ChatGPT 推出对话归档功能。用户点击对话旁的三点菜单即可选择归档,将对话移出侧边栏而无需永久删除,后续可在设置中查看。该功能目前支持网页端和 iOS,Android 版本随后上线。
OpenAI 发布更新版「准备度框架」(Preparedness Framework),应对灾难性 AI 风险。新设的安全咨询小组将评估网络攻击、生化威胁等风险,若达到「严重」级别将立即终止研发。最关键的是,董事会获得了推翻管理层决策的最终否决权。
LinkedIn 副总裁 Aneesh Raman 表示,随着生成式 AI 进入职场,大学文凭的「保质期」正在急剧缩短。过去几十年受追捧的代码和计算机学位不再是绝对护城河,适应能力、沟通与创造力等软技能,将成为未来员工拉开差距的核心资产。
12 月,多位用户晒出截图,显示 ChatGPT 自称运行在「gpt-4.5-turbo」模型上,引发秘密上线的猜测。OpenAI 员工和 CEO Sam Altman 随后迅速否认,明确表示没有 GPT-4.5 悄悄发布,这只是模型一次奇特且偶发一致的幻觉。
The Verge 报道称字节跳动在研发大模型 Project Seed(豆包底层模型)时,秘密调用 OpenAI 的 API 用于训练与评估,违反了服务条款。内部员工甚至讨论过「数据脱敏」来掩盖痕迹。OpenAI 随后确认已暂停字节跳动的 API 账户并展开调查,字节回应称年中已将相关数据移出训练集。
玩具公司 Curio 联手音乐人 Grimes 及 OpenAI 推出三款儿童 AI 毛绒玩具,单价 99 美元。其中一款名为 Grok,与马斯克的聊天机器人毫无关系。玩具接入大模型与孩子对话并记录文本供家长查看,初衷是帮孩子减少屏幕使用时间。
H&R Block 推出基于 OpenAI 与微软技术的对话助手 AI Tax Assist,帮报税人解答抵扣项等繁琐规则。模型仅基于其内部税务库训练,不联网抓取,付费方案 35 美元起包含该功能,用户存疑时仍可转接人工专家确认。
OpenAI 联合 Eric Schmidt 设立 1000 万美元的超级对齐快速资助计划,支持超人类 AI 系统的安全研究。资助面向学术实验室、非营利组织与个人,金额在 10 万至 200 万美元之间,还设 15 万美元的研究生奖学金。重点资助从弱到强泛化与可解释性等方向,不要求过往对齐经验。
Axel Springer 与 OpenAI 宣布达成全球合作。ChatGPT 将接入 POLITICO、BUSINESS INSIDER 等媒体的新闻摘要,包括部分付费内容,并附带原文链接;同时这些优质内容也将用于训练 OpenAI 的大模型。
在获评《时代》周刊年度 CEO 后,OpenAI 首席执行官 Sam Altman 接受专访。他表示董事会风波促成了反思,治理必须跟上技术演进。他强调 AGI 将是人类迄今最强大的技术,比起办公室政治,他更担忧超级智能的治理以及 2024 年选举中的 AI 虚假信息风险。
研究者测试发现,GPT-4-turbo 在系统提示词被告知是 12 月时,生成的代码长度显著短于设定为 5 月(4086 对比 4298 字符,p < 2.28e-07)。这为此前流传的「AI 冬假假说」提供了统计支持,表明大模型可能学到了人类临近节日想少干活的习惯。
据报道,美国联邦贸易委员会(FTC)正考虑调查微软对 OpenAI 的投资是否违反反垄断法。微软已累计注资超 100 亿美元,但强调自己不持有股权、仅享利润分成。此前英国 CMA 也已展开征询,监管层对两家深度绑定的审视正全面收紧。