走出 OpenAI 罢免风波:前董事 Helen Toner 在华盛顿转型为 AI 政策红人
据彭博社报道,去年参与主导罢免 Sam Altman 的前 OpenAI 董事会成员 Helen Toner,正在华盛顿特区成为备受信任的 AI 政策专家。经历硅谷宫斗后,她避开了马斯克诉讼的传票纠纷,转向为监管层提供 AI 治理与安全建议。
据彭博社报道,去年参与主导罢免 Sam Altman 的前 OpenAI 董事会成员 Helen Toner,正在华盛顿特区成为备受信任的 AI 政策专家。经历硅谷宫斗后,她避开了马斯克诉讼的传票纠纷,转向为监管层提供 AI 治理与安全建议。
周四晚,OpenAI 首席执行官 Sam Altman 宣布,正与美国人工智能安全研究所敲定协议,将在下一款主要生成式模型发布前开放早期访问用于安全测试。此举意在缓解外界对其轻视安全的质疑。不过合作的具体细节尚未公布。
周二,微软在最新的年度报告中正式将 OpenAI 列为竞争对手,涉及 AI 业务以及搜索与广告领域。虽然微软已向 OpenAI 投资 130 亿美元,但随着 OpenAI 推出 SearchGPT,两家巨头的业务重叠愈发明显。OpenAI 回应称双方合作关系未变。
OpenAI 公开支持美国参议院的三项 AI 法案,其中包括正式授权美国人工智能安全研究所制定模型标准,以及设立 AI 奖学金和教育资源。这一举动被视为在监管收紧前夕提前争取政策话语权。
OpenAI 推出实验版模型 gpt-4o-64k-output-alpha,单次请求最多能生成 64K token。由于长输出推理成本更高,该模型每百万输入 token 收费 6 美元,输出为 18 美元,目前仅面向 Alpha 测试用户开放。
OpenAI 宣布测试 AI 搜索临时原型 SearchGPT,旨在结合大模型与实时网页信息快速回答问题,并提供清晰的来源链接与追问能力。该原型目前仅面向小范围用户和出版商开放测试,未来成熟功能将直接整合进 ChatGPT。
快手旗下可灵 AI 1.0 正式全球上线,凭邮箱即可注册。平台每天赠送 66 点免费积分,支持文生视频与图生视频,还自带运镜控制功能,生成 5 秒片段约耗时 5 分钟。相比仍处于内测的 OpenAI Sora,可灵直接让所有人都能免费上手体验。
OpenAI 介绍基于规则奖励(RBR)的模型安全对齐方案。它用明确的规则逻辑替代大量重复的人工标注,由评判模型打分并融入强化学习。这不仅大幅降低训练成本,还能减少误拒正常请求的情况,让安全策略更新更灵活。
7 月,美国多位参议院民主党议员致信 OpenAI,要求其承诺将下一个基础模型在发布前交由美国政府机构测试与评估,并说明是否保证将 20% 算力投入安全研究。此前有举报人指控 OpenAI 为抢发 GPT-4 Omni 放宽安全标准,美国官方对 AI 巨头的监管明显收紧。
Figma 发文解释生成式 AI 工具 Make Designs 抄袭苹果天气应用的原因。官方称该功能结合了 GPT-4o 与定制设计系统,但在 Config 大会前一周临时追加了组件与示例,未严格审核便塞入上下文,导致特定提示词下直接生成了雷同界面。目前该功能已下线整改。
OpenAI 发布小型模型 GPT-4o mini。其每百万输入 token 定价 15 美分、输出 60 美分,MMLU 得分达 82%,在数学与编程测试中优于 Gemini Flash 和 Claude Haiku。最值得关注的是,它大幅降低了多任务串联和长上下文的推理成本。
The Markup 调查指出,Google 与 Meta 等巨头热衷引用的 MMLU 等跑分测试存在严重缺陷。许多测试题库年头过久或源自网络抓取,无法反映真实推理与防幻觉能力,反而给公众造成模型具备专家级能力的错觉。
据彭博社报道,OpenAI 本周向员工公布了一套追踪 AGI 进展的五级框架。层级从当前的对话型 AI 开始,涵盖具备博士级解题能力的「推理者」、能代行数天任务的智能体,直至能承担组织工作的 AI。发言人称其技术已十分接近第二级。
OpenAI 宣布与美国洛斯阿拉莫斯国家实验室合作,共同评估前沿多模态 AI 在实体生物实验室中的应用安全。双方将测试视觉与语音模型在细胞培养、基因转化等湿实验中协助研究与排错的表现,重点量化其对人员的技能提升及潜在生物安全风险。
据多家媒体报道,微软已在周二致信放弃 OpenAI 董事会观察员席位,原本预计加入的苹果也放弃了该计划。这主要是为了应对美欧监管机构对巨头与 AI 初创公司结盟的反垄断审查。虽然不再进董事会,两家公司与 OpenAI 的业务合作仍在继续。
OpenAI 正式开始阻断来自未支持地区的 API 流量,中国开发者受到直接影响。商汤、百度、智谱 AI 和腾讯云等本土厂商借机抢客,纷纷推出免费迁移方案并赠送数千万至上亿 token。这一举动加速了本土替代,但也凸显了国内在算力与芯片上的压力。
OpenAI Startup Fund 与 Thrive Global 联合成立新公司 Thrive AI Health,打造超个性化 AI 健康教练。它结合科学方法与个人生理数据,在睡眠、饮食和运动等方面提供微习惯实时提醒。这旨在降低慢性病干预门槛,未来将推出独立 App 及企业版。
据 The Verge 报道,OpenAI 推出的 ChatGPT Mac 应用此前一直以纯文本在本地存储对话。这意味着任何获取电脑权限的恶意软件都能轻松读取你的所有记录。经安全研究员和媒体反馈后,OpenAI 现已推送更新对本地聊天记录进行加密。
Cloudflare 上线一键拦截所有 AI 爬虫的功能,面向包含免费版在内的所有用户开放。它不仅拦截遵守 robots.txt 的合规爬虫,还会用机器学习识别伪装成真实浏览器的恶意抓取。也就是说,站长无需再费心配规则,就能防住拿自家内容喂模型的 AI。
OpenAI 联合创始人 Andrej Karpathy 在 UC 伯克利黑客松发表演讲。他指出大模型正在成为新的操作系统,计算范式宛如重回 1980 年代。他透露 GPT-4 最早只源于内部一个 Reddit 机器人,鼓励年轻人靠持续做小项目来滚雪球。