OpenAI 弃坑 Arrakis:取名自《沙丘》的低成本模型因效率未达标夭折
据 The Information 报道,OpenAI 在今年早些时候叫停了代号为 Arrakis 的模型项目。该项目原本与 GPT-4 并行开发,旨在大幅压低 ChatGPT 的推理成本,但最终因效率未能达标被砍,让合作伙伴微软的部分高管大失所望。
据 The Information 报道,OpenAI 在今年早些时候叫停了代号为 Arrakis 的模型项目。该项目原本与 GPT-4 并行开发,旨在大幅压低 ChatGPT 的推理成本,但最终因效率未能达标被砍,让合作伙伴微软的部分高管大失所望。
在百度北京举办的「Prompt the World」大会上,李彦宏正式推出文心大模型 4.0。他表示该模型在理解、生成、逻辑和记忆四大核心能力上全面升级,综合水平不逊于 GPT-4。百度已将其接入搜索、文库和地图等产品,不过资本市场反响偏谨慎,发布当日股价微跌。
据《金融时报》报道,SEC 主席 Gary Gensler 警告,AI 在十年内引发金融崩盘几乎不可避免。他指出,若华尔街机构普遍依赖同一套底层基础模型或数据源,将带来横向系统性风险,而现行针对单一机构的监管很难防范这种单点故障。
Portkey 监测数据显示,GPT-4 响应延迟过去三个月稳步下降,速度正逼近 GPT-3.5。在第 99 百分位的高延迟请求中,耗时缩减超一半;中位数请求的每 token 耗时已低于 1 毫秒。虽然依旧更贵,但对大多数请求来说它已不再慢。
据路透社报道,OpenAI 计划在 11 月 6 日的首届开发者大会上推出重大更新,包括支持对话记忆的「有状态 API」,理论上可将调用成本降低高达 20 倍。此外,官方还计划向开发者开放图像分析的视觉 API,加速智能体生态落地。
据路透社报道,OpenAI 正探索自研 AI 芯片以缓解算力短缺,方案包括自主设计或收购芯片制造商。CEO Sam Altman 已将获取芯片列为头等大事。此举旨在降低高昂运营成本,但芯片研发极耗资金且周期长,面临不小风险。
OpenAI 宣布为 ChatGPT 推出语音和图像能力。用户可以直接拍照让它分析内容或答疑,还能用 5 种声音与它实时双向语音对话。该功能在未来两周内向 Plus 和 Enterprise 用户陆续开放,移动端和桌面端均有适配。
OpenAI 宣布成立红队网络,面向全球招募外部专家参与模型安全与对抗测试。成员将按项目获得报酬,每年投入可低至 5 到 10 小时。这意味着 OpenAI 正在将过去模型发布前的一次性审查,转变为持续、常态化的跨领域协同防御。
据 The Information 报道,OpenAI 正加速为 GPT-4 全面引入视觉多模态能力(GPT-Vision),并筹备代号为 Gobi 的下一代模型。这套看图写代码的能力此前仅向少数机构内测,OpenAI 试图抢在 Google 今秋发布 Gemini 之前落地,继续稳坐领头羊位置。
美联社报道披露,微软与 OpenAI 在爱荷华州为训练 GPT-4 抽取了大量河水为超算降温。微软 2022 年全球用水量激增 34%,外部研究测算向 ChatGPT 提问 5 至 50 次就要消耗约 500 毫升水。这让生成式 AI 背后高昂的水资源代价浮出水面。
Similarweb 数据显示,ChatGPT 全球网站访问量 8 月连续第三个月下滑,平均停留时间缩短至 7 分钟。不过相比 6、7 月约 10% 的跌幅,8 月降幅已放缓至 3%。分析指出夏季学生放假导致了流量滑坡,随着开学已开始企稳。
《时代》周刊刊发马斯克传记节选,披露其在 2018 年离开前曾试图说服 Sam Altman 将 OpenAI 并入特斯拉。OpenAI 团队拒绝后,Altman 接任总裁并成立营利分支引入微软投资;自认被甩出 AI 赛道的马斯克则于 7 月创办 xAI 另起炉灶。
OpenAI 发布面向教师的 ChatGPT 课堂教学指南,附带实用提示词,并详解其原理、局限性及 AI 检测器的有效性。指南分享了角色扮演、出题测验与辅助外语学习等案例。OpenAI 提醒,模型回答未必完全准确,仍需由教师亲自把关。
SemiAnalysis 发文指出,Google 正全力加速 Gemini,其预训练算力预计年底达 GPT-4 的 5 倍,明年可达 20 倍。报告划分了「算力富人」与「算力穷人」,直言中小团队正陷入低算力内卷,而手握 TPUv5 的 Google 是抗衡英伟达算力垄断的关键变量。
据 The Decoder 报道,OpenAI 工程师 Jason Wei 透露听闻 Meta 已备齐算力训练 Llama 3 与 4,且计划让 Llama 3 追赶 GPT-4 水平并继续免费开放。这意味着开源社区有望迎来抗衡闭源顶级模型的基座,不过 Meta 官方尚未对此表态。
OpenAI 提出用 GPT-4 辅助内容审核的新方案。审核专家把规则写进提示词让模型打标签,再通过比对分歧快速调整策略。OpenAI 称该流程已在部分客户中落地,能将新规生效时间缩减至数小时,不过仍需人工持续介入校准。
蒙大拿大学团队公布测试结果,搭载 GPT-4 的 ChatGPT 在权威创造力测验 TTCT 中,流畅度与原创性均位列前 1%,灵活性达前 3%。盲审机构未察觉其为 AI,表明大模型在发散思维上已能媲美甚至超越大部分人类。
据外媒报道,Analytics India Magazine 指出 OpenAI 运营 ChatGPT 每天耗费约 70 万美元,因变现困难且用户流失,可能在 2024 年底面临破产风险。即便有微软注资支撑,持续扩大的亏损与开源模型的竞争依然给其盈利带来严峻考验。
据报道,OpenAI 正式推出网络爬虫 GPTBot,用于抓取公开网页数据以训练和优化未来模型。GPTBot 会自动过滤付费墙、个人隐私信息及违规内容;网站管理员若不想被抓取,可在服务器标准文件中添加 disallow 指令直接屏蔽。
Microsoft 宣布配备 NVIDIA H100 的 Azure ND H100 v5 虚拟机正式可用,并同步将 Azure OpenAI Service 扩展至日本东部、英国南部等 5 个新区域。该机型搭载 8 张 H100,FP8 矩阵运算速度提升最高达 6 倍。随着企业客户破 1.1 万家,微软正全线扩容底层算力。