OpenAI 优化算力告别「模型容量已满」:遇拥堵自动重试不再直接卡死
OpenAI 工程师 Tibo 宣布已部署一系列底层改进并扩充算力,大幅减少「所选模型容量已满」的报错。遇到服务器高峰拥堵时,系统将自动在后台重试并继续处理,不再直接拦截中断任务。
用过 ChatGPT 的人,大概率都被那句「Selected model is at capacity. Please try a different model」卡过脖子。思路刚被打断,往往还得手动重发或换别的模型。
OpenAI 工程师 Tibo 近日在社交平台透露,团队刚刚上线了一系列底层改动,并补充了更多算力,专门用来大幅减少这个报错的出现频率。
遇到堵车不再弹窗,后台默默重试
除了补充计算资源,OpenAI 还微调了请求的处理机制。
以往只要机房算力见底,系统会直接打断请求,把报错甩给用户。现在即便遇到容量吃紧,系统也会尝试在后台自动重试并继续处理,而不是直接切断对话。
Tibo 还向用户喊话,如果大家在日常使用中依然碰到这个弹窗,可以继续向他们反馈跟进。
为什么重要
我们认为,这算是一次非常务实的体验打磨。对于经常靠 AI 写长文本、处理复杂任务的用户来说,半路报错意味着思路和节奏彻底打乱,自动重试至少把损失降到了最低。
看起来,OpenAI 正在把一部分精力挪到修补可用性上。把排队和容错做在底层,而不是让用户自己去撞墙换模型,这种润物细无声的修修补补,往往比发个噱头功能更能留住日常用户。
来源 (1)
- x.com(在新标签页打开)原文x.com