OpenAI 推出 GPT-4 Turbo：支持 128K 上下文，价格腰斩再腰斩

以前开发者调用大模型，最头疼的往往不是写提示词，而是工程脏活：上下文塞不下几篇长文档，为了让模型输出稳定的 JSON 格式得反复重试，还要自己搭向量数据库、切文本做检索。

在首届 DevDay 开发者大会上，OpenAI 拿出了 GPT-4 Turbo 和一整套开发者接口更新。简单来说，不仅模型能力变强、价格打骨折，更重要的是，他们开始直接替开发者清理那些繁琐的基础设施。

上下文拉满，价格打骨折

这次的主角是 GPT-4 Turbo 预览版。它的知识库更新到了 2023 年 4 月，最引人注目的是上下文窗口直接拉到了 128K，相当于单次可以塞进超过 300 页文本。

更狠的是价格。相比原版 GPT-4，GPT-4 Turbo 的输入价格降到原本的三分之一，输出价格也降到二分之一。对于跑大批量任务的团队来说，账单压力直接减轻了大半。

开发体验上的痛点也被顺手修了一批。新模型支持单条消息并行调用多个函数，比如一句同时打开车窗并关闭空调就能搞定，不用再来回往返模型多次。

此外，官方加入了专门的 JSON 模式，通过固定参数保证模型输出语法正确的 JSON 对象，还加入了类似种子参数的功能，方便开发者在写单元测试或调试时复现稳定的模型输出。

连带着 GPT-3.5 Turbo 也升级了默认 16K 上下文，官方测试其格式遵循能力提升了 38%，同样吃到了并行函数调用和 JSON 模式的红利。

替你管状态的 Assistants API

如果说模型降价是常规军备竞赛，那么 Assistants API 就是直接动了中间件开发者的蛋糕。OpenAI 想用它帮开发者做智能体形态的应用。

以往做多轮对话，应用端需要自己记录聊天历史、计算滑动窗口、裁剪过长记录。Assistants API 引入了持久化线程，直接把对话状态的管理权接管到了云端，开发者只要往现有会话里追加消息即可。

更省事的是开箱即用的三大工具：代码解释器能在沙箱里跑 Python 跑数据；检索功能免去了自己算嵌入向量、切片和搭建搜索算法的麻烦；再加上函数调用，智能体调外部系统也顺理成章。

在多模态方面，OpenAI 把 GPT-4 视觉能力、DALL·E 3 和文字转语音接口一并开放。视觉调用按图片分辨率收费，TTS 提供了两种清晰度档次和六种预设音色，生成图像起步价为每张 0.04 美元。

为什么重要

我们认为，这次更新最凶狠的地方不是参数多大，而是把大批做中间层封装的初创团队逼到了墙角。

过去大半年里，不少创业项目核心价值就是帮人切文档、算向量、存知识库做问答，或者自己封装一个上下文管理器。现在 OpenAI 官方用 Assistants API 一键打包了检索和沙箱代码执行，不仅免费替开发者省掉搭建复杂架构的精力，体验和兼容性还往往比第三方拼凑出来的方案更好。

对普通开发者和中小团队而言，现在绝对值得第一时间去用。不仅 128K 上下文和降价直接拉低了探索长文本处理的门槛，JSON 模式和持久化会话也意味着上线一个靠谱原型的时间可以从几周缩短到几天。

不过隐患同样摆在眼前。开发者一旦彻底依赖官方托管的会话状态和黑盒检索，就等于把自己死死绑在了 OpenAI 的生态里，未来想换用开源模型或自建私有化方案时，迁移代价会变得极其高昂。