OpenAI 开放 ChatGPT 与 Whisper API:成本大降 90%,每千 token 仅 0.002 美元
OpenAI 正式向开发者开放 GPT-3.5 Turbo 与 Whisper 的 API。新上线的 gpt-3.5-turbo 定价为每千 token 0.002 美元,比原有 GPT-3.5 便宜 10 倍;语音转文字模型 Whisper 每分钟 0.006 美元。最关键的是,OpenAI 承诺 API 提交的数据默认不再用于模型训练。

过去三个月里,无数开发者为了把 ChatGPT 塞进自己的产品,不得不冒着封号的风险写脚本去爬网页版,或者咬牙忍受 text-davinci-003 高昂的账单。
现在这种折腾终于可以结束了。3 月 1 日,OpenAI 正式端出了两套开发者盼望已久的接口:GPT-3.5 Turbo 和 Whisper 的 API。
最震撼的不是接口本身,而是价格。OpenAI 表示通过一系列系统级优化,自去年 12 月以来已将 ChatGPT 的运行成本压缩了 90%。反映在接口价格上,新推出的 gpt-3.5-turbo 模型定价仅为每千 token 0.002 美元,直接比原有的 GPT-3.5 模型便宜了整整 10 倍。
便宜 10 倍,还给企业解了后顾之忧
除了降价,OpenAI 针对开发者最头疼的几个痛点做了一揽子改进。
首先是隐私和数据安全。在此之前,许多大公司严禁员工使用 OpenAI 接口,核心顾虑就是商业机密会被拿去二次训练。这次 OpenAI 正式承诺,除非用户主动选择加入,否则通过 API 提交的数据默认绝不再用于模型训练,数据默认保留期也改为 30 天,并明确输入和输出内容的所有权均归用户所有。
其次,OpenAI 彻底取消了上线前的应用人工审核机制,改用自动化监控代替。对于每天调用量超过 4.5 亿 token 的超大型客户,OpenAI 还推出了专属算力实例服务,允许开发者在 Azure 上包下专用算力,锁定模型快照,甚至开启更长的上下文窗口。
不仅是文本,OpenAI 去年 9 月开源的语音转文字模型 Whisper 这次也以 API 形式开放。原本跑大模型 Whisper large-v2 需要极高的本地显卡配置,现在调用云端 API 只要每分钟 0.006 美元,支持格式转换与直接英译。
在调用方式上,gpt-3.5-turbo 也有了明显变化。它放弃了以往向模型输入纯文本的做法,改用名为 ChatML 的消息列表格式,由开发者按角色组织对话。首发版本为 gpt-3.5-turbo-0301,OpenAI 承诺至少维护到 6 月 1 日,并计划在 4 月发布新的稳定版。
行业大厂早就悄悄用上了
在 API 宣布全面开放之前,几家大客户已经拿它打磨出了新功能。
拥有 7.5 亿月活用户的 Snapchat 母公司 Snap,本周就在其订阅服务 Snapchat+ 中推出了运行在 GPT-3.5 API 上的聊天机器人 My AI,帮用户写打油诗和推荐餐厅。
教育平台 Quizlet 则基于新接口推出了自适应辅导老师 Q-Chat;生鲜电商 Instacart 将其接入了 7.5 万家零售门店数据,准备在今年晚些时候上线「Ask Instacart」购物助手;拥有 1 亿用户的 Shopify 旗下 Shop 应用也接入了购物推荐助手;语言学习应用 Speak 更是靠 Whisper API 打造了实时口语伴学伙伴。
不过,OpenAI 也罕见地坦承,过去两个月系统的正常运行时间并没有达到预期,工程团队眼下的头等大事就是保障接口稳定性。
为什么重要
每千 token 0.002 美元是一个分水岭。换算一下,用大模型处理大概 75 万字的内容只要 14 元人民币左右,这基本把绝大多数初创团队的推理成本直接打到了地板上。此前因为调用太贵而无法商业化的轻量工具、对话助手和内容总结插件,现在全部有了算得过来账的商业闭环。
对行业来说,OpenAI 这一记凶狠的降价,把压力完全甩给了同行。其他还在研发对话模型的厂商,还没来得及证明自己的能力赶上 ChatGPT,就必须先在每千 token 0.002 美元的成本线前证明自己跑得起。护城河不再只是参数规模,更是单位算力的极致工程化能力。
更聪明的一步是隐私条款的妥协。不再拿用户数据训练模型、交还数据所有权,看起来是 OpenAI 放弃了白嫖训练数据的特权,但实际上是拿到了通往企业级市场的入场券。真正有钱、有海量高价值数据的 B 端企业,终于敢把真实业务接入进来了。
来源 (1)
- openai.com(在新标签页打开)原文openai.com