跳到正文
IFAI

大模型

OpenAI 開放 ChatGPT 與 Whisper API:成本大降 90%,每千 token 僅 0.002 美元

首次發布 傳播指數 57

OpenAI 正式向開發者開放 GPT-3.5 Turbo 與 Whisper 的 API。新上線的 gpt-3.5-turbo 定價為每千 token 0.002 美元,比原有 GPT-3.5 便宜 10 倍;語音轉文字模型 Whisper 每分鐘 0.006 美元。最關鍵的是,OpenAI 承諾 API 提交的資料預設不再用於模型訓練。

OpenAI 開放 ChatGPT 與 Whisper API:成本大降 90%,每千 token 僅 0.002 美元
圖:openai.com

過去三個月裡,無數開發者為了把 ChatGPT 塞進自己的產品,不得不冒著封號的風險寫指令碼去爬網頁版,或者咬牙忍受 text-davinci-003 高昂的賬單。

現在這種折騰終於可以結束了。3 月 1 日,OpenAI 正式端出了兩套開發者盼望已久的介面:GPT-3.5 Turbo 和 Whisper 的 API。

最震撼的不是介面本身,而是價格。OpenAI 表示通過一系列系統級最佳化,自去年 12 月以來已將 ChatGPT 的執行成本壓縮了 90%。反映在介面價格上,新推出的 gpt-3.5-turbo 模型定價僅為每千 token 0.002 美元,直接比原有的 GPT-3.5 模型便宜了整整 10 倍。

便宜 10 倍,還給企業解了後顧之憂

除了降價,OpenAI 針對開發者最頭疼的幾個痛點做了一攬子改進。

首先是隱私和資料安全。在此之前,許多大公司嚴禁員工使用 OpenAI 介面,核心顧慮就是商業機密會被拿去二次訓練。這次 OpenAI 正式承諾,除非使用者主動選擇加入,否則通過 API 提交的資料預設絕不再用於模型訓練,資料預設保留期也改為 30 天,並明確輸入和輸出內容的所有權均歸使用者所有。

其次,OpenAI 徹底取消了上線前的應用人工稽核機制,改用自動化監控代替。對於每天呼叫量超過 4.5 億 token 的超大型客戶,OpenAI 還推出了專屬算力例項服務,允許開發者在 Azure 上包下專用算力,鎖定模型快照,甚至開啟更長的上下文視窗。

不僅是文本,OpenAI 去年 9 月開源的語音轉文字模型 Whisper 這次也以 API 形式開放。原本跑大模型 Whisper large-v2 需要極高的本地顯示卡配置,現在呼叫雲端 API 只要每分鐘 0.006 美元,支援格式轉換與直接英譯。

在呼叫方式上,gpt-3.5-turbo 也有了明顯變化。它放棄了以往向模型輸入純文本的做法,改用名為 ChatML 的訊息列表格式,由開發者按角色組織對話。首發版本為 gpt-3.5-turbo-0301,OpenAI 承諾至少維護到 6 月 1 日,並計劃在 4 月釋出新的穩定版。

行業大廠早就悄悄用上了

在 API 宣佈全面開放之前,幾家大客戶已經拿它打磨出了新功能。

擁有 7.5 億月活使用者的 Snapchat 母公司 Snap,本週就在其訂閱服務 Snapchat+ 中推出了執行在 GPT-3.5 API 上的聊天機器人 My AI,幫使用者寫打油詩和推薦餐廳。

教育平臺 Quizlet 則基於新介面推出了自適應輔導老師 Q-Chat;生鮮電商 Instacart 將其接入了 7.5 萬家零售門店資料,準備在今年晚些時候上線「Ask Instacart」購物助手;擁有 1 億使用者的 Shopify 旗下 Shop 應用也接入了購物推薦助手;語言學習應用 Speak 更是靠 Whisper API 打造了即時口語伴學夥伴。

不過,OpenAI 也罕見地坦承,過去兩個月系統的正常執行時間並沒有達到預期,工程團隊眼下的頭等大事就是保障介面穩定性。

為什麼重要

每千 token 0.002 美元是一個分水嶺。換算一下,用大模型處理大概 75 萬字的內容只要 14 元人民幣左右,這基本把絕大多數初創團隊的推理成本直接打到了地板上。此前因為呼叫太貴而無法商業化的輕量工具、對話助手和內容總結外掛,現在全部有了算得過來賬的商業閉環。

對行業來說,OpenAI 這一記兇狠的降價,把壓力完全甩給了同行。其他還在研發對話模型的廠商,還沒來得及證明自己的能力趕上 ChatGPT,就必須先在每千 token 0.002 美元的成本線前證明自己跑得起。護城河不再只是引數規模,更是單位算力的極致工程化能力。

更聰明的一步是隱私條款的妥協。不再拿使用者資料訓練模型、交還資料所有權,看起來是 OpenAI 放棄了白嫖訓練資料的特權,但實際上是拿到了通往企業級市場的入場券。真正有錢、有海量高價值資料的 B 端企業,終於敢把真實業務接入進來了。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選