OpenAI 升級企業 API:推出半價 Batch API 與萬份檔案檢索
OpenAI 針對 API 企業使用者上線多項新特性。新推出的 Batch API 可在 24 小時內非同步返回結果,呼叫價格直接減半;Assistants API 單助手檢索檔案上限從 20 個暴增 500 倍至 1 萬個,並支援流式輸出。此外還加入了 Private Link 專線互通和專案級許可權隔離功能。

如果你的公司想把核心業務接入 AI,最擔心的往往不是模型夠不夠聰明,而是兩件事:資料安不安全,月底的賬單會不會爆表。
OpenAI 針對 API 企業客戶推出了一整套新功能,專門解決安全、管理、模型能力和用量成本這幾個最讓人頭疼的問題。
鎖死安全大門,組織管理更細緻
針對安全要求極高的企業,OpenAI 這次上線了 Private Link,讓客戶的 Azure 環境與 OpenAI 服務之間建立直接連線,儘量減少公網暴露。
同時上線的還有原生多因素身份驗證(MFA),幫助企業滿足愈發嚴格的訪問控制合規要求。
為了方便大公司內部多人協作,OpenAI 推出了「專案」(Projects)功能。
管理員現在可以把角色和 API 金鑰按具體專案隔離,還能規定某個專案只能呼叫哪些特定模型。
專案層面不僅能設定用量和速率上限以防意外超支,還支援建立「服務賬號 API 金鑰」,不用再把系統介面和某個具體員工的賬號綁在一起。
Assistants API 大升級:吃得下萬份檔案,價格砍半
針對應用開發,Assistants API 迎來了多項更新,最亮眼的是全新的檔案搜尋(file_search)能力。
每個助手支援的檔案數量從原本的 20 個直接拉昇到 10,000 個,足足翻了 500 倍。底層支援多執行緒並行檢索,並優化了重排序和查詢重寫機制。
系統還新增了 vector_store 物件,上傳的檔案會自動切塊並生成向量嵌入,還能跨助手和執行緒複用。
呼叫體驗上,新版本終於支援了流式輸出(Streaming),並且允許開發者精細控制每次執行的最大 Token 數,甚至可以通過 tool_choice 指定呼叫的特定工具。
在成本控制方面,OpenAI 拿出了誠意。
對於離線分類、長文總結或合成數據等不著急要結果的任務,OpenAI 推出了 Batch API。請求在 24 小時內返回,價格直接在原有基礎上打五折,同時附帶更高的速率限制。
針對有穩定持續吞吐量的大客戶,購買 GPT-4 或 GPT-4 Turbo 的預置吞吐量承諾,可以拿到 10% 到 50% 的折扣。
為什麼重要
我們認為,這次更新標誌著 OpenAI 的 API 產品正式從「極客的試驗場」轉向「正規軍的生產線」。
對開發者和企業來說,檔案上限拉到一萬份加上獨立的 vector_store,意味著中小團隊不用再自己折騰一套複雜的 RAG 向量資料庫基建,直接用官方元件就能跑通知識庫搭建;而流式輸出的補齊,則直接解決了聊天介面的等待卡頓問題。
半價的 Batch API 更是切中了模型評測和資料清洗的高頻痛點,如果你手裡有大批離線任務,現在就值得立即切換過去省下一半預算。
對行業而言,OpenAI 通過 Private Link 和細粒度專案管控,精準堵住了大企業採購時法務與合規層面的藉口,勢必會給 Anthropic 等競爭對手帶來更大的企業端防禦壓力。
不過看起來也有隱患:官方將向量檢索和儲存深度打包,雖然用起來極其方便,但也會進一步加深開發者對 OpenAI 生態的依賴和繫結,一旦未來呼叫成本調整,遷移門檻將比以往高得多。
來源 (1)
- openai.com(在新分頁開啟)原文openai.com