OpenAI 升級企業 API:推出半價 Batch API 與萬份檔案檢索
OpenAI 針對 API 企業使用者上線多項新特性。新推出的 Batch API 可在 24 小時內非同步返回結果,呼叫價格直接減半;Assistants API 單助手檢索檔案上限從 20 個暴增 500 倍至 1 萬個,並支援流式輸出。此外還加入了 Private Link 專線互通和專案級許可權隔離功能。
OpenAI 針對 API 企業使用者上線多項新特性。新推出的 Batch API 可在 24 小時內非同步返回結果,呼叫價格直接減半;Assistants API 單助手檢索檔案上限從 20 個暴增 500 倍至 1 萬個,並支援流式輸出。此外還加入了 Private Link 專線互通和專案級許可權隔離功能。
OpenAI 在 DevDay 推出 GPT-4 Turbo,上下文直接拉到 128K,輸入和輸出價格比原版便宜了三分之二和一半。官方還同步上線 Assistants API,自帶程式碼直譯器和檢索功能,開發者不用再為管理狀態和切分向量抓狂了。