跳到正文
IFAI

大模型

OpenAI 全面開放 GPT-4 API:付費開發者立即可用,舊補全介面明年初停用

首次發布 傳播指數 54

OpenAI 宣佈 GPT-4 API 正式全面可用,所有有成功付費記錄的開發者均可直接呼叫 8K 上下文版本。同時,GPT-3.5 Turbo、DALL·E 和 Whisper API 也結束測試正式商用。為了全面轉向結構化的 Chat 介面,官方計劃於 2024 年 1 月 4 日停用舊版補全老模型。

OpenAI 全面開放 GPT-4 API:付費開發者立即可用,舊補全介面明年初停用
圖:openai.com

苦等候補名單好幾個月的開發者,終於不用天天盯著郵箱重新整理了。

OpenAI 宣佈 GPT-4 API 正式全面可用(General Availability)。只要你之前在平臺上有過成功的付費記錄,現在就可以直接呼叫支援 8K 上下文的 GPT-4 模型。對於本月新加入的開發者,官方承諾會在 7 月底前陸續放開許可權,之後再根據算力負載逐步上調速率限制。

與此同時,GPT-3.5 Turbo、DALL·E 以及 Whisper 的 API 也同步結束測試狀態,正式達到生產級可用標準。官方還預告,GPT-4 和 GPT-3.5 Turbo 的微調功能已經在路上,預計今年晚些時候就能向開發者開放。

補全介面謝幕,Chat 模式成了絕對主流

除了放開 GPT-4,OpenAI 這次還宣佈了一項大動作:徹底淘汰老一代的文本補全(Completions)介面。

早在今年 3 月,OpenAI 就上線了 Chat Completions API,也就是大家熟悉的基於對話格式的介面。經過這幾個月的遷移,Chat 介面的呼叫量已經佔到了整個平臺 GPT 流量的 97%。自由文本補全那種早期的提示詞方式,正在迅速退出歷史舞臺。

OpenAI 解釋說,結構化的對話介面不僅能通過系統訊息、函式呼叫(function calling)實現更復雜的互動,還能把使用者輸入與系統指令明確區分開,從而大幅降低提示詞注入攻擊的風險。未來所有的新模型都只會圍繞 Chat 介面演進,舊版補全介面即日起被標記為「遺留(Legacy)」,官方也不會再為它推出任何新模型。

明年 1 月 4 日大限:老模型替換路線圖

對於還在用舊介面的團隊,OpenAI 給出了半年的過渡期:2024 年 1 月 4 日,舊款補全模型將正式下線。

具體替換方案也已經定好。基礎 GPT-3 模型 ada、babbage、curie、davinci 將平滑升級為 babbage-002 和 davinci-002;被廣泛使用的 text-davinci-003 等指令模型,則需要開發者手動遷移到新推出的 gpt-3.5-turbo-instruct。這兩批替代模型會在未來幾週內上線供大家提前測試。

嵌入模型方面,老款搜尋與相似度模型全部合併替代為 text-embedding-ada-002,由於這一遷移涉及重新計算向量,OpenAI 甚至大方承諾會主動報銷受影響使用者的重嵌成本。另外,早期的 Edits API 也將在同日停用,統一由 GPT-3.5 Turbo 接管。

為什麼重要

全面開放 GPT-4,意味著大模型應用終於可以告別「內測玩具」的階段,正式大批次進入商業生產環境。之前大量初創團隊因為拿不到 GPT-4 的 API 許可權,只能用 GPT-3.5 勉強搭出邏輯容易漏洞百出的半成品。現在閘門拉開,不管是程式碼補全、長文本分析還是複雜工作流自動化,應用體驗都會迎來一次質的躍升。

而 OpenAI 強力清理舊技術棧,也給行業指明瞭技術標準的方向。補全介面的謝幕看似增加了遷移成本,但實際上是幫開發者避坑。純文本自由發揮的介面不僅難以約束輸出格式,而且天生容易被越獄;把系統定義、角色對話和工具呼叫規範化,才是在企業級場景真正落地的唯一解法。

我們認為,OpenAI 承諾為嵌入向量的重新計算買單,展現出了極具誠意的平臺格局。不過開發者也要看清現實:隨著 GPT-4 呼叫量激增,算力瓶頸隨時可能再次收緊,合理的快取策略和降級預案依然是每個團隊必須提前做好的功課。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選