Anthropic 全面上線工具呼叫:Claude 3 全系能調外部 API 了
Anthropic 宣佈 Claude 3 全系模型正式全面開放工具呼叫功能。開發者只需定義工具集,Claude 就能自動呼叫 API、提取結構化資料或執行多步驟任務,並支援流式輸出與圖片輸入。不過,目前該版本尚不支援並行工具呼叫。
以前給大模型接外部工具,很多時候像是在碰運氣,不僅容易格式出錯,還得在程式碼裡套好幾層正則去救場。
Anthropic 宣佈把 Tool use(工具呼叫)功能正式推向通用可用(GA)階段。包括 Claude 3 Opus、Sonnet 和 Haiku 在內的全系模型,現在都能在 Anthropic 官方 API、Amazon Bedrock 和 Google Cloud 的 Vertex AI 上直接調外部介面了。
開發者想要的小細節,這次給全了
這次更新解決的不只是「能接 API」這麼簡單,Anthropic 把工程層面的幾個痛點也順手修了。
首先是流式傳輸(Streaming)支援工具呼叫。做過客服或對話機器人的朋友都知道,如果等模型想完調完再整體吐字,前臺會有一段尷尬的空白期,流式響應能把這種等待感壓到最低。
其次是強制工具呼叫。你可以放手讓 Claude 自己決定用不用、用哪個工具,也可以強制要求它必須呼叫某個特定 API,這讓業務邏輯的確定性高了很多。而且工具呼叫這次直接支援圖片輸入,Claude 可以看著圖去調介面。
還有一個很有意思的細節:Opus 模型的輸出裡新增了 thinking 標籤。模型在呼叫工具前是怎麼推理思考的,會直接暴露在標籤裡,開發者除錯時終於不用去盲猜它的心路歷程了。
不過 Anthropic 也老老實實交代了一個短板:目前的 Claude 3 全系模型還不支援並行工具呼叫,一次只能執行一個工具請求。
企業客戶的落地動作也很快。做 AI 輔導平臺的 StudyFetch 把工具呼叫接進自己的教學助手後,學生正向反饋提升了 42%。做瀏覽器自動化的 Intuned 和服務金融法律機構的 Hebbia,則把價效比最高的 Claude 3 Haiku 拿來做長文件資訊提取和多步流程自動化。
為什麼重要
我們認為,這項功能全面轉正,意味著開發者終於可以把 Claude 3 當成真正的生產力 Agent 核心來用了。
對開發者和中小團隊來說,最大的實惠是 Claude 3 Haiku。Haiku 本身價格極低、速度飛快,現在加上穩定的結構化資料輸出和 API 呼叫能力,很多原本要用 GPT-4 撐著的日常自動化任務,完全可以平替過來省下大筆成本。
在行業競爭上,工具呼叫是把「聊天模型」變成「執行 Agent」的分水嶺。OpenAI 早就靠 Function Calling 建立了堅固的護城河,Anthropic 這次通過主流雲平臺(AWS 和 Google Cloud)同步上線,逼著兩邊在企業級整合上拼刺刀。
Anthropic 這次最聰明的做法是把 Opus 的推理過程用 thinking 標籤展示出來,這對工程排錯極有價值。但隱患也很明確:不支援並行工具呼叫,在面對複雜的長鏈條任務時,耗時會成倍增加。如果你的業務場景需要瞬間調取三四個不同介面彙總資料,現在用 Claude 3 體驗可能還是會稍打折扣。
來源 (1)
- anthropic.com(在新分頁開啟)原文anthropic.com