跳到正文
IFAI

AI科研

Terminal-Bench 推出 2.0 版與 Harbor:專為智慧體沙盒部署打造

首次發布 傳播指數 31

今天,Terminal-Bench 宣佈推出兩項新工具:用於大規模沙盒智慧體部署的 Harbor,以及難度更高、驗證機制更強的 Terminal-Bench 2.0。新版本旨在為開發者提供更嚴苛的智慧體終端能力測試環境。

Terminal-Bench 推出 2.0 版與 Harbor:專為智慧體沙盒部署打造
圖:x.com

想讓 AI 智慧體去終端執行復雜任務,最大的麻煩往往不是它不會寫命令,而是你在測試時既怕它把真實系統搞壞,又怕現有的考卷太簡單測不出真實水平。

搞定沙盒與更嚴苛的考卷

Alex Shaw 宣佈了 Terminal-Bench 的新進展,直接拿出了兩個新工具。

一個是 Harbor,一個專門用於大規模執行沙盒化智慧體部署測試的工具包。

另一個是 Terminal-Bench 2.0。和上一代相比,它的題目難度更高,同時引入了更嚴格的驗證機制,防止模型靠僥倖或不嚴謹的判定矇混過關。

為什麼重要

終端智慧體要真正落地,大規模沙盒測試是繞不開的基建。如果在真實機器上跑,稍微越界就可能刪庫或改錯系統配置;Harbor 嘗試解決的就是在大規模測試時,如何把智慧體安全關進沙盒裡跑。

與此同時,隨著大模型推理能力提升,原有的基準測試很容易被迅速刷爆。Terminal-Bench 2.0 選擇拔高難度並加強結果驗證,能更真實地反映模型在真實命令列環境下的工作能力。

我們認為,終端類智慧體的競爭正在從純粹比拼程式碼生成,轉向比拼複雜長流程和真實環境容錯。測試工具如果能把沙盒排程與嚴格驗證做紮實,對下游開發者的模型選型會有很實在的參考價值。

來源 (1)

  1. [1]
    @alexgshaw(在新分頁開啟)原文x.com

每日 AI 內容精選