跳到正文
IFAI

AI科研

OpenAI 推出 SWE-Lancer:拿 100 萬美元真實接單任務考 AI

首次發布 傳播指數 35

OpenAI 推出 SWE-Lancer 評測基準,彙總了 Upwork 上總值 100 萬美元的 1400 多個真實外包工程任務。涵蓋 50 美元修 Bug 到 3.2 萬美元功能開發。評測顯示前沿大模型仍搞不定多數任務,團隊已開源評估套件。

OpenAI 推出 SWE-Lancer:拿 100 萬美元真實接單任務考 AI
圖:openai.com

如果把最強的大模型扔進外包平臺接單,它到底能賺到多少錢?OpenAI 測了一下,答案是:絕大多數單子它根本搞不定。

OpenAI 推出了名為 SWE-Lancer 的全新基準測試,直接從外包平臺 Upwork 扒下了 1400 多個真實的自由職業軟體工程任務,掛牌懸賞總額達到 100 萬美元。

拿真實美金來給 AI 算工錢

這些任務的跨度很大,既有 50 美元的小 Bug 修復,也有標價高達 3.2 萬美元的完整功能實現。除了自己寫程式碼,測試裡還包含了管理任務,考驗模型能不能在幾個技術實現方案裡選出最優解。

評判標準非常嚴苛。獨立工程任務由經驗豐富的工程師通過三輪驗證的端到端測試進行判定,管理決策則直接拿來跟當時真實僱傭的工程經理做對比。結果顯示,目前最頂尖的大模型依然無法解決其中的絕大多數任務。為了便於社群研究,OpenAI 開源了統一的 Docker 映象和名為 SWE-Lancer Diamond 的公開測試集,並在後續更新中去掉了網路連線依賴,以確保測試環境穩定。

為什麼重要

我們認為,SWE-Lancer 最聰明的地方,在於把抽象的模型跑分換算成了「真金白銀」。

過去業內看各種程式碼榜單,分刷得再高,開發者也很難知道它落到真實工作裡到底值多少錢。現在直接用外包市場的真實報酬來衡量,不僅給鼓吹 AI 馬上取代程式設計師的言論潑了一盆及時的冷水,也把模型評測從做題家思維拉進了真正的經濟賬本里。對想要引入 AI 輔助開發的團隊來說,這能提供一個遠比跑分更接地氣的參考標準。

來源 (1)

  1. [1]
    openai.com(在新分頁開啟)原文openai.com

每日 AI 內容精選