Cosine 釋出 AI 程式設計師 Genie:SWE-bench 得分 30% 反超 Devin
初創公司 Cosine 釋出自主 AI 軟體工程師 Genie,在基準測試 SWE-Bench 上跑出 30% 得分,大幅超越 Devin 的 13.8%。它基於 OpenAI 未公開的長輸出 GPT-4o 變體微調,能模模擬人寫程式碼和修 bug。目前僅開放邀請測試。

今年 3 月 Devin 剛冒出來的時候,整個程式設計師圈子都在討論自己是不是要失業了。結果才過去五個月,來自 YC 的初創團隊 Cosine 就掏出了一個新角色,直接把跑分刷到了新高度。
Cosine 正式公佈了自主 AI 軟體工程師 Genie。在公認難度極高的行業基準測試 SWE-Bench 上,Genie 跑出了 30% 的成績。作為對比,當時名聲大噪的 Devin 只有 13.8%,而亞馬遜的 Amazon Q 和 Factory 的 Code Droid 也只有 19%。Cosine 創始人兼 CEO Alistair Pullen 在 X 上直言,這個模型不僅僅是一個分數,它從一開始就是為了像人類工程師一樣思考和工作而訓練的。
把它當真人同事來訓
大多數 AI 程式設計工具的做法,其實就是在通用大模型外面套一層腳手架,外掛幾個搜尋引擎或命令列工具。Cosine 換了一條路,他們覺得既然要造「數字同事」,就得直接模仿人類寫程式碼的全過程。
按照 Alistair Pullen 的說法,團隊花了近一年時間,從零整理真實程式設計師的日常開發資料。因為現成的資料根本不夠用,他們結合了程式碼工件、靜態分析、自我博弈以及逐步驗證,湊出了數十億 token 的訓練集。
底層模型也很特別。Genie 用的是 OpenAI 實驗訪問計劃中的一款未公開 GPT-4o 變體。這個版本擁有超長 token 輸出能力,很可能就是 OpenAI 近期小範圍測試的 64000 token 長輸出版本,相比原來 GPT-4o 的 4000 token 翻了 16 倍。正是因為底層能一口氣輸出極長的複雜程式碼,再加上持續迭代的糾錯機制,Genie 才能獨立完成端到端的任務。
在日常協作上,Genie 覆蓋了 Python、TypeScript、Rust、Go、C++ 等 15 種主流語言。它不僅能修 bug、做重構,還會通過 Slack 發訊息向你確認需求,或者在 GitHub Pull Request 裡回覆你的 review 意見。更關鍵的是,生成的程式碼全存在使用者自己的 GitHub 倉庫裡,Cosine 自己不留存副本,在安全上少留了個心眼。
目前 Genie 還沒有全面開放,只提供受限的邀請測試。
為什麼重要
我們認為,Genie 這次最大的突破不是 30% 這個數字本身,而是它證明了「長上下文輸出 + 真實工作流精調」這條路徑行得通。
對開發者來說,過去 AI 助手更像個加強版補全工具,哪怕 Devin 吹得再響,在實際工程裡還是經常跑偏或卡死。Genie 能夠處理端到端的完整功能開發,還接入了 Slack 和 PR 評審,這意味著它終於開始觸及「交代完需求就能放手」的門檻。如果測試效果屬實,獨立開發者和小團隊相當於能隨時多招一個不知疲倦的初中級幫手。
從行業競爭來看,壓力現在完全來到了 Cognition 這邊。Devin 搶跑了幾個月建立的先發優勢,在開源社群和各路垂直團隊的猛攻下正在快速縮水。更耐人尋味的是 Cosine 和 OpenAI 的關係:Cosine 拿著未公開的 GPT-4o 變體做調優,把經驗回饋給 OpenAI,這說明頭部大模型廠商也在藉由這些垂類獨角獸去摸索模型的實際工程極限。
不過隱患也同樣明顯。30% 雖然是目前最高,但反過來講,仍有 70% 的真實工程問題它解決不了。一旦在複雜業務架構裡邏輯跑偏,除錯 AI 生成的大段程式碼可能比自己重寫還要費勁。它究竟是個真正能幹活的副駕駛,還是另一個被基準跑分捧上天的演示玩具,等它真正大範圍開放公測時才能見分曉。
來源 (2)
- @AlistairPullen(在新分頁開啟)原文twitter.com
- venturebeat.com(在新分頁開啟)報導venturebeat.com