跳到正文
IFAI

AI工具

Cosine 发布 AI 程序员 Genie:SWE-bench 得分 30% 反超 Devin

首次发布 传播指数 50

初创公司 Cosine 发布自主 AI 软件工程师 Genie,在基准测试 SWE-Bench 上跑出 30% 得分,大幅超越 Devin 的 13.8%。它基于 OpenAI 未公开的长输出 GPT-4o 变体微调,能模仿真人写代码和修 bug。目前仅开放邀请测试。

Cosine 发布 AI 程序员 Genie:SWE-bench 得分 30% 反超 Devin
图:x.com

今年 3 月 Devin 刚冒出来的时候,整个程序员圈子都在讨论自己是不是要失业了。结果才过去五个月,来自 YC 的初创团队 Cosine 就掏出了一个新角色,直接把跑分刷到了新高度。

Cosine 正式公布了自主 AI 软件工程师 Genie。在公认难度极高的行业基准测试 SWE-Bench 上,Genie 跑出了 30% 的成绩。作为对比,当时名声大噪的 Devin 只有 13.8%,而亚马逊的 Amazon Q 和 Factory 的 Code Droid 也只有 19%。Cosine 创始人兼 CEO Alistair Pullen 在 X 上直言,这个模型不仅仅是一个分数,它从一开始就是为了像人类工程师一样思考和工作而训练的。

把它当真人同事来训

大多数 AI 编程工具的做法,其实就是在通用大模型外面套一层脚手架,外挂几个搜索引擎或命令行工具。Cosine 换了一条路,他们觉得既然要造「数字同事」,就得直接模仿人类写代码的全过程。

按照 Alistair Pullen 的说法,团队花了近一年时间,从零整理真实程序员的日常开发数据。因为现成的数据根本不够用,他们结合了代码工件、静态分析、自我博弈以及逐步验证,凑出了数十亿 token 的训练集。

底层模型也很特别。Genie 用的是 OpenAI 实验访问计划中的一款未公开 GPT-4o 变体。这个版本拥有超长 token 输出能力,很可能就是 OpenAI 近期小范围测试的 64000 token 长输出版本,相比原来 GPT-4o 的 4000 token 翻了 16 倍。正是因为底层能一口气输出极长的复杂代码,再加上持续迭代的纠错机制,Genie 才能独立完成端到端的任务。

在日常协作上,Genie 覆盖了 Python、TypeScript、Rust、Go、C++ 等 15 种主流语言。它不仅能修 bug、做重构,还会通过 Slack 发消息向你确认需求,或者在 GitHub Pull Request 里回复你的 review 意见。更关键的是,生成的代码全存在用户自己的 GitHub 仓库里,Cosine 自己不留存副本,在安全上少留了个心眼。

目前 Genie 还没有全面开放,只提供受限的邀请测试。

为什么重要

我们认为,Genie 这次最大的突破不是 30% 这个数字本身,而是它证明了「长上下文输出 + 真实工作流精调」这条路径行得通。

对开发者来说,过去 AI 助手更像个加强版补全工具,哪怕 Devin 吹得再响,在实际工程里还是经常跑偏或卡死。Genie 能够处理端到端的完整功能开发,还接入了 Slack 和 PR 评审,这意味着它终于开始触及「交代完需求就能放手」的门槛。如果测试效果属实,独立开发者和小团队相当于能随时多招一个不知疲倦的初中级帮手。

从行业竞争来看,压力现在完全来到了 Cognition 这边。Devin 抢跑了几个月建立的先发优势,在开源社区和各路垂直团队的猛攻下正在快速缩水。更耐人寻味的是 Cosine 和 OpenAI 的关系:Cosine 拿着未公开的 GPT-4o 变体做调优,把经验回馈给 OpenAI,这说明头部大模型厂商也在借由这些垂类独角兽去摸索模型的实际工程极限。

不过隐患也同样明显。30% 虽然是目前最高,但反过来讲,仍有 70% 的真实工程问题它解决不了。一旦在复杂业务架构里逻辑跑偏,调试 AI 生成的大段代码可能比自己重写还要费劲。它究竟是个真正能干活的副驾驶,还是另一个被基准跑分捧上天的演示玩具,等它真正大范围开放公测时才能见分晓。

来源 (2)

  1. [1]
    @AlistairPullen(在新标签页打开)原文twitter.com
  2. [2]

每日 AI 内容精选