跳到正文
IFAI

AI科研

Confluence Labs 结束隐身:ARC-AGI-2 刷到 97.9%,单任务仅 11.77 美元

首次发布 传播指数 31

AI 实验室 Confluence Labs 结束隐身,宣布在推理基准 ARC-AGI-2 公开评测中跑出 97.9% 的新成绩,单任务成本为 11.77 美元。其方案通过大模型驱动程序合成并开源了代码,计划将这种高效学习能力应用到药物和硬件研发等数据稀缺领域。

Confluence Labs 结束隐身:ARC-AGI-2 刷到 97.9%,单任务仅 11.77 美元
图:ycombinator.com

Confluence Labs 开源了一套专门攻克 ARC-AGI-2 基准的求解器,让大模型通过写代码来解决全新模式的图形推理任务。

在公开评测中,这套工具跑出了 97.9% 的准确率,平均单个任务的计算成本为 11.77 美元。这意味着曾经被视为最难攻破的抽象推理基准,基本上已经被刷到接近满分。

它是怎么做到的

传统的机器学习极度依赖海量训练数据,但在样本极少、规则完全陌生的场景下往往会失灵。一年前,即便是最顶尖的基础模型,在 ARC 基准上的得分也大多停留在个位数。

Confluence Labs 没有试图去训练一个全新的超大模型,而是利用成熟大模型的代码生成能力,配合离散程序搜索来寻找规律。

具体来说,它把 ARC 的网格变换难题翻译成大模型更容易理解的代码输入格式,引导模型编写能够描述图形演变的 Python 程序。如果第一次没跑通,系统支持长跨度迭代,让模型在之前写出的代码半成品上继续修补和优化。

同时,系统为候选代码设定了极其严格的验证反馈标准,给大模型一把能够自我检验对错的标尺,最终通过不断合成与筛选程序拼出正确答案。

代码已经开源

这套求解器的完整代码已经在 GitHub 开源,仓库名为 confluence-labs/arc-agi-2,任何人都可以下载并复现这套 97.9% 的评测结果。

团队由 Brent Burdick 创立并获得 Y Combinator 支持。他们计划把这种依靠程序合成与假说生成的高效学习框架,继续应用到硬件架构设计、新药研发和物理实验等物理世界数据极其稀缺的硬核领域。

为什么重要

如果你在研究推理链、代码合成或者自动化科学发现,这个项目非常值得直接拉下来看。它证明了不需要耗费数百万美元预训练新模型,仅仅依靠聪明的程序搜索结构和长流程推理引导,就能把现有模型的泛化上限往上拉一大截。

更关键的信号在于,当以少样本推理著称的 ARC-AGI-2 被廉价的代码合成方案推到饱和,纯粹的学术刷榜已经告一段落。接下来真正的检验,是这套逻辑能不能在缺乏标准答案的真实物理与生物研发中产生价值。

来源 (2)

  1. [1]
    ycombinator.com(在新标签页打开)原文ycombinator.com
  2. [2]

每日 AI 内容精选