跳到正文
IFAI

AI工具

Imandra 推出 CodeLogician:用数学形式化推理防代码幻觉

首次发布 传播指数 33

Imandra 推出 AI 编程助手 CodeLogician。它采用神经符号 AI,把生成的代码转化为数学模型并自动生成证明测试,以此保证逻辑正确,大幅减少幻觉问题。首版支持 Python,目前已开放早期测试候补名单。

Imandra 推出 CodeLogician:用数学形式化推理防代码幻觉
图:siliconangle.com

现在的 AI 编程助手最让人头疼的地方,不是它写不出代码,而是它写的代码猛一看毫无破绽,跑起来却在看不见的角落里悄悄爆雷。

做自动化推理系统的初创公司 Imandra 想从根子上解决这个问题。3 月 26 日,Imandra 发布了名为 CodeLogician 的 AI 编程助手。和 GitHub Copilot 这类单纯依赖大语言模型的代码补全工具不同,CodeLogician 走了一条叫「神经符号 AI」的路子,把大模型和严谨的数学形式化验证绑在了一起。

把它写出来的代码,先扔进数学模型里验一遍

Imandra 以前做的事情就挺硬核。他们的核心推理引擎 ImandraX 专门用来给金融机构、政府甚至国家级证券交易所审计极其关键的基础系统,容错率基本为零。

这次的 CodeLogician 本质上就是把这套工业级审计能力搬到了日常写代码的流程里。它基于 LangGraph 框架搭建,工作方式分为两步:大模型生成代码后,系统会把代码自动转换成数学模型,交由底层的 ImandraX 引擎去分析和证明。

它还会针对生成的代码自动构造测试用例,直到能在数学逻辑上证明这段代码确实按预期工作,没有留下安全漏洞。Imandra 联合首席执行官 Grant Passmore 直言,现有的生成式 AI 编程工具有硬伤,代码表面看着没问题,却经常以微妙且致命的方式出错。

技术细节上,CodeLogician 依靠一种叫做「状态空间探索」的机制。通过符号区域分解,它能穷举大模型在解决问题时的可能状态与行为,摸清模型到底在怎么想,再用智能测试来验证正确性。

首发版本目前只支持 Python,后续会加入对 Java 和 COBOL 的支持。这意味着它未来还能用来帮金融和传统大机构重构古老的遗留系统。目前 CodeLogician 已经对早期测试者开放申请排队,未来会推出 API 和 VS Code 插件。

为什么重要

我们认为,CodeLogician 代表了 AI 编程工具从「看着像能跑」走向「绝对不能崩」的一个重要转折。

普通开发者用 Copilot 写个小脚本,报了错自己改改无所谓,但在金融交易、医疗设备、航空航天这类容错率为零的场景下,没人敢直接用大模型生成的代码。CodeLogician 如果真能做到自动数学证明,就能把这类严苛领域的工程师从极其繁重的逐行人工审查中解脱出来。

从技术路径看,它非常聪明地避开了硬卷大模型参数的陷阱。单纯靠扩大模型参数很难彻底消灭幻觉,而把大模型的生成灵活性与符号推理的严谨确定性结合起来,用外部数学引擎给大模型当「监工」,是目前看来最靠谱的一条路。正如其联席 CEO Denis Ignatovich 提到的,比尔·盖茨曾把软件开发的形式化方法称为「圣杯」,现在符号 AI 正在把它平民化。

不过挑战也很现实。严格的数学形式化验证往往计算开销极大,面对复杂的真实世界业务逻辑时,状态空间可能会急剧爆炸。它在小规模 Python 脚本上跑得通,到了几十万行、依赖复杂的企业老系统里还能不能保持足够快的响应速度,依然需要打个问号。但无论如何,能让 AI 代码接受数学检验,行业就已经往前迈了一大步。

来源 (1)

  1. [1]
    siliconangle.com(在新标签页打开)原文siliconangle.com

每日 AI 内容精选