跳到正文
IFAI

AI科研

微软推出 Project Ire:自主逆向工程分析恶意软件,已拦截 APT 样本

首次发布 传播指数 33

微软公布自主 AI 原型 Project Ire,无需人工介入即可自主反编译未知文件、推理代码逻辑并裁定威胁。该系统结合大模型与逆向分析工具链,已首度独立定罪并拦截特定 APT 恶意样本,误报率仅 2% 至 4%,后续将整合进 Defender。

微软推出 Project Ire:自主逆向工程分析恶意软件,已拦截 APT 样本
图:microsoft.com

给一个完全未知的二进制文件做逆向工程,是网络安全领域里公认最耗时、也最需要硬功夫的脏活。

分析师得面对经过重重混淆的底层代码,一点点理清控制流,猜出对手的意图。现在,微软把这套只有顶级专家才能干的手艺,交给了 AI。

微软研究院联手 Microsoft Defender 团队和 Discovery & Quantum,公布了一个名为 Project Ire 的自律型 AI 原型。它能在没有任何背景提示的前提下,自主调用逆向工具反编译软件,并给出可审计的判定报告。

在微软内部,它成了首个独立为某款 APT 高级持续威胁恶意软件写下定罪报告的逆向工程师。注意,这里说的是包括人类和机器在内的所有人,随后 Defender 平台直接根据它的分析拦截了该样本。

自己抄工具反编译,顺便把证据链写好

大多数安全防护系统只能靠特征码或者已知规则跑自动化。面对新型恶意软件时,如果规则库没命中,依然得丢给人类专家做人工逆向。

Project Ire 的架构直接套用了大模型加外部工具的智能体思路。它底层用到了微软自家的 Project Freta 内存分析沙箱,以及开源逆向框架 Ghidra 和 angr。

拿到样本后,Ire 会先对二进制文件进行结构分诊,接着构建控制流图,作为模型推理的记忆底座。

随后,大语言模型通过 API 逐步调用反编译器,逐个审查关键函数,记录下可疑的进程注入或网络外连行为。每一步推导都会记入一条完整的证据链中。

有意思的是它还有一个验证工具。如果模型推断某个代码段存在反调试逻辑,验证器会去核对这行推理是否符合专家规则。如果证据站不住脚,结论就会被驳回,避免模型胡思乱想。

在测试公开的 Windows 驱动数据集时,Ire 取得了 98% 的精确率和 83% 的召回率,良性文件的误报率只有 2%。随后它还接手了近 4000 个积压在待审队列里的高难度样本,这些文件全部生成于大模型训练截止时间之后。

为什么重要

微软 Defender 每月要守护超过 10 亿台活跃设备。海量告警砸下来,最顶尖的安全分析师也会陷入告警疲劳和职业倦怠,这是整个安全行业多年来无解的顽疾。

我们认为,Project Ire 最聪明的地方在于它没有把大模型当作端到端的黑盒分类器,而是让它扮演调度员。通过反编译工具提取证据链,AI 的每一步推导都有迹可循,这解决了安全团队不敢轻信 AI 输出的核心痛点。

对于企业和安全团队来说,这意味着自动化分析的边界往前推进了一大截。以往只能靠人力慢慢啃的硬骨头,现在可以由智能体先梳理出大部分脉络,分析师只需要在关键节点做复核。

不过,83% 的召回率也说明它目前还不能完全替代人类。漏掉两成左右的潜伏威胁,在现实攻防战中依然是致命的。在面对专门针对逆向工具投毒的复杂样本时,智能体如何不被反制,也是微软接下来必须解决的现实问题。

来源 (1)

  1. [1]
    microsoft.com(在新标签页打开)原文microsoft.com

每日 AI 内容精选