跳到正文
IFAI

行业动态

Google 曝光 AI 恶意软件 PROMPTFLUX:利用大模型实时改写自身代码

首次发布 传播指数 41

Google 威胁情报团队曝光新型恶意软件 PROMPTFLUX。该恶意软件利用类似大模型的 AI 在攻击过程中实时重写代码,通过不断变换「数字指纹」规避杀毒软件检测。目前该样本处于测试阶段,尚未在野外感染用户,关联账号已被封禁。

Google 曝光 AI 恶意软件 PROMPTFLUX:利用大模型实时改写自身代码
图:digitaltrends.com

以前杀毒软件抓病毒,逻辑其实很像按指纹抓通缉犯。只要安全库里录入了这段特征码,哪怕病毒再狡猾,露头就会被直接按死。

但如果这个病毒不仅懂变装,还能一边跑一边换掉自己的指纹呢?

Google 威胁情报组织(GTIG)最近盯上了一个叫 PROMPTFLUX 的新恶意软件。它最让人背后发凉的地方,就在于它把大模型拉进了攻击链路里,成了一个名副其实的变色龙。

边攻击边改写自己的代码

按 Google 的说法,PROMPTFLUX 底层使用了驱动类似 Google Gemini 这种生成式 AI 的同款技术。

以往的恶意软件不管多复杂,基本都是按预先写好的死脚本运行。即使加壳混淆,本质上逻辑还是固定的。

但 PROMPTFLUX 却是在发起攻击的同时,利用 AI 实时重写自身代码。

它可以一边摸索目标环境,一边在运行中学习和适应,甚至现场生成全新的攻击手法。

这样做的目的只有一个:让自己的数字特征每分每秒都在变,彻底让传统杀毒软件和安全系统的特征码识别直接抓瞎。

还没流向野外,但黑客门槛要塌了

好在 Google 发现它时,这个项目似乎还在测试阶段。

安全人员拿到的样本里有一大堆没写完的半成品碎片,目前还没有在实际野外环境中看到它感染真实用户的案例。

Google 已经把关联到该工具的相关数字资产和账号全部掐断关停。

但这并不意味着威胁已经解除。Google 特别担心这种恶意 AI 工具会流入黑市。

一旦这种自适应变形工具被打包出售,哪怕是一个技术稀烂的业余攻击者,也能随手甩出顶级的变形攻击,把防护网撕开一个口子。

为了迎战,Google 正在推出专门保护 AI 系统的新安全框架,并启动了代号叫 Big Sleep 的对抗型 AI 项目。这个反制系统的任务,就是赶在攻击型 AI 动手之前,自己先找出漏洞并打上补丁。

为什么重要

我们认为,PROMPTFLUX 的出现是一个非常清晰的分水岭,它宣告了基于特征签名的传统防御体系正加速走向淘汰。

对普通人和企业来说,杀毒软件只要按图索骥就能保平安的时代看起来要彻底结束了。未来不管你用不用 AI,你的防毒软件都必须具备基于动态行为分析甚至实时 AI 反制的能力,防御门槛和成本都会明显上升。

在行业层面,这场攻防博弈的本质已经变成了算法对算法、速度对速度的军备竞赛。防御方不可能再靠人工写补丁去追赶一个每几秒就能自我演化一次的代码怪兽,类似 Big Sleep 这样的自动化反制系统从加分项变成了必选项。

从技术手段来看,把大语言模型用作代码动态变异引擎确实很聪明,甚至可以说踩中了传统检测机制的死穴。但它的隐患也非常大,不仅会把攻防不对称拉到极端,还可能随着黑市扩散让整个互联网的安全基准线骤降。这场安全战役打到最后,拼的纯粹是谁家的 AI 更聪明、反应更快了。

来源 (1)

  1. [1]
    digitaltrends.com(在新标签页打开)原文digitaltrends.com

每日 AI 内容精选