跳到正文
IFAI

產業動態

Google 曝光 AI 惡意軟體 PROMPTFLUX:利用大模型即時改寫自身程式碼

首次發布 傳播指數 41

Google 威脅情報團隊曝光新型惡意軟體 PROMPTFLUX。該惡意軟體利用類似大模型的 AI 在攻擊過程中即時重寫程式碼,通過不斷變換「數字指紋」規避防毒軟體檢測。目前該樣本處於測試階段,尚未在野外感染使用者,關聯賬號已被封禁。

Google 曝光 AI 惡意軟體 PROMPTFLUX:利用大模型即時改寫自身程式碼
圖:digitaltrends.com

以前防毒軟體抓病毒,邏輯其實很像按指紋抓通緝犯。只要安全庫裡錄入了這段特徵碼,哪怕病毒再狡猾,露頭就會被直接按死。

但如果這個病毒不僅懂變裝,還能一邊跑一邊換掉自己的指紋呢?

Google 威脅情報組織(GTIG)最近盯上了一個叫 PROMPTFLUX 的新惡意軟體。它最讓人背後發涼的地方,就在於它把大模型拉進了攻擊鏈路裡,成了一個名副其實的變色龍。

邊攻擊邊改寫自己的程式碼

按 Google 的說法,PROMPTFLUX 底層使用了驅動類似 Google Gemini 這種生成式 AI 的同款技術。

以往的惡意軟體不管多複雜,基本都是按預先寫好的死指令碼執行。即使加殼混淆,本質上邏輯還是固定的。

但 PROMPTFLUX 卻是在發起攻擊的同時,利用 AI 即時重寫自身程式碼。

它可以一邊摸索目標環境,一邊在執行中學習和適應,甚至現場生成全新的攻擊手法。

這樣做的目的只有一個:讓自己的數字特徵每分每秒都在變,徹底讓傳統防毒軟體和安全系統的特徵碼識別直接抓瞎。

還沒流向野外,但駭客門檻要塌了

好在 Google 發現它時,這個專案似乎還在測試階段。

安全人員拿到的樣本里有一大堆沒寫完的半成品碎片,目前還沒有在實際野外環境中看到它感染真實使用者的案例。

Google 已經把關聯到該工具的相關數字資產和賬號全部掐斷關停。

但這並不意味著威脅已經解除。Google 特別擔心這種惡意 AI 工具會流入黑市。

一旦這種自適應變形工具被打包出售,哪怕是一個技術稀爛的業餘攻擊者,也能隨手甩出頂級的變形攻擊,把防護網撕開一個口子。

為了迎戰,Google 正在推出專門保護 AI 系統的新安全框架,並啟動了代號叫 Big Sleep 的對抗型 AI 專案。這個反制系統的任務,就是趕在攻擊型 AI 動手之前,自己先找出漏洞並打上補丁。

為什麼重要

我們認為,PROMPTFLUX 的出現是一個非常清晰的分水嶺,它宣告了基於特徵簽名的傳統防禦體系正加速走向淘汰。

對普通人和企業來說,防毒軟體只要按圖索驥就能保平安的時代看起來要徹底結束了。未來不管你用不用 AI,你的防毒軟體都必須具備基於動態行為分析甚至即時 AI 反制的能力,防禦門檻和成本都會明顯上升。

在行業層面,這場攻防博弈的本質已經變成了演算法對演算法、速度對速度的軍備競賽。防禦方不可能再靠人工寫補丁去追趕一個每幾秒就能自我演化一次的程式碼怪獸,類似 Big Sleep 這樣的自動化反制系統從加分項變成了必選項。

從技術手段來看,把大語言模型用作程式碼動態變異引擎確實很聰明,甚至可以說踩中了傳統檢測機制的死穴。但它的隱患也非常大,不僅會把攻防不對稱拉到極端,還可能隨著黑市擴散讓整個網際網路的安全基準線驟降。這場安全戰役打到最後,拼的純粹是誰家的 AI 更聰明、反應更快了。

來源 (1)

  1. [1]
    digitaltrends.com(在新分頁開啟)原文digitaltrends.com

每日 AI 內容精選