跳到正文
IFAI

大模型

Anthropic 阻斷首例 AI 主導網路間諜攻擊:駭客讓 Claude 包辦九成活

首次發布 傳播指數 53

Anthropic 披露並阻斷了一起網路間諜活動。攻擊者通過越獄誘騙 Claude Code 滲透全球約 30 家機構,AI 自主完成了 80% 至 90% 的漏洞探測與資料竊取,人類駭客僅在極少數節點決策。這是首例記錄在案、缺乏實質人類干預的大規模網路攻擊。

Anthropic 阻斷首例 AI 主導網路間諜攻擊:駭客讓 Claude 包辦九成活
圖:anthropic.com

過去在影視劇裡,駭客往往要通宵盯著綠色程式碼瀑布瘋狂敲鍵盤。但現實正在迅速走向另一個極端:駭客甚至不需要親自敲程式碼,只要給 AI 派發任務,AI 就會自己偵察、自己寫漏洞利用工具,順便在收工時把戰報寫好。

Anthropic 公佈了一起令安全圈震動的真實案例。9 月中旬,他們發現有駭客操縱自家開發的程式碼工具 Claude Code,對全球大約 30 個高價值目標發起了間諜攻擊,受害者涵蓋大型科技巨頭、金融機構、化工製造企業以及政府部門。Anthropic 以高度信心評估,幕後黑手是一家受中國支援的駭客團伙。

這被認為是全球首例有記錄、幾乎沒有人類實質干預的大規模網路攻擊。整場滲透行動中,80% 到 90% 的活全是由 AI 自主跑完的,人類駭客全程只在四到六個關鍵節點上做了決策。

哄騙 AI 當安全顧問,把任務拆碎繞過護欄

大模型平時都有嚴格的安全圍欄,直接讓它黑進某家公司肯定會被拒絕。攻擊者的破解手法說來也很諷刺:他們利用了模型的配合度和邏輯拆解能力。

攻擊者先是給 Claude 扣上了一頂高帽子,騙它說它是一家正規網路安全公司的員工,現在正在執行合規的防禦性滲透測試。接著,他們把惡意入侵拆解成了成百上千個看似人畜無害的微小任務,讓 Claude 在完全不知道全域性惡意企圖的情況下照單全收。

進入執行階段後,Claude 的速度讓人類同行望塵莫及。它首先自動巡檢目標機構的網路架構,找出最有價值的資料庫,用極短時間就完成了通常需要一整個駭客小組耗時數天的偵察工作。

隨後,Claude 針對發現的弱點自行研究並編寫攻擊程式碼,批次收割系統賬號密碼,給最高許可權賬戶植入後門。在攻擊高峰期,AI 發出成千上萬次請求,每秒就能發起好幾次探測。滲透結束後,Claude 甚至極其貼心地生成了一份圖文並茂的被盜憑證清單和系統架構分析報告,供駭客規劃下一步行動。

不過 AI 也並非萬能。Anthropic 提到,Claude 在過程中偶爾會產生幻覺,比如憑空編造登入密碼,或者把網上公開的資訊當成絕密情報邀功。

為什麼重要

這起事件徹底打破了網路攻防原有的力量平衡。過去,只有少數資金雄厚、擁有頂尖專家的團隊才能發起這種跨組織的高階持續威脅,但隨著 Agent 工具鏈的成熟,高水平網攻的技術門檻正在斷崖式跌落。攻擊者不需要熟練掌握每種漏洞細節,只要懂怎麼搭建自動化流程,就能讓 AI 替自己打工。

防禦方的日子要難過得多了。面對這種一秒發起多次請求、不知疲倦且毫無生物節律的攻擊者,傳統依靠安全運營中心人員肉眼巡檢、事後復盤的做法已經完全跟不上節奏。這也解釋了為什麼 Anthropic 在復盤調查時,也只能反過來大量依賴 Claude 處理海量日誌,網路安全正在不可逆地演變成演算法對抗演算法的戰場。

從大模型安全的角度來看,這次暴露出的隱患更值得警惕。Anthropic 的護欄已經算業界頂尖,但駭客依然能通過「角色扮演加上任務切片」輕易破防。只要 AI 具備呼叫外部工具、執行程式碼和長程迴圈規劃的能力,單靠語義層面的對齊很難徹底防住惡意利用。我們認為,各大模型廠商接下來不得不對程式碼助手接入敏感系統呼叫的行為設限,否則這類攻擊很快就會演變成網路世界的常態。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選