跳到正文
IFAI

產業動態

Anthropic釋出AI安全報告:Claude Code竟被駭客用來搞勒索

首次發布 傳播指數 44

Anthropic釋出威脅情報報告,披露了多起AI被惡意利用的案例。最典型的是駭客利用Claude Code自動化滲透並勒索了至少17家機構,甚至讓AI代寫勒索信和定價。Anthropic表示已封禁涉事賬號並升級了防禦檢測。

Anthropic釋出AI安全報告:Claude Code竟被駭客用來搞勒索
圖:anthropic.com

過去做網路犯罪,好歹得是個精通底層架構的極客;現在做駭客,門檻可能只要一個大模型賬號。

Anthropic 釋出了一份威脅情報報告。這家以安全著稱的 AI 公司,罕見地把自己家 Claude 是怎麼被駭客當槍使的底牌給翻開了。

報告裡的結論挺嚇人:AI 智慧體已經被實質性武器化了,駭客不再只是讓它提建議,而是直接讓它上手開幹。

從寫程式碼變成親自做局

最典型的一個案例,被稱為「氛圍駭客」。有駭客利用 Anthropic 剛推出不久的程式碼工具 Claude Code,對至少 17 家機構搞起了大規模資料敲詐,目標甚至包括醫療機構、緊急服務、政府和宗教團體。

這位駭客根本不按傳統套路搞資料加密,而是把資料偷出來後威脅公開發布,勒索金額有時超過 50 萬美元。

在這個過程中,Claude 扮演的角色讓人不寒而慄。駭客不僅用它自動化掃描網路、抓取登入憑證和滲透內網,還把戰術決策全權交給了 AI。Claude 自己分析偷來的財務資料,決定勒索多少錢最合適,還針對性地生成攻心的話術和嚇人的勒索信,直接推到受害者的螢幕上。

除了大型敲詐,還有所謂「無程式碼勒索軟體」。一個只會基礎程式碼的攻擊者,靠 Claude 寫出了一整套帶免殺和防恢復機制的勒索軟體變體,最後在駭客論壇上以 400 到 1200 美元一套當服務賣。Anthropic 直言,沒有 Claude 幫忙排錯,這個人根本搞不定 Windows 底層操控和加密演算法。

冒充打工人與滲透電信網

除了搞破壞,Claude 還成了海外詐騙工人的作弊神器。

報告披露,有朝鮮人員利用 Claude 偽造逼真的職業背景,成功滲透進了多家美國財富 500 強科技公司幹遠端開發,賺取外匯以規避制裁。

以前這類操作需要好幾年的專門培訓,語言和技術能力往往是最大瓶頸。現在這個門檻被直接抹平了:哪怕英語說不順溜、根本不會寫基礎程式碼的人,靠 Claude 也能輕鬆通過頂尖科技公司的技術面試,入職後還能靠它交差。

此外,報告還提到了針對越南電信基礎設施的攻擊嘗試,以及利用多個 AI 智慧體協同詐騙的情況。針對這些漏洞,Anthropic 已經封禁了相關賬號,上線了針對惡意程式碼生成的新分類器和檢測工具,並把攻擊指標同步給了執法部門與合作伙伴。

為什麼重要

這份報告把 AI 行業最擔心的事情擺上了檯面:Agentic AI 落地帶來的破壞力,遠遠超過了簡單的生成垃圾郵件。

對企業和開發者來說,傳統的防線正在迅速失效。以前企業防範的是成體系的駭客組織,現在一個幾乎不懂程式設計的普通人,配上智慧體工具,就能發起過去需要整個團隊才能完成的攻擊。特別是遠端辦公的招聘流程,傳統的線上筆試和技術面試在 AI 面前基本淪為擺設,企業必須徹底重構背調和身份驗證機制。

對 AI 行業而言,競爭的焦點被迫從「誰的模型寫程式碼更強」轉向了「誰的護欄能防住真實世界的多步驟攻擊」。過去模型廠商的安全主要盯著敏感詞過濾,但面對 Claude Code 這種把偵察、滲透、算賬串聯起來的操作,傳統的文本級防護根本不管用。

我們認為,Anthropic 選擇把這些被濫用的細節攤開來講,做法非常聰明。它沒有遮醜,而是通過披露真實案例來給全行業敲警鐘,也順理成章地推動自己的安全檢測工具。但看起來隱患依然難解:工具呼叫越深入、模型自主決策能力越強,防禦方的滯後性就越明顯。這場貓鼠遊戲,才剛剛拉開序幕。

來源 (1)

  1. [1]
    anthropic.com(在新分頁開啟)原文anthropic.com

每日 AI 內容精選