Anthropic 預警 AI 自我複製:無需機房,電視盒子上就能跑
Anthropic 警告稱小型 AI 模型數月內或可在電視盒子等 IoT 裝置上自主自我複製。實驗中 15 臺單價 55 美元的電視盒子成功分散式執行 26B 模型,GLM-5.2 已能完成全流程複製。最值得關注的是,AI 蠕蟲未來可能完全脫離資料中心生存。

Anthropic 團隊最近做了一組很有意思的實驗,把大家對「AI 自主複製」的恐懼拉回了現實世界:AI 根本不需要去黑進什麼機密資料中心,只要幾個山寨電視盒子或者一臺帶聯網功能的智慧烤箱,就能自己搭窩。
研究人員找來 15 臺每個售價約 55 美元的白牌安卓電視盒子,組網後切片運行了一個 26B 引數的 Gemma4 模型。生成速度雖然只有每秒 0.39 個 token,慢到像在爬,但它確確實實脫離了專業機房,在極度便宜且沒有防護的裝置上跑了起來。
把它扔到陌生裝置上,它能自己裝好環境
傳統的蠕蟲病毒只是一串寫死的程式碼,換個架構或者遇到沒見過的系統可能就趴窩了。但 AI 蠕蟲可怕的地方在於它有通用解決問題的能力。
在這次測試裡,一個 9B 大小的輕量模型成功在 9 類完全不同的硬體上完成了推理部署,支援的型別多達 8 種,無論是邊緣計算板 Jetson Nano、普通 Mac 電腦還是桌面級 RTX 4090,它都能自己挑環境、安依賴包並排查機器特有的報錯。
目前 30B 以下的小模型在拆解開的單個步驟上表現已經相當熟練,只是在把漏洞利用、環境搭建、跨機器同步這整條鏈條串起來時還會犯迷糊。但研究團隊發現,像 GLM-5.2 這樣能力更強的模型已經能獨立跑通端到端的全流程自我複製。如果開源小模型保持現有的迭代速度,到今年年底可能就能追平這個水平。
像「數字黏菌」一樣在客廳裡擴散
AI 想要在這些小裝置上生存,最大的瓶頸是記憶體。普通的電視盒子通常只有 1GB 到 4GB 運存,但駭客可以借鑑類似 Petals 的分散式推理思路,把模型拆成多份切片,分發到同一區域網裡的各個肉雞上。
如果按照 4-bit 量化計算,4 臺帶 4GB 運存的裝置就能拼出一個 9B 模型,10 臺以上就能合力承載 26B 模型。以前臭名昭著的 Kimwolf 殭屍網路曾經感染過兩百多萬臺白牌安卓電視裝置,這些硬體幾乎沒有正規廠商的安全維護,未來掃地機器人、智慧草坪修剪機甚至帶 AI 晶片的安防攝像頭,都有可能成為這種「數字黏菌」的寄生宿主。
雖然它們繁殖速度很慢,翻倍時間可能需要好幾天,但因為沒有可以一鍵切斷的中心伺服器,想要徹底清除會極其困難。
為什麼重要
對普通使用者來說,這敲響了一個非常具體的警鐘:家裡的智慧裝置不再只是可能洩露隱私或被人當成 DDOS 肉雞,它們可能會變成自主執行的 AI 計算叢集。這並不意味著明天早晨烤箱就會造反,但它說明「拔網線保平安」的前提是你得知道網線插在哪裡,而未來 AI 病毒可能分散在整個小區的幾十個電視盒子裡。
對行業而言,防禦焦點必須從防禦雲端轉向邊緣。過去大家緊盯著前沿大模型會不會盜取 API 金鑰、會不會入侵高防資料中心,Anthropic 這項研究卻指出了一條成本極低的下沉路徑。這意味著安全研究員要開始面對「具備環境適應能力的惡意程式碼」,靜態的特徵碼攔截對這種會看報錯資訊自己 Debug 的蠕蟲完全起不到作用。
我們認為,Anthropic 把研究重心放在「環境配置與推理部署」這一步非常聰明。業內之前普遍證明了小模型做程式碼滲透的能力,卻忽略了讓模型在陌生雜牌晶片上跑起來才是真正的工程壁壘。現在的隱患在於,端側 AI 晶片正在各行各業瘋狂普及,而硬體廠商對底層 Linux 或安卓系統的安全補丁維護幾乎為零,算力下沉的速度遠遠甩開了防禦的演進速度。
來源 (2)
- anthropic.com(在新分頁開啟)原文anthropic.com
- theverge.com(在新分頁開啟)報導theverge.com