跳到正文
IFAI

大模型

安全機構實測:別用 AI 生成密碼,Claude 生成 50 個有 18 個完全相同

首次發布 傳播指數 48

安全機構 Irregular 發現,ChatGPT、Claude 和 Gemini 生成的密碼高度可預測。Claude 生成 50 個密碼竟然出現 18 個完全相同,且各模型均偏愛特定字元。這是因為大模型生成的是機率模式而非真隨機,調整 Prompt 也沒用。

安全機構實測:別用 AI 生成密碼,Claude 生成 50 個有 18 個完全相同
圖:techspot.com

如果你為了省事,習慣隨手在聊天框裡讓 AI 幫你生成一個「高強度密碼」,現在可能得趕緊去把密碼改了。

安全公司 Irregular 最近對 ChatGPT、Claude 和 Gemini 做了一次測試。結果讓人大跌眼鏡:這些 AI 模型生成的密碼看起來有大小寫字母、數字和特殊符號,五臟俱全,但實際上極其容易預測,甚至在暴力破解面前脆得像紙一樣。

偏愛 G7 和 vQ 的 AI 們

研究人員讓各大模型生成包含字母、數字和符號的 6 位安全密碼。按常理來說,即使只有 6 位,隨機生成的密碼也不該輕易撞車,但 AI 的表現完全翻了車。

在 Claude Opus 4.6 生成的 50 個密碼中,竟然只有 30 個是不同的。剩下的 20 個全都是重複項,其中有 18 個甚至是完全一模一樣的同一串字元。

更離譜的是模型的偏好規律。Claude 吐出來的密碼幾乎全以大寫字母「G」開頭,緊接著第二位幾乎總是數字「7」。不僅如此,字元「L」「9」「m」「2」「$」和「#」幾乎每次都會登場,而字母表裡的大多數字母從頭到尾都沒露過面。

ChatGPT 也沒好到哪去,它生成的密碼開頭幾乎清一色是小寫字母「v」,並且將近一半的密碼第二位都是大寫字母「Q」。Gemini 則鍾情於字母「k」,第二位幾乎總是「#」「P」或者「9」。

測試還發現,模型生成的密碼裡竟然沒有任何一個包含重複字元。這聽起來好像挺均勻,但在機率學上,完全不出現重複字元反而暴露了它根本不是隨機的。

想要真隨機,AI 根本學不會

為什麼會這樣?Irregular 指出,這觸及了當下大語言模型的工作底線。

AI 的本質是根據海量資料學習統計規律,預測下一個最合理的 token。換句話說,大模型被訓練出來的本能,就是生成在統計學上看起來合情合理的內容,而不是真正的隨機噪聲。

但密碼學的核心邏輯恰恰相反:密碼的安全性來自資訊熵,也就是不可預測性。只要生成邏輯存在模式,再多的大寫字母和特殊符號也救不回安全性。

人類自己就不擅長創造隨機,比如喜歡用數字「3」代替字母「E」,而 AI 顯然完美繼承甚至放大了這種毛病。Irregular 明確警告,不管是換更復雜的提示詞,還是把模型的取樣溫度調高,都無法解決這個問題。

為什麼重要

我們認為,這項研究最直接的價值,就是徹底戳破了大家對 AI「全能工具」的盲目信任。普通使用者千萬別再圖方便讓聊天機器人生成密碼,老老實實用系統自帶的鑰匙串或專業的密碼管理器;而對於開發者來說,隱患其實更大。

現在越來越多的開發者開始使用 AI 編碼助手,如果直接讓 AI 在腳手架裡生成臨時密碼、金鑰或鹽值,這些憑據很可能會帶著相同的固定字首上線。駭客甚至不需要複雜的算力,只要專門針對大模型的字元偏好定製字典,破解成本就會成倍下降。

大模型在這件事上的表現,聰明之處在於它能精準模仿出安全密碼的外表,但這恰恰也是最危險的地方。它看起來太像那麼回事了,以至於連懂技術的工程師都容易放鬆警惕。

看起來,只要大模型的架構依然建立在統計機率和合理性預測上,真隨機數這件事它就永遠做不好。術業有專攻,隨機生成和密碼學的工作,還是得交給那些樸素但經過數學驗證的傳統演算法去辦。

來源 (1)

  1. [1]
    techspot.com(在新分頁開啟)原文techspot.com

每日 AI 內容精選