跳到正文
IFAI

大模型

安全机构实测:别用 AI 生成密码,Claude 生成 50 个有 18 个完全相同

首次发布 传播指数 48

安全机构 Irregular 发现,ChatGPT、Claude 和 Gemini 生成的密码高度可预测。Claude 生成 50 个密码竟然出现 18 个完全相同,且各模型均偏爱特定字符。这是因为大模型生成的是概率模式而非真随机,调整 Prompt 也没用。

安全机构实测:别用 AI 生成密码,Claude 生成 50 个有 18 个完全相同
图:techspot.com

如果你为了省事,习惯随手在聊天框里让 AI 帮你生成一个「高强度密码」,现在可能得赶紧去把密码改了。

安全公司 Irregular 最近对 ChatGPT、Claude 和 Gemini 做了一次测试。结果让人大跌眼镜:这些 AI 模型生成的密码看起来有大小写字母、数字和特殊符号,五脏俱全,但实际上极其容易预测,甚至在暴力破解面前脆得像纸一样。

偏爱 G7 和 vQ 的 AI 们

研究人员让各大模型生成包含字母、数字和符号的 6 位安全密码。按常理来说,即使只有 6 位,随机生成的密码也不该轻易撞车,但 AI 的表现完全翻了车。

在 Claude Opus 4.6 生成的 50 个密码中,竟然只有 30 个是不同的。剩下的 20 个全都是重复项,其中有 18 个甚至是完全一模一样的同一串字符。

更离谱的是模型的偏好规律。Claude 吐出来的密码几乎全以大写字母「G」开头,紧接着第二位几乎总是数字「7」。不仅如此,字符「L」「9」「m」「2」「$」和「#」几乎每次都会登场,而字母表里的大多数字母从头到尾都没露过面。

ChatGPT 也没好到哪去,它生成的密码开头几乎清一色是小写字母「v」,并且将近一半的密码第二位都是大写字母「Q」。Gemini 则钟情于字母「k」,第二位几乎总是「#」「P」或者「9」。

测试还发现,模型生成的密码里竟然没有任何一个包含重复字符。这听起来好像挺均匀,但在概率学上,完全不出现重复字符反而暴露了它根本不是随机的。

想要真随机,AI 根本学不会

为什么会这样?Irregular 指出,这触及了当下大语言模型的工作底线。

AI 的本质是根据海量数据学习统计规律,预测下一个最合理的 token。换句话说,大模型被训练出来的本能,就是生成在统计学上看起来合情合理的内容,而不是真正的随机噪声。

但密码学的核心逻辑恰恰相反:密码的安全性来自信息熵,也就是不可预测性。只要生成逻辑存在模式,再多的大写字母和特殊符号也救不回安全性。

人类自己就不擅长创造随机,比如喜欢用数字「3」代替字母「E」,而 AI 显然完美继承甚至放大了这种毛病。Irregular 明确警告,不管是换更复杂的提示词,还是把模型的采样温度调高,都无法解决这个问题。

为什么重要

我们认为,这项研究最直接的价值,就是彻底戳破了大家对 AI「全能工具」的盲目信任。普通用户千万别再图方便让聊天机器人生成密码,老老实实用系统自带的钥匙串或专业的密码管理器;而对于开发者来说,隐患其实更大。

现在越来越多的开发者开始使用 AI 编码助手,如果直接让 AI 在脚手架里生成临时密码、密钥或盐值,这些凭据很可能会带着相同的固定前缀上线。黑客甚至不需要复杂的算力,只要专门针对大模型的字符偏好定制字典,破解成本就会成倍下降。

大模型在这件事上的表现,聪明之处在于它能精准模仿出安全密码的外表,但这恰恰也是最危险的地方。它看起来太像那么回事了,以至于连懂技术的工程师都容易放松警惕。

看起来,只要大模型的架构依然建立在统计概率和合理性预测上,真随机数这件事它就永远做不好。术业有专攻,随机生成和密码学的工作,还是得交给那些朴素但经过数学验证的传统算法去办。

来源 (1)

  1. [1]
    techspot.com(在新标签页打开)原文techspot.com

每日 AI 内容精选