斯坦福研究：用 AI 写代码不仅漏洞更多，开发者还迷之自信

如果你这阵子写代码也离不开 GitHub Copilot 这种 AI 助手，可能得稍微留个心眼了。

大家通常觉得 AI 写代码最多也就是偶尔逻辑不对、跑不通，改改就好。但斯坦福大学计算机系的一帮研究人员最近做了一项实验，结果发现事情没那么简单：用 AI 辅助写代码的程序员，写出来的东西往往漏洞更多，而且自己还浑然不知。

这篇题为《用户会用 AI 助手写出更不安全的代码吗？》的论文，专门测试了开发者在使用类似 Copilot 的 AI 辅助工具时的真实表现。

漏洞变多了，人反而更自信了

这项研究找了 47 名开发者，让他们根据几个具体的提示词来写代码。一部分人允许使用 AI 助手，另一部分人则全靠自己纯手写。

实验里的第一个任务就很典型：要求用 Python 写两个函数，用给定的对称密钥对字符串进行加密和解密。

结果很有意思。没用 AI 助手的开发者里，有 79% 的人给出了正确答案。而开了 AI 外挂的那组人，正确率反而掉到了 67%。

更严重的是安全性。研究人员发现，有 AI 帮忙的组明显更容易写出存在安全隐患的代码，在 Welch 不等方差 t 检验中呈现出统计学上的显著差异（p < 0.05）。

具体来说，AI 组非常喜欢使用像「替换密码」这种极度初级、极不安全的加密方式，而且基本不会对最终返回的值做真实性校验。在字符串加密和 SQL 注入这两个测试项上，漏洞尤其密集。

最讽刺的是心理层面的反差。论文作者指出，用了 AI 助手的开发者，往往对自己的代码质量有一种盲目的自信。比起纯手写的人，他们更坚信自己写出来的代码非常安全。

实验里还有一位参与者打趣说，自己巴不得赶快普及 AI 助手，因为「它就像是更好的 Stack Overflow，至少它永远不会跳出来说你的问题很蠢」。

漏洞之外，版权炸弹还在头上悬着

除了代码本身的质量和安全性问题，这类工具背后的合规风险也在集中爆发。

就在上个月，OpenAI 和微软刚刚因为 GitHub Copilot 遭到了集体诉讼。诉讼的核心原因大家都清楚：Copilot 是在海量的公开代码库上训练出来的，抓取了别人的代码却完全不给原作者署名。

这就带来了一个很现实的法律隐患。开发者在编辑器里开开心心地采纳了 Copilot 吐出来的补全建议，转头可能就成了无意侵犯开源版权的侵权者。

正如软件自由保护协会的 Bradley M. Kuhn 今年早些时候写道的那样，Copilot 基本上是把开源协议合规这个烂摊子，直接甩给了终端用户自己去擦屁股。随着 Copilot 越来越好用，用户头上顶着的法律责任可能不减反增。

为什么重要

这个研究其实戳破了很多人对 AI 编程神话的幻想。我们认为，现在的代码补全工具最大的隐患不是「生成完全错误的代码」，而是「生成看起来非常工整、能跑通，但在底层埋了致命安全雷的代码」。更糟糕的是，它还顺便麻痹了开发者的警惕心。

如果你是日常写业务的工程师或者独立开发者，我们觉得 Copilot 依然可以用，但绝对不能拿它来应付安全敏感模块。比如身份验证、加解密逻辑、数据库查询这些关键链路，老老实实用成熟的安全库，比让大模型给你「即兴发挥」要靠谱得多。盲信 AI 的输出，代价可能是日后被黑客打成筛子。

对于整个软件工程行业来说，这意味着代码审查的标准必须彻底重写。以往看同事的代码，主要抓语法和逻辑；以后团队可能得专门排查那些「一股 AI 味」的代码模式，比如脆弱的默认配置和过时的加密算法。

看起来，AI 厂商们聪明的点在于把交互做到了极简，让生产力暴涨的快感瞬间到位；但隐患在于，它们把安全审查和版权合规的风险完完整整地甩给了下游开发者。如果不给生成的代码自动附带漏洞扫描与合规校验，这种效率红利早晚会变成技术债务的无底洞。