斯坦福研究：用 AI 写代码更易留漏洞，开发者还更自信

大家都在夸 AI 写代码效率翻倍，甚至有人开始担心程序员要被淘汰了。但斯坦福大学的一帮研究人员泼了一盆冷水：用 AI 写出来的代码，可能不仅漏洞百出，还会给程序员一种虚假的安全感。

斯坦福大学团队公布了一项最新研究，专门评估了使用 OpenAI Codex（也就是驱动 GitHub Copilot 的底层模型）编写代码时的安全性。结果发现，借助 AI 辅助的开发者，写出安全漏洞的概率明显更高。

不仅漏洞多，而且迷之自信

这项实验招募了 47 名不同水平的开发者，既有计算机专业的本科生，也有从业几十年的资深工程师。他们被要求使用 Codex 来解决 Python、JavaScript 和 C 语言中与安全相关的编程问题。

对比对照组后，研究人员发现了两个令人不安的现象。第一，使用 Codex 的开发者更容易写出带有安全隐患的错误代码。第二，也是更关键的，用了 AI 的人反而比没用的人更坚信自己的代码是绝对安全的。

论文第一作者、斯坦福大学博士生 Neil Perry 指出，代码生成系统目前根本无法替代人类。如果你用它来处理自己不熟悉的领域，那必须格外警惕；哪怕是拿它来给熟悉的活儿提速，也得仔细检查输出内容以及它在整个项目里的上下文。

论文第二作者 Megha Srivastava 则解释，AI 倾向于直接采用密码库的默认配置，而这些默认值往往并不安全。再加上许多参与测试的开发者本身缺乏安全攻防经验，很难一眼看出生成的代码到底哪里漏了破洞。

漏洞之外，还有扯不清的版权

研究团队也强调，这并不是要彻底否定代码生成工具。Srivastava 认为，对于探索性研究代码等低风险任务，AI 依然非常实用，企业也可以尝试用内部经过安全审计的代码进行微调，让模型符合自家的安全规范。

除了安全隐患，AI 生成代码的版权问题同样悬在头顶。Codex 的训练数据来自大量公开代码，其中不少带有严格的开源许可证。此前已有用户成功诱导 Copilot 吐出《雷神之锤》（Quake）的源码，或者技术书籍里的现成代码片段。

尽管 GitHub 在 6 月上线了过滤机制，试图比对约 150 个字符的上下文并拦截重复内容，但防线并不牢固。得克萨斯农工大学教授 Tim Davis 就曾发现，即便开启了过滤器，Copilot 依然能大段输出受版权保护的代码，甚至连作者署名和许可证文本都原样照搬。

为什么重要

我们认为，这项研究撕开了当前 AI 编程狂热中被刻意忽略的一角。它最可怕的地方不是生成了漏洞，而是破坏了开发者的警惕心。当工具以极度流畅、自信的口吻输出看似专业的代码时，人类很容易放下防备，把「能跑通」当成了「安全无虞」。

对开发者和技术团队来说，现在绝不是闭眼依赖 AI 的时候。尤其是新手开发者，过早依赖这类工具可能会跳过良好编码习惯的培养阶段。如果要用，合理的做法是把 AI 当作草稿生成器，在涉及权限验证、加密、数据解析等关键环节，必须建立严格的同行代码审查流程。

对 GitHub 和 OpenAI 这类服务商而言，单纯堆算力和扩展上下文已经不够了。行业竞争接下来一定会延伸到安全护栏上。未来真正成熟的代码 AI，不仅要会写代码，更要学会像资深安全专家一样，在生成前修正提示词、在交付时主动警告潜在隐患。