美英等 18 国签署协议：推动 AI 落实「设计即安全」

现在各家科技巨头抢着发新模型，比拼的往往是谁的响应更快、谁的代码写得更溜。但要是底座本身漏洞百出，跑得越快反而越容易翻车。

美国、英国以及德国、意大利、澳大利亚、新加坡、智利、尼日利亚等 18 个国家，联合发布了一份长达 20 页的国际指南。美国官员把这称为全球第一份关于如何防范恶意攻击者劫持 AI 的详细国际协议，核心口号只有一句话：AI 必须做到「设计即安全」（secure by design）。

别只顾着拼功能，先把大门焊死

这份指南主要针对开发和部署 AI 系统的企业。协议明确告诫厂商，网络安全绝不能当成后期打补丁的次要考量，不能光顾着秀炫酷功能、赶着推向市场或者打价格战。

美国网络安全和基础设施安全局局长 Jen Easterly 对路透社表示，这是各国第一次公开达成共识，确认安全必须在设计阶段就被放在第一位。

具体到操作层面，这份 20 页的文件给出了不少防守层面的常规操作。比如要求企业对 AI 系统的滥用行为进行全流程监控，保护训练和微调数据不被恶意篡改，严格审查上下游的软件供应商，而且模型只有在经过充分的安全测试后才能对外发布，防止核心模型被黑客直接劫持。

值得注意的是，这份签署名单里涵盖了欧美主要国家和亚太、非洲部分地区，但据 The Verge 报道，名单中明显没有中国。

避开所有硬骨头的「君子协定」

虽说名头听起来很响，但它本质上是一份不具备法律约束力的非强制协议，并没有长出监管的牙齿。

更微妙的是，这份文件精明地避开了当前 AI 领域最棘手的几块硬骨头。比如训练模型的庞大数据到底是从哪爬来的、有没有侵权，以及生成式 AI 到底在哪些场景下算合理使用，协议通通没有下定论。

目前各国在 AI 监管上的进度完全不在一个节奏上。欧洲跑在最前面，正在紧锣密鼓地起草 AI 法案，法国、德国和意大利此前也达成共识，主张对基础模型实施依靠行为准则的强制自我监管。美国这边，拜登政府在 10 月签了行政命令，但由于国会两党高度极化，真正的联邦立法迟迟推不动。

为什么重要

对开发者和企业来说，这份文件虽然没有强制罚款，但它代表了欧美官方对 AI 软件工程的定调。以后如果你做 AI 应用出海，或者想接欧美大企业的订单，供应商代码审查、防提示词注入、数据防篡改这些安全工程能力，很可能会变成跨国采购的隐形门槛。不能只把模型调聪明，工程防线的搭建成本也得算进预算里。

对行业来说，它把竞争焦点稍微从单维度的跑分和价格战，往系统工程的健壮性上拉了一把。过去一年大家都在卷上下文长度和推理成本，但如果系统能被黑客轻易越狱或投毒，企业级客户根本不敢把核心业务交出去。

不过在我们看来，这份协议走得聪明却也透着无奈。聪明在于，先把防黑客、防篡改这种大家都能同意的技术防御做成共识，阻力最小；无奈在于，它完全绕开了版权采集和用途限制这两个真正会触动科技巨头利益的死穴。一个没有惩罚机制的通用建议，能在多大程度上约束那些争分夺秒抢市场的巨头，我们认为还得打个问号。