美英等 18 國簽署協議：推動 AI 落實「設計即安全」

現在各家科技巨頭搶著發新模型，比拼的往往是誰的響應更快、誰的程式碼寫得更溜。但要是底座本身漏洞百出，跑得越快反而越容易翻車。

美國、英國以及德國、義大利、澳大利亞、新加坡、智利、奈及利亞等 18 個國家，聯合釋出了一份長達 20 頁的國際指南。美國官員把這稱為全球第一份關於如何防範惡意攻擊者劫持 AI 的詳細國際協議，核心口號只有一句話：AI 必須做到「設計即安全」（secure by design）。

別隻顧著拼功能，先把大門焊死

這份指南主要針對開發和部署 AI 系統的企業。協議明確告誡廠商，網路安全絕不能當成後期打補丁的次要考量，不能光顧著秀炫酷功能、趕著推向市場或者打價格戰。

美國網路安全和基礎設施安全域性局長 Jen Easterly 對路透社表示，這是各國第一次公開達成共識，確認安全必須在設計階段就被放在第一位。

具體到操作層面，這份 20 頁的檔案給出了不少防守層面的常規操作。比如要求企業對 AI 系統的濫用行為進行全流程監控，保護訓練和微調資料不被惡意篡改，嚴格審查上下游的軟體供應商，而且模型只有在經過充分的安全測試後才能對外發布，防止核心模型被駭客直接劫持。

值得注意的是，這份簽署名單裡涵蓋了歐美主要國家和亞太、非洲部分地區，但據 The Verge 報道，名單中明顯沒有中國。

避開所有硬骨頭的「君子協定」

雖說名頭聽起來很響，但它本質上是一份不具備法律約束力的非強制協議，並沒有長出監管的牙齒。

更微妙的是，這份檔案精明地避開了當前 AI 領域最棘手的幾塊硬骨頭。比如訓練模型的龐大數據到底是從哪爬來的、有沒有侵權，以及生成式 AI 到底在哪些場景下算合理使用，協議通通沒有下定論。

目前各國在 AI 監管上的進度完全不在一個節奏上。歐洲跑在最前面，正在緊鑼密鼓地起草 AI 法案，法國、德國和義大利此前也達成共識，主張對基礎模型實施依靠行為準則的強制自我監管。美國這邊，拜登政府在 10 月簽了行政命令，但由於國會兩黨高度極化，真正的聯邦立法遲遲推不動。

為什麼重要

對開發者和企業來說，這份檔案雖然沒有強制罰款，但它代表了歐美官方對 AI 軟體工程的定調。以後如果你做 AI 應用出海，或者想接歐美大企業的訂單，供應商程式碼審查、防提示詞注入、資料防篡改這些安全工程能力，很可能會變成跨國採購的隱形門檻。不能只把模型調聰明，工程防線的搭建成本也得算進預算裡。

對行業來說，它把競爭焦點稍微從單維度的跑分和價格戰，往系統工程的健壯性上拉了一把。過去一年大家都在捲上下文長度和推理成本，但如果系統能被駭客輕易越獄或投毒，企業級客戶根本不敢把核心業務交出去。

不過在我們看來，這份協議走得聰明卻也透著無奈。聰明在於，先把防駭客、防篡改這種大家都能同意的技術防禦做成共識，阻力最小；無奈在於，它完全繞開了版權採集和用途限制這兩個真正會觸動科技巨頭利益的死穴。一個沒有懲罰機制的通用建議，能在多大程度上約束那些爭分奪秒搶市場的巨頭，我們認為還得打個問號。