全球 200 多位政要與專家呼籲：在 2026 年底前劃定 AI「紅線」

造核電站的時候，人類知道先弄明白怎麼防爆炸，才把反應堆點起來。但面對跑得越來越快的 AI，整個行業看起來像是在反著來。

週一，第 80 屆聯合國大會高級別周在紐約開幕前夕，200 多名前國家元首、外交官、諾貝爾獎得主和頂尖 AI 科學家聯手發了份倡議，名字叫「全球 AI 紅線倡議」。

名單裡的分量很重，包括諾獎得主 Geoffrey Hinton、OpenAI 聯合創始人 Wojciech Zaremba、Anthropic 首席資訊安全官 Jason Clinton，以及 Google DeepMind 研究科學家 Ian Goodfellow。此外還有 70 多個專業機構在上面簽了字。

他們的要求很明確：各國政府必須在 2026 年底前，就 AI 絕不能踩的紅線達成一項國際政治協議。

到底什麼事情絕對不能讓 AI 做

發起這項倡議的法國 AI 安全中心執行主任 Charbel-Raphaël Segerie 打了個比方。他說，如果各國現在還沒法在「要拿 AI 做什麼」上達成一致，至少得先說清楚「AI 絕不能做什麼」。

倡議裡列出的紅線非常具體，比如嚴禁 AI 冒充人類，嚴禁 AI 進行自我複製。

諾貝爾和平獎得主 Maria Ressa 在聯大開幕致辭裡也提到了這件事，呼籲用全球問責機制，終結科技巨頭不受約束的狀態。

目前全球並不是完全沒有規矩。歐盟的《AI 法案》已經封死了一些不可接受的用途，中美兩國也達成過共識，核武器控制權必須留在人類手裡，不能交給 AI。但放在全球層面，這種共識依然是碎片化的。

The Future Society 全球 AI 治理總監 Niki Iliadis 直言，光靠科技公司自發搞的負責任擴充套件政策根本管不住，自願承諾在執行力上完全不夠看。長遠來看，全球必須有一個真正帶牙齒的獨立機構，來劃線、盯著並執行規則。

加州大學伯克利分校教授 Stuart Russell 也把矛頭對準了行業的慣性說法。很多人覺得管得太嚴會耽誤創新，Russell 覺得這種說法純屬胡扯。

他說，你完全可以為了經濟發展去造實用的 AI，但這不代表我們必須去造一個自己根本控制不了的 AGI。想要 AI 幫人類看病，並不意味著人類就得捏著鼻子接受一個可能毀掉世界的怪物。

為什麼重要

我們認為，這份倡議最聰明的地方，在於它放棄了宏大敘事，把監管焦點從抽象的安全壓縮成了幾條最容易落地的負面清單。

對普通開發者和創業公司來說，這反而是一顆定心丸。只要紅線只卡死自我複製、冒充人類或者奪取關鍵武器控制權，絕大多數做行業應用、提效工具的人就完全不會被誤傷，不用整天擔心政策突變。

但這份倡議的隱患同樣顯而易見。2026 年底這個時間點離現在太近了，國際外交的談判節奏向來按年甚至按十年算，要讓各國在一年多時間裡簽下一份有約束力的協議，難度極大。

更現實的問題是誰來當這個帶牙齒的裁判。AI 模型的權重、程式碼和執行環境都藏在機房深處，自願承諾靠不住，跨國核查又極易踩到國家安全和商業機密的雷區。

不過，當 Hinton、OpenAI 聯合創始人和一線大廠的安全主管同時坐在這一邊時，巨頭們已經很難再拿阻礙技術進步當作推脫監管的藉口了。