歐盟擬出手監管生成式 AI：要求公開模型內幕，違者最高罰 6% 營收

過去一年裡，從 Stable Diffusion 畫圖到 ChatGPT 寫文，生成式 AI 第一次走進了普通人的生活。

大學生拿它偷偷交論文，設計師看著它心裡發慌，連酒吧裡的陌生人都在聊用換臉軟體做頭像。但狂歡背後一直有個公開的秘密：開發這些底層大模型的科技公司，對其訓練資料和執行機制幾乎完全保密。

現在，放任自流的日子可能要結束了。歐盟正準備在其醞釀已久的《人工智慧法案》中加入硬性條款，專門針對 ChatGPT、Stable Diffusion 和 LaMDA 這類生成式工具立規矩。

拆開黑盒，違規最高罰全球年收入 6%

在歐盟的監管術語裡，這類模型被稱為「通用人工智慧系統」。它們能用來做很多事，既能寫客服問答，也能用來規模化造謠；能用來做賀卡插畫，也能用來製造非自願的虛假色情內容。

參與法案談判的歐洲議會議員 Dragoș Tudorache 透露，OpenAI、Google 和 DeepMind 等底層模型開發者，未來很可能必須對外公開更多模型構建與訓練的細節，不能再把核心機制完全藏在黑盒裡。

這部法案預計將在今年下半年通過。一旦落地，任何想在歐盟市場提供或使用 AI 產品的公司都必須達標，否則可能面臨最高相當於全球年營業額 6% 的鉅額罰款。

與此同時，美國聯邦貿易委員會等監管機構也開始醞釀自家的約束規則，AI 監管正在從鬆散的倫理倡議轉向不可逾越的法律紅線。

兩種毒藥與監管的死角

給生成式 AI 套上韁繩並不容易。布魯金斯學會的 AI 治理研究員 Alex Engler 指出，這類工具目前面臨著兩類性質完全不同的風險，需要截然不同的治理方案。

第一類是內容的直接危害，比如仇恨言論和侵犯隱私的偽造內容。第二類則是系統性偏見，比如當企業把大模型直接接入招聘簡歷篩選或法律文件初審時，模型自帶的偏見會帶來不公。

透明度確實能幫到下游基於這些模型做二次開發的開發者，讓他們知道底層的弱點在哪裡。但在阻止有害內容傳播上，光有透明度根本不夠用。

Alex Engler 建議，模型研發方必須在系統內部設定生成限制、持續監控輸出，並且直接封禁違規濫用的賬號。但他同時也承認，面對那些鐵了心要作惡的人，再嚴格的安全防護機制也未必能百分之百防住。

為什麼重要

我們認為，歐盟這一刀砍向通用大模型，直接改變了生成式 AI 的商業遊戲規則。

過去大廠的打法是先把半成品模型推向市場跑馬圈地，安全和版權問題留到以後再說。一旦透明度要求和高達 6% 年營收的罰款落地，這種粗放式的迭代方式就難以為繼了。

對普通開發者和創業團隊來說，這其實是件好事。以前大家都在大廠的黑盒 API 上搭積木，模型究竟偷吃了哪些有版權的資料、有沒有埋藏隱蔽偏見，誰心裡都沒底。底層透明化之後，下游創業者承擔連帶法律風險的機率會大大降低。

但這裡的隱患也顯而易見。如果歐洲的標準定得過於嚴苛，甚至要求公佈核心架構細節，很可能會逼得科技巨頭推遲在歐洲上線最新功能，或者讓合規成本高到只有巨頭才能承受，反而壓制了中小型開源力量的生存空間。

看起來，AI 行業從野蠻生長走向合規化不可避免，而歐洲正在爭奪這根韁繩的定義權。