欧盟拟出手监管生成式 AI：要求公开模型内幕，违者最高罚 6% 营收

过去一年里，从 Stable Diffusion 画图到 ChatGPT 写文，生成式 AI 第一次走进了普通人的生活。

大学生拿它偷偷交论文，设计师看着它心里发慌，连酒吧里的陌生人都在聊用换脸软件做头像。但狂欢背后一直有个公开的秘密：开发这些底层大模型的科技公司，对其训练数据和运行机制几乎完全保密。

现在，放任自流的日子可能要结束了。欧盟正准备在其酝酿已久的《人工智能法案》中加入硬性条款，专门针对 ChatGPT、Stable Diffusion 和 LaMDA 这类生成式工具立规矩。

拆开黑盒，违规最高罚全球年收入 6%

在欧盟的监管术语里，这类模型被称为「通用人工智能系统」。它们能用来做很多事，既能写客服问答，也能用来规模化造谣；能用来做贺卡插画，也能用来制造非自愿的虚假色情内容。

参与法案谈判的欧洲议会议员 Dragoș Tudorache 透露，OpenAI、Google 和 DeepMind 等底层模型开发者，未来很可能必须对外公开更多模型构建与训练的细节，不能再把核心机制完全藏在黑盒里。

这部法案预计将在今年下半年通过。一旦落地，任何想在欧盟市场提供或使用 AI 产品的公司都必须达标，否则可能面临最高相当于全球年营业额 6% 的巨额罚款。

与此同时，美国联邦贸易委员会等监管机构也开始酝酿自家的约束规则，AI 监管正在从松散的伦理倡议转向不可逾越的法律红线。

两种毒药与监管的死角

给生成式 AI 套上缰绳并不容易。布鲁金斯学会的 AI 治理研究员 Alex Engler 指出，这类工具目前面临着两类性质完全不同的风险，需要截然不同的治理方案。

第一类是内容的直接危害，比如仇恨言论和侵犯隐私的伪造内容。第二类则是系统性偏见，比如当企业把大模型直接接入招聘简历筛选或法律文档初审时，模型自带的偏见会带来不公。

透明度确实能帮到下游基于这些模型做二次开发的开发者，让他们知道底层的弱点在哪里。但在阻止有害内容传播上，光有透明度根本不够用。

Alex Engler 建议，模型研发方必须在系统内部设置生成限制、持续监控输出，并且直接封禁违规滥用的账号。但他同时也承认，面对那些铁了心要作恶的人，再严格的安全防护机制也未必能百分之百防住。

为什么重要

我们认为，欧盟这一刀砍向通用大模型，直接改变了生成式 AI 的商业游戏规则。

过去大厂的打法是先把半成品模型推向市场跑马圈地，安全和版权问题留到以后再说。一旦透明度要求和高达 6% 年营收的罚款落地，这种粗放式的迭代方式就难以为继了。

对普通开发者和创业团队来说，这其实是件好事。以前大家都在大厂的黑盒 API 上搭积木，模型究竟偷吃了哪些有版权的数据、有没有埋藏隐蔽偏见，谁心里都没底。底层透明化之后，下游创业者承担连带法律风险的概率会大大降低。

但这里的隐患也显而易见。如果欧洲的标准定得过于严苛，甚至要求公布核心架构细节，很可能会逼得科技巨头推迟在欧洲上线最新功能，或者让合规成本高到只有巨头才能承受，反而压制了中小型开源力量的生存空间。

看起来，AI 行业从野蛮生长走向合规化不可避免，而欧洲正在争夺这根缰绳的定义权。