Meta 拟用 AI 替代 90% 人工风险评估：发版变快，员工担忧安全失控

以前在互联网大厂，程序员写好代码后最怕的不是报错，而是合规部门的审核流程：这个改动会不会泄漏用户隐私、会不会让未成年人沉迷、算法调整会不会让假消息满天飞？

过去，Meta 旗下拥有数十亿用户的 Instagram、WhatsApp 和 Facebook，每次功能上线的背后都靠人工审查员层层把关。但据 NPR 获得的一份内部文件显示，Meta 正在推动一项激进计划：将高达 90% 的风险评估流程全部交由 AI 自动化处理。

问卷填完，AI 瞬间盖章放行

新流程推行后，核心算法更新、新安全功能以及跨平台内容分享机制等关键调整，绝大多数都不再需要人工团队开会辩论，而是换成了一套自动化系统。

具体操作非常直接。开发团队在系统里完成一份关于项目的问卷调查，AI 就会立刻给出一份即时判定，列出潜在风险点以及需要满足的要求。在功能正式发布前，工程师团队只要自行确认已经达到这些要求即可。

在过去，没有风险审查团队的放行，任何功能都无法推送到全球用户面前。而现在，决定权交回了写代码的产品团队手里。只有在遇到全新风险，或者团队主动申请外部反馈时，才会有人工介入，人工复核不再是默认必经的关卡。

虽然 Meta 官方在声明中强调，这项调整是为了简化决策流程，只有低风险决策会被自动化，复杂且新颖的问题仍由人工专家处理，并且公司会对自动化决策进行审计。但 NPR 查阅的内部文件却显示，Meta 正考虑将 AI 安全、青少年风险，甚至涉及暴力和虚假信息传播的完整性审核也纳入自动化范围。

内部员工的担忧与欧盟的缓冲带

这一调整在 Meta 内部最开心的显然是业务开发人员，应用迭代和发新功能的速度将大幅提升。但不少现任和前任员工却感到不安。

曾在 Meta 担任负责任创新总监的 Zvika Krieger 直言，绝大多数产品经理和工程师并不是隐私或安全专家，这也不是他们的核心职责。在实际工作中，开发团队的考核指标往往看重产品上线速度，这种自我审查机制很容易退化成走形式的打勾练习，从而漏掉致命风险。

一位匿名的前高管也向 NPR 表示，如果流程的本质就是让更多功能在更弱的阻力和审查下快速上线，那实际上就是在制造更大的潜在风险。

值得注意的是，这套极速上线流程可能不会立即波及欧洲用户。内部文件显示，针对欧盟地区的产品和用户数据，决策与监督权依然留在 Meta 位于爱尔兰的欧洲总部，这是因为当地有《数字服务法》等严格法规的约束。而在美国本土，虽然 Meta 自 2012 年起就因与美国联邦贸易委员会达成的协议被要求执行隐私审查，但自动化替代人力的趋势已经难以阻挡。

为什么重要

让 AI 来给 AI 和社交产品把关安全，对 Meta 来说是一场典型的效率豪赌。

从商业逻辑看，这一步做得很符合硅谷当前的降本增效节奏。在白热化的 AI 和社交应用竞争里，繁琐的人工合规流程经常被工程师视作绊脚石。把低风险流程用问卷和算法自动化掉，能直接释放出巨大的工程迭代速度。

但我们认为，这种把裁判权交给选手自测的做法，潜藏着极大的治理隐患。当考核 KPI 依然是发版速度和用户增长时，要求一线工程师根据 AI 提示去严格自省，在人性与商业利益面前往往是脆弱的。

更值得关注的是，如果连虚假信息、暴力内容和未成年人保护等高度依赖社会语境的复杂问题，也被归入自动化流程，AI 很可能会成为企业甩锅责任的挡箭牌。接下来这种做法可能会倒逼监管机构介入，去重新界定合规审查中人机分工的法定边界。