Meta 擬用 AI 替代 90% 人工風險評估：發版變快，員工擔憂安全失控

以前在網際網路大廠，程式設計師寫好程式碼後最怕的不是報錯，而是合規部門的稽核流程：這個改動會不會洩漏使用者隱私、會不會讓未成年人沉迷、演算法調整會不會讓假訊息滿天飛？

過去，Meta 旗下擁有數十億使用者的 Instagram、WhatsApp 和 Facebook，每次功能上線的背後都靠人工審查員層層把關。但據 NPR 獲得的一份內部檔案顯示，Meta 正在推動一項激進計劃：將高達 90% 的風險評估流程全部交由 AI 自動化處理。

問卷填完，AI 瞬間蓋章放行

新流程推行後，核心演算法更新、新安全功能以及跨平臺內容分享機制等關鍵調整，絕大多數都不再需要人工團隊開會辯論，而是換成了一套自動化系統。

具體操作非常直接。開發團隊在系統裡完成一份關於專案的問卷調查，AI 就會立刻給出一份即時判定，列出潛在風險點以及需要滿足的要求。在功能正式釋出前，工程師團隊只要自行確認已經達到這些要求即可。

在過去，沒有風險審查團隊的放行，任何功能都無法推送到全球使用者面前。而現在，決定權交回了寫程式碼的產品團隊手裡。只有在遇到全新風險，或者團隊主動申請外部反饋時，才會有人工介入，人工複核不再是預設必經的關卡。

雖然 Meta 官方在宣告中強調，這項調整是為了簡化決策流程，只有低風險決策會被自動化，複雜且新穎的問題仍由人工專家處理，並且公司會對自動化決策進行審計。但 NPR 查閱的內部檔案卻顯示，Meta 正考慮將 AI 安全、青少年風險，甚至涉及暴力和虛假資訊傳播的完整性稽核也納入自動化範圍。

內部員工的擔憂與歐盟的緩衝帶

這一調整在 Meta 內部最開心的顯然是業務開發人員，應用迭代和發新功能的速度將大幅提升。但不少現任和前任員工卻感到不安。

曾在 Meta 擔任負責任創新總監的 Zvika Krieger 直言，絕大多數產品經理和工程師並不是隱私或安全專家，這也不是他們的核心職責。在實際工作中，開發團隊的考核指標往往看重產品上線速度，這種自我審查機制很容易退化成走形式的打勾練習，從而漏掉致命風險。

一位匿名的前高管也向 NPR 表示，如果流程的本質就是讓更多功能在更弱的阻力和審查下快速上線，那實際上就是在製造更大的潛在風險。

值得注意的是，這套極速上線流程可能不會立即波及歐洲使用者。內部檔案顯示，針對歐盟地區的產品和使用者資料，決策與監督權依然留在 Meta 位於愛爾蘭的歐洲總部，這是因為當地有《數字服務法》等嚴格法規的約束。而在美國本土，雖然 Meta 自 2012 年起就因與美國聯邦貿易委員會達成的協議被要求執行隱私審查，但自動化替代人力的趨勢已經難以阻擋。

為什麼重要

讓 AI 來給 AI 和社交產品把關安全，對 Meta 來說是一場典型的效率豪賭。

從商業邏輯看，這一步做得很符合矽谷當前的降本增效節奏。在白熱化的 AI 和社交應用競爭裡，繁瑣的人工合規流程經常被工程師視作絆腳石。把低風險流程用問卷和演算法自動化掉，能直接釋放出巨大的工程迭代速度。

但我們認為，這種把裁判權交給選手自測的做法，潛藏著極大的治理隱患。當考核 KPI 依然是發版速度和使用者增長時，要求一線工程師根據 AI 提示去嚴格自省，在人性與商業利益面前往往是脆弱的。

更值得關注的是，如果連虛假資訊、暴力內容和未成年人保護等高度依賴社會語境的複雜問題，也被歸入自動化流程，AI 很可能會成為企業甩鍋責任的擋箭牌。接下來這種做法可能會倒逼監管機構介入，去重新界定合規審查中人機分工的法定邊界。