AI 科研倫理審查如何推進：學者呼籲跳出傳統框架建立社群協同

生物學界在 2001 年炭疽襲擊事件後，成立了專門委員會來嚴防病原體濫用；病毒學界也為「功能增益」實驗的邊界爭吵了許多年。

如今，AI 領域也走到了類似的關鍵路口。

多位來自學界、工業界和非營利機構的研究者聯合撰文，呼籲整個 AI 社群協同推進科研倫理審查機制，不能再任由各大會議和期刊各自為政、單打獨鬥。

傳統審查管不住演算法擴散

傳統的學術倫理審查，大家最熟悉的是大學和機構裡的倫理審查委員會（IRB）。

但 IRB 這套體系最初是為醫學或心理學設計的，核心任務是保護實驗裡的「人類受試者」，確保測試過程不傷害志願者。

問題在於，AI 研究所帶來的外部衝擊完全超越了受試者範疇。

一個演算法模型一旦開源或部署，被直接影響的可能不是實驗參與者，而是全社會。

比如用於執法和自動化決策的算法系統，可能帶來系統性的偏見與不公；訓練資料背後的資料標註工人，其勞動福利也長期處於審查盲區之外。

光靠傳統的 IRB 機制，根本覆蓋不到這些深遠的下游社會影響。

從填表打勾到三條落地建議

學術界並不是毫無察覺。

早在 2020 年，頂級機器學習會議 NeurIPS 就開始要求所有投稿者提交「廣泛影響陳述」，強迫學者在交論文時反思技術可能造成的潛在危害。

一些期刊也開始把倫理審查嵌入到傳統的同行評議環節中，讓評審人在研究完成後評估演算法濫用風險。

但學者們直言，這些做法目前大多還停留在摸索階段，缺乏整個學術共同體的協同標準。

為此，研究人員針對倫理審查提出了三條具體建議：

第一，需要立項去系統研究現有倫理審查流程的實際效果，不能只停留在「形式上填了表格」；

第二，鼓勵各大頂級會議嘗試不同形態的審查機制，在實踐中檢驗哪種模式最管用；

第三，必須搭建開放交流的平臺，讓 AI 社群內部以及社群之外的多元聲音一起參與進來，共同制定行業準則。

為什麼重要

我們認為，呼籲建立社群協同的倫理審查，抓住了當前 AI 治理中最尷尬的一環。

過去幾年，頂會推行的倫理宣告常常淪為學者的「套話模板」，大家為了論文能順利過審，往往用幾句不痛不癢的免責宣告應付了事，審查人也缺乏統一且清晰的裁量標準。

對普通研究者和開發者來說，如果行業沒有形成公認的規範，單方面的嚴格自律反而可能在發論文和搶首發時吃虧，這必然導致劣幣驅逐良幣。

把倫理審查從單一會議的自留地，推向跨機構、跨領域的協同試驗，看起來是當下唯一能讓自我監管落地的路徑。

但這項倡議的隱患同樣明顯：學術會議的審稿資源本就捉襟見肘，如果再增加一套複雜的倫理把關流程，如何平衡評審效率與審查深度，依然是個懸而未決的難題。