AI 科研伦理审查如何推进：学者呼吁跳出传统框架建立社区协同

生物学界在 2001 年炭疽袭击事件后，成立了专门委员会来严防病原体滥用；病毒学界也为「功能增益」实验的边界争吵了许多年。

如今，AI 领域也走到了类似的关键路口。

多位来自学界、工业界和非营利机构的研究者联合撰文，呼吁整个 AI 社区协同推进科研伦理审查机制，不能再任由各大会议和期刊各自为政、单打独斗。

传统审查管不住算法扩散

传统的学术伦理审查，大家最熟悉的是大学和机构里的伦理审查委员会（IRB）。

但 IRB 这套体系最初是为医学或心理学设计的，核心任务是保护实验里的「人类受试者」，确保测试过程不伤害志愿者。

问题在于，AI 研究所带来的外部冲击完全超越了受试者范畴。

一个算法模型一旦开源或部署，被直接影响的可能不是实验参与者，而是全社会。

比如用于执法和自动化决策的算法系统，可能带来系统性的偏见与不公；训练数据背后的数据标注工人，其劳动福利也长期处于审查盲区之外。

光靠传统的 IRB 机制，根本覆盖不到这些深远的下游社会影响。

从填表打勾到三条落地建议

学术界并不是毫无察觉。

早在 2020 年，顶级机器学习会议 NeurIPS 就开始要求所有投稿者提交「广泛影响陈述」，强迫学者在交论文时反思技术可能造成的潜在危害。

一些期刊也开始把伦理审查嵌入到传统的同行评议环节中，让评审人在研究完成后评估算法滥用风险。

但学者们直言，这些做法目前大多还停留在摸索阶段，缺乏整个学术共同体的协同标准。

为此，研究人员针对伦理审查提出了三条具体建议：

第一，需要立项去系统研究现有伦理审查流程的实际效果，不能只停留在「形式上填了表格」；

第二，鼓励各大顶级会议尝试不同形态的审查机制，在实践中检验哪种模式最管用；

第三，必须搭建开放交流的平台，让 AI 社区内部以及社区之外的多元声音一起参与进来，共同制定行业准则。

为什么重要

我们认为，呼吁建立社区协同的伦理审查，抓住了当前 AI 治理中最尴尬的一环。

过去几年，顶会推行的伦理声明常常沦为学者的「套话模板」，大家为了论文能顺利过审，往往用几句不痛不痒的免责声明应付了事，审查人也缺乏统一且清晰的裁量标准。

对普通研究者和开发者来说，如果行业没有形成公认的规范，单方面的严格自律反而可能在发论文和抢首发时吃亏，这必然导致劣币驱逐良币。

把伦理审查从单一会议的自留地，推向跨机构、跨领域的协同试验，看起来是当下唯一能让自我监管落地的路径。

但这项倡议的隐患同样明显：学术会议的审稿资源本就捉襟见肘，如果再增加一套复杂的伦理把关流程，如何平衡评审效率与审查深度，依然是个悬而未决的难题。