美国联邦机构新规:必须设立首席 AI 官,每年盘点 AI 风险
美国管理和预算局发布新指南,强制所有联邦机构设立首席 AI 官并组建治理委员会。各机构每年必须提交所用 AI 清单及风险应对方案,若无法落实防歧视等安全保护措施,必须立即停用相关系统。

企业高管里多了一个首席 AI 官还不算完,现在连掌管美国行政机器的联邦各部委,也必须人手配一个了。
副总统哈里斯宣布了美国管理和预算办公室(OMB)的最新指引。全美所有联邦机构都必须设立首席 AI 官(CAIO),还要在今年夏天之前组建专门的 AI 治理委员会。没有配备的部门,必须在 60 天内把人选定下来。
谁在用、怎么用,全都得记在账上
这个首席 AI 官可不是挂个虚名。白宫建议各部门可以从首席信息官、首席数据官或首席技术官里提拔,但前提是必须拥有真正的 AI 专业能力和实权。
新规要求各机构每年都要向 OMB 提交一份 AI 清单,列出自己到底在用哪些系统、潜在风险是什么、打算怎么防范。如果有哪个系统因为涉密敏感不想公开,部门负责人还得给公众一个公开的解释理由。
有些部门动手更早。比如司法部早在 2 月就任命了 Jonathan Mayer 担任首位首席 AI 官,带着网络安全专家研究怎么在执法中用 AI。OMB 主任 Shalanda Young 还透露,联邦政府打算在夏天前招募 100 名 AI 专业人才。
更硬性的是整改底线。所有联邦机构使用的 AI 工具,必须在 12 月 1 日前达到最低安全标准,排除算法歧视。如果达不到要求又拿不出豁免理由,就必须立刻停用,最多只能申请延期一年。
白宫列了几个很具体的场景。比如在机场过安检时,旅客依然可以选择拒绝 TSA 的人脸识别,而且不能因此被耽误时间或重新排队;联邦医疗系统用 AI 辅助诊断时,必须有真人医生把关;用算法排查福利欺诈时,必须有真人复核,被误伤的公民得有申诉渠道。另外,政府自研的 AI 模型、代码和数据,只要不危及运营安全,原则上都要对公众开源。
为什么重要
我们认为,白宫这一步做得很务实,甚至比很多盲目跟风的大公司都要清醒。
对普通人来说,这套规定的核心价值是划出了安全底线。政府用 AI 查税、抓诈骗或在机场扫脸时,最怕的是算法一旦出错,老百姓申诉无门。现在白宫明确规定必须有人类监督、必须允许旅客拒绝人脸识别且不罚站,直接保障了公众的基本权利。
对企业和开发者而言,这也是一个风向标。联邦政府要采购什么样的人工智能,市场就会跟着做什么样的合规工具。尤其是公开透明和防算法偏见的要求,大概率会倒逼一众政府承包商主动提升模型的可解释性和安全性。
不过隐患也很明显。美国国会至今没有通过任何有约束力的 AI 法律,这次的约束力仅仅停留在行政分支的规章层面。而且要在 60 天内给每个部委找齐既懂前沿模型又懂官僚体制的专家,夏天还要招 100 个 AI 人才,在抢人大战如此激烈的当下,政府开出的薪水能不能留住顶尖人才,看起来依然要打一个大问号。
来源 (2)
- theverge.com(在新标签页打开)原文theverge.com
- arstechnica.com(在新标签页打开)报道arstechnica.com
话题追踪美国联邦政府 AI 治理
- 美国联邦机构新规:必须设立首席 AI 官,每年盘点 AI 风险本条
- 美国司法部任命首位首席 AI 官,普林斯顿教授履新