跳到正文
IFAI

行业动态

GAO 审查报告:美国政府狂奔进 AI,却缺少统一安全规范

首次发布 传播指数 39

美国政府问责署(GAO)发布报告称,联邦各部门虽已在 200 多项场景中引入 AI,但在采购与监管政策上落后数年。由于管理和预算办公室迟迟未出台统一指引,各机构各自为政,在敏感场景下可能带来安全与隐私风险。

GAO 审查报告:美国政府狂奔进 AI,却缺少统一安全规范
图:cnn.com

一边紧盯科技巨头的一举一动,天天喊着要给算法套上笼子,另一边自家后院却早就把各种 AI 工具用得风生水起,甚至连规则都还没立齐。

美国政府问责署(GAO)刚刚发布了一份长达 96 页的重磅审查报告。这份报告调查了包括司法部、国土安全部、社会保障署在内的 23 个非军事联邦机构,结果发现:美国政府内部对 AI 的依赖正在狂飙,但底层的采购和管理规范却足足落后了数年。

一边数海鸟,一边藏起数百个神秘算法

报告统计显示,美国联邦机构目前已经落地的 AI 用例有 228 项,其中将近一半都是在过去一年里仓促上线的。如果算上正在筹划的项目,总数达到了 1241 项。

表面上看,近七成的应用场景都挺人畜无害,主要集中在科研探索和内部行政管理。比如美国国家航空航天局(NASA)用 AI 监测全球火山活动,商务部拿算法追踪森林火灾,或者用无人机照片自动清点海鸟、海豹和海象的数量。

但这套账本里还有大量不能说的秘密。在全部 1241 项现有和计划的 AI 用例中,联邦机构只公开了大约 70%,有超过 350 项应用因为所谓「高度敏感」被直接打了掩护。

有些部门嘴闭得极严。美国国务院上报了 71 项 AI 应用,但对公众开放透明的只有 10 项,剩下的 61 项全藏在水面下。国土安全部则坦承,他们正利用机器学习分析雷达和摄像头画面,自动捕捉「值得关注的边境动态」。

用量少不代表风险低。司法部和国土安全部合计虽然只报了 25 项应用,远比不上 NASA 的 390 项或者商务部的 285 项,但往往每一项都踩在刀刃上。GAO 在 9 月的一份调查中就披露过,从 2019 到 2022 年间,六个联邦执法机构完成了数千次人脸识别检索,其中 95% 的操作人员甚至没有经过正规的专业培训。

规则拖延两年,连缺多少人都不清楚

最讽刺的是技术狂奔背后的监管真空。早在 2020 年,美国国会就立法要求白宫管理和预算办公室(OMB)必须在 2021 年 9 月前出台针对 AI 采购和使用的全联邦指导方针。

结果这份关键指南硬生生拖了两年,直到上个月为了应付拜登签署的 AI 行政命令,才匆匆发出一份草案。GAO 严厉指出,顶层规范的缺位导致各部门各自为政,不仅管理做法脱节,甚至可能削弱国家安全并损害公众权益。

烂摊子还不止这一处。人事管理局(OPM)原本应该在 9 月前完成一份预测报告,算清楚联邦政府未来五年到底需要招募多少 AI 人才,但至今交了白卷。从财政部到教育部的 10 个内阁级机构,甚至连一套定期更新 AI 清单的长效机制都没有建起来。

为什么重要

这份报告扒掉了美国联邦政府在 AI 治理上的底裤。对外,白宫催促着 OpenAI、Google 们签署安全自律承诺,要求各家交出最强模型的安全测试结果;对内,自家执法部门拿着未经规范验证的商用人脸识别和位置数据跑得飞起,连最起码的操作培训和采购规范都拿不出来。这种典型的双重标准,不仅让政策的公信力大打折扣,也让普通纳税人暴露在算法偏见和误抓误捕的直接风险之下。

对企业和开发者来说,这也是一个明确的警讯。联邦政府采购一直是大模型和垂直 AI 软件极度渴望的超级金主,但在统一合规框架落地前,面向政府的 AI 采购很可能会面临更严厉的国会质询和舆论反弹。对于那些向执法和边境机构兜售算法的公司而言,光靠「内部敏感」当遮羞布的日子不会太长,数据溯源、偏见审查和隐私合规的紧箍咒,迟早会连本带利地补回来。

来源 (1)

  1. [1]
    cnn.com(在新标签页打开)原文cnn.com

每日 AI 内容精选