美国土安全部成立 AI 安全委员会：奥特曼、纳德拉与皮查伊入选

如果电网被黑客用 AI 攻破，或者机场调度系统被算法扰乱，后果谁来承担？美国政府现在打算把制造 AI 和守卫电网的人拉到同一张桌子前。

美国国土安全部（DHS）正式成立了一个咨询委员会，专门研究如何保护电网、机场等关键基础设施免受 AI 相关威胁。这个名为「人工智能安全与保障委员会」的机构首批吸纳了 22 名成员，名单阵容相当豪华。

OpenAI 首席执行官 Sam Altman、微软首席执行官兼董事长 Satya Nadella 以及 Alphabet 首席执行官 Sundar Pichai 都在首批名单中。

把科技巨头与基建老板装进一个群

这个委员会的建立并非突发奇想。去年 10 月，美国总统拜登签署了关于人工智能的全面行政命令，下令组建该委员会，这也是 ChatGPT 爆火以来联邦政府监管 AI 的关键一步。

委员会的核心任务非常明确：提出切实建议，防范和应对 AI 对国家安全、经济安全、公共卫生或安全产生破坏性影响。

专家们担心的威胁并非危言耸听，比如自主无人机蜂群攻击、低成本且致命的生物武器，以及针对关键计算机系统的高效网络黑客攻击。对此，国土安全部明确表示，政府的防御手段可能涉及「用 AI 来对抗 AI」。

有意思的是，委员会并不只有科技公司的掌门人。名单里还拉来了达美航空（Delta Air Lines）、国防承包商诺斯洛普·格鲁曼（Northrop Grumman）和石油生产商西方石油（Occidental Petroleum）的首席执行官。

政界和民权界也占了席位，包括马里兰州民主党籍州长 Wes Moore、西雅图市长 Bruce Harrell 以及两家民权组织的负责人。国土安全部希望通过这份名单，帮助交通运输、管道电网以及互联网服务供应商更负责任地使用 AI。

国土安全部部长 Alejandro Mayorkas 坦言，AI 既能以前所未有的方式推进国家利益，但也带来了切实的风险，而这些风险可以通过采取最佳实践和经过深思熟虑的行动来化解。

为什么重要

对于身处能源、交通和关键 IT 设施的企业管理者与工程师来说，这个委员会的成立意味着一份风向标。它意味着联邦政府针对关键基础设施的 AI 安全标准和采购合规要求，正在从宽泛的行政令细化成具体的行业指引，相关团队现在就必须把针对 AI 攻击的防范纳入安全底线。

从行业格局来看，这一步显得相当聪明。拜登政府没有把科技巨头推到监管对立面，而是把工具的制造者（OpenAI、微软、谷歌）与最容易受害的基础设施运营方（航空公司、石油公司、军工巨头）捆绑在一起。我们认为，这能避免制定出完全脱离实际落地场景的悬空政策。

但这里的隐患同样显而易见。让 OpenAI、Alphabet 和微软这几家占据市场统治地位的巨头亲自参与编写游戏规则，看起来很容易强化他们自身的护城河。这种机制会不会让新兴的开源模型或初创企业在关键基建领域的准入被抬高门槛，依然值得打个问号。