Altman 谈 AI 风险：担心的不是杀手机器人，而是「微妙的社会失调」

大家聊起人工智能的风险，脑子里总会浮现科幻片里的末日场景：拿着重武器的终结者走上街头，或是超级系统突然有了意识决定消灭人类。

但作为这轮 AI 浪潮最前线的代表，OpenAI 首席执行官 Sam Altman 关心的完全不是这一套。

Altman 通过视频连线参加了在迪拜举行的世界政府峰会（World Governments Summit）。在和阿联酋人工智能国务部长 Omar al-Olama 对谈时，他直言那些让他夜不能寐的事情，根本不是什么「街头乱窜的杀手机器人」。

恶意的敌人好防，无意的失调才要命

在 Altman 看来，真正可怕的是他口中「非常微妙的社会失调」（very subtle societal misalignments）。

说白了，没有人怀着恶意，系统也没有想要毁灭世界，但当这些 AI 工具被直接放到社会中运转时，各种环环相扣的微妙偏差凑在一起，事情就莫名其妙地走向了彻底失控。

因为 AI 的进化速度大概率会超过全球的预期，Altman 再次呼吁国际社会建立一个类似国际原子能机构（IAEA）的组织，专门负责对前沿 AI 展开统一监督。

不过他也特别划了条界线：OpenAI 这些商业公司自己不应该坐在监管的「驾驶座」上。他认为目前全世界开各种峰会、发各种政策白纸是健康的讨论阶段，但在未来几年内，全球必须拿出一份真正具备共识的行动方案。

被问到眼下技术到底走到了哪一步时，Altman 打了个比方：现在的 AI 就好比当年刚造出来的黑白屏手机。大家得给技术一点时间，不过再过几年它就会比现在好得多，十年后更是会非常惊人。

一个有趣的细节是，他提到之前学校里很多老师担心学生用 AI 代写论文，现在反而开始把 AI 当作面向未来的关键技术来接受。

会场内外的温差与现实纠葛

Altman 这场对话气氛融洽，但现实背景其实复杂得多。

这场峰会的举办地阿联酋言论管控严格，直接限制了准确信息的流通，而这类高质量信息恰恰是 ChatGPT 这类机器学习系统赖以回答的基础。当地由国家安全顾问管辖的 AI 公司 G42 拥有领先的阿拉伯语模型，但此前曾因关联间谍软件以及涉嫌替中国政府秘密收集美国人基因数据的指控而饱受争议。

虽然 G42 已经表态会因美方关切切断与中国供应商的联系，但在峰会现场，主持对话的部长和 Altman 对这些尖锐的地缘政治话题都只字未提。

与此同时，OpenAI 在本土的日子也算不上安稳。一边是微软数以十亿计的巨额投资，以及与美联社达成的新闻资料库授权协议；另一边《纽约时报》已经直接把 OpenAI 和微软告上法庭，指控两家公司未经许可擅自抓取报道来训练聊天机器人。

为什么重要

Altman 这一番表态看起来像是在公关避重就轻，但从实际落地的角度看，我们认为他点出了一个关键事实：杀手模型是伪命题，算法对社会机制的温水煮青蛙才是真麻烦。

对普通用户和机构来说，这提醒大家不要把精力放在防范那些不切实际的科幻灾难上。真正的风险就藏在日常使用的误差累积里，比如被污染的数据慢慢侵蚀决策、AI 幻觉在未经核实的情况下进入公共系统。

而在监管层面，Altman 主动说「AI 公司不该坐在驾驶座上」，看起来像是一种谦逊，但背后其实也是一种聪明的卸责策略。既呼吁全球建立像 IAEA 这样高大上的机构来托底，又把烫手的具体监管责任推给各国政府。

问题在于，AI 技术的演进可不会等人。如果全球监管还停留在各自开会、写文件的阶段，等黑白屏手机真正变成全能终端时，那种所谓的「社会失调」恐怕早就已经在现实里扎下根了。