跳到正文
IFAI

行业动态

Sam Altman 谈 OpenAI 风波与 AGI:更担忧超级智能而非内讧

首次发布 传播指数 34

在获评《时代》周刊年度 CEO 后,OpenAI 首席执行官 Sam Altman 接受专访。他表示董事会风波促成了反思,治理必须跟上技术演进。他强调 AGI 将是人类迄今最强大的技术,比起办公室政治,他更担忧超级智能的治理以及 2024 年选举中的 AI 虚假信息风险。

Sam Altman 谈 OpenAI 风波与 AGI:更担忧超级智能而非内讧
图:therundown.ai

刚经历完一场差点把自己踢出局的董事会内斗,Sam Altman 拿到了《时代》周刊的 2023 年度 CEO。在周二举办的活动上,他和《时代》主编对谈,把那场轰动全球的宫斗剧拆开来聊,顺便给接下来的 AGI 泼了点冷水,也打了点气。

Altman 承认,11 月中旬那场突如其来的解雇对他个人来说极其痛苦。但他觉得 OpenAI 经此一役反而更团结了。按他的说法,这类震荡早晚会来,只是没想到来得这么快。

宫斗的根源是大家都慌了

很多人以为董事会逼宫是纯粹的权力斗争,但 Altman 给出了另一个视角:离超级智能越近,局里的人就越焦虑。

他说,随着技术赌注越来越大,大家承受的压力也在激增。这次震荡暴露出来的最大问题,就是 OpenAI 原本那套治理体系根本没准备好。

Altman 说得很直白,OpenAI 过去总强调 AGI 不能被少数人掌控,要走向民主化,但这次风波证明他们在治理上显然搞砸了。如果接下来不彻底整改治理结构,外界确实没有理由继续信任 OpenAI。

比造谣图更可怕的,是个性化洗脑

聊到 AGI 的未来,Altman 依旧坚信它是人类有史以来最强大的技术发明。智能的成本会大幅下降,质量大幅提升,科幻小说里描绘的世界正在变成现实。

但他花了不少篇幅警告即将到来的 2024 年大选风险。外界现在担心的假信息,往往是网络水军做一张煽动性的梗图然后全网疯传。

在 Altman 看来,这种操作在 AI 时代已经过时了。他真正害怕的是深度定制的信息投毒:如果一个 AI 读取了你在网上公开写过的所有文字,彻底摸清了你的偏好和弱点,然后在最关键的时刻给你发送一条量身定制的信息,直接撼动你的世界观,民主机制根本防不住。

即便有这些风险,他还是预测到这个十年结束时,世界会变得好得多,不过他也补了一句,技术预测往往是不准的。

为什么重要

对于每一个把业务或日常工作押在 OpenAI 上的开发者和普通人来说,这场对话透露出的信号很复杂。一方面,你不需要担心 OpenAI 会放慢脚步,Altman 重新掌舵后研发只会更激进;但另一方面,数据隐私和模型安全已经不再是抽象的伦理议题,而是紧迫的现实威胁。个性化定制的虚假信息如果真的在 2024 年大选中爆发,各国监管机构对大模型的反扑只会来得更猛烈,届时普通用户调用 API 的审核门槛和合规成本大概率会水涨船高。

对整个 AI 行业来说,Altman 这番话实际上重新定义了这场竞争的性质。这不再是一家初创公司做产品的游戏,而是巨头们顶着超级智能带来的恐惧向前狂奔。其他竞争对手比如 Google 和 Anthropic,现在面临的不仅是技术参数的追赶,还有如何在治理机制上证明自己比混乱的 OpenAI 更靠谱。

我们认为,Altman 承认我们在治理上搞砸了,这步姿态做得很聪明。他巧妙地把一场管理层内讧包装成了人类面对超级智能时的必然阵痛,既给了公众交代,又把 OpenAI 摆在了科技前沿普罗米修斯的位置。但隐患并没有真正消除,目前的董事会重组只是暂时的妥协,只要绝对控制权依然向少数核心高管倾斜,商业利益与安全使命之间的结构性矛盾就随时可能再次引爆。

来源 (1)

  1. [1]
    time.com(在新标签页打开)原文time.com

话题追踪OpenAI 领导层危机

这个话题的历次新闻,最新的在上面。

  1. OpenAI 政策研究员 Rosie 离职:AGI 准备团队解散后难以为继
  2. OpenAI 联合创始人 Brockman 结束休假归队:将聚焦重大技术挑战
  3. OpenAI 再失安全领军人:研究副总裁 Lilian Weng 宣布离职
  4. OpenAI 推进营利性转型:已就重组与加州监管部门展开接洽
  5. OpenAI 完成 66 亿美元新融资:投后估值达 1570 亿美元

每日 AI 内容精选