跳到正文
IFAI

行业动态

OpenAI CTO 谈 ChatGPT 爆火:上线几小时后,所有准备彻底失效

首次发布 传播指数 35

据报道,OpenAI CTO Mira Murati 透露团队完全低估了 ChatGPT 的轰动程度,上线几小时后所有前期预案就彻底失效,不得不迅速调整运营方式。她同时警告,各家科技巨头的狂热竞速可能导致行业在安全上「逐底竞争」。

OpenAI CTO 谈 ChatGPT 爆火:上线几小时后,所有准备彻底失效
图:businessinsider.com

如果你以为 OpenAI 推出 ChatGPT 时早已算好了一切,那可真把他们想得太神了。

OpenAI 首席技术官 Mira Murati 最近在接受《财富》(Fortune)杂志采访时坦白,面对当时公众那种近乎狂热的反应,他们自己其实完全被打了个措手不及。

准备全做足了,然后几小时内作废

Murati 透露,在产品发布前,团队确实预料到它会引起不小的反响,内部也认认真真做好了应对准备。

结果产品上线仅仅几个小时后,所有的预先准备就彻底变得毫无意义了。

在庞大的访问需求面前,OpenAI 只能迅速调整姿态,彻底改变原有的运转方式,去适应技术迭代与用户增长的惊人节奏。

ChatGPT 在 2022 年 11 月向公众开放,上线仅 2 个月,用户规模就迅速飙升到了 1 亿,成了科技史上罕见的现象级产品。

军备竞赛与「比烂」的隐患

这款能迅速生成文本、几乎能聊任何话题的聊天机器人,随即在全球科技巨头之间引爆了一场 AI 军备竞赛。

各家公司为了不掉队,纷纷手忙脚乱地推出对标产品。Google 甚至直接拉响了内部「红色警报」(code red),并在短短几个月后仓促拿出了 Bard。

但随着生成式大模型迅速普及,AI 频繁产生幻觉、胡编乱造事实的问题也引发了激烈争论。

Murati 在采访中发出警告,认为各大科技公司争先恐后抢着发产品的态势,可能会引发一场在安全层面的「向下竞底」(race to the bottom on safety)。

她表示,竞争本身并不是坏事,它确实能倒逼技术向前进步。但如果所有人的核心动力都只剩下抢先一步,完全无视潜在风险和所付出的代价,那就会演变成一个巨大的灾难。

为什么重要

对于每天都在用大模型的普通人和开发者来说,这类工具确实大幅改变了工作习惯,但模型幻觉的问题直到今天依然存在。各大厂商如果因为抢地盘而把尚未打磨好的模型仓促推向市场,用户把 AI 当作信息检索或业务辅助时的踩坑成本就会成倍上升。

对整个行业而言,OpenAI 的爆发把巨头们逼进了一个以周为单位迭代的角斗场。Google 拉响警报仓促迎战就是最好的例子。原本需要反复推敲的安全审核和对齐流程,在市场份额的压力下不得不一缩再缩。

我们认为,Murati 坦承「没准备好」,其实戳破了大模型行业的一个幻象:哪怕是这门技术的发明者,在面对指数级扩散的用户网络时,同样无法预估它的真实走势。而她对「安全竞底」的担忧更指出了当前竞争的死穴。看起来,只要速度依然是衡量科技巨头成败的第一指标,哪家公司在安全把控上花时间,哪家就可能在市场声量上落后。这种机制上的隐患,并不会因为某家高管的几句口头呼吁而自动消除。

来源 (1)

  1. [1]
    businessinsider.com(在新标签页打开)原文businessinsider.com

每日 AI 内容精选