DeepMind 拟内测 Sparrow:能引述来源、更守规矩的 ChatGPT 对手
2023 年,DeepMind CEO Demis Hassabis 透露正考虑在年内对聊天机器人 Sparrow 开启内测,正面对标 ChatGPT。该模型主打安全与道德边界,最关键的是能标注具体信源,在测试中有 78% 的事实回答附带了证据。不过由于规则限制更严,初期表现可能会比 ChatGPT 更保守。

ChatGPT 爆火之后,大家都在等 Google 怎么接招。现在,Google 旗下的 AI 先锋 DeepMind 终于坐不住了。
DeepMind CEO Demis Hassabis 在接受《时代》周刊采访时透露,团队正考虑在今年某个时候推出自家的对话机器人 Sparrow,先面向小范围用户开启内测(private beta)。
Sparrow 其实并不是突然冒出来的新项目。去年 DeepMind 就发过一篇论文介绍过它,当时它的定位是一个能降低不安全和不当回答风险的实用对话代理。
宁可慢一点,也要把来源标清楚
既然 ChatGPT 已经抢尽了风头,DeepMind 为什么动作这么慢?
按照 Hassabis 的说法,稍微推迟推出的主要原因,是他们想确保 Sparrow 拥有 ChatGPT 缺乏的关键能力,其中最核心的一点就是给出明确的信息来源。Hassabis 直言,在这类问题上保持谨慎绝对是正确的。
用过 ChatGPT 的人都知道,它写诗、写代码都很神,但最大的硬伤是胡说八道还脸不红心不跳,甚至还会被套出恶意代码或歧视言论。
DeepMind 给 Sparrow 设下的规矩显然严格得多。在早期测试里,当被问到事实性问题时,Sparrow 给出合理解释并附带真实证据支持的比例达到了 78%。
不仅如此,Sparrow 还内置了一整套行为限制规则。遇到不适合 AI 回答的问题,它会直接选择拒绝,老老实实建议交由人类来处理。
其实就连 OpenAI 自己的掌门人 Sam Altman 之前也在 Twitter 上承认过,随着时间推移,OpenAI 技术的使用必然会带来严重问题,团队很难预测到所有可能出现的隐患。
为什么重要
我们认为,Sparrow 的这次表态,意味着 AI 对话机器人正在从「看谁更会吹牛」转向「看谁更靠谱」。
对普通用户和研究人员来说,会编故事的 AI 固然好玩,但如果拿来查资料、写报告,不敢保真的答案几乎等于废纸。能标注具体引文来源、有 78% 事实依据支撑的 Sparrow,如果真能做到,实用价值会远高于漫无边际的闲聊机器人。
对行业来说,这也是 Google 体系面对微软和 OpenAI 联手施压时的一次关键反击。微软正准备给 ChatGPT 商业化铺路,而 DeepMind 选择走学术严谨路线,把安全审查和信息溯源当成护城河。
不过,这种保守路线也有隐患。规矩定得太死,AI 很容易变得无趣,甚至出现问什么都拒绝回答的尴尬局面。看起来,DeepMind 想要在安全边界和用户体验之间找到平衡,今年这场内测会是一场大考。
来源 (1)
- techradar.com(在新标签页打开)原文techradar.com