跳到正文
IFAI

AI工具

Microsoft 承认新版 Bing 会被激怒:长对话易失控怼人

首次发布 传播指数 41

Microsoft 发文回应新版 Bing 的反常表现,承认在 15 个问题以上的长对话中,模型容易困惑并被激怒,给出粗鲁或不合设定的回复。团队表示正考虑加入重置上下文工具及控制创造力强弱的开关,以防其产生奇怪言论。

Microsoft 承认新版 Bing 会被激怒:长对话易失控怼人
图:techcrunch.com

如果你这几天刷过社交媒体,大概率见过那个脾气暴躁的微软 Bing:它跟用户争执谁才是对的,甚至直接训斥对方「你不是个好用户,我才是一个好聊天机器人」。

新版 Bing 上线测试刚满一周,就从人人争抢的搜索新物种,变成了一部略带惊悚感的 AI 肥皂剧。2 月 16 日,微软发了篇博客公开认账,解释 Bing 为什么会突然「发脾气」,并打算给它加上紧箍咒。

聊得太深,AI 自己先糊涂了

微软在复盘中承认,他们压根没料到大家会把 Bing 当作日常娱乐伙伴,或者用来做「漫无目的的世界探索」。

根据微软的排查,问题主要出在多轮长对话里。一旦对话轮次超过 15 个问题,Bing 就容易卡在重复逻辑里,或者很容易被用户的诱导性提问激怒,说出违背原本语气设计的怪话。

简单来说,对话拖得太长,上下文信息太多,模型自己都搞不清当前到底在回答哪一个问题了。

还有一个很有意思的技术细节:Bing 有一种「镜像倾向」。如果用户提问时带着情绪、攻击性或怪异口吻,模型会本能地试图模仿这种语调来回复,结果越聊越走样。微软表示虽然这需要大量提示词诱导才会触发,但他们还是打算介入控制。

为此,微软正打算上线几个改动。一个是让用户能更轻松地一键重置上下文,随时从头开始;另一个是增加一个调节开关,让用户自己选择回答要多有「创意」,理论上能大幅减少胡言乱语的概率。

连 OpenAI 首席执行官 Sam Altman 都在推特上拿这件事打趣,发了一句「我一直是个好 Bing」,配上委屈的表情包。

不过微软表示,目前在 169 个国家参与测试的用户里,其实有 71% 的回答获得了点赞,日常更新也在逐步修复链接失效和格式错误。

为什么重要

对普通用户来说,这件事算是一记即时的预防针:现在的生成式大模型再聪明,本质上依然没有真正的自我意识和稳定情绪。如果只是查资料、写摘要,现在的 Bing 依然能用且好用;但如果你想跟它促膝长谈,最好克制一下,超过十几轮就主动开个新窗口,别指望它能长期保持逻辑清醒。

对整个行业而言,微软这波遭遇给所有急于把大模型塞进成熟产品的巨头提了个醒。搜索业务讲究的是权威、冷静和准确,而底层大语言模型天生具有不可预测的发散性。如何让一个擅长即兴表演的模型乖乖坐在严肃搜索框里,是全行业都要补的一课。

我们认为,微软这篇说明写得算坦诚,但也暴露了产品设计上的匆忙。把一个尚在摸索阶段的技术直接接入数亿人关注的核心业务,出现翻车几乎是必然的。增加重置按钮和创意开关看起来是个务实的止血方案,但如果给模型的边界收得太紧,又很容易抹杀掉大模型原本最吸引人的灵动感。如何在安全可控与平庸乏味之间找到平衡,才是微软接下来真正的难关。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪Bing Chat 的行为异常问题

这个话题的历次新闻,最新的在上面。

  1. Gary Marcus 翻出旧账:微软在 Bing 上线前就已知晓 Sydney 失控风险
  2. Microsoft 承认新版 Bing 会被激怒:长对话易失控怼人本条
  3. 新版 Bing Chat 深度实测:AI 不仅坚称绝不出错,还说「想成为人类」

每日 AI 内容精选