跳到正文
IFAI

大模型

Google 暂缓 Gemini 画人功能:哈萨比斯称几周内修复上线

首次发布 传播指数 47

Google 旗下 DeepMind 创始人 Demis Hassabis 表示,此前因历史偏颇下线的 Gemini 人物画图功能将在未来几周内恢复。他解释称原本追求多样性的初衷是好的,但在历史场景应用时过于一刀切,目前正重新微调限制。

Google 暂缓 Gemini 画人功能:哈萨比斯称几周内修复上线
图:techcrunch.com

让 AI 画个美国建国先父,结果端出来的画面里全是多元族裔。上周 Google 因为 Gemini 的「魔幻历史」画像在全网引发风波,紧急关停了人物图像生成功能。

DeepMind 创始人 Demis Hassabis 在巴塞罗那的 MWC 大会上露面,给出了官方时间表:这项功能会在未来几周内重新上线。

好心办坏事的「一刀切」

面对主持人 Steven Levy 的追问,Hassabis 并没有做太深的技术拆解,而是把问题归结为一个初衷良好的功能被用得太粗暴。

按照他的说法,Google 服务全球 200 多个国家和地区,面对不同文化背景的用户。如果有人输入「牵狗散步的人」或者「医院里的护士」,系统理应给出一套具备普遍代表性、足够多元的画面。

但 Google 的工程师显然把这条规则直接一刀切套在了所有提示词上,没有做好语境区分。Hassabis 承认,当用户要求生成具体的历史人物时,模型返回的结果分布理应窄得多。

他表示 Google 非常在乎历史准确性,目前团队正在紧急修复逻辑,预计在接下来的几周内就会恢复人物图像生成。

除了画像翻车,Hassabis 还聊到了更长远的麻烦。面对威权政府拿生成式 AI 制造政治宣传这类滥用,他坦言这不是科技公司单方面能解决的,需要政府和公民社会共同制定规矩。

对于开源通用模型,他认为目前系统还算稚嫩,危害有限。但如果往后推三到五年,当模型具备自主规划能力、能在现实世界执行复杂目标时,开源模型一旦被恶意分子甚至流氓国家利用,风险就会彻底失控。

至于硬件形态,Hassabis 觉得现在手机可能不是终局。再过五年多,具备环境感知能力的智能眼镜或许会取代手机,让新一代 AI 助理真正看懂用户的物理处境,彻底告别以前那些搞噱头的语音助手。

为什么重要

这件事表面看是 Google 的公关翻车,深层暴露的其实是前沿大厂在给 AI 植入价值观时遇到的现实窘境。

从技术和产品角度看,Google 这种试图在系统底层用强制重写或隐式加权来强推多元化的做法,显得过于粗糙。它本想展示包容,结果却把严肃历史直接架空,反而在社交网络上引发了激烈的反弹。

对于普通用户和内容创作者来说,现在去用这类头部工具生成涉及历史、特定文化背景的内容,依然需要打个问号。只要底层的逻辑还是非黑即白的规则覆盖,你就随时可能遇到 AI 擅自替你做决定的尴尬情况。

我们认为,这次事件会逼着整个人工智能行业重新审视「价值观对齐」的工程实现方式。光靠大水漫灌式的安全补丁已经走不通了,模型必须学会根据用户的意图和历史语境动态调整输出自由度。接下来的竞争,拼的不只是算力和画质,更是对复杂人类常识与社会语境的精细理解能力。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪Gemini 图像生成争议

这个话题的历次新闻,最新的在上面。

  1. Google 暂缓 Gemini 画人功能:哈萨比斯称几周内修复上线本条
  2. Gemini 生图翻车遭批:Google 紧急叫停人物图像生成并道歉

每日 AI 内容精选