跳到正文
IFAI

AI工具

Google 限制 Gemini 回答选举提问:涉及政客一律让用户去搜索

首次发布 传播指数 38

Google 证实已开始在全球限制 Gemini 回答与选举相关的提问,目前已在美印等面临大选的国家上线。用户若询问政党或候选人,AI 会直接回复「还在学习中」并引导使用 Google 搜索。面对虚假信息与监管压力,Google 宁可少答也不愿踩政治雷区。

Google 限制 Gemini 回答选举提问:涉及政客一律让用户去搜索
图:techcrunch.com

如果你指望今年遇上大选时,让 AI 帮你理清各党派的主张或者候选人履历,Google 可能会直接给你泼一盆冷水。

据 TechCrunch 报道,Google 已经证实,开始在即将举行选举的国家和地区全面限制 Gemini 回答与选举相关的问题。这项限制目前已经在全美上线,并正在印度以及未来几个月有重要选举的国家陆续推开。

打错字就能绕过的封口令

现在只要在这些地区向 Gemini 询问某个政党、候选人或政治人物,它大概率不会给出分析。

取而代之的是一句标准套话,表示自己还在学习如何回答此类问题,并建议你直接使用 Google 搜索。

不过,这种一刀切的拦截目前看起来并不严密。

TechCrunch 在测试中发现,只要在提问时故意夹杂错别字,Gemini 偶尔还是会被绕过去,老老实实给出回答。这种防线就像打地鼠,用户稍微变个花样就能钻空子。

Google 官方在一篇针对印度市场的博客中解释称,在如此重要的话题上,公司出于极度谨慎的考虑才限制了选举相关查询,并表示会持续完善防护措施。

刚被莫迪点名,又逢大选当头

Google 之所以反应这么激烈,很大程度上是被接二连三的麻烦逼出来的。

这次更新发布前几天,印度政府刚下发通知,要求大型科技公司在当地发布新 AI 模型之前必须获得政府许可。起因就是上个月有人问 Gemini 印度总理莫迪算不算得上法西斯,Gemini 回答称莫迪实施的一些政策被某些人定性为法西斯,这直接惹恼了印度官员,指责其违反了当地的 IT 法规。

再加上上个月 Gemini 在生成历史人物图像时接连翻车,逼得 Google 紧急下线了人物绘图功能。

眼看全球多国大选在即,与其在政治雷区里继续踩雷、反复向各国政府写检查,Google 显然觉得多一事不如少一事。

为什么重要

我们认为,Google 这次选择直接认怂,把烫手山芋重新扔回传统搜索,是一个非常现实但也极其被动的防守动作。

对普通用户来说,聊天机器人原本最被看好的能力就是把冗长复杂的候选人政纲总结成人话,但现在这项能力在最需要它的节点被直接关闭了。更尴尬的是,只要打几个错别字就能绕开拦截,说明这种基于关键词的拦截规则粗糙得很,根本防不住真正想用 Prompt 搞破坏的人,反而只恶心到了正常提问的普通人。

对行业而言,Google 是第一家在大选年明确对政治问题全面关闸的头部巨头。这等于公开承认,现阶段的大模型在处理政治中立、事实幻觉和各地法律红线时,根本没有拿得出手的解法。

看起来,在生成式 AI 真正解决偏见和胡说八道之前,科技巨头面对政治风险时最聪明的办法,依然是装聋作哑。

来源 (1)

  1. [1]
    techcrunch.com(在新标签页打开)原文techcrunch.com

话题追踪Google/YouTube AI 选举诚信与安全措施

这个话题的历次新闻,最新的在上面。

  1. YouTube 出台 AI 标注新规:逼真合成内容必须申报,违规或断收益
  2. Google 限制 Gemini 回答选举提问:涉及政客一律让用户去搜索本条
  3. Meta、OpenAI 等 20 家巨头签协议:联手防范选举 AI 深度伪造
  4. YouTube CEO 公布 2024 战略:押注生成式 AI,逼真合成内容将打标签
  5. Google 应对 2024 大选:将限制 Bard 和 SGE 回答选举相关查询

每日 AI 内容精选