跳到正文
IFAI

行业动态

Apple 回应通知摘要频频翻车:将更明确标示 AI 改写的文本

首次发布 传播指数 40

针对 BBC 投诉新闻标题遭乱改的问题,Apple 承诺将在未来几周更新系统,更明确地标示 Apple Intelligence 生成的通知摘要。此前该功能频频翻车,甚至误将枪击案嫌疑人描述为自杀。用户目前可在「设置 > 通知 > 摘要通知」中直接关闭该功能。

Apple 回应通知摘要频频翻车:将更明确标示 AI 改写的文本
图:theverge.com

如果你的手机弹出一则知名媒体的突发新闻,告诉你某位体育巨星公开出柜,或者一起轰动全美的大案嫌疑人已经自杀,你大概会立刻倒吸一口凉气。

但这可能根本不是记者写的,而是苹果的 AI 帮倒忙瞎编出来的。

12 月才在英国上线测试的 Apple Intelligence 通知摘要,最近因为接二连三的荒唐翻车,惹怒了英国广播公司 BBC。

乱改头条的通知摘要

BBC 最近直接向苹果投诉,指责其通知摘要功能篡改新闻原意,甚至产生了完全相反的结论。

最离谱的一起发生在全美关注的 UnitedHealthcare 高管枪击案中。AI 在重写通知时,错误地传达出 BBC 报道嫌疑人 Luigi Mangione 已经开枪自杀的信息。

随后荒唐事件继续发生。在 PDC 世界飞镖锦标赛还没开赛之前,AI 摘要就提前给一位选手安上了冠军头衔;更荒唐的是,它还捏造了一条通知,宣称网球名将纳达尔公开宣布自己是同性恋。

BBC 在报道中直言,苹果的这些 AI 摘要根本没有反映原文,在某些情况下甚至与原文完全相反。

除了新闻类应用,私人短信也没能幸免。之前就有用户吐槽,朋友发来一句抱怨「那次徒步差点要了我的命」,结果被 Apple Intelligence 煞有其事地总结成了「企图自杀」。

苹果承诺澄清,先把开关给你

面对 BBC 的发难,苹果在一份声明中表示,将在未来几周的软件更新中进一步澄清,明确标出屏幕上显示的文本是由 Apple Intelligence 提供的摘要。

不过,苹果也强调这个功能并非强制。用户如果觉得烦心,随时可以去关掉它。

具体操作路径是打开 iPhone 的「设置」,进入「通知」,找到「摘要通知」,你可以在那里彻底关掉它,或者单独关闭特定应用的摘要功能。

为什么重要

我们认为,苹果目前的补救策略多少有点治标不治本。把「这是 AI 写的」标志做得更明显,本质上只是一张免责贴纸,并不能解决模型为了压缩字数而胡乱拼接因果的问题。

对于普通用户来说,现在的 Apple Intelligence 摘要更像一个不可靠的传话筒。如果只是拿来看外卖进度或者快递提醒,它确实能省点扫视屏幕的时间;但对于新闻、工作邮件以及涉及重要事实的聊天记录,我们建议立刻把它关掉,现在去信赖它显然代价太高。

对媒体和内容行业而言,这件事敲响了警钟。新闻机构花了大把成本核实事实、字斟句酌写下的标题,到了操作系统层面,却被一个未经充分验证的小模型直接肢解、歪曲,最后背锅的还是媒体的公信力。

这也暴露了苹果在端侧 AI 落地时的急躁心态。在没有解决好幻觉和语意压缩保真度之前,就贸然把 AI 摘要推到最显眼的锁屏通知上,看起来确实有些操之过急了。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

话题追踪Apple Intelligence 通知摘要争议

这个话题的历次新闻,最新的在上面。

  1. 苹果在 iOS 18.3 测试版叫停新闻通知摘要:避免 AI 胡乱总结酿大祸
  2. Apple 回应通知摘要频频翻车:将更明确标示 AI 改写的文本本条
  3. 苹果 AI 通知摘要翻车记:不仅没省事,还成了搞笑段子生成器

每日 AI 内容精选