跳到正文
IFAI

AI工具

苹果在 iOS 18.3 测试版叫停新闻通知摘要:避免 AI 胡乱总结酿大祸

首次发布 传播指数 36

苹果在 iOS 18.3 开发者测试版中暂停了新闻与娱乐类 App 的通知摘要。此前该功能频频翻车,甚至在 BBC 报道中误报嫌犯自杀。苹果后续将重新启用该功能,并会用斜体字加以区分,同时提示摘要「可能出错」,用户也能在锁屏直接关闭单款 App 的摘要。

苹果在 iOS 18.3 测试版叫停新闻通知摘要:避免 AI 胡乱总结酿大祸
图:theverge.com

本想偷懒让 AI 帮忙提炼锁屏通知,结果差点看了一场假新闻。

上个月,BBC 报道美国联合健康保险公司高管枪击案时,苹果的通知摘要功能直接犯了严重幻觉,把嫌犯 Luigi Mangione 的新闻总结成了嫌疑人开枪自杀。严肃新闻被 AI 随口篡改成乌龙,各家媒体的意见显然小不了。

苹果踩下刹车,新闻摘要暂时下线

据 MacRumors 和 9to5Mac 报道,在周四发布的 iOS 18.3 开发者测试版中,苹果悄悄按下了暂停键。这项由 Apple Intelligence 驱动的通知摘要功能,暂时不再对新闻和娱乐类应用生效。

9to5Mac 表示,苹果并没有彻底放弃这项功能,而是打算在未来的软件更新中重新启用,目前工程团队正在继续优化算法。

除了暂时下线新闻摘要,苹果还在新测试版里加了一道防火墙:系统会明确提示,通知摘要功能目前仍处于测试阶段,并且可能包含错误。

锁屏改用斜体字,关掉也更容易了

为了不让用户把 AI 瞎编的话当成媒体原话,苹果在视觉上也做了区分。新版系统中,通知摘要将统一采用斜体字显示,方便大家一眼看出这是 AI 总结的内容,还是应用发来的原始推送。

如果你实在信不过 AI,关掉它的步骤也变简单了。

在 iOS 18.3 中,你不需要再钻进深层设置菜单。只要在锁屏或通知中心对着单条通知左滑,点击选项,就能直接选择关闭该应用的摘要功能,让它恢复成最原本的推送状态。

The Verge 随后向苹果求证这些改动,但暂时还没收到官方回复。

为什么重要

我们认为,苹果这次紧急刹车,暴露了端侧大模型在处理严肃信息时的致命软肋。

通知摘要本来是 Apple Intelligence 少数几个能让普通人天天感知到的功能,但它最大的问题是把高容错的生活聊天和零容错的严肃新闻放在了同一个天平上。聊天记录少总结一句半句无所谓,可新闻标题少看一个词,意思可能完全相反,更别提直接把在逃或被捕篡改成自杀了。

苹果这次的应对很务实,新闻和娱乐类应用原本就是标题党和复杂语境的高发区,小模型很难完全理解被动句或引用语,先摘出去是最稳妥的选择。增加斜体字和快捷关闭开关,也算是把知情权和控制权还给用户。

不过看起来,用斜体字和免责声明来兜底,依然治标不治本。如果底层的摘要能力无法杜绝事实性颠倒,用户只要被误导一次,对整套 Apple Intelligence 的信任就会打折。对于普通用户来说,只要你平时很在意突发新闻的时效和准确度,现阶段最明智的做法,可能就是等更新后直接把新闻应用的摘要开关关掉。

来源 (1)

  1. [1]
    theverge.com(在新标签页打开)原文theverge.com

话题追踪Apple Intelligence 通知摘要争议

这个话题的历次新闻,最新的在上面。

  1. 苹果在 iOS 18.3 测试版叫停新闻通知摘要:避免 AI 胡乱总结酿大祸本条
  2. Apple 回应通知摘要频频翻车:将更明确标示 AI 改写的文本
  3. 苹果 AI 通知摘要翻车记:不仅没省事,还成了搞笑段子生成器

每日 AI 内容精选