跳到正文
IFAI

產業動態

Apple 回應通知摘要頻頻翻車:將更明確標示 AI 改寫的文本

首次發布 傳播指數 40

針對 BBC 投訴新聞標題遭亂改的問題,Apple 承諾將在未來幾週更新系統,更明確地標示 Apple Intelligence 生成的通知摘要。此前該功能頻頻翻車,甚至誤將槍擊案嫌疑人描述為自殺。使用者目前可在「設定 > 通知 > 摘要通知」中直接關閉該功能。

Apple 回應通知摘要頻頻翻車:將更明確標示 AI 改寫的文本
圖:theverge.com

如果你的手機彈出一則知名媒體的突發新聞,告訴你某位體育巨星公開出櫃,或者一起轟動全美的大案嫌疑人已經自殺,你大概會立刻倒吸一口涼氣。

但這可能根本不是記者寫的,而是蘋果的 AI 幫倒忙瞎編出來的。

12 月才在英國上線測試的 Apple Intelligence 通知摘要,最近因為接二連三的荒唐翻車,惹怒了英國廣播公司 BBC。

亂改頭條的通知摘要

BBC 最近直接向蘋果投訴,指責其通知摘要功能篡改新聞原意,甚至產生了完全相反的結論。

最離譜的一起發生在全美關注的 UnitedHealthcare 高管槍擊案中。AI 在重寫通知時,錯誤地傳達出 BBC 報道嫌疑人 Luigi Mangione 已經開槍自殺的資訊。

隨後荒唐事件繼續發生。在 PDC 世界飛鏢錦標賽還沒開賽之前,AI 摘要就提前給一位選手安上了冠軍頭銜;更荒唐的是,它還捏造了一條通知,宣稱網球名將納達爾公開宣佈自己是同性戀。

BBC 在報道中直言,蘋果的這些 AI 摘要根本沒有反映原文,在某些情況下甚至與原文完全相反。

除了新聞類應用,私人簡訊也沒能倖免。之前就有使用者吐槽,朋友發來一句抱怨「那次徒步差點要了我的命」,結果被 Apple Intelligence 煞有其事地總結成了「企圖自殺」。

蘋果承諾澄清,先把開關給你

面對 BBC 的發難,蘋果在一份宣告中表示,將在未來幾週的軟體更新中進一步澄清,明確標出螢幕上顯示的文本是由 Apple Intelligence 提供的摘要。

不過,蘋果也強調這個功能並非強制。使用者如果覺得煩心,隨時可以去關掉它。

具體操作路徑是開啟 iPhone 的「設定」,進入「通知」,找到「摘要通知」,你可以在那裡徹底關掉它,或者單獨關閉特定應用的摘要功能。

為什麼重要

我們認為,蘋果目前的補救策略多少有點治標不治本。把「這是 AI 寫的」標誌做得更明顯,本質上只是一張免責貼紙,並不能解決模型為了壓縮字數而胡亂拼接因果的問題。

對於普通使用者來說,現在的 Apple Intelligence 摘要更像一個不可靠的傳話筒。如果只是拿來看外賣進度或者快遞提醒,它確實能省點掃視螢幕的時間;但對於新聞、工作郵件以及涉及重要事實的聊天記錄,我們建議立刻把它關掉,現在去信賴它顯然代價太高。

對媒體和內容行業而言,這件事敲響了警鐘。新聞機構花了大把成本核實事實、字斟句酌寫下的標題,到了作業系統層面,卻被一個未經充分驗證的小模型直接肢解、歪曲,最後背鍋的還是媒體的公信力。

這也暴露了蘋果在端側 AI 落地時的急躁心態。在沒有解決好幻覺和語意壓縮保真度之前,就貿然把 AI 摘要推到最顯眼的鎖屏通知上,看起來確實有些操之過急了。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤Apple Intelligence 通知摘要爭議

這個話題的歷次新聞,最新的在上面。

  1. 蘋果在 iOS 18.3 測試版叫停新聞通知摘要:避免 AI 胡亂總結釀大禍
  2. Apple 回應通知摘要頻頻翻車:將更明確標示 AI 改寫的文本本則
  3. 蘋果 AI 通知摘要翻車記:不僅沒省事,還成了搞笑段子生成器

每日 AI 內容精選