跳到正文
IFAI

AI工具

蘋果在 iOS 18.3 測試版叫停新聞通知摘要:避免 AI 胡亂總結釀大禍

首次發布 傳播指數 36

蘋果在 iOS 18.3 開發者測試版中暫停了新聞與娛樂類 App 的通知摘要。此前該功能頻頻翻車,甚至在 BBC 報道中誤報嫌犯自殺。蘋果後續將重新啟用該功能,並會用斜體字加以區分,同時提示摘要「可能出錯」,使用者也能在鎖屏直接關閉單款 App 的摘要。

蘋果在 iOS 18.3 測試版叫停新聞通知摘要:避免 AI 胡亂總結釀大禍
圖:theverge.com

本想偷懶讓 AI 幫忙提煉鎖屏通知,結果差點看了一場假新聞。

上個月,BBC 報道美國聯合健康保險公司高管槍擊案時,蘋果的通知摘要功能直接犯了嚴重幻覺,把嫌犯 Luigi Mangione 的新聞總結成了嫌疑人開槍自殺。嚴肅新聞被 AI 隨口篡改成烏龍,各家媒體的意見顯然小不了。

蘋果踩下剎車,新聞摘要暫時下線

據 MacRumors 和 9to5Mac 報道,在週四釋出的 iOS 18.3 開發者測試版中,蘋果悄悄按下了暫停鍵。這項由 Apple Intelligence 驅動的通知摘要功能,暫時不再對新聞和娛樂類應用生效。

9to5Mac 表示,蘋果並沒有徹底放棄這項功能,而是打算在未來的軟體更新中重新啟用,目前工程團隊正在繼續最佳化演算法。

除了暫時下線新聞摘要,蘋果還在新測試版里加了一道防火牆:系統會明確提示,通知摘要功能目前仍處於測試階段,並且可能包含錯誤。

鎖屏改用斜體字,關掉也更容易了

為了不讓使用者把 AI 瞎編的話當成媒體原話,蘋果在視覺上也做了區分。新版系統中,通知摘要將統一採用斜體字顯示,方便大家一眼看出這是 AI 總結的內容,還是應用發來的原始推送。

如果你實在信不過 AI,關掉它的步驟也變簡單了。

在 iOS 18.3 中,你不需要再鑽進深層設定選單。只要在鎖屏或通知中心對著單條通知左滑,點選選項,就能直接選擇關閉該應用的摘要功能,讓它恢復成最原本的推送狀態。

The Verge 隨後向蘋果求證這些改動,但暫時還沒收到官方回覆。

為什麼重要

我們認為,蘋果這次緊急剎車,暴露了端側大模型在處理嚴肅資訊時的致命軟肋。

通知摘要本來是 Apple Intelligence 少數幾個能讓普通人天天感知到的功能,但它最大的問題是把高容錯的生活聊天和零容錯的嚴肅新聞放在了同一個天平上。聊天記錄少總結一句半句無所謂,可新聞標題少看一個詞,意思可能完全相反,更別提直接把在逃或被捕篡改成自殺了。

蘋果這次的應對很務實,新聞和娛樂類應用原本就是標題黨和複雜語境的高發區,小模型很難完全理解被動句或引用語,先摘出去是最穩妥的選擇。增加斜體字和快捷關閉開關,也算是把知情權和控制權還給使用者。

不過看起來,用斜體字和免責宣告來兜底,依然治標不治本。如果底層的摘要能力無法杜絕事實性顛倒,使用者只要被誤導一次,對整套 Apple Intelligence 的信任就會打折。對於普通使用者來說,只要你平時很在意突發新聞的時效和準確度,現階段最明智的做法,可能就是等更新後直接把新聞應用的摘要開關關掉。

來源 (1)

  1. [1]
    theverge.com(在新分頁開啟)原文theverge.com

話題追蹤Apple Intelligence 通知摘要爭議

這個話題的歷次新聞,最新的在上面。

  1. 蘋果在 iOS 18.3 測試版叫停新聞通知摘要:避免 AI 胡亂總結釀大禍本則
  2. Apple 回應通知摘要頻頻翻車:將更明確標示 AI 改寫的文本
  3. 蘋果 AI 通知摘要翻車記:不僅沒省事,還成了搞笑段子生成器

每日 AI 內容精選