Apple、AIによる通知要約の表示を改善へ　BBCの誤報受け

ロック画面に届いた大手メディアの速報通知を見て、有名アスリートがカミングアウトした、あるいは世間を騒がせる凶悪事件の容疑者が自殺したと知ったら、誰でも驚くはずです。

しかし、それは記者が書いた原稿ではなく、アップルのAIが勝手にでっち上げた文章でした。

12月に英国でベータ版として提供が始まったApple Intelligenceの通知要約機能について、BBCからの相次ぐ抗議を受け、アップルは表示方法を見直すと表明しました。

ニュースの見出しを勝手に改変

事の発端は、米医療保険大手ユナイテッドヘルスケアのCEO射殺事件を巡る報道でした。

BBCによると、容疑者のルイージ・マンジョーネに関する通知をAIが要約した際、容疑者が自らを撃って自殺したとBBCが報じたかのように文面が書き換えられていました。

問題はこれだけに留まりません。PDC世界ダーツ選手権の開幕前に勝者を決めつける要約を生成したり、テニスのラファエル・ナダル選手が同性愛者であることを公表したとする虚偽の通知を表示したりしました。

BBCは、アップルによるAI要約は元の報道を反映しておらず、場合によっては完全に矛盾していると批判しています。

個人間のメッセージでも同様のトラブルが起きており、「あの登山で死にかけた」という日常会話を、AIが「自殺未遂」と要約してしまった事例も報告されています。

アップルの対応と通知の止め方

アップルはBBCへの声明で、今後数週間以内に配信するソフトウェアアップデートを通じて、表示されているテキストがApple Intelligenceによる要約であることをより明確に示すと説明しました。

要約の精度そのものを一新するというよりは、AIが手を加えたテキストである事実を利用者に分かりやすく伝える方針です。

また、同機能は任意であるとも強調しています。意図しない要約を避けたい場合は、設定アプリから「通知」「通知の要約」の順に進むことで、機能全体をオフにするか、アプリごとに要約を無効化できます。

なぜ重要か

今回のアップルの対応は、根本的な解決というよりも免責事項を目立たせる対症療法に見えます。AIによる要約だと明記したところで、要約が重大な事実をねじ曲げてしまうリスクそのものは消えません。

ユーザーの立場から見れば、ニュースアプリやメッセージアプリでの通知要約は、今すぐオフにしておくのが賢明だと考えます。数行読む手間を省く代償として、誤った情報を信じ込んでしまうリスクはあまりに高すぎます。

メディア側にとっても極めて深刻な問題です。記者が裏付けを取り慎重に選んだ見出しが、端末のOS上で勝手に改変され、誤報の責任をメディアが負わされかねない構図が生まれています。

アップルはApple Intelligenceの実用性をアピールしようと焦るあまり、正確性が絶対条件となる領域でのモデルの限界を甘く見積もっていたと言わざるを得ません。