애플, 오보 논란에 iOS 18.3 베타서 뉴스 AI 알림 요약 일시 중단

애플이 최신 iOS 18.3 개발자 베타에서 뉴스 및 엔터테인먼트 앱의 알림 요약 기능을 일시 중단했습니다. 맥루머스와 9to5Mac의 보도를 통해 확인된 내용입니다.

애플 인텔리전스 기반의 알림 요약은 출시 이후 기사 내용을 엉뚱하게 왜곡한다는 거센 비판을 받아왔습니다.

오보 논란 부른 AI 요약, 결국 브레이크

지난달 BBC는 애플의 알림 요약 기능을 공개적으로 비판했습니다. 유나이티드헬스 경영진 총격 사건의 용의자인 루이지 만조네 관련 보도를 요약하면서, 용의자가 스스로 목숨을 끊었다는 식의 치명적인 오류를 생성했기 때문입니다.

9to5Mac에 따르면 애플은 기능을 지속적으로 개선한 뒤 향후 소프트웨어 업데이트를 통해 뉴스 앱 요약을 다시 활성화할 계획입니다.

새로운 베타 버전에서는 알림 요약 기능이 아직 베타 상태이며 오류가 포함될 수 있다는 문구가 명확히 표시됩니다.

사용자 인터페이스도 바뀝니다. 잠금 화면에서 요약된 알림 텍스트는 기울임꼴(이탤릭체)로 표시되어 일반 알림과 한눈에 구분할 수 있게 됩니다.

특정 앱의 요약만 끄는 작업도 훨씬 간단해졌습니다. 잠금 화면이나 알림 센터에서 알림을 밀어 옵션을 누른 뒤, 요약 끄기를 선택하면 해당 앱의 AI 요약만 바로 해제할 수 있습니다.

왜 중요한가

이번 조치는 온디바이스 AI 모델이 뉴스처럼 정확도가 생명인 콘텐츠를 다룰 때 얼마나 취약한지 단적으로 보여줍니다.

메신저 대화 요약의 사소한 누락은 해프닝으로 넘길 수 있지만, 범죄나 사건 사고를 다루는 속보에서 주어와 서술어를 왜곡하는 것은 명백한 허위 정보 유통입니다. 언론사 입장에서도 자사 보도의 신뢰도를 훼손당하는 심각한 문제입니다.

애플이 뉴스 앱에 한해 기능을 즉시 중단하고 이탤릭체 표기와 손쉬운 비활성화 옵션을 도입한 것은 적절한 대처로 보입니다. 하지만 면책 문구를 넣고 글씨체를 바꾼다고 해서 언어 모델의 근본적인 환각 현상이 해결되는 것은 아닙니다.

속보나 시사 정보를 실시간으로 확인해야 하는 사용자라면, 애플이 모델 성능을 대폭 개선하기 전까지는 뉴스 앱의 알림 요약 기능을 꺼두는 편이 훨씬 안전할 것으로 판단됩니다.