애플, AI 알림 요약 표기 개선 약속…BBC 오보 논란 대응

스마트폰 잠금화면에 뜬 유력 언론사의 속보 알림에서 유명 스포츠 스타가 커밍아웃했다거나 전 국민의 이목이 쏠린 총격 용의자가 자살했다는 내용을 본다면 누구나 깜짝 놀랄 수밖에 없습니다.

하지만 이는 기자가 쓴 기사가 아니라, 애플의 AI가 멋대로 지어낸 거짓 정보였습니다.

지난 12월 영국에서 베타 서비스로 도입된 애플 인텔리전스의 알림 요약 기능을 두고 BBC의 공식 항의가 빗발치자, 애플이 화면 표시 방식을 변경하겠다고 밝혔습니다.

헤드라인을 왜곡한 AI 요약

BBC에 따르면 애플의 알림 요약 기능은 유나이티드헬스케어 CEO 총격 사건 용의자인 루이지 만지오네 관련 속보를 재작성하면서, 마치 그가 스스로 총을 쏴 자살했다고 BBC가 보도한 것처럼 문구를 바꿨습니다.

황당한 오보는 여기서 그치지 않았습니다. PDC 월드 다트 챔피언십 대회가 시작되기도 전에 우승자를 확정해 알림을 보내는가 하면, 테니스 스타 라파엘 나달이 동성애자임을 밝혔다는 허위 요약을 내보내기도 했습니다.

BBC는 애플의 AI 요약이 원문 내용을 전혀 반영하지 못하며, 일부 사례에서는 원문과 완전히 반대되는 내용을 만들어냈다고 비판했습니다.

이 같은 오류는 뉴스뿐만 아니라 개인 메시지에서도 나타났습니다. 지인이 보낸 "등산하다가 죽을 뻔했다"는 일상적인 메시지를 애플 인텔리전스가 "자살 시도"로 요약해 충격을 준 사례도 있었습니다.

애플의 표시 명확화와 끄는 법

논란이 커지자 애플은 성명을 통해 향후 몇 주 안에 소프트웨어 업데이트를 진행해, 화면에 표시된 텍스트가 애플 인텔리전스가 제공한 요약본임을 더 명확하게 알리겠다고 밝혔습니다.

요약 알고리즘 자체를 완전히 뜯어고치기보다는 사용자에게 AI 생성 문구라는 점을 분명히 알려 혼선을 줄이겠다는 취지입니다.

애플은 이 기능이 선택 사항이라는 점도 강조했습니다. 기능 사용을 원치 않는 사용자는 설정에서 알림으로 들어간 뒤 '알림 요약' 메뉴에서 기능을 완전히 끄거나 특정 앱만 제외하도록 설정할 수 있습니다.

왜 중요한가

우리가 보기에 애플의 이번 대책은 근본적인 기술 해결책이라기보다는 면책 표시를 강화하는 미봉책에 가깝습니다. 라벨을 붙여 AI 요약본임을 알린다 해도, 모델이 문맥을 압축하면서 사실관계를 왜곡하는 근본적인 결함은 그대로 남기 때문입니다.

사용자 입장에서는 뉴스나 메신저처럼 사실 전달이 중요한 앱의 알림 요약은 지금 당장 꺼두는 편이 안전합니다. 몇 줄 읽는 시간을 줄이려다 왜곡된 허위 사실을 그대로 믿게 되는 위험을 감수할 이유는 없습니다.

언론사 입장에서도 이는 플랫폼에 의해 저널리즘의 신뢰도가 훼손되는 심각한 문제입니다. 사실 확인을 거쳐 신중하게 작성한 헤드라인이 운영체제 단계에서 엉뚱하게 왜곡되고, 그 오해의 피해를 매체가 고스란히 떠안게 되기 때문입니다.

애플이 온디바이스 AI의 효용성을 빠르게 증명하려다 신뢰성이 생명인 영역에서 무리수를 뒀다는 평가를 피하기 어려워 보입니다.