메타 AI, 페이스북 댓글 요약 기능 테스트… 황당한 댓글까지 전부 요약

최근 페이스북 앱을 켜면 댓글창 맨 위에 낯선 안내가 뜨기 시작했습니다. Meta의 AI가 사람들의 온갖 댓글을 요약해 주고 있는 것입니다.

페이스북 댓글창이 얼마나 혼란스럽고 제멋대로인지 아는 사람이라면, AI가 내놓는 요약문이 얼마나 기괴할지 짐작하기 어렵지 않습니다.

황당한 댓글까지 그대로 정리하는 AI

이 기능은 스레드와 레딧에서 캡처가 공유되며 먼저 입소문을 탔고, The Verge 기자 역시 자신의 앱에서 여러 요약 사례를 확인했습니다.

실제로 요약된 내용은 실소를 자아냅니다. 한 매장의 폐점 소식을 다룬 게시물에서 AI는 폐점 원인으로 매장이 너무 깨어있는 척(going woke)을 했거나 상품 구성이 부실했다는 의견, 온라인 쇼핑의 성장을 지목한 의견이 공존한다고 정리했습니다.

바이스(Vice)가 올린 멕시코 거리 레슬러 관련 영상 댓글에서는 일부 이용자가 공연에 별다른 감흥을 느끼지 못하며 이를 한심한 구걸 방식이라 평가했다고 요약했습니다. 플로리다에서 살쾡이가 목격됐다는 소식에는 살쾡이가 자외선 차단제를 발랐기를 바란다는 누리꾼의 실없는 농담까지 그대로 주워 담았습니다.

Meta가 어떤 기준으로 요약 대상 게시물을 선정하는지는 아직 확인되지 않았으며, 회사 측도 관련 질의에 즉각 답변하지 않았습니다. Meta AI의 엉뚱한 행동은 이번이 처음이 아닙니다. 이전에는 404 Media를 통해 페이스북 육아 그룹에서 실제 학부모인 척 댓글을 달다 적발되기도 했습니다.

내 댓글이 전부 AI 학습 데이터였다

요약의 우스꽝스러움 뒤에는 더 심각한 프라이버시 문제가 숨어 있습니다. 댓글을 요약해 준다는 것은 Meta가 이용자의 상호작용 데이터를 실시간으로 AI 시스템에 밀어 넣고 있다는 방증이기 때문입니다.

최근 일주일 사이 유럽연합(EU)과 영국의 페이스북 및 인스타그램 이용자들은 Meta로부터 자신들의 게시물과 댓글이 AI 학습에 사용될 것이라는 안내문을 받았습니다. 현지 데이터 보호 규격상 의무적인 고지 절차입니다.

이들 지역 이용자는 학습 제외(opt-out)를 신청할 권리가 있지만, 거부 절차가 까다로울뿐더러 일부 사용자의 요청은 거절당한 것으로 알려졌습니다. 미국의 경우 프라이버시 정책에 따라 서비스 내에서 공유된 게시물, 사진, 설명 글 등이 고스란히 AI 학습에 사용되고 있으며, 제3자 데이터가 아닌 한 이용자가 이를 삭제하거나 교정할 방법도 마땅치 않습니다.

왜 중요한가

우리는 이 기능이 플랫폼 기업들이 저지르는 전형적인 무목적 AI 도입 사례라고 봅니다.

이용자가 페이스북 댓글창을 찾는 이유는 사람들의 날것 그대로의 반응이나 유머를 보기 위해서입니다. 정제되지 않은 온갖 억측과 농담을 AI가 기계적으로 중립적인 척 요약해 주는 것은 정보로서의 가치가 전혀 없습니다. 기껏해야 댓글창이 너무 지저분하니 스크롤을 내리지 말라는 경고 신호로 쓰는 게 고작입니다.

진짜 핵심은 데이터 주권입니다. 이용자가 무심코 남긴 헛소리나 사소한 잡담까지 대형 언어 모델의 공짜 땔감으로 쓰이고 있다는 사실을 이 요약 기능이 적나라하게 보여줬습니다. 빅테크가 자사 모델의 덩치를 불리는 과정에서 이용자의 창작물과 프라이버시가 얼마나 쉽게 희생되는지, 그리고 이를 법적으로 통제하기가 얼마나 까다로운지 다시 한번 입증한 셈입니다.