메타, 먼저 말 거는 AI 챗봇 테스트: 14일 내 5회 대화 시 선제 메시지 발송

메신저나 왓츠앱을 열었을 때 며칠 전 대화를 나눴던 영화 취향 AI가 먼저 안부를 물으며 새 영화 음악을 추천해 주는 장면을 상상해 보십시오.

공상과학 속 이야기가 아닙니다. 메타가 챗봇이 이용자에게 먼저 말을 걸어오는 기능을 실제로 시험하고 있습니다.

5번 이상 대화하면 먼저 말 거는 AI

비즈니스 인사이더가 입수한 유출 문서에 따르면 메타는 데이터 라벨링 기업 얼라이너와 협력해 이용자에게 자발적으로 메시지를 보내는 맞춤형 챗봇을 훈련하고 있습니다. 테크크런치는 메타로부터 이 같은 테스트 사실을 공식 확인했습니다.

이 챗봇들은 메타의 AI 스튜디오에서 제작되는 맞춤형 캐릭터로, 이전 대화 내용을 기억하는 메모리 기능을 갖추고 있습니다.

다만 무차별적인 스팸을 막기 위한 최소한의 제한이 있습니다.

이용자가 대화를 시작한 지 14일 이내여야 하고, 그 기간 동안 이용자가 챗봇에 최소 5개 이상의 메시지를 보낸 경우에만 후속 메시지가 발송됩니다. 만약 AI가 먼저 보낸 첫 메시지에 답장하지 않으면 더 이상 메시지를 보내지 않습니다.

이러한 선제적 접근 방식은 캐릭터닷AI나 레플리카 같은 AI 동반자 서비스들이 이미 채택해 온 방식입니다. 공교롭게도 캐릭터닷AI의 새 최고경영자 카란딥 아난드는 지난달까지 메타의 비즈니스 제품 부사장을 지냈습니다.

체류 시간 증가 뒤에 숨은 안전 문제

AI가 먼저 말을 걸면 앱 체류 시간은 늘어나겠지만, 안전과 윤리적 책임 문제는 한층 무거워집니다.

실제로 캐릭터닷AI는 14세 소년의 극단적 선택에 챗봇이 영향을 미쳤다는 혐의로 소송을 겪고 있습니다. 안전 대책에 대한 질의에 메타 대변인은 AI 답변이 의료, 심리, 금융 등 전문적인 조언을 대체할 수 없다는 표준 면책 조항만을 안내했습니다.

또한 메타 자체적으로 챗봇 이용에 대한 연령 제한을 두고 있지도 않습니다.

마크 저커버그는 현대인의 고독 문제를 해결하겠다고 말하지만, 메타의 본질은 체류 시간을 늘려 광고 수익을 내는 플랫폼입니다. 4월 공개된 법원 문서에 따르면 메타는 2025년 생성형 AI 제품군에서 최대 30억 달러, 2035년까지 최대 1조 4000억 달러의 매출을 예상하고 있으며 추후 AI 챗봇에 광고를 넣거나 구독 모델을 도입할 계획도 검토 중입니다.

왜 중요한가

우리는 메타의 이번 시도가 이용자 유지 측면에서는 매우 강력하지만, 상당한 윤리적 뇌관을 안고 있다고 봅니다.

이용자 입장에서 친구들과 대화를 나누던 메신저 공간에 과거 기억을 가진 AI가 침투하는 셈입니다. 추천이나 가벼운 대화 상대로는 유용할 수 있지만, 알고리즘 기반의 체류 시간 유도 장치를 정서적 유대로 착각하기 쉬운 취약 계층에게는 위험한 의존성을 낳을 수 있습니다.

업계 관점에서는 메타가 캐릭터닷AI 같은 버티컬 스타트업의 핵심 영역을 정조준하고 있습니다. 인스타그램과 왓츠앱이라는 압도적인 유통망을 쥔 메타가 자발적 대화 기능까지 갖추게 되면 신생 기업들이 설 자리는 급격히 좁아집니다.

하지만 형식적인 면책 문구만으로 미성년자 보호나 심리적 부작용을 통제하려는 메타의 접근 방식은 취약해 보입니다. 체류 시간을 늘려 광고를 보여주려는 플랫폼의 본능과 정서적 교감을 흉내 내는 AI가 만났을 때 생기는 부작용은 앞으로 메타가 짊어져야 할 가장 큰 과제가 될 것입니다.