스냅챗, OpenAI 기반 챗봇 '마이 AI' 출시…실수 가능성 사전 사과

친구들과 주고받는 대화 목록 가장 윗자리에 사람이 아닌 AI가 영구 고정된다면 어떨까요.

Snap이 OpenAI의 기술을 활용한 챗봇 서비스인 'My AI'를 Snapchat에 도입한다고 발표했습니다. 이 실험적 기능은 우선 월 3.99달러를 내는 유료 구독제 Snapchat+ 이용자에게 이번 주부터 제공되며, 외신 보도에 따르면 향후 모든 이용자로 확대할 계획입니다.

문서 작성 도구가 아닌 가상 친구를 표방하다

시중의 많은 챗봇이 다목적 글쓰기나 업무 효율화 도구로 포장되는 것과 달리, Snap은 이 챗봇을 가상의 친구처럼 자리매김하고 있습니다.

실제로 My AI는 일반 Snapchat 친구 프로필처럼 표시되며, 앱 내 대화창 목록 최상단에 고정되어 실제 친구나 가족과의 대화보다도 위에 자리 잡게 됩니다. Evan Spiegel Snap CEO는 The Verge와의 인터뷰에서 매일 친구나 가족과 대화하듯 앞으로는 매일 AI와 대화하게 될 것이라며, 메시징 서비스를 운영하는 자신들이 이를 구현하기에 가장 유리한 위치에 있다고 설명했습니다.

기반 기술로는 Snapchat에 맞춰 최적화된 OpenAI의 최신 GPT 기술이 적용되었습니다. 보도에 따르면 이는 최근 유출된 초대 기반 고액 개발자용 프로그램인 OpenAI Foundry를 통해 구동되는 것으로 보이며, 당시 일반에 공개된 API가 구형 모델인 GPT-3에 머물렀던 것과 달리 ChatGPT의 기반인 GPT-3.5를 활용합니다.

논란을 피하기 위한 이례적인 '사전 사과'

기존 AI 봇들이 가짜 뉴스나 부적절한 답변으로 곤욕을 치렀던 선례를 의식해 Snap도 방어벽을 세웠습니다.

My AI는 욕설, 폭력, 성적으로 노골적인 콘텐츠, 정치적 견해 표명을 피하도록 제한을 두었습니다. 이용자가 부적절한 답변을 길게 눌러 피드백을 제출하면 이를 바탕으로 모델을 지속해서 튜닝할 계획입니다.

하지만 완전한 통제가 불가능하다는 점을 Snap 스스로도 잘 알고 있습니다. 공식 발표문에서 회사 측은 다른 AI 챗봇들과 마찬가지로 My AI 역시 환각 현상을 겪기 쉽고 유도 질문에 속아 엉뚱한 말을 할 수 있다며, 결함이 많음을 인지해 달라고 당부하는 동시에 '미리 사과드린다'는 이례적인 안내를 덧붙였습니다.

왜 중요한가

이번 조치는 생산성이나 검색 도구의 영역에 머물던 생성형 AI를 일상적인 대인 관계망의 한복판으로 끌어들였다는 점에서 의미가 큽니다. 이용자가 필요할 때 찾아가는 도구가 아니라, 평소 친구들과 대화하던 메신저 목록 상단에 상시 대기하는 대화 상대로 AI의 정체성을 바꾼 셈입니다.

우리가 보기에 월 3.99달러의 Snapchat+ 구독자에게 먼저 기능을 연 것은 영리한 접근입니다. 막대한 연산 비용이 드는 모델을 수억 명의 전체 사용자에게 무작정 풀었다가 비용과 서버 과부하를 감당하지 못하는 사태를 막고, 유료 구독 전환을 유도하는 강력한 미끼로 활용할 수 있기 때문입니다.

다만 잠재적 위험은 가볍지 않습니다. Snapchat은 10대를 비롯한 젊은 층의 이용 비중이 압도적으로 높습니다. 플랫폼 스스로도 속아 넘어가기 쉽다고 인정한 불안정한 챗봇을 청소년들의 대화창 맨 위에 올려두는 것은 안전성 측면에서 상당한 모험입니다. 사전에 사과문을 띄워 면책을 시도했을지라도, 실제 부적절한 대화 사례가 터져 나올 경우 쏟아질 여론의 비판과 규제 압박을 피하기는 어려워 보입니다.