슬랙, AI 학습에 사용자 데이터 기본 활용 논란…옵트아웃은 이메일로만

기업용 협업 툴 슬랙이 사용자 대화 데이터를 기본값으로 AI 및 머신러닝 학습에 활용해 온 사실이 알려지며 개발자와 기업 고객들 사이에서 거센 비판을 받고 있습니다.

사용자들을 더욱 분노하게 만든 대목은 데이터 활용을 거부하려면 관리자 설정에서 버튼 하나를 끄는 것이 아니라, 슬랙 측에 직접 이메일을 보내 옵트아웃을 신청해야 한다는 점입니다.

해커뉴스에서 촉발된 기본 수집 논란

이번 논란은 개발자 커뮤니티 해커뉴스에 슬랙의 개인정보 보호 정책 링크가 별다른 설명 없이 공유되면서 촉발되었습니다. 링크 하나만으로도 사용자들은 큰 충격을 받았고 관련 논쟁은 여러 소셜 플랫폼으로 빠르게 번져 나갔습니다.

인터넷 아카이브 기록에 따르면 해당 조항은 최소 September 2023부터 이미 적용되고 있었던 것으로 확인되었습니다. 대다수 사용자가 이를 전혀 인지하지 못한 채 일상적인 업무 대화를 슬랙에 맡겨 왔던 셈입니다.

평소 고객이 데이터에 대한 완전한 통제권을 갖는다고 강조해 온 플랫폼이 데이터 학습을 기본 동의로 묶어 두고 해제 방법만 번거로운 이메일 신청으로 만들어 놓았다는 점에서 이용자들의 실망감이 커졌습니다.

추천 시스템과 슬랙 AI의 차이

논란이 확산되자 슬랙 측은 해명에 나섰습니다. 슬랙 대변인은 고객 데이터가 활용되는 대상은 플랫폼 전반의 기계학습 모델인 이른바 글로벌 모델뿐이며, 주로 채널 및 이모지 추천이나 검색 결과 순위를 매기는 데 쓰인다고 설명했습니다.

또한 이러한 모델은 고객 데이터를 암기하거나 재현할 수 없도록 설계되었으며, 학습을 거부하더라도 해당 기능을 그대로 이용할 수 있다고 덧붙였습니다.

최근 도입된 유료 기능인 슬랙 AI에 대해서도 선을 그었습니다. 슬랙 AI는 자체 AWS 인프라에서 호스팅되는 대형언어모델을 사용하며, 고객 데이터를 기반으로 LLM을 훈련하지 않고 외부 AI 제공업체와 데이터를 공유하지도 않는다는 설명입니다.

문제는 정작 웹사이트 정책 문서에는 이러한 구분이 전혀 적혀 있지 않았다는 점입니다. 엔지니어이자 작가인 게르게이 오로츠가 스레드에서 문제를 제기하자, 슬랙 엔지니어 에런 마우러는 해당 조항이 슬랙 AI 출시 전에 작성된 탓에 현재 상황을 제대로 반영하지 못했다며 규정을 서둘러 업데이트해야 한다고 인정했습니다.

왜 중요한가

사내 기밀이나 소스 코드, 민감한 비즈니스 대화를 슬랙에 보관해 온 기업 입장에서는 즉각적인 거버넌스 위험이 발생한 셈입니다. 데이터 보안을 엄격하게 관리해야 하는 조직이라면 조항이 명확하게 개정될 때까지 기다리지 말고 지금 즉시 옵트아웃 이메일을 보낼지 검토해야 합니다.

업계 전반으로 보면, 기존 SaaS 서비스들이 생성형 AI를 급하게 도입하는 과정에서 얼마나 쉽게 신뢰를 잃을 수 있는지를 보여주는 대표적인 사례입니다. 고객들은 이미 엔터프라이즈 환경에서 데이터가 모델 학습에 전용되는 것에 대해 극도로 민감해져 있습니다.

우리가 보기에 슬랙의 이번 대처는 매우 안이했습니다. 구시대의 머신러닝 정책을 방치한 채 AI 브랜딩만 앞세웠고, 거부권을 이메일 접수라는 불필요한 장벽 뒤에 숨겨 두었습니다. 엔터프라이즈 협업 툴의 핵심 자산이 고객 신뢰라는 점을 고려하면, 명확한 온오프 토글을 제공하지 않은 대가는 결코 가볍지 않아 보입니다.