메타, AI 에이전트 '뮤즈' 공유 기능 중단…민감 대화 유출 결함 발견

메타의 마크 저커버그 CEO는 지난달 새로운 범용 AI 에이전트 뮤즈(Muse)를 공개하며 개인정보 보호와 보안을 기초부터 염두에 두고 만들었다고 강조했습니다.

하지만 이 약속은 단 한 번의 검색 쿼리에 허망하게 깨졌습니다. 보안 업체 클라록(Claroc)은 뮤즈의 대화 공유 링크를 통해 사용자들의 내부 기밀과 개인정보가 외부에 고스란히 노출되고 있었다고 밝혔습니다. 메타는 아스 테크니카의 취재가 시작되자 공유 기능을 즉시 일시 중단했습니다.

보통 온라인 서비스의 공유 링크는 외부에서 추측하기 어렵도록 무작위 문자열을 길게 이어 붙입니다. 하지만 뮤즈는 사용자의 대화 제목을 서브도메인에 그대로 삽입하는 치명적인 설계를 택했습니다.

한 번의 쿼리로 쏟아져 나온 6800개의 기밀 링크

공유 링크를 누군가 열람하는 순간 DNS 조회 기록이 남습니다. 상용 패시브 DNS(Passive DNS) 서비스는 이러한 도메인 해석 기록을 센서로 모아 데이터베이스에 차곡차곡 저장합니다.

클라록 연구진은 링크를 수집하는 데 큰 노력이 들 것으로 생각했지만, 실제로는 단 한 번의 패시브 DNS 쿼리만으로 뮤즈 사용자들이 생성한 6800개의 공유 링크를 찾아낼 수 있었다고 설명했습니다.

연구진이 그중 수백 개를 열어본 결과는 심각했습니다. 외부에 알려져선 안 될 민감한 문서들이 가득했습니다.

선도적인 AI 연구소의 임원 스카우트 인터뷰를 준비하던 후보자의 메모에는 연구소 내부 담당자 이름과 미팅 시간이 적혀 있었습니다. 한 전국 단위 마케팅 회사의 CEO 보고용 내부 매출 검토 자료도 발견되었습니다.

개인 금융 정보 유출도 심각했습니다. 소상공인의 대출 신청서와 요청 금액, 일부 계좌번호와 거래 시각이 포함된 은행 사기 알림 할 일 목록, 두 개 부동산의 주소와 정확한 수익률 및 대출 잔액이 적힌 투자 보고서, 수십 명 직원의 주 단위 연간 휴가 일정표까지 그대로 열람되었습니다.

클라록의 공동 창업자이자 CTO인 아사프 아프로즈퍼(Asaf Aprozper)는 지난 10월 8일 메타의 버그 바운티 프로그램을 통해 해당 취약점을 신고하고 링크드인으로도 연락을 시도했으나 아무런 답변을 받지 못했다고 밝혔습니다.

왜 중요한가

우리는 이번 사건이 사용자들이 AI 에이전트에 대해 무의식적으로 품고 있는 과도한 신뢰를 정면으로 찌른 사례라고 봅니다.

많은 사용자가 AI를 개인 비서처럼 여기며 민감한 재무 수치나 인사 계획, 대출 서류를 거리낌 없이 입력합니다. 뮤즈뿐 아니라 다른 AI 도구에서도 대화 공유 링크를 습관적으로 생성해 왔다면, 누군가 이를 수집했을 가능성을 염두에 두고 즉시 점검해야 합니다.

엔지니어링 측면에서 보면 메타의 설계는 이해하기 힘들 정도로 안일했습니다. 서브도메인에 대화 제목 같은 가독성 높은 메타데이터를 넣으면 패시브 DNS 수집기에 포착된다는 것은 보안 업계의 상식에 가깝습니다. 보안을 최우선으로 내세운 서비스에서 이런 기초적인 위협 모델링이 누락된 셈입니다.

대응 과정도 실망스럽습니다. 보안 연구자가 공식 채널로 버그를 제보한 지 2주 가까이 묵묵부답으로 일관하다가 언론 보도가 나오자마자 부랴부랴 기능을 중단했습니다. 최첨단 모델 성능을 자랑하기 전에 가장 기본적인 웹 보안 위생과 위기 대응 체계부터 챙겨야 한다는 점을 이번 사태가 똑똑히 보여줍니다.