줌, 기업용 AI 관리 도구 공개…딥페이크 탐지·가드레일 강화

화상 면접을 보고 있는 지원자가 실은 다른 사람의 얼굴을 씌운 가짜이거나, 화면 속 거래처 임원이 목소리까지 똑같이 흉내 내며 긴급 송금을 요청하는 일이 현실의 위협으로 다가왔습니다.

Zoom은 10월 20일 열린 연례 콘퍼런스 'Zoomtopia 2026'에서 기업 보안과 AI 거버넌스를 위한 신규 도구들을 공개했습니다. 이번 발표에서 가장 눈길을 끈 것은 화상 회의 도중 실시간으로 합성 미디어를 가려내는 딥페이크 위험 감지 기능입니다.

화상 회의에 들어온 딥페이크 탐지기

외부 도구를 활용해 얼굴이나 목소리를 실시간으로 변조하는 기술이 흔해지면서 채용 인터뷰나 고객 응대 현장이 취약점으로 떠올랐습니다.

Zoom의 딥페이크 위험 감지 기능은 참가자의 음성과 영상 신호를 실시간으로 분석해 Zoom 외부에서 변조되었을 가능성을 판단하고, 신뢰도 지표와 함께 경고 플래그를 띄워 줍니다. 이 기능은 2026년 12월 출시될 예정입니다.

흥미로운 점은 The Verge의 보도에 따르면, Zoom이 12월에 발표자가 화면에서 더 집중하고 있는 것처럼 보이게 만드는 기능과 음성 및 억양을 매끄럽게 보정해 주는 AI 도구도 함께 출시한다는 사실입니다. 자체적으로 외모와 목소리를 다듬는 AI를 제공하면서, 외부의 악의적 변조는 잡아내야 하는 상황입니다.

제멋대로 움직이는 사내 AI 단속하기

화상 회의의 진위 판별과 함께 Zoom이 공을 들인 부분은 사내 AI 에이전트의 통제권입니다. 업무에 AI 도입이 늘어날수록 어떤 봇이 무슨 데이터에 접근하는지 파악하기 어려워지기 때문입니다.

2026년 12월 도입되는 중앙 집중식 AI 관리 기능은 관리자에게 사내에서 실행 중인 AI 에이전트 현황과 데이터 접근 권한을 투명하게 보여주고 감사 통제권을 제공합니다.

2027년 1분기에는 맞춤형 AI 가드레일이 추가됩니다. AI가 민감한 재무 데이터나 경쟁사 관련 회의록을 읽었더라도, 요약본이나 답변에 해당 정보가 노출되지 않도록 사전에 차단하는 규칙을 세울 수 있습니다. 고객 응대용 AI 콘텐츠는 공유 전 사람의 검토를 거치게 하거나, 특정 채널을 AI 처리 대상에서 완전히 배제하는 것도 가능합니다.

데이터 분류 측면에서는 Microsoft Purview 민감도 레이블 연동이 이미 제공되기 시작해 Microsoft 365 문서와 Zoom 회의 간 일관된 보안 정책을 유지할 수 있게 되었습니다. 2027년 1월에는 AI 요약본과 노트를 보관해 규제 요건을 충족하는 컴플라이언스 관리자도 추가됩니다.

왜 중요한가

기업용 AI 시장의 초점이 '새로운 기능'에서 '안전한 통제'로 옮겨가는 흐름을 정확히 짚은 조치라고 우리는 판단합니다.

딥페이크 탐지는 인사 채용과 금융 결제처럼 신원 확인이 중요한 부서에 확실한 가치를 제공합니다. 다만 탐지 알고리즘이 정상적인 참가자를 딥페이크로 잘못 짚어낼 경우 비즈니스 신뢰에 금이 갈 수 있고, Zoom 자체의 표정 및 억양 보정 기능과 충돌하지 않도록 정교하게 조율해야 하는 숙제가 남아 있습니다.

그럼에도 Microsoft의 데이터 분류 체계를 수용하고 AI 생성물에 대한 감사 추적 기능을 선제적으로 마련한 점은 금융, 의료, 공공 부문 고객의 도입 장벽을 크게 낮춰 줄 것으로 보입니다. 위험 부담이 큰 원격 면접이나 재무 부서부터 12월 출시 시점에 맞춰 테스트해 볼 만합니다.