MS 코파일럿+ '리콜' 기능, 사생활 침해 우려로 英 규제 당국 조사 착수

사용자가 PC에서 작업하는 화면을 몇 초마다 자동으로 캡처해 인공지능(AI)으로 검색할 수 있게 해주는 기능이 출시되자마자 도마 위에 올랐습니다.

마이크로소프트가 새로운 Copilot+ PC 독점 기능으로 발표한 Recall(리콜)을 두고 프라이버시 전문가들의 반발이 쏟아지는 가운데, 결국 규제 당국까지 조사에 착수했습니다. 영국의 데이터 프라이버시 감독 기관인 정보위원회(ICO)는 해당 기능이 사용자 개인정보를 어떻게 보호하는지 안전장치를 파악하기 위해 마이크로소프트에 질의를 진행하고 있다고 밝혔습니다.

비밀번호와 금융 정보까지 찍히는 스크린샷

Recall은 과거에 열람했던 파일이나 이메일, 웹사이트 기록을 AI로 쉽게 찾아낼 수 있도록 돕는 기능입니다. PC가 켜져 있는 동안 백그라운드에서 몇 초 간격으로 화면 전체를 캡처하고, AI가 텍스트와 이미지를 분석해 검색 가능한 타임라인을 만듭니다.

마이크로소프트는 Recall이 선택적 기능이며 보안에 만전을 기했다고 해명했습니다. 캡처된 스크린샷은 로컬 기기에 암호화되어 저장되며 외부 클라우드로 전송되지 않기 때문에, 해커가 접근하려면 기기를 물리적으로 훔쳐 잠금을 해제해야 한다는 설명입니다. 또한 특정 사이트를 기록에서 제외하거나 엣지 브라우저의 비공개 모드에서는 캡처되지 않도록 설정할 수 있다고 덧붙였습니다.

하지만 전문가들이 경악하는 부분은 민감 정보의 처리 방식입니다. 마이크로소프트에 따르면 Recall은 화면에 노출된 비밀번호, 계좌 정보, 건강 기록 같은 민감한 데이터를 별도로 모니터링하거나 가리지 않고 그대로 스크린샷에 남깁니다.

모질라의 프라이버시 팀을 이끄는 젠 칼트라이더는 낯선 사람들이 가득 탄 버스 안에서 할 수 없는 일이라면 이 기능이 켜진 PC에서도 해서는 안 된다고 비판했습니다. 로펌 키스톤 로의 다니엘 토저는 넷플릭스 드라마 블랙 미러의 디스토피아가 떠오른다며, 화면에 함께 노출되는 화상 회의 상대방의 동의 문제나 회사의 기밀 보호 측면에서도 법적 문제가 생길 수 있다고 지적했습니다.

왜 중요한가

일반 사용자와 직장인 입장에서 편리함의 대가로 치러야 할 보안 위험이 너무 큽니다. 과거 작업을 쉽게 찾는 기능은 유용하지만, 마스킹 처리도 안 된 비밀번호와 계좌 기록이 계속 기기에 쌓인다면 기기 분실이나 해킹 시 치명적인 피해로 이어질 수 있습니다. 적어도 민감 데이터에 대한 확실한 안전장치가 나오기 전까지는 굳이 위험을 감수하고 켤 이유가 없어 보입니다.

PC 업계 전반에도 찬물을 끼얹는 모양새입니다. 마이크로소프트는 차세대 AI PC의 차별점으로 Recall을 내세웠지만, 시작부터 감시 프로그램 논란에 휩싸이면서 영국 ICO를 비롯한 글로벌 규제 당국의 집중 감시를 받게 됐습니다. 이는 향후 온디바이스 AI 기능을 기획하는 경쟁사들에게도 큰 경고가 될 것입니다.

마이크로소프트의 방향 자체는 데이터를 클라우드로 보내지 않고 온디바이스에서 처리한다는 점에서 똑똑한 선택처럼 보였습니다. 하지만 사용자가 느낄 감시의 공포를 과소평가했고, 비밀번호 필터링조차 준비하지 않은 채 제품을 공개한 것은 치명적인 실수로 보입니다. 아무리 강력한 AI라도 신뢰를 잃으면 스파이웨어라는 오명을 피하기 어렵습니다.