이탈리아, 개인정보 침해 혐의로 ChatGPT 전면 차단 명령

전 세계가 생성형 인공지능 열풍에 빠져 있는 가운데, 규제 당국의 첫 번째 강력한 제동이 걸렸습니다.

이탈리아 데이터 보호 규제 당국은 금요일, 개인정보 보호 위반 혐의로 OpenAI의 ChatGPT 사용을 즉각 차단하고 조사에 착수할 것을 명령했습니다. 이번 조치는 오픈AI가 유럽연합의 개인정보보호규정(GDPR)을 준수할 때까지 이탈리아 이용자의 데이터 처리를 전면 중단하는 임시 행정명령입니다.

OpenAI는 해당 명령에 따라 이탈리아 내 ChatGPT 접속을 즉시 차단했습니다. 다만 대변인을 통해 당국의 판단에 동의하지 않으며 GDPR과 기타 개인정보 법률을 성실히 준수하고 있다고 반박했습니다. 샘 알트만 CEO 역시 트위터를 통해 이탈리아 정부의 결정을 따르겠다면서도, 이탈리아는 자신이 가장 좋아하는 나라 중 하나라며 곧 다시 방문하길 바란다는 입장을 내놓았습니다.

규제 당국이 짚은 4가지 위반 사유

이탈리아 당국이 제기한 혐의는 상당히 구체적입니다.

가장 핵심적인 문제는 학습 데이터 수집의 법적 근거 부재입니다. 당국은 ChatGPT 알고리즘을 훈련하기 위해 개인정보를 대규모로 수집하고 저장하는 행위를 정당화할 법적 근거가 없다고 지적했습니다.

또한 모델이 이용자 데이터를 부정확하게 처리해 사실과 다른 내용을 생성한다는 점도 문제로 삼았습니다.

여기에 지난주 발생한 데이터 침해 사고로 이용자의 대화 기록과 결제 정보가 외부에 노출된 점도 결정타가 되었습니다. 아울러 연령 확인 절차가 마련되지 않아 미성년자가 인지 발달 수준에 부적절한 답변에 무방비로 노출되고 있다는 점도 지적했습니다.

유럽 내 반발 기류는 이미 커지고 있었습니다. 3월 30일 소비자단체 BEUC가 유럽 전역의 당국에 조사를 촉구했고, 이번 주 일론 머스크와 수십 명의 AI 전문가들 역시 업데이트 일시 중단을 요구하는 서한을 발표한 바 있습니다.

20일의 시한과 연 매출 4%의 벌금 압박

OpenAI는 현재 EU 내에 공식 지사를 두고 있지 않습니다.

이에 따라 이탈리아 당국은 유럽경제지역(EEA) 내 OpenAI 대리인에게 20일 이내에 GDPR 준수를 위한 시정 계획을 제출하라고 통보했습니다. 이를 이행하지 못할 경우 전 세계 연간 매출의 최대 4%에 달하는 천문학적인 과징금이 부과될 수 있습니다.

왜 중요한가

우리는 이번 이탈리아의 차단 조치가 생성형 AI 산업이 마주한 가장 위험한 분수령이라고 판단합니다.

이탈리아 현지 사용자와 개발자들은 일상적으로 쓰던 강력한 생산성 도구를 하루아침에 잃었습니다. 우회 접속을 하지 않는 이상 서비스 이용이 불가능해졌으며, 글로벌 기반 모델 위에 제품을 구축하던 스타트업들에게도 규제 리스크가 현실화된 셈입니다.

산업 전체로 보면 이탈리아를 시작으로 다른 유럽 국가들의 개인정보 당국도 연쇄적인 조사에 나설 가능성이 매우 높습니다. 미국 중심의 빅테크가 규제 문턱이 높은 유럽 시장에서 똑같은 법적 장벽에 부딪히게 될 것입니다.

연령 인증 시스템이나 보안 취약점 보완은 비교적 쉽게 해결할 수 있지만, 웹상의 방대한 데이터를 동의 없이 긁어모아 학습시키는 대형언어모델의 근본적인 작동 원리는 GDPR의 데이터 수집 원칙과 정면으로 충돌합니다. OpenAI가 20일 안에 유럽 당국을 납득시킬 묘수를 찾지 못한다면, 유럽 전역에서 거대한 규제 도미노가 이어질 것으로 보입니다.