EU AI법 투명성 규정 발효：딥페이크 미표기 시 최대 1500만 유로 벌금

소셜 미디어를 보다가 진짜 같은 딥페이크에 속거나, 고객센터 상담원이 사람인지 봇인지 헷갈렸던 경험은 이제 누구에게나 익숙한 일입니다.

유럽연합은 현지 시간 8월 2일부터 인공지능법에 따른 새로운 투명성 의무를 본격적으로 시행했습니다. 온라인에서 챗봇과 인공지능 기반 합성 콘텐츠를 일반 이용자가 쉽게 식별할 수 있도록 강제하는 조치입니다.

개발사와 배포사 모두에게 요구되는 표기 의무

이번 규정은 시스템을 개발하고 시장에 내놓는 제공업체와, 이를 가져다 서비스에 활용하는 배포업체를 구분해 적용됩니다. 메타와 SpaceXAI 같은 대형 기술 기업은 두 영역 모두에 걸쳐 있습니다.

제공업체는 AI가 명백하게 드러나는 상황이 아니라면, 이용자에게 사람이 아닌 AI와 대화 중이라는 사실을 명시적으로 알려야 합니다. 아울러 합성된 음성, 이미지, 비디오, 텍스트에는 기계가 감지할 수 있는 표식을 의무적으로 삽입해야 합니다.

배포업체 역시 실제처럼 보이도록 정교하게 생성되거나 편집된 딥페이크 콘텐츠에 반드시 AI 라벨을 부착해 공개해야 합니다.

기업들이 제각각 표기 방식을 만드는 혼선을 줄이기 위해, 유럽집행위원회는 틱톡이나 인스타그램, 페이스북의 기존 사례를 참고한 표준 라벨 아이콘을 함께 공개했습니다. 아이콘 디자인을 채택하는 것은 자율이지만 라벨링 의무 자체는 절대 선택 사항이 아니라고 위원회는 못박았습니다.

이를 어길 경우 최대 1500만 유로(약 1720만 달러) 또는 글로벌 연간 매출액의 3%에 달하는 벌금이 부과될 수 있습니다. 8월 2일 이후 출시된 신규 시스템은 즉시 규제를 적용받으며, 기존 시스템은 오는 12월 2일까지 4개월간의 유예 기간을 거쳐야 합니다.

왜 중요한가

일반 이용자 입장에서는 온라인 속 정보의 신뢰도를 판별할 수 있는 최소한의 안전장치가 생겼다는 점에서 의미가 큽니다. 대화 상대나 미디어의 출처가 인공지능이라는 점을 명확히 인지하면 사기나 허위 조작 정보에 휘둘릴 위험을 크게 줄일 수 있습니다.

반면 유럽 시장을 노리는 개발사와 플랫폼 기업들에게는 당장 발등에 불이 떨어진 상황입니다. 단순한 화면 UI 수정에 그치지 않고, 생성 파이프라인 전반에 워터마크 기술을 연동해야 하므로 12월 2일 유예 마감 전까지 상당한 개발 비용이 발생할 것으로 보입니다.

우리는 유럽연합이 추상적인 윤리 규약에 머무르지 않고, 사용자가 직접 체감할 수 있는 라벨링 의무화에 집중한 판단이 매우 현실적이었다고 봅니다. 가이드라인 아이콘을 먼저 제시해 규제 진입 장벽을 낮춰준 점도 영리한 접근입니다.

다만 법안에 명시된 '명백한 경우'에 대한 해석이 모호하다는 점은 향후 법적 분쟁의 불씨가 될 수 있어 보입니다. 오픈소스 모델을 악용해 자체 서버에서 라벨 없이 유포되는 악성 콘텐츠를 이런 행정적 규제만으로 완벽히 차단하기는 어려워 보입니다.