EU, 구글·메타에 "AI 생성 콘텐츠 즉시 라벨링하라" 촉구

피드를 내리다 마주치는 그럴듯한 사진이나 글이 실제 사람이 만든 것인지, 생성형 AI가 몇 초 만에 뽑아낸 결과물인지 구분하기는 갈수록 어려워지고 있습니다.

유럽연합(EU)이 이 문제에 제동을 걸고 나섰습니다. EU는 6월 5일 구글과 메타 등 주요 소셜 미디어 플랫폼을 향해 인공지능이 생성한 콘텐츠와 이미지에 '즉각' 라벨을 부착할 것을 촉구했습니다. 러시아 발 가짜 뉴스와 허위 정보 확산을 막기 위한 조치의 일환입니다.

베라 요우로바 EU 집행위원회 부위원장은 AI가 몇 초 만에 사건과 음성을 조작할 수 있는 잠재력을 지녔다며, 플랫폼들이 이러한 어두운 면에 맞서야 한다고 강조했습니다.

화면을 넘기다 봐도 알 수 있는 '로봇 표기'

EU가 요구하는 표시는 설정 창 구석에 숨겨둔 작은 면책 조항이 아닙니다. 이용자가 무심코 화면을 스크롤하는 중에도 단번에 알아챌 수 있는 방식이어야 합니다.

요우로바 부위원장은 사용자가 실제 사람이 작성한 것이 아님을 명확히 알 수 있도록 '이것은 로봇이 말하는 것입니다'와 같은 직관적인 문구를 사용하는 방안을 제시했습니다.

아울러 우크라이나 지원 여론을 흔들려는 여론전에 대응하기 위해, 동유럽 지역과 소수 언어 콘텐츠에 팩트체크 리소스를 더 많이 투입할 것도 플랫폼들에 요구했습니다.

요우로바 부위원장은 열흘 전 순다르 피차이 구글 CEO와의 만남에 대해서도 언급했습니다. 구글이 가짜 뉴스를 탐지할 기술을 보유했느냐는 질문에 피차이 CEO는 "그렇지만, 기술을 더 발전시키는 중"이라고 답했습니다.

자율 협약 박차고 나간 트위터의 위기

현재 틱톡과 유튜브를 비롯한 44개 기업이 EU의 허위 정보 관련 자율 강령에 서명했습니다. 하지만 일론 머스크가 이끄는 트위터는 약 2주 전 이 협약에서 탈퇴했습니다.

요우로바 부위원장은 트위터의 선택을 '실수'라고 규정하며, 대립이라는 험난한 길을 택했다고 경고했습니다.

당장 8월 25일부터 강력한 법적 구속력을 지닌 디지털서비스법(DSA)이 시행됩니다. 트위터가 이 법을 준수하지 않을 경우 전 세계 연간 매출의 최대 6%에 달하는 벌금(최근 수익 추정치 기준 약 1억 4500만 파운드)이 부과되거나 EU 역내에서 전면 차단될 수 있습니다.

왜 중요한가

일반 이용자 관점에서 AI 생성 라벨 의무화는 반가운 변화입니다. 손가락 디테일이나 배경 왜곡을 일일이 뜯어보지 않아도, 플랫폼이 직접 기계 생성 여부를 밝혀준다면 허위 정보에 속을 위험이 크게 줄어듭니다.

하지만 현실적인 기술 장벽은 여전히 높습니다. 피차이 구글 CEO가 기술을 더 개발 중이라고 솔직히 밝힌 것처럼, 생성형 콘텐츠를 완벽히 짚어내는 감지 기술은 아직 완성되지 않았습니다. 즉각적인 라벨링을 강제하면 일반 창작자의 작업물이 오탐지로 피해를 보거나, 정작 악의적인 유포자는 워터마크를 지워 제재를 피해 갈 가능성이 큽니다.

우리는 EU가 기술적 한계를 알면서도 규제의 칼을 먼저 뽑아 들었다고 봅니다. 8월 말 시행되는 DSA라는 실질적인 처벌 수단을 지렛대 삼아, 빅테크가 AI 윤리와 안전 문제를 연구실 과제가 아닌 당장 해결해야 할 사업 리스크로 인식하게 만들려는 포석으로 보입니다.