오픈AI, EU AI 콘텐츠 투명성 실천 강령 지지 선언

충격적인 온라인 이미지를 볼 때마다 대중이 가장 먼저 던지는 질문은 한결같습니다. 이거 혹시 AI로 만든 것 아닐까 하는 의심입니다.

합성 콘텐츠로 인한 사회적 불신을 막기 위해 유럽연합 집행위원회는 EU AI 법의 핵심 후속 조치인 'AI 생성 콘텐츠 투명성에 관한 실천 강령'을 발표했습니다. OpenAI는 즉각 지지 성명을 내고 자체 기술 적용 현황을 공유했습니다.

OpenAI는 2025년에도 미국 기업 최초로 EU 범용 AI 실천 강령에 서명한 바 있습니다. 이번 투명성 강령 마련에도 수백 개 이해관계자와 함께 초기부터 관여해 왔습니다.

메타데이터와 워터마크의 이중 장치

AI 생성물에 출처를 표시하는 일은 생각보다 까다롭습니다.

OpenAI는 2024년부터 DALL-E 3 이미지에 C2PA 메타데이터를 삽입해 왔습니다. 하지만 파일 메타데이터는 치명적인 약점이 있습니다. 화면을 캡처하거나 다른 포맷으로 변환하고, 일부 소셜 플랫폼에 올리기만 해도 출처 정보가 손쉽게 날아가 버립니다.

이런 유실을 막기 위해 OpenAI는 현재 ChatGPT, Codex, API를 통해 생성된 이미지에 다층 방식을 적용하고 있습니다.

상세한 제작 이력을 담는 C2PA 인증 정보와 함께 보이지 않는 SynthID 워터마크를 동시에 심는 방식입니다. 메타데이터가 지워져도 워터마크를 통해 신호를 유지하겠다는 계산입니다.

일반 사용자는 공개 검증 사이트(openai.com/verify)에 의심스러운 이미지를 올려 OpenAI가 남긴 고유 표식이 있는지 직접 확인할 수 있습니다.

워터마크는 만병통치약이 아니다

주목할 점은 OpenAI가 기술의 한계를 숨기지 않고 털어놓았다는 사실입니다.

출처 추적 기술은 여전히 초기 단계에 머물러 있습니다. 메타데이터는 삭제되기 쉽고, 워터마크 역시 심한 편집이나 재인코딩을 거치면 품질이 저하되며, 라벨은 지원하지 않는 플랫폼에서는 보이지도 않습니다.

따라서 기술 표식에만 의존해서는 안 되며, 사칭 방지 분류기와 선거 개입 차단 같은 제품 안전장치가 반드시 병행되어야 한다고 밝혔습니다. 아울러 EU 당국에도 현재 기술 수준의 한계를 감안한 유연한 규정 집행을 주문했습니다.

왜 중요한가

일반 이용자와 미디어 입장에서 공식 검증 사이트가 열린 것은 반가운 소식입니다. 하지만 악의적으로 이미지를 자르거나 필터를 덧씌우면 탐지를 비껴갈 수 있어, 지금 당장 모든 가짜 이미지를 가려낼 해결책으로 보기는 어렵습니다.

산업 측면에서는 영리한 선제 규제 대응입니다. 규제 수위가 가장 높은 유럽에서 모범생 위치를 선점함으로써 사업 불확실성을 털어내는 동시에, 후발 주자들에게는 높은 준법 비용을 강제하는 효과를 냅니다.

독자 방식을 고집하지 않고 C2PA와 구글의 SynthID 기술을 혼합한 실용적 접근은 긍정적으로 평가할 만합니다. 그러나 본질적인 위험은 검증 방식의 파편화에 있습니다. 모델 개발사마다 제각기 검증 사이트를 띄워놓고 사용자더러 찾아와 확인하라고 요구하는 구조는 지속 가능하지 않습니다. 브라우저와 SNS 피드 단에서 출처가 일괄 식별되는 표준 생태계가 만들어지지 않는다면, 이번 조치도 빅테크의 면피성 컴플라이언스에 그칠 가능성이 큽니다.