오픈AI·MS, 'AI 생성물 워터마크 의무화' 캘리포니아 법안 지지

소셜 미디어를 보다가 그럴듯하게 조작된 이미지를 마주쳤을 때, 파일의 메타데이터를 직접 열어보고 AI 작업물인지 확인하는 사람은 거의 없습니다.

AI 기업들이 파일 내부에 아무리 표식을 남겨도, 일반 이용자의 눈에 보이지 않는다면 무용지물에 가깝습니다. 캘리포니아주 의회가 바로 이 사각지대를 겨냥했고, 이번에는 거대 기술 기업들이 입법 지원에 나섰습니다.

테크크런치가 확인한 서한에 따르면, 8월 26일 오픈AI와 어도비, 마이크로소프트는 8월 최종 표결을 앞둔 캘리포니아주 법안 'AB 3211'에 대한 지지 입장을 공식 전달했습니다.

파일 속 표식을 대중의 눈앞으로

AB 3211 법안의 핵심은 두 단계로 구성됩니다.

먼저 기술 기업들이 AI로 만든 사진, 영상, 오디오 클립의 메타데이터에 의무적으로 워터마크를 삽입하도록 했습니다. 이미 많은 기업이 이를 도입하고 있지만, 메타데이터 자체를 일반 대중이 직접 읽는 경우는 드뭅니다.

법안은 여기서 한 발 더 나아가 인스타그램이나 엑스(X) 같은 대형 온라인 플랫폼에 책임을 지웠습니다. 일반 시청자가 직관적으로 이해할 수 있는 방식으로 AI 생성물임을 명확하게 표시하도록 강제한 것입니다.

오픈AI, 어도비, 마이크로소프트는 현재 AI 생성물 식별 표준으로 널리 쓰이는 C2PA 규격을 주도한 '콘텐츠 출처 및 진위 확인 연합(C2PA)'의 핵심 멤버이기도 합니다.

'과도한 부담'이라던 업계의 급선회

불과 몇 달 전만 해도 이들의 반응은 완전히 달랐습니다.

지난 4월, 어도비와 마이크로소프트를 포함한 주요 소프트웨어 기업들을 대변하는 무역 단체는 캘리포니아 의원들에게 서한을 보내 AB 3211에 반대했습니다. 당시 이들은 해당 법안이 "실행 불가능하며 지나치게 큰 부담을 지운다"며 거세게 비판했습니다.

그러나 이후 진행된 법안 수정 작업을 통해 업계의 기술적 현실과 의견이 반영되면서, 업계 거물들이 일제히 지지로 돌아섰습니다.

왜 중요한가

일반 이용자 입장에서는 환영할 만한 변화입니다. 온라인에 떠도는 콘텐츠가 진짜인지 가짜인지 판별하기 위해 애쓸 필요 없이, 유통 창구인 플랫폼이 직접 라벨을 붙여 진위를 알려주기 때문입니다.

빅테크의 셈법 측면에서도 매우 영리한 결정으로 보입니다.

이미 자신들이 구축해 둔 C2PA 표준을 주 법률의 사실상 표준으로 안착시키면서 규제 준수 이미지를 챙겼습니다. 동시에 실제 이용자 대상 라벨 표시와 검증의 까다로운 짐은 인스타그램이나 엑스 같은 배포 플랫폼에 상당 부분 넘기는 구도를 완성했습니다.

다만 한계는 여전합니다. 이미지를 단순히 캡처하거나 여러 번 압축하는 과정에서 메타데이터가 손쉽게 유실되는 기술적 허점은 아직 해결되지 않았습니다. 법안이 통과되더라도 정교한 악의적 딥페이크를 완전히 막아낼 수 있을지는 계속 지켜봐야 합니다.