오픈AI·틱톡 등 10개 사, 생성형 AI 자율 지침 서약…AI 콘텐츠 표기 추진

온라인에서 접하는 영상이 카메라로 찍은 실제 장면인지 알고리즘이 빚어낸 가짜인지 구분하기가 갈수록 어려워지고 있습니다.

정부 차원의 법적 규제가 속도를 내지 못하자, AI 기술을 이끄는 주요 기업들이 먼저 자율적인 가이드라인을 세우고 나섰습니다.

오픈AI와 틱톡, 어도비, BBC, 데이팅 앱 범블(Bumble) 등 10개 기관이 생성형 AI의 책임 있는 개발 및 공유를 위한 새로운 자율 지침에 서명했습니다. 이 지침은 비영리 AI 연구단체인 PAI(Partnership on AI)가 50여 개 기관과의 논의를 거쳐 마련했습니다.

초기 서명 기업에는 캐나다 공영방송 CBC/Radio-Canada와 인권 단체 위트니스(Witness), 그리고 신세시아(Synthesia), D-ID, 리스피처(Respeecher) 등 합성 미디어 스타트업들이 함께 이름을 올렸습니다.

워터마크부터 메타데이터까지 투명성 강화

이번 가이드라인의 핵심 키워드는 '투명성'입니다.

오픈AI 같은 모델 개발사에는 기술이 할 수 있는 일과 없는 일의 한계를 명확히 밝히도록 요구하고, 틱톡이나 BBC 같은 유통 플랫폼에는 이용자가 접하는 콘텐츠가 AI로 만들어졌다는 사실을 반드시 공개하도록 했습니다.

구체적인 실행 방안으로는 눈에 보이는 워터마크 삽입, 명확한 안내 문구 표기, 그리고 모델의 학습 데이터나 메타데이터에 추적 가능한 식별 요소를 남기는 방식 등이 제시되었습니다.

PAI의 미디어 무결성 책임자인 클레어 레이보위츠는 합성 미디어가 타인에게 피해를 주는 대신 창작과 지식 공유를 돕는 도구로 쓰이도록 하겠다고 취지를 설명했습니다.

‘자율 규제’의 한계와 사각지대

하지만 업계 전문가들 사이에서는 실효성에 대한 회의론이 즉각 터져 나왔습니다.

딥페이크를 연구하는 UC 버클리의 하니 파리드 교수는 "자율적인 가이드라인이나 원칙이 실제로 효과를 거둔 사례는 극히 드물다"고 꼬집었습니다.

오픈AI가 챗GPT나 DALL-E에 아무리 안전장치를 달아도 협약에 참여하지 않은 외부 플레이어는 통제할 수 없기 때문입니다. 예컨대 오픈소스 이미지 모델 스테이블 디퓨전을 만든 스타빌리티 AI(Stability.AI) 같은 곳을 거치면 누구나 손쉽게 부적절한 이미지나 딥페이크를 만들 수 있습니다.

파리드 교수는 아마존, 마이크로소프트, 구글, 애플 등 클라우드 및 앱 마켓 운영사들이 악의적인 딥페이크 도구를 퇴출하고, 모든 AI 콘텐츠에 워터마크를 의무화하는 강제 조치가 필요하다고 주장했습니다.

인텔의 수석 연구원 일케 데미르와 디지털 권리 단체 액세스 나우는 지침이 사기나 가짜 뉴스는 다루면서도 학습 데이터의 독성이나 인종적 편향성 같은 AI 자체의 구조적 문제를 빠뜨렸다고 지적했습니다.

왜 중요한가

일반 사용자 입장에서 이번 조치는 틱톡 피드나 범블 프로필에서 'AI 생성' 라벨을 더 자주 마주하게 된다는 의미를 갖습니다. 조작된 콘텐츠에 속을 위험은 다소 줄어들겠지만, 규제를 벗어난 오픈소스 도구가 넘쳐나는 상황에서 경계를 완전히 늦추기는 어렵습니다.

산업적 측면에서 이번 서약은 유럽연합(EU)의 AI 법(AI Act) 등 다가올 규제에 대비한 빅테크의 선제적 방어책에 가깝습니다. 법적 철퇴가 내려지기 전에 민간 차원에서 자정 능력이 있음을 보여주려는 의도입니다.

우리는 모델 개발사부터 콘텐츠 플랫폼까지 한자리에 모여 AI 표기를 약속했다는 점 자체는 의미 있는 첫걸음이라고 평가합니다.

그러나 구속력이나 처벌 조항이 없는 신사협정은 치열한 상업적 이익 앞에서 무너지기 쉽습니다. 규정을 어겨도 아무런 불이익이 없다면, 소수 모범생의 자율적인 노력만으로 AI 생태계의 무질서를 바로잡기는 역부족으로 보입니다.