소라, '카메오' 제한 기능 도입…내 얼굴의 정치 영상 생성 막는다

자신의 얼굴과 목소리를 등록해 다른 사용자가 영상에 활용할 수 있게 했더니, 자고 일어났더니 내 아바타가 정치 선동을 하거나 욕설을 뱉고 있다면 어떨까요.

초대제 운영에도 불구하고 앱스토어 1위에 오른 OpenAI의 동영상 생성 앱 '소라(Sora)'가 출시 직후 불거진 초상권 및 저작권 논란에 대응해 즉각적인 안전 조치를 내놓았습니다. 사용자가 생체 데이터를 올려 디지털 분신을 만드는 '카메오(Cameo)' 기능과 유명 저작물 캐릭터의 무단 생성이 빠르게 확산되자 긴급 진화에 나선 것입니다.

OpenAI의 빌 피블스와 샘 올트먼 CEO는 카메오 제어 기능 추가와 저작권 정책의 대대적인 수정을 발표했습니다.

내 분신에 직접 규칙을 부여하는 제한 기능 도입

빌 피블스는 사용자가 자신의 카메오를 타인에게 공개하면서도 통제권을 유지할 수 있는 기능을 시작했다고 밝혔습니다. 설정 메뉴의 카메오 제한 항목에서 자연어로 생성 규칙을 직접 지정할 수 있습니다.

예를 들어 "정치적 논평이 담긴 영상에는 나를 넣지 말 것"이라거나 "이 특정 단어를 말하지 못하게 할 것"과 같은 프롬프트를 지정해 두면 다른 사용자가 이를 어기는 영상을 만들 수 없습니다.

또한 생성 영상의 워터마크를 더 선명하고 눈에 띄게 개선하고 있으며, 안전 필터를 우회하는 허점을 보완하는 작업도 진행 중입니다. 이와 함께 소라 계정을 삭제하면 ChatGPT 계정까지 함께 삭제되던 황당한 오류도 수정되었습니다.

저작권 침해 논란에 '옵트인' 방식으로 선회

더 큰 변화는 저작권 정책에서 나타났습니다. 월스트리트저널에 따르면 OpenAI는 출시 전 할리우드 제작사들에게 캐릭터가 사용되는 것을 원치 않으면 '옵트아웃(거부 의사 표시)'을 해야 한다고 통보해 큰 반발을 샀습니다.

실제로 소라 출시 후 피카츄나 스펀지밥이 샘 올트먼의 딥페이크와 함께 등장해 저작권 정책을 조롱하는 영상들이 넘쳐났습니다. 이에 올트먼 CEO는 블로그를 통해 저작권자가 사전에 허용한 캐릭터만 생성할 수 있는 세분화된 '옵트인' 모델을 도입하겠다고 밝혔습니다.

올트먼은 이를 '상호작용형 팬픽션'이라 부르며 많은 권리자들이 관심을 보이고 있다고 전했습니다. 또한 향후 영상 생성 서비스의 유료화와 함께 저작권 권리자들과 수익을 공유하는 방안도 검토 중이라고 언급했습니다.

왜 중요한가

일반 이용자와 창작자 입장에서 카메오 제한 기능은 최소한의 안전장치입니다. 자연어 프롬프트로 자신의 초상권 남용을 막을 수 있게 되면서, 딥페이크 피해 공포 때문에 아바타 공개를 꺼리던 이용자들의 진입 장벽이 낮아졌습니다.

콘텐츠 산업 측면에서는 OpenAI가 기존 빅테크 특유의 '선 학습 후 배제(옵트아웃)' 방식을 철회하고 사전 허락(옵트인)과 수익 배분을 약속했다는 점이 핵심입니다. 할리우드와의 정면충돌을 피하고 2차 창작 라이선싱 생태계로 전환하려는 영리한 후퇴로 볼 수 있습니다.

하지만 자연어 기반 프롬프트 차단이 탈옥(Jailbreak) 시도를 얼마나 완벽히 막아낼 수 있을지는 여전히 미지수입니다. 필터를 뚫고 부적절한 영상이 생성되었을 때의 책임 소재와 더불어, 실제 수익 배분 모델이 안착하기 전까지는 저작권자들의 경계심이 쉽게 풀리지 않을 것으로 보입니다.