애플 인텔리전스, AI 편집 이미지 메타데이터에 수정 기록 남긴다

사진 속 지나가던 행인을 지우거나 텍스트 몇 줄로 이모티콘을 만들어내는 작업이 스마트폰 안에서 자연스러워졌습니다. 하지만 동시에 우리가 보는 이미지가 진짜인지 AI가 만들어낸 가짜인지 가려내기는 점점 더 어려워지고 있습니다.

애플은 이 문제에 대해 자체 AI 기능이 닿은 모든 이미지에 꼬리표를 달겠다는 방침을 정했습니다. 애플의 소프트웨어 엔지니어링 수석 부사장인 크레이그 페더리기는 최근 유명 IT 블로거 존 그루버의 팟캐스트에 출연해 애플 인텔리전스의 구체적인 이미지 정책을 공개했습니다.

배경 물체 하나만 지워도 메타데이터에 기록

크레이그 페더리기는 아무리 사소해 보이는 사진 편집이라도 투명성을 보장할 것이라고 밝혔습니다. 배경에서 방해 요소를 지우는 단순 지우개 기능만 써도 이미지 메타데이터에 수정되었다는 정보가 남습니다.

텍스트 입력으로 완전히 새로운 이미지를 만들 때뿐만 아니라, 기존 사진을 부분적으로 수정한 경우에도 해당 파일의 속성 정보에 변경 내역이 고스란히 기록되는 방식입니다.

또한 페더리기는 애플이 실제 사람이나 장소의 실사 이미지를 생성하는 기술을 개발할 의도가 없다고 분명히 선을 그었습니다. 딥페이크 논란의 중심이 되는 극사실적 이미지 생성 대신 스타일화된 일러스트나 이모지에 집중하겠다는 뜻입니다.

AI 콘텐츠에 표식을 남기는 작업은 빅테크 전반으로 확산되고 있습니다. 틱톡, 오픈AI, 마이크로소프트, 어도비 등도 디지털 워터마크나 메타데이터를 활용한 식별 체계를 도입하기 시작했습니다. 2024년 미국 대선을 앞두고 조잡한 AI 허위 정보와 생성물을 뜻하는 'slop'에 대한 사회적 우려가 커졌기 때문입니다.

구글이 검색 AI 오버뷰 기능에서 치즈가 흘러내리지 않게 피자에 접착제를 바르라는 위험한 답변을 내놓아 곤욕을 치른 것과 비교하면 애플의 행보는 매우 보수적입니다. 애플은 올해 말 퍼블릭 베타를 통해 해당 기능들을 순차적으로 공개할 예정입니다.

왜 중요한가

애플의 메타데이터 기록과 실사 인물 생성 포기 결정은 철저히 위험을 피해 가려는 영리한 브랜딩 전략으로 보입니다.

일반 사용자 입장에서 메타데이터 표기는 매우 깔끔한 타협점입니다. 이미지 한구석에 눈에 거슬리는 시각적 워터마크를 강제로 찍지 않기 때문에 소장용 사진의 미관을 해치지 않으면서도 시스템 내부적으로는 투명성을 챙길 수 있습니다.

하지만 현실적인 한계도 뚜렷합니다. 대다수 소셜 미디어 플랫폼은 데이터 용량을 줄이기 위해 이미지를 업로드할 때 메타데이터를 자동으로 삭제합니다. 악의를 가진 사용자가 조작된 이미지를 퍼뜨릴 경우 일반 대중이 이를 메타데이터로 판별해 내기는 사실상 불가능합니다.

그럼에도 불구하고 애플이 실사 인물 생성을 원천 차단한 것은 중요한 기준점을 제시합니다. 경쟁사들이 얼마나 진짜 같은 인간을 그릴 수 있는지 과시하는 동안, 애플은 생성 AI를 아기자기한 보조 도구 영역에 묶어 두었습니다. 화려한 기술 쇼는 줄어들었을지 몰라도, 향후 거세질 딥페이크 규제 폭풍 속에서 가장 안전한 자리를 선점한 셈입니다.