바이트댄스, AR 기반 이미지 생성 모델 '비트댄스' 공개…생성 속도 30배 향상

비트댄스(BitDance)는 바이트댄스가 오픈소스로 공개한 자기회귀(AR) 기반 이미지 생성 모델입니다. 가장 큰 무기는 압도적인 생성 속도입니다.

1024x1024 고해상도 이미지를 생성할 때 기존 AR 모델 대비 30배 이상 빠른 처리 속도를 보여줍니다.

대규모 언어 모델처럼 순차적으로 이미지를 찍어내는 AR 모델은 이미지 일관성과 품질이 뛰어나지만, 토큰을 하나씩 순서대로 생성해야 해 추론 속도가 매우 느리다는 고질적인 한계가 있었습니다. 비트댄스는 이 병목을 기술적으로 해결했습니다.

속도를 30배 끌어올린 메커니즘

기존 AR 모델은 정해진 코드북 색인을 활용해 이미지를 표현했지만, 표현력을 높이기 위해 토큰 크기를 키우면 분류 연산 비용이 급증하는 문제가 있었습니다.

비트댄스는 이미지를 조밀한 바이너리 비주얼 토큰으로 매핑하는 방식을 채택했습니다. 높은 엔트로피를 가진 바이너리 잠재 공간 덕분에 토큰 하나가 최대 2의 256제곱에 달하는 상태를 표현할 수 있어 높은 압축률과 세밀한 표현력을 동시에 확보했습니다.

이렇게 거대한 상태 공간은 기존 Softmax 방식으로 샘플링하기 어렵기 때문에, 비트댄스는 바이너리 디퓨전 헤드를 도입해 연속 공간의 확산 프로세스로 바이너리 토큰을 생성하도록 설계했습니다.

여기에 넥스트 패치 디퓨전(next-patch diffusion) 디코딩 기법을 더해, 매 디퓨전 단계마다 64개의 토큰을 병렬로 동시 예측함으로써 전체 생성 시간을 대폭 단축했습니다.

벤치마크 결과와 모델 규모

성능 지표 역시 뛰어납니다. ImageNet 256x256 벤치마크에서 AR 모델 중 역대 최고 수준인 1.24 FID를 기록했습니다.

2억 6천만(260M) 파라미터의 경량 모델만으로도 14억(1.4B) 파라미터를 탑재한 기존 병렬 AR 모델보다 우수한 품질을 내면서 속도는 8.7배 빨랐습니다.

이 구조는 140억(14B) 파라미터 규모의 대형 모델로 확장해도 높은 속도를 유지하며, 실사 수준의 고해상도 이미지를 안정적으로 생성합니다. 연구 논문과 모델 코드, 가중치는 모두 깃허브 등 오픈소스 커뮤니티에 공개되어 있습니다.

왜 중요한가

비트댄스는 순수 디퓨전 모델에 밀려 실서비스 적용이 주춤했던 AR 기반 이미지 생성을 다시 실용 영역으로 끌어올렸다는 점에서 의미가 큽니다. 언어 모델과의 결합이 쉬운 AR 아키텍처에 디퓨전의 병렬 생성 효율을 영리하게 접목했습니다. 차세대 멀티모달 파운데이션 모델을 직접 연구하거나 인프라 비용을 줄이며 고해상도 이미지 생성 서비스를 구축하려는 엔지니어라면 반드시 테스트해 볼 만한 프로젝트입니다.