Motion 3-to-4: 단안 비디오를 4D 동적 객체로 변환하고 모션 전이까지 지원
단안 비디오에서 고품질 4D 동적 객체를 생성하는 오픈소스 모델 Motion 3-to-4가 공개되었다. 정적 3D 형상과 모션 재구성을 분리해 프레임별 정점 궤적을 예측하며, 추출한 캐릭터의 움직임을 다른 비디오로 전이할 수 있다.
Llama, Qwen, DeepSeek 등 오픈소스·오픈 웨이트 모델과 주목할 만한 데이터셋, 프레임워크, 개발 도구.
단안 비디오에서 고품질 4D 동적 객체를 생성하는 오픈소스 모델 Motion 3-to-4가 공개되었다. 정적 3D 형상과 모션 재구성을 분리해 프레임별 정점 궤적을 예측하며, 추출한 캐릭터의 움직임을 다른 비디오로 전이할 수 있다.
오버월드가 키보드와 마우스로 실시간 제어할 수 있는 대화형 비디오 세계 모델 'Waypoint-1'을 오픈소스로 공개했습니다. 1만 시간 분량의 게임 영상으로 학습되어 RTX 5090에서 최대 60FPS의 초저지연 생성을 지원합니다. 아직 일관성 부족과 왜곡 현상이 있지만, 2.3B 소형 모델을 내려받아 로컬에서 실행할 수 있습니다.
LightOn이 엔드투엔드 비전-언어 OCR 모델 LightOnOCR-2-1B를 오픈소스로 공개했습니다. 1B 파라미터에 불과하지만 OlmOCR-Bench에서 9B 크기의 Chandra-9B를 제쳤으며 DeepSeekOCR보다 1.73배 빠릅니다. Apache 2.0 라이선스로 배포되며 1,600만 페이지 분량의 데이터셋도 함께 공개되었습니다.
메타가 스마트폰으로 촬영한 영상 시퀀스에서 개별 3D 객체를 재구성하는 프레임워크 'ShapeR'를 오픈소스로 공개했습니다. 공간 전체를 한 덩어리로 생성하던 기존 방식과 달리, SLAM 포인트와 멀티모달 데이터를 활용해 각 물체를 실제 크기에 맞춘 독립된 3D 메시로 복원합니다. 개별 물체 편집이 훨씬 쉬워집니다.
FlashLabs가 엔드투엔드 실시간 음성 대화 모델 Chroma 1.0을 아파치 2.0 라이선스로 오픈소스 공개했습니다. 텍스트 변환을 거치지 않고 음성 입력을 직접 이해해 실시간 음성과 텍스트 답변을 생성하며, 참조 음성을 활용한 맞춤형 음성 복제도 지원합니다. Qwen2.5-Omni와 Llama 3 기반이며 현재 영어만 지원합니다.
여러 캐릭터를 하나의 동작 시퀀스로 자연스럽게 움직이게 만드는 'CoDance'가 오픈소스로 공개됐다. 포즈와 위치의 고정된 결합을 풀고 텍스트와 마스크로 대상을 다시 지정해 포즈 불일치 문제를 해결했다. 현재 코드와 모델 가중치가 모두 제공된다.
구글이 Gemma 3 기반의 오픈 번역 모델 'TranslateGemma'를 발표했습니다. 4B, 12B, 27B 세 가지 크기로 55개 언어를 지원하며, 12B 모델이 기존 27B 기준 성능을 뛰어넘는 동시에 이미지 내 텍스트 번역 기능까지 그대로 유지했습니다.
오픈소스 음악 파운데이션 모델 'HeartMuLa'가 공개됐다. 스타일 프롬프트와 가사만 넣으면 보컬과 반주가 합쳐진 완곡을 생성하며, 현재 3B 파라미터 버전(약 16GB)이 배포 중이다. 다국어를 지원하고 멜로디 일관성이 뛰어나 폐쇄형 상용 모델인 Suno에 필적하는 성능을 오픈소스로 구현했다.
블랙포레스트랩이 13GB VRAM 그래픽카드에서 1초 미만에 이미지를 생성·편집할 수 있는 FLUX.2 klein을 출시했다. 아파치 2.0 라이선스의 4B 버전과 가중치가 공개된 9B 버전으로 제공되며, API와 무료 데모 앱도 지원한다.
블랙포레스트랩스가 1초 미만 추론 속도를 내세운 고속 이미지 생성 모델 'FLUX.2 [klein]'을 선보였다. 4B 및 9B 두 가지 규격으로 제공되며, 특히 4B 모델은 아파치 2.0 라이선스로 오픈소스 공개되어 8.4GB VRAM 환경에서도 로컬 구동이 가능하다.
NVIDIA가 전이중 음성 대화 모델 PersonaPlex를 공개했다. 사용자의 말을 들으면서 동시에 말하고 자연스러운 끼어들기와 맞장구가 가능하다. 텍스트 설정과 음성 샘플만으로 목소리와 역할을 자유롭게 지정할 수 있어, 자연스러운 흐름과 커스텀 페르소나를 모두 잡았다.
큐타이가 GPU 없이 CPU만으로 구동되는 초경량 음성 합성 도구 '포켓 TTS'를 오픈소스로 공개했다. 1억 파라미터 크기로 M4 맥북 에어 2개 코어에서 6배 실시간 속도와 200ms 응답 지연을 제공하며, 음성 복제와 무제한 텍스트 입력을 지원한다.
개발자 yatharthsharma3501이 초경량 오디오 업샘플링 모델 NovaSR을 오픈소스로 공개했다. 모델 크기가 약 52KB에 불과하며, 10개 미만의 Conv1D 계층 구조로 A100에서 실시간 대비 3600배 속도를 기록한다. 16kHz 음성을 48kHz 고음질로 복원해 온디바이스 기기나 TTS 실시간 품질 향상에 유용하다.
ShowLab이 사람의 화면 녹화와 마우스·키보드 조작을 보고 PC 작업을 학습하는 에이전트 ShowUI-Aloha를 오픈소스로 공개했다. 한 번의 시연만으로 작업 흐름을 추상화해 새 업무를 처리하며, OSWorld 벤치마크에서 60.1%의 성공률을 기록했다.
초고속 오픈소스 이미지 편집 모델 VIBE가 공개됐다. 2B 파라미터의 Qwen3-VL과 1.6B의 Sana 1.5를 결합해, H100에서 2K 이미지를 약 4초 만에 편집하며 증류 버전은 2초 이내로 단축된다. 가벼운 크기로 원본 디테일을 정교하게 유지하는 점이 특징이다.
UniSH가 단일 영상에서 3D 배경과 인체의 동적 움직임을 동시에 복원하는 순방향 프레임워크를 공개했습니다. 복잡한 반복 최적화 없이 흔들리는 영상에서도 장면 포인트 클라우드, 카메라 궤적, 인체 메쉬를 한 번에 추론합니다. 코드는 GitHub에 공개되어 로컬에서 실행할 수 있습니다.
텐센트가 텍스트 기반 3D 애니메이션 생성 모델 'HY-Motion 1.0'을 오픈소스로 공개했다. DiT 구조와 플로우 매칭을 기반으로 10억 개 이상의 파라미터를 갖췄으며, 200개 이상의 동작 범주를 지원해 생성된 3D 에셋을 기존 제작 파이프라인에 바로 통합할 수 있다.
fal이 오픈웨이트 이미지 모델 'FLUX.2 [dev] Turbo'를 공개했다. DMD2 증류 기술을 통해 생성 단계를 50단계에서 8단계로 단축했으며, 1024x1024 이미지를 6.6초 만에 장당 약 0.008달러로 생성한다. 가중치는 Hugging Face에 공개되었으나 상업적 이용 시에는 fal의 API를 거쳐야 한다.
리퀴드 AI가 순수 강화학습 기반의 실험적 체크포인트 'LFM2-2.6B-Exp'를 공개했다. 지시 수행, 지식, 수학 벤치마크에서 기존 3B급 모델을 제쳤으며, IFBench 점수에서는 263배 큰 DeepSeek R1-0528을 앞섰다. 모델 가중치는 허깅페이스에 무료로 공개됐다.
알리바바 Qwen 팀이 이미지를 독립된 RGBA 레이어로 분해하는 'Qwen-Image-Layered'를 오픈소스로 공개했다. 프롬프트로 3~10개 레이어를 지정해 나눌 수 있고 계층적 무한 분해도 지원한다. AI 생성 이미지를 일일이 누끼 딸 필요 없이 바로 레이어별 편집이 가능해진다.