스탠퍼드, 고처리량 추론 엔진 Tokasaurus 공개…vLLM 대비 최대 3배 빨라
스탠퍼드 연구진이 대규모 배치와 합성 데이터 생성 등 고처리량 작업에 특화된 오픈소스 추론 엔진 Tokasaurus를 공개했다. CPU 오버헤드 최소화와 공유 프리픽스 동적 탐색, 비 NVLink 환경 파이프라인 병렬 최적화를 통해 vLLM 및 SGLang 대비 최대 3배 이상 높은 처리량을 제공한다.
오픈소스 · 데일리
목
6월 5일 목요일
수
5월 28일 수요일
텐센트, 사진으로 노래하는 영상 만드는 'HunyuanVideo-Avatar' 오픈소스 공개
텐센트 훈위안과 텐센트 뮤직이 사진 한 장과 오디오를 결합해 말하고 노래하는 영상을 제작하는 HunyuanVideo-Avatar를 발표하고 단일 캐릭터 모드를 오픈소스로 공개했다. 감정과 맥락을 감지해 최대 14초 분량의 영상을 만들며, 다인 인터랙션 모드도 조만간 공개될 예정이다.
화
5월 27일 화요일
워드프레스, 전담 AI 팀 신설: 구글과 손잡고 '플러그인 우선' 개발 나선다
워드프레스가 플랫폼 내 인공지능 프로젝트를 총괄할 전담 AI 팀을 공식 신설했다. 오토매틱과 구글 출신 기여자들이 합류했으며, 코어 정기 업데이트를 기다리지 않고 공식 플러그인 형태로 AI 기능을 빠르게 검증해 나갈 방침이다.
수
5월 21일 수요일
미스트랄, 코딩 특화 오픈소스 모델 Devstral 공개: 상용화 무료·로컬 구동 지원
미스트랄이 All Hands AI와 공동 개발한 코딩 특화 AI 모델 Devstral을 공개했다. 240억 개 파라미터 크기로 Apache 2.0 라이선스를 채택해 상업적 이용이 자유롭고, RTX 4090 한 장이나 32GB Mac에서 로컬 구동된다. 벤치마크 평가에서는 Gemma 3 27B와 DeepSeek의 V3를 앞섰다.
화
5월 20일 화요일
스태빌리티 AI, 단일 영상으로 4D 에셋 만드는 'SV4D 2.0' 공개
스태빌리티 AI가 단일 동영상에서 동적 4D 에셋과 새로운 시점을 합성하는 'Stable Video 4D 2.0'을 공개했다. 다각도 참조 이미지 없이 3D 어텐션으로 일관성을 높였으며, 허깅페이스와 깃허브에서 상업적 이용 가능한 라이선스로 배포된다.
구글, 모바일 특화 '젬마 3n' 공개: 5B 모델이 2GB 램에서 구동
구글이 온디바이스 오픈 모델 '젬마 3n' 프리뷰를 발표했다. 딥마인드의 PLE 기술을 적용해 5B 및 8B 모델의 메모리 점유율을 2GB, 3GB 수준으로 대폭 낮췄다. 기기 내에서 오디오와 영상, 텍스트를 실시간 처리할 수 있는 점이 핵심이다.
수
5월 14일 수요일
Stability AI와 Arm, 온디바이스 오디오 모델 오픈소스 공개… 스마트폰서 8초 만에 생성
Stability AI와 Arm이 3억 4,100만 매개변수 규모의 'Stable Audio Open Small'을 오픈소스로 공개했다. Arm CPU에 최적화되어 스마트폰에서 11초 분량의 오디오를 8초 이내에 생성한다. 상업적 이용이 가능한 라이선스로 배포되어 모바일 환경에서 효과음 생성이 가능해졌다.
화
5월 6일 화요일
라이트릭스, 일반 그래픽카드로 구동되는 오픈소스 'LTX 비디오-13B' 공개
라이트릭스가 130억 매개변수 규모의 오픈소스 동영상 생성 모델 'LTX 비디오-13B'를 공개했다. 다단계 렌더링을 적용해 동급 모델 대비 최대 30배 빠르게 고해상도 영상을 생성하며, 최적화를 거쳐 일반 소비자용 GPU에서도 로컬 구동된다. 연 매출 1000만 달러 미만 기업은 무료 상용화가 가능하다.
금
5월 2일 금요일
엔비디아, 1초 만에 1시간 오디오 전사하는 Parakeet-TDT-v2 오픈소스 공개
엔비디아가 허깅페이스에 음성 인식 모델 'Parakeet-TDT-0.6B-v2'를 오픈소스로 공개했다. 6억 개 매개변수 규모로 GPU 구동 시 1초 만에 1시간 분량 오디오를 전사하며 오픈 ASR 리더보드 1위를 차지했다. CC-BY-4.0 라이선스로 상업적 이용도 자유롭다.
목
5월 1일 목요일
Ai2, 10억 파라미터 소형 모델 ‘Olmo 2 1B’ 공개… 구글·메타 동급 능가
비영리 연구소 Ai2가 목요일 10억 파라미터 소형 오픈소스 모델 ‘Olmo 2 1B’를 출시했다. 코드와 학습 데이터셋을 아파치 2.0으로 완전 공개했으며, 산술 추론과 사실성 평가에서 구글과 메타의 동급 모델을 앞선다. 최신 노트북이나 모바일 기기에서도 원활하게 실행된다.
MS, 14B 추론 모델 'Phi-4-reasoning-plus' 오픈소스 공개…70B 모델 추월
Microsoft가 14B 파라미터 기반의 오픈소스 추론 모델 'Phi-4-reasoning-plus'를 공개했습니다. AIME 2025 수학 벤치마크 pass@1 기준 DeepSeek-R1 70B 증류 모델을 능가하는 성과를 보였습니다. 상업적 활용에 제약이 없는 MIT 라이선스를 적용했으며, Ollama 및 vLLM 등에서 바로 구동할 수 있습니다.
화
4월 29일 화요일
인텔, AutoRound 공개: 72B 모델을 37분 만에 양자화하는 경량화 도구
인텔이 LLM 및 VLM을 위한 사후 양자화 도구 AutoRound를 공개했다. 가중치 반올림과 클리핑 범위를 최적화해 INT2 정밀도에서 기존 대비 최대 2.1배 높은 상대 정확도를 달성했다. 72B 모델 양자화를 37분 만에 끝내며 GPTQ, AWQ, GGUF 형식 내보내기를 지원한다.
목
4월 24일 목요일
OpenAI 공개 모델, 복잡한 질문엔 클라우드 모델 호출 기능 검토
테크크런치에 따르면 OpenAI는 초여름 출시 예정인 오픈소스 추론 모델에 로컬에서 해결하기 어려운 복잡한 질문을 클라우드 대형 모델로 넘기는 '핸드오프' 기능 도입을 논의 중이다. 처음부터 새로 훈련 중이며 딥시크 R1을 겨냥한 한편, 오픈소스 사용자를 자사 유료 생태계로 유입시키려는 구상이다.
월
4월 21일 월요일
대학생 2명이 무자본으로 개발한 오픈소스 음성 AI '디아' 공개…일레븐랩스 능가
한국 스타트업 나리랩스가 오픈소스 텍스트-음성 변환 모델 '디아(Dia)'를 공개했다. 개발 경험이 적은 학부생 2명이 외부 투자 없이 개발한 16억 파라미터 모델로, 감정 표현과 다중 화자, 웃음·기침 등 비언어적 소리를 자연스럽게 구현해 일레븐랩스 등 상용 솔루션을 위협하고 있다.
금
4월 18일 금요일
구글, Gemma 3 QAT 모델 공개: 27B 모델을 일반 소비자용 GPU에서 실행
구글은 양자화 인식 훈련(QAT)을 적용한 Gemma 3 오픈 모델을 공개했다. 훈련 과정에 양자화를 시뮬레이션해 4비트(int4) 환경에서도 퍼플렉시티 손실을 54% 줄였다. 이를 통해 고가의 서버용 장비 없이도 지포스 RTX 3090 같은 일반 소비자용 GPU에서 27B 모델을 로컬로 구동할 수 있다.
목
4월 17일 목요일
LTX 스튜디오, 오픈소스 비디오 모델 'LTXV 0.9.6' 공개… 2B 모델 2종 제공
LTX 스튜디오가 오픈소스 비디오 모델 LTXV 0.9.6을 공개했습니다. 최종 결과물 제작을 위한 고품질 버전과 빠른 작업 및 가벼운 배포를 위한 증류 버전 등 20억 개 매개변수(2B) 모델 2종을 제공합니다.
알리바바, 시작과 끝 프레임 잇는 14B 영상 모델 ‘Wan2.1-FLF2V’ 오픈소스 공개
알리바바가 시작과 종료 프레임을 입력받아 자연스러운 전환 영상을 생성하는 14B 모델 ‘Wan2.1-FLF2V’를 오픈소스로 공개했다. 추가 제어 메커니즘을 통해 양 프레임의 시각적 특징을 유지하며 부드러운 움직임을 구현한다. Wan 공식 웹사이트에서 5초 720p 영상을 무료로 생성할 수 있으며 허깅페이스와 깃허브에도 공개되었다.
