바이두, 최대 424B 파라미터 오픈소스 'ERNIE 4.5' 모델군 공개

바이두가 허깅페이스에 'ERNIE 4.5' 제품군을 오픈소스로 공개했다. 0.3B 크기의 초경량 모델부터 424B에 달하는 초대형 멀티모달 모델까지 한 번에 배포되었다. 이미지 이해와 텍스트 생성이 모두 필요하거나, 장기 추론 특화 모델 및 극단적인 양자화 가중치가 필요한 개발자에게 폭넓은 선택지를 제공한다.

초경량부터 424B 플래그십까지의 규격

이번 ERNIE 4.5 컬렉션은 텍스트 생성 전용 모델과 비전-텍스트 멀티모달 모델의 두 가지 축으로 구성된다.

가장 규모가 큰 멀티모달 모델은 총 424B 파라미터에 활성 파라미터 약 47B 규모인 'ERNIE-4.5-VL-424B-A47B'다. 텍스트 모델 중에서는 총 300B 파라미터를 갖춘 'ERNIE-4.5-300B-A47B'가 최상위 모델로 자리 잡고 있다.

현실적인 온프레미스 배포를 위한 중간 체급으로는 28B 멀티모달 모델인 'ERNIE-4.5-VL-28B-A3B'와 21B 텍스트 모델인 'ERNIE-4.5-21B-A3B'가 마련되었다. 엣지 디바이스 구동을 고려한 0.3B 크기의 극소형 모델도 포함되어 있다.

파이토치 지원과 사고 특화 버전

이번 배포는 바이두 자체 프레임워크인 패들패들(PaddlePaddle)에만 국한되지 않는다. 널리 쓰이는 파이토치(PyTorch) 가중치를 전 규격에 걸쳐 함께 제공하여 기존 오픈소스 서빙 파이프라인에 곧바로 연결할 수 있다.

복잡한 논리 전개가 필요한 환경을 겨냥해 21B 텍스트 및 28B 멀티모달 모델에는 단계별 사고 과정을 거치는 'Thinking' 에디션이 별도로 추가되었다.

300B 모델의 막대한 VRAM 부담을 덜기 위해 FP8과 W4A8C8-TP4뿐만 아니라 멀티 GPU 텐서 병렬 처리가 가능한 2비트 극단적 압축 가중치까지 공식적으로 제공된다.

다운로드 및 실행 방법

모든 가중치와 토크나이저, 설정 파일은 허깅페이스의 baidu 공식 조직 내 ernie-45 컬렉션을 통해 내려받을 수 있다.

용도에 맞춰 파운데이션 역할을 하는 Base 버전이나 즉시 대화가 가능한 버전 중 선택할 수 있으며, 파이토치 환경을 지원하므로 vLLM이나 Hugging Face Transformers 기반 파이프라인에 손쉽게 통합할 수 있다.

왜 중요한가

오픈소스 생태계에서 400B급 규모에 시각 모델까지 갖춘 초대형 가중치는 여전히 희소하다. 특히 21B 및 28B Thinking 버전은 중소 규모 인프라에서도 장기 추론 성능을 검증해 볼 수 있는 실용적인 규격이다.

바이두가 독자 프레임워크 고집을 내려놓고 파이토치 가중치와 2비트 양자화 옵션을 기본 지원한 것은 개발자 생태계 적응을 위한 현실적인 선택으로 보인다. 사내망에서 구동할 고성능 멀티모달 오픈 가중치 모델을 물색 중인 팀이라면 직접 벤치마크해 볼 가치가 충분하다.