리퀴드 AI, 'LFM2-2.6B-Exp' 공개: 순수 강화학습으로 3B급 최고 성능 달성

LFM2-2.6B-Exp는 노트북이나 엣지 기기에서 가볍게 구동할 수 있는 26억 파라미터 규모의 실험적 언어 모델입니다. 복잡한 지시 수행과 수학 문제 해결에 특화되어 있으며, 현재 허깅페이스에서 가중치를 내려받아 바로 테스트해 볼 수 있습니다.

무엇을 할 수 있나

리퀴드 AI에 따르면 이 모델은 지시 수행, 일반 지식, 수학 벤치마크 전반에서 기존 3B급 경쟁 모델들을 앞섭니다.

가장 눈에 띄는 지표는 까다로운 제약 조건 수행 능력을 평가하는 IFBench입니다. LFM2-2.6B-Exp는 파라미터 수가 263배나 더 큰 DeepSeek R1-0528보다 높은 점수를 기록했습니다.

기반 모델 역시 GSM8K 82.41%, IFEval 79.56%를 기록해 Llama 3.2 3B Instruct, Gemma 3 4B it, SmolLM3 3B를 앞선 바 있습니다. 이번 체크포인트는 그 강점을 더욱 날카롭게 다듬었습니다.

또한 ChatML과 유사한 기본 도구 호출 토큰을 지원해, JSON으로 정의된 도구를 인식하고 파이썬 스타일의 호출 코드를 생성합니다. 복잡한 입력 시 think 토큰을 활용한 동적 하이브리드 추론도 가능합니다.

구현 방식과 하드웨어 사양

이 모델의 핵심은 순수 강화학습 파이프라인에 있습니다. 이미 대규모 지도 미세조정(SFT)과 정렬을 거친 LFM2-2.6B 베이스 위에, 추가적인 SFT나 증류 과정 없이 검증 가능한 보상 기반의 순수 강화학습만을 순차 적용했습니다.

하부 구조는 리퀴드 AI 특유의 하이브리드 설계를 유지합니다. 총 30개 레이어 중 22개의 LIV 합성곱 블록과 8개의 그룹 쿼리 어텐션(GQA) 블록을 조합했습니다.

이러한 구조 덕분에 KV 캐시 메모리 소모가 적어 일반 소비자용 GPU나 NPU에서도 매우 빠른 추론 속도를 보입니다. 컨텍스트 길이는 32,768 토큰, 어휘 수는 65,536개이며 한국어, 영어, 중국어, 일본어 등을 지원합니다.

왜 중요한가

로컬 환경에서 AI 에이전트나 자동화 도구를 구축하려는 개발자에게 매력적인 선택지입니다. 기존 3B 모델들은 프롬프트의 세부 제약 조건을 자주 무시했지만, 이 모델은 규칙 준수 능력을 극대화했습니다.

다만 2.6B라는 물리적 크기의 한계로 인해 방대한 배경지식이 필요한 자유 작문에서는 대형 모델을 대체하기 어렵습니다. 그러나 정해진 지시를 빈틈없이 수행하는 온디바이스 컨트롤러나 도구 호출 엔진으로서는 동급 최고 수준의 완성도를 보여줍니다.