레노버, 하이브리드 AI 전략 공개: 엔비디아와 협력해 PC로 LLM 가져온다

PC 및 엔터프라이즈 하드웨어 대기업 레노버가 TechWorld 2023 행사에서 하이브리드 AI 전략을 공개했습니다. 퍼블릭 대형언어모델(LLM)과 기업용 프라이빗 모델, 그리고 개인 기기에서 작동하는 온디바이스 모델을 하나로 엮는 하이브리드 생태계를 전면에 내세웠습니다.

대형 모델을 압축해 개인 PC로 가져오다

용 루이(Yong Rui) 레노버 그룹 CTO는 기자 및 애널리스트 브리핑에서 AI의 미래는 하이브리드 AI 생태계에 있다고 단언했습니다. 다만 구체적으로 어떤 퍼블릭 LLM을 활용할 것인지에 대해서는 파트너십에 크게 의존할 방침이라며 구체적인 모델 이름을 밝히지 않았습니다.

대신 레노버가 집중하는 영역은 기업 프라이빗 모델과 개인용 온디바이스 AI입니다. 엔터프라이즈 분야에서는 벡터 데이터베이스와 사내 지식을 결합하고, 기존 ERP나 CRM 같은 핵심 업무 시스템과 연동하는 '공동 파인튜닝(Joint Fine-Tuning)' 기법을 도입했습니다.

특히 대규모 GPU 클러스터 없이 개인용 디바이스에서 모델을 구동하기 위해, 모델 가지치기(pruning)와 양자화(quantization)를 결합한 압축 기술을 개발했다고 밝혔습니다. 여기에 쿼리 분석과 인코딩, 디코딩을 처리해 사내 데이터 유출을 막는 데이터 관리 및 프라이버시 프록시 모듈을 핵심 프레임워크로 배치했습니다.

엔비디아와 전면 협력, 2024년 옴니버스 전용 하드웨어 예고

엔터프라이즈 AI 발표에서 빠질 수 없는 엔비디아와의 파트너십도 대폭 강화되었습니다. 엔비디아 GPU를 탑재하고 엔비디아 AI 엔터프라이즈 소프트웨어에 최적화된 ThinkSystem SR675 V3 서버와 ThinkStation PX 워크스테이션이 중심에 섰습니다.

양사는 엔비디아 옴니버스 플랫폼에 최적화된 새로운 하드웨어 라인업을 개발 중이며, 2024년 정식 출시할 계획입니다. 스콧 티즈(Scott Tease) 레노버 HPC 및 AI 부문 총괄 부사장은 클라우드가 AI 혁신을 주도하고 있지만 AI가 존재하는 유일한 공간은 결코 아니라고 강조했습니다.

서비스 부문인 SSG를 통해서는 생성형 AI 기반의 디지털 워크스페이스 솔루션인 Care One을 공개해 자동화된 지원을 제공하고, 친환경 IT 환경 설계를 돕는 지속가능성 엔진도 함께 선보였습니다.

왜 중요한가

우리는 레노버가 자체 거대 모델을 처음부터 훈련하는 소모전을 피하고, 하드웨어 제조사 본연의 강점인 시스템 통합과 온디바이스 경량화에 초점을 맞춘 선택이 매우 영리하다고 평가합니다.

현재 기업들이 생성형 AI 도입을 망설이는 가장 큰 이유는 데이터 프라이버시와 값비싼 인프라 비용입니다. 레노버가 내세운 것처럼 ERP와 연동되면서도 데이터를 로컬에 묶어두고, PC 수준의 기기에서 압축된 모델을 직접 돌릴 수 있다면 엔터프라이즈 고객에게는 실질적인 해결책이 될 수 있습니다.

다만 한계도 뚜렷합니다. 핵심 퍼블릭 모델과 GPU 칩셋을 모두 외부 파트너에 의존하고 있어, 레노버가 쥘 수 있는 독자적인 마진과 주도권은 프록시 레이어와 압축 알고리즘에 국한됩니다. 향후 OS나 칩셋 제조사가 이러한 최적화 기능을 기본 탑재할 경우 하드웨어 번들링 외에 어떤 차별점을 남길 수 있을지가 관건입니다. 그럼에도 불구하고 기업 고객들에게 'AI 시대를 대비한 PC 교체 주기'를 설득할 강력한 명분을 선점했다는 점은 분명합니다.