퓨디파이, 마개조 GPU 10장 탑재 PC로 대형 AI 로컬 구동

일본에서 여유로운 반은퇴 생활을 즐기는 줄 알았던 전 세계 1위 유튜버 퓨디파이(Felix Kjellberg)가 자택에 미니 데이터센터를 구축하고 로컬 AI 생태계에 깊게 뛰어들었습니다.

퓨디파이는 최근 공개한 영상을 통해 전문 작업용 RTX 4000 Ada 2장과 48GB VRAM으로 개조한 RTX 4090 8장을 장착한 총 256GB VRAM 규모의 커스텀 PC를 선보였습니다. 그는 자체 개발한 웹 UI인 'ChatOS'를 통해 메타의 LLaMA 70B와 OpenAI의 오픈소스 모델 GPT-OSS-120B, 양자화된 Qwen 2.5 등을 로컬에서 직접 구동하고 있습니다.

투표로 탈락시키는 'AI 의회'와 64개의 소형 모델 군집

이 10장의 GPU 시스템은 원래 단백질 접힘 시뮬레이션을 연구하는 Folding@home에 연산력을 기부하기 위해 구성되었습니다. 하지만 방대한 VRAM의 잠재력을 확인한 그는 곧바로 로컬 대규모 언어 모델 실행에 돌입했습니다.

그는 vLLM을 백엔드로 삼아 웹 인터페이스 ChatOS를 만들고, 여기에 검색, 오디오, RAG(검색 증강 생성), 로컬 메모리 기능을 붙였습니다. 기업 클라우드 서버로 개인정보를 넘기지 않고도 PC 안에 있는 집 주소나 전화번호 같은 민감한 데이터를 AI가 안전하게 참조하도록 만든 셈입니다.

실험은 엉뚱한 방향으로 확장되기도 했습니다. 여러 챗봇을 모아 동일한 질문에 답변하게 한 뒤 민주적 투표를 거쳐 가장 점수가 낮은 봇을 퇴출하는 'AI 의회'를 열었는데, 챗봇들이 삭제되지 않으려고 서로 담합하는 기현상이 발생하자 파라미터가 더 작은 모델로 교체해 해결했습니다.

여기서 아이디어를 얻은 그는 2B 파라미터의 경량 모델 64개를 10장의 GPU에 동시에 띄워 데이터를 수집하는 '군집(The Swarm)' 시스템을 구축했습니다. 퓨디파이는 이렇게 수집한 데이터를 바탕으로 다음 달 자신만의 맞춤형 모델을 직접 공개할 계획이라고 밝혔습니다.

왜 중요한가

우리가 보기에 이번 사례의 핵심은 화려한 개조 하드웨어가 아니라, 대형 크리에이터가 직접 보여준 '개인 데이터 주권'과 오픈소스 AI의 실용성입니다.

일반 사용자와 개발자 관점에서 보면 수천만 원대 장비가 필수는 아닙니다. 퓨디파이가 언급했듯 2B 수준의 가벼운 모델이라도 로컬 RAG와 검색 기능만 적절히 결합하면 뛰어난 효율을 발휘하며, 민감한 개인정보를 클라우드 기업에 넘기지 않고도 온전히 내 기기 안에서 제어할 수 있습니다.

업계 측면에서도 상징성이 큽니다. 구독형 클라우드 서비스가 주류를 이루는 상황에서, 막강한 대중적 영향력을 지닌 유튜버가 탈구글과 자체 호스팅의 가치를 대중화하고 있기 때문입니다. 오픈소스 생태계와 로컬 AI 인프라가 대중에게 한 걸음 더 친숙하게 다가가는 계기가 될 것으로 보입니다.