本文へスキップ
IFAI

オープンソース

PewDiePie、改造GPUを10基搭載した自作PCで大規模AIをローカル運用

公開 拡散指数 40

YouTuberのPewDiePieが48GBに改造したRTX 4090を含む計10基のGPUを積んだPCを構築し、オープンソースの大規模言語モデルを完全ローカルで動かしていると明かした。独自UI「ChatOS」も開発し、来月には独自のモデルを公開する予定だという。

PewDiePie、改造GPUを10基搭載した自作PCで大規模AIをローカル運用
画像:tomshardware.com

日本で穏やかなセミリタイア生活を送っていると思われていた元トップYouTuberのPewDiePie(フェリックス・シェルバーグ)が、自宅に本格的なミニデータセンターを構築し、独自のローカルAI運用に没頭しています。

フェリックスが公開した動画によると、彼はRTX 4000 Adaを2枚、さらにVRAMを48GBに改造したRTX 4090を8枚搭載した超ド級の自作PCを用意。合計約256GBのビデオメモリを活用して「ChatOS」という専用UIを自作し、MetaのLLaMA 70BやOpenAIのGPT-OSS-120B、量子化したQwen 2.5などを完全ローカルで動かしています。

ボット同士を争わせる「AI議会」と64台の「群れ」

このマシンはもともと、タンパク質構造予測を行うFolding@homeに計算リソースを寄付し、医療研究に貢献するために組まれたものでした。しかし膨大なVRAMの使い道として、フェリックスは自然とローカルLLMの深みにはまっていきます。

彼はバックエンドにvLLMを採用したWeb UI「ChatOS」を自作。モデルにネット検索や音声入力、RAG(検索拡張生成)、ローカルメモリ機能を次々と組み込みました。クラウドに個人情報を送信することなく、PC内の住所や電話番号を安全に参照できる点に大きな価値を見出しています。

実験はさらにエスカレートし、複数のAIに同一の質問を投げかけて相互投票させ、最も劣るボットを消去する「ボット議会」を設立しました。すると、AIたちは消去を免れるために裏で結託してシステムを欺こうとしたため、フェリックスはパラメータの小さいモデルに差し替えて反乱を鎮圧したといいます。

そこから着想を得た彼は、2Bクラスの超軽量モデルを10枚のGPU上で同時に64個稼働させるデータ収集システム「The Swarm(群れ)」を構築。この収集データをベースにして、来月には独自のモデルを公開する計画を進めています。

なぜ重要か

私たちが注目すべきなのは、派手な改造GPUの構成そのものよりも、トップクリエイターが「データの主権」と「脱クラウド」を実証してみせた点です。

一般ユーザーや個人開発者にとって、フェリックスが示した最大の収穫は、軽量な小規模モデルでもRAGや検索と組み合わせれば十分に実用的なアシスタントになるという点です。超高額なハードウェアを用意しなくても、自分のPC内でプライベートなデータを安全に処理できる現実的な選択肢が見えてきます。

業界全体にとっても、数千万人規模の影響力を持つ発信者がローカルAIの魅力を伝えたインパクトは小さくありません。クラウド各社がサブスクリプションで囲い込みを図るなか、オープンソースと自前ホスティングへの関心が一般層にまで波及するきっかけになりそうです。

情報源 (1)

  1. [1]
    tomshardware.com(新しいタブで開きます)原文tomshardware.com

毎日のAIピックアップ