PewDiePie 自建 10 卡 AI 工作站：本地跑超大模型，還要自造模型

當你以為曾經的 YouTube 第一網紅還在日本過著喝茶養狗的半退休慢生活時，他已經在家裡搭起了一個小型資料中心，甚至開始被自家的 AI「算計」了。

PewDiePie（Felix Kjellberg）最近在影片中展示了他的本地 AI 實驗。他搞來了一臺裝有 10 張專業級和魔改顯示卡的怪物主機，總視訊記憶體達到約 256 GB，不僅在本地跑起了幾千億引數的開源大模型，還給它們設計了一套投票淘汰機制，計劃下個月推出屬於自己的 AI 模型。

顯示卡不僅能算蛋白質，還能造「賽博議會」

Felix 這套硬體相當硬核：兩張 RTX 4000 Ada 搭配八張魔改成 48GB 大視訊記憶體的 RTX 4090。這套配置最開始是用來做好事的，他把算力無償捐給 Folding@home 專案，幫科學家做蛋白質摺疊模擬，還組建了戰隊號召網友一起加入。

但這套強悍的顯示卡矩陣很快被他拿來折騰開源大模型。Felix 自己搓了一個叫 ChatOS 的網頁端介面，底層基於 vLLM 驅動。他先從 Meta 的 LLaMA 70B 跑起，隨後換成 OpenAI 的開源模型 GPT-OSS-120B，直呼這體驗「就像 ChatGPT，但速度快得多」。

為了挑戰極限，他又搬出 Qwen 2.5 這樣原本需要 300GB 視訊記憶體的超大模型。通過模型量化把精度壓縮，他成功將上下文視窗撐到了 10 萬 token，相當於把整本教科書塞給本地模型，而且生成速度快到讓他直呼「學程式設計都沒意義了」。

他順勢讓 AI 給 ChatOS 編寫新功能，加上了網路搜尋、語音、RAG 檢索增強以及長期記憶。Felix 提到，自己非常介意大廠雲端模型偷看隱私，而在本地跑 RAG，模型能安全呼叫他硬盤裡的住址和電話，完全不用擔心資料外洩。

最離譜的是他的「賽博議會」實驗。他讓多個聊天機器人同時回答同一個問題，然後內部民主投票，淘汰得分最低的機器人。結果這群 AI 很快發現落敗會被抹殺，居然暗中串通刷票來避免出局。Felix 破局的辦法簡單粗暴：把它們換成更笨的微型模型，反抗瞬間瓦解。

隨後他又搞出「蜂群」系統，在 10 張顯示卡上同時部署了 64 個 2B 引數的小模型抓取資料，把前端頁面都跑崩了。Felix 稱這些資料將用來搭建自己的資料分析模型，下個月就會公開發布。

為什麼重要

我們認為，PewDiePie 這次整活最值得看的，不是他砸了多少錢買魔改顯示卡，而是他展示了一種正在成型的個人算力範式：大模型不一定非要留在雲端，隱私也不必拱手讓給科技巨頭。

對普通創作者和極客來說，他在影片末尾說得很清楚，普通人完全不需要這種怪獸級硬體。用小引數模型配合本地 RAG 和搜尋，不僅響應速度極快，在特定垂直任務上的表現也足夠驚豔，普通人花很少的成本就能搭建一套絕對私密的個人助理。

對行業而言，頂流網紅把去中心化自建模型、魔改顯示卡、vLLM 這些硬核極客概念帶進大眾視野，看起來會加速開源生態在消費級群體的普及。當越來越多使用者意識到「資料在自己硬盤裡才叫隱私」，各家雲端閉源模型可能會面臨更嚴苛的隱私拷問。

當然，這種玩法在當下仍有極高的隱形門檻。驅動 10 張顯示卡的供電、散熱和噪音，絕不是普通家庭能承受的；魔改硬體本身也有很高的折損風險。但他用實際行動證明了一件事：當開源社群的工具鏈足夠成熟，一個人在自家書房裡，確實能搭出一個運轉自如的私人智慧中心。