跳到正文
IFAI

AI工具

Perplexity 登陸 Windows:RTX 顯示卡可本地跑 AI 智慧體

首次發布 傳播指數 40

Perplexity 在 Windows 客戶端上線本地智慧體 Portable Computer,支援 24GB 及以上視訊記憶體的 NVIDIA RTX 顯示卡與工作站。它使用本地最佳化的 Qwen 3.8 27B 等模型處理多步複雜任務,敏感資料無需離線也不消耗雲端額度,還可直連 Gmail 和 GitHub 等應用。

Perplexity 登陸 Windows:RTX 顯示卡可本地跑 AI 智慧體
圖:blogs.nvidia.com

把報稅單、公司核心程式碼庫和財務流水全傳給雲端 AI,很多團隊心裡其實都在打鼓。可要是想自己搭一套本地 AI 智慧體,光是折騰環境、配模型就能讓人直接放棄。

Perplexity 把自家的智慧體搬到了 Windows 電腦上。他們正式在 Windows 版應用中上線了 Portable Computer,專門面向配備 NVIDIA GeForce RTX 和 RTX PRO 顯示卡的 PC 使用者。

不過門檻並不算低,顯示卡視訊記憶體至少要達到 24GB。此前這項功能只支援 Linux RTX 系統和 NVIDIA DGX Spark。

關起門來乾重活,還省雲端點數

Portable Computer 簡單來說就是 Perplexity Computer 的本地化版本,專門用來拆解和執行復雜的多步驟任務。

它最直接的吸引力有兩個:第一,敏感資料完全留在本地裝置上,不經過雲端;第二,在本地跑完的任務,根本不扣使用者的 Perplexity 雲端點數。

為了不讓使用者被環境配置勸退,應用內建了針對 NVIDIA RTX 最佳化過的模型,比如經過後訓練的 Qwen 3.8 27B。你不需要自己去研判模型或者配置複雜的底層驅動,開箱就能跑起來。

它還自帶了專用瀏覽器和 SPACE 沙盒環境,並且直接打通了日常辦公生態。它能連線 Microsoft Outlook、OneDrive、Word、Google Drive、Gmail、Slack 以及 GitHub。

比如在工程場景下,它可以本地審查 GitHub 倉庫裡掛著的 pull request,按狀態整理並找出下一步待辦,還能抓出過期的文件並提交修改方案。

處理財務資料時更顯優勢。你可以直接把兩年的券商對賬單、1099 稅表和報稅記錄塞給它,讓它核算哪些持倉產生了不必要的交易費和稅費拖累,每一條資料都能精確標出檔案出處和頁碼,全程不需要往雲端聊天框發任何一個附件。

如果碰上本地模型算力吃緊的複雜推理,它也不會直接罷工。Portable Computer 會主動判斷該任務是否需要雲端更強大的模型支援,但在把資料傳出電腦之前,必須先彈窗獲得使用者的明確許可。

為什麼重要

對開發者、財務人員和初創團隊來說,本地智慧體終於從極客的玩具變成了點開就能用的辦公工具。只要手頭有一張 24GB 視訊記憶體的顯示卡,就能把公司核心程式碼和機密流水放心地交給 AI 梳理,還省下了持續購買雲端算力點數的開銷。

我們認為,Perplexity 和 NVIDIA 聯手走這步棋非常聰明。單純的雲端大模型訂閱早晚會遇到企業隱私顧慮的堅硬天花板,而純本地模型又常常因為推理能力不足或配置過於繁瑣被束之高閣。這種平時在本地跑日常工作、遇到高難問題再彈窗授權呼叫雲端模型的混合架構,看起來是目前最平衡的解法。

但這套方案眼下最大的短板就是硬體壁壘。24GB 視訊記憶體幾乎把普通輕薄本和中低端遊戲本全部擋在門外,它本質上還是給專業工作站和高階 PC 使用者準備的生產力特權。儘管如此,它也給整個行業劃出了新的方向:未來的 AI 助手爭奪戰,不僅看誰的雲端模型更大,更看誰能把高階智慧穩穩當當地塞進使用者的本地硬體裡。

來源 (1)

  1. [1]
    blogs.nvidia.com(在新分頁開啟)原文blogs.nvidia.com

每日 AI 內容精選