Perplexity 推出端雲混合編排器：敏感資料留本地，重活交給雲端

想讓最先進的大模型幫你整理個人稅單或者病歷，心裡總覺得懸得慌，怕隱私被傳到伺服器上；但要是全靠自己的筆記本跑本地小模型，算力和邏輯又實在捉襟見肘。

Perplexity 打算把這道選擇題給抹掉。6 月 2 日，他們公佈了一套面向 Personal Computer 產品的「本地-雲端混合推理編排器」，並宣佈將於 7 月正式上線。

讓小模型看門，大模型乾重活

這套系統乾的事情，說白了就是當個智慧交通警察。以往你要麼全程用本地模型，要麼全盤託付給雲端，而 Perplexity 的編排器會自動把一個複雜任務拆碎。

比如處理涉及財務記錄、健康檔案或個人隱私檔案時，跑在本地晶片上的緊湊模型會先接手，決定哪些敏感內容絕不能離開你的裝置。與此同時，那些真正需要前沿模型算力的複雜推理，會被自動剝離併發送到雲端。

整個過程由系統在後臺自動協調，完全不需要使用者在提問前糾結到底是點選「本地模式」還是「雲端模式」。

硬體方面，Perplexity 這次是聯手 Intel 一同釋出的，同時也宣佈支援 NVIDIA 的 RTX Spark 晶片。只要你的終端算力足夠強，編排器就能把更多計算留在本地，把雲端伺服器留給真正必須用到它的地方。

誰說資料中心非得蓋在荒郊野外

Perplexity 算了一筆賬：如果大量日常任務和敏感工作能轉移到每個人手頭的裝置上，行業對集中式超大規模資料中心的需求就能降下來不少。

他們甚至把這件事上升到了資料主權的高度。在他們看來，很多機構和國家之所以急著自建本地資料中心，無非是怕資料出境；如果資料從一開始就鎖在使用者的電腦裡，就不需要勞民傷財去建那麼多集中式機房了。

Perplexity 還順便強調了自家商業模式的合理性。他們表示自己賣的是精準的答案，而不是按 token 消耗量來賣雲算力，因此他們有動力幫使用者榨乾每瓦功耗的價值，能用本地小模型搞定的就絕不浪費雲端前沿算力。

為什麼重要

對於經常需要處理銀行流水、醫療報告、合同草案的專業人士來說，這個功能如果真如宣傳的那樣靈驗，可以說是打消上雲顧慮的一劑解藥。不過它要到 7 月才上線，現在大家還用不上，屆時端側硬體的實際門檻有多高也值得打個問號。

對整個行業而言，混合推理一直是個掛在嘴邊的理想概念。蘋果的私有云計算和微軟的 Copilot+ PC 也都在往這個方向靠，但 Perplexity 嘗試把它做成一個細粒度、自動化的多智慧體編排網路，這給 Intel 和 NVIDIA 的端側 AI 晶片提供了一個非常具象的應用場景。

我們認為 Perplexity 這一步走得相當狡黠。把算力壓力卸給使用者自己的硬體，既能大幅縮減自己在雲端的推理成本，又佔領了「保護隱私」的道德高地。

但這裡的隱患也顯而易見：任務拆分的準確率完全押在了那個本地輕量模型身上。一旦本地小模型誤判，把包含敏感資訊的上下文直接打包甩給了雲端，所謂的資料隔離防線就會瞬間被擊穿；反過來，如果它截留得太死，雲端大模型拿不到完整上下文，吐出來的答案質量可能又會大打折扣。兩頭討好的平衡木，從來都不好走。