Perplexity 推出端云混合编排器：敏感数据留本地，重活交给云端

想让最先进的大模型帮你整理个人税单或者病历，心里总觉得悬得慌，怕隐私被传到服务器上；但要是全靠自己的笔记本跑本地小模型，算力和逻辑又实在捉襟见肘。

Perplexity 打算把这道选择题给抹掉。6 月 2 日，他们公布了一套面向 Personal Computer 产品的「本地-云端混合推理编排器」，并宣布将于 7 月正式上线。

让小模型看门，大模型干重活

这套系统干的事情，说白了就是当个智能交通警察。以往你要么全程用本地模型，要么全盘托付给云端，而 Perplexity 的编排器会自动把一个复杂任务拆碎。

比如处理涉及财务记录、健康档案或个人隐私文件时，跑在本地芯片上的紧凑模型会先接手，决定哪些敏感内容绝不能离开你的设备。与此同时，那些真正需要前沿模型算力的复杂推理，会被自动剥离并发送到云端。

整个过程由系统在后台自动协调，完全不需要用户在提问前纠结到底是点选「本地模式」还是「云端模式」。

硬件方面，Perplexity 这次是联手 Intel 一同发布的，同时也宣布支持 NVIDIA 的 RTX Spark 芯片。只要你的终端算力足够强，编排器就能把更多计算留在本地，把云端服务器留给真正必须用到它的地方。

谁说数据中心非得盖在荒郊野外

Perplexity 算了一笔账：如果大量日常任务和敏感工作能转移到每个人手头的设备上，行业对集中式超大规模数据中心的需求就能降下来不少。

他们甚至把这件事上升到了数据主权的高度。在他们看来，很多机构和国家之所以急着自建本地数据中心，无非是怕数据出境；如果数据从一开始就锁在用户的电脑里，就不需要劳民伤财去建那么多集中式机房了。

Perplexity 还顺便强调了自家商业模式的合理性。他们表示自己卖的是精准的答案，而不是按 token 消耗量来卖云算力，因此他们有动力帮用户榨干每瓦功耗的价值，能用本地小模型搞定的就绝不浪费云端前沿算力。

为什么重要

对于经常需要处理银行流水、医疗报告、合同草案的专业人士来说，这个功能如果真如宣传的那样灵验，可以说是打消上云顾虑的一剂解药。不过它要到 7 月才上线，现在大家还用不上，届时端侧硬件的实际门槛有多高也值得打个问号。

对整个行业而言，混合推理一直是个挂在嘴边的理想概念。苹果的私有云计算和微软的 Copilot+ PC 也都在往这个方向靠，但 Perplexity 尝试把它做成一个细粒度、自动化的多智能体编排网络，这给 Intel 和 NVIDIA 的端侧 AI 芯片提供了一个非常具象的应用场景。

我们认为 Perplexity 这一步走得相当狡黠。把算力压力卸给用户自己的硬件，既能大幅缩减自己在云端的推理成本，又占领了「保护隐私」的道德高地。

但这里的隐患也显而易见：任务拆分的准确率完全押在了那个本地轻量模型身上。一旦本地小模型误判，把包含敏感信息的上下文直接打包甩给了云端，所谓的数据隔离防线就会瞬间被击穿；反过来，如果它截留得太死，云端大模型拿不到完整上下文，吐出来的答案质量可能又会大打折扣。两头讨好的平衡木，从来都不好走。