英伟达推出开源个人AI路由器PAIR 让家中多台电脑协同运行本地AI

随着AI代理开始同时执行越来越多的子任务，单台电脑上的GPU很容易成为性能瓶颈。一个复杂任务往往会被AI代理拆分成多个可以并行处理的工作，但如果所有请求都集中到同一块GPU上，任务就不得不排队等待。PAIR的核心作用，就是把这些彼此独立的推理请求分配给局域网中当前有可用计算能力的设备，从而缓解多代理和多子任务同时运行时的资源拥堵。

PAIR可以与用户已经熟悉的本地AI推理后端配合使用，目前支持Ollama和LM Studio。它本身并不会把多台电脑合并成一块虚拟GPU，也不会把不同设备上的显存简单“拼接”起来运行一个更大的模型，而是让各个设备分别承担独立的推理请求，再将结果返回给最初发起任务的应用。因此，用户无需修改现有AI代理的工作方式，也不需要重新设计代理框架，就可以利用网络中其他机器的闲置算力。

英伟达表示，PAIR能够动态适应设备状态。当新的电脑加入网络或者已有设备离开时，系统可以自动调整；路由过程会综合考虑节点是否准备就绪、推理引擎状态、模型是否已经存在以及GPU利用率等因素，然后选择合适的机器处理请求。整个过程并不要求搭建传统意义上的服务器集群，也不需要专用线缆、机架或复杂的集群配置。

在安全方面，加入PAIR集群的设备首先需要通过六位数字配对码完成配对，之后设备之间通过双向TLS（mTLS）建立加密通信通道，以确保参与设备之间的连接受到保护。英伟达强调，PAIR的设计目标之一就是让本地AI工作流保持在用户自己的网络中，提示词、文件以及AI代理上下文无需发送至云端推理服务。

目前PAIR测试版支持Windows、macOS和Linux。硬件方面，兼容范围包括NVIDIA GeForce RTX 20系列及更新型号、基于Turing架构及更新架构的NVIDIA RTX PRO工作站GPU、NVIDIA DGX Spark，以及搭载Apple M4或更新芯片的Mac设备。英伟达给出的系统要求还包括至少8GB内存，并建议准备20GB或以上磁盘空间；软件运行本身不要求互联网连接，但下载模型时仍然需要联网。

英伟达给出的演示显示，PAIR尤其适合多代理工作流。例如，用户可以要求Hermes Agent制定一个“周日重置”计划，对杂乱的邮箱进行整理，判断哪些邮件需要立即处理、哪些可以稍后处理以及哪些可以直接跳过。代理可以将任务拆分给多个子代理，而PAIR则把这些子代理产生的独立推理请求分散到家中不同电脑上，而不是让所有任务争抢同一块GPU。这样一来，多项任务可以并行进行，主电脑也可以在游戏、创作或者其他工作期间，将部分AI计算转移到其他设备。

英伟达公布的一项五子代理演示也体现了这种方式的效果。在使用Hermes Desktop和Ollama的情况下，一个由三台设备组成的PAIR集群完成任务耗时8分48秒，而单台RTX Spark笔记本则需要18分钟。英伟达认为，这说明将家庭网络中多个设备的空闲计算能力利用起来，可以明显提升本地多任务AI的吞吐能力。

PAIR背后的一个重要判断是，家庭用户往往已经拥有多台具备一定计算能力的电脑，只是这些设备的大部分时间处于闲置状态。英伟达援引的数据指出，美国超过一半的家庭拥有两台或更多电脑，因此大量GPU和其他计算资源在一天中的相当一部分时间里并没有被充分利用。对于拥有游戏电脑、笔记本电脑以及其他高性能设备的家庭来说，PAIR试图把这些原本相互独立的设备转变为一个能够共同服务本地AI的计算资源池。

英伟达技术团队甚至估算，在一个极端情况下，一户家庭内部可能存在约165 TFLOPS的闲置计算能力。相关负责人将这些尚未被充分利用的本地算力形容为“家中闲置的免费Token资源”。不过，英伟达预计真正适合PAIR的典型用户并不需要拥有如此夸张的设备规模，更现实的配置可能是一台MacBook或Windows笔记本，再加上一台游戏PC。

除了PAIR之外，英伟达此次还宣布进一步简化本地AI代理的部署体验，包括Perplexity Portable Computer、Hermes Agent和OpenClaw在内的三款AI代理软件都将针对NVIDIA GPU提供更加简单的本地配置方式。过去，用户往往需要自行选择模型、寻找兼容的推理服务器、调整量化参数并完成各种配置，而新的方案希望将这一过程压缩为几次点击。

其中，Perplexity Portable Computer此前已经可以在配备至少24GB显存的NVIDIA RTX GPU以及Linux系统上的DGX Spark上运行，Windows版本也正在推进。它允许用户将更多工作流保留在本地，并在需要额外搜索或更强推理能力时再选择使用云端模型；在将内容交给云端之前，系统会征得用户同意。

Hermes Agent由Nous Research开发，是一款通用型AI代理。Windows版本的本地配置将支持一键完成模型部署，软件可以自动识别NVIDIA GPU，并根据硬件选择合适的模型和配置，通过集成了NVIDIA优化的llama.cpp运行。Linux支持则将在后续推出。Hermes运行后可以调用工具、跨任务保持上下文、记忆不同会话的信息，并随着使用积累可复用的技能。

OpenClaw同样获得了针对Windows的简化部署方案。英伟达称，OpenClaw已经成为开放式AI代理生态中的重要项目，GitHub上的项目规模已经超过38万颗Star。新的Windows应用将降低本地模型配置门槛，使拥有至少24GB显存NVIDIA RTX GPU的用户更容易启动本地AI助手。

为了进一步提升本地AI代理的响应速度，英伟达还同步公布了针对llama.cpp和vLLM的推理优化。基于新的内核优化、更先进的投机解码以及更快的prefill处理，llama.cpp在GeForce RTX 5090上的吞吐量最高可提升至原来的1.9倍；vLLM在RTX PRO 6000 Blackwell Workstation Edition上的性能提升可达1.2倍，在两台DGX Spark组成的集群上最高可达1.4倍。这些优化已经可以通过相应推理后端使用，同时也能够在LM Studio和Ollama中获得。

英伟达此次还透露，搭载RTX Spark平台的新型Windows小型AI电脑预计将在10月陆续上市。随着这些面向本地AI的硬件、推理软件以及AI代理工具逐渐成熟，英伟达显然正在推动一种不同于传统云端AI的使用方式：用户无需把所有任务提交给远程数据中心，而是可以直接利用家中的GPU和其他设备构建属于自己的本地AI计算环境。

PAIR目前仍处于Beta阶段，项目已经以开源形式发布，开发者可以查看源代码、提交问题并参与改进。英伟达希望通过PAIR让本地AI从“单台高性能电脑运行一个模型”逐渐走向“多台家庭设备共同承担AI工作负载”，而这也可能成为本地AI代理进一步普及之后的一种新型计算模式。