英伟达开源PAIR聚合局域网AI算力
「英伟达以开源测试版推出Personal AI Router(PAIR)软件,可在局域网内自动发现设备并调度AI请求,支持M4 Mac、RTX PC和DGX Spark。实测中,将任务拆分给5个AI子智能体后,完成时间从18分钟缩短至8分48秒,显著提升并发负载处理效率。」
英伟达近日以开源测试版形式推出了一款名为 Personal AI Router(PAIR)的软件。该工具定位为局域网内的本地 AI 请求调度器,能够自动发现已加入的电脑,并将每项请求分配给可用设备。换言之,PAIR 就像一位为本地 AI 请求分派任务给空闲工位的调度员,让家庭或办公局域网内的多台设备可以协同处理并发负载。
官方介绍显示,PAIR 可以在搭载 M4 及更高版本的 Mac、配备英伟达 RTX 的 PC 以及 DGX Spark 上运行。对于 Ollama、LM Studio 等本地 AI 工具,PAIR 提供了一个统一的请求入口,用户无需为每款 AI 应用分别配置每一台机器。模型仍由目标设备上的 Ollama 或 LM Studio 实际运行,因此当某台设备繁忙或不可用时,PAIR 会自动将新请求转向其他已配对设备。这种设计尤其适合 AI 智能体同时审阅多份文档的场景——彼此独立的任务可以被分别交给不同的计算机处理,从而充分利用空闲算力。
英伟达强调,PAIR 的调度机制面向并发负载分担,并不代表单个 AI 回复会因接入更多电脑而自动变快。也就是说,它的价值在于提升多任务并行处理的整体吞吐量,而不是加速单次推理。这一特性与智能体应用高度契合,因为这类工作负载往往包含大量可并行拆分的子任务。
在实测演示中,英伟达使用 Hermes 环境配合 Ollama 与 Qwen 3.6 35B A3B 模型,将任务拆分给 5 个 AI 子智能体。结果显示,仅由 RTX Spark 笔记本单机执行时,平均完成时间为 18 分钟;在加入 DGX Spark 和 RTX 5090 后,平均时间缩短至 8 分 48 秒。这一数据直观展示了多设备协同调度的效率提升,也印证了 PAIR 在真实场景中的实用价值。
作为一款开源测试版软件,PAIR 的推出让个人开发者和中小企业能够更灵活地利用现有硬件资源。通过轻量级的局域网部署,Mac 用户与 PC 用户可以轻易组成一支本地的“AI 算力小队”,为日益增长的本地模型推理需求提供了一条低成本、高效率的扩展路径。
来源:Heooo AI工具导航