Nvidia 宣布推出新的个人 AI 路由器 (PAIR),这是一款免费工具,可以同步您的家用计算机,以便与 Ollama 和 LM Studio 等工具一起处理本地 AI 推理任务。
Nvidia 推出免费工具,将闲置计算机连接到个人人工智能数据中心 PAIR 旨在让您的台式机和笔记本电脑在不使用时协同执行本地 AI 任务。
让我们先弄清楚一个显而易见的事情,尽管它的名字可能暗示着这一点:PAIR 不是硬件路由器。
它是 Nvidia 开发的开源软件,可以发现网络上的兼容 PC,将它们连接起来,并为处理代理工作流程中的数字做好准备。
虽然兼容设备主要是 Nvidia GeForce GPU(PAIR 适用于 RTX 20 系列卡及更新版本,以及 RTX Pro GPU 和 DGX Spark 系统),但 Apple 的 M4 芯片或更新版本也可以使用。
这里的关键是,PAIR 在您的家庭系统空闲时使用它们,以避免干扰其他任务。
这种分散的计算机系统可以并行工作来处理大量的处理请求——这对于将复杂的任务分解为更小的作业的代理工作流程应该很有帮助。
这应该可以防止单个 GPU 出现大瓶颈,Nvidia 表示,PAIR 可以在设备加入或离开网络时进行调整,包括用户在台式电脑上开始玩游戏等操作。
在一次媒体吹风会上,Nvidia 产品经理 Seth Schneider 描绘了一个充满强大计算机的家庭,这些计算机可以通过 PAIR 做更多事情:父亲拥有 Nvidia RTX Spark 笔记本电脑和 DGX Spark 台式机,母亲拥有 RTX 5090 笔记本电脑,女儿拥有游戏台式机,儿子拥有 MacBook Pro。
在这个令人难以置信的极端案例中,Schneider 估计这座房子有大约 165 teraflops 的未充分利用的计算能力。
他说,即使考虑到美国普通家庭的电费,“这确实是当今家庭中免费代币的宝库”。
Nvidia 表示,PAIR 的安全性是通过六位代码配对所有设备,然后通过 mTLS(相互传输层安全性)保护通道,从而创建一条在计算机之间双向可信的加密通信线路。
Nvidia PAIR 测试版现已推出,支持 Windows、Linux 和 macOS。
如果您家里已经有一些功能强大的计算机并且想要运行自己的本地人工智能,那么 PAIR 似乎确实是一个聪明的解决方案。
当我询问 PAIR 真正适合谁,以及什么样的设置实际上是现实的时,Schneider 表示,Nvidia 预计大多数 PAIR 用户将拥有一台 MacBook 或 Windows 笔记本电脑和一台游戏电脑。
除了 PAIR 之外,Nvidia 还宣布三大主要 AI 代理应用程序——Perplexity Portable Computer、Hermes Agent 和 OpenClaw——将在 Windows 上使用 Nvidia GPU 提供简化的本地设置。
新的设置体验旨在让用户只需单击几下即可启动并运行本地代理,从而减少必要的初始手动配置。
🔗 原始来源
如果你要核对细节,可以再看原文: The Verge AI原文链接
AI热榜