AI热榜 Microsoft 发布了 一个用于在 Azure Kubernetes 服务 上路由智能体流量的参考架构。
它将这个问题分解为三个关键选择：由哪个模型响应调用、如何管理调用，以及由哪个 GPU 副本处理调用。
该设计结合了用于负载均衡的 Kubernetes Gateway API Inference Extension 、作为 AI 代理的 agentgateway
🔗 原始来源
如果你要核对细节，可以再看原文： InfoQ AI原文链接
InfoQ AI
🗓️ 2026-08-07
最高节省 85% 成本：微软公布 AI 智能体 LLM 路由方案，这一消息引发行业关注
⚡ 一句话看懂：最高节省 85% 成本：微软公布 AI 智能体 LLM 路由方案，这一消息引发行业关注。来源：InfoQ AI。