企业面临的 AI 应用压力正在变得更具体:模型要能落地、成本要可控、旧系统不能推倒重来,数据和安全边界不能失守,国产化、混合云、多 GPU 适配也必须同时考虑。
红帽全球副总裁兼大中华区总裁曹衡康(Victor Tsao)表示,企业今天面对 AI,核心问题已经不是“要不要做”,而是“怎么做规模化”。
CEO 往往要求 CIO 在很短时间内拿出 AI 成果,用 AI 提升效率、降低成本,但预算有限,遗留系统复杂,内部组织也存在阻力。
因此,在红帽看来,AI 不会让企业 IT 基础设施从零开始重建,反而会让“平台”重新成为竞争中心。
红帽的定位:做平台能力 “模型可能会影响 AI 的‘智慧’,适合的模型可以让 AI 效率更高。
但是 AI 能不能成功,能不能规模化,最重要的是平台。
”曹衡康表示,一个企业最大的挑战不在于它是否选错了模型,而是它失去了选择模型的能力。
曹衡康认为,AI 时代,模型、Agent、GPU、云环境都会变化,但企业不能失去选择模型、选择 GPU、选择云和选择 Agent 的能力。
AI 时代的平台,需要为用户提供选择权。
对中国企业来说,这一点尤其现实。
中国市场同时存在国内外模型等,底层算力也不只一种 GPU,部署环境包括本地数据中心、公有云、混合云和行业专有云。
企业很难押注单一模型、单一硬件或单一云平台。
红帽认为,未来企业 AI 很可能是多模型、多 Agent、多 GPU、多云并存。
一个银行不会只用一个模型,制造企业也不会只用一个 Agent。
人事、销售、工程、市场、风控、客服、运维等部门,都会形成不同智能体,这些智能体既要协同,又必须保持数据和权限隔离。
那具体如何做呢?
通过红帽推出的 Red Hat AI 3.4 来看,其重点围绕推理、数据和智能体三部分展开。
首先是推理。
红帽认为,推理才是企业 AI 真正产生收入和效率价值的环节,也是成本压力最大的部分。
去年红帽重点推广 vLLM 社区,今年进一步扩展到 llm-d 相关功能,即分布式推理。
红帽判断,企业 AI 推理不会只发生在单一集群或单一模型上,而会以水平扩展方式服务大量业务请求。
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接
AI热榜