突发：不受控的 Agent ，凭什么上生产系统？

Hoodline 在 9 月 18 日报道了一个有意思的故事：美联航的客服聊天机器人告诉客户 Alison Gil，她价值 200 美元的旅行积分将在存入之日起五年内有效。

但联合航空随后告知她，该积分实际将于 2026 年 9 月 27 日到期。

最后美联航承认了聊天机器人的错误，并向 Gil 发送了一张替代旅行证书。

看起来，Agent 刚走入企业**，**风险就已呼之欲出： AI 给出错误答案，但表示"没问题"“相信我”，哪怕是相对成熟的客服机器人领域，问题也依旧存在。

这类失控有多普遍？

据 Gartner 2025 年 6 月官方新闻稿预测，超过 40% 的 Agentic AI 项目将在 2027 年底前被取消，原因之一便是风险控制不足。

Scale AI 在论文《READY》中写得更直白：“一个 AI Agent 可以在基准测试上表现出色，却仍不适合部署。

" 许多企业习惯在采购环节，优先评估模型选用问题，因为直觉告诉我们能力的瓶颈在模型。

但行业实践讲了一个不同的故事—— 于 AI 企业级部署而言，模型只能代表能力，外围系统才是生产力。

1 行业在卷"怎么造”，但还有个问题没人答 2026 年，围绕"模型之外还需要什么"这个问题，行业先后给出了数个新概念，包括： Harness Engineering（驭具工程）。

2026 年初，HashiCorp 联合创始人 Mitchell Hashimoto 在博文中命名了这个概念，随后 Anthropic、Thoughtworks、LangChain 扩展传播。

核心主张：Agent = Model + Harness。

模型外面那层运行壳——循环控制、工具调度、记忆、护栏、沙箱——才是把能力变成可用性的关键。

据 BCG 9 月 15 日发布的报告，驭具工程"围绕 AI Agent 创建了一个类似个人电脑操作系统的五部分结构，从而建立有效的治理、问责与适当的控制"。

🔗 原始来源

如果你要核对细节，可以再看原文： InfoQ AI原文链接