周一,Decagon CEO Jesse Zhang 发布了一篇文章,表示开源模型崛起,但整个企业市场中开源模型的支出占比却在下降。
这不禁让人想到之前 Dario Amodei 之前的“暴论”:在 AI 领域,开源是一个干扰项,或者说是一个伪命题。
“即使模型公开,你也看不到它的内部运行机制,因此业内通常把这类模型称为‘开放权重’,而不是‘开源’。
传统开源软件可以由社区共同修改、持续迭代,并在协作中不断增强,但这种优势并不完全适用于大模型。
”Amodei 说道。
因此,他看到一款新模型时,从来不会先问它是否开源。
就连 DeepSeek 是否开源,对他来说也不重要。
他真正关心的只有一个问题:这款模型到底够不够好,在重要任务上能不能击败我们。
而且,开源从来不等于免费。
模型体量如此庞大,企业仍然需要花钱在云端运行推理,也需要专业团队进行部署和优化,确保模型能够足够快速、稳定地运行。
与其纠结模型是否开源,不如关注谁的模型真正能够把你需要完成的任务做到最好。
随着 AI 应用逐渐成熟,越来越多企业正在转向更轻量的模型,Decagon 自己也是如此。
但 Jesse 表示,企业在昂贵前沿模型上的整体支出却几乎没有下降。
据介绍,Decagon 现在约 90%的工作负载都运行在开源模型上,而不是 OpenAI 或 Anthropic 的模型。
他解释道: 这并不是因为成本,也不是客户强制要求我们这么做,尽管他们通常并不反对。
真正的原因是,我们几乎没有其他选择。
当你在生产环境中运行客服 AI 智能体时,延迟会直接决定产品能不能用。
一次对话中,每轮回复都要等待 8 秒,这样的产品没人愿意使用。
因此,你需要体量更小、速度更快的模型。
每一次模型调用,没有必要知道立陶宛的首都,也不需要掌握高中物理知识。
但开箱即用的小模型,达不到客户要求的质量标准。
只有针对特定任务进行大规模微调,它们才能满足要求。
问题在于,前沿模型实验室基本不提供这种组合。
我们无法按照实际需求去微调它们最强的模型,而它们的小模型也不属于我们,无法任由我们塑造。
🔗 原始来源
如果你要核对细节,可以再看原文: InfoQ AI原文链接
AI热榜