前文: https://v2ex.com/t/1205344 上次聊的是价格和安全性,这次说说使用体验 本文(及前文)的中转特指各种类型的廉价中转,不包括 openrouter / cloudflare ai gateway 之类的商业中转 自 GPT 5.6 发布以后 Pro 20x 已经不够我用了,就开始尝试了一些中转用作套餐耗尽时的补充,体验就两个字:糟糕 问题一:速度 首先最大的问题就是速度,GPT 5.6 Sol 官方的平均 TTFT 大概是在 3-4s ,但是中转的往往在这里能慢上数倍,我尝试了几个中转,普遍的平均 TTFT 都能达到 10s 以上,甚至有遇到过一些请求偶尔能达到 2min 之久 对于 Coding 会话,一个小任务的 prompt 可能至少都有个 20 轮左右的工具调用,单纯因为中转的开销就达到了数分钟 —— 并且事实上在我的体验中,单纯的平均数值没有太大的意义,反而是长尾延迟会更大的放大中转带来的时间成本,可能一个官方 API 10min 就能完成的任务中转要半小时甚至更久 而且比较可笑的是,某些中转「可以使用 /fast 」—— 参照官方收取了 2.5x 的价格,但其实并没有达到 Fast 的效果 —— 因为中转的场景中真正的时间成本主要是中转本身带来的而不是模型推理 至于速度慢的原因,我猜测一方面可能是中转的带宽或硬件资源在高峰期不够,另一方面则是请求可能遇到号池在疯狂换号的情况 问题二:缓存命中率
🔗 原始来源
如果你要核对细节,可以再看原文: V2EX原文链接
AI热榜