根据周二发布的一篇博客文章,OpenAI 表示,其新的人工智能芯片 Jalapeo 比其他人工智能系统更高效地完成任务,并且更快地返回响应。
OpenAI 硬件副总裁 Richard Ho 在接受记者采访时表示,Jalapeño 提供了“两全其美”的方案,具有更低的延迟和更高的吞吐量,因为人工智能系统通常“必须在两者之间进行权衡”。
OpenAI 表示,其 Jalapeo 芯片可以比竞争对手提供更快的人工智能响应 Jalapeo 在人工智能推理基准测试中超越了 Nvidia 的超级芯片。
Jalapeo 于 6 月首次推出,是与 Broadcom 合作制造的专用集成电路 (ASIC)。
它专为人工智能推理而设计,即运行训练有素的人工智能模型来完成任务或部署代理的过程。
为了衡量 Jalapeo 的性能,OpenAI 使用了 InferenceX,这是一个基准测试平台,可显示人工智能系统处理推理的能力。
该测试将 Jalapeo 的性能与当时记录的最佳结果(使用 Nvidia 的 GB200 或 GB300 超级芯片)进行了比较。
OpenAI 表示,Jalapeño 在 GPT-OSS 120B、DeepSeek R1 和 Kimi K2.5 1T 上的每瓦人工智能工作量比对比系统多 1.5 至 1.9 倍,同时这三个模型的端到端延迟降低了 1.7 至 3.6 倍。
Ho 表示,这意味着该芯片可以为用户提供“随着需求的增长,响应速度更快、响应能力更强的代理以及更可靠的访问”。
Ho 补充道,OpenAI 计划在今年年底前“小批量”部署 Jalapeo,但到 2027 年将开始“加大部署规模”。
不过,该公司并未透露明年计划部署多少芯片。
Ho 表示,即使有了这些性能改进,OpenAI 也不希望用 Jalapeo 取代其整个芯片阵容,并表示其整体计算策略包括 Nvidia 等“非常好的合作伙伴”。
OpenAI将继续开发第二代和第三代新芯片。
🔗 原始来源
如果你要核对细节,可以再看原文: The Verge AI原文链接
AI热榜