OpenAI「掀桌」:自研芯片Jalapeño跑赢英伟达,9个月造出3nm推理怪兽

OpenAI「掀桌」:自研芯片Jalapeño跑赢英伟达,9个月造出3nm推理怪兽

OpenAI「掀桌」:自研芯片 Jalapeño 跑赢英伟达,9 个月造出 3nm 推理怪兽

封面

你有没有想过:有一天,搞大模型的公司,会自己造芯片,还跑赢了英伟达?

不是跑赢一款。是跑赢了 GB200 和 GB300 两个旗舰系统。

2026 年 8 月 25 日,OpenAI 在 Hot Chips 大会上,首次公布了自研推理芯片 Jalapeño 的基准测试结果。

数据炸了。

配图

一、性能数据,到底有多炸?

先看几个核心数字。

在 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三个公开模型上,Jalapeño 峰值每瓦 AI 工作量比对比系统高出 1.5 到 1.9 倍。

端到端延迟降低了 1.7 到 3.6 倍。

对于交互式 Agent 任务,性能优势进一步扩大到 2.1 到 4.1 倍。

最夸张的对比来了:在 DeepSeek R1 上,匹配 GB300 此前最快解码速度时,Jalapeño 每千瓦吞吐量达到 12,258 mixed TPS/kW。

GB300 是多少?118。

相差 104.3 倍。

你没看错。不是一个量级。

而且,这些成绩是在 Jalapeño 没有使用多 token 预测(MTP)和推测解码等软件优化的情况下拿到的。对比系统反而依赖了这些优化。

SemiAnalysis 在实测后评价:"击败了我们测试过的每一颗 Nvidia、AMD 和 Google 芯片。"

配图

二、这颗芯片,不是为训练而生,是为"回答"而生

咱们先搞清楚一件事:Jalapeño 不是训练芯片。

它不训练 GPT-6,不跑预训练,不搞大模型底座。

它只做一件事:推理。

你发一条消息给 ChatGPT,系统调模型生成回复——这个过程,就是推理。

训练是"学会能力",推理是"快速回答"。

现有系统在这两个维度上一直有取舍:提高吞吐量,延迟就上去了;追求低延迟,资源利用率就掉下来了。

Jalapeño 的目标,是用一套架构同时拿下两者。

它做到了吗?

OpenAI 硬件负责人 Richard Ho 的话很直接:"非常、非常显著的性能进步。"

这背后是芯片、内存、网络、软件和机架级系统的协同设计。KV Cache 等模型状态被明确放置并尽可能留在本地,让 Jalapeño 同时适应 Prefill 和 Decode 两个阶段,并随工作负载变化动态调整。

说人话就是:不是堆硬件,是重新设计了一整套架构。

配图

三、9 个月,从设计到流片,AI 自己参与了造芯片

这颗芯片最让人震惊的,不只是性能。

是速度。

从初始设计到流片,只用了 9 个月。

一颗 3nm 制程、700W TDP、6 个 HBM4 堆栈、216GiB 内存、15.4TB/s 带宽的芯片,从零到流片,9 个月。

你知道行业平均周期是多久吗?18 到 24 个月。

OpenAI 怎么做到的?

AI 参与了芯片设计。

不同阶段的模型被用来探索不同实现方案,缩短设计、测量和验证周期。模型还参与优化了芯片的算术电路。

更绝的是,用 GPT-Astra 驱动的 Codex,团队只用了 2 个月,就让三款原本不在生产计划中的开放权重模型在 Jalapeño 上实现了高性能运行。

在部分 GPT-OSS Attention 和 MoE 模块中,Codex 生成的实现甚至比人类专家手写版本快 1.5 到 1.8 倍。

这个细节太值得琢磨了。

AI 造芯片,芯片跑 AI,AI 再用芯片造更好的芯片。

循环开始了。

配图

四、英伟达怕不怕?

OpenAI 嘴上说得很客气。

"英伟达是非常好的合作伙伴,我们继续需要大量英伟达芯片。"

但身体很诚实。

Jalapeño 计划 2026 年底小规模上线,2027 年显著扩大部署,大部分产出在第四季度。一个完整计算集群(pod)由 16 个机架共 2048 颗芯片组成,下一代部署目标约 100 兆瓦。

这跟 OpenAI 和 Broadcom 去年 10 月签的 10GW 合作协议完美吻合。

二代芯片已经深入开发,数月内流片。三代概念设计在进行中。B0 版本已在制造,预计每瓦性能再提升 25%。

不过,Jalapeño 对英伟达的威胁,不在训练市场。

训练领域,英伟达的地位仍然无可撼动。

真正的麻烦在 HBM4 供应。

三星、SK 海力士和美光的 HBM 产能已预订到 2027 年,供应紧张到传闻英伟达正在测试精简版 Rubin Ultra。如果 OpenAI 按 10GW 协议大规模铺开 Jalapeño,它将成为 HBM4 市场的重量级新买家,直接跟英伟达抢产能。

你看,谁说竞争只有一种维度?

芯片大战,已经打到内存供应链上了。

结尾

OpenAI 自研芯片这件事,真正值得关注的不是它"跑赢了英伟达"。

而是它证明了一件事:AI 公司可以自己定义硬件,而且能做得比通用方案更好。

不是英伟达不行了。是 AI 推理这个场景,已经大到需要专门为它设计硬件了。

Google 有 TPU,Amazon 有 Trainium 和 Inferentia,Microsoft 有 Maia,Meta 也在布局自研加速器。

现在 OpenAI 来了,带着一颗 9 个月造出来的、打爆所有竞品的芯片。

到 2027 年,当 Jalapeño 大规模铺开,当二代三代陆续问世,AI 推理的成本结构将彻底改写。

到那时,你还觉得"模型免费"是天方夜谭吗?


来源:机器之心 / 36氪 / 电子工程专辑 日期:2026年8月26日