短短9个月，OpenAI自研ASIC芯片已超越英伟达Blackwell？

OpenAI首颗自研推理芯片Jalapeño在能效、吞吐量等核心指标上实测超越英伟达Blackwell，且开发周期远低于行业均值。更深远的意义在于：AI工具深度介入芯片设计本身，形成"AI造芯片、芯片跑AI"的正向飞轮，CUDA的软件护城河正面临结构性挑战。

原文来源：华尔街见闻

OpenAI 首颗自研芯片 Jalapeño 横空出世，以令人咋舌的速度颠覆了 AI 芯片行业的既有格局——这不仅是一次产品发布，更是一个信号：AI 正在重塑芯片本身的设计方式。

据华尔街见闻文章报道，据彭博 8 月 25 日报道，OpenAI 表示，Jalapeño 在单位功耗可处理的 AI 工作量和响应速度两项关键指标上均领先英伟达 GB300。该芯片由 OpenAI 与 Broadcom 合作开发，专为 AI 推理阶段设计，最快将于今年晚些时候投入实际使用。OpenAI 芯片负责人 Richard Ho 表示，Jalapeño 在 700 瓦低功耗下即可实现强劲性能，有助于大幅降低数据中心电力成本。

据半导体研究机构 SemiAnalysis 披露，这颗芯片从设计启动到完成流片仅历时约 16 个月，而其中关键的 CoWoS 封装流片节点完成于 2025 年 11 月，距今不过 9 个月，远低于行业惯常的 18 至 36 个月周期。

SemiAnalysis 研究人员亲赴 OpenAI 实验室，使用其自研基准测试套件 InferenceX 对 Jalapeño 进行了实测，结论直接：该芯片在每瓦性能（perf/W）指标上击败了他们此前测试过的所有英伟达、AMD 及谷歌芯片。

更值得关注的是，这一成绩是在 Jalapeño 尚未启用投机解码、未做预填充与解码分离部署等优化手段的情况下取得的，而参与对比的其他芯片均已开启各自最优配置。

难怪就连著名半导体分析师 Dylan Patel 也直言，“被掀翻的不只是 Blackwell，就连英伟达 Rubin 芯片也被超越了”！

分析认为，这一结果对英伟达的市场地位构成直接挑战，也令市场重新审视 AI 芯片竞争格局。

实测数据：Jalapeño 在多项关键指标上碾压 Blackwell

SemiAnalysis 的测试结果显示，Jalapeño 在推理效率上的优势相当显著。

在GPT-OSS 120B 模型上，Jalapeño 每秒可输出约 1459 个 Token，而英伟达 GB200 仅为 535 个；端到端延迟方面，Jalapeño 完成一个任务仅需 1.65 秒，GB300 则需接近 6 秒，差距达 3.6 倍。在高交互场景下，当 GB300 被推至其最快解码速度（每秒 169 个 Token）时，Jalapeño 的吞吐量是其 104.3 倍。

在每兆瓦每秒输出 Token 数这一衡量数据中心能效的核心指标上，Jalapeño 在GPT-OSS 模型上达到约 5300 万个 Token/MW/s，而 GB200 NVL72 仅约 1000 万。

SemiAnalysis 指出，这一指标本质上等同于每焦耳产出的 Token 数，直接决定了数据中心的收入天花板——在算力受电力约束的当下，这一维度的优势尤为关键。

从系统级成本来看，据 SemiAnalysis 将供电、散热、网络全部纳入计算后，Jalapeño 每芯片每小时总拥有成本约为 1.56 美元，与 H100 的 1.55 美元几乎持平，而英伟达 Vera Rubin 则高达 3.61 美元。

值得注意的是，SemiAnalysis 同时提出了若干重要保留意见。

其一，测试所用模型并非当前最前沿的模型，英伟达和 AMD 已在更大规模模型（如 DeepSeek V4 Pro、Kimi K3）上发布了基于 AgentX 套件的成绩，而 Jalapeño 尚未完成 AgentX 测试——该套件更能反映多轮、长上下文等真实生产场景的性能表现。

其二，更公平的比较对象应是同样采用 HBM4 的英伟达 Vera Rubin，而非 Blackwell；Vera Rubin 的每瓦性能较 GB200 NVL72 提升约 5.4 倍，与 Jalapeño 相比，两者在每 Token 总拥有成本（TCO）上几乎持平。

其三，Jalapeño 目前仍处于工程样片阶段，量产预计要到 2027 年才逐步爬坡。

AI 设计芯片：GPT-Astra 与 Codex 的"飞轮效应"

Jalapeño 之所以能以如此惊人的速度完成开发，AI 工具的深度介入是核心原因之一。据 SemiAnalysis 披露，OpenAI 在芯片设计过程中大量使用了内部 AI 模型，其中包括被外界广泛关注的 GPT-Astra。

社交平台 X 用户 Andrew Curran 援引 OpenAI 信息指出，GPT-Astra 深度参与了 Jalapeño 的研发全程：

"团队借助 Codex 与 GPT-Astra，在两个月内将三个原本不在 Jalapeño 量产计划内的开源模型调优至高性能状态。"

这意味着，AI 不仅在加速芯片设计本身，还在快速扩展芯片所能支持的模型范围。

SemiAnalysis 的数据进一步量化了这一贡献：

AI 辅助设计使 SIMD 单元面积缩减 8%，矩阵引擎面积缩减 10%，同时在时序和功耗表现上均优于初始版本。

在软件层面，OpenAI 使用内部扩展版 Codex 编写 Jalapeño 内核，部分内核代码长达约 3000 行；在最吃性能的注意力机制和 MoE 模块上，AI 生成的代码比人类顶尖工程师的实现快出 1.5 至 1.8 倍。

SemiAnalysis 对此评价颇为犀利：跑在英伟达 GPU 上的 OpenAI 模型（如 GPT-5.6 Sol），正被用来设计一颗对 CUDA 护城河构成真实威胁的芯片——"英伟达自己的 GPU 正在实时催生自己潜在的接班人"。

架构解析：为何"通用"反而更快？

外界普遍预设 Jalapeño 是一颗专为 OpenAI 自家模型深度定制的芯片，但 SemiAnalysis 的结论恰恰相反：Jalapeño 是一颗面向 AI 推理的通用芯片，能够运行各类模型和工作负载，甚至包括用 Codex 移植的《毁灭战士》游戏。

在架构层面，Jalapeño 的核心设计哲学是"消除固定延迟"。与 GPU 依赖复杂内存层级不同，Jalapeño 将计算核心与 HBM 切片直接绑定，核心间通过专用高带宽集合网络同步，大幅降低了内存访问延迟。

此外，Jalapeño 采用乱序执行（OoO）核心搭配 L1 缓存，而非其他加速器普遍使用的软件管理暂存器，这使其在小批量、低延迟场景下能够更接近硬件理论峰值。

在内存带宽方面，Jalapeño 采用 HBM4，实现了 15.4TB/s 的单封装内存带宽，每瓦 HBM 带宽达 22，而英伟达 Rubin 为 11.1，GB300 仅为 5.71。

SemiAnalysis 指出，Jalapeño 的 HBM4 引脚速度达 10Gbps，略高于英伟达 Rubin 的 9.6Gbps，HBM 供应商可能为三星。

值得一提的是，Jalapeño 选择不做预填充与解码分离部署（PDD）。SemiAnalysis 对此给出了详细解释：

在真实生产环境中，输入输出比例、并发量、缓存命中率等参数持续变化，固定分池会导致全局利用率下降；而同构资源池可以灵活响应流量变化，在延迟敏感型请求和高吞吐批处理之间动态调配。

CUDA 护城河：裂缝已现？

SemiAnalysis 在报告中抛出了一个颇具分量的判断：CUDA 的护城河可能已经死了。

其依据在于软件起步速度的对比。英伟达 Rubin 的 CoWoS 流片比 Jalapeño 早一个月完成，但迄今为止，外界能看到的 Rubin 公开基准数据仅来自 CoreWeave 的工程样片，英伟达并未像 OpenAI 那样开放第三方进入实验室自由测试。SemiAnalysis 认为，这反映的不是硬件本身的差距，而是软件成熟度的差距。

从零开始构建软件栈，反而让 OpenAI 得以摆脱历史包袱，做出更干净的架构决策。OpenAI 使用自研内核编程语言 Gluon（基于 Triton 构建）以及内部推理引擎"Teacup"，并借助 Codex 快速完成内核调优。SemiAnalysis 观察到，在不到两周的时间内，Jalapeño 在特定交互速度下的吞吐量提升超过 2 倍；在 8 天内，团队将张量并行从 TP8 扩展至 TP32，实现了跨机架的全机柜规模部署。