2026年8月26日，OpenAI公布了自研推理芯片Jalapeño的首批性能数据：在由行业分析机构SemiAnalysis发布的公开基准测试InferenceX上，Jalapeño在三款主流大模型测试中，相比NVIDIA GB200和GB300机架系统，每千瓦吞吐量提升1.5至1.9倍，端到端延迟降低1.7至3.6倍。这是OpenAI进入自定义硅片领域以来首次公开量化比较，标志着这家AI公司正式将技术竞争延伸至硬件层面。
700瓦对阵1400瓦：功耗差距是理解性能数据的关键
Jalapeño的核心设计逻辑是用更低的功耗做同等甚至更多的推理工作。据OpenAI官方发布数据，Jalapeño额定功耗为700瓦，实测过程中实际功耗保持在550瓦以下；而对比对象NVIDIA GB200额定功耗为1200瓦，GB300为1400瓦。在相同的电力预算下，Jalapeño能运行的实例密度远高于NVIDIA方案，这是“每瓦吞吐量”领先数据的根本来源。
在内存和带宽规格上，每颗Jalapeño封装集成六组HBM4内存栈，总容量216 GiB，带宽达15.4 TB/s。这一带宽指标对大模型推理至关重要——大模型在推理阶段是典型的内存带宽受限任务，而非算力受限。高带宽内存直接决定了单次推理中token的生成速度，也是Jalapeño能同时实现低延迟和高吞吐的硬件基础。芯片由Broadcom担任ASIC合作伙伴共同设计，台积电3nm工艺制造，三星据报道提供HBM4供应。
三款模型的具体数字：差距因场景而异
InferenceX基准覆盖了从中型到超大规模的三款开源模型，结果呈现出明显的规律性差异。
在GPT-OSS 120B测试中，Jalapeño相比GB200实现约1.9倍的峰值每千瓦效率——具体数字为85,448对44,960混合TPS/kW，端到端延迟从1.8秒降至1.03秒。这是三组测试中效率优势最大的场景，也是中型推理工作负载最常见的生产形态。
在DeepSeek R1 670B测试中，Jalapeño对比GB300实现1.7倍效率优势（19,641对11,781混合TPS/kW），延迟从5.99秒降至1.65秒，降幅达3.6倍——这是全部数据中延迟改善最显著的一组。DeepSeek R1是目前工业界广泛部署的重量级推理模型，3.6倍延迟降低对于对话类产品的体验提升具有实质意义。
第三组测试使用的是Kimi K2.5万亿参数模型，这也是当前公开测试中规模最大的推理场景之一。OpenAI发布的摘要数据显示Jalapeño同样保持优势，但针对该模型的具体TPS/kW数字尚未见于经核实的公开信源。
此外，OpenAI还披露了一组“交互式工作负载”子集数据：在对响应延迟要求最苛刻的任务类型下，Jalapeño的性能指标达到GB200/GB300的2.1至4.1倍。这一数字比整体基准更高，反映出该芯片在低延迟场景下的设计取向。
对竞争格局的影响：NVIDIA短期无虞，长期压力开始计价
单从测试数字看，Jalapeño对NVIDIA构成了有实质意义的技术挑战。但理解这份数据对产业格局的真实影响，需要区分两个时间维度。
短期内，NVIDIA的地位几乎不受动摇。OpenAI在发布公告的同时明确表示，2026年底之前的实际部署量极为有限，公司将继续从NVIDIA及其他合作伙伴大量采购GPU。大规模训练任务目前仍完全依赖NVIDIA硬件，Jalapeño定位纯推理芯片，不涉及训练场景。这意味着对NVIDIA营收的实质冲击，在短期内几乎为零。
中长期维度则是另一个故事。OpenAI已同时披露：第二代Jalapeño芯片距离流片（tape-out）可能只剩数月，第三代设计已经立项。这一节奏表明，Jalapeño并非一次性的工程展示，而是进入了持续迭代的产品路线图。如果OpenAI的推理规模持续扩张，内部芯片替代外购GPU的比例将逐步上升，侵蚀的正是NVIDIA利润率最高的数据中心业务。
对NVIDIA而言，更直接的信号压力来自市场心理层面。此前，谷歌TPU、亚马逊Trainium/Inferentia的出现已让市场意识到超大规模AI公司有能力自研芯片，但能够在公开基准上正面对比并胜出NVIDIA旗舰的案例并不常见。OpenAI此次选择在InferenceX这个第三方框架上公开数字，意味着数据至少具备可追溯性，不是封闭的内部白皮书。
对开发者和企业用户意味着什么
Jalapeño目前不对外销售，也没有公开的云服务接入计划。对绝大多数开发者和企业用户而言，短期内能感知到的变化只有一个：如果OpenAI将Jalapeño部署到其API服务基础设施，推理延迟有望下降，尤其对响应速度敏感的实时对话场景。
更直接的是成本传导路径。推理芯片的每瓦效率提升，直接对应数据中心每单位算力的电力成本下降。如果Jalapeño大规模投产，OpenAI的推理边际成本将下降，理论上为API定价提供更大压缩空间。但目前量产时间表、实际部署规模和成本数据均未披露，这一路径仍处于假设阶段。
对于正在评估推理基础设施的企业，当前Jalapeño最直接的参考价值，是它重新定义了“行业可行水位”：700瓦功耗、216 GiB HBM4、15.4 TB/s带宽，这一规格组合在3nm工艺下能达到的推理效率，会成为企业评估NVIDIA采购方案、以及考量云厂商自研芯片路线时的新参照系。
自评数据的边界
Jalapeño首批数据存在一个根本性限制：全部测试由OpenAI自行完成，使用的是SemiAnalysis设计的InferenceX框架，但测试执行、硬件配置和调优参数均由OpenAI控制。这与NVIDIA官方发布的GPU白皮书性质类似——有可追溯的方法论，但缺乏独立复现。
目前未披露的关键信息包括：Jalapeño在NVIDIA硬件上配合高度优化的推理引擎（如TensorRT-LLM）时的对比结果、系统级TCO（总拥有成本）对比、以及在私有模型（如GPT系列）而非开源模型上的实际表现。基准测试选取DeepSeek R1和Kimi K2.5这两款中国公司的开源模型，本身也是一种信号——这类模型权重公开，便于第三方验证，同时覆盖了当前产业中最受关注的推理负载类型。
战略判断：接下来观察哪个信号
Jalapeño最可能的战略路径，是先在OpenAI自有API基础设施中替代部分NVIDIA推理容量，以控制边际成本，同时不打断训练侧对NVIDIA的依赖。这一“内部吸收”模式与谷歌TPU的早期部署路径高度吻合——谷歌同样是先在搜索和内部产品中消化自研芯片容量，再逐步通过Cloud TPU对外开放。
第二代芯片的流片节点是最值得追踪的关键信号。如果第二代能在2027年前完成并进入量产准备，意味着OpenAI的硅片工程能力已形成稳定的迭代节奏，届时对NVIDIA采购量的影响将从理论变为财务数字。
另一个观察维度是价格信号：如果OpenAI在Jalapeño大规模部署后调降API推理价格，将是效率红利向用户传导的直接证据。反之，如果API价格维持不变，则说明效率收益被用于扩大利润空间而非让利市场。这两种路径对企业选型策略的含义截然不同。
© 2026 Winzheng.com 赢政天下 | 转载请注明来源并附原文链接