OpenAI推出首款定制推理芯片“Jalapeño”:与博通合作剑指NVIDIA

OpenAI近日发布首款定制AI推理芯片“Jalapeño”,由博通设计、台积电3nm工艺制造,专为推理任务优化,预计可将成本降低高达50%。此举标志着OpenAI在AI基础设施领域寻求独立于NVIDIA的战略转变,引发业界对AI供应链和成本结构的广泛讨论。

OpenAI于近日正式宣布推出其首款定制AI推理芯片“Jalapeño”,该芯片由博通(Broadcom)设计,采用台积电3nm先进工艺制造,专为大模型推理场景优化,预计可显著降低运营成本。

据OpenAI官方透露,“Jalapeño”芯片在推理性能上针对Transformer架构进行了深度优化,支持更高的并行吞吐量和更低的延迟,同时功耗控制优于现有GPU方案。初步测试显示,在相同工作负载下,整体TCO(总拥有成本)有望下降40%-50%。

这一产品发布被视为OpenAI在AI硬件领域的重要布局。目前主流AI训练与推理仍高度依赖NVIDIA GPU,而“Jalapeño”的推出显示OpenAI正尝试构建更自主的算力生态。

行业分析师指出,此举将加速AI基础设施的多元化。博通作为主要合作伙伴,负责芯片架构与IP授权,台积电则提供先进制程支持。未来OpenAI可能进一步扩大自研芯片比例,以应对算力需求激增带来的成本压力。

不过,短期内NVIDIA仍将在高端训练领域保持主导地位。“Jalapeño”主要聚焦推理环节,对训练市场冲击有限。市场普遍认为,OpenAI此举更多是长期战略信号,而非立即取代现有供应链。

从技术角度看,3nm工艺带来的晶体管密度提升,使“Jalapeño”能够在更小面积内集成更多AI加速单元,同时降低单位运算能耗。这对于大规模部署的云服务商尤为关键。

总体而言,OpenAI的芯片自研计划将对整个AI产业产生深远影响。未来几年,类似定制化方案可能成为主流,推动硬件与模型协同优化。