首页 >科技
OpenAI 辣椒芯片实测数据曝光,CUDA 生态正在迎来新变量
OpenAI 在 Hot Chips 2026 大会对外放出自研推理芯片 Jalapeño 的完整测试记录,这款代号辣椒的 ASIC 芯片,从项目启动到完成流片,整体周期只用 9 个月,由 OpenAI 联合博通设计,台积电 3nm 工艺代工生产。芯片定位仅服务大模型推理任务,不承担模型训练工作,硬件成品不会面向外部客户售卖,全部供给 OpenAI 自有数据中心,首批硬件计划 2026 年底上线,大规模量产爬坡安排在 2027 年。

半导体调研机构 SemiAnalysis 拿到实验室内部实测权限,使用 InferenceX 基准套件,选取 GPTOSS 120B、DeepSeek R1、Kimi K2.5 三款主流开源模型,把 Jalapeño 和英伟达 GB200、GB300 做同环境对比测试。硬件参数层面,Jalapeño 热设计功耗 700W,实际运行多数推理任务时功耗维持在 550W 上下,搭载 6 颗 HBM4 内存,总容量 216GiB,内存带宽 15.4TB/s。芯片主计算裸片面积 840 平方毫米,距离 EUV 掩模版物理上限 858 平方毫米仅相差 18 平方毫米。
测试记录出现一组反差明显的数据。运行 DeepSeek R1,保持单用户 169token 每秒输出速度不变,Jalapeño 每千瓦硬件可以处理 12300token 每秒,GB300 对应数值为 118token 每秒。GPTOSS、Kimi K2.5 同样测试口径下,二者之间的数值差距分别为 53.7 倍、56.1 倍36氪。每瓦 HBM 带宽维度,Jalapeño 测出 22,英伟达下一代 Rubin 芯片测出 11.1,GB300 只有 5.71。每瓦算力上 Jalapeño 和 Rubin 数值接近,但 Rubin 功耗区间落在 9001150W,功耗高出一大截。B0 版本晶圆已经进入工厂,官方文档标注 B0 步进版本,相比现在 A0 工程样品,每瓦性能还可以提升 25%。

过去行业看待专用 ASIC 芯片,普遍会遇到一个现实障碍。定制芯片硬件性能可以做到很高,但每出现一款新模型,工程师就要重新手写算子内核,调试编译器,整套适配流程消耗大量人力时间。CUDA 接近 20 年积累的工具库、算子、开发者社区,就是用来分摊这部分成本,这也是英伟达软件生态的核心来源。
OpenAI 这套芯片配套了自研编程语言 Gluon,没有选择复刻完整 CUDA 工具链。团队调用 Codex 和 GPTAstra 参与底层内核编写优化。公开资料记录,两个月时间,三个原本不在适配计划内的开源模型,完成在 Jalapeño 上面的迁移部署。在注意力模块、MoE 混合专家模块中,AI 生成的内核代码运行速度,对比行业顶尖工程师手写版本,速度提升区间 1.51.8 倍。OpenAI 补充备注,该性能提升,只覆盖指定模块,不能直接套用到完整模型全链路运行。

这一套工作流程形成闭环:AI 参与芯片架构调整,芯片运行大模型,大模型再生成代码反过来优化芯片算子。这套运转模式,给行业提供一套绕过完整 CUDA 适配成本的路径,但这套路径现阶段局限于 OpenAI 内部环境,外部开发者无法直接复用整套工具链。
市场流传 “CUDA 护城河直接失效” 的说法,多家机构给出不一样的观察角度。高盛相关交易部门的公开材料写明,Jalapeño 属于推理专用硬件,训练场景的完整生态,CUDA 现阶段依旧占有优势。推理算力的市场占比,从 2023 年三分之一,上升到 2026 年三分之二,推理业务属于英伟达增长最快的收入板块,这块业务会受到定制 ASIC 持续挤压,但属于长期渐进变化,不是短期颠覆事件。
供应链消息显示,OpenAI 和英伟达依旧存在大额硬件采购合约,就算辣椒芯片完成部署,训练集群依旧大量使用英伟达硬件。Jalapeño 解决的是自身 API 服务推理成本压力,现阶段不会对外输出硬件产品,外部企业无法采购这款芯片,也就谈不上直接瓦解 CUDA 外部开发者基础新浪财经。
机构 SemiAnalysis 报告同时写明一组成本测算,Jalapeño 每小时总拥有成本 1.56 美元,和 H100 的 1.55 美元基本持平;英伟达 Rubin 每小时总拥有成本 3.61 美元。硬件成本测算建立在大规模自建数据中心前提下,如果放到公有云零散租用场景,这套成本优势不会完整显现出来。