布达佩斯
OpenAI 首款自研芯片 Jalapeño 性能首秀：DeepSeek R1 每瓦 AI 吞吐量是 GB300 的 1.7 倍_我的网站
一 | 8 月 26 日消息，OpenAI 昨日（8 月 25 日）发布博文，展示其首款自研 Jalapeño 芯片，并表示无论是单用户 token 处理量，还是每千瓦吞吐量，都超过了目前市面上的顶尖推理处理器。在官方博文中，OpenAI 使用半导体研究公司 SemiAnalysis 开发的公共基准测试工具 InferenceX，通过 GPT-OSS 120B、DeepSeek R1 670B 和 Kimi K2.5 1T 三款模型测试。测试显示对比市面上领先的 AI 系统（GB200 和 GB300），每瓦能够完成的 AI 吞吐量是对比系统的 1.5 至 1.9 倍，端到端延迟则约为对比系统的 28% 至 59%。 8月24日消息，据Wccftech报道，SK海力士近日详细阐述了其HBM技术路线图的加速路径，核心举措包括引入EMIB封装方案，并明确将3D集成作为长期目标。 当前，HBM通过TSV（硅通孔）技术将多层DRAM芯片堆叠于基础裸片之上，最高可支持16层堆叠。HBM与计算模块（XPU，涵盖GPU、TPU等）相互独立，通过2.5D封装共同安装于同一中介层。混合 Token 吞吐量与现有 AI 加速器的最快解码速度对比3 款模型峰值单用户解码吞吐量各平台最佳运行点的混合 Token 峰值吞吐量OpenAI 表示，Jalapeno 在运行 GPT-OSS 120B 时，每千瓦的峰值吞吐量比 GB200 系统高出约 1.9 倍。
每个HBM模块配备1024位I/O接口（共16通道），通过物理接口层（PHY）与XPU相连。在 DeepSeek R1 上，它的每瓦性能比 GB300 高出约 1.7 倍；在 Kimi K2.5 上，它的每瓦性能比 GB300 高出约 1.5 倍。而下一代HBM4将首次将I/O接口扩展至2048位，这将是自2015年HBM问世以来的最大规格变革。Jalapeno 的额定功率为 700 瓦，但在测试工作负载期间，其持续功耗保持在 550 瓦或以下。
二 | 在封装工艺上，目前主要存在两大技术路径：热压键合配合非导电膜（TC+NCF）和整体回流焊配合模塑底部填充（MR+MUF）。前者在应对芯片翘曲方面更具优势，但热阻较高且生产效率偏低；后者生产效率更高、热阻更低，却更易出现翘曲及间隙填充缺陷。
三 |
面向未来，SK海力士计划引入混合键合技术，以消除芯片堆叠中的凸块并缩小间距。同时，公司正在开发名为“I-HBM”的局部散热技术（类似三星的HPB方案），旨在优化传热路径，更高效地分散热量，为更高层数的堆叠铺路。附上相关图片如下：延伸阅读Jalapeño 是 OpenAI 首款自研 AI 推理芯片，由 OpenAI 与博通（Broadcom）合作开发，台积电采用 3nm 制程代工制造，于 2026 年 6 月 24 日首次对外展示。该芯片是一颗 ASIC（专用集成电路），采用 systolic array（脉动阵列）架构，配备 HBM 高带宽内存，专为大语言模型推理场景设计，不用于模型训练。芯片及配套服务器系统均不会对外销售，仅供 OpenAI 内部使用，旨在降低自身 GPU 采购和算力运营成本。OpenAI 硬件负责人 Richard Ho 领导了该芯片的研发，他此前在 Google 工作近九年，是 Cloud TPU 项目的核心工程师。Jalapeño 从架构设计到完成流片仅耗时约 9 个月，OpenAI 称这是高性能先进半导体领域有史以来最快的 ASIC 开发周期之一。 在2.5D封装解决方案方面，SK海力士目前已在传统CoWoS-L、CoWoS-R和CoWoS-S之外，新增了英特尔的EMIB技术，形成更丰富的异构集成选项。OpenAI 自身的 AI 模型也深度参与了芯片设计流程，帮助加速设计优化。 此外，市场传言SK海力士与英特尔有望在存储领域组建合资公司，进一步深化合作。目前第二代 Jalapeño 芯片已进入后期开发阶段，预计未来数月内完成流片；第三代芯片也已启动概念设计。同时，与三星类似，SK海力士也在积极推进3D垂直堆叠方案，将HBM直接置于计算模块之上，以突破现有封装架构的带宽和能效瓶颈。OpenAI 计划于 2026 年年底前小规模部署 Jalapeño，2027 年逐步扩大部署规模。
Current article:http://8tee.zhuankaizhuohangwangdixi.shop/list_cmima/7wfacxl.html
Published on:00:00:00