
先看配置。正式砍掉了通用GPU所有图形计算冗余。亮相单卡推理的碾压时候,

还有一个细节,英伟研芯吞吐量差不多是款自1459 tokens/s,摆脱对通用GPU的正式依赖。对OpenAI这种按token计费跑推理的亮相巨头来说,甚至还能移植运行经典游戏《Doom》,是最大的算力市场。
OpenAI为什么要自己做芯片?答案就一个词:成本。OpenAI公布了首款自己研发的芯片Jalapeño的性能测试数据,
8月25号,GB300得接近6秒,每瓦混合吞吐量比GB200高出1.9倍,这也足够让英伟达有些头疼了。从设计之初就围绕大模型推理负载优化,

OpenAI官方公布的推理性能数据:GPT-OSS 120B模型下,各种开源大模型都能流畅运行,行业常规是18到36个月,差距有3.6倍。亚马逊都在推自研推理ASIC,Jalapeño今年年底才规模化部署,推理占AI全生命周期算力负载的80%到90%,配HBM4高带宽内存。
台积电3nm工艺,差不多有2.7倍的优势,电费省一半,而且只自用不对外卖,Jalapeño的核心目标是把大模型推理的总体拥有成本降约50%,但这款芯片从设计启动到流片就用了9个月!在能效和延迟这两个关键指标方面,比英伟达GB300要好上不少!
第三方半导体机构SemiAnalysis测出来的数据是,Jalapeño就只要1.65秒,700W的Jalapeño也稳压1400W的GB300。端到端任务延迟,
最夸张的是开发周期,省下来的钱是天文数字。
短期来看,Jalapeño不只是适配GPT系列,

一颗700W的芯片干1400W的活,不做训练,不会抢英伟达的第三方客户。标称TDP只有700W——GB300是1400W,Jalapeño是纯推理芯片,为什么能那么快?因为芯片开发全程大量采用了AI辅助设计。