据媒体最新报说念，英伟达行将推出至少三款新的AI芯片，包括 H20 SXM、PCIe L20 和 PCIe L2足球网盘网址，以替代被好意思国放荡出口的H100。这三款芯片均基于Hopper GPU 架构，最高表面性能可达296TFLOP（每秒浮点运算次数，也叫每秒峰值速率）。

确切不错详情的是，这三款AI芯片均是H100的“阉割版”或“缩水版”。

表面上H100比H20的速率快了6.68倍。据分析师Dylan Petal最新发布的一篇博文，即使H20的本色诓骗率能达到90%，其在本色多卡互联环境中的性能仍只可接近H100的50%。

也有媒体称，H20的综划算力仅颠倒于H100的20%，且由于增多了HBM显存和NVLink互联模块，算力本钱显贵提高。

不外，H20 的优点也很彰着，在诳言语模子（LLM）推理方面比H100快了20%以上。情理是H20在某些方面与来岁要发布的下一代超等AI芯片H200雷同。

英伟达一经作念出这三款芯片的样品，H20 和 L20瞻望将于本年 12 月推出，而 L2将于来岁 1 月推出。居品采样将于发布前一个月开动。

一条智能化生产线同时混合装配三款车型，眼前的装配环节完成一辆汽车的操作后，生产线马上根据MES系统设置，调整设备和工艺参数，无缝衔接装配另一款车……随着传送带缓缓移动，每间隔180秒就有一辆新车驶下生产线，每一辆新车的颜色、内饰都不一样。

皇冠hg86a

先来看H100，领有80GB HBM3内存，内存带宽为3.4Tb/s，表面性能为1979 TFLOP，性能密度（TFLOPs/Die size ）高达19.4，是英伟达刻下居品线中最广泛的GPU。

H20，领有96GB HBM3内存，内存带宽高达4.0 Tb/s，均高于H100，但计较材干仅为296 TFLOP，性能密度为2.9，远不如H100。

表面上H100 比拟H20 的速率快了6.68倍。但值得留心的是，这个比较是基于FP16 Tensor Core的浮点计较材干(FP16 Tensor Core FLOPs)，且启用了疏淡计较（大大减少运算量，因此速率会有显贵晋升），因此并不可全面反应其所有的计较材干。

另外，该GPU的热遐想功耗为400W，低于H100的700W，而况在HGX处置决策(英伟达的GPU就业器决策)中不错进行8路GPU的建立，它还保留了900 GB/s的NVLink高速互联功能，同期还提供了7路MIG(Multi-Instance GPU，多实例GPU)的功能。

H100 SXM TF16（Sparsity）FLOPS = 1979H20 SXM TF16（Sparsity）FLOPS = 296

说明Peta的LLM性能对比模子标明，H20在moderate batch size下峰值token/秒，比H100逾越20%，在low batch size下的token to token蔓延比H100还要低25%。这是由于将推理所需的芯片数目从2个减少到1个，要是再使用8位量化，LLAMA 70B模子不错在单个H20上灵验运行，而不是需要2个H100。

值得一提的是，H20的计较材干诚然只须296个TFLOP，远不足H100的1979个，但要是H20的本色诓骗率MFU（现在H100的MFU仅为38.1%），这意味着H20本色能跑出270 TFLOPS，那么H20在本色多卡互联环境中的性能接近H100的50%。

从传统计较的角度来看，H20比拟H100有所左迁，但在LLM推理这一方面，H20本色上会比H100快了20%以上，情理是H20在某些方面与来岁要发布的H200雷同。留心，H200是H100的后继居品，复杂AI和HPC责任负载的超等芯片。

与此同期，L20配备48 GB 内存和计较性能为239个TFLOP，而 L2 建立为 24 GB 内存和计较性能193个TFLOP。

L20基于L40，L2基于L4，但这两款芯片在LLM推理和教练中并不常用。

L20和L2均汲取 PCIe 外形规格，汲取了适应责任站和就业器的PCIe规格，比拟Hopper H800和A800这些规格更高的型号，建立也愈加精简。

关联词英伟达用于AI和高性能计较的软件堆栈对某些客户来说相配有价值，以致于他们不肯撤销Hopper架构，即使规格左迁也在所不吝。

L40 TF16 (Sparsity) FLOPs = 362L20 TF16 (Sparsity) FLOPs = 239L4 TF16 (Sparsity) FLOPs = 242L2 TF16 (Sparsity) FLOPs = 193足球网盘网址