HBM3先发GPU，并涉足无人驾驶

随着人工智能技术的快速发展，产业链明确提出了更好的人工智能基础设施建设功能规定优秀的计算控制部件，特别是ASIC或GPU，为了更好地在人工神经网络中提供稳定的计算率，传统的运行内存系统软件不会实现日益增长的网络带宽。

随着人工智能技术的快速发展，产业链明确提出了更好的人工智能基础设施建设功能规定优秀的计算控制部件，特别是ASIC或GPU，为了更好地在人工神经网络中提供稳定的计算率，传统的运行内存系统软件不会实现日益增长的网络带宽。此外，在许多人工智能处理芯片和HPC系统软件中，HBM或类似的带宽测试运行内存越来越广泛，为数据信息的密集应用带来了应用。

说到HBM，很多人肯定会想到成本相对较高、合格率较低的缺点，但这并没有损害业界对HBM的青睐。比如AMDRadeonPro5600M。英伟达的A100等交易级/私有云GPU，或者思科的路由器ASIC芯片SilicononeQ100。英特尔和AMD-XilinxFPGA都使用HBM运行内存。2022年1月底，JEDEC终于宣布推出HBM第四代HBM3规范。

HBM3的性能来日可期

HBM3提供的性能BM3提供的性能增加。传输速度是HBM2的两倍，达到6.4Gb/s，促进每个局部变量最大可达819GB/s的网络带宽。可用的单独安全通道也从HBM2的8个扩展到16个，再加上每个安全通道两个伪安全通道的设计方案，HBM3可以说适用于32个安全通道，给出更突出的时钟频率，提高系统软件的特性。

HBM3的TSV层叠叠加层数适用于4-high.8-high和12-high，这与HBM2e没有什么不同。从SK海力士给出的机械设备框架图来看，无论是8Hi还是12Hi，其包装形式的尺寸和极度都是一样的，只是减少了中间层叠裸片的相对高度。这只是第一代HBM3。未来，HBM3将扩展到TSV16-high的局部变量，单机设备的运行内存相对密度范围将超过4GB至64GB。然而，如果是第一代HBM3机器设备，目前仍使用16GB的运行内存层。

此外，在排热方面，HBM3根据提高dummybump、增加HBM3裸片尺寸、降低间隙相对高度，成功将温度降低25%，完成了更快的导热性。在7位ADC的大力支持下，HBM3的温度传感器还可以在1℃的屏幕分辨率下输出0-127℃的温度信息。

第一个使用HBM3的服务平台

以出现在GTC22上的H100GPU为例，这也是世界上第一个适合PCIE5.0和HBM3的GPU，其内存空间为80GB。这个体积与上一代A100一致，但网络带宽有质的飞跃。与选择HBM2的A100相比，H100的内存带宽翻了一番，达到了3TB/s。

你可能会感到困惑，即HBM3可以给每个局部变量超过16GB的运行内存，从H100处理芯片图中有6个HBM3，为什么只有80GB？英伟达是否有一定的彩票来获得更好的成本？

其实原因很简单。六个HBM3中的一个是DummyDie，所以真正可用的HBM3运行内存只有5x16，也就是80GB。因此，英伟达在H100的市场研究报告中也提到，这80GB是由5Stacks的HBM3运行内存组成的。这样做的原因很可能是出于合格率的考虑。毕竟大家早就提到了HBM合格率低的负担，上一代80GBHBM2e的A100也是这样设计的。

HBM找到了一个新的销售市场

根据SK海力士的市场预测，HBM销售市场以40%的复合增长率风靡HPC.AI和CPU，现在还有一个独特的应用，那就是ADAS和无人驾驶。如今，HBM在无人驾驶处理芯片上几乎看不到。即使是英伟达的JetsonAGXOrin也只使用256位LPDDR5运行内存，最大网络带宽仅为204.8GB/s。

这种事情再常规不过了，谁叫今天的ADAS或者无人驾驶计划都不能用HBM的大网络带宽。花钱设计HBM并不比在处理芯片的估计特性上下功夫。众所周知，L4或L5的无人驾驶是另一个场景。毫米波雷达、监控摄像头等AD1582ARTZ-R2传感器的低延迟和准确的数据处理方法尤为重要。这两个无人驾驶级别下的网络带宽至少需要1TB/s。

根据科研机构的预测分析，到2030年，L4以上无人驾驶技术将占销售市场的20%，到2035年，这一比例将上升到45%。为了更好地避免在提高L3时遇到网络带宽的不足，可以说引进HBM越快越好。即使从L3，也可以逐渐考虑。毕竟，许多无人驾驶处理芯片已经标榜了L3甚至L4的工作能力。

比如L3级无人驾驶，网络带宽规定在600GB/s到1TB/s之间，自行车可以使用2个HBM2e或一个HBM3；对于L4至L5级无人驾驶，网络带宽规定在1TB/s到1.5TB之间，自行车可以使用3个HBM2e或2个HBM3。

总结

虽然HBM3规范已经公布，但芯片设计公司(英伟达.AMD.英特尔).IP公司(新思.Cadence.Rambus)。晶圆代工厂的包装和包装技术(tsmcCowos-S.三星H-Cube.英特尔EMIB)及其储存厂商(三星.SK海力士)已经开始安排，但HBM3的普及仍需要时间。

据估计，从2023年到2024年，我们可以看到HPC在第一代HBM3中的普及，从2025年到2026年，第二代将逐渐增加。届时，我们也可以看到下一代HBM4的特点。没有必要急需HBM上的无人处理芯片。车辆设备的销售周期一直很长。从HBM3的推广速度来看，L4和L5可以灵活运用HBM3甚至HBM4的所有优势。