H100：物料成本

昨天跟同事讨论英伟达的最新财报，把目前最火热的算卡H100的物料成本给拆了一下，结合近期海外媒体的一些测算，其中有不少有意思的地方：

1. H100的物料成本（Bill of Materials, BOM），其中主要就是三个部分：核心逻辑芯片、HBM存储芯片、CoWoS封装。另外还有PCB板和其他一些辅助器件，价值占比相对较低。

2. 在网上找了一张H100的图（SXM5模组），简单标注一下：中间红色框就是核心逻辑芯片，周围围绕着6颗HBM存储芯片，然后7颗芯片整体用CoWoS工艺（一种Chiplet技术）封装起来。

3. 首先是核心逻辑芯片：这是一颗面积为814mm2的Die（裸晶），是核心中的核心，由台积电台南18号工厂生产，工艺节点用的是“4N”，其实并非真正的4nm，叫做5nm+或许更合适。

4. 这一块核心芯片成本多少？台积电一片4N工艺的12寸晶圆价格为13400美元，面积大概70695mm2，理论上能切80多块，考虑到良率和损耗，至少也能切65块，单块价格在200美元左右。

5. 然后是HBM3存储芯片，一共6颗，围绕着GPU，左右各3块，采购自韩国厂商SK海力士。每个HBM芯片容量16GB，每GB大概15美元，6颗芯片加起来大概要1500美金左右。

6. 最后是CoWoS封装。这是一种2.5D的封装工艺，算是台积电的独家技术。相比把芯片堆叠在一起的3D封装，CoWoS工艺能够提供更好的成本、散热和吞吐带宽，后两者对GPU特别重要。

7. CoWoS封装的成本台积电不会对外公布，但台积电财报披露了CoWoS工艺目前占总营收7%，客户只有英伟达和AMD，海外分析师Robert Castellano据此做了一个测算，大概封装一块H100需要723美金。

8. 这样我们把之前三块成本相加，大概在$2500左右，其中台积电占1000美金（逻辑芯片+CoWoS），SK海力士占1500美金（未来三星会染指），再算上PCB等其他材料，整体物料成本不超过3000美金。

9. 那H100卖多少钱呢？35000美金，直接加了一个零，毛利率超过90%。过去10年英伟达毛利率大概在60%上下，现在受高毛利的A100/A800/H100的拉动，今年Q2英伟达的毛利率已经站上了70%。

10. 这有点反常识：英伟达严重依赖台积电的代工，后者地位无人撼动，但这么一块3.5万美金的卡，制造它的台积电只能拿1000美金，而且只是收入，不是利润。这可能也是代工模式的魅力所在。

11. 不过，用毛利率来定义暴利，对于芯片公司意义不大，要是从沙子开始算，那毛利率更高。一张4N工艺的12寸晶圆，台积电卖给谁都差不多是1.5万美金一片，英伟达能加个零卖给客户，的确是人家本事。

12. 加零的关键是CUDA软件生态，十几年的持续砸钱，累计已经投入几百亿美金。目前英伟达全球超过2万人，大都是高薪的软硬件工程师，把它们的薪资扣完，英伟达还能剩30～40%的净利润率。

13. 目前H100的瓶颈主要卡在台积电，而台积电的产能瓶颈又卡在CoWoS封装上，正在疯狂上产能。海外机构GPU Utils分析目前H100的需求是43.2万张，现在一卡难求，从下单到收货至少要等3～6个月。

14. H100的成本结构，验证了业界的一个共识：

英伟达是一家软硬件生态公司，卖的是系统，不是硬件。苹果是这种境界的集大成者。

from：饭桶戴老板