韩国教授金正浩：AI核心竞争力正转向存储器

据《东亚日报》报道，韩国科学技术院（KAIST）电气系教授金正浩近日在接受采访时指出，人工智能的核心竞争力正逐渐从图形处理器（GPU）向存储器转移。作为高带宽内存（HBM）领域的知名专家，金正浩对AI硬件架构的未来发展提出了相关见解。

在AI推理过程中，GPU的实际利用率往往低于理论预期。数据显示，即使部署规模庞大的GPU集群，其真正用于计算的时间占比仅在10%至30%之间。这是因为每次输出结果前，系统必须先从HBM读取数据并传输至GPU，计算完成后再写回存储器。金正浩表示，早期AI侧重于模型训练，GPU性能起决定性作用；但随着AI迈入推理阶段，系统单次处理数据的规模与速度成为关键，存储器的性能将直接决定AI的整体表现。

针对多模态模型与代理式人工智能的发展需求，系统需要存储视频、文档等海量冷数据。为此，将NAND闪存进行类似HBM堆叠的高带宽闪存（HBF）技术有望成为行业主流。据预测，十年后HBF的市场需求规模将超越HBM。而在更长远的技术演进中，采用静态随机存取存储器（SRAM）的高带宽SRAM（HBS）技术将占据主导地位。该方案计划在整个12英寸晶圆上集成SRAM，使读写速度较动态随机存取存储器（DRAM）提升千倍，容量可达约1600GB。

关于未来AI计算机的物理架构，金正浩提出了一种约100层规模的3D复合结构设想。在该三维建筑模型中，HBM、HBF与HBS分别承担不同的数据流转功能，协同为GPU提供数据支持。

资料显示，金正浩长期深耕HBM及2.5D/3D封装技术领域。他曾于2010年联合SK海力士开展HBM1的研发工作，并于去年参与了HBM4至HBM8的长期技术路线图规划。