随着AI推论需求增加和模型快速膨胀,三星电子与SK海力士不仅推出高效能的高带宽存储器(HBM),还致力于通过存储器内运算(PIM)技术解决效能与耗能瓶颈。
据三星电子存储器事业部DRAM设计组Master孙教民透露,三星正在研发LPDDR5X-PIM,而LPDDR6-PIM的标准化已接近完成,目标是在2025年底前达到可启动产品研发的阶段。各公司正在协调最后的细节。
相较传统存储器需将数据从存储库读出并传输到处理器,PIM技术将算术逻辑单元(ALU)等简单运算单元靠近存储器,大幅缩短数据移动距离,提升吞吐量并降低耗能。特别是在终端AI(On-device AI)加速发展的背景下,PIM在低功耗DRAM的LPDDR领域应用活跃,适合难以采用HBM的移动设备。
三星表示,LPDDR5X-PIM解决方案相比标准LPDDR5X,带宽可扩大至约8倍(614 GB/s),功耗节省约50%,并支持FP16/FP8和INT/4/8/16等多种运算。
然而,PIM技术的商用化仍面临诸多挑战。DRAM内加入逻辑后,必须严格进行PPA分析,否则会导致面积增大、耗电与发热上升,影响良率与成本。此外,选择适合的核心运算(如GEMV或GEMM)也至关重要。
在系统与软件整合方面,除了存储器本身的效能,还需要优化存储器控制器、数据布局、快取一致性和存取顺序管理,以确保正确性与效率。追加逻辑功能的存储器在验证与故障诊断上难度更高,软件堆叠的成熟度也需提升,以降低导入门槛。
最后是标准化问题。若缺乏JEDEC或产业联盟的共同规格,不同供应商与平台之间难以互通,客户导入风险与成本将上升,拖慢商用普及速度。因此,三星与SK海力士选择合作,计划建立共同标准并向JEDEC提案,以加速PIM技术的商业化进程。