SK海力士公布基于PIM的生成式AI加速卡“AiMX”

据韩媒报道，SK海力士在日前举办的“AI硬件与边缘AI峰会2023”上公开展示了基于PIM（内存处理）的生成式AI加速卡“AiMX”。PIM是具有计算功能的存储器。AiMX 由 SK 海力士于 2022 年 2 月首次推出的“图形双倍数据速率 (GDDR)6-AiM（内存加速器）”和专用控制器（ASIC）组成。

SK海力士使用 AiMX 服务器演示了 Meta 的生成式 AI“OPT（开放预训练变压器）13B”。与配备GPU的系统相比，速度提高10倍，功耗降低80%。