AMD携手Cerebras提升AI推理性能

近日，AMD宣布与美国人工智能初创企业Cerebras建立合作关系，计划将后者的晶圆级引擎（Wafer-Scale Engine）技术整合到其Helios机架平台中，从而进一步提升AI推理性能。

据Wccftech报道，Cerebras的晶圆级引擎技术将AI超级计算机所需的内存与算力集成在单片巨大的互连硅芯片上。该芯片内部无缝连接了数十万个计算核心与数十GB的SRAM，确保数据高效传输，彻底消除了外部网络瓶颈。这种设计不仅能在一个统一的SRAM区块内装载完整的中型AI模型或大型模型的核心模块，还具备同时处理训练和推理任务的多功能性。

OpenAI研究员Jeffrey Wang透露，OpenAI内部部分运行在疑似采用Cerebras晶圆级引擎芯片上的模型，展现出了极高的推理速度，显著提升了用户的工作效率。在当前推理成本已成为决定数据中心盈利能力关键因素的背景下，推理效率的提升正受到业界的广泛关注。

AMD的Helios是首款专为AI工作负载打造的全栈机架级解决方案，其硬件和软件组件包括Instinct MI455X GPU、第六代EPYC CPU、Pensando AI网络接口卡、Pensando DPU、Infinity Fabric互连架构以及ROCm软件栈。根据AMD的产品路线图，Helios系统旨在提供高性能且可扩展的吞吐量引擎。在引入Cerebras的超高速、低延迟解码与Token生成技术后，这两套计算引擎的结合预计将使每瓦每秒的Token产出量提升高达5倍。