据媒体报道,Meta与亚马逊旗下的AWS于24日宣布达成合作协议,Meta将大规模部署AWS Graviton处理器,以支持其新一代人工智能系统的建设。这一举措反映了AI基础设施架构正在发生的转变。
根据协议,此次部署的初期规模将达到数千万个Graviton核心,并可根据Meta AI的发展需求持续扩展。尽管GPU仍是大型模型训练的主要选择,但随着代理式AI(Agentic AI)应用的增加,CPU密集型工作负载的需求也显著上升。这些负载包括实时推理、代码生成、任务协调等复杂任务,而Graviton芯片在处理这类任务时表现出色。
Graviton5芯片是AWS最新一代产品,配备192个核心,其缓存容量是上一代的5倍,核心间通信延迟最高可减少33%。这一性能提升对需要持续推理和执行多步骤任务的Agentic AI系统尤为重要。此外,Graviton芯片基于AWS Nitro系统,结合专属硬件和软件,提供了高效能、高可用性和高安全性。Nitro系统支持裸机实例,允许用户直接访问硬件资源,同时保持一致的网络和存储性能。
Graviton5实例系列还支持弹性结构适配器(EFA),可实现低延迟、高带宽的实例间通信。这对Meta的大规模任务分配和多处理器协调至关重要。Meta基础设施主管Santosh Janardhan表示,多元化计算资源是公司AI战略的重要组成部分,而AWS的Graviton芯片能够满足其对性能和效率的需求。