Marvell采用CPO技术提升定制AI加速器性能

Marvell近日宣布，其定制XPU架构将采用共封装光学（CPO）技术。这一创新举措旨在进一步提升AI服务器的性能，满足日益增长的计算需求。通过将CPO技术与Marvell最近推出的定制高带宽内存（HBM）计算架构相结合，Marvell能够帮助客户将其AI服务器的规模从目前使用铜互连的机架内数十个XPU扩展到使用CPO的多个机架中的数百个XPU，从而实现更高的带宽密度和更长距离的XPU到XPU连接，同时保持最佳的延迟和功率效率.

Marvell的定制AI加速器架构利用高速SerDes、芯片到芯片接口和先进封装技术，将XPU计算硅片、HBM和其他芯片与Marvell的3D SiPho引擎整合在同一基板上。这种集成方式使得XPU之间的连接无需电信号离开封装进入铜缆或穿过印刷电路板，从而实现了更快的数据传输速率和比电缆长100倍的距离。这不仅可以在AI服务器内实现跨多个机架的扩展连接，还能够显著降低延迟和功耗。

CPO技术通过将光学元件直接集成在单个封装内，最大限度地缩短了电气路径长度。这种紧密耦合的设计可以显著减少信号损耗，增强高速信号的完整性，并最大限度地减少延迟。此外，CPO利用高带宽硅光子光学引擎来提高数据吞吐量，与传统铜连接相比，硅光子光学引擎能够提供更高的数据传输速率，并且不易受到电磁干扰。这种集成方式还通过减少对高功率电气驱动器、中继器和重定时器的需求，进一步提高了电源效率。

通过实现更长距离和更高密度的XPU到XPU连接，CPO技术为高性能、高容量扩展AI服务器的开发提供了有力支持，优化了下一代加速基础设施的计算性能和功耗。Marvell的这一创新举措将为云超大规模者开发定制XPU提供更大的灵活性和更高的性能，推动AI服务器技术的发展，满足未来对高性能计算的需求。