传统数据中心跟不上 智邦新架构解放AI算力

AI除高速运算，也需高速传输配合。智邦指出，现有数据中心网络架构，已无法因应AI运算需求，面对客户AI高速传输需求，已开始开发新一代数据中心所需的网络架构，包括800G交换器、服务器加速器（Server Fabric Accelerator）及加速卡的解决方案，预计2024年下半试产。

AI强调高速运算，然信息传输速度一样重要。纬颖董事长洪丽甯日前于股东会表示，AI算力需要很多周遭环境配合，比如网络传输能力，现在还跟不上算力，此外，AI算力也会受到电力的限制。

业界指出，传统数据中心面对AI服务器浪潮时，既有配备难以跟上，包括液冷散热、电源供应与网络架构等都是瓶颈，除非客户有意在新建的数据中心导入新架构，否则在传统数据中心机房，无法发挥AI应有算力。

智邦表示，传统的数据中心架构透过PCIe Switch，连结CPU与GPU NIC，然若要进行AI或机器学习的数据传输，此架构会面临3种限制，包括无法适当扩充、较低的效能表现，以及较高的传输延迟（Latency）。

现阶段的数据中心架构，支持8~10颗GPU没问题，但是若要支持ChatGPT或Google的Bard，会用到上万颗GPU，如何弹性扩充并降低延迟，就成为提升算力效能的关键，而传统数据中心不足以应付此要求。

智邦指出，新一代的数据中心需采用另一架构，优化AI与机器学习流程，此架构是透过服务器加速器与NIC及存储器的CXL技术结合，让AI或机器学习可弹性扩充，并且减少其中的传输延迟。

上述新架构最高可节省50%成本，智邦CEO马思睿解释，所谓节省50%成本，是与现有架构比较，可用50%的GPU算力，就达到现在一样的效能，或与现在一样的GPU数量，可以提升50%的效能。

智邦耕耘AI领域长达4年，如今与策略夥伴合作，争取更多AI带来的商机，除了原本的网络交换器市场外，还包括光收发器、液冷散热等，至于新一代数据中心架构的解决方案，也规划在2024年进行概念性验证（POC），下半年试量产。

智邦在网络交换器市场也持续领跑，除了400G加速出货外，800G交换器也已完成开发，亦会推出相关的光收发器（Transceiver），主因100G与400G都采用铜线传输，未来在800G交换器时代，将会以矽基板整合光收发模块，取代传统的铜线传输。

智邦15日举行股东会，董事长林明蓉指出，AI技术突破性进步，大家开始利用大数据分析、展开机器学习，解决未知的问题，甚至处理生活需求，预估全球高速运算和通讯用量将急速增加。智邦迎合此重要趋势，将加速推出各类相关产品。