Google自家AI超级电脑 号称优于NVIDIA A100

作为AI领域开拓者的Google，也投入张量处理器的开发，以供模型训练之用。李建梁摄

Google近日在一篇新发表的科学研究论文，以及博客文章当中，论及其开发的人工智能（AI）超级电脑的新信息。

这台超级电脑主要应用于模型训练，搭载超过4,000颗张量处理器（TPU），以光学开关连接，据称速度及能源效率，比起采用NVIDIA A100 GPU的系统，分别高出最多1.7倍及1.9倍。

Google指出，之所以不与NVIDIA最新一代的H100 GPU比较，是因为后者比较晚推出，而且采用更先进的制程技术。Google高层受访时还表示，公司拥有「未来芯片的良好设计流程（pipeline）」。外界解读，这可能是在暗示Google正在开发新一代的TPU，以与H100 竞争。

综合路透（Reuters）与CNBC报导，Google有超过9成的AI训练工作，都采用自主设计的TPU。目前这款芯片已经发展到第四代，与NVIDIA A100约略同时推出。Google迄今对外公开过的最大语言模型PaLM，就是利用各自搭载4,000颗TPU、采用光学开关连接的两台超级电脑，以50天的时间训练而成。

Google表示，透过电路交换（circuit switching）技术，这台超级电脑可以很轻易的绕过故障的零件，甚至能够改变系统互连的拓扑（topology），以提高机器学习模型的效能；良好的效能、可扩展性及可用性，令其成为大型语言模型的主力系统。

这台超级电脑早自2020年开始，就已经部署在Google位于美国俄克拉何马州梅斯郡（Mayes）的数据中心当中，并运作至今，但时至今日才对外公开细节。除了Google内部以外，此系统也提供给新创业者Midjourney用于图片生成模型训练工作。

责任编辑：张兴民