生成式AI与LLM仅能在NVIDIA GPU运行？ 英特尔罕见反击

生成式人工智能（generative AI）应用全面扩大，所需庞大算力带动高端AI GPU需求飙升，苦熬多年的NVIDIA强势出线，几乎独霸AI GPU市场，业界更频传生成式AI和大型语言模型（LLM）仅能在NVIDIA GPU上执行。

为此，英特尔释出最新数据数据指出，英特尔的AI解决方案产品组合，事实上可为希望摆脱限制效率和规模的封闭生态系的客户，提供极具竞争力的选项。

NVIDIACEO黄仁勳先前来台针对AI技术与应用发表最新看法。

他表示，在数据中心建置的成本架构方面，使用GPU建置的数据中心，成本将远低于CPU；即便CPU运算速度不断提升，但进入AI时代后，以CPU为运算基础的时代已结束，LLM需要新的解决方案。整体而言，以GPU所建置的数据中心，不论是功耗或者数据处理量皆优于CPU。

以1,000万美元建置预算为例，GPU所建置的数据中心，对LLM处理量是CPU的44倍。

另外，由于NVIDIA以A100/A800及H100系列占据AI GPU市场9成版图，目前超微正急起直追，MI300系列将在2023年第4季量产，而市场对于英特尔AI实力多保守看待。

对于业界频传生成式AI和LLM仅能在NVIDIA GPU上执行的看法，英特尔也首度端出数据数据回击。

英特尔数据中心与AI事业群总经理Sandra Rivera表示，MLCommons近日公布业界AI效能基准测试MLPerf Traning 3.0的结果，其中，英特尔Habana Gaudi 2深度学习加速器和第四代Xeon可扩充处理器，皆取得优异的训练结果。Xeon内建加速器是在通用处理器上执行大量AI工作负载的理想解决方案，Gaudi则在LLM和生成式AI方面提供具竞争力的效能。英特尔的可扩展系统搭配最佳化、易于程序设计的开放式软件，降低客户和合作夥伴于数据中心部署各类云端到智能边缘AI解决方案的门槛。

以Gaudi2为基础的软件和系统，其训练成熟度在GPT-3上获得大规模的证实。在仅有2款提交GPT-3 LLM训练基准测试效能结果的半导体解决方案当中，Gaudi2是其中之一。Gaudi也为客户提供极具竞争力的服务器和系统成本优势，相较NVIDIA H100而言，在性价比上成为极具吸引力的选择。

另在CPU方面，搭载英特尔AI引擎的第四代Xeon处理器所展现出的深度学习训练效能，让客户可以使用Xeon服务器建构单一通用AI系统，用以数据预处理、模型训练和部署，借此提供AI效能、效率、准确性和可扩展性的正确组合。MLPerf被普遍认为是最具信誉的AI效能基准测试，能够在各款解决方案之间进行公平且可重现的效能比较。