MLPerf跑分出炉 英特尔Gaudi2成绩亮眼

人工智能（AI）运算市场加温，继NVIDIA之后，英特尔（Intel）与超微（AMD）等大厂也相继推出自家AI运算芯片，抢攻大型语言模型（LLM）训练市场。英特尔表示，旗下Habana Gaudi2芯片已完成MLPerf基准测试，结果显示，在LLM训练方面的性价比优于NVIDIA A100（FP16），预计9月将发布对FP8软件支持及新功能。

根据Wccftech报导，近期全球最具颠覆性的应用非ChatGPT莫属，LLM已是未来发展趋势。开放工程联盟MLCommons日前公布最新的MLPerf Traning 3.0结果，显示结合Intel Xeon处理器和Intel Gaudi深度学习加速器的AI解决方案可以满足市场需求，成为NVIDIA GPU之外的替代选项。

Habana Gaudi2的测试结果亮点包括：

1、Gaudi2在GPT-31上的训练时间令人印象深刻，在384个加速器上只费时311分钟。
2、在GPT-3模型上，从256个加速器到384个加速器可达95%近线性伸缩（Near-linear scaling）效果。
3、在电脑视觉ResNet-50（8个加速器）和Unet3D（8个加速器）以及自然语言处理模型BERT（8和64个加速器）上取得优异的训练结果。
4、在BERT和ResNet模型上的效能，较11月提交内容分别提升10%和4%，证明Gaudi2软件成熟度提高。
5、Gaudi2的结果为「开箱即用」，客户在本地或云端部署Gaudi2后，无需修改即可得到类似的效能结果。