Nvidia 刷新对话式AI 训练成果：一小时完成训练，2

对话式AI是不少科技大厂努力的方向，而零售业也高度期待的应用，能够快速的用人类习惯的口语对话方式回覆，不再只是冰冷的文字回覆。Nvidia 宣布目前最先进的AI语音模型之一的BERT (Bidirectional Encoder Representations from Transformers)，能用不到一小时的时间训练，AI推论只要2 毫秒时间，对话式AI可望能与人类有更即时的互动体验。

▲ 不少家业者开发新的对话式AI，想要实现更为贴近人类习惯的人机对话可能。

• 最快训练：采用内建由1,472 个Nvidia V100 GPU组成92 个Nvidia DGX-2HTM系统的Nvidia DGX SuperPOD，执行全球最先进的AI语言模型之一BERT 的大型版本，成功把BERT-Large 的训练时间从先前的数日大幅缩短至仅53 分钟。此外，Nvidia 也能透过仅一台Nvidia DGX-2 系统在2.8 天内就完成BERT-Large 的训练，展现Nvidia GPU在对话式AI领域的扩充性。
  

• 最快推论：Nvidia 以Nvidia T4 GPU运行Nvidia TensorRT，在BERT-Base SQuAD 资料集上仅用2.2 毫秒就完成推论，不仅远低于许多即时应用要求的10 毫秒的处理门槛，也大幅领先以高度优化CPU程式码执行的40 毫秒。
  

• 最大模型：针对开发者对于更大模型永无止境的需求，Nvidia Research 在Transformers 的基础上着手建构与训练全球最大的语言模型，并导入BERT 采用的技术元件，以及许多其他自然语言的AI模型。Nvidia 的客制化模型拥有83 亿个参数，数量足足比BERT-Large 多出24 倍。