科大讯飞「星火一体机」开箱即用部署LLM 华为AI芯片升腾910B首次商用

2019年8月发表的升腾910已经配置HBM了，可想而知当时的AI算力已有一定实力。如今传出升腾910B首次商用，更令外界好奇实际效能。华为

在生成式人工智能（generative AI）带动下，如何让每一家企业、每一个产业、每一个学校、每个医院都可以有机会打造属于自己的专属大型语言模型（LLM）？

这个需求，在国内市场上，还必须考量NVIDIA A100/A800芯片高价难求的供应吃紧困境。

有监于此，国内AI业者科大讯飞15日在星火认知大模型发表会上，与华为共同发表了一款用于企业打造专属LLM的软硬件一体化设备「星火一体机」，号称「企业拎回去，开箱即用」。

星火一体机设备，可提供对话开发、任务编排、插件执行、知识接入、提示工程等5种定制化优化模式，以及办公、代码、客服、运维、行销、采购等10种以上即开即用的场景，支持3种LLM尺寸，供用户选择。

综合中媒第一财经、快科技等报导，科大讯飞董事长刘庆峰表示，该公司和华为已在联合攻克算力卡关的问题。

刘庆峰指出，正在与华为打造针对超大规模参数LLM训练的本土算力的集群，对标NVIDIA的A100芯片。

他进一步表示，华为和科大讯飞将共同在生成式软硬件平台上，结合高算力、高效能的算子库与多卡的高速互连，以及分布式储存，目前该平台在单卡算力上，已经能够能齐平NVIDIA的A100芯片，在无法确保美国芯片的前提下，华为与科大讯飞按照本土的AI芯片来规划，着眼于国产化。

相较于A100可说是目前在LLM训练市场上，应用最广泛的芯片，第一财经取得业者证实，星火一体机采用的是华为尚未官宣的AI芯片升腾910B。

业界人士向中媒透露，华为并未揭露升腾910B芯片的效能，但近来华为在业内大力推广这一平台，而且它的效能与其上一代的升腾910芯片相比，不可同日而语。

值得注意的是，华为在2019年8月间，发表AI芯片升腾910，由台积电7纳米EUV制程代工。

当时，华为轮值董事长徐直军表示，升腾910具有两大亮点，一是当下全球运算力最强、训练学习速度最快的AI芯片。此外，他也强调，升腾910的算力是国际顶尖AI芯片的2倍，运算密度超过NVIDIA V100 、 Google TPU v3等。

2023年8月1日，华为在官网上公布升腾910B芯片的NPU驱动和韧体升级指引。不过，此前并未正式官宣该款新芯片的存在，目前也不清楚是否由中芯国际采7纳米DUV制程多重曝光代工制造。

责任编辑：张兴民