异构计算芯片未来的发展趋势

随着智能的发展，调用大量数据的需求越大，对计算能力的需求就越大。因此，计算能力的提高已成为云、边缘和终端的共同趋势。为，在云计算占据计算主导地位的当下，边缘计算将是云计算的延伸和补充。但事实上，延伸和补充都不足以反映边缘计算的巨大潜力。

边缘计算的边界在哪里？

石庆科技总裁于欣认为，云、边、端更多的是从应用场景中划分出来的，而不仅仅是基于性能。从这个意义上说，云、边、端的场景还是比较清晰的。当然，从任务处理的角度来看，确实有将更多的推理任务下放到边缘和终端的趋势，也会有更多的云边融合协作场景。但对于终端和边缘设备来说，会有更多的成本和功耗限制，提高计算能力效率是更关键的指标，包括单位计算能力的成本和实际应用效果。

灵溪科技副总经理华宝洪表示，终端侧和边缘侧自诞生以来就承担着不同的使命。作为与用户直接交互的设备，终端以感知为主要功能。低功耗、低延迟是基本要求，计算能力也相应平衡。一般来说，端侧设备的计算能力弱于边缘侧的计算能力水平。他强调，对于终端制造商声称的计算能力，我们需要明确是理论计算能力还是有效计算能力。只有当终端与边缘侧的有效计算能力相当时，它才能真正达到边缘设备的计算能力水平。

上海雪湖科技有限公司副总裁赵晓武就应用场景和未来趋势发表了意见。云边界本身的定义是由于芯片计算能力和通信传输能力的限制而产生的边界。在某种程度上，边界和终端的边界确实变得模糊，但对于不同应用场景的性能要求，边界的定义可能不同。对于计算能力要求低的场景，终端设备的性能足够，可能不需要特殊的边缘计算设备；对于计算能力要求高的场景，如道路协作、智能交通等，终端传感器设备不能满足需求，需要使用边缘计算设备处理摄像头、激光雷达和毫米波雷达数据，实现全息感知功能，他说，随着芯片和通信传输技术的迭代，我相信这个边界有时会模糊和清晰。

什么是核心指标？

计算能力是一个广义的词，如何评估计算能力设备？有两个更重要的事情：理论峰值计算能力和真实有效的计算能力。理论计算能力是指通过公式推导出的理论计算能力；有效计算能力是指设备在实际运行过程中能够真正输出的计算能力，是设备实际计算能力效率的体现。灵溪科技华宝洪还提出了以下六项评价指标：

（1）、计算芯片的峰值计算能力

理论计算，理想情况下的峰值计算能力。通过计算核的主频率、核数量、单核计算能力来输出理论峰值，与实际场景中的真实有效处理能力有很大差距。

（2）、计算芯片的有效计算能力

设备在实际运行过程中能真正输出的计算能力。例如，在浮点16位精度下，推理的计算量约为7.8Gflops，芯片每秒处理的resnet50的帧率乘以7.8G，即真实有效的输出计算能力。如果推理帧率为400fps，则真实计算能力为400*7.G=3Tflops。

（3）、计算芯片的有效利用率

它代表了芯片真实输出的计算能力。计算方法为:真实有效的输出计算能力/理论计算能力。计算结果值越高，芯片工作效率越高。在实际应用场景中，传统架构计算芯片的有效利用率一般在30%左右，而新架构计算芯片的有效利用率可达50%以上。灵启KA200异构众核，集成芯片的有效利用率可达60%以上。

（4）、计算芯片对主流神经网络的支持程度

下一代人工智能有两种不同的开发路线图，一种是以深度学习算法为代表的传统计算科学，另一种是以生物神经网络为代表的大脑科学。大多数计算芯片只能支持其中之一。它们能否合并和支持也是衡量计算芯片的核心指标之一，异构集成是实现该指标的重要途径之一。

（5）、芯片能效比

计算方法为：典型网络（如Resnet50）的推理能力/芯片功耗，单位：推理帧率（fps/w）。

（6）、芯片的性价比

每平方毫米推理的帧率计算方法为：典型网络（如Resnet50）的推理能力/芯片面积。

异构精髓——有针对性

在边缘计算领域，各种应用催生了各种计算需求，往往需要权衡计算能力、功耗、体积等问题。由于资源的优化，异构计算逐渐成为业界的共识。在计算能力需求激增的第一阶段，以CPU和GPU为代表的芯片率先迎来强劲增长。这些先进半导体技术制造的计算能力设备往往具有较强的性能和良好的兼容性，在异构计算领域占据主流地位。

石庆余欣说，所谓的异构计算实际上希望有不同的处理器形式来更有效地处理不同的算法。与一般计算能力相比，异构的目的应该相对于某种或某种特定的应用程序来定义，因此需要更有针对性和更有针对性。他强调，为了异构而异构意义不大。

从指令集架构的角度来看，该行业已经形成了自己的力量范围。余欣认为，从技术的角度来看，它们并不是那么绝对，它们也会相互渗透。例如，ARM架构也有服务器和个人电脑应用程序，RISC-V将越来越多地朝着高性能的方向尝试。在未来，更常见的生态问题，正是因为技术角度没有那么大的差异，生态特别重要。然而，先入为主后的替代成本和门槛非常高，这个过程将相对较长。

Imagination计算业务产品管理总监Robfisher表示，随着性能需求的不断增加，系统功耗水平需要不断降低，这才是异构结构真正体现价值的地方。

关于异构计算未来的发展趋势，他认为最密集的计算部分将定位在加速器上，可以高效运行，提供性能，管理功耗。然而，只有当加速器能够扩展并满足应用程序的性能需求时，它才能发挥作用，也就是说，可扩展性是未来结构的重点。除了在一个维度上扩展外，复杂的计算工作负荷还必须在多个维度上实现可扩展性，从而改变计算资源的组合来满足需求。

雪湖科技赵晓武也认为，异构计算平台的主流发展方向必须能够更有效地获得高性能计算能力框架，结构灵活性高，可扩展性好，计算资源利用率高。由于不同的计算架构有自己的优势，场景变得更加多样化和复杂，我们应该更深入地分析不同计算架构和不同芯片的优势，并设计适合特定应用场景的异构计算方案。

灵溪科技华宝洪强调了探索新计算架构的紧迫性。目前，传统的冯·诺依曼架构正面临着存储墙、芯片利用率低等诸多瓶颈。半导体技术开发造成的摩尔定律失败给计算能力芯片的发展蒙上了阴影。

他认为，这催生了新型颠覆性计算架构的发展。类脑计算和量子计算是两个典型代表。这两个前沿战略方向已纳入国家十四五规划和2035年远景规划。类脑计算将计算机的刚性与人脑的弹性结合起来，既能实现高计算能力，又能保证低功耗和低延迟。

随着新体系结构的不断出现，未来的异构计算必然会出现CPU、GPU和新体系结构的融合，即传统冯·诺依曼体系结构与非冯·诺依曼体系结构的融合，而不仅仅是当前CPU与XPU的融合。

总结

边缘计算正成为数字化转型和智能升级的重要基础。它的功能和赋能行业的作用越来越关键。AWM2300V人工智能芯片作为核心计算能力提供商之一，在当前的技术创新和未来的商业实践中也将取得巨大的进步。

对于正处于百花齐放阶段的国产AI芯片来说，这是成长的沃土。虽然传统的通用处理器已经占据了发展的先机，但也存在着功耗高、价格高、能效低等问题。CPU统一世界的计算时代已经消失。计算多样性产生的异构、灵活、可扩展架构是未来计算时代的主题。正如几位受访者一致认为的，提高能效比是计算架构发展的不懈追求。