Hailo推出26TOPS AI加速器，扩展入门级边缘AI

边缘人工智能使设备能够在本地处理数据，使自动驾驶汽车和机器人等应用程序能够立即响应。 它以实时决策为基础，确保以高效、快速和定制的方式完成手头的任务。

边缘人工智能公司面临的挑战是开发可扩展且经济实惠的人工智能，可以轻松部署在各种应用程序中。为此，以色列人工智能芯片初创公司 Hailo 最近扩展了其 Hailo-8 人工智能加速器产品。 据该公司称，Hailo-8 边缘人工智能加速器可适用于视频分析、监控和基本机器人控制等入门级应用，实现高达 26 TOPS 的处理速度。

Hailo CEO Orr Danon 在接受 EE Times Europe 采访时表示，Hailo-8 加速器新颖的数据流架构是实现该系列成本和功效优势的主要因素。“我们不是按顺序处理，而是将计算分布在芯片的不同部分，有效地同时运行神经网络的不同部分，这种分布式方法利用了时间域和空间域，从而实现了高并行性和短迹线长度。因此，可以以低功耗实现了高性能。”

Hailo 的方法允许神经网络的不同部分（边缘人工智能的基本组成部分）在芯片上彼此更接近地进行处理。“数据不需要长距离传输。这减少了延迟并最大限度地减少了能源消耗，从而提高了能源效率。”Danon说。

用于入门级边缘人工智能应用的 Hailo-8 （来源：Hailo）

“这种设计使我们能够从硅的每个单位面积中榨取更多性能，从而转化为成本优势。”他补充道。 “虽然这种架构不适用于图形处理，但它对于日益占主导地位的人工智能工作负载来说非常高效。 得益于并行性优化，我们的功率效率和成本效率在我们实测的数据中显而易见，数据流架构是这种方法的基础。”

该公司还扩展了 Hailo-8 Century 系列 PCI 卡，该卡可以插入计算机主板以提供额外的处理能力，为视频管理等应用提供 52 至 208 TOPS。

比 Nvidia 更有优势

Hailo 表示，当 Hailo-8 加速器在 ResNet 50基准模型（一种用于图像分类任务的深度神经网络架构）上运行时，它们在性能、成本效率和功效参数方面优于 Nvidia 的同类产品。

Hailo-8L 以每秒 500 帧 (fps) 的速度运行 ResNet 50，而专为高性能应用程序设计的 Century 系列则以 10K fps 的速度运行模型。 该公司表示，凭借优化的数据流架构，Hailo-8、Hailo-8L和Century产品可以处理具有多个实时流的复杂管道以及多种人工智能任务的并发处理，同时为实时应用程序提供多种解决方案。

Hailo 表示，其软件套件涵盖了从教程示例到数百种模型的综合选择工具的所有内容，从而为客户提供了充足的余地来根据其特定应用定制产品。该软件是开源的，因此客户不会被供应商锁定。

实现边缘人工智能能力的挑战和机遇

Hailo CEO Danon

从汽车和视频管理到智能城市、智能零售和智能家居等领域，人工智能的采用正在激增。 当被问及边缘人工智能的入门级应用时，Danon指出了智慧城市的增长机会，其中边缘人工智能用于减少网络带宽的使用，同时从部署的交通监控、犯罪预防和城市管理的摄像头中提取关键信息。 Danon 补充道，物理安全应用正在采用边缘人工智能来进行周界和访问控制。

另一个领域是先进的驾驶员辅助系统。 这些汽车系统依靠摄像头、雷达和激光雷达来了解环境，从而实现高速公路辅助和自动停车等功能。 然而，该行业在实现完全自动驾驶方面仍然面临障碍。 一项主要挑战是可用的算力有限。 为了创建 360° 的感知范围，多个传感器必须实时无缝工作，这需要车辆本身具有更强的人工智能处理能力。

另一个问题是，追求更好的性能和功能往往会导致更高的功耗和发热。如果管理不当，多余的热量可能会造成损害。 因此，平衡功率、性能和热量至关重要。这些挑战需要更先进的人工智能功能以及更安全、更高效的自动驾驶。

虽然该行业面临着增加加工量等多项挑战，但Danon表示，Hailo 拥有用于监控的人工智能增强图像项目。 “这项技术已广泛应用于静态图像消费设备，现在也适用于监控摄像机，特别是 IP 摄像机，以提高图像质量。 我们的目标是通过超越传统的图像增强方法并彻底改变监控市场。”

Danon 还提到了低延迟模型服务 (LLMS) 和生成式人工智能在边缘的预期大规模采用，他表示这将为人工智能世界引入新的维度并带来各种应用。

这种扩张既带来了复杂性，也带来了机遇。 它要求 Hailo 探索新的途径来创建利用这些先进人工智能技术的创新应用程序。 作为人工智能芯片供应商，Hailo 在发布扩展的人工智能加速器阵容后，预计将与软件和开发商同行合作，提供更先进的人工智能应用。

另外，芯原股份不久前宣布Hailo在其Hailo-15高性能AI视觉处理器产品系列中，采用了芯原的图像信号处理器（ISP）IP ISP8000L-FS和视频处理器（VPU）IP VC8000E。这两款被采用的IP使Hailo创新的AI解决方案能够在广泛的应用中得到高效的实施部署，并缩短相关上市时间和降低工程成本。