人工智能与物联网在嵌入式领域的融合

作者：Mohammed Dogar

Vice President

物联网（IoT）不仅改变我们的日常生活，还会影响我们人类社会的点点滴滴。从智能家居到未来的工厂，联网设备的数量持续快速增长。据IDC估计，到2025年将有超过557亿的入网设备，其中75%将连接到物联网平台。这将导致这些设备生成的数据流，预估从2019年的18.3 ZB增长到2025年73.1 ZB。届时，AI（人工智能）的高效算法将会在不同方面有效克服物联网部署及应用中的挑战。人工智能和物联网设备的优势能够确保对数据的系统性计算分析，但也带来延迟和安全漏洞等问题。现在技术已经可以在成功创建分布式智能动态网络的同时实现数据的实时处理。

什么是AIoT？

智能物联网（AIoT）是一个相对较新的术语，但已风靡全球。它是新兴技术中的两大巨头——人工智能（AI）和物联网（IoT）的结合，旨在实现更高效的物联网运营、改善人机交互并增进数据管理和分析。物联网是由相互连接的设备组成，由众多的传感器，生成并收集大量数据。人工智能能够让机器基于之前的经验来执行任务。它也可以将物联网数据转换为有用的信息，然后适时有效地使用这些数据做适当的决策。人工智能和物联网具有互惠关系——人工智能得益于“大数据”的可用性，而物联网则受益于机器学习的能力。

在AIoT中，AI可以嵌入到IoT基础设施组件中，并使用API（应用程序接口）来实现这些处于不同层级组件之间的操互性和可靠性。这种运行机制侧重于改进系统以及网络的功能性和可操作性，通过数据管理抽取背后的价值。由于人工智能、物联网的系统结合，数据分析的价值随着“智能”的介入而提升。例如，物联网边缘生成的数据，可以让机器自主地在边缘完成任务。为了更清楚地说明AI和IoT的互融，下图显示了数据的生命周期。物联网负责使用感知层中的传感器捕获数据。然后在网络层中进行数据传输，接着通过数据聚合把数据集成在一起。再通过物联网平台对集成数据跟进分析。最后，根据分析结果，在业务/应用层做相应操作。物联网的本质价值是由应用层“决策”的价值决定的，这主要取决于上一步以人工智能为背景介入的“数据分析”的结果。

人工智能：为物联网增值

将人工智能从云端集成到物联网甚至到物联网的节点端，可以进一步改善运营状态和整体系统效率，支持物联网可扩展性并通过有效的风险管理降低风险。尽最大可能减少紧急停机状况，来帮助降低总运营成本，反过来意味着提高可用性。

要能在节点上做高效的AI推断，需要一种革新性的方式来管理信息：积累相关数据，并在本地设备上做出决策。

为了在节点采用更有效的人工智能（AI）、机器学习（ML）或深度学习（DL），你需要好用的硬件来执行核心系统任务以及相关算法，同时还要满足对性能和功耗的需求。为物联网IoT设计而生的微控制器，集成所需CPU性能、智能又省电的外设和强壮的硬件安全引擎，能有效帮助AIoT的应用。然而，除了硬件本身，我们还需要经过优化的支持机器学习模型的中间件，才能确保AIoT应用在这些资源受限设备上的顺利运行。

基于物联网微控制器单元组成的智能物联网设备，它在物联网边缘负责收集和处理大量数据。从边缘到云端的数据传输、数据处理需要更优的性能、安全的通信，以及高能效。将能耗保持在非常低的水平是大规模部署物联网设备的重要环节。微型机器学习TinyML可以在嵌入式节点设备上优化并且高效运行复杂的AI/ML模型。

 ✦ 

现在让我们更深入地了解TinyML的演进和在节点设备上的应用，以及AIoT在不同阶段的应用情况。

第1阶段

人工智能和云端服务

起初，只在云端做神经网络训练和托管机器学习模型，这势必需要强大的算力以及复杂的任务管理能力。微控制器单元在物联网中负责管理传感器和执行器。如下图所示，在云端运行的AI模型所需的数据，是源于物联网，而将海量数据传输到云端的过程中，会给网络带宽带来很大压力。导致的传输延迟和资源耗损，恰恰不适合实时控制和关键的安全应用。

AI and the Cloud

第2阶段

人工智能和边缘计算

为了提高系统效率和决策能力，我们现在能够在物联网边缘网关或终端节点本地运行AI模型。然而，对于资源受限的边缘设备，机器学习模型的训练仍然需要在云端进行。经过训练后的模型部署在边缘设备中。这种方式得益于云端超强的算力（用于训练）和边缘计算的低延迟性（更及时的执行）。

AI and the Edge

第3阶段

端点的智能嵌入

在这个阶段，物联网产品的设计人员将机器学习模块直接嵌入到微控制器中；不再需要边缘网关或者云端去做决策响应。

Embedding intelligence at the Endpoint

但是，必须确保在微控制器单元MCU上运行的此类机器学习模型足够的轻量化，以实现更快的执行效果。这就是TinyML发挥作用的地方，因为它不需要很多资源即可工作，特别适合物联网资源受限设备。简而言之，TinyML有助于优化资源、降低成本、提高能效和数据安全性，并最终降低系统延迟。这催生了分布式智能，并加速AIoT在各种应用领域的扩展。

 ✦ 

瑞萨可以帮助实现高效AIoT解决方案的一些例子：

• 工业领域中可预测维护：在设备中嵌入相关机器学习模型将有助于实时检测问题并采取相应措施。

• 模式识别：这是一种图像或语音识别模型，可以在检测到某些单词或指令时让系统做出改变。

• 智能医疗：智能预诊、医疗状况监测和实时分析、高效图像识别进行快速治疗等等。

• 可穿戴智能设备：应用种类繁多，从智能手表到运动追踪器，以及各种监控设备。

智能物联网AIoT的出现跨越了许多新技术和应用，为人类生活的各个领域开启了前所未有的可能性。为更广泛地采用AIoT，需要在连接性、安全性和先进技术开发方面进行协作和标准化，以此来解决所面对的各种困难。

在广泛开发数十亿智能设备的过程中，它创造了前所未有的新业务流和新应用。让我们释放创造力，因为它会给我们带来超乎想象的未来。