Trust AI@TUV SUD专栏：人工智能在工业4.0中的应用及其安全问题

欧盟人工智能（Artificial Intelligence，简称AI。）法案将于2024年强制执行，为协助中国人工智能相关企业提前应对即将到来的国际监管，TUV南德意志集团（以下简称"TUV南德"）已推出人工智能评估服务：AI质量架构评估方案。

本文为Trust AI@TUV SUD系列专栏的第八篇：人工智能在工业4.0中的应用及其安全问题。

人工智能在工业4.0中的应用

随着电子商务的发展，传统以产品为导向的工业生产形式正在被以解决方案和以客户为导向的理念所取代。工厂收到的生产订单批量越来越小，差异越来越大，直至完全的个性化生产。但是由于成本、速度、精度等因素，或者问题的解决超出人类能力范围，完全的个性化生产需要生产过程具有更高水平的自主性，而这需要提升生产系统的认知能力，只能通过AI技术来实现。以定制化的客户需求为出发点，生产系统将从"自动"转为"自主"，生产和物流策略将在AI的帮助下进行自我优化。

AI的使用旨在提高工业流程的效率和有效性。从工业的角度来看，AI技术可以被理解为能够帮助制造系统感知环境、处理所感知的事物、独立解决问题、寻找解决问题的新方法、做出决策的方法和程序，尤其是从经验中学习，以便制造系统更熟练地完成动作和任务。过程中对人工干预的需求减少了。

在工业4.0的语境下，在工业流程中实施AI的关键是资产管理壳(Asset Administration Shell)，它可以连接数据源、学习机制、系统边界和人工干预。工业4.0的参考模型架构 (RAMI 4.0) 的结构化网络组件和标准化功能接口也为将 AI技术集成到工业生产过程中提供了基础。

AI在工业环境中广泛应用的一个领域是对传感器数据的分析和解释，这些数据分布在机器和生产设施中。 它记录机器各个不同方面的状态，并据此执行动作。其核心目的是识别不明显的相关性，比如实现预测性维护工作。AI还可以用于工业生产过程中的流程、物流和能耗优化，例如，为了响应环境中的波动，必须调整复杂的相互关联的机械设定参数。"物联网"，即分布式数据提供者和数据用户的相互通信，是AI的基础。

人类定义系统边界

AI包括一系列应用程序和技术。这些应用程序和技术能够使系统实现自主功能，并使资产增值。"自主"的能力必须控制在人类定义的系统边界内。由人类定义整体系统要达到哪一等级的自主能力，并决定允许AI运行的区域和功能。一个系统的自主程度不一定由AI的技术限制决定，还可能受到法律框架、人类行为的预估或数据保护要求等方面的影响。

自主等级定义了所使用的AI技术的系统边界，即允许执行哪些任务。举一个大众更加熟悉的例子，自主等级3的自动驾驶汽车可以独立在高速公路上行驶，但不能独立的离开高速公路。等级3以上的自主系统必须能够独立感知环境并在指定的系统边界内做出"真正的"自主决策，而无需进一步的人工干预。这引发了重要的法律问题，例如关于决策的责任和可理解性。这些是整个社会需要讨论的问题，超越了工业和政治领域，无论是自动驾驶还是工业生产过程中AI的使用。

与简单自动化过程的经典程序相比，在流程更复杂、决策要求更高的情况下，AI的使用意味着不能每次都获得完全相同的结果。这是因为学习过程使用了大量的数据和信息。 使用AI追求的是不断优化流程并在出现问题时做出"正确"的决策。 允许AI系统提出的并非完全符合预期的方案建议， 但是做出的决定必须始终是合理的，并且尽可能符合预期。

AI对工业过程的冲击可以分为两个阶段：决策（规则创建/设计）和执行（规则执行），可以认为分别是决策所需的技能（在编程时确定）和执行决策的动作（在执行时产生影响）。在采用了AI辅助技术的工业系统设计中，系统通过初始学习过程进行训练，并与部分经典编程一起执行工业过程。在初始"设计"阶段，扮演"监督者"角色的人类需要提前决定学习过程的许可程度，即哪些数据可以用于第一个学习阶段。以及允许AI系统在过程控制期间接收哪些数据以进行进一步的学习。尽管优化过程需要数据，但必须避免过拟合。这是因为数据分析的过拟合会对现有的问题解决模型产生负面影响。规则的执行可以按自主等级分类。如下图所示。

人工智能在工业应用中的伦理讨论

工业生产，特别是工业4.0中使用AI，有很多伦理方面的问题，但是一般来说"强人工智能"不在讨论范围。可以一般性的认为，用于工业过程的AI旨在通过自动化流程扩展人类的能力。工业AI应用在本质上主要是技术性的应用程序，不会对人类生活产生重大冲击。然而，这并不意味着这些应用程序不用受制于工业法规，例如职业安全法规或功能安全法规。这些法规，无论是在欧洲或世界各地，都是基于人类社会长期发展而来的基本的伦理原则。

关于"自主原则"，值得一提的是，机器的决策传统上是基于预先编程的算法做出的，因而是确定性的。但是尽管深度神经网络可以被人类将参数设定在非常狭小的范围内，仍然可能以不确定的方式行动。因此，现代AI研究人员将"可解释性"视为人类增强对自主AI的信任的重要领域之一。

人工智能对机械安全的冲击

随着AI，物联网和机器人技术的发展，越来越多的不依赖于人类操作员的先进机械投放市场。特别是协作机器人，由于可以在环境中学习新的动作而变得更加自主。这些先进机械可以实时处理信息，自学习，自主规划移动路线，根据环境动态调整或改进动作，因此给传统的基于考虑"最坏可能"的风险评估并固定安全保护设置的机械安全理念提出了新的挑战。

新版机械指令草案对于采用AI的机械产品及其控制系统增加了很多具体的要求:例如：

在核心职业健康安全要求(EHSR)中，制造商或其欧盟代理需要执行的风险分析和风险降低流程的c)条修改如下:

确定机械产品生命周期内可能产生的危险及其关联的危险场景，包括在机器投放市场的时刻起可以预见的，机器设计达到的自主等级决定的，全部或部分介入的行为或逻辑可能产生危险。就此而言，当机械产品集成了AI系统，机械产品的风险评估必须考虑为满足欧洲议会和欧盟理事会提出的AI法案所执行的风险评估。

高风险机械产品清单中增加了两项与AI相关的产品(软件):

24.保证安全功能的软件，包括AI系统

25.嵌入了保证安全功能的AI系统的机械

人工智能在工业4.0中的信息安全

• 人工智能与边缘计算

由于电子产业的飞速发展，AI的应用也逐渐边缘化（边缘计算）。大部分AI只有在训练的时候需要大量计算能力，而在使用时，小型设备即可满足其运算要求，比如手机。在工业4.0中，AI的应用也逐渐从云中转移到公司内部运行维护，这样也可减少远程的成本和风险。但是，虽然在边缘计算中的AI应用可以极大地提高产业效率和智能化，但同时其本身也存在信息安全风险，需要以最新的标准来创建和维护基于AI的产品可信度。

"Zero Trust Concept"--零信任理念的提出和使用是为了构建可信任的、安全的AI系统应用。这一理念是在大量迅速且不断变化的数据通信中，这些参与者最初应被分配零信任值，随后在信任评分系统中"赢得"其他参与者的信任，任何组件都将在数据访问之前先检查所涉及的身份认证和授权。

同时，AI的设计也应提高互操作性，这样在整个工业4.0的流程中获得更快的速度和更高的稳定性。

• 人工智能与工业4.0价值链

AI也可以为公司价值链提供重要贡献，可以评估价值链参与者的各方面，如交付可靠性，支付行为，公司状态，产品质量，市场定位，定价策略，经济形势，环境保护，等等。在所有生产参与者运行期间，杜绝任何异常情况，迅速采取行动并更换参与者。但在此类大数据互联互通的过程中，各数据链参与者的数据访问以及数据保护的问题便显露出来。严格的数据分离才可以提高此部分的安全性：严格的设置权限，只有确切相关方才可以访问或修改数据。

• 安全数字身份

在工业4.0中，会有大量分布式的智能设备参与共建整体智能制造的生产流程。也由于这些去中心化的架构，设备数字身份的分配和管理也变得复杂。在大规模生产中，出于成本原因，可能很难要求每个产品或组件在整个价值链中都有唯一不可伪造的身份证明。但是AI可以通过一些其他的数据来评估安全身份，如：使用软硬件、工牌、生物特征来确认身份真实性；要求通信参与者的安全通信属性（如加密和通信的方式和级别）；数据的可审查性和可追溯性。AI也可以通过学习行为模式来检测伪造身份的攻击，如：沟通频率的变化，通信时的安全属性区别，响应速度的区别，网络地址的异常，数据非常规变化等。

• 信任基础设施

目前工业4.0相关工作组仍在讨论应如何建造全球AI信任基础设施（Trust infrastructure）。但这个信任基础设施是对全球价值链安全运行的先决条件，可以提供必要的安全功能从而使各价值链来建立安全的身份认证和通信，同时保护网络攻击。在现有设施，如PKI（Public Key Infrastructures）和CA（Certificate Authorities）中，AI可以通过识别异常通信来保护此类设施，如：非常规通信路径，异常证书组合，首次认证后的异常行为等。

• 基于特性的访问控制

可以对每个组件设置在不同生产状态下基于不同条件的规则集（如时间、数据类型、天气、温湿度、功耗转速、依赖关系等）。对于如此庞大的规则集，使用AI可以对其模拟进行复杂测试，并在使用过程中迭代更新，而且可以实时监控分析出现的任何异常情况。

• 协同状态监控

协同状态监控(Collaborative Condition Monitoring)可以应用在以上组件的协作场景。在一条价值链中，两个安全组件通过安全通信相互沟通，基于信任基础设施确保认证安全，并通过基于特性的访问控制读取数据。AI可以在其中检测未经授权或异常的访问和任何异常数据流，监控人员也可以通过AI的汇总报告检索所有信息。

• 资产管理壳

资产管理壳在工业4.0中的应用是极其重要的，不只因为其负责了整体系统的信息安全，更因为它包含了各种生产数据和商业机密。AI在监控数据间谍活动和数据篡改操纵方面非常有用，而人类很难对这些不同属性的庞大数据进行实时分析和管理。但AI的分析结果很难用同一AI软件进行解释，因此也同时需要辅助工具，以便人类对其警报进行最终分析和做出决定。

结语

AI的应用可以极大的提高工厂的智能化程度，如：自动化、驱动控制、生产维护、生产优化、异常及残次品检测。但同时AI方案在工厂的应用中也有很多局限性因素：不能达到100%的覆盖率，很难分析错误原因，数据质量难以保证，在实施中太过专业性，先进机械日益提升的自主性和协作性给机械安全带来的挑战，边缘计算带来的信息安全等问题。

在选择适合工业4.0的AI应着重考虑以下属性：基于产线机械及传感器数据的应用；使用迁移学习的方法以更容易适应新工厂环境；适用复杂的传感器数据网络；易用性；信息安全。

对于日益采用AI实现自主和协作功能的智能机械设备，其制造商，系统集成商和终端业主都必须执行全面的，覆盖机械安全和信息安全的风险评估，并向欧盟公告机构申请合规性评定。