CN114268640A - 云边协同的工业物联网智能路由*** - Google Patents
云边协同的工业物联网智能路由*** Download PDFInfo
- Publication number
- CN114268640A CN114268640A CN202010971570.0A CN202010971570A CN114268640A CN 114268640 A CN114268640 A CN 114268640A CN 202010971570 A CN202010971570 A CN 202010971570A CN 114268640 A CN114268640 A CN 114268640A
- Authority
- CN
- China
- Prior art keywords
- data
- service
- edge
- equipment
- module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02P—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN THE PRODUCTION OR PROCESSING OF GOODS
- Y02P90/00—Enabling technologies with a potential contribution to greenhouse gas [GHG] emissions mitigation
- Y02P90/02—Total factory control, e.g. smart factories, flexible manufacturing systems [FMS] or integrated manufacturing systems [IMS]
Landscapes
- Debugging And Monitoring (AREA)
Abstract
一种云边协同的工业物联网智能路由***,包括:边缘数据路由、设备模板配置模块、边缘服务管理模块、流程配置模块、消息分发模块、流程执行单元、服务注册中心以及监控分析模块。本发明将数据清洗、数据转换、数据压缩以设备服务运行实例管理等任务交由在地理上距离工业生产设备较近的边缘计算节点,再将经过边缘计算节点预处理的数据传递至云端服务,在云端服务基于预先配置好的业务流程实现完整的数据监听、处理、分析等功能,来实现云边协同的业务流程执行与工业设备状态监控过程。
Description
技术领域
本发明涉及的是一种物联网领域的技术,具体是一种云边协同的工业物联网智能路由***。
背景技术
在工业4.0时代,物联网技术占有重要的地位。工业智能化的发展离不开设备的升级,其中尤为重要的一点是运用物联网技术将工业物联设备与云平台结合,通过云平台强大的计算能力对工业生产中的物联设备得到的数据进行合适的处理。然而,物联网技术在工业生产实践过程中仍然面临着以下几个方面的难题:首先,工业生产中存在大量的异构设备,这些设备可能是跨车间甚至跨地区的,如何有效地对这些异构设备进行统一的数据采集与管理是物联网技术应用过程中急需解决的难题之一;其次,对于涉及到多个异构设备的流程任务,设备之间如何交互并协作完成业务流程也是一个重要的问题;另外,对于工业生产过程中产生的大量数据如何进行高效、准确的数据分析也是一个值得考虑的问题。
现有的解决手段包括由服务端直接与设备终端建立长连接进行通信,或通过开发应用并部署到云平台的方式对设备采集得到的数据进行分析决策,并通过工控计算机对设备进行闭环控制,但这些技术手段在面对多地区的大量设备时可能存在网络通信延迟等问题,仅限于数据的采集与提供,不易于实施使用。
发明内容
本发明针对现有技术存在的上述不足,提出一种云边协同的工业物联网智能路由***,将数据清洗、数据转换、数据压缩以设备服务运行实例管理等任务交由在地理上距离工业生产设备较近的边缘计算节点,再将经过边缘计算节点预处理的数据传递至云端服务,在云端服务基于预先配置好的业务流程实现完整的数据监听、处理、分析等功能,来实现云边协同的业务流程执行与工业设备状态监控过程。
本发明是通过以下技术方案实现的:
本发明涉及一种云边协同的工业物联网智能路由***,包括:用于在边缘端对工业物联设备所产生的数据进行采集与预处理的边缘数据路由、用于管理用户配置的设备数据模板以及定义设备数据处理相关的数据清洗策略与数据转换规则脚本的设备模板配置模块、用于对运行在特定地区的边缘端设备服务的状态进行管理的边缘服务管理模块、流程配置模块、用于对边缘数据路由得到的数据进行监听与分发的消息分发模块、用于根据业务流程的需要,对来自消息分发模块的新的消息进行数据融合、服务调用以及顺序流控制,并且对数据流进行背压控制的流程执行单元、用于在云端维护当前各个边缘计算节点当中的边缘服务管理模块所管理的各个设备服务的状态以及服务相关的元信息,以支持流程执行单元的服务调用请求的服务注册中心以及用于对来自流程执行单元的日志进行结构化的存储,并结合来自服务注册中心的设备服务健康数值进行设备健康分析的监控分析模块,其中:由各个设备对应的服务运行实例将采集到的业务数据发送到边缘数据路由提供的数据采集接口,再经边缘数据路由进行统一的预处理后将其推送至云端消息队列,流程配置模块对用户定义的业务流程建模与标注(BPMN)模型进行验证,检查业务流程模型在语法上是否正确并对该模型进行解析,消息分发模块对云端消息队列进行数据监听,并且基于流程配置模块先前决定的消息分发规则来完成消息的分发,服务注册中心通过心跳机制与相对更加稳定的边缘服务管理模块进行交互,在交互过程中边缘服务管理模块会将各个设备服务在该时间段内的平均健康数值发送至服务注册中心。
所述的预处理过程依据设备数据模板来进行,通过设备数据模板来对异构的工业设备进行适配,具体包括:数据清洗、数据转换以及数据压缩,其中:数据清洗的过程依据设备数据模板中配置的数据清洗策略进行;数据转换的过程依据设备数据模板中用户自定义的数据转换规则脚本完成,再采用DEFLATE数据压缩算法来将数据进行无损压缩再将其发送至云端,减少从边缘计算节点到云端服务的网络带宽占用。
所述的数据清洗策略包括静态滑动窗口策略以及自适应滑动窗口策略两种预置的策略,其中:静态滑动窗口策略可配置时间粒度或数据元组数目粒度的窗口,基于固定大小的窗口对采集到的数据流进行均值平滑来降低噪声与缺失值的影响;自适应滑动窗口策略采用统计平滑处理算法,利用概率统计方法自适应地调整滑动窗口的大小。针对不同类型的设备,通过调整该设备的数据清洗策略来适配不同的数据采集场景需求。
所述的数据转换规则脚本定义边缘数据路由针对该类型的设备采集得到的数据需要如何进行数据转换。考虑到设备的异构性,采用预置的转换规则可能不足以满足多样化的数据转换需求,因此该部分支持通过自定义规则脚本的方式来定义数据转换规则。设备模板配置模块对这些数据进行分布式存储,使得多个地区边缘端的设备模板配置模块能够共享同种类型设备的模板数据。
所述的设备服务在启动时优选通过调用该模块的服务注册接口将服务描述发送至该模块进行注册,此后边缘服务管理模块通过心跳机制与边缘端的设备服务进行交互,来维护各个设备服务当前的运行状态。
所述的注册过程允许设备服务为自身注册一个健康检查接口,此后在通过心跳机制进行交互的过程中,边缘服务管理模块访问各个设备服务的健康检查接口,来获取各个设备服务目前运行的设备状态数据并进行记录。
所述的设备状态数据,即设备服务的健康状态包括:UP、BUSY与DOWN,分别用于表示当前设备服务可用、忙碌以及失效三种状态。在下一次边缘服务管理模块与云端的服务注册中心进行交互时,边缘服务管理模块会根据该时间段内服务的健康状态对各个服务的平均健康数值进行计算,并发送至服务注册中心。
为便于后续的使用,平均健康数值保持在区间[0,1]内。
所述的平均健康数值其中:n为从上次本模块与云端服务注册中心交互至今期间内模块获得指定服务健康状态的总次数,nUP为期间内该服务健康状态为UP的次数,nBUSY为期间内该服务健康状态为BUSY的次数,k为取值在区间(0,1]的常数,为设备负载率的上限,即设备状态为忙碌的次数占比的上限。
该计算公式限制设备服务忙碌状态对健康数值的贡献度,在设备服务负载率过高时平均健康数值将有所降低,使其更加适合于在后续背压控制以及异常检测过程中被使用。这种计算设备服务的平均健康数值并发送至云端的方式,相比较于云端服务注册中心直接与边缘端的设备服务进行交互的方式能够极大地降低网络通讯的开销,使得云端服务注册中心能够同时管理更多设备服务的状态,从而使得***更具有可扩展性。
所述的解析具体包括:将BPMN流程模型视作图数据结构,基于广度优先搜索遍历该流程模型中各个任务节点,对各个节点进行解析。针对每个任务节点的解析操作,首先需要获取其文本形式的描述,然后结合领域知识图谱对文本对应的语义进行解析,根据语义描述查找与该任务语义相匹配的服务接口,从而决定运行过程中对该任务节点的数据处理规则。此外,还需要根据BPMN语法解析节点可能使用BPMN扩展进行的额外的配置,例如背压控制策略的配置等。根据上述解析过程,流程配置模块决定完成该业务流程所需要的消息分发规则与数据处理规则,来对消息分发模块进行配置,并生成对应的流程执行单元,以支持后续的响应式的业务流程执行过程。
所述的分发是指:消息分发模块使用哈希表存储各个消息源与流程执行单元的对应关系,使得在消息分发过程中对于一条新的数据能够快速找到其对应的流程执行单元的集合,将消息发送到集合中的各个处理单元,并在接收到各个处理单元的消息确认后从内存中删除该消息,完成一次消息的分发。
所述的数据融合是指:针对需要处理多个数据源输入的任务节点,将来自消息分发模块的多条数据进行融合的过程。该过程支持根据时限融合或根据指定字段融合两种方式。根据时限的融合方式具体指流程执行单元将收到的第一条数据存入缓存中,在限制时间内如果接收到来自其他所有数据源的消息则对这些数据进行融合,否则将其作为异常数据,不进行服务调用,只将相关数据发送至监控分析模块,同时将其从缓存中剔除。时限的长度采用统一的默认值,但也可根据用户要求在运行阶段进行手动调整。该融合方式适用于使用频率相对较低的业务,如生产成品批次记录等。
对于高频使用的业务,由于边缘端到云端之间存在网络延迟,根据时限融合可能使得数据元组顺序错乱,需要采用根据指定字段融合的方式进行数据融合,具体为:用户在配置设备数据模板时,在数据转换规则脚本中指定一个字段作为融合的依据,之后边缘数据路由在完成数据预处理后会将该数据元组打上标签,标签内容包含用户指定的字段名与对应的值;流程执行单元收到带有标签的数据元组时将字段值与对应的数据元组存入缓存中,待带有相同标签的所有消息到达该处理单元时将这些数据元组进行融合。之后,流程执行单元以融合得到的数据作为输入,调用与其任务相匹配的服务接口,根据得到的结果进行顺序流控制。
所述的顺序流控制具体是指:根据数据处理规则中的顺序流控制函数,由服务调用结果计算得到该流程中下一个需要被执行的任务节点,再对该服务调用结果进行封装发送至该任务节点对应的消息队列,由消息分发模块触发下一个任务节点的执行,再由流程执行单元需要将本次数据处理过程的上下文与处理结果发送至监控分析模块进行数据分析。
此外,在上述过程中,流程执行单元还需要对数据流进行背压控制来防止由于数据产生速率过快导致的数据积压。
所述的服务调用具体是指:根据数据处理规则当中对当前任务节点所匹配的服务资源以及接口的定义,流程执行单元将经过数据融合得到的数据作为输入数据,向服务注册中心发起服务调用的请求。服务注册中心根据对所需服务资源以及接口的定义以及输入数据,结合本地维护的服务元信息以及服务状态,查找到合适的服务资源并对其特定的接口发起调用请求,得到其返回结果后将其返回至流程执行单元。当服务注册中心查找不到合适的服务资源时,其向流程执行单元返回调用失败。
所述的背压控制具体是指:流程执行单元对本单元在时间段Δt内接收到的数据元组的数目nin以及发送至监控分析模块的数据元组数目nout分别进行统计,用以表示该时间段内的消息接收速率与消息处理速率,其中:时间段Δt的长度由该处理单元涉及到的设备服务最新的平均健康数值h决定。流程执行单元会根据该单元所需访问的服务接口定期从服务注册中心拉取相关服务最新的平均健康数值,并且当该单元存在多个候选设备服务实例时需要对这些服务实例对应的健康数值再进行平均得到用于计算Δt。
这种计算方式使得流程执行单元对运行状态不佳的设备服务更为敏感(即具有更低的统计时间间隔),从而能够对负载过高或发生故障等异常的设备服务更快速地进行感知,来调整背压控制策略。
优选地,当消息接收速率高于消息处理速率时,流程执行单元启动背压控制策略,具体包括:缓冲、丢弃、采样三种,其中:通过缓冲进行背压控制时,流程执行单元在本地维护一个缓存队列,将消息首先在本地进行缓存;当本地的缓存队列占满时,对新消息的处理可降级至丢弃策略,即不进行数据融合、服务调用等处理,而仅仅将其作为失效数据发送到监控分析模块进行异常日志的记录与分析。通过采样进行背压控制要求业务流程模型中对任务提供额外的信息,来指定该任务在数据处理过程中发生背压时数据的采样频率,并且依据该采样频率来控制消息的接收与处理,从而减少数据的积压。在启动背压控制策略运行一段时间后,当消息处理速率高于消息接收速率时流程执行单元开始恢复工作,避免由于背压控制过度影响到***的正常工作。恢复工作的方法与采用的背压控制策略相关。在采用缓冲策略进行背压控制并降级至丢弃策略时,当本地的缓存队列中无堆积的数据时即可恢复至缓冲策略的背压控制模式,在下一时间段内若消息处理速率高于消息接收速率则可关闭背压控制策略,恢复正常工作;在采用采样策略进行背压控制时,对采样频率进行倍数增长,直至采样频率在下次增长后将超过100%时,若在下一时间段内消息处理速率仍高于消息接收速率则可关闭背压控制策略,恢复正常工作。
所述的服务注册中心维护各个设备服务最新的平均健康数值,供流程执行单元查询来支持数据流的背压控制,并将设备服务的平均健康数值发送至监控分析模块来支持数据的异常检测过程。
所述的日志包括:数据处理过程使用的服务实例信息、服务接口信息、接口调用的输入以及接口调用的返回结果。
所述的异常检测,即监控分析模块采用基于层次时序记忆(HTM)网络的异常检测算法对这些数据进行异常检测,具体是指:监控分析模块根据数据处理过程使用的服务实例信息,找到本地缓存中该实例最新的健康数值,对服务实例信息、健康数值以及接口信息使用标量编码器进行编码,再将接口调用的输入与返回结果使用协同编码器进行编码,将编码后的多个向量传入一个多编码器形成一个包含完整流程执行单元日志信息的向量;再对该向量进行空间池处理得到一个稀疏分布的表示(Sparse DistributedRepresentation,SDR)并作为HTM网络的输入,通过HTM的学习算法不断预测在当前数据流中下一输入的SDR,当接收到新的SDR(记作d')时,根据上一轮预测的SDR(记作d)计算出一个原始的异常分数其中:d·d'表示上一轮预测的SDR与新的SDR数组的标量积,|d'|表示新的SDR数组中表示所有值为1的位的数目。
为容忍设备数据的噪声,监控分析模块不直接对原始异常分数设置阈值进行异常的检测,而是根据异常分数的分布计算当前发生异常的概率,对异常概率设置阈值来进行异常的检测,具体为:记录最近W个异常分数的值,然后计算这些值的平均值μ以及标准差σ,将这些值的分布视作高斯分布,通过高斯分布的右尾函数(Q函数)来计算异常概率,即其中:st表示第t次计算得到的异常分数。
使用数据分布来计算异常的概率,对计算得到的概率设定阈值来判定数据异常,能够有效地减轻噪声的影响,提高数据分析算法的鲁棒性。
优选地,监控分析模块将输入的日志以及异常检测的结果一并存入日志历史数据中,并且定时生成阶段性的数据分析报告供业务人员进行分析;在检测发现异常时对相关用户进行预警通知。
技术效果
本发明整体解决了现有技术在工业物联网环境下,无法对分布在多地区的大量的异构设备进行低延迟的数据采集与统一管理;现有技术对于涉及到多个异构设备的流程任务,无法协调各个设备之间的交互使得任务正确高效完成;以及无法对工业生产过程中所产生的大量数据进行快速、准确的分析以对可能发生的设备异常情况进行检测。
与现有技术相比,本发明通过增强对边缘端计算资源的利用,能够缓解从物联设备到云端之间网络带宽的压力;同时,在边缘端提供对异构设备基于模板的配置支持,能够有效地支持工业生产环境中多种异构设备的接入,并且具有良好的可扩展性;此外,在云端通过多个不同功能单元的协作,结合流式的数据处理方法,能够有效地支持业务流程自动化的执行,并且根据数据处理日志进行全面的分析,能够针对物联设备产生的数据提供有效的数据分析与预警反馈方案。
附图说明
图1为本发明的方法框架图;
图2为本发明的实施例***结构图。
具体实施方式
如图1所示,为本实施例涉及一种云边协同的工业物联网智能路由***,以工业生产设备控制服务所采集的数据为输入,结合业务流程模型,采用云边协同的方法实现工业生产中的流程任务的数据监听、分发与处理,并将数据处理结果与状态作为日志进行记录,采用异常检测算法对日志进行数据分析,在数据分析结果发现异常时对相关用户进行预警通知,并对数据分析报告等信息进行记录以供上层企业应用查询使用,该***包括:设备模板配置模块、流程配置模块、边缘数据路由、消息分发模块、流程执行单元、服务注册中心、边缘服务管理模块以及监控分析模块。
所述的设备模板配置模块接收设备模板配置文件作为输入,对其进行解析得到设备对应的数据清洗策略以及数据转换规则脚本,将这些数据保存至分布式数据存储中供后续查询使用。
所述的流程配置模块包括:模型验证单元和模型解析单元,其中:模型验证单元根据流程模型语法规则对输入的业务流程模型进行验证,确认流程模型中语法上无误后将其输出至模型解析单元;模型解析单元对业务流程模型先后进行拓扑结构分析、语义解析以及服务匹配,决定完成该业务流程所需要的消息分发规则与数据处理规则,根据这些规则分别对消息分发模块以及流程执行单元进行配置。
所述的边缘数据路由包括:数据清洗单元、数据转换单元和数据压缩单元,其中:数据清洗单元根据输入对应设备的类型,查询对应的设备数据模板,再根据设备数据模板中定义的数据清洗策略对输入的业务数据进行清洗后输出至数据转换单元;数据转换单元对经过清洗的数据执行设备数据模板中定义数据转换规则脚本,并将转换后的数据输出至数据压缩单元;数据压缩单元对转换后的数据进行压缩处理后发送至云端的消息队列。
所述的消息分发模块包括:数据监听单元和消息分发单元,其中:数据监听单元对消息队列中的数据进行监听,在获取到来自边缘数据路由的新数据时将其作为输入,通过调用消息分发单元的接口触发消息的分发。消息分发单元根据该消息对应的消息队列以及消息中包含的数据对应的设备标识计算得到该消息的索引,并基于该索引在本地的哈希表中查找对应的流程执行单元的集合,将消息发送到该集合中的各个流程执行单元,完成消息的分发。
所述的流程执行单元包括:数据流背压控制单元、数据融合单元、服务调用单元和顺序流控制单元,其中:数据流背压控制单元对该流程执行单元的消息接收速率与消息处理速率进行统计,在消息接收速率高于处理速率时启用背压控制策略对数据流进行背压控制;数据融合单元根据需要将来自消息分发模块的多条数据进行融合处理,并将其输出至服务调用单元;服务调用单元将经过融合的数据作为输入,向服务注册中心发起服务调用的请求,并将请求返回的结果输出至顺序流控制单元;顺序流控制单元将服务调用的结果作为输入,执行顺序流控制函数来决定完成流程所需执行的下一任务节点,将服务调用的结果进行封装后发送至消息队列以触发流程进一步的执行,同时将本次数据处理过程相关数据发送至监控分析模块用于数据分析。
所述的服务注册中心对来自边缘服务管理模块的服务元信息与服务状态进行管理,将相关数据保存至内存数据库中供后续查询或服务调用过程使用。
所述的边缘服务管理模块对运行在边缘端的设备服务进行管理,接收服务的描述文件并解析得到服务的元数据,同时通过心跳机制定期接收服务的状态数据,据此计算服务的平均健康数值并定期发送至服务注册中心。
所述的监控分析模块包括:日志记录单元、异常检测单元、预警反馈单元和层次时序记忆网络,其中:日志记录单元对来自流程执行单元的日志进行结构化的存储,并将其输出至异常检测单元;异常检测单元根据该日志对应的服务元数据、服务调用的输入、服务调用的结果等数据进行编码及空间池处理得到SDR,将其作为输入利用层次时序记忆网络进行预测,并基于预测结果对新的数据进行异常检测,在检测得到异常时将异常相关信息输出至预警反馈单元;预警反馈单元根据来自异常检测单元的异常相关信息,通过预先设定的用户个人信息中的联系方式对相关用户进行预警通知,并进行记录,同时定期地将异常检测结果聚合形成阶段性的数据分析报告供用户查询使用。
如图2所示,本实施例涉及上述***的路由方法,具体包括:配置阶段和运行阶段。
在配置阶段,用户可以采用YAML格式编写设备模板配置文件,通过RESTAPI发送至边缘端的设备模板配置模块。部署在不同地区的设备模板配置模块采用副本集集群架构部署MongoDB实现数据的分布式存储。用户还可以构建BPMN业务流程模型,通过RESTAPI发送至云端的流程配置模块。流程配置模块通过查询先前构建的存储于Neo4j图数据库的领域知识图谱,来辅助解析BPMN流程模型,根据解析的结果对流程相关的消息分发模块和流程执行单元进行配置。
在运行阶段,生产车间中的物联设备集合的实时数据可以提供给OPC Server,并且可以开发部署设备对应的ECN微服务来与OPC Server交互实现数据与指令的读写。设备ECN微服务在服务注册时将自身的服务描述文件(WADL或WSDL)发送至边缘服务管理模块,并且在运行时将设备本身的状态数据与设备采集得到的业务数据以JSON格式通过RESTAPI分别发送至边缘服务管理模块与边缘数据路由。边缘服务管理模块根据设备状态数据计算设备的健康状态,并且同步至云端的服务注册中心。服务注册中心将该状态更新至Redis内存数据库中,供后续流程执行单元以及监控分析模块的使用。边缘数据路由根据设备模板对业务数据进行预处理后,将数据推送至云端的Kafka消息队列。云端的消息分发模块监听Kafka消息队列,在监听到新的消息时将其分发至对应的流程执行单元。流程执行单元在处理新的消息时,通过服务注册中心进行数据处理过程所需的服务调用请求,并且结合设备健康状态数据来对数据流进行背压控制,在数据处理完毕时将本次数据处理相关的数据发送至监控分析模块,并且在需要的时候构建一条新的消息推送至消息分发模块,用以触发业务流程中下一数据处理任务的执行。监控分析模块根据数据处理过程产生的数据形成流程执行日志记录到MongoDB数据库中,并且结合设备健康状态数据对其进行分析,在检测发生异常时对用户进行预警通知,将分析结果与预警通知记录也一并存入MongoDB数据库中。之后,上层的企业应用如ERP、MES等***可以通过云端服务提供的REST API查询得到JSON格式的业务流程的执行日志或预警通知记录,并且可以查询JSON或HTML形式的数据分析报告,其中JSON格式的报告可用于***后台记录与处理,HTML形式的报告可用于电子邮件等应用场景下对用户可视化展示来辅助用户理解、审查数据分析结果。
本实施例与现有技术比较如下表所示。
表1技术特性对比
工业设备与云端服务之间数据传输的网络带宽占用的降低、异构设备数据统一采集处理难度的降低以及多设备协同的业务流程执行过程的灵活性的提升。本发明通过进行设备数据模板的配置,实现在边缘端对异构的工业设备采集得到的数据的清洗、转换以及压缩,同时提供可选的数据清洗策略以及支持自定义的数据转换规则,充分利用边缘端的计算能力来降低工业设备与云端服务之间数据传输的网络开销;同时将边缘端对设备数据模板进行分布式的存储,使得分布式部署的多个边缘端能够高效复用同种设备的模板,从而降低运维成本;利用边缘节点协助云端对设备服务信息与状态进行管理,从而缓解对多地区的各个设备服务进行中心化管理的压力;通过对业务流程的描述,基于BPMN流程模型语法及其扩展实现业务流程拓扑结构的解析,同时借助工业设备相关的领域知识图谱的辅助实现智能的业务流程语义解析,从而提高多设备协同生产流程的灵活性;针对数据处理过程中数据生产与消费速率不均衡的现象,提出合适的背压控制方法,防止数据的积压,从而提升***运行的鲁棒性;针对数据处理过程产生的日志,采用基于HTM网络的异常检测算法进行快速的异常检测与分析,在检测出异常时能够及时以通知的形式对用户进行反馈,从而快速发现故障,以减少生产过程中发生的故障可能带来的损失。
以上组件/模块/算法/操作中、为本发明独创、从未被公开且其工作方式与任何现有文献记载均不相同的包括:边缘端与云端协同完成的服务状态管理过程、多设备服务协同交互的流程执行过程以及针对设备服务的基于HTM网络的异常检测算法。
所述的边缘端与云端协同完成的服务状态管理过程的技术细节具体为:边缘服务管理模块通过心跳机制与边缘端的设备服务进行交互并维护服务当前运行状态,且根据该状态定期计算服务的平均健康数值并发送至服务注册中心,使得云端的服务注册中心能够感知边缘端的设备服务状态变化,而无需造成过多的从边缘端到云端之间的网络通讯开销。
所述的多设备服务协同交互的流程执行过程的技术细节具体为:根据流程配置模块对业务流程模型解析所得到的消息分发规则与数据处理规则,消息分发模块对设备服务相关数据对应的消息队列进行监听以及分发,流程执行单元对被分发到的数据进行数据融合、服务调用、顺序流控制以及数据流背压控制,使得用户能够方便地通过流程模型来对需要多设备服务协同完成的流程任务进行定义,同时使得***能够快速地对流程相关的新的数据进行响应。
所述的针对设备服务的基于HTM网络的异常检测算法的技术细节具体为:监控分析模块对来自流程执行单元的日志进行编码与空间池处理,经过HTM网络预测,依据预测结果基于异常数据的分布来计算异常概率,据此得出异常检测结果。该算法涉及到来自流程执行单元的日志,同时将设备服务的实例信息、接口信息等静态信息以及服务的健康数值、接口调用的输入与返回等动态数据纳入考量范围,使得异常检测的结果更为可靠。
与现有技术相比,本装置/方法的性能指标提升在于:通过对边缘端计算资源的充分利用,降低了云端与边缘端之间网络通讯的开销,提高了同规模下对运行在边缘端的服务进行数据采集与管理的效率;在流程执行过程中针对数据积压问题采用合适的背压控制方法进行处理,提高了***运行的鲁棒性;采用基于HTM网络的异常检测算法对流程执行过程中产生的日志进行快速的分析,使得***在大数据量场景下能够保持良好的可用性,
上述具体实施可由本领域技术人员在不背离本发明原理和宗旨的前提下以不同的方式对其进行局部调整,本发明的保护范围以权利要求书为准且不由上述具体实施所限,在其范围内的各个实现方案均受本发明之约束。
Claims (12)
1.一种云边协同的工业物联网智能路由***,其特征在于,包括:用于在边缘端对工业物联设备所产生的数据进行采集与预处理的边缘数据路由、用于管理用户配置的设备数据模板以及定义设备数据处理相关的数据清洗策略与数据转换规则脚本的设备模板配置模块、用于对运行在特定地区的边缘端设备服务的状态进行管理的边缘服务管理模块、流程配置模块、用于对边缘数据路由得到的数据进行监听与分发的消息分发模块、用于根据业务流程的需要,对来自消息分发模块的新的消息进行数据融合、服务调用以及顺序流控制,并且对数据流进行背压控制的流程执行单元、用于在云端维护当前各个边缘计算节点当中的边缘服务管理模块所管理的各个设备服务的状态以及服务相关的元信息,以支持流程执行单元的服务调用请求的服务注册中心以及用于对来自流程执行单元的日志进行结构化的存储,并结合来自服务注册中心的设备服务健康数值进行设备健康分析的监控分析模块,其中:由各个设备对应的服务运行实例将采集到的业务数据发送到边缘数据路由提供的数据采集接口,再经边缘数据路由进行统一的预处理后将其推送至云端消息队列,流程配置模块对用户定义的BPMN模型进行验证,检查业务流程模型在语法上是否正确并对该模型进行解析,消息分发模块对云端消息队列进行数据监听,并且基于流程配置模块先前决定的消息分发规则来完成消息的分发,服务注册中心通过心跳机制与相对更加稳定的边缘服务管理模块进行交互,在交互过程中边缘服务管理模块会将各个设备服务在该时间段内的平均健康数值发送至服务注册中心。
2.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的预处理过程依据设备数据模板来进行,通过设备数据模板来对异构的工业设备进行适配,具体包括:数据清洗、数据转换以及数据压缩,其中:数据清洗的过程依据设备数据模板中配置的数据清洗策略进行;数据转换的过程依据设备数据模板中用户自定义的数据转换规则脚本完成,再采用DEFLATE数据压缩算法来将数据进行无损压缩再将其发送至云端,减少从边缘计算节点到云端服务的网络带宽占用;
所述的数据清洗策略包括静态滑动窗口策略以及自适应滑动窗口策略两种预置的策略,其中:静态滑动窗口策略可配置时间粒度或数据元组数目粒度的窗口,基于固定大小的窗口对采集到的数据流进行均值平滑来降低噪声与缺失值的影响;自适应滑动窗口策略采用统计平滑处理算法,利用概率统计方法自适应地调整滑动窗口的大小,针对不同类型的设备,通过调整该设备的数据清洗策略来适配不同的数据采集场景需求;
所述的数据转换规则脚本定义边缘数据路由针对该类型的设备采集得到的数据需要如何进行数据转换,考虑到设备的异构性,采用预置的转换规则可能不足以满足多样化的数据转换需求,因此该部分支持通过自定义规则脚本的方式来定义数据转换规则,设备模板配置模块对这些数据进行分布式存储,使得多个地区边缘端的设备模板配置模块能够共享同种类型设备的模板数据。
3.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的设备服务在启动时优选通过调用该模块的服务注册接口将服务描述发送至该模块进行注册,此后边缘服务管理模块通过心跳机制与边缘端的设备服务进行交互,来维护各个设备服务当前的运行状态;注册过程允许设备服务为自身注册一个健康检查接口,此后在通过心跳机制进行交互的过程中,边缘服务管理模块访问各个设备服务的健康检查接口,来获取各个设备服务目前运行的设备状态数据并进行记录;
所述的设备状态数据,即设备服务的健康状态包括:UP、BUSY与DOWN,分别用于表示当前设备服务可用、忙碌以及失效三种状态,在下一次边缘服务管理模块与云端的服务注册中心进行交互时,边缘服务管理模块会根据该时间段内服务的健康状态对各个服务的平均健康数值进行计算,并发送至服务注册中心;
4.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的解析具体包括:将BPMN流程模型视作图数据结构,基于广度优先搜索遍历该流程模型中各个任务节点,对各个节点进行解析,针对每个任务节点的解析操作,首先需要获取其文本形式的描述,然后结合领域知识图谱对文本对应的语义进行解析,根据语义描述查找与该任务语义相匹配的服务接口,从而决定运行过程中对该任务节点的数据处理规则,此外,还需要根据BPMN语法解析节点可能使用BPMN扩展进行的额外的配置,例如背压控制策略的配置等,根据上述解析过程,流程配置模块决定完成该业务流程所需要的消息分发规则与数据处理规则,来对消息分发模块进行配置,并生成对应的流程执行单元,以支持后续的响应式的业务流程执行过程。
5.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的分发是指:消息分发模块使用哈希表存储各个消息源与流程执行单元的对应关系,使得在消息分发过程中对于一条新的数据能够快速找到其对应的流程执行单元的集合,将消息发送到集合中的各个处理单元,并在接收到各个处理单元的消息确认后从内存中删除该消息,完成一次消息的分发。
6.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的数据融合是指:针对需要处理多个数据源输入的任务节点,将来自消息分发模块的多条数据进行融合的过程,该过程支持根据时限融合或根据指定字段融合两种方式,根据时限的融合方式具体指流程执行单元将收到的第一条数据存入缓存中,在限制时间内如果接收到来自其他所有数据源的消息则对这些数据进行融合,否则将其作为异常数据,不进行服务调用,只将相关数据发送至监控分析模块,同时将其从缓存中剔除,时限的长度采用统一的默认值,但也可根据用户要求在运行阶段进行手动调整,该融合方式适用于使用频率相对较低的业务,如生产成品批次记录等。
7.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的顺序流控制具体是指:根据数据处理规则中的顺序流控制函数,由服务调用结果计算得到该流程中下一个需要被执行的任务节点,再对该服务调用结果进行封装发送至该任务节点对应的消息队列,由消息分发模块触发下一个任务节点的执行,再由流程执行单元需要将本次数据处理过程的上下文与处理结果发送至监控分析模块进行数据分析。
8.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的服务调用具体是指:根据数据处理规则当中对当前任务节点所匹配的服务资源以及接口的定义,流程执行单元将经过数据融合得到的数据作为输入数据,向服务注册中心发起服务调用的请求,服务注册中心根据对所需服务资源以及接口的定义以及输入数据,结合本地维护的服务元信息以及服务状态,查找到合适的服务资源并对其特定的接口发起调用请求,得到其返回结果后将其返回至流程执行单元,当服务注册中心查找不到合适的服务资源时,其向流程执行单元返回调用失败。
9.根据权利要求1所述的云边协同的工业物联网智能路由***,其特征是,所述的背压控制具体是指:流程执行单元对本单元在时间段Δt内接收到的数据元组的数目nin以及发送至监控分析模块的数据元组数目nout分别进行统计,用以表示该时间段内的消息接收速率与消息处理速率,其中:时间段Δt的长度由该处理单元涉及到的设备服务最新的平均健康数值h决定,流程执行单元会根据该单元所需访问的服务接口定期从服务注册中心拉取相关服务最新的平均健康数值,并且当该单元存在多个候选设备服务实例时需要对这些服务实例对应的健康数值再进行平均得到用于计算时间段其中:t0为一个表示最低时间间隔的常数;
所述的服务注册中心维护各个设备服务最新的平均健康数值,供流程执行单元查询来支持数据流的背压控制,并将设备服务的平均健康数值发送至监控分析模块来支持数据的异常检测过程。
10.根据权利要求9所述的云边协同的工业物联网智能路由***,其特征是,当消息接收速率高于消息处理速率时,流程执行单元启动背压控制策略,具体包括:缓冲、丢弃、采样三种,其中:通过缓冲进行背压控制时,流程执行单元在本地维护一个缓存队列,将消息首先在本地进行缓存;当本地的缓存队列占满时,对新消息的处理可降级至丢弃策略,即不进行数据融合、服务调用等处理,而仅仅将其作为失效数据发送到监控分析模块进行异常日志的记录与分析,通过采样进行背压控制要求业务流程模型中对任务提供额外的信息,来指定该任务在数据处理过程中发生背压时数据的采样频率,并且依据该采样频率来控制消息的接收与处理,从而减少数据的积压,在启动背压控制策略运行一段时间后,当消息处理速率高于消息接收速率时流程执行单元开始恢复工作,避免由于背压控制过度影响到***的正常工作,恢复工作的方法与采用的背压控制策略相关,在采用缓冲策略进行背压控制并降级至丢弃策略时,当本地的缓存队列中无堆积的数据时即可恢复至缓冲策略的背压控制模式,在下一时间段内若消息处理速率高于消息接收速率则可关闭背压控制策略,恢复正常工作;在采用采样策略进行背压控制时,对采样频率进行倍数增长,直至采样频率在下次增长后将超过100%时,若在下一时间段内消息处理速率仍高于消息接收速率则可关闭背压控制策略,恢复正常工作;
所述的日志包括:数据处理过程使用的服务实例信息、服务接口信息、接口调用的输入以及接口调用的返回结果。
11.根据权利要求9所述的云边协同的工业物联网智能路由***,其特征是,所述的异常检测,即监控分析模块采用基于层次时序记忆(HTM)网络的异常检测算法对这些数据进行异常检测,具体是指:监控分析模块根据数据处理过程使用的服务实例信息,找到本地缓存中该实例最新的健康数值,对服务实例信息、健康数值以及接口信息使用标量编码器进行编码,再将接口调用的输入与返回结果使用协同编码器进行编码,将编码后的多个向量传入一个多编码器形成一个包含完整流程执行单元日志信息的向量;再对该向量进行空间池处理得到一个稀疏分布的表示(Sparse Distributed Representation,SDR)并作为HTM网络的输入,通过HTM的学习算法不断预测在当前数据流中下一输入的SDR,当接收到新的SDR(记作d')时,根据上一轮预测的SDR(记作d)计算出一个原始的异常分数其中:d·d'表示上一轮预测的SDR与新的SDR数组的标量积,|d'|表示新的SDR数组中表示所有值为1的位的数目。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010971570.0A CN114268640B (zh) | 2020-09-16 | 2020-09-16 | 云边协同的工业物联网智能路由*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010971570.0A CN114268640B (zh) | 2020-09-16 | 2020-09-16 | 云边协同的工业物联网智能路由*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114268640A true CN114268640A (zh) | 2022-04-01 |
CN114268640B CN114268640B (zh) | 2022-09-09 |
Family
ID=80824180
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010971570.0A Active CN114268640B (zh) | 2020-09-16 | 2020-09-16 | 云边协同的工业物联网智能路由*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114268640B (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114666555A (zh) * | 2022-05-23 | 2022-06-24 | 创意信息技术股份有限公司 | 一种Edge边缘网关前端*** |
CN114979251A (zh) * | 2022-04-26 | 2022-08-30 | 东莞市海数云电子科技有限公司 | 一种跨***协同服务异构数据交换工具 |
CN115484265A (zh) * | 2022-09-19 | 2022-12-16 | 合肥合锻智能制造股份有限公司 | 基于云边协同的多源异构数据的管理*** |
CN115643159A (zh) * | 2022-11-18 | 2023-01-24 | 奇点创新(江苏)智能科技有限公司 | 一种基于边缘计算的设备异常预警方法及*** |
CN116612371A (zh) * | 2023-07-18 | 2023-08-18 | 四川弘和数智集团有限公司 | 基于边云解耦的神经网络推理方法、装置及设备和介质 |
CN116708528A (zh) * | 2023-08-02 | 2023-09-05 | 成都卓拙科技有限公司 | 节点间tcp长连接的监控方法及装置 |
CN116737523A (zh) * | 2023-08-10 | 2023-09-12 | 中国电子投资控股有限公司 | 一种基于边缘计算的可观测性数据采集方法 |
CN117235559A (zh) * | 2023-11-14 | 2023-12-15 | 四川万物纵横科技股份有限公司 | 一种基于边缘计算的物联网数据采集方法及*** |
WO2024000498A1 (zh) * | 2022-06-30 | 2024-01-04 | 西门子股份公司 | 工业控制***、边缘设备、云端服务器、装置及方法 |
CN118113787A (zh) * | 2024-04-30 | 2024-05-31 | 中增智慧城市建设发展有限公司 | 基于边缘计算的智慧城市物联网数据处理方法及*** |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102880475A (zh) * | 2012-10-23 | 2013-01-16 | 上海普元信息技术股份有限公司 | 计算机软件***中基于云计算的实时事件处理***及方法 |
US20170285710A1 (en) * | 2016-04-01 | 2017-10-05 | Intel Corporation | Processor power monitoring and control with dynamic load balancing |
US20190018815A1 (en) * | 2017-07-01 | 2019-01-17 | Kermin Fleming | Processors, methods, and systems with a configurable spatial accelerator |
CN109308290A (zh) * | 2018-08-06 | 2019-02-05 | 国网安徽省电力有限公司信息通信分公司 | 一种基于cim的高效数据清洗转换方法 |
CN109885566A (zh) * | 2019-02-25 | 2019-06-14 | 南京世界村云数据产业集团有限公司 | 一种数据采集与边缘计算*** |
CN110035117A (zh) * | 2019-03-15 | 2019-07-19 | 启迪云计算有限公司 | 一种基于可配置监控脚本监控***及监控方法 |
CN111587423A (zh) * | 2017-11-13 | 2020-08-25 | 维卡艾欧有限公司 | 分布式存储***的分层数据策略 |
-
2020
- 2020-09-16 CN CN202010971570.0A patent/CN114268640B/zh active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102880475A (zh) * | 2012-10-23 | 2013-01-16 | 上海普元信息技术股份有限公司 | 计算机软件***中基于云计算的实时事件处理***及方法 |
US20170285710A1 (en) * | 2016-04-01 | 2017-10-05 | Intel Corporation | Processor power monitoring and control with dynamic load balancing |
US20190018815A1 (en) * | 2017-07-01 | 2019-01-17 | Kermin Fleming | Processors, methods, and systems with a configurable spatial accelerator |
CN111587423A (zh) * | 2017-11-13 | 2020-08-25 | 维卡艾欧有限公司 | 分布式存储***的分层数据策略 |
CN109308290A (zh) * | 2018-08-06 | 2019-02-05 | 国网安徽省电力有限公司信息通信分公司 | 一种基于cim的高效数据清洗转换方法 |
CN109885566A (zh) * | 2019-02-25 | 2019-06-14 | 南京世界村云数据产业集团有限公司 | 一种数据采集与边缘计算*** |
CN110035117A (zh) * | 2019-03-15 | 2019-07-19 | 启迪云计算有限公司 | 一种基于可配置监控脚本监控***及监控方法 |
Cited By (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114979251B (zh) * | 2022-04-26 | 2023-08-11 | 广东海术云电子科技有限公司 | 一种跨***协同服务异构数据交换*** |
CN114979251A (zh) * | 2022-04-26 | 2022-08-30 | 东莞市海数云电子科技有限公司 | 一种跨***协同服务异构数据交换工具 |
CN114666555A (zh) * | 2022-05-23 | 2022-06-24 | 创意信息技术股份有限公司 | 一种Edge边缘网关前端*** |
WO2024000498A1 (zh) * | 2022-06-30 | 2024-01-04 | 西门子股份公司 | 工业控制***、边缘设备、云端服务器、装置及方法 |
CN115484265A (zh) * | 2022-09-19 | 2022-12-16 | 合肥合锻智能制造股份有限公司 | 基于云边协同的多源异构数据的管理*** |
CN115643159A (zh) * | 2022-11-18 | 2023-01-24 | 奇点创新(江苏)智能科技有限公司 | 一种基于边缘计算的设备异常预警方法及*** |
CN116612371A (zh) * | 2023-07-18 | 2023-08-18 | 四川弘和数智集团有限公司 | 基于边云解耦的神经网络推理方法、装置及设备和介质 |
CN116612371B (zh) * | 2023-07-18 | 2023-11-03 | 四川弘和数智集团有限公司 | 基于边云解耦的神经网络推理方法、装置及设备和介质 |
CN116708528A (zh) * | 2023-08-02 | 2023-09-05 | 成都卓拙科技有限公司 | 节点间tcp长连接的监控方法及装置 |
CN116708528B (zh) * | 2023-08-02 | 2023-10-03 | 成都卓拙科技有限公司 | 节点间tcp长连接的监控方法及装置 |
CN116737523A (zh) * | 2023-08-10 | 2023-09-12 | 中国电子投资控股有限公司 | 一种基于边缘计算的可观测性数据采集方法 |
CN116737523B (zh) * | 2023-08-10 | 2023-12-01 | 中国电子投资控股有限公司 | 一种基于边缘计算的可观测性数据采集方法 |
CN117235559A (zh) * | 2023-11-14 | 2023-12-15 | 四川万物纵横科技股份有限公司 | 一种基于边缘计算的物联网数据采集方法及*** |
CN117235559B (zh) * | 2023-11-14 | 2024-02-06 | 四川万物纵横科技股份有限公司 | 一种基于边缘计算的物联网数据采集方法及*** |
CN118113787A (zh) * | 2024-04-30 | 2024-05-31 | 中增智慧城市建设发展有限公司 | 基于边缘计算的智慧城市物联网数据处理方法及*** |
CN118113787B (zh) * | 2024-04-30 | 2024-06-28 | 中增智慧城市建设发展有限公司 | 基于边缘计算的智慧城市物联网数据处理方法及*** |
Also Published As
Publication number | Publication date |
---|---|
CN114268640B (zh) | 2022-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114268640B (zh) | 云边协同的工业物联网智能路由*** | |
US10685283B2 (en) | Demand classification based pipeline system for time-series data forecasting | |
US7720841B2 (en) | Model-based self-optimizing distributed information management | |
US10084722B2 (en) | Modification of computing resource behavior based on aggregated monitoring information | |
Zhang et al. | New agent-based proactive migration method and system for big data environment (BDE) | |
CN111124819B (zh) | 全链路监控的方法和装置 | |
US20210042578A1 (en) | Feature engineering orchestration method and apparatus | |
US20200134421A1 (en) | Assurance of policy based alerting | |
CN103761309A (zh) | 一种运营数据处理方法及*** | |
CN111309550A (zh) | 应用程序的数据采集方法、***、设备和存储介质 | |
US20210065083A1 (en) | Method for changing device business and business change system | |
Renart et al. | Distributed operator placement for IoT data analytics across edge and cloud resources | |
CN112000350B (zh) | 一种动态规则更新方法、装置及存储介质 | |
US9842140B2 (en) | Dynamic input streams handling in DSMS | |
US20230283530A1 (en) | Service assurance monitoring based on telemetry | |
CN116166505A (zh) | 金融行业双态it架构的监控平台、方法、存储介质及设备 | |
CN111782672A (zh) | 多领域数据管理方法及相关装置 | |
US11327817B2 (en) | Automatic scope configuration of monitoring agents for tracking missing events at runtime | |
Ali et al. | Probabilistic normed load monitoring in large scale distributed systems using mobile agents | |
US20230376372A1 (en) | Multi-modality root cause localization for cloud computing systems | |
CN113114480A (zh) | 一种数据的上报方法及相关设备 | |
CN116566831A (zh) | 一种基于云计算的移动网络资源管理方法及*** | |
KR101878291B1 (ko) | 에너지 빅데이터 관리 시스템 및 그 방법 | |
Zehnder et al. | Using virtual events for edge-based data stream reduction in distributed publish/subscribe systems | |
WO2023093257A1 (zh) | 一种自动驾驶业务的建模方法和相关设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |