发明内容
本说明书提供了一种基于大数据和边缘计算的数据协同处理方法及边缘云平台,以解决或者部分解决现有技术存在的技术问题。
本说明书第一方面提供一种基于大数据和边缘计算的数据协同处理方法,所述方法包括:
在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息;根据获取到的实时资源分布信息生成与所述边缘云平台通信的多个边缘终端的资源分布图数据,并采用每组数据流量信息对所述资源分布图数据进行迭代更新;
在采用每组数据流量信息对所述资源分布图数据进行迭代更新的过程中实时检测所述资源分布图数据中是否存在具有设定状态标识的第一目标图节点;
在检测到所述资源分布图数据中存在所述第一目标图节点时,生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令并下发所述目标指令至所述第二目标图节点,以使所述第二目标图节点根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点。
可选地,生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令,包括:
将所述第一目标图节点的有向连线对应的连线参数列出;
根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线;
根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线;
基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令;其中,第二目标边缘终端对应第二目标图节点。
可选地,根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线,包括:
从所述连线参数中确定用于表征存在双向兼容标识的多组目标参数,并将每组目标参数对应的有向连线确定为第一目标有向连线;其中,所述双向兼容标识表征所述第一目标有向连线所连接的两个边缘终端满足局部兼容条件。
可选地,根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线,包括:
提取每组运行日志的日志互动数据以及每组运行日志的日志时序轨迹特征;基于所述日志互动数据构建用于表征所述运行日志的日志更新分布的第一数据清单,并行地根据构建所述第一数据清单所保留的运行脚本文件将所述日志时序轨迹特征按照时序权重由小到大的顺序进行整合以得到轨迹特征队列并提取所述轨迹特征队列的队列分布数据以构建第二数据清单;其中,所述第一数据清单和所述第二数据清单中均包括多个具有不同互动活跃系数的业务数据包;
在确定所述第一数据清单中的任意一个第一业务数据包的业务逻辑信息的逻辑描述值之后,基于所述第一数据清单中的其他第一业务数据包之间的相关度,从所述第二数据清单中确定出与所述相关度的中位数所表征的数值相同的互动活跃系数所对应的第二业务数据包并将该第二业务数据包确定为基准数据包;
根据所述第一数据清单和所述第二数据清单之间的相似性描述向量将所述逻辑描述值映射到所述基准数据包所对应的图数据所在的坐标平面中,以在所述坐标平面中得到所述逻辑描述值的逻辑映射值;计算所述逻辑映射值和所述逻辑描述值之间的差值并按照预设参考值对所述差值进行归一化处理得到差值比率;判断所述差值比率是否位于设定区间内;若所述差值比率没有位于所述设定区间内,则根据每组第一目标有向连线对应的第一目标边缘终端的终端状态因子对所述差值比率进行加权,直至加权得到的加权比率位于所述设定区间内;
获取每组第一目标有向连线的连线特征队列以及每个连线特征队列对应的队列优先级,通过所述加权比率以及每个队列优先级对所述第一目标有向连线进行融合处理得到用于表征边缘终端处于正常工作状态的基准有向连线;计算每组第一目标有向连线与所述基准有向连线的相似度的全局距离,并将全局距离小于设定距离的第一目标有向连线确定为所述第二目标有向连线。
可选地,基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令,包括:
基于所述第二目标有向连线对应的目标连线参数确定所述第二目标边缘终端的指令接收线程的运行稳定性记录,从所述运行稳定性记录对应的状态日志文本中确定出状态标签不随所述运行稳定性记录中的稳定性标签的更新而变化的指定文本数据;
按照所述指定文本数据中的字段分隔符提取所述指定文本数据的多个数据字段并基于所述指定文本数据对应的数据中心度将所述多个数据字段划分为第一字段集以及第二字段集,在确定出所述第一字段集的第一聚类特征信息与所述第二字段集的第二聚类特征信息之间的当前重叠率高于预设重叠率时,根据所述第一字段集中的每个第一字段与所述第二字段集中的至少部分第二字段之间的字段相似度以及每个第一字段在当前时刻的字段调用累计值将所述第一字段集中的至少部分第一字段集调整到所述第二字段集中直至所述当前重叠率不高于所述预设重叠率;
根据所述第二字段集中的所有第二字段确定对应的第二目标边缘终端的指令收发协议字段,并按照所述指令收发协议字段生成与所述第二目标边缘终端对应的目标指令;其中,不同第二目标边缘终端对应的目标指令不同。
可选地,所述第二目标图节点根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点的具体实现方式包括:
解析所述目标指令以获取所述目标指令中包括的物理资源分配信息;其中,所述物理资源分配信息中包括物理资源共享占比和物理资源共享时段;
根据所述物理资源共享占比,从时间片资源分配线程中获取线程配置分布信息并对所述线程配置分布信息进行修改,以对接所述第一目标图节点的api接口;其中,所述第一目标图节点通过所述api接口共用所述第二目标图节点中与所述物理资源共享占比相对应的时间片资源;
在完成对所述线程配置分布信息的修改时启动预设计时器并获取累计时长,在所述累计时长达到物理资源共享时段所对应的目标时长时,对已修改的线程配置分布信息进行恢复以终止与所述第一目标图节点的物理资源共享。
可选地,在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息,包括:
向每个边缘终端发送用于抽取每个边缘终端对应的实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带有边缘云平台的动态校验码和动态随机数;
检测是否接收到每个边缘终端基于该边缘终端对应的授权认证信息所反馈的授权确认指示,在接收到所述授权确认指示时,同步获取所述边缘终端的实时资源分布信息以及所述边缘终端所实时保存的对应的数据端设备的数据流量信息。
可选地,所述方法还包括:
在没有接收到所述授权确认指示时,继续向对应的边缘终端发送用于实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带的边缘云平台的动态校验码和动态随机数与之前的动态校验码和动态随机数均不同。
本说明书第二方面提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述方法的步骤。
本说明书第三方面提供一种边缘云平台,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述方法的步骤。
通过本说明书的一个或者多个技术方案,本说明书具有以下有益效果或者优点:
首先根据获取到的实时资源分布信息生成资源分布图数据并采用数据流量信息进行迭代更新,其次实时检测资源分布图数据中是否存在具有设定状态标识的第一目标图节点,最后在检测到第一目标图节点时,生成并下发目标指令至第二目标图节点,以使第二目标图节点根据目标指令将第二目标图节点的物理资源共享给第一目标图节点。如此,能够在第一目标图节点对应的边缘终端的物理资源不足时实现多个边缘终端的物理资源共享,从而提高边缘终端的数据流量的分发处理效率,进而满足现有的数据处理需求。
上述说明仅是本说明书技术方案的概述,为了能够更清楚了解本说明书的技术手段,而可依照说明书的内容予以实施,并且为了让本说明书的上述和其它目的、特征和优点能够更明显易懂,以下特举本说明书的具体实施方式。
具体实施方式
下面将参照附图更详细地描述本公开的示例性实施例。虽然附图中显示了本公开的示例性实施例,然而应当理解,可以以各种形式实现本公开而不应被这里阐述的实施例所限制。相反,提供这些实施例是为了能够更透彻地理解本公开,并且能够将本公开的范围完整的传达给本领域的技术人员。
为满足现如今的数据处理需求,发明人创新性地提出了基于大数据和边缘计算的数据协同处理方法及边缘云平台这一技术方案,该方案相对于传统云计算可以理解为边缘计算,且不同于现有的边缘计算,该方案在基于物理资源共享而满足现有的数据处理需求的前提下,实现对边缘终端的位置感知、本地化以及异构性兼容,进一步提高数据流量的分发处理效率。
为实现上述目的,请首先参阅图1,为本发明实施例所提供的基于大数据和边缘计算的数据协同处理***100的通信架构示意图,所述数据协同处理***100包括边缘云平台200和多个边缘终端300。其中,边缘云平台200与多个边缘终端300互相之间通信连接且一个边缘终端300直接对接一个接数据端设备400。在本实施例中,数据端设备400可以是手机、平板电脑、笔记本电脑等,也可以是智能手环和智能家居等,还可以是工厂自动化设备等,在此不作限定。边缘终端300用于对数据端设备400产生的数据进行分布式处理。
进一步地,在图1的基础上,请结合参阅图2,提供了一种基于大数据和边缘计算的数据协同处理方法的流程示意图,所述方法可以应用于图1中的边缘云平台200,具体可以包括以下步骤S21-步骤S23所描述的内容。
步骤S21,在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息;根据获取到的实时资源分布信息生成与所述边缘云平台通信的多个边缘终端的资源分布图数据,并采用每组数据流量信息对所述资源分布图数据进行迭代更新。
具体地方案中,实时资源分布信息是时间片资源的分布信息,数据流量信息用于表征数据端设备的数据产生速率。进一步地,资源分布图数据中包括多个图节点,每个图节点对应一个边缘终端,不同图节点之间通过有向连线连接,有向连线为单向连线或者多向连线。
步骤S22,在采用每组数据流量信息对所述资源分布图数据进行迭代更新的过程中实时检测所述资源分布图数据中是否存在具有设定状态标识的第一目标图节点。
具体地方案中,设定状态标识是用于表征图节点对应的边缘终端的物理资源不足的标识。
步骤S23,在检测到所述资源分布图数据中存在所述第一目标图节点时,生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令并下发所述目标指令至所述第二目标图节点,以使所述第二目标图节点根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点。
通过上述步骤S21-步骤S23所描述的内容,首先根据获取到的实时资源分布信息生成资源分布图数据并采用数据流量信息进行迭代更新,其次实时检测资源分布图数据中是否存在具有设定状态标识的第一目标图节点,最后在检测到第一目标图节点时,生成并下发目标指令至第二目标图节点,以使第二目标图节点根据目标指令将第二目标图节点的物理资源共享给第一目标图节点。如此,能够在第一目标图节点对应的边缘终端的物理资源不足时实现多个边缘终端的物理资源共享,从而提高边缘终端的数据流量的分发处理效率,进而满足现有的数据处理需求。
在具体实施时,为了不影响其他边缘终端的正常运行,并将边缘终端之间的局部非兼容性考虑在内,步骤S23所描述的生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令,进一步可以包括以下步骤S231-步骤S234所描述的内容。
步骤S231,将所述第一目标图节点的有向连线对应的连线参数列出。
步骤S232,根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线。
步骤S233,根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线。
步骤S234,基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令;其中,第二目标边缘终端对应第二目标图节点。
可以理解,在上述步骤S231-步骤S234中,通过第一次筛选,能够将边缘终端之间的局部非兼容性考虑在内,通过第二次筛选,能够确保生成的目标指令在下发到第二目标边缘终端时不会影响第二目标边缘终端的正常运行。
在一个可能的实施方式中,步骤S232所描述的根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线,具体包括:从所述连线参数中确定用于表征存在双向兼容标识的多组目标参数,并将每组目标参数对应的有向连线确定为第一目标有向连线。其中,双向兼容标识表征第一目标有向连线所连接的两个边缘终端能够满足局部兼容条件。
在实际应用中,为了确保筛选第二目标有向连线的精准性和可靠性,步骤S233所描述的根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线,进一步可以包括以下步骤S2331-步骤S2334所描述的内容。
步骤S2331,提取每组运行日志的日志互动数据以及每组运行日志的日志时序轨迹特征;基于所述日志互动数据构建用于表征所述运行日志的日志更新分布的第一数据清单,并行地根据构建所述第一数据清单所保留的运行脚本文件将所述日志时序轨迹特征按照时序权重由小到大的顺序进行整合以得到轨迹特征队列并提取所述轨迹特征队列的队列分布数据以构建第二数据清单;其中,所述第一数据清单和所述第二数据清单中均包括多个具有不同互动活跃系数的业务数据包。
步骤S2332,在确定所述第一数据清单中的任意一个第一业务数据包的业务逻辑信息的逻辑描述值之后,基于所述第一数据清单中的其他第一业务数据包之间的相关度,从所述第二数据清单中确定出与所述相关度的中位数所表征的数值相同的互动活跃系数所对应的第二业务数据包并将该第二业务数据包确定为基准数据包。
步骤S2333,根据所述第一数据清单和所述第二数据清单之间的相似性描述向量将所述逻辑描述值映射到所述基准数据包所对应的图数据所在的坐标平面中,以在所述坐标平面中得到所述逻辑描述值的逻辑映射值;计算所述逻辑映射值和所述逻辑描述值之间的差值并按照预设参考值对所述差值进行归一化处理得到差值比率;判断所述差值比率是否位于设定区间内;若所述差值比率没有位于所述设定区间内,则根据每组第一目标有向连线对应的第一目标边缘终端的终端状态因子对所述差值比率进行加权,直至加权得到的加权比率位于所述设定区间内。
步骤S2334,获取每组第一目标有向连线的连线特征队列以及每个连线特征队列对应的队列优先级,通过所述加权比率以及每个队列优先级对所述第一目标有向连线进行融合处理得到用于表征边缘终端处于正常工作状态的基准有向连线;计算每组第一目标有向连线与所述基准有向连线的相似度的全局距离,并将全局距离小于设定距离的第一目标有向连线确定为所述第二目标有向连线。
在具体实施时,基于上述步骤S2331-步骤S2334所描述的内容,能够确保筛选第二目标有向连线的精准性和可靠性。
在一个可以实现的实施例中,步骤S234所描述的基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令,具体可以包括以下步骤S2341-步骤S2343所描述的内容。
步骤S2341,基于所述第二目标有向连线对应的目标连线参数确定所述第二目标边缘终端的指令接收线程的运行稳定性记录,从所述运行稳定性记录对应的状态日志文本中确定出状态标签不随所述运行稳定性记录中的稳定性标签的更新而变化的指定文本数据。
步骤S2342,按照所述指定文本数据中的字段分隔符提取所述指定文本数据的多个数据字段并基于所述指定文本数据对应的数据中心度将所述多个数据字段划分为第一字段集以及第二字段集,在确定出所述第一字段集的第一聚类特征信息与所述第二字段集的第二聚类特征信息之间的当前重叠率高于预设重叠率时,根据所述第一字段集中的每个第一字段与所述第二字段集中的至少部分第二字段之间的字段相似度以及每个第一字段在当前时刻的字段调用累计值将所述第一字段集中的至少部分第一字段集调整到所述第二字段集中直至所述当前重叠率不高于所述预设重叠率。
步骤S2343,根据所述第二字段集中的所有第二字段确定对应的第二目标边缘终端的指令收发协议字段,并按照所述指令收发协议字段生成与所述第二目标边缘终端对应的目标指令;其中,不同第二目标边缘终端对应的目标指令不同。
通过应用上述步骤S2341-步骤S2343所描述的内容,能够针对不同的第二目标边缘终端针对性地生成目标指令,从而确保目标指令的精准、高效下发。
在具体实施过程中,在步骤S23中,所述第二目标图节点具体可以根据如下具体方式根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点。
步骤a,解析所述目标指令以获取所述目标指令中包括的物理资源分配信息;其中,所述物理资源分配信息中包括物理资源共享占比和物理资源共享时段。
步骤b,根据所述物理资源共享占比,从时间片资源分配线程中获取线程配置分布信息并对所述线程配置分布信息进行修改,以对接所述第一目标图节点的api接口;其中,所述第一目标图节点通过所述api接口共用所述第二目标图节点中与所述物理资源共享占比相对应的时间片资源。
步骤c,在完成对所述线程配置分布信息的修改时启动预设计时器并获取累计时长,在所述累计时长达到物理资源共享时段所对应的目标时长时,对已修改的线程配置分布信息进行恢复以终止与所述第一目标图节点的物理资源共享。
在具体实施时,通过上述步骤a-步骤c,能够第二目标图节点能够基于目标指令中包括的物理资源分配信息动态地实现物理资源(时间片资源)的共享,从而提高数据分发的处理效率,确保多个边缘终端能够高效、协同地运行。
在一个可能的实现方式中,为了确保获取到的数据流量信息的准确性和可靠性,步骤S21中所描述的在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息,具体可以包括以下步骤S211和步骤S212所描述的内容。
步骤S211,向每个边缘终端发送用于抽取每个边缘终端对应的实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带有边缘云平台的动态校验码和动态随机数。
步骤212,检测是否接收到每个边缘终端基于该边缘终端对应的授权认证信息所反馈的授权确认指示,在接收到所述授权确认指示时,同步获取所述边缘终端的实时资源分布信息以及所述边缘终端所实时保存的对应的数据端设备的数据流量信息。
这样,基于上述步骤S211和步骤S212能够在接收到每个边缘终端基于该边缘终端对应的授权认证信息所反馈的授权确认指示时,同步获取边缘终端的实时资源分布信息以及边缘终端所实时保存的对应的数据端设备的数据流量信息,从而确保数据流量信息与实时资源分布信息的同步获取,进而确保获取到的数据流量信息的准确性和可靠性。
在上述步骤S211和步骤S212的基础上,所述方法还包括:在没有接收到所述授权确认指示时,继续向对应的边缘终端发送用于实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带的边缘云平台的动态校验码和动态随机数与之前的不同。如此,能够在确保边缘终端发生授权误判时继续请求边缘终端的授权,确保边缘云平台的授权认证的灵活性和可靠性。
在一个可替换的实施方式中,步骤S21所描述的根据获取到的实时资源分布信息生成与所述边缘云平台通信的多个边缘终端的资源分布图数据,进一步可以包括以下步骤(11)-步骤(14)所描述的内容。
(11)将获取到的实时资源分布信息的资源分布轨迹曲线投影到预设图平面中,得到每条资源分布轨迹曲线在所述预设图平面中的资源投影曲线。
(12)提取每条资源投影曲线的曲线时序特征集以及曲线描述特征集;其中,所述曲线时序特征集用于表征所述资源投影曲线的时序特征变化,所述曲线描述特征集用于表征所述资源投影曲线的轨迹特征变化。
(13)根据所述曲线时序特征集以及所述曲线描述特征集对所述预设图平面中的资源投影曲线进行聚类,得到至少两组聚类集。
(14)确定每组聚类集中的资源投影曲线之间的相关性系数,并根据所述相关性系数以及每组聚类集中的资源投影曲线的聚类标签的指向信息,生成与所述边缘云平台通信的多个边缘终端的资源分布图数据。
可以理解,通过上述步骤(11)-步骤(14),能够确保资源分布图数据的完整性。
在另一个可替换的实施方式中,步骤S21所描述的采用每组数据流量信息对所述资源分布图数据进行迭代更新,进一步可以包括以下步骤(21)-步骤(23)所描述的内容。
(21)计算每组数据流量信息对应的实时流量值。
(22)根据所述实时流量值由大到小的顺序对所述数据流量信息进行排序得到数据流量排序序列。
(23)按照设定时间步长周期性地依次采用所述数据流量排序序列中的数据流量信息对所述资源分布图数据进行迭代更新;其中,对所述资源分布图数据进行迭代更新包括对所述资源分布图数据中的图节点的节点权重的修改以及有向连线的指向调整。
可以理解,基于上述步骤(21)-步骤(23),能够基于实时流量值的大小顺序依次采用数据流量信息对资源分布图数据进行迭代更新,这样可以确保迭代更新的准确性和可靠性。
进一步地,在步骤S22中,实时检测所述资源分布图数据中是否存在具有设定状态标识的第一目标图节点,具体可以包括以下步骤S221和步骤S222所描述的内容。
步骤S221,实时提取所述资源分布图数据的图节点列表,并确定所述图节点列表中每个图节点的状态标识集;其中,所述状态标识集包括按迭代更新的时序进行统计的多个状态标识。
步骤S222,针对所述状态标识集中的最新状态标识,若所述最新状态标识的词向量与预设词向量之间的当前匹配度大于设定匹配度,则确定所述最新状态标识为设定状态标识并确定出与所述设定状态标识对应的第一目标图节点。
在应用上述步骤S221-步骤S222所描述的内容时,能够确保设定状态标识的第一目标图节点的检测准确性。
基于与前述实施例中同样的发明构思,请结合参阅图3,提供了基于大数据和边缘计算的数据协同处理装置210的模块框图,具体包括以下内容。
A1.一种基于大数据和边缘计算的数据协同处理装置210,所述装置包括:
数据更新模块211,用于在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息;根据获取到的实时资源分布信息生成与所述边缘云平台通信的多个边缘终端的资源分布图数据,并采用每组数据流量信息对所述资源分布图数据进行迭代更新;
节点检测模块212,用于在采用每组数据流量信息对所述资源分布图数据进行迭代更新的过程中实时检测所述资源分布图数据中是否存在具有设定状态标识的第一目标图节点;
资源共享模块213,用于在检测到所述资源分布图数据中存在所述第一目标图节点时,生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令并下发所述目标指令至所述第二目标图节点,以使所述第二目标图节点根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点;
其中,所述数据更新模块211,具体用于:
将获取到的实时资源分布信息的资源分布轨迹曲线投影到预设图平面中,得到每条资源分布轨迹曲线在所述预设图平面中的资源投影曲线;
提取每条资源投影曲线的曲线时序特征集以及曲线描述特征集;其中,所述曲线时序特征集用于表征所述资源投影曲线的时序特征变化,所述曲线描述特征集用于表征所述资源投影曲线的轨迹特征变化;
根据所述曲线时序特征集以及所述曲线描述特征集对所述预设图平面中的资源投影曲线进行聚类,得到至少两组聚类集;
确定每组聚类集中的资源投影曲线之间的相关性系数,并根据所述相关性系数以及每组聚类集中的资源投影曲线的聚类标签的指向信息,生成与所述边缘云平台通信的多个边缘终端的资源分布图数据。
A2.如A1所述的装置,所述资源共享模块213,具体用于:
将所述第一目标图节点的有向连线对应的连线参数列出;
根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线;
根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线;
基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令;其中,第二目标边缘终端对应第二目标图节点。
A3.如A2所述的装置,所述资源共享模块213,进一步用于:
从所述连线参数中确定用于表征存在双向兼容标识的多组目标参数,并将每组目标参数对应的有向连线确定为第一目标有向连线;其中,所述双向兼容标识表征所述第一目标有向连线所连接的两个边缘终端满足局部兼容条件。
A4.如A2所述的装置,所述资源共享模块213,进一步用于:
提取每组运行日志的日志互动数据以及每组运行日志的日志时序轨迹特征;基于所述日志互动数据构建用于表征所述运行日志的日志更新分布的第一数据清单,并行地根据构建所述第一数据清单所保留的运行脚本文件将所述日志时序轨迹特征按照时序权重由小到大的顺序进行整合以得到轨迹特征队列并提取所述轨迹特征队列的队列分布数据以构建第二数据清单;其中,所述第一数据清单和所述第二数据清单中均包括多个具有不同互动活跃系数的业务数据包;
在确定所述第一数据清单中的任意一个第一业务数据包的业务逻辑信息的逻辑描述值之后,基于所述第一数据清单中的其他第一业务数据包之间的相关度,从所述第二数据清单中确定出与所述相关度的中位数所表征的数值相同的互动活跃系数所对应的第二业务数据包并将该第二业务数据包确定为基准数据包;
根据所述第一数据清单和所述第二数据清单之间的相似性描述向量将所述逻辑描述值映射到所述基准数据包所对应的图数据所在的坐标平面中,以在所述坐标平面中得到所述逻辑描述值的逻辑映射值;计算所述逻辑映射值和所述逻辑描述值之间的差值并按照预设参考值对所述差值进行归一化处理得到差值比率;判断所述差值比率是否位于设定区间内;若所述差值比率没有位于所述设定区间内,则根据每组第一目标有向连线对应的第一目标边缘终端的终端状态因子对所述差值比率进行加权,直至加权得到的加权比率位于所述设定区间内;
获取每组第一目标有向连线的连线特征队列以及每个连线特征队列对应的队列优先级,通过所述加权比率以及每个队列优先级对所述第一目标有向连线进行融合处理得到用于表征边缘终端处于正常工作状态的基准有向连线;计算每组第一目标有向连线与所述基准有向连线的相似度的全局距离,并将全局距离小于设定距离的第一目标有向连线确定为所述第二目标有向连线。
A5.如A2所述的装置,所述资源共享模块213,进一步用于:
基于所述第二目标有向连线对应的目标连线参数确定所述第二目标边缘终端的指令接收线程的运行稳定性记录,从所述运行稳定性记录对应的状态日志文本中确定出状态标签不随所述运行稳定性记录中的稳定性标签的更新而变化的指定文本数据;
按照所述指定文本数据中的字段分隔符提取所述指定文本数据的多个数据字段并基于所述指定文本数据对应的数据中心度将所述多个数据字段划分为第一字段集以及第二字段集,在确定出所述第一字段集的第一聚类特征信息与所述第二字段集的第二聚类特征信息之间的当前重叠率高于预设重叠率时,根据所述第一字段集中的每个第一字段与所述第二字段集中的至少部分第二字段之间的字段相似度以及每个第一字段在当前时刻的字段调用累计值将所述第一字段集中的至少部分第一字段集调整到所述第二字段集中直至所述当前重叠率不高于所述预设重叠率;
根据所述第二字段集中的所有第二字段确定对应的第二目标边缘终端的指令收发协议字段,并按照所述指令收发协议字段生成与所述第二目标边缘终端对应的目标指令;其中,不同第二目标边缘终端对应的目标指令不同。
A6.如A1-A5任一项所述的装置,所述第二目标图节点根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点的具体实现方式包括:
解析所述目标指令以获取所述目标指令中包括的物理资源分配信息;其中,所述物理资源分配信息中包括物理资源共享占比和物理资源共享时段;
根据所述物理资源共享占比,从时间片资源分配线程中获取线程配置分布信息并对所述线程配置分布信息进行修改,以对接所述第一目标图节点的api接口;其中,所述第一目标图节点通过所述api接口共用所述第二目标图节点中与所述物理资源共享占比相对应的时间片资源;
在完成对所述线程配置分布信息的修改时启动预设计时器并获取累计时长,在所述累计时长达到物理资源共享时段所对应的目标时长时,对已修改的线程配置分布信息进行恢复以终止与所述第一目标图节点的物理资源共享。
A7.如A1所述的装置,所述数据更新模块211,用于:
向每个边缘终端发送用于抽取每个边缘终端对应的实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带有边缘云平台的动态校验码和动态随机数;
检测是否接收到每个边缘终端基于该边缘终端对应的授权认证信息所反馈的授权确认指示,在接收到所述授权确认指示时,同步获取所述边缘终端的实时资源分布信息以及所述边缘终端所实时保存的对应的数据端设备的数据流量信息。
A8.如A7所述的装置,所述数据更新模块211,还用于:
在没有接收到所述授权确认指示时,继续向对应的边缘终端发送用于实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带的边缘云平台的动态校验码和动态随机数与之前的动态校验码和动态随机数均不同。
基于与前述实施例中同样的发明构思,还提供了一种基于大数据和边缘计算的数据协同处理***,具体描述如下。
B1.一种基于大数据和边缘计算的数据协同处理***,包括边缘云平台和多个边缘终端,所述边缘云平台与多个边缘终端互相之间通信连接且一个边缘终端直接对接一个接数据端设备;
边缘云平台用于:
在获取每个边缘终端的实时资源分布信息的同时通过每个边缘终端采集对应的数据端设备的数据流量信息;根据获取到的实时资源分布信息生成与所述边缘云平台通信的多个边缘终端的资源分布图数据,并采用每组数据流量信息对所述资源分布图数据进行迭代更新;
在采用每组数据流量信息对所述资源分布图数据进行迭代更新的过程中实时检测所述资源分布图数据中是否存在具有设定状态标识的第一目标图节点;
在检测到所述资源分布图数据中存在所述第一目标图节点时,生成用于指示第二目标图节点向所述第一目标图节点共享物理资源的目标指令并下发所述目标指令至所述第二目标图节点;
第二目标图节点用于:
根据所述目标指令将所述第二目标图节点的物理资源共享给所述第一目标图节点。
B2.如B1所述的***,边缘云平台具体用于:
将所述第一目标图节点的有向连线对应的连线参数列出;
根据所述连线参数对所述有向连线进行第一次筛选,得到多条第一目标有向连线;
根据获取的所述第一目标有向连线对应的第一目标边缘终端的运行日志对所述多条第一目标有向连线进行第二次筛选,得到多条第二目标有向连线;
基于所述第二目标有向连线对应的目标连线参数以及所述第二目标有向连线对应的第二目标边缘终端的状态日志文本生成目标指令;其中,第二目标边缘终端对应第二目标图节点。
B3.如B2所述的***,边缘云平台进一步用于:
从所述连线参数中确定用于表征存在双向兼容标识的多组目标参数,并将每组目标参数对应的有向连线确定为第一目标有向连线;其中,所述双向兼容标识表征所述第一目标有向连线所连接的两个边缘终端满足局部兼容条件。
B4.如B2所述的***,边缘云平台进一步用于:
提取每组运行日志的日志互动数据以及每组运行日志的日志时序轨迹特征;基于所述日志互动数据构建用于表征所述运行日志的日志更新分布的第一数据清单,并行地根据构建所述第一数据清单所保留的运行脚本文件将所述日志时序轨迹特征按照时序权重由小到大的顺序进行整合以得到轨迹特征队列并提取所述轨迹特征队列的队列分布数据以构建第二数据清单;其中,所述第一数据清单和所述第二数据清单中均包括多个具有不同互动活跃系数的业务数据包;
在确定所述第一数据清单中的任意一个第一业务数据包的业务逻辑信息的逻辑描述值之后,基于所述第一数据清单中的其他第一业务数据包之间的相关度,从所述第二数据清单中确定出与所述相关度的中位数所表征的数值相同的互动活跃系数所对应的第二业务数据包并将该第二业务数据包确定为基准数据包;
根据所述第一数据清单和所述第二数据清单之间的相似性描述向量将所述逻辑描述值映射到所述基准数据包所对应的图数据所在的坐标平面中,以在所述坐标平面中得到所述逻辑描述值的逻辑映射值;计算所述逻辑映射值和所述逻辑描述值之间的差值并按照预设参考值对所述差值进行归一化处理得到差值比率;判断所述差值比率是否位于设定区间内;若所述差值比率没有位于所述设定区间内,则根据每组第一目标有向连线对应的第一目标边缘终端的终端状态因子对所述差值比率进行加权,直至加权得到的加权比率位于所述设定区间内;
获取每组第一目标有向连线的连线特征队列以及每个连线特征队列对应的队列优先级,通过所述加权比率以及每个队列优先级对所述第一目标有向连线进行融合处理得到用于表征边缘终端处于正常工作状态的基准有向连线;计算每组第一目标有向连线与所述基准有向连线的相似度的全局距离,并将全局距离小于设定距离的第一目标有向连线确定为所述第二目标有向连线。
B5.如B2所述的***,边缘云平台进一步用于:
基于所述第二目标有向连线对应的目标连线参数确定所述第二目标边缘终端的指令接收线程的运行稳定性记录,从所述运行稳定性记录对应的状态日志文本中确定出状态标签不随所述运行稳定性记录中的稳定性标签的更新而变化的指定文本数据;
按照所述指定文本数据中的字段分隔符提取所述指定文本数据的多个数据字段并基于所述指定文本数据对应的数据中心度将所述多个数据字段划分为第一字段集以及第二字段集,在确定出所述第一字段集的第一聚类特征信息与所述第二字段集的第二聚类特征信息之间的当前重叠率高于预设重叠率时,根据所述第一字段集中的每个第一字段与所述第二字段集中的至少部分第二字段之间的字段相似度以及每个第一字段在当前时刻的字段调用累计值将所述第一字段集中的至少部分第一字段集调整到所述第二字段集中直至所述当前重叠率不高于所述预设重叠率;
根据所述第二字段集中的所有第二字段确定对应的第二目标边缘终端的指令收发协议字段,并按照所述指令收发协议字段生成与所述第二目标边缘终端对应的目标指令;其中,不同第二目标边缘终端对应的目标指令不同。
B6.如B1-B5任一项所述的***,第二目标图节点具体用于:
解析所述目标指令以获取所述目标指令中包括的物理资源分配信息;其中,所述物理资源分配信息中包括物理资源共享占比和物理资源共享时段;
根据所述物理资源共享占比,从时间片资源分配线程中获取线程配置分布信息并对所述线程配置分布信息进行修改,以对接所述第一目标图节点的api接口;其中,所述第一目标图节点通过所述api接口共用所述第二目标图节点中与所述物理资源共享占比相对应的时间片资源;
在完成对所述线程配置分布信息的修改时启动预设计时器并获取累计时长,在所述累计时长达到物理资源共享时段所对应的目标时长时,对已修改的线程配置分布信息进行恢复以终止与所述第一目标图节点的物理资源共享。
B7.如B1所述的***,边缘云平台进一步用于:
向每个边缘终端发送用于抽取每个边缘终端对应的实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带有边缘云平台的动态校验码和动态随机数;
检测是否接收到每个边缘终端基于该边缘终端对应的授权认证信息所反馈的授权确认指示,在接收到所述授权确认指示时,同步获取所述边缘终端的实时资源分布信息以及所述边缘终端所实时保存的对应的数据端设备的数据流量信息。
B8.如B7所述的***,边缘云平台还用于:
在没有接收到所述授权确认指示时,继续向对应的边缘终端发送用于实时资源分布信息的授权认证信息;其中,所述授权认证信息中携带的边缘云平台的动态校验码和动态随机数与之前的动态校验码和动态随机数均不同。
基于与前述实施例中同样的发明构思,本说明书实施例还提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现前文任一所述方法的步骤。
基于与前述实施例中同样的发明构思,本说明书的实施例还提供一种边缘云平台,如图4所示,包括存储器204、处理器202及存储在存储器204上并可在处理器202上运行的计算机程序,所述处理器202执行所述程序时实现前文任一所述方法的步骤。
在此提供的算法和显示不与任何特定计算机、虚拟***或者其它设备固有相关。各种通用***也可以与基于在此的示教一起使用。根据上面的描述,构造这类***所要求的结构是显而易见的。此外,本说明书也不针对任何特定编程语言。应当明白,可以利用各种编程语言实现在此描述的本说明书的内容,并且上面对特定语言所做的描述是为了披露本说明书的最佳实施方式。
在此处所提供的说明书中,说明了大量具体细节。然而,能够理解,本说明书的实施例可以在没有这些具体细节的情况下实践。在一些实例中,并未详细示出公知的方法、结构和技术,以便不模糊对本说明书的理解。
类似地,应当理解,为了精简本公开并帮助理解各个发明方面中的一个或多个,在上面对本说明书的示例性实施例的描述中,本说明书的各个特征有时被一起分组到单个实施例、图、或者对其的描述中。然而,并不应将该公开的方法解释成反映如下意图:即所要求保护的本说明书要求比在每个权利要求中所明确记载的特征更多的特征。更确切地说,如下面的权利要求书所反映的那样,发明方面在于少于前面公开的单个实施例的所有特征。因此,遵循具体实施方式的权利要求书由此明确地并入该具体实施方式,其中每个权利要求本身都作为本说明书的单独实施例。
本领域那些技术人员可以理解,可以对实施例中的设备中的模块进行自适应性地改变并且把它们设置在与该实施例不同的一个或多个设备中。可以把实施例中的模块或单元或组件组合成一个模块或单元或组件,以及此外可以把它们分成多个子模块或子单元或子组件。除了这样的特征和/或过程或者单元中的至少一些是相互排斥之外,可以采用任何组合对本说明书(包括伴随的权利要求、摘要和附图)中公开的所有特征以及如此公开的任何方法或者设备的所有过程或单元进行组合。除非另外明确陈述,本说明书(包括伴随的权利要求、摘要和附图)中公开的每个特征可以由提供相同、等同或相似目的的替代特征来代替。
此外,本领域的技术人员能够理解,尽管在此的一些实施例包括其它实施例中所包括的某些特征而不是其它特征,但是不同实施例的特征的组合意味着处于本说明书的范围之内并且形成不同的实施例。例如,在下面的权利要求书中,所要求保护的实施例的任意之一都可以以任意的组合方式来使用。
本说明书的各个部件实施例可以以硬件实现,或者以在一个或者多个处理器上运行的软件模块实现,或者以它们的组合实现。本领域的技术人员应当理解,可以在实践中使用微处理器或者数字信号处理器(DSP)来实现根据本说明书实施例的网关、代理服务器、***中的一些或者全部部件的一些或者全部功能。本说明书还可以实现为用于执行这里所描述的方法的一部分或者全部的设备或者装置程序(例如,计算机程序和计算机程序产品)。这样的实现本说明书的程序可以存储在计算机可读介质上,或者可以具有一个或者多个信号的形式。这样的信号可以从因特网网站上下载得到,或者在载体信号上提供,或者以任何其他形式提供。
应该注意的是上述实施例对本说明书进行说明而不是对本说明书进行限制,并且本领域技术人员在不脱离所附权利要求的范围的情况下可设计出替换实施例。在权利要求中,不应将位于括号之间的任何参考符号构造成对权利要求的限制。单词“包含”不排除存在未列在权利要求中的元件或步骤。位于元件之前的单词“一”或“一个”不排除存在多个这样的元件。本说明书可以借助于包括有若干不同元件的硬件以及借助于适当编程的计算机来实现。在列举了若干装置的单元权利要求中,这些装置中的若干个可以是通过同一个硬件项来具体体现。单词第一、第二、以及第三等的使用不表示任何顺序。可将这些单词解释为名称。