CN115811525A - 基于分布式架构的数据交换与处理方法 - Google Patents
基于分布式架构的数据交换与处理方法 Download PDFInfo
- Publication number
- CN115811525A CN115811525A CN202310090854.2A CN202310090854A CN115811525A CN 115811525 A CN115811525 A CN 115811525A CN 202310090854 A CN202310090854 A CN 202310090854A CN 115811525 A CN115811525 A CN 115811525A
- Authority
- CN
- China
- Prior art keywords
- node
- data
- data exchange
- node group
- group
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02D—CLIMATE CHANGE MITIGATION TECHNOLOGIES IN INFORMATION AND COMMUNICATION TECHNOLOGIES [ICT], I.E. INFORMATION AND COMMUNICATION TECHNOLOGIES AIMING AT THE REDUCTION OF THEIR OWN ENERGY USE
- Y02D10/00—Energy efficient computing, e.g. low power processors, power management or thermal management
Landscapes
- Collating Specific Patterns (AREA)
Abstract
本发明公开了一种基于分布式架构的数据交换与处理方法,引入了活跃度作为数据交换请求发送对象的节点指定依据,在同一次轮询的每次数据交换请求中,通过重新确定指定节点,提高了数据交换的针对性,在提升分布式性能的同时,兼顾了主节点的数据处理速度,简化了数据处理的过程。活跃度较好地表征了不同场景、不同时期下主节点处理数据的规律和特点,将分布式架构中每个节点被需要的概率预测问题转化为相对量化的活跃度计算问题,在每次数据交换中请求,主节点能够更快且相对准确的确定拟进行数据交换的对象。引入了通信验证机制,每个指定节点对主节点进行数据交换权限验证通过后才将数据包发送给主节点,提高了数据交换与处理的安全性。
Description
技术领域
本发明涉及信息技术领域,具体涉及一种基于分布式架构的数据交换与处理方法。
背景技术
分布式架构中包括多个节点,每个节点具有数据处理能力和数据存储能力,节点间可以共享数据资源。为了简化分布式计算过程,可以指定分布式架构中的某个节点为主节点,其他节点作为从节点将数据交换到主节点,由主节点进行数据处理。在一些特殊的场景。比如身份识别场景,需要对同个人的指纹、人脸、虹膜进行特征比对,三者均比对成功后才判定身份验证通过。为了便于对身份特征数据的分类存储,可以将指纹图像存储到分布式架构中的节点1,将人脸图像存储到分布式架构中的节点2,将虹膜图像存储到分布式架构中的节点3,然后在节点1、2、3中指定一个节点作为主节点,其他2个节点将数据交换到主节点,由主节点进行数据处理。但当外部第三方服务同时高频调用这3个节点时,主节点的数据处理性能将大受影响。为了解决这个问题,增加分布式架构中的节点数量是目前提升分布式处理能力采取的最直接、有效的手段。但增加节点数量,会牺牲主节点请求数据交换的针对性,通常需要设计一套复杂的数据交换规则,以从数量众多的节点中识别出主节点处理数据所必需的节点,且若在数据交换中增加通信校验机制等,主节点处理数据的复杂度会更高。因此,如何在兼顾提升分布式处理能力的同时,尽可能简化主节点的数据处理过程成为亟待解决的技术问题。
发明内容
本发明以在提升分布式性能的同时,兼顾数据交换的速度和交换准确性以及主节点的数据处理速度为目的,提供了一种基于分布式架构的数据交换与处理方法。
为达此目的,本发明采用以下技术方案:
提供一种基于分布式架构的数据交换与处理方法,步骤包括:
S1,从分布式架构中的节点群中指定一节点作为数据处理的主节点;
S2,业务处理模块将于所述主节点处接收的同一轮询中的数据交换请求转发给所述分布式架构中的指定节点群中的指定节点;
S3,接收到所述数据交换请求的每个所述指定节点将自身存储的数据打包后发送给所述业务处理模块;
S4,所述业务处理模块将每个所述指定节点群中的所述指定节点发送的数据包形成为当前次的所述数据交换请求请求到的数据集转发给所述主节点;
S5,所述主节点对请求到的所述数据集进行数据处理,并判断是否成功取得数据处理结果,
若是,则向所述数据集中产生对应所述数据包的每个所述指定节点反馈数据处理结果,并结束轮询发送所述数据交换请求,每个所述指定节点接收到结果反馈后对自身活跃度累加“1”;
若否,则在该次轮询下发起下一次数据交换请求,然后返回步骤S2,直至一次轮询请求结束。
作为优选,所述分布式架构中包括分别对应不同的第一标签的若干第一节点群、分别对应不同的第二标签的若干第二节点群、分别对应不同的第三标签的若干第三节点群和分别对应不同的第四标签的若干第四节点群,每个所述节点群中包括至少一个对应相同标签的所述节点;
步骤S1中,指定所述主节点的方法包括步骤:
S11,计算每个所述节点群的活跃度,并根据活跃度由低到高排序后形成节点群序列,所述节点群序列中的每个元素携带有对应的所述节点群的标签;
S12,计算待核查人员的身份细节特征值;
S13,从所述节点群序列中以保留排序顺序的提取方式提取出与所计算的所述身份细节特征值具有标签对应关系的各元素,形成提取序列;
S14,将所述提取序列中的首个元素对应的所述节点群中具有最低活跃度的所述节点作为所述主节点。
作为优选,计算每个所述节点群的活跃度的方法包括步骤:
S111,计算所述节点群中的每个所述节点的活跃度的加权求和值;
S112,计算所述加权求和值与所述节点群对应的活跃度校正系数的乘积作为对所述节点群计算的活跃度。
作为优选,步骤S2中,作为所述业务处理对所述主节点发起的所述数据交换请求的转发对象的各所述指定节点群中的所述指定节点的确定方法包括步骤:
S21,以对所述待核查人员的所述身份细节特征值对应的标签作为指定节点群的匹配依据,从数据库中匹配出用于表征一类人群的标签数据对,并将所述标签数据对中的每类所述标签分别对应的所述节点群作为匹配到的所述指定节点群;
S22,提取每个所述指定节点群中经节点过滤后剩余的活跃度最高的所述节点作为指定节点。
作为优选,步骤S23中,对所述指定节点群进行节点过滤的方法包括步骤:
S231,所述主节点对每个所述指定节点群中活跃度最高的所述节点发送的所述数据包进行单独的身份特征比对,并判断是否比对成功,
若是,则生成在本次轮询中终止对所述指定节点群的数据交换的终止信号发送给所述业务处理模块;
若否,则生成节点过滤信号发送给所述业务处理模块,并转入步骤S232;
S232,所述业务处理模块根据所述节点过滤信号从所述指定节点群中过滤掉在步骤S231的当前次数据交换请求中已作过身份特征比对的所述节点。
作为优选,步骤S3中,接收到所述数据交换请求的每个所述指定节点验证所述主节点的数据交换权限并通过后,再将自身存储的数据打包后发送给所述业务处理模块,权限验证方法包括步骤:
S31,解析出所述业务处理模块转发的数据交换请求中携带的主节点访问路径、主节点对应的标签、主节点的唯一节点编号;
S32,根据解析到所述主节点对应的所述标签寻找到所述主节点归属的所述节点群;
S33,根据解析到的所述主节点的访问路径与步骤S32寻找到的所述节点群中的其他节点的访问位置绑定关系,从数据库中获取所述节点群中的其他每个所述节点的访问路径;
S34,访问所述节点群中的所有节点并读取记录在每个节点处的活跃度;
S35,判断读取到的活跃度最低的所述节点是否为所述数据交换请求中携带的所述主节点,
若是,则判定权限验证通过;
若否,则判定权限验证失败。
本发明具有以下有益效果:
1、引入了活跃度作为数据交换请求发送对象的节点指定依据,在同一次轮询的每次数据交换请求中,通过重新确定指定节点,提高了数据交换的针对性,在通过增加节点数量提升分布式性能的同时,兼顾了主节点的数据处理速度,简化了数据处理的过程。
2、活跃度较好地表征了不同场景、不同时期下主节点处理数据的规律和特点,将分布式架构中每个节点被需要的概率预测问题转化为相对量化的活跃度计算问题,在每次数据交换请求中,主节点能够更快、更简单且相对准确的确定拟进行数据交换的对象。
3、引入了通信验证机制,每个指定节点对主节点进行数据交换权限验证通过后才将数据包由业务处理模块转发给主节点,提高了数据交换与处理的安全性。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图作简单地介绍。显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一实施例提供的基于分布式架构的数据交换与处理方法的实现步骤图;
图2是将指纹图像等分为若干个矩形子块并对矩形子块进行标序的示意图;
图3是计算指纹图像中矩形子块的边界像素点与左顶点间距离的示意图;
图5是本实施例提供的分布式架构的示意图。
具体实施方式
下面结合附图并通过具体实施方式来进一步说明本发明的技术方案。
其中,附图仅用于示例性说明,表示的仅是示意图,而非实物图,不能理解为对本专利的限制;为了更好地说明本发明的实施例,附图某些部件会有省略、放大或缩小,并不代表实际产品的尺寸;对本领域技术人员来说,附图中某些公知结构及其说明可能省略是可以理解的。
本发明实施例的附图中相同或相似的标号对应相同或相似的部件;在本发明的描述中,需要理解的是,若出现术语“上”、“下”、“左”、“右”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此附图中描述位置关系的用语仅用于示例性说明,不能理解为对本专利的限制,对于本领域的普通技术人员而言,可以根据具体情况理解上述术语的具体含义。
在本发明的描述中,除非另有明确的规定和限定,若出现术语“连接”等指示部件之间的连接关系,该术语应做广义理解,例如,可以是固定连接,也可以是可拆卸连接,或成一体;可以是机械连接,也可以是电连接;可以是直接相连,也可以通过中间媒介间接相连,可以是两个部件内部的连通或两个部件的相互作用关系。对于本领域的普通技术人员而言,可以具体情况理解上述术语在本发明中的具体含义。
如图2所示,本实施例提供的分布式架构包括若干节点群,分别为第一节点群、第二节点群、第三节点群和第四节点群,每个第一节点群分别对应不同的第一标签,每个第二节点群分别对应不同的第二标签,每个第三节点群分别对应不同的第三标签,每个第四节点群分别对应不同的第四标签;每个节点群中又包括至少一个对应相同标签的节点;
以第一标签为距离值和值区间、第二标签为数量区间、第三标签为比值和值区间、第四标签为和值比值区间为例,同个第一节点群中的所有节点对应相同的距离值和值区间,同个第二节点群中的所有节点对应相同的数量区间,同个第三节点群中的所有节点对应相同的比值和值区间,同个第四节点群中的所有节点对应相同的和值比值区间。
本实施例中,距离值和值为划设在每张指纹图像中的每个矩形子块的指纹信息的每个边界像素点与该矩形子块的左顶点的距离的加权求和值,第一标签即距离值和值区间为该距离值和值落入的数值区间。本实施例将距离值和值表达为,通过以下方法步骤计算而得:
A1,对以矩形框选方式框选的同一人群分类(比如年龄段为13-17的男性青少年)下的每张指纹图像的宽、高以等间隔方式将每条边等分为若干段,等分示例请参见图2;
A2,从每个等分点出发以垂直于出发点所在的边的方式向相对边的相对等分点上连线,以将指纹图像离散为若干个矩形子块,并以图像左顶角处的矩形子块为标序的起始子块(图2中标序为“1”的子块表示起始子块),以逆时针向内回旋标序的方式对每个矩形子块按回旋顺序进行标序;
A3,过滤掉指纹图像中未携带指纹信息(为携带指纹信息指子块内没有表征指纹信息的像素,如图2中标序为“1”“2”“12”“18”“29”的矩形子块)以及满载指纹信息的矩形子块,满载指纹信息指表示指纹信息的像素触及所属的矩形子块的每条边(例如图2中标序为“8”“36”“22”“24”的矩形子块);
A4,对步骤A3过滤剩余的每个矩形子块,搜寻每个矩形子块中指纹信息的边界像素点(如图3中用标记P1、P2表示),搜索边界像素点的现有方法有许多,比如将矩形子块内部指纹信息中断的点识别为边界像素点;
B2,对小于差异值阈值的指纹图像中的矩形子块列为数量累加对象(越小说明具有位置对应关系的两个矩形子块的相似度越高),并对每张指纹图像中符合数量累加条件的各矩形区块进行数量累加,得到关联每张指纹图像的数量累加值。
本实施例中,比值和值为对划设在每张人脸图像中的每个矩形块经满载和未携带人脸信息的矩形块过滤后剩余的每个矩形块,计算得到的每个剩余的矩形块中的人脸像素点数量与总像素点数量的比值的加权求和值,第三标签即比值和值区间为比值和值落入的数值区间。本实施例中,将比值和值表达为,的计算方法包括如下步骤:
C1,对同一人群分类下的每个人员以固定距离、固定角度拍摄人脸,得到每个人员的具有相同尺寸的人脸图像;
C2,对每张人脸图像的宽、高以等间隔方式将每条边等分为若干段;
C3,从每个等分点出发以垂直于出发点所在的边的方式向相对边的相对等分点连线,以将人脸图像离散为若干个矩形块,并以图像左顶角处的矩形块为标序的起始块,以逆时针向内回旋标序的方式对每个矩形块按回旋顺序进行标序;
C4,过滤掉人脸图像中未携带人脸信息以及满载人脸信息的矩形块,满载人脸信息指表示人脸信息的像素触及所属的矩形块的每条边;
步骤C2-C4采用的人脸图像离散方法与步骤A1-A3中记载的指纹图像的离散方法相同,因此不再赘述。
C5,搜索经步骤C4过滤剩余的每个矩形块中的人脸像素,并计算搜索到的人脸像素的数量与所属的人脸图像中的第个矩形块中的像素点数量的比值,记为;例如,某个矩形块中表征人脸像素的数量为100,所属的第个矩形块中总共有200个像素,则;
D1,对同一人群分类下的每个人员以固定距离、固定角度拍摄眼部图像,并以矩形框选方式从每张眼部图像中框选出虹膜图像,框选出的虹膜图像如图4所示,图4中圆为虹膜,外部的矩形为框选虹膜的矩形框;
D2,对每张虹膜图像的宽、高每条边进行二等分,并对未相对的等分点进行连线得到一空间四边形(图4中用附图标记“Q1”表示);
D4,对空间四边形的每条边进行二等分(比如对图4中所示的标记为“q1”的边进行二等分),然后从每个等分点出发以垂直于所在边的方式向虹膜图像的虹膜边界(例如图4中用“R1”表示的虹膜边界)连线,连接的点记为顶点,、分别表示空间四边形上的第条边的等分点,以及从等分点向虹膜边界连线的顶点;
D5,从顶点向空间四边形上的第条边的两个端点连线,得到一三角形(例如图4中用附图标记“U1”表示的三角形),记为,三角形将外的虹膜区域离散为两个弧形虹膜区域,分别记为(例如图4中用附图标记area1表示)、(图4中用附图标记area2表示);
D7,以三角形的两条腰为边,对每条腰进行等分,然后从等分点出发以垂直于所在腰的方式向所在的弧形虹膜区域的虹膜边界连线,得到连接顶点,并从该连接顶点向三角形上的所在腰的两个端点连线,得到一三角形(例如图4中用附图标记“U11”表示的三角形),记为,由于每个三角形离散的弧形虹膜区域均为两个,因此;
本发明实施例提供的基于分布式架构的数据交换及处理方法如图1所示,包括步骤:
S1,从分布式架构的若干节点群中指定以节点作为数据处理的主节点,指定方法具体包括如下步骤:
S11,计算每个节点群的活跃度,并根据活跃度由低到高排序后形成节点群序列,节点群序列中的每个元素携带有对应的节点群的标签(比如标签为距离值和值区间);
S13,从节点群序列中以保留排序顺序的提取方式提取出与所计算的身份细节特征值具有标签对应关系的各元素,形成提取序列;
例如,节点群序列为(第一节点群1、第一节点群2、第二节点群2、第二节点群3、第三节点群1、第四节点群1、第三节点群2、第一节点群3、第四节点群3、第三节点群4、第二节点群1、第三节点群3、第四节点群2),若步骤S12计算的身份细节特征值为距离值和值,则提取到的提取序列为(第一节点群1、第一节点群2、第一节点群3);
S14,将提取序列中的首个元素对应的节点群中具有最低活跃度的节点作为主节点。例如将(第一节点群1、第一节点群2、第一节点群3)这一提取序列中排位最前的第一节点群1中具有最低活跃度的节点作为主节点。
节点群的活跃度的计算方法包括如下步骤:
S111,计算节点群中的每个节点的活跃度的加权求和值;
S112,计算加权求和值与该节点群对应的活跃度校正系数的乘积作为对该节点群计算的活跃度。
分布式架构中的每个节点具有数据处理能力和数据存储能力。本实施例中,作为主节点请求数据交换的被需求的节点,根据主节点的数据交换请求将自身存储的数据以数据包的形式发送给主节点,主节点对请求到的数据进行处理后输出数据处理结果。理想情况下,分布式架构中的每个节点群中仅包括一个节点。假设分布式架构具有第一至第四节点群,第一节点群中仅有的一个节点用于存储第一标签即距离值和值区间对应的指纹图像数据集,第二节点群中仅有的一个节点用于存储第二标签即数量区间对应的指纹图像数据集,第三节点群中仅有的一个节点用于存储第三标签即比值和值区间对应的人脸图像数据集,第四节点群中仅有的一个节点用于存储第四标签即和值比值区间对应的虹膜图像数据集。而主节点进行数据处理时,假设必须同时获取这4个具有标签关联关系的节点群中的每个节点所关联的图像数据,则主节点直接从这4个节点中获取所有的图像数据即可。但在分布式架构中仅设置4个具有标签关联关系的节点群,在每个节点群中仅设置一个节点虽简化了主节点的数据处理过程,但严重影响了***的分布式计算能力,且由于主节点必须从这仅有的4个节点中指定,且每个节点为主节点处理数据的必需节点,当外部第三方服务同时高频调用这4个节点时,主节点的数据处理性能将大受影响。因此,需要提升本实施例提供的数据交换***的分布式数据处理能力。
提升分布式处理能力最直接有效的手段是增加分布式节点的数量,但本实施例中,节点群的标签类型和数量是确定的,比如存在3个不同的距离值和值区间,则具有该3个不同的距离值和值区间分别对应的3个不同的第一标签,因此无法通过增加标签的方式来扩展节点群的数量。所以为了解决这个问题,本实施例采取的方案是,在固定数量的每个节点群中增加节点的数量,比如,将原本一个节点群中包括1个节点,现在扩充为1个节点群中包括3节点,扩充后的这3个节点对应的标签与扩充前的节点对应的标签相同,即比如将原本各距离值和值对应的指纹图像统一加入到落入的距离值和值区间仅对应的节点1所关联的指纹图像数据集中,现在将各对应的指纹图像随机加入到落入的距离值和值区间对应的节点1、2、3分别关联的第一指纹图像数据集、第二指纹图像数据集和第三指纹图像数据集中。主节点需要处理数据时,获取存储在该节点群中的3个节点处的第一指纹图像数据集、第二指纹图像数据集和第三指纹图像数据集即可。在每个节点群中增加节点数量的方式很好地提升了***的分布式处理能力,但又产生了新的技术问题:由于主节点在处理数据时,需要与其他节点进行通信交互,其他节点数量的攀升,增加了主节点处理数据的复杂度,若在通信中增加校验机制等安全手段,数据处理的复杂度会更高。因此如何在兼顾分布式处理能力的同时,尽可能简化主节点的数据处理过程成为亟待解决的技术问题。为了解决这个技术问题,如图1所示,本实施例提供的基于分布式架构的数据交换与处理方法转入步骤:
S2,如图5中所示的业务处理模块将于主节点处接收的同一轮询中的数据交换请求转发给分布式架构中的指定节点群中的指定节点,指定节点的确定方法包括如下步骤:
S21,以对待核查人员计算的身份细节特征值对应的标签作为指定节点群的匹配依据,从数据库中匹配出用于表征一类人群的标签数据对,并将标签数据对中的每类标签分别对应的节点群作为匹配到的指定节点群;
举例而言,假设所计算的身份细节特征值为,落入的距离值和值区间对应的为第一标签,则将该第一标签作为指定节点群的匹配依据,假设某一类人群的特征用第一标签-第二标签-第三标签-第四标签这一标签数据对来表征,则根据第一标签,从数据库中匹配出记录的该标签数据对,并将第二标签、第三标签、第四标签分别对应的节点群作为匹配到的指定节点群;
S22,提取每个指定节点群中经节点过滤后剩余的活跃度最高的节点作为指定节点,对指定节点群进行节点过滤的方法包括步骤:
S231,主节点对每个指定节点群中活跃度最高的节点发送的数据包进行单独的身份特征比对,并判断是否比对成功,
若是,则生成在本次轮询中终止对该指定节点群的数据交换的终止信号发送给业务处理模块,业务处理模块接收到该终止信号后在该次轮询中将不再向该指定节点群发送数据交换请求;
若否,则生成节点过滤信号发送给业务处理模块,并转入步骤S232;
S232,业务处理模块根据节点过滤信号从该指定节点群中过滤掉在步骤S231的当前次数据交换请求中已作过身份特征比对的该节点,不再将其纳入为该次轮询中的后续次数据交换中的指定节点。
指定数据交换请求的拟发送节点后,如图1所示,本实施例提供的基于分布式架构的数据交换与处理方法转入步骤:
S3,接收到数据交换请求的每个指定节点将自身存储的数据打包后发送给业务处理模块;
为了提升指定节点与业务处理模块、业务处理模块与主节点间的通信安全性,优选地,接收到数据交换请求的每个指定节点验证主节点的数据交换权限并通过后,再将自身存储的数据打包后发送给业务处理模块,权限验证方法具体包括步骤:
S31,解析出业务处理模块转发的数据交换请求中携带的主节点访问路径、主节点对应的标签、主节点的唯一节点编号;
S32,根据解析到主节点对应的标签寻找到主节点归属的节点群;
S33,根据解析到的主节点的访问路径与步骤S32寻找到的节点群中的其他节点的访问位置绑定关系,从数据库中获取节点群中的其他每个节点的访问路径;
S34,访问节点群中的所有节点并读取记录在每个节点处的活跃度;
S35,判断读取到的活跃度最低的节点是否为数据交换请求中携带的主节点,
若是(节点编号匹配成功),则判定权限验证通过;
若否,则判定权限验证失败。
指定节点对主节点的权限验证通过后,本实施例提供的基于分布式架构的数据交换与处理方法转入步骤:
S4,业务处理模块将每个指定节点群中的指定节点发送的数据包形成为当前次的数据交换请求请求到的数据集转发给主节点;
S5,主节点对请求到的数据集进行数据处理,并判断是否成功取得数据处理结果(比如根据数据集是否成功验证了身份),
若是,则向数据集中产生对应数据包的每个指定节点反馈数据处理结果,并结束轮询发送数据交换请求,每个指定节点接收到结果反馈后对自身活跃度累加“1”;
若否,则在该次轮询中发起下一次数据交换请求,然后返回步骤S2,重新指定节点,直至一次轮询请求结束。
综上,本发明具有以下有益效果:
1、引入了活跃度作为数据交换请求发送对象的节点指定依据,在同一次轮询的每次数据交换请求中,通过重新确定指定节点,提高了数据交换的针对性,在通过增加节点数量提升分布式性能的同时,兼顾了主节点的数据处理速度,简化了数据处理的过程。
2、活跃度较好地表征了不同场景、不同时期下主节点处理数据的规律和特点,将分布式架构中每个节点被需要的概率预测问题转化为相对量化的活跃度计算问题,在每次数据交换请求中,主节点能够更快、更简单且相对准确的确定拟进行数据交换的对象。
3、引入了通信验证机制,每个指定节点对主节点进行数据交换权限验证通过后才将数据包由业务处理模块转发给主节点,提高了数据交换与处理的安全性。
需要声明的是,上述具体实施方式仅仅为本发明的较佳实施例及所运用技术原理。本领域技术人员应该明白,还可以对本发明做各种修改、等同替换、变化等等。但是,这些变换只要未背离本发明的精神,都应在本发明的保护范围之内。另外,本申请说明书和权利要求书所使用的一些术语并不是限制,仅仅是为了便于描述。
Claims (6)
1.一种基于分布式架构的数据交换与处理方法,其特征在于,步骤包括:
S1,从分布式架构中的节点群中指定一节点作为数据处理的主节点;
S2,业务处理模块将于所述主节点处接收的同一轮询中的数据交换请求转发给所述分布式架构中的指定节点群中的指定节点;
S3,接收到所述数据交换请求的每个所述指定节点将自身存储的数据打包后发送给所述业务处理模块;
S4,所述业务处理模块将每个所述指定节点群中的所述指定节点发送的数据包形成为当前次的所述数据交换请求请求到的数据集转发给所述主节点;
S5,所述主节点对请求到的所述数据集进行数据处理,并判断是否成功取得数据处理结果,
若是,则向所述数据集中产生对应所述数据包的每个所述指定节点反馈数据处理结果,并结束轮询发送所述数据交换请求,每个所述指定节点接收到结果反馈后对自身活跃度累加“1”;
若否,则在该次轮询下发起下一次数据交换请求,然后返回步骤S2,直至一次轮询请求结束。
2.根据权利要求1所述的基于分布式架构的数据交换与处理方法,其特征在于,所述分布式架构中包括分别对应不同的第一标签的若干第一节点群、分别对应不同的第二标签的若干第二节点群、分别对应不同的第三标签的若干第三节点群和分别对应不同的第四标签的若干第四节点群,每个所述节点群中包括至少一个对应相同标签的所述节点;
步骤S1中,指定所述主节点的方法包括步骤:
S11,计算每个所述节点群的活跃度,并根据活跃度由低到高排序后形成节点群序列,所述节点群序列中的每个元素携带有对应的所述节点群的标签;
S12,计算待核查人员的身份细节特征值;
S13,从所述节点群序列中以保留排序顺序的提取方式提取出与所计算的所述身份细节特征值具有标签对应关系的各元素,形成提取序列;
S14,将所述提取序列中的首个元素对应的所述节点群中具有最低活跃度的所述节点作为所述主节点。
3.根据权利要求2所述的基于分布式架构的数据交换与处理方法,其特征在于,计算每个所述节点群的活跃度的方法包括步骤:
S111,计算所述节点群中的每个所述节点的活跃度的加权求和值;
S112,计算所述加权求和值与所述节点群对应的活跃度校正系数的乘积作为对所述节点群计算的活跃度。
4.根据权利要求2所述的基于分布式架构的数据交换与处理方法,其特征在于,步骤S2中,作为所述业务处理对所述主节点发起的所述数据交换请求的转发对象的各所述指定节点群中的所述指定节点的确定方法包括步骤:
S21,以对所述待核查人员的所述身份细节特征值对应的标签作为指定节点群的匹配依据,从数据库中匹配出用于表征一类人群的标签数据对,并将所述标签数据对中的每类所述标签分别对应的所述节点群作为匹配到的所述指定节点群;
S22,提取每个所述指定节点群中经节点过滤后剩余的活跃度最高的所述节点作为指定节点。
5.根据权利要求4所述的基于分布式架构的数据交换与处理方法,其特征在于,步骤S23中,对所述指定节点群进行节点过滤的方法包括步骤:
S231,所述主节点对每个所述指定节点群中活跃度最高的所述节点发送的所述数据包进行单独的身份特征比对,并判断是否比对成功,
若是,则生成在本次轮询中终止对所述指定节点群的数据交换的终止信号发送给所述业务处理模块;
若否,则生成节点过滤信号发送给所述业务处理模块,并转入步骤S232;
S232,所述业务处理模块根据所述节点过滤信号从所述指定节点群中过滤掉在步骤S231的当前次数据交换请求中已作过身份特征比对的所述节点。
6.根据权利要求1所述的基于分布式架构的数据交换与处理方法,其特征在于,步骤S3中,接收到所述数据交换请求的每个所述指定节点验证所述主节点的数据交换权限并通过后,再将自身存储的数据打包后发送给所述业务处理模块,权限验证方法包括步骤:
S31,解析出所述业务处理模块转发的数据交换请求中携带的主节点访问路径、主节点对应的标签、主节点的唯一节点编号;
S32,根据解析到所述主节点对应的所述标签寻找到所述主节点归属的所述节点群;
S33,根据解析到的所述主节点的访问路径与步骤S32寻找到的所述节点群中的其他节点的访问位置绑定关系,从数据库中获取所述节点群中的其他每个所述节点的访问路径;
S34,访问所述节点群中的所有节点并读取记录在每个节点处的活跃度;
S35,判断读取到的活跃度最低的所述节点是否为所述数据交换请求中携带的所述主节点,
若是,则判定权限验证通过;
若否,则判定权限验证失败。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310090854.2A CN115811525B (zh) | 2023-02-09 | 2023-02-09 | 基于分布式架构的数据交换与处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310090854.2A CN115811525B (zh) | 2023-02-09 | 2023-02-09 | 基于分布式架构的数据交换与处理方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115811525A true CN115811525A (zh) | 2023-03-17 |
CN115811525B CN115811525B (zh) | 2023-06-16 |
Family
ID=85487872
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310090854.2A Active CN115811525B (zh) | 2023-02-09 | 2023-02-09 | 基于分布式架构的数据交换与处理方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115811525B (zh) |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20140379896A1 (en) * | 2013-06-24 | 2014-12-25 | Cisco Technology, Inc. | Distributed liveness reporting in a computer network |
US20170262519A1 (en) * | 2010-12-23 | 2017-09-14 | Eliot Horowitz | System and method for determining consensus within a distributed database |
US20170286517A1 (en) * | 2010-12-23 | 2017-10-05 | Eliot Horowitz | Systems and methods for managing distributed database deployments |
CN108829509A (zh) * | 2018-05-03 | 2018-11-16 | 山东汇贸电子口岸有限公司 | 基于国产cpu和操作***的分布式容器集群框架资源管理方法 |
CN112311596A (zh) * | 2020-10-22 | 2021-02-02 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备及计算机存储介质 |
CN112532581A (zh) * | 2020-10-26 | 2021-03-19 | 南京辰阔网络科技有限公司 | 一种基于共识参与度和交易活跃度的改进pbft共识方法 |
CN112671932A (zh) * | 2021-01-25 | 2021-04-16 | 梁志彬 | 一种基于大数据和云计算的数据处理方法及云计算节点 |
CN113127267A (zh) * | 2021-04-30 | 2021-07-16 | 郑州师范学院 | 一种分布式存储环境下强一致性多副本数据访问回应方法 |
CN113542398A (zh) * | 2021-07-13 | 2021-10-22 | 广州云从凯风科技有限公司 | 分布式集群***的管控方法、装置、介质和设备 |
-
2023
- 2023-02-09 CN CN202310090854.2A patent/CN115811525B/zh active Active
Patent Citations (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20170262519A1 (en) * | 2010-12-23 | 2017-09-14 | Eliot Horowitz | System and method for determining consensus within a distributed database |
US20170286517A1 (en) * | 2010-12-23 | 2017-10-05 | Eliot Horowitz | Systems and methods for managing distributed database deployments |
US20140379896A1 (en) * | 2013-06-24 | 2014-12-25 | Cisco Technology, Inc. | Distributed liveness reporting in a computer network |
CN108829509A (zh) * | 2018-05-03 | 2018-11-16 | 山东汇贸电子口岸有限公司 | 基于国产cpu和操作***的分布式容器集群框架资源管理方法 |
CN112311596A (zh) * | 2020-10-22 | 2021-02-02 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备及计算机存储介质 |
WO2022083690A1 (zh) * | 2020-10-22 | 2022-04-28 | 深圳前海微众银行股份有限公司 | 数据管理方法、装置、设备、计算机存储介质和程序 |
CN112532581A (zh) * | 2020-10-26 | 2021-03-19 | 南京辰阔网络科技有限公司 | 一种基于共识参与度和交易活跃度的改进pbft共识方法 |
CN112671932A (zh) * | 2021-01-25 | 2021-04-16 | 梁志彬 | 一种基于大数据和云计算的数据处理方法及云计算节点 |
CN113127267A (zh) * | 2021-04-30 | 2021-07-16 | 郑州师范学院 | 一种分布式存储环境下强一致性多副本数据访问回应方法 |
CN113542398A (zh) * | 2021-07-13 | 2021-10-22 | 广州云从凯风科技有限公司 | 分布式集群***的管控方法、装置、介质和设备 |
Non-Patent Citations (1)
Title |
---|
侯桂云;陈桂英;卢志强;: "关于云计算中分布式数据存储仿真研究" * |
Also Published As
Publication number | Publication date |
---|---|
CN115811525B (zh) | 2023-06-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109858371B (zh) | 人脸识别的方法及装置 | |
US20190272284A1 (en) | Image Recognition Verification | |
US8244002B2 (en) | System and method for performing rapid facial recognition | |
JP4907621B2 (ja) | 映像処理装置と方法及びその記録媒体 | |
CN108776768A (zh) | 图像识别方法及装置 | |
JP7145224B2 (ja) | 目標対象の認識方法、装置及びシステム | |
CN112818149A (zh) | 一种基于时空轨迹数据的人脸聚类方法、装置及存储介质 | |
US8964126B2 (en) | Video processing system, video processing method, database for video processing and generating method thereof, video processing apparatus, control method thereof and control program thereof | |
CN105814582B (zh) | 用于识别人脸的方法和*** | |
CN110378351A (zh) | ***鉴别方法及装置 | |
CN109359689B (zh) | 一种数据识别方法及装置 | |
CN109360205A (zh) | 双录视频质检方法、装置、介质和电子设备 | |
CN115811525A (zh) | 基于分布式架构的数据交换与处理方法 | |
CN106295693B (zh) | 一种图像识别方法及装置 | |
CN112257666B (zh) | 目标图像内容的聚合方法、装置、设备及可读存储介质 | |
US11410455B2 (en) | Method and device for fingerprint image recognition, and computer-readable medium | |
WO2013084731A1 (ja) | 画像識別システム | |
CN115147633A (zh) | 图像聚类方法、装置、设备及存储介质 | |
CN109145855A (zh) | 一种人脸检测方法及装置 | |
CN114078235A (zh) | 基于图像识别的轨道交通费用结算方法和装置 | |
CN111597980B (zh) | 一种目标对象聚类方法及装置 | |
CN111898462B (zh) | 对象属性的处理方法、装置、存储介质以及电子装置 | |
CN111382650A (zh) | 商品购物处理***、方法、装置及电子设备 | |
CN113486852B (zh) | 一种人脸人体关联方法及装置 | |
US20210034877A1 (en) | Method for identifying a person in a video, by a visual signature from that person, associated computer program and device |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |