CN116150273A - 数据处理方法、装置、计算机设备及存储介质 - Google Patents
数据处理方法、装置、计算机设备及存储介质 Download PDFInfo
- Publication number
- CN116150273A CN116150273A CN202310150640.XA CN202310150640A CN116150273A CN 116150273 A CN116150273 A CN 116150273A CN 202310150640 A CN202310150640 A CN 202310150640A CN 116150273 A CN116150273 A CN 116150273A
- Authority
- CN
- China
- Prior art keywords
- data
- configuration
- resource pool
- service
- synchronized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 39
- 238000012545 processing Methods 0.000 claims abstract description 64
- 230000001360 synchronised effect Effects 0.000 claims description 78
- 238000000034 method Methods 0.000 claims description 39
- 230000002159 abnormal effect Effects 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 10
- 238000004422 calculation algorithm Methods 0.000 claims description 9
- 230000002085 persistent effect Effects 0.000 claims description 9
- 230000006835 compression Effects 0.000 claims description 8
- 238000007906 compression Methods 0.000 claims description 8
- 230000002045 lasting effect Effects 0.000 claims description 5
- 239000002699 waste material Substances 0.000 abstract description 3
- 230000002688 persistence Effects 0.000 description 26
- 230000006870 function Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 12
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000012423 maintenance Methods 0.000 description 6
- 230000009471 action Effects 0.000 description 4
- 230000005540 biological transmission Effects 0.000 description 4
- 238000007689 inspection Methods 0.000 description 4
- 238000013515 script Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000007726 management method Methods 0.000 description 3
- 239000008186 active pharmaceutical agent Substances 0.000 description 2
- 238000007792 addition Methods 0.000 description 2
- 238000004140 cleaning Methods 0.000 description 2
- 238000013499 data model Methods 0.000 description 2
- 238000013500 data storage Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 239000000243 solution Substances 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000012217 deletion Methods 0.000 description 1
- 230000037430 deletion Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000011144 upstream manufacturing Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/27—Replication, distribution or synchronisation of data between databases or within a distributed database system; Distributed database system architectures therefor
- G06F16/275—Synchronous replication
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/214—Database migration support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/23—Updating
- G06F16/2379—Updates performed during online database operations; commit processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
- G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Software Systems (AREA)
- Computing Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本申请公开了一种数据处理方法、装置、计算机设备及存储介质。该方法包括接收配置资源中心发送的包括目标插件标识的服务配置信息,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送与待同步配置关系数据对应的数据同步指令,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据。如此,通过分布式多点部署配置数据中心服务,以完成数据的实时同步与更新,避免浪费数据调度时的人工资源,提高数据调度效率。
Description
技术领域
本申请属于计算机技术领域,具体涉及一种数据处理方法、装置、计算机设备及存储介质。
背景技术
在相关技术中,数据调度方式为通过配置资源中心建立的中心数据库保存全部配置关系数据,各个分支的资源池集群建立节点数据库,数据关系数据由中心数据库下发到各个节点数据库。每当配置关系数据发生变化时,需要先更新中心数据库,在更新完成后调度数据库的快照同步功能,将中心数据库更新的数据同步到各个节点数据库中,使得各个分支的资源池的应用程序通过查询本地的节点数据库获取变化后的配置关系数据。
然而,中心数据库和节点数据库之间的数据同步是基于快照同步功能,当失去与快照同步功能对应的数据库的刷新功能后,会导致数据同步失败,以及,当数据同步失败后,需要重新进行数据刷新,否则会出现配置关联数据不一致导致业务交易失败的情况,另外,维护配置关系数据需要有专门人员对刷新与同步快照进行操作,如此,在浪费人工资源的同时,降低了数据调度效率。
发明内容
本申请实施例提供一种数据处理方法、装置、计算机设备及存储介质,能够解决现有技术中数据调度方式浪费人工资源、数据调度效率低的问题。
第一方面,本申请实施例提供一种数据处理方法,该方法可以包括:
接收配置资源中心发送的服务配置信息,服务配置信息包括目标插件标识,服务配置信息由配置资源中心接收到的数据同步请求确定;
根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;
通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据;
向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。
第二方面,本申请实施例提供了一种数据处理装置,该装置可以包括:
接收模块,用于接收配置资源中心发送的服务配置信息,服务配置信息包括目标插件标识,服务配置信息由配置资源中心接收到的数据同步请求确定;
获取模块,用于根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;
确定模块,用于通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据;
发送模块,用于向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。
第三方面,本申请实施例提供了一种数据处理***,该***可以包括:配置资源中心和至少一个资源池,至少一个资源池中每个资源池包括配置数据中心服务;其中,
配置资源中心,用于接收数据同步请求,并基于数据同步请求,生成服务配置信息,服务配置信息包括与数据同步请求对应的目标插件标识;以及,向至少一个资源池发送服务配置信息,至少一个资源池包括第一资源池;
第一资源池,用于在接收到配置资源中心发送的服务配置信息的情况下,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据;向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;
其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。
第四方面,本申请实施例提供了一种计算设备,该计算设备包括:处理器以及存储有计算机程序指令的存储器;
处理器执行计算机程序指令时实现如第一方面所示的数据处理方法。
第五方面,本申请实施例提供了一种计算机存储介质,计算机存储介质上存储有计算机程序指令,计算机程序指令被处理器执行时实现如第一方面所示的数据处理方法。
第六方面,本申请实施例提供了一种芯片,芯片包括处理器和通信接口,通信接口和处理器耦合,处理器用于运行程序或指令,实现如第一方面所示的数据处理方法。
第七方面,本申请实施例提供一种计算机程序产品,该程序产品被存储在存储介质中,该程序产品被至少一个处理器执行以实现如第一方面、所示的数据处理方法。
本申请实施例的数据处理方法、装置、计算机设备及存储介质,接收配置资源中心发送的包括目标插件标识的服务配置信息,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件,接着,通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。这样,通过在各资源池部署配置数据中心服务,以提供插件标识和数据配置插件的关联信息,从而根据多种类型目标插件标识,获取目标数据配置插件,通过目标数据配置插件在其资源池中确定待同步配置关系数据,并对其待同步配置关系数据进行内容序列化处理,得到标准化的描述事件数据,保证在对等网络中,各资源池可以通过各资源池的配置数据中心服务可以读取到其描述事件数据,以完成数据的实时同步与更新,实现了分布式的多点部署服务,避免了数据调度过程中掉点的问题。本申请实施例中与第一资源池所在的对等网络中的各个资源池配置中心服务均视为对等者,各资源池的资源池配置中心服务之间可以进行任务流转和数据同步,各资源池配置中心服务间的数据同步不依赖配置资源中心,如此,在单一或部分集群服务故障时,均不影响数据整体调度和可用性,从而保障通过各个资源池都可以获取到所需更新数据,提高数据调度效率。另外,各个资源池中的配置数据中心服务可以实时并发调用量自动实现配置数据中心服务的自动伸缩和弹性扩容,节省了数据同步与维护的人力成本,提高了跨资源池间配置数据中心服务同步的准确性、完整性和安全性。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单的介绍,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为一种数据调度的结构示意图;
图2为本申请实施例提供的一种数据处理***的结构示意图之一;
图3为本申请实施例提供的一种数据处理***的结构示意图之二;
图4为本申请实施例提供的一种数据处理方法的流程图;
图5为本申请实施例提供的一种数据处理方法中的界面示意图之一;
图6为本申请实施例提供的一种数据处理方法中的界面示意图之一;
图7是本申请一个实施例提供的一种数据处理装置的结构示意图;
图8是本申请一个实施例提供的计算机设备的结构示意图。
具体实施方式
下面将详细描述本申请的各个方面的特征和示例性实施例,为了使本申请的目的、技术方案及优点更加清楚明白,以下结合附图及具体实施例,对本申请进行进一步详细描述。应理解,此处所描述的具体实施例仅意在解释本申请,而不是限定本申请。对于本领域技术人员来说,本申请可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本申请的示例来提供对本申请更好的理解。
需要说明的是,在本文中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括……”限定的要素,并不排除在包括要素的过程、方法、物品或者设备中还存在另外的相同要素。
在相关技术中,如图1所示,配置资源中心建立中心数据库,用于保存全部的配置关系数据,各个分支的资源池(如大区资源池和省资源池集群)建立节点数据库,数据内容由中心数据库下发到各个分支的节点数据库。每当配置数据发生变化(新增、删除、替换)时,需要先更新中心数据库,在更新完成后调度数据库的快照同步功能或者依据更新条件准备脚本,将中心数据库更新的数据同步到各个节点数据库中,使得各个分支的资源池对应的用户端(如应用程序)查询其对应的节点数据库,以获取变化后的配置关系数据。
然而,上述涉及的中心数据库和节点数据库之间的数据同步方式,存在如下问题:依懒性强,中心数据库和节点数据库之间的数据同步是基于快照同步功能,当失去与快照同步功能对应的数据库的刷新功能后,会导致数据同步失败;容错性差,当数据同步失败后,需要重新进行数据刷新,此时,需要人工干预,否则会出现配置关联数据不一致导致业务交易失败的情况,很难保证数据一致性,降低数据调度效率;数据完整性差,由于各个资源池的应用分别依赖与其对应的本地节点数据库,若脚本无法准确地同步配置数据或者脚本输入很难对同步配置数据进行完整性检查,则会出现业务交易因为节点数据库的数据异常的问题,这样,不仅可以导致数据完整性差,还会影响业务效率;维护性差,随着越来越多的机器以及容器化,快照同步功能和脚本的维护复杂度高,需要有专门人员对刷新与同步快照进行操作,如此,在浪费人工资源的同时,也会增加数据同步的成本;扩展性弱,因为不同类型的数据库之间是无法互相进行交互的,配置关系数据只能存于一种固定的存储介质中,使得更换中心数据库或节点数据库的存储或者数据类型较为复杂,增加数据同步难度。
基于此,为了解决上述出现的问题,本申请实施例基于分布式与微服务技术,提供了一种数据自动跨资源池同步的数据处理方法,在该方法中,采用去中心化架构和对等网络,在各个资源池如大区资源池和省资源池的平台环境(Platform as a Service,PaaS)均部署高可用的集群式配置数据中心服务,各个资源池的配置数据中心服务之间通过对等网络进行数据的同步和交互。在对等网络中,各个资源池配置中心服务均视为对等者,各配置数据中心服务之间进行任务流转和数据同步不依赖配置资源中心。这样,单一或部分资源池的配置数据中心服务故障时,均不影响配置关系数据整体的调度和可用性,从而保障通过各个资源池都可以获取到所需数据,以便向其关联的用户端提供服务。另外,在部署配置数据中心服务后,配置资源中心接收到数据同步请求的情况下,配置资源中心可以向各个资源池发送服务配置信息,该服务配置信息可以包括服务标识、资源池信息、服务副本数量、同步时间、插件名称、插件配置、持久化配置等信息,接收该服务配置信息的资源池如第一资源池,根据服务配置信息启动目标数据配置插件,目标数据配置插件找到待同步配置关系数据的数据源进行数据加载,对加载完成后的待同步配置关系数据经过内容序列化处理得到描述事件数据,以及通过第一资源池中的持久化模块确定描述事件数据是否符合持久化数据的条件,若符合持久化数据的条件,再将描述事件数据分类存储。最后,与该资源池如第一资源池对应的用户端可以通过访问第一资源池的管理中心提供的连接接口(如Restful接口)或采用随航接口(Sidecar)获取与其相关的描述事件数据。当然,也可以通过第一资源池所在的对等网络,向该对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,以便将中心数据库更新的数据同步到各个节点数据库中。
本申请实施例基于上述内容,首先,结合图2,对本申请实施例提供的数据处理***进行说明。
如图2所示,数据处理***20可以包括配置资源中心201和至少一个资源池(如资源池1、资源池2、……、资源池N,N为大于1的整数)。其中,至少一个资源池中每个资源池中包括配置数据中心服务,至少一个资源池可以包括第一资源池。
配置资源中心,用于接收数据同步请求(如Http请求),并基于数据同步请求,生成服务配置信息,服务配置信息包括与数据同步请求对应的目标插件标识;以及,参考图3中虚线部分,向至少一个资源池发送服务配置信息,至少一个资源池包括第一资源池。其中,用户可以通过如图4所示的界面,配置数据同步请求,此时,用户可以在该配置数据同步请求中选择接收与数据同步请求对应的服务配置信息的资源池。
需要说明的是,在向至少一个资源池发送服务配置信息之前,配置资源中心201分别向每个资源池发送服务配置指令,该服务配置指令用于指示资源池根据服务配置指令携带的服务配置信息构建配置数据中心服务,该配置数据中心服务可以提供多种类型的插件标识和数据配置插件的关联信息,以及通过对等网络与该对等网络中的至少一个资源池进行交互,其中,交互的内容可以包括待同步配置关系数据对应的描述事件数据。示例性地,管理服务的工作人员可以通过如图5所示的界面,对各个资源池中的配置数据中心服务进行配置,并从其对应的界面中,浏览各资源池中配置数据中心服务的状态。
第一资源池,用于在接收到配置资源中心发送的服务配置信息的情况下,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;通过目标数据配置插件,获取待同步配置关系数据的数据源如(数据源A、数据源B和数据源C),基于其数据源,确定与服务配置信息对应的待同步配置关系数据;以及,参考图3中实线部分,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。这里,第一资源池所在的对等网络中包括的第二资源池,可以是与上述配置资源中心201相关联的资源池,即至少一个资源池包括该第二资源池,当然,也可以是未与配置资源中心201相关联的资源池。
需要说明的是,第一资源池中还可以包括至少一个订阅接口和统一配置数据调度程序(Unified configuration data scheduling,UCDS),UCDS程序可以提供UCDS Sidecar接口。基于此,除了可以向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令之外,还可以在确定待同步配置关系数据之后,通过UCDS对待同步配置关系数据进行内容序列化处理,得到描述事件数据,接着,将描述事件数据添加到第一资源池中的数据对象列表,这样,在接收到与第一资源池关联的至少一个用户端发送的数据订阅请求的情况下,通过订阅接口或UCDS Sidecar接口,向用户端发送数据对象列表中的描述事件数据,以便向其关联的用户端提供服务。
基于此,上述数据处理***具有以下优势,其一,多数据类型的兼容性,无需考虑不同的数据源是否可以进行交互,或者待同步配置关系数据是否持久化,该数据处理***可以对不同的数据源与数据类型进行统一管理;其二,低耦合的服务,服务中不同模块之间的耦合度极低,可以单独使用某一块或者将其中某一块用其他服务替换;其三,无状态的服务,只需稍微配置,即起即用,同时也方便高效的水平扩展,减少上游数据源负载压力;其四,高效通讯,通过MD5计算后进行数据比对,每次传输为MD5内容,只有发生实际变化后才进行实际的配置数据通讯,减少了每次数据同步的内容,提高了服务之间的通信效率;其五,高可读的数据与方便移植,数据序列化为标准JSON格式,并有对应名称命名,这样增强了数据的结构性,同时也使配置数据便于阅读,而且统一的JSON格式方便配置数据的搬迁。
其次,基于上述数据处理***,本申请实施例提供了一种数据处理方法、装置、设备及存储介质。下面将结合附图6,详细描述本申请实施例的数据处理方法、装置、设备及存储介质,应注意,这些实施例并不是用来限制本申请公开的范围。
下面结合图6对本申请实施例提供的数据处理方法进行详细说明。
图6为本申请实施例提供的一种数据处理方法的流程图。
如图6所示,该数据处理方法可以应用于如图2或图3所示的数据处理***中的任一资源池,具体地,可应用于第一资源池,该数据处理方法具体可以包括如下步骤:
步骤610,接收配置资源中心发送的服务配置信息,服务配置信息包括目标插件标识,服务配置信息由配置资源中心接收到的数据同步请求确定;步骤620,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;步骤630,通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据;步骤640,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。
由此,通过在各资源池部署配置数据中心服务,以提供插件标识和数据配置插件的关联信息,从而根据多种类型目标插件标识,获取目标数据配置插件,通过目标数据配置插件在其资源池中确定待同步配置关系数据,并对其待同步配置关系数据进行内容序列化处理,得到标准化的描述事件数据,保证在对等网络中,各资源池可以通过各资源池的配置数据中心服务可以读取到其描述事件数据,以完成数据的实时同步与更新,实现了分布式的多点部署服务,避免了数据调度过程中掉点的问题。本申请实施例中与第一资源池所在的对等网络中的各个资源池配置中心服务均视为对等者,各资源池的资源池配置中心服务之间可以进行任务流转和数据同步,各资源池配置中心服务间的数据同步不依赖配置资源中心,如此,在单一或部分集群服务故障时,均不影响数据整体调度和可用性,从而保障通过各个资源池都可以获取到所需更新数据,提高数据调度效率。另外,各个资源池中的配置数据中心服务可以实时并发调用量自动实现配置数据中心服务的自动伸缩和弹性扩容,节省了数据同步与维护的人力成本,提高了跨资源池间配置数据中心服务同步的准确性、完整性和安全性。
下面对上述步骤进行详细说明,具体如下所示。
首先,涉及步骤610,在一种或多种可能的实施例中,在配置资源中心在接收到数据同步请求的情况下,基于数据同步请求,生成并向与配置资源中心相关的任一资源池发送服务配置信息。基于此,任一资源池如第一资源池可以接收配置资源中心发送的服务配置信息。具体地,该服务配置信息可以包括目标插件标识和下述中的至少一种:服务标识、资源池信息、服务副本数量、同步时间、插件配置、持久化配置。
接着,涉及步骤620,在一种或多种可能的实施例中,第一资源池中包括预先配置的配置数据中心服务,基于此,可以通过配置数据中心服务调用预先存储的多种类型数据配置插件对应的插件标识和数据配置插件的关联信息,并基于插件标识和数据配置插件的关联信息,获取与目标插件标识。其中,目标插件标识用于唯一标识插件。
再者,涉及步骤630,在一种或多种可能的实施例中,该步骤630具体可以包括:
步骤6301,通过目标数据配置插件,读取服务配置信息中的插件配置信息,插件配置信息包括与服务配置信息对应的待同步配置关系数据的数据源;
步骤6302,对数据源的配置数据进行加载,得到待同步配置关系数据。
示例性地,可以通过第一资源池的配置数据中心服务启动目标数据配置插件,并通过目标数据配置插件读取服务配置信息找到对应的待同步配置关系数据的数据源,并对数据源中的待同步配置关系数据进行初次加载操作,得到待同步配置关系数据。其中,目标数据配置插件支持读取文件配置数据和调用数据源api接口两种方式获取数据源。
基于此,在一个示例中,在步骤6301之后,该数据处理方法还可以包括:
在通过目标数据配置插件未能读取到服务配置信息中的插件配置信息的情况下,通过第一资源池的配置数据中心服务,将数据源的异常状态信息发送到目标群组,目标群组包括处理异常状态信息的管理员帐户。
示例性地,当数据源故障或者无法通过目标数据配置插件读取到服务配置信息中的插件配置信息时,第一资源池可以自动将数据源的异常状态信息以指令的方式下达给告警巡检机器人,以便告警巡检机器人收到指令后,将数据源的异常状态信息分发到与业务相关的目标群组中,以便目标群组中处理异常状态信息的管理员帐户的管理员对其进行处理。
然后,涉及步骤640,在一种或多种可能的实施例中,在步骤640之前,该数据处理方法还可以包括:
通过目标数据配置插件,对待同步配置关系数据进行内容序列化处理,得到标准化封装后的描述事件数据,描述事件数据包括序列化后的待同步配置关系数据、待同步配置关系数据的数据类型和溯源信息。
示例性地,在初次加载完毕后,通过目标数据配置插件,对待同步配置关系数据进行内容序列化处理,即将待同步配置关系数据封装成标准化的描述事件数据(即CloudEvent数据),CloudEvent数据结构包括序列化后的待同步配置关系数据、待同步配置关系数据的数据类型(包括非关键和关键类型)和溯源信息(包括资源池信息、数据格式、数据id、数据类型、sha256值等)。
基于此,在另一种或多种可能的实施例中,在步骤640之前,该数据处理方法还可以包括:
将描述事件数据添加到第一资源池中的数据对象列表;
在接收到与第一资源池关联的至少一个用户端的数据订阅请求的情况下,向用户端发送数据对象列表中的描述事件数据。
示例性地,通过目标数据配置插件,将标准后的CloudEvent数据推送到第一资源池中的数据对象列表,以便内部服务(如与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务)和外部用户端从数据对象列表中获取相关的描述时间数据。
在又一种或多种可能的实施例中,待同步配置关系数据包含在第一资源池中的数据对象列表,基于此,在步骤640之前,该数据处理方法还可以包括:
步骤6501,获取数据对象列表中待同步配置关系数据的数据类型;
步骤6502,在数据类型表征为待同步配置关系数据为非关键类数据的情况下,确定与待同步配置关系数据对应的描述事件数据在数据对象列表中的存储时长是否超过预设阈值;
步骤6503,在描述事件数据在数据对象列表中的存储时长超过预设阈值、且待同步配置关系数据的压缩方式服务预设压缩方式的情况下,通过预设持久标签,对描述事件数据进行标记;
步骤6504,将标记后的描述事件数据存储到数据对象列表。
进一步地,在步骤6501之后,该数据处理方法还可以包括:
步骤6505,在数据类型表征为待同步配置关系数据为关键类数据的情况下,通过第一资源池中至少一种对称和非对称加密算法,对与待同步配置关系数据对应的描述事件数据进行加密;
步骤6506,获取与加密后的描述事件数据对应的持久标签,持久标签为UCDSID编码;
步骤6507,将具有UCDSID编码的、加密后的描述事件数据存储到数据对象列表。
示例性地,仍以上述步骤640中涉及的内容为例,对上述步骤6501至步骤6507进行示例性说明,具体如下所示:第一资源池设置有持久化模块,该持久化模块用于从数据对象列表中获取新增的CloudEvent数据,根据CloudEvent数据中的数据类型进行判断,持久化模块针对不同数据类型构建相应的持久化模型,持久化模块在读取到CloudEvent数据的数据类型为非关键类数据时,根据持久化模型中非关键类数据的持久化处理方式,对数据存储时长、压缩方式、清理机制进行管理,即将符合持久化条件的CloudEvent数据进行标记,并将标记后的描述事件数据存储到数据对象列表。反之,在读取到CloudEvent数据的数据类型为关键类数据时,关键类数据模型在基础持久化处理方式上,还提供了多种对称和非对称加密算法(或Sha256算法),对关键数据进行加密,同时,自动为关键类配置数据生成唯一的UCDSID编码,防止数据篡改。
基于此,第一资源池包括同步配置信息,同步配置信息包括下述中的至少一种:数据同步时间、同步操作类型、同步方式,该步骤640具体可以包括:
根据数据对象列表中具有持久标签的描述事件数据,生成同步指令;
按照同步配置信息,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
示例性地,配置资源中心可以预先为每个资源池中创建同步配置信息(Customresources),Custom resources包含数据同步时间、同步操作类型、同步方式等信息,基于此,资源池可以通过配置数据中心服务按照创建的Custom resources信息,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,即将第一资源池中符合持久条件的描述事件数据同步给对等网络中的其他资源池的配置数据中心服务上。
在再一种或多种可能的实施例中,在步骤640之前,该数据处理方法还可以包括:
接收对等网络中的至少一个第二资源池的配置数据中心服务发送的GRPC请求;
按照同步配置信息,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,包括:
通过广播的方式,按照同步配置信息向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
示例性地,在对等网络中,各资源池的配置数据中心服务之间可以通过gRPC请求方式进行数据通信,当有新的描述事件数据需要同步时,采用数据广播方式,完成当前资源池服务的数据同步更新。
由此,本申请实施例提供了一种基于各个资源池中的配置数据中心服务的数据处理方法,通过构建对等网络,在各资源池部署配置数据中心服务,提供多种类型数据配置插件,形成插件标识和数据配置插件的关联信息。配置资源中心根据服务配置数据找到对应的目标数据配置插件,由目标数据配置插件完成多数据源配置数据的加载,并将配置数据序列化为标准的CloudEvent数据,将CloudEvent数据实时推送到数据对象列表中,由持久化模块对待同步配置关系数据进行分类,针对非关键类数据和关键类数据建立不同的持久化流程。为了保证关键类数据的安全性和完整性,持久化模块为关键类配置数据进行基于Sha256算法的加密,并生成UCDSID编码作为配置数据的唯一标识。通过给资源池创建Custom resources,标准化数据同步待同步配置关系数据,保证在对等网络中,各资源池通过读取Custom resources,完成数据的实时同步与更新。以API接口和注入Sidecar为用户端提供配置数据共享方式,保证数据多渠道获取,同时,保证配置数据中心服务高可用,采用配置编号对数据内容进行区分,配置数据中心服务根据用户端实时并发调用量自动实现服务的自动伸缩和弹性扩容,节省了数据同步与维护的人力成本,提高了跨资源池间的待同步配置关系数据同步的准确性、完整性和安全性,规避了现有数据同步方式的短板。
综上,本申请实施例为了更好的说明上述涉及的数据处理方法,下面以一个具体的例子进行说明,具体如下所示。
首先,步骤S001,第一资源池接收配置资源中心发送的服务配置信息,其中,服务配置信息可以包括服务标识、资源池信息、服务副本数量、同步时间、目标插件标识、插件配置、持久化配置等信息。
接收,步骤S002,通过第一资源池中的配置数据中心服务,根据插件标识和数据配置插件的关联信息,检索与目标插件标识相应匹配的目标数据配置插件。
接着,步骤S003,通过第一资源池中的配置数据中心服务,启动S002中匹配到的目标数据配置插件,目标数据配置插件读取服务配置信息中的信息找到与服务配置信息对应的待同步配置关系数据的数据源,并对数据源的配置数据进行加载,得到待同步配置关系数据。其中,目标数据配置插件支持读取文件配置数据和调用数据源api接口两种方式寻找数据源。当数据源故障或者无法获取时,第一资源池中的配置数据中心服务可以自动将数据源异常状态信息以指令的方式下达给告警巡检机器人,告警巡检机器人收到指令后,可以将数据源异常状态信息分发到目标群组中。
再者,步骤S004,在得到待同步配置关系数据后,目标数据配置插件对待同步配置关系数据进行内容序列化操作,得到标准化封装后的描述事件数据,即将待同步配置关系数据封装成标准化的CloudEvent数据,CloudEvent数据结构包括序列化后的待同步配置关系数据、数据类型(包括非关键和关键类型)和溯源信息(包括资源池信息、数据格式、数据id、数据类型、sha256值等)。
随后,步骤S005,目标数据配置插件将标准后的CloudEvent数据推送到数据对象列表中,以便内部服务和外部用户端的数据订阅。
然后,步骤S006,通过第一资源池中的持久化模块实时到数据对象列表中获取新增的CloudEvent数据,根据CloudEvent数据中的数据类型进行判断,持久化模块针对不同数据类型构建相应的持久化模型,持久化模块在读取到CloudEvent数据的数据类型为非关键类数据时,根据持久化模型中非关键类数据的持久化处理方式,对数据存储时长、压缩方式、清理机制进行管理。在读取到CloudEvent数据的数据类型为关键类数据时,关键类数据模型在基础持久化处理方式上,还提供了多种对称和非对称加密算法,对关键数据进行加密,同时,自动为关键类配置数据生成唯一的UCDSID编码,防止数据篡改。
随后,步骤S007,结合图4所示,配置资源中心的管理员为每个资源池创建Customresources,Custom resources包含数据同步时间、同步操作类型、同步方式等信息,配置数据中心服务根据创建的Custom resources信息,将S006中本地持久后的描述事件数据同步给对等网络中的其他资源池服务上。在对等网络中,各资源池服务间通过gRPC请求方式进行数据通信,当有新的描述事件数据需要同步时,采用数据广播方式,完成当前资源池服务的配置数据同步更新。
随后,步骤S008-1,通过第一资源池中的配置数据中心服务完成数据同步后,当用户端通过本资源池中的配置数据中心服务提供的API接口进行贴源访问时,配置数据中心服务会从数据对象列表中进行数据的快速搜索或比对,并将匹配的结果返回给用户端应用,用户端采用数据订阅方式获取对应的待同步配置关系数据。同时,步骤S008-2,通过第一资源池中的配置数据中心服务根据用户端应用pod的annotations信息(包含应用id、应用名称),第一资源池中的配置数据中心服务自动给用户端应用pod添加Sidecarcontainer,用户端可以通过第一资源池中的配置数据中心服务注入的Sidecar服务来就近访问数据。同时,步骤S008-3,通过第一资源池中的配置数据中心服务是在多资源池分布式部署的,数据内容通过配置编号来进行区分,第一资源池中的配置数据中心服务根据用户端实时并发调用量自动增加、减少服务副本数量,进一步实现服务的自动伸缩和弹性扩容。
基于此,本申请实施例提供的数据处理方法具有如下效果:其一,数据自动同步,本申请实施例通过自定义配置数据的定时加载时间,可以保证数据的时效性,可配置自动定时执行无需管理员专人进行手动执行,无需管理员手动的对数据库进行快照刷新功能,并检查刷新同步结果;其二,具备可扩性,本申请实施例提供了插件式,可配置的不需要考虑数据源,也不需要考虑数据格式,无需依赖有数据快照刷新功能的数据库;其三,本申请实施例中采用集群式,容器化,微服务,托管式服务,避免并杜绝人为不定因素,无需管理员人为执行,减少很多人为不定因素;其四,容错能力,本申请实施例中集群式,容器化,微服务,托管式服务,可以有效减少人工操作,避免人力资源的浪费,降低数据处理成本;其五,负载均衡,本申请实施例有效对数据源就进行了分流处理,而且服务本身可前置各种软硬件负载均衡器,避免了依赖数据库性能;其六,高容错,本申请实施例提供的各个资源池之间处于低耦合,数据读取与数据访问相互独立互不影响,以及,集群化的管理对服务本身就提供了高性能,配置数据的独立性,配置数据相互独立,不会互相影响,避免了完全依赖数据库;其七,访问多样性,本申请实施例中Http请求方式相对于SQL更易于使用,REST协议同时也可直接导出,便于阅读,避免了只依赖数据的SQL查询功能的情况;其八,数据完整性,本申请实施例中采用sha256算法,为每个配置数据生成唯一的哈希值,保证了数据完整性,避免缺乏完整性校验;其九,数据安全性,本申请对于数据安全不仅提供多种对称和非对称加密算法,还为每个配置数据生成UCDSID编码,防止数据篡改,避免了缺乏安全性保障;其十,高可用,新的配置数据中心服务为无状态的,可以分布式的多点部署服务,这样避免了掉点的问题,完全可以让集群进行管理,这样保证了高可用性;其十一,数据传输力度弱化,通过比对MD5内容,可以将数据传输的访问量降低到最小,不用每次同步全量数据并逐一比对,只需要比对指定的配置名称的MD5值即可知道是否发生数据变化;其十二,负载降压,若全部应用访问数据源将对数据源服务进行大量高速的请求,这样会导致配置数据源过大使得资源池的客户机无法正常同步配置数据以致业务处理失败,而资源池访问配置资源中心,再由配置资源中心管理待同步配置关系数据,这样可以有效的对待同步配置关系数据进行负载降压。
另外,需要说明的是,采用跨资源池的统一配置数据调度方法后,数据同步方式从人工干预转型为自动化处理,降低了数据同步操作复杂度,节省了在数据同步上投入的人力成本和时间成本。同时,分布式配置数据中心服务具备高可用、可移植性强、数据同步效率高、数据安全性高,可在业务支撑***中推广使用。如此,解决了跨资源池间配置数据同步数据不一致、不完整、准确率低的问题,提高了跨资源池数据同步联动的灵活性、快速性和简易性。此外,本申请实施例提供的数据处理方法不仅能够通过提供配置数据源管理、配置数据序列化、配置数据持久化、数据自动定时同步能力和数据查询多元性,保证数据同步快速性、完整性和准确性,并通过Kubernetes的动态扩缩容、PVC、Custom ResourceDefinition等资源保证了配置中心服务的高可用、配置内容的统一、配置的一致性和统一管控等。
基于相同的发明构思,本申请还提供了一种数据处理装置。具体结合图7进行详细说明。
图7是本申请一个实施例提供的一种数据处理装置的结构示意图。
在本申请一些实施例中,图7所示数据处理装置可以设置于如图2或图3所示的数据处理***中的任一资源池,具体可以为第一资源池。
如图7所示,该数据处理装置70具体可以包括:
接收模块701,用于接收配置资源中心发送的服务配置信息,服务配置信息包括目标插件标识,服务配置信息由配置资源中心接收到的数据同步请求确定;
获取模块702,用于根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件;
确定模块703,用于通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据;
发送模块704,用于向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。
下面分别对本申请实施例中数据处理装置70进行详细说明。
在一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括读取模块和加载模块;其中,
读取模块,用于通过目标数据配置插件,读取服务配置信息中的插件配置信息,插件配置信息包括与服务配置信息对应的待同步配置关系数据的数据源;
加载模块,用于对数据源的配置数据进行加载,得到待同步配置关系数据。
在另一种或者多种可选的实施例中,发送模块704还可以用于,在通过目标数据配置插件未能读取到服务配置信息中的插件配置信息的情况下,通过第一资源池的配置数据中心服务,将数据源的异常状态信息发送到目标群组,目标群组包括处理异常状态信息的管理员帐户。
在又一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括处理模块;其中,
处理模块,用于通过目标数据配置插件,对待同步配置关系数据进行内容序列化处理,得到标准化封装后的描述事件数据,描述事件数据包括序列化后的待同步配置关系数据、待同步配置关系数据的数据类型和溯源信息。
在再一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括添加模块;其中,
添加模块,用于将描述事件数据添加到第一资源池中的数据对象列表;
发送模块704还可以用于,在接收到与第一资源池关联的至少一个用户端的数据订阅请求的情况下,向用户端发送数据对象列表中的描述事件数据。
在再一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括标记模块和第一存储模块;其中,
获取模块702具体可以用于,在描述事件数据包含在第一资源池中的数据对象列表的情况下,获取数据对象列表中待同步配置关系数据的数据类型;
确定模块703还可以用于,在数据类型表征为待同步配置关系数据为非关键类数据的情况下,确定与待同步配置关系数据对应的描述事件数据在数据对象列表中的存储时长是否超过预设阈值;
标记模块,用于在描述事件数据在数据对象列表中的存储时长超过预设阈值、且待同步配置关系数据的压缩方式服务预设压缩方式的情况下,通过预设持久标签,对描述事件数据进行标记;
存储模块,用于将标记后的描述事件数据存储到数据对象列表。
在再一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括加密模块和第二存储模块;其中,
加密模块,用于在数据类型表征为待同步配置关系数据为关键类数据的情况下,通过第一资源池中至少一种对称和非对称加密算法,对与待同步配置关系数据对应的描述事件数据进行加密;
获取模块702还用于,获取与加密后的描述事件数据对应的持久标签,持久标签为UCDSID编码;
第二存储模块,用于将具有UCDSID编码的、加密后的描述事件数据存储到数据对象列表。
在再一种或者多种可选的实施例中,本申请实施例中数据处理装置70还包括生成模块和第三发送模块;其中,
生成模块,用于在第一资源池包括同步配置信息,同步配置信息包括下述中的至少一种:数据同步时间、同步操作类型、同步方式的情况下,根据数据对象列表中具有持久标签的描述事件数据,生成同步指令;
第三发送模块,用于按照同步配置信息,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
在再一种或者多种可选的实施例中,接收模块701还用于,接收对等网络中的至少一个第二资源池的配置数据中心服务发送的GRPC请求;
本申请实施例中数据处理装置70还包括第四发送模块;其中,
第四发送模块,用于通过广播的方式,按照同步配置信息向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
由此,接收配置资源中心发送的包括目标插件标识的服务配置信息,根据插件标识和数据配置插件的关联信息,获取与目标插件标识对应的目标数据配置插件,接着,通过目标数据配置插件,确定与服务配置信息对应的待同步配置关系数据,向与第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,其中,数据同步指令包括描述事件数据,数据同步指令用于指示第二资源池的配置数据中心服务更新描述事件数据,描述事件数据由待同步配置关系数据经过内容序列化处理得到。这样,通过在各资源池部署配置数据中心服务,以提供插件标识和数据配置插件的关联信息,从而根据多种类型目标插件标识,获取目标数据配置插件,通过目标数据配置插件在其资源池中确定待同步配置关系数据,并对其待同步配置关系数据进行内容序列化处理,得到标准化的描述事件数据,保证在对等网络中,各资源池可以通过各资源池的配置数据中心服务可以读取到其描述事件数据,以完成数据的实时同步与更新,实现了分布式的多点部署服务,避免了数据调度过程中掉点的问题。本申请实施例中与第一资源池所在的对等网络中的各个资源池配置中心服务均视为对等者,各资源池的资源池配置中心服务之间可以进行任务流转和数据同步,各资源池配置中心服务间的数据同步不依赖配置资源中心,如此,在单一或部分集群服务故障时,均不影响数据整体调度和可用性,从而保障通过各个资源池都可以获取到所需更新数据,提高数据调度效率。另外,各个资源池中的配置数据中心服务可以实时并发调用量自动实现配置数据中心服务的自动伸缩和弹性扩容,节省了数据同步与维护的人力成本,提高了跨资源池间配置数据中心服务同步的准确性、完整性和安全性。
基于相同的发明构思,本申请还提供了一种计算机设备。具体结合图8进行详细说明。
图8是本申请一个实施例提供的计算机设备的结构示意图。
如图8所示,该计算机设备可以包括电子设备或服务器。其中,该计算机设备可以包括处理器801以及存储有计算机程序指令的存储器802。
具体地,上述处理器801可以包括中央处理器(CPU),或者特定集成电路(Application Specific Integrated Circuit,ASIC),或者可以被配置成实施本申请实施例的一个或多个集成电路。
存储器802可以包括用于数据或指令的大容量存储器。举例来说而非限制,存储器802可包括硬盘驱动器(Hard Disk Drive,HDD)、软盘驱动器、闪存、光盘、磁光盘、磁带或通用串行总线(Universal Serial Bus,USB)驱动器或者两个或更多个以上这些的组合。在合适的情况下,存储器802可包括可移除或不可移除(或固定)的介质。在合适的情况下,存储器802可在综合网关容灾设备的内部或外部。在特定实施例中,存储器802是非易失性固态存储器。在特定实施例中,存储器802包括固态存储(ROM)。在合适的情况下,该ROM可以是掩模编程的ROM、可编程ROM(PROM)、可擦除PROM(EPROM)、电可擦除PROM(EEPROM)、电可改写ROM(EAROM)或闪存或者两个或更多个以上这些的组合。
处理器801通过读取并执行存储器802中存储的计算机程序指令,以实现上述实施例中的任意一种数据处理方法。
在一个示例中,数据处理设备还可包括通信接口803和总线810。其中,如图8所示,处理器801、存储器802、通信接口803通过总线810连接并完成相互间的通信。
通信接口803,主要用于实现本申请实施例中各模块、装置、单元和/或设备之间的通信。
总线810包括硬件、软件或两者,将流量控制设备的部件彼此耦接在一起。举例来说而非限制,总线可包括加速图形端口(AGP)或其他图形总线、增强工业标准架构(EISA)总线、前端总线(FSB)、超传输(HT)互连、工业标准架构(ISA)总线、无限带宽互连、低引脚数(LPC)总线、存储器总线、微信道架构(MCA)总线、***组件互连(PCI)总线、PCI-Express(PCI-X)总线、串行高级技术附件(SATA)总线、视频电子标准协会局部(VLB)总线或其他合适的总线或者两个或更多个以上这些的组合。在合适的情况下,总线810可包括一个或多个总线。尽管本申请实施例描述和示出了特定的总线,但本申请考虑任何合适的总线或互连。
该数据处理设备可以执行本申请实施例中的数据处理方法,从而实现结合图2至图6描述的数据处理方法和装置。
另外,结合上述实施例中的数据处理方法,本申请实施例可提供一种计算机可读存储介质来实现。该计算机可读存储介质上存储有计算机程序指令;该计算机程序指令被处理器执行时实现上述实施例中的任意一种数据处理方法。
需要明确的是,本申请并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见,这里省略了对已知方法的详细描述。在上述实施例中,描述和示出了若干具体的步骤作为示例。但是,本申请的方法过程并不限于所描述和示出的具体步骤,本领域的技术人员可以在领会本申请的精神后,作出各种改变、修改和添加,或者改变步骤之间的顺序。
以上的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时,其可以例如是电子电路、专用集成电路(ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时,本申请的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中,或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、ROM、闪存、可擦除ROM(EROM)、软盘、CD-ROM、光盘、硬盘、光纤介质、射频(RF)链路,等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是,本申请中提及的示例性实施例,基于一系列的步骤或者装置描述一些方法或***。但是,本申请不局限于上述步骤的顺序,也就是说,可以按照实施例中提及的顺序执行步骤,也可以不同于实施例中的顺序,或者若干步骤同时执行。
以上,仅为本申请的具体实施方式,所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,上述描述的***、模块和单元的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。应理解,本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本申请的保护范围之内。
Claims (13)
1.一种数据处理方法,其特征在于,应用于第一资源池,包括:
接收配置资源中心发送的服务配置信息,所述服务配置信息包括目标插件标识,所述服务配置信息由所述配置资源中心接收到的数据同步请求确定;
根据插件标识和数据配置插件的关联信息,获取与所述目标插件标识对应的目标数据配置插件;
通过所述目标数据配置插件,确定与所述服务配置信息对应的待同步配置关系数据;
向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,所述数据同步指令包括描述事件数据,所述数据同步指令用于指示所述第二资源池的配置数据中心服务更新所述描述事件数据,所述描述事件数据由所述待同步配置关系数据经过内容序列化处理得到。
2.根据权利要求1所述的方法,其特征在于,所述通过所述目标数据配置插件,确定与所述服务配置信息对应的待同步配置关系数据,包括:
通过所述目标数据配置插件,读取所述服务配置信息中的插件配置信息,所述插件配置信息包括与所述服务配置信息对应的待同步配置关系数据的数据源;
对所述数据源的配置数据进行加载,得到所述待同步配置关系数据。
3.根据权利要求2所述的方法,其特征在于,所述通过所述目标数据配置插件,读取所述服务配置信息中的插件配置信息之后,所述方法还包括:
在通过所述目标数据配置插件未能读取到所述服务配置信息中的插件配置信息的情况下,通过所述第一资源池的配置数据中心服务,将所述数据源的异常状态信息发送到目标群组,所述目标群组包括处理所述异常状态信息的管理员帐户。
4.根据权利要求1所述的方法,其特征在于,所述向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令之前,所述方法还包括:
通过所述目标数据配置插件,对所述待同步配置关系数据进行内容序列化处理,得到标准化封装后的描述事件数据,所述描述事件数据包括序列化后的待同步配置关系数据、所述待同步配置关系数据的数据类型和溯源信息。
5.根据权利要求4所述的方法,其特征在于,所述向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令之前,所述方法还包括:
将所述描述事件数据添加到所述第一资源池中的数据对象列表;
在接收到与所述第一资源池关联的至少一个用户端的数据订阅请求的情况下,向所述用户端发送所述数据对象列表中的描述事件数据。
6.根据权利要求1所述的方法,其特征在于,所述描述事件数据存储在所述第一资源池中的数据对象列表;
所述向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令之前,所述方法还包括:
获取所述数据对象列表中所述待同步配置关系数据的数据类型;
在所述数据类型表征为所述待同步配置关系数据为非关键类数据的情况下,确定与所述待同步配置关系数据对应的描述事件数据在所述数据对象列表中的存储时长是否超过预设阈值;
在所述描述事件数据在所述数据对象列表中的存储时长超过预设阈值、且所述待同步配置关系数据的压缩方式服务预设压缩方式的情况下,通过预设持久标签,对所述描述事件数据进行标记;
将标记后的所述描述事件数据存储到所述数据对象列表。
7.根据权利要求6所述的方法,其特征在于,所述获取所述数据对象列表中所述待同步配置关系数据的数据类型之后,所述方法还包括:
在所述数据类型表征为所述待同步配置关系数据为关键类数据的情况下,通过所述第一资源池中至少一种对称和非对称加密算法,对与所述待同步配置关系数据对应的描述事件数据进行加密;
获取与加密后的描述事件数据对应的持久标签,所述持久标签为UCDSID编码;
将具有所述UCDSID编码的、加密后的描述事件数据存储到所述数据对象列表。
8.根据权利要求6或7所述的方法,其特征在于,所述第一资源池包括同步配置信息,所述同步配置信息包括下述中的至少一种:数据同步时间、同步操作类型、同步方式;
所述向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,包括:
根据所述数据对象列表中具有持久标签的描述事件数据,生成同步指令;
按照所述同步配置信息,向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
9.根据权利要求8所述的方法,其特征在于,所述按照所述同步配置信息,向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令之前,所述方法还包括:
接收所述对等网络中的至少一个第二资源池的配置数据中心服务发送的GRPC请求;
所述按照所述同步配置信息,向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令,包括:
通过广播的方式,按照所述同步配置信息,向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令。
10.一种数据处理***,其特征在于,包括:配置资源中心和至少一个资源池,所述至少一个资源池中每个资源池包括配置数据中心服务;其中,
所述配置资源中心,用于接收数据同步请求,并基于所述数据同步请求,生成服务配置信息,所述服务配置信息包括与所述数据同步请求对应的目标插件标识;以及,向所述至少一个资源池发送所述服务配置信息,所述至少一个资源池包括第一资源池;
所述第一资源池,用于在接收到所述配置资源中心发送的服务配置信息的情况下,根据插件标识和数据配置插件的关联信息,获取与所述目标插件标识对应的目标数据配置插件;通过所述目标数据配置插件,确定与所述服务配置信息对应的待同步配置关系数据;向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;
其中,所述数据同步指令包括描述事件数据,所述数据同步指令用于指示所述第二资源池的配置数据中心服务更新所述描述事件数据,所述描述事件数据由所述待同步配置关系数据经过内容序列化处理得到。
11.一种数据处理装置,其特征在于,所述装置包括:
接收模块,用于接收配置资源中心发送的服务配置信息,所述服务配置信息包括目标插件标识,所述服务配置信息由所述配置资源中心接收到的数据同步请求确定;
获取模块,用于根据插件标识和数据配置插件的关联信息,获取与所述目标插件标识对应的目标数据配置插件;
确定模块,用于通过所述目标数据配置插件,确定与所述服务配置信息对应的待同步配置关系数据;
发送模块,用于向与所述第一资源池所在的对等网络中的至少一个第二资源池的配置数据中心服务发送数据同步指令;其中,所述数据同步指令包括描述事件数据,所述数据同步指令用于指示所述第二资源池的配置数据中心服务更新所述描述事件数据,所述描述事件数据由所述待同步配置关系数据经过内容序列化处理得到。
12.一种计算机设备,所述计算设备包括:处理器以及存储有计算机程序指令的存储器;
所述处理器执行所述计算机程序指令时实现如权利要求1-9任意一项所述的数据处理方法。
13.一种存储介质,所述存储介质上存储有计算机程序指令,所述计算机程序指令被处理器执行时实现如权利要求1-9任意一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310150640.XA CN116150273A (zh) | 2023-02-16 | 2023-02-16 | 数据处理方法、装置、计算机设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202310150640.XA CN116150273A (zh) | 2023-02-16 | 2023-02-16 | 数据处理方法、装置、计算机设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN116150273A true CN116150273A (zh) | 2023-05-23 |
Family
ID=86355994
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202310150640.XA Pending CN116150273A (zh) | 2023-02-16 | 2023-02-16 | 数据处理方法、装置、计算机设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN116150273A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041044A (zh) * | 2023-08-23 | 2023-11-10 | 中电金信软件有限公司 | 网关配置方法、装置及*** |
-
2023
- 2023-02-16 CN CN202310150640.XA patent/CN116150273A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117041044A (zh) * | 2023-08-23 | 2023-11-10 | 中电金信软件有限公司 | 网关配置方法、装置及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11374826B2 (en) | Systems and methods for enhanced monitoring of a distributed computing system | |
US11088903B2 (en) | Hybrid cloud network configuration management | |
CN107431651B (zh) | 一种网络服务的生命周期管理方法及设备 | |
CN107800565B (zh) | 巡检方法、装置、***、计算机设备和存储介质 | |
CN108228814B (zh) | 数据同步方法及装置 | |
KR101998012B1 (ko) | 네트워크 서비스 기술자를 업데이트하기 위한 방법 및 장치 | |
CN113453213B (zh) | 一种鉴权数据同步方法及装置 | |
US20190363924A1 (en) | Bulk creation of managed functions in a network that includes virtualized network function | |
CN110289965B (zh) | 一种应用程序服务的管理方法及装置 | |
CN110166562B (zh) | 数据同步的方法、装置、存储介质和电子设备 | |
CN111510326A (zh) | 主从设备配置信息同步方法、***、终端设备及存储介质 | |
CN116150273A (zh) | 数据处理方法、装置、计算机设备及存储介质 | |
CN115562757A (zh) | 数据处理方法、配置中心***、电子设备及存储介质 | |
CN108733477B (zh) | 数据集群化处理的方法、装置及设备 | |
CN110798358B (zh) | 分布式服务标识方法、装置、计算机可读介质及电子设备 | |
CN108370329B (zh) | 管理功能对象的管理方法及装置 | |
CN109117152B (zh) | 服务生成***及方法 | |
CN112448909A (zh) | 电子锁管理方法、装置、***及存储介质 | |
CN115756877A (zh) | 资源同步方法、装置、设备及存储介质 | |
US20230048343A1 (en) | Correlation of a virtual machine to a host within a virtual domain | |
CN109542841A (zh) | 集群中创建数据快照的方法及终端设备 | |
CN115277707A (zh) | 业务处理方法、装置、电子设备和存储介质 | |
CN112416980B (zh) | 数据业务处理方法、装置及设备 | |
CN109472124B (zh) | 接口使用权限的匹配方法、装置、设备及介质 | |
FI20215764A1 (en) | Control and terminal device for charging electric vehicles |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |