CN113364857A - 业务数据的处理方法、装置和服务器 - Google Patents
业务数据的处理方法、装置和服务器 Download PDFInfo
- Publication number
- CN113364857A CN113364857A CN202110618128.4A CN202110618128A CN113364857A CN 113364857 A CN113364857 A CN 113364857A CN 202110618128 A CN202110618128 A CN 202110618128A CN 113364857 A CN113364857 A CN 113364857A
- Authority
- CN
- China
- Prior art keywords
- service data
- target
- module
- processing
- host
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 5
- 238000012545 processing Methods 0.000 claims abstract description 209
- 230000002093 peripheral effect Effects 0.000 claims abstract description 118
- 230000003993 interaction Effects 0.000 claims abstract description 89
- 238000000034 method Methods 0.000 claims abstract description 75
- 238000004891 communication Methods 0.000 claims description 40
- 238000012544 monitoring process Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 description 18
- 230000005540 biological transmission Effects 0.000 description 17
- 230000006870 function Effects 0.000 description 12
- 230000004044 response Effects 0.000 description 7
- 230000000903 blocking effect Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000007246 mechanism Effects 0.000 description 5
- 230000008901 benefit Effects 0.000 description 3
- 238000006243 chemical reaction Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 230000002159 abnormal effect Effects 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 239000002699 waste material Substances 0.000 description 2
- 108010001267 Protein Subunits Proteins 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 125000004122 cyclic group Chemical group 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005538 encapsulation Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 230000005055 memory storage Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000008520 organization Effects 0.000 description 1
- 230000000750 progressive effect Effects 0.000 description 1
- 238000007789 sealing Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/50—Network services
- H04L67/51—Discovery or management thereof, e.g. service location protocol [SLP] or web services
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/28—Databases characterised by their database models, e.g. relational or object models
- G06F16/284—Relational databases
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F9/00—Arrangements for program control, e.g. control units
- G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
- G06F9/46—Multiprogramming arrangements
- G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
- G06F9/5083—Techniques for rebalancing the load in a distributed system
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Software Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Computer And Data Communications (AREA)
Abstract
本说明书提供了业务数据的处理方法、装置和服务器。基于该方法,当***平台***完成对业务数据的第一处理,得到对应的目标业务数据后,***平台***可以先调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;再调用部署于***平台***的客户端模块根据目标报文和预设的交互规则,通过与主机外联模块、服务端模块进行相关交互;主机***可以通过部署于主机***的服务端模块较为高效地得到目标业务数据;并调用主机***上的目标作业及时地对目标业务数据进行第二处理。从而可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
Description
技术领域
本说明书属于大数据处理技术领域,尤其涉及业务数据的处理方法、装置和服务器。
背景技术
在一些大数据处理场景(例如,银行数据中心的海量金融交易数据处理场景)中,批量的业务数据往往会先由***平台***进行加工处理后,再交由较为核心的主机***进行进一步的加工处理。但是,考虑到数据安全、本身可用资源的限制,以及所使用码值的差异,主机***往往相对较为封闭,无法高效地与大部分的***平台***直接进行大量数据交互。
基于现有的业务数据的处理方法,主机***通常会通过约定业务数据的传输时间来定时与对应的***平台***进行相关业务数据的交互。具体的,***平台***会先完成业务数据的加工处理,再由主机***根据约定的传输时间,定时从***平台***取数。
但是,由于主机***对***平台***的处理情况是无法观测的,导致常常会出现到了约定的传输时间,主机***已经发起了取数作业,但***平台***还未完成业务数据的加工处理,从而对主机***与***平台***之间的数据交互的时效性和可靠性造成影响。
针对上述问题,目前尚未提出有效的解决方案。
发明内容
本说明书实施例提供了业务数据的处理方法、装置和服务器,可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
本说明书实施例提供了一种业务数据的处理方法,应用于***平台***,包括:
从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
在一些实施例中,预设的数据库包括Oracle数据库。
在一些实施例中,根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据,包括:
根据所述目标业务数据的处理记录表,调用callable异步线程,以批量处理的方式,从预设的数据库中多线程加载目标业务数据。
在一些实施例中,调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据,包括:
调用客户端模块基于预设的交互规则将所述目标报文发送至主机外联模块;其中,所述主机外联模块还基于预设的交互规则监测获取主机***的空闲作业参数;所述主机外联模块还根据主机***的空闲作业参数和目标报文,确定负责处理目标业务数据的主机***的目标作业;所述主机外联模块还对所述目标报文进行码值转换,并将转换后的目标报文提供给主机***的目标作业。
在一些实施例中,在调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据之后,所述方法还包括:
调用客户端模块通过主机外联模块接收主机***在对目标业务数据进行第二处理后所反馈的处理结果。
在一些实施例中,所述目标报文包括xml格式的报文。
本说明书实施例还提供了一种业务数据的处理方法,应用于主机外联模块,包括:
通过服务端模块获取主机***的空闲作业参数;其中,所述服务端模块部署于主机***;
在接收到客户端模块发送的目标报文的情况下,基于负载均衡算法,根据目标报文和主机***的空闲作业参数,确定出负责处理目标报文所对应的目标业务数据的主机***的目标作业;
根据预设的交互规则,将所述目标报文发送至主机***的目标作业。
在一些实施例中,根据预设的交互规则,将所述目标报文发送至主机***的目标作业,包括:
获取主机***的服务端模块的地址数据、端口参数,以及目标作业的作业标识;
根据所述服务端模块的地址数据、端口参数,建立与服务端模块的通信连接;
根据所述目标作业的作业标识,通过所述通信连接,将所述目标报文发送至主机***的目标作业。
在一些实施例中,所述主机外联模块与多个客户端模块、多个服务端模块相连。
本说明书实施例还提供了一种业务数据的处理方法,应用于主机***,包括:
通过服务端模块采集主机***的空闲作业参数,并将所述空闲作业参数发送至主机外联模块;其中,所述服务端模块部署于主机***;所述服务端模块与主机外联模块相连;
根据预设的交互规则,通过服务端模块接收主机外联模块发送的目标报文,并获取与所述目标报文对应的目标业务数据;
调用目标作业对所述目标业务数据进行第二处理。
本说明书实施例还提供了一种业务数据的处理装置,包括:
获取模块,用于从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
第一调用模块,用于根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
第二调用模块,用于调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
本说明书实施例还提供了一种服务器,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器执行所述指令时实现以下内容:从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
本说明书实施例还提供了一种计算机存储介质,其上存储有计算机指令,所述指令被执行时实现:从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
本说明书提供的一种业务数据的处理方法、装置和服务器,具体实施前,可以预先在***平台***侧部署客户端模块,在相对封闭的主机***侧部署服务端模块,并通过主机外联模块连接上述客户端模块和服务端模块;具体实施时,当***平台***完成对业务数据的第一处理,得到对应的目标业务数据后,***平台***可以先调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;再调用客户端模块根据目标报文和预设的交互规则,通过与主机外联模块、服务端模块进行相关交互;主机***可以通过服务端模块较为高效地得到目标业务数据;并调用目标作业及时地对目标业务数据进行第二处理。从而可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性,高效、稳定地完成对目标业务数据的第二处理。
附图说明
为了更清楚地说明本说明书实施例,下面将对实施例中所需要使用的附图作简单地介绍,下面描述中的附图仅仅是本说明书中记载的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动性的前提下,还可以根据这些附图获得其他的附图。
图1是应用本说明书实施例提供的业务数据的处理方法的***架构的组成的一个实施例的示意图;
图2是本说明书的一个实施例提供的业务数据的处理方法的流程示意图;
图3是本说明书的一个实施例提供的业务数据的处理方法的流程示意图;
图4是本说明书的一个实施例提供的业务数据的处理方法的流程示意图;
图5是本说明书的一个实施例提供的服务器的结构组成示意图;
图6是本说明书的一个实施例提供的业务数据的处理装置的结构组成示意图;
图7是在一个场景示例中,应用本说明书实施例提供的业务数据的处理方法的一种实施例的示意图;
图8是在一个场景示例中,应用本说明书实施例提供的业务数据的处理方法的一种实施例的示意图。
具体实施方式
为了使本技术领域的人员更好地理解本说明书中的技术方案,下面将结合本说明书实施例中的附图,对本说明书实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本说明书一部分实施例,而不是全部的实施例。基于本说明书中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都应当属于本说明书保护的范围。
本说明书实施例提供一种业务数据的处理方法,所述业务数据的处理方法具体可以应用于包含有多个主机***、多个***平台***的***架构中。具体可以参阅图1所示。
在本实施例中,所述***平台***具体可以包括一种应用于数据处理***一侧,能够实现数据传输,以及较为***的数据处理等功能的***处理***。具体的,所述***平台***例如可以为一个具有数据运算、存储功能以及网络交互功能的电子设备。或者,所述***平台***也可以为运行于该电子设备中,为数据处理、存储和网络交互提供支持的软件程序。在本实施例中,并不具体限定所述服务器的数量。所述***平台***具体可以为一个服务器,也可以为几个服务器,或者,由若干服务器形成的服务器集群。
在本实施例中,所述主机***具体可以包括一种应用于数据处理***一侧,能够实现数据传输,以及较为核心的数据处理等功能的核心处理***。具体的,上述主机***可以是大型的IBM主机。
在本实施例中,参阅图1所示,具体实施前,可以在多个***平台***(例如,***平台***1、***平台***2……***平台***N)中的各个***平台***侧分别部署相对应的客户端模块(例如,客户端模块1、客户端模块2……客户端模块N),在多个主机***(例如,主机***1、主机***2……主机***M)中的各个主机***侧分别部署相对应的服务端模块(例如,服务端模块1、服务端模块2……服务端模块M)。进一步,还可以在***架构中布设与多个客户端模块和多个服务器端模块通过有线或无线方式相连的主机外联模块(或者称主机外联平台)。
具体实施时,各个服务端模块可以根据预设的时间间隔(例如,20秒)采集所在的主机***的空闲作业参数。其中,上述空闲作业参数具体可以包括空闲作业的作业标识、空闲作业所支持的最大数据处理量、空闲作业的调用参数等信息数据。服务端模块可以根据预设的交互规则,将所采集到的主机***的空闲作业参数发送至主机外联模块。
相应的,主机外联模块可以通过服务端模块获取主机***的空闲参数,以对主机***的作业运行情况进行监测。
以多个***平台***中的任意一个***平台***(记为当前***平台***)为例。
当前***平台***对所接入的业务数据(例如,A银行的客户交易流水数据),执行为相对较***的第一处理(例如,统计A银行的客户交易总额和交易类型)之后,可以将处理得到的处理后的业务数据,作为目标业务数据(例如,A银行客户的交易数据统计结果)存储在预设的数据库(例如,Oracle数据库)中;同时,还可以在该预设的数据库中建立并保存目标业务数据的处理记录表。
接着,***平台***可以从预设的数据库中读取最新的目标业务数据的处理记录表;并根据该目标业务数据的处理记录表,通过调用预设的线程(例如,callable异步线程),以批量处理的方式,从预设的数据库中多线程加载目标业务数据;再根据该目标业务数据针对与该目标业务数据对应的目标报文。其中,上述目标报文具体可以携带有目标业务数据,以及目标业务数据的数据参数。所述数据参数具体可以包含有目标业务数据的数据标识、目标业务数据的数据量、目标业务数据的数据类型等等。
进一步,***平台***可以先调用客户端模块基于预设的交互规则,通过TCP协议等通信规则,以发送应答的机制将目标报文发送至主机外联模块。
主机外联模块在根据预设的交互规则接收到上述目标报文之后,可以先从目标报文中提取出目标业务数据的数据参数;再基于预设的负载均衡算法,根据目标业务数据的数据参数,以及各个主机***的空闲作业参数,从多个主机***中找到相匹配的主机***,并在该主机***所运行的多个作业中找到相匹配的目标作业,作为负责对该目标业务数据进行第二处理(例如,基于A银行客户的交易数据统计结果对于客户进行风险预测处理)主机***的目标作业。
同时,主机外联模块还可以通过查询,确定出主机***的目标作业所支持的数据格式(例如,数据码值);再对目标报文进行相应的码值转换,得到与主机***的目标作业相匹配的转换后的目标报文。
进一步,主机外联模块可以根据预设的交互规则,先获取主机***的服务端模块的端口参数、地址数据,以目标作业的作业标识;再根据服务端模块的地址数据、端口参数,建立主机外联模块与服务端模块之间的通信连接;进而可以根据目标作业的作业标识,通过该通信连接,将所述转换后的目标报文发送给主机***的目标作业。
在主机***一侧,主机***可以根据预设的交互规则,通过服务端模块接收主机外联模块所发送的转换后的目标报文;并通过解析该转换后的目标报文,获取待处理的目标业务数据,以及目标作业的作业标识。接着,主机***可以先根据目标作业的作业标识确定出负责处理该目标业务数据的目标作业,并检测该目标作业当前是否处于空闲状态。
在确定目标作业当前处于空闲状态的情况下,主机***可以直接调用该目标作业对目标业务数据进行第二处理,得到对应的处理结果。
然后,主机***可以根据预设的交互规则,通过调用客户端模块将该处理结果发送至主机外联模块;再由主机外联模块根据预设的交互规则,发送至相应的***平台***的客户端模块。从而可以使得***平台***可以高效地获取得到目标业务数据的处理结果,完成对所接入的业务数据的闭环处理。
在确定目标作业当前处于占用状态的情况下,主机***可以将该目标业务数据加入目标作业的处理队列中,以等待目标作业对该目标业务数据进行第二处理。
此外,有时主机***在解析转换后的目标报文的过程中,还可能获取得到目标业务数据的优先级标签。相应的,在确定目标作业当前处于占用状态的情况下,主机***还可以根据优先级标签,将该目标业务数据加入目标作业的处理队列中与该优先级标签对应的队列位置处,以便主机***的目标作业后续可以优先对该目标业务数据进行第二处理。
具体的,例如,在检测到目标业务数据的优先级标签的情况下,主机***可以先检测处理队列中排序最靠前的待处理业务数据的是否携带有优先级标签。
在检测到排序最靠前的待处理业务数据(可以记为业务数据1)没有携带优先级标签的情况下,可以将该目标业务数据设置在处理队列中位于业务数据1之前的队列位置处。
在检测到业务数据1携带有优先级标签的情况下,可以进一步比较业务数据1的优先级标签和目标业务数据的优先级标签。在确定目标业务数据的优先级标签所指示的优先级高于业务数据1的优先级标签所指示的优先级的情况下,可以将该目标业务数据设置在处理队列中位于业务数据1之前的队列位置处。
在确定目标业务数据的优先级标签所指示的优先级不高于业务数据1的优先级标签所指示的优先级的情况下,可以进一步检测处理队列中排序在业务数据1之后的业务数据2是否携带有优先级标签,以及在确定业务数据2携带有优先级标签的情况下,进一步将业务数据2的优先级标签与目标业务数据的优先级标签进行比较。
通过上述***架构,可以使得相对较为封闭,且可用资源较为有限的主机***能够更好地与***平台***进行数据交互,从而可以有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
参阅图2所示,本说明书实施例提供了一种业务数据的处理方法,其中,该方法具体应用于***平台***一侧。具体实施时,该方法可以包括以下内容:
S201:从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
S202:根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
S203:调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
通过上述实施例,引入并利用部署于***平台***侧的客户端模块、部署于主机***侧的服务端模块,以及连接客户端模块和服务端模块的主机外联模块,能够打破主机***侧由于可用资源有限、所使用的码值与***平台***存在差异等因素所导致的相对封闭带来的约束,使得主机***可以较为高效地获取来自***平台***的待处理的目标业务数据,并调用相匹配的目标作业及时地对该目标业务数据进行第二处理。从而可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
在一些实施例中,对应不同的应用场景,***平台***所接入的业务数据具体可以是不同类型的数据。具体的,例如,在交易数据处理场景中,上述业务数据可以是用户的交易订单等。又例如,在信用风险预测场景中,上述业务数据可以是用户的违约记录等。再例如,在健康检测场景中,上述业务数据可以是用户的身体的指标状态参数等等。当然,上述所列举的业务数据只是一种示意性说明。
在一些实施例中,上述***平台***具体负责对所接入的业务数据进行相对较为***的第一处理;上述主机***具体负责对经过第一处理后的业务数据进行相对较为核心的第二处理。
在一些实施例中,上述目标业务数据具体可以理解为一种已经经过***平台***的第一处理,当前需要主机***进行第二处理的业务数据。
在一些实施例中,具体实施时,***平台***可以先对所接入的业务数据进行第一处理,得到对应的处理后的业务数据。接着,***平台***可以将处理后的业务数据存储在预设的数据库中。同时,***平台***还可以在预设的数据库中,通过初始化日志和配置参数等操作,建立并保存关于该处理后的业务数据的处理记录表,以预设的数据库中的处理记录表进行更新。
在一些实施例中,***平台***可以持续对预设的数据库的处理记录表进行监测,在监测到预设的数据库中的处理记录表发生更新的情况下,可以出触发从预设的数据库中获最新的处理记录表,作为目标业务数据的处理记录表。
在一些实施例中,上述预设的数据库具体可以包括Oracle数据库等。当然,上述所列举的数据库只是一种示意性说明。具体实施时,根据具体的应用场景和处理需求,还可以使用诸如DB2、MySQL等其他类型的关系型数据库作为预设的数据库。
通过上述实施例,利用Oracle数据库等关系型数据库作为预设的数据库,可以较为高效地进行业务数据的存储,以及处理记录表的读取等数据处理,提高整体的处理效率。
在一些实施例中,上述根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据,具体实施时,可以包括以下内容:根据所述目标业务数据的处理记录表,调用callable异步线程,以批量处理的方式,从预设的数据库中多线程加载目标业务数据。
通过上述实施例,利用callable异步线程,可以较为高效、稳定的从预设的数据库中多线程加载得到所需要的目标业务数据。
在一些实施例中,在具体利用callable异步线程加载目标业务数据时,可以通过线程池,控制并发度进行多线程加载;并获取子线程返回值,写回数据库。这样可以有效地利用callable异步线程的优势,以阻塞地获得每个子线程的返回值,便于获取相应执行结果,并通过阻塞控制实现数据的闭环处理,保证数据加载过程的可靠、稳定。
在一些实施例中,在具体利用callable异步线程加载目标业务数据时,还可以通过循环加载方式,获取预设的数据库中的异常信息,以便及时地发现并处理相应的数据异常,进一步保证数据加载过程的可靠、稳定。
在一些实施例中,上述调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据,具体实施时,可以包括以下内容:调用客户端模块基于预设的交互规则将所述目标报文发送至主机外联模块;其中,所述主机外联模块还基于预设的交互规则监测获取主机***的空闲作业参数;所述主机外联模块还根据主机***的空闲作业参数和目标报文,确定负责处理目标业务数据的主机***的目标作业;所述主机外联模块还对所述目标报文进行码值转换,并将转换后的目标报文提供给主机***的目标作业。
通过上述实施例,可以调用客户端模块基于预设的交互规则,与主机外联模块、服务端模块进行涉及目标业务数据的数据交互,以将待进行第二处理的目标业务数据以目标报文的方式先从***平台***处通过客户端模块传输至主机外联模块;再在主机外联模块侧确定出具体负责处理该目标业务数据的且相匹配的主机***上的目标作业,并对该目标报文进行码值转换,得到主机***所支持的转换后的目标报文;进而主机外联模块可以通过服务端模块将转换后的目标报文提供给主机***的目标作业,以便可以及时地对与该目标报文对应的目标业务数据进行第二处理。从而可以有效地打破主机***的相对封闭性对数据交互的制约,提高处理目标业务数据的时效性和稳定性。
在一些实施例中,通常***平台***与主机***所支持的码值是不相同的,导致主机***往往无法直接读取使用***平台***直接提供的数据,影响***平台***与主机***之间的数据交互。因此,通过利用主机外联模块先对所接收到的来自***平台***的目标报文进行码值转换,得到主机***可以直接读取使用的转换后的目标报文,再将转换后的目标报文提供给主机***,从而可以进一步提高主机***与***平台***之间的数据交互效率。
在一些实施例中,在调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据之后,所述方法具体实施时,还可以包括以下内容:调用客户端模块通过主机外联模块接收主机***在对目标业务数据进行第二处理后所反馈的处理结果。
通过上述实施例,可以调用客户端模块基于预设的交互规则,与主机外联模块、服务端模块进行涉及目标业务数据的数据交互,打破主机***的相对封闭性对数据交互的制约,使得***平台***可以较为高效地获取得到主机***在对目标业务数据进行第二处理后所得到的处理结果。
在一些实施例中,所述目标报文具体可以包括xml格式的报文。相应的,主机外联模块可以根据TCP协议,将转换后的目标报文传输至部署于主机***侧的服务端模块,以实现***平台***与主机***之间设计目标业务数据的数据交互。
通过上述实施例,主机外联模块使用xml格式的目标报文,可以较为高效、可靠地将该目标报文传输至服务端模块。
其中,上述TCP协议具体可以是一种采用了发送应答机制的通信协议。即,基于TCP协议,发送方(例如,主机外联模块)所发送的每个TCP报文都必须得到接收方(例如,服务端模块)的应答才可以确定该TCP报文传输成功。
此外,上述TCP协议还是一种采用了超时重传机制的通信协议。即,基于TCP协议,发送方在发出一个TCP报文后会自动启动定时器进行计时,如果在阈值时间内未收到应答,则会触发重发该报文。
另外,由于TCP报文最终是以ip数据报文形式发送的,而ip数据报文到达接收方可能是乱序、重复的,基于TCP协议,还会对接收方所接收到的报文进行重新排列、整理等处理,再将处理后的报文交付给接收方的应用层。
由上可见,基于本说明书实施例提供的业务数据的处理方法,具体实施前,可以预先在***平台***侧部署客户端模块,在相对封闭的主机***侧部署服务端模块,并通过主机外联模块连接上述客户端模块和服务端模块;具体实施时,当***平台***完成对业务数据的第一处理,得到对应的目标业务数据后,***平台***可以先调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;再调用客户端模块根据目标报文和预设的交互规则,通过与主机外联模块、服务端模块进行相关交互;主机***可以通过服务端模块较为高效地得到目标业务数据;并调用目标作业及时地对目标业务数据进行第二处理。从而可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
参阅图3所示,本说明书实施例还提供了一种业务数据的处理方法。其中,该方法应用于主机外联模块一侧,具体实施时,可以包括以下内容:
S301:通过服务端模块获取主机***的空闲作业参数;其中,所述服务端模块部署于主机***;
S302:在接收到客户端模块发送的目标报文的情况下,基于负载均衡算法,根据目标报文和主机***的空闲作业参数,确定出负责处理目标报文所对应的目标业务数据的主机***的目标作业;
S303:根据预设的交互规则,将所述目标报文发送至主机***的目标作业。
通过上述实施例,主机外联模块可以实时监测主机***的空闲作业情况;并在接收到***平台***通过客户端发送的目标报文的情况下,根据负载均衡算法,准确地匹配出适合处理目标报文所对应的目标业务数据的主***上的目标作业;进而可以及时地将目标报文发送给主机***的目标作业,以便可以高效地对目标业务数据进行第二处理。
在一些实施例中,上述根据预设的交互规则,将所述目标报文发送至主机***的目标作业,具体实施时,可以包括以下内容:
S1:获取主机***的服务端模块的地址数据、端口参数,以及目标作业的作业标识;
S2:根据所述服务端模块的地址数据、端口参数,建立与服务端模块的通信连接;
S3:根据所述目标作业的作业标识,通过所述通信连接,将所述目标报文发送至主机***的目标作业。
通过上述实施例,主机外联模块可以根据预设的交互规则,高效且稳定地将目标报文提供给负责处理目标业务数据的主机***上的目标作业。
在通过所述通信连接,将所述目标报文发送至主机***的目标作业的过程中,主机外联模块还可以监测目标报文的发送状态;在根据目标报文的发送状态,确定已经将目标报文完整地发送至主机***时,可以关闭相应的通信连接。例如,可以及时地关闭socket连接。
在一些实施例中,所述主机外联模块具体可以与多个客户端模块、多个服务端模块相连。其中,每一个客户端模块对应部署于一个***平台***,每一个服务端模块对应部署于一个主机***。
相应的,主机外联模块可以同时对多个主机***的空闲作业参数进行实时监测;并且可以同时接入多个不同***平台***通过各自的客户端模块所传输的多个当前需要处理的目标报文。进一步,主机外联模块可以根据负载均衡算法,从多个主机***中确定出相匹配的合适的主机***上的目标作业来分别处理各个目标报文所对应的目标业务数据。
通过上述实施例,可以较好地适用于更加复杂的大数据处理场景,以便能够较为高效、稳定地对所接入的海量业务数据进行相应处理。
参阅图4所示,本说明书实施例还提供了一种业务数据的处理方法。其中,该方法应用于主机***一侧,具体实施时,可以包括以下内容:
S401:通过服务端模块采集主机***的空闲作业参数,并将所述空闲作业参数发送至主机外联模块;其中,所述服务端模块部署于主机***;所述服务端模块与主机外联模块相连;
S402:根据预设的交互规则,通过服务端模块接收主机外联模块发送的目标报文,并获取与所述目标报文对应的目标业务数据;
S403:调用目标作业对所述目标业务数据进行第二处理。
由上可见,基于本说明书实施例提供的业务数据的处理方法,可以有效地打破主机***的相对封闭性对数据交互的制约,使得主机***和***平台***可以通过与主机外联模块相连的客户端模块和服务端模块有效地进行相应的数据交互,从而可以高效、稳定地完成相关业务数据的数据处理,完成业务数据的闭环处理。
本说明书实施例还提供一种服务器,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器具体实施时可以根据指令执行以下步骤:从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
为了能够更加准确地完成上述指令,参阅图5所示,本说明书实施例还提供了另一种具体的服务器,其中,所述服务器包括网络通信端口501、处理器502以及存储器503,上述结构通过内部线缆相连,以便各个结构可以进行具体的数据交互。
其中,所述网络通信端口501,具体可以用于从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表。
所述处理器502,具体可以用于根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
所述存储器503,具体可以用于存储相应的指令程序。
在本实施例中,所述网络通信端口501可以是与不同的通信协议进行绑定,从而可以发送或接收不同数据的虚拟端口。例如,所述网络通信端口可以是负责进行web数据通信的端口,也可以是负责进行FTP数据通信的端口,还可以是负责进行邮件数据通信的端口。此外,所述网络通信端口还可以是实体的通信接口或者通信芯片。例如,其可以为无线移动网络通信芯片,如GSM、CDMA等;其还可以为Wifi芯片;其还可以为蓝牙芯片。
在本实施例中,所述处理器502可以按任何适当的方式实现。例如,处理器可以采取例如微处理器或处理器以及存储可由该(微)处理器执行的计算机可读程序代码(例如软件或固件)的计算机可读介质、逻辑门、开关、专用集成电路(Application SpecificIntegrated Circuit,ASIC)、可编程逻辑控制器和嵌入微控制器的形式等等。本说明书并不作限定。
在本实施例中,所述存储器503可以包括多个层次,在数字***中,只要能保存二进制数据的都可以是存储器;在集成电路中,一个没有实物形式的具有存储功能的电路也叫存储器,如RAM、FIFO等;在***中,具有实物形式的存储设备也叫存储器,如内存条、TF卡等。
本说明书实施例还提供了一种基于上述业务数据的处理方法的计算机存储介质,所述计算机存储介质存储有计算机程序指令,在所述计算机程序指令被执行时实现:从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
在本实施例中,上述存储介质包括但不限于随机存取存储器(Random AccessMemory,RAM)、只读存储器(Read-Only Memory,ROM)、缓存(Cache)、硬盘(Hard DiskDrive,HDD)或者存储卡(Memory Card)。所述存储器可以用于存储计算机程序指令。网络通信单元可以是依照通信协议规定的标准设置的,用于进行网络连接通信的接口。
在本实施例中,该计算机存储介质存储的程序指令具体实现的功能和效果,可以与其它实施方式对照解释,在此不再赘述。
参阅图6所示,在软件层面上,本说明书实施例还提供了一种业务数据的处理装置,该装置具体可以包括以下的结构模块:
获取模块601,具体可以用于从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
第一调用模块602,具体可以用于根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
第二调用模块603,具体可以用于调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
需要说明的是,上述实施例阐明的单元、装置或模块等,具体可以由计算机芯片或实体实现,或者由具有某种功能的产品来实现。为了描述的方便,描述以上装置时以功能分为各种模块分别描述。当然,在实施本说明书时可以把各模块的功能在同一个或多个软件和/或硬件中实现,也可以将实现同一功能的模块由多个子模块或子单元的组合实现等。以上所描述的装置实施例仅仅是示意性的,例如,所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,装置或单元的间接耦合或通信连接,可以是电性,机械或其它的形式。
由上可见,基于本说明书实施例提供的业务数据的处理装置,具体实施前,可以预先在***平台***侧部署客户端模块,在相对封闭的主机***侧部署服务端模块,并通过主机外联模块连接上述客户端模块和服务端模块;具体实施时,当***平台***完成对业务数据的第一处理,得到对应的目标业务数据后,***平台***可以先调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;再调用客户端模块根据目标报文和预设的交互规则,通过与主机外联模块、服务端模块进行相关交互;主机***可以通过服务端模块较为高效地得到目标业务数据;并调用目标作业及时地对目标业务数据进行第二处理。从而可以较为有效地提高***平台***与主机***之间数据交互的时效性和可靠性。
在一个具体的场景示例中,可以应用本说明书实施例所提供的业务数据的处理方法来实现银行业的***平台***与大型主机(IBM主机,即主机***)间基于文件形式的数据交互,并提高数据交互过程的时效性与稳定性。具体实施过程,可以参阅以下内容。
在本场景示例中,考虑可以在***平台***的文件处理模块,和大型主机之间增加中间模块,再通过TCP协议建立通信连接;并通过在中间模块增加部署于***平台***侧的文件处理、发送调度模块,在大型主机侧增加部署主机性能监控、调度模块;进而可以通过上述增加的模块实现数据消息的交互,以及主机作业执行的负载均衡,从而可以提升***平台***和大型主机间数据交互的时效性和稳定性。
在本场景示例中,具体可以采用以下技术实现:
1、关系型数据库,本场景示例中所使用的关系数据库,例如Oracle数据库,可以用于存储***平台***侧文件处理信息,以及外联模块的文件发送信息。
2、TCP通信技术,在本场景示例中,可以通过TCP协议实现***平台***与大型主机间的通信。因为TCP协议是较为可靠的:首先,TCP协议采用发送应答机制,即发送端发送的每个TCP报文都必须得到接收方的应答才认为这个TCP报文段传输成功;其次,TCP协议采用超时重传机制,发送端在发出一个TCP报文段后启动定时器,如果在定时时间内未收到应答,它将重发该报文段;最后,因为TCP报文段最终以ip数据报文发送的,而ip数据报到达接收端可能乱序、重复,所以TCP协议还会对接收到的报文段重新排列、整理,再交付给应用层。
3、配置中心技术,可以实现将各模块实现配置化,比如文件信息、通信状态码、主机指令信息、主机作业处理状态码等。
4、多线程异步调度技术,本场景示例可以通过利用callable接口,使用多线程技术异步的调起发送报文作业。在本场景示例中使用callable多线程模型是因为,callable接口的任务线程能返回执行接口,即每次发送的反馈结果,这样有利于获取到有效的返回状态码。通常callable接口支持返回执行结果,此时需要调用FutureTask.get()方法实现,此方法会阻塞线程直到获取“将来”的结果,当不调用此方法时,主线程不会阻塞。当发送失败,并经过一定次数的重试后,视为发送失败,通过异常发送模块,即时发送消息发送异常信息。
具体可以参阅图7所示。
***平台***通常是存在多个文件处理接口,并且接口间是通过串行的方式进行处理。***平台***,如果通过串行的方式向大型主机传输文件,容易引起批量阻塞、业务延迟等问题。为了解决平台文件串行调用主机接口的问题提升时效性,在***平台***处理完成后,增加批量调度单元,具体实施过程包括以下内容:
S1:初始化模块的数据库连接,日志模块,外联模块配置等单元。
S2:从Oracle数据库中读取指定条数的新增文件处理记录。
S3:通过callable异步线程,从数据库加载文件发送信息到外联程序文件发送模块(本发明使用的数据库结构如图3)通过线程池,控制并发度,并获取子线程返回值,写回数据库。可以参阅图8所示。
其中,上述callable方式最主要的优点是:可以阻塞地获得每个子线程的返回值,方便从外联模块获取主机作业的执行结果,并通过阻塞控制发送闭环。
S4:通过循环加载数据库中的异常发送信息,及时处理异常。
由于大型主机码值,***结构等限制,无法直接大型主机侧部署平台侧程序。外联程序客户端通过组织发送xml报文进行tcp通信发送到外联程序服务端,进而实现与大型主机的通信。***平台调度模块内部,实现了对发送主机作业的封装,通过获取***调度模块输入的文件传输批量信息作为“指令”,并封装了通信模块,实现向主机侧处理模块发送消息。
具体实施过程可以包括以下内容:
S1:加载配置、日志模块。
S2:获取***平台输入的参数,组装xml,转换码值。
S3:与服务端建立连接(通过IP和端口号确定主机上的程序)。
S4:向服务端发送请求报文,接收服务器数据。
S5:关闭socket连接。
在外联程序主机侧服务端(例如,服务端模块),具体实施时,可以包括以下内容:
S1:与***平台侧通信,监听主机报文请求。
S2:监控主机文件处理作业情况。
S3:处理***平台发送的批量报文,将平台侧文件处理请求交给空闲的主机作业实现负载均衡,通过平台侧的报文消息调起大型主机文件处理作业。当主机作业满时,之后的报文进入等待队列。
S4:将主机执行指令结果,发挥平台侧实现文件传输流程的闭环。
在本场景示例中,利用主机外联(例如,主机外联模块)侧,可以调度多个平台(多个客户端)请求,并转化为主机能处理的格式,发送给大型主机,并且获取大型主机反馈的处理结果,从而可以打破平台-主机间较为被动、封闭的传统数据交互模式。
通过上述场景示例,可以验证本说明书实施例提供的业务数据的处理方法,可以有效的克服了传统银行文件传输***中,由于大型主机的封闭性导致的***平台与大型主机间文件交互时效性低的问题,解决了由主机***封闭性造成的通信障碍。同时克服了传统银行文件交互***下,***平台***与大型主机间响应延迟的问题。进而提出了一种新型的平台-主机文件交互模型。
具体应用时,还具有以下优点:1)实现平台侧消息加载模块,******文件加工完成后,实时加入消息队列,避免了传输等待,提升了时效性。2)增加批量信息调度单元,实现批量信息的统一调度。具体的,平台侧主动发送报文,避免主机轮询取数可能造成的无效作业和重试造成的资源浪费,同时保障了批量的闭环。使得***平台***作为单一的文件处理单元,避免了***平台侧的串行调度,可能引起的批量阻塞。同时通过******侧的文件处理调度,提升了发起传输速度,进而提升了文件传输时效性。具体的,平台侧加工完数据后,立即产生报文,通过主机外联侧调度报文的发送。3)通过外联程序服务端,实现了***平台对大型主机处理作业的监控。实现了***平台***与大型主机间的通信;同时通过调度模块实现了大型主机处理作业的负载均衡,提升的主机资源的利用率,也有效的提升了批量的时效性,可以避免无效尝试造成的资源浪费。4)通过监控大型主机处理作业状态,避免了传输失败的风险,减少了失败尝试引起的传输延迟,提升了文件传输时效性。具体的,通过监控性能,实现均衡调度主机作业。
虽然本说明书提供了如实施例或流程图所述的方法操作步骤,但基于常规或者无创造性的手段可以包括更多或者更少的操作步骤。实施例中列举的步骤顺序仅仅为众多步骤执行顺序中的一种方式,不代表唯一的执行顺序。在实际中的装置或客户端产品执行时,可以按照实施例或者附图所示的方法顺序执行或者并行执行(例如并行处理器或者多线程处理的环境,甚至为分布式数据处理环境)。术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、产品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、产品或者设备所固有的要素。在没有更多限制的情况下,并不排除在包括所述要素的过程、方法、产品或者设备中还存在另外的相同或等同要素。第一,第二等词语用来表示名称,而并不表示任何特定的顺序。
本领域技术人员也知道,除了以纯计算机可读程序代码方式实现控制器以外,完全可以通过将方法步骤进行逻辑编程来使得控制器以逻辑门、开关、专用集成电路、可编程逻辑控制器和嵌入微控制器等的形式来实现相同功能。因此这种控制器可以被认为是一种硬件部件,而对其内部包括的用于实现各种功能的装置也可以视为硬件部件内的结构。或者甚至,可以将用于实现各种功能的装置视为既可以是实现方法的软件模块又可以是硬件部件内的结构。
本说明书可以在由计算机执行的计算机可执行指令的一般上下文中描述,例如程序模块。一般地,程序模块包括执行特定任务或实现特定抽象数据类型的例程、程序、对象、组件、数据结构、类等等。也可以在分布式计算环境中实践本说明书,在这些分布式计算环境中,由通过通信网络而被连接的远程处理设备来执行任务。在分布式计算环境中,程序模块可以位于包括存储设备在内的本地和远程计算机存储介质中。
通过以上的实施例的描述可知,本领域的技术人员可以清楚地了解到本说明书可借助软件加必需的通用硬件平台的方式来实现。基于这样的理解,本说明书的技术方案本质上可以以软件产品的形式体现出来,该计算机软件产品可以存储在存储介质中,如ROM/RAM、磁碟、光盘等,包括若干指令用以使得一台计算机设备(可以是个人计算机,移动终端,服务器,或者网络设备等)执行本说明书各个实施例或者实施例的某些部分所述的方法。
本说明书中的各个实施例采用递进的方式描述,各个实施例之间相同或相似的部分互相参见即可,每个实施例重点说明的都是与其他实施例的不同之处。本说明书可用于众多通用或专用的计算机***环境或配置中。例如:个人计算机、服务器计算机、手持设备或便携式设备、平板型设备、多处理器***、基于微处理器的***、置顶盒、可编程的电子设备、网络PC、小型计算机、大型计算机、包括以上任何***或设备的分布式计算环境等等。
虽然通过实施例描绘了本说明书,本领域普通技术人员知道,本说明书有许多变形和变化而不脱离本说明书的精神,希望所附的权利要求包括这些变形和变化而不脱离本说明书的精神。
Claims (13)
1.一种业务数据的处理方法,其特征在于,应用于***平台***,包括:
从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
2.根据权利要求1所述的方法,其特征在于,预设的数据库包括Oracle数据库。
3.根据权利要求2所述的方法,其特征在于,根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据,包括:
根据所述目标业务数据的处理记录表,调用callable异步线程,以批量处理的方式,从预设的数据库中多线程加载目标业务数据。
4.根据权利要求3所述的方法,其特征在于,调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据,包括:
调用客户端模块基于预设的交互规则将所述目标报文发送至主机外联模块;其中,所述主机外联模块还基于预设的交互规则监测获取主机***的空闲作业参数;所述主机外联模块还根据主机***的空闲作业参数和目标报文,确定负责处理目标业务数据的主机***的目标作业;所述主机外联模块还对所述目标报文进行码值转换,并将转换后的目标报文提供给主机***的目标作业。
5.根据权利要求1所述的方法,其特征在于,在调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据之后,所述方法还包括:
调用客户端模块通过主机外联模块接收主机***在对目标业务数据进行第二处理后所反馈的处理结果。
6.根据权利要求1所述的方法,其特征在于,所述目标报文包括xml格式的报文。
7.一种业务数据的处理方法,其特征在于,应用于主机外联模块,包括:
通过服务端模块获取主机***的空闲作业参数;其中,所述服务端模块部署于主机***;
在接收到客户端模块发送的目标报文的情况下,基于负载均衡算法,根据目标报文和主机***的空闲作业参数,确定出负责处理目标报文所对应的目标业务数据的主机***的目标作业;
根据预设的交互规则,将所述目标报文发送至主机***的目标作业。
8.根据权利要求7所述的方法,其特征在于,根据预设的交互规则,将所述目标报文发送至主机***的目标作业,包括:
获取主机***的服务端模块的地址数据、端口参数,以及目标作业的作业标识;
根据所述服务端模块的地址数据、端口参数,建立与服务端模块的通信连接;
根据所述目标作业的作业标识,通过所述通信连接,将所述目标报文发送至主机***的目标作业。
9.根据权利要求7所述的方法,其特征在于,所述主机外联模块与多个客户端模块、多个服务端模块相连。
10.一种业务数据的处理方法,其特征在于,应用于主机***,包括:
通过服务端模块采集主机***的空闲作业参数,并将所述空闲作业参数发送至主机外联模块;其中,所述服务端模块部署于主机***;所述服务端模块与主机外联模块相连;
根据预设的交互规则,通过服务端模块接收主机外联模块发送的目标报文,并获取与所述目标报文对应的目标业务数据;
调用目标作业对所述目标业务数据进行第二处理。
11.一种业务数据的处理装置,其特征在于,包括:
获取模块,用于从预设的数据库中获取目标业务数据的处理记录表;其中,***平台***在对所接入的业务数据进行第一处理后,将处理后的业务数据存储在预设的数据库中,并在预设的数据库中建立处理后的业务数据的处理记录表;
第一调用模块,用于根据所述目标业务数据的处理记录表,调用预设的线程,从预设的数据库中多线程加载目标业务数据;并根据所加载的目标业务数据生成对应的目标报文;
第二调用模块,用于调用客户端模块根据所述目标报文和预设的交互规则,通过与主机外联模块、服务端模块交互,以向主机***提供待进行第二处理的目标业务数据;其中,所述客户端模块部署于***平台***;所述服务端模块部署于主机***;所述客户端模块与所述服务端模块之间通过主机外联模块相连。
12.一种服务器,其特征在于,包括处理器以及用于存储处理器可执行指令的存储器,所述处理器执行所述指令时实现权利要求1至6,7至9,10中任一项所述方法的步骤。
13.一种计算机存储介质,其特征在于,其上存储有计算机指令,所述指令被执行时实现权利要求1至6,7至9,10中任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110618128.4A CN113364857A (zh) | 2021-06-03 | 2021-06-03 | 业务数据的处理方法、装置和服务器 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202110618128.4A CN113364857A (zh) | 2021-06-03 | 2021-06-03 | 业务数据的处理方法、装置和服务器 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN113364857A true CN113364857A (zh) | 2021-09-07 |
Family
ID=77531836
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202110618128.4A Pending CN113364857A (zh) | 2021-06-03 | 2021-06-03 | 业务数据的处理方法、装置和服务器 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113364857A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114553861A (zh) * | 2022-02-22 | 2022-05-27 | 中国工商银行股份有限公司 | 文件传输方法及装置、存储介质和电子设备 |
CN116431742A (zh) * | 2023-06-09 | 2023-07-14 | 合肥青谷信息科技有限公司 | 一种大数据量的业务数据加工方法、装置及电子设备 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101719153A (zh) * | 2009-12-09 | 2010-06-02 | 中国工商银行股份有限公司 | 对海量数据文件进行传输处理的装置及方法 |
CN104320482A (zh) * | 2014-11-04 | 2015-01-28 | 中国银行股份有限公司 | 一种银行柜员前端*** |
US20180321983A1 (en) * | 2017-05-05 | 2018-11-08 | Cavium, Inc. | Method and apparatus for job pre-scheduling by distributed job manager in a digital multi-processor system |
CN109344153A (zh) * | 2018-08-22 | 2019-02-15 | 中国平安人寿保险股份有限公司 | 业务数据的处理方法及终端设备 |
-
2021
- 2021-06-03 CN CN202110618128.4A patent/CN113364857A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101719153A (zh) * | 2009-12-09 | 2010-06-02 | 中国工商银行股份有限公司 | 对海量数据文件进行传输处理的装置及方法 |
CN104320482A (zh) * | 2014-11-04 | 2015-01-28 | 中国银行股份有限公司 | 一种银行柜员前端*** |
US20180321983A1 (en) * | 2017-05-05 | 2018-11-08 | Cavium, Inc. | Method and apparatus for job pre-scheduling by distributed job manager in a digital multi-processor system |
CN109344153A (zh) * | 2018-08-22 | 2019-02-15 | 中国平安人寿保险股份有限公司 | 业务数据的处理方法及终端设备 |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114553861A (zh) * | 2022-02-22 | 2022-05-27 | 中国工商银行股份有限公司 | 文件传输方法及装置、存储介质和电子设备 |
CN114553861B (zh) * | 2022-02-22 | 2024-03-08 | 中国工商银行股份有限公司 | 文件传输方法及装置、存储介质和电子设备 |
CN116431742A (zh) * | 2023-06-09 | 2023-07-14 | 合肥青谷信息科技有限公司 | 一种大数据量的业务数据加工方法、装置及电子设备 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9015731B2 (en) | Event handling system and method | |
CN110049113A (zh) | 业务消息处理方法及装置 | |
CN111447102B (zh) | Sdn网络设备访问方法、装置、计算机设备及存储介质 | |
CN110825535A (zh) | 一种作业调度的方法和*** | |
CN112766907A (zh) | 业务数据的处理方法、装置和服务器 | |
CN113364857A (zh) | 业务数据的处理方法、装置和服务器 | |
US10360064B1 (en) | Task scheduling, execution and monitoring | |
US20170085512A1 (en) | Generating message envelopes for heterogeneous events | |
CN112313627B (zh) | 事件到无服务器函数工作流实例的映射机制 | |
US9973306B2 (en) | Freshness-sensitive message delivery | |
US10489179B1 (en) | Virtual machine instance data aggregation based on work definition metadata | |
US9026839B2 (en) | Client based high availability method for message delivery | |
CN111124801B (zh) | 智能化***资源监控方法、装置及计算机可读存储介质 | |
CN114371935A (zh) | 网关处理方法、网关、设备及介质 | |
CN112068963B (zh) | 一种嵌入式***分布式调度*** | |
CN112039985B (zh) | 一种异构云管理方法及*** | |
CN115499493A (zh) | 异步事务处理方法、装置、存储介质及计算机设备 | |
CN113535368B (zh) | 任务处理方法、装置和电子设备 | |
CN110569178A (zh) | 基于大数据平台的接口预警方法和*** | |
CN111737274B (zh) | 交易数据的处理方法、装置和服务器 | |
CN116775231A (zh) | 业务处理方法、业务处理装置、电子设备和存储介质 | |
CN114168626A (zh) | 一种数据库操作的处理方法、装置、设备及介质 | |
US10733002B1 (en) | Virtual machine instance data aggregation | |
CN115348321B (zh) | 一种基于流量控制的数据获取方法及相关装置 | |
US20230195504A1 (en) | Systems and methods for resolving interdependencies between user interfaces in a domain driven design microservice architecture |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210907 |