CN107295087B - 一种实现网系间数据聚合的***及方法 - Google Patents
一种实现网系间数据聚合的***及方法 Download PDFInfo
- Publication number
- CN107295087B CN107295087B CN201710512510.0A CN201710512510A CN107295087B CN 107295087 B CN107295087 B CN 107295087B CN 201710512510 A CN201710512510 A CN 201710512510A CN 107295087 B CN107295087 B CN 107295087B
- Authority
- CN
- China
- Prior art keywords
- data
- module
- network system
- acquired
- informationized
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/17—Details of further file system functions
- G06F16/176—Support for shared access to files; File sharing support
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
- G06F16/1824—Distributed file systems implemented using Network-attached Storage [NAS] architecture
- G06F16/183—Provision of network file services by network file servers, e.g. by using NFS, CIFS
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Transfer Between Computers (AREA)
Abstract
本发明提供了一种实现网系间数据聚合的***及方法,应用于包括有一个主网系和至少一个从网系的信息化***,该***包括:分别设置于每一个应用服务器上的数据采集模块;分别设置于每一个从网系中的数据传输模块;设置于主网系中的数据共享模块;每一个数据采集模块,从所在的应用服务器上采集信息化数据;每一个数据传输模块,用于获取其所在的从网系中各个数据采集模块采集到的信息化数据并发送给数据共享模块;数据共享模块,用于获取主网系中各个数据采集模块采集到的信息化数据,以及接收来自各个数据传输模块发送的信息化数据,并将获取和接收到的信息化数据存储到主网系中的存储空间。本方案能够将不同网系包括的信息化数据聚合到一起。
Description
技术领域
本发明涉及计算机技术领域,特别涉及一种实现网系间数据聚合的***及方法。
背景技术
人民法院是国家的审判机关,依法独立行使审判权,对刑事、民事、经济、行政等案件进行审判,人民法院的工作关系社会各方面的公平、公正和社会的稳定。由于人民法院工作的重要性,人民法院的工作对应用***、数据库、基础设施、安全防护等的稳定、安全、效率和故障恢复都具有严格的要求。为了保证法院的工作能够安全、高效的进行,法院的信息化***通常包括多个网系,各个网系之间物理隔离。
由于法院的信息化***中各个网系之间物理隔离,各网系之间信息化数据无法进行交互,从而无法将不同网系包括的信息化数据聚合到一起,不利于对法院的信息化***的运行状体进行整体的监控。
发明内容
本发明实施例提供了实现网系间数据聚合的***及方法,能够将不同网系包括的信息化数据聚合到一起。
本发明实施例提供了一种实现网系间数据聚合的***,应用于包括有一个主网系和至少一个从网系的信息化***,包括:
分别设置于每一个应用服务器上的数据采集模块,其中,所述主网系和每一个所述从网系均包括至少一个所述应用服务器;
分别设置于每一个所述从网系中的数据传输模块;
设置于所述主网系中的数据共享模块;
每一个所述数据采集模块,用于根据接收到的指标参数,从所在的所述应用服务器上采集信息化数据;
每一个所述数据传输模块,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,并将获取到的所述信息化数据发送给所述数据共享模块;
所述数据共享模块,用于获取所述主网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,以及接收来自各个所述数据传输模块发送的所述信息化数据,并将获取和接收到的所述信息化数据存储到所述主网系中的存储空间。
可选地,
该***进一步包括:后台控制模块;
所述后台控制模块,用于根据外部的触发,分别形成对应于每一个所述数据采集模块的所述指标参数,并将所形成的所述指标参数发送给对应的所述数据采集模块。
可选地,
每一个所述数据传输模块包括:关系型数据传输单元、文件传输单元和消息队列单元;
所述关系型数据传输单元,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的结构化信息化数据,并将获取到的所述结构化信息化数据发送给所述消息队列单元;
所述文件传输单元,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的非结构化信息化数据,并将获取到的所述非结构化信息化数据发送给所述消息队列单元;
所述消息队列单元,用于通过消息队列的方式将来自所述关系型数据传输单元的所述结构化信息化数据和来自所述文件传输单元的所述非结构化信息化数据发送给所述数据共享模块。
可选地,
所述数据共享模块包括:数据整合单元和所述数据存储单元;
所述数据整合单元,用于对所述获取和接收到的所述信息化数据进行标准化处理和标签化处理;
所述数据存储单元,用于将经过所述数据整合单元处理的所述信息化数据存储到所述存储空间。
可选地,
所述数据存储单元,用于根据所述信息化数据的类型,将结构化的所述信息化数据存储到所述存储空间包括的关系型数据库中,并将非结构化的所述信息化数据存储到所述存储空间包括的非关系型数据库中。
可选地,
该***进一步包括:数据分析模块和数据展示模块;
所述数据分析模块,用于根据外部的触发,利用所述存储空间中存储的所述信息化数据对所述信息化***的发展趋势进行分析,获得分析结果;
所述数据展示模块,用于对所述数据分析模块获得的所述分析结果进行展示。
第二方面,本发明实施例还提供了一种利用第一方面提供的任意一种实现网系间数据聚合的***,实现网系间数据聚合的方法,该方法包括:
分别利用每一个所述数据采集模块,根据接收到的指标参数从所述采集模块所在的所述应用服务器上采集信息化数据;
利用每一个所述数据传输模块,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据;
利用所述数据共享模块,获取所述主网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,接收来自各个所述数据传输模块发送的所述信息化数据,并将获取和接收到的所述信息化数据存储到所述主网系中的存储空间。
可选地,
在所述分别利用每一个所述数据采集模块,根据接收到的指标参数从所述采集模块所在的所述应用服务器上采集信息化数据之前,进一步包括:
利用所述后台控制模块,根据外部的触发分别形成对应于每一个所述数据采集模块的所述指标参数,并将所形成的所述指标参数发送给对应的所述数据采集模块。
可选地,
所述利用每一个所述数据传输模块,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,包括:
针对每一个所述数据传输模块,均执行:
利用所述数据传输模块包括的关系型数据传输单元,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的结构化信息化数据;
利用所述数据传输模块包括的文件传输单元,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的非结构化信息化数据;
利用所述数据传输模块包括的消息队列单元,通过消息队列的方式将所述关系型数据传输单元获取到的所述结构化信息化数据和所述文件传输单元获取到的所述非结构化信息化数据发送给所述数据共享模块。
可选地,
所述将获取和接收到的所述信息化数据存储到所述主网系中的存储空间,包括:
利用所述数据共享模块包括的数据整合单元,对所述获取和接收到的所述信息化数据进行标准化处理和标签化处理;
利用所述数据共享模块包括的数据存储单元,将经过所述数据整合单元处理的所述信息化数据存储到所述存储空间。
可选地,
在所述将获取和接收到的所述信息化数据存储到所述主网系中的存储空间之后,进一步包括:
利用所述数据分析模块,根据外部的触发利用所述存储空间中存储的所述信息化数据对所述信息化***的发展趋势进行分析,获得分析结果;
利用所述数据展示模块,对所述数据分析模块获得的所述分析结果进行展示。
本发明实施例提供的实现网系间数据聚合的***及方法,该***包括分别设置于每一个应用服务器上的多个数据采集模块、分别设置于每一个从网系中的多个数据传输模块和设置于主网系中的数据共享模块。每一个数据采集模块均根据指标参数从其所在的应用服务器上采集信息化数据,其中,从网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给该从网系中设置的数据传输模块,主网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给主网系中设置的数据共享模块。数据共享模块将数据采集模块和数据传输模块发送的信息化数据存储到位于主网系中的存储空间中。由此可见,在采集到各个从网系所包括应用服务器的信息化数据后,通过数据传输模块将采集到的信息化数据传输到位于主网系中的数据共享模块,最终由数据共享模块将来自主网系和各个从网系的信息化数据存储到位于主网系中的存储空间,实现了将不同网系包括的信息化数据聚合到一起。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明一个实施例提供的一种实现网系间数据聚合的***的示意图;
图2是本发明一个实施例提供的另一种实现网系间数据聚合的***的示意图;
图3是本发明一个实施例提供的又一种实现网系间数据聚合的***的示意图;
图4是本发明一个实施例提供的再一种实现网系间数据聚合的***的示意图;
图5是本发明一个实施例通过的一种实现网系间数据聚合的方法的流程图;
图6是本发明一个实施例通过的另一种实现网系间数据聚合的方法的流程图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例,基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明实施例提供了一种实现网系间数据聚合的***,该***可以应用于包括有一个主网系20和至少一个从网系30的信息化***,包括:
分别设置于每一个应用服务器40上的数据采集模块101,其中,所述主网系20和每一个所述从网系30均包括至少一个所述应用服务器40;
分别设置于每一个所述从网系30中的数据传输模块102;
设置于所述主网系20中的数据共享模块103;
每一个所述数据采集模块101,用于根据接收到的指标参数,从所在的所述应用服务器40上采集信息化数据;
每一个所述数据传输模块102,用于获取其所在的所述从网系30中各个所述应用服务器40上设置的所述数据采集模块101采集到的所述信息化数据,并将获取到的所述信息化数据发送给所述数据共享模块103;
所述数据共享模块103,用于获取所述主网系20中各个所述应用服务器40上设置的所述数据采集模块101采集到的所述信息化数据,以及接收来自各个所述数据传输模块102发送的所述信息化数据,并将获取和接收到的所述信息化数据存储到所述主网系20中的存储空间。
本发明实施例提供了一种实现网系间数据聚合的***,包括分别设置于每一个应用服务器上的多个数据采集模块、分别设置于每一个从网系中的多个数据传输模块和设置于主网系中的数据共享模块。每一个数据采集模块均根据指标参数从其所在的应用服务器上采集信息化数据,其中,从网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给该从网系中设置的数据传输模块,主网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给主网系中设置的数据共享模块。数据共享模块将数据采集模块和数据传输模块发送的信息化数据存储到位于主网系中的存储空间中。由此可见,在采集到各个从网系所包括应用服务器的信息化数据后,通过数据传输模块将采集到的信息化数据传输到位于主网系中的数据共享模块,最终由数据共享模块将来自主网系和各个从网系的信息化数据存储到位于主网系中的存储空间,实现了将不同网系包括的信息化数据聚合到一起。
可选地,如图1所示,
由于数据传输模块102设置于从网系30中,而数据共享模块103设置于主网系20中,又由于主网系20与从网系30之间物理隔离,为了保证数据传输模块102获取到的信息化数据能够传输给数据共享模块103,实现网系间的数据传输,数据传输模块102与数据共享模块103之间可以通过简单对象访问协议(Simple Object Access Protocol,SOAP)进行互相访问,通过文件传输协议(File Transfer Protocol,FTP)进行数据传输,具体传输过程可以利用数据库通信专有接口(Java DataBase Connectivity,JDBC)进行。
可选地,在图1所示***的基础上,本发明实施例提供的实现网系间数据聚合的***还可以包括后台控制模块,后台控制模块可以根据外部的触发,分别形成对应于每一个数据采集模块的指标参数,并将所形成的指标参数发送给对应的数据采集模块。
具体地,用户可以通过后台控制模块定义指标参数,后台控制模块将用户定义的指标参数发送给相应的数据采集模块后,数据采集模块会根据接收到的标识参数,从所在应用服务器上采集相对应的信息化数据。这样,用户可以根据需求定义不同的指标参数,以从各网系上采集不同的信息化数据进行聚合,达到不同的目的,提升了该实现网系间数据聚合的***的适用性。
另外,由于不同应用服务器上运行着不同的应用,用户通过后台控制模块分别定义对应各个数据采集模块的指标数据,保证数据采集模块能够根据指标参数采集到用户所关心的信息化数据,保证所聚合数据的准确性。
另外,当该实现网系间数据聚合的***应用于法院的信息化***时,数据采集模块所采集的信息化数据包括以下数据中的任意一项或多项:
执行查控协助部门覆盖率、执行查控返回率、执行查控返回周期、上传文书数量在结案文书中占比、***接入覆盖率、访客地区覆盖率、性能评分(页面响应时间、操作响应时间和用户满意度)、错误总数、审判执行结案率、登录用户数量、运维满意度、科技法庭应用质效评分、立案接访评分、远程接访、执行指挥、审批执行结案率、登录用户比和办理业务量比等。
可选地,如图2所示,
每一个数据传输模块102可以包括:关系型数据传输单元1021、文件传输单元1022和消息队列单元1023。针对同一个数据传输模块102包括的关系型数据传输单元1021、文件传输单元1022和消息队列单元1023,各单元可以进行如下的交互:
关系型数据传输单元1021用于获取其所在的从网系中各个应用服务器上设置的数据采集模块采集到的结构化信息化数据,并将获取到的结构化信息化数据发送给消息队列单元1023;
文件传输单元1022用于获取器所在的从网系中各个应用服务器上设置的数据采集模块采集到的非结构化信息化数据,并将获取到的非结构化信息化数据发送给消息队列单元1023;
消息队列单元1023用于通过消息队的方式将来自关系型数据传输单元1021的结构化信息化数据和来自文件传输单元1022的非关系型信息化数据发送给数据共享模块103。
具体地,应用服务器上所部署的应用在运行过程中可能会产生结构化数据和非结构化数据,由于结构化数据和非结构化数据具有不同的数据形式,为了方便对结构化数据和非结构化数据进行传输,通过关系型数据传输单元获取数据采集模块采集到的结构化信息化数据,通过文件传输单元获取数据采集单元采集到的非结构化信息化数据,并分别利用消息队列单元将获取到的信息化数据发送给数据共享模块。其中,非结构化信息化数据包括日志、文档、音频、视频等数据文件。
第一方面,将结构化数据和非结构化数据分开,可以采用不同的接口和协议对结构化数据和非结构化数据进行传输,保证信息化数据传输的速率和可靠性。第二方面,以消息队列的方式将信息化数据传输给数据共享模块,由于消息队列可以传输简单的文本字符串,还可以传输包含嵌入对象的复杂数据,保证能够正常传输结构化信息化数据和非结构化信息化数据;另外,基于消息队列的数据传输方式,可以保证信息化数据能够成功传输给数据共享模块,保证该聚合网系间数据***的可靠性。
可选地,如图3所示,
数据共享模块103可以包括数据整合单元1031和数据存储单元1032,其中,
数据整合单元1031用于对来自各个数据传输模块102和主网系20中各个数据采集模块101的信息化数据进行标准化处理和标签化处理,对各个数据采集模块101采集到的信息化数据进行数据清洗,去除错误数据,并为各个信息化数据添加标签;
数据存储单元1032用于将经过数据整合单元1031处理的信息化数据存储到存储空间201中。
具体地,在将信息化数据存储到存储空间中之前,数据整合单元对信息化数据进行标准化处理和标签化处理,具体为去除信息化数据中包括的错误数据,并为信息化数据添加标签,以方便对信息化数据的提取和调用。通过数据整合单元对信息化数据进行处理,提升了信息化数据的质量。
可选地,如图3所示,
存储空间201可以为主网系20中的存储服务器,存储服务器中设置有关系型数据库和非关系型数据库。数据存储单元1032在向存储空间201中存储信息化数据时,可以根据信息化数据的类型,将结构化的信息化数据存储到关系型数据库中,将非结构化的信息化数据存储到非关系型数据库中。其中,关系型数据库可以是基于分布式文件***的关系型数据库,同时,非关系型数据库可以是基于分布式文件***的非关系型数据库,保证存储空间具有足够的容量和安全性。
具体地,根据信息化数据的类型,将信息化数据分别存储到关系型数据库和非关系型数据库中,对聚合到一起的信息化数据进行合理存储,方便对从存储空间中调取信息化数据进行分析,并且方便对存储空间中所存储信息化数据进行管理。
可选地,如图4所示,
该实现网系间数据聚合的***还可以包括数据分析模块104和数据展示模块105;
数据分析模块104用于根据外部的触发,利用存储空间201中存储的信息化数据,对信息化***的发展趋势进行分析,获得分析结果;
数据展示模块105用于对数据分析模块104获得的分析结果进行展示。
具体地,将来自各网系的信息化数据聚合到主网系中的存储空间之后,用户可以触发数据分析模块对存储空间中存储的信息化数据进行分析,数据分析模块利用预定定义的分析模型或机器学习方法,对存储空间中存储的信息化数据进行分析,确定反映信息化***发展趋势的分析结果,最终由数据展示模块对分析结果进行展示,便于用户对信息化数据软件和硬件进行更新和布局。
需要说明的是,在上述各个实施例提供的***中,数据传输模块可以部署在相应从网系中的虚拟机上,数据共享模块、数据分析模块和数据展示模块均可以部署在主网系中的虚拟机上。
如图5所示,本发明实施例提供了一种利用前述实施例提供的任意一种实现网系间数据聚合的***,对网系间数据进行聚合的方法,该方法可以包括以下步骤:
步骤501:分别利用每一个数据采集模块,根据接收到的指标参数从采集模块所在的应用服务器上采集信息化数据;
步骤502:利用每一个数据传输模块,获取数据传输模块所在的从网系中各个应用服务器上设置的数据采集模块采集到的信息化数据;
步骤503:利用数据共享模块,获取主网系中各个应用服务器上设置的数据采集模块采集到的信息化数据,接收来自各个数据传输模块发送的信息化数据,并将获取和接收到的信息化数据存储到主网系中的存储空间。
可选地,在图5所示步骤501之前,还可以利用后台控制模块,根据外部的触发分别形成对应于每一个数据采集模块的指标参数,比将所形成的指标参数发送给对应的数据采集模块。
可选地,图5所示步骤502利用数据传输模块获取数据采集模块获取到的信息化数据时,针对每一个数据传输模块,可以通过执行如下步骤实现:
A1:利用数据传输模块包括的关系型数据传输单元,获取数据传输模块所在的从网系中各个应用服务器上设置的数据采集模块采集到的结构化信息化数据;
A2:利用数据传输模块包括的文件传输单元,获取数据传输模块所在的从网系中各个应用服务器上设置的数据采集模块采集到的非结构化信息化数据;
A3:利用数据传输模块包括的消息队列单元,通过消息队列的方式将关系型数据传输单元获取到的结构化信息化数据和文件传输单元获取到的非结构化信息化数据发送给数据共享模块。
可选地,图5所示步骤503中将获取和接收到的信息化数据存储到存储空间中时,可以通过执行如下步骤来实现:
B1:利用数据共享模块包括的数据整合单元,对获取和接收到的信息化数据进行标准化处理和标签化处理;
B2:利用数据共享模块包括的数据存储单元,将经过数据整合单元处理的信息化数据存储到存储空间。
可选地,在上述步骤B2中利用数据存储单元将信息化数据存储到存储空间中时,可以根据信息化数据的类型,将结构化的信息化数据存储到存储空间包括的关系型数据库中,并将非结构化的信息化数据存储到存储空间包括的非关系型数据库中。
可选地,在图5所示步骤503之后,还可以利用数据分析模块,根据外部的触发利用存储空间中存储的信息化数据对信息化***的发展趋势进行分析,获得分析结果,并利用数据展示模块,对数据分析模块获得的分析结果进行展示。
需要说明的是,上述方法包括的各个步骤,由于与本发明***实施例基于同一构思,具体内容可参见本发明***实施例中的叙述,此处不再赘述。
下面以法院的信息化***为例,对本发明实施例提供的实现网系间数据聚合的方法作进一步详细说明,如图6所示,该方法可以包括以下步骤:
步骤601:部署数据采集模块、数据传输模块和数据共享模块。
在本发明一个实施例中,法院的信息化***共包括5个网系,分别为法院专网、互联网、涉密专网、外部专网和移动专网,每一个网系都包括有至少一个应用服务器,每一个应用服务器上运行一个应用。从安全和相关法律要求考虑,法院专网同时允许数据的进入和流出,因此将法院专网确定为主网系,将其他4个网系确定为从网系。首先,在5个网系包括的各个应用服务器上部署数据采集模块;然后,在互联网、涉密专网和外部专网三个网系的机房中分别选择三台虚拟机,在每一台虚拟机上安装数据传输模块;最后,在法院专网的机房中选择一个或多台虚拟机安装数据共享模块。
由于移动专网与法院专网互通,移动专网上的数据可以直接传输到法院专网,因此无需在移动专网上部署数据传输模块。
步骤602:在主网系中部署存储服务器。
在本发明一个实施例中,在主网系中部署存储服务器,其中,存储服务器包括关系型数据库和非关系型数据库,关系型数据库用于存储结构化数据,非关系型数据库用于存储非结构化数据。
比如,在法院专网中部署存储服务器。
步骤603:利用数据采集模块采集信息化数据。
在本发明一个实施例中,针对每一个数据采集模块,根据接收到的指标参数,利用该数据采集模块从该数据采集模块所在的应用服务器上采集信息化数据。
比如,利用位于外部专网中的数据采集模块,采集执行查控协助部门覆盖率、执行查控返回率、执行查控返回周期等信息化数据;利用位于互联网中的数据采集模块,采集上传文书数量在结案文书中占比、***接入覆盖率、访客地区覆盖率、性能评分(页面响应时间和用户满意度)及错误总数等信息化数据;利用位于法院专网中的数据采集模块,采集审判执行结案率、错误总数、性能指标(操作响应时间和页面响应时间)、登录用户信息、运维满意度、科技法庭应用质效评分、立案接访评分、远程接访以及执行指挥等信息化数据;利用位于涉密专网中的数据采集模块,采集审批执行结案率等信息化数据;利用位于移动专网中的数据采集模块,采集登录用户比、办理业务量比等信息化数据。
步骤604:对数据采集模块采集到的信息化数据进行传输。
在本发明一个实施例中,位于主网系中的数据采集模块在采集到信息化数据后,将所采集的信息化数据传输给数据共享模块;位于从网系中的数据采集模块在采集到信息化数据后,将所采集的信息化数据传输给同网系中的数据传输模块,由数据传输模块将同网系中各个数据采集模块采集到的信息化数据传输给数据共享模块。数据传输模块在向数据共享模块传输信息化数据时,利用所包括的关系型数据传输单元、文件传输单元和消息队列,通过SOAP协议、FTP协议和JDBC接口,分别将结构化信息化数据和非结构化信息化数据发送给数据共享模块。
比如,互联网中包括有10个应用服务器,每一个应用服务器上部署的数据采集模块分别采集所在应用服务器的信息化数据。互联网中部署的数据传输模块包括关系型数据传输单元、文件传输单元和消息队列单元。其中,关系型数据传输单元从这10个数据采集模块获取结构化信息化数据,并通过消息队列单元将获取到的结构化信息化数据发送给数据共享模块;文件传输单元从这10个数据采集模块获取日志、文档、视频、音频等非结构化信息化数据,并通过消息队列单元将获取到的非结构化信息化数据发送给数据共享模块。
步骤605:对信息化数据进行整合。
在本发明一个实施例中,数据共享模块包括数据整合单元和数据存储单元,数据共享模块获取到各个数据采集模块采集的信息化数据后,数据整合单元对信息化数据进行标准化处理和标签化处理,对信息化数据的格式进行统一,并为信息化数据添加标签。
步骤606:在整合后的信息化数据存储到存储服务器中。
在本发明一个实施例中,数据共享模块包括的数据存储单元,在数据整合单元对信息化数据处理完成后,数据存储单元根据信息化数据的类型,将结构化的信息化数据存储到存储服务器中的关系型数据库中,并将非结构化的信息化数据存储到存储服务器中的非关系型数据库中。
本发明各个实施例提供的实现网系间数据聚合的***及方法,至少具有如下有益效果:
1、在本发明实施例中,实现网系间数据聚合的***包括分别设置于每一个应用服务器上的多个数据采集模块、分别设置于每一个从网系中的多个数据传输模块和设置于主网系中的数据共享模块。每一个数据采集模块均根据指标参数从其所在的应用服务器上采集信息化数据,其中,从网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给该从网系中设置的数据传输模块,主网系所包括应用服务器上的数据采集模块将采集到的信息化数据发送给主网系中设置的数据共享模块。数据共享模块将数据采集模块和数据传输模块发送的信息化数据存储到位于主网系中的存储空间中。由此可见,在采集到各个从网系所包括应用服务器的信息化数据后,通过数据传输模块将采集到的信息化数据传输到位于主网系中的数据共享模块,最终由数据共享模块将来自主网系和各个从网系的信息化数据存储到位于主网系中的存储空间,实现了将不同网系包括的信息化数据聚合到一起。
2、在本发明实施例中,用户可以通过后台控制模块定义指标参数,并通过后台控制模块将定义的指标参数发送给相应的数据采集模块,使得数据采集模块能够根据接收到的标识参数,从所在应用服务器上采集相对应的信息化数据。这样,用户可以根据需求定义不同的指标参数,以从各网系上采集不同的信息化数据进行聚合,提升了该数据聚合方法及***的适用性。
3、在本发明实施例中,数据传输模块包括关系型数据传输单元、文件传输单元和消息队列单元,关系型数据传输单元用于获取数据采集模块采集到的结构化信息化数据,文件传输单元用于获取数据采集单元采集到的非结构化信息化数据,消息队列单元用于将关系型数据传输单元和文件传输单元获取到的信息化数据发送给数据共享模块。将结构化数据和非结构化数据分开,可以采用不同的接口和协议对结构化数据和非结构化数据进行传输,保证信息化数据传输的速率和可靠性。
4、在本发明实施例中,通过消息队列单元,以消息队列的方式将信息化数据传输给数据共享模块,由于消息队列可以传输简单的文本字符串,还可以传输包含嵌入对象的复杂数据,保证能够正常传输结构化信息化数据和非结构化信息化数据;另外,基于消息队列的数据传输方式,可以保证信息化数据能够成功传输给数据共享模块,保证该聚合网系间数据***的可靠性。
5、在本发明实施例中,据信息化数据的类型,将信息化数据分别存储到关系型数据库和非关系型数据库中,对聚合到一起的信息化数据进行合理存储,方便对从存储空间中调取信息化数据进行分析,并且方便对存储空间中所存储信息化数据进行管理。
需要说明的是,在本文中,诸如第一和第二之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个〃····〃”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同因素。
本领域普通技术人员可以理解:实现上述方法实施例的全部或部分步骤可以通过程序指令相关的硬件来完成,前述的程序可以存储在计算机可读取的存储介质中,该程序在执行时,执行包括上述方法实施例的步骤;而前述的存储介质包括:ROM、RAM、磁碟或者光盘等各种可以存储程序代码的介质中。
最后需要说明的是:以上所述仅为本发明的较佳实施例,仅用于说明本发明的技术方案,并非用于限定本发明的保护范围。凡在本发明的精神和原则之内所做的任何修改、等同替换、改进等,均包含在本发明的保护范围内。
Claims (2)
1.一种实现网系间数据聚合的***,其特征在于,应用于包括有一个主网系和至少一个从网系的信息化***,包括:
分别设置于每一个应用服务器上的数据采集模块,其中,所述主网系和每一个所述从网系均包括至少一个所述应用服务器;
分别设置于每一个所述从网系中的数据传输模块;
设置于所述主网系中的数据共享模块;
每一个所述数据采集模块,用于根据接收到的指标参数,从所在的所述应用服务器上采集信息化数据;
每一个所述数据传输模块,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,并将获取到的所述信息化数据发送给所述数据共享模块;
所述数据共享模块,用于获取所述主网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,以及接收来自各个所述数据传输模块发送的所述信息化数据,并将获取和接收到的所述信息化数据存储到所述主网系中的存储空间;
进一步包括:后台控制模块;
所述后台控制模块,用于根据外部的触发,分别形成对应于每一个所述数据采集模块的所述指标参数,并将所形成的所述指标参数发送给对应的所述数据采集模块;
每一个所述数据传输模块包括:关系型数据传输单元、文件传输单元和消息队列单元;
所述关系型数据传输单元,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的结构化信息化数据,并将获取到的所述结构化信息化数据发送给所述消息队列单元;
所述文件传输单元,用于获取其所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的非结构化信息化数据,并将获取到的所述非结构化信息化数据发送给所述消息队列单元;
所述消息队列单元,用于通过消息队列的方式将来自所述关系型数据传输单元的所述结构化信息化数据和来自所述文件传输单元的所述非结构化信息化数据发送给所述数据共享模块;
所述数据共享模块包括:数据整合单元和所述数据存储单元;
所述数据整合单元,用于对所述获取和接收到的所述信息化数据进行标准化处理和标签化处理;
所述数据存储单元,用于将经过所述数据整合单元处理的所述信息化数据存储到所述存储空间;
所述数据存储单元,用于根据所述信息化数据的类型,将结构化的所述信息化数据存储到所述存储空间包括的关系型数据库中,并将非结构化的所述信息化数据存储到所述存储空间包括的非关系型数据库中;
进一步包括:数据分析模块和数据展示模块;
所述数据分析模块,用于根据外部的触发,利用所述存储空间中存储的所述信息化数据对所述信息化***的发展趋势进行分析,获得分析结果;
所述数据展示模块,用于对所述数据分析模块获得的所述分析结果进行展示。
2.一种利用权利要求1所述实现网系间数据聚合的***实现网系间数据聚合的方法,其特征在于,包括:
分别利用每一个所述数据采集模块,根据接收到的指标参数从所述采集模块所在的所述应用服务器上采集信息化数据;
利用每一个所述数据传输模块,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据;
利用所述数据共享模块,获取所述主网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,接收来自各个所述数据传输模块发送的所述信息化数据,并将获取和接收到的所述信息化数据存储到所述主网系中的存储空间;
在所述分别利用每一个所述数据采集模块,根据接收到的指标参数从所述采集模块所在的所述应用服务器上采集信息化数据之前,进一步包括:
利用所述后台控制模块,根据外部的触发分别形成对应于每一个所述数据采集模块的所述指标参数,并将所形成的所述指标参数发送给对应的所述数据采集模块;
和/或,
所述利用每一个所述数据传输模块,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的所述信息化数据,包括:
针对每一个所述数据传输模块,均执行:
利用所述数据传输模块包括的关系型数据传输单元,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的结构化信息化数据;
利用所述数据传输模块包括的文件传输单元,获取所述数据传输模块所在的所述从网系中各个所述应用服务器上设置的所述数据采集模块采集到的非结构化信息化数据;
利用所述数据传输模块包括的消息队列单元,通过消息队列的方式将所述关系型数据传输单元获取到的所述结构化信息化数据和所述文件传输单元获取到的所述非结构化信息化数据发送给所述数据共享模块;
所述将获取和接收到的所述信息化数据存储到所述主网系中的存储空间,包括:
利用所述数据共享模块包括的数据整合单元,对所述获取和接收到的所述信息化数据进行标准化处理和标签化处理;
利用所述数据共享模块包括的数据存储单元,将经过所述数据整合单元处理的所述信息化数据存储到所述存储空间;
在所述将获取和接收到的所述信息化数据存储到所述主网系中的存储空间之后,进一步包括:
利用所述数据分析模块,根据外部的触发利用所述存储空间中存储的所述信息化数据对所述信息化***的发展趋势进行分析,获得分析结果;
利用所述数据展示模块,对所述数据分析模块获得的所述分析结果进行展示。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710512510.0A CN107295087B (zh) | 2017-06-29 | 2017-06-29 | 一种实现网系间数据聚合的***及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710512510.0A CN107295087B (zh) | 2017-06-29 | 2017-06-29 | 一种实现网系间数据聚合的***及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN107295087A CN107295087A (zh) | 2017-10-24 |
CN107295087B true CN107295087B (zh) | 2020-06-02 |
Family
ID=60098244
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710512510.0A Active CN107295087B (zh) | 2017-06-29 | 2017-06-29 | 一种实现网系间数据聚合的***及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107295087B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111103847B (zh) * | 2019-12-31 | 2023-01-24 | 中国兵器装备集团自动化研究所 | 一种用于数控机床实时数据流的分析***和分析方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110016749A (ko) * | 2009-08-12 | 2011-02-18 | 주식회사 케이티 | 다중 접속 무선망에서 대역폭 확장을 위한 다중링크 데이터 분배/집중 장치 |
CN104361031A (zh) * | 2014-10-24 | 2015-02-18 | 西安未来国际信息股份有限公司 | 一种政务大数据预处理***及处理方法 |
CN105159951A (zh) * | 2015-08-17 | 2015-12-16 | 成都中科大旗软件有限公司 | 一种开放式的旅游多源异构数据融合方法及*** |
CN106327396A (zh) * | 2016-09-27 | 2017-01-11 | 中电科软件信息服务有限公司 | 医院业务数据管理平台及方法 |
CN206164759U (zh) * | 2016-11-18 | 2017-05-10 | 中国电力科学研究院 | 一种跨网络多源异构数据采集装置 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US7539702B2 (en) * | 2004-03-12 | 2009-05-26 | Netapp, Inc. | Pre-summarization and analysis of results generated by an agent |
-
2017
- 2017-06-29 CN CN201710512510.0A patent/CN107295087B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR20110016749A (ko) * | 2009-08-12 | 2011-02-18 | 주식회사 케이티 | 다중 접속 무선망에서 대역폭 확장을 위한 다중링크 데이터 분배/집중 장치 |
CN104361031A (zh) * | 2014-10-24 | 2015-02-18 | 西安未来国际信息股份有限公司 | 一种政务大数据预处理***及处理方法 |
CN105159951A (zh) * | 2015-08-17 | 2015-12-16 | 成都中科大旗软件有限公司 | 一种开放式的旅游多源异构数据融合方法及*** |
CN106327396A (zh) * | 2016-09-27 | 2017-01-11 | 中电科软件信息服务有限公司 | 医院业务数据管理平台及方法 |
CN206164759U (zh) * | 2016-11-18 | 2017-05-10 | 中国电力科学研究院 | 一种跨网络多源异构数据采集装置 |
Also Published As
Publication number | Publication date |
---|---|
CN107295087A (zh) | 2017-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US10803394B2 (en) | Integrated monitoring and communications system using knowledge graph based explanatory equipment management | |
Wang et al. | A smart home gateway platform for data collection and awareness | |
CN109495533A (zh) | 一种智能物联网管理***及方法 | |
CN107895011B (zh) | 会话信息的处理方法、***、存储介质和电子设备 | |
CN104636421A (zh) | 使用云计算的工业监视 | |
CN109120719B (zh) | 信息推送方法、信息展示方法、计算机设备及存储介质 | |
CN102710770A (zh) | 一种上网设备识别方法及其实现*** | |
US20170109639A1 (en) | General Model for Linking Between Nonconsecutively Performed Steps in Business Processes | |
CN105184886A (zh) | 一种云数据中心智能巡检***及方法 | |
EP2897088A1 (en) | Method and apparatus for optimum spatial clustering | |
Aboualola et al. | Edge technologies for disaster management: A survey of social media and artificial intelligence integration | |
CN108810053A (zh) | 物联网应用处理方法和物联网应用*** | |
US20170099177A1 (en) | In-vehicle information system and information processing method thereof | |
WO2020205693A1 (en) | Automatic generation of labeled data in iot systems | |
CN110784377A (zh) | 一种多云环境下的云监控数据统一管理的方法 | |
CN106559498A (zh) | 风控数据收集平台及其收集方法 | |
CN109800133A (zh) | 一种统一监控告警的方法、一站式监控告警平台及*** | |
US20170109640A1 (en) | Generation of Candidate Sequences Using Crowd-Based Seeds of Commonly-Performed Steps of a Business Process | |
CN107295087B (zh) | 一种实现网系间数据聚合的***及方法 | |
CN111817865A (zh) | 一种监控网管设备的方法及监控*** | |
CN105512318B (zh) | 页面生成方法和装置 | |
Lee et al. | RFID-based sensing system for context information management using P2P network architecture | |
CN107342916A (zh) | 服务器信息的监控方法、装置及服务器 | |
CN111917848A (zh) | 基于边缘计算和云计算协同的数据处理方法及云服务器 | |
CN113750538A (zh) | 一种基于大数据的手游安全平台构建方法及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |