CN102497353B - 多服务器分布式数据处理方法、服务器及*** - Google Patents

多服务器分布式数据处理方法、服务器及*** Download PDF

Info

Publication number
CN102497353B
CN102497353B CN201110334695.3A CN201110334695A CN102497353B CN 102497353 B CN102497353 B CN 102497353B CN 201110334695 A CN201110334695 A CN 201110334695A CN 102497353 B CN102497353 B CN 102497353B
Authority
CN
China
Prior art keywords
data
bit stream
mission bit
server
remote agent
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201110334695.3A
Other languages
English (en)
Other versions
CN102497353A (zh
Inventor
彭大力
龙春燕
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Shenzhen Qianhai illusion Network Technology Co., Ltd.
Original Assignee
SHENZHEN DIQIDADAO NETWORK TECHNOLOGY Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by SHENZHEN DIQIDADAO NETWORK TECHNOLOGY Co Ltd filed Critical SHENZHEN DIQIDADAO NETWORK TECHNOLOGY Co Ltd
Priority to CN201110334695.3A priority Critical patent/CN102497353B/zh
Publication of CN102497353A publication Critical patent/CN102497353A/zh
Application granted granted Critical
Publication of CN102497353B publication Critical patent/CN102497353B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Information Transfer Between Computers (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Computer And Data Communications (AREA)

Abstract

本发明公开了一种多服务器分布式数据处理方法,中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。本发明实施例提供的多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络环境和网络质量。

Description

多服务器分布式数据处理方法、服务器及***
技术领域
本发明涉及数据处理技术领域,具体涉及一种多服务器分布式数据处理方法、服务器及***。
背景技术
数据提取、转换和加载(ETL,Extraction-Transformation-Loading)作为商业智能(BI,Business Intelligence)和数据仓库(DW,Data Warehouse)的核心和灵魂,按照统一的规则集成并提高数据的价值,负责完成数据从数据源向目标数据仓库转化的过程,是实施数据仓库的重要步骤。如果说数据仓库的模型设计是一座大厦的设计蓝图,数据是砖瓦的话,那么ETL就是建设大厦的过程。
数据ETL一般应用在局域网内,将数据源的数据经过抽取、转换、清洗后,装载到数据仓库中,本发明的发明人发现,数据ETL之所以能应用在局域网中,是因为通常局域网内的网络环境和网络质量较好,数据源相对固定。针对网络游戏(WebGame)这种数据量巨大,游戏服务器遍布世界各地,网络环境复杂,网络质量参差不齐,尤其是数据源不稳定的分布式数据采用上述ETL方法进行处理,就不能适应WebGame的现状。
发明内容
本发明实施例提供一种多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络。本发明实施例还提供了相应的服务器及***。
一种多服务器分布式数据处理方法,包括:
中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据;
根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
一种多服务器分布式数据处理方法,包括:
远程代理服务器接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
根据所述数据库服务器地址与所述数据库服务器建立连接;
从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
对所述抽取到的数据压缩并加密处理;
发送所述压缩加密后的数据给中心服务器。
一种中心服务器,包括:
发送单元,用于在读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据;
接收单元,用于接收所述压缩加密后的数据;
解压缩处理单元,用于在所述接收单元接收到压缩加密后的数据后,解压缩所述压缩加密后的数据;
合并装载单元,用于根据所述数据合并任务信息,将所述解压缩处理单元解压缩后的数据合并装载到数据仓库中。
一种远程代理服务器,包括:
接收单元,用于接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
建立单元,用于根据所述接收单元接收到的所述数据库服务器地址与所述数据库服务器建立连接;
数据抽取单元,用于在所述建立单元与所述数据库服务器建立连接后,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
压缩加密处理单元,用于对所述数据抽取单元抽取到的数据压缩并加密处理;
发送单元,用于在所述压缩加密处理单元压缩并加密所述抽取到的数据后,发送所述压缩加密后的数据给中心服务器。
一种多服务器分布式数据处理***,包括:
中心服务器,远程代理服务器和数据库服务器,所述远程代理服务器有多个,所述中心服务器与每个远程代理服务器间的数据交互互不关联;
中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,发送所述数据抽取任务信息给所述远程代理服务器;
远程代理服务器接收所述数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,根据所述数据库服务器地址与所述数据库服务器建立连接,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据,对所述抽取到的数据压缩并加密处理,发送所述压缩加密后的数据给中心服务器;
所述中心服务器接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
本发明实施例提供的多服务器分布式数据处理方法,采用中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。与现有技术相比,本发明实施例提供的多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络环境和网络质量。
说明书附图
图1是本发明实施例中分布式数据处理方法的一实施例示意图;
图2是本发明实施例中分布式数据处理方法的另一实施例示意图;
图3是本发明实施例中中央服务器与远程代理服务器一实施例示意图;
图4是本发明实施例中中央服务器与远程代理服务器另一实施例示意图;
图5是本发明实施例中分布式数据处理***一实施例示意图。
具体实施方式
本发明实施例提供一种多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络。本发明实施例还提供了相应的服务器及***。以下分别进行详细说明。
参阅图1,从中心服务器的角度出发,本发明实施例提供的多服务器分布式数据处理方法包括:
101、中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器。
中心服务器读取用户配置的任务信息,找到远程代理服务器信息及任务信息,所述任务信息包括所述数据抽取任务信息和所述数据合并任务信息,中心服务器将所述数据取任务信息发送给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址。
102、接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据。
103、根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
压缩加密后的数据解压缩后,按照数据合并任务信息,将解压缩后的数据合并装载到数据仓库中,实现从数据源到数据仓库的转移。
本发明实施例中,采用中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。与现有技术相比,本发明实施例提供的多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络环境和网络质量。
可选地,在上述图1对应的实施例的基础上,在步骤101之前还可以包括:接收用户配置的远程代理服务器信息和任务信息,所述任务信息包括所述数据抽取任务信息,所述数据合并任务信息和任务执行时间信息。
可选地,在上述实施例的基础上,在步骤103之后还可以包括:更新所述任务执行时间信息。
参阅图2,从远程代理服务器角度出发,本发明实施例提供的多服务器分布式数据处理方法包括:
201、远程代理服务器接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址。
202、根据所述数据库服务器地址与所述数据库服务器建立连接。
远程代理服务器通过代理程序与数据库服务器建立连接。
203、从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
204、对所述抽取到的数据压缩并加密处理;
205、发送所述压缩加密后的数据给中心服务器。
本发明实施例中,远程代理服务器接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,根据所述数据库服务器地址与所述数据库服务器建立连接,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据,对所述抽取到的数据压缩并加密处理,发送所述压缩加密后的数据给中心服务器。与现有技术相比,本发明实施例提供的多服务器分布式数据处理方法,可以实现动态添加数据源,并且能适应各种网络环境和网络质量。
可选地,在上述图2对应的实施例的基础上,在步骤204之前还可以包括:转换并清洗所述抽取到的数据。
可选地,在上述实施例的基础上,在步骤203的同时还包括标记数据抽取位置。
参阅图3,本发明中心服务器和远程代理服务器的一实施例包括:中心服务器30和远程代理服务器40,所述中心服务器30包括:
发送单元301,用于在读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据;
接收单元302,用于接收所述压缩加密后的数据;
解压缩处理单元303,用于在所述接收单元302接收到压缩加密后的数据后,解压缩所述压缩加密后的数据;
合并装载单元304,用于根据所述数据合并任务信息,将所述解压缩处理单元303解压缩后的数据合并装载到数据仓库中。
所述远程代理服务器40包括:
接收单元401,用于接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
建立单元402,用于根据所述接收单元401接收到的所述数据库服务器地址与所述数据库服务器建立连接;
数据抽取单元403,用于在所述建立单元402与所述数据库服务器建立连接后,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
压缩加密处理单元404,用于对所述数据抽取单元403抽取到的数据压缩并加密处理;
发送单元405,用于在所述压缩加密处理单元404压缩并加密所述抽取到的数据后,发送所述压缩加密后的数据给中心服务器。
本发明实施例中,中心服务器30的发送单元301发送所述数据抽取任务信息给所述远程代理服务器40的接收单元401,建立单元402在所述接收单元401接收到的所述数据库服务器地址与所述数据库服务器50建立连接,数据抽取单元403在所述建立单元402与所述数据库服务器建立连接后,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据,压缩加密处理单元404对所述数据抽取单元403抽取到的数据压缩并加密处理,发送单元405发送所述压缩加密后的数据给中心服务器30的接收单元302,解压缩处理单元303在所述接收单元302接收到压缩加密后的数据后,解压缩所述压缩加密后的数据,合并装载单元304,根据所述数据合并任务信息,将所述解压缩处理单元303解压缩后的数据合并装载到数据仓库中。本发明实施例所提供的中心服务器和远程代理服务器可以实现动态添加数据源,并且能适应各种网络环境和网络质量。
参阅图4,可选地,在上述实施例的基础上,中心服务器30还可以包括:
所述接收单元302,还用于接收用户配置的远程代理服务器信息和所述远程代理服务器的任务信息,所述任务信息包括所述数据抽取任务信息,所述数据合并任务信息和任务执行时间信息。
更新单元305,用于在所述合并装载单元将解压缩后的数据合并装载到数据仓库中后,更新所述任务执行时间信息。
远程代理服务器40还可以包括:
转换清洗处理单元406,用于在所述压缩加密处理单元压缩并加密所述抽取到的数据之前转换并清洗所述抽取到的数据。
数据标记单元407,用于在所述数据抽取单元403抽取数据时,标记数据抽取位置。
本发明实施例中,数据标记单元407在所述数据抽取单元403抽取数据时,标记数据抽取位置。在发生网络故障后,数据抽取单元403可以自上次抽取数据的位置继续处理,降低了网络异常带来的影响。
参阅图5,本发明实施例提供的多服务器分布式数据处理***包括:
中心服务器30,远程代理服务器40和数据库服务器50,所述远程代理服务器有4个,所述中心服务器30与每个远程代理服务器40间的数据交互互不关联;
中心服务器30读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,发送所述数据抽取任务信息给所述远程代理服务器;
远程代理服务器40接收所述数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,根据所述数据库服务器地址与所述数据库服务器建立连接,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据,对所述抽取到的数据压缩并加密处理,发送所述压缩加密后的数据给中心服务器。
所述中心服务器30接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
本发明实施例提供的多服务器分布式数据处理***在远程代理服务器上对抽取的数据进行压缩加密,再将压缩加密后的数据传输给中心服务器,保证了数据的网络安全,另一方面,中心服务器根据用户配置信息执行任务,当有新的数据源加入或有旧的数据源减少时,中心服务器通过信息读取就可以发现,从而实现了动态添加数据源。而且中心服务器与任意一个远程代理服务器间的数据交互互不关联,当有一个远程代理服务器出现问题后,不会影响其他服务器,而且这种数据交互方式可以使多个远程代理服务同时与中心服务器进行数据交互,加快了数据交互速度,提高了***性能。
本发明实施例中只给出了4个远程代理服务器40,实际上远程代理服务器可以有多个,本发明对远程代理服务器的数量不做限制。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分步骤是可以通过程序来指令相关的硬件完成,该程序可以存储于一种计算机可读存储介质中,上述提到的存储介质可以是只读存储器,磁盘或光盘等。
以上对本发明所提供的多服务器分布式数据处理方法、服务器及***进行了详细介绍,对于本领域的一般技术人员,依据本发明实施例的思想,在具体实施方式及应用范围上均会有改变之处,因此,本说明书内容不应理解为对本发明的限制。

Claims (13)

1.一种多服务器分布式数据处理方法,其特征在于,包括:
中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据;
根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
2.根据权利要求1所述的多服务器分布式数据处理方法,其特征在于,在所述中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器之前,所述方法还包括:
所述中心服务器接收用户配置的远程代理服务器信息和任务信息,所述任务信息包括所述数据抽取任务信息,所述数据合并任务信息和任务执行时间信息。
3.根据权利要求2所述的多服务器分布式数据处理方法,其特征在于,在所述将解压缩后的数据合并装载到数据仓库中后还包括:
更新所述任务执行时间信息。
4.一种多服务器分布式数据处理方法,其特征在于,包括:
远程代理服务器接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
根据所述数据库服务器地址与所述数据库服务器建立连接;
从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
对所述抽取到的数据压缩并加密处理;
发送所述压缩加密后的数据给中心服务器,以使所述中心服务器接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
5.根据权利要求4所述的多服务器分布式数据处理方法,其特征在于,在所述对所述抽取到的数据压缩并加密处理之前还包括:
转换并清洗所述抽取到的数据。
6.根据权利要求4或5所述的多服务器分布式数据处理方法,其特征在于,在抽取数据时还包括:
标记数据抽取位置。
7.一种中心服务器,其特征在于,包括:
发送单元,用于在读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,使所述远程代理服务器抽取所述数据抽取任务信息中要求的数据,并返回压缩加密后的数据,其中,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
接收单元,用于接收所述压缩加密后的数据;
解压缩处理单元,用于在所述接收单元接收到压缩加密后的数据后,解压缩所述压缩加密后的数据;
合并装载单元,用于根据所述数据合并任务信息,将所述解压缩处理单元解压缩后的数据合并装载到数据仓库中。
8.根据权利要求7所述的中心服务器,其特征在于,还包括:
所述接收单元,还用于接收用户配置的远程代理服务器信息和所述远程代理服务器的任务信息,所述任务信息包括所述数据抽取任务信息,所述数据合并任务信息和任务执行时间信息。
9.根据权利要求8所述的中心服务器,其特征在于,还包括:
更新单元,用于在所述合并装载单元将解压缩后的数据合并装载到数据仓库中后,更新所述任务执行时间信息。
10.一种远程代理服务器,其特征在于,包括:
接收单元,用于接收数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
建立单元,用于根据所述接收单元接收到的所述数据库服务器地址与所述数据库服务器建立连接;
数据抽取单元,用于在所述建立单元与所述数据库服务器建立连接后,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据;
压缩加密处理单元,用于对所述数据抽取单元抽取到的数据压缩并加密处理;
发送单元,用于在所述压缩加密处理单元压缩并加密所述抽取到的数据后,发送所述压缩加密后的数据给中心服务器,以使所述中心服务器接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
11.根据权利要求10所述的远程代理服务器,其特征在于,还包括:
转换清洗处理单元,用于在所述压缩加密处理单元压缩并加密所述抽取到的数据之前转换并清洗所述抽取到的数据。
12.根据权利要求10或11所述的远程代理服务器,其特征在于,还包括:
数据标记单元,用于在所述数据抽取单元抽取数据时,标记数据抽取位置。
13.一种多服务器分布式数据处理***,其特征在于,包括:
中心服务器,远程代理服务器和数据库服务器,所述远程代理服务器有多个,所述中心服务器与每个远程代理服务器间的数据交互互不关联;
中心服务器读取到远程代理服务器信息及所述远程代理服务器的数据抽取任务信息和数据合并任务信息后,发送所述数据抽取任务信息给所述远程代理服务器,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址;
远程代理服务器接收所述数据抽取任务信息,所述数据抽取任务信息中携带要求抽取的数据所在的数据库服务器地址,根据所述数据库服务器地址与所述数据库服务器建立连接,从所述数据库服务器中抽取所述数据抽取任务信息中要求的数据,对所述抽取到的数据压缩并加密处理,发送所述压缩加密后的数据给中心服务器;
所述中心服务器接收所述压缩加密后的数据,并解压缩所述压缩加密后的数据,根据所述数据合并任务信息,将解压缩后的数据合并装载到数据仓库中。
CN201110334695.3A 2011-10-28 2011-10-28 多服务器分布式数据处理方法、服务器及*** Active CN102497353B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201110334695.3A CN102497353B (zh) 2011-10-28 2011-10-28 多服务器分布式数据处理方法、服务器及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201110334695.3A CN102497353B (zh) 2011-10-28 2011-10-28 多服务器分布式数据处理方法、服务器及***

Publications (2)

Publication Number Publication Date
CN102497353A CN102497353A (zh) 2012-06-13
CN102497353B true CN102497353B (zh) 2015-08-26

Family

ID=46189139

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201110334695.3A Active CN102497353B (zh) 2011-10-28 2011-10-28 多服务器分布式数据处理方法、服务器及***

Country Status (1)

Country Link
CN (1) CN102497353B (zh)

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103902585A (zh) * 2012-12-27 2014-07-02 ***通信集团公司 一种数据加载方法和***
CN104468670B (zh) * 2013-09-23 2018-10-23 深圳市腾讯计算机***有限公司 一种处理管理数据的方法、装置和分布式容灾方法、***
CN103678488B (zh) * 2013-11-12 2015-03-04 德比软件(上海)有限公司 分布式大批量动态任务引擎及采用其处理数据的方法
CN105446653B (zh) * 2014-08-27 2018-12-14 阿里巴巴集团控股有限公司 一种数据合并方法和设备
CN104317928A (zh) * 2014-10-31 2015-01-28 北京思特奇信息技术股份有限公司 一种基于分布式数据库的业务etl方法及***
CN104392132B (zh) * 2014-11-24 2019-11-12 深圳市第二人民医院 一种基于云计算的医疗数据存储***
CN104461761B (zh) * 2014-12-08 2017-11-21 北京奇虎科技有限公司 数据校验方法、装置和服务器
CN106557469B (zh) * 2015-09-24 2020-11-20 创新先进技术有限公司 一种处理数据仓库中数据的方法及装置
CN107295036B (zh) * 2016-03-31 2021-02-23 华为技术有限公司 一种数据发送方法及数据合并设备
CN108572845B (zh) * 2018-03-15 2022-05-31 华为技术有限公司 分布式微服务集群的升级方法及相关***
CN110995730B (zh) * 2019-12-11 2022-07-05 成都知道创宇信息技术有限公司 数据传输方法、装置、代理服务器和代理服务器集群
CN115408478B (zh) * 2022-09-02 2023-03-21 西湖大学 一种共享实验仪器的数据存储和管理***、方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101105793A (zh) * 2006-07-11 2008-01-16 阿里巴巴公司 数据仓库中的数据处理方法及***
CN101163024A (zh) * 2006-10-12 2008-04-16 国际商业机器公司 对多个网络服务器并行操作的方法和装置
CN101621529A (zh) * 2008-06-30 2010-01-06 上海全成通信技术有限公司 一种异构海量数据高效低成本的装载方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7941398B2 (en) * 2007-09-26 2011-05-10 Pentaho Corporation Autopropagation of business intelligence metadata

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101105793A (zh) * 2006-07-11 2008-01-16 阿里巴巴公司 数据仓库中的数据处理方法及***
CN101163024A (zh) * 2006-10-12 2008-04-16 国际商业机器公司 对多个网络服务器并行操作的方法和装置
CN101621529A (zh) * 2008-06-30 2010-01-06 上海全成通信技术有限公司 一种异构海量数据高效低成本的装载方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
《基于多Agent与工作流的分布式ETL引擎的研究》;丁进等;《计算机应用》;20090131;第29卷(第1期);第2页-第4页 *

Also Published As

Publication number Publication date
CN102497353A (zh) 2012-06-13

Similar Documents

Publication Publication Date Title
CN102497353B (zh) 多服务器分布式数据处理方法、服务器及***
CN109343963B (zh) 一种容器集群的应用访问方法、装置及相关设备
CN107391629B (zh) 集群间数据迁移方法、***、服务器及计算机存储介质
CN102123279B (zh) 一种分布式实时转码方法与***
CN102523314A (zh) 识别高效的目标服务器
US20120296983A1 (en) Managing compression dictionaries
CN105183675A (zh) 对usb设备的访问方法、装置、终端、服务器及***
CN103414579A (zh) 一种适用于云计算的跨平台监控***及其监控方法
CN101860493A (zh) 为客户端分配应用服务器地址的方法、服务器及***
CN112788074A (zh) 数据发送方法、处理方法、接收方法及其设备、存储介质
KR102445290B1 (ko) 정보 처리 방법, 장치, 기기 및 판독 가능 저장매체
CN111111214B (zh) 一种游戏存档的处理方法、装置及***
KR102559290B1 (ko) 하이브리드 클라우드 기반의 실시간 데이터 아카이빙 방법 및 시스템
CN106301865A (zh) 应用于服务提供设备的数据处理方法和设备
CN102438004A (zh) 获取媒体文件的元数据信息的方法、***及多媒体播放器
CN101673217B (zh) 一种实现远端程序调用的方法和***
US20120260050A1 (en) Data storage resource management systems and methods
CN101521606A (zh) 日志信息处理方法、日志服务器与通信***
CN105279020A (zh) 一种任务调度方法及***
US10601881B1 (en) Idempotent processing of data streams
US20200387412A1 (en) Method To Manage Database
US20160139912A1 (en) System, method, and computer-readable medium
US8892613B1 (en) Method and system for efficiently reading a partitioned directory incident to a serialized process
CN103067419A (zh) 一种分布式文件***及在该***中控制文件存储的方法
CN113342811A (zh) HBase表格数据处理方法及装置

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
ASS Succession or assignment of patent right

Owner name: SHENZHEN 7ROAD NETWORK TECHNOLOGY CO., LTD.

Free format text: FORMER OWNER: SHENZHEN 7ROAD TECHNOLOGY CO., LTD.

Effective date: 20120828

C41 Transfer of patent application or patent right or utility model
COR Change of bibliographic data

Free format text: CORRECT: ADDRESS; FROM: 518000 SHENZHEN, GUANGDONG PROVINCE TO: 518057 SHENZHEN, GUANGDONG PROVINCE

TA01 Transfer of patent application right

Effective date of registration: 20120828

Address after: Nanshan District Shenzhen City, Guangdong province 518057 Shennan Road No. 9996 building, 7 storey main building height of song

Applicant after: Shenzhen Diqidadao Network Technology Co., Ltd.

Address before: Shenzhen City, Guangdong Province, 518000 Shennan Road No. 9996, building 7-9, golden song

Applicant before: Shenzhen 7road Technology Co.,Ltd.

C14 Grant of patent or utility model
GR01 Patent grant
C41 Transfer of patent application or patent right or utility model
TR01 Transfer of patent right

Effective date of registration: 20161020

Address after: Unit B2-B5 16 building 518000 Guangdong city of Shenzhen province Nanshan District high in the four EVOC Technology Building No. 31

Patentee after: Shenzhen 7road Technology Co.,Ltd.

Address before: Nanshan District Shenzhen City, Guangdong province 518057 Shennan Road No. 9996 building, 7 storey main building height of song

Patentee before: Shenzhen Diqidadao Network Technology Co., Ltd.

C56 Change in the name or address of the patentee
CP02 Change in the address of a patent holder

Address after: Nanshan District Keyuan Road Shenzhen city Guangdong province 518057 No. 15 Kexing Science Park Building 2 unit A 17

Patentee after: Shenzhen 7road Technology Co.,Ltd.

Address before: Unit B2-B5 16 building 518000 Guangdong city of Shenzhen province Nanshan District high in the four EVOC Technology Building No. 31

Patentee before: Shenzhen 7road Technology Co.,Ltd.

TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20180425

Address after: 518052 Room 201, building A, No. 1, Qian Wan Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong (Shenzhen Qianhai business secretary Co., Ltd.)

Patentee after: Shenzhen Qianhai illusion Network Technology Co., Ltd.

Address before: 518057, 17 unit, 2 unit, A building, Kexing Science Park, 15 Keyuan Road, Nanshan District, Shenzhen, Guangdong.

Patentee before: Shenzhen 7road Technology Co.,Ltd.