CN103491155A - 一种实现移动计算和获取移动数据的云计算方法及*** - Google Patents

一种实现移动计算和获取移动数据的云计算方法及*** Download PDF

Info

Publication number
CN103491155A
CN103491155A CN201310425325.XA CN201310425325A CN103491155A CN 103491155 A CN103491155 A CN 103491155A CN 201310425325 A CN201310425325 A CN 201310425325A CN 103491155 A CN103491155 A CN 103491155A
Authority
CN
China
Prior art keywords
distributed
file system
load balancing
scheduling
storage
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201310425325.XA
Other languages
English (en)
Other versions
CN103491155B (zh
Inventor
王少华
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Si Tech Information Technology Co Ltd
Original Assignee
Beijing Si Tech Information Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Si Tech Information Technology Co Ltd filed Critical Beijing Si Tech Information Technology Co Ltd
Priority to CN201310425325.XA priority Critical patent/CN103491155B/zh
Publication of CN103491155A publication Critical patent/CN103491155A/zh
Application granted granted Critical
Publication of CN103491155B publication Critical patent/CN103491155B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Computer And Data Communications (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Multi Processors (AREA)

Abstract

本发明涉及一种实现移动计算和获取移动数据的云计算方法及***,包括产生业务请求,并将业务请求发送给处理池或查询池的应用程序服务器;用于制定调度策略和负载均衡策略的分布式调度管理单元;用于根据调度策略进行分布式处理,将处理结果分布式存入存储池的处理池;其用于根据负载均衡策略通过负载均衡方式在存储池中查找相关数据的查询池;用于实现文件存储的虚拟化、文件共享和透明存储的存储池;用于对处理池、分布式调度管理单元、存储池、查询池进行监控管理的云管理平台;基于分布式调度***和分布式文件***,可实现业务应用云化,通过可配置的方式,实现移动数据和移动计算,从而完成高效的并行计算。

Description

一种实现移动计算和获取移动数据的云计算方法及***
技术领域
本发明涉及计算机领域,尤其涉及一种实现移动计算和获取移动数据的云计算方法及***。
背景技术
在互联网、电信等许多关键领域,随着企业业务的不断发展,企业的I/T环境也在不断进行演变,在IT机房或广域网上逐渐形成了自己大量的服务器***,运行本企业各种业务的分布式应用软件。由于各服务器具有广域分布、异构、动态等特点,使得分布式应用***中各计算任务高效运行成为一个非常复杂且具有挑战性的问题。
例如对电信计费详单管理领域,现有的处理***存在以下问题:
1.***架构紧耦合:目前详单管理和核心业务紧耦合,影响核心业务,IO和资源竞争激烈,存储与计算未分离,切机困难。
2.硬件成本高:目前全部是高端资源来进行存储与计算,没有分级,成本高。
3.不能动态扩展:主机扩展时需停***迁移详单文件,并修改分区配置。不能停机,根据大区分配主机任务,主机的处理能力不均衡。
4.***升级扩展困难:目前***大区制分配资源,数据与应用未分离,***扩展、升级不灵活;无统一管控界面。
发明内容
本发明所要解决的技术问题是针对现有技术的不足,提供一种实现移动计算和获取移动数据的云计算方法及***。
本发明解决上述技术问题的技术方案如下:一种实现移动计算和获取移动数据的云计算方法,包括如下步骤:
步骤1:应用程序服务器产生业务请求;
步骤2:判断业务请求的类型,如果为处理请求则发送给处理池,执行步骤3,如果为查询请求则发送给查询池,执行步骤5;
步骤3:所述处理池根据接收的业务请求在分布式调度管理单元查找对应的调度策略,并根据调度策略对业务请求进行分布式处理;
步骤4:将处理结果发送给存储池,存储池将处理结果进行分布式存储,并将存储结果通过处理池返回给应用程序服务器,结束;
步骤5:所述查询池根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
步骤6:将查询结果返回给应用程序服务器,结束。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,步骤3中所述处理池根据调度策略对业务请求进行分布式处理的具体实现如下:
步骤3.1:所述分布式调度客户端接收应用程序服务器发送的处理请求;
步骤3.2:根据处理请求在分布式调度管理单元中查找相应的调度策略,进而根据调度策略将处理请求发送给相应的分布式调度代理服务器;
步骤3.3:所述分布式调度代理服务器对接收的处理请求进行处理,并将处理结果发送给对应的分布式文件***客户端。
进一步,步骤4中存储池将处理结果进行分布式存储的具体实现如下:
步骤4.1:所述分布式文件***客户端根据处理结果在分布式文件***元数据服务器上查找该处理结果的存储路径;
步骤4.2:根据存储路径将处理结果存储到相应的分布式文件***存储服务器上。
进一步,步骤5的具体实现如下:
步骤5.1:所述负载均衡客户端接收应用程序服务器发送的查询请求;
步骤5.2:根据查询请求在分布式调度管理单元中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负责均衡代理服务器;
步骤5.3:所述负载均衡代理服务器将查询请求发送给相应的分布式文件***客户端;
步骤5.4:所述分布式文件***客户端根据查询请求的内容在分布式文件***元数据服务器上查找相应的数据存储路径;
步骤5.5:分布式文件***客户端根据数据存储路径在相应的分布式文件***存储服务器上查询所需数据;
步骤5.6:通过查询池将查找的数据返回给相应的应用程序服务器。
进一步,上述技术方案还包括云管理平台对处理池、查询池、分布式调度管理单元、存储池进行监控管理。
进一步,所述步骤4.2分布式文件***客户端将处理结果存储到分布式文件***存储器的同时,也会在客户端内的本地缓存单元存储一定时间段内接收的处理结果。
本发明解决上述技术问题的另一技术方案如下:一种实现移动计算和获取移动数据的云计算***,包括若干个应用程序服务器、分布式调度管理单元、处理池、查询池、存储池和云管理平台;
所述应用程序服务器,其用于产生业务请求,根据业务请求的类型将业务请求发送给处理池或查询池;
所述分布式调度管理单元,其用于制定调度策略和负载均衡策略供处理池和查询池调取;
所述处理池,其用于根据接收的业务请求在分布式调度管理单元中查找对应的调度策略,并根据调度策略进行分布式处理,将处理结果分布式存入存储池;
所述查询池,其用于根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
所述存储池,其用于实现文件存储的虚拟化、文件共享和透明存储;
所述云管理平台,其用于对分布式调度管理单元、处理池、查询池和存储池进行监控管理。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述处理池包括分布式调度客户端和若干个分布式调度代理服务器;
所述分布式调度客户端,其用于接收应用程序服务器发送的业务请求,并根据业务请求在分布式调度管理单元中查找相应的调度策略,进而根据调度策略将业务请求发送给相应的分布式调度代理服务器;
所述分布式调度代理服务器,其用于对接收的业务请求进行处理,并将处理结果发送给相应的分布式文件***客户端。
进一步,所述查询池包括负载均衡客户端和若干个负载均衡代理服务器;
所述负载均衡客户端,其用于接收应用程序服务器发送的查询请求,并在分布式调度管理单元中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负载均衡代理服务器;
所述负载均衡代理服务器,其用于将查询请求发送给相应的分布式文件***客户端。
进一步,所述存储池包括若干个分布式文件***客户端、若干个分布式文件***存储服务器、分布式文件***元数据服务器和分布式文件***管理工具;
所述分布式文件***客户端,其用于根据分布式调度代理服务器发送的处理结果在分布式文件***元数据服务器上查找该处理结果的存储路径,进而根据存储路径将处理结果存储到相应的分布式文件***存储服务器上,
或者,根据负载均衡代理服务器发送的查询请求在分布式文件***元数据服务器中查找所需数据的存储路径,并根据存储路径到相应的分布式文件***存储服务器中查找所需数据;
所述分布式文件***元数据服务器,其用于存储元数据,并对存储池中的分布式文件***客户端和分布式文件***存储服务器进行监控管理;
所述分布式文件***存储服务器,其用于存储分布式文件***客户端发送的数据;
所述分布式文件***管理工具,其用于监控存储池的运作情况。
本发明的有益效果是:
1.***架构松耦合,利用分布式调度***和分布式文件***实现处理池、查询池和存储池,各个计算池彼此独立可以动态扩展;
2.硬件成本低,所述***的各个主机部署在X86,降低了硬件成本,因此支持在不增加硬件投入的条件下,提高***并发处理能力;
3.动态扩展性强:分布式调度***协调处理各计算资源池的任务,使得各计算节点处理能力均衡和动态伸缩,所述存储池通过分布式文件***实现,确保存储池的动态伸缩;
4.在线升级容易,通过分布式调度***进行统一任务调度,通过云管理平台实现在线升级。
基于分布式调度***和分布式文件***,可实现业务应用云化,通过可配置方式,实现移动数据和移动计算,从而完成高效的并行计算。
附图说明
图1为本发明所述一种实现移动计算和获取移动数据的云计算方法流程图;
图2为本发明所述步骤3流程图;
图3为本发明所述步骤4流程图;
图4为本发明所述步骤5流程图;
图5为本发明所述一种实现移动计算和获取移动数据的云计算***结构图;
图6为本发明所述处理池结构图;
图7为本发明所述查询池结构图;
图8为本发明所述存储池结构图。
附图中,各标号所代表的部件列表如下:
1、应用程序服务器,2、分布式调度管理单元,3、处理池,4、查询池,5、存储池,6、云管理平台,301、分布式调度客户端,302、分布式调度代理服务器,401、负载均衡客户端,402、负载均衡代理服务器,501、分布式文件***客户端,502、分布式文件***元数据服务器,503、分布式文件***存储服务器,504、分布式文件***管理工具。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
如图1所示,一种实现移动计算和获取移动数据的云计算方法,包括如下步骤:
步骤1:应用程序服务器产生业务请求;
步骤2:判断业务请求的类型,如果为处理请求则发送给处理池,执行步骤3,如果为查询请求则发送给查询池,执行步骤5;
步骤3:所述处理池根据接收的业务请求在分布式调度管理单元查找对应的调度策略,并根据调度策略对业务请求进行分布式处理;
步骤4:将处理结果发送给存储池,存储池将处理结果进行分布式存储,并将存储结果通过处理池返回给应用程序服务器,结束;
步骤5:所述查询池根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
步骤6:将查询结果返回给应用程序服务器,结束。
其中,上述技术方案还包括云管理平台对处理池、查询池、分布式调度管理单元、存储池进行监控管理。
如图2所示,步骤3中所述处理池根据调度策略对业务请求进行分布式处理的具体实现如下:
步骤3.1:所述分布式调度客户端接收应用程序服务器发送的处理请求;
步骤3.2:根据处理请求在分布式调度管理单元中查找相应的调度策略,进而根据调度策略将处理请求发送给相应的分布式调度代理服务器;
步骤3.3:所述分布式调度代理服务器对接收的处理请求进行处理,并将处理结果发送给对应的分布式文件***客户端。
如图3所示,步骤4中存储池将处理结果进行分布式存储的具体实现如下:
步骤4.1:所述分布式文件***客户端根据处理结果在分布式文件***元数据服务器上查找该处理结果的存储路径;
步骤4.2:根据存储路径将处理结果存储到相应的分布式文件***存储服务器上。
其中,所述步骤4.2分布式文件***客户端将处理结果存储到分布式文件***存储器的同时,也会在客户端内的本地缓存单元存储一定时间段内接收的处理结果。
如图4所示,步骤5的具体实现如下:
步骤5.1:所述负载均衡客户端接收应用程序服务器发送的查询请求;
步骤5.2:根据查询请求在分布式调度管理单元中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负责均衡代理服务器;
步骤5.3:所述负载均衡代理服务器将查询请求发送给相应的分布式文件***客户端;
步骤5.4:所述分布式文件***客户端根据查询请求的内容在分布式文件***元数据服务器上查找相应的数据存储路径;
步骤5.5:分布式文件***客户端根据数据存储路径在相应的分布式文件***存储服务器上查询所需数据;
步骤5.6:通过查询池将查找的数据返回给相应的应用程序服务器。
如图5所示,一种实现移动计算和获取移动数据的云计算***,包括若干个应用程序服务器1、分布式调度管理单元2、处理池3、查询池4、存储池5和云管理平台6;
所述应用程序服务器1,其用于产生业务请求,根据业务请求的类型将业务请求发送给处理池2或查询池3;
所述分布式调度管理单元2,其用于制定调度策略和负载均衡策略供处理池和查询池调取;
所述处理池3,其用于根据接收的业务请求在分布式调度管理单元中2查找对应的调度策略,并根据调度策略进行分布式处理,将处理结果分布式存入存储池;
所述查询池4,其用于根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
所述存储池5,其用于实现文件存储的虚拟化、文件共享和透明存储;
所述云管理平台6,其用于对分布式调度管理单元、处理池、查询池和存储池进行监控管理。
其中,云管理平台,提供可视化界面,对整个移动计算移动数据做监控和管理。可以监控各服务器资源,可以监控处理池、查询池和存储池各模块是否运行正常,如果发现某模块运作不正常,可以告警提示维护人员,可以自动处理部分故障,恢复各模块的正常运作状态。
处理池,分布式调度客户端根据调度策略调度各分布式调度代理服务器的处理任务,实现各分布式调度代理服务器的协调和并行运行,满足数据管理的并行计算、动态扩展要求。
查询池,通过负载均衡任务调度,实现查询池的各负载均衡代理服务器的并行查询处理,实现查询处理的并行计算。
存储池,基于分布式文件***构建存储池,实现文件存储虚拟化,文件共享和透明存储。
如图6所示,所述处理池3包括分布式调度客户端301和若干个分布式调度代理服务器302;
所述分布式调度客户端301,其用于接收应用程序服务器1发送的业务请求,并根据业务请求在分布式调度管理单元2中查找相应的调度策略,进而根据调度策略将业务请求发送给相应的分布式调度代理服务器302;
所述分布式调度代理服务器302,其用于对接收的业务请求进行处理,并将处理结果发送给相应的分布式文件***客户端401。
如图7所示,所述查询池4包括负载均衡客户端401和若干个负载均衡代理服务器402;
所述负载均衡客户端401,其用于接收应用程序服务器1发送的查询请求,并在分布式调度管理单元2中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负载均衡代理服务器402;
所述负载均衡代理服务器402,其用于将查询请求发送给相应的分布式文件***客户端401。
如图8所示,所述存储池5包括若干个分布式文件***客户端501、若干个分布式文件***存储服务器503、分布式文件***元数据服务器502和分布式文件***管理工具504;
所述分布式文件***客户端501,其用于根据分布式调度代理服务器302发送的处理结果在分布式文件***元数据服务器502上查找该处理结果的存储路径,进而根据存储路径将处理结果存储到相应的分布式文件***存储服务器503上,
或者,根据负载均衡代理服务器402发送的查询请求在分布式文件***元数据服务器502中查找所需数据的存储路径,并根据存储路径到相应的分布式文件***存储服务器503中查找所需数据;
所述分布式文件***元数据服务器502,其用于存储元数据,并对存储池中的分布式文件***客户端501和分布式文件***存储服务器503进行监控管理;
所述分布式文件***存储服务器503,其用于存储分布式文件***客户端501发送的数据;
所述分布式文件***管理工具504,其用于监控存储池5的运作情况。
分布式文件***客户端501内的本地缓存单元存储一定时间段内(一般为当日接收的处理结果)接收的处理结果。
其中分布式文件***客户端501内存储有移动数据和移动计算的配置策略,在数据查询时,以可配置方式配置移动数据和移动计算策略,对于当日数据的查询,采用本地缓存方式,即存储池数据根据配置信息将当日数据缓存在查询池所在的服务器中,在查询池所在的服务器的缓冲单元中查询,以移动计算模式进行并行计算,对于往日数据的查询,配置移动数据策略,以多级索引的方式,通过分布式文件***进行数据移动,进行数据查询和并行计算。
其中,移动计算:是人们能在任何时间、任何地点、能不间断地从网络中获取所期望的服务的技术总称。移动数据:是人们能在任何时间、任何地点、能不间断地从网络中获取所期望的数据。例如:使用手机终端查询话费,阅读小说,收听网络音乐这都是获取服务,属于移动计算。而这个过程中,话费的内容,小说的文字数据,音乐的音频文件都是移动数据。
处理池的分布式调度客户端依据从调度管理单元获取的调度策略将任务分发到各个分布式调度代理端,各分布式调度代理端计算任务创建、处理和退出等,实现计算任务的移动,完成移动计算,对于处理数据量较大的计算任务,在计算处理前,利用文件***数据缓存技术将数据缓存在本地,通过分布式调度,进行移动计算。
处理池的分布式调度客户端采集任务,对于移动计算类的任务,数据存储生成索引,生成数据文件和日志文件。对于移动数据类的任务,数据存储生成数据文件,存储池利用缓存机制,缓存数据信息。
查询池的负载均衡代理服务器,对于移动计算类的任务,读取索引,读取数据文件。对于移动数据类的任务,读取存储池缓存数据,如果缓存数据没有命中,则从存储池的分布式文件***中读取数据,同时更新存储池缓存信息。
分布式调度***基于分布式调度模型,管理控制各计算任务,创建、运行、暂停、停止,退出处理池、查询池、数据查询和存储任务,同时进行失效保护,数据迁移。
所述分布式调度***主要由分布式调度管理单元、分布式调度客户端、分布式调度代理服务器、负载均衡客户端和负载均衡代理服务器组成,分布式调度管理单元负责调度策略的制定,数据划分、任务调度、负载均衡、容错处理等;分布式调度客户端(负载均衡客户端)同上游应用对接,上游应用通过分布式调度客户端(负载均衡客户端)同分布式调度***交互;分布式调度代理服务器(负载均衡代理服务器)负责从分布式调度客户端(负载均衡客户端)接收任务,并根据在分布式调度管理单元查找的调度策略(负载均衡策略)完成本地的任务调度,进行数据处理和计算,并负责数据传输通信。
通过存储池的分布式文件***,对分布式文件***存储服务器数据进行操作,完成移动数据计算。对于处理数据量较小的计算任务,利用数据检索技术,存取数据,通过分布式文件***进行数据移动,完成数据移动计算。
存储池的分布式文件***是一款针对海量数据存储,为云存储服务而设计的集群存储***,提供PB级的存储容量,实现文件***储存虚拟化,使应用可以透明地访问实际分布的文件物理数据,保证海量存储的数据访问性能,具有高容错性、高可用性、可扩展性以及可管理性和按需服务,不存在单点故障问题。由分布式文件***客户端、分布式文件***元数据服务器、分布式文件***存储数据服务器和分布式文件***管理工具组成。为了提高性能以可配置方式提高本地文件缓存机制。
分布式文件***的客户端,处理池中的每个分布式调度代理服务器和查询池中的每个负载均衡代理服务器上均需要安装分布式文件***的客户端,通过分布式文件***客户端进行高效的分布式文件***访问存储。
分布式文件***元数据服务器,管理分布式文件***的元数据(包括文件目录树组织、属性维护、文件操作日志记录、授权访问等),管理整个存储***的命名空间,对外提供单一的***映像,并负责整个存储集群的管理监控。分布式文件***元数据服务器协调指挥应用服务器和存储服务器之间的活动,提供对名称空间、访问控制信息、文件与存储块映射信息、块位置等信息的管理
分布式文件***存储服务器,存储用户的实际数据,是整个分布式文件***存储资源提供者。当应用服务器进行数据访问时,存储服务器集群提供实际的数据IO服务。数据压力能够非常均衡的分布在存储服务器集群之间。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。

Claims (10)

1.一种实现移动计算和获取移动数据的云计算方法,其特征在于,包括如下步骤:
步骤1:应用程序服务器产生业务请求;
步骤2:判断业务请求的类型,如果为处理请求则发送给处理池,执行步骤3,如果为查询请求则发送给查询池,执行步骤5;
步骤3:所述处理池根据接收的业务请求在分布式调度管理单元查找对应的调度策略,并根据调度策略对业务请求进行分布式处理;
步骤4:将处理结果发送给存储池,存储池将处理结果进行分布式存储,并将存储结果通过处理池返回给应用程序服务器,结束;
步骤5:所述查询池根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
步骤6:将查询结果返回给应用程序服务器,结束。
2.根据权利要求1所述一种实现移动计算和获取移动数据的云计算方法,其特征在于,步骤3中所述处理池根据调度策略对业务请求进行分布式处理的具体实现如下:
步骤3.1:所述分布式调度客户端接收应用程序服务器发送的处理请求;
步骤3.2:根据处理请求在分布式调度管理单元中查找相应的调度策略,进而根据调度策略将处理请求发送给相应的分布式调度代理服务器;
步骤3.3:所述分布式调度代理服务器对接收的处理请求进行处理,并将处理结果发送给对应的分布式文件***客户端。
3.根据权利要求1所述一种实现移动计算和获取移动数据的云计算方法,其特征在于,步骤4中存储池将处理结果进行分布式存储的具体实现如下:
步骤4.1:所述分布式文件***客户端根据处理结果在分布式文件***元数据服务器上查找该处理结果的存储路径;
步骤4.2:根据存储路径将处理结果存储到相应的分布式文件***存储服务器上。
4.根据权利要求1所述一种实现移动计算和获取移动数据的云计算方法,其特征在于,步骤5的具体实现如下:
步骤5.1:所述负载均衡客户端接收应用程序服务器发送的查询请求;
步骤5.2:根据查询请求在分布式调度管理单元中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负责均衡代理服务器;
步骤5.3:所述负载均衡代理服务器将查询请求发送给相应的分布式文件***客户端;
步骤5.4:所述分布式文件***客户端根据查询请求的内容在分布式文件***元数据服务器上查找相应的数据存储路径;
步骤5.5:分布式文件***客户端根据数据存储路径在相应的分布式文件***存储服务器上查询所需数据;
步骤5.6:通过查询池将查找的数据返回给相应的应用程序服务器。
5.根据权利要求1所述一种实现移动计算和获取移动数据的云计算方法,其特征在于,还包括云管理平台对处理池、查询池、分布式调度管理单元、存储池进行监控管理。
6.根据权利要求3所述一种实现移动计算和获取移动数据的云计算方法,其特征在于,所述步骤4.2分布式文件***客户端将处理结果存储到分布式文件***存储器的同时,也会在客户端内的本地缓存单元存储一定时间段内接收的处理结果。
7.一种实现移动计算和获取移动数据的云计算***,其特征在于,包括若干个应用程序服务器、分布式调度管理单元、处理池、查询池、存储池和云管理平台;
所述应用程序服务器,其用于产生业务请求,根据业务请求的类型将业务请求发送给处理池或查询池;
所述分布式调度管理单元,其用于制定调度策略和负载均衡策略供处理池和查询池调取;
所述处理池,其用于根据接收的业务请求在分布式调度管理单元中查找对应的调度策略,并根据调度策略进行分布式处理,将处理结果分布式存入存储池;
所述查询池,其用于根据接收的业务请求在分布式调度管理单元中查找相应的负载均衡策略,并根据负载均衡策略通过负载均衡方式在存储池中查找相关数据;
所述存储池,其用于实现文件存储的虚拟化、文件共享和透明存储;
所述云管理平台,其用于对分布式调度管理单元、处理池、查询池和存储池进行监控管理。
8.根据权利要求6所述一种实现移动计算和获取移动数据的云计算***,其特征在于,所述处理池包括分布式调度客户端和若干个分布式调度代理服务器;
所述分布式调度客户端,其用于接收应用程序服务器发送的业务请求,并根据业务请求在分布式调度管理单元中查找相应的调度策略,进而根据调度策略将业务请求发送给相应的分布式调度代理服务器;
所述分布式调度代理服务器,其用于对接收的业务请求进行处理,并将处理结果发送给相应的分布式文件***客户端。
9.根据权利要求6所述一种实现移动计算和获取移动数据的云计算***,其特征在于,所述查询池包括负载均衡客户端和若干个负载均衡代理服务器;
所述负载均衡客户端,其用于接收应用程序服务器发送的查询请求,并在分布式调度管理单元中查找相应的负载均衡策略,进而根据负载均衡策略将查询请求发送给相应的负载均衡代理服务器;
所述负载均衡代理服务器,其用于将查询请求发送给相应的分布式文件***客户端。
10.根据权利要求6所述一种实现移动计算和获取移动数据的云计算***,其特征在于,所述存储池包括若干个分布式文件***客户端、若干个分布式文件***存储服务器、分布式文件***元数据服务器和分布式文件***管理工具;
所述分布式文件***客户端,其用于根据分布式调度代理服务器发送的处理结果在分布式文件***元数据服务器上查找该处理结果的存储路径,进而根据存储路径将处理结果存储到相应的分布式文件***存储服务器上,
或者,根据负载均衡代理服务器发送的查询请求在分布式文件***元数据服务器中查找所需数据的存储路径,并根据存储路径到相应的分布式文件***存储服务器中查找所需数据;
所述分布式文件***元数据服务器,其用于存储元数据,并对存储池中的分布式文件***客户端和分布式文件***存储服务器进行监控管理;
所述分布式文件***存储服务器,其用于存储分布式文件***客户端发送的数据;
所述分布式文件***管理工具,其用于监控存储池的运作情况。
CN201310425325.XA 2013-09-17 2013-09-17 一种实现移动计算和获取移动数据的云计算方法及*** Active CN103491155B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201310425325.XA CN103491155B (zh) 2013-09-17 2013-09-17 一种实现移动计算和获取移动数据的云计算方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201310425325.XA CN103491155B (zh) 2013-09-17 2013-09-17 一种实现移动计算和获取移动数据的云计算方法及***

Publications (2)

Publication Number Publication Date
CN103491155A true CN103491155A (zh) 2014-01-01
CN103491155B CN103491155B (zh) 2017-04-12

Family

ID=49831108

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201310425325.XA Active CN103491155B (zh) 2013-09-17 2013-09-17 一种实现移动计算和获取移动数据的云计算方法及***

Country Status (1)

Country Link
CN (1) CN103491155B (zh)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105635196A (zh) * 2014-10-27 2016-06-01 中国电信股份有限公司 一种获取文件数据的方法、***和应用服务器
CN106060594A (zh) * 2016-05-25 2016-10-26 武汉斗鱼网络科技有限公司 一种基于播放器心跳的白名单生成***及方法
CN106612218A (zh) * 2017-01-01 2017-05-03 国云科技股份有限公司 一种虚拟访问入口数据包的地区区域特征提取方法
CN107423301A (zh) * 2016-05-24 2017-12-01 华为技术有限公司 一种数据处理的方法、相关设备及存储***
CN107453951A (zh) * 2017-08-15 2017-12-08 郑州云海信息技术有限公司 一种存储池监控方法及装置
CN107491551A (zh) * 2017-08-30 2017-12-19 郑州云海信息技术有限公司 一种分布式文件***实现客户端访问的方法及装置
CN107958033A (zh) * 2017-11-20 2018-04-24 郑州云海信息技术有限公司 元数据的查找方法、装置、分布式文件***及存储介质
CN109901552A (zh) * 2019-03-12 2019-06-18 杭州哲达科技股份有限公司 一种面向机泵安康管控的振动多维感知与云计算方法
CN111897792A (zh) * 2020-08-11 2020-11-06 北京无线电测量研究所 一种分布式文件存取方法、***、介质及设备
CN112541038A (zh) * 2020-12-01 2021-03-23 杭州海康威视数字技术股份有限公司 时序数据管理方法、***、计算设备及存储介质

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1928873A (zh) * 2006-09-25 2007-03-14 华为技术有限公司 一种实现负荷分担的数据库访问方法及***
US20080137830A1 (en) * 2006-12-12 2008-06-12 Bhogal Kulvir S Dispatching A Message Request To A Service Provider In A Messaging Environment
CN101969391A (zh) * 2010-10-27 2011-02-09 北京邮电大学 一种支持融合网络业务的云平台及其工作方法
CN103106249A (zh) * 2013-01-08 2013-05-15 华中科技大学 一种基于Cassandra的数据并行处理***

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1928873A (zh) * 2006-09-25 2007-03-14 华为技术有限公司 一种实现负荷分担的数据库访问方法及***
US20080137830A1 (en) * 2006-12-12 2008-06-12 Bhogal Kulvir S Dispatching A Message Request To A Service Provider In A Messaging Environment
CN101969391A (zh) * 2010-10-27 2011-02-09 北京邮电大学 一种支持融合网络业务的云平台及其工作方法
CN103106249A (zh) * 2013-01-08 2013-05-15 华中科技大学 一种基于Cassandra的数据并行处理***

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN105635196B (zh) * 2014-10-27 2019-08-09 中国电信股份有限公司 一种获取文件数据的方法、***和应用服务器
CN105635196A (zh) * 2014-10-27 2016-06-01 中国电信股份有限公司 一种获取文件数据的方法、***和应用服务器
CN107423301A (zh) * 2016-05-24 2017-12-01 华为技术有限公司 一种数据处理的方法、相关设备及存储***
CN106060594A (zh) * 2016-05-25 2016-10-26 武汉斗鱼网络科技有限公司 一种基于播放器心跳的白名单生成***及方法
CN106612218A (zh) * 2017-01-01 2017-05-03 国云科技股份有限公司 一种虚拟访问入口数据包的地区区域特征提取方法
CN107453951A (zh) * 2017-08-15 2017-12-08 郑州云海信息技术有限公司 一种存储池监控方法及装置
CN107491551A (zh) * 2017-08-30 2017-12-19 郑州云海信息技术有限公司 一种分布式文件***实现客户端访问的方法及装置
CN107491551B (zh) * 2017-08-30 2021-04-06 郑州云海信息技术有限公司 一种分布式文件***实现客户端访问的方法及装置
CN107958033A (zh) * 2017-11-20 2018-04-24 郑州云海信息技术有限公司 元数据的查找方法、装置、分布式文件***及存储介质
CN109901552A (zh) * 2019-03-12 2019-06-18 杭州哲达科技股份有限公司 一种面向机泵安康管控的振动多维感知与云计算方法
CN109901552B (zh) * 2019-03-12 2021-09-03 杭州哲达科技股份有限公司 一种面向机泵安康管控的振动多维感知与云计算方法
CN111897792A (zh) * 2020-08-11 2020-11-06 北京无线电测量研究所 一种分布式文件存取方法、***、介质及设备
CN112541038A (zh) * 2020-12-01 2021-03-23 杭州海康威视数字技术股份有限公司 时序数据管理方法、***、计算设备及存储介质

Also Published As

Publication number Publication date
CN103491155B (zh) 2017-04-12

Similar Documents

Publication Publication Date Title
CN103491155A (zh) 一种实现移动计算和获取移动数据的云计算方法及***
JP7221975B2 (ja) マルチマスタ分散データ管理システムにおけるトランザクション処理
CN108885582B (zh) 存储器池结构的多租户存储器服务
Rao et al. Performance issues of heterogeneous hadoop clusters in cloud computing
US10715460B2 (en) Opportunistic resource migration to optimize resource placement
CA2892889C (en) Scaling computing clusters
US10853242B2 (en) Deduplication and garbage collection across logical databases
CN103905503A (zh) 数据存取方法、调度方法、设备及***
US9542408B2 (en) Method and process for enabling distributing cache data sources for query processing and distributed disk caching of large data and analysis requests
US20190018844A1 (en) Global namespace in a heterogeneous storage system environment
US20200081867A1 (en) Independent evictions from datastore accelerator fleet nodes
CN103595799B (zh) 一种实现分布式共享数据库的方法
CN104081353A (zh) 可缩放环境中的动态负载平衡
CN103890738A (zh) 用于保留克隆分离操作之后的存储对象中的消重的***和方法
CN102917025A (zh) 一种云计算平台的业务迁移方法
US11080207B2 (en) Caching framework for big-data engines in the cloud
CN111966494A (zh) 一种资源编排的调度方法、装置、存储介质及电子设备
CN111737168A (zh) 一种缓存***、缓存处理方法、装置、设备及介质
Vijayakumari et al. Comparative analysis of *** file system and hadoop distributed file system
US10802922B2 (en) Accelerated deduplication block replication
AU2011312100A1 (en) Automatic selection of secondary backend computing devices for virtual machine image replication
Jia Google cloud computing platform technology architecture and the impact of its cost
US10216534B1 (en) Moving storage volumes for improved performance
CN106570151A (zh) 一种海量文件的数据收集处理方法及***
Pingle et al. Big data processing using apache hadoop in cloud system

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant