CN112398669B - 一种Hadoop部署方法和装置 - Google Patents
一种Hadoop部署方法和装置 Download PDFInfo
- Publication number
- CN112398669B CN112398669B CN201910753380.9A CN201910753380A CN112398669B CN 112398669 B CN112398669 B CN 112398669B CN 201910753380 A CN201910753380 A CN 201910753380A CN 112398669 B CN112398669 B CN 112398669B
- Authority
- CN
- China
- Prior art keywords
- deployment
- hadoop
- commands
- maintenance platform
- automatic operation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 44
- 238000012423 maintenance Methods 0.000 claims abstract description 75
- 238000012545 processing Methods 0.000 claims description 13
- 238000004590 computer program Methods 0.000 claims description 9
- 230000008569 process Effects 0.000 abstract description 8
- 238000010586 diagram Methods 0.000 description 10
- 150000003839 salts Chemical class 0.000 description 9
- 230000006870 function Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000013461 design Methods 0.000 description 2
- 239000000835 fiber Substances 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000000644 propagated effect Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 108010015780 Viral Core Proteins Proteins 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/02—Standardisation; Integration
- H04L41/0246—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols
- H04L41/0266—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols using meta-data, objects or commands for formatting management information, e.g. using eXtensible markup language [XML]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/18—File system types
- G06F16/182—Distributed file systems
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/02—Standardisation; Integration
- H04L41/0246—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols
- H04L41/0253—Exchanging or transporting network management information using the Internet; Embedding network management web servers in network elements; Web-services-based protocols using browsers or web-pages for accessing management information
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L41/00—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks
- H04L41/22—Arrangements for maintenance, administration or management of data switching networks, e.g. of packet switching networks comprising specially adapted graphical user interfaces [GUI]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/10—Protocols in which an application is distributed across nodes in the network
- H04L67/1097—Protocols in which an application is distributed across nodes in the network for distributed storage of data in networks, e.g. transport arrangements for network file system [NFS], storage area networks [SAN] or network attached storage [NAS]
Landscapes
- Engineering & Computer Science (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Debugging And Monitoring (AREA)
Abstract
本发明公开了一种Hadoop部署方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的个Hadoop集群或者一个或多个Hadoop节点;合并或拆分所述一个或多个部署命令;将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。该实施方式降低了自动化运维平台处理部署命令时需要消耗的内存,提高了自动化运维平台的吞吐量,进而提高了Hadoop部署效率。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种Hadoop部署方法和装置。
背景技术
Hadoop是一个由Apache基金会所开发的分布式***基础架构,具有两大核心设计:HDFS和MapReduce;其中,HDFS(Hadoop Distributed File System),即分布式文件***,为海量数据提供了存储,而MapReduce则为海量数据的计算提供了可能,使得Hadoop不仅可提供高吞吐量的应用数据访问,还适用于具有大数据集的应用程序。因此,常需要批量部署Hadoop集群或批量执行命令。目前,常用的Hadoop部署方法是,借助于自动化运维工具或自动化运维平台实现Hadoop部署。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:随着部署的Hadoop节点数量的大幅增加,尤其是需要同时对上万Hadoop节点进行部署时,对大量部署命令以及Hadoop节点执行结果的处理给处理器造成了极大的压力,限制了***的吞吐量,降低了Hadoop部署的效率。
发明内容
有鉴于此,本发明提供了一种Hadoop部署方法和装置,能够通过对部署命令的拆分或者合并,实现部署命令的分发控制,极大地降低了部署命令以及Hadoop节点执行结果给处理器造成了极大的压力,提高了Hadoop部署效率。
为实现上述目的,根据本发明的第一方面,提供了一种Hadoop部署方法,包括:接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的个Hadoop集群或者一个或多个Hadoop节点;合并或拆分所述一个或多个部署命令;将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
可选地,根据下述的一项或多项,合并或拆分所述一个或多个部署命令:部署命令的数量、执行所述部署命令的Hadoop节点的类型、执行所述部署命令的Hadoop节点的数量。
可选地,所述自动化运维平台的服务端通过Redis队列将将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。
可选地,还包括:接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。
可选地,所述自动化运维平台是Saltstack或者Ansible。
为实现上述目的,根据本发明的第二方面,提供了一种Hadoop部署装置,包括:部署请求接收模块、命令管理模块、命令发送模块;其中,所述部署请求接收模块,用于接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的Hadoop集群或者一个或多个Hadoop节点;所述命令管理模块,用于合并或拆分所述一个或多个部署命令;所述命令发送模块,用于将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
可选地,所述命令管理模块,用于根据下述的一项或多项,合并或拆分所述一个或多个部署命令:部署命令的数量、执行所述部署命令的Hadoop节点的类型、执行所述部署命令的Hadoop节点的数量。
可选地,所述自动化运维平台的服务端通过Redis队列将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。
可选地,还包括:执行结果处理模块;所述执行结果处理模块,用于接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。
可选地,所述自动化运维平台是Saltstack或者Ansible。
为实现上述目的,根据本发明的第三方面,提供了一种用于Hadoop部署的服务器,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如上所述Hadoop部署方法中任一所述的方法。
为实现上述目的,根据本发明的第四方面,一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如上所述Hadoop部署方法中任一所述的方法。
由于采用了上述技术方案,本发明具有如下优点或有益效果:通过对部署请求中部署命令的合并或者拆分,实现了对部署命令分发的控制,避免了过量部署命令对自动化运维平台造成的压力,提高了自动化运维平台向Hadoop节点部署命令的效率;同时,通过Redis队列,进一步减缓了自动化运维平台服务端向所管理的Hadoop节点发送命令时的压力;此外,通过自动化运维平台的结果返回器直接返回执行结果的方式,大幅度降低了查询或者获取执行结果对自动化运维平台所在服务器的的压力,同时提高了执行结果获取的效率,使得部署前台可实时监控部署的进度或Hadoop节点执行部署命令的进度。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的一种Hadoop部署方法的主要流程的示意图;
图2是根据本发明实施例的一种Hadoop部署装置的主要模块的示意图;
图3是根据本发明实施例的一种Hadoop部署装置应用方法的主要流程示意图;
图4是本发明实施例可以应用于其中的示例性***架构图;
图5是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
如图1所示,本发明实施例提供了一种Hadoop部署方法,具体可以包括的步骤如下:
步骤S101,接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的个Hadoop集群或者一个或多个Hadoop节点。
部署前台是整个部署***的WEB模块,提供了所有可视化操作,包括任务进度控制、执行结果查询展示、软件管理等。部署前台可以在接收到根据部署命令返回的执行结果后,将执行结果存储到本地数据库中,进而可以实时或者按照实际需求查询执行结果,并将执行结果进行可视化展示。部署命令则可以包括在Hadoop节点上执行的任一命令,如删除一个目录、创建一个目录、启动一个Hadoop服务等。
更进一步地,为了实现部署前台发送部署请求与接收执行结果的异步处理,增加Hadoop部署时***的吞吐量,可以通过ActiveMQ、RabbitMQ、Kafka等消息队列进行部署请求的发送及执行结果的接收,进而提高了部署前台发送部署命令以及接收执行结果的效率。
步骤S102,合并或拆分所述一个或多个部署命令。
随着大数据量的增加,对应的需要同时或者批量部署的Hadoop节点的数量也在急剧增加,基于此,考虑将部署命令进行拆分或者合并,实现对部署命令的分流控制。如,当同时向一万个Hadoop节点上部署同一个软件包或者执行同一个软件包的更新时,则需要同时将上万个部署命令通过自动化运维平台发送给所管理的Hadoop节点,使得自动化运维平台需要同时运行的进程数量暴增,处理器压力过大,在很大程度上限制了Hadoop部署的效率,因此,考虑将一万个部署命令拆分为多个批次执行,如一次执行5000个等,从而减少了自动化运维平台一次性需要处理的部署命令的数量,缓解了处理部署命令时***的压力。
可以理解的是,在实际的执行过程中,可以根据实际需求实现对部署命令的拆分,如部署命令的数量、执行部署命令的Hadoop节点的类型、执行部署命令的Hadoop节点的数量。具体地,在部署命令数量较多时,将部署命令分批次进行处理;在部署命令数量较少时,可以将部署命令合并为新的部署命令并,用以减少执行部署命令的Hadoop节点的数量,实现负载均衡。同时,合并或者拆分部署命令时,可以根据部署的Hadoop节点的类型或者提供的服务的不同,如DataNode、NameNode等,将不同的部署命令分配给不同的类型的Hadoop节点。
步骤S103,将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
在实际的执行过程中,每一个Hadoop节点所在的服务器或者所在位置上布置有自动化运维平台的客户端,使得自动化运维平台的服务端可以将部署命令发送给Hadoop节点所在的自动化运维平台的客户端;自动化运维平台的客户端在接收到部署命令后,调用管理的Hadoop节点执行部署命令。
在一种可选的实施方式中,所述自动化运维平台是Saltstack或者Ansible。其中,SaltStack是一个服务器基础架构集中化管理平台,具备配置管理、远程执行、监控等功能,基于Python语言实现,结合轻量级消息队列(ZeroMQ)与Python第三方模块(Pyzmq、PyCrypto、Pyjinjia2、python-msgpack和PyYAML等)构建;通过SaltStack,可以在成千万台服务器上做到批量执行命令,根据不同业务进行配置集中化管理、分发文件、采集服务器数据、操作***基础及软件包管理。Ansible是一种基于Python开发自动化运维平台,实现了批量***配置、批量程序部署、批量运行命令等功能。
在一种可选的实施方式中,所述自动化运维平台的服务端通过Redis队列将将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。如此,通过Redis队列的缓存进一步降低了自动化运维平台的服务端在向自动化运维平台的客户端发送部署命令时的压力,提高了自动化运维平台处理部署命令的效率,进而提高了Hadoop部署的效率。
在一种可选的实施方式中,接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。具体地,在Hadoop节点执行完部署命令后,通过触发自动化运维平台的结果返回器(如Saltstack的Salt Returner)向Hadoop部署装置直接返回执行结果;Hadoop部署装置在接收到Salt Returner返回的执行结果后,在本地存储执行结果,同时将执行结果合并后,并通过与部署前台之间的消息队列将合并后的执行结果发送给部署前台。也即是说,避免了通过自动化运维平台客户端向自动化运维平台服务端返回执行结果,或者自动化运维平台服务端主动向自动化运维平台客户端查询执行结果所消耗的大量内存,提高了通过自动化运维平台服务端的部署命令的效率,同时,通过合并执行结果提高了部署前台接收执行结果的效率,为部署前台实时监控部署进度提供了可能。
基于上述实施例,通过对部署请求中部署命令的合并或者拆分,实现了对部署命令分发的控制,避免了过量部署命令对自动化运维平台造成的压力,提高了自动化运维平台向Hadoop节点部署命令的效率;同时,通过Redis队列,进一步减缓了自动化运维平台服务端向所管理的Hadoop节点发送命令时的压力;此外,通过自动化运维平台的结果返回器直接返回执行结果的方式,大幅度降低了查询或者获取执行结果对自动化运维平台所在服务器的的压力,同时提高了执行结果获取的效率,使得部署前台可实时监控部署的进度或Hadoop节点执行部署命令的进度。
参见图2,本发明实施例提供了一种Hadoop部署装置200,包括:部署请求接收模块201、命令管理模块202、命令发送模块203;其中,
所述部署请求接收模块201,用于接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的Hadoop集群或者一个或多个Hadoop节点;
所述命令管理模块202,用于合并或拆分所述一个或多个部署命令;
所述命令发送模块203,用于将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
在一种可选的实施方式中,所述命令管理模块202,用于根据下述的一项或多项,合并或拆分所述一个或多个部署命令:部署命令的数量、执行所述部署命令的Hadoop节点的类型、执行所述部署命令的Hadoop节点的数量。
在一种可选的实施方式中,所述自动化运维平台的服务端通过Redis队列将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。
在一种可选的实施方式中,还包括:执行结果处理模块204;所述执行结果处理模块204,用于接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。
在一种可选的实施方式中,所述自动化运维平台是Saltstack或者Ansible。
参见图3,在前述实施例的基础上,本发明实施例提供了一种Hadoop部署装置应用方法,具体如下:
Hadoop部署装置200,通过与部署前台之间的消息队列,接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的Hadoop集群或者一个或多个Hadoop节点。
Hadoop部署装置200,合并或拆分一个或多个部署命令。
Hadoop部署装置200,将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
具体地,Hadoop部署装置200,将合并或拆分后的部署命令发送给自动化运维平台的服务端(Salt Master);Salt Master通过消息队列将部署命令发送给执行部署命令的Hadoop节点上部署的自动化运维平台的客户端(Salt Minion);Salt Minion调用管理的Hadoop节点,使得Hadoop节点执行部署命令;在Hadoop节点执行完部署命令后,触发自动化运维平台的结果返回器(Salt Returner),使得Salt Returner将执行结果直接返回给Hadoop部署装置200;Hadoop部署装置200在接收到Salt Returner返回的执行结果后,在本地存储执行结果,并将执行结果合并后,通过与部署前台之间的消息队列发送给部署前台。
图4示出了可以应用本发明实施例的Hadoop部署方法或Hadoop部署装置的示例性***架构400。
如图4所示,***架构400可以包括终端设备401、402、403,网络404和服务器405。网络404用以在终端设备401、402、403和服务器405之间提供通信链路的介质。网络404可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备401、402、403通过网络404与服务器405交互,以接收或发送消息等。终端设备401、402、403上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等。
终端设备401、402、403可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器405可以是提供各种服务的服务器,例如对用户利用终端设备401、402、403所浏览的购物类网站提供支持的后台管理服务器。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如合并后的执行结果)反馈给终端设备。
需要说明的是,本发明实施例所提供的Hadoop部署方法一般由服务器405执行,相应地,Hadoop部署装置一般设置于服务器405中。
应该理解,图4中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图5,其示出了适于用来实现本发明实施例的终端设备的计算机***500的结构示意图。图5示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图5所示,计算机***500包括中央处理单元(CPU)501,其可以根据存储在只读存储器(ROM)502中的程序或者从存储部分508加载到随机访问存储器(RAM)503中的程序而执行各种适当的动作和处理。在RAM 503中,还存储有***500操作所需的各种程序和数据。CPU 501、ROM 502以及RAM 503通过总线504彼此相连。输入/输出(I/O)接口505也连接至总线504。
以下部件连接至I/O接口505:包括键盘、鼠标等的输入部分506;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分507;包括硬盘等的存储部分508;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分509。通信部分509经由诸如因特网的网络执行通信处理。驱动器510也根据需要连接至I/O接口505。可拆卸介质511,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器510上,以便于从其上读出的计算机程序根据需要被安装入存储部分508。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分509从网络上被下载和安装,和/或从可拆卸介质511被安装。在该计算机程序被中央处理单元(CPU)501执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括部署请求接收模块、命令管理模块、命令发送模块.其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,命令管理模块还可以被描述为“合并或拆分所述一个或多个部署命令的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:接收部署前台发送的部署请求,所述部署请求指示了一个或多个部署数据,所述部署数据指示了一个或多个部署命令、执行所述部署命令的个Hadoop集群或者一个或多个Hadoop节点;合并或拆分所述一个或多个部署命令;将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
根据本发明实施例的技术方案,通过对部署请求中部署命令的合并或者拆分,实现了对部署命令分发的控制,避免了过量部署命令对自动化运维平台造成的压力,提高了自动化运维平台向Hadoop节点部署命令的效率;同时,通过Redis队列,进一步减缓了自动化运维平台服务端向所管理的Hadoop节点发送命令时的压力;此外,通过自动化运维平台的结果返回器直接返回执行结果的方式,大幅度降低了查询或者获取执行结果对自动化运维平台所在服务器的的压力,同时提高了执行结果获取的效率,使得部署前台可实时监控部署的进度或Hadoop节点执行部署命令的进度。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (12)
1.一种Hadoop部署方法,其特征在于,包括:
接收部署前台发送的部署请求,所述部署请求指示了多个部署数据,所述部署数据指示了多个部署命令、以及执行所述部署命令的Hadoop集群或者一个或多个Hadoop节点;
合并或拆分所述多个部署命令;
将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
2.根据权利要求1所述的Hadoop部署方法,其特征在于,
根据下述的一项或多项,合并或拆分所述多个部署命令:部署命令的数量、执行所述部署命令的Hadoop节点的类型、执行所述部署命令的Hadoop节点的数量。
3.根据权利要求1所述的Hadoop部署方法,其特征在于,所述自动化运维平台的服务端通过Redis队列将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。
4.根据权利要求1所述的Hadoop部署方法,其特征在于,还包括:
接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;
合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。
5.根据权利要求1所述的Hadoop部署方法,其特征在于,所述自动化运维平台是Saltstack或者Ansible。
6.一种Hadoop部署装置,其特征在于,包括:部署请求接收模块、命令管理模块、命令发送模块;其中,
所述部署请求接收模块,用于接收部署前台发送的部署请求,所述部署请求指示了多个部署数据,所述部署数据指示了多个部署命令、以及执行所述部署命令的Hadoop集群或者一个或多个Hadoop节点;
所述命令管理模块,用于合并或拆分所述多个部署命令;
所述命令发送模块,用于将合并或拆分后的一个或多个部署命令发送至自动化运维平台的服务端,以使得所述自动化运维平台的服务端所管理的Hadoop节点执行所述部署命令。
7.根据权利要求6所述的Hadoop部署装置,其特征在于,所述命令管理模块,用于根据下述的一项或多项,合并或拆分所述多个部署命令:部署命令的数量、执行所述部署命令的Hadoop节点的类型、执行所述部署命令的Hadoop节点的数量。
8.根据权利要求6所述的Hadoop部署装置,其特征在于,所述自动化运维平台的服务端通过Redis队列将合并或拆分后的一个或多个部署命令发送至所述Hadoop节点。
9.根据权利要求6所述的Hadoop部署装置,其特征在于,还包括:执行结果处理模块;所述执行结果处理模块,用于
接收所述自动化运维平台的结果返回器所返回的一个或多个执行结果;
合并所述一个或多个执行结果,并将合并后的执行结果返回至所述部署前台。
10.根据权利要求6所述的Hadoop部署装置,其特征在于,所述自动化运维平台是Saltstack或者Ansible。
11.一种用于Hadoop部署的服务器,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910753380.9A CN112398669B (zh) | 2019-08-15 | 2019-08-15 | 一种Hadoop部署方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910753380.9A CN112398669B (zh) | 2019-08-15 | 2019-08-15 | 一种Hadoop部署方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112398669A CN112398669A (zh) | 2021-02-23 |
CN112398669B true CN112398669B (zh) | 2023-09-26 |
Family
ID=74601565
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910753380.9A Active CN112398669B (zh) | 2019-08-15 | 2019-08-15 | 一种Hadoop部署方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112398669B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113127150B (zh) * | 2021-03-18 | 2023-10-17 | 同盾控股有限公司 | 云原生***的快速部署方法、装置、电子设备和存储介质 |
CN113377385A (zh) * | 2021-06-07 | 2021-09-10 | 中国工商银行股份有限公司 | 客户端自动部署方法及装置 |
CN113656147B (zh) * | 2021-08-20 | 2023-03-31 | 北京百度网讯科技有限公司 | 一种集群部署方法、装置、设备及存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103064742A (zh) * | 2012-12-25 | 2013-04-24 | 中国科学院深圳先进技术研究院 | 一种hadoop集群的自动部署***及方法 |
CN105893545A (zh) * | 2016-04-01 | 2016-08-24 | 浪潮电子信息产业股份有限公司 | 一种高效的Hadoop集群部署方法 |
CN106445611A (zh) * | 2016-09-30 | 2017-02-22 | 广州特道信息科技有限公司 | 大数据节点***及自动部署方法 |
CN109284272A (zh) * | 2018-09-07 | 2019-01-29 | 郑州云海信息技术有限公司 | 一种分布式文件***的部署方法、装置及设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6107801B2 (ja) * | 2014-12-12 | 2017-04-05 | 日本電気株式会社 | 情報処理装置、情報処理システム、タスク処理方法、及び、プログラム |
-
2019
- 2019-08-15 CN CN201910753380.9A patent/CN112398669B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103064742A (zh) * | 2012-12-25 | 2013-04-24 | 中国科学院深圳先进技术研究院 | 一种hadoop集群的自动部署***及方法 |
CN105893545A (zh) * | 2016-04-01 | 2016-08-24 | 浪潮电子信息产业股份有限公司 | 一种高效的Hadoop集群部署方法 |
CN106445611A (zh) * | 2016-09-30 | 2017-02-22 | 广州特道信息科技有限公司 | 大数据节点***及自动部署方法 |
CN109284272A (zh) * | 2018-09-07 | 2019-01-29 | 郑州云海信息技术有限公司 | 一种分布式文件***的部署方法、装置及设备 |
Also Published As
Publication number | Publication date |
---|---|
CN112398669A (zh) | 2021-02-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108629029B (zh) | 一种应用于数据仓库的数据处理方法和装置 | |
CN112398669B (zh) | 一种Hadoop部署方法和装置 | |
CN112860451A (zh) | 一种基于SaaS的多租户数据处理方法和装置 | |
CN109245908B (zh) | 一种主从集群切换的方法和装置 | |
CN111767157B (zh) | 基于服务网格的请求处理方法和装置 | |
CN110321252B (zh) | 一种技能服务资源调度的方法和装置 | |
CN111478781B (zh) | 一种消息广播的方法和装置 | |
CN113672357A (zh) | 任务调度的方法、装置和*** | |
CN112000734A (zh) | 一种大数据处理方法和装置 | |
CN111831503B (zh) | 一种基于监控代理的监控方法和监控代理装置 | |
CN112084042B (zh) | 一种消息处理的方法和装置 | |
CN112947919A (zh) | 构建业务模型和处理业务请求的方法和装置 | |
CN110795328A (zh) | 一种接口测试方法和装置 | |
CN111382953A (zh) | 一种动态流程生成方法和装置 | |
CN110764769A (zh) | 处理用户请求的方法和装置 | |
CN113779122B (zh) | 导出数据的方法和装置 | |
CN114756173A (zh) | 文件合并的方法、***、设备和计算机可读介质 | |
CN112860447B (zh) | 一种不同应用间的交互方法和*** | |
CN114896244A (zh) | 配置数据库表的方法、装置、设备和计算机可读介质 | |
CN112688982B (zh) | 一种用户请求处理方法和装置 | |
CN112559001B (zh) | 更新应用的方法和装置 | |
CN110909269B (zh) | 一种日志上报的方法和装置 | |
CN114070889A (zh) | 配置方法、流量转发方法、设备、存储介质及程序产品 | |
CN113760487A (zh) | 一种业务处理方法和装置 | |
CN113448652A (zh) | 一种请求处理方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |