CN115408016A - 一种计算集群部署方法、装置、电子设备和存储介质 - Google Patents

Abstract

本发明公开了一种计算集群部署方法、装置、电子设备和存储介质。其中，该计算集群部署方法包括：根据集群业务需求确定部署配置文件，并按照所述部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本；根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境；基于所述质量测试脚本确定各所述集群节点的集群运行环境的部署质量。本发明实施例，通过集群业务需求确定部署配置文件，并结合预设模板文件生成部署执行脚本和质量测试脚本，基于部署执行脚本实现了集群运行环境的自动部署，基于质量测试脚本确定集群运行环境的部署质量，为部署质量提供了标准，实现集群服务质量统一，提升用户的使用体验，降低运维成本。

Description

一种计算集群部署方法、装置、电子设备和存储介质

技术领域

本发明涉及自动化部署领域，尤其涉及一种计算集群部署方法、装置、电子设备和存储介质。

背景技术

目前高性能计算集群广泛地运用于工程、航空航天、生物，医疗、人工智能等领域，计算集群的使用需预先将各种数据对各集群节点进行部署，自动化部署具有效率高，部署效果好的特点，在计算集群部署中，自动化部署得到广泛的应用。

同一个项目通过不同的技术人员部署，由于技术人员部署方式或者部署能力的差距，导致部署完成后提供的集群使用服务体验往往不一致，会大大增加运维人员后期对项目进行运维的学习成本和维护成本。所以，一种具有标准化服务质量标准的计算集群部署方法成为了目前亟待解决的问题。

发明内容

本发明提供了一种计算集群部署方法、装置、电子设备和存储介质，以达到标准化计算集群的部署，提高计算集群部署方式的可复制性，提升用户的使用体验。

根据本发明的一方面，提供了一种计算集群部署方法，其中，该方法包括：

根据集群业务需求确定部署配置文件，并按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本；

根据部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境；

基于质量测试脚本确定各集群节点的集群运行环境的部署质量。

根据本发明的另一方面，提供了一种计算机集群部署装置，其中，该装置包括：

脚本生成模块，用于根据集群业务需求确定部署配置文件，并按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本；

环境部署模块，用于根据部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境；

质量测试模块，用于基于质量测试脚本确定各集群节点的集群运行环境的部署质量。

根据本发明的另一方面，提供了一种电子设备，该电子设备包括：

至少一个处理器；以及

与至少一个处理器通信连接的存储器；其中，

存储器存储有可被至少一个处理器执行的计算机程序，计算机程序被至少一个处理器执行，以使至少一个处理器能够执行本发明任一实施例的一种计算集群部署方法。

根据本发明的另一方面，提供了一种计算机可读存储介质，该计算机可读存储介质存储有计算机指令，计算机指令用于使处理器执行时实现本发明任一实施例的一种计算集群部署方法。

本发明实施例的技术方案，通过根据集群业务需求确定部署配置文件，并按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本，基于部署执行脚本和预设部署服务配置集群节点的集群运行环境，基于质量测试脚本确定各集群节点的集群运行环境的部署质量。根据质量测试脚本确定各集群节点的集群运行环境的部署质量，实现了部署质量检测的标准化，使部署质量实现统一，为用户提供统一的服务质量，提升用户的使用体验。

应当理解，本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征，也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。

附图说明

为了更清楚地说明本发明实施例中的技术方案，下面将对实施例描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1是根据本发明实施例一提供的一种计算集群部署方法的流程图；

图2是根据本发明实施例二提供的一种计算集群部署方法的流程图；

图3是根据本发明实施例三提供的一种可视化计算集群的结构示意图；

图4是根据本发明实施例三提供的一种计算集群部署方法的流程图；

图5是根据本发明实施例四提供的一种计算集群部署装置的结构示意图；

图6是根据本发明实施例五提供的一种计算集群部署装置的结构示意图；

图7是根据本发明实施例五提供的一种自动化部署软件的结构示意图；

图8是根据本发明实施例五提供的待部署操作***库构成示意图；

图9是根据本发明实施例五提供的非标准驱动库构成示意图；

图10是实现本发明实施例的一种计算集群部署方法的电子设备的结构示意图。

具体实施方式

为了使本技术领域的人员更好地理解本发明方案，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分的实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都应当属于本发明保护的范围。

需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。

实施例一

图1是根据本发明实施例一提供的一种计算集群部署方法的流程图，本实施例可适用于部署计算集群情况，该方法可以由计算集群部署装置来执行，该计算集群部署装置可以采用硬件和/或软件的形式实现，该计算集群部署装置可配置于运维管理软件中。在一实施例中，计算集群可以为可视化集群。如图1所示，该方法包括：

S110、根据集群业务需求确定部署配置文件，并按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本。

其中，集群业务需求可以是指集群实现某一个业务功能的要求，可以是同一个业务部署在多个服务器上的需求。部署配置文件可以是指一些计算机程序配置参数和初始设置文件，部署配置文件可以根据项目需求编写而成。部署配置文件的文本格式可以包括但不限于JSON(JavaScript Object Notation)、可扩展标记语言(Extensible MarkupLanguage，XML)等。部署配置文件可以包括多个配置项，示例性地，可以包括非标准驱动设置、集群名称等，每个配置项可以包括多个配置参数。预设模板文件可以是指按照脚本文件生成，其参数可以是空白或者是待填选项，通过对具体参数的填充实现对预设模板文件的使用。可以生成对应的执行脚本。根据部署配置文件和模板文件生成的脚本可以包括部署执行脚本和质量测试脚本。其中，部署执行脚本可以是用于部署计算集群的可执行文件，部署执行脚本可以包括多种，不同的部署执行脚本可以部署不同的集群节点；质量测试脚本可以是用于测试部署质量的可执行文件，是用于在计算集群搭建完成后，提供的部署质量测试。

在实施例中，部署配置文件可以是根据不同的集群业务需求确定的，不同的集群业务需求的部署配置文件是不同的，根据集群业务需要可以提取相应的部署配置文件。部署配置文件可以存储多种部署配置参数，可以提取部署配置文件中需使用的部署配置参数，在预设模板文件的对应空白位置或代填选项位置填充对应的部署配置参数，完成脚本的生成，生成的脚本可以包括部署执行脚本和质量测试脚本，不同的脚本可以执行不同的功能。

S120、根据部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境。

其中，预设部署服务可以是指预先设置的部署任务，预设部署服务可以实现部署的底层服务功能，可以是动态运行的程序；集群节点可以是指集群中的服务器，每个节点都可以认为是一个服务器，可以进行存储数据，进行数据共享等功能。集群运行环境可以是指用于承载集群服务的软硬件架构集合。

在实施例中，集群节点的集群运行环境可以根据部署执行脚本和预设部署服务配置，可以按照部署执行脚本对各部署节点***架构分层部署，对各集群节点部署的参数可以是相同或者不同的，部署执行脚本可以包括操作***部署脚本、驱动部署脚本和集群服务部署脚本等，按照不同的部署执行脚本对各集群节点分层部署。在一实施例中，根据操作***部署脚本和预设部署服务可以使各集群节点安装所需的***文件；根据驱动部署脚本和预设部署服务可以使各集群节点安装高速网卡驱动和图形处理器驱动程序等目标驱动程序；根据集群服务部署脚本和预设部署服务可以设置各集群节点的内部高速网络网卡地址、存储挂载服务以及节点互信和免密访问功能等。根据部署执行脚本和预设部署服务可以同时配置所有集群节点的集群运行环境，或者可以配置至少一个集群节点的集群运行环境。

S130、基于质量测试脚本确定各集群节点的集群运行环境的部署质量。

在实施例中，各集群节点的集群运行环境的部署质量可以根据质量测试脚本进行确定，质量测试脚本中可以写多个测试用例，根据质量测试脚本可以进行多种测试，可以包括全节点连通性质量测试、全节点免密服务质量测试、节点互信服务质量测试、命令执行服务质量测试、网卡信息查询质量测试、存储挂载质量测试、驱动信息查询质量测试和操作***稳定性质量测试等。不同类型的集群环境部署质量可以通过不同的方式进行检测，每种类型的部署质量测试可以预先设置通过的标准。可以运行质量测试脚本，确定各集群节点的集群环境部署质量。当基于质量测试脚本判断各集群节点的集群运行环境的部署质量时，集群节点的部署质量均无异常可通过测试，则可以确定部署质量通过；若集群节点的部署质量至少有一项测试未通过，则可以确定部署质量未通过。

本发明的技术方案，通过集群业务需求确定部署配置文件，按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本，基于部署执行脚本实现了集群运行环境的自动部署，基于质量测试脚本确定集群运行环境的部署质量，实现了部署质量的检测，达到集群服务质量统一，提高用户的使用体验。

在一个实施例中，还包括：

确定存在集群节点的部署质量低于阈值质量，则重新部署集群节点的集群运行环境。

其中，阈值质量可以是指可以是指部署质量未通过的临界值，当集群节点的部署质量低于阈值质量，则可以认为集群部署质量未通过。阈值质量可以是预先根据经验设置的，可以设置至少有一项测试不通过则认为部署质量低于阈值质量，阈值质量可以预先存储于集群部署装置中。

在实施例中，基于质量测试脚本可以确定各集群节点的集群运行环境的部署质量，当基于质量测试脚本测试部署质量时，至少有一项测试不通过，则可以确认部署质量低于阈值质量。当确定存在集群节点的部署质量低于阈值质量时，可以重新部署集群节点的集群运行环境。可以重新部署所有集群节点的集群运行环境，又或者可以根据未通过的测试例确定未通过的集群节点，重新部署该节点的集群运行环境。

实施例二

图2是根据本发明实施例二提供的一种计算集群部署方法的流程图，本实施例是在上述实施例的基础上对一种计算集群部署方法的进一步细化。如图2所示，该方法包括：

S2010、提取部署配置文件内至少一个配置项对应的配置参数。

其中，部署配置文件中可以包括多个配置项，配置项可以是指纳入配置管理范畴的所有项目，示例性地，配置项可以包括集群名称、待部署操作***和部署密钥等。配置参数可以是指部署计算集群所需的参数，每个配置项中可对应多个配置参数。示例性地，待部署操作***配置项对应的配置参数可以包括操作***名称、操作***版本等，部署密钥配置项对应的配置参数可以包括公钥和私钥等。

在实施例中，可以通过查找部署文件中配置参数的对应字段提取配置参数，提取的配置参数可以是对应不同配置项，可以在部署配置文件中查找所需提取配置项的对应字段，通过提取配置项，再提取配置项对应的配置参数。其中，所提取的配置项为至少一个。在一个实施例中，当提取的配置参数为***名称和公钥时，可以在部署配置文件中查找部署操作***配置项和部署密钥配置项的对应字段，在查找的对应字段中提取***名称和公钥配置参数所在字段，实现提取配置参数。

S2020、按照配置项将配置参数填充到预设模板文件以生成部署执行脚本。

在实施例中，根据配置参数和预设模板可以生成部署执行脚本，预设模板文件可以接收部署配置文件中提取的对应配置项的配置参数，配置参数可以与预设模板文件中定义的内容结合，可以按照配置项将配置参数填充在预设模板文件的对应位置，替换模板内的对应项，生成部署执行脚本。部署执行脚本可以包括多种类型，示例性地，可以包括操作***部署脚本、驱动部署脚本和集群服务部署脚本等。

S2030、按照操作***部署脚本调用预设部署服务内动态主机配置协议服务配置集群节点的网络地址。

其中，操作***部署脚本可以是指部署操作***的可执行文件，可以是部署执行脚本的一类脚本。动态主机配置协议是一个局域网的网络协议，可以由服务器控制一段网际互连协议(Internet Protocol，IP)地址范围，集群节点可以自动获得服务器分配的网络地址。其中，网络地址可以包括IP地址和子网掩码等。

在实施例中，动态主机配置协议服务可以用于集中地址管理，分配IP地址，使集群各节点获得网络地址。可以按照操作***部署脚本调用预先设置的部署服务内动态主机配置协议服务，动态主机配置协议服务器接收到来自***部署脚本中集群节点申请地址的信息时，会向集群节点发送相关的地址配置等信息，以实现集群节点地址信息的动态配置。

S2040、按照操作***部署脚本调用预设部署服务内文件传输协议以传输集群运行环境的***文件到各集群节点。

其中，文件传输协议可以是指传输***文件的协议。***文件可以是指操作***主要文件，可以包括开源操作***镜像文件，例如，CentOS 7、RHEL 7等镜像文件。***文件可以存储于操作***库中。各集群节点可以包括管理节点、计算节点和可视化节点等。

在实施例中，可以在操作***库中提取各集群运行环境的***文件，按照操作***部署脚本调用预设部署服务内文件传输协议，根据文件传输协议将集群运行环境的***文件传输到各集群节点，各集群节点可以接收通过文件传输协议传输的***文件。其中，各集群运行环境的***文件可以是相同或者不同的。

S2050、按照操作***部署脚本传输预设部署服务内***安装工具启动指令到集群节点以安装***文件。

其中，***安装工具可以是指对操作***进行读写安装操作的工具，通过***安装工具，可以将某一***写入各集群节点中，使各节点都能够正常运行某一操作***的工具。安装工具启动指令可以是安装操作***的启动指令。其中，安装工具启动指令可以包括预启动执行环境((Pre-boot Execution Environment，PXE)启动指令等。

在实施例中，可以按照操作***部署脚本向各集群节点发送预设部署服务内***安装指令，各集群节点可以读取文件传输协议传输的待部署的***文件。***可以向全节点发送***安装工具启动指令，根据***安装工具启动指令，各集群节点开始自动安装操作***，以完成待部署节点操作***的部署。

S2060、按照驱动部署脚本提取预设部署服务内非标准驱动库的目标驱动程序。

其中，驱动部署脚本可以是指用于部署驱动程序的脚本。非标准驱动库可以用于存储非标准驱动程序，非标准驱动库可以包括各集群节点的高速网卡驱动部署以及可视化节点的图像处理器驱动等。目标驱动程序可以是指为目标集群节点驱动的程序，不同集群节点的目标驱动程序可以是相同或者不同的。

在实施例中，非标准驱动库中可以包括多个驱动程序，不同的集群节点可以部署不同的目标驱动程序。可以按照驱动部署脚本提取预设部署服务内非标准驱动库的目标驱动程序，按照驱动部署脚本为不同的集群节点提取不同的目标驱动程序。

S2070、按照驱动部署脚本传输并安装目标驱动程序到集群节点。其中，目标驱动程序至少包括以下之一：高速网卡驱动、图形处理器驱动程序。

其中，高速网卡驱动可以是指高速设备驱动程序，是一种可以使计算机中央处理器控制和使用网卡的特殊程序。高速网卡驱动相当于硬件的接口，操作***通过这个接口可以控制硬件设备的工作。图形处理器驱动程序可以是指驱动图像处理器的程序。

在实施例中，集群节点可以部署目标驱动程序，目标驱动程序可以是按照驱动部署脚本传输并驱动安装的，各集群节点可以读取动部署脚本安装目标驱动程序。目标驱动程序可以包括多种类型，例如可以包括高速网卡驱动、图形处理器驱动程序等。不同的集群节点可以安装不同的目标驱动程序，各集群节点安装目标驱动程序可以是并行的。在一实施例中，各集群节点可以安装高速网卡驱动以实现中央处理器控制和使用网卡，可视化节点还可以安装图形处理器驱动程序以实现图像的显示。

S2080、按照集群服务部署脚本设置集群节点的内部高速网络网卡地址。

其中，内部高速网络网卡地址可以是指传输数据时真正赖以标识发出数据的集群节点地址。

在实施例中，可以按照集群服务部署脚本设置集群节点的内部高速网络网卡地址，各集群节点的内部高速网络网卡地址可以提前在集群服务部署脚本中编写完成，可以预先设置各集群节点的内部高速网络网卡地址，按照集群服务部署脚本依次写入各集群节点。

S2090、按照集群服务部署脚本挂载集群节点的存储服务。

其中，挂载可以是指由操作***使一个存储设备上的计算机文件和目录可供用户通过计算机的文件***访问的一个过程。

在实施例中，按照集群服务部署脚本可以挂载集群节点的存储服务，可以将各集群节点的存储服务挂载相同的目录中，可以向各集群节点发送挂载指令，以实现挂载集群节点的存储服务。

S2100、按照集群服务部署脚本设置集群节点的节点互信和免密访问功能。

其中，节点互信可以是指各集群节点互相信任，可以免密码互相访问。免密访问功能可以是指无需输入密码即可访问各集群节点的功能。

在实施例中，集群节点的节点互信和免密访问可以基于安全外壳协议(SecureShell，SSH)实现。可以读取部署配置文件中部署密钥配置项，提取公钥和私钥文件，将公钥或私钥写入各集群节点，并存储于密钥验证文件中，操作***中写入私钥存储于密钥验证文件中。当通过操作***登录各集群节点时，可以验证公钥和私钥，实现免密访问功能。可以通过在各集群节点配置公钥私钥或者可以相互访问的验证信息，实现各集群节点的互相访问，实现节点互信。

S2110、按照质量测试脚本测试各集群节点的集群运行环境的全节点连通性质量。

其中，全节点连通性质量可以表征各集群节点传输控制协议/网际协议(Transmission Control Protocol/Internet Protocol，TCP/IP)参数设置正确性以及各集群节点是否正常运行、网络的顺畅连通程度。

在实施例中，各集群节点的集群运行环境的全节点连通性可以采用因特网包探索器(Packet Internet Groper，ping)进行测试。通过向各集群节点的网络地址发送控制报文协议(Internet Control Message Protocol，ICMP)一定长度的数据包，并侦听回复数据包来验证各集群节点的连接。若各集群节点的网络地址存在，各集群节点可以返回同样大小的数据包，则可以认为各集群节点无连接异常，全节点连通性质量通过测试；若在指定时间各集群节点没有返回同样大小的数据包，可以认为未返回数据包的集群节点连接异常，则全节点连通质量未通过测试。

S2120、按照质量测试脚本测试各集群节点的集群运行环境的全节点免密访问服务质量。

其中，全节点免密访问服务质量可以表征全节点可以无需输入密码即可访问的情况。

在实施例中，各集群节点的集群运行环境的全节点免密访问服务可以通过密钥登录全部节点实现，由于按照集群服务部署脚本设置集群节点的免密访问功能，各集群节点可以实现免密访问。可以在集群部署装置中执行登录命令，通过密钥登录各个集群节点，若在登录过程中不输入密码可以访问各集群节点，则可以认为全节点免密服务质量通过；若在登录过程中不输入密码无法访问各集群节点，则可以认为全节点免密服务质量不通过。

S2130、按照质量测试脚本测试各集群节点的集群运行环境的节点互信服务质量。

其中，节点互信服务质量可以是表征各集群节点之间互相信任程度，可以是在管理节点登录访问其他节点的测试。

在实施例中，质量测试脚本可以编写节点互信服务质量的测试用例，根据质量测试脚本，测试集群运行环境的节点互信服务质量。可以通过计算集群部署装置登录管理节点，利用管理节点登录计算节点以及可视化节点等其他节点，若在登录过程中不输入密码可以访问各集群节点，则可以认为各集群节点的集群运行环境的节点互信服务质量通过；若在登录过程中不输入密码不可以访问各集群节点，则可以认为各集群节点的集群运行环境的节点互信服务质量未通过。

S2140、按照质量测试脚本测试各集群节点的集群运行环境的命令执行服务质量。

其中，命令执行服务质量可以是指管理节点向其他集群节点发送命令以对其他集群节点进行管理的好坏程度。

在实施例中，通过操作***可以登录管理节点，管理节点可以向其他集群节点发送统一命令，其他集群节点可以接收由管理节点发送的统一命令。命令可以用于查看其他集群节点的运行时间和登录人数等，或者可以用于显示或设置其他集群节点的主机名称。管理节点发送的命令可以包括操作***主机名(hostname)、上线时间(uptime)等。根据质量检测脚本，可以控制管理节点下发命令，以测试各集群节点的集群运行环境的命令执行服务质量。

S2150、按照质量测试脚本测试各集群节点的集群运行环境的网卡信息查询质量。

其中，网卡信息查询质量可以用于确定网卡信息正常查询的情况。

在实施例中，通过操作***可以登录管理节点，管理节点可以向所有其他集群节点发送网卡信息查询命令，用于查询各其他集群节点的网卡信息。当通过管理节点输入其他集群节点的网卡信息时，***可以从hosts文件中寻找对应的网卡信息，当网卡信息与***hosts文件定义一致时，则可以认为各集群节点的集群运行环境的网卡信息查询质量通过。

S2160、按照质量测试脚本测试各集群节点的集群运行环境的存储挂载质量。

在实施例中，通过操作***可以登录管理节点，管理节点可以向所有其他集群节点发送存储挂载查询命令，查询各集群节点的存储挂载点，当个集群节点的存储挂载点一致，则认为各集群节点的集群运行环境的存储挂载质量通过。

S2170、按照质量测试脚本测试各集群节点的集群运行环境的驱动信息查询质量。

在实施例中，通过操作***可以登录管理节点，管理节点可以向所有其他集群节点发送驱动信息查询命令。可以向各驱动节点发送高速网卡驱动查询命令，并且可以向可视化集群节点发送图形处理器驱动程序查询命令，当各集群节点接收到管理节点发送的查询命令后，各集群节点可以向管理节点返回查询结果。若高速网卡驱动信息和图形处理器驱动程序信息等驱动信息均可以正常返回，可以认为各集群节点的集群运行环境的驱动信息查询质量。

S2180、按照质量测试脚本测试各集群节点的集群运行环境的操作***稳定性质量。

其中，操作***稳定性质量可以表征操作***功能的稳定性。

在实施例中，操作***可以向各集群节点发送重启指令，各集群节点接收到重启指令后可以执行重启，在操作***重新启动后，可以尝试登录所有的集群节点，可以查看网络服务、时间服务以及存储挂载等服务是否正常启动。若可以正常登录各个集群节点，且网络服务、时间服务以及存储挂载等服务正常启动，则可以认为各集群节点的集群运行环境的操作***稳定性质量通过；若不可以正常登录各个集群节点或者网络服务、时间服务以及存储挂载等服务不能正常启动，则认为各集群节点的集群运行环境的操作***稳定性质量未通过。

本发明的技术方案，通过提取部署配置文件内配置项对应的配置参数，按照配置项将配置参数填充到预设模板文件以生成部署执行脚本，基于操作***部署脚本实现***文件的安装，基于驱动部署脚本传输并安装目标驱动程序到集群节点，按照集群服务部署脚本设置集群节点的内部高速网络网卡地址、存储挂载服务、节点互信和免密访问功能，实现计算集群的自动化部署，通过按照质量测试脚本测试各集群节点的集群运行环境部署质量，实现标准化的部署质量测试，达到部署质量实现统一，提升用户的使用体验。

实施例三

图3是根据本发明实施例三提供的一种可视化计算集群的结构示意图。如图3所示，可视化计算集群由管理节点、计算节点、可视化节点及存储服务器组成。

其中，管理节点、计算节点及可视化节点三者的通讯及计算通过高速计算网络互联。

管理节点可以是集群的主要协调器，用户可以通过终端连接管理节点上传计算文件。

计算节点可以用于执行计算用户上传的计算文件。

可视化节点可以是用于使计算结果可视化，便于用户进行分析。

存储服务器可以用于提供文件访问服务，并通过存储网络与管理节点、计算节点及可视化节点互联。

在可视化集群配置过程，需要人工分别对各节点进行配置，由于可视化计算集群私有化部署需求旺盛，实施项目数量繁多，且现代化的高性能计算集群，不同项目间硬件配置差异性较大，且非标准化驱动程序(即非默认嵌入操作***内核的驱动)繁多，需要进行定制化处理。针对可视化集群配置的问题，图4提供的计算集群部署方法是以计算集群为可视化集群为例，对计算集群部署方法的具体说明。

图4是根据本发明实施例三提供的一种计算集群部署方法的流程图，如图4所示：该方法包括：

S3010、根据项目已确认内容，完成部署配置文件编写。

S3020、将部署配置文件导入集群部署装置。

S3030、将集群部署装置通过网线与待部署的可视化计算集群连接。

其中，S3010-S3030为部署配置文件输入过程。

S3040、自动化部署软件读取已经导入的部署配置文件。

S3050、自动化部署软件根据预设模板文件，与部署配置文件中定义的内容结合，生成部署执行脚本。其中，部署执行脚本可以包括：操作***部署脚本、驱动部署脚本、集群服务部署脚本、服务质量测试脚本。

其中，S3040-S3050为部署执行脚本生成过程。

S3060、启动动态主机配置协议(Dynamic Host Configuration Protocol DHCP)服务。

S3070、拉取待部署***文件，开启简单文件传送协议(Trivial FileTransferProtocol，TFTP)文件服务。

S3080、向全节点(管理节点、计算节点及可视化节点)发送预启动执行环境(Preboot Execution Environment，PXE)启动命令。

S3090、各节点读取到待部署***文件，开始安装操作***，并等待操作***安装完成。

其中，S3060-S3090为基于操作***部署脚本部署过程。

S3100、向管理节点和计算节点安装高速网卡驱动。

S3110、向可视化节点安装高速网卡驱动和图形处理器(graphics processingunit，GPU)驱动程序。

其中，S3100-S3110为基于驱动部署脚本部署过程。

S3120、配置内部高速网络网卡地址。

S3130、全节点挂载存储节点。

S3140、配置全节点间的公钥及私钥文件，完成节点互信及免密访问功能。

其中，S3120-S3140为基于集群服务部署脚本部署过程。

S3150、执行服务质量测试脚本。

其中，执行服务质量测试脚本可以包括：全节点连通性测试、全节点免密码登录测试、管理节点互信测试、管理节点命令可执行能力测试、网卡信息查询、全节点存储挂载测试、非标准驱动信息查询测试、可视化开放图形库(Open Graphics Library，OpenGL)驱动版本查询测试和***服务稳定性测试。

S3160、判断服务质量测试是否通过。

S3170、若判断服务质量测试至少有一项不通过，根据不通过的测试内容，重新部署集群配置。然后进入S3160。

S3180、若判断服务质量测试均通过，则整个自动化部署流程完成。此时认为，满足了向用户提供标准化地、统一地可视化计算集群使用服务的质量标准。在此状态下，用户可以开始使用可视化计算集群。

其中，S3150-S3180为服务质量测试过程。

在一实施例中，部署配置文件是在项目确定后，计算集群部署任务启动前，根据项目需求编写而成。配置文件可由JSON、XML、YML等文本格式构成。配置字段如下：

集群名称(字符串)：

集群节点数量(整数)：

集群基本网络配置：

交换机网络(字符串)：

高速交换机网络(字符串)：

集群节点列表(字符串)：

管理节点(字符串)：

节点名称(字符串)：

IP地址(字符串)：

MAC地址(字符串)：

计算节点(字符串)：

节点名称(字符串)：

IP地址(字符串)：

MAC地址(字符串)：

可视化节点(字符串)：

节点名称(字符串)：

IP地址(字符串)：

MAC地址(字符串)：

存储节点(字符串)：

节点名称(字符串)：

IP地址(字符串)：

MAC地址(字符串)

非标准驱动设置

高速网卡驱动(字符串)：

厂商(字符串)：

型号(字符串):

驱动名称(字符串):

GPU驱动(字符串)：

厂商(字符串)：

型号(字符串):

驱动名称(字符串):

待部署操作***：

操作***名称(字符串)：

操作***版本(字符串)：

镜像名称(字符串)：

部署秘钥：

公钥(字符串)：

私钥(字符串)：

实施例四

图5是根据本发明实施例四提供的一种计算集群部署装置的结构示意图。如图5所示，该装置包括：脚本生成模块41，环境部署模块42和质量测试模块43。

其中，脚本生成模块41，用于根据集群业务需求确定部署配置文件，并按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本。

环境部署模块42，用于根据部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境。

质量测试模块43，用于基于质量测试脚本确定各集群节点的集群运行环境的部署质量。

本发明实施例，脚本生成模块通过集群业务需求确定部署配置文件，按照部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本，环境部署模块基于部署执行脚本实现了集群运行环境的自动部署，质量测试模块基于质量测试脚本确定集群运行环境的部署质量，实现了部署质量的检测，达到集群服务质量统一，提高用户的使用体验。

在一实施例中，脚本生成模块41包括：

参数提取单元，用于提取部署配置文件内至少一个配置项对应的配置参数。

脚本生成单元，用于按照配置项将配置参数填充到预设模板文件以生成部署执行脚本。

在一实施例中，当部署执行脚本包括操作***部署脚本，环境部署模块42包括：

网络地址配置单元，用于按照操作***部署脚本调用预设部署服务内动态逐渐配置协议服务配置集群节点的网络地址。

传输协议调用单元，用于按照操作***部署脚本调用预设部署服务内文件传输协议以传输集群运行环境的***文件到各集群节点。

按照操作***部署脚本传输预设部署服务内***安装工具启动指令到集群节点以安装***文件。

在一实施例中，当部署执行脚本包括驱动部署脚本，环境部署模块42包括：

驱动程序提取单元，用于按照驱动部署脚本提取预设部署服务内非标准驱动库的目标驱动程序。

驱动程序安装单元，用于按照驱动部署脚本传输并安装目标驱动程序到集群节点。其中，目标驱动程序至少包括以下之一：高速网卡驱动、图形处理器驱动程序。

在一实施例中，当部署执行脚本包括集群服务部署脚本，环境部署模块42包括：

网卡地址设置单元，用于按照集群服务部署脚本设置集群节点的内部高速网络网卡地址。

存储服务挂载单元，用于按照集群服务部署脚本挂载集群节点的存储服务。

互信免密部署单元，用于按照集群服务部署脚本设置集群节点的节点互信和免密访问功能。

在一实施例中，质量测试模块43包括以下至少之一：

第一测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的全节点连通性质量。

第二测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的全节点免密访问服务质量。

第三测试单元，按照质量测试脚本测试各集群节点的集群运行环境的节点互信服务质量。

第四测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的命令执行服务质量。

第五测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的网卡信息查询质量。

第六测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的存储挂载质量。

第七测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的驱动信息查询质量。

第八测试单元，用于按照质量测试脚本测试各集群节点的集群运行环境的操作***稳定性质量。

在一实施例中，一种计算集群部署装置还包括：

质量确认单元，用于确定存在集群节点的部署质量低于阈值质量，则重新部署集群节点的集群运行环境。

本发明实施例所提供的一种计算集群部署装置可执行本发明任意实施例所提供的一种计算集群部署方法，具备执行方法相应的功能模块和有益效果。

实施例五

图6是根据本发明实施例五提供的一种计算集群部署装置的结构示意图。如图6所示，该装置包括：硬件层，操作***层和应用软件层。

其中硬件层可以包括中央处理器(central processing unit，CPU)、内存储器、外存储器、电源、机壳、以太网络适配器、显示器或显示接口等。

操作***层可以包括Linux、BSD***或者Windows***三者之一。

应用软件层可以由自动化部署软件，非标准驱动库，待部署操作***库构成。

图7是根据本发明实施例五提供的一种自动化部署软件的结构示意图。如图7所示，自动化部署软件可以包括：配置文件读取模块61，部署脚本自动生成模块62，基于PXE的操作***自动化部署模块63，非标准驱动模块64，集群可用性配置模块65和服务质量测试模块66，可通过Ansible运维管理软件实现。

其中，配置文件读取模块61，用以读取外部输入的部署配置文件并转化为内部数据流提供给部署脚本自动生成模块。

部署脚本自动生成模块62，用于基于预定义完成的预设模板文件，接受来自配置文件读取模块的配置，生成部署执行脚本。

基于PXE的操作***自动化部署模块63可以由DHCP服务，PXE启动服务及TFTP文件服务耦合构成。通过调用自动化部署脚本提取待部署操作***库内的***镜像文件完成待部署节点的操作***部署。

图8是根据本发明实施例五提供的待部署操作***库构成示意图。如图8所示待部署操作***库可以由开源及商业操作***镜像构成，例如有CentOS7、CentOS8，RHEL7、RHEL8、SUSE 11及SUSE 12等镜像构成。

非标准驱动模块64，用于通过非标准驱动部署模块利用自动部署脚本，提取非标准驱动库，向集群部署非标准驱动。

图9是根据本发明实施例五提供的非标准驱动库构成示意图。如图9所示，非标准驱动库可以包括高速网卡驱动和GPU驱动程序。其中高速网卡驱动可以包括光纤网卡以及无线宽带技术(Infiniband)网卡等。

集群可用性配置模块65，用于保障可视化集群的功能可用性，主要包括功能：网卡配置，存储挂载和集群所有节点间互信、免密码访问。

服务质量测试模块66，用于进行可视化计算集群搭建完成后，提供的使用服务质量测试，以便定义标准化及可量化的服务质量标准，为用户提供一致性的使用服务体验。测试内容及通过标准主要有9项，包括：全节点(包括管理节点、计算节点及可视化节点)连通性测试，全节点免密码访问测试，节点互信测试，管理节点命令可执行能力测试，网卡信息查询，全节点存储挂载测试，非标准驱动信息查询测试，可视化OpenGL驱动版本查询测试和***服务稳定性测试。

其中，全节点(包括管理节点、计算节点及可视化节点)连通性测试需通过操作***向可视化计算集群所有节点发送ping命令，测试连通性。若无连接异常则通过测试。

全节点免密码访问测试需通过操作***执行登录命令，通过秘钥登录全部节点。若登录过程中如果无效输入密码且无异常则通过测试。

节点互信测试需通过操作***执行登录命令登录管理节点，与管理节点登录计算节点及可视化节点。若无效输入密码且无异常则通过测试。

管理节点命令可执行能力测试需通过操作***登录管理节点，于管理节点向所有其他节点发送统一命令(如hostname、uptime等)测试管理节点命令可执行能力。如无异常则通过测试。

网卡信息查询需通过操作***登录管理节点，于管理节点向所有其他节点发送网卡信息查询命令。若网卡信息与***hosts文件定义一致，则通过测试。

全节点存储挂载测试需通过操作***登录管理节点，于管理节点向所有其他节点发送存储挂载点查询命令，如果所有节点的存储挂载点都一致，则通过测试。

非标准驱动信息查询测试需通过操作***登录管理节点，于管理节点向所有其他节点发送高速网卡驱动信息查询，向可视化集群发送GPU驱动信息查询。若高速网卡驱动及GPU驱动信息均正常返回，则通过测试。

可视化OpenGL驱动版本查询测试需通过操作***登录管理节点，于管理节点向可视化节点发送OpenGL版本查询。若OpenGL版本大于等于2.0，则测试通过。

***服务稳定性测试需向所有节点发送重启命令，等待***重启完成后，尝试的登录所有节点。查看网络服务、时间服务、存储挂载服务及账户服务是否正常启动。若可以成功登录所有节点，且网络服务、时间服务、存储挂载服务及账户服务正常启动，则测试通过。

实施例六

图10是实现本发明实施例的一种计算集群部署方法的电子设备的结构示意图。电子设备旨在表示各种形式的数字计算机，诸如，膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置，诸如，个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例，并且不意在限制本文中描述的和/或者要求的本发明的实现。

如图10所示，电子设备10包括至少一个处理器11，以及与至少一个处理器11通信连接的存储器，如只读存储器(ROM)12、随机访问存储器(RAM)13等，其中，存储器存储有可被至少一个处理器执行的计算机程序，处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序，来执行各种适当的动作和处理。在RAM 13中，还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。

电子设备10中的多个部件连接至I/O接口15，包括：输入单元16，例如键盘、鼠标等；输出单元17，例如各种类型的显示器、扬声器等；存储单元18，例如磁盘、光盘等；以及通信单元19，例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。

处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理，例如一种计算集群部署方法。

在一些实施例中，一种计算集群部署方法可被实现为计算机程序，其被有形地包含于计算机可读存储介质，例如存储单元18。在一些实施例中，计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM 13并由处理器11执行时，可以执行上文描述的一种计算集群部署方法的一个或多个步骤。备选地，在其他实施例中，处理器11可以通过其他任何适当的方式(例如，借助于固件)而被配置为执行一种计算集群部署方法。

本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括：实施在一个或者多个计算机程序中，该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释，该可编程处理器可以是专用或者通用可编程处理器，可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令，并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。

用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器，使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行，作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。

在本发明的上下文中，计算机可读存储介质可以是有形的介质，其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备，或者上述内容的任何合适组合。备选地，计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。

为了提供与用户的交互，可以在电子设备上实施此处描述的***和技术，该电子设备具有：用于向用户显示信息的显示装置(例如，CRT(阴极射线管)或者LCD(液晶显示器)监视器)；以及键盘和指向装置(例如，鼠标或者轨迹球)，用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互；例如，提供给用户的反馈可以是任何形式的传感反馈(例如，视觉反馈、听觉反馈、或者触觉反馈)；并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。

可以将此处描述的***和技术实施在包括后台部件的计算***(例如，作为数据服务器)、或者包括中间件部件的计算***(例如，应用服务器)、或者包括前端部件的计算***(例如，具有图形用户界面或者网络浏览器的用户计算机，用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如，通信网络)来将***的部件相互连接。通信网络的示例包括：局域网(LAN)、广域网(WAN)、区块链网络和互联网。

计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器，又称为云计算服务器或云主机，是云计算服务体系中的一项主机产品，以解决了传统物理主机与VPS服务中，存在的管理难度大，业务扩展性弱的缺陷。

应该理解，可以使用上面所示的各种形式的流程，重新排序、增加或删除步骤。例如，本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行，只要能够实现本发明的技术方案所期望的结果，本文在此不进行限制。

上述具体实施方式，并不构成对本发明保护范围的限制。本领域技术人员应该明白的是，根据设计要求和其他因素，可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等，均应包含在本发明保护范围之内。

Claims (10)

1.一种计算集群部署方法，其特征在于，所述方法包括：

根据集群业务需求确定部署配置文件，并按照所述部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本；

根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境；

基于所述质量测试脚本确定各所述集群节点的集群运行环境的部署质量。

2.根据权利要求1所述方法，其特征在于，所述按照所述部署配置文件和预设模板文件生成部署执行脚本，包括：

提取所述部署配置文件内至少一个配置项对应的配置参数；

按照所述配置项将所述配置参数填充到所述预设模板文件以生成所述部署执行脚本。

3.根据权利要求1所述方法，其特征在于，所述部署执行脚本包括操作***部署脚本，相应的，所述根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境，包括：

按照所述操作***部署脚本调用所述预设部署服务内动态主机配置协议服务配置所述集群节点的网络地址；

按照所述操作***部署脚本调用所述预设部署服务内文件传输协议以传输所述集群运行环境的***文件到各所述集群节点；

按照所述操作***部署脚本传输所述预设部署服务内***安装工具启动指令到所述集群节点以安装所述***文件。

4.根据权利要求1所述方法，其特征在于，所述部署执行脚本包括驱动部署脚本，相应的，所述根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境，包括：

按照所述驱动部署脚本提取所述预设部署服务内非标准驱动库的目标驱动程序；

按照所述驱动部署脚本传输并安装所述目标驱动程序到所述集群节点；

其中，所述目标驱动程序至少包括以下之一：高速网卡驱动、图形处理器驱动程序。

5.根据权利要求1所述方法，其特征在于，所述部署执行脚本包括集群服务部署脚本，相应的，所述根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境，包括：

按照所述集群服务部署脚本设置所述集群节点的内部高速网络网卡地址；

按照所述集群服务部署脚本挂载所述集群节点的存储服务；

按照所述集群服务部署脚本设置所述集群节点的节点互信和免密访问功能。

6.根据权利要求1所述方法，其特征在于，所述基于所述质量测试脚本确定各所述集群节点的集群运行环境的部署质量，包括以下至少之一：

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的全节点连通性质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的全节点免密访问服务质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的节点互信服务质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的命令执行服务质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的网卡信息查询质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的存储挂载质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的驱动信息查询质量；

按照所述质量测试脚本测试各所述集群节点的所述集群运行环境的操作***稳定性质量。

7.根据权利要求1所述方法，其特征在于，还包括：

确定存在所述集群节点的所述部署质量低于阈值质量，则重新部署所述集群节点的所述集群运行环境。

8.一种计算机集群部署装置，其特征在于，包括：

脚本生成模块，用于根据集群业务需求确定部署配置文件，并按照所述部署配置文件和预设模板文件生成部署执行脚本和质量测试脚本；

环境部署模块，用于根据所述部署执行脚本和预设部署服务配置至少一个集群节点的集群运行环境；

质量测试模块，用于基于所述质量测试脚本确定各所述集群节点的集群运行环境的部署质量。

9.一种电子设备，其特征在于，所述电子设备包括：

至少一个处理器；以及

与所述至少一个处理器通信连接的存储器；其中，

所述存储器存储有可被所述至少一个处理器执行的计算机程序，所述计算机程序被所述至少一个处理器执行，以使所述至少一个处理器能够执行权利要求1-7中任一项所述的计算集群部署方法。

10.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质存储有计算机指令，所述计算机指令用于使处理器执行时实现权利要求1-7中任一项所述的计算集群部署方法。

Images