CN115422010A - 数据集群中的节点管理方法、装置及存储介质 - Google Patents

数据集群中的节点管理方法、装置及存储介质 Download PDF

Info

Publication number
CN115422010A
CN115422010A CN202211138811.9A CN202211138811A CN115422010A CN 115422010 A CN115422010 A CN 115422010A CN 202211138811 A CN202211138811 A CN 202211138811A CN 115422010 A CN115422010 A CN 115422010A
Authority
CN
China
Prior art keywords
node
task
nodes
abnormal
manager
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202211138811.9A
Other languages
English (en)
Inventor
闾泽军
申鹏
邢乃路
付庆午
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202211138811.9A priority Critical patent/CN115422010A/zh
Publication of CN115422010A publication Critical patent/CN115422010A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3089—Monitoring arrangements determined by the means or processing involved in sensing the monitored data, e.g. interfaces, connectors, sensors, probes, agents
    • G06F11/3093—Configuration details thereof, e.g. installation, enabling, spatial arrangement of the probes
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/48—Program initiating; Program switching, e.g. by interrupt
    • G06F9/4806—Task transfer initiation or dispatching
    • G06F9/4843—Task transfer initiation or dispatching by program, e.g. task dispatcher, supervisor, operating system
    • G06F9/4881—Scheduling strategies for dispatcher, e.g. round robin, multi-level priority queues
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F9/00—Arrangements for program control, e.g. control units
    • G06F9/06—Arrangements for program control, e.g. control units using stored programs, i.e. using an internal store of processing equipment to receive or retain programs
    • G06F9/46—Multiprogramming arrangements
    • G06F9/50—Allocation of resources, e.g. of the central processing unit [CPU]
    • G06F9/5005—Allocation of resources, e.g. of the central processing unit [CPU] to service a request
    • G06F9/5027—Allocation of resources, e.g. of the central processing unit [CPU] to service a request the resource being a machine, e.g. CPUs, Servers, Terminals

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Mathematical Physics (AREA)
  • Debugging And Monitoring (AREA)

Abstract

本申请提供数据集群中的节点管理方法、装置及存储介质。本申请的技术方案中，资源管理器获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，其中，至少一个异常节点信息指示的节点是与至少一个节点管理器连接的多个节点中的节点，至少一个任务运行信息包括在多个节点中的任意一个节点运行失败的目标任务的运行信息；根据至少一个异常节点信息和至少一个任务运行信息，从多个节点中确定目标异常节点；然后对多个节点中的正常节点进行任务调度。本申请的节点管理方法可以提高识别大数据集群中异常节点的准确性，进而提升大数据集群的调度稳定性。

Description

数据集群中的节点管理方法、装置及存储介质
技术领域
本申请涉及大数据技术领域，尤其涉及数据集群中的节点管理方法、装置及存储介质。
背景技术
在大数据技术领域中，大数据集群的资源调度***(Hadoop yet anotherresource negotiator，Hadoop Yarn)负责***的资源管理和调度工作，近年来已经成为大数据资源管理的事实上的标准，支持了并行计算编程模型(MapReduce)、大数据计算框架(Spark)、流式计算框架(Flink)、DAG作业的分布式执行框架(Tez)等诸多计算引擎。Yarn中分为全局资源管理器(resouce manager，RM)和节点管理器(node manager，NM)角色，RM主要负责全局的分配和管理，NM负责单个节点的资源分配和管理。
随着集群规模的不断扩大，在集群资源管理中，节点异常事件总会发生，在目前相关技术中，对集群资源中出现的异常节点的管理主要通过NM自带的健康状态监测机制，默认提供磁盘损坏情况检测，同时也支持用户自定义监测脚本。
然而，现有的节点异常的检测方式对异常节点的识别不够准确，导致大数据集群的调度稳定性不高，因此，如何提高大数据集群的调度稳定性成为目前亟待解决的问题。
发明内容
本申请提供数据集群中的节点管理方法、装置及存储介质，该节点管理方法可以提高识别大数据集群中异常节点的准确性，进而提升大数据集群的调度稳定性。
第一方面，本申请提供一种数据集群中的节点管理方法，应用于资源管理器，所述方法包括：获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，所述至少一个异常节点信息指示的节点是与所述至少一个节点管理器连接的多个节点中的节点，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息；根据所述至少一个异常节点信息和所述至少一个任务运行信息，从所述多个节点中确定目标异常节点；对所述多个节点中的正常节点进行任务调度，所述正常节点为所述多个节点中除去所述目标异常节点中的部分或全部异常节点外的节点。
在本申请实施例中，资源管理器获取来自应用程序管理器的异常节点信息和来自节点管理器的任务运行信息，综合确定目标异常节点，进而对除去目标异常节点中的部分或全部异常节点外的节点进行任务调度，这种综合应用程序管理器、节点管理器和资源管理器三个组件来参与确定目标异常节点的方法，可以提高识别大数据集群中异常节点的准确性，进而提升大数据集群的调度稳定性。
第二方面，本申请提供一种数据集群中的节点管理方法，应用于节点管理器，所述方法包括：获取至少一个任务运行信息，所述至少一个任务运行信息包括在与所述节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息；向资源管理器发送所述至少一个任务运行信息。
第三方面，本申请提供一种数据集群中的节点管理装置，应用于资源管理器，所述装置包括：获取模块，用于获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，所述至少一个异常节点信息指示的节点是与所述至少一个节点管理器连接的多个节点中的节点，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息；确定模块，用于根据所述至少一个异常节点信息和所述至少一个任务运行信息，从所述多个节点中确定目标异常节点；调度模块，用于对所述多个节点中的正常节点进行任务调度，所述正常节点为所述多个节点中除去所述目标异常节点中的部分或全部异常节点外的节点。
第四方面，本申请提供一种数据集群中的节点管理装置，应用于节点管理器，所述装置包括：获取模块，用于获取至少一个任务运行信息，所述至少一个任务运行信息包括在与所述节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息；发送模块，用于向资源管理器发送所述至少一个任务运行信息。
第五方面，本申请提供一种数据集群中的节点管理装置，包括处理器和存储器，所述存储器用于存储代码指令；所述处理器用于运行所述代码指令，以实现上述第一方面或第二方面或其中任一种可能实现方式中的方法。
第六方面，本申请提供一种计算机可读存储介质，该计算机可读存储介质存储有计算机程序(也可以称为代码，或指令)当其在计算机上运行时，使得计算机执行上述第一方面或第二方面或其中任一种可能实现方式中的方法。
第七方面，本申请提供一种计算机程序产品，所述计算机程序产品包括：计算机程序(也可以称为代码，或指令)，当计算机程序被运行时，使得计算机执行上述第一方面或第二方面或其中任一种可能实现方式中的方法。
附图说明
图1是本申请一个实施例提供的Yarn调度***的结构示意图；
图2为本申请一个实施例提供的数据集群中的节点管理方法的流程图；
图3为本申请另一个实施例提供的数据集群中的节点管理方法的流程图；
图4为本申请一个实施例提供的由应用程序黑名单确定集群全局黑名单的示意图；
图5为本申请又一个实施例提供的数据集群中的节点管理方法的流程图；
图6为本申请一个实施例提供的数据集群中的节点管理装置的结构示意图；
图7为本申请另一个实施例提供的数据集群中的节点管理装置的结构示意图；
图8为本申请另一个实施例提供的装置的结构性示意图。
具体实施方式
下面将结合附图，对本申请中的技术方案进行描述。
为了便于清楚描述本申请实施例的技术方案，在本申请的实施例中，采用了“第一”、“第二”等字样对功能和作用基本相同的相同项或相似项进行区分。例如，第一指令和第二指令是为了区分不同的用户指令，并不对其先后顺序进行限定。本领域技术人员可以理解“第一”、“第二”等字样并不对数量和执行次序进行限定，并且“第一”、“第二”等字样也并不限定一定不同。
需要说明的是，本申请中，“示例性地”或者“例如”等词用于表示作例子、例证或说明。本申请中被描述为“示例性地”或者“例如”的任何实施例或设计方案不应被解释为比其他实施例或设计方案更优选或更具优势。确切而言，使用“示例性地”或者“例如”等词旨在以具体方式呈现相关概念。
此外，“至少一个”是指一个或者多个，“多个”是指两个或两个以上。“和/或”，描述关联对象的关联关系，表示可以存在三种关系，例如，A和/或B，可以表示：单独存在A，同时存在A和B，单独存在B的情况，其中A，B可以是单数或者复数。字符“/”一般表示前后关联对象是一种“或”的关系。“以下至少一项(个)”或其类似表达，是指的这些项中的任意组合，包括单项(个)或复数项(个)的任意组合。例如，a、b和c中的至少一项(个)，可以表示：a，或b，或c，或a和b，或a和c，或b和c，或a、b和c，其中a，b，c可以是单个，也可以是多个。
图1为本申请一个实施例提供的Yarn调度***的结构示意图。如图1所示，该Yarn调度***100包括资源管理器(resource manager，RM)101和节点管理器(node manager，NM)102。其中，RM 101和NM 102之间可以进行交互。例如，RM 101可以监控NM 102，并对NM102上的资源进行统一管理和调度，NM 102会定期向RM 101上报其上运行的任务的状态(例如磁盘、内存、CPU等使用信息)。
可以理解，图1中示出的NM 102的数量为一个仅是一种示例，一般情况下，Yarn调度***100可以包括一个RM 101和多个NM 102，本申请对NM 102的数量不进行限制。
示例性地，RM 101为Yarn调度***100的中心资源管理器，负责整个***的资源管理和分配，包括处理客户端请求、启动/监控应用程序管理器(application master，AM)、监控NM 102、资源的分配与调度等。例如，当用户提交一个应用程序时，RM 101需要提供一个用以跟踪和管理这个程序的AM，该AM负责向RM 101申请资源，并要求NM102启动可以占用一定资源的任务(container)。由于不同的AM被分布到不同的节点上，因此它们之间不会相互影响。
NM 102可以看做是每个节点上的资源和任务管理器，负责各个节点的资源使用情况以及各个container的运行状态，并与RM 101进行交互，即向RM 101上报节点的状态(磁盘，内存，CPU等使用信息)；NM 102同时处理AM上附加的各种实际请求，例如container的启动、停止等。其中，container是Yarn中分配资源的一个单位，包括内存、CPU等资源，也可以看做是Yarn在多维度资源的封装，container的具体封装是根据应用程序的需求动态生成的。
作为一种示例，在Yarn调度***中，当用户提交作业到RM 101上时，RM 101会将该作业对应的AM调度到一台NM 102节点上，AM进程启动后，开始注册到RM 101上，并根据作业执行计划向RM 101申请资源，进而RM 101将container调度到各个NM 102节点上，container定期向AM汇报执行的状态，Yarn中的所有NM 102也会定期向RM 101汇报资源和进程状态。
近年来，在大数据计算领域内，Hadoop Yarn已经成为大数据资源管理的事实上的标准，支持了MapReduce、Spark、Flink、Tez等诸多计算引擎。但是，随着集群规模的不断扩大，在集群资源管理中，节点异常这种小概率事件总会发生，因此在调度的时候必须考虑异常节点的容错。
在目前相关技术中，对集群资源中出现的异常节点的管理主要通过NM自带的健康状态监测机制。例如，Yarn调度***中包括一个RM和多个NM，每个NM可以包括多个磁盘，每个NM通过其中的“LocalDirsHandlerService”服务周期性监测磁盘的健康状态，若某块磁盘的空间占用超过了管理员设定的阈值，则该磁盘会被标记为非正常状态，如果节点上非正常状态的磁盘数量超过了预设比例，则对应的整个节点会被标记为非健康状态(Unhealthy)，也即异常节点，进一步地，相应的NM通过心跳(Heartbeat)将该异常节点上报给RM，RM会清理掉该异常节点上正在运行的container，且后续调度也不再为其分配container。
然而，现有的异常节点的检测方式强依赖于NM，且检测的策略只能局限在节点本身的物理环境，对异常节点的识别不够准确，导致大数据集群的调度稳定性不高，因此，如何提高大数据集群的调度稳定性成为目前亟待解决的问题。
有鉴于此，本申请实施例提供了一种数据集群中的节点管理方法及装置，可以提高识别大数据集群中异常节点的准确性，进而提升大数据集群的调度稳定性。
下面结合附图对本申请实施例提供的数据集群中的节点管理方法进行详细说明。
请参考图2，为本申请一个实施例提供的数据集群中的节点管理方法的流程图。该方法可以应用于上述图1所示的Yarn调度***，除此之外还可以应用于其他场景，本申请实施例对此不做限定。为方便说明，下文中以该方法应用在如图1所示的Yarn调度***中为例，相应地，下文中的资源管理器为图1所示的RM 101，下文中的节点管理器为图1所示的NM102。下面详细说明图2所示的方法中的各个步骤，该流程图包括：
S201，应用程序管理器向资源管理器发送至少一个异常节点信息，相应的，资源管理器接收该至少一个异常节点信息。
其中，至少一个异常节点信息指示的节点是与至少一个节点管理器连接的多个节点中的节点。
应理解，在Yarn调度***运行的过程中，资源管理器根据作业需要启动了相应的应用程序管理器，应用程序管理器会根据执行过程中失败的任务情况得到对应的异常节点信息，并将该异常节点信息发送至资源管理器。
作为一种示例，应用程序管理器(如App1)在节点N1、节点N2和节点N3上均运行失败，则异常节点信息中包括节点N1、节点N2和节点N3。
S202，节点管理器获取至少一个任务运行信息，至少一个任务运行信息包括在与节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息。
应理解，在Yarn调度***运行的过程中，节点管理器会获取其上运行的任务的运行信息，例如所有任务(正在运行的任务和已经运行结束的任务)的状态码，其中部分状态码可以有效反映其对应的节点是否异常。或者，该运行信息可以用来指示任务的运行时长，若某个任务的运行时长超过预设时长阈值，则可以认为该任务为异常任务。当然，该运行信息也可以包括其他内容，在此不作限制。
S203，节点管理器向资源管理器发送至少一个任务运行信息，相应的，资源管理器接收该至少一个任务运行信息。
其中，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息。
理解性地，节点管理器会定期通过心跳向资源管理器发送该至少一个任务运行信息，告知资源管理器相应的节点的情况。例如将所有任务(正在运行的任务和已经运行结束的任务)的状态码发送至资源管理器，相应的，资源管理器接收该状态码。
S204，资源管理器根据至少一个异常节点信息和至少一个任务运行信息，从多个节点中确定目标异常节点。
应理解，资源管理器根据上述步骤中收到的至少一个异常节点信息和至少一个任务运行信息，确定存在异常的节点均为目标异常节点；或者，根据至少一个异常节点信息和至少一个任务运行信息，确定异常比较严重的节点为目标异常节点，其中，异常比较严重的节点可以通过异常节点信息和任务运行信息这两个信息中是否有多次重合来判断，重合的次数超过预设阈值，说明异常比较严重，且重合的次数越多说明异常越严重。
S205，资源管理器对多个节点中的正常节点进行任务调度。
其中，正常节点为多个节点中除去目标异常节点中的部分或全部异常节点外的节点。
应理解，资源管理器发现了目标异常节点后，则不在该目标异常节点上进行任务调度，在除目标异常节点中的部分或全部异常节点外的节点上进行任务调度。
示例性地，某些节点只会在运行特定任务的时候产生异常，这种情况下，正常节点为除去目标异常节点中的部分异常节点外的节点，不用全部排除，例如，资源管理器只在运行特定任务时，不对这些指定的异常节点进行调度，其他情况下，可以继续调度。若某些节点在不管运行什么任务时均被确定为异常节点，则正常节点为除去目标异常节点中全部异常节点外的节点。
可选地，资源管理器对正常节点进行任务调度的方法可以参照现有技术中的任务调度方法，本申请对此不做限制。
在上述实施例中，资源管理器通过获取来自应用程序管理器的异常节点信息和来自节点管理器的任务运行信息，综合确定目标异常节点，该方式得到的目标异常节点比较准确，例如，可以识别到诸如节点用户组缺失、配置文件错误导致运行异常、磁盘目录权限异常和依赖包缺失等多种环境异常的节点，大大减少任务的重试。
进一步地，基于确定好的目标异常节点，进而对除去目标异常节点中的部分或全部异常节点外的节点进行任务调度，这种综合应用程序管理器、节点管理器和资源管理器三个组件来参与确定目标异常节点的方法，充分利用了任务运行期间的状态参照信息并采用投票的思想来选举异常节点，挖掘出物理监控无法覆盖的各类环境异常问题，形成调度***的内部自治，可以提高识别大数据集群中异常节点的准确性，进而提升大数据集群的调度稳定性。
基于上述实施例，图3为本申请另一个实施例提供的数据集群中的节点管理方法的流程图。在图3所示的实施例中，以具体怎么根据异常节点信息和任务运行信息确定目标异常节点为例，下面详细说明图3所示的方法中的各个步骤，该流程图包括：
S301，应用程序管理器向资源管理器发送至少一个异常节点信息，相应的，资源管理器接收该至少一个异常节点信息。
其中，至少一个异常节点信息指示的节点是与至少一个节点管理器连接的多个节点中的节点。
该步骤和图2所示的实施例中的步骤S201相似，在此不再赘述。
S302，节点管理器获取至少一个任务运行信息，至少一个任务运行信息包括在与节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息。
该步骤和图2所示的实施例中的步骤S202相似，在此不再赘述。
S303，节点管理器向资源管理器发送至少一个任务运行信息，相应的，资源管理器接收该至少一个任务运行信息。
其中，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息。
该步骤和图2所示的实施例中的步骤S203相似，在此不再赘述。
S304，资源管理器根据至少一个异常节点信息，从多个节点中确定全局异常节点以及与至少一个应用程序分别对应的至少一个应用程序异常节点。
其中，资源管理器不在全局异常节点上进行任何任务调度，资源管理器不在目标应用程序异常节点上调度与目标应用程序对应的任务，目标应用程序异常节点与目标应用程序对应，目标应用程序异常节点为至少一个应用程序异常节点中的其中一个。
应理解，应用程序管理器根据执行过程中失败的任务情况得到对应的异常节点信息，并将该异常节点信息对应的节点标记为应用程序异常节点，然后发送至资源管理器，请求资源管理器为其更换一个其他节点。
例如，应用程序管理器在某个节点上运行任务时失败了，则应用程序管理器将该节点标记为应用程序异常节点，然后通过心跳将该应用程序异常节点发送至资源管理器，告知资源管理器这个节点有问题，请求为其更换一个其他节点。
可选地，应用程序异常节点的集合也可以叫做节点的应用程序黑名单(AppBlacklist)。
进一步地，资源管理器对接收到的应用程序管理器发送的应用程序黑名单进行处理，统计这些应用程序黑名单中对应的异常节点出现的频率，大于或等于预设阈值则被认定为全局异常节点，也即写入集群全局黑名单(Global Blacklist)。
例如，如图4所示，应用程序管理器App1的应用程序黑名单包括节点N1、节点N2和节点N3，应用程序管理器App2的应用程序黑名单包括节点N2、节点N4和节点N6，应用程序管理器App3的应用程序黑名单包括节点N2、节点N6和节点N7，应用程序管理器App4的应用程序黑名单包括节点N2、节点N6和节点N8，假设预设阈值为3，则节点N2出现了4次，节点N6出现了3次，即节点N2和节点N6的出现频率超过了预设阈值，则节点N2和节点N6被认定为集群全局黑名单。
应理解，集群全局黑名单中的节点禁止调度任何任务，应用程序黑名单中的节点只禁止往对应的应用程序上调度任务。
该步骤中，根据异常节点信息确定全局异常节点以及应用程序异常节点的方法比较准确，方便于后续的任务调度。
S305，资源管理器根据至少一个任务运行信息，从多个节点中确定至少一个应用程序异常任务节点。
其中，目标应用程序异常任务节点分别与目标应用程序中的目标任务对应，资源管理器不在目标应用程序异常任务节点上调度目标任务，目标应用程序异常任务节点为至少一个应用程序异常任务节点中的其中一个。
可选地，资源管理器接收到的至少一个任务运行信息中的每个任务运行信息中包括运行失败的任务信息，该任务信息用于指示运行失败的任务的失败原因。
示例性地，运行失败的任务信息可以是对应的节点管理器上运行失败的目标应用程序中的目标任务(AM Container)的退出码。也就是说，该目标应用程序中的目标任务已经调度在节点上，但是运行失败了，该运行失败的任务的退出码中包括运行失败的原因，例如是目标任务启动过程中失败的、目标任务运行过程中失败的或者是节点的配置环境出现异常导致失败的等。
进一步地，资源管理器从至少一个任务运行信息中，去除目标失败任务，获得至少一个更新后的任务运行信息，该目标失败任务为失败原因指示为非节点的物理资源引起的运行失败的任务。根据至少一个更新后的任务运行信息，确定至少一个应用程序异常任务节点。
应理解，非节点的物理资源引起的运行失败的任务也即发送了退出码的目标任务，该目标任务已经调度在节点上，但是运行失败了。
示例性地，至少一个更新后的任务运行信息可以包括应用程序管理器启动器(AMLauncher)在启动目标应用程序管理器时直接在资源管理器内部发生异常，也即目标任务并未到达节点管理器，或者资源管理器和节点管理器之间单向网络不通等情况。
可选地，应用程序管理器发生异常的节点的集合也可以叫做应用程序管理器黑名单(AMContainer Blacklist)，应用程序管理器黑名单中的节点只限制调度对应的应用程序管理器。
可选地，资源管理器中包括异常节点管理器，上述获取应用程序管理器发送的异常节点信息和节点管理器发送的任务运行信息，以及确定目标异常节点的步骤可以由异常节点管理器来执行。
该步骤中，根据任务运行信息确定应用程序异常任务节点的方法，考虑到了任务运行中产生异常以及任务还没开始运行时产生异常的可能，得到的目标异常节点比较准确，方便于后续的任务调度。
S306，资源管理器对多个节点中的正常节点进行任务调度。
其中，正常节点为多个节点中除去目标异常节点中的部分或全部异常节点外的节点。
应理解，资源管理器中的异常节点管理器在运行过程中会实时更新上述集群全局黑名单以及应用程序异常任务黑名单中的节点信息，并将信息传递给资源管理器中的调度模块(Scheduler)，作为调度的黑名单过滤器(Blacklist Filter)，以达到规避调度的目的。
也就是说，资源管理器中的调度模块在进行任务调度时，会首先过滤掉集群全局黑名单以及应用程序异常任务黑名单中相关节点，然后对除去目标异常节点中的部分或全部异常节点外的正常节点进行任务调度。
在上述实施例中，资源管理器通过获取来自应用程序管理器的异常节点信息和来自节点管理器的任务运行信息，根据异常节点信息，从多个节点中确定全局异常节点以及应用程序异常节点，根据任务运行信息，从多个节点中确定应用程序异常任务节点的方法，得到的目标异常节点比较准确，例如，可以识别到诸如节点用户组缺失、配置文件错误导致运行异常、磁盘目录权限异常和依赖包缺失等多种环境异常的节点，大大减少任务的重试。
进一步地，基于确定好的全局异常节点、应用程序异常节点以及应用程序异常任务节点，对除去目标异常节点中的部分或全部异常节点外的节点进行任务调度，可以提升大数据集群的调度稳定性。
在上述实施例的基础上，图5为本申请又一个实施例提供的数据集群中的节点管理方法的流程图。在图5所示的实施例中，以根据节点健康分，对多个节点中的正常节点进行任务调度为例，下面详细说明图5所示的方法中的各个步骤，该流程图包括：
S501，应用程序管理器向资源管理器发送至少一个异常节点信息，相应的，资源管理器接收该至少一个异常节点信息。
其中，至少一个异常节点信息指示的节点是与至少一个节点管理器连接的多个节点中的节点。
该步骤和图2所示的实施例中的步骤S201相似，在此不再赘述。
S502，节点管理器获取至少一个任务运行信息，至少一个任务运行信息包括在与节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息。
该步骤和图2所示的实施例中的步骤S202相似，在此不再赘述。
S503，节点管理器向资源管理器发送至少一个任务运行信息，相应的，资源管理器接收该至少一个任务运行信息。
其中，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息。
该步骤和图2所示的实施例中的步骤S203相似，在此不再赘述。
S504，资源管理器根据至少一个异常节点信息和至少一个任务运行信息，从多个节点中确定目标异常节点。
该步骤和图2所示的实施例中的步骤S204相似，在此不再赘述。
S505，节点管理器根据预设健康监测指标对与节点管理器连接的每个正常节点在执行任务时资源使用情况进行计算，得到的与每个正常节点对应的节点健康分。
其中，预设健康监测指标包括中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况。
应理解，节点管理器对每个正常节点在执行任务时的资源使用情况，如中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况进行检测，将得到的多维度的健康监测值通过加权平均的方式进行计算，得到统一的指标，即节点健康分。
可选地，不同负载类型的集群可以调整不同维度的权重。
示例性地，中央处理器(central processing unit，CPU)使用情况使用“SystemLoadAvg”和“AvailableProcessors”作为参考指标；磁盘占用情况采用“iostat”来监控“util”指标，并对挂载的多块硬盘设备的“util”进行排序，选取使用率较高的前1/3的均值作为磁盘压力；内存占用情况选取自“/proc/meminfo”内核接口文件来计算***内存空闲率；网络情况则根据“/proc/net/dev”来计算网络带宽使用率。然后将上述几类监控数据值均归一化到0至1之间，并通过加权平均来计算总的节点健康分(loadScore)数值，具体算法如下：
Figure BDA0003852523500000101
其中，loadScore为每个节点对应的节点健康分，cpuScore和cpuWeight为中央处理器使用情况对应的参考指标的平均分，diskScore和diskWeight为磁盘占用情况对应的参考指标的平均分，netScore和netWeight为网络情况对应的参考指标的平均分，memScore和memWeight为内存占用情况对应的参考指标的平均分。当然，上述计算过程只是一种示例，本领域技术人员可以采用其他参数以及计算方式，获得节点健康分，在此不作限制。
S506，节点管理器向资源管理器发送至少一个节点健康分，相应的，资源管理器接收该至少一个节点健康分。
可选地，由于节点健康分变化较快，为避免抖动，可以对得到的节点健康分进行离散化(例如10，20，30，…，100)，只有当节点健康分的离散区间发生变化，才会将数值上报给资源管理器。
可选地，计算节点健康分的过程可以由节点管理器执行，计算完成后发送至资源管理器，也可以由资源管理器对节点管理器监控时直接执行，本申请对此不做限制。
S507，资源管理器根据节点健康分，对多个节点中的正常节点进行任务调度。
应理解，针对每个节点，若节点健康分大于或等于第一预设阈值，则对运行在所述节点上的预设任务进行释放；若节点健康分大于或等于第二预设阈值，且小于第一预设阈值时，则停止继续调度新的任务至所述节点，第一预设阈值大于第二预设阈值；若节点健康分小于第二预设阈值，则维持所述节点的调度方式。
示例性地，资源管理器将节点健康分为三类：节点健康分大于或等于第一预设阈值的为第一类(Serious)、节点健康分大于或等于第二预设阈值，且小于第一预设阈值的为第二类(High)，节点健康分小于第二预设阈值的为第三类(Low)。对于第一类(Serious)节点，表示节点已经无法正常运行任务，此时会触发调度器进行任务的驱逐，选择部分任务进行释放，以使节点的负载(Load)降低下来；对于第二类(High)节点，表示当前节点的负载已经较高，但当前正在运行的任务还可以继续运行，但是不适合再调度更多的任务，这类节点的状态会被标记为“AutoReadOnly”；对于第三类(Low)节点，表示该节点运行正常，可以维持原有的调度方式。
可选地，上述三类节点的状态在运行过程中可以互相转换，并及时将状态更新至调度器中进行相应的调度干预。
应理解，任务运行在节点健康分较高的节点上时，会受到严重干扰，通过调度规避节点健康分高的节点可以有效减少任务的长尾现象。
可选地，对于上述三类节点的缓存均采用优先队列的方式维护，例如，根据节点健康分，将正常节点缓存至第一预设队列中，其中，第一预设队列中的节点按照节点对应的节点健康分由低到高排序。若第一预设队列所占用的缓存空间大于或等于第一预设缓存阈值，例如，第一预设队列存满的时候，则按照节点对应的节点健康分的高低，顺序移除节点健康分低的节点。
可选地，由于节点对应的节点健康分是实时更新的，所以无需写入“checkpoint”，在资源管理器重启后，可以重新根据节点管理器上报的节点健康分数据来重建。
可选地，由于在spark、mapreduce类型的集群负载下，部分任务的“shuffle”过程很容易引起大量磁盘输入/输出(input/output，IO)数据，并且在Yarn节点管理器和“HdfsDataNode”混部的节点上，这种IO异常除了对其他任务造成干扰，也严重干扰了DataNode的服务。因此，本申请对已经运行在节点上的任务采用动态的IO限制模式，默认不做IO限制，而是对每个任务在运行时进行IO监控，并通过cgroup的blkio子***来增加对IO的限制，以减少对其他任务以及其他服务的干扰，最终使得节点环境自动恢复到正常水平。具体算法如下：
监控至少一个节点管理器中每个节点管理器对应的所有任务的输入/输出IO资源的使用信息，若所有任务中的IO资源的使用信息中第一任务的IO资源的使用值大于或等于预设使用阈值，则对第一任务使用的IO资源进行抑制处理。
示例性地，遍历节点管理器的进程树，对所有任务的IO进行排序，如果超过单个进程IO的预设使用阈值，则开始写入cgroup blk资源配置来限制任务的IO使用，也即引入iops/bps限制的方式，来限制资源组使用上限。相应地，当任务结束时，清理相应的cgroupblk配置。
应理解，通过对IO异常的任务进行动态控制，可以大大减少异常IO占用的节点。以磁盘读写率为例，指标采集自“/sys/block/$device/stat”，用预设时间窗口内的变化值表示磁盘IO的使用压力。下表1统计了集群所有节点在某个时间段磁盘读写率，此处按照磁盘读写率从小到大排序，并统计不同分位数所对应的磁盘读写率。其中99％分位的磁盘写入率大幅下降，充分反映了这部分异常IO的节点得到有效控制。
表1
分位值 下降幅度
99％ 91％
90％ 18.9％
80％ 18％
可选地，由于IO异常所导致的datanode掉线的比例也降低了90％以上。
可选地，节点管理器除了对任务进行运行时监控和限制，自带的Shuffle服务也可以建立监控，部分场景下shuffle服务也会带来异常的IO消耗。
该实施例中，在通过获取来自应用程序管理器的异常节点信息和来自节点管理器的任务运行信息，综合确定目标异常节点的基础上，对除去目标异常节点中的部分或全部异常节点外的节点计算节点的节点健康分，并针对节点健康分建立了分级的处理策略，以达到自愈代价最小化，从调度源头减少了任务异常的发生；且采用任务运行时动态IO限制，在默认放开IO限制的情况下充分发挥机器性能，同时又可以显著减少异常IO场景的发生，有效提升了大数据集群的调度稳定性。
可选地，基于上述三个实施例中的任意一个实施例，从多个节点中确定了目标异常节点之后，对目标异常节点的存储可以采用优先队列和超时控制机制，即将目标异常节点依次缓存至第二预设队列中；若第二预设队列所占用的缓存空间大于或等于第二预设缓存阈值，则按照进入队列的时间先后顺序移除第二预设队列中在先存入的目标异常节点；和/或，移除存储时间大于或等于预设存储周期对应的异常节点。
示例性地，将目标异常节点按照入队时间进行排序，每当一个节点被认定为目标异常节点就进入队列，并记录入队时间，同时控制队列的缓存(Buffer)大小，当Buffer满的时候，自动移除队首的节点，并定期将超时的节点移除。
应理解，该存储方式可以有效地控制目标异常节点的数量，以避免异常节点数量过多导致计算资源严重不可用。
可选地，节点重启会被认为是一次有效的运维操作，也会自动将该节点从目标异常节点移除。目标异常节点也会被写入容错恢复机制(checkpoint)，以保证资源管理器重启后不会丢失。
可选地，本申请中还可以增加“yarn rmadmin”运维命令，以支持人为干预(增加或移除)目标异常节点列表。
在上述实施例的基础上，图6为本申请一个实施例提供的数据集群中的节点管理装置600的结构性示意图，该装600包括：获取模块601、确定模块602和调度模块603。
其中，获取模块601，用于获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，至少一个异常节点信息指示的节点是与至少一个节点管理器连接的多个节点中的节点，至少一个任务运行信息包括在多个节点中的任意一个节点运行失败的目标任务的运行信息；确定模块602，用于根据至少一个异常节点信息和至少一个任务运行信息，从多个节点中确定目标异常节点；调度模块603用于对多个节点中的正常节点进行任务调度，正常节点为多个节点中除去目标异常节点中的部分或全部异常节点外的节点。
在一些实施例中，确定模块602，具体用于根据所述至少一个异常节点信息，从所述多个节点中确定全局异常节点以及与至少一个应用程序分别对应的至少一个应用程序异常节点，其中，所述资源管理器不在所述全局异常节点上进行任何任务调度，所述资源管理器不在目标应用程序异常节点上调度与所述目标应用程序对应的任务，所述目标应用程序异常节点与所述目标应用程序对应，所述目标应用程序异常节点为所述至少一个应用程序异常节点中的其中一个；根据所述至少一个任务运行信息，从所述多个节点中确定至少一个应用程序异常任务节点，其中，目标应用程序异常任务节点分别与目标应用程序中的目标任务对应，所述资源管理器不在所述目标应用程序异常任务节点上调度所述目标任务，所述目标应用程序异常任务节点为所述至少一个应用程序异常任务节点中的其中一个。
在一些实施例中，每个任务运行信息中包括运行失败的任务信息，所述任务信息用于指示所述运行失败的任务的失败原因，确定模块602，还用于从所述至少一个任务运行信息中，去除目标失败任务，获得至少一个更新后的任务运行信息，所述目标失败任务为所述失败原因指示为非节点的物理资源引起的运行失败的任务；根据所述至少一个更新后的任务运行信息，确定所述至少一个应用程序异常任务节点。
在一些实施例中，获取模块601，还用于获取每个节点管理器发送的至少一个节点健康分，每个节点健康分是所述节点管理器根据预设健康监测指标对与所述节点管理器连接的每个正常节点在执行任务时资源使用情况进行计算得到的，所述预设健康监测指标包括中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况。
在一些实施例中，调度模块603，具体用于根据所述节点健康分，对所述多个节点中的正常节点进行任务调度。
在一些实施例中，调度模块603，具体还用于针对每个节点，若所述节点健康分大于或等于第一预设阈值，则对运行在所述节点上的预设任务进行释放；若所述节点健康分大于或等于第二预设阈值，且小于所述第一预设阈值时，则停止继续调度新的任务至所述节点，所述第一预设阈值大于所述第二预设阈值；若所述节点健康分小于所述第二预设阈值，则维持所述节点的调度方式。
在一些实施例中，所述装置还包括：缓存模块，用于根据所述节点健康分，将所述正常节点缓存至第一预设队列中，其中，所述第一预设队列中的正常节点按照所述正常节点对应的节点健康分由低到高排序；移除模块，用于若所述第一预设队列所占用的缓存空间大于或等于第一预设缓存阈值，则按照所述正常节点对应的节点健康分的高低，顺序移除节点健康分低的节点。
在一些实施例中，所述装置还包括：监控模块，用于监控所述至少一个节点管理器中每个节点管理器对应的所有任务的输入/输出IO资源的使用信息；处理模块，用于若所述所有任务中的IO资源的使用信息中第一任务的IO资源的使用值大于或等于预设使用阈值，则对所述第一任务使用的IO资源进行抑制处理。
在一些实施例中，缓存模块，还用于将所述目标异常节点依次缓存至第二预设队列中；所述移除模块还用于若所述第二预设队列所占用的缓存空间大于或等于第二预设缓存阈值，则按照进入队列的时间先后顺序移除所述第二预设队列中在先存入的目标异常节点；和/或，移除存储时间大于或等于预设存储周期对应的异常节点。
应理解，这里的装置600以功能模块的形式体现。这里的术语“模块”可以指应用特有集成电路(application specific integrated circuit，ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。在一个可选例子中，本领域技术人员可以理解，装置600可以具体为上述实施例中的资源管理器，或者，上述实施例中资源管理器的功能可以集成在装置600中，装置600可以用于执行上述方法实施例中与资源管理器对应的各个流程和/或步骤，为避免重复，在此不再赘述。
上述装置600具有实现上述方法中资源管理器执行的相应步骤的功能；上述功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。
图7为本申请另一个实施例提供的数据集群中的节点管理装置700的结构性示意图，该装置700包括：获取模块701和发送模块702。
其中，获取模块701，用于获取至少一个任务运行信息，至少一个任务运行信息包括在与节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息；发送模块702，用于向资源管理器发送至少一个任务运行信息。
在一些实施例中，所述装置还包括：计算模块，用于根据预设健康监测指标对与所述节点管理器连接的每个正常节点在执行任务时资源使用情况进行计算，得到的与每个正常节点对应的节点健康分，所述预设健康监测指标包括中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况；发送模块702，还用于向所述资源管理器发送所述每个正常节点对应的节点健康分。
在一些实施例中，所述装置还包括：监控模块，用于监控所述节点管理器对应的所有任务的输入/输出IO资源的使用信息；处理模块，用于若所述所有任务中的IO资源的使用信息中第一任务的IO资源的使用值大于或等于预设使用阈值，则对所述第一任务使用的IO资源进行抑制处理。
在一些实施例中，每个任务运行信息中包括运行失败的任务信息，所述任务信息用于指示所述运行失败的任务的失败原因。
应理解，这里的装置700以功能模块的形式体现。这里的术语“模块”可以指应用特有集成电路(application specific integrated circuit，ASIC)、电子电路、用于执行一个或多个软件或固件程序的处理器(例如共享处理器、专有处理器或组处理器等)和存储器、合并逻辑电路和/或其它支持所描述的功能的合适组件。在一个可选例子中，本领域技术人员可以理解，装置700可以具体为上述实施例中的节点管理器，或者，上述实施例中节点管理器的功能可以集成在装置700中，装置700可以用于执行上述方法实施例中与节点管理器对应的各个流程和/或步骤，为避免重复，在此不再赘述。
上述装置700具有实现上述方法中节点管理器执行的相应步骤的功能；上述功能可以通过硬件实现，也可以通过硬件执行相应的软件实现。该硬件或软件包括一个或多个与上述功能相对应的模块。
图8为本申请另一个实施例提供的装置的结构性示意图。图8所示的装置可以用于执行前述任意一个实施例的方法。
如图8所示，本实施例的装置800包括：存储器801、处理器802、通信接口803以及总线804。其中，存储器801、处理器802、通信接口803通过总线804实现彼此之间的通信连接。
存储器801可以是只读存储器(read only memory，ROM)，静态存储设备，动态存储设备或者随机存取存储器(random access memory，RAM)。存储器801可以存储程序，当存储器801中存储的程序被处理器802执行时，处理器802用于执行上述实施例中所示的方法中资源管理器或节点管理器对应的各个步骤。
处理器802可以采用通用的中央处理器(central processing unit，CPU)，微处理器，应用专用集成电路(application specific integrated circuit，ASIC)，或者一个或多个集成电路，用于执行相关程序，以实现本申请实施例中所示的各个方法。
处理器802还可以是一种集成电路芯片，具有信号的处理能力。在实现过程中，本申请实施例的方法的各个步骤可以通过处理器802中的硬件的集成逻辑电路或者软件形式的指令完成。
上述处理器802还可以是通用处理器、数字信号处理器(digital signalprocessing，DSP)、ASIC、现成可编程门阵列(field programmable gate array，FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本申请实施例中公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
结合本申请实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成，或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器，闪存、只读存储器，可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器801，处理器802读取存储器801中的信息，结合其硬件完成本申请装置包括的单元所需执行的功能。
通信接口803可以使用但不限于收发器一类的收发装置，来实现装置800与其他设备或通信网络之间的通信。
总线804可以包括在装置800各个部件(例如，存储器801、处理器802、通信接口803)之间传送信息的通路。
应理解，本申请实施例所示的装置800可以是电子设备，或者，也可以是配置于电子设备中的芯片。
应理解，在本申请的各种实施例中，上述各过程的序号的大小并不意味着执行顺序的先后，各过程的执行顺序应以其功能和内在逻辑确定，而不应对本申请实施例的实施过程构成任何限定。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
所属领域的技术人员可以清楚地了解到，为描述的方便和简洁，上述描述的***、装置和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在本申请所提供的几个实施例中，应该理解到，所揭露的***、装置和方法，可以通过其它的方式实现。例如，以上所描述的装置实施例仅仅是示意性的，例如，所述单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。另一点，所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口，装置或单元的间接耦合或通信连接，可以是电性，机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。
所述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(read-only memory，ROM)、随机存取存储器(random access memory，RAM)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述，仅为本申请的具体实施方式，但本申请的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本申请揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本申请的保护范围之内。因此，本申请的保护范围应以所述权利要求的保护范围为准。

Claims (18)

1.一种数据集群中的节点管理方法，其特征在于，应用于资源管理器，所述方法包括：
获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，所述至少一个异常节点信息指示的节点是与所述至少一个节点管理器连接的多个节点中的节点，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息；
根据所述至少一个异常节点信息和所述至少一个任务运行信息，从所述多个节点中确定目标异常节点；
对所述多个节点中的正常节点进行任务调度，所述正常节点为所述多个节点中除去所述目标异常节点中的部分或全部异常节点外的节点。
2.根据权利要求1所述的方法，其特征在于，所述根据所述至少一个异常节点信息和所述至少一个任务运行信息，从所述多个节点中确定目标异常节点，包括：
根据所述至少一个异常节点信息，从所述多个节点中确定全局异常节点以及与至少一个应用程序分别对应的至少一个应用程序异常节点，其中，所述资源管理器不在所述全局异常节点上进行任何任务调度，所述资源管理器不在目标应用程序异常节点上调度与所述目标应用程序对应的任务，所述目标应用程序异常节点与所述目标应用程序对应，所述目标应用程序异常节点为所述至少一个应用程序异常节点中的其中一个；
根据所述至少一个任务运行信息，从所述多个节点中确定至少一个应用程序异常任务节点，其中，目标应用程序异常任务节点分别与目标应用程序中的目标任务对应，所述资源管理器不在所述目标应用程序异常任务节点上调度所述目标任务，所述目标应用程序异常任务节点为所述至少一个应用程序异常任务节点中的其中一个。
3.根据权利要求2所述的方法，其特征在于，每个任务运行信息中包括运行失败的任务信息，所述任务信息用于指示所述运行失败的任务的失败原因，所述根据所述至少一个任务运行信息，从所述多个节点中确定至少一个应用程序异常任务节点，包括：
从所述至少一个任务运行信息中，去除目标失败任务，获得至少一个更新后的任务运行信息，所述目标失败任务为所述失败原因指示为非节点的物理资源引起的运行失败的任务；
根据所述至少一个更新后的任务运行信息，确定所述至少一个应用程序异常任务节点。
4.根据权利要求1所述的方法，其特征在于，在确定目标异常节点之后，所述方法还包括：
获取每个节点管理器发送的至少一个节点健康分，每个节点健康分是所述节点管理器根据预设健康监测指标对与所述节点管理器连接的每个正常节点在执行任务时资源使用情况进行计算得到的，所述预设健康监测指标包括中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况。
5.根据权利要求4所述的方法，其特征在于，所述对所述多个节点中的正常节点进行任务调度，包括：
根据所述节点健康分，对所述多个节点中的正常节点进行任务调度。
6.根据权利要求5所述的方法，其特征在于，所述根据所述节点健康分，对所述多个节点中的正常节点进行任务调度，包括：
针对每个节点，若所述节点健康分大于或等于第一预设阈值，则对运行在所述节点上的预设任务进行释放；
若所述节点健康分大于或等于第二预设阈值，且小于所述第一预设阈值时，则停止继续调度新的任务至所述节点，所述第一预设阈值大于所述第二预设阈值；
若所述节点健康分小于所述第二预设阈值，则维持所述节点的调度方式。
7.根据权利要求6所述的方法，其特征在于，所述方法还包括：
根据所述节点健康分，将所述正常节点缓存至第一预设队列中，其中，所述第一预设队列中的正常节点按照所述正常节点对应的节点健康分由低到高排序；
若所述第一预设队列所占用的缓存空间大于或等于第一预设缓存阈值，则按照所述正常节点对应的节点健康分的高低，顺序移除节点健康分低的节点。
8.根据权利要求7所述的方法，其特征在于，所述方法还包括：
监控所述至少一个节点管理器中每个节点管理器对应的所有任务的输入/输出IO资源的使用信息；
若所述所有任务中的IO资源的使用信息中第一任务的IO资源的使用值大于或等于预设使用阈值，则对所述第一任务使用的IO资源进行抑制处理。
9.根据权利要求1至8中任一项所述的方法，其特征在于，所述方法还包括：
将所述目标异常节点依次缓存至第二预设队列中；
若所述第二预设队列所占用的缓存空间大于或等于第二预设缓存阈值，则按照进入队列的时间先后顺序移除所述第二预设队列中在先存入的目标异常节点；和/或，
移除存储时间大于或等于预设存储周期对应的异常节点。
10.一种数据集群中的节点管理方法，其特征在于，应用于节点管理器，所述方法包括：
获取至少一个任务运行信息，所述至少一个任务运行信息包括在与所述节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息；
向资源管理器发送所述至少一个任务运行信息。
11.根据权利要求10所述的方法，其特征在于，所述方法还包括：
根据预设健康监测指标对与所述节点管理器连接的每个正常节点在执行任务时资源使用情况进行计算，得到的与每个正常节点对应的节点健康分，所述预设健康监测指标包括中央处理器使用情况、磁盘占用情况、内存占用情况和网络情况；
向所述资源管理器发送所述每个正常节点对应的节点健康分。
12.根据权利要求11所述的方法，其特征在于，所述方法还包括：
监控所述节点管理器对应的所有任务的输入/输出IO资源的使用信息；
若所述所有任务中的IO资源的使用信息中第一任务的IO资源的使用值大于或等于预设使用阈值，则对所述第一任务使用的IO资源进行抑制处理。
13.根据权利要求10至12中任一项所述的方法，其特征在于，每个任务运行信息中包括运行失败的任务信息，所述任务信息用于指示所述运行失败的任务的失败原因。
14.一种数据集群中的节点管理装置，其特征在于，应用于资源管理器，所述装置包括：
获取模块，用于获取至少一个应用程序管理器发送的至少一个异常节点信息和至少一个节点管理器发送的至少一个任务运行信息，所述至少一个异常节点信息指示的节点是与所述至少一个节点管理器连接的多个节点中的节点，所述至少一个任务运行信息包括在所述多个节点中的任意一个节点运行失败的目标任务的运行信息；
确定模块，用于根据所述至少一个异常节点信息和所述至少一个任务运行信息，从所述多个节点中确定目标异常节点；
调度模块，用于对所述多个节点中的正常节点进行任务调度，所述正常节点为所述多个节点中除去所述目标异常节点中的部分或全部异常节点外的节点。
15.一种数据集群中的节点管理装置，其特征在于，应用于节点管理器，所述装置包括：
获取模块，用于获取至少一个任务运行信息，所述至少一个任务运行信息包括在与所述节点管理器连接的多个节点中的任意一个节点运行失败的目标任务的运行信息；
发送模块，用于向资源管理器发送所述至少一个任务运行信息。
16.一种数据集群中的节点管理装置，其特征在于，包括处理器和存储器，所述存储器用于存储代码指令；所述处理器用于运行所述代码指令，以执行如权利要求1至13中任一项所述的方法。
17.一种计算机可读存储介质，其特征在于，用于存储计算机程序，所述计算机程序包括用于实现如权利要求1至9或10至13中任一项所述的方法的指令。
18.一种计算机程序产品，所述计算机程序产品中包括计算机程序指令，其特征在于，当所述计算机程序指令在计算机上运行时，使得所述计算机实现如权利要求1至9或10至13中任一项所述的方法。
CN202211138811.9A 2022-09-19 2022-09-19 数据集群中的节点管理方法、装置及存储介质 Pending CN115422010A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202211138811.9A CN115422010A (zh) 2022-09-19 2022-09-19 数据集群中的节点管理方法、装置及存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202211138811.9A CN115422010A (zh) 2022-09-19 2022-09-19 数据集群中的节点管理方法、装置及存储介质

Publications (1)

Publication Number Publication Date
CN115422010A true CN115422010A (zh) 2022-12-02

Family

ID=84203933

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202211138811.9A Pending CN115422010A (zh) 2022-09-19 2022-09-19 数据集群中的节点管理方法、装置及存储介质

Country Status (1)

Country Link
CN (1) CN115422010A (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115994044A (zh) * 2023-01-09 2023-04-21 苏州浪潮智能科技有限公司 基于监控服务的数据库故障处理方法、装置及分布式集群

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN115994044A (zh) * 2023-01-09 2023-04-21 苏州浪潮智能科技有限公司 基于监控服务的数据库故障处理方法、装置及分布式集群

Similar Documents

Publication Publication Date Title
US8417999B2 (en) Memory management techniques selectively using mitigations to reduce errors
US9307048B2 (en) System and method for proactive task scheduling of a copy of outlier task in a computing environment
US8959515B2 (en) Task scheduling policy for limited memory systems
CN106452818B (zh) 一种资源调度的方法和***
EP0259224B1 (en) Method for performance evaluation of a data processor system
US10191771B2 (en) System and method for resource management
US10831387B1 (en) Snapshot reservations in a distributed storage system
US8943353B2 (en) Assigning nodes to jobs based on reliability factors
US8132170B2 (en) Call stack sampling in a data processing system
US9495201B2 (en) Management of bottlenecks in database systems
US20200034048A1 (en) Pulsed leader consensus management
US10817380B2 (en) Implementing affinity and anti-affinity constraints in a bundled application
US8914582B1 (en) Systems and methods for pinning content in cache
CN114328102A (zh) 设备状态监控方法、装置、设备及计算机可读存储介质
US9128754B2 (en) Resource starvation management in a computer system
CN115422010A (zh) 数据集群中的节点管理方法、装置及存储介质
Di Sanzo et al. Machine learning for achieving self-* properties and seamless execution of applications in the cloud
WO2010036526A2 (en) Memory management techniques selectively using mitigations to reduce errors
US8140892B2 (en) Configuration of memory management techniques selectively using mitigations to reduce errors
CN113590285A (zh) 一种用于线程池参数动态设置的方法、***及设备
CN109634740A (zh) 内存管理方法和装置
US9021499B2 (en) Moving a logical device between processor modules in response to identifying a varying load pattern
CN116127494A (zh) 用户并发访问的控制方法及相关装置
EP3389222B1 (en) A method and a host for managing events in a network that adapts event-driven programming framework
CN117593172B (zh) 进程管理方法、装置、介质及设备

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination