CN109101395A - 一种基于lstm的高性能计算集群应用监控方法及*** - Google Patents

一种基于lstm的高性能计算集群应用监控方法及*** Download PDF

Info

Publication number
CN109101395A
CN109101395A CN201810841868.2A CN201810841868A CN109101395A CN 109101395 A CN109101395 A CN 109101395A CN 201810841868 A CN201810841868 A CN 201810841868A CN 109101395 A CN109101395 A CN 109101395A
Authority
CN
China
Prior art keywords
data
normalized
threshold value
computing cluster
high performance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201810841868.2A
Other languages
English (en)
Inventor
胡辰
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Dawning Information Industry Beijing Co Ltd
Original Assignee
Dawning Information Industry Beijing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Dawning Information Industry Beijing Co Ltd filed Critical Dawning Information Industry Beijing Co Ltd
Priority to CN201810841868.2A priority Critical patent/CN109101395A/zh
Publication of CN109101395A publication Critical patent/CN109101395A/zh
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
    • G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3055—Monitoring arrangements for monitoring the status of the computing system or of the computing system component, e.g. monitoring if the computing system is on, off, available, not available
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00—Error detection; Error correction; Monitoring
    • G06F11/30—Monitoring
    • G06F11/3058—Monitoring arrangements for monitoring environmental properties or parameters of the computing system or of the computing system component, e.g. monitoring of power, currents, temperature, humidity, position, vibrations
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/049—Temporal neural networks, e.g. delay elements, oscillating neurons or pulsed inputs

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Mathematical Physics (AREA)
  • Artificial Intelligence (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Molecular Biology (AREA)
  • Software Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

本发明提供一种基于LSTM的高性能计算集群应用监控方法及***，所述方法包括：采集各计算节点的数据；将所述数据进行阈值预处理和归一化处理；将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；将经阈值预处理和归一化处理后的数据输入深度网络LSTM内进行高性能计算集群应用异常预测。本发明能够对当前高性能计算集群应用程序进行辅助监控，有效提升判断高性能计算集群应用运行状态的准确率，明显提高高性能集群应用程序运行可控性和稳定性。

Description

一种基于LSTM的高性能计算集群应用监控方法及***
技术领域
本发明涉及高性能计算技术领域，尤其涉及一种基于LSTM的高性能计算集群应用监控方法及***。
背景技术
高性能计算是计算机科学的一个分支，涉及到并行算法的研究、相关软件的开发以及高性能计算机的研制。随着科学技术的发展，高性能计算已深入到科学研究和国民生活的不同领域，其作用和重要性越来越明显。高性能计算集群通过各种互联技术将多个计算机***连接在一起，提高整体***的运算速度，可以达到每秒万亿次甚至更高的浮点计算能力，高性能计算集群对***的处理器、内存带宽、存储、***I/O等方面有非常高的要求，在气象预报、分子模拟、流体仿真、基因测序、生物制药和深度学习等领域有着广泛的应用。
高性能计算的应用软件众多，但是大多数的高性能计算应用都有对计算***性能要求高和运算时间长等特点，例如气象数值预报业务主要还是依托于高性能计算机完成，需要强大的计算性能，运行时间短则几十分钟，长则数小时甚至更长时间。再例如分子动力学模拟，除了对高性能计算机网络有很高要求外，一次作业任务运行时间甚至长达数天。然而在高性能计算应用长时间的运行过程中，有时会由于某些原因造成程序的异常运行，例如异常退出和运行变慢等，在运行初始阶段，用户很容易就可以根据自己的经验判断程序是否运行正常，而当程序正常启动运行之后，通常用户不会一直关注应用的运行状态，当程序在运行期间出现问题时就很难及时发现，只有当用户临时查看运行进度或者根据以往程序运行时间的经验值去获取结果数据时，才可能发现异常，然而这距离应用出现问题可能已经过去了很长一段时间，极大影响业务的进度，所以有效的监控高性能计算应用运行过程中的问题、及时发现异常状况，能够有效的避免因未及时发现问题而导致的影响。
目前，现有技术对于程序运行中的异常退出，相对容易监控，可以通过接收程序的异常退出码实现对程序的异常退出监控，同时程序异常退出后，承载该程序的作业也将退出，用户可以及时获取到作业日志发现异常信息，作业的退出也意味着该作业使用计算资源的释放，对计算资源不会有产生浪费的情况。
同时对于程序运行中的异常变慢，可能有很多种不同因素导致，例如常见的网络拥塞造成的网络延时增加、其他程序对内存带宽的抢占导致应用可占用的内存带宽变小和CPU温度过高造成的计算能力下降等。对于这些常见的因素，通常的处理办法是设置阈值，在阈值之内的认为当前程序在正常运行，而阈值之外认为当前程序运行异常，在设置阈值时，通常可设置多种不同类型的指标阈值。
然而，对于设置阈值判断程序是否异常的机制存在如下问题：
(1)在设置阈值时需要非常专业的行业领域经验，阈值范围设置的过大，容易遗漏异常运行的程序，阈值范围设置的过小，可能会误判正常运行的程序。
(2)由于在不同时间段，应用程序指标可能会出现不同范围的值，而阈值一般情况下是不变的，很难适应于程序运行时的整个过程。
(3)应用程序的指标参数众多，每个指标都设置阈值工作量非常大，多个指标的内在联系和相互影响也无法简单的通过阈值进行设置。
(4)对于程序运行异常的判断不仅仅来自当前时刻的信息，之前一段时间的信息也可能会对程序运行产生影响，这个通过当前时刻的阈值判断是无法满足的。
发明内容
本发明提供的基于LSTM的高性能计算集群应用监控方法及***，能够对当前高性能计算集群应用程序进行辅助监控，有效提升判断高性能计算集群应用运行状态的准确率，明显提高高性能集群应用程序运行可控性和稳定性。
第一方面，本发明提供一种基于LSTM的高性能计算集群应用监控方法，包括：
采集各计算节点的数据；
将所述数据进行阈值预处理和归一化处理；
将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
将经阈值预处理和归一化处理后的数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
可选地，所述采集各计算节点的数据包括：
采集各计算节点的数据；
将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
可选地，所述将所述数据进行阈值预处理和归一化处理包括：
判断按时间序列采集并处理的数据是否在第一阈值范围内，将在第一阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据作为异常数据；
判断获取的单一数据是否在第二阈值范围内，将在第二阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据执行应用报警。
可选地，所述将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM包括：
将经阈值预处理和归一化处理后并在第一阈值范围内的数据作为正样本；
增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
将正负样本集训练形成深度网络LSTM。
可选地，在所述将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测之后，所述方法还包括：
当预测到所述高性能计算集群应用异常时，执行应用报警。
第二方面，本发明提供一种基于LSTM的高性能计算集群应用监控***，包括：
采集模块，用于采集各计算节点的数据；
数据处理模块，用于将所述数据进行阈值预处理和归一化处理；
训练模块，用于将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
异常预测模块，用于将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
可选地，所述采集模块包括：
数据采集单元，用于采集各计算节点的数据；
数据存储单元，用于将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
可选地，所述数据处理模块包括：
阈值预处理单元，用于判断按时间序列采集并处理的数据是否在第一阈值范围内，以及判断获取的单一数据是否在第二阈值范围内；
归一化处理单元，用于将在第一阈值范围内的数据执行归一化处理，以及将在第二阈值范围内的数据执行归一化处理；
数据异常单元，用于将超出第一阈值范围的数据作为异常数据。
可选地，所述训练模块包括：
正样本形成单元，用于将经阈值预处理和归一化处理后并在第一阈值范围内的数据进行整理与标注，形成正样本；
增加单元，用于增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
训练单元，用于将正负样本集训练形成深度网络LSTM。
可选地，所述***还包括：
应用报警模块，用于执行应用报警。
本发明实施例提供的基于LSTM的高性能计算集群应用监控方法及***，所述方法通过将各计算节点的数据进行采集和汇总，不仅可以通过阈值预处理发现较为明显的异常值，同时还可以经过归一化处理，并利用LSTM对经阈值预处理和归一化处理后的数据进行学习训练形成深度网络LSTM，充分挖掘所采集的数据与应用运行状态之间的关系；进而挖掘出一段时间序列内的样本特征，对当前高性能计算集群应用程序进行辅助监控，有效提升判断高性能计算集群应用运行状态的准确率，明显提高高性能集群应用程序运行可控性和稳定性。
附图说明
图1为本发明一实施例基于LSTM的高性能计算集群应用监控方法的流程图；
图2为本发明另一实施例数据采集的架构图；
图3为本发明另一实施例深度网络LSTM数据训练的流程图；
图4为本发明另一实施例基于LSTM的高性能计算集群应用监控方法的流程图；
图5为本发明一实施例基于LSTM的高性能计算集群应用监控***的结构示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚，下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。
本发明实施例提供一种基于LSTM(长短期记忆网络：Long Short-Term Memory)的高性能计算集群应用监控方法，如图1所示，所述方法包括：
S11、采集各计算节点的数据；
S12、将所述数据进行阈值预处理和归一化处理；
可选的，将所述数据先进行阈值预处理，然后再进行归一化处理；或者，将所述数据先进行归一化处理，然后再进行阈值预处理。
S13、将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
S14、将经阈值预处理和归一化处理后的数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
本发明实施例提供的基于LSTM的高性能计算集群应用监控方法通过将各计算节点的数据进行采集和汇总，不仅可以通过阈值预处理发现较为明显的异常值，同时还可以经过归一化处理，并利用LSTM对经阈值预处理和归一化处理后的数据进行学习训练形成深度网络LSTM，充分挖掘所采集的数据与应用运行状态之间的关系；进而挖掘出一段时间序列内的样本特征，对当前高性能计算集群应用程序进行辅助监控，有效提升判断高性能计算集群应用运行状态的准确率，明显提高高性能集群应用程序运行可控性和稳定性。
并且，依据实验结果表明通过结合深度学习的方法进行WRF(天气预报模式：TheWeather Research and Forecasting Model)应用程序的异常监控准确率有明显提升。由于高性能应用程序类型复杂众多，实验测试主要针对气象领域较为常见的WRF高性能软件进行异常监控。
可选地，如图2所示，所述采集各计算节点的数据包括：
采集各计算节点的数据；
将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
具体的，由于通常一个高性能计算应用会涉及到多个不同的计算节点，不管哪个计算节点的运行出现异常，都可能会对应用程序产生影响，同时计算节点之间的网络是否满足应用需求也需要考虑在内。因此，根据以上问题，本实施例所述方法通过数据采集工具(例如，利用iostat、sar、top和nvidia-smi等命令)对每个计算节点的数据进行采集，例如，每10s采集一次。然后将采集到的数据通过socket(“套接字”)汇总到管理节点，并由管理节点进行数据的存储以及终端显示；进而实现了对计算集群参数进行统一的采集、收集和存储，便于对所采集的数据进行处理和判断，有利于提高计算集群应用监控的准确性。
可选地，所述各计算节点的数据包括：CPU信息、内存信息、本地硬盘信息、网络信息、共享存储信息和GPU信息中一种或者任意组合。
可选地，如图2所示，所述CPU信息包括矢量化利用率、核心利用率、核心温度和缓存命中率中一种或者任意组合。
或者，所述内存信息包括内存利用率、内存宽带和交换分区利用率中一种或者任意组合。
或者，所述本地硬盘信息包括硬盘读宽带、硬盘写宽带、硬盘读等待和硬盘写等待中一种或者任意组合。
或者，所述网络信息包括以太网接收速率、以太网发送速率、Infiniband接收速率和Infiniband发送速率中一种或者任意组合。
或者，所述共享存储信息包括数据写入速率、数据读出速率、发包速率和读包速率中一种或者任意组合。
或者，所述GPU信息包括GPU利用率、显存利用率和GPU温度中一种或者任意组合。
可选地，如图3和图4所示，所述将所述数据进行阈值预处理、归一化处理包括：
判断按时间序列采集并处理的数据是否在第一阈值范围内，将在第一阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据作为异常数据；
可选地，如图3所示，所述按时间序列采集并处理的数据包括采集数据按时序进行划分、或按时间进行序列处理；其中，所述按时间序列采集并处理的数据需作为训练样本进行LSTM训练。
可选的，所述在第一阈值范围内的数据执行如下处理：
获取硬件参数额定值；
特殊参数处理(例如：CPU的超频)；
归一化处理。
判断获取的单一数据是否在第二阈值范围内，将在第二阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据执行应用报警；
其中，所述获取的单一数据即需进行异常判断的数据。
可选地，所述第一阈值范围与所述第二阈值范围设置为不同；
或所述第一阈值范围与所述第二阈值范围设置为相同。
具体的，由于采集到各计算节点的数据中可能包括非常明显的异常值，会对后期的处理产生较大影响，因此，本实施例所述方法通过阈值预处理进行了基本异常处理，在阈值范围比较大，避免误判正常运行的程序，在阈值范围内的样本数据执行归一化处理，超过阈值范围的样本数据判定为程序运行异常。
此外，由于一个应用程序可能会使用到不同的计算节点，而每个计算节点所需的硬件资源可能不同，针对这种差异，本实施例所述方法将所有类别的参数对应数据进行统一，包括最大值、最小值和均值等。由于不同参数值会有不同的数量级，比如CPU温度值一般是几十数量级、内存利用率为小于1的数量级等，为了减少数量级之间的影响，将所有参数对应数据进行了归一化处理。
可选地，所述将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM包括：
将经阈值预处理和归一化处理后并在第一阈值范围内的数据进行整理与标注，形成正样本；
具体的，本实施例所述方法为了能充分挖掘数据中的信息，对于每个训练样本，分别取前10分钟的数据为该样本的特征数据，在程序运行的前10分钟，默认为程序在进行初始化操作，不作为训练样本参与训练，以当前时刻程序的运行状态为样本的类别进行数据标注形成正样本。
增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
具体的，在程序运行时，人为制造程序异常运行情况，例如强制占用内存带宽、网络带宽、CPU等等，以增加负样本数量，最终与正样本建立正负样本集。
将正负样本集训练形成深度网络LSTM。
具体的，本实施例所述方法为了充分挖掘参数之间的联系、不同时刻的参数对程序运行状态的影响，将正负样本集中的70％作为训练数据，30％作为测试数据，利用LSTM深度网络对训练数据进行训练，通过对测试数据的测试得到最终的准确率。
可选地，如图4所示，在所述将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测之后，所述方法还包括：
当预测到所述高性能计算集群应用异常时，执行应用报警。
综上所述，本实施例所述方法能够把高性能计算集群采集到的信息进行更充分的挖掘，能够对计算集群数据进行统一的采集、收集和存储，通过阈值进行预判断，发现明显的程序运行异常、对于在阈值范围之外的数据进行预处理、数据整理等，最后利用深度网络LSTM挖掘出一段时间序列内的样本特征，进而对当前程序进行辅助监控，有效的提升判断高性能计算集群应用程序是否正常运行的准确率。
本发明实施例还提供一种基于LSTM的高性能计算集群应用监控***，如图5所示，所述***包括：
采集模块11，用于采集各计算节点的数据；
数据处理模块12，用于将所述数据进行阈值预处理和归一化处理；
训练模块13，用于将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
异常预测模块14，用于将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
本发明实施例提供的基于LSTM的高性能计算集群应用监控***通过采集模块将各计算节点的数据进行采集和汇总，不仅可以通过阈值预处理发现较为明显的异常值，同时还可以由训练模块将经过归一化处理，并利用LSTM对经阈值预处理和归一化处理后的数据进行学习训练形成深度网络LSTM，充分挖掘所采集的数据与应用运行状态之间的关系；进而挖掘出一段时间序列内的样本特征，通过异常预测模块对当前高性能计算集群应用程序进行辅助监控，有效提升判断高性能计算集群应用运行状态的准确率，明显提高高性能集群应用程序运行可控性和稳定性。
并且，依据实验结果表明通过结合深度学习的方法进行WRF(天气预报模式：TheWeather Research and Forecasting Model)应用程序的异常监控准确率有明显提升。由于高性能应用程序类型复杂众多，实验测试主要针对气象领域较为常见的WRF高性能软件进行异常监控。
可选地，所述采集模块11包括：
数据采集单元，用于采集各计算节点的数据；
数据存储单元，用于将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
可选地，所述数据处理模块12包括：
阈值预处理单元，用于判断按时间序列采集并处理的数据是否在第一阈值范围内，以及判断获取的单一数据是否在第二阈值范围内；
归一化处理单元，用于将在第一阈值范围内的数据执行归一化处理，以及将在第二阈值范围内的数据执行归一化处理；
数据异常单元，用于将超出第一阈值范围的数据作为异常数据。
可选地，所述训练模块13包括：
正样本形成单元，用于将经阈值预处理和归一化处理后并在第一阈值范围内的数据进行整理与标注，形成正样本；
增加单元，用于增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
训练单元，用于将正负样本集训练形成深度网络LSTM。
可选地，所述***还包括：
应用报警模块，用于执行应用报警。
本实施例的***，可以用于执行上述方法实施例的技术方案，其实现原理和技术效果类似，此处不再赘述。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，所述的程序可存储于一计算机可读取存储介质中，该程序在执行时，可包括如上述各方法的实施例的流程。其中，所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory，ROM)或随机存储记忆体(Random AccessMemory，RAM)等。
以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到的变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应该以权利要求的保护范围为准。

Claims (10)

1.一种基于LSTM的高性能计算集群应用监控方法，其特征在于，包括：
采集各计算节点的数据；
将所述数据进行阈值预处理和归一化处理；
将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
将经阈值预处理和归一化处理后的数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
2.根据权利要求1所述的方法，其特征在于，所述采集各计算节点的数据包括：
采集各计算节点的数据；
将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
3.根据权利要求1或2所述的方法，其特征在于，所述将所述数据进行阈值预处理和归一化处理包括：
判断按时间序列采集并处理的数据是否在第一阈值范围内，将在第一阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据作为异常数据；
判断获取的单一数据是否在第二阈值范围内，将在第二阈值范围内的数据执行归一化处理；或将超出第一阈值范围的数据执行应用报警。
4.根据权利要求1或2所述的方法，其特征在于，所述将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM包括：
将经阈值预处理和归一化处理后并在第一阈值范围内的数据进行整理与标注，形成正样本；
增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
将正负样本集训练形成深度网络LSTM。
5.根据权利要求1或2所述的方法，其特征在于，在所述将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测之后，所述方法还包括：
当预测到所述高性能计算集群应用异常时，执行应用报警。
6.一种基于LSTM的高性能计算集群应用监控***，其特征在于，包括：
采集模块，用于采集各计算节点的数据；
数据处理模块，用于将所述数据进行阈值预处理和归一化处理；
训练模块，用于将经阈值预处理和归一化处理后的数据训练形成深度网络LSTM；
异常预测模块，用于将经阈值预处理和归一化处理后的单一数据输入深度网络LSTM内进行高性能计算集群应用异常预测。
7.根据权利要求6所述的***，其特征在于，所述采集模块包括：
数据采集单元，用于采集各计算节点的数据；
数据存储单元，用于将所采集的数据通过套接字汇总到管理节点，并由管理节点进行数据的存储。
8.根据权利要求6或7所述的***，其特征在于，所述数据处理模块包括：
阈值预处理单元，用于判断按时间序列采集并处理的数据是否在第一阈值范围内，以及判断获取的单一数据是否在第二阈值范围内；
归一化处理单元，用于将在第一阈值范围内的数据执行归一化处理，以及将在第二阈值范围内的数据执行归一化处理；
数据异常单元，用于将超出第一阈值范围的数据作为异常数据。
9.根据权利要求6或7所述的***，其特征在于，所述训练模块包括：
正样本形成单元，用于将经阈值预处理和归一化处理后并在第一阈值范围内的数据进行整理与标注，形成正样本；
增加单元，用于增加预先制造程序异常运行情况所形成的负样本建立正负样本集；
训练单元，用于将正负样本集训练形成深度网络LSTM。
10.根据权利要求6或7所述的***，其特征在于，所述***还包括：
应用报警模块，用于执行应用报警。
CN201810841868.2A 2018-07-27 2018-07-27 一种基于lstm的高性能计算集群应用监控方法及*** Pending CN109101395A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201810841868.2A CN109101395A (zh) 2018-07-27 2018-07-27 一种基于lstm的高性能计算集群应用监控方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201810841868.2A CN109101395A (zh) 2018-07-27 2018-07-27 一种基于lstm的高性能计算集群应用监控方法及***

Publications (1)

Publication Number Publication Date
CN109101395A true CN109101395A (zh) 2018-12-28

Family

ID=64847635

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201810841868.2A Pending CN109101395A (zh) 2018-07-27 2018-07-27 一种基于lstm的高性能计算集群应用监控方法及***

Country Status (1)

Country Link
CN (1) CN109101395A (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110096349A (zh) * 2019-04-10 2019-08-06 山东科技大学 一种基于集群节点负载状态预测的作业调度方法
CN110531988A (zh) * 2019-08-06 2019-12-03 新华三大数据技术有限公司 应用程序的状态预测方法及相关装置
CN115442270A (zh) * 2022-09-02 2022-12-06 南京信易达计算技术有限公司 全栈式高性能计算集群监控***

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080250265A1 (en) * 2007-04-05 2008-10-09 Shu-Ping Chang Systems and methods for predictive failure management
CN101582813B (zh) * 2009-06-26 2011-07-20 西安电子科技大学 基于分布式迁移网络学习的入侵检测***及其方法
CN105204971A (zh) * 2015-08-28 2015-12-30 浙江大学 一种基于朴素贝叶斯分类技术的动态监控间隔调整方法
TWI587152B (zh) * 2016-10-26 2017-06-11 先智雲端數據股份有限公司 用於延長雲端服務系統中磁碟預期壽命值的方法及使用該方法的系統
CN107103359A (zh) * 2017-05-22 2017-08-29 东南大学 基于卷积神经网络的大服务***在线可靠性预测方法
CN107769972A (zh) * 2017-10-25 2018-03-06 武汉大学 一种基于改进的lstm的电力通信网设备故障预测方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080250265A1 (en) * 2007-04-05 2008-10-09 Shu-Ping Chang Systems and methods for predictive failure management
CN101582813B (zh) * 2009-06-26 2011-07-20 西安电子科技大学 基于分布式迁移网络学习的入侵检测***及其方法
CN105204971A (zh) * 2015-08-28 2015-12-30 浙江大学 一种基于朴素贝叶斯分类技术的动态监控间隔调整方法
TWI587152B (zh) * 2016-10-26 2017-06-11 先智雲端數據股份有限公司 用於延長雲端服務系統中磁碟預期壽命值的方法及使用該方法的系統
CN107103359A (zh) * 2017-05-22 2017-08-29 东南大学 基于卷积神经网络的大服务***在线可靠性预测方法
CN107769972A (zh) * 2017-10-25 2018-03-06 武汉大学 一种基于改进的lstm的电力通信网设备故障预测方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110096349A (zh) * 2019-04-10 2019-08-06 山东科技大学 一种基于集群节点负载状态预测的作业调度方法
CN110531988A (zh) * 2019-08-06 2019-12-03 新华三大数据技术有限公司 应用程序的状态预测方法及相关装置
CN115442270A (zh) * 2022-09-02 2022-12-06 南京信易达计算技术有限公司 全栈式高性能计算集群监控***

Similar Documents

Publication Publication Date Title
CN109324875B (zh) 一种基于强化学习的数据中心服务器功耗管理与优化方法
Chen et al. Failure prediction of jobs in compute clouds: A *** cluster case study
CN110096349A (zh) 一种基于集群节点负载状态预测的作业调度方法
CN109101395A (zh) 一种基于lstm的高性能计算集群应用监控方法及***
CN107908536B (zh) Cpu-gpu异构环境中对gpu应用的性能评估方法及***
CN110333991B (zh) 云平台任务最大资源使用率预测方法
CN104063631A (zh) 一种面向大数据的代谢组特征数据分析方法及其***
CN112468312A (zh) 一种网络流量预测方法及通信设备和存储介质
CN115185804A (zh) 服务器性能预测方法、***、终端及存储介质
Wang et al. A novel two-step job runtime estimation method based on input parameters in HPC system
CN117349026B (zh) 一种用于aigc模型训练的分布式算力调度***
CN108132840A (zh) 一种分布式***中的资源调度方法及装置
CN110413406A (zh) 一种任务负载预测***及方法
CN114911604A (zh) 资源调度方法、装置和管理设备
Li et al. Learning to diagnose stragglers in distributed computing
CN117220283A (zh) 一种光伏发电功率预测方法、装置和设备
CN117130888A (zh) 基于历史数据和机器学习的服务器自动调优方法及***
CN113835947A (zh) 一种基于异常识别结果确定异常原因的方法和***
CN115809818A (zh) 抽水蓄能电站辅助设备多维诊断评估方法及装置
Gonzalez et al. Parallelization of an evolving artificial neural networks system to forecast time series using openmp and mpi
Yu [Retracted] Research on Optimization Strategy of Task Scheduling Software Based on Genetic Algorithm in Cloud Computing Environment
CN113986704A (zh) 基于TS-Decomposition的数据中心高频故障时域预警方法及***
CN112070200B (zh) 一种谐波群优化方法及其应用
Wang et al. HARRD: Real-time software rejuvenation decision based on hierarchical analysis under weibull distribution
CN116032757B (zh) 边缘云混跑场景的网络资源优化方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication
RJ01 Rejection of invention patent application after publication

Application publication date: 20181228