CN109522177A - 一种任务日志处理***、方法以及装置 - Google Patents
一种任务日志处理***、方法以及装置 Download PDFInfo
- Publication number
- CN109522177A CN109522177A CN201710850597.2A CN201710850597A CN109522177A CN 109522177 A CN109522177 A CN 109522177A CN 201710850597 A CN201710850597 A CN 201710850597A CN 109522177 A CN109522177 A CN 109522177A
- Authority
- CN
- China
- Prior art keywords
- log
- task
- directory
- service center
- read
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 182
- 238000000034 method Methods 0.000 title claims description 63
- 238000001514 detection method Methods 0.000 claims description 114
- 230000008569 process Effects 0.000 claims description 51
- 238000003672 processing method Methods 0.000 claims description 34
- 230000005856 abnormality Effects 0.000 claims description 21
- 230000002159 abnormal effect Effects 0.000 claims description 12
- 239000003550 marker Substances 0.000 abstract 2
- 238000010586 diagram Methods 0.000 description 8
- 238000007726 management method Methods 0.000 description 5
- 230000007547 defect Effects 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 238000013468 resource allocation Methods 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000008676 import Effects 0.000 description 1
- 230000000977 initiatory effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 230000001052 transient effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3003—Monitoring arrangements specially adapted to the computing system or computing system component being monitored
- G06F11/3006—Monitoring arrangements specially adapted to the computing system or computing system component being monitored where the computing system is distributed, e.g. networked systems, clusters, multiprocessor systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F11/00—Error detection; Error correction; Monitoring
- G06F11/30—Monitoring
- G06F11/3051—Monitoring arrangements for monitoring the configuration of the computing system or of the computing system component, e.g. monitoring the presence of processing resources, peripherals, I/O links, software programs
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/06—Protocols specially adapted for file transfer, e.g. file transfer protocol [FTP]
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04L—TRANSMISSION OF DIGITAL INFORMATION, e.g. TELEGRAPHIC COMMUNICATION
- H04L67/00—Network arrangements or protocols for supporting network services or applications
- H04L67/01—Protocols
- H04L67/02—Protocols based on web technology, e.g. hypertext transfer protocol [HTTP]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Computing Systems (AREA)
- Physics & Mathematics (AREA)
- Quality & Reliability (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Computer Networks & Wireless Communication (AREA)
- Signal Processing (AREA)
- Debugging And Monitoring (AREA)
Abstract
本申请公开了一种任务日志处理***,包括:至少一个用于执行任务的任务处理节点,以及用于存储日志和提供日志访问的日志服务中心,所述任务处理节点通过其上设置的日志汇报模块向所述日志服务中心上传日志;其中,所述任务处理节点将所述任务执行过程中生成的日志存储在任务的日志目录下,并启动所述任务对应的日志汇报模块;所述日志汇报模块从所述日志服务中心获取在所述日志目录下读取日志的位置标识,基于所述位置标识读取所述日志目录下存储的日志,并将读取到的日志上传至所述日志服务中心,从而确保任务处理节点生成的日志与上传至日志服务中心的日志保持一致,提升了任务日志的完整性。
Description
技术领域
本申请涉及日志领域,具体涉及一种任务日志处理***。本申请同时涉及一种任务日志处理方法以及装置,以及一种电子设备。
背景技术
随着大数据的不断普及和发展,海量数据的实时处理能力越来越得到重视,分布式执行***的应用也越来越广泛,分布式执行***的目标是可以接收百万级的任务,分布到各个网络环境下的处理节点(Node)上执行,其架构如附图1所示,分布式执行***的架构分为两层:资源管理层和任务执行层,其中资源管理层作为整个***的中控,称之为Driver,负责对任务的分配、资源的分配、客户端的API接口等功能;任务执行层实现具体的任务执行逻辑,具体由其上的处理节点(Node)来执行任务,每个处理节点部署在一台机器上,处理节点的数目可根据实际业务需求进行水平扩展。
目前,分布式执行***上任务的执行流程包括:客户端通过Driver提供的HTTP接口提交执行任务,由Driver基于内部的资源管理模型将任务分发到指定的Node上,任务分发之后,Node读取到分配到其上的任务,将读取到的任务信息注册到内存中,并启动任务执行进程,提交到计算引擎执行,同时,在任务执行过程中,保存任务日志以及进程到本地,并将任务执行的状态(执行中、执行完毕)反馈给Driver,最终由Driver将任务状态回调给客户端。但目前的任务的执行流程存在如下问题:在任务量比较大的情况下,一旦Node出现异常,则无法获取到日志;此外,如果Node所在的机器出现宕机或者断网的情况下,不仅会出现日志无法获取,同时会导致后期恢复日志信息的困难比较大,维持日志完整性存在较大困难,即使能够恢复日志信息,也无法保证恢复前后日志的一致性。
发明内容
本申请提供一种任务日志处理***,以解决现有技术存在的日志完整性无法保证的问题。
本申请同时涉及一种任务日志处理方法以及装置,以及一种电子设备。
本申请提供一种任务日志处理***,包括:
至少一个用于执行任务的任务处理节点,以及用于存储日志和提供日志访问的日志服务中心,所述任务处理节点通过其上设置的日志汇报模块向所述日志服务中心上传日志;
其中,所述任务处理节点将所述任务执行过程中生成的日志存储在任务的日志目录下,并启动所述任务对应的日志汇报模块;
所述日志汇报模块从所述日志服务中心获取在所述日志目录下读取日志的位置标识,基于所述位置标识读取所述日志目录下存储的日志,并将读取到的日志上传至所述日志服务中心。
可选的,所述的任务日志处理***,包括:
网络检测模块,用于检测所述任务处理节点与所述日志服务中心的网络是否正常,若检测结果为正常,运行所述日志汇报模块。
可选的,所述任务处理节点用于创建与所述任务具有一一对应关系的日志目录,并将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
可选的,所述日志汇报模块用于判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断向所述日志服务中心中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果上传失败,并且所述网络检测模块输出的检测结果为网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
可选的,所述日志汇报模块用于判断读取到的日志的大小是否满足大小阈值,如果满足,则将读取到的日志向所述日志服务中心上传;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,则将读取到的日志向所述日志服务中心上传;若否,则基于所述位置标识读取所述日志目录下存储的日志。
可选的,所述网络检测模块按照第一检测周期检测所述网络是否正常,若所述网络检测模块输出的检测结果为网络存在异常,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若是,则读取所述第二子目录下存储的所述日志路径标识;
其中,所述第二检测周期不小于所述第一检测周期。
可选的,所述位置标识,包括:在所述日志目录下读取所述日志的偏移量。
可选的,所述日志服务中心将接收到的所述日志存储在日志数据库中;
其中,所述日志数据库中存储的所述日志的属性信息包括下述至少一个字段:
所述日志对应任务的任务标识、日志内容、日志的大小信息、上传所述日志的任务处理节点对应的节点标识,以及任务所述的日志上传完毕的上传完毕标识。
可选的,所述日志服务中心通过其对应的公网访问地址来访问;并且,所述日志服务中心针对通过所述公网访问地址发送的日志访问请求,从所述日志数据库中查找并读取相应日志并返回。
本申请还提供一种任务日志处理方法,包括:
将任务执行过程中生成的日志存储在任务的日志目录下;
从日志服务中心获取在所述日志目录下读取日志的位置标识;
基于所述位置标识读取所述日志目录下存储的日志;
向所述日志服务中心上传读取到的日志;
其中,所述日志服务中心用于存储至少一个任务处理节点上传的日志,并向任务处理节点提供日志访问。
可选的,所述将任务执行过程中生成的日志存储在任务的日志目录下步骤执行后,且所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤执行前,执行下述步骤:
检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
可选的,所述将任务执行过程中生成的日志存储在任务的日志目录下步骤执行前,执行下述步骤:
创建所述任务的日志目录;所述任务与所述日志目录具有一一对应关系;
将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
可选的,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
可选的,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
可选的,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;
若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
可选的,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
可选的,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
判断读取到的日志的大小是否满足大小阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
判断读取到的所述日志的大小是否满足大小阈值,如果满足,执行所述向所述日志服务中心上传读取到的日志步骤;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
可选的,所述检测与日志服务中心之间的网络是否正常,采用如下方式实现:
按照第一检测周期检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;若否,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若检测到所述网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识;
其中,所述第二检测周期不小于所述第一检测周期。
可选的,所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤,所述基于所述位置标识读取所述日志目录下存储的日志步骤,和/或,所述向所述日志服务中心上传读取到的日志步骤,基于日志汇报模块实现。
可选的,所述任务开始执行后所述日志汇报模块被开启,所述第一子目录下存储的所述日志路径标识删除后所述日志汇报模块被关闭,和/或,所述日志路径标识存储至所述第二子目录后所述日志汇报模块被关闭。
可选的,所述读取所述第二子目录下存储的所述日志路径标识子步骤执行后,执行下述操作:
重启所述日志汇报模块。
可选的,任务日志处理方法,基于任务处理节点实现;
所述检测与所述日志服务中心的网络是否正常步骤,基于网络检测模块实现,所述网络检测模块设置在所述任务处理节点上;并且,在所述任务处理节点启动后,启动其上设置的所述网络检测模块。
本申请还提供一种任务日志处理装置,包括:
日志存储单元,用于将任务执行过程中生成的日志存储在任务的日志目录下;
位置标识获取单元,用于从日志服务中心获取在所述日志目录下读取日志的位置标识;
日志读取单元,用于基于所述位置标识读取所述日志目录下存储的日志;
日志上传单元,用于向所述日志服务中心上传读取到的日志。
本申请还提供一种电子设备,包括:
存储器,以及处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
将任务执行过程中生成的日志存储在任务的日志目录下;
从日志服务中心获取在所述日志目录下读取日志的位置标识;
基于所述位置标识读取所述日志目录下存储的日志;
向所述日志服务中心上传读取到的日志;
其中,所述日志服务中心用于存储至少一个任务处理节点上传的日志,并向任务处理节点提供日志访问。
本申请提供的所述任务日志处理***,包括:至少一个用于执行任务的任务处理节点,以及用于存储日志和提供日志访问的日志服务中心,所述任务处理节点通过其上设置的日志汇报模块向所述日志服务中心上传日志;其中,所述任务处理节点将所述任务执行过程中生成的日志存储在任务的日志目录下,并启动所述任务对应的日志汇报模块;所述日志汇报模块从所述日志服务中心获取在所述日志目录下读取日志的位置标识,基于所述位置标识读取所述日志目录下存储的日志,并将读取到的日志上传至所述日志服务中心。
所述任务日志处理***,通过设置日志服务中心,避免了在任务处理节点出现异常无法访问日志的缺陷,对于任务处理节点在任务执行过程中生成的日志,通过启动任务处理节点上设置的日志汇报模块,由日志汇报模块从日志服务中心获取在日志目录下读取日志的位置标识,并基于读取的所述位置标识读取日志并向所述日志服务中心上传,通过日志服务中心和日志汇报模块的协同配合上传任务处理节点在任务执行过程中生成的日志,从而确保任务处理节点生成的日志与上传至日志服务中心的日志保持一致,提升了任务日志的完整性。
附图说明
附图1是现有技术提供的一种分布式执行***架构的示意图;
附图2是本申请提供的一种任务日志处理***的示意图;
附图3是本申请提供的一种任务日志处理方法实施例的处理流程图;
附图4是本申请提供的一种任务日志处理装置实施例的示意图;
附图5是本申请提供的一种电子设备实施例的示意图。
具体实施方式
在下面的描述中阐述了很多具体细节以便于充分理解本申请。但是本申请能够以很多不同于在此描述的其他方式来实施,本领域技术人员可以在不违背本申请内涵的情况下做类似推广,因此本申请不受下面公开的具体实施的限制。
本申请提供一种任务日志处理***,本申请还提供一种任务日志处理方法以及装置,以及一种电子设备。以下分别结合本申请提供的实施例的附图逐一进行详细说明。
本申请提供的一种任务日志处理***实施例如下:
参照附图2,其示出了本申请提供的一种任务日志处理***的示意图。
本申请实施例提供的任务日志处理***,包括用于负责任务分配、资源分配以及客户端的API接口管理等功能的Driver,负责收集日志信息以及下载逻辑的日志服务中心(LogService),以及负责实现具体的任务执行逻辑的任务处理节点(Node)。具体的,本申请实施例所述任务日志处理***采用分布式架构,所述任务处理节点是指分布式架构的集群当中的机器节点,因此,所述任务日志处理***中包含有至少一个任务处理节点;在任务日志处理过程中,所述任务处理节点具体用于负责任务的执行,如附图2所示的任务处理节点(Node)。所述日志服务中心,具体负责收集日志信息以及下载逻辑,具体用于接收任务处理节点上传的日志,并记录每次上传日志的偏移量,以便下次根据记录的偏移量继续上传日志,并将接收到上传的日志存储到日志数据库中,如附图2所示的日志服务中心(LogService);用户想要访问日志时,可从日志服务中心上读取日志,并且在读取日志时能够提供流式读取、限量读取和全量读取等多种读取方式。
在具体实施时,任务处理节点上设置有日志汇报模块和网络检测模块,其中,所述日志汇报模块从日志服务中心获取在所述日志目录下读取日志的位置标识,基于所述位置标识读取所述日志目录下存储的日志,并将读取到的日志上传至日志服务中心。所述网络检测模块,用于检测任务处理节点与日志服务中心之间的网络是否正常,若检测结果为正常,运行所述日志汇报模块。
具体在处理任务日志的过程中,任务处理节点首先创建所述任务对应的日志目录,本实施例所述任务与所述日志目录具有一一对应关系;并在创建好所述任务对应的日志目录后,将所述日志目录对应的日志路径标识(日志的具体存储路径)存储在所述日志目录的第一子目录下,即:将日志的具体存储路径存储在所述第一子目录下;此后,任务处理节点在读取日志时,可以根据所述第一子目录下存储的存储路径来读取所述日志目录下存储的日志。具体的,当任务处理节点接收到待处理的任务后,针对当前接收到的任务创建与其一一对应的日志目录,所述日志目录可存储所述任务执行过程中生成的任务日志;并且,将当前创建日志目录对应的日志路径标识存储在本地磁盘的指定目录下,其中,所述日志路径标识用于在向日志服务中心上传日志时,存储待上传日志的具体存储路径。当任务处理节点开始执行所述任务,会生成所述任务的日志,此时,任务处理节点上设置的所述日志汇报模块开始将生成的所述日志向日志服务中心上传。在实际应用中,所述日志汇报模块可具体实现为一个日志汇报器,用于将任务处理节点执行所述任务时生成的日志上传至日志服务中心。
此外,所述日志汇报模块在向日志服务中心上传日志的过程中,还需通过任务处理节点上设置的所述网络检测模块协同配合,具体在所述任务处理节点启动之后,启动其上设置的所述网络检测模块对任务处理节点与日志服务中心之间的网络状况进行检测。
所述网络检测模块首先按照第一检测周期检测任务处理节点与日志服务中心二者之间的网络是否正常,若二者之间的网络状态正常,则由所述日志汇报模块从日志服务中心获取在所述日志目录下读取日志的位置标识;若二者之间的网络存在异常,则将网络检测的检测周期从上述第一检测周期变更为第二检测周期(第二检测周期不小于第一检测周期),并且按照所述第二检测周期检测二者之间的网络是否正常,若检测到二者之间的网络恢复正常,则由所述日志汇报模块读取所述第二子目录下存储的所述日志路径标识。此处,如果所述任务的日志无法正常上传到日志服务中心,并且检测到二者之间的网络出现异常,则会删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;在此基础上,如果二者之间的网络恢复正常,则由所述日志汇报模块读取所述第二子目录下存储的所述日志路径标识,根据该日志路径标识来读取所述任务的日志。
例如,网络检测模块设置有一个定时轮询器,根据定时轮询时间(即第一检测周期,10s),每隔10s去调用日志服务中心提供的网络检测接口,如果调用成功,则表明任务处理节点与日志服务中心二者之间的网络可通;如果调用失败,表明二者之间的网络存在异常,则将定时轮询时间从10s改为60s,每隔60s去调用网络检测接口,重复网络检测过程,直至二者之间的网络恢复正常。
在实际应用中,所述日志汇报模块在将任务处理节点执行所述任务过程中生成的日志向日志服务中心上传时,由于所述任务的执行过程需持续一段时间,所述日志的生成过程也相应持续一段时间,因此,如果要将所述任务执行过程中生成的日志全部上传至日志服务中心,在所述任务的日志较少的情况下,可能只需要一次上传即可将所述的日志全部上传至日志服务中心;但在所述日志的任务较多的情况下,则可能需要多次上传才能够将所述任务的日志全部上传至日志服务中心。在多次上传的这种情形下,为了避免日志的重复上传,每一次将所述任务的日志上传至日志服务中心之后,都会在日志服务中心记录当前以上传日志的位置标识,通过所述位置标识能够确定在所述日志目录下读取所述日志的偏移量,从而通过所述位置标识来衔接多次上传操作,避免了日志的重复上传。
所述日志汇报模块读取所述日志的过程中,还可以对读取日志的读取时间和读取的日志大小进行约束,避免读取日志时间太短或者读取的日志太小而导致的频繁读取,从而来提升读取日志的效率,同时也相应的提升了上传日志的效率。具体对读取日志的读取时间和读取的日志大小的约束,采用如下方式实现:
每当读取到所述任务对应的日志目录下存储的日志之后,判断读取到的所述任务的日志的大小是否满足大小阈值,如果满足,则向日志服务中心上传读取到的所述日志;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,则向日志服务中心上传读取到的所述日志;若否,则继续读取所述日志目录下存储的日志。
例如,在读取到任务对应的日志目录下存储的日志的过程中,每当读取到日志目录下存储的日志之后,判断当前读取到的日志大小是否达到或者超出5kB,如果达到或者超出5kB,则向日志服务中心上传当前读取到的日志;如果没有达到5kB,则根据当前这一次读取日志时的时间与上一次读取日志时的时间的时间差是否大于或者等于5s,若二者的时间差大于或者等于5s,则向日志服务中心上传当前读取到的日志;若二者的时间差小于5s,则继续读取任务对应的日志目录下存储的日志。
此外,还可以对所述日志汇报模块读取所述日志的过程中读取日志的读取时间或者读取的日志大小进行约束,同样能够降低日志读取和上传的次数或者频率,起到提升读取日志和上传日志的效率。比如,每当读取到所述任务对应的日志目录下存储的日志之后,判断读取到的所述日志的大小是否满足大小阈值,若是,则向日志服务中心上传读取到的所述日志;若否,则继续读取所述任务对应的日志目录下存储的日志。或者,每当读取到所述任务对应的日志目录下存储的日志之后,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,则向日志服务中心上传读取到的所述日志;若否,则继续读取所述任务对应的日志目录下存储的日志。
日志服务中心接收到所述日志汇报模块上传的所述任务的日志后,还可以将接收到的所述任务的日志存储在日志数据库中,用户想要访问日志时,可通过向日志服务中心发起访问请求,由日志服务中心从所述日志数据库中查找和读取能够满足所述访问请求的日志,并将读取到的日志返回给用户。在实际应用中,日志服务中心可向用户提供流式读取、限量读取和全量读取等多种方式的日访问读取。
具体的,所述日志数据库中存储的所述日志的属性信息包括下述至少一个字段:对应任务的任务标识、日志内容、日志的大小信息、上传所述日志的任务处理节点对应的节点标识,以及任务所述的日志上传完毕的上传完毕标识。例如,日志数据库中的日志存储表的结构如下表所示:
在具体实施时,还可以针对日志服务中心开启公网访问地址,开启公网访问地址之后,客户端可通过公网访问地址来访问日志服务中心,从而进一步访问所述任务的日志。具体的,日志服务中心可接收用户的客户端基于所述公网访问地址发送的日志访问请求;日志服务中心接收到所述日志访问请求之后,从所述日志数据库中查找并读取能够满足所述日志访问请求的日志,并将读取到的日志返回给用户的客户端。
综上所述,本申请所述任务日志处理***,通过设置日志服务中心,避免了在任务处理节点出现异常无法访问日志的缺陷,对于任务处理节点在任务执行过程中生成的日志,通过启动任务处理节点上设置的日志汇报模块,由日志汇报模块从日志服务中心获取在日志目录下读取日志的位置标识,并基于读取的所述位置标识读取日志并向所述日志服务中心上传,通过日志服务中心和日志汇报模块的协同配合上传任务处理节点在任务执行过程中生成的日志,从而确保任务处理节点生成的日志与上传至日志服务中心的日志保持一致,提升了任务日志的完整性。
本申请提供的一种任务日志处理方法实施例如下:
在上述的实施例中,提供了一种任务日志处理***,此外,本申请还提供了一种任务日志处理方法,所述任务日志处理方法的执行主体为上述提供的任务日志处理***中的任务处理节点,因此,阅读本实施例请对照上述提供的任务日志处理***实施例,下面结合附图进行说明。
参照附图3,其示出了本申请提供的一种任务日志处理方法实施例的处理流程图,参照附图2,其示出了本申请提供的一种任务日志处理***的示意图。
步骤S301,将任务执行过程中生成的日志存储在任务的日志目录下。
本申请实施例提供的任务日志处理***,包括用于负责任务分配、资源分配以及客户端的API接口管理等功能的Driver,负责收集日志信息以及下载逻辑的日志服务中心(LogService),以及负责实现具体的任务执行逻辑的任务处理节点(Node)。具体的,本申请实施例所述任务日志处理***采用分布式架构,所述任务处理节点是指分布式架构的集群当中的机器节点,因此,所述任务日志处理***中包含有至少一个任务处理节点;在任务日志处理过程中,所述任务处理节点具体用于负责任务的执行,如附图2所示的任务处理节点(Node)。所述日志服务中心,具体负责收集日志信息以及下载逻辑,具体用于接收任务处理节点上传的日志,并记录每次上传日志的偏移量,以便下次根据记录的偏移量继续上传日志,并将接收到上传的日志存储到日志数据库中,如附图2所示的日志服务中心(LogService);用户想要访问日志时,可从日志服务中心上读取日志,并且在读取日志时能够提供流式读取、限量读取和全量读取等多种读取方式。
在具体实施时,本步骤将任务执行过程中生成的日志存储在任务的日志目录下之前,任务处理节点还需要创建所述任务对应的日志目录,本实施例所述任务与所述日志目录具有一一对应关系;并且在创建好所述任务对应的日志目录后,将所述日志目录对应的日志路径标识(日志的具体存储路径)存储在所述日志目录的第一子目录下,即:将日志的具体存储路径存储在所述第一子目录下,任务处理节点在读取日志时,可以根据所述第一子目录下存储的存储路径来读取所述日志目录下存储的日志。具体的,当任务处理节点接收到待处理的任务后,针对当前接收到的任务创建与其一一对应的日志目录,所述日志目录可存储所述任务执行过程中生成的任务日志;并且,将当前创建日志目录对应的日志路径标识存储在本地磁盘的指定目录下,其中,所述日志路径标识用于在向日志服务中心上传日志时,存储待上传日志的具体存储路径。
当任务处理节点开始执行所述任务,会相应的生成所述任务的日志,当所述任务的日志开始生成后,则开始将生成的所述日志向日志服务中心上传,具体的,可通过任务处理节点上设置的日志汇报模块将所述任务的日志上传至日志服务中心;在实际应用中,所述日志汇报模块可具体实现为一个日志汇报器,用于将任务处理节点执行所述任务时生成的日志上传至日志服务中心。
如上所述,当任务处理节点执行所述任务的过程中,会相应的生成所述任务的日志,本步骤中,将所述任务执行过程中生成的日志存储在所述任务的日志目录下。
步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识。
上述步骤S301将任务执行过程中生成的日志存储在任务的日志目录下,在此之后,需要将生成的日志向日志服务中心上传,在上传之前,还需在所述日志目录下读取日志;本步骤从日志服务中心获取到的所述位置标识,是在所述日志目录下读取日志的依据。
在具体实施时,在本步骤从日志服务中心获取在所述日志目录下读取日志的位置标识之前,还需检测任务处理节点与日志服务中心二者之间的网络状况,若检测结果为二者之间的网络处于正常状态,则执行本步骤,从日志服务中心获取在所述日志目录下读取日志的位置标识;若检测结果为二者之间的网络出现异常,则重复这一检测过程。在实际应用中,检测任务处理节点与日志服务中心之间的网络是否正常这一过程,可基于任务处理节点上设置的网络检测模块实现,如附图2所示的网络检测模块,具体在所述任务处理节点启动之后,启动其上设置的所述网络检测模块对任务处理节点与日志服务中心二者之间的网络状况进行检测。在具体实施时,检测任务处理节点与日志服务中心二者之间的网络是否正常这一过程,可采用如下方式实现:
按照第一检测周期检测二者之间的网络是否正常,若是,则执行本步骤,从日志服务中心获取在所述日志目录下读取日志的位置标识;若否,则将二者之间网络的检测周期从所述第一检测周期变更为第二检测周期(第二检测周期不小于第一检测周期),并且按照所述第二检测周期检测二者之间的网络是否正常,若检测到二者之间的网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识。此处,如果所述任务的日志无法正常上传到日志服务中心,并且检测到二者之间的网络出现异常,则会删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;在此基础上,如果二者之间的网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识,根据该日志路径标识来读取所述任务的日志。
步骤S303,基于所述位置标识读取所述日志目录下存储的日志。
上述步骤S302从日志服务中心获取在所述日志目录下读取日志的位置标识,本步骤中,根据上述步骤S302读取到的所述位置标识,读取所述任务对应的日志目录下存储的日志,即读取所述任务的日志。
在具体实施时,在读取所述日志的过程中,还可以对读取日志的读取时间和读取的日志大小进行约束,避免读取日志时间太短或者读取的日志太小而导致的频繁读取,从而来提升读取日志的效率,同时也相应的提升了上传日志的效率。具体对读取日志的读取时间和读取的日志大小的约束,采用如下方式实现:
每当读取到所述任务对应的日志目录下存储的日志之后,判断读取到的所述任务的日志的大小是否满足大小阈值,如果满足,执行下述步骤S304,向所述日志服务中心上传读取到的日志;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行下述步骤S304,向所述日志服务中心上传读取到的日志;若否,则继续读取所述日志目录下存储的日志。
例如,在读取到任务对应的日志目录下存储的日志的过程中,每当读取到日志目录下存储的日志之后,判断当前读取到的日志大小是否达到或者超出5kB,如果达到或者超出5kB,则向日志服务中心上传当前读取到的日志;如果没有达到5kB,则根据当前这一次读取日志时的时间与上一次读取日志时的时间的时间差是否大于或者等于5s,若二者的时间差大于或者等于5s,则向日志服务中心上传当前读取到的日志;若二者的时间差小于5s,则继续读取任务对应的日志目录下存储的日志。
此外,在具体实施时,在读取所述日志的过程中,还可以仅对读取日志的读取时间或者读取的日志大小进行约束,同样能够降低日志读取和上传的次数或者频率,起到提升读取日志和上传日志的效率。比如,每当读取到所述任务对应的日志目录下存储的日志之后,判断读取到的所述日志的大小是否满足大小阈值,若是,执行下述步骤S304,向所述日志服务中心上传读取到的日志;若否,则继续读取所述任务对应的日志目录下存储的日志。或者,每当读取到所述任务对应的日志目录下存储的日志之后,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行下述步骤S304,向所述日志服务中心上传读取到的日志;若否,则继续读取所述任务对应的日志目录下存储的日志。
步骤S304,向所述日志服务中心上传读取到的日志。
上述步骤S303基于所述位置标识读取所述日志目录下存储的日志,本步骤将上述步骤S303读取到的所述任务的日志向日志服务中心上传。
如上所述,在读取和上传所述任务的日志之前,对任务处理节点和日志服务中心之间的网络状况进行了检测,并且在检测结果为二者之间的网络处于正常状态的基础上,读取所述任务的日志并向日志服务中心上传;但是,在读取日志和/或上传日志的过程中,同样有可能出现二者之间的网络异常,导致日志上传日志服务中心受阻;因此,可针对这种情形设置第一日志上传检测操作,向日志服务中心上传读取到的所述任务的日志之后,通过所述第一日志上传检测操作来判断日志是否成功上传至日志服务中心,确保日志没有遗漏。具体的,所述第一日志上传检测操作,可采用如下方式实现:
判断读取的所述任务的日志是否成功上传至日志服务中心,如果上传成功,不作处理即可;如果上传失败,并且检测到任务处理节点与日志服务中心之间的网络存在异常,则表明当前所述任务的日志上传失败是由二者之间的网络异常导致的,因此删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
当任务处理节点与日志服务中心之间的网络恢复正常之后,重启所述日志汇报器,根据所述第二子目录下存储的日志路径标识读取所述日志目录下存储的所述任务的日志,并进一步将读取的日志上传至日志服务中心。
在具体实施时,为了确保所述任务的日志全部上传至日志服务中心,还可以在向日志服务中心上传读取到的所述任务的日志之后,通过第二日志上传检测操作的检测来确保日志的完整性。具体的,所述第二日志上传检测操作,可采用下述提供的任意一种方式实现:
1)判断所述任务是否执行完毕,若是,不作处理即可;若否,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作。
2)判断向日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作。
3)判断所述任务是否执行完毕,若执行完毕,判断向日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作;若尚未执行完毕,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作。
此外,在实际应用中,还可以根据上述提供的所述第一日志上传检测操作和所述第二日志上传检测操作,结合二者的实现方式形成新的实现方式,从而基于新的实现方式,能够更加有效的检测所述任务的日志上传的完整性和一致性。具体可采用下述提供的任意一种方式实现:
1)判断读取的所述任务的日志是否成功上传至日志服务中心,如果上传成功,判断所述任务是否执行完毕,若执行完毕,不作处理即可;若尚未执行完毕,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作;如果上传失败,并且检测到二者之间的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
2)判断读取的所述日志是否成功上传至日志服务中心,如果上传成功,判断向日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作;如果上传失败,并且检测到二者之间的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
3)判断读取的所述日志是否成功上传至日志服务中心,如果上传成功,判断所述任务是否执行完毕,若是,判断向日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作;若否,返回执行上述步骤S302,从日志服务中心获取在所述日志目录下读取日志的位置标识,继续进行下一次日志读取和上传操作;如果上传失败,并且检测到二者之间的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
综上所述,所述任务日志处理方法,通过开发和设置日志服务中心,避免了在任务处理节点出现异常无法访问日志的缺陷,在向日志服务中心上传任务执行过程中存储在所述任务的日志目录下的日志时,首先检测任务处理节点与日志服务中心之间的网络状况,如果检测到二者之间的网络处于正常,则从日志服务中心获取在所述日志目录下读取日志的位置标识,基于读取的所述位置标识读取日志并向日志服务中心上传,确保生成的所述任务的日志与上传至日志服务中心的日志保持一致,从而提升了任务日志的完整性。
本申请提供的一种任务日志处理装置实施例如下:
在上述的实施例中,提供了一种任务日志处理方法,与之相对应的,本申请还提供了一种任务日志处理装置,下面结合附图进行说明。
参照附图4,其示出了本申请提供的一种任务日志处理装置实施例的示意图。
由于装置实施例基本相似于方法实施例,所以描述得比较简单,相关的部分请参见上述提供的方法实施例的对应说明即可。下述描述的装置实施例仅仅是示意性的。
本申请提供一种任务日志处理装置,包括:
日志存储单元401,用于将任务执行过程中生成的日志存储在任务的日志目录下;
位置标识获取单元402,用于从日志服务中心获取在所述日志目录下读取日志的位置标识;
日志读取单元403,用于基于所述位置标识读取所述日志目录下存储的日志;
日志上传单元404,用于向所述日志服务中心上传读取到的日志。
可选的,所述任务日志处理装置,包括:
网络检测单元,用于检测与所述日志服务中心的网络是否正常,若是,运行所述位置标识获取单元402。
可选的,所述任务日志处理装置,包括:
日志目录创建单元,用于创建所述任务的日志目录;所述任务与所述日志目录具有一一对应关系;
日志路径标识存储单元,用于将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
可选的,所述任务日志处理装置,包括:
第一上传判断单元,用于判断读取到的日志是否成功上传至所述日志服务中心,如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
可选的,所述任务日志处理装置,包括:
第一日志执行判断单元,用于判断所述任务是否执行完毕,若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404。
可选的,所述任务日志处理装置,包括:
第一日志判断单元,用于判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404。
可选的,所述任务日志处理装置,包括:
第二日志执行判断单元,用于判断所述任务是否执行完毕,若是,运行第二日志判断单元;若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404;
所述第二日志判断单元,用于判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404。
可选的,所述任务日志处理装置,包括:
第二上传判断单元,用于判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,运行第三日志执行判断单元;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;
所述第三日志执行判断单元,用于判断所述任务是否执行完毕,若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404;
第三上传判断单元,用于判断读取的所述日志是否成功上传至所述日志服务中心,如果上传成功,运行第三日志判断单元;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下;
所述第三日志判断单元,用于判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404;
第四上传判断单元,用于判断读取的所述日志是否成功上传至所述日志服务中心,如果上传成功,运行第四日志判断单元;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下;
所述第四日志判断单元,用于判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404;若否,运行所述位置标识获取单元402、所述日志读取单元403和所述日志上传单元404。
可选的,所述任务日志处理装置,包括:
第一日志大小判断单元,用于判断读取到的所述日志的大小是否满足大小阈值,若是,运行所述日志上传单元404;若否,运行所述日志读取单元403。
可选的,所述任务日志处理装置,包括:
第一日志读取时间判断单元,用于根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,运行所述日志上传单元404;若否,运行所述日志读取单元403。
可选的,所述任务日志处理装置,包括:
第二日志大小判断单元,用于判断读取到的所述日志的大小是否满足大小阈值,如果满足,运行所述日志上传单元404;如果不满足,运行第二日志读取时间判断单元;
所述第二日志读取时间判断单元,用于根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,运行所述日志上传单元404;若否,运行所述日志读取单元403。
可选的,所述网络检测单元,包括:
第一检测子单元,用于按照第一检测周期检测与所述日志服务中心的网络是否正常,若是,运行所述位置标识获取单元402;若否,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若检测到所述网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识;其中,所述第二检测周期不小于所述第一检测周期。
可选的,所述位置标识获取单元402、所述日志读取单元403和/或所述日志上传单元404,基于日志汇报模块实现。
可选的,所述任务开始执行后所述日志汇报模块被开启,所述第一子目录下存储的所述日志路径标识删除后所述日志汇报模块被关闭,和/或,所述日志路径标识存储至所述第二子目录后所述日志汇报模块被关闭。
可选的,所述第二子目录下存储的所述日志路径标识被读取后,运行重启子单元;所述重启子单元,用于重启所述日志汇报模块。
可选的,任务日志处理装置基于任务处理节点实现;所述网络检测单元,基于网络检测模块实现,所述网络检测模块设置在所述任务处理节点上;并且,在所述任务处理节点启动后,启动其上设置的所述网络检测模块。
本申请提供的一种电子设备实施例如下:
在上述的实施例中,提供了一种任务日志处理方法,此外,本申请还提供了一种用于实现所述任务日志处理方法的电子设备,下面结合附图进行说明。
参照附图5,其示出了本实施例提供的一种电子设备的示意图。
本申请提供的所述电子设备实施例描述得比较简单,相关的部分请参见上述提供的所述任务日志处理方法实施例的对应说明即可。下述描述的实施例仅仅是示意性的。
本申请提供一种电子设备,包括:
存储器501,以及处理器502;
所述存储器501用于存储计算机可执行指令,所述处理器502用于执行所述计算机可执行指令:
将任务执行过程中生成的日志存储在任务的日志目录下;
从日志服务中心获取在所述日志目录下读取日志的位置标识;
基于所述位置标识读取所述日志目录下存储的日志;
向所述日志服务中心上传读取到的日志;
其中,所述日志服务中心用于存储至少一个任务处理节点上传的日志,并向任务处理节点提供日志访问。
可选的,所述将任务执行过程中生成的日志存储在任务的日志目录下指令执行后,且所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令执行前,所述处理器502还用于执行下述计算机可执行指令:
检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令。
可选的,所述将任务执行过程中生成的日志存储在任务的日志目录下指令执行前,所述处理器502还用于执行下述计算机可执行指令:
创建所述任务的日志目录;所述任务与所述日志目录具有一一对应关系;
将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
所述处理器502还用于执行下述计算机可执行指令:所述向所述日志服务中心上传读取到的日志指令执行后,所述处理器502还用于执行下述计算机可执行指令:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
可选的,所述向所述日志服务中心上传读取到的日志指令执行后,所述处理器502还用于执行下述计算机可执行指令:
判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令。
可选的,所述向所述日志服务中心上传读取到的日志指令执行后,所述处理器502还用于执行下述计算机可执行指令:
判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令。
可选的,所述向所述日志服务中心上传读取到的日志指令执行后,所述处理器502还用于执行下述计算机可执行指令:
判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令。
可选的,所述向所述日志服务中心上传读取到的日志指令执行后,所述处理器502还用于执行下述计算机可执行指令:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志指令执行后,且所述向所述日志服务中心上传读取到的日志指令执行前,所述处理器502还用于执行下述计算机可执行指令:
判断读取到的日志的大小是否满足大小阈值,若是,执行所述向所述日志服务中心上传读取到的日志指令;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志指令。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志指令执行后,且所述向所述日志服务中心上传读取到的日志指令执行前,所述处理器502还用于执行下述计算机可执行指令:
根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志指令;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志指令。
可选的,所述基于所述位置标识读取所述日志目录下存储的日志指令执行后,且所述向所述日志服务中心上传读取到的日志指令执行前,所述处理器502还用于执行下述计算机可执行指令:
判断读取到的所述日志的大小是否满足大小阈值,如果满足,执行所述向所述日志服务中心上传读取到的日志指令;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志指令;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志指令。
可选的,所述检测与日志服务中心之间的网络是否正常,采用如下方式实现:
按照第一检测周期检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令;若否,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若检测到所述网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识;
其中,所述第二检测周期不小于所述第一检测周期。
可选的,所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令,所述基于所述位置标识读取所述日志目录下存储的日志指令,和/或,所述向所述日志服务中心上传读取到的日志指令,基于日志汇报模块实现。
可选的,所述任务开始执行后所述日志汇报模块被开启,所述第一子目录下存储的所述日志路径标识删除后所述日志汇报模块被关闭,和/或,所述日志路径标识存储至所述第二子目录后所述日志汇报模块被关闭。
可选的,所述读取所述第二子目录下存储的所述日志路径标识子指令执行后,执行下述操作:
重启所述日志汇报模块。
可选的,所述将任务执行过程中生成的日志存储在任务的日志目录下指令,所述从日志服务中心获取在所述日志目录下读取日志的位置标识指令,所述基于所述位置标识读取所述日志目录下存储的日志指令,以及所述向所述日志服务中心上传读取到的日志指令,基于任务处理节点执行;
所述检测与所述日志服务中心的网络是否正常指令,基于网络检测模块执行,所述网络检测模块设置在所述任务处理节点上;并且,在所述任务处理节点启动后,启动其上设置的所述网络检测模块。
本申请虽然以较佳实施例公开如上,但其并不是用来限定本申请,任何本领域技术人员在不脱离本申请的精神和范围内,都可以做出可能的变动和修改,因此本申请的保护范围应当以本申请权利要求所界定的范围为准。
在一个典型的配置中,计算设备包括一个或多个处理器(CPU)、输入/输出接口、网络接口和内存。
内存可能包括计算机可读介质中的非永久性存储器,随机存取存储器(RAM)和/或非易失性内存等形式,如只读存储器(ROM)或闪存(flash RAM)。内存是计算机可读介质的示例。
计算机可读介质包括永久性和非永久性、可移动和非可移动媒体可以由任何方法或技术来实现信息存储。信息可以是计算机可读指令、数据结构、程序的模块或其他数据。计算机的存储介质的例子包括,但不限于相变内存(PRAM)、静态随机存取存储器(SRAM)、动态随机存取存储器(DRAM)、其他类型的随机存取存储器(RAM)、只读存储器(ROM)、电可擦除可编程只读存储器(EEPROM)、快闪记忆体或其他内存技术、只读光盘只读存储器(CD-ROM)、数字多功能光盘(DVD)或其他光学存储、磁盒式磁带,磁带磁磁盘存储或其他磁性存储设备或任何其他非传输介质,可用于存储可以被计算设备访问的信息。按照本文中的界定,计算机可读介质不包括非暂存电脑可读媒体(transitory media),如调制的数据信号和载波。
本领域技术人员应明白,本申请的实施例可提供为方法、***或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
Claims (27)
1.一种任务日志处理***,其特征在于,包括:
至少一个用于执行任务的任务处理节点,以及用于存储日志和提供日志访问的日志服务中心,所述任务处理节点通过其上设置的日志汇报模块向所述日志服务中心上传日志;
其中,所述任务处理节点将所述任务执行过程中生成的日志存储在任务的日志目录下,并启动所述任务对应的日志汇报模块;
所述日志汇报模块从所述日志服务中心获取在所述日志目录下读取日志的位置标识,基于所述位置标识读取所述日志目录下存储的日志,并将读取到的日志上传至所述日志服务中心。
2.根据权利要求1所述的任务日志处理***,其特征在于,包括:
网络检测模块,用于检测所述任务处理节点与所述日志服务中心的网络是否正常,若检测结果为正常,运行所述日志汇报模块。
3.根据权利要求2所述的任务日志处理***,其特征在于,所述任务处理节点用于创建与所述任务具有一一对应关系的日志目录,并将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
4.根据权利要求3所述的任务日志处理***,其特征在于,所述日志汇报模块用于判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断向所述日志服务中心中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果上传失败,并且所述网络检测模块输出的检测结果为网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
5.根据权利要求3所述的任务日志处理***,其特征在于,所述日志汇报模块用于判断读取到的日志的大小是否满足大小阈值,如果满足,则将读取到的日志向所述日志服务中心上传;如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,则将读取到的日志向所述日志服务中心上传;若否,则基于所述位置标识读取所述日志目录下存储的日志。
6.根据权利要求4所述的任务日志处理***,其特征在于,所述网络检测模块按照第一检测周期检测所述网络是否正常,若所述网络检测模块输出的检测结果为网络存在异常,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若是,则读取所述第二子目录下存储的所述日志路径标识;
其中,所述第二检测周期不小于所述第一检测周期。
7.根据权利要求1至6任意一项所述的任务日志处理***,其特征在于,所述位置标识,包括:
在所述日志目录下读取所述日志的偏移量。
8.根据权利要求1至6任意一项所述的任务日志处理***,其特征在于,所述日志服务中心将接收到的所述日志存储在日志数据库中;
其中,所述日志数据库中存储的所述日志的属性信息包括下述至少一个字段:
所述日志对应任务的任务标识、日志内容、日志的大小信息、上传所述日志的任务处理节点对应的节点标识,以及任务所述的日志上传完毕的上传完毕标识。
9.根据权利要求8所述的任务日志处理***,其特征在于,所述日志服务中心通过其对应的公网访问地址来访问;
并且,所述日志服务中心针对通过所述公网访问地址发送的日志访问请求,从所述日志数据库中查找并读取相应日志并返回。
10.一种任务日志处理方法,其特征在于,包括:
将任务执行过程中生成的日志存储在任务的日志目录下;
从日志服务中心获取在所述日志目录下读取日志的位置标识;
基于所述位置标识读取所述日志目录下存储的日志;
向所述日志服务中心上传读取到的日志;
其中,所述日志服务中心用于存储至少一个任务处理节点上传的日志,并向任务处理节点提供日志访问。
11.根据权利要求10所述的任务日志处理方法,其特征在于,所述将任务执行过程中生成的日志存储在任务的日志目录下步骤执行后,且所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤执行前,执行下述步骤:
检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
12.根据权利要求11述的任务日志处理方法,其特征在于,所述将任务执行过程中生成的日志存储在任务的日志目录下步骤执行前,执行下述步骤:
创建所述任务的日志目录;所述任务与所述日志目录具有一一对应关系;
将所述日志目录对应的日志路径标识存储在所述日志目录的第一子目录下。
13.根据权利要求12所述的任务日志处理方法,其特征在于,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下。
14.根据权利要求12所述的任务日志处理方法,其特征在于,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
15.根据权利要求12所述的任务日志处理方法,其特征在于,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;
若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
16.根据权利要求12所述的任务日志处理方法,其特征在于,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;
若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤。
17.根据权利要求12所述的任务日志处理方法,其特征在于,所述向所述日志服务中心上传读取到的日志步骤执行后,执行下述步骤:
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述日志目录的第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,若是,删除所述第一子目录下存储的所述日志路径标识;若否,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下;
或者,
判断读取到的日志是否成功上传至所述日志服务中心,如果上传成功,判断所述任务是否执行完毕,若是,判断向所述日志服务中心上传的日志与所述任务的日志是否一致,如果一致,删除所述第一子目录下存储的所述日志路径标识;如果不一致,返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;若否,则返回执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;如果上传失败,并且检测到与所述日志服务中心的网络存在异常,则删除所述第一子目录下存储的所述日志路径标识,并将所述日志路径标识存储在所述第二子目录下。
18.根据权利要求11所述的任务日志处理方法,其特征在于,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
判断读取到的日志的大小是否满足大小阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;
若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
19.根据权利要求11所述的任务日志处理方法,其特征在于,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;
若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
20.根据权利要求11所述的任务日志处理方法,其特征在于,所述基于所述位置标识读取所述日志目录下存储的日志步骤执行后,且所述向所述日志服务中心上传读取到的日志步骤执行前,执行下述步骤:
判断读取到的所述日志的大小是否满足大小阈值,如果满足,执行所述向所述日志服务中心上传读取到的日志步骤;
如果不满足,根据当前读取所述日志的时间点以及上一次读取日志的时间点,判断二者的时间间隔是否大于或者等于时间间隔阈值,若是,执行所述向所述日志服务中心上传读取到的日志步骤;若否,返回执行所述基于所述位置标识读取所述日志目录下存储的日志步骤。
21.根据权利要求16或17所述的任务日志处理方法,其特征在于,所述检测与日志服务中心之间的网络是否正常,采用如下方式实现:
按照第一检测周期检测与所述日志服务中心的网络是否正常,若是,执行所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤;
若否,则将所述网络的检测周期从所述第一检测周期变更为第二检测周期,按照所述第二检测周期检测所述网络是否正常,若检测到所述网络恢复正常,则读取所述第二子目录下存储的所述日志路径标识;
其中,所述第二检测周期不小于所述第一检测周期。
22.根据权利要求21所述的任务日志处理方法,其特征在于,所述从日志服务中心获取在所述日志目录下读取日志的位置标识步骤,所述基于所述位置标识读取所述日志目录下存储的日志步骤,和/或,所述向所述日志服务中心上传读取到的日志步骤,基于日志汇报模块实现。
23.根据权利要求22所述的任务日志处理方法,其特征在于,所述任务开始执行后所述日志汇报模块被开启,所述第一子目录下存储的所述日志路径标识删除后所述日志汇报模块被关闭,和/或,所述日志路径标识存储至所述第二子目录后所述日志汇报模块被关闭。
24.根据权利要求23所述的任务日志处理方法,其特征在于,所述读取所述第二子目录下存储的所述日志路径标识子步骤执行后,执行下述操作:
重启所述日志汇报模块。
25.根据权利要求21所述的任务日志处理方法,其特征在于,任务日志处理方法,基于任务处理节点实现;
所述检测与所述日志服务中心的网络是否正常步骤,基于网络检测模块实现,所述网络检测模块设置在所述任务处理节点上;并且,在所述任务处理节点启动后,启动其上设置的所述网络检测模块。
26.一种任务日志处理装置,其特征在于,包括:
日志存储单元,用于将任务执行过程中生成的日志存储在任务的日志目录下;
位置标识获取单元,用于从日志服务中心获取在所述日志目录下读取日志的位置标识;
日志读取单元,用于基于所述位置标识读取所述日志目录下存储的日志;
日志上传单元,用于向所述日志服务中心上传读取到的日志。
27.一种电子设备,其特征在于,包括:
存储器,以及处理器;
所述存储器用于存储计算机可执行指令,所述处理器用于执行所述计算机可执行指令:
将任务执行过程中生成的日志存储在任务的日志目录下;
从日志服务中心获取在所述日志目录下读取日志的位置标识;
基于所述位置标识读取所述日志目录下存储的日志;
向所述日志服务中心上传读取到的日志;
其中,所述日志服务中心用于存储至少一个任务处理节点上传的日志,并向任务处理节点提供日志访问。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710850597.2A CN109522177A (zh) | 2017-09-20 | 2017-09-20 | 一种任务日志处理***、方法以及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710850597.2A CN109522177A (zh) | 2017-09-20 | 2017-09-20 | 一种任务日志处理***、方法以及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109522177A true CN109522177A (zh) | 2019-03-26 |
Family
ID=65768468
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710850597.2A Pending CN109522177A (zh) | 2017-09-20 | 2017-09-20 | 一种任务日志处理***、方法以及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109522177A (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111177078A (zh) * | 2019-12-18 | 2020-05-19 | 广州华多网络科技有限公司 | 日志处理方法、装置及电子设备 |
CN111858536A (zh) * | 2020-08-03 | 2020-10-30 | 聚好看科技股份有限公司 | 一种业务日志传输方法及终端 |
CN112799884A (zh) * | 2021-04-14 | 2021-05-14 | 北京八角科技有限责任公司 | 网络数据处理***异常退出后的自动恢复方法、装置和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030055809A1 (en) * | 2001-09-18 | 2003-03-20 | Sun Microsystems, Inc. | Methods, systems, and articles of manufacture for efficient log record access |
CN101594252A (zh) * | 2009-06-01 | 2009-12-02 | 中兴通讯股份有限公司 | 一种海量日志存储管理***和方法 |
CN102780726A (zh) * | 2011-05-13 | 2012-11-14 | 中兴通讯股份有限公司 | 一种基于web平台的日志分析方法及*** |
CN102790686A (zh) * | 2011-05-17 | 2012-11-21 | 浙江核新同花顺网络信息股份有限公司 | 日志数据采集方法、***及服务器 |
JP2016151796A (ja) * | 2015-02-16 | 2016-08-22 | 株式会社日立システムズ | マルチベンダサーバ機器のリモートログ収集システムおよび方法 |
-
2017
- 2017-09-20 CN CN201710850597.2A patent/CN109522177A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20030055809A1 (en) * | 2001-09-18 | 2003-03-20 | Sun Microsystems, Inc. | Methods, systems, and articles of manufacture for efficient log record access |
CN101594252A (zh) * | 2009-06-01 | 2009-12-02 | 中兴通讯股份有限公司 | 一种海量日志存储管理***和方法 |
CN102780726A (zh) * | 2011-05-13 | 2012-11-14 | 中兴通讯股份有限公司 | 一种基于web平台的日志分析方法及*** |
CN102790686A (zh) * | 2011-05-17 | 2012-11-21 | 浙江核新同花顺网络信息股份有限公司 | 日志数据采集方法、***及服务器 |
JP2016151796A (ja) * | 2015-02-16 | 2016-08-22 | 株式会社日立システムズ | マルチベンダサーバ機器のリモートログ収集システムおよび方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111177078A (zh) * | 2019-12-18 | 2020-05-19 | 广州华多网络科技有限公司 | 日志处理方法、装置及电子设备 |
CN111858536A (zh) * | 2020-08-03 | 2020-10-30 | 聚好看科技股份有限公司 | 一种业务日志传输方法及终端 |
CN112799884A (zh) * | 2021-04-14 | 2021-05-14 | 北京八角科技有限责任公司 | 网络数据处理***异常退出后的自动恢复方法、装置和存储介质 |
CN112799884B (zh) * | 2021-04-14 | 2021-08-03 | 北京八角科技有限责任公司 | 网络数据处理***异常退出后的自动恢复方法、装置和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104951474B (zh) | 一种用于获取MySQL binlog增量日志的方法和装置 | |
TWI739804B (zh) | 資料遷移方法和裝置 | |
CN106469087B (zh) | 元数据输出方法、客户端和元数据服务器 | |
CN111176549B (zh) | 基于云存储的数据存储方法、装置和存储介质 | |
CN103167026A (zh) | 一种云存储环境数据处理方法、***及设备 | |
CN107040576B (zh) | 信息推送方法及装置、通讯*** | |
CN111506253B (zh) | 一种分布式存储***及其存储方法 | |
CN104216801A (zh) | 一种面向虚拟化环境的数据复制方法及*** | |
US8612799B2 (en) | Method and apparatus of backing up subversion repository | |
CN109522177A (zh) | 一种任务日志处理***、方法以及装置 | |
CN111240892A (zh) | 数据备份方法及装置 | |
CN112052230A (zh) | 多机房数据同步方法、计算设备及存储介质 | |
CN106341485A (zh) | 一种云存储的方法及装置 | |
CN112363980B (zh) | 一种分布式***的数据处理方法及装置 | |
WO2021254214A1 (zh) | 安卓应用程序迁移的方法和装置 | |
CN105991744B (zh) | 用于同步用户应用数据的方法与设备 | |
CN111147226B (zh) | 数据存储方法、装置及存储介质 | |
EP3349416A1 (en) | Relationship chain processing method and system, and storage medium | |
CN109783272B (zh) | 磁盘快照处理方法、装置和设备 | |
CN113535477B (zh) | 一种用于数据容灾恢复的方法与设备 | |
WO2022083190A1 (zh) | 数据下载方法、装置、计算机设备和存储介质 | |
CN115421856A (zh) | 一种数据恢复方法及装置 | |
WO2018028321A1 (zh) | 一种虚拟外置存储设备的管理方法、装置及终端 | |
JP7429792B2 (ja) | データ伝送方法、端末及びコンピュータ読み取り可能な記憶媒体 | |
CN103259863A (zh) | 基于集群的控制zookeeper服务的***及方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190326 |