CN107220142B - 执行数据恢复操作的方法及装置 - Google Patents

执行数据恢复操作的方法及装置 Download PDF

Info

Publication number
CN107220142B
CN107220142B CN201610166586.8A CN201610166586A CN107220142B CN 107220142 B CN107220142 B CN 107220142B CN 201610166586 A CN201610166586 A CN 201610166586A CN 107220142 B CN107220142 B CN 107220142B
Authority
CN
China
Prior art keywords
change log
metadata
information
user data
original
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201610166586.8A
Other languages
English (en)
Other versions
CN107220142A (zh
Inventor
郑晓文
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Alibaba Group Holding Ltd
Original Assignee
Alibaba Group Holding Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Alibaba Group Holding Ltd filed Critical Alibaba Group Holding Ltd
Priority to CN201610166586.8A priority Critical patent/CN107220142B/zh
Priority to TW106105349A priority patent/TWI740901B/zh
Priority to EP17769309.0A priority patent/EP3435235B1/en
Priority to SG11201807484TA priority patent/SG11201807484TA/en
Priority to PCT/CN2017/076036 priority patent/WO2017162032A1/zh
Publication of CN107220142A publication Critical patent/CN107220142A/zh
Priority to US16/137,473 priority patent/US20190026193A1/en
Application granted granted Critical
Publication of CN107220142B publication Critical patent/CN107220142B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1448Management of the data involved in backup or backup restore
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1471Saving, restoring, recovering or retrying involving logging of persistent data for recovery
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/14Error detection or correction of the data by redundancy in operation
    • G06F11/1402Saving, restoring, recovering or retrying
    • G06F11/1446Point-in-time backing up or restoration of persistent data
    • G06F11/1458Management of the backup or restore process
    • G06F11/1469Backup restoration techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/23Updating
    • G06F16/2358Change logging, detection, and notification
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/80Database-specific techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2201/00Indexing scheme relating to error detection, to error correction, and to monitoring
    • G06F2201/82Solving problems relating to consistency

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明公开了一种执行数据恢复操作的方法及装置。其中,该方法包括:获取待恢复到的第一变更日志的标识信息;根据标识信息查找第一变更日志;通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。本发明解决了相关技术中的所提到的分布式数据处理平台***恢复机制需要从当前最新的变更日志经过多个中间变更日志依次回滚才能恢复至指定的目标变更日志,操作较为繁琐且易造成数据丢失的技术问题。

Description

执行数据恢复操作的方法及装置
技术领域
本发明涉及计算机领域,具体而言,涉及一种执行数据恢复操作的方法及装置。
背景技术
开放数据处理服务(Open Data Processing Service,简称为ODPS)由阿里云自主研发的分布式海量数据处理平台,其提供了丰富的数据处理功能和灵活的编程框架,应用于数据分析、挖掘、商业智能等领域。ODPS采用抽象的作业处理框架将不同场景的各种计算任务统一在同一个平台之上,共享安全、存储、数据管理和资源调度,为来自不同用户需求的各种数据处理任务提供统一的编程接口和界面。
元数据是指描述数据属性的信息,其用来支持如指示存储位置、历史数据、资源查找、文件记录等功能。换言之,元数据(Metadata)是描述其它数据的数据(dataaboutotherdata),或者说是用于提供某种资源的有关信息的结构数据(structureddata)其使用目的在于:识别资源,评价资源,追踪资源在使用过程中的变化,实现简单高效地管理大量网络化数据以及实现信息资源的有效发现、查找、一体化组织和对使用资源的有效管理。元数据的基本特点主要有:
a)元数据一经建立,便可共享。元数据的结构和完整性依赖于信息资源的价值和使用环境;元数据的开发与利用环境往往是一个变化的分布式环境;任何一种格式都不可能完全满足不同团体的不同需要;
b)元数据首先是一种编码体系。元数据是用来描述数字化信息资源,特别是网络信息资源的编码体系,这导致了元数据和传统数据编码体系的根本区别;元数据的最为重要的特征和功能是为数字化信息资源建立一种机器可理解框架。
元数据体系构建了电子政务的逻辑框架和基本模型,从而决定了电子政务的功能特征、运行模式和***运行的总体性能。电子政务的运作都基于元数据来实现,其主要作用有:描述功能、整合功能、控制功能和代理功能。
由于元数据也是数据,因此可以用类似数据的方法在数据库中进行存储和获取。如果提供数据元的组织同时提供描述数据元的元数据,将会使数据元的使用变得准确而高效。用户在使用数据时可以首先查看其元数据以便能够获取自己所需的信息。
目前,在分布式数据处理平台***中,已经存在一种大规模或超大规模数据集合场景下的数据版本化***,用户可以通过这个***轻易地实现数据恢复、时间点还原、更改撤销以及数据重做等操作。
图1是根据相关技术提供的分布式数据处理平台***生成数据版本管理记录过程的示意图。如图1所示,该***在数据恢复过程中,如果采用链式的数据恢复方式,那么彼此的数据恢复操作之间便会存在依赖关系,换言之,如果用户需要恢复的版本比较旧时,则必须根据当前的变更日志(Change Log,其是指对数据操作的变更日志,其可用于数据恢复)记录,依次回滚到指定的版本。
例如:表1是相关技术中采用链式的数据恢复方式进行数据恢复的示例。如表1所示:
表1
Figure BDA0000947382570000021
Figure BDA0000947382570000031
以上述表1为例,相关技术中所采用的数据恢复方式通常是基于分布式数据库中的changelog机制来完成的,其具体实施过程如下:
第一步.用户通过具有日志记录查询功能的指令查看到当前记录的表(table)的数据版本。
第二步.若用户指定其中特定的changelog id(1452216975272855351),并使用具有日志记录回滚功能的指令,则需要启动数据恢复机制,恢复到指定版本。
第三步.扫描table的版本记录,获取到从当前的状态到指定版本的所有操作记录,倒序的依次生成恢复计划。如表1所示,当用户指定恢复到1452216975272855351这个数据版本时,需要从1452407775639627693开始依次逆序地恢复每个版本,直到恢复到1452216975272855351这个版本。
第四步.按照已经生成的恢复计划开始恢复,其实现方式即为按照顺序操作数据和元数据的处理逻辑。
目前的数据版本以及恢复机制,其实质上都是一次作业,会操作数据和元数据,这同用户的作业以及内部的跨集群复制作业的最后处理从原理上来看都是一致的。
然而,由于现有的恢复机制需要从当前状态依次倒序恢复,直至恢复到指定版本。上述示例仅是简单地列举了其中少量的数据版本,如果线上的表操作执行过于频繁,可能会出现从1452407775639627693这个数据版本到1452216975272855351,中间的版本状态成千上万,也就是在恢复到一个指定版本时,可能中间过程需要依次处理数千次的操作。
目前,相关技术中所能够提供的海量数据处理平台(例如:HIVE等数据仓库)不具备数据恢复的管理模块,而传统的数据库(例如:MYSQL)所采用的解决方案是获取每次操作的差异数据进行保存,以便于在执行后续恢复操作的过程中能够按照存储的差异数据进行恢复,这在海量数据处理***中,带来了很大的依赖性,恢复数据发杂性高,而且风险高。
综上所述,针对目前相关技术中所能够提供的数据恢复方式,还是很有可能会带来以下亟待解决的技术难题:
数据恢复的复杂度大大提升,其中涉及的数据和元数据操作较多,由此会带来数据不一致的风险以及造成数据恢复的失败率提升,进而直接导致数据恢复失败,甚至是由于发生数据和元数据不匹配的情况而造成数据丢失;另外,此种依次倒序的恢复方式还会极大地增加所需恢复时间的开销。
由此可见,依赖版本依次逆序恢复的数据恢复方式,不仅能够造成恢复时间的大幅提升,而且,该恢复数据的行为由于需要通过对数据和元数据的一系列操作来完成,由此加大了用户操作的复杂度,此外,还有可能增加***内部复制等机制的冲突概率,进而加大用户操作异常或者恢复异常可能性,带来数据恢复失败风险。
针对上述的问题,目前尚未提出有效的解决方案。
发明内容
本发明实施例提供了一种执行数据恢复操作的方法及装置,以至少解决相关技术中的所提到的分布式数据处理平台***恢复机制需要从当前最新的变更日志经过多个中间变更日志依次回滚才能恢复至指定的目标变更日志,操作较为繁琐且易造成数据丢失的技术问题。
根据本发明实施例的一个方面,提供了一种执行数据恢复操作的方法,包括:
获取待恢复到的第一变更日志的标识信息;根据标识信息查找第一变更日志;通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
可选地,通过第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志包括:从第一变更日志中解析出第一原始用户数据和第一原始元数据;从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据。
可选地,通过第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志包括:从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
可选地,根据标识信息查找第一变更日志包括以下之一:通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
可选地,获取第一变更日志的标识信息包括:接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
可选地,在通过第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志之后,还包括:返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
根据本发明实施例的另一方面,还提供了一种执行数据恢复操作的装置,包括:
获取模块,用于获取待恢复到的第一变更日志的标识信息;查找模块,用于根据标识信息查找第一变更日志;恢复模块,用于通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
可选地,恢复模块包括:解析单元,用于从第一变更日志中解析出第一原始用户数据和第一原始元数据;恢复单元,用于从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据。
可选地,恢复模块包括:解析单元,用于从第一变更日志中解析出第一原始用户数据和第一原始元数据;恢复单元,用于从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
可选地,查找模块,用于通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;或者,通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
可选地,获取模块包括:接收单元,用于接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;获取单元,用于对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
可选地,上述装置还包括:反馈模块,用于返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
在本发明实施例中,采用从当前最新记录的变更日志仅通过执行一次恢复操作便恢复至指定的目标变更日志的方式,通过最新记录的变更日志中记录的用户数据信息与元数据信息以及目标变更日志中记录的用户数据信息与元数据信息将最新记录的变更日志直接恢复至目标变更日志而省略了对最新记录的变更日志与目标变更日志之间存在多条待撤销的变更日志的依次回滚的处理过程,从而实现了降低分布式数据库恢复机制的操作复杂度,提高分布式数据库恢复机制的成功率以及减少分布式数据库恢复机制的时间开销的技术效果,进而解决了相关技术中的所提到的分布式数据处理平台***恢复机制需要从当前最新的变更日志经过多个中间变更日志依次回滚才能恢复至指定的目标变更日志,操作较为繁琐且易造成数据丢失的技术问题。
附图说明
此处所说明的附图用来提供对本发明的进一步理解,构成本申请的一部分,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。在附图中:
图1是根据相关技术提供的分布式数据处理平台***生成数据版本管理记录过程的示意图;
图2是本发明实施例的一种执行数据恢复操作的方法的计算机终端的硬件结构框图;
图3是根据本发明实施例的执行数据恢复操作的方法的流程图;
图4是根据本发明优选实施例的采用不同方式查询日志变更记录的对比示意图;
图5是根据本发明实施例的执行数据恢复操作的装置的结构框图;
图6是根据本发明优选实施例的执行数据恢复操作的装置的结构框图;
图7是根据本发明实施例的一种计算机终端的结构框图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例1
根据本发明实施例,还提供了一种执行数据恢复操作的方法的方法实施例,需要说明的是,在附图的流程图示出的步骤可以在诸如一组计算机可执行指令的计算机***中执行,并且,虽然在流程图中示出了逻辑顺序,但是在某些情况下,可以以不同于此处的顺序执行所示出或描述的步骤。
本申请实施例一所提供的方法实施例可以在移动终端、计算机终端或者类似的运算装置中执行。以运行在计算机终端上为例,图2是本发明实施例的一种执行数据恢复操作的方法的计算机终端的硬件结构框图。如图2所示,计算机终端10可以包括一个或多个(图中仅示出一个)处理器102(处理器102可以包括但不限于微处理器MCU或可编程逻辑器件FPGA等的处理装置)、用于存储数据的存储器104、以及用于通信功能的传输装置106。本领域普通技术人员可以理解,图2所示的结构仅为示意,其并不对上述电子装置的结构造成限定。例如,计算机终端10还可包括比图2中所示更多或者更少的组件,或者具有与图2所示不同的配置。
存储器104可用于存储应用软件的软件程序以及模块,如本发明实施例中的执行数据恢复操作的方法对应的程序指令/模块,处理器102通过运行存储在存储器104内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的执行数据恢复操作的方法。存储器104可包括高速随机存储器,还可包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器104可进一步包括相对于处理器102远程设置的存储器,这些远程存储器可以通过网络连接至计算机终端10。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
传输装置106用于经由一个网络接收或者发送数据。上述的网络具体实例可包括计算机终端10的通信供应商提供的无线网络。在一个实例中,传输装置106包括一个网络适配器(Network Interface Controller,简称为NIC),其可通过基站与其他网络设备相连从而可与互联网进行通讯。在一个实例中,传输装置106可以为射频(Radio Frequency,简称为RF)模块,其用于通过无线方式与互联网进行通讯。
在上述运行环境下,本申请提供了如图3所示的执行数据恢复操作的方法。图3是根据本发明实施例的执行数据恢复操作的方法的流程图。如图3所示,该方法可以包括以下处理步骤:
步骤S302:获取待恢复到的第一变更日志的标识信息;
步骤S304:根据标识信息查找第一变更日志;
步骤S306:通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
通过本发明实施例所提供的技术方案,采用从当前最新记录的变更日志(相当于上述第二变更日志)仅通过执行一次恢复操作便恢复至指定的目标变更日志(相当于上述第一变更日志)的方式,通过最新记录的变更日志中记录的用户数据信息与元数据信息以及目标变更日志中记录的用户数据信息与元数据信息将最新记录的变更日志直接恢复至目标变更日志而省略了对最新记录的变更日志与目标变更日志之间存在多条待撤销的变更日志的依次回滚的处理过程,从而实现了降低分布式数据库恢复机制的操作复杂度,提高分布式数据库恢复机制的成功率的技术效果,进而解决了相关技术中的所提到的分布式数据处理平台***恢复机制需要从当前最新的变更日志经过多个中间变更日志依次回滚才能恢复至指定的目标变更日志,操作较为繁琐且易造成数据丢失的技术问题。
在使用分布式数据处理平台***执行数据处理的过程中往往会遇到因误操作而引起的数据被误删除或者被误覆盖,为此,分布式数据处理平台***的数据版本管理恢复模块(例如:ChangeLogs)提供了一种海量数据版本化的机制和数据恢复的工具,即,可以使用数据版本管理恢复模块将海量数据撤销或者恢复至数据的任意历史版本、查看每个版本修改的内容。因此,通过数据版本管理恢复模块可以实现数据在被误删除或者被误覆盖之后能够及时得到恢复,以确保数据维护的安全性。
通过数据版本管理恢复模块的保存时间可以确定数据版本管理恢复模块功能是否开启,例如:当数据版本管理恢复模块的保存时间小于预设时长时,则表示数据版本管理恢复模块功能关闭,不记录数据版本管理恢复模块;当数据版本管理恢复模块的保存时间大于或等于预设时长时,则表示当前数据版本管理恢复模块功能开启,会自动记录数据版本管理恢复模块。在数据版本管理恢复模块的保存时间范围内,已经执行的任意修改操作都可以得到即时恢复。
数据版本管理恢复模块中的每条变更日志完整地记录了修改表或分区的操作类型、用户、查询、环境信息、原始的元数据和数据全量快照以及修改后的元数据和数据全量快照,用户可以利用数据版本管理恢复模块执行回滚或者数据恢复等操作。
可选地,在步骤S306中,通过第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志可以包括以下执行步骤:
步骤S3061:从第一变更日志中解析出第一原始用户数据和第一原始元数据;
考虑到第一变更日志中记录的用户数据信息包括:在对处理对象(分区或者列表)执行与第一变更日志中包含的操作类型对应的修改操作前的第一原始用户数据和第一原始元数据以及在执行与第一变更日志中包含的操作类型对应的修改操作后的已修改用户数据和已修改元数据。而如果需要将当前最新记录的变更日志恢复到用户指定的变更日志,那么最终结果便是需要将当前最新记录的变更日志中用户数据信息和元数据信息恢复至在对处理对象(分区或者列表)执行与第一变更日志中包含的操作类型对应的修改操作前的第一原始用户数据和第一原始元数据。因此,需要从第一变更日志中解析(或提取)出第一原始用户数据和第一原始元数据。即,待恢复到的目标对象为第一原始用户数据和第一原始元数据。
步骤S3062:从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据;或者,从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
相对于上述待恢复到的目标对象而言,被恢复的源对象既可以是在对处理对象(分区或者列表)执行与第二变更日志中包含的操作类型对应的修改操作前的第二原始用户数据和第二原始元数据,也可以是在执行与第二变更日志中包含的操作类型对应的修改操作后的已修改用户数据和已修改元数据,进而在确定出待恢复到的目标对象以及被恢复的源对象的基础上,通过仅执行一次数据恢复操作,便可以直接将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据;或者,将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据。
例如:用户在2016-01-08 09:36:15在支付宝上执行第一次操作,创建一个个人账户,此时将产生第一个变更记录,其用户数据信息主要包括:user,2016-01-08 09:36:15,新建账户内的具体金额(0元),相应的元数据信息则主要包括:用户名、创建时间以及账户余额等描述用户数据属性的信息。由于该账户为新建账户,因此,该新建账户的余额为0元。
如果用户在2016-01-08 09:57:23执行第二次操作,向支付宝的新建账户存入200元人民币,那么此时将产生第二个变更记录,其用户数据信息主要包括:user,2016-01-0809:57:23,新建账户内的具体金额(200元)以及人民币,相应的元数据信息则主要包括:用户名、创建时间、账户余额以及币种等描述用户数据属性的信息。
如果用户在2016-01-09 09:52:20执行第三次操作,从支付宝的新建账户提取50元人民币,那么此时将产生第三个变更记录,其用户数据信息主要包括:user,2016-01-0909:52:20,新建账户内的具体金额(150元)以及人民币,相应的元数据信息则主要包括:用户名、创建时间、账户余额以及币种等描述用户数据属性的信息。通过此次操作,当前变更记录可以包括:对用户账户存储记录表进行修改操作前的原始用户数据(user,2016-01-0809:57:23,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种);对用户账户存储记录表进行修改操作后的已修改用户数据(user,2016-01-09 09:52:20,150元以及人民币)以及已修改元数据(用户名、创建时间、账户余额以及币种)。
在中间经历过N-1次操作后,如果用户在2016-01-10 14:32:28执行第N次操作,需要将账户内的100元人民币转成日元,那么此时将产生第N个变更记录,其元数据信息在现有的用户名、创建时间、账户余额以及币种等属性信息的基础上还可能需要增加汇率属性,相应地,用户数据信息在币种属性下除了人民币以外又新增了日元数据以及汇率值(1人民币=17.4825日元)。通过此次操作,当前变更记录可以包括:对用户账户存储记录表进行修改操作前的原始用户数据(user,2016-01-10 09:40:50,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种);对用户账户存储记录表进行修改操作后的已修改用户数据(user,2016-01-10 14:32:28,200元,人民币以及日元)以及已修改元数据(用户名、创建时间、账户余额、币种以及汇率)。
如果用户需要将第N个变更记录恢复至第三个变更记录,那么首先,需要从第三个变更记录中提取对用户账户存储记录表进行修改操作前的原始用户数据(user,2016-01-08 09:57:23,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种)。其次,再从第N个变更记录中提取对用户账户存储记录表进行修改操作前的原始用户数据(user,2016-01-10 09:40:50,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种);或者,对用户账户存储记录表进行修改操作后的已修改用户数据(user,2016-01-10 14:32:28,200元,人民币以及日元)以及已修改元数据(用户名、创建时间、账户余额、币种以及汇率)。然后,既可以将原始用户数据(user,2016-01-10 09:40:50,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种)恢复至原始用户数据(user,2016-01-08 09:57:23,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种),也可以将已修改用户数据(user,2016-01-10 14:32:28,200元,人民币以及日元)以及已修改元数据(用户名、创建时间、账户余额、币种以及汇率)恢复至原始用户数据(user,2016-01-08 09:57:23,200元以及人民币)以及原始元数据(用户名、创建时间、账户余额以及币种)。
可选地,在步骤S304中,根据标识信息查找第一变更日志可以包括以下方式之一:
方式一、通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;
作为分布式数据处理平台***用户可以通过SHOW CHANGELOGS FOR TABLE<表名>[PARTITION(<分区名>)]语法结构查询特定表或分区的数据版本管理恢复模块。然后,再根据logId从特定表或分区的数据版本管理恢复模块查询到对应的变更记录。
方式二、通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
作为分布式数据处理平台***用户也可以通过SHOW CHANGELOGS FOR TABLE<表名>[PARTITION(<分区名>)]<logId>语法直接查询到特定表或分区的变更记录。
其中,上述<logId>是每一条数据版本管理恢复模块的唯一ID,其本质上是一个不会重复的精确到纳秒的时间戳。在SHOW CHANGELOGS列表中可以看到,当因为误操作造成数据被误删除或者被误覆盖发生异常时,便可以通过上述两条命令查找到特定的变更记录,以便于用户及时发现问题,恢复数据版本。
可选地,在步骤S302中,获取第一变更日志的标识信息可以包括以下执行步骤:
S3021:接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;
S3022:对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
在优选实施例中,用户可以指定需要恢复到的logId,并可以使用UNDO语法结构(即UNDO TABLE<表名>[PARTITION(<分区名>)]TO<logId>)启动数据恢复机制,仅通过执行一次数据恢复操作直接将最新记录的变更日志恢复至需要保留的变更日志。因此,无论是分区或列表数据被误删除或者被误覆盖,都可以使用上述命令进行恢复。
当然,在用户指定需要恢复到的logId并启动数据恢复机制后,需要预先对用户进行分布式数据处理平台***鉴权,判断用户是否具有对变更日志执行恢复操作的权限,如果用户具有对变更日志执行恢复操作的权限,则从用户提交的触发数据恢复机制的命令中获取logId;而如果用户不具有对变更日志执行恢复操作的权限,则直接向用户发出告警或拒绝用户对数据版本管理恢复模块进行访问。
可选地,在通过第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志之后,还包括:返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
如果在用户指定需要恢复到的logId,并使用UNDO语法结构(即UNDO TABLE<表名>[PARTITION(<分区名>)]TO<logId>)启动数据恢复机制,然后仅通过执行一次数据恢复操作便成功将最新记录的变更日志恢复至需要保留的变更日志后,可以向用户返回数据恢复操作执行成功,最新记录的变更日志已经恢复至用户指定的目标变更日志的提示信息,进而结束整个数据恢复流程。
为了更加突出本发明实施例所提供的技术方案与现有解决方案的区别,将结合图3所示的示例作进一步的比对。图4是根据本发明优选实施例的采用不同方式查询日志变更记录的对比示意图。如图4所示,假设当前最新存储的日志记录表中包括标识信息依次为:1452216975272855351,1452216989166724482,1452217464192642287,…,1452407625046628818,1452407726812625638,1452407775639627693。假设当前需要恢复至标识信息为1452216989166724482这个版本的日志记录,那么按照相关技术中提供的恢复方案:
1452407775639627693→1452407726812625638→1452407625046628818→…→1452217464192642287→1452216989166724482;
即按照变更记录的记录顺序依次回滚至1452216989166724482。
与之相比,采用本发明实施例所提供的技术方案:
1452407775639627693→1452216989166724482;
即从当前最新记录的1452407775639627693直接恢复至指定版本1452216989166724482。
需要说明的是,对于前述的各方法实施例,为了简单描述,故将其都表述为一系列的动作组合,但是本领域技术人员应该知悉,本发明并不受所描述的动作顺序的限制,因为依据本发明,某些步骤可以采用其他顺序或者同时进行。其次,本领域技术人员也应该知悉,说明书中所描述的实施例均属于优选实施例,所涉及的动作和模块并不一定是本发明所必须的。
通过以上的实施方式的描述,本领域的技术人员可以清楚地了解到根据上述实施例的执行数据恢复操作的方法可借助软件加必需的通用硬件平台的方式来实现,当然也可以通过硬件,但很多情况下前者是更佳的实施方式。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中,包括若干指令用以使得一台终端设备(可以是手机,计算机,服务器,或者网络设备等)执行本发明各个实施例所述的方法。
实施例2
根据本发明实施例,还提供了一种用于实施上述执行数据恢复操作的装置,图5是根据本发明实施例的执行数据恢复操作的装置的结构框图。如图5所示,该装置包括:获取模块10,用于获取待恢复到的第一变更日志的标识信息;查找模块20,用于根据标识信息查找第一变更日志;恢复模块30,用于通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
可选地,图6是根据本发明优选实施例的执行数据恢复操作的装置的结构框图。如图6所示,恢复模块30包括:解析单元300,用于从第一变更日志中解析出第一原始用户数据和第一原始元数据;恢复单元302,用于从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据。
可选地,解析单元300,用于从第一变更日志中解析出第一原始用户数据和第一原始元数据;恢复单元302,用于从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
可选地,查找模块20,用于通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;或者,通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
可选地,如图6所示,获取模块10可以包括:接收单元100,用于接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;获取单元102,用于对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
可选地,如图6所示,上述装置还可以包括:反馈模块40,用于返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
实施例3
本发明的实施例可以提供一种计算机终端,该计算机终端可以是计算机终端群中的任意一个计算机终端设备。可选地,在本实施例中,上述计算机终端也可以替换为移动终端等终端设备。
可选地,在本实施例中,上述计算机终端可以位于计算机网络的多个网络设备中的至少一个网络设备。
可选地,图7是根据本发明实施例的一种计算机终端的结构框图。如图7所示,该计算机终端可以包括:一个或多个(图中仅示出一个)处理器以及存储器。
其中,存储器可用于存储软件程序以及模块,如本发明实施例中的执行数据恢复操作方法和装置对应的程序指令/模块,处理器通过运行存储在存储器内的软件程序以及模块,从而执行各种功能应用以及数据处理,即实现上述的执行数据恢复操作的方法。存储器可包括高速随机存储器,还可以包括非易失性存储器,如一个或者多个磁性存储装置、闪存、或者其他非易失性固态存储器。在一些实例中,存储器可进一步包括相对于处理器远程设置的存储器,这些远程存储器可以通过网络连接至终端。上述网络的实例包括但不限于互联网、企业内部网、局域网、移动通信网及其组合。
处理器可以通过传输装置调用存储器存储的信息及应用程序,以执行下述步骤:
S1,获取待恢复到的第一变更日志的标识信息;
S2,根据标识信息查找第一变更日志;
S3,通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
可选的,上述处理器还可以执行如下步骤的程序代码:从第一变更日志中解析出第一原始用户数据和第一原始元数据;从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据。
可选的,上述处理器还可以执行如下步骤的程序代码:从第一变更日志中解析出第一原始用户数据和第一原始元数据;从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
可选的,上述处理器还可以执行如下步骤的程序代码:通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;或者,通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
可选的,上述处理器还可以执行如下步骤的程序代码:接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
可选的,上述处理器还可以执行如下步骤的程序代码:返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
采用本发明实施例,采用从当前最新记录的变更日志仅通过执行一次恢复操作便恢复至指定的目标变更日志的方式,通过最新记录的变更日志中记录的用户数据信息与元数据信息以及目标变更日志中记录的用户数据信息与元数据信息将最新记录的变更日志直接恢复至目标变更日志而省略了对最新记录的变更日志与目标变更日志之间存在多条待撤销的变更日志的依次回滚的处理过程,从而实现了降低分布式数据库恢复机制的操作复杂度,提高分布式数据库恢复机制的成功率以及减少分布式数据库恢复机制的时间开销的技术效果,进而解决了相关技术中的所提到的分布式数据处理平台***恢复机制需要从当前最新的变更日志经过多个中间变更日志依次回滚才能恢复至指定的目标变更日志,操作较为繁琐且易造成数据丢失的技术问题。
本领域普通技术人员可以理解,图7所示的结构仅为示意,计算机终端也可以是智能手机(如Android手机、iOS手机等)、平板电脑、掌声电脑以及移动互联网设备(MobileInternet Devices,MID)、PAD等终端设备。图7其并不对上述电子装置的结构造成限定。例如,计算机终端还可包括比图7中所示更多或者更少的组件(如网络接口、显示装置等),或者具有与图7所示不同的配置。
本领域普通技术人员可以理解上述实施例的各种方法中的全部或部分步骤是可以通过程序来指令终端设备相关的硬件来完成,该程序可以存储于一计算机可读存储介质中,存储介质可以包括:闪存盘、只读存储器(Read-Only Memory,ROM)、随机存取器(RandomAccess Memory,RAM)、磁盘或光盘等。
实施例4
本发明的实施例还提供了一种存储介质。可选地,在本实施例中,上述存储介质可以用于保存上述实施例一所提供的执行数据恢复操作的方法所执行的程序代码。
可选地,在本实施例中,上述存储介质可以位于计算机网络中计算机终端群中的任意一个计算机终端中,或者位于移动终端群中的任意一个移动终端中。
可选地,在本实施例中,存储介质被设置为存储用于执行以下步骤的程序代码:
S1,获取待恢复到的第一变更日志的标识信息;
S2,根据标识信息查找第一变更日志;
S3,通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及第一变更日志中记录的用户数据信息与元数据信息将第二变更日志恢复至第一变更日志,其中,在第二变更日志与第一变更日志之间存在多条待撤销的变更日志。
可选地,在本实施例中,存储介质还被设置为存储用于执行以下步骤的程序代码:从第一变更日志中解析出第一原始用户数据和第一原始元数据;从第二变更日志中解析出第二原始用户数据和第二原始元数据,并将第二原始用户数据恢复至第一原始用户数据以及将第二原始元数据恢复至第一原始元数据。
可选地,在本实施例中,存储介质还被设置为存储用于执行以下步骤的程序代码:从第一变更日志中解析出第一原始用户数据和第一原始元数据;从第二变更日志中解析出已修改用户数据和已修改元数据,并将已修改用户数据恢复至第一原始用户数据以及将已修改元数据恢复至第一原始元数据,其中,已修改用户数据和已修改元数据是按照第二变更日志中记录的修改对象的操作类型对第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
可选地,在本实施例中,存储介质还被设置为存储用于执行以下步骤的程序代码:通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据标识信息从变更日志列表信息或者变更日志分区信息中查找第一变更日志;或者,通过在变更日志查询命令中添加列表名称和标识信息或者通过在变更日志查询命令中添加分区名称和标识信息,查找第一变更日志。
可选地,在本实施例中,存储介质还被设置为存储用于执行以下步骤的程序代码:接收触发数据恢复操作的控制指令,其中,控制指令中携带有标识信息;对控制指令执行鉴权操作,并在鉴权成功的情况下,从控制指令中获取标识信息。
可选地,在本实施例中,存储介质还被设置为存储用于执行以下步骤的程序代码:返回与控制指令对应的提示信息,其中,提示信息用于表示第二变更日志已经成功恢复至第一变更日志。
上述本发明实施例序号仅仅为了描述,不代表实施例的优劣。
在本发明的上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述的部分,可以参见其他实施例的相关描述。
在本申请所提供的几个实施例中,应该理解到,所揭露的技术内容,可通过其它的方式实现。其中,以上所描述的装置实施例仅仅是示意性的,例如所述单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通信连接可以是通过一些接口,单元或模块的间接耦合或通信连接,可以是电性或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本发明各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的全部或部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可为个人计算机、服务器或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。

Claims (10)

1.一种执行数据恢复操作的方法,其特征在于,包括:
获取待恢复到的第一变更日志的标识信息;
根据所述标识信息查找所述第一变更日志;
通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及所述第一变更日志中记录的用户数据信息与元数据信息将所述第二变更日志恢复至所述第一变更日志,其中,在所述第二变更日志与所述第一变更日志之间存在多条待撤销的变更日志;
其中,根据所述标识信息查找所述第一变更日志包括以下之一:通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据所述标识信息从所述变更日志列表信息或者所述变更日志分区信息中查找所述第一变更日志;通过在变更日志查询命令中添加列表名称和所述标识信息或者通过在变更日志查询命令中添加分区名称和所述标识信息,查找所述第一变更日志。
2.根据权利要求1所述的方法,其特征在于,通过所述第二变更日志中记录的用户数据信息与元数据信息以及所述第一变更日志中记录的用户数据信息与元数据信息将所述第二变更日志恢复至所述第一变更日志包括:
从所述第一变更日志中解析出第一原始用户数据和第一原始元数据;
从所述第二变更日志中解析出第二原始用户数据和第二原始元数据,并将所述第二原始用户数据恢复至所述第一原始用户数据以及将所述第二原始元数据恢复至所述第一原始元数据。
3.根据权利要求1所述的方法,其特征在于,通过所述第二变更日志中记录的用户数据信息与元数据信息以及所述第一变更日志中记录的用户数据信息与元数据信息将所述第二变更日志恢复至所述第一变更日志包括:
从所述第一变更日志中解析出第一原始用户数据和第一原始元数据;
从所述第二变更日志中解析出已修改用户数据和已修改元数据,并将所述已修改用户数据恢复至所述第一原始用户数据以及将所述已修改元数据恢复至所述第一原始元数据,其中,所述已修改用户数据和所述已修改元数据是按照所述第二变更日志中记录的修改对象的操作类型对所述第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
4.根据权利要求1所述的方法,其特征在于,获取所述第一变更日志的所述标识信息包括:
接收触发数据恢复操作的控制指令,其中,所述控制指令中携带有所述标识信息;
对所述控制指令执行鉴权操作,并在鉴权成功的情况下,从所述控制指令中获取所述标识信息。
5.根据权利要求4所述的方法,其特征在于,在通过所述第二变更日志中记录的用户数据信息与元数据信息以及所述第一变更日志中记录的用户数据信息与元数据信息将所述第二变更日志恢复至所述第一变更日志之后,还包括:
返回与所述控制指令对应的提示信息,其中,所述提示信息用于表示所述第二变更日志已经成功恢复至所述第一变更日志。
6.一种执行数据恢复操作的装置,其特征在于,包括:
获取模块,用于获取待恢复到的第一变更日志的标识信息;
查找模块,用于根据所述标识信息查找所述第一变更日志;
恢复模块,用于通过最新记录的第二变更日志中记录的用户数据信息与元数据信息以及所述第一变更日志中记录的用户数据信息与元数据信息将所述第二变更日志恢复至所述第一变更日志,其中,在所述第二变更日志与所述第一变更日志之间存在多条待撤销的变更日志;
其中,所述查找模块,用于通过在变更日志查询命令中添加列表名称获取变更日志列表信息或者通过在变更日志查询命令中添加分区名称获取变更日志分区信息,并根据所述标识信息从所述变更日志列表信息或者所述变更日志分区信息中查找所述第一变更日志;或者,通过在变更日志查询命令中添加列表名称和所述标识信息或者通过在变更日志查询命令中添加分区名称和所述标识信息,查找所述第一变更日志。
7.根据权利要求6所述的装置,其特征在于,所述恢复模块包括:
解析单元,用于从所述第一变更日志中解析出第一原始用户数据和第一原始元数据;
恢复单元,用于从所述第二变更日志中解析出第二原始用户数据和第二原始元数据,并将所述第二原始用户数据恢复至所述第一原始用户数据以及将所述第二原始元数据恢复至所述第一原始元数据。
8.根据权利要求6所述的装置,其特征在于,所述恢复模块包括:
解析单元,用于从所述第一变更日志中解析出第一原始用户数据和第一原始元数据;
恢复单元,用于从所述第二变更日志中解析出已修改用户数据和已修改元数据,并将所述已修改用户数据恢复至所述第一原始用户数据以及将所述已修改元数据恢复至所述第一原始元数据,其中,所述已修改用户数据和所述已修改元数据是按照所述第二变更日志中记录的修改对象的操作类型对所述第二变更日志中记录的原始用户数据和原始元数据进行修改后得到的。
9.根据权利要求6所述的装置,其特征在于,所述获取模块包括:
接收单元,用于接收触发数据恢复操作的控制指令,其中,所述控制指令中携带有所述标识信息;
获取单元,用于对所述控制指令执行鉴权操作,并在鉴权成功的情况下,从所述控制指令中获取所述标识信息。
10.根据权利要求9所述的装置,其特征在于,所述装置还包括:
反馈模块,用于返回与所述控制指令对应的提示信息,其中,所述提示信息用于表示所述第二变更日志已经成功恢复至所述第一变更日志。
CN201610166586.8A 2016-03-22 2016-03-22 执行数据恢复操作的方法及装置 Active CN107220142B (zh)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN201610166586.8A CN107220142B (zh) 2016-03-22 2016-03-22 执行数据恢复操作的方法及装置
TW106105349A TWI740901B (zh) 2016-03-22 2017-02-17 執行資料恢復操作的方法及裝置
EP17769309.0A EP3435235B1 (en) 2016-03-22 2017-03-09 Method and device for executing data recovery operation
SG11201807484TA SG11201807484TA (en) 2016-03-22 2017-03-09 Method and apparatus for executing data recovery operation
PCT/CN2017/076036 WO2017162032A1 (zh) 2016-03-22 2017-03-09 执行数据恢复操作的方法及装置
US16/137,473 US20190026193A1 (en) 2016-03-22 2018-09-20 Method and apparatus for executing data recovery operation

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201610166586.8A CN107220142B (zh) 2016-03-22 2016-03-22 执行数据恢复操作的方法及装置

Publications (2)

Publication Number Publication Date
CN107220142A CN107220142A (zh) 2017-09-29
CN107220142B true CN107220142B (zh) 2020-10-09

Family

ID=59899354

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201610166586.8A Active CN107220142B (zh) 2016-03-22 2016-03-22 执行数据恢复操作的方法及装置

Country Status (6)

Country Link
US (1) US20190026193A1 (zh)
EP (1) EP3435235B1 (zh)
CN (1) CN107220142B (zh)
SG (1) SG11201807484TA (zh)
TW (1) TWI740901B (zh)
WO (1) WO2017162032A1 (zh)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107579865A (zh) * 2017-10-18 2018-01-12 北京奇虎科技有限公司 分布式代码服务器的权限管理方法、装置及***
CN110019046B (zh) * 2017-12-29 2024-05-14 北京奇虎科技有限公司 一种日志落地方法及装置
US10891202B2 (en) * 2018-05-15 2021-01-12 Sap Se Recovery of in-memory databases using a backward scan of the database transaction log
CN108984337B (zh) * 2018-05-29 2021-04-16 杭州网易再顾科技有限公司 一种数据同步异常的修复方法、修复装置、介质和计算设备
CN111078463B (zh) * 2018-10-19 2023-05-02 阿里云计算有限公司 数据备份的方法、装置和***
CN109656935B (zh) * 2018-11-23 2023-12-01 创新先进技术有限公司 用于数据库的数据回放的方法和***
CN111367836B (zh) * 2018-12-25 2023-06-13 阿里巴巴集团控股有限公司 一种针对数据库的处理方法及装置
CN109857593B (zh) * 2019-01-21 2020-08-28 北京工业大学 一种数据中心日志缺失数据恢复方法
CN111984460B (zh) * 2019-05-21 2023-11-24 华为云计算技术有限公司 元数据的恢复方法及装置
CN110389860A (zh) * 2019-06-20 2019-10-29 北京奇艺世纪科技有限公司 一种数据处理方法、装置、电子设备及存储介质
CN112256656B (zh) * 2019-07-22 2023-04-18 金篆信科有限责任公司 事务回滚方法及装置、数据库、***、计算机存储介质
CN112486373B (zh) * 2019-08-23 2022-06-03 珠海金山办公软件有限公司 编辑操作撤消方法、装置、电子设备及存储介质
CN110795447A (zh) * 2019-10-29 2020-02-14 中国工商银行股份有限公司 数据处理方法、数据处理***、电子设备和介质
CN111638904B (zh) * 2020-05-11 2023-12-22 贝壳技术有限公司 一种数据配置的还原方法、装置以及可读存储介质
CN111625552B (zh) * 2020-05-20 2024-01-02 北京百度网讯科技有限公司 数据收集方法、装置、设备和可读存储介质
CN114546998A (zh) * 2022-01-13 2022-05-27 北京元年科技股份有限公司 数据中台的数据处理方法、装置、设备及可读存储介质
CN114978891B (zh) * 2022-05-17 2024-04-30 西安易朴通讯技术有限公司 网络设备bios配置的处理方法、设备及存储介质
CN117971565B (zh) * 2024-03-29 2024-06-18 天津南大通用数据技术股份有限公司 一种恢复列存储分布式数据库误删除数据的方法及***

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7310711B2 (en) * 2004-10-29 2007-12-18 Hitachi Global Storage Technologies Netherlands B.V. Hard disk drive with support for atomic transactions
CN101187948A (zh) * 2007-12-20 2008-05-28 中国科学院计算技术研究所 一种持续数据保护***及其实现方法
CN103761161A (zh) * 2013-12-31 2014-04-30 华为技术有限公司 恢复数据的方法、服务器及***
CN104217174A (zh) * 2014-09-05 2014-12-17 四川长虹电器股份有限公司 分布式文件安全存储***及其存储方法
CN104699712A (zh) * 2013-12-09 2015-06-10 阿里巴巴集团控股有限公司 对数据库中的库存记录信息进行更新的方法及装置
CN105069617A (zh) * 2015-07-27 2015-11-18 飞天诚信科技股份有限公司 一种恢复不完整交易的方法和装置
CN105205053A (zh) * 2014-05-30 2015-12-30 阿里巴巴集团控股有限公司 一种数据库增量日志解析方法及***

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7698428B2 (en) * 2003-12-15 2010-04-13 International Business Machines Corporation Apparatus, system, and method for grid based data storage
US7543001B2 (en) * 2004-06-17 2009-06-02 International Business Machines Corporation Storing object recovery information within the object
US8527721B2 (en) * 2008-12-26 2013-09-03 Rajeev Atluri Generating a recovery snapshot and creating a virtual view of the recovery snapshot
CN100583050C (zh) * 2008-06-11 2010-01-20 华中科技大学 基于时间戳日志存储的连续数据保护和恢复方法
CN101436207B (zh) * 2008-12-16 2011-01-19 浪潮通信信息***有限公司 一种基于日志快照的数据恢复和同步方法
US8572309B2 (en) * 2009-03-12 2013-10-29 Marvell World Trade Ltd. Apparatus and method to protect metadata against unexpected power down
CN102238162A (zh) * 2010-12-03 2011-11-09 元润康联(上海)科技有限公司 一种医院间非结构化信息归档的方法
US8954647B2 (en) * 2011-01-28 2015-02-10 Apple Inc. Systems and methods for redundantly storing metadata for non-volatile memory
CN103034636A (zh) * 2011-09-29 2013-04-10 盛乐信息技术(上海)有限公司 一种非关系型数据库的回滚方法、装置及***
KR101352959B1 (ko) * 2011-12-09 2014-01-21 주식회사 알티베이스 메인메모리 데이터베이스 관리 시스템의 액티브 노드 및 스탠바이 노드의 데이터베이스 관리 장치 및 방법

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7310711B2 (en) * 2004-10-29 2007-12-18 Hitachi Global Storage Technologies Netherlands B.V. Hard disk drive with support for atomic transactions
CN101187948A (zh) * 2007-12-20 2008-05-28 中国科学院计算技术研究所 一种持续数据保护***及其实现方法
CN104699712A (zh) * 2013-12-09 2015-06-10 阿里巴巴集团控股有限公司 对数据库中的库存记录信息进行更新的方法及装置
CN103761161A (zh) * 2013-12-31 2014-04-30 华为技术有限公司 恢复数据的方法、服务器及***
CN105205053A (zh) * 2014-05-30 2015-12-30 阿里巴巴集团控股有限公司 一种数据库增量日志解析方法及***
CN104217174A (zh) * 2014-09-05 2014-12-17 四川长虹电器股份有限公司 分布式文件安全存储***及其存储方法
CN105069617A (zh) * 2015-07-27 2015-11-18 飞天诚信科技股份有限公司 一种恢复不完整交易的方法和装置

Also Published As

Publication number Publication date
CN107220142A (zh) 2017-09-29
EP3435235A4 (en) 2019-05-15
SG11201807484TA (en) 2018-10-30
TWI740901B (zh) 2021-10-01
TW201737126A (zh) 2017-10-16
WO2017162032A1 (zh) 2017-09-28
EP3435235A1 (en) 2019-01-30
EP3435235B1 (en) 2020-11-18
US20190026193A1 (en) 2019-01-24

Similar Documents

Publication Publication Date Title
CN107220142B (zh) 执行数据恢复操作的方法及装置
CN109034993B (zh) 对账方法、设备、***及计算机可读存储介质
CN107832406B (zh) 海量日志数据的去重入库方法、装置、设备及存储介质
CN111737227B (zh) 数据修改方法及***
CN108647357A (zh) 数据查询的方法及装置
CN109144785A (zh) 用于备份数据的方法和装置
CN112017007A (zh) 用户行为数据的处理方法及装置、计算机设备、存储介质
CN110737719A (zh) 数据同步方法、装置、设备及计算机可读存储介质
CN106874343B (zh) 一种时序数据库的数据删除方法及***
CN103701653A (zh) 一种接口热插拔配置数据的处理方法及网络配置服务器
CN114490554A (zh) 数据同步方法及其装置、电子设备及存储介质
CN114547204A (zh) 数据同步方法、装置、计算机设备和存储介质
CN115544050A (zh) 操作日志记录方法、装置、设备及存储介质
CN107422991B (zh) 一种存储策略管理***
CN115757642A (zh) 一种基于归档日志文件的数据同步方法及装置
CN112052234A (zh) 业务数据的处理方法和装置、存储介质、电子装置
CN109684158A (zh) 分布式协调***的状态监控方法、装置、设备及存储介质
CN113449035B (zh) 数据同步方法、装置、计算机设备及可读存储介质
CN117459401B (zh) 网络靶场环境快照的生成方法、装置、设备和存储介质
CN117407369B (zh) 操作日志记录方法、装置及电子设备
CN117407903A (zh) 目标集群的数据加密备份方法、装置和服务器
JP2018097822A (ja) プログラム、システム、およびシステムの制御方法
CN115904814A (zh) 灾备补账方法、***、装置和计算机设备
CN118170747A (zh) 数据库的迁移方法、装置和服务器
CN116049200A (zh) 分析库数据更新方法、装置、计算机设备和介质

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant