CN114116675A - 一种数据归档方法和装置 - Google Patents
一种数据归档方法和装置 Download PDFInfo
- Publication number
- CN114116675A CN114116675A CN202111477886.5A CN202111477886A CN114116675A CN 114116675 A CN114116675 A CN 114116675A CN 202111477886 A CN202111477886 A CN 202111477886A CN 114116675 A CN114116675 A CN 114116675A
- Authority
- CN
- China
- Prior art keywords
- data
- database
- key information
- filing
- address
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/21—Design, administration or maintenance of databases
- G06F16/211—Schema design and management
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/25—Integrating or interfacing systems involving database management systems
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种数据归档方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据;将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据;在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。该实施方式无需大量的磁盘空间,避免了数据的压缩以及冗余字段的删除,从而不会破坏原有的数据结构,且在数据拉回时无需对数据结构进行处理,降低了数据拉回的成本和难度。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种数据归档方法和装置。
背景技术
目前数据归档的方案为通过低配置大空间的磁盘存储进行归档,同时对归档的数据进行压缩,以及删除数据中的非必要索引和冗余字段,以节省数据库的使用空间。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:
需要使用大量的磁盘空间,表结构压缩及一些不必要索引的清理导致数据拉回较为困难,冗余字段的清理破坏了原有的数据结构,数据如需再次使用时需要对数据结构进行处理,数据拉回的成本和难度较大。
发明内容
有鉴于此,本发明实施例提供一种数据归档方法和装置,无需大量的磁盘空间,避免了数据的压缩以及冗余字段的删除,从而不会破坏原有的数据结构,且在数据拉回时无需对数据结构进行处理,降低了数据拉回的成本和难度。
为实现上述目的,根据本发明实施例的一个方面,提供了一种数据归档方法。
一种数据归档方法,包括:按照主键信息确定第一数据库中的第一数据,所述第一数据为待归档数据;将所述第一数据上传至第二数据库中,以生成第二数据,所述第二数据为所述第一数据在所述第二数据库中的已归档数据;在归档库中保存所述第一数据的归档记录,并删除所述第一数据库中的所述第一数据。
可选地,所述按照主键信息确定第一数据库中的第一数据,包括:根据归档任务中配置的时间界限和归档类型,确定目标主键信息,所述目标主键信息包括业务数据的创建时间和业务编码,且该创建时间在所述时间界限的范围内,该业务编码根据所述归档类型确定;将所述第一数据库中对应所述目标主键信息的业务数据确定为所述第一数据。
可选地,所述将所述第一数据上传至第二数据库中,以生成第二数据,包括:根据所述归档库中的各归档记录,判断当前是否存在与所述目标主键信息对应的可用归档地址;若存在,则根据与所述目标主键信息对应的可用归档地址,将所述第一数据上传至所述第二数据库中,以生成所述第二数据;若不存在,则将所述第一数据上传至所述第二数据库中,以生成所述第二数据,并根据所述第二数据的存储地址得到所述第一数据的归档地址。
可选地,所述归档记录包括主键信息、主键信息的哈希码、归档地址、归档地址的状态;所述根据所述归档库中的各归档记录,判断当前是否存在与所述目标主键信息对应的可用归档地址,包括:在所述归档库的各归档记录中查询所述目标主键信息的哈希码,若查询到所述目标主键信息的哈希码,则判断所述目标主键信息的哈希码对应的所述归档地址的状态是否指示该归档地址可用,若是,则当前存在与所述目标主键信息对应的可用归档地址;如果未查询到所述目标主键信息的哈希码,或者查询到的所述目标主键信息的哈希码对应的所述归档地址的状态指示该归档地址不可用,则当前不存在与所述目标主键信息对应的可用归档地址。
可选地,所述根据与所述目标主键信息对应的可用归档地址,将所述第一数据上传至所述第二数据库,包括:从与所述目标主键信息对应的可用归档地址获取历史已归档数据,并对所述历史已归档数据的最后一条业务数据与所述第一数据比对,在比对结果为不同的情况下,将所述第一数据增量归档至所述第二数据库。
可选地,当所述归档地址所存储文件的大小超过预设阈值时,所述归档地址的状态指示该归档地址不可用。
可选地,所述第一数据的归档记录包括所述第一数据的唯一标识;所述删除所述第一数据库中的所述第一数据之前,包括:从所述归档库中获取所述第一数据的唯一标识;根据所述第一数据的唯一标识,从所述第二数据库获取对应的所述第二数据;对比所述第一数据和所述第二数据,并确定对比结果相同。
可选地,所述第二数据库为云存储数据库。
可选地,所述将所述第一数据上传至第二数据库中,以生成第二数据之前,包括:将所述第一数据的唯一标识与所述第一数据通过序列化转换为json格式的字符串。
根据本发明实施例的另一方面,提供了一种数据归档装置。
一种数据归档装置,包括:第一数据确定模块,用于按照主键信息确定第一数据库中的第一数据,所述第一数据为待归档数据;第二数据生成模块,用于将所述第一数据上传至第二数据库中,以生成第二数据,所述第二数据为所述第一数据在所述第二数据库中的已归档数据;归档记录保存模块,用于在归档库中保存所述第一数据的归档记录,并删除所述第一数据库中的所述第一数据。
可选地,所述第一数据确定模块还用于:根据归档任务中配置的时间界限和归档类型,确定目标主键信息,所述目标主键信息包括业务数据的创建时间和业务编码,且该创建时间在所述时间界限的范围内,该业务编码根据所述归档类型确定;将所述第一数据库中对应所述目标主键信息的业务数据确定为所述第一数据。
可选地,所述第二数据生成模块还用于:根据所述归档库中的各归档记录,判断当前是否存在与所述目标主键信息对应的可用归档地址;若存在,则根据与所述目标主键信息对应的可用归档地址,将所述第一数据上传至所述第二数据库中,以生成所述第二数据;若不存在,则将所述第一数据上传至所述第二数据库中,以生成所述第二数据,并根据所述第二数据的存储地址得到所述第一数据的归档地址。
可选地,所述归档记录包括主键信息、主键信息的哈希码、归档地址、归档地址的状态;所述第二数据生成模块还用于:在所述归档库的各归档记录中查询所述目标主键信息的哈希码,若查询到所述目标主键信息的哈希码,则判断所述目标主键信息的哈希码对应的所述归档地址的状态是否指示该归档地址可用,若是,则当前存在与所述目标主键信息对应的可用归档地址;如果未查询到所述目标主键信息的哈希码,或者查询到的所述目标主键信息的哈希码对应的所述归档地址的状态指示该归档地址不可用,则当前不存在与所述目标主键信息对应的可用归档地址。
可选地,所述第二数据生成模块还用于:从与所述目标主键信息对应的可用归档地址获取历史已归档数据,并对所述历史已归档数据的最后一条业务数据与所述第一数据比对,在比对结果为不同的情况下,将所述第一数据增量归档至所述第二数据库。
可选地,当所述归档地址所存储文件的大小超过预设阈值时,所述归档地址的状态指示该归档地址不可用。
可选地,所述第一数据的归档记录包括所述第一数据的唯一标识;还包括对比模块,用于:从所述归档库中获取所述第一数据的唯一标识;根据所述第一数据的唯一标识,从所述第二数据库获取对应的所述第二数据;对比所述第一数据和所述第二数据,并确定对比结果相同。
可选地,所述第二数据库为云存储数据库。
可选地,还包括第一数据转化模块,用于:将所述第一数据的唯一标识与所述第一数据通过序列化转换为json格式的字符串。
根据本发明实施例的又一方面,提供了一种电子设备。
一种电子设备,包括:一个或多个处理器;存储器,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现本发明实施例所提供的数据归档方法。
根据本发明实施例的又一方面,提供了一种计算机可读介质。
一种计算机可读介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现本发明实施例所提供的数据归档方法。
上述发明中的一个实施例具有如下优点或有益效果:按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据;将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据;在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。能够基于云存储数据库进行数据归档,无需大量的磁盘空间,避免了数据的压缩以及冗余字段的删除,从而不会破坏原有的数据结构,且在数据拉回时无需对数据结构进行处理,降低了数据拉回的成本和难度。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明一个实施例的数据归档方法的主要步骤示意图;
图2是根据本发明一个实施例的数据归档的流程示意图之一;
图3是根据本发明一个实施例的数据归档的流程示意图之二;
图4是根据本发明一个实施例的归档失败数据的处理流程示意图;
图5是根据本发明一个实施例的数据归档装置的主要模块示意图;
图6是本发明实施例可以应用于其中的示例性***架构图;
图7是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明一个实施例的数据归档方法的主要步骤示意图。
如图1所示,本发明一个实施例的数据归档方法主要包括如下的步骤S101至步骤S103。
步骤S101:按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据。
按照主键信息确定第一数据库中的第一数据,可以包括:根据归档任务中配置的时间界限和归档类型,确定目标主键信息,目标主键信息包括业务数据的创建时间和业务编码,且该创建时间在时间界限的范围内,该业务编码根据归档类型确定;将第一数据库中对应目标主键信息的业务数据确定为第一数据。
步骤S102:将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据。
将第一数据上传至第二数据库中,以生成第二数据,可以包括:根据归档库中的各归档记录,判断当前是否存在与目标主键信息对应的可用归档地址;若存在,则根据与目标主键信息对应的可用归档地址,将第一数据上传至第二数据库中,以生成第二数据;若不存在,则将第一数据上传至第二数据库中,以生成第二数据,并根据第二数据的存储地址得到第一数据的归档地址。
根据归档库中的各归档记录,判断当前是否存在与目标主键信息对应的可用归档地址,可以包括:在归档库的各归档记录中查询目标主键信息的哈希码,若查询到目标主键信息的哈希码,则判断目标主键信息的哈希码对应的归档地址的状态是否指示该归档地址可用,若是,则当前存在与目标主键信息对应的可用归档地址;如果未查询到主键信息的哈希码,或者查询到的主键信息的哈希码对应的归档地址的状态指示该归档地址不可用,则当前不存在与目标主键信息对应的可用归档地址。
根据与目标主键信息对应的可用归档地址,将第一数据上传至第二数据库,可以包括:从与目标主键信息对应的可用归档地址获取历史已归档数据,并对历史已归档数据的最后一条业务数据与第一数据比对,在比对结果为不同的情况下,将第一数据增量归档至第二数据库。增量归档即以增量的方式归档,目的是使已归档过的数据不再进行归档,仅对未归档过的数据进行归档。
当归档地址所存储文件的大小超过预设阈值时,归档地址的状态指示该归档地址不可用。
将第一数据上传至第二数据库中,以生成第二数据之前,可以包括:将第一数据的唯一标识与第一数据通过序列化转换为json格式的字符串。数据的唯一标识即数据ID。
其中,第一数据库为待归档数据所在的原数据库,第二数据库为用于数据归档的数据库,第二数据库可以为云存储数据库。
步骤S103:在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。
归档记录可以包括主键信息、主键信息的哈希码、归档地址、归档地址的状态,还可以包括对应的数据的唯一标识。
第一数据的归档记录可以包括目标主键信息和对应的哈希码,以及第一数据的归档地址和对应的状态,第一数据的归档记录还可以包括第一数据的唯一标识。删除第一数据库中的第一数据之前,可以包括:从归档库获取第一数据的唯一标识;根据第一数据的唯一标识,从第二数据库获取对应的第二数据;对比第一数据和第二数据,并确定对比结果相同。
图2是根据本发明一个实施例的数据归档的流程示意图之一,图3是根据本发明一个实施例的数据归档的流程示意图之二。
如图2和图3所示,根据业务数据的归档类型确定主键信息。业务数据的归档类型可以分为预处理归档数据、标准单归档数据和计费结果归档数据,预处理归档数据对应的业务编码为业务线编码,标准单归档数据和计费结果归档数据对应的业务编码为商家编码,因此,预处理归档数据的主键信息包括业务线编码和业务数据的创建时间(即图2中的“业务线+年月”),标准单归档数据和计费结果归档数据的主键信息包括商家编码和业务数据的创建时间(即图2中的“商家+年月”)。在归档任务中配置时间界限和归档类型,根据时间界限和归档类型确定扫描条件,具体地,以在时间界限范围内的业务数据创建时间和根据归档类型确定的业务编码作为扫描条件,即按照目标主键信息对第一数据库中的业务数据进行扫描,以确定与扫描条件对应的第一数据,目标主键信息包括业务数据的创建时间和业务编码,且目标主键信息中的创建时间在时间界限的范围内,目标主键信息中的业务编码根据归档类型确定,例如对于上例,归档类型为标准单归档数据,则业务编码为商家编码,假设时间界限是2020年5月1日之前的一年内,则业务数据的创建时间需满足日期<‘2020-05-01’,即扫描条件为商家/业务线+日期<‘2020-05-01’,通过查询主键信息为“商家+年月”,且其中“年月”满足上述扫描条件的主键信息(即目标主键信息)对应的业务数据,即确定出第一数据。在确定第一数据后,将第一数据的唯一标识与第一数据通过序列化转换为json格式的字符串,将第一数据的主键信息转化为哈希码。
根据归档库中的各归档记录,判断当前是否存在与目标主键信息对应的可用归档地址,并将第一数据上传至第二数据库(即云存储数据库,图3中的“JFS(一种云存储服务)”)中,以生成第二数据。在归档库的各归档记录中查询目标主键信息的哈希码,若查询到目标主键信息的哈希码,则判断目标主键信息的哈希码对应的归档地址的状态是否指示该归档地址可用,若是,则当前存在与目标主键信息对应的可用归档地址,根据与目标主键信息对应的可用归档地址,将第一数据上传至第二数据库中,以生成第二数据;如果未查询到目标主键信息的哈希码,或者查询到的目标主键信息的哈希码对应的归档地址的状态指示该归档地址不可用,则当前不存在与目标主键信息对应的可用归档地址,将第一数据上传至第二数据库中,以生成第二数据,并根据第二数据的存储地址得到第一数据的归档地址。具体地,通过目标主键信息的哈希码确定是否存在与目标主键信息对应的可用归档地址。其中,归档库中的各归档记录如表1所示,以第一数据的归档记录为例,ID为第一数据的唯一标识,hashKey为第一数据的主键信息的哈希码,sourceKey为第一数据的主键信息,URL为与第一数据对应的第二数据在第二数据库中的存储地址(即归档地址),status为该归档地址的状态,若status为1,则该归档地址的状态指示可用,若status为2,则该归档地址的状态指示不可用。
如图3所示,判断是否为新增上传,若是新增上传,表示当前无可用归档地址,需要上传到第二数据库的一个新的存储地址作为归档地址,那么新增归档记录,设置状态(即归档地址的状态)为1,指示该归档地址可用;若非新增上传,表示当前存在可用归档地址,可将第一数据上传到该可用归档地址,那么更新归档记录,状态为1(归档地址可用);具体通过序列化Map.put(id,数据),得到json格式的字符串,上传对应的数据到用于数据归档的数据库,并新增或更新归档记录,上传数据例如上传至JFS,并获取归档地址URL。
表1归档库中的各归档记录
ID | hashKey | sourceKey | URL | status |
1 |
在一个实施例中,业务数据的唯一标识按照增量式规则生成,在将第一数据上传至第二数据库时,从与目标主键信息对应的可用归档地址获取历史已归档数据,并对历史已归档数据的最后一条业务数据与第一数据比对,在比对结果为不同的情况下,将第一数据增量归档至第二数据库,以进行第一数据的增量上传。
在一个实施例中,对归档地址所存储文件的大小设置阈值,当归档地址所存储文件的大小超过预设阈值时,归档地址的状态指示该归档地址不可用。例如图3所示,判断上传文件内容(即归档的数据,例如第二数据)是否大于100M(预设阈值),若是,则更新归档记录为完成,状态为2,即该URL(归档地址)的状态指示为不可用;若否,则返回到判断是否新增上传的步骤(上文已介绍该步骤,此处不再赘述)。
在一个实施例中,通过集合Map将第一数据上传至第二数据库,其中,Map为程序语言中的一种存储数据的集合。
在一个实施例中,从归档库记录的目标主键信息中,获取第一数据的唯一标识;根据第一数据的唯一标识,从第二数据库获取对应的第二数据;对比第一数据和第二数据,在确定对比结果相同之后,删除第一数据库中的第一数据,以释放第一数据库的存储空间,该步骤即对应图2中的归档后拉回数据检查,若检查通过(“是”)则删除原数据(即第一数据),若检查不通过(即“否”),则重试,如果重试失败,则不删除原数据。并且删除原数据后,可定时清理原数据库(即第一数据库)的磁盘碎片。具体地,对于归档库中已经完成归档的第一数据进行拉取,获取其唯一标识,与第二数据库中对应的第二数据进行对比,若对比结果相同,则在原数据库(即第一数据库)中对该第一数据进行删除操作。若对比结果不相同,则重新对该第一数据进行归档。通过对比第一数据和第二数据,可以验证数据归档的准确性,基于唯一标识对原数据(即第一数据)清理以释放空间。
图4是根据本发明一个实施例的归档失败数据的处理流程示意图。
如图4所示,在一个实施例中,按照业务线/商家+年月扫描数据,即按照主键信息确定第一数据库中的待归档数据(第一数据),进行该数据的归档。在数据归档的过程中出现归档失败的情况时,可以记录归档失败的数据的唯一标识,并将归档失败的数据作为新的需要归档的数据,对归档过程中归档失败的数据进行重新归档,并且将重新归档的数据中归档成功的数据在归档库中记录,归档失败的数据继续作为新的需要归档的数据,以进行归档的重试。对于新的需要归档的数据进行归档对应图4的“更新/新增”分支,即指对该新的需要归档的数据进行归档时按更新或新增的方式进行归档,按照新增的方式归档,即上文所介绍的为新增上传的情况,表示当前无可用归档地址,需要上传到第二数据库的一个新的存储地址作为归档地址。按照更新的方式归档,即上文介绍的为非新增上传的情况,表示当前存在可用归档地址,可将第一数据上传到该可用归档地址。另外,还可以把归档失败数据的ID上传到JFS。图4中判断是否存在归档失败数据之后对应的“成功”这一分支,即指数据归档成功的情况。
图5是根据本发明一个实施例的数据归档装置的主要模块示意图。
如图5所示,本发明一个实施例的数据归档装置500主要包括:第一数据确定模块501、第二数据生成模块502、归档记录保存模块503。
第一数据确定模块501,用于按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据。
第二数据生成模块502,用于将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据。
归档记录保存模块503,用于在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。
在一个实施例中,第一数据确定模块具体用于:根据归档任务中配置的时间界限和归档类型,确定目标主键信息,目标主键信息包括业务数据的创建时间和业务编码,且该创建时间在时间界限的范围内,该业务编码与归档类型相对应;将第一数据库中对应目标主键信息的业务数据确定为第一数据。
在一个实施例中,第二数据生成模块具体用于:根据归档库中的各归档记录,判断当前是否存在与目标主键信息对应的可用归档地址;若存在,则根据与目标主键信息对应的可用归档地址,将第一数据上传至第二数据库中,以生成第二数据;若不存在,则将第一数据上传至第二数据库中,以生成第二数据,并根据第二数据的存储地址得到第一数据的归档地址。
在一个实施例中,归档记录可以包括主键信息、主键信息的哈希码、归档地址、归档地址的状态;第二数据生成模块具体用于:在归档库的各归档记录中查询目标主键信息的哈希码,若查询到目标主键信息的哈希码,则判断目标主键信息的哈希码对应的归档地址的状态是否指示该归档地址可用,若是,则当前存在与目标主键信息对应的可用归档地址;如果未查询到主键信息的哈希码,或者查询到的主键信息的哈希码对应的归档地址的状态指示该归档地址不可用,则当前不存在与目标主键信息对应的可用归档地址。
在一个实施例中,第二数据生成模块具体用于:从与目标主键信息对应的可用归档地址获取历史已归档数据,并对历史已归档数据的最后一条业务数据与第一数据比对,在比对结果为不同的情况下,将第一数据增量归档至第二数据库。
在一个实施例中,当归档地址所存储文件的大小超过预设阈值时,归档地址的状态指示该归档地址不可用。
在一个实施例中,第一数据的归档记录可以包括目标主键信息和对应的哈希码,以及第一数据的归档地址和对应的状态;还可以包括对比模块,用于:从归档库记录的目标主键信息中,获取第一数据的唯一标识;根据第一数据的唯一标识,从第二数据库获取对应的第二数据;对比第一数据和第二数据,并确定对比结果相同。
在一个实施例中,第二数据库可以为云存储数据库。
在一个实施例中,还可以包括第一数据转化模块,用于:将第一数据的唯一标识与第一数据通过序列化转换为json格式的字符串。
另外,在本发明实施例中数据归档装置的具体实施内容,在上面数据归档方法中已经详细说明了,故在此重复内容不再说明。
图6示出了可以应用本发明实施例的数据归档方法或数据归档装置的示例性***架构600。
如图6所示,***架构600可以包括终端设备601、602、603,网络604和服务器605。网络604用以在终端设备601、602、603和服务器605之间提供通信链路的介质。网络604可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备601、602、603通过网络604与服务器605交互,以接收或发送消息等。终端设备601、602、603上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备601、602、603可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器605可以是提供各种服务的服务器,例如对用户利用终端设备601、602、603所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的数据归档方法一般由服务器605执行,相应地,数据归档装置一般设置于服务器605中。
应该理解,图6中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图7,其示出了适于用来实现本发明实施例的终端设备或服务器的计算机***700的结构示意图。图7示出的终端设备或服务器仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图7所示,计算机***700包括中央处理单元(CPU)701,其可以根据存储在只读存储器(ROM)702中的程序或者从存储部分708加载到随机访问存储器(RAM)703中的程序而执行各种适当的动作和处理。在RAM 703中,还存储有***700操作所需的各种程序和数据。CPU 701、ROM 702以及RAM 703通过总线704彼此相连。输入/输出(I/O)接口705也连接至总线704。
以下部件连接至I/O接口705:包括键盘、鼠标等的输入部分706;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分707;包括硬盘等的存储部分708;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分709。通信部分709经由诸如因特网的网络执行通信处理。驱动器710也根据需要连接至I/O接口705。可拆卸介质711,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器710上,以便于从其上读出的计算机程序根据需要被安装入存储部分708。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分709从网络上被下载和安装,和/或从可拆卸介质711被安装。在该计算机程序被中央处理单元(CPU)701执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括第一数据确定模块、第二数据生成模块、归档记录保存模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定,例如,第一数据确定模块还可以被描述为“用于按照主键信息确定第一数据库中的第一数据的模块”。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据;将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据;在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。
根据本发明实施例的技术方案,按照主键信息确定第一数据库中的第一数据,第一数据为待归档数据;将第一数据上传至第二数据库中,以生成第二数据,第二数据为第一数据在第二数据库中的已归档数据;在归档库中保存第一数据的归档记录,并删除第一数据库中的第一数据。能够基于云存储数据库进行数据归档,无需大量的磁盘空间,避免了数据的压缩以及冗余字段的删除,降低了数据拉回的成本和难度。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种数据归档方法,其特征在于,包括:
按照主键信息确定第一数据库中的第一数据,所述第一数据为待归档数据;
将所述第一数据上传至第二数据库中,以生成第二数据,所述第二数据为所述第一数据在所述第二数据库中的已归档数据;
在归档库中保存所述第一数据的归档记录,并删除所述第一数据库中的所述第一数据。
2.根据权利要求1所述的方法,其特征在于,所述按照主键信息确定第一数据库中的第一数据,包括:
根据归档任务中配置的时间界限和归档类型,确定目标主键信息,所述目标主键信息包括业务数据的创建时间和业务编码,且该创建时间在所述时间界限的范围内,该业务编码根据所述归档类型确定;
将所述第一数据库中对应所述目标主键信息的业务数据确定为所述第一数据。
3.根据权利要求2所述的方法,其特征在于,所述将所述第一数据上传至第二数据库中,以生成第二数据,包括:
根据所述归档库中的各归档记录,判断当前是否存在与所述目标主键信息对应的可用归档地址;
若存在,则根据与所述目标主键信息对应的可用归档地址,将所述第一数据上传至所述第二数据库中,以生成所述第二数据;
若不存在,则将所述第一数据上传至所述第二数据库中,以生成所述第二数据,并根据所述第二数据的存储地址得到所述第一数据的归档地址。
4.根据权利要求3所述的方法,其特征在于,所述归档记录包括主键信息、主键信息的哈希码、归档地址、归档地址的状态;
所述根据所述归档库中的各归档记录,判断当前是否存在与所述目标主键信息对应的可用归档地址,包括:
在所述归档库的各归档记录中查询所述目标主键信息的哈希码,若查询到所述目标主键信息的哈希码,则判断所述目标主键信息的哈希码对应的所述归档地址的状态是否指示该归档地址可用,若是,则当前存在与所述目标主键信息对应的可用归档地址;
如果未查询到所述目标主键信息的哈希码,或者查询到的所述目标主键信息的哈希码对应的所述归档地址的状态指示该归档地址不可用,则当前不存在与所述目标主键信息对应的可用归档地址。
5.根据权利要求3或4所述的方法,其特征在于,所述根据与所述目标主键信息对应的可用归档地址,将所述第一数据上传至所述第二数据库,包括:
从与所述目标主键信息对应的可用归档地址获取历史已归档数据,并对所述历史已归档数据的最后一条业务数据与所述第一数据比对,在比对结果为不同的情况下,将所述第一数据增量归档至所述第二数据库。
6.根据权利要求4所述的方法,其特征在于,当所述归档地址所存储文件的大小超过预设阈值时,所述归档地址的状态指示该归档地址不可用。
7.根据权利要求2至4中任一项所述的方法,其特征在于,所述第一数据的归档记录包括所述第一数据的唯一标识;
所述删除所述第一数据库中的所述第一数据之前,包括:
从所述归档库中获取所述第一数据的唯一标识;
根据所述第一数据的唯一标识,从所述第二数据库获取对应的所述第二数据;
对比所述第一数据和所述第二数据,并确定对比结果相同。
8.根据权利要求1所述的方法,其特征在于,所述第二数据库为云存储数据库。
9.一种数据归档装置,其特征在于,包括:
第一数据确定模块,用于按照主键信息确定第一数据库中的第一数据,所述第一数据为待归档数据;
第二数据生成模块,用于将所述第一数据上传至第二数据库中,以生成第二数据,所述第二数据为所述第一数据在所述第二数据库中的已归档数据;
归档记录保存模块,用于在归档库中保存所述第一数据的归档记录,并删除所述第一数据库中的所述第一数据。
10.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-8中任一所述的方法。
11.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1-8中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111477886.5A CN114116675A (zh) | 2021-12-06 | 2021-12-06 | 一种数据归档方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111477886.5A CN114116675A (zh) | 2021-12-06 | 2021-12-06 | 一种数据归档方法和装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114116675A true CN114116675A (zh) | 2022-03-01 |
Family
ID=80367118
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111477886.5A Pending CN114116675A (zh) | 2021-12-06 | 2021-12-06 | 一种数据归档方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114116675A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117649166A (zh) * | 2024-01-30 | 2024-03-05 | 安徽燧人物联网科技有限公司 | 一种基于大数据的物流信息管理方法及*** |
-
2021
- 2021-12-06 CN CN202111477886.5A patent/CN114116675A/zh active Pending
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117649166A (zh) * | 2024-01-30 | 2024-03-05 | 安徽燧人物联网科技有限公司 | 一种基于大数据的物流信息管理方法及*** |
CN117649166B (zh) * | 2024-01-30 | 2024-04-16 | 安徽燧人物联网科技有限公司 | 一种基于大数据的物流信息管理方法及*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112527649A (zh) | 一种测试用例的生成方法和装置 | |
US20200286014A1 (en) | Information updating method and device | |
CN110837409A (zh) | 一种定时执行任务的方法和*** | |
CN111460129A (zh) | 标识生成的方法、装置、电子设备和存储介质 | |
CN111400304A (zh) | 一种获取截面日期全量数据的方法、装置、电子设备及存储介质 | |
CN112073395B (zh) | 一种文件分发方法和装置 | |
CN114116675A (zh) | 一种数据归档方法和装置 | |
CN113535420A (zh) | 一种消息处理方法和装置 | |
CN112100168A (zh) | 一种确定数据关联关系的方法和装置 | |
CN112148705A (zh) | 数据迁移的方法和装置 | |
CN115658127A (zh) | 数据处理的方法、装置、电子设备和存储介质 | |
CN112069771B (zh) | 一种用于解析pdf文件中的图片的方法及装置 | |
CN110543520B (zh) | 一种数据迁移的方法和装置 | |
CN113760861A (zh) | 一种数据迁移的方法和装置 | |
CN109087097B (zh) | 一种更新链码同一标识的方法和装置 | |
CN110019026B (zh) | 一种文件清理的方法和装置 | |
CN113704222A (zh) | 一种处理业务请求的方法和装置 | |
CN113742321A (zh) | 一种数据更新的方法和装置 | |
CN113704242A (zh) | 一种数据处理方法和装置 | |
CN112711572A (zh) | 适用于分库分表的在线扩容方法和装置 | |
CN112732728A (zh) | 一种数据同步方法和*** | |
CN113760600A (zh) | 一种数据库备份方法、数据库还原方法和相关装置 | |
CN113722193A (zh) | 检测页面异常的方法和装置 | |
CN113779138B (zh) | 一种订单管理方法和装置 | |
CN110874302A (zh) | 一种埋点配置信息的确定方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |