CN110019026B - 一种文件清理的方法和装置 - Google Patents
一种文件清理的方法和装置 Download PDFInfo
- Publication number
- CN110019026B CN110019026B CN201710605799.0A CN201710605799A CN110019026B CN 110019026 B CN110019026 B CN 110019026B CN 201710605799 A CN201710605799 A CN 201710605799A CN 110019026 B CN110019026 B CN 110019026B
- Authority
- CN
- China
- Prior art keywords
- external table
- data file
- hive
- time
- deleting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/10—File systems; File servers
- G06F16/16—File or folder operations, e.g. details of user interfaces specifically adapted to file systems
- G06F16/162—Delete operations
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Human Computer Interaction (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了文件清理的方法和装置,涉及计算机技术领域。该方法的一具体实施方式包括:删除Hive外部表,然后确定删除所述Hive外部表对应的数据文件;根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件。该实施方式能够在Hive外部表被删除时,就会联动的对关联的数据文件进行处理。
Description
技术领域
本发明涉及计算机技术领域,尤其涉及一种文件清理的方法和装置。
背景技术
Hive开发是大数据开发必备技能,工程师只要进行数据开发就需要创建表来存储数据。Hive上建表分为内部表和外部表,因开发需要或随着需求业务的变化,之前创建的内部表或者外部表没用了,工程师便会删除表及相应的hdfs数据文件,避免Hive数据库中存在大量的无用表。一般用drop命令删除内部表的时候,对应的数据文件也删除了,但用drop删除外部表的时候,只是删除了表结构即只是删除了元数据,而没用删除相应的hdfs数据文件。在实际应用中,工程师经常会删除表结构后并不会删除相应的hdfs数据文件或者一些新手并不了解内外部表存在这样的差异,根本不知道hdfs数据文件需要另外删除。
在实现本发明过程中,发明人发现现有技术中至少存在如下问题:目前删除无用hdfs数据文件是人工的方式处理:当发现集群存储空间报警了,才会从一堆hdfs数据文件中手工删除无用的。而且,表元数据一旦被删除后,hdfs数据文件被遗留在集群里,等后续清理存储空间时再来删除就很难确定这些数据文件是否有用。即使明确了某些hdfs数据文件无用,还得另外执行命令删除。
发明内容
有鉴于此,本发明实施例提供一种文件清理的方法和装置,能够快速、准确地删除Hive外部表及其对应的数据文件。
为实现上述目的,根据本发明实施例的一个方面,提供了一种文件清理的方法,包括:删除Hive外部表,然后确定删除所述Hive外部表对应的数据文件;根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
可选地,所述删除Hive外部表之后,还包括:确定不删除所述Hive外部表对应的数据文件;获取删除所述Hive外部表对应的数据文件的时间,然后将所述时间和所述Hive外部表存储到配置表中;确认达到所述时间时,在所述配置表中获取所述Hive外部表;然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
可选地,所述外部表结构信息表中还存储Hive外部表信息与用户信息的映射关系;确认达到所述时间之前,包括:确定当前时间与所述删除数据文件的时间的差等于或小于预设的时间差,然后在所述配置表中获取所述Hive外部表;根据预设的外部表结构信息表,获取所述Hive外部表对应的用户信息;监测所述用户登录,提示所述数据文件将在所述时间删除。
可选地,获取删除所述Hive外部表对应的数据文件的时间之前,还包括:在所述的外部表结构信息表中,标记所述Hive外部表已经删除。
可选地,还包括:监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间;将默认删除时间和所述Hive外部表存储到所述配置表中。
可选地,删除所述对应的数据文件之后,还包括:删除所述预设外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
根据本发明实施例的另一个方面,还提供了一种文件清理的装置,包括:外部表删除模块,用于删除Hive外部表;判断模块,用于确定删除所述Hive外部表对应的数据文件;数据文件删除模块,用于根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
可选地,所述判断模块,还用于:确定不删除所述Hive外部表对应的数据文件;所述数据文件删除模块,还用于:获取删除所述Hive外部表对应的数据文件的时间,然后将所述时间和所述Hive外部表存储到配置表中;确认达到所述时间时,在所述配置表中获取所述Hive外部表;然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
可选地,所述外部表结构信息表中还存储Hive外部表信息与用户信息的映射关系;所述数据文件删除模块确认达到所述时间之前,还用于:确定当前时间与所述删除数据文件的时间的差等于或小于预设的时间差,然后在所述配置表中获取所述Hive外部表;根据预设的外部表结构信息表,获取所述Hive外部表对应的用户信息;监测所述用户登录,提示所述数据文件将在所述时间删除。
可选地,所述数据文件删除模块获取删除所述Hive外部表对应的数据文件的时间之前,还用于:在所述的外部表结构信息表中,标记所述Hive外部表已经删除。
可选地,还包括:监控模块,用于监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间;将默认删除时间和所述Hive外部表存储到所述配置表中。
可选地,所述数据文件删除模块,还用于:删除所述预设外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
根据本发明实施例的另一个方面,还提供了一种电子设备,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现上述任一实施例所述的方法。
根据本发明实施例的另一个方面,还提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现上述任一实施例所述的方法。
上述发明中的一个实施例具有如下优点或有益效果:因为建立了外部表结构信息表,在Hive外部表被删除时,就会联动的对关联的数据文件进行处理。从而,完美的实现了自动删除无用数据文件的功能。
上述的非惯用的可选方式所具有的进一步效果将在下文中结合具体实施方式加以说明。
附图说明
附图用于更好地理解本发明,不构成对本发明的不当限定。其中:
图1是根据本发明实施例的文件清理的方法的主要流程的示意图;
图2是根据本发明可参考实施例的文件清理的方法的主要流程的示意图;
图3是根据本发明实施例的文件清理的装置的主要模块的示意图;
图4是根据本发明可参考实施例的文件清理的装置的主要模块的示意图;
图5是本发明实施例可以应用于其中的示例性***架构图;
图6是适于用来实现本发明实施例的终端设备或服务器的计算机***的结构示意图。
具体实施方式
以下结合附图对本发明的示范性实施例做出说明,其中包括本发明实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本发明的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
图1是根据本发明实施例的文件清理的方法,如图1所示,所述文件清理的方法包括:
步骤S101,删除Hive外部表。即当监测到Hive外部表被删除时,便可以启动该流程。
步骤S102,确定删除所述Hive外部表对应的数据文件。
作为实施例,由于删除Hive外部表只是将表元数据删除,该Hive外部表对应的数据文件可以根据实际情况,选择当前删除或者当前暂不删除。其中,所述的数据文件为hdfs(Hadoop Distributed File System,译为:Hadoop分布式文件***)数据文件。在该实施例中,是确定在当前时间删除Hive外部表对应的hdfs数据文件。
步骤S103,根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件。
其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。在实施例中,当确定要删除对应的数据文件时,便可以在外部表结构信息表中查找到Hive外部表对应的数据文件的信息,从而获取所述的数据文件,然后进行删除。优选地,可以在外部表结构信息表中查找到Hive外部表对应的数据文件的存储位置,根据所述存储位置获取所述的数据文件。
值得说明的是,当建立Hive外部表的时候,便同时在预设的外部表结构信息表中添加该Hive外部表的信息以及对应的数据文件的信息。
可以看出,在上面所述的实施例中,将相对独立的外部表和数据文件建立了一种映射关系,在外部表被删除时,就会联动的对关联的数据文件进行处理,从而实现了删除外部表的同时删除数据文件。
优选地,最后将所述Hive外部表及其对应的数据文件都删除之后,为了使外部表结构信息表更为轻便,可以删除外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
另一优选地实施例,在删除所述Hive外部表的同时,在外部表结构信息表中,标记所述Hive外部表已经删除。
作为另一个实施例,步骤S102可以确定不删除所述Hive外部表对应的数据文件,那么则需要获取未来删除所述Hive外部表对应的数据文件的时间。其中,所述的删除时间可以是自定义删除时间也可以是默认删除时间),例如如果是自定义时间则可以为一周后,如果是默认时间可以为***自动设置的三天后。
在获得了未来删除数据文件的时间之后,可以将所述时间和所述Hive外部表存储到配置表中。其中,所述的配置表为config.txt。当监测到达到所述时间时,便可以在所述配置表中获取所述Hive外部表,然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件。
可以看出,在该实施例中实现了不同时删除外部表和对应的数据文件的功能,而是先删除外部表,并在未来的某一时间将所述外部表对应的数据文件进行删除,最终达到了将该Hive外部表相关的所有数据文件全面处理的效果。
根据上述的一些实施例,可以进一步地在所述外部表结构信息表中存储Hive外部表信息与用户信息的映射关系。而在确认达到删除数据文件的时间之前,若当前时间与所述删除数据文件的时间的差等于或小于预设的时间差,则根据外部表结构信息表,获取所述Hive外部表对应的用户信息。当监测到所述用户登录时,提示所述数据文件将在所述时间删除。也就是说,该实施例能够为设置数据文件删除时间的用户提醒,从而无需用户在大量的数据文件中查找要删除的数据文件,也防止数据文件被永远的遗留在存储空间中。
作为另一个实施例,所述文件清理的方法在上面各种实施例的基础之上,还可以定期的清理数据文件,具体的实施过程包括:
监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间,则将默认删除时间和所述Hive外部表存储到所述配置表中。其中,默认删除时间可以使***默认设置的删除时间。
在该实施例中,使得本发明不仅可以在删除Hive外部表的时候对对应的数据文件进行处理,还可以通过监控外部表结构信息表中Hive外部表信息和数据文件信息的存储情况启动对数据文件的处理。从而,实现了多方位对Hive外部表对应的数据文件的处理。
综合上述所述的所有实施例,本发明所述的文件清理方法完美的实现了自动删除无用数据文件的功能,省时省力,完全不需要刻意的对数据文件存储空间的维护。
图2是根据本发明可参考实施例的文件清理的方法的主要流程的示意图,所述文件清理的方法可以包括:
步骤S201,删除Hive外部表。
步骤S202,判断是否删除所述Hive外部表对应的数据文件,若是则直接执行步骤S210,否则进行步骤S203。
步骤S203,在所述的外部表结构信息表中,标记所述Hive外部表已经删除。
步骤S204,获取删除所述Hive外部表对应的数据文件的时间,然后将所述时间和所述Hive外部表存储到配置表中。
步骤S205,确定当前时间与所述删除数据文件的时间的差等于或小于预设的时间差。
步骤S206,在所述配置表中获取所述Hive外部表。
步骤S207,根据预设的外部表结构信息表,获取所述Hive外部表对应的用户信息。
步骤S208,监测所述用户登录,提示所述数据文件将在所述时间删除。
步骤S209,确认达到所述时间。
步骤S210,根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件。
步骤S211,删除所述预设外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
另外,在本发明可参考实施例中所述文件清理的方法的具体实施内容,在上面所述文件清理的方法中已经详细说明了,故在此重复内容不再说明。
图3是根据本发明实施例的文件清理的装置,如图3所示,所述文件清理的装置300包括外部表删除模块301、判断模块302和数据文件删除模块303。其中,外部表删除模块301删除Hive外部表,判断模块302确定删除所述Hive外部表对应的数据文件。然后,数据文件删除模块303根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件。其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
较佳地,判断模块302可以确定不删除所述Hive外部表对应的数据文件。那么所述数据文件删除模块303则需要获取未来删除所述Hive外部表对应的数据文件的时间。其中,所述的删除时间可以是自定义删除时间也可以是默认删除时间),例如如果是自定义时间则可以为一周后,如果是默认时间可以为***自动设置的三天后。在获得了未来删除数据文件的时间之后,可以将所述时间和所述Hive外部表存储到配置表中。其中,所述的配置表为config.txt。当监测到达到所述时间时,便可以在所述配置表中获取所述Hive外部表,然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件。
另外,所述外部表结构信息表中还存储Hive外部表信息与用户信息的映射关系。所述数据文件删除模块在确认达到删除数据文件的时间之前,若当前时间与所述删除数据文件的时间的差等于或小于预设的时间差,则根据外部表结构信息表,获取所述Hive外部表对应的用户信息。当监测到所述用户登录时,提示所述数据文件将在所述时间删除。
优选地,所述数据文件删除模块在删除所述Hive外部表的同时,在外部表结构信息表中,标记所述Hive外部表已经删除。
作为本装置的一个可参考的实施例,如图4所示,所述文件清理装置400在包括外部表删除模块401、判断模块402以及数据文件删除模块403的基础之上,还可以包括监控模块404。其中,监控模块404监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间,则将默认删除时间和所述Hive外部表存储到所述配置表中。其中,默认删除时间可以使***默认设置的删除时间。
还值得说明的是,所述数据文件删除模块为了使外部表结构信息表更为轻便,可以删除外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
需要说明的是,在本发明所述文件清理的装置的具体实施内容,在上面所述文件清理的方法中已经详细说明了,故在此重复内容不再说明。
图5示出了可以应用本发明实施例的文件清理的方法或文件清理的装置的示例性***架构500。
如图5所示,***架构500可以包括终端设备501、502、503,网络504和服务器505。网络504用以在终端设备501、502、503和服务器505之间提供通信链路的介质。网络504可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
用户可以使用终端设备501、502、503通过网络504与服务器505交互,以接收或发送消息等。终端设备501、502、503上可以安装有各种通讯客户端应用,例如购物类应用、网页浏览器应用、搜索类应用、即时通信工具、邮箱客户端、社交平台软件等(仅为示例)。
终端设备501、502、503可以是具有显示屏并且支持网页浏览的各种电子设备,包括但不限于智能手机、平板电脑、膝上型便携计算机和台式计算机等等。
服务器505可以是提供各种服务的服务器,例如对用户利用终端设备501、502、503所浏览的购物类网站提供支持的后台管理服务器(仅为示例)。后台管理服务器可以对接收到的产品信息查询请求等数据进行分析等处理,并将处理结果(例如目标推送信息、产品信息--仅为示例)反馈给终端设备。
需要说明的是,本发明实施例所提供的文件清理的方法可以由服务器505执行也可以由终端设备501、502、503执行,相应地,文件清理的装置可以由服务器505执行也可以由终端设备501、502、503执行。
应该理解,图5中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。
下面参考图6,其示出了适于用来实现本发明实施例的终端设备的计算机***600的结构示意图。图6示出的终端设备仅仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图6所示,计算机***600包括中央处理单元(CPU)601,其可以根据存储在只读存储器(ROM)602中的程序或者从存储部分608加载到随机访问存储器(RAM)603中的程序而执行各种适当的动作和处理。在RAM 603中,还存储有***600操作所需的各种程序和数据。CPU 601、ROM 602以及RAM603通过总线604彼此相连。输入/输出(I/O)接口605也连接至总线604。
以下部件连接至I/O接口605:包括键盘、鼠标等的输入部分606;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分607;包括硬盘等的存储部分608;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分609。通信部分609经由诸如因特网的网络执行通信处理。驱动器610也根据需要连接至I/O接口605。可拆卸介质611,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器610上,以便于从其上读出的计算机程序根据需要被安装入存储部分608。
特别地,根据本发明公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分609从网络上被下载和安装,和/或从可拆卸介质611被安装。在该计算机程序被中央处理单元(CPU)601执行时,执行本发明的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的模块可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的模块也可以设置在处理器中,例如,可以描述为:一种处理器包括删除模块、判断模块和数据文件删除模块。其中,这些模块的名称在某种情况下并不构成对该模块本身的限定。
作为另一方面,本发明还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的设备中所包含的;也可以是单独存在,而未装配入该设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该设备执行时,使得该设备包括:删除Hive外部表,确定删除所述Hive外部表对应的数据文件。根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件。
根据本发明实施例的技术方案,能够在Hive外部表被删除时,就会联动的对关联的数据文件进行处理。从而,完美的实现了自动删除无用数据文件的功能。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,取决于设计要求和其他因素,可以发生各种各样的修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (12)
1.一种文件清理的方法,其特征在于,包括:
删除Hive外部表,然后确定删除所述Hive外部表对应的数据文件;
根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系;
或者,所述删除Hive外部表之后,包括:
确定不删除所述Hive外部表对应的数据文件;
获取删除所述Hive外部表对应的数据文件的时间,然后将所述时间和所述Hive外部表存储到配置表中;
确认达到所述时间时,在所述配置表中获取所述Hive外部表;然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
2.根据权利要求1所述的方法,其特征在于,所述外部表结构信息表中还存储Hive外部表信息与用户信息的映射关系;
确认达到所述时间之前,包括:
确定当前时间与删除数据文件的时间的差等于或小于预设的时间差,然后在所述配置表中获取所述Hive外部表;
根据预设的外部表结构信息表,获取所述Hive外部表对应的用户信息;
监测所述用户登录,提示所述数据文件将在所述时间删除。
3.根据权利要求1或2所述的方法,其特征在于,获取删除所述Hive外部表对应的数据文件的时间之前,还包括:
在所述的外部表结构信息表中,标记所述Hive外部表已经删除。
4.根据权利要求3所述的方法,其特征在于,还包括:
监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间;
将默认删除时间和所述Hive外部表存储到所述配置表中。
5.根据权利要求1所述的方法,其特征在于,删除所述对应的数据文件之后,还包括:
删除所述预设外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
6.一种文件清理的装置,其特征在于,包括:
外部表删除模块,用于删除Hive外部表;
判断模块,用于确定删除所述Hive外部表对应的数据文件;
数据文件删除模块,用于根据预设的外部表结构信息表,获取所述外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系;
所述判断模块,还用于:确定不删除所述Hive外部表对应的数据文件;
所述数据文件删除模块,还用于:获取删除所述Hive外部表对应的数据文件的时间,然后将所述时间和所述Hive外部表存储到配置表中;确认达到所述时间时,在所述配置表中获取所述Hive外部表;然后根据预设的外部表结构信息表,获取所述Hive外部表对应的数据文件,以删除所述对应的数据文件;其中,所述的外部表结构信息表中存储Hive外部表信息与数据文件信息的映射关系。
7.根据权利要求6所述的装置,其特征在于,所述外部表结构信息表中还存储Hive外部表信息与用户信息的映射关系;
所述数据文件删除模块确认达到所述时间之前,还用于:
确定当前时间与删除数据文件的时间的差等于或小于预设的时间差,然后在所述配置表中获取所述Hive外部表;根据预设的外部表结构信息表,获取所述Hive外部表对应的用户信息;监测所述用户登录,提示所述数据文件将在所述时间删除。
8.根据权利要求6或7所述的装置,其特征在于,所述数据文件删除模块获取删除所述Hive外部表对应的数据文件的时间之前,还用于:
在所述的外部表结构信息表中,标记所述Hive外部表已经删除。
9.根据权利要求8所述的装置,其特征在于,还包括:
监控模块,用于监控所述外部表结构信息表,确定标记已经删除的所述Hive外部表在所述配置表中没有删除对应数据文件的时间;将默认删除时间和所述Hive外部表存储到所述配置表中。
10.根据权利要求6所述的装置,其特征在于,所述数据文件删除模块,还用于:
删除所述预设外部表结构信息表中的所述Hive外部表信息和对应的数据文件信息。
11.一种电子设备,其特征在于,包括:
一个或多个处理器;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理器执行,使得所述一个或多个处理器实现如权利要求1-5中任一所述的方法。
12.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现如权利要求1-5中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710605799.0A CN110019026B (zh) | 2017-07-24 | 2017-07-24 | 一种文件清理的方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201710605799.0A CN110019026B (zh) | 2017-07-24 | 2017-07-24 | 一种文件清理的方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110019026A CN110019026A (zh) | 2019-07-16 |
CN110019026B true CN110019026B (zh) | 2022-02-01 |
Family
ID=67185829
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201710605799.0A Active CN110019026B (zh) | 2017-07-24 | 2017-07-24 | 一种文件清理的方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110019026B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112601052B (zh) * | 2020-12-10 | 2023-04-07 | 四川警察学院 | 一种应用于内部共享平台的视频资源整合*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102609492A (zh) * | 2012-01-21 | 2012-07-25 | 东华大学 | 一种支持表模式可变的元数据管理方法 |
CN103177046A (zh) * | 2011-12-26 | 2013-06-26 | ***通信集团公司 | 一种基于行存储数据库的数据处理方法和设备 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009266034A (ja) * | 2008-04-25 | 2009-11-12 | Hitachi Ltd | 情報フロー制御システム |
-
2017
- 2017-07-24 CN CN201710605799.0A patent/CN110019026B/zh active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN103177046A (zh) * | 2011-12-26 | 2013-06-26 | ***通信集团公司 | 一种基于行存储数据库的数据处理方法和设备 |
CN102609492A (zh) * | 2012-01-21 | 2012-07-25 | 东华大学 | 一种支持表模式可变的元数据管理方法 |
Non-Patent Citations (1)
Title |
---|
大数据查询与分析技术——SQL on Hadoop;常广炎 等;《软件导刊》;20160430;第15卷(第4期);第1章 * |
Also Published As
Publication number | Publication date |
---|---|
CN110019026A (zh) | 2019-07-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107844324B (zh) | 客户端页面跳转处理方法和装置 | |
CN107480205B (zh) | 一种进行数据分区的方法和装置 | |
CN110572422B (zh) | 数据下载方法、装置、设备和介质 | |
CN111062572B (zh) | 任务分配的方法和装置 | |
US9747292B2 (en) | Simplifying the check-in of checked-out files in an ECM system | |
CN110019026B (zh) | 一种文件清理的方法和装置 | |
CN112948138A (zh) | 一种处理消息的方法和装置 | |
CN109144991B (zh) | 动态分表的方法、装置、电子设备和计算机可存储介质 | |
CN112685481A (zh) | 一种数据处理方法和装置 | |
CN114116675A (zh) | 一种数据归档方法和装置 | |
CN112783914B (zh) | 优化语句的方法和装置 | |
CN112711572B (zh) | 适用于分库分表的在线扩容方法和装置 | |
CN112688982B (zh) | 一种用户请求处理方法和装置 | |
CN109087097B (zh) | 一种更新链码同一标识的方法和装置 | |
CN110019671B (zh) | 一种处理实时消息的方法和*** | |
CN109213815B (zh) | 控制执行次数的方法、装置、服务器终端以及可读介质 | |
CN107665241B (zh) | 一种实时数据多维度去重方法和装置 | |
CN113127416A (zh) | 数据查询方法和装置 | |
CN113760965B (zh) | 数据查询的方法和装置 | |
CN112835609A (zh) | 一种修改依赖包下载地址的方法和装置 | |
CN112988857A (zh) | 一种业务数据的处理方法和装置 | |
CN111695059A (zh) | 一种信息视图列表处理方法、装置和显示设备 | |
CN110874302A (zh) | 一种埋点配置信息的确定方法和装置 | |
CN110120958B (zh) | 一种基于众包模式的任务推送方法和装置 | |
CN110875856A (zh) | 激活数据异常检测与分析的方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |