CN112163013A - 数据处理方法、装置、终端设备及存储介质 - Google Patents
数据处理方法、装置、终端设备及存储介质 Download PDFInfo
- Publication number
- CN112163013A CN112163013A CN202010934982.7A CN202010934982A CN112163013A CN 112163013 A CN112163013 A CN 112163013A CN 202010934982 A CN202010934982 A CN 202010934982A CN 112163013 A CN112163013 A CN 112163013A
- Authority
- CN
- China
- Prior art keywords
- partition
- time
- table partition
- data
- query
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 22
- 238000005192 partition Methods 0.000 claims abstract description 384
- 230000015654 memory Effects 0.000 claims abstract description 217
- 238000012545 processing Methods 0.000 claims abstract description 14
- 238000000034 method Methods 0.000 claims description 29
- 238000004590 computer program Methods 0.000 claims description 20
- 230000006870 function Effects 0.000 description 10
- 230000008569 process Effects 0.000 description 9
- 238000010586 diagram Methods 0.000 description 6
- 238000013500 data storage Methods 0.000 description 4
- 230000004044 response Effects 0.000 description 4
- 230000008878 coupling Effects 0.000 description 3
- 238000010168 coupling process Methods 0.000 description 3
- 238000005859 coupling reaction Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000013461 design Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000003993 interaction Effects 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2458—Special types of queries, e.g. statistical queries, fuzzy queries or distributed queries
- G06F16/2474—Sequence data queries, e.g. querying versioned data
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2282—Tablespace storage structures; Management thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/24—Querying
- G06F16/245—Query processing
- G06F16/2455—Query execution
- G06F16/24552—Database cache management
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Probability & Statistics with Applications (AREA)
- Mathematical Physics (AREA)
- Fuzzy Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Memory System Of A Hierarchy Structure (AREA)
Abstract
本申请适用于计算机技术领域,提供了数据处理方法、装置、终端设备及存储介质,包括:获取查询指令,查询指令包含查询时间范围;根据查询时间范围,确定外存储器中分区时段与查询时间范围相符的表分区作为第一表分区;其中外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;若内存储器中存在第一缓存区(即第一表分区对应的缓存区),则根据查询指令在内存储器的第一缓存区中查询得到目标时序数据;否则,从外存储器的第一表分区中查询得到所述目标时序数据;其中内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应。本申请实施例能够提高时序数据的查询效率。
Description
技术领域
本申请属于计算机技术领域,尤其涉及一种数据处理方法、装置、终端设备及存储介质。
背景技术
时序数据也称为“流水”型数据,是一种在作业过程中持续生成、并将具体数据内容与采集该数据时间信息一同存储的数据,例如地铁/公交的刷卡记录、出租车的载客订单记录等。现有的时序数据存储方法,通常是按采集的时间顺序依次将时序数据存储至磁盘。然而,随着时间的积累,磁盘中存储的时序数据越来越多,导致后续在查找时序数据时的查询效率较低。
发明内容
有鉴于此,本申请实施例提供了数据处理方法、装置、终端设备及存储介质,以解决现有技术中如何提高时序数据的查询效率的问题。
本申请实施例的第一方面提供了一种数据处理方法,包括:
获取查询指令,所述查询指令包含查询时间范围;
根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区;
若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
本申请实施例的第二方面提供了一种数据处理装置,包括:
查询指令获取单元,用于获取查询指令,所述查询指令包含查询时间范围;
第一表分区确定单元,用于根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区;
查询单元,用于若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
本申请实施例的第三方面提供了一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,当所述处理器执行所述计算机程序时,使得终端设备实现如所述数据处理方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,当所述计算机程序被处理器执行时,使得终端设备实现如所述数据处理方法的步骤。
本申请实施例的第五方面提供了一种计算机程序产品,当计算机程序产品在终端设备上运行时,使得终端设备执行如所述数据处理方法的步骤。
本申请实施例与现有技术相比存在的有益效果是:本申请实施例中,由于外存储器中设立了多个不同分区时段的表分区,分别用于存储不同时间范围的时序数据,因此能够实现时序数据在更小粒度的存储单元——表分区中的准确存储,使得在根据查询指令查询时序数据时,具体能够根据查询指令的查询时间范围确定对应的第一表分区,以缩小数据查找范围,提高数据查询效率;并且,考虑到时序数据的查询通常为对最近一段时间内采集到的时序数据进行查询,因此在内存储器中缓存了与外存储器中离当前时间最近的预设数目个表分区一一对应的预设数目个缓存区,使得在当前的第一表分区存在对应的第一缓存区时,能够直接从内存储器的第一缓存区中快速地查询与查询指令对应的目标时序数据,而无需从外存储器进行数据读取及查询,从而减少外存储器的读写次数,进一步提高数据查询效率。
附图说明
为了更清楚地说明本申请实施例中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图仅仅是本申请的实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本申请实施例提供的一种数据处理方法的实现流程示意图;
图2是本申请实施例提供的一种内存储器和外存储器的时序数据存储示意图;
图3是本申请实施例提供的另一种内存储器和外存储器的时序数据存储示意图;
图4是本申请实施例提供的数据处理装置的示意图;
图5是本申请实施例提供的终端设备的示意图。
具体实施方式
以下描述中,为了说明而不是为了限定,提出了诸如特定***结构、技术之类的具体细节,以便透彻理解本申请实施例。然而,本领域的技术人员应当清楚,在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中,省略对众所周知的***、装置、电路以及方法的详细说明,以免不必要的细节妨碍本申请的描述。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
应当理解,当在本说明书和所附权利要求书中使用时,术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当理解,在此本申请说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本申请。如在本申请说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
还应当进一步理解,在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样,术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地,短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外,在本申请的描述中,术语“第一”、“第二”、“第三”等仅用于区分描述,而不能理解为指示或暗示相对重要性。
目前,由于时序数据(即“流水型”数据)随着时间的推移不断产生,导致用于存储时序数据的磁盘等外存储器中的数据量越来越庞大,进而导致从数据量庞大的外存储器中查询指定的时序数据时数据搜索范围大,数据查询效率低。另外,虽然在有些方法中,可以通过将部分的时序数据进行缓存来提高数据的查询效率,但是这些方法通常是基于先进先出(First In First Out,FIFO)、最近最少使用(Least Recently Used,LRU)或者最不经常使用(Least Frequently Used,LFU)等缓存方式来将近段时间被查询过的数据进行缓存,这些存储管理方式可能出现将偶尔查询一次的较旧的历史时序数据替换掉缓存区中常用的较新的历史数据的情况,进而导致缓存区存在不必要的数据替换开销,从而降低数据存储效率。为了解决上述技术问题,本申请实施例提供了一种数据处理方法、装置、终端设备及存储介质,通过在外存储器中设立多个不同分区时段的表分区,分别用于存储不同时间范围的时序数据,从而能够实现时序数据在更小粒度的存储单元——表分区中的准确存储,使得在根据查询指令查询时序数据时,具体能够根据查询指令的查询时间范围确定对应的第一表分区,以缩小数据查找范围,提高数据查询效率;同时,考虑到时序数据的查询通常为对最近一段时间内采集到的时序数据进行查询,因此,在内存储器中缓存了与外存储器中离当前时间最近的预设数目个表分区一一对应的预设数目个缓存区,使得在当前的第一表分区存在对应的第一缓存区时,能够直接从内存储器的第一缓存区中快速地查询出与查询指令对应的目标时序数据,而无需从外存储器进行数据读取及查询,从而减少外存储器的读写次数,进一步提高数据查询效率,并且这种内存储器的缓存方式相对于现有的FIFO、LRU、LFU等缓存方式,能够使内存储器中保持存储较常被查询的时序数据,减少不必要的数据缓存替换,提高数据缓存效率。
实施例一:
图1示出了本申请实施例提供的第一种数据处理方法的流程示意图,该数据处理方法的执行主体为终端设备,详述如下:
在S101中,获取查询指令,所述查询指令包含查询时间范围。
本申请实施例中,当用户需要查询数据时,可以输入包含查询时间范围的查询指令,终端设备获取该查询指令,以查询与该查询时间范围相应的时序数据。具体地,该查询指令可以为数据库操作语句中的数据查询语句,例如结构化查询语言(Structured QueryLanguage,SQL)中的“SELECT”语句。示例性地,设时序数据存储于数据表“gjdtsk”(公交/地铁刷卡数据表)中,当前所要查询的数据项为数据表“gjdtsk”中的“sksj”(刷卡时间)项,所要查询的时序数据的时间范围为2020年7月10日至2020年8月5日的时序数据,则该查询指令可以为:
SELECT*FROM gjdtsk WHERE sksj>=‘2020-07-10 00:00:00’and sksj<‘2020-08-05 23:59:59’
在S102中,根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区。
本申请实施例中,外存储器可以软盘存储器、硬盘存储器、光盘存储器等终端设备常设的存储器,外存储器在终端设备断电后仍能够保证数据的存储。本申请实施例中,用于存储时序数据的数据表具体以分割为多个表分区的方式存储于外存储器中,其中,每个表分区分别对应存储各自对应的时间范围的时序数据,可以将表分区存储的时序数据的时间范围称为分区时段,每个表分区的分区时段均不相同,且不存在交集。示例性地,如图2所示,时序数据具体为公交/地铁刷卡数据,外存储器中包括了三个表分区:表分区“P202006”,其分区时段为“202006”,表示该表分区用于存储2020年6月份的公交/地铁刷卡数据;表分区“P202007”,其分区时段为“202007”,表示该表分区用于存储2020年7月份的公交/地铁刷卡数据;表分区“P202008”,其分区时段为“202008”,表示该表分区用于存储2020年8月份的公交/地铁刷卡数据。
在获取到查询指令后,根据查询指令中包含的查询时间范围,从外存储器中确定当前查询指令所要查询的目标表分区——第一表分区,该第一表分区为对应的分区时段与当前查询指令中的查询时间范围相符的表分区,即,该第一表分区为分区时段与该查询时间范围存在交集的表分区。示例性地,若当前的查询时间范围为2020年8月1日至2020年8月5日,则与该查询时间范围相符的第一表分区为如图2所示的表分区“P202008”;若当前的查询时间范围为2020年7月10日至2020年8月5日,则与该查询时间相符的第一表分区包括如图2所示的表分区“P202007”和表分区“P2020008”。可选地,若本申请实施例中的查询指令具体为SQL中的“SELECT”语句,则可以通过解析得到SELECT”语句中WHERE子句后的字段来获取当前的查询时间范围,再根据该查询时间范围确定第一表分区。
在S103中,若内存储器中存在与所述第一表分区对应的第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区。
本申请实施例中,内存储器也称为内存,用于缓存外部存储器中的部分数据,以提高终端设备对该部分数据的读取效率。具体地,本申请实施例中的内存储器包含了预设数目个缓存区,这预设数目个缓存区与外存储器中指定的预设数目个表分区一一对应,每个缓存区的分区时段以及存储的时序数据与其对应的表分区完全一致;具体地,终端设备可以通过映射表等方式记录外存储器的各个表分区与内存储器的各个缓存区的对应关系。其中,指定的预设数目个表分区为分区时段离当前时间最近的预设数目个表分区。该预设数目可以为提前设定的数目,例如2、3、4等。示例性地,如图2所示,设预设数目为2,当前时间为2020年8月10日,则外存储器中,离当前时间最近的2个表分区为“P202007”和“P202008”这2个表分区,将这2个表分区提前加载至内存储器中,使得内存储器包含了与这2个表分区对应的2个缓存区,具体包括与表分区“P202007”对应的缓存区“C202007”,与表分区“P202008”对应的缓存区“C202008”。本申请实施例中,第一缓存区为内存储器中与外存储器的第一表分区相对应的缓存区,该第一缓存区为提前将外存储器中的第一表分区加载至内存储器所得到的缓存区,其对应的分区时段、存储的时序数据与第一表分区完全相同;具体地,可通过查询终端设备预存的表分区与缓存区的对应关系,查找到与第一表分区对应的缓存区作为第一缓存区。
在步骤S102中确定了与当前的查询指令对应的第一表分区后,判断该内存储器中是否存在第一缓存区(即第一表分区对应的缓存区),若存在,则根据该查询指令直接从内存储器中的第一缓存区中查询得到对应的目标时序数据,以最快的查询效率查询得到相应的数据;若不存在,则从外存储器中的第一表分区查询得到目标时序数据;之后,将该目标时序数据作为查询结果反馈给用户。其中,目标时序数据为时间戳信息与该查询时间范围相符的时序数据。示例性地,设当前的查询时间范围为2020年8月1日至2020年8月10日,第一表分区为如图2所示的表分区“P202008”,则由于内存储器中存在与第一表分区“P202008”对应的第一缓存区“C202008”,因此可以根据查询指令直接从内存储器中的第一缓存区“C202008”查询得到与查询时间范围相符的两条时序数据“2020-08-06 10:00:00,K123456,坪洲站,2元”“2020-08-01 10:00:00,K123478,科技园站,5元”作为目标时序数据。示例性地,设当前的查询时间范围为2020年6月5日至6月30日,则第一表分区为如图2所示的表分区“P202006”,此时,由于内存储器中不存在与第一表分区“P202006”对应的缓存区,因此此时具体从外存储器的第一表分区“P202006”中查询得到与查询时间范围相符的一条时序数据“2020-06-10 10:00:00,K123478,科技园站,5元”作为当前的目标时序数据。
可选地,若所述第一表分区包括在内存储器中存在对应的第一缓存区的第一子表分区以及不存在对应的缓存区的第二子表分区,则对应地,所述若内存储器中存在与所述第一表分区对应的第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据,包括:
根据所述查询指令在所述内存储器的所述第一缓存区查询得到第一子目标时序数据;
根据所述查询指令在所述外存储器的第二子表分区查询得到第二子目标时序数据;
根据所述第一子目标时序数据和所述第二子目标时序数据,得到目标时序数据。
示例性地,设当前的查询时间范围为2020年6月1日至2020年7月31日,则根据步骤S102确定的第一表分区包括如图2所示的表分区“P202006”以及表分区“P202007”,其中,表分区“P202007”在内存储器中存在对应的缓存区“C202007”,表分区“P202006”在内存储器中不存在对应的缓存区,此时将表分区“P202007”称为第一子表分区,表分区“P202006”称为第二子表分区,将缓存区“C202007”称为第一缓存区。之后,具体根据查询指令,在内存储器的第一缓存区“C202007”中查询得到与查询时间范围相符的两条时序数据“2020-07-1210:00:00,K333456,白石洲站,2元”、“2020-07-1610:00:00,K123456,坪洲站,2元”作为当前的第一子目标时序数据;以及,在外存储器的第二子表分区“P202006”中查询得到与查询时间范围相符的两条时序数据“2020-06-2 10:00:00,K333456,白石洲站,2元”、“2020-06-10 10:00:00,K123478,科技园站,5元”作为当前的第二子目标时序数据;将该第一子目标时序数据、第二子目标时序合并得到目标时序数据,作为最终的查询结果。
本申请实施例中,由于在根据查询时间范围确定的第一表分区为一个以上,且其中包括存在对应缓存区的第一子表分区和不存在对应缓存区的第二子表分区时,也能够根据查询指令从第一子表分区对应的第一缓存区中查询得到部分的目标时序数据(第一目标时序数据),之后再与从第二子表分区查询得到的第二目标时序数据合并作为目标时序数据,因此能够灵活地根据当前的查询时间范围尽可能地提高数据查询效率。
可选地,在步骤S101之前,还包括:
S100A1:获取时序数据,所述时序数据携带时间戳信息;
S100A2:根据所述时间戳信息,确定所述外存储器中的第二表分区,并将所述时序数据存储至所述第二表分区中;所述第二表分区为对应的所述分区时段与所述时间戳信息相符的表分区;
S100A3:若检测到所述内存储器中已存在第二缓存区,则将所述时序数据存储至所述内存储器的所述第二缓存区中;所述第二缓存区为与所述第二表分区对应的缓存区。
本申请实施例中,步骤S101至步骤S103为对时序数据的查询步骤的描述,步骤S101至S103中的时序数据具体是通过步骤S100A1至步骤S100A3的分区存储步骤后有序地存储于外存储器的表分区和/或内存储器的缓存区中的,详述如下:
在步骤S100A1中,获取时序数据,该时序数据携带时间戳信息。可选地,若该时序数据为公交/地铁刷卡数据,则该时间戳信息具体为刷卡时间;若该时序数据为出租车载客订单数据,则该时间戳信息具体为下单时间;若该时序数据为网吧上网数据,则该事件戳信息具体为上网开始和/或上网结束时间,或者上网持续时间段等。可选地,若本申请实施的终端设备为能够直接采集时序数据的终端设备,例如能够直接采集网吧上网数据的计算机,则获取时序数据的步骤具体包括:直接采集时序数据;若本申请实施例的终端设备为不能够直接采集时序数据的终端设备,例如后台记录公交/地铁刷卡数据的服务器,则获取时序数据的步骤具体包括:接收采集设备(用于采集时序数据的设备,例如公交车或者地铁站的刷卡机)发送的时序数据。
在步骤S100A2中,获取到时序数据后,根据该时序数据携带的时间戳信息,从外存储器中确定用于存储当前时序数据的第二表分区,并将该时序数据存储至该第二表分区中。其中,该第二表分区为分区时段和该时间戳信息相符的表分区,即,将外存储器中分区时段的时间范围包含该时间戳信息对应的时间的表分区作为第二表分区。示例性地,设时序数据为公交/地铁刷卡数据,当前获取到的一条时序数据为“2020-08-10 10:00,K333456,白石洲站,2元”,其中“2020-08-10 10:00”为该条时序数据的时间戳信息,根据该时间戳信息,从如图2所示的外存储器的表分区中查找到分区时段为2020年8月的表分区“P202008”作为第二表分区,并将该条时序数据存储至该第二表分区“P202008”中。
在步骤S100A3中,将该时序数据存储至第二表分区后,在内存储器中查找是否存在第二缓存区(即与第二表分区对应的缓存区),若存在,则将该时序数据同时存储至内存储器的该第二缓存区中。其中,第二缓存区为提前将第二表分区加载至内存储器得到的缓存区,该第二缓存区对应的分区时段、存储的时序数据与该第二表分区完全相同;具体地,可通过查询终端设备预存的表分区与缓存区的对应关系,查找到第二表分区对应的缓存区作为第二缓存区。具体地,若终端设备获取的时序数据为实时产生的最新的时序数据,则由于缓存区是提前将分区时段离当前时间较近的表分区加载至内存器得到的,且当前的时序数据为较新的时序数据,因此该时序数据对应的第二表分区的分区时段离当前时间较近,在内存储器中存在对应的第二缓存区。具体地,若终端设备获取的时序数据为有一定时延的时序数据或者为用户***的离当前时间距离较远的历史时序数据,则根据该较旧的时序数据确定的第二表分区在内存储器中不存在对应的第二缓存区,此时,在将该时序数据存储至第二表分区后,即已完成了对该时序数据的存储工作。
示例性地,若当前获取到SQL中的“INSERT”语句:
INSERT INTO gjdtsk VALUES(‘2020-08-07 12:00:00’,‘K78906’,’北环科苑天桥’,‘3元’)
则判定当前获取到一条时序数据,该时序数据的时间戳信息为‘2020-08-07 12:00:00’,根据该时间戳信息,查找到如图2所示的外存储器中存在分区时段与该时间戳信息相符的表分区“P202008”作为第二表分区,并将该时序数据存储至该第二表分区“P202008”中。同时,由于第二表分区“P202008”在内存储器中存在对应的第二缓存区“C202008”,因此同时将该时序数据存储至第二缓存区“C202008”中。
本申请实施例中由于在查询数据之前,能够在获取到时序数据后根据该时序数据的时间戳信息准确地将该时序数据存储至外存储器中对应的表分区,以及内存储器中对应的缓存区中,因此能够保证内存储器中缓存了较新的时序数据,提高后续数据查询的准确性和效率;并且这种内存储器的缓存方式相对于现有的FIFO、LRU、LFU等缓存方式,能够使内存储器中保持存储较常被查询的时序数据,减少不必要的数据缓存替换,提高数据缓存效率。
可选地,在所述步骤S100A1之前,还包括:
设置所述预设数目。
本申请实施例中,预设数目即为设定的内存储器中的缓存区的数目。可以通过获取用户的设置指令,对该预设数目进行灵活地设定。可选地,该预设数目还可以根据分区时段的时长、内存储器的存储空间、单位时间内产生的时序数据的数据量等信息,通过预设的算法计算得到该预设数目。
可选地,各个所述分区时段的长度均为预设时长,在所述步骤S100A1之前,还包括:
设置所述预设时长。
本申请实施例中,各个分区时段的长度保持一致,均为预设时长。该预设时长可以为一小时、一周、一天、一个月或者一年,具体可以在获取时序数据进行存储之前,获取用户的设置指令,根据实际的需要设置该预设时长,以使得后续根据该预设时长,自动设置各个分区时段为预设时长的表分区,从而对各个时间段的时序数据进行分区存储。
示例性地,本申请实施例可通过建表语句同时设置该预设数目及预设时长。例如,设当前的时序数据为公交/地铁刷卡数据,需要构建的用于存储该时序数据的数据表为公交/地铁刷卡数据表(以下用“gjdtsk”表示该数据表),需设置的缓存区的数量——预设数目为“2”,需设置的预设时长为一个月(以下用“month”表示),则该建表语句为:
其中,“partition by month”表示外存储器中存储该数据表“gjdtsk”时自动会以“月”作为预设时长来对该数据表进行分区,得到分区时段为一个月的各个表分区;“load2partition to memory”表示会自动将该数据表“gjdtsk”中的两个表分区加载自内存储器中进行缓存,得到对应的两个缓存区。
本申请实施例中,由于在时序数据的存储步骤之前(即步骤S100A1至步骤S100A3之前),能够根据实际需要设置预设数目和/或预设时长,因此能够提高时序数据存储的灵活性和准确性。
可选地,所述步骤S100A2包括:
若所述外存储器存在所述分区时段与所述时间戳信息相符的第二表分区,则将所述时序数据存储至所述第二表分区中;
否则,根据所述时间戳信息,在所述外存储器建立分区时段与所述时间戳信息相符的表分区作为第二表分区,并将所述时序数据存储至所述第二表分区中。
本申请实施例中,外存储器中的各个表分区是随着时间的推移及时序数据的递增按需自动建立分区的。例如,设外存储器中每个表分区的分区时段的长度(即预设时长)均为一个月,终端设备在2020年6月份建表后,初始只存在用于存储6月份的时序数据的表分区“P202006”,之后,随着时间的推移,到达2020年7月份时,若获取到一条时间戳信息为2020年7月某个日期的时序数据,则自动建立新的表分区“P202007”,以用于存储7月份的时序数据。
具体地,在步骤S100A2中,先查找外存储器是否存在分区时段和当前的时间戳信息相符的第二表分区,若存在,则直接将该时序数据存储至该第二表分区中即可。若不存在,则需要根据该时间戳信息自动建立下一个表分区作为第二表分区,该第二表分区的分区时段具体根据时间戳信息和预设时长确定,以使该建立的表分区的分区时段包含该时间戳信息的时间。示例性,如图2所示,当前外存储器中存在分区时段为2020年6月的表分区“P202006”、分区时段为2020年7月的表分区“P202007”、分区时段为2020年8月的表分区“P202008”,而当前获取的时序数据的时间戳信息为“2020-09-01 10:00”,则根据该时间戳信息和预设时长“月”,建立分区时段为2020年9月的表分区“P202009”作为第二表分区。示例性地,获取的时序数据还可以为历史时序数据,设当前外存储器中只存在上述的“P202006”、“P202007”、“P202008”,而当前获取的时序数据的时间戳信息为“2020-05-1010:00”,则根据该时间戳信息和预设时长“月”,建立分区时段为2020年5月的表分区“P202005”作为第二表分区。在建立该第二表分区后,将该时序数据存储至该新建立的第二表分区中。
本申请实施例中,由于外存储器中的表分区能够随着时间的推移和获取的时序数据的时间戳信息自动新建,因此能够保证时序数据有效地进行分区存储。
可选地,在所述根据所述时间戳信息,在所述外存储器建立分区时段与所述时间戳信息相符的表分区作为第二表分区,并将所述时序数据存储至所述第二表分区中之后,还包括:
若新建立的所述第二表分区属于在所述外存储器中所述分区时段离当前时间最近的预设数目个表分区,则将所述第二表分区加载至所述内存储器中,得到第二缓存区。
本申请实施例中,在根据当前的时序数据的时间戳信息建立了第二表分区后,如果根据该第二表分区的分区时段检测到该第二表分区为分区时段离当前最近的预设数目个表分区,则说明此时需要将该新建立的第二表分区加载到内存储器中进行缓存,得到对应的第二缓存区。示例性地,设当前时间为2020年9月1日,预设数目为2,且根据当前获取的时间戳信息为“2020-09-01 10:00”的时序数据,在图2的表分区的基础上,新建立了分区时段为2020年9月的表分区“P202009”作为第二表分区;由于在建立了该第二表分区“P202009”,检测到当前外存储器中分区时段离当前时间最近的2个表分区为“P202009”和“P202008”,而表分区“P202007”已不再属于分区时段离当前时间最近的2个表分区,因此将表分区“P202007”对应的缓存区“C202007”从内存储器中删除,并将第二表分区“P202009”加载至内存储器中,得到对应的缓存区“C202009”,如图3所示。
本申请实施例中,由于能够在新建表分区后,当判断该新建立的表分区属于在外存储器中分区时段离当前时间最近的预设数目个表分区时,能够自动将该新建立的表分区加载至内存器中进行缓存,因此能够保证内存储器中缓存的为离当前时间较近的时序数据,从而保证之后的数据查询效率。
可选地,在所述步骤S101之前,还包括:
若检测到所述内存储器中不存在任何缓存区且所述外存储器中存在表分区,则根据当前时间,从所述外存储器中加载所述指定的预设数目个表分区至所述内存储器,得到所述预设数目个缓存区。
本申请实施例中,内存储器中缓存的时序数据会在内存储器掉电后自动清除,因此,在终端设备刚启动,或者内存储器出现掉电情况后恢复供电时,内存储器中不存在任何与表分区对应的缓存区。此时,需要自动根据当前时间,从外存储器中加载离当前时间最近的指定的预设数目个表分区至内存储器,得到预设数目个缓存区,以保证在数据查询之前,即步骤S101之前,内存储器已缓存了较新的时序数据,使得在所需查询的时序数据为较新的时序数据时能够自动从该内存储器的缓存区直接进行快读查询,从而保证时序数据的查询效率。
本申请实施例中,通过在外存储器中设立多个不同分区时段的表分区,分别用于存储不同时间范围的时序数据,从而能够实现时序数据在更小粒度的存储单元——表分区中的准确存储,使得在根据查询指令查询时序数据时,具体能够根据查询指令的查询时间范围确定对应的第一表分区,以缩小数据查找范围,提高数据查询效率;同时,考虑到时序数据的查询通常为对最近一段时间内采集到的时序数据进行查询,因此在内存储器中缓存了与外存储器中离当前时间最近的预设数目个表分区一一对应的预设数目个缓存区,使得在当前的第一表分区存在对应的第一缓存区时,能够直接从内存储器的第一缓存区中快速地查询与查询指令对应的目标时序数据,而无需从外存储器进行数据读取及查询,从而减少外存储器的读写次数,进一步提高数据查询效率,并且这种内存储器的缓存方式相对于现有的FIFO、LRU、LFU等缓存方式,能够使内存储器中保持存储较常被查询的时序数据,减少不必要的数据缓存替换,提高数据缓存效率。
应理解,上述实施例中各步骤的序号的大小并不意味着执行顺序的先后,各过程的执行顺序应以其功能和内在逻辑确定,而不应对本申请实施例的实施过程构成任何限定。
实施例二:
图4示出了本申请实施例提供的一种数据处理装置的结构示意图,为了便于说明,仅示出了与本申请实施例相关的部分:
该数据处理装置包括:查询指令获取单元41、第一表分区确定单元42、查询单元43。其中:
查询指令获取单元41,用于获取查询指令,所述查询指令包含查询时间范围。
第一表分区确定单元42,用于根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区。
查询单元43,用于若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
可选地,所述数据处理装置还包括时序数据获取单元、第一存储单元及第二存储单元:
获取时序数据,用于所述时序数据携带时间戳信息;
第一存储单元,用于根据所述时间戳信息,确定所述外存储器中的第二表分区,并将所述时序数据存储至所述第二表分区中;所述第二表分区为对应的所述分区时段与所述时间戳信息相符的表分区;
第二存储单元,用于若检测到所述内存储器中已存在第二缓存区,则将所述时序数据存储至所述内存储器的所述第二缓存区中;所述第二缓存区为与所述第二表分区对应的缓存区。
可选地,所述数据处理装置还包括:
第一设置单元,用于设置所述预设数目。
可选地,所述数据处理装置还包括:
第二设置单元,用于设置所述预设时长。
可选地,所述第一存储单元,具体用于若所述外存储器存在所述分区时段与所述时间戳信息相符的第二表分区,则将所述时序数据存储至所述第二表分区中;否则,根据所述时间戳信息,在所述外存储器建立分区时段与所述时间戳信息相符的表分区作为第二表分区,并将所述时序数据存储至所述第二表分区中。
可选地,所述第一存储单元还包括:
缓存更新模块,用于若新建立的所述第二表分区属于在所述外存储器中所述分区时段离当前时间最近的预设数目个表分区,则将所述第二表分区加载至所述内存储器中,得到第二缓存区。
可选地,所述数据处理装置还包括:
加载单元,用于若检测到所述内存储器中不存在任何缓存区且所述外存储器中存在表分区,则根据当前时间,从所述外存储器中加载所述指定的预设数目个表分区至所述内存储器,得到所述预设数目个缓存区。
需要说明的是,上述装置/单元之间的信息交互、执行过程等内容,由于与本申请方法实施例基于同一构思,其具体功能及带来的技术效果,具体可参见方法实施例部分,此处不再赘述。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
实施例三:
图5是本申请一实施例提供的终端设备的示意图。如图5所示,该实施例的终端设备5包括:处理器50、存储器51以及存储在所述存储器51中并可在所述处理器50上运行的计算机程序52,例如数据处理程序。所述处理器50执行所述计算机程序52时实现上述各个数据处理方法实施例中的步骤,例如图1所示的步骤S101至S103。或者,所述处理器50执行所述计算机程序52时实现上述各装置实施例中各模块/单元的功能,例如图4所示单元41至44的功能。
示例性的,所述计算机程序52可以被分割成一个或多个模块/单元,所述一个或者多个模块/单元被存储在所述存储器51中,并由所述处理器50执行,以完成本申请。所述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述所述计算机程序52在所述终端设备5中的执行过程。例如,所述计算机程序52可以被分割成查询指令获取单元、第一表分区确定单元及查询单元,各单元具体功能如下:
查询指令获取单元,用于获取查询指令,所述查询指令包含查询时间范围。
第一表分区确定单元,用于根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区。
查询单元,用于若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
所述终端设备5可以是桌上型计算机、笔记本、掌上电脑及云端服务器等计算设备。所述终端设备可包括,但不仅限于,处理器50、存储器51。本领域技术人员可以理解,图5仅仅终端设备5的示例,并不构成对终端设备5的限定,可以包括比图示更多或更少的部件,或者组合某些部件,或者不同的部件,例如所述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器50可以是中央处理单元(Central Processing Unit,CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
所述存储器51可以是所述终端设备5的内部存储单元,例如终端设备5的硬盘或内存。所述存储器51也可以是所述终端设备5的外部存储设备,例如所述终端设备5上配备的插接式硬盘,智能存储卡(Smart Media Card,SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)等。进一步地,所述存储器51还可以既包括所述终端设备5的内部存储单元也包括外部存储设备。所述存储器51用于存储所述计算机程序以及所述终端设备所需的其他程序和数据。所述存储器51还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到,为了描述的方便和简洁,仅以上述各功能单元、模块的划分进行举例说明,实际应用中,可以根据需要而将上述功能分配由不同的功能单元、模块完成,即将所述装置的内部结构划分成不同的功能单元或模块,以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中,上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。另外,各功能单元、模块的具体名称也只是为了便于相互区分,并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程,可以参考前述方法实施例中的对应过程,在此不再赘述。
在上述实施例中,对各个实施例的描述都各有侧重,某个实施例中没有详述或记载的部分,可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到,结合本文中所公开的实施例描述的各示例的单元及算法步骤,能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行,取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能,但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中,应该理解到,所揭露的装置/终端设备和方法,可以通过其它的方式实现。例如,以上所描述的装置/终端设备实施例仅仅是示意性的,例如,所述模块或单元的划分,仅仅为一种逻辑功能划分,实际实现时可以有另外的划分方式,例如多个单元或组件可以结合或者可以集成到另一个***,或一些特征可以忽略,或不执行。另一点,所显示或讨论的相互之间的耦合或直接耦合或通讯连接可以是通过一些接口,装置或单元的间接耦合或通讯连接,可以是电性,机械或其它的形式。
所述作为分离部件说明的单元可以是或者也可以不是物理上分开的,作为单元显示的部件可以是或者也可以不是物理单元,即可以位于一个地方,或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外,在本申请各个实施例中的各功能单元可以集成在一个处理单元中,也可以是各个单元单独物理存在,也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现,也可以采用软件功能单元的形式实现。
所述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,所述的计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述各个方法实施例的步骤。其中,所述计算机程序包括计算机程序代码,所述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。所述计算机可读介质可以包括:能够携带所述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,所述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
以上所述实施例仅用以说明本申请的技术方案,而非对其限制;尽管参照前述实施例对本申请进行了详细的说明,本领域的普通技术人员应当理解:其依然可以对前述各实施例所记载的技术方案进行修改,或者对其中部分技术特征进行等同替换;而这些修改或者替换,并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围,均应包含在本申请的保护范围之内。
Claims (10)
1.一种数据处理方法,其特征在于,包括:
获取查询指令,所述查询指令包含查询时间范围;
根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区;
若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
2.如权利要求1所述的数据处理方法,其特征在于,在所述获取查询指令之前,还包括:
获取时序数据,所述时序数据携带时间戳信息;
根据所述时间戳信息,确定所述外存储器中的第二表分区,并将所述时序数据存储至所述第二表分区中;所述第二表分区为对应的所述分区时段与所述时间戳信息相符的表分区;
若检测到所述内存储器中已存在第二缓存区,则将所述时序数据存储至所述内存储器的所述第二缓存区中;所述第二缓存区为与所述第二表分区对应的缓存区。
3.如权利要求2所述的数据处理方法,其特征在于,在所述获取时序数据之前,还包括:
设置所述预设数目。
4.如权利要求2所述的数据处理方法,其特征在于,各个所述分区时段的长度均为预设时长,对应地,在所述获取时序数据之前,还包括:
设置所述预设时长。
5.如权利要求3所述的数据处理方法,其特征在于,所述根据所述时间戳信息,确定所述外存储器中所述分区时段与所述时间戳信息相符的第二表分区,并将所述时序数据存储至所述第二表分区中,包括:
若所述外存储器存在所述分区时段与所述时间戳信息相符的第二表分区,则将所述时序数据存储至所述第二表分区中;
否则,根据所述时间戳信息,在所述外存储器建立分区时段与所述时间戳信息相符的表分区作为第二表分区,并将所述时序数据存储至所述第二表分区中。
6.如权利要求5所述的数据处理方法,其特征在于,在所述根据所述时间戳信息,在所述外存储器建立分区时段与所述时间戳信息相符的表分区作为第二表分区,并将所述时序数据存储至所述第二表分区中之后,还包括:
若新建立的所述第二表分区属于在所述外存储器中所述分区时段离当前时间最近的预设数目个表分区,则将所述第二表分区加载至所述内存储器中,得到第二缓存区。
7.如权利要求1至6任意一项所述的数据处理方法,其特征在于,在所述获取查询指令之前,还包括:
若检测到所述内存储器中不存在任何缓存区且所述外存储器中存在表分区,则根据当前时间,从所述外存储器中加载所述指定的预设数目个表分区至所述内存储器,得到所述预设数目个缓存区。
8.一种数据处理装置,其特征在于,包括:
查询指令获取单元,用于获取查询指令,所述查询指令包含查询时间范围;
第一表分区确定单元,用于根据所述查询时间范围,确定外存储器中的第一表分区;其中所述外存储器包含了至少两个分别用于存储不同时间范围的时序数据的表分区;每个表分区分别对应一个分区时段,用于标识所述表分区存储的时序数据的时间范围;所述第一表分区为对应的所述分区时段与所述查询时间范围相符的表分区;
查询单元,用于若内存储器中存在第一缓存区,则根据所述查询指令在所述内存储器的所述第一缓存区中查询得到目标时序数据;否则,从所述外存储器的所述第一表分区中查询得到所述目标时序数据;其中所述内存储器包含了预设数目个缓存区,所述预设数目个缓存区与所述外存储器中指定的预设数目个表分区一一对应,所述指定的预设数目个表分区为所述分区时段离当前时间最近的预设数目个所述表分区;所述第一缓存区为与所述第一表分区对应的缓存区。
9.一种终端设备,包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序,其特征在于,当所述处理器执行所述计算机程序时,使得终端设备实现如权利要求1至7任一项所述方法的步骤。
10.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,当所述计算机程序被处理器执行时,使得终端设备实现如权利要求1至7任一项所述方法的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010934982.7A CN112163013A (zh) | 2020-09-08 | 2020-09-08 | 数据处理方法、装置、终端设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010934982.7A CN112163013A (zh) | 2020-09-08 | 2020-09-08 | 数据处理方法、装置、终端设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN112163013A true CN112163013A (zh) | 2021-01-01 |
Family
ID=73858914
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010934982.7A Pending CN112163013A (zh) | 2020-09-08 | 2020-09-08 | 数据处理方法、装置、终端设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112163013A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112835986A (zh) * | 2021-03-25 | 2021-05-25 | 中国工商银行股份有限公司 | 一种数据处理方法、装置、设备及存储介质 |
CN113297278A (zh) * | 2021-07-26 | 2021-08-24 | 阿里云计算有限公司 | 时序数据库、数据处理方法、存储设备及计算机程序产品 |
CN113625967A (zh) * | 2021-07-26 | 2021-11-09 | 深圳市汉云科技有限公司 | 数据存储方法、数据查询方法及服务器 |
CN115840750A (zh) * | 2023-02-16 | 2023-03-24 | 美云智数科技有限公司 | 通讯数据的分表方法、数据查询方法、设备及存储介质 |
WO2023123614A1 (zh) * | 2021-12-31 | 2023-07-06 | 深圳Tcl新技术有限公司 | 数据处理方法、装置、终端和存储介质 |
CN116775648A (zh) * | 2023-06-05 | 2023-09-19 | 广州慧云网络科技有限公司 | 一种机房监控设备的数据处理方法、装置、设备及介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130006950A1 (en) * | 2011-07-01 | 2013-01-03 | International Business Machines Corporation | Method for Attaching Partition ONLINE to Range Partitioned Table |
CN104462194A (zh) * | 2014-10-28 | 2015-03-25 | 北京国双科技有限公司 | 一种业务数据的处理方法、装置及服务器 |
CN108446329A (zh) * | 2018-02-13 | 2018-08-24 | 北京工业大数据创新中心有限公司 | 面向工业时序数据库的自适应数据库分区方法及*** |
CN109063012A (zh) * | 2018-07-11 | 2018-12-21 | 北京百度网讯科技有限公司 | 存储、查询时序数据的方法、装置、设备和计算机存储介质 |
CN110309229A (zh) * | 2019-05-09 | 2019-10-08 | 北京极数云舟科技有限公司 | 分布式***的数据处理方法和分布式*** |
-
2020
- 2020-09-08 CN CN202010934982.7A patent/CN112163013A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20130006950A1 (en) * | 2011-07-01 | 2013-01-03 | International Business Machines Corporation | Method for Attaching Partition ONLINE to Range Partitioned Table |
CN104462194A (zh) * | 2014-10-28 | 2015-03-25 | 北京国双科技有限公司 | 一种业务数据的处理方法、装置及服务器 |
CN108446329A (zh) * | 2018-02-13 | 2018-08-24 | 北京工业大数据创新中心有限公司 | 面向工业时序数据库的自适应数据库分区方法及*** |
CN109063012A (zh) * | 2018-07-11 | 2018-12-21 | 北京百度网讯科技有限公司 | 存储、查询时序数据的方法、装置、设备和计算机存储介质 |
CN110309229A (zh) * | 2019-05-09 | 2019-10-08 | 北京极数云舟科技有限公司 | 分布式***的数据处理方法和分布式*** |
Cited By (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112835986A (zh) * | 2021-03-25 | 2021-05-25 | 中国工商银行股份有限公司 | 一种数据处理方法、装置、设备及存储介质 |
CN112835986B (zh) * | 2021-03-25 | 2024-02-20 | 中国工商银行股份有限公司 | 一种数据处理方法、装置、设备及存储介质 |
CN113297278A (zh) * | 2021-07-26 | 2021-08-24 | 阿里云计算有限公司 | 时序数据库、数据处理方法、存储设备及计算机程序产品 |
CN113625967A (zh) * | 2021-07-26 | 2021-11-09 | 深圳市汉云科技有限公司 | 数据存储方法、数据查询方法及服务器 |
CN113625967B (zh) * | 2021-07-26 | 2024-05-03 | 深圳市汉云科技有限公司 | 数据存储方法、数据查询方法及服务器 |
WO2023123614A1 (zh) * | 2021-12-31 | 2023-07-06 | 深圳Tcl新技术有限公司 | 数据处理方法、装置、终端和存储介质 |
CN115840750A (zh) * | 2023-02-16 | 2023-03-24 | 美云智数科技有限公司 | 通讯数据的分表方法、数据查询方法、设备及存储介质 |
CN116775648A (zh) * | 2023-06-05 | 2023-09-19 | 广州慧云网络科技有限公司 | 一种机房监控设备的数据处理方法、装置、设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112163013A (zh) | 数据处理方法、装置、终端设备及存储介质 | |
US11269885B2 (en) | Cache for efficient record lookups in an LSM data structure | |
US9798756B2 (en) | Systems, methods and computer program products for probing a hash table for improved latency and scalability in a processing system | |
US8938603B2 (en) | Cache system optimized for cache miss detection | |
CN112527843B (zh) | 数据查询方法、装置、终端设备和存储介质 | |
CN111639965B (zh) | 积分更新方法及装置 | |
CN108932286B (zh) | 一种数据查询方法及装置 | |
CN111737564B (zh) | 一种信息查询方法、装置、设备及介质 | |
CN105637524A (zh) | 硬件平台中的资产管理设备和方法 | |
CN110851474A (zh) | 数据查询方法、数据库中间件、数据查询设备及存储介质 | |
CN110968765A (zh) | 书籍搜索方法、计算设备及计算机存储介质 | |
CN115878027A (zh) | 一种存储对象的处理方法、装置、终端及存储介质 | |
CN112328592A (zh) | 数据存储方法、电子设备及计算机可读存储介质 | |
CN109446225A (zh) | 数据缓存方法、装置、计算机设备及存储介质 | |
CN111858581B (zh) | 一种分页查询的方法、装置、存储介质和电子设备 | |
CN112699187A (zh) | 关联数据处理方法、装置、设备、介质及产品 | |
CN112039975A (zh) | 一种报文字段的处理方法、装置、设备及存储介质 | |
CN113779426A (zh) | 数据存储方法、装置、终端设备及存储介质 | |
CN101459599A (zh) | 一种实现缓存数据访问与加载并发进行的方法及*** | |
CN114428776A (zh) | 一种面向时序数据的索引分区管理方法和*** | |
CN114063931A (zh) | 一种基于大数据的数据存储方法 | |
CN114020766A (zh) | 数据查询方法、装置及终端设备 | |
CN113434585A (zh) | 资源保存方法及设备 | |
CN113625967A (zh) | 数据存储方法、数据查询方法及服务器 | |
CN111506628A (zh) | 数据处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |