CN111694992B - 一种数据处理方法和装置 - Google Patents
一种数据处理方法和装置 Download PDFInfo
- Publication number
- CN111694992B CN111694992B CN201910198443.9A CN201910198443A CN111694992B CN 111694992 B CN111694992 B CN 111694992B CN 201910198443 A CN201910198443 A CN 201910198443A CN 111694992 B CN111694992 B CN 111694992B
- Authority
- CN
- China
- Prior art keywords
- data
- pointer
- target
- data processing
- hierarchy
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/90—Details of database functions independent of the retrieved data types
- G06F16/901—Indexing; Data structures therefor; Storage structures
- G06F16/9027—Trees
Landscapes
- Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Theoretical Computer Science (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开涉及一种数据处理方法和装置。该方法应用于基于LSM‑Tree结构的数据存储***,该方法包括:接收包含目标关键字的数据处理请求,所述数据处理请求用于请求对与所述目标关键字对应的目标数据执行数据处理操作;通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,所述句柄中包括用于指向所述目标数据的指针。本公开可以提高LSM‑Tree结构的访问速度,进而可以有效提高数据处理效率。
Description
技术领域
本公开涉及计算机技术领域,尤其涉及一种数据处理方法和装置。
背景技术
日志结构合并树(LSM-Tree,Log Structured Merge Tree)是一种广泛应用于数据存储领域的结构。LSM结构中至少包括具有可读写特性的高层存储空间(例如,MemTable)和具有只读特性的低层存储空间(例如,BaseTable)。当MemTable中的数据量超过阈值时,LSM-Tree结构需要将MemTable和BaseTable合并生成新的BaseTable,以及生成新的空的MemTable。MemTable和BaseTable之间的合并可能会导致用于存储关键字对应的数据的内存资源发生变化。目前在访问LSM-Tree结构时,每次访问都通过关键字在整个数据存储***中进行资源定位,确定用于存储关键字对应的数据的内存资源,进而对内存资源中的数据进行数据处理,数据处理效率较低。
发明内容
有鉴于此,本公开提出了一种数据处理方法和装置,使得可以提高LSM-Tree结构的访问速度,进而可以有效提高数据处理效率。
根据本公开的第一方面,提供了一种数据处理方法,所述方法应用于基于LSM-Tree结构的数据存储***,所述方法包括:接收包含目标关键字的数据处理请求,所述数据处理请求用于请求对与所述目标关键字对应的目标数据执行数据处理操作;通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,所述句柄中包括用于指向所述目标数据的指针。
在一种可能的实现方式中,通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,包括:判断所述指针是否有效;当确定所述指针有效时,通过所述指针对所述目标数据执行数据处理操作。
在一种可能的实现方式中,所述方法还包括:当确定所述指针无效时,根据所述目标关键字在所述数据存储***中进行资源定位,查找所述目标数据;根据查找结果对所述指针进行重新赋值;通过重新赋值后的所述指针对所述目标数据执行数据处理操作。
在一种可能的实现方式中,所述LSM-Tree结构至少包括第一层级和第二层级,所述第一层级中的数据具有可读写特性,所述第二层级中的数据具有只读特性;所述方法还包括:当所述第一层级中数据表的数据量大于阈值时,将所述数据表的层级确定为第三层级,以及生成新的空数据表并将所述空数据表的层级设置为第一层级,所述第三层级中的数据具有只读特性;将所述第三层级中的数据合并至所述第二层级。
在一种可能的实现方式中,所述指针包括读指针和写指针;所述方法还包括:当所述第一层级中数据表为空,且所述第三层级中的数据未合并至所述第二层级时,将所述写指针设置为空指针;当所述第三层级中的数据合并至所述第二层级之后,且所述写指针为空指针时,将所述读指针设置为空指针。
在一种可能的实现方式中,判断所述指针是否有效,包括下述至少一个步骤:当所述读指针为非空指针时,确定所述读指针有效;当所述写指针为非空指针时,确定所述写指针有效。
在一种可能的实现方式中,所述句柄中还包括第一标识,所述LSM-Tree结构中包括第二标识,在所述第三层级中的数据合并至所述第二层级之前,所述第一标识和所述第二标识相同;所述方法还包括:当所述第三层级中的数据合并至所述第二层级之后,更新所述第二标识,更新后的所述第二标识与所述第一标识不相同。
在一种可能的实现方式中,所述指针包括读指针和写指针;判断所述指针是否有效,包括:当所述第一标识和所述第二标识相同时,确定所述读指针和所述写指针有效。
在一种可能的实现方式中,所述方法还包括:根据所述目标关键字在所述数据存储***中进行资源定位之后,更新所述第一标识,更新后的所述第一标识与所述第二标识相同。
在一种可能的实现方式中,当确定所述指针有效时,通过所述指针对所述目标数据执行数据处理操作,包括下述至少一个步骤:对所述读指针指向的所述目标数据进行读取;对所述写指针指向的所述目标数据进行修改。
在一种可能的实现方式中,根据查找结果对所述指针进行重新赋值,包括:若查找到所述目标数据,则将所述目标数据的内存地址赋值给所述读指针。
在一种可能的实现方式中,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:对重新赋值后的所述读指针指向的所述目标数据进行读取。
在一种可能的实现方式中,根据查找结果对所述指针进行重新赋值,包括:若查找到所述目标数据,则将所述目标数据复制到所述第一层级;将所述目标数据在所述第一层级中的内存地址赋值给所述写指针。
在一种可能的实现方式中,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:对重新赋值后的所述写指针指向的所述目标数据进行修改。
在一种可能的实现方式中,根据查找结果对所述指针进行重新赋值,包括:若未查找到所述目标数据,则在所述第一层级中创建一个空的内存资源;将所述空的内存资源的内存地址赋值给所述写指针。
在一种可能的实现方式中,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:在重新赋值后的所述写指针指向的所述空的内存资源中写入所述目标数据。
根据本公开的第二方面,提供了一种数据处理装置,所述装置应用于基于LSM-Tree结构的数据存储***,所述装置包括:接收模块,用于接收包含目标关键字的数据处理请求,所述数据处理请求用于请求对与所述目标关键字对应的目标数据执行数据处理操作;数据处理模块,用于通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,所述句柄中包括用于指向所述目标数据的指针。
根据本公开的第三方面,提供了一种数据处理装置,包括:处理器;用于存储处理器可执行指令的存储器;其中,所述处理器被配置为执行上述第一方面所述的数据处理方法。
根据本公开的第四方面,提供了一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其中,所述计算机程序指令被处理器执行时实现上述第一方面所述的数据处理方法。
在基于LSM-Tree结构的数据存储***中,接收包含目标关键字的数据处理请求,数据处理请求用于请求对与目标关键字对应的目标数据执行数据处理操作;进而通过与目标关键字对应的句柄,对目标数据执行数据处理操作,句柄中包括用于指向目标数据的指针。在LSM-Tree结构中设置与关键字对应的句柄,通过与关键字对应的句柄直接访问LSM-Tree结构中与关键字对应的数据以执行数据处理操作,使得可以提高LSM-Tree结构的访问速度,进而可以有效提高数据处理效率。
根据下面参考附图对示例性实施例的详细说明,本公开的其它特征及方面将变得清楚。
附图说明
包含在说明书中并且构成说明书的一部分的附图与说明书一起示出了本公开的示例性实施例、特征和方面,并且用于解释本公开的原理。
图1示出一种基于LSM-Tree结构的数据存储***的示意图;
图2示出本公开一实施例的数据处理方法的流程示意图;
图3示出本公开一实施例的LSM-Tree结构的示意图;
图4示出本公开一实施例的LSM-Tree结构中的数据合并示意图;
图5示出本公开一实施例的更新句柄中指针的示意图;
图6示出本公开一实施例的更新LSM-Tree结构中第二序列号的示意图;
图7示出本公开一实施例的数据处理装置的结构示意图;
图8示出本公开一实施例的电子设备的结构示意图。
具体实施方式
以下将参考附图详细说明本公开的各种示例性实施例、特征和方面。附图中相同的附图标记表示功能相同或相似的元件。尽管在附图中示出了实施例的各种方面,但是除非特别指出,不必按比例绘制附图。
在这里专用的词“示例性”意为“用作例子、实施例或说明性”。这里作为“示例性”所说明的任何实施例不必解释为优于或好于其它实施例。
另外,为了更好的说明本公开,在下文的具体实施方式中给出了众多的具体细节。本领域技术人员应当理解,没有某些具体细节,本公开同样可以实施。在一些实例中,对于本领域技术人员熟知的方法、手段、元件和电路未作详细描述,以便于凸显本公开的主旨。
在基于LSM-Tree结构的数据存储***中,数据的存储格式为键值对(key-value)结构,value为数据的数据值,key值(关键字)为数据的索引参数。图1示出一种基于LSM-Tree结构的数据存储***的示意图。在图1所示的数据存储***中,LSM-Tree结构包括第一层级(高层级)中用于存储数据的数据表MemTabel(Memory Table),以及第二层级(低层级)中用于存储数据的数据表BaseTable。其中,MemTabel具有可读写特性,BaseTable具有只读特性。当key-value数据写入时,都是先写入第一层级中的MemTabel。当第一层级中MemTable的数据量超过阈值时,将该MemTable与第二层级中的BaseTable进行合并,得到第二层级中新的BaseTable,以及在第一层级中生成新的空的MemTale继续进行数据写入。
写入LSM-Tree结构中的数据分层存储,关键字相同的数据可以存储在不同层级的数据表中,存储在较高层级数据表中的数据相对于存储在较低层级数据表中的数据为新数据。也即,若MemTable和BaseTable中存在关键字相同的数据,MemTable中该关键字对应的数据相对于BaseTable中该关键字对应的数据为新数据,在MemTable与BaseTable合并时,MemTable中该关键字对应的数据覆盖BaseTable中该关键字对应的数据。
正如背景技术部分陈述的,由于MemTable与BaseTable的合并可能会导致存储关键字对应的数据的内存地址发生变化,因此,在访问LSM-Tree结构时,需要每次根据关键字进行资源定位,确定存储该关键字对应的数据的内存地址,进而根据该内存地址执行读操作或写操作等数据处理操作之后释放该内存地址。这种每次根据关键字进行资源定位的访问方式受限于数据存储***的规模,当数据存储***规模较大时,LSM-Tree结构的访问速度较低,进而导致数据处理效率下降。
本公开提供的数据处理方法可以应用于图1所示的基于LSM-Tree结构的数据存储***,以提高LSM-Tree结构的访问速度,进而有效提高数据处理效率。下面详细介绍本公开提供的数据处理方法。
图2示出本公开一实施例的数据处理方法的流程示意图。图2所示的方法可以应用于基于LSM-Tree结构的数据存储***,该方法可以包括:
步骤21,接收包含目标关键字的数据处理请求,数据处理请求用于请求对与目标关键字对应的目标数据执行数据处理操作。
步骤22,通过与目标关键字对应的句柄,对目标数据执行数据处理操作,句柄中包括用于指向目标数据的指针。
在LSM-Tree结构中创建全局句柄链表,该全局句柄链表中存储有LSM-Tree结构中创建的所有句柄。每个句柄中包括关键字,以及用于指向关键字对应的数据的指针,使得可以通过与关键字对应的句柄,直接对关键字对应的数据执行数据处理操作,而无需进行资源定位。
在一种可能的实现方式中,句柄中的指针包括读指针和写指针。
图3示出本公开一实施例的LSM-Tree结构的示意图。如图3所示,LSM-Tree结构中包括第一层级(高层级)的MemTabel、第二层级(低层级)的BaseTable,以及全局句柄链表。全局句柄链表中包括第一关键字对应的句柄A和第二关键字对应的句柄B。MemTabel中包括:第一关键字对应的数据a以及第二关键字对应的数据b。BaseTable中包括:第一关键字对应的数据c以及第三关键字对应的数据d。句柄A中包括:第一关键字、读指针和写指针,其中,句柄A中的读指针和写指针均指向MemTabel中第一关键字对应的数据a,即通过句柄A中的读指针和写指针可以直接访问数据a,进而对数据a执行数据处理操作。句柄B中包括:第二关键字、读指针和写指针,其中,句柄B中的读指针和写指针均指向MemTabel中第二关键字对应的数据b,即通过句柄B中的读指针和写指针可以直接访问数据b,进而对数据b执行数据处理操作。
在一种可能的实现方式中,可以针对LSM-Tree结构中访问率较高的热数据,创建该热数据对应的句柄,即创建该热数据的关键字对应的句柄,以提高热数据的访问速度。
除了可以为LSM-Tree结构中的热数据创建句柄之外,还可以根据实际需要,为LSM-Tree结构中其它数据创建句柄,本公开对此不作具体限定。
在一种可能的实现方式中,LSM-Tree结构至少包括第一层级和第二层级,第一层级中的数据具有可读写特性,第二层级中的数据具有只读特性;当第一层级中数据表的数据量超过阈值时,将该数据表的层级确定为第三层级,以及生成新的空数据表并将该空数据表的层级设置为第一层级,第三层级中的数据具有只读特性;将第三层级中的数据合并至第二层级。
阈值可以根据实际情况进行设置,本公开对此不作具体限定。
仍以上述图3为例,若图3的MemTabel中的数据量超过阈值,则需要执行图4所示的数据合并。图4示出本公开一实施例的LSM-Tree结构中的数据合并示意图。如图4所示,将数据量超过阈值的MemTabel的层级由第一层级设置为第三层级,即将数据量超过阈值的MemTabel变更为第三层级中的数据表ImmuTable(Immutable Table),以及在第一层级中生成新的空MemTable以用于后续数据写入,其中,第三层级位于第一层级和第二层级之间,第三层级中的数据具有只读特性。
将ImmuTable与BaseTable进行数据合并得到第二层级中的新的BaseTable。由于ImmuTable中第一关键字对应的数据a相对于BaseTable中第一关键字对应的数据c为新数据,因此,在数据合并过程中,ImmuTable中第一关键字对应的数据a覆盖BaseTable中第一关键字对应的数据c。在得到的新的BaseTable中,包括:第一关键字对应的数据a、第二关键字对应的数据b,以及第三关键字对应的数据d。
在一种可能的实现方式中,通过与目标关键字对应的句柄,对目标数据执行数据处理操作,包括:判断指针是否有效;当确定指针有效时,通过指针对目标数据执行数据处理操作。
在一种可能的实现方式中,还包括:当确定指针无效时,根据目标关键字在数据存储***中进行资源定位,查找目标数据;根据查找结果对指针进行重新赋值;通过重新赋值后的指针对目标数据执行数据处理操作。
当与目标关键字对应的句柄中的指针有效时,表示LSM-Tree结构中未发生数据合并,即可以通过该指针直接对目标数据进行访问以及执行数据处理操作;当与目标关键字对应的句柄中的指针无效时,表示LSM-Tree结构中发生了数据合并,目标关键字对应的数据的内存地址发生了变化,该指针无法准确指向目标数据,此时,需要根据目标关键字重新进行资源定位查找目标数据之后,对该指针重新赋值,进而可以通过该指针对目标数据进行访问以及执行数据处理操作。
判断指针是否有效的方式包括但不限于下述两种方式。
第一种:
在一种可能的实现方式中,当第一层级中数据表为空,且第三层级中的数据未合并至第二层级时,将写指针设置为空指针;当第三层级中的数据合并至第二层级之后,且写指针为空指针时,将读指针设置为空指针。
在一种可能的实现方式中,判断指针是否有效,包括下述至少一个步骤:当读指针为非空指针时,确定读指针有效;当写指针为非空指针时,确定写指针有效。
LSM-Tree结构中执行ImmuTable与BaseTable的数据合并的过程中,同步对全局句柄链表中每个句柄内的指针进行更新。
在数据量超过阈值的MemTabel变更为ImmuTable,以及生成新的空的MemTable之后,且ImmuTable与BaseTable进行数据合并之前,由于ImuuTable具有只读性,此时,遍历全局句柄链表,将全局句柄链表中每个句柄中的写指针设置为空指针,读指针不变。即针对于任一句柄,仅可以通过句柄中的读指针直接执行数据访问以及数据处理操作,而无法通过句柄中的写指针直接执行数据访问以及数据处理操作。
在ImmuTable与BaseTable进行数据合并之后,数据的内存地址发生了变化,此时,遍历全局句柄链表,针对全局句柄链表中的任一句柄:若该句柄中的写指针仍为空指针,表示LSM-Tree结构中未通过该句柄中的关键字进行资源定位对写指针进行过重新赋值,此时,将该句柄中的读指针设置为空指针,即无法通过该句柄中的读指针和写指针直接执行数据访问以及数据处理操作;若该句柄中的写指针为非空指针,表示LSM-Tree结构中已经通过该句柄中的关键字进行资源定位对写指针进行过重新赋值,此时,无需对句柄中的读指针和写指针进行更新,即可以通过该句柄中的读指针和写指针直接执行数据访问以及数据处理操作。
仍以上述图4为例,在执行图4所示的数据合并的过程中,图5示出本公开一实施例的更新句柄中指针的示意图。如图5所示,在数据量超过阈值的MemTabel变更为ImmuTable,以及生成新的空的MemTable,且ImmuTable与BaseTable进行数据合并之前,遍历全局句柄链表,将句柄A和句柄B中的写指针设置为空指针,读指针不变。
句柄A中的写指针设置为空指针,表示该写指针是无效的,即无法通过句柄A中的写指针来对ImmuTable中的数据a进行访问以及执行数据处理操作,此时,仍然可以通过句柄内A中的读指针来对ImmuTable中的数据a进行访问以及执行数据处理操作。句柄B中的写指针设置为空指针,表示该写指针是无效的,即无法通过句柄B中的写指针来对ImmuTable中的数据b进行访问以及执行数据处理操作,此时,仍然可以通过句柄内B中的读指针来对ImmuTable中的数据b进行访问以及执行数据处理操作。
在ImmuTable与BaseTable进行数据合并之后,遍历全局句柄链表,将句柄A和句柄B中的读指针设置为空指针。
句柄A中的读指针和写指针均被设置为空指针,即句柄A中的读指针和写指针均是无效的,此时,句柄A中的读指针和写指针均无法直接对BaseTable中的数据a进行访问以及执行数据处理操作。句柄B中的读指针和写指针均被设置为空指针,即句柄B中的读指针和写指针均是无效的,此时,句柄B中的读指针和写指针均无法直接对BaseTable中的数据b进行访问以及执行数据处理操作。
由于LSM-Tree结构中执行ImmuTable与BaseTable的数据合并的过程中,同步对全局句柄链表中每个句柄内的指针进行了更新,使得在接收到包含目标关键字的数据处理请求后,可以通过判断与目标关键字对应的句柄内的指针是否为非空指针,来确定与目标关键字对应的句柄内的指针是否有效,并在确定与目标关键字对应的句柄内的指针有效时,通过与目标关键字对应的句柄内的指针直接对目标数据进行访问以及执行数据处理操作,而无需通过资源定位在LSM-Tree结构中查找目标数据,从而提高了LSM-Tree结构的访问速度,进而提高了数据处理效率。
第二种:
在一种可能的实现方式中,句柄中还包括第一标识,LSM-Tree结构中包括第二标识,在第三层级中的数据合并至第二层级之前,第一标识和第二标识相同;当第三层级中的数据合并至第二层级之后,更新第二标识,更新后的第二标识与第一标识不相同。
在一种可能的实现方式中,根据目标关键字在数据存储***中进行资源定位之后,更新第一标识,更新后的第一标识与第二标识相同。
在一种可能的实现方式中,指针包括读指针和写指针;判断指针是否有效,包括:当第一标识和第二标识相同时,确定读指针和写指针有效。
在一种可能的实现方式中,第一标识为第一序列号,第二标识为第二序列号。
LSM-Tree结构中执行ImmuTable与BaseTable的数据合并的过程中,同步对LSM-Tree结构中的第二序列号进行更新。
在MemTabel中数据量小于阈值时,或在数据量超过阈值的MemTabel变更为ImmuTable,以及生成新的空的MemTable之后,且ImmuTable与BaseTable进行数据合并之前,句柄中的第一序列号与LSM-Tree结构中的第二序列号相同。
在ImmuTable与BaseTable进行数据合并之后,数据的内存地址发生了变化,递增第二序列号,例如,将第二序列号加1。此时,第一序列号与第二序列号不相同。在根据句柄中的关键字在数据存储***中进行资源定位并对句柄中的指针进行重新赋值之后,更新句柄中的第一序列号,以使得句柄中更新后的的第一序列号与LSM-Tree中的第二序列号相同,即句柄中的指针变为有效。
仍以上述图4为例,在执行图4所示的数据合并的过程中,图6示出本公开一实施例的更新LSM-Tree中第二序列号的示意图。如图6所示,在数据量超过阈值的MemTabel变更为ImmuTable,以及生成新的空的MemTable,且ImmuTable与BaseTable进行数据合并之前,句柄A中的第一序列号、句柄B中的第一序列号与LSM-Tree中的第二序列号均为003。
在ImmuTable与BaseTable进行数据合并之后,递增第二序列号,第二序列号变为004。
句柄A中的第一序列号003与LSM-Tree中的第二序列号004不相同,即句柄A中的读指针和写指针均是无效的,此时,句柄A中的读指针和写指针均无法直接对BaseTable中的数据a进行访问以及执行数据处理操作。句柄B中的第一序列号003与LSM-Tree中的第二序列号004不相同,即句柄B中的读指针和写指针均是无效的,此时,句柄B中的读指针和写指针均无法直接对BaseTable中的数据b进行访问以及执行数据处理操作。
第一标识和第二标识除了可以是序列号之外,还可以是其它标识,本公开对此不做具体限定。
由于LSM-Tree结构中执行ImmuTable与BaseTable的数据合并的过程中,同步对LSM-Tree结构中的第二标识进行了更新,使得在接收到包含目标关键字的数据处理请求后,可以通过判断与目标关键字对应的句柄内的第一标识与LSM-Tree结构中的第二标识是否相同,来确定与目标关键字对应的句柄内的指针是否有效,在确定与目标关键字对应的句柄内的指针有效时,通过与目标关键字对应的句柄内的指针直接对目标数据进行访问以及执行数据处理操作,无需通过资源定位在LSM-Tree结构中查找与目标关键字对应的目标数据,从而提高了LSM-Tree结构的访问速度,进而提高了数据处理效率。
在一种可能的实现方式中,当确定指针有效时,通过指针对目标数据执行数据处理操作,包括下述至少一个步骤:对读指针指向的目标数据进行读取;对写指针指向的目标数据进行修改。
当与目标关键字对应的句柄中的读指针为有效时,可以通过该读指针直接读取目标数据;当与目标关键字对应的句柄中的写指针为有效时,可以通过该写指针直接对目标数据进行修改。
当确定与目标关键字对应的句柄中的指针无效时,根据目标关键字在数据存储***中进行资源定位,查找目标数据,以及根据查找结果对与目标关键字对应的句柄中的指针进行重新赋值,进而通过重新赋值后的该指针对目标数据执行数据处理操作。
根据目标关键字在数据存储***中进行资源定位,查找目标数据的过程为:步骤1,根据目标关键字,在MemTable中查找目标数据,若查找到,则确定目标数据的内存地址,若未查找到,则继续执行步骤2;步骤2,若LSM-Tree结构中存在ImmuTable,则执行步骤3,否则执行步骤4;步骤3,根据目标关键字,在ImmuTable中查找目标数据,若查找到,则确定目标数据的内存地址,若未查找到,继续执行步骤4;步骤4,根据目标关键字,在BaseTable中查找目标数据,若查找到,则确定目标数据的内存地址,若未查找到,则确定LSM-Tree结构中未存储目标数据。
在一种可能的实现方式中,根据查找结果对指针进行重新赋值,包括:若查找到目标数据,则将目标数据的内存地址赋值给读指针。
在一种可能的实现方式中,通过重新赋值后的指针对目标数据执行数据处理操作,包括:对重新赋值后的读指针指向的目标数据进行读取。
根据目标关键字在数据存储***中进行资源定位查找到目标数据之后,将目标数据的内存地址赋值给与目标关键字对应的句柄中的读指针,使得在LSM-Tree结构中下一次执行ImmuTable与BaseTable的数据合并之前,均可以通过与目标关键字对应的句柄中的读指针对目标数据进行直接读取,而无需再次进行资源定位,有效提高了目标数据的访问速度和处理效率。
在一种可能的实现方式中,根据查找结果对指针进行重新赋值,包括:若查找到目标数据,则将目标数据复制到第一层级;将所述目标数据在第一层级中的内存地址赋值给写指针。
在一种可能的实现方式中,通过重新赋值后的指针对目标数据执行数据处理操作,包括:对重新赋值后的写指针指向的目标数据进行修改。
由于只有MemTable具有可写特性,使得可以根据目标关键字在数据存储***中进行资源定位查找到目标数据之后,将目标数据复制到MemTable中,进而将目标数据在MemTable中的内存地址赋值给与目标关键字对应的句柄中的写指针,使得在LSM-Tree结构中下一次执行ImmuTable与BaseTable的数据合并之前,均可以通过与目标关键字对应的句柄中的写指针直接对目标数据进行修改,而无需再次进行资源定位,有效提高了目标数据的访问速度和处理效率。
在一种可能的实现方式中,根据查找结果对指针进行重新赋值,包括:若未查找到目标数据,则在第一层级中创建一个空的内存资源;将空的内存资源的内存地址赋值给读指针和写指针。
根据目标关键字在数据存储***中进行资源定位之后,若未查找到目标数据,表示数据存储***中未存储目标数据,此时,在MemTable中创建一个空的内存资源,进而将该空的内存资源的内存地址赋值给与目标关键字对应的句柄中的读指针和写指针,使得后续可以根据与目标关键字对应的句柄中的读指针直接确定数据存储***中未存储目标数据,而无需再次进行资源定位,或者可以根据与目标关键字对应的句柄中的写指针直接向该内存资源中写入目标数据。
在一种可能的实现方式中,通过重新赋值后的指针对目标数据执行数据处理操作,包括:在重新赋值后的写指针指向的空的内存资源中写入目标数据。
在基于LSM-Tree结构的数据存储***中,接收包含目标关键字的数据处理请求,数据处理请求用于请求对与目标关键字对应的目标数据执行数据处理操作;进而通过与目标关键字对应的句柄,对目标数据执行数据处理操作,句柄中包括用于指向目标数据的指针。在LSM-Tree结构中设置与关键字对应的句柄,通过与关键字对应的句柄直接访问LSM-Tree结构中与关键字对应的数据以执行数据处理操作,使得可以提高LSM-Tree结构的访问速度,进而可以有效提高数据处理效率。
图7示出本公开一实施例的数据处理装置的结构示意图。图7所示的装置70可以应用于基于LSM-Tree结构的数据存储***,并可以用于执行上述图2所示方法实施例的步骤,装置70包括:
接收模块71,用于接收包含目标关键字的数据处理请求,数据处理请求用于请求对与目标关键字对应的目标数据执行数据处理操作;
数据处理模块72,用于通过与目标关键字对应的句柄,对目标数据执行数据处理操作,句柄中包括用于指向目标数据的指针。
在一种可能的实现方式中,数据处理模块72包括:
判断子模块,用于判断指针是否有效;
数据处理子模块,用于当确定指针有效时,通过指针对目标数据执行数据处理操作。
在一种可能的实现方式中,数据处理模块72还包括:
查找子模块,用于当确定指针无效时,根据目标关键字在数据存储***中进行资源定位,查找目标数据;
指针赋值子模块,用于根据查找结果对指针进行重新赋值;
数据处理子模块,还用于通过重新赋值后的指针对目标数据执行数据处理操作。
在一种可能的实现方式中,LSM-Tree结构至少包括第一层级和第二层级,第一层级中的数据具有可读写特性,第二层级中的数据具有只读特性;
装置70还包括:
生成模块,用于当第一层级中数据表的数据量超过阈值时,将该数据表的层级确定为第三层级,以及生成新的空数据表并将该空数据表的层级设置为第一层级,第三层级中的数据具有只读特性;
合并模块,用于将第三层级中的数据合并至第二层级。
在一种可能的实现方式中,指针包括读指针和写指针;
装置70还包括:
指针更新模块,用于当第一层级总数据表为空,且第三层级中的数据未合并至第二层级时,将写指针设置为空指针;
指针更新模块,还用于当第三层级中的数据合并至第二层级之后,且写指针为空指针时,将读指针设置为空指针。
在一种可能的实现方式中,判断子模块包括:
读指针判断单元,用于当读指针为非空指针时,确定读指针有效;
写指针判断单元,用于当写指针为非空指针时,确定写指针有效。
在一种可能的实现方式中,句柄中还包括第一标识,LSM-Tree结构中包括第二标识,在第三层级中的数据合并至第二层级之前,第一标识和第二标识相同;
装置70还包括:
标识更新模块,用于当第三层级中的数据合并至第二层级之后,更新第二标识,更新后的第二标识与第一标识不相同。
在一种可能的实现方式中,指针包括读指针和写指针;
判断模块子具体用于:
当第一标识和第二标识相同时,确定读指针和写指针有效。
在一种可能的实现方式中,标识更新单元,还用于根据目标关键字在数据存储***中进行资源定位之后,更新第一标识,更新后的第一标识与第二标识相同。
在一种可能的实现方式中,数据处理子模块包括:
读取单元,用于对读指针指向的目标数据进行读取;
修改单元,用于对写指针指向的目标数据进行修改。
在一种可能的实现方式中,指针赋值模块子模块具体用于:
若查找到目标数据,则将目标数据的内存地址赋值给读指针。
在一种可能的实现方式中,读取单元还用于:
对重新赋值后的读指针指向的目标数据进行读取。
在一种可能的实现方式中,指针赋值模块子模块具体用于:
若查找到目标数据,则将目标数据复制到第一层级;
将目标数据在第一层级中的内存地址赋值给写指针。
在一种可能的实现方式中,修改单元还用于:
对重新赋值后的写指针指向的目标数据进行修改。
在一种可能的实现方式中,指针赋值模块子模块具体用于:
若未查找到目标数据,则在第一层级中创建一个空的内存资源;
将空的内存资源的内存地址赋值给写指针。
在一种可能的实现方式中,数据处理子模块还包括:
写入单元,用于在重新赋值后的写指针指向的空的内存资源中写入目标数据。
本公开提供的装置70能够实现图2所示方法实施例中的各个步骤,并实现相同的技术效果,为避免重复,这里不再赘述。
图8示出本公开一实施例的电子设备的结构示意图。如图8所示,在硬件层面,该电子设备包括处理器,可选地还包括内部总线、网络接口、存储器。其中,存储器可能包含内存,例如高速随机存取存储器(Random-Access Memory,RAM),也可能还包括非易失性存储器(non-volatile memory),例如至少1个磁盘存储器等。当然,该电子设备还可能包括其他业务所需要的硬件。
处理器、网络接口和存储器可以通过内部总线相互连接,该内部总线可以是ISA(Industry Standard Architecture,工业标准体系结构)总线、PCI(PeripheralComponent Interconnect,外设部件互连标准)总线或EISA(Extended Industry StandardArchitecture,扩展工业标准结构)总线等。所述总线可以分为地址总线、数据总线、控制总线等。为便于表示,图8中仅用一个双向箭头表示,但并不表示仅有一根总线或一种类型的总线。
存储器,存放程序。具体地,程序可以包括程序代码,所述程序代码包括计算机操作指令。存储器可以包括内存和非易失性存储器,并向处理器提供指令和数据。
处理器从非易失性存储器中读取对应的计算机程序到内存中然后运行,在逻辑层面上形成数据处理装置。处理器,执行存储器所存放的程序,并具体执行:接收包含目标关键字的数据处理请求,数据处理请求用于请求对与目标关键字对应的目标数据执行数据处理操作;通过与目标关键字对应的句柄,对目标数据执行数据处理操作,句柄中包括用于指向目标数据的指针。
在一种可能的实现方式中,处理器被具体配置为执行:判断指针是否有效;当确定指针有效时,通过指针对目标数据执行数据处理操作。
在一种可能的实现方式中,处理器被具体配置为执行:当确定指针无效时,根据目标关键字在数据存储***中进行资源定位,查找目标数据;根据查找结果对指针进行重新赋值;通过重新赋值后的指针对目标数据执行数据处理操作。
在一种可能的实现方式中,LSM-Tree结构至少包括第一层级和第二层级,第一层级中的数据具有可读写特性,第二层级中的数据具有只读特性;处理器被具体配置为执行:当第一层级中数据表的数据量超过阈值时,将该数据表的层级确定为第三层级,以及生成新的空数据表并将该空数据表的层级设置为第一层级,第三层级中的数据具有只读特性;将第三层级中的数据合并至第第二层级。
在一种可能的实现方式中,所述指针包括读指针和写指针;处理器被具体配置为执行:当第一层级中数据表为空,且第三层级中的数据未合并至第二层级时,将写指针设置为空指针;当第三层级中的数据合并至第二层级之后,且写指针为空指针时,将读指针设置为空指针。
在一种可能的实现方式中,处理器被具体配置为执行:当读指针为非空指针时,确定读指针有效;当写指针为非空指针时,确定写指针有效。
在一种可能的实现方式中,句柄中还包括第一标识,LSM-Tree结构中包括第二标识,在第三层级中的数据合并至第二层级之前,第一标识和第二标识相同;处理器被具体配置为执行:当第三层级中的数据合并至第二层级之后,更新第二标识,更新后的第二标识与第一标识不相同。
在一种可能的实现方式中,指针包括读指针和写指针;处理器被具体配置为执行:当第一标识和第二标识相同时,确定读指针和写指针有效。
在一种可能的实现方式中,处理器被具体配置为执行:根据目标关键字在数据存储***中进行资源定位之后,更新第一标识,更新后的第一标识与第二标识相同。
在一种可能的实现方式中,处理器被具体配置为执行:对读指针指向的目标数据进行读取;对写指针指向的目标数据进行修改。
在一种可能的实现方式中,处理器被具体配置为执行:若查找到目标数据,则将目标数据的内存地址赋值给读指针。
在一种可能的实现方式中,处理器被具体配置为执行:对重新赋值后的读指针指向的目标数据进行读取。
在一种可能的实现方式中,处理器被具体配置为执行:若查找到目标数据,则将目标数据复制到第一层级;将目标数据在第一层级中的内存地址赋值给写指针。
在一种可能的实现方式中,处理器被具体配置为执行:对重新赋值后的写指针指向的目标数据进行修改。
在一种可能的实现方式中,处理器被具体配置为执行:若未查找到目标数据,则在第一层级中创建一个空的内存资源;将空的内存资源的内存地址赋值给写指针。
在一种可能的实现方式中,处理器被具体配置为执行:在重新赋值后的写指针指向的空的内存资源中写入目标数据。
处理器可能是一种集成电路芯片,具有信号的处理能力。在实现过程中,上述方法的各步骤可以通过处理器中的硬件的集成逻辑电路或者软件形式的指令完成。上述的处理器可以是通用处理器,包括中央处理器(Central Processing Unit,CPU)、网络处理器(Network Processor,NP)等;还可以是数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit,ASIC)、现场可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本说明书实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。结合本说明书实施例所公开的方法的步骤可以直接体现为硬件译码处理器执行完成,或者用译码处理器中的硬件及软件模块组合执行完成。软件模块可以位于随机存储器,闪存、只读存储器,可编程只读存储器或者电可擦写可编程存储器、寄存器等本领域成熟的存储介质中。该存储介质位于存储器,处理器读取存储器中的信息,结合其硬件完成上述方法的步骤。
该电子设备可执行图2所示方法实施例执行的方法,并实现上述图2所示方法实施例的功能,本说明书实施例在此不再赘述。
本说明书实施例还提出了一种计算机可读存储介质,该计算机可读存储介质存储一个或多个程序,该一个或多个程序包括指令,该指令当被包括多个应用程序的电子设备执行时,能够使该电子设备执行图2所示实施例中的数据处理方法,并具体执行图2所示方法实施例的步骤。
本公开可以是***、方法和/或计算机程序产品。计算机程序产品可以包括计算机可读存储介质,其上载有用于使处理器实现本公开的各个方面的计算机可读程序指令。
计算机可读存储介质可以是可以保持和存储由指令执行设备使用的指令的有形设备。计算机可读存储介质例如可以是――但不限于――电存储设备、磁存储设备、光存储设备、电磁存储设备、半导体存储设备或者上述的任意合适的组合。计算机可读存储介质的更具体的例子(非穷举的列表)包括:便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、静态随机存取存储器(SRAM)、便携式压缩盘只读存储器(CD-ROM)、数字多功能盘(DVD)、记忆棒、软盘、机械编码设备、例如其上存储有指令的打孔卡或凹槽内凸起结构、以及上述的任意合适的组合。这里所使用的计算机可读存储介质不被解释为瞬时信号本身,诸如无线电波或者其他自由传播的电磁波、通过波导或其他传输媒介传播的电磁波(例如,通过光纤电缆的光脉冲)、或者通过电线传输的电信号。
这里所描述的计算机可读程序指令可以从计算机可读存储介质下载到各个计算/处理设备,或者通过网络、例如因特网、局域网、广域网和/或无线网下载到外部计算机或外部存储设备。网络可以包括铜传输电缆、光纤传输、无线传输、路由器、防火墙、交换机、网关计算机和/或边缘服务器。每个计算/处理设备中的网络适配卡或者网络接口从网络接收计算机可读程序指令,并转发该计算机可读程序指令,以供存储在各个计算/处理设备中的计算机可读存储介质中。
用于执行本公开操作的计算机程序指令可以是汇编指令、指令集架构(ISA)指令、机器指令、机器相关指令、微代码、固件指令、状态设置数据、或者以一种或多种编程语言的任意组合编写的源代码或目标代码,所述编程语言包括面向对象的编程语言—诸如Smalltalk、C++等,以及常规的过程式编程语言—诸如“C”语言或类似的编程语言。计算机可读程序指令可以完全地在用户计算机上执行、部分地在用户计算机上执行、作为一个独立的软件包执行、部分在用户计算机上部分在远程计算机上执行、或者完全在远程计算机或服务器上执行。在涉及远程计算机的情形中,远程计算机可以通过任意种类的网络—包括局域网(LAN)或广域网(WAN)—连接到用户计算机,或者,可以连接到外部计算机(例如利用因特网服务提供商来通过因特网连接)。在一些实施例中,通过利用计算机可读程序指令的状态信息来个性化定制电子电路,例如可编程逻辑电路、现场可编程门阵列(FPGA)或可编程逻辑阵列(PLA),该电子电路可以执行计算机可读程序指令,从而实现本公开的各个方面。
这里参照根据本公开实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各个方面。应当理解,流程图和/或框图的每个方框以及流程图和/或框图中各方框的组合,都可以由计算机可读程序指令实现。
这些计算机可读程序指令可以提供给通用计算机、专用计算机或其它可编程数据处理装置的处理器,从而生产出一种机器,使得这些指令在通过计算机或其它可编程数据处理装置的处理器执行时,产生了实现流程图和/或框图中的一个或多个方框中规定的功能/动作的装置。也可以把这些计算机可读程序指令存储在计算机可读存储介质中,这些指令使得计算机、可编程数据处理装置和/或其他设备以特定方式工作,从而,存储有指令的计算机可读介质则包括一个制造品,其包括实现流程图和/或框图中的一个或多个方框中规定的功能/动作的各个方面的指令。
也可以把计算机可读程序指令加载到计算机、其它可编程数据处理装置、或其它设备上,使得在计算机、其它可编程数据处理装置或其它设备上执行一系列操作步骤,以产生计算机实现的过程,从而使得在计算机、其它可编程数据处理装置、或其它设备上执行的指令实现流程图和/或框图中的一个或多个方框中规定的功能/动作。
附图中的流程图和框图显示了根据本公开的多个实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或指令的一部分,所述模块、程序段或指令的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
以上已经描述了本公开的各实施例,上述说明是示例性的,并非穷尽性的,并且也不限于所披露的各实施例。在不偏离所说明的各实施例的范围和精神的情况下,对于本技术领域的普通技术人员来说许多修改和变更都是显而易见的。本文中所用术语的选择,旨在最好地解释各实施例的原理、实际应用或对市场中的技术的技术改进,或者使本技术领域的其它普通技术人员能理解本文披露的各实施例。
Claims (17)
1.一种数据处理方法,其特征在于,所述方法应用于基于日志结构合并树LSM-Tree结构的数据存储***,所述方法包括:
接收包含目标关键字的数据处理请求,所述数据处理请求用于请求对与所述目标关键字对应的目标数据执行数据处理操作;
通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,所述句柄中包括用于指向所述目标数据的指针;
所述通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,包括:
判断所述指针是否有效;
当确定所述指针有效时,通过所述指针对所述目标数据执行数据处理操作;
所述方法还包括:
当确定所述指针无效时,根据所述目标关键字在所述数据存储***中进行资源定位,查找所述目标数据;
根据查找结果对所述指针进行重新赋值;
通过重新赋值后的所述指针对所述目标数据执行数据处理操作。
2.根据权利要求1所述的方法,其特征在于,所述LSM-Tree结构至少包括第一层级和第二层级,所述第一层级中的数据具有可读写特性,所述第二层级中的数据具有只读特性;
所述方法还包括:
当所述第一层级中数据表的数据量超过阈值时,将所述数据表的层级确定为第三层级,以及生成新的空数据表并将所述空数据表的层级设置为第一层级,所述第三层级中的数据具有只读特性;
将所述第三层级中的数据合并至所述第二层级。
3.根据权利要求2所述的方法,其特征在于,所述指针包括读指针和写指针;
所述方法还包括:
当所述第一层级中数据表为空,且所述第三层级中的数据未合并至所述第二层级时,将所述写指针设置为空指针;
当所述第三层级中的数据合并至所述第二层级之后,且所述写指针为空指针时,将所述读指针设置为空指针。
4.根据权利要求3所述的方法,其特征在于,判断所述指针是否有效,包括下述至少一个步骤:
当所述读指针为非空指针时,确定所述读指针有效;
当所述写指针为非空指针时,确定所述写指针有效。
5.根据权利要求2所述的方法,其特征在于,所述句柄中还包括第一标识,所述LSM-Tree结构中包括第二标识,在所述第三层级中的数据合并至所述第二层级之前,所述第一标识和所述第二标识相同;
所述方法还包括:
当所述第三层级中的数据合并至所述第二层级之后,更新所述第二标识,更新后的所述第二标识与所述第一标识不相同。
6.根据权利要求5所述的方法,其特征在于,所述指针包括读指针和写指针;
判断所述指针是否有效,包括:
当所述第一标识和所述第二标识相同时,确定所述读指针和所述写指针有效。
7.根据权利要求6所述的方法,其特征在于,所述方法还包括:
根据所述目标关键字在所述数据存储***中进行资源定位之后,更新所述第一标识,更新后的所述第一标识与所述第二标识相同。
8.根据权利要求4或7所述的方法,其特征在于,当确定所述指针有效时,通过所述指针对所述目标数据执行数据处理操作,包括下述至少一个步骤:
对所述读指针指向的所述目标数据进行读取;
对所述写指针指向的所述目标数据进行修改。
9.根据权利要求4或7所述的方法,其特征在于,根据查找结果对所述指针进行重新赋值,包括:
若查找到所述目标数据,则将所述目标数据的内存地址赋值给所述读指针。
10.根据权利要求9所述的方法,其特征在于,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:
对重新赋值后的所述读指针指向的所述目标数据进行读取。
11.根据权利要求4或7所述的方法,其特征在于,根据查找结果对所述指针进行重新赋值,包括:
若查找到所述目标数据,则将所述目标数据复制到所述第一层级;
将所述目标数据在所述第一层级中的内存地址赋值给所述写指针。
12.根据权利要求11所述的方法,其特征在于,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:
对重新赋值后的所述写指针指向的所述目标数据进行修改。
13.根据权利要求4或7所述的方法,其特征在于,根据查找结果对所述指针进行重新赋值,包括:
若未查找到所述目标数据,则在所述第一层级中创建一个空的内存资源;
将所述空的内存资源的内存地址赋值给所述写指针。
14.根据权利要求13所述的方法,其特征在于,通过重新赋值后的所述指针对所述目标数据执行数据处理操作,包括:
在重新赋值后的所述写指针指向的所述空的内存资源中写入所述目标数据。
15.一种数据处理装置,其特征在于,所述装置应用于基于LSM-Tree结构的数据存储***,所述装置包括:
接收模块,用于接收包含目标关键字的数据处理请求,所述数据处理请求用于请求对与所述目标关键字对应的目标数据执行数据处理操作;
数据处理模块,用于通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,所述句柄中包括用于指向所述目标数据的指针;
其中,所述数据处理模块通过与所述目标关键字对应的句柄,对所述目标数据执行数据处理操作,包括:
判断所述指针是否有效;
当确定所述指针有效时,通过所述指针对所述目标数据执行数据处理操作;
当确定所述指针无效时,根据所述目标关键字在所述数据存储***中进行资源定位,查找所述目标数据;
根据查找结果对所述指针进行重新赋值;
通过重新赋值后的所述指针对所述目标数据执行数据处理操作。
16.一种数据处理装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行权利要求1-14任一项所述的数据处理方法。
17.一种非易失性计算机可读存储介质,其上存储有计算机程序指令,其特征在于,所述计算机程序指令被处理器执行时实现权利要求1-14任一项所述的数据处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910198443.9A CN111694992B (zh) | 2019-03-15 | 2019-03-15 | 一种数据处理方法和装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910198443.9A CN111694992B (zh) | 2019-03-15 | 2019-03-15 | 一种数据处理方法和装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111694992A CN111694992A (zh) | 2020-09-22 |
CN111694992B true CN111694992B (zh) | 2023-05-26 |
Family
ID=72475364
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910198443.9A Active CN111694992B (zh) | 2019-03-15 | 2019-03-15 | 一种数据处理方法和装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111694992B (zh) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115934023B (zh) * | 2021-08-31 | 2024-06-18 | 华为技术有限公司 | 数据处理方法、数据处理装置以及相关设备 |
CN114398378B (zh) * | 2022-03-25 | 2022-11-01 | 北京奥星贝斯科技有限公司 | 确定索引代价的方法和装置 |
CN116431066B (zh) * | 2023-03-21 | 2024-04-26 | 深圳市万翼数字技术有限公司 | 数据存储方法、装置、电子设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447059A (zh) * | 2014-09-29 | 2016-03-30 | 华为技术有限公司 | 一种数据处理方法及装置 |
CN105787093A (zh) * | 2016-03-17 | 2016-07-20 | 清华大学 | 一种基于LSM-Tree结构的日志文件***的构建方法 |
CN106844650A (zh) * | 2017-01-20 | 2017-06-13 | 中国科学院计算技术研究所 | 一种日志合并树的合并方法及*** |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10592348B2 (en) * | 2016-06-17 | 2020-03-17 | Acronis International Gmbh | System and method for data deduplication using log-structured merge trees |
US10303363B2 (en) * | 2016-10-19 | 2019-05-28 | Acronis International Gmbh | System and method for data storage using log-structured merge trees |
-
2019
- 2019-03-15 CN CN201910198443.9A patent/CN111694992B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105447059A (zh) * | 2014-09-29 | 2016-03-30 | 华为技术有限公司 | 一种数据处理方法及装置 |
CN105787093A (zh) * | 2016-03-17 | 2016-07-20 | 清华大学 | 一种基于LSM-Tree结构的日志文件***的构建方法 |
CN106844650A (zh) * | 2017-01-20 | 2017-06-13 | 中国科学院计算技术研究所 | 一种日志合并树的合并方法及*** |
Non-Patent Citations (1)
Title |
---|
马文龙 ; 朱妤晴 ; 蒋德钧 ; 熊劲 ; 张立新 ; 孟潇 ; 包云岗 ; .Key-Value型NoSQL本地存储***研究.计算机学报.2017,(08),全文. * |
Also Published As
Publication number | Publication date |
---|---|
CN111694992A (zh) | 2020-09-22 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111694992B (zh) | 一种数据处理方法和装置 | |
CN111241040B (zh) | 信息获取方法、装置、电子设备及计算机存储介质 | |
CN109284321B (zh) | 数据加载方法、装置、计算设备和计算机可读存储介质 | |
CN110764748B (zh) | 代码调用方法、装置、终端及存储介质 | |
JP7254925B2 (ja) | 改良されたデータマッチングのためのデータレコードの字訳 | |
CN113536174A (zh) | 一种界面加载方法、装置及设备 | |
CN111124480A (zh) | 应用程序包的生成方法、装置、电子设备及存储介质 | |
CN110232156B (zh) | 基于长文本的信息推荐方法及装置 | |
CN114840427A (zh) | 一种代码测试、测试用例生成的方法及装置 | |
CN111538667A (zh) | 一种页面测试的方法及装置 | |
US9946755B2 (en) | Automated hybrid constraint database manager | |
CN109409037B (zh) | 一种数据混淆规则的生成方法、装置及设备 | |
CN107368281B (zh) | 一种数据处理方法及装置 | |
CN115934161A (zh) | 一种代码变更的影响分析方法、装置以及设备 | |
CN110968500A (zh) | 一种测试用例的执行方法及装置 | |
CN112148746B (zh) | 生成数据库表结构文档的方法、装置、电子装置和存储介质 | |
CN110874322A (zh) | 一种用于应用程序的测试方法及测试服务器 | |
CN111382179B (zh) | 数据处理方法、装置及电子设备 | |
CN110245136B (zh) | 数据检索方法及装置、设备及存储设备 | |
CN109460255B (zh) | 内存地址的查询方法及装置 | |
CN111459398B (zh) | 一种分布式***的数据处理方法和装置 | |
CN111722785A (zh) | 一种缓存更新方法和装置 | |
CN112286572A (zh) | 一种业务流程的配置方法及装置 | |
CN110716946A (zh) | 特征规则匹配库的更新方法、装置、存储介质及电子设备 | |
CN111143232A (zh) | 用于存储元数据的方法、设备和计算机程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |