CN115408547A - 一种字典树构建方法、装置、设备及存储介质 - Google Patents
一种字典树构建方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN115408547A CN115408547A CN202211124841.4A CN202211124841A CN115408547A CN 115408547 A CN115408547 A CN 115408547A CN 202211124841 A CN202211124841 A CN 202211124841A CN 115408547 A CN115408547 A CN 115408547A
- Authority
- CN
- China
- Prior art keywords
- data
- point data
- character
- identifier
- point
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/51—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/20—Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
- G06F16/22—Indexing; Data structures therefor; Storage structures
- G06F16/2228—Indexing structures
- G06F16/2246—Trees, e.g. B+trees
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/50—Information retrieval; Database structures therefor; File system structures therefor of still image data
- G06F16/53—Querying
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Software Systems (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种字典树构建方法、装置、设备及存储介质。该方法包括:获取图数据中的点数据的外部标识和点数据的内部标识;根据所述点数据的外部标识和所述点数据的内部标识构建字典树,通过本发明的技术方案,能够基于构建的字典树快速获取点数据的内部标识和外部标识的映射关系,从而解决图数据入库或者入内存时效率低、用时长以及磁盘或内存消耗大的问题,进而提升数据导入时的性能。
Description
技术领域
本发明实施例涉及计算机技术领域,尤其涉及一种字典树构建方法、装置、设备及存储介质。
背景技术
图数据库中存放的数据是图中点和边的数据的集合。点和边还可以分别带有自己的属性数据。在我们的分布式图数据库***存储过程中,每个点数据在存入图数据库的过程中需要被映射到图数据库内部维护的一个唯一的内部标识(即点数据的外部标识到内部标识的映射),每一个边数据则需要根据它的两个端点的外部标识获取内部标识来把边数据转换成图数据库中可以存放的数据。获取点数据的内部标识和外部标识的映射关系的效率将极大地影响我们的图数据库加载数据的能力,因此,如何快速获取点数据的内部标识和外部标识的映射关系成为当前亟需解决的问题。
发明内容
本发明实施例提供一种字典树构建方法、装置、设备及存储介质,能够基于构建的字典树快速获取点数据的内部标识和外部标识的映射关系,从而解决图数据入库或者入内存时效率低、用时长以及磁盘或内存消耗大的问题,进而提升数据导入时的性能。
根据本发明的一方面,提供了一种字典树构建方法,包括:
获取图数据中的点数据的外部标识和点数据的内部标识;
根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
根据本发明的另一方面,提供了一种字典树构建装置,该字典树构建装置包括:
获取模块,用于获取图数据中的点数据的外部标识和点数据的内部标识;
构建模块,用于根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
根据本发明的另一方面,提供了一种电子设备,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行本发明任一实施例所述的字典树构建方法。
根据本发明的另一方面,提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现本发明任一实施例所述的字典树构建方法。
本发明实施例通过获取图数据中的点数据的外部标识和点数据的内部标识;根据所述点数据的外部标识和所述点数据的内部标识构建字典树,能够基于构建的字典树快速获取点数据的内部标识和外部标识的映射关系,从而解决图数据入库或者入内存时效率低、用时长以及磁盘或内存消耗大的问题,进而提升数据导入时的性能。
应当理解,本部分所描述的内容并非旨在标识本发明的实施例的关键或重要特征,也不用于限制本发明的范围。本发明的其它特征将通过以下的说明书而变得容易理解。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图仅示出了本发明的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1是本发明实施例中的一种字典树构建方法的流程图;
图2是本发明实施例中的一种点数据的存储流程图;
图3是本发明实施例中的一种边数据的存储流程图;
图4是本发明实施例中的一种字典树的结构示意图;
图5是本发明实施例中的一种编码后的字典树的示意图;
图6是本发明实施例中的一种字典树构建装置的结构示意图;
图7是本发明实施例中的一种电子设备的结构示意图。
具体实施方式
为了使本技术领域的人员更好地理解本发明方案,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分的实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例,都应当属于本发明保护的范围。
需要说明的是,本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外,术语“包括”和“具有”以及他们的任何变形,意图在于覆盖不排他的包含,例如,包含了一系列步骤或单元的过程、方法、***、产品或设备不必限于清楚地列出的那些步骤或单元,而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
实施例一
图1为本发明实施例提供的一种字典树构建方法的流程图,本实施例可适用于字典树构建的情况,该方法可以由本发明实施例中的字典树构建装置来执行,该装置可采用软件和/或硬件的方式实现,如图1所示,该方法具体包括如下步骤:
S110,获取图数据中的点数据的外部标识和点数据的内部标识。
其中,所述点数据的外部标识可以为所述点数据的UID,根据所述点数据的来源确定所述点数据的UID。
其中,所述点数据的内部标识为***为每个点数据分配的标识,具体的分配方式可以为:每接收一个点数据,***会分配一个新的计数,作为点数据的内部标识,并在分配一个新的计数后自增1,在接收下一个点数据的时候,***将自增1后的计数分配给点数据,作为下一个点数据的内部标识,例如可以是,接收点数据A,***分配计数1,点数据A的内部标识为1,接收点数据B,***分配计数2,点数据B的内部标识为2,接收点数据C,***分配计数3,点数据C的内部标识3,以此类推。
需要说明的是,若接收到重复点,则不会为重复点重新分配内部标识,其中,重复点是与历史接收到的点数据相同的点数据,重复点的具体确定方式是在构建字典树的过程中,发现点数据的结尾字符对应的内部标识已经被更新,则确定点数据为重复点。
S120,根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
具体的,根据所述点数据的外部标识和所述点数据的内部标识构建字典树的方式可以为:根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点;根据所述点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边;根据所述字典树的节点和字典树的边构建字典树。根据所述点数据的外部标识和所述点数据的内部标识构建字典树的方式还可以为:根据所述点数据的外部标识的每个字符和每个字符的位置信息构建字典树的节点;根据点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边;根据所述字典树的节点和字典树的边构建字典树。根据所述点数据的外部标识和所述点数据的内部标识构建字典树的方式还可以为:根据所述点数据的外部标识的每个字符、每个字符的位置信息以及第一数值构建字典树的节点;根据点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边;根据所述字典树的节点和字典树的边构建字典树。本发明实施例对此不进行限制。
可选的,根据所述点数据的外部标识和所述点数据的内部标识构建字典树,包括:
根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点;
根据所述点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边;
根据所述字典树的节点和字典树的边构建字典树。
其中,所述字符的位置信息可以为:结尾字符或者非结尾字符。例如可以是,若外部标识为ABLE,则字符A、B、L的位置信息均为非结尾字符,字符E的位置信息为结尾字符。
其中,所述字符之间的位置关系为:字符之间的先后顺序,例如可以是,若外部标识为ABLE,则字符之间的位置关系为A在B之前,B在L之前,L在E之前,或者字符之间的位置关系为B在A之后,L在B之后,E在L之后。
具体的,根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点的方式可以为:根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N节点的子节点对应的内部标识,其中,N为大于或者等于1的正整数;根据每个节点对应的内部标识构建字典树的节点。
具体的,根据所述点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边的方式可以为:根据外部标识的字符之间的先后顺序构建字典树的边,例如可以是,若外部标识为ABLE,则字符之间的位置关系为B在A之后,L在B之后,E在L之后,A为连接第一节点和第二节点的边,B为连接第二节点和第三节点的边,L为连接第三节点和第四节点的边,E为连接第四节点和第五节点的边。
可选的,根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点,包括:
根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N个字符对应的节点的内部标识,其中,N为大于或者等于1的正整数;
根据每个节点对应的内部标识构建字典树的节点。
其中,所述第N个字符对应的节点可以为以第N个字符为边的子节点,例如可以是,若外部标识为ABLE,以A为边的父节点为根节点,根据字符A的位置信息确定以A为边的子节点的内部标识。
具体的,根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N个字符对应的节点的内部标识的方式可以为:将外部标识的第N个字符确定为目标字符,若目标字符非结尾字符,则将第一数值确定为所述第N个字符对应的节点的内部标识;若目标字符为目标外部标识的结尾字符,则将目标外部标识对应的内部标识确定为第个字符对应的节点的内部标识。
具体的,根据每个节点对应的内部标识构建字典树的节点的方式可以为:根据每个节点对应的内部标识和每个节点的节点属性信息构建字典树的节点,其中,所述节点属性信息包括:叶子节点或者非叶子节点,例如可以是,若外部标识为ABLE,以A为边的父节点为根节点,字符A并非ABLE的结尾字符,则确定以A为边的子节点非叶子节点,且以A为边的子节点的内部标识为第一数值。
可选的,根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N节点的子节点对应的内部标识,包括:
若根据第N个字符的位置信息确定第N个字符非结尾字符,则确定所述第N个字符对应的节点的内部标识为第一数值;
若根据第N个字符的位置信息确定第N个字符为目标外部标识的结尾字符,则确定第N个字符对应的节点的内部标识为目标外部标识对应的内部标识。
其中,所述第一数值为负值,需要说明的是,***在对内部标识进行分配的时候,内部标识为非负值,第一数值是为了和内部标识区分,选择负值。
需要说明的是,字典树的构建方式可以为:每次根据预设数量的点数据的外部标识构建树结构,直至遍历所有点数据的外部标识,最终得到字典树,其中,所述预设数量可以为大于或者等于1的正整数。例如可以是,根据外部标识ABLE构建子树结构,以A为边的父节点为根节点,字符A并非ABLE的结尾字符,则确定以A为边的子节点非叶子节点,且以A为边的子节点的内部标识为第一数值;以B为边的父节点为以A为边的子节点,字符B并非ABLE的结尾字符,则确定以B为边的子节点非叶子节点,以B为边的子节点的内部标识为第一数值;以L为边的父节点为以B为边的子节点,字符L并非ABLE的结尾字符,则确定以L为边的子节点非叶子节点,以L为边的子节点的内部标识为第一数值,以E为边的父节点为以L为边的子节点,字符E为ABLE的结尾字符,则确定以E为边的子节点为叶子节点,且以E为边的子节点的内部标识为ABLE的内部标识。根据外部标识AS对上述构建的子树结构进行更新,由于A非外部标识AS的结尾字符,则以A为边的子节点不变,以S为边的父节点为以A为边的子节点,无需新增,查询当前的子树结构是否包括以S为边的子节点,若存在,则无需增加以S为边的子节点,若不存在,则增加以S为边的子节点,字符S为AS的结尾字符,确定以S为边的子节点为叶子节点,以S为边的子节点的内部标识为AS的内部标识。若子树结构已经存在以S为边的子节点,且以S为边的子节点的内部标识为第一数值,则将以S为边的子节点的内部标识更新为AS的内部标识。以此类推,在此不进行赘述。
可选的,还包括:
获取图数据中的点数据的属性信息、边数据的起始点的外部标识、边数据的终点的外部标识以及边数据的属性信息;
根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并存储至磁盘;
根据边数据的起始点的外部标识和边数据的终点的外部标识所述查询所述字典树,得到所述边数据的起始点的内部标识和边数据的终点的内部标识;
根据所述边数据的起始点的内部标识、边数据的终点的内部标识以及边数据的属性信息生成边数据文件,并存储至磁盘。
具体的,根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并存储至磁盘的方式可以为:根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并将点数据文件存储至磁盘,根据预设规则从所述点数据文件中筛选部分点数据文件,并将筛选得到的部分点数据文件存储至内存中。例如可以是,将点数据文件中的key文件存储至内存中,以便于通过key文件访问value文件时,无需先从磁盘中取出key文件,再根据key文件读取value文件,提升访问value文件的效率。
具体的,根据所述边数据的起始点的内部标识、边数据的终点的内部标识以及边数据的属性信息生成边数据文件,并存储至磁盘的方式可以为:根据所述边数据的起始点的内部标识、边数据的终点的内部标识以及边数据的属性信息生成边数据文件,并将边数据文件存储至磁盘,并将筛选得到的部分边数据文件存储至内存中。例如可以是,将边数据文件中的部分文件存储至内存中,以便于读取边数据文件,提升访问边数据文件的效率。
需要说明的是,在将点数据文件和边数据文件存储至磁盘时,可以先将点数据文件和边数据文件进行拆分,得到至少两个数据文件,再将拆分后得到的文件存储至磁盘中。
可选的,根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并存储至磁盘,包括:
根据所述点数据的外部标识和所述点数据的内部标识确定所述点数据的key值;
根据所述点数据的外部标识和所述点数据的属性信息确定所述点数据的value值;
根据所述点数据的key值生成key文件;
根据所述点数据的value值生成value文件;
将所述key文件和value文件存储至磁盘中。
其中,key值为(UID,innerID)对,value值为(innerID,点数据的属性值)对,UID为点数据的外部标识,innerID为点数据的内部标识。
如图2所示,图2为导入图数据中点数据的流程图,图2中Prop1为UID1对应的点数据的属性信息,Prop2为UID2对应的点数据的属性信息。idTrie为字典树。点数据1的innerID为1,点数据2的innerID为2。根据点数据1的UID1和1生成一个key值,根据点数据2的UID2和2生成一个key值,根据点数据1的属性信息Prop1和1生成一个value值,根据点数据2属性信息Prop2和2生成一个value值,根据生成的key值得到key文件,根据生成的value值得到value文件,将key文件和value文件存储至磁盘,将部分key文件缓存至内存。
需要说明的是,点数据的UID在这里可以被用于直接构建idTrie,也可以选择先存入磁盘,之后再按需构建idTrie,从而避免内存浪费。若干key值记录或者value值记录分别组成key文件或者value文件,之后被写入磁盘当中。(部分)Key文件可以被缓存在内存中。
如图3所示,图3为边数据的存储过程流程图,srcUID1为边数据1的起始点的外部标识,dstUID1为边数据1的终点的外部标识,srcUID2为边数据2的起始点的外部标识,dstUID2为边数据2的终点的外部标识。边数据1的属性信息为Prop1,边数据2的属性信息为Prop2。根据srcUID1查询idTrie,得到srcUID1对应的innerID为1,dstUID1对应的innerID为2,srcUID2对应的innerID为5,dstUID2对应的innerID为6。根据srcUID1对应的innerID为1、dstUID1对应的innerID为2、srcUID2对应的innerID为5、dstUID2对应的innerID为6、Prop1以及Prop2生成边数据文件,将边数据文件存储至磁盘,并将部分边数据文件缓存至内存。
需要说明的是,idTrie可以在导入点数据的时候生成。但是如果idTrie未能在之前的过程中生成,则可以选择从磁盘中拉取对应的点的key文件来快速构造idTrie。通过查询idTrie,将原始边数据映射成为图数据库存储的内部边数据,组成边数据文件后,存储在磁盘当中。同时,也可以选择将(部分)边数据写入内存中当作缓存。
可选的,根据边数据的起始点的外部标识和边数据的终点的外部标识所述查询所述字典树,得到所述边数据的起始点的内部标识和边数据的终点的内部标识,包括:
对所述字典树进行编码,得到目标数据结构信息;
根据边数据的起始点的外部标识和边数据的终点的外部标识所述查询所述目标数据结构信息,得到所述边数据的起始点的内部标识和边数据的终点的内部标识。
其中,所述目标数据结构信息可以包括:每个字符对应的节点属性信息和节点的内部标识;所述目标数据结构信息还可以包括:每个字符对应的节点属性信息、节点的内部标识以及下一字符;需要说明的是,若字符为结尾字符,则目标数据结构信息包括:叶子节点和节点的内部标识;若字符非结尾字符,则目标数据结构信息包括:非叶子节点、无内部标识、下一字符以及下一字符在内存中的存储位置信息。
可选的,对所述字典树进行编码,得到目标数据结构信息,包括:
根据所述字典树确定外部标识的字符的出栈顺序;
根据所述外部标识的字符的出栈顺序确定外部标识的每个字符的写入位置信息;
根据所述字典树确定每个字符对应的节点属性信息、节点的内部标识以及下一字符;
根据所述每个字符的写入位置信息、每个字符对应的节点属性信息、节点的内部标识以及下一字符确定目标数据结构信息。
需要说明的是,构建字典树的时候是从右向左构建的。
在一个具体的例子中,如图4所示,总有四个点数据:(ABLE,1),(APP,2),(APPLE,3),(AS,4),树结构起始于一个根节点,映射结构构建起始于4个UID的公有起始字母A,由于A并非UID的结尾字符,所以该节点没有对应的innerID(因此设置为-1)。各UID的第二个位置的字母分别为B、P、S,因此这里产生了三个分支。以AS为例,S是UID为AS的末位,因此在该节点位置设置innerID为4。以此类推,当所有的UID被遍历后,完整的结构就构造完成了。字典树的具体结构如图4所示,以A为边的父节点为根节点,以A为边的子节点非叶子节点(Leaf=false),且内存标识为-1,以S为边的父节点为A为边的子节点,以S为边的子节点为叶子节点(Leaf=true),且内存标识为4(AS对应的内存标识为4),字典树的其余节点如图4所示,在此不进行赘述。需要说明的是在检索某个UID的时候,需要遍历所有UID,并且在字典树中找到相应的路径,就可以获得相对应的innerID,时间复杂度为O(length(UID))。
如果采用堆上的对象来描述这么一个树结构,容易产生内存碎片,增加Java虚拟机垃圾回收压力。所以选择使用encoded来存储这个数据结构,如图5所示,通过一个栈保存还在参与构建中的节点(子节点还没有全部确定),而节点出栈的时候,就可以将其编码入连续的内存中。如图,当先加入“ABLE”后,栈中就依序加入了“A”“B”“L”“E”四个节点;再加入“APP”时,“B”“L”“E”则反序出栈,按出栈顺序写在了内存的0、1、2位置;加入“APPLE”时,只是在原来的“APP”路径上额外增加了节点,并没有出栈节点;加入“AS”时,则“P”“P”“L”“E”反序出栈,写在3~6的位置上;以此类推,当字典树完成构建时,节点全部出栈,E字符写在了内存的0位置,E字符对应的节点为叶子节点,且内存标识为1,L字符写在了内存的1位置,L字符对应的节点非叶子节点,无内存标识,下一字符为字符E,且字符E写在了内存的0位置,B字符写在了内存的2位置,B字符对应的节点非叶子节点,无内存标识,下一字符为字符L,且字符L写在了内存的1位置,E字符写在了内存的3位置,E字符对应的节点为叶子节点,且内存标识为2,L字符写在了内存的4位置,L字符对应的节点非叶子节点,无内存标识,下一字符为字符E,且字符E写在了内存的3位置,P字符写在了内存的5位置,P字符对应的节点非叶子节点,且内存标识为2,下一字符为字符L,L字符写在了内存的4位置,P字符写在了内存的6位置,P字符对应的节点非叶子节点,无内存标识,下一字符为字符P,P字符写在了内存的5位置,S字符写在了内存的7位置,S字符对应的节点为叶子节点,内存标识为4,A字符写在了内存的8位置,A字符对应的节点非叶子节点,且无内存标识,下一字符为写在了内存2位置的B字符、写在了内存6位置的P字符以及写在了内存7位置的S字符;根节点写在了内存的9位置,根节点非叶子节点,无内存标识,且下一字符为写在了内存8位置的字符A,通过上述步骤完成了内存编码(地址编码还能自动选择编码绝对地址或地址偏移,节省内存空间),而构建过程中,栈中总共的活跃节点数一直都不超过length(UID)*length(charset),其中,charset为在UID中出现的所有非重复字符。完成编码后的内存结构,通过地址跳转,能够实现与字典树相同的查询算法,但内存利用效率却远胜标准实现的字典树。
在本发明实施例中,数据文件存储在LSM Tree存储结构的最底层,避免出现数据文件重叠的情况,无需比较数据文件是否重叠的操作,有利于提升***性能。
本实施例的技术方案,通过获取图数据中的点数据的外部标识和点数据的内部标识;根据所述点数据的外部标识和所述点数据的内部标识构建字典树,能够基于构建的字典树快速获取点数据的内部标识和外部标识的映射关系,从而解决图数据入库或者入内存时效率低、用时长以及磁盘或内存消耗大的问题,进而提升数据导入时的性能。
实施例二
图6为本发明实施例提供的一种字典树构建装置的结构示意图。本实施例可适用于字典树构建的情况,该装置可采用软件和/或硬件的方式实现,该装置可集成在任何提供字典树构建功能的设备中,如图6所示,所述字典树构建装置具体包括:获取模块610和构建模块620。
其中,获取模块,用于获取图数据中的点数据的外部标识和点数据的内部标识;
构建模块,用于根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
上述产品可执行本发明任意实施例所提供的方法,具备执行方法相应的功能模块和有益效果。
本实施例的技术方案,通过获取图数据中的点数据的外部标识和点数据的内部标识;根据所述点数据的外部标识和所述点数据的内部标识构建字典树,能够基于构建的字典树快速获取点数据的内部标识和外部标识的映射关系,从而解决图数据入库或者入内存时效率低、用时长以及磁盘或内存消耗大的问题,进而提升数据导入时的性能。
实施例三
图7示出了可以用来实施本发明的实施例的电子设备10的结构示意图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备(如头盔、眼镜、手表等)和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本发明的实现。
如图7所示,电子设备10包括至少一个处理器11,以及与至少一个处理器11通信连接的存储器,如只读存储器(ROM)12、随机访问存储器(RAM)13等,其中,存储器存储有可被至少一个处理器执行的计算机程序,处理器11可以根据存储在只读存储器(ROM)12中的计算机程序或者从存储单元18加载到随机访问存储器(RAM)13中的计算机程序,来执行各种适当的动作和处理。在RAM 13中,还可存储电子设备10操作所需的各种程序和数据。处理器11、ROM 12以及RAM 13通过总线14彼此相连。输入/输出(I/O)接口15也连接至总线14。
电子设备10中的多个部件连接至I/O接口15,包括:输入单元16,例如键盘、鼠标等;输出单元17,例如各种类型的显示器、扬声器等;存储单元18,例如磁盘、光盘等;以及通信单元19,例如网卡、调制解调器、无线通信收发机等。通信单元19允许电子设备10通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
处理器11可以是各种具有处理和计算能力的通用和/或专用处理组件。处理器11的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的处理器、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。处理器11执行上文所描述的各个方法和处理,例如字典树构建方法。
在一些实施例中,字典树构建方法可被实现为计算机程序,其被有形地包含于计算机可读存储介质,例如存储单元18。在一些实施例中,计算机程序的部分或者全部可以经由ROM 12和/或通信单元19而被载入和/或安装到电子设备10上。当计算机程序加载到RAM13并由处理器11执行时,可以执行上文描述的字典树构建方法的一个或多个步骤。备选地,在其他实施例中,处理器11可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行字典树构建方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、负载可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本发明的方法的计算机程序可以采用一个或多个编程语言的任何组合来编写。这些计算机程序可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器,使得计算机程序当由处理器执行时使流程图和/或框图中所规定的功能/操作被实施。计算机程序可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本发明的上下文中,计算机可读存储介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的计算机程序。计算机可读存储介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。备选地,计算机可读存储介质可以是机器可读信号介质。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在电子设备上实施此处描述的***和技术,该电子设备具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给电子设备。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)、区块链网络和互联网。
计算***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务中,存在的管理难度大,业务扩展性弱的缺陷。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发明中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本发明的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本发明保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明保护范围之内。
Claims (11)
1.一种字典树构建方法,其特征在于,包括:
获取图数据中的点数据的外部标识和点数据的内部标识;
根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
2.根据权利要求1所述的方法,其特征在于,根据所述点数据的外部标识和所述点数据的内部标识构建字典树,包括:
根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点;
根据所述点数据的外部标识的每个字符和字符之间的位置关系构建字典树的边;
根据所述字典树的节点和字典树的边构建字典树。
3.根据权利要求2所述的方法,其特征在于,根据所述点数据的外部标识的每个字符、每个字符的位置信息以及所述点数据的内部标识构建字典树的节点,包括:
根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N个字符对应节点的内部标识,其中,N为大于或者等于1的正整数;
根据每个节点对应的内部标识构建字典树的节点。
4.根据权利要求3所述的方法,其特征在于,根据所述点数据的外部标识的第N个字符、第N个字符的位置信息以及所述点数据的内部标识确定第N个字符对应节点的内部标识,包括:
若根据第N个字符的位置信息确定第N个字符非结尾字符,则确定所述第N个字符对应的节点的内部标识为第一数值;
若根据第N个字符的位置信息确定第N个字符为目标外部标识的结尾字符,则确定第N个字符对应的节点的内部标识为目标外部标识对应的内部标识。
5.根据权利要求1所述的方法,其特征在于,还包括:
获取图数据中的点数据的属性信息、边数据的起始点的外部标识、边数据的终点的外部标识以及边数据的属性信息;
根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并存储至磁盘;
根据边数据的起始点的外部标识和边数据的终点的外部标识查询所述字典树,得到所述边数据的起始点的内部标识和边数据的终点的内部标识;
根据所述边数据的起始点的内部标识、边数据的终点的内部标识以及边数据的属性信息生成边数据文件,并存储至磁盘。
6.根据权利要求5所述的方法,其特征在于,根据边数据的起始点的外部标识和边数据的终点的外部标识所述查询所述字典树,得到所述边数据的起始点的内部标识和边数据的终点的内部标识,包括:
对所述字典树进行编码,得到目标数据结构信息;
根据边数据的起始点的外部标识和边数据的终点的外部标识所述查询所述目标数据结构信息,得到所述边数据的起始点的内部标识和边数据的终点的内部标识。
7.根据权利要求6所述的方法,其特征在于,对所述字典树进行编码,得到目标数据结构信息,包括:
根据所述字典树确定外部标识的字符的出栈顺序;
根据所述外部标识的字符的出栈顺序确定外部标识的每个字符的写入位置信息;
根据所述字典树确定每个字符对应的节点属性信息、节点的内部标识以及下一字符;
根据所述每个字符的写入位置信息、每个字符对应的节点属性信息、节点的内部标识以及下一字符确定目标数据结构信息。
8.根据权利要求5所述的方法,其特征在于,根据所述点数据的外部标识、所述点数据的内部标识和所述点数据的属性信息生成点数据文件,并存储至磁盘,包括:
根据所述点数据的外部标识和所述点数据的内部标识确定所述点数据的key值;
根据所述点数据的外部标识和所述点数据的属性信息确定所述点数据的value值;
根据所述点数据的key值生成key文件;
根据所述点数据的value值生成value文件;
将所述key文件和value文件存储至磁盘中。
9.一种字典树构建装置,其特征在于,包括:
获取模块,用于获取图数据中的点数据的外部标识和点数据的内部标识;
构建模块,用于根据所述点数据的外部标识和所述点数据的内部标识构建字典树。
10.一种电子设备,其特征在于,所述电子设备包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的计算机程序,所述计算机程序被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-8中任一项所述的字典树构建方法。
11.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质存储有计算机指令,所述计算机指令用于使处理器执行时实现权利要求1-8中任一项所述的字典树构建方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211124841.4A CN115408547A (zh) | 2022-09-15 | 2022-09-15 | 一种字典树构建方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211124841.4A CN115408547A (zh) | 2022-09-15 | 2022-09-15 | 一种字典树构建方法、装置、设备及存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115408547A true CN115408547A (zh) | 2022-11-29 |
Family
ID=84164879
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211124841.4A Pending CN115408547A (zh) | 2022-09-15 | 2022-09-15 | 一种字典树构建方法、装置、设备及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115408547A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024131542A1 (zh) * | 2022-12-20 | 2024-06-27 | 腾讯科技(深圳)有限公司 | 存储数据的方法、装置、计算机设备、产品及存储介质 |
-
2022
- 2022-09-15 CN CN202211124841.4A patent/CN115408547A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2024131542A1 (zh) * | 2022-12-20 | 2024-06-27 | 腾讯科技(深圳)有限公司 | 存储数据的方法、装置、计算机设备、产品及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102129425B (zh) | 数据仓库中大对象集合表的访问方法及装置 | |
CN111949710A (zh) | 数据存储方法、装置、服务器及存储介质 | |
CN113407649A (zh) | 数据仓库建模方法、装置、电子设备及存储介质 | |
CN112528067A (zh) | 图数据库的存储方法、读取方法、装置及设备 | |
CN113961510A (zh) | 一种文件处理方法、装置、设备及存储介质 | |
CN115408547A (zh) | 一种字典树构建方法、装置、设备及存储介质 | |
CN112783887A (zh) | 一种基于数据仓库的数据处理方法及装置 | |
CN117236236B (zh) | 一种芯片设计数据管理方法、装置、电子设备及存储介质 | |
CN113344074A (zh) | 模型训练方法、装置、设备及存储介质 | |
CN113722600A (zh) | 应用于大数据的数据查询方法、装置、设备及产品 | |
CN115525659A (zh) | 数据查询方法、装置、电子设备及存储介质 | |
CN115454971A (zh) | 数据迁移方法、装置、电子设备及存储介质 | |
CN113868254B (zh) | 图数据库中的实体节点去重方法、设备和存储介质 | |
CN115904240A (zh) | 数据处理方法、装置、电子设备和存储介质 | |
CN115639966A (zh) | 一种数据写入方法、装置、终端设备及存储介质 | |
CN113836157A (zh) | 获取数据库增量数据的方法和装置 | |
CN115329150A (zh) | 生成搜索条件树的方法、装置、电子设备及存储介质 | |
CN114969444A (zh) | 数据的处理方法、装置、电子设备和存储介质 | |
CN115480704A (zh) | 数据块组迁移映射表的构建方法、装置、设备及存储介质 | |
CN114817223A (zh) | 业务数据提取方法、装置、电子设备和存储介质 | |
CN113239054A (zh) | 信息生成方法、相关装置及计算机程序产品 | |
CN111767287A (zh) | 数据导入方法、装置、设备及计算机存储介质 | |
CN116383454B (zh) | 图数据库的数据查询方法、电子设备及存储介质 | |
CN117271840B (zh) | 图数据库的数据查询方法、装置及电子设备 | |
CN116303258A (zh) | 一种分布式存储***哈希索引的构建方法和装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |