CN114359610B - 实体分类的方法、装置、设备以及存储介质 - Google Patents
实体分类的方法、装置、设备以及存储介质 Download PDFInfo
- Publication number
- CN114359610B CN114359610B CN202210183949.4A CN202210183949A CN114359610B CN 114359610 B CN114359610 B CN 114359610B CN 202210183949 A CN202210183949 A CN 202210183949A CN 114359610 B CN114359610 B CN 114359610B
- Authority
- CN
- China
- Prior art keywords
- entity
- block
- entities
- target
- identifier
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/23—Clustering techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种实体分类的方法、装置、设备、存储介质以及程序产品,涉及人工智能技术领域,尤其涉及知识图谱等技术领域。具体实现方案为:根据多个实体中每个实体的属性,确定每个实体的分块标识;获取预分块结果,其中,预分块结果是对多个实体进行预分块操作得到的;根据预分块结果,在多个实体的分块标识中确定目标分块标识;对目标分块标识进行拆分,得到多个分块子标识;分别针对多个分块子标识中的每个分块子标识,对与每个分块子标识对应的实体进行聚类操作,得到聚类结果;以及根据聚类结果,对多个实体进行分类。
Description
技术领域
本公开涉及人工智能技术领域,尤其涉及知识图谱等技术领域。
背景技术
图谱消歧指知识图谱构建过程中的实体消歧,也叫实体归一、实体统一等。实体消歧的主要目的是判断多个不同信息来源的实体是否为指向真实世界中同一个对象,进而对实体包含的信息进行融合和聚集。
不同的知识图谱或者信息源,对于同一个实体的描述存在一些差异,需要将这些相同实体进行互补融合,形成全面、准确、完整的实体描述。因此,在多源图谱构建的过程中需要进行实体消歧。
发明内容
本公开提供了一种实体分类的方法、装置、设备、存储介质以及程序产品。
根据本公开的一方面,提供了一种实体分类的方法,包括:根据多个实体中每个实体的属性,确定所述每个实体的分块标识;获取预分块结果,其中,所述预分块结果是对所述多个实体进行预分块操作得到的;根据预分块结果,在所述多个实体的分块标识中确定目标分块标识;对所述目标分块标识进行拆分,得到多个分块子标识;分别针对所述多个分块子标识中的每个分块子标识,对与所述每个分块子标识对应的实体进行聚类操作,得到聚类结果;以及根据聚类结果,对所述多个实体进行分类。
根据本公开的另一方面,提供了一种实体分类的装置,包括:第一确定模块,用于根据多个实体中每个实体的属性,确定所述每个实体的分块标识;获取模块,用于获取预分块结果,其中,所述预分块结果是对所述多个实体进行预分块操作得到的;第二确定模块,用于根据所述预分块结果,在所述多个实体的分块标识中确定目标分块标识;拆分模块,用于对所述目标分块标识进行拆分,得到多个分块子标识;聚类模块,用于分别针对所述多个分块子标识中的每个分块子标识,对与所述每个分块子标识对应的实体进行聚类操作,得到聚类结果;以及分类模块,用于根据聚类结果,对所述多个实体进行分类。
本公开的另一个方面提供了一种电子设备,包括:至少一个处理器;以及与所述至少一个处理器通信连接的存储器;其中,所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行本公开实施例所示的方法。
根据本公开实施例的另一方面,提供了一种计算机程序产品,包括计算机程序/指令,其特征在于,该计算机程序/指令被处理器执行时实现本公开实施例所示方法的步骤。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1是根据本公开实施例的实体分类的方法、装置、电子设备和存储介质的应用场景示意图;
图2示意性示出了根据本公开的实施例的实体分类的方法的流程图;
图3示意性示出了根据本公开的实施例的对实体进行预分块操作的方法的流程图;
图4示意性示出了根据本公开的实施例的对目标分块标识进行拆分的方法的流程图;
图5示意性示出了根据本公开的实施例的对与每个分块子标识对应的实体进行聚类操作的方法的流程图;
图6示意性示出了根据本公开的实施例的根据聚类结果,对多个实体进行分类的方法的流程图;
图7示意性示出了根据本公开另一实施例的实体分类的方法示意图;
图8示意性示出了根据本公开实施例的实体分类的装置的框图;以及
图9示意性示出了可以用来实施本公开的实施例的示例电子设备的框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
以下将结合图1对本公开提供的实体分类的方法和装置的应用场景进行描述。
在知识图谱构建时,涉及大量实体数据,这些实体数据可能来自多个不同信息来源。不同信息来源的实体数据对于同一个对象的描述存在一些差异,因此需要将其中指向相同对象的实体进行互补融合,形成全面、准确、完整的实体描述,即对这些实体数据进行实体消歧。根据本公开的实施例,可以计算这些实体之间的相似度。若两个实体之间的相似度高于相似度阈值,则表示该两个实体指向真实世界中的同一个对象。其中,相似度阈值可以根据实际需要设置。基于此,可以根据相似度对这些实体进行分类,将相似度高于相似度阈值的实体划分至同一个实体集合。同一个实体集合中的实体均对应于同一个对象。接下来,可以分别对每一个实体集合中的实体进行融合,得到融合实体。
图1是根据本公开实施例的实体分类的方法、装置、电子设备和存储介质的应用场景示意图。需要注意的是,图1所示仅为可以应用本公开实施例的应用场景的示例,以帮助本领域技术人员理解本公开的技术内容,但并不意味着本公开实施例不可以用于其他设备、***、环境或场景。
如图1所示,该应用场景100包括多个待分类的实体,例如实体101、102、103和104。根据本公开的实施例,通过计算实体101、102、103和104之间的相似度可以确定实体101、102、103和104之间的相似度高于相似度阈值,即实体101、102、103和104指向同一个对象。因此,可以将实体101、102、103和104划分至同一个实体集合110。接下来,可以对该实体集合110中的实体进行融合,生成融合实体120。
本公开的技术方案中,所涉及的实体数据等数据的收集、存储、使用、加工、传输、提供和公开等处理,均符合相关法律法规的规定,且不违背公序良俗。
图2示意性示出了根据本公开的实施例的实体分类的方法的流程图。
如图2所示,该实体分类的方法200包括在操作S210,根据多个实体中每个实体的属性,确定每个实体的分块标识。
根据本公开的实施例,实体例如可以包括用于表示人、物体、概念、事件等对象的数据。属性例如可以包括姓名、性别、重量、高度等等。每个实体可以具有一个或多个属性。在实体具有多个属性的情况下,可以从该多个属性中任选一个或多个,根据选出的属性,确定分块标识。
根据本公开的实施例,分块标识可以为根据实体的属性生成的字符串。示例性地,本实施例中,例如可以对实体的属性进行哈希计算,得到哈希值,作为分块标识。需要说明的是,根据本公开其他实施例中,也可以根据其他方式生成分块标识,本公开对此不作具体限定。
然后,在操作S220,获取预分块结果。
根据本公开的实施例,可以预先对多个实体进行预分块操作得到预分块结果,并进行存储。在使用时可以直接获取已储存的预分块结果。
根据本公开的实施例,预分块结果例如可以包括预分块操作中,数据倾斜程度较大的实体分块所对应的分块标识。示例性地,本实施例中,如果实体分块包含的实体数量大于第一分块容量,则表示该实体分块的数据倾斜程度较大。其中,第一分块容量可以根据实际需要确定。
在操作S230,根据预分块结果,在多个实体的分块标识中确定目标分块标识。
根据本公开的实施例,针对每个实体的分块标识,可以确定预分块结果是否包含该实体的分块标识。在预分块结果包含实体的分块标识的情况下,确定分块标识作为目标分块标识。在预分块结果不包含实体的分块标识的情况下,可以不对该分块标识进行拆分。
在操作S240,对目标分块标识进行拆分,得到多个分块子标识。
根据本公开的实施例,拆分数量可以根据实际需要确定。
例如,实体a1、a2、a3、a4、a5、a6、a7和a8具有相同的目标分块标识b,预定拆分数量为2,则可以将目标分块标识b拆分为b1和b2两个分块子标识。其中,b1对应于a1、a3、a5和a7,b2对应于a2、a4、a6和a8。
在操作S250,分别针对多个分块子标识中的每个分块子标识,对与每个分块子标识对应的实体进行聚类操作,得到聚类结果。
根据本公开的实施例,例如可以根据实体之间的相似度,对实体进行聚类。
例如,分块子标识b1与实体a1、a3、a5和a7对应,分块子标识b2与实体a2、a4、a6和a8对应。则可以对实体a1、a3、a5和a7进行聚类操作,对a2、a4、a6和a8进行聚类操作。示例性地,本实施例中,a1和a3相似,则确定a1和a3作为一个实体集合。a5和a7相似,则确定a5和a7作为一个实体集合。a2和a4相似,则确定a2和a4作为一个实体集合。a6和a8相似,则确定a6和a8作为一个实体集合。
在操作S260,根据聚类结果,对多个实体进行分类。
根据本公开的实施例,同一个实体集合中的实体即为同一类实体。
根据本公开的实施例,通过预先确定预分块结果,在实体分类时根据预分块结果,对数据倾斜程度较大的分块进行进一步的拆分,可以减少对内存的占用,提高处理效率。
以下将结合图3对本公开提供的对实体进行预分块操作的方法进行描述。
图3示意性示出了根据本公开的实施例的对实体进行预分块操作的方法的流程图。
如图3所示,该对实体进行预分块操作的方法300包括在操作S310,针对多个实体中的每个实体,根据实体的属性,生成分块标识。
根据本公开的实施例,根据实体的属性,生成分块标识的操作与上文相同,可以参考上文,在此不再赘述。
在操作S320,将多个实体中具有相同分块标识的实体划分为一个实体分块,得到多个实体分块。
在操作S330,确定多个实体分块中实体数量大于第一分块容量的目标实体分块,并确定与目标实体分块对应的目标分块标识作为预分块结果。
根据本公开的实施例,第一分块容量可以根据实际需要确定,例如可以根据统计数据和机器资源进行灵活的配置。预分块结果例如可以包括数据倾斜程度较大的分块所对应的目标分块标识。本实施例中,如果分块的实体数量大于第一分块容量,则表示该分块的数据倾斜程度较大。根据本公开的另一些实施例,除了目标分块标识之外,预分块结果还可以包括与目标分块标识对应的实体标识。
例如,实体包括c1、c2、c3、c4、c5、c6、c7和c8,第一分块容量为4。其中,实体c1、c2、c3、c4、c5具有相同的分块标识d1,c6、c7和c8具有相同的分块标识d2。基于此,可以将c1、c2、c3、c4、c5划分为一个实体分块block1,将c6、c7和c8划分为另一个实体分块block2。block1中的实体数量为5,大于第一分块容量4,block2中的实体数量为3,小于第一分块容量4。因此,可以确定block1为目标实体分块,可以确定block1对应的分块标识d1作为预分块结果。
根据本公开的实施例,与实体分类时的分块步骤不同的是,预分块时输出的预分块结果只有分块标识和与该分块标识对应的实体标识。而实体分类时所进行的分块步骤中,输出为整个实体和该实体的分块标识。
以下将结合图4对本公开提供的对目标分块标识进行拆分的方法进行描述。
图4示意性示出了根据本公开的实施例的对目标分块标识进行拆分的方法的流程图。
如图4所示,该预分块的方法440包括在操作S441,针对每个目标分块标识,根据与目标分块标识所对应的实体数量和第二分块容量,确定拆分参数。
根据本公开的实施例,例如可以根据以下公式计算拆分参数:
s=num/n+1
其中,s为拆分参数,num为与目标分块标识所对应的实体数量,n为第二分块容量。
根据本公开的实施例,第二分块容量可以根据实际需要确定,例如可以根据统计数据和机器资源进行灵活的配置。第二分块容量可以与第一分块容量相同,也可以不同。
在操作S442,根据与目标分块标识对应的实体标识和拆分参数,确定多个分块子标识。
根据本公开的实施例,例如可以根据实体标识和拆分参数确定附加字符串。然后将实体标识与附加字符串结合,得到分块子标识。
例如,可以将附加字符串作为后缀加在实体标识尾部,得到分块子标识。
根据本公开的实施例,附加字符串例如可以通过以下拆分函数确定:
fun=hash(id)%s
其中,fun为拆分函数,拆分函数的值为附加字符串。hash()表示哈希运算,%表示取余运算,id为实体标识,s为拆分参数。
根据本公开的实施例,通过对目标分块标识进行拆分,可以减少对内存的占用,避免因为数据倾斜导致的内存不足的问题。
以下将结合图5对本公开提供的对与每个分块子标识对应的实体进行聚类操作的方法进行描述。
图5示意性示出了根据本公开的实施例的对与每个分块子标识对应的实体进行聚类操作的方法的流程图。
如图5所示,该对与每个分块子标识对应的实体进行聚类操作的方法550包括在操作S551,确定与每个分块子标识对应的实体作为待处理实体集合。
根据本公开的实施例,分块子标识可以对应于多个实体,该多个实体均具配置有该分块子标识。基于此,可以将该多个实体作为待处理实体集合。
在操作S552,从待处理实体集合中确定中心实体。
根据本公开的实施例,中心实体可以为待处理实体集合中的任意一个。示例性地,本实施例中,可以随机确定待处理实体集合中的一个实体作为中心实体。
在操作S553,计算待处理实体集合中每个实体与中心实体之间的第一相似度。
根据本公开的实施例,例如可以计算每个实体与中心实体之间的余弦值或欧式距离来确定第一相似度。在实际应用的过程中,也可以使用其他方式计算相似度,本公开对此不作具体限定。
在操作S554,确定待处理实体集合中第一相似度大于相似度阈值的实体作为目标实体集合。
根据本公开的实施例,相似度阈值可以根据实际需要设置,本公开对此不作具体限定。
在操作S555,确定待处理实体集合中第一相似度小于或等于相似度阈值的实体作为新的待处理实体集合,并针对新的待处理实体集合,返回操作S552。
如果确定待处理实体集合中不存在第一相似度小于或等于相似度阈值的实体,则表示所有实体均被划分至对应的目标实体集合,结束聚合操作。
以下将结合图6对本公开提供的根据聚类结果,对多个实体进行分类的方法进行描述。
图6示意性示出了根据本公开的实施例的根据聚类结果,对多个实体进行分类的方法的流程图。
如图6所示,该根据聚类结果,对多个实体进行分类的方法650包括在操作S661,针对多个目标实体集合中与多个分块子标识对应的多个对应目标实体集合。
在操作S662,计算多个对应目标实体集合的中心实体两两之间的第二相似度。
根据本公开的实施例,计算第二相似度的方法与计算第一相似度的方法相同,可以参考上文,在此不再赘述。
在操作S663,根据第二相似度,合并多个对应目标实体集合。
根据本公开的实施例,如果两中心点相似,则表示两中心点所对应的实体集合也相似。基于此,如果两个中心实体之间的第二相似度大于相似度阈值,则可以将该两个中心实体所对应的目标实体集合合并为一个。
根据本公开的实施例,只需比较实体集合中中心实体之间的相似度,而不需要对实体集合中所有实体进行两两比较计算,减少了计算次数,提高了计算效率。
下面参考图7,结合具体实施例对上文所示的数据分类的方法做进一步说明。本领域技术人员可以理解,以下示例实施例仅用于理解本公开,本公开并不局限于此。
示例性地,本实施例中,可以采用基于spark并行计算的pipeline方案来实现本公开实施例的数据分类的方法。例如可以采用spark的map-reduce框架。
基于此,图7示意性示出了根据本公开另一实施例的实体分类的方法示意图。
在图7中示出了,在操作S701,对原始实体数据进行预处理。
根据本公开的实施例,预处理例如可以包括对原始实体数据进行规范化的表示、数据清洗、数据校验等等。
在操作S702,对原始实体数据进行预分块操作,得到预分块结果。
根据本公开的实施例,在map阶段,针对每一个实体,按照该实体的属性的值或属性值的组合,生成分块标识key,使得相似实体尽可能分到同一个块。预分块的map输出只有key和实体标识id。在reduce阶段,统计同一key所对应的实体id的数量。本实施例中,预先设定有分块容量的阈值n,如果实体id的数量大于n则输出key和实体id的数量。
在操作S703,根据预分块结果,进行分块和分块拆分。
根据本公开的实施例,可以加载预分块的结果d。本实施例中,可以使用spark的broadcast广播变量,从而减少网络传输和内存占用。然后,在map阶段,根据同预分块相同的方式生成分块标识key0。将对应相同key0的实体分为一个分块。如果key0在d中,则对key0所代表的分块进行进一步拆分。
更具体地,对于待拆分的每个分块,可以分块中每个实体的key0,计算拆分数量s=num/n+1,其中,num为与该key0所表示的分块中的实体数量,n为分块容量,s为拆分参数。然后计算拆分函数fun=hash(id)%s,接着将key0与fun(id)合并,得到分块子标识key1为:key0@@fun(id)。其中,@@为分隔符。然后,将对应于相同key1的实体分入同一个实体集合list。
根据本公开的实施例,如果key0不在d中,则不对key0所代表的分块进行拆分。
在操作S704,在每个分块下进行聚类操作。
根据本公开的实施例,可以针对每个分块子标识key1,在分块子标识key1所对应的实体集合list中随机选取一个实体p_i,通过自定义相似函数m计算list内每个实体与p_i的相似度score。
本实施例中,预设有相似度阈值t。对于score大于t的实体集合生成以p_i为中心点的相似实体集合P(p_i,[p_1,p_2,...,p_n])。对于score小于t的实体集合组成新的实体集合list。
然后,从该新的实体集合list中随机选取一个实体p_i,返回上述计算通过自定义相似函数m计算list内每个实体与p_i的相似度score的操作,直至list为空。
当list为空时,输出多个以p_i为中心点的相似实体集合P;
在操作S705,对于拆分过的分块进行聚类结果的合并。没有进行拆分的分块跳过此步骤。
根据本公开的实施例,可以通过分块的原始key0,对拆分分块进行reduce操作,得到key0所表示的原始分块下所有的相似实体集合P_1,P_2,...P_n。
例如,对于每个拆分过的分块,对与该分块对应的各相似实体集合的中心点p_i进行两两的相似度计算,如果中心点p_x与P_y不相似,p_x与p_y代表的相似实体集合内的实体都不相似,如果p_x与p_y相似,则合并p_x与p_y代表的相似实体集合。
在操作S706,输出所有相似实体集合。
图8示意性示出了根据本公开实施例的实体分类的装置的框图。
如图8所示,实体分类的装置800包括第一确定模块810、获取模块820、第二确定模块830、拆分模块840、聚类模块850和分类模块860。
第一确定模块810,用于根据多个实体中每个实体的属性,确定每个实体的分块标识。
获取模块820,用于获取预分块结果。其中,所述预分块结果是对所述多个实体进行预分块操作得到的。
第二确定模块830,用于根据预分块结果,在多个实体的分块标识中确定目标分块标识。
拆分模块840,用于对目标分块标识进行拆分,得到多个分块子标识。
聚类模块850,用于分别针对多个分块子标识中的每个分块子标识,对与每个分块子标识对应的实体进行聚类操作,得到聚类结果。
分类模块860,用于根据聚类结果,对多个实体进行分类。
根据本公开的实施例,上述装置还可以包括:生成模块,用于针对多个实体中的每个实体,根据实体的属性,生成分块标识;以及划分模块,用于将多个实体中具有相同分块标识的实体划分为一个实体分块,得到多个实体分块;第三确定模块,用于确定多个实体分块中实体数量大于第一分块容量的目标实体分块,并确定与目标实体分块对应的目标分块标识作为预分块结果。
根据本公开的实施例,第二确定模块可以包括:目标分块标识确定子模块,用于针对每个实体的分块标识,在预分块结果包含实体的分块标识的情况下,确定分块标识作为目标分块标识。
根据本公开的实施例,第二确定模块可以包括:参数确定子模块,用于针对每个目标分块标识,根据与目标分块标识所对应的实体数量和第二分块容量,确定拆分参数;以及标识确定子模块,用于根据与目标分块标识对应的实体标识和拆分参数,确定多个分块子标识。
根据本公开的实施例,聚类结果包括多个目标实体集合;聚类模块可以包括:第一集合确定子模块,用于确定与每个分块子标识对应的实体作为待处理实体集合;中心确定子模块,用于从待处理实体集合中确定中心实体;第一计算子模块,用于计算待处理实体集合中每个实体与中心实体之间的第一相似度;第二集合确定子模块,用于确定待处理实体集合中第一相似度大于相似度阈值的实体作为目标实体集合;以及第三集合确定子模块,用于确定待处理实体集合中第一相似度小于或等于相似度阈值的实体作为新的待处理实体集合,并针对新的待处理实体集合,返回确定中心实体的操作。
根据本公开的实施例,分类模块可以包括:第二计算子模块,用于针对多个目标实体集合中与多个分块子标识对应的多个对应目标实体集合,计算多个对应目标实体集合的中心实体两两之间的第二相似度;以及合并子模块,用于根据第二相似度,合并多个对应目标实体集合。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图9示意性示出了可以用来实施本公开的实施例的示例电子设备900的框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图9所示,设备900包括计算单元901,其可以根据存储在只读存储器(ROM)902中的计算机程序或者从存储单元908加载到随机访问存储器(RAM)903中的计算机程序,来执行各种适当的动作和处理。在RAM 903中,还可存储设备900操作所需的各种程序和数据。计算单元901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
设备900中的多个部件连接至I/O接口905,包括:输入单元906,例如键盘、鼠标等;输出单元907,例如各种类型的显示器、扬声器等;存储单元908,例如磁盘、光盘等;以及通信单元909,例如网卡、调制解调器、无线通信收发机等。通信单元909允许设备900通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元901可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元901的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元901执行上文所描述的各个方法和处理,例如实体分类的方法。例如,在一些实施例中,实体分类的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元908。在一些实施例中,计算机程序的部分或者全部可以经由ROM 902和/或通信单元909而被载入和/或安装到设备900上。当计算机程序加载到RAM 903并由计算单元901执行时,可以执行上文描述的实体分类的方法的一个或多个步骤。备选地,在其他实施例中,计算单元901可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行实体分类的方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、现场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。
服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务(Virtual Private Server,或简称VPS)中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本发公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (12)
1.一种实体分类的方法,包括:
根据多个实体中每个实体的属性,确定所述每个实体的分块标识;
获取预分块结果,其中,所述预分块结果是对所述多个实体进行预分块操作得到的;
根据所述预分块结果,在所述多个实体的分块标识中确定目标分块标识;
对所述目标分块标识进行拆分,得到多个分块子标识;
分别针对所述多个分块子标识中的每个分块子标识,对与所述每个分块子标识对应的实体进行聚类操作,得到聚类结果;以及
根据聚类结果,对所述多个实体进行分类,
其中,所述聚类结果包括多个目标实体集合;所述对与所述每个分块子标识对应的实体进行聚类操作,得到聚类结果,包括:
确定与所述每个分块子标识对应的实体作为待处理实体集合;
从所述待处理实体集合中确定中心实体;
计算所述待处理实体集合中每个实体与所述中心实体之间的第一相似度;
确定所述待处理实体集合中第一相似度大于相似度阈值的实体作为目标实体集合;以及
确定所述待处理实体集合中第一相似度小于或等于相似度阈值的实体作为新的待处理实体集合,并针对所述新的待处理实体集合,返回确定中心实体的操作。
2.根据权利要求1所述的方法,其中,所述预分块操作包括:
针对所述多个实体中的每个实体,根据所述实体的属性,生成分块标识;以及
将所述多个实体中具有相同分块标识的实体划分为一个实体分块,得到多个实体分块;
确定所述多个实体分块中实体数量大于第一分块容量的目标实体分块,并确定与所述目标实体分块对应的目标分块标识作为所述预分块结果。
3.根据权利要求2所述的方法,其中,所述根据预分块结果,在所述多个实体的分块标识中确定目标分块标识,包括:
针对所述每个实体的分块标识,在所述预分块结果包含所述实体的分块标识的情况下,确定所述分块标识作为所述目标分块标识。
4.根据权利要求1-3中任一项所述的方法,其中,所述对所述目标分块标识进行拆分,得到多个分块子标识,包括:
针对每个所述目标分块标识,
根据与所述目标分块标识所对应的实体数量和第二分块容量,确定拆分参数;以及
根据与所述目标分块标识对应的实体标识和拆分参数,确定所述多个分块子标识。
5.根据权利要求1所述的方法,其中,所述根据聚类结果,对所述多个实体进行分类包括:
针对所述多个目标实体集合中与所述多个分块子标识对应的多个对应目标实体集合,
计算所述多个对应目标实体集合的中心实体两两之间的第二相似度;以及
根据所述第二相似度,合并所述多个对应目标实体集合。
6.一种实体分类的装置,包括:
第一确定模块,用于根据多个实体中每个实体的属性,确定所述每个实体的分块标识;
获取模块,用于获取预分块结果,其中,所述预分块结果是对所述多个实体进行预分块操作得到的;
第二确定模块,用于根据所述预分块结果,在所述多个实体的分块标识中确定目标分块标识;
拆分模块,用于对所述目标分块标识进行拆分,得到多个分块子标识;
聚类模块,用于分别针对所述多个分块子标识中的每个分块子标识,对与所述每个分块子标识对应的实体进行聚类操作,得到聚类结果;以及
分类模块,用于根据聚类结果,对所述多个实体进行分类,
其中,所述聚类结果包括多个目标实体集合;所述聚类模块包括:
第一集合确定子模块,用于确定与所述每个分块子标识对应的实体作为待处理实体集合;
中心确定子模块,用于从所述待处理实体集合中确定中心实体;
第一计算子模块,用于计算所述待处理实体集合中每个实体与所述中心实体之间的第一相似度;
第二集合确定子模块,用于确定所述待处理实体集合中第一相似度大于相似度阈值的实体作为目标实体集合;以及
第三集合确定子模块,用于确定所述待处理实体集合中第一相似度小于或等于相似度阈值的实体作为新的待处理实体集合,并针对所述新的待处理实体集合,返回确定中心实体的操作。
7.根据权利要求6所述的装置,还包括:
生成模块,用于针对所述多个实体中的每个实体,根据所述实体的属性,生成分块标识;以及
划分模块,用于将所述多个实体中具有相同分块标识的实体划分为一个实体分块,得到多个实体分块;
第三确定模块,用于确定所述多个实体分块中实体数量大于第一分块容量的目标实体分块,并确定与所述目标实体分块对应的目标分块标识作为所述预分块结果。
8.根据权利要求7所述的装置,其中,所述第二确定模块包括:
目标分块标识确定子模块,用于针对所述每个实体的分块标识,在所述预分块结果包含所述实体的分块标识的情况下,确定所述分块标识作为所述目标分块标识。
9.根据权利要求6-8中任一项所述的装置,其中,所述拆分模块包括:
参数确定子模块,用于针对每个所述目标分块标识,根据与所述目标分块标识所对应的实体数量和第二分块容量,确定拆分参数;以及
标识确定子模块,用于根据与所述目标分块标识对应的实体标识和拆分参数,确定所述多个分块子标识。
10.根据权利要求6所述的装置,其中,所述分类模块包括:
第二计算子模块,用于针对所述多个目标实体集合中与所述多个分块子标识对应的多个对应目标实体集合,计算所述多个对应目标实体集合的中心实体两两之间的第二相似度;以及
合并子模块,用于根据所述第二相似度,合并所述多个对应目标实体集合。
11.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5中任一项所述的方法。
12.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210183949.4A CN114359610B (zh) | 2022-02-25 | 2022-02-25 | 实体分类的方法、装置、设备以及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210183949.4A CN114359610B (zh) | 2022-02-25 | 2022-02-25 | 实体分类的方法、装置、设备以及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114359610A CN114359610A (zh) | 2022-04-15 |
CN114359610B true CN114359610B (zh) | 2023-04-07 |
Family
ID=81093044
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210183949.4A Active CN114359610B (zh) | 2022-02-25 | 2022-02-25 | 实体分类的方法、装置、设备以及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114359610B (zh) |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US10013637B2 (en) * | 2015-01-22 | 2018-07-03 | Microsoft Technology Licensing, Llc | Optimizing multi-class image classification using patch features |
CN110570312B (zh) * | 2019-09-17 | 2021-05-28 | 深圳追一科技有限公司 | 样本数据获取方法、装置、计算机设备和可读存储介质 |
CN111858820B (zh) * | 2020-07-24 | 2024-02-09 | 北京百度网讯科技有限公司 | 用地性质识别方法、装置、电子设备及存储介质 |
-
2022
- 2022-02-25 CN CN202210183949.4A patent/CN114359610B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN114359610A (zh) | 2022-04-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112749344B (zh) | 信息推荐方法、装置、电子设备、存储介质及程序产品 | |
CN113326420B (zh) | 问题检索方法、装置、电子设备和介质 | |
CN114817651B (zh) | 数据存储方法、数据查询方法、装置和设备 | |
CN112559631A (zh) | 分布式图数据库的数据处理方法、装置以及电子设备 | |
CN112528067A (zh) | 图数据库的存储方法、读取方法、装置及设备 | |
CN113742332A (zh) | 数据存储方法、装置、设备及存储介质 | |
CN114359610B (zh) | 实体分类的方法、装置、设备以及存储介质 | |
CN114897666B (zh) | 图数据存储、访问、处理方法、训练方法、设备及介质 | |
CN114461407B (zh) | 数据处理方法、装置、分发服务器、***及存储介质 | |
CN108694205B (zh) | 匹配目标字段的方法、装置 | |
CN115328898A (zh) | 一种数据处理方法、装置、电子设备及介质 | |
CN112887426B (zh) | 信息流的推送方法、装置、电子设备以及存储介质 | |
CN113868434A (zh) | 图数据库的数据处理方法、设备和存储介质 | |
CN113961797A (zh) | 资源推荐方法、装置、电子设备和可读存储介质 | |
CN110750555A (zh) | 用于生成索引的方法、装置、计算设备以及介质 | |
CN111125362A (zh) | 一种异常文本确定方法、装置、电子设备和介质 | |
CN112861034B (zh) | 检测信息的方法、装置、设备和存储介质 | |
CN113569027B (zh) | 一种文档标题处理方法、装置及电子设备 | |
CN110096504B (zh) | 流式事件特征匹配方法及装置 | |
CN115757869A (zh) | 视频处理方法、装置、电子设备及介质 | |
CN118135472A (zh) | 一种目标确定方法、装置、电子设备及介质 | |
CN113836358A (zh) | 数据处理方法、装置、电子设备及存储介质 | |
CN118193195A (zh) | 数据搜索方法、装置、电子设备、存储介质及程序产品 | |
CN114662607A (zh) | 基于人工智能的数据标注方法、装置、设备以及存储介质 | |
CN114297486A (zh) | 信息推荐方法、装置、电子设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |