CN115438141A - 一种基于知识图谱模型的信息检索方法 - Google Patents
一种基于知识图谱模型的信息检索方法 Download PDFInfo
- Publication number
- CN115438141A CN115438141A CN202211388526.2A CN202211388526A CN115438141A CN 115438141 A CN115438141 A CN 115438141A CN 202211388526 A CN202211388526 A CN 202211388526A CN 115438141 A CN115438141 A CN 115438141A
- Authority
- CN
- China
- Prior art keywords
- word
- entity
- data
- words
- graph
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 34
- 230000011218 segmentation Effects 0.000 claims abstract description 22
- 238000000605 extraction Methods 0.000 claims abstract description 20
- 238000012545 processing Methods 0.000 claims abstract description 20
- 238000010276 construction Methods 0.000 claims abstract description 15
- 238000013528 artificial neural network Methods 0.000 claims description 26
- 238000012986 modification Methods 0.000 claims description 26
- 230000004048 modification Effects 0.000 claims description 26
- 238000012549 training Methods 0.000 claims description 20
- 239000013598 vector Substances 0.000 claims description 12
- 238000007635 classification algorithm Methods 0.000 claims description 3
- 238000012163 sequencing technique Methods 0.000 claims description 3
- 238000013473 artificial intelligence Methods 0.000 abstract description 2
- 238000010586 diagram Methods 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 3
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000005034 decoration Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 239000003607 modifier Substances 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/31—Indexing; Data structures therefor; Storage structures
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/3331—Query processing
- G06F16/334—Query execution
- G06F16/3344—Query execution using natural language analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
- G06F16/367—Ontology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/284—Lexical analysis, e.g. tokenisation or collocates
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Artificial Intelligence (AREA)
- Databases & Information Systems (AREA)
- Mathematical Physics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Animal Behavior & Ethology (AREA)
- Human Computer Interaction (AREA)
- Machine Translation (AREA)
Abstract
本发明提供了一种基于知识图谱模型的信息检索方法,涉及人工智能技术领域,包括:获取文本知识资料,并基于所述文本知识资料构建语料库;采用分词方法对所述语料库中的每个句子进行分词处理,根据得到的分词结果进行实体词抽取、关系词抽取和停用词抽取;根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据,并将四元组子图数据存储至图数据库,完成知识图谱的构建,所述四元组子图数据结构类型为“实体词—关系词—实体词—停用词”;在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,检索出问题的答案,本发明通过知识图谱的自动构建,避免了查阅信息和网页搜索的低效和繁琐。
Description
技术领域
本发明涉及人工智能技术领域,具体涉及到一种基于知识图谱模型的信息检索方法。
背景技术
知识图谱是将实体作为节点(实体是客观存在的事物),将关系作为边的数据结构,其中,关系是描述两个实体之间的联系,比如“同事”、“夫妻”等。已知某个实体和关系,则能从知识图谱中快速检索出相关的另外一个实体。目前的知识图谱在构建的时候,需要人为定义各种关系,过程较为复杂。且多采用聚类算法等对指定数据进行迭代计算,检索出主题,导致计算量较大,进而降低了检索效率,还有一些传统的方法仅通过抽取的方式构建知识地图谱,导致容易出现部分关系丢失的情况,使得查询结果不准确。
综上所述,如何克服上述缺陷,是本领域技术人员急需解决的问题。
发明内容
本方案针对上文提到的问题和需求,提出一种基于知识图谱模型的信息检索方法,具体由于采取了如下技术方案而能够解决上述技术问题。
为实现上述目的,本发明提供如下技术方案:一种基于知识图谱模型的信息检索方法,包括:
获取文本知识资料,并基于所述文本知识资料构建语料库;
采用分词方法对所述语料库中的每个句子进行分词处理,根据得到的分词结果进行实体词抽取、关系词抽取和停用词抽取;
根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据,并将所述四元组子图数据存储至图数据库,完成知识图谱的构建,所述四元组子图数据结构类型为“实体词—关系词—实体词—停用词”;
在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的答案。
进一步地,所述基于所述文本知识资料构建语料库包括:
对所述文本知识资料进行篇章划分和句子划分;
为每个句子分配一个id,采用每个句子构建一个子图数据;
记录每个子图数据对应的id的前一个子图数据对应的id和后一个子图数据对应的id,并将记录的id信息和每个句子的内容进行关联存储得到语料库。
进一步地,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据之前,所述方法还包括:
构建一个修饰关系预测模型,所述修饰关系预测模型用于确定第一实体词和第二实体词之间的修饰关系;
所述修饰关系预测模型的构建步骤如下:
构建训练样本集,所述训练样本集包括不同的文本知识资料样本语句及其语句标注信息,所述文本知识资料样本语句为与用户可能会问到的自然语言问句相关的文本信息,所述语句标注信息包括文本中的实体词以及实体词之间的修饰关系标签,若文本中两个实体词之间没有关系词,则用“缺失”进行填充;
将训练样本集中的样本语句进行向量化处理,得到对应的样本语句特征向量,将所述样本语句特征向量转化为可以被并行操作的数据集RDD,基于所述数据集RDD,利用朴素贝叶斯分类算法训练得到朴素贝叶斯分类器;
获取待处理文本知识资料中的分词结果,并将分词后的待处理文本知识资料中的语句转换为语句向量;
将转换后的语句向量输入训练好的朴素贝叶斯分类器,输出与待处理文本知识资料中的语句相对应的标签,根据标签得到第一实体词和第二实体词信息。
更进一步地,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据包括:
根据抽取的实体词、关系词和停用词数据,将没有修饰关系的第一实体词、关系词和停用词数据构建成序列,若两个第一实体词之间没有关系词,则用“缺失”进行填充;
将第二实体词按照修饰关系,连接到所述序列中的第一实体词上,完成一个子图的构建。
更进一步地,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据还包括:
构建主实体词预测模型,所述主实体词预测模型用于确定每个句子所有第一实体词中的主实体词,所述主实体词为每个句子针对的实体词,所述主实体词预测模型为一关键词抽取模型。
更进一步地,将所述主实体词预测模型抽取得到的主实体词与所有含有所述主实体词的句子的id进行关联记录,则得到所述主实体词对应的所有子图的id,并将记录数据存储至图数据库中。
更进一步地,所述在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的***括:
在接收到用户输入的查询请求时,分析所述查询请求中的自然语言问句,对自然语言问句进行分词处理,抽取对应的实体词、关系词和停用词数据,并将对应的实体词与知识图谱进行关联;
根据关联出的实体词和该实体词所有子图数据对应的id,统计知识图谱中各实体词的子图数量,确定包含子图数量最少的实体词;
对所述包含子图数量最少的实体词的所有子图进行检索,利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的实体词作为问题的答案。
更进一步地,所述利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的文本数据作为问题的***括:
获取主实体词对应的所有子图的id,检索到所述包含子图数量最少的实体词对应的所有子图数据;
构建用于答案检索的图神经网络,并根据训练集对所述图神经网络进行训练,得到训练好的图神经网络;
获取检索到的各子图数据中所有实体词;
将各子图数据中的各实体词分别输入训练好的图神经网络,进行各实体词打分;
对所有实体词的打分结果按照分数高低进行排序,输出得分最高的实体词作为问题的答案。
从上述的技术方案可以看出,本发明的有益效果是:
1、通过知识图谱的自动构建,避免了查阅信息和网页搜索的低效和繁琐;
2、利用修饰关系预测模型对实体词类型进行划分,确定修饰实体词和主要实体词,然后根据主实体词预测模型在主要实体词中确定出该句子针对的重要主题词,构建“实体词—关系词—实体词—停用词”类型的四元组子图数据结构的知识图谱,基于该知识图谱再根据提出的问题中的主题词和神经网络对检索到的各相关句子进行筛选,最终得出问题对应的答案,避免了使用固定的规则进行检索,提高了检索答案的精确率。
除了上面所描述的目的、特征和优点之外,下文中将结合附图对实施本发明的最优实施例进行更详尽的描述,以便能容易地理解本发明的特征和优点。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下文将对本发明实施例或现有技术描述中所需要使用的附图作简单地介绍,其中,附图仅仅用于展示本发明的一些实施例,而非将本发明的全部实施例限制于此。
图1为本发明中一种基于知识图谱模型的信息检索方法的具体步骤示意图;
图2为本实施例中修饰关系预测模型的构建步骤示意图;
图3为本实施例中知识图谱构建过程的示意图;
图4为本实施例中子图的构建过程的示意图;
图5为本实施例中利用知识图谱检索出问题答案的过程示意图;
图6为本实施例中图神经网络打分过程示意图。
具体实施方式
为了使得本发明的技术方案的目的、技术方案和优点更加清楚,下文中将结合本发明具体实施例的附图,对本发明实施例的技术方案进行清楚、完整地描述。附图中相同的附图标记代表相同的部件。需要说明的是,所描述的实施例是本发明的一部分实施例,而不是全部的实施例。基于所描述的本发明的实施例,本领域普通技术人员在无需创造性劳动的前提下所获得的所有其他实施例,都属于本发明保护的范围。
在构建知识图谱的时候,目前需要人为定义各种关系,并使用信息抽取等技术得到“左实体”、“关系”、“右实体”这个三元组。但是关系定义的过程较为繁琐复杂,不可能把所有关系都事先人为的定义好,这个缺陷就限制了知识图谱技术的发展。
本申请针对解决构建知识图谱时需要事先定义“关系”的痛点,构建图谱时,不再需要各种的无限的强关系(如“夫妻”、“同事”),而是使用有限的弱关系(如“和”、“的”、“是”)进行关联。
如图1至图2所示,一种基于知识图谱模型的信息检索方法具体包括以下步骤:
步骤Step1:获取文本知识资料,并基于所述文本知识资料构建语料库。
具体地,所述基于所述文本知识资料构建语料库包括:
(1)对所述文本知识资料进行篇章划分和句子划分;
(2)为每个句子分配一个id,采用每个句子构建一个子图数据;
(3)记录每个子图数据对应的id的前一个子图数据对应的id和后一个子图数据对应的id,并将记录的id信息和每个句子的内容进行关联存储得到语料库。
知识文本中的每一句话都会构建一个子图,每个子图分配一个id,需要记录某个图id的前一个图id和后一个图id,这样就能查找到前一句话和后一句话。
步骤Step2:采用分词方法对所述语料库中的每个句子进行分词处理,根据得到的分词结果进行实体词抽取、关系词抽取和停用词抽取。
在本实施例中,可将一句话使用现有的分词技术做分词,并将词分为三种:实体词、关系词、停用词,其中,关系词包括:如“的”、“是”、“不是”、“和”等,它们表示两个实体之间关系的词,关系词不会特别多,所以可以事先构建一个关系词表;停用词包括:如“啊”,“呀”,“了”,同样需要构建停用词表;除了关系词和停用词,其他都是实体词。
在根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据之前,所述方法还包括:
构建一个修饰关系预测模型,所述修饰关系预测模型用于确定第一实体词和第二实体词之间的修饰关系。
如图2所示,所述修饰关系预测模型的构建步骤如下:
(1)构建训练样本集,所述训练样本集包括不同的文本知识资料样本语句及其语句标注信息,所述文本知识资料样本语句为与用户可能会问到的自然语言问句相关的文本信息,所述语句标注信息包括文本中的实体词以及实体词之间的修饰关系标签,若文本中两个实体词之间没有关系词,则用“缺失”进行填充;
(2)将训练样本集中的样本语句进行向量化处理,得到对应的样本语句特征向量,将所述样本语句特征向量转化为可以被并行操作的数据集RDD,基于所述数据集RDD,利用朴素贝叶斯分类算法训练得到朴素贝叶斯分类器;
(3)获取待处理文本知识资料中的分词结果,并将分词后的待处理文本知识资料中的语句转换为语句向量;
(4)将转换后的语句向量输入训练好的朴素贝叶斯分类器,输出与待处理文本知识资料中的语句相对应的标签,根据标签得到第一实体词和第二实体词信息,其中,第一实体词为一句话中的主要实体词,第二实体词为修饰第一实体词的修饰实体词。
在本实施例中,构建和训练修饰关系预测模型是为了确定各实体词之间的修饰关系,比如:“男A和女B在上海徐汇区婚姻登记处,正式领取了结婚证书”,“上海”修饰“徐家汇”,“正式”修饰“领取”,如表1所示:
表1
步骤Step3:根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据,并将所述四元组子图数据存储至图数据库,完成知识图谱的构建,所述四元组子图数据结构类型为“实体词—关系词—实体词—停用词”。
如图3所示,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据包括:
步骤Step3.1:根据抽取的实体词、关系词和停用词数据,将没有修饰关系的第一实体词、关系词和停用词数据构建成序列,若两个第一实体词之间没有关系词,则用“缺失”进行填充;
步骤Step3.2:将第二实体词按照修饰关系,连接到所述序列中的第一实体词上,完成一个子图的构建。
在本实施例中,确定好实体词之间的修饰关系后,再将没有修饰关系的实体词,和关系词构建成序列,如:
男A [和] 女B [在] 婚姻登记处 [缺失] 领取 [缺失] 结婚证,若两个实体词之间没有关系词,就用一个特殊的关系词来填充,这个关系词叫“缺失”。
如图4所示,然后将修饰词“上海”和“正式”等按照修饰关系,连接到序列中的实体上,就完成一个子图的构建。
更进一步地,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据还包括:
步骤Step3.3:构建主实体词预测模型,所述主实体词预测模型用于确定每个句子所有第一实体词中的主实体词,所述主实体词为每个句子针对的实体词,所述主实体词预测模型为一关键词抽取模型。
在本实施例中,为了确定一句话主要是针对哪些实体的,需要训练一个“主实体词预测”模型,确定一句话中的主实体词,即这句话针对的实体词。
例如:男A、“男A和女B在上海徐汇区婚姻登记处,正式领取了结婚证书”的主实体词是“男A,女B”,因为这句话主要是针对“男A和女B”,而不是针对“上海”或者“结婚证书”。
b、“无论怎么说,男C都是男A职业生涯的最佳队友”的主实体词是“男A,男C”。
而抽取一句话的主实体词,是标准的信息抽取任务,本实施例中采用的主实体词预测模型包括但不限于bert+crf模型等关键词抽取模型。
步骤Step3.4:将所述主实体词预测模型抽取得到的主实体词与所有含有所述主实体词的句子的id进行关联记录,则得到所述主实体词对应的所有子图的id,并将记录数据存储至图数据库中。
在本实施例中,将主实体词预测模型抽取出来的主实体词,存入数据库,并记录它所关联的所有子图id,这样,就可在检索某个实体词时,得到它关联的所有子图。
例如:使用“男A”作为key去检索,就可以得到以下两句话的子图:
男A、“男A和女B在上海徐汇区婚姻登记处,正式领取了结婚证书”的主实体词是“男A,女B”。
b、“无论怎么说,男C都是男A职业生涯的最佳队友”。
而如果使用“女B”去检索,只能得到第一句话。
步骤Step4:在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的答案。
如图5所示,具体地,所述在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的***括:
步骤Step4.1:在接收到用户输入的查询请求时,分析所述查询请求中的自然语言问句,对自然语言问句进行分词处理,抽取对应的实体词、关系词和停用词数据,并将对应的实体词与知识图谱进行关联;
步骤Step4.2:根据关联出的实体词和该实体词所有子图数据对应的id,统计知识图谱中各实体词的子图数量,确定包含子图数量最少的实体词;
步骤Step4.3:对所述包含子图数量最少的实体词的所有子图进行检索,利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的实体词作为问题的答案。
在本实施例中,采用一种简单快速的办法,找到对应语句的关键词。比如,用户检索:“男A在上海的地址”,“上海”和“地址”都会索引出海量的文本子图,但“男A”的相关子图最少,选择“男A”这个词去检测问题的答案会更精准。
更进一步地,所述利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的文本数据作为问题的***括:
步骤Step4.3.1:获取主实体词对应的所有子图的id,检索到所述包含子图数量最少的实体词对应的所有子图数据;
步骤Step4.3.2:构建用于答案检索的图神经网络,并根据训练集对所述图神经网络进行训练,得到训练好的图神经网络;
步骤Step4.3.3:获取检索到的各子图数据中所有实体词;
步骤Step4.3.4:将各子图数据中的各实体词分别输入训练好的图神经网络,进行各实体词打分;
步骤Step4.3.5:对所有实体词的打分结果按照分数高低进行排序,输出得分最高的实体词作为问题的答案。
在本实施例中,所述图神经网络采用一个分类网络F(X,Q,K),对该分类网络行训练,如下:
X是“底图”,即数据库中预先用文本构建的图
Q是“问题图”,即用户问的某个问题文本转化成的图
K是X底图中的某个实体。
构建训练集,如下:
0=f(“男A和女B在上海结婚”,”男A的爱人是谁”,“上海”)
0=f(“男A和女B在上海结婚”,”男A的爱人是谁”,“男A”)
0=f(“男A和女B在上海结婚”,”男A的爱人是谁”,“结婚”)
1=f(“男A和女B在上海结婚”,”男A的爱人是谁”,“女B”)
基于训练集对参数进行调整得到训练好的网络结构,根据训练好的网络结构对用户提问的Q所召回的相关X,从X中找到打分最高的K,作为问题的答案。
在训练好一个图神经网络后,输入两个子图(底图、问题图)和一个答案实体词,做真和假的二分类的分类打分,则可得到对应的问题答案。
例如:底图:“男A和女B在上海徐汇区婚姻登记处,正式领取了结婚证书”;
问题图:“男A的老婆是谁”;
GNN(底图,问题图,“男A”)=0:男A实体词不是问题图的答案;
GNN(底图,问题图,“女B”)=1:女B实体词是问题图的答案。
如图6所示,检索问题答案的时候,先找到问题图中主实体词所有关联的所有子图,再按照上述步骤得到问题答案。并根据gnn的打分可得男A的老婆是“女B”,而不是“男C”(因为“女B”的预测分数最高),其中,gnn是图神经网络。
本发明设计少量虚拟关系来代替现实世界中的各种复杂关系,比如文本中两个实体词先后出现时就给建立一个“前后关系”;如果两个实体词之间有“的”字就给建立一个“的关系”;如果两个实体词之间有“是”字就给建立一个“是关系”;如果两个实体词之间有“和”字就给建立一个“和关系”。
比如:(1)”上海徐家汇”,“上海”是“徐家汇”的修饰,上海到徐家汇就有一个虚拟关系(修饰关系):上海->徐家汇;(2)”领取结婚证”,“领取”和“结婚证”这两个词没有修饰关系,但前后出现,所以又可以建立一个虚拟关系(先后关系):领取->结婚证。
使用虚的关系边和信息抽取方法,将文本变成一个个子图。此时,其实已经完成了知识图谱的自动构建。其中,需要统计包含某个实体的子图数量,并保证能用一个实体,快速索引出所有包含它的子图。
在想要检索某个问题的答案时,比如:男A的老婆是谁,只需要检索问题中包含子图数量最少的那个实体,比如:男A的所有子图,借助图神经网络给子图中所有实体打分,打分最高的那个实体就是需要的答案。
本发明采用虚拟关系来代替现实中的复杂关系,实现知识图谱的自动构建。并使用图神经网络,对和问题相关的所有子图中的所有实体打分;打分最高的那个实体就是问题的答案,便捷快速,检索时不再使用固定的规则,而是使用图神经网络的打分,来找到最合适的答案实体。
应当说明的是,本发明所述的实施方式仅仅是实现本发明的优选方式,对属于本发明整体构思,而仅仅是显而易见的改动,均应属于本发明的保护范围之内。
Claims (8)
1.一种基于知识图谱模型的信息检索方法,其特征在于,包括以下步骤:
获取文本知识资料,并基于所述文本知识资料构建语料库;
采用分词方法对所述语料库中的每个句子进行分词处理,根据得到的分词结果进行实体词抽取、关系词抽取和停用词抽取;
根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据,并将所述四元组子图数据存储至图数据库,完成知识图谱的构建,所述四元组子图数据结构类型为“实体词—关系词—实体词—停用词”;
在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的答案。
2.如权利要求1所述的基于知识图谱模型的信息检索方法,其特征在于,所述基于所述文本知识资料构建语料库包括:
对所述文本知识资料进行篇章划分和句子划分;
为每个句子分配一个id,采用每个句子构建一个子图数据;
记录每个子图数据对应的id的前一个子图数据对应的id和后一个子图数据对应的id,并将记录的id信息和每个句子的内容进行关联存储得到语料库。
3.如权利要求1所述的基于知识图谱模型的信息检索方法,其特征在于,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据之前,所述方法还包括:
构建一个修饰关系预测模型,所述修饰关系预测模型用于确定第一实体词和第二实体词之间的修饰关系;
所述修饰关系预测模型的构建步骤如下:
构建训练样本集,所述训练样本集包括不同的文本知识资料样本语句及其语句标注信息,所述文本知识资料样本语句为与用户可能会问到的自然语言问句相关的文本信息,所述语句标注信息包括文本中的实体词以及实体词之间的修饰关系标签,若文本中两个实体词之间没有关系词,则用“缺失”进行填充;
将训练样本集中的样本语句进行向量化处理,得到对应的样本语句特征向量,将所述样本语句特征向量转化为可以被并行操作的数据集RDD,基于所述数据集RDD,利用朴素贝叶斯分类算法训练得到朴素贝叶斯分类器;
获取待处理文本知识资料中的分词结果,并将分词后的待处理文本知识资料中的语句转换为语句向量;
将转换后的语句向量输入训练好的朴素贝叶斯分类器,输出与待处理文本知识资料中的语句相对应的标签,根据标签得到第一实体词和第二实体词信息。
4.如权利要求2所述的基于知识图谱模型的信息检索方法,其特征在于,根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据包括:
根据抽取的实体词、关系词和停用词数据,将没有修饰关系的第一实体词、关系词和停用词数据构建成序列,若两个第一实体词之间没有关系词,则用“缺失”进行填充;
将第二实体词按照修饰关系,连接到所述序列中的第一实体词上,完成一个子图的构建。
5.如权利要求4所述的基于知识图谱模型的信息检索方法,其特征在于,所述根据抽取的实体词、关系词和停用词数据处理构建四元组子图数据还包括:
构建主实体词预测模型,所述主实体词预测模型用于确定每个句子所有第一实体词中的主实体词,所述主实体词为每个句子针对的实体词,所述主实体词预测模型为一关键词抽取模型。
6.如权利要求5所述的基于知识图谱模型的信息检索方法,其特征在于,将所述主实体词预测模型抽取得到的主实体词与所有含有所述主实体词的句子的id进行关联记录,则得到所述主实体词对应的所有子图的id,并将记录数据存储至图数据库中。
7.如权利要求2所述的基于知识图谱模型的信息检索方法,其特征在于,所述在接收到用户输入的查询请求时,对所述查询请求中的自然语言问句进行分析,得到所述自然语言问句对应的实体词,根据所述自然语言问句对应的实体词和所述知识图谱中的四元组子图数据检索出问题的***括:
在接收到用户输入的查询请求时,分析所述查询请求中的自然语言问句,对自然语言问句进行分词处理,抽取对应的实体词、关系词和停用词数据,并将对应的实体词与知识图谱进行关联;
根据关联出的实体词和该实体词所有子图数据对应的id,统计知识图谱中各实体词的子图数量,确定包含子图数量最少的实体词;
对所述包含子图数量最少的实体词的所有子图进行检索,利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的实体词作为问题的答案。
8.如权利要求7所述的基于知识图谱模型的信息检索方法,其特征在于,所述利用图神经网络给各子图中所有实体词打分,并对打分结果进行排序,输出得分最高的文本数据作为问题的***括:
获取主实体词对应的所有子图的id,检索到所述包含子图数量最少的实体词对应的所有子图数据;
构建用于答案检索的图神经网络,并根据训练集对所述图神经网络进行训练,得到训练好的图神经网络;
获取检索到的各子图数据中所有实体词;
将各子图数据中的各实体词分别输入训练好的图神经网络,进行各实体词打分;
对所有实体词的打分结果按照分数高低进行排序,输出得分最高的实体词作为问题的答案。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211388526.2A CN115438141B (zh) | 2022-11-08 | 2022-11-08 | 一种基于知识图谱模型的信息检索方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202211388526.2A CN115438141B (zh) | 2022-11-08 | 2022-11-08 | 一种基于知识图谱模型的信息检索方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN115438141A true CN115438141A (zh) | 2022-12-06 |
CN115438141B CN115438141B (zh) | 2023-03-24 |
Family
ID=84252382
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202211388526.2A Active CN115438141B (zh) | 2022-11-08 | 2022-11-08 | 一种基于知识图谱模型的信息检索方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115438141B (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118133972A (zh) * | 2024-05-10 | 2024-06-04 | 北京网智天元大数据科技有限公司 | 一种基于知识图谱的内容检索生成方法、装置及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN110909111A (zh) * | 2019-10-16 | 2020-03-24 | 天津大学 | 基于知识图谱rdf数据特征的分布式存储与索引方法 |
US20200134032A1 (en) * | 2018-10-31 | 2020-04-30 | Microsoft Technology Licensing, Llc | Constructing structured database query language statements from natural language questions |
CN111177315A (zh) * | 2019-12-19 | 2020-05-19 | 北京明略软件***有限公司 | 知识图谱的更新方法、装置及计算机可读存储介质 |
CN113312501A (zh) * | 2021-06-29 | 2021-08-27 | 中新国际联合研究院 | 基于知识图谱的安全知识自助查询***的构建方法及装置 |
CN114781595A (zh) * | 2022-03-28 | 2022-07-22 | 上海易康源医疗健康科技有限公司 | 神经网络训练方法及神经网络、问答***及方法 |
CN114860960A (zh) * | 2022-07-11 | 2022-08-05 | 南京师范大学 | 一种基于文本挖掘的洪涝型Natech灾害事件知识图谱构建方法 |
-
2022
- 2022-11-08 CN CN202211388526.2A patent/CN115438141B/zh active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20200134032A1 (en) * | 2018-10-31 | 2020-04-30 | Microsoft Technology Licensing, Llc | Constructing structured database query language statements from natural language questions |
CN110909111A (zh) * | 2019-10-16 | 2020-03-24 | 天津大学 | 基于知识图谱rdf数据特征的分布式存储与索引方法 |
CN111177315A (zh) * | 2019-12-19 | 2020-05-19 | 北京明略软件***有限公司 | 知识图谱的更新方法、装置及计算机可读存储介质 |
CN113312501A (zh) * | 2021-06-29 | 2021-08-27 | 中新国际联合研究院 | 基于知识图谱的安全知识自助查询***的构建方法及装置 |
CN114781595A (zh) * | 2022-03-28 | 2022-07-22 | 上海易康源医疗健康科技有限公司 | 神经网络训练方法及神经网络、问答***及方法 |
CN114860960A (zh) * | 2022-07-11 | 2022-08-05 | 南京师范大学 | 一种基于文本挖掘的洪涝型Natech灾害事件知识图谱构建方法 |
Non-Patent Citations (1)
Title |
---|
宋伟等: "基于环境信息融合的知识图谱构建方法", 《计算机***应用》 * |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN118133972A (zh) * | 2024-05-10 | 2024-06-04 | 北京网智天元大数据科技有限公司 | 一种基于知识图谱的内容检索生成方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN115438141B (zh) | 2023-03-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110765257B (zh) | 一种知识图谱驱动型的法律智能咨询*** | |
Kuznetsova et al. | The open images dataset v4: Unified image classification, object detection, and visual relationship detection at scale | |
CN107169049B (zh) | 应用的标签信息生成方法及装置 | |
WO2021093755A1 (zh) | 问题的匹配方法及装置、问题的回复方法及装置 | |
CN107729468B (zh) | 基于深度学习的答案抽取方法及*** | |
CN112035730B (zh) | 一种语义检索方法、装置及电子设备 | |
CN110162591B (zh) | 一种面向数字教育资源的实体对齐方法及*** | |
CN106897559B (zh) | 一种面向多数据源的症状体征类实体识别方法及装置 | |
CN110188197B (zh) | 一种用于标注平台的主动学习方法及装置 | |
CN106649258A (zh) | 一种智能的问答*** | |
CN109271524B (zh) | 知识库问答***中的实体链接方法 | |
CN108038099B (zh) | 基于词聚类的低频关键词识别方法 | |
CN113742488B (zh) | 基于多任务学习的嵌入式知识图谱补全方法和装置 | |
CN112699645B (zh) | 语料标注方法、装置及设备 | |
CN108090223A (zh) | 一种基于互联网信息的开放学者画像方法 | |
CN115438141B (zh) | 一种基于知识图谱模型的信息检索方法 | |
CN112613321A (zh) | 一种抽取文本中实体属性信息的方法及*** | |
CN111666374A (zh) | 一种在深度语言模型中融入额外知识信息的方法 | |
CN116662583B (zh) | 一种文本生成方法、地点检索方法及相关装置 | |
CN115757714A (zh) | 强化关联度计算的小样本用户多意图识别方法 | |
CN111949781B (zh) | 一种基于自然语句句法分析的智能交互方法及装置 | |
CN115114417A (zh) | 中文填空题自动评分方法及装置 | |
CN116521829A (zh) | 图谱问答方法及装置、设备、存储介质 | |
CN109299456B (zh) | 一种地名识别方法 | |
KR20210039904A (ko) | 이미지 정보를 이용한 특허문서의 단어 세트 획득 방법 및 시스템 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CP03 | Change of name, title or address |
Address after: No. 205, Building B1, Huigu Science and Technology Industrial Park, No. 336 Bachelor Road, Bachelor Street, Yuelu District, Changsha City, Hunan Province, 410000 Patentee after: Wisdom Eye Technology Co.,Ltd. Country or region after: China Address before: 410205, Changsha high tech Zone, Hunan Province, China Patentee before: Wisdom Eye Technology Co.,Ltd. Country or region before: China |
|
CP03 | Change of name, title or address |