CN114417880A - 一种基于电网实训问答知识库的交互式智能问答方法 - Google Patents
一种基于电网实训问答知识库的交互式智能问答方法 Download PDFInfo
- Publication number
- CN114417880A CN114417880A CN202111665535.7A CN202111665535A CN114417880A CN 114417880 A CN114417880 A CN 114417880A CN 202111665535 A CN202111665535 A CN 202111665535A CN 114417880 A CN114417880 A CN 114417880A
- Authority
- CN
- China
- Prior art keywords
- question
- power grid
- knowledge base
- text
- practical training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 53
- 238000000034 method Methods 0.000 title claims abstract description 40
- 230000002452 interceptive effect Effects 0.000 title claims abstract description 35
- 238000000605 extraction Methods 0.000 claims abstract description 14
- 238000013528 artificial neural network Methods 0.000 claims abstract description 9
- 239000013598 vector Substances 0.000 claims description 42
- 230000003993 interaction Effects 0.000 claims description 20
- 238000013527 convolutional neural network Methods 0.000 claims description 9
- 230000007246 mechanism Effects 0.000 claims description 9
- 230000011218 segmentation Effects 0.000 claims description 8
- 238000012545 processing Methods 0.000 claims description 7
- 230000004927 fusion Effects 0.000 claims description 6
- 238000004590 computer program Methods 0.000 claims description 5
- 230000002457 bidirectional effect Effects 0.000 claims description 3
- 238000007781 pre-processing Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 claims description 2
- 238000013526 transfer learning Methods 0.000 claims description 2
- 238000013473 artificial intelligence Methods 0.000 description 12
- 238000005516 engineering process Methods 0.000 description 8
- 230000001427 coherent effect Effects 0.000 description 5
- 230000008569 process Effects 0.000 description 5
- 230000004044 response Effects 0.000 description 4
- 238000003058 natural language processing Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000018109 developmental process Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/332—Query formulation
- G06F16/3329—Natural language query formulation or dialogue systems
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
- G06F16/335—Filtering based on additional data, e.g. user or group profiles
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/247—Thesauruses; Synonyms
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Artificial Intelligence (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- General Health & Medical Sciences (AREA)
- Data Mining & Analysis (AREA)
- Databases & Information Systems (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Molecular Biology (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Software Systems (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Human Computer Interaction (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明涉及一种基于电网实训知识库的交互式智能问答方法,包括以下步骤:构建包含电网实训的问题描述和答案的电网实训知识库;基于电网实训知识库中的问题描述和答案的预训练基于神经网络的语义模型库;由用户提出问题,获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本;获取用户提出的历史问题,结合历史问题对所述标准文本进行语境识别,获取对应的语境识别结果;基于所述语境识别结果对标准文本进行实体提取,获取实体提取结果;将语境识别结果及实体提取结果输入至语义识别模型,输出相应的答案;将答案转换为自然语言描述文本回复给用户。
Description
技术领域
本发明涉及一种基于电网实训问答知识库的交互式智能问答方法,属于自然语言处理技术领域。
背景技术
随着图像识别、语音识别、自然语言处理等人工智能技术蓬勃发展以及在电力运检、安监、营销等应用领域的持续落地,电网企业对于构建人工智能实训环境,培养人工智能专业队伍,推进人工智能技术更为广泛应用的需求也在不断增长。希望通过电网人工智能实训环境,为用户提供基于自然语言的智能交互解答模式,为实训过程中提供精准信息解答,降低人工智能实训操作门槛,提升人工智能实训***的易用性水平,达到有效降低人工培训的成本。
然而,电网人工智能技术作为一门需要大量知识准备的专业技术,开展难度较大,普通学员在操作过程中需要大量的指导、建议和专业知识解答,而传统的搜索和匹配式解答反馈,不能和用户操作过程有效结合、无法识别用户当前所处的环境,只能实现较低级别的信息检索与反馈,用户体验不佳,难以满足人工智能实训的目标。
有必要在电网实训问答知识库的基础上,能够结合电网实训的全过程和具体环节,提供全面的课程信息、专业知识、技术文档、操作方法等问题的交互式解答,从而降低人工智能实训操作门槛,提升用户体验,不断提升人工智能实训平台的实用化水平。
现有的智能问答技术如公开号为“CN109977204A”的发明专利公开了一种基于知识库的智能问答***和方法,该***包括:问题获取模块,用于获取问题文字;语义分词模块,用于对问题文字进行语义分词,得到问题文字中的特征词;问题检索模块,用于根据特征词在预设的问答知识库中检索与特征词相似度最高的问题作为目标问题;答案反馈模块,用于向用户反馈目标问题对应的目标答案,如此,将问答知识以问题和答案对应关联并存储于问答知识库中,并通过人工智能的技术替代或辅助客服解决用户提出的问题,减少企业在咨询场景客服人力的投入,释放客服的工作量,为企业节省成本和提高用户服务满意度。上述现有技术存在的问题是未考虑用户提问的会话场景和多问题的关联性,只是对每个问题进行独立解答,难以避免因无法获得丰富的用户意图信息,而反馈错误的问题答案。
又如公开号为“CN112115238A”的发明专利公开了一种基于BERT和知识库的问答方法和***,该方法针对现有的知识库问答***存在的缺陷,分别构建基于BERT-CRF和语言模型的命名实体识别模型,与基于BERT和语言模型的文本相似度二分类模型;并对两个模型进行训练,采用训练完成的两个模型对待解答的问题语料进行处理,能得到该问题的正确答案,并自动改写回答。该现有技术虽然利用多头注意力机制,利用了问题字串的字与字或词与词之间的关系,并通过BERT词嵌入得到了更多层次的语义表示,但同样只是对每个问题字串进行分析和提取特征,未考虑用户提问的会话场景和多问题的关联性。在一定会话场景下,也难以避免因无法获得连贯的用户意图信息,而反馈错误的问题答案。
发明内容
为了解决上述现有技术中存在的问题,本发明提出了一种基于电网实训知识库的交互式智能问答方法,在电网实训知识库的基础上,构建了基于神经网络的语义模型库,并提取用户提问的语境,实现联合问题语义、提问者的背景知识和用户连贯意图进行电网实训知识库的检索,将检索到的相关答案转化为自然语言描述文本,从而实现从用户问题理解、问题检索、答案生成的一问一答和交互式应答的方法。
本发明的技术方案如下:
一方面,本发明提供一种基于电网实训知识库的交互式智能问答方法,包括以下步骤:
构建包含电网实训的问题描述和答案的电网实训知识库;
基于电网实训知识库中的问题描述和答案的预训练基于神经网络的语义模型库;
由用户提出问题,获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本;
获取用户提出的历史问题,结合历史问题对所述标准文本进行语境识别,获取对应的语境识别结果;
基于所述语境识别结果对标准文本进行实体提取,获取实体提取结果;
将语境识别结果及实体提取结果输入至语义识别模型,输出相应的答案;将答案转换为自然语言描述文本回复给用户。
作为优选实施方式,所述获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本的步骤具体为:
对原始文本进行纠错;
对纠错后的原始文本进行分词处理和词性标注;
基于分词处理和词性标注的结果,结合同义词库、近义词库及停用词库,去除原始文本中的停用词,并将近义词、同义词进行归一化;
对经过上述处理后的原始文本进行句法分析,基于句法分析结果简化原始文本的语句描述,生成标准文本。
作为优选实施方式,所述语义模型库包括嵌入层、编码层、交互层以及输出层;
所述嵌入层用于将输入的问题描述和答案的文本转换为短语向量;
所述编码层对短语向量进行编码,提取短语向量的特征;
所述交互层对问题描述和答案进的文本行逐字交互,获取问题描述中的短语向量相对答案中的短语向量的加权状态,并对问题描述和答案中的短语向量的特征进行融合;
所述输出层根据交互层输出的融合特征产生答案。
作为优选实施方式,在所述嵌入层中,利用短语嵌入模型将输入的问题描述和答案的文本映射到N维连续的空间中,生成短语向量。
作为优选实施方式,所述编码层采用CNN卷积神经网络对短语向量进行编码。
作为优选实施方式,所述交互层中引入自注意力机制,将融合特征自己与自己进行注意力学习,捕获短语向量之间的依赖关系。
作为优选实施方式,所述输出层采用双向LSTM神经网络,在每个提问时刻,捕捉与当前问题和答案相关的语义关联信息,基于语义关联信息检索相关答案,并将检索到的答案转换为自然语言描述文本。
作为优选实施方式,采用BERT迁移学习模型进行语境识别,通过用户提出的历史问题,学习用户的关注特征,基于关注特征获取用户的关注场景和关注领域。
作为优选实施方式,采用BERT-BiLSTM-CRF模型进行实体提取,基于用户的关注场景和关注领域,提取标准文本中的实体词。
另一方面,本发明提供一种基于电网实训知识库的交互式智能问答装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明任一实施例所述的交互式智能问答方法。
本发明具有如下有益效果:
1、本发明一种基于电网实训知识库的交互式智能问答方法,构建了基于神经网络的语义模型库,并提取用户提问的语境,实现联合问题语义、提问者的背景知识和用户连贯意图进行电网实训知识库的检索,将检索到的相关答案转化为自然语言描述文本,从而实现从用户问题理解、问题检索、答案生成的一问一答和交互式应答的方法。
2、本发明一种基于电网实训知识库的交互式智能问答方法,在语义模型库的交互层中引入自注意力机制,能够捕获短语向量之间的依赖关系,大大增强了模型的可解释性,能够清楚地看到短语之间的关联程度。
3、本发明一种基于电网实训知识库的交互式智能问答方法,结合用户提出的历史问题对当前提出的问题进行语境识别,考虑了会话场景和历史问题的关联性,能够获得连贯的用户意图进行,实现交互式应答的良好用户体验。
附图说明
图1为本发明一实施例的方法流程图;
图2为本发明中语义模型库的运行流程图。
具体实施方式
下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
应当理解,文中所使用的步骤编号仅是为了方便描述,不对作为对步骤执行先后顺序的限定。
应当理解,在本发明说明书中所使用的术语仅仅是出于描述特定实施例的目的而并不意在限制本发明。如在本发明说明书和所附权利要求书中所使用的那样,除非上下文清楚地指明其它情况,否则单数形式的“一”、“一个”及“该”意在包括复数形式。
术语“包括”和“包含”指示所描述特征、整体、步骤、操作、元素和/或组件的存在,但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合,并且包括这些组合。
实施例一:
参见图1,本实施例提供一种基于电网实训知识库的交互式智能问答方法,包括以下步骤:
构建包含电网实训的问题描述和答案的电网实训知识库;
基于电网实训知识库中的问题描述和答案的预训练基于神经网络的语义模型库;
由用户提出问题,获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本;
获取用户提出的历史问题,结合历史问题对所述标准文本进行语境识别,获取对应的语境识别结果;
基于所述语境识别结果对标准文本进行实体提取,获取实体提取结果;
将语境识别结果及实体提取结果输入至语义识别模型,输出相应的答案;将答案转换为自然语言描述文本回复给用户。
本实施例在电网实训知识库的基础上,运用自然语言处理、语义网技术,构建了基于神经网络的语义模型库,并提取用户提问的语境,实现联合问题语义、提问者的背景知识和用户连贯意图进行电网实训知识库的检索,将检索到的相关答案转化为自然语言描述文本,从而实现从用户问题理解、问题检索、答案生成的一问一答和交互式应答的方法。
作为本实施例的优选实施方式,所述获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本的步骤具体为:
采用基于电网垂域的DCQC纠错技术对原始文本进行自动纠错;
采用jieba工具对对纠错后的原始文本进行分词处理和词性标注;
基于分词处理和词性标注的结果,结合同义词库、近义词库及停用词库,去除原始文本中的停用词,并将近义词、同义词进行归一化;
利用句法分析工具HanLP,对经过上述处理后的原始文本进行句法分析,基于句法分析结果简化原始文本的语句描述,生成标准文本,如原始文本为“国网非结构化平台的某某文件,编号是432012**,找不到是什么问题?”,经简化后的标准文本为“文件,编号是432012**,查询问题”。
参见图2,作为本实施例的优选实施方式,所述语义模型库包括嵌入层、编码层、交互层以及输出层。
嵌入层用于将输入的问题描述和答案的文本转换为短语向量;嵌入层是整个模型构建的关键步骤,负责将短篇文章(问题描述/答案)转换为可结构化描述的短语向量。
编码层的目的是将已经表示为短语向量的Tokens(短语的唯一标记单位)通过一些复合函数进一步学习其内在的特征与关联信息。提取特征的本质就是在对样本进行编码。
交互层是整个语义模型库的核心部分,用于对问题描述和答案进的文本行逐字交互,获取问题描述中的短语向量相对答案中的短语向量的加权状态,并对问题描述和答案中的短语向量的特征进行融合。
输出层根据交互层输出的融合特征产生答案。
作为本实施例的优选实施方式,在所述嵌入层中,利用短语嵌入模型将输入的问题描述和答案的文本映射到N维连续的空间中,生成短语向量。
目前现有方案中,基本均采用“词嵌入”的方式。即将短语切割为词,并将词表示成高维、稠密的向量,语义相似的单词可以在几何空间中被编码成距离相近的向量。
词向量能够基于单词的分布式假设,从大规模无标签的文本语料库中学习获得,使用最多的是Word2Vec,该模型可从上下文对目标单词的预测中学习词向量。
本实施例基于现有的Word2Vec(词向量)思想,提出一种改进的嵌入模型,即:短语嵌入模型,Phrase2Vec。Skip-Gram是经典的Word2Vec模型,它通过给出的特定单词预测上下文单词,它的目标是训练隐藏层的权重,该权重被作为相应单词的嵌入。本实施例拓展Skip-Gram框架扩展为Skip-Phrase,学习短语的向量表示,即短语嵌入。
Skip-Phrase模型将短语映射到N维连续的空间中,并且短语向量之间的距离表示短语的相似度。采用余弦相似度进行向量距离的计算,如短语p1和p2的距离计算如分子为向量p1和p2的点乘结果,分母为两者的模乘积.余弦相似度取值范围为[_1,1],值越大表示相似度越高:
作为本实施例的优选实施方式,所述编码层采用CNN卷积神经网络对短语向量进行编码;
常规方案中,编码层一般使用RNN模型对问题描述和答案描述进行编码,会导致模型训练和推理的速度变得非常缓慢,这使得模型无法应用于更大的数据集,同时无法应用于实时***中。
本实施例中,采用CNN(卷积神经网络)模型善于提取文本局部特征的优点,同时采用注意力机制来弥补CNN模型无法对句子中单词的全局交互信息进行捕捉的劣势。
编码层额外引入了注意力机制,当答案和问题描述的短语向量通过注意力机制后,语义模型库就能学习到两者之间短语级别的权重状态,这大大提高了最后答案预测或生成的准确率
作为本实施例的优选实施方式,所述交互层中引入自注意力机制,将融合特征自己与自己进行注意力学习,捕获短语向量之间的依赖关系,注意力机制的另一个优点是大大增强了模型的可解释性,能够清楚地看到短语之间的关联程度。
作为优本实施例的选实施方式,所述输出层基于双向LSTM神经网络的答案生成模型,在每个提问时刻,捕捉与当前问题和答案相关的语义关联信息,基于语义关联信息检索相关答案,并将检索到的答案转换为自然语言描述文本。由于答案的形式是自由的(free-form),可能在电网实训知识库的答案中找到,也可能无法直接找到而需要模型生成,因此,模型的输出不是固定形式的,有可能依赖预测起止位置的概率,也有可能需要模型产生自由形式的答案。语义关联信息体现了当前问题答案的上下文依赖关系,弥补了只考虑单问题的匹配方式对上下文信息考虑的不足,并将检索到的相关答案转化为自然语言描述文本,从而实现从用户问题理解、问题检索、答案生成的一问一答和交互式应答的方法。
作为本实施例的优选实施方式,采用BERT迁移学习模型进行语境识别,通过用户提出的历史问题,学习用户的关注特征,基于关注特征获取用户的关注场景和关注领域,从而准确地理解用户提问的意图和语境;
自然语言中的短语代表不同的语义,但它们并不是孤立的,它们之间存在语义相似性的关系.为了定量描述实体相似性,研究者通常把具有相似性关系的实体映射到向量空间中,利用向量距离表示实体之间的相似性关系,这叫做嵌入(Embedding).短语嵌入(Phrase Embedding)的思想源于词嵌入(Word Embedding).合理地表示短语之间的相似性关系是利用短语理解智能问答***中问题和答案的前提.
合理的自然语言表示方式要提取文本的核心语义,然后通过结构化形式进行表示。
本实施例基于词嵌入的思想,提出短语嵌入的方案,实现短语的向量化。将短语映射到N维连续空间中,并且短语向量之间的距离表示短语的相似度。
作为本实施例的优选实施方式,采用BERT-BiLSTM-CRF模型进行实体提取,基于用户的关注场景和关注领域,提取标准文本中的实体词,包括人名、地名、时间、组织机构等实体词。
本发明在电网实训问答知识库的基础上,能够结合电网实训的全过程和具体环节,提供全面的课程信息、专业知识、技术文档、操作方法等问题的交互式解答。对比已有方案具有以下优势,不但对每个问题字串进行分析和提取特征,还考虑了用户提问的会话场景和历史问题的关联性,在一定会话场景下,能够获得连贯的用户意图信息,实现交互式应答的良好用户体验。
实施例二:
本实施例提供一种基于电网实训知识库的交互式智能问答装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如本发明任一实施例所述的交互式智能问答方法。
以上所述仅为本发明的实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。
Claims (10)
1.一种基于电网实训知识库的交互式智能问答方法,其特征在于,包括以下步骤:
构建包含电网实训的问题描述和答案的电网实训知识库;
基于电网实训知识库中的问题描述和答案的预训练基于神经网络的语义模型库;
由用户提出问题,获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本;
获取用户提出的历史问题,结合历史问题对所述标准文本进行语境识别,获取对应的语境识别结果;
基于所述语境识别结果对标准文本进行实体提取,获取实体提取结果;
将语境识别结果及实体提取结果输入至语义识别模型,输出相应的答案;将答案转换为自然语言描述文本回复给用户。
2.根据权利要求1所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于,所述获取提问者提出的原始文本并进行预处理,将原始文本转换为标准文本的步骤具体为:
对原始文本进行纠错;
对纠错后的原始文本进行分词处理和词性标注;
基于分词处理和词性标注的结果,结合同义词库、近义词库及停用词库,去除原始文本中的停用词,并将近义词、同义词进行归一化;
对经过上述处理后的原始文本进行句法分析,基于句法分析结果简化原始文本的语句描述,生成标准文本。
3.根据权利要求1所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:所述语义模型库包括嵌入层、编码层、交互层以及输出层;
所述嵌入层用于将输入的问题描述和答案的文本转换为短语向量;
所述编码层对短语向量进行编码,提取短语向量的特征;
所述交互层对问题描述和答案进的文本行逐字交互,获取问题描述中的短语向量相对答案中的短语向量的加权状态,并对问题描述和答案中的短语向量的特征进行融合;
所述输出层根据交互层输出的融合特征产生答案。
4.根据权利要求3所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:在所述嵌入层中,利用短语嵌入模型将输入的问题描述和答案的文本映射到N维连续的空间中,生成短语向量。
5.根据权利要求3所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:所述编码层采用CNN卷积神经网络对短语向量进行编码。
6.根据权利要求3所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:所述交互层中引入自注意力机制,将融合特征自己与自己进行注意力学习,捕获短语向量之间的依赖关系。
7.根据权利要求3所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:所述输出层采用双向LSTM神经网络,在每个提问时刻,捕捉与当前问题和答案相关的语义关联信息,基于语义关联信息检索相关答案,并将检索到的答案转换为自然语言描述文本。
8.根据权利要求1所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:采用BERT迁移学习模型进行语境识别,通过用户提出的历史问题,学习用户的关注特征,基于关注特征获取用户的关注场景和关注领域。
9.根据权利要求8所述的一种基于电网实训知识库的交互式智能问答方法,其特征在于:采用BERT-BiLSTM-CRF模型进行实体提取,基于用户的关注场景和关注领域,提取标准文本中的实体词。
10.一种基于电网实训知识库的交互式智能问答装置,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1至9任一项所述的交互式智能问答方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111665535.7A CN114417880A (zh) | 2021-12-31 | 2021-12-31 | 一种基于电网实训问答知识库的交互式智能问答方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111665535.7A CN114417880A (zh) | 2021-12-31 | 2021-12-31 | 一种基于电网实训问答知识库的交互式智能问答方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114417880A true CN114417880A (zh) | 2022-04-29 |
Family
ID=81272203
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111665535.7A Pending CN114417880A (zh) | 2021-12-31 | 2021-12-31 | 一种基于电网实训问答知识库的交互式智能问答方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114417880A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117828060A (zh) * | 2024-01-03 | 2024-04-05 | 国投人力资源服务有限公司 | 一种基于语义识别的在线问答方法、***和存储介质 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107368547A (zh) * | 2017-06-28 | 2017-11-21 | 西安交通大学 | 一种基于深度学习的智能医疗自动问答方法 |
CN112100356A (zh) * | 2020-09-17 | 2020-12-18 | 武汉纺织大学 | 一种基于相似性的知识库问答实体链接方法及*** |
CN112115238A (zh) * | 2020-10-29 | 2020-12-22 | 电子科技大学 | 一种基于bert和知识库的问答方法和*** |
WO2021139283A1 (zh) * | 2020-06-16 | 2021-07-15 | 平安科技(深圳)有限公司 | 基于深度学习技术的知识图谱问答方法、装置及设备 |
-
2021
- 2021-12-31 CN CN202111665535.7A patent/CN114417880A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107368547A (zh) * | 2017-06-28 | 2017-11-21 | 西安交通大学 | 一种基于深度学习的智能医疗自动问答方法 |
WO2021139283A1 (zh) * | 2020-06-16 | 2021-07-15 | 平安科技(深圳)有限公司 | 基于深度学习技术的知识图谱问答方法、装置及设备 |
CN112100356A (zh) * | 2020-09-17 | 2020-12-18 | 武汉纺织大学 | 一种基于相似性的知识库问答实体链接方法及*** |
CN112115238A (zh) * | 2020-10-29 | 2020-12-22 | 电子科技大学 | 一种基于bert和知识库的问答方法和*** |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN117828060A (zh) * | 2024-01-03 | 2024-04-05 | 国投人力资源服务有限公司 | 一种基于语义识别的在线问答方法、***和存储介质 |
CN117828060B (zh) * | 2024-01-03 | 2024-06-28 | 国投人力资源服务有限公司 | 一种基于语义识别的在线问答方法、***和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110364251B (zh) | 一种基于机器阅读理解的智能交互导诊咨询*** | |
CN107798140B (zh) | 一种对话***构建方法、语义受控应答方法及装置 | |
CN104050160B (zh) | 一种机器与人工翻译相融合的口语翻译方法和装置 | |
CN109992669B (zh) | 一种基于语言模型和强化学习的关键词问答方法 | |
CN116127095A (zh) | 一种序列模型与知识图谱结合的问答方法 | |
CN114116994A (zh) | 一种迎宾机器人对话方法 | |
CN110334184A (zh) | 基于机器阅读理解的智能问答*** | |
CN113157885B (zh) | 一种面向人工智能领域知识的高效智能问答*** | |
CN113505209A (zh) | 一种面向汽车领域的智能问答*** | |
CN114357127A (zh) | 基于机器阅读理解及常用问题解答模型的智能问答方法 | |
CN112115242A (zh) | 一种基于朴素贝叶斯分类算法的智能客服问答*** | |
CN117648429B (zh) | 基于多模态自适应检索式增强大模型的问答方法及*** | |
CN116628186B (zh) | 文本摘要生成方法及*** | |
CN111428104A (zh) | 基于观点型阅读理解的癫痫病辅助医疗智能问答方法 | |
CN117010387A (zh) | 融合注意力机制的RoBERTa-BiLSTM-CRF语音对话文本命名实体识别*** | |
CN116561274A (zh) | 一种基于数字人技术与自然语言大模型的知识问答方法 | |
CN115858750A (zh) | 基于自然语言处理的电网技术标准智能问答方法及*** | |
CN117932066A (zh) | 一种基于预训练的“提取-生成”式答案生成模型及方法 | |
CN114239599A (zh) | 一种机器阅读理解的实现方法、***、设备及介质 | |
CN114417880A (zh) | 一种基于电网实训问答知识库的交互式智能问答方法 | |
CN115795018B (zh) | 一种面向电网领域的多策略智能搜索问答方法及*** | |
CN116737911A (zh) | 基于深度学习的高血压问答方法及*** | |
CN116306653A (zh) | 一种正则化领域知识辅助的命名实体识别方法 | |
CN116483314A (zh) | 一种自动化智能活动图生成方法 | |
CN116662819A (zh) | 一种面向短文本的匹配方法及*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |