CN111259647A - 基于人工智能的问答文本匹配方法、装置、介质及电子设备 - Google Patents
基于人工智能的问答文本匹配方法、装置、介质及电子设备 Download PDFInfo
- Publication number
- CN111259647A CN111259647A CN202010046066.XA CN202010046066A CN111259647A CN 111259647 A CN111259647 A CN 111259647A CN 202010046066 A CN202010046066 A CN 202010046066A CN 111259647 A CN111259647 A CN 111259647A
- Authority
- CN
- China
- Prior art keywords
- text
- question
- candidate
- texts
- current user
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本公开提供了一种基于人工智能的问答文本匹配方法,包括:通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度;通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度;根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确。
Description
技术领域
本发明涉及自然语言处理技术领域,具体而言,涉及一种基于人工智能的问答文本匹配方法、装置、介质及电子设备。
背景技术
传统问答***中的问答文本排序技术通过计算问题中关键词的文本相似度来返回正确答案,但是很多时候问题关键词比较少,但语义又相符时候,这种做法就存在缺陷了。随着深度学习技术的发展,其在自然语言处理上等到广泛应用。对文本进行词向量表示,选择合适的深度学习模型对文本建模成为通用语义理解做法。在问题语义匹配过程中,提取问题文本的浅层语义信息和上下文局部特征信息,并且通过注意力机制等其他计算相互作用手段可以获取全局特征信息,保证了问答文本的语义匹配准确性。但是,该匹配方式只是考虑了用户问题文本和候选问题文本的语义特征信息,并没有考虑用户问题文本和候选问题文本的本文特征,例如,用户问题文本和候选问题文本中的词语之间的关系。因此,相关技术中以问答文本的语义来匹配候选问题的准确性较低。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本发明的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本发明实施例的目的在于提供一种基于人工智能的问答文本匹配方法、装置、介质及电子设备,进而至少可以在一定程度上克服问答文本匹配时的准确性较低的问题。
本发明的其他特性和优点将通过下面的详细描述变得显然,或部分地通过本发明的实践而习得。
根据本发明实施例的第一方面,一种基于人工智能的问答文本匹配方法,包括:基于当前用户的问题文本检索出候选问题文本的集合;对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列;通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度;通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度;根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
在本发明的一些实施例中,所述深度学习模型是基于预设领域的问题文本通过迁移学习对预训练模型进行调整得到的。
在本发明的一些实施例中,在基于当前用户的问题文本检索出候选问题文本的集合之前,该方法还包括:获取通用领域的问题文本,所述通用领域的问题文本中不包含所述预设领域的问题文本;对所述通用领域的问题文本中的每个问题本进行分布式表示,得到所述通用领域的问题文本中的每个问题文本的词向量序列;通过循环神经网络对每个问题文本的词向量序列进行预训练,得到所述预训练模型。
在本发明的一些实施例中,在得到所述预训练模型之后,该方法还包括:获取所述预设领域的问题文本;对所述预设领域的问题文本中的每个问题本进行分布式表示,得到所述预设领域的问题文本中的每个问题文本的词向量序列;基于所述预设领域的问题文本中的每个问题文本的词向量序列通过所述迁移学习对预训练模型进行调整,得到所述深度学习模型。
在本发明的一些实施例中,通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度包括:通过循环神经网络从所述当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从所述候选问题文本的集合中每个候选问题文本的词向量序列提取所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列;计算所述当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。
在本发明的一些实施例中,在通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度之前,该方法还包括:对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分词处理,得到所述当前用户的问题文本的词集和所述候选问题文本的集合中每个候选问题文本的词集。
在本发明的一些实施例中,通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度包括:对所述当前用户的问题文本的词集与所述候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联;基于同义词关联后的结果通过预设公式计算所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;其中所述预设公式为:
其中,A为同义词关联后的所述当前用户的问题文本的词集;B为同义词关联后的所述候选问题文本的集合中每个候选问题文本的词集。
在本发明的一些实施例中,根据所述问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本包括:对所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度进行排序;根据排序结果确定与所述当前用户的问题文本最相似的候选问题文本;根据与所述当前用户的问题文本最相似的候选问题文本确定与所述当前用户的问题文本匹配的候选答案文本。
根据本发明实施例的第二方面,提供了一种基于人工智能的问答文本匹配装置,包括:检索模块,基于当前用户的问题文本检索出候选问题文本的集合;第一分布式表示模块,用于对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列;第一确定模块,用于通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度;第二确定模块,用于通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;第三确定模块,用于根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度;第四确定模块,用于根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
在本发明的一些实施例中,所述深度学习模型是基于预设领域的问题文本通过迁移学习对预训练模型进行调整得到的。
在本发明的一些实施例中,该装置还包括:第一获取模块,用于获取通用领域的问题文本,所述通用领域的问题文本中不包含所述预设领域的问题文本;第二分布式表示模块,用于对所述通用领域的问题文本中的每个问题本进行分布式表示,得到所述通用领域的问题文本中的每个问题文本的词向量序列;预训练模块,用于通过循环神经网络对每个问题文本的词向量序列进行预训练,得到所述预训练模型。
在本发明的一些实施例中,该装置还包括:第二获取模块,用于获取所述预设领域的问题文本;第三分布式模块,用于对所述预设领域的问题文本中的每个问题本进行分布式表示,得到所述预设领域的问题文本中的每个问题文本的词向量序列;调整模块,基于所述预设领域的问题文本中的每个问题文本的词向量序列通过所述迁移学习对预训练模型进行调整,得到所述深度学习模型。
在本发明的一些实施例中,上述第一确定模块包括:第一提取模块,用于通过循环神经网络从所述当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从所述候选问题文本的集合中每个候选问题文本的词向量序列提取所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列;第一计算模块,用于计算所述当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。
在本发明的一些实施例中,该装置还包括:分词处理模块,用于对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分词处理,得到所述当前用户的问题文本的词集和所述候选问题文本的集合中每个候选问题文本的词集。
在本发明的一些实施例中,上述第二确定模块包括:同义词关联模块,用于对所述当前用户的问题文本的词集与所述候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联;第二计算模块,基于同义词关联后的结果通过预设公式计算所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;其中所述预设公式为:
其中,A为同义词关联后的所述当前用户的问题文本的词集;B为同义词关联后的所述候选问题文本的集合中每个候选问题文本的词集。
在本发明的一些实施例中,上述第四确定模块包括:排序模块,用于对所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度进行排序;候选问题确定模块,用于根据排序结果确定与所述当前用户的问题文本最相似的候选问题文本;候选答案模块,用于根据与所述当前用户的问题文本最相似的候选问题文本确定与所述当前用户的问题文本匹配的候选答案文本。
根据本发明实施例的第三方面,提供了一种电子设备,包括:一个或多个处理器;存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现如上述实施例中第一方面所述的基于人工智能的问答文本匹配方法。
根据本发明实施例的第四方面,提供了一种计算机可读介质,其上存储有计算机程序,所述程序被处理器执行时实现如上述实施例中第一方面所述的问答文本的基于人工智能的问答文本匹配方法。
本发明实施例提供的技术方案可以包括以下有益效果:
通过深度学习模型确定当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度,以及通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度,然后根据语义相似度和文本相似度确定当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度,根据当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确,因为在确定候选问题时不仅考虑了当前用户的问题文本的语义特征和候选问题文本的语义特征,还考虑了当前用户的问题文本的本文特征和候选问题文本的本文特征,因此相比于相关技术中的只考虑用户问题文本的语义特征和候选问题文本的语义特征更加全面,即基于该方式确定的候选问题确定的向用户发送的候选答案文本更加准确。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本发明。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本发明的实施例,并与说明书一起用于解释本发明的原理。显而易见地,下面描述中的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。在附图中:
图1示出了可以应用本发明实施例的基于人工智能的问答文本匹配方法或基于人工智能的问答文本匹配装置的示例性***架构的示意图;
图2示意性示出了根据本发明的实施例的基于人工智能的问答文本匹配方法的流程图;
图3示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图;
图4示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图;
图5示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图;
图6示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图;
图7示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图;
图8示意性示出了根据本发明的实施例的基于人工智能的问答文本匹配装置的方框图;
图9示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图10示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图11示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图12示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图13示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图14示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的方框图;
图15示出了适于用来实现本发明实施例的电子设备的计算机***的结构示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的范例;相反,提供这些实施方式使得本发明将更加全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。
此外,所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施例中。在下面的描述中,提供许多具体细节从而给出对本发明的实施例的充分理解。然而,本领域技术人员将意识到,可以实践本发明的技术方案而没有特定细节中的一个或更多,或者可以采用其它的方法、组元、装置、步骤等。在其它情况下,不详细示出或描述公知方法、装置、实现或者操作以避免模糊本发明的各方面。
附图中所示的方框图仅仅是功能实体,不一定必须与物理上独立的实体相对应。即,可以采用软件形式来实现这些功能实体,或在一个或多个硬件模块或集成电路中实现这些功能实体,或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。
附图中所示的流程图仅是示例性说明,不是必须包括所有的内容和操作/步骤,也不是必须按所描述的顺序执行。例如,有的操作/步骤还可以分解,而有的操作/步骤可以合并或部分合并,因此实际执行的顺序有可能根据实际情况改变。
图1示出了可以应用本发明实施例的基于人工智能的问答文本匹配方法或基于人工智能的问答文本匹配装置的示例性***架构的示意图。
如图1所示,***架构100可以包括终端设备101、102、103中的一种或多种,网络104和服务器105。网络104用以在终端设备101、102、103和服务器105之间提供通信链路的介质。网络104可以包括各种连接类型,例如有线、无线通信链路或者光纤电缆等等。
应该理解,图1中的终端设备、网络和服务器的数目仅仅是示意性的。根据实现需要,可以具有任意数目的终端设备、网络和服务器。比如服务器105可以是多个服务器组成的服务器集群等。
用户可以使用终端设备101、102、103通过网络104与服务器105交互,以接收或发送消息等。终端设备101、102、103可以是具有显示屏的各种电子设备,包括但不限于智能手机、平板电脑、便携式计算机和台式计算机等等。
服务器105可以是提供各种服务的服务器。例如用户利用终端设备103(也可以是终端设备101或102)向服务器105上传了当前用户的问题文本,服务器105可以基于当前用户的问题文本检索出候选问题文本的集合,对当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列,通过深度学习模型确定当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度,以及通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度,根据语义相似度和文本相似度确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度,然后根据当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确,因为在确定候选问题时不仅考虑了当前用户的问题文本的语义特征和候选问题文本的语义特征,还考虑了当前用户的问题文本的本文特征和候选问题文本的本文特征,因此相比于相关技术中的只考虑用户问题文本的语义特征和候选问题文本的语义特征更加全面,即基于该方式确定的候选问题确定的向用户发送的候选答案文本更加准确。
在一些实施例中,本发明实施例所提供的基于人工智能的问答文本匹配方法一般由服务器105执行,相应地,基于人工智能的问答文本匹配装置一般设置于服务器105中。在另一些实施例中,某些终端可以具有与服务器相似的功能从而执行本方法。因此,本发明实施例所提供的基于人工智能的问答文本匹配方法不限定在服务器端执行。
图2示意性示出了根据本发明的实施例的基于人工智能的问答文本匹配方法的流程图。
如图2所示,基于人工智能的问答文本匹配方法包括步骤S210~步骤S260。
在步骤S210中,基于当前用户的问题文本检索出候选问题文本的集合。
在步骤S220中,对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列。
在步骤S230中,通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度。
在步骤S240中,通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。
在步骤S250中,根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度。
在步骤S260中,根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
该方法可以通过深度学习模型确定当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度,以及通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度,然后根据语义相似度和文本相似度确定当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度,根据当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确,因为在确定候选问题时不仅考虑了当前用户的问题文本的语义特征和候选问题文本的语义特征,还考虑了当前用户的问题文本的本文特征和候选问题文本的本文特征,因此相比于相关技术中的只考虑用户问题文本的语义特征和候选问题文本的语义特征更加全面,即基于该方式确定的候选问题确定的向用户发送的候选答案文本更加准确。
在本发明的一个实施例中,可以将上述基于人工智能的问答文本匹配方法应用到智能问答机器人***中,使得智能问答机器人***向用户提供的答案更加准确,从而提高了用户体验。当然,智能问答机器人***只是一个示例性的例子,该方法还可以应用到其他场景,在此不做限定。
在本发明的一个实施例中,上述深度学习模型是基于预设领域的问题文本通过迁移学习对预训练模型进行调整得到的,这样通过迁移学习可以确保问答***在冷启动阶段时的问答效果。
在本发明的一个实施例中,基于当前用户的问题文本检索出候选问题文本的集合。例如,基于当前用户的问题文本从候选问题的数据库中检索出与其相近的候选问题集合,这样可以初步的筛选出与当前获取的用户问题文本相近的候选问题文本的集合,减轻后续计算语义相似度和文本相似度的工作量。
在本发明的一个实施例中,使用深度学习框架keras的词嵌入层对当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列。
在本发明的一个实施例中,通过上述深度学习模型确定当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度。例如,通过循环神经网络从当前用户的问题文本的词向量序列提取当前用户的问题文本的上下文语义特征序列,以及从候选问题文本的集合中每个候选问题文本的词向量序列提取候选问题文本的集合中每个候选问题文本的上下文语义特征序列,然后计算当前用户的问题文本的上下文语义特征序列与候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。在本实施例中的循环神经网络包括双向循环神经网络,该双向循环神经网络的中循环神经网络可以是基于长短时记忆LSTM和/或基于门控循环单元GRU的网络等等。
在本发明的一个实施例中,在通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度之前,该方法还包括:对当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分词处理,得到当前用户的问题文本的词集和候选问题文本的集合中每个候选问题文本的词集。
在本发明的一个实施例中,通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。例如,对当前用户的问题文本的词集与候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联,然后基于同义词关联后的结果通过预设公式计算当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度。
在本发明的一个实施例中,根据上述语义相似度和上述文本相似度确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度,该相似度既包含了当前用户的问题文本与候选问题文本的语义特征,又包含了当前用户的问题文本与候选问题文本的本文特征。
图3示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图。
如图3所示,在步骤S210之前,上述方法还包括步骤S310~步骤S330。
在步骤S310中,获取通用领域的问题文本,所述通用领域的问题文本中不包含所述预设领域的问题文本。
在步骤S320中,对所述通用领域的问题文本中的每个问题本进行分布式表示,得到所述通用领域的问题文本中的每个问题文本的词向量序列。
在步骤S330中,通过循环神经网络对每个问题文本的词向量序列进行预训练,得到所述预训练模型。
该方法可以通过循环神经网络对通用领域中的每个问题文本的词向量序列进行预训练,这样在一定程度上解决了在数据缺少的情况下,深度学习模型效果往往不能达到较好的语义理解效果的缺陷。
在本发明的一个实施例中,上述通用领域的问题文本可以是通过普通手段获取的与预设领域相近的问题文本。例如,通过网络爬虫获取与与预设领域相近的问题文本。例如,预设领域为保险领域,可以通过网络爬虫获取与保险领域相近的问题文本,并将该问题文本作为训练样本。本实施例中,基于与保险领域相近的问题文本进行预训练,得到上述预训练模型。具体地,对与保险领域相近的问题文本中的每个问题本进行分布式表示,得到与保险领域相近的问题文本中的每个问题文本的词向量序列,通过循环神经网络对每个问题文本的词向量序列进行预训练,得到上述预训练模型。
图4示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图。
如图4示,在步骤S330之后,上述方法还包括步骤S410~步骤S430。
在步骤S410中,获取所述预设领域的问题文本。
在步骤S420中,对所述预设领域的问题文本中的每个问题本进行分布式表示,得到所述预设领域的问题文本中的每个问题文本的词向量序列。
在步骤S430中,基于所述预设领域的问题文本中的每个问题文本的词向量序列通过所述迁移学习对预训练模型进行调整,得到所述深度学习模型。
该方法可以基于预设领域的问题文本中的每个问题文本的词向量序列通过迁移学习对预训练模型进行调整,这样可以有效地解决深度学习模型在特定领域中缺少数据的情况下,通过通用领域的问题文本进行预训练,然后基于特定领域的数据(预设领域的问题文本)通过迁移学习提升语义理解能力,同时在语义匹配方法上结合文本相似度方法更好提高问答***准确率,更好更快速确保问答***赋能业务,进而在问答***冷启动阶段将最优的候选答案返回,确保问答***的准确性。
在本发明的一个实施例中,上述预训练阶段可以视为迁移学习中的第一情景任务,第二情景任务可以视为基于预设领域的问题文本通过迁移学习提升语义理解能力,即通过通用领域的问题文本进行预训练,在该情景中通用领域的问题文本数据量较大,这样有助于学习到能够使得从第二情景任务中使用少量的预设领域的问题文本就可以进行快速泛化表示,从而实现在特定领域中缺少数据的情况下,在问答***冷启动阶段也可以将最优的候选答案返回,确保问答***的准确性。
基于前述方案,基于通用领域的问题文本进行预训练,然后在预训练的基础上基于预设领域的问题文本通过迁移学习对上述预训练模型进行微调,最后得到深度学习模型。由于预训练阶段和对预训练模型进行微调的过程相似,下面以对通过迁移学习对预训练模型进行微调的过程为例进行具体描述。
具体地,预设领域的用户问题文本为qi,候选问题文本的集合为Qi={qi1,qi2,……,qin}。使用深度学习框架keras的词嵌入层对其进行分布式表示,训练初始阶段词嵌入层的参数权值是随机初始化,之后会随循环神经网络训练得到。用户问题文本和候选问题文本通过嵌入层生成对应的词向量序列。将利用专业问答词典转化后的相同词汇长度的用户问题和候选问题对应的词向量序列输入到循环神经网络提取两者上下文语义特征序列。在本实施例中循环神经网络为基于长短时记忆LSTM的双向循环神经网络。例如,针对一个双向长短时记忆网络Bi-LSTM,需要分别将qi和Qi的正序文本词向量序列和倒序文本词向量序列输入两个长短时记忆网络LSTM单元,,在输入的过程中可以结合过去时刻的信息,计算当前时刻的文本信息。LSTM网络的公式如下:
it=σ(Wxixt+Whiht-1+Wcict-1+bi)
ft=σ(Wxfxt+Whfht-1+Wcfct-1+bf)
ct=ftct-1+ittanh(Wxcxt+Whcht-1+bc)
ot=σ(Wxoxt+Whoht-1+Wcoct+bo)
ht=ottanh(ct)
其中,σ表示sigmoid激活函数,tanh表示双曲正切激活函数,xt表示(第t个词向量输入)得到t时刻的词嵌入向量,it表示t时刻(第t个词向量输入)输入门的输出向量,ft表示t时刻(第t个词向量输入)遗忘门的输出向量,ot表示(第t个词向量输入)t时刻输出门的输出向量,ct和ct-1分别表示t时刻(第t个词向量输入)和t-1时刻(第t-1个词向量输入)的细胞单元的记忆流状态,ht和ht-1分别表示t时刻(第t个词向量输入)和t-1时刻(第t-1个词向量输入)隐藏层向量。权值矩阵和偏置参数描述有明显的含义,例如Wxi表示输入和输入门的权值矩阵,Whi表示隐藏层和输入门的权值矩阵,Wci表示细胞单元和输入门的权值矩阵,bi、bf表示输入门和遗忘门的偏置参数,其角标表示所属的计算部分。这里的参数矩阵和偏置参数都是先随机初始化,然后在基于双向循环神经网络的模型训练中自动修正,最后会随循环神经网络得到最终的权值。
针对每个时刻t,可以让时刻t的输入学习到前时刻(例如,t+1)和后时刻(例如,t-1)的语义信息,通过拼接正序文本词向量序列(即qi和Qi)和倒序文本词向量序列(即qi和Qi)的两个长短记忆网络LSTM输出的特征向量hfw和hbw,作为Bi-LSTM时刻t的最终特征向量输出,其特征向量的维度是LSTM输出特征向量维度的2倍。
ht=[hfw,hbw]
其中,hfw表示处理正序文本词向量序列(即qi和Qi)的LSTM网络的输出,hbw表示处理倒序文本词向量序列(即qi和Qi)的LSTM网络的输出,ht表示Bi-LSTM时刻t的特征向量输出,即时刻t的用户问题文本的上下文语义特征序列hqi、时刻t的每个候选问题文本的上下文语义特征序列hqin。
基于前述方案,计算用户问题文本的上下文语义特征序列hqi与每个候选问题文本的上下文语义特征序列hqin的语义相似度,得到彼此特征向量的相似度矩阵sim。设和分别代表和第i个和第j个特征向量,依次计算和彼此的相似度,具体采用下面公式(1):
使用k-MAX Pooling的对文本相似度矩阵选取K个相似度最大的特征信息点组成代表问题文本语义匹配的特征向量,将特征向量输入全连接层,最后使用softmax分类器进行文本语义匹配的二分类,对得到的预测结果(匹配、不匹配)使用梯度下降法训练权值。保存训练效果最佳的深度学习模型,将其用于图5实施例。
图5示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图。
如图5所示,上述步骤S230具体可以包括步骤S231和步骤S232。
在步骤S231中,通过循环神经网络从所述当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从所述候选问题文本的集合中每个候选问题文本的词向量序列提取所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列。
在步骤S232中,计算所述当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。
在本发明的一个实施例中,通过上述图4实施例描述的方法可以从当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从候选问题文本的集合中每个候选问题文本的词向量序列提取候选问题文本的集合中每个候选问题文本的上下文语义特征序列。
然后通过上述公式(1)计算当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度sim2i={sim2i1,sim2i2,...,sim2in},具体的实现过程可参考上述方法。
在本发明的一个实施例中,在通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度之前,该方法还包括:对当前用户的问题文本和候选问题文本的集合中每个候选问题文本分别进行分词处理,得到当前用户的问题文本的词集和候选问题文本的集合中每个候选问题文本的词集。例如,当前用户的问题文本为“如何查询佣金”,基于该问题检索出的候选问题为“在哪里查看佣金”“佣金是多少”。对其进行分词处理后,当前用户的问题文本的词集为“如何、查询、佣金”,候选问题文本的集合中每个候选问题文本的词集分别为“在哪里、查看、佣金”、“佣金、是、多少”。
图6示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图。
如图6所示,上述步骤S240具体可以包括步骤S241和步骤S242。
在步骤S241中,对所述当前用户的问题文本的词集与所述候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联。
基于前述方案,当前用户的问题文本的词集为“如何、查询、佣金”,候选问题文本的集合中每个候选问题文本的词集分别为“在哪里、查看、佣金”、“佣金、是、多少”。在这种情况下,对当前用户的问题文本的词集与候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联的结果为:当前用户的问题文本的词集为“如何、查询=查看、佣金”,候选问题文本的集合中每个候选问题文本的词集分别为“在哪里、查看=查询、佣金”、“佣金、是、多少”。
在步骤S242中,基于同义词关联后的结果通过预设公式计算所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。
在本发明的一个实施例中,上述预设公式可以为基于jaccard系数的公式,即采用基于jaccard系数的公式可以计算当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度,具体如下:
其中,A为同义词关联后的当前用户的问题文本的词集;B为同义词关联后的候选问题文本的集合中每个候选问题文本的词集。具体地,当集合A,B都为空时,jaccard定义为1,与jaccard系数相关的指标叫做jaccard距离,用于描述集合之间的不相似度。jaccard距离越大,样本相似度越低,即当前用户的问题文本与候选问题文本的集合中的候选问题文本的文本相似度越低。
在本发明的一个实施例中,由于图5实施例中的语义相似度sim2i={sim2i1,sim2i2,...,sim2in}。在本实例中,将当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度设定为sim1i={sim1i1,sim1i2,...,sim1in}。
在本发明的一个实施例中,根据语义相似度和文本相似度确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度。例如,针对用户问题和候选问题的文本相似度和语义相似度进行加权求和得到综合相似度其中,文本相似度为sim1i={sim1i1,sim1i2,...,sim1in}语义相似度sim2i={sim2i1,sim2i2,...,sim2in}。α和,
β为常数,可以根据实际情况进行设定。
图7示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配方法的流程图。
如图7所示,上述步骤S260具体可以包括步骤S261~步骤S263。
在步骤S261中,对所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度进行排序。
在步骤S262中,根据排序结果确定与所述当前用户的问题文本最相似的候选问题文本。
在步骤S263中,根据与所述当前用户的问题文本最相似的候选问题文本确定与所述当前用户的问题文本匹配的候选答案文本。
该方法可以对当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度进行排序,根据排序结果确定与当前用户的问题文本最相似的候选问题文本,根据与当前用户的问题文本最相似的候选问题文本确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确。
图8示意性示出了根据本发明的实施例的基于人工智能的问答文本匹配装置的框图。
如图8所示,基于人工智能的问答文本匹配装置800包括检索模块801、第一分布式表示模块802、第一确定模块803、第二确定模块804、第三确定模块805和第四确定模块806。
具体地,检索模块801,基于当前用户的问题文本检索出候选问题文本的集合。
第一分布式表示模块802,用于对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列。
第一确定模块803,用于通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度。
第二确定模块804,用于通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。
第三确定模块805,用于根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度。
第四确定模块806,用于根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
该基于人工智能的问答文本匹配装置800可以通过深度学习模型确定当前用户的问题文本的词向量序列和候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度,以及通过预设公式确定当前用户的问题文本与候选问题文本的集合中每个候选问题文本的文本相似度,然后根据语义相似度和文本相似度确定当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度,根据当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确,因为在确定候选问题时不仅考虑了当前用户的问题文本的语义特征和候选问题文本的语义特征,还考虑了当前用户的问题文本的本文特征和候选问题文本的本文特征,因此相比于相关技术中的只考虑用户问题文本的语义特征和候选问题文本的语义特征更加全面,即基于该方式确定的候选问题确定的向用户发送的候选答案文本更加准确。
根据本发明的实施例,该基于人工智能的问答文本匹配装置800可以用于实现图2实施例描述的基于人工智能的问答文本匹配方法。
图9示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图9所示,基于人工智能的问答文本匹配装置800还包括第一获取模块807、第二分布式表示模块808和预训练模块809。
具体地,第一获取模块807,用于获取通用领域的问题文本,所述通用领域的问题文本中不包含所述预设领域的问题文本。
第二分布式表示模块808,用于对所述通用领域的问题文本中的每个问题本进行分布式表示,得到所述通用领域的问题文本中的每个问题文本的词向量序列。
预训练模块809,用于通过循环神经网络对每个问题文本的词向量序列进行预训练,得到所述预训练模型。
该基于人工智能的问答文本匹配装置800可以通过循环神经网络对通用领域中的每个问题文本的词向量序列进行预训练,这样在一定程度上解决了在数据缺少的情况下,深度学习模型效果往往不能达到较好的语义理解效果的缺陷。
根据本发明的实施例,该基于人工智能的问答文本匹配装置800可以用于实现图3实施例描述的基于人工智能的问答文本匹配方法。
图10示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图10所示,基于人工智能的问答文本匹配装置800还包括第二获取模块810、第三分布式模块811和调整模块812。
具体地,第二获取模块810,用于获取所述预设领域的问题文本。
第三分布式模块811,用于对所述预设领域的问题文本中的每个问题本进行分布式表示,得到所述预设领域的问题文本中的每个问题文本的词向量序列。
调整模块812,基于所述预设领域的问题文本中的每个问题文本的词向量序列通过所述迁移学习对预训练模型进行调整,得到所述深度学习模型。
该基于人工智能的问答文本匹配装置800可以基于预设领域的问题文本中的每个问题文本的词向量序列通过迁移学习对预训练模型进行调整,这样可以有效地解决深度学习模型在特定领域中缺少数据的情况下,通过通用领域的问题文本进行预训练,然后基于特定领域的数据(预设领域的问题文本)通过迁移学习提升语义理解能力,同时在语义匹配方法上结合文本相似度方法更好提高问答***准确率,更好更快速确保问答***赋能业务,进而在问答***冷启动阶段将最优的候选答案返回,确保问答***的准确性。
根据本发明的实施例,该基于人工智能的问答文本匹配装置800可以用于实现图4实施例描述的基于人工智能的问答文本匹配方法。
图11示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图11所示,上述第一确定模块803具体可以还包括第一提取模块803-1和第一计算模块803-2。
具体地,第一提取模块803-1,用于通过循环神经网络从所述当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从所述候选问题文本的集合中每个候选问题文本的词向量序列提取所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列。
第一计算模块803-2,用于计算所述当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。
图12示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图12所示,基于人工智能的问答文本匹配装置800还包括分词处理模块813。
具体地,分词处理模块813,用于对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分词处理,得到所述当前用户的问题文本的词集和所述候选问题文本的集合中每个候选问题文本的词集。
图13示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图13所示,上述第二确定模块804具体可以还包括同义词关联模块804-1和第二计算模块804-2。
具体地,同义词关联模块804-1,用于对所述当前用户的问题文本的词集与所述候选问题文本的集合中每个候选问题文本的词集分别进行同义词关联。
第二计算模块804-2,基于同义词关联后的结果通过预设公式计算所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。
根据本发明的实施例,该第二确定模块804可以用于实现图6实施例描述的基于人工智能的问答文本匹配方法。
图14示意性示出了根据本发明的另一个实施例的基于人工智能的问答文本匹配装置的框图。
如图14所示,上述第四确定模块806具体可以还包括排序模块806-1、候选问题确定模块806-2和候选答案模块806-3。
具体地,排序模块806-1,用于对所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度进行排序。
候选问题确定模块806-2,用于根据排序结果确定与所述当前用户的问题文本最相似的候选问题文本。
候选答案模块806-3,用于根据与所述当前用户的问题文本最相似的候选问题文本确定与所述当前用户的问题文本匹配的候选答案文本
该第四确定模块806可以对当前用户的问题文本与候选问题文本的集合中每个候选问题文本的综合相似度进行排序,根据排序结果确定与当前用户的问题文本最相似的候选问题文本,根据与当前用户的问题文本最相似的候选问题文本确定与当前用户的问题文本匹配的候选答案文本,以此方式向用户发送的候选答案文本更加准确。
根据本发明的实施例,该第四确定模块806可以用于实现图7实施例描述的基于人工智能的问答文本匹配方法。
由于本发明的示例实施例的基于人工智能的问答文本匹配装置的各个模块可以用于实现上述2~图7描述的基于人工智能的问答文本匹配方法的示例实施例的步骤,因此对于本发明装置实施例中未披露的细节,请参照本发明上述的基于人工智能的问答文本匹配方法的实施例。
可以理解的是,检索模块801、第一分布式表示模块802、第一确定模块803、第一提取模块803-1、第一计算模块803-2、第二确定模块804、同义词关联模块804-1、第二计算模块804-2、第三确定模块805、第四确定模块806、排序模块806-1、候选问题确定模块806-2、候选答案模块806-3、第一获取模块807、第二分布式表示模块808、预训练模块809、第二获取模块810、第三分布式模块811、调整模块812、以及分词处理模块813可以合并在一个模块中实现,或者其中的任意一个模块可以被拆分成多个模块。或者,这些模块中的一个或多个模块的至少部分功能可以与其他模块的至少部分功能相结合,并在一个模块中实现。根据本发明的实施例,检索模块801、第一分布式表示模块802、第一确定模块803、第一提取模块803-1、第一计算模块803-2、第二确定模块804、同义词关联模块804-1、第二计算模块804-2、第三确定模块805、第四确定模块806、排序模块806-1、候选问题确定模块806-2、候选答案模块806-3、第一获取模块807、第二分布式表示模块808、预训练模块809、第二获取模块810、第三分布式模块811、调整模块812、以及分词处理模块813中的至少一个可以至少被部分地实现为硬件电路,例如现场可编程门阵列(FPGA)、可编程逻辑阵列(PLA)、片上***、基板上的***、封装上的***、专用集成电路(ASIC),或可以以对电路进行集成或封装的任何其他的合理方式等硬件或固件来实现,或以软件、硬件以及固件三种实现方式的适当组合来实现。或者,检索模块801、第一分布式表示模块802、第一确定模块803、第一提取模块803-1、第一计算模块803-2、第二确定模块804、同义词关联模块804-1、第二计算模块804-2、第三确定模块805、第四确定模块806、排序模块806-1、候选问题确定模块806-2、候选答案模块806-3、第一获取模块807、第二分布式表示模块808、预训练模块809、第二获取模块810、第三分布式模块811、调整模块812、以及分词处理模块813中的至少一个可以至少被部分地实现为计算机程序模块,当该程序被计算机运行时,可以执行相应模块的功能。
下面参考图15,其示出了适于用来实现本发明实施例的电子设备的计算机***900的结构示意图。图15示出的电子设备的计算机***900仅是一个示例,不应对本发明实施例的功能和使用范围带来任何限制。
如图15所示,计算机***900包括中央处理单元(CPU)901,其可以根据存储在只读存储器(ROM)902中的程序或者从存储部分908加载到随机访问存储器(RAM)903中的程序而执行各种适当的动作和处理。在RAM 903中,还存储有***操作所需的各种程序和数据。CPU901、ROM 902以及RAM 903通过总线904彼此相连。输入/输出(I/O)接口905也连接至总线904。
以下部件连接至I/O接口905:包括键盘、鼠标等的输入部分906;包括诸如阴极射线管(CRT)、液晶显示器(LCD)等以及扬声器等的输出部分907;包括硬盘等的存储部分908;以及包括诸如LAN卡、调制解调器等的网络接口卡的通信部分909。通信部分909经由诸如因特网的网络执行通信处理。驱动器910也根据需要连接至I/O接口905。可拆卸介质911,诸如磁盘、光盘、磁光盘、半导体存储器等等,根据需要安装在驱动器910上,以便于从其上读出的计算机程序根据需要被安装入存储部分908。
特别地,根据本发明的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本发明的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分909从网络上被下载和安装,和/或从可拆卸介质911被安装。在该计算机程序被中央处理单元(CPU)901执行时,执行本申请的***中限定的上述功能。
需要说明的是,本发明所示的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本发明中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本发明中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本发明各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,上述模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图或流程图中的每个方框、以及框图或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本发明实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现,所描述的单元也可以设置在处理器中。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的电子设备中所包含的;也可以是单独存在,而未装配入该电子设备中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被一个该电子设备执行时,使得该电子设备实现如上述实施例中所述的基于人工智能的问答文本匹配方法。
例如,所述的电子设备可以实现如图2中所示的:在步骤S210中,基于当前用户的问题文本检索出候选问题文本的集合。在步骤S220中,对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列。在步骤S230中,通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度。在步骤S240中,通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度。在步骤S250中,根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度。在步骤S260中,根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
应当注意,尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本发明的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
通过以上的实施方式的描述,本领域的技术人员易于理解,这里描述的示例实施方式可以通过软件实现,也可以通过软件结合必要的硬件的方式来实现。因此,根据本发明实施方式的技术方案可以以软件产品的形式体现出来,该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM,U盘,移动硬盘等)中或网络上,包括若干指令以使得一台计算设备(可以是个人计算机、服务器、触控终端、或者网络设备等)执行根据本发明实施方式的方法。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本发明的其它实施方案。本申请旨在涵盖本发明的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本发明的一般性原理并包括本发明未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本发明的真正范围和精神由下面的权利要求指出。
应当理解的是,本发明并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本发明的范围仅由所附的权利要求来限制。
Claims (10)
1.一种基于人工智能的问答文本匹配方法,其特征在于,包括:
基于当前用户的问题文本检索出候选问题文本的集合;
对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列;
通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度;
通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;
根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度;
根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
2.根据权利要求1所述的方法,其特征在于,所述深度学习模型是基于预设领域的问题文本通过迁移学习对预训练模型进行调整得到的。
3.根据权利要求2所述的方法,其特征在于,在基于当前用户的问题文本检索出候选问题文本的集合之前,该方法还包括:
获取通用领域的问题文本,所述通用领域的问题文本中不包含所述预设领域的问题文本;
对所述通用领域的问题文本中的每个问题本进行分布式表示,得到所述通用领域的问题文本中的每个问题文本的词向量序列;
通过循环神经网络对每个问题文本的词向量序列进行预训练,得到所述预训练模型。
4.根据权利要求3所述的方法,其特征在于,在得到所述预训练模型之后,该方法还包括:
获取所述预设领域的问题文本;
对所述预设领域的问题文本中的每个问题本进行分布式表示,得到所述预设领域的问题文本中的每个问题文本的词向量序列;
基于所述预设领域的问题文本中的每个问题文本的词向量序列通过所述迁移学习对预训练模型进行调整,得到所述深度学习模型。
5.根据权利要求1所述的方法,其特征在于,通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度包括:
通过循环神经网络从所述当前用户的问题文本的词向量序列提取所述当前用户的问题文本的上下文语义特征序列,以及从所述候选问题文本的集合中每个候选问题文本的词向量序列提取所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列;
计算所述当前用户的问题文本的上下文语义特征序列与所述候选问题文本的集合中每个候选问题文本的上下文语义特征序列的语义相似度。
6.根据权利要求1所述的方法,其特征在于,在通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度之前,该方法还包括:
对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分词处理,得到所述当前用户的问题文本的词集和所述候选问题文本的集合中每个候选问题文本的词集。
8.一种基于人工智能的问答文本匹配装置,其特征在于,包括:
检索模块,基于当前用户的问题文本检索出候选问题文本的集合;
第一分布式表示模块,用于对所述当前用户的问题文本和所述候选问题文本的集合中每个候选问题文本分别进行分布式表示,得到所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列;
第一确定模块,用于通过深度学习模型确定所述当前用户的问题文本的词向量序列和所述候选问题文本的集合中每个候选问题文本的词向量序列的语义相似度;
第二确定模块,用于通过预设公式确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的文本相似度;
第三确定模块,用于根据所述语义相似度和所述文本相似度确定所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度;
第四确定模块,用于根据所述当前用户的问题文本与所述候选问题文本的集合中每个候选问题文本的综合相似度确定与所述当前用户的问题文本匹配的候选答案文本。
9.一种问答文本的语义匹配装置,包括:
一个或多个处理器;以及
存储装置,用于存储一个或多个程序,当所述一个或多个程序被所述一个或多个处理器执行时,使得所述一个或多个处理器实现根据权利要求1~7任意一项所述的方法。
10.一种计算机可读介质,其上存储有计算机程序,其特征在于,所述程序被处理器执行时实现根据权利要求1~7中任意一项所述方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010046066.XA CN111259647A (zh) | 2020-01-16 | 2020-01-16 | 基于人工智能的问答文本匹配方法、装置、介质及电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010046066.XA CN111259647A (zh) | 2020-01-16 | 2020-01-16 | 基于人工智能的问答文本匹配方法、装置、介质及电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111259647A true CN111259647A (zh) | 2020-06-09 |
Family
ID=70945138
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010046066.XA Pending CN111259647A (zh) | 2020-01-16 | 2020-01-16 | 基于人工智能的问答文本匹配方法、装置、介质及电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111259647A (zh) |
Cited By (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111538908A (zh) * | 2020-06-22 | 2020-08-14 | 腾讯科技(深圳)有限公司 | 搜索排序方法、装置、计算机设备和存储介质 |
CN111984703A (zh) * | 2020-08-19 | 2020-11-24 | 中国银行股份有限公司 | 在知识库中定位问题的方法及装置 |
CN112667797A (zh) * | 2021-01-06 | 2021-04-16 | 华南师范大学 | 自适应迁移学习的问答匹配方法、***及存储介质 |
CN113076466A (zh) * | 2021-02-26 | 2021-07-06 | 广东电网有限责任公司广州供电局 | 一种最佳答案和兴趣感知推荐方法 |
CN113590789A (zh) * | 2021-07-30 | 2021-11-02 | 北京壹心壹翼科技有限公司 | 应用于智能问答***的问题检索方法、装置、设备及介质 |
CN114090747A (zh) * | 2021-10-14 | 2022-02-25 | 特斯联科技集团有限公司 | 基于多重语义匹配的自动问答方法、装置、设备及介质 |
WO2022062707A1 (zh) * | 2020-09-27 | 2022-03-31 | 京东方科技集团股份有限公司 | 问答处理的方法、电子设备、计算机可读介质 |
CN116910223A (zh) * | 2023-08-09 | 2023-10-20 | 北京安联通科技有限公司 | 一种基于预训练模型的智能问答数据处理*** |
CN117436551A (zh) * | 2023-12-18 | 2024-01-23 | 杭州宇谷科技股份有限公司 | 一种智能客服模型的训练方法和*** |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108345672A (zh) * | 2018-02-09 | 2018-07-31 | 平安科技(深圳)有限公司 | 智能应答方法、电子装置及存储介质 |
CN108846077A (zh) * | 2018-06-08 | 2018-11-20 | 泰康保险集团股份有限公司 | 问答文本的语义匹配方法、装置、介质及电子设备 |
CN109086268A (zh) * | 2018-07-13 | 2018-12-25 | 上海乐言信息科技有限公司 | 一种基于迁移学习的领域文法学习***和方法 |
-
2020
- 2020-01-16 CN CN202010046066.XA patent/CN111259647A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108345672A (zh) * | 2018-02-09 | 2018-07-31 | 平安科技(深圳)有限公司 | 智能应答方法、电子装置及存储介质 |
CN108846077A (zh) * | 2018-06-08 | 2018-11-20 | 泰康保险集团股份有限公司 | 问答文本的语义匹配方法、装置、介质及电子设备 |
CN109086268A (zh) * | 2018-07-13 | 2018-12-25 | 上海乐言信息科技有限公司 | 一种基于迁移学习的领域文法学习***和方法 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111538908B (zh) * | 2020-06-22 | 2020-10-20 | 腾讯科技(深圳)有限公司 | 搜索排序方法、装置、计算机设备和存储介质 |
CN111538908A (zh) * | 2020-06-22 | 2020-08-14 | 腾讯科技(深圳)有限公司 | 搜索排序方法、装置、计算机设备和存储介质 |
CN111984703A (zh) * | 2020-08-19 | 2020-11-24 | 中国银行股份有限公司 | 在知识库中定位问题的方法及装置 |
WO2022062707A1 (zh) * | 2020-09-27 | 2022-03-31 | 京东方科技集团股份有限公司 | 问答处理的方法、电子设备、计算机可读介质 |
CN112667797A (zh) * | 2021-01-06 | 2021-04-16 | 华南师范大学 | 自适应迁移学习的问答匹配方法、***及存储介质 |
CN112667797B (zh) * | 2021-01-06 | 2023-05-30 | 华南师范大学 | 自适应迁移学习的问答匹配方法、***及存储介质 |
CN113076466B (zh) * | 2021-02-26 | 2024-05-24 | 广东电网有限责任公司广州供电局 | 一种最佳答案和兴趣感知推荐方法 |
CN113076466A (zh) * | 2021-02-26 | 2021-07-06 | 广东电网有限责任公司广州供电局 | 一种最佳答案和兴趣感知推荐方法 |
CN113590789A (zh) * | 2021-07-30 | 2021-11-02 | 北京壹心壹翼科技有限公司 | 应用于智能问答***的问题检索方法、装置、设备及介质 |
CN114090747A (zh) * | 2021-10-14 | 2022-02-25 | 特斯联科技集团有限公司 | 基于多重语义匹配的自动问答方法、装置、设备及介质 |
CN116910223A (zh) * | 2023-08-09 | 2023-10-20 | 北京安联通科技有限公司 | 一种基于预训练模型的智能问答数据处理*** |
CN116910223B (zh) * | 2023-08-09 | 2024-06-11 | 北京安联通科技有限公司 | 一种基于预训练模型的智能问答数据处理*** |
CN117436551A (zh) * | 2023-12-18 | 2024-01-23 | 杭州宇谷科技股份有限公司 | 一种智能客服模型的训练方法和*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111259647A (zh) | 基于人工智能的问答文本匹配方法、装置、介质及电子设备 | |
WO2021159776A1 (zh) | 基于人工智能的推荐方法、装置、电子设备及存储介质 | |
CN110851713B (zh) | 信息处理方法、推荐方法及相关设备 | |
CN108846077B (zh) | 问答文本的语义匹配方法、装置、介质及电子设备 | |
CN112163165B (zh) | 信息推荐方法、装置、设备及计算机可读存储介质 | |
Rodrigues et al. | Sequence labeling with multiple annotators | |
CN111539197B (zh) | 文本匹配方法和装置以及计算机***和可读存储介质 | |
JP2023539532A (ja) | テキスト分類モデルのトレーニング方法、テキスト分類方法、装置、機器、記憶媒体及びコンピュータプログラム | |
CN112287089B (zh) | 用于自动问答***的分类模型训练、自动问答方法及装置 | |
US12020267B2 (en) | Method, apparatus, storage medium, and device for generating user profile | |
CN113254785B (zh) | 推荐模型训练方法、推荐方法和相关设备 | |
CN109086265B (zh) | 一种语义训练方法、短文本中多语义词消歧方法 | |
CN111666416A (zh) | 用于生成语义匹配模型的方法和装置 | |
CN111666500A (zh) | 文本分类模型的训练方法及相关设备 | |
CN111160000B (zh) | 作文自动评分方法、装置终端设备及存储介质 | |
CN113761153A (zh) | 基于图片的问答处理方法、装置、可读介质及电子设备 | |
CN113821527A (zh) | 哈希码的生成方法、装置、计算机设备及存储介质 | |
CN117573985B (zh) | 一种应用于智能化在线教育***的信息推送方法及*** | |
CN115114974A (zh) | 一种模型蒸馏方法、装置、计算机设备和存储介质 | |
CN114239730A (zh) | 一种基于近邻排序关系的跨模态检索方法 | |
CN113705207A (zh) | 语法错误识别方法及装置 | |
CN116910357A (zh) | 一种数据处理方法及相关装置 | |
CN111414755A (zh) | 一种基于细粒度情感字典的网络情绪分析方法 | |
CN114898426A (zh) | 一种同义标签聚合方法、装置、设备及存储介质 | |
CN112101015B (zh) | 一种识别多标签对象的方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |