CN111178076B - 命名实体识别与链接方法、装置、设备及可读存储介质 - Google Patents

Abstract

本公开提供了一种命名实体识别与链接方法、装置、设备及可读存储介质。该方法包括：获取包含专有名称的待识别文本；基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名词对应的目标实体词；以及基于所述目标实体词的标注信息，确定所述目标实体词的类型；其中，所述词典包含实体词与背景词，所述实体词的概率与所述实体词的长度非线性相关，所述背景词的概率与所述背景词的长度非线性相关，所述实体词的概率与所述背景词的概率均用于对所述待识别文本分词。该方法可以提升命名实体识别的准确度。

Description

命名实体识别与链接方法、装置、设备及可读存储介质

技术领域

本公开涉及计算机应用技术领域，尤其涉及一种命名实体识别与链接方法、装置、设备及可读存储介质。

背景技术

随着语义识别技术的发展，命名实体识别与链接技术的应用得到了广泛应用。例如，智能设备(智能手机、平板电脑等)中的语音助手获取用户的语音，经过语音识别，将语音转换为文字后，需要对其中的命名实体进行识别，进而将识别出的命名实体链接到相应的知识库中。如用户语音输入“播放七里香”，智能设备在识别出歌曲“七里香”后，使用音乐技能将其链接到播放软件进行歌曲播放。

然而，目前的命名实体与链接技术仍较难消除歧义。

需要说明的是，在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解，因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。

发明内容

本公开的目的在于提供一种命名实体识别与链接方法、装置、设备及可读存储介质，可以提升命名实体识别的准确度。

本公开的其他特性和优点将通过下面的详细描述变得显然，或部分地通过本公开的实践而习得。

根据本公开的一个方面，提供一种命名实体识别与链接方法，包括：获取包含专有名称的待识别文本；基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名词对应的目标实体词；以及基于所述目标实体词的标注信息，确定所述目标实体词的类型；其中，所述词典包含实体词与背景词，所述实体词的概率与所述实体词的长度非线性相关，所述背景词的概率与所述背景词的长度非线性相关，所述实体词的概率与所述背景词的概率均用于对所述待识别文本分词。

根据本公开的一实施方式，基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名词对应的目标实体词，包括：基于所述词典构建的前缀树，生成所述待识别文本的有向无环图；基于所述词典中各实体词的概率与各背景词的概率，查找最大概率路径；确定所述最大概率路径的分词结果为所述待识别文本的分词结果；以及确定所述分词结果中的实体词作为与所述专有名称对应的所述目标实体词。

根据本公开的一实施方式，所述实体词的概率为所述实体词的长度的平方乘以预设阈值，所述背景词的概率为所述背景词长度的平方。

根据本公开的一实施方式，所述背景词由高频查询语句中的语句片段和/或高频查询词构成。

根据本公开的一实施方式，所述语句片段基于N-Gram模型从所述高频查询语句中确定。

根据本公开的一实施方式，所述词典还包括：所述实体词及所述背景词的子串，用于构建所述词典的前缀树。

根据本公开的一实施方式，所述方法还包括：根据所述目标实体词的类型，将所述目标实体词链接到预设知识库的命名实体中。

根据本公开的另一方面，提供一种命名实体识别与链接装置，包括：文本获取模块，用于获取包含专有名称的待识别文本；文本分词模块，用于基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名词对应的目标实体词；以及类型确定模块，用于基于所述目标实体词的标注信息，确定所述目标实体词的类型；其中，所述词典包含实体词与背景词，所述实体词的概率与所述实体词的长度非线性相关，所述背景词的概率与所述背景词的长度非线性相关，所述实体词的概率与所述背景词的概率均用于对所述待识别文本分词。

根据本公开的再一方面，提供一种电子设备，包括：存储器、处理器及存储在所述存储器中并可在所述处理器中运行的可执行指令，所述处理器执行所述可执行指令时实现如上述任意一种方法。

根据本公开的再一方面，提供一种计算机可读存储介质，其上存储有计算机可执行指令，所述可执行指令被处理器执行时实现如上述任意一种方法。

本公开实施例提供的命名实体识别与链接方法，在对待识别文本进行分词时，通过为分词器词典中的实体词与背景词分别设置与目标词长度非线性相关的概率值，可以提升对实体词切分的准确度，消除由于分词导致的歧义。此外，由于该方法中可以直接根据识别出的实体词的标注信息确定其类型，因此可以实现实体识别与实体链接的同步执行。避免相关技术中分别执行实体识别与实体链接时，由于识别过程和链接过程之间的歧义，引起的解析错误的问题。

应当理解的是，以上的一般描述和后文的细节描述仅是示例性和解释性的，并不能限制本公开。

附图说明

此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本公开的实施例，并与说明书一起用于解释本公开的原理。显而易见地，下面描述中的附图仅仅是本公开的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。

图1示出本公开实施例中一种命名实体识别与链接方法的流程图。

图2示出本公开实施例中另一种命名实体识别与链接方法的流程图。

图3是根据一示例示出的前缀树的示意图。

图4示出本公开实施例中一种命名实体识别与链接装置的框图。

图5示例性地示出本公开实施例中一种电子设备的框图。

图6示例性地示出本公开实施例中一种计算机可读存储介质的示意图。

具体实施方式

现在将参考附图更全面地描述示例实施方式。然而，示例实施方式能够以多种形式实施，且不应被理解为限于在此阐述的范例；相反，提供这些实施方式使得本公开将更加全面和完整，并将示例实施方式的构思全面地传达给本领域的技术人员。所描述的特征、结构或特性可以以任何合适的方式结合在一个或更多实施方式中。

此外，附图仅为本公开的示意性图解，并非一定是按比例绘制。图中相同的附图标记表示相同或类似的部分，因而将省略对它们的重复描述。附图中所示的一些方框图是功能实体，不一定必须与物理或逻辑上独立的实体相对应。可以采用软件形式来实现这些功能实体，或在一个或多个硬件模块或集成电路中实现这些功能实体，或在不同网络和/或处理器装置和/或微控制器装置中实现这些功能实体。

首先介绍一下相关技术中基于分词器的实体识别方法。对用户输入的查询语句(如语音输入)基于预先设置的分词器进行分词；基于分词结果，确定出其中的实体词，并同时完成实体词类型的标注。

然而，该分词结果有可能由于词典本身包含歧义而很难提取出预期的实体词。

查询语句	分词结果	预期结果
			听海哭的声音	听海/(音乐)|哭|的|声音	听|海哭的声音/(音乐)
我要听心晴	我要|听心/(音乐)|晴	我要听|心晴/(音乐)

如上表所示，当用户输入待识别内容为“听海哭的声音”时，分词器给出的结果为“听海/(音乐)|哭|的|声音”，并确定其中“听海”为类别是音乐的实体词，而用户实际的意图为“听|海哭的声音/(音乐)”。

类似地，当用户输入待识别内容为“我要听心晴”时，分词器给出的结果为“我要|听心/(音乐)|晴”，而用户实际意图则为“我要听|心晴/(音乐)”。

因此，相关技术的实体识别方案中，存在由于分词方式导致的语义理解歧义问题。

由上述分析可知，实体识别过程中，使用分词器进行分词的目的是确定出其中的目标实体词，而并不关心分词器对背景词及未登录词如何分词。实体词通常是对应专有名称的名词，如人名、机构名、地名、歌曲名、书名等等。背景词则例如为上述的“我要听心晴”中的“我要听”。

本公开实施例提供的命名实体识别与链接方法，在对待识别文本进行分词时，通过为分词器词典中的实体词与背景词分别设置与目标词长度非线性相关的概率值，可以提升对实体词切分的准确度，消除由于分词导致的歧义。

为了便于理解，下面首先对本公开涉及到的几个名词进行解释。

自然语言处理(Nature Language processing，NLP)是计算机科学领域与人工智能领域中的一个重要方向。它研究能实现人与计算机之间用自然语言进行有效通信的各种理论和方法。自然语言处理是一门融语言学、计算机科学、数学于一体的科学。因此，这一领域的研究将涉及自然语言，即人们日常使用的语言，所以它与语言学的研究有着密切的联系。自然语言处理技术通常包括文本处理、语义理解、机器翻译、机器人问答、命名实体识别与链接以及知识图谱等技术。

命名实体识别(Named Entity Recognition，简称NER)，简称“实体识别”，又称作“专名识别”，是指识别文本中具有特定意义的实体，主要包括人名、地名、机构名、专有名词等。命名实体识别通常是知识挖掘、信息抽取的第一步，被广泛应用在自然语言处理领域。

命名实体链接(Named Entity Linking，NEL)，简称“实体链接”，是指把识别出的命名实体链接到知识库中一个无歧义实体的过程。该技术可以提升在线推荐***、互联网搜索引擎等实际应用的信息过滤能力。

本公开实施例提供的方案涉及实体识别与实体链接技术，具体通过如下实施例进行说明。

首先，将结合附图及实施例对本公开示例实施方式提供的命名实体识别与链接方法的各个步骤进行更详细的说明。

图1示出本公开实施例中一种命名实体识别与链接方法的流程图。本公开实施例提供的方法可以由任意具备计算处理能力的电子设备执行。

如图1所示，命名实体识别与链接方法10包括：

在步骤S102中，获取包含专有名称的待识别文本。

该待识别文本例如可以由用户通过语音助手等软件输入，并通过语音识别技术将其转换为待识别文字。

或者，该待识别文本也可以由用户通过客户端软件提供的用户界面输入。

待识别文本中包含有专有名称，例如上述用户输入“我要听心晴”，其中“心晴”即为一首歌曲的专有名称。

在步骤S104中，基于预先构建的词典，对待识别文本进行分词，拆分出与专有名词对应的目标实体词。

其中，该预先构建的词典包含实体词与背景词。实体词如为对应专有名称的名词，如人名、机构名、地名、歌曲名、书名等等。背景词为其他辅助词语，如上述的“我要听心晴”中的“我要听”。

在一些实施例中，背景词例如可以是由高频查询语句中的语句片段和/或高频查询词构成。例如，可以搜集线上用户的的高频查询语句和/或高频查询词。在搜集到用户的高频查询语句后，例如可以使用N-Gram模型从高频查询语句出，拆分出语句片段，这些语句片段可以组成有效语句。例如，以采集到的查询语句“你今天休假了吗”，以N＝2为例，拆分出的语句片段分别为“你今”，“今天”，“天休”，“休假”，“假了”，“了吗”。

实体词例如可以由实际意图及技能(如播放技能、阅读技能)收集的实体词典构成。

如上述，实体识别过程中，使用分词器进行分词的目的是确定出其中的目标实体词，而并不关心分词器对背景词及未登录词如何分词。因此，在分词时，期望实体词的概率大于背景词，保证在分词时，对实体词的切分优先于对背景词的切分。

并且，对于复合实体，希望可以进行最长匹配。例如“生日”与“快乐”均为实体词，而“生日快乐”也为实体词，并且为由“生日”与“快乐”的复合实体词。在识别实体词时，期望能够切分出“生日快乐”，而非分别切分出“生日”和“快乐”，也即期望“生日快乐”的概率大于“生日”和“快乐”两者的概率之和。

此外，单自词可以和其他背景词组成新的背景词时，期望可以识别出组合后的背景词。例如，“听”为单字词，“我想”为背景词。在识别实体词时，期望切分出“我想听”，而非分别切分出“我想”和“听”。

发明人在对诸如上述大量分词场景研究后发现，当将各实体词的概率设置为与其长度非线性相关，并将各背景词的概率设置为与其长度也非线性相关时，在基于各实体词与各背景词切词后，切分出的实体词精准度大幅提升。

在一些实施例中，例如可以设置各实体词的概率分别为该实体词的长度的平方，而将各背景词的概率也设置为该背景词的长度的平方。例如，在解决上述复合实体词的切分问题时，“生日”的长度为2，其概率P(生日)＝2²＝4；“快乐”的长度为2，其概率P(快乐)＝2²＝4；而“生日快乐”的长度为4，其概率P(生日快乐)＝4²＝16。因此，P(生日快乐)>P(生日)+P(快乐)，在基于各实体词的概率切词时，会优先切分出“生日快乐”。再例如，在切分“我想听”时，P(我想听)>P(我想)+P(听)，因此会优先切分出“我想听”。

此外，进一步地，还可以将各实体词的概率设置为该实体词的长度的平方乘以预设的阈值，不同的实体词可以具有不同的阈值。例如，“播放”为背景词，而“放生”为实体词，为了提升对“放生”的切分优先级，可以将“放生”的概率在乘以大于1的阈值，从而使得P(放生)>P(播放)。

在步骤S106中，基于目标实体词的标注信息，确定目标实体词的类型。

该词典中的实体词还具有标注信息，用于标注实体词对应的类型。一个实体词可以对应一个或多个(如两个、三个等)类型。

基于切分出的目标实体词的标注信息，可以确定出该目标实体词的类型。

进一步地，在一些实施例中，命名实体识别与链接方法10还可以包括：在步骤S108中，根据目标实体词的类型，将目标实体词链接到预设知识库的命名实体中。进而实现将识别出的命名实体嵌入到已有知识库中。

本公开实施例提供的命名实体识别与链接方法，在对待识别文本进行分词时，通过为分词器词典中的实体词与背景词分别设置与目标词长度非线性相关的概率值，可以提升对实体词切分的准确度，消除由于分词导致的歧义。此外，由于该方法中可以直接根据识别出的实体词的标注信息确定其类型，因此可以实现实体识别与实体链接的同步执行。避免相关技术中分别执行实体识别与实体链接时，由于识别过程和链接过程之间的歧义，引起的解析错误的问题。例如，将“播放|一个像夏天一个像秋天”错误解析为“播放一个|像夏天一个像秋天”，进而导致链接错误。

图2示出本公开实施例中另一种命名实体识别与链接方法的流程图。与图1所示的命名实体识别与链接方法10不同的是，图2所示的命名实体识别与链接方法进一步提供了如何基于预先构建的词典，对待识别文本分词，拆分出与专有名词对应的目标实体词的一个示例性实施例，也即提供步骤S104的具体实施方式。

参考图2，步骤S104包括：

在步骤S1042中，基于词典构建的前缀树(Trie树)，生成待识别文本的有向无环图。

前缀树的用途主要是将字符串整合成树形。图3是根据一示例示出的前缀树的示意图。如图3所示的前缀树由“清华大学”、“清华”、“清新”、“中华”、“华人”五个中文词构成。这个树里面每一个方块代表一个节点，其中“Root”表示根节点，不代表任何字符。“1”～“5”分别表示叶子节点。除根节点外每一个节点都只包含一个字符。从根节点到叶子节点，路径上经过的字符连接起来，构成一个词。而叶子节点内的数字代表该词在字典树中所处的链路(字典中有多少个词就有多少条链路)，具有共同前缀的链路称为串。

在一些实施例中，该词典还可以进一步包括：实体词及背景词的子串，用于构建该词典的前缀树。

基于词典构建的前缀树，可以实现高效的词图扫描，进而生成待识别文本的有向无环图(DAG)。

以上述的“我要听心晴”为例，其包含5个字符，分别编号为0～4，则其DAG＝{0:[0,1,2],1:[1],2:[2,3],3:[3,4],4:[4]}。也即，以“我”为起点，可以切分为“我”、“我要”、“我要听”；以“要”为起点，可以切分为“要”；以“听”为起点，可以切分为“听”、“听心”；以“心”为起点，可以切分为“心”、“心晴”；以“晴”为起点，可以切分为“晴”。

同理，“听海哭的声音”的DAG＝{0:[0,1],1:[1,2,3,4,5],2:[2],3:[3],4:[4,5],5:[5]}。

在步骤S1044中，基于词典中各实体词的概率与各背景词的概率，查找最大概率路径。

以采用最大概率路径计算方法为例，“我要听心晴”的各切分路径的概率如下表所示：

查找出的具有最大概率的切分路径为{4:(1,4),3:(12,4),2:(13,3),1:(14,1),0:(39,2)}，其中“：”前表示各字符标号，括号中第一位表示切分路径概率，第二位表示分词结束的字符标号。

同理，可以查找出“听海哭的声音”的最大概率切分路径为{5:(1,5),4:(4,5),3:(5,3),2:(6,2),1:(75,5),0:(76,0)}。

在步骤S1046中，确定最大概率路径的分词结果为待识别文本的分词结果。

由上述最大概率路径为，可以确定出分词结果为“我要听|心晴”。

同理，确定“听海哭的声音”的分词结果为“听|海哭的声音”。

在步骤S1048中，确定分词结果中的实体词作为与专有名称对应的目标实体词。

“我要听|心晴”中的实体词为“心晴”，确定“心晴”为与待识别文本中专有名称对应的目标实体词。

“听|海哭的声音”中的实体词为“海哭的声音”，确定“海哭的声音”为与待识别文本中专有名称对应的目标实体词。

基于该方案，不但可以提升对实体词识别的准确度，还可以将耗时缩减到微秒级别。

下述为本公开装置实施例，可以用于执行本公开方法实施例。对于本公开装置实施例中未披露的细节，请参照本公开方法实施例。

图4示出本公开实施例中一种命名实体识别与链接装置的框图。参考图4，命名实体识别与链接装置20包括：文本获取模块202、文本分词模块204及类型确定模块206。

其中，文本获取模块202用于获取包含专有名称的待识别文本。

文本分词模块204用于基于预先构建的词典，对待识别文本分词，拆分出与专有名词对应的目标实体词。

类型确定模块206用于基于目标实体词的标注信息，确定目标实体词的类型；

其中，词典包含实体词与背景词，实体词的概率与实体词的长度非线性相关，背景词的概率与背景词的长度非线性相关，实体词的概率与背景词的概率均用于对待识别文本分词。

在一些实施例中，文本分词模块204包括：有向无环图生成单元、路径查找单元、分词结果确定单元及目标实体词确定单元。其中，有向无环图生成单元用于基于词典构建的前缀树，生成待识别文本的有向无环图。路径查找单元用于基于词典中各实体词的概率与各背景词的概率，查找最大概率路径。分词结果确定单元用于确定最大概率路径的分词结果为待识别文本的分词结果。目标实体词确定单元用于确定分词结果中的实体词作为与专有名称对应的目标实体词。

在一些实施例中，实体词的概率为实体词的长度的平方乘以预设阈值，背景词的概率为背景词长度的平方。

在一些实施例中，背景词由高频查询语句中的语句片段和/或高频查询词构成。

在一些实施例中，语句片段基于N-Gram模型从高频查询语句中确定。

在一些实施例中，词典还包括：实体词及背景词的子串，用于构建词典的前缀树。

在一些实施例中，命名实体识别与链接装置20还包括：实体链接模块208，用于根据目标实体词的类型，将目标实体词链接到预设知识库的命名实体中。

本公开实施例提供的命名实体识别与链接装置，在对待识别文本进行分词时，通过为分词器词典中的实体词与背景词分别设置与目标词长度非线性相关的概率值，可以提升对实体词切分的准确度，消除由于分词导致的歧义。此外，由于该方法中可以直接根据识别出的实体词的标注信息确定其类型，因此可以实现实体识别与实体链接的同步执行。避免相关技术中分别执行实体识别与实体链接时，由于识别过程和链接过程之间的歧义，引起的解析错误的问题。

所属技术领域的技术人员能够理解，本公开的各个方面可以实现为***、方法或程序产品。因此，本公开的各个方面可以具体实现为以下形式，即：完全的硬件实施方式、完全的软件实施方式(包括固件、微代码等)，或硬件和软件方面结合的实施方式，这里可以统称为“电路”、“模块”或“***”。

下面参照图5来描述根据本公开的这种实施方式的电子设备800。图5显示的电子设备800仅仅是一个示例，不应对本公开实施例的功能和使用范围带来任何限制。

如图5所示，电子设备800以通用计算设备的形式表现。电子设备800的组件可以包括但不限于：上述至少一个处理单元810、上述至少一个存储单元820、连接不同***组件(包括存储单元820和处理单元810)的总线830。

其中，所述存储单元存储有程序代码，所述程序代码可以被所述处理单元810执行，使得所述处理单元810执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。例如，所述处理单元810可以执行如图1中所示的步骤S102，获取包含专有名称的待识别文本；步骤S104，基于预先构建的词典，对待识别文本进行分词，拆分出与专有名词对应的目标实体词；步骤S106，基于目标实体词的标注信息，确定目标实体词的类型。

存储单元820可以包括易失性存储单元形式的可读介质，例如随机存取存储单元(RAM)8201和/或高速缓存存储单元8202，还可以进一步包括只读存储单元(ROM)8203。

存储单元820还可以包括具有一组(至少一个)程序模块8205的程序/实用工具8204，这样的程序模块8205包括但不限于：操作***、一个或者多个应用程序、其它程序模块以及程序数据，这些示例中的每一个或某种组合中可能包括网络环境的实现。

总线830可以为表示几类总线结构中的一种或多种，包括存储单元总线或者存储单元控制器、***总线、图形加速端口、处理单元或者使用多种总线结构中的任意总线结构的局域总线。

电子设备800也可以与一个或多个外部设备700(例如键盘、指向设备、蓝牙设备等)通信，还可与一个或者多个使得用户能与该电子设备600交互的设备通信，和/或与使得该电子设备800能与一个或多个其它计算设备进行通信的任何设备(例如路由器、调制解调器等等)通信。这种通信可以通过输入/输出(I/O)接口650进行。并且，电子设备800还可以通过网络适配器860与一个或者多个网络(例如局域网(LAN)，广域网(WAN)和/或公共网络，例如因特网)通信。如图所示，网络适配器860通过总线830与电子设备800的其它模块通信。应当明白，尽管图中未示出，可以结合电子设备600使用其它硬件和/或软件模块，包括但不限于：微代码、设备驱动器、冗余处理单元、外部磁盘驱动阵列、RAID***、磁带驱动器以及数据备份存储***等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、终端装置、或者网络设备等)执行根据本公开实施方式的方法。

在本公开的示例性实施例中，还提供了一种计算机可读存储介质，其上存储有能够实现本说明书上述方法的程序产品。在一些可能的实施方式中，本公开的各个方面还可以实现为一种程序产品的形式，其包括程序代码，当所述程序产品在终端设备上运行时，所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本公开各种示例性实施方式的步骤。

参考图6所示，描述了根据本公开的实施方式的用于实现上述方法的程序产品900，其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码，并可以在终端设备，例如个人电脑上运行。然而，本公开的程序产品不限于此，在本文件中，可读存储介质可以是任何包含或存储程序的有形介质，该程序可以被指令执行***、装置或者器件使用或者与其结合使用。

所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件，或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括：具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。

计算机可读信号介质可以包括在基带中或者作为载波一部分传播的数据信号，其中承载了可读程序代码。这种传播的数据信号可以采用多种形式，包括但不限于电磁信号、光信号或上述的任意合适的组合。可读信号介质还可以是可读存储介质以外的任何可读介质，该可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。

可读介质上包含的程序代码可以用任何适当的介质传输，包括但不限于无线、有线、光缆、RF等等，或者上述的任意合适的组合。

可以以一种或多种程序设计语言的任意组合来编写用于执行本公开操作的程序代码，所述程序设计语言包括面向对象的程序设计语言—诸如Java、C++等，还包括常规的过程式程序设计语言—诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。在涉及远程计算设备的情形中，远程计算设备可以通过任意种类的网络，包括局域网(LAN)或广域网(WAN)，连接到用户计算设备，或者，可以连接到外部计算设备(例如利用因特网服务提供商来通过因特网连接)。

应当注意，尽管在上文详细描述中提及了用于动作执行的设备的若干模块或者单元，但是这种划分并非强制性的。实际上，根据本公开的实施方式，上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之，上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。

此外，尽管在附图中以特定顺序描述了本公开中方法的各个步骤，但是，这并非要求或者暗示必须按照该特定顺序来执行这些步骤，或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的，可以省略某些步骤，将多个步骤合并为一个步骤执行，以及/或者将一个步骤分解为多个步骤执行等。

通过以上的实施方式的描述，本领域的技术人员易于理解，这里描述的示例实施方式可以通过软件实现，也可以通过软件结合必要的硬件的方式来实现。因此，根据本公开实施方式的技术方案可以以软件产品的形式体现出来，该软件产品可以存储在一个非易失性存储介质(可以是CD-ROM，U盘，移动硬盘等)中或网络上，包括若干指令以使得一台计算设备(可以是个人计算机、服务器、移动终端、或者网络设备等)执行根据本公开实施方式的方法。

本领域技术人员在考虑说明书及实践这里公开的发明后，将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化，这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的，本公开的真正范围和精神由所附的权利要求指出。

Claims (10)

1.一种命名实体识别与链接方法，其特征在于，包括：

获取包含专有名称的待识别文本；

基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名称对应的目标实体词；以及

基于所述目标实体词的标注信息，确定所述目标实体词的类型；

其中，所述词典包含实体词与背景词，所述实体词的概率与所述实体词的长度非线性相关，所述背景词的概率与所述背景词的长度非线性相关，所述实体词的概率与所述背景词的概率均用于对所述待识别文本分词，所述实体词的概率大于所述背景词。

2.根据权利要求1所述的方法，其特征在于，基于预先构建的词典，对所述待识别文本分词，拆分出与专有名词对应的目标实体词，包括：

基于所述词典构建的前缀树，生成所述待识别文本的有向无环图；

基于所述词典中各实体词的概率与各背景词的概率，查找最大概率路径；

确定所述最大概率路径的分词结果为所述待识别文本的分词结果；以及

确定所述分词结果中的实体词作为与所述专有名称对应的所述目标实体词。

3.根据权利要求1或2所述的方法，其特征在于，所述实体词的概率为所述实体词的长度的平方乘以预设阈值，所述背景词的概率为所述背景词长度的平方。

4.根据权利要求1或2所述的方法，其特征在于，所述背景词由高频查询语句中的语句片段和/或高频查询词构成。

5.根据权利要求4所述的方法，其特征在于，所述语句片段基于N-Gram模型从所述高频查询语句中确定。

6.根据权利要求2所述的方法，其特征在于，所述词典还包括：所述实体词及所述背景词的子串，用于构建所述词典的前缀树。

7.根据权利要求1或2所述的方法，其特征在于，还包括：

根据所述目标实体词的类型，将所述目标实体词链接到预设知识库的命名实体中。

8.一种命名实体识别与链接装置，其特征在于，包括：

文本获取模块，用于获取包含专有名称的待识别文本；

文本分词模块，用于基于预先构建的词典，对所述待识别文本分词，拆分出与所述专有名称对应的目标实体词；以及

类型确定模块，用于基于所述目标实体词的标注信息，确定所述目标实体词的类型；

其中，所述词典包含实体词与背景词，所述实体词的概率与所述实体词的长度非线性相关，所述背景词的概率与所述背景词的长度非线性相关，所述实体词的概率与所述背景词的概率均用于对所述待识别文本分词，所述实体词的概率大于所述背景词。

9.一种电子设备，包括：存储器、处理器及存储在所述存储器中并可在所述处理器中运行的可执行指令，其特征在于，所述处理器执行所述可执行指令时实现如权利要求1-7任一项所述的方法。

10.一种计算机可读存储介质，其上存储有计算机可执行指令，其特征在于，所述可执行指令被处理器执行时实现如权利要求1-7任一项所述的方法。