CN107704454A - 古籍专名识别方法以及装置 - Google Patents

Abstract

本发明提供了一种古籍专名识别方法以及装置，通过获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；基于预先保存的专名知识库，对每个专名进行分类；针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。该方法可以缓解传统的手工专名标注耗时耗力，传统的机器标注效果较差的问题。提高古籍专名识别的精度及质量，从而满足古籍整理出版工作中的实际应用需求。

Description

古籍专名识别方法以及装置

技术领域

本发明涉及数据处理领域，具体而言，涉及一种古籍专名识别方法以及装置。

背景技术

专名号是用在古籍或某些文史著作里面,用于表示人名、地名、朝代名等的标识方法，有助于读者更好的阅读和理解古籍文献。在传统古籍整理工作中，专名号标点主要依赖于专家学者的知识与经验手动完成，因而耗时耗力，进展缓慢。近年来，随着数字化和信息技术的发展，国内学者开始采用计算机进行机器标点的探索工作，然而，由于古籍文言文语法的复杂性，使得传统的机器标点的效果不尽人意，也没有成型的针对古籍专名号的标注方法。

发明内容

有鉴于此，本发明实施例的目的在于提供一种古籍专名识别方法以及装置，以缓解传统的手工专名标注耗时耗力，传统的机器标注效果较差的问题。

第一方面，本发明实施例提供了一种古籍专名识别方法，所述方法包括：获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。

第二方面，本发明实施例提供了一种古籍专名识别装置，所述装置包括：获取模块，用于获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；分类模块，用于基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；判断模块，用于针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；执行模块，用于当所述判断模块判断为否，且针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。

与现有技术相比，本发明各实施例提出的古籍专名识别方法以及装置，通过获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。该方法可以缓解传统的手工专名标注耗时耗力，传统的机器标注效果较差的问题。提高古籍专名识别的精度及质量，从而满足古籍整理出版工作中的实际应用需求。

为使本发明的上述目的、特征和优点能更明显易懂，下文特举较佳实施例，并配合所附附图，作详细说明如下。

附图说明

为了更清楚地说明本发明实施例的技术方案，下面将对实施例中所需要使用的附图作简单地介绍，应当理解，以下附图仅示出了本发明的某些实施例，因此不应被看作是对范围的限定，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他相关的附图。

图1为本发明实施例提供的电子设备的结构框图；

图2为本发明第一实施例提供的一种古籍专名识别方法的流程图；

图3为本发明第一实施例提供的另一种古籍专名识别方法的流程图；

图4为本发明第一实施例提供的另一种古籍专名识别方法的流程图；

图5为本发明第二实施例提供的一种古籍专名识别装置的结构框图；

图6为本发明第二实施例提供的另一种古籍专名识别装置的结构框图；

图7为本发明第二实施例提供的另一种古籍专名识别装置的结构框图。

具体实施方式

下面将结合本发明实施例中附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。通常在此处附图中描述和示出的本发明实施例的组件可以以各种不同的配置来布置和设计。因此，以下对在附图中提供的本发明的实施例的详细描述并非旨在限制要求保护的本发明的范围，而是仅仅表示本发明的选定实施例。基于本发明的实施例，本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。

应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。同时，在本发明的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。

如图1所示，是所述电子设备100的方框示意图，所述电子设备100可以是个人电脑(personal computer，PC)、平板电脑、个人数字助理(personal digital assistant，PDA)等。其中，所述电子设备100包括：古籍专名识别装置、存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160、显示单元170。

所述存储器110、存储控制器120、处理器130、外设接口140、输入输出单元150、音频单元160以及显示单元170各元件相互之间直接或间接地电性连接，以实现数据的传输或交互。例如，这些元件相互之间可通过一条或多条通讯总线或信号线实现电性连接。所述古籍专名识别装置包括至少一个可以软件或固件(firmware)的形式存储于所述存储器110中或固化在客户端设备的操作***(operating system，OS)中的软件功能模块。所述处理器130用于执行存储器110中存储的可执行模块，例如所述古籍专名识别装置包括的软件功能模块或计算机程序。

其中，存储器110可以是，但不限于，随机存取存储器(Random Access Memory，RAM)，只读存储器(Read Only Memory，ROM)，可编程只读存储器(Programmable Read-OnlyMemory，PROM)，可擦除只读存储器(Erasable Programmable Read-Only Memory，EPROM)，电可擦除只读存储器(Electric Erasable Programmable Read-Only Memory，EEPROM)等。其中，存储器110用于存储程序，所述处理器130在接收到执行指令后，执行所述程序，前述本发明实施例任一实施例揭示的流程定义的电子设备100所执行的方法可以应用于处理器130中，或者由处理器130实现。

处理器130可能是一种集成电路芯片，具有信号的处理能力。上述的处理器130可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(DSP)、专用集成电路(ASIC)、现成可编程门阵列(FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。可以实现或者执行本发明实施例中的公开的各方法、步骤及逻辑框图。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。

所述外设接口140将各种输入/输出装置耦合至处理器130以及存储器110。在一些实施例中，外设接口140，处理器130以及存储控制器120可以在单个芯片中实现。在其他一些实例中，他们可以分别由独立的芯片实现。

输入输出单元150用于提供给用户输入数据实现用户与电子设备100的交互。所述输入输出单元150可以是，但不限于，鼠标和键盘等。

音频单元160向用户提供音频接口，其可包括一个或多个麦克风、一个或者多个扬声器以及音频电路。

显示单元170在电子设备100与用户之间提供一个交互界面(例如用户操作界面)或用于显示图像数据给用户参考。在本实施例中，所述显示单元170可以是液晶显示器或触控显示器。若为触控显示器，其可为支持单点和多点触控操作的电容式触控屏或电阻式触控屏等。支持单点和多点触控操作是指触控显示器能感应到来自该触控显示器上一个或多个位置处同时产生的触控操作，并将该感应到的触控操作交由处理器130进行计算和处理。

第一实施例

请参照图2，图2是本发明第一实施例提供的一种古籍专名识别方法的流程图，所述方法应用于电子设备。下面将对图2所示的流程进行详细阐述，所述方法包括：

步骤S110：获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名。

电子设备可以获取用户输入的需要进行专名识别的古籍文本，得到古籍文本数据。得到古籍文本数据后，电子设备可以基于预先保存的古籍统计模型分词算法将所述古籍文本数据进行拆分，得到多个经过分词处理的专名。

其中，所述预先保存的古籍统计模型分词算法，可以是在现有的分词算法的基础上，添加了古籍的一些条件而得到的一种应用于古籍的算法。其中，所述条件可以是输入古籍语料而训练得到的古籍统计模型，该古籍统计模型分词算法可以将古籍文本分词为多个专名。

步骤S120：基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名。

电子设备可以获取经过人工整理以及校对后形成的，已经标注好专名号以及专名词的古籍，并提取文本特征以及专名。工作人员可以将这些文本特征以及专名进行归类处理，其中，类别可以有：人名(如司马迁)、地名、朝代名、官名、民族名、天文名以及书名。

电子设备可以预先获取工作人员进行归类处理后得到的数据，从而保存为专名知识库。进一步的，电子设备还可以接收工作人员输入的数据，对专名知识库进行整理，得到专名知识库中每个专名的简称、别称、代称、全称的相关关系以及来源等，还可以添加人名的称谓属性词，例如(人名字号、尊号、字、表等)，并更新专名知识库。

在预先保存了专名知识库的前提下，电子设备可以将步骤S110得到的多个分词专名进行分类。例如，司马迁属于人名、洛阳属于地名、战国属于朝代名、范阳令属于官名、匈奴属于民族名、北斗属于天文名、《汉书天文志》属于书名。

步骤S130：针对每个专名，判断该专名是否是预先保存的专名知识库中的书名。

由于书名中包含的内容庞杂，因此，若专名是书名，则放弃该专名。

步骤S140：若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。

若该专名只属于分类类别中的一个类别，说明该专名被准确定义为是大家所认可的专名。

作为一种实施方式，请参看图3，所述方法还可以包括：

步骤S150：针对每个专名，在判断该专名所属的分类类别大于一个类别时，将该专名保存为待标记专名。

例如，某一专名，既属于人名类，又属于地名类，那么该专名所属的分类类别大于一个，则把该类别保存为待标记专名。

步骤S160：对剩余的每个待标记专名，进行更为准确的识别。

其中，更为准确的识别方式，可以包括：

A：针对每个待标记专名，保存该待标记专名在所述古籍文本中出现的段落位置；基于预先保存的专名知识库，在判断所述待标记专名是一个所述目标专名的简称或者代称，且在所述古籍文本中与该目标专名出现在同一段落位置时，将该待标记专名保存为目标专名，且更新目标专名库。

B:针对剩余的每个待标记专名，基于预先保存的专名知识库，判断该待标记专名是否包含所述专名知识库中对应的组合类型；若是，将该待标记专名保存为目标专名，且更新所述目标专名库。

其中，所述组合类型包括：人名+官名、人名+地名或者地名+官名。例如，杜工部(人名+官名)、韦苏州(人名+地名)或者四川节度使(地名+官名)。

C:针对剩余的每个待标记专名，基于预先保存的专名知识库，判断该待标记专名是否包含所述专名知识库中的录入的称谓属性词；若是，将该待标记专名保存为目标专名，且更新所述目标专名库。

D:针对剩余的每个待标记专名，基于预先保存的专名辅助词典，判断该待标记专名是否包含所述专名辅助词典中的录入的辅助词且该辅助词在所述古籍文本中出现的次数是否大于一；若是，将该待标记专名保存为目标专名，且更新所述目标专名库。其中，所述专名辅助词典和所述专名知识库一样，是所述电子设备预先保存的，基于经过人工整理以及校对后形成的，用于辅助专名的辅助词库。

E：针对剩余的每个待标记专名，基于预先保存的专名知识库，在判断所述待标记专名是所述目标专名库中的一个目标专名的简称或者代称，且与该目标专名出现在同一段落位置时，将该待标记专名保存为目标专名。

其中，所述ABCD多个方案可以按照顺序执行，也可以不按顺序执行，例如先执行B再执行CDA，还可以选择ABCD中的一部分方案进行执行。

值得说明的是，若要执行方案E，则在执行方案E之前，一般会执行ABCD中的至少一个。

作为一种实施方式，请参看图4，所述方法还可以包括：

步骤S170：将得到的每个目标专名标注出专名号。

其中，所述专名号为下划线。例如电子设备识别出“杜工部”为目标专名，则在古籍文本中，将出现“杜工部”的位置加上下划线，如“杜工部”。

当然，专名号不一定全是下划线，也可以是其他字符，例如波浪线、双横线等，此处不再一一赘述。

当然，值得指出的是，电子设备还可以定期更新专名知识库，以便为专名的识别提供更为精确的参考。

本发明第一实施例提供的古籍专名识别方法的有益效果为：通过获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；基于预先保存的专名知识库，对每个专名进行分类；针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。该方法可以缓解传统的手工专名标注耗时耗力，传统的机器标注效果较差的问题。进一步的，本发明充分利用古籍对于专名描述的各种方式，提供了更实用和更准确的古籍专名识别方法，为古籍整理自动专名识别和标注提供了有力的帮助。此外，本发明基于出版应用的考虑，继承了统计模型和专名知识库的优点，并在此基础上添加了可以自我学习和补充的框架，从而实现不断提供准确标注的目的。

第二实施例

请参照图5，图5是本发明第二实施例提供的一种古籍专名识别装置400的结构框图。下面将对图7所示的结构框图进行阐述，所示装置包括：

获取模块410，用于获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；

分类模块420，用于基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；

判断模块430，用于针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；

执行模块440，用于当所述判断模块判断为否，且针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。

作为一种实施方式，请参看图6，所述装置还可以包括：

保存模块450，用于针对每个专名，在判断该专名所属的分类类别大于一个类别时，将该专名保存为待标记专名。

识别模块460，用于对剩余的每个待标记专名，进行更为准确的识别。

作为一种实施方式，请参看图7，所述装置还可以包括：

标注模块470，用于将得到的每个目标专名标注出专名号，其中，所述专名号为下划线。

本实施例对古籍专名识别的装置400的各功能模块实现各自功能的过程，请参见上述图1至图4所示实施例中描述的内容，此处不再赘述。

综上所述，本发明实施例提出的古籍专名识别方法以及装置，通过获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；基于预先保存的专名知识库，对每个专名进行分类；针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。该方法可以缓解传统的手工专名标注耗时耗力，传统的机器标注效果较差的问题。提高古籍专名识别的精度及质量，从而满足古籍整理出版工作中的实际应用需求。

在本申请所提供的几个实施例中，应该理解到，所揭露的装置和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，这依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。

另外，在本发明各个实施例中的各功能模块可以集成在一起形成一个独立的部分，也可以是各个模块单独存在，也可以两个或两个以上模块集成形成一个独立的部分。

所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。而前述的存储介质包括：U盘、移动硬盘、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。

以上所述仅为本发明的优选实施例而已，并不用于限制本发明，对于本领域的技术人员来说，本发明可以有各种更改和变化。凡在本发明的精神和原则之内，所作的任何修改、等同替换、改进等，均应包含在本发明的保护范围之内。应注意到：相似的标号和字母在下面的附图中表示类似项，因此，一旦某一项在一个附图中被定义，则在随后的附图中不需要对其进行进一步定义和解释。

以上所述，仅为本发明的具体实施方式，但本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到变化或替换，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应所述以权利要求的保护范围为准。

Claims (10)

1.一种古籍专名识别方法，其特征在于，所述方法包括：

获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；

基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；

针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；

若不是，针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。

2.根据权利要求1所述的方法，其特征在于，所述方法还包括：

针对每个专名，在判断该专名所属的分类类别大于一个类别时，将该专名保存为待标记专名；

针对每个待标记专名，保存该待标记专名在所述古籍文本中出现的段落位置；

基于预先保存的专名知识库，在判断所述待标记专名是一个所述目标专名的简称或者代称，且与该目标专名出现在同一段落位置时，将该待标记专名保存为目标专名，且更新目标专名库。

3.根据权利要求2所述的方法，其特征在于，所述方法还包括：

针对剩余的每个待标记专名，基于预先保存的专名知识库，判断该待标记专名是否包含所述专名知识库中对应的组合类型；

若是，将该待标记专名保存为目标专名，且更新所述目标专名库。

4.根据权利要求3所述的方法，其特征在于，所述组合类型包括：人名+官名、人名+地名或者地名+官名。

5.根据权利要求3所述的方法，其特征在于，所述方法还包括：

针对剩余的每个待标记专名，基于预先保存的专名知识库，判断该待标记专名是否包含所述专名知识库中的录入的称谓属性词；

若是，将该待标记专名保存为目标专名，且更新所述目标专名库。

6.根据权利要求5所述的方法，其特征在于，所述方法还包括：

针对剩余的每个待标记专名，基于预先保存的专名辅助词典，判断该待标记专名是否包含所述专名辅助词典中的录入的辅助词且该辅助词在所述古籍文本中出现的次数是否大于一；

若是，将该待标记专名保存为目标专名，且更新所述目标专名库。

7.根据权利要求6所述的方法，其特征在于，所述方法还包括：

针对剩余的每个待标记专名，基于预先保存的专名知识库，在判断所述待标记专名是所述目标专名库中的一个目标专名的简称或者代称，且与该目标专名出现在同一段落位置时，将该待标记专名保存为目标专名。

8.根据权利要求1-7任一所述的方法，其特征在于，所述方法还包括：

将每个目标专名标注出专名号。

9.根据权利要求8所述的方法，其特征在于，所述专名号为下划线。

10.一种古籍专名识别装置，其特征在于，所述装置包括：

获取模块，用于获取古籍文本，基于古籍统计模型分词算法对所述古籍文本进行分词处理，得到多个专名；

分类模块，用于基于预先保存的专名知识库，对每个专名进行分类，其中，分类类别包括：人名、地名、朝代名、民族名、官名和天文名；

判断模块，用于针对每个专名，判断该专名是否是预先保存的专名知识库中的书名；

执行模块，用于当所述判断模块判断为否，且针对每个专名，在判断该专名只属于分类类别中的一个类别时，将该专名保存为所述古籍文本的目标专名。