CN114118067A - 术语名词纠错方法及装置、电子设备和介质 - Google Patents
术语名词纠错方法及装置、电子设备和介质 Download PDFInfo
- Publication number
- CN114118067A CN114118067A CN202111458336.9A CN202111458336A CN114118067A CN 114118067 A CN114118067 A CN 114118067A CN 202111458336 A CN202111458336 A CN 202111458336A CN 114118067 A CN114118067 A CN 114118067A
- Authority
- CN
- China
- Prior art keywords
- term
- text
- noun
- text segment
- nouns
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/232—Orthographic correction, e.g. spell checking or vowelisation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/237—Lexical tools
- G06F40/242—Dictionaries
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
-
- G—PHYSICS
- G16—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
- G16H—HEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
- G16H15/00—ICT specially adapted for medical reports, e.g. generation or transmission thereof
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Computational Linguistics (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Epidemiology (AREA)
- Medical Informatics (AREA)
- Primary Health Care (AREA)
- Public Health (AREA)
- Character Discrimination (AREA)
Abstract
本公开提供了一种术语名词纠错方法及装置、电子设备和介质,涉及人工智能领域,尤其涉及自然语言处理、数据挖掘和机器学习技术领域。实现方案为:对待纠错文本进行文本片段识别,以获取第一文本片段,其中,第一文本片段的长度小于待纠错文本,并且第一文本片段包含至少一个待识别是否存在错误的术语名词;基于第一文本片段,获取第一术语名词,其中,第一术语名词是经识别存在错误的术语名词;基于第一术语名词,确定第二术语名词以替换所述第一术语名词。
Description
技术领域
本公开涉及人工智能领域,尤其涉及自然语言处理、数据挖掘和机器学习技术领域,具体涉及一种术语名词纠错的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
背景技术
文本纠错技术被广泛应用于光学字符识别(Optical Character Recognition,OCR)、语音识别等技术领域,常用的文本纠错方法包括基于规则的方法以及应用深度模型的方法等。
在此部分中描述的方法不一定是之前已经设想到或采用的方法。除非另有指明,否则不应假定此部分中描述的任何方法仅因其包括在此部分中就被认为是现有技术。类似地,除非另有指明,否则此部分中提及的问题不应认为在任何现有技术中已被公认。
发明内容
本公开提供了一种术语名词纠错的方法、装置、电子设备、计算机可读存储介质和计算机程序产品。
根据本公开的一方面,提供了一种计算机实现的术语名词纠错方法,包括:对待纠错文本进行文本片段识别,以获取第一文本片段,其中,第一文本片段的长度小于待纠错文本,并且第一文本片段包含至少一个待识别是否存在错误的术语名词;基于第一文本片段,获取第一术语名词,其中,第一术语名词是经识别存在错误的术语名词;以及基于第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
根据本公开的另一方面,提供了一种用于术语名词纠错的文本片段识别模型的训练方法,包括:获取样本数据集,其中,样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;初始化文本片段识别模型的多个参数;以及对于每一个样本数据,执行如下操作:将样本文本输入到文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整文本片段识别模型的多个参数。
根据本公开的另一方面,提供了一种术语名词纠错装置,包括:识别单元,被配置为对待纠错文本进行文本片段识别,以获取第一文本片段,其中,所述第一文本片段的长度小于所述待纠错文本,并且所述第一文本片段包含至少一个待识别是否存在错误的术语名词;第一获取单元,被配置为基于所述第一文本片段,获取第一术语名词,其中,所述第一术语名词是经识别存在错误的术语名词;以及确定单元,被配置为基于所述第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
根据本公开的另一方面,提供了一种用于术语名词纠错的文本片段识别模型的训练装置,包括:第二获取单元,被配置为获取样本数据集,其中,所述样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;初始化单元,被配置为初始化所述文本片段识别模型的多个参数;以及输入单元,被配置为将所述样本文本输入到所述文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及调整单元,被配置为基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整所述文本片段识别模型的多个参数。
根据本公开的一个或多个实施例,能够提高术语名词纠错的准确率。
应当理解,本部分所描述的内容并非旨在标识本公开的实施例的关键或重要特征,也不用于限制本公开的范围。本公开的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图示例性地示出了实施例并且构成说明书的一部分,与说明书的文字描述一起用于讲解实施例的示例性实施方式。所示出的实施例仅出于例示的目的,并不限制权利要求的范围。在所有附图中,相同的附图标记指代类似但不一定相同的要素。
图1示出了根据本公开的实施例的可以在其中实施本文描述的各种方法的示例性***的示意图;
图2示出了根据本公开的实施例的计算机实现的术语名词纠错方法的流程图;
图3示出了根据本公开的实施例的计算机实现的术语名词纠错方法的流程图;
图4示出了根据本公开的实施例的术语名词纠错的文本片段识别模型的训练方法的流程图;
图5示出了根据本公开的实施例的术语名词纠错装置的结构框图;
图6示出了根据本公开的实施例的术语名词纠错装置的结构框图;
图7示出了根据本公开的实施例的用于术语名词纠错的文本片段识别模型的训练装置的结构框图;
图8示出了能够用于实现本公开的实施例的示例性电子设备的结构框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
在本公开中,除非另有说明,否则使用术语“第一”、“第二”等来描述各种要素不意图限定这些要素的位置关系、时序关系或重要性关系,这种术语只是用于将一个要素与另一要素区分开。在一些示例中,第一要素和第二要素可以指向该要素的同一实例,而在某些情况下,基于上下文的描述,它们也可以指代不同实例。
在本公开中对各种所述示例的描述中所使用的术语只是为了描述特定示例的目的,而并非旨在进行限制。除非上下文另外明确地表明,如果不特意限定要素的数量,则该要素可以是一个也可以是多个。此外,本公开中所使用的术语“和/或”涵盖所列出的项目中的任何一个以及全部可能的组合方式。
下面将结合附图详细描述本公开的实施例。
图1示出了根据本公开的实施例可以将本文描述的各种方法和装置在其中实施的示例性***100的示意图。参考图1,该***100包括一个或多个客户端设备101、102、103、104、105和106、服务器120以及将一个或多个客户端设备耦接到服务器120的一个或多个通信网络110。客户端设备101、102、103、104、105和106可以被配置为执行一个或多个应用程序。
在本公开的实施例中,服务器120可以运行使得能够执行术语名词纠错方法的一个或多个服务或软件应用。
在某些实施例中,服务器120还可以提供可以包括非虚拟环境和虚拟环境的其他服务或软件应用。在某些实施例中,这些服务可以作为基于web的服务或云服务提供,例如在软件即服务(SaaS)模型下提供给客户端设备101、102、103、104、105和/或106的用户。
在图1所示的配置中,服务器120可以包括实现由服务器120执行的功能的一个或多个组件。这些组件可以包括可由一个或多个处理器执行的软件组件、硬件组件或其组合。操作客户端设备101、102、103、104、105和/或106的用户可以依次利用一个或多个客户端应用程序来与服务器120进行交互以利用这些组件提供的服务。应当理解,各种不同的***配置是可能的,其可以与***100不同。因此,图1是用于实施本文所描述的各种方法的***的一个示例,并且不旨在进行限制。
用户可以使用客户端设备101、102、103、104、105和/或106来获取待纠错文本。客户端设备可以提供使客户端设备的用户能够与客户端设备进行交互的接口。客户端设备还可以经由该接口向用户输出信息。尽管图1仅描绘了六种客户端设备,但是本领域技术人员将能够理解,本公开可以支持任何数量的客户端设备。
客户端设备101、102、103、104、105和/或106可以包括各种类型的计算机设备,例如便携式手持设备、通用计算机(诸如个人计算机和膝上型计算机)、工作站计算机、可穿戴设备、智能屏设备、自助服务终端设备、服务机器人、游戏***、瘦客户端、各种消息收发设备、传感器或其他感测设备等。这些计算机设备可以运行各种类型和版本的软件应用程序和操作***,例如MICROSOFT Windows、APPLE iOS、类UNIX操作***、Linux或类Linux操作***(例如GOOGLE Chrome OS);或包括各种移动操作***,例如MICROSOFT WindowsMobile OS、iOS、Windows Phone、Android。便携式手持设备可以包括蜂窝电话、智能电话、平板电脑、个人数字助理(PDA)等。可穿戴设备可以包括头戴式显示器(诸如智能眼镜)和其他设备。游戏***可以包括各种手持式游戏设备、支持互联网的游戏设备等。客户端设备能够执行各种不同的应用程序,例如各种与Internet相关的应用程序、通信应用程序(例如电子邮件应用程序)、短消息服务(SMS)应用程序,并且可以使用各种通信协议。
网络110可以是本领域技术人员熟知的任何类型的网络,其可以使用多种可用协议中的任何一种(包括但不限于TCP/IP、SNA、IPX等)来支持数据通信。仅作为示例,一个或多个网络110可以是局域网(LAN)、基于以太网的网络、令牌环、广域网(WAN)、因特网、虚拟网络、虚拟专用网络(VPN)、内部网、外部网、公共交换电话网(PSTN)、红外网络、无线网络(例如蓝牙、WIFI)和/或这些和/或其他网络的任意组合。
服务器120可以包括一个或多个通用计算机、专用服务器计算机(例如PC(个人计算机)服务器、UNIX服务器、中端服务器)、刀片式服务器、大型计算机、服务器群集或任何其他适当的布置和/或组合。服务器120可以包括运行虚拟操作***的一个或多个虚拟机,或者涉及虚拟化的其他计算架构(例如可以被虚拟化以维护服务器的虚拟存储设备的逻辑存储设备的一个或多个灵活池)。在各种实施例中,服务器120可以运行提供下文所描述的功能的一个或多个服务或软件应用。
服务器120中的计算单元可以运行包括上述任何操作***以及任何商业上可用的服务器操作***的一个或多个操作***。服务器120还可以运行各种附加服务器应用程序和/或中间层应用程序中的任何一个,包括HTTP服务器、FTP服务器、CGI服务器、JAVA服务器、数据库服务器等。
在一些实施方式中,服务器120可以包括一个或多个应用程序,以分析和合并从客户端设备101、102、103、104、105和106的用户接收的数据馈送和/或事件更新。服务器120还可以包括一个或多个应用程序,以经由客户端设备101、102、103、104、105和106的一个或多个显示设备来显示数据馈送和/或实时事件。
在一些实施方式中,服务器120可以为分布式***的服务器,或者是结合了区块链的服务器。服务器120也可以是云服务器,或者是带人工智能技术的智能云计算服务器或智能云主机。云服务器是云计算服务体系中的一项主机产品,以解决传统物理主机与虚拟专用服务器(VPS,Virtual Private Server)服务中存在的管理难度大、业务扩展性弱的缺陷。
***100还可以包括一个或多个数据库130。在某些实施例中,这些数据库可以用于存储数据和其他信息。例如,数据库130中的一个或多个可用于存储诸如音频文件和视频文件的信息。数据库130可以驻留在各种位置。例如,由服务器120使用的数据库可以在服务器120本地,或者可以远离服务器120且可以经由基于网络或专用的连接与服务器120通信。数据库130可以是不同的类型。在某些实施例中,由服务器120使用的数据库例如可以是关系数据库。这些数据库中的一个或多个可以响应于命令而存储、更新和检索到数据库以及来自数据库的数据。
在某些实施例中,数据库130中的一个或多个还可以由应用程序使用来存储应用程序数据。由应用程序使用的数据库可以是不同类型的数据库,例如键值存储库,对象存储库或由文件***支持的常规存储库。
图1的***100可以以各种方式配置和操作,以使得能够应用根据本公开所描述的各种方法和装置。
目前,对于文本中涉及到专业领域的术语名词进行文本纠错主要应用的方法主要包括以下三种:
(1)基于规则的方法:通过通用实体词典、N-Gram语言模型、混淆词典、音近词典、形近词典等进行术语名词的匹配检测和召回;
(2)有监督学习方法:通过构建有标签的训练数据集,基于该训练数据集进行模型训练,然后应用训练好的模型进行预测。所应用到的模型主要包括以下类别:序列标注模型、生成模型和翻译模型,其中,较为常用的模型有LSTM、BERT、Seq2Seq模型等;
(3)基于检错、召回两阶段的方案:该方案是上述两种方法的结合,将文本纠错分为两个阶段:检错阶段和召回阶段。其中,在检错阶段,主要使用各类词典、混淆集合、语言模型或者序列标注的方法对错误的位点进行预测;在召回阶段,对于存在错误的位点通过拼音匹配、N-Gram模型等方式召回多个候选项,最后使用排序模型对候选项进行排序,最终选择排序得分高的候选项。
以上三种方案均需要对整个文本进行错误检测,因此都存在效率较低的问题,且由于误召回的情况较多,因此都存在纠错准确率较低的问题。
因此,根据本公开的实施例,如图2所示,提供了一种计算机实现的术语名词纠错方法,包括:步骤S201、对待纠错文本进行文本片段识别,以获取第一文本片段,其中,第一文本片段的长度小于待纠错文本,并且第一文本片段包含至少一个待识别是否存在错误的术语名词;步骤S202、基于第一文本片段,获取第一术语名词,其中,第一术语名词是经识别存在错误的术语名词;以及步骤S203、基于第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
根据本公开实施例的术语名词纠错方法,在对文本中的术语名词进行检错之前,增加含有术语名词的文本片段的识别步骤,通过只针对含有术语名词的文本片段进行术语名词检测与纠错,提高了纠错效率的同时,可以减少误召回,提高术语名词纠错的准确率。
其中,对于一些场景,上述方法所实现的技术效果尤为显著。在这些场景中,待进行专业术语名词纠错的文本表现为一下特征:在整个文本中,术语分布集中于其中的几个片段中。根据一些实施例,具有上述特征的待纠错文本可以是在语音识别电子病例的场景中获取的。其中,电子病例中的药品术语通常集中分布于整个电子病例文本的其中几个文本片段中。因此,通过应用上述方法,可以首先将这几个文本片段识别出来,进而对这几个文本片段进行药品术语的检错和纠错,从而可以提高药品术语纠错的准确率和效率。
对待纠错文本进行文本片段识别可以应用经过训练的文本片段识别模型来实现。通过将待纠错文本输入到上述文本片段识别模型中,从而获得一个或多个第一文本片段,也即整个文本中,含有待识别是否存在错误的术语名词的文本片段。例如,将电子病例文本输入到文本片段识别模型中,即可获得一个或多个含有待识别是否有误的药品术语名词的文本片段。
对上述第一文本片段进行术语名词错误检测,可以应用基于术语词典、N-Gram语言模型、混淆词典、音近词典、形近词典等进行匹配检测的方法,也可以应用序列标注模型、生成模型和翻译模型等类型的模型进行错误术语名词进行预测,可以理解的是,本领域技术人员可以根据实际情况,自行选择术语名词错误检测的方法,在此不作限定。
根据一些实施例,基于第一文本片段,获取第一术语名词可以包括:通过分词工具基于第一术语词典对所述第一文本片段进行识别,以获取所述第一文本片段中的正确的术语名词和第二文本片段,其中,所述第二文本片段是所述第一文本片段去除所述正确的术语名词后的文本片段;以及基于所述第二文本片段,获取所述第一术语名词。
其中,分词工具可以应用例如Jieba v0.40等工具,可以理解的,本领域技术人员也可以根据实际情况,自行选择其他分词工具,在此不作限定。
分词工具所配置的第一术语词典可以是待纠错文本所述专业领域的专业术语词典。可以基于该专业术语词典,先对第一文本片段进行匹配检测,从中识别出正确的术语名词,并将其从第一文本片段中通过分词进行筛除,从而获得一个或多个第二文本片段,也即不包含正确术语名词的文本片段。再通过上述的术语名词错误检测方法,对第二文本片段进行检测,从而获得第一术语名词。
由此,通过对第一文本片段中的正确术语名词进行筛除,可以进一步降低错误召回的概率,提高术语名词纠错的准确率。
由于对术语名词错误检测的操作以及上述对第一文本片段中正确术语名词进行检测的操作中,均会应用到第一术语词典。根据一些实施例,术语名词纠错方法还包括:响应于确定所述第一术语词典中的多个术语名词具有相同的词尾部分,分别删除所述多个术语名词的所述词尾部分以获取多个第三术语名词,其中,所述词尾部分的长度小于所述多个术语名词中的每一个术语名词;以及将所述多个第三术语名词添加到所述第一术语词典中,以获取第二术语词典,其中,所述第二术语词典用于替换所述第一术语词典。
某些专业领域的专业术语词典中的术语可能存在相同的后缀词语,例如,对于药品术语词典而言,部分药品术语均为“XXXX肠溶片”或“XXXX缓释片”等,“肠溶片”或“缓释片”等即为上述后缀词语。而当药品术语去掉后缀词语后,不会产生歧义时,可以将去掉后缀词语后的该药品术语作为药品术语词典的补充词汇,由此,可以进一步丰富药品术语词典的词汇量,从而提高该术语词典的覆盖率,进而提升上述对术语名词错误检测的操作以及对第一文本片段中正确术语名词进行检测的操作的准确率。
可以理解的,对于上述后缀词语的挖掘可以通过文本数据挖掘等方法实现,在此不作限定。
根据一些实施例,基于所述第一术语名词,确定第二术语名词可以包括:基于所述第一术语名词,确定多个候选术语名词;以及基于所述多个候选术语名词,确定所述第二术语名词。
在检测出待纠错的第一术语名词之后,可以通过术语词典、N-Gram语言模型、混淆词典、音近词典、形近词典等进行匹配召回,也可以通过应用序列标注模型等模型进行预测召回,从而可以获取多个候选术语名词。随后可应用排序模型对上述多个候选术语名词进行打分并排序,从而获得第二术语名词,也即得分最高的候选术语名词,用以替换上述第一术语名词。
可以理解的是,本领域技术人员可以自行选择召回和排序的方法,在此不作限定。
根据一些实施例,如图3所示,还提供了一种计算机实现的术语名词纠错方法,包括:步骤S301、对待纠错文本进行文本片段识别,以获取第一文本片段,其中,第一文本片段的长度小于待纠错文本,并且第一文本片段包含至少一个待识别是否存在错误的术语名词;步骤S302、通过分词工具基于第一术语词典对所述第一文本片段进行识别,以获取所述第一文本片段中的正确的术语名词和第二文本片段,其中,所述第二文本片段是所述第一文本片段去除所述正确的术语名词后的文本片段;步骤S303、基于所述第二文本片段,获取所述第一术语名词;以及步骤S304、基于第一术语名词,确定第二术语名词以替换所述第一术语名词。图3中的步骤S301-步骤S304与上述实施例类似,在此不做赘述。
对于一些专业领域的术语名词纠错,在获取到得分最高的候选术语名词后,还可以通过知识图谱等方式对该候选术语名词的合理性进行校验。例如,在对电子病例中的药品术语名词进行纠错时,可以应用“诊断-药品局部知识图谱”,通过验证所生成的候选药品术语与电子病例中所涉及的所诊断出的病症是否具有联系,从而进行该候选药品术语的合理性的校验。若经过校验,发现该候选药品术语与电子病例中所涉及的病症没有关系,则将该候选药品术语丢弃。由此,可以从医学角度进一步保证术语纠错的合理性,同时也可以提高术语纠错的准确性。
根据一些实施例,如图4所示,还提供了一种用于术语名词纠错的文本片段识别模型的训练方法,包括:步骤S401、获取样本数据集,其中,样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;步骤S402、初始化文本片段识别模型的多个参数;以及对于每一个样本数据,执行如下操作:步骤S403、将样本文本输入到文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及步骤S404、基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整文本片段识别模型的多个参数。
由此,可以实现对文本片段识别模型的训练,从而将训练后的模型应用于上述术语名词纠错的文本片段识别过程中,从而提升术语名词纠错的效率和准确率。
根据一些实施例,上述文本片段识别模型可以是LSTM模型或BERT模型。可以理解的,本领域技术人员可以根据实际情况自行选择所应用的模型,在此不作限定。
根据一些实施例,所述样本数据集包括多个正样本数据,并且其中,所述多个正样本数据中的每一个正样本数据的第一文本片段中包含至少一个所述术语名词。
根据一些实施例,所述样本数据集包括多个负样本数据,并且其中,所述多个负样本数据中的每一个负样本数据的第一文本片段中不包含所述术语名词。
样本数据集可以通过以下方式构建:首先,将样本文本通过标点符号或按照固定字符长度,划分为多个第一文本片段。随后,通过术语词典匹配等方法对每个第一文本片段进行术语名词的识别,当识别出某第一文本片段中包含术语名词时,则为该第一文本片段标注表征其包含术语名词的标签,作为正样本数据;同理,当未识别出某第一文本片段中包含术语名词时,则为该第一文本片段标注表征其不包含术语名词的标签,作为负样本数据。例如,构建用于训练对电子病例进行文本片段识别的模型的样本数据集时,可以将电子病例作为样本文本,通过应用基于药品术语词典匹配等方法,获取多个标注了是否含有药品术语名词的第一文本片段。通过上述方法,无需人工标注即可获取样本数据集,从而节省了人工成本。
根据一些实施例,所述样本数据集中的正样本数据与负样本数据的数量比例满足预设比例。如果正负样本的数量差别过大,可能导致所训练的模型预测准确率较低的问题。因此,通过确定正负样本的比例构建样本数据集,可以进一步提升上述文本片段识别模型的识别的准确率。
可以理解的,上述样本数据及的正负样本比例可以由本领域技术人员根据实际情况自行确定,在此不作限定。例如,对于用于训练对电子病例进行文本片段识别的模型的样本数据集,实际情况中,正样本数据量与负样本数据量差别较大,因此,根据实际情况,可将正负样本比例确定为1:10或1:11,使得训练该模型的样本数据集更加符合实际情况,从而使得应用该样本数据集训练所得的模型具有较高的预测准确率。
根据一些实施例,如图5所示,还提供了一种术语名词纠错装置500,包括:识别单元510,被配置为对待纠错文本进行文本片段识别,以获取第一文本片段,其中,所述第一文本片段的长度小于所述待纠错文本,并且所述第一文本片段包含至少一个待识别是否存在错误的术语名词;第一获取单元520,被配置为基于所述第一文本片段,获取第一术语名词,其中,所述第一术语名词是经识别存在错误的术语名词;以及确定单元530,被配置为基于所述第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
术语名词纠错装置500的单元510-单元530的操作和上述术语名词纠错方法的步骤S201-步骤S203的操作类似,在此不做赘述。
根据一些实施例,如图6所示,还提供了一种术语名词纠错装置600,其中,第一获取单元620包括:识别子单元621,被配置为通过分词工具基于第一术语词典对所述第一文本片段进行识别,以获取所述第一文本片段中的正确的术语名词和第二文本片段,其中,所述第二文本片段是所述第一文本片段去除所述正确的术语名词后的文本片段;以及获取子单元622,被配置为基于所述第二文本片段,获取所述第一术语名词。
术语名词纠错装置600的单元610-单元630以及子单元621-子单元622的操作和上述术语名词纠错方法的步骤S301-步骤S304的操作类似,在此不做赘述。
根据一些实施例,其中,所述第一术语名词是基于第一术语词典对所述第一文本片段进行检测而获取的,术语名词纠错装置还可以包括:删除单元,被配置为响应于确定所述第一术语词典中的多个术语名词具有相同的词尾部分,分别删除所述多个术语名词的所述词尾部分以获取多个第三术语名词,其中,所述词尾部分的长度小于所述多个术语名词中的每一个术语名词;以及添加单元,被配置为将所述多个第三术语名词添加到所述第一术语词典中,以获取第二术语词典,其中,所述第二术语词典用于替换所述第一术语词典。
根据一些实施例,其中,所述确定单元包括:第一确定子单元,被配置为基于所述第一术语名词,确定多个候选术语名词;以及第二确定子单元,被配置为基于所述多个候选术语名词,确定所述第二术语名词。
根据一些实施例,术语名词纠错装置所处理的待纠错文本可以是在语音识别电子病例的场景中获取的。
根据一些实施例,如图7所示,还提供了一种用于术语名词纠错的文本片段识别模型的训练装置700,包括:第二获取单元710,被配置为获取样本数据集,其中,所述样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;初始化单元720,被配置为初始化所述文本片段识别模型的多个参数;以及输入单元730,被配置为将所述样本文本输入到所述文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及调整单元740,被配置为基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整所述文本片段识别模型的多个参数。
用于术语名词纠错的文本片段识别模型的训练装置700的单元710-单元740的操作和上述用于术语名词纠错的文本片段识别模型的训练方法的步骤S401-步骤S404的操作类似,在此不做赘述。
根据本公开的实施例,还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
参考图8,现将描述可以作为本公开的服务器或客户端的电子设备800的结构框图,其是可以应用于本公开的各方面的硬件设备的示例。电子设备旨在表示各种形式的数字电子的计算机设备,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图8所示,电子设备800包括计算单元801,其可以根据存储在只读存储器(ROM)802中的计算机程序或者从存储单元808加载到随机访问存储器(RAM)803中的计算机程序,来执行各种适当的动作和处理。在RAM803中,还可存储电子设备800操作所需的各种程序和数据。计算单元801、ROM 802以及RAM 803通过总线804彼此相连。输入/输出(I/O)接口805也连接至总线804。
电子设备800中的多个部件连接至I/O接口805,包括:输入单元806、输出单元807、存储单元808以及通信单元809。输入单元806可以是能向电子设备800输入信息的任何类型的设备,输入单元806可以接收输入的数字或字符信息,以及产生与电子设备的用户设置和/或功能控制有关的键信号输入,并且可以包括但不限于鼠标、键盘、触摸屏、轨迹板、轨迹球、操作杆、麦克风和/或遥控器。输出单元807可以是能呈现信息的任何类型的设备,并且可以包括但不限于显示器、扬声器、视频/音频输出终端、振动器和/或打印机。存储单元808可以包括但不限于磁盘、光盘。通信单元809允许电子设备800通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据,并且可以包括但不限于调制解调器、网卡、红外通信设备、无线通信收发机和/或芯片组,例如蓝牙TM设备、802.11设备、WiFi设备、WiMax设备、蜂窝通信设备和/或类似物。
计算单元801可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元801的一些示例包括但不限于中央处理单元(CPU)、图形处理单元(GPU)、各种专用的人工智能(AI)计算芯片、各种运行机器学习模型算法的计算单元、数字信号处理器(DSP)、以及任何适当的处理器、控制器、微控制器等。计算单元801执行上文所描述的各个方法和处理,例如常驻点识别方法。例如,在一些实施例中,常驻点识别方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元808。在一些实施例中,计算机程序的部分或者全部可以经由ROM 802和/或通信单元809而被载入和/或安装到电子设备800上。当计算机程序加载到RAM 803并由计算单元801执行时,可以执行上文描述的常驻点识别方法的一个或多个步骤。备选地,在其他实施例中,计算单元801可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行常驻点识别方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、场可编程门阵列(FPGA)、专用集成电路(ASIC)、专用标准产品(ASSP)、芯片上***的***(SOC)、复杂可编程逻辑设备(CPLD)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦除可编程只读存储器(EPROM或快闪存储器)、光纤、便捷式紧凑盘只读存储器(CD-ROM)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(阴极射线管)或者LCD(液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:局域网(LAN)、广域网(WAN)和互联网。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,也可以为分布式***的服务器,或者是结合了区块链的服务器。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行、也可以顺序地或以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
虽然已经参照附图描述了本公开的实施例或示例,但应理解,上述的方法、***和设备仅仅是示例性的实施例或示例,本发明的范围并不由这些实施例或示例限制,而是仅由授权后的权利要求书及其等同范围来限定。实施例或示例中的各种要素可以被省略或者可由其等同要素替代。此外,可以通过不同于本公开中描述的次序来执行各步骤。进一步地,可以以各种方式组合实施例或示例中的各种要素。重要的是随着技术的演进,在此描述的很多要素可以由本公开之后出现的等同要素进行替换。
Claims (19)
1.一种计算机实现的术语名词纠错方法,包括:
对待纠错文本进行文本片段识别,以获取第一文本片段,其中,所述第一文本片段的长度小于所述待纠错文本,并且所述第一文本片段包含至少一个待识别是否存在错误的术语名词;
基于所述第一文本片段,获取第一术语名词,其中,所述第一术语名词是经识别存在错误的术语名词;
基于所述第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
2.根据权利要求1所述的方法,其中,所述基于所述第一文本片段,获取第一术语名词包括:
通过分词工具基于第一术语词典对所述第一文本片段进行识别,以获取所述第一文本片段中的正确的术语名词和第二文本片段,其中,所述第二文本片段是所述第一文本片段去除所述正确的术语名词后的文本片段;以及
基于所述第二文本片段,获取所述第一术语名词。
3.根据权利要求1或2所述的方法,其中,所述第一术语名词是基于第一术语词典对所述第一文本片段进行检测而获取的,并且所述方法还包括:
响应于确定所述第一术语词典中的多个术语名词具有相同的词尾部分,分别删除所述多个术语名词的所述词尾部分以获取多个第三术语名词,其中,所述词尾部分的长度小于所述多个术语名词中的每一个术语名词;以及
将所述多个第三术语名词添加到所述第一术语词典中,以获取第二术语词典,其中,所述第二术语词典用于替换所述第一术语词典。
4.根据权利要求1至3中任一项所述的方法,其中,所述基于所述第一术语名词,确定第二术语名词包括:
基于所述第一术语名词,确定多个候选术语名词;以及
基于所述多个候选术语名词,确定所述第二术语名词。
5.根据权利要求1至4中任一项所述的方法,其中,所述待纠错文本是在语音识别电子病例的场景中获取的。
6.一种用于术语名词纠错的文本片段识别模型的训练方法,包括:
获取样本数据集,其中,所述样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;
初始化所述文本片段识别模型的多个参数;以及
对于每一个样本数据,执行如下操作:
将所述样本文本输入到所述文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及
基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整所述文本片段识别模型的多个参数。
7.根据权利要求6所述的方法,其中,所述样本数据集包括多个正样本数据,并且其中,所述多个正样本数据中的每一个正样本数据的第一文本片段中包含至少一个所述术语名词。
8.根据权利要求6或7所述的方法,其中,所述样本数据集包括多个负样本数据,并且其中,所述多个负样本数据中的每一个负样本数据的第一文本片段中不包含所述术语名词。
9.根据权利要求6至8中任一项所述的方法,其中,所述样本数据集中的正样本数据与负样本数据的数量比例满足预设比例。
10.根据权利要求6至9中任一项所述的方法,其中,所述文本片段识别模型是LSTM模型或BERT模型。
11.一种术语名词纠错装置,包括:
识别单元,被配置为对待纠错文本进行文本片段识别,以获取第一文本片段,其中,所述第一文本片段的长度小于所述待纠错文本,并且所述第一文本片段包含至少一个待识别是否存在错误的术语名词;
第一获取单元,被配置为基于所述第一文本片段,获取第一术语名词,其中,所述第一术语名词是经识别存在错误的术语名词;以及
确定单元,被配置为基于所述第一术语名词,确定第二术语名词,其中,所述第二术语名词用于替换所述第一术语名词。
12.根据权利要求11所述的装置,其中,所述第一获取单元被进一步配置为:
识别子单元,被配置为通过分词工具基于第一术语词典对所述第一文本片段进行识别,以获取所述第一文本片段中的正确的术语名词和第二文本片段,其中,所述第二文本片段是所述第一文本片段去除所述正确的术语名词后的文本片段;以及
获取子单元,被配置为基于所述第二文本片段,获取所述第一术语名词。
13.根据权利要求11或12所述的装置,其中,所述第一术语名词是基于第一术语词典对所述第一文本片段进行检测而获取的,并且所述装置还包括:
删除单元,被配置为响应于确定所述第一术语词典中的多个术语名词具有相同的词尾部分,分别删除所述多个术语名词的所述词尾部分以获取多个第三术语名词,其中,所述词尾部分的长度小于所述多个术语名词中的每一个术语名词;以及
添加单元,被配置为将所述多个第三术语名词添加到所述第一术语词典中,以获取第二术语词典,其中,所述第二术语词典用于替换所述第一术语词典。
14.根据权利要求11至13中任一项所述的装置,其中,所述确定单元包括:
第一确定子单元,被配置为基于所述第一术语名词,确定多个候选术语名词;以及
第二确定子单元,被配置为基于所述多个候选术语名词,确定所述第二术语名词。
15.根据权利要求11至14中任一项所述的装置,其中,所述待纠错文本是在语音识别电子病例的场景中获取的。
16.一种用于术语名词纠错的文本片段识别模型的训练装置,包括:
第二获取单元,被配置为获取样本数据集,其中,所述样本数据集中的每一个样本数据包括样本文本、多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,并且其中,所述多个第一文本片段中的每一个第一文本片段的长度均小于所述样本文本;
初始化单元,被配置为初始化所述文本片段识别模型的多个参数;以及
输入单元,被配置为将所述样本文本输入到所述文本片段识别模型,以得到输出值,所述输出值包括预测得到的多个第二文本片段以及与所述多个第二文本片段分别对应的类别;以及
调整单元,被配置为基于所述多个第二文本片段、与所述多个第二文本片段分别对应的类别、所述多个第一文本片段以及与所述多个第一文本片段分别对应的类别标签,调整所述文本片段识别模型的多个参数。
17.一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-5或6-10中任一项所述的方法。
18.一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行根据权利要求1-5或6-10中任一项所述的方法。
19.一种计算机程序产品,包括计算机程序,其中,所述计算机程序在被处理器执行时实现权利要求1-5或6-10中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111458336.9A CN114118067A (zh) | 2021-12-02 | 2021-12-02 | 术语名词纠错方法及装置、电子设备和介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111458336.9A CN114118067A (zh) | 2021-12-02 | 2021-12-02 | 术语名词纠错方法及装置、电子设备和介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN114118067A true CN114118067A (zh) | 2022-03-01 |
Family
ID=80365241
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111458336.9A Pending CN114118067A (zh) | 2021-12-02 | 2021-12-02 | 术语名词纠错方法及装置、电子设备和介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114118067A (zh) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115630645A (zh) * | 2022-12-06 | 2023-01-20 | 北京匠数科技有限公司 | 一种文本纠错方法、装置、电子设备及介质 |
-
2021
- 2021-12-02 CN CN202111458336.9A patent/CN114118067A/zh active Pending
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115630645A (zh) * | 2022-12-06 | 2023-01-20 | 北京匠数科技有限公司 | 一种文本纠错方法、装置、电子设备及介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN116028605B (zh) | 逻辑表达式生成方法、模型训练方法、装置及介质 | |
CN114443989B (zh) | 排序方法、排序模型的训练方法、装置、电子设备及介质 | |
CN114611532A (zh) | 语言模型训练方法及装置、目标翻译错误检测方法及装置 | |
US11842726B2 (en) | Method, apparatus, electronic device and storage medium for speech recognition | |
CN114821581A (zh) | 图像识别方法和用于训练图像识别模型的方法 | |
CN114547252A (zh) | 文本识别方法、装置、电子设备和介质 | |
CN113723305A (zh) | 图像和视频检测方法、装置、电子设备和介质 | |
CN114118067A (zh) | 术语名词纠错方法及装置、电子设备和介质 | |
US20230101401A1 (en) | Text processing method | |
CN115862031A (zh) | 文本处理方法、神经网络的训练方法、装置和设备 | |
CN115269989A (zh) | 对象推荐方法、装置、电子设备和存储介质 | |
CN115578501A (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN115359309A (zh) | 目标检测模型的训练方法及装置、设备和介质 | |
CN114219046A (zh) | 模型训练方法、匹配方法、装置、***、电子设备和介质 | |
CN112905743A (zh) | 文本对象检测的方法、装置、电子设备和存储介质 | |
CN114861658B (zh) | 地址信息解析方法及装置、设备和介质 | |
CN116383372B (zh) | 基于人工智能的数据分析方法及*** | |
CN114117046B (zh) | 数据处理方法、装置、电子设备及介质 | |
CN113836939B (zh) | 基于文本的数据分析方法和装置 | |
CN114860836B (zh) | 失效兴趣点的挖掘方法及装置、设备和介质 | |
CN114118066A (zh) | 专有名词纠错方法、装置、电子设备及存储介质 | |
CN115203544A (zh) | 推荐方法及装置、电子设备和介质 | |
CN114048759A (zh) | 模型训练方法、数据处理方法、装置、设备及介质 | |
CN114611526A (zh) | 实体链接方法及装置、设备和介质 | |
CN117291191A (zh) | 文本处理方法及装置、设备和介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |