CN110110324B - 一种基于知识表示的生物医学实体链接方法 - Google Patents
一种基于知识表示的生物医学实体链接方法 Download PDFInfo
- Publication number
- CN110110324B CN110110324B CN201910297065.XA CN201910297065A CN110110324B CN 110110324 B CN110110324 B CN 110110324B CN 201910297065 A CN201910297065 A CN 201910297065A CN 110110324 B CN110110324 B CN 110110324B
- Authority
- CN
- China
- Prior art keywords
- entity
- representation
- biomedical
- candidate
- variant
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/33—Querying
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/30—Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
- G06F16/36—Creation of semantic tools, e.g. ontology or thesauri
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/20—Natural language analysis
- G06F40/279—Recognition of textual entities
- G06F40/289—Phrasal analysis, e.g. finite state techniques or chunking
- G06F40/295—Named entity recognition
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F40/00—Handling natural language data
- G06F40/30—Semantic analysis
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/044—Recurrent networks, e.g. Hopfield networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Computational Linguistics (AREA)
- General Engineering & Computer Science (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Artificial Intelligence (AREA)
- Data Mining & Analysis (AREA)
- Biomedical Technology (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Life Sciences & Earth Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Databases & Information Systems (AREA)
- Machine Translation (AREA)
Abstract
本发明提供一种基于知识表示的生物医学实体链接方法,属于自然语言处理领域。本发明包括三个步骤:文本预处理、基于生物医学知识库的实体表示学习、基于知识表示的生物医学实体链接。本发明将生物医学知识库中实体间的同一实体多种变体和不同实体同名的结构信息作为向量空间上的约束,采用自动编码机,通过最小化重构误差学习实体标识符ID的向量表示,将生物医学知识库中的实体结构信息转化为知识表示。同时,本发明基于知识表示构建了一个生物医学实体链接模型,融合文本语义表示和实体ID表示实现对实体提及的消歧,提升生物医学实体链接的准确性和可靠性。
Description
技术领域
本发明属于自然语言处理领域,涉及到一种对生物医学文本进行实体链接的方法,特别涉及到基于知识表示和深度神经网络融合的生物医学实体链接。
背景技术
随着计算机技术和生物技术的高速发展,生物医学领域的文献正在以指数方式增长。面对快速增长的海量数据,研究人员迫切希望揭示蕴含于海量的生物医学文献中的生物医学知识,推动生物医学的发展。这一需求推动了生物医学文本挖掘技术的产生与发展。生物医学命名实体链接(Biomedical Named Entity Linking,BioNEL)作为其中的一项重要研究,目的是促进数据的集成(Data integration)和重用(Re-use)。BioNEL是指将文本中的生物医学实体(如蛋白质、基因、疾病和药物等)通过知识库映射为唯一标识符(ID),方便于将文本中的非结构化信息转换为结构化数据。它的本质其实是建立文本中实体提及与知识库中实体之间的映射关系,通过建立文本与知识之间的联系,来帮助生物医学知识库自动填充和实体关系抽取等技术的研究。
生物医学命名实体具有如下特点:1)一词多义(多义词),即相同的词或短语可以表示不同的生物命名实体或概念,如:作为生物实体的CAP就有多种意义如胱氨酸氨基肽酶(cystine aminopeptidase)、衣壳蛋白(capsid)、环化酶相关蛋白(cyclase-associatedprotein)和钙激活蛋白(calcium activated protease-Q9UQC9)等;2)多词一义(同义词),即同一生物医学实体具有多种变体。如:PTGS2,cyclooxygenase-2,prostaglandin-endoperoxide synthase 2,COX2均表示***素过氧化物合成酶。除此之外,生物医学命名实体的缩写被大量使用且不规范,命名方式复杂多样没有统一标准,这都使得生物医学命名实体链接变得困难。
目前,解决BioNEL的方法主要有基于词典的方法,基于向量的方法,基于传统机器学习的方法,以及基于深度学习的方法。
基于词典的方法是通过字符匹配和一些启发式规则从文本中识别词典中的生物医学实体ID。简单的字符匹配方法可以获得较高的精确率,但是召回率极低。这种情况大多跟上述生物医学命名实体的特点有关。同时,此方法严重依赖词典的完整性和规则的设计,难以被应用于新的领域。
基于向量的方法是将实体提及(Entity Mention)和所有候选实体映射到公共向量空间,然后对每个候选实体定义一个评分度量进行排序(如余弦相似度、欧氏距离、编辑距离、主题相似度、实体流行度等),选取排序第一的候选作为实体提及的链接结果。Leaman等人(DNorm:disease name normalization with pairwise learning to rank,2013,Bioinformatics,29(22):2909-2917)提出DNorm***,采用向量空间模型来表示医学实体,并使用相似性矩阵来衡量实体提及和候选实体的相似程度。他们在NCBI疾病数据集上取得了0.782的F值,高于基于词典的方法。
基于传统机器学习的方法根据上下文语境对候选实体ID进行分类,其目的是对数据的分布进行统计,拟合出数据趋势走向。常用的机器学习模型包括:条件随机域模型(CRF)、支持向量机模型(SVM)、隐马尔可夫模型(HMM)、最大熵模型(ME)等。但是,基于传统机器学习的方法依赖于复杂的特征工程,需要对数据进行深度探索性分析,根据丰富的领域知识和长期经验来设计和确定模型的最优特征集合,人工成本昂贵且耗时。同时,抽取的特征表示均采用独热(one-hot)的高维稀疏表示方法,难以捕捉文本蕴含的深层语义信息。
基于深度学习的方法克服了对特征工程的依赖,利用多层神经网络构建数据的深层次抽象特征表示。深度学习的代表性模型主要有自动编码机、RNN、LSTM、CNN等。Li等(CNN-based ranking for biomedical entity normalization,2017,BMCbioinformatics,18(11):385)将生物医学实体链接任务视为一个排序问题,利用卷积神经网络对候选的语义信息及其形态信息进行建模,然后计算所有<实体,候选>对的相似度得分并排序,得分最高的候选即作为链接结果。他们的模型在ShARe/CLEF和NCBI数据集上取得了较好的性能。
实体所在的上下文是消歧的关键,正如分布式假说的想法“词的语义由其上下文决定”。上述方法大都着眼于文本数据,通过自动或半自动的方式挖掘有效特征来提高生物医学实体链接的性能。但相比于其它领域,生物医学实体链接需要有力的知识资源支撑,而大量的隐含知识难以在样本数据中进行体现。这些特征数据背后的关联逻辑隐藏在丰富的生物医学词典、知识库(KnowledgeBase,KB)等语义网络中,比如蛋白质知识库UniProt,基因知识库NCBI Gene等。他们包含丰富的实体及其结构信息,能够为实体链接任务提供知识支持。然而这些知识在生物医学实体链接***中尚未得到充分应用。融合实体结构信息和实体语义信息,开展面向大规模生物医学知识库的知识表示学习研究,对于生物医学实体链接具有重要的理论意义和实际应用价值。
发明内容
为利用知识库丰富的实体结构信息帮助克服生物医学实体一词多义和多词一义的难题,本发明提供了一种面向实体结构信息的表示学习方法和一种基于知识表示的生物医学实体链接方法,融合了知识表示与文本语义表示,提高现有生物医学实体链接的性能。
本发明的技术方案:
一种基于知识表示的生物医学实体链接方法,该方法包括三部分:文本预处理、基于知识库的实体表示学习、基于知识表示的生物医学实体链接。具体步骤如下:
步骤一、文本预处理
对于生物医学文本,首先提取出文本中所有待链接的生物医学实体提及,然后通过知识库查找实体提及对应的所有候选实体标识符(ID)。为了优化内存和运行时间,仅保留排序前五的查找结果作为实体提及的候选ID集合。
步骤二、基于生物医学知识库的实体表示学习
知识库中包含了丰富的实体及其结构信息,如同一实体多种变体和不同实体同名。本发明将这些实体结构信息作为向量空间上的约束,采用自动编码机对实体提及表示和变体表示进行重构,从而学习实体ID表示。自动编码机是基于如下两个约束:(i)实体ID表示是其各个变体表示的和;(ii)实体提及表示是其同名变体表示的和。定义实体提及表示为变体表示为实体ID表示为v(i,j)是第i个实体提及m(i)和第j个实体IDs(j)共有的变体。则上述自动编码机的两个基本约束可用如下公式表示:
s(j)=∑iv(i,j)
m(i)=∑jv(i,j)
该自动编码机由两部分组成,即编码器和解码器。编码时,编码器按照实体提及→变体→实体ID的顺序进行。其中,实体提及表示m(i)初始化为其组成单词的预训练词表示的平均值,变体表示v(i,j)通过引入一个对角矩阵对实体提及表示m(i)进行分解获得。然后,由对应变体表示的加和获得实体ID表示s(j)。编码过程的公式如下:
s(j)=∑iv(i,j)=∑iE(i,j)m(i)
E(i,j)是一个对角矩阵,满足条件∑jE(i,j)=In,其中In是一个单位矩阵。
定义一个重构误差函数来训练自动编码机的参数,其公式为:
该重构误差函数由两部分组成,一个是要求解码出的实体提及表示与输入的提及表示m(i)对齐,即∑j(D(j,i)∑iE(i,j)m(i))≈m(i);另一个是要求解码器得到的变体表示与编码器得到的变体表示v(i,j)对齐,即E(i,j)m(i)≈D(j,i)s(j)。通过最小化该重构误差函数,使得实体结构信息被嵌入到实体ID中,得到学***衡。
综上,生物医学知识库中包含实体间同一实体多种变体和不同实体同名的结构信息,而基于知识库的实体表示学习旨在将这些实体结构信息作为向量空间的约束,通过自动编码机表示为稠密低维实值向量,最终获得实体ID表示。
步骤三、基于知识表示的生物医学实体链接
利用步骤二学习获得的实体ID表示,对步骤一抽取出的生物医学实体提及进行消歧,获得在特定上下文中实体提及对应的唯一ID。本发明提供了一种基于知识表示的实体消歧模型,该模型通过注意力机制(Attention)和门机制(Gating)融合文本语义表示和实体ID表示,从而预测实体提及被链接到当前候选实体ID的概率。具体来说,首先,通过嵌入层,将待链接实体提及的候选实体ID,和它的左侧上下文、右侧上下文分别映射到向量空间,获得候选ID表示s和左、右侧上下文词向量序列和然后,CL和CR分别输入给一个门递归单元神经网络(GRU)获得在第t个时间步输出的隐层表示和如下:
对于一段词序列的语义信息,其中每个词相对于候选ID的重要性应该是不同的。为此,我们提出基于知识表示的注意力(Attention)机制,利用候选ID表示计算每个时间步隐层表示的归一化权重αt。以左上下文表示为例,其计算公式如下:
其中,ht是或 和均是模型的参数,在训练过程中进行调优;s为当前候选实体ID表示;tanh为双曲正切激活函数。通过一个前馈神经网络建模候选ID表示s与上下文各个时间步的隐层表示ht,获得二者的关联得分et。之后,利用softmax函数对得分et进行归一化得到隐层表示的权重αt。
接下来,对GRU隐层表示的整个序列作加权求和操作,使结构信息编码的候选ID表示与上下文语义表示融合,公式如下:
o=∑tαtht
其中,o表示左上下文表示oL或右上下文表示oR;
注意力机制分别应用于左、右侧隐层表示从而获得的左、右上下文表示oL和oR,并通过一个门机制来进行动态控制,让实体提及的最终上下文表示z获得充分的学习,计算公式如下:
z=g⊙oL+(1-g)⊙oR
g=σ(Wg·oL+Vg·oR+bg)
其中,Wg,Vg,bg是待训练的参数;⊙表示逐元素相乘;g是权重,通过将左右上下文oL和oR输入一层全连接层并通过sigmoid激活函数σ获得的。
最后,我们将实体提及的上下文表示z和候选ID表示s拼接输入给分类器。分类器由具有ReLU激活的两层全连接神经网络(FC)和一个包含两个分类单元(分别为被连接和不被链接的概率)的sigmoid输出层组成,公式如下:
pr1=relu(W1·[z;s]+b1)
pr2=relu(W2·pr1+b2)
p=sigmoid(W3·pr2+b3)
其中,W1,b1,W2,b2,W3,b3是待训练的参数,[;]表示拼接操作。
基于知识表示的实体消歧模型通过一个二元交叉熵损失函数进行训练,公式如下:
其中,n是训练样例个数,yi是第i个样例的正确标签,λ||W||为训练参数的正则项,pi是第i个样例的预测概率,。
生物医学实体消歧模型为每个实体提及与其候选ID进行打分并排序,选择得分最高的候选ID作为最终的链接结果。
本发明的有益效果:
1、本发明利用知识库辅助生物医学实体链接,将知识库中实体间的结构信息(不同实体同名和同一实体多种变体)作为自动编码机的约束,学习实体ID表示。该实体ID表示嵌入了知识库的实体结构信息,有效解决了实体ID表示质量无法保证的问题,并能同时学习获得多种变体表示和同名实体提及表示。
2、本发明将实体ID表示用于生物医学实体链接,构建了一个基于知识表示和深度神经网络结合的生物医学实体链接模型。基于实体ID表示,采用注意力机制GRU网络,计算待链接实体提及的上下文加权平均表示,深度融合文本语义表示和知识表示两方面的信息,进行实体消歧,有效提高生物医学实体链接的准确性和可靠性。
附图说明
附图1是技术流程图。
附图2是同一实体多种变体和不同实体同名的语义关系示例图。
附图3是自动编码机的结构图。
附图4是生物医学实体消歧模型图。
具体实施方式
给定表1的一个应用实例,包括文本1和文本2。下面结合本发明的技术方案(和附图)详细叙述本发明的具体实施方式。
表1应用实例
1、首先,从文本1和文本2中提取待链接的实体提及“VEGF”。然后通过知识库查找实体提及“VEGF”可能对应的所有候选实体ID,包括人类属ID“NCBI Gene:7422”和家鼠属ID“NCBI Gene:22339”。
2、从知识库中抽取同一实体多种变体和不同实体同名等实体结构信息。以图2为例,在实线框中,变体“VEGF(human)”,“MVCD1”和“VPF”均表示同一基因(血管内皮生长因子),ID为“NCBI Gene:7422”。这就是生物医学实体的同一实体多种变体问题(同义词)。在虚线框中,变体“VEGF(human)”和“VEGF(mouse)”的名称相同,但是分别对应不同的人类属ID“NCBI Gene:7422”和家鼠属ID“NCBI Gene:22339”。这就是生物医学实体的不同实体同名问题(多义词)。
3、将这些实体结构信息作为向量空间上的约束,采用自动编码机对实体提及表示和变体表示进行重构,学习基于知识库的实体ID表示。自动编码机的结构如图3所示,它基于如下两个约束:(i)实体ID表示是其各个变体表示的和;(ii)实体提及表示是其同名变体表示的和。以图2为例进行说明。根据约束(i),实体ID“NCBI Gene:7422”的表示是其各个变体“VEGF(human)”,“MVCD1”和“VPF”表示的和;根据约束(ii),实体提及“VEGF”的表示是其同名变体“VEGF(human)”和“VEGF(mouse)”表示的和。
自动编码机的学***均值;变体表示则通过引入的对角矩阵对同名实体提及表示进行分解获得;实体ID表示由其对应的各个变体表示加和获得。然后是解码,按照实体ID→变体→实体提及的顺序进行。引入另一个对角矩阵,将编码获得的实体ID表示分解为各个变体表示,再由同名变体表示的加和重构实体提及表示。自动编码机的目标有两个,一个是让解码部分重构的实体提及表示与输入的提及表示对齐,另一个是让解码部分重构的变体表示与编码部分的变体表示对齐,从而使得他们在向量空间上尽可能接近。最后,通过最小化重构误差函数,调整自编码机的参数,将实体结构信息嵌入到实体ID表示中。
3、利用实体消歧模型,通过注意力机制(Attention)和门机制(Gating)融合文本语义表示和实体ID表示,预测实体提及被链接到当前候选实体ID的概率。消歧模型如图4所示。首先,通过嵌入层,将一个候选实体ID,和它的左侧上下文、右侧上下文分别映射到向量空间,获得实体ID表示和左、右侧上下文词向量序列。然后,将左、右侧上下文词向量序列分别输入给一个门递归单元神经网络(GRU)获得隐层表示。接下来,利用ID表示,基于注意力机制计算每个时间步隐层表示的归一化权重,作加权求和获得左、右上下文表示。最后,采用一个门机制组合左、右上下文表示,并与候选ID表示拼接输入给分类器。分类器预测实体提及被链接到当前候选实体ID的概率,选择概率最高的一个候选ID作为最终的链接结果。
在本实例中(表1),***识别出文本1中的实体提及“VEGF”并将其链接到家鼠属的标识符“NCBI Gene:22339”,识别出文本2中的实体提及“VEGF”并将其链接到人类属的标识符“NCBI Gene:7422”上。
Claims (1)
1.一种基于知识表示的生物医学实体链接方法,其特征在于,包括以下步骤:
步骤一、文本预处理
对于生物医学文本,首先提取出文本中所有待链接的生物医学实体提及,然后通过知识库查找实体提及对应的所有候选实体标识符ID;仅保留排序前五的查找结果作为实体提及的候选ID集合;
步骤二、基于生物医学知识库的实体表示学习
(2.1)从知识库中抽取同一实体多种变体和不同实体同名的实体结构信息;
(2.2)将知识库中实体结构信息作为向量空间上的约束,采用自动编码机对实体提及表示和变体表示进行重构,从而学习实体ID表示;
自动编码机是基于两个约束:(i)实体ID表示是其各个变体表示的和,(ii)实体提及表示是其同名变体表示的和;定义实体提及表示为变体表示为实体ID表示为v(i,j)是第i个实体提及m(i)和第j个实体IDs(j)共有的变体;则自动编码机的两个约束可用如下公式表示:
s(j)=∑iv(i,j)
m(i)=∑jv(i,j)
自动编码机由两部分组成,即编码器和解码器;编码时,编码器按照实体提及→变体→实体ID的顺序进行;其中,实体提及表示m(i)初始化为其组成单词的预训练词表示的平均值,变体表示v(i,j)通过引入一个对角矩阵对实体提及表示m(i)进行分解获得;然后,由对应变体表示的加和获得实体ID表示s(j);编码过程的公式如下:
s(j)=∑iv(i,j)=∑iE(i,j)m(i)
E(i,j)是一个对角矩阵,满足条件∑jE(i,j)=In,其中In是一个单位矩阵;
(2.3)定义一个重构误差函数来训练自动编码机的参数,其公式为:
该重构误差函数由两部分组成,一个是要求解码出的实体提及表示m(i)与输入的提及表示m(i)对齐,即∑j(D(j,i)∑iE(i,j)m(i))≈m(i);另一个是要求解码器得到的变体表示与编码器得到的变体表示v(i,j)对齐,即E(i,j)m(i)≈D(j,i)s(j);
通过最小化该重构误差函数,使得实体结构信息被嵌入到实体ID中,得到学***衡;
步骤三、基于知识表示的生物医学实体链接
利用步骤二学习获得的实体ID表示,对步骤一抽取出的生物医学实体提及进行消歧,获得在特定上下文中实体提及对应的唯一ID;构建基于知识表示的实体消歧模型,该模型通过注意力机制和门机制融合文本语义表示和实体ID表示,从而预测实体提及被链接到当前候选实体ID的概率;具体过程如下:
对于一段词序列的语义信息,其中每个词相对于候选ID的重要性是不同的;所以提出基于知识表示的注意力机制,利用候选ID表示计算每个时间步隐层表示的归一化权重αt,计算公式如下:
et=tanh(Wa·ht+Va·s+ba)
其中,ht是或 和均是模型的参数,在训练过程中进行调优;tanh为双曲正切激活函数;通过一个前馈神经网络建模候选ID表示s与上下文各个时间步的隐层表示ht,获得二者的关联得分et;之后,利用softmax函数对得分et进行归一化得到隐层表示的权重αt;
接下来,对GRU隐层表示的整个序列作加权求和操作,使结构信息编码的候选ID表示与上下文语义表示融合,公式如下:
o=∑tαtht
其中,o表示左上下文表示oL或右上下文表示oR;
(3.3)注意力机制分别应用于左、右侧隐层表示从而获得的左、右上下文表示,并通过一个门机制来进行动态控制,让实体提及的最终上下文表示z获得充分的学习,计算公式如下:
z=g⊙oL+(1-g)⊙oR
g=σ(Wg·oL+Vg·oR+bg)
其中,Wg,Vg,bg是待训练的参数;⊙表示逐元素相乘;g是权重,通过将左右上下文oL和oR输入一层全连接层并通过sigmoid激活函数σ获得的;
(3.4)将实体提及的上下文表示z和候选ID表示s拼接输入给分类器;分类器由具有ReLU激活的两层全连接神经网络FC和一个sigmoid输出层组成,公式如下:
pr1=relu(W1·[z;s]+b1)
pr2=relu(W2·pr1+b2)
p=softmax(W3·pr2+b3)
其中,W1,b1,W2,b2,W3,b3是待训练的参数,[;]表示拼接操作,p为实体提及被链接到当前候选ID的概率;
(3.5)基于知识表示的实体消歧模型通过一个二元交叉熵损失函数进行训练,公式如下:
其中,n是训练样例个数,yi是第i个样例对应的正确标签,pi是第i个样例的预测概率,λ||W||为训练参数的正则项;
生物医学实体消歧模型为每个实体提及与其候选ID进行打分并排序,选择得分最高的候选ID作为最终的链接结果。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910297065.XA CN110110324B (zh) | 2019-04-15 | 2019-04-15 | 一种基于知识表示的生物医学实体链接方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910297065.XA CN110110324B (zh) | 2019-04-15 | 2019-04-15 | 一种基于知识表示的生物医学实体链接方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110110324A CN110110324A (zh) | 2019-08-09 |
CN110110324B true CN110110324B (zh) | 2022-12-02 |
Family
ID=67483917
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910297065.XA Active CN110110324B (zh) | 2019-04-15 | 2019-04-15 | 一种基于知识表示的生物医学实体链接方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110110324B (zh) |
Families Citing this family (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112445789A (zh) * | 2019-08-16 | 2021-03-05 | 北京大数医达科技有限公司 | 用于将目标文本转化成结构化数据的方法和装置 |
CN110705292B (zh) * | 2019-08-22 | 2022-11-29 | 成都信息工程大学 | 一种基于知识库和深度学习的实体名称提取方法 |
CN111090724B (zh) * | 2019-11-21 | 2023-05-12 | 新华智云科技有限公司 | 一种基于深度学习的可评判文本内容与实体相关性的实体抽取方法 |
CN110929802A (zh) * | 2019-12-03 | 2020-03-27 | 北京迈格威科技有限公司 | 基于信息熵的细分类识别模型训练、图像识别方法及装置 |
CN111259087B (zh) * | 2020-01-10 | 2022-10-14 | 中国科学院软件研究所 | 基于领域知识库的计算机网络协议实体链接方法和*** |
CN111428443B (zh) * | 2020-04-15 | 2022-09-13 | 中国电子科技网络信息安全有限公司 | 一种基于实体上下文语义交互的实体链接方法 |
CN111666418B (zh) * | 2020-04-23 | 2024-01-16 | 北京三快在线科技有限公司 | 文本重生成方法、装置、电子设备和计算机可读介质 |
CN111581968A (zh) * | 2020-05-07 | 2020-08-25 | 携程计算机技术(上海)有限公司 | 口语理解模型的训练方法、识别方法、***、设备及介质 |
CN111428507B (zh) * | 2020-06-09 | 2020-09-11 | 北京百度网讯科技有限公司 | 实体链指方法、装置、设备以及存储介质 |
CN112507126B (zh) * | 2020-12-07 | 2022-11-15 | 厦门渊亭信息科技有限公司 | 一种基于循环神经网络的实体链接装置和方法 |
CN112989803B (zh) * | 2021-02-25 | 2023-04-18 | 成都增强视图科技有限公司 | 一种基于主题向量学习的实体链接预测方法 |
CN116069953B (zh) * | 2023-03-06 | 2023-06-02 | 哈尔滨工业大学(深圳)(哈尔滨工业大学深圳科技创新研究院) | 一种基于知识图谱叠加时空属性的mdata知识表示方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107977361A (zh) * | 2017-12-06 | 2018-05-01 | 哈尔滨工业大学深圳研究生院 | 基于深度语义信息表示的中文临床医疗实体识别方法 |
CN108846077A (zh) * | 2018-06-08 | 2018-11-20 | 泰康保险集团股份有限公司 | 问答文本的语义匹配方法、装置、介质及电子设备 |
CN109446338A (zh) * | 2018-09-20 | 2019-03-08 | 大连交通大学 | 基于神经网络的药物疾病关系分类方法 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9613321B2 (en) * | 2011-09-23 | 2017-04-04 | Sam David Molyneux | System and method for establishing a dynamic meta-knowledge network |
-
2019
- 2019-04-15 CN CN201910297065.XA patent/CN110110324B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107977361A (zh) * | 2017-12-06 | 2018-05-01 | 哈尔滨工业大学深圳研究生院 | 基于深度语义信息表示的中文临床医疗实体识别方法 |
CN108846077A (zh) * | 2018-06-08 | 2018-11-20 | 泰康保险集团股份有限公司 | 问答文本的语义匹配方法、装置、介质及电子设备 |
CN109446338A (zh) * | 2018-09-20 | 2019-03-08 | 大连交通大学 | 基于神经网络的药物疾病关系分类方法 |
Non-Patent Citations (4)
Title |
---|
Deep Neural Architectures for Joint Named Entity Recognition and Disambiguation;Qianwen Wang 等;《2019 IEEE International Conference on Big Data and Smart Computing》;20190404;第1-4页 * |
Semi-super vised Stacked Label Consistent Autoencoder for Reconstr uction and Analysis of Biomedical Signals;Anupriya Gogna 等;《IEEE TRANSACTIONS ON BIOMEDICAL ENGINEERING》;20170930;第64卷(第9期);第2196-2205页 * |
Wide-scope biomedical named entity recognition and normalization with CRFs;Kaewphan S 等;《fuzzy matching and character level modeling》;20180101;第1-10页 * |
基于注意力机制的问句实体链接;任朝淦 等;《模式识别与人工智能》;20181231;第31卷(第12期);第1127-1133页 * |
Also Published As
Publication number | Publication date |
---|---|
CN110110324A (zh) | 2019-08-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110110324B (zh) | 一种基于知识表示的生物医学实体链接方法 | |
CN112214995B (zh) | 用于同义词预测的分层多任务术语嵌入学习 | |
CN110210037B (zh) | 面向循证医学领域的类别检测方法 | |
Jin et al. | Hierarchical neural networks for sequential sentence classification in medical scientific abstracts | |
CN109614471B (zh) | 一种基于生成式对抗网络的开放式问题自动生成方法 | |
CN111666762B (zh) | 一种基于多任务学习的肠癌诊断电子病历属性值抽取方法 | |
CN113707339B (zh) | 一种多源异质数据库间概念对齐与内容互译方法及*** | |
CN112541356A (zh) | 一种生物医学命名实体识别的方法和*** | |
CN115048447B (zh) | 一种基于智能语义补全的数据库自然语言接口*** | |
CN116204674B (zh) | 一种基于视觉概念词关联结构化建模的图像描述方法 | |
CN113360667B (zh) | 基于多任务学习的生物医学触发词检测和命名实体识别方法 | |
CN115630649B (zh) | 一种基于生成模型的医学中文命名实体识别方法 | |
CN114841167A (zh) | 一种基于图神经网络多嵌入联合的临床命名实体识别方法 | |
CN114297986B (zh) | 一种基于强化学习的icd自动合并编码***和方法 | |
Caglayan | Multimodal machine translation | |
CN111523320A (zh) | 一种基于深度学习的中文病案分词方法 | |
CN116384371A (zh) | 一种基于bert和依存句法联合实体及关系抽取方法 | |
CN114021584A (zh) | 基于图卷积网络和翻译模型的知识表示学习方法 | |
Göker et al. | Neural text normalization for turkish social media | |
CN116720519B (zh) | 一种苗医药命名实体识别方法 | |
CN112541065A (zh) | 基于表示学习的医学新词发现处理方法 | |
Hu et al. | An integrated pipeline model for biomedical entity alignment | |
CN115510230A (zh) | 一种基于多维特征融合与比较增强学习机制的蒙古语情感分析方法 | |
Zhang et al. | Bi-LSTM-CRF network for clinical event extraction with medical knowledge features | |
CN115169429A (zh) | 一种轻量化方面级文本情感分析方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |