CN110209770A - 一种基于策略价值网络和树搜索增强的命名实体识别方法 - Google Patents

一种基于策略价值网络和树搜索增强的命名实体识别方法 Download PDF

Info

Publication number
CN110209770A
CN110209770A CN201910478860.9A CN201910478860A CN110209770A CN 110209770 A CN110209770 A CN 110209770A CN 201910478860 A CN201910478860 A CN 201910478860A CN 110209770 A CN110209770 A CN 110209770A
Authority
CN
China
Prior art keywords
node
entity recognition
value network
tree
policy
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201910478860.9A
Other languages
English (en)
Other versions
CN110209770B (zh
Inventor
高升
劳雅迪
李思
徐雅静
陈�光
徐君
胡旻卉
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing University of Posts and Telecommunications
Original Assignee
Beijing University of Posts and Telecommunications
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing University of Posts and Telecommunications filed Critical Beijing University of Posts and Telecommunications
Priority to CN201910478860.9A priority Critical patent/CN110209770B/zh
Publication of CN110209770A publication Critical patent/CN110209770A/zh
Application granted granted Critical
Publication of CN110209770B publication Critical patent/CN110209770B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/33Querying
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/30Information retrieval; Database structures therefor; File system structures therefor of unstructured textual data
    • G06F16/36Creation of semantic tools, e.g. ontology or thesauri
    • G06F16/367Ontology

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Databases & Information Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Animal Behavior & Ethology (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Machine Translation (AREA)

Abstract

本发表公开了一种基于策略价值网络的命名实体识别方法,属于信息处理领域。该方法首先将命名实体识别的标注过程建模成马尔科夫决策过程(MDP),提出了一种新颖的基于强化学习的命名实体识别模型,称为MM‑NER。MM‑NER是第一个将将蒙特卡洛树搜索(MCTS)增强型MDP模型应用于命名实体识别(序列标记任务)的工作。它基于MDP状态定义设计了一个策略价值网络来获得标签概率和标注序列准确度评估,并利用MCTS进行模拟,进而搜索出一个更具全局意识的标注序列。在推断过程,直接使用策略价值网络可以保证识别效果与树搜索策略基本一致,并大大降低时间复杂度。本发明在CoNLL2003命名实体识别数据集上的实验结果,证明了拥有K步探索决策机制的MM‑NER的有效性。

Description

一种基于策略价值网络和树搜索增强的命名实体识别方法
技术领域
本发明涉及信息处理领域,特别涉及一种基于策略价值网络和树搜索增强的命名实体识别方法。
背景技术
命名实体识别应用非常广泛,主要方法可以分为基于统计的方法和基于神经网络的方法。前者例如最大熵马尔科夫模型(MEMM)和条件随机场(CRF),这类方法大多需要耗费大量的人力去构建手工特征。后者是目前的主流方法,代表模型有双向长短期记忆网络(BLSTM)。为了进一步建模输出标签序列的全局性,解决标签偏置的问题,双向长短期记忆网络加条件随机场的模型(BLSTM+CRF)取得了较好的效果。近年来,深度学***。本文将命名实体识别的标注过程建模为马尔科夫决策过程,提出了一种基于策略价值网络和树搜索增强的命名实体识别方法,称之为MM-NER。
发明内容
为了解决现有的技术问题,本发明提供了一种基于策略价值网络和树搜索增强的命名实体识别方法,方案如下。
第一部分:对马尔科夫决策过程进行建模。
第二部分:设计策略价值网络。
步骤一:利用词向量将当前状态下的上下文进行表示,并依次输入门控循环单元和全连接层得到状态的语义表示。
步骤二:将步骤一的语义表示进行SoftMax操作,得到策略分布。
步骤三:将步骤一的语义和当前动作的one-hot表示在点乘后经过sigmoid函数得到当前状态下标注的期望评估值。
第三部分:在马尔科夫决策过程建模和策略价值网络的基础上,进行蒙特卡洛树搜索。
一次完整的树搜索主要包括以下三步:
步骤一:选择:从当前根节点开始,依次选择最优的子节点,直到达到叶子结点。
步骤二:评估和拓展:扩展叶子节点,从扩展出来的叶子结点中选择一个节点C开始,使用随机策略选择节点继续进行游戏。若游戏没有结束,则继续扩展叶子结点。
步骤三:回溯和更新:根据步骤二的结果更新从R到C的节点,例如访问次数。
附图说明
图1是本发明提供的马尔科夫决策过程示意图。
图2为GRU内部结构图。
图3是本发明提供的蒙特卡洛树搜索示意图。
图4是本发明提出的基于策略价值网络的模型框架图
图5是本发明提供的模型损失函数示意图。
具体实施方式
接下来将对本发明的实施方案作更详细的描述。
首先介绍本发明的第一部分:马尔科夫决策过程建模。
强化学习是机器学习中另一个重要的学习范畴,主要通过主体以试错的机制来与环境进行交互,最终实现最大化累计奖励的目标。强化学习的马尔科夫决策过程主要包含五大要素:状态、动作、转移概率、奖励和衰减因子。图1给出了马尔科夫决策过程的示意图。假设X={x1,x2,…,xM}是需要标注的词序列,Z={z1,z2,…,zM}对应是真实标签序列,其中M为序列的长度,马尔科夫决策过程的设计过程如下:
步骤S1:状态:定义t时刻的状态(S)为如下的三元组。
其中分别为当前词xt的上下文,Yt为当前时刻之前已经标注过的标签序列,其中Yt同样用one-hot方式来表示成向量形式,w为上下文窗口大小。特别地,在初始时刻(t=1),状态被初始化为 其中表示一个空序列。
步骤S2:在每个时刻t,是主体可以选择的动作空间。即主体为当前时刻执行的动作at∈A(st)。步骤S3:转移概率:在动作at被执行之后,环境会依照公式(2)进行下一个时刻的状态转移。
步骤S4:奖励:奖励函数设置为标签级别的F1值,与评价指标中基于实体级别的F1值有所不同。
步骤S5:衰减因子:本发明中令衰减因子为0。
接下来介绍本发明的第二部分:基于上述马尔科夫决策过程建模下的策略价值网络的设计。
步骤S1:将当前状态下的上下文进行词向量表示后依次输入门控循环单元和全连接层得到状态的语义表示。
步骤S2:将步骤二的语义表示进行SoftMax操作,得到策略分布。
步骤S3:类似地将步骤二的语义和当前动作的独热编码在进行点乘操作后经过sigmoid函数得到当前状态下标注的期望评估值。
下面对第二部分的每个步骤进行具体的说明:
步骤S1:单词向量化。本发明可以利用任意一种预训练好的词向量,建立词语到词向量编号的映射字典,将文本中各个词语映射为相应的词语编号。建立词向量矩阵,每一行行号对应相应的词语编号,每一行代表一个词向量。假设中文词语共有N个,那么词向量矩阵可以表示为一个N*d的矩阵,其中d表示词向量的维度,每一个词语都可以用一个d维的向量进行表示,即ei。拼接词向量得到句子表示。对于输入文本,假设该句话中一共有n个词语,每一个词语都由一个d维的向量表示,将该句中的所有词语的词向量拼接,可以得到编码器的输入矩阵,输入矩阵可以表示为x。
其中,xi表示文本中第i个单词的词向量,n表示文本长度即文本中词语个数,表示向量的列连接。
在状态语义表示阶段,用一个门控循环单元编码文本信息,记为GRU。循环神经网络可以很好的提取文本的上下文信息,循环神经网络可以关注到更长时间的依赖关系,更好的捕捉文章的整体信息。传统的循环神经网络会出现梯度消失及梯度***的问题,而门控循环单元(GRU)可以很好的解决这个问题。长短期记忆网络中利用输入门,更新门,重置门可以更有效的控制学习到长距离的依赖关系。
图2给出了GRU的单元结构,时刻k时可以描述为:
zk=σ(Wzxk+Uzhk-1) (4)
rk=σ(Wrxk+Urhk-1) (5)
其中激活函数σ是sigmoid函数,更新门zk和重置门rk中的每个元素都在[0,1]中取值。是候选隐藏状态,hk为隐藏状态。GRU通过计算候选隐藏状态来计算隐藏状态,hk由当前更新门状态zk、候选隐藏状态和上一步的隐藏状态hk-1共同决定。
于是状态的语义表示为g(s):
g(s)=Wgl(s)+bg (9)
步骤S2:将步骤S1的状态语义表示进行如下操作得到归一化的动作分布。
p(a|s)=softmax(Upg(s)) (10)
时,由如下公式计算策略函数p(s):
步骤S3:类似地,将步骤S1的状态语义表示和动作的one-hot表示在点乘后经过sigmoid函数得到当前状态下标注的期望评估值。
V(s)=σ(<Wνg(s),at>) (12)
其中是待训练的的权重向量,是MLP输出的维度和动作数,<·>代表点积,是非线性sigmoid函数。
下面对第三部分,利用策略价值网络进行蒙特卡洛树搜索的每个步骤进行具体的说明。其中模型框架图和蒙特卡洛树搜索示意图分别由图3和图4中所示。
在马尔科夫决策过程建模和策略价值网络的基础上,进行蒙特卡洛树搜索,蒙特卡洛树上的每个节点对应于MDP中的状态。算法的输入为当前的根节点sR,价值函数V和策略函数P。整个算法在迭代循环K次之后会为当前的根节点sR输出一个理论上更好的搜索策略π。令树上的每条边e(s,a)表示从状态s经过转移函数T(s,a)的过程,并且保存动作价值Q(s,a),访问次数N(s,a)和策略网络输出的概率P(s,a)。在每一次迭代中,蒙特卡洛树搜索都会执行以下步骤:
步骤S1:选择:每次迭代都从根节点sR表示的状态开始,根据最大上限置信区间算法(UCB)依次选择最优的子节点,见公式(13),其中λ>0,为控制探索和利用的程度的参数:
而U的定义如下,U正比于策略网络的输出P(s,a),但反比与访问次数,目的就是为了鼓励主体去探索未了解的状态。
步骤S2:评估和拓展:在每一次遍历到叶子结点sL的时候,该节点(状态)会根据价值函数V(sL)(见公式(12))进行评估。模型使用价值函数V(sL)进行评估,而不是与环境进行Rollout。紧接着,叶子结点sL会进行拓展,即从sL会拓展出可能的边,即根据公式(10)来初始化对应的每个候选动作a∈A(sL),并且令动作价值Q(sL,a)=0,访问次数N(s,a)=0。在本文中,所有候选的动作(标签)都会进行拓展。
步骤S3:回溯和更新:在评估结束之后,遍历到的每一条边上的动作价值Q(sL,a)和访问次数N(s,a)都会进行如下更新,同时保持策略网络输出的概率P(s,a)不变:
蒙特卡洛树搜索进行以上K次迭代之后,模型可以通过以下公式得到关于当前根节点sR的搜索策略π。
其中,N(sR,a)为从根节点sR开始的每一个边的访问次数。具体树搜索的伪代码如算法1:
对于X中的每一个位置,都利用策略函数P(a|s)和价值函数V(s)来进行蒙特卡洛树搜索,进而得到增强版的策略π。一个轨迹将在标完句子X的最后一个词之后结束,并且获得模型标注的序列(a0,a2,…,aM-1)。将其与真实标注序列Z对比,并计算标注准确度作为环境反馈给主体的奖励,记为r。r的取值可以是任何评价指标,例如准确度、精确度、召回率和F1值。本发明利用标签级别的F1值来作为奖励值。在每个时刻产生的数据和最终的奖励r都用来调整策略网络和价值网络中的参数。模型的目标是尽可能地减少V(s)和r之间的误差的同时,最大化策略网络输出的P(a|s)与搜索策略π,因此损失函数定义公式(17),即M个时刻中V(s)和r的均方差和策略P(a|s)与搜索策略π的交叉熵损失之和。模型参数的训练如图5所示。
模型参数的优化通过随机梯度下降算法进行,优化器为AdaGrad。训练过程伪代码如算法2所示。
推断过程将根据算法3进行,其中推断过程的搜索次数可以与训练过程的搜索次数不相同,甚至为了保证时效性,可以采用argmax(P)或者argmax(V)进行推断。
以上结合附图对所提出的一种基于策略价值网络和树搜索增强的命名实体识别方法及各模块的具体实施方式进行了阐述。通过以上实施方式的描述,所属领域的一般技术人员可以清楚的了解到本发明可借助软件加必需的通用硬件平台的方式来实现。
依据本发明的思想,在具体实施方式及应用范围上均会有改变之处。综上所述,本说明书内容不应理解为对本发明的限制。
以上所述的本发明实施方式,并不构成对发明保护范围的限定。任何在本发明的精神和原则之内所作的修改、等同替换和改进等,均应包含在本发明的保护范围之内。

Claims (6)

1.一种基于策略价值网络和树搜索增强的命名实体识别方法,其特征在于,所述方法包含以下结构和步骤:
(1.1)对马尔科夫决策过程进行建模;
(1.2)设计策略价值网络;
(1.3)在马尔科夫决策过程建模和策略价值网络的基础上,进行蒙特卡洛树搜索。
2.如权利要求1所述的方法,其特征在于,所述步骤(1.2)具体包括:
(2.1)将当前状态下的上下文进行词向量表示后依次输入门控循环单元和全连接层得到状态的语义表示。
(2.2)将(2.1)的语义表示进行SoftMax操作,得到策略分布;
(2.3)将(2.1)的语义和当前动作的独热编码在进行点乘操作后经过sigmoid函数得到当前状态下标注的期望评估值。
3.如权利要求1所述的方法,其特征在于,所述步骤(1.3)具体包括:
(3.1)选择:从当前根节点开始,依次选择最优的子节点,直到达到叶子结点;
(3.2)评估和拓展:扩展叶子节点,从扩展出来的叶子结点中选择一个节点C开始,使用随机策略选择节点继续进行游戏。若游戏没有结束,则继续扩展叶子结点;
(3.3)回溯和更新:根据步骤(3.2)的结果更新从R到C的节点的访问次数以及动作价值,同时保持策略网络输出的概率不变。
4.如权利要求3所述的方法,其特征在于,蒙特卡洛树上的每个节点对应于马尔科夫决策过程中的状态,输入根节点、价值函数和策略函数后,算法进行迭代并输出搜索策略。
5.如权利要求3所述的方法,其特征在于,所述步骤(3.1)中选择最优子节点的方法是最大上限置信区间算法(UCB)。
6.如权利要求3所述的方法,其特征在于,所述步骤(3.2)中在每次遍历到叶子结点时,该节点根据价值函数进行评估;接着,从叶子结点中拓展出可能的边,并初始化对应的每个候选动作。
CN201910478860.9A 2019-06-03 2019-06-03 一种基于策略价值网络和树搜索增强的命名实体识别方法 Expired - Fee Related CN110209770B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910478860.9A CN110209770B (zh) 2019-06-03 2019-06-03 一种基于策略价值网络和树搜索增强的命名实体识别方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910478860.9A CN110209770B (zh) 2019-06-03 2019-06-03 一种基于策略价值网络和树搜索增强的命名实体识别方法

Publications (2)

Publication Number Publication Date
CN110209770A true CN110209770A (zh) 2019-09-06
CN110209770B CN110209770B (zh) 2022-04-15

Family

ID=67790502

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910478860.9A Expired - Fee Related CN110209770B (zh) 2019-06-03 2019-06-03 一种基于策略价值网络和树搜索增强的命名实体识别方法

Country Status (1)

Country Link
CN (1) CN110209770B (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110765775A (zh) * 2019-11-01 2020-02-07 北京邮电大学 一种融合语义和标签差异的命名实体识别领域自适应的方法
CN110942193A (zh) * 2019-11-26 2020-03-31 深圳市北斗智能科技有限公司 车辆调度方法及存储介质
CN111934948A (zh) * 2020-07-20 2020-11-13 浙江理工大学 基于蒙特卡洛树搜索的efsm可执行测试序列生成方法
CN112052936A (zh) * 2020-07-24 2020-12-08 清华大学 基于生成对抗机制的强化学习探索方法及装置
CN112183777A (zh) * 2020-09-14 2021-01-05 北京航空航天大学 一种基于深度强化学习的复杂网络局部破坏控制方法
CN112531741A (zh) * 2020-12-04 2021-03-19 广东电网有限责任公司电力调度控制中心 一种柔性负荷参与调频的决策方法及装置
CN113051929A (zh) * 2021-03-23 2021-06-29 电子科技大学 一种基于细粒度语义信息增强的实体关系抽取的方法
CN113158678A (zh) * 2021-05-19 2021-07-23 云南电网有限责任公司电力科学研究院 一种应用于电力文本命名实体的识别方法及装置
CN113673672A (zh) * 2021-07-08 2021-11-19 哈尔滨工业大学 一种基于蒙特卡洛强化学习的冰壶比赛策略生成方法
CN114781387A (zh) * 2022-06-20 2022-07-22 北京惠每云科技有限公司 一种医学命名实体识别方法、装置、电子设备及存储介质
CN115470871A (zh) * 2022-11-02 2022-12-13 江苏鸿程大数据技术与应用研究院有限公司 基于命名实体识别与关系抽取模型的政策匹配方法及***

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005050223A2 (en) * 2003-11-13 2005-06-02 Epitome Biosystems Inc. Proteome epitope tags and methods of use thereof in protein modification analysis
CN108809713A (zh) * 2018-06-08 2018-11-13 中国科学技术大学 基于最优资源分配算法的蒙特卡罗树搜索方法
CN108845988A (zh) * 2018-06-07 2018-11-20 苏州大学 一种实体识别方法、装置、设备及计算机可读存储介质
CN109376250A (zh) * 2018-09-27 2019-02-22 中山大学 基于强化学习的实体关系联合抽取方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005050223A2 (en) * 2003-11-13 2005-06-02 Epitome Biosystems Inc. Proteome epitope tags and methods of use thereof in protein modification analysis
CN108845988A (zh) * 2018-06-07 2018-11-20 苏州大学 一种实体识别方法、装置、设备及计算机可读存储介质
CN108809713A (zh) * 2018-06-08 2018-11-13 中国科学技术大学 基于最优资源分配算法的蒙特卡罗树搜索方法
CN109376250A (zh) * 2018-09-27 2019-02-22 中山大学 基于强化学习的实体关系联合抽取方法

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110765775B (zh) * 2019-11-01 2020-08-04 北京邮电大学 一种融合语义和标签差异的命名实体识别领域自适应的方法
CN110765775A (zh) * 2019-11-01 2020-02-07 北京邮电大学 一种融合语义和标签差异的命名实体识别领域自适应的方法
CN110942193A (zh) * 2019-11-26 2020-03-31 深圳市北斗智能科技有限公司 车辆调度方法及存储介质
CN111934948A (zh) * 2020-07-20 2020-11-13 浙江理工大学 基于蒙特卡洛树搜索的efsm可执行测试序列生成方法
CN112052936B (zh) * 2020-07-24 2022-06-03 清华大学 基于生成对抗机制的强化学习探索方法及装置
CN112052936A (zh) * 2020-07-24 2020-12-08 清华大学 基于生成对抗机制的强化学习探索方法及装置
CN112183777A (zh) * 2020-09-14 2021-01-05 北京航空航天大学 一种基于深度强化学习的复杂网络局部破坏控制方法
CN112531741A (zh) * 2020-12-04 2021-03-19 广东电网有限责任公司电力调度控制中心 一种柔性负荷参与调频的决策方法及装置
CN113051929A (zh) * 2021-03-23 2021-06-29 电子科技大学 一种基于细粒度语义信息增强的实体关系抽取的方法
CN113158678A (zh) * 2021-05-19 2021-07-23 云南电网有限责任公司电力科学研究院 一种应用于电力文本命名实体的识别方法及装置
CN113673672A (zh) * 2021-07-08 2021-11-19 哈尔滨工业大学 一种基于蒙特卡洛强化学习的冰壶比赛策略生成方法
CN113673672B (zh) * 2021-07-08 2024-03-29 哈尔滨工业大学 一种基于蒙特卡洛强化学习的冰壶比赛策略生成方法
CN114781387A (zh) * 2022-06-20 2022-07-22 北京惠每云科技有限公司 一种医学命名实体识别方法、装置、电子设备及存储介质
CN115470871A (zh) * 2022-11-02 2022-12-13 江苏鸿程大数据技术与应用研究院有限公司 基于命名实体识别与关系抽取模型的政策匹配方法及***
CN115470871B (zh) * 2022-11-02 2023-02-17 江苏鸿程大数据技术与应用研究院有限公司 基于命名实体识别与关系抽取模型的政策匹配方法及***

Also Published As

Publication number Publication date
CN110209770B (zh) 2022-04-15

Similar Documents

Publication Publication Date Title
CN110209770A (zh) 一种基于策略价值网络和树搜索增强的命名实体识别方法
CN108628935B (zh) 一种基于端到端记忆网络的问答方法
CN108875074A (zh) 基于交叉注意力神经网络的答案选择方法、装置和电子设备
CN107358948A (zh) 基于注意力模型的语言输入关联性检测方法
CN107341146A (zh) 基于语义槽内部结构的可迁移口语语义解析***及其实现方法
CN109544306A (zh) 一种基于用户行为序列特征的跨领域推荐方法及装置
CN109992773A (zh) 基于多任务学习的词向量训练方法、***、设备及介质
CN109597988A (zh) 跨语言的词汇义原预测方法、装置与电子设备
CN111339407B (zh) 一种信息抽取云平台的实现方法
CN109858015A (zh) 一种基于ctw和km算法的语义相似度计算方法及装置
CN109214006A (zh) 图像增强的层次化语义表示的自然语言推理方法
CN110334196B (zh) 基于笔画和自注意力机制的神经网络中文问题生成***
CN112905801A (zh) 基于事件图谱的行程预测方法、***、设备及存储介质
CN110008482A (zh) 文本处理方法、装置、计算机可读存储介质和计算机设备
CN108171261A (zh) 鲁棒的自适应半监督图像分类方法、装置、设备及介质
CN106021402A (zh) 用于跨模态检索的多模态多类Boosting框架构建方法及装置
CN114417794B (zh) 量表问题生成模型的训练方法、装置和计算机设备
CN114358201A (zh) 基于文本的情感分类方法和装置、计算机设备、存储介质
CN116992042A (zh) 基于新型研发机构科技创新服务知识图谱***的构建方法
CN108876038A (zh) 大数据、人工智能、超算协同的材料性能预测方法
CN112131261A (zh) 基于社区网络的社区查询方法、装置和计算机设备
CN116796744A (zh) 一种基于深度学习的实体关系抽取方法及***
CN114266905A (zh) 基于Transformer结构的图像描述生成模型方法、装置和计算机设备
CN110502613A (zh) 一种模型训练方法、智能检索方法、装置和存储介质
CN110197252A (zh) 基于距离的深度学习

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20220415