CN111767949A - 一种基于特征和样本对抗共生的多任务学习方法及其*** - Google Patents
一种基于特征和样本对抗共生的多任务学习方法及其*** Download PDFInfo
- Publication number
- CN111767949A CN111767949A CN202010594893.2A CN202010594893A CN111767949A CN 111767949 A CN111767949 A CN 111767949A CN 202010594893 A CN202010594893 A CN 202010594893A CN 111767949 A CN111767949 A CN 111767949A
- Authority
- CN
- China
- Prior art keywords
- sample
- task
- discriminator
- confrontation
- feature
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 20
- 230000031068 symbiosis, encompassing mutualism through parasitism Effects 0.000 title claims abstract description 19
- 238000004088 simulation Methods 0.000 claims abstract description 19
- 230000009471 action Effects 0.000 claims description 2
- 238000009826 distribution Methods 0.000 abstract description 22
- 238000010801 machine learning Methods 0.000 abstract description 11
- 238000013473 artificial intelligence Methods 0.000 abstract description 6
- 238000013135 deep learning Methods 0.000 abstract description 4
- 238000013526 transfer learning Methods 0.000 abstract description 4
- 230000001737 promoting effect Effects 0.000 abstract description 3
- 238000013528 artificial neural network Methods 0.000 description 10
- 230000006870 function Effects 0.000 description 7
- 238000011160 research Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 4
- 230000009286 beneficial effect Effects 0.000 description 3
- 238000013508 migration Methods 0.000 description 3
- 230000005012 migration Effects 0.000 description 3
- 208000001613 Gambling Diseases 0.000 description 2
- 230000000295 complement effect Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000004458 analytical method Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000013527 convolutional neural network Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000010586 diagram Methods 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000007786 learning performance Effects 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 108090000623 proteins and genes Proteins 0.000 description 1
- 230000002787 reinforcement Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Mathematical Physics (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及多任务深度学习领域,其提供了一种基于特征和样本对抗共生的多任务学习方法,包括以下步骤:S1、随机抽取任务的样本,生成与领域无关的共性隐式特征;S2、基于步骤S1中生成的共性隐式特征,生成高仿真的样本,该高仿真的样本作为步骤S1下一循环的任务样本;S3、循环步骤S1和S2,直到多任务的对抗博弈达到均衡时,生成最终的高仿真样本和高质量分类标签;本发明还提供了一种基于特征和样本对抗共生的多任务学习***;本发明解决了领域分布差异和小样本问题,将极大提高机器学习***的泛化性能,从而推动人工智能的诸多应用领域取得突破。本发明不但适用于多任务学习和迁移学习,也适用于多视图学习和多模态学习。
Description
技术领域
本发明涉及多任务深度学习领域,特别是涉及一种基于特征和样本对抗共生的多任务学习方法及其***。
背景技术
深度学习源于人工神经网络的研究,目前在人工智能的很多领域的应用上都有突出的表现。深度学习和大数据已是学术研究和商业需求的一个重要方向。但是,目前的研究表明,即使是主流的深度神经网络,并且用上百万个样本训练过,它也很容易受到领域数据分布差异的影响,导致学习性能急剧下降。
因此,人们越来越关注深度多任务学习。异构性是大数据的一个关键属性,它无所不在,而且类型多样,例如领域异构性。在迁移学习和多任务学习中,不同领域(或者任务)的数据样本往往不会满足独立同分布的条件。而在迁移学习、多视图学习和多模态学习中,数据的特征空间往往又是不同的。深度多任务学习从“深度”和“宽度”这两个不同的维度,来挖掘隐含的数据关联。一方面,通过深度网络模型来挖掘数据的层次化特征;另一方面,通过多任务学习来实现知识共享和知识迁移,有效地提升机器学习***的泛化性能。
但是目前,深度多任务学习大多是基于模型和特征的方法,难以突破小样本问题,即标记样本稀少导致的性能瓶颈问题。对抗生成网络技术可以生成高仿真的数据样本,为解决小样本问题提供新颖的思路。因此,我们认为,如果基于对抗的深度异构学习,能够同时解决小样本问题和数据异构问题,将会极大提高机器学习***的泛化性能,从而推动人工智能的诸多应用领域取得突破,例如:图像分析、语音识别、自然语言处理、基因分析、强化学习等领域。
但是,基于对抗的深度异构学***滑数据分布差异。综上所述,我们很有必要提供一种基于特征和样本共生的深度多任务学习方法,以解决目前研究存在的问题,并推进人工智能的研究进展。
发明内容
本发明的目的在于克服现有技术中的上述缺陷,提供一种基于特征和样本对抗共生的多任务学习方法及其***,解决领域分布差异和小样本问题,极大提高机器学习***的泛化性能。
为实现上述目的,本发明提供了一种基于特征和样本对抗共生的多任务学习方法,包括以下步骤:
S1、随机抽取任务的样本,生成与领域无关的共性隐式特征;
S2、基于步骤S1中生成的共性隐式特征,生成高仿真的样本,该高仿真的样本作为步骤S1下一循环的任务样本;
S3、循环步骤S1和S2,直到多任务的对抗博弈达到均衡时,生成最终的高仿真样本和高质量分类标签。
优选的,步骤S1中具体的:任务样本输入到特征提取器中去,特征提取器生成包含领域共性的隐式特征,然后领域鉴别器对隐式特征进行关联领域的判别,并且产生领域标签,特征提取器和领域鉴别器进行对抗博弈,以生成包含领域共性的隐式特征。
优选的,步骤S2中具体的:通过分类鉴别器、样本生成器、样本分类器两两进行对抗博弈,以产生高仿真的样本和准确的预测:在领域无关的隐式特征的基础上,样本分类器为无标签的样本预测类别标签;样本生成器在隐式特征和随机信号的共同作用下,产生高仿真的样本,类鉴别器鉴别三种类型的样本-类别对,分别是:真实样本-真实类标签对、真实样本-预测类标签对、以及仿真样本-真实类标签对,分类鉴别器尽可能将真实的样本-类别对和非真实的样本-类别对鉴别出来,而样本分类器和样本生成器则尽可能产生分类鉴别器无法区分的预测标签和仿真样本。
与现有技术相比,本发明提供的一种基于特征和样本对抗共生的多任务学习方法的有益效果在于:
本发明通过随机抽取任务样本生成与领域无关的共性隐式特征,进而生成高仿真的样本,该高仿真的样本又作为下一循环的任务样本,直到多任务的对抗博弈达到均衡时,生成最终的高仿真样本和高质量分类标签,因此本方法可以让机器学习到跨领域的“好”的特征,也可以生成可作为真正标记数据的“可靠”的样本,解决了领域分布差异和小样本问题,将极大提高机器学习***的泛化性能,从而推动人工智能的诸多应用领域取得突破。这种对抗共生方法的思想不但适用于多任务学习和迁移学习,也适用于多视图学习和多模态学习。
本发明还提供了一种基于特征和样本对抗共生的多任务学习***,包括特征提取器、领域鉴别器、样本生成器、样本分类器和分类鉴别器;所述特征提取器和领域鉴别器均随机抽取任务样本进行对抗博弈并促使特征提取器生成与领域无关的共性隐式特征;所述样本生成器和样本分类器分别随机抽取特征提取器生成的共性隐式特征;所述样本生成器、样本分类器和分类鉴别器两两进行对抗博弈,所述样本生成器生成高仿的样本并被特征提取器和领域鉴别器分别随机抽取进入下一循环的对抗博弈,所述样本分类器生成分类标签。
与现有技术相比,本发明提供的一种基于特征和样本对抗共生的多任务学习***的有益效果在于:
1.在深度多任务机器学习应用中,我们将两类对抗博弈结合在一起:特征提取和领域鉴别之间的对抗博弈,样本生成、样本分类和类别鉴别之间的对抗博弈。两者相辅相成,可以让机器学习***学习到更好的特征和样本;
2.通过特征提取和领域鉴别之间的对抗博弈,学习和生成领域无关的隐式特征,确实能够更好地利用不同任务之间的共享知识,较好地弥合不同领域之间的差距;
3.通过样本生成、样本分类和类别鉴别之间的对抗博弈,利用生成的共性隐式特征,来生成高仿真样本是行之有效的,因为隐式特征包含了多个领域的共性知识,并且,因为领域无关的隐式特征已将任务(或领域)之间的共享知识编码进来,所以使得生成器和分类器可以利用这些知识,生成高质量的样本-类别对;
综上所述,本***可以让机器学习到跨领域的“好”的特征,也可以生成可作为真正的标记数据的“可靠”的样本,解决了领域分布差异和小样本问题,将极大提高机器学习***的泛化性能,从而推动人工智能的诸多应用领域取得突破。这种对抗共生方法的思想不但适用于多任务学习和迁移学习,也适用于多视图学习和多模态学习。
附图说明
为了更清楚地说明本发明实施例或现有技术中的技术方案,下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍,显而易见地,下面描述中的附图是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1是本发明提供的一种基于特征和样本对抗共生的多任务学习方法的流程图;
图2是本发明提供的一种基于特征和样本对抗共生的多任务学习***的模块示意图。
具体实施方式
为使本发明实施例的目的、技术方案和优点更加清楚,下面将结合本发明实施例中的附图,对本发明实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例是本发明一部分实施例,而不是全部的实施例。基于本发明中的实施例,本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例,都属于本发明保护的范围。
如图1所示,本发明提供了一种基于特征和样本对抗共生的多任务学习方法,包括以下步骤:
S1、随机抽取任务的样本,生成与领域无关的共性隐式特征;
S2、基于步骤S1中生成的共性隐式特征,生成高仿真的样本,该高仿真的样本作为步骤S1下一循环的任务样本;
S3、循环步骤S1和S2,直到多任务的对抗博弈达到均衡时,生成最终的高仿真样本和高质量分类标签。
其总体处理过程如下:
1.假定有T个相关的机器学习任务(或领域),其中xt是第t个任务的样本(1≤t≤T),每个样本都关联一个类标签yt和一个领域标签d。
2.将任务样本xt输入到特征提取器F中去,特征提取器F生成包含领域共性的隐式特征zt。然后,领域鉴别器D对隐式特征zt进行关联领域的判别,并且产生领域标签d。特征提取器F和领域鉴别器D进行对抗博弈,以生成包含领域共性的隐式特征zt。
3.将隐式特征zt分别输入到样本生成器Gt和样本分类器Ct中去。样本分类器Ct对隐式特征zt进行关联类别的判别,并且产生样本的类标签yt。样本生成器Gt在隐式特征zt和随机信号的共同作用下,产生高仿真的样本。
4.分类鉴别器Qt对样本和类标签的联合分布(xt,yt)进行鉴别,它不仅促使分类鉴别器Qt产生高质量的预测结果,而且促使样本生成器Gt产生高仿真的样本。样本生成器Gt、样本分类器Ct和分类鉴别器Qt两两进行对抗博弈,以产生高仿真的样本和高质量的预测结果。
下面对总体处理过程中的重要步骤做进一步的说明。
一、深度网络的结构
如图2所示,基于特征和样本对抗共生的多任务学习***由五个部分组成,分别是特征提取器、领域鉴别器、样本分类器、样本生成器和分类鉴别器。
1.特征提取器由多个神经网络层组合构成,其基本网络架构是卷积神经网络,其后接上全连接层、非线性层、正则化层和Dropout层。非线性层采用ReLU函数。
2.领域鉴别器由若干个神经网络模块组成,每个神经网络模块包括全连接层、非线性层和Dropout层,其后接上一个全连接层(输出节点数为领域个数)和一个软最大化分类层。非线性层采用ReLU函数,软最大化分类层采用SoftMax函数。
3.样本分类器由若干个神经网络模块组成,每个神经网络模块包括全连接层、非线性层和Dropout层,其后接上一个全连接层(输出节点数为类标签个数)和一个软最大化分类层分类层。非线性层采用ReLU函数,软最大化分类层采用SoftMax函数。
4.样本生成器由若干个二维反卷积神经网络层构成,每个反卷积层后接一个正则化层和一个非线性化层。
5.分类鉴别器由若干个二维卷积网络层构成,每个卷积网络层后接一个正则化层和一个非线性层。分类鉴别器的最后一层为软最大化分类层。非线性化层采用LeakyReLU函数,软最大化分类层采用SoftMax函数。
一、基于对抗的特征生成
特征提取器F和领域鉴别器D进行对抗博弈,以生成包含领域共性的隐式特征zt。具体而言,特征提取器F产生的隐式特征,要尽量使得领域鉴别器D难以鉴别出其关联的领域类别;与此同时,领域鉴别器D作为一个多类分类器,要尽可能地鉴别出每个输入特征关联的领域类别。
因此,领域鉴别器D有T种分类输出(1≤t≤T)。我们定义Dt表示为D的第t个输出结果,与第t个任务(或领域)相对应。首先从第t个任务,随机抽取小批量样本集,输入到基于特征和样本对抗共生深度网络中。深度网络的输出如下:特征提取器产生隐式特征zt,样本分类器生成预测标签而样本生成器输出仿真样本定义p(zt)是隐式特征zt的边缘分布。领域鉴别器D尝试将某个任务的边缘分布从其它任务的边缘分布中鉴别出来,并沿着梯度上升的方向更新领域鉴别器D。特征提取器F和领域鉴别器D进行对抗博弈,直到每个任务(或领域)的隐式特征的边缘分布都相等,亦即p(z1)=p(z2)=…=p(zT)。
二、基于对抗的样本生成
分类鉴别器Qt和样本生成器Gt、样本分类器Ct两两进行对抗博弈,以产生高仿真的样本xt(1≤t≤T)和准确的预测。具体而言,在领域无关的隐式特征zt的基础上,样本分类器Ct为无标签的样本预测类别标签;样本生成器Gt在隐式特征zt和随机信号的共同作用下,产生高仿真的样本。因此,类鉴别器Qt需要鉴别三种类型的样本-类别对,分别是:真实样本-真实类标签对(x,y),真实样本-预测类标签对仿真样本-真实类标签对分类鉴别器尽可能将真实的样本-类别对和非真实的样本-类别对鉴别出来,而样本分类器和样本生成器则尽可能产生分类鉴别器无法区分的预测标签和仿真样本。
我们定义p(xt,yt)为数据的真实联合分布,而pc(xt,yt)和pg(xt,yt)分别对应样本分类器Ct和样本生成器Gt产生数据的联合分布。类鉴别器Qt使用两个子网络来鉴别上述三种类型的联合分布。样本{(xt,yt)}和样本通过Qt向前传递。
Qt的第一个子网络是将真实样本的联合分布p(xt,yt)和仿真样本的均值联合分布鉴别出来。需要计算分类鉴别器Qt的第一个子网络的损失函数Le。并沿着梯度上升的方向,分别更新分类鉴别器Qt和样本生成器Gt。
Qt的第二个子网络是将样本分类器Ct产生样本的联合分布pc(zt,yt)和生成器产生样本的联合分布pg(zt,yt)鉴别出来。需要计算分类鉴别器Qt的第二个子网络的损失函数Le。并沿着梯度上升的方向,分别更新分类鉴别器Qt和样本分类器Ct。
分类鉴别器Qt和其他部件进行对抗博弈,样本生成器Gt、样本分类器Ct和特征提取器F为每个任务(或领域)(1≤t≤T),生成非真实的联合分布pc(xt,yt)和pg(xt,yt),要求尽量与真实的联合分布p(xt,yt)无法区分。直到达到p(xt,yt)=pc(xt,yt)=pg(xt,yt)这种状态,才能平衡收敛。这就意味着,样本生成器和样本分类器可以为每个任务(或领域)产生高仿真的联合分布。
在多任务的对抗博弈达到均衡时,这种共生方法产生了领域不变的隐式特征。同时基于隐式特征,不但产生了高仿真的样本,而且可以生成高质量的类标签。
本发明的有益效果在于:
1.在深度多任务机器学习应用中,我们将两类对抗博弈结合在一起:特征提取和领域鉴别之间的对抗博弈,样本生成、样本分类和类别鉴别之间的对抗博弈。两者相辅相成,可以让机器学习***学习到更好的特征和样本;
2.通过特征提取和领域鉴别之间的对抗博弈,学习和生成领域无关的隐式特征,确实能够更好地利用不同任务之间的共享知识,较好地弥合不同领域之间的差距;
3.通过样本生成、样本分类和类别鉴别之间的对抗博弈,利用生成的共性隐式特征,来生成高仿真样本是行之有效的,因为隐式特征包含了多个领域的共性知识,并且,因为领域无关的隐式特征已将任务(或领域)之间的共享知识编码进来,所以使得生成器和分类器可以利用这些知识,生成高质量的样本-类别对。
综上所述,本***可以让机器学习到跨领域的“好”的特征,也可以生成可作为真正的标记数据的“可靠”的样本,解决了领域分布差异和小样本问题,将极大提高机器学习***的泛化性能,从而推动人工智能的诸多应用领域取得突破。这种对抗共生方法的思想不但适用于多任务学习和迁移学习,也适用于多视图学习和多模态学习。
上述实施例为本发明较佳的实施方式,但本发明的实施方式并不受上述实施例的限制,其他的任何未背离本发明的精神实质与原理下所作的改变、修饰、替代、组合、简化,均应为等效的置换方式,都包含在本发明的保护范围之内。
Claims (4)
1.一种基于特征和样本对抗共生的多任务学习方法,其特征在于,包括以下步骤:
S1、随机抽取任务的样本,生成与领域无关的共性隐式特征;
S2、基于步骤S1中生成的共性隐式特征,生成高仿真的样本,该高仿真的样本作为步骤S1下一循环的任务样本;
S3、循环步骤S1和S2,直到多任务的对抗博弈达到均衡时,生成最终的高仿真样本和高质量分类标签。
2.根据权利要求1所述的一种基于特征和样本对抗共生的多任务学习方法,其特征在于,步骤S1中具体的:任务样本输入到特征提取器中去,特征提取器生成包含领域共性的隐式特征,然后领域鉴别器对隐式特征进行关联领域的判别,并且产生领域标签,特征提取器和领域鉴别器进行对抗博弈,以生成包含领域共性的隐式特征。
3.根据权利要求1所述的一种基于特征和样本对抗共生的多任务学习方法,其特征在于,步骤S2中具体的:通过分类鉴别器、样本生成器、样本分类器两两进行对抗博弈,以产生高仿真的样本和准确的预测:在领域无关的隐式特征的基础上,样本分类器为无标签的样本预测类别标签;样本生成器在隐式特征和随机信号的共同作用下,产生高仿真的样本,类鉴别器鉴别三种类型的样本-类别对,分别是:真实样本-真实类标签对、真实样本-预测类标签对、以及仿真样本-真实类标签对,分类鉴别器尽可能将真实的样本-类别对和非真实的样本-类别对鉴别出来,而样本分类器和样本生成器则尽可能产生分类鉴别器无法区分的预测标签和仿真样本。
4.一种基于特征和样本对抗共生的多任务学习***,其特征在于,包括特征提取器、领域鉴别器、样本生成器、样本分类器和分类鉴别器;
所述特征提取器和领域鉴别器均随机抽取任务样本进行对抗博弈并促使特征提取器生成与领域无关的共性隐式特征;
所述样本生成器和样本分类器分别随机抽取特征提取器生成的共性隐式特征;
所述样本生成器、样本分类器和分类鉴别器两两进行对抗博弈,所述样本生成器生成高仿的样本并被特征提取器和领域鉴别器分别随机抽取进入下一循环的对抗博弈,所述样本分类器生成分类标签。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010594893.2A CN111767949B (zh) | 2020-06-28 | 2020-06-28 | 一种基于特征和样本对抗共生的多任务学习方法及其*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010594893.2A CN111767949B (zh) | 2020-06-28 | 2020-06-28 | 一种基于特征和样本对抗共生的多任务学习方法及其*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111767949A true CN111767949A (zh) | 2020-10-13 |
CN111767949B CN111767949B (zh) | 2024-06-18 |
Family
ID=72722304
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010594893.2A Active CN111767949B (zh) | 2020-06-28 | 2020-06-28 | 一种基于特征和样本对抗共生的多任务学习方法及其*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111767949B (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200262A (zh) * | 2020-10-21 | 2021-01-08 | 中国空间技术研究院 | 支持多任务和跨任务的小样本分类训练方法及装置 |
CN115640838A (zh) * | 2022-12-26 | 2023-01-24 | 逻安科技(天津)有限责任公司 | 一种基于延拓神经网络的可重构逻辑门实现方法及处理器 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019028839A (ja) * | 2017-08-01 | 2019-02-21 | 国立研究開発法人情報通信研究機構 | 分類器、分類器の学習方法、分類器における分類方法 |
US20190066493A1 (en) * | 2017-08-31 | 2019-02-28 | Nec Laboratories America, Inc. | Viewpoint invariant object recognition by synthesization and domain adaptation |
CN109492099A (zh) * | 2018-10-28 | 2019-03-19 | 北京工业大学 | 一种基于领域对抗自适应的跨领域文本情感分类方法 |
CN109543031A (zh) * | 2018-10-16 | 2019-03-29 | 华南理工大学 | 一种基于多任务对抗学习的文本分类方法 |
CN109580215A (zh) * | 2018-11-30 | 2019-04-05 | 湖南科技大学 | 一种基于深度生成对抗网络的风电传动***故障诊断方法 |
CN109614471A (zh) * | 2018-12-07 | 2019-04-12 | 北京大学 | 一种基于生成式对抗网络的开放式问题自动生成方法 |
US20190197358A1 (en) * | 2017-12-21 | 2019-06-27 | International Business Machines Corporation | Generative Adversarial Network Medical Image Generation for Training of a Classifier |
WO2019237240A1 (zh) * | 2018-06-12 | 2019-12-19 | 中国科学院深圳先进技术研究院 | 一种增强型生成式对抗网络以及目标样本识别方法 |
-
2020
- 2020-06-28 CN CN202010594893.2A patent/CN111767949B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2019028839A (ja) * | 2017-08-01 | 2019-02-21 | 国立研究開発法人情報通信研究機構 | 分類器、分類器の学習方法、分類器における分類方法 |
US20190066493A1 (en) * | 2017-08-31 | 2019-02-28 | Nec Laboratories America, Inc. | Viewpoint invariant object recognition by synthesization and domain adaptation |
US20190197358A1 (en) * | 2017-12-21 | 2019-06-27 | International Business Machines Corporation | Generative Adversarial Network Medical Image Generation for Training of a Classifier |
WO2019237240A1 (zh) * | 2018-06-12 | 2019-12-19 | 中国科学院深圳先进技术研究院 | 一种增强型生成式对抗网络以及目标样本识别方法 |
CN109543031A (zh) * | 2018-10-16 | 2019-03-29 | 华南理工大学 | 一种基于多任务对抗学习的文本分类方法 |
CN109492099A (zh) * | 2018-10-28 | 2019-03-19 | 北京工业大学 | 一种基于领域对抗自适应的跨领域文本情感分类方法 |
CN109580215A (zh) * | 2018-11-30 | 2019-04-05 | 湖南科技大学 | 一种基于深度生成对抗网络的风电传动***故障诊断方法 |
CN109614471A (zh) * | 2018-12-07 | 2019-04-12 | 北京大学 | 一种基于生成式对抗网络的开放式问题自动生成方法 |
Non-Patent Citations (2)
Title |
---|
PEI YANG,ET AL: "Task-Adversarial Co-Generative Nets", 《KDD ’19会议论文集》, 25 July 2019 (2019-07-25), pages 1596 - 1604, XP058634847, DOI: 10.1145/3292500.3330843 * |
PEI YANG.ET AL: "Deep Multi-Task Learning with Adversarial-and-Cooperative Nets", 《PROCEEDINGS OF THE TWENTY-EIGHTH INTERNATIONAL JOINT CONFERENCE ON ARTIFICIAL INTELLIGENCE》, 1 August 2019 (2019-08-01), pages 4078 - 4084 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112200262A (zh) * | 2020-10-21 | 2021-01-08 | 中国空间技术研究院 | 支持多任务和跨任务的小样本分类训练方法及装置 |
CN112200262B (zh) * | 2020-10-21 | 2024-04-30 | 中国空间技术研究院 | 支持多任务和跨任务的小样本分类训练方法及装置 |
CN115640838A (zh) * | 2022-12-26 | 2023-01-24 | 逻安科技(天津)有限责任公司 | 一种基于延拓神经网络的可重构逻辑门实现方法及处理器 |
Also Published As
Publication number | Publication date |
---|---|
CN111767949B (zh) | 2024-06-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Hu et al. | Duplex generative adversarial network for unsupervised domain adaptation | |
Gao et al. | Deep leaf‐bootstrapping generative adversarial network for structural image data augmentation | |
Sadr et al. | Multi-view deep network: a deep model based on learning features from heterogeneous neural networks for sentiment analysis | |
CN108256561B (zh) | 一种基于对抗学习的多源域适应迁移方法及*** | |
CN109977094B (zh) | 一种用于结构化数据的半监督学习的方法 | |
Gallo et al. | Image and text fusion for upmc food-101 using bert and cnns | |
CN111429340A (zh) | 一种基于自注意力机制的循环图像翻译方法 | |
Yin et al. | Deep learning-aided OCR techniques for Chinese uppercase characters in the application of Internet of Things | |
Zhao | Evolutionary design of neural network tree-integration of decision tree, neural network and GA | |
Chandra et al. | Encoding subcomponents in cooperative co-evolutionary recurrent neural networks | |
CN112784929A (zh) | 一种基于双元组扩充的小样本图像分类方法及装置 | |
CN111767949A (zh) | 一种基于特征和样本对抗共生的多任务学习方法及其*** | |
Chandra et al. | Adapting modularity during learning in cooperative co-evolutionary recurrent neural networks | |
CN112925710B (zh) | 一种基于梯度下降优化的模糊测试方法 | |
Rajani et al. | Using explanations to improve ensembling of visual question answering systems | |
Xu et al. | A question-guided multi-hop reasoning graph network for visual question answering | |
CN112000793B (zh) | 一种面向人机交互的对话目标规划方法 | |
CN116227603A (zh) | 一种事件推理任务的处理方法、设备及介质 | |
CN111368524A (zh) | 一种基于自注意力双向gru和svm的微博观点句识别方法 | |
Chandra et al. | A memetic framework for cooperative coevolution of recurrent neural networks | |
CN116595530A (zh) | 一种结合对抗迁移学习和多任务学习的智能合约漏洞检测方法 | |
Jiang et al. | Multilevel Attention and Multiscale Feature Fusion Network for Author Classification of Chinese Ink‐Wash Paintings | |
Pandey et al. | Bit mask-oriented genetic algorithm for grammatical inference and premature convergence | |
CN111950631A (zh) | 一种面向特征解构的对抗合作网络模块及其对抗合作方法 | |
CN111062484A (zh) | 基于多任务学习的数据集选取方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |