CN109102005A - 基于浅层模型知识迁移的小样本深度学习方法 - Google Patents
基于浅层模型知识迁移的小样本深度学习方法 Download PDFInfo
- Publication number
- CN109102005A CN109102005A CN201810812756.4A CN201810812756A CN109102005A CN 109102005 A CN109102005 A CN 109102005A CN 201810812756 A CN201810812756 A CN 201810812756A CN 109102005 A CN109102005 A CN 109102005A
- Authority
- CN
- China
- Prior art keywords
- model
- training
- neural network
- shallow
- mentioned
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 41
- 238000013135 deep learning Methods 0.000 title claims abstract description 13
- 238000013508 migration Methods 0.000 title claims abstract description 11
- 230000005012 migration Effects 0.000 title claims abstract description 11
- 238000012549 training Methods 0.000 claims abstract description 52
- 238000013528 artificial neural network Methods 0.000 claims abstract description 28
- 230000006870 function Effects 0.000 claims description 9
- 238000003062 neural network model Methods 0.000 claims description 8
- 238000013527 convolutional neural network Methods 0.000 claims description 6
- 238000003066 decision tree Methods 0.000 claims description 6
- 238000001228 spectrum Methods 0.000 claims description 4
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 239000000284 extract Substances 0.000 claims description 3
- 230000004927 fusion Effects 0.000 claims description 3
- 238000011478 gradient descent method Methods 0.000 claims description 3
- 230000006872 improvement Effects 0.000 claims description 3
- 238000007500 overflow downdraw method Methods 0.000 claims description 3
- 238000012706 support-vector machine Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 230000008859 change Effects 0.000 claims description 2
- 238000004364 calculation method Methods 0.000 claims 1
- 230000008569 process Effects 0.000 abstract description 4
- 238000003745 diagnosis Methods 0.000 abstract description 3
- 238000013461 design Methods 0.000 description 7
- 230000007812 deficiency Effects 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 3
- NJPPVKZQTLUDBO-UHFFFAOYSA-N novaluron Chemical compound C1=C(Cl)C(OC(F)(F)C(OC(F)(F)F)F)=CC=C1NC(=O)NC(=O)C1=C(F)C=CC=C1F NJPPVKZQTLUDBO-UHFFFAOYSA-N 0.000 description 3
- 230000004913 activation Effects 0.000 description 2
- 238000010586 diagram Methods 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000003780 insertion Methods 0.000 description 1
- 230000037431 insertion Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000003550 marker Substances 0.000 description 1
- 210000005036 nerve Anatomy 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000005096 rolling process Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/217—Validation; Performance evaluation; Active pattern learning techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Abstract
本发明公开了一种基于浅层模型知识迁移的小样本深度学习方法。本发明首先对数据进行预处理,然后根据相关领域的先验知识和专家经验将原始信号变换到不同的变换域,计算人工特征。根据人工特征,选择不同的浅层模型,基于少量有标签样本数据进行训练。并根据分类准确率/预测误差等指标,对不同特征组合的不同浅层模型进行筛选,构成候选模型池。然后,基于上述候选模型池,选择模型对未标注的样本进行预测,得到预测标签,并将多个预测标签融合。将上述预测标签与已有的少量的有标签样本组合,共同构建训练集。针对具体任务,设计深度神经网络结构,基于上述混合训练集训练。通过旋转机械故障诊断数据集,验证了该方法的有效性。
Description
技术领域
本发明属于机器学习领域,具体涉及一种基于浅层模型知识迁移的小样本深度学习方法。
背景技术
近年来,深度神经网络尤其是卷积神经网络在图像识别、语音识别等领域取得了显著进展。相比于经典机器学习方法,深度学习方法可以将特征提取和分类器训练统一用深度神经网络的方式进行建模,并实现端到端的学习。
基于深度学习对样本分类,当采用大量样本训练时,可以自动学到样本特征,大大提高分类准确率;但是,针对小样本情况下的识别分类效果并不乐观。深度神经网络的多层结构和大量网络参数,需要大量的有标签训练样本进行监督训练,从而发挥出深度学习的表示能力强、泛化能力好的优点。在某些应用领域,通常只有少量标注样本。例如,在故障诊断领域,一方面滚动轴承和其他旋转元件故障对生产***造成重大影响,会导致高昂的维护成本和经济损失。但是,另一方面,故障的发生几率相比正常工况却很低。因此,采集的数据中包含的高价值故障样本数据很少。此外,对数据的标注依赖于有丰富故障诊断经验和领域知识的专家。所以,通常很难构建大量的高价值、有标注样本集。仅有稀少的标注样本的情况下,深度神经网络的监督训练过程优化困难,容易陷入局部最优,不能达到很好的收敛状态,导致深度神经网络模型表达能力不足、泛化性能不好。所以提高深度神经网络针对小样本情况下的识别分类能力是一个既充满挑战又有重要应用价值的的研究领域。
一种方法是利用无标签样本数据进行预训练,例如深度自编码器模型。通过逐层预训练或者端到端训练,从无标签样本中学***衡。无标签样本的数据规模通常远远超过有标签样本,少量的高价值样本(例如,故障数据)淹没在大量的低价值样本(例如,正常工况数据)中。样本不平衡,会导致无监督或者半监督学***衡问题,并有效利用领域专家知识和经验,实现小样本情况下的高效深度学习方法,是一个重要的研究方向。
本发明针对现有技术的不足,设计一种基于浅层模型知识迁移的小样本深度学习方法。本发明首先对数据进行预处理,然后根据相关领域的先验知识和专家经验将原始信号变换到不同的变换域,设计并计算人工特征。进一步,根据计算的人工特征,选择不同的浅层模型,基于少量有标签样本数据进行训练。并根据分类准确率/预测误差等指标,对不同特征组合的不同浅层模型进行筛选,构成候选模型池。然后,基于上述候选模型池,选择模型对未标注的样本进行预测,得到预测标签,并将不同浅层模型的预测标签进行融合。进一步,将上述预测标签样本与已有的少量的有标签样本组合,共同构建训练集。最后,针对具体任务,设计深度神经网络结构,基于上述混合训练集训练深度神经网络。通过改变不同的浅层模型组合得到不同的预测标签;通过改变网络结构的超参数,得到不同的深度神经网络模型;迭代上述训练过程,并根据分类准确率/预测误差等指标对深度神经网络模型进行优选,作为最终的模型。
发明内容
本发明的目的是针对现有技术的不足,提供一种基于浅层模型知识迁移的小样本深度学习方法。
本发明包括以下各步骤:
步骤(1)、数据的预处理
针对原始一维时域波形信号进行高斯平均滤波、中值滤波等滤波处理,去除原始信号中的高频噪声。
步骤(2)、人工特征的计算
根据相关领域的先验知识和专家经验,针对步骤(1)处理后的一维时域波形信号计算最大幅值、均值等特征表示。
根据相关领域的先验知识和专家经验采用傅里叶变换,将步骤(1)处理后的一维时域波形信号变换到频域,计算基/倍频向量、向量、功率谱等特征表示。
根据相关领域的先验知识和专家经验采用短时傅里叶变换,将步骤(1)处理后的一维时域波形信号转换到具有二维结构的时频域的频谱图形式,提取频谱图的积分特征、方差特征、均方根特征等反映信号时频变换特性的特征表示。例如,可以计算频谱图沿着时间轴、或者频率轴上的积分作为一种人工特征表示。
上述变换域的选择及人工特征的提取依赖于专家的先验知识和经验,所提取的特征一般具有明确的物理意义和区分性,有利于后续的分类/回归模型的训练。
步骤(3)、浅层模型的预训练与专家知识的数据化表达
3.1针对已有的稀少的带标签样本,根据步骤1和步骤2中的方法进行预处理和特征提取。
3.2采用浅层模型,基于上述特征和标签进行模型训练。浅层模型可以是支持向量机(SVM),极限学习机(ELM),决策树(DT),置信规则库(BRB),证据推理(ER)等。模型的任务可以是分类,也可以是回归,与所建模的问题本身及标签的形式有关。
上述训练方式包括两种:1)采用相同的人工特征,训练不同的浅层模型。基于分类准确率/预测误差等指标,以及t-SNE等可视化工具,分析上述模型之间的相关性、差异性和互补性。2)对同一种浅层模型,改变不同的特征组合,进行模型训练。基于分类准确率/英寸误差等指标,以及t-SNE等可视化工具,分析同一浅层模型下不同特征组合的表达能力,以及它们之间的相关性、差异性和互补性。
3.3基于分类准确率/预测误差等指标,设定准确率阈值;考虑模型复杂度,设定模型复杂度(参数量)和计算时间复杂度(模型运行时间)阈值;对上述训练得到的模型进行筛选,构成候选模型池。
3.4从上述候选模型池中随机选择模型,针对无标签样本数据进行预测,得到预测标签。
不同的候选模型基于不同的人工特征组合或者浅层模型,反映了特定方面的专家知识和经验,其预测标签会具有一定的相关性、差异性和互补性。该预测标签实现了专家知识和经验的数据化表达。
将上述不同候选模型的预测标签进行融合,与已有的稀少的有标签样本共同构建训练集,用于后续深度神经网络的训练。融合方法可以采用基于投票的简单多数法,基于投票的简单平均法等。
步骤(4)、深度神经网络的训练和优选
4.1针对具体任务,设计深度神经网络结构。针对原始时域波形数据,可以设计一维卷积神经网络结构;针对频域特征,可以设计全连接或深度自编码器等网络结构;针对时频域的频谱图,可以设计二维卷积神经网络结构。
4.2利用步骤3中得到的混合数据集,采用小批量随机梯度下降法(Mini-BatchStochastic Gradient Descent)对网络进行训练,学习权重参数。
根据任务不同,分为分类任务和回归任务;分类任务采用柔性最大损失函数(Softmax Loss);回归任务可以采用均方误差函数(Mean Square Error)。
4.3深度神经网络模型的评估和改进。
基于分类准确率/预测误差等指标,对上述深度神经网络模型的性能进行评估;
通过调整网络超参数(例如,层数、卷积核数量、非线性激活函数类型、学习率等),重新训练模型,并评估其性能。
通过改变步骤3.4中的候选模型随机选择构建的组合得到不同的融合预测标签,重新训练上述深度神经网络,并评估其性能。
根据上述评估结果,优选兼顾分类准确率/预测误差和网络复杂度(参数量和计算量)的模型作为最终模型。
本发明的有益效果:
基于浅层模型知识迁移的小样本深度学习方法,得益于混合数据集中的浅层模型预测标签带来的数据提升,能够具有很好的模型表示能力和泛化能力。基于专家知识的数据化形式(预测标签),实现了人工特征和浅层模型所反映的专家知识到深度神经网络的迁移,克服了小样本深度学习不足导致的模型表示能力不足和泛化能力差的缺点。相比于只用稀缺标记样本训练原始深度神经网络方法,准确率大幅提升。
附图说明
图1是本方法的算法实现流程图。
图2是电机柔性转子***。
图3是6种旋转机械故障和正常工况下的第1个传感器的波形信号。图中(a)-(g)分别是转子不平衡I、转子不平衡III,转子不平衡V、转子不平衡VII、风机断页、基座松动这6中旋转机械故障,以及正常工况下的波形图。该波形图都是采用第一个传感器采集的。
图4是正常工况下某一样本8个通道波形进行短时傅里叶变换后的频谱图。图中(a)-(h)分别是正常工况下,8个传感器采集得到的波形信号,经过短时傅里叶变换之后得到的频谱图。
具体实施方式
以下结合附图对本发明作进一步说明。
如图1所示,本发明提出一种基于浅层模型知识迁移的小样本深度学习方法,包括以下各步骤:
步骤(1)数据的预处理
在多功能电机平台上构建旋转机械故障诊断数据集,如图2所示,8个传感器安装在底座上用来记录振动信号。实验中,考虑6种故障:转子不平衡1(RU1),转子不平衡3(RU3),转子不平衡5(RU5),转子不平衡7(RU7),风机断页(PPB),基座松动(PL)。记录每个样本持续8s的数据即10240个数据点。为每种故障和正常情况收集了300个样本。图3表示的是上述6种旋转机械故障和正常情况下的第1个传感器波形。
针对原始一维时域波形信号可以进行高斯平均滤波、中值滤波等滤波处理,去除原始信号中的高频噪声。
步骤(2)人工特征的计算
针对一维时域波形信号计算最大幅值、均值等特征表示。
采用傅里叶变换,将一维时域波形信号变换到频域,计算基/倍频向量、向量、功率谱等特征表示。
采用短时短时傅里叶变换,将原始一维时域波形信号转换到具有二维结构的时频域的频谱图形式,提取频谱图的积分特征、方差特征、均方根特征等反映信号时频变换特性的特征表示。短时傅里叶变换的数学形式如下:
其中xi是样本的波形信号,w(·)是窗函数,例如汉明窗,si(k,m)是xi变换后的具有二维结构的频谱图。例如,可以计算频谱图沿着时间轴、或者频率轴上的积分作为一种人工特征表示。将每个样本8个通道的原始数据通过短时傅里叶变换转换到时频域,图4是正常情况下某一样本8个通道原始波形变换后的频谱图,则可以计算时间轴或频率轴上的积分特征,分别记作SIt,SIf。
变换域的选择及人工特征的提取依赖于专家的先验知识和经验,所提取的特征一般具有明确的物理意义和区分性,有利于后续的分类/回归模型的训练。
步骤(3)浅层模型的预训练与专家知识的数据化表达
3.1针对已有的稀少的带标签样本,根据步骤1和步骤2中的方法进行预处理和特征提取。
3.2采用浅层模型,基于上述特征和标签进行模型训练。浅层模型可以是支持向量机(SVM),极限学习机(ELM),决策树(DT),置信规则库(BRB),证据推理(ER)等。本实施例中采用支持向量机作浅层模型代表,且处理故障分类问题。采用原始数据集每类1%、2%、3%、4%的样本作为新的数据集,构成小样本数据集。针对两种特征表示SIt和SIf,采用不同的核函数,训练多个SVM模型。SIt,SIf作为输入特征。
3.3设定分类准确率阈值和计算时间阈值,对上述模型进行筛选,构成候选模型池。
3.4从上述候选模型池中选择模型,针对原始数据集剩余的样本数据进行预测,得到预测标签。
不同的候选模型基于不同的人工特征组合或者浅层模型,反映了特定方面的专家知识和经验,其预测标签会具有一定的相关性、差异性和互补性。该预测标签实现了专家知识和经验的数据化表达。
将上述不同候选模型的预测标签进行融合,与已有的稀少的有标签样本共同构建训练集,用于后续深度神经网络的训练。融合方法可以采用基于投票的简单多数法,基于投票的简单平均法等。本实施例,采用简单多数投票法确定最终的预测标签。
步骤(4)深度神经网络的训练和优选
4.1针对具体任务,设计深度神经网络结构。针对原始时域波形数据,可以设计一维卷积神经网络结构;针对频域特征,可以设计全连接或深度自编码器等网络结构;针对时频域的频谱图,可以设计二维卷积神经网络结构。本实施例采用二维频谱图作为输入数据,设计的二维卷积神经网络结构如表1所示。
表1:CNN网络体系结构
4.2利用步骤3中得到的混合数据集,采用柔性最大损失函数(Softmax Loss)和小批量随机梯度下降法(Mini-BatchStochastic Gradient Descent)对网络进行训练,学习权重参数。
4.3深度神经网络模型的评估和改进。
基于分类准确率,对上述深度神经网络模型的性能进行评估;
调整网络超参数(例如,卷积层数、卷积核数量、非线性激活函数类型、学习率等),重新训练模型,并评估其性能。
改变步骤3.4中的候选模型组合得到不同的融合预测标签,重新训练上述深度神经网络,并评估其性能。
根据上述评估结果,优选兼顾分类准确率/预测误差和网络复杂度(参数量和计算量)的模型作为最终模型。
上述优选出来的深度神经网络得益于混合数据集中的浅层模型预测标签带来的数据提升,能够具有很好的模型表示能力和泛化能力。基于专家知识的数据化形式(预测标签),实现了人工特征和浅层模型所反映的专家知识到深度神经网络的迁移,克服了小样本深度学习不足导致的模型表示能力不足和泛化能力差的缺点。表2是不同模型的分类结果,CNN-Train,CNN-Test表示稀少样本情况下CNN网络模型的训练准确率以及测试准确率,CNN-Transfer-Train,CNN-Transfer-Test表示的是经过知识迁移后的训练准确率与测试准确率。从结果可得,所提方法可以解决标签样本量不足导致的小样本训练深度神经网络中出现的模型表示能力不足和泛化能力差的问题。
表2:不同模型的分类结果
Claims (4)
1.基于浅层模型知识迁移的小样本深度学习方法,其特征在于该方法包括如下:
步骤(1)、数据的预处理
针对原始一维时域波形信号进行滤波处理,去除原始信号中的高频噪声;
步骤(2)、人工特征的计算
2.1根据相关领域的先验知识和专家经验,针对步骤(1)处理后的一维时域波形信号计算最大幅值、均值等特征表示;
2.2根据相关领域的先验知识和专家经验采用傅里叶变换,将步骤(1)处理后的一维时域波形信号变换到频域,计算基/倍频向量、向量、功率谱等特征表示;
2.3根据相关领域的先验知识和专家经验采用短时傅里叶变换,将步骤(1)处理后的一维时域波形信号转换到具有二维结构的时频域的频谱图形式,提取频谱图的积分特征、方差特征、均方根特征等反映信号时频变换特性的特征表示;
步骤(3)、浅层模型的预训练与专家知识的数据化表达
3.1针对已有的稀少的带标签样本,根据步骤1和步骤2中的方法进行预处理和特征提取;
3.2采用浅层模型,基于上述特征和标签进行模型训练;
模型的任务与所建模的问题本身及标签的形式有关;
3.3基于分类准确率/预测误差等指标,设定准确率阈值;考虑模型复杂度,设定模型复杂度(参数量)和计算时间复杂度(模型运行时间)阈值;对上述训练得到的模型进行筛选,构成候选模型池;
3.4从上述候选模型池中随机选择模型,针对无标签样本数据进行预测,得到预测标签;
将上述不同候选模型的预测标签进行融合,与已有的稀少的有标签样本共同构建训练集,用于后续深度神经网络的训练;
步骤(4)、深度神经网络的训练和优选
4.1针对具体任务,设计深度神经网络结构;
若针对原始时域波形数据,可以设计一维卷积神经网络结构;
若针对频域特征,可以设计全连接或深度自编码器等网络结构;
若针对时频域的频谱图,可以设计二维卷积神经网络结构;
4.2利用步骤3中得到的混合数据集,采用小批量随机梯度下降法(Mini-BatchStochastic Gradient Descent)对网络进行训练,学习权重参数;
根据任务不同,分为分类任务和回归任务;分类任务采用柔性最大损失函数(SoftmaxLoss);回归任务可以采用均方误差函数(Mean Square Error);
4.3深度神经网络模型的评估和改进;
基于分类准确率/预测误差等指标,对上述深度神经网络模型的性能进行评估;
通过调整网络超参数,重新训练模型,并评估其性能;
通过改变步骤3.4中的候选模型随机选择构建的组合得到不同的融合预测标签,重新训练上述深度神经网络,并评估其性能;
根据上述评估结果,优选兼顾分类准确率/预测误差和网络复杂度(参数量和计算量)的模型作为最终模型。
2.如权利要求1所述的方法,其特征在于步骤(3)浅层模型可以是支持向量机(SVM),极限学习机(ELM),决策树(DT),置信规则库(BRB),证据推理(ER)等。
3.如权利要求1所述的方法,其特征在于步骤(3.2)训练方式包括两种:1)采用相同的人工特征,训练不同的浅层模型;2)对同一种浅层模型,改变不同的特征组合,进行模型训练。
4.如权利要求1所述的方法,其特征在于步骤(3.4)融合方法可以采用基于投票的简单多数法,基于投票的简单平均法等。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810812756.4A CN109102005B (zh) | 2018-07-23 | 2018-07-23 | 基于浅层模型知识迁移的小样本深度学习方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810812756.4A CN109102005B (zh) | 2018-07-23 | 2018-07-23 | 基于浅层模型知识迁移的小样本深度学习方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN109102005A true CN109102005A (zh) | 2018-12-28 |
CN109102005B CN109102005B (zh) | 2020-08-18 |
Family
ID=64847232
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810812756.4A Expired - Fee Related CN109102005B (zh) | 2018-07-23 | 2018-07-23 | 基于浅层模型知识迁移的小样本深度学习方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109102005B (zh) |
Cited By (35)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109920501A (zh) * | 2019-01-24 | 2019-06-21 | 西安交通大学 | 基于卷积神经网络和主动学习的电子病历分类方法及*** |
CN110119789A (zh) * | 2019-05-28 | 2019-08-13 | 湃方科技(北京)有限责任公司 | 一种旋转型机械设备启停判断方法及*** |
CN110162014A (zh) * | 2019-05-29 | 2019-08-23 | 上海理工大学 | 一种集成多种智能算法的制冷***故障诊断方法 |
CN110162013A (zh) * | 2019-05-29 | 2019-08-23 | 上海理工大学 | 一种制冷***故障诊断方法 |
CN110472483A (zh) * | 2019-07-02 | 2019-11-19 | 五邑大学 | 一种面向sar图像的小样本语义特征增强的方法及装置 |
CN110633758A (zh) * | 2019-09-20 | 2019-12-31 | 四川长虹电器股份有限公司 | 针对小样本或样本不平衡的癌症区域检测定位的方法 |
CN110689072A (zh) * | 2019-09-25 | 2020-01-14 | 重庆大学 | 一种基于知识转移的动态工业数据分类方法 |
CN110705456A (zh) * | 2019-09-29 | 2020-01-17 | 华南理工大学 | 一种基于迁移学习的微型电机异常检测方法 |
CN110782901A (zh) * | 2019-11-05 | 2020-02-11 | 深圳大学 | 一种识别网络电话语音的方法、存储介质及装置 |
CN110909880A (zh) * | 2019-11-20 | 2020-03-24 | 北京航空航天大学 | 一种基于深度知识追踪的众包工人表现预测方法 |
CN110942091A (zh) * | 2019-11-15 | 2020-03-31 | 武汉理工大学 | 寻找可靠的异常数据中心的半监督少样本图像分类方法 |
CN111144554A (zh) * | 2019-12-31 | 2020-05-12 | 暨南大学 | 基于模块分解的智能响应方法、装置、介质、设备 |
CN111642782A (zh) * | 2020-06-05 | 2020-09-11 | 江苏中烟工业有限责任公司 | 一种基于卷烟配方需求的烟叶原料功效定位方法 |
CN111695209A (zh) * | 2020-05-13 | 2020-09-22 | 东南大学 | 元深度学习驱动的旋转机械小样本健康评估方法 |
CN111782491A (zh) * | 2019-11-15 | 2020-10-16 | 华中科技大学 | 一种磁盘故障预测方法、装置、设备及存储介质 |
CN111897695A (zh) * | 2020-07-31 | 2020-11-06 | 平安科技(深圳)有限公司 | 获取kpi异常数据样本的方法、装置和计算机设备 |
CN111914709A (zh) * | 2020-07-23 | 2020-11-10 | 河南大学 | 针对WiFi信号行为识别的基于深度学习的动作分割框架构建方法 |
CN112132179A (zh) * | 2020-08-20 | 2020-12-25 | 中国人民解放军战略支援部队信息工程大学 | 基于少量标注样本的增量学习方法及*** |
CN112163472A (zh) * | 2020-09-15 | 2021-01-01 | 东南大学 | 一种基于多视角特征融合的滚动轴承诊断方法 |
CN112240964A (zh) * | 2019-07-16 | 2021-01-19 | 北京映翰通网络技术股份有限公司 | 一种用于配电网故障类型识别的方法 |
CN112364762A (zh) * | 2020-11-10 | 2021-02-12 | 南京智谷人工智能研究院有限公司 | 一种基于阶梯误差频谱特征的机械传动故障检测方法 |
CN112417986A (zh) * | 2020-10-30 | 2021-02-26 | 四川天翼网络服务有限公司 | 一种基于深度神经网络模型的半监督在线人脸识别方法及*** |
CN112446232A (zh) * | 2019-08-27 | 2021-03-05 | 贵州数安智能科技有限公司 | 一种持续自学习的图像识别方法及*** |
CN112614132A (zh) * | 2021-01-27 | 2021-04-06 | 杭州健培科技有限公司 | 针对少样本腰椎医学影像的半监督循环自学习方法及模型 |
CN112686278A (zh) * | 2019-10-18 | 2021-04-20 | 杭州海康威视数字技术股份有限公司 | 模型获取方法、装置及存储介质 |
CN113139568A (zh) * | 2021-02-22 | 2021-07-20 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113158874A (zh) * | 2021-04-16 | 2021-07-23 | 杭州像素元科技有限公司 | 一种基于傅里叶变换自适应深度学习算法的高速公路团雾检测方法 |
CN113283804A (zh) * | 2021-06-18 | 2021-08-20 | 支付宝(杭州)信息技术有限公司 | 一种风险预测模型的训练方法和*** |
CN113378935A (zh) * | 2021-06-11 | 2021-09-10 | 中国石油大学(华东) | 一种用于气体的嗅觉智能识别方法 |
CN113609773A (zh) * | 2021-08-06 | 2021-11-05 | 西安交通大学 | 基于小样本的数据可靠性评估结果预测性能的方法及*** |
CN114062511A (zh) * | 2021-10-24 | 2022-02-18 | 北京化工大学 | 一种基于单传感器的航空发动机早期损伤声发射智能识别方法 |
CN114461629A (zh) * | 2022-02-10 | 2022-05-10 | 电子科技大学 | 一种航空发动机温度标定方法、装置和存储介质 |
CN114757630A (zh) * | 2022-06-16 | 2022-07-15 | 阿里健康科技(杭州)有限公司 | 仓储管理模型确定方法、装置及计算机设备 |
CN115730254A (zh) * | 2022-12-06 | 2023-03-03 | 中电金信软件有限公司 | 一种扩充建模样本数据标签的方法及装置 |
WO2024078531A1 (zh) * | 2022-10-10 | 2024-04-18 | 南京邮电大学 | 一种复杂装备非线性振动模型参数优化方法 |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616033A (zh) * | 2015-02-13 | 2015-05-13 | 重庆大学 | 基于深度学习和支持向量机的滚动轴承故障诊断方法 |
CN107154037A (zh) * | 2017-04-20 | 2017-09-12 | 西安交通大学 | 基于深度层次特征提取的风机叶片故障识别方法 |
US20170289409A1 (en) * | 2016-03-30 | 2017-10-05 | Nec Laboratories America, Inc. | Large margin high-order deep learning with auxiliary tasks for video-based anomaly detection |
CN107273802A (zh) * | 2017-05-16 | 2017-10-20 | 武汉华目信息技术有限责任公司 | 一种铁路列车闸瓦钎环故障的检测方法及装置 |
CN107656152A (zh) * | 2017-09-05 | 2018-02-02 | 西安工程大学 | 一种基于ga‑svm‑bp变压器故障诊断方法 |
CN108095716A (zh) * | 2017-11-21 | 2018-06-01 | 郑州鼎创智能科技有限公司 | 一种基于置信规则库和深度神经网络的心电信号检测方法 |
CN108182452A (zh) * | 2017-12-29 | 2018-06-19 | 哈尔滨工业大学(威海) | 基于分组卷积自编码器的航空发动机故障检测方法及*** |
CN108181107A (zh) * | 2018-01-12 | 2018-06-19 | 东北电力大学 | 计及多分类目标的风电机组轴承机械故障诊断方法 |
-
2018
- 2018-07-23 CN CN201810812756.4A patent/CN109102005B/zh not_active Expired - Fee Related
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104616033A (zh) * | 2015-02-13 | 2015-05-13 | 重庆大学 | 基于深度学习和支持向量机的滚动轴承故障诊断方法 |
US20170289409A1 (en) * | 2016-03-30 | 2017-10-05 | Nec Laboratories America, Inc. | Large margin high-order deep learning with auxiliary tasks for video-based anomaly detection |
CN107154037A (zh) * | 2017-04-20 | 2017-09-12 | 西安交通大学 | 基于深度层次特征提取的风机叶片故障识别方法 |
CN107273802A (zh) * | 2017-05-16 | 2017-10-20 | 武汉华目信息技术有限责任公司 | 一种铁路列车闸瓦钎环故障的检测方法及装置 |
CN107656152A (zh) * | 2017-09-05 | 2018-02-02 | 西安工程大学 | 一种基于ga‑svm‑bp变压器故障诊断方法 |
CN108095716A (zh) * | 2017-11-21 | 2018-06-01 | 郑州鼎创智能科技有限公司 | 一种基于置信规则库和深度神经网络的心电信号检测方法 |
CN108182452A (zh) * | 2017-12-29 | 2018-06-19 | 哈尔滨工业大学(威海) | 基于分组卷积自编码器的航空发动机故障检测方法及*** |
CN108181107A (zh) * | 2018-01-12 | 2018-06-19 | 东北电力大学 | 计及多分类目标的风电机组轴承机械故障诊断方法 |
Non-Patent Citations (7)
Title |
---|
EDUARDO FONSECA等: ""A SIMPLE FUSION OF DEEP AND SHALLOW LEARNING FOR ACOUSTIC SCENE CLASSIFICATION"", 《HTTPS://ARXIV.XILESOU.TOP/ABS/1806.07506》 * |
JUSTIN SALAMON等: ""FUSING SHALLOW AND DEEP LEARNING FOR BIOACOUSTIC BIRD SPECIES CLASSIFICATION"", 《2017 IEEE INTERNATIONAL CONFERENCE ON ACOUSTICS, SPEECH AND SIGNAL PROCESSING (ICASSP)》 * |
XIAOYUAN ZHANG等: ""A novel bearing fault diagnosis model integrated permutation entropy, ensemble empirical mode decomposition and optimized SVM"", 《MEASUREMENT》 * |
刘弋锋: ""基于浅层学习引导深度学习的行人检测"", 《中国博士学位论文全文数据库 信息科技辑》 * |
刘然等: ""基于SVM和BP神经网络的滚动轴承故障诊断"", 《机械工程与自动化》 * |
李锦源等: ""一种基于SVM和LVQ神经网络的入侵检测方法"", 《硅谷》 * |
谢安等: ""基于SVM的粗糙神经网络的执行器故障诊断方法"", 《科技风》 * |
Cited By (54)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109920501A (zh) * | 2019-01-24 | 2019-06-21 | 西安交通大学 | 基于卷积神经网络和主动学习的电子病历分类方法及*** |
CN109920501B (zh) * | 2019-01-24 | 2021-04-20 | 西安交通大学 | 基于卷积神经网络和主动学习的电子病历分类方法及*** |
CN110119789A (zh) * | 2019-05-28 | 2019-08-13 | 湃方科技(北京)有限责任公司 | 一种旋转型机械设备启停判断方法及*** |
CN110162014A (zh) * | 2019-05-29 | 2019-08-23 | 上海理工大学 | 一种集成多种智能算法的制冷***故障诊断方法 |
CN110162013A (zh) * | 2019-05-29 | 2019-08-23 | 上海理工大学 | 一种制冷***故障诊断方法 |
CN110472483A (zh) * | 2019-07-02 | 2019-11-19 | 五邑大学 | 一种面向sar图像的小样本语义特征增强的方法及装置 |
CN110472483B (zh) * | 2019-07-02 | 2022-11-15 | 五邑大学 | 一种面向sar图像的小样本语义特征增强的方法及装置 |
CN112240964B (zh) * | 2019-07-16 | 2023-06-20 | 北京映翰通网络技术股份有限公司 | 一种用于配电网故障类型识别的方法 |
CN112240964A (zh) * | 2019-07-16 | 2021-01-19 | 北京映翰通网络技术股份有限公司 | 一种用于配电网故障类型识别的方法 |
CN112446232A (zh) * | 2019-08-27 | 2021-03-05 | 贵州数安智能科技有限公司 | 一种持续自学习的图像识别方法及*** |
CN110633758A (zh) * | 2019-09-20 | 2019-12-31 | 四川长虹电器股份有限公司 | 针对小样本或样本不平衡的癌症区域检测定位的方法 |
CN110689072A (zh) * | 2019-09-25 | 2020-01-14 | 重庆大学 | 一种基于知识转移的动态工业数据分类方法 |
CN110689072B (zh) * | 2019-09-25 | 2023-04-07 | 重庆大学 | 一种基于知识转移的动态工业数据分类方法 |
CN110705456A (zh) * | 2019-09-29 | 2020-01-17 | 华南理工大学 | 一种基于迁移学习的微型电机异常检测方法 |
CN112686278A (zh) * | 2019-10-18 | 2021-04-20 | 杭州海康威视数字技术股份有限公司 | 模型获取方法、装置及存储介质 |
CN112686278B (zh) * | 2019-10-18 | 2023-10-20 | 杭州海康威视数字技术股份有限公司 | 模型获取方法、装置及存储介质 |
CN110782901B (zh) * | 2019-11-05 | 2021-12-24 | 深圳大学 | 一种识别网络电话语音的方法、存储介质及装置 |
CN110782901A (zh) * | 2019-11-05 | 2020-02-11 | 深圳大学 | 一种识别网络电话语音的方法、存储介质及装置 |
CN110942091B (zh) * | 2019-11-15 | 2023-11-21 | 武汉理工大学 | 寻找可靠的异常数据中心的半监督少样本图像分类方法 |
CN111782491A (zh) * | 2019-11-15 | 2020-10-16 | 华中科技大学 | 一种磁盘故障预测方法、装置、设备及存储介质 |
CN110942091A (zh) * | 2019-11-15 | 2020-03-31 | 武汉理工大学 | 寻找可靠的异常数据中心的半监督少样本图像分类方法 |
CN110909880B (zh) * | 2019-11-20 | 2022-10-21 | 北京航空航天大学 | 一种基于深度知识追踪的众包任务预测方法 |
CN110909880A (zh) * | 2019-11-20 | 2020-03-24 | 北京航空航天大学 | 一种基于深度知识追踪的众包工人表现预测方法 |
CN111144554B (zh) * | 2019-12-31 | 2023-09-19 | 暨南大学 | 基于模块分解的智能响应方法、装置、介质、设备 |
CN111144554A (zh) * | 2019-12-31 | 2020-05-12 | 暨南大学 | 基于模块分解的智能响应方法、装置、介质、设备 |
CN111695209A (zh) * | 2020-05-13 | 2020-09-22 | 东南大学 | 元深度学习驱动的旋转机械小样本健康评估方法 |
CN111642782A (zh) * | 2020-06-05 | 2020-09-11 | 江苏中烟工业有限责任公司 | 一种基于卷烟配方需求的烟叶原料功效定位方法 |
CN111914709B (zh) * | 2020-07-23 | 2024-02-06 | 河南大学 | 针对WiFi信号行为识别的基于深度学习的动作分割框架构建方法 |
CN111914709A (zh) * | 2020-07-23 | 2020-11-10 | 河南大学 | 针对WiFi信号行为识别的基于深度学习的动作分割框架构建方法 |
CN111897695B (zh) * | 2020-07-31 | 2022-06-17 | 平安科技(深圳)有限公司 | 获取kpi异常数据样本的方法、装置和计算机设备 |
CN111897695A (zh) * | 2020-07-31 | 2020-11-06 | 平安科技(深圳)有限公司 | 获取kpi异常数据样本的方法、装置和计算机设备 |
CN112132179A (zh) * | 2020-08-20 | 2020-12-25 | 中国人民解放军战略支援部队信息工程大学 | 基于少量标注样本的增量学习方法及*** |
CN112163472A (zh) * | 2020-09-15 | 2021-01-01 | 东南大学 | 一种基于多视角特征融合的滚动轴承诊断方法 |
CN112417986A (zh) * | 2020-10-30 | 2021-02-26 | 四川天翼网络服务有限公司 | 一种基于深度神经网络模型的半监督在线人脸识别方法及*** |
CN112417986B (zh) * | 2020-10-30 | 2023-03-10 | 四川天翼网络股份有限公司 | 一种基于深度神经网络模型的半监督在线人脸识别方法及*** |
CN112364762B (zh) * | 2020-11-10 | 2024-02-27 | 南京大学 | 一种基于阶梯误差频谱特征的机械传动故障检测方法 |
CN112364762A (zh) * | 2020-11-10 | 2021-02-12 | 南京智谷人工智能研究院有限公司 | 一种基于阶梯误差频谱特征的机械传动故障检测方法 |
CN112614132B (zh) * | 2021-01-27 | 2021-07-06 | 杭州健培科技有限公司 | 针对少样本腰椎医学影像的半监督循环自学习方法及模型 |
CN112614132A (zh) * | 2021-01-27 | 2021-04-06 | 杭州健培科技有限公司 | 针对少样本腰椎医学影像的半监督循环自学习方法及模型 |
CN113139568A (zh) * | 2021-02-22 | 2021-07-20 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113139568B (zh) * | 2021-02-22 | 2022-05-10 | 杭州深睿博联科技有限公司 | 一种基于主动学习的类别预测模型建模方法及装置 |
CN113158874A (zh) * | 2021-04-16 | 2021-07-23 | 杭州像素元科技有限公司 | 一种基于傅里叶变换自适应深度学习算法的高速公路团雾检测方法 |
CN113378935A (zh) * | 2021-06-11 | 2021-09-10 | 中国石油大学(华东) | 一种用于气体的嗅觉智能识别方法 |
CN113283804A (zh) * | 2021-06-18 | 2021-08-20 | 支付宝(杭州)信息技术有限公司 | 一种风险预测模型的训练方法和*** |
CN113283804B (zh) * | 2021-06-18 | 2022-05-31 | 支付宝(杭州)信息技术有限公司 | 一种风险预测模型的训练方法和*** |
CN113609773A (zh) * | 2021-08-06 | 2021-11-05 | 西安交通大学 | 基于小样本的数据可靠性评估结果预测性能的方法及*** |
CN113609773B (zh) * | 2021-08-06 | 2024-04-05 | 西安交通大学 | 基于小样本的数据可靠性评估结果预测性能的方法及*** |
CN114062511A (zh) * | 2021-10-24 | 2022-02-18 | 北京化工大学 | 一种基于单传感器的航空发动机早期损伤声发射智能识别方法 |
CN114461629A (zh) * | 2022-02-10 | 2022-05-10 | 电子科技大学 | 一种航空发动机温度标定方法、装置和存储介质 |
CN114757630A (zh) * | 2022-06-16 | 2022-07-15 | 阿里健康科技(杭州)有限公司 | 仓储管理模型确定方法、装置及计算机设备 |
CN114757630B (zh) * | 2022-06-16 | 2022-10-14 | 阿里健康科技(杭州)有限公司 | 仓储管理模型确定方法、装置及计算机设备 |
WO2024078531A1 (zh) * | 2022-10-10 | 2024-04-18 | 南京邮电大学 | 一种复杂装备非线性振动模型参数优化方法 |
CN115730254B (zh) * | 2022-12-06 | 2023-10-13 | 中电金信软件有限公司 | 一种扩充建模样本数据标签的方法及装置 |
CN115730254A (zh) * | 2022-12-06 | 2023-03-03 | 中电金信软件有限公司 | 一种扩充建模样本数据标签的方法及装置 |
Also Published As
Publication number | Publication date |
---|---|
CN109102005B (zh) | 2020-08-18 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN109102005A (zh) | 基于浅层模型知识迁移的小样本深度学习方法 | |
CN110132598B (zh) | 旋转设备滚动轴承故障噪声诊断算法 | |
CN109580215B (zh) | 一种基于深度生成对抗网络的风电传动***故障诊断方法 | |
CN107590506B (zh) | 一种基于特征处理的复杂设备故障诊断方法 | |
US11630034B2 (en) | Method for diagnosing and predicting operation conditions of large-scale equipment based on feature fusion and conversion | |
CN105275833B (zh) | 一种基于CEEMD-STFT时频信息熵和multi-SVM的离心泵故障诊断方法 | |
CN108241873B (zh) | 一种面向泵站主设备的智能故障诊断方法 | |
CN109974782B (zh) | 基于大数据敏感特征优化选取的设备故障预警方法及*** | |
CN107657250B (zh) | 轴承故障检测及定位方法及检测定位模型实现***和方法 | |
CN109829236A (zh) | 一种基于XGBoost特征提取的压缩机故障诊断方法 | |
CN108921285B (zh) | 基于双向门控循环神经网络的电能质量扰动的分类方法 | |
CN106124212A (zh) | 基于稀疏编码器和支持向量机的滚动轴承故障诊断方法 | |
CN105841961A (zh) | 一种基于Morlet小波变换和卷积神经网络的轴承故障诊断方法 | |
CN113158814B (zh) | 一种基于卷积自编码器的轴承健康状态监测方法 | |
CN109781411A (zh) | 一种结合改进稀疏滤波器与kelm的轴承故障诊断方法 | |
CN107909118A (zh) | 一种基于深度神经网络的配电网工况录波分类方法 | |
CN110276303A (zh) | 基于vmd和dbn的转子不对中定量识别方法 | |
CN108444696A (zh) | 一种齿轮箱故障分析方法 | |
CN111397902A (zh) | 一种基于特征对齐卷积神经网络的滚动轴承故障诊断方法 | |
CN110503025A (zh) | 一种基于半监督协同训练的模拟电路早期故障诊断方法 | |
CN113327632B (zh) | 一种基于字典学习的无监督异常声检测方法和装置 | |
CN109034076A (zh) | 一种机械故障信号的自动聚类方法及自动聚类*** | |
CN107689059A (zh) | 风力发电机组变桨异常的识别方法及装置 | |
CN116593157A (zh) | 少样本下基于匹配元学习的复杂工况齿轮故障诊断方法 | |
CN104156628A (zh) | 一种基于多核学习判别分析的舰船辐射信号识别方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20200818 |