CN113298150A - 一种基于迁移学习与自学习的小样本植物病害识别方法 - Google Patents
一种基于迁移学习与自学习的小样本植物病害识别方法 Download PDFInfo
- Publication number
- CN113298150A CN113298150A CN202110574163.0A CN202110574163A CN113298150A CN 113298150 A CN113298150 A CN 113298150A CN 202110574163 A CN202110574163 A CN 202110574163A CN 113298150 A CN113298150 A CN 113298150A
- Authority
- CN
- China
- Prior art keywords
- learning
- sample
- model
- plant disease
- data set
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 201000010099 disease Diseases 0.000 title claims abstract description 85
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 title claims abstract description 85
- 238000000034 method Methods 0.000 title claims abstract description 27
- 238000013526 transfer learning Methods 0.000 title claims abstract description 17
- 238000012549 training Methods 0.000 claims abstract description 38
- 238000013136 deep learning model Methods 0.000 claims abstract description 13
- 230000001617 migratory effect Effects 0.000 claims 2
- 238000013473 artificial intelligence Methods 0.000 abstract description 3
- 241000196324 Embryophyta Species 0.000 description 40
- 238000013135 deep learning Methods 0.000 description 9
- 238000012417 linear regression Methods 0.000 description 7
- 238000012360 testing method Methods 0.000 description 7
- 241000207199 Citrus Species 0.000 description 6
- 235000020971 citrus fruits Nutrition 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 238000000605 extraction Methods 0.000 description 6
- 238000013508 migration Methods 0.000 description 6
- 230000005012 migration Effects 0.000 description 6
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 5
- 238000013527 convolutional neural network Methods 0.000 description 5
- 238000011161 development Methods 0.000 description 5
- 238000012795 verification Methods 0.000 description 5
- 235000009754 Vitis X bourquina Nutrition 0.000 description 3
- 235000012333 Vitis X labruscana Nutrition 0.000 description 3
- 240000006365 Vitis vinifera Species 0.000 description 3
- 235000014787 Vitis vinifera Nutrition 0.000 description 3
- 238000001514 detection method Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 239000011159 matrix material Substances 0.000 description 3
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 2
- 241000238631 Hexapoda Species 0.000 description 2
- 206010039509 Scab Diseases 0.000 description 2
- 240000008042 Zea mays Species 0.000 description 2
- 235000005824 Zea mays ssp. parviglumis Nutrition 0.000 description 2
- 235000002017 Zea mays subsp mays Nutrition 0.000 description 2
- 235000005822 corn Nutrition 0.000 description 2
- 238000009826 distribution Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000004519 manufacturing process Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- HPTJABJPZMULFH-UHFFFAOYSA-N 12-[(Cyclohexylcarbamoyl)amino]dodecanoic acid Chemical compound OC(=O)CCCCCCCCCCCNC(=O)NC1CCCCC1 HPTJABJPZMULFH-UHFFFAOYSA-N 0.000 description 1
- 241000167854 Bourreria succulenta Species 0.000 description 1
- 241001478315 Candidatus Liberibacter asiaticus Species 0.000 description 1
- 241000221785 Erysiphales Species 0.000 description 1
- 235000016623 Fragaria vesca Nutrition 0.000 description 1
- 240000009088 Fragaria x ananassa Species 0.000 description 1
- 235000011363 Fragaria x ananassa Nutrition 0.000 description 1
- 241000282414 Homo sapiens Species 0.000 description 1
- 235000007688 Lycopersicon esculentum Nutrition 0.000 description 1
- 201000005505 Measles Diseases 0.000 description 1
- 241000233622 Phytophthora infestans Species 0.000 description 1
- 240000003768 Solanum lycopersicum Species 0.000 description 1
- 244000061456 Solanum tuberosum Species 0.000 description 1
- 235000002595 Solanum tuberosum Nutrition 0.000 description 1
- RTAQQCXQSZGOHL-UHFFFAOYSA-N Titanium Chemical compound [Ti] RTAQQCXQSZGOHL-UHFFFAOYSA-N 0.000 description 1
- 241000607479 Yersinia pestis Species 0.000 description 1
- 238000009825 accumulation Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 235000019693 cherries Nutrition 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000002554 disease preventive effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000036541 health Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- JEIPFZHSYJVQDO-UHFFFAOYSA-N iron(III) oxide Inorganic materials O=[Fe]O[Fe]=O JEIPFZHSYJVQDO-UHFFFAOYSA-N 0.000 description 1
- 238000010801 machine learning Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 230000002265 prevention Effects 0.000 description 1
- 230000003449 preventive effect Effects 0.000 description 1
- 230000001737 promoting effect Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 239000000126 substance Substances 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06Q—INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
- G06Q50/00—Information and communication technology [ICT] specially adapted for implementation of business processes of specific business sectors, e.g. utilities or tourism
- G06Q50/06—Energy or water supply
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Business, Economics & Management (AREA)
- Evolutionary Computation (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Economics (AREA)
- General Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Computational Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Biophysics (AREA)
- Biomedical Technology (AREA)
- Public Health (AREA)
- Water Supply & Treatment (AREA)
- Human Resources & Organizations (AREA)
- Marketing (AREA)
- Primary Health Care (AREA)
- Strategic Management (AREA)
- Tourism & Hospitality (AREA)
- General Business, Economics & Management (AREA)
- Image Analysis (AREA)
Abstract
一种基于迁移学习与自学习的小样本植物病害识别方法，涉及人工智能技术领域，针对现有技术中小样本植物病害的识别精度低的问题，包括一：获取目标域小样本数据集；二：引入迁移学习，利用基数据集对深度学习模型进行预训练，然后将预训练后的深度学习模型迁移到与基数据集中类别无交叉的目标域上进行学习；三：引入自学习，利用目标域中有标注的植物病害样本训练迁移后的模型，然后利用训练好的模型推断所有无标注植物病害的类别并赋予伪标注，之后判断伪标注的可信度；四：设置可信度阈值，并将可信度高于阈值的伪标注样本加入有标注的植物病害样本中，得到扩充植物病害有标注样本集，并利用扩充植物病害有标注样本集更新模型，得到最终模型。
Description
技术领域
本发明涉及人工智能技术领域，具体为一种基于迁移学习与自学习的小样本植物病害识别方法。
背景技术
农林业的发展主要取决于农林产品的质量和数量，在现代农林业发展领域，植物病虫害是影响农林业生产安全和生态安全的严重生物灾害，同时也是造成经济、社会和环境变化的主要因素之一。因此，及早发现并识别出病害的种类，针对性的采取措施，就能更有效的减少病害对农林业生产造成的经济损失。各种植物疾病的预防措施(如生物、化学等方法)会对生态环境造成严重影响，所以在对植物疾病实施预防措施之前，进行实时、安全、可持续、准确的识别和监测至关重要。
伴随着人工智能技术的快速发展，自动化的植物疾病识别、监测和检测逐渐应用到现代农林业领域，成为现代农林业的研究热点。近年来深度学习网络的方法进步，国内外的研究者已经成功将以卷积神经元网络为特征提取基本手段的深度学习网络应用植物病害领域，以深度学习为手段的图像识别、分类方法为农业发展现代化，提高农产品质量，解决世界温饱问题做出了非常大的贡献，并获得较大的研究成果。
虽然基于深度学习的植物病害的识别技术得到了长足的发展，但这并不意味着其在任何条件下的识别率都是可靠的。由于深度学习模型包含大量的参数，因此模型的训练和参数的更新依赖于大数据集，但是在实际应用中，采集和标注大量的数据需要大量的人力、物力和财力，并且某些植物疾病本身发病周期较短，导致采集的数据样本过少。使用过少的标注样本训练深度学习网络模型会使识别精确率较低，并很容易出现模型不易收敛或过拟合现象，从而导致深度学习模型的泛化能力变差，识别精度低。
如柑橘作物中的柑橘溃疡病病害，由于生长环境不同、病斑本身外形多变，且采集图像时的光照、拍摄角度、拍摄技巧等诸多原因会影响到图像质量，因此对于质量较高的病斑图像的获取非常困难。对于柑桔溃疡病、柑橘黄龙病等检疫性病害，为了防止病害扩散，一旦发现必须及时采取相应措施(焚毁、掩埋)进行处理。目前国内针对柑桔溃疡病、柑橘黄龙病等疾病的防疫主要还是靠人工进行干预，费时费力且不及时，深度学习在处理这些小样本植物病害的识别任务时无论怎么改进模型的泛化性能，识别效果仍不佳。
发明内容
本发明的目的是：针对现有技术中小样本植物病害的识别精度低的问题，提出一种基于迁移学习与自学习的小样本植物病害识别方法。
本发明为了解决上述技术问题采取的技术方案是：
一种基于迁移学习与自学习的小样本植物病害识别方法，包括以下步骤：
步骤一：获取目标域小样本数据集；
步骤二：引入迁移学习，利用基数据集对深度学习模型进行预训练，然后将预训练后的深度学习模型迁移到与基数据集中类别无交叉的目标域上进行学习；
步骤三：引入自学习，利用目标域中有标注的植物病害样本训练迁移后的模型，然后利用训练好的模型推断所有无标注植物病害的类别并赋予伪标注，之后判断伪标注的可信度；
步骤四：设置可信度阈值，并将可信度高于阈值的伪标注样本加入有标注的植物病害样本中，得到扩充植物病害有标注样本集，并利用扩充植物病害有标注样本集更新模型，得到最终模型；
步骤五：利用最终模型识别小样本植物病害。
进一步的，所述深度学习模型为ResNet-12。
进一步的，所述步骤二中基数据集采用公共数据集plantvillage。
进一步的，所述判断伪标注的可信度通过ICI算法得到。
进一步的，所述目标域小样本数据集包含每类5个有标注的植物病害样本集和每类多个无标注的样本集。
本发明的有益效果是：
本申请针对植物病害标注样本数量过少时采用深度学***台和技术支持，为小样本植物叶片病虫害识别提供一种新的解决方案。
附图说明
图1为10类目标域病害样本示意图1；
图2为10类目标域病害样本示意图2；
图3为10类目标域病害样本示意图3；
图4为10类目标域病害样本示意图4；
图5为10类目标域病害样本示意图5；
图6为10类目标域病害样本示意图6；
图7为10类目标域病害样本示意图7；
图8为10类目标域病害样本示意图8；
图9为10类目标域病害样本示意图9；
图10为10类目标域病害样本示意图10；
图11为本申请的流程图；
图12为ResNet-12网络结构图；
图13为SGD、Adam、RMSprop、Amsgrad四种优化器的训练损失及验证精度对比图一；
图14为SGD、Adam、RMSprop、Amsgrad四种优化器的训练损失及验证精度对比图二；
图15为对10类病害样本进行预测的混淆矩阵示意图。
具体实施方式
需要特别说明的是，在不冲突的情况下，本申请公开的各个实施方式之间可以相互组合。
具体实施方式一：参照图1具体说明本实施方式，本实施方式所述的一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于包括以下步骤：
步骤一：获取目标域小样本数据集；
步骤二：引入迁移学习，利用基数据集对深度学习模型进行预训练，然后将预训练后的深度学习模型迁移到与基数据集中类别无交叉的目标域上进行学习；
步骤三：引入自学习，利用目标域中有标注的植物病害样本训练迁移后的模型，然后利用训练好的模型推断所有无标注植物病害的类别并赋予伪标注，之后判断伪标注的可信度；
步骤四：设置可信度阈值，并将可信度高于阈值的伪标注样本加入有标注的植物病害样本中，得到扩充植物病害有标注样本集，并利用扩充植物病害有标注样本集更新模型，得到最终模型；
步骤五：利用最终模型识别小样本植物病害。
具体实施方式二：本实施方式是对具体实施方式一的进一步说明，本实施方式与具体实施方式一的区别是所述深度学习模型为ResNet-12。
具体实施方式三：本实施方式是对具体实施方式二的进一步说明，本实施方式与具体实施方式二的区别是所述步骤一中小样本数据集采用公共数据集plantvillage。
具体实施方式四：本实施方式是对具体实施方式三的进一步说明，本实施方式与具体实施方式三的区别是所述判断伪标注的可信度通过ICI算法得到。
具体实施方式五：本实施方式是对具体实施方式四的进一步说明，本实施方式与具体实施方式四的区别是所述目标域小样本数据集包含每类5个有标注的植物病害样本集和每类多个无标注的样本集。
实施例：
步骤一：构建小样本数据集。数据集尽可能的包含多种植物以及一种植物的多种病害，保证了数据集的权威性，充分验证模型的泛化性能。
步骤二：引入ResNet-12。某些轻量级网络例如ConvNet、MobileNet具有较浅的网络结构，但是其识别准确度往往无法令人满意，而具有很深网络结构的Wide-ResNet以及DenseNet虽然具有很高的识别准确度，但是由于网络复杂，在实际应用中具有很多的局限性，因此本发明引入兼顾网络较浅以及识别准确度可靠的ResNet-12来作为特征提取器。
步骤三：训练预训练模型。人类拥有基于已有知识积累和少量实例快速学习新概念的能力，受此启发，小样本学习假设模型可在某拥有大量样本的数据集(基数据集)上进行预训练，获得特征提取能力或元学习能力等，之后模型需要在与基数据集类别无交的新数据集(目标域)上进行学习。
步骤四：引入自学习。一般的小数据集，例如100张左右的标注数据情况下，单纯的使用迁移学习就能够比较好的处理识别问题。但是当某些极端情况下，所获取的标注样本非常少，例如1-5张，此时即使以迁移学习为前提也难以获得比较好的识别准确率，因此本发明结合了自学习的方法来处理标注样本极端少的情况下的识别。
作为本发明的一种优选技术方案，所述步骤一中数据集采用公共数据集plantvillage。该数据集共包含14种植物共38类健康及病害样本，共54302张样本图片。
划分小样本数据集，划分时用于测试的目标域数据尽可能囊括不同种植物及同种植物的不同病害，以充分展示本发明所提出的基于迁移学习+自学习的小样本植物病害识别模型在标注样本极端少的情况下的有效性及高泛化性能。最终用于训练迁移学习的预训练模型数据共14类；用于验证训练模型时每一epoch的损失及识别精确度的数据共14类；小样本数据(目标域)10类，其中每类用于学习特征的标注样本不超过5个，其余样本均不标注。
所有样本均储存在同一文件夹下，创建CSV文件对每个样本进行标注，其中CSV文件第一列代表样本图像的名称，第二列代表样本所对应的类别标注。
作为本发明的一种优选技术方案，ResNet-12具有4个residual block，每个block含有三个3×3的卷积层。这种卷积神经网络具有网络层数较轻(只有12层)且训练速度快，测试精度高的强大性能，非常适用于实际应用中。
作为本发明的一种优选技术方案，所述步骤三通过对比SGD、Adam、RMSprop、Amsgrad四种常用于深度学习的优化器，优选出一个收敛速度最快，验证精度最高的优化器作为训练预训练模型时所采用的优化器，并通过调整其他参数获得最优的预训练模型。
作为本发明的一种优选技术方案，所述步骤四自学习是指：对于所有10类病害，首先每类使用5个标注样本进行学习来训练分类器，然后每类加入30个无标注的样本，由分类器推断无标注样本的类别并赋予伪标注。
由ICI算法推断伪标注样本的可信度，选择可信的伪标注样本加入训练更新分类器，提高分类器的分类性能，不可信的伪标注样本被返回，重新由更新后的分类器推断类别。
重复这个过程，确保所有无标注样本均被选中，直到每类最多5个伪标注样本被排除在外(最不可信的伪标注样本予以剔除)，此时正确的伪标注样本都已被用于更新分类器。
此时分类器的性能为最佳，最后在测试集上进行分类预测。
本实施例训练卷积神经网络的硬件及软件条件：所有试验都基于ubuntu 14.04；CPU：ES-2650v4，2.20GHz×13；GPU：NVIDIA TITAN Xp；Python 3.6.12；Pytorch 1.4.0；CUDA 10.0.130；Cudnn 7.6.5。
首先构建小样本数据集，用作训练预训练模型的样本数量，验证集样本数量和测试样本(目标域)数量分别为14类35186张，14类7962张以及10类500张，10类目标域样本示意图如图1至图10。其中，10类目标域病害分别为樱桃白粉病(图1)、健康玉米(图2)、玉米锈病(图3)、葡萄黑腐病(图4)、葡萄黑麻疹(图5)、葡萄叶斑病(图6)、土豆早疫病(图7)、土豆晚疫病(图8)、草莓叶焦病(图9)、番茄早疫病(图10)，类别标注为0-9，在试验前统一将所有图片尺寸剪裁为168×168，目标域每类含标注样本5张，未标注样本30张以及测试样本15张。
如图11的流程图所示，本实施例实施的一种基于迁移学习+自学习的小样本植物病害识别方法，首先先在14类35186张数据集上训练预训练模型，获得特征提取能力，后将其迁移至10类目标域数据集中。由每类5个标注样本进行学习来训练分类器，然后每类加入30个无标注的样本，由分类器推断无标注样本的类别并赋予伪标注。
由ICI算法推断伪标注样本的可信度，选择可信的伪标注样本加入训练更新分类器，提高分类器的分类性能，不可信的伪标注样本被返回，重新由更新后的分类器推断类别并赋予相应的伪标签。
ICI算法判断伪标签样本的可信度是本发明中最为重要的一个环节，如若不对分类器赋予无标注样本伪标注的可信度进行判断，将错误的伪标注样本加入训练会降低分类器的分类性能。
下面ICI算法判断伪标注样本可信度的方式作一介绍：
在统计学以及金融领域，目前的研究者们正在研究机器学习中的偶发参数的问题，认为模型中存在常规的结构化参数以外，还会存在偶发参数，例如对于一个线性回归模型表示为：
其中∈i服从均值为0的正态分布，β为回归系数，γi为与样本的相关的参数，(xi，yi)为样本点对应的特征向量，通常求解当回归系数β的值为多少的时候，该线性回归模型为最佳。
基于这种思想，对有标签样本和伪标签样本构建含偶发参数的线性回归模型，并求解相关的结构化参数和偶发参数，模型可优化为：
与之前的线性回归模型不同的是，ICI模型注重当对β的估计
较弱时,i的估计
可反应样本点的拟合程度。例如，可以将γi视为对线性回归模型
的修正，‖γi‖越大，回归模型对该样本点的拟合程度越差。当该样本的的标签为伪标签时，可反应该样本点的可信程度。
为解决上述问题，该模型损失函数为：
其中
为Frobenius范数，γ为偶发参数，Y、X分别指指标签和特征输入，
为惩罚项，λ为惩罚项系数。求出该方程对β的偏导并令其为0得
(+为广义逆矩阵)。基于之前的分析，此网络并不关注
的解，同时
也依赖于对γ的估计，即利用γ来衡量每个样本沿其正则化路径的可信度，则可将问题归为：
其中，H＝X(XTX)+XT。进一步定义
则可化简为：
此时，该问题便变为以γ为回归系数的线性回归模型。对于此模型，当λ＝0时所有的γ都是非零的，随着λ的增加，γ逐渐减小，当λ＝∞时γ所有的项都是0。基于最初关于γ的假设，在这个过程中当某一项γi更先变为0，说明我们比较弱的线性回归模型就可以拟合该样本点，那么这个样本点的可信程度就更高。因此，设置惩罚项
使得γ以每一行，即每一个样本点衰减，根据γi变为0对应的λ值对所有的伪标签样本进行排序，并从中选出最近可信的子集与有标签样本集合一起重新训练线性分类器。
图12为本发明所采取的特征提取网络ResNet-12，其拥有12层网络结构，含4个residual block，每个block含有三个3×3的卷积层，每个卷积层后跟BatchNorm层并采用Relu激活函数，每个block后都采用2×2的最大池化层减小输出，最终输出为512维的特征向量。
对于每一个病害样本的特征，本发明采用embedding将样本高维的原始数据映射至低维，采用PCA降维，将d＝512的特征张量降至d＝10，以此来加速模型的训练速度以及提高最终的识别精度。
在特征提取网络的选择上对比ConvNet、MobileNet、ResNet-12、Wide-ResNet以及DenseNet-121，在每类5张标注样本及30张无标注样本的基础下对比这5个网络的识别平均准确率以及单张图片的检测时间，测试结果如下表：
由表可知，ConvNet及MobileNet虽然单张图片的检测时间很短，但是识别准确率较低，无法满足实际应用的需求，而DenseNet-121和Wide-ResNet虽然识别精度高，但是DenseNet-121网络层数深，Wide-ResNet网络结构宽，参数也在呈指数倍增长，单张图片训练所耗时间长，虽然单张图片的训练时间也不长，但当涉及数万个样本，数百个epochs的时候所花时间差距是非常大的，在实际应用中具有很多局限性，所以本发明采用兼顾网络较轻以及识别准确率高的ResNet-12作为特征提取网络。
对于迁移模型的训练，如图13和图14，在优化器的选择上，本发明对比了深度学习常用的四种优化器Adam、Amsgrad、带动量的SGD以及RMSprop，动量因子设置为0.9并且全都采用交叉熵损失函数。四者之间每个epoch的训练损失及验证精度分别进新可视化对比，由图，SGD优化器在第32个epoch后完全收敛，而Adam和RMSgrad分别在第61个epoch左右收敛，Amsgrad在90个epoch后收敛。因此SGD优化器在收敛速度上更胜一筹，因此选择SGD优化器来训练迁移学习额预训练模型。在第33个epoch后验证精度不再提升，因此第33个epoch所对应的预训练模型为最佳模型，本发明选择这个epoch的预训练模型为迁移学习模型。
如图15，对所有10类植物病害的每类15个测试样本的预测结果用混淆矩阵进行可视化，整体的分类精度为88.67％
需要注意的是，具体实施方式仅仅是对本发明技术方案的解释和说明，不能以此限定权利保护范围。凡根据本发明权利要求书和说明书所做的仅仅是局部改变的，仍应落入本发明的保护范围内。
Claims (5)
1.一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于包括以下步骤：
步骤一：获取目标域小样本数据集；
步骤二：引入迁移学习，利用基数据集对深度学习模型进行预训练，然后将预训练后的深度学习模型迁移到与基数据集中类别无交叉的目标域上进行学习；
步骤三：引入自学习，利用目标域中有标注的植物病害样本训练迁移后的模型，然后利用训练好的模型推断所有无标注植物病害的类别并赋予伪标注，之后判断伪标注的可信度；
步骤四：设置可信度阈值，并将可信度高于阈值的伪标注样本加入有标注的植物病害样本中，得到扩充植物病害有标注样本集，并利用扩充植物病害有标注样本集更新模型，得到最终模型；
步骤五：利用最终模型识别小样本植物病害。
2.根据权利要求1所述的一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于所述深度学习模型为ResNet-12。
3.根据权利要求2所述的一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于所述步骤二中基数据集采用公共数据集plantvillage。
4.根据权利要求3所述的一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于所述判断伪标注的可信度通过ICI算法得到。
5.根据权利要求4所述的一种基于迁移学习与自学习的小样本植物病害识别方法，其特征在于所述目标域小样本数据集包含每类5个有标注的植物病害样本集和每类多个无标注的样本集。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110574163.0A CN113298150A (zh) | 2021-05-25 | 2021-05-25 | 一种基于迁移学习与自学习的小样本植物病害识别方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110574163.0A CN113298150A (zh) | 2021-05-25 | 2021-05-25 | 一种基于迁移学习与自学习的小样本植物病害识别方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113298150A true CN113298150A (zh) | 2021-08-24 |
Family
ID=77324849
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110574163.0A Pending CN113298150A (zh) | 2021-05-25 | 2021-05-25 | 一种基于迁移学习与自学习的小样本植物病害识别方法 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113298150A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114677553A (zh) * | 2021-12-31 | 2022-06-28 | 广西慧云信息技术有限公司 | 一种解决农作物病虫害样本不均衡问题的图像识别方法 |
| CN117237814A (zh) * | 2023-11-14 | 2023-12-15 | 四川农业大学 | 一种基于注意力机制优化的大规模果园虫情监测方法 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20010036304A1 (en) * | 2000-01-22 | 2001-11-01 | Yang Mary M. | Visualization and processing of multidimensional data using prefiltering and sorting criteria |
| US20150102216A1 (en) * | 2013-09-16 | 2015-04-16 | Biodesix, Inc. | Classification Generation Method Using Combination of Mini-Classifiers with Regularization and Uses Thereof |
| CN104616031A (zh) * | 2015-01-22 | 2015-05-13 | 哈尔滨工业大学深圳研究生院 | 迁移学习方法及装置 |
| CN110717554A (zh) * | 2019-12-05 | 2020-01-21 | 广东虚拟现实科技有限公司 | 图像识别方法、电子设备及存储介质 |
| CN112069921A (zh) * | 2020-08-18 | 2020-12-11 | 浙江大学 | 一种基于自监督知识迁移的小样本视觉目标识别方法 |
-
2021
- 2021-05-25 CN CN202110574163.0A patent/CN113298150A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20010036304A1 (en) * | 2000-01-22 | 2001-11-01 | Yang Mary M. | Visualization and processing of multidimensional data using prefiltering and sorting criteria |
| US20150102216A1 (en) * | 2013-09-16 | 2015-04-16 | Biodesix, Inc. | Classification Generation Method Using Combination of Mini-Classifiers with Regularization and Uses Thereof |
| CN104616031A (zh) * | 2015-01-22 | 2015-05-13 | 哈尔滨工业大学深圳研究生院 | 迁移学习方法及装置 |
| CN110717554A (zh) * | 2019-12-05 | 2020-01-21 | 广东虚拟现实科技有限公司 | 图像识别方法、电子设备及存储介质 |
| CN112069921A (zh) * | 2020-08-18 | 2020-12-11 | 浙江大学 | 一种基于自监督知识迁移的小样本视觉目标识别方法 |
Non-Patent Citations (1)
| Title |
|---|
| 黄建平，陈镜旭等: "基于神经结构搜索的多种植物叶片病害识别", 《农业工程学报》 * |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN114677553A (zh) * | 2021-12-31 | 2022-06-28 | 广西慧云信息技术有限公司 | 一种解决农作物病虫害样本不均衡问题的图像识别方法 |
| CN114677553B (zh) * | 2021-12-31 | 2024-05-14 | 广西慧云信息技术有限公司 | 一种解决农作物病虫害样本不均衡问题的图像识别方法 |
| CN117237814A (zh) * | 2023-11-14 | 2023-12-15 | 四川农业大学 | 一种基于注意力机制优化的大规模果园虫情监测方法 |
| CN117237814B (zh) * | 2023-11-14 | 2024-02-20 | 四川农业大学 | 一种基于注意力机制优化的大规模果园虫情监测方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Thapa et al. | The plant pathology 2020 challenge dataset to classify foliar disease of apples | |
| Wilson et al. | Towards a generic artificial neural network model for dynamic predictions of algal abundance in freshwater lakes | |
| US10887188B2 (en) | System and methods for data evaluation through network sensitivity analysis | |
| CN113298150A (zh) | 一种基于迁移学习与自学习的小样本植物病害识别方法 | |
| Carbonell et al. | Biological invasion modifies the co‐occurrence patterns of insects along a stress gradient | |
| Matthiopoulos et al. | State-space modelling reveals proximate causes of harbour seal population declines | |
| CN111105045A (zh) | 一种基于改进的蝗虫优化算法构建预测模型的方法 | |
| CN108038517A (zh) | 基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法 | |
| Nigam et al. | Wheat disease severity estimation: a deep learning approach | |
| CN110096976A (zh) | 基于稀疏迁移网络的人体行为微多普勒分类方法 | |
| CN113221447A (zh) | 一种基于改进遗传算法优化bp神经网络的土壤湿度预测方法 | |
| CN108053423A (zh) | 一种多目标动物跟踪方法及装置 | |
| Tirpak et al. | Assessing ecoregional‐scale habitat suitability index models for priority landbirds | |
| Peng et al. | Modified dragonfly algorithm based multilevel thresholding method for color images segmentation | |
| Alshammari et al. | Optimized recurrent neural network mechanism for olive leaf disease diagnosis based on wavelet transform | |
| Farah et al. | A deep learning-based approach for the detection of infested soybean leaves | |
| CN115510991A (zh) | 一种基于1dcnn-lstm多源信息融合模型的日光温室蚜虫预警方法 | |
| Villa et al. | Understanding the role of chronic environmental disturbance in the context of island biogeographic theory | |
| Piyaratne et al. | A model to analyze weather impact on aphid population dynamics: an application on swallowtail catastrophe model | |
| Montejo‐Kovacevich et al. | Exploring context dependency in eco‐evolutionary patterns with the stick insect Timema cristinae | |
| CN115630327A (zh) | 一种基于mssa-svm的电缆隧道环境事故识别方法 | |
| CN108875774A (zh) | 蝴蝶种类识别方法、电子设备、存储介质及*** | |
| Shoup et al. | Long‐Term Standardized Sampling as a Tool for Evaluating Management Actions: BACI Analysis to Reevaluate Predatory Control of Stunted Crappie with Saugeye | |
| CN117648623B (zh) | 一种基于图池化对比学习的网络分类算法 | |
| CN117784615B (zh) | 一种基于impa-rf的火控***故障预测方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| WD01 | Invention patent application deemed withdrawn after publication | ||
| WD01 | Invention patent application deemed withdrawn after publication |
Application publication date: 20210824 |