CN117611906A - 病害识别模型训练的方法及装置、电子设备和存储介质 - Google Patents
病害识别模型训练的方法及装置、电子设备和存储介质 Download PDFInfo
- Publication number
- CN117611906A CN117611906A CN202311607497.9A CN202311607497A CN117611906A CN 117611906 A CN117611906 A CN 117611906A CN 202311607497 A CN202311607497 A CN 202311607497A CN 117611906 A CN117611906 A CN 117611906A
- Authority
- CN
- China
- Prior art keywords
- training
- module
- disease
- characteristic
- identification model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012549 training Methods 0.000 title claims abstract description 220
- 201000010099 disease Diseases 0.000 title claims abstract description 190
- 208000037265 diseases, disorders, signs and symptoms Diseases 0.000 title claims abstract description 190
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 16
- 230000006870 function Effects 0.000 claims description 82
- 230000004913 activation Effects 0.000 claims description 40
- 238000011176 pooling Methods 0.000 claims description 28
- 238000001914 filtration Methods 0.000 claims description 5
- 230000016273 neuron death Effects 0.000 abstract description 6
- 230000007246 mechanism Effects 0.000 abstract description 5
- 238000010586 diagram Methods 0.000 description 20
- 238000012545 processing Methods 0.000 description 13
- 238000005516 engineering process Methods 0.000 description 11
- 238000004590 computer program Methods 0.000 description 10
- 238000004891 communication Methods 0.000 description 8
- 238000013473 artificial intelligence Methods 0.000 description 5
- 238000013135 deep learning Methods 0.000 description 5
- 230000008034 disappearance Effects 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 238000000605 extraction Methods 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 230000003287 optical effect Effects 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000012935 Averaging Methods 0.000 description 2
- 230000003213 activating effect Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000007547 defect Effects 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000010801 machine learning Methods 0.000 description 2
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000001413 cellular effect Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 238000013136 deep learning model Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003745 diagnosis Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000003902 lesion Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000007726 management method Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 238000003058 natural language processing Methods 0.000 description 1
- 238000003062 neural network model Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000001953 sensory effect Effects 0.000 description 1
- 238000012163 sequencing technique Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
- 238000013519 translation Methods 0.000 description 1
- 239000013598 vector Substances 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
- G06V10/765—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects using rules for classification or partitioning the feature space
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/0464—Convolutional networks [CNN, ConvNet]
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/048—Activation functions
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/82—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Software Systems (AREA)
- Data Mining & Analysis (AREA)
- Molecular Biology (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Life Sciences & Earth Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Databases & Information Systems (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本公开提供了一种病害识别模型训练的方法及装置、电子设备和存储介质,将叶片病害图输入嵌入模块进行训练得到第一特征;基于第一特征对残差模块进行训练,得到第二特征;将第二特征输入分类模块进行训练,得到训练结果;判断是否训练完成;若训练未完成,则利用随机梯度下降算法对模型参数进行优化更新,并对更新模型参数的病害识别模型重新训练。与相关技术相比,本公开提供的病害识别模型基于泄露线性整流函数解决了传统残差网络中在负数区域神经元死亡的问题,提高了病害识别模型的鲁棒性及非线性表达能力,提高病害识别模型的识别准确率;通过在残差模块中增加注意力机制能够获取叶片病害图中的重要信息提升病害识别模型的识别准确率。
Description
技术领域
本公开涉及图像识别技术领域,尤其涉及一种病害识别模型训练的方法及装置、电子设备和存储介质。
背景技术
随着深度学习理论和相关技术的迅速发展,图像识别技术广泛应用在生活中的各个领域。在农业方面,通过叶片病害图像进行疾病自动分类,为农作物病害自动诊断提供了理论基础与技术支持。通过深度卷积神经网络的方法,能够直接对图像特征进行提取并且同时把提取到的图像特征传递到全连接层进行分类,具有较强的容错能力和鲁棒性。但是,目前基于深度卷积神经网络的图像识别模型在病害识别中的识别准确率还有待提高。
发明内容
本公开提供了一种病害识别模型训练的方法及装置、电子设备和存储介质。其主要目的在于实现提高基于深度卷积神经网络的图像识别模型在病害识别中的识别准确率。
根据本公开的第一方面,提供了一种病害识别模型训练的方法,所述病害识别模型包括嵌入模块、残差模块及分类模块;所述方法包括:
将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;
基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;
将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;
判断所述病害识别模型是否训练完成;
若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
可选的,所述将叶片病害图输入所述嵌入模块进行训练得到第一特征,包括:
将所述叶片病害图集分别输入四个并行网络进行训练,所述四个并行网络包括三个不同卷积核大小的卷积层网络及一个池化层网络;
基于过滤连接层,将所述四个并行网络输出的特征进行拼接,得到所述第一特征。
可选的,所述基于所述第一特征对所述残差模块进行训练,得到第二特征,包括:
将所述第一特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第三特征;
将所述第三特征输入四个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第四特征;
将所述第四特征输入六个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第五特征;
将所述第五特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到所述第二特征。
可选的,所述将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果,包括:
将所述第二特征输入所述分类模块的平均池化层进行训练;
基于全连接层,对所述平均池化层处理后的特征进行分类处理,得到所述病害识别模型的训练结果。
可选的,所述判断所述病害识别模型是否训练完成,包括:
确定所述病害识别模型的训练次数是否超过训练次数阈值,其中,所述训练阈值由预设学习率确定;
若未超过所述训练次数阈值,则确定所述病害识别模型训练未完成。
可选的,所述方法还包括:
若超过所述训练次数阈值,则根据所述训练结果验证所述病害识别模型的识别准确率,在识别准确率超过准确率阈值时,确定所述病害识别模型训练完成。
可选的,所述对更新模型参数的病害识别模型重新进行训练,包括:
将所述叶片病害图输入更新参数的嵌入模块进行训练得到第六特征,所述更新参数的嵌入模块中的激活函数为所述泄露线性整流函数;
基于所述第六特征对更新参数的残差模块进行训练,得到第七特征,所述更新参数的残差模块包括更新参数的分组卷积模块及更新参数的卷积注意力模块;所述更新参数的分组卷积模块中的激活函数为所述泄露线性整流函数;
将所述第七特征输入更新参数的分类模块进行训练,得到更新参数的病害识别模型的训练结果。
根据本公开的第二方面,提供了一种病害识别模型训练的装置,所述病害识别模型包括嵌入模块、残差模块及分类模块;包括:
第一训练单元,用于将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;
第二训练单元,用于基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;
第三训练单元,用于将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;
判断单元,用于判断所述病害识别模型是否训练完成;
优化单元,用于在所述病害识别模型训练未完成时,利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
可选的,所述第一训练单元包括:
第一训练模块,用于将所述叶片病害图集分别输入四个并行网络进行训练,所述四个并行网络包括三个不同卷积核大小的卷积层网络及一个池化层网络;
拼接模块,用于基于过滤连接层,将所述四个并行网络输出的特征进行拼接,得到所述第一特征。
可选的,所述第二训练单元包括:
第二训练模块,用于将所述第一特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第三特征;
第三训练模块,用于将所述第三特征输入四个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第四特征;
第四训练模块,用于将所述第四特征输入六个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第五特征;
第五训练模块,用于将所述第五特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到所述第二特征。
可选的,所述第三训练单元包括:
第六训练模块,用于将所述第二特征输入所述分类模块的平均池化层进行训练;
分类模块,用于基于全连接层,对所述平均池化层处理后的特征进行分类处理,得到所述病害识别模型的训练结果。
可选的,所述判断单元包括:
第一确定模块,用于确定所述病害识别模型的训练次数是否超过训练次数阈值,其中,所述训练阈值由预设学习率确定;
第二确定模块,用于若未超过所述训练次数阈值,则确定所述病害识别模型训练未完成。
可选的,所述装置还包括:
确定单元,用于若超过所述训练次数阈值,则根据所述训练结果验证所述病害识别模型的识别准确率,在识别准确率超过准确率阈值时,确定所述病害识别模型训练完成。
可选的,所述优化单元包括:
第七训练模块,用于将所述叶片病害图输入更新参数的嵌入模块进行训练得到第六特征,所述更新参数的嵌入模块中的激活函数为所述泄露线性整流函数;
第八训练模块,用于基于所述第六特征对更新参数的残差模块进行训练,得到第七特征,所述更新参数的残差模块包括更新参数的分组卷积模块及更新参数的卷积注意力模块;所述更新参数的分组卷积模块中的激活函数为所述泄露线性整流函数;
第九训练模块,用于将所述第七特征输入更新参数的分类模块进行训练,得到更新参数的病害识别模型的训练结果。
根据本公开的第三方面,提供了一种电子设备,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行前述第一方面所述的方法。
根据本公开的第四方面,提供了一种存储有计算机指令的非瞬时计算机可读存储介质,其中,所述计算机指令用于使所述计算机执行前述第一方面所述的方法。
根据本公开的第五方面,提供了一种计算机程序产品,包括计算机程序,所述计算机程序在被处理器执行时实现如前述第一方面所述的方法。
本公开提供了一种病害识别模型训练的方法及装置、电子设备和存储介质,所述病害识别模型包括嵌入模块、残差模块及分类模块;将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;判断所述病害识别模型是否训练完成;若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。与相关技术相比,本公开提供的病害识别模型基于泄露线性整流函数解决了传统残差网络中在负数区域神经元死亡的问题,提高了病害识别模型的鲁棒性及非线性表达能力,进而提高病害识别模型的识别准确率;通过在残差模块中增加注意力机制能够获取叶片病害图中的重要信息进一步提升病害识别模型的识别准确率。
应当理解,本部分所描述的内容并非旨在标识本申请的实施例的关键或重要特征,也不用于限制本申请的范围。本申请的其它特征将通过以下的说明书而变得容易理解。
附图说明
附图用于更好地理解本方案,不构成对本公开的限定。其中:
图1为本公开实施例所提供的一种病害识别模型训练的方法的流程示意图;
图2为本公开实施例所提供的另一种病害识别模型训练的方法的流程示意图;
图3为一种IL-CBAM-ResNeXt50模型结构示意图;
图4为一种Inception模块的结构示意图;
图5为一种ResNet模块与ResNeXt模块的结构对比图;
图6为一种通道注意力模块结构示意图;
图7为一种空间注意力模块结构示意图;
图8为一种卷积注意力模块的结构示意图;
图9为一种卷积注意力模块在残差模块中的位置结构图;
图10为一种病害识别模型的训练方法流程图;
图11为本公开实施例提供的一种病害识别模型训练的装置的结构示意图;
图12为本公开实施例提供的另一种病害识别模型训练的装置的结构示意图;
图13为本公开实施例提供的示例电子设备的示意性框图。
具体实施方式
以下结合附图对本公开的示范性实施例做出说明,其中包括本公开实施例的各种细节以助于理解,应当将它们认为仅仅是示范性的。因此,本领域普通技术人员应当认识到,可以对这里描述的实施例做出各种改变和修改,而不会背离本公开的范围和精神。同样,为了清楚和简明,以下的描述中省略了对公知功能和结构的描述。
下面参考附图描述本公开实施例的病害识别模型训练的方法及装置、电子设备和存储介质。
图1为本公开实施例所提供的一种病害识别模型训练的方法的流程示意图。
如图1所示,该方法包含以下步骤:
步骤101,将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数。
在本公开的实施例中,嵌入模块为Inception模块,传统残差网络中的ReLU激活函数在负数区域内会出现神经元死亡的现象。本公开中Inception模块的激活函数为LeakyReLU激活函数,它允许小于零的输入有一个小的梯度,而不是完全的零梯度。这意味着在训练过程中,即使输入是负数,也能够保持一定的梯度,从而有助于避免梯度消失问题,提高了网络的稳定性和收敛速度。
将叶片病害图输入嵌入模块进行训练,可以通过深度学习的方式学习到叶片病害图像的抽象特征表示,从而有助于识别和分类不同类型的叶片病害。这种基于深度学习的特征提取方法,可以帮助我们更好地理解叶片病害图像中的特征,提高对病害的识别准确性和鲁棒性。通过嵌入模块训练得到的第一特征,可以作为后续神经网络模型的输入,用于进行更高级的图像识别和分类任务。这样可以提高整个***的性能和效率,使得叶片病害的自动识别和分类更加准确和可靠。
步骤102,基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数。
在本公开的实施例中,残差模块由分组卷积模块及卷积注意力模块组合而成;分组卷积模块为ResNeXt模块,卷积注意力模块为CBAM(Convolutional Block AttentionModule)模块。为了解决传统残差网络中的ReLU激活函数在负数区域内会出现神经元死亡的问题,同样在残差模块中的激活函数替换为Leaky ReLU激活函数。
分组卷积模块可以将输入特征图分成多个子集,每个子集进行独立的卷积操作,然后将各个子集的输出进行拼接,这样可以降低模型的参数量,减少计算量,提高训练速度,同时也有助于增强模型的泛化能力。卷积注意力模块可以帮助网络更好地聚焦于图像中的重要区域,提高特征提取的效率和准确性。通过引入注意力机制,网络可以学习到图像中不同区域的重要性,从而更好地捕捉到叶片病害图像的关键特征,有助于提高后续任务的性能。使用泄露线性整流函数作为激活函数,可以帮助避免梯度消失问题,提高网络的稳定性和收敛速度,同时也有助于增强网络对负数输入的处理能力,提高模型的非线性拟合能力。
步骤103,将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果。
在本公开的实施例中,分类模块用于将嵌入模块及残差模块生成的特征进行分类处理。第二特征经过残差模块的处理,已经包含了更加丰富、更加抽象的叶片病害特征,相对于原始图像更能够准确地表达叶片病害的信息。因此,将第二特征输入分类模块进行训练,可以使得分类模块更加容易学习到叶片病害的特征,提高模型的分类准确度。残差模块的引入可以帮助缓解深层神经网络中的梯度消失问题,使得模型更容易训练和优化。同时,残差模块还可以增加网络的深度,提高模型的表达能力和非线性拟合能力,从而使得模型更加适用于复杂的叶片病害分类任务。分类模块可以通过训练来学习到叶片病害的类别信息和特征表示,从而实现对不同类型叶片病害的准确识别和分类。
步骤104,判断所述病害识别模型是否训练完成。
在本公开的实施例中,判断病害识别模型的方法可以是通过监控训练过程中的损失函数值,当训练损失和验证损失趋于稳定并且收敛到一个较小的值时,可以认为模型的训练已经完成;也可以是通过监控模型在训练集和验证集上的准确率和精确度;还可以是通过观察梯度下降的情况,当梯度下降的幅度趋于平缓并且收敛到一个较小的值时,可以认为模型的训练已经完成;本公开对此不予限定。需要注意的是,针对具体的任务和数据集,可能会有不同的标准来评估模型的训练完成情况。
步骤105,若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
在本公开的实施例中,如果病害识别模型的训练未完成,可以利用随机梯度下降(Stochastic Gradient Descent,SGD)算法对模型的参数进行优化更新,并重新进行训练。通过随机梯度下降算法对模型参数进行优化更新,可以帮助模型更快地收敛到更优的解。随机梯度下降算法可以在每个训练样本上进行参数更新,从而更快地找到局部最优解或全局最优解。重新训练更新后的模型可以使模型更加准确地预测叶片病害的类别。通过对模型参数的优化更新,可以使得模型更好地拟合训练数据,从而提高分类准确度。重新训练更新后的模型可以提高模型的泛化能力,使得模型对新样本的预测能力更加稳健。通过优化更新模型参数,可以降低模型在训练集上的过拟合程度,从而提高泛化能力。重新训练更新后的模型可以提高模型的鲁棒性,使得模型对噪声和干扰的容忍能力更强。通过优化更新模型参数,可以使得模型更能够适应不同的数据分布和环境变化。
本公开提供了一种病害识别模型训练的方法,所述病害识别模型包括嵌入模块、残差模块及分类模块;将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;判断所述病害识别模型是否训练完成;若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。与相关技术相比,本公开提供的病害识别模型基于泄露线性整流函数解决了传统残差网络中在负数区域神经元死亡的问题,提高了病害识别模型的鲁棒性及非线性表达能力,进而提高病害识别模型的识别准确率;通过在残差模块中增加注意力机制能够获取叶片病害图中的重要信息进一步提升病害识别模型的识别准确率。
为了清楚的说明本公开的实施例,本实施例提供了另一种病害识别模型训练的方法的流程示意图。
如图2所示,该方法包含以下步骤:
步骤201,将所述叶片病害图集分别输入四个并行网络进行训练,所述四个并行网络包括三个不同卷积核大小的卷积层网络及一个池化层网络。
步骤202,基于过滤连接层,将所述四个并行网络输出的特征进行拼接,得到所述第一特征。
本实施例提供了图3所示一种IL-CBAM-ResNeXt50模型结构示意图。请根据图3对本实施例进行理解。
具体在步骤201至步骤202中,Inception模块的激活函数为Leaky ReLU激活函数,它允许小于零的输入有一个小的梯度,而不是完全的零梯度。这意味着在训练过程中,即使输入是负数,也能够保持一定的梯度,从而有助于避免梯度消失问题,提高了网络的稳定性和收敛速度。Leaky ReLU激活函数公式如(1)所示:
式中:a为超参数值,且a>0,通常a取值为0.01。
传统残差网络ResNet50在图像输入时,初始7×7卷积核尺寸单一,为了适应不同病斑的大小,提取更多的疾病细节,需要根据实际情况调整残差网络中的卷积核,重新设计卷积核尺寸大小。图4为一种Inception模块的结构示意图。如图4所示,Inception模块用空间大小为1×1、3×3、5×5的卷积层和3×3的池化层4个并行网络层代替原始残差网络中的7×7卷积核。表1为改进的Inception模块结构参数:
表1Inception模块结构表
表1中的3×3reduce和5×5reduce分别表示在3×3,5×5卷积操作之前使用了1×1卷积,pool_proj表示在maxpool之后使用1×1卷积。改进的Inception模块分为4个分支,采用不同尺度的卷积核来进行处理,原始输入图像为224×224×3,进入4个分支的操作分别为:(1)通过16个1×1的卷积核,输出特征为224×224×16,(2)通过24个1×1的卷积核,作为3×3卷积核之前的降维,输出特征为224×224×24,再进行32个3×3的卷积,输出特征为224×224×32,(3)通过4个1×1的卷积核,作为5×5卷积核之前的降维,输出特征为224×224×4,再进行8个5×5的卷积,输出特征为224×224×8,(4)通过3×3maxpool最大池化层,输出特征224×224×3,再进行8个1×1的卷积,输出特征为224×224×8。将4个输出特征结果进行连接,即对这4部分输出结果的第三维并联,即16+32+8+8=64,最终输出特征为224×224×64。
步骤203,将所述第一特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第三特征。
步骤204,将所述第三特征输入四个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第四特征。
步骤205,将所述第四特征输入六个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第五特征。
步骤206,将所述第五特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到所述第二特征。
具体在步骤203至步骤206中,请继续参阅图3,在将第一特征输入残差模块之前,将第一特征输入maxpool层进行降采样处理。分组卷积模块为ResNeXt模块,图5为一种ResNet模块与ResNeXt模块的结构对比图,(a)为普通的ResNet模块,(b)是与之相对应的ResNeXt模块,图中展示的是基数为32的ResNeXt模块,(c)为残差结构中分组卷积的简洁表示形式。残差模块中的激活函数如公式(1)所示。
卷积注意力模块为CBAM(Convolutional Block Attention Module)模块,分为两个独立的部分:通道注意力模块(Channel Attention Module)和空间注意力(SpatialAttention Module)模块。图6为一种通道注意力模块结构示意图,首先输入特征图,将特征图经过全局平均池化和全局最大池化操作进行压缩,再分别将两个通道得到的特征经过多层感知机进行卷积运算,将运算得到的结果进行逐元素相加,并利用Sigmoid函数激活得到通道注意力模块的特征图。通道注意力模块公式如(2)所示。
Mc(F)=σ(MLP(AvgP ool(F))+MLP(MaxPoo l(F))) (2)
上式中,F表示输入的特征图,AvgPool()表示全局平均池化,MaxPool()表示全局最大池化,MLP表示多层感知机,σ表示Sigmoid激活函数操作,Mc(F)表示在通道注意力模块上进行的操作。
图7为一种空间注意力模块结构示意图。输入特征图,经过全局平均池化和全局最大池化后将两个空间特征进行concate融合在一起,再将其输入到7×7卷积核进行卷积操作后利用Sigmoid函数激活,得到空间注意力模块的特征图。空间注意力模块公式如(3)所示。
Ms(F′)=σ(f7×7(AvgPool(F′),MaxPool(F′))) (3)
上式中,F’表示由通道注意力模块输出的特征图,Ms(F)表示在空间注意力模块上进行的操作,f7×7表示7×7卷积操作。
图8为一种卷积注意力模块的结构示意图,输入特征图F先送入通道注意力模块,生成通道注意力模块的特征图Mc(F),并与原始输入特征图逐元素相乘得到新的特征图F’。新的特征图F’送入空间注意力模块,生成空间注意力模块的特征图Ms(F’),并与F’逐元素相乘得到最终的特征图F”。CBAM模块公式如(4)和(5)所示。
上式中,F’表示经过通道注意力模块输出的特征图,F”表示经过空间注意力模块输出的特征图,表示逐元素乘法。
为了清楚的说明本实施例中,分组卷积模块与卷积注意力模块之间的结构关系,请参阅图3与图9。图9为一种卷积注意力模块在残差模块中的位置结构图,以步骤203中的结构为例进行说明。在三层分组卷积模块(ResNeXt模块)连接后,再接入卷积注意力模块(CBAM模块)。图9中卷积代表了不同数量的ResNeXt模块对输入的特征向量进行卷积处理。
步骤207,将所述第二特征输入所述分类模块的平均池化层进行训练。
步骤208,基于全连接层,对所述平均池化层处理后的特征进行分类处理,得到所述病害识别模型的训练结果。
具体在步骤207至步骤208中,请继续参阅图3,经嵌入模块与残差模块处理后的叶片病害图,得到第二特征。在深度学***均池化层通常用于对特征图进行降维和提取特征,将特征图的每个通道的特征值取平均,从而得到一个更加抽象和全局的特征表示。平均池化层可以帮助模型提取更加全局和抽象的特征表示,从而能够更好地捕捉图像中的关键特征。这有助于提高模型对叶片病害的识别能力。平均池化层可以对特征图进行降维,减少特征的数量,从而有助于减轻模型的过拟合现象,提高模型的泛化能力。平均池化层可以提取更加全局的特征表示,使得模型对于图像的平移、旋转等变换具有一定的鲁棒性,从而提高模型的鲁棒性和泛化能力。通过对平均池化层进行训练,并基于全连接层对处理后的特征进行分类处理,可以使得模型更好地区分不同类别的叶片病害,从而提高分类准确度。
步骤209,确定所述病害识别模型的训练次数是否超过训练次数阈值,其中,所述训练阈值由预设学习率确定。
具体在步骤209中,学习率(learning rate)是一个超参数,,它通过损失函数的梯度来调节神经网络的网络权重。学习率越小,损失函数的变化速度越慢,损失函数收敛的时间越长。低学习率的使用确保了模型不会遗漏任何局部极小值,但这也意味着模型需要更长的时间才能收敛。学习率过低会导致训练速度非常缓慢,需要大量的训练时间和计算资源。模型训练过程选择的学习率过高,可能会在损失函数最小值上下波动,导致模型无法收敛。学习率是深度学习中的关键超参数,,合理地选择学习率可以使得损失函数可以快速收敛到局部最小值。为了进一步提高模型的稳定性,最大限度地保证模型的训练效率,采用余弦式衰减策略。学习率ηt计算如公式所示。
式中,t表示批次t处,T表示批次总数,η表示初始学习率。
步骤210,若超过所述训练次数阈值,则根据所述训练结果验证所述病害识别模型的识别准确率,在识别准确率超过准确率阈值时,确定所述病害识别模型训练完成。
具体在步骤210中,在确定超过训练次数阈值之后,利用验证集来验证病害识别模型的识别准确率。
步骤211,若未超过所述训练次数阈值,则确定所述病害识别模型训练未完成。
步骤212,若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
作为本公开实施例的一种细化,所述对更新模型参数的病害识别模型重新进行训练,包括:将所述叶片病害图输入更新参数的嵌入模块进行训练得到第六特征,所述更新参数的嵌入模块中的激活函数为所述泄露线性整流函数;基于所述第六特征对更新参数的残差模块进行训练,得到第七特征,所述更新参数的残差模块包括更新参数的分组卷积模块及更新参数的卷积注意力模块;所述更新参数的分组卷积模块中的激活函数为所述泄露线性整流函数;将所述第七特征输入更新参数的分类模块进行训练,得到更新参数的病害识别模型的训练结果。
具体在步骤211至步骤212中,请参阅图10,图10为一种病害识别模型的训练方法流程图。在确定没有达到预定的训练次数时,继续进行训练处理,并使用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新。
需要说明的是,本公开的实施例中可以包括多个步骤,为了便于描述,这些步骤被进行了编号,但是这些标号并非是对步骤之间执行时隙、执行顺序的限定;这些步骤可以以任意的顺序被实施,本公开实施例并不对此作出限定。
与上述的病害识别模型训练的方法相对应,本发明还提出一种病害识别模型训练的装置。由于本发明的装置实施例与上述的方法实施例相对应,对于装置实施例中未披露的细节可参照上述的方法实施例,本发明中不再进行赘述。
图11为本公开实施例提供的一种病害识别模型训练的装置的结构示意图,所述病害识别模型包括嵌入模块、残差模块及分类模块;如图11所示,包括:
第一训练单元31,用于将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;
第二训练单元32,用于基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;
第三训练单元33,用于将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;
判断单元34,用于判断所述病害识别模型是否训练完成;
优化单元35,用于在所述病害识别模型训练未完成时,利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
本公开提供了一种病害识别模型训练的装置,所述病害识别模型包括嵌入模块、残差模块及分类模块;将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;判断所述病害识别模型是否训练完成;若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。与相关技术相比,本公开提供的病害识别模型基于泄露线性整流函数解决了传统残差网络中在负数区域神经元死亡的问题,提高了病害识别模型的鲁棒性及非线性表达能力,进而提高病害识别模型的识别准确率;通过在残差模块中增加注意力机制能够获取叶片病害图中的重要信息进一步提升病害识别模型的识别准确率。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述第一训练单元31包括:
第一训练模块311,用于将所述叶片病害图集分别输入四个并行网络进行训练,所述四个并行网络包括三个不同卷积核大小的卷积层网络及一个池化层网络;
拼接模块312,用于基于过滤连接层,将所述四个并行网络输出的特征进行拼接,得到所述第一特征。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述第二训练单元32包括:
第二训练模块321,用于将所述第一特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第三特征;
第三训练模块322,用于将所述第三特征输入四个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第四特征;
第四训练模块323,用于将所述第四特征输入六个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第五特征;
第五训练模块324,用于将所述第五特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到所述第二特征。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述第三训练单元33包括:
第六训练模块331,用于将所述第二特征输入所述分类模块的平均池化层进行训练;
分类模块332,用于基于全连接层,对所述平均池化层处理后的特征进行分类处理,得到所述病害识别模型的训练结果。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述判断单元34包括:
第一确定模块341,用于确定所述病害识别模型的训练次数是否超过训练次数阈值,其中,所述训练阈值由预设学习率确定;
第二确定模块342,用于若未超过所述训练次数阈值,则确定所述病害识别模型训练未完成。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述装置还包括:
确定单元36,用于若超过所述训练次数阈值,则根据所述训练结果验证所述病害识别模型的识别准确率,在识别准确率超过准确率阈值时,确定所述病害识别模型训练完成。
进一步地,在本实施例一种可能的实现方式中,如图12所示,所述优化单元35包括:
第七训练模块351,用于将所述叶片病害图输入更新参数的嵌入模块进行训练得到第六特征,所述更新参数的嵌入模块中的激活函数为所述泄露线性整流函数;
第八训练模块352,用于基于所述第六特征对更新参数的残差模块进行训练,得到第七特征,所述更新参数的残差模块包括更新参数的分组卷积模块及更新参数的卷积注意力模块;所述更新参数的分组卷积模块中的激活函数为所述泄露线性整流函数;
第九训练模块353,用于将所述第七特征输入更新参数的分类模块进行训练,得到更新参数的病害识别模型的训练结果。
需要说明的是,前述对方法实施例的解释说明,也适用于本实施例的装置,原理相同,本实施例中不再限定。
根据本公开的实施例,本公开还提供了一种电子设备、一种可读存储介质和一种计算机程序产品。
图13示出了可以用来实施本公开的实施例的示例电子设备400的示意性框图。电子设备旨在表示各种形式的数字计算机,诸如,膝上型计算机、台式计算机、工作台、个人数字助理、服务器、刀片式服务器、大型计算机、和其它适合的计算机。电子设备还可以表示各种形式的移动装置,诸如,个人数字处理、蜂窝电话、智能电话、可穿戴设备和其它类似的计算装置。本文所示的部件、它们的连接和关系、以及它们的功能仅仅作为示例,并且不意在限制本文中描述的和/或者要求的本公开的实现。
如图13所示,设备400包括计算单元401,其可以根据存储在ROM(Read-OnlyMemory,只读存储器)402中的计算机程序或者从存储单元408加载到RAM(Random AccessMemory,随机访问/存取存储器)403中的计算机程序,来执行各种适当的动作和处理。在RAM403中,还可存储设备400操作所需的各种程序和数据。计算单元401、ROM 402以及RAM 403通过总线404彼此相连。I/O(Input/Output,输入/输出)接口405也连接至总线404。
设备400中的多个部件连接至I/O接口405,包括:输入单元406,例如键盘、鼠标等;输出单元407,例如各种类型的显示器、扬声器等;存储单元408,例如磁盘、光盘等;以及通信单元409,例如网卡、调制解调器、无线通信收发机等。通信单元409允许设备400通过诸如因特网的计算机网络和/或各种电信网络与其他设备交换信息/数据。
计算单元401可以是各种具有处理和计算能力的通用和/或专用处理组件。计算单元401的一些示例包括但不限于CPU(Central Processing Unit,中央处理单元)、GPU(Graphic Processing Units,图形处理单元)、各种专用的AI(Artificial Intelligence,人工智能)计算芯片、各种运行机器学习模型算法的计算单元、DSP(DigitalSignal Processor,数字信号处理器)、以及任何适当的处理器、控制器、微控制器等。计算单元401执行上文所描述的各个方法和处理,例如病害识别模型训练的方法。例如,在一些实施例中,病害识别模型训练的方法可被实现为计算机软件程序,其被有形地包含于机器可读介质,例如存储单元408。在一些实施例中,计算机程序的部分或者全部可以经由ROM402和/或通信单元409而被载入和/或安装到设备400上。当计算机程序加载到RAM 403并由计算单元401执行时,可以执行上文描述的方法的一个或多个步骤。备选地,在其他实施例中,计算单元401可以通过其他任何适当的方式(例如,借助于固件)而被配置为执行前述病害识别模型训练的方法。
本文中以上描述的***和技术的各种实施方式可以在数字电子电路***、集成电路***、FPGA(Field Programmable Gate Array,现场可编程门阵列)、ASIC(Application-Specific Integrated Circuit,专用集成电路)、ASSP(Appl ication SpecificStandard Product,专用标准产品)、SOC(System On Chip,芯片上***的***)、CPLD(Complex Programmable Logic Device,复杂可编程逻辑设备)、计算机硬件、固件、软件、和/或它们的组合中实现。这些各种实施方式可以包括:实施在一个或者多个计算机程序中,该一个或者多个计算机程序可在包括至少一个可编程处理器的可编程***上执行和/或解释,该可编程处理器可以是专用或者通用可编程处理器,可以从存储***、至少一个输入装置、和至少一个输出装置接收数据和指令,并且将数据和指令传输至该存储***、该至少一个输入装置、和该至少一个输出装置。
用于实施本公开的方法的程序代码可以采用一个或多个编程语言的任何组合来编写。这些程序代码可以提供给通用计算机、专用计算机或其他可编程数据处理装置的处理器或控制器,使得程序代码当由处理器或控制器执行时使流程图和/或框图中所规定的功能/操作被实施。程序代码可以完全在机器上执行、部分地在机器上执行,作为独立软件包部分地在机器上执行且部分地在远程机器上执行或完全在远程机器或服务器上执行。
在本公开的上下文中,机器可读介质可以是有形的介质,其可以包含或存储以供指令执行***、装置或设备使用或与指令执行***、装置或设备结合地使用的程序。机器可读介质可以是机器可读信号介质或机器可读储存介质。机器可读介质可以包括但不限于电子的、磁性的、光学的、电磁的、红外的、或半导体***、装置或设备,或者上述内容的任何合适组合。机器可读存储介质的更具体示例会包括基于一个或多个线的电气连接、便携式计算机盘、硬盘、RAM、ROM、EPROM(Electrically Programmable Read-Only-Memory,可擦除可编程只读存储器)或快闪存储器、光纤、CD-ROM(Compact Di sc Read-Only Memory,便捷式紧凑盘只读存储器)、光学储存设备、磁储存设备、或上述内容的任何合适组合。
为了提供与用户的交互,可以在计算机上实施此处描述的***和技术,该计算机具有:用于向用户显示信息的显示装置(例如,CRT(Cathode-Ray Tube,阴极射线管)或者LCD(Liquid Crystal Display,液晶显示器)监视器);以及键盘和指向装置(例如,鼠标或者轨迹球),用户可以通过该键盘和该指向装置来将输入提供给计算机。其它种类的装置还可以用于提供与用户的交互;例如,提供给用户的反馈可以是任何形式的传感反馈(例如,视觉反馈、听觉反馈、或者触觉反馈);并且可以用任何形式(包括声输入、语音输入或者、触觉输入)来接收来自用户的输入。
可以将此处描述的***和技术实施在包括后台部件的计算***(例如,作为数据服务器)、或者包括中间件部件的计算***(例如,应用服务器)、或者包括前端部件的计算***(例如,具有图形用户界面或者网络浏览器的用户计算机,用户可以通过该图形用户界面或者该网络浏览器来与此处描述的***和技术的实施方式交互)、或者包括这种后台部件、中间件部件、或者前端部件的任何组合的计算***中。可以通过任何形式或者介质的数字数据通信(例如,通信网络)来将***的部件相互连接。通信网络的示例包括:LAN(LocalArea Network,局域网)、WAN(Wide Area Network,广域网)、互联网和区块链网络。
计算机***可以包括客户端和服务器。客户端和服务器一般远离彼此并且通常通过通信网络进行交互。通过在相应的计算机上运行并且彼此具有客户端-服务器关系的计算机程序来产生客户端和服务器的关系。服务器可以是云服务器,又称为云计算服务器或云主机,是云计算服务体系中的一项主机产品,以解决了传统物理主机与VPS服务("Virtual Private Server",或简称"VPS")中,存在的管理难度大,业务扩展性弱的缺陷。服务器也可以为分布式***的服务器,或者是结合了区块链的服务器。
其中,需要说明的是,人工智能是研究使计算机来模拟人的某些思维过程和智能行为(如学习、推理、思考、规划等)的学科,既有硬件层面的技术也有软件层面的技术。人工智能硬件技术一般包括如传感器、专用人工智能芯片、云计算、分布式存储、大数据处理等技术;人工智能软件技术主要包括计算机视觉技术、语音识别技术、自然语言处理技术以及机器学习/深度学习、大数据处理技术、知识图谱技术等几大方向。
本公开中涉及的第一、第二等各种数字编号仅为描述方便进行的区分,并不用来限制本公开实施例的范围,也表示先后顺序。
本公开中的至少一个还可以描述为一个或多个,多个可以是两个、三个、四个或者更多个,本公开不做限制。在本公开实施例中,对于一种技术特征,通过“第一”、“第二”、“第三”、“A”、“B”、“C”和“D”等区分该种技术特征中的技术特征,该“第一”、“第二”、“第三”、“A”、“B”、“C”和“D”描述的技术特征间无先后顺序或者大小顺序。
应该理解,可以使用上面所示的各种形式的流程,重新排序、增加或删除步骤。例如,本公开中记载的各步骤可以并行地执行也可以顺序地执行也可以不同的次序执行,只要能够实现本公开公开的技术方案所期望的结果,本文在此不进行限制。
上述具体实施方式,并不构成对本公开保护范围的限制。本领域技术人员应该明白的是,根据设计要求和其他因素,可以进行各种修改、组合、子组合和替代。任何在本公开的精神和原则之内所作的修改、等同替换和改进等,均应包含在本公开保护范围之内。
Claims (10)
1.一种病害识别模型训练的方法,其特征在于,所述病害识别模型包括嵌入模块、残差模块及分类模块;所述方法包括:
将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;
基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;
将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;
判断所述病害识别模型是否训练完成;
若所述病害识别模型训练未完成,则利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
2.根据权利要求1所述的方法,其特征在于,所述将叶片病害图输入所述嵌入模块进行训练得到第一特征,包括:
将所述叶片病害图集分别输入四个并行网络进行训练,所述四个并行网络包括三个不同卷积核大小的卷积层网络及一个池化层网络;
基于过滤连接层,将所述四个并行网络输出的特征进行拼接,得到所述第一特征。
3.根据权利要求1所述的方法,其特征在于,所述基于所述第一特征对所述残差模块进行训练,得到第二特征,包括:
将所述第一特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第三特征;
将所述第三特征输入四个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第四特征;
将所述第四特征输入六个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到第五特征;
将所述第五特征输入三个所述分组卷积模块及一个所述卷积注意力模块进行训练,得到所述第二特征。
4.根据权利要求1所述的方法,其特征在于,所述将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果,包括:
将所述第二特征输入所述分类模块的平均池化层进行训练;
基于全连接层,对所述平均池化层处理后的特征进行分类处理,得到所述病害识别模型的训练结果。
5.根据权利要求1所述的方法,其特征在于,所述判断所述病害识别模型是否训练完成,包括:
确定所述病害识别模型的训练次数是否超过训练次数阈值;
若未超过所述训练次数阈值,则确定所述病害识别模型训练未完成。
6.根据权利要求5所述的方法,其特征在于,所述方法还包括:
若超过所述训练次数阈值,则根据所述训练结果验证所述病害识别模型的识别准确率,在识别准确率超过准确率阈值时,确定所述病害识别模型训练完成。
7.根据权利要求1所述的方法,其特征在于,所述对更新模型参数的病害识别模型重新进行训练,包括:
将所述叶片病害图输入更新参数的嵌入模块进行训练得到第六特征,所述更新参数的嵌入模块中的激活函数为所述泄露线性整流函数;
基于所述第六特征对更新参数的残差模块进行训练,得到第七特征,所述更新参数的残差模块包括更新参数的分组卷积模块及更新参数的卷积注意力模块;所述更新参数的分组卷积模块中的激活函数为所述泄露线性整流函数;
将所述第七特征输入更新参数的分类模块进行训练,得到更新参数的病害识别模型的训练结果。
8.一种病害识别模型训练的装置,其特征在于,所述病害识别模型包括嵌入模块、残差模块及分类模块;所述装置包括:
第一训练单元,用于将叶片病害图输入所述嵌入模块进行训练得到第一特征,所述嵌入模块中的激活函数为泄露线性整流函数;
第二训练单元,用于基于所述第一特征对所述残差模块进行训练,得到第二特征,所述残差模块包括分组卷积模块及卷积注意力模块;所述分组卷积模块中的激活函数为所述泄露线性整流函数;
第三训练单元,用于将所述第二特征输入所述分类模块进行训练,得到所述病害识别模型的训练结果;
判断单元,用于判断所述病害识别模型是否训练完成;
优化单元,用于在所述病害识别模型训练未完成时,利用随机梯度下降算法对所述病害识别模型的模型参数进行优化更新,并对更新模型参数的病害识别模型重新进行训练。
9.一种电子设备,其特征在于,包括:
至少一个处理器;以及
与所述至少一个处理器通信连接的存储器;其中,
所述存储器存储有可被所述至少一个处理器执行的指令,所述指令被所述至少一个处理器执行,以使所述至少一个处理器能够执行权利要求1-7中任一项所述的方法。
10.一种存储有计算机指令的非瞬时计算机可读存储介质,其特征在于,所述计算机指令用于使所述计算机执行根据权利要求1-7中任一项所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311607497.9A CN117611906A (zh) | 2023-11-28 | 2023-11-28 | 病害识别模型训练的方法及装置、电子设备和存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202311607497.9A CN117611906A (zh) | 2023-11-28 | 2023-11-28 | 病害识别模型训练的方法及装置、电子设备和存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN117611906A true CN117611906A (zh) | 2024-02-27 |
Family
ID=89947709
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202311607497.9A Pending CN117611906A (zh) | 2023-11-28 | 2023-11-28 | 病害识别模型训练的方法及装置、电子设备和存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN117611906A (zh) |
-
2023
- 2023-11-28 CN CN202311607497.9A patent/CN117611906A/zh active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
KR102641116B1 (ko) | 데이터 증강에 기초한 인식 모델 트레이닝 방법 및 장치, 이미지 인식 방법 및 장치 | |
CN112784778B (zh) | 生成模型并识别年龄和性别的方法、装置、设备和介质 | |
CN113139543B (zh) | 目标对象检测模型的训练方法、目标对象检测方法和设备 | |
WO2019223250A1 (zh) | 一种确定剪枝阈值的方法及装置、模型剪枝方法及装置 | |
US20230162477A1 (en) | Method for training model based on knowledge distillation, and electronic device | |
EP4050570A2 (en) | Method for generating image classification model, roadside device and cloud control platform | |
CN113487610B (zh) | 疱疹图像识别方法、装置、计算机设备和存储介质 | |
CN113705628B (zh) | 预训练模型的确定方法、装置、电子设备以及存储介质 | |
CN115456167B (zh) | 轻量级模型训练方法、图像处理方法、装置及电子设备 | |
WO2022100607A1 (zh) | 一种神经网络结构确定方法及其装置 | |
US20240135698A1 (en) | Image classification method, model training method, device, storage medium, and computer program | |
CN111783997A (zh) | 一种数据处理方法、装置及设备 | |
CN115147680B (zh) | 目标检测模型的预训练方法、装置以及设备 | |
CN113887615A (zh) | 图像处理方法、装置、设备和介质 | |
CN111079930B (zh) | 数据集质量参数的确定方法、装置及电子设备 | |
CN116977872A (zh) | 一种CNN+Transformer遥感图像检测方法 | |
CN114639102A (zh) | 基于关键点与尺寸回归的细胞分割方法和装置 | |
CN116843832A (zh) | 一种单视角三维物体重建方法、装置、设备及存储介质 | |
CN114241411B (zh) | 基于目标检测的计数模型处理方法、装置及计算机设备 | |
CN116468702A (zh) | 黄褐斑评估方法、装置、电子设备及计算机可读存储介质 | |
CN112801045B (zh) | 一种文本区域检测方法、电子设备及计算机存储介质 | |
CN117611906A (zh) | 病害识别模型训练的方法及装置、电子设备和存储介质 | |
CN113344200B (zh) | 用于训练可分离卷积网络的方法、路侧设备及云控平台 | |
CN116363444A (zh) | 模糊分类模型训练方法、识别模糊图像的方法及装置 | |
CN113971737A (zh) | 用于机器人的物体识别方法、电子设备、介质和程序产品 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination |