CN114842019A - 一种电池板表面缺陷检测方法、***、存储介质及设备 - Google Patents
一种电池板表面缺陷检测方法、***、存储介质及设备 Download PDFInfo
- Publication number
- CN114842019A CN114842019A CN202210785398.9A CN202210785398A CN114842019A CN 114842019 A CN114842019 A CN 114842019A CN 202210785398 A CN202210785398 A CN 202210785398A CN 114842019 A CN114842019 A CN 114842019A
- Authority
- CN
- China
- Prior art keywords
- defect detection
- battery
- surface defect
- detected
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 230000007547 defect Effects 0.000 title claims abstract description 221
- 238000001514 detection method Methods 0.000 title claims abstract description 116
- 238000003860 storage Methods 0.000 title claims abstract description 13
- 238000012549 training Methods 0.000 claims abstract description 70
- 238000000034 method Methods 0.000 claims abstract description 55
- 238000007500 overflow downdraw method Methods 0.000 claims abstract description 9
- 238000004590 computer program Methods 0.000 claims description 14
- 238000000605 extraction Methods 0.000 claims description 14
- 230000006870 function Effects 0.000 claims description 10
- 230000005764 inhibitory process Effects 0.000 claims description 5
- 238000012216 screening Methods 0.000 claims description 5
- 230000002776 aggregation Effects 0.000 claims description 3
- 238000004220 aggregation Methods 0.000 claims description 3
- 230000004807 localization Effects 0.000 claims description 3
- 238000012545 processing Methods 0.000 abstract description 10
- 238000010586 diagram Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 17
- 230000004927 fusion Effects 0.000 description 12
- 238000011176 pooling Methods 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 230000000694 effects Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000010606 normalization Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000012795 verification Methods 0.000 description 3
- 238000013136 deep learning model Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000004913 activation Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 238000004873 anchoring Methods 0.000 description 1
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010276 construction Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 238000009826 distribution Methods 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012423 maintenance Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000013507 mapping Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 238000002203 pretreatment Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 238000010200 validation analysis Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/764—Arrangements for image or video recognition or understanding using pattern recognition or machine learning using classification, e.g. of video objects
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/70—Arrangements for image or video recognition or understanding using pattern recognition or machine learning
- G06V10/77—Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
- G06V10/774—Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02E—REDUCTION OF GREENHOUSE GAS [GHG] EMISSIONS, RELATED TO ENERGY GENERATION, TRANSMISSION OR DISTRIBUTION
- Y02E10/00—Energy generation through renewable energy sources
- Y02E10/50—Photovoltaic [PV] energy
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Computation (AREA)
- General Health & Medical Sciences (AREA)
- Health & Medical Sciences (AREA)
- Computing Systems (AREA)
- Software Systems (AREA)
- Multimedia (AREA)
- Medical Informatics (AREA)
- Databases & Information Systems (AREA)
- Biophysics (AREA)
- Mathematical Physics (AREA)
- General Engineering & Computer Science (AREA)
- Molecular Biology (AREA)
- Quality & Reliability (AREA)
- Data Mining & Analysis (AREA)
- Computational Linguistics (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及图像处理技术领域,提供了一种电池板表面缺陷检测方法、***、存储介质及设备,包括:采用训练好的电池板表面缺陷检测模型,检测出待检测电池板表面图像的缺陷位置及缺陷类型;其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理,有效提升了推理速度,降低了参数量,可以对电池板表面缺陷进行实时的检测。
Description
技术领域
本发明属于图像处理技术领域,尤其涉及一种电池板表面缺陷检测方法、***、存储介质及设备。
背景技术
本部分的陈述仅仅是提供了与本发明相关的背景技术信息,不必然构成在先技术。
在以往的太阳能电池板表面缺陷检测过程中,大部分仍然采用人工检测的方式,只凭借技术人员的眼睛进行判断,无法保证电池板表面缺陷的检测效率。因而催生了传统的人工特征提取方法与深度学习模型用于缺陷检测的方法。其中,传统的人工特征提取方法大多具有单一性与针对性,往往是针对某一固定特征进行缺陷检测,在多种缺陷类型检测中无法使用单一算子识别并检测所有缺陷类型,功能较为单一;传统基于深度学习模型的缺陷检测方法,只关注局部特征信息,检测速度与精度不均衡,误检率较高。
发明内容
为了解决上述背景技术中存在的技术问题,本发明提供一种电池板表面缺陷检测方法、***、存储介质及设备,有效提升了推理速度,降低了参数量,可以对电池板表面缺陷进行实时的检测。
为了实现上述目的,本发明采用如下技术方案:
本发明的第一个方面提供一种电池板表面缺陷检测方法,其包括:
获取待检测电池板表面图像;
采用训练好的电池板表面缺陷检测模型,检测出所述待检测电池板表面图像的缺陷位置及缺陷类型;
其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。
进一步地,所述电池板表面缺陷检测模型在主干网络中加入多头自注意力模块。
进一步地,所述电池板表面缺陷检测模型的加强特征提取网络包括特征金字塔和路径聚合网络两类结构。
进一步地,所述电池板表面缺陷检测模型的损失函数包括分类损失、定位损失以及置信度损失三类。
进一步地,检测出的所述待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新。
进一步地,所述电池板表面缺陷检测模型对预测框进行得分排序与非极大抑制筛选。
本发明的第二个方面提供一种电池板表面缺陷检测***,其包括:
待检测图像获取模块,其被配置为:获取待检测电池板表面图像;
缺陷检测模块,其被配置为:采用训练好的电池板表面缺陷检测模型,检测出所述待检测电池板表面图像的缺陷位置及缺陷类型;
其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。
进一步地,还包括权重更新与保存模块,其被配置为:检测出的所述待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新。
本发明的第三个方面提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述所述的一种电池板表面缺陷检测方法中的步骤。
本发明的第四个方面提供一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述所述的一种电池板表面缺陷检测方法中的步骤。
与现有技术相比,本发明的有益效果是:
本发明提供了一种电池板表面缺陷检测方法,其利用重参数化的方法,在训练时采用1×1卷积以及残差分支,利用多分支模型进行训练,同时,在推理时采用融合的方法进行单路模型的推理,有效提升了推理速度,降低了参数量。
本发明提供了一种电池板表面缺陷检测方法,其电池板表面缺陷检测模型添加多头自注意力机制,使电池板表面缺陷检测模型更专注于电池板表面上那些难以检测到的缺陷目标,并关注全局依赖关系。
本发明提供了一种电池板表面缺陷检测方法,其通过对电池板表面图像的不断采集,为电池板表面缺陷检测模型训练提供更多的训练图像,有效拓展数据集的规模,不断更新电池板表面缺陷检测模型的权重参数,提高电池板表面缺陷检测模型对多种电池板表面缺陷检测的普适性。
本发明提供了一种电池板表面缺陷检测方法,其具备模型小、训练成本低、准确率高以及推理速度快等特点,实现了电池板表面缺陷检测的自动化,最大限度了减少了人为因素对检测效果的影响,可以对电池板表面缺陷进行实时的检测。
附图说明
构成本发明的一部分的说明书附图用来提供对本发明的进一步理解,本发明的示意性实施例及其说明用于解释本发明,并不构成对本发明的不当限定。
图1是本发明实施例一的一种电池板表面缺陷检测方法的流程图;
图2是本发明实施例一的电池板表面缺陷检测模型的主干网络和加强特征提取网络的架构图;
图3是本发明实施例一的RepVGG块重参数化流程图。
具体实施方式
下面结合附图与实施例对本发明作进一步说明。
应该指出,以下详细说明都是例示性的,旨在对本发明提供进一步的说明。除非另有指明,本文使用的所有技术和科学术语具有与本发明所属技术领域的普通技术人员通常理解的相同含义。
需要注意的是,这里所使用的术语仅是为了描述具体实施方式,而非意图限制根据本发明的示例性实施方式。如在这里所使用的,除非上下文另外明确指出,否则单数形式也意图包括复数形式,此外,还应当理解的是,当在本说明书中使用术语“包含”和/或“包括”时,其指明存在特征、步骤、操作、器件、组件和/或它们的组合。
实施例一
本实施例提供了一种电池板表面缺陷检测方法,如图1所示,具体包括以下步骤:
步骤1、获取数据集:采集若干张电池板表面图像,组成数据集。
具体的,电池板为太阳能电池板。
步骤2、针对获取到的数据集,按照裂缝以及遮挡两种缺陷类型进行分类以及标记,得到带有类别标签的数据集;对经过标记后的数据集进行预处理后,按照9:1的比例进行训练集以及测试集的划分。
其中,预处理的具体步骤为:对经过标记后的数据集中的每张电池板表面图像的尺寸大小进行处理,进行Mosaic数据增强,进行图像缩放,进行色彩空间增强,进行亮度、旋转和图像清晰度方面的处理,以及进行标签平滑的操作。
如果图片尺寸过大,不仅会降低电池板表面缺陷检测模型的训练速度,也会增加电池板表面缺陷检测模型的训练成本,因此需要对电池板表面图像的尺寸大小进行处理,使其与电池板表面缺陷检测模型的训练要求相匹配。
其中,Mosaic数据增强主要分为以下步骤:
(1)从图像尺寸大小进行处理后的数据集中,随机读取四张电池板表面缺陷图像;
(2)对读取的每张电池板表面缺陷图像依次进行左右翻转、大小缩放和色域变化的操作,标出电池板表面缺陷所在区域,以矩阵的形式对步骤(1)读取的四张电池板表面缺陷图片中标记的缺陷区域进行截取,最终组合成一张新的缺陷图片(具体的,将每张电池板表面缺陷图像的尺寸大小调整为设定值(416×416),以便于电池板表面缺陷检测模型训练;并将四张电池板表面缺陷图像按照左上、左下、右下和右上四个区域进行位置摆放),并加入数据集,用于输入电池板表面缺陷检测模型进行训练。
步骤3、模型训练:基于训练集,进行电池板表面缺陷检测模型的训练,对电池板表面缺陷检测模型训练过程中生成的权重参数进行保存,得到训练好的电池板表面缺陷检测模型。
其中,如图2所示,电池板表面缺陷检测模型包括主干网络、加强特征提取网络和预测层。
(1)在主干网络中:
首先,在电池板表面缺陷检测模型的输入端输入电池板表面缺陷图像(尺寸大小为416×416×3),输入的电池板表面缺陷图像经过第一深度可分离卷积层(通道数为64,卷积核尺寸为6*2*2),分辨率会减半,得到第一缺陷特征图(尺寸大小为208×208×64);之后,第一缺陷特征图经过1个第二深度可分离卷积层(通道数设置为128,卷积核尺寸为3*2)与3个第一RepVGG块(RepVGG Block)(通道数为128)进行卷积操作,得到第二缺陷特征图(尺寸大小为104×104×128);最后,第二缺陷特征图经过一个第三深度可分离卷积层(通道数为256,卷积核尺寸为3*2)与6个第二RepVGG块(通道数为256)进行卷积操作,得到第三缺陷特征图(尺寸大小为52×52×256),并将第三缺陷特征图作为加强特征提取网络的一个节点;
紧接着,第三缺陷特征图依次输入一个第四深度可分离卷积层(通道数为512,卷积核尺寸为3*2)以及9个第三RepVGG块(通道数为512)进行经过卷积操作以及重参数化操作,得到第四缺陷特征图(尺寸大小为26×26×512);
最后,将第四缺陷特征图依次输入1个第五深度可分离卷积层(通道数为1024,卷积核尺寸为3*2)、3个包含多头自注意力(multi-head self-attention,MHSA)模块的C3TR模块以及一个空间金字塔池化层(SPPF),得到第五缺陷特征图(尺寸为13×13×1024)。值得一提的是,第四缺陷特征图在经过C3TR模块以及空间金字塔池化层时的通道数以及分辨率都不会改变,感受野会增大;经过多头自注意力操作以及空间金字塔池化,最终得到第五缺陷特征图。在C3TR模块中添加MHSA模块以及使用空间金字塔池化层的目的是提高电池板表面缺陷检测模型对电池板表面缺陷信息的关注度,并突出有效的特征值,使主干网络提取到有价值的电池板表面缺陷特征。
(2)在加强特征提取网络中:
加强特征提取网络主要包括特征金字塔(FPN)和路径聚合网络(PAN)两类结构。其中,在步骤2得到的每张电池板表面缺陷图像中,可能具有多个不同大小的缺陷特征;而FPN则包括一个自底向上的前向传播过程、一个自顶向下的上采样过程以及横向连接像素相加的过程,即由高维度向低维度传递语义信息,增强多个尺度缺陷特征上的语义表达;PAN则是由低维度向高维度再次传递语义信息,增强多尺度特征图上的缺陷特征定位能力。在加强特征提取网络与预测层结构中,主要采用拼接以及跨阶段残差连接的方式,将不同层次的信息进行融合;拼接使得特征图的维数增加,相应的缺陷图像自身的特征数增加;如,在主干网络中所得到的第三缺陷特征图、第四缺陷特征图和第五缺陷特征图,将被引入至加强特征提取网络中。其中,第三缺陷特征图对应的是大目标,第四缺陷特征图对应的是中目标,第五缺陷特征图对应的小目标;通过不同锚框大小的缺陷特征信息融合,可以使电池板表面缺陷检测模型具备较强的特征提取以及检测能力。
具体的,第四缺陷特征图进行卷积后的特征图、与第五缺陷特征图进行上采样后的特征图进行拼接后,得到第一融合信息;第一融合信息经过C3模块(yolov5s网络模型中的一个模块,即基于3×3卷积的跨阶段局部模块)和上采样后,与第三缺陷特征图进行拼接,得到第二融合信息;第二融合信息与第四缺陷特征图进行拼接后,得到第三融合信息;第三融合信息与第五缺陷特征图进行拼接后,得到第四融合信息;第二融合信息、第三融合信息和第四融合信息分别输入一组C3模块和检测头,得到三个输出结果。检测头是指的电池板表面缺陷检测模型输出预测信息经过的部分,共有三个检测头,分别对应大目标、中目标、小目标的输出。
电池板表面缺陷检测模型的主干网络在yolov5s主干网络的基础上,利用RepVGG块来代替CSPDarkNet网络,RepVGG块中包括3×3卷积层与ReLU激活函数,最大程度地简化了主干网络的复杂度,同时,电池板表面缺陷检测模型在主干网络中加入多头自注意力(MHSA)模块,用以关注缺陷特征与全局特征之间的关系。
电池板表面缺陷检测模型以yolov5s主干网络作为基线,利用重参数化以及多头自注意力机制的方式,提升对电池板表面缺陷的检测速度与精度。yolov5s的工作原理是通过数据加载器进行图像缩放、色彩空间调整和马赛克增强等三种数据增强,并传递训练数据;同时,利用自适应锚定框进行训练数据的自动学习,以减少计算成本,有效缓解梯度消失问题,从而减少网络参数数量。
电池板表面缺陷检测模型以yolov5s主干网络为基线,利用RepVGG块代替CSPDarkNet网络,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。具体的,电池板表面缺陷检测模型采用重参数化的方法,将三个分支的卷积核对应位置的元素相加,从而将3个3×3卷积层融合在一起,也就使得训练阶段的多分支模型重参数化为相应的单分支结构,有效提高推理效率。如图3所示,具体的,电池板表面缺陷检测模型中的RepVGG块重参数化的过程为:将残差分支与1×1卷积分支分别与批标准化(BatchNormalization,BN)层进行融合,并将融合后的卷积层扩充为3×3卷积层,其中,1×1卷积核中的缺陷像素数值放置到3×3卷积核的中心点;而残差连接并没有改变缺陷特征映射的数值,因此将扩充得到的3×3卷积层的9个位置权重全部设置为1,最终得到3个3×3卷积层的分支;最后将三个3×3卷积层的分支的权重与偏置进行叠加,得到融合后的一个3×3卷积层。
本实施例的主干网络主要由RepVGG块与MHSA模块构成,具体的构建步骤如下:
(1)针对yolov5s主干网络的CSPDarkNet网络进行重参数化,尤其是3×3卷积,在训练时构造并行的残差和1×1卷积分支(即,在训练阶段,利用RepVGG块替换原有的CSPDarkNet网络,为主干网络设置多条梯度流动的途径,包括3×3卷积、1×1卷积以及残差结构分支,在训练时利用多分支进行训练,提升训练速度),并经过BN层后相加,从而堆叠得到一个VGG式的直筒型架构。
主干网络在训练阶段的卷积层的公式为:
其中,W(x)表示卷积核的权重,b代表卷积层的偏置。
而BN层的公式为:
其中,表示BN层的权重,β表示BN层的偏置,mean是指在电池板表面缺陷模型训练过程中统计的均值,var则是训练阶段统计的方差;均值与方差分别指对应批次特征图内数据相应维度的均值与方差;同时,与β需要在模型中不断训练,以参与整个网络的前向传播;总的过程可以理解为归一化以及缩放两个步骤;利用归一化将特征图信息规整到统一区间,降低网络学习难度;与β则通过还原来保留缺陷特征图原数据的分布。
将卷积层结果代入至BN层中:
因此,RepVGG块在训练阶段的输出表示为:
其中,x为RepVGG块的输入。
由此,得到最终的融合效果,并将融合后的最小模块作为主干网络的主要结构,以此来加快训练的速度。
(2)在主干网络中添加MHSA模块。
MHSA模块对前一步提取到的缺陷特征图(即MHSA模块的输入)进行特征编码;(a)根据特征编码情况创建查询Q、键K和值V三个矩阵,矩阵的创建过程是指利用编码乘以训练过程中得到的三个权重矩阵;(b)将得到的查询Q、键K和值V这三个矩阵进行放缩点积操作;过程(a)和(b)需要做若干次,每次代表一个注意力头;由于每次查询Q、键K和值V进行线性变换的权重矩阵不同,因此,需要将若干次的放缩点积操作的结果进行拼接,最后,通过线性变换输出MHSA模块的结果。
本实施例采用的MHSA模块为2017年6月发布在31st Conference on NeuralInformation Processing Systems (NIPS 2017)上的论文《Attention is all you need》中提出的MHSA模块。
预测层根据所有检测头的输出,得到预测结果。由于每一个真实框只能由一个先验框负责预测,因此为了加快电池板表面缺陷检测模型的训练效率,增加了正样本的数量,在训练时,每一个真实框可以由多个先验框负责预测。而正样本的匹配过程可以分为匹配先验框与特征点两个环节。在先验框匹配环节,电池板表面缺陷检测模型直接采用高宽比进行匹配,即使用真实框和9个不同大小的先验框计算宽高比;如果真实框与某个先验框的宽高比例大于设定阈值,则说明真实框和该先验框匹配度不够,将该先验框认为是负样本。在特征点匹配环节,负责预测的特征点位于真实框中心点所在的网格内的左上角;针对选中的特征点,首先计算真实框落在哪个网格内,按照四舍五入的规则,找出最近的两个网格,并认为三个网格都用于预测真实框。
最后,利用特征图计算先验框中的缺陷类别,并采用预测框回归计算调整,获得预测框最终的精确位置。在预测结果解码方面,电池板表面缺陷检测模型对预测框进行得分排序与非极大抑制筛选,具体的,预测框还需要进行得分排序与非极大抑制筛选,主要步骤为:
(1)找出得分大于门限函数的预测框,从而减少框的数量;
(2)对缺陷类别进行循环,筛选出一定区域内属于同一类别得分最大的预测框,从而对每一个类别分别进行非极大抑制;
(3)对于每一类别,根据得分对筛选出的预测框进行从大到小排序;
(4)每次取出得分最大的预测框,计算其与其它所有预测框的重合程度,重合程度大于设定值的则剔除。
电池板表面缺陷检测模型所使用的的损失函数包括分类损失、定位损失以及置信度损失三类。其中,分类损失与置信度损失统一采用Focal Loss评价,Focal Loss评价的公式为:
置信度损失表征预测框的可信程度,取值范围0~1,值越大说明预测框中越可能存在目标;分类损失则直接表征电池板表面缺陷检测的类别损失,二者在整体逻辑上基本相同,只是由于预测框中存在不同缺陷特征,因此存在分类损失。
定位损失的公式为:
其中,Distance_C是指两个预测框的最小外接矩形框的对角线的距离,Distance_2是指两个预测框中心点的欧氏距离,IOU是指预测框与真实框之间的并比,v是衡量长宽比一致性的参数。
步骤4、采用验证集对训练好的电池板表面缺陷检测模型进行验证,验证通过后,进入步骤5,否则返回步骤3。
步骤5、缺陷检测。获取待检测电池板表面图像,采用训练好的电池板表面缺陷检测模型,检测出待检测电池板表面的缺陷位置及缺陷类型。
具体的,加载训练好的电池板表面缺陷检测模型的权重参数,检测获取的不同区域内的电池板表面图像,标记缺陷类型及所在位置,同时得到位置框的得分情况,输出检测结果,即利用矩形定位边界框对电池板表面图像中存在的缺陷进行标签标记并生成得分,引导维修人员及时维修,之后继续采集与检测。
步骤6、检测出的待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新。
电池板表面缺陷检测模型在经过训练后投入使用,一方面将采集到的视频中的每一帧作为一张待检测电池板表面图像,直接输入到电池板表面缺陷检测模型进行缺陷的检测;另一方面电池板表面图像经过数据预处理后,加入数据集,实现数据集的扩充,并且电池板表面缺陷检测模型的权重参数不断更新,并对更新后的权重参数进行保存,从而使电池板表面缺陷检测模型达到真正意义上不断学习的能力。
本实施例采用电池板表面缺陷检测模型的权重参数不断更新的思想,有效发挥单阶段目标检测模型的优势。本实施例以yolov5s网络为基线,yolov5s网络的推理速度较高,但准确率相对较低。为了改善该yolov5s网络的准确率,利用重参数化的方法,在训练时采用1×1卷积以及残差分支,利用多分支模型进行训练,同时在推理时采用融合的方法进行单路模型的推理,有效提升了推理速度,降低了参数量。同时,电池板表面缺陷检测模型添加了多头自注意力机制,使电池板表面缺陷检测模型更专注于电池板表面上那些难以检测到的缺陷目标,并关注全局依赖关系。其次,通过对电池板表面图像的不断采集,可以为电池板表面缺陷检测模型的训练提供更多的训练图像,有效拓展数据集的规模,不断更新电池板表面缺陷检测模型的权重参数,提高电池板表面缺陷检测模型对多种电池板表面缺陷检测的普适性。从而使整个电池板表面缺陷检测方法具备了模型小、训练成本低、准确率高以及推理速度快的特点,实现了电池板表面缺陷检测的自动化,最大限度的减少了人为因素对检测效果的影响,可以对电池板表面缺陷进行实时的检测。
相比之前传统的人工特征提取方法,本实施例的电池板表面缺陷检测方法直接使用电池板表面图像或视频帧作为输入,自动提取特征来进行缺陷像素点的分析和处理,在减少训练成本的同时,提升了各类电池板表面缺陷的可测性。而与现有缺陷检测方法中的缺陷检测模型相比,本实施例所用的网络层数相对较少,参数量、推理速度以及精确度相对较高。同时需要注意的是,本发明中所采用的权重参数的更新与保存方式可以最大限度地学习缺陷类别与分类能力,将电池板表面缺陷检测模型的权重参数进行更新与保存,既可以不断充实数据集以及权重的数量,也可以在更大范围内对多种电池板表面缺陷进行检测,真正实现了电池板表面缺陷的自动类别划分和确切定位。
实施例二
本实施例提供了一种电池板表面缺陷检测***,其具体包括如下模块:
数据采集模块,其被配置为:采集若干张电池板表面图像,组成数据集。
数据输入模块,其被配置为:针对获取到的数据集按照裂缝以及遮挡两种缺陷类型进行分类以及标记,得到带有类别标签的数据集;对经过标记后的数据集进行预处理后,按照9:1的比例进行训练集以及测试集的划分。
模型训练模块,其被配置为:基于训练集,进行电池板表面缺陷检测模型的训练,对电池板表面缺陷检测模型训练过程中生成的权重信息进行保存与更新,得到训练好的电池板表面缺陷检测模型。
模型验证模块,其被配置为:采用验证集对训练好的电池板表面缺陷检测模型进行验证。
待检测图像获取模块,其被配置为:获取待检测电池板表面图像。
缺陷检测模块,其被配置为:采用训练好的电池板表面缺陷检测模型,检测出所述待检测电池板表面图像的缺陷位置及缺陷类型;其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。
权重更新与保存模块,其被配置为:检测出的待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新,并对更新后的权重参数进行保存。
此处需要说明的是,本实施例中的各个模块与实施例一中的各个步骤一一对应,其具体实施过程相同,此处不再累述。
实施例三
本实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如上述实施例一所述的一种电池板表面缺陷检测方法中的步骤。
实施例四
本实施例提供了一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,所述处理器执行所述程序时实现如上述实施例一所述的一种电池板表面缺陷检测方法中的步骤。
本领域内的技术人员应明白,本发明的实施例可提供为方法、***、或计算机程序产品。因此,本发明可采用硬件实施例、软件实施例、或结合软件和硬件方面的实施例的形式。而且,本发明可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器和光学存储器等)上实施的计算机程序产品的形式。
本发明是参照根据本发明实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,所述的存储介质可为磁碟、光盘、只读存储记忆体(Read-Only Memory,ROM)或随机存储记忆体(RandomAccessMemory,RAM)等。
以上所述仅为本发明的优选实施例而已,并不用于限制本发明,对于本领域的技术人员来说,本发明可以有各种更改和变化。凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (10)
1.一种电池板表面缺陷检测方法,其特征在于,包括:
获取待检测电池板表面图像;
采用训练好的电池板表面缺陷检测模型,检测出所述待检测电池板表面图像的缺陷位置及缺陷类型;
其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。
2.如权利要求1所述的一种电池板表面缺陷检测方法,其特征在于,所述电池板表面缺陷检测模型在主干网络中加入多头自注意力模块。
3.如权利要求1所述的一种电池板表面缺陷检测方法,其特征在于,所述电池板表面缺陷检测模型的加强特征提取网络包括特征金字塔和路径聚合网络两类结构。
4.如权利要求1所述的一种电池板表面缺陷检测方法,其特征在于,所述电池板表面缺陷检测模型的损失函数包括分类损失、定位损失以及置信度损失三类。
5.如权利要求1所述的一种电池板表面缺陷检测方法,其特征在于,检测出的所述待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新。
6.如权利要求1所述的一种电池板表面缺陷检测方法,其特征在于,所述电池板表面缺陷检测模型对预测框进行得分排序与非极大抑制筛选。
7.一种电池板表面缺陷检测***,其特征在于,包括:
待检测图像获取模块,其被配置为:获取待检测电池板表面图像;
缺陷检测模块,其被配置为:采用训练好的电池板表面缺陷检测模型,检测出所述待检测电池板表面图像的缺陷位置及缺陷类型;
其中,电池板表面缺陷检测模型以yolov5s主干网络为基线,利用重参数化的方法,在训练时利用多分支模型进行训练,在推理时采用融合的方法,使得训练阶段的多分支模型重参数化为单分支结构,进行单路模型的推理。
8.如权利要求7所述的一种电池板表面缺陷检测***,其特征在于,还包括权重更新与保存模块,其被配置为:检测出的所述待检测电池板表面图像的缺陷位置及缺陷类型,还与获取的待检测电池板表面图像一起用于扩充训练集,以对电池板表面缺陷检测模型的权重参数不断更新。
9.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现如权利要求1-6中任一项所述的一种电池板表面缺陷检测方法中的步骤。
10.一种计算机设备,包括存储器、处理器及存储在存储器上并可在处理器上运行的计算机程序,其特征在于,所述处理器执行所述程序时实现如权利要求1-6中任一项所述的一种电池板表面缺陷检测方法中的步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210785398.9A CN114842019B (zh) | 2022-07-06 | 2022-07-06 | 一种电池板表面缺陷检测方法、***、存储介质及设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202210785398.9A CN114842019B (zh) | 2022-07-06 | 2022-07-06 | 一种电池板表面缺陷检测方法、***、存储介质及设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN114842019A true CN114842019A (zh) | 2022-08-02 |
CN114842019B CN114842019B (zh) | 2022-09-09 |
Family
ID=82575306
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202210785398.9A Active CN114842019B (zh) | 2022-07-06 | 2022-07-06 | 一种电池板表面缺陷检测方法、***、存储介质及设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN114842019B (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115293337A (zh) * | 2022-10-09 | 2022-11-04 | 深圳比特微电子科技有限公司 | 构建神经网络的方法、装置、计算设备及存储介质 |
CN115496763A (zh) * | 2022-11-21 | 2022-12-20 | 湖南视比特机器人有限公司 | 一种基于多目视觉的工件错漏装检测***及方法 |
CN116051549A (zh) * | 2023-03-29 | 2023-05-02 | 山东建筑大学 | 一种太阳能电池片缺陷分割方法、***、介质及设备 |
CN116205856A (zh) * | 2023-02-01 | 2023-06-02 | 哈尔滨市科佳通用机电股份有限公司 | 基于深度学习的人力制动机轴链折断故障检测方法及*** |
CN116958907A (zh) * | 2023-09-18 | 2023-10-27 | 四川泓宝润业工程技术有限公司 | 一种输气管道周边隐患目标巡检方法及*** |
CN117541587A (zh) * | 2024-01-10 | 2024-02-09 | 山东建筑大学 | 太阳能电池板缺陷检测方法、***、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612751A (zh) * | 2020-05-13 | 2020-09-01 | 河北工业大学 | 基于嵌入分组注意力模块的Tiny-yolov3网络的锂电池缺陷检测方法 |
US20210370993A1 (en) * | 2020-05-27 | 2021-12-02 | University Of South Carolina | Computer vision based real-time pixel-level railroad track components detection system |
CN113780152A (zh) * | 2021-09-07 | 2021-12-10 | 北京航空航天大学 | 一种基于目标感知的遥感图像船只小目标检测方法 |
CN113920400A (zh) * | 2021-10-14 | 2022-01-11 | 辽宁工程技术大学 | 一种基于改进YOLOv3的金属表面缺陷检测方法 |
CN114494164A (zh) * | 2022-01-13 | 2022-05-13 | 大连嘉济自动化机电科技有限公司 | 一种钢材表面缺陷检测方法、装置及计算机存储介质 |
-
2022
- 2022-07-06 CN CN202210785398.9A patent/CN114842019B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111612751A (zh) * | 2020-05-13 | 2020-09-01 | 河北工业大学 | 基于嵌入分组注意力模块的Tiny-yolov3网络的锂电池缺陷检测方法 |
US20210370993A1 (en) * | 2020-05-27 | 2021-12-02 | University Of South Carolina | Computer vision based real-time pixel-level railroad track components detection system |
CN113780152A (zh) * | 2021-09-07 | 2021-12-10 | 北京航空航天大学 | 一种基于目标感知的遥感图像船只小目标检测方法 |
CN113920400A (zh) * | 2021-10-14 | 2022-01-11 | 辽宁工程技术大学 | 一种基于改进YOLOv3的金属表面缺陷检测方法 |
CN114494164A (zh) * | 2022-01-13 | 2022-05-13 | 大连嘉济自动化机电科技有限公司 | 一种钢材表面缺陷检测方法、装置及计算机存储介质 |
Non-Patent Citations (5)
Title |
---|
LIU, MIN等: "A Fast and Accurate Method of Power Line Intelligent Inspection Based on Edge Computing", 《IEEE TRANSACTIONS ON INSTRUMENTATION AND MEASUREMENT》 * |
YONGQING JIANG等: "A deep learning approach for fast detection and classification of concrete damage", 《AUTOMATION IN CONSTRUCTION》 * |
王淑青等: "基于改进YOLOv5的太阳能电池片表面缺陷检测", 《仪表技术与传感器》 * |
胡哲等: "基于改进YOLOv5的X射线图像铸件缺陷实时检测", 《激光杂志》 * |
赵兴博等: "适用于FPGA的轻量实时视频人脸检测", 《现代计算机》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115293337A (zh) * | 2022-10-09 | 2022-11-04 | 深圳比特微电子科技有限公司 | 构建神经网络的方法、装置、计算设备及存储介质 |
CN115293337B (zh) * | 2022-10-09 | 2022-12-30 | 深圳比特微电子科技有限公司 | 构建神经网络的方法、装置、计算设备及存储介质 |
CN115496763A (zh) * | 2022-11-21 | 2022-12-20 | 湖南视比特机器人有限公司 | 一种基于多目视觉的工件错漏装检测***及方法 |
CN116205856A (zh) * | 2023-02-01 | 2023-06-02 | 哈尔滨市科佳通用机电股份有限公司 | 基于深度学习的人力制动机轴链折断故障检测方法及*** |
CN116205856B (zh) * | 2023-02-01 | 2023-09-08 | 哈尔滨市科佳通用机电股份有限公司 | 基于深度学习的人力制动机轴链折断故障检测方法及*** |
CN116051549A (zh) * | 2023-03-29 | 2023-05-02 | 山东建筑大学 | 一种太阳能电池片缺陷分割方法、***、介质及设备 |
CN116051549B (zh) * | 2023-03-29 | 2023-12-12 | 山东建筑大学 | 一种太阳能电池片缺陷分割方法、***、介质及设备 |
CN116958907A (zh) * | 2023-09-18 | 2023-10-27 | 四川泓宝润业工程技术有限公司 | 一种输气管道周边隐患目标巡检方法及*** |
CN116958907B (zh) * | 2023-09-18 | 2023-12-26 | 四川泓宝润业工程技术有限公司 | 一种输气管道周边隐患目标巡检方法及*** |
CN117541587A (zh) * | 2024-01-10 | 2024-02-09 | 山东建筑大学 | 太阳能电池板缺陷检测方法、***、电子设备及存储介质 |
CN117541587B (zh) * | 2024-01-10 | 2024-04-02 | 山东建筑大学 | 太阳能电池板缺陷检测方法、***、电子设备及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN114842019B (zh) | 2022-09-09 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN114842019B (zh) | 一种电池板表面缺陷检测方法、***、存储介质及设备 | |
CN113569667B (zh) | 基于轻量级神经网络模型的内河船舶目标识别方法及*** | |
CN111325713A (zh) | 基于神经网络的木材缺陷检测方法、***及存储介质 | |
CN110060237A (zh) | 一种故障检测方法、装置、设备及*** | |
CN112446870B (zh) | 管道损伤检测方法、装置、设备及存储介质 | |
CN110992349A (zh) | 一种基于深度学习的地下管道异常自动化定位与识别方法 | |
CN115731164A (zh) | 基于改进YOLOv7的绝缘子缺陷检测方法 | |
CN110781882A (zh) | 一种基于yolo模型的车牌定位和识别方法 | |
CN114663346A (zh) | 一种基于改进YOLOv5网络的带钢表面缺陷检测方法 | |
CN106339984A (zh) | 基于k均值驱动卷积神经网络的分布式图像超分辨方法 | |
CN110827312A (zh) | 一种基于协同视觉注意力神经网络的学习方法 | |
CN110059677A (zh) | 基于深度学习的数字表识别方法及设备 | |
CN114781514A (zh) | 一种融合注意力机制的漂浮物目标检测方法及*** | |
CN117173568A (zh) | 目标检测模型训练方法和目标检测方法 | |
CN115272252A (zh) | 一种基于改进yolox的碳纤维缺陷的检测方法、装置及*** | |
CN114494250A (zh) | 基于神经网络模型的地板缺陷检测方法 | |
CN113962980A (zh) | 基于改进yolov5x的玻璃容器瑕疵检测方法及*** | |
CN117576038A (zh) | 基于YOLOv8网络的织物瑕疵检测方法及*** | |
CN113780287A (zh) | 一种多深度学习模型的最优选取方法及*** | |
CN117671354A (zh) | 一种基于多尺度编织融合网络的工业产品表面缺陷检测方法 | |
CN112635060A (zh) | 一种生存力评估方法、装置、评估设备及存储介质 | |
CN116958073A (zh) | 基于注意力特征金字塔机制的小样本钢材缺陷检测方法 | |
CN116824333A (zh) | 一种基于深度学习模型的鼻咽癌检测*** | |
CN115019243A (zh) | 基于改进YOLOv3的监控漂浮物轻量化目标检测方法及*** | |
CN110084270A (zh) | 病理切片图像识别方法及设备 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |