CN108647655A - 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 - Google Patents
基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 Download PDFInfo
- Publication number
- CN108647655A CN108647655A CN201810465955.2A CN201810465955A CN108647655A CN 108647655 A CN108647655 A CN 108647655A CN 201810465955 A CN201810465955 A CN 201810465955A CN 108647655 A CN108647655 A CN 108647655A
- Authority
- CN
- China
- Prior art keywords
- power line
- frame
- value
- detection model
- foreign matter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/10—Terrestrial scenes
- G06V20/13—Satellite images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Astronomy & Astrophysics (AREA)
- Remote Sensing (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
基于轻型卷积神经网络的低空航拍影像电力线异物检测方法属于计算机视觉领域,研究了一种针对无人机航拍影像中电力线异物的实时检测方法。首先利用卷积神经网络构建轻型电力线检测模型,计算得到航拍影像中电力线的深度特征;然后利用卷积神经网络构建多目标电力线异物检测模型,使用不同长宽的卷积层,利用深度特征计算多尺度目标的预测值;最后利用电力线检测模型过滤没有电力线的视频帧,在检测到电力线的视频上,利用多目标电力线异物检测模型实现低空航拍影像中实时的电力线异物检测。
Description
技术领域
本发明基于深度学习技术,研究了一种针对无人机航拍影像中电力线异物的实时检测方法。首先利用卷积神经网络构建轻型电力线检测模型,计算得到航拍影像中电力线的深度特征;然后利用卷积神经网络构建多目标电力线异物检测模型,使用不同长宽的卷积层,利用深度特征计算多尺度目标的预测值;最后利用电力线检测模型过滤没有电力线的视频帧,在检测到电力线的视频上,利用多目标电力线异物检测模型实现低空航拍影像中实时的电力线异物检测。本发明属于计算机视觉领域,具体涉及深度学习,目标检测等技术。
背景技术
随着信息技术的发展,高性能航拍传感器在航空摄影中得到了广泛的应用。而无人机技术的日渐成熟,更使得低空航拍技术得到了极大的发展,成为了一种新型的前景广阔的实用技术。得益于此,低空航拍影像数据呈现出海量增长,并呈现出多角度,复杂背景等特点,针对低空航拍影像数据,实现实时高效的处理有着重要的研究意义和应用价值。在自然灾害评估,交通运输,城市规划等很诸多方面有着重要的应用。由于无人机高效安全的特性,电力***中的电力线巡检也成为它重要的应用领域之一。
电力线是国家重要的基础设施,承担着电力运输的重要职责,而电力线巡检则是保证电力***平稳运行的重要保障。随着我国电力***的高速发展,远距离高压电路,特高压输电等技术的成熟,电力运输呈现出输送容量大,输送距离远的特点,越来越多的电力线从城市延伸到高山,原野等复杂的地理环境中。传统的人工巡检方式耗时耗力,受到自然环境,气候的影响,制约了我国电力***的建设。无人机电力线巡检有着高效,安全,不受气候、地形影响的特点,已经成为了电力线巡检的重要方式。在无人机电力线巡检过程中,可利用无人接携带的数码照相机拍摄低空电力线影像,这些影像中包含了电力线的基本情况。通过对低空航拍电力线影像的处理,可以及时发现电力线异常状态,从而进行迅速的处理。
图像处理技术包括图像压缩,分割,增强,描述和识别等部分,目标识别是图像处理技术的重要应用之一。传统的目标识别技术基于人工特征,难以处理复杂背景,海量数据下的多种目标。近年来,人工智能领域的最新技术—深度学习技术在目标检测问题中展现出卓越的性能,如SSD(Single Shot MultiBox Detector)等为代表的深度目标检测框架,在高精度识别的同时,效率也得到进一步提升。
考虑到电力线巡检影像的日益增加,传统目标识别方法效果有限等问题,本发明提出一种基于多尺度卷积神经网络的航拍影像电力线异物检测方法。首先,构建基于卷积神经网络(Convolutional Neural Network,CNN)的轻型电力线检测模型,并在预训练数据集上学习电力线图像多层次的深度特征。之后构建基于卷积神经网络的电力线异物检测模型,利用不同长宽的卷积层,处理不同尺度的目标,得到多尺度目标的预测值。然后利用电力线检测模块过滤没有出现电力线的无关图像,并合并多尺度目标预测值。最后利用多尺度目标预测值,使用非极大值抑制(non maximum suppression)算法,保留置信度较高的边框,实现电力线异常目标的检测。
发明内容
本发明与已有的电力线异物检测方法不同,利用深度学习技术,提出一种基于轻型卷积神经网络的实时电力线异物检测方法。首先,利用卷积神经网络(CNN)构建轻型电力线检测模型,针对电力线单一目标,采用轻型电力线检测模型,它层数较少,可以满足单一目标检测的要求,并有效降低训练、检测时间。在自建测电力线图像数据集上预训练网络,提取电力线深度特征。其次利用卷积神经网络训练电力线异物检测模型,在该模型中添加不同长宽的卷积层,并在多个层同时计算预测值。之后将不同层的输出合并,从而学习多尺度目标的深度特征。使用自建的电力线异物数据集进行预训练,并采用数据增广的方法,进行随机翻转、裁切、颜色变化,从而扩展数据量,进一步提高泛化能力。最后,在电力线异物检测阶段,首先使用电力线检测模型去除视频中的无关帧,保留包含电力线的关键帧,并提取出关键帧中的电力线边界框预测值,之后利用电力线异物检测模型检测关键帧,并得到各个目标的预测值,使用非极值抑制算法过滤较相似的边界框,保留置信度较高的边界框,之后利用得到的电力线边界框和异物目标边界框,实现航拍电力线影像异物的快速、准确检测。本方法主要过程如附图1所示,可分为以下三个步骤:基于卷积神经网络的电力线异物目标检测模型构建、神经网络预训练、电力线异常目标检测。
(1)基于轻型卷积神经网络的电力线检测模型构建
本发明研究对象为航拍影像,为了有效去除视频中的无关帧,首先构建一种基于轻型卷积神经网络的电力线检测模型,该模型网络结构简单,层数较少,在有效提取电力线特征的基础上保证了检测的实时性。针对电力线异物的两大类别—风筝、气球,构建了基于轻型卷积神经网络的电力线异物检测模型,两个模型分步检测,在提高实时性的基础上改善了检测精度。
(2)神经网络预训练
对于电力线检测模型,使用电力线图像数据集(Powerline Image Dataset)预训练,对于电力线异物检测模型,使用自行搜集的气球、风筝图片为源数据,利用数据增广算法进行平移、裁切、变色,从而扩充至4000张作为训练数据集。上述数据集包含了不同尺度、光照条件、拍摄角度的电力线、电力线异物图像,可以有效学习不同条件下的深度特征。
(3)电力线异常目标检测
本发明提出了一种多重电力线目标检测方法。首先利用电力线检测模型对航拍视频进行逐帧检测,并舍弃没有电力线目标的无关帧。对于存在电力线目标的关键帧,利用电力线异物检测模型进行进一步检测,计算得到电力线参数预测值和异物目标边界框预测值,从而判断是否存在电力线异物目标。
本发明与现有技术相比,具有以下明显的优势和有益效果:
首先,相比传统的人工特征电力线目标识别方法,本发明利用先进的卷积神经网络构建轻型电力线检测模型和电力线异物检测模型,实现电力线影像的无关帧过滤,极大的提高了检测效率,并利用轻型网络保证了电力线异物检测实时性。实验证实,采用该结构在无人机航拍影像中可有效过滤无关帧,极大提高检测效率。同时,在轻型电力线异物检测模型中加入多尺度的卷积层,学习不同尺度的异物图像特征,从而适应无人机不同距离拍摄不同目标导致的多尺度情况。
最后,对于筛选后的电力线影像,利用轻型电力线模型和电力线异物模型计算出电力线参数预测值和异物目标边界框预测值,从而判断是否电力线异物目标。
实验证实,基于VGG-16的深层神经网络,利用多尺度卷积层进行学***均识别精度),同时保持了59FPS的检测速度。因此,将该方法迁移到电力线异常目标检测任务中,对于实现高效、准确、实时的电力线巡检切实可行并有着重要的应用价值。
附图说明:
图1基于轻型卷积神经网络的航拍影像电力线异物检测方法流程图
图2轻型电力线检测模型架构图
图3电力线异物检测模型架构图
图4电力线异物检测过程图
具体实施方式
根据上述描述,以下是一个具体的实施流程,但本专利所保护的范围并不限于该实施流程。
步骤1:基于卷积神经网络的电力线异物目标检测模型构建
步骤1.1:基于轻型卷积神经网络的电力线检测模型构建
目前存在的深度学习目标检测模型,其应用场景较广,往往可检测数千类物体,如YOLO9000,可检测9418个类别。在电力线巡检场景下,目标种类极为有限,主要是电力线,气球和风筝三类,在本模型中,只需要识别电力线,其特征十分有限,目前已有的深度学习目标检测模型针对电力线场景太过冗余,而轻量级模型在这种情况下是有效的,轻量模型可以识别有限类别目标,同时提高了检测速度。
本发明提出的轻型卷积神经网络基于主流的开源深度学习框架Caffe实现,本步骤具体结构图见附图2。输入电力线航拍影像,经过6个卷积层进行卷积,卷积核大小为3×3,前四个卷积层都采用批量归一化(Batch Normalization),它将对后续激活函数的输入进行归一化,使批量呈标准正态分布(均值为1,标准差为0),,使得数值更加稳定,在批量归一化后将采用线性修正单元(Rectified Linear Unit,ReLU)作为激活函数,使模型收敛速度更快。在第4卷积层后进行最大值池化(Max Pooling)操作,从而降低特征维度,减少计算量。在第五个卷积层,我们使用一个3×3的卷积核作为类别预测模块,输出的通道数为6,每个通道对应一个锚框的置信度。在第六个卷积层中,我们采用一个3×3的卷积核来预测边界框。对于每个预测框,根据计算得出的类别预测值确定所属类别,并过滤掉属于背景的预测框。然后以0.5的置信度阈值过滤掉阈值较低的预测框,并保留置信度较高的前200个预测框。最后采用非极大值抑制NMS算法,过滤掉阈值大于0.7的预测框,最终得到预测结果
步骤1.2:基于卷积神经网络的电力线异物检测模型构建
本步骤提出的卷积神经网络具体结构图见附图3。输入电力线异物航拍影像,经过10个卷积层进行卷积,卷积核大小为3×3,前6个卷积层作为主体网络,用来提取电力线异物目标特征,并且第2,4,6卷积层后添加池化操作。第7,8层分别有一个3×3的卷积核,皆采用批量归一化(Batch Normalization),它将对后续激活函数的输入进行归一化,使批量呈标准正态分布(均值为1,标准差为0),,使得数值更加稳定,在批量归一化后将采用线性修正单元(Rectified Linear Unit,ReLU)作为激活函数,使模型收敛速度更快。在7,8层后各添加一个跨度为2的最大池化层,将输入特征的长宽减半。第7,8,9,10卷积层,都作为预测模块,每个模块含有两个3×3的卷积层,分别用来进行类别预测和边界框预测,这样,我们保留了多层间不同尺度的预测值。之后,我们将其转化为二维数组,第一维是样本个数,第二维是通道数,将所有输出在第二个维度上拼接起来,实现多尺度预测值的合并。对于每个预测框,根据计算得出的类别预测值确定所属类别,并过滤掉属于背景的预测框。然后以0.5的置信度阈值过滤掉阈值较低的预测框,并保留置信度较高的前200个预测框。最后采用非极大值抑制NMS算法,过滤掉阈值大于0.7的预测框,最终得到预测结果。
步骤2:神经网络预训练
本发明使用使用电力线图像数据集训练轻型电力线检测模型,使用电力线异物数据集训练电力线异物模型,将电力线影像首先送入电力线检测模型,过滤无关帧,之后将包含电力线的关键帧送入电力线异物检测模型,从而实现实时电力线异物目标检测。
步骤2.1:目标检测模型预训练
步骤2.1.1:构建预训练数据集
预训练阶段选择电力线图像数据集(Powerline Image Dataset)训练电力线目标检测模型,包含2000张电力线航拍图像和2000张背景航拍图像。电力线航拍图像取自不同季节的不同地区,图像尺寸为512×512。选择电力线异物数据集训练电力线异物检测模型,包含气球、风筝两类航拍图像,分别有1000张,涵盖不同角度、地区、背景。
2.1.2模型预训练
在电力线异物场景中,边框可以出现在图片的任意一个位置,并且有任意大小。为了简化搜索过程,电力线异物模型使用默认边界框,也即锚框(anchor box),并以锚框为搜索起点。锚框的设置包括尺度和长宽比两个方面。对于输入大小w×h,对于给定的大小s∈(0,1),将生成大小为ws×hs的边界框;对于给定的比例r>0,将生成大小为的边界框。本发明中s取0.1,0.25,0.5,r取0.5,1,2。对于每个输入的像素,以其中心采样默认锚框5个。在训练过程中,首先确定训练数据中的真实值(ground truth)与哪个锚框匹配,与之对应的锚框所对应的边界框来预测。对于照片中的每个真实目标,与其交并比(Intersection over Union,IoU)值最大的锚框匹配。交并比是描述边框距离的概率值,如公式(1)所示:
其中α为预测结果,ξ为真实边界值,大的交并比表示两个边框很相似,小的交并比表示两各边框不相似。对于剩下的未匹配锚框,若某个真实值的IoU大于阈值0.5,那么锚框也将与这个真实值匹配。
在电力线检测模模型和电力线异物检测模型中,L(x,c,l,g)代表损失函数,定义为位置误差(locatization loss,loc)与置信度误差(confidence loss,conf)的加权和,如公式(2)所示,x为输入的训练图像,c为类别置信度预测值,l为锚框对应边界框预测值,g为真实值的位置参数,N是锚框的正样本数量,α为前景损失函数和背景损失函数的调节比例,此处取1。
Lloc(x,l,g)是边界框预测的损失函数,如公式(3)所示。其中cx,cy是边界框的中心坐标,w,h是边界框宽和高,锚框位置用d=(dcx,dcy,dw,dh)表示,对应边界框用b=(bcx,bcy,bw,bh), 即边界框相对于锚框的转换值,按照公式(4)(5)(6)(7)计算得出。为第i个锚框对应边界框的m参数的预测值。Pos代表正样本集合,i表示锚框序号,j表示真实值序号。当时表示第i个锚框和第j个真实值匹配,并且真实值的类别是k,当时表示不匹配。对于位置误差,采用Smooth L1函数。
Lconf(x,c)代表类别预测的损失函数,其中x表示输入的图像,Neg代表负样本集合,o表示取自正样本的锚框序号,表示取自负样本的锚框序号,t表示真实值序号。用来说明匹配状态,表示当时表示第o个锚框和第t个真实值匹配,并且真实值的类别是p,当时表示不匹配。如公式(8)所示:
随后,最小化损失函数进行训练。采用随机梯度下降(SGD)法,最小化上述代价函数,对于多个不同尺度卷积层的特征图结果都计算预测,并合并不同层预测输出。预训练需要将所有数据大小归一化,因此本发明将原始图像重置为512×512像素用于预训练。学习速率是随机梯度下降法最重要的参数,决定了权值更新的速度。动量参数和权值衰减因子可以提高训练自适应性。通过实验观察,本发明将学习速率设为10-3,动量参数设置为0,99,权值衰减因子设置为默认0.0005.随机梯度下降学习过程通过NVIDIA TITAN XP设备加速,共进行60000次迭代。
电力线目标检测模型详细预训练过程如下,其中为初始的电力线边界预测值和类别预测值,c1,l1为最终的电力线边界预测值和类别预测值,代表电力线检测模型网络参数,u∈(0,15)为参数迭代的序号。
1)读入电力线图像数据集,并将电力线检测模型初始化
2)使用电力线检测网络进行计算,输出边界预测值和类别预测值
3)将和输入损失函数,并将损失函数输出求和,也即把两个损失函数的输出合并,得到损失输出值
4)根据利用SGD训练电力线检测网络,更新参数为
5)根据利用SGD训练电力线检测网络,更新参数为
6)重复上述2-5步15次获得电力线检测模型预训练最终参数β1,c1,l1。
电力线异物检测模型详细预训练过程如下,其中为初始的电力线边界预测值和类别预测值,c2,l2为最终的电力线边界预测值和类别预测值,代表电力线检测模型网络参数,u∈(0,15)为参数迭代的序号。
1)读入电力线异物图像数据集,并将电力线检测模型初始化
2)使用电力线检测网络进行计算,输出边界预测值和类别预测值
3)将和输入损失函数,并将损失函数输出求和,也即把两个损失函数的输出合并,得到损失输出值
4)根据利用SGD训练电力线检测网络,更新参数为
5)根据利用SGD训练电力线检测网络,更新参数为
6)重复上述2-5步15次获得电力线检测模型预训练最终参数β2,c2,l2
步骤3:电力线异物识别
在航拍影像中,存在大量无关帧,如无人机的起飞降落以及电力线周边飞行过程,他们并不包括电力线目标,降低了电力线异物影像的识别效率,所以我们首先使用电力线检测模型进行检测,对于不存在电力线的帧不做处理,对于存在电力线的帧进行下一步的电力线异物检测,从而提高整体检测速度。
步骤3.1电力线目检测
首先将视频帧输入电力线目标检测模型,并输出边界框预测值和类别预测值,然后使用非极大值抑制算法,保留置信度较高的边界框,最后画出边框。
步骤3.1.1电力线目标类别与边界预测
将一幅待检测的图像xi送入电力线目标检测模型中,并输出预测边界值c1和类别预测值l1,由于每个像素都会生成数个锚框,所以我们会预测出大量相似的表框。
步骤3.1.2电力线目标类别与边界预测结果优化
对于步骤3.1.1中计算出的大量相似表框,我们将采用非极大值抑制来抑制冗余的框,将所有框按照置信度排序,并选中置信度最高的边框,之后遍历其余的所有框,如果与当前得分最高的框的IoU值大于阈值0.8,我们就将其删除,不断重复上述过程,最终保留置信度较高的框。最终,在非极大值抑制处理后的边框集合中,画出置信度超过0.6的边框为最终边框。
3.2电力线异物目标检测
将步骤3.1处理过后的包含电力线的关键帧输入电力线异物目标检测模型,计算异物目标边界预测值和类别预测值,对于存在异物的关键帧,画出其异物边界框,并判断与电力线边界框是否重合,最终将重合的边界框画出。
步骤3.2.1电力线异物目标类别与边界预测
将一幅待检测的图像xi送入电力线异物目标检测模型中,并输出预测边界值c2和类别预测值l2,每个像素都会生成数个锚框,所以我们会预测出大量相似的表框。
步骤3.2.2电力线目标类别与边界预测结果优化
对于步骤3.2.2中计算出的大量相似表框,我们将采用非极大值抑制来抑制冗余的框,并保留出置信度超过0.6的边框。然后将电力线异物边框预测值与电力线边框预测值对比,并删除IoU为0的边框,最后将剩余边框画出。
步骤3.3:检测结果评价
本发明使用基于平均绝度误差标准对边界预测结果进行评价。平均绝对误差为MAE,公式如下:
ei=|fi-yi| (9)
其中,fi表示预测值,yi表示真实值yi,ei,为绝对误差。
Claims (5)
1.基于轻型卷积神经网络的低空航拍影像电力线异物检测方法,其特征在于:
首先,利用卷积神经网络构建轻型电力线检测模型,在自建测电力线图像数据集上预训练网络,提取电力线深度特征;其次利用卷积神经网络训练电力线异物检测模型,在该模型中添加不同长宽的卷积层,并在多个层同时计算预测值;之后将不同层的输出合并,从而学习多尺度目标的深度特征;使用自建的电力线异物数据集进行预训练,并采用数据增广的方法,进行随机翻转、裁切、颜色变化,从而扩展数据量,进一步提高泛化能力;最后,在电力线异物检测阶段,首先使用电力线检测模型去除视频中的无关帧,保留包含电力线的关键帧,并提取出关键帧中的电力线边界框预测值,之后利用电力线异物检测模型检测关键帧,并得到各个目标的预测值,使用非极值抑制算法过滤较相似的边界框,保留置信度较高的边界框,之后利用得到的电力线边界框和异物目标边界框,实现航拍电力线影像异物的检测。
2.根据权利要求1所述的检测方法,其特征在于:
步骤1:基于卷积神经网络的电力线异物目标检测模型构建
步骤1.1:基于轻型卷积神经网络的电力线检测模型构建
输入电力线航拍影像,经过6个卷积层进行卷积,卷积核大小为3×3,前四个卷积层都采用批量归一化,它将对后续激活函数的输入进行归一化,使批量呈标准正态分布,在批量归一化后将采用线性修正单元作为激活函数,使模型收敛速度更快;在第4卷积层后进行最大值池化操作,从而降低特征维度,减少计算量;在第五个卷积层,使用一个3×3的卷积核作为类别预测模块,输出的通道数为6,每个通道对应一个锚框的置信度;在第六个卷积层中,采用一个3×3的卷积核来预测边界框;对于每个预测框,根据计算得出的类别预测值确定所属类别,并过滤掉属于背景的预测框;然后以0.5的置信度阈值过滤掉阈值较低的预测框,并保留置信度较高的前200个预测框;最后采用非极大值抑制NMS算法,过滤掉阈值大于0.7的预测框,最终得到预测结果;
步骤1.2:基于卷积神经网络的电力线异物检测模型构建
输入电力线异物航拍影像,经过10个卷积层进行卷积,卷积核大小为3×3,前6个卷积层作为主体网络,用来提取电力线异物目标特征,并且第2,4,6卷积层后添加池化操作;第7,8层分别有一个3×3的卷积核,皆采用批量归一化,它将对后续激活函数的输入进行归一化,使批量呈标准正态分布,使得数值更加稳定,在批量归一化后将采用线性修正单元作为激活函数,使模型收敛速度更快;在7,8层后各添加一个跨度为2的最大池化层,将输入特征的长宽减半;第7,8,9,10卷积层,都作为预测模块,每个模块含有两个3×3的卷积层,分别用来进行类别预测和边界框预测,这样,保留了多层间不同尺度的预测值;之后,将其转化为二维数组,第一维是样本个数,第二维是通道数,将所有输出在第二个维度上拼接起来,实现多尺度预测值的合并;对于每个预测框,根据计算得出的类别预测值确定所属类别,并过滤掉属于背景的预测框;然后以0.5的置信度阈值过滤掉阈值较低的预测框,并保留置信度较高的前200个预测框;最后采用非极大值抑制NMS算法,过滤掉阈值大于0.7的预测框,最终得到预测结果。
3.根据权利要求1所述的检测方法,其特征在于:
步骤2:神经网络预训练
使用使用电力线图像数据集训练轻型电力线检测模型,使用电力线异物数据集训练电力线异物模型,将电力线影像首先送入电力线检测模型,过滤无关帧,之后将包含电力线的关键帧送入电力线异物检测模型,从而实现实时电力线异物目标检测;
步骤2.1:目标检测模型预训练
步骤2.1.1:构建预训练数据集
预训练阶段选择电力线图像数据集训练电力线目标检测模型,包含多张电力线航拍图像和多张背景航拍图像;电力线航拍图像取自不同季节的不同地区,图像尺寸为512×512;选择电力线异物数据集训练电力线异物检测模型,包含气球、风筝两类航拍图像,涵盖不同角度、地区、背景;
2.1.2模型预训练
在电力线异物场景中,边框可以出现在图片的任意一个位置,并且有任意大小;电力线异物模型使用默认边界框,也即锚框,并以锚框为搜索起点;锚框的设置包括尺度和长宽比两个方面;对于输入大小w×h,对于给定的大小s∈(0,1),将生成大小为ws×hs的边界框;对于给定的比例r>0,将生成大小为的边界框;中s取0.1,0.25,0.5,r取0.5,1,2;对于每个输入的像素,以其中心采样默认锚框5个;在训练过程中,首先确定训练数据中的真实值与哪个锚框匹配,与之对应的锚框所对应的边界框来预测;对于照片中的每个真实目标,与其交并比IoU值最大的锚框匹配;交并比是描述边框距离的概率值,如公式(1)所示:
其中α为预测结果,ξ为真实边界值,大的交并比表示两个边框很相似,小的交并比表示两各边框不相似;对于剩下的未匹配锚框,若某个真实值的IoU大于阈值0.5,那么锚框也将与这个真实值匹配;
在电力线检测模模型和电力线异物检测模型中,L(x,c,l,g)代表损失函数,定义为位置误差与置信度误差的加权和,如公式(2)所示,x为输入的训练图像,c为类别置信度预测值,l为锚框对应边界框预测值,g为真实值的位置参数,N是锚框的正样本数量,α为前景损失函数和背景损失函数的调节比例,此处取1;
Lloc(x,l,g)是边界框预测的损失函数,如公式(3)所示;其中cx,cy是边界框的中心坐标,w,h是边界框宽和高,锚框位置用d=(dcx,dcy,dw,dh)表示,对应边界框用b=(bcx,bcy,bw,bh),即边界框相对于锚框的转换值,按照公式(4)(5)(6)(7)计算得出;为第i个锚框对应边界框的m参数的预测值;Pos代表正样本集合,i表示锚框序号,j表示真实值序号;当时表示第i个锚框和第j个真实值匹配,并且真实值的类别是k,当时表示不匹配;对于位置误差,采用Smooth L1函数;
Lconf(x,c)代表类别预测的损失函数,其中x表示输入的图像,Neg代表负样本集合,o表示取自正样本的锚框序号,表示取自负样本的锚框序号,t表示真实值序号;用来说明匹配状态,表示当时表示第o个锚框和第t个真实值匹配,并且真实值的类别是p,当时表示不匹配;如公式(8)所示:
随后,最小化损失函数进行训练;采用随机梯度下降法,最小化上述代价函数,对于多个不同尺度卷积层的特征图结果都计算预测,并合并不同层预测输出;预训练需要将所有数据大小归一化,因此将原始图像重置为512×512像素用于预训练;将学习速率设为10-3,动量参数设置为0,99,权值衰减因子设置为默认0.0005.随机梯度下降学习过程通过NVIDIA TITAN XP设备加速,共进行60000次以上的迭代。
4.根据权利要求1所述的检测方法,其特征在于:
电力线目标检测模型详细预训练过程如下,其中为初始的电力线边界预测值和类别预测值,c1,l1为最终的电力线边界预测值和类别预测值,代表电力线检测模型网络参数,u∈(0,15)为参数迭代的序号;
1)读入电力线图像数据集,并将电力线检测模型初始化
2)使用电力线检测网络进行计算,输出边界预测值和类别预测值
3)将和输入损失函数,并将损失函数输出求和,也即把两个损失函数的输出合并,得到损失输出值
4)根据利用SGD训练电力线检测网络,更新参数为
5)根据利用SGD训练电力线检测网络,更新参数为
6)重复上述2-5步15次获得电力线检测模型预训练最终参数β1,c1,l1;
电力线异物检测模型详细预训练过程如下,其中为初始的电力线边界预测值和类别预测值,c2,l2为最终的电力线边界预测值和类别预测值,代表电力线检测模型网络参数,u∈(0,15)为参数迭代的序号;
1)读入电力线异物图像数据集,并将电力线检测模型初始化
2)使用电力线检测网络进行计算,输出边界预测值和类别预测值
3)将和输入损失函数,并将损失函数输出求和,也即把两个损失函数的输出合并,得到损失输出值
4)根据利用SGD训练电力线检测网络,更新参数为
5)根据利用SGD训练电力线检测网络,更新参数为
6)重复上述2-5步15次获得电力线检测模型预训练最终参数β2,c2,l2。
5.根据权利要求1所述的检测方法,其特征在于:
步骤3:电力线异物识别
首先使用电力线检测模型进行检测,对于不存在电力线的帧不做处理,对于存在电力线的帧进行下一步的电力线异物检测,从而提高整体检测速度;
步骤3.1电力线目检测
首先将视频帧输入电力线目标检测模型,并输出边界框预测值和类别预测值,然后使用非极大值抑制算法,保留置信度较高的边界框,最后画出边框;
步骤3.1.1电力线目标类别与边界预测
将一幅待检测的图像xi送入电力线目标检测模型中,并输出预测边界值c1和类别预测值l1,由于每个像素都会生成数个锚框,所以会预测出大量相似的表框;
步骤3.1.2电力线目标类别与边界预测结果优化
对于步骤3.1.1中计算出的大量相似表框,将采用非极大值抑制来抑制冗余的框,将所有框按照置信度排序,并选中置信度最高的边框,之后遍历其余的所有框,如果与当前得分最高的框的IoU值大于阈值0.8,就将其删除,不断重复上述过程,最终保留置信度较高的框;最终,在非极大值抑制处理后的边框集合中,画出置信度超过0.6的边框为最终边框;
3.2电力线异物目标检测
将步骤3.1处理过后的包含电力线的关键帧输入电力线异物目标检测模型,计算异物目标边界预测值和类别预测值,对于存在异物的关键帧,画出其异物边界框,并判断与电力线边界框是否重合,最终将重合的边界框画出;
步骤3.2.1电力线异物目标类别与边界预测
将一幅待检测的图像xi送入电力线异物目标检测模型中,并输出预测边界值c2和类别预测值l2,每个像素都会生成数个锚框,所以会预测出大量相似的表框;
步骤3.2.2电力线目标类别与边界预测结果优化
对于步骤3.2.2中计算出的大量相似表框,将采用非极大值抑制来抑制冗余的框,并保留出置信度超过0.6的边框;然后将电力线异物边框预测值与电力线边框预测值对比,并删除IoU为0的边框,最后将剩余边框画出;
步骤3.3:检测结果评价
使用基于平均绝度误差标准对边界预测结果进行评价;平均绝对误差为MAE,公式如下:
ei=|fi-yi| (9)
其中,fi表示预测值,yi表示真实值yi,ei,为绝对误差。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810465955.2A CN108647655B (zh) | 2018-05-16 | 2018-05-16 | 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810465955.2A CN108647655B (zh) | 2018-05-16 | 2018-05-16 | 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108647655A true CN108647655A (zh) | 2018-10-12 |
CN108647655B CN108647655B (zh) | 2022-07-12 |
Family
ID=63755957
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810465955.2A Active CN108647655B (zh) | 2018-05-16 | 2018-05-16 | 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108647655B (zh) |
Cited By (18)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109389322A (zh) * | 2018-10-30 | 2019-02-26 | 福州大学 | 基于目标检测和长短时记忆模型的导地线断散股识别方法 |
CN109472214A (zh) * | 2018-10-17 | 2019-03-15 | 福州大学 | 一种基于深度学习航拍异物图像实时检测方法 |
CN109726741A (zh) * | 2018-12-06 | 2019-05-07 | 江苏科技大学 | 一种多目标物体的检测方法及装置 |
CN109902730A (zh) * | 2019-02-21 | 2019-06-18 | 国网山东省电力公司临沂供电公司 | 基于深度学习的输电线路断股检测方法 |
CN110033451A (zh) * | 2019-04-17 | 2019-07-19 | 国网山西省电力公司电力科学研究院 | 一种基于ssd架构的电力部件缺陷检测方法 |
CN110033453A (zh) * | 2019-04-18 | 2019-07-19 | 国网山西省电力公司电力科学研究院 | 基于改进YOLOv3的输变电线路绝缘子航拍图像故障检测方法 |
CN110070530A (zh) * | 2019-04-19 | 2019-07-30 | 山东大学 | 一种基于深度神经网络的输电线路覆冰检测方法 |
CN110163081A (zh) * | 2019-04-02 | 2019-08-23 | 宜通世纪物联网研究院(广州)有限公司 | 基于ssd的实时区域入侵检测方法、***及存储介质 |
CN110175524A (zh) * | 2019-04-26 | 2019-08-27 | 南京航空航天大学 | 一种基于轻量级深度卷积网络的快速精确航拍车辆检测方法 |
CN110232370A (zh) * | 2019-06-21 | 2019-09-13 | 华北电力大学(保定) | 一种改进ssd模型的输电线路航拍图像金具检测方法 |
CN110796186A (zh) * | 2019-10-22 | 2020-02-14 | 华中科技大学无锡研究院 | 基于改进的YOLOv3网络的干湿垃圾识别分类方法 |
CN111753606A (zh) * | 2019-07-04 | 2020-10-09 | 杭州海康威视数字技术股份有限公司 | 一种智能模型的升级方法及装置 |
CN112364878A (zh) * | 2020-09-25 | 2021-02-12 | 江苏师范大学 | 一种复杂背景下基于深度学习的电力线分类方法 |
CN113670929A (zh) * | 2021-07-05 | 2021-11-19 | 国网宁夏电力有限公司电力科学研究院 | 输电线异物检测方法与装置、存储介质、终端设备 |
CN113723181A (zh) * | 2021-07-20 | 2021-11-30 | 深圳大学 | 一种无人机航拍目标检测方法和装置 |
CN114001833A (zh) * | 2021-11-25 | 2022-02-01 | 三门核电有限公司 | 一种基于目标检测的设备红外成像诊断方法及*** |
CN114723678A (zh) * | 2022-03-21 | 2022-07-08 | 盛视科技股份有限公司 | 基于视频图像的高压电线异物检测方法及检测*** |
CN115311584A (zh) * | 2022-08-15 | 2022-11-08 | 贵州电网有限责任公司 | 一种基于深度学习的无人机高压电网视频巡检飘挂物方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106909924A (zh) * | 2017-02-18 | 2017-06-30 | 北京工业大学 | 一种基于深度显著性的遥感影像快速检索方法 |
CN106971152A (zh) * | 2017-03-16 | 2017-07-21 | 天津大学 | 一种基于航拍图像的检测输电线路中鸟巢的方法 |
CN107392901A (zh) * | 2017-07-24 | 2017-11-24 | 国网山东省电力公司信息通信公司 | 一种用于输电线路部件智能自动识别的方法 |
CN107423760A (zh) * | 2017-07-21 | 2017-12-01 | 西安电子科技大学 | 基于预分割和回归的深度学习目标检测方法 |
CN107563412A (zh) * | 2017-08-09 | 2018-01-09 | 浙江大学 | 一种基于深度学习的红外图像电力设备实时检测方法 |
-
2018
- 2018-05-16 CN CN201810465955.2A patent/CN108647655B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106909924A (zh) * | 2017-02-18 | 2017-06-30 | 北京工业大学 | 一种基于深度显著性的遥感影像快速检索方法 |
CN106971152A (zh) * | 2017-03-16 | 2017-07-21 | 天津大学 | 一种基于航拍图像的检测输电线路中鸟巢的方法 |
CN107423760A (zh) * | 2017-07-21 | 2017-12-01 | 西安电子科技大学 | 基于预分割和回归的深度学习目标检测方法 |
CN107392901A (zh) * | 2017-07-24 | 2017-11-24 | 国网山东省电力公司信息通信公司 | 一种用于输电线路部件智能自动识别的方法 |
CN107563412A (zh) * | 2017-08-09 | 2018-01-09 | 浙江大学 | 一种基于深度学习的红外图像电力设备实时检测方法 |
Non-Patent Citations (1)
Title |
---|
WEI LIU等: "SSD: Single Shot MultiBox Detector", 《SPRINGER》 * |
Cited By (23)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109472214A (zh) * | 2018-10-17 | 2019-03-15 | 福州大学 | 一种基于深度学习航拍异物图像实时检测方法 |
CN109389322A (zh) * | 2018-10-30 | 2019-02-26 | 福州大学 | 基于目标检测和长短时记忆模型的导地线断散股识别方法 |
CN109726741A (zh) * | 2018-12-06 | 2019-05-07 | 江苏科技大学 | 一种多目标物体的检测方法及装置 |
CN109726741B (zh) * | 2018-12-06 | 2023-05-30 | 江苏科技大学 | 一种多目标物体的检测方法及装置 |
CN109902730A (zh) * | 2019-02-21 | 2019-06-18 | 国网山东省电力公司临沂供电公司 | 基于深度学习的输电线路断股检测方法 |
CN109902730B (zh) * | 2019-02-21 | 2021-06-01 | 国网山东省电力公司临沂供电公司 | 基于深度学习的输电线路断股检测方法 |
CN110163081A (zh) * | 2019-04-02 | 2019-08-23 | 宜通世纪物联网研究院(广州)有限公司 | 基于ssd的实时区域入侵检测方法、***及存储介质 |
CN110033451A (zh) * | 2019-04-17 | 2019-07-19 | 国网山西省电力公司电力科学研究院 | 一种基于ssd架构的电力部件缺陷检测方法 |
CN110033453A (zh) * | 2019-04-18 | 2019-07-19 | 国网山西省电力公司电力科学研究院 | 基于改进YOLOv3的输变电线路绝缘子航拍图像故障检测方法 |
CN110033453B (zh) * | 2019-04-18 | 2023-02-24 | 国网山西省电力公司电力科学研究院 | 基于改进YOLOv3的输变电线路绝缘子航拍图像故障检测方法 |
CN110070530A (zh) * | 2019-04-19 | 2019-07-30 | 山东大学 | 一种基于深度神经网络的输电线路覆冰检测方法 |
CN110175524A (zh) * | 2019-04-26 | 2019-08-27 | 南京航空航天大学 | 一种基于轻量级深度卷积网络的快速精确航拍车辆检测方法 |
CN110232370A (zh) * | 2019-06-21 | 2019-09-13 | 华北电力大学(保定) | 一种改进ssd模型的输电线路航拍图像金具检测方法 |
CN111753606A (zh) * | 2019-07-04 | 2020-10-09 | 杭州海康威视数字技术股份有限公司 | 一种智能模型的升级方法及装置 |
WO2021000956A1 (zh) * | 2019-07-04 | 2021-01-07 | 杭州海康威视数字技术股份有限公司 | 一种智能模型的升级方法及装置 |
CN110796186A (zh) * | 2019-10-22 | 2020-02-14 | 华中科技大学无锡研究院 | 基于改进的YOLOv3网络的干湿垃圾识别分类方法 |
CN112364878A (zh) * | 2020-09-25 | 2021-02-12 | 江苏师范大学 | 一种复杂背景下基于深度学习的电力线分类方法 |
CN113670929A (zh) * | 2021-07-05 | 2021-11-19 | 国网宁夏电力有限公司电力科学研究院 | 输电线异物检测方法与装置、存储介质、终端设备 |
CN113723181A (zh) * | 2021-07-20 | 2021-11-30 | 深圳大学 | 一种无人机航拍目标检测方法和装置 |
CN113723181B (zh) * | 2021-07-20 | 2023-10-20 | 深圳大学 | 一种无人机航拍目标检测方法和装置 |
CN114001833A (zh) * | 2021-11-25 | 2022-02-01 | 三门核电有限公司 | 一种基于目标检测的设备红外成像诊断方法及*** |
CN114723678A (zh) * | 2022-03-21 | 2022-07-08 | 盛视科技股份有限公司 | 基于视频图像的高压电线异物检测方法及检测*** |
CN115311584A (zh) * | 2022-08-15 | 2022-11-08 | 贵州电网有限责任公司 | 一种基于深度学习的无人机高压电网视频巡检飘挂物方法 |
Also Published As
Publication number | Publication date |
---|---|
CN108647655B (zh) | 2022-07-12 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108647655A (zh) | 基于轻型卷积神经网络的低空航拍影像电力线异物检测方法 | |
CN110348376B (zh) | 一种基于神经网络的行人实时检测方法 | |
CN108830188A (zh) | 基于深度学习的车辆检测方法 | |
CN113065558A (zh) | 一种结合注意力机制的轻量级小目标检测方法 | |
CN109800735A (zh) | 一种船目标精确检测与分割方法 | |
CN112446388A (zh) | 一种基于轻量化二阶段检测模型的多类别蔬菜幼苗识别方法及*** | |
CN108427920A (zh) | 一种基于深度学习的边海防目标检测方法 | |
CN108764308A (zh) | 一种基于卷积循环网络的行人重识别方法 | |
CN108037770A (zh) | 基于人工智能的无人机输电线路巡检***和方法 | |
CN106446930A (zh) | 基于深层卷积神经网络的机器人工作场景识别方法 | |
CN109029363A (zh) | 一种基于深度学习的目标测距方法 | |
CN109766873B (zh) | 一种混合可变形卷积的行人再识别方法 | |
CN112464911A (zh) | 基于改进YOLOv3-tiny的交通标志检测与识别方法 | |
CN113111727B (zh) | 一种基于特征对齐的遥感场景下旋转目标检测方法 | |
CN110189304A (zh) | 基于人工智能的光学遥感图像目标在线快速检测方法 | |
CN110321862B (zh) | 一种基于紧致三元损失的行人再识别方法 | |
CN107967474A (zh) | 一种基于卷积神经网络的海面目标显著性检测方法 | |
Alidoost et al. | Knowledge based 3D building model recognition using convolutional neural networks from LiDAR and aerial imageries | |
Doi et al. | The effect of focal loss in semantic segmentation of high resolution aerial image | |
CN108021890A (zh) | 一种基于plsa和bow的高分遥感影像港口检测方法 | |
CN108764018A (zh) | 一种基于卷积神经网络的多任务车辆再识别方法及装置 | |
CN114842208A (zh) | 一种基于深度学习的电网危害鸟种目标检测方法 | |
CN109583499B (zh) | 一种基于无监督sdae网络的输电线路背景目标分类*** | |
CN111753682A (zh) | 一种基于目标检测算法的吊装区域动态监控方法 | |
Wang et al. | Study on the method of transmission line foreign body detection based on deep learning |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |