CN111862065B - 基于多任务深度卷积神经网络的输电线路诊断方法和*** - Google Patents
基于多任务深度卷积神经网络的输电线路诊断方法和*** Download PDFInfo
- Publication number
- CN111862065B CN111862065B CN202010736628.3A CN202010736628A CN111862065B CN 111862065 B CN111862065 B CN 111862065B CN 202010736628 A CN202010736628 A CN 202010736628A CN 111862065 B CN111862065 B CN 111862065B
- Authority
- CN
- China
- Prior art keywords
- network model
- network
- abnormal object
- classification
- transmission line
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
- G06T7/0004—Industrial image inspection
- G06T7/001—Industrial image inspection using an image reference approach
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
- G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
- G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y04—INFORMATION OR COMMUNICATION TECHNOLOGIES HAVING AN IMPACT ON OTHER TECHNOLOGY AREAS
- Y04S—SYSTEMS INTEGRATING TECHNOLOGIES RELATED TO POWER NETWORK OPERATION, COMMUNICATION OR INFORMATION TECHNOLOGIES FOR IMPROVING THE ELECTRICAL POWER GENERATION, TRANSMISSION, DISTRIBUTION, MANAGEMENT OR USAGE, i.e. SMART GRIDS
- Y04S10/00—Systems supporting electrical power generation, transmission or distribution
- Y04S10/50—Systems or methods supporting the power network operation or management, involving a certain degree of interaction with the load-side end user applications
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Health & Medical Sciences (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Quality & Reliability (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了一种基于多任务深度卷积神经网络的输电线路诊断方法和***,包括步骤:获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数,并对剩余网络层进行再训练得到的。本发明训练速度快,模型稳定简单,方便扩展。
Description
技术领域
本发明涉及电力***运行和故障诊断技术领域,具体涉及一种基于多任务深度卷积神经网络的输电线路诊断方法及***。
背景技术
随着国民经济的飞速发展,各行各业对电力资源的需求量也在与日俱增。电网作为经济的命脉,安全稳定地运行对人民生活、工业生产乃至社会正常运转具有重要影响。输电线路作为连接发电厂、变电站和用户的纽带,是电网的重要组成部分,是全社会能量输送的大动脉,输电线路运行的安全性和可靠性受到了越来越广泛的关注。在输电线路上安装视频监控设备,通过监测的手段实现对于输电线路本体异常情况和外部通道隐患的预知,并及时进行处理是提高输电线路安全稳定运行水平的切实需要。
实际环境中,既存在玻璃绝缘子、螺栓销钉、防震锤、金具、导地线等输电线路本体装置异常情况,又存在吊车、塔吊、泵车等机械外破、导地线悬挂异物、杆塔、鸟巢、蜂窝、烟雾、山火等输电线路通道环境异常情况。所以要求既能够对异常情况的属性进行分类:即异常情况属于本体异常还是通道异常,又能够对对异常情况的类别进行分类:即异常情况属于玻璃绝缘子脱落,防震锤滑移还是机械外破等等。
如何从监控设备传回的图像信息中快速准确地判断出发生了异常情况,基于计算机辅助的图像分类技术越来越发挥它的重要作用。传统的图像分类***通常分为特征提取、图像描述、识别分类这三个重要组成部分,另外有图像预处理、区域跟踪、特征降维等可选模块嵌套其中。这种分类方法存在的三个主要问题:一个是架空线路图像有着对比度低,边界不明显,视觉差异小的特征。需要根据识别的任务来设计复杂的数字图像处理算法才能提取出有效的特征,识别的成功概率与人员的专业水平也有很大关系;二是手工设计的特征几乎都只局限于底层特征,对于多样性环境的变化并没有很好的鲁棒性;三是需要根据具体问题和任务的不同而重新设计整个***构架,泛化能力差,很难在实际生活中应用。
因此有必要从手工设计提取特征的方式转为从图像中自动地学习出有效特征。深度卷积神经网络可以自动地从数据中学习,对输入图像进行不同层级的处理,对提取出的基本组成部分进行各层之间的共享实现更高层次的特征抽象,有效克服“语义鸿沟”的问题,最大限度地保留图像的信息来实现图像分类,具有很强的泛化能力和表达能力,且对图像的分类准确率相较于传统分类方法也有很大的提升。
专利《基于深度学习的输电走廊常见侵入物目标检测与识别方法》中公开:在训练阶段,利用深度学习方法,对视频采集装置获取到异物入侵的图片进行在线训练,通过学习得到符合识别精度的卷积神经网络模型;在使用阶段,将现实监控到的画面传入所述网络模型,最终完成对侵入物的检测与识别。
现有技术中获取输入数据样本采用的是在线学习的方式,由于***采用深度学习网络进行特征学习,根据深度学习架构的特点,要想获得很好的泛化能力和表达能力,需要输入大量的有效样本用来学习,否则会造成过拟合,训练出的模型在实践中难以发挥作用。然而实际情况却是,输电线路大部分都是工作在正常的状态下,而想要训练完成能够识别多种异常入侵情况的网络模型就必须经过若干次异常情况的输入图像的训练,所需的时间代价很大。
现有技术对于多分类任务采取的方案是将不同的分类任务进行深度融合,具体指的是在特征提取阶段,对不同卷积层获取到的特征增加一层上采样层进行融合。这种网络模型本质上仍是一个训练和分类的模型,只是分类的维度由一维上升为二维。如果分类的任务发生改变,或者需要增加新的分类任务的情况下,网络模型需要重新进行训练满足需求,前述上采样层的设计复杂度也会随着分类任务的增加而变得复杂,特征融合的效果会很差。
发明内容
为解决现有技术中的不足,本发明提供一种基于多任务深度卷积神经网络的输电线路诊断方法及***,解决了现有的输电线路诊断方法在线学习训练时间长、泛化能力差,模型结构复杂的问题。
为了实现上述目标,本发明采用如下技术方案:一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征在于:包括步骤:
获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;
将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;
所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数,并对剩余网络层进行再训练得到的。
进一步的,所述异常物属性分类用网络模型获取过程为:
将训练得到的异常物类别分类用网络模型中的卷积层和池化层的参数全部迁移作为异常物的属性分类用网络模型的初始参数,对异常物属性分类用卷积神经网络进行一次训练;
计算异常物类别分类用网络和属性分类用网络中的某一对应的卷积层输出之间的MMD距离,响应于MMD距离小于设定的阈值,将异常物属性分类用网络中该层卷积层及其之前的卷积层的特征参数固定;
对属性分类用网络的剩余网络层再训练,得到异常物属性分类用网络模型。
进一步的,所述异常物类别分类用网络和属性分类用网络中的某一层卷积层输出之间的MMD距离为:
其中,k(.)是将卷积层输出变量向再生核希尔伯特空间映射的映射函数,X,Y分别表示属性分类和类别分类用网络对应的卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n,i,j为整数序号,xi为属性分类用网络中某卷积层输出向量中的第i个值,xj为属性分类用网络中某卷积层输出向量中的第j个值,yi为类别分类用网络中某卷积层输出向量中的第i个值,yj为类别分类用网络中某卷积层输出向量中的第j个值。
进一步的,所述异常物类别分类用网络模型和异常物属性分类用网络模型预先训练时的样本集获取方法为:对输电线路走廊异常物的图片样本进行预处理后再扩充。
进一步的,所述预处理包括:对原始输电线路走廊异常物的图片样本筛选后提取异常物矩形框对应的图像,得到原始有效图片样本;
将原始有效图片样本的大小归一化,像素值二值化,得到预处理后的图像样本。
进一步的,所述扩充方法包括以下一种或几种组合:异常物平移、仿射变换、弹性变换、细化/膨胀操作、加入噪声和制作负样本。
进一步的,需要诊断的输电线路图像获取方法为:现场监控通过输电线路图像回传触发策略传回的输电线路图像;
输电线路图像回传触发策略包括:
按固定传输间隔回传拍摄的图片;
如果现场摄像机检测到的当前图片与正常图片的像素差异超过预设的阈值,则回传图片;
摄像机根据指令回传拍摄的图片。
一种基于多任务深度卷积神经网络的输电线路诊断***,包括:
差异图像获取模块,用于获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;
识别模块,用于将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;
所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数训练得到的。
进一步的,所述异常物属性分类用网络模型获取过程为:
将训练得到的异常物类别分类用网络模型中的卷积层和池化层的参数全部迁移作为异常物的属性分类用网络模型的初始参数,对异常物属性分类用卷积神经网络进行一次训练;
计算异常物类别分类用网络和属性分类用网络中的某一对应的卷积层输出之间的MMD距离,响应于MMD距离小于设定的阈值,将异常物属性分类用网络中该层卷积层及其之前的卷积层的特征参数固定;
对属性分类用网络的剩余网络层再训练,得到异常物属性分类用网络模型。
进一步的,所述异常物类别分类用网络和属性分类用网络中的某一层卷积层输出之间的MMD距离为:
其中,k(.)是将卷积层输出变量向再生核希尔伯特空间映射的映射函数,X,Y分别表示属性分类和类别分类用网络对应的卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n,i,j为整数序号,xi为属性分类用网络中某卷积层输出向量中的第i个值,xj为属性分类用网络中某卷积层输出向量中的第j个值,yi为类别分类用网络中某卷积层输出向量中的第i个值,yj为类别分类用网络中某卷积层输出向量中的第j个值。
本发明所达到的有益效果:本发明以快速训练生成泛化能力强、网络结构简单稳定、方便扩展的诊断识别网络模型,用于准确检测识别输电走廊场景里的多种异常物的属性和类别,为输电线路提供可靠的安全保障为目标,提供一种基于多任务深度卷积神经网络的输电线路智能诊断方法及***。
通过离线训练大量的输电线路走廊异常物的图片样本,得到了泛化能力很强的特征提取网络,能够全面准确地提取图片中异常物的特征。
本发明通过计算两种网络中对应卷积层输出的特征分布距离MMD,从而确定需要迁移的卷积层特征参数,将预先在识别异常物类别领域训练好的模型特征迁移到识别异常物属性的模型中,加速训练识别异常物属性模型达到收敛,训练速度快,提升整体网络模型的学习效率,通过MMD距离定量确定迁移的特征参数,实现了精准迁移,提高了识别准确率。
附图说明
图1是本发明具体实施方式中的一种诊断方法流程图。
具体实施方式
下面结合附图对本发明作进一步描述。以下实施例仅用于更加清楚地说明本发明的技术方案,而不能以此来限制本发明的保护范围。
实施例1:
一种基于多任务深度卷积神经网络的输电线路诊断方法,包括步骤:
步骤1,对输电线路走廊异常物的图片样本进行预处理后扩充得到样本集,样本集包括:训练集和测试集;
通过对已有的视频采集装置获取到的输电线路走廊异常物的图片样本进行各种形态学操作,来人为增加用于训练学习的样本。使得网络模型能够学习不同情况下的样本特征,大大提高***的鲁棒性;
输电线路走廊异常物的图片样本预处理,包括:
1)对原始图片样本筛选后提取异常物矩形框对应的图像,得到原始有效图片样本;(输电线路走廊异常物的图片样本即对异常图像与正常图像对比得到的差异图像);
需要对海量的图像数据进行筛选剔除掉夜间图像,不完整图像和重复图像,然后用矩形框标注出图像中出现的脱落螺栓、滑移防震锤、工程车、违章建筑等异常物目标,最后提取出矩形框对应的图像,得到原始有效图片样本。
2)将原始有效图片样本的大小归一化,像素值二值化,得到预处理后的图像样本。
扩充方法包括以下一种或几种组合:平移、仿射变换、弹性变换、细化/膨胀操作、加入噪声、制作负样本;
(1)对图片样本中的异常物进行平移操作:在识别的过程中,为了能够正确识别异常物不在图像中心的样本,可以将预处理后的所有样本图片进行平移操作,得到包含平移操作后的样本图片。
(2)对图片样本中的异常物进行仿射变换、弹性变换:在识别的过程中,异常物可能会随机出现在整个监控图片中的不同区域。为了适应这种情况,将以上经过扩充得到的所有样本图片进行基于平移伸缩的仿射变换和基于随机扰动的弹性变换。
(3)对图片样本中的异常物进行细化/膨胀操作:在识别的过程中,如果亮度偏低时分割出的异常物会偏细,如果亮度偏高时分割出的异常物会偏粗。为了检测识别这种目标,可以将以上经过扩充得到的所有样本图片进行细化和膨胀操作。
(4)在部分图片样本中的异常物加入噪声:在识别的过程中,为了能够正确识别出混入各种噪声的样本,在训练样本中加入一定量的包含噪声的图片是很有必要的,这样才能使生成的训练样本更加接近完整的样本空间,避免训练产生过拟合造成训练好的模型在识别测试样本时效果很差。
(5)制作负样本:在识别的过程中,如果有其他种类的异常物,应将其分类为负样本。在训练模型的时候,加上一类负样本的标签,用于识别负样本。负样本的制作应尽可能地覆盖正样本之外所有可能的情况,增加负样本的多样性。
(6)将所有样本图片中异常物的属性信息与类别信息进行标定,选取了其中的70%生成训练集,30%作为测试样本集,每个训练样本包括异常物属性信息分类标签和异常物类别信息分类标签,异常物属性信息分类包括线路本体异常和线路通道异常。异常物类别信息分类包括:自爆/损伤的玻璃绝缘子、脱落的螺栓销钉、滑移的防震锤、破损的金具、断股的导地线,吊车、塔吊、泵车等机械外力破坏,导地线悬挂异物、杆塔、鸟巢、蜂窝、烟雾、山火等。
步骤2,对训练样本集进行分阶段训练学习,通过学习得到异常物类别分类用卷积神经网络模型和异常物属性分类用卷积神经网络模型,并通过测试样本集验证所得模型的识别准确率,得到最终的异常物类别分类用和异常物属性分类用卷积神经网络模型。
具体步骤,包括:
1),基于训练样本集和测试样本集对深度卷积神经网络进行训练和验证,得到输电线路上异常物类别分类用卷积神经网络模型;
2),对异常物属性分类用卷积神经网络进行一次训练,计算步骤1)得到的异常物类别分类用网络和进行一次训练后的属性分类用网络中的每层卷积层输出之间的MMD(最大平均差异Maximum mean discrepancy)距离,确定类别分类用网络中需要迁移到属性分类用网络中的卷积层特征参数;
3),将确定迁移的类别分类用网络中卷积层特征参数迁移到属性分类用网络中,对异常物属性分类用卷积神经网络进行局部再训练,并通过测试样本集验证所得模型的识别准确率,得到输电线路异常物的属性分类用卷积神经网络模型。
所述深度卷积神经网络模型主要由卷积层,池化层和全连接层构成。网络的前半部分通常由卷积层和池化层交替组成,后面连接一个或多个全连接层。其中,前半部分主要用于特征提取:卷积层将输入的训练样本集与卷积层的参数进行卷积得到图像特征,池化层将池化窗内的特征进行降采样,以特征的最大值或均值作为采样值。后半部分主要用于输出识别:即将前面经过多次卷积池化操作后高度抽象化的特征进行整合,获取图像特征具有的高层含义,之后用于图像分类。
为了使卷积神经网络能够对输电线路上异常物的类别进行分类,就需要通过训练来确定整个卷积神经网络的所有参数,且所有参数均采用随机初始化。首先利用前向传播算法对训练样本集的特征进行传递,得出实际的类别分类结果,然后计算实际分类结果与预期结果的误差,若没达到设定误差范围,接着利用随机梯度下降算法对模型参数进行调整更新。通过反复迭代最终使网络的模型参数达到最优,通过测试样本集验证,看识别率是否达到预期,反复调整直到体现出良好的分类准确率,能够胜任对实际图像中异常物类别的分类识别。
对于步骤2),对异常物的属性分类和类别分类是具有相关性的,为了提高学习效率加速收敛,本发明将未经训练的异常物属性分类的网络模型从已经训练好的异常物类别分类网络模型中学习已有知识,将步骤1)训练得到的网络模型的特征提取部分(即卷积层和池化层的参数)全部迁移过来,作为异常物的属性分类的网络模型的特征提取部分的初始参数。
卷积神经网络进行特征学习的过程可以粗略地分为两个部分:第一部分关注网络模型学习到的异常物属性特征和类别特征分布之间的共性,第二部分具体区分与任务相关的更加细化的数据分布。并且在网络起始的浅卷积层偏重于第一部分,不同任务的网络中,浅层的特征基本是通用的,适合特征迁移,可以直接固定参数作为特征提取器。越是往后的深卷积层,第二部分的比重越来越高,不同任务的特征分布可能差异很大,不适合作特征迁移,需要重新参与训练达到最优。因此在特征迁移训练过程中,由浅入深固定多少卷积层是一个重要参数。固定的层数过少,训练所需的运算量过大,也达不到特征迁移的效果;固定的层数过多,将不适合迁移的卷积层进行迁移,会大大降低分类识别的效果。
本发明对属性分类用网络进行第一次训练,计算在再生核希尔伯特空间中属性分类用网络和类别分类用网络的每一层卷积层输出的特征分布的距离,计算表达式为:其中,k(.)是将卷积层输出变量向高维再生核希尔伯特空间映射的映射函数。X,Y分别表示属性分类和类别分类每层卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n。i,j为整数序号,xi为属性分类用网络中某卷积层输出向量中的第i个值,xj为属性分类用网络中某卷积层输出向量中的第j个值,yi为类别分类用网络中某卷积层输出向量中的第i个值,yj为类别分类用网络中某卷积层输出向量中的第j个值。最后根据MMD作为检验统计量判断两个特征分布是否相同。如果这个值足够小,就认为两个分布相同,否则就认为它们不相同。设定一个阈值,由深至浅计算每一层卷积层的MMD距离。如果MMD距离大于这个阈值,则认为属性分类网络和类别分类网络在该层卷积层的特征分布差异很大,网络学到的特征不足以将类别分类网络的数据区分开,不适合迁移,因此需要将该层卷积层进行再训练;如果MMD距离小于这个阈值,则认为属性分类网络和类别分类网络在该层卷积层的特征分布相近,适合迁移,因此固定该层及其之前的卷积层用于特征提取。
对于步骤3),将用于特征提取的卷积层的特征参数迁移到属性分类用网络中,将剩余的所有网络层参与再训练过程,最终得到用于输电线路上异常物属性分类用网络模型。
步骤3,将现场监控通过输电线路图像回传触发策略传回的输电线路图像与正常图像对比,得到差异图像,将差异图像分别输入所述异常物类别分类用网络模型和属性分类用网络模型,完成对异常物的属性和类型的识别。
输电线路图像回传触发策略包括:
输电线路现场图像数据存在数据量大,实时性要求适中等特点将现场采集的每一帧图像都回传显然不符实际。因此,采用以下三种回传触发策略:
A)采用固定周期拍摄,按较长的固定传输间隔主动回传拍摄的图片;
B)如果现场摄像机检测到图像特征满足异常判据,即当前图片与正常情况的图片的像素差异超过预设的阈值,则立即主动回传图片;
C)在需要实时获取线路状态时,可远程发送命令,摄像机接收到命令后,立即被动回传拍摄的图片。
将回传的图像传入训练好的卷积神经网络模型,若图像中包含异常物,网络输出异常物的属性信息与类别,若不含异常物则返回无异常物标记。
本发明采用MMD距离计算需要迁移的特征参数,精确,学习效率高,若后续还需要识别其他的特征,也可以采用上述计算MMD距离的方法,快速训练其他网络模型,本发明方法方便扩展模型,计算速度快,准确度高。
实施例2:
一种基于多任务深度卷积神经网络的输电线路诊断***,包括:
差异图像获取模块,用于获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;
识别模块,用于将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;
所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数,并对剩余网络层进行再训练得到的。
进一步的,所述异常物属性分类用网络模型获取过程为:
将训练得到的异常物类别分类用网络模型中的卷积层和池化层的参数全部迁移作为异常物的属性分类用网络模型的初始参数,对异常物属性分类用卷积神经网络进行一次训练;
计算异常物类别分类用网络和属性分类用网络中的某一对应的卷积层输出之间的MMD距离,响应于MMD距离小于设定的阈值,将异常物属性分类用网络中该层卷积层及其之前的卷积层的特征参数固定;
对属性分类用网络的剩余网络层再训练,得到异常物属性分类用网络模型。
进一步的,所述异常物类别分类用网络和属性分类用网络中的某一层卷积层输出之间的MMD距离为:
其中,k(.)是将卷积层输出变量向再生核希尔伯特空间映射的映射函数,X,Y分别表示属性分类和类别分类用网络对应的卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n,i,j为整数序号,xi为属性分类用网络中某卷积层输出向量中的第i个值,xj为属性分类用网络中某卷积层输出向量中的第j个值,yi为类别分类用网络中某卷积层输出向量中的第i个值,yj为类别分类用网络中某卷积层输出向量中的第j个值。
本领域内的技术人员应明白,本申请的实施例可提供为方法、***、或计算机程序产品。因此,本申请可采用完全硬件实施例、完全软件实施例、或结合软件和硬件方面的实施例的形式。而且,本申请可采用在一个或多个其中包含有计算机可用程序代码的计算机可用存储介质(包括但不限于磁盘存储器、CD-ROM、光学存储器等)上实施的计算机程序产品的形式。
本申请是参照根据本申请实施例的方法、设备(***)、和计算机程序产品的流程图和/或方框图来描述的。应理解可由计算机程序指令实现流程图和/或方框图中的每一流程和/或方框、以及流程图和/或方框图中的流程和/或方框的结合。可提供这些计算机程序指令到通用计算机、专用计算机、嵌入式处理机或其他可编程数据处理设备的处理器以产生一个机器,使得通过计算机或其他可编程数据处理设备的处理器执行的指令产生用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的装置。
这些计算机程序指令也可存储在能引导计算机或其他可编程数据处理设备以特定方式工作的计算机可读存储器中,使得存储在该计算机可读存储器中的指令产生包括指令装置的制造品,该指令装置实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能。
这些计算机程序指令也可装载到计算机或其他可编程数据处理设备上,使得在计算机或其他可编程设备上执行一系列操作步骤以产生计算机实现的处理,从而在计算机或其他可编程设备上执行的指令提供用于实现在流程图一个流程或多个流程和/或方框图一个方框或多个方框中指定的功能的步骤。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员来说,在不脱离本发明技术原理的前提下,还可以做出若干改进和变形,这些改进和变形也应视为本发明的保护范围。
Claims (8)
1.一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征在于:包括步骤:
获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;
将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;
所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数,并对剩余网络层进行再训练得到的;
其中,所述异常物属性分类用网络模型获取过程为:
将训练得到的异常物类别分类用网络模型中的卷积层和池化层的参数全部迁移作为异常物的属性分类用网络模型的初始参数,对异常物属性分类用卷积神经网络进行一次训练;
计算异常物类别分类用网络模型和属性分类用网络模型中的某一对应的卷积层输出之间的MMD距离,响应于MMD距离小于设定的阈值,将异常物属性分类用网络模型中该层卷积层及其之前的卷积层的特征参数固定;
对属性分类用网络模型的剩余网络层再训练,得到异常物属性分类用网络模型。
2.根据权利要求1所述的一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征是:所述异常物类别分类用网络模型和属性分类用网络模型中的某一层卷积层输出之间的MMD距离为:
其中,k(.)是将卷积层输出变量向再生核希尔伯特空间映射的映射函数,X,Y分别表示属性分类和类别分类用网络模型对应的卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n,i,j为整数序号,xi为属性分类用网络模型中某卷积层输出向量中的第i个值,xj为属性分类用网络模型中某卷积层输出向量中的第j个值,yi为类别分类用网络模型中某卷积层输出向量中的第i个值,yj为类别分类用网络模型中某卷积层输出向量中的第j个值。
3.根据权利要求1所述的一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征是:所述异常物类别分类用网络模型和异常物属性分类用网络模型预先训练时的样本集获取方法为:对输电线路走廊异常物的图片样本进行预处理后再扩充。
4.根据权利要求3所述的一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征是:所述预处理包括:对原始输电线路走廊异常物的图片样本筛选后提取异常物矩形框对应的图像,得到原始有效图片样本;
将原始有效图片样本的大小归一化,像素值二值化,得到预处理后的图像样本。
5.根据权利要求4所述的一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征是:扩充方法包括以下一种或几种组合:异常物平移、仿射变换、弹性变换、细化/膨胀操作、加入噪声和制作负样本。
6.根据权利要求1所述的一种基于多任务深度卷积神经网络的输电线路诊断方法,其特征是:需要诊断的输电线路图像获取方法为:现场监控通过输电线路图像回传触发策略传回的输电线路图像;
输电线路图像回传触发策略包括:
按固定传输间隔回传拍摄的图片;
如果现场摄像机检测到的当前图片与正常图片的像素差异超过预设的阈值,则回传图片;
摄像机根据指令回传拍摄的图片。
7.一种基于多任务深度卷积神经网络的输电线路诊断***,其特征是:包括:
差异图像获取模块,用于获取需要诊断的输电线路图像,并与正常图像对比,获取差异图像;
识别模块,用于将差异图像输入预先训练得到的异常物类别分类用网络模型和异常物属性分类用网络模型,识别异常物的属性和类型;
所述异常物属性分类用网络模型是基于MMD距离迁移异常物类别分类用网络模型中的部分卷积层特征参数,并对剩余网络层进行再训练得到的;
其中,所述异常物属性分类用网络模型获取过程为:
将训练得到的异常物类别分类用网络模型中的卷积层和池化层的参数全部迁移作为异常物的属性分类用网络模型的初始参数,对异常物属性分类用卷积神经网络进行一次训练;
计算异常物类别分类用网络模型和属性分类用网络模型中的某一对应的卷积层输出之间的MMD距离,响应于MMD距离小于设定的阈值,将异常物属性分类用网络模型中该层卷积层及其之前的卷积层的特征参数固定;
对属性分类用网络模型的剩余网络层再训练,得到异常物属性分类用网络模型。
8.根据权利要求7所述的一种基于多任务深度卷积神经网络的输电线路诊断***,其特征是:所述异常物类别分类用网络模型和属性分类用网络模型中的某一层卷积层输出之间的MMD距离为:
其中,k(.)是将卷积层输出变量向再生核希尔伯特空间映射的映射函数,X,Y分别表示属性分类和类别分类用网络模型对应的卷积层输出的两种特征分布的向量,卷积层输出的两种特征分布的向量的大小分别为m和n,i,j为整数序号,xi为属性分类用网络模型中某卷积层输出向量中的第i个值,xj为属性分类用网络模型中某卷积层输出向量中的第j个值,yi为类别分类用网络模型中某卷积层输出向量中的第i个值,yj为类别分类用网络模型中某卷积层输出向量中的第j个值。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010736628.3A CN111862065B (zh) | 2020-07-28 | 2020-07-28 | 基于多任务深度卷积神经网络的输电线路诊断方法和*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010736628.3A CN111862065B (zh) | 2020-07-28 | 2020-07-28 | 基于多任务深度卷积神经网络的输电线路诊断方法和*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111862065A CN111862065A (zh) | 2020-10-30 |
CN111862065B true CN111862065B (zh) | 2022-08-26 |
Family
ID=72948812
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010736628.3A Active CN111862065B (zh) | 2020-07-28 | 2020-07-28 | 基于多任务深度卷积神经网络的输电线路诊断方法和*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111862065B (zh) |
Families Citing this family (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112668623B (zh) * | 2020-12-22 | 2024-04-16 | 中国铁道科学研究院集团有限公司 | 基于生成对抗网络的双耳销钉缺陷样本的生成方法及装置 |
CN113344012B (zh) * | 2021-07-14 | 2022-08-23 | 马上消费金融股份有限公司 | 物品识别方法、装置及设备 |
CN113807244B (zh) * | 2021-09-16 | 2024-02-27 | ***数智科技有限公司 | 一种基于深度学习的机柜布置图绘制方法 |
CN113673634B (zh) * | 2021-10-22 | 2022-01-21 | 智洋创新科技股份有限公司 | 一种输电线路通道吊车隐患误告警的确认方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106778472A (zh) * | 2016-11-17 | 2017-05-31 | 成都通甲优博科技有限责任公司 | 基于深度学习的输电走廊常见侵入物目标检测与识别方法 |
CN109616105A (zh) * | 2018-11-30 | 2019-04-12 | 江苏网进科技股份有限公司 | 一种基于迁移学习的带噪语音识别方法 |
CN111008961A (zh) * | 2019-11-25 | 2020-04-14 | 深圳供电局有限公司 | 一种输电线路设备缺陷检测方法及其***、设备、介质 |
-
2020
- 2020-07-28 CN CN202010736628.3A patent/CN111862065B/zh active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106778472A (zh) * | 2016-11-17 | 2017-05-31 | 成都通甲优博科技有限责任公司 | 基于深度学习的输电走廊常见侵入物目标检测与识别方法 |
CN109616105A (zh) * | 2018-11-30 | 2019-04-12 | 江苏网进科技股份有限公司 | 一种基于迁移学习的带噪语音识别方法 |
CN111008961A (zh) * | 2019-11-25 | 2020-04-14 | 深圳供电局有限公司 | 一种输电线路设备缺陷检测方法及其***、设备、介质 |
Also Published As
Publication number | Publication date |
---|---|
CN111862065A (zh) | 2020-10-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111862065B (zh) | 基于多任务深度卷积神经网络的输电线路诊断方法和*** | |
CN111339882B (zh) | 基于实例分割的输电线路隐患检测方法 | |
CN110264440B (zh) | 基于深度学习的大规模列车移位故障检测方法及*** | |
CN110569843B (zh) | 一种矿井目标智能检测与识别方法 | |
CN108958217A (zh) | 一种基于深度学习的can总线报文异常检测方法 | |
CN113642474A (zh) | 一种基于yolov5的危险区域人员监控方法 | |
CN112149962B (zh) | 一种施工事故致因行为的风险定量评估方法及*** | |
CN114444620B (zh) | 一种基于生成式对抗神经网络的示功图故障诊断方法 | |
CN114708518A (zh) | 基于半监督学习与先验知识嵌入策略的螺栓缺陷检测方法 | |
CN115761537B (zh) | 一种面向动态特征补充机制的输电线路异物入侵识别方法 | |
CN111738054A (zh) | 一种基于时空自编码器网络和时空cnn的行为异常检测方法 | |
CN103824092A (zh) | 一种用于输变电设备状态在线监测的图像分类方法 | |
CN111860117A (zh) | 一种基于深度学习的人体行为识别方法 | |
CN117351271A (zh) | 高压配电线路监控设备故障监测方法、***及其存储介质 | |
CN116486240A (zh) | 图像识别算法在输电线路无人机智能巡检方法上的应用 | |
CN105160285A (zh) | 基于立体视觉的自动人体跌倒识别方法及*** | |
CN112907138B (zh) | 一种从局部到整体感知的电网场景预警分类方法及*** | |
CN117676099A (zh) | 基于物联网的安全预警方法及*** | |
CN112508946B (zh) | 一种基于对抗神经网络的电缆隧道异常检测方法 | |
CN111415326A (zh) | 一种用于铁路接触网螺栓异常状态的检测方法及*** | |
CN115601674A (zh) | 一种输电工程烟雾隐患识别方法、装置及存储介质 | |
CN113420646A (zh) | 一种基于深度学习的锁站连接锁检测***及方法 | |
CN113705729B (zh) | 垃圾分类模型建模方法、垃圾分类方法、装置及介质 | |
CN111291624B (zh) | 一种挖掘机目标识别方法及*** | |
CN114494958A (zh) | 一种基于视频理解模型的考生回头异常行为检测方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |