CN105426908A - 一种基于卷积神经网络的变电站属性分类方法 - Google Patents

一种基于卷积神经网络的变电站属性分类方法 Download PDF

Info

Publication number
CN105426908A
CN105426908A CN201510755426.2A CN201510755426A CN105426908A CN 105426908 A CN105426908 A CN 105426908A CN 201510755426 A CN201510755426 A CN 201510755426A CN 105426908 A CN105426908 A CN 105426908A
Authority
CN
China
Prior art keywords
convolutional neural
image
neural networks
attribute
transformer station
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201510755426.2A
Other languages
English (en)
Other versions
CN105426908B (zh
Inventor
吴佳
苏丹
郝小龙
袁卫国
彭启伟
李环媛
罗旺
刘超
余磊
高崧
冯敏
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
State Grid Corp of China SGCC
NARI Group Corp
Nari Information and Communication Technology Co
Information and Telecommunication Branch of State Grid Jibei Electric Power Co Ltd
Original Assignee
State Grid Corp of China SGCC
Nari Information and Communication Technology Co
Nanjing NARI Group Corp
Information and Telecommunication Branch of State Grid Jibei Electric Power Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by State Grid Corp of China SGCC, Nari Information and Communication Technology Co, Nanjing NARI Group Corp, Information and Telecommunication Branch of State Grid Jibei Electric Power Co Ltd filed Critical State Grid Corp of China SGCC
Priority to CN201510755426.2A priority Critical patent/CN105426908B/zh
Publication of CN105426908A publication Critical patent/CN105426908A/zh
Application granted granted Critical
Publication of CN105426908B publication Critical patent/CN105426908B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Health & Medical Sciences (AREA)
  • Software Systems (AREA)
  • Molecular Biology (AREA)
  • Computing Systems (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Mathematical Physics (AREA)
  • Computational Linguistics (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Image Analysis (AREA)

Abstract

本发明公开了一种基于卷积神经网络的变电站属性分类方法，能够非常准确地检索到和变电站相关的特定场景以及特定对象，能够帮助变电站安防人员高效地处理监控资料，在一定程度上填补了智能安防的技术空缺。主要创新点在于巧妙地将图像所包含的特定场景和特定对象对应成一种属性，进而建立起一个用来表征图像的二值属性表，同时改进传统的卷积神经网络结构，使其能够对包含多属性的图像进行准确识别和分类。本发明提供的一种基于卷积神经网络的变电站属性分类方法，改进的卷积神经网络结构克服了传统的神经网络只能对单一属性进行分类的缺点，达到平均分类准确率为94.7%，具有非常强的可行性和实用性。

Description

一种基于卷积神经网络的变电站属性分类方法
技术领域
本发明涉及一种基于卷积神经网络的变电站属性分类方法，属于属性分类的新型神经网络技术领域。
背景技术
近年来，随着人们对变电站安防技术的需求不断增长以及安防设备的不断发展，产生了大量的监控图像以及视频，然而对于这些大量出现的监控资料，现阶段仍然缺乏有效的处理方法。传统的手工标注、人工分析不仅耗时而且费力，导致监控人员对这些监控资料的处理处于非常低效的状态，工作人员迫切需要一个智能的工具来自动检索、智能分析特定的场景例如变电站、营业厅、输电线路等，以及特定的对象例如变压器、刀闸、绝缘子、人等。
在计算机视觉领域中，通过对每一幅图片建立一个包含中层语义信息的属性表，便可以知道该幅图片中包含的所有的属性；然而建立一个准确且有用的属性表是非常困难以及耗时的工作。属性表既需要包含和类别相关的信息也需要包含对象层次的信息，而且还需要符合人们的具体需求。随着监控设备的不断增加，监控图像和视频飞速增加，人们得到的属性类别越来越多，导致属性表的建立变得更加困难。
发明内容
目的：为了克服现有技术中存在的不足，本发明提供一种基于卷积神经网络的变电站属性分类方法。
技术方案：为解决上述技术问题，本发明采用的技术方案为：
一种基于卷积神经网络的变电站属性分类方法，其特征在于：包括如下步骤：
步骤一：构建变电站图像数据库，这个数据库包括变电站、变压器、刀闸、输电线路、绝缘子、营业厅、人七类图像；所有图像包括的内容都是现实的变电站相关场景和器件；所有图像均设置为256×256像素；
步骤二：构建属性表，对数据库中的所有图像构建属性表，所述属性表包括七个数值，所述七个数值分别对应变电站、变压器、刀闸、输电线路、绝缘子、营业厅、人七类属性，若图像中包括该项属性则对应数值设置为1，否则设置为0；
步骤三：预训练卷积神经网络模型，为避免过拟合现象，在图片库ImageNet上预训练卷积神经网络模型，所述图片库ImageNet包括1000类不同的图像，所述卷积神经网络的第8层参数均设置为1000；
步骤四：学习卷积神经网络，在步骤三的基础上，继续学习卷积神经网络模型；
步骤五：利用学习好的卷积神经网络模型对图像进行属性分类，包括如下步骤：
5a：利用所有训练图像的均值对图像进行归一化处理；
5b：利用训练好的卷积神经网络对图像进行测试，得到该图像的所有属性的分布概率；
5c：基于设定好的阈值0.5得到预测属性表，再对比所有测试图像的真实属性表和预测属性表，计算得到各类属性的分类准确率。
作为优选方案，所述步骤四包括如下步骤：
4a：所有图像随机地划分成训练图像和测试图像，所述训练图像和测试图像各占50％；
4b：将训练图像全部作一个旋转，并将旋转后的图像扩充到训练图像中；
4c：将新加入的图像按照步骤二的方法建立属性表；
4d：将卷积神经网络结构的第8层设置为7，卷积神经网络模型学习率设置为0.000001，并按照0.7的丢失率随机地丢弃70％的参数。
作为优选方案，所述卷积神经网络模型Softmax层改为Sigmoid层。
有益效果：本发明提供的一种基于卷积神经网络的变电站属性分类方法，利用建立了一个和变电站相关的图像数据库，该数据库中所有图像在背景、角度、光照、尺度等方面具有很大的差异性；我们将每一类图像的类别对应成一种属性，并为每一幅图片生成一个属性表；预先在大型数据库上训练卷积神经网络，并利用该卷积神经网络的模型参数，从而解决了模型过拟合现象；对每一幅待测图像，都能准确输出该待测图像包含的每一类属性，即图像包含的场景、对象信息。
本发明能够非常准确地检索到和变电站相关的特定场景以及特定对象，能够帮助变电站安防人员高效地处理监控资料，在一定程度上填补了智能安防的技术空缺。主要创新点在于巧妙地将图像所包含的特定场景和特定对象对应成一种属性，进而建立起一个用来表征图像的二值属性表，同时改进传统的卷积神经网络结构，使其能够对包含多属性的图像进行准确识别和分类。改进的卷积神经网络结构克服了传统的神经网络只能对单一属性进行分类的缺点，达到平均分类准确率为94.7％，具有非常强的可行性和实用性。
附图说明
图1为本发明属性分类学习流程图。
具体实施方式
下面结合附图对本发明作更进一步的说明。
如图1所示，一种基于卷积神经网络的变电站属性分类方法，首先，建立了一个包括七类图像的数据库，七类图像分别为变电站、变压器、刀闸、输电线路、绝缘子、营业厅、人；所有图像均来自监控视频、监控图像、互联网，每一类图像包括的图像个数为60至140之间。针对每一幅图像，标注得到一个属性表，例如，{1,1,1,0,0,0,0}表明该幅图像包括了变电站、变压器、刀闸这三类属性。建立的变电站数据库对于将要解决的问题是非常具有挑战性和难度的，具体表现在以下几个方面：
1.图像在姿态、光照、尺度上具有很大的差异性；
2.图像的背景非常复杂；
3.有些对象在图像中是非常小的，检测该类对象具有很大的难度；
4.每张图像包含的属性具有很大的差异性；
将建立好的变电站数据库随机对等地划分为训练图像集和测试图像集，并且把每一幅图像大小归一化为256×256，同时将每一幅训练图像的旋转图像也扩充到训练图像集中，在训练阶段，再将每一幅训练图像的大小裁剪成224×224。
由于卷积神经网络包含数以百万计的参数，使用规模太小的图像库训练得到的卷积神经网络很容易发生过拟合现象。为解决该问题，在大型数据库ImageNet图像库上预训练神经网络模型；最后，使用建立的变电站数据库继续训练该模型直至收敛。在上述训练过程中，定义如下的能量损失函数：
L l o s s = Σ k = 1 K ( l k logp k + ( 1 - l k ) l o g ( 1 - p k ) ) - - - ( 1 )
其中，Lloss为能量损失值，lk为第k个属性的真实值(0或者1)；pk为第k个属性的后验概率，即测试值。设定丢失率为70％，即70％的参数将随机地被舍弃，并且使用误差反向传播算法和梯度下降算法迭代更新模型参数，直至能量损失函数达到最小，此时得到的模型即为最优。
接下来，采用深度卷积神经网络来对所有的属性进行分类，对每一幅待测图像，检测出该图像所包含的所有属性。本发明采用的深度卷积网络结构对于海量的图像分类任务具有非常好的效果，进而得到了非常好的应用。在该神经网络结构中，采用卷积层、归化层、池化层以及内积层来准确获取图像的语义信息，每一次迭代过后，采用误差反向传播算法来更新每层各个节点的参数。由于传统的卷积神经网络算法只是用来对单标签的图像进行分类，得到的结果只是具有最高可能性的标签，而本发明需要完成的是对多标签的图像进行属性识别，故传统的算法并不能完成该工作，本发明改进了这一点：通过把最后一层Softmax层改为Sigmoid层，当某一个属性概率大于0.5时，则预测属性表中对应的属性值为1，否则为0，借助Sigmoid函数的特性使该问题得到了很好的解决。
本发明采用的Caffe深度学习框架为，设定初始化学习率为0.000001，基于上面学习到的模型，对每一幅测试图像，采取以下步骤进行分类：
1.利用所有训练图像的均值对图像进行归一化处理；
2.利用训练好的卷积神经网络对该图像进行测试，得到该图像的所有属性的分布概率；
3.基于设定好的阈值0.5得到预测属性表，再对比所有测试图像的真实属性表和预测属性表，计算得到各类属性的分类准确率。
以上所述仅是本发明的优选实施方式，应当指出：对于本技术领域的普通技术人员来说，在不脱离本发明原理的前提下，还可以做出若干改进和润饰，这些改进和润饰也应视为本发明的保护范围。

Claims (3)

1.一种基于卷积神经网络的变电站属性分类方法，其特征在于：包括如下步骤：
步骤一：构建变电站图像数据库，这个数据库包括变电站、变压器、刀闸、输电线路、绝缘子、营业厅、人七类图像；所有图像包括的内容都是现实的变电站相关场景和器件；所有图像均设置为256×256像素；
步骤二：构建属性表，对数据库中的所有图像构建属性表，所述属性表包括七个数值，所述七个数值分别对应变电站、变压器、刀闸、输电线路、绝缘子、营业厅、人七类属性，若图像中包括该项属性则对应数值设置为1，否则设置为0；
步骤三：预训练卷积神经网络模型，为避免过拟合现象，在图片库ImageNet上预训练卷积神经网络模型，所述图片库ImageNet包括1000类不同的图像，所述卷积神经网络的第8层参数均设置为1000；
步骤四：学习卷积神经网络，在步骤三的基础上，继续学习卷积神经网络模型；
步骤五：利用学习好的卷积神经网络模型对图像进行属性分类，包括如下步骤：
5a：利用所有训练图像的均值对图像进行归一化处理；
5b：利用训练好的卷积神经网络对图像进行测试，得到该图像的所有属性的分布概率；
5c：基于设定好的阈值0.5得到预测属性表，再对比所有测试图像的真实属性表和预测属性表，计算得到各类属性的分类准确率。
2.根据权利要求1所述的一种基于卷积神经网络的变电站属性分类方法，其特征在于：所述步骤四包括如下步骤：
4a：所有图像随机地划分成训练图像和测试图像，所述训练图像和测试图像各占50%；
4b：将训练图像全部作一个旋转，并将旋转后的图像扩充到训练图像中；
4c：将新加入的图像按照步骤二的方法建立属性表；
4d：将卷积神经网络结构的第8层设置为7，卷积神经网络模型学习率设置为0.000001，并按照0.7的丢失率随机地丢弃70%的参数。
3.根据权利要求1所述的一种基于卷积神经网络的变电站属性分类方法，其特征在于：所述卷积神经网络模型Softmax层改为Sigmoid层。
CN201510755426.2A 2015-11-09 2015-11-09 一种基于卷积神经网络的变电站属性分类方法 Active CN105426908B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201510755426.2A CN105426908B (zh) 2015-11-09 2015-11-09 一种基于卷积神经网络的变电站属性分类方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201510755426.2A CN105426908B (zh) 2015-11-09 2015-11-09 一种基于卷积神经网络的变电站属性分类方法

Publications (2)

Publication Number Publication Date
CN105426908A true CN105426908A (zh) 2016-03-23
CN105426908B CN105426908B (zh) 2018-11-02

Family

ID=55505106

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201510755426.2A Active CN105426908B (zh) 2015-11-09 2015-11-09 一种基于卷积神经网络的变电站属性分类方法

Country Status (1)

Country Link
CN (1) CN105426908B (zh)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106022380A (zh) * 2016-05-25 2016-10-12 中国科学院自动化研究所 基于深度学习的个体身份识别方法
CN106529564A (zh) * 2016-09-26 2017-03-22 浙江工业大学 一种基于卷积神经网络的食物图像自动分类方法
CN106570467A (zh) * 2016-10-25 2017-04-19 南京南瑞集团公司 一种基于卷积神经网络的人员离岗检测方法
CN106981063A (zh) * 2017-03-14 2017-07-25 东北大学 一种基于深度学习的电网设备状态监测装置
CN107145904A (zh) * 2017-04-28 2017-09-08 北京小米移动软件有限公司 图像类别的确定方法、装置及存储介质
CN107577982A (zh) * 2017-06-29 2018-01-12 天津大学 采用深度学习的电网隔离开关状态识别方法
CN107730117A (zh) * 2017-10-17 2018-02-23 中国电力科学研究院 一种基于异质数据综合分析的电缆检修预警方法及***
CN108197637A (zh) * 2017-12-11 2018-06-22 国网上海市电力公司 一种基于深度学习的高压机柜开关检测方法
CN108268882A (zh) * 2016-12-30 2018-07-10 南京烽火软件科技有限公司 一种互联网图片场景分类方法及其***
CN109886335A (zh) * 2019-02-21 2019-06-14 厦门美图之家科技有限公司 分类模型训练方法及装置
CN110334651A (zh) * 2019-07-05 2019-10-15 云南电网有限责任公司电力科学研究院 一种基于迁移学习的变电站坐标校验方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN104102919A (zh) * 2014-07-14 2014-10-15 同济大学 一种有效防止卷积神经网络过拟合的图像分类方法
CN104573669A (zh) * 2015-01-27 2015-04-29 中国科学院自动化研究所 图像物体检测方法
US20150213302A1 (en) * 2014-01-30 2015-07-30 Case Western Reserve University Automatic Detection Of Mitosis Using Handcrafted And Convolutional Neural Network Features
CN104992142A (zh) * 2015-06-03 2015-10-21 江苏大学 一种基于深度学习和属性学习相结合的行人识别方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150213302A1 (en) * 2014-01-30 2015-07-30 Case Western Reserve University Automatic Detection Of Mitosis Using Handcrafted And Convolutional Neural Network Features
CN104102919A (zh) * 2014-07-14 2014-10-15 同济大学 一种有效防止卷积神经网络过拟合的图像分类方法
CN104573669A (zh) * 2015-01-27 2015-04-29 中国科学院自动化研究所 图像物体检测方法
CN104992142A (zh) * 2015-06-03 2015-10-21 江苏大学 一种基于深度学习和属性学习相结合的行人识别方法

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106022380A (zh) * 2016-05-25 2016-10-12 中国科学院自动化研究所 基于深度学习的个体身份识别方法
CN106529564A (zh) * 2016-09-26 2017-03-22 浙江工业大学 一种基于卷积神经网络的食物图像自动分类方法
CN106529564B (zh) * 2016-09-26 2019-05-31 浙江工业大学 一种基于卷积神经网络的食物图像自动分类方法
CN106570467A (zh) * 2016-10-25 2017-04-19 南京南瑞集团公司 一种基于卷积神经网络的人员离岗检测方法
CN106570467B (zh) * 2016-10-25 2019-05-24 南京南瑞集团公司 一种基于卷积神经网络的人员离岗检测方法
CN108268882A (zh) * 2016-12-30 2018-07-10 南京烽火软件科技有限公司 一种互联网图片场景分类方法及其***
CN106981063A (zh) * 2017-03-14 2017-07-25 东北大学 一种基于深度学习的电网设备状态监测装置
CN107145904A (zh) * 2017-04-28 2017-09-08 北京小米移动软件有限公司 图像类别的确定方法、装置及存储介质
CN107577982A (zh) * 2017-06-29 2018-01-12 天津大学 采用深度学习的电网隔离开关状态识别方法
CN107730117A (zh) * 2017-10-17 2018-02-23 中国电力科学研究院 一种基于异质数据综合分析的电缆检修预警方法及***
CN107730117B (zh) * 2017-10-17 2021-12-21 中国电力科学研究院 一种基于异质数据综合分析的电缆检修预警方法及***
CN108197637A (zh) * 2017-12-11 2018-06-22 国网上海市电力公司 一种基于深度学习的高压机柜开关检测方法
CN109886335A (zh) * 2019-02-21 2019-06-14 厦门美图之家科技有限公司 分类模型训练方法及装置
CN109886335B (zh) * 2019-02-21 2021-11-26 厦门美图之家科技有限公司 分类模型训练方法及装置
CN110334651A (zh) * 2019-07-05 2019-10-15 云南电网有限责任公司电力科学研究院 一种基于迁移学习的变电站坐标校验方法
CN110334651B (zh) * 2019-07-05 2023-06-23 云南电网有限责任公司电力科学研究院 一种基于迁移学习的变电站坐标校验方法

Also Published As

Publication number Publication date
CN105426908B (zh) 2018-11-02

Similar Documents

Publication Publication Date Title
CN105426908A (zh) 一种基于卷积神经网络的变电站属性分类方法
CN106022518B (zh) 一种基于bp神经网络的管道破损概率预测方法
CN107945081B (zh) 城市运行展现与监测预警***
CN104200288B (zh) 一种基于因素与事件间相关关系识别的设备故障预测方法
CN110135295A (zh) 一种基于迁移学习的无监督行人重识别方法
CN109525595A (zh) 一种基于时间流特征的黑产账号识别方法及设备
CN105550709B (zh) 一种遥感影像输电线路走廊森林区域提取方法
CN109376605B (zh) 一种电力巡检图像防鸟刺故障检测方法
CN110335270A (zh) 基于层级区域特征融合学习的输电线路缺陷检测方法
Hu et al. Fast image recognition of transmission tower based on big data
CN110070530A (zh) 一种基于深度神经网络的输电线路覆冰检测方法
CN104992223A (zh) 基于深度学习的密集人数估计方法
CN109165275B (zh) 基于深度学习的智能变电站操作票信息智能搜索匹配方法
CN104809933B (zh) 一种电网无脚本应急演练***、演练方法及设备
CN105426930A (zh) 一种基于卷积神经网络的变电站属性分割方法
CN109325542A (zh) 一种基于多阶机器学习的电量异常智能识别方法及***
CN110363134A (zh) 一种基于语义分割的人脸遮挡区定位方法
CN104952073B (zh) 基于深度学习的镜头边缘检测方法
CN105931116A (zh) 基于深度学习机制的自动化信用评分***及方法
CN105894177A (zh) 一种基于决策树算法的电力设备运行风险分析评估方法
CN107491752A (zh) 一种基于深度学习的自然场景中船牌文字识别方法、装置
CN108470022A (zh) 一种基于运维管理的智能工单质检方法
CN109635748A (zh) 高分辨率影像中道路特征的提取方法
CN108416535A (zh) 基于深度学习的专利价值评估的方法
CN105930347A (zh) 基于文本分析的停电原因识别***

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP01 Change in the name or title of a patent holder
CP01 Change in the name or title of a patent holder

Address after: 100031, Beijing, Xicheng District No. 32 jujube Street Hospital

Co-patentee after: State Grid Corporation of China

Patentee after: INFORMATION COMMUNICATION BRANCH, STATE GRID JIBEI ELECTRIC POWER Co.

Co-patentee after: NARI Group Corp.

Co-patentee after: NARI INFORMATION AND COMMUNICATION TECHNOLOGY Co.

Address before: 100031, Beijing, Xicheng District No. 32 jujube Street Hospital

Co-patentee before: State Grid Corporation of China

Patentee before: INFORMATION COMMUNICATION BRANCH, STATE GRID JIBEI ELECTRIC POWER Co.

Co-patentee before: NARI Group CORPORATION STATE GRID ELECTRIC POWER INSTITUTE

Co-patentee before: NARI INFORMATION AND COMMUNICATION TECHNOLOGY Co.