CN105913087B - 基于最优池化卷积神经网络的物体识别方法 - Google Patents
基于最优池化卷积神经网络的物体识别方法 Download PDFInfo
- Publication number
- CN105913087B CN105913087B CN201610225818.2A CN201610225818A CN105913087B CN 105913087 B CN105913087 B CN 105913087B CN 201610225818 A CN201610225818 A CN 201610225818A CN 105913087 B CN105913087 B CN 105913087B
- Authority
- CN
- China
- Prior art keywords
- pond
- optimal
- neural networks
- convolutional neural
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/086—Learning methods using evolutionary algorithms, e.g. genetic algorithms or genetic programming
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Evolutionary Computation (AREA)
- Evolutionary Biology (AREA)
- Artificial Intelligence (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Computational Biology (AREA)
- Biophysics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Computational Linguistics (AREA)
- Physiology (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Biomedical Technology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种基于最优池化卷积神经网络的物体识别方法,包括:构建训练集与测试集;搭建卷积神经网络架构,在最后一层加上softmax分类器,设置目标函数;在池化层采用最优池化操作;按经验设置学习率参数,采用后向传播算法,使用整体训练集训练网络模型一次,使用得到的模型去识别测试集数据,统计整体识别率,在此过程中最优池化的模板数值得到最优值,直到目标函数值完全收敛,识别率不再变好为止,此时网络参数训练完毕,最优池化模板得到最终值,得到最优池化卷积神经网络模型,即物体识别***。本发明可以提升物体识别的性能。
Description
技术领域
本发明涉及人机交互、计算机视觉等领域中高效的物体识别方法,特别是涉及采用卷积神经网络进行物体识别的方法。
背景技术
物体识别是计算机视觉中一个十分重要的研究领域,包含人脸识别、手写体数字识别、手势识别以及物体识别等,可以广泛地用于人机交互、图像分类以及图像检索等领域。衡量一个物体识别***好坏的两个主要指标为:识别率和识别速度。一般情况而言,识别率越高意味着识别速度相对较慢,而识别速度越快意味着识别率相对较低。因此,如何权衡二者的利弊一直是物体识别领域一个不可回避的问题。
近年来,卷积神经网络算法的发展极大地提高了物体识别技术的正确率,从而为该项技术应用于更多的领域提供了可能。但是,由于存在该算法对计算能力要求相对较高、计算所需时间相对较长、很多应用要求更高性能的算法等局限,更高端的应用对物体识别***的性能以及计算时间提出了更加苛刻地要求。因此,本发明主要研究如何在保持识别速度略有下降的情况下提高识别率。
物体识别***主要包含特征提取、分类器判定等两个方面。基于卷积神经网络的物体识别算法中,特征提取占据了物体识别的大部分时间,而且提取特征的好坏决定着算法的性能。研究人员在基于卷积神经网络的特征提取器设计方面做了许多相关工作,试图通过优化卷积神经网络的深度架构来提高算法的性能。
当前,大部分已存在的卷积神经网络的深度结构改进方法大都趋向于调优网络的宽度与深度、改进激励函数、设计多样的卷积操作等等。2015年Simonyan和Zisserman[1]提出VGG卷积神经网络,他们通过研究卷积神经网络的深度与大尺度图片识别精度的关系,提出了一个更深的卷积神经网络架构。通过调优网络的宽度与深度,达到了当时最好的性能。2014年Min等人[2]提出了一种深度网络结构叫做NiN卷积神经网络。在该网络结构中,作者引入了1×1的卷积操作,通过级联两层这样的卷积层,实现了多层感知器的功能,在拉深网络深度,调优网络宽度的同时,实现了当时最优的分类性能。2012年Krizhevsky等人[3]提出ReLU非线性操作改进了网络输出神经元节点的激励函数,将激励值非负化,通过将小于0的激励值设置为0值,大于0的值不改变的操作,不仅加快了收敛速度而且提升了性能。2013年Goodfellow等人[4]提出Maxout卷积神经网络,提出使用maxout操作来改进激励函数,从而加速收敛,提高网络性能。通过特征图维度上通道间相邻激励值之间提取最大值,当相邻激励值足够多时,便能拟合任意高次激励函数,从而实现该算法物体识别性能的提升。2014年Szegedy等人[5]提出一种深度卷积神经网络架构,叫做GoogLeNet卷积神经网络。他们不仅进一步调优了深度与宽度,而且提出更多样的卷积操作相融合的思想。他们提出在网络架构中的卷积层,加入多尺度模板卷积操作,丰富了特征,弱化了块效应影响。最后,他们提出的22层深度架构,在2014年的ILSVRC竞赛中获得了冠军,实现了当时物体识别领域在大尺度图片上的最优性能。
相对于以上网络结构改进方法,近年来,科研人员开始从改进池化操作的角度出发设计子采样层的池化操作。2013年Zeiler和Fergus[6]提出了一种新的池化手段,叫做随机池化操作。他们提出的随机池化方法,加入深度卷积神经网络结构中后,最终的物体识别性能优于最常见的均值池化和最大值池化。该随机池化方法将特征图中每个元素值表示对应位置处的概率,对特征图中的元素按照其概率值大小随机选择,即元素值大的被选中的概率也大。基于随机池化卷积神经网络的物体识别方法,高效地提升了算法性能。2015年Lee等人[7]提出了泛化的池化函数,来组合多类池化操作。他们提出混合最大值池化和均值池化函数,通过学习一个权值系数来组合不同池化操作得到的特征图,作者进一步又提出了使用门形函数与树形函数来分别融合不同种类的池化操作,该方法达到了当时最优的识别性能。
参考文献:
1.K.Simonyan and A.Zisserman.Very deep convolutional networks forlarge-scale image recognition[J].CoRR,abs/1409.1556,2014.
2.M.Lin,Q.Chen,and S.Yan.Network in network[J]CoRR,abs/1312.4400,2013.
3.A.Krizhevsky,I.Sutskever,and G.Hinton.Imagenet classification withdeep convolutional neural networks.In Proceedings ofAdvances in NeuralInformation Processing Systems,2012,pp.11061114.
4.I.J.Goodfellow,D.Warde-Farley,M.Mirza,A.Courville,andY.Bengio.Maxout networks.CoRR,abs/1302.4389,2013.
5.C.Szegedy,W.Liu,Y.Jia,P.Sermanet,S.Reed,D.Anguelov,D.Erhan,V.Vanhoucke,and A.Rabinovich.Going deeper with convolutions.In Proceedings ofthe IEEE Conference on Computer Vision and Pattern Recognition,2015,pp.1-9.
6.M.D.Zeiler and R.Fergus.Stochastic pooling for regularization ofdeep convolutional neural networks[J].CoRR,abs/1301.3557,2013.
7.C.Y.Lee,P.W.Gallagher,and Z.Tu.Generalizing Pooling Functions inConvolutional Neural Networks:Mixed,Gated,and Tree[J].CoRR,abs/1509.08985,2015.
发明内容
本发明的目的是克服现有基于卷积神经网络的物体识别过程中,池化层人工设计滤波模板的局限性,提供一种基于神经网络物体识别方法。本发明采用自学习池化层滤波模板,得到最优模板值,即池化滤波模板是在端到端的训练过程中,通过自适应自学习的方法,自动更新滤波模板的每一个滤波值,得到最终的最优池化模板值,进而在识别速度略有下降的情况下,提高物体识别的精度。本发明的技术方案如下:
一种基于最优池化卷积神经网络的物体识别方法,包括下列步骤:
步骤1:搜集有关识别物体的多类样本图片,并设定每一类别在分类器中的编码,构建训练集与测试集;
步骤2:搭建卷积神经网络架构:即交迭几个卷积层与池化层,设置好网络的深度与宽度架构,并在最后一层加上softmax分类器,设置目标函数,一般取计算所得值与目标标签值的差的平方;
步骤3:在池化层采用最优池化操作:在训练网络的过程中,使用后向梯度传播算法不断更新模板参数,直到达到最优值,即网络性能不在提升为止。在端到端的池化模板学习更新参数的过程中,每个滤波器内的滤波权值在每次循环中都在自学习更新。
步骤4:按经验设置学习率参数,采用后向传播算法,使用整体训练集训练网络模型一次,使用得到的模型去识别测试集数据,统计整体识别率,在此过程中最优池化的模板数值得到最优化更新。
步骤5:重复步骤4的操作,直到目标函数值完全收敛,识别率不再变好为止,此时网络参数训练完毕,最优池化模板得到最终值,得到最优池化卷积神经网络模型,即物体识别***;
步骤6:在图像或视频中进行物体识别。
传统的池化方法都是人工设计有一定意义的池化模板,存在一定的局限性,本发明提出的最优池化,通过端到端的自学习自适应过程,得到最优的池化模板值。相对于基于传统池化卷积神经网络的物体识别方法而言,基于最优池化卷积神经网络的物体识别方法有效地提取了更加高效的特征,进而提升了物体识别的性能。同时,该方法在池化层模板扫描特征图个数保持不变,能保持计算速度略有下降的情况下,提升识别性能。
附图说明
图1是本发明所提最优池化算法示意原理图
图2是传统均值池化算法示意原理图
图3是物体识别流程示意图。
具体实施方式
本发明假设卷积神经网络在池化层上,任意种类的一个滤波器模板扫描一次任意一个特征图的计算量相同,且都为单位1。公式(1)即是一个计算单位。
设Fi和Hi分别为卷积神经网络池化层的第i个输入和输出特征图,通常为一个二维矩阵,θi为池化层的滤波器模板,通常为提取最大值模板或者提取均值模板。滤波模板扫描输入特征图的过程,可以表示为
Hi=θiFi \*MERGEFORMAT(1)
其中,θi往往是人工设计的模板,在提取特征值时,往往表现出一定的局限性,例如最大池化相当于提取了高频特征,而均值池化则提取了低频特征。
我们提出的最优池化方法,θi是通过自学习方法得到的,即通过后向传播算法更新模板的每一个权重值,如图1中的wij和vij。由图1所示,最优池化层的计算单元数等于输入特征图的个数,因此与传统池化操作的计算单元数保持一致。
下面,将主要针对本发明的最优池化算法与传统池化算法的差异性,进行进一步说明。如下图所示,图1是本发明所提最优池化算法示意原理图,图2是传统均值池化算法示意原理图。传统池化算法,主要是均值池化和最大值池化两种。如图2所示,卷积层输出特征是一张5×5大小的图像,aij表示图像中第i行,第j列的像素值。池化层输出特征是一张2×2大小的图像,均值池化操作的模板如图2所示。卷积层输出特征经由公式1的池化操作,再以2为采样步长,就可以得到池化层输出特征,即H1。公式(2)、(3)所示为输出图像上对应像素的计算过程,可以看到两张输出图像的滤波模板都是1/9的均值模板。
本发明的方法则与之不同,对不同输入,设计不同的模板,如图1所示。可以看出,对应第一张输入图像,模板是由wij组成,对应第二张输入图像,模板是由vij组成,计算过程如公式(4)、(5)所示。而且,值得注意的是,最优池化方法,即本发明所提算法,设计的池化滤波模板,并不是像传统池化模板那样,人工设计一个提取最大值操作或者提取均值操作,而是自学习池化模板的每一个参数。如图1所示,并不是使用一种特定的人工设计,而是采用一种最优化方法,优化自学习每一个权重值,得到最优结果,得到自学习的池化滤波模板。
本发明从改进传统池化层人工设计滤波模板这一思想出发,提出了基于最优池化卷积神经网络的高效物体识别方法。该最优池化方法通过后向传播算法更新滤波器权重值,自学习得到滤波器的每一个权值,通过大量数据的训练最终达到最优值。基于最优池化卷积神经网络的高效物体识别***的具体步骤如下:
步骤1:设定数据库样本的训练集与测试集。搜集大量有关识别物体的多类样本,并设定每一类别在分类器中的编码,例如三类物体汽车、猴子、盆栽分别编码为100、010和001。将数据集分为训练集与测试集两部分。
步骤2:搭建高效的卷积神经网络架构。即交迭几个卷积层与池化层,设置好网络的深度与宽度架构,并在最后一层加上软最大化分类器(softmax分类器),设置合适目标函数,一般取计算所得值与目标标签值的差的平方。
步骤3:将池化层的池化操作设置为最优池化操作,在训练网络的过程中,使用后向梯度传播算法不断更新模板参数,直到达到最优值,即网络性能不在提升为止。在端到端的池化模板学习更新参数的过程中,每个滤波器内的滤波权值在每次循环中都在自学习更新,直达达到最优值。
步骤4:按经验设置学习率参数,采用后向传播算法,使用整体训练集训练网络模型一次,使用得到的模型去识别测试集数据,统计整体识别率。在此过程中最优池化的模板数值得到最优化更新。
步骤5:重复步骤4的操作,直到目标函数值完全收敛,识别率不再变好为止。此时网络参数训练完毕,最优池化模板得到最终值。
步骤6:使用训练好的模型进行识别。利用步骤5训练得到的最优池化卷积神经网络模型,即物体识别***,在图像或视频中进行物体识别。
Claims (1)
1.一种基于最优池化卷积神经网络的物体识别方法,包括下列步骤:
步骤1:搜集有关识别物体的多类样本图片,并设定每一类别在分类器中的编码,构建训练集与测试集;
步骤2:搭建卷积神经网络架构:即交迭卷积层与池化层,设置好网络的深度与宽度架构,并在最后一层加上softmax分类器,设置目标函数,取计算所得值与目标标签值的差的平方;
步骤3:在池化层采用最优池化操作:在训练网络的过程中,使用后向梯度传播算法不断更新模板参数,直到达到最优值,即网络性能不再提升为止;在端到端的池化模板学习更新参数的过程中,每个滤波器内的滤波权值在每次循环中都在自学习更新;
步骤4:按经验设置学习率参数,采用后向传播算法,使用整体训练集训练网络模型一次,使用得到的模型去识别测试集数据,统计整体识别率,在步骤4的过程中最优池化的模板数值得到最优化更新;
步骤5:重复步骤4的操作,直到目标函数值完全收敛,识别率不再变好为止,此时网络参数训练完毕,最优池化模板得到最终值,得到最优池化卷积神经网络模型,即物体识别***;
步骤6:在图像或视频中进行物体识别。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610225818.2A CN105913087B (zh) | 2016-04-11 | 2016-04-11 | 基于最优池化卷积神经网络的物体识别方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201610225818.2A CN105913087B (zh) | 2016-04-11 | 2016-04-11 | 基于最优池化卷积神经网络的物体识别方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105913087A CN105913087A (zh) | 2016-08-31 |
CN105913087B true CN105913087B (zh) | 2019-05-21 |
Family
ID=56746700
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201610225818.2A Expired - Fee Related CN105913087B (zh) | 2016-04-11 | 2016-04-11 | 基于最优池化卷积神经网络的物体识别方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105913087B (zh) |
Families Citing this family (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106570516A (zh) * | 2016-09-06 | 2017-04-19 | 国网重庆市电力公司电力科学研究院 | 一种利用卷积神经网络cnn的障碍物识别方法 |
KR20180073314A (ko) * | 2016-12-22 | 2018-07-02 | 삼성전자주식회사 | 컨볼루션 신경망 시스템 및 그것의 동작 방법 |
CN110506277B (zh) * | 2017-02-13 | 2023-08-08 | 诺基亚技术有限公司 | 用于构建鲁棒的深度卷积神经网络的滤波器重用机制 |
CN107871136A (zh) * | 2017-03-22 | 2018-04-03 | 中山大学 | 基于稀疏性随机池化的卷积神经网络的图像识别方法 |
CN107092926A (zh) * | 2017-03-30 | 2017-08-25 | 哈尔滨工程大学 | 基于深度学习的服务机器人物体识别算法 |
US10592785B2 (en) * | 2017-07-12 | 2020-03-17 | Futurewei Technologies, Inc. | Integrated system for detection of driver condition |
CN107506822B (zh) * | 2017-07-26 | 2021-02-19 | 天津大学 | 一种基于空间融合池化的深度神经网络方法 |
CN107480660A (zh) * | 2017-09-30 | 2017-12-15 | 深圳市锐曼智能装备有限公司 | 危险物品识别***及其方法 |
CN107844766A (zh) * | 2017-10-31 | 2018-03-27 | 北京小米移动软件有限公司 | 人脸图像模糊度的获取方法、装置和设备 |
US10664728B2 (en) | 2017-12-30 | 2020-05-26 | Wipro Limited | Method and device for detecting objects from scene images by using dynamic knowledge base |
CN108038517A (zh) * | 2018-01-02 | 2018-05-15 | 东北农业大学 | 基于改进卷积神经网络模型Cifar10的玉米叶片病害识别方法 |
CN108564025A (zh) * | 2018-04-10 | 2018-09-21 | 广东电网有限责任公司 | 一种基于可变形卷积神经网络的红外图像物体识别方法 |
CN108596258B (zh) * | 2018-04-27 | 2022-03-29 | 南京邮电大学 | 一种基于卷积神经网络随机池化的图像分类方法 |
CN109597087B (zh) * | 2018-11-15 | 2022-07-01 | 天津大学 | 一种基于点云数据的3d目标检测方法 |
CN109559576B (zh) * | 2018-11-16 | 2020-07-28 | 中南大学 | 一种儿童伴学机器人及其早教***自学习方法 |
CN110245787B (zh) * | 2019-05-24 | 2023-11-17 | 创新先进技术有限公司 | 一种目标群体预测方法、装置及设备 |
CN110378424A (zh) * | 2019-07-23 | 2019-10-25 | 国网河北省电力有限公司电力科学研究院 | 基于卷积神经网络的变压器套管故障红外图像识别方法 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408435A (zh) * | 2014-12-05 | 2015-03-11 | 浙江大学 | 一种基于随机池化卷积神经网络的人脸识别方法 |
CN105184309A (zh) * | 2015-08-12 | 2015-12-23 | 西安电子科技大学 | 基于cnn和svm的极化sar图像分类 |
CN105354572A (zh) * | 2015-12-10 | 2016-02-24 | 苏州大学 | 一种基于简化卷积神经网络的车牌自动识别*** |
-
2016
- 2016-04-11 CN CN201610225818.2A patent/CN105913087B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104408435A (zh) * | 2014-12-05 | 2015-03-11 | 浙江大学 | 一种基于随机池化卷积神经网络的人脸识别方法 |
CN105184309A (zh) * | 2015-08-12 | 2015-12-23 | 西安电子科技大学 | 基于cnn和svm的极化sar图像分类 |
CN105354572A (zh) * | 2015-12-10 | 2016-02-24 | 苏州大学 | 一种基于简化卷积神经网络的车牌自动识别*** |
Non-Patent Citations (1)
Title |
---|
基于卷积神经网络的纹理分类方法研究;冀中;《计算机科学与探索》;20150714;第389-397页 |
Also Published As
Publication number | Publication date |
---|---|
CN105913087A (zh) | 2016-08-31 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105913087B (zh) | 基于最优池化卷积神经网络的物体识别方法 | |
CN108388927B (zh) | 基于深度卷积孪生网络的小样本极化sar地物分类方法 | |
CN109101930B (zh) | 一种人群计数方法及*** | |
CN108564025A (zh) | 一种基于可变形卷积神经网络的红外图像物体识别方法 | |
CN107133616B (zh) | 一种基于深度学习的无分割字符定位与识别方法 | |
CN105975931B (zh) | 一种基于多尺度池化的卷积神经网络人脸识别方法 | |
CN108846426B (zh) | 基于深度双向lstm孪生网络的极化sar分类方法 | |
CN106295637B (zh) | 一种基于深度学习与强化学习的车辆识别方法 | |
CN108614997B (zh) | 一种基于改进AlexNet的遥感图像识别方法 | |
CN109598220B (zh) | 一种基于多元输入多尺度卷积的人数统计方法 | |
CN110097060B (zh) | 一种面向树干图像的开集识别方法 | |
CN112347970B (zh) | 一种基于图卷积神经网络的遥感影像地物识别方法 | |
CN106960415A (zh) | 一种基于像素递归超分辨率模型恢复图像的方法 | |
CN111062410B (zh) | 基于深度学习的星型信息桥气象预测方法 | |
CN109472733A (zh) | 基于卷积神经网络的图像隐写分析方法 | |
CN115953630A (zh) | 一种基于全局-局部知识蒸馏的跨域小样本图像分类方法 | |
CN114360067A (zh) | 一种基于深度学习的动态手势识别方法 | |
CN111860278A (zh) | 一种基于深度学习的人体行为识别算法 | |
CN112766283A (zh) | 一种基于多尺度卷积网络的两相流流型识别方法 | |
CN113610024B (zh) | 一种多策略的深度学习遥感影像小目标检测方法 | |
CN112785479A (zh) | 一种基于少样本学习的图像隐形水印通用检测方法 | |
CN109934281B (zh) | 一种二分类网络的非监督训练方法 | |
CN115206455B (zh) | 基于深度神经网络的稀土元素组分含量预测方法及*** | |
CN105654070A (zh) | 一种低分辨率人脸识别方法 | |
CN113920391B (zh) | 一种基于生成尺度自适应真值图的目标计数方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20190521 Termination date: 20210411 |