CN107992841A - 识别图像中物体的方法及装置、电子设备、可读存储介质 - Google Patents
识别图像中物体的方法及装置、电子设备、可读存储介质 Download PDFInfo
- Publication number
- CN107992841A CN107992841A CN201711327168.3A CN201711327168A CN107992841A CN 107992841 A CN107992841 A CN 107992841A CN 201711327168 A CN201711327168 A CN 201711327168A CN 107992841 A CN107992841 A CN 107992841A
- Authority
- CN
- China
- Prior art keywords
- candidate region
- area
- characteristic pattern
- class probability
- input picture
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/20—Scenes; Scene-specific elements in augmented reality scenes
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- Molecular Biology (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- General Engineering & Computer Science (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Multimedia (AREA)
- Image Analysis (AREA)
Abstract
本公开是关于一种识别图像中物体的方法及装置、电子设备、可读存储介质。该方法包括:确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。可见,本公开实施例中通过输入图像的多个候选区域和特征图对每个候选区域进行迭代调整,然后从获得的目标区域中识别出物体区域,每个候选区域的区域信息经过多次调整,能够提高区域信息的准确度,使确定出的物体区域刚好包围住物体,进而提高识别物体的准确度。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及一种识别图像中物体的方法及装置、电子设备、可读存储介质。
背景技术
目前,在检测图像中的物体时,过程可以包括:首先,在图像中提取多个候选区域;然后,对每一个候选区域内的物体进行识别。但是,如果确定的候选区域位置不够准确,此时候选区域可能不是刚刚好包围住物体,导致从候选区域中获取的物体特征可能出现偏差,从而影响到识别物体的准确性。
发明内容
本公开提供一种识别图像中物体的方法及装置、电子设备、可读存储介质,以解决相关技术中的不足。
根据本公开实施例的第一方面,提供一种识别图像中物体的方法,所述方法包括:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
可选地,根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率,包括:
在每一次迭代调整过程中:通过所述特征图获得每个候选区域的特征向量;根据所述特征向量计算所述候选区域的区域信息调整量;利用所述区域信息调整量对所述候选区域的区域信息进行调整,获得调整后的候选区域。
可选地,根据所述特征向量计算所述候选区域的区域信息调整量之后,所述方法还包括:
判断所述区域信息调整量是否小于或者等于调整量阈值;
如果小于,将调整后的候选区域确定为目标区域;如果大于,重复所述迭代调整过程。
可选地,根据所述特征向量计算所述候选区域的区域信息调整量之后,所述方法还包括:
判断所述迭代次数是否大于或者等于次数阈值;
如果大于或者等于,将调整后的候选区域确定为目标区域;如果小于,重复所述迭代调整过程。
可选地,通过所述特征图获得每个候选区域的特征向量,包括:
将每个候选区域按照所述输入图像与所述特征图之间的缩放系数映射至所述特征图中,获得所述每个候选区域对应的特征区域;
对每个特征区域进行最大池化操作,获取预设长度的特征向量。
可选地,根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域,包括
对比每个目标区域的类别概率与概率阈值;
若所述类别概率小于或等于所述概率阈值,从所述多个目标区域中剔除所述类别概率对应的候选区域,获取得多个目标区域;
对所述多个目标区域进行非极大值抑制处理,获取到物体区域。
根据本公开实施例的第二方面,提供一种识别图像中物体的装置,所述装置包括:
特征图确定模块,用于确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
类别概率迭代模块,用于根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
物体区域识别模块,用于根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
可选地,所述类别概率迭代模块包括:
特征向量获取单元,用于在每一次迭代调整时,通过所述特征图获得每个候选区域的特征向量;
调整量计算单元,用于根据所述特征向量计算所述候选区域的区域信息调整量;
候选区域获取单元,用于利用所述区域信息调整量对所述候选区域的区域信息进行调整,获得调整后的候选区域。
可选地,所述类别概率迭代模块还包括:
第一判断单元,用于判断所述区域信息调整量是否小于或者等于调整量阈值;
第一输出单元,用于在所述区域信息调整量小于或者等于调整量阈值时,将调整后的候选区域确定为目标区域;
第一触发单元,用于在所述区域信息调整量大于调整量阈值时,触发特征向量获取单元。
可选地,所述类别概率迭代模块还包括:
第二判断单元,用于判断所述迭代次数是否大于或者等于次数阈值;
第二输出单元,用于在所述迭代次数大于或者等于次数阈值时,将调整后的候选区域确定为目标区域;
第二触发单元,用于在所述迭代次数小于次数阈值时,触发特征向量获取单元。
可选地,所述特征向量获取单元还包括:
特征区域获取子单元,用于将每个候选区域按照所述输入图像与所述特征图之间的缩放系数映射至所述特征图中,获得所述每个候选区域对应的特征区域;
特征向量获取子单元,用于对每个特征区域进行最大池化操作,获取预设长度的特征向量。
可选地,所述物体区域识别模块包括:
类别概率对比单元,用于对比每个目标区域的类别概率与概率阈值;
目标区域获取单元,用于在所述类别概率小于或等于所述概率阈值时,从所述多个目标区域中剔除所述类别概率对应的候选区域目标区域,获取得多个目标区域;
物体区域获取单元,用于对所述多个目标区域进行非极大值抑制处理,获取到物体区域。
根据本公开实施例的第三方面,提供一种电子设备,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器用于:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
根据本公开实施例的第四方面,提供一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
本公开的实施例提供的技术方案可以包括以下有益效果:
由上述实施例可知,本公开实施例中通过输入图像的多个候选区域和特征图对每个候选区域进行迭代调整,然后从获得的目标区域中识别出物体区域,每个候选区域的区域信息经过多次调整,能够提高区域信息的准确度,使确定出的物体区域刚好包围住物体,进而提高识别物体的准确度。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种识别图像中物体的方法的流程示意图;
图2是根据另一示例性实施例示出的一种识别图像中物体的方法的流程示意图;
图3是根据一示例性实施例示出的最大值池化处理的原理图;
图4是根据一示例性实施例示出的非最大值抑制的效果示意图;
图5~图10是根据一示例性实施例示出的识别图像中物体的装置的框图;
图11是根据一示例性实施例示出的一种电子设备的框图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置例子。
图1是根据一示例性实施例示出的一种识别图像中物体的方法的流程示意图。本公开实施例中,识别是指确定物体在输入图像的区域信息以及该物体的类别,可以应用于计算机、手机、平板电脑等终端或服务器或者服务器群组,还可以应用于为其它能够识别图片中物体的装置,以实现图像检索或者自动驾驶等业务。参见图1,一种识别图像中物体的方法包括步骤101~103:
101,确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸。
本实施例中,输入图像中可以包括多个物体。经过对输入图像进行分割,使每个候选区域包括其中一个物体的部分或者全部。可理解的是,本实施例中通过对输入图像进行显示性检测,得到该输入图像中物体的多个候选区域。
可理解的是,每个候选区域的区域信息包括横坐标、纵坐标、候选区域的宽度和高度。
本实施例中,对输入图像进行卷积处理,得到输入图像的特征图。由于卷积过程中会存在下采样处理,得到特征图的尺寸会小于输入图像的尺寸。
102,根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率。
本实施例中,基于每个候选区域的区域信息和特征图,调用迭代算法对每个候选区域的区域信息进行迭代调整,以提高每个候选区域的准确度。
在达到迭代终止条件时,输出每个候选区域的类别概率。
103,根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
本实施例中,在确定每个候选区域的类别概率后,可以从多个候选区域中识别出准确的物体区域。
可见,本实施例中通过计算每个候选区域的区域信息的调整量,然后对每个候选区域的区域信息进行多次迭代,可以提高每个候选区域的区域信息的准确性,即检测结果中候选区域刚好包围住物体区域,从而可以提高识别物体的准确性
图2所示实施例提供的一种识别图像中物体的方法的流程示意图,参见图2,包括:
201,对输入图像进行显著性检测,得到物体的多个候选区域R={r1,r2,...,rn}。其中,r=(x,y,w,h),x,y,w,h分别为每个候选区域的横坐标、纵坐标、候选区域的宽度和高度。
为确定物体的多个候选区域,本实施例中对输入图像进行显著性检测。显著性检测算法可以采用相关技术中的选择性搜索(Selective Search)方法或候选区域提取网络(Region Proposal Networks),具体检测步骤在此不再详述。
可理解的是,通过显著性检测后可以得到关于该输入图像中所包含物体的多个候选区域R={r1,r2,...,rn}。其中R表示候选区域集合,rn表示其中一个候选区域,n表示候选区域的数量,为正整数。通常情况下,n取值为数百到数千。r=(x,y,w,h)表示其中一个候选区域的区域信息,其中x,y表示横坐标、纵坐标,w表示候选区域的宽度,h表示候选区域的高度。
202,利用卷积神经网络处理输入图像,获得输入图像的特征图Fc。特征图的尺寸小于输入图像的尺寸,两者之间尺寸比例为缩放系数sc。
本实施例中,利用相关技术中的卷积神经网络(CNN)对输入图像进行卷积运算,从而得到输入图像的特征图Fc。可理解的是,CNN网络的层数、每一层卷积核的数量以及每一个卷积核的大小可以根据网络速度和精度进行调整,从而得到需要大小的特征图Fc。该特征图Fc采用矩阵形式表示。
卷积神经网络(CNN)中包含至少一个卷积层,该卷积层会存在下采样操作,使得特征图Fc的尺寸小于输入图像的尺寸,即特征图Fc和输入图像之间会存在一个缩放系数sc。该缩放系数sc可以基于CNN网络输入参数的卷积核的数量、大小和步长计算得出。
可理解的是,步骤201和步骤202的执行顺序不分先后,即步骤201可先于步骤202执行,可以后于步骤202执行,还可以与步骤202同时执行。
203,根据每个候选区域的区域信息和缩放系数,将每个候选区域映射到特征图,得到每个候选区域对应的特征区域。
本实施例中,可以根据每个候选区域的区域信息和缩放系数可以确定每个候选区域在特征图Fc上对应的特征区域:
rc=(xc,yc,wc,hc)=(sc*x,sc*y,sc*w,sc*h)。
这样每个候选区域可以映射到特征图上,得到每个候选区域对应的特征区域。
204,将每个特征区域进行最大池化处理,池化后的每个特征区域具有相同的尺寸,并将每个特征区域转换成对应的特征向量fc。
本实施例中,对特征区域rc进行降维处理,得到特征向量fc,这样可以减少计算量。例如,可以按照逐行写入向量的方式,得到特征向量fc。又如,还可以按逐写入向量的方式,得到特征向量fc。
以逐行写入向量的方式为例,假设特征区域rc为则逐行写入向量得到{1,5,9;5,4,0;2,7},3。
205,将每个特征向量fc输入到对应的识别网络,分别确定出区域信息调整量和类别概率。
本实施例中,可以将特征向量输入到第一神经网络确定区域信息调整量,将特征向量输入到第二神经网络确定类别概率。第一神经网络和第二神经网络可以采用相关技术的训练方式进行训练。
例如,第一神经网络可以为多层感知器(Multi-layer Perceptron,MLP),将上述特征向量fc输入到多层感知器后,可以确定出每个候选区域的类别概率和区域信息调整量Δr=(Δx,Δy,Δw,Δh)。
可理解的是,本实施例中多层感知器预先定义了N个物体类别,N为正整数。例如,物体类别可以是人、大树、房子、动物、电脑、电话、桌子、椅子等。对于每个候选区域,需要分别计算该候选区域属于N个物体类别的类别概率,每个候选区域属于每个物体类别的类别概率表示该候选区域属于该物体类别的可能性,某个候选区域属于某个物体类别的类别概率越大,说明该候选区域中存在该物体类别的可能性越大。
本实施例中,多层感知器为多层前馈神经网络,例如该多层前馈神经网络为BP(Back Propagation)神经网络,该多层前馈神经网络包括输入层、多个隐藏层和输出层。隐藏层的数量可以根据具体场景进行设定。该多层感知器的训练思路包括:
(1)从训练图像集中取出一样例图像,把样例图像输入到多层感知器中;
(2)由多层感知器分别计算多层感知器每一层中节点的输出;
(3)计算多层感知器的实际输出和期望输出的误差;
(4)从输出层反向计算到第一隐藏层,根据一定原则向减小误差方向调整多层感知器中各个层之间连接权值;
(5)对训练图像集中的每一个样例图像,重复以上步骤(1)~(4),直到多层感知器的实际输出和期望输出的误差达到要求为止。
本实施例中,在特征向量输入多层感知器之前,可以采用最大值池化处理方式将全部特征区域rc处理为统一尺寸,这样每个特征区域对应的特征向量具有相同的长度。
如图3所示,以2*2的卷积核,步长为2为例,最大值池化处理过程包括:
卷积核在图3(a)的位置301时,对应区域{3,6,4,7},选择最大值为7;
卷积核向右移动2个单元到达位置302,此时卷积核的对应区域{1,4,7,8},选择最大值为8;
卷积核向左和下各移动2个单元,到达在图3(a)的位置203,此时卷积核的对应区域{2,2,2,4},选择最大值为4;
卷积核向右移动2个单元,到达在图3(a)的位置204,对应区域{1,2,3,4},选择最大值为4。
经过上述最大值池化处理可以得到图3(b)所示结果,即{7,8,4,4}。
这样,通过最大值池化处理,可以使每个候选区域对应的特征区域具有相同的尺寸,这样每个特征区域转换后可以得到具有预设长度的特征向量,可以减少后续过程中多层感知器的数量以及提高计算准确度。
在另一实施例中,多层感知器可以包括多个权重系数不同的神经网络,这样可以处理不同尺寸的特征区域。然后将特征区域按照设定规则转换为预设长度的特征向量,同样可以实现本公开的方案。
206,判断区域信息调整量是否小于或者等于调整量阈值。若小于或者等于,则转到步骤208。若大于,则转到步骤207。
在每次迭代调整的过程中,可以判断是否满足迭代终止条件:
例如迭代终止条件可以为区域信息调整量的当前值小于或者等于调整量阈值,此时对每个候选区域的区域信息的迭代过程已经收敛,可以终止迭代过程,此时转到步骤208。否则转到步骤207。
又如迭代终止条件可以为迭代次数,即可以事先将迭代终止条件设置为预设数量次作为次数阈值,如迭代次数的经验值为2~5次,在迭代2~5次之后,输出每个候选区域的类别概率的准确度仍然满足要求。
步骤207,利用区域信息调整量调整对应候选区域的区域信息,获取该候选区域的调整后的区域信息rnew=r+Δr=(x+Δx,y+Δy,w+Δw,h+Δh)。转到步骤203。
本实施例中将第一次获取的每个候选区域的区域信息和区域信息调整量作为其初始值。即每个候选区域的区域信息为一个变量,区域信息调整量也是一个变量。
基于每个候选区域的区域信息调整量,调整该候选区域的区域信息,即rnew=r+Δr=(x+Δx,y+Δy,w+Δw,h+Δh)。然后以调整后的区域信息重新确定对应候选区域的区域信息调整量,实现一次迭代过程。
即对区域信息的每一次迭代调整包括:通过每个候选区域的区域信息和特征图获得每个候选区域的特征向量;根据特征向量计算每个候选区域的区域信息调整量;利用区域信息调整量对候选区域的区域信息进行调整,获得调整后的候选区域。
步骤208,输出每个候选区域的类别概率。
可理解的是,步骤205中可以确定出区域信息调整量和类别概率,当然确定类别概率的步骤还可以集成到步骤208中,同样可以实现本实施例的方案。
步骤209,根据每个候选区域的类别概率从多个候选区域中识别出物体区域。
本实施例中,针对每个候选区域,对比每个候选区域的类别概率和类别概率阈值,选择大于或者等于类别概率阈值的候选区域即第一候选区域。可理解的是,第一候选区域中包括多个候选区域。
本实施例中,对第一候选区域进行非最大值抑制处理,去除重复的候选区域,找到物体的最佳位置,即最终得到的候选区域与物体相吻合,此最终得到的候选区域可以称之为物体区域,该物体区域对应的类别概率即是物体类别。非最大值抑制处理可以采用如下方式确定物体区域:
如图4(a)和图4(b)所示,图4(a)中每个框表示一个候选区域,图中各个候选区域都检测到了汽车,但是有些候选区域只能检测到汽车的一个部分,例如,其中一个候选区域只能检测到汽车的轮胎,另一个候选区域只能检测到汽车的车窗,第一候选区域中可能包括M种物体,例如人,汽车,椅子,宠物狗等。首先计算第i个物体类别(例如汽车)包含的其中两个候选区域的交集和并集的商(Intersection-over-union,简称IOU),其中i的取值为[1,M]。然后,判断两个候选区域IOU是否大于IOU阈值。在一实施例中,该IOU阈值的取值为0.5。其中IOU越大,说明两个候选区域的重合面积越大。当两个候选区域的IOU大于IOU阈值时,继续比较两个检测区域属于第i个物体的类别概率的大小,去掉类别概率较小的候选区域。继续选择两个第i个物体类别的候选区域,重复上述过程,每执行一次会去掉一个候选区域,执行多次后第i个物体类别剩余一个候选区域,则确定该剩余的候选区域为最终的候选区域。通过非最大值抑制找到最佳候选区域,能够完全包括汽车的候选区域即物体区域如图4(b)所示。
图5是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图5,该识别图像中物体的装置包括:
特征图确定模块501,用于确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
类别概率迭代模块502,用于根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
物体区域识别模块503,用于根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
图6是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图6,在图5所示实施例的装置的基础上,类别概率迭代模块502包括:
特征向量获取单元601,用于在每一次迭代调整时,通过所述特征图获得每个候选区域的特征向量;
调整量计算单元602,用于根据所述特征向量计算所述候选区域的区域信息调整量;
候选区域获取单元603,用于利用所述区域信息调整量对所述候选区域的区域信息进行调整,获得调整后的候选区域。
图7是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图7,在图6所示实施例的装置的基础上,类别概率迭代模块502包括:
第一判断单元701,用于判断所述区域信息调整量是否小于或者等于调整量阈值;
第一输出单元702,用于在所述区域信息调整量小于或者等于调整量阈值时,将调整后的候选区域确定为目标区域;
第一触发单元703,用于在所述区域信息调整量大于调整量阈值时,触发特征向量获取单元601。
图8是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图8,在图6所示实施例的装置的基础上,类别概率迭代模块502包括:
第二判断单元801,用于判断所述迭代次数是否大于或者等于次数阈值;
第二输出单元802,用于在所述迭代次数大于或者等于次数阈值时,将调整后的候选区域确定为目标区域;
第二触发单元803,用于在所述迭代次数小于次数阈值时,触发特征向量获取单元。
图9是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图9,在图7所示实施例的装置的基础上,所述特征向量获取单元601还包括:
特征区域获取子单元901,用于将每个候选区域按照所述输入图像与所述特征图之间的缩放系数映射至所述特征图中,获得所述每个候选区域对应的特征区域;
特征向量获取子单元902,用于对每个特征区域进行最大池化操作,获取预设长度的特征向量。
图10是根据一示例性实施例示出的识别图像中物体的装置的框图,参见图10,在图6所示实施例的装置的基础上,所述物体区域识别模块603包括:
类别概率对比单元1001,用于对比每个目标区域的类别概率与概率阈值;
目标区域获取单元1002,用于在所述类别概率小于或等于所述概率阈值时,从所述多个目标区域中剔除所述类别概率对应的候选区域目标区域,获取得多个目标区域;
物体区域获取单元1003,用于对所述多个目标区域进行非极大值抑制处理,获取到物体区域。
图11是根据一示例性实施例示出的一种电子设备的框图。例如,电子设备1100可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图11,电子设备1100可以包括以下一个或多个组件:处理组件1102,存储器1104,电源组件1106,多媒体组件1108,音频组件1110,输入/输出(I/O)的接口1112,传感器组件1114,以及通信组件1116。其中,存储器1104用于存储处理组件1102可执行的指令。处理组件1102从存储器1104读取指令以实现:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
处理组件1102通常控制装置1100的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件1102可以包括一个或多个处理器1120来执行指令。此外,处理组件1102可以包括一个或多个模块,便于处理组件1102和其他组件之间的交互。例如,处理组件1102可以包括多媒体模块,以方便多媒体组件1108和处理组件1102之间的交互。
存储器1104被配置为存储各种类型的数据以支持在装置1100的操作。这些数据的示例包括用于在装置1100上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器1104可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件1106为装置1100的各种组件提供电力。电源组件1106可以包括电源管理***,一个或多个电源,及其他与为装置1100生成、管理和分配电力相关联的组件。
多媒体组件1108包括在所述装置1100和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件1108包括一个前置摄像头和/或后置摄像头。当装置1100处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件1110被配置为输出和/或输入音频信号。例如,音频组件1110包括一个麦克风(MIC),当装置1100处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器1104或经由通信组件1116发送。在一些实施例中,音频组件1110还包括一个扬声器,用于输出音频信号。
I/O接口1112为处理组件1102和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件1114包括一个或多个传感器,用于为装置1100提供各个方面的状态评估。例如,传感器组件1114可以检测到装置1100的打开/关闭状态,组件的相对定位,例如所述组件为装置1100的显示器和小键盘,传感器组件1114还可以检测装置1100或装置1100一个组件的位置改变,用户与装置1100接触的存在或不存在,装置1100方位或加速/减速和装置1100的温度变化。传感器组件1114可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件1114还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件1114还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件1116被配置为便于装置1100和其他设备之间有线或无线方式的通信。装置1100可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件1116经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件1116还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置1100可以被一个或多个应用专用集成电路
(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器1104,上述指令可由装置1100的处理器1120执行。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的公开后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (14)
1.一种识别图像中物体的方法,其特征在于,所述方法包括:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
2.根据权利要求1所述的识别图像中物体的方法,其特征在于,根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率,包括:
在每一次迭代调整过程中:通过所述特征图获得每个候选区域的特征向量;根据所述特征向量计算所述候选区域的区域信息调整量;利用所述区域信息调整量对所述候选区域的区域信息进行调整,获得调整后的候选区域。
3.根据权利要求2所述的识别图像中物体的方法,其特征在于,根据所述特征向量计算所述候选区域的区域信息调整量之后,所述方法还包括:
判断所述区域信息调整量是否小于或者等于调整量阈值;
如果小于,将调整后的候选区域确定为目标区域;如果大于,重复所述迭代调整过程。
4.根据权利要求2所述的识别图像中物体的方法,其特征在于,根据所述特征向量计算所述候选区域的区域信息调整量之后,所述方法还包括:
判断所述迭代次数是否大于或者等于次数阈值;
如果大于或者等于,将调整后的候选区域确定为目标区域;如果小于,重复所述迭代调整过程。
5.根据权利要求2所述的识别图像中物体的方法,其特征在于,通过所述特征图获得每个候选区域的特征向量,包括:
将每个候选区域按照所述输入图像与所述特征图之间的缩放系数映射至所述特征图中,获得所述每个候选区域对应的特征区域;
对每个特征区域进行最大池化操作,获取预设长度的特征向量。
6.根据权利要求1所述的识别图像中物体的方法,其特征在于,根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域,包括
对比每个目标区域的类别概率与概率阈值;
若所述类别概率小于或等于所述概率阈值,从所述多个目标区域中剔除所述类别概率对应的候选区域,获取得多个目标区域;
对所述多个目标区域进行非极大值抑制处理,获取到物体区域。
7.一种识别图像中物体的装置,其特征在于,所述装置包括:
特征图确定模块,用于确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
类别概率迭代模块,用于根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
物体区域识别模块,用于根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
8.根据权利要求7所述的识别图像中物体的装置,其特征在于,所述类别概率迭代模块包括:
特征向量获取单元,用于在每一次迭代调整时,通过所述特征图获得每个候选区域的特征向量;
调整量计算单元,用于根据所述特征向量计算所述候选区域的区域信息调整量;
候选区域获取单元,用于利用所述区域信息调整量对所述候选区域的区域信息进行调整,获得调整后的候选区域。
9.根据权利要求8所述的识别图像中物体的装置,其特征在于,所述类别概率迭代模块还包括:
第一判断单元,用于判断所述区域信息调整量是否小于或者等于调整量阈值;
第一输出单元,用于在所述区域信息调整量小于或者等于调整量阈值时,将调整后的候选区域确定为目标区域;
第一触发单元,用于在所述区域信息调整量大于调整量阈值时,触发特征向量获取单元。
10.根据权利要求8所述的识别图像中物体的装置,其特征在于,所述类别概率迭代模块还包括:
第二判断单元,用于判断所述迭代次数是否大于或者等于次数阈值;
第二输出单元,用于在所述迭代次数大于或者等于次数阈值时,将调整后的候选区域确定为目标区域;
第二触发单元,用于在所述迭代次数小于次数阈值时,触发特征向量获取单元。
11.根据权利要求8所述的识别图像中物体的装置,其特征在于,所述特征向量获取单元还包括:
特征区域获取子单元,用于将每个候选区域按照所述输入图像与所述特征图之间的缩放系数映射至所述特征图中,获得所述每个候选区域对应的特征区域;
特征向量获取子单元,用于对每个特征区域进行最大池化操作,获取预设长度的特征向量。
12.根据权利要求7所述的识别图像中物体的装置,其特征在于,所述物体区域识别模块包括:
类别概率对比单元,用于对比每个目标区域的类别概率与概率阈值;
目标区域获取单元,用于在所述类别概率小于或等于所述概率阈值时,从所述多个目标区域中剔除所述类别概率对应的候选区域目标区域,获取得多个目标区域;
物体区域获取单元,用于对所述多个目标区域进行非极大值抑制处理,获取到物体区域。
13.一种电子设备,其特征在于,所述电子设备包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器用于:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
14.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,该程序被处理器执行时实现:
确定输入图像中的多个候选区域以及所述输入图像的特征图,所述特征图的尺寸小于所述输入图像的尺寸;
根据每个候选区域的区域信息和所述特征图对每个候选区域进行迭代调整,直至获得满足迭代终止条件时的每个候选区域的类别概率;
根据所述每个候选区域的类别概率从所述多个候选区域中识别出物体区域。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711327168.3A CN107992841A (zh) | 2017-12-13 | 2017-12-13 | 识别图像中物体的方法及装置、电子设备、可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201711327168.3A CN107992841A (zh) | 2017-12-13 | 2017-12-13 | 识别图像中物体的方法及装置、电子设备、可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN107992841A true CN107992841A (zh) | 2018-05-04 |
Family
ID=62037755
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201711327168.3A Pending CN107992841A (zh) | 2017-12-13 | 2017-12-13 | 识别图像中物体的方法及装置、电子设备、可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN107992841A (zh) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108846795A (zh) * | 2018-05-30 | 2018-11-20 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN109359560A (zh) * | 2018-09-28 | 2019-02-19 | 武汉优品楚鼎科技有限公司 | 基于深度学习神经网络的图表识别方法、装置及设备 |
CN109726661A (zh) * | 2018-12-21 | 2019-05-07 | 网易有道信息技术(北京)有限公司 | 图像处理方法及装置、介质和计算设备 |
CN110287786A (zh) * | 2019-05-20 | 2019-09-27 | 特斯联(北京)科技有限公司 | 基于人工智能防干扰的车辆信息识别方法及装置 |
CN110619350A (zh) * | 2019-08-12 | 2019-12-27 | 北京达佳互联信息技术有限公司 | 图像检测方法、装置及存储介质 |
CN111127635A (zh) * | 2019-12-24 | 2020-05-08 | 中国联合网络通信集团有限公司 | 目标物体的检测方法、装置、设备和存储介质 |
CN111191804A (zh) * | 2018-11-15 | 2020-05-22 | 北京京东尚科信息技术有限公司 | 生成餐厅服务任务信息的方法、***、设备及存储介质 |
CN111914765A (zh) * | 2020-08-05 | 2020-11-10 | 杭州像素元科技有限公司 | 一种服务区环境舒适度检测方法、设备及可读存储介质 |
CN112162672A (zh) * | 2020-10-19 | 2021-01-01 | 腾讯科技(深圳)有限公司 | 信息流的显示处理方法、装置、电子设备及存储介质 |
CN112256906A (zh) * | 2020-10-23 | 2021-01-22 | 安徽启新明智科技有限公司 | 在显示屏上标记批注的方法、装置和存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106529565A (zh) * | 2016-09-23 | 2017-03-22 | 北京市商汤科技开发有限公司 | 目标识别模型训练和目标识别方法及装置、计算设备 |
CN106599939A (zh) * | 2016-12-30 | 2017-04-26 | 深圳市唯特视科技有限公司 | 一种基于区域卷积神经网络的实时目标检测方法 |
CN107239731A (zh) * | 2017-04-17 | 2017-10-10 | 浙江工业大学 | 一种基于Faster R‑CNN的手势检测和识别方法 |
-
2017
- 2017-12-13 CN CN201711327168.3A patent/CN107992841A/zh active Pending
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106529565A (zh) * | 2016-09-23 | 2017-03-22 | 北京市商汤科技开发有限公司 | 目标识别模型训练和目标识别方法及装置、计算设备 |
CN106599939A (zh) * | 2016-12-30 | 2017-04-26 | 深圳市唯特视科技有限公司 | 一种基于区域卷积神经网络的实时目标检测方法 |
CN107239731A (zh) * | 2017-04-17 | 2017-10-10 | 浙江工业大学 | 一种基于Faster R‑CNN的手势检测和识别方法 |
Non-Patent Citations (1)
Title |
---|
SHAOQING REN: ""Faster R-CNN: Towards Real-Time Object Detection with Region Proposal Networks"", 《IEEE TRANSCATIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108846795A (zh) * | 2018-05-30 | 2018-11-20 | 北京小米移动软件有限公司 | 图像处理方法及装置 |
CN109359560A (zh) * | 2018-09-28 | 2019-02-19 | 武汉优品楚鼎科技有限公司 | 基于深度学习神经网络的图表识别方法、装置及设备 |
CN111191804A (zh) * | 2018-11-15 | 2020-05-22 | 北京京东尚科信息技术有限公司 | 生成餐厅服务任务信息的方法、***、设备及存储介质 |
CN109726661A (zh) * | 2018-12-21 | 2019-05-07 | 网易有道信息技术(北京)有限公司 | 图像处理方法及装置、介质和计算设备 |
CN110287786A (zh) * | 2019-05-20 | 2019-09-27 | 特斯联(北京)科技有限公司 | 基于人工智能防干扰的车辆信息识别方法及装置 |
CN110619350A (zh) * | 2019-08-12 | 2019-12-27 | 北京达佳互联信息技术有限公司 | 图像检测方法、装置及存储介质 |
CN111127635A (zh) * | 2019-12-24 | 2020-05-08 | 中国联合网络通信集团有限公司 | 目标物体的检测方法、装置、设备和存储介质 |
CN111914765A (zh) * | 2020-08-05 | 2020-11-10 | 杭州像素元科技有限公司 | 一种服务区环境舒适度检测方法、设备及可读存储介质 |
CN111914765B (zh) * | 2020-08-05 | 2022-07-12 | 杭州像素元科技有限公司 | 一种服务区环境舒适度检测方法、设备及可读存储介质 |
CN112162672A (zh) * | 2020-10-19 | 2021-01-01 | 腾讯科技(深圳)有限公司 | 信息流的显示处理方法、装置、电子设备及存储介质 |
CN112256906A (zh) * | 2020-10-23 | 2021-01-22 | 安徽启新明智科技有限公司 | 在显示屏上标记批注的方法、装置和存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107992841A (zh) | 识别图像中物体的方法及装置、电子设备、可读存储介质 | |
TWI724736B (zh) | 圖像處理方法及裝置、電子設備、儲存媒體和電腦程式 | |
CN108256555B (zh) | 图像内容识别方法、装置及终端 | |
CN108121952A (zh) | 人脸关键点定位方法、装置、设备及存储介质 | |
CN105631406B (zh) | 图像识别处理方法和装置 | |
CN107909113A (zh) | 交通事故图像处理方法、装置及存储介质 | |
CN109859096A (zh) | 图像风格迁移方法、装置、电子设备及存储介质 | |
CN108171254A (zh) | 图像标签确定方法、装置及终端 | |
CN106548145A (zh) | 图像识别方法及装置 | |
WO2020088069A1 (zh) | 手势关键点检测方法、装置、电子设备及存储介质 | |
CN107239535A (zh) | 相似图片检索方法及装置 | |
CN107527053A (zh) | 目标检测方法及装置 | |
CN106845398B (zh) | 人脸关键点定位方法及装置 | |
EP3923202A1 (en) | Method and device for data processing, and storage medium | |
CN106228556B (zh) | 图像质量分析方法和装置 | |
CN107145904A (zh) | 图像类别的确定方法、装置及存储介质 | |
CN107832741A (zh) | 人脸特征点定位的方法、装置及计算机可读存储介质 | |
US10326928B2 (en) | Image processing apparatus for determining whether section of target area matches section of person area and control method thereof | |
CN106446946B (zh) | 图像识别方法及装置 | |
CN106980840A (zh) | 脸型匹配方法、装置及存储介质 | |
CN104239879B (zh) | 分割字符的方法及装置 | |
CN106228158A (zh) | 图片检测的方法和装置 | |
CN108154093A (zh) | 人脸信息识别方法及装置、电子设备、机器可读存储介质 | |
CN106548201A (zh) | 卷积神经网络的训练方法、图像识别方法及装置 | |
CN107545248A (zh) | 生物特征活体检测方法、装置、设备及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180504 |
|
RJ01 | Rejection of invention patent application after publication |