CN110619350B - 图像检测方法、装置及存储介质 - Google Patents
图像检测方法、装置及存储介质 Download PDFInfo
- Publication number
- CN110619350B CN110619350B CN201910741273.4A CN201910741273A CN110619350B CN 110619350 B CN110619350 B CN 110619350B CN 201910741273 A CN201910741273 A CN 201910741273A CN 110619350 B CN110619350 B CN 110619350B
- Authority
- CN
- China
- Prior art keywords
- image
- detection
- target
- detection frame
- model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/24—Classification techniques
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/07—Target detection
Landscapes
- Engineering & Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Artificial Intelligence (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本公开关于一种图像检测方法、装置和存储介质。所述方法,包括:获取目标图像的特征图;根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。从而取得了提高图像检测结果准确性以及图像检测方案适用性的有益效果。
Description
技术领域
本公开涉及图像处理技术领域,尤其涉及图像检测方法、装置及存储介质。
背景技术
随着人工智能迅速发展,网络模型的应用范围也越多越广。例如,可以通过模型进行图片识别、文字识别,等等。
相关技术中,当前图像检测基于深度学***移不变性,而bbox回归恰恰需要平移可变性,为了寻求一个平衡,两种方法均将类别回归和bbox(bounding box,边框)回归放在一个网络中以满足基本的需求。
但是对于某些应用场景,上述的图像检测方法的检测效果准确性仍然欠佳。例如,OCR(Optical Character Recognition,光学字符识别)检测中存在文字宽高比较大、宽度或者高度较小的情况,相应地bbox回归不准确对检测框的得分影响也很大,从而使得检测结果准确性欠佳,图像检测方法适用性不强。
发明内容
本公开提供一种图像检测方法、装置及存储介质,以至少解决相关技术中图像检测方法适用性不强,检测结果准确性欠佳的问题。本公开的技术方案如下:
根据本公开实施例的第一方面,提供一种图像检测方法,包括:
获取目标图像的特征图;
根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
可选地,所述分类模型中包含N个级联的特征提取模型,N为正整数,所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤,包括:
A1,按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
A2,基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
A3,响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入A2,直至所述目标特征提取模块为第N个特征提取模型;
A4,响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
可选地,在所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤之前,还包括:
获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
可选地,所述获取目标图像的特征图的步骤,包括:
将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
可选地,在所述图像检测模型为两段式faster rcnn模型的情况下,所述根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
从所述特征图中截取的与所述建议检测框对应的特征区域;
将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
可选地,所述将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
对所述初始检测框进行非最大值抑制,得到所述建议检测框。
根据本公开实施例的第二方面,提供一种图像检测装置,包括:
特征图获取模块,被配置为执行获取目标图像的特征图;
第一图像检测模块,被配置为执行根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
目标检测框获取模块,被配置执行响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
第二图像检测模块,被配置为执行通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
可选地,所述分类模型中包含N个级联的特征提取模型,N为正整数,所述第二图像检测模块,包括:
第一图像特征提取子模块,被配置为执行按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
检测框分类子模块,被配置为执行基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
第一图像特征提取子模块,被配置为执行响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入检测框分类子模块,直至所述目标特征提取模块为第N个特征提取模型;
最终预测类别确认子模块,被配置为执行响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
可选地,所述装置还包括:
训练样本图像获取模块,被配置执行获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
分类模型训练模块,被配置为执行根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
可选地,所述特征图获取模块,还用于将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
可选地,在所述图像检测模型为两段式faster rcnn模型的情况下,所述第一图像检测模块,包括:
建议检测框获取子模块,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
特征区域截图子模块,被配置为执行从所述特征图中截取的与所述建议检测框对应的特征区域;
检测结果获取子模块,被配置为执行将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
可选地,所述建议检测框获取子模块,包括:
初始检测框获取单元,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
建议检测框获取单元,被配置为执行对所述初始检测框进行非最大值抑制,得到所述建议检测框。
根据本公开实施例的第三方面,提供一种图像检测装置,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如前述的任意一种图像检测方法。
根据本公开实施例的第四方面,提供一种存储介质,当所述存储介质中的指令由图像检测装置的处理器执行时,使得图像检测装置能够执行如前述的任意一种图像检测方法。
根据本公开实施例的第方面,提供一种计算机程序产品,当所述计算机程序产品中的指令由图像检测装置的处理器执行时,使得图像检测装置能够执行如述的任意一种图像检测方法。
本公开的实施例提供的技术方案至少带来以下有益效果:
在本公开实施例中,通过获取目标图像的特征图;根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。从而取得了提高图像检测结果准确性以及图像检测方案适用性的有益效果。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理,并不构成对本公开的不当限定。
图1是根据一示例性实施例示出的一种图像检测方法的流程图之一。
图2是根据一示例性实施例示出的一种图像检测方法的流程图之二。
图3是根据一示例性实施例示出的一种图像检测装置的框图之一。
图4是根据一示例性实施例示出的一种图像检测装置的框图之二。
图5是根据一示例性实施例示出的一种图像检测装置的框图之三。
图6是根据一示例性实施例示出的一种图像检测装置的框图之四。
具体实施方式
为了使本领域普通人员更好地理解本公开的技术方案,下面将结合附图,对本公开实施例中的技术方案进行清楚、完整地描述。
需要说明的是,本公开的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象,而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换,以便这里描述的本公开的实施例能够以除了在这里图示或描述的那些以外的顺序实施。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
图1是根据一示例性实施例示出的一种图像检测法的流程图,如图1所示,图像检测方法包括以下步骤:
在步骤S11中,获取目标图像的特征图。
在本公开实施例中,为了对目标图像进行检测,首先需要提取目标图像的特征,得到目标图像的特征图。其中,可以通过任何可用方式提取目标图像的特征,对此本公开实施例不加以限定。
例如,可以通过VGG(Visual Geometry Group,视觉几何组)16、InceptionV1、InceptionV2、resnet(Residual Neural Network,残余神经网络)、Inception-resnet等特征提取网络,提取目标图像的特征,得到目标图像的特征图。
在步骤S12中,根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度。
在获取到目标图像的特征图之后,则可以根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果。其中的图像检测模型可以为任意一种可以用于进行图像检测的模型,例如一段式的YOLO(You Only Look Once)模型、SSD模型,两段式的FasterRCNN模型、RFCN模型、Cascade RCNN模型,等等。
而且,待检测的目标图像中一般可以分为背景区域和前景区域两部分,其中的前景区域中又可以包含多个不同对象的图像,因此在本公开实施例中,为了方便相关用户对应获知每个预测类别所对应在目标图像中的检测区域,以及每个预测类别的准确度,通过图像检测模型得到的检测结果中可以包括但不限于目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度。
在步骤S13中,响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框。
如前述,由于图像检测模型的适应性不佳,在某些场景下图像检测模型中的bbox回归不准确对检测结果的影响较大,容易影响检测结果的准确性,使得部分检测框的预测类别的置信度较低。
因此,在本公开实施例中,为了提高最终得到的预测分类的准确性,可以预先设置一预设阈值,进而针对置信度满足预设阈值的检测框进行再次分类。例如,可以设置预设阈值为[0.3,0.9],等等。
具体的,响应于第一预测类别的置信度满足第一阈值条件,则可以获取相应的第一预测类别对应的目标检测框。而针对置信度不满足第一阈值条件的第一预测类别,则可以直接以相应的第一预测类别作为相应检测框的最终预测类别。
例如,假设根据目标图像的特征图,通过图像检测模型,获取目标图像的第一检测结果包括:检测框a1的第一预测类别b1以及置信度c1,检测框a2的第一预测类别b2以及置信度c2。而如果第一阈值条件为[0.3,0.9],且c1大于0.3且小于0.9,c2大于0.9,那么此时则可以获取检测框a1作为目标检测框,而对于检测框a2,则可以直接以第一预测类别b2作为其最终的预测类别。
在步骤S14中,通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
对于置信度满足第一阈值条件的目标检测框,则可以进一步通过预设的分类模型,提取目标检测框的图像特征,并基于目标检测框的图像特征获取相应的目标检测框的最终预测类别。
而且,在本公开实施例中,为了提高分类模型的准确性,可以设置分类模型独立于图像检测模型,且与图像检测模型级联。也即,分类模型的输入数据包括图像检测模型输出的且置信度满足第一阈值条件条件的目标检测框。而且,分类模型在获取目标检测框之后,则可以进一步提取目标图像中相应检测框对应区域的图像特征,并基于当前提取得到的检测框对应的图像特征,对相应的目标检测框进行识别,得到相应目标检测框的最终预测类别。此时,由于该分类模型完全独立于图像检测模型的检测框回归任务,具有很好的平移不变性,对最终的分类结果有很好的作用,能大大提高检测准确率。
其中,该分类模型中用以进行特征提取的模型类型可以与步骤S11中获取目标图像的特征图时的特征提取网络的类型一致,也可以不一致,对此本公开实施例不加以限定。但是,为了保证分类模型提取得到的图像特征与特征图中相应检测框对应的图像特征不完全一致,可以设置在分类模型中用以进行特征提取的模型类型与步骤S11中获取目标图像的特征图时的特征提取网络的类型一致时,分类模型中用以进行特征提取的模型参数与步骤S11中获取目标图像的特征图时的特征提取网络的参数不完全一致。
另外,在本公开实施例中,在通过预设的分类模型,获取目标检测框的最终预测类别时,还可以结合经步骤S11提取的特征图中对应目标检测框的图像特征与基于分类模型提取得到的目标检测框的图像特征,获取目标检测框的最终预测类别,对此本公开实施例不加以限定。
在本公开实施例中,通过获取目标图像的特征图;根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。从而取得了提高图像检测结果准确性以及图像检测方案适用性的有益效果。
参照图2,在本公开实施例中,所述分类模型中包含N个级联的特征提取模型,N为正整数。所述步骤S14进一步可以包括:
A1,按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
A2,基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
A3,响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入A2,直至所述目标特征提取模块为第N个特征提取模型;
A4,响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
在本公开实施例中,为了进一步提高图像检测结果的准确性,重点在于提高提取的图像特征的准确性。因此,在本公开实施例中,为了提高分类模型的准确性,可以设置分类模型中包含N个级联的特征提取模型,N为正整数。
那么在基于分类模型获取各个目标检测框的最终预测分类时,则可以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征,进而基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度,如果所述第一置信度满足第二阈值条件,则可以继续以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入A2,直至所述目标特征提取模块为第N个特征提取模型,而如果所述第一置信度不满足第二阈值条件,则可以当前预测类别作为所述目标检测框的最终预测类别。
例如,假设分类模型中包含3个级联的特征提取模型,针对目标检测框a1,可以通过第一个特征提取模型提取目标检测框a1对应在目标图像中区域的图像特征,也即目标检测框a1的图像特征,假设为图像特征集合Q1,进而则可以基于当前提取到的目标检测框a1的全部图像特征,也即图像特征集合Q1获取目标检测框a1的当前预测类别d1,以及所述当前预测类别d1的第一置信度e1;而如果e1满足第二阈值条件,则可以继续通过第二个特征提取模型提取目标检测框a1的图像特征,假设为图像特征集合Q2,进而则可以基于当前提取到的目标检测框a1的全部图像特征,也即图像特征集合Q1和图像特征集合Q2的并集,获取目标检测框a1的当前预测类别d2,以及所述当前预测类别d2的第一置信度e2;而如果e1不满足第二阈值条件,则可以当前预测类别d1作为目标检测框a1的最终预测类别。
而如果当前基于分类模型中包含第N个特征提取模型提取目标检测框a1的图像特征,假设为图像特征集合Qn,进而则可以基于当前提取到的目标检测框a1的全部图像特征,也即图像特征集合Q1、Q2、…、Qn的并集,获取目标检测框a1的当前预测类别dn,以及所述当前预测类别dn的第一置信度en,那么此时不管第一置信度en是否满足第二阈值条件,都可以当前预测类别dn作为目标检测框a1的最终预测类别。
或者,在本公开实施例中,如果通过分类模型获取的目标检测框的预测置信度始终满足第二阈值条件,那么也可以比较各个置信度的大小,从而获取第一置信度最高的预测类别作为相应目标检测框的最终预测类别。例如,对于上述的目标检测框a1,如果第一置信度e1、e2、…、en均满足第二阈值条件,那么则可以获取e1、e2、…、en中的最大值e_max,进而获取e_max对应的预测类别作为目标检测框a1的最终预测类别。
其中的第二阈值条件可以根据需求进行预先设置,而且第二阈值条件可以与前述的第一阈值条件相同,也可以不同,对此本公开实施例均不加以限定。
参照图2,在本公开实施例中,在步骤S14之前,还可以包括:
步骤S15,获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
步骤S16,根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
在本公开实施例中,为了提高分类模型的准确性,还可以通过人工标定的多个训练样本图像训练分类模型,而且为了提高训练样本图像的多样性,同时降低人工标定的工作量,还可以对获取得到的由人工标定的多个训练样本图像进行数据增强,从而得到最终的训练样本图像集合。
其中,可以通过任何可用方式对人工标定的训练样本图像进行数据增强,对此本公开实施例不加以限定。例如,可以通过几何变换(例如,翻转(Flipping)、平移、旋转、缩放,等)、加噪、生成对抗网络、随机调整亮度和/或对比度、修剪、填充、模糊,等方式进行对训练样本图像进行数据增强。
进而则可以根据训练样本图像集合训练分类模型,而且为了保证分类模型中的每个特征提取模型的特征提取效果不完全一致,以提高分类模型提取得到的图像特征的多样性以及全面性,可以设置分类模型中任意两个特征提取模型对应的训练样本图像不完全一致。
参照图2,在本公开实施例中,所述步骤S11进一步可以包括:将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
参照图2,在本公开实施例中,在所述图像检测模型为两段式faster rcnn模型的情况下,所述步骤S12进一步可以包括:
步骤S121,将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
步骤S122,从所述特征图中截取的与所述建议检测框对应的特征区域;
步骤S123,将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
以两段式faster rcnn模型为例,此时可以先提取目标图像的特征,得到目标图像的特征图。在得到目标图像的特征图之后,则可以将特征图输入图像检测模型的区域生成网络(Region Proposal Network,RPN),以对所述特征图进行类别回归和检测框回归,得到目标图像的建议检测框。
进而则可以从特征图中截取与各个建议检测框对应的特征区域,然后将特征区域输入池化(roi pooling)层,以对各个特征区域进行类别回归和检测框回归。
其中,区域生成网络可以理解为属于两段式faster rcnn模型中的第一分段模型,池化层可以理解为属于两段式faster rcnn模型中的第二分段模型。
可选地,在本公开实施例中,所述步骤S121,进一步可以包括:
步骤T1,将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
步骤T2,对所述初始检测框进行非最大值抑制,得到所述建议检测框。
另外,在实际应用中,基于RPN进行的类别回归和检测框回归后得到的建议检测框中可能包含一些并不准确的检测框,从而影响图像检测结果准确性。因此,在本公开实施例中,为了进一步提高图像检测结果的准确性,可以对通过区域生成网络进行类别回归和检测框回归后得到的目标图像的初始检测框进行非最大值抑制(Non-Maximum Suppression,NMS),进而获取得到最终的建议检测框。而且,在本公开实施例中,可以通过任何可用方式进行非最大值抑制,对此本公开实施例不加以限定。
在本公开实施例中,所述分类模型中包含N个级联的特征提取模型,N为正整数。而且,在获取所述目标检测框的最终预测类别时,还可以每次增加一个特征提取模型提取目标检测框的部图像特征,并且基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度,直至当前的目标取模块为第N个特征提取模型,或者当前的信度不满足第二阈值条件。从而可以进一步提高图像检测结果的准确性。
而且,在本公开实施例中,还可以获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。从而提高分类模型的准确性。
另外,在本公开实施例中,还可以将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图,以寻求检测速度和检测精度的平衡。
进一步地,在本公开实施例中,还可以将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;从所述特征图中截取的与所述建议检测框对应的特征区域;将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。并且,将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;对所述初始检测框进行非最大值抑制,得到所述建议检测框。可以进一步提高图像检测模型输出结果的准确性,在降低分类模型工作量的同时可以提高图像检测结果的准确性。
图3是根据一示例性实施例示出的一种图像检测装置框图。参照图3,该装置包括特征图获取模块21,第一图像检测模块22,目标检测框获取模块23和第二图像检测模块24。
特征图获取模块21,被配置为执行获取目标图像的特征图。
第一图像检测模块22,被配置为执行根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度。
目标检测框获取模块23,被配置执行响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框。
第二图像检测模块24,被配置为执行通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
在本公开实施例中,通过获取目标图像的特征图;根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。从而取得了提高图像检测结果准确性以及图像检测方案适用性的有益效果。
参照图4,在本公开实施例中,所述分类模型中包含N个级联的特征提取模型,N为正整数,所述第二图像检测模块24,进一步可以包括:
第一图像特征提取子模块241,被配置为执行按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
检测框分类子模块242,被配置为执行基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
第一图像特征提取子模块243,被配置为执行响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入检测框分类子模块242,直至所述目标特征提取模块为第N个特征提取模型;
最终预测类别确认子模块244,被配置为执行响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
参照图4,在本公开实施例中,所述图像检测装置还可以包括:
训练样本图像获取模块25,被配置执行获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合。
分类模型训练模块26,被配置为执行根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
可选地,在本公开实施例中,所述特征图获取模块,还可以用于将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
参照图4,在本公开实施例中,在所述图像检测模型为两段式faster rcnn模型的情况下,所述第一图像检测模块22,进一步可以包括:
建议检测框获取子模块221,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
特征区域截图子模块222,被配置为执行从所述特征图中截取的与所述建议检测框对应的特征区域;
检测结果获取子模块223,被配置为执行将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
可选地,在本公开实施例中,所述建议检测框获取子模块,进一步可以包括:
初始检测框获取单元,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
建议检测框获取单元,被配置为执行对所述初始检测框进行非最大值抑制,得到所述建议检测框。
在本公开实施例中,所述分类模型中包含N个级联的特征提取模型,N为正整数。而且,在获取所述目标检测框的最终预测类别时,还可以每次增加一个特征提取模型提取目标检测框的部图像特征,并且基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度,直至当前的目标取模块为第N个特征提取模型,或者当前的信度不满足第二阈值条件。从而可以进一步提高图像检测结果的准确性。
而且,在本公开实施例中,还可以获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。从而提高分类模型的准确性。
另外,在本公开实施例中,还可以将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图,以寻求检测速度和检测精度的平衡。
进一步地,在本公开实施例中,还可以将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;从所述特征图中截取的与所述建议检测框对应的特征区域;将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。并且,将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;对所述初始检测框进行非最大值抑制,得到所述建议检测框。可以进一步提高图像检测模型输出结果的准确性,在降低分类模型工作量的同时可以提高图像检测结果的准确性。
关于上述实施例中的装置,其中各个模块执行操作的具体方式已经在有关该方法的实施例中进行了详细描述,此处将不做详细阐述说明。
图5是根据一示例性实施例示出的一种用于图像检测的装置300的框图。例如,装置300可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置300可以包括以下一个或多个组件:处理组件302,存储器304,电力组件306,多媒体组件308,音频组件310,输入/输出(I/O)的接口312,传感器组件314,以及通信组件316。
处理组件302通常控制装置300的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件302可以包括一个或多个处理器320来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件302可以包括一个或多个模块,便于处理组件302和其他组件之间的交互。例如,处理组件302可以包括多媒体模块,以方便多媒体组件308和处理组件302之间的交互。
存储器304被配置为存储各种类型的数据以支持在设备300的操作。这些数据的示例包括用于在装置300上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器304可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件306为装置300的各种组件提供电力。电源组件306可以包括电源管理***,一个或多个电源,及其他与为装置300生成、管理和分配电力相关联的组件。
多媒体组件308包括在所述装置300和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件308包括一个前置摄像头和/或后置摄像头。当设备300处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件310被配置为输出和/或输入音频信号。例如,音频组件310包括一个麦克风(MIC),当装置300处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器304或经由通信组件316发送。在一些实施例中,音频组件310还包括一个扬声器,用于输出音频信号。
I/O接口312为处理组件302和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件314包括一个或多个传感器,用于为装置300提供各个方面的状态评估。例如,传感器组件314可以检测到设备300的打开/关闭状态,组件的相对定位,例如所述组件为装置300的显示器和小键盘,传感器组件314还可以检测装置300或装置300一个组件的位置改变,用户与装置300接触的存在或不存在,装置300方位或加速/减速和装置300的温度变化。传感器组件314可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件314还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件314还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件316被配置为便于装置300和其他设备之间有线或无线方式的通信。装置300可以接入基于通信标准的无线网络,如WiFi,运营商网络(如2G、3G、4G或5G),或它们的组合。在一个示例性实施例中,通信组件316经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件316还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置300可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的存储介质,例如包括指令的存储器304,上述指令可由装置300的处理器320执行以完成上述方法。可选地,存储介质可以是非临时性计算机可读存储介质,例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
图6是根据一示例性实施例示出的一种用于图像检测的装置400的框图。例如,装置400可以被提供为一服务器。参照图6,装置400包括处理组件422,其进一步包括一个或多个处理器,以及由存储器432所代表的存储器资源,用于存储可由处理组件422的执行的指令,例如应用程序。存储器432中存储的应用程序可以包括一个或一个以上的每一个对应于一组指令的模块。此外,处理组件422被配置为执行指令,以执行上述方法……
装置400还可以包括一个电源组件426被配置为执行装置400的电源管理,一个有线或无线网络接口450被配置为将装置400连接到网络,和一个输入输出(I/O)接口458。装置400可以操作基于存储在存储器432的操作***,例如Windows ServerTM,Mac OS XTM,UnixTM,LinuxTM,FreeBSDTM,等等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本公开旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
本公开公开了B1.一种图像检测方法,包括:
获取目标图像的特征图;
根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
B2.如B1所述的方法,所述分类模型中包含N个级联的特征提取模型,N为正整数,所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤,包括:
A1,按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
A2,基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
A3,响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入A2,直至所述目标特征提取模块为第N个特征提取模型;
A4,响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
B3.如B2所述的方法,在所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤之前,还包括:
获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
B4.如B1所述的方法,所述获取目标图像的特征图的步骤,包括:
将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
B5.如B1所述的方法,在所述图像检测模型为两段式faster rcnn模型的情况下,所述根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
从所述特征图中截取的与所述建议检测框对应的特征区域;
将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
B6.如B5所述的方法,所述将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
对所述初始检测框进行非最大值抑制,得到所述建议检测框。
本公开还公开了C7.一种图像检测装置,包括:
特征图获取模块,被配置为执行获取目标图像的特征图;
第一图像检测模块,被配置为执行根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
目标检测框获取模块,被配置执行响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
第二图像检测模块,被配置为执行通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联。
C8.如C7所述的装置,所述分类模型中包含N个级联的特征提取模型,N为正整数,所述第二图像检测模块,包括:
第一图像特征提取子模块,被配置为执行按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
检测框分类子模块,被配置为执行基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
第一图像特征提取子模块,被配置为执行响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入检测框分类子模块,直至所述目标特征提取模块为第N个特征提取模型;
最终预测类别确认子模块,被配置为执行响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
C9.如C8所述的装置,所述装置还包括:
训练样本图像获取模块,被配置执行获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
分类模型训练模块,被配置为执行根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
C10.如C7所述的装置,所述特征图获取模块,还用于将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
C11.如C7所述的装置,在所述图像检测模型为两段式faster rcnn模型的情况下,所述第一图像检测模块,包括:
建议检测框获取子模块,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
特征区域截图子模块,被配置为执行从所述特征图中截取的与所述建议检测框对应的特征区域;
检测结果获取子模块,被配置为执行将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
C12.如C11所述的装置,所述建议检测框获取子模块,包括:
初始检测框获取单元,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
建议检测框获取单元,被配置为执行对所述初始检测框进行非最大值抑制,得到所述建议检测框。
本公开还公开了D13.一种图像检测装置,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如B1至B6中任一项所述的图像检测方法。
本公开还公开了E14.一种存储介质,当所述存储介质中的指令由图像检测装置的处理器执行时,使得图像检测装置能够执行如B1至B6中任一项所述的图像检测方法。
Claims (12)
1.一种图像检测方法,其特征在于,包括:
获取目标图像的特征图;
根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联;所述分类模型中包含N个级联的特征提取模型,N为正整数;
所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤,包括:
A1,按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
A2,基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
A3,响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入A2,直至所述目标特征提取模块为第N个特征提取模型;
A4,响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
2.根据权利要求1所述的方法,其特征在于,在所述通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别的步骤之前,还包括:
获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
3.根据权利要求1所述的方法,其特征在于,所述获取目标图像的特征图的步骤,包括:
将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
4.根据权利要求1所述的方法,其特征在于,在所述图像检测模型为两段式fasterrcnn模型的情况下,所述根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
从所述特征图中截取与所述建议检测框对应的特征区域;
将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
5.根据权利要求4所述的方法,其特征在于,所述将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框的步骤,包括:
将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
对所述初始检测框进行非最大值抑制,得到所述建议检测框。
6.一种图像检测装置,其特征在于,包括:
特征图获取模块,被配置为执行获取目标图像的特征图;
第一图像检测模块,被配置为执行根据所述特征图,通过图像检测模型,获取所述目标图像的第一检测结果,所述第一检测结果包括所述目标图像中包含的检测框、所述检测框的第一预测类别、所述第一预测类别的置信度;
目标检测框获取模块,被配置执行响应于所述第一预测类别的置信度满足第一阈值条件,获取所述第一预测类别对应的目标检测框;
第二图像检测模块,被配置为执行通过预设的分类模型,提取所述目标检测框的图像特征,并基于所述图像特征获取所述目标检测框的最终预测类别;
其中,所述分类模型独立于所述图像检测模型,且与所述图像检测模型级联,所述分类模型中包含N个级联的特征提取模型,N为正整数;
所述第二图像检测模块,包括:
第一图像特征提取子模块,被配置为执行按照各个特征提取模型的级联顺序,以第一个特征提取模型为目标特征提取模块提取所述目标检测框的图像特征;
检测框分类子模块,被配置为执行基于当前提取到的所述目标检测框的全部图像特征获取所述目标检测框的当前预测类别,以及所述当前预测类别的第一置信度;
第一图像特征提取子模块,被配置为执行响应于所述第一置信度满足第二阈值条件,以所述目标特征提取模块的后一个特征提取模型作为目标特征提取模型,并通过所述目标特征提取模型提取所述目标检测框的图像特征,然后进入检测框分类子模块,直至所述目标特征提取模块为第N个特征提取模型;
最终预测类别确认子模块,被配置为执行响应于所述第一置信度不满足第二阈值条件,以所述当前预测类别作为所述目标检测框的最终预测类别。
7.根据权利要求6所述的装置,其特征在于,所述装置还包括:
训练样本图像获取模块,被配置执行获取人工标定的多个训练样本图像,并对所述训练样本图像进行数据增强,得到训练样本图像集合;
分类模型训练模块,被配置为执行根据所述训练样本图像集合训练所述分类模型,且任意两个所述特征提取模型对应的训练样本图像不完全一致。
8.根据权利要求6所述的装置,其特征在于,所述特征图获取模块,还用于将所述目标图像缩放为预设尺寸的第一图像,并通过预设的特征提取网络获取所述第一图像的特征图。
9.根据权利要求6所述的装置,其特征在于,在所述图像检测模型为两段式fasterrcnn模型的情况下,所述第一图像检测模块,包括:
建议检测框获取子模块,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的建议检测框;
特征区域截图子模块,被配置为执行从所述特征图中截取与所述建议检测框对应的特征区域;
检测结果获取子模块,被配置为执行将所述特征区域输入所述图像检测模型的池化层,以对所述特征区域进行类别回归和检测框回归,得到所述目标图像的第一检测结果。
10.根据权利要求9所述的装置,其特征在于,所述建议检测框获取子模块,包括:
初始检测框获取单元,被配置为执行将所述特征图输入所述图像检测模型的区域生成网络,以对所述特征图进行类别回归和检测框回归,得到所述目标图像的初始检测框;
建议检测框获取单元,被配置为执行对所述初始检测框进行非最大值抑制,得到所述建议检测框。
11.一种图像检测装置,其特征在于,包括:
处理器;
用于存储所述处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述指令,以实现如权利要求1至5中任一项所述的图像检测方法。
12.一种存储介质,当所述存储介质中的指令由图像检测装置的处理器执行时,使得图像检测装置能够执行如权利要求1至5中任一项所述的图像检测方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910741273.4A CN110619350B (zh) | 2019-08-12 | 2019-08-12 | 图像检测方法、装置及存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910741273.4A CN110619350B (zh) | 2019-08-12 | 2019-08-12 | 图像检测方法、装置及存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN110619350A CN110619350A (zh) | 2019-12-27 |
CN110619350B true CN110619350B (zh) | 2021-06-18 |
Family
ID=68921797
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910741273.4A Active CN110619350B (zh) | 2019-08-12 | 2019-08-12 | 图像检测方法、装置及存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN110619350B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111222558B (zh) * | 2019-12-31 | 2024-01-30 | 富联裕展科技(河南)有限公司 | 图像处理方法及存储介质 |
CN111368636B (zh) * | 2020-02-07 | 2024-02-09 | 深圳奇迹智慧网络有限公司 | 目标分类方法、装置、计算机设备和存储介质 |
CN111680753A (zh) * | 2020-06-10 | 2020-09-18 | 创新奇智(上海)科技有限公司 | 一种数据标注方法、装置、电子设备及存储介质 |
CN112434178B (zh) * | 2020-11-23 | 2024-07-12 | 北京达佳互联信息技术有限公司 | 图像分类方法、装置、电子设备和存储介质 |
CN112561865B (zh) * | 2020-12-04 | 2024-03-12 | 深圳格瑞健康科技有限公司 | 恒磨牙位置的检测模型训练方法、***和存储介质 |
CN113743404B (zh) * | 2021-09-06 | 2023-06-30 | 中国计量大学 | 一种智能垃圾收运车垃圾图像分类方法 |
CN114419522A (zh) * | 2022-03-29 | 2022-04-29 | 以萨技术股份有限公司 | 一种目标对象结构化解析方法、装置及设备 |
CN115775341B (zh) * | 2023-02-13 | 2023-05-09 | 广州海昇计算机科技有限公司 | 一种实验设备状态检测方法及*** |
Family Cites Families (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106355188B (zh) * | 2015-07-13 | 2020-01-21 | 阿里巴巴集团控股有限公司 | 图像检测方法及装置 |
US9881234B2 (en) * | 2015-11-25 | 2018-01-30 | Baidu Usa Llc. | Systems and methods for end-to-end object detection |
CN106557778B (zh) * | 2016-06-17 | 2020-02-07 | 北京市商汤科技开发有限公司 | 通用物体检测方法和装置、数据处理装置和终端设备 |
CN107368845B (zh) * | 2017-06-15 | 2020-09-22 | 华南理工大学 | 一种基于优化候选区域的Faster R-CNN目标检测方法 |
US20190130191A1 (en) * | 2017-10-30 | 2019-05-02 | Qualcomm Incorporated | Bounding box smoothing for object tracking in a video analytics system |
CN108108669A (zh) * | 2017-12-01 | 2018-06-01 | 中国科学院重庆绿色智能技术研究院 | 一种基于显著子区域的面部特征解析方法 |
CN107844785B (zh) * | 2017-12-08 | 2019-09-24 | 浙江捷尚视觉科技股份有限公司 | 一种基于尺度估计的人脸检测方法 |
CN107992841A (zh) * | 2017-12-13 | 2018-05-04 | 北京小米移动软件有限公司 | 识别图像中物体的方法及装置、电子设备、可读存储介质 |
CN109214389B (zh) * | 2018-09-21 | 2021-09-28 | 上海小萌科技有限公司 | 一种目标识别方法、计算机装置及可读存储介质 |
CN109886286B (zh) * | 2019-01-03 | 2021-07-23 | 武汉精测电子集团股份有限公司 | 基于级联检测器的目标检测方法、目标检测模型及*** |
-
2019
- 2019-08-12 CN CN201910741273.4A patent/CN110619350B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN110619350A (zh) | 2019-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN110619350B (zh) | 图像检测方法、装置及存储介质 | |
CN110443280B (zh) | 图像检测模型的训练方法、装置及存储介质 | |
CN109829501B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN111310616B (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN106651955B (zh) | 图片中目标物的定位方法及装置 | |
CN106557768B (zh) | 对图片中的文字进行识别的方法及装置 | |
CN110782468B (zh) | 图像分割模型的训练方法及装置及图像分割方法及装置 | |
RU2577188C1 (ru) | Способ, аппарат и устройство для сегментации изображения | |
CN108256555B (zh) | 图像内容识别方法、装置及终端 | |
US10534972B2 (en) | Image processing method, device and medium | |
CN109446994B (zh) | 手势关键点检测方法、装置、电子设备及存储介质 | |
US10007841B2 (en) | Human face recognition method, apparatus and terminal | |
CN107944447B (zh) | 图像分类方法及装置 | |
CN106228556B (zh) | 图像质量分析方法和装置 | |
CN107563994B (zh) | 图像的显著性检测方法及装置 | |
CN108062547B (zh) | 文字检测方法及装置 | |
CN107784279B (zh) | 目标跟踪方法及装置 | |
CN107464253B (zh) | 眉毛定位方法及装置 | |
CN109360197B (zh) | 图像的处理方法、装置、电子设备及存储介质 | |
CN109819288B (zh) | 广告投放视频的确定方法、装置、电子设备及存储介质 | |
CN109509195B (zh) | 前景处理方法、装置、电子设备及存储介质 | |
CN109784164B (zh) | 前景识别方法、装置、电子设备及存储介质 | |
CN108921178B (zh) | 获取图像模糊程度分类的方法、装置、电子设备 | |
CN108717542B (zh) | 识别文字区域的方法、装置及计算机可读存储介质 | |
CN109034150B (zh) | 图像处理方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |