CN112733886A - 样本图像的处理方法、装置、设备及存储介质 - Google Patents
样本图像的处理方法、装置、设备及存储介质 Download PDFInfo
- Publication number
- CN112733886A CN112733886A CN202011543738.4A CN202011543738A CN112733886A CN 112733886 A CN112733886 A CN 112733886A CN 202011543738 A CN202011543738 A CN 202011543738A CN 112733886 A CN112733886 A CN 112733886A
- Authority
- CN
- China
- Prior art keywords
- target
- image
- enhanced
- feature
- target image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title abstract description 10
- 238000004364 calculation method Methods 0.000 claims abstract description 64
- 238000012545 processing Methods 0.000 claims abstract description 58
- 238000013528 artificial neural network Methods 0.000 claims abstract description 30
- 238000000034 method Methods 0.000 claims description 56
- 238000002372 labelling Methods 0.000 claims description 30
- 230000015654 memory Effects 0.000 claims description 16
- 238000004590 computer program Methods 0.000 claims description 11
- 238000001514 detection method Methods 0.000 abstract description 22
- 230000000694 effects Effects 0.000 abstract description 11
- 238000010586 diagram Methods 0.000 description 23
- 230000008569 process Effects 0.000 description 17
- 230000000875 corresponding effect Effects 0.000 description 11
- 230000004927 fusion Effects 0.000 description 8
- 239000011159 matrix material Substances 0.000 description 7
- 230000006870 function Effects 0.000 description 6
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 5
- 238000012549 training Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000006872 improvement Effects 0.000 description 3
- 230000007246 mechanism Effects 0.000 description 3
- 238000012986 modification Methods 0.000 description 3
- 230000004048 modification Effects 0.000 description 3
- 238000001914 filtration Methods 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 238000006467 substitution reaction Methods 0.000 description 2
- 238000012952 Resampling Methods 0.000 description 1
- 238000007792 addition Methods 0.000 description 1
- 230000003042 antagnostic effect Effects 0.000 description 1
- 230000003416 augmentation Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000012512 characterization method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000002860 competitive effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 238000013434 data augmentation Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000002708 enhancing effect Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000005065 mining Methods 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000013589 supplement Substances 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Computing Systems (AREA)
- Molecular Biology (AREA)
- General Health & Medical Sciences (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Analysis (AREA)
Abstract
本发明实施例公开了一种样本图像的处理方法、装置、设备及存储介质。首先获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；然后使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；最后将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。本发明实施例解决了现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题，增强了样本图像中包括的目标图像的特征，使得后续检测模型可以准确检测出目标图像。
Description
技术领域
本发明涉及图像处理领域，尤其涉及一种样本图像的处理方法、装置、设备及存储介质。
背景技术
目前，对于自动驾驶车辆安全而言，为了获取高清图像中更全面的特征信息，从高清图像中检测出目标图像是相当重要的。
为了检测出高清图像中的目标图像，目前通常采用图像增强方法。
但是在目前的图像增强方法中，通过使用困难负样本作为补偿进行正例样本的补充，仅使用原有数据集，对于小的目标图像没有明显的提升效果。
此外，还通过将不同尺度的特征融合，在扩大感受野的同时，融合多个尺度的特征，以对小的目标图像进行增强。因为没有从增强数据样本集本身考虑解决问题，所以提升效果有限。
因此，在现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题。
发明内容
本发明实施例提供了一种样本图像的处理方法、装置、设备及存储介质，解决了现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题，增强了样本图像中包括的目标图像的特征，使得后续检测模型可以准确检测出目标图像。
为了解决上述技术问题，本发明：
第一方面，提供了一种样本图像的处理方法，该方法包括：
获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；
使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；
将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。
在第一方面的一些实现方式中，使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集，包括：
使用通道特征计算模块对每个第一目标图像的每个通道特征进行计算，得到每个第一目标图像的通道权重；
使用空间特征计算模块对每个第一目标图像的每个像素特征进行计算，得到每个第一目标图像的像素权重；
根据每个第一目标图像以及与第一目标图像对应的通道权重和像素权重确定增强后的目标图像集。
在第一方面的一些实现方式中，获取样本图像的多个第一目标框，包括：
获取样本图像的多个标注框，标注框包括标注框的类别信息；
根据多个标注框的类别信息确定多个第一目标框。
在第一方面的一些实现方式中，将特征增强后的目标图像集添加至样本图像中，得到增强后的图像，包括：
获取多个标注框在样本图像中的第一区域位置；
将特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的样本图像。
在第一方面的一些实现方式中，该方法还包括：
确定类别信息对应的标注框的数量少于阈值的至少一个标注框为第二目标框，第二目标框包括第二目标图像；
将特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像，包括：
将第二目标框包括的第二目标图像和特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
在第一方面的一些实现方式中，将第二目标框包括的第二目标图像和特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像，包括：
将第二目标框包括的第二目标图像和特征增强后的目标图像集进行缩放、角度旋转中的至少一种处理；
将经过处理的目标图像集和第二目标图像添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
在第一方面的一些实现方式中，第一目标框的数量占标注框的总数量的第一比值与标注框中除第一目标框和第二目标框之外的标注框的数量占总数量的第二比值满足预设条件。
第二方面，提供了一种样本图像的处理装置，该装置包括：
获取模块，用于获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；
处理模块，用于使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；
处理模块，还用于将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。
在第二方面的一些实现方式中，处理模块，还用于使用通道特征计算模块对每个第一目标图像的每个通道特征进行计算，得到每个第一目标图像的通道权重；使用空间特征计算模块对每个第一目标图像的每个像素特征进行计算，得到每个第一目标图像的像素权重；根据每个第一目标图像以及与第一目标图像对应的通道权重和像素权重确定增强后的目标图像集。
在第二方面的一些实现方式中，获取模块，还用于获取样本图像的多个标注框，标注框包括标注框的类别信息；根据多个标注框的类别信息确定多个第一目标框。
在第二方面的一些实现方式中，处理模块，还用于获取多个标注框在样本图像中的第一区域位置；将特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的样本图像。
在第二方面的一些实现方式中，处理模块，还用于确定类别信息对应的标注框的数量少于阈值的至少一个标注框为第二目标框，第二目标框包括第二目标图像；将第二目标框包括的第二目标图像和特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
在第二方面的一些实现方式中，处理模块，还用于将第二目标框包括的第二目标图像和特征增强后的目标图像集进行缩放、角度旋转中的至少一种处理；将经过处理的目标图像集和第二目标图像添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
在第二方面的一些实现方式中，第一目标框的数量占标注框的总数量的第一比值与标注框中除第一目标框和第二目标框之外的标注框的数量占总数量的第二比值满足预设条件。
第三方面，提供了一种电子设备，该设备包括：处理器以及存储有计算机程序指令的存储器；
处理器执行计算机程序指令时实现第一方面，以及第一方面的一些实现方式中的样本图像的处理方法。
第四方面，提供了一种计算机存储介质，其特征在于，计算机存储介质上存储有计算机程序指令，计算机程序指令被处理器执行时实现第一方面，以及第一方面的一些实现方式中的样本图像的处理方法。
本发明实施例提供了一种样本图像的处理方法、装置、设备及存储介质。通过首先获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；然后使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；最后将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。因为预设的神经网络中的通道特征计算模块和空间特征计算模块，可以对第一目标图像分别进行计算，得到特征增强后的目标图像集，进而得到增强后的图像，所以解决了现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题，增强了样本图像中包括的目标图像的特征，使得后续检测模型可以准确检测出目标图像。
附图说明
为了更清楚地说明本发明实施例的技术方案，下面将对本发明实施例中所需要使用的附图作简单地介绍，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的一种样本图像的处理方法的流程示意图；
图2是本发明实施例提供的一种预设的神经网络对一个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像的过程示意图；
图3是本发明实施例提供的一种特征融合记忆模块的内部结构示意图；
图4是本发明实施例提供的一种通道和空间注意力单元残差块的内部结构示意图；
图5是本发明实施例提供的一种第一目标图像的矩阵特征图；
图6是本发明实施例提供的一种通道特征矩阵；
图7是本发明实施例提供的一种空间特征矩阵；
图8是本发明实施例提供的一种样本图像的处理装置的结构示意图；
图9是本发明实施例提供的一种计算设备的结构图。
具体实施方式
下面将详细描述本发明的各个方面的特征和示例性实施例，为了使本发明的目的、技术方案及优点更加清楚明白，以下结合附图及实施例，对本发明进行进一步详细描述。应理解，此处所描述的具体实施例仅被配置为解释本发明，并不被配置为限定本发明。对于本领域技术人员来说，本发明可以在不需要这些具体细节中的一些细节的情况下实施。下面对实施例的描述仅仅是为了通过示出本发明的示例来提供对本发明更好的理解。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
对于自动驾驶车辆安全，从高清图像中检测出小目标、远距离目标、稀有目标相当重要。而受制于神经网络结构、机器性能、样本采集多样性等因素，使得代入神经网络后的某些样本目标大小初始值可能只有几个像素甚至一个像素，同时，也存在某些样本目标数目过少，从而正负例样本不均衡导致训练欠拟合等问题。因此，图像中关于小目标和稀有目标相关数据增广的预处理就显得尤为重要。
在自动驾驶视觉感知领域，小目标检测与正负例样本不均衡问题一直都是研究者研究的热点。目前，一般主要有以下几个处理角度和方法：
一、困难负样本挖掘。由于图片样本中的ground truth boxes比较少，所以导致正样本比较少，出现负样本数目远大于正样本数目的情况，为了提高分类能力，避免神经网络的预测值少数服从多数而向负样本靠拢，取正负样本数大约为1:3。由于正样本少，并且假阳性负样本与正样本间相似度比较高，所以优先选择负样本中容易被分成正样本的困难样本进行补充重采样。从而达到缓解正负例样本不均衡的目的。
二、基于小目标与稀有目标的数据增广，将小目标和稀有目标裁剪后随机粘贴到原图中，从而达到增加正样本，达到缓解正负例样本不均衡的目的。
三、图像金字塔与特征融合。图像大小缩放灌入神经网络训练、多尺度特征训练或者将神经网络的浅层输出特征图与深层的输出特征图进行融合，由于浅层网络所映射的感受野较大，所以融合浅层网络的特征图可以补偿较大感受野的特征，同时，随着网络层次的加深，也缓解了浅层特征信息丢失的问题。
四、使用GAN生成式对抗神经网络提高小目标检测率。生成式对抗网络中，生成器将小物体的低分辨率表示转换成高分辨率的表示，discriminator与generator以竞争的方式分辨特征，使低分辨率小目标更加接近高分辨率的大目标真实样本。GAN挖掘不同尺度物体间的结构关联，提高小物体的特征表示，使之与大物体类似。
但是，上述四种方法都有自己的片面性和局限性。首先，方法一使用困难负样本作为补偿进行正例样本的补充，仅仅使用了原有数据集，对正负例样本不均衡问题有一定的缓解作用，但对于小目标框和稀有目标框仍然没有明显的提升效果。方法二将小目标和稀有目标裁剪后直接随机粘贴到原图中，可能会造成对原有标注目标的遮挡，同时粘贴边缘不够平滑可能导致图像不真实。方法三将不同尺度的特征融合，在扩大感受野的同时，也融合多个尺度的特征，增强了模型对于小目标的检测能力，但没有从增强数据样本集本身考虑解决问题，提升效果有限且对于较小像素的目标框的检测无能为力。方法四通过将小目标框和大目标框灌入GAN神经网络由生成器生成与大目标框相似的分辨率的高分辨率目标框，增加了时间和空间复杂度，在数据集大的情况下效率较低。
综上所述，在现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题。
为了解决目前的技术方案中存在的因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题，本发明实施例提供了一种样本图像的处理方法、装置、设备及存储介质。通过首先获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；然后使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；最后将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。因为预设的神经网络中的通道特征计算模块和空间特征计算模块，可以对第一目标图像分别进行计算，得到特征增强后的目标图像集，进而得到增强后的图像，所以解决了现有的样本图像的处理方案中，存在因为目标图像提升效果较差而导致的后续检测模型无法准确检测出目标图像的问题，增强了样本图像中包括的目标图像的特征，使得后续检测模型可以准确检测出目标图像。
下面结合附图对本发明实施例提供的技术方案进行描述。
图1是本发明实施例提供的一种样本图像的处理方法的流程示意图。该方法的执行主体可以是终端设备。
如图1所示，样本图像的处理方法可以包括：
S101：获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征。
在一个实施例中，获取样本图像的多个第一目标框的具体过程可以为获取样本图像的多个标注框，该标注框包括标注框的类别信息；然后根据多个标注框的类别信息确定多个第一目标框。
第一目标框可以是预先根据终端设备的处理性能和预设神经网络的输入尺寸确定的样本图像的真实框Ground Truth中小于能够处理的最小尺寸的标注框，因此该第一目标框具体可以指小目标框。
在获得多个第一目标框后，便进入对多个第一目标框的处理计算过程，即S102。
S102：使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集。
具体的，在该过程中，首先可以使用通道特征计算模块对每个第一目标图像的每个通道特征进行计算，得到每个第一目标图像的通道权重；之后使用空间特征计算模块对每个第一目标图像的每个像素特征进行计算，得到每个第一目标图像的像素权重；最后根据每个第一目标图像以及与第一目标图像对应的通道权重和像素权重确定增强后的目标图像集。
在一个实施例中，可以以预设的神经网络对一个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像为例进行说明。
图2示出了预设的神经网络对一个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像的过程示意图。
如图2所示，预设的神经网络中的一系列特征融合记忆模块级联在一起形成一个DenseNet来将低分辨率特征转化为高信息量的特征，即将低分辨率的第一目标框包括的第一目标图像，即箭头1所指的汽车图片转化为高信息量的目标图像，即箭头2所指的汽车图片。
箭头1所指的汽车图片首先先经过两层卷积层(conv)的计算，然后再进入多个特征融合记忆模块组成的DenseNet进行计算，最后再经过卷积层和上采样层(upsample)的计算，得到高信息量的目标图像，即箭头2所指的汽车图片。
需要说明的是，预设的神经网络也可以使用基于特征融合与注意力机制的残差模块及其所有变形替代。
图3示出了特征融合记忆模块的内部结构示意图。
如图3所示，在每个特征融合记忆模块内部，集成了多个通道和空间注意力单元残差块以及一个用来保留长期信息的门控融合节点。门控融合节点具体是由concat函数层(连接字符串)和1*1卷积层(conv)组成的。
具体地，通道和空间注意力单元残差块，作用是对通道和空间两个方向的特征进行加权处理，重视更重要的特征，忽略不重要的特征，得以实现将低分辨率特征转化为高信息量的特征。
图4示出了通道和空间注意力单元残差块的内部结构示意图。
如图4所示，通道和空间注意力单元残差块的内部包括通道特征计算模块(CAUnit)，空间特征计算模块(SA Unit)，卷积层(conv)和线性整流函数(Rectified LinearUnit，ReLU)构成。其中，通道特征计算模块(CA Unit)又包括通道注意力机制(channelattention)，空间特征计算模块(SA Unit)又包括空间注意力机制(spatial attention)。
在一个实施例中，通道特征计算模块可以对第一目标图像的每个通道特征进行计算，得到第一目标图像的通道权重。
具体地，如图5所示，可以以第一目标图像为H*W*C的矩阵特征图为例，其中，H为特征图的高，W为特征图的宽，C为特征图的通道数。
通道特征计算模块对第一目标图像进行通道方向上加权，即每个通道学***面维度上权重都是一样的，也就是说通道特征计算模块的处理过程关注图片的不同特征而不关注具体在什么位置，最终得到的通道特征矩阵为1*1*C，如图6所示。
在一个实施例中，空间特征计算模块可以对第一目标图像的每个像素特征进行计算，得到第一目标图像的像素权重。
具体地，还可以以图5所示的矩阵特征图为例，空间特征计算模块对第一目标图像进行空间方向上加权，即H*W尺寸的特征图的每个像素都学习到一个权重，而C个通道的权重都是一样的，也就是说空间特征计算模块的处理过程关注图片的不同区域的特征在什么位置，最终得到的空间特征矩阵为H*W*1，如图7所示。
之后可以对每个第一目标图像使用上述的通道特征计算模块和空间特征计算模块进行上述的计算，然后根据每个第一目标图像以及与每个第一目标图像对应的通道权重和像素权重确定增强后的目标图像集。
此外，还需要说明的是增强后的目标图像集中的每一个像素点的值都是其本身和邻域内的其他未被增强的像素值根据通道权重和像素权重进行加权平均后得到的。
因为通道特征计算模块和空间特征计算模块会整合所有通道图中的有关系的特征，有选择地强调深层与浅层相互关联的通道图，深层语义可以帮助注意单元发现存在于浅层网络中的有用信息，所以使得小目标框的图像特征得到了较好的学习，分辨率得到了较高的提升。
S103：将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。
为了在将增强后的目标图像集往样本图像中添加时，不会与现有的目标发生重叠，可以将该目标图像集添加至样本图像中没有标注框的区域。也就是说，可以获取多个标注框在样本图像中的第一区域位置；然后将特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的样本图像。
此外，在一个实施例中，为了对到样本图像中其他类别的标注框包括的图像也进行增强。可以根据获取的多个标注框的类别信息确定第二目标框，该第二目标框包括第二目标图像。该第二目标框具体是指在标注框中数目少于阈值的标注框，因此该第二目标框具体可以指稀有目标框。然后可以将第二目标框包括的第二目标图像和特征增强后的目标图像集随机进行大小的缩放和角度的旋转等线性变换图像增广处理；将经过处理的目标图像集和第二目标图像添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。所以，在该过程的增强后的图像中，小目标框和稀有目标框所包括的图像都得到了增强。
本发明实施例从样本图像的数据本身出发，对样本图像中的第一目标框进行分辨率增强和粘贴扩充，对样本图像中的第二目标框进行粘贴扩充，解决了小目标框和稀有目标框检测困难的问题。
此外，在一个实施例中，为了保证样本图像中的第一目标框和第二目标框的平衡，即保证正负例样本均衡的问题，第一目标框的数量占标注框的总数量的第一比值与标注框中除第一目标框和第二目标框之外的标注框的数量占总数量的第二比值需要满足预设条件。该预设条件可以指第一比值与第二比值的差值少于阈值。
具体地，为了满足上述的预设条件，可以通过公式(1)来计算样本图像中未满足上述预设条件的第一目标框和第二目标框与满足预设条件时的差值。
其中，G为未满足预设条件的第一目标框或第二目标框与标注框中除第一目标框和第二目标框之外的各类标注框平均数量之间的差值；S+i表示样本图像中未满足预设条件的第一目标框的个数或未满足预设条件的第二目标框的个数；
表示标注框中除第一目标框和第二目标框之外的各类标注框平均数量。
此外，在一个实施例中，为了保证在将经过处理的目标图像集和第二目标图像添加至样本图像中除第一区域位置之外的目标区域位置时，经过处理的目标图像集和第二目标图像的边缘足够平滑，可以对经过处理的目标图像集和第二目标图像的图像边缘进行高斯滤波平滑处理。此外，可以在距离图像边缘设置预设数量个像素的阈值距离，以提升小目标框和稀有目标框的检测精度和最大后验概率点估计(Maximum a posteriori pointestimate，Map)值。可选的，该预设数量可以为5，也可以根据实际情况进行调节，高斯滤波平滑处理也可以用其他相应的模糊滤波进行代替。
还需要说明的是，本发明实施例可以适用于任何2D、3D场景下的目标框的检测拟合。如自动驾驶、图像目标识别，工业缺陷检测，人脸识别、安防监控、智慧交通等场景。
本发明实施例中提供的样本图像的处理方法，通过首先获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；然后使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；最后将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。因为预设的神经网络中的通道特征计算模块和空间特征计算模块，可以对第一目标图像分别进行计算，得到特征增强后的目标图像集，进而得到增强后的图像。本发明实施例从样本图像的数据本身出发，对样本图像的数据进行基于通道特征计算模块和空间特征计算模块的高分辨率增强训练和平滑粘贴扩充，提升了小目标的分辨率以及稀有目标样本空间，减少了时间及空间复杂度，避免了重复冗余、无目的性的过采样，保证了样本数据的多样性和有效性，解决了小目标框稀有目标框检测困难和正负例样本不均衡的问题，使得后续检测模型可以准确检测出目标图像。
与图1中样本图像的处理方法的流程示意图相对应，本发明实施例还提供了一种样本图像的处理装置的结构示意图。
图8是本发明实施例提供的一种样本图像的处理装置的结构示意图。如图8所示，样本图像的处理装置可以包括：
获取模块801，可以用于获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征。
处理模块802，可以用于使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集。
处理模块802，还可以用于将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。
处理模块802，还可以用于使用通道特征计算模块对每个第一目标图像的每个通道特征进行计算，得到每个第一目标图像的通道权重；使用空间特征计算模块对每个第一目标图像的每个像素特征进行计算，得到每个第一目标图像的像素权重；根据每个第一目标图像以及与第一目标图像对应的通道权重和像素权重确定增强后的目标图像集。
获取模块801，还可以用于获取样本图像的多个标注框，标注框包括标注框的类别信息；根据多个标注框的类别信息确定多个第一目标框。
处理模块802，还可以用于获取多个标注框在样本图像中的第一区域位置；将特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的样本图像。
处理模块802，还可以用于根据多个标注框的类别信息确定第二目标框，第二目标框包括第二目标图像；将第二目标框包括的第二目标图像和特征增强后的目标图像集添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
处理模块802，还可以用于将第二目标框包括的第二目标图像和特征增强后的目标图像集进行缩放、角度旋转中的至少一种处理；将经过处理的目标图像集和第二目标图像添加至样本图像中除第一区域位置之外的目标区域位置，得到增强后的图像。
在一个实施例中，第一目标框的数量占标注框的总数量的第一比值与标注框中除第一目标框和第二目标框之外的标注框的数量占总数量的第二比值满足预设条件。
可以理解的是，图8所示的样本图像的处理装置中的各个模块具有实现图1中各个步骤的功能，并能达到其相应的技术效果，为简洁描述，在此不再赘述。
本发明实施例中提供的样本图像的处理装置，通过首先获取样本图像的多个第一目标框，其中，第一目标框包括第一目标图像，第一目标图像包括通道特征和空间特征；然后使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；最后将特征增强后的目标图像集添加至样本图像中，得到增强后的图像。因为预设的神经网络中的通道特征计算模块和空间特征计算模块，可以对第一目标图像分别进行计算，得到特征增强后的目标图像集，进而得到增强后的图像。本发明实施例从样本图像的数据本身出发，对样本图像的数据进行基于通道特征计算模块和空间特征计算模块的高分辨率增强训练和平滑粘贴扩充，提升了小目标的分辨率以及稀有目标样本空间，减少了时间及空间复杂度，避免了重复冗余、无目的性的过采样，保证了样本数据的多样性和有效性，解决了小目标框稀有目标框检测困难和正负例样本不均衡的问题，使得后续检测模型可以准确检测出目标图像。
图9是本发明实施例提供的一种计算设备的硬件架构的结构图。如图9所示，计算设备900包括输入设备901、输入接口902、中央处理器903、存储器904、输出接口905、以及输出设备906。其中，输入接口902、中央处理器903、存储器904、以及输出接口905通过总线910相互连接，输入设备901和输出设备908分别通过输入接口902和输出接口905与总线910连接，进而与计算设备900的其他组件连接。
具体地，输入设备901接收来自外部的输入信息，并通过输入接口902将输入信息传送到中央处理器903；中央处理器903基于存储器904中存储的计算机可执行指令对输入信息进行处理以生成输出信息，将输出信息临时或者永久地存储在存储器904中，然后通过输出接口905将输出信息传送到输出设备906；输出设备906将输出信息输出到计算设备900的外部供用户使用。
也就是说，图9所示的计算设备也可以被实现为样本图像的处理设备，该样本图像的处理设备可以包括：处理器以及存储有计算机可执行指令的存储器；该处理器在执行计算机可执行指令时可以实现本发明实施例提供的样本图像的处理方法。
本发明实施例还提供一种计算机可读存储介质，该计算机可读存储介质上存储有计算机程序指令；该计算机程序指令被处理器执行时实现本发明实施例提供的样本图像的处理方法。
需要明确的是，本发明并不局限于上文所描述并在图中示出的特定配置和处理。为了简明起见，这里省略了对已知方法的详细描述。在上述实施例中，描述和示出了若干具体的步骤作为示例。但是，本发明的方法过程并不限于所描述和示出的具体步骤，本领域的技术人员可以在领会本发明的精神后，作出各种改变、修改和添加，或者改变步骤之间的顺序。
以上所述的结构框图中所示的功能块可以实现为硬件、软件、固件或者它们的组合。当以硬件方式实现时，其可以例如是电子电路、专用集成电路(Application SpecificIntegrated Circuit，ASIC)、适当的固件、插件、功能卡等等。当以软件方式实现时，本发明的元素是被用于执行所需任务的程序或者代码段。程序或者代码段可以存储在机器可读介质中，或者通过载波中携带的数据信号在传输介质或者通信链路上传送。“机器可读介质”可以包括能够存储或传输信息的任何介质。机器可读介质的例子包括电子电路、半导体存储器设备、只读存储器(Read-Only Memory，ROM)、闪存、可消除的只读存储器(ErasableRead Only Memory，EROM)、软盘、只读光盘(Compact Disc Read-Only Memory，CD-ROM)、光盘、硬盘、光纤介质、射频(Radio Frequency，RF)链路，等等。代码段可以经由诸如因特网、内联网等的计算机网络被下载。
还需要说明的是，本发明中提及的示例性实施例，基于一系列的步骤或者装置描述一些方法或***。但是，本发明不局限于上述步骤的顺序，也就是说，可以按照实施例中提及的顺序执行步骤，也可以不同于实施例中的顺序，或者若干步骤同时执行。
上面参考根据本公开的实施例的方法、装置(***)和计算机程序产品的流程图和/或框图描述了本公开的各方面。应当理解，流程图和/或框图中的每个方框以及流程图和/或框图中各方框的组合可以由计算机程序指令实现。这些计算机程序指令可被提供给通用计算机、专用计算机、或其它可编程数据处理装置的处理器，以产生一种机器，使得经由计算机或其它可编程数据处理装置的处理器执行的这些指令使能对流程图和/或框图的一个或多个方框中指定的功能/动作的实现。这种处理器可以是但不限于是通用处理器、专用处理器、特殊应用处理器或者现场可编程逻辑电路。还可理解，框图和/或流程图中的每个方框以及框图和/或流程图中的方框的组合，也可以由执行指定的功能或动作的专用硬件来实现，或可由专用硬件和计算机指令的组合来实现。
以上所述，仅为本发明的具体实施方式，所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，上述描述的***、模块和单元的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。应理解，本发明的保护范围并不局限于此，任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，可轻易想到各种等效的修改或替换，这些修改或替换都应涵盖在本发明的保护范围之内。
Claims (11)
1.一种样本图像的处理方法，其特征在于，所述方法包括：
获取样本图像的多个第一目标框，其中，所述第一目标框包括第一目标图像，所述第一目标图像包括通道特征和空间特征；
使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个所述第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；
将所述特征增强后的目标图像集添加至所述样本图像中，得到增强后的图像。
2.根据权利要求1所述的方法，其特征在于，所述使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对所述每个所述第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集，包括：
使用所述通道特征计算模块对每个所述第一目标图像的每个通道特征进行计算，得到每个所述第一目标图像的通道权重；
使用所述空间特征计算模块对每个所述第一目标图像的每个像素特征进行计算，得到每个所述第一目标图像的像素权重；
根据每个所述第一目标图像以及与所述第一目标图像对应的所述通道权重和所述像素权重确定增强后的目标图像集。
3.根据权利要求1所述的方法，其特征在于，所述获取样本图像的多个第一目标框，包括：
获取样本图像的多个标注框，所述标注框包括标注框的类别信息；
根据所述多个标注框的类别信息确定所述多个第一目标框。
4.根据权利要求3所述的方法，其特征在于，所述将所述特征增强后的目标图像集添加至所述样本图像中，得到增强后的图像，包括：
获取所述多个标注框在所述样本图像中的第一区域位置；
将所述特征增强后的目标图像集添加至所述样本图像中除所述第一区域位置之外的目标区域位置，得到增强后的样本图像。
5.根据权利要求4所述的方法，其特征在于，所述方法还包括：
确定所述类别信息对应的标注框的数量少于阈值的至少一个标注框为第二目标框，所述第二目标框包括第二目标图像；
所述将所述特征增强后的目标图像集添加至所述样本图像中除所述第一区域位置之外的目标区域位置，得到增强后的图像，包括：
将所述第二目标框包括的第二目标图像和所述特征增强后的目标图像集添加至所述样本图像中除所述第一区域位置之外的目标区域位置，得到增强后的图像。
6.根据权利要求5所述的方法，其特征在于，所述将所述第二目标框包括的第二目标图像和所述特征增强后的目标图像集添加至所述样本图像中除所述第一区域位置之外的目标区域位置，得到增强后的图像，包括：
将所述第二目标框包括的第二目标图像和所述特征增强后的目标图像集进行缩放、角度旋转中的至少一种处理；
将经过处理的目标图像集和第二目标图像添加至所述样本图像中除所述第一区域位置之外的目标区域位置，得到增强后的图像。
7.根据权利要求5所述的方法，其特征在于，所述第一目标框的数量占所述标注框的总数量的第一比值与所述标注框中除所述第一目标框和所述第二目标框之外的标注框的数量占所述总数量的第二比值满足预设条件。
8.一种样本图像的处理装置，其特征在于，所述装置包括：
获取模块，用于获取样本图像的多个第一目标框，其中，所述第一目标框包括第一目标图像，所述第一目标图像包括通道特征和空间特征；
处理模块，用于使用预设的神经网络中包括的通道特征计算模块和空间特征计算模块对每个所述第一目标框包括的第一目标图像进行计算，得到特征增强后的目标图像集；
所述处理模块，还用于将所述特征增强后的目标图像集添加至所述样本图像中，得到增强后的图像。
9.根据权利要求8所述的装置，其特征在于，所述处理模块，还用于使用所述通道特征计算模块对每个所述第一目标图像的每个通道特征进行计算，得到每个所述第一目标图像的通道权重；使用所述空间特征计算模块对每个所述第一目标图像的每个像素特征进行计算，得到每个所述第一目标图像的像素权重；根据每个所述第一目标图像以及与所述第一目标图像对应的所述通道权重和所述像素权重确定增强后的目标图像集。
10.一种电子设备，其特征在于，所述设备包括：处理器以及存储有计算机程序指令的存储器；
所述处理器执行所述计算机程序指令时实现如权利要求1-7任意一项所述的样本图像的处理方法。
11.一种计算机存储介质，其特征在于，所述计算机存储介质上存储有计算机程序指令，所述计算机程序指令被处理器执行时实现如权利要求1-7任意一项所述的样本图像的处理方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011543738.4A CN112733886A (zh) | 2020-12-24 | 2020-12-24 | 样本图像的处理方法、装置、设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202011543738.4A CN112733886A (zh) | 2020-12-24 | 2020-12-24 | 样本图像的处理方法、装置、设备及存储介质 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN112733886A true CN112733886A (zh) | 2021-04-30 |
Family
ID=75604848
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202011543738.4A Pending CN112733886A (zh) | 2020-12-24 | 2020-12-24 | 样本图像的处理方法、装置、设备及存储介质 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN112733886A (zh) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113361588A (zh) * | 2021-06-03 | 2021-09-07 | 北京文安智能技术股份有限公司 | 基于图像数据增强的图像训练集生成方法和模型训练方法 |
| CN113516165A (zh) * | 2021-05-07 | 2021-10-19 | 北京惠朗时代科技有限公司 | 一种基于图像金字塔匹配后验的客户满意度判别方法 |
| CN113887545A (zh) * | 2021-12-07 | 2022-01-04 | 南方医科大学南方医院 | 一种基于目标检测模型的腹腔镜手术器械识别方法及装置 |
| CN114120056A (zh) * | 2021-10-29 | 2022-03-01 | 中国农业大学 | 小目标识别方法、装置、电子设备、介质及产品 |
| WO2023216269A1 (zh) * | 2022-05-13 | 2023-11-16 | 北京小米移动软件有限公司 | 数据增强方法及装置 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109740571A (zh) * | 2019-01-22 | 2019-05-10 | 南京旷云科技有限公司 | 图像采集的方法、图像处理的方法、装置和电子设备 |
| CN110334612A (zh) * | 2019-06-19 | 2019-10-15 | 上海交通大学 | 具有自学习能力的电力巡检图像目标检测方法 |
| CN111178183A (zh) * | 2019-12-16 | 2020-05-19 | 深圳市华尊科技股份有限公司 | 人脸检测方法及相关装置 |
| CN111310764A (zh) * | 2020-01-20 | 2020-06-19 | 上海商汤智能科技有限公司 | 网络训练、图像处理方法及装置、电子设备和存储介质 |
| CN111862097A (zh) * | 2020-09-24 | 2020-10-30 | 常州微亿智造科技有限公司 | 微小缺陷检出率的数据增强方法和装置 |
-
2020
- 2020-12-24 CN CN202011543738.4A patent/CN112733886A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN109740571A (zh) * | 2019-01-22 | 2019-05-10 | 南京旷云科技有限公司 | 图像采集的方法、图像处理的方法、装置和电子设备 |
| CN110334612A (zh) * | 2019-06-19 | 2019-10-15 | 上海交通大学 | 具有自学习能力的电力巡检图像目标检测方法 |
| CN111178183A (zh) * | 2019-12-16 | 2020-05-19 | 深圳市华尊科技股份有限公司 | 人脸检测方法及相关装置 |
| CN111310764A (zh) * | 2020-01-20 | 2020-06-19 | 上海商汤智能科技有限公司 | 网络训练、图像处理方法及装置、电子设备和存储介质 |
| CN111862097A (zh) * | 2020-09-24 | 2020-10-30 | 常州微亿智造科技有限公司 | 微小缺陷检出率的数据增强方法和装置 |
Non-Patent Citations (1)
| Title |
|---|
| HU YANTING 等: "Channel-Wise and Spatial Feature Modulation", 《IEEE TRANSACTIONS ON CIRCUITS AND SYSTEMS FOR VIDEO TECHNOLOGY》, 7 May 2019 (2019-05-07), pages 3 - 7, XP011817229, DOI: 10.1109/TCSVT.2019.2915238 * |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113516165A (zh) * | 2021-05-07 | 2021-10-19 | 北京惠朗时代科技有限公司 | 一种基于图像金字塔匹配后验的客户满意度判别方法 |
| CN113516165B (zh) * | 2021-05-07 | 2023-10-10 | 北京惠朗时代科技有限公司 | 一种基于图像金字塔匹配后验的客户满意度判别方法 |
| CN113361588A (zh) * | 2021-06-03 | 2021-09-07 | 北京文安智能技术股份有限公司 | 基于图像数据增强的图像训练集生成方法和模型训练方法 |
| CN114120056A (zh) * | 2021-10-29 | 2022-03-01 | 中国农业大学 | 小目标识别方法、装置、电子设备、介质及产品 |
| CN113887545A (zh) * | 2021-12-07 | 2022-01-04 | 南方医科大学南方医院 | 一种基于目标检测模型的腹腔镜手术器械识别方法及装置 |
| CN113887545B (zh) * | 2021-12-07 | 2022-03-25 | 南方医科大学南方医院 | 一种基于目标检测模型的腹腔镜手术器械识别方法及装置 |
| WO2023216269A1 (zh) * | 2022-05-13 | 2023-11-16 | 北京小米移动软件有限公司 | 数据增强方法及装置 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN112733886A (zh) | 样本图像的处理方法、装置、设备及存储介质 | |
| US11790040B2 (en) | Method for object detection and recognition based on neural network | |
| CN111738110A (zh) | 基于多尺度注意力机制的遥感图像车辆目标检测方法 | |
| CN113378686B (zh) | 一种基于目标中心点估计的两阶段遥感目标检测方法 | |
| CN110675415B (zh) | 一种基于深度学习增强实例分割的道路积水区域检测方法 | |
| CN105046235A (zh) | 车道线的识别建模方法和装置、识别方法和装置 | |
| CN110659550A (zh) | 交通标志牌识别方法、装置、计算机设备和存储介质 | |
| CN113536920B (zh) | 一种半监督三维点云目标检测方法 | |
| CN103679740B (zh) | 一种无人机对地目标roi提取方法 | |
| CN110610130A (zh) | 一种多传感器信息融合的输电线路机器人导航方法及*** | |
| WO2024077935A1 (zh) | 一种基于视觉slam的车辆定位方法及装置 | |
| Bin et al. | A design of parking space detector based on video image | |
| CN113627299A (zh) | 一种基于深度学习的导线漂浮物智能识别方法及装置 | |
| CN116258940A (zh) | 一种多尺度特征及自适应权重的小目标检测方法 | |
| CN115100545A (zh) | 针对低照度下失效卫星小部件的目标检测方法 | |
| CN111814773A (zh) | 一种划线车位识别方法及*** | |
| CN113743163A (zh) | 交通目标识别模型训练方法、交通目标定位方法、装置 | |
| Gopal et al. | Tiny object detection: Comparative study using single stage CNN object detectors | |
| CN117351374B (zh) | 一种遥感图像显著性目标检测方法、***、设备及介质 | |
| CN112446292B (zh) | 一种2d图像显著目标检测方法及*** | |
| CN117423077A (zh) | Bev感知模型、构建方法、装置、设备、车辆及存储介质 | |
| CN116797789A (zh) | 一种基于注意力架构的场景语义分割方法 | |
| CN113284221B (zh) | 一种目标物检测方法、装置及电子设备 | |
| CN114639084A (zh) | 一种基于ssd改进算法的路侧端车辆感知方法 | |
| CN114417946A (zh) | 目标检测方法及装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| RJ01 | Rejection of invention patent application after publication |
Application publication date: 20210430 |
|
| RJ01 | Rejection of invention patent application after publication |