CN115731112A - 图像降噪方法、装置、终端设备和可读存储介质 - Google Patents
图像降噪方法、装置、终端设备和可读存储介质 Download PDFInfo
- Publication number
- CN115731112A CN115731112A CN202111006363.2A CN202111006363A CN115731112A CN 115731112 A CN115731112 A CN 115731112A CN 202111006363 A CN202111006363 A CN 202111006363A CN 115731112 A CN115731112 A CN 115731112A
- Authority
- CN
- China
- Prior art keywords
- image
- component
- noise reduction
- images
- noise
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 230000009467 reduction Effects 0.000 title claims abstract description 156
- 238000000034 method Methods 0.000 title claims abstract description 70
- 238000012545 processing Methods 0.000 claims abstract description 38
- 230000006870 function Effects 0.000 claims description 56
- 238000012549 training Methods 0.000 claims description 14
- 238000005070 sampling Methods 0.000 claims description 13
- 230000008569 process Effects 0.000 claims description 12
- 238000004590 computer program Methods 0.000 claims description 10
- 238000007781 pre-processing Methods 0.000 claims description 3
- 239000000126 substance Substances 0.000 claims description 3
- 238000004422 calculation algorithm Methods 0.000 abstract description 10
- 238000011946 reduction process Methods 0.000 abstract description 4
- 230000000694 effects Effects 0.000 description 14
- 238000004364 calculation method Methods 0.000 description 12
- 238000010586 diagram Methods 0.000 description 10
- 238000007796 conventional method Methods 0.000 description 5
- 238000000605 extraction Methods 0.000 description 5
- 238000001914 filtration Methods 0.000 description 4
- 238000012360 testing method Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 3
- 239000002023 wood Substances 0.000 description 3
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 238000009499 grossing Methods 0.000 description 2
- 230000014759 maintenance of location Effects 0.000 description 2
- 238000012800 visualization Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000007774 longterm Effects 0.000 description 1
- 238000013508 migration Methods 0.000 description 1
- 230000005012 migration Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 238000004321 preservation Methods 0.000 description 1
- 238000011084 recovery Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
Abstract
本申请实施例提供一种图像降噪方法、装置、终端设备和可读存储介质,该图像降噪方法包括:对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像;将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。该方法可以较好地处理降噪过程中引起的彩噪及细节信息丢失的问题,有效地解决了现有的YUV图像降噪算法存在的难题。
Description
技术领域
本申请涉及图像处理技术领域,尤其涉及一种图像降噪方法、装置、终端设备和可读存储介质。
背景技术
现有的图像降噪方法可划分为传统方法与基于卷积神经网络(CNN)的方法,其中基于CNN的方法大多关注Raw图或RGB图的处理,少有针对YUV图像的降噪算法。针对YUV图像降噪,传统方法分为空间域和频域两类。尽管经过长久的发展,上述传统的降噪方法已发展到相对成熟的水平,但是对于拍摄场景多样、纹理信息复杂的场景,上述方法仍存在降噪过度,导致图像中的纹理细节丢失等问题。
发明内容
本申请实施例提供一种图像降噪方法、装置、终端设备和可读存储介质,该图像降噪方法可以较好地处理降噪过程中引起的彩噪及细节信息丢失的问题,从而解决现有的YUV图像降噪算法存在的难题。
本申请的实施例提供一种图像降噪方法,包括:
对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;
将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像;
将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
在一些实施例中,所述对目标YUV图像进行分量图像尺寸一致性处理,包括:
获取目标YUV图像的三个分量图像,并对尺寸不一致的所述分量图像进行上采样或降采样处理,以得到尺寸相同的三个分量图像。
在一些实施例中,所述对尺寸不一致的所述分量图像进行上采样或降采样处理,包括:
在U分量图像和V分量图像的初始尺寸相同,且Y分量图像的初始尺寸大于U分量图像和V分量图像的初始尺寸的情况下,对所述Y分量图像进行降采样,或者对所述U分量图像和所述V分量图像分别进行上采样。
在一些实施例中,所述降噪网络的预先训练过程,包括:
将获得的YUV图像样本的具有相同尺寸的三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入降噪网络中以输出三个分量噪声图像,所述三个分量噪声图像用于计算得到降噪后的YUV图像;
基于所述降噪后的YUV图像根据所述降噪网络的总损失函数计算总损失值,并在所述总损失值不满足预设条件时,根据所述总损失值调整所述降噪网络中的参数;
对下一YUV图像样本重复执行上述操作,直到计算得到的总损失值满足预设条件时,停止网络参数调整;
其中,所述降噪网络的损失函数包括第一损失函数和第二损失函数,所述降噪后的YUV图像和无噪声真实YUV图像之间的平均绝对值误差作为所述第一损失函数;获取所述降噪后的YUV图像和所述无噪声真实YUV图像各自的高维特征图,所述降噪后的YUV图像和所述无噪声真实YUV图像的所述高维特征图之间的均方误差作为所述第二损失函数。
在一些实施例中,所述降噪网络的预先训练过程,包括:
将获得的YUV图像样本的具有相同尺寸的三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入降噪网络中以输出三个分量噪声图像,所述三个分量噪声图像用于计算得到降噪后的YUV图像;
基于所述降噪后的YUV图像按照所述降噪网络的总损失函数计算总损失值,并在所述总损失值不满足预设条件时,根据所述总损失值调整所述降噪网络中的参数;
对下一YUV图像样本重复执行上述操作,直到计算得到的总损失值满足所述预设条件时,停止网络参数调整;
其中,所述降噪网络的损失函数包括第一损失函数和第二损失函数,所述降噪后的YUV图像和无噪声真实YUV图像之间的平均绝对值误差作为所述第一损失函数;获取所述降噪后的YUV图像和所述无噪声真实YUV图像各自在通道维度上的高维平均特征图,所述降噪后的YUV图像和所述无噪声真实YUV图像的所述高维平均特征图之间的均方误差作为所述第二损失函数。
在一些实施例中,所述降噪后的YUV图像和所述无噪声真实YUV图像的所述高维平均特征图的计算公式如下:
在一些实施例中,所述降噪网络基于UNet网络、Attention Unet网络或RIDNet网络构建得到。
本申请的实施例还提供一种图像降噪装置,包括:
预处理模块,用于对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;
噪声处理模块,用于将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像;
降噪生成模块,用于将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
本申请的实施例还提供一种终端设备,所述终端设备包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于执行所述计算机程序以实施上述的图像降噪方法。
本申请的实施例还提供一种可读存储介质,其存储有计算机程序,所述计算机程序在处理器上执行时,实施上述的图像降噪方法。
本申请的实施例具有如下有益效果:
本申请的实施例提供的图像降噪方法,通过对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;进而,将三个分量图像在通道维度上进行拼接以一并输入到降噪网络中进行降噪处理,最后利用三个分量噪声图像生成降噪后的YUV图像。该方法不仅可以避免降噪图像中出现彩噪,更好地保持景物色彩的一致性等;还有利于解决降噪图像的细节信息过度抹除的问题,即保留原始图像的更多细节。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对实施例中所需要使用的附图作简单地介绍,应当理解,以下附图所示仅为本申请的某些实施例,因此不应被看作是对范围的限定,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他相关的附图。
图1a和图1b分别所示为一具有较多纹理信息的木门的原始图像和利用传统降噪方法得到的对应降噪图像;
图1c和图1d分别所示为木门的原始图像的局部放大图和降噪图像的局部放大图;
图2所示为本申请实施例的图像降噪方法的流程示意图;
图3a和图3b分别所示为采用基于NLM的传统方法和采用本申请实施例的一并输入降噪的方法的彩噪生成结果;
图4所示为本申请实施例的图像降噪方法的降噪网络训练的流程示意图;
图5a和图5b分别所示为本申请实施例的经过ReLU层与未经过ReLU层的特征图的可视化结果;
图6a、图6b和图6c分别所示分别为本申请实施例的某一原始图像、仅使用L1 Loss函数进行降噪、以及使用L1 Loss和Content Loss函数进行降噪的降噪效果;
图7a和图7b分别所示为本申请实施例的小尺寸输入和大尺寸输入的流程示意图;
图8所示为本申请实施例的图像降噪装置的结构示意图。
具体实施方式
下面将结合本申请实施例中附图,对本申请实施例中的技术方案进行清楚、完整地描述,显然,所描述的实施例仅仅是本申请一部分实施例,而不是全部的实施例。
通常在此处附图中描述和示出的本申请实施例的组件可以以各种不同的配置来布置和设计。因此,以下对在附图中提供的本申请的实施例的详细描述并非旨在限制要求保护的本申请的范围,而是仅仅表示本申请的选定实施例。基于本申请的实施例,本领域技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都属于本申请保护的范围。
针对YUV图像的降噪处理,传统方法主要分为两类,一是空间域(简称空域)降噪算法,例如,双边滤波、导向滤波、非局部(Non-local Mean,NLM)滤波算法等;二是频域降噪算法,例如,基于离散余弦变换、小波变换等。但是对于纹理信息较为复杂的场景,上述方法往往存在降噪过度,细节丢失的问题。例如,图1a所示为某一具有较多纹理信息的木门的原始图像,在利用传统方法进行降噪处理后,可得到图1b所示的降噪图像。可知,相比于原始图像,降噪后的木门的很多纹理细节被丢失。
此外,对YUV图像的降噪,上述传统方法往往是将亮度分量Y与色彩分量UV分开降噪处理,最后再将降噪后的3个单通道图像进行合并,从而得到降噪图像。经发明人研究及测试发现,由于这类传统方法并没有考虑到Y通道与UV通道之间的相关性,降噪后的图像中往往存在彩噪,影响视觉观感。例如,图1c所示为图1a进行局部放大后的一局部原始图像,同样,对图1b的降噪图像进行相同放大倍数放大后,可得到如图1d所示的局部降噪图像。经过对比可知,局部放大后的降噪图像会存在彩色的斑块(即彩噪)。
对此,针对YUV图像的降噪任务,本申请实施例提出一种图像降噪方法,该方法通过将YUV三通道图像进行统一的端到端的降噪处理,即将YUV三通道图像一并输入到降噪网络中,以便充分发掘亮度通道Y与色彩通道UV的内在相关性,不仅可以避免降噪图像中出现彩噪,更好地保持景物色彩的一致性等;还有利于解决降噪图像的细节信息过度抹除的问题。其中,针对纹理等细节信息丢失的问题,本方法通过对一并输入的YUV三通道图像进行尺寸处理,此外还对损失函数作进一步优化,可以实现在不增加网络推理阶段的计算量和计算时间的条件下,保留原始图像的更多细节。
下面结合具体的实施例来对该图像降噪方法进行详细说明。
实施例1
请参照图2,本实施例提出一种图像降噪方法,可用于如智能手机、平板、相机等终端设备中的YUV格式的图像降噪处理,该图像降噪方法可以较好地处理降噪过程中引起的彩噪及细节信息丢失的问题,有效地解决了现有的YUV图像降噪算法存在的难题。下面对该图像降噪方法进行说明。
步骤S110,对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像。
其中,上述的三个分量图像分别是指对目标YUV图像进行分量提取得到的Y分量图像、U分量图像和V分量图像。通常地,在分量提取过程中,得到的各个分量图像的尺寸可能会存在一些差异,这里采用了尺寸一致性处理,即对各个分量图像进行尺寸统一化操作,使得每个分量图像的尺寸相等。可以理解,通过尺寸统一化处理,方便后续将YUV三通道图像一并输入到降噪网络中进行端到端的统一降噪处理。
在YUV格式中,一个像素由亮度分量和色度分量表示,每一个亮度分量Y对应一组色彩分量UV,通常地,U分量图像和V分量图像的初始尺寸往往相同,而Y分量图像的初始尺寸则与UV分量图像的初始尺寸不同,一般地,Y分量图像的初始尺寸会大于UV分量图像的初始尺寸。当然,这仅仅是一种示例,在一些特定的场景下,各个分量图像之间也可能存在其他的尺寸大小,在此不作限定。
对于上述步骤S110,示范性地,可通过分量提取等方式获得目标YUV图像的三个分量图像,然后对尺寸不一致的分量图像进行上采样或降采样处理,以得到尺寸相同的三个分量图像。
以上述的U分量图像和V分量图像的初始尺寸相同,且Y分量图像的初始尺寸大于U分量图像和V分量图像的初始尺寸的情况为例,例如,在一种实施方式中,可对该Y分量图像进行降采样(即Down sample),以得到尺寸减小的YD分量图像。在另一种实施方式中,也可对该U分量图像和V分量图像分别进行上采样(即Up sample),以得到尺寸增大的UU分量图像和VU分量图像。
假设Y分量图像的初始尺寸为(H,W),U和V分量图像的初始尺寸为(H/2,W/2),第一种方式是对Y分量进行1/2倍的降采样操作,获得尺寸为(H/2,W/2)的YD分量图像。第二种方式则是对U和V分量进行2倍的上采样操作,获得尺寸为(H,W)的UU和VU分量图像。
步骤S120,将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像。
在传统的图像降噪算法中,往往是将Y分量和UV分量分成两部分来进行单独的降噪处理,之后再将各通道的降噪图像合成,以得到最终的降噪图像,如上所述,这类处理方法会引入彩色斑块的问题。为了解决这一问题,本实施例提出将YUV三个通道图像一并输入到构建的降噪网络中进行降噪处理,通过充分利用各通道间的相关性,可以很好地解决彩噪问题,从而更好地保持景物色彩的一致性。
为了将YUV三个通道图像一并输入到降噪网络中,示范性地,可先将尺寸相同的三个分量图像在Channel(通道)维度上进行拼接操作,得到对应的拼接图像。其中,上述的拼接指concat操作,其作用主要是将这三个分量图像在沿channel维度方向上串联起来。
可以理解,待输入到降噪网络中的拼接图像将包含各个分量图像的特征信息,这样保证了降噪网络在降噪过程中充分考虑到各个分量图像之间的相关性,可避免出现彩色斑块,从而有效解决彩噪问题。例如,图3a和图3b所示分别为采用基于NLM滤波的传统方法和采用本实施例的一并输入进行降噪的结果。可知,本实施例的方法可以有效解决彩噪问题。
其中,上述的降噪网络的输入为经三个分量图像拼接得到的拼接图像,输出为三个分量图像的噪声图像。示范性地,该降噪网络可基于神经网络预先构建并训练得到,例如,该降噪网络可基于Unet网络构建得到,当然也可采用其他神经网络构建得到,如Attention Unet网络、RIDNet网络等,具体可根据实际需求选取,在此并不作具体限定。
对于该降噪网络的训练过程,在一种实施方式中,如图4所示,可包括如下子步骤:
子步骤S210,将获得的YUV图像样本的具有相同尺寸的三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入降噪网络中以输出三个分量噪声图像,所述三个分量噪声图像用于计算得到降噪后的YUV图像。
示范性地,对于获得的各个YUV图像样本,可参见上述步骤S110及S120进行尺寸一致性处理及拼接处理,得到拼接图像;然后,利用该拼接图像输入至搭建好的降噪网络中进行噪声预测,得到预测的各个通道的噪声图像。进而,在输出三个分量噪声图像后,可利用原始的三个分量图像与对应通道的噪声图像进行相减处理,最后对这三个分量降噪图像进行合成,得到降噪后的YUV图像。这里通过对降噪后的YUV图像的降噪损失来评价该降噪网络的降噪效果,进而确定是否需要进一步调整降噪网络的参数。
子步骤S220,基于所述降噪后的YUV图像按照降噪网络的总损失函数计算总损失值,并在所述总损失值不满足预设条件时,根据所述总损失值调整所述降噪网络中的参数。
为了评价该降噪网络的性能,这里预先构建了该降噪网络的损失函数,以用于具体评估图像降噪后的损失情况。然而,现有的图像降噪任务中往往使用如L1 Loss损失函数等一种损失函数来评价及网络训练,当只使用L1Loss损失函数时,容易造成降噪图像平滑过度的现象,因此,本实施例在训练过程中将引入额外的内容损失(Content Loss),来抑制L1 loss造成的过度平滑效果,从而保留原图中的边缘和纹理等细节信息。
在一种实施方式中,该降噪网络的总损失函数包括第一损失函数和第二损失函数,例如,该第一损失函数可为上述的L1 Loss损失函数;第二损失函数则为内容损失(Content Loss)函数。通常地,内容损失(Content Loss)用于约束两幅图的高维特征图的相似性,常被应用于图像风格迁移任务。可以理解,本实施例通过引入内容损失,是为了期望降噪后的图像具有与无噪的ground truth(真实值)一样丰富的纹理等信息。
基于上述构建的总损失函数可知,本实施例的总损失值包括两部分,分别是L1损失和Content损失,其中,L1损失可通过计算降噪后的YUV图像和无噪声的真实Y UV图像(ground truth)之间的平均绝对值误差得到。其中,无噪声的ground truth图像可通过在同一场景下的10张单张图像进行平均处理获得。具体地,L1损失计算公式如下:
而对于Content损失,例如,在一种实施方式中,可通过计算降噪后的YUV图像和无噪声真实YUV图像的高维特征图之间的均方误差得到。可以理解,在计算Content损失时,需要先通过特征提取等方式获取得到该降噪后的YUV图像和无噪声真实YUV图像各自的高维特征图。其中,关于高维特征图的提取过程,具体可参见现有文献,这里不作过多说明。
示范性地,Content损失的计算公式如下:
其中,Lcontent为内容损失值;FI与FG分别降噪后的YUV图像和无噪声的groundtruth的高维特征图;N为样本数量。
可以理解,在通常的content loss计算中,往往使用的特征图是经过ReLU非线性激活层的,此时的特征图中小于0的数值均被置为0,这就导致了部分信息的丢失,因此,本实施例通过改进content loss的计算方法,选取未经过ReLU层的特征图FI来进行计算。图5a和图5b所示分别为经过ReLU层与未经过ReLU层的特征图FI的可视化结果,可以看出,未经过ReLU层的特征图包含更多的纹理信息。
此外,为了更好说明本实施例对降噪网络的损失函数的改进效果,例如,图6a所示分别为某一原始图像,图6b和图6c分别为仅使用L1 Loss函数进行降噪训练、以及使用L1Loss和Content Loss函数进行降噪训练的效果。可以看出,本实施例通过引入额外的内容损失函数,可以提升降噪效果。
于是,利用上述的总损失函数可计算得到对应的总损失值。进而,对得到的损失值判断是否满足预设条件,其中,该预设条件通常为一个较小的取值范围,例如,若该总损失值不在预设取值范围内,则判断不满足该预设条件,此时将根据该总损失值对该降噪网络中的参数进行调整,并进行下一样本的训练,即执行子步骤S230。
子步骤S230,对下一YUV图像样本重复执行上述操作,直到计算得到的总损失值满足预设条件时,停止网络参数调整。
示范性地,经过多次YUV图像样本训练后,该总损失值会越来越接近于预设条件,直到最后满足预设条件,可停止调整网络参数,此时即得到训练好的降噪网络。
对于上述步骤S120,示范性地,将得到的拼接图像输入到训练好的降噪网络中,该降噪网络将对拼接图像中的噪声信息进行提取,从而输出得到三个分量图像的噪声信息(即上述的分量噪声图像)。
步骤S130,将三个分量图像与对应的分量噪声图像相减以得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
示范性地,利用原始的三个分量图像与对应通道的噪声图像进行相减处理,然后对这三个分量降噪图像进行合成,可以得到降噪后的YUV图像。其中,上述的相减处理是指将两个图像中对应位置的像素进行减法运算,例如,这里可以将分量图像和噪声图像的像素的灰度值或彩色分量等进行相减处理。
值得注意的是,经过降噪网络输出的各个分量噪声图像的尺寸相同,因此,为了与原始的分量图像进行相减处理,还需要对之前经过尺寸处理的分量图像所对应的分量噪声图像进行尺寸恢复处理,从而保证与原始的分量图像的尺寸一致。
例如,以上述对尺寸大的分量图像进行降采样为例,若降噪网络采用UNet网络构建得到,图像降噪方法的流程如图7a所示。可以理解,此时的降噪网络的输入可称为小尺寸输入。若对尺寸小的分量图像进行上采样,图像降噪方法的流程如图7b所示,此时降噪网络的输入可称为大尺寸输入。
为了更好地表明本实施例的降噪效果测试,这里对小尺寸输入和大尺寸输入两种方式分别进行了测试,其中,当输入到降噪网络中的拼接图像的尺寸为(H,W)时,记为Method1(即大尺寸输入的情况);输入到降噪网络中的拼接图像的尺寸为(H/2,W/2)时,记为Method2(即小尺寸输入的情况)。在测试过程中,通过对Noise(噪点)、DXO texture(纹理)、DXO edge(边缘)及Inference time(推理时间)等多个性能指标进行比较,具体各项指标的得分如表1所示。其中,Noise得分反映了算法的降噪能力,数值越低,降噪效果越好;texture与edge得分反映了算法的细节保留能力,数值越高,细节保留的越多。
表1
可知,在降噪能力方面,大尺寸输入的方式比小尺寸输入的方式略优;但在细节保留方面,小尺寸输入的方式要比大尺寸输入的方式更有优势。不仅如此,小尺寸输入的方式能够显著地降低网络的推理时间,具有较大优势。
本实施例的图像降噪方法通过将YUV图像进行分量图像的尺寸统一化处理,再通过拼接处理以将这三个分量图像一并输入到训练好的降噪网络中进行降噪处理,得到三个分量噪声图像,最后利用这三个分量噪声图像生成降噪后的图像。该方法将三个分量图像一并进行降噪处理,通过考虑各通道图像之间的相关性,可以有效解决彩噪问题,从而更好地保持景物色彩的一致性;此外,通过对损失函数作进一步优化,尤其在利用小尺寸输入时,还可以在不增加网络推理阶段的计算量和计算时间的情况下,保留原始图像的更多细节,从而提升降噪效果。
实施例2
基于上述实施例1的方法,本实施例提出一种图像降噪方法,与上述实施例1的不同之处主要在于,本实施例对上述的降噪网络的总损失函数作了调整,具体而言,对上述总损失函数中的第二损失函数作了优化。
本实施例中,用于计算第二损失值的第二损失函数被定义为降噪后的YUV图像和无噪声真实YUV图像的高维平均特征图之间的均方误差,而不再是上述实施例1中的高维特征图之间的均方误差。
示范性地,在计算第二损失值前,先获取到降噪后的YUV图像和无噪声真实YUV图像各自在通道维度上的高维平均特征图;进而,利用该高维平均特征图和代替上述实施例1中的高维特征图FI和FG ,代入上述的content损失计算公式中,得到第二损失值。
其中,所述的高维平均特征图是指该高维特征图在Channel维度上的平均特征图。在一种实施方式中,对于降噪后的YUV图像和无噪声真实YUV图像的高维平均特征图,示范性地,可采用如下计算公式得到:
值得注意的是,由于降噪网络的第二损失函数存在差异,故本实施例中的降噪网络中的网络参数与上述实施例1中得到的降噪网络的网络参数会存在不同。但对于基于降噪网络进行降噪处理、以及降噪网络的预先训练过程均与上述实施例1中的对应步骤相同,故在此不再重复描述。
为了说明高维平均特征图的降噪效果,这里对基于高维特征图和基于高维平均特征图来计算内容损失值分别进行了测试,通过对Noise、DXO texture(纹理)、DXO edge(边缘)等性能指标进行比较,具体指标的得分如表2所示。
表2
Noise | DXO texture | DXO edge | |
F<sub>I</sub>,F<sub>G</sub> | 0.45 | 0.547 | 0.421 |
F<sub>I</sub><sup>mean</sup>,F<sub>G</sub><sup>mean</sup> | 0.34 | 0.551 | 0.423 |
可知看出,采用高维平均特征图的降噪方案能够提升降噪效果,同时获得更好的纹理表现。这主要是由于,约束单通道的高维平均特征图的相似性和直接要求两个高维特征图的像素的相似性更容易,降低了训练难度,content loss收敛到更低的水平,降噪图像的纹理及边缘与无噪声的ground truth更相似,从而更好地保留了细节信息。另外,在网络优化的后期阶段较小的content loss也更好地平衡了L1 Loss,故而提升了降噪效果。可以理解,本实施例的图像降噪方法利用高维平均特征图来进行计算content loss,可以带来更好的降噪效果,同时边缘及纹理等细节信息也能保持得更多。
实施例3
请参照图8,基于上述实施例1的方法,本实施例提出一种图像降噪装置100,示范性地,该图像降噪装置100包括:
预处理模块110,用于对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像。
噪声处理模块120,用于将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像。
降噪生成模块130,用于将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
可以理解,本实施例的装置对应于上述实施例1的方法,上述实施例1中的可选项同样适用于本实施例,故在此不再重复描述。
本申请还提供了一种终端设备,示范性地,该终端设备包括处理器和存储器,其中,存储器存储有计算机程序,处理器通过运行所述计算机程序,从而使终端设备执行上述的图像降噪方法或者上述图像降噪装置中的各个模块的功能。例如,该终端设备可为智能手机、平板、相机、计算机等。
本申请还提供了一种可读存储介质,用于储存上述终端设备中使用的所述计算机程序。
在本申请所提供的几个实施例中,应该理解到,所揭露的装置和方法,也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的,例如,附图中的流程图和结构图显示了根据本申请的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分,所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在作为替换的实现方式中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个连续的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,结构图和/或流程图中的每个方框、以及结构图和/或流程图中的方框的组合,可以用执行规定的功能或动作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
另外,在本申请各个实施例中的各功能模块或单元可以集成在一起形成一个独立的部分,也可以是各个模块单独存在,也可以两个或更多个模块集成形成一个独立的部分。
所述功能如果以软件功能模块的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本申请的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来,该计算机软件产品存储在一个存储介质中,包括若干指令用以使得一台计算机设备(可以是智能手机、个人计算机、服务器、或者网络设备等)执行本申请各个实施例所述方法的全部或部分步骤。而前述的存储介质包括:U盘、移动硬盘、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、磁碟或者光盘等各种可以存储程序代码的介质。
以上所述,仅为本申请的具体实施方式,但本申请的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本申请揭露的技术范围内,可轻易想到变化或替换,都应涵盖在本申请的保护范围之内。
Claims (10)
1.一种图像降噪方法,其特征在于,包括:
对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;
将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像;
将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
2.根据权利要求1所述的图像降噪方法,其特征在于,所述对目标YUV图像进行分量图像尺寸一致性处理,包括:
获取目标YUV图像的三个分量图像,并对尺寸不一致的所述分量图像进行上采样或降采样处理,以得到尺寸相同的三个分量图像。
3.根据权利要求2所述的图像降噪方法,其特征在于,所述对尺寸不一致的所述分量图像进行上采样或降采样处理,包括:
在U分量图像和V分量图像的初始尺寸相同,且Y分量图像的初始尺寸大于U分量图像和V分量图像的初始尺寸的情况下,对所述Y分量图像进行降采样,或者对所述U分量图像和所述V分量图像分别进行上采样。
4.根据权利要求1所述的图像降噪方法,其特征在于,所述降噪网络的预先训练过程,包括:
将获得的YUV图像样本的具有相同尺寸的三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入降噪网络中以输出三个分量噪声图像,所述三个分量噪声图像用于计算得到降噪后的YUV图像;
基于所述降噪后的YUV图像根据所述降噪网络的总损失函数计算总损失值,并在所述总损失值不满足预设条件时,根据所述总损失值调整所述降噪网络中的参数;
对下一YUV图像样本重复执行上述操作,直到计算得到的总损失值满足预设条件时,停止网络参数调整;
其中,所述降噪网络的损失函数包括第一损失函数和第二损失函数,所述降噪后的YUV图像和无噪声真实YUV图像之间的平均绝对值误差作为所述第一损失函数;获取所述降噪后的YUV图像和所述无噪声真实YUV图像各自的高维特征图,所述降噪后的YUV图像和所述无噪声真实YUV图像的所述高维特征图之间的均方误差作为所述第二损失函数。
5.根据权利要求1所述的图像降噪方法,其特征在于,所述降噪网络的预先训练过程,包括:
将获得的YUV图像样本的具有相同尺寸的三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入降噪网络中以输出三个分量噪声图像,所述三个分量噪声图像用于计算得到降噪后的YUV图像;
基于所述降噪后的YUV图像按照所述降噪网络的总损失函数计算总损失值,并在所述总损失值不满足预设条件时,根据所述总损失值调整所述降噪网络中的参数;
对下一YUV图像样本重复执行上述操作,直到计算得到的总损失值满足所述预设条件时,停止网络参数调整;
其中,所述降噪网络的损失函数包括第一损失函数和第二损失函数,所述降噪后的YUV图像和无噪声真实YUV图像之间的平均绝对值误差作为所述第一损失函数;获取所述降噪后的YUV图像和所述无噪声真实YUV图像各自在通道维度上的高维平均特征图,所述降噪后的YUV图像和所述无噪声真实YUV图像的所述高维平均特征图之间的均方误差作为所述第二损失函数。
7.根据权利要求1至6中任一项所述的图像降噪方法,其特征在于,所述降噪网络基于UNet网络、Attention Unet网络或RIDNet网络构建得到。
8.一种图像降噪装置,其特征在于,包括:
预处理模块,用于对目标YUV图像进行分量图像尺寸一致性处理,得到尺寸相同的三个分量图像;
噪声处理模块,用于将所述三个分量图像在通道维度上进行拼接以得到拼接图像,并将所述拼接图像输入到降噪网络中,输出三个分量噪声图像;
降噪生成模块,用于将所述三个分量图像与对应的分量噪声图像相减得到三个分量降噪图像,根据所述三个分量降噪图像生成降噪后的YUV图像。
9.一种终端设备,其特征在于,所述终端设备包括处理器和存储器,所述存储器存储有计算机程序,所述处理器用于执行所述计算机程序以实施权利要求1-7中任一项所述的图像降噪方法。
10.一种可读存储介质,其特征在于,其存储有计算机程序,所述计算机程序在处理器上执行时,实施根据权利要求1-7中任一项所述的图像降噪方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111006363.2A CN115731112A (zh) | 2021-08-30 | 2021-08-30 | 图像降噪方法、装置、终端设备和可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111006363.2A CN115731112A (zh) | 2021-08-30 | 2021-08-30 | 图像降噪方法、装置、终端设备和可读存储介质 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN115731112A true CN115731112A (zh) | 2023-03-03 |
Family
ID=85291001
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111006363.2A Withdrawn CN115731112A (zh) | 2021-08-30 | 2021-08-30 | 图像降噪方法、装置、终端设备和可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN115731112A (zh) |
-
2021
- 2021-08-30 CN CN202111006363.2A patent/CN115731112A/zh not_active Withdrawn
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11037278B2 (en) | Systems and methods for transforming raw sensor data captured in low-light conditions to well-exposed images using neural network architectures | |
Eilertsen et al. | A comparative review of tone‐mapping algorithms for high dynamic range video | |
Celik | Spatial mutual information and PageRank-based contrast enhancement and quality-aware relative contrast measure | |
US10325346B2 (en) | Image processing system for downscaling images using perceptual downscaling method | |
US11127117B2 (en) | Information processing method, information processing apparatus, and recording medium | |
US10198801B2 (en) | Image enhancement using self-examples and external examples | |
CN113168684A (zh) | 提升低亮度图像的质量的方法、***和计算机可读介质 | |
CN112602088B (zh) | 提高弱光图像的质量的方法、***和计算机可读介质 | |
Liu et al. | Survey of natural image enhancement techniques: Classification, evaluation, challenges, and perspectives | |
Hou et al. | Underwater image dehazing and denoising via curvature variation regularization | |
CN115115554B (zh) | 基于增强图像的图像处理方法、装置和计算机设备 | |
CN109817170B (zh) | 像素补偿方法、装置和终端设备 | |
Wang et al. | Enhancement for dust-sand storm images | |
Vazquez-Corral et al. | A fast image dehazing method that does not introduce color artifacts | |
CN111951172A (zh) | 一种图像优化方法、装置、设备和存储介质 | |
CN115063318A (zh) | 自适应频率分解的低光照图像增强方法与相关设备 | |
Wang et al. | Single Underwater Image Enhancement Based on $ L_ {P} $-Norm Decomposition | |
Zhu et al. | Low-light image enhancement network with decomposition and adaptive information fusion | |
CN114581318A (zh) | 一种低照明度图像增强方法及*** | |
CN117830134A (zh) | 基于混合滤波分解和图像融合的红外图像增强方法及*** | |
KR20230165686A (ko) | 이미지 데이터에 대한 디노이징 처리를 수행하는 방법 및 전자 장치 | |
Xu et al. | Attention‐based multi‐channel feature fusion enhancement network to process low‐light images | |
CN111754412A (zh) | 构建数据对的方法、装置及终端设备 | |
CN115512405A (zh) | 一种背景图像处理方法、装置、电子设备及存储介质 | |
CN115731112A (zh) | 图像降噪方法、装置、终端设备和可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
WW01 | Invention patent application withdrawn after publication |
Application publication date: 20230303 |