CN111784605B - 一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 - Google Patents
一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 Download PDFInfo
- Publication number
- CN111784605B CN111784605B CN202010611911.3A CN202010611911A CN111784605B CN 111784605 B CN111784605 B CN 111784605B CN 202010611911 A CN202010611911 A CN 202010611911A CN 111784605 B CN111784605 B CN 111784605B
- Authority
- CN
- China
- Prior art keywords
- image
- layer
- frequency information
- pixels
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 230000009467 reduction Effects 0.000 title abstract description 50
- 238000001914 filtration Methods 0.000 claims abstract description 42
- 238000004364 calculation method Methods 0.000 claims abstract description 39
- 230000004927 fusion Effects 0.000 claims abstract description 26
- 230000008569 process Effects 0.000 claims abstract description 16
- 238000007500 overflow downdraw method Methods 0.000 claims abstract description 4
- 238000001514 detection method Methods 0.000 claims description 24
- 238000004590 computer program Methods 0.000 claims description 21
- 230000011218 segmentation Effects 0.000 claims description 12
- 230000000694 effects Effects 0.000 abstract description 9
- 230000003044 adaptive effect Effects 0.000 description 9
- 238000012545 processing Methods 0.000 description 9
- 230000006870 function Effects 0.000 description 7
- 239000003086 colorant Substances 0.000 description 5
- 230000002093 peripheral effect Effects 0.000 description 5
- 238000004422 calculation algorithm Methods 0.000 description 4
- 238000010606 normalization Methods 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000010586 diagram Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 239000000654 additive Substances 0.000 description 1
- 230000000996 additive effect Effects 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000018109 developmental process Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000000873 masking effect Effects 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 230000016776 visual perception Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/11—Region-based segmentation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/10—Segmentation; Edge detection
- G06T7/13—Edge detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本发明提供一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质,该方法包括获取初始图像并构建图像金字塔;对每一层图像的低频信息进行非局部均值滤波,并利用非局部均值滤波过程中相似块搜索结果获取该层图像的邻域相似图;应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的边缘区域、纹理区域以及平坦区域,针对边缘区域、纹理区域及平坦区域应用至少一层图像的低频信息与至少一层图像的高频信息以相应的融合方法对各像素的灰度值进行融合计算,并输出降噪后的图像。本发明还提供实现上述方法的计算机装置及计算机可读存储介质。本发明可以降低图像降噪的计算量,并且提高降噪的自适应性,降噪效果更佳。
Description
技术领域
本发明涉及图像处理的技术领域,具体地,是一种基于区域指导的图像降噪方法以及实现这种方法的计算机装置、计算机可读存储介质。
背景技术
现有很多智能电子设备具有图像拍摄的功能,例如智能手机、平板电脑、行车记录仪等均设置有摄像装置,摄像装置通常设置有CMOS 或者CCD图像传感器来获取图像。通常,一张图像包括大量的像素,每一个像素的色彩信息可以通过RGB数值或者YUV数值表示。
例如,目前普遍使用的CMOS、CCD图像传感器一般采用BAYER 排列格式,每个像素的色彩信息通常为RGB的数值,但RGB的数值并非三原色的信息,图像会出现色彩失真的情况,因此需要对每一个像素进行“去马赛克”(demosaic)的处理而得到RGB三原色信息,以还原图像原本的色彩。
随着图像分辨率的增大、单个像素的感光量的降低、低照度场景应用越来越广泛,图像传感器输出的图像噪声大为增加。由于RAW图像转换到RGB图像的过程中,去马赛克的操作需要参考一定区域内的所有图像像素得到一个像素的RGB三原色,各颜色分量的噪声大范围相互扩散,导致最终图像出现大块(从几个像素到上百像素)彩色色斑,严重影响人眼观感。因此,通常需要对图像传感器输出的图像进行降噪处理。
当前,最具代表性的图像降噪方法为非局部滤波器实现的降噪方法,如非局部均值滤波(Non-Local Means,NLM)和三维块匹配(Block Matching 3D,BM3D)等方法,这些方法都是利用了图像的自相似性,通过加权平均相似像素块从而获取降噪后结果。随着人们对降噪方法的不断研究,结合区域检测与非局部滤波器的降噪方法,即对图像进行区域划分并依据区域信息设定对应的降噪参数或策略这一思路得到广泛的认可。实际上,该类降噪方法不仅可以获取更优的降噪效果,而且对后续的图像分析也有着极大的益处。
非局部均值滤波方法是一种基于图像局部相似性的降噪方法,在邻域平均降噪方法的基础上,非局部均值滤波方法的相似权重系数由当前待降噪像素与其邻域内其他像素为中心的图像片之间的相似性所决定,其权重的计算与两个像素的空间位置没有实质性关系,只与两个图像片的相似性有关,因此它能够较好地避免引入虚假信息。由于图像的噪声可等效为加性高斯白噪声,加权平均相似像素能够较好的去除图像的噪声。由于NLM方法具有算法简洁、性能优越、易于改进与扩展的特性,成为当前图像降噪的主流方法之一。
NLM方法的基本原理如下:以待降噪像素为中心取邻域窗口,窗口大小为N×N(N一般为3、5、7、9等),将周围一定大小的图像区域作为搜索区域,记为M×M(可选整幅图像,但计算量过大,一般M小于41),在搜索区域内寻找相似图像块,通常的方法是计算图像块之间的高斯加权欧式距离,使用下面的公式计算:
其中,Ga为标准差为a的高斯核,u(Ni)和u(Nj)分别为中心窗口的图像块和搜素区域图像块内的对应像素。然后,计算降噪后的像素估计值,使用下面的公式计算:
其中,w(i,j)=exp(-d(i,j)/h2)为权重系数,为归一化因子,Ω(i)表示中心像素i的搜素区域,h是相似权重参数,它决定着图像降噪后的平衡程度。
现有的基于区域信息和非局部滤波器的降噪方法可以分为两大类:第一类是利用梯度信息对图像进行边缘检测,将图像划分为细节区域和平坦区域,然后依据细节信息选用不同滤波参数;第二类是利用结构统计信息将图像划分为多种区域,对不同区域选择不同的滤波器,包括中值滤波、双边滤波、非局部均值滤波和BM3D等。
但是,由于真实场景下的含有噪声的图像中不仅场景信息复杂且噪声类型与强度变化较大,现有的基于区域检测的降噪方法都存在适应性不够的情况,即这些降噪方法无法有效地平衡降噪效果与降噪成本的关系,具体的,一方面,现有的降噪方法中,区域检测模块仅依赖于图像单一尺寸的分析结果,其检测精度较差且其中部分参数的选取存在较多人为因素的干扰,导致最终检测结果自适应性不足,影响到后续的降噪效果,另一方面,现有的降噪方法中,区域检测模块应用复杂的计算方法实现,计算量较大,导致图像降噪处理时间过长,如果应用硬件电路实现降噪计算,在硬件电路面积过大,开发难度大。
发明内容
本发明的主要目的是提供一种降噪效果好且计算量少的基于区域指导的图像降噪方法。
本发明的另一目的是提供一种实现上述基于区域指导的图像降噪方法的计算机装置。
本发明的再一目的是提供一种实现上述基于区域指导的图像降噪方法的计算机可读存储介质。
为实现本发明的主要目的,本发明提供的基于区域指导的图像降噪方法包括获取初始图像,应用初始图像构建图像金字塔,图像金字塔的每一层图像包括该层图像的低频信息以及高频信息;对每一层图像的低频信息进行非局部均值滤波,并利用非局部均值滤波过程中相似块搜索结果获取该层图像的邻域相似图;应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的边缘区域、纹理区域以及平坦区域,针对边缘区域、纹理区域及平坦区域应用至少一层图像的低频信息与至少一层图像的高频信息以相应的融合方法对各像素的灰度值进行融合计算,并输出降噪后的图像。
由上述方案可见,本发明通过构建图像金字塔并且应用非局部均值滤波的方法,能够根据不同层的图像的低频信息、高频信息深入挖掘不同层的图像在非局部均值滤波的相似性搜索的结果所体现的纹理信息,从而对不同区域进行精确判断,以获取更优且更有效率的区域检测结果。并且,依据上述结果指定不同区域的像素降噪算法,即针对不同的区域使用不同的降噪方法计算降噪后的像素的灰度值,使图像的降噪效果更加理性。
并且,由于区域检测的操作是在非局部均值滤波过程中直接应用搜索结果实现,并没有显著增加降噪的计算量,因此图像的降噪计算量少,提升图像降噪计算的效率。
一个优选的方案是,应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的边缘区域、纹理区域以及平坦区域包括:根据低层图像的邻域相似图中各个像素的邻域相似值确定边缘区域的像素;根据高层图像的邻域相似图中各个像素的邻域相似值以及高层图像的高频信息确定纹理区域的像素。
由此可见,由于边缘区域的像素与周边像素的灰度值差异较大,因此通过低层图像的邻域相似图中各个像素的邻域相似值可以准确的检测出图像中的边缘区域,并且对纹理区域的检测也综合考虑了高层图像的邻域相似图以及高层图像的高频信息,使得纹理区域的检测更加准确。
进一步的方案是,根据低层图像的邻域相似图中各个像素的邻域相似值确定边缘区域的像素包括:对两层以上的低层图像的邻域相似图中各个像素的邻域相似值进行阈值分割,并对阈值分割结果进行合并,以合并后的结果确定边缘区域的像素。
这样,在确定边缘区域的像素时,依据两层图像的阈值分割结果实现,这样可以确保边缘区域检测更加准确。
更进一步的方案是,根据高层图像的邻域相似图中各个像素的邻域相似值以及高层图像的高频信息确定纹理区域的像素包括:将边缘区域的检测结果进行掩膜操作后,将高层图像的邻域相似图中邻域相似值不为零且在高层图像的高频信息也不为零的像素确定为纹理区域的像素。
由此可见,先确定图像的边缘区域,然后通过对边缘区域的像素屏蔽后再对纹理区域、平坦区域进行检测,这样可以避免边缘区域的像素对纹理区域、平坦区域的检测造成干扰,提高纹理区域、平坦区域检测的准确性。
一个优选的方案是,利用非局部均值滤波过程中相似块搜索结果获取该层图像的邻域相似图包括:在非局部均值滤波的相似块搜索过程中,计算每一像素对应的匹配窗口与相似窗口的数量,以该像素对应的匹配窗口与相似窗口的数量作为邻域相似图中该像素的邻域相似值。
由此可见,图像的邻域相似图由每一个像素的邻域相似值构成,而每一个像素的邻域相似值是在非局部均值滤波过程中对邻域相似窗口检测时确定的,因此计算邻域相似图的计算量较少。
更进一步的方案是,应用至少一层图像的低频信息与至少一层图像的高频信息对边缘区域的像素的灰度值进行融合计算包括:应用低层图像的低频信息与至少两层高层图像的高频信息进行累加得到边缘区域的像素的灰度值。
可见,对边缘区域的像素进行灰度值计算是通过直接融合的方式实现,即将多层图像的低频信息、高频信息直接累加,计算量较少,并且能够保留边缘区域的高频信息。
更进一步的方案是,应用至少一层图像的低频信息与至少一层图像的高频信息对平坦区域的像素的灰度值进行融合计算包括:应用低层图像的低频信息与至少两层高层图像的高频信息进行累加后并进行中值滤波得到平坦区域的像素的灰度值。
可见,对于平坦区域的像素,通过中值滤波的方式使得平坦区域的像素的灰度值更加均衡,更加符合平坦区域的像素特性,提高滤波后的图像质量。
更进一步的方案是,应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的纹理区域时,计算纹理区域的各像素的相似性系数;应用至少一层图像的低频信息与至少一层图像的高频信息对纹理区域的像素的灰度值进行融合计算包括:根据相似性系数确定多层图像的加权系数并以该加权系数对至少一层图像的低频信息与至少一层图像的高频信息进行加权融合计算,获得纹理区域的像素的灰度值。
由此可见,对于纹理区域的像素,使用自适应的加权系数来进行融合计算,使得相似性系数不同的像素在融合计算过程中对不同层的图像采用不同的加权系数,纹理区域的灰度值计算更加接近于实际的灰度值,滤波后的图像中,纹理区域更加清晰,纹理显示更加接近实际状态,滤波效果更加理性。
为实现上述的另一目的,本发明提供的计算机装置包括处理器以及存储器,存储器存储有计算机程序,计算机程序被处理器执行时实现上述基于区域指导的图像降噪方法的各个步骤。
为实现上述的再一目的,本发明提供计算机可读存储介质上存储有计算机程序,计算机程序被处理器执行时实现上述基于区域指导的图像降噪方法的各个步骤。
附图说明
图1是本发明基于区域指导的图像降噪方法实施例的流程图。
图2是初始图像各像素的色彩信息的示意图。
图3是本发明基于区域指导的图像降噪方法实施例中进行区域检测的流程图。
图4是本发明基于区域指导的图像降噪方法实施例中区域检测结果的示意图。
图5是本发明基于区域指导的图像降噪方法实施例中对像素的灰度值进行融合计算的流程图。
以下结合附图及实施例对本发明作进一步说明。
具体实施方式
本发明的基于区域指导的图像降噪方法应用在智能电子设备上,优选的,智能电子设备设置有摄像装置,如摄像头等,摄像装置具有诸如CMOS、CCD等图像传感器,智能电子设备利用摄像装置获取初始图像,本方法就是对图像传感器获取的初始图像降噪的处理方法。优选的,智能电子设备设置有处理器以及存储器,存储器上存储有计算机程序,处理器通过执行该计算机程序实现基于区域指导的图像降噪方法。
基于区域指导的图像降噪方法实施例:
本实施例主要是针对图像传感器获取的初始图像进行降噪方法,具体的,在获取包含有噪声的初始图像后,先应用初始图像构建图像金字塔,图像金字塔包含有多层图像,每一层图像均包含有低频信息和高频信息;然后,利用非局部均值滤波对图像金字塔各层图像的低频信息进行降噪处理,在降噪处理的过程中,获取各层图像的低频信息的非局部均值滤波过程中相似性检测结果的区域统计信息;接着,应用区域统计信息将图像划分为边缘区域、纹理区域和平坦区域;最后,利用区域统计信息分别对不同区域采用不同的融合计算方法计算滤波后的像素的灰度值,获得输出的图像。
参见图1,首先执行步骤S1,获取初始图像。本实施例的初始图像是CMOS、CCD等图像传感器输出的图像,通常,初始图像的色彩信息是RGB信息,即图像的格式为BAYER图像格式。BAYER图像格式如图2所示,初始图像具有大量的像素,每一个像素具有一种色彩信息,例如第一行像素的色彩信息是红色R或者绿色Gr的色彩信息,红色R像素与绿色Gr像素是间隔布置的,第二行像素的色彩信息是绿色Gb或者蓝色B的色彩信息,绿色Gb像素与蓝色B像素是间隔布置的。每一个像素的色彩信息为色度值,色度值通常是8比特至16比特的二进制数。各色彩通道内,像素的色度值也就是该像素的灰度值,本实施例的计算均是对像素的灰度值进行的计算。
由于初始图像中,相邻的四个像素的色彩是不相同的,在针对多种色彩的图像进行滤波时,容易导致不同色度的像素的灰度值相互干扰,影响图像降噪的效果。因此,步骤S1还需要提取初始图像中各色彩通道的图像,每一色彩通道仅包含一种色彩的像素。例如,将初始图像中所有红色R像素的像素提取形成一张红色R像素的图像,将初始图像中所有绿色Gr像素、Gb像素提取形成一张绿色G像素的图像,将初始图像中所有蓝色B像素的像素提取形成一张蓝色B像素的图像。当然,提取的各色彩通道图像中,并不会改变各个像素的相对位置关系。
后续的步骤S2至步骤S6均针对每一个色彩通道都执行的操作,也就是针对三个色彩通道的图像,均执行一次步骤S2至步骤S6的操作,最后按照图2所示的各个像素的排列方式用三个色彩通道滤波后的图像进行反插值计算形成输出的图像。
例如,针对红色通道的图像,执行步骤S2,构建图像金字塔。图像金字塔包括多层图像,本实施例中,每一层图像与该通道的初始图像的像素相等,例如对初始图像提取各色彩通道的图像后,红色通道图像的像素大小为1028×720,则构建的红色通道对应的图像金字塔中,每一层图像的像素大小都是1028×720。
具体的,以红色通道的初始图像为基础,使用不同尺寸的高斯低通滤波器与该色彩通道的初始图像做卷积运算,获取多层高斯图像形成高斯金字塔。例如,设置高斯金字塔第一层图像对应的高斯低通滤波器的尺寸为7×7,利用该高斯低通滤波器与该色彩通道的初始图像做卷积运算,获得第一层高斯图像。设置高斯金字塔第二层图像对应的高斯低通滤波器的尺寸为9×9,利用该高斯低通滤波器与该色彩通道的初始图像做卷积运算,获得第二层高斯图像,如此类推。优选的,随着层数的逐渐增加,所使用的高斯低通滤波器的尺寸逐渐增大。因此,高斯金字塔的每一层图像包含初始图像大部分特征的低频信息及小部分噪声。
在获取高斯金字塔的多层图像后,应用高斯金字塔的多层图像计算拉普拉斯金字塔的多层图像,具体的,拉普拉斯金字塔的每一层拉普拉斯图像的每一像素的值是当前层高斯图像与上一层高斯图像该像素的灰度值相减的数值。例如,将第一层高斯图像各像素与第二层高斯图像的各像素的灰度值相减,获得第一层拉普拉斯图像各像素的灰度值,如此类推。对于最高层拉普拉斯图像,则直接使用最高层高斯图像作为最高层拉普拉斯图像。因此,拉普拉斯金字塔各层图像包含较多噪声及部分轮廓的高频信息。
可见,图像金字塔实际上包括高斯金字塔以及拉普拉斯金字塔,且高斯金字塔与拉普拉斯金字塔的层数相同,且一一对应,其中高斯金字塔各层图像的信息是低频信息,而拉普拉斯金字塔各层图像的信息为高频信息。
然后,执行步骤S3,对图像金字塔中各层图像的低频信息进行非局部均值滤波,具体的,利用图像金字塔的高斯金字塔的每一层图像的信息进行非局部均值滤波。例如,针对高斯金字塔中每一层图像的任意一个像素i,假定其灰度值为f(i),以该像素为中心的分别提取一个窗口大小为s的匹配窗口P(i)和窗口大小为t(t>s)的搜索区域,在搜索区域内遍历检测与匹配窗口P(i)相似度较高的图像块P(j),该图像块P(j)的窗口大小与匹配窗口P(i)的大小相同。
例如,计算匹配窗口P(i)内多个像素的灰度值之和,并计算待匹配的窗口内多个像素的灰度值之和,如果待匹配的窗口内多个像素的灰度值之和与当前的匹配窗口P(i)内多个像素的灰度值之和的差值小于预设的阈值,则认为待匹配窗口与匹配窗口P(i)相似度较高,该待匹配窗口即标记为图像块P(j)。
然后,计算相似度较高的图像块P(j)与当前匹配窗口P(i)的高斯加权欧式距离d(i,j),例如应用下面的公式计算:
d(i,j)=G0*||P(i)-P(j)||2 (式3)
然后,计算相似度较高的图像块P(j)的加权权重系数w(i,j),具体公式如下:
最后,计算当前像素经过非局部均值滤波后的灰度值,具体公式如下:
上述公式4、公式5中,G0为预先设定的高斯函数,h为用于控制平滑程度的参数。
然后,执行步骤S4,应用非局部均值滤波的搜索结果来获取各层图像的邻域相似图。图像金字塔的每一层图像均对应自己的邻域相似图,邻域相似图中的每一个像素的值为邻域相似值。获取各层图像的邻域相似图的目的是为了检测图像中的边缘区域、纹理区域以及平坦区域,由于图像中的边缘区域主要包含图像轮廓信息,因而边缘区域像素的灰度值与周边像素的灰度值的差异较大,导致边缘区域的像素灰度值与周边像素灰度值的相似度较低;纹理区域包含了图像的一些细节信息和弱纹理,纹理区域的像素灰度值与周边像素灰度值的相似度适中;而平坦区域的像素灰度值与周边像素灰度值的相似度则较高。基于这些特性,本实施例通过各像素的灰度值与周边像素灰度值的相似性搜索确定各个像素处于哪一区域,即区域信息是通过分析非局部均值滤波的相似性统计结果来获取的。
步骤S4中,在高斯金字塔的各层图像进行逐像素的非局部均值滤波时,均计算在搜索窗口内,与以当前像素为中心点的匹配窗口P(i)相似度较高的图像块P(j)的数量,本实施例可以直接利用相似度较高的图像块P(j)的数量作为当前像素的邻域相似值cnt(i)。或者,依据事先标定的噪声曲线值设定差异阈值,统计搜索区域中与匹配窗口P(i)差异值小于相应差异阈值的图像块的数量,以该数量作为当前像素的邻域相似值cnt(i)。在确定每一像素的邻域相似值cnt(i)后,可以获得该层图像对应的邻域相似图,邻域相似图中每一个像素对应的值即为该像素的邻域相似值cnt(i)。因此,邻域相似图中每一像素的值与该像素的灰度值无关,邻域相似值cnt(i)表征该像素与周边像素的相似程度。
然后,执行步骤S5,依据邻域相似图来检测图像中的边缘区域、平坦区域以及纹理区域。下面以具有三层图像的图像金字塔为例,结合图3介绍各个区域的检测具体流程。
首先,依据低层图像的邻域相似图来确定图像中的边缘区域。具体的,对第一层图像的邻域相似图以及第二层图像的邻域相似图进行统计,并进行阈值分割,利用阈值分割的结果来检测图像中的边缘区域。具体的,执行步骤S21,获取第一层图像的邻域相似图,并且执行步骤S22,对第一层图像的邻域相似图进行均值统计,例如设定第一层图像的自适应阈值th,自适应阈值th使用如下公式计算获得:
其中,num为该层图像的像素的总数量。由公式6可知,该层图像的自适应阈值th就是该层图像所有像素的邻域相似值的平均值。此外,由于本实施例中,每一层图像的像素的总数量都是相同的,因此,计算各层图像的自适应阈值时,num的值都是相同的。
接着,执行步骤S23,对第一层图像的邻域相似图进行阈值分割,具体的,将邻域相似图中邻域相似值小于自适应阈值th的像素标记为该层的边缘区域的像素。
相应的,针对第二层图像也执行相同的步骤,即先执行步骤S24,获取第二层图像的邻域相似图,然后执行步骤S25,对第二层图像的邻域相似图各像素的邻域相似值进行均值统计,即使用公式6进行自适应阈值的计算,并执行步骤S26,对第二层图像进行阈值分割,将邻域相似图中邻域相似值小于自适应阈值th的像素标记为该层的边缘区域的像素。
最后,执行步骤S27,将第一层图像的阈值分割结果与第二层图像的阈值分割结果进行合并,即将两层图像中被标记为该层的边缘区域的像素均确定为图像的边缘区域的像素。由于第一层图像的像素与第二层图像的像素是一一对应的,因此,可以根据两层图像中各像素一一对应的关系,判断某一像素是否在在第一层图像或者第二层图像中被标记为边缘区域,如是,则确定该像素为边缘区域的像素。
在确定边缘区域的像素后,对纹理区域的像素进行检测。具体的,执行步骤S28,获取高层图像的邻域相似图,即获取第三层图像的邻域相似图,并且执行步骤S29,获取第三层图像的高频信息,例如获取第三层图像的拉普拉斯图像的数据,并且忽略掉边缘区域的信息,并执行步骤S30,对对非边缘区域的像素做进一步判决和归一化处理。
例如,对第三层图像的邻域相似图做掩膜操作,即对第三层图像的邻域相似图中,在步骤S27已经标记为边缘区域的像素进行掩膜,例如将边缘区域的像素的邻域相似值直接设定为0。然后,将第三层图像的邻域相似图中邻域相似值以及第三层图像的高频信息都不为0 的像素标记为纹理区域的像素,即执行步骤S31。在确定纹理区域的像素后,将剩余的像素确定为平坦区域的像素,即执行步骤S32。至此,将图像的各个像素划分为不同区域的像素。
在执行步骤S31的同时,还执行步骤S30,对纹理区域的像素进行归一化计算,归一化计算使用如下公式:
其中,cnt(i)为当前像素的邻域相似值,max(cnt)、min(cnt)分别为第三层邻域相似图中各像素的邻域相似值的最大值和最小值。可见,依据上述公式,纹理区域的像素经过归一化计算后的值在0~1之间,而平坦区域的像素经过归一化计算后的值则为0。此外,可以将边缘区域的像素经过归一化计算的值设定为1。并且,对于纹理区域的像素,每一个像素均具有自己的相似性系数,即公式7的计算结果g。
图4中,图4中(a)为初始图像,经过区域检测后获得的图像如图4中(b) 所示,区域检测后仅仅将图像划分为三种类型的区域,但未对各区域的像素的灰度值进行融合加权计算。因此,需要执行步骤S6,对不同区域的像素,应用相应的融合计算方法对各像素的灰度值进行融合计算,获得每一像素滤波后的灰度值。
参见图5,首先执行步骤S51,获取各层图像的高频信息以及低频信息,即获取高斯金字塔以及拉普拉斯金字塔的各层图像中每一像素的值。然后,执行步骤S52,判断当前像素是否为边缘区域的像素,如是,则执行步骤S59,采用直接融合的方式计算像素的灰度值,具体的,应用至少一层图像的低频信息以及至少一层图像的高频信息进行像素的灰度值的计算。例如,使用高斯金字塔的第一层图像的像素灰度值以及拉普拉斯金字塔第二层、第三层图像该像素的值进行累加,以累加的结果作为融合后的灰度值,该灰度值即为该像素的滤波后的灰度值。通过直接融合的方式可以确保边缘区域的像素的特征尽可能得到保留,使得边缘区域的像素灰度值更加真实,保留图像中的高频细节特征。
如果当前像素不是边缘区域的像素,则执行步骤S53,判断当前像素是否为平坦区域的像素,如是,执行步骤S60,采用中值滤波融合算法计算像素的灰度值。具体的,应用使用高斯金字塔的第一层图像的像素灰度值以及拉普拉斯金字塔第二层、第三层图像该像素的值进行累加,并且获取当前像素周边多个像素的进行相同累加操作后的结果,并利用周边多个像素累加结果进行中值滤波,例如计算周边多个像素的累加值的平均值,以该平均值作为平坦区域的灰度值。这样,平坦区域的像素的灰度值是经过中值滤波获得的灰度值,能够使得平坦区域的图像更加平滑,更加符合平坦区域的特性。
如果当前像素也不是平坦区域的像素,则执行步骤S54,判断当前像素是否为纹理区域的像素,如是,则执行步骤S55,依据当前像素的相似性系数确定多层图像的加权系数,例如依据相似性系数g确定第一层高斯图像、第二层拉普拉斯图像、第三次拉普拉斯图像的加权系数,并且以上述三层图像的加权系数对三层图像该像素的值进行加权融合计算,获得纹理区域的像素的灰度值。
例如,第一层高斯图像的加权系数为g,第二层拉普拉斯图像的加权系数为1-g/2,第三层拉普拉斯图像的加权系数为1-g/2,则将第一层高斯图像该像素的灰度值乘与第一层高斯图像的加权系数、将第二层拉普拉斯图像该像素的值乘与第二层拉普拉斯图像的加权系数、将第三层拉普拉斯图像该像素的值乘与第三层拉普拉斯图像的加权系数后,将上述三个值累加,获得该像素的灰度值。
然后,执行步骤S56,判断当前像素是否为图像中的最后一个像素,如不是,则是执行步骤S58,获取下一个像素,并返回执行步骤 S52,否则,表示当前像素为当前图像最后一个像素,则输出降噪后的图像,降噪后的图像中每一像素的灰度值都是依据上述加权融合计算后的灰度值。由于针对纹理区域的像素并不是使用固定的加权系数进行融合计算,而是根据该像素的相似性系数进行自适应的调节加权系数,使得纹理区域的像素灰度值计算更加灵活,图像的纹理特征得以保留。
由于步骤S2至步骤S6都是针对单一色彩通道执行的步骤,因此需要针对三个色彩通道分别执行步骤S2至步骤S6,执行步骤S6后,可以得到三个色彩通道每一张图像的各像素的灰度值。但是,由于初始图像是BAYER格式的,因此步骤S7需要根据初始图像的格式,以步骤S1提取各色彩通道图像相反的过程恢复各像素在初始图像中位置,从而形成一张输出图像,即执行反插值计算,反插值计算获得的图像就是输出的降噪图像。
由于本发明的区域检测仅依赖于降噪算法架构中非局部均值滤波的相似性检测结果,不仅充分利用了自身架构的特性,提升了区域检测的精度,而且没有引入额外的运算量,尤其是相比起传统的BM3D 降噪方法,本发明在计算复杂度和硬件实现成本都较低,易于实现。并且,由于本发明是基于图像金字塔来检测各个区域,并且针对不同区域的像素进行有针对性的融合计算,可有效地避免出现对场景的适应性不够的情况,例如避免图像中纹理区域被过度平滑或平坦区域降噪效果不理想等问题。此外,本发明的大部分阈值参数都是自适应设置的,例如阈值分割所使用的自适应阈值th、相似性系数g等参数都不是固定值,因此,对于较为复杂、噪声较多的场景,本发明的方法适应性强。
当然,上述实施例仅仅是本发明优先的实施方式,实际应用时,还可以有如下的变化:构建图像金字塔时,并不限于应用上述的方式构建,例如可以构建DOG图像金字塔,或者应用小波和曲面波等方法替代;或者,在进行区域检测的过程中,不同层图像的自适应阈值选取方式可用固定阈值乘以固定系数替代;又或者,计算纹理区域像素的灰度值时,其加权系数可改为一个较大的固定值替代。
此外,本发明的图像降噪方法可以用于包括车载摄像设备、网络摄像设备和运动相机等一系列图像视频处理的设备中,并可以按实际需求对上述方法中多种部分进行适当调整或删减。
计算机装置实施例:
本实施例的计算机装置可以是智能电子设备,该计算机装置包括有处理器、存储器以及存储在存储器中并可在处理器上运行的计算机程序,处理器执行计算机程序时实现上述基于区域指导的图像降噪方法的各个步骤。当然,智能电子设备还包括摄像装置,用于获取初始图像。
例如,计算机程序可以被分割成一个或多个模块,一个或者多个模块被存储在存储器中,并由处理器执行,以完成本发明的各个模块。一个或多个模块可以是能够完成特定功能的一系列计算机程序指令段,该指令段用于描述计算机程序在终端设备中的执行过程。
本发明所称处理器可以是中央处理单元(Central Processing Unit, CPU),还可以是其他通用处理器、数字信号处理器(Digital Signal Processor,DSP)、专用集成电路(Application Specific Integrated Circuit, ASIC)、现成可编程门阵列(Field-Programmable Gate Array,FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等,处理器是终端设备的控制中心,利用各种接口和线路连接整个终端设备的各个部分。
存储器可用于存储计算机程序和/或模块,处理器通过运行或执行存储在存储器内的计算机程序和/或模块,以及调用存储在存储器内的数据,实现终端设备的各种功能。存储器可主要包括存储程序区和存储数据区,其中,存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等;存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外,存储器可以包括高速随机存取存储器,还可以包括非易失性存储器,例如硬盘、内存、插接式硬盘,智能存储卡(SmartMedia Card, SMC),安全数字(Secure Digital,SD)卡,闪存卡(Flash Card)、至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。
计算机可读存储介质实施例:
上述计算机装置所存储的计算机程序如果以软件功能单元的形式实现并作为独立的产品销售或使用时,可以存储在一个计算机可读取存储介质中。基于这样的理解,本发明实现上述实施例方法中的全部或部分流程,也可以通过计算机程序来指令相关的硬件来完成,该计算机程序可存储于一计算机可读存储介质中,该计算机程序在被处理器执行时,可实现上述基于区域指导的图像降噪方法的各个步骤。
其中,计算机程序包括计算机程序代码,计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。计算机可读介质可以包括:能够携带计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM,Read-Only Memory)、随机存取存储器(RAM,Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是,计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减,例如在某些司法管辖区,根据立法和专利实践,计算机可读介质不包括电载波信号和电信信号。
最后需要强调的是,本发明不限于上述实施方式,例如获取图像金字塔的方式的变化,或者各个区域像素融合计算方式的变化等,这些改变也应该包括在本发明权利要求的保护范围内。
Claims (7)
1.一种基于区域指导的图像降噪方法,包括:
获取初始图像;
其特征在于:
应用所述初始图像构建图像金字塔,所述图像金字塔的每一层图像包括该层图像的低频信息以及高频信息;
对每一层图像的低频信息进行非局部均值滤波,并利用非局部均值滤波过程中相似块搜索结果获取该层图像的邻域相似图;
应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的边缘区域、纹理区域以及平坦区域,针对所述边缘区域、所述纹理区域及所述平坦区域应用至少一层图像的低频信息与至少一层图像的高频信息以相应的融合方法对各像素的灰度值进行融合计算,并输出降噪后的图像;
其中,应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的边缘区域、纹理区域以及平坦区域包括:根据低层图像的邻域相似图中各个像素的邻域相似值确定所述边缘区域的像素;根据高层图像的邻域相似图中各个像素的邻域相似值以及高层图像的高频信息确定所述纹理区域的像素;
根据低层图像的邻域相似图中各个像素的邻域相似值确定所述边缘区域的像素包括:对两层以上的低层图像的邻域相似图中各个像素的邻域相似值进行阈值分割,并对阈值分割结果进行合并,以合并后的结果确定所述边缘区域的像素;
根据高层图像的邻域相似图中各个像素的邻域相似值以及高层图像的高频信息确定所述纹理区域的像素包括:将所述边缘区域的检测结果进行掩膜操作后,将高层图像的邻域相似图中邻域相似值不为零且在高层图像的高频信息也不为零的像素确定为所述纹理区域的像素。
2.根据权利要求1所述的基于区域指导的图像降噪方法,其特征在于:
利用非局部均值滤波过程中相似块搜索结果获取该层图像的邻域相似图包括:
在非局部均值滤波的相似块搜索过程中,计算每一像素对应的匹配窗口与相似窗口的数量,以该像素对应的匹配窗口与相似窗口的数量作为所述邻域相似图中该像素的邻域相似值。
3.根据权利要求1或2所述的基于区域指导的图像降噪方法,其特征在于:
应用至少一层图像的低频信息与至少一层图像的高频信息对所述边缘区域的像素的灰度值进行融合计算包括:
应用低层图像的低频信息与至少两层高层图像的高频信息进行累加得到所述边缘区域的像素的灰度值。
4.根据权利要求1或2所述的基于区域指导的图像降噪方法,其特征在于:
应用至少一层图像的低频信息与至少一层图像的高频信息对所述平坦区域的像素的灰度值进行融合计算包括:
应用低层图像的低频信息与至少两层高层图像的高频信息进行累加后并进行中值滤波得到所述平坦区域的像素的灰度值。
5.根据权利要求1或2所述的基于区域指导的图像降噪方法,其特征在于:
应用各层图像的邻域相似图以及高层图像的高频信息检测图像中的所述纹理区域时,计算所述纹理区域的各像素的相似性系数;
应用至少一层图像的低频信息与至少一层图像的高频信息对所述纹理区域的像素的灰度值进行融合计算包括:
根据所述相似性系数确定多层图像的加权系数并以该加权系数对至少一层图像的低频信息与至少一层图像的高频信息进行加权融合计算,获得所述纹理区域的像素的灰度值。
6.计算机装置,其特征在于,包括处理器以及存储器,所述存储器存储有计算机程序,所述计算机程序被处理器执行时实现如权利要求1至5中任意一项所述基于区域指导的图像降噪方法的各个步骤。
7.计算机可读存储介质,其上存储有计算机程序,其特征在于:所述计算机程序被处理器执行时实现如权利要求1至5中任意一项所述基于区域指导的图像降噪方法的各个步骤。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010611911.3A CN111784605B (zh) | 2020-06-30 | 2020-06-30 | 一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010611911.3A CN111784605B (zh) | 2020-06-30 | 2020-06-30 | 一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111784605A CN111784605A (zh) | 2020-10-16 |
CN111784605B true CN111784605B (zh) | 2024-01-26 |
Family
ID=72761285
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010611911.3A Active CN111784605B (zh) | 2020-06-30 | 2020-06-30 | 一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111784605B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112446838A (zh) * | 2020-11-24 | 2021-03-05 | 海南大学 | 一种基于局部统计信息的图像噪声检测方法、装置 |
CN112884667B (zh) * | 2021-02-04 | 2021-10-01 | 湖南兴芯微电子科技有限公司 | 一种Bayer域降噪方法和降噪*** |
CN112862717B (zh) * | 2021-02-10 | 2022-09-20 | 山东英信计算机技术有限公司 | 一种图像的去噪模糊化方法、***及介质 |
CN113033574A (zh) * | 2021-02-26 | 2021-06-25 | 天津大学 | 一种基于fpga的图像数据降噪***及方法 |
CN113643198A (zh) * | 2021-07-22 | 2021-11-12 | 海宁奕斯伟集成电路设计有限公司 | 图像处理方法、装置、电子设备及存储介质 |
CN114509061A (zh) * | 2021-12-30 | 2022-05-17 | 重庆特斯联智慧科技股份有限公司 | 一种基于障碍物属性的机器人行进路径确定方法和*** |
CN114240941B (zh) * | 2022-02-25 | 2022-05-31 | 浙江华诺康科技有限公司 | 内窥镜图像降噪方法、设备、电子装置和存储介质 |
CN116342891B (zh) * | 2023-05-24 | 2023-08-15 | 济南科汛智能科技有限公司 | 一种适用于自闭症儿童结构化教学监控数据管理*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109544478A (zh) * | 2018-11-26 | 2019-03-29 | 重庆大学 | 一种基于奇异值分解的非局部均值ct图像降噪方法 |
CN109785246A (zh) * | 2018-12-11 | 2019-05-21 | 深圳奥比中光科技有限公司 | 一种非局部均值滤波的降噪方法、装置及设备 |
CN111161188A (zh) * | 2019-12-30 | 2020-05-15 | 珠海全志科技股份有限公司 | 一种降低图像色彩噪声的方法、计算机装置及计算机可读存储介质 |
CN111260580A (zh) * | 2020-01-17 | 2020-06-09 | 珠海全志科技股份有限公司 | 一种基于图像金字塔的图像去噪方法、计算机装置及计算机可读存储介质 |
Family Cites Families (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9489720B2 (en) * | 2014-09-23 | 2016-11-08 | Intel Corporation | Non-local means image denoising with detail preservation using self-similarity driven blending |
-
2020
- 2020-06-30 CN CN202010611911.3A patent/CN111784605B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109544478A (zh) * | 2018-11-26 | 2019-03-29 | 重庆大学 | 一种基于奇异值分解的非局部均值ct图像降噪方法 |
CN109785246A (zh) * | 2018-12-11 | 2019-05-21 | 深圳奥比中光科技有限公司 | 一种非局部均值滤波的降噪方法、装置及设备 |
CN111161188A (zh) * | 2019-12-30 | 2020-05-15 | 珠海全志科技股份有限公司 | 一种降低图像色彩噪声的方法、计算机装置及计算机可读存储介质 |
CN111260580A (zh) * | 2020-01-17 | 2020-06-09 | 珠海全志科技股份有限公司 | 一种基于图像金字塔的图像去噪方法、计算机装置及计算机可读存储介质 |
Non-Patent Citations (1)
Title |
---|
双尺度自适应非局部均值图像降噪算法;赵婧娟;周祚峰;曹剑中;王华;;红外与激光工程(第S1期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
CN111784605A (zh) | 2020-10-16 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111784605B (zh) | 一种基于区域指导的图像降噪方法、计算机装置及计算机可读存储介质 | |
CN111260580B (zh) | 图像去噪方法、计算机装置及计算机可读存储介质 | |
CN111784603B (zh) | 一种raw域图像去噪方法、计算机装置及计算机可读存储介质 | |
US8594451B2 (en) | Edge mapping incorporating panchromatic pixels | |
US8363123B2 (en) | Image pickup apparatus, color noise reduction method, and color noise reduction program | |
KR102523505B1 (ko) | 역 톤 매핑을 위한 방법 및 장치 | |
US7844127B2 (en) | Edge mapping using panchromatic pixels | |
US7876956B2 (en) | Noise reduction of panchromatic and color image | |
CN110246087B (zh) | 参考多通道的多分辨率去除图像色度噪声的***和方法 | |
US9667842B2 (en) | Multi-band YCbCr locally-adaptive noise modeling and noise reduction based on scene metadata | |
CN111161188B (zh) | 降低图像色彩噪声的方法、计算机装置及可读存储介质 | |
CN109214996B (zh) | 一种图像处理方法及装置 | |
CN110517206B (zh) | 彩色摩尔纹消除方法及装置 | |
US9525804B2 (en) | Multi-band YCbCr noise modeling and noise reduction based on scene metadata | |
CN113379609B (zh) | 一种图像处理方法、存储介质及终端设备 | |
CN111031241B (zh) | 图像处理方法及其装置、终端和计算机可读存储介质 | |
US9860456B1 (en) | Bayer-clear image fusion for dual camera | |
CN114998122A (zh) | 一种低照度图像增强方法 | |
US20060012693A1 (en) | Imaging process system, program and memory medium | |
US8385671B1 (en) | Digital camera and method | |
CN111161299A (zh) | 影像分割方法、计算机程序、存储介质及电子装置 | |
Hong et al. | A single image dehazing method based on adaptive gamma correction | |
CN113674158A (zh) | 图像处理方法、装置、设备及存储介质 | |
CN112907653B (zh) | 一种图像处理方法、摄像装置及存储介质 | |
US20070211935A1 (en) | Method and apparatus for estimating noise determination criteria in an image sensor |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |