CN102326379B - 从图像中去除模糊的方法 - Google Patents
从图像中去除模糊的方法 Download PDFInfo
- Publication number
- CN102326379B CN102326379B CN200980155499.0A CN200980155499A CN102326379B CN 102326379 B CN102326379 B CN 102326379B CN 200980155499 A CN200980155499 A CN 200980155499A CN 102326379 B CN102326379 B CN 102326379B
- Authority
- CN
- China
- Prior art keywords
- image
- blur
- gradient
- blurred image
- blurred
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 80
- 238000001914 filtration Methods 0.000 claims description 13
- 230000002146 bilateral effect Effects 0.000 claims description 9
- 238000004364 calculation method Methods 0.000 description 12
- 238000007796 conventional method Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 12
- 238000005457 optimization Methods 0.000 description 11
- 230000008569 process Effects 0.000 description 11
- 238000012804 iterative process Methods 0.000 description 8
- 239000013598 vector Substances 0.000 description 7
- 230000000694 effects Effects 0.000 description 6
- 239000011159 matrix material Substances 0.000 description 6
- 238000012986 modification Methods 0.000 description 4
- 230000004048 modification Effects 0.000 description 4
- 238000012545 processing Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000035939 shock Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 241001198066 Solanum aethiopicum Species 0.000 description 1
- 235000018650 Solanum gilo Nutrition 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 235000013405 beer Nutrition 0.000 description 1
- 230000015556 catabolic process Effects 0.000 description 1
- 230000021615 conjugation Effects 0.000 description 1
- 230000002596 correlated effect Effects 0.000 description 1
- 230000000875 corresponding effect Effects 0.000 description 1
- 238000006731 degradation reaction Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000005315 distribution function Methods 0.000 description 1
- 230000008030 elimination Effects 0.000 description 1
- 238000003379 elimination reaction Methods 0.000 description 1
- 230000003090 exacerbative effect Effects 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 238000003909 pattern recognition Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 238000003672 processing method Methods 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 238000013179 statistical model Methods 0.000 description 1
- 230000001629 suppression Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/21—Circuitry for suppressing or minimising disturbance, e.g. moiré or halo
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/20—Image preprocessing
- G06V10/30—Noise filtering
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/387—Composing, repositioning or otherwise geometrically modifying originals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
- Studio Devices (AREA)
Abstract
本发明公开了一种用于迅速地从图像中去除模糊的方法。该方法能够快速地从图像中去除模糊并改善图像质量。该方法包括:接收模糊图像的步骤;基于模糊图像来估计非模糊图像的图像估计步骤;根据模糊图像和非模糊图像来估计模糊信息的模糊信息估计步骤;以及基于模糊图像和所估计的模糊信息来从模糊图像中去除模糊的模糊去除步骤,其中迭代地执行图像估计步骤和模糊信息估计步骤。因此,本发明能够快速地去除包括在图像中的模糊,并且能够通过有效地去除模糊来改善图像质量。
Description
技术领域
本发明涉及图像处理方法,尤其涉及一种通过仅使用一个图像来去除图像的模糊的方法以及在其上记录该方法的记录介质,通过采用该方法能够快速且有效地消除模糊。
背景技术
在使用图像捕获设备获取图像的过程中经常会出现模糊现象,并且其是降低图像质量的原因。
为了在光线不足的环境(诸如黑暗的屋子内或晚上的户外)中使用诸如相机之类的设备来获取图像,光线充足对于获取清晰的图像而言是必需的。为了获得充足的光线,图像传感器必须长时间地暴露于光照中。然而,长时间的曝光会因图像传感器抖动而导致所获取的图像变得模糊。
虽然已经对模糊现象的消除进行了大量的研究,但是仍然很难从图像中消除模糊。这是因为从图像中估计并消除模糊需要比给定信息更多的新信息。
为了解决该问题,传统的解决方案使用若干个图像,需要诸如传感器曝光时间这样的额外信息,或者采用有限的模糊形状(诸如局限于可由二维矢量来表示的线性运动的模糊形状)。
Ytizhakey等人(YTIZHZKEY,Y.、MOR,I.A.和KOPEIKA,N.S.,1998,Direct Method For Restoration of Motion-blurred Images,Journal of Opt.Soc.Am.A.15,6,1512-1519)基于图像各向同性的假设来对可由二维矢量表示的模糊进行估计。Rav-Acha和Peleg(RAV-ACHA,A.和PELEG,S.,2005,Two Motion-blurred Images Are Better Than One,Pattern Recognition Letters26,311–317)提出了一种通过使用两个模糊图像来估计模糊的方法。Yuan等人(YUAN,L.、SUN,J.、QUAN,L.和SHUM,H.Y.,2007,Image Deblurring With Blurred/Noisy Image Pairs,ACM Trans.Graphics26,3,1)提出了一 种通过使用有噪非模糊图像和模糊图像来估计并消除模糊的方法。
Money和Kang(MONEY,J.H.和KANG,S.H.,2008,Total Variation Minimizing Blind Deconvolution with Shock Filter Reference,Image and Vision Computing26,2,302–314)提出了一种通过将冲击滤波应用于模糊图像以恢复锐边并之后使用该锐边来估计高斯模糊和能够用2D矢量表示的模糊的方法。
近年来,已经引入了从一个图像来估计一般模糊(general blur)(其能够通过使用少量的参数来表示)而非运动模糊并且消除一般模糊的方法。Fergus等人(FERGUS,R.、SINGH,B.、HERTZMANN,A.、ROWEIS,S.T.和FREEMAN,W.,2006,Removing Camera Shake From A Single Photograph,ACM Trans.Graphics25,787–794)提出了一种通过使用通用图像的统计特性来估计模糊的方法。Jia(JIA,J.,2007,Single Image Motion Deblurring Using Transparency,In Proc.CVPR2007,1–8)提出了一种通过使用alpha matte机制来找到图像中模糊出现区域上的信息并且之后去除图像的模糊的方法。然而,在由Fergus等人提出的方法中很难获得良好的效果,并且该方法因复杂的统计模型而花费许多时间,而对于由Jia提出的方法,为了获得满意的结果必须获得良好的不光滑性,因为该方法高度依赖于alpha matte 机制。
Shan等人(SHAN,Q.、JIA,J.和AGARWALA,A.,2008,High-Quality Motion Deblurring From A Single Image,ACM Trans.Graphics27,73)提出了一种通过建议由Fergus等人提出的通用图像的统计特性为能够容易计算的形式并使用该统计特性来估计和消除模糊的方法。然而,该方法是不实际的,因为需要几分钟到大约几十分钟或者更多的处理时间来处理一个图像。
发明内容
技术问题
因此,提供了本发明的示例性实施例,以本质上解决因现有技术的局限性和缺点导致的一个或多个问题。
本发明的示例性实施例提供了一种去除图像的模糊的方法。
技术方案
在示例性实施例中,用于去除图像的模糊的方法包括:接收模糊图像;根据该模糊图像来估计非模糊图像的图像估计步骤;根据所述模糊图像和所估计的非模糊图像来估计模糊信息的模糊信息估计步骤;以及基于所述模糊图像和所估计的模糊信息来去除模糊图像的模糊的去模糊步骤。这里,迭代地执行图像估计步骤和模糊信息估计步骤。图像估计步骤可以包括:使用图像滤波器预测模糊图像的梯度信息的梯度信息预测步骤;以及基于所估计的模糊信息和模糊图像来执行第一去卷积的第一去卷积步骤。梯度信息预测步骤可以包括:将双边滤波应用于模糊图像;将冲击滤波应用于双边滤波的图像;计算冲击滤波的图像的梯度图(gradient map);以及将阈值应用于所计算出的梯度图。将阈值应用于计算出的梯度图可以包括:基于所计算出的梯度的方向和大小来创建柱状图(histogram);将一梯度的大小设置为阈值,所述梯度能够包括的像素是与所创建的柱状图中包括的每个方向相对应的所述模糊信息的垂直和水平大小的最大值的预定倍或更多倍;以及将所设置的阈值应用于梯度图以截取(truncate)所述梯度。将所设置的阈值应用于梯度图以截取所述梯度可以包括:将小于所述阈值的梯度设置为0。模糊信息估计步骤可以包括:基于模糊图像和截取的梯度来估计模糊信息。模糊信息估计步骤可以包括:通过使用仅包括图像导数而没有像素值的能量函数(energy function)来估计模糊信息。当改变模糊图像和所估计的非模糊图像的分辨率时,可以迭代地执行所述图像估计步骤和所述模糊信息估计步骤。
有益效果
通过采用去除图像的模糊的方法,能够容易且快速地去除一个图像的模糊并且能够改善图像的质量。
附图说明
图1是根据本发明示例性实施例的用于去除图像的模糊的方法的流程图;
图2示出了根据图1中的根据本发明示例性实施例的去除图像的模糊的方法中的多次迭代得到的去模糊图像;
图3是图1中的预测步骤的流程图;
图4示出了在根据本发明示例性实施例的去除图像的模糊的方法中以不同尺度估计的核;
图5示出了根据本发明示例性实施例的估计模糊核的方法的模糊核估计收敛速度与估计模糊核的传统方法的模糊核估计的收敛速度之间的比较;
图6示出了根据本发明示例性实施例的模糊核估计的精度;
图7示出了通过使用根据本发明示例性实施例的估计图像模糊的方法去模糊后的图像;
图8示出了通过使用根据本发明示例性实施例的估计图像模糊的方法去除模糊后的实际图像;
图9示出了图8中所示的去除图像的模糊所用的处理时间。
具体实施方式
因此,示例性实施例能够进行各种修改和替换,在附图中通过示例的方式示出了它们的实施例并且将在本文对它们进行详细描述。然而,应当理解,并不意欲将示例性实施例限制到所公开的特定形式,相反地,示例性实施例将覆盖落入本发明范围内的所有修改、等价形式和替代。在整个附图中,类似的标号指代类似的元件。
应当理解,虽然术语“第一”、“第二”等可以在本文中用于描述各种元件,但是这些元件并不受这些术语的限制。这些术语仅用于将一个元件与另一元件相区分。例如,在不背离示例性实施例的范围的情况下,第一元件可以被称为第二元件,并且类似地,第二元件可以被称为第一元件。如本文所使用的,术语“和/或”包括一个或多个相关所列条目的任何和所有组合。
应当理解,当某个元件被称为“连接到”或“耦合到”另一元件时,其可以直接地连接到或耦合到另一元件或者可以存在着介于其间的元件。相反地,当某个元件被称为“直接连接到”或“直接耦合到”另一元件时,不存在介于其间的元件。
本文所用的术语仅用于描述特定的实施例,并且不意欲限制示例性实 施例。如本文所使用的,单数形式的“一”、“一个”和“所述”也希望包括复数形式,除非上下文中清楚指明并非如此。还应当理解,当在本文中使用时,术语“包含(comprise)”、“包含(comprising)”、“包括(include)”和/或“包括(including)”说明了所述特征、整数、步骤、操作、元件和/或部件的存在,但是并不排除一个或多个其他特征、整数、步骤、操作、元件、部件和/或它们的集合的存在或增加。
除非另有定义,否则本文使用的所有术语(包括技术术语或科技术语)具有本领域技术人员所理解的含义。除非明确定义,否则通常在字典中定义的术语应当被解释为具有与相关方案的上下文相关的意思,而不应当被解释为具有异常或过度形式的意思。
下文中,将参考附图来更详细地描述本发明的优选示例性实施例。
通常,运动模糊可以用公式1来表示:
B=K*L+N 公式1
其中,B指的是模糊图像,K指的是指示图像的模糊信息的运动模糊核(blur kernel)或点分布函数(PSF),以及L指的是潜像(latent image)(例如,强非模糊图像)。而且,N指的是在图像捕获过程中引入的未知噪声,以及*指的是卷积运算符。
为了公式1的盲去卷积(blind deconvolution),必须在迭代过程中对L和K进行优化。而且,可以使用公式2和公式3来估计潜像和模糊核:
L′=argmnnL{||B-K*L|+ρL(L)} 公式2
K′=argminK{||B-K*L||+ρK(K)} 公式3
其中,||B-K*L||指的是数据拟合项(data fitting term),ρL和ρK指的是正则项(regularization term)。
迭代地优化意欲逐步改善模糊核K的精度。通过对最终的模糊核K和给定的模糊图像B执行去卷积运算,可获得最终的去模糊图像。在迭代优化期间估计的潜像对最终的去模糊图像没有直接影响,但对运动模糊核K的改善是有直接影响的,这样潜像就对最终的去模糊图像具有间接的影响。
潜像估计的迭代优化过程使得能够从潜像中恢复锐边并且在平滑区域中获得噪声降低特性,其用来估计更准确的运动模糊核。即使当假设给定图像包括恒定模糊时,也能够在锐边周围获得更准确的运动模糊核。例如, 在具有恒定强度的区域中不能估计运动模糊核,但是由于自然图像通常包括锐边,所以可以通过在潜像估计过程中恢复的边缘来有效地预测运动模糊核。
在普通的自然图像中,平滑区域比锐边区域占据了更大的空间,因此抑制平滑区域中的噪声是至关重要的。平滑区域中未被抑制的噪声可以很大地影响公式3中的数据拟合项,这降低了从锐边中估计模糊核的精度。
在求解公式2的过程中,用于恢复锐边并抑制噪声的传统方法使用一种复杂计算的非线性优化。而且,使用公式3来估计模糊核的传统方法需要对大量的矩阵和矢量进行运算。因此,用于迭代地执行盲去卷积以估计潜像和模糊核的传统方法的缺点是计算量大。
为了克服上述传统方法的缺点,根据本发明示例性实施例的去除图像的模糊的方法通过降低估计潜像和模糊核过程中的计算量来提供快速盲去卷积。
在根据本发明示例性实施例的去除图像的模糊的方法中,假设潜像包括足够的锐边以提高潜像的估计速度,并且通过使用图像滤波器来恢复锐边,并且使用噪声抑制特性而不是对公式2中具有高计算复杂性的非线性正则项进行优化。
而且,模糊核估计过程通过排除像素值而提高了公式3的数值优化过程的速度。
在根据本发明示例性实施例的去除图像的模糊的方法中,潜像估计过程包括两个步骤:简单去卷积和预测。
在简单去卷积步骤中,给定模糊图像B和模糊核K,通过使用具有高斯先验(gaussian prior)的简单且快速去卷积来首先消除模糊以估计潜像L。潜像L包括因高斯先验的特性导致的平滑边缘和平滑区域中的噪声。
在预测潜像L的步骤中,使用图像滤波器来恢复锐边并消除噪声,以获得具有改善精度的估计的潜像L’。这里,在使用潜像来估计模糊核时,将潜像的平滑区域的锐边和被抑制的噪声用作关键特性,以便所估计的潜像L’能够提供高质量的潜像来准确估计模糊核,即使在简单去卷积降低了图像质量的情况下。
模糊核估计步骤使用共轭梯度(CG)来求解公式3。而且,在求解公 式3时,对能量函数执行若干次梯度计算。
由于梯度计算涉及大矩阵和矢量乘法,因此其非常复杂。通过使用快速傅里叶变换能够改善与卷积运算相关联的乘法的计算速度。
然而,有必要在顺序执行快速傅里叶变换中适当地调整妨碍了快速傅里叶变换的直接级联的图像边界。
通过公式3能够大大地降低图像边界调整的次数和快速傅里叶变换的次数,以获得仅具有图像导数的能量函数。而且,该能量函数改善了共轭梯度(CG)的处理速度,向从公式3推导出的计算***提供了具有小条件数(condition number)的良好条件(well condition),并改善了收敛速度。
图1是根据本发明示例性实施例的去除图像的模糊的方法的流程图。
参照图1,首先提供模糊图像(步骤110)。
迭代循环的初始阶段是预测步骤120,其在提供模糊图像时,提供潜像L的初始值,以估计模糊核。
在该预测步骤中,计算潜像L的x方向和y方向上的梯度图{Px,Py},以根据该潜像来预测显著边缘,其中,在该潜像中的噪声在平滑区域得到抑制。
在步骤120到步骤150的迭代中,将由前一迭代中的去卷积步骤获得的估计潜像L(虽然其并不是初始输入)输入到所述预测步骤中。
模糊核估计步骤130通过使用经步骤120中的计算所预测的梯度图{Px,Py}以及模糊图像B来估计模糊核K。
在去卷积步骤140中,模糊核K和模糊图像B用来估计潜像L。这里,估计潜像L是下一迭代中的预测步骤120的输入。
在根据本发明示例性实施例的去除图像的模糊的方法中,迭代地执行步骤120和步骤130以更有效地估计模糊核K和潜像L,从而改善估计精度。
在根据本发明示例性实施例的去除图像的模糊的方法中,在迭代过程中使用模糊图像B和潜像L的灰度级(grayscale version)来更新模糊核K和潜像L的精度。
在通过迭代获得最终的模糊核K之后,对最终的模糊核K和模糊图像B的每个彩色通路(color channel)执行最终的去卷积,以获得最终的去模 糊图像(步骤150)。
图2示出了根据图1所示的根据本发明示例性实施例的去除图像的模糊的方法中的多次迭代得到的去模糊图像。
图2(a)示出了原始的模糊图像,图2(b)示出了根据本发明示例性实施例的最终的去模糊图像。
图2(c)到图2(e)分别示出了迭代地执行图1中的步骤120到步骤140一次、三次和五次的结果,即包括预测的梯度图{Px,Py}和估计的模糊核的去卷积结果。在图2中,使用Poisson重建来使预测的梯度图{Px,Py}可视化。
如图2所示,在根据本发明示例性实施例的去除图像的模糊的方法中,随着图1中步骤120到步骤140的迭代次数的增加(图2(e)中的第5次迭代),能够更准确地估计潜像并且可以基于估计的潜像来预测更准确的模糊核。更准确估计的模糊核可以用来获得最终的去模糊图像(b)。
现在将更详细地描述根据本发明示例性实施例的去除模糊图像的方法。
首先,在图1的预测步骤120中,通过仅留下潜像L中的显著边缘并将其他区域的梯度设置为0来估计图像梯度图{Px,Py}。无论估计的模糊核如何,梯度0的卷积总是为0,以便仅显著边缘才影响模糊核估计步骤130中的模糊核优化。
预测步骤使用冲击滤波器(shock filter)来恢复强边缘。冲击滤波器是通过从模糊图像中恢复锐边来增强图像特征的有效工具。
冲击滤波器可以用公式4来表示:
其中,It指的是t时刻的图像,ΔIt和分别指的是It的拉普拉斯运算和It的梯度。而且,dt指的是单一展开(single evolution)的时间步长。
图3是图1中的预测步骤的流程图。
参照图3,所述预测步骤可以包括应用双边滤波(bilateral filtering)、应用冲击滤波和应用梯度阈值。
首先,应用双边滤波来抑制可能出现在所估计的当前潜像L中的噪声和小的细节(步骤121)。这里,双边滤波能够支持的图像大小可以固定为 例如,5×5。
然后,应用冲击滤波来恢复所估计的潜像L中的锐边(步骤123)。在作为冲击滤波得到的图像的潜像L’中,边缘的对比度得到了改善但噪声增加了。
为了消除噪声,计算潜像L’的梯度图(步骤125)并且将阈值应用于所计算出的梯度图来截取(truncate)所述梯度(步骤127)。被截取的梯度图{Px,Py}成为预测步骤的最终输出。这里,例如可以通过将小于阈值的梯度设置为0来截取所述梯度。
通过将梯度的方向分成预定角度(例如45°)的间隔、根据每个方向(其中,180°与360°之间的角度被看作是仅符号不同但大小相等的方向的角度)的梯度大小来创建柱状图、以及将能够包括同每个方向的模糊核的垂直和水平大小的最大值的预定倍(例如,两倍)或更多倍一样多的像素的梯度的大小设置为所述阈值,来获得用于截取所述梯度的阈值。
在去卷积步骤140中,基于给定的模糊核K和所提供的模糊图像B来估计潜像L。这里,使用能量函数来估计潜像L。可以用公式5来表示能量函数:
其中,指的是不同方向上的偏微分运算符和阶数,ω*∈{ω'0,ω'1,ω2}指的是每个偏微分的权重,α指的是正则项的权重(例如,0或1)。
公式5的第一项是基于使用由Shan等人(SHAN,Q.、JIA,J.和AGARWALA,A.,2008,High-quality Motion Deblurring From A Single Image,ACM Trans.Graphics27,73)提出的图像导数的模糊模型,以降低振铃效应(ringing artifact)。而且,正则项采用具有平滑梯度的潜像L。
通过仅采用两次快速傅里叶变换,能够通过频域中的逐像素(pixel-wise)划分来非常快地优化公式5。公式5的优化结果可以包括平滑边缘和振铃效应。然而,由于仅恢复了锐边并且在步骤120中截取了包括振铃效应的其他部分,所以基于预测步骤120来执行单次去卷积的结果并不影响准确的模糊核估计。
在根据本发明示例性实施例的去除图像的模糊的方法中,执行了多尺度(multi-scale)迭代过程以有效地去除严重模糊图像的模糊。
图4示出了在根据本发明示例性实施例的去除图像的模糊的方法中以不同尺度估计的核。
将参照图4描述多尺度迭代过程。首先,以较低的分辨率(其中,模糊的范围窄)来估计锐边,并且在不加重局部误差的情况下估计这些边缘。
在更高的分辨率中,开始锐边估计,同时避免来自通过之前较低分辨率获取的去卷积图像的严重局部误差。
将在以特定尺度进行迭代过程期间得到的锐边估计应用于通过在之前迭代过程中更新的模糊核获得的去卷积结果。
在根据本发明示例性实施例的去除图像的模糊的方法中,如上面描述的那样,可以通过多尺度迭代过程通过使用小的双边滤波器和冲击滤波器来估计用于大量模糊的模糊核。
多尺度迭代过程使得能够估计用一个尺度尚不能处理的大量模糊。而且,在根据本发明示例性实施例的去除图像的模糊的方法中,在为模糊核估计预测潜像的梯度图中可以执行两次快速傅里叶变换和简单的图像滤波,并且可以非常快地执行双边滤波、冲击滤波和梯度阈值应用。该方法的执行速度要比执行30到60次快速傅里叶变换的传统去模糊方法(例如,由Shan等人在2008年提出的方法)的执行速度快。
使用所估计的梯度图{Px,Py}的模糊核估计使用了公式6中的能量函数:
其中,ω*∈{ω1、ω2}指的是每个偏微分的权重,P*和B*可以随着公式7而变化:
在公式6中,各个(K*P*一B*)形成了映射I,其中映射I被定义为
||I||2=Σ(x,y)I(x,y),其中,(x,y)指的是I中像素的索引,β指的是Tikhonov 正则的权重。
如公式6所示,本发明仅使用图像导数,并且在能量函数中不包括像素值。本发明使用Tikhonov正则项,而不使用传统去模糊方法中K的L1范数(norm)。
可用公式8中所示的矩阵形式来表示公式6:
公式8
其中,A指的是由五个R*构成的矩阵,k指的是模糊核K的矢量,b指的是由五个B*构成的矩阵。
使用共轭梯度(CG)来简化公式8,则fk的梯度如公式9所定义:
公式9
其中,由于A的大小,计算需要许多时间。当潜像L和模糊核K各种的大小为n×n和m×m时,A的大小成为5n2×m2。因此,直接计算Ak需要大量的计算和大的存储容量。即使ATA具有相对小的m2×m2的大小,其仍然需要许多的计算时间。
然而,由于Ak对应于5个P*和K之间的卷积,所以通过使用快速傅里叶变换能够改善计算速度。特别地,Ak计算需要六次快速傅里叶变换,即一次和五次这里,和分别指的是正向FFT和反向FFT,о指的是逐像素乘法。可以先计算;然后再计算共轭梯度(CG)。
类似于上面描述的方法,通过六次快速傅里叶变换能够改善ATy(其中y=Ak)的计算速度。
结果,在共轭梯度(CG)方法的每个迭代步骤中,为了计算梯度 总共要执行12次快速傅里叶变换。通过快速傅里叶变换,预处理步骤可以计算ATb和
在本发明中,通过将Ak和ATy相关联来直接计算ATAk,以便通过减少快速傅里叶变换的数量来进一步提高计算速度。ATAk可用公式10表示:
公式10
其中,指的是的复共轭。在迭代地执行共轭梯度(CG)方法之前可以提前计算因此,对于梯度计算而言仅执行了两次快速傅里叶变换,这样可以将快速傅里叶变换的数量降低10倍。
上述的有效计算源于仅使用图像导数而不使用公式6中的像素值。也就是说,由于本发明仅使用图像偏微分,所以在Ak计算之前,图像的边界被延伸到了偏微分值为0的区域,从而避免了图像边界的问题。
在对公式6进行优化之后,将小于最大值的1/20的元素值设置为0,其他非零值则被正则,从而使得非零值的和为1。
在数值优化过程中,迭代次数和优化收敛的收敛速度是非常关键的。根据本发明示例性实施例的用于估计模糊核的方法比使用像素值的传统方法实现了更快的计算优化。
图5示出了根据本发明示例性实施例的估计模糊核的方法的模糊核估计收敛速度与估计模糊核的传统方法的模糊核估计的收敛速度之间的比较。
从图5可以看出,根据本发明示例性实施例的用于估计模糊核的方法通过几次迭代大大地降低了模糊核估计误差,而使用像素值的用于估计模糊核的传统方法则相当缓慢地降低模糊核估计误差。
如上所述,数值优化的快速收敛源自公式9中的矩阵ATA的良好定义的条件。ATA可用公式11来表示:
其中,被定义为这里,是由偏移了依赖于的量的的矢量表示。除了边缘像素之外,图像偏微分通常接近于0。因此,在对角区域中具有大的元素值,而在非对角区域中具有非常小的元素值。
为了比较模糊核估计的速度,在能量函数与Shan等人在2008年提出的能量函数相同(除了将Tikhonov正则项用在核估计的正则项中之外其它都相同)的情况下,来考虑用于估计核的方法。这里,将Shan等人在2008年使用的Tikhonov正则项称为“Shan-L2”。
Shan等人在2008年提出的原始版本需要大量的计算,因为其在能量函数的正则项中使用L1范数。而且,在Shan等人在2008年提出的原始版本中,在核估计步骤中创建了非常大的矩阵,这导致存储容量不足以及过度的计算量。
另一方面,根据本发明示例性实施例的模糊核估计在执行每个共轭梯度(CG)方法时执行两次快速傅里叶变换,而“Shan-L2”总共执行14次快速傅里叶变换,因为其使用了6个图像:一个像素值图像和五个偏微分图像。而且,“Shan-L2”比本发明需要更多数量的迭代,因为前者使用了像素值。
从图5中可以看出,在根据本发明示例性实施例的估计模糊核的方法中,迭代地执行了五次共轭梯度(CG)处理,而为了获得类似精度,“Shan-L2”则需要30次迭代。
因此,根据本发明示例性实施例的估计模糊核的方法比“Shan-L2”快40倍,并且比使用像素值的其他传统方法快10倍或更多倍。
图6示出了根据本发明示例性实施例的模糊核估计的精度。
通过使用包括不同高斯噪声的测试图像来对比本发明和使用像素值的传统方法,以验证根据本发明示例性实施例的估计核的方法的精度。
参照图6,根据本发明示例性实施例的估计核的方法与使用像素值来估计核的传统方法基本上具有相同的精度,虽然前者并不使用像素值。在一些示例性实施例中,由于通过排除像素值而获得的良好定义的计算***,根据本发明示例性实施例的估计核的方法比通过使用像素值来估计核的传统方法具有更高的精度。
图7示出了通过使用根据本发明示例性实施例的估计图像模糊的方法去模糊后的图像。
从图7中可以看出,所估计的模糊核基本上与原始模糊核相同,并且去模糊图像包括原始图像的被精确恢复的细节。
图8示出了通过使用根据本发明示例性实施例的估计图像模糊的方法去模糊后的实际图像。图8所示的各个图像包括不同的复杂结构和相机运动。
从图8中可以看出,为了获得对象的更显著的形式和结构,大大地加 强了每个去模糊图像的锐边。
图9示出了图8中所示的去除图像的模糊的处理时间。
准备以下试验环境,其具有基于MS Windows XP(32位)的Intel Core2CPU2.66GHz、3.25GB RAM、和NVIDIA的GeForce GTX显卡的个人计算机(PC)。对于该实验而言,通过使用该显卡的GPU加速功能来体现所述去模糊方法。从图9可以看出,即使当核很大时,也能够通过使用根据本发明示例性实施例的去除图像的模糊的方法来在几秒内去除输入模糊图像的模糊。
通过采用去除图像的模糊的方法以及在其上记录有去模糊方法的记录介质,图像滤波被应用于接收到的模糊图像上以恢复边缘并消除噪声,预测梯度图,基于梯度图和模糊图像来估计模糊核,对所估计的模糊核和模糊图像执行去卷积以估计潜像。迭代地执行这些过程以改善模糊核的估计精度并然后估计最终的模糊核,并且对最终的模糊核和模糊图像执行最终的去卷积以去除图像的模糊。模糊核估计过程仅使用了图像导数而未使用像素值。
因此,能够通过仅使用一个模糊图像来在维持图像质量的同时消除模糊,并且与传统的去模糊方法相比能够大大地降低去模糊时间。
对本领域技术人员显而易见的是,在不背离本发明的精神或范围的情况下,可以对本发明进行各种修改和改变。因此,意欲使本发明涵盖落入所附权利要求范围内的本发明的修改和改变及其等价形式。
Claims (5)
1.一种去除图像的模糊的方法,包括:
接收模糊图像;
图像估计步骤,其根据所述模糊图像来估计非模糊图像;
模糊信息估计步骤,其根据所述模糊图像和所估计的非模糊图像来估计模糊信息;以及
去除模糊步骤,其基于所述模糊图像和所估计的模糊信息来去除所述模糊图像的模糊,
其中,迭代地执行所述图像估计步骤和所述模糊信息估计步骤,
其中,所述图像估计步骤包括:梯度信息预测步骤,其使用图像滤波器获得所述模糊图像的所计算出的梯度图;以及,第一去卷积步骤,其基于所估计的模糊信息和所述模糊图像来执行第一去卷积;
其中,所述梯度信息预测步骤包括:将双边滤波应用于所述模糊图像;将冲击滤波应用于所述双边滤波的图像;对所述冲击滤波的图像计算梯度图;以及将阈值应用于所计算的梯度图;
其中,将阈值应用于所计算的梯度图包括:基于所计算出的梯度图中每个梯度的方向和大小来创建柱状图;将一梯度的大小设置为阈值,所述梯度能够包括的像素是与所创建的柱状图中包括的每个方向相对应的所述模糊信息的垂直和水平大小的最大值的预定倍或更多倍;以及将所设置的阈值应用于所述梯度图以截取所述梯度。
2.根据权利要求1所述的方法,其中,将所设置的阈值应用于所述梯度图以截取所述梯度包括:将小于所述阈值的梯度设置为0。
3.根据权利要求1所述的方法,其中,所述模糊信息估计步骤包括:基于所述模糊图像和截取的梯度来估计所述模糊信息。
4.根据权利要求1所述的方法,其中,所述模糊信息估计步骤包括:通过使用仅包括图像导数而不包括像素值的能量函数来估计所述模糊信息。
5.根据权利要求1所述的方法,其中,当改变所述模糊图像和所估计的非模糊图像的分辨率时,迭代地执行所述图像估计步骤和所述模糊信息估计步骤。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
KR1020080138195A KR100990791B1 (ko) | 2008-12-31 | 2008-12-31 | 영상의 블러 제거 방법 및 블러 제거 방법이 기록된 기록매체 |
KR10-2008-0138195 | 2008-12-31 | ||
PCT/KR2009/005825 WO2010076945A2 (ko) | 2008-12-31 | 2009-10-12 | 이미지의 블러 제거 방법 및 이미지의 블러 제거 방법이 기록된 기록매체 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN102326379A CN102326379A (zh) | 2012-01-18 |
CN102326379B true CN102326379B (zh) | 2014-11-05 |
Family
ID=42285081
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN200980155499.0A Active CN102326379B (zh) | 2008-12-31 | 2009-10-12 | 从图像中去除模糊的方法 |
Country Status (6)
Country | Link |
---|---|
US (1) | US8380000B2 (zh) |
JP (1) | JP4938070B2 (zh) |
KR (1) | KR100990791B1 (zh) |
CN (1) | CN102326379B (zh) |
DE (1) | DE112009004059B4 (zh) |
WO (1) | WO2010076945A2 (zh) |
Families Citing this family (41)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
EP2454876B1 (en) * | 2009-10-21 | 2013-12-04 | Ron Banner | Real-time video deblurring |
JP5184574B2 (ja) * | 2010-04-30 | 2013-04-17 | パナソニック株式会社 | 撮像装置、画像処理装置、および画像処理方法 |
CN101986345B (zh) * | 2010-11-04 | 2012-06-06 | 浙江大学 | 一种图像去模糊方法 |
US9535537B2 (en) | 2010-11-18 | 2017-01-03 | Microsoft Technology Licensing, Llc | Hover detection in an interactive display device |
CN102572201B (zh) * | 2010-12-31 | 2015-01-28 | 北京大学 | 一种图像网纹去除方法及*** |
KR101839617B1 (ko) * | 2011-07-11 | 2018-03-19 | 포항공과대학교 산학협력단 | 멀티프레임을 이용한 비균일 모션 블러 제거 방법 및 장치 |
US8705881B2 (en) * | 2011-09-02 | 2014-04-22 | Adobe Systems Incorporated | Motion deblurring for text images |
JP5910043B2 (ja) * | 2011-12-02 | 2016-04-27 | 富士通株式会社 | 撮像装置、画像処理プログラム、画像処理方法、および画像処理装置 |
JP2013152583A (ja) * | 2012-01-25 | 2013-08-08 | Nagoya Institute Of Technology | 画像処理装置 |
CN102708541B (zh) * | 2012-02-22 | 2015-01-14 | 贵州大学 | 微扰法解图像模糊 |
KR101810876B1 (ko) * | 2012-03-13 | 2018-01-26 | 삼성전자주식회사 | 타일 단위를 기반으로 큰 입력 영상의 비균일 모션 블러를 제거하는 방법 및 장치 |
US9245328B2 (en) | 2012-03-29 | 2016-01-26 | Nikon Corporation | Algorithm for minimizing latent sharp image cost function and point spread function with a spatial mask in a fidelity term |
WO2013148142A1 (en) * | 2012-03-29 | 2013-10-03 | Nikon Corporation | Algorithm for minimizing latent sharp image cost function and point spread function cost function with a spatial mask in a regularization term |
WO2013165595A1 (en) * | 2012-04-30 | 2013-11-07 | Nikon Corporation | Point spread function cost function with non-uniform weights |
US8867856B2 (en) | 2012-11-12 | 2014-10-21 | Adobe Systems Incorporated | De-noising image content using directional filters for image de-blurring |
CN103337055B (zh) * | 2013-06-24 | 2016-07-20 | 暨南大学 | 一种基于梯度拟合的文本图像去模糊方法 |
WO2015017194A1 (en) * | 2013-07-29 | 2015-02-05 | Nikon Corporation | Multiple phase method for image deconvolution |
US9430817B2 (en) | 2013-11-12 | 2016-08-30 | Microsoft Technology Licensing, Llc | Blind image deblurring with cascade architecture |
US9659351B2 (en) * | 2014-03-12 | 2017-05-23 | Purdue Research Foundation | Displaying personalized imagery for improving visual acuity |
CN104932868B (zh) * | 2014-03-17 | 2019-01-15 | 联想(北京)有限公司 | 一种数据处理方法及电子设备 |
CN105096261B (zh) * | 2014-05-13 | 2018-04-17 | 北京大学 | 图像处理装置和图像处理方法 |
CN105469363B (zh) * | 2014-09-05 | 2018-05-18 | 华为技术有限公司 | 基于模糊图像生成清晰图像的方法和装置 |
CN104794691B (zh) * | 2015-04-07 | 2017-06-23 | 浙江大学 | 利用广义高斯模型进行单张失焦图像清晰重建的方法 |
KR101624503B1 (ko) | 2015-05-11 | 2016-05-26 | 한화탈레스 주식회사 | 번짐 영상의 복원 방법 |
WO2016183716A1 (zh) * | 2015-05-15 | 2016-11-24 | 北京大学深圳研究生院 | 图像去模糊方法及*** |
KR101596203B1 (ko) * | 2015-06-16 | 2016-02-22 | 중앙대학교 산학협력단 | 모션 블러 이미지 복원 방법 및 장치 |
JP6541454B2 (ja) * | 2015-06-17 | 2019-07-10 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
JP2017010092A (ja) * | 2015-06-17 | 2017-01-12 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理方法、画像処理プログラム、および、記憶媒体 |
KR101671391B1 (ko) | 2015-07-07 | 2016-11-02 | 한국과학기술연구원 | 레이어 블러 모델에 기반한 비디오 디블러링 방법, 이를 수행하기 위한 기록 매체 및 장치 |
US11354881B2 (en) | 2015-07-27 | 2022-06-07 | United Launch Alliance, L.L.C. | System and method to enable the application of optical tracking techniques for generating dynamic quantities of interest with alias protection |
US9852330B1 (en) | 2015-07-27 | 2017-12-26 | United Launch Alliance, L.L.C. | System and method to enable the application of optical tracking techniques for generating dynamic quantities of interest with alias protection |
CN105512461B (zh) * | 2015-11-26 | 2019-02-12 | 深圳市华星光电技术有限公司 | 背光源mura值的计算方法、***及检测装置 |
CN105957043B (zh) * | 2016-06-22 | 2018-12-14 | 西北工业大学 | 基于梯度自动激活的模糊图像盲复原方法 |
WO2018097677A1 (en) | 2016-11-28 | 2018-05-31 | Samsung Electronics Co., Ltd. | Image processing apparatus, image processing method, and computer-readable recording medium thereof |
KR101862490B1 (ko) | 2016-12-13 | 2018-05-29 | 삼성전기주식회사 | 영상 보정 프로세서 및 컴퓨터 판독가능 기록 매체 |
US10628995B2 (en) | 2017-04-17 | 2020-04-21 | Microsoft Technology Licensing, Llc | Anti-aliasing of graphical elements defined based on functions |
CN107610056B (zh) * | 2017-08-11 | 2020-08-11 | 南京信息工程大学 | 基于全变分的混合加权维纳滤波图像去噪方法 |
US11276159B1 (en) | 2018-05-15 | 2022-03-15 | United Launch Alliance, L.L.C. | System and method for rocket engine health monitoring using digital image correlation (DIC) |
KR102126916B1 (ko) | 2018-11-30 | 2020-06-26 | 동국대학교 산학협력단 | 블러된 영상 복원을 위한 장치 및 방법 |
CN110874826B (zh) * | 2019-11-18 | 2020-07-31 | 北京邮电大学 | 应用于离子束精准镀膜的工件图像去雾化方法及装置 |
CN116612048B (zh) * | 2023-07-17 | 2023-09-26 | 山东产研卫星信息技术产业研究院有限公司 | 一种光学卫星遥感影像去模糊处理方法及*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1904941A (zh) * | 2005-07-29 | 2007-01-31 | 清华大学 | 一种图像处理中的去模糊方法 |
CN1985274A (zh) * | 2004-07-09 | 2007-06-20 | 诺基亚公司 | 用于复原图像模型中颜色分量的方法、***和程序模块 |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0832839A (ja) * | 1994-07-19 | 1996-02-02 | Sharp Corp | 雑音除去装置 |
JP4344968B2 (ja) | 1999-10-28 | 2009-10-14 | ソニー株式会社 | 画像処理装置および画像処理方法、並びにデータ処理装置およびデータ処理方法 |
US7440634B2 (en) * | 2003-06-17 | 2008-10-21 | The Trustees Of Columbia University In The City Of New York | Method for de-blurring images of moving objects |
KR100688536B1 (ko) | 2005-03-09 | 2007-03-02 | 삼성전자주식회사 | 영상신호 잡음제거장치 및 영상신호 잡음제거방법 |
US20070165961A1 (en) * | 2006-01-13 | 2007-07-19 | Juwei Lu | Method And Apparatus For Reducing Motion Blur In An Image |
US7587099B2 (en) * | 2006-01-27 | 2009-09-08 | Microsoft Corporation | Region-based image denoising |
JP2007334457A (ja) * | 2006-06-12 | 2007-12-27 | Toshiba Corp | 画像処理装置及び画像処理方法 |
US20080137978A1 (en) * | 2006-12-07 | 2008-06-12 | Guoyi Fu | Method And Apparatus For Reducing Motion Blur In An Image |
JP4799428B2 (ja) * | 2007-01-22 | 2011-10-26 | 株式会社東芝 | 画像処理装置及び方法 |
KR101399012B1 (ko) * | 2007-09-12 | 2014-05-26 | 삼성전기주식회사 | 영상 복원 장치 및 방법 |
JP2009182576A (ja) * | 2008-01-30 | 2009-08-13 | Canon Inc | 画像処理装置、撮像装置、印刷装置及び画像処理方法 |
-
2008
- 2008-12-31 KR KR1020080138195A patent/KR100990791B1/ko active IP Right Grant
-
2009
- 2009-10-12 CN CN200980155499.0A patent/CN102326379B/zh active Active
- 2009-10-12 DE DE112009004059.4T patent/DE112009004059B4/de active Active
- 2009-10-12 WO PCT/KR2009/005825 patent/WO2010076945A2/ko active Application Filing
- 2009-10-16 US US12/580,975 patent/US8380000B2/en active Active
- 2009-10-16 JP JP2009239797A patent/JP4938070B2/ja not_active Expired - Fee Related
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN1985274A (zh) * | 2004-07-09 | 2007-06-20 | 诺基亚公司 | 用于复原图像模型中颜色分量的方法、***和程序模块 |
CN1904941A (zh) * | 2005-07-29 | 2007-01-31 | 清华大学 | 一种图像处理中的去模糊方法 |
Also Published As
Publication number | Publication date |
---|---|
US20100166332A1 (en) | 2010-07-01 |
JP2010157210A (ja) | 2010-07-15 |
CN102326379A (zh) | 2012-01-18 |
WO2010076945A2 (ko) | 2010-07-08 |
US8380000B2 (en) | 2013-02-19 |
WO2010076945A3 (ko) | 2010-08-12 |
KR100990791B1 (ko) | 2010-10-29 |
DE112009004059B4 (de) | 2017-07-27 |
KR20100079658A (ko) | 2010-07-08 |
DE112009004059T5 (de) | 2012-07-12 |
JP4938070B2 (ja) | 2012-05-23 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN102326379B (zh) | 从图像中去除模糊的方法 | |
Whyte et al. | Deblurring shaken and partially saturated images | |
US10325358B2 (en) | Method and system for image de-blurring | |
Cho et al. | Fast motion deblurring | |
EP2489007B1 (en) | Image deblurring using a spatial image prior | |
US8705881B2 (en) | Motion deblurring for text images | |
US9262815B2 (en) | Algorithm for minimizing latent sharp image cost function and point spread function cost function with a spatial mask in a regularization term | |
US8379120B2 (en) | Image deblurring using a combined differential image | |
CN110675347A (zh) | 一种基于组稀疏表示的图像盲复原方法 | |
Singh et al. | An adaptively accelerated Lucy-Richardson method for image deblurring | |
Fang et al. | Self-supervised non-uniform kernel estimation with flow-based motion prior for blind image deblurring | |
Son et al. | Image-pair-based deblurring with spatially varying norms and noisy image updating | |
CN112862729B (zh) | 一种基于特征曲线指导的遥感图像去噪方法 | |
KR101152525B1 (ko) | 모션 블러 제거 방법 및 이러한 방법을 수행하는 장치 | |
Liu et al. | Blind deblurring with patch-wise second-order gradient prior | |
He et al. | Joint motion deblurring and superresolution from single blurry image | |
Jiang | A multi-parameter regularization model for deblurring images corrupted by impulsive noise | |
Tsai et al. | An improved adaptive deconvolution algorithm for single image deblurring | |
Zaka et al. | Blind image deblurring using laplacian of Gaussian (LoG) based image prior | |
Rana et al. | Image deblurring methodology using wiener filter & genetic algorithm | |
Kerouh et al. | A quality measure based stopping criterion for iterative deblurring algorithms | |
Raju Dhanakshirur et al. | Evidence based feature selection and collaborative representation towards learning based PSF estimation for motion deblurring | |
Ashok et al. | Image deblurring using L0 sparse and directional filters | |
Singh et al. | An efficient non-local approach for noise reduction in natural images. | |
Brandt | Evaluation of Deconvolution Methods |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
C14 | Grant of patent or utility model | ||
GR01 | Patent grant |