CN109978783A - 一种彩色图像修复方法 - Google Patents
一种彩色图像修复方法 Download PDFInfo
- Publication number
- CN109978783A CN109978783A CN201910209145.5A CN201910209145A CN109978783A CN 109978783 A CN109978783 A CN 109978783A CN 201910209145 A CN201910209145 A CN 201910209145A CN 109978783 A CN109978783 A CN 109978783A
- Authority
- CN
- China
- Prior art keywords
- image
- color image
- rank
- low
- represented
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 30
- 238000005457 optimization Methods 0.000 claims abstract description 27
- 238000004458 analytical method Methods 0.000 claims abstract description 13
- 230000008878 coupling Effects 0.000 claims abstract description 9
- 238000010168 coupling process Methods 0.000 claims abstract description 9
- 238000005859 coupling reaction Methods 0.000 claims abstract description 9
- 230000008439 repair process Effects 0.000 claims abstract description 8
- 238000013459 approach Methods 0.000 claims abstract description 5
- 230000003190 augmentative effect Effects 0.000 claims abstract description 5
- 238000005429 filling process Methods 0.000 claims abstract description 4
- 239000011159 matrix material Substances 0.000 claims description 22
- 239000004568 cement Substances 0.000 claims description 18
- 230000000694 effects Effects 0.000 claims description 6
- 238000009499 grossing Methods 0.000 claims description 6
- 238000009826 distribution Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 4
- 230000008569 process Effects 0.000 claims description 3
- 238000006243 chemical reaction Methods 0.000 claims description 2
- 230000006870 function Effects 0.000 claims description 2
- 238000000354 decomposition reaction Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 2
- 238000005516 engineering process Methods 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 238000011084 recovery Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000002474 experimental method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
- 238000012549 training Methods 0.000 description 1
- 238000013107 unsupervised machine learning method Methods 0.000 description 1
- 230000000007 visual effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10024—Color image
Landscapes
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及一种彩色图像修复方法,该方法基于对彩色图像不同维度低秩性的分析,通过对图像进行低秩约束优化,在填充过程中保持其低秩性,经过一系列更新迭代之后便可将图像修复;并使用增广拉格朗日乘子法去掉原优化问题各变量之间的耦合。与现有技术相比,本发明具有对彩色图像的适应性更好、保证了彩色图像空间上平滑的特性等优点。
Description
技术领域
本发明涉及图像修复方法,尤其是涉及一种彩色图像修复方法。
背景技术
随着多媒体技术的飞速发展,日常生活和生产过程中会产生越来越多的高维度数据,如彩色图像、多谱图像以及高清视频等。同时,在对这些数据进行传输的过程中,不可避免地会产生一些损耗和缺失,所以对数据的恢复算法在各个领域都有非常重要的应用价值,也一直是研究的热点。
真实图像的行列之间具有非常高的相关性,这样的相关性在数学性质上表现为低秩性,许多方法都依靠这一原则对图像进行低秩约束的优化,实现修复和补全。
J.Liu,P.Musialski,P.Wonka,J.Ye,and S.Member,“Tensor Completion forEstimating Missing Values in Visual Data,”vol.35,no.1,pp.208-220,2013.中介绍了一种基于张量展开形式低秩约束的图像修复算法。该算法的主要过程如下:
Require:输入观测到的缺失图像参数βi,i=1,...,n,迭代次数K
Ensure:输出修复后的图像x
主要的原理为将观测到的缺失图像表示为一个张量其中集合Ω表示观测到的数据点的集合,希望修复后的图像x是满足低秩要求的,上述原理可以表示成以下优化问题:
而在实际应用中,由于张量的秩无法直接求解,作者采用了一种方法对张量的秩进行凸松弛,即用张量展开形式的核范数的加权平均来度量张量的秩,于是有以下优化问题:
使用凸优化的方法,将问题转换成以下形式进行求解:
该优化问题有如下的闭式解:
于是可以依次更新迭代x和Mi,经过一定迭代步骤之后,可以得到修复后的图像。
上述现有技术存在的缺点如下:
1.所提的模型没有考虑彩色图像的本身结构特性,导致最终的修复效果不够准确;
2.算法中间步骤涉及到一些计算的复杂度高;
3.没有考虑彩色图像空间上平滑的特性,导致修复的图像保留细节纹理的能力不强。
发明内容
本发明的目的就是为了克服上述现有技术存在的缺陷而提供一种彩色图像修复方法。
本发明的目的可以通过以下技术方案来实现:
一种彩色图像修复方法,该方法基于对彩色图像不同维度低秩性的分析,通过对图像进行低秩约束优化,在填充过程中保持其低秩性,经过一系列更新迭代之后便可将图像修复;并使用增广拉格朗日乘子法去掉原优化问题各变量之间的耦合。
优选地,所述的基于对彩色图像不同维度低秩性的分析,其过程针对彩色图像本质的结构进行了自适应处理。
优选地,所述的基于对彩色图像不同维度低秩性的分析模型具体为:
其中Z表示恢复后的图像,λ是参数,i是加和操作的索引,取值从1到2,F表示一个实矩阵,其维度为(ni-1)×ni,即行数比列数少1,Fi代表第i个矩阵,Z(i)表示恢复后的图像在第i个维度的展开,集合Ω表示观测到的数据点的集合,||||1代表1范数,||||*代表核范数,s.t.是受限条件,[Fi]j,j=1,[Fi]j,j+1=-1;即矩阵Fi的第j行第j列是1,第j行第j+1列是-1,或者说是对角线元素全部是1,对角线右上方移动一次的位置全部是-1,本公式中将F与Z相乘表示在图像恢复的过程中对图像进行空间平滑上的约束。
优选地,所述的分析模型由两部分组成,第一部分表示各向异性的全变分算子,该算子能够在空间维度上使恢复的图像保持局部平滑的特性,这对图像最终的修复效果有很重要的影响;第二部分表示对图像的低秩约束,此处在分析了彩色图像各个维度上低秩性的分布特点之后给出了适用于彩色图像的低秩约束,即彩色图像只在空间维度上具有低秩性,在通道维度上不具有低秩性。
优选地,所述的使用增广拉格朗日乘子法去掉原优化问题各变量之间的耦合,对应的优化问题转化为:
其中λ和λ2是参数,||||1代表1范数,||||*代表核范数,||||F代表F范数,i是索引,取值为从1到2,表示观测到的缺失图像,表示修复后的图像,集合Ω表示观测到的数据点的集合,代表变量,用于将原优化问题变量之间的耦合去除,便于优化,Λi,Φi,Ψi,分别为对应的拉格朗日乘子,ρ1,ρ2,ρ3,ρ4分别表示对应分量在优化问题中的权重,然后对于需要迭代更新的变量依次求解对应的优化问题;
的更新表达式为:
其中⊙表示矩阵对应元素相乘,sign是取符号函数;
的更新表达式为:
其中Fi是矩阵,代表矩阵Fi的转置。
的更新表达式为:
其中
其中unfold代表张量的展开;
的更新表达式为:
其中K1=V1,K2=V2,K3=U3,vec代表表示对张量进行向量化,代表矩阵相乘,I代表单位矩阵;
Vi的更新表达式为:
其中
的更新表达式为:
优选地,所述的修复方法为一种无监督的修复模型。
与现有技术相比,本发明具有以下优点:
1)图像修复是计算机视觉领域比较底层的工作,是许多后续分析任务的基础,因此具有非常重要的研究价值;
2)本发明所提的彩色图像修复算法基于一种无监督的模型,不需要大量的训练样本和先验知识,因此对于不同场景均有较强的泛化能力。
附图说明
图1为本发明实施例的原图;
图2为本发明实施例的缺失图像;
图3为本发明实施例的修复后图像;
图4为张量的Tucker分解示意图;
图5为张量的展开示意图。
具体实施方式
下面将对本发明实施例中的技术方案进行清楚,完整地描述,显然,所描述的实施例是本发明的一部分实施例,而不是全部实施例。基于本发明中的实施例,本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例,都应属于本发明保护的范围。
在图像处理过程中,通常将一张彩色图像表示成m×n×3的张量,其中m与n分别表示彩色图像的长和宽,3表示通道数(RGB),我们分别把图像的长、宽和通道称为图像的3个维度。本文提出了一种彩色图像修复的算法,可以将观测到的缺失图像经过填充恢复成完整的图像。在对彩色图像的数据结构进行详细分析的前提下,不同于以往的算法,我们经过实验发现彩色图像的数据分布在第三个维度上不具有低秩的特性,所以我们将这一点应用到了模型中。另外模型也结合了目前被证明比较有效的各向异性的全变分平滑算子,该算子主要用于对图像相邻像素之间进行平滑处理从而达到更好的恢复效果。本文的算法在主流的数据集上进行了验证,具有一定的可靠性。
本发明依据的理论基础为张量的低秩填充算法,因为真实数据(如一张完整的彩色图像)内部的元素之间有很强的相关性,而当数据有缺失时这种低秩性就不存在了,所以可以通过对一张图像进行低秩约束进行优化,在填充过程中保持其低秩性,经过一系列更新迭代之后便可将图像修复。此外,基于对彩色图像不同维度低秩性的分析,该算法针对彩色图像本质的结构进行了自适应。作为一种无监督的机器学习方法,该算法不需要经过模型的训练就可以直接使用,大大地减小了计算的复杂度,同时也增加了模型的泛化能力。
此处表示恢复后的图像,Z(i)表示图像在第i个维度的展开,
该模型由两部分组成,第一部分表示各向异性的全变分算子,该算子能够在空间维度上使恢复的图像保持局部平滑的特性,这对图像最终的修复效果有很重要的影响;第二部分表示对图像的低秩约束,此处我们在分析了彩色图像各个维度上低秩性的分布特点之后给出了适用于彩色图像的低秩约束,即彩色图像只在空间维度上具有低秩性,在通道维度上不具有低秩性。
使用增广拉格朗日乘子法去掉原优化问题各变量之间的耦合,对应的优化问题转化为:
其中表示观测到的缺失图像,表示修复后的图像,表示对原图(缺失的图像)做Tucker分解,用于将原优化问题变量之间的耦合去除,便于优化,Λi,Φi,Ψi,分别为对应的拉格朗日乘子,ρ1,ρ2,ρ3,ρ4分别表示对应分量在优化问题中的权重,然后对于需要迭代更新的变量依次求解对应的优化问题;
的更新表达式为:
其中⊙表示矩阵对应元素相乘。
的更新表达式为:
的更新表达式为:
其中
的更新表达式为:
其中K1=V1,K2=V2,K3=U3,
Vi的更新表达式为:
其中
的更新表达式为:
修复过程算法的主要步骤如下所示:
Require:输入观测到的缺失图像参数λ,迭代次数K
Ensure:输出修复后的图像
1:随机初始化
2:for k=1to K
3:分别通过式(3),(4),(5),(6),(7),(8)来更新
6:依次更新拉格朗日乘子Λi=Λi+ρ1(Qi-FiRi),Φi=Φi+ρ2(Ri-Z(i)),Ψi=Ψi+ρ3(Mi-Z(i)),
7:end for
输出:
其中涉及的参数含义以及技术术语如下:
x表示恢复后的图像
表示输入的观测图像
Ω表示观测到的数据点的集合
xΩ表示x的所有集合Ω中的点。
张量:一种高维的数据结构,可以看成是多维的矩阵。
[A]i,j表示矩阵A第i行第j列的元素。
Kronecker积:定义符号为Kronecker积,令A为m×n的矩阵,B为p×q的矩阵,则A与B的Kronecker积定义为如下形式:
张量的Tucker分解:一个三阶张量可以分解成一个张量与三个矩阵相乘的形式,分解后得到的张量通常称为核张量,分解后得到的三个矩被称为三个方向上的因子矩阵,如图4所示:
该分解可以记为
张量的展开:一个三阶张量可以分别按照三个进行展开,该操作记为unfoldi,其中i表示展开的维度,具体实现如图5所示。
张量的向量化:表示对张量进行向量化,即将张量中的元素按照单个索引排列成一个一维的向量。
图1为图像的原图,图2为缺失的图像,通过本发明修复方法,可以得到图3的修复后的效果,由此可知本发明建立在对彩色图像秩分析的基础上,对彩色图像不同维度的秩进行加权处理,相比于其他模型对彩色图像的适应性更好;同时本发明加入了全变分算子,保证了彩色图像空间上平滑的特性。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,可轻易想到各种等效的修改或替换,这些修改或替换都应涵盖在本发明的保护范围之内。因此,本发明的保护范围应以权利要求的保护范围为准。
Claims (6)
1.一种彩色图像修复方法,其特征在于,该方法基于对彩色图像不同维度低秩性的分析,通过对图像进行低秩约束优化,在填充过程中保持其低秩性,经过一系列更新迭代之后便可将图像修复;并使用增广拉格朗日乘子法去掉原优化问题各变量之间的耦合。
2.根据权利要求1所述的一种彩色图像修复方法,其特征在于,所述的基于对彩色图像不同维度低秩性的分析,其过程针对彩色图像本质的结构进行了自适应处理。
3.根据权利要求1所述的一种彩色图像修复方法,其特征在于,所述的基于对彩色图像不同维度低秩性的分析模型具体为:
其中Z表示恢复后的图像,λ是参数,i是加和操作的索引,取值从1到2,F表示一个实矩阵,其维度为(ni-1)×ni,即行数比列数少1,Fi代表第i个矩阵,Z(i)表示恢复后的图像在第i个维度的展开,集合Ω表示观测到的数据点的集合,||||1代表1范数,||||*代表核范数,s.t.是受限条件,[Fi]j,j=1,[Fi]j,j+1=-1;即矩阵Fi的第j行第j列是1,第j行第j+1列是-1,或者说是对角线元素全部是1,对角线右上方移动一次的位置全部是-1,本公式中将F与Z相乘表示在图像恢复的过程中对图像进行空间平滑上的约束。
4.根据权利要求3所述的一种彩色图像修复方法,其特征在于,所述的分析模型由两部分组成,第一部分表示各向异性的全变分算子,该算子能够在空间维度上使恢复的图像保持局部平滑的特性,这对图像最终的修复效果有很重要的影响;第二部分表示对图像的低秩约束,此处在分析了彩色图像各个维度上低秩性的分布特点之后给出了适用于彩色图像的低秩约束,即彩色图像只在空间维度上具有低秩性,在通道维度上不具有低秩性。
5.根据权利要求1所述的一种彩色图像修复方法,其特征在于,所述的使用增
广拉格朗日乘子法去掉原优化问题各变量之间的耦合,对应的优化问题转化为:
其中λ和λ2是参数,||||1代表1范数,||||*代表核范数,||||F代表F范数,i是索引,取值为从1到2,表示观测到的缺失图像,表示修复后的图像,集合Ω表示观测到的数据点的集合,代表变量,用于将原优化问题变量之间的耦合去除,便于优化,Λi,Φi,Ψi,分别为对应的拉格朗日乘子,ρ1,ρ2,ρ3,ρ4分别表示对应分量在优化问题中的权重,然后对于需要迭代更新的变量 依次求解对应的优化问题;
的更新表达式为:
其中⊙表示矩阵对应元素相乘,sign是取符号函数;
的更新表达式为:
其中Fi是矩阵,代表矩阵Fi的转置。
的更新表达式为:
其中
其中unfold代表张量的展开;
的更新表达式为:
其中K1=V1,K2=V2,K3=U3,vec代表表示对张量进行向量化,代表矩阵相乘,I代表单位矩阵;
Vi的更新表达式为:
其中
的更新表达式为:
6.根据权利要求1所述的一种彩色图像修复方法,其特征在于,所述的修复方法为一种无监督的修复模型。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910209145.5A CN109978783A (zh) | 2019-03-19 | 2019-03-19 | 一种彩色图像修复方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201910209145.5A CN109978783A (zh) | 2019-03-19 | 2019-03-19 | 一种彩色图像修复方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN109978783A true CN109978783A (zh) | 2019-07-05 |
Family
ID=67079528
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201910209145.5A Pending CN109978783A (zh) | 2019-03-19 | 2019-03-19 | 一种彩色图像修复方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN109978783A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325697A (zh) * | 2020-03-04 | 2020-06-23 | 西安交通大学 | 一种基于张量本征变换的彩色图像修复方法 |
CN111598798A (zh) * | 2020-04-27 | 2020-08-28 | 浙江工业大学 | 一种基于低秩张量链分解的图像修复方法 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106934778A (zh) * | 2017-03-10 | 2017-07-07 | 北京工业大学 | 一种基于小波域结构和非局部分组稀疏的mr图像重建方法 |
CN107133930A (zh) * | 2017-04-30 | 2017-09-05 | 天津大学 | 基于低秩矩阵重建和稀疏表示的行列缺失图像填充方法 |
CN107609573A (zh) * | 2017-08-17 | 2018-01-19 | 东华大学 | 基于低秩分解和空谱约束的高光谱图像时变特征提取方法 |
CN109102477A (zh) * | 2018-08-31 | 2018-12-28 | 哈尔滨工业大学 | 一种基于非凸低秩稀疏约束的高光谱遥感图像恢复方法 |
CN109241491A (zh) * | 2018-07-28 | 2019-01-18 | 天津大学 | 基于联合低秩和稀疏表示的张量结构性缺失填充方法 |
-
2019
- 2019-03-19 CN CN201910209145.5A patent/CN109978783A/zh active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106934778A (zh) * | 2017-03-10 | 2017-07-07 | 北京工业大学 | 一种基于小波域结构和非局部分组稀疏的mr图像重建方法 |
CN107133930A (zh) * | 2017-04-30 | 2017-09-05 | 天津大学 | 基于低秩矩阵重建和稀疏表示的行列缺失图像填充方法 |
CN107609573A (zh) * | 2017-08-17 | 2018-01-19 | 东华大学 | 基于低秩分解和空谱约束的高光谱图像时变特征提取方法 |
CN109241491A (zh) * | 2018-07-28 | 2019-01-18 | 天津大学 | 基于联合低秩和稀疏表示的张量结构性缺失填充方法 |
CN109102477A (zh) * | 2018-08-31 | 2018-12-28 | 哈尔滨工业大学 | 一种基于非凸低秩稀疏约束的高光谱遥感图像恢复方法 |
Non-Patent Citations (1)
Title |
---|
李灵伟等: "Total Variation Regularized Reweighted Low-rank Tensor Completion for Color Image Inpainting", 《2018 25TH IEEE INTERNATIONAL CONFERENCE ON IMAGE PROCESSING (ICIP)》 * |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN111325697A (zh) * | 2020-03-04 | 2020-06-23 | 西安交通大学 | 一种基于张量本征变换的彩色图像修复方法 |
CN111598798A (zh) * | 2020-04-27 | 2020-08-28 | 浙江工业大学 | 一种基于低秩张量链分解的图像修复方法 |
CN111598798B (zh) * | 2020-04-27 | 2023-09-05 | 浙江工业大学 | 一种基于低秩张量链分解的图像修复方法 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Yuan et al. | Higher-dimension tensor completion via low-rank tensor ring decomposition | |
CN111275007B (zh) | 基于多尺度信息融合的轴承故障诊断方法及*** | |
CN111275618A (zh) | 一种基于双支感知的深度图超分辨率重建网络构建方法 | |
CN103093444B (zh) | 基于自相似性和结构信息约束的图像超分辨重建方法 | |
CN111861961A (zh) | 单幅图像超分辨率的多尺度残差融合模型及其复原方法 | |
CN112489164B (zh) | 基于改进深度可分离卷积神经网络的图像着色方法 | |
Luo et al. | Lattice network for lightweight image restoration | |
CN108305297A (zh) | 一种基于多维张量字典学习算法的图像处理方法 | |
CN109978783A (zh) | 一种彩色图像修复方法 | |
CN110852948A (zh) | 基于特征相关性的图像超分辨方法、存储介质及终端设备 | |
CN113222834A (zh) | 一种基于平滑约束和矩阵分解的视觉数据张量补全方法 | |
CN114022506B (zh) | 一种边缘先验融合多头注意力机制的图像修复方法 | |
CN106447609A (zh) | 一种基于深度卷积神经网络的图像超分辨方法 | |
CN113222812A (zh) | 一种基于信息流加强深度展开网络的图像重建方法 | |
CN112085655A (zh) | 一种基于密集残差注意面部先验网络的人脸超分辨率方法 | |
Dhondea et al. | CALTeC: Content-adaptive linear tensor completion for collaborative intelligence | |
CN113034388B (zh) | 一种古代绘画虚拟修复方法及修复模型的构建方法 | |
CN117408991A (zh) | 基于对抗重构的图像异常检测方法、装置及存储介质 | |
CN104992425B (zh) | 一种基于gpu加速的dem超分辨率方法 | |
Xie et al. | Novel hybrid low-rank tensor approximation for hyperspectral image mixed denoising based on global-guided-nonlocal prior mechanism | |
CN116977822A (zh) | 一种融合CNN与Transformer模型的图像识别网络 | |
CN114155560B (zh) | 基于空间降维的高分辨率人体姿态估计模型的轻量化方法 | |
Zhao et al. | A distributed algorithm for dictionary learning over networks | |
CN109558944A (zh) | 基于可配置卷积层的卷积神经网络的算法优化方法及装置 | |
CN113222832A (zh) | 一种基于结构化张量的分簇多光谱图像修复方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
CB02 | Change of applicant information |
Address after: 200030 Dongchuan Road, Minhang District, Minhang District, Shanghai Applicant after: SHANGHAI JIAO TONG University Address before: 200030 Huashan Road, Shanghai, No. 1954, No. Applicant before: SHANGHAI JIAO TONG University |
|
CB02 | Change of applicant information | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20190705 |
|
RJ01 | Rejection of invention patent application after publication |