CN113240596A - 一种基于高阶张量奇异值分解的彩***恢复方法及*** - Google Patents

一种基于高阶张量奇异值分解的彩***恢复方法及*** Download PDF

Info

Publication number
CN113240596A
CN113240596A CN202110495745.XA CN202110495745A CN113240596A CN 113240596 A CN113240596 A CN 113240596A CN 202110495745 A CN202110495745 A CN 202110495745A CN 113240596 A CN113240596 A CN 113240596A
Authority
CN
China
Prior art keywords
tensor
order
rank
matrix
dimension
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN202110495745.XA
Other languages
English (en)
Other versions
CN113240596B (zh
Inventor
***
王智豪
商彦英
覃文金
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Southwest University
Original Assignee
Southwest University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Southwest University filed Critical Southwest University
Priority to CN202110495745.XA priority Critical patent/CN113240596B/zh
Publication of CN113240596A publication Critical patent/CN113240596A/zh
Application granted granted Critical
Publication of CN113240596B publication Critical patent/CN113240596B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20048Transform domain processing
    • G06T2207/20056Discrete and fast Fourier transform, [DFT, FFT]

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)

Abstract

本发明属于彩***恢复技术领域,公开了一种基于高阶张量奇异值分解的彩***恢复方法及***,所述基于高阶张量奇异值分解的彩***恢复方法包括:基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;通过在张量上实施T‑SVD,定义新的张量维数秩;利用基于张量前向秩的张量核范数,并利用近端算子和ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。实验结果表明,在理论最佳参数的前提下,对于生成数据和彩***,HTRPCA在处理相应问题方面具有优越性,为张量准确恢复提供了理论保障。

Description

一种基于高阶张量奇异值分解的彩***恢复方法及***
技术领域
本发明属于彩***恢复技术领域,尤其涉及一种基于高阶张量奇异值分解的彩***恢复方法及***。
背景技术
目前,随着数据科学和计算机硬件能力的发展,人们处理大数据量的高维张量成为可能。张量是多维数据建模的强大工具,如彩色图像,视频,高光谱图像等。对于高维数据的处理,以压缩感知和低秩矩阵为代表的传统的稀疏恢复方法恢复数据时会把高维数据展开成向量或矩阵,然后进行数据建模。然而,这种方法会破坏原始数据的多维特征,从而不可逆转地丢失相应的结构信息。张量主成分分析问题是将高维数据分解为低秩部分和稀疏部分的一种基本数据研究方法。主成分分析方法在处理轻微扰动数据时非常方便有效。然而,现实生活中的数据往往会受到较大程度的干扰,如噪声污染、部分数据丢失等。为了解决主成分分析出现的这种问题,提出了鲁棒主成分分析(RPCA)方法。观察矩阵为
Figure BDA0003054187430000011
中的X,可组成为X=L0+E0。在一定的假设下,通过求解下面的问题,可以高概率恢复低秩部分L0和稀疏部分E0
Figure BDA0003054187430000012
这里RPCA的主要问题是它只能处理矩阵数据,对数据的维数有限制。将基于矩阵的主成分分析扩展到张量的情况需要有处理张量的有效工具。首先需要对张量的秩有一个合理的定义,秩是由张量分解的方式决定的。最常用的张量秩定义是CANDECOMP/PARAFAC(CP)秩和Tucker秩。CP秩在CP分解的基础上定义为实现CP分解的最小秩1张量的个数。然而,CP秩的精确计算已被证明是一个NP难的数学问题。Tucker秩基于Tucker分解,是由各模态矩阵秩组成的向量。2013年,Liu等人提出SNN作为Tucker秩的凸替代。然而,SNN不是Tucker秩的紧凸替代,并且SNN破坏了张量的空间结构,在实践层面仍有不少提升空间。特别的,Kilmer等将张量的维数关系作为一个整体来研究张量的奇异值分解(T-SVD)。首先对
Figure BDA0003054187430000013
中的阶-3张量
Figure BDA00030541874300000113
的管纤维进行离散傅里叶变换(DFT)。然后在傅里叶域中对张量的每个正向切片进行矩阵SVD。最后通过逆DFT得到
Figure BDA00030541874300000114
Figure BDA0003054187430000014
and
Figure BDA0003054187430000015
是正交张量,
Figure BDA0003054187430000016
是f-对角张量(每个切片是一个对角矩阵)。张量的秩定义为非零奇异管的个数。因此,把t-SVD下的张量秩称为管秩。
在Kilmer的基础上,C.Lu提出了TRPCA方法,将PCA可处理的数据维数提高到3阶,开创性地将张量的主成分分析运算与熟悉的矩阵主成分分析连接,证明了矩阵的RPCA方法是TRPCA的特殊情况。TRPCA的主要结论为:观测三阶张量
Figure BDA0003054187430000017
可分解为
Figure BDA0003054187430000018
在一定的假设下,通过求解下面的问题,可以高概率恢复低秩部分
Figure BDA0003054187430000019
和稀疏部分ε0
Figure BDA00030541874300000110
其中,张量核范数||·||*定义为
Figure BDA00030541874300000111
的第一个正向切片的所有元素之和,其中
Figure BDA00030541874300000112
通过对x取t-SVD获得。实验证明,由于保持了数据结构的完整性,直接对张量进行处理比将张量展开成低维数据更有效。TRPCA引起了人们的广泛关注,解决了许多研究问题。
由于现实生活中存在大量的高维数据(维度p大于等于4),自然会想到将PCA方法应用到任意的p阶张量。此时主要用于处理3阶数据的TRPCA方法显得不足,尽管它能够通过将高阶转化为3阶处理,但又陷入了传统低阶方法的困境。在得到提出的p阶张量主成分分析(HTRPCA)方法时有相当多的困难:首先目前高维张量的一些基本性质仍处于研究阶段,难以给出p阶张量的具体表达式;其次,对于3阶张量,可以把它分为列、行、管或切片,然而,随着张量维数的增加,这种分解变得难以描述;再者,没有一个统一的高阶张量的运算法则,需要对算法所需的高阶张量代数框架有完整的清晰的定义。
通过上述分析,现有技术存在的问题及缺陷为:
(1)传统鲁棒主成分分析方法只能处理矩阵数据,对数据的维数有限制。
(2)现有的TRPCA方法在应用于高维数据(p≥4)时表现的效果不佳。
(3)高维张量的代数框架目前处于初步研究阶段,一些如:张量的表示、一般运算、分解等关键要素缺少统一或最优的定义。
解决以上问题及缺陷的难度为:为实现高阶鲁棒奇异值分解,需要准确地定义高阶张量的具体表达式、高阶张量之间的运算法则以及高阶张量的分解与相应的秩。
解决以上问题及缺陷的意义为:克服了维度上的限制,理论上能够对任意阶数的数据进行RPCA处理,恢复出数据中的低秩部分和稀疏误差部分,可应用于视频去噪、人脸去噪、背景建模等方面,同时为该领域的后继研究奠定基础。
发明内容
针对现有技术存在的问题,本发明提供了一种基于高阶张量奇异值分解的彩***恢复方法及***。
本发明是这样实现的,一种基于高阶张量奇异值分解的彩***恢复方法,所述基于高阶张量奇异值分解的彩***恢复方法包括以下步骤:
步骤一,基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;其中,所述p≥3;提出HTRPCA问题所需的完整高阶张量代数框架,为后面步骤提供基础理论工具。
步骤二,根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;降低算法运行时间提高效率。
步骤三,通过在张量上实施T-SVD,定义新的张量维数秩;
步骤四,利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。步骤三和步骤四秩与基于秩的张量核范数的定义以及相关定理,为算法提供了理论保证,利用提出的算法进行相关的实验研究。
进一步,所述基于高阶张量奇异值分解的彩***恢复方法中,所述符号包括:
实数域和复数域分别记为R和C,用黑体欧拉字母表示张量,上标表示张量的相应维数,例如一个p阶张量可以记为
Figure BDA0003054187430000021
矩阵用黑体大写字母表示,例如A,向量以黑体小写字母表示,例如a,用小写字母表示标量,例如a。一个阶3张量
Figure BDA0003054187430000022
可以看成是矩阵的组合,称之为切片。对于任意p阶张量
Figure BDA0003054187430000023
也可以看成是低维张量的组合称之为次张量通过固定一些原始张量的维数而得到。在子张量的右上角标记一个序列,例如
Figure BDA0003054187430000024
这个张量显然是由
Figure BDA0003054187430000025
固定它的第j维度为ij同时固定它的第k维度为ik。对高阶张量的处理一般从最后一个维度逆向一直到倒数第二个维度为止,将
Figure BDA0003054187430000026
简写为
Figure BDA0003054187430000027
特别的,
Figure BDA0003054187430000028
的前向切片定义为
Figure BDA0003054187430000029
它是一个二阶子张量并且可以被记为
Figure BDA00030541874300000210
并且称大小为1×1×n3×…×np的子张量
Figure BDA00030541874300000211
为管子张量。
A和B在
Figure BDA00030541874300000212
上的內积定义为<A,B>=tr(A*B)。三阶张量
Figure BDA00030541874300000213
Figure BDA00030541874300000214
Figure BDA00030541874300000215
上的內积定义为
Figure BDA00030541874300000216
有:
Figure BDA0003054187430000031
对于任意
Figure BDA0003054187430000032
它的复共轭定义为
Figure BDA0003054187430000033
即取
Figure BDA0003054187430000034
每一个元素的复共轭。
矩阵的谱范数定义为A=maxiσi(A),即为A的最大元素。矩阵的核范数定义为||A||*=∑iσi(A)。定义p阶张量的l1-范数为
Figure BDA0003054187430000035
无穷范数定义为
Figure BDA0003054187430000036
F范数定义为
Figure BDA0003054187430000037
进一步,所述基于高阶张量奇异值分解的彩***恢复方法中,所述DFT的共轭性质,包括:
离散傅里叶变换(DFT)在算法运算时起着核心作用。对
Figure BDA0003054187430000038
的傅里叶变换后结果为
Figure BDA0003054187430000039
记为
Figure BDA00030541874300000310
其中Fn是DFT矩阵,记为:
Figure BDA00030541874300000311
其中,ω=e-2πi/n。注意
Figure BDA00030541874300000312
是一个正交矩阵。已知a的循环矩阵可以用DFT矩阵对角化。
Figure BDA00030541874300000313
其中,
Figure BDA00030541874300000327
表示一个对角矩阵,其第i个对角项为
Figure BDA00030541874300000314
引理2.1对于任何实向量
Figure BDA00030541874300000315
有其关联向量
Figure BDA00030541874300000316
Figure BDA00030541874300000317
的第i项定义为
Figure BDA00030541874300000318
满足:
Figure BDA00030541874300000319
把这个性质扩展到矩阵的情况,并最终扩展到p阶张量的情况。
引理2.2对于
Figure BDA00030541874300000320
张量
Figure BDA00030541874300000321
是通过对A的第三维度采取傅里叶变换的结果,有
Figure BDA00030541874300000322
是一个块对角矩阵并且它对角线上的
Figure BDA00030541874300000323
Figure BDA00030541874300000324
的切片,例如:
Figure BDA00030541874300000325
有:
Figure BDA00030541874300000326
引理2.2的证明利用分块循环矩阵可被DFT对角化的性质,例如:
Figure BDA0003054187430000041
其中,Fn是一个大小为n×n的傅里叶矩阵并且
Figure BDA0003054187430000042
Figure BDA0003054187430000043
的块循环矩阵,它的定义如下:
Figure BDA0003054187430000044
引理2.2证明通过(8),
Figure BDA0003054187430000045
的前向切片
Figure BDA0003054187430000046
对于
Figure BDA0003054187430000047
的任意元素,它能被写作
Figure BDA0003054187430000048
并且能在
Figure BDA0003054187430000049
的相同位置上发现它的共轭,即:
Figure BDA00030541874300000410
因此能得到
Figure BDA00030541874300000411
相反地,对于任意给定的
Figure BDA00030541874300000412
当它满足(7)那么必定存在一个满足(8)的实张量。基于前述公式
Figure BDA00030541874300000413
可以得到3阶张量的以下性质:
Figure BDA00030541874300000414
Figure BDA00030541874300000415
引理2.3对于
Figure BDA00030541874300000416
张量
Figure BDA00030541874300000417
是对
Figure BDA00030541874300000418
从第p维度做傅里叶变换直到第三维度的结果。
因此,对于
Figure BDA00030541874300000419
是一个块对角矩阵,它的第(i3,i4,…,ip)对角块
Figure BDA00030541874300000420
Figure BDA00030541874300000421
的第(i3,i4,…,ip)前向切片,例如:
Figure BDA00030541874300000422
有,
Figure BDA0003054187430000051
其中,
Figure BDA0003054187430000052
p,j,k=3,…,p-1。
类似于引理2.2,引理2.3的证明使用到了块循环矩阵
Figure BDA0003054187430000053
可通过傅里叶变换对角化的性质,即:
Figure BDA0003054187430000054
对于
Figure BDA0003054187430000055
的任意元素,根据(11)的索引在
Figure BDA0003054187430000056
的某一个相应的正向切片中找到它的共轭,令
Figure BDA0003054187430000057
Figure BDA0003054187430000058
上面的等式可以简记为
Figure BDA0003054187430000059
其中
Figure BDA00030541874300000510
按下述定义,将
Figure BDA00030541874300000511
简写为
Figure BDA00030541874300000512
Figure BDA00030541874300000513
Figure BDA00030541874300000514
Figure BDA00030541874300000515
通过使用下式得到高阶张量的以下性质,这些性质将在证明中频繁使用:
Figure BDA00030541874300000516
Figure BDA0003054187430000061
其中,L1=L2=1,Li=n3*…*ni
进一步,所述基于高阶张量奇异值分解的彩***恢复方法中,所述代数框架,包括:
对于
Figure BDA0003054187430000062
定义
Figure BDA0003054187430000063
unf old算子将
Figure BDA0003054187430000064
按照第p维度展开为np个大小为n1×n2×···×np-1的张量且fold是它的逆算子。
Figure BDA0003054187430000065
Figure BDA0003054187430000066
其中
Figure BDA0003054187430000067
Figure BDA0003054187430000068
tcirc算子将
Figure BDA0003054187430000069
展开为它的块循环矩阵
Figure BDA00030541874300000610
算子将
Figure BDA00030541874300000611
展开为大小为n1n3…np×l的矩阵且tfold是它的逆算子
Figure BDA00030541874300000612
定义2.1令
Figure BDA00030541874300000613
那么张量积
Figure BDA00030541874300000614
是大小为n1×l×n3×…×np的p阶张量,
Figure BDA00030541874300000615
备注2.4引理2.2提供了一种更有效的方法来计算p阶张量积和p阶张量奇异值分解。例如,
Figure BDA00030541874300000616
Figure BDA00030541874300000617
是两个5阶张量。如果想要得到它们之间的乘积,按原来的方法需要125次矩阵乘积。但如果使用(10),只需要计算标记(1~3,1,1),(1~5,2~3)和(1~5,1~5,2~3)之间的63次乘积。
由此可以设计出p阶张量积的算法。
定义2.2令
Figure BDA00030541874300000618
它的共轭转置为
Figure BDA00030541874300000619
Figure BDA0003054187430000071
定义2.3令
Figure BDA0003054187430000072
当它的第一个正向切片为大小为n×n的单位矩阵其他切片全为0时称它为单位张量。对于合适大小的
Figure BDA0003054187430000073
Figure BDA0003054187430000074
定义2.4令
Figure BDA0003054187430000075
Figure BDA0003054187430000076
然后称这个实值张量是一个p阶正交张量。
定义2.5如果张量的每一个正向切片都是对角矩阵,则该张量称为f-对角张量。
定理2.5令
Figure BDA0003054187430000077
是一个p阶实值张量。那么
Figure BDA0003054187430000078
能被分解为:
Figure BDA0003054187430000079
其中
Figure BDA00030541874300000710
是正交张量,且
Figure BDA00030541874300000711
是一个f-对角张量。
证明通过构造证明。对于
Figure BDA00030541874300000712
的一个前端切片,例如
Figure BDA00030541874300000713
找到和它完全一样的另一片。然后用下面的方法构造
Figure BDA00030541874300000714
的SVD,当
Figure BDA00030541874300000715
时,通过
Figure BDA00030541874300000716
得到
Figure BDA00030541874300000717
然后当
Figure BDA00030541874300000718
且i3=1∶n3时,
Figure BDA00030541874300000719
Figure BDA00030541874300000720
得到。剩下的部分的处理方法以此类推直到
Figure BDA00030541874300000721
Figure BDA00030541874300000722
Figure BDA00030541874300000723
得到。然后使用共轭性质(10)来找到相应的前向切片,对他们做SVD以得到剩下的
Figure BDA00030541874300000724
Figure BDA00030541874300000725
通过这种方法可以保证所有的
Figure BDA00030541874300000726
都是实张量。因此,
Figure BDA00030541874300000727
通过构造和定义2.1,将DFT对角化矩阵之间的矩阵积等价于原张量之间的张量积,从而完成了证明。
Figure BDA00030541874300000728
通过构建它们的方式都是实的。算法2展示了计算t-SVD的方法。
已知矩阵的奇异值具有递减性质。在t-SVD的处理过程中,令
Figure BDA00030541874300000729
的第一个正向切片对角线上的元素S(1,…,1)具有相同的递减性质:
Figure BDA00030541874300000730
通过DFT的处理得到以下性质,
Figure BDA00030541874300000731
定义2.6对于
Figure BDA0003054187430000081
表示张量正向秩(或张量1,2维秩)为
Figure BDA0003054187430000082
张量正面秩的值为
Figure BDA0003054187430000083
的非零管子张量的个数,它们是通过对
Figure BDA0003054187430000084
得到的。因此,定义:
Figure BDA0003054187430000085
实际上,张量
Figure BDA0003054187430000086
是通过对一个张量从第p维到第三维求反fft得到的。因此,
Figure BDA0003054187430000087
的第一个切片必须包含张量其余切片的信息。张量的正向秩由
Figure BDA0003054187430000088
的第一个正向切片对角线上的元素决定:
Figure BDA0003054187430000089
因此张量前向秩等于
Figure BDA00030541874300000810
非零项的个数。很明显,通过旋转张量得到几个相似的秩,从而固定另一对维度作为新的在第一维度和第二维度。例如,定义p阶张量
Figure BDA00030541874300000811
的1,4维秩(rank1,4)通过固定一维和四维,进行T-SVD得到的。
像矩阵的情况一样定义张量秩k近似。对于任意大小为n1×n2×…×np的高维张量
Figure BDA00030541874300000812
Figure BDA00030541874300000827
Figure BDA00030541874300000813
那么有
Figure BDA00030541874300000814
Figure BDA00030541874300000815
前向秩至多为k的最佳近似。
定义2.7对于
Figure BDA00030541874300000816
将张量平均前向秩表示为其
Figure BDA00030541874300000817
的秩乘以
Figure BDA00030541874300000818
因此,定义:
Figure BDA00030541874300000819
Figure BDA00030541874300000820
定义2.8
Figure BDA00030541874300000821
是一个p阶张量,其谱范数为
Figure BDA00030541874300000822
已知矩阵核范数是矩阵谱范数的对偶范数。因此,定义了核张量范数,定义
Figure BDA00030541874300000823
作为张量特殊范数的对偶范数。对于任何的
Figure BDA00030541874300000824
Figure BDA00030541874300000825
Figure BDA00030541874300000826
Figure BDA0003054187430000091
Figure BDA0003054187430000092
Figure BDA0003054187430000093
有:
Figure BDA0003054187430000094
有:
Figure BDA0003054187430000095
其中,
Figure BDA0003054187430000096
这样就有了任意维度的张量核范数的定义。
定义2.9令
Figure BDA0003054187430000097
作为
Figure BDA0003054187430000098
的t-SVD结果。
Figure BDA0003054187430000099
的张量核范数定义为:
Figure BDA00030541874300000910
其中,
Figure BDA00030541874300000911
从TNN的定义可以看出,张量
Figure BDA00030541874300000912
的核范数只与T-SVD生成的
Figure BDA00030541874300000913
的第一个正向切片的值有关。因此,把
Figure BDA00030541874300000914
的非零项称为张量
Figure BDA00030541874300000915
的奇异值。
定理2.6在集合
Figure BDA00030541874300000916
上,张量核范数
Figure BDA00030541874300000917
是张量平均前向秩
Figure BDA00030541874300000918
的凸包络。
进一步,步骤四中,所述恢复保证,包括:
假设低秩部分不是稀疏的,而稀疏部分也不是低秩的,定义张量列基
Figure BDA00030541874300000919
是一个张量,其中第(i,1,…,1)元素等于1,其他的为0。定义张量管基
Figure BDA00030541874300000920
是一个张量,其中第j维度上的第ij元素等于1,其他的为0,j=3,…,p,ij∈[1,…,nj]。
定义3.1对于
Figure BDA00030541874300000921
张量前向秩
Figure BDA00030541874300000922
以及
Figure BDA00030541874300000923
Figure BDA00030541874300000924
那么
Figure BDA00030541874300000925
满足张量的参数为μ非相干性条件,若:
Figure BDA0003054187430000101
Figure BDA0003054187430000102
Figure BDA0003054187430000103
满足非相干性条件的张量在避免了低秩情况的同时也避免了稀疏的情况;另一个可识别性问题是稀疏张量
Figure BDA00030541874300001010
有低前向秩。这可以假定
Figure BDA00030541874300001011
的支撑为均匀分布解决。
定理3.1令
Figure BDA00030541874300001012
服从张量非相干性条件,定义
Figure BDA00030541874300001013
如下分布:
Figure BDA0003054187430000104
Ω是
Figure BDA00030541874300001014
的支撑集,均匀分布在所有m基数集合中,并且
Figure BDA00030541874300001015
对于所有(i1,i2,…,ip)∈Ω。那么,存在常数c1,c2>0,这样至少有概率
Figure BDA00030541874300001016
是问题的唯一最小值。
Figure BDA00030541874300001017
如果:
Figure BDA0003054187430000105
其中,n(1)是min(n1,n2),n(2)是max(n1,n2)。
进一步,步骤四中,所述HTRPCA的ADMM算法,包括:
(1)使用标准的交替方向乘子法(ADMM)来解决问题,引入近端算子,从而原问题等价于下面的问题:
Figure BDA0003054187430000106
可以证明它有一个类似于矩阵核范数的解。令
Figure BDA00030541874300001018
对于任意τ>0,引入t-SVT算子如下:
Figure BDA0003054187430000107
其中,
Figure BDA0003054187430000108
增广拉格朗日函数为:
Figure BDA0003054187430000109
其中,μ是控制算法速度的正标量且
Figure BDA00030541874300001019
为拉格朗日乘子张量。接着
Figure BDA00030541874300001020
和εp可以通过交替极小化增广拉格朗日函数L来更新。两个子问题都有封闭解。对于
Figure BDA00030541874300001021
本发明可以使用t-SVT,即奇异值阈值算法,并采用软阈值方法解决εp
(2)收敛性分析
当目标函数是两个凸函数的和时,能够保证两块ADMM收敛到全局最小值。在HTRPCA程序中,目标函数由两个闭凸函数
Figure BDA0003054187430000112
Figure BDA0003054187430000113
组成。显然,该算法是标准的双块ADMM算法在张量环境下的直接应用,其收敛性在理论上是有保证的。
本发明的另一目的在于提供一种应用所述的基于高阶张量奇异值分解的彩***恢复方法的基于高阶张量奇异值分解的彩***恢复***,所述基于高阶张量奇异值分解的彩***恢复***包括:
低秩和稀疏部分提取模块,用于基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;
改进算法构建模块,用于根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;
张量维数秩定义模块,用于通过在张量上实施T-SVD定义新的张量维数秩;
准确恢复保证模块,用于利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。
本发明的另一目的在于提供一种所述的基于高阶张量奇异值分解的彩***恢复方法在图像修补和图像去噪中的应用,所述基于高阶张量奇异值分解的彩***恢复方法在图像修补和图像去噪中的应用方法,包括:
(1)模拟数据的精确恢复
在所有实验中设置
Figure BDA0003054187430000114
,考虑大小为n×n×l×l×l的张量,它的维度上的具体数值为n=200和n=400,l=10。通过求
Figure BDA0003054187430000115
得张量积来得到前向秩为r的低阶张量,其中
Figure BDA0003054187430000116
Figure BDA0003054187430000117
都是大小为n×r×l×l×l的张量,他们的每一个元素都服从
Figure BDA0003054187430000118
分布。
Figure BDA0003054187430000119
的大小为m的支撑集Ω是均匀选取的。对于所有的
Figure BDA00030541874300001110
Figure BDA00030541874300001111
其中
Figure BDA00030541874300001112
是拥有独立伯努利±1元素的张量。
(2)算法中
Figure BDA00030541874300001113
是一个线性算子,它表示Ω支撑集上的值不变而之外的值全变成0。从网站http://trace.eas.asu.edu/yuv/中选择15个彩***进行测试。对于实验中的每个视频序列,由于计算成本的关系,使用前150帧进行测试,使用格式为网站提供的QCIF格式,其中每一帧大小为144×176×3。在缺失值的设置上,对于一个大小为
Figure BDA00030541874300001114
的彩***张量,随机设置m=3phwf个元素来观察,考虑p=0.3,p=0.4和p=0.5。同时应用HaLRTC,TMac,NRTAC,TNN这四种先进的张量修补方法进行视频恢复,并比较它们的性能。在实验中,这些比较方法均使用了参考文献中建议的参数设置,其中TNN是将数据的前两个维度直接拼接,再进行3阶的张量补全。实验中用于判断视频补全质量标准的PSNR值计算公式为:
Figure BDA0003054187430000111
本发明的另一目的在于提供一种存储在计算机可读介质上的计算机程序产品,包括计算机可读程序,供于电子装置上执行时,提供用户输入接口以实施所述的基于高阶张量奇异值分解的彩***恢复方法。
本发明的另一目的在于提供一种计算机可读存储介质,储存有指令,当所述指令在计算机上运行时,使得计算机执行所述的基于高阶张量奇异值分解的彩***恢复方法。
结合上述的所有技术方案,本发明所具备的优点及积极效果为:本发明提供的基于高阶张量奇异值分解的彩***恢复方法,考虑高维鲁棒主成分分析(HTRPCA)问题,从p阶张量(p≥3)中提取低秩和稀疏部分。根据p阶张量生成块对角矩阵的共轭性质,提出了张量积和张量SVD的改进算法。通过在张量上实施T-SVD,定义了一个新的张量维数秩。利用基于张量前向秩的张量核范数(张量维数秩的特例),设计了近端算子和交替方向乘子法(ADMM)算法来求解HTRPCA问题,为准确恢复提供了理论保障。本发明生成数据和彩***的实验结果表明,HTRPCA在处理相应问题方面具有优越性。
本发明提出了一种新的张量主成分分析方法,即利用高阶张量代数框架将原本只能作用于2阶或者3阶数据的RPCA方法拓展到任意维度,并给出了相应的恢复条件,同时设计了完整的算法。大量实验也证明了本发明的方法可以在理论最佳参数的前提下,有效地对以彩***为代表的高阶张量进行恢复处理,为对应现实问题提供了一种实用的解决方案。
附图说明
为了更清楚地说明本发明实施例的技术方案,下面将对本发明实施例中所需要使用的附图做简单的介绍,显而易见地,下面所描述的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下还可以根据这些附图获得其他的附图。
图1是本发明实施例提供的基于高阶张量奇异值分解的彩***恢复方法流程图。
图2(a)是本发明实施例提供的原始视频的特定帧示意图。
图2(b)是本发明实施例提供的30前向秩PSNR=36.1示意图。
图2(c)是本发明实施例提供的101,4维秩PSNR=45.7示意图。
图2(d)是本发明实施例提供的奇异值变化示意图。
图3(a)是本发明实施例提供的Akiyo,News,Container和Claire视频的样帧示意图。
图3(b)是本发明实施例提供的该样帧特定采样率下的观测(比例为p=0.5)示意图。
图3(c)-图3(g)是本发明实施例提供的分别由HaLRTC,TMac,NRTAC,TNN和我们的方法恢复的结果示意图。
图4(a)是本发明实施例提供的4个视频的样帧示意图。
图4(b)是本发明实施例提供的该样帧加噪后的观测示意图。
图4(c)-图4(e)是本发明实施例提供的分别由SNN,TRPCA和本发明的方法恢复的结果示意图。
具体实施方式
为了使本发明的目的、技术方案及优点更加清楚明白,以下结合实施例,对本发明进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
针对现有技术存在的问题,本发明提供了一种基于高阶张量奇异值分解的彩***恢复方法及***,下面结合附图对本发明作详细的描述。
如图1所示,本发明实施例提供的基于高阶张量奇异值分解的彩***恢复方法包括以下步骤:
S101,基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;其中,所述p≥3;
S102,根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;
S103,通过在张量上实施T-SVD,定义新的张量维数秩;
S104,利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。
本发明提供的基于高阶张量奇异值分解的彩***恢复方法业内的普通技术人员还可以采用其他的步骤实施,图1的本发明提供的基于高阶张量奇异值分解的彩***恢复方法仅仅是一个具体实施例而已。
本发明实施例提供的基于高阶张量奇异值分解的彩***恢复***包括:
低秩和稀疏部分提取模块,用于基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;
改进算法构建模块,用于根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;
张量维数秩定义模块,用于通过在张量上实施T-SVD定义新的张量维数秩;
准确恢复保证模块,用于利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。
下面结合实施例对本发明的技术方案作进一步的描述。
1、本发明利用中提出的启发式的处理高阶张量的循环思想,设计了p阶张量的代数框架和相应的p阶张量SVD分解方法。同时,很自然地提出了一个新的张量维数秩。在此基础上,本发明设计了高阶张量核范数,并可以证明它是目标的紧凸替代。对于HTRPCA问题,本发明的目标是从
Figure BDA0003054187430000133
通过凸假设恢复低秩部分
Figure BDA0003054187430000134
和稀疏部分
Figure BDA0003054187430000135
Figure BDA0003054187430000131
其中
Figure BDA0003054187430000136
为第二节中定义的张量核范数。证明了在一定条件下,
Figure BDA0003054187430000137
可以恢复稀疏部分,
Figure BDA0003054187430000138
张量前向秩的低秩部分是合理的小。本发明的分析表明,如果使用
Figure BDA0003054187430000139
本发明可以获得准确的恢复。
总结如下:
1.推导出高阶张量的共轭性质,并将其应用于张量积和张量SVD运算,这种改进相对于不加共轭的原方法将节省大量的时间。
2.利用提出的基于张量前向秩的张量核范数,成功地完善了HTRPCA所需的代数框架并给出了完整算法。至此,理论上本发明可以从任意维数的观察
Figure BDA00030541874300001310
中恢复低秩部分
Figure BDA00030541874300001311
和稀疏部分χp
3.通过对彩***数据的大量实验,本发明证明HTRPCA方法能够相对更有效地处理高维问题。HTRPCA可以保存数据的空间结构,相较于将高维数据转为低维数据进行处理的传统方法,HTRPCA的可以取得更好的效果。
2、符号和数学框架
2.1符号
本发明中使用的符号包括:实数域和复数域分别记为R和C,黑体欧拉字母表示张量,上标表示张量的相应维数,例如一个p阶张量可以记为
Figure BDA00030541874300001312
,矩阵用黑体大写字母表示,例如A,向量以黑体小写字母表示,例如a,用小写字母表示标量,例如a。一个阶3张量
Figure BDA00030541874300001313
可以看成是矩阵的组合,对于任意p阶张量
Figure BDA00030541874300001314
也可以看成是低维张量(次张量)的组合通过固定一些原始张量的维数而得到。为了表示原张量的某个子张量的确切位置,本发明在子张量的右上角标记一个序列,例如
Figure BDA00030541874300001317
这个张量显然是由
Figure BDA00030541874300001316
固定它的第j维度为ij同时固定它的第k维度为ik。本发明对高阶张量的处理一般从最后一个维度逆向一直到倒数第二个维度为止,将
Figure BDA00030541874300001318
简写为
Figure BDA00030541874300001319
特别的,
Figure BDA00030541874300001320
的前向切片定义为
Figure BDA00030541874300001321
它是一个二阶子张量并且可以被记为
Figure BDA00030541874300001322
并且称大小为1×1×n3×…×np的子张量
Figure BDA00030541874300001323
为管子张量。
A和B在
Figure BDA00030541874300001324
上的內积定义为<A,B>=tr(A*B)。三阶张量
Figure BDA00030541874300001325
Figure BDA00030541874300001326
Figure BDA00030541874300001327
上的內积定义为
Figure BDA00030541874300001328
因此,有:
Figure BDA0003054187430000132
对于任意
Figure BDA00030541874300001329
它的复共轭定义为
Figure BDA00030541874300001332
即取
Figure BDA00030541874300001331
每一个元素的复共轭。
矩阵的谱范数定义为
Figure BDA00030541874300001333
即为A的最大元素。矩阵的核范数定义为
Figure BDA00030541874300001334
定义p阶张量的l1-范数为
Figure BDA0003054187430000147
无穷范数为
Figure BDA0003054187430000148
F范数为
Figure BDA0003054187430000149
2.2DFT的共轭性质
离散傅里叶变换(DFT)在算法运算时起着核心作用。对
Figure BDA00030541874300001410
的傅里叶变换后结果为
Figure BDA00030541874300001411
记为
Figure BDA00030541874300001412
其中Fn是DFT矩阵,它记为:
Figure BDA0003054187430000141
其中ω=e-2πi/n。注意
Figure BDA00030541874300001413
是一个正交矩阵。已知a的循环矩阵可以用DFT矩阵对角化。
Figure BDA0003054187430000142
其中
Figure BDA00030541874300001414
表示一个对角矩阵,其第i个对角项为
Figure BDA00030541874300001415
引理2.1对于任何实向量
Figure BDA00030541874300001416
本发明有其关联向量
Figure BDA00030541874300001417
Figure BDA00030541874300001418
的第i项定义为
Figure BDA00030541874300001419
满足:
Figure BDA0003054187430000143
本发明把这个性质扩展到矩阵的情况,并最终扩展到p阶张量的情况。
引理2.2对于
Figure BDA00030541874300001420
张量
Figure BDA00030541874300001421
是通过对A的第三维度采取傅里叶变换的结果,本发明有
Figure BDA00030541874300001422
是一个块对角矩阵并且它对角线上的
Figure BDA00030541874300001423
Figure BDA00030541874300001424
的切片,例如:
Figure BDA0003054187430000144
有:
Figure BDA0003054187430000145
引理2.2的证明利用分块循环矩阵可被DFT对角化的性质,例如:
Figure BDA0003054187430000146
其中Fn是一个大小为n×n的傅里叶矩阵并且
Figure BDA00030541874300001425
Figure BDA00030541874300001426
的块循环矩阵,它的定义如下:
Figure BDA0003054187430000151
引理2.2证明通过(8),
Figure BDA0003054187430000156
的前向切片
Figure BDA0003054187430000157
对于
Figure BDA0003054187430000158
的任意元素,它能被写作
Figure BDA0003054187430000159
并且能在
Figure BDA00030541874300001510
的相同位置上发现它的共轭,即:
Figure BDA0003054187430000152
因此能得到
Figure BDA00030541874300001511
相反地,对于任意给定的
Figure BDA00030541874300001512
当它满足(7)那么必定存在一个满足(8)的实张量。基于前述公式
Figure BDA00030541874300001513
本发明可以得到3阶张量的以下性质:
Figure BDA0003054187430000153
Figure BDA0003054187430000154
引理2.3对于
Figure BDA00030541874300001514
张量
Figure BDA00030541874300001516
是对
Figure BDA00030541874300001515
从第p维度做傅里叶变换直到第三维度的结果。
因此,对于
Figure BDA00030541874300001517
是一个块对角矩阵,它的第(i3,i4,…,ip)对角块
Figure BDA00030541874300001518
Figure BDA00030541874300001519
的第(i3,i4,…,ip)前向切片,例如:
Figure BDA0003054187430000155
有,
Figure BDA0003054187430000161
其中,
Figure BDA0003054187430000162
p,j,k=3,…,p-1。
类似于引理2.2,引理2.3的证明使用到了块循环矩阵
Figure BDA0003054187430000163
可通过傅里叶变换对角化的性质,即:
Figure BDA0003054187430000164
对于
Figure BDA0003054187430000165
的任意元素,本发明都能根据(11)的索引在
Figure BDA0003054187430000166
的某一个相应的正向切片中找到它的共轭,因此能得到(12)中的结果。令
Figure BDA0003054187430000167
Figure BDA0003054187430000168
上面的等式可以简记为
Figure BDA0003054187430000169
其中
Figure BDA00030541874300001610
按下述定义,本发明将
Figure BDA00030541874300001611
简写为
Figure BDA00030541874300001612
Figure BDA00030541874300001613
Figure BDA00030541874300001614
Figure BDA00030541874300001615
类似于(9)和(10),通过使用(11)式,本发明可以得到高阶张量的以下性质,这些性质将在证明中频繁使用,
Figure BDA00030541874300001616
Figure BDA0003054187430000171
其中,L1=L2=1,Li=n3*…*ni
2.3代数框架
对于
Figure BDA0003054187430000172
本发明定义
Figure BDA0003054187430000173
unf old算子将
Figure BDA0003054187430000174
按照第p维度展开为np个大小为n1×n2×···×np-1的张量且fold是它的逆算子。
Figure BDA0003054187430000175
Figure BDA0003054187430000176
其中
Figure BDA0003054187430000177
Figure BDA0003054187430000178
tcirc算子将
Figure BDA0003054187430000179
展开为它的块循环矩阵
Figure BDA00030541874300001710
算子将
Figure BDA00030541874300001711
展开为大小为n1n3…np×l的矩阵且tf old是它的逆算子
Figure BDA00030541874300001712
定义2.1令
Figure BDA00030541874300001713
那么张量积
Figure BDA00030541874300001714
是大小为n1×l×n3×…×np的p阶张量,
Figure BDA00030541874300001715
备注2.4引理2.2提供了一种更有效的方法来计算p阶张量积和p阶张量奇异值分解。例如,
Figure BDA00030541874300001716
Figure BDA00030541874300001717
是两个5阶张量。如果想要得到它们之间的乘积,按原来的方法需要125次矩阵乘积。但如果使用(10),本发明只需要计算标记(1~3,1,1),(1~5,2~3)和(1~5,1~5,2~3)之间的63次乘积。
由此可以设计出p阶张量积的算法。参见算法1。
定义2.2令
Figure BDA00030541874300001718
它的共轭转置为
Figure BDA00030541874300001719
Figure BDA0003054187430000181
Figure BDA0003054187430000182
定义2.3令
Figure BDA0003054187430000183
当它的第一个正向切片为大小为n×n的单位矩阵其他切片全为0时称它为单位张量。对于合适大小的
Figure BDA0003054187430000184
Figure BDA0003054187430000185
定义2.4令
Figure BDA0003054187430000186
Figure BDA0003054187430000187
然后称这个实值张量是一个p阶正交张量。
定义2.5如果张量的每一个正向切片都是对角矩阵,则该张量称为f-对角张量。
定理2.5令
Figure BDA0003054187430000188
是一个p阶实值张量。那么
Figure BDA0003054187430000189
能被分解为:
Figure BDA00030541874300001810
其中
Figure BDA00030541874300001811
是正交张量,且
Figure BDA00030541874300001812
是一个f-对角张量。
证明通过构造证明。正如本发明在2.2中提到的,对于
Figure BDA00030541874300001813
的一个前端切片,例如
Figure BDA00030541874300001814
可以找到和它完全一样的另一片。然后用下面的方法构造
Figure BDA00030541874300001815
的SVD,当
Figure BDA00030541874300001816
时,通过
Figure BDA00030541874300001817
得到
Figure BDA00030541874300001818
然后当
Figure BDA00030541874300001819
且i3=1∶n3时,
Figure BDA00030541874300001820
Figure BDA00030541874300001821
得到。剩下的部分的处理方法以此类推直到
Figure BDA00030541874300001822
Figure BDA00030541874300001823
Figure BDA00030541874300001824
得到。然后可以使用共轭性质(10)来找到相应的前向切片,对他们做SVD以得到剩下的
Figure BDA0003054187430000191
Figure BDA0003054187430000192
通过这种方法本发明可以保证所有的
Figure BDA0003054187430000193
都是实张量。因此,
Figure BDA0003054187430000194
通过构造和定义2.1,将DFT对角化矩阵之间的矩阵积等价于原张量之间的张量积,从而完成了证明。本发明同时注意到
Figure BDA0003054187430000195
通过本发明构建它们的方式都是实的。算法2展示了计算t-SVD的方法。
已知矩阵的奇异值具有递减性质。在t-SVD的处理过程中,令
Figure BDA0003054187430000196
的第一个正向切片对角线上的元素S(1,…,1)具有相同的递减性质:
Figure BDA0003054187430000197
本发明可以通过DFT的处理得到以下性质,
Figure BDA0003054187430000198
定义2.6对于
Figure BDA0003054187430000199
本发明表示张量正向秩(或张量1,2维秩)为
Figure BDA00030541874300001910
张量正面秩的值为
Figure BDA00030541874300001911
的非零管子张量的个数,它们是通过对
Figure BDA00030541874300001912
得到的。因此,本发明可以定义:
Figure BDA00030541874300001913
实际上,本发明知道张量
Figure BDA00030541874300001914
是通过对一个张量从第p维到第三维求反fft得到的。因此,
Figure BDA00030541874300001915
的第一个切片必须包含张量其余切片的信息。并且(18)表示了
Figure BDA00030541874300001916
Figure BDA00030541874300001917
之间的准确关系。张量的正向秩由
Figure BDA00030541874300001918
的第一个正向切片对剑线上的元素决定:
Figure BDA00030541874300001919
Figure BDA00030541874300001920
因此张量前向秩等于
Figure BDA00030541874300001921
非零项的个数。很明显,可以通过旋转张量得到几个相似的秩,从而固定另一对维度作为新的在第一维度和第二维度。例如,本发明定义p阶张量
Figure BDA00030541874300001922
的1,4维秩(rank1,4)通过固定一维和四维,然后进行T-SVD得到的。
本发明中可似矩阵的情况一样,可定义张量秩k近似。对于任意大小为n1×n2×…×np的高维张量
Figure BDA0003054187430000201
Figure BDA00030541874300002021
Figure BDA0003054187430000202
那么有
Figure BDA0003054187430000203
Figure BDA0003054187430000204
前向秩至多为k的最佳近似。
从图2可以看出,彩***的奇异值迅速下降,无论T-SVD是基于一个相对较低的正向秩还是基于1,4维秩,都可以在很小的相应秩的情况下很好地逼近原始视频,证明了彩***数据通常有一定的低秩性。
定义2.7对于
Figure BDA0003054187430000205
本发明将张量平均前向秩表示为其
Figure BDA0003054187430000206
的秩乘以
Figure BDA0003054187430000207
因此,定义
Figure BDA0003054187430000208
Figure BDA0003054187430000209
定义2.8
Figure BDA00030541874300002010
是一个p阶张量。它的张量谱范数为
Figure BDA00030541874300002011
已知矩阵核范数是矩阵谱范数的对偶范数。因此,本发明定义了核张量范数,定义
Figure BDA00030541874300002012
作为张量特殊范数的对偶范数。对于任何的
Figure BDA00030541874300002013
Figure BDA00030541874300002014
Figure BDA00030541874300002015
其中(21)使用(13),(22)是因为
Figure BDA00030541874300002016
Figure BDA00030541874300002017
中的任意矩阵,(23)利用矩阵核范数是矩阵谱范数的对偶范数,(24)使用(11)。然后,令
Figure BDA00030541874300002018
Figure BDA00030541874300002019
有:
Figure BDA00030541874300002020
通过(23)和(27),有:
Figure BDA0003054187430000211
其中
Figure BDA0003054187430000212
这样就有了任意维度的张量核范数的定义。
定义2.9令
Figure BDA0003054187430000213
作为
Figure BDA0003054187430000214
的t-SVD结果。
Figure BDA0003054187430000215
的张量核范数定义为:
Figure BDA0003054187430000216
其中
Figure BDA0003054187430000217
从TNN的定义可以看出,张量
Figure BDA0003054187430000218
的核范数只与T-SVD生成的
Figure BDA0003054187430000219
的第一个正向切片的值有关。因此,本发明可以把S(1,…,1)的非零项称为张量
Figure BDA00030541874300002110
的奇异值。
定理2.6在集合
Figure BDA00030541874300002111
上,张量核范数
Figure BDA00030541874300002112
是张量平均前向秩
Figure BDA00030541874300002113
的凸包络。
3、HTRPCA的准确恢复保证
本发明最初的问题(3)是从高度损坏的测量值
Figure BDA00030541874300002114
中恢复一个低秩张量
Figure BDA00030541874300002115
在这一节中,将展示在张量非相干条件下,可以精确恢复低秩部分
Figure BDA00030541874300002116
和稀疏部分
Figure BDA00030541874300002117
并给出了求解该问题的算法。
3.1恢复保证
正如本发明上面所提到的,如果张量χp既是稀疏张量又是低秩张量,则不能从它恢复出低秩部分和稀疏部分。所以本发明必须假设低秩部分不是稀疏的,而稀疏部分也不是低秩的。可以定义张量非相干条件来达到本发明的目的。张量列基
Figure BDA00030541874300002118
是一个张量,其中第(i,1,…,1)元素等于1,其他的为0,定义张量管基
Figure BDA00030541874300002119
是一个张量,其中第j维度上的第ij元素等于1,其他的为
0,j=3,…,p,ij∈[1,…,nj]。
定义3.1对于
Figure BDA00030541874300002120
张量前向秩
Figure BDA00030541874300002121
以及
Figure BDA00030541874300002122
Figure BDA00030541874300002123
那么
Figure BDA00030541874300002124
满足张量的参数为μ非相干性条件,若
Figure BDA00030541874300002125
Figure BDA00030541874300002126
Figure BDA0003054187430000221
另一个可识别性问题是稀疏张量
Figure BDA0003054187430000222
有低前向秩。这可以假定
Figure BDA0003054187430000223
的支撑为均匀分布解决。
定理3.1令
Figure BDA0003054187430000224
服从张量非相干性条件。本发明定义
Figure BDA0003054187430000225
如下分布:
Figure BDA0003054187430000226
Ω是
Figure BDA0003054187430000227
的支撑集,均匀分布在所有m基数集合中,并且
Figure BDA0003054187430000228
对于所有(i1,i2,…,ip)∈Ω。那么,存在常数c1,c2>0,这样至少有概率
Figure BDA0003054187430000229
是问题的唯一最小值。
Figure BDA00030541874300002210
Lp=n3n4…np,如果
Figure BDA00030541874300002211
其中n(1)是min(n1,n2),n(2)是max(n1,n2)。
Figure BDA00030541874300002212
3.2HTRPCA的ADMM算法
可以使用标准的交替方向乘子法(ADMM)来解决问题。首先,本发明需要引入近端算子,从而原问题等价于下面的问题,
Figure BDA00030541874300002213
可以证明它有一个类似于矩阵核范数的解。令
Figure BDA00030541874300002214
对于任意τ>0,本发明引入t-SVT算子如下
Figure BDA0003054187430000231
其中
Figure BDA0003054187430000232
本发明现在给出解决(3)的ADMM算法细节。(3)的增广拉格朗日函数为:
Figure BDA0003054187430000233
其中μ是控制算法速度的正标量且yp为拉格朗日乘子张量。接着
Figure BDA0003054187430000234
和εp可以通过交替极小化增广拉格朗日函数L来更新。两个子问题都有封闭解。对于
Figure BDA0003054187430000235
可以使用t-SVT,即奇异值阈值算法,并采用软阈值方法解决εp。奇异值阈值法见算法3,总的ADMM算法见算法4。
Figure BDA0003054187430000236
3.3收敛性分析
现有文献中已经证明,当目标函数是两个凸函数的和时,能够保证两块ADMM收敛到全局最小值。在本发明的HTRPCA程序(8)中,目标函数由两个闭凸函数
Figure BDA0003054187430000237
和||εp||1组成。显然,该算法是标准的双块ADMM算法在张量环境下的直接应用,其收敛性在理论上是有保证的。
4、实验
在这一节中,本发明进行数值实验来验证定理3.1中的主要结果。首先研究凸HTRPCA模型(5)恢复具有不同前向秩和不同稀疏噪声级别的张量的能力。然后将其应用于图像修补和图像去噪。根据定理3.1,本发明在所有实验中设置
Figure BDA0003054187430000238
理论建议值为实践提供了很好的指导,基本都能得到很好的效果,但是对于不同的数据,可以通过更仔细地调出不同的最优λ进一步提高性能。
4.1模拟数据的精确恢复
首先,本发明验证本发明提出的定理3.1是否能对随机生成数据得到正确的恢复。为了简单,本发明考虑大小为n×n×l×l×l的张量,它的维度上的具体数值为n=200和n=400,l=10。通过求
Figure BDA0003054187430000239
得张量积来得到前向秩为r的低阶张量,其中
Figure BDA0003054187430000241
Figure BDA0003054187430000242
都是大小为n×r×l×l×l的张量,他们的每一个元素都服从
Figure BDA0003054187430000243
分布。
Figure BDA0003054187430000244
的大小为m的支撑集Ω是均匀选取的。对于所有的(i1,i2,i3,i4,i5)∈Ω,令
Figure BDA0003054187430000245
其中
Figure BDA0003054187430000246
是拥有独立伯努利±1元素的张量。
表1模拟数据恢复结果
Figure BDA0003054187430000247
表1表明了
Figure BDA0003054187430000248
Figure BDA0003054187430000249
在不同选择的稀疏度m和张量前向秩r下的恢复结果。可以看出本发明的算法在所有的情况下都给出了
Figure BDA00030541874300002410
的正确的张量前向秩估计,并且相对误差
Figure BDA00030541874300002411
非常小,小于
Figure BDA00030541874300002412
的稀疏估计不如秩的估计效果好。但注意到相对误差
Figure BDA00030541874300002413
都很小,不到1e-9,远小于恢复低秩部分的相对误差。这些结果很好地验证了定理3.1所提出的恢复现象是正确的。
4.2视频补全
在本发明中,彩***被用来从部分观测项中进行低秩张量补全来评估本发明的方法的实用性以及定理3.1在实际应用中的准确性。张量补全是定理3.1的直接应用,它的算法只需要在算法4的基础上进行简单的修改,见算法5。算法中
Figure BDA00030541874300002414
是一个线性算子,它表示Ω支撑集上的值不变而之外的值全变成0。本发明从网站http://trace.eas.asu.edu/yuv/中选择15个彩***进行测试。对于实验中的每个视频序列,由于计算成本的关系,本发明使用前150帧进行测试,使用格式为网站提供的QCIF格式,其中每一帧大小为144×176×3。在缺失值的设置上,对于一个大小为
Figure BDA00030541874300002415
的彩***张量,本发明随机设置m=3phwf个元素来观察,在本实验中,本发明考虑p=0.3,p=0.4和p=0.5。同时本发明应用HaLRTC,TMac,NRTAC,TNN这四种先进的张量修补方法进行视频恢复,并比较它们的性能。在实验中,这些比较方法均使用了参考文献中建议的参数设置,其中TNN是将数据的前两个维度直接拼接,再进行3阶的张量补全。实验中用于判断视频补全质量标准的PSNR值计算公式为:
Figure BDA00030541874300002416
Figure BDA0003054187430000251
越高的PSNR值证明恢复的效果越好。实验的结果(部分)见表2,部分结果见图3。显然,无论是PSNR值还是直观的恢复效果,都是本发明的方法最优的,同时证明了定理3.1在张量补全上的合理性。
表2不同张量补全方法的PSNR值
Figure BDA0003054187430000261
4.3视频去噪
本发明应用HTRPCA对随机噪声干扰下的彩***图像进行恢复。本发明将在实际数据上表明,HTRPCA在建议理论参数下的恢复性能理论是令人满意的。所有的测试视频同样来自于上一节的网页,考虑计算成本,每一个视频都被预先设置为大小为144×176×3×100的4阶张量。对于每一个视频,本发明随机设置30%的像素为[0,255]中的随机值,同时本发明应用基于SNN,TNN的两种高阶张量去噪方法进行比较。在实验中,这些比较方法均使用了参考文献中建议的参数设置,其中基于TNN的方法TRPCA仍然是将数据的前两个维度直接拼接,再进行3阶的去噪。实验中用于判断视频补全质量标准的PSNR值同上。
表3视频去噪PSNR比较
Figure BDA0003054187430000271
从实验结果表3和图4可以看出以下几点:首先基于Tucker秩的SNN方法无论是从时间还是PSNR上都比不过基于管秩的TNN方法,主要是因为SNN并不是目标的凸包络,以及Tucker方法的普遍耗时。本发明的方法与TRPCA相比,时间上要稍微长一些,原因是高阶的t-SVD计算比低阶更耗时,但恢复效果是要绝对比TRPCA好的,TNN将4阶张量转化为3阶张量进行处理,必然会丧失空间结构信息,而这就是本发明的HTRPCA的优势所在。
本发明提出了一种新的张量主成分分析方法,即利用高阶张量代数框架将原本只能作用于2阶或者3阶数据的RPCA方法拓展到任意维度,并给出了相应的恢复条件,同时设计了完整的算法。大量实验也证明了本发明的方法可以在理论最佳参数的前提下,有效地对以彩***为代表的高阶张量进行恢复处理,为对应现实问题提供了一种实用的解决方案。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用全部或部分地以计算机程序产品的形式实现,所述计算机程序产品包括一个或多个计算机指令。在计算机上加载或执行所述计算机程序指令时,全部或部分地产生按照本发明实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线(DSL)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输)。所述计算机可读取存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如,DVD)、或者半导体介质(例如固态硬盘SolidState Disk(SSD))等。
以上所述,仅为本发明的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉本技术领域的技术人员在本发明揭露的技术范围内,凡在本发明的精神和原则之内所作的任何修改、等同替换和改进等,都应涵盖在本发明的保护范围之内。

Claims (10)

1.一种基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述基于高阶张量奇异值分解的彩***恢复方法包括:
基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;其中,p≥3;
根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;
通过在张量上实施T-SVD,定义新的张量维数秩;
利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。
2.如权利要求1所述的基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述恢复保证,包括:低秩部分不是稀疏的,而稀疏部分也不是低秩的,定义张量列基
Figure FDA0003054187420000011
是一个张量,其中第(i,1,…,1)元素等于1,其他的为0;定义张量管基
Figure FDA0003054187420000012
是一个张量,其中第j维度上的第ij元素等于1,其他的为0,j=3,…,p,ij∈[1,…,nj];
定义3.1对于
Figure FDA0003054187420000013
张量前向秩
Figure FDA0003054187420000014
以及
Figure FDA0003054187420000015
Figure FDA0003054187420000016
那么
Figure FDA0003054187420000017
满足张量的参数为μ非相干性条件,若:
Figure FDA0003054187420000018
Figure FDA0003054187420000019
Figure FDA00030541874200000110
满足非相干性条件的张量在避免了低秩情况的同时也避免了稀疏的情况;另一个可识别性问题是稀疏张量
Figure FDA00030541874200000111
有低前向秩,假定
Figure FDA00030541874200000112
的支撑为均匀分布解决;
定理3.1令
Figure FDA0003054187420000021
服从张量非相干性条件,定义
Figure FDA0003054187420000022
如下分布:
Figure FDA0003054187420000023
Ω是
Figure FDA0003054187420000024
的支撑集,均匀分布在所有m基数集合中,并且
Figure FDA0003054187420000025
对于所有(i1,i2,…,ip)∈Ω;那么,存在常数c1,c2>0,这样至少有概率
Figure FDA0003054187420000026
是问题的唯一最小值;
Figure FDA0003054187420000027
如果:
Figure FDA0003054187420000028
其中,n(1)是min(n1,n2),n(2)是max(n1,n2)。
3.如权利要求1所述的基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述HTRPCA的ADMM算法,包括:
(1)使用标准的交替方向乘子法ADMM来解决问题,引入近端算子,从而原问题等价于下面的问题:
Figure FDA0003054187420000029
进而可以证明它有一个类似于矩阵核范数问题的解;令
Figure FDA00030541874200000212
对于任意τ>0,引入t-SVT算子如下:
Figure FDA00030541874200000210
其中,
Figure FDA00030541874200000211
增广拉格朗日函数为:
Figure FDA0003054187420000031
其中,μ是控制算法速度的正标量且
Figure FDA0003054187420000032
为拉格朗日乘子张量;接着
Figure FDA0003054187420000033
和εp可以通过交替极小化增广拉格朗日函数L来更新;两个子问题都有封闭解;对于
Figure FDA0003054187420000034
使用t-SVT,即奇异值阈值算法,并采用软阈值方法解决εp
(2)收敛性分析,当目标函数是两个凸函数的和时,能够保证两块ADMM收敛到全局最小值;在HTRPCA程序中,目标函数由两个闭凸函数
Figure FDA0003054187420000035
和||εp||1组成;显然,该算法是标准的双块ADMM算法在张量环境下的直接应用,其收敛性在理论上是有保证的。
4.如权利要求1所述的基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述基于高阶张量奇异值分解的彩***恢复方法中,所述符号包括:实数域和复数域分别记为R和C,用黑体欧拉字母表示张量,上标表示张量的相应维数,例如一个p阶张量可以记为
Figure FDA0003054187420000036
矩阵用黑体大写字母表示,例如A,向量以黑体小写字母表示,例如a,用小写字母表示标量,例如a;一个阶3张量
Figure FDA0003054187420000037
可以看成是矩阵的组合,称之为切片;对于任意p阶张量
Figure FDA0003054187420000038
也可以看成是低维张量的组合称之为次张量通过固定一些原始张量的维数而得到;在子张量的右上角标记一个序列,例如
Figure FDA0003054187420000039
这个张量显然是由
Figure FDA00030541874200000310
固定它的第j维度为ij同时固定它的第k维度为ik;对高阶张量的处理一般从最后一个维度逆向一直到倒数第二个维度为止,将
Figure FDA00030541874200000311
简写为
Figure FDA00030541874200000312
特别的,
Figure FDA00030541874200000313
的前向切片定义为
Figure FDA00030541874200000314
它是一个二阶子张量并且可以被记为
Figure FDA00030541874200000315
并且称大小为1×1×n3×…×np的子张量
Figure FDA00030541874200000316
为管子张量;
A和B在
Figure FDA00030541874200000317
上的內积定义为<A,B>=tr(A*B);三阶张量
Figure FDA00030541874200000318
Figure FDA00030541874200000319
Figure FDA00030541874200000320
上的內积定义为
Figure FDA00030541874200000321
有:
Figure FDA0003054187420000041
对于任意
Figure FDA0003054187420000042
它的复共轭定义为
Figure FDA0003054187420000043
即取
Figure FDA0003054187420000044
每一个元素的复共轭;
矩阵的谱范数定义为A=maxiσi(A),即为A的最大元素;矩阵的核范数定义为||A||*=∑iσi(A);定义p阶张量的
Figure FDA00030541874200000423
范数为
Figure FDA0003054187420000045
无穷范数为
Figure FDA0003054187420000046
F范数为
Figure FDA0003054187420000047
5.如权利要求1所述的基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述基于高阶张量奇异值分解的彩***恢复方法中,所述DFT的共轭性质,包括:离散傅里叶变换DFT在算法运算时起着核心作用;对
Figure FDA0003054187420000048
的傅里叶变换后结果为
Figure FDA0003054187420000049
记为
Figure FDA00030541874200000410
其中Fn是DFT矩阵,记为:
Figure FDA00030541874200000411
其中,ω=e-2πi/n;注意
Figure FDA00030541874200000412
是一个正交矩阵;已知a的循环矩阵可以用DFT矩阵对角化;
Figure FDA00030541874200000413
其中,
Figure FDA00030541874200000414
表示一个对角矩阵,其第i个对角项为
Figure FDA00030541874200000415
引理2.1对于任何实向量
Figure FDA00030541874200000416
有其关联向量
Figure FDA00030541874200000417
Figure FDA00030541874200000418
的第i项定义为
Figure FDA00030541874200000419
满足:
Figure FDA00030541874200000420
把这个性质扩展到矩阵的情况,并最终扩展到p阶张量的情况;
引理2.2对于
Figure FDA00030541874200000421
张量
Figure FDA00030541874200000422
是通过对A的第三维度采取傅里叶变换的结果,有
Figure FDA0003054187420000051
是一个块对角矩阵并且它对角线上的
Figure FDA0003054187420000052
Figure FDA0003054187420000053
的切片,例如:
Figure FDA0003054187420000054
有:
Figure FDA0003054187420000055
引理2.2的证明利用分块循环矩阵可被DFT对角化的性质,例如:
Figure FDA0003054187420000056
其中,Fn是一个大小为n×n的傅里叶矩阵并且
Figure FDA0003054187420000057
Figure FDA0003054187420000058
的块循环矩阵,它的定义如下:
Figure FDA0003054187420000059
引理2.2证明通过(8),
Figure FDA00030541874200000510
的前向切片
Figure FDA00030541874200000511
对于
Figure FDA00030541874200000512
的任意元素,它能被写作
Figure FDA00030541874200000513
并且能在
Figure FDA00030541874200000514
的相同位置上发现它的共轭,即:
Figure FDA00030541874200000515
因此能得到
Figure FDA00030541874200000516
相反地,对于任意给定的
Figure FDA00030541874200000517
当它满足(7)那么必定存在一个满足(8)的实张量;基于前述公式
Figure FDA0003054187420000061
可以得到3阶张量的以下性质:
Figure FDA0003054187420000062
Figure FDA0003054187420000063
引理2.3对于
Figure FDA0003054187420000064
张量
Figure FDA0003054187420000065
是对
Figure FDA0003054187420000066
从第p维度做傅里叶变换直到第三维度的结果;
因此,对于
Figure FDA0003054187420000067
是一个块对角矩阵,它的第(i3,i4,…,ip)对角块
Figure FDA0003054187420000068
Figure FDA0003054187420000069
的第(i3,i4,…,ip)前向切片,例如:
Figure FDA00030541874200000610
有,
Figure FDA00030541874200000611
其中,
Figure FDA00030541874200000612
Figure FDA00030541874200000613
类似于引理2.2,引理2.3的证明使用到了块循环矩阵
Figure FDA0003054187420000071
可通过傅里叶变换对角化的性质,即:
Figure FDA0003054187420000072
对于
Figure FDA0003054187420000073
的任意元素,根据(11)的索引在
Figure FDA0003054187420000074
的某一个相应的正向切片中找到它的共轭,令
Figure FDA0003054187420000075
Figure FDA0003054187420000076
上面的等式可以简记为
Figure FDA0003054187420000077
其中
Figure FDA0003054187420000078
按下述定义,将
Figure FDA0003054187420000079
简写为
Figure FDA00030541874200000710
Figure FDA00030541874200000711
Figure FDA00030541874200000712
Figure FDA00030541874200000713
通过使用下式得到高阶张量的以下性质,这些性质将在证明中频繁使用:
Figure FDA00030541874200000714
Figure FDA00030541874200000715
其中,L1=L2=1,Li=n3*…*ni
6.如权利要求1所述的基于高阶张量奇异值分解的彩***恢复方法,其特征在于,所述基于高阶张量奇异值分解的彩***恢复方法中,所述代数框架,包括:对于
Figure FDA00030541874200000716
定义:
Figure FDA0003054187420000081
unfold算子将
Figure FDA0003054187420000082
按照第p维度展开为np个大小为n1×n2×···×np-1的张量且fold是它的逆算子;
Figure FDA0003054187420000083
Figure FDA0003054187420000084
其中
Figure FDA0003054187420000085
Figure FDA0003054187420000086
tcirc算子将
Figure FDA0003054187420000087
展开为它的块循环矩阵
Figure FDA0003054187420000088
算子将
Figure FDA0003054187420000089
展开为大小为n1n3…np×l的矩阵且tfold是它的逆算子
Figure FDA00030541874200000810
定义2.1令
Figure FDA00030541874200000811
那么张量积
Figure FDA00030541874200000812
cp是大小为n1×l×n3×…×np的p阶张量,
Figure FDA00030541874200000813
备注2.4引理2.2提供了一种更有效的方法来计算p阶张量积和p阶张量奇异值分解;例如,
Figure FDA00030541874200000814
Figure FDA00030541874200000815
是两个5阶张量;如果想要得到它们之间的乘积,按原来的方法需要125次矩阵乘积;但如果使用(10),只需要计算标记(1~3,1,1),(1~5,2~3)和(1~5,1~5,2~3)之间的63次乘积;
由此可以设计出p阶张量积的算法;
定义2.2令
Figure FDA00030541874200000816
它的共轭转置为
Figure FDA00030541874200000817
Figure FDA0003054187420000091
定义2.3令
Figure FDA0003054187420000092
当它的第一个正向切片为大小为n×n的单位矩阵其他切片全为0时称它为单位张量;对于合适大小的
Figure FDA0003054187420000093
Figure FDA0003054187420000094
定义2.4令
Figure FDA0003054187420000095
Figure FDA0003054187420000096
然后称这个实值张量是一个p阶正交张量;
定义2.5如果张量的每一个正向切片都是对角矩阵,则该张量称为f-对角张量;
定理2.5令
Figure FDA0003054187420000097
是一个p阶实值张量;那么
Figure FDA0003054187420000098
能被分解为:
Figure FDA0003054187420000099
其中
Figure FDA00030541874200000910
是正交张量,且
Figure FDA00030541874200000911
是一个f-对角张量;
证明通过构造证明;对于
Figure FDA00030541874200000912
的一个前端切片,例如
Figure FDA00030541874200000913
找到和它完全一样的另一片;然后用下面的方法构造
Figure FDA00030541874200000914
的SVD,当
Figure FDA00030541874200000915
时,通过
Figure FDA00030541874200000916
得到
Figure FDA00030541874200000917
然后当
Figure FDA00030541874200000918
且i3=1:n3时,
Figure FDA00030541874200000919
Figure FDA00030541874200000920
得到;剩下的部分的处理方法以此类推直到
Figure FDA00030541874200000921
Figure FDA00030541874200000922
Figure FDA00030541874200000923
得到;然后使用共轭性质(10)来找到相应的前向切片,对他们做SVD以得到剩下的
Figure FDA00030541874200000924
Figure FDA00030541874200000925
通过这种方法可以保证所有的
Figure FDA00030541874200000926
都是实张量;因此,
Figure FDA0003054187420000101
通过构造和定义2.1,将DFT对角化矩阵之间的矩阵积等价于原张量之间的张量积,从而完成了证明;
Figure FDA0003054187420000102
通过构建它们的方式都是实的;算法2展示了计算t-SVD的方法;
已知矩阵的奇异值具有递减性质;在t-SVD的处理过程中,令
Figure FDA0003054187420000103
Figure FDA00030541874200001014
的第一个正向切片对角线上的元素S(1,…,1)具有相同的递减性质:
Figure FDA0003054187420000104
通过DFT的处理得到以下性质,
Figure FDA0003054187420000105
定义2.6对于
Figure FDA0003054187420000106
表示张量正向秩(或张量1,2维秩)为
Figure FDA0003054187420000107
张量正面秩的值为
Figure FDA00030541874200001019
的非零管子张量的个数,它们是通过对
Figure FDA0003054187420000108
得到的;因此,定义:
Figure FDA0003054187420000109
实际上,张量
Figure FDA00030541874200001015
是通过对一个张量从第p维到第三维求反fft得到的;因此,
Figure FDA00030541874200001016
的第一个切片必须包含张量其余切片的信息;张量的正向秩由
Figure FDA00030541874200001017
的第一个正向切片对剑线上的元素决定:
Figure FDA00030541874200001010
因此张量前向秩等于
Figure FDA00030541874200001018
非零项的个数;很明显,通过旋转张量得到几个相似的秩,即固定另一对维度作为新的第一、第二维度;定义p阶张量
Figure FDA00030541874200001011
的1,4维秩(rank1,4),它是通过固定一维和四维,进行T-SVD得到;
像矩阵的情况一样定义张量秩k近似;对于任意大小为n1×n2×…×np的高维张量
Figure FDA00030541874200001012
Figure FDA00030541874200001013
Figure FDA0003054187420000111
那么有
Figure FDA0003054187420000112
Figure FDA0003054187420000113
Figure FDA0003054187420000114
前向秩至多为k的最佳近似;
定义2.7对于
Figure FDA0003054187420000115
将张量平均前向秩表示为其
Figure FDA0003054187420000116
的秩乘以
Figure FDA0003054187420000117
因此,定义:
Figure FDA0003054187420000118
Figure FDA0003054187420000119
定义2.8
Figure FDA00030541874200001110
是一个p阶张量;它的张量谱范数为
Figure FDA00030541874200001111
已知矩阵核范数是矩阵谱范数的对偶范数;因此,定义了核张量范数,定义
Figure FDA00030541874200001112
作为张量特殊范数的对偶范数;对于任何的
Figure FDA00030541874200001113
Figure FDA00030541874200001114
Figure FDA00030541874200001115
Figure FDA00030541874200001116
Figure FDA00030541874200001117
有:
Figure FDA00030541874200001118
Figure FDA0003054187420000121
有:
Figure FDA0003054187420000122
其中,
Figure FDA0003054187420000123
这样就有了任意维度的张量核范数的定义;
定义2.9令
Figure FDA0003054187420000124
作为
Figure FDA0003054187420000125
的t-SVD结果;
Figure FDA0003054187420000126
的张量核范数定义为:
Figure FDA0003054187420000127
其中,
Figure FDA0003054187420000128
从TNN的定义可以看出,张量
Figure FDA0003054187420000129
的核范数只与T-SVD生成的
Figure FDA00030541874200001214
的第一个正向切片的值有关;因此,把S(1,…,1)的非零项称为张量
Figure FDA00030541874200001210
的奇异值;
定理2.6在集合
Figure FDA00030541874200001211
上,张量核范数
Figure FDA00030541874200001212
是张量平均前向秩
Figure FDA00030541874200001213
的凸包络。
7.一种应用如权利要求1~6任意一项所述的基于高阶张量奇异值分解的彩***恢复方法的基于高阶张量奇异值分解的彩***恢复***,其特征在于,所述基于高阶张量奇异值分解的彩***恢复***包括:
低秩和稀疏部分提取模块,用于基于高维鲁棒主成分分析HTRPCA问题,从p阶张量中提取低秩和稀疏部分;
改进算法构建模块,用于根据p阶张量生成块对角矩阵的共轭性质,提出张量积和张量SVD的改进算法;
张量维数秩定义模块,用于通过在张量上实施T-SVD定义新的张量维数秩;
准确恢复保证模块,用于利用基于张量前向秩的张量核范数,设计近端算子和交替方向乘子法ADMM算法来求解HTRPCA问题,实现HTRPCA的准确恢复保证。
8.一种如权利要求1~6任意一项所述的基于高阶张量奇异值分解的彩***恢复方法在图像修补和图像去噪中的应用,其特征在于,所述基于高阶张量奇异值分解的彩***恢复方法在图像修补和图像去噪中的应用方法,包括:
(1)模拟数据的精确恢复
在所有实验中设置
Figure FDA0003054187420000131
考虑大小为n×n×l×l×l的张量,它的维度上的具体数值为n=200和n=400,l=10;通过求
Figure FDA0003054187420000132
得张量积来得到前向秩为r的低阶张量,其中
Figure FDA0003054187420000133
Figure FDA0003054187420000134
都是大小为n×r×l×l×l的张量,他们的每一个元素都服从
Figure FDA0003054187420000135
分布;
Figure FDA0003054187420000136
的大小为m的支撑集Ω是均匀选取的;对于所有的(i1,i2,i3,i4,i5)∈Ω,令
Figure FDA0003054187420000137
其中
Figure FDA0003054187420000138
是拥有独立伯努利±1元素的张量;
(2)算法中
Figure FDA0003054187420000139
是一个线性算子,它表示Ω支撑集上的值不变而之外的值全变成0;从网站http://trace.eas.asu.edu/yuv/中选择15个彩***进行测试;对于实验中的每个视频序列,由于计算成本的关系,使用前150帧进行测试,使用格式为网站提供的QCIF格式,其中每一帧大小为144×176×3;在缺失值的设置上,对于一个大小为
Figure FDA00030541874200001310
的彩***张量,随机设置m=3phwf个元素来观察,考虑p=0.3,p=0.4和p=0.5;同时应用HaLRTC,TMac,NRTAC,TNN这四种先进的张量修补方法进行视频恢复,并比较它们的性能;在实验中,这些比较方法均使用了参考文献中建议的参数设置,其中TNN是将数据的前两个维度直接拼接,再进行3阶的张量补全;实验中用于判断视频补全质量标准的PSNR值计算公式为:
Figure FDA0003054187420000141
9.一种存储在计算机可读介质上的计算机程序产品,包括计算机可读程序,供于电子装置上执行时,提供用户输入接口以实施如权利要求1~6任意一项所述的基于高阶张量奇异值分解的彩***恢复方法。
10.一种计算机可读存储介质,储存有指令,当所述指令在计算机上运行时,使得计算机执行如权利要求1~6任意一项所述的基于高阶张量奇异值分解的彩***恢复方法。
CN202110495745.XA 2021-05-07 2021-05-07 一种基于高阶张量奇异值分解的彩***恢复方法及*** Active CN113240596B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202110495745.XA CN113240596B (zh) 2021-05-07 2021-05-07 一种基于高阶张量奇异值分解的彩***恢复方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202110495745.XA CN113240596B (zh) 2021-05-07 2021-05-07 一种基于高阶张量奇异值分解的彩***恢复方法及***

Publications (2)

Publication Number Publication Date
CN113240596A true CN113240596A (zh) 2021-08-10
CN113240596B CN113240596B (zh) 2023-10-27

Family

ID=77132500

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202110495745.XA Active CN113240596B (zh) 2021-05-07 2021-05-07 一种基于高阶张量奇异值分解的彩***恢复方法及***

Country Status (1)

Country Link
CN (1) CN113240596B (zh)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114841888A (zh) * 2022-05-16 2022-08-02 电子科技大学 基于低秩张量环分解和因子先验的视觉数据补全方法
CN115081542A (zh) * 2022-07-22 2022-09-20 深圳大学 子空间聚类方法、终端设备及计算机可读存储介质
CN116504341A (zh) * 2022-05-20 2023-07-28 大连理工大学 数据驱动识别偏微分方程的序列奇异值过滤方法
CN116503671A (zh) * 2023-06-25 2023-07-28 电子科技大学 基于有效秩张量近似的残差网络压缩的图像分类方法
CN116698416A (zh) * 2023-06-08 2023-09-05 上海理工大学 一种用于早期故障检测的低秩特征多通道同步提取方法
CN116912107A (zh) * 2023-06-13 2023-10-20 重庆市荣冠科技有限公司 一种基于dct的加权自适应张量数据补全方法

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108510013A (zh) * 2018-07-02 2018-09-07 电子科技大学 基于低秩核心矩阵的改进稳健张量主成分分析方法
CN112132760A (zh) * 2020-09-14 2020-12-25 北京大学 基于可学习可微分矩阵逆及矩阵分解的图像恢复方法

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108510013A (zh) * 2018-07-02 2018-09-07 电子科技大学 基于低秩核心矩阵的改进稳健张量主成分分析方法
CN112132760A (zh) * 2020-09-14 2020-12-25 北京大学 基于可学习可微分矩阵逆及矩阵分解的图像恢复方法

Non-Patent Citations (3)

* Cited by examiner, † Cited by third party
Title
CANYI LU等: "Tensor robust principal component analysis with a new tensor nuclear norm", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》, pages 925 - 938 *
FENG ZHANG等: "Low-Tubal-Rank Plus Sparse Tensor Recovery with prior subspace information", 《IEEE TRANSACTIONS ON PATTERN ANALYSIS AND MACHINE INTELLIGENCE》, pages 3492 *
NIE YM等: "Graph-regularized tensor robust principal component analysis for hyperspectral image denoising", 《APPLIED OPTICS》, pages 6094 - 6102 *

Cited By (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114841888A (zh) * 2022-05-16 2022-08-02 电子科技大学 基于低秩张量环分解和因子先验的视觉数据补全方法
CN114841888B (zh) * 2022-05-16 2023-03-28 电子科技大学 基于低秩张量环分解和因子先验的视觉数据补全方法
CN116504341A (zh) * 2022-05-20 2023-07-28 大连理工大学 数据驱动识别偏微分方程的序列奇异值过滤方法
CN116504341B (zh) * 2022-05-20 2023-11-07 大连理工大学 数据驱动识别偏微分方程的序列奇异值过滤方法
CN115081542A (zh) * 2022-07-22 2022-09-20 深圳大学 子空间聚类方法、终端设备及计算机可读存储介质
CN115081542B (zh) * 2022-07-22 2023-07-07 深圳大学 子空间聚类方法、终端设备及计算机可读存储介质
CN116698416A (zh) * 2023-06-08 2023-09-05 上海理工大学 一种用于早期故障检测的低秩特征多通道同步提取方法
CN116698416B (zh) * 2023-06-08 2024-04-02 上海理工大学 一种用于早期故障检测的低秩特征多通道同步提取方法
CN116912107A (zh) * 2023-06-13 2023-10-20 重庆市荣冠科技有限公司 一种基于dct的加权自适应张量数据补全方法
CN116912107B (zh) * 2023-06-13 2024-04-16 万基泰科工集团数字城市科技有限公司 一种基于dct的加权自适应张量数据补全方法
CN116503671A (zh) * 2023-06-25 2023-07-28 电子科技大学 基于有效秩张量近似的残差网络压缩的图像分类方法
CN116503671B (zh) * 2023-06-25 2023-08-29 电子科技大学 基于有效秩张量近似的残差网络压缩的图像分类方法

Also Published As

Publication number Publication date
CN113240596B (zh) 2023-10-27

Similar Documents

Publication Publication Date Title
CN113240596A (zh) 一种基于高阶张量奇异值分解的彩***恢复方法及***
He et al. A splitting method for separable convex programming
Chierchia et al. Epigraphical projection and proximal tools for solving constrained convex optimization problems
Kongskov et al. Directional total generalized variation regularization
Bao et al. Image restoration by minimizing zero norm of wavelet frame coefficients
Liu et al. Block matching local SVD operator based sparsity and TV regularization for image denoising
Hong et al. Online robust principal component analysis via truncated nuclear norm regularization
Choi Explicit form of approximate transition probability density functions of diffusion processes
Ciak et al. Homogeneous penalizers and constraints in convex image restoration
CN111325697B (zh) 一种基于张量本征变换的彩色图像修复方法
CN112465713A (zh) 基于流形优化的张量低秩模型非平滑三维图像补全方法
Zhang et al. High‐Order Total Bounded Variation Model and Its Fast Algorithm for Poissonian Image Restoration
Wang et al. Low‐rank tensor completion with sparse regularization in a transformed domain
Li et al. A gradient-based approach to optimization of compressed sensing systems
Pesteh et al. Favorable properties of interior point method and generalized correntropy in power system state estimation
He et al. On the direct extension of ADMM for multi-block separable convex programming and beyond: from variational inequality perspective
Yang et al. Fractional‐order tensor regularisation for image inpainting
Mohan et al. Patch based fast noise level estimation using DCT and standard deviation
CN112422133B (zh) 一种减法匹配追踪的二值稀疏信号恢复方法及其应用
Maji et al. Reconstructing an image from its edge representation
Zhao et al. Image super-resolution via two stage coupled dictionary learning
Chen et al. Image decomposition‐based blind image deconvolution model by employing sparse representation
Lian et al. Filters of wavelets on invariant sets for image denoising
Deng et al. Hybrid model of tensor sparse representation and total variation regularization for image denoising
He et al. Convex optimization based low-rank matrix decomposition for image restoration

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant