CN108846800A - 一种图像超分辨率重建的无参考图像质量评价方法 - Google Patents
一种图像超分辨率重建的无参考图像质量评价方法 Download PDFInfo
- Publication number
- CN108846800A CN108846800A CN201810537511.5A CN201810537511A CN108846800A CN 108846800 A CN108846800 A CN 108846800A CN 201810537511 A CN201810537511 A CN 201810537511A CN 108846800 A CN108846800 A CN 108846800A
- Authority
- CN
- China
- Prior art keywords
- image
- resolution
- scoring
- reference picture
- detailed information
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 23
- 230000008447 perception Effects 0.000 claims abstract description 17
- 238000000354 decomposition reaction Methods 0.000 claims abstract description 10
- 238000012360 testing method Methods 0.000 claims abstract description 7
- 238000012549 training Methods 0.000 claims description 29
- 230000006870 function Effects 0.000 claims description 18
- 239000011159 matrix material Substances 0.000 claims description 15
- 239000000470 constituent Substances 0.000 claims description 6
- 238000005457 optimization Methods 0.000 claims description 6
- 239000000203 mixture Substances 0.000 claims description 4
- 238000005259 measurement Methods 0.000 claims description 3
- 238000005070 sampling Methods 0.000 claims description 3
- 230000009466 transformation Effects 0.000 claims description 3
- 238000013519 translation Methods 0.000 claims description 3
- 239000012141 concentrate Substances 0.000 claims description 2
- 230000008901 benefit Effects 0.000 abstract description 3
- 238000005516 engineering process Methods 0.000 abstract description 3
- 230000008569 process Effects 0.000 description 6
- 238000013441 quality evaluation Methods 0.000 description 6
- 230000000007 visual effect Effects 0.000 description 4
- 230000009467 reduction Effects 0.000 description 3
- 238000011156 evaluation Methods 0.000 description 2
- 239000000463 material Substances 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 230000000593 degrading effect Effects 0.000 description 1
- 238000013210 evaluation model Methods 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 238000000465 moulding Methods 0.000 description 1
- 238000001303 quality assessment method Methods 0.000 description 1
- 238000011158 quantitative evaluation Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4053—Scaling of whole images or parts thereof, e.g. expanding or contracting based on super-resolution, i.e. the output image resolution being higher than the sensor resolution
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4023—Scaling of whole images or parts thereof, e.g. expanding or contracting based on decimating pixels or lines of pixels; based on inserting pixels or lines of pixels
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/0002—Inspection of images, e.g. flaw detection
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30168—Image quality inspection
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Quality & Reliability (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
Abstract
本发明提出了一种图像超分辨率重建的无参考图像质量评价方法。本发明通过专业摄像人员进行拍摄获得多张高清图像;对高清图像进行插值变换,通过不同的插值步长缩小图像得到小图图像,并对小图图像进行放大;分别对每个图像样本进行主观测试得到平均主观评分和平均主观差异评分作为图像标签;分别采用奇异值分解、离散余弦变换、离散小波变换对图像进行分解和重建,构成细节信息图像组;用高斯混合模型来描述细节信息图像的统计特性,并采用费舍尔向量进行编码作为图像质量感知特征;将每张图像的质量感知特征及其对应的平均主观评分或平均主观差异评分用于训练支持向量回归模型。本发明优点在于对图像超分辨率重建技术进行很好的评估。
Description
技术领域
本发明涉及一种图像超分辨率重建的无参考图像质量评价方法。属于数字图像处理和计算机视觉领域,具体属于图像质量评价领域。
背景技术
数字成像***采集的图像的分辨率往往依赖于相机传感器的性能,高分辨率的图像意味着更高成本的传感器设备,因而在实际应用中需要兼顾设备成本和图像分辨率,很多应用为降低成本而导致了图像分辨率的降低。除图像获取外,图像的传输和压缩等过程通常也会导致图像分辨率的降低,造成人们理解图像内容和获取图像信息困难。图像超分辨率重建技术能够有效提高原始图像的分辨率,获取细节信息更丰富、分辨率更高的高分辨率图像。它旨在通过一个或多个低分辨率的输入图像建立高分辨率图像,重建图像中清晰的细节特征、减小图像中物体的几何失真。由于从高分辨率到低分辨率的降质过程中有大量信息丢失,为了重建更高分辨率的高质量图像,需要借助图像的先验信息,包括边缘信息等。
衡量图像超分辨率重建算法和***性能的决定性因素是采用图像质量评价(Image Quality Assessment,IQA)算法对重建图像的质量进行定量评价。现有的评价图像超分辨率重建算法性能的方法,如结构相似性(Structural Similarity Index,SSIM)和峰值信噪比(Peak Signal to Noise Ratio,PSNR)等,并不能与人类视觉***达到很好的一致性,且需要借助同一场景下具有的原始图像作为参考图像,然而在实际的图像超分辨率重建过程中,通常难以得到原始的高分辨率参考图像。无参考图像质量评价旨在没有任何参考信息的情况下,对图像的质量进行定量的评价。建立针对图像超分辨率重建的符合人类视觉标准的无参考质量评价方法极具应用价值。
发明专利《一种对于超分辨率图像的质量评价方法》(申请号为201710011972.4)通过计算低分辨率图像和超分辨率图像的局部能量及纹理相似性得到超分辨率图像的质量。其不足之处在于需要借助低分辨率图像作为参考图像,不能实现无参考的图像质量评价;直接采用图像的离散余弦变换系数作为图像特征,特征过于简单,且与图像的分辨率没有很好的相关性,与人类视觉主观一致性存在一定差距,还有很大提升空间。为解决上述问题,本发明提供了一种基于训练的适用于图像超分辨率重建的无参考图像质量评价模型,得到的客观质量分数与人类主观分数相关性更高。进行图像质量评价模型的训练通常需要大量的图像样本,而现有的IQA数据库并不包含各种分辨率的图像,且样本数量和图像内容均十分有限。为改善这一问题,本发明构造了一个多分辨率图像库用于评价模型的训练,使模型能够感知不同分辨率的图像的质量。
发明内容
本发明所要解决的技术问题在于提供一种图像超分辨率重建的无参考图像质量评价方法,旨在弥补目前针对图像超分辨率重建技术的无参考图像质量评价模型研究的不足。
本发明通过以下技术方案实现,包括以下步骤:
步骤1:通过专业摄像人员进行拍摄获得多张高清图像;
步骤2,对高清图像进行插值变换,通过不同的插值步长缩小图像得到小图图像,采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像;
步骤3:分别对每个图像样本进行主观测试得到平均主观评分和平均主观差异评分作为图像标签;
步骤4:分别采用奇异值分解、离散余弦变换、离散小波变换对图像进行分解和重建,构成细节信息图像组;
步骤5:用高斯混合模型来描述细节信息图像的统计特性,并采用费舍尔向量进行编码作为图像质量感知特征;
步骤6:将支持向量回归训练集中每张图像的质量感知特征及其对应的平均主观评分或平均主观差异评分用于训练支持向量回归模型。
作为优选,步骤1中所述多张高清图像的数量为K张,均为分辨率为M*N的图像:
P1,P2,...,PK
其中,高清图像Pk k∈[1,K]分辨率为M*N:
其中,高清图像Pk k∈[1,K]中的像素值为Pk(i,j)i∈[1,M]j∈[1,N];
作为优选,步骤2中所述插值变换为对步骤1中所述图像Pk k∈[1,K]采用双三次插值算法进行变换,首先设置不同的插值步长ll∈[1,L]缩小图像得到分辨率为M'*N'的小图图像为:
P'1,P'2,...,P'K
其中,M'=M/l,N'=N/l,小图图像P'k k∈[1,K]分辨率为M'*N':
其中,小图图像Pk'k∈[1,K]中的像素值为Pk'(i,j)i∈[1,M']j∈[1,N'];
然后采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像为:
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],k表示对应的参考图像的序号,l表示插值的步长,l越小,图像Pk,l的分辨率越高;
作为优选,步骤3中所述平均主观评分为:
其中,为图像Pk,l的平均主观评分,MOSk,l,q为测试人员q对图像Pk,l的通过直观印象获得质量评分;
步骤3中所述平均主观差异评分为:
其中,为图像Pk,l的平均主观差异评分,DMOSk,l,q为测试人员q对图像Pk,l的通过图像Pk,l和高清图像Pk进行对比获得质量差异评分;
作为优选,步骤4中所述采用奇异值分解对图像进行分解为:
Pk,l=Uk,l∑k,lVk,l T k∈[1,K]l∈[1,L]
Uk,l=[uk,l,1,uk,l,2,…,uk,l,M]
∑k,l=diag(σk,l,1,σk,l,2,…,σk,l,NT)
Vk,l=[vk,l,1,vk,l,2,…,vk,l,N]
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Uk,l为图像Pk,l的左奇异向量矩阵,Vk,l为图像Pk,l的右奇异向量矩阵,∑k,l为图像Pk,l的对角奇异值矩阵,奇异值σ从大到小排列,NT表示M和N中的较小值,设置阈值εx(0≤εx≤1),令
∑'k,l=diag(σ'k,l,1,σ'k,l,2,…,σ'k,l,NT)
进而重建得到图像Pk,l的奇异值分解细节信息图像为:
步骤4中所述采用离散余弦变化对图像进行分解为:
k∈[1,K]l∈[1,L]i∈[1,M]j∈[1,N]u∈[1,M]v∈[1,N]
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Dk,l为低分辨率图像Pk,l的变换系数矩阵,系数值为Dk,l(u,v)u∈[1,M]v∈[1,N],设置阈值εx(0≤εx≤1),则重建得到的低分辨率图像Pk,l的离散余弦变换细节信息图像为:
步骤4中所述采用离散小波变化对图像进行分解为:
ψD(i,j)=ψ(i)ψ(j)
其中,为基函数,ψ(j)为小波函数,作为优选,本发明选择“Sym8”小波作为小波函数,为二维尺度函数,ψH(i,j)、ψV(i,j)和ψD(i,j)为方向敏感的二维小波函数,ψH响应沿着列的变化,ψV响应沿着行的变化,ψD响应对角线方向的变化,和为尺度和平移基函数。a0表示初始的伸缩尺度,为在尺度a0的pk,l(i,j)的近似系数,为伸缩尺度a≥a0时的水平、垂直和对角方向的细节系数;
令a0=0,A=log2min(M,N),a={A-1,A-2,…,A-x}x∈[1,4],进行离散反小波变换得到离散小波变换细节信息图像为:
k∈[1,K]l∈[1,L]x∈[1,4]
作为优选,步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
将步骤1中所述图像Pk,l k∈[1,K]l∈[1,L]按照其对应的参考图像的不同进行随机划分,其中η1*K*L作为高斯混合模型训练集,η2*K*L作为支持向量回归模型训练集,η3*K*L作为支持向量回归模型测试集;
针对图像Pk,l k∈[1,K]l∈[1,L],像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],将其细节信息图像组和在同一空间位置对应的像素值组成向量作为原始图像描述子,可得到M×N个维度为D的图像描述子向量:
i∈[1,M]j∈[1,N]k∈[1,K]l∈[1,L]
步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
对高斯混合模型训练集中每张图像提取图像描述子yk,l,i,j i∈(1,M)j∈(1,N),对每张图像的M×N个图像描述子随机抽样,选取S个描述子yk,l,s s∈[1,S],然后对高斯混合模型训练集中η1*K*L*S个图像描述子进行高斯混合模型建模:
θ=(π1,μ1,∑1,…,πW,μW,∑W)
其中,yk,l,s为高斯混合模型训练集中图像Pk,l的图像描述子向量,θ为高斯混合模型的参数向量,πw为先验概率,μw为均值,∑w为对角协方差矩阵,det用于求∑w的行列式,D是输入图像描述子的维度,W为多元高斯分布的个数;
步骤5中所述采用费舍尔向量进行编码作为图像质量感知特征为:
对支持向量回归模型训练集和测试集中的每张图像提取图像描述子
yk,l,i,j i∈[1,M]j∈[1,N];
计算图像描述子yk,l,i,j关于参数向量θ中W个高斯组成成分的软分配:
其中,qw,k,l,i,j表示图像描述子yk,l,i,j关于参数向量θ中第w个高斯组成成分的软分配,W为多元高斯分布的个数;
对于高斯混合模型中的每个高斯分布,考虑均值和协方差偏差向量,得到:
将所有uw,k,l和vw,k,l串联起来,可得到图像的费舍尔编码Fk,l:
Fk,l是一个2×W×D维的特征向量,作为图像的质量感知特征;
作为优选,步骤6中所述支持向量回归训练模型为:
约束条件为:
其中,C为惩罚系数,ξn和为松弛因子,ε为偏差,Fn,n∈[1,η2*K*L]为支持向量回归训练集中所有图像的质量感知特征,Tn,n∈[1,η2*K*L]为对应图像的标签,w为权重参数,b为偏置参数,均通过序列最小化优化算法优化求解所得。
本发明与现有技术相比,有益效果在于:本发明提供的模型可以在没有任何参考信息的情况下,对不同分辨率的图像进行质量评价;构造多分辨率图像库,使模型能够感知不同分辨率图像的质量;超分辨率图像与低分辨率图像的主要差别在于它借助了图像的细节信息,因此本发明充分利用了图像的细节信息,直接在细节信息图像上进行图像特征的提取;利用高斯混合模型进行拟合来更准确地获得图像的统计特性。本发明得到的质量评价模型可以对图像超分辨率重建技术进行很好的评估。
附图说明
图1:本发明的算法框架图;
图2:建立图像库的过程;
图3:获得细节信息图像的过程;
图4:由细节信息图像获得原始图像描述子的过程。
具体实施方式
为了便于本领域普通技术人员理解和实施本发明,下面结合附图及实施例对本发明作进一步的详细描述,应当理解,此处所描述的实施示例仅用于说明和解释本发明,并不用于限定本发明。
下面结合图1至图4,介绍本发明实施例提供的一种图像超分辨率重建的无参考图像质量评价方法,具体包括以下步骤:
步骤1:通过网络搜索或由专业摄像人员进行拍摄获得多张高清图像;
步骤1中所述高清图像的数量为K=500,高清图像的分辨率为1024*768,即M=1024,N=768:
P1,P2,...,PK
其中,高清图像Pk k∈[1,K]分辨率为1024*768,即M=1024,N=768:
其中,高清图像Pk k∈[1,K]中的像素值为Pk(i,j)i∈[1,M]j∈[1,N];
步骤2,对高清图像进行插值变换,通过不同的插值步长缩小图像得到小图图像,采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像;
步骤2中所述插值变换为对步骤1中所述图像Pk k∈[1,K]K=500,M=1024,N=768,采用双三次插值算法进行变换,首先设置不同的插值步长ll∈[1,L]L=10缩小图像得到分辨率为M'*N'的小图图像为:
P'1,P'2,...,P'K
其中,M'=M/l,N'=N/l,小图图像P'k k∈[1,K]分辨率为M'*N':
其中,小图图像Pk'k∈[1,K]中的像素值为Pk'(i,j)i∈[1,M']j∈[1,N'];
然后采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像为:
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],k表示对应的参考图像的序号,l表示插值的步长,l越小,图像Pk,l的分辨率越高;
步骤3:分别对每个图像样本Pk,l进行主观测试得到平均主观评分和平均主观差异评分作为图像标签;
步骤3中所述平均主观评分为:
其中,K=500,L=10,为图像Pk,l的平均主观评分,MOSk,l,q为测试人员q对图像Pk,l的通过直观印象获得质量评分;
步骤3中所述平均主观差异评分为:
其中,K=500,L=10,为图像Pk,l的平均主观差异评分,DMOSk,l,q为测试人员q对图像Pk,l的通过图像Pk,l和高清图像Pk进行对比获得质量差异评分;
步骤4:分别采用奇异值分解、离散余弦变换、离散小波变换对图像进行分解和重建,构成细节信息图像组;
步骤4中所述采用奇异值分解对图像进行分解为:
Pk,l=Uk,l∑k,lVk,l T k∈[1,K]l∈[1,L]
Uk,l=[uk,l,1,uk,l,2,…,uk,l,M]
∑k,l=diag(σk,l,1,σk,l,2,…,σk,l,NT)
Vk,l=[vk,l,1,vk,l,2,…,vk,l,N]
其中,K=500,L=10,M=1024,N=768,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Uk,l为图像Pk,l的左奇异向量矩阵,Vk,l为图像Pk,l的右奇异向量矩阵,∑k,l为图像Pk,l的对角奇异值矩阵,奇异值σ从大到小排列,NT表示M和N中的较小值,设置阈值εx(0≤εx≤1),令
ε1=0.1,ε2=0.3,ε3=0.5,ε4=0.7
∑'k,l=diag(σ'k,l,1,σ'k,l,2,…,σ'k,l,NT)
进而重建得到图像Pk,l的奇异值分解细节信息图像为:
步骤4中所述采用离散余弦变化对图像进行分解为:
k∈[1,K]l∈[1,L]i∈[1,M]j∈[1,N]u∈[1,M]v∈[1,N]
其中,K=500,L=10,M=1024,N=768,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Dk,l为低分辨率图像Pk,l的变换系数矩阵,系数值为Dk,l(u,v)u∈[1,M]v∈[1,N],设置阈值εx(0≤εx≤1),则重建得到的低分辨率图像Pk,l的离散余弦变换细节信息图像为:
ε1=0.1,ε2=0.3,ε3=0.5,ε4=0.7
步骤4中所述采用离散小波变化对图像进行分解为:
ψD(i,j)=ψ(i)ψ(j)
其中,,K=500,L=10,M=1024,N=768,为基函数,ψ(j)为小波函数,本发明选择Sym8小波作为小波函数,为二维尺度函数,ψH(i,j)、ψV(i,j)和ψD(i,j)为方向敏感的二维小波函数,ψH响应沿着列的变化,ψV响应沿着行的变化,ψD响应对角线方向的变化,和为尺度和平移基函数。a0表示初始的伸缩尺度,为在尺度a0的pk,l(i,j)的近似系数,为伸缩尺度a≥a0时的水平、垂直和对角方向的细节系数;
令a0=0,A=log2min(M,N),a={A-1,A-2,…,A-x}x∈[1,4],进行离散反小波变换得到离散小波变换细节信息图像为:
k∈[1,K]l∈[1,L]x∈[1,4]
步骤5:用高斯混合模型来描述细节信息图像的统计特性,并采用费舍尔向量进行编码作为图像质量感知特征;
步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
将步骤1中所述图像Pk,l k∈[1,K]l∈[1,L],K=500,L=10按照其对应的参考图像的不同进行随机划分,其中,η1=50%,η1*K*L作为高斯混合模型训练集,η2=40%,η2*K*L作为支持向量回归模型训练集,η3=10%,η3*K*L作为支持向量回归模型测试集;
针对图像Pk,l k∈[1,K]l∈[1,L],像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],M=1024,N=768,将其细节信息图像组和在同一空间位置对应的像素值组成向量作为原始图像描述子,可得到M×N个维度为D=12的图像描述子向量:
i∈[1,M]j∈[1,N]k∈[1,K]l∈[1,L]
步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
对高斯混合模型训练集中每张图像提取图像描述子
yk,l,i,ji∈(1,M)j∈(1,N),M=1024,N=768,K=500,L=10对每张图像的M×N个图像描述子随机抽样,选取S个描述子yk,l,ss∈[1,S],然后对高斯混合模型训练集中η1=50%,η1*K*L*S个图像描述子进行高斯混合模型建模:
θ=(π1,μ1,∑1,…,πW,μW,∑W)
其中,yk,l,s为高斯混合模型训练集中图像Pk,l的图像描述子向量,θ为高斯混合模型的参数向量,πw为先验概率,μw为均值,∑w为对角协方差矩阵,det用于求∑w的行列式,D是输入图像描述子的维度,W=256为多元高斯分布的个数;
步骤5中所述采用费舍尔向量进行编码作为图像质量感知特征为:
对支持向量回归模型训练集和测试集中的每张图像提取图像描述子
yk,l,i,ji∈[1,M]j∈[1,N];
计算图像描述子yk,l,i,j关于参数向量θ中W个高斯组成成分的软分配:
其中,qw,k,l,i,j表示图像描述子yk,l,i,j关于参数向量θ中第w个高斯组成成分的软分配,W=256为多元高斯分布的个数;
对于高斯混合模型中的每个高斯分布,考虑均值和协方差偏差向量,得到:
将所有uw,k,l和vw,k,l串联起来,可得到图像的费舍尔编码Fk,l:
Fk,l是一个2×W×D=6144维的特征向量,作为图像的质量感知特征;
步骤6:将支持向量回归训练集中每张图像的质量感知特征Fk,l及其对应的标签或用于训练支持向量回归模型:
约束条件为:
其中,C为惩罚系数,ξn和为松弛因子,ε为偏差,Fn,n∈[1,40%*K*L]为支持向量回归训练集中所有图像的质量感知特征,Tn,n∈[1,40%*K*L]为对应图像的标签,w为权重参数,b为偏置参数,均通过序列最小化优化算法优化求解所得。
应当理解的是,本说明书未详细阐述的部分均属于现有技术。
应当理解的是,上述针对较佳实施例的描述较为详细,并不能因此而认为是对本发明专利保护范围的限制,本领域的普通技术人员在本发明的启示下,在不脱离本发明权利要求所保护的范围情况下,还可以做出替换或变形,均落入本发明的保护范围之内,本发明的请求保护范围应以所附权利要求为准。
Claims (7)
1.一种图像超分辨率重建的无参考图像质量评价方法,其特征在于,包括以下步骤:
步骤1:通过专业摄像人员进行拍摄获得多张高清图像;
步骤2,对高清图像进行插值变换,通过不同的插值步长缩小图像得到小图图像,采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像;
步骤3:分别对每个图像样本进行主观测试得到平均主观评分和平均主观差异评分作为图像标签;
步骤4:分别采用奇异值分解、离散余弦变换、离散小波变换对图像进行分解和重建,构成细节信息图像组;
步骤5:用高斯混合模型来描述细节信息图像的统计特性,并采用费舍尔向量进行编码作为图像质量感知特征;
步骤6:将支持向量回归训练集中每张图像的质量感知特征及其对应的平均主观评分或平均主观差异评分用于训练支持向量回归模型。
2.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤1中所述多张高清图像的数量为K张,均为分辨率为M*N的图像:
P1,P2,...,PK
其中,高清图像Pkk∈[1,K]分辨率为M*N:
其中,高清图像Pkk∈[1,K]中的像素值为Pk(i,j)i∈[1,M]j∈[1,N]。
3.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤2中所述插值变换为对步骤1中所述图像Pkk∈[1,K]采用双三次插值算法进行变换,首先设置不同的插值步长l l∈[1,L]缩小图像得到分辨率为M'*N'的小图图像为:
P'1,P'2,...,P'K
其中,M'=M/l,N'=N/l,小图图像P'kk∈[1,K]分辨率为M'*N':
其中,小图图像Pk'k∈[1,K]中的像素值为Pk'(i,j)i∈[1,M']j∈[1,N'];
然后采用同样的插值步长对小图图像进行放大得到与原图像素尺寸相同的不同分辨率的图像为:
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],k表示对应的参考图像的序号,l表示插值的步长,l越小,图像Pk,l的分辨率越高。
4.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤3中所述平均主观评分为:
其中,为图像Pk,l的平均主观评分,MOSk,l,q为测试人员q对图像Pk,l的通过直观印象获得质量评分;
步骤3中所述平均主观差异评分为:
其中,为图像Pk,l的平均主观差异评分,DMOSk,l,q为测试人员q对图像Pk,l的通过图像Pk,l和高清图像Pk进行对比获得质量差异评分。
5.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤4中所述采用奇异值分解对图像进行分解为:
Pk,l=Uk,l∑k,lVk,l Tk∈[1,K]l∈[1,L]
Uk,l=[uk,l,1,uk,l,2,…,uk,l,M]
∑k,l=diag(σk,l,1,σk,l,2,…,σk,l,NT)
Vk,l=[vk,l,1,vk,l,2,…,vk,l,N]
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Uk,l为图像Pk,l的左奇异向量矩阵,Vk,l为图像Pk,l的右奇异向量矩阵,∑k,l为图像Pk,l的对角奇异值矩阵,奇异值σ从大到小排列,NT表示M和N中的较小值,设置阈值εx(0≤εx≤1),令
∑'k,l=diag(σ'k,l,1,σ'k,l,2,…,σ'k,l,NT)
进而重建得到图像Pk,l的奇异值分解细节信息图像为:
步骤4中所述采用离散余弦变化对图像进行分解为:
k∈[1,K]l∈[1,L]i∈[1,M]j∈[1,N]u∈[1,M]v∈[1,N]
其中,图像Pk,l中的像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],Dk,l为低分辨率图像Pk,l的变换系数矩阵,系数值为Dk,l(u,v)u∈[1,M]v∈[1,N],设置阈值εx(0≤εx≤1),则重建得到的低分辨率图像Pk,l的离散余弦变换细节信息图像为:
步骤4中所述采用离散小波变化对图像进行分解为:
ψD(i,j)=ψ(i)ψ(j)
其中,为基函数,ψ(j)为小波函数,作为优选,本发明选择Sym8小波作为小波函数,为二维尺度函数,ψH(i,j)、ψV(i,j)和ψD(i,j)为方向敏感的二维小波函数,ψH响应沿着列的变化,ψV响应沿着行的变化,ψD响应对角线方向的变化,和为尺度和平移基函数,a0表示初始的伸缩尺度,为在尺度a0的pk,l(i,j)的近似系数,为伸缩尺度a≥a0时的水平、垂直和对角方向的细节系数;
令a0=0,A=log2min(M,N),a={A-1,A-2,…,A-x}x∈[1,4],进行离散反小波变换得到离散小波变换细节信息图像为:
k∈[1,K]l∈[1,L]x∈[1,4]
6.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
将步骤1中所述图像Pk,lk∈[1,K]l∈[1,L]按照其对应的参考图像的不同进行随机划分,其中η1*K*L作为高斯混合模型训练集,η2*K*L作为支持向量回归模型训练集,η3*K*L作为支持向量回归模型测试集;
针对图像Pk,lk∈[1,K]l∈[1,L],像素值为Pk,l(i,j)i∈[1,M]j∈[1,N],将其细节信息图像组和在同一空间位置对应的像素值组成向量作为原始图像描述子,可得到M×N个维度为D的图像描述子向量:
i∈[1,M]j∈[1,N]k∈[1,K]l∈[1,L]
步骤5中所述用高斯混合模型来描述细节信息图像组的统计特性为:
对高斯混合模型训练集中每张图像提取图像描述子yk,l,i,ji∈(1,M)j∈(1,N),对每张图像的M×N个图像描述子随机抽样,选取S个描述子yk,l,ss∈[1,S],然后对高斯混合模型训练集中η1*K*L*S个图像描述子进行高斯混合模型建模:
θ=(π1,μ1,∑1,…,πW,μW,∑W)
其中,yk,l,s为高斯混合模型训练集中图像Pk,l的图像描述子向量,θ为高斯混合模型的参数向量,πw为先验概率,μw为均值,∑w为对角协方差矩阵,det用于求∑w的行列式,D是输入图像描述子的维度,W为多元高斯分布的个数;
步骤5中所述采用费舍尔向量进行编码作为图像质量感知特征为:
对支持向量回归模型训练集和测试集中的每张图像提取图像描述子
yk,l,i,ji∈[1,M]j∈[1,N];
计算图像描述子yk,l,i,j关于参数向量θ中W个高斯组成成分的软分配:
其中,qw,k,l,i,j表示图像描述子yk,l,i,j关于参数向量θ中第w个高斯组成成分的软分配,W为多元高斯分布的个数;
对于高斯混合模型中的每个高斯分布,考虑均值和协方差偏差向量,得到:
将所有uw,k,l和vw,k,l串联起来,可得到图像的费舍尔编码Fk,l:
Fk,l是一个2×W×D维的特征向量,作为图像的质量感知特征。
7.根据权利要求1所述的图像超分辨率重建的无参考图像质量评价方法,其特征在于,步骤6中所述支持向量回归训练模型为:
约束条件为:
其中,C为惩罚系数,ξn和为松弛因子,ε为偏差,Fn,n∈[1,η2*K*L]为支持向量回归训练集中所有图像的质量感知特征,Tn,n∈[1,η2*K*L]为对应图像的标签,w为权重参数,b为偏置参数,均通过序列最小化优化算法优化求解所得。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810537511.5A CN108846800A (zh) | 2018-05-30 | 2018-05-30 | 一种图像超分辨率重建的无参考图像质量评价方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810537511.5A CN108846800A (zh) | 2018-05-30 | 2018-05-30 | 一种图像超分辨率重建的无参考图像质量评价方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108846800A true CN108846800A (zh) | 2018-11-20 |
Family
ID=64210061
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810537511.5A Pending CN108846800A (zh) | 2018-05-30 | 2018-05-30 | 一种图像超分辨率重建的无参考图像质量评价方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108846800A (zh) |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109886940A (zh) * | 2019-01-31 | 2019-06-14 | 武汉科技大学 | 基于小波变换的超分辨率重建图像的部分参考质量评价方法 |
CN111612785A (zh) * | 2020-06-03 | 2020-09-01 | 浙江大华技术股份有限公司 | 人脸图片质量评估方法、装置及存储介质 |
CN112132775A (zh) * | 2020-08-05 | 2020-12-25 | 浙江万里学院 | 一种基于Fisher编码的屏幕内容图像无参考质量评价方法 |
CN112329595A (zh) * | 2020-11-02 | 2021-02-05 | 中南大学 | 一种岩石节理面几何形貌频谱分析与重建方法 |
CN116091758A (zh) * | 2022-09-09 | 2023-05-09 | 锋睿领创(珠海)科技有限公司 | 基于细节提取的图像处理方法、装置、设备及存储介质 |
CN117475091A (zh) * | 2023-12-27 | 2024-01-30 | 浙江时光坐标科技股份有限公司 | 高精度3d模型生成方法和*** |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106127684A (zh) * | 2016-06-22 | 2016-11-16 | 中国科学院自动化研究所 | 基于双向递归卷积神经网络的图像超分辨率增强方法 |
CN106447647A (zh) * | 2016-07-12 | 2017-02-22 | 中国矿业大学 | 一种压缩感知恢复图像的无参考质量评价方法 |
-
2018
- 2018-05-30 CN CN201810537511.5A patent/CN108846800A/zh active Pending
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN106127684A (zh) * | 2016-06-22 | 2016-11-16 | 中国科学院自动化研究所 | 基于双向递归卷积神经网络的图像超分辨率增强方法 |
CN106447647A (zh) * | 2016-07-12 | 2017-02-22 | 中国矿业大学 | 一种压缩感知恢复图像的无参考质量评价方法 |
Non-Patent Citations (2)
Title |
---|
YANG MA 等: "Blind image quality assessment in multiple bandpass and redundancy domains", 《DIGITAL SIGNAL PROCESSING》 * |
王小怡 等: "超分辨率重建图像质量评价算法分析", 《信息通信》 * |
Cited By (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109886940A (zh) * | 2019-01-31 | 2019-06-14 | 武汉科技大学 | 基于小波变换的超分辨率重建图像的部分参考质量评价方法 |
CN111612785A (zh) * | 2020-06-03 | 2020-09-01 | 浙江大华技术股份有限公司 | 人脸图片质量评估方法、装置及存储介质 |
CN111612785B (zh) * | 2020-06-03 | 2024-02-02 | 浙江大华技术股份有限公司 | 人脸图片质量评估方法、装置及存储介质 |
CN112132775A (zh) * | 2020-08-05 | 2020-12-25 | 浙江万里学院 | 一种基于Fisher编码的屏幕内容图像无参考质量评价方法 |
CN112132775B (zh) * | 2020-08-05 | 2023-10-31 | 浙江万里学院 | 一种基于Fisher编码的屏幕内容图像无参考质量评价方法 |
CN112329595A (zh) * | 2020-11-02 | 2021-02-05 | 中南大学 | 一种岩石节理面几何形貌频谱分析与重建方法 |
CN112329595B (zh) * | 2020-11-02 | 2022-11-15 | 中南大学 | 一种岩石节理面几何形貌频谱分析与重建方法 |
CN116091758A (zh) * | 2022-09-09 | 2023-05-09 | 锋睿领创(珠海)科技有限公司 | 基于细节提取的图像处理方法、装置、设备及存储介质 |
CN116091758B (zh) * | 2022-09-09 | 2023-08-25 | 锋睿领创(珠海)科技有限公司 | 基于细节提取的图像处理方法、装置、设备及存储介质 |
CN117475091A (zh) * | 2023-12-27 | 2024-01-30 | 浙江时光坐标科技股份有限公司 | 高精度3d模型生成方法和*** |
CN117475091B (zh) * | 2023-12-27 | 2024-03-22 | 浙江时光坐标科技股份有限公司 | 高精度3d模型生成方法和*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108846800A (zh) | 一种图像超分辨率重建的无参考图像质量评价方法 | |
Li et al. | No-reference quality assessment of deblocked images | |
CN104008538B (zh) | 基于单张图像超分辨率方法 | |
CN110111256B (zh) | 基于残差蒸馏网络的图像超分辨重建方法 | |
CN101562675B (zh) | 基于Contourlet变换的无参考型图像质量评测方法 | |
CN102708576A (zh) | 基于结构字典的分块图像压缩感知重建方法 | |
CN101950422B (zh) | 一种基于奇异值分解的图像质量评价方法 | |
Xu et al. | Fractal analysis for reduced reference image quality assessment | |
CN109410177A (zh) | 一种超分辨率图像的图像质量分析方法及*** | |
CN104851098A (zh) | 基于改进结构相似度的立体图像质量客观评价方法 | |
CN108765280A (zh) | 一种高光谱图像空间分辨率增强方法 | |
CN104077742B (zh) | 基于Gabor特征的人脸素描合成方法及*** | |
CN110415207A (zh) | 一种基于图像失真类型的图像质量评估的方法 | |
CN104021523B (zh) | 一种基于边缘分类的图像超分辨率放大的方法 | |
CN106709945A (zh) | 一种对于超分辨率图像的质量评价方法 | |
CN104036468A (zh) | 基于预放大非负邻域嵌入的单帧图像超分辨重建方法 | |
CN103020940B (zh) | 一种基于局部特征转换的人脸超分辨率重建方法 | |
CN106023214B (zh) | 基于中央凹视梯度结构相似性的图像质量评价方法及*** | |
Han et al. | Structural information-based image quality assessment using LU factorization | |
CN113674148A (zh) | 一种基于坐标注意力机制的ip-fsrgan-ca人脸图像超分辨率重建算法 | |
CN112950596A (zh) | 基于多区域多层次的色调映射全向图像质量评价方法 | |
CN1913645A (zh) | 一种基于超复数的彩色图像质量评估方法 | |
CN108090914B (zh) | 基于统计建模与像素分类的彩色图像分割方法 | |
Fu et al. | Screen content image quality assessment using Euclidean distance | |
CN103903239B (zh) | 一种视频超分辨率重建方法及其*** |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20181120 |
|
RJ01 | Rejection of invention patent application after publication |