CN106713741B - 全景视频的质量诊断方法及装置 - Google Patents

全景视频的质量诊断方法及装置 Download PDF

Info

Publication number
CN106713741B
CN106713741B CN201611034166.0A CN201611034166A CN106713741B CN 106713741 B CN106713741 B CN 106713741B CN 201611034166 A CN201611034166 A CN 201611034166A CN 106713741 B CN106713741 B CN 106713741B
Authority
CN
China
Prior art keywords
video image
camera
video
quality diagnosis
panoramic
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201611034166.0A
Other languages
English (en)
Other versions
CN106713741A (zh
Inventor
陈志豪
徐庆华
蔡卫东
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huang Liang
Original Assignee
Shenzhen Go6d Science & Technology Co ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Shenzhen Go6d Science & Technology Co ltd filed Critical Shenzhen Go6d Science & Technology Co ltd
Priority to CN201611034166.0A priority Critical patent/CN106713741B/zh
Publication of CN106713741A publication Critical patent/CN106713741A/zh
Application granted granted Critical
Publication of CN106713741B publication Critical patent/CN106713741B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/90Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3141Constructional details thereof
    • H04N9/3147Multi-projection systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3191Testing thereof

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Studio Devices (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种全景视频的质量诊断方法,包括:通过全景摄像机预置的多摄像头获取多路视频图像;建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。本发明还公开了一种全景视频的质量诊断装置。本发明提高了对全景视频图像进行质量诊断的便捷性,以保证全景视频图像的质量。

Description

全景视频的质量诊断方法及装置
技术领域
本发明涉及全景摄像机参数处理技术领域,尤其涉及一种全景视频的质量诊断方法及装置。
背景技术
视频质量的可靠可用性是视频监控领域对视频最基本的要求。视频质量诊断在类型上可分为主观视频质量诊断和客观视频质量诊断。主观视频质量诊断方法结果准确性较高,但容易受实验环境制约、可操作性差、成本过高等。客观视频质量诊断方法虽然与人眼的主观评价仍有一定的距离,但其可重复性好、计算速度快、评价成本低、可移植性高等。
但是,目前的视频质量诊断仅局限于单摄像头的视频质量诊断,并非应用于全景视频的质量诊断。
发明内容
本发明的主要目的在于提供一种全景视频的质量诊断方法及装置,旨在提高对全景视频图像进行质量诊断的便捷性。
为实现上述目的,本发明提供了一种全景视频的质量诊断方法,包括:
通过全景摄像机预置的多摄像头获取多路视频图像;
建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。
优选地,所述将所述每个摄像头视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果包括:
对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
优选地,所述建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果包括:
确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。
优选地,所述图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测。
优选地,所述将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果之后包括:
建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取投影后的所述每个摄像头的视频图像的特征信息;
根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像。
此外,为实现上述目的,本发明还提供了一种全景视频的质量诊断装置,包括:
获取模块,用于通过全景摄像机预置的多摄像头获取多路视频图像;
诊断模块,用于建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
融合模块,用于将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。
优选地,所述融合模块还用于,对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
优选地,所述诊断模块还用于,确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。
优选地,所述图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测。
优选地,所述全景视频的质量诊断装置还包括:
投影模块,用于建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取模块,用于提取投影后的所述每个摄像头的视频图像的特征信息;
匹配模块,用于根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
生成模块,用于根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像。
本发明实施例通过全景摄像机预置的多摄像头获取多路视频图像,并建立视频图像质量诊断的数学模型对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。然后将每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。实现了对全景视频图像进行质量诊断,提高了对全景视频图像进行质量诊断的便捷性,以保证全景视频图像的质量。
附图说明
图1为本发明全景视频的质量诊断方法第一实施例的流程示意图;
图2为本发明在全景摄像机坐标系中视平面的位置关系的示意图;
图3为本发明在全景摄像机坐标系中圆柱图像投影的示意图;
图4为本发明全景视频的质量诊断装置第一实施例的功能模块示意图。
本发明目的的实现、功能特点及优点将结合实施例,参照附图做进一步说明。
具体实施方式
应当理解,此处所描述的具体实施例仅仅用以解释本发明,并不用于限定本发明。
如图1所示,示出了本发明一种全景视频的质量诊断方法第一实施例。该实施例的全景视频的质量诊断方法包括:
步骤S10、通过全景摄像机预置的多摄像头获取多路视频图像;
本实施例中,全景视频的质量诊断方法应用于全景摄像机对采集到的全景视频图像进行质量诊断,该全景摄像机可包括多个摄像头,在对全景视频进行质量诊断之前,首先需要通过全景摄像机预置的多摄像头获取多路视频图像,以分别对多路视频图像进行质量诊断。
步骤S20、建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
在得到多路视频图像后,建立视频图像质量诊断的数学模型,将该数学模型应用于每个摄像头采集的视频图像进行质量诊断。
优选地,上述步骤S20包括:确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。
具体地,首先确定图像质量诊断功能,该图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测等。
然后根据所选择的图像质量诊断功能选择一个合适的视频图像质量评价函数,该评价函数和所确定的图像质量诊断功能相关,不同的图像质量诊断功能需要建立相应的评价函数,从而建立该诊断功能的数学模型。
将该数学模型应用于每个摄像头采集的视频图像进行质量诊断,得到每个视频图像的质量诊断结果,假设N个摄像头的视频图像对应的诊断值为αi(i∈[1,N])。
现以清晰度检测为例进行举例说明,当待检测的视频图像是彩色时,先将其进行灰度化,然后采用Tenengrad函数作为清晰度评价函数。
Tenengrad函数是使用Sobel算子来提取水平和垂直方向的梯度值。梯度检测中,使用高斯函数的一阶微分形式对图像进行滤波,得到以下公式(1):
Figure BDA0001154302610000051
梯度为矢量,函数的梯度方向给出了方向导数取最大值的方向,如以下公式(2)所示:
Figure BDA0001154302610000052
而这个方向的方向导数等于梯度的模,如以下公式(3)所示:
Figure BDA0001154302610000053
对于数字图像公式式(1)的导数可用差分来近似,最简单的梯度表达式为:
Figure BDA0001154302610000054
评价函数f(I)定义为梯度的平方和,梯度G(x,y)要高于一个阈值T,即
Figure BDA0001154302610000055
式中
Figure BDA0001154302610000056
是在点(x,y)上Sobel算子的卷积,T为经验值,从而实现了根据建立的数学模型对每个视频图像进行清晰度检测的质量诊断。
步骤S30、将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。
在根据数学模型对每个摄像头采集到的视频图像进行质量诊断后,将每个视频图像的诊断结果进行加权融合,生成全景视频图像诊断结果。融合方法包括直接平均融合、中值滤波、羽化、加权/线性融合、多频带融合或金字塔融合等。例如,先对每个视频图像分布一个权值,然后将每个视频图像的诊断结果与该视频图像分布的权值做数学运算,得到该视频图像在全景视频图像的诊断贡献值,再将每个视频图像的诊断贡献值进行累加得到全景视频图像的质量诊断结果,最后输出全景视频图像的质量诊断结果。以下实施例将进行详细说明。
本发明实施例通过全景摄像机预置的多摄像头获取多路视频图像,并建立视频图像质量诊断的数学模型对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。然后将每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。实现了对全景视频图像进行质量诊断,提高了对全景视频图像进行质量诊断的便捷性,以保证全景视频图像的质量。
进一步地,基于上述全景视频的质量诊断方法第一实施例,提出了本发明全景视频的质量诊断方法第二实施例,该实施例中上述步骤S30包括:
对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
本实施例中,首先对全景摄像机中的对每个摄像头采集的的视频图像分布一个权值,假设N个摄像机的权值分别为ω12,…,ωN,其中,ωi取值可以根据摄像头个数进行简单的取值为
Figure BDA0001154302610000061
这样设置权重无需考虑到区域大小的贡献率。ωi取值也可以根据每个摄像头的视频图像的像素占所有摄像头的视频图像的像素的比值来作为权重值,假设N个摄像头总像素为Np,每个摄像头的视频图像包含像素数为Mi(i=1,2,…,N),则
Figure BDA0001154302610000062
将每个摄像头的视频图像的质量诊断结果对应与该摄像头的视频图像分布的权值做数学运算,得到该摄像头的视频图像在全景视频图像中的诊断贡献值,每个摄像头视频图像质量诊断的贡献值xi(i∈[1,N]),计算方式可以采用如下方式但不限于该方式:xi=αi·ωi(i∈[1,N])。
所有摄像头的视频图像的诊断贡献值进行累加得到全景视频图像的质量诊断结果,该质量诊断结果令其为y,y计算方式为
Figure BDA0001154302610000071
本实施例通过对每个摄像头的视频图像分别对应设定一个权值,并结合每个摄像头的视频图像的诊断结果进行运算,得到每个摄像头的视频图像在全景视频图像中的诊断贡献值,将各诊断贡献值进行累加得到全景视频图像的质量诊断结果,提高了对全景视频图像进行质量诊断的可靠性及灵活性。
进一步地,基于上述全景视频的质量诊断方法第一或第二实施例,提出了本发明全景视频的质量诊断方法第三实施例,该实施例中上述步骤S30之后包括:
建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取投影后的所述每个摄像头的视频图像的特征信息;
根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像。
本实施例中,在对每个摄像头采集的视频图像分别进行质量诊断,并将每个视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果后,可以将多路视频图像拼接成一路全景视频图像。
首先建立投影模型,该投影模型包括平面、圆柱面、球面或多面体等。然后将各路视频图像根据投影模型进行投影,包括:通过建立投影模型,将多路视频图像绘制在投影模型上,可根据匹配特征点之间的映射关系来表现视频图像之间的投影位置,从而将待拼接视频图像映射到指定坐标空间。
将各路投影后的视频图像进行图像特征的提取,得到视频图像的特征信息,例如,通过特征检测算子和描述符提取图像的特征信息。该特征信息包括视频图像的物理特征、视频图像的内容描述特征等,例如,Harris算子、Sift特征等。
提取视频图像的特征信息后,将每两路存在相交区域的视频图像进行特征匹配,包括:通过分别提取两个或多个图像的特征(点、线、面等特征),生成特征描述符,然后通过特征描述符进行匹配。该特征匹配方法包括基于流的特征匹配方法、基于相位的特征匹配方法或基于特征的特征匹配方法等。
然后根据特征匹配结果进行视频图像融合,包括:对各摄像头的视频图像进行拼接,并对拼接的边界进行平滑处理,让缝隙自然过渡。视频图像特征的融合方法还包括直接平均融合、中值滤波、羽化、加权/线性融合、多频带融合或金字塔融合等。根据视频图像融合结果生成全景视频。
下面以柱面投影为例进行举例说明:
假设全景摄像机中相机的坐标系为OXYZ,视平面的位置关系如图2所示,其中,Z=-f为视平面,则实景图像上任意一点在Z轴坐标值为-f,假设相机的镜头中心没有任何的偏差,则实景图像的中心就是相机的光轴(相机坐标系中的Z轴)与视觉平面的交点。在相机坐标系下,X轴与Y轴分别平行于图像坐标系的横轴和纵轴,因此实景图像上的任意一个像素点(x,y)在相机坐标系OXYZ下的像素坐标为(x-W/2,y-H,-f),其中,W,H分别代表实景图像的宽度和高度。
如图3所示,J为相机拍摄的一张实景图像,P(x,y)为实景图像J上的一个像素点,则该像素点在相机坐标系下的坐标可表示为:
Figure BDA0001154302610000081
其中,W,H为实景图像的宽度和高度,相机坐标系中的原点O为圆柱的中心,圆柱的半径为相机的焦距f,柱面投影的目标就是求出实景图像J中的任意一像素点P(x,y)在圆柱面上的投影点Q(x',y')。
相机坐标系中的原点O与像素点P的直线方程可用参数方程的形式来表示,如以下公式(11)所示:
Figure BDA0001154302610000082
其中t表示参数,则圆柱的方程可表示为:
u2+v2=f2 (12)
联立公式(11)、公式(12)可得:
Figure BDA0001154302610000091
其中(u,v,w)是P(x,y)在圆柱面上的投影后的坐标,可用公式(14)实现将三维的参数坐标转换为二维的图像坐标:
Figure BDA0001154302610000092
其中,
Figure BDA0001154302610000093
hfov是相机的水平视角。
联立公式(13)和公式(14)就可得到实景图像J上的任意一点P(x,y)投影到柱面坐标系上的对应点Q(x',y')的投影变换公式:
Figure BDA0001154302610000094
其中相机焦距f=W/(2tan(hfov/2)),hfov为相机的水平视角。
相应的,由柱面投影公式(15)可得柱面反投影公式:
Figure BDA0001154302610000101
在对多路视频图像进行投影后可提取特征信息,并进行特征匹配,根据匹配结果将多路视频图像融合生成全景视频图像。
本实施例通过建立投影模型对多路视频图像进行投影,并对投影后的视频图像进行特征信息及特征匹配,根据特征匹配结果将多路视频图像融合生成全景视频图像,提高了对全景视频图像融合的准确性及便捷性。
对应地,如图4所示,提出本发明一种全景视频的质量诊断装置第一实施例。该实施例的全景视频的质量诊断装置包括:
获取模块100,用于通过全景摄像机预置的多摄像头获取多路视频图像;
本实施例中,全景视频的质量诊断装置应用于全景摄像机对采集到的全景视频图像进行质量诊断,该全景摄像机可包括多个摄像头,在对全景视频进行质量诊断之前,首先获取模块100需要通过全景摄像机预置的多摄像头获取多路视频图像,以分别对多路视频图像进行质量诊断。
诊断模块200,用于建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
在得到多路视频图像后,诊断模块200建立视频图像质量诊断的数学模型,将该数学模型应用于每个摄像头采集的视频图像进行质量诊断。
优选地,上述诊断模块200还用于,确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。
具体地,首先确定图像质量诊断功能,该图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测等。
然后根据所选择的图像质量诊断功能选择一个合适的视频图像质量评价函数,该评价函数和所确定的图像质量诊断功能相关,不同的图像质量诊断功能需要建立相应的评价函数,从而建立该诊断功能的数学模型。
将该数学模型应用于每个摄像头采集的视频图像进行质量诊断,得到每个视频图像的质量诊断结果,假设N个摄像头的视频图像对应的诊断值为αi(i∈[1,N])。
现以清晰度检测为例进行举例说明,当待检测的视频图像是彩色时,先将其进行灰度化,然后采用Tenengrad函数作为清晰度评价函数。
Tenengrad函数是使用Sobel算子来提取水平和垂直方向的梯度值。梯度检测中,使用高斯函数的一阶微分形式对图像进行滤波,得到以下公式(10):
Figure BDA0001154302610000111
梯度为矢量,函数的梯度方向给出了方向导数取最大值的方向,如以下公式(20)所示:
Figure BDA0001154302610000112
而这个方向的方向导数等于梯度的模,如以下公式(30)所示:
Figure BDA0001154302610000113
对于数字图像公式式(1)的导数可用差分来近似,最简单的梯度表达式为:
Figure BDA0001154302610000114
评价函数f(I)定义为梯度的平方和,梯度G(x,y)要高于一个阈值T,即
Figure BDA0001154302610000115
式中
Figure BDA0001154302610000116
是在点(x,y)上Sobel算子的卷积,T为经验值,从而实现了根据建立的数学模型对每个视频图像进行清晰度检测的质量诊断。
融合模块300,用于将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。
在根据数学模型对每个摄像头采集到的视频图像进行质量诊断后,融合模块300将每个视频图像的诊断结果进行加权融合,生成全景视频图像诊断结果。融合方法包括直接平均融合、中值滤波、羽化、加权/线性融合、多频带融合或金字塔融合等。例如,先对每个视频图像分布一个权值,然后将每个视频图像的诊断结果与该视频图像分布的权值做数学运算,得到该视频图像在全景视频图像的诊断贡献值,再将每个视频图像的诊断贡献值进行累加得到全景视频图像的质量诊断结果,最后输出全景视频图像的质量诊断结果。以下实施例将进行详细说明。
本发明实施例通过全景摄像机预置的多摄像头获取多路视频图像,并建立视频图像质量诊断的数学模型对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果。然后将每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果。实现了对全景视频图像进行质量诊断,提高了对全景视频图像进行质量诊断的便捷性,以保证全景视频图像的质量。
进一步地,基于上述全景视频的质量诊断装置第一实施例,提出了本发明全景视频的质量诊断装置第二实施例,该实施例中上述融合模块300还用于,对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
本实施例中,融合模块300首先对全景摄像机中的对每个摄像头采集的的视频图像分布一个权值,假设N个摄像机的权值分别为ω12,…,ωN,其中,ωi取值可以根据摄像头个数进行简单的取值为
Figure BDA0001154302610000121
这样设置权重无需考虑到区域大小的贡献率。ωi取值也可以根据每个摄像头的视频图像的像素占所有摄像头的视频图像的像素的比值来作为权重值,假设N个摄像头总像素为Np,每个摄像头的视频图像包含像素数为Mi(i=1,2,…,N),则
Figure BDA0001154302610000122
将每个摄像头的视频图像的质量诊断结果对应与该摄像头的视频图像分布的权值做数学运算,得到该摄像头的视频图像在全景视频图像中的诊断贡献值,每个摄像头视频图像质量诊断的贡献值xi(i∈[1,N]),计算方式可以采用如下方式但不限于该方式:xi=αi·ωi(i∈[1,N])。
所有摄像头的视频图像的诊断贡献值进行累加得到全景视频图像的质量诊断结果,该质量诊断结果令其为y,y计算方式为
Figure BDA0001154302610000131
本实施例通过对每个摄像头的视频图像分别对应设定一个权值,并结合每个摄像头的视频图像的诊断结果进行运算,得到每个摄像头的视频图像在全景视频图像中的诊断贡献值,将各诊断贡献值进行累加得到全景视频图像的质量诊断结果,提高了对全景视频图像进行质量诊断的可靠性及灵活性。
进一步地,基于上述全景视频的质量诊断装置第一或第二实施例,提出了本发明全景视频的质量诊断装置第三实施例,该实施例中上述全景视频的质量诊断装置还包括:
投影模块,用于建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取模块,用于提取投影后的所述每个摄像头的视频图像的特征信息;
匹配模块,用于根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
生成模块,用于根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像。
本实施例中,在对每个摄像头采集的视频图像分别进行质量诊断,并将每个视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果后,可以将多路视频图像拼接成一路全景视频图像。
首先由投影模块建立投影模型,该投影模型包括平面、圆柱面、球面或多面体等。然后将各路视频图像根据投影模型进行投影,包括:通过建立投影模型,将多路视频图像绘制在投影模型上,可根据匹配特征点之间的映射关系来表现视频图像之间的投影位置,从而将待拼接视频图像映射到指定坐标空间。
提取模块将各路投影后的视频图像进行图像特征的提取,得到视频图像的特征信息,例如,通过特征检测算子和描述符提取图像的特征信息。该特征信息包括视频图像的物理特征、视频图像的内容描述特征等,例如,Harris算子、Sift特征等。
提取视频图像的特征信息后,匹配模块将每两路存在相交区域的视频图像进行特征匹配,包括:通过分别提取两个或多个图像的特征(点、线、面等特征),生成特征描述符,然后通过特征描述符进行匹配。该特征匹配方法包括基于流的特征匹配方法、基于相位的特征匹配方法或基于特征的特征匹配方法等。
然后生成模块根据特征匹配结果进行视频图像融合,包括:对各摄像头的视频图像进行拼接,并对拼接的边界进行平滑处理,让缝隙自然过渡。视频图像特征的融合方法还包括直接平均融合、中值滤波、羽化、加权/线性融合、多频带融合或金字塔融合等,根据视频图像融合结果生成全景视频。
下面以柱面投影为例进行举例说明:
假设全景摄像机中相机的坐标系为OXYZ,视平面的位置关系如图2所示,其中,Z=-f为视平面,则实景图像上任意一点在Z轴坐标值为-f,假设相机的镜头中心没有任何的偏差,则实景图像的中心就是相机的光轴(相机坐标系中的Z轴)与视觉平面的交点。在相机坐标系下,X轴与Y轴分别平行于图像坐标系的横轴和纵轴,因此实景图像上的任意一个像素点(x,y)在相机坐标系OXYZ下的像素坐标为(x-W/2,y-H,-f),其中,W,H分别代表实景图像的宽度和高度。
如图3所示,J为相机拍摄的一张实景图像,P(x,y)为实景图像J上的一个像素点,则该像素点在相机坐标系下的坐标可表示为:
Figure BDA0001154302610000141
其中,W,H为实景图像的宽度和高度,相机坐标系中的原点O为圆柱的中心,圆柱的半径为相机的焦距f,柱面投影的目标就是求出实景图像J中的任意一像素点P(x,y)在圆柱面上的投影点Q(x',y')。
相机坐标系中的原点O与像素点P的直线方程可用参数方程的形式来表示,如以下公式(110)所示:
Figure BDA0001154302610000142
其中t表示参数,则圆柱的方程可表示为:
u2+v2=f2 (120)
联立公式(110)、公式(120)可得:
Figure BDA0001154302610000151
其中(u,v,w)是P(x,y)在圆柱面上的投影后的坐标,可用公式(140)实现将三维的参数坐标转换为二维的图像坐标:
Figure BDA0001154302610000152
其中,
Figure BDA0001154302610000153
hfov是相机的水平视角。
联立公式(130)和公式(140)就可得到实景图像J上的任意一点P(x,y)投影到柱面坐标系上的对应点Q(x',y')的投影变换公式:
Figure BDA0001154302610000154
其中相机焦距f=W/(2tan(hfov/2)),hfov为相机的水平视角。
相应的,由柱面投影公式(150)可得柱面反投影公式:
Figure BDA0001154302610000161
在对多路视频图像进行投影后可提取特征信息,并进行特征匹配,根据匹配结果将多路视频图像融合生成全景视频图像。
本实施例通过建立投影模型对多路视频图像进行投影,并对投影后的视频图像进行特征信息及特征匹配,根据特征匹配结果将多路视频图像融合生成全景视频图像,提高了对全景视频图像融合的准确性及便捷性。
以上仅为本发明的优选实施例,并非因此限制本发明的专利范围,凡是利用本发明说明书及附图内容所作的等效结构或等效流程变换,或直接或间接运用在其他相关的技术领域,均同理包括在本发明的专利保护范围内。

Claims (4)

1.一种全景视频的质量诊断方法,其特征在于,所述全景视频的质量诊断方法包括以下步骤:
通过全景摄像机预置的多摄像头获取多路视频图像;
建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果;
建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取投影后的所述每个摄像头的视频图像的特征信息;
根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像;
其中,所述建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果包括:
确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
其中,所述图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测。
2.如权利要求1所述的全景视频的质量诊断方法,其特征在于,所述将所述每个摄像头视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果包括:
对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
3.一种全景视频的质量诊断装置,其特征在于,所述全景视频的质量诊断装置包括:
获取模块,用于通过全景摄像机预置的多摄像头获取多路视频图像;
诊断模块,用于建立视频图像质量诊断的数学模型,根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
融合模块,用于将所述每个摄像头的视频图像的质量诊断结果进行融合,得到全景视频图像质量诊断结果;
投影模块,用于建立投影模型,根据所述投影模型对所述每个摄像头的视频图像进行投影;
提取模块,用于提取投影后的所述每个摄像头的视频图像的特征信息;
匹配模块,用于根据所述特征信息,对存在相交区域的每两个视频图像进行特征匹配;
生成模块,用于根据特征匹配结果对所述每个摄像头的视频图像进行视频图像融合,根据视频图像融合结果生成全景视频图像;
其中,所述诊断模块还用于,确定视频图像质量诊断功能;
根据所确定的图像质量诊断功能,设定对应的视频图像质量评价函数,根据所述视频图像质量评价函数建立视频图像质量诊断的数学模型;
根据所述数学模型分别对每个摄像头获取到的视频图像进行质量诊断,得到每个摄像头的视频图像的质量诊断结果;
其中,所述图像质量诊断功能包括清晰度检测、视频噪声检测、亮度异常检测、视频雪花检测、偏色检测、视频冻结检测、视频丢失检测和视频拼接效果检测。
4.如权利要求3所述的全景视频的质量诊断装置,其特征在于,所述融合模块还用于,对所述每个摄像头的视频图像分别对应设定一个权值;
将每个摄像头的视频图像的诊断结果分别与对应设定的权值进行运算,得到每个摄像头的视频图像在所述全景视频图像中的诊断贡献值;
将每个摄像机的视频图像的诊断贡献值进行累加,得到所述全景视频图像的质量诊断结果。
CN201611034166.0A 2016-11-16 2016-11-16 全景视频的质量诊断方法及装置 Active CN106713741B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201611034166.0A CN106713741B (zh) 2016-11-16 2016-11-16 全景视频的质量诊断方法及装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201611034166.0A CN106713741B (zh) 2016-11-16 2016-11-16 全景视频的质量诊断方法及装置

Publications (2)

Publication Number Publication Date
CN106713741A CN106713741A (zh) 2017-05-24
CN106713741B true CN106713741B (zh) 2020-09-25

Family

ID=58941278

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201611034166.0A Active CN106713741B (zh) 2016-11-16 2016-11-16 全景视频的质量诊断方法及装置

Country Status (1)

Country Link
CN (1) CN106713741B (zh)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108337505B (zh) * 2018-01-30 2020-11-10 百度在线网络技术(北京)有限公司 信息获取方法和装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102169576A (zh) * 2011-04-02 2011-08-31 北京理工大学 一种图像拼接算法定量评价方法
CN103413298A (zh) * 2013-07-17 2013-11-27 宁波大学 一种基于视觉特性的立体图像质量客观评价方法
CN103780870A (zh) * 2012-10-17 2014-05-07 杭州海康威视数字技术股份有限公司 视频图像质量诊断***及其方法
CN104243973A (zh) * 2014-08-28 2014-12-24 北京邮电大学 基于感兴趣区域的视频感知质量无参考客观评价方法
CN105447865A (zh) * 2015-11-23 2016-03-30 深圳进化动力数码科技有限公司 一种评估全景拼接算法静态拼接质量的方法和装置
CN105915892A (zh) * 2016-05-06 2016-08-31 乐视控股(北京)有限公司 全景视频质量判断方法及***

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4370726B2 (ja) * 2001-02-15 2009-11-25 株式会社ニコン 電子カメラ、および画像処理プログラム
US7860343B2 (en) * 2006-04-10 2010-12-28 Nokia Corporation Constructing image panorama using frame selection
CN101394485B (zh) * 2007-09-20 2011-05-04 华为技术有限公司 图像生成方法、装置及图像合成设备
CN101256275B (zh) * 2008-04-08 2011-08-31 天津大学 微小型化共像面全景成像装置
CN102231844B (zh) * 2011-07-21 2013-04-03 西安电子科技大学 基于结构相似度和人眼视觉的视频图像融合性能评价方法
CN103049893B (zh) * 2011-10-14 2015-12-16 深圳信息职业技术学院 一种图像融合质量评价的方法及装置
CN102881006A (zh) * 2012-08-03 2013-01-16 吉林禹硕动漫游戏科技股份有限公司 多投影显示***中的图像拼接与融合方法
CN102946548B (zh) * 2012-11-27 2015-02-18 西安电子科技大学 基于3维Log-Gabor变换的视频图像融合性能评价方法
CN103152600B (zh) * 2013-03-08 2015-04-08 天津大学 一种立体视频质量评价方法
CN103856727B (zh) * 2014-03-24 2017-01-25 北京工业大学 一种多路实时视频拼接处理***
CN104008543A (zh) * 2014-05-12 2014-08-27 河海大学 一种图像融合质量评价方法

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102169576A (zh) * 2011-04-02 2011-08-31 北京理工大学 一种图像拼接算法定量评价方法
CN103780870A (zh) * 2012-10-17 2014-05-07 杭州海康威视数字技术股份有限公司 视频图像质量诊断***及其方法
CN103413298A (zh) * 2013-07-17 2013-11-27 宁波大学 一种基于视觉特性的立体图像质量客观评价方法
CN104243973A (zh) * 2014-08-28 2014-12-24 北京邮电大学 基于感兴趣区域的视频感知质量无参考客观评价方法
CN105447865A (zh) * 2015-11-23 2016-03-30 深圳进化动力数码科技有限公司 一种评估全景拼接算法静态拼接质量的方法和装置
CN105915892A (zh) * 2016-05-06 2016-08-31 乐视控股(北京)有限公司 全景视频质量判断方法及***

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
视频监控中图像预处理技术研究;岳建坡;《中国优秀硕士学位论文全文数据库信息科技辑》;20140615(第06期);第23-25页 *

Also Published As

Publication number Publication date
CN106713741A (zh) 2017-05-24

Similar Documents

Publication Publication Date Title
US11006104B2 (en) Collaborative sighting
JP5739584B2 (ja) 車両周辺視角化のための3次元映像合成装置およびその方法
CN107169924B (zh) 三维全景图像的建立方法和***
CN108694741B (zh) 一种三维重建方法及装置
EP1946567A2 (en) Device for generating three dimensional surface models of moving objects
JP6174104B2 (ja) 室内2d平面図の生成方法、装置及びシステム
CN109448105B (zh) 基于多深度图像传感器的三维人体骨架生成方法及***
CN110827392A (zh) 具好的场景易用性的单目图像三维重建方法、***及装置
Possegger et al. Unsupervised calibration of camera networks and virtual PTZ cameras
CN106780613B (zh) 多摄像头标定结果的可视化方法及其***
CN111465937A (zh) 采用光场相机***的脸部检测和识别方法
Huang et al. Image registration among UAV image sequence and Google satellite image under quality mismatch
CN106713741B (zh) 全景视频的质量诊断方法及装置
WO2020196520A1 (en) Method, system and computer readable media for object detection coverage estimation
CN106791800B (zh) 全景视频的质量诊断方法及装置
CN107146195B (zh) 球面图像拼接方法和装置
KR101673144B1 (ko) 부분 선형화 기반의 3차원 영상 정합 방법
Aliakbarpour et al. Multi-sensor 3D volumetric reconstruction using CUDA
US10198617B2 (en) Image-acquisition apparatus
KR101718309B1 (ko) 색상 정보를 활용한 자동 정합·파노라믹 영상 생성 장치 및 방법
KR20160039447A (ko) 스테레오 카메라를 이용한 공간분석시스템
Xu et al. Research on target tracking algorithm based on parallel binocular camera
US9992398B2 (en) Optical sighting
JP2013200840A (ja) 映像処理装置、映像処理方法、映像処理プログラム、及び映像表示装置
JP2005260753A (ja) カメラ選択装置、及びカメラ選択方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
TR01 Transfer of patent right
TR01 Transfer of patent right

Effective date of registration: 20240428

Address after: 310000 Xuezheng Street, Jianggan District, Hangzhou City, Zhejiang Province, China

Patentee after: Huang Liang

Country or region after: China

Address before: 518000 Room 201, building A, No. 1, Qian Wan Road, Qianhai Shenzhen Hong Kong cooperation zone, Shenzhen, Guangdong (Shenzhen Qianhai business secretary Co., Ltd.)

Patentee before: SHENZHEN GO6D SCIENCE & TECHNOLOGY Co.,Ltd.

Country or region before: China