CN105100640B - 一种局部配准并行视频拼接方法及*** - Google Patents
一种局部配准并行视频拼接方法及*** Download PDFInfo
- Publication number
- CN105100640B CN105100640B CN201510487509.8A CN201510487509A CN105100640B CN 105100640 B CN105100640 B CN 105100640B CN 201510487509 A CN201510487509 A CN 201510487509A CN 105100640 B CN105100640 B CN 105100640B
- Authority
- CN
- China
- Prior art keywords
- video
- frame
- video frame
- module
- splicing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Processing (AREA)
Abstract
本发明涉及一种局部配准并行视频拼接方法及***,其方法包括:步骤1:进行三维坐标视角标定,采集视频图像得到多路视频图像,分解为视频数据;步骤2:将接收到的多个第N帧数据作为当前数据,N为自然数;步骤3:对当前数据进行预处理,得到多个剪裁后的视频帧;步骤4:判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;执行步骤5,并同时接收第N+1帧数据作为当前数据,执行步骤3;步骤5:对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;步骤6:根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接。能高效准确的将多路视频进行拼接处理,复杂度低、计算快速、并行度高且扩展性好。
Description
技术领域
本发明涉及一种视频拼接方法及***,尤其涉及一种局部配准并行视频拼接方法及***,属于计算机图像信息处理技术领域。
背景技术
视频拼接技术,是对有重叠区域的多路视频数据,利用视频拼接算法进行拼接,消除重叠区域,形成广角度的大型视频图像处理技术。由于图像采集设备的物理因素的局限性,当前的摄像设备无法获取的广视野范围内的场景。而在日常生活中:在机场,码头,广场,交通路口等视野开阔的大型场景中,通常需要同时显示全景的图像信息。通常可以通过布设多台摄像设备来扩大监控范围,但是场景的显示被分割为多个子窗口,不能够自然直接地反映真实场景。利用计算机图像拼接算法,对多路视频数据的视频拼接可以很好的解决这一问题。
视频拼接过程主要包括图像配准和图像融合两个步骤。同时视频拼接主要面对的挑战是视频流的实时性需求。为了保证视频处理的实时性,需要对每帧图像的配准和融合都进行优化处理。传统的图像配准算法,尺度不变的特征变换SIFT(Scale InvariantFeature Transform)以及快速鲁棒特征SURF(Speeded Up Robust Features)方法,因为较为复杂造成计算量大,难以满足实时性的需求。加速分割检测特征FAST(Features fromAccelerated Segment Test),由于设计简单所以特征检测速度较快。基于FAST算法,利用具有方向性的BRIEFF(Binary Robust Independent Elementary Features)特征算子,提出了oFAST(FAST Keypoint Orientation)检测算法,最终设计了ORB(Oriented FAST andRotated BRIEF)算法。由于视频采集设备空间重叠关联关系,图像配准检测可以只限定于局部区域,基于图像兴趣区ROI(Region of Interest)的局部处理方法可以进一步提高视频拼接的实时性。
现在图像拼接技术已经成为计算机图形学的研究焦点,被广泛应用于空间探测、遥感图像处理、医学图像分析、视频压缩和传输、虚拟现实技术、超分辨率重构等领域。
发明内容
本发明针对现有技术中全画幅配准检测的视频拼接实时性不足的问题,提出一种基于oFAST特征点的能高效准确的将多路视频进行拼接处理的局部配准并行视频拼接方法及***,该方案具有采取分区域局部配准的计算方法,复杂度低、计算快速、并行度高且扩展性好;同时将视频帧配准算法运行于CPU中,融合算法并行运行于FPGA(Field-Programmable Gate Array)可编程逻辑模板中,将程序进行并行化,进一步提高***处理速度。
本发明解决上述技术问题的技术方案如下:一种局部配准并行视频拼接方法,具体包括以下步骤:
步骤1:对多路采集模块进行三维坐标视角标定,多路采集模块对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
步骤2:将接收到的多个第N帧数据作为当前数据,N为自然数;
步骤3:对当前数据进行预处理,得到多个剪裁后的视频帧;
步骤4:判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;执行步骤5,并同时接收第N+1帧数据作为当前数据,执行步骤3;
步骤5:对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;
步骤6:根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接。
本发明的有益效果是:本发明能高效准确的将多路视频进行拼接处理,复杂度低、计算快速、并行度高且扩展性好;将程序进行并行化,进一步提高***处理速度。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述步骤3具体包括以下步骤:
步骤3.1:对当前数据进行视频解码处理得到处理后的视频帧,根据设定的三维坐标视角标定,对处理后的视频帧进行坐标变换;
步骤3.2:对坐标变换后的视频帧依次进行灰度变换和去噪处理;
步骤3.3:对去噪后的每帧视频帧进行剪裁,每帧视频帧剪裁后得到大小相等的左右两个视频帧。
进一步,所述步骤3.2中灰度变换采用的是256级灰度变换得到灰度图像,采用高斯滤波器对灰度图像进行去噪处理。
进一步,所述步骤4中根据步骤1中标定的三维坐标视角进行判断视频帧是否相邻。
步骤4中每一路采集模块间空间左右相邻关系,此处匹配结果为一组合,即空间上左右相邻的两个视频帧。这里匹配只是一个相邻关系,并没有把相邻的两个帧图像拼接起来。下面在此基础上继续判断两个相邻帧图像拼接重合的区域范围。
进一步,所述步骤5具体包括以下步骤:
步骤5.1:根据相邻帧空间关系模型选取任意两个具有相邻关系的视频帧,对每帧视频帧计算生成对应的特征点区域,构成特征点集合;
步骤5.2:针对每个特征点区域选取patch块,对patch块计算得到描述算子,对应特征点集合得到描述算子集合;
步骤5.3:对描述算子集合进行计算,得到相邻视频帧间的单应性矩阵。
进一步,所述步骤5.1中采用oFAST检测算法,对每帧视频帧生成对应的oFAST特征点区域。
进一步,所述步骤6中使用加权平滑法进行视频帧场景拼接。
本发明解决上述技术问题的技术方案如下:一种局部配准并行视频拼接***,包括多路经三维坐标标定的采集模块、图像融合模块、中心处理模块和图像拼接模块;
多路所述采集模块对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
所述图像融合模块依次将接收到的多路视频数据对进行预处理,得到多个剪裁后的视频帧;判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;
所述中心处理模块基于相邻帧空间关系模型对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;
所说图像拼接模块根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接。
本发明的有益效果是:本发明能高效准确的将多路视频进行拼接处理,复杂度低、计算快速、并行度高且扩展性好;将程序进行并行化,进一步提高***处理速度。
在上述技术方案的基础上,本发明还可以做如下改进。
进一步,所述图像融合模块与中心处理模块同时独立运行,当中心处理模块对第N帧视频帧进行配准时,所述图像融合模块对第N+1帧视频帧进行处理。
进一步,还包括存储模块,所述存储模块用于存储融合后结果和存储算法运行时的图像。
复杂度低计算快速:
本发明采用oFAST算法提取特征点来进行图像配准,相比以往的SIFT和SURF特征点,它利用中心点和周围像素点的灰度值进行直接比较来检测特征点,特征点的提取速度有很大的提升;而且streered BRIEF特征向量是由比特位串组成,相比浮点数组成的特征向量所需的内存更小;另外该算法只对1/2画幅图像数据进行处理,进一步降低计算量;从而使得图像拼接过程中的特征提取速度和匹配效果得到很大的提高,可以实时地对视频图像进行全景拼接处理及高清显示。
并行度高:
采用FPGA和CPU两独立计算模块。当CPU进行第N个视频帧的融合工作时,FPGA模块进行第N+1个视频帧的配准工作,流水化操作,提供计算的并行度,进而提高***处理量与处理速度。
扩展性好:
***采用模块化设计,本发明中涉及的算法都可以替换为其他算法(如:Moravec算子、Susan算子、Harris算子或Sift算子),处理过程互不影响。
附图说明
图1为本发明所述的一种局部配准并行视频拼接方法流程图;
图2为本发明所述的一种局部配准并行视频拼接***结构框图;
图3为本发明具体实施例所述的一种局部配准并行视频拼接方法流程图;
图4为本发明具体实施例所述的局部配准实时视频拼接方法在时刻T时各模块数据流并行工作示意图;
图5为本发明具体实施例所述的局部配准实时视频拼接装置相机空间关系示意图。
附图中,各标号所代表的部件列表如下:
1、采集模块,2、图像融合模块,3、中心处理模块,4、图像拼接模块,5、存储模块。
具体实施方式
以下结合附图对本发明的原理和特征进行描述,所举实例只用于解释本发明,并非用于限定本发明的范围。
如图1所示,本发明所述的一种局部配准并行视频拼接方法,具体包括以下步骤:
步骤1:对多路采集模块进行三维坐标视角标定,多路采集模块对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
步骤2:将接收到的多个第N帧数据作为当前数据,N为自然数;
步骤3:对当前数据进行视频解码处理得到处理后的视频帧,根据设定的三维坐标视角标定,对处理后的视频帧进行坐标变换;
步骤4:对坐标变换后的视频帧依次进行灰度变换和去噪处理;
步骤5:对去噪后的每帧视频帧进行剪裁,每帧视频帧剪裁后得到大小相等的左右两个视频帧;
步骤6:判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;执行步骤7,并同时接收第N+1帧数据作为当前数据,执行步骤3;
步骤7:根据相邻帧空间关系模型选取任意两个具有相邻关系的视频帧,对每帧视频帧计算生成对应的特征点区域,构成特征点集合;
步骤8:针对每个特征点区域选取patch块,对patch块计算得到描述算子,对应特征点集合得到描述算子集合;
步骤9:对描述算子集合进行计算,得到相邻视频帧间的单应性矩阵;
步骤10:根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接。
所述步骤4中灰度变换采用的是256级灰度变换得到灰度图像,采用高斯滤波器对灰度图像进行去噪处理。
所述步骤6中根据步骤1中标定的三维坐标视角进行判断视频帧是否相邻。
所述步骤7中采用oFAST检测算法,对每帧视频帧生成对应的oFAST特征点区域。
所述步骤10中使用加权平滑法进行视频帧场景拼接。
如图2所示,为本发明所述的一种局部配准并行视频拼接***,包括多路经三维坐标标定的采集模块1、图像融合模块2、中心处理模块3和图像拼接模块4;
多路所述采集模块1对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
所述图像融合模块2依次将接收到的多路视频数据对进行预处理,得到多个剪裁后的视频帧;判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;
所述中心处理模块3基于相邻帧空间关系模型对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;
所说图像拼接模块4根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接。
所述图像融合模块2与中心处理模块同时独立运行,当中心处理模块对第N帧视频帧进行配准时,所述图像融合模块对第N+1帧视频帧进行处理。
还包括存储模块5,所述存储模块5用于存储融合后结果和存储算法运行时的图像。
如图3所示,为本发明具体实施例所述的一种局部配准并行视频拼接方法流程图,如图4所示,为本发明具体实施例所述的局部配准实时视频拼接方法在时刻T时各模块数据流并行工作示意图;
开始,
1.对多路相机进行三维坐标视角标定;
2.采集多路相机输入视频第N+1帧数据;
3.进行视频解码处理;
4.根据步骤1相机标定坐标,对各路解码后视频帧进行图像坐标变换处理;
5.对各路坐标变换后视频帧进行256级的灰度变换,并采用高斯滤波器对灰度图像进行去噪处理;
6.对各路去噪后视频帧进行左右剪裁,平均剪裁为左右两部分;
7.根据步骤1相机标定坐标,判断步骤6剪裁后视频帧相邻关系,进行相邻帧空间关系建立;
8.在CPU上,选取步骤7的任意两相邻第N帧,采用oFAST检测算法,对每一视频帧生成oFAST特征点集合;
9.在CPU上,针对每一特征点区域,选取32×32大小的patch块,对patch块计算streered BRIEF描述算子;
10.在CPU上,对相邻视频帧特征点集合中streered BRIEF描述算子,进行欧式距离计算;
11.采用最邻近匹配法和RANSAC(随机抽样一致性)匹配算法求出相邻图像间的单应性矩阵;
12.在FPGA上,根据单应性矩阵,使用加权平滑法,进行视频帧场景的拼接;
13.输出拼接后的视频,结束。
本发明具体实施例所述的一种局部配准并行视频拼接方法,具体步骤为:
步骤1.对多路视频第N帧数据采集与预处理包括以下步骤:
步骤1.1.采集模块采用相机,对多路相机进行三维坐标视角标定,保证所有采集端处于同一三维坐标描述环境中,采集端1(x1,y1,z1),采集端2(x2,y2,z2),采集端3(x3,y3,z3),采集端4(x4,y4,z4),采集端5(x5,y5,z5);
步骤1.2.控制多路视频采集端相机,对视频进行同步采集,然后进行H.264解码处理得到频帧图像矩阵Fi(i=1,2,3,4,5),且采集时保证相邻各视频帧图像之间有较大的重叠区域,如图5所示,为本发明具体实施例所述的局部配准实时视频拼接装置相机空间关系示意图;
步骤1.3.根据步骤1.1相机标定坐标,对各路解码后视频帧进行图像坐标变换处理,以保证各视频帧图像映射于同一三维空间内;
步骤1.4.对各路坐标变换后视频帧Fi进行256级的灰度变换,并采用高斯滤波器对灰度图像进行去噪处理得到F’i;具体步骤包括:
步骤1.4.1.任意颜色图像点(x,y)变成256级灰度图像点:gray(x,y)=0.299*R(x,y)+0.587*G(x,y)+0.114*B(x,y);
步骤1.4.2.高斯滤波去噪处理,高斯滤波模板为:
步骤1.5.对各路去噪后视频帧F’i进行左右剪裁,平均剪裁为左右两部分F’i_left和F’i_right;
步骤1.6.根据步骤1.1相机标定坐标,判断步骤1.5剪裁后视频帧相邻关系,进行相邻帧匹配;
步骤2.基于CPU的相邻视频第N帧的配准算法,具体包括以下步骤:
步骤2.1.在CPU上,选取步骤(16)的任意两相邻第N帧,采用oFAST检测算法,对每一视频帧F’i_left和F’i_right生成oFAST特征点集合Pkey;具体步骤包括:
步骤2.1.1.将每一视频F’i_left和F’i_right进行15×15网格划分,每个网格中心点选取为检测候选特征点,生成候选特征点集合Pcanset;
步骤2.1.2.对候选特征点集合Pcanset里每一点Pci,以点Pci为圆心,r为半径,检测
圆周一圈上点的像素灰度值,如果圆周上有足够多的连续点与该候选点的灰度值差值大于
阈值εd:则认为该候选点Pci为一个oFAST特征
点Pki;
其中I(X)为圆周上任意一点的灰度值,I(Pci)为圆心的灰度值,εd为灰度值差得阈值;N为满足条件的连续点的个数,如果N大于圆周的四分之三,则认为点Pci是一个特征点;
步骤2.1.3.对上步生成的所有特征点,计算角点的方向θ:
●在特征点Pki周围选取半径为r的圆形区域,选取区域像素对(x,y),使得x,y∈[-r,r],图像中区域图像I(x,y)的(p+q)阶矩为:
●在特征点Pki所在区域的质心坐标C:
●质心方向即为oFAST特征点的方向:
步骤2.2.在CPU上,针对每一特征点区域,选取32×32大小的patch块,对patch块计算streered BRIEF描述算子,具体步骤包括:
步骤2.2.1.以特征点为中心,选取32×32大小的patch块,在patch块中选取满足高斯分布的n个(x,y)像素位置对,在patch块中选取满足高斯分布的n个(x,y)像素位置对,p(x)为图像块在像素点x处的灰度值,p(y)为图像块在像素点y处的灰度值,则传统的BRIEF描述算子:
对n个像素位置对:通常,在特征点周围,选取n=256对像素点对;
步骤2.2.2.对于任意特征点,序列在(x,y)像素位置的n个二进制位准则构建矩阵S:
步骤2.2.3.使用关键点及周围邻域构成的图像区域块的方向θ和对应的旋转矩阵Rθ,计算Sθ=RθS,最后得到Pki对应steered BRIEF描述算子:
gn(p,θ):=fn(P)|(xi,yi)∈Sθ;
步骤2.3.在CPU上,对相邻视频帧特征点集合中streered BRIEF描述算子,进行欧式距离计算,采用最邻近匹配法和RANSAC(随机抽样一致性)匹配算法求出相邻图像间的单应性矩阵,具体步骤:
步骤2.3.1.对图像帧中每一个特征点Pki,计算与其对应相邻视频帧图像匹配特征点的欧式距离,欧式距离是描述两个k长的比特序列V1=[v11,v12,…,v1k]和V2==[v21,v22,…,v2k]之间的距离计算公式为:d(V1,V2)=sqrt((v11-v21)2+(v12-v22)2+...+(v1k-v2k)2);
步骤2.3.2.采用遍历搜索方法,查找匹配每个特征点的2个距离最短的匹配特征点;如果某个特征点的最邻近匹配点,没有一一相互对应,则拒绝这一对匹配点;同时如果某个特征点的最邻近距离与次邻近距离的比值小于某个比例阈值,则拒绝这一对匹配点,通过这样滤除一些不好的匹配点对后,可以提高后续匹配的速度和精度;
步骤2.3.3.对剩余的最佳匹配点对,利用RANSAC(随即一致性取样)算法求单应性矩阵H:
步骤3.基于FPGA的视频第N帧的融合算法,具体包括以下步骤:
步骤3.1.在FPGA上,根据单应性矩阵,使用加权平滑法,进行视频帧场景的拼接,具体步骤:
步骤3.1.1.根据单应性矩阵H对图像做透视变换,使相邻摄像机上的同步图像透视到同一平面:
其中x,y为图像像素点的位置,dst(x,y)表示变换后点(x,y)的图像像素值(可以是灰度值,也可以是RGB彩色值)。之后依次对所有图像根据单应性矩阵进行变换,完成所有图像的拼接。
步骤3.1.2.对上步图像拼接后,采用加权平滑融合方法,对相邻两张图像重叠区域进行处理,使得重叠区域自然过渡。计算公式为:
其中,I1(x,y)和I2(x,y)分别表示仿射变换后的第1幅图像和第2幅图像;I(x,y)表示融合后的图像;R3=I1∩I2,R1=I1∩R3,R2=I2∩R3。加权系数σ为重叠区域宽度的倒数;
步骤4.输出拼接后的视频I(x,y)。
在本发明的一个实施例中,本发明装置以海思公司的Hi3531型芯片为处理核心,Hi3531是针对多路高清视频处理与分析产品应用开发的一款专业高端SoC芯片。它内置强大的高性能双核A9处理器、高达5路1080P实时多协议视频编解码能力的引擎和专用TOE网络加速模块,满足现实高清和网络需求;Hi3531内部集成优异的视频处理和编解码算法、提供多路高清显示输出能力。由于其高速的实时运算能力和专门的视频接口以及丰富的扩展接口在多媒体领域获得了广泛的应用。
本发明具体实施例所述的一种局部配准并行视频拼接***,包括多路视频采集模块、CPU图像拼接模块、FPGA图像融合模块和存储模块。视频采集模块由5个高清CCD模拟摄像机和ADI公司的ADV7511编码器组成,ADV7511可以将模拟视频解码成数字视频,还可自动控制对比度,降低噪声,提高压缩比与整体视频质量。图像拼接模块由Hi3531视频编解码处理器组成,在其上编写代码完成如上所述的基于oFAST特征点的实时全景视频拼接功能。电源模块采用AC/DC模块供电,经过宽电压输入直流电平稳压芯片和转换芯片输出1.8V、3.3V、5V和12V电压,完成给整个***的供电。存储模块由FLASH存储器、DDR3内存和带有SATA接口的硬盘组成,FLASH和SATA硬盘存储融合后结果,DDR3内存存储算法运行时的图像。还可以包括显示模块,显示模块由带有HDMI接口的高清显示器组成,完成全景视频的高清显示。
在本发明的一个实施例中,所述多个摄像机拍摄的图像之间有较大重叠区域,且在采集过程中所述多个摄像设备的视角方向基本平行。
以上所述仅为本发明的较佳实施例,并不用以限制本发明,凡在本发明的精神和原则之内,所作的任何修改、等同替换、改进等,均应包含在本发明的保护范围之内。
Claims (8)
1.一种局部配准并行视频拼接方法,其特征在于,具体包括以下步骤:
步骤1:对多路采集模块进行三维坐标视角标定,多路采集模块对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
步骤2:将接收到的多个第N帧数据作为当前数据,N为自然数;
步骤3:对当前数据进行预处理,得到多个剪裁后的视频帧;
步骤4:判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;执行步骤5,并同时接收第N+1帧数据作为当前数据,执行步骤3;
步骤5:对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;
步骤6:根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接;
所述步骤3具体包括以下步骤:
步骤3.1:对当前数据进行视频解码处理得到处理后的视频帧,根据设定的三维坐标视角标定,对处理后的视频帧进行坐标变换;
步骤3.2:对坐标变换后的视频帧依次进行灰度变换和去噪处理;
步骤3.3:对去噪后的每帧视频帧进行剪裁,每帧视频帧剪裁后得到大小相等的左右两个视频帧;
所述步骤5具体包括以下步骤:
步骤5.1:根据相邻帧空间关系模型选取任意两个具有相邻关系的视频帧,对每帧视频帧计算生成对应的特征点区域,构成特征点集合;
步骤5.2:针对每个特征点区域选取patch块,对patch块计算得到描述算子,对应特征点集合得到描述算子集合;
步骤5.3:对描述算子集合进行计算,得到相邻视频帧间的单应性矩阵。
2.根据权利要求1所述的一种局部配准并行视频拼接方法,其特征在于,所述步骤3.2中灰度变换采用的是256级灰度变换得到灰度图像,采用高斯滤波器对灰度图像进行去噪处理。
3.根据权利要求1所述的一种局部配准并行视频拼接方法,其特征在于,所述步骤4中根据步骤1中标定的三维坐标视角进行判断视频帧是否相邻。
4.根据权利要求1所述的一种局部配准并行视频拼接方法,其特征在于,所述步骤5.1中采用oFAST检测算法,对每帧视频帧生成对应的oFAST特征点区域。
5.根据权利要求1所述的一种局部配准并行视频拼接方法,其特征在于,所述步骤6中使用加权平滑法进行视频帧场景拼接。
6.一种局部配准并行视频拼接***,其特征在于,包括多路经三维坐标标定的采集模块、图像融合模块、中心处理模块和图像拼接模块;
多路所述采集模块对同一物体同时采集视频图像得到多路视频图像,多路视频图像分别分解为视频数据;
所述图像融合模块依次将接收到的多路视频数据对进行预处理,得到多个剪裁后的视频帧;判断剪裁后的视频帧的相邻关系,根据相邻关系建立相邻帧空间关系模型;
所述中心处理模块基于相邻帧空间关系模型对具有相邻关系的多个视频帧进行配准,得到相邻视频帧间的单应性矩阵;
所说图像拼接模块根据单应性矩阵,进行视频帧场景拼接,完成并行视频拼接;
所述图像融合模块具体用于:对当前数据进行视频解码处理得到处理后的视频帧,根据设定的三维坐标视角标定,对处理后的视频帧进行坐标变换;对坐标变换后的视频帧依次进行灰度变换和去噪处理;对去噪后的每帧视频帧进行剪裁,每帧视频帧剪裁后得到大小相等的左右两个视频帧;
所述中心处理模块具体用于:据相邻帧空间关系模型选取任意两个具有相邻关系的视频帧,对每帧视频帧计算生成对应的特征点区域,构成特征点集合;针对每个特征点区域选取patch块,对patch块计算得到描述算子,对应特征点集合得到描述算子集合;对描述算子集合进行计算,得到相邻视频帧间的单应性矩阵。
7.根据权利要求6所述的一种局部配准并行视频拼接***,其特征在于,所述图像融合模块与中心处理模块同时独立运行,当中心处理模块对第N帧视频帧进行配准时,所述图像融合模块对第N+1帧视频帧进行处理。
8.根据权利要求6或7所述的一种局部配准并行视频拼接***,其特征在于,还包括存储模块,所述存储模块用于存储融合后结果和存储算法运行时的图像。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201510487509.8A CN105100640B (zh) | 2015-01-23 | 2015-08-10 | 一种局部配准并行视频拼接方法及*** |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN2015100350620 | 2015-01-23 | ||
CN201510035062 | 2015-01-23 | ||
CN201510487509.8A CN105100640B (zh) | 2015-01-23 | 2015-08-10 | 一种局部配准并行视频拼接方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN105100640A CN105100640A (zh) | 2015-11-25 |
CN105100640B true CN105100640B (zh) | 2018-12-18 |
Family
ID=54580078
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201510487509.8A Expired - Fee Related CN105100640B (zh) | 2015-01-23 | 2015-08-10 | 一种局部配准并行视频拼接方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN105100640B (zh) |
Families Citing this family (16)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN107852466A (zh) * | 2016-05-13 | 2018-03-27 | 深圳市赛亿科技开发有限公司 | 一种实现全景图像拼接的方法及*** |
CN106534780A (zh) * | 2016-11-11 | 2017-03-22 | 广西师范大学 | 三维全景视频监控装置及其视频图像处理方法 |
CN107038683B (zh) * | 2017-03-27 | 2020-09-15 | 中国科学院自动化研究所 | 运动目标的全景成像方法 |
CN108737743B (zh) * | 2017-04-14 | 2021-03-23 | 中国科学院苏州纳米技术与纳米仿生研究所 | 基于图像拼接的视频拼接装置及视频拼接方法 |
CN108734655B (zh) * | 2017-04-14 | 2021-11-30 | 中国科学院苏州纳米技术与纳米仿生研究所 | 空中多节点实时侦查的方法及*** |
CN107580175A (zh) * | 2017-07-26 | 2018-01-12 | 济南中维世纪科技有限公司 | 一种单镜头全景拼接的方法 |
CN107633536B (zh) * | 2017-08-09 | 2020-04-17 | 武汉科技大学 | 一种基于二维平面模板的相机标定方法及*** |
CN108012078B (zh) * | 2017-11-28 | 2020-03-27 | Oppo广东移动通信有限公司 | 图像亮度处理方法、装置、存储介质和电子设备 |
CN112464724B (zh) * | 2020-10-30 | 2023-10-24 | 中科院成都信息技术股份有限公司 | 选票识别方法及*** |
CN112637519A (zh) * | 2020-11-18 | 2021-04-09 | 合肥市卓迩无人机科技服务有限责任公司 | 多路4k准实时拼接视频的全景拼接算法 |
CN112887633B (zh) * | 2021-01-14 | 2023-06-20 | 四川航天神坤科技有限公司 | 一种基于摄像头的视频拼接和三维监控显示方法及*** |
CN112819694B (zh) * | 2021-01-18 | 2024-06-21 | 中国工商银行股份有限公司 | 一种视频图像拼接方法及装置 |
CN113099266B (zh) * | 2021-04-02 | 2023-05-26 | 云从科技集团股份有限公司 | 基于无人机pos数据的视频融合方法、***、介质及装置 |
CN113810665A (zh) * | 2021-09-17 | 2021-12-17 | 北京百度网讯科技有限公司 | 视频处理方法、装置、设备、存储介质及产品 |
CN114648477A (zh) * | 2022-03-25 | 2022-06-21 | 南京北新智能科技有限公司 | 一种数字融合矩阵 |
CN117541764B (zh) * | 2024-01-09 | 2024-04-05 | 北京大学 | 一种图像拼接方法、电子设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101605211A (zh) * | 2009-07-23 | 2009-12-16 | 杭州镭星科技有限公司 | 将虚拟三维建筑与现实环境实拍视频无缝合成的方法 |
CN102013186A (zh) * | 2010-11-30 | 2011-04-13 | 上海交通大学 | 高速列车驾驶考评的多通道音视景模拟仿真*** |
CN103516995A (zh) * | 2012-06-19 | 2014-01-15 | 中南大学 | 一种基于orb特征的实时全景视频拼接方法和装置 |
Family Cites Families (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2002035846A2 (en) * | 2000-10-24 | 2002-05-02 | Koninklijke Philips Electronics N.V. | Method and device for video scene composition |
JP2003141562A (ja) * | 2001-10-29 | 2003-05-16 | Sony Corp | 非平面画像の画像処理装置及び画像処理方法、記憶媒体、並びにコンピュータ・プログラム |
-
2015
- 2015-08-10 CN CN201510487509.8A patent/CN105100640B/zh not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101605211A (zh) * | 2009-07-23 | 2009-12-16 | 杭州镭星科技有限公司 | 将虚拟三维建筑与现实环境实拍视频无缝合成的方法 |
CN102013186A (zh) * | 2010-11-30 | 2011-04-13 | 上海交通大学 | 高速列车驾驶考评的多通道音视景模拟仿真*** |
CN103516995A (zh) * | 2012-06-19 | 2014-01-15 | 中南大学 | 一种基于orb特征的实时全景视频拼接方法和装置 |
Also Published As
Publication number | Publication date |
---|---|
CN105100640A (zh) | 2015-11-25 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN105100640B (zh) | 一种局部配准并行视频拼接方法及*** | |
Engin et al. | Cycle-dehaze: Enhanced cyclegan for single image dehazing | |
Li et al. | Underwater image enhancement via medium transmission-guided multi-color space embedding | |
Li et al. | Megadepth: Learning single-view depth prediction from internet photos | |
Huang et al. | Context-aware single image rain removal | |
CN104376548B (zh) | 一种基于改进型surf算法的图像快速拼接方法 | |
Gu et al. | DenseLiDAR: A real-time pseudo dense depth guided depth completion network | |
CN109961399B (zh) | 基于图像距离变换的最佳缝合线搜寻方法 | |
CN104134200B (zh) | 一种基于改进加权融合的运动场景图像拼接方法 | |
CN102800094A (zh) | 一种快速彩色图像分割方法 | |
CN104463859B (zh) | 一种基于跟踪指定点的实时视频拼接方法 | |
US20150023588A1 (en) | Depth map generation method, related system and computer program product | |
Milford et al. | Condition-invariant, top-down visual place recognition | |
CN111899295B (zh) | 一种基于深度学习的单目场景深度预测方法 | |
CN112365404A (zh) | 一种基于多相机的接触网全景图像拼接方法、***及设备 | |
CN111179170A (zh) | 一种显微血细胞图像快速全景拼接方法 | |
CN112734914A (zh) | 一种增强现实视觉的图像立体重建方法及装置 | |
Chen et al. | Autosweep: Recovering 3d editable objects from a single photograph | |
Guislain et al. | Fine scale image registration in large-scale urban LIDAR point sets | |
CN116681636A (zh) | 基于卷积神经网络的轻量化红外与可见光图像融合方法 | |
Gao et al. | Sparse dense fusion for 3d object detection | |
Cai et al. | Improving CNN-based planar object detection with geometric prior knowledge | |
CN112950481B (zh) | 一种基于图像拼接网络的水花遮挡图像数据集采集方法 | |
CN104933692B (zh) | 一种人脸超分辨率的重建方法及装置 | |
Tran et al. | Variational disparity estimation framework for plenoptic images |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20181218 Termination date: 20210810 |