CN104301677B - 面向大场景的全景视频监控的方法及装置 - Google Patents
面向大场景的全景视频监控的方法及装置 Download PDFInfo
- Publication number
- CN104301677B CN104301677B CN201410547110.XA CN201410547110A CN104301677B CN 104301677 B CN104301677 B CN 104301677B CN 201410547110 A CN201410547110 A CN 201410547110A CN 104301677 B CN104301677 B CN 104301677B
- Authority
- CN
- China
- Prior art keywords
- video
- module
- frame
- splicing
- parameter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Closed-Circuit Television Systems (AREA)
Abstract
本发明提供一种面向大场景的全景视频监控的方法及装置。所述装置包括前端视频采集编码设备和数据传输设备,大场景监控***包括数据接收、视频解码、视频处理和输出编码等软硬件,所述方法完成视频数据接收、视频解码、视频配准、GPU实时拼接和色彩融合。拼接融合得到的全景监控图像序列通过HDMI/DVI连续输出到显示设备进行显示,同时支持对全景监控图像实时编码,并通过网络进行传输和存储。所述方法及装置能够保证全景视频的拼接效果和拼接质量,提高视频拼接的效率,达到实时性的需求,得到的全景视频更为自然、真实。在实际应用中,既能很好的保证后续全景视频拼接的要求,又能简化现场设备的安装布置,可实施性强。
Description
技术领域
本发明涉及视频监控技术领域,特别是涉及一种面向大场景全景视频监控的方法及装置。
背景技术
近些年随着社会形势的发展,视频监控的意义不明而喻,应用越来越广泛,且繁衍出各种具有特殊功能和针对不同应用场景的监控装置和***。然而,适用于当下有迫切监控需求的大场景实时视频监控却较为少见。如大型的广场、大型的活动现场、十字路口等,安防工作人员不仅要清楚的看到某个角落的细节,而且还需一目了然地掌控大场景的整体态势和活动主体的主要轨迹。针对大场景的应用场景,若采用传统的多摄像头监控***,虽能看清重要特定区域的细节,但缺乏连续性,且由于单个摄像头有效视域的限制而无法掌控整体的全局态势;若采用全景监控摄像机或鱼眼摄像机,虽有超宽的视域可掌握整体的态势,却存在无法查看细节、变形严重和不具实时性的缺点。
现有技术中的高清全景视频拼接方法,由于高清视频源本身包含大数据量,且基于在线的实时拼接,存在拼接效率低的问题,不能达到视频监控的实时要求。为此,有人设计了一种实时高速高清全景视频的拼接方法,即首先获取满足拼接条件的多路实时视频图像,然后经过视频图像拼接、选取投影面,建立单个视频与全景投影面的坐标映射关系,最后直接使用坐标映射关系来实现几路视频实时拼接得到全景视频。该方法在实际应用过程中存在一定的局限性,如:正式拼接前需反复判断任意两路视频是否满足拼接条件,如果不满足需进一步调节前端摄像头的采集姿态;通过计算一次拼接投影参数并不能保证精准性;缺少拼接视频间的同步,不能防止运动目标在拼接区域出现双影和凭空消失的情形;最后的曝光融合重点针对重叠区域的亮度调整,不能确保最终全景拼接画面色彩归一化。鉴于此,本发明有针对性的对其进行改进和扩展。
发明内容
本发明的目的在于针对现有技术的不足,提出了一种面向大场景全景视频监控的装置和***。主要解决的技术问题为:
1.提高全景视频拼接投影映射关系的精准性。通过计算一次拼接投影参数并不能确保其精准性,特别是针对场景较为简单或者较为复杂的情形,特征点不足或者特征点过于混杂均会影响到图像间的精确配准。
2.同步多路视频内容,提高监控的真实性和合理性。前端视频采集设备在采集编码时可能存在时钟不同步的情况,并且采集到的视频数据大多是经过IP网络进行传输,接收端接收到的数据不乏存有乱序的情况,如果就此基础上做拼接会出现各种异常,特别是在重叠区域处。
3.提高全景视频拼接的效率,满足监控的实时性需求。目前监控对视频源的要求越发趋于高清,高清视频源本身包含大数据量,进而也加大了拼接投影的计算量,故采用一般的处理手段存在拼接效率低的问题,不能达到视频监控的实时要求。
本发明的技术方案为:
本发明包括一套大场景监控装置及***。大场景监控装置包括前端视频采集编码设备和数据传输设备,大场景监控***包括数据接收、视频解码、视频处理和输出编码等软硬件。
本发明通过前端视频采集装置同时获取3-4个视频,这些视频对高达180°范围的场景区域实现无缝隙覆盖,每个视频经过编码后分别加入统一的时间同步信号,经发送模块传输到大场景监控***。大场景监控***完成视频数据接收、视频解码、视频配准、GPU实时拼接和色彩融合,拼接融合得到的全景监控图像序列通过HDMI/DVI连续输出到显示设备进行显示,同时支持对全景监控图像实时编码,并通过网络进行传输和存储。
本发明的有益技术效果为:
本发明提出一种面向大场景的全景视频监控的装置和***,实现大范围实时全景视频监控,所输出的全景画面为一个经过视频拼接和色彩融合的独立画面。与一般的全景视频拼接装置,以及全景监控像机和鱼眼监控像机不同,本发明可以提供25fps以上帧率的流畅全景监控画面以及最高达7680*1080的超高清视频分辨率。
本发明所提供的面向大场景监控装置,既能很好的保证后续全景视频拼接的要求,又能简化现场设备的安装布置,可实施性强。
本发明所提供的大场景监控***,其视频配准实现视频拼接参数的自动计算和存储,用于确定最佳的视频自动配准参数,再结合人机交互的手动参数配置,保证最终全景视频的拼接效果和拼接质量;其使用GPU高速并行处理特性,提高了视频拼接的效率,输出帧率达到实时性的需求;其时间同步处理和色彩融合处理,使几路视频经过拼接得到的全景视频更为自然、真实,恰如一个摄像机拍摄出来的一样。
附图说明
图1是本发明面向大场景全景视频监控的装置及***的整体结构图
图2是本发明中视频采集设备固定的刻度盘示意图
图3是本发明中视频采集设备有效视域示意图
图4是面向大场景的全景视频监控方法流程图
具体实施方式
为详细说明本发明的技术方案,以下结合具体的实施方式并配合附图详细说明。
本发明所提出的面向大场景的全景视频监控方案的***总体结构可参见图1。监控方案包含大场景监控装置和大场景监控***。
所述大场景监控装置,包括前端视频采集模块、视频编码模块和数据发送模块。
所述前端视频采集模块,是封装在一个透明球形玻璃罩内的视频采集设备,由一个水平刻度和四个具体的摄像机组成。用于获取前端监控区域的原始视频序列,并将其传输给视频编码模块分别进行视频编码。水平刻度盘标注了摄像机设备放置的位置角度信息,参见图2所示。固定各摄像机的扇形摆放角度,分别为22.5°、67.5°、112.5°和157.5°,沿每个刻度线方向固定一个摄像机,一个刻度盘上固定4个视频摄像机。视频采集设备中的摄像机按照一定角度水平扇形排列,使得各相机成像平面的法线交于同一个中心点且在同一平面内。摄像机有效视域参见图3所示,单个摄像机的有效视域为45°,相邻摄像机间视域重叠10°。
所述视频编码模块,用于对各路视频采集结果分别进行编码。将视频采集设备中每个子成像设备输出的视频帧进行H.264编码,分别得到一路H.264格式码流。
所述数据发送模块,包括时钟模块和发送模块。时钟模块用于多路视频间的时间同步,输出的时间信号以时间戳的形式加入到每个视频码流中。数据发送模块根据时间信号先后顺序依次发送视频帧。
其中,视频采集模块中各子成像设备与视频编码模块连接,视频编码模块与数据发送模块连接。
所述大场景监控***,包括数据接收模块、视频解码模块、视频配准模块、数据库模块、GPU实时拼接融合模块和输出编码模块。
所述数据接收模块,用于接收每路视频的IP码流,并根据码流中的时间同步信号依次提交视频帧,以保持同路视频内容的时间连续和多路视频间的空间同步。
所述视频解码模块,用于将多路H.264码流分别解码为视频帧序列,便于多路视频间的逐帧拼接处理。
所述视频配准模块,为离线处理模块,包括自动配准模块和参数调整模块。自动配准模块实现视频拼接参数的自动计算和存储,主要用于确定最佳的视频自动配准参数。一旦确定了最佳拼接效果的参数,便不再需要执行视频配准模块,因前端视频采集设备姿态已固定;参数调整模块用于手动调节视频的拼接参数,对自动配准参数进行优化。通过自动配准和手动调整相结合的方式计算得到的最终拼接参数,包括拼接单应矩阵和拼接边缘Mask图像。计算得到的拼接参数存储在本地数据库文件中,供实时拼接模块调取使用。其中,自动配准过程采用sift特征点匹配同名点,使用RANSC算法剔除误匹配点并计算得到3*3单应矩阵。手动调整是指对单应矩阵中的9个元素分别进行调整,实现图像左右、上下平移、缩放、旋转。
所述数据库模块,采用数据库的方式保存各视频的配准拼接参数。视频配准模块可以将各视频的配准拼接参数写入数据库中,参数配置模块可以对数据库中的各视频配准参数进行读取和修改。数据库中的各视频配准拼接参数输入GPU拼接模块,实现全景视频的拼接。
GPU实时拼接融合模块,采用硬件并行加速设计,实现对视频逐帧实时拼接。该模块从视频解码模块获取实时视频帧,从视频拼接数据库获取拼接参数,利用GPU进行图像映射和边缘融合,输出拼接后的整幅图像。其中,色彩融合采用三层金字塔分解模型,实现拼接线融合处理。
输出编码模块,包括实时显示模块和编码传输模块。实时显示模块实现将拼接所得的全景监控图像通过HDMI/DVI连续输出显示,并实现用户交互控制。编码传输模块实现拼接后全景监控图像的H.264编码和网络传输,以便远程客户端的用户掌握实时的监控画面。
其中,数据接收模块与视频解码模块连接,视频解码模块分别与视频配准模块和GPU实时拼接融合模块连接。视频配准模块与参数配置模块均通过连接数据库模块最终与GPU实时拼接融合模块相连接。GPU实时拼接融合模块作为输入分别与实时显示模块和编码输出模块连接。
本发明还提出了一种相应的面向大场景的全景视频监控方法,参见图4所示,包括如下具体处理步骤:
步骤1,视频采集
原始视频数据的采集要通过Video4Linux2来实现,该驱动提供了图片格式设置,帧缓存区申请,内存映射等多种操作视频设备的接口函数。当采集过程开始后,驱动不停的将视频数据写入已经分配的缓存区中,当一个缓冲的数据就绪之后,驱动便将其放入输出队列中,等待应用程序的处理。读取数据时,驱动首先将一个缓存区出列,应用程序通过该缓存区的序号值获取相应的缓存区在用户空间中的长度及偏移地址,从而达到访问数据的目的,当处理完成之后,该缓存区会被重新放入采集队列中。采集模块的输出为YUV420视频帧。
步骤2,编码与发送
使用H.264编码器,对步骤1采集得到的原始视频数据进行编码。H.264编码器中的编码档次选取:H.264编码器采用基本档次,参考帧数量选择1,选择CQP码率控制方式,且量化参数QP=26,选择DIA宏块搜索模式,运动估计的搜索范围设定为8像素,亚像素插值LEVEL=1,帧间编码时,选择P16x16宏块划分模式。根据编码器方案设计时所选的参数值,对H.264参数选项进行配置,以YUV420格式视频帧作为编码器的输入,NALU作为编码器的输出。
编码得到ES视频流,经过PES打包器之后,被转换成PES包,再次经过PS打包后,通过RTP协议进行传输。***时钟定期向远程基准时钟进行同步,并作为唯一的时钟信息(同步时间戳)嵌入视频流中用于视频解码及多个视频流之间的时间同步。其中,在PES头信息中嵌入显示时间标签PTS(Presentation Time Stamp)和解码时间标签DTS(Decoding TimeStamp),在PS头信息中嵌入***时钟基准SCR(System Clock Reference)。
步骤3,解码与同步
对步骤2中发送的PS流进行逐层解析,最后得到ES流及同步时间戳。使用ffmpeg解码器对ES流进行解码,得到YUV420格式视频帧。建立视频缓冲池,对每一路视频流缓冲25帧,将YUV420格式视频帧和该帧对应的同步时间戳一并存入缓冲中。提交视频时,分别读取每一路视频的当前同步时间戳,以第一路视频的同步时间戳(Tl)为基准,Ti(i=2,3…)为第i路视频的同步时间戳,视频帧的提交规则定义如下:
1)取第一路视频的当前YUV420视频帧并提交;
2)For i=2,3...
如果Ti-Tl>20ms,则读取第i路视频上一个YUV420视频帧提交;
如果-20ms≤MTi-Tl≤20ms,则读取第i路视频当前YUV420视频帧提交;
否则,读取第i路视频下一个YUV420视频帧提交;
3)第一路视频读取位置下移一帧,重复1),2)操作。
步骤4,自动配准
拼接参数及拼接线计算从步骤3获取视频帧后,采用Sift特征匹配的方式进行图像自动配准。计算所得的每一个Sift特征点即为一个4×(4×4)维的描述符,同时将向量归一化,对光照更具有鲁棒性。采用基于欧式距离的最近邻向量匹配法,对于低分辨率图像中的特征点,利用K-D树搜索法在参考图像中找到与低分辨率图像特征点欧式距离最近的前两个特征点。设最近距离为d1,次近距离为d2,阈值为w如果则该对特征点为候选特征点,否则予以剔除。一般情况下,阈值在[0.4,0.8]区间内较为合理。
得到参考图像与待配准图像之间的特征点对以后,需要估算出两幅图像之间的透视系数,进而对待配准图像利用插值算法进行重采样,实现图像之间的配准。设(u1,v1,1),(u2,v2,1)为特征点对的齐次坐标,根据透视矩阵H可得:
虽然特征点经过上述的粗匹配,但仍然难免存在误匹配,影响配准精度,因此还需要采用基于经典随机抽样一致性(RANSAC)算法进行特征点对的进一步筛选。首先,从候选特征点对中随机抽取3个特征点对建立方程组,求解出H的6个参数。计算特征点经过H转换后与候选特征点的距离,若距离小于设定阈值,则为内点,否则为外点,予以剔除,同时统计内点个数。接下来再次取3个特征点对,重复上述步骤,经过若干次以后,选取包含内点最多的一个点对集最后,利用最小二乘法对该点对集求解仿射矩阵H。
拼接线分割采用基于图论分割的方法实现,用G=<γ,ε>来表示一张图(Graph),它是由一个结点集合γ和一个连接γ中结点的边的集合ε组成的。对一张图像I,构造一个图G与之对应。其中γ中的元素γi对应I中的一个象素xi,I中的每两个相邻象素xi和xj之间在ε中有一条边eij与之对应,并且取一个非负值w(vi,vj)为该边的能量权值。定义分割的能量函数为:
其中
使其与分割处边的权值相关,图G可以被分割成两个子图A和B,使得A∪B=γ,A∩B=φ。
具体的分割处理流程如下:
1.初始化
(a)给定包围前景区域的矩形;
(b)背景区域B0初始为矩形外象素点,未知区域U0初始为矩形内象素点;
(c)用B0和U0初始化背景和前景的GMM;
2.迭代分割
(a)将队中的点人赋给GMM中最接近的一个高斯分布;
(b)重新计算GMM参数;
(c)计算最大流,求解最小分割minE,并更新Ui,Bi和Fi;
(d)重复2(a)-2(c)直到收敛;
(e)得到最佳分割线。
将最佳分割线对应到原始视频帧中,得到两块或多块连通区域,将有效视频区域对应的连通区域填充为255,其它区域填充为0,即得到该视频对应的Mask图,记为Maskframe·
步骤5,参数优化
对步骤4计算得到的单应矩阵H,记为
通过对H中的元素hij进行修改,实现图像平移、缩放和旋转。其中,左右平移:h′12=h12+Δx,Δx大于零,表示向右平移,Δx小于零,表示向左平移;上下平移:h′22=h22+Δy,Δy大于零,表示向下平移,Δy小于零,表示向上平移;缩放:H′=S*H,其中s11控制水平方向缩放,0<s11<1表示水平缩小,s11>1表示水平放大;s22控制垂直方向缩放,0<s22<1表示垂直缩小,s22>1表示垂直放大。
旋转:H′=T*H,其中θ为右手系下的旋转角度。修改后的单应矩阵H’替换步骤4得到的原始单应矩阵H。
步骤6,CUDA实时拼接
从单幅图像到全景图的转换过程称为图像映射,可用下式表示:
Ipano-frame=Warp(Hframe,Iframe),其中Ipano-frame表示单帧图像映射到全景图中的内容,Iframe,Hframe分别为单帧图像以及该图像对应的单应矩阵。图像映射过程通过CUDA实现,先将每帧图像分为16*16大小的块进行双线性插值映射。同理,将该视频对应的Mask图,Maskframe进行映射,Maskframe′=Warp(Hframe,Maskframe)。截取单帧有效视频内容:I′pano-frame=Mask′frame and Ipano-frame。计算图像重叠区域(Tl,Tr,Tt,Tb),其中Tl,Tr表示水平方向重叠区域的左右边界,Tt,Tb表示垂直方向重叠区域的下上边界。在重叠区域内执行三层金字塔分解并还原,实现拼接线融合。具体融合步骤如下:
(1)对参加融合的源图像分别实施拉普拉斯分解变换,取得与它们对应的拉普拉斯金字塔。
源图像G0作为金字塔的最底层,第1,2层的分解公式如下:
其中,Gl表示第l层图像,Cl表示第l层图像的列数,Rl表示第l层图像的函数,N表示最顶层的层数,ω(m,n)为5*5窗口函数。
(2)提取出金字塔的每一层,使它们相互独立的进行融合运算,在每一层运算中,每层采取和它相适应的融合规则,最终,把各个分解层结合起来得到一个融合后图像的金字塔。
(3)进行拉普拉斯反变换操作,对图像进行重构,进而获取融合后的图像。
步骤6,输出编码
对步骤5输出的全景视频帧进行分辨率规范化,同时输出大小两种分辨率图像,分别是大码流图像7680*1080,小码流图像1920*256。采用ffmpeg编码库对大小码流进行独立编码,输出H.264视频流。
以上所述仅是本发明的优选实施方式,应当指出,对于本技术领域的普通技术人员,在不脱离本发明的原理的前提下,还可以做出若干改进和润饰,这些改进和润饰也应视为本发明的保护范围。
Claims (7)
1.一种面向大场景的全景视频监控的方法,其特征在于,所述方法包含以下步骤:
步骤1,视频采集;
步骤2,对步骤1采集得到的原始视频数据进行编码,分别对编码后的视频流合入时间同步信号,通过网络发送;
步骤3,接收视频数据,将编码的视频帧进行实时解码;
步骤4,将待拼接的监控视频按照左右相邻顺序进行配准,计算得到其自动配准参数并保持到数据库中;
步骤5,手动调节拼接参数,优化自动配准的参数,并用优化结果更新步骤4中的数据库;
步骤6,读取视频拼接数据库中的配准参数,对待拼接的监控视频进行拼接;
步骤7,将拼接标准化为大小两种码流进行输出;
其中,所述步骤3中将编码的视频帧进行实时解码的步骤包括:对步骤2中发送的PS流进行逐层解析,最后得到ES流及同步时间戳;使用ffmpeg解码器对ES流进行解码,得到YUV420格式视频帧;建立视频缓冲池,对每一路视频流缓冲25帧,将YUV420格式视频帧和该帧对应的同步时间戳一并存入缓冲中,提交视频时,分别读取每一路视频的当前同步时间戳,以第一路视频的同步时间戳T1为基准,Ti(i=2,3…)为第i路视频的同步时间戳,视频帧的提交规则定义如下:
1)取第一路视频的当前YUV420视频帧并提交;
2)For i=2,3...如果Ti-T1>20ms,则读取第i路视频上一个YUV420视频帧提交;如果-20ms≤MTi-T1≤20ms,则读取第i路视频当前YUV420视频帧提交;否则,读取第i路视频下一个YUV420视频帧提交;
3)第一路视频读取位置下移一帧,重复1),2)操作。
2.根据权利要求1所述的面向大场景的全景视频监控的方法,其特征在于,所述步骤2中编码并分别对编码后的视频流合入时间同步信号的步骤包括:
编码得到ES视频流,经过PES打包器之后,被转换成PES包,再次经过PS打包后,通过RTP协议进行传输;
***时钟定期向远程基准时钟进行同步,并作为唯一的时钟信息(同步时间戳)嵌入视频流中用于视频解码及多个视频流之间的时间同步;
其中,在PES头信息中嵌入显示时间标签和解码时间标签,在PS头信息中嵌入***时钟基准。
3.根据权利要求1或2所述的面向大场景的全景视频监控的方法,其特征在于,所述步骤4中将待拼接的监控视频按照左右相邻顺序进行配准,计算得到其自动配准参数的步骤包括拼接参数计算,具体步骤为:
从步骤3获取视频帧后,采用Sift特征匹配的方式进行图像自动配准,采用基于欧式距离的最近邻向量匹配法,对于低分辨率图像中的特征点,利用K-D树搜索法在参考图像中找到与低分辨率图像特征点欧式距离最近的前两个特征点,设最近距离为d1,次近距离为d2,阈值为w如果则该对特征点为候选特征点,否则予以剔除;
得到参考图像与待配准图像之间的特征点对以后,需要估算出两幅图像之间的透视系数,进而对待配准图像利用插值算法进行重采样,实现图像之间的配准,设(u1,v1,1),(u2,v2,1)为特征点对的齐次坐标,根据透视矩阵H可得:
4.根据权利要求3所述的面向大场景的全景视频监控的方法,其特征在于,还包括采用基于经典随机抽样一致性算法进行候选特征点对的进一步筛选:
首先,从候选特征点对中随机抽取3个特征点对建立方程组,求解出H的6个参数;
计算特征点经过H转换后与候选特征点的距离,若距离小于设定阈值,则为内点,否则为外点,予以剔除,同时统计内点个数;
接下来再次取3个特征点对,重复上述步骤,经过若干次以后,选取包含内点最多的一个点对集最后,利用最小二乘法对该点对集求解仿射矩阵H。
5.根据权利要求1或2所述的面向大场景的全景视频监控的方法,其特征在于,所述步骤5中优化自动配准的参数的步骤包括:
对步骤4计算得到的单应矩阵H,通过对H中的元素hij进行修改,实现图像平移、缩放和旋转;修改后的单应矩阵H’替换步骤4得到的原始单应矩阵H。
6.根据权利要求1所述的面向大场景的全景视频监控的方法,其特征在于,所述步骤6中对待拼接的监控视频进行拼接的步骤包括:
通过CUDA,先将每帧图像分为16*16大小的块进行双线性插值映射;
将该视频对应的Mask图,Maskframe进行映射,Maskframe′=Warp(Hframe,Maskframe),截取单帧有效视频内容:I′pano-frame=Mask′frameand Ipano-frame,其中Ipano-frame表示单帧图像映射到全景图中的内容,Iframe,Hframe分别为单帧图像以及该图像对应的单应矩阵;
计算图像重叠区域(Tl,Tr,Tt,Tb),其中Tl,Tr表示水平方向重叠区域的左右边界,Tt,Tb表示垂直方向重叠区域的下上边界;
在重叠区域内执行三层金字塔分解并还原,实现拼接线融合。
7.一种面向大场景的全景视频监控的装置,包括大场景监控装置和大场景监控***,其特征在于:
所述大场景监控装置包括前端视频采集模块、视频编码模块和数据发送模块,其中所述数据发送模块包括时钟模块和发送模块,时钟模块用于多路视频间的时间同步,输出的时间信号以时间戳的形式加入到每个视频码流中,数据发送模块根据时间信号先后顺序依次发送视频帧;
所述大场景监控***包括数据接收模块、视频解码模块、视频配准模块、数据库模块、GPU实时拼接融合模块和输出编码模块,其中GPU实时拼接融合模块采用硬件并行加速设计实现对视频逐帧实时拼接;
其中,视频采集模块中各子成像设备与视频编码模块连接,视频编码模块与数据发送模块连接;数据接收模块与视频解码模块连接,视频解码模块分别与视频配准模块和GPU实时拼接融合模块连接;视频配准模块与参数配置模块均通过连接数据库模块最终与GPU实时拼接融合模块相连接;GPU实时拼接融合模块作为输入分别与实时显示模块和编码输出模块连接;
所述前端视频采集模块,是封装在一个透明球形玻璃罩内的视频采集设备,用于获取前端监控区域的原始视频序列,并将其传输给视频编码模块分别进行视频编码,由一个水平刻度盘和四个具体的摄像机组成;
其中,所述水平刻度盘标注了摄像机设备放置的位置角度信息,一个刻度盘上固定4个视频摄像机,固定各摄像机的扇形摆放角度分别为22.5°、67.5°、112.5°和157.5;其中,四个摄像机沿每个刻度线方向固定一个,按照一定角度水平扇形排列,使得各相机成像平面的法线交于同一个中心点且在同一平面内,单个摄像机的有效视域为45°,相邻摄像机间视域重叠10°;
所述视频配准模块,为离线处理模块,包括自动配准模块和参数调整模块:
其中自动配准模块实现视频拼接参数的自动计算和存储,用于确定最佳的视频自动配准参数,所述自动配准过程采用sift特征点匹配同名点,使用RANSC算法剔除误匹配点并计算得到3*3单应矩阵;
参数调整模块用于手动调节视频的拼接参数,对自动配准参数进行优化,所述手动调整是指对单应矩阵中的9个元素分别进行调整,实现图像左右、上下平移、缩放、旋转;
其中,由于前端视频采集设备姿态已固定,一旦确定了最佳拼接效果的参数,便不再需要执行视频配准;通过自动配准和手动调整相结合的方式计算得到的最终拼接参数,包括拼接单应矩阵和拼接边缘Mask图像;计算得到的拼接参数存储在本地数据库文件中,供实时拼接模块调取使用。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410547110.XA CN104301677B (zh) | 2014-10-16 | 2014-10-16 | 面向大场景的全景视频监控的方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410547110.XA CN104301677B (zh) | 2014-10-16 | 2014-10-16 | 面向大场景的全景视频监控的方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104301677A CN104301677A (zh) | 2015-01-21 |
CN104301677B true CN104301677B (zh) | 2018-06-15 |
Family
ID=52321213
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410547110.XA Expired - Fee Related CN104301677B (zh) | 2014-10-16 | 2014-10-16 | 面向大场景的全景视频监控的方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104301677B (zh) |
Families Citing this family (32)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104796623B (zh) * | 2015-02-03 | 2016-02-24 | 中国人民解放军国防科学技术大学 | 基于金字塔块匹配和泛函优化的拼接视频去结构偏差方法 |
CN105072393B (zh) * | 2015-07-31 | 2018-11-30 | 深圳英飞拓科技股份有限公司 | 一种多镜头全景网络摄像机及拼接方法 |
CN105245841B (zh) * | 2015-10-08 | 2018-10-09 | 北京工业大学 | 一种基于cuda的全景视频监控*** |
CN105407278A (zh) * | 2015-11-10 | 2016-03-16 | 北京天睿空间科技股份有限公司 | 一种全景视频交通态势监控***及方法 |
WO2017086355A1 (ja) * | 2015-11-17 | 2017-05-26 | ソニー株式会社 | 送信装置、送信方法、受信装置、受信方法および送受信システム |
CN105282526A (zh) * | 2015-12-01 | 2016-01-27 | 北京时代拓灵科技有限公司 | 一种全景视频拼接的处理方法及*** |
CN105493712B (zh) * | 2015-12-11 | 2017-12-01 | 湖北钟洋机电科技有限公司 | 一种带有抗震型播种轮的农用播种机 |
CN107205158A (zh) * | 2016-03-18 | 2017-09-26 | 中国科学院宁波材料技术与工程研究所 | 一种基于时间戳的多路音视频流同步解码方法 |
CN107306347A (zh) * | 2016-04-18 | 2017-10-31 | 中国科学院宁波材料技术与工程研究所 | 一种基于拼接式全景摄像机的实时视频流传输方法 |
CN106027886B (zh) * | 2016-05-17 | 2019-08-06 | 深圳市极酷威视科技有限公司 | 一种全景视频实现同步帧的方法及*** |
CN107426507A (zh) * | 2016-05-24 | 2017-12-01 | 中国科学院苏州纳米技术与纳米仿生研究所 | 视频图像拼接装置及其拼接方法 |
US10887572B2 (en) * | 2016-11-17 | 2021-01-05 | Intel Corporation | Suggested viewport indication for panoramic video |
CN112770178A (zh) * | 2016-12-14 | 2021-05-07 | 上海交通大学 | 一种全景视频传输方法、接收方法、传输***及接收*** |
CN108234820A (zh) * | 2016-12-21 | 2018-06-29 | 上海杰图软件技术有限公司 | 基于单路图像信号处理的实时拼接全景影像的方法及*** |
CN106954030A (zh) * | 2017-03-20 | 2017-07-14 | 华平智慧信息技术(深圳)有限公司 | 监控云平台的视频拼接方法及*** |
CN107846604A (zh) * | 2017-11-09 | 2018-03-27 | 北京维境视讯信息技术有限公司 | 一种全景视频处理制作***及方法 |
CN108419010A (zh) * | 2018-02-06 | 2018-08-17 | 深圳岚锋创视网络科技有限公司 | 全景相机及其实时输出hdmi全景视频流的方法和装置 |
EP3606032B1 (en) * | 2018-07-30 | 2020-10-21 | Axis AB | Method and camera system combining views from plurality of cameras |
CN109166078A (zh) * | 2018-10-22 | 2019-01-08 | 广州微牌智能科技有限公司 | 环视图拼接方法、装置、环视***、设备和存储介质 |
CN109587408A (zh) * | 2018-12-14 | 2019-04-05 | 北京大视景科技有限公司 | 一种单列式监控相机竖向安装的大场景视频融合覆盖方法 |
CN111343415A (zh) * | 2018-12-18 | 2020-06-26 | 杭州海康威视数字技术股份有限公司 | 数据传输方法及装置 |
CN111510731B (zh) * | 2019-01-31 | 2022-03-25 | 杭州海康威视数字技术股份有限公司 | 交通图像的拼接***及方法 |
CN112051975B (zh) * | 2020-08-11 | 2023-09-01 | 深圳市创凯智能股份有限公司 | 拼接画面的调整方法、拼接设备及存储介质 |
CN112135068A (zh) * | 2020-09-22 | 2020-12-25 | 视觉感知(北京)科技有限公司 | 一种多输入视频融合处理的方法和装置 |
CN112272306B (zh) * | 2020-09-28 | 2023-03-28 | 天下秀广告有限公司 | 一种多路实时交互视频融合传输方法 |
CN112465702B (zh) * | 2020-12-01 | 2022-09-13 | 中国电子科技集团公司第二十八研究所 | 一种多路超高清视频同步自适应拼接显示处理方法 |
CN112885110A (zh) * | 2021-02-05 | 2021-06-01 | 同济大学 | 依赖邻近高耸结构的桥面交通流全视场感知***及方法 |
CN112820112A (zh) * | 2021-02-05 | 2021-05-18 | 同济大学 | 依赖桥梁塔柱的桥面交通流全视场感知***及方法 |
CN112885096A (zh) * | 2021-02-05 | 2021-06-01 | 同济大学 | 依赖桥梁拱肋的桥面交通流全视场感知***及方法 |
CN114070828B (zh) * | 2022-01-17 | 2022-05-17 | 中央广播电视总台 | 节目流故障检测方法、装置、计算机设备及可读存储介质 |
CN114827491B (zh) * | 2022-04-18 | 2023-02-14 | 鹰驾科技(深圳)有限公司 | 一种无线传输全景环视拼接技术 |
CN117809224B (zh) * | 2024-01-05 | 2024-07-09 | 四川新视创伟超高清科技有限公司 | 全景监控图像处理方法及处理*** |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012089989A (ja) * | 2010-10-18 | 2012-05-10 | Hitachi Kokusai Electric Inc | 映像監視システム |
CN103905741A (zh) * | 2014-03-19 | 2014-07-02 | 合肥安达电子有限责任公司 | 超高清全景视频实时生成与多通道同步播放*** |
CN103942811A (zh) * | 2013-01-21 | 2014-07-23 | 中国电信股份有限公司 | 分布式并行确定特征目标运动轨迹的方法与*** |
CN104104911A (zh) * | 2014-07-04 | 2014-10-15 | 华中师范大学 | 全景图像生成过程中的时间戳消除和重置方法及*** |
-
2014
- 2014-10-16 CN CN201410547110.XA patent/CN104301677B/zh not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2012089989A (ja) * | 2010-10-18 | 2012-05-10 | Hitachi Kokusai Electric Inc | 映像監視システム |
CN103942811A (zh) * | 2013-01-21 | 2014-07-23 | 中国电信股份有限公司 | 分布式并行确定特征目标运动轨迹的方法与*** |
CN103905741A (zh) * | 2014-03-19 | 2014-07-02 | 合肥安达电子有限责任公司 | 超高清全景视频实时生成与多通道同步播放*** |
CN104104911A (zh) * | 2014-07-04 | 2014-10-15 | 华中师范大学 | 全景图像生成过程中的时间戳消除和重置方法及*** |
Also Published As
Publication number | Publication date |
---|---|
CN104301677A (zh) | 2015-01-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104301677B (zh) | 面向大场景的全景视频监控的方法及装置 | |
CN204090039U (zh) | 一体化大场景全景视频监控装置 | |
US10757423B2 (en) | Apparatus and methods for compressing video content using adaptive projection selection | |
US11064110B2 (en) | Warp processing for image capture | |
US11341715B2 (en) | Video reconstruction method, system, device, and computer readable storage medium | |
CN111279673B (zh) | 具有电子卷帘快门校正的图像拼接的***和方法 | |
CN103763479B (zh) | 实时高速高清全景视频的拼接装置及其方法 | |
JP2020515937A (ja) | 没入型ビデオフォーマットのための方法、装置、及びストリーム | |
CN112365407B (zh) | 视角可配置的摄像机全景拼接方法 | |
CN103198488B (zh) | Ptz监控摄像机实时姿态快速估算方法 | |
US10681272B2 (en) | Device for providing realistic media image | |
CN107454468A (zh) | 对沉浸式视频进行格式化的方法、装置和流 | |
CN108629829B (zh) | 一种球幕相机与深度相机结合的三维建模方法和*** | |
CN103905741A (zh) | 超高清全景视频实时生成与多通道同步播放*** | |
CN108886611A (zh) | 全景立体视频***的拼接方法和装置 | |
CN104580933A (zh) | 基于特征点的多尺度实时监控视频拼接装置及拼接方法 | |
CN103337094A (zh) | 一种应用双目摄像机实现运动三维重建的方法 | |
CN101521823B (zh) | 空间相关的全景数据压缩方法 | |
CN107426491B (zh) | 一种360度全景视频的实现方法 | |
CN102857739A (zh) | 分布式全景监控***及其方法 | |
CN104506828B (zh) | 一种无有效重叠变结构的定点定向视频实时拼接方法 | |
CN106447602A (zh) | 一种图像拼接方法及装置 | |
CN104809719A (zh) | 基于单应性矩阵分割的虚拟视点合成的方法 | |
KR101933037B1 (ko) | 360도 동영상에서의 가상현실 재생 장치 | |
CN104318604A (zh) | 一种3d图像拼接方法及装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant | ||
CF01 | Termination of patent right due to non-payment of annual fee |
Granted publication date: 20180615 Termination date: 20181016 |
|
CF01 | Termination of patent right due to non-payment of annual fee |