CN110310248B - 一种无人机遥感影像实时拼接方法及*** - Google Patents

一种无人机遥感影像实时拼接方法及*** Download PDF

Info

Publication number
CN110310248B
CN110310248B CN201910792980.6A CN201910792980A CN110310248B CN 110310248 B CN110310248 B CN 110310248B CN 201910792980 A CN201910792980 A CN 201910792980A CN 110310248 B CN110310248 B CN 110310248B
Authority
CN
China
Prior art keywords
image
tile
trapezoidal
unmanned plane
real
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201910792980.6A
Other languages
English (en)
Other versions
CN110310248A (zh
Inventor
不公告发明人
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Chengdu Shuzhilian Technology Co Ltd
Original Assignee
Chengdu Shuzhilian Technology Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Chengdu Shuzhilian Technology Co Ltd filed Critical Chengdu Shuzhilian Technology Co Ltd
Priority to CN201910792980.6A priority Critical patent/CN110310248B/zh
Publication of CN110310248A publication Critical patent/CN110310248A/zh
Application granted granted Critical
Publication of CN110310248B publication Critical patent/CN110310248B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/10Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
    • G01C21/12Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
    • G01C21/16Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
    • G01C21/165Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/20Instruments for performing navigational calculations
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4038Image mosaicing, e.g. composing plane images from plane sub-images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/30Determination of transform parameters for the alignment of images, i.e. image registration
    • G06T7/33Determination of transform parameters for the alignment of images, i.e. image registration using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20221Image fusion; Image merging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30181Earth observation

Landscapes

  • Engineering & Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

本发明公开了一种无人机遥感影像实时拼接方法及***,包括:实时接收无人机回传的航拍数据,包括:实时航拍影像及对应的POS数据;基于POS数据定位定向影像获得影像的地理信息;基于无人机相机的内方位元素校正影像镜头畸变,基于POS数据中的外方位元素几何校正影像,结合步骤2获得的影像位置信息地理对校正后的影像进行配准;对配准后的影像进行切片;融合拼接切片得到的瓦片并发布为标准的地图服务供浏览器端使用;本方法及***能够实时定位定向、校正及拼接无人机回传的影像,实时呈现无人机航拍区域的全域实景地图。

Description

一种无人机遥感影像实时拼接方法及***
技术领域
本发明涉及无人机遥感影像处理技术领域,具体地,涉及一种无人机遥感影像实时拼接方法及***。
背景技术
目前无人机航测主要通过无人机航拍外业获得遥感影像,内业离线处理影像提供地图服务。这种技术流程复杂、内外业分离、响应周期长,无法满足有快速响应需求的应用场景。此外,无人机实时直播视频数据只能得到局部区域信息,无法实时提供全局态势。
在应急救援等对实时响应速度要求较高的场景,需要航测作业实时处理遥感影像,提供全局态势地图服务。
发明内容
本发明提供了一种无人机遥感影像的实时拼接方法与***,能够在无人机航拍作业过程中,实时定位定向、校正及拼接回传影像,实时呈现无人机航拍区域的全域实景地图,满足应急场景下的实时成图需求。
为实现上述发明目的,本发明一方面提供了一种无人机遥感影像实时拼接方法,所述方法包括:
步骤1:实时接收无人机回传的航拍数据,包括:实时航拍影像及对应的POS数据;
步骤2:基于POS(Position and Orientation System,定位定向***)数据获得影像的地理信息;
步骤3:基于无人机相机的内方位元素校正影像镜头畸变,基于POS数据中的外方位元素几何校正影像,结合步骤2获得的影像地理信息对校正后的影像进行配准;
步骤4:对步骤3配准后的影像进行切片;
步骤5:融合拼接切片得到的瓦片并发布为标准的地图服务供浏览器端使用。
优选的,实时接收无人机航拍数据,获得无人机拍摄影像时的空间位置和三轴姿态信息,空间位置包括无人机的经度、纬度、高程,三轴姿态信息包括无人机相对于导航坐标系的翻滚角、俯仰角、偏航角。
优选的,步骤2还包括:根据无人机拍摄的外方位元素,基于无人机相机和GPS与IMU(Inertial Measurement Unit)的安装距离误差以及姿态角偏移导致的投影误差校正影像的地理位置。
优选的,配准时根据相机CCD尺寸、影像分辨率以及相对无人机航高计算出地面像素分辨率,利用像素分辨率和校正后的影像中心点坐标配准影像。
优选的,所述方法还包括:浏览器动态获取融合拼接后的瓦片,并加载最新融合拼接后的瓦片进行可视化展示。
优选的,所述方法具体为:将融合拼接后的瓦片发布为标准的TMS服务;利用WebSocket实时通知浏览器前端加载实景地图的最新可视范围;浏览器端根据最新可视范围加载相应层级的最新瓦片实景地图。
图片切片技术是按照金字塔方式将带有地理坐标的影像切为小图片的技术。将无人机拍摄的遥感影像发布为地图服务,可以通过浏览器访问,目前主要有两种处理方法,一种是将所有遥感影像拼接成一张大图,对大图切片后发布为地图服务;另一种是对单张影像进行流式切片后将每张影像作为独立图层发布为地图服务,叠加之后通过浏览器展示。
第一种方法需要把遥感影像先拼接再切片,无法满足实时场景需求。第二种方法虽然能够实时处理,但是只适用于较少影像的场景,随着影像增多,图层数量增加,当影像达到一定数量时浏览器的负载变大,性能下降,无法满足实时应用。本发明提供了一种无人机遥感影像的切片方法,解决了现有切片技术的实时性问题、边界瓦片黑白边问题、浏览器端的性能加载问题,能够在无人机航拍作业时对校正后的影像进行切片及处理,实时将无人机拍摄的遥感影像以地图服务形式流畅呈现给用户。本方法中将对影像进行切片和融合拼接切片得到的瓦片,具体包括:
步骤a:检测单张无人机遥感影像的坐标系,若不是墨卡托投影坐标系,则转换为墨卡托投影坐标系,用于在地图上呈现影像;
步骤b:确定影像支持的最大缩放层级N,N为大于1的整数;
步骤c:将影像的分辨率与第N层级的分辨率对齐;
步骤d:对影像进行切片获得第N层级的瓦片;
步骤e:基于第N层级的瓦片依次生成第N-1层级至第1层级的瓦片;
步骤f:根据时序及瓦片标识逐层融合拼接第1层级至第N层级的瓦片;
优选的,根据影像的像素分辨率及墨卡托投影坐标算法,四叉树切割地图。每次切割后对应图层墨卡托投影坐标系的初始分辨都会变大,直到小于影像的分辨率。影像支持的最大缩放层级为最大切割次数减一。
其中,步骤d和步骤e生成瓦片时,瓦片能够存储为任意图片格式。如果考虑地图服务,则需要将瓦片存储为HTTP Content-Type所支持的图片格式并对瓦片做透明化处理。当瓦片存储为jpg或png格式时,不包含nodata的瓦片(即非边界瓦片)存储为jpg格式,包含nodata的瓦片(即边界瓦片)存储为png格式。在地图服务端统一设置地图边界,仅可以请求边界范围内的瓦片。请求边界范围内的瓦片时忽略请求的瓦片存储格式,直接返回实际存储的瓦片,能够同时解决边界瓦片黑白边问题及png图片过大导致的加载过慢问题。其中,本方法针对校正后的单张无人机遥感影像,将对第N层级切片获得的瓦片作为瓦片地图金字塔模型的底层;其余层级的瓦片都通过重采样其下一层瓦片生成;根据时序及瓦片标识融合拼接瓦片。
优选的,所述步骤d具体包括:根据瓦片数据规范确定每张瓦片的大小及在影像中的像素坐标,从影像左上角开始,从左至右、从上到下进行切分,将影像切分为若干个单张瓦片,瓦片不完整的部分用nodata填充。
优选的,步骤f在融合拼接瓦片时,将瓦片转换为矩阵。此矩阵可以获得瓦片通道中相同行列所有像素点的像素值,这些像素值分别可以视为一组向量v。nodata像素点的像素值在所属通道中统一视为标量0。因此可以通过向量运算判断新瓦片是否包含nodata。
优选的,步骤f融合拼接瓦片时,将瓦片转换为矩阵。对于包含nodata的新瓦片,将影像通道中相同行列的像素点的像素值视为一组向量v,各像素点的像素值为v中各通道标量。向量v视影像通道个数不同为单项式或者多项式。将原切片生成的瓦片和新瓦片对应向量v中的各项标量按通道顺序一一对应做“或运算”,并替换原切片生成的瓦片。
其中,采用上述两种方法将瓦片的融合拼接耗时约降至逐像素方式的1/6。
优选的,本方法中的几何校正,可以采用传统的几何校正方法,也可以采用本发明中的改进后的几何校正方法,为了解决无法设立控制点或无控制点的应急应用场景下微小数据扰动可能引起较大校正误差的问题,本发明提供了改进后的几何校正方法为实时拼接无人机遥感影像时的快速几何校正提供支持,本发明方法针对俯仰角、翻滚角、偏航角引起的几何形变,利用三维几何模型快速几何校正原始影像。
现有的无控制点几何校正方法通过变换坐标系,将IMU坐标系变换到地面测量坐标系,将校正后的POS参数直接作为影像外方位元素,通过共线条件方程和间接法影像几何校正无人机遥感影像。该校正过程需要相机与IMU安装角的误差等数据,这些数据在应急场景下难以获得,并且可能面临多个矩阵乘积引起的计算误差以及部分矩阵对误差敏感,导致微小数据误差引起较大校正误差的问题。
所述基于POS数据中的外方位元素对影像进行几何校正,具体包括:
采集无人机原始遥感影像;由于无人机俯仰角的影响,无人机原始遥感影像在成像时产生梯形形变,校正俯仰角引起的梯形形变得到原始影像对应的第一梯形ABEF;
将第一梯形ABEF的最小外接矩形作为第二矩形ABCD,即以第一梯形ABEF的上底与下底中较长的底AB作为第二矩形ABCD的长,以第一梯形ABEF的高作为第二矩形ABCD的宽;由于无人机翻滚角的影响,第二矩形ABCD在成像时产生梯形形变,校正翻滚角引起的梯形形变得到第二矩形ABCD对应的第二梯形A'B'C'D';
依据第二梯形A'B'C'D'解算得到第一四边形A'B'E'F',根据第一梯形ABEF上底与下底中较短的底EF的两个端点E和F在第二矩形CD边上的相对位置,通过透视变换得到第一四边形A'B'E'F'的两个顶点E'和F'在边C'D'上的位置;
通过无人机偏航角对应的二维旋转矩阵旋转变换第一四边形的四个顶点得到第二四边形,即校正后的影像形状;
根据第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,解算得到原始影像和校正后影像的单应性变换矩阵;
根据单应性变换矩阵与原始影像各像素点的像素值,计算得到校正后影像各个像素点的像素值,即得到校正后的影像。
优选的,原始影像的边框矩形为第一矩形。
优选的,第一梯形的高:
第一梯形的上底:
第一梯形的下底:
其中,H为无人机相对地面的航高,w1为第一矩形的长,h1为第一矩形的宽,f为镜头焦距,α为无人机相对于导航坐标系的俯仰角(单位:弧度),y0为像主点(摄影中心与像平面的垂线与像平面的交点)在框标坐标系下的纵坐标,GSD为地面采样间隔。
优选的,第二梯形的高:
第二梯形的上底:
第二梯形的下底:
其中,H为无人机相对地面的航高,w2为第二矩形的长,h2为第二矩形的宽,β为无人机相对于导航坐标系的翻滚角(单位:弧度),x0为像主点(摄影中心与像平面的垂线与像平面的交点)在框标坐标系下的横坐标,f为镜头焦距,GSD为地面采样间隔。
优选的,所述通过偏航角对应的二维旋转矩阵旋转变换第一四边形的四个顶点得到第二四边形,即校正后的影像形状,具体包括:
步骤A:以第一四边形的左下角顶点为原点o,水平方向向右为x轴正方向,根据右手法则确定y轴正方向,分别得到第一四边形的四个顶点在坐标系xoy下的坐标。
步骤B:设γ为无人机相对于导航坐标系的偏航角(单位:弧度),则二维旋转矩阵R
,用于计算点(x 1 ,y 1 )绕原点逆时针旋转γ后的坐标(x 2 ,y 2 )为
步骤C:步骤A得到的四个顶点经过步骤B的旋转矩阵R旋转变换后得到第二四边形四个顶点的坐标。
优选的,所述根据第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,解算得到原始影像和校正后影像的单应性变换矩阵,具体包括:
步骤a:由于在相机影像中最终获得的是像素,所以需要将第二四边形的四个顶点转换为像素坐标系(以影像最小外接矩形的左上角顶点为原点,水平方向向右为x轴正向,垂直方向向下为y轴正向)下的坐标。
步骤b:求解单应性变换矩阵H,给定单应***换矩阵,原始影像和校正后影像的两个对应点的齐次坐标分别为(x1,y1,1)与(x2,y2,1),则有:
单应***换矩阵H有8个未知数,已知第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,即可求解单应***换矩阵H,进而得到原始影像上的点在校正后影像上的对应点。
优选的,根据单应性变换矩阵与原始影像各像素点的像素值,通过二次线性插值法进行重采样,得到校正后的影像各个像素点的像素值。
另一方面,对应本发明中的方法,本发明还提供了一种无人机遥感影像实时拼接***,所述***包括:
通信模块,用于实时接收无人机回传的航拍数据,包括:实时航拍影像及对应的POS数据;
地理信息获得模块,用于基于POS数据定位定向影像获得影像的地理信息;
校正模块,用于基于无人机相机的内方位元素校正影像镜头畸变,基于POS数据中的外方位元素几何校正影像;
切片模块,用于对校正模块得到的影像进行切片;
融合拼接模块,用于融合拼接切片模块得到的瓦片并发布为标准的地图服务供浏览器端使用。
本发明提供的一个或多个技术方案,至少具有如下技术效果或优点:
本方法及***能够在无人机航拍作业过程中,实时定位定向、校正及拼接回传影像,解决了外业采集数据再转内业离线处理的传统无人机影像处理流程不能满足现场实时成图的问题,将无人机航拍区域的全域实景地图实时呈现,满足应急场景下的实时成图需求,如森林火灾、泥石流、洪水等灾害应急监测应用。
本方法及***通过实时拼接处理无人机遥感影像,能够在无人机航拍的同时在浏览器端实时查看航拍过程中的实景地图,实时在地图上拼接航拍所经过区域的影像。航测结束时即可呈现整个航拍作业区域内的全域实景。
由于受风、气流等各种外界因素干扰,无人机在飞行过程中会出现俯仰、翻滚和偏航的情况,导致航拍的影像产生几何形变。这些几何形变导致影像无法真实反映航拍区域地、物的形状与位置,需先几何校正影像再拼接影像。本方法及***采用了改进后的影像校正方法解决了传统拼接方法依赖于控制点及无控制点下的微小数据扰动引起较大校正误差的问题,可以满足应急场景的需求;本方法及***中改进后的几何校正方法实现了影像的快速几何校正,为无人机遥感影像实时拼接提供支撑。
附图说明
此处所说明的附图用来提供对本发明实施例的进一步理解,构成本发明的一部分,并不构成对本发明实施例的限定;
图1是本发明中一种无人机遥感影像实时拼接方法的流程示意图;
图2是本发明中一种无人机遥感影像实时拼接***的组成示意图;
图3是本发明中无人机遥感影像切片方法的流程示意图;
图4是本发明中基于POS数据中的外方位元素几何校正影像方法的流程示意图;
图5是本发明中基于POS数据的无人机遥感影像几何校正方法的影像变换流程示意图。
具体实施方式
为了能够更清楚地理解本发明的上述目的、特征和优点,下面结合附图和具体实施方式对本发明进行进一步的详细描述。需要说明的是,在相互不冲突的情况下,本发明的实施例及实施例中的特征可以相互组合。
在下面的描述中阐述了很多具体细节以便于充分理解本发明,但是,本发明还可以采用其他不同于在此描述范围内的其他方式来实施,因此,本发明的保护范围并不受下面公开的具体实施例的限制。
请参考图1,本发明提供了一种无人机遥感影像实时拼接方法,所述方法包括:
(1)实时接收无人机回传的航拍数据;无人机携带的POS***集DGPS技术和惯性导航***(INS)技术于一体,可以获得无人机拍摄影像时的空间位置和三轴姿态信息,即无人机的三个线元素(经度、纬度、高程)和三个角元素(翻滚角、俯仰角、偏航角)。
(2)根据无人机拍摄的外方位元素,考虑相机和GPS与IMU的安装距离误差以及姿态角偏移所带来的投影误差,校正影像的地理位置。
(3)根据相机的内方位元素和POS数据中的外方位元素,分别对影像做镜头畸变校正和几何校正成像时的影像形变。
(4)结合(2)获得的影像位置信息,地理配准(3)获得的校正后影像;配准时需要根据相机CCD尺寸、影像分辨率以及相对航高计算出地面像素分辨率,利用像素分辨率和校正后的影像中心点坐标地理配准影像。
(5)对地理配准后的影像进行切片。
(6)分级逐层融合拼接切片得到的瓦片。
(7)将融合拼接后的瓦片发布为标准的TMS服务(Tile Map Service)。
(8)利用WebSocket技术,通知浏览器前端实时加载实景地图的最新可视范围。
(9)浏览器端根据最新可视范围加载相应层级的最新瓦片实景地图,地图支持放大和缩小。
请参考图2,本发明实施例提供了一种无人机遥感影像实时拼接***,所述***包括:
通信模块,用于实时接收无人机回传的航拍数据,包括:实时航拍影像及对应的POS数据;
地理信息获得模块,用于基于POS数据定位定向影像获得影像的地理信息;
校正模块,用于基于无人机相机的内方位元素校正影像镜头畸变,基于POS数据中的外方位元素几何校正影像;
切片模块,用于对校正模块得到的影像进行切片;
融合拼接模块,用于融合拼接切片模块得到的瓦片并发布为标准的地图服务供浏览器端使用。
请参考图3,本发明实施例中的一种实时场景下无人机遥感影像切片方法,包括:
步骤a: 检测单张校正后的无人机遥感影像的坐标系,如果不是墨卡托投影坐标系,则转换为墨卡托投影坐标系,用于在地图上呈现影像。
步骤b:确定影像支持的最大缩放层级N。根据影像的像素分辨率,利用墨卡托坐标算法计算出影像支持的最大缩放层级。
步骤c:将影像的分辨率与第N层级的分辨率对齐。根据步骤2获得的最大缩放层级,将影像的分辨率重采样为该层级对应的分辨率,为第N层级的切片做准备。
步骤d:第N层级的切片处理。根据瓦片数据规范确定每张瓦片的大小(256x256)及在影像中的像素坐标,从影像左上角开始,从左至右、从上到下进行切分,将影像切分为若干单张瓦片,不完整的部分用nodata填充。
步骤e:根据第N层级的瓦片依次生成第N-1层级到第1层级的瓦片。将步骤d中切好的第N层级瓦片作为金字塔模型的底层,上面每一层级的瓦片通过重采样其下一层的瓦片生成。
步骤f:根据时序及瓦片标识逐层融合拼接瓦片。在无人机遥感影像实时处理时,无人机航拍的遥感影像将形成影像流,影像流之间具有一定的重叠度。同时,切片所属坐标系及层级确定后,每张瓦片就具有唯一的x、y和z坐标及层级标识,称为瓦片标识。针对后续的每张影像,按照步骤a-e切片,然后逐层融合拼接新生成的瓦片与之前生成的瓦片。
在瓦片处理的过程中,有两个关键难点及其解决方法如下:
包含nodata瓦片的黑白边问题及png图片过大问题:如果将瓦片都存储为jpg格式,包含nodata瓦片将有黑边或者白边出现。通过给瓦片增加一个透明度通道存储为png格式,能够解决包含nodata瓦片的黑白边问题。但是png图片大小是jpg图片的3-5倍,这会加大网络传输负载、增加浏览器端瓦片的加载时间。本发明将不包含nodata瓦片存储为jpg格式,包含nodata瓦片存储为png格式。在地图服务端统一设置地图边界,仅可以请求边界范围内的瓦片。请求边界范围内的瓦片时忽略请求的瓦片存储格式,直接返回实际存储的瓦片。此方法能同时解决包含nodata瓦片的黑白边问题及png图片过大问题。
瓦片的融合拼接速度问题:利用向量运算代替逐像素比较判断瓦片是否包含nodata。利用矩阵或运算对包含nodata的新瓦片和原切片生成的瓦片进行融合拼接。这两种方法将瓦片融合拼接耗时约降至逐像素方式的1/6。
应用上述切片方法,能够给在无人机遥感影像的实时拼接中完成影像的实时切片,同时解决切片性能问题(边界黑白边和浏览器加载负载过大的问题),为无人机遥感影像实时拼接提供有力支撑。
请参考图4,本发明提供了基于POS数据中的外方位元素几何校正影像方法,所述方法包括:
采集无人机原始遥感影像,无人机原始影像的边框矩形为第一矩形;由于无人机俯仰角的影响,无人机原始遥感影像在成像时产生梯形形变。根据第一矩形校正俯仰角引起的梯形形变得到原始影像对应的第一梯形ABEF;
将第一梯形ABEF的最小外接矩形作为第二矩形ABCD,即以第一梯形ABEF的上底与下底中较长的底AB作为第二矩形的长,以第一梯形ABEF的高作为第二矩形的宽;由于无人机翻滚角的影响,第二矩形在成像时产生梯形形变。根据第二矩形校正翻滚角引起的梯形形变得到第二梯形A'B'C'D',第二梯形A'B'C'D'的获得方式具体为:通过解算第二梯形A'B'C'D'的四个顶点,进而得到第二矩形ABCD对应的第二梯形A'B'C'D';
依据第二梯形A'B'C'D'得到第一四边形A'B'E'F',根据第一梯形ABEF上底与下底中较短的底EF的两个端点E和F在第二矩形CD边上的相对位置,通过透视变换得到第一四边形的两个顶点E'和F'在边C'D'上的位置;
通过偏航角对应的二维旋转矩阵旋转变换第一四边形的四个顶点得到第二四边形,即校正后的影像形状;
根据第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,解算得到原始影像和校正后影像的单应性变换矩阵;
根据单应性变换矩阵与原始影像各像素点的像素值,计算得到校正后影像各个像素点的像素值,即得到校正后的影像。
本发明中的基于POS数据的无人机遥感影像快速几何校正方法:基于摄影测量理论(影像因翻滚角或俯仰角的倾斜形成的构像为梯形)。通过POS数据的一个线元素(相对地面的航高)和三个角元素(俯仰角,翻滚角,偏航角),先根据俯仰角校正,再根据翻滚角校正,最后根据偏航角旋转校正,校正过程中通过像主点的坐标(x0,y0)来消除视准轴误差。
基于POS数据的无人机遥感影像快速几何校正方法,包括以下步骤:
步骤1,仅考虑俯仰角时,相机成像时的形变为梯形形变,通过解算梯形上底与下底长度及梯形高度得到第一梯形ABEF(参见附图5,各长度以像素为单位);
第一梯形ABEF的高:
第一梯形ABEF的上底:
第一梯形ABEF的下底:
其中,H为无人机相对地面的航高(单位:米),w1为第一矩形的长(单位:米),h1为第一矩形的宽(单位:米),f为焦距(单位:米),α为俯仰角(单位:弧度),y0为像主点的y方向坐标,GSD(Ground Sample Distance)为地面采样间隔(地面分辨率)。
步骤2,将第一梯形ABEF的最小外接矩形作为第二矩形ABCD(参见附图5,即以第一梯形ABEF的上底与下底中较长的底AB作为第二矩形ABCD的长,以第一梯形ABEF的高作为第二矩形ABCD的宽);考虑第二矩形ABCD因翻滚角引起的梯形形变,通过解算第二梯形四个顶点得到第二矩形ABCD对应的第二梯形A'B'C'D'(参见附图5,各长度以像素为单位);
第二梯形A'B'C'D'的高:
第二梯形A'B'C'D'的上底:
第二梯形A'B'C'D'的下底:
其中,w2为第二矩形ABCD的长(单位:米),h2为第二矩形ABCD的宽(单位:米),β为翻滚角(单位:弧度),x0为像主点的横坐标。
步骤3,依据第二梯形A'B'C'D'得到第一四边形A'B'E'F'(参见附图5),根据第一梯形ABEF上底与下底中较短的底EF的两个端点E和F在第二矩形ABCD的CD边上的相对位置,通过透视变换得到第一四边形A'B'E'F'的两个顶点E'和F'在边C'D'上的位置;
步骤4,通过偏航角对应的二维旋转矩阵旋转变换第一四边形A'B'E'F'的四个顶点得到第二四边形(参见附图5),即校正后的影像形状。
步骤5,根据第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,解算得到原始影像和校正后影像的单应性变换矩阵。
步骤6,根据单应性变换矩阵与原始影像各像素点的像素值,通过二次线性插值法进行重采样,得到校正后的影像各个像素点的像素值。
上述无人机遥感影像几何校正方法,适用于单张影像的快速校正处理,处理过程采用GPU服务器加速,单张4000万像素影像的校正时间控制在1s左右。
本发明所述方法使用的外方位角元素是GPS/INS***获取的外方位角元素,用于描述IMU在导航坐标系中的姿态信息。由于相机与IMU的安装误差较小,本方法在应急需求下不予考虑。
假设俯仰角大于0且翻滚角小于0(其他情况类似,角度为与实例角度相反,则将该角度对应的校正后的梯形旋转180度),基于POS数据的无人机遥感影像快速几何校正方法示意图如图5所示。
上述无人机遥感影像实时处理方法及***,所述整个过程采用流式化处理,从单张影像的定位定向、影像校正、切片、拼接到发布为地图服务,形成一个完整的影像自动处理链条。航拍过程中的影像校正、切片及融合拼接均采用GPU服务器加速,从而能够将整个处理过程控制在几秒以内。
针对GPS和IMU数据异常的处理方法:GPS和IMU在工作时可能因外界的干扰导致个别数据异常。针对这种情况,同时存储拼接后的大图切片和每张影像的切片数据,在地图上提供取点查看原图的功能。即对于拼接误差较大的区域,可以直接点选查看该位置的所有原始影像地图。
应用上述方法及***,无人机航测作业实时回传影像及无人机的POS数据,可实时查看无人机航拍区域的实景地图,达到“目之所及、图之所至”的效果。
尽管已描述了本发明的优选实施例,但本领域内的技术人员一旦得知了基本创造性概念,则可对这些实施例作出另外的变更和修改。所以,所附权利要求意欲解释为包括优选实施例以及落入本发明范围的所有变更和修改。
显然,本领域的技术人员可以对本发明进行各种改动和变型而不脱离本发明的精神和范围。这样,倘若本发明的这些修改和变型属于本发明权利要求及其等同技术的范围之内,则本发明也意图包含这些改动和变型在内。

Claims (7)

1.一种无人机遥感影像实时拼接方法,其特征在于,所述方法包括:
步骤1:实时接收无人机回传的航拍数据,包括:实时航拍影像及对应的POS数据;
步骤2:基于POS数据定位定向影像获得影像的地理信息;
步骤3:基于无人机相机的内方位元素校正影像镜头畸变,基于POS数据中的外方位元素几何校正影像,结合步骤2获得的影像地理信息对校正后的影像进行配准;
步骤4:对配准后的影像进行切片;
步骤5:融合拼接切片得到瓦片并发布为标准的地图服务供浏览器端使用;
所述基于POS数据中的外方位元素几何校正影像,具体包括:
采集无人机原始影像,无人机原始影像的边框矩形为第一矩形;由于无人机俯仰角的影响,无人机原始影像在成像时产生梯形形变;根据第一矩形校正俯仰角引起的梯形形变得到第一梯形ABEF,第一梯形ABEF的获得方式具体为:通过解算获得第一梯形ABEF的上底与下底长度及第一梯形ABEF的高度,进而获得第一矩形对应的第一梯形ABEF;
将第一梯形ABEF的最小外接矩形作为第二矩形ABCD;由于无人机翻滚角的影响,第二矩形在成像时产生梯形形变;根据第二矩形ABCD校正翻滚角引起的梯形形变得到第二梯形A'B'C'D',第二梯形A'B'C'D'的获得方式具体为:通过解算获得第二梯形A'B'C'D'四个顶点,进而获得第二矩形ABCD对应的第二梯形A'B'C'D';
依据第二梯形A'B'C'D'解算得到第一四边形A'B'E'F',根据第一梯形ABEF上底与下底中较短的底EF的两个端点E和F在第二矩形CD边上的相对位置,通过透视变换得到第一四边形的两个顶点E'和F'在边C'D'上的位置;
通过无人机偏航角对应的二维旋转矩阵旋转变换第一四边形的四个顶点得到第二四边形,第二四边形为无人机原始影像校正后的影像形状;
根据第一矩形四个顶点在像素坐标系下的坐标与第二四边形的四个顶点在像素坐标系下的坐标的对应关系,解算得到原始影像和校正后影像的单应性变换矩阵;
根据单应性变换矩阵与原始影像各像素点的像素值,计算得到校正后影像各个像素点的像素值,得到校正后的影像。
2.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,所述方法还包括:浏览器端动态获取融合拼接后的瓦片,并加载最新融合拼接后的瓦片进行可视化展示;将融合拼接后的瓦片发布为标准的TMS服务;利用WebSocket实时通知浏览器端加载实景地图的最新可视范围;浏览器端根据最新可视范围加载相应层级的最新瓦片实景地图。
3.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,本方法中将对配准后的影像进行切片和融合拼接切片得到的瓦片,具体包括:
步骤a:检测单张无人机遥感影像的坐标系,若不是墨卡托投影坐标系,则转换为墨卡托投影坐标系,用于在地图上呈现影像;
步骤b:确定影像支持的最大缩放层级N,N为大于1的整数;
步骤c:将影像的分辨率与第N层级的分辨率对齐;
步骤d:对影像进行切片获得第N层级的瓦片;
步骤e:基于第N层级的瓦片依次生成第N-1层级至第1层级的瓦片;
步骤f:根据时序及瓦片标识逐层融合拼接第1层级至第N层级的瓦片;
其中,步骤d和步骤e生成瓦片时,瓦片能够存储为任意图片格式;如果考虑地图服务,则需要将瓦片存储为HTTP Content-Type所支持的图片格式并对瓦片做透明化处理;当瓦片存储为jpg或png格式时,将不包含nodata的瓦片存储为jpg格式,包含nodata的瓦片存储为png格式;在地图服务端统一设置地图边界,仅能够请求边界范围内的瓦片;请求边界范围内的瓦片时忽略请求的瓦片存储格式,直接返回实际存储的瓦片。
4.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,实时接收无人机航拍数据,获得无人机拍摄影像时的空间位置和三轴姿态信息,空间位置包括无人机的经度、纬度、高程,三轴姿态信息包括无人机相对于导航坐标系的翻滚角、俯仰角、偏航角。
5.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,步骤2还包括:根据无人机采集的POS数据中的外方位元素,结合无人机相机与GPS、IMU的安装距离误差以及姿态角偏移导致的投影误差对影像的地理位置进行校正。
6.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,配准时根据相机CCD尺寸、影像分辨率以及相对无人机航高计算出地面像素分辨率,利用像素分辨率和校正后的影像中心点坐标配准影像。
7.根据权利要求1所述的一种无人机遥感影像实时拼接方法,其特征在于,第一梯形ABEF的高
第一梯形ABEF的上底
第一梯形ABEF的下底
其中,H为无人机相对地面的航高,w1为第一矩形的长,h1为第一矩形的宽,f为镜头焦距,α为无人机相对于导航坐标系的俯仰角,y0为像主点在框标坐标系下的纵坐标,GSD为地面采样间隔;
第二梯形A'B'C'D'的高
第二梯形A'B'C'D'的上底
第二梯形A'B'C'D'的下底
其中,H为无人机相对地面的航高,w2为第二矩形的长,h2为第二矩形的宽,β为无人机相对于导航坐标系的翻滚角,x0为像主点在框标坐标系下的横坐标,f为镜头焦距,GSD为地面采样间隔。
CN201910792980.6A 2019-08-27 2019-08-27 一种无人机遥感影像实时拼接方法及*** Active CN110310248B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201910792980.6A CN110310248B (zh) 2019-08-27 2019-08-27 一种无人机遥感影像实时拼接方法及***

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201910792980.6A CN110310248B (zh) 2019-08-27 2019-08-27 一种无人机遥感影像实时拼接方法及***

Publications (2)

Publication Number Publication Date
CN110310248A CN110310248A (zh) 2019-10-08
CN110310248B true CN110310248B (zh) 2019-11-26

Family

ID=68083727

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910792980.6A Active CN110310248B (zh) 2019-08-27 2019-08-27 一种无人机遥感影像实时拼接方法及***

Country Status (1)

Country Link
CN (1) CN110310248B (zh)

Families Citing this family (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN110966991B (zh) * 2019-11-21 2021-07-02 中国人民解放军国防科技大学 一种无控制点下的单幅无人机影像定位方法
CN112330537B (zh) * 2020-06-19 2023-09-29 中国科学院空天信息创新研究院 一种应急救援活动中无人机航拍影像快速拼接的方法
CN111860205B (zh) * 2020-06-29 2024-03-19 成都数之联科技股份有限公司 基于多源遥感影像和网格的森林火情评价方法及存储介质
CN111915729B (zh) * 2020-08-03 2021-11-02 北京吉威空间信息股份有限公司 三维gis信息的仿真展示方法及***
CN112001277B (zh) * 2020-08-11 2021-05-07 中国地质科学院矿产资源研究所 无人机填图方法、填图装置及填图***
CN112308774A (zh) * 2020-09-15 2021-02-02 北京中科遥数信息技术有限公司 基于无人机的地图重建方法及***、传输设备、存储介质
CN112132029B (zh) * 2020-09-23 2023-07-11 中国地震局地震预测研究所 一种面向地震应急响应的无人机遥感影像快速定位方法
CN112215304A (zh) * 2020-11-05 2021-01-12 珠海大横琴科技发展有限公司 一种用于地理影像拼接的灰度影像匹配方法及装置
CN112288637A (zh) * 2020-11-19 2021-01-29 埃洛克航空科技(北京)有限公司 无人机航拍图像快速拼接装置及快速拼接方法
CN112632415B (zh) * 2020-12-31 2022-06-17 武汉光庭信息技术股份有限公司 一种Web地图实时生成方法及图像处理服务器
CN112767245B (zh) * 2021-01-04 2024-03-29 航天时代飞鸿技术有限公司 基于多无人机实时视频图像的地图拼接构建的***及方法
CN112948379A (zh) * 2021-02-05 2021-06-11 福建迈斯特空间信息科技有限公司 一种分布式电子地图的生成方法、装置及可读存储介质
CN113706389B (zh) * 2021-09-30 2023-03-28 中国电子科技集团公司第五十四研究所 一种基于pos校正的图像拼接方法
CN114201633B (zh) * 2022-02-17 2022-05-17 四川腾盾科技有限公司 一种用于无人机视觉定位的自适应卫星图像生成方法
CN114331914B (zh) * 2022-03-07 2022-05-24 中咨数据有限公司 一种图像快速校准与实时渲染方法、***、介质及移动端
CN115620181B (zh) * 2022-12-05 2023-03-31 海豚乐智科技(成都)有限责任公司 基于墨卡托坐标切片的航拍图像实时拼接方法
CN116468598B (zh) * 2023-03-16 2023-11-17 深圳市规划和自然资源数据管理中心(深圳市空间地理信息中心) 高分航空影像与低分卫星影像匹配方法、设备及存储设备
CN116363185B (zh) * 2023-06-01 2023-08-01 成都纵横自动化技术股份有限公司 地理配准方法、装置、电子设备和可读存储介质

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101876701A (zh) * 2010-07-02 2010-11-03 中国测绘科学研究院 一种侧视雷达遥感影像定位方法
CN104077760A (zh) * 2014-03-19 2014-10-01 中科宇图天下科技有限公司 一种航空摄影测量的快速拼接***及其实现方法
WO2016065375A1 (en) * 2014-10-27 2016-05-06 Fts Computertechnik Gmbh Computer vision monitoring for a computer vision system
CN108536829A (zh) * 2018-04-11 2018-09-14 中国中医科学院中药研究所 一种提高无人机航测数据生成瓦片地图效率的方法
CN109685845A (zh) * 2018-11-26 2019-04-26 普达迪泰(天津)智能装备科技有限公司 一种用于fod检测机器人的基于pos***的实时图像拼接处理方法
CN110019610A (zh) * 2017-11-23 2019-07-16 杭州海康机器人技术有限公司 地图瓦片生成方法、装置及***

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106127697B (zh) * 2016-06-07 2018-12-11 哈尔滨工业大学 无人机机载成像高光谱几何校正方法
CN109405824A (zh) * 2018-09-05 2019-03-01 武汉契友科技股份有限公司 一种适用于智能网联汽车的多源感知定位***
CN110246220A (zh) * 2019-05-24 2019-09-17 武汉华安科技股份有限公司 一种基于gis的三维管理平台构建方法、***、装置和介质

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN101876701A (zh) * 2010-07-02 2010-11-03 中国测绘科学研究院 一种侧视雷达遥感影像定位方法
CN104077760A (zh) * 2014-03-19 2014-10-01 中科宇图天下科技有限公司 一种航空摄影测量的快速拼接***及其实现方法
WO2016065375A1 (en) * 2014-10-27 2016-05-06 Fts Computertechnik Gmbh Computer vision monitoring for a computer vision system
CN110019610A (zh) * 2017-11-23 2019-07-16 杭州海康机器人技术有限公司 地图瓦片生成方法、装置及***
CN108536829A (zh) * 2018-04-11 2018-09-14 中国中医科学院中药研究所 一种提高无人机航测数据生成瓦片地图效率的方法
CN109685845A (zh) * 2018-11-26 2019-04-26 普达迪泰(天津)智能装备科技有限公司 一种用于fod检测机器人的基于pos***的实时图像拼接处理方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
无控制点的无人机遥感影像几何校正与拼接方法研究;徐秋辉;《中国优秀硕士学位论文全文数据库 信息科技辑》;20130815(第8期);I140-349 *

Also Published As

Publication number Publication date
CN110310248A (zh) 2019-10-08

Similar Documents

Publication Publication Date Title
CN110310248B (zh) 一种无人机遥感影像实时拼接方法及***
CN105627991B (zh) 一种无人机影像实时全景拼接方法及***
US10789673B2 (en) Post capture imagery processing and deployment systems
AU2008322565B2 (en) Method and apparatus of taking aerial surveys
EP2791868B1 (en) System and method for processing multi-camera array images
US9285460B2 (en) Method and system for estimating information related to a vehicle pitch and/or roll angle
CN107527328B (zh) 一种兼顾精度与速度的无人机影像几何处理方法
US11689808B2 (en) Image synthesis system
CN104360362B (zh) 利用飞行器对观测目标进行定位的方法及***
US8994821B2 (en) Methods and apparatus for automated assignment of geodetic coordinates to pixels of images of aerial video
CN110555813B (zh) 一种无人机遥感影像的快速几何校正方法及***
CN113282108A (zh) 基于无人机技术快速精准采集低空遥感影像的方法
CN110986888A (zh) 一种航空摄影一体化方法
CN108253942B (zh) 一种提高倾斜摄影测量空三质量的方法
CN116129064A (zh) 电子地图生成方法、装置、设备及存储介质
KR102389762B1 (ko) 디지털 트윈 연동 증강현실 카메라를 통한 공간 형성 및 인식 시스템 및 그 방법
CN111444385A (zh) 一种基于影像角点匹配的电子地图实时视频镶嵌方法
CN114494563B (zh) 航拍视频在数字地球上的融合显示方法和装置
Thomas et al. GPU-based orthorectification of digital airborne camera images in real time
Hsu Geocoded terrestrial mosaics using pose sensors and video registration
AU2013260677B2 (en) Method and apparatus of taking aerial surveys
KR102641975B1 (ko) 지리정보 제공 방법 및 시스템
Orlik et al. 3D modelling using aerial oblique images with close range UAV based data for single objects
CN115967354A (zh) 一种基于无人机巡航的光伏故障检测方法
CN114862959A (zh) 用于控制相机的方法和装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CP03 Change of name, title or address

Address after: 610000 No. 270, floor 2, No. 8, Jinxiu street, Wuhou District, Chengdu, Sichuan

Patentee after: Chengdu shuzhilian Technology Co.,Ltd.

Address before: 610000 No.2, 4th floor, building 1, Jule Road intersection, West 1st section of 1st ring road, Wuhou District, Chengdu City, Sichuan Province

Patentee before: CHENGDU SHUZHILIAN TECHNOLOGY Co.,Ltd.

CP03 Change of name, title or address