CN107170017A - 基于cpu/gpu协同处理的遥感数据快速入库方法 - Google Patents

Abstract

本发明公开一种基于CPU/GPU协同处理的遥感数据快速入库方法。首先调用CPU对影像进行入库预处理；其次调用GPU构建影像金字塔；最后调用GPU和CPU协同对影像金字塔数据进行压缩。本发明为包含主机端和客户端的多机***，使得构建影像金字塔和数据压缩能够并行工作，从而提高了遥感影像数据入库的速度。

Description

基于CPU/GPU协同处理的遥感数据快速入库方法

技术领域

本发明涉及遥感数据的处理和管理技术领域，涉及一种利用计算机CPU/GPU协同计算方式来提高遥感数据入库效率的方法，即一种基于CPU/GPU协同处理的遥感数据快速入库方法。

背景技术

自20世纪60年代航天遥感技术兴起以来，遥感数据的获取技术日趋完善，一个立体、多角度、全方位、全天候的对地观测网正在形成。特别是近些年，随着国内外亚米级高分辨率遥感卫星的商业推广、航空有人/无人遥感作业的增多、地面移动遥感设备的普及，以及计算机、网络、通信等技术的快速发展，推动了遥感数据生产的爆发式增长。成像方式的多样化以及遥感数据获取能力的增强，导致遥感数据的多元化和海量化。为了在各种遥感应用***中及时有效地利用这些规模庞大的数据，首先必须对其进行有序的组织和管理。目前基于空间数据库管理是遥感数据的主流管理方式，面对不断产生的海量多源异构遥感数据，如何在第一时间快速、精准地将数据处理入库就成为一个迫切需要解决的问题。

遥感数据入库通常包括遥感数据预处理(如投影变换、坐标变换、匀光、色彩均匀化等操作)、构建影像金字塔、遥感数据压缩等步骤。其中包含大量对遥感影像的计算密集型操作。传统的入库方法采用的是使用CPU进行串行运算处理，或者基于原有串行算法的多CPU并行运算处理，在海量遥感数据的环境下，该方法的效率并不能满足实际需求。GPU作为通用大规模并行处理器，具有运算密集、高度并行、体积小和性价比高等特点，将GPU的处理能力融入到***中，形成一种***化的处理能力，可为遥感数据入库处理提供高效的技术手段。

发明内容

(一)要解决的技术问题

本发明要解决的技术问题是在海量遥感数据的环境下，如何合理有效利用GPU和CPU资源，提高遥感影像入库的速度。

(二)技术方案

为了实现遥感影像快速入库，本发明设计了配置有主机端和设备端的多机***，主机端和设备端都需配置有多核中央处理器CPU和图形处理器GPU。

在该***中，主机端和设备端以一个CPU核为控制核，其他CPU核为计算核，其中控制核主要负责主机端和设备端之间的数据传输、CPU和GPU之间的数据传输、核函数执行参数配置、核函数启动等工作。而计算核主要参与数据入库中计算密集的部分。设备端的计算核主要是用来处理遥感影像入库中的影像金字塔构建(主要包括分配内存、拷贝数据)和影像预处理步骤。主机端的计算核则用来参与影像数据压缩步骤(主要包括影像压缩预处理、tier-1算法、tier-2算法)。

图形处理器GPU主要负责程序中并行计算密集的部分。其中设备端的GPU负责对影像数据进行重采样(影像金字塔构建核心部分)，主机端的GPU参与影像数据压缩步骤(主要包括小波变换、tier-1算法)。

具体步骤如下:

步骤a)主机端和设备端分别调用各自CPU的控制核分配内存缓存空间；

步骤b)设备端接收待入库的遥感影像数据，并把数据部分或者全部存放在预先分配好的内存中；

步骤c)设备端调用CPU的计算核对待入库的影像进行预处理；其中影像预处理包括投影变换、坐标变换、匀光、色彩均匀化等操作；

步骤d)设备端调用GPU构建影像金字塔；

步骤e)设备端调用CPU的控制核把构建完成的影像金字塔数据从设备端发送到主机端；

步骤f)主机端协同调用GPU和CPU的计算核对影像金字塔数据进行；

步骤g)主机端调用CPU的控制核将压缩后的影像数据存储入库。

(三)有益效果

在对海量遥感影像数据进行入库的操作过程中，主要耗费的时间是在构建影像金字塔和压缩影像数据。本发明主要从以下方面进行改进：

1、构建影像金字塔主要耗费的时间是在对数据进行重采样，本发明中CPU主要负责程序中串行执行的部分以及对任务进行调度，而GPU作为协处理器，主要负责数据并行计算密集的部分，从而充分发挥CPU和GPU各自的运算优势。同时，本发明增加了一个设备端专门用来构建影像金字塔，当主机端对接收到的遥感影像数据进行压缩处理时，设备端则可以构建下一幅影像的金字塔，从而实现了不同影像处理步骤之间的同步执行，加快了遥感数据入库的速度。

2、在对遥感影像进行基于JPEG2000算法的压缩操作过程中，主要耗费的时间是在tier-1算法。现有的基于GPU的算法是用CPU处理tier-1算法，然后用GPU处理tier-1算法，但是由于一方面tier-1算法的计算量较大，会占用较多的CPU资源，影响其他类型操作的执行速度；另一方面量化、小波变化占用的GPU资源较少，造成了GPU空闲的状况，因此，导致CPU和GPU协同处理遥感数据快速入库时资源分配利用不合理。为了解决上述问题，本发明提供了一种根据CPU、GPU的工作状态以及影像分辨率三个因素来更加合理的分配GPU和CPU资源，从而加快遥感数据压缩的速度。

3、本发明在主机端采用线程之间并行，线程块之间并行的方法，克服了现有技术中采用中央处理器CPU并行度不高的缺点，使得本发明能够同时处理多幅影像，提高了影像的压缩并行度。

附图说明

图1是遥感影像入库的主要步骤示意图。

图2是本发明提供的CPU与GPU协同处理遥感影像入库的流程示意图。

图3是GPU中线程的组织形式。

图4是一种典型影像金字塔构建的基本示意图。

图5是三次卷积算法目标点周围16个点的示意图。

具体实施方式

本发明提出的基于CPU/GPU协同处理的遥感数据快速入库方法，结合附图和实施例进行说明。

在该***中，主机端和设备端以一个CPU核为控制核，其他CPU核为计算核，其中控制核主要负责主机端和设备端之间的数据传输、CPU和GPU之间的数据传输、核函数执行参数配置、核函数启动等工作。而计算核主要参与数据入库中计算密集的部分。设备端的计算核主要是用来处理遥感影像入库中的影像金字塔构建(主要包括分配内存、拷贝数据)和影像预处理步骤。主机端的计算核则用来参与影像数据压缩步骤(主要包括影像压缩预处理、tier-1算法、tier-2算法)。

而图形处理器GPU主要负责程序中并行计算密集的部分。其中设备端的GPU负责对影像数据进行重采样(影像金字塔构建核心部分)，主机端的GPU参与影像数据压缩步骤(主要包括小波变换、tier-1算法)。

本发明配置有主机端和设备端，因此可以同步执行影像金字塔构建和数据压缩，从而使得CPU等硬件资源得到充分利用，避免出现资源空闲的情况，提高整体数据吞吐率。

具体步骤如图1所示，本***对影像入库处理的主要步骤有七步：

步骤a)主机端和设备端分别调用各自CPU的控制核分配内存缓存空间；

步骤b)设备端接收待入库的遥感影像数据，并把数据部分或者全部存放在预先分配好的内存中；

步骤c)设备端调用CPU的计算核对待入库的影像进行入库预处理(包括投影变换、坐标变换、匀光、色彩均匀化等操作)；

当原始遥感影像获取时，由于传感器本身***原因或者传感器平台高度、姿态不稳定，甚至地球曲率以及空气折射变化等外界原因造成从卫星或航空平台拍摄得到的影像存在一定的几何畸变和辐射失真等现象，影响了影像的质量和应用。为了减小这些畸变和失真，本发明需要在对遥感影像入库之前做预处理。

步骤d)设备端调用GPU构建影像金字塔；

由于高分辨率遥感影像数据量较大，在提供浏览或者其它动态影像服务时，如果直接将全部数据传送到客户端供，则网络负载大、运行效率低。因此本发明采用预先建立影像金字塔，即采用影像重采样方法来构建不同分辨率的多层影像，操作某一显示范围内的影像时，通过选择一个与显示区域相似的分辨率，只需进行少量的数据传输和计算，从而提高处理速度。整个重采样过程存在大量可以并行执行的运算，通过将这些并行计算的部分分配到GPU上去执行，能够获得较高的执行效率。

如图2所示，该过程包括四个子步骤：

1、设备端调用CPU将即将进行重采样的数据从内存拷贝到CUDA全局存储器中。CUDA架构的内存类型包含全局存储器、本地存储器、共享存储器、固定存储器、纹理存储器和寄存器，需要根据具体应用选择合适的存储器。本发明中由于高分辨率遥感影像数据量大，不可能只采用高速存储器来存储，所以采用全局存储器来存储数据；

2、设备端调用CPU对重采样后样本容量进行计算，并分配内存；

3、设备端调用GPU对原始影像进行分块，同时GPU创建相同数目的线程块(block),将线程块一一映射到分割后的每个影像块，线程块的组织形势如图3所示。每个数据块对应的计算线程可以通过x、y方向的二维索引进行寻址，具体计算如下：

其中threadIdx为计算线程在线程块block中的位置，blockId为线程块在grid(一个grid中包含多个block)中的位置，blockDim为线程块的大小。单独就分块而言，没有一般性标准，可以按任意规则分块，但在应用中需要考虑某种实际问题，例如瓦片索引、影响重组效率等，不规则分块将直接影响影响存储的速率。因此，在实际应用中会采用等大小分块的原则(一般采用256×256)。

4、设备端调用GPU对像元进行重采样。具体步骤如图4所示，首先把原始影像作为金字塔模型的底层，即第0层。在第0层的基础上，对低级别金字塔影像的n个像元采样为1个(n的取值由具体需求决定)，将分辨率降低得到1级影像。对1级影像依次进行步骤3和步骤4处理，可以得到2级影像，逐级运算直到一个合适的级别为止(这个合适的级别一般指全部范围的影像数据的长和宽两个方向的像元数和计算机屏幕的分辨率相近)。从而构成整个瓦片金字塔模型。

在金字塔的构建中，为了得到更精确的像素值(或灰度值)，本发明基于三次卷积法进行重采样。如图5所示，该算法考虑了浮点坐标(i+u,j+v)周围16个相邻点对它的影响(u,v为0，1之间的浮点数)。具体计算如下：

f(i+u,j+v)＝ABC

其中，A、B、C为矩阵，形式如下：

A＝[S(u+1) S(u+0) S(u-1) S(u-2)]

其中的s(x)是理想函数s(x)＝sin(πx)/(πx)理论上的最佳三次逼近,即

步骤e)设备端调用CPU把构建完成的影像金字塔数据从设备端发送到主机端；

步骤f)主机端协同调用GPU和CPU的计算核对影像金字塔数据进行压缩。

本发明所处理的遥感影像数据量非常庞大，为了节省存储空间，必须对影像数据进行压缩处理。本发明采用JPEG2000压缩算法，它主要包括预处理、离散小波变换、量化、自适应算术编码(tierl编码)以及码流组织(tier2编码)五个模块。在编码过程中，首先对影像进行影像分块、电平位移和分量变换等处理，其次是小波变换，然后是量化，最后对量化后的小波系数采用率失真优化截取的内嵌快编码算法EBCOT。EBCOT分为两部分Tier-1和Tier-2。Tier-1由内嵌比特平面编码和MQ算术编码组成；Tier-2部分由码率控制、质量分层和打包组成。在现有的基于GPU的算法中，由于一方面tier-1算法的计算量较大，会占用较多的CPU资源，影响其他类型操作的执行速度；另一方面量化、小波变化占用的GPU资源较少，造成了GPU空闲的状况，因此，导致CPU和GPU协同处理遥感数据快速入库时资源分配利用不合理。为了解决上述问题，本发明提出了一种根据CPU、GPU的工作状态以及影像分辨率三个因素来更加合理的分配GPU和CPU资源。从而加快遥感数据入库的速度。

在对影像进行瓦片金字塔构建后，会得到海量规整的小瓦片。为了提高影像的压缩并行度，本发明采用一个线程块处理一幅影像的，多个线程块处理多幅影像的方法。首先如图2所示，该过程包括四个子步骤：

1、主机端调用CPU的计算核，采用一个CPU核处理一幅影像，多个CPU核处理多幅影像的方式对影像进行压缩的第一步处理(包括影像数据分割、直流电平位移和彩色分量变换)，得到第一处理结果。本发明把进行小波变换之前的所有工作全部归为第一步处理。第一步处理中影像分块、电平位移和分量变换的具体步骤计算量少，且难以并行，只能采用CPU处理，因此在本发明中不加以叙述。

2、图形处理器中GPU中含有大量线程块(block),为了提高影像入库的速度，主机端可以调用GPU并且采用一个线程块处理一幅影像的，多个线程块处理多幅影像的方法对第一处理结果顺序进行小波变换及量化处理，得到第二处理结果；由于量化运算实质是将用“连续”的浮点型数值表示的数据转化为用整形表示的精确数值，运算简单，且量化在GPU上的实现方式码快内像素并发。因此采用GPU对影像进行量化能大大提升处理效率。在由GPU负责执行对第一处理结果的后续处理的情况下，CPU的控制核可以将第一处理结果发送至显存，以便GPU快速获取数据进行处理。

3、如表1所示，定义一个3位二进制数ABC，其中A表示GPU的工作状态，1为繁忙，0为空闲。同理B表示CPU的工作状态，C表示影像分辨率是否高于预设的分辨率阈值，1表示是，0表示否。然后令S＝(！A)||B&C。若S＝1则主机端调用GPU，采用一个线程块处理一幅影像的，多个线程块处理多幅影像的方法对第二处理结果进行JPEG2000标准中定义的tier-1算法处理，得到第三处理结果；否则，主机端继续控制CPU的计算核，采用一个CPU核处理一幅影像，多个CPU核处理多幅影像的方式对第二处理结果进行tier-1算法处理，得到第三处理结果；由于分辨率越高，并行规模会越大，从而导致GPU处理tier-1算法更加有优势。因此本发明把影像分辨率作为一个依据来判断tier-1算法的处理设备。

表1本发明压缩步骤中tier-1算法执行设备判断表

4、主机端调用CPU的计算核，采用一个CPU核处理一幅影像，多个CPU核处理多幅影像的方式对第三处理结果进行tier-2算法处理得到压缩后的影像数据。

步骤g)主机端调用CPU的控制核将压缩后的影像数据存储入库。

Claims (5)

1.基于CPU/GPU协同处理的遥感数据快速入库方法，其特征在于采用配置有主机端和设备端的多机***，主机端和设备端均需配置有多核中央处理器CPU和图形处理器GPU；

在该***中，主机端和设备端以一个CPU核为控制核，其他CPU核为计算核，其中控制核主要负责主机端和设备端之间的数据传输、CPU和GPU之间的数据传输、核函数执行参数配置、核函数启动等工作。而计算核主要参与数据入库中计算密集的部分。设备端的计算核主要是用来处理遥感影像入库中的影像金字塔构建(主要包括分配内存、拷贝数据)和影像预处理步骤。主机端的计算核则用来参与影像数据压缩步骤(主要包括影像压缩预处理、tier-1算法、tier-2算法)。

图形处理器GPU主要负责程序中并行计算密集的部分。其中设备端的GPU负责对影像数据进行重采样(影像金字塔构建核心部分)，主机端的GPU参与影像数据压缩步骤(主要包括小波变换、tier-1算法)。

具体采用以下步骤方法：

步骤a)主机端和设备端分别调用各自CPU的控制核分配内存缓存空间；

步骤b)设备端接收待入库的遥感影像数据，并把数据部分或者全部存放在预先分配好的内存中；

步骤c)设备端调用CPU的计算核对待入库的影像进行预处理；

步骤d)设备端调用GPU构建影像金字塔；

步骤e)设备端调用CPU的控制核把构建完成的影像金字塔数据从设备端发送到主机端；

步骤f)主机端协同调用GPU和CPU的计算核对影像金字塔数据进行压缩；

步骤g)主机端调用CPU的控制核将压缩后的影像数据存储入库。

2.如权利要求1所述的基于CPU/GPU协同处理的遥感数据快速入库方法，其特征在于步骤c)影像预处理包括投影变换、坐标变换、匀光、色彩均匀化等操作。

3.如权利要求1所述的基于CPU/GPU协同处理的遥感数据快速入库方法，其特征在于步骤d)设备端调用GPU构建影像金字塔，具体如下：

1)设备端调用CPU的控制核将预处理后的影像数据从内存拷贝到CUDA全局存储器中；

2)设备端调用CPU的计算核对影像数据的样本容量进行计算，并分配内存；

3)设备端调用GPU对预处理后的影像进行分块，并获取与影像块相应的计算线程；

4)设备端调用GPU对分块后的影像像元进行重采样。

4.如权利要求3所述的基于CPU/GPU协同处理的遥感数据快速入库方法，其特征在于设备端调用GPU对像元进行重采样，具体如下：

首先把分块后的影像作为金字塔模型的底层，即第0层；在第0层的基础上，对第0层金字塔影像的n个像元合并为1个，将分辨率降低得到1级影像，即第1层；对1级影像依次进行步骤3)重新分块和步骤4)重采样处理，得到2级影像，逐级运算直到所需级别的金字塔为止。

5.如权利要求1所述的基于CPU/GPU协同处理的遥感数据快速入库方法，其特征在于步骤f)主机端协同调用GPU和CPU的计算核对影像金字塔数据进行压缩，具体如下：

1)主机端调用CPU的计算核对影像金字塔进行压缩的第一步处理，即影像数据分割、直流电平位移和彩色分量变换，得到第一处理结果；

2)主机端调用GPU，采用一个线程块处理一幅影像，多个线程块处理多幅影像的方法对第一处理结果进行小波变换及量化处理，得到第二处理结果；

3)定义一个3位二进制数ABC，其中A表示GPU的工作状态，1为繁忙，0为空闲；同理B表示CPU的工作状态，C表示影像分辨率是否高于预设的分辨率阈值，1表示是，0表示否；然后令S＝(！A)||B&C；若S＝1则主机端调用GPU对第二处理结果进行JPEG2000标准中定义的tier-1算法处理，得到第三处理结果；否则，主机端继续控制CPU的计算核对第二处理结果进行tier-1算法处理，得到第三处理结果；

4)主机端调用CPU的计算核，采用一个CPU核处理一幅影像，多个CPU核处理多幅影像的方式对第三处理结果进行tier-2算法处理得到压缩后的影像数据。