CN104394309B - 一种图像稳定的超分辨率成像***及方法 - Google Patents
一种图像稳定的超分辨率成像***及方法 Download PDFInfo
- Publication number
- CN104394309B CN104394309B CN201410779707.7A CN201410779707A CN104394309B CN 104394309 B CN104394309 B CN 104394309B CN 201410779707 A CN201410779707 A CN 201410779707A CN 104394309 B CN104394309 B CN 104394309B
- Authority
- CN
- China
- Prior art keywords
- image
- super
- undersampled
- resolution
- camera
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Landscapes
- Studio Devices (AREA)
Abstract
本发明是一种图像稳定的超分辨率成像***及方法,其包括在被观测的目标光束的传播路径的成像光路方向依次放置成像光学元件组、摆镜、分光镜、成像镜头组和成像相机,超分辨率图像合成单元的输入端与成像相机的输出端连接,超分辨率图像合成单元,用于将接收成像相机传送的多幅欠采样图像合成为超分辨率图像;在被观测的目标光束的传播路径的探测光路方向依次放置成像光学元件组、摆镜、分光镜、探测镜头组和探测相机,探测相机的输出端与计算控制单元的输入端连接,摆镜驱动器的输入端与计算控制单元的输出端连接,摆镜驱动器的输出端与摆镜的驱动端连接,摆镜驱动器,用于将计算控制单元发送的电压模拟量放大成摆镜驱动电压模拟量输出到摆镜。
Description
技术领域
本发明属于高分辨率成像领域,具体地说,它涉及一种图像稳定的超分辨率成像***与方法。
背景技术
光电成像是人类获取可见光红外多光谱图像信息的重要技术手段,广泛应用于国民经济和国防建设的各个领域。光电成像***的分辨率一般指图像通过***后可分辨的最小细节,是表征***探测能力的重要技术指标,影响该指标的因素主要有成像透镜的孔径尺寸和图像传感器的几何参数等。受物理条件限制,人们获得图像的分辨率较低,而这些低分辨率图像不能很好地满足实际需要,尤其是在航天、遥感、军事侦察等领域,于是人们希望利用多幅低分辨率图像之间存在的像素内位移含有原始高分辨率图像的信息来重建超分辨率图像。
目前的超分辨重建技术包括微扫描和亚像元技术两种实现方式。微扫描可以看作是一个过采样过程,它利用微扫描装置将光学***所成的图像在水平和垂直方向进行亚像素位移,得到多帧欠抽样图像,并运用数字图像处理器将这些图像按照获得图像的方式和顺序进行交叉重建成一帧图像,从而达到最终实现提高分辨率的目的。二级微扫描技术是用四幅欠采样图像合成一幅高分辨率图像,如图1所示,其中1、2、3、4分别表示按二级微扫描顺序获得的四幅欠采样图像的顺序号,最终合成的高分辨率图像是这四幅欠采样图像像素融合的结果,所含的像素增加了四倍。亚像元技术是通过把采样式成像***常规焦平面上的一排探测器线阵列改成在线阵方向和垂直线阵方向上错位排列若干探测器线阵列,在线阵列方向上通过错位、在垂直线阵方向上通过提高或不提高时间采样频率的手段来提高物方空间分辨率的一种方法。总体说来微扫描和亚像元技术两种实现方式都是将相机连续采集到的互相错位不足一个像元距离的一序列离散图像,通过之后的数字软件融合技术合成为一张高分辨率的图像。
在实际的航天、遥感、军事侦察等领域应用中,采用阵列排布多个探测器的亚像元技术实现超分辨率重建增加了项目的经济成本,且探测器与探测器间隙的存在产生了欠采样噪声,使***得到的图像并不能完全再现被观察的场景。采用微扫描技术实现超分辨率重建可有效地减少了欠采样噪声,提高了***分辨率,改善了成像质量。实现微扫描技术的形式多种多样,按驱动方式的不同大致可以分为电机驱动和压电陶瓷驱动两类。这两类微扫描都是通过控制光学***中的光学元件转动、改变其光学面的法线方向从而使光学***像面上的被观测场景图像产生微小移动。然而不论哪类微扫描技术都不能克服***平台姿态控制的残余抖动所导致的探测器采样积分时间内的图像抖动,即***平台抖动直接影响微扫描获得的一系列欠采样图像序列的分辨率,进而影响被观测视场的超分辨重建。
发明内容
(一)要解决的技术问题
为提高航天、遥感、军事侦察等领域的空间光电***的分辨率,克服***平台姿态控制的残余抖动对单幅欠采样图像分辨率的影响,将一系列图像稳定的欠采样图像合成为一幅超分辨率图像,本发明提出了一种即可稳定单幅图像又可实现超分辨率成像的灵活多用的超分辨率成像***及方法。
(二)技术方案
本发明的第一方面,提供一种图像稳定的超分辨率成像***,该***含有成像光路和探测光路,所述包括成像光学元件组、分光镜、探测镜头组、探测相机、计算控制单元、摆镜驱动器、摆镜、成像镜头组、成像相机、超分辨率图像合成单元,其中:
被观测的目标光束的第一传播路径为在成像光路方向依次放置成像光学元件组、摆镜、分光镜、成像镜头组和成像相机,超分辨率图像合成单元的输入端与成像相机的输出端连接;来自于被观测的目标光束入射到成像光学元件组后再入射到摆镜,经摆镜反射面反射后入射到分光镜,目标光束中的一部分光能量经分光镜透射到成像镜头组并形成目标像面,成像相机位于目标像面上,成像相机,用于对接收的入射光信号进行光电转换形成并以无线或有线形式传输的多幅欠采样图像,超分辨率图像合成单元,用于将接收的多幅欠采样图像合成为超分辨率图像;
被观测的目标光束的第二传播路径为在探测光路方向依次放置成像光学元件组、摆镜、分光镜、探测镜头组和探测相机,探测相机的输出端与计算控制单元的输入端连接,摆镜驱动器的输入端与计算控制单元的输出端连接,摆镜驱动器的输出端与摆镜的驱动端连接,来自于被观测的目标光束入射到成像光学元件组后再入射到摆镜,经摆镜反射面反射后入射到分光镜,目标光束中的另一部分光能量经分光镜反射到探测镜头组并形成探测像面,探测相机位于探测像面上;入射到探测相机上的光信号经光电转换后形成并传输探测窗口图像,计算控制单元将接收的探测窗口图像进行计算生成并输出摆镜的位置控制电压模拟量;摆镜驱动器,用于将接收的摆镜的位置控制电压模拟量放大成摆镜驱动电压模拟量输出到摆镜。
本发明的第二方面,提供一种图像稳定的超分辨率成像方法,该方法采用本发明图像稳定的超分辨率成像***实现的步骤如下:
步骤S1:对图像稳像的超分辨率***初始化,进入图像稳定超分辨率成像工作模式;
步骤S2:探测相机对目标场景成像,获得探测窗口图像;
步骤S3:计算控制单元存储第一次获得的探测窗口图像作为参考图像,并对当前探测窗口图像与参考图像进行互相关函数计算得到相关峰值的位置,即得到探测窗口图像在探测像面上的偏移量,再根据探测光路与成像光路之间的几何光学关系,获得目标像面图像偏移量;计算目标像面图像偏移量与目标像面图像偏移量的设定值之间的偏差;
步骤S4:计算控制单元再将目标像面图像偏移量偏差转换为成像光路中摆镜转动的位置控制量;
步骤S5:摆镜驱动器根据位置控制量驱动成像光路中的摆镜偏转;重复步骤S2~步骤S4,直至成像相机完成一次图像稳定的欠采样图像成像;
步骤S6:判断成像相机是否完成所有欠采样图像成像,如果没有完成所有欠采样图像成像,则执行步骤S7,如果已经完成所有欠采样图像成像,则执行步骤S8;
步骤S7:设置下一次成像相机成像时的目标像面图像偏移量的设定值,执行步骤S2;
步骤S8:超分辨率图像合成单元对得到的多幅欠采样图像进行图像配准,计算欠采样图像之间的偏移量;
步骤S9:超分辨率图像合成单元根据欠采样图像之间的偏移量,采用图像融合复原方法由多幅欠采样图像得到一幅目标的超分辨率图像。
(三)有益效果
本发明与现有技术相比的优点如下:
(1)本发明得到的超分辨率图像比现有技术得到的超分辨率图像的分辨率更高。本发明在现有的成像光学装置中增加了探测相机、计算控制单元、摆镜驱动器和能动可控的摆镜,通过他们的实时探测与校正避免了***平台姿态控制残余抖动对单幅欠采样图像分辨率的影响,保证了超分辨成像中单幅欠采样图像的分辨率,进而保证最终得到的超分辨率图像是多幅稳定的欠采样图像的合成结果,这是现有超分辨率成像***无法达到的。
(2)本发明较现有技术更灵活多用。本发明***可以有四种工作模式:一是不进行图像稳定超分辨率成像工作,此时本发明***中的摆镜静止不动,与现有的成像光学装置的成像方式相同,等同于现有的成像光学装置;二是图像稳定的成像工作,此时本发明***中的摆镜仅实时校正成像相机积分时间内的光轴抖动,所述***获得的单幅图像的图像分辨率较传统成像***图像分辨率高;三是超分辨率成像工作,此时本发明中的摆镜仅作为微扫描超分辨率重建技术获得多幅欠采样图像的微扫描装置,不再进行光轴抖动的实时校正,等同于传统的微扫描超分辨率成像装置;四是图像稳定的超分辨率成像工作,此时本发明中的摆镜既是实时校正成像光路光轴抖动的校正装置又是微扫描超分辨率重建技术获得多幅欠采样图像的微扫描装置,使目标像面上的图像产生亚像元偏移。所述***获得的超分辨率图像的分辨率较图5示出现有技术获得的图像的分辨率高。上述四种工作模式可由计算控制单元的软件控制,切换灵活、易于实现。
附图说明
图1为超分辨率成像二级微扫描概念图;
图2为本发明***的组成框图;
图3为本发明方法的流程图;
图4为本发明的欠采样图像获取顺序图;
图5为现有技术成像***获得的图像。
图6为本发明实施例得到的四幅欠采样图像。
图7为本发明实施例得到的超分辨率图像。
具体实施方式
为使本发明的目的、技术方案和优点更加清楚明白,以下结合具体实施例,并参照附图,对本发明进一步详细说明。
超分辨率(Super-Resolution)即通过硬件或软件的方法提高原有图像的分辨率。超分辨率成像就是利用能动可控元件使相机连续采集到互相错位不足一个像元距离的一序列离散图像,通过图像融合复原方法对这一系列离散图像重建,输出一幅高分辨率的图像。
请参阅图2示出的本发明图像稳定的超分辨率成像***,含有成像光路和探测光路,所述成像光路和探测光路包括:成像光学元件组10、分光镜11、探测镜头组12、探测相机13、计算控制单元14、摆镜驱动器15、摆镜16、成像镜头组17、成像相机18和超分辨率图像合成单元19,其中:
被观测的目标光束的第一传播路径为在成像光路方向依次放置成像光学元件组10、摆镜16、分光镜11、成像镜头组17和成像相机18,超分辨率图像合成单元19的输入端与成像相机18的输出端连接;来自于被观测的目标光束入射到成像光学元件组10后再入射到摆镜16,经摆镜16的反射面反射后入射到分光镜11,目标光束中的一部分光能量经分光镜11透射到成像镜头组17并形成目标像面,成像相机18位于目标像面上,成像相机18,用于对接收的入射光信号进行光电转换形成并以无线或有线形式传输的多幅欠采样图像,超分辨率图像合成单元19,用于将接收的多幅欠采样图像合成为超分辨率图像;
被观测的目标光束的第二传播路径为在探测光路方向依次放置成像光学元件组10、摆镜16、分光镜11、探测镜头组12和探测相机13,探测相机13的输出端与计算控制单元14的输入端连接,摆镜驱动器15的输入端与计算控制单元14的输出端连接,摆镜驱动器15的输出端与摆镜16的驱动端连接,来自于被观测的目标光束入射到成像光学元件组10后再入射到摆镜16,经摆镜16的反射面反射后入射到分光镜11,目标光束中的另一部分光能量经分光镜11反射到探测镜头组12并形成探测像面,探测相机13位于探测像面上;入射到探测相机13上的光信号经光电转换后形成并传输探测窗口图像,计算控制单元14将接收的探测窗口图像进行计算生成并输出摆镜16的位置控制电压模拟量;摆镜驱动器15,用于将接收到摆镜16的位置控制电压模拟量放大成摆镜驱动电压模拟量后经高压电缆输出到摆镜16。
当本发明提出的***进行图像稳定的超分辨率成像时,探测相机13采集的被观测目标的探测窗口图像,计算控制单元14通过探测窗口图像计算得到目标像面上图像运动的方向和大小,用伺服控制算法得到摆镜16实际的控制量,由摆镜驱动器15驱动摆镜16偏转,使经摆镜16的镜面反射的成像光路光线不发生偏转,此时摆镜仅实时校正成像相机积分时间内的光轴抖动,用于提高单幅图像的图像分辨率,从而达到在成像相机18的积分时间内稳定图像的目的,使成像相机18获得一幅稳定的欠采样图像。计算控制单元14再根据微扫描超分辨率重建所需的欠采样图像获取顺序和相应的目标像面图像偏移量设定值,控制驱动摆镜16偏转固定角度,并在下一次欠采样图像积分曝光时间内实时校正目标像面图像晃动,保证获得稳定的欠采样图像,并与上一次获得的欠采样图像具有预先设定的偏移量,从而获得多幅欠采样图像,再将所有欠采样图像合成为一幅超分辨率图像。
成像光学元件组10,本发明实例的光学***采用经典的卡塞格林(Cassegrain)望远镜***,所以成像光学元件组包括一个面形为旋转抛物面的主镜和一个面形为旋转双曲面的副镜;
分光镜11,采用一个半反半透镜;
探测镜头组12,采用一个双胶合透镜,使探测光路焦距为F探;
探测相机13,用于稳定目标像面图像时的探测视场成像,采用高速CMOS(互补金属氧化物半导体)相机或CCD(电荷耦合元件)相机,探测相机13分辨率为64×64像素,输出帧频在2000帧/秒以上,像元尺寸为32微米,探测相机13将探测到的数字图像信号传输到计算控制单元14,并接收来自计算控制单元14的探测相机13控制指令;
计算控制单元14是由现场可编程逻辑门阵列(FPGA)和数据处理器(DSP)实现的自制产品。计算控制单元14分别与探测相机13和摆镜驱动器15连接,用于接收探测相机13输出的探测视场图像,对探测视场图像进行相关计算得到探测像面上图像的运动量,进而得到摆镜16的位置控制数字量,并转换成摆镜16位置控制电压模拟量输出到摆镜驱动器15;
摆镜驱动器15,将计算控制单元14输出的摆镜位置控制电压模拟量放大为摆镜驱动电压模拟量输出到摆镜16,采用市场上供应的摆镜驱动器;
摆镜16,由摆镜驱动器15输出的摆镜驱动电压模拟量驱动偏转,即可减小成像光路光轴抖动以稳定目标像面图像,又可实现超分辨率成像时给定角度的偏转,采用市场上供应的摆镜平台,摆镜16镜片为自研产品,口径由成像光路光学设计决定;
成像镜头组17,采用一个双胶合透镜,使成像光路焦距为F成;
成像相机18,用于获得图像稳定的目标欠采样图像,采用高速CMOS相机或CCD相机,成像相机18的分辨率为1024×1024像素,输出帧频在3-10帧/秒,像元尺寸为14微米,成像相机18将目标欠采样图像信号传输到超分辨率图像合成单元19,成像相机18将探测稳像控制指令传输到计算控制单元14,并接收来自计算控制单元14的成像相机18曝光控制指令;
超分辨率图像合成单元19采用Windows操作***的商业计算机,超分辨率图像合成单元19与成像相机18相连,用于对成像相机18获得的多幅欠采样图像进行图像配准与数据融合,得到目标的超分辨率图像。
请参阅图3示出的应用本发明所述成像***进行超分辨率成像的方法包括以下步骤:
步骤S1:启动成像相机18的图像稳定控制组件,包括:探测相机13、计算控制单元14、摆镜驱动器15和摆镜16,由超分辨率图像合成单元19传输图像稳定超分辨率成像电子启动信号到计算控制单元14,使图像稳定的超分辨率成像***进入图像稳定超分辨率成像工作模式。
本发明中的图像稳定的超分辨率成像***采用了超分辨重建技术中的微扫描概念,以摆镜16作为获得多幅欠采样图像的微扫描装置,计算控制单元14根据微扫描顺序设置成像相机18的欠采样图像曝光时的目标像面图像偏移量设定值,控制摆镜16在各欠采样图像成像时保持目标像面图像稳定在偏移量设定值附近。以k表示成像相机18的欠采样图像成像次数,第k次成像相机18的欠采样图像成像时的目标像面图像偏移量设定值表示为x0k,y0k。本实施例采用的二级、三级和四级微扫描顺序如图4所示,各次成像相机18的欠采样图像成像时的目标像面图像偏移量设定值见图4中的“()”中的坐标值。以二级微扫描为例,顺时针扫描获得四幅欠采样图像,四次欠采样图像成像时的目标像面图像偏移量设定值分别为:x01=0,y01=0、x02=1/2,y02=0、x03=1/2,y03=1/2、x04=0,y04=1/2。
步骤S2:探测相机13的帧频为fhigh,单位为帧每秒,1000≤fhigh≤10000;接收目标场景的光信号,经光电转换和模拟数字转换后输出目标场景探测窗口数字图像W,以下简称为探测窗口图像W。探测窗口图像W长度和宽度均为p个像素。
步骤S3:计算控制单元14接收来自探测相机13的探测窗口图像,存储第一次获得的探测窗口图像作为参考图像,并对当前探测窗口图像与参考图像进行互相关函数计算,得到相关峰值的位置即探测窗口图像在探测像面上的偏移量,再根据探测光路与成像光路之间的几何光学关系,获得目标像面图像偏移量,计算目标像面图像偏移量与目标像面图像偏移量的设定值之间的偏差;
计算控制单元14接收来自探测相机13的探测窗口图像,以t表示接收探测窗口图像的次数,第t次接收称为当前接收。计算控制单元14的内部存储区存储第一次接收的探测窗口图像作为参考图像,表示为R,以当前接收的探测窗口图像作活动图像,表示为L。计算活动图像与参考图像的互相关函数C(x,y),见公式1,x,y是互相关函数C(x,y)的坐标变量。
C(x,y)=IFFT[FFT(R)×FFT*(L)] (1)
公式1中FFT、IFFT分别表示正、逆快速傅里叶变换,*号表示傅里叶变换的复共轭,×号表示矩阵叉乘。
找出相关函数C(x,y)最大值所在位置的坐标(xmax,ymax),xmax,ymax是坐标(xmax,ymax)的坐标点,是个常量。以相关函数C(x,y)最大值的位置为中心,用相关函数C(x,y)最大值周围的3×3矩阵区域的相关函数值进行曲面拟合,拟合得到的曲面最大值为相关峰值Cmax,相关峰值Cmax的位置为探测窗口图像的偏移量δx探,δy探,单位为探测相机13像元,计算公式见公式2。所有探测窗口图像的相关峰值都保存在计算控制单元14的存储区内以备后续使用。
公式2中C(xmax,ymax)是探测窗口图像的相关函数C(x,y)在坐标(xmax,ymax)的相关函数值,也就是探测窗口图像的相关函数C(x,y)的最大值;C(xmax-1,ymax)探测窗口图像的相关函数C(x,y)在坐标(xmax-1,ymax)的相关函数值;以此类推其他互相关函数值。
根据成像相机18的像元尺寸、探测相机13的像元尺寸以及成像光路与探测光路的几何光学关系,由探测窗口图像的偏移量δx探,δy探得到目标像面图像偏移量δx成,δy成,单位为成像相机18像元,计算公式见公式3,再计算得到目标像面图像偏移量δx成,δy成与第k次成像相机18的欠采样图像成像时的目标像面图像偏移量设定值x0k,y0k之间的偏差Δx,Δy,简称为目标像面图像偏差量Δx,Δy,计算公式见公式4。
公式3、公式4中F成和F探分别为成像光路和探测光路的焦距,参数值由光学设计指标决定;h成和h探分别为成像相机18和探测相机13的像元尺寸。
步骤S4:计算控制单元14将由步骤S3得到的目标像面图像偏差量Δx,Δy转换为成像光路中摆镜16转动的位置控制量sx、sy(见公式5),并将摆镜16转动的位置控制量sx、sy保存在计算控制单元14的存储区。
公式5中qx0,qx1,qx2为水平方向计算控制单元14内伺服控制器的三个参数,qy0,qy1,qy2为垂直方向计算控制单元14内伺服控制器的三个参数,参数值由本发明所述图像稳定的超分辨率成像***性能指标决定;sx、sy和分别是当前循环和第t-1次循环的摆镜转动的位置控制量;Δx、Δy、Δx(t-1)、Δy(t-1)和Δx(t-2)、Δy(t-2)分别是当前循环、第t-1次循环和第t-2次循环的目标像面图像偏差量。
步骤S5:由步骤S4得到的摆镜16转动的位置控制量sx、sy经过数字模拟转换后输出位置控制电压模拟量,摆镜驱动器15将该模拟量放大输出到摆镜16,进而驱动成像光路中的摆镜16偏转;重复执行上述步骤S2~步骤S4,在成像相机18欠采样图像成像曝光过程中对目标像面上图像的位置进行实时反馈控制,直至成像相机18完成一次图像稳定的欠采样图像成像。
步骤S6:判断成像相机18是否完成所有欠采样图像成像,如果没有完成所有欠采样图像成像,则执行步骤S7,如果已经完成所有欠采样图像成像,则执行步骤S8。
本实施例分别采用二级、三级和四级微扫描方案时,成像相机18欠采样图像成像次数分别为4次、9次和16次。据相关文献研究和实际实验效果可知,再进行更多级的微扫描对最终的超分辨率合成图像的分辨率也没有更多的提高。
步骤S7:设置下一次成像相机18成像时的目标像面图像偏移量的设定值,具体数值详见步骤S1所述和图4示出的欠采样图像获取顺序图,执行步骤S2。
步骤S8:超分辨率图像合成单元19对得到的多幅欠采样图像进行图像配准,计算欠采样图像之间的偏移量。
成像相机18按微扫描顺序完成了所有欠采样图像成像,获得N幅欠采样图像,以n表示获取欠采样图像的顺序号,按微扫描顺序获得的第n幅欠采样图像表示为In(n=1,2,…,N),每幅欠采样图像的长度为l个像素、宽度为w个像素。以第一幅欠采样图像I1为图像配准的基准图像,记作I基,每幅欠采样图像都与基准图像进行图像配准。所述每幅欠采样图像与基准图像之间在水平和垂直方向上的平移在傅里叶频域可以表示为线性的相位平移,通过计算每幅欠采样图像与基准图像傅里叶变换后的相位差的最小二乘估计得到每幅欠采样图像与基准图像之间的偏移量,计算公式见公式6和公式7。
A(u,v)=∠[FFT(I基)/FFT(In)] (6)
公式6和公式7中u,v是相位角函数A(u,v)的坐标变量,FFT为快速傅里叶变换,∠号为计算复数的相位角。分别是坐标变量u、v和相应坐标相位角函数A(u,v)的辞书体排列向量,LSQ表示最小二乘求解,αn,βn表示第n幅欠采样图像In与基准图像I基之间在水平和垂直方向上的偏移量。
步骤S9:超分辨率合成单元19根据步骤S8得到的欠采样图像之间的偏移量,采用双三次插值方法等图像融合复原方法由多幅欠采样图像得到一幅目标的超分辨率图像。
请参阅图4示出本发明的欠采样图像获取顺序图,图中黑体数字表示每级微扫描获得的欠采样图像顺序号,括号中的两个数字分别表示当前欠采样图像与第一幅欠采样图像在水平和垂直方向上的偏移量,箭头表示微扫描移动方向。当本发明采用二级微扫描方案时,本发明将获得四幅欠采样图像,获得第一幅图像后按箭头方向获得水平方向与之偏差1/2个成像相机18像元的第二幅图像,然后再按箭头方法获得在水平方向和垂直方向与之都偏差1/2成像相机18像元的第三幅图像,最后按箭头方向获得在垂直方向与之偏差1/2成像相机18像元的第四幅图像,至此按图4中左侧的二级微扫描欠采样图像获取顺序获得了全部四幅图像。以此类推,本发明如果采用三级或四级微扫描方案,需按图4中间的三级微扫描顺序或图4右侧的四级微扫描顺序完成全部九幅或十六幅欠采样图像的获取。
请参阅图5示出现有的成像***获得的图像。现有技术的成像***既没有对***平台控制残余抖动的主动校正能力也没有超分辨率图像合成功能,在成像相机的积分时间内,成像光路目标像面上的图像出现抖动,曝光后直接拍摄到的图像即为图5所示的模糊的低分辨率图像。
以应用本发明***进行的二级微扫描实验为例,成像相机18共得到四幅图像稳定的欠采样图像,请参阅图6所示。以第一幅欠采样图像为基准图像,四幅图像与之进行图像配准后得到的图像之间的偏移量为(0,0),(α2,β2),(α3,β3)和(α4,β4),由四幅图像的坐标值和像素值采用双三次插值方法插值得到0.5像元偏移量处的像素值,得到像素增加了四倍的超分辨率图像,请参阅图7示出超分辨率图像较图6中的欠采样图像能多分辨出四组靶标,由此从图5所示的模糊的低分辨率图像可知,图5示出的分辨率远低于图7示出的本发明实施例得到的超分辨率图像。
图像稳定的超分辨率成像***得到一幅超分辨率图像后,***退出图像稳定的超分辨率成像模式,进入待机模式,摆镜16的控制电压设为中置电压,等待下一次超分辨率成像命令。
以上所述,仅为本发明中的具体实施方式,但本发明的保护范围并不局限于此,任何熟悉该技术的人在本发明所揭露的技术范围内,可理解想到的变换或替换,都应涵盖在本发明的包含范围之内。
Claims (8)
1.一种图像稳定的超分辨率成像***,其特征在于,该***含有成像光路和探测光路,所述成像光路和探测光路包括成像光学元件组、分光镜、探测镜头组、探测相机、计算控制单元、摆镜驱动器、摆镜、成像镜头组、成像相机、超分辨率图像合成单元,其中:
被观测的目标光束的第一传播路径为在成像光路方向依次放置成像光学元件组、摆镜、分光镜、成像镜头组和成像相机,超分辨率图像合成单元的输入端与成像相机的输出端连接;来自于被观测的目标光束入射到成像光学元件组后再入射到摆镜,经摆镜反射面反射后入射到分光镜,目标光束中的一部分光能量经分光镜透射到成像镜头组并形成目标像面,成像相机位于目标像面上;成像相机,用于对接收的入射光信号进行光电转换形成并以无线或有线形式传输的多幅欠采样图像,超分辨率图像合成单元,用于将接收的多幅欠采样图像合成为超分辨率图像;
被观测的目标光束的第二传播路径为在探测光路方向依次放置成像光学元件组、摆镜、分光镜、探测镜头组和探测相机,探测相机的输出端与计算控制单元的输入端连接,摆镜驱动器的输入端与计算控制单元的输出端连接,摆镜驱动器的输出端与摆镜的驱动端连接,来自于被观测的目标光束入射到成像光学元件组后再入射到摆镜,经摆镜反射面反射后入射到分光镜,目标光束中的另一部分光能量经分光镜反射到探测镜头组并形成探测像面,探测相机位于探测像面上;入射到探测相机上的光信号经光电转换后形成并传输探测窗口图像,计算控制单元将接收的探测窗口图像进行计算生成并输出摆镜的位置控制电压模拟量;摆镜驱动器,用于将接收的摆镜的位置控制电压模拟量放大成摆镜驱动电压模拟量输出到摆镜。
2.根据权利要求1所述图像稳定的超分辨率成像***,其特征在于,所述***进行图像稳定的超分辨率成像时,探测相机采集被观测目标的探测窗口图像,计算控制单元通过探测窗口图像计算得到目标像面图像运动的方向和大小,用伺服控制算法得到摆镜实际的控制量,由摆镜驱动器驱动摆镜偏转,使经摆镜的镜面反射的成像光路光线不发生偏转,此时摆镜仅实时校正成像相机积分时间内的光轴抖动,用于提高单幅欠采样图像的图像分辨率,从而达到在成像相机的积分时间内稳定图像的目的,使成像相机获得一幅稳定的欠采样图像。
3.根据权利要求2所述图像稳定的超分辨率成像***,其特征在于,所述计算控制单元存储第一次获得的探测窗口图像作为参考图像,并对当前探测窗口图像与参考图像进行互相关函数计算得到相关峰值的位置,即得到探测窗口图像在探测像面上的偏移量,再根据探测光路与成像光路之间的几何光学关系,获得目标像面图像偏移量;计算目标像面偏移量与目标像面图像偏移量的设定值之间的偏差。
4.根据权利要求3所述图像稳定的超分辨率成像***,其特征在于,所述计算控制单元根据微扫描超分辨率重建所需的欠采样图像获取顺序和相应的目标像面图像偏移量设定值,控制驱动摆镜偏转固定角度,并在下一次欠采样图像积分曝光时间内实时校正目标像面图像晃动,保证获得稳定的欠采样图像,并与上一次获得的欠采样图像具有预先设定的偏移量,从而获得多幅欠采样图像,再将所有欠采样图像合成为一幅超分辨率图像。
5.一种实现图像稳定的超分辨率成像方法,应用于权利要求1-4中任一项所述的图像稳定的超分辨率成像成像***,该方法的步骤如下:
步骤S1:对图像稳像的超分辨率***初始化,进入图像稳定超分辨率成像工作模式;
步骤S2:探测相机对目标场景成像,获得探测窗口图像;
步骤S3:计算控制单元存储第一次获得的探测窗口图像作为参考图像,并对当前探测窗口图像与参考图像进行互相关函数计算得到相关峰值的位置,即得到探测窗口图像在探测像面上的偏移量,再根据探测光路与成像光路之间的几何光学关系,获得目标像面图像偏移量;计算目标像面图像偏移量与目标像面图像偏移量的设定值之间的偏差;
步骤S4:计算控制单元再将目标像面图像偏移量偏差转换为成像光路中摆镜转动的位置控制量;
步骤S5:摆镜驱动器根据位置控制量驱动成像光路中的摆镜偏转;重复步骤S2~步骤S4,直至成像相机完成一次图像稳定的欠采样图像成像;
步骤S6:判断成像相机是否完成所有欠采样图像成像,如果没有完成所有欠采样图像成像,则执行步骤S7,如果已经完成所有欠采样图像成像,则执行步骤S8;
步骤S7:设置下一次成像相机成像时的目标像面图像偏移量的设定值,执行步骤S2;
步骤S8:超分辨率图像合成单元对得到的多幅欠采样图像进行图像配准,计算欠采样图像之间的偏移量;
步骤S9:超分辨率图像合成单元根据欠采样图像之间的偏移量,采用图像融合复原方法由多幅欠采样图像得到一幅目标的超分辨率图像。
6.根据权利要求5所述图像稳定的超分辨率成像方法,其特征在于,所述计算控制单元根据摆镜的微扫描顺序设置成像相机的欠采样图像曝光时的目标像面图像偏移量设定值,控制摆镜在各欠采样图像成像时保持目标像面图像稳定在偏移量设定值附近。
7.根据权利要求6所述图像稳定的超分辨率成像方法,其特征在于,根据成像相机的像元尺寸、探测相机的像元尺寸以及成像光路与探测光路的几何光学关系,由探测窗口图像的偏移量得到目标像面图像偏移量,再计算得到目标像面图像偏移量与第k次成像相机的欠采样图像成像时的目标像面图像偏移量设定值之间的偏差。
8.根据权利要求7所述图像稳定的超分辨率成像方法,其特征在于,所述成像相机按微扫描顺序完成了所有欠采样图像成像,获得N幅欠采样图像,以n表示获取欠采样图像的顺序号,按微扫描顺序获得的第n幅欠采样图像,每幅欠采样图像的长度为l个像素、宽度为w个像素;以第一幅欠采样图像为图像配准的基准图像,每幅欠采样图像都与基准图像进行图像配准;所述每幅欠采样图像与基准图像之间在水平和垂直方向上的平移在傅里叶频域表示为线性的相位平移,通过计算每幅欠采样图像与基准图像傅里叶变换后的相位差的最小二乘估计得到每幅欠采样图像与基准图像之间的偏移量。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410779707.7A CN104394309B (zh) | 2014-12-16 | 2014-12-16 | 一种图像稳定的超分辨率成像***及方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201410779707.7A CN104394309B (zh) | 2014-12-16 | 2014-12-16 | 一种图像稳定的超分辨率成像***及方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN104394309A CN104394309A (zh) | 2015-03-04 |
CN104394309B true CN104394309B (zh) | 2017-05-10 |
Family
ID=52612139
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201410779707.7A Active CN104394309B (zh) | 2014-12-16 | 2014-12-16 | 一种图像稳定的超分辨率成像***及方法 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN104394309B (zh) |
Families Citing this family (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN105069748B (zh) * | 2015-07-16 | 2017-11-10 | 哈尔滨工业大学 | 一种基于微小卫星物方扫描技术获取高分辨率图像的方法 |
CN105184762B (zh) * | 2015-08-31 | 2017-09-15 | 北京理工大学 | 同步轨道卫星姿态欠采样量测下超分辨率图像重建的方法 |
CN106504228B (zh) * | 2016-09-30 | 2019-02-12 | 深圳市莫廷影像技术有限公司 | 一种眼科oct图像的大范围高清快速配准方法 |
CN106504195B (zh) * | 2016-10-27 | 2019-10-18 | 哈尔滨工业大学 | 超分辨成像方法和等光程及非等光程超分辨成像*** |
CN107194874B (zh) * | 2017-05-26 | 2020-10-02 | 上海微小卫星工程中心 | 基于偏置稳像的超分辨成像***及方法 |
KR102589291B1 (ko) | 2017-11-17 | 2023-10-16 | 엘지이노텍 주식회사 | 카메라 모듈, 광학 기기 및 이의 이미지 생성 방법 |
CN108983419B (zh) * | 2018-06-27 | 2022-03-15 | 湖北华中光电科技有限公司 | 一种基于多光谱成像的光学*** |
CN108876783B (zh) | 2018-06-27 | 2021-02-05 | 上海联影医疗科技股份有限公司 | 图像融合方法及***、医疗设备和图像融合终端 |
CN109348103B (zh) * | 2018-10-26 | 2021-05-25 | 大连海事大学 | 一种基于时间编码的相机时间分辨率倍增方法与装置 |
CN109246349B (zh) * | 2018-11-14 | 2020-02-28 | 中国科学院西安光学精密机械研究所 | 高品质超分辨面阵成像相机及成像方法 |
CN110113592A (zh) * | 2019-05-05 | 2019-08-09 | 云南兆讯科技有限责任公司 | 基于相机阵列技术的电力设备巡检图影像采集处理*** |
CN111122126B (zh) * | 2019-12-31 | 2022-03-22 | 北京灵犀微光科技有限公司 | 光学***清晰度测试方法和装置 |
CN113784061A (zh) * | 2020-06-08 | 2021-12-10 | 中国航空工业集团公司洛阳电光设备研究所 | 一种超分辨率红外成像***及其稳像方法、装置 |
CN114302031A (zh) * | 2021-11-15 | 2022-04-08 | 华能国际电力股份有限公司上海石洞口第二电厂 | 基于5g通讯的相机阵列传输方法及*** |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3770921B2 (ja) * | 1993-03-31 | 2006-04-26 | 三菱電機株式会社 | 光ディスク装置 |
CN1555097A (zh) * | 2003-12-24 | 2004-12-15 | 中国人民解放军国防科学技术大学 | 面阵电荷耦合器件超分辨率成象技术中的快速算法 |
CN101217625B (zh) * | 2008-01-11 | 2010-07-28 | 清华大学 | 超分辨率成像的装置及方法 |
WO2011007768A1 (ja) * | 2009-07-13 | 2011-01-20 | 株式会社ニコン | 3次元方向ドリフト制御装置および顕微鏡装置 |
CN104168430B (zh) * | 2014-08-18 | 2017-08-25 | 西安电子科技大学 | 一种tdi ccd焦平面编码超分辨率成像装置及方法 |
-
2014
- 2014-12-16 CN CN201410779707.7A patent/CN104394309B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
CN104394309A (zh) | 2015-03-04 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN104394309B (zh) | 一种图像稳定的超分辨率成像***及方法 | |
CN100481937C (zh) | 一种高动态、超分辨率图像重建装置 | |
CN101911671B (zh) | 摄像装置和光轴控制方法 | |
US10353191B2 (en) | Circular scanning technique for large area inspection | |
JP5760559B2 (ja) | ステレオカメラ装置、視差画像生成方法 | |
CN105069748B (zh) | 一种基于微小卫星物方扫描技术获取高分辨率图像的方法 | |
CN101276465A (zh) | 广角图像自动拼接方法 | |
CN101217625B (zh) | 超分辨率成像的装置及方法 | |
CN113175899B (zh) | 相机与振镜结合的变视线***三维成像模型及其标定方法 | |
CN110596885A (zh) | 扫描光场成像*** | |
JP2008109477A (ja) | 画像生成装置および画像生成方法 | |
JP7312185B2 (ja) | カメラモジュール及びその超解像度映像処理方法 | |
CN108648147A (zh) | 一种人眼视网膜机理的超分辨率图像获取方法及*** | |
CN111538051B (zh) | 一种摆扫大幅宽光学卫星精准处理方法 | |
CN104410789A (zh) | 凝视型超分辨率成像装置及方法 | |
CN108805921A (zh) | 图像获取***及方法 | |
CN103248838B (zh) | 基于数字域tdi算法的cmos相机图像调偏流方法 | |
CN115086550A (zh) | 元成像方法与*** | |
CN106558036B (zh) | 一种星载超分辨成像***设计方法 | |
JPS63284980A (ja) | 固体撮像装置 | |
CN111664944A (zh) | 一种基于微扫描平台的稳像、非均匀校正及超分辨*** | |
CN104143179B (zh) | 一种多线列时差扫描扩展采样的运动目标增强方法 | |
CN103969829A (zh) | 基于mems微扫描镜的单探测器光学成像***及方法 | |
CN107152971B (zh) | 一种提高线阵红外电子放大图像水平细节分辨率的方法 | |
CN110149488A (zh) | 航空异速像移补偿电路、ccd驱动电路及驱动方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
C06 | Publication | ||
PB01 | Publication | ||
C10 | Entry into substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |