发明内容
为了解决散射介质影响图像重建的技术问题,本发明提出一种基于仿人眼机制的双通道鬼成像重建方法及***。
为此,本发明提出的基于仿人眼机制的双通道鬼成像重建方法具体包括如下步骤:
S1、构建双通道图像重建模型;
S2、制作训练数据集,对所述双通道图像重建模型进行训练,基于所述训练数据集将所述双通道图像重建模型训练至收敛;
S3、基于仿人眼策略生成测量矩阵,加载至微镜阵列,将所述微镜阵列和光电探测器同步控制,所述光电探测器采集光强序列,完成对目标样本的数据采集;
S4、采用非线性光强校正方法对采集得到的数据进行校正;
S5、将经过校正的数据输入所述双通道图像重建模型,经过两个通道后回归为二维图像,得到深度学习鬼成像清晰图像。
进一步地,所述双通道图像重建模型采用双通道增强型神经网络,所述双通道增强型神经网络的两路分支为鬼成像图分支和光强残差分支,其数据源分别为鬼成像重建图像和光强特征序列。
进一步地,所述鬼成像重建图像由下式计算得到:
I(x)=<(Si-<Si>)(Pi-<Pi>)>
其中<·>表示所有测量值的算数平均值,Si表示网络输入的光强序列,Pi表示获取光强数据采用的随机测量图案。
进一步地,所述鬼成像图分支由六个卷积层获取初步特征图像,所述六个卷积层的特征图维度分别为128×128×1,128×128×32,128×128×16,128×128×16,128×128×32,128×128×1。
进一步地,所述光强残差分支包含全连接层和二维残差块和两个卷积层,所述全连接层位于测量值序列和所述卷积层之间。
进一步地,在所述步骤S2中,采用仿人眼策略对特定的图像集进行模拟光强生成,并采用蒙特卡洛仿真方式对散射过程进行模拟,引入具有发射路径散射特征的退化数据集,创建待训练数据集。
进一步地,在所述步骤S4中,所述非线性光强校正方法具体包括当光学***收到散射介质干扰,测量值会发生扰动,假设前L帧的衰减系数为ξ,而在L次测量后,散射介质的衰减系数发生突变,可以得到下式:
其中,y是光强测量值,M表示测量的总次数,N表示一维信号的长度,根据鬼成像成像和压缩感知算法的特点,将动态变化之前和之后的测量平均值相除可以得到下式:
根据上述公式,将序列号大于L的数据乘以校正因子ξL/ξ,形成新的光强序列。
为此,本发明提出的基于仿人眼机制的双通道鬼成像重建***包括中央处理器、存储器和数据采集部分,所述存储器中存储有双通道图像重建模型以及可以被所述中央处理器运行的程序,所述程序在被所述中央处理器运行的过程中能够实现上项基于仿人眼机制的双通道鬼成像重建方法。
进一步地,所述数据采集部分包括微镜阵列、光电探测器、成像透镜和激光器。
为此,本发明提出的计算机可读存储介质存储有双通道图像重建模型以及可以被中央处理器运行的程序,所述程序在被所述中央处理器运行的过程中能够实现上述基于仿人眼机制的双通道鬼成像重建方法。
相比于现有技术,本发明具有如下有益效果:
通过仿人眼机制来获取光强数据用于模型训练和输入,利于实现成像光学***成像过程参数化,提出非线性光强校正方法,消除混沌介质的非线性影响。
在本发明的一些实施例中,还具有如下有益效果:
1)提出基于残差块卷积神经网络的双通道图像重建模型,从模型设计层面提升了对一维光强和二维图像特征的综合提取能力和回归能力;
2)为了消除位于发射路径中的散射介质对成像造成的影响,采用蒙特卡洛仿真方式对该散射过程进行模拟并创建待训练数据集。
附图说明
图1是数据采集部分的结构图;
图2是双通道鬼成像重建方法的流程图;
图3是双通道图像重建模型的结构图;
图4是基于大量光子的多次散射几何模型示意图;
图5A是压缩率为2,对比度为285的情况下图像重建结果的实验结果示意图;
图5B是压缩率为4,对比度为206的情况下图像重建结果的实验结果示意图;
图5C是压缩率为10,对比度为273的情况下图像重建结果的实验结果示意图;
图5D是压缩率为20,对比度为266的情况下图像重建结果的实验结果示意图;
图5E是压缩率为40,对比度为62的情况下图像重建结果的实验结果示意图;
图5F是采用CMOS原图,对比度为2的情况下图像重建结果的实验结果示意图;
图6A是对比实验中强散射退化情况下的实验结果示意图;
图6B是对比实验中基于CSGI进行重建的实验结果示意图;
图6C是对比实验中基于PC-GI进行重建的实验结果示意图;
图6D是对比实验中基于MC-PC-GI进行重建的实验结果示意图。
具体实施方式
为了对本发明的技术特征、目的和效果有更加清楚的理解,现对照附图说明本发明的具体实施方式。
本发明实施例中的基于仿人眼机制的双通道鬼成像重建***包括中央处理器、存储器和数据采集部分。如图1所示,数据采集部分包括微镜阵列(DMD)2、光电探测器(PD)6、成像透镜5和激光器1,附图中的3代表散射介质,4代表目标,使用微镜阵列(DMD)对激光光源进行调制,其中,DMD使用数字电压信号控制微镜片执行机械运动,通过控制镜片的偏转角度实现光源的强度调制,每个镜片的状态由被载入的测量矩阵数据中的0或1来控制。存储器中存储有双通道图像重建模型以及与双通道鬼成像重建相关的程序。中央处理器主要实现两个功能:1)制作训练数据集,训练双通道图像重建模型;2)在实际成像过程中,用非线性光强校正方法对输入数据进行校正,将经过校正的数据输入双通道图像重建模型,经过运算得出深度学习鬼成像清晰图像。
如图2所示,本发明实施例中的基于仿人眼机制的双通道鬼成像重建方法具体包括如下步骤:
S1、构建双通道图像重建模型,双通道图像重建模型采用双通道增强型神经网络,如图3所示,神经网络的两路分支为鬼成像图分支和光强残差分支,其数据源分别为鬼成像重建图像(GI重建图像)和光强特征序列。其中GI重建图像由下式计算得到:
I(x)=<(Si-<Si>)(Pi-<Pi>)> (1)
其中<·>表示所有测量值的算数平均值,Si表示网络输入的光强序列,Pi表示获取光强数据采用的随机测量图案。
鬼成像图分支由六个卷积层获取初步特征图像,其特征图维度分别为128×128×1,128×128×32,128×128×16,128×128×16,128×128×32,128×128×1,其中,经过128×128×32卷积层后可得到32张不同的128×128尺寸的特征图,即卷积层含32通道。
光强残差分支包含一个全连接层和一个二维残差块(Res2Net Block)和两个卷积层,全连接层位于测量值序列和卷积层之间,作用是对一维数据进行特征提取并排列为二维图像。每个残差块包含一个残差结构,其首尾各有一个卷积层进行连接,前置卷积层的卷积核为5×5×32,即输入128×128×1维度的特征图后输出为128×128×64,后置卷积层卷积核为5×5×1,即输入128×128×32维度的特征图后输出为128×128×1。在RM中,采用ReLU作为激活函数,每个残差结构后设置批量归一化层(Batch Normalization,BN)。在残差结构中,128×128×32的特征图被均分为四份,每个部分中除了首个部分,其余均对应5×5×4的卷积核,第i层卷积后的结果将添加至第i+1层作为组合输入。
两个特征分支由加法形式组合,即均为128×128×1维度的两张特征图进行加和后被送入第二个残差模块中进行特征归纳,最终,第二个残差的输出和GI重建图像的乘积作为预测图像,并由其和真值图之间的均方误差定义代价函数进行训练。由于GI重建图像包含鬼成像的噪声特征,该通道可以实现图像去噪,光强序列中的涨落包含最原始的鬼成像的信号采集特征,其引入会对图像细节重建进行增强。
S2、制作训练数据集,对双通道图像重建模型进行训练,双通道图像重建模型训练的关键在于训练集和实际成像场景输入的光强数据的一致性,如成像时待输入的光强数据是在强散射环境下采集的,那网络训练数据集中也应具备强散射特征,即输入光强信号应被散射退化。为了实现重点采样,在成像时,拟采用仿人眼采集方式进行数据采集,因此制作训练集时也应采用仿人眼策略。深度学习鬼成像的数据集理应实地去采集和制作,但这样时间成本很高,为了更为经济便捷地制作数据集,采用仿人眼策略对特定的图像集进行模拟光强生成,并采用蒙特卡洛仿真方式对散射过程进行模拟,在自行制作的数据集中引入具有发射路径散射特征的退化数据集,创建待训练数据集,使训练数据集包含仿人眼感兴趣区域特性和散射特性,基于训练数据集将双通道图像重建模型训练至收敛(均方误差小于0.5)。
如图4所示,对静态散射介质进行模拟,利用下式分别计算θ
0,
θ0=sin-1{1-ξ1[1-cos(βE/2)]} (2)
其中,ξ1和ξ2均为取值为0到1之间的随机数,βE取值为0。
利用程序所产生的随机数可以来模拟光子的运动,利用下式计算单个光子每两次连续碰撞地点之间的直线距离:
其中,ξ3为取值0到1之间的随机数,σa与σs之和表示粒子的线性消光系数。
采用数对
表示光子经历第i次散射后的相对传输方向,其概率分布密度函数为:
为特定散射类型下的散射相函数,它规定了光子经历散射后方向偏离角度的可能概率,相函数以瑞利散射相函数表示:
其中,v均为大气模型参数,具体计算过程中只需要通过
概率密度分布求解出θ
i的边缘概率密度函数,并将其设置为0到1之间的随机数便可反向确定θ
i的取值。全局笛卡尔坐标系中光子的方向向量已更新为:
第n次散射后,光子的能量剩余为:
设置光子的能量阈值为ε=10-5,即当光子当前能量值低于阈值时,将其视为非存活光子,无法被接收。将被散射的光子及其携带的能量综合表征退化后的光场强度分布,并与目标灰度进行点乘操作,最终可以得到仿真的光强数据。
S3、基于仿人眼策略生成测量矩阵,并加载至DMD中进行光强数据采集,以分辨率为64×64的重建目标为例,基础测量矩阵的尺寸在采样率为25%的情况下需要被设定为1024行、4096列,其获取方式为:首先生成大小为4096×4096的Hadamard矩阵,然后取矩阵的前1024行作为基础测量矩阵,对基础测量矩阵的每一行分别取出,将每个含4096数字的序列按行重组为64×64的图像,形成矩阵组M1,按上述方式再将1024×1024大小的Hadamard矩阵按行重组为1024张32×32大小的矩阵,随后通过双线性插值方法将其全部扩充为64×64大小的矩阵组M2,在64×64的矩阵中人为选定感兴趣区域R,未被选定区域为NR,设置区域控制矩阵C,其中C中含R区域的像素值为1,否则为0,由此得到仿人眼测量图案组:MF=M1·*C+M2·*(I-C),其中I为单位矩阵,将包含1024张测量图案的矩阵组载入到DMD的上位机中去,并将DMD和光电探测器(PD)同步控制,PD即可以同样的帧率采集到1024帧光强序列,上述过程便完成了对一个目标样本的数据采集。
S4、由于训练集中散射介质是均匀的,而实际采集中需要考虑散射介质突变或不均为输入数据带来的改变,因此需要将不均特征对数据造成的影响减弱,此时用到非线性光强校正方法对输入数据进行校正,当光学***收到散射介质干扰,测量值会发生扰动,假设前L帧的衰减系数为ξ,而在L次测量后,散射介质的衰减系数发生突变,可以得到下式:
其中,y是光强测量值,M表示测量的总次数,N表示一维信号的长度。对光强值做非线性校正的方法如式(10)所示,其中ξL/ξ为精确的校正因子。根据鬼成像成像和压缩感知算法的特点,将动态变化之前和之后的测量平均值相除可以得到如下表达:
本方法对光强数据进行一次校正,并找出散射介质的动态变化对光强影响最严重的突变点。由式(10)计算
其中L=1,2,3…,M。寻找使得
值最大的L的值作为光强校正的突变点L
0,此时的ξ
L/ξ为校正因子。按照式(9)和(10)对光强序列进行校正,即将序列号大于L的数据乘以校正因子ξ
L/ξ,形成新的光强序列。
S5、将经过校正的数据输入双通道图像重建模型,经过两个通道后回归为二维图像,得到深度学习鬼成像清晰图像。
在深圳市区采用激光测距仪测距保证散射距离在50m左右进行成像,该实验在某夜晚浓雾场景下进行,样机得以在实际的较为极端的雾霾环境下被验证。目标物使用的是印有黑白条纹的标准测试板和具有立体造型的摆件。
如图5A-5F所示,由重建结果和对比度量化值可以看出,方法对黑白条纹的对比度提升具有显著作用。当压缩率不大于20时,重建对比度保持在200以上,在40的压缩率下,仍可以获取对比度为62的重建结果。
为了验证蒙特卡洛仿真数据的PC-GI网络(记作MC-PC-GI)的优势,如图6A-6D所示,采用基于压缩感知的重建方法CSGI和非散射仿真数据的PC-GI网络进行实验比对,采用无散射仿真数据对PC-GI网络进行训练的结果稍好于CSGI方法,细节信息较为充足,但噪点也偏多,相比之下,MC-PC-GI方法在更为理想的数据下对网络训练进行驱动,回归结果也更加准确,在强散射成像环境下鲁棒性更强。
本发明提出的基于仿人眼机制的双通道鬼成像重建方法及***具有如下有益效果:
1)提出基于残差块卷积神经网络的双通道图像重建模型,考虑不同维度的数据训练模式,从模型设计层面提升了对一维光强和二维图像特征的综合提取能力和回归能力,通过仿人眼机制来获取光强数据用于模型训练和输入,通过对感兴趣区域的重点采集增强光强数据特征和整体图像质量,利于实现成像光学***成像过程参数化,并在深度神经网络中进一步提升图像精确度;
2)为了恢复动态混沌散射介质下的帧间光强关联性,提出非线性光强校正方法,设计补偿因子消除混沌介质的非线性影响;
3)由于实际的光强数据是在强散射环境下采集的,因此训练集数据也应具备强散射特征,即输入光强信号应被散射退化,为了消除位于发射路径中的散射介质对成像造成的影响,采用蒙特卡洛仿真方式对该散射过程进行模拟并创建待训练数据集。
以上所揭露的仅为本发明较佳实施例而已,当然不能以此来限定本发明之权利范围,因此依本发明权利要求所作的等同变化,仍属本发明所涵盖的范围。