CN113496472A - 图像去雾模型构建、道路图像去雾方法、装置及车辆 - Google Patents
图像去雾模型构建、道路图像去雾方法、装置及车辆 Download PDFInfo
- Publication number
- CN113496472A CN113496472A CN202110702676.5A CN202110702676A CN113496472A CN 113496472 A CN113496472 A CN 113496472A CN 202110702676 A CN202110702676 A CN 202110702676A CN 113496472 A CN113496472 A CN 113496472A
- Authority
- CN
- China
- Prior art keywords
- image
- defogged
- defogging
- loss function
- defogging model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000010276 construction Methods 0.000 title claims abstract description 35
- 230000006870 function Effects 0.000 claims abstract description 95
- 238000012549 training Methods 0.000 claims abstract description 54
- 238000000034 method Methods 0.000 claims abstract description 53
- 238000005070 sampling Methods 0.000 claims abstract description 18
- 239000003623 enhancer Substances 0.000 claims description 7
- 230000008447 perception Effects 0.000 claims description 7
- 230000004913 activation Effects 0.000 claims description 3
- 238000012795 verification Methods 0.000 claims description 3
- 230000003247 decreasing effect Effects 0.000 claims description 2
- 230000008569 process Effects 0.000 abstract description 21
- 230000016776 visual perception Effects 0.000 abstract description 11
- 238000003384 imaging method Methods 0.000 abstract description 7
- 238000010586 diagram Methods 0.000 description 16
- 238000000605 extraction Methods 0.000 description 6
- 238000011176 pooling Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 230000009467 reduction Effects 0.000 description 3
- 238000004590 computer program Methods 0.000 description 2
- 238000001514 detection method Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000012545 processing Methods 0.000 description 2
- 230000000750 progressive effect Effects 0.000 description 2
- 238000011160 research Methods 0.000 description 2
- 239000000126 substance Substances 0.000 description 2
- 230000001360 synchronised effect Effects 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000009193 crawling Effects 0.000 description 1
- 230000004438 eyesight Effects 0.000 description 1
- 238000003709 image segmentation Methods 0.000 description 1
- 230000000670 limiting effect Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000036961 partial effect Effects 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 230000002441 reversible effect Effects 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000006467 substitution reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
Abstract
本发明公开了图像去雾模型构建、道路图像去雾方法、装置及车辆，包括：获取训练集数据；将训练集数据输入待训练去雾模型；通过生成器对输入的有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，去雾图像由多个不同尺寸的去雾特征图像融合生成；通过全局判别器确定去雾图像与对应的无雾道路图像匹配的第一相似度，通过局部判别器判别去雾特征图像与对应的无雾道路图像局部匹配的第二相似度；通过预设的损失函数对待训练去雾模型进行训练，以训练好的生成器作为图像去雾模型。本发明的实施能够有效实现道路图像的去雾，解决了自动驾驶汽车在雾天行驶过程中的视觉感知不清晰问题，保证视觉感知任务的图像成像质量。
Description
技术领域
本发明涉及图像处理领域，特别涉及一种图像去雾模型构建、道路图像去雾方法、装置及车辆。
背景技术
目前视觉感知已成为自动驾驶领域的研究热门，在车辆上引入视觉能够使车辆对周边的环境进行目标检测、目标分类、图像分割等，从而有效提升车辆的安全性、稳定性、智能性。由于摄像头硬件成像条件的限制，雾天道路下的成像质量并不好，无法满足相应的目标检测等感知需求，所以研究道路图像的去雾算法具有重要意义。
图像去雾算法的核心是消除成像过程中雾气的干扰，还原被雾气遮盖的真实道路场景。在自动驾驶中，由于汽车行驶过程中安全的重要性，对于图像成像质量的要求极高，传统的图像去雾算法在复杂多变的道路环境下的不稳定性会给后续感知任务带来极大的干扰，并不能很好地满足视觉感知任务中对于图像质量的要求。
传统的图像去雾方法主要是基于暗通道的图像去雾算法，依赖于大气模型参数的估计，根据大气模型参数求解透射率来进行图像的去雾还原，由于道路图像的复杂性，这样的图像去雾结果不具备普适性，经常会有很明显的边缘阴影及色差，会严重影响到最终的感知任务结果。因此，传统的图像去雾方法并不适用于自动驾驶领域中的视觉感知任务。
发明内容
为了解决上述技术问题，本发明提供了一种图像去雾模型构建方法，所述方法包括：
获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像；
将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成；
通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度；
通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
进一步地，所述生成器包括增强器和多个卷积层；
所述通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成，包括：
通过所述多个卷积层对输入的所述有雾道路图像卷积采样，得到中间图像；
通过所述增强器对所述中间图像下采样得到多个不同尺寸的去雾特征图像，并将全部所述不同尺寸的去雾特征图像融合得到去雾图像。
进一步地，所述预设的损失函数包括：对抗损失函数、特征匹配损失函数、感知网络损失函数和保真度损失函数；
所述对抗损失函数La是根据如下公式确定的：
所述特征匹配损失函数Lfm是根据如下公式确定的：
所述感知网络损失函数Lnet是根据如下公式确定的：
所述保真度损失函数Lf是根据如下公式确定的：
其中，G为生成器，D1为全局判别器，D2为局部判别器，ci为卷积层第i层通道，hi为卷积层第i层的图像高度，wi为卷积层第i层图像宽度，
为卷积层第i层的激活函数，X为无雾道路图像，
为生成器生成的去雾图像。
进一步地，所述通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型，包括：
通过所述对抗损失函数和所述特征匹配损失函数训练生成器中的所述多个卷积层，并按照所述对抗损失函数和所述特征匹配损失函数的结果向梯度减少的方向训练；
通过所述感知网络损失函数和所述保真度损失函数训练生成器中的所述增强器；
通过所述对抗损失函数训练全局判别器和局部判别器，并按照所述对抗损失函数的结果向梯度增加的方向训练，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，直至所述对抗损失函数、所述特征匹配损失函数、所述感知网络损失函数和所述保真度损失函数收敛，并以训练好的生成器作为图像去雾模型。
进一步地，所述去雾图像是由至少四个不同尺寸的所述去雾特征图像融合生成的。
另一方面，本发明提供一种图像去雾模型构建装置，所述装置包括：
数据获取模块，被配置为执行获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像；
输入模块，被配置为执行将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
输出模块，被配置为执行通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成；
验证模块，被配置为执行通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾图像中的去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度；
训练模块，被配置为执行通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
另一方面，本发明提供一种道路图像去雾方法，所述方法包括：
获取本车前方的待去雾图像；
将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如上述所述的图像去雾模型构建方法训练得到；
根据所述去雾图像控制本车行进。
另一方面，本发明提供一种道路图像去雾装置，所述装置包括：
图像获取模块，被配置为执行获取本车前方的待去雾图像；
输入输出模块，被配置为执行将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如上述所述的图像去雾模型构建方法训练得到；
控制模块，被配置为执行根据所述去雾图像控制本车行进。
另一方面，本发明提供一种图像去雾模型构建设备，所述设备包括处理器和存储器，所述存储器中存储有至少一条指令或者至少一段程序，所述至少一条指令或者至少一段程序由所述处理器加载并执行以实现如上述所述的图像去雾模型构建方法。
另一方面，本发明提供一种车辆，其特征在于，所述车辆设置有如上述所述的道路图像去雾装置，所述装置包括：
均与车辆的行车电脑连接的图像获取模块、输入输出模块、控制模块。
本发明提供的一种图像去雾模型构建、道路图像去雾方法、装置及车辆，主要解决自动驾驶汽车在雾天道路行驶过程中的视觉感知不清晰问题。并基于对抗学习网络构建的图像去雾模型，该图像去雾模型中可以包括一个生成器和两个判别器。生成器用于从有雾图产生无雾图。两个判别器分别为全局判别器和局部判别器。全局判别器用于判别整张图像是有雾还是无雾，局部判别器用于判别局部图像是有雾还是无雾。本发明通过引入对抗学习的思想，能够有效实现道路图像的去雾，并且本发明方法不依赖于传统大气散射模型参数的估计，能够自适应更多样的雾气道路环境，解决了自动驾驶汽车在雾天行驶过程中的视觉感知不清晰问题，保证视觉感知任务的图像成像质量。
附图说明
为了更清楚地说明本发明的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单的介绍。显而易见地，下面描述中的附图仅仅是本发明的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其它附图。
图1是根据本申请实施例示出的一种图像去雾模型构建、道路图像去雾的实施环境架构图；
图2是根据本申请实施例示出的一种图像去雾模型的架构图；
图3是根据本申请实施例示出的一种生成器的架构图；
图4是本申请实施例提供的一种图像去雾模型构建方法的流程示意图；
图5是本申请实施例提供的另一种图像去雾模型构建方法的流程示意图；
图6是本发明实施例提供的一种图像去雾模型构建装置的结构示意图；
图7是本申请实施例提供的一种道路图像去雾方法的流程示意图；
图8是本发明实施例提供的一种道路图像去雾装置的结构示意图；
图9是本发明实施例提供的一种电子设备的结构示意图。
具体实施方式
下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本发明保护的范围。
需要说明的是，本发明的说明书和权利要求书及上述附图中的术语“第一”、“第二”等是用于区别类似的对象，而不必用于描述特定的顺序或先后次序。应该理解这样使用的数据在适当情况下可以互换，以便这里描述的本发明的实施例能够以除了在这里图示或描述的那些以外的顺序实施。此外，术语“包括”和“具有”以及他们的任何变形，意图在于覆盖不排他的包含，例如，包含了一系列步骤或单元的过程、方法、装置、产品或设备不必限于清楚地列出的那些步骤或单元，而是可包括没有清楚地列出的或对于这些过程、方法、产品或设备固有的其它步骤或单元。
图1是根据本申请实施例示出的一种图像去雾模型构建、道路图像去雾的实施环境架构图。如图1所示，该实施环境架构包括：终端100和服务器200。
其中，图像去雾模型构建装置即可以是终端100，也可以是服务器200。终端100或服务器200获取训练集数据，在待训练去雾模型进行训练、优化及测试，以构建图像去雾模型。
其中，图像去雾的过程即可以在终端100执行，也可以在服务器200执行。终端100接收待去雾图像，将待去雾图像进行相应的预处理，进一步地，当图像去雾在终端100执行时，终端100直接将待去雾图像输入到图像去雾模型，然后对图像进行去雾，当图像去雾在服务器200执行时，终端100将预处理之后待去雾图像发送给服务器200，服务器200将接收预处理后的待去雾图像，并输入到图像去雾模型，然后对待去雾图像进行去雾。
另外，终端100可显示有应用界面，通过该界面可获取车辆上传待去雾图像，或将上传的待去雾图像发送给服务器200。
终端100的类型包括但不限于智能手机、平板电脑、电视机、笔记本电脑、台式电脑等，本申请实施例对此不进行具体限定。
其中，服务器200将带去雾图像对应的去雾图像发送终端100，由终端100在应用界面上显示该去雾图像。进一步地，服务器200可以是一台服务器，也可以是由多台服务器组成的服务器集群，或者是一个云计算服务中心。
终端100与服务器200通过有线或无线网络建立通信连接。
如图2-4所示，图2是根据本申请实施例示出的一种图像去雾模型的架构图，图3是根据本申请实施例示出的一种生成器的架构图，图4是本申请实施例提供的一种图像去雾模型构建方法的流程示意图，本说明书实施例提供一种图像去雾模型构建方法，本方法由图像去雾模型构建装置执行，图像去雾模型构建装置可以集成在终端或服务器等计算机设备，图像去雾模型构建装置可以是硬件也可以是软件模块，该方案的执行主体可以是上述终端100或服务器200执行，也可以由二者配合执行，所述方法包括：
S102、获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像。
在具体的实施过程中，训练集数据中的多组一一对应的有雾道路图像和无雾道路图像可以从常见的浏览器中爬取大量的图片形成训练集数据。图像的选区范围为，图像中的雾比较均匀，不存在很大的突变，以达到较好的效果。
可以理解的是，有雾道路图像和无雾道路图像可以是同一地点拍摄的，即有雾道路图像去雾后的图像即为无雾道路图像。
S104、将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
在具体的实施过程中，待训练去雾模型可以采用对抗学习的方式进行训练，其中生成器可以采用神经网络的方式将有雾道路图像进行去雾，全局判别器和局部判别器分别用于将去雾后的有雾道路图像与对应的无雾道路图像进行比对，以保证去雾后的有雾道路图像和对应的无雾道路图像相似度接近与1。
S106、通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成。
在具体的实施过程中，图5是本申请实施例提供的另一种图像去雾模型构建方法的流程示意图，如图5所示，生成器可以包括增强器和多个卷积层。
所述通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成，包括：
S1062、通过所述多个卷积层对输入的所述有雾道路图像卷积采样，得到中间图像。
在具体的实施过程中，卷积层可以包括依次连接的正卷积层、残差卷积层、反卷积层，通过正卷积层、残差卷积层、反卷积层对有雾道路图像进行卷积采样可以得到中间图像，中间图像可以是表征有雾道路图像去雾后的图像。
S1064、通过所述增强器对所述中间图像下采样得到多个不同尺寸的去雾特征图像，并将全部所述不同尺寸的去雾特征图像融合得到去雾图像。
在具体的实施过程中，增强器可以通过两个3*3的开端卷积层与上述反卷积层连接，增强器可以包括均值池化层和多个不同的卷积层。通过不同的卷积层对中间图像进行下采样，得到多个不同尺寸的去雾特征图像，如四分之一中间图像、八分之一中间图像、十六分之一中间图像、三十二分之一中间图像，并将中间图像和多个不同尺寸的去雾特征图像融合得到去雾图像，其中，不同尺度的特征图像可以提供不同的感受野，帮助图像在不同尺度上重建图像。不同尺度的特征图像可以由1×1卷积层进行降维，进一步提取图像特征。不同尺度特征图像上采样到中间图像尺寸大小后，与开端卷积层的输出进行连接，作为最后3×3卷积层的输入，最后经过卷积运算可以得到去雾图像。
可以理解的是，均值池化层可以采用金字塔池化的方式建立。
S108、通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度。
S110、通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
在具体的实施过程中，全局判别器和局部判别器均可为Conv+Insnorm+Relu的结构，即包括多个特征提取层，区别在于局部判别器的输入是全局判别器输入的两倍下采样结果，即去雾特征图像的数量可以是去雾图像数量的两倍以上。全局判别器可以监督生成器在粗尺度上生成全局真实图像，而局部判别器会引导生成器重建细节。
所述预设的损失函数包括：对抗损失函数、特征匹配损失函数、感知网络损失函数和保真度损失函数；
所述对抗损失函数La是根据如下公式确定的：
所述特征匹配损失函数Lfm是根据如下公式确定的：
所述感知网络损失函数Lnet是根据如下公式确定的：
所述保真度损失函数Lf是根据如下公式确定的：
其中，G为生成器，D1为全局判别器，D2为局部判别器，ci为卷积层第i层通道，h为卷积层第i层的图像高度，wi为卷积层第i层图像宽度，
为卷积层第i层的激活函数，X为无雾道路图像，
为生成器生成的去雾图像。
具体的，待训练去雾模型总的损失函数可以是对抗损失函数、特征匹配损失函数、感知网络损失函数和保真度损失函数的和值。
即：Lall＝La+Lfm+Lnet+Lf。
其中，
特征匹配损失Lfm：将无雾道路图像和生成器生成的结果分别送到全局判别器和局部判别器中，并根据全局判别器和局部判别器中每一特征提取层的中间结果计算L1损失。
其中，
T为特征提取层层数，Ni为第i特征提取层提取的特征图元素数量，
为判别器n的第i特征提取层。
在训练待训练去雾模型时，可以通过所述对抗损失函数和所述特征匹配损失函数训练生成器中的所述多个卷积层，并按照所述对抗损失函数和所述特征匹配损失函数的结果向梯度减少的方向训练，
通过所述感知网络损失函数和所述保真度损失函数训练生成器中的所述增强器；
通过所述对抗损失函数训练全局判别器和局部判别器，并按照所述对抗损失函数的结果向梯度增加的方向训练，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，直至所述对抗损失函数、所述特征匹配损失函数、所述感知网络损失函数和所述保真度损失函数收敛，并以训练好的生成器作为图像去雾模型。
可以理解的是，预设第一相似度阈值和预设第二相似度阈值在本说明书实施例中不做具体限定，也可以是相等的数值。
在上述实施例基础上，本说明书一个实施例中，去雾图像可以是由至少四个不同尺寸的所述去雾特征图像融合生成的。
本发明提供的一种图像去雾模型构建方法，通过对抗学习的方式对有雾道路图像和无雾道路图像进行训练，进而得到图像去雾模型，并且，本发明在训练模型时采用的损失函数能够更准确的生成与无雾道路图像对应的去雾图像，保证生成的结果与无雾道路图像相似度更高，采用的有雾道路图像和无雾道路图像更少。
另一方面，图6是本发明实施例提供的一种图像去雾模型构建装置的结构示意图，如图6所示，本发明提供一种图像去雾模型构建装置，包括：
数据获取模块601，被配置为执行获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像；
输入模块602，被配置为执行将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
输出模块603，被配置为执行通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成；
验证模块604，被配置为执行通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾图像中的去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度；
训练模块605，被配置为执行通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
另一方面，本发明提供一种道路图像去雾方法，图7是本申请实施例提供的一种道路图像去雾方法的流程示意图，如图7所示，所述方法可以应用在车辆上，用于对车辆获取的待去雾图像进行除雾，所述方法包括：
S702、获取本车前方的待去雾图像。
在具体的实施过程中，通过车辆上设置的摄像设备采集车辆前方的待去雾图像，待去雾图像中可以包含道路、障碍物等，获取的待去雾图像可以采用压栈的方式存储在车辆的行车电脑。
S704、将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如上述所述的图像去雾模型构建方法训练得到。
在具体的实施过程中，图像去雾模型可以设置在车辆的行车电脑中或设置在与车辆行车电脑对应的服务器中，图像去雾模型采用的是上述所述的图像去雾模型构建方法建立的，图像去雾模型可以对待去雾图像进行去雾处理得到对应的去雾图像。
S706、根据所述去雾图像控制本车行进。
在具体的实施过程中，车辆可以对去雾图像进行特征提取，以提取出图像中的障碍物、车道线等，并按照提取障碍物、车道线等控制本车行进。
本发明提供的一种图像去雾模型构建、道路图像去雾方法、装置及车辆，主要解决自动驾驶汽车在雾天道路行驶过程中的视觉感知不清晰问题。并基于对抗学习网络构建的图像去雾模型，该图像去雾模型中可以包括一个生成器和两个判别器。生成器用于从有雾图产生无雾图。两个判别器分别为全局判别器和局部判别器。全局判别器用于判别整张图像是有雾还是无雾，局部判别器用于判别局部图像是有雾还是无雾。本发明通过引入对抗学习的思想，能够有效实现道路图像的去雾，并且本发明方法不依赖于传统大气散射模型参数的估计，能够自适应更多样的雾气道路环境，一定程度上解决了自动驾驶汽车在雾天行驶过程中的视觉感知不清晰问题，保证视觉感知任务的图像成像质量。
另一方面，本发明提供一种道路图像去雾装置，图8是本发明实施例提供的一种道路图像去雾装置的结构示意图，如图8所示，所述装置包括：
图像获取模块801，被配置为执行获取本车前方的待去雾图像；
输入输出模块802，被配置为执行将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如上述所述的图像去雾模型构建方法训练得到；
控制模块803，被配置为执行根据所述去雾图像控制本车行进。
需要说明的是，上述实施例提供的装置，在实现其功能时，仅以上述各功能模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能模块完成，即将设备的内部结构划分成不同的功能模块，以完成以上描述的全部或者部分功能。另外，上述实施例提供的装置与方法实施例属于同一构思，其具体实现过程详见方法实施例，这里不再赘述。
另一方面，图9是本发明实施例提供的一种电子设备的结构示意图，如图9所示，本发明提供一种图像去雾模型构建设备，所述设备包括处理器和存储器，所述存储器中存储有至少一条指令或者至少一段程序，所述至少一条指令或者至少一段程序由所述处理器加载并执行以实现如上述所述的图像去雾模型构建方法。
再一方面，本发明提供一种车辆，所述车辆设置有如上述所述的道路图像去雾装置。
上述功能如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分或者该技术方案的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质中，包括若干指令用以使得一台计算机设备(可以是个人计算机，服务器，或者网络设备等)执行本发明各个实施例所述方法的全部或部分步骤。
本发明实施例还提供了一种存储介质，所述存储介质中存储有至少一条指令、至少一段程序、代码集或指令集，所述至少一条指令、该至少一段程序、该代码集或指令集可由电子设备的处理器执行以完成上述所述的图像去雾模型构建方法。
可选地，在本发明实施例中，上述存储介质可以包括但不限于：U盘、只读存储器(Read-Only Memory，ROM)、随机存取存储器(Random Access Memory，RAM)、移动硬盘、磁碟或者光盘等各种可以存储程序代码的介质。
需要说明的是：上述本发明实施例先后顺序仅仅为了描述，不代表实施例的优劣。且上述对本说明书特定实施例进行了描述。其它实施例在所附权利要求书的范围内。在一些情况下，在权利要求书中记载的动作或步骤可以按照不同于实施例中的顺序来执行并且仍然可以实现期望的结果。另外，在附图中描绘的过程不一定要求示出的特定顺序或者连续顺序才能实现期望的结果。在某些实施方式中，多任务处理和并行处理也是可以的或者可能是有利的。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程，是可以通过计算机程序来指令相关的硬件来完成，该计算机程序可存储于一非易失性计算机可读取存储介质中，该计算机程序在执行时，可包括如上述各方法的实施例的流程。其中，本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用，均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限，RAM以多种形式可得，诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路(Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
本说明书中的各个实施例均采用递进的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于装置、电子设备和存储介质实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
本领域普通技术人员可以理解实现上述实施例的全部或部分步骤可以通过硬件来完成，也可以通过程序来指令相关的硬件完成，所述的程序可以存储于一种计算机可读存储介质中，上述提到的存储介质可以是只读存储器，磁盘或光盘等。
需要说明的是，本说明书中的各个实施例均采用递进的方式描述，每个实施例重点说明的都是与其他实施例的不同之处，各个实施例之间相同相似的部分互相参见即可。本发明实施例所提供测试方法，其实现原理及产生的技术效果和前述***实施例相同，为简要描述，方法实施例部分未提及之处，可参考前述***实施例中相应内容。
在本申请所提供的几个实施例中，应该理解到，所揭露的***和方法，也可以通过其它的方式实现。以上所描述的装置实施例仅仅是示意性的，例如，附图中的流程图和框图显示了根据本发明的多个实施例的装置、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上，流程图或框图中的每个方框可以代表一个模块、程序段或代码的一部分，所述模块、程序段或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意，在有些作为替换的实现方式中，方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如，两个连续的方框实际上可以基本并行地执行，它们有时也可以按相反的顺序执行，依所涉及的功能而定。也要注意的是，框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合，可以用执行规定的功能或动作的专用的基于硬件的***来实现，或者可以用专用硬件与计算机指令的组合来实现。
最后应说明的是：以上所述实施例，仅为本发明的具体实施方式，用以说明本发明的技术方案，而非对其限制，本发明的保护范围并不局限于此，尽管参照前述实施例对本发明进行了详细的说明，本领域的普通技术人员应当理解：任何熟悉本技术领域的技术人员在本发明揭露的技术范围内，其依然可以对前述实施例所记载的技术方案进行修改或可轻易想到变化，或者对其中部分技术特征进行等同替换；而这些修改、变化或者替换，并不使相应技术方案的本质脱离本发明实施例技术方案的精神和范围，都应涵盖在本发明的保护范围之内。因此，本发明的保护范围应以上述权利要求的保护范围为准。
Claims (10)
1.一种图像去雾模型构建方法，其特征在于，所述方法包括：
获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像；
将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成；
通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度；
通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
2.根据权利要求1所述图像去雾模型构建方法，其特征在于，所述生成器包括增强器和多个卷积层；
所述通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成，包括：
通过所述多个卷积层对输入的所述有雾道路图像卷积采样，得到中间图像；
通过所述增强器对所述中间图像下采样得到多个不同尺寸的去雾特征图像，并将全部所述不同尺寸的去雾特征图像融合得到去雾图像。
3.根据权利要求2所述图像去雾模型构建方法，其特征在于，所述预设的损失函数包括：对抗损失函数、特征匹配损失函数、感知网络损失函数和保真度损失函数；
所述对抗损失函数La是根据如下公式确定的：
所述特征匹配损失函数Lfm是根据如下公式确定的：
所述感知网络损失函数Lnet是根据如下公式确定的：
所述保真度损失函数Lf是根据如下公式确定的：
其中，G为生成器，D1为全局判别器，D2为局部判别器，ci为卷积层第i层通道，hi为卷积层第i层的图像高度，wi为卷积层第i层图像宽度，
为卷积层第i层的激活函数，X为无雾道路图像，
为生成器生成的去雾图像。
4.根据权利要求3所述图像去雾模型构建方法，其特征在于，所述通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型，包括：
通过所述对抗损失函数和所述特征匹配损失函数训练生成器中的所述多个卷积层，并按照所述对抗损失函数和所述特征匹配损失函数的结果向梯度减少的方向训练；
通过所述感知网络损失函数和所述保真度损失函数训练生成器中的所述增强器；
通过所述对抗损失函数训练全局判别器和局部判别器，并按照所述对抗损失函数的结果向梯度增加的方向训练，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，直至所述对抗损失函数、所述特征匹配损失函数、所述感知网络损失函数和所述保真度损失函数收敛，并以训练好的生成器作为图像去雾模型。
5.根据权利要求3所述图像去雾模型构建方法，其特征在于，所述去雾图像是由至少四个不同尺寸的所述去雾特征图像融合生成的。
6.一种图像去雾模型构建装置，其特征在于，所述装置包括：
数据获取模块，被配置为执行获取训练集数据，所述训练集数据包括多组一一对应的有雾道路图像和无雾道路图像；
输入模块，被配置为执行将所述训练集数据输入待训练去雾模型，所述待训练去雾模型包括生成器、全局判别器和局部判别器；
输出模块，被配置为执行通过所述生成器对输入的所述有雾道路图像卷积采样，生成去雾图像和多个不同尺寸的去雾特征图像，所述去雾图像由多个不同尺寸的去雾特征图像融合生成；
验证模块，被配置为执行通过所述全局判别器确定所述去雾图像与对应的所述无雾道路图像匹配的第一相似度，通过所述局部判别器判别所述去雾图像中的去雾特征图像与对应的所述无雾道路图像局部匹配的第二相似度；
训练模块，被配置为执行通过预设的损失函数对所述待训练去雾模型进行训练，直至所述待训练去雾模型的损失函数收敛，以保证所述第一相似度大于预设第一相似度阈值且所述第二相似度大于预设第二相似度阈值，并以训练好的生成器作为图像去雾模型。
7.一种道路图像去雾方法，其特征在于，所述方法包括：
获取本车前方的待去雾图像；
将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如权利要求书1-5任一项所述的图像去雾模型构建方法训练得到；
根据所述去雾图像控制本车行进。
8.一种道路图像去雾装置，其特征在于，所述装置包括：
图像获取模块，被配置为执行获取本车前方的待去雾图像；
输入输出模块，被配置为执行将所述待去雾图像输入至预先建立的图像去雾模型中，输出与所述待去雾图像对应的去雾图像，所述图像去雾模型通过如权利要求书1-5任一项所述的图像去雾模型构建方法训练得到；
控制模块，被配置为执行根据所述去雾图像控制本车行进。
9.一种图像去雾模型构建设备，其特征在于，所述设备包括处理器和存储器，所述存储器中存储有至少一条指令或者至少一段程序，所述至少一条指令或者至少一段程序由所述处理器加载并执行以实现如权利要求1-5任一所述的图像去雾模型构建方法。
10.一种车辆，其特征在于，所述车辆设置有如权利要求8所述的道路图像去雾装置，所述装置包括：
均与车辆的行车电脑连接的图像获取模块、输入输出模块、控制模块。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110702676.5A CN113496472A (zh) | 2021-06-24 | 2021-06-24 | 图像去雾模型构建、道路图像去雾方法、装置及车辆 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202110702676.5A CN113496472A (zh) | 2021-06-24 | 2021-06-24 | 图像去雾模型构建、道路图像去雾方法、装置及车辆 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| CN113496472A true CN113496472A (zh) | 2021-10-12 |
Family
ID=77997707
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202110702676.5A Pending CN113496472A (zh) | 2021-06-24 | 2021-06-24 | 图像去雾模型构建、道路图像去雾方法、装置及车辆 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN113496472A (zh) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11694307B2 (en) | 2022-02-28 | 2023-07-04 | Huajie ZENG | Image enhancement system and method based on generative adversarial network (GAN) model |
| WO2023159670A1 (zh) * | 2022-02-28 | 2023-08-31 | 曾华杰 | 基于生成对抗模型的图像增强方法和图像增强*** |
Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20200111194A1 (en) * | 2018-10-08 | 2020-04-09 | Rensselaer Polytechnic Institute | Ct super-resolution gan constrained by the identical, residual and cycle learning ensemble (gan-circle) |
| CN111199522A (zh) * | 2019-12-24 | 2020-05-26 | 重庆邮电大学 | 一种基于多尺度残差生成对抗网络的单图像盲去运动模糊方法 |
| CN111489301A (zh) * | 2020-03-19 | 2020-08-04 | 山西大学 | 一种基于迁移学习用图像深度信息引导的图像去雾方法 |
| CN111626956A (zh) * | 2020-05-26 | 2020-09-04 | 北京百度网讯科技有限公司 | 图像去模糊方法和装置 |
| WO2020258077A1 (zh) * | 2019-06-26 | 2020-12-30 | 深圳大学 | 一种行人检测方法及装置 |
| CN112950498A (zh) * | 2021-02-24 | 2021-06-11 | 苏州加乘科技有限公司 | 一种基于对抗网络和多尺度密集特征融合图像去雾方法 |
-
2021
- 2021-06-24 CN CN202110702676.5A patent/CN113496472A/zh active Pending
Patent Citations (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20200111194A1 (en) * | 2018-10-08 | 2020-04-09 | Rensselaer Polytechnic Institute | Ct super-resolution gan constrained by the identical, residual and cycle learning ensemble (gan-circle) |
| WO2020258077A1 (zh) * | 2019-06-26 | 2020-12-30 | 深圳大学 | 一种行人检测方法及装置 |
| CN111199522A (zh) * | 2019-12-24 | 2020-05-26 | 重庆邮电大学 | 一种基于多尺度残差生成对抗网络的单图像盲去运动模糊方法 |
| CN111489301A (zh) * | 2020-03-19 | 2020-08-04 | 山西大学 | 一种基于迁移学习用图像深度信息引导的图像去雾方法 |
| CN111626956A (zh) * | 2020-05-26 | 2020-09-04 | 北京百度网讯科技有限公司 | 图像去模糊方法和装置 |
| CN112950498A (zh) * | 2021-02-24 | 2021-06-11 | 苏州加乘科技有限公司 | 一种基于对抗网络和多尺度密集特征融合图像去雾方法 |
Non-Patent Citations (1)
| Title |
|---|
| XIANHONG ZHANG: "《Research on Remote Sensing Image De‐haze Based on GAN》", 《JOURNAL OF SIGNAL PROCESSING SYSTEMS》, vol. 94, pages 305 * |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US11694307B2 (en) | 2022-02-28 | 2023-07-04 | Huajie ZENG | Image enhancement system and method based on generative adversarial network (GAN) model |
| WO2023159670A1 (zh) * | 2022-02-28 | 2023-08-31 | 曾华杰 | 基于生成对抗模型的图像增强方法和图像增强*** |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN108805828B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
| CN111488865B (zh) | 图像优化方法、装置、计算机存储介质以及电子设备 | |
| WO2019232830A1 (zh) | 机场异物检测方法、装置、计算机设备及存储介质 | |
| CN111340077B (zh) | 基于注意力机制的视差图获取方法和装置 | |
| CN112949636B (zh) | 一种车牌超分辨率识别方法、***及计算机可读介质 | |
| CN113496472A (zh) | 图像去雾模型构建、道路图像去雾方法、装置及车辆 | |
| CN114037640A (zh) | 图像生成方法及装置 | |
| CN112733672A (zh) | 基于单目相机的三维目标检测方法、装置和计算机设备 | |
| CN111833360A (zh) | 一种图像处理方法、装置、设备以及计算机可读存储介质 | |
| CN112241646A (zh) | 车道线识别方法、装置、计算机设备和存储介质 | |
| CN114170231A (zh) | 基于卷积神经网络的图像语义分割方法、装置及电子设备 | |
| CN112150497A (zh) | 基于二值神经网络的局部激活方法与*** | |
| CN112132753B (zh) | 多尺度结构引导图像的红外图像超分辨率方法及*** | |
| CN111652245B (zh) | 车辆轮廓检测方法、装置、计算机设备及存储介质 | |
| CN111401335B (zh) | 一种关键点检测方法及装置、存储介质 | |
| CN112085680A (zh) | 一种图像处理方法、装置、电子设备及存储介质 | |
| CN116468947A (zh) | 刀具图像识别方法、装置、计算机设备及存储介质 | |
| CN116645287A (zh) | 一种基于扩散模型的图像去模糊方法 | |
| CN116883770A (zh) | 深度估计模型的训练方法、装置、电子设备及存储介质 | |
| CN115330930A (zh) | 基于稀疏到稠密特征匹配网络的三维重建方法和*** | |
| CN115311152A (zh) | 图像处理方法、装置、电子设备以及存储介质 | |
| Liu et al. | Weather recognition of street scene based on sparse deep neural networks | |
| CN110942179A (zh) | 一种自动驾驶路线规划方法、装置及车辆 | |
| CN114926734B (zh) | 基于特征聚合和注意融合的固体废弃物检测装置及方法 | |
| CN109543561B (zh) | 航拍视频显著性区域检测方法和装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination |