CN114022394A - 一种图像复原方法、装置、电子设备及存储介质 - Google Patents
一种图像复原方法、装置、电子设备及存储介质 Download PDFInfo
- Publication number
- CN114022394A CN114022394A CN202210000435.0A CN202210000435A CN114022394A CN 114022394 A CN114022394 A CN 114022394A CN 202210000435 A CN202210000435 A CN 202210000435A CN 114022394 A CN114022394 A CN 114022394A
- Authority
- CN
- China
- Prior art keywords
- image
- extraction network
- feature extraction
- processing model
- image processing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 52
- 238000012545 processing Methods 0.000 claims abstract description 110
- 238000000605 extraction Methods 0.000 claims abstract description 98
- 238000005286 illumination Methods 0.000 claims abstract description 69
- 239000011159 matrix material Substances 0.000 claims description 37
- 230000003287 optical effect Effects 0.000 claims description 26
- 230000006870 function Effects 0.000 claims description 21
- 238000012549 training Methods 0.000 claims description 21
- 239000000284 extract Substances 0.000 claims description 20
- 238000004891 communication Methods 0.000 claims description 19
- 238000004590 computer program Methods 0.000 claims description 8
- 238000007499 fusion processing Methods 0.000 claims description 8
- 230000008569 process Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 5
- 230000009471 action Effects 0.000 description 3
- 230000000007 visual effect Effects 0.000 description 3
- 230000004048 modification Effects 0.000 description 2
- 238000012986 modification Methods 0.000 description 2
- 238000012544 monitoring process Methods 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004720 fertilization Effects 0.000 description 1
- 239000000835 fiber Substances 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/25—Fusion techniques
- G06F18/253—Fusion techniques of extracted features
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Evolutionary Biology (AREA)
- Evolutionary Computation (AREA)
- Bioinformatics & Computational Biology (AREA)
- General Engineering & Computer Science (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Life Sciences & Earth Sciences (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
本申请公开了一种图像复原方法、装置、电子设备及存储介质。该方法包括：获取待复原的原始暗光图像；获取预先训练的图像处理模型；将原始暗光图像输入图像处理模型，以使图像处理模型中的光特征提取网络提取原始暗光图像中的光照特征，以及图像特征提取网络提取原始暗光图像中的目标图像特征，基于光照特征以及目标图像特征生成目标明亮图像。本申请采光照编码提取提取网络和图像特征提取网络分别对原始暗光图像的图像特征进行处理，得到光照特征和目标图像特征，然后融合光照特征和目标图像特征进行图像复原，实现以一个模型对暗光图像进行暗光增强得到明亮图像，不再需要分别使用暗光增强模型和超分辨率两个模型进行图像复原。
Description
技术领域
本申请涉及图像处理领域，尤其涉及一种图像复原方法、装置、电子设备及存储介质。
背景技术
超分辨率（Super Resolution，SR）是从给定的低分辨率图像中恢复高分辨率图像的过程，是计算机视觉的一个经典应用,在监控设备、卫星图像遥感等领域都有重要的应用价值。
在监控或遥感等场景中，当晚上或大雾天等光照缺乏的情况下，获取的图像质量很差，此时直接进行超分辨率所得到的图像会呈现灰暗模糊的情况，无法达到提升视觉效果的作用，需要对图像再使用暗光图像增强技术进行图像复原。
现有的技术中的超分辨率模型，大部分都是应用在充足光照图像下的超分辨率，没有针对暗光图像进行视觉增强，这些缺点限制了它们在真实暗光场景中的使用。
发明内容
为了解决上述技术问题或者至少部分地解决上述技术问题，本申请提供了一种图像复原方法、装置、电子设备及存储介质。
根据本申请实施例的一个方面，提供了一种图像复原方法，包括：
获取待复原的原始暗光图像；
获取预先训练的图像处理模型，其中，所述图像处理模型包括：光特征提取网络和图像特征提取网络；
将所述原始暗光图像输入所述图像处理模型，以使所述图像处理模型中的光特征提取网络提取所述原始暗光图像中的光照特征，以及图像特征提取网络提取所述原始暗光图像中的目标图像特征，基于所述光照特征以及所述目标图像特征生成目标明亮图像。
进一步的，所述获取预先训练的图像处理模型，包括：
获取训练样本集合，其中，所述训练样本集合中包括多个暗光样本图像，以及所述暗光样本图像对应的明亮样本图像；
将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型中的光特征提取网络和图像特征提取网络分别提取所述暗光样本图像的图像特征，基于所述图像特征生成明亮图像；
计算所述明亮图像与所述明亮图像对应明亮样本图像之间的损失函数值；
在所述损失函数值小于预设阈值的情况下，将所述初始图像处理模型确定为所述图像处理模型。
进一步的，所述方法还包括：
在所述损失函数值大于或等于预设阈值的情况下，更新所述初始图像处理模型中的模型参数，得到更新后的初始图像处理模型；
使用所述训练样本集合中的暗光样本图像对更新后的初始图像处理模型进行训练，直至更新后的初始图像处理模型输出的明亮图像与明亮样本图像之间的损失函数值小于预设阈值。
进一步的，所述初始图像处理模型包括：光特征提取网络和图像特征提取网络，其中，所述光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，所述图像特征提取网络中包括多个全连接层。
进一步的，在将所述暗光样本图像输入至初始图像处理模型之前，所述方法还包括：
获取多个不同曝光程度的真实明亮图像，并对所述真实明亮图像进行裁剪，得到多个图像块；
基于图像块进行图像编码，得到编码信息，并根据编码信息得到光照编码矩阵；
基于所述光照编码矩阵确定所述光特征提取网络在特征融合过程中的卷积参数，以及确定所述图像特征提取网络在特征融合过程中的通道系数。
进一步的，所述将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型中的光特征提取网络和图像特征提取网络分别提取所述暗光样本图像的图像特征，基于所述图像特征生成明亮图像，包括：
将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型提取所述暗光样本图像的图像特征，基于所述光特征提取网络根据图像特征以及所述光照编码矩阵生成第一图像特征，以及基于图像特征提取网络根据所述图像特征和所述通道系数生成第二图像特征，融合所述第一图像特征以及第二图像特征，生成明亮图像。
根据本申请实施例的另一方面，还提供了一种图像复原装置，包括：
第一获取模块，用于获取待复原的原始暗光图像；
第二获取模块，用于获取预先训练的图像处理模型，其中，所述图像处理模型包括：光特征提取网络和图像特征提取网络；
处理模块，用于将所述原始暗光图像输入所述图像处理模型，以使所述图像处理模型中的光特征提取网络提取所述原始暗光图像中的光照特征，以及图像特征提取网络提取所述原始暗光图像中的目标图像特征，基于所述光照特征以及所述目标图像特征生成目标明亮图像。
根据本申请实施例的另一方面，还提供了一种存储介质，该存储介质包括存储的程序，程序运行时执行上述的步骤。
根据本申请实施例的另一方面，还提供了一种电子装置，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；其中：存储器，用于存放计算机程序；处理器，用于通过运行存储器上所存放的程序来执行上述方法中的步骤。
本申请实施例还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述方法中的步骤。
本申请实施例提供的上述技术方案与现有技术相比具有如下优点：本申请采用图像处理模型中的光照编码提取提取网络和图像特征提取网络分别对原始暗光图像的图像特征进行处理，得到光照特征和目标图像特征，然后依据光照特征和目标图像特征融合后的特征进行图像复原，实现了通过一个模型对暗光图像进行暗光增强得到明亮图像，相比现有技术，不再需要分别使用暗光增强模型和超分辨率两个模型进行图像复原，提高了处理效率。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分，示出了符合本申请的实施例，并与说明书一起用于解释本申请的原理。
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，对于本领域普通技术人员而言，在不付出创造性劳动性的前提下，还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种图像复原方法的流程图；
图2为本申请另一实施例提供的一种图像复原方法的流程图；
图3为本申请实施例提供的光照编码矩阵的训练示意图；
图4为本申请实施例提供的图像复原过程的示意图；
图5为本申请实施例提供的一种图像复原装置的框图；
图6为本申请实施例提供的一种电子设备的结构示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚，下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本申请的一部分实施例，而不是全部的实施例，本申请的示意性实施例及其说明用于解释本申请，并不构成对本申请的不当限定。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动的前提下所获得的所有其他实施例，都属于本申请保护的范围。
需要说明的是，在本文中，诸如“第一”和“第二”等之类的关系术语仅仅用来将一个实体或者操作与另一个类似的实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本申请实施例提供了一种图像复原方法、装置、电子设备及存储介质。本发明实施例所提供的方法可以应用于任意需要的电子设备，例如，可以为服务器、终端等电子设备，在此不做具体限定，为描述方便，后续简称为电子设备。
根据本申请实施例的一方面，提供了一种图像复原方法的方法实施例。图1为本申请实施例提供的一种图像复原方法的流程图，如图1所示，该方法包括：
步骤S11，获取待复原的原始暗光图像。
本申请实施例提供的方法应用于服务端，该服务端用于执行原始暗光图像的复原操作，具体的，服务端通过接收客户端发送的图像处理请求，从图像处理请求中获取暗光图像，在该暗光图像的分辨率小于预设分辨率的情况下，将该暗光图像确定为待复原的原始暗光图像。
步骤S12，获取预先训练的图像处理模型，其中，图像处理模型包括：光特征提取网络和图像特征提取网络。
在本申请实施例中，预先训练的图像处理模型中包括：光特征提取网络和图像特征提取网络，其中，光特征提取网络中包括根据光照编码矩阵确定卷积参数以及卷积层，图像特征提取网络中包括多个全连接层。需要说明的是，光特征提取网络中卷积层的卷积参数是可以依据预先得到的光照编码矩阵设定，图像特征提取网络中的全连接层之间的通道系数同时可以依据预先得到的光照编码矩阵设定。
作为一个示例，首先获取预先训练的光照编码矩阵为R，基于光照编码矩阵R设定光特征提取网络中的卷积参数w，然后并确定第一卷积层的卷积核为3×3，第二层的卷积核为1×1。同时基于光照编码矩阵R设定图像特征提取网络中的通道系数。
在本申请实施例中，如图2所示，步骤S12，获取预先训练的图像处理模型包括以下步骤A1-A4：
步骤A1，获取训练样本集合，其中，训练样本集合中包括多个暗光样本图像，以及暗光样本图像对应的明亮样本图像。
在本申请实施例中，训练样本集合中包括：成对的暗光样本图像以及明亮样本图像，其中，暗光样本图像是基于暗光环境下进行短曝光得到的低分辨率图像，明亮样本图像是基于暗光环境下进行长曝光得到的高分辨率图像。
步骤A2，将暗光样本图像输入至初始图像处理模型，以使初始图像处理模型中的图像特征提取网络和光特征提取网络分别提取暗光样本图像的图像特征，基于图像特征生成明亮图像。
在本申请实施例中，初始图像处理模型包括：光特征提取网络和图像特征提取网络，其中，光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，图像特征提取网络中包括多个全连接层。
在本申请实施例中，将暗光样本图像输入至初始图像处理模型，以使初始图像处理模型提取暗光样本图像的图像特征，基于光特征提取网络根据图像特征以及卷积参数生成第一图像特征，以及基于图像特征提取网络根据图像特征和通道系数生成第二图像特征，融合第一图像特征以及第二图像特征，生成明亮图像。
在本申请实施例中，融合第一图像特征以及第二图像特征，生成明亮图像，包括：对第一图像特征和第二图像特征进行相加，得到融合后的图像特征，基于融合后的图像特征生成明亮图像。
步骤A3，计算明亮图像与明亮样本图像之间的损失函数值。
在本申请实施例中，明亮图像与明亮样本图像之间的损失函数值计算方式如下：
步骤A4，在损失函数值小于预设阈值的情况下，将初始图像处理模型确定为图像处理模型。
在本申请实施例中，Loss小于预设阈值的情况下，将初始图像处理模型确定为目标处理模型。
在本申请实施例中，方法还包括以下步骤B1-B2：
步骤B1，在损失函数值大于或等于预设阈值的情况下，更新初始图像处理模型中的模型参数，得到更新后的初始图像处理模型。
步骤B2，使用训练样本集合中的暗光样本图像对更新后的初始图像处理模型进行训练，直至更新后的初始图像处理模型输出的明亮图像与明亮样本图像之间的损失函数值小于预设阈值。
在本申请实施例中，根据损失函数的导数，将误差进行梯度回传，修正模型里面的参数，得到新参数值，后续模型使用新参数值重新进行图像处理，得到新的输出图像的损失函数，在该损失函数不再下降的时候，得到最终的图像处理模型。
在本申请实施例中，在将暗光样本图像输入至初始图像处理模型之前，方法还包括以下步骤C1-C3：
步骤C1，获取多个不同曝光程度的真实明亮图像，并对真实明亮图像进行裁剪，得到多个图像块。
步骤C2，基于图像块进行图像编码，得到编码信息，并根据编码信息得到光照编码矩阵。
步骤C3，基于光照编码矩阵确定光特征提取网络在特征融合过程中的卷积参数，以及确定图像特征提取网络在特征融合过程中的通道系数。
在本申请实施例中，由于存在多个图像块，因此对每个图像块进行编码，能够得到每个图像块对应的编码信息，从编码信息中提取光照编码，并基于每个光照编码生成光照编码矩阵。然后对光照编码矩阵进行训练，依据训练后的光照编码矩阵可以预先设定光特征提取网络中的卷积参数，以及预先设定图像特征提取网络中的通道系数。
需要说明的是，同一场景在不同曝光程度下所获得的图像具有的光照特征是不相
同的，而图像上不同部位之间的光照特征是相同的。例如：如图3所示，给定同一场景下不同
曝光的Bayer Raw格式图像并转成RGB图，同一图像内的图像块可视作正样本。其中encoder
编码器采取一个6层的CNN对上述图像块提取光照编码矩阵，然后输入到2层感知器（two-
layer MLP）中得到光照编码矩阵：
、
、
。所得到的光照编码矩阵中，
、
应该更加相
近（即same illumination representation），
和
应当相远（即different
illumination representation）。此处采用InfoNCE来度量每个表示之间的相似性，定义如
下。其中t是一个超参数。
在训练过程中，首先选取B个图像(即B个不同曝光图像)并每个图像内随机裁剪两
个块，然后将这2×B个图像块编码为
，基于2B个图像块编码计算整体损失，
计算过程如下：
然后在整体损失小于预设阈值时，得到最终的光照编码矩阵。
步骤S13，将原始暗光图像输入图像处理模型，以使图像处理模型中的光特征提取网络提取原始暗光图像中的光照特征，以及图像特征提取网络提取原始暗光图像中的目标图像特征，基于光照特征以及目标图像特征生成目标明亮图像。
在本申请实施例中，步骤S13，将原始暗光图像输入图像处理模型，以使图像处理模型中的光特征提取网络提取原始暗光图像中的光照特征，以及图像特征提取网络提取原始暗光图像中的目标图像特征，基于光照特征以及目标图像特征生成目标明亮图像的具体过程如下：
如图4所示，图像处理模型首先通过卷积层提取原始暗光图像中的原始图像特征F，原始图像特征F会分别传输至光特征提取网络和图像特征提取网络，此时，光特征提取网络中的全连接层（Fully Connected，缩写FC）对原始图像特征F和卷积参数w相乘得到处理后的原始图像特征，然后将处理后的原始图像特征输入光特征提取网络的卷积层（卷积层包括：深度卷积层和卷积核为1×1的卷积层）得到光照特征F1。同时，图像特征提取网络的全连接层（Fully Connected，缩写FC）会对原始图像特征F进行特征处理，并基于处理后的原始图像特征与通道系数v进行相乘得到目标图像特征F2。融合光照特征F1和目标图像特征F2，基于融合后的特征生成目标明亮图像。
本申请采用图像处理模型中的光照编码提取提取网络和图像特征提取网络分别对原始暗光图像的图像特征进行处理，得到光照特征和目标图像特征，然后依据光照特征和目标图像特征融合后的特征进行图像复原，实现了通过一个模型对暗光图像进行暗光增强得到明亮图像，相比现有技术，不再需要分别使用暗光增强模型和超分辨率两个模型进行图像复原，提高了处理效率。同时通过无监督的方式学习图像的光照编码矩阵，并利用图像处理模型利用光照编码矩阵融合图像特征，最后得到高光超分辨率图像，能够实现视觉上的暗光增强。
图5为本申请实施例提供的一种图像复原装置的框图，该装置可以通过软件、硬件或者两者的结合实现成为电子设备的部分或者全部。如图5所示，该装置包括：
第一获取模块31，用于获取待复原的原始暗光图像；
第二获取模块32，用于获取预先训练的图像处理模型，其中，图像处理模型包括：光特征提取网络和图像特征提取网络；
处理模块33，用于将原始暗光图像输入图像处理模型，以使图像处理模型中的光特征提取网络提取原始暗光图像中的光照特征，以及图像特征提取网络提取原始暗光图像中的目标图像特征，基于光照特征以及目标图像特征生成目标明亮图像。
在本申请实施例中，第一获取模块，用于获取训练样本集合，其中，训练样本集合中包括多个暗光样本图像，以及暗光样本图像对应的明亮样本图像；将暗光样本图像输入至初始图像处理模型，以使初始图像处理模型中的光特征提取网络和图像特征提取网络分别提取暗光样本图像的图像特征，基于图像特征生成明亮图像；计算明亮图像与明亮图像对应明亮样本图像之间的损失函数值；在损失函数值小于预设阈值的情况下，将初始图像处理模型确定为图像处理模型。
在本申请实施例中，装置还包括：训练模块，用于在损失函数值大于或等于预设阈值的情况下，更新初始图像处理模型中的模型参数，得到更新后的初始图像处理模型；使用训练样本集合中的暗光样本图像对更新后的初始图像处理模型进行训练，直至更新后的初始图像处理模型输出的明亮图像与明亮样本图像之间的损失函数值小于预设阈值。
在本申请实施例中，初始图像处理模型包括：光特征提取网络和图像特征提取网络，其中，光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，图像特征提取网络中包括多个全连接层。
在本申请实施例中，图像复原装置还包括：确定模块，用于获取多个不同曝光程度的真实明亮图像，并对真实明亮图像进行裁剪，得到多个图像块；基于图像块进行图像编码，得到编码信息，并根据编码信息得到光照编码矩阵；基于光照编码矩阵确定所述光特征提取网络在特征融合过程中的卷积参数，以及确定图像特征提取网络在特征融合过程中的通道系数。
在本申请实施例中，第一获取模块，用于将暗光样本图像输入至初始图像处理模型，以使初始图像处理模型提取暗光样本图像的图像特征，基于光特征提取网络根据图像特征以及光照编码矩阵生成第一图像特征，以及基于图像特征提取网络根据图像特征和通道系数生成第二图像特征，融合第一图像特征以及第二图像特征，生成明亮图像。
在本申请实施例中，处理模块33，用于将原始暗光图像输入图像处理模型，以使图像处理模型提取原始暗光图像的图像特征，基于图像处理模型中的光特征提取网络根据图像特征以及光照编码矩阵生成光照特征，以及基于图像特征提取网络根据图像特征和通道系数生成目标图像特征，融合光照特征以及目标图像特征，生成目标明亮图像。
本申请实施例采用单一模型对低分辨率暗光图像进暗光增强最终得到高分辨率的明亮图像，相比现有技术，不再需要分别使用暗光增强模型和超分辨率两个模型进行图像复原，缩短了处理流程，同时通过无监督的方式学习图像的光照编码矩阵，并利用光照编码矩阵确定图像处理模型中的各项参数，以使图像处理模型最终能够将暗光图像复原成超分辨率图像，在视觉上实现了暗光增强。
本申请实施例还提供一种电子设备，如图6所示，电子设备可以包括：处理器1501、通信接口1502、存储器1503和通信总线1504，其中，处理器1501，通信接口1502，存储器1503通过通信总线1504完成相互间的通信。
存储器1503，用于存放计算机程序；
处理器1501，用于执行存储器1503上所存放的计算机程序时，实现上述实施例的步骤。
上述终端提到的通信总线可以是外设部件互连标准(Peripheral ComponentInterconnect，简称PCI)总线或扩展工业标准结构(Extended Industry StandardArchitecture，简称EISA)总线等。该通信总线可以分为地址总线、数据总线、控制总线等。为便于表示，图中仅用一条粗线表示，但并不表示仅有一根总线或一种类型的总线。
通信接口用于上述终端与其他设备之间的通信。
存储器可以包括随机存取存储器(Random Access Memory，简称RAM)，也可以包括非易失性存储器(non-volatile memory)，例如至少一个磁盘存储器。可选的，存储器还可以是至少一个位于远离前述处理器的存储装置。
上述的处理器可以是通用处理器，包括中央处理器(Central Processing Unit，简称CPU)、网络处理器(Network Processor，简称NP)等；还可以是数字信号处理器(Digital Signal Processing，简称DSP)、专用集成电路(Application SpecificIntegrated Circuit，简称ASIC)、现场可编程门阵列(Field－Programmable Gate Array，简称FPGA)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
在本申请提供的又一实施例中，还提供了一种计算机可读存储介质，该计算机可读存储介质中存储有指令，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的图像复原方法。
在本申请提供的又一实施例中，还提供了一种包含指令的计算机程序产品，当其在计算机上运行时，使得计算机执行上述实施例中任一所述的图像复原方法。
在上述实施例中，可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时，可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时，全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中，或者从一个计算机可读存储介质向另一个计算机可读存储介质传输，例如，所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线（例如同轴电缆、光纤、数字用户线）或无线（例如红外、无线、微波等）方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质，(例如，软盘、硬盘、磁带)、光介质(例如，DVD)、或者半导体介质（例如固态硬盘SolidState Disk）等。
以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。
以上所述仅是本申请的具体实施方式，使本领域技术人员能够理解或实现本申请。对这些实施例的多种修改对本领域的技术人员来说将是显而易见的，本文中所定义的一般原理可以在不脱离本申请的精神或范围的情况下，在其它实施例中实现。因此，本申请将不会被限制于本文所示的这些实施例，而是要符合与本文所申请的原理和新颖特点相一致的最宽的范围。
Claims (9)
1.一种图像复原方法，其特征在于，包括：
获取待复原的原始暗光图像；
获取预先训练的图像处理模型，其中，所述图像处理模型包括：光特征提取网络和图像特征提取网络，所述光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，所述图像特征提取网络中包括多个全连接层；
将所述原始暗光图像输入所述图像处理模型，以使所述图像处理模型中的光特征提取网络提取所述原始暗光图像中的光照特征，以及图像特征提取网络提取所述原始暗光图像中的目标图像特征，基于所述光照特征以及所述目标图像特征生成目标明亮图像。
2.根据权利要求1所述的方法，其特征在于，所述获取预先训练的图像处理模型，包括：
获取训练样本集合，其中，所述训练样本集合中包括多个暗光样本图像，以及所述暗光样本图像对应的明亮样本图像；
将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型中的光特征提取网络和图像特征提取网络分别提取所述暗光样本图像的图像特征，基于所述图像特征生成明亮图像；
计算所述明亮图像与所述明亮图像对应明亮样本图像之间的损失函数值；
在所述损失函数值小于预设阈值的情况下，将所述初始图像处理模型确定为所述图像处理模型。
3.根据权利要求2所述的方法，其特征在于，所述方法还包括：
在所述损失函数值大于或等于预设阈值的情况下，更新所述初始图像处理模型中的模型参数，得到更新后的初始图像处理模型；
使用所述训练样本集合中的暗光样本图像对更新后的初始图像处理模型进行训练，直至更新后的初始图像处理模型输出的明亮图像与明亮样本图像之间的损失函数值小于预设阈值。
4.根据权利要求2所述的方法，其特征在于，所述初始图像处理模型包括：光特征提取网络和图像特征提取网络，其中，所述光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，所述图像特征提取网络中包括多个全连接层。
5.根据权利要求4所述的方法，其特征在于，在将所述暗光样本图像输入至初始图像处理模型之前，所述方法还包括：
获取多个不同曝光程度的真实明亮图像，并对所述真实明亮图像进行裁剪，得到多个图像块；
基于所述图像块进行图像编码，得到编码信息，并根据所述编码信息得到光照编码矩阵；
基于所述光照编码矩阵确定所述光特征提取网络在特征融合过程中的卷积参数，以及确定所述图像特征提取网络在特征融合过程中的通道系数。
6.根据权利要求5所述的方法，其特征在于，所述将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型中的光特征提取网络和图像特征提取网络分别提取所述暗光样本图像的图像特征，基于所述图像特征生成明亮图像，包括：
将所述暗光样本图像输入至初始图像处理模型，以使所述初始图像处理模型提取所述暗光样本图像的图像特征，基于所述光特征提取网络根据图像特征以及所述卷积参数生成第一图像特征，以及基于图像特征提取网络根据所述图像特征和所述通道系数生成第二图像特征，融合所述第一图像特征以及第二图像特征，生成明亮图像。
7.一种图像复原装置，其特征在于，包括：
第一获取模块，用于获取待复原的原始暗光图像；
第二获取模块，用于获取预先训练的图像处理模型，其中，所述图像处理模型包括：光特征提取网络和图像特征提取网络，所述光特征提取网络中包括基于光照编码矩阵确定的卷积参数以及卷积层，所述图像特征提取网络中包括多个全连接层；
处理模块，用于将所述原始暗光图像输入所述图像处理模型，以使所述图像处理模型中的光特征提取网络提取所述原始暗光图像中的光照特征，以及图像特征提取网络提取所述原始暗光图像中的目标图像特征，基于所述光照特征以及所述目标图像特征生成目标明亮图像。
8.一种存储介质，其特征在于，所述存储介质包括存储的程序，其中，所述程序运行时执行上述权利要求1至6中任一项所述的方法步骤。
9.一种电子设备，其特征在于，包括处理器、通信接口、存储器和通信总线，其中，处理器，通信接口，存储器通过通信总线完成相互间的通信；其中：
存储器，用于存放计算机程序；
处理器，用于通过运行存储器上所存放的程序来执行权利要求1-6中任一项所述的方法步骤。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210000435.0A CN114022394B (zh) | 2022-01-04 | 2022-01-04 | 一种图像复原方法、装置、电子设备及存储介质 |
| PCT/CN2022/095379 WO2023130650A1 (zh) | 2022-01-04 | 2022-05-26 | 一种图像复原方法、装置、电子设备及存储介质 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN202210000435.0A CN114022394B (zh) | 2022-01-04 | 2022-01-04 | 一种图像复原方法、装置、电子设备及存储介质 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN114022394A true CN114022394A (zh) | 2022-02-08 |
| CN114022394B CN114022394B (zh) | 2022-04-19 |
Family
ID=80069488
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN202210000435.0A Active CN114022394B (zh) | 2022-01-04 | 2022-01-04 | 一种图像复原方法、装置、电子设备及存储介质 |
Country Status (2)
| Country | Link |
|---|---|
| CN (1) | CN114022394B (zh) |
| WO (1) | WO2023130650A1 (zh) |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023130650A1 (zh) * | 2022-01-04 | 2023-07-13 | 苏州浪潮智能科技有限公司 | 一种图像复原方法、装置、电子设备及存储介质 |
| CN117237248A (zh) * | 2023-09-27 | 2023-12-15 | 中山大学 | 一种曝光调整曲线估计方法、装置、电子设备及存储介质 |
| CN117745595A (zh) * | 2024-02-18 | 2024-03-22 | 珠海金山办公软件有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN118233757A (zh) * | 2024-05-23 | 2024-06-21 | 北京蓝色星河软件技术发展有限公司 | 图像处理方法、图像采集设备、装置、介质及产品 |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN117809202B (zh) * | 2024-02-28 | 2024-05-31 | 中国地质大学（武汉） | 一种双模态目标检测方法及*** |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108305236A (zh) * | 2018-01-16 | 2018-07-20 | 腾讯科技（深圳）有限公司 | 图像增强处理方法及装置 |
| CN109191388A (zh) * | 2018-07-27 | 2019-01-11 | 上海爱优威软件开发有限公司 | 一种暗图像处理方法及*** |
| CN111242868A (zh) * | 2020-01-16 | 2020-06-05 | 重庆邮电大学 | 暗视觉环境下基于卷积神经网络的图像增强方法 |
| KR20210053052A (ko) * | 2019-11-01 | 2021-05-11 | 엘지전자 주식회사 | 컬러 복원방법 및 장치 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN113744169A (zh) * | 2021-09-07 | 2021-12-03 | 讯飞智元信息科技有限公司 | 图像增强方法、装置、电子设备和存储介质 |
| CN114022394B (zh) * | 2022-01-04 | 2022-04-19 | 苏州浪潮智能科技有限公司 | 一种图像复原方法、装置、电子设备及存储介质 |
-
2022
- 2022-01-04 CN CN202210000435.0A patent/CN114022394B/zh active Active
- 2022-05-26 WO PCT/CN2022/095379 patent/WO2023130650A1/zh unknown
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN108305236A (zh) * | 2018-01-16 | 2018-07-20 | 腾讯科技（深圳）有限公司 | 图像增强处理方法及装置 |
| CN109191388A (zh) * | 2018-07-27 | 2019-01-11 | 上海爱优威软件开发有限公司 | 一种暗图像处理方法及*** |
| KR20210053052A (ko) * | 2019-11-01 | 2021-05-11 | 엘지전자 주식회사 | 컬러 복원방법 및 장치 |
| CN111242868A (zh) * | 2020-01-16 | 2020-06-05 | 重庆邮电大学 | 暗视觉环境下基于卷积神经网络的图像增强方法 |
Cited By (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2023130650A1 (zh) * | 2022-01-04 | 2023-07-13 | 苏州浪潮智能科技有限公司 | 一种图像复原方法、装置、电子设备及存储介质 |
| CN117237248A (zh) * | 2023-09-27 | 2023-12-15 | 中山大学 | 一种曝光调整曲线估计方法、装置、电子设备及存储介质 |
| CN117745595A (zh) * | 2024-02-18 | 2024-03-22 | 珠海金山办公软件有限公司 | 图像处理方法、装置、电子设备及存储介质 |
| CN118233757A (zh) * | 2024-05-23 | 2024-06-21 | 北京蓝色星河软件技术发展有限公司 | 图像处理方法、图像采集设备、装置、介质及产品 |
Also Published As
| Publication number | Publication date |
|---|---|
| CN114022394B (zh) | 2022-04-19 |
| WO2023130650A1 (zh) | 2023-07-13 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN114022394B (zh) | 一种图像复原方法、装置、电子设备及存储介质 | |
| WO2018150083A1 (en) | A method and technical equipment for video processing | |
| CN112560861B (zh) | 票据处理方法、装置、设备及存储介质 | |
| CN110544214A (zh) | 一种图像修复方法、装置及电子设备 | |
| CN107545301B (zh) | 页面展示方法及装置 | |
| US11836898B2 (en) | Method and apparatus for generating image, and electronic device | |
| CN114511576B (zh) | 尺度自适应特征增强深度神经网络的图像分割方法与*** | |
| US20200104711A1 (en) | Method and apparatus for training a neural network used for denoising | |
| CN114667522A (zh) | 将数据样本转换为正常数据 | |
| WO2023077809A1 (zh) | 神经网络训练的方法、电子设备及计算机存储介质 | |
| US11948273B2 (en) | Image processing method, storage medium, image processing apparatus, trained model producing method, learning method, learning apparatus, and image processing system | |
| CN110119736B (zh) | 车牌位置识别方法、装置及电子设备 | |
| CN111031359B (zh) | 视频播放方法、装置、电子设备和计算机可读存储介质 | |
| CN111145202B (zh) | 模型生成方法、图像处理方法、装置、设备及存储介质 | |
| CN112434744A (zh) | 一种多模态特征融合模型的训练方法及装置 | |
| CN112995673B (zh) | 一种样本图像处理方法、装置、电子设备以及介质 | |
| CN116452469B (zh) | 一种基于深度学习的图像去雾处理方法及装置 | |
| CN116468525A (zh) | 信息处理方法、装置、电子设备以及计算机存储介质 | |
| CN116664694A (zh) | 图像亮度获取模型的训练方法、图像获取方法及移动终端 | |
| CN115937121A (zh) | 基于多维度特征融合的无参考图像质量评价方法及*** | |
| CN112669240B (zh) | 高清图像修复方法、装置、电子设备和存储介质 | |
| CN110708469A (zh) | 用于适配曝光参数的方法和装置以及相应的相机曝光*** | |
| CN114638304A (zh) | 图像识别模型的训练方法、图像识别方法及装置 | |
| CN114219725A (zh) | 一种图像处理方法、终端设备及计算机可读存储介质 | |
| CN112581401A (zh) | 一种raw图片的获取方法、装置及电子设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |