CN111223061A - 图像修正方法、修正装置、终端设备及可读存储介质 - Google Patents

图像修正方法、修正装置、终端设备及可读存储介质 Download PDF

Info

Publication number
CN111223061A
CN111223061A CN202010013217.1A CN202010013217A CN111223061A CN 111223061 A CN111223061 A CN 111223061A CN 202010013217 A CN202010013217 A CN 202010013217A CN 111223061 A CN111223061 A CN 111223061A
Authority
CN
China
Prior art keywords
image
hdr
hdr image
feature map
cnn
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN202010013217.1A
Other languages
English (en)
Inventor
何慕威
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Guangdong Oppo Mobile Telecommunications Corp Ltd
Original Assignee
Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Guangdong Oppo Mobile Telecommunications Corp Ltd filed Critical Guangdong Oppo Mobile Telecommunications Corp Ltd
Priority to CN202010013217.1A priority Critical patent/CN111223061A/zh
Publication of CN111223061A publication Critical patent/CN111223061A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00—Image enhancement or restoration
    • G06T5/80—Geometric correction
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/048—Activation functions
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20081—Training; Learning
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20084—Artificial neural networks [ANN]
    • G—PHYSICS
    • G06—COMPUTING; CALCULATING OR COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00—Indexing scheme for image analysis or image enhancement
    • G06T2207/20—Special algorithmic details
    • G06T2207/20172—Image enhancement details
    • G06T2207/20208—High dynamic range [HDR] image processing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Molecular Biology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Computation (AREA)
  • General Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • Computing Systems (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)

Abstract

本申请提供了一种图像修正方法、修正装置、终端设备及可读存储介质。所述方法包括：获取包含伪影的高动态范围HDR图像，以及用于合成所述HDR图像的多帧低动态范围LDR图像；从所述多帧LDR图像中选取一帧图像作为参考图像；将所述HDR图像以及所述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，所述特征图用于去除所述HDR图像中的伪影；根据所述特征图，去除所述HDR图像中的伪影，得到修正HDR图像。本申请能够当获取到带伪影的HDR图像时，在一定程度上消除该HDR图像中的伪影。

Description

图像修正方法、修正装置、终端设备及可读存储介质
技术领域
本申请属于终端设备技术领域，尤其涉及一种图像修正方法、图像修正装置、终端设备及计算机可读存储介质。
背景技术
目前，为获取高动态范围(High Dynamic Range，HDR)图像，需要首先依时间顺序获取多帧不同曝光时长下的低动态范围(Low Dynamic Range，LDR)图像，然后将多帧LDR图像进行融合，得到HDR图像。
上述传统的HDR图像获取方法中，由于需要依时间顺序获取多帧不同的LDR图像，因此，当拍摄主体快速运动时，会导致合成的HDR图像出现伪影。
由此可见，如何去除HDR图像中的伪影是目前亟待解决的技术问题。
发明内容
有鉴于此，本申请实施例提供了一种图像修正方法、图像修正装置、终端设备及计算机可读存储介质。能够当获取到带伪影的HDR图像时，在一定程度上消除该HDR图像中的伪影。
本申请实施例的第一方面提供了一种图像修正方法，包括：
获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
从上述多帧LDR图像中选取一帧图像作为参考图像；
将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图用于去除上述HDR图像中的伪影；
根据上述特征图，去除上述HDR图像中的伪影，得到修正HDR图像。
本申请实施例的第二方面提供了一种图像修正装置，包括：
图像获取模块，用于获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
选取模块，用于从上述多帧LDR图像中选取一帧图像作为参考图像；
特征获取模块，用于将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图用于去除上述HDR图像中的伪影；
伪影去除模块，用于根据上述特征图，去除上述HDR图像中的伪影，得到修正HDR图像。
本申请实施例的第三方面提供了一种终端设备，包括存储器、处理器以及存储在上述存储器中并可在上述处理器上运行的计算机程序，上述处理器执行上述计算机程序时实现如上述第一方面所述图像修正方法的步骤。
本申请实施例的第四方面提供了一种计算机可读存储介质，上述计算机可读存储介质存储有计算机程序，上述计算机程序被处理器执行时实现如上述第一方面所述图像修正方法的步骤。
本申请实施例的第五方面提供了一种计算机程序产品，上述计算机程序产品包括计算机程序，上述计算机程序被一个或多个处理器执行时实现如上述第一方面所述图像修正方法的步骤。
由上可见，本申请提供了一种图像修正方法。该图像修正方法在获取到包含伪影的HDR图像之后，首先，从各个LDR图像中选取一LDR图像作为参考图像；其次，将上述HDR图像以及上述LDR图像输入至第一CNN中，得到用于去除HDR图像的特征图；最后，利用所述特征图，去除HDR图像中的伪影。
由于HDR图像中包含有伪影信息，参考图像中不包含伪影信息，因此，可以同时基于上述HDR图像以及上述参考图像来确定将上述HDR图像中的伪影修正为正常图像时所需的信息，并且由于卷积神经网络模型具备较强的图像信息学习能力，因此，考虑到为了获取到效果较好的修正HDR图像，申请人基于卷积神经网络模型来确定消除伪影所需的特征图。
基于上述分析可知，本申请所限定的技术方案，能够当获取到的HDR图像带有伪影时，在一定程度上消除该HDR图像中的伪影。
附图说明
为了更清楚地说明本申请实施例中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例。
图1是本申请实施例一提供的一种图像修正方法的流程示意图；
图2是本申请实施例二提供的另一种图像修正方法的流程示意图；
图3是本申请实施例二提供的对第一CNN进行训练的过程示意图；
图4是本申请实施例三提供的一种图像修正装置的结构示意图；
图5是本申请实施例四提供的终端设备的结构示意图；
具体实施方式
以下描述中，为了说明而不是为了限定，提出了诸如特定的技术细节，以便透彻理解本申请实施例。然而，本领域的技术人员应当清楚，在没有这些具体细节的其它实施例中也可以实现本申请。在其它情况中，省略对众所周知的***、装置、电路以及方法的详细说明，以免不必要的细节妨碍本申请的描述。
本申请实施例提供的方法可以适用于终端设备，示例性地，该终端设备包括但不限于：智能手机、平板电脑、笔记本、桌上型计算机、云端服务器等。
应当理解，当在本说明书和所附权利要求书中使用时，术语“包括”指示所描述特征、整体、步骤、操作、元素和/或组件的存在，但并不排除一个或多个其它特征、整体、步骤、操作、元素、组件和/或其集合的存在或添加。
还应当进一步理解，在本申请说明书和所附权利要求书中使用的术语“和/或”是指相关联列出的项中的一个或多个的任何组合以及所有可能组合，并且包括这些组合。
如在本说明书和所附权利要求书中所使用的那样，术语“如果”可以依据上下文被解释为“当...时”或“一旦”或“响应于确定”或“响应于检测到”。类似地，短语“如果确定”或“如果检测到[所描述条件或事件]”可以依据上下文被解释为意指“一旦确定”或“响应于确定”或“一旦检测到[所描述条件或事件]”或“响应于检测到[所描述条件或事件]”。
另外，在本申请的描述中，术语“第一”、“第二”等仅用于区分描述，而不能理解为指示或暗示相对重要性。
为了说明本申请所述的技术方案，下面通过具体实施例来进行说明。
实施例一
下面对本申请实施例一提供的图像修正方法进行描述，该修正方法应用于终端设备(比如智能手机)，请参阅附图1，该方法包括如下步骤：
在步骤S101中，获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
在本申请实施例中，终端设备可以直接让用户输入包含伪影的HDR图像以及用于合成该HDR图像的LDR图像。
或者，也可以在获取到各个LDR图像之后，自动生成上述HDR图像，也即是，该步骤S101可以包括如下步骤：
步骤S1011、获取多帧LDR图像，并根据该多帧LDR图像，判断该多帧LDR图像中的拍摄主体的移动幅度是否大于预设幅度；
步骤S1012、若大于上述预设幅度，则将上述多帧LDR图像进行图像融合后的图像确定所述包含伪影的HDR图像。
也即是，在获取到多帧LDR图像之后，需确定拍摄主体的移动幅度是否较大(比如可以使用现有技术中的光流法检测移动幅度)，若移动幅度较大时，则可以说明该拍摄主体存在快速运动，那么图像融合后得到的HDR图像会包含伪影，因此直接将各帧LDR图像进行图像融合后得到的图像确定为包含伪影的HDR图像。
本领域技术人员容易理解，当终端设备检测到拍摄主体不存在大幅度移动时，可以直接将多帧LDR图像融合后的图像输出并保存，因为此时得到的HDR图像不存在伪影，不需要利用本申请的技术方案消除伪影。
在步骤S102中，从上述多帧LDR图像中选取一帧作为参考图像；
在该步骤中，可以从多帧LDR图像中任意选取一帧作为参考图像，但由于后续步骤需要基于该参考图像确定将伪影修正为正常图像所需的特征图，因此，考虑到修正HDR图像的图像质量，该参考图像可以选择为拍摄主体及其周边区域的图像质量较好的一帧图像，通常来说，正常曝光时长下，拍摄主体及其周边区域的图像质量较好，因此，该参考图像可以选择多帧LDR图像中，正常曝光时长的一帧图像。
比如，目前的智能手机在拍摄LDR图像时，往往会拍摄3帧HDR图像，最开始拍摄的为短曝光图像，最后拍摄的为长曝光图像，中间一帧为正常曝光时长下的图像，则可以选择中间的一帧作为上述参考图像。
在步骤S103中，将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图用于去除上述HDR图像中的伪影；
在该步骤S103中，上述特征图必然是通过预设算法来去除上述HDR图像中的伪影的。本申请实施例一并不对该“预设算法”进行具体限定，在本申请实施例二中，该预设算法具体为点乘运算(该“点乘运算”的具体定义可参见实施例二)，但是本领域技术人员应该能够理解，该预设算法也完全可以是点乘运算之前的其他运算，并且，可以在确定预设算法类型之后，训练上述第一CNN(Convolutional Neural Network，卷积神经网络)模型，使得该第一CNN模型输出的特征图能够基于预设算法消除图像中的伪影，具体的对上述第一CNN模型的训练方式也可以参见后续的实施例二。
由于上述第一CNN需要重点学习伪影区域的图像信息，因此，该第一CNN可以为基于注意力机制的卷积神经网络，但其它类型的CNN也是可以实现技术效果的，本申请并不对上述第一CNN的具体选择进行限定。
在步骤S104中，根据上述特征图，去除上述HDR图像中的伪影，得到修正HDR图像；
由于上述步骤S103所述的特征图是基于上述预设算法来消除伪影的，因此，在得到特征图之后，基于该预设算法，对HDR图像进行处理，从而得到消除伪影后的HDR图像。
此外，由于样本图像数量以及质量等的限制，单单依据上述第一CNN可能并不能完全消除HDR图像中的伪影，或者在消除伪影的同时，对图像中的其他非伪影区域做了畸变处理，从而导致步骤S104所得到的修正HDR图像效果不佳，因此，为了进一步获取到用户希望得到的图像，可以在上述步骤S104之后，将上述修正HDR图像再次输入至一CNN中(即第二CNN)，再次对修正HDR图像进行修正，得到最终HDR图像，从而进一步提高用户体验。
本申请实施例所提供的技术方案，基于包含伪影的HDR图像以及未包含伪影的参考图像，获取到了能够消除伪影的特征图，从而能够当获取到的HDR图像带有伪影时，在一定程度上消除该HDR图像中的伪影。
实施例二
本申请实施例二提供了另一种图像修正方法，请参阅附图2，该图像修正方法包括：
在步骤S201中，获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
在步骤S202中，从上述多帧LDR图像中选取一帧作为参考图像；
上述步骤S201-S202的具体实施方式与实施例一中的步骤S101-S102完全相同，具体可参见实施例一的描述，此处不再赘述。
在步骤S203中，将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图的通道数与上述HDR图像的通道数相同，且该特征图的尺寸与上述HDR图像的尺寸相同，该特征图具体用于通过点乘运算去除上述HDR图像中的伪影；
与实施例一不同的是，本申请实施例二将实施例一所述的“预设算法”具体限定为“点乘运算”(本申请实施例二所述的点乘运算的定义参见后续描述)。
在本申请实施例二中，上述第一CNN输出的特征图的通道数以及尺寸分别与上述HDR图像的通道数与尺寸相同，比如，若HDR图像的尺寸为1280×1024，通道数为3(通常分别为R通道、G通道以及B通道)，则该第一CNN输出的特征图也应为3通道且尺寸也为1280×1024。
下面论述本申请所述的点乘运算的具体定义：
通过如下公式(1)计算去除伪影后的修正HDR图像的各个通道，其中，公式(1)为：
Hi，j R＝Ci，j*Hi，j(i＝1…M；j＝1…N) (1)
其中，Ci，j为上述训练后的第一CNN输出的特征图的某通道，比如R通道的位置(i，j)处的像素值，Hi，j为上述HDR图像在R通道的位置(i，j)处的像素值，Hi，j R为上述修正HDR图像在R通道的位置(i，j)处的像素值，上述HDR图像的尺寸为M×N，将上述公式(1)应用到其他通道，得到修正HDR图像的其他通道的信息，比如得到修正HDR图像在G通道和B通道的信息。在知晓该修正HDR图像在各个通道的信息之后，即可得到该修正HDR图像。
基于上述点乘运算的具体定义，下面论述训练本申请实施例二所述的训练后的第一CNN的方法，如图3所示：
步骤1、如图3所示，获取n组样本图像(n大于等于2)，其中每一组样本图像中均包括：带伪影的HDR样本图像、生成该带伪影的HDR样本图像的多帧LDR样本图像、消除伪影的HDR样本图像，以及通过上述点乘运算的具体定义，将带伪影的HDR样本图像修正为消除伪影的HDR样本图像所需的样本特征图。本领域技术人员应该理解，各组之间的样本图像所包含的图像内容应不同。
步骤2、如图3所示，对于每组样本图像，从该组样本图像中选择一帧LDR样本图像作为参考样本图像，将该参考样本图像以及该组的带伪影的HDR样本图像输入至第一CNN中，将该第一CNN输出的输出特征图与该组样本图像中的样本特征图进行比较，同理，对于其他组样本图像，也执行相同的操作；
步骤3、基于比较结果，确定该第一CNN的损失函数；
步骤4、调整该第一CNN中的参数，然后返回步骤2，直至该第一CNN的损失函数的数值达到要求为止。
基于上述步骤1至步骤4即可得到上述步骤S203所述的训练后的第一CNN。此外，在上述步骤2中，参考样本图像与带伪影的HDR样本图像输入至第一CNN的过程可以为：对于每组样本图像来说，将该组样本图像中的参考样本图像从LDR域映射至HDR域(可以通过伽马校准等方式进行映射)，将映射后的参考样本图像与该组样本图像中的带伪影的HDR样本图像进行通道级联，然后再输入至该第一CNN中。并且，上述步骤2中，输出特征图可以是第一CNN输出的初始特征图进行归一化计算得到的(可以通过Sigmod函数进行归一化计算)。
也即是，本申请并不对上述步骤2中，数据输入至第一CNN的方式，以及该第一CNN输出特征图的方式进行具体限定。但是本领域技术人员容易理解，若训练该第一CNN时，首先将参考样本图像映射至HDR域，然后与带伪影的HDR样本图像进行通道级联后输入第一CNN，将该第一CNN输出的初始特征图进行归一化处理，得到输出特征图，那么在训练完成后，使用训练后的第一CNN时，包括如下步骤(即上述步骤S203包括)：将步骤S202所述的参考图像从LDR域映射至HDR域，得到映射后参考图像；将步骤S201获取的所述HDR图像以及所述映射后参考图像进行通道级联后输入至训练后的所述第一CNN中，得到该第一CNN输出的初始特征图；对所述初始特征图进行归一化处理，得到用于通过所述点乘运算去除伪影的所述特征图。
在步骤S204中，对于上述特征图的每个通道，基于上述点乘运算，将该通道与上述HDR图像的对应通道进行点乘运算，将基于该点乘运算得到的修正HDR图像的各个通道进行合成，得到去除HDR图像伪影的修正HDR图像；
基于在上述步骤S203所述的点乘运算的定义，即可得到消除伪影的修正HDR图像，此处不再赘述。
本领域技术人员容易理解，基于上述点乘运算的具体定义，训练后的第一CNN输出的特征图中，对于没有伪影的区域，像素值应为1，有伪影的区域，像素值不为1，从而实现对带伪影的HDR图像的修正。然而，由于样本图像数量以及质量等的限制，训练得到的第一CNN输出的特征图可能并不能保证非伪影区域的像素值均为1，也不能保证能够非常正确地修正伪影区域，因此，上述步骤S204所得到的修正HDR图像的效果可能不佳，因此，为了进一步获取到用户希望得到的图像，可以在上述步骤S204之后，将上述修正HDR图像再次修正，可通过另一训练后第二CNN，得到最终HDR图像，从而进一步提高用户体验，得到效果较好地HDR图像。
本申请实施例二所提供的技术方案，相比于实施例一给出了一种更为具体地消除伪影的方式，且该实施例二与实施例一相同，能够当获取到的HDR图像带有伪影时，在一定程度上消除该HDR图像中的伪影。
实施例三
本申请实施例三提供了一种图像修正装置。为了便于说明，仅示出与本申请相关的部分，如图4所示，该图像修正装置400包括：
图像获取模块401，用于获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
选取模块402，用于从上述多帧LDR图像中选取一帧图像作为参考图像；
特征获取模块403，用于将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图用于去除上述HDR图像中的伪影；
伪影去除模块404，用于根据上述特征图，去除上述HDR图像中的伪影，得到修正HDR图像。
可选地，上述特征图的通道数与上述HDR图像的通道数相同，且上述特征图的尺寸与上述HDR图像的尺寸相同，上述特征图具体用于通过点乘运算去除上述HDR图像中的伪影；
相应地，上述伪影去除模块404包括：
点乘单元，用于对于上述特征图的每个通道，基于点乘运算，将该通道与上述HDR图像的对应通道进行点乘运算，其中，上述点乘运算的计算公式为：
Hi，j R＝Ci，j*Hi，j(i＝1…M；j＝1…N)
其中，Ci，j为上述特征图的该通道在位置(i，j)处的像素值，Hi，j为上述HDR图像在该通道的位置(i，j)处的像素值，Hi，j R为上述修正HDR图像在该通道的位置(i，j)处的像素值，上述HDR图像的尺寸为M×N；
合成单元，用于将基于上述点乘运算得到的上述修正HDR图像的各个通道进行合成，得到去除HDR图像伪影的该修正HDR图像。
可选地，上述特征获取模块403包括：
映射单元，用于将上述参考图像从LDR域映射至HDR域，得到映射后参考图像；
级联单元，用于将上述HDR图像以及上述映射后参考图像进行通道级联后输入至训练后的上述第一CNN中，得到该第一CNN输出的初始特征图；
归一化单元，用于对上述初始特征图进行归一化处理，得到用于通过上述点乘运算去除伪影的所述特征图。
可选地，上述第一CNN为基于注意力机制的卷积神经网络。
可选地，上述图像获取模块401包括：
LDR单元，用于获取多帧LDR图像，并根据该多帧LDR图像，判断该多帧LDR图像中的拍摄主体的移动幅度是否大于预设幅度；
伪影HDR单元，用于若大于上述预设幅度，则将上述多帧LDR图像进行图像融合后得到图像确定为上述包含伪影的HDR图像。
可选地，上述图像修正模块400还包括：
再次修正模块，用于将上述修正HDR图像输入至训练后的第二CNN中，使得该第二CNN对上述修正HDR进行再次修正，得到最终HDR图像。
需要说明的是，上述装置/单元之间的信息交互、执行过程等内容，由于与本申请方法实施例一以及方法实施例二基于同一构思，其具体功能及带来的技术效果，具体可参见相应方法实施例部分，此处不再赘述。
实施例四
图5是本申请实施例四提供的终端设备的示意图。如图5所示，该实施例的终端设备500包括：处理器501、存储器502以及存储在上述存储器502中并可在上述处理器501上运行的计算机程序503。上述处理器501执行上述计算机程序503时实现上述各个方法实施例中的步骤。或者，上述处理器501执行上述计算机程序503时实现上述各装置实施例中各模块/单元的功能。
示例性的，上述计算机程序503可以被分割成一个或多个模块/单元，上述一个或者多个模块/单元被存储在上述存储器502中，并由上述处理器501执行，以完成本申请。上述一个或多个模块/单元可以是能够完成特定功能的一系列计算机程序指令段，该指令段用于描述上述计算机程序503在上述终端设备500中的执行过程。例如，上述计算机程序503可以被分割成图像获取模块、选取模块、特征获取模块以及伪影去除模块，各模块具体功能如下：
获取包含伪影的高动态范围HDR图像，以及用于合成该HDR图像的多帧低动态范围LDR图像；
从上述多帧LDR图像中选取一帧图像作为参考图像；
将上述HDR图像以及上述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，该特征图用于去除上述HDR图像中的伪影；
根据上述特征图，去除上述HDR图像中的伪影，得到修正HDR图像。
上述终端设备可包括，但不仅限于，处理器501、存储器502。本领域技术人员可以理解，图5仅仅是终端设备500的示例，并不构成对终端设备500的限定，可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件，例如上述终端设备还可以包括输入输出设备、网络接入设备、总线等。
所称处理器501可以是中央处理单元(Central Processing Unit，CPU)，还可以是其它通用处理器、数字信号处理器(Digital Signal Processor，DSP)、专用集成电路(Application Specific Integrated Circuit，ASIC)、现场可编程门阵列(Field-Programmable Gate Array，FPGA)或者其它可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件等。通用处理器可以是微处理器或者该处理器也可以是任何常规的处理器等。
上述存储器502可以是上述终端设备500的内部存储单元，例如终端设备500的硬盘或内存。上述存储器502也可以是上述终端设备500的外部存储设备，例如上述终端设备500上配备的插接式硬盘，智能存储卡(Smart Media Card,SMC)，安全数字(SecureDigital,SD)卡，闪存卡(Flash Card)等。进一步地，上述存储器502还可以既包括上述终端设备500的内部存储单元也包括外部存储设备。上述存储器502用于存储上述计算机程序以及上述终端设备所需的其它程序和数据。上述存储器502还可以用于暂时地存储已经输出或者将要输出的数据。
所属领域的技术人员可以清楚地了解到，为了描述的方便和简洁，仅以上述各功能单元、模块的划分进行举例说明，实际应用中，可以根据需要而将上述功能分配由不同的功能单元、模块完成，即将上述装置的内部结构划分成不同的功能单元或模块，以完成以上描述的全部或者部分功能。实施例中的各功能单元、模块可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中，上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。另外，各功能单元、模块的具体名称也只是为了便于相互区分，并不用于限制本申请的保护范围。上述***中单元、模块的具体工作过程，可以参考前述方法实施例中的对应过程，在此不再赘述。
在上述实施例中，对各个实施例的描述都各有侧重，某个实施例中没有详述或记载的部分，可以参见其它实施例的相关描述。
本领域普通技术人员可以意识到，结合本文中所公开的实施例描述的各示例的单元及算法步骤，能够以电子硬件、或者计算机软件和电子硬件的结合来实现。这些功能究竟以硬件还是软件方式来执行，取决于技术方案的特定应用和设计约束条件。专业技术人员可以对每个特定的应用来使用不同方法来实现所描述的功能，但是这种实现不应认为超出本申请的范围。
在本申请所提供的实施例中，应该理解到，所揭露的装置/终端设备和方法，可以通过其它的方式实现。例如，以上所描述的装置/终端设备实施例仅仅是示意性的，例如，上述模块或单元的划分，仅仅为一种逻辑功能划分，实际实现时可以有另外的划分方式，例如多个单元或组件可以结合或者可以集成到另一个***，或一些特征可以忽略，或不执行。
上述作为分离部件说明的单元可以是或者也可以不是物理上分开的，作为单元显示的部件可以是或者也可以不是物理单元，即可以位于一个地方，或者也可以分布到多个网络单元上。可以根据实际的需要选择其中的部分或者全部单元来实现本实施例方案的目的。
另外，在本申请各个实施例中的各功能单元可以集成在一个处理单元中，也可以是各个单元单独物理存在，也可以两个或两个以上单元集成在一个单元中。上述集成的单元既可以采用硬件的形式实现，也可以采用软件功能单元的形式实现。
上述集成的模块/单元如果以软件功能单元的形式实现并作为独立的产品销售或使用时，可以存储在一个计算机可读取存储介质中。基于这样的理解，本申请实现上述各个方法实施例中的全部或部分流程，也可以通过计算机程序来指令相关的硬件来完成，上述的计算机程序可存储于一计算机可读存储介质中，该计算机程序在被处理器执行时，可实现上述各个方法实施例的步骤。其中，上述计算机程序包括计算机程序代码，上述计算机程序代码可以为源代码形式、对象代码形式、可执行文件或某些中间形式等。上述计算机可读介质可以包括：能够携带上述计算机程序代码的任何实体或装置、记录介质、U盘、移动硬盘、磁碟、光盘、计算机存储器、只读存储器(ROM，Read-Only Memory)、随机存取存储器(RAM，Random Access Memory)、电载波信号、电信信号以及软件分发介质等。需要说明的是，上述计算机可读介质包含的内容可以根据司法管辖区内立法和专利实践的要求进行适当的增减，例如在某些司法管辖区，根据立法和专利实践，计算机可读介质不包括电载波信号和电信信号。
以上上述实施例仅用以说明本申请的技术方案，而非对其限制；尽管参照前述实施例对本申请进行了详细的说明，本领域的普通技术人员应当理解：其依然可以对前述各实施例所记载的技术方案进行修改，或者对其中部分技术特征进行等同替换；而这些修改或者替换，并不使相应技术方案的本质脱离本申请各实施例技术方案的精神和范围，均应包含在本申请的保护范围之内。

Claims (10)

1.一种图像修正方法，其特征在于，包括：
获取包含伪影的高动态范围HDR图像，以及用于合成所述HDR图像的多帧低动态范围LDR图像；
从所述多帧LDR图像中选取一帧图像作为参考图像；
将所述HDR图像以及所述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，所述特征图用于去除所述HDR图像中的伪影；
根据所述特征图，去除所述HDR图像中的伪影，得到修正HDR图像。
2.如权利要求1所述的图像修正方法，其特征在于，所述特征图的通道数与所述HDR图像的通道数相同，且所述特征图的尺寸与所述HDR图像的尺寸相同，所述特征图具体用于通过点乘运算去除所述HDR图像中的伪影；
相应地，所述根据所述特征图，去除所述HDR图像中的伪影，得到修正HDR图像，包括：
对于所述特征图的每个通道，基于点乘运算，将该通道与所述HDR图像的对应通道进行点乘运算，其中，所述点乘运算的计算公式为：
Hi，j R＝Ci，j*Hi，j(i＝1…M；j＝1…N)
其中，Ci，j为所述特征图的该通道在位置(i，j)处的像素值，Hi，j为所述HDR图像在对应通道的位置(i，j)处的像素值，Hi，j R为所述修正HDR图像在对应通道的位置(i，j)处的像素值，所述HDR图像的尺寸为M×N；
将基于所述点乘运算得到的所述修正HDR图像的各个通道进行合成，得到去除HDR图像伪影的所述修正HDR图像。
3.如权利要求2所述的图像修正方法，其特征在于，所述将所述HDR图像以及所述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，包括：
将所述参考图像从LDR域映射至HDR域，得到映射后参考图像；
将所述HDR图像以及所述映射后参考图像进行通道级联后输入至训练后的所述第一CNN中，得到该第一CNN输出的初始特征图；
对所述初始特征图进行归一化处理，得到用于通过所述点乘运算去除伪影的所述特征图。
4.如权利要求1至3中任一项所述的图像修正方法，其特征在于，所述第一CNN为基于注意力机制的卷积神经网络。
5.如权利要求1至3中任一项所述的图像修正方法，其特征在于，所述获取包含伪影的高动态范围HDR图像，以及用于合成所述HDR图像的多帧低动态范围LDR图像，包括：
获取多帧LDR图像，并根据所述多帧LDR图像，判断所述多帧LDR图像中的拍摄主体的移动幅度是否大于预设幅度；
若大于所述预设幅度，则将所述多帧LDR图像进行图像融合后得到图像确定为所述包含伪影的HDR图像。
6.如权利要求1至3中任一项所述的图像修正方法，其特征在于，在所述根据所述特征图，去除所述HDR图像中的伪影，得到修正HDR图像的步骤之后，还包括：
将所述修正HDR图像输入至训练后的第二CNN中，使得该第二CNN对所述修正HDR进行再次修正，得到最终HDR图像。
7.一种图像修正装置，其特征在于，包括：
图像获取模块，用于获取包含伪影的高动态范围HDR图像，以及用于合成所述HDR图像的多帧低动态范围LDR图像；
选取模块，用于从所述多帧LDR图像中选取一帧图像作为参考图像；
特征获取模块，用于将所述HDR图像以及所述参考图像输入至训练后的第一卷积神经网络CNN中，得到该第一CNN输出的特征图，其中，所述特征图用于去除所述HDR图像中的伪影；
伪影去除模块，用于根据所述特征图，去除所述HDR图像中的伪影，得到修正HDR图像。
8.如权利要求7所述的图像修正装置，其特征在于，所述特征图的通道数与所述HDR图像的通道数相同，且所述特征图的尺寸与所述HDR图像的尺寸相同，所述特征图具体用于通过点乘运算去除所述HDR图像中的伪影；
相应地，所述伪影去除模块包括：
点乘单元，用于对于所述特征图的每个通道，基于点乘运算，将该通道与所述HDR图像的对应通道进行点乘运算，其中，所述点乘运算的计算公式为：
Hi，j R＝Ci，j*Hi，j(i＝1…M；j＝1…N)
其中，Ci，j为所述特征图的该通道在位置(i，j)处的像素值，Hi，j为所述HDR图像在对应通道的位置(i，j)处的像素值，Hi，j R为所述修正HDR图像在对应通道的位置(i，j)处的像素值，所述HDR图像的尺寸为M×N；
合成单元，用于将基于所述点乘运算得到的所述修正HDR图像的各个通道进行合成，得到去除HDR图像伪影的所述修正HDR图像。
9.一种终端设备，包括存储器、处理器以及存储在所述存储器中并可在所述处理器上运行的计算机程序，其特征在于，所述处理器执行所述计算机程序时实现如权利要求1至6中任一项所述图像修正方法的步骤。
10.一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，其特征在于，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述图像修正方法的步骤。
CN202010013217.1A 2020-01-07 2020-01-07 图像修正方法、修正装置、终端设备及可读存储介质 Pending CN111223061A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN202010013217.1A CN111223061A (zh) 2020-01-07 2020-01-07 图像修正方法、修正装置、终端设备及可读存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN202010013217.1A CN111223061A (zh) 2020-01-07 2020-01-07 图像修正方法、修正装置、终端设备及可读存储介质

Publications (1)

Publication Number Publication Date
CN111223061A true CN111223061A (zh) 2020-06-02

Family

ID=70828113

Family Applications (1)

Application Number Title Priority Date Filing Date
CN202010013217.1A Pending CN111223061A (zh) 2020-01-07 2020-01-07 图像修正方法、修正装置、终端设备及可读存储介质

Country Status (1)

Country Link
CN (1) CN111223061A (zh)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111784598A (zh) * 2020-06-18 2020-10-16 Oppo（重庆）智能科技有限公司 色调映射模型的训练方法、色调映射方法及电子设备
CN111882498A (zh) * 2020-07-10 2020-11-03 网易（杭州）网络有限公司 图像处理方法、装置、电子设备及存储介质
CN111986106A (zh) * 2020-07-30 2020-11-24 南京大学 一种基于神经网络的高动态图像重建方法
CN112818732A (zh) * 2020-08-11 2021-05-18 腾讯科技（深圳）有限公司 一种图像处理方法、装置、计算机设备和存储介质
CN113538304A (zh) * 2020-12-14 2021-10-22 腾讯科技（深圳）有限公司 图像增强模型的训练方法及装置、图像增强方法及装置

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120288217A1 (en) * 2010-01-27 2012-11-15 Jiefu Zhai High dynamic range (hdr) image synthesis with user input
CN107871332A (zh) * 2017-11-09 2018-04-03 南京邮电大学 一种基于残差学习的ct稀疏重建伪影校正方法及***
CN108416754A (zh) * 2018-03-19 2018-08-17 浙江大学 一种自动去除鬼影的多曝光图像融合方法
WO2019001701A1 (en) * 2017-06-28 2019-01-03 Huawei Technologies Co., Ltd. APPARATUS AND METHOD FOR IMAGE PROCESSING

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120288217A1 (en) * 2010-01-27 2012-11-15 Jiefu Zhai High dynamic range (hdr) image synthesis with user input
WO2019001701A1 (en) * 2017-06-28 2019-01-03 Huawei Technologies Co., Ltd. APPARATUS AND METHOD FOR IMAGE PROCESSING
CN107871332A (zh) * 2017-11-09 2018-04-03 南京邮电大学 一种基于残差学习的ct稀疏重建伪影校正方法及***
CN108416754A (zh) * 2018-03-19 2018-08-17 浙江大学 一种自动去除鬼影的多曝光图像融合方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
QINGSEN YAN等: "Attention-Guided Network for Ghost-Free High Dynamic Range Imaging" *

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111784598A (zh) * 2020-06-18 2020-10-16 Oppo（重庆）智能科技有限公司 色调映射模型的训练方法、色调映射方法及电子设备
CN111882498A (zh) * 2020-07-10 2020-11-03 网易（杭州）网络有限公司 图像处理方法、装置、电子设备及存储介质
CN111986106A (zh) * 2020-07-30 2020-11-24 南京大学 一种基于神经网络的高动态图像重建方法
CN111986106B (zh) * 2020-07-30 2023-10-13 南京大学 一种基于神经网络的高动态图像重建方法
CN112818732A (zh) * 2020-08-11 2021-05-18 腾讯科技（深圳）有限公司 一种图像处理方法、装置、计算机设备和存储介质
CN112818732B (zh) * 2020-08-11 2023-12-12 腾讯科技（深圳）有限公司 一种图像处理方法、装置、计算机设备和存储介质
CN113538304A (zh) * 2020-12-14 2021-10-22 腾讯科技（深圳）有限公司 图像增强模型的训练方法及装置、图像增强方法及装置
CN113538304B (zh) * 2020-12-14 2023-08-18 腾讯科技（深圳）有限公司 图像增强模型的训练方法及装置、图像增强方法及装置

Similar Documents

Publication Publication Date Title
CN111223061A (zh) 图像修正方法、修正装置、终端设备及可读存储介质
CN109064428B (zh) 一种图像去噪处理方法、终端设备及计算机可读存储介质
CN111860398B (zh) 遥感图像目标检测方法、***及终端设备
CN110533607B (zh) 一种基于深度学习的图像处理方法、装置及电子设备
CN108833784B (zh) 一种自适应构图方法、移动终端及计算机可读存储介质
US7660486B2 (en) Method and apparatus of removing opaque area as rescaling an image
CN109785246B (zh) 一种非局部均值滤波的降噪方法、装置及设备
CN101394460A (zh) 图像处理设备、方法、程序以及图像捕获设备
CN108898549B (zh) 图片处理方法、图片处理装置及终端设备
US11836898B2 (en) Method and apparatus for generating image, and electronic device
US11875486B2 (en) Image brightness statistical method and imaging device
CN110969046B (zh) 人脸识别方法、设备及计算机可读存储介质
CN111145086A (zh) 一种图像处理方法、装置及电子设备
CN111882565B (zh) 一种图像二值化方法、装置、设备及存储介质
CN111754435B (zh) 图像处理方法、装置、终端设备及计算机可读存储介质
CN111222446B (zh) 人脸识别方法、人脸识别装置及移动终端
CN111340722A (zh) 图像处理方法、处理装置、终端设备及可读存储介质
CN111489289B (zh) 一种图像处理方法、图像处理装置及终端设备
CN111754412B (zh) 构建数据对的方法、装置及终端设备
CN113658050A (zh) 一种图像的去噪方法、去噪装置、移动终端及存储介质
CN111275622A (zh) 图像拼接方法、装置及终端设备
Fry et al. Validation of modulation transfer functions and noise power spectra from natural scenes
CN114418873B (zh) 一种暗光图像降噪方法及装置
US20230060988A1 (en) Image processing device and method
CN108629219B (zh) 一种识别一维码的方法及装置

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination