CN113643214A - 一种基于人工智能的图像曝光校正方法及*** - Google Patents
一种基于人工智能的图像曝光校正方法及*** Download PDFInfo
- Publication number
- CN113643214A CN113643214A CN202111184389.6A CN202111184389A CN113643214A CN 113643214 A CN113643214 A CN 113643214A CN 202111184389 A CN202111184389 A CN 202111184389A CN 113643214 A CN113643214 A CN 113643214A
- Authority
- CN
- China
- Prior art keywords
- image
- exposure correction
- exposure
- neural network
- subjected
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000012937 correction Methods 0.000 title claims abstract description 77
- 238000000034 method Methods 0.000 title claims abstract description 26
- 238000013473 artificial intelligence Methods 0.000 title claims abstract description 17
- 238000013528 artificial neural network Methods 0.000 claims abstract description 36
- 238000012549 training Methods 0.000 claims abstract description 24
- 230000006870 function Effects 0.000 claims description 25
- 238000012545 processing Methods 0.000 claims description 13
- 230000003044 adaptive effect Effects 0.000 claims description 12
- 238000010586 diagram Methods 0.000 claims description 11
- 238000001228 spectrum Methods 0.000 claims description 9
- 230000003595 spectral effect Effects 0.000 claims description 5
- 238000006243 chemical reaction Methods 0.000 claims description 3
- 239000012535 impurity Substances 0.000 abstract description 4
- 238000004364 calculation method Methods 0.000 description 5
- 230000003042 antagnostic effect Effects 0.000 description 2
- 230000011514 reflex Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011478 gradient descent method Methods 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/77—Retouching; Inpainting; Scratch removal
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
- G06N3/084—Backpropagation, e.g. using gradient descent
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- General Physics & Mathematics (AREA)
- General Health & Medical Sciences (AREA)
- General Engineering & Computer Science (AREA)
- Biophysics (AREA)
- Computational Linguistics (AREA)
- Data Mining & Analysis (AREA)
- Evolutionary Computation (AREA)
- Artificial Intelligence (AREA)
- Molecular Biology (AREA)
- Computing Systems (AREA)
- Biomedical Technology (AREA)
- Life Sciences & Earth Sciences (AREA)
- Mathematical Physics (AREA)
- Software Systems (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Abstract
本发明涉及一种基于人工智能的图像曝光校正方法及***,该方法的具体步骤包括:获取待进行曝光校正的图像和曝光校正后的图像;将待进行曝光校正的图像作为图像曝光校正神经网络的输入,曝光校正后的图像作为图像曝光校正神经网络的输出,进行神经网络训练;构建神经网络的损失函数;神经网络训练完成后输出曝光校正后的图像。该方法能够使噪声、模糊和其他杂质减少,提高了曝光校正的性能。
Description
技术领域
本发明涉及图像处理领域,具体涉及一种基于人工智能的图像曝光校正方法及***。
背景技术
曝光校正,即调整图像的光照条件,是计算机视觉中一个经典的和活跃的问题。拍摄过程中的弱光条件可能会导致图像变暗、有噪音和模糊,通常更好的或者更昂贵的数码相机具有更高的曝光设置范围,因此能够在恶劣的光照条件下拍摄质量更好的照片,比如数字单镜头反光相机就配备了先进的硬件,能够处理诸如大光圈、慢快门速度和敏感传感器等场景。与数字单镜头反光相机不同,受到消费者对更轻薄硬件需求的影响,智能手机限制了传感器的尺寸,较小的传感器导致低光且性能差。
发明内容
为了克服上述现有技术的缺点,本发明的目的是提供一种基于人工智能的图像曝光校正方法及***。
为达到上述目的,本发明采用以下技术方案,一种基于人工智能的图像曝光校正方法,具体包括以下步骤:
获取待进行曝光校正的图像和曝光校正后的图像;
图像曝光校正神经网络训练:将待进行曝光校正的图像作为图像曝光校正神经网络的输入,曝光校正后的图像作为图像曝光校正神经网络的输出,进行神经网络训练;
所述图像曝光校正神经网络训练包括的损失函数公式为:
式中: 为网络输入图像的像素个数, 表示网络输入图像第 个像素的网络输
出值, 表示网络输入图像第个像素的图像标签值, 表示网络输入图像第个像素的自
适应曝光权重,为映射系数,为多尺度频谱差异损失函数;
神经网络训练完成后输出曝光校正后的图像。
进一步地,所述自适应曝光权重的获取方法为:将每张曝光图像通过颜色空间转换得到Lab颜色空间,对Lab颜色空间中的亮度通道进行归一化,得到自适应曝光权重。
进一步地,所述自适应曝光权重表达式:
进一步地,所述多尺度频谱差异损失函数的计算公式为:
式中: 表示特征图分辨率的种类数,是特征图的通道数,表示第种分辨率中
第 个通道的特征图的宽, 表示第种分辨率中第 个通道的特征图的高, 表示第 种
分辨率中第个通道的特征图, 表示第 种分辨率中第 个通道的曝光校正后图像,∑表
示对差值后的频谱图进行像素求和操作,是比例因子, 是对图像进行快速傅里叶变
换。
进一步地,所述图像曝光校正神经网络包含生成器和鉴别器;
生成器用于对训练集数据特征的学习,在鉴别器的指导下生成具有训练集特征的相似数据;
鉴别器用于区分输入的数据是真实的还是生成器生成的假数据,并反馈给生成器。
进一步地,所述生成器的结构为编码器-解码器;编码器的输入为待进行曝光校正的图像处理后的图像,输出为特征图;解码器的输入为编码器输出的特征图,输出为不同分辨率的特征图和曝光校正后的图像。
进一步地,所述待进行曝光校正的图像是用手机拍摄,所述曝光校正后的图像是用数码相机拍摄。
一种基于人工智能的图像曝光校正***,包括:
输入单元,将获取的待进行曝光校正的图像进行输入;
处理单元,将输入单元输入的待进行曝光校正的图像输入到完成训练的图像曝光校正神经网络训练中进行处理,获取该待进行曝光校正的图像处理后的曝光校正后的图像;
所述图像曝光校正神经网络训练包括的损失函数公式为:
式中: 为网络输入图像的像素个数, 表示网络输入图像第 个像素的网络输
出值, 表示网络输入图像第 个像素的图像标签值, 表示网络输入图像第个像素的
自适应曝光权重,为映射系数,为多尺度频谱差异损失函数;
输出单元,将处理单元处理的曝光校正后的图像进行输出。
本发明的有益效果是:
1.本发明方法使用反向传播以端到端的方式训练神经网络。其次,它是通用的,可以添加到任何现有的框架中,而不需要额外的开销。
2.本发明通过计算不同频率下的,使得网络可以看到不同尺度下的伪影,从而
学习一种尺度无关的表示,这是野生图像中的理想特征。最终该损失函数通过减少噪声、模
糊和其他杂质(如彩色伪影),提高了曝光校正的性能。多尺度频谱差异损失函数可以明确
地指导网络学习正确曝光图像分布的真实频率分量,并忽略曝光不良输入的噪声频率。
3.本发明结合深度图来获取图像中的平面,可以为神经网络提供平面信息,进而消除不同物体反射光分量不同所带来的影响。
4.本发明采用自适应曝光权重方法,可以在图像长曝光时为暗区域分配较大的权重,在图像短曝光时为亮区域分配较大的权重,最终得到的是每张图像每个像素位置的曝光权重,该权重越大代表越应该对该位置的亮度进行补偿,可以使得网络更好地对图象的不同曝光区域进行校正。
附图说明
图1是本发明的流程示意图;
图2是本发明的结构示意图。
具体实施方式
下面结合附图和实施例对本发明进行详细的描述。
在本发明的描述中,需要理解的是,术语“中心”、“上”、“下”、“前”、“后”、“左”、“右”、“竖直”、“水平”、“顶”、“底”、“内”、“外”等指示的方位或位置关系为基于附图所示的方位或位置关系,仅是为了便于描述本发明和简化描述,而不是指示或暗示所指的装置或元件必须具有特定的方位、以特定的方位构造和操作,因此不能理解为对本发明的限制。
术语“第一”、“第二”仅用于描述目的,而不能理解为指示或暗示相对重要性或者隐含指明所指示的技术特征的数量。由此,限定有“第一”、“第二”的特征可以明示或者隐含地包括一个或者更多个该特征;在本发明的描述中,除非另有说明,“多个”的含义是两个或两个以上。
实施例1
本发明所针对的具体场景是手机拍照环节,拍摄过程中的弱光条件可能会导致图像变暗、有噪音和模糊。
如图1所示,为了解决上述技术问题,本发明提供了一种基于人工智能的图像曝光校正方法。具体包括以下步骤:
第一步先是获取图像。首先用手机在恶劣的光照条件下拍摄获取待进行曝光校正的图像,然后用深度相机采集拍摄的待进行曝光校正的图像的深度信息,得到深度图。其次利用数码相机获取曝光校正后的图像,将曝光校正后的图像作为神经网络输出的标签。因为数码相机具有更高的曝光设置范围,因此能够在恶劣的光照条件下拍摄质量更好的照片。
接下来就是构建神经网络实现图像曝光的校正。
所述图像曝光校正神经网络是对抗神经网络,用以生成曝光校正后的图像。对抗神经网络包含生成器和鉴别器。生成器的作用是通过学习训练集数据的特征,在鉴别器的指导下,尽量重建出符合训练集数据的真实分布的图像,从而生成具有训练集特征的相似数据。而鉴别器用来对图像进行特征提取,它的输入为生成器生成的曝光校正后图像和数码相机对同一场景拍摄的图像,负责区分输入的图像是真实的还是生成器生成的假图像,并反馈给生成器。两个网络交替训练,能力同步提高,直到生成网络生成的数据能够以假乱真,并与鉴别网络的能力达到一定均衡。
生成器为编码器-解码器结构,可采用 等网络模型,编码器的输入为待进行
曝光校正的RGB图像与深度图进行Concatenate(联合操作)后的融合图像,输出为特征图。
然后将特征图输入到解码器中,经过拟合和上采样,输出不同分辨率的特征图,所述分辨率
经验值为5种,且不同分辨率的特征图最后一层都为3个(RGB图像为三通道),最终解码器输
出为曝光校正后的图像,假设图像输入分辨率为512*512大小,则生成的4种分辨率图像分
别为32,64,128,256四种大小,加上原图像512*512分辨率,总共5种。
构建神经网络的损失函数,通过构建的损失函数对网络参数进行优化,使得噪声、模糊和其他杂质减少,提高了曝光校正的性能,构建的损失函数采用多尺度频谱差异损失与曝光加权均方差损失函数,公式为:
式中:为网络输入图像的像素个数, 表示网络输入图像第 个像素的网络输出
值, 表示网络输入图像第 个像素的图像标签值, 表示网络输入图像第个像素的自
适应曝光权重,为映射系数,为多尺度频谱差异损失函数。
多尺度频谱差异损失与曝光加权均方差损失函数中自适应曝光权重的获取方法为:
对每张曝光图像的亮度通道进行曝光权重计算。先对每张曝光图像进行颜色空间转换,转换为Lab颜色空间,其中L为亮度通道,下述计算均在亮度通道上进行。Lab颜色空间中的L分量用于表示像素的亮度,取值范围是[0,100],表示从纯黑到纯白,需要将L通道进行归一化。
自适应曝光权重为:
通过该公式,使得亮度值更接近(1-)的像素其权重值越大,越接近(1- )的区
域为黑暗或明亮像素,通过该公式可以很好的突出长曝光图像中的暗区域和短曝光图像中
的明亮区域。即当整个图像是明亮时(长曝光),会给予黑暗区域较大的权重;当整个图像较
暗时(短曝光),分配亮区域较大的权重。
最终得到的是每张图像每个像素位置的曝光权重,该权重越大代表越应该对该位置的亮度值进行补偿,获取的图像称为自适应曝光权重图。
这一过程就是将每张曝光图像通过颜色空间转换得到Lab颜色空间,对Lab颜色空间中的亮度通道进行归一化,得到自适应曝光权重。自适应的权重计算方法优点就是可以在图像长曝光时为暗区域分配较大的权重,以及在图像短曝光时为亮区域分配较大的权重。
多尺度频谱差异损失与曝光加权均方差损失函数中多尺度频谱差异损失函数的计算公式为:
式中:表示特征图分辨率的种类数,即5种分辨率的特征图,是特征图的通道数,
为3,表示第 种分辨率中第个通道的特征图的宽,表示第种分辨率中第 个通道的
特征图的高,表示第种分辨率中第个通道的特征图, 表示第种分辨率中第 个通道
的曝光校正后图像,曝光校正后图像的不同分辨率可采用下采样实现,∑表示对差值后的
频谱图进行像素求和操作,是比例因子,由于特征图尺寸为2倍递减,因此是对
图像进行快速傅里叶变换,且经过了对数变换将数据变换到统一的值域。
在神经网络训练过程中,计算标签图像和预测特征图的,然后计算标签图像的和预测特征图的绝对差的平均值。所提出的多尺度频谱差异损失函数可以明确地
指导网络学习正确曝光图像分布的真实频率分量,并忽略曝光不良输入的噪声频率。
多尺度频谱差异损失函数有如下优点:第一,它是可微的,因此适合于使用反向传
播以端到端的方式训练神经网络。第二,它是通用的,可以添加到任何现有的框架中,而不
需要额外的开销。第三,通过计算不同分辨率下的 ,网络可以看到不同尺度下的伪影,
从而学习一种尺度无关的表示,这是图像中的理想特征。此损失函数通过减少噪声、模糊和
其他杂质,提高了曝光校正的性能。
至此,即可通过梯度下降法等优化方法根据目标函数优化神经网络,最终通过对抗神经网络的生成器实现图像的曝光校正。
实施例2
本发明所针对的具体场景是手机拍照环节,拍摄过程中的弱光条件可能会导致图像变暗、有噪音和模糊。
如图2所示,本发明提供了一种基于人工智能的图像曝光校正***,包括:
输入单元,将手机摄像头拍摄的图像或者手机存储器中存储的图像输入到输入单元;
处理单元,将输入单元输入的图像输入到完成训练的图像曝光校正神经网络训练中进行处理,获取处理后得到的曝光校正后的图像;
输出单元,将处理单元处理的曝光校正后的图像显示到手机显示屏或者保存到手机存储器中。
以上实施例仅仅是对本发明的举例说明,并不构成对本发明的保护范围的限制,凡是与本发明相同或相似的设计均属于本发明的保护范围之内。
Claims (8)
2.根据权利要求1所述一种基于人工智能的图像曝光校正方法,其特征在于,所述自适应曝光权重的获取方法为:将每张曝光图像通过颜色空间转换得到Lab颜色空间,对Lab颜色空间中的亮度通道进行归一化,得到自适应曝光权重。
5.根据权利要求1所述一种基于人工智能的图像曝光校正方法,其特征在于,所述图像曝光校正神经网络包含生成器和鉴别器;
生成器用于对训练集数据特征的学习,在鉴别器的指导下生成具有训练集特征的相似数据;
鉴别器用于区分输入的数据是真实的还是生成器生成的假数据,并反馈给生成器。
6.根据权利要求5所述一种基于人工智能的图像曝光校正方法,其特征在于,所述生成器的结构为编码器-解码器;编码器的输入为待进行曝光校正的图像处理后的图像,输出为特征图;解码器的输入为编码器输出的特征图,输出为不同分辨率的特征图和曝光校正后的图像。
7.根据权利要求1所述一种基于人工智能的图像曝光校正方法,其特征在于,所述待进行曝光校正的图像是用手机拍摄,所述曝光校正后的图像是用数码相机拍摄。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111184389.6A CN113643214B (zh) | 2021-10-12 | 2021-10-12 | 一种基于人工智能的图像曝光校正方法及*** |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202111184389.6A CN113643214B (zh) | 2021-10-12 | 2021-10-12 | 一种基于人工智能的图像曝光校正方法及*** |
Publications (2)
Publication Number | Publication Date |
---|---|
CN113643214A true CN113643214A (zh) | 2021-11-12 |
CN113643214B CN113643214B (zh) | 2022-02-11 |
Family
ID=78426497
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202111184389.6A Active CN113643214B (zh) | 2021-10-12 | 2021-10-12 | 一种基于人工智能的图像曝光校正方法及*** |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN113643214B (zh) |
Cited By (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114638764A (zh) * | 2022-03-25 | 2022-06-17 | 江苏元贞智能科技有限公司 | 基于人工智能的多曝光图像融合方法及*** |
CN114862698A (zh) * | 2022-04-12 | 2022-08-05 | 北京理工大学 | 一种基于通道引导的真实过曝光图像校正方法与装置 |
CN116071268A (zh) * | 2023-03-01 | 2023-05-05 | 中国民用航空飞行学院 | 基于对比学习的图像去光照模型及其训练方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104620519A (zh) * | 2012-09-10 | 2015-05-13 | 皇家飞利浦有限公司 | 光检测***和方法 |
CN111640068A (zh) * | 2019-03-01 | 2020-09-08 | 同济大学 | 一种图像曝光度的无监督自动化校正方法 |
CN111835983A (zh) * | 2020-07-23 | 2020-10-27 | 福州大学 | 一种基于生成对抗网络的多曝光图高动态范围成像方法及*** |
CN113191995A (zh) * | 2021-04-30 | 2021-07-30 | 东北大学 | 一种基于深度学习的视频图像自动曝光校正方法 |
-
2021
- 2021-10-12 CN CN202111184389.6A patent/CN113643214B/zh active Active
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104620519A (zh) * | 2012-09-10 | 2015-05-13 | 皇家飞利浦有限公司 | 光检测***和方法 |
CN111640068A (zh) * | 2019-03-01 | 2020-09-08 | 同济大学 | 一种图像曝光度的无监督自动化校正方法 |
CN111835983A (zh) * | 2020-07-23 | 2020-10-27 | 福州大学 | 一种基于生成对抗网络的多曝光图高动态范围成像方法及*** |
CN113191995A (zh) * | 2021-04-30 | 2021-07-30 | 东北大学 | 一种基于深度学习的视频图像自动曝光校正方法 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114638764A (zh) * | 2022-03-25 | 2022-06-17 | 江苏元贞智能科技有限公司 | 基于人工智能的多曝光图像融合方法及*** |
CN114862698A (zh) * | 2022-04-12 | 2022-08-05 | 北京理工大学 | 一种基于通道引导的真实过曝光图像校正方法与装置 |
CN114862698B (zh) * | 2022-04-12 | 2024-06-07 | 北京理工大学 | 一种基于通道引导的真实过曝光图像校正方法与装置 |
CN116071268A (zh) * | 2023-03-01 | 2023-05-05 | 中国民用航空飞行学院 | 基于对比学习的图像去光照模型及其训练方法 |
Also Published As
Publication number | Publication date |
---|---|
CN113643214B (zh) | 2022-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111402135B (zh) | 图像处理方法、装置、电子设备及计算机可读存储介质 | |
US20200327648A1 (en) | Method and Apparatus for Image Processing | |
CN113643214B (zh) | 一种基于人工智能的图像曝光校正方法及*** | |
CN110072051B (zh) | 基于多帧图像的图像处理方法和装置 | |
CN111741211B (zh) | 图像显示方法和设备 | |
CN109636754B (zh) | 基于生成对抗网络的极低照度图像增强方法 | |
US20230214976A1 (en) | Image fusion method and apparatus and training method and apparatus for image fusion model | |
CN110022469B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110149482A (zh) | 对焦方法、装置、电子设备和计算机可读存储介质 | |
US11431915B2 (en) | Image acquisition method, electronic device, and non-transitory computer readable storage medium | |
CN110290323B (zh) | 图像处理方法、装置、电子设备和计算机可读存储介质 | |
CN106358030B (zh) | 图像处理装置和图像处理方法 | |
CN108616700B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN107451969A (zh) | 图像处理方法、装置、移动终端及计算机可读存储介质 | |
CN108156369B (zh) | 图像处理方法和装置 | |
CN110349163B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN107911625A (zh) | 测光方法、装置、可读存储介质和计算机设备 | |
KR20110025621A (ko) | 화상 처리 장치, 화상 처리 방법 및 컴퓨터 기억 매체 | |
CN107995396B (zh) | 一种双摄像头模组以及终端 | |
CN110047060B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN113313661A (zh) | 图像融合方法、装置、电子设备及计算机可读存储介质 | |
CN110266954A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN110166706A (zh) | 图像处理方法、装置、电子设备以及存储介质 | |
CN116416122B (zh) | 图像处理方法及其相关设备 | |
CN114979500B (zh) | 图像处理方法、图像处理装置、电子设备及可读存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |