CN111709891B - 图像去噪模型的训练方法、图像去噪方法、装置及介质 - Google Patents
图像去噪模型的训练方法、图像去噪方法、装置及介质 Download PDFInfo
- Publication number
- CN111709891B CN111709891B CN202010534723.5A CN202010534723A CN111709891B CN 111709891 B CN111709891 B CN 111709891B CN 202010534723 A CN202010534723 A CN 202010534723A CN 111709891 B CN111709891 B CN 111709891B
- Authority
- CN
- China
- Prior art keywords
- image
- sensitivity
- sample
- group
- training
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012549 training Methods 0.000 title claims abstract description 118
- 238000000034 method Methods 0.000 title claims abstract description 99
- 230000035945 sensitivity Effects 0.000 claims abstract description 238
- 238000012512 characterization method Methods 0.000 claims abstract description 42
- 206010034960 Photophobia Diseases 0.000 claims description 30
- 208000013469 light sensitivity Diseases 0.000 claims description 30
- 238000012545 processing Methods 0.000 claims description 19
- 230000003044 adaptive effect Effects 0.000 claims description 16
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000013507 mapping Methods 0.000 claims description 12
- 230000004927 fusion Effects 0.000 claims description 10
- 238000004364 calculation method Methods 0.000 claims description 3
- 238000010276 construction Methods 0.000 claims description 3
- 230000000694 effects Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 6
- 238000005516 engineering process Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 5
- 230000005236 sound signal Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000013527 convolutional neural network Methods 0.000 description 3
- 230000001133 acceleration Effects 0.000 description 2
- 230000006978 adaptation Effects 0.000 description 2
- 230000009286 beneficial effect Effects 0.000 description 2
- 238000007499 fusion processing Methods 0.000 description 2
- 230000003993 interaction Effects 0.000 description 2
- 238000007726 management method Methods 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012360 testing method Methods 0.000 description 2
- ORILYTVJVMAKLC-UHFFFAOYSA-N Adamantane Natural products C1C(C2)CC3CC1CC2C3 ORILYTVJVMAKLC-UHFFFAOYSA-N 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 238000003491 array Methods 0.000 description 1
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000006835 compression Effects 0.000 description 1
- 238000007906 compression Methods 0.000 description 1
- 238000013500 data storage Methods 0.000 description 1
- 230000003828 downregulation Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000003384 imaging method Methods 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 230000008569 process Effects 0.000 description 1
- 230000009467 reduction Effects 0.000 description 1
- 238000012216 screening Methods 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/70—Denoising; Smoothing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F18/00—Pattern recognition
- G06F18/20—Analysing
- G06F18/21—Design or setup of recognition systems or techniques; Extraction of features in feature space; Blind source separation
- G06F18/214—Generating training patterns; Bootstrap methods, e.g. bagging or boosting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
- G06N3/045—Combinations of networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/08—Learning methods
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/60—Image enhancement or restoration using machine learning, e.g. neural networks
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
- G06N3/00—Computing arrangements based on biological models
- G06N3/02—Neural networks
- G06N3/04—Architecture, e.g. interconnection topology
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20081—Training; Learning
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20084—Artificial neural networks [ANN]
-
- Y—GENERAL TAGGING OF NEW TECHNOLOGICAL DEVELOPMENTS; GENERAL TAGGING OF CROSS-SECTIONAL TECHNOLOGIES SPANNING OVER SEVERAL SECTIONS OF THE IPC; TECHNICAL SUBJECTS COVERED BY FORMER USPC CROSS-REFERENCE ART COLLECTIONS [XRACs] AND DIGESTS
- Y02—TECHNOLOGIES OR APPLICATIONS FOR MITIGATION OR ADAPTATION AGAINST CLIMATE CHANGE
- Y02T—CLIMATE CHANGE MITIGATION TECHNOLOGIES RELATED TO TRANSPORTATION
- Y02T10/00—Road transport of goods or passengers
- Y02T10/10—Internal combustion engine [ICE] based vehicles
- Y02T10/40—Engine management systems
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- Life Sciences & Earth Sciences (AREA)
- Artificial Intelligence (AREA)
- General Engineering & Computer Science (AREA)
- Evolutionary Computation (AREA)
- Molecular Biology (AREA)
- Computational Linguistics (AREA)
- Software Systems (AREA)
- Mathematical Physics (AREA)
- Health & Medical Sciences (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Computing Systems (AREA)
- General Health & Medical Sciences (AREA)
- Bioinformatics & Cheminformatics (AREA)
- Evolutionary Biology (AREA)
- Bioinformatics & Computational Biology (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Image Analysis (AREA)
Abstract
本公开涉及图像去噪模型的训练方法、图像去噪方法、装置及介质,训练方法包括:通过拍摄设备采集多个样本图像组,获取每个样本图像组的感光度,并且根据感光度确定与每个样本图像组对应的噪声表征图像;确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像;构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;使用多个训练对,训练图像去噪模型,直至图像去噪模型收敛。本公开中,将图像的感光度信息作为图像去噪模型的训练输入数据的一部分,使图像去噪模型学习到更多维度的噪声信息,在图像去噪模型训练成功后,可以有效去除图像噪声。
Description
技术领域
本公开涉及移动终端数据处理技术,尤其涉及图像去噪模型的训练方法、图像去噪方法、装置及介质。
背景技术
移动终端一般都具有拍照功能。移动终端中的图像传感器采样率不足,以及来源于图像采集、传输、压缩等各个方面的噪声导致移动终端拍摄到的图像存在细节丢失以及过多彩噪的问题。在低光环境下拍摄的图像和视频也存在此问题,并且此问题在小光圈摄像头的智能手机所拍摄的图像中更为严重。另外,采集图像过程中,采样率较低时还会导致混叠现象。
随着用户对图像效果的需求不断提高,如何进一步减少图像噪声是一直需要解决的技术问题。
发明内容
为克服相关技术中存在的问题,本公开提供图像去噪模型的训练方法、图像去噪方法、装置及介质。
根据本文实施例的第一方面,提供了一种图像去噪模型的训练方法,包括:
通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同;
获取每个样本图像组的感光度,并且根据所述感光度确定与每个样本图像组对应的噪声表征图像;
确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像;
构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;
使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
在一实施方式中,所述根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像。
在一实施方式中,所述根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;
获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
在一实施方式中,所述根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;
确定所述样本图像组对应的目标图像的灰度分量图像;
确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
在一实施方式中,所述归一化感光度通过以下方式获得:
统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。
在一实施方式中,所述确定每个样本图像组相关联的目标图像,包括以下中的一种:
根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像;
根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像;
从样本图像组中选择清晰度最高的样本图像、第一帧样本图像或者最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
根据本文实施例的第二方面,提供了一种多帧图像去噪方法,包括:
通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度;
根据所述感光度,确定所述待处理图像组对应的噪声表征图像;
将所述待处理图像组以及对应的噪声表征图像,输入使用权利要求1至6中任一权利要求所述的训练方法训练过的多帧图像去噪模型;
从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
在一实施方式中,所述根据所述感光度,确定所述待处理图像组对应的噪声表征图像,包括:
根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
在一实施方式中,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
根据本文实施例的第三方面,提供一种图像去噪模型的训练装置,包括:
第一采集模块,被配置为通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同;
获取模块,被配置为获取每个样本图像组的感光度;
第一确定模块,被配置为根据所述感光度确定与每个样本图像组对应的噪声表征图像;
第二确定模块,被配置为确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像;
构建模块,被配置为构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;
训练模块,被配置为使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
在一实施方式中,所述第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像。
在一实施方式中,所述第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
在一实施方式中,所述第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;确定所述样本图像组对应的目标图像的灰度分量图像;确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
在一实施方式中,所述装置还包括归一化感光度计算模块,被配置为使用以下方法计算归一化感光度:统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。
在一实施方式中,所述第二确定模块,还被配置为使用以下方法中的一种确定每个样本图像组相关联的目标图像:
根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像;
根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像;
从样本图像组中选择清晰度最高的样本图像、第一帧样本图像或者最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
根据本文实施例的第四方面,提供了一种多帧图像去噪装置,包括:
第二采集模块,被配置为通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度;
第三确定模块,被配置为根据所述感光度,确定所述待处理图像组对应的噪声表征图像;
输入模块,被配置为将所述待处理图像组以及对应的噪声表征图像,输入使用上述训练方法训练过的多帧图像去噪模型;
输出模块,被配置为从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
在一实施方式中,所述第三确定模块,被配置为使用以下方法根据所述感光度,确定所述待处理图像组对应的噪声表征图像:
根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
在一实施方式中,所述根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
根据本文实施例的第五方面,提供了一种图像处理装置,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述存储器中的可执行指令以实现所述方法的步骤。
根据本文实施例的第六方面,提供了一种非临时性计算机可读存储介质,其上存储有可执行指令,其特征在于,该可执行指令被处理器执行时实现所述方法的步骤。
本公开的实施例提供的技术方案可以包括以下有益效果:利用图像的感光度近似与噪声呈正比,并且感光度信息因为直接由传感器提供而无需人为干预的准确可靠的特性,将图像的感光度信息作为图像去噪模型的训练输入数据的一部分,使图像去噪模型学习到更多维度的噪声信息,在图像去噪模型训练成功后,可以有效去除图像噪声。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。
图1是根据一示例性实施例示出的一种图像去噪模型的训练方法的流程图;
图2是根据一示例性实施例示出的一种多帧图像去噪方法的流程图;
图3是根据一示例性实施例示出的一种基于图像去噪模型的训练装置的结构图;
图4是根据一示例性实施例示出的一种多帧图像去噪装置的结构图;
图5是根据一示例性实施例示出的一种图像处理装置的结构图。
具体实施方式
这里将详细地对示例性实施例进行说明,其示例表示在附图中。下面的描述涉及附图时,除非另有表示,不同附图中的相同数字表示相同或相似的要素。以下示例性实施例中所描述的实施方式并不代表与本公开相一致的所有实施方式。相反,它们仅是与如所附权利要求书中所详述的、本公开的一些方面相一致的装置和方法的例子。
本公开实施例中提供一种图像去噪模型的训练方法。参照图1,图1是根据一示例性实施例示出的一种图像去噪模型的训练方法的流程图。如图1所示,此方法包括:
步骤S11,通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同。
步骤S12,获取每个样本图像组的感光度,并且根据所述感光度确定与每个样本图像组对应的噪声表征图像。
步骤S13,确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像。
步骤S14,构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像。
步骤S15,使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
本实施例中,利用图像的感光度近似与噪声呈正比,并且感光度信息因为直接由传感器提供而无需人为干预的准确可靠的特性,将图像的感光度信息作为图像去噪模型的训练输入数据的一部分,使图像去噪模型学习到更多维度的噪声信息,在图像去噪模型训练成功后,可以有效去除图像噪声。并且,采用真实场景中的带有噪声的样本图像,而不是采用人为模拟的噪声图像,使图像去噪模型学习到真实噪声,从而提高去噪能力。
本公开实施例中提供一种图像去噪模型的训练方法,此方法包括图1所示的方法,并且:步骤S13中,确定每个样本图像组相关联的目标图像,包括以下中的一种:
方法一,根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像。
方法二,根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像。
方法三,从样本图像组中选择第一帧样本图像或最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
方法四,从样本图像组中选择清晰度最高的样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
其中,计算样本图像的清晰度的方法包括:通过拉普拉斯算子得到所有图像的梯度值,计算每一张图像的梯度值,根据梯度值确定清晰度,梯度值与清晰度呈正比。选择选择清晰度最高的样本图像为选择梯度值最大的样本图像。
确定参考图像后,采用特征点以及光流法将其他输入图像与参考图像对齐,对齐后进行融合处理,融合过程中计算相同位置的像素之间的差异性,这个差异性一般由噪声导致的差异性和局部内容发生变动所产生。根据此差异性决定融合时的权重,局部内容的差异性容易导致融合后产生伪像,而噪声的差异性则有利于去噪,通过调节权重在去噪和去伪像之间获得平衡。通过对图像进行噪声估计,可以知道该组图像的噪声大小,如果噪声较大,则说明其他图像与参考帧之间的差异主要是噪声,则可以适当提升其他图像的权重,使得融合后去噪效果好,反之则保持较低的权重,避免产生伪像。
本实施例中,采用多帧低质量的样本图像融合为一个高质量的目标图像,其中不涉及到噪声模拟和模糊模拟,使目标图像携带了更多样本图像的细节特征,有利于机器图像增强模型对细节特征的学习。
本公开实施例中提供一种图像去噪模型的训练方法,此方法包括图1所示的方法,并且:步骤S11中通过拍摄设备进行拍摄时,将拍摄设备固定在稳定的支撑设备(例如三脚架)上进行连续拍摄。同一样本图像组中的样本图像的感光度相同,不同样本图像组中样本图像的感光度不同。例如:感光度为100,625,6400等值。
在一实施方式中,步骤S13中,确定每个样本图像组相关联的训练输入图像组,包括以下方法中的一种:
方法一,将样本图像组作为训练输入图像组。
方法二,从样本图像组中选择部分样本图像构成训练输入图像组。
此方法二中选择的方式包括以下中的一种:选择拍摄序列中中间位置的多张图像、计算每张图像的清晰度并选择清晰程度排序中前设定比例的多张图像、计算每张图像的清晰度并选择清晰程度排序中前设定数量的多张图像。在一种实现方式中,每个样本图像组中样本图像是第一固定数量时,选出的部分样本图像的数据是第二固定数量,第一固定数量大于第一固定数量。
例如:步骤S11中涉及500个感光度,在每种感光度情况下连续拍摄20张图像构成样本图像组。步骤S12中使用上述方法一时,将样本图像组作为训练输入图像组,从而构建出500个训练对,每个训练对包括一个训练输入图像组、一个噪声表征图像和一目标图像,每个训练输入图像组包括20张样本图像。步骤S12中使用上述方法二时,从每个样本图像组中选择出10张样本图像构成训练输入图像组。从而构建出500个训练对,每个训练对包括一个训练输入图像组、一个噪声表征图像和一目标图像,每个训练输入图像组包括10张样本图像。
本实施例中,通过从每个样本图像组中确定相关联的训练输入图像组的步骤,提供了对样本图像的不同兼容程度的选择权,在对样本图像的兼容程度较高时,使用上述方法一,使样本图像组中样本图像均用于训练;在对样本图像的兼容程度较低时,使用上述方法二,对样本图像组中样本图像进行筛选后,使用筛选出的样本图像用于训练。
本公开实施例中还提供一种图像去噪模型的训练方法。本方法中包括图1示出的方法,并且步骤S13中根据每个样本图像组的感光度确定对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像。
感光度图像的尺寸与样本图像的尺寸相同,或者,感光度图像的尺寸与样本图像的尺寸不相同。
本方法还包括:归一化感光度通过以下方式获得:统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。其中,图像像素值区间是0-255的区间。
本实施例中,构建的噪声表征图像中各像素值均为样本图像组的归一化感光度,使噪声表征图像只携带归一化感光度值作为噪声信息的一个维度的信息。
本公开实施例中还提供一种图像去噪模型的训练方法。本方法中包括图1示出的方法,并且步骤S13中根据每个样本图像组的感光度确定对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
本实施例中,构建的噪声表征图像是灰度分量图像和所述感光度图像的点乘矩阵,使噪声表征图像同时携带感光度的值和灰度分量图像作为噪声信息的两个维度的信息。
本公开实施例中还提供一种图像去噪模型的训练方法。本方法中包括图1示出的方法,并且步骤S13中根据每个样本图像组的感光度确定对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;确定所述样本图像组对应的目标图像的灰度分量图像;确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
本实施例中,构建的噪声表征图像包括灰度分量图像和感光度图像此两个图像,使噪声表征图像同时携带感光度的值和灰度分量图像作为噪声信息的两个维度的信息。
本公开实施例中还提供图像去噪模型的训练方法。本方法中包括图1示出的方法,并且步骤S13中根据每个样本图像组的感光度确定对应的噪声表征图像,包括:
构建感光度图像,根据图像处理需求设置第一感光度值,所述感光度图像的像素值均为所述第一感光度值;将所述感光度图像作为所述噪声表征图像;
所述图像处理需求是去噪需求大于保留细节需求时,所述第一感光度值大于所述样本图像组的感光度;
所述图像处理需求是去噪需求小于保留细节需求时,所述第一感光度值小于所述样本图像组的感光度。
因为感光度信息代表着输入图噪声水平,感光度值越大,表示图像的噪声越大,相应拟合得到的模型对对应的噪声图像降噪效果越大。因此,如果想要对图像进行进一步的去噪,可以增加感光度的值来增强降噪效果,但代价是平滑结果和丢失细节信息,反之则是保留更多细节,降低去噪效果。本实施例中,可以通过感光度数值来调节模型的去噪需求和保留细节需求之间的平衡,使得模型输出较高质量的图像。
本公开实施例中提供一种基于图像去噪模型的多帧图像去噪方法。参照图2,图2是根据一示例性实施例示出的一种基于图像去噪模型的多帧图像去噪方法的流程图。如图2所示,此方法包括:
步骤S21,通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度。
步骤S22,根据所述感光度,确定所述待处理图像组对应的噪声表征图像。
步骤S23,将所述待处理图像组以及对应的噪声表征图像,输入使用上述训练方法训练过的多帧图像去噪模型。
步骤S24,从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
本公开实施例中提供一种多帧图像去噪方法。本方法中包括图2示出的方法,并且步骤S22中根据所述感光度,确定所述待处理图像组对应的噪声表征图像,包括:根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
在一实施方式中,对训练成功的多帧图像去噪模型进行测试,测试时输入不同感光度的测试图像,查看图像去噪模型输出的图像的去噪效果和细节保留效果,根据输出的图像的降噪效果和细节保留效果确定自适应系数。例如:用户认为去噪效果需要进一步提高时,设置自适应系数大于1,去噪效果需要提高的程度越高,自适应系数越大。用户认为细节保留效果需要进一步提高时,设置自适应系数小于1,细节保留效果需要提高的程度越高,自适应系数越小。
在一实施方式中,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
下面通过具体实施例进行举例说明。
具体实施例
每个样本图像组包括6个RGB式图像,噪声表征图像的尺寸与样本图像的尺寸相同。训练输入图像组包括19个通道,每个样本图像对应于一个通道,每个通道对应于一个分量图像,即三个通道分别是一样本图像的R分量图像、G分量图像和B分量图像。样本图像组包括的6个RGB式图像对应于18个通道,噪声表征图像对应于1个通道。
图像去噪模型是神经网络***,例如是卷积神经网络(Convolutional NeuralNetworks,CNN),此图像去噪模型的输出包括3个通道,分别对应R分量图像、G分量图像和B分量图像,最终输出的结果为一个RGB式图像。
训练图像去噪模型时,使用beta1为0.5的自适应矩估计(Adam)优化器进行训练,初始学习率为0.0002,每隔10个循环周期(epoch)下调比例为0.9,一共训练50个epoch即可。
通过拍摄设备采集连续6帧的RGB式的待处理图像组,并获取待处理图像组的感光度均为200,用户输入自适应系数为1.5,将感光度乘以自适应系数,以获得自适应调整后的感光度为300。构建感光度图像,此感光度图像的所有像素值均为所述自适应调整后的感光度300,将感光度图像作为待处理图像组对应的噪声表征图像。将待处理图像组以及对应的噪声表征图像,输入训练成功的多帧图像去噪模型。获得多帧图像去噪模型输出的与所述待处理图像组对应的目标去噪图像。此目标去噪图像是一个RGB式的图像。
本公开实施例中提供一种图像去噪模型的训练装置。参照图3,图3是根据一示例性实施例示出的图像去噪模型的训练装置的结构图。如图3所示,图像去噪模型的训练装置,包括:
第一采集模块301,被配置为通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同;
获取模块302,被配置为获取每个样本图像组的感光度;
第一确定模块303,被配置为根据所述感光度确定与每个样本图像组对应的噪声表征图像;
第二确定模块304,被配置为确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像;
构建模块305,被配置为构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;
训练模块306,被配置为使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
本公开实施例中提供图像去噪模型的训练装置。本训练装置包括图3示出的模块,并且所述第一确定模块303,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像。
本公开实施例中提供图像去噪模型的训练装置。本训练装置包括图3示出的模块,并且所述第一确定模块303,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
本公开实施例中提供图像去噪模型的训练装置。本训练装置包括图3示出的模块,并且所述第一确定模块303,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;确定所述样本图像组对应的目标图像的灰度分量图像;确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
本公开实施例中提供图像去噪模型的训练装置。本训练装置包括图3示出的模块,并且,所述装置还包括归一化感光度计算模块,被配置为使用以下方法计算归一化感光度:统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。
本公开实施例中提供图像去噪模型的训练装置。本训练装置包括图3示出的模块,并且所述第二确定模块304,还被配置为使用以下方法中的一种确定每个样本图像组相关联的目标图像:
根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像;
根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像;
从样本图像组中选择清晰度最高的样本图像、第一帧样本图像或者最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
本公开实施例中提供一种多帧图像去噪装置。参照图4,图4是根据一示例性实施例示出的多帧图像去噪装置的结构图。如图4所示,多帧图像去噪装置包括:
第二采集模块401,被配置为通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度;
第三确定模块402,被配置为根据所述感光度,确定所述待处理图像组对应的噪声表征图像;
输入模块403,被配置为将所述待处理图像组以及对应的噪声表征图像,输入使用上述训练方法训练过的多帧图像去噪模型;
输出模块404,被配置为从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
本公开实施例中提供多帧图像去噪装置,此装置包括图4所示的模块,并且第三确定模块402,被配置为使用以下方法根据所述感光度,确定所述待处理图像组对应的噪声表征图像:根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
在一实施方式中,所述根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
本公开实施例中提供一种图像处理装置,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述存储器中的可执行指令以实现上述方法的步骤。
本公开实施例中提供一种非临时性计算机可读存储介质,其上存储有可执行指令,其特征在于,该可执行指令被处理器执行时实现上述方法的步骤。
图5是根据一示例性实施例示出的一种图像处理装置的框图。此图像处理装置是用于图像去噪模型的训练装置或多帧图像去噪装置。例如,装置500可以是移动电话,计算机,数字广播终端,消息收发设备,游戏控制台,平板设备,医疗设备,健身设备,个人数字助理等。
参照图5,装置500可以包括以下一个或多个组件:处理组件502,存储器504,电源组件506,多媒体组件508,音频组件510,输入/输出(I/O)的接口512,传感器组件514,以及通信组件516。
处理组件502通常控制装置500的整体操作,诸如与显示,电话呼叫,数据通信,相机操作和记录操作相关联的操作。处理组件502可以包括一个或多个处理器520来执行指令,以完成上述的方法的全部或部分步骤。此外,处理组件502可以包括一个或多个模块,便于处理组件502和其他组件之间的交互。例如,处理组件502可以包括多媒体模块,以方便多媒体组件508和处理组件502之间的交互。
存储器504被配置为存储各种类型的数据以支持在设备500的操作。这些数据的示例包括用于在装置500上操作的任何应用程序或方法的指令,联系人数据,电话簿数据,消息,图片,视频等。存储器504可以由任何类型的易失性或非易失性存储设备或者它们的组合实现,如静态随机存取存储器(SRAM),电可擦除可编程只读存储器(EEPROM),可擦除可编程只读存储器(EPROM),可编程只读存储器(PROM),只读存储器(ROM),磁存储器,快闪存储器,磁盘或光盘。
电源组件506为装置500的各种组件提供电力。电源组件506可以包括电源管理***,一个或多个电源,及其他与为装置500生成、管理和分配电力相关联的组件。
多媒体组件508包括在所述装置500和用户之间的提供一个输出接口的屏幕。在一些实施例中,屏幕可以包括液晶显示器(LCD)和触摸面板(TP)。如果屏幕包括触摸面板,屏幕可以被实现为触摸屏,以接收来自用户的输入信号。触摸面板包括一个或多个触摸传感器以感测触摸、滑动和触摸面板上的手势。所述触摸传感器可以不仅感测触摸或滑动动作的边界,而且还检测与所述触摸或滑动操作相关的持续时间和压力。在一些实施例中,多媒体组件508包括一个前置摄像头和/或后置摄像头。当设备500处于操作模式,如拍摄模式或视频模式时,前置摄像头和/或后置摄像头可以接收外部的多媒体数据。每个前置摄像头和后置摄像头可以是一个固定的光学透镜***或具有焦距和光学变焦能力。
音频组件510被配置为输出和/或输入音频信号。例如,音频组件510包括一个麦克风(MIC),当装置500处于操作模式,如呼叫模式、记录模式和语音识别模式时,麦克风被配置为接收外部音频信号。所接收的音频信号可以被进一步存储在存储器504或经由通信组件516发送。在一些实施例中,音频组件510还包括一个扬声器,用于输出音频信号。
I/O接口512为处理组件502和***接口模块之间提供接口,上述***接口模块可以是键盘,点击轮,按钮等。这些按钮可包括但不限于:主页按钮、音量按钮、启动按钮和锁定按钮。
传感器组件514包括一个或多个传感器,用于为装置500提供各个方面的状态评估。例如,传感器组件514可以检测到设备500的打开/关闭状态,组件的相对定位,例如所述组件为装置500的显示器和小键盘,传感器组件514还可以检测装置500或装置500一个组件的位置改变,用户与装置500接触的存在或不存在,装置500方位或加速/减速和装置500的温度变化。传感器组件514可以包括接近传感器,被配置用来在没有任何的物理接触时检测附近物体的存在。传感器组件514还可以包括光传感器,如CMOS或CCD图像传感器,用于在成像应用中使用。在一些实施例中,该传感器组件514还可以包括加速度传感器,陀螺仪传感器,磁传感器,压力传感器或温度传感器。
通信组件516被配置为便于装置500和其他设备之间有线或无线方式的通信。装置500可以接入基于通信标准的无线网络,如WiFi,2G或3G,或它们的组合。在一个示例性实施例中,通信组件516经由广播信道接收来自外部广播管理***的广播信号或广播相关信息。在一个示例性实施例中,所述通信组件516还包括近场通信(NFC)模块,以促进短程通信。例如,在NFC模块可基于射频识别(RFID)技术,红外数据协会(IrDA)技术,超宽带(UWB)技术,蓝牙(BT)技术和其他技术来实现。
在示例性实施例中,装置500可以被一个或多个应用专用集成电路(ASIC)、数字信号处理器(DSP)、数字信号处理设备(DSPD)、可编程逻辑器件(PLD)、现场可编程门阵列(FPGA)、控制器、微控制器、微处理器或其他电子元件实现,用于执行上述方法。
在示例性实施例中,还提供了一种包括指令的非临时性计算机可读存储介质,例如包括指令的存储器504,上述指令可由装置500的处理器520执行以完成上述方法。例如,所述非临时性计算机可读存储介质可以是ROM、随机存取存储器(RAM)、CD-ROM、磁带、软盘和光数据存储设备等。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由下面的权利要求指出。
应当理解的是,本公开并不局限于上面已经描述并在附图中示出的精确结构,并且可以在不脱离其范围进行各种修改和改变。本公开的范围仅由所附的权利要求来限制。
Claims (18)
1.一种图像去噪模型的训练方法,其特征在于,包括:
通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同;
获取每个样本图像组的感光度,并且根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像;
确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像,所述目标图像的获取方式为:采用多帧低质量的所述样本图像融合为一个高质量的所述目标图像;
构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;
使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
2.如权利要求1所述的训练方法,其特征在于,
所述根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;
获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
3.如权利要求1所述的训练方法,其特征在于,
所述根据所述感光度确定与每个样本图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;
确定所述样本图像组对应的目标图像的灰度分量图像;
确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
4.如权利要求1、2或3所述的训练方法,其特征在于,所述归一化感光度通过以下方式获得:
统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。
5.如权利要求1所述的训练方法,其特征在于,
所述确定每个样本图像组相关联的目标图像,包括以下中的一种:
根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像;
根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像;
从样本图像组中选择清晰度最高的样本图像、第一帧样本图像或者最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
6.一种多帧图像去噪方法,其特征在于,包括:
通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度;
根据所述感光度,确定所述待处理图像组对应的噪声表征图像;
将所述待处理图像组以及对应的噪声表征图像,输入使用权利要求1至5中任一权利要求所述的训练方法训练过的多帧图像去噪模型;
从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
7.如权利要求6所述的多帧图像去噪方法,其特征在于,所述根据所述感光度,确定所述待处理图像组对应的噪声表征图像,包括:
根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
8.如权利要求7所述的多帧图像去噪方法,其特征在于,
根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
9.一种图像去噪模型的训练装置,其特征在于,包括:
第一采集模块,被配置为通过拍摄设备采集多个样本图像组,每个样本图像组包括感光度相同的多帧样本图像,不同的样本图像组中样本图像的感光度不同;
获取模块,被配置为获取每个样本图像组的感光度;
第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度,将所述感光度图像作为所述噪声表征图像;
第二确定模块,被配置为确定每个样本图像组相关联的训练输入图像组和目标图像,每个训练输入图像组包括对应的样本图像组中全部或部分样本图像以及对应的噪声表征图像,所述目标图像的获取方式为:采用多帧低质量的所述样本图像融合为一个高质量的所述目标图像;
构建模块,被配置为构建多个训练对,每个训练对包括一个训练输入图像组和对应的目标图像;
训练模块,被配置为使用所述多个训练对,训练所述图像去噪模型,直至所述图像去噪模型收敛。
10.如权利要求9所述的训练装置,其特征在于,
所述第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;获取所述样本图像组对应的目标图像的灰度分量图像,确定所述灰度分量图像和所述感光度图像的点乘矩阵,将所述点乘矩阵作为所述噪声表征图像。
11.如权利要求9所述的训练装置,其特征在于,
所述第一确定模块,被配置为使用以下方法根据所述感光度确定与每个样本图像组对应的噪声表征图像:构建感光度图像,所述感光度图像的所有像素值均为所述样本图像组的归一化感光度;确定所述样本图像组对应的目标图像的灰度分量图像;确定所述噪声表征图像是二维图像,所述二维图像包括所述感光度图像和灰度分量图像。
12.如权利要求9、10或11所述的训练装置,其特征在于,
所述装置还包括归一化感光度计算模块,被配置为使用以下方法计算归一化感光度:统计所述多个样本图像组中的最大感光度和最小感光度,基于所述最大感光度和所述最小感光度确定感光度区间,构建所述感光度区间与图像像素值区间的映射关系,根据所述映射关系确定各个样本图像组的归一化感光度。
13.如权利要求9所述的训练装置,其特征在于,
所述第二确定模块,还被配置为使用以下方法中的一种确定每个样本图像组相关联的目标图像:
根据样本图像组中各样本图像计算相同位置的像素平均值获得目标图像;
根据样本图像组中各样本图像计算相同位置的像素加权平均值获得目标图像;
从样本图像组中选择清晰度最高的样本图像、第一帧样本图像或者最后一帧样本图像作为参考图像,根据样本图像组中各样本图像计算特征点,根据所述参考图像对所述样本图像组中其它样本图像进行特征点对齐操作,将对齐操作后的样本图像进行多帧图像融合,获得目标图像。
14.一种多帧图像去噪装置,其特征在于,包括:
第二采集模块,被配置为通过拍摄设备采集连续多帧的待处理图像组,并获取所述待处理图像组的感光度;
第三确定模块,被配置为根据所述感光度,确定所述待处理图像组对应的噪声表征图像;
输入模块,被配置为将所述待处理图像组以及对应的噪声表征图像,输入使用权利要求1至5中任一权利要求所述的训练方法训练过的多帧图像去噪模型;
输出模块,被配置为从所述多帧图像去噪模型输出与所述待处理图像组对应的目标去噪图像。
15.如权利要求14所述的多帧图像去噪装置,其特征在于,所述第三确定模块,被配置为使用以下方法根据所述感光度,确定所述待处理图像组对应的噪声表征图像:
根据用户输入的自适应系数,将所述感光度乘以自适应系数,以获得自适应调整后的感光度,根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像。
16.如权利要求15所述的多帧图像去噪装置,其特征在于,
所述根据所述自适应调整后的感光度确定所述待处理图像组对应的噪声表征图像,包括:
构建感光度图像,所述感光度图像的所有像素值均为所述自适应调整后的感光度,将所述感光度图像作为所述待处理图像组对应的噪声表征图像。
17.一种图像处理装置,其特征在于,包括:
处理器;
用于存储处理器可执行指令的存储器;
其中,所述处理器被配置为执行所述存储器中的可执行指令以实现权利要求1至5或者6至8中任一项所述方法的步骤。
18.一种非临时性计算机可读存储介质,其上存储有可执行指令,其特征在于,该可执行指令被处理器执行时实现权利要求1至5或者6至8中任一项所述方法的步骤。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010534723.5A CN111709891B (zh) | 2020-06-12 | 2020-06-12 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
US17/147,760 US11580327B2 (en) | 2020-06-12 | 2021-01-13 | Image denoising model training method, imaging denoising method, devices and storage medium |
JP2021004769A JP7162683B2 (ja) | 2020-06-12 | 2021-01-15 | 画像ノイズ除去モデルの訓練方法、画像ノイズ除去方法、装置及び媒体 |
KR1020210007775A KR102388588B1 (ko) | 2020-06-12 | 2021-01-20 | 이미지 노이즈 제거 모델의 트레이닝 방법, 이미지 노이즈 제거 방법, 장치 및 매체 |
EP21155379.7A EP3923235A1 (en) | 2020-06-12 | 2021-02-05 | Image denoising model training method, imaging denoising method, devices and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010534723.5A CN111709891B (zh) | 2020-06-12 | 2020-06-12 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN111709891A CN111709891A (zh) | 2020-09-25 |
CN111709891B true CN111709891B (zh) | 2023-11-24 |
Family
ID=72539975
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010534723.5A Active CN111709891B (zh) | 2020-06-12 | 2020-06-12 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
Country Status (5)
Country | Link |
---|---|
US (1) | US11580327B2 (zh) |
EP (1) | EP3923235A1 (zh) |
JP (1) | JP7162683B2 (zh) |
KR (1) | KR102388588B1 (zh) |
CN (1) | CN111709891B (zh) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112669231B (zh) * | 2020-12-23 | 2024-03-05 | 北京小米松果电子有限公司 | 图像处理方法、图像处理模型的训练方法、装置、介质 |
CN113536003B (zh) * | 2021-06-08 | 2024-03-12 | 支付宝(杭州)信息技术有限公司 | 特征提取模型训练方法、图像检索方法、装置和设备 |
CN113592733A (zh) * | 2021-07-22 | 2021-11-02 | 北京小米移动软件有限公司 | 图像处理方法、装置、存储介质及电子设备 |
US20230206399A1 (en) * | 2021-12-24 | 2023-06-29 | Advanced Micro Devices, Inc. | Low-latency architecture for full frequency noise reduction in image processing |
KR20230156585A (ko) * | 2022-05-06 | 2023-11-14 | 에스케이텔레콤 주식회사 | 초해상도 신경망을 기반으로 한 화질개선 방법 및 장치 |
CN115082335A (zh) * | 2022-06-06 | 2022-09-20 | 北京理工大学 | 一种基于噪声建模的图像去噪方法 |
CN116563175B (zh) * | 2023-07-12 | 2023-09-15 | 中国科学院长春光学精密机械与物理研究所 | 光电成像设备***固定噪声去除方法、装置和存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108876735A (zh) * | 2018-06-01 | 2018-11-23 | 武汉大学 | 一种基于深度残差网络的真实图像盲去噪方法 |
CN109754376A (zh) * | 2018-12-28 | 2019-05-14 | 深圳美图创新科技有限公司 | 图像去噪方法及装置 |
CN110288547A (zh) * | 2019-06-27 | 2019-09-27 | 北京字节跳动网络技术有限公司 | 用于生成图像去噪模型的方法和装置 |
CN110827219A (zh) * | 2019-10-31 | 2020-02-21 | 北京小米智能科技有限公司 | 图像处理模型的训练方法、装置及介质 |
JP2020057373A (ja) * | 2018-09-26 | 2020-04-09 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 |
Family Cites Families (15)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8866936B2 (en) | 2008-07-24 | 2014-10-21 | Florida State University of Research Foundation | Systems and methods for training an active random field for real-time image denoising |
US8452116B1 (en) * | 2008-09-19 | 2013-05-28 | Adobe Systems Incorporated | Estimating sensor sensitivity |
KR101641543B1 (ko) * | 2010-02-05 | 2016-07-21 | 삼성전자주식회사 | 영상잡음 제거장치 및 그 방법 |
US9489720B2 (en) * | 2014-09-23 | 2016-11-08 | Intel Corporation | Non-local means image denoising with detail preservation using self-similarity driven blending |
CN107230187B (zh) * | 2016-03-25 | 2022-05-24 | 北京三星通信技术研究有限公司 | 多媒体信息处理的方法和装置 |
US10565686B2 (en) | 2017-06-12 | 2020-02-18 | Nvidia Corporation | Systems and methods for training neural networks for regression without ground truth training samples |
CN108737750A (zh) * | 2018-06-07 | 2018-11-02 | 北京旷视科技有限公司 | 图像处理方法、装置及电子设备 |
CN109214990A (zh) | 2018-07-02 | 2019-01-15 | 广东工业大学 | 一种基于Inception模型的深度卷积神经网络图像去噪方法 |
WO2020033524A1 (en) | 2018-08-07 | 2020-02-13 | BlinkAI Technologies, Inc. | Artificial intelligence techniques for image enhancement |
EP3620989A1 (en) | 2018-09-07 | 2020-03-11 | Panasonic Intellectual Property Corporation of America | Information processing method, information processing apparatus, and program |
CN110072051B (zh) | 2019-04-09 | 2021-09-03 | Oppo广东移动通信有限公司 | 基于多帧图像的图像处理方法和装置 |
CN110163827B (zh) | 2019-05-28 | 2023-01-10 | 腾讯科技(深圳)有限公司 | 图像去噪模型的训练方法、图像去噪方法、装置及介质 |
CN110191291B (zh) | 2019-06-13 | 2021-06-25 | Oppo广东移动通信有限公司 | 基于多帧图像的图像处理方法和装置 |
CN110166709B (zh) | 2019-06-13 | 2022-03-18 | Oppo广东移动通信有限公司 | 夜景图像处理方法、装置、电子设备以及存储介质 |
CN111275653B (zh) | 2020-02-28 | 2023-09-26 | 北京小米松果电子有限公司 | 图像去噪方法及装置 |
-
2020
- 2020-06-12 CN CN202010534723.5A patent/CN111709891B/zh active Active
-
2021
- 2021-01-13 US US17/147,760 patent/US11580327B2/en active Active
- 2021-01-15 JP JP2021004769A patent/JP7162683B2/ja active Active
- 2021-01-20 KR KR1020210007775A patent/KR102388588B1/ko active IP Right Grant
- 2021-02-05 EP EP21155379.7A patent/EP3923235A1/en active Pending
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN108876735A (zh) * | 2018-06-01 | 2018-11-23 | 武汉大学 | 一种基于深度残差网络的真实图像盲去噪方法 |
JP2020057373A (ja) * | 2018-09-26 | 2020-04-09 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、プログラム、記憶媒体、画像処理システム、および、学習済みモデルの製造方法 |
CN109754376A (zh) * | 2018-12-28 | 2019-05-14 | 深圳美图创新科技有限公司 | 图像去噪方法及装置 |
CN110288547A (zh) * | 2019-06-27 | 2019-09-27 | 北京字节跳动网络技术有限公司 | 用于生成图像去噪模型的方法和装置 |
CN110827219A (zh) * | 2019-10-31 | 2020-02-21 | 北京小米智能科技有限公司 | 图像处理模型的训练方法、装置及介质 |
Non-Patent Citations (2)
Title |
---|
朱宜生 ; 孙成 ; .基于卷积神经网络的红外图像去噪方法研究.环境技术.2019,(06),全文. * |
马红强 ; 马时平 ; 许悦雷 ; 吕超 ; 朱明明 ; .基于改进栈式稀疏去噪自编码器的自适应图像去噪.光学学报.2018,(10),全文. * |
Also Published As
Publication number | Publication date |
---|---|
US20210390341A1 (en) | 2021-12-16 |
EP3923235A1 (en) | 2021-12-15 |
KR20210154711A (ko) | 2021-12-21 |
KR102388588B1 (ko) | 2022-04-20 |
CN111709891A (zh) | 2020-09-25 |
JP7162683B2 (ja) | 2022-10-28 |
US11580327B2 (en) | 2023-02-14 |
JP2021197144A (ja) | 2021-12-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111709891B (zh) | 图像去噪模型的训练方法、图像去噪方法、装置及介质 | |
CN111709890B (zh) | 一种图像增强模型的训练方法、装置及存储介质 | |
CN109345485B (zh) | 一种图像增强方法、装置、电子设备及存储介质 | |
CN106408603B (zh) | 拍摄方法及装置 | |
CN108154465B (zh) | 图像处理方法及装置 | |
CN110569822A (zh) | 图像处理方法及装置、电子设备和存储介质 | |
CN112614064B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112634160A (zh) | 拍照方法及装置、终端、存储介质 | |
US11222235B2 (en) | Method and apparatus for training image processing model, and storage medium | |
CN112669231B (zh) | 图像处理方法、图像处理模型的训练方法、装置、介质 | |
CN108629814B (zh) | 相机调整方法及装置 | |
CN112288657A (zh) | 图像处理方法、图像处理装置及存储介质 | |
CN115914848A (zh) | 图像处理方法、装置、电子设备和存储介质 | |
CN113592733A (zh) | 图像处理方法、装置、存储介质及电子设备 | |
CN112950503A (zh) | 训练样本的生成方法及装置、真值图像的生成方法及装置 | |
CN115552415A (zh) | 图像处理方法、装置、电子设备及存储介质 | |
CN112866505B (zh) | 图像处理方法、装置及存储介质 | |
CN114339187B (zh) | 图像处理方法、图像处理装置及存储介质 | |
CN116805976A (zh) | 视频处理方法、装置及存储介质 | |
CN116934601A (zh) | 图像噪声处理方法、装置、电子设备及存储介质 | |
CN117455782A (zh) | 图像增强方法、图像增强装置及存储介质 | |
CN117461050A (zh) | 一种图像的处理方法、装置及存储介质 | |
CN118279604A (zh) | 图像处理方法、装置及存储介质 | |
CN116416505A (zh) | 图像处理模型的训练方法、图像处理方法、装置及存储介质 | |
CN118283411A (zh) | 一种图像采集方法、装置及存储介质 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |