CN111064860A - 图像校正方法、图像校正装置和电子设备 - Google Patents
图像校正方法、图像校正装置和电子设备 Download PDFInfo
- Publication number
- CN111064860A CN111064860A CN201811208112.0A CN201811208112A CN111064860A CN 111064860 A CN111064860 A CN 111064860A CN 201811208112 A CN201811208112 A CN 201811208112A CN 111064860 A CN111064860 A CN 111064860A
- Authority
- CN
- China
- Prior art keywords
- color
- image
- corrected
- correction model
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 79
- 238000003702 image correction Methods 0.000 title claims abstract description 39
- 238000012937 correction Methods 0.000 claims abstract description 147
- 238000012549 training Methods 0.000 claims abstract description 75
- 238000013528 artificial neural network Methods 0.000 claims description 46
- 238000010606 normalization Methods 0.000 claims description 33
- 238000012545 processing Methods 0.000 claims description 21
- 238000004590 computer program Methods 0.000 claims description 11
- 230000008569 process Effects 0.000 description 23
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 14
- 238000003384 imaging method Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 7
- 230000004913 activation Effects 0.000 description 5
- 210000004027 cell Anatomy 0.000 description 4
- 238000003062 neural network model Methods 0.000 description 4
- 238000007781 pre-processing Methods 0.000 description 4
- 239000003086 colorant Substances 0.000 description 3
- 210000002569 neuron Anatomy 0.000 description 3
- 238000012986 modification Methods 0.000 description 2
- 230000004048 modification Effects 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 238000007792 addition Methods 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 238000000354 decomposition reaction Methods 0.000 description 1
- 230000007547 defect Effects 0.000 description 1
- 230000007812 deficiency Effects 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000005215 recombination Methods 0.000 description 1
- 230000006798 recombination Effects 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- WFKWXMTUELFFGS-UHFFFAOYSA-N tungsten Chemical compound [W] WFKWXMTUELFFGS-UHFFFAOYSA-N 0.000 description 1
- 229910052721 tungsten Inorganic materials 0.000 description 1
- 239000010937 tungsten Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N1/00—Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
- H04N1/46—Colour picture communication systems
- H04N1/56—Processing of colour picture signals
- H04N1/60—Colour correction or control
- H04N1/6077—Colour balance, e.g. colour cast correction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Color Image Communication Systems (AREA)
- Image Processing (AREA)
- Facsimile Image Signal Circuits (AREA)
Abstract
公开了一种图像校正方法、图像校正装置和电子设备。根据一实施例,一种图像校正方法可包括:接收待校正图像;以及用色彩校正模型对所述待校正图像进行色彩校正,其中,所述色彩校正模型是利用不同色温下色卡的图像训练得到的。在一些示例中,色卡的图像可以是原始RAW图像。通过用不同色温下的色卡原始RAW图像来训练色彩校正模型,可以消除环境光等因素的影响,实现高的校正准确度,并且具有广泛的适用范围。
Description
技术领域
本申请涉及图像处理领域,且更为具体地,涉及一种图像校正方法、图像校正装置和电子设备。
背景技术
用户在通过相机等拍摄图像时,期望图像能够反映真实场景,但是,由于受到环境光和相机自身曝光等因素的影响,相机获得的原始图像信号和真实场景相比往往存在一定的误差。例如,场景中的环境光可能使得相机拍摄的图像产生色偏,比如在日光灯下拍摄的图像偏绿,而在钨丝灯下拍摄的图片偏黄。因此,为了解决该问题,图像色彩校正被广泛应用于各类相机中。
现有的图像色彩校正方法包括线性拟合、多项式拟合以及神经网络颜色校正等,其一般利用几个采样点的RGB数据来进行校正,由于RGB数据是经过预处理的数据,其作为网络输入存在一定的误差,而且现有的校正方法没有排除环境光的干扰。此外,传统的线性拟合或多项式拟合回归精度并不理想,数据缺乏造成模型的泛化能力较差,因此并不能很好地表达图像的回归效果。
因此,鉴于目前的图像色彩校正方法的诸多不足之处,仍期望提供改进的图像校正方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种图像校正方法、图像校正装置和电子设备,其通过使用不同色温下的原始图像数据训练神经网络模型例如反向传播神经网络模型以进行图像色彩校正,能够消除环境光的影响,实现高的校正准确度,并且具有广泛的适用范围。
根据本申请一示例性实施例,提供一种图像校正方法,其可包括:接收待校正图像;以及用色彩校正模型对所述待校正图像进行色彩校正,其中,所述色彩校正模型是利用不同色温下色卡的图像训练得到的。
在一些示例中,所述色彩校正模型是通过如下步骤训练得到的:获取不同色温下色卡的图像;从所述不同色温下色卡的图像确定所述色卡的与所述不同色温对应的图像原色值;用所述色卡的图像原色值和对应的色温值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定所述色彩校正模型。
在一些示例中,用色彩校正模型对所述待校正图像进行色彩校正包括:以所述待校正图像的图像原色值和色温值作为所述色彩校正模型的输入,由所述色彩校正模型输出校正后的原色值。
在一些示例中,所述色彩校正模型是通过如下步骤训练得到的:获取不同色温下色卡的图像;从所述不同色温下色卡的图像确定所述色卡的与所述不同色温对应的图像原色值;分别用所述色卡在每一个色温下的图像原色值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定在该色温下的色彩校正模型。
在一些示例中,所述方法还包括:基于所述待校正图像的色温选择与所述待校正图像对应的色彩校正模型,其中,用色彩校正模型对所述待校正图像进行色彩校正包括以所述待校正图像的图像原色值作为所述色彩校正模型的输入,由所述色彩校正模型输出校正后的原色值。
在一些示例中,所述色卡的图像和所述待校正图像二者都是原始(RAW)图像或原色图像。
在一些示例中,所述色彩校正模型是通过如下步骤训练得到的:获取不同色温下色卡的原始(RAW)图像;对所述不同色温下色卡的原始(RAW)图像进行白平衡归一化处理;从白平衡归一化处理后的色卡的原始(RAW)图像确定所述色卡的图像原色值;以及用所述色卡的图像原色值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定所述色彩校正模型。
在一些示例中,当所述待校正图像是原始(RAW)图像时,所述方法还包括在对所述待校正图像进行色彩校正之前,对所述待校正图像进行白平衡归一化处理。
在一些示例中,所述色卡的图像原色值和标准原色值被归一化至[0,1]的范围以对所述神经网络进行训练,所述待校正图像的图像原色值被归一化至[0,1]的范围,以输入到所述色彩校正模型中进行校正,校正后的图像原色值被恢复到原始范围。
在一些示例中,所述待校正图像的图像原色值的位数与用于训练神经网络的图像原色值的位数相同。
在一些示例中,所述神经网络是反向传播神经网络。
根据本申请另一示例性实施例,提供一种图像校正装置,其可包括:训练模块,用于利用不同色温下色卡的图像训练神经网络,以确定色彩校正模型;接收模块,用于接收待校正图像;以及校正模块,用于用所述色彩校正模型对所述待校正图像进行色彩校正。
在一些示例中,所述装置还包括:校正模型选择模块,用于基于所述待校正图像的色温,选择与所述待校正图像对应的色彩校正模型。
在一些示例中,所述训练模块包括:接收单元,用于接收不同色温下色卡的图像;采集单元,用于从所述不同色温下色卡的图像采集图像原色值;以及训练单元,用于用所述色卡的图像原色值训练神经网络,以确定所述色彩校正模型。
在一些示例中,所述训练模块还包括:白平衡归一化单元,用于对所述不同色温下色卡的图像进行白平衡归一化处理,其中,所述待校正图像在进行色彩校正之前也经历了白平衡归一化处理。
根据本申请另一示例性实施例,提供一种电子设备,包括:处理器;以及存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行上述图像校正方法。
根据本申请另一示例性实施例,提供一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行上述图像校正方法。
与现有技术相比,本申请的图像校正方案利用不同色温下的色卡原始(RAW)图像来训练色彩校正模型,通过使用不同色温的训练数据,可以消除环境光的影响,使得在任何环境光源下的待校正图像都能够恢复到理想效果。而且,通过使用色卡的原始(RAW)图像,扩充了训练数据,从而可以提高校正精度。此外,本申请采用了反向传播神经网络作为色彩校正模型,其训练速度快,非线性表达能力强,具有小的校正误差,而且具有广泛的适用范围。
本发明的上述和其他特征和优点将从下面结合附图对具体实施方式的详细描述变得更加显而易见。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1图示了根据本申请一实施例的图像校正方法的流程图。
图2图示了根据本申请一实施例的色彩校正模型训练过程的流程图。
图3图示了根据本申请一实施例的用于从色卡图像采集原色值的工具软件的界面的照片。
图4图示了根据本申请一实施例的反向传播神经网络的结构示意图。
图5图示了根据本申请另一实施例的色彩校正模型训练过程的流程图。
图6图示了根据本申请另一实施例的色彩校正模型训练过程的流程图。
图7图示了根据本申请一实施例的图像校正装置的功能框图。
图8图示了根据本申请一实施例的电子设备的结构框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
如前所述,现有的色彩校正方法例如线性拟合、多项式拟合、传统的神经网络校正等,都存在一定的缺陷,例如不能排除环境光的干扰,校正精度不理想,模型泛化能力较差等,因此不能良好地表达图像回归的效果。
针对上述技术问题,本申请的基本构思是获取不同色温下色卡的图像,优选地为原始(RAW)图像,并且利用其来训练反向传播神经网络,从而确定色彩校正模型,以利用该色彩校正模型来执行图像校正。在一些实施例中,可以利用色卡图像的原色值例如RGB值以及色温值一起来训练色彩校正模型,从而所得模型可以对任意色温的待校正图像进行色彩校正。在一些实施例中,可以分别用不同色温的色卡图像原色值来训练色彩校正模型,从而得到多个适用于不同色温图像的色彩校正模型。在进行色彩校正时,可以根据待校正图像的色温来选择对应的色彩校正模型。在一些实施例中,还可以对不同色温的色卡图像进行白平衡归一化处理以消除环境光的影响,然后再用色卡图像的原色值训练校正模型。可以理解,在前面两种实施方式中,校正模型还起到了白平衡归一化的作用;而在第三种实施方式中,虽然单独进行了白平衡归一化处理,但是这种处理一般并不足以实现理想的白平衡,因此通过校正模型来进一步实现色彩回归,从而实现更好的色彩回归效果。
在本发明的实施例中,通过采用不同色温下的色卡原始图像来训练校正模型,扩充了训练数据,可以消除环境光的干扰,在各种环境条件下都实现准确的色彩回归。而且,本申请采用了反向传播神经网络作为色彩校正模型,其训练速度快,非线性表达能力强,具有小的校正误差,而且具有广泛的适用范围。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1图示了根据本申请一实施例的图像校正方法的流程图。
如图1所示,根据本申请一实施例的图像校正方法100可包括:步骤S110,接收待校正图像;以及步骤S120,用色彩校正模型对所述待校正图像进行色彩校正。
待校正图像可以是任意设备拍摄的图像,例如照相机、摄像机、移动设备例如手机上的摄像头等,并且待校正图像可以具有期望的格式,或者可以被处理例如转换成期望的格式,如从下面的描述将理解的那样。可以通过任意方式来接收待校正图像,例如可以通过有线或无线网络、可移动记录介质等来接收待校正图像。在一些实施例中,方法100可以直接在拍摄待校正图像的相机或手机等电子设备上运行,从而可以直接从相机上的成像器件或者手机上的摄像头接收所拍摄的待校正图像,或者从此类电子设备的存储器取得待校正图像。
如前所述,在本发明的实施例中,用于对待校正图像进行校正的色彩校正模型是利用不同色温下色卡的图像训练得到的。图2示出了根据本申请一实施例的色彩校正模型训练过程的流程图。应理解,本申请描述的色彩校正模型训练过程可以在执行图像校正方法的电子设备本地进行,也可以在服务区端进行,然后将训练好的色彩校正模型分发到各个电子设备。或者,各种电子设备可以通过网络等从服务器下载或更新训练好的色彩校正模型等。在这方面,本发明没有任何限制。
参照图2,色彩校正模型的训练方法210可始于步骤S212,获取不同色温下色卡的图像。这里,可以采用各种色卡,例如140色卡、24色卡、20灰阶卡等,利用相机拍摄色卡在不同色温下的图像。拍摄环境可以是封闭式的暗箱,利用可调色温的光源进行照明,从而排出其他光源的干扰,获得不同色温下的色卡图像。例如,可以在常见色温范围例如1000K到8000K的范围内,划分n个色温档,n一般可以在3到300的范围内,例如在5到100的范围内,通过可调色温的光源在各个色温下拍摄色卡图像。拍摄过程中相机的曝光参数可以不固定,并且固定光源和相机的位置,利用快门线和三脚架进行拍摄,从而防止抖动,确保拍摄环境的一致性。
优选地,所获取的色卡图像是原始RAW图像,其与经过预处理后的RGB数据相比,包含更原始更准确的原色信息,从而有利于训练更准确的色彩校正模型。虽然图中未示出,但是可以对色卡的原始RAW图像进行必要的预处理,以消除曝光等因素的影响。例如,可以对RAW图像进行黑电平、去马赛克、自动曝光(AE)归一化等预处理。
继续参照图2,在步骤S212中,可以从不同色温下的色卡图像确定色卡的与色温对应的图像原色值。应理解,虽然这里以RGB为例描述了原色值,但是本发明的原理也适用于其他原色体系,例如CMY三原色、CMYK四原色等。这里,可以采用各种方式来从色卡图像采集原色值,例如可以由工作人员利用软件来手动采集,或者也可以由软件自动采集。例如,可以选取色卡图像上的一块区域,计算该区域中的多个像素的平均RGB值作为该色卡在该色温下的图像原色值。以140色卡为例,在每个色温下,可以获得140个RGB值,即140*3的矩阵。如果在200个色温下拍摄色卡的图像,则可以得到200个这样的140*3矩阵,每个矩阵对应于一个特定的色温。
图3示出了根据本申请一实施例的可用于从色卡图像采集原色值的工具软件的用户界面的照片。如图3所示,该工具软件支持多种图片格式的读取,例如jpg、ppm、bin、png、bmp、raw等,支持20、24、140色卡的选择,支持自定义色温设置、数据类型设置,支持数据清除和程序退出等功能。加载图片并且选择色卡类型后,可以直接在图片上拖出一个矩形框,以选定色卡区域,则该工具软件或自动计算和识别矩形框内每个色卡的位置,并且用小框标出,之后计算每个小框内的RGB原色的均值,从而获得该色块的RGB值。然后,该工具软件可以按照所需格式导出RGB原色值以及相应的色温值等。当然应理解,这里的原色值采集工具仅是示例,也可以借助于其他工具软件来采集色卡图像的原色值。
接下来在步骤S214中,即可利用色卡的图像原色值和对应的色温值来训练神经网络,以确定色彩校正模型。训练时,可以使用色卡的标准原色值,也就是期望校正到的原色值,作为监督数据,来训练神经网络的参数值。优选地,神经网络可以是具有非线性表达能力强的反向传播神经网络,图4示出了反向传播神经网络300的结构示意图。如图4所示,反向传播神经网络300可以包括输入层310、一个或多个隐层(或称为中间层)320、以及输出层330。
参照图4,色卡的原色值例如RGB值以及对应的色温值K作为输入数据可以被提供给输入层310,因此在图4中输入层310可具有四个节点。中间层320的层数和每层的节点数不作限制,例如在一些实施例中,可以采用一个中间层320,其具有例如50-200个节点;也可以采用更多的中间层320,每个中间层320可具有更多或更少的节点。输出层330可以具有三个节点,其分别输出校正后的RGB值。在另一些实施例中,输出层330也可以具有四个节点,其中第四个节点对应于校正后的色温值,例如可以是正常色温5500K左右。如图4所示,反向传播神经网络可以是全连接网络,即任一个上层节点都连接到每个下层节点,任一个下层节点也都连接到每个上层节点。
训练时,将色卡的RGB原色值和对应的色温值K作为输入数据提供给输入层310,中间层320的每个节点接收来自上层的输入,并且执行下面的公式1所示的运算:
wi*xi+bi=yi (公式1)
其中,wi为该节点的权重参数,xi为该节点的输入值,bi为该节点的偏置参数,yi则为运算结果。
由于反向传播神经网络100的全连接特性,使得当前节点的输出会影响到下一层节点输入。假设上一层节点用N表示,数量为n,本层节点用M表示,数量为m,那么对于本层中的一个神经元Mj而言:
Ni_output=activation*yi (公式2)
其中,activation表示激活函数,例如为常用的ReLU函数,Sigmod函数等,其可以增加神经网络模型的非线性。Ni_output是上一层第i个节点的输出,Mj_input是本层第j个节点的输入。
在已知输入和输出的情况下,构建损失函数,其可以是输出层330的每个节点的输出值(即,校正后的原色值)与监督值(即,色卡的标准原色值)之间的均方差的和,通过最小化损失函数,达到全局最小值,来优化神经网络的每个节点的参数值。随着网络训练的迭代次数增加,反向传播神经网络300可利用反向传播算法学习到神经元节点的权重及偏置值。
应理解的是,训练时使用的图像和待校正图像应具有相同的色深,即原色值位数。例如,训练图像和待校正图像都具有8比特(bit)色深,即具有0-255共256个色阶,或10比特色深,即具有0-1023共1024个色阶。训练时,为了加快网络收敛速度,使得训练过程不发散,在本发明一些实施例中,可以将色卡的图像原色值从原始范围例如[0,255]或[0,1023]归一化到范围[0,1]内,这可以通过在运算时除以255或1023来实现,保留预定位例如6位的小数,回归目标值即监督数据也做同样的归一化处理。
此外,神经网络的很多超参数都会影响到训练结果的精确度,不合理的参数很可能使得模型陷入到局部最小值。常见的超参数包括批次(batch)大小、学习率、激活函数、隐藏层节点数等。通常情况下,大的批次大小会使得训练时间缩短,模型收敛变慢,但不容易陷入局部最小;反之,小的批次大小会使得训练时间变长,容易陷入局部最小。经过调整各类超参数,在本发明的一些实施例中,可以取批次大小为1,学习率为0.01,激活函数为ReLU,网络隐藏层为100个神经元节点。这样,最终训练好的模型可将单个像素值的回归误差控制在5以内,该结果显著好于传统的图像色彩校正方法。
在调整好网络超参数后,经过一定次数的迭代,损失值会收敛,此时结束训练过程,获得训练好的色彩校正模型。
当然,本领域技术人员可以理解,本申请实施例并不意图对反向传播神经网络的训练学习方法进行任何限制。而且,在另一些实施例中,本发明还可以使用除了反向传播神经网络之外的其他神经网络模型。
返回参照图1,可以理解,在步骤S120中用参照图2训练好的色彩校正模型来对待校正图像进行色彩校正时,也需要将待校正图像的RGB原色值从[0,255]归一化到[0,1]的范围,并且将待校正图像的RGB原色值和其色温值作为输入提供给色彩校正模型的输入层,从而在色彩校正模型的输出层处得到所输出的校正后的RGB原色值。然后,可以将色彩校正模型输出的校正后的RGB原色值恢复到[0,255]的范围,这仅需要将其乘以255即可。
图5示出根据本申请另一实施例的色彩校正模型训练过程的流程图。可以理解,图5的训练方法220与图2的训练方法210在原理上是基本类似的,下面仅详细描述二者之间的不同之处。
参照图5,在如图2所示的步骤S212中获得不同色温下色卡的图像和在步骤S214中从色卡图像确定原色值之后,在步骤S222中,可以利用色卡的图像原色值对神经网络进行训练。与图2的训练步骤S216不同的是,在步骤S222中,可以分别用不同色温下的色卡图像来训练神经网络,从而得到多个不同色温下的色彩校正模型。例如,利用6573K(D65)、5500K(D55)、5000K(D50)、4220K(CW)等色温下的色卡图像训练神经网络,从而获得分别用于6573K(D65)、5500K(D55)、5000K(D50)、4220K(CW)等色温的色彩校正模型。容易理解的是,训练过程可以与上面参照图4描述的类似,除了输入层310仅需要R、G、B三个输入节点,而不需要色温输入节点K之外。训练时,同样使用色卡的标准原色值作为监督数据。
在得到用于不同色温的多个色彩校正模型之后,在对待校正图像进行校正时,容易理解的是,可以基于待校正图像的色温来选择对应的色彩校正模型。如果校正模型的色温不同于待校正图像的色温,则选择色温值最接近的校正模型即可。校正时,只需要将待校正图像的RGB原色值输入到色彩校正模型中,而不需要将色温值用作输入。
应理解,在参照图2和图5描述的训练过程以及对应的校正过程中,均考虑了图像的色温参数。不同的是,在图2中直接将色温参数输入到神经网络中,从而所得色彩校正模型可以校正任意色温下的图像;而在图5的方案中,是分不同的色温来分别训练不同的模型,从而在执行校正时,需要基于色温来选择合适的模型,而模型本身在执行校正时并不考虑色温值。由于考虑了色温,通过图2和图5的训练过程得到的色彩校正模型都可以针对不同的色温实现更准确的色彩校正。
图6示出根据本申请另一实施例的色彩校正模型训练过程的流程图。可以理解,图6的训练方法230与图2的训练方法210和图4的训练方法220存在诸多类似之处,下面将省略对其的重复描述,而仅详细描述它们之间的不同之处。
参照图6,色彩校正模型训练方法230可始于步骤S232,获取不同色温下色卡的原始图像,即RAW图像。RGB图像是经过各种预处理和白平衡归一化之后获得的三通道图像,而RAW图像是白平衡归一化之前的图像,其包含有成像传感器的诸多成像信息。然后在步骤S234,可以对不同色温下的色卡RAW图像进行白平衡归一化处理,从而可以将不同色温的色卡图像归一化至预定的色温水平,例如常用的5500K。通过白平衡归一化处理,可以消除环境光的影响,不过白平衡归一化并不能实现理想的色彩校正效果。接下来在步骤S236中,可以从白平衡归一化之后的色卡图像采集色卡的图像原色值,然后在步骤S238中用色卡的图像原色值作为输入数据,使用色卡的标准原色值作为监督数据,来训练神经网络,从而获得色彩校正模型。
在参照图6描述的训练方法230中,由于在训练神经网络之前对色卡图像进行了白平衡归一化处理,消除了色温的影响,因此所获得的色彩校正模型仅对白平衡归一化之后的图像进行色彩校正。当待校正图像也是RAW图时,需要对其也进行白平衡归一化处理,然后再执行色彩校正;当待校正图像是RGB图像时,因为其已经执行了白平衡归一化处理,所以可以直接对其进行色彩校正。
另一方面,在参照图2和图5描述的训练方法210和220中,可以不对训练图像和待校正图像执行白平衡归一化处理,例如训练图像和待校正图像二者都是RAW图像。此时,训练得到的色彩校正模型相当于执行了白平衡归一化以及色彩校正这两个功能。此外,训练图像和待校正图像二者也可以都是RGB图像,其已经经历过白平衡归一化处理。此时,训练得到的色彩校正模型相当于仅执行色彩校正这个功能。可以理解的是,对于色彩校正模式而言,训练图像和待校正图像应保持一致,即都经历过白平衡归一化处理,或者都未经历白平衡归一化处理。
示例性装置
图7图示了根据本申请实施例的图像校正装置的框图。如图7所示,根据本申请实施例的图像校正装置400可包括训练模块410、接收模块420和校正模块430。
训练模块410可用于利用不同色温下的色卡图像来训练神经网络,从而确定色彩校正模型。具体训练过程如上面参照图2-6描述的那样,此处不再重复说明。作为示例,训练模块410可包括用于接收不同色温下的色卡图像的接收单元412,用于从不同色温的色卡图像采集图像原色值的采集单元414,以及用于使用色卡的图像原色值和标准原色值以及色温值来对神经网络进行训练从而确定色彩校正模型的训练单元416。在一些示例中,训练模块410还可以包括白平衡归一化单元418,其可用于对色卡图像进行白平衡归一化处理以消除色温的影响。
接收模块420可用于接收待校正图像,然后校正模块430可使用训练模块410产生的色彩校正模型来对待校正图像进行色彩校正处理。
在一些实施例中,例如当训练模块410产生用于不同色温的多个色彩校正模型时,图像校正装置400还可以包括校正模型选择模块440以基于待校正图像的色温,选择对应的色彩较正模型来执行校正。
虽然未示出,但是图像校正装置400还可以包括其他模块或单元以执行前面参照图2-5描述的操作或者本领域技术人员已知的其他必要操作。作为示例,例如图像校正装置400还可以包括预处理模块,其可用于对色卡的原始(RAW)图像进行预处理,包括但不限于黑电平校正、去马赛克、自动曝光归一化等。
可以理解,上述图像校正装置400中的各个单元和模块的具体功能和操作已经在上面参考图2到图6描述的图像校正方法中详细介绍,因此上面仅简要描述。
根据本申请实施例的图像校正装置400可以实现在各种终端设备中,例如用于进行图像色彩校正的服务器、诸如手机、相机等之类的移动电子设备等。在一个示例中,根据本申请实施例的装置400可以作为一个软件模块和/或硬件模块而集成到终端设备中。例如,该装置400可以是该终端设备的操作***中的一个软件模块,或者可以是针对于该终端证设备所开发的一个应用程序;当然,该装置400同样可以是该终端设备的众多硬件模块之一。
替换地,在另一示例中,该图像校正装置400与该终端设备也可以是分立的设备,并且该装置400可以通过有线和/或无线网络连接到该终端设备,并且按照约定的数据格式来传输交互信息。
示例性电子设备
下面,参考图8来描述根据本申请实施例的电子设备。
图8图示了根据本申请实施例的电子设备10的结构框图。如图8所示,电子设备10包括一个或多个处理器11和存储器12,它们通过总线16彼此相连。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,例如专门用于运行神经网络的处理单元等。在一些实施例中,处理器11可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的图像校正方法以及/或者其他期望的功能。在所述计算机可读存储介质中还可以存储诸如色温数据、原始图像数据、标准原色值、待校正图像、校正后的图像等各种内容。
在一些示例中,电子设备10还可以包括成像器件13,其可以捕捉图像。例如,成像器件13可以是CMOS成像器件或CCD成像器件等。作为非限制示例,例如电子设备10可以是手机,成像器件13可以是手机上的摄像头。
在一些实施例中,电子设备10还可以包括输入单元14和输出单元15,这些组件都通过总线16彼此连接。
例如,输入单元14可以是键盘、触摸屏等,其可以从外界接收输入信息,例如色卡的标准原色值等。输出单元15可以是例如显示器,其输出校正后的图像。输出单元15也可以是其他输出接口,例如连接至打印机的接口等。
在一些实施例中,输入单元14和输出单元15可以集成为单个装置,例如带触摸功能的显示屏等。或者,输入单元14和输出单元15可以是网络接口,从而可以通过网络实现输入和输出。
为了简化,图8中仅示出了电子设备10中与本申请有关的组件中的一些。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的图像校正方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的图像校正方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。
Claims (17)
1.一种图像校正方法,包括:
接收待校正图像;以及
用色彩校正模型对所述待校正图像进行色彩校正,
其中,所述色彩校正模型是利用不同色温下色卡的图像训练得到的。
2.如权利要求1所述的方法,其中,所述色彩校正模型是通过如下步骤训练得到的:
获取不同色温下色卡的图像;
从所述不同色温下色卡的图像确定所述色卡的与所述不同色温对应的图像原色值;以及
用所述色卡的图像原色值和对应的色温值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定所述色彩校正模型。
3.如权利要求2所述的方法,其中,用色彩校正模型对所述待校正图像进行色彩校正包括:
以所述待校正图像的图像原色值和色温值作为所述色彩校正模型的输入,由所述色彩校正模型输出校正后的原色值。
4.如权利要求1所述的方法,其中,所述色彩校正模型是通过如下步骤训练得到的:
获取不同色温下色卡的图像;
从所述不同色温下色卡的图像确定所述色卡的与所述不同色温对应的图像原色值;以及
分别用所述色卡在每一个色温下的图像原色值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定在该色温下的色彩校正模型。
5.如权利要求4所述的方法,还包括:
基于所述待校正图像的色温选择与所述待校正图像对应的色彩校正模型,
其中,用色彩校正模型对所述待校正图像进行色彩校正包括以所述待校正图像的图像原色值作为所述色彩校正模型的输入,由所述色彩校正模型输出校正后的原色值。
6.如权利要求2至5中的任一项所述的方法,其中,所述色卡的图像和所述待校正图像二者都是原始(RAW)图像或原色图像。
7.如权利要求1所述的方法,其中,所述色彩校正模型是通过如下步骤训练得到的:
获取不同色温下色卡的原始(RAW)图像;
对所述不同色温下色卡的原始(RAW)图像进行白平衡归一化处理;
从白平衡归一化处理后的色卡的原始(RAW)图像确定所述色卡的图像原色值;以及
用所述色卡的图像原色值作为输入数据,以所述色卡的标准原色值作为监督数据,来训练神经网络,以确定所述色彩校正模型。
8.如权利要求7所述的方法,其中,当所述待校正图像是原始(RAW)图像时,所述方法还包括在对所述待校正图像进行色彩校正之前,对所述待校正图像进行白平衡归一化处理。
9.如权利要求2、3和7中的任一项所述的方法,其中,所述色卡的图像原色值和标准原色值被归一化至[0,1]的范围以对所述神经网络进行训练,且
其中,所述待校正图像的图像原色值被归一化至[0,1]的范围,以输入到所述色彩校正模型中进行校正,校正后的图像原色值被恢复到原始范围。
10.如权利要求2、3和7中的任一项所述的方法,其中,所述待校正图像的图像原色值的位数与用于训练神经网络的图像原色值的位数相同。
11.如权利要求2、3和7中的任一项所述的方法,其中,所述神经网络是反向传播神经网络。
12.一种图像校正装置,包括:
训练模块,用于利用不同色温下色卡的图像训练神经网络,以确定色彩校正模型;
接收模块,用于接收待校正图像;以及
校正模块,用于用所述色彩校正模型对所述待校正图像进行色彩校正。
13.如权利要求12所述的装置,还包括:
校正模型选择模块,用于基于所述待校正图像的色温,选择与所述待校正图像对应的色彩校正模型。
14.如权利要求12所述的装置,其中,所述训练模块包括:
接收单元,用于接收不同色温下色卡的图像;
采集单元,用于从所述不同色温下色卡的图像采集图像原色值;以及
训练单元,用于用所述色卡的图像原色值训练神经网络,以确定所述色彩校正模型。
15.如权利要求14所述的装置,其中,所述训练模块还包括:
白平衡归一化单元,用于对所述不同色温下色卡的图像进行白平衡归一化处理,
其中,所述待校正图像在进行色彩校正之前也经历了白平衡归一化处理。
16.一种电子设备,包括:
处理器;以及
存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-11中任一项所述的图像校正方法。
17.一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行如权利要求1-11中的任一项所述的图像校正方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811208112.0A CN111064860A (zh) | 2018-10-17 | 2018-10-17 | 图像校正方法、图像校正装置和电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201811208112.0A CN111064860A (zh) | 2018-10-17 | 2018-10-17 | 图像校正方法、图像校正装置和电子设备 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN111064860A true CN111064860A (zh) | 2020-04-24 |
Family
ID=70296944
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201811208112.0A Pending CN111064860A (zh) | 2018-10-17 | 2018-10-17 | 图像校正方法、图像校正装置和电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN111064860A (zh) |
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113034357A (zh) * | 2021-05-24 | 2021-06-25 | 杭州火烧云科技有限公司 | Raw格式文件转档的方法、***、电子装置和存储介质 |
CN116385566A (zh) * | 2022-05-27 | 2023-07-04 | 上海玄戒技术有限公司 | 光源估计方法、装置、电子设备、芯片及存储介质 |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102110428A (zh) * | 2009-12-23 | 2011-06-29 | 新奥特(北京)视频技术有限公司 | 一种cmyk到rgb色彩空间的转换方法和装置 |
CN105577982A (zh) * | 2015-12-31 | 2016-05-11 | 深圳市金立通信设备有限公司 | 一种图像处理的方法及终端 |
CN106412547A (zh) * | 2016-08-29 | 2017-02-15 | 厦门美图之家科技有限公司 | 一种基于卷积神经网络的图像白平衡方法、装置和计算设备 |
CN107389194A (zh) * | 2017-07-12 | 2017-11-24 | 蔚彩信息科技(上海)有限公司 | 基于色卡的开放光环境下颜色高保真数字成像*** |
CN107507250A (zh) * | 2017-06-02 | 2017-12-22 | 北京工业大学 | 一种基于卷积神经网络的面色舌色图像颜色校正方法 |
CN107578390A (zh) * | 2017-09-14 | 2018-01-12 | 长沙全度影像科技有限公司 | 一种使用神经网络进行图像白平衡校正的方法及装置 |
-
2018
- 2018-10-17 CN CN201811208112.0A patent/CN111064860A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102110428A (zh) * | 2009-12-23 | 2011-06-29 | 新奥特(北京)视频技术有限公司 | 一种cmyk到rgb色彩空间的转换方法和装置 |
CN105577982A (zh) * | 2015-12-31 | 2016-05-11 | 深圳市金立通信设备有限公司 | 一种图像处理的方法及终端 |
CN106412547A (zh) * | 2016-08-29 | 2017-02-15 | 厦门美图之家科技有限公司 | 一种基于卷积神经网络的图像白平衡方法、装置和计算设备 |
CN107507250A (zh) * | 2017-06-02 | 2017-12-22 | 北京工业大学 | 一种基于卷积神经网络的面色舌色图像颜色校正方法 |
CN107389194A (zh) * | 2017-07-12 | 2017-11-24 | 蔚彩信息科技(上海)有限公司 | 基于色卡的开放光环境下颜色高保真数字成像*** |
CN107578390A (zh) * | 2017-09-14 | 2018-01-12 | 长沙全度影像科技有限公司 | 一种使用神经网络进行图像白平衡校正的方法及装置 |
Cited By (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN113034357A (zh) * | 2021-05-24 | 2021-06-25 | 杭州火烧云科技有限公司 | Raw格式文件转档的方法、***、电子装置和存储介质 |
CN113034357B (zh) * | 2021-05-24 | 2021-08-17 | 杭州火烧云科技有限公司 | Raw格式文件转档的方法、***、电子装置和存储介质 |
CN116385566A (zh) * | 2022-05-27 | 2023-07-04 | 上海玄戒技术有限公司 | 光源估计方法、装置、电子设备、芯片及存储介质 |
CN116385566B (zh) * | 2022-05-27 | 2024-04-30 | 上海玄戒技术有限公司 | 光源估计方法、装置、电子设备、芯片及存储介质 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108805103B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
CN111062876B (zh) | 用于校正模型训练和图像校正的方法和装置及电子设备 | |
WO2019233343A1 (en) | Image processing method and electronic device | |
US20190130169A1 (en) | Image processing method and device, readable storage medium and electronic device | |
CN101527860B (zh) | 白平衡控制设备及其控制方法和摄像设备 | |
CN112118388B (zh) | 图像处理方法、装置、计算机设备和存储介质 | |
CN106797437A (zh) | 使用多个图像的高动态范围图像合成 | |
EP1858264A2 (en) | Imaging apparatus and method, and imaging device | |
CN102422628B (zh) | 图像处理方法和图像处理设备 | |
CN108616700B (zh) | 图像处理方法和装置、电子设备、计算机可读存储介质 | |
WO2020010638A1 (zh) | 一种图像坏点检测方法及装置 | |
JP2005079834A (ja) | 色変換マトリクス算出方法および画像信号処理装置 | |
CN114979500B (zh) | 图像处理方法、图像处理装置、电子设备及可读存储介质 | |
CN110830789A (zh) | 一种过曝检测方法、装置及一种过曝抑制方法、装置 | |
CN113643214A (zh) | 一种基于人工智能的图像曝光校正方法及*** | |
CN111064860A (zh) | 图像校正方法、图像校正装置和电子设备 | |
JP7403995B2 (ja) | 情報処理装置、制御方法およびプログラム | |
WO2021051307A1 (zh) | 图像的颜色校正方法、拍摄设备、图像的颜色校正*** | |
CN108810509A (zh) | 一种图像色彩校正方法及装置 | |
US20230222639A1 (en) | Data processing method, system, and apparatus | |
US11869224B2 (en) | Method and system for establishing light source information prediction model | |
CN108881740B (zh) | 图像方法和装置、电子设备、计算机可读存储介质 | |
WO2024079532A1 (en) | Temporally consistent neural network processing system | |
US11575841B2 (en) | Information processing apparatus, imaging apparatus, method, and storage medium | |
US11836581B2 (en) | Learning model generation apparatus, image correction apparatus, and non-transitory computer readable medium for generating learning model based on classified image information |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20200424 |
|
RJ01 | Rejection of invention patent application after publication |