CN111062876B - 用于校正模型训练和图像校正的方法和装置及电子设备 - Google Patents

用于校正模型训练和图像校正的方法和装置及电子设备 Download PDF

Info

Publication number
CN111062876B
CN111062876B CN201811208111.6A CN201811208111A CN111062876B CN 111062876 B CN111062876 B CN 111062876B CN 201811208111 A CN201811208111 A CN 201811208111A CN 111062876 B CN111062876 B CN 111062876B
Authority
CN
China
Prior art keywords
color
color correction
image
correction model
model
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
CN201811208111.6A
Other languages
English (en)
Other versions
CN111062876A (zh
Inventor
肖雪
许译天
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Beijing Horizon Robotics Technology Research and Development Co Ltd
Original Assignee
Beijing Horizon Robotics Technology Research and Development Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Beijing Horizon Robotics Technology Research and Development Co Ltd filed Critical Beijing Horizon Robotics Technology Research and Development Co Ltd
Priority to CN201811208111.6A priority Critical patent/CN111062876B/zh
Publication of CN111062876A publication Critical patent/CN111062876A/zh
Application granted granted Critical
Publication of CN111062876B publication Critical patent/CN111062876B/zh
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)

Abstract

本申请涉及用于校正模型训练和图像校正的方法和装置及电子设备。根据一示例性实施例,提供一种色彩校正模型训练方法,其可包括:获取色卡的图像;使用色卡的图像来训练神经网络,从而获得第一色彩校正模型;利用所述第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值;以及使用所述任意原始原色值作为输入数据,并且使用对应的目标原色值作为监督数据,来训练第二色彩校正模型。本申请的方案可以实现具有良好的校正效果和硬件友好度的图像色彩校正方案,因此能广泛应用于各种电子设备中。

Description

用于校正模型训练和图像校正的方法和装置及电子设备
技术领域
本申请总体上涉及图像处理领域,更特别地,涉及用于训练色彩校正模型的方法和装置,使用该色彩校正模型进行图像色彩校正的方法和装置、以及相关的电子设备。
背景技术
用户在通过相机、手机上的摄像头等拍摄图像时,期望图像能够反映真实场景,但是,由于受到环境光和相机自身曝光等因素的影响,相机获得的原始图像信号和真实场景相比往往存在一定的偏差。例如,场景中的环境光可能使得相机拍摄的图像产生色偏,比如在日光灯下拍摄的图像偏绿,而在钨丝灯下拍摄的图片偏黄等等。因此,为了解决该问题,图像色彩校正被广泛应用于各类拍照设备中。
现有的图像色彩校正方法包括线性拟合、多项式拟合以及神经网络颜色校正等。其中,传统的线性拟合和多项式拟合方法一般利用几个采样点的RGB数据来进行校正,数据缺乏造成校正精度不理想,而且模型的泛化能力较差,因此不能很好地表达图像的回归效果。基于神经网络的校正模型虽然可以通过采用大量训练数据而实现高的校正精度和广泛的适用领域,但是神经网络校正模型的参数量较大,所涉及的计算量较大,而且需要大量的乘法器,对硬件实现并不友好,尤其是对于具有有限硬件资源的便携式移动电子设备而言。此外,传统的图像色彩校正方法还不能有效地消除环境光的变化对图像色彩的影响。
因此,鉴于目前的图像色彩校正方法的诸多不足之处,仍期望提供改进的图像校正方案。
发明内容
为了解决上述技术问题,提出了本申请。本申请的实施例提供了一种色彩校正模型训练方法和装置、图像色彩校正方法和装置、以及相关的电子设备,其通过首先训练神经网络模型,再使用神经网络模型来训练其他非神经网络色彩校正模型,可以实现具有良好的校正效果和硬件友好度的图像色彩校正方案。
根据本申请的一个方面,提供了一种色彩校正模型训练方法,包括:获取色卡的图像;使用色卡的图像来训练神经网络,从而获得第一色彩校正模型;利用所述第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值;以及使用所述任意原始原色值作为输入数据,并且使用对应的目标原色值作为监督数据,来训练第二色彩校正模型。
在一些实施例中,所述第二色彩校正模型是基于非神经网络的色彩校正模型。
在一些实施例中,所述第一色彩校正模型是反向传播神经网络模型,所述第二色彩校正模型是线性回归模型。
在一些实施例中,训练第二色彩校正模型包括:将所述色彩空间中的任意原始原色值和对应的目标原色值按范围分为多个区块;分别使用所述多个区块来训练第二色彩校正模型,以获得分别与所述多个区块对应的多个第二色彩校正子模型,所述第二色彩校正模型由多个第二色彩校正子模型组成。
在一些实施例中,将所述色彩空间中的任意原始原色值和对应的目标原色值按范围分为多个区块包括:在所述色彩空间的每个维度上进行均匀分块。
在一些实施例中,所述色卡的图像包括不同色温下的图像,从而所述第一色彩校正模型和所述第二色彩校正模型基于色温来执行色彩校正。
在一些实施例中,所述色彩空间包括RGB、YUV、HSV、Lab、CMYK中的任意一个。
根据本申请的另一个方面,提供了一种图像色彩校正方法,包括:接收待校正图像;以及使用上述第二色彩校正模型来校正所述待校正图像。
在一些实施例中,所述第二色彩校正模型由多个第二色彩校正子模型组成,所述多个第二色彩校正子模型分别用于校正不同数值范围内的原色值,所述图像色彩校正方法还包括根据所述待校正图像的原色值所属的数值范围,选择相对应的第二色彩校正子模型来进行校正。
根据本申请的另一个方面,提供了一种色彩校正模型训练装置,包括:图像获取单元,用于获取色卡的图像;第一训练单元,用于使用所述色卡的图像来训练神经网络,从而获得第一色彩校正模型;数据增强单元,用于利用所述第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值;以及第二训练单元,用于使用所述任意原始原色值作为输入数据,并且使用对应的目标原色值作为监督数据,来训练第二色彩校正模型。
在一些实施例中,所述色彩校正模型训练装置还包括:分块单元,用于将所述色彩空间中的任意原始原色值按范围分为多个区块,其中,所述数据增强单元利用所述第一色彩校正模型对各个区块的原始原色值进行校正,以获得对应的各个区块的目标原色值,且其中,所述第二训练单元分别使用各个区块的原始原色值和目标原色值来训练第二色彩校正模型,以获得分别与各个区块对应的多个第二色彩校正子模型,所述第二色彩校正模型由多个第二色彩校正子模型组成。
根据本申请的另一个方面,提供了一种图像色彩校正装置,包括:接收单元,用于接收待校正图像;以及校正单元,用于使用第二色彩校正模型来校正所述待校正图像,其中,所述第二色彩校正模型是使用第一色彩校正模型训练得到的,所述第一色彩校正模型是基于神经网络的模型,所述第二色彩校正模型是基于非神经网络的模型。
在一些实施例中,所述第二色彩校正模型由多个第二色彩校正子模型组成,所述多个第二色彩校正子模型分别用于校正不同数值范围内的原色值,且其中,所述图像色彩校正装置还包括模型选择单元,用于根据所述待校正图像的原色值所属的数值范围,选择相对应的第二色彩校正子模型来进行校正。
根据本申请的另一个方面,提供了一种电子设备,包括:处理器;以及存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行上述方法。
根据本申请的另一个方面,提供了一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行上述方法。
与现有技术相比,本申请的图像校正方案具有许多优点。例如,通过首先训练基于神经网络的色彩校正模型,可以获得具有高的校正精度和广泛的适用领域的校正模型;然后再利用基于神经网络的色彩校正模型来训练非神经网络模型,例如线性回归模型,可以获得既具有高的校正精度和广泛的适用范围,又具有良好的硬件友好度的校正模型,这样的模型可以应用于各种电子设备中,包括具有有限硬件资源的便携式移动电子设备例如手机等。此外,在训练基于神经网络的模型时,本发明通过使用不同色温下的色卡图像,以及使用色卡的原始RAW图像等,扩充了训练数据,能够消除环境光的影响,确保了训练得到了神经网络模型以及最终训练得到的非神经网络模型在各种情况下都具有高的校正精度。
本发明的上述和其他特征和优点将从下面结合附图对具体实施方式的详细描述变得更加显而易见。
附图说明
通过结合附图对本申请实施例进行更详细的描述,本申请的上述以及其他目的、特征和优势将变得更加明显。附图用来提供对本申请实施例的进一步理解,并且构成说明书的一部分,与本申请实施例一起用于解释本申请,并不构成对本申请的限制。在附图中,相同的参考标号通常代表相同部件或步骤。
图1图示了根据本申请实施例的色彩校正模型训练方法的流程图。
图2图示了根据本申请实施例的基于神经网络的色彩校正模型的示意图。
图3图示了根据本申请实施例的利用基于神经网络的色彩校正模型来训练基于非神经网络的色彩校正模型的示意性流程图。
图4图示了根据本申请实施例的图像色彩校正方法的流程图。
图5图示了根据本申请实施例的色彩校正模型训练装置的功能框图。
图6图示了根据本申请实施例的图像色彩校正装置的功能框图。
图7图示了根据本申请实施例的电子设备的结构框图。
具体实施方式
下面,将参考附图详细地描述根据本申请的示例实施例。显然,所描述的实施例仅仅是本申请的一部分实施例,而不是本申请的全部实施例,应理解,本申请不受这里描述的示例实施例的限制。
申请概述
如前所述,现有的色彩校正方法例如线性拟合、多项式拟合、传统的神经网络校正等,都存在一定的缺陷,例如不能排除环境光的干扰,校正精度不理想,模型泛化能力较差、或者硬件友好度较差等,因此不能良好地应用于各种应用场合。
针对上述技术问题,本申请的基本构思是首先训练一基于神经网络的色彩校正模型,然后再使用训练好的神经网络色彩校正模型来训练其它基于非神经网络的色彩校正模型。这样,训练得到的基于非神经网络的色彩校正模型即可以继承神经网络校正模型的各项优点,例如校正精度高,适用范围广等,又可以具有其本身的优点,例如参数和计算量较少,硬件友好度高等。
另一方面,在训练基于神经网络的色彩校正模型时,本申请通过使用不同色温下的色卡图像,并且使用色卡的原始RAW图像等,扩充了训练数据,并且考虑了环境光的影响,从而确保了训练得到了神经网络校正模型以及最终得到的非神经网络校正模型能够消除环境光的影响,在各种情况下都能够实现高的校正精度。
在介绍了本申请的基本原理之后,下面将参考附图来具体介绍本申请的各种非限制性实施例。
示例性方法
图1图示了根据本申请一实施例的色彩校正模型训练方法的流程图。应理解,本申请描述的色彩校正模型训练方法可以在执行图像校正方法的电子设备本地进行,也可以在服务区端进行,然后将训练好的色彩校正模型分发到各个电子设备。或者,各种电子设备可以通过网络等从服务器下载或更新训练好的色彩校正模型等。在这方面,本发明没有任何限制。
如图1所示,根据本申请一实施例的色彩校正模型训练方法100可始于步骤S110,获取色卡的图像。这里,可以采用各种色卡,例如140色卡、24色卡、20灰阶卡等中的一个或多个,利用相机拍摄色卡的图像。拍摄环境可以是封闭式的暗箱,利用预定光源进行照明,从而排除其他光源的干扰。拍摄过程中相机的曝光参数可以不固定,并且固定光源和相机的位置,利用快门线和三脚架进行拍摄,从而防止抖动,确保拍摄环境的一致性。优选地,通过拍摄所获得的图像可以是原始RAW图像,其与经过预处理后的RGB数据相比,包含更原始更准确的原色信息,从而有利于训练更准确的色彩校正模型。应理解,可以对色卡的原始RAW图像进行必要的预处理,以消除曝光等因素的影响。例如,可以对RAW图像进行黑电平、去马赛克、自动曝光(AE)归一化等预处理。
在一些实施例中,可以先获取色卡在不同色温下的图像,例如通过使用可调色温的光源进行照明,来获得不同色温下的色卡图像。然后,对不同色温下的图像进行白平衡归一化处理,以将不同色温的图像归一化至预定色温水平,例如5500K左右的常用色温水平。这样,可以进一步扩充训练数据,消除环境光的影响。
接下来在步骤S120中,可以使用色卡的图像来训练神经网络,以获得基于神经网络的第一色彩校正模型。这里,可以首先从色卡图像采集原色值例如RGB值,其可以由工作人员通过软件例如Photoshop来手动采集,或者也可以由软件自动采集。例如,可以选取色卡图像上的多个点或者一块区域,计算该多个点或一块区域中的多个像素的平均RGB值作为该色卡的图像原色值。以140色卡为例,可以获得140个RGB值,即140*3的矩阵。如果在多个色温下拍摄了色卡图像,则可以获得多个140*3的矩阵。应理解,虽然这里以RGB为例描述了原色值,但是本发明的原理也适用于其他原色体系,例如,诸如YUV、HSV、Lab之类的三原色,以及诸如CMYK之类的四原色等。
然后,可以采用所采集的原色值作为输入,采用色卡的标准原色值作为监督数据,来训练神经网络模型。这里,可以采用各种适当的神经网络模型,包括已有的和未来开发的,可使用的已有神经网络模型的示例包括但不限于反向传播(BP)神经网络、径向基函数(RBF)神经网络、卷积神经网络(CNN)等。本发明人发现,在用于色彩校正时,反向传播神经网络是优选的,因为其具有优异的非线性表达能力,从而能够在大的色彩范围内实现准确的校正。图2示出了反向传播神经网络200的结构示意图。如图2所示,反向传播神经网络200可以包括输入层210、一个或多个隐层(或称为中间层)220、以及输出层230。本发明对隐层220的层数以及每层的节点数不做限制。色卡的图像原色值RGB被提供给反向传播神经网络200的输入层210,中间层220的每个节点接收来自上层的输入,并且执行下面的公式1所示的运算:
wi*xi+bi=yi(公式1)
其中,wi为该节点的权重参数,xi为该节点的输入值,bi为该节点的偏置参数,yi则为运算结果。
由于反向传播神经网络200的全连接特性,使得当前节点的输出会影响到下一层节点输入。假设上一层节点用N表示,数量为n,本层节点用M表示,数量为m,那么对于本层中的一个神经元Mj而言:
Mi_output=activation*yi(公式2)
其中,activation表示激活函数,例如为常用的ReLU函数,Sigmod函数等,其可以增加神经网络模型的非线性。Ni_output是上一层第i个节点的输出,Mj_input是本层第j个节点的输入。
在已知输入和输出的情况下,构建损失函数,其可以是输出层230的每个节点的输出值(即,校正后的原色值)与监督值(即,色卡的标准原色值)之间的均方差的和,通过最小化损失函数,达到全局最小值,来优化神经网络的每个节点的参数值。随着网络训练的迭代次数增加,反向传播神经网络200可利用反向传播算法学习到神经元节点的权重及偏置值。
训练时,为了加快网络收敛速度,使得训练过程不发散,在本发明一些实施例中,可以将色卡的图像原色值从原始范围例如[0,255](8比特色深)或[0,1023](10比特色深)归一化到范围[0,1]内,这可以通过在运算时除以255或1023来实现,保留预定位例如6位的小数,回归目标值即监督数据也做同样的归一化处理。可以理解,在后面利用模型执行色彩校正时,也需要将待校正图像进行同样的处理,进行校正后,再恢复至原始范围。
此外,神经网络的很多超参数都会影响到训练结果的精确度,不合理的参数很可能使得模型陷入到局部最小值。常见的超参数包括批次(batch)大小、学习率、激活函数、隐藏层节点数等。通常情况下,大的批次大小会使得训练时间缩短,模型收敛变慢,但不容易陷入局部最小;反之,小的批次大小会使得训练时间变长,容易陷入局部最小。经过调整各类超参数,在本发明的一些实施例中,可以取批次大小为1,学习率为0.01,激活函数为ReLU,网络隐藏层为100个神经元节点。这样,最终训练好的模型可将单个像素值的回归误差控制在5以内,该结果显著好于传统的图像色彩校正方法。
在调整好网络超参数后,经过一定次数的迭代,损失值会收敛,此时结束训练过程,获得训练好的基于神经网络的色彩校正模型,这里称为第一色彩校正模型。
当然,本领域技术人员可以理解,本申请实施例并不意图对反向传播神经网络的训练学习方法进行任何限制。而且,在另一些实施例中,本发明还可以使用除了反向传播神经网络之外的其他神经网络模型。
此外,在另一些示例中,还可以在获得多个色温下的色卡图像之后,不进行白平衡归一化处理,而是直接用多个色温的色卡图像来训练神经网络色彩校正模型。例如,可以分别用不同色温下的色卡图像来训练神经网络,以获得多个用于不同色温的校正子模型,其一起构成第一色彩校正模型;或者是将RGB值与对应的色温值一起作为输入数据提供给神经网络200的输入层210(此时输入层210可具有四个输入节点,输出层230可以仍输出校正后的RGB值),从而训练得到一个适用于各种色温的色彩校正模型。这样,训练得到的第一色彩校正模型可以基于色温来进行色彩校正;如通过下面的描述将理解的那样,利用第一色彩校正模型训练得到的基于非神经网络的第二色彩校正模型因此也可以基于色温来执行色彩校正。例如,可以分别利用用于不同色温的多个第一色彩校正模型来训练得到多个分别用于不同色温的第二色彩校正模型。
返回参照图1,在步骤S130中,可以使用训练得到的第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值。这里,以三维RGB色彩空间为例,当具有8比特色深时,其三种原色R、G、B的取值范围都是[0,255],因此具有255*255*255个数据点。当在步骤S130中对色彩空间中的任意原始原色值进行校正时,优选地,对255*255*255个数据点中的每个数据点进行校正,以获得对应的目标原色值,从而获得最大训练数据集;或者,也可以对色彩空间中的一部分原始原色值进行校正,此时优选地该部分原始原色值在色彩空间中是大致均匀分布的。例如,在R、G和B每个的[0,255]取值范围内均匀地取若干点,来进行校正,从而获得部分训练数据集。通过对任意原始原色值进行校正,扩充了后面用于训练第二色彩校正模型的训练数据集的数据量,从而有利于后面更好地训练第二色彩校正模型。
接下来在步骤S140中,可以使用通过步骤S130得到的任意原始原色值作为输入数据,使用其对应的目标原色值作为监督数据,来训练第二色彩校正模型。如前所述,第二色彩校正模型是基于非神经网络的色彩校正模型,从而其具有更好的硬件友好度,同时通过训练步骤S140而继承神经网络模型的精确度高和适用性广等优点。在一些实施例中,第二色彩校正模型可以是例如线性回归模型,回归方程可以是一次方程、二次方程、或者更高次方程,本发明对此不作限制。为了简单起见,下面以二次方程为例进行说明。
其中,[w11,w12,w13,w14,w15,w16,w17,w18,w19]、[w21,w22,w23,w24,w25,w26,w27,w28,w29]和[w31,w32,w33,w34,w35,w36,w37,w38,w39]分别为R、G、B预测值所需的权重参数;b1、b2、b3分别为R、G、B预测值所需的偏置参数。当然,对于更高次的回归方程而言,会有更多的权重参数。在已知输入和回归目标值的情况下,需要一个损失函数对权重的训练作出指导,在模型训练的过程中使用梯度下降最小化损失函数,达到全局的最小值。具体地,本申请实施例中可以使用均方误差(MSE)作为损失函数,公式如下:
其中,为第二色彩校正模型对输入的任意原始原色值的估计值,θ为参数真值,即第一色彩校正模型获得的目标原色值。对于R、G、B三种原色值,最终的损失函数可以为每种原色值的均方误差的和。使用通过步骤S130得到的任意原始原色值作为输入数据,其对应的目标原色值作为监督数据,来训练上述方程,确定各个权重参数和偏置参数,从而确定第二色彩校正模型。
线性回归算法具有良好的硬件友好度,但是该算法的非线性表达能力有限,因此当在有限范围内对相似度高、变化不剧烈的数据进行回归时,才能有效降低回归损失。因此在一些实施例中,为了进一步确保校正的准确性,在步骤S140中训练第二色彩校正模型时,将训练数据集,即色彩空间的任意原始原色值和其对应的目标原色值,按值的范围分为多个区块,然后分别使用多个区块来训练第二色彩校正模型,从而获得分别与该多个区块对应的多个第二色彩校正子模型,该多个第二色彩校正子模型一起构成了上述第二色彩校正模型。
图3示出了这样的示例。如图3所示,以三维RGB空间为例,可以在色彩空间的R、G、B每个维度上,将原始原色值均匀地分为N个块,其对应的目标原色值也分成对应的N个块,则得到N3个原色值区块,每个区块具有(256/N)3对数据。分别使用这N3个原色值区块训练线性回归方程,可以确定N3个第二色彩校正子模型,这N3个第二色彩校正子模型一起构成第二色彩校正模型。在使用第二色彩校正模型对待校正图像进行色彩校正时,可以根据色彩的原色值范围来选择适当的子模型来进行色彩校正,从而在整个色彩空间上都可以实现精确的校正。
上面以线性回归模型为例进行了说明,还应理解的是,线性回归有多种方式,在本申请实施例中描述了上述采用多项式回归的算法,但本申请实施例对线性回归算法不做限制。更进一步而言,本发明的原理还可以适用于除了线性回归之外的其他基于非神经网络的、具有良好硬件友好度的色彩校正模型。
通过上面描述的步骤训练得到的第二色彩校正模型可用于对待校正图像进行色彩校正,图4图示了根据本申请实施例的图像色彩校正方法的流程图。如图4所示,图像色彩校正方法300可始于步骤S310,接收待校正图像。待校正图像可以是任意设备拍摄的图像,例如照相机、摄像机、移动设备例如手机上的摄像头等,并且待校正图像可以具有期望的格式,或者可以被处理例如转换成期望的格式。可以通过任意方式来接收待校正图像,例如可以通过有线或无线网络、可移动记录介质等来接收待校正图像。在一些实施例中,方法300可以直接在拍摄待校正图像的相机或手机等电子设备上运行,从而可以直接从相机上的成像器件或者手机上的摄像头接收所拍摄的待校正图像,或者从此类电子设备的存储器取得待校正图像。
在一些实施例中,如果需要,可以对所接收的待校正图像进行必要的预处理,例如进行黑电平、去马赛克、自动曝光(AE)归一化、白平衡归一化等。优选地,待校正图像可以与用于模型训练的色卡图像具有相同的格式,并且进行了相同的预处理过程。当然,待校正图像也可以具有与色卡图像等效的格式,这里,“等效”是指对于色彩校正模型而言,二者在格式和/或所经历的预处理方面是等效的。
如上所述,当第二色彩校正模型包括用于不同原色区块的多个子模型时,在接收步骤S310之后,还包括选择对应的第二色彩校正子模型的步骤S320。例如,根据待校正图像的像素的原色值范围,选择适当的子模型,然后在步骤S330中,使用第二色彩校正(子)模型来对待校正图像进行色彩校正。
如前所述,可以训练用于不同色温的多个第二色彩校正模型,以基于色温来执行校正,从而更好地消除环境光的影响。在该情况下,在子模型选择步骤S320中,还可以基于待校正图像的色温,来选择用于该色温的校正模型。
示例性装置
图5图示了根据本申请实施例的色彩校正模型训练装置的功能框图。如图5所示,根据本申请实施例的色彩校正模型训练装置400包括图像获取单元410、第一训练单元420、数据增强单元430和第二训练单元440。
图像获取单元410可用于获取色卡的图像,例如上述不同色温下的色卡图像。在一些实施例中,所获取的色卡图像可以被预处理,然后第一训练单元420可利用色卡图像来训练基于神经网络的第一色彩校正模型。数据增强单元430可以利用第一色彩校正模型,对色彩空间中的任意原始原色值,其可以是全部原始原色值,也可以是均匀分布的一部分原始原色值,进行校正,以获得对应的目标原色值。这样,数据增强单元430可以扩充可用于训练第二色彩校正模型的训练数据。然后,第二训练单元440可以使用所述任意原始原色值和对应的目标原色值来训练基于非神经网络的第二色彩校正模型。
在一些实施例中,第一色彩校正模型是具有良好的非线性表达能力的反向传播神经网络模型,第二色彩校正模式则是线性回归模型,其具有良好的硬件友好度,并且在局部区域内具有良好的精度,但是在非线性表达能力方面有所欠缺。因此,在一些实施例中,色彩校正模型训练装置400还可包括分块单元450,其可用于将任意原始原色值和对应的目标原色值按范围分成若干区块,例如在色彩空间的各个维度上均匀地分成若干区块。这样,第二训练单元440可以使用各个区块的原始原色值和对应的目标原色值来训练第二色彩校正模型,得到对应于各个区块的多个子模型,这些子模型一起构成了上述第二色彩校正模型。
图6图示了根据本申请实施例的图像色彩校正装置的功能框图。如图6所示,图像色彩校正装置500可包括接收单元510和校正单元530。
接收单元510可用于接收待校正图像,例如来自相机、摄像头等的图像。校正单元530可使用前面训练得到的第二色彩校正模型来对待校正图像进行色彩校正。
在一些实施例中,如前所述,第二色彩校正模型包括用于不同原色值区块的子模型。相应地,图像色彩校正装置500可包括模型选择单元520,其可以根据待校正图像的各个像素的原色值来选择对应的子模型,从而校正单元530使用所选择的子模型来对该像素进行校正。在一些实施例中,如前所述,模型选择单元520还可以根据待校正图像的色温来选择适当的子模型以用于进行色彩校正。
这里,本领域技术人员可以理解,上述色彩校正模型训练装置400和图像色彩校正装置500中的各个单元和模块的具体功能和操作已经在上面参考图1到图4描述的模型训练方法和色彩校正方法中得到了详细介绍,并因此,将省略其重复描述。
如上所述,根据本申请实施例的色彩校正模型训练装置400和图像色彩校正装置500可以实现在各种终端设备中,例如,色彩校正模型训练装置400可实施在用于进行模型训练的服务器中,而图像色彩校正装置500可以实施在诸如相机或手机等具有拍照功能的便携式电子设备中,或者,装置400和500可以实施在同一个电子设备中。在一些示例中,根据本申请实施例的色彩校正模型训练装置400和图像色彩校正装置500可以作为软件模块和/或硬件模块而集成到电子设备中。例如,装置400和500可以是电子设备的操作***中的一个软件模块,或者可以是针对于电子设备所开发的一个应用程序;当然,装置400和500同样可以是该电子设备的众多硬件模块之一。
替换地,在另一些示例中,上述装置400和500也可以是与电子设备分立的设备,并且该装置400和500可以通过有线和/或无线网络连接到该电子设备,并且按照约定的数据格式来传输交互信息。
示例性电子设备
下面,参考图7来描述根据本申请实施例的电子设备。图7图示了根据本申请实施例的电子设备的框图。如图7所示,电子设备10包括一个或多个处理器11和存储器12。
处理器11可以是中央处理单元(CPU)或者具有数据处理能力和/或指令执行能力的其他形式的处理单元,并且可以控制电子设备10中的其他组件以执行期望的功能。
存储器12可以包括一个或多个计算机程序产品,所述计算机程序产品可以包括各种形式的计算机可读存储介质,例如易失性存储器和/或非易失性存储器。所述易失性存储器例如可以包括随机存取存储器(RAM)和/或高速缓冲存储器(cache)等。所述非易失性存储器例如可以包括只读存储器(ROM)、硬盘、闪存等。在所述计算机可读存储介质上可以存储一个或多个计算机程序指令,处理器11可以运行所述程序指令,以实现上文所述的本申请的各个实施例的模型训练方法和/或图像校正方法,及/或其他期望的功能。在所述计算机可读存储介质中还可以存储诸如图像原色值、监督数据、校正模型等各种内容。
在一个示例中,电子设备10还可以包括:输入装置13和输出装置14,这些组件通过总线***和/或其他形式的连接机构(未示出)互连。
例如,输入装置13可以是用于采集色卡图像的图像采集装置,比如摄像头等。此外,输入装置13还可以包括例如键盘、鼠标、触摸屏、或其他输入接口诸如网络接口或USB接口等,其可以从外界接收输入信息,例如色卡图像、色卡的标准原色值等。输出装置14可以是例如显示器,其输出校正后的图像。输出装置14也可以是其他输出接口,例如连接至打印机的接口等。
在一些实施例中,输入装置13和输出装置14可以集成为单个装置,例如带触摸功能的显示屏等。或者,输入装置13和输出装置14可以是网络接口,从而可以通过网络实现输入和输出。
当然,为了简化,图7中仅示出了该电子设备10中与本申请有关的组件中的一些,省略了诸如总线、输入/输出接口等等的组件。除此之外,根据具体应用情况,电子设备10还可以包括任何其他适当的组件。
示例性计算机程序产品和计算机可读存储介质
除了上述方法和设备以外,本申请的实施例还可以是计算机程序产品,其包括计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的模型训练方法和/或图像校正方法中的步骤。
所述计算机程序产品可以以一种或多种程序设计语言的任意组合来编写用于执行本申请实施例操作的程序代码,所述程序设计语言包括面向对象的程序设计语言,诸如Java、C++等,还包括常规的过程式程序设计语言,诸如“C”语言或类似的程序设计语言。程序代码可以完全地在用户计算设备上执行、部分地在用户设备上执行、作为一个独立的软件包执行、部分在用户计算设备上部分在远程计算设备上执行、或者完全在远程计算设备或服务器上执行。
此外,本申请的实施例还可以是计算机可读存储介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行本说明书上述“示例性方法”部分中描述的根据本申请各种实施例的模型训练方法和/或图像校正方法中的步骤。
所述计算机可读存储介质可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以包括但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
以上结合具体实施例描述了本申请的基本原理,但是,需要指出的是,在本申请中提及的优点、优势、效果等仅是示例而非限制,不能认为这些优点、优势、效果等是本申请的各个实施例必须具备的。另外,上述公开的具体细节仅是为了示例的作用和便于理解的作用,而非限制,上述细节并不限制本申请为必须采用上述具体的细节来实现。
本申请中涉及的器件、装置、设备、***的方框图仅作为例示性的例子并且不意图要求或暗示必须按照方框图示出的方式进行连接、布置、配置。如本领域技术人员将认识到的,可以按任意方式连接、布置、配置这些器件、装置、设备、***。诸如“包括”、“包含”、“具有”等等的词语是开放性词汇,指“包括但不限于”,且可与其互换使用。这里所使用的词汇“或”和“和”指词汇“和/或”,且可与其互换使用,除非上下文明确指示不是如此。这里所使用的词汇“诸如”指词组“诸如但不限于”,且可与其互换使用。
还需要指出的是,在本申请的装置、设备和方法中,各部件或各步骤是可以分解和/或重新组合的。这些分解和/或重新组合应视为本申请的等效方案。
提供所公开的方面的以上描述以使本领域的任何技术人员能够做出或者使用本申请。对这些方面的各种修改对于本领域技术人员而言是非常显而易见的,并且在此定义的一般原理可以应用于其他方面而不脱离本申请的范围。因此,本申请不意图被限制到在此示出的方面,而是按照与在此公开的原理和新颖的特征一致的最宽范围。
为了例示和描述的目的已经给出了以上描述。此外,此描述不意图将本申请的实施例限制到在此公开的形式。尽管以上已经讨论了多个示例方面和实施例,但是本领域技术人员将认识到其某些变型、修改、改变、添加和子组合。

Claims (13)

1.一种色彩校正模型训练方法,包括:
获取色卡的图像;
使用色卡的图像来训练神经网络,从而获得第一色彩校正模型;
利用所述第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值;以及
使用所述任意原始原色值作为输入数据,并且使用对应的目标原色值作为监督数据,来训练第二色彩校正模型,
其中,所述第二色彩校正模型是基于非神经网络的色彩校正模型,且
其中,所述色卡的图像包括不同色温下的图像,从而所述第一色彩校正模型和所述第二色彩校正模型基于色温来执行色彩校正。
2.如权利要求1所述的方法,其中,所述第一色彩校正模型是反向传播神经网络模型,所述第二色彩校正模型是线性回归模型。
3.如权利要求1所述的方法,其中,训练第二色彩校正模型包括:
将所述色彩空间中的任意原始原色值和对应的目标原色值按范围分为多个区块;
分别使用所述多个区块来训练第二色彩校正模型,以获得分别与所述多个区块对应的多个第二色彩校正子模型,所述第二色彩校正模型由多个第二色彩校正子模型组成。
4.如权利要求3所述的方法,其中,将所述色彩空间中的任意原始原色值和对应的目标原色值按范围分为多个区块包括:在所述色彩空间的每个维度上进行均匀分块。
5.如权利要求1所述的方法,其中,所述色彩空间包括RGB、YUV、HSV、Lab、CMYK中的任意一个。
6.一种图像色彩校正方法,包括:
接收待校正图像;以及
使用权利要求1-5中的任一项所述的第二色彩校正模型来校正所述待校正图像。
7.如权利要求6所述的方法,其中,所述第二色彩校正模型由多个第二色彩校正子模型组成,所述多个第二色彩校正子模型分别用于校正不同数值范围内的原色值,且
其中,所述图像色彩校正方法还包括根据所述待校正图像的原色值所属的数值范围,选择相对应的第二色彩校正子模型来进行校正。
8.一种色彩校正模型训练装置,包括:
图像获取单元,用于获取色卡的图像;
第一训练单元,用于使用所述色卡的图像来训练神经网络,从而获得第一色彩校正模型;
数据增强单元,用于利用所述第一色彩校正模型对色彩空间中的任意原始原色值进行校正,以获得对应的目标原色值;以及
第二训练单元,用于使用所述任意原始原色值作为输入数据,并且使用对应的目标原色值作为监督数据,来训练第二色彩校正模型,
其中,所述第二色彩校正模型是基于非神经网络的色彩校正模型,且
其中,所述色卡的图像包括不同色温下的图像,从而所述第一色彩校正模型和所述第二色彩校正模型基于色温来执行色彩校正。
9.如权利要求8所述的装置,还包括:
分块单元,用于将所述色彩空间中的任意原始原色值按范围分为多个区块,
其中,所述数据增强单元利用所述第一色彩校正模型对各个区块的原始原色值进行校正,以获得对应的各个区块的目标原色值,且
其中,所述第二训练单元分别使用各个区块的原始原色值和目标原色值来训练第二色彩校正模型,以获得分别与各个区块对应的多个第二色彩校正子模型,所述第二色彩校正模型由多个第二色彩校正子模型组成。
10.一种图像色彩校正装置,包括:
接收单元,用于接收待校正图像;以及
校正单元,用于使用权利要求1-5中的任一项所述的第二色彩校正模型来校正所述待校正图像。
11.如权利要求10所述的装置,其中,所述第二色彩校正模型由多个第二色彩校正子模型组成,所述多个第二色彩校正子模型分别用于校正不同数值范围内的原色值,且
其中,所述图像色彩校正装置还包括模型选择单元,用于根据所述待校正图像的原色值所属的数值范围,选择相对应的第二色彩校正子模型来进行校正。
12.一种电子设备,包括:
处理器;以及
存储器,在所述存储器中存储有计算机程序指令,所述计算机程序指令在被所述处理器运行时使得所述处理器执行如权利要求1-7中任一项所述的方法。
13.一种计算机可读介质,其上存储有计算机程序指令,所述计算机程序指令在被处理器运行时使得所述处理器执行如权利要求1-7中的任一项所述的方法。
CN201811208111.6A 2018-10-17 2018-10-17 用于校正模型训练和图像校正的方法和装置及电子设备 Active CN111062876B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201811208111.6A CN111062876B (zh) 2018-10-17 2018-10-17 用于校正模型训练和图像校正的方法和装置及电子设备

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201811208111.6A CN111062876B (zh) 2018-10-17 2018-10-17 用于校正模型训练和图像校正的方法和装置及电子设备

Publications (2)

Publication Number Publication Date
CN111062876A CN111062876A (zh) 2020-04-24
CN111062876B true CN111062876B (zh) 2023-08-08

Family

ID=70296941

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201811208111.6A Active CN111062876B (zh) 2018-10-17 2018-10-17 用于校正模型训练和图像校正的方法和装置及电子设备

Country Status (1)

Country Link
CN (1) CN111062876B (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN112634143A (zh) * 2019-09-24 2021-04-09 北京地平线机器人技术研发有限公司 图像色彩校正模型训练方法、装置及电子设备
CN112562019A (zh) * 2020-12-24 2021-03-26 Oppo广东移动通信有限公司 图像色彩调整方法及装置、计算机可读介质和电子设备
CN113160090B (zh) * 2021-05-14 2024-01-09 深圳精智达技术股份有限公司 一种图像校正的方法及装置
CN113542593B (zh) * 2021-06-16 2023-04-07 深圳市景阳科技股份有限公司 一种图像处理方法、装置及终端设备
CN113591373A (zh) * 2021-07-13 2021-11-02 苏州同元软控信息技术有限公司 modelica模型校准的方法、装置和设备
CN113556526B (zh) * 2021-07-18 2022-11-15 北京理工大学 一种基于rgbw滤光阵列的彩色夜视设备色彩增强方法
CN113706415A (zh) * 2021-08-27 2021-11-26 北京瑞莱智慧科技有限公司 训练数据生成、对抗样本生成、图像色彩修正方法及装置
CN114513585A (zh) * 2022-03-08 2022-05-17 卡乐微视科技(云南)有限公司 一种从照相机到打印机颜色再现方法
CN116433508B (zh) * 2023-03-16 2023-10-27 湖北大学 一种基于Swin-Unet的灰度图像着色校正方法

Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009010499A (ja) * 2007-06-26 2009-01-15 Fuji Xerox Co Ltd 色補正装置および画像形成装置
WO2010055992A2 (ko) * 2008-11-17 2010-05-20 한국항공우주연구원 신경 회로망을 이용한 위성 영상 보정 방법 및 장치
CN102419861A (zh) * 2010-09-27 2012-04-18 上海中医药大学 基于均匀色空间拓扑剖分的彩色图像校正方法
KR20120085149A (ko) * 2011-10-05 2012-07-31 주식회사 켐에쎈 순수한 유기화합물의 정상끓는점에서의 액체밀도를 예측하는 다중선형회귀-인공신경망 혼성모형
CN102930336A (zh) * 2012-10-29 2013-02-13 哈尔滨工业大学 电阻阵列自适应校正方法
CN103954362A (zh) * 2014-04-25 2014-07-30 杭州电子科技大学 一种基于成像设备的数字测色方法
CN104572538A (zh) * 2014-12-31 2015-04-29 北京工业大学 一种基于k-pls回归模型的中医舌图像颜色校正方法
CN105868916A (zh) * 2016-04-05 2016-08-17 中山大学 基于相似日聚类的微电网光伏出力空间预测方法
CN106096588A (zh) * 2016-07-06 2016-11-09 北京奇虎科技有限公司 一种图像数据的处理方法、装置和移动终端
CN106412547A (zh) * 2016-08-29 2017-02-15 厦门美图之家科技有限公司 一种基于卷积神经网络的图像白平衡方法、装置和计算设备
CN106530361A (zh) * 2016-11-16 2017-03-22 上海市东方医院 彩色人脸图像的颜色校正方法
CN106777864A (zh) * 2016-11-11 2017-05-31 浙江大学 一种低成本pm2.5监测节点的校准方法
CN107431790A (zh) * 2015-04-17 2017-12-01 谷歌公司 卷积颜色校正
CN107507250A (zh) * 2017-06-02 2017-12-22 北京工业大学 一种基于卷积神经网络的面色舌色图像颜色校正方法
CN107578390A (zh) * 2017-09-14 2018-01-12 长沙全度影像科技有限公司 一种使用神经网络进行图像白平衡校正的方法及装置
CN107590565A (zh) * 2017-09-08 2018-01-16 北京首钢自动化信息技术有限公司 一种构建建筑能耗预测模型的方法及装置
CN107665736A (zh) * 2017-09-30 2018-02-06 百度在线网络技术(北京)有限公司 用于生成信息的方法和装置
CN107909084A (zh) * 2017-11-15 2018-04-13 电子科技大学 一种基于卷积‑线性回归网络的雾霾浓度预测方法
CN108600723A (zh) * 2018-07-20 2018-09-28 长沙全度影像科技有限公司 一种全景相机的颜色校正方法及评价方法

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI545523B (zh) * 2013-08-30 2016-08-11 國立中央大學 影像形狀校正方法以及應用影像形狀校正方法之影像形狀校正裝置

Patent Citations (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009010499A (ja) * 2007-06-26 2009-01-15 Fuji Xerox Co Ltd 色補正装置および画像形成装置
WO2010055992A2 (ko) * 2008-11-17 2010-05-20 한국항공우주연구원 신경 회로망을 이용한 위성 영상 보정 방법 및 장치
CN102419861A (zh) * 2010-09-27 2012-04-18 上海中医药大学 基于均匀色空间拓扑剖分的彩色图像校正方法
KR20120085149A (ko) * 2011-10-05 2012-07-31 주식회사 켐에쎈 순수한 유기화합물의 정상끓는점에서의 액체밀도를 예측하는 다중선형회귀-인공신경망 혼성모형
CN102930336A (zh) * 2012-10-29 2013-02-13 哈尔滨工业大学 电阻阵列自适应校正方法
CN103954362A (zh) * 2014-04-25 2014-07-30 杭州电子科技大学 一种基于成像设备的数字测色方法
CN104572538A (zh) * 2014-12-31 2015-04-29 北京工业大学 一种基于k-pls回归模型的中医舌图像颜色校正方法
CN107431790A (zh) * 2015-04-17 2017-12-01 谷歌公司 卷积颜色校正
CN105868916A (zh) * 2016-04-05 2016-08-17 中山大学 基于相似日聚类的微电网光伏出力空间预测方法
CN106096588A (zh) * 2016-07-06 2016-11-09 北京奇虎科技有限公司 一种图像数据的处理方法、装置和移动终端
CN106412547A (zh) * 2016-08-29 2017-02-15 厦门美图之家科技有限公司 一种基于卷积神经网络的图像白平衡方法、装置和计算设备
CN106777864A (zh) * 2016-11-11 2017-05-31 浙江大学 一种低成本pm2.5监测节点的校准方法
CN106530361A (zh) * 2016-11-16 2017-03-22 上海市东方医院 彩色人脸图像的颜色校正方法
CN107507250A (zh) * 2017-06-02 2017-12-22 北京工业大学 一种基于卷积神经网络的面色舌色图像颜色校正方法
CN107590565A (zh) * 2017-09-08 2018-01-16 北京首钢自动化信息技术有限公司 一种构建建筑能耗预测模型的方法及装置
CN107578390A (zh) * 2017-09-14 2018-01-12 长沙全度影像科技有限公司 一种使用神经网络进行图像白平衡校正的方法及装置
CN107665736A (zh) * 2017-09-30 2018-02-06 百度在线网络技术(北京)有限公司 用于生成信息的方法和装置
CN107909084A (zh) * 2017-11-15 2018-04-13 电子科技大学 一种基于卷积‑线性回归网络的雾霾浓度预测方法
CN108600723A (zh) * 2018-07-20 2018-09-28 长沙全度影像科技有限公司 一种全景相机的颜色校正方法及评价方法

Also Published As

Publication number Publication date
CN111062876A (zh) 2020-04-24

Similar Documents

Publication Publication Date Title
CN111062876B (zh) 用于校正模型训练和图像校正的方法和装置及电子设备
US10949958B2 (en) Fast fourier color constancy
US10074165B2 (en) Image composition device, image composition method, and recording medium
CN112703509A (zh) 用于图像增强的人工智能技术
US9292911B2 (en) Automatic image adjustment parameter correction
US11508038B2 (en) Image processing method, storage medium, image processing apparatus, learned model manufacturing method, and image processing system
US9020243B2 (en) Image adjustment
CN101527860A (zh) 白平衡控制设备及其控制方法和摄像设备
CN112118388A (zh) 图像处理方法、装置、计算机设备和存储介质
US10785466B2 (en) Multi-image color-refinement with application to disparity estimation
Yang et al. Personalized exposure control using adaptive metering and reinforcement learning
CN117893455B (zh) 图像亮度和对比度调整方法
Lin et al. Nonuniform lattice regression for modeling the camera imaging pipeline
WO2019188573A1 (ja) 演算装置、演算方法およびプログラム
CN115426487B (zh) 色彩校正矩阵调整方法、装置、电子设备及可读存储介质
CN111064860A (zh) 图像校正方法、图像校正装置和电子设备
CN114372941B (zh) 一种低光照图像增强方法、装置、设备及介质
CN113271450B (zh) 白平衡调整方法、影像处理装置与影像处理***
WO2021128667A1 (zh) 白平衡自动调节方法、装置及计算机可读存储介质
CN112634143A (zh) 图像色彩校正模型训练方法、装置及电子设备
CN112203064B (zh) 一种不同照度颜色映射关系的构建方法及装置
CN112995634B (zh) 图像的白平衡处理方法、装置、电子设备和存储介质
US20230088317A1 (en) Information processing apparatus, information processing method, and storage medium
CN113259634B (zh) 光源信息预测模型建立方法与***
WO2023169477A1 (zh) 曝光拍摄方法、装置、设备、存储介质和程序产品

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant