CN112308771A - 一种图像处理方法、装置及电子设备 - Google Patents

Abstract

本发明提供了一种图像处理方法、装置及电子设备，属于电子设备技术领域。其中，电子设备可以获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中会包含更多的图像信息，进而可以提高图像的丰富度。

Description

一种图像处理方法、装置及电子设备

技术领域

本发明属于电子设备技术领域，特别是涉及一种图像处理方法、装置及电子设备。

背景技术

随着电子设备技术的不断发展，电子设备的应用越来越广泛，用户经常会用来拍摄图像。具体的，在拍摄图像时，电子设备通常是获取一帧图像，作为最终输出的图像，

但是，受限于外部因素的影响，拍摄的图像可能是会存在信息缺失，进而会导致图像的效果较差。

发明内容

本发明提供一种图像处理方法、装置及电子设备，以便解决图像存在信息缺失，效果较差的问题。

为了解决上述技术问题，本发明是这样实现的：

第一方面，本发明实施例提供了一种图像处理方法，应用于电子设备，该方法可以包括：

获取至少两帧四像素合一格式的待处理图像；

将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像；

基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像；

对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

第二方面，本发明实施例提供了一种装置，该电子设备可以包括：

获取模块，用于获取至少两帧四像素合一格式的待处理图像；

选择模块，用于将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像；

第一补偿模块，用于基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像；

处理模块，用于对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

第三方面，本发明实施例提供了一种电子设备，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如第一方面所述的图像处理方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如第一方面所述的图像处理方法的步骤。

在本发明实施例中，电子设备可以获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中会包含更多的图像信息，进而可以提高图像的丰富度。

附图说明

图1是本发明实施例提供的一种图像处理方法的步骤流程图；

图2-1是本发明实施例提供的另一种图像处理方法的步骤流程图；

图2-2是本发明实施例提供的一种第一图像示意图；

图2-3是本发明实施提供的一种经过重排马赛克处理后的目标图像；

图3-1是本发明实施例提供的又一种图像处理方法的步骤流程图；

图3-2是本发明实施例提供的一种卷积处理示意图；

图4是本发明实施例提供的再一种图像处理方法的步骤流程图；

图5是本发明实施例提供的一种图像处理装置的框图；

图6为实现本发明各个实施例的一种电子设备的硬件结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

图1是本发明实施例提供的一种图像处理方法的步骤流程图，该方法可以应用于电子设备，如图1所示，该方法可以包括：

步骤101、获取至少两帧四像素合一格式的待处理图像。

本发明实施例中，待处理图像可以是在接收到拍摄操作的情况下获取的，该拍摄操作可以是用户对电子设备的拍摄功能的触发操作，示例的，该拍摄操作可以为点击拍摄键，进一步地，在接收到拍摄操作的情况下，则可以认为用户需要拍摄图像来记录当前摄像头检测到的画面，因此，可以获取至少两帧四像素合一格式的待处理图像，其中，该至少两帧四像素合一格式的待处理图像可以为记录的画面内容相同，包含的图像信息量存在差异的图像，具体的，可以通过连续拍摄的方式，来实现获取至少两帧四像素合一格式的待处理图像，以确保获取到的待处理图像记录的画面内容相同，在拍摄时，可以利用四像素合一(4-Cell)技术进行采样，即可以采集每个像素对应的某一类型颜色通道的值，然后将对应相同类型颜色通道的像素排列在一起，进而得到四像素合一格式的待处理图像。进一步地，受到外界因素的影响，获取到的每帧待处理图像中包含的图像信息量可能会不同，例如，外界环境的亮度发生了变化，相应地，每帧待处理图像中包含的亮度信息可能会不同，进而使得每帧待处理图像具有的图像信息量不同。当然，待处理图像也可以是输入至电子设备的，本发明实施例对此不作限定。

步骤102、将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像。

本发明实施例中，可以任选一帧待处理图像作为基准图像，也可以按照图像质量，选择一帧待处理图像作为基准图像，进一步地，从多帧待处理图像中选择一帧图像作为基准图像，可以方便后续步骤中，以该基准图像为操作对象，利用其他待处理图像的图像信息进一步丰富该基准图像，进而获取目标图像，这样，相较于直接将多帧待处理图像合成为一帧图像，来获取目标图像的方式，本发明实施例中，以其中一帧图像作为基准图像的方式，可以避免由于图像未对齐，导致的目标图像效果较差的问题。

步骤103、基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像。

本发明实施例中，可以获取待处理图像对应的补偿信息，利用该补偿信息对基准图像进行补偿，由于剩余的待处理图像中可能会包含基准图像中没有的图像信息，因此，可以基于剩余的待处理图像，对基准图像进行信息补偿，这样，一定程度上可以弥补由于外部因素的影响导致的信息缺失，使得最终得到的目标图像中蕴含的图像信息更加丰富，进而提高图像效果。

步骤104、对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

具体的，对第一图像进行重排马赛克(remosaic)处理时，可以按照拜耳(bayer)格式定义的排列方式，基于像素位置平移以及像素插值算法，对初始图像中像素的排列进行调整，以使像素排列规律符合bayer格式，进而得到待处理图像。

综上所述，本发明实施例提供的图像处理方法，会获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中，会包含更多的图像信息，进而可以提高图像的丰富度。

图2-1是本发明实施例提供的另一种图像处理方法的步骤流程图，该方法可以应用于电子设备，如图2-1所示，该方法可以包括：

步骤201、获取至少两帧四像素合一格式的待处理图像。

具体的，本步骤的实现方式可以参考上述步骤101，本发明实施例在此不做赘述。

步骤202、将每帧所述待处理图像输入预训练的图像选择模型。

本步骤中，该图像选择模型可以是通过多帧第一样本图像及质量最高的第一样本图像训练获得的模型，具体的，可以将多帧第一样本图像输入初始图像选择模型，该初始图像选择模型可以提取图像特征，基于图像特征预测图像质量最高的第一样本图像，并输出图像质量最高的第一样本图像，接着基于该输出的图像质量最高的第一样本图像与真实的质量最高的第一样本图像，计算该初始图像选择模型的损失值，并基于该损失值对该初始图像选择模型中的参数进行调整，以生成该图像选择模型。进一步地，本步骤中，通过将每帧待处理图像都输入该预训练的图像选择模型中，可以利用该图像选择模型直接输出质量最高的待处理图像。

进一步地，也可以在训练图像选择模型时，也可以结合每个第一样本图像编号进行训练，具体的，可以是通过多帧第一样本图像、每帧所述第一样本图像的图像编号及多帧第二样本图像中质量最高的样本图像的图像编号进行训练，这样，该图像选择模型可以基于输入的多个图像及其图像编号，输出图像质量最高的图像的编号，具体的，可以将多帧第一样本图像及其图像编号输入初始图像选择模型，该初始图像选择模型可以提取图像特征，基于图像特征预测图像质量最高的第一样本图像，并输出该第一样本图像的图像编号，接着基于该输出的图像编号与该多帧第一样本图像中图像质量最高的第一样本图像的图像编号，计算该初始图像选择模型的损失值，如果该损失值在预设范围内，则可以认为该初始图像选择模型能够正确的确定出图像质量最高的图像，此时，可以将该初始图像选择模型确定为图像选择模型，进一步地，如果该损失值不在预设范围内，则可以认为该初始图像选择模型还不能正确的确定出图像质量最高的图像，此时，可以对该初始图像选择模型中的参数进行调整，并基于调整后的初始图像选择模型继续进行训练，直至损失值在预设范围内。这样，结合图像本身及其图像编号的方式来训练图像选择模型，可以使得图像选择输出预测的图像质量最高的图像时，仅需输出对应的图像编号即可，同时，在计算损失值时，仅需要对输出的图像编号及真实的图像质量最高的第一样本图像的图像编号进行计算，即可确定出损失值，相较于输出图像，并基于输出的图像本身以及真实的图像质量最高的第一样本图像计算损失值方式，由于图像编号的数据量较小，因此，可以节省训练图像选择模型的成本，进而降低实现本方案的所需的成本。进一步地，本发明实施例中，无需进行计算，仅需将设置好图像编号的待处理图像输入图像选择模型，即可实现确定图像质量最好的待处理图像，一定程度上可以降低提高确定操作的效率，降低确定操作的成本。

相应地，在选择基准图像时，可以为每帧待处理图像设置图像编号，接着，将每帧待处理图像及待处理图像的图像编号，输入该预训练的图像选择模型，以获取图像质量最高的待处理图像的编号。

步骤203、将所述图像选择模型输出的待处理图像，作为所述基准图像。

本步骤中，将图像选择模型输出的待处理图像，作为图像质量最高的待处理图像，可以最大程度确保基准图像具有较高的图像质量，这样，后续步骤中，以该基准图像为操作对象，通过进行信息补偿，来获取目标图像时，可以使得最终得到的目标图像具有较高的图像质量，进而提高图像效果。当然，在本发明的另一可选实施例中，也可以采用其他方式获取图像质量最高的待处理图像，例如，可以计算每个待处理图像对应的图像质量指标，基于该图像质量指标确定图像质量最高的待处理图像，示例的，该图像质量指标可以为峰值信噪比(Peak Signal to Noise Ratio，PSNR)，相应地，可以分别计算每个待处理图像的PSNR，然后将PSNR值最大的待处理图像确定为图像质量最高的待处理图像，该图像质量指标也可以为均方误差(Mean Squared Error，MSE)，相应地，可以分别计算每个待处理图像的MSE，然后将MSE值最小的待处理图像确定为图像质量最高的待处理图像。进一步地，也可以选择从图像质量满足预设质量条件的待处理图像中，选择一帧待处理图像作为基准图像，本发明实施例对此不作限定。

进一步地，也可以任选一帧图像作为基准图像，这样，无需进行计算等操作，仅通过选择操作即可实现确定基准图像，整个操作过程较为简便，耗费的成本较低。具体的，在选择时，可以利用预设的随机选择算法，随机选择一帧待处理图像作为基准图像。

步骤204、基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像。

具体的，本步骤的实现方式可以参考前述步骤，本发明实施例在此不做赘述。

步骤205、对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

示例的，图2-2是本发明实施例提供的一种第一图像示意图，可以看出，对应相同类型颜色通道的像素排列在一起。示例的，图2-3是本发明实施提供的一种经过重排马赛克处理后的目标图像，如图2-3所示，相较于图2-2中像素的排列方式，图2-3中像素的排列方式发生了变化。

综上所述，本发明实施例提供的图像处理方法，会获取至少两帧四像素合一格式的待处理图像，然后，将每帧待处理图像输入预训练的图像选择模型，将图像选择模型输出的待处理图像，作为基准图像，这样，仅通过输入操作，即可便捷的获取到质量最高的基准图像，进而一定程度上可以提高处理效率，接着，基于至少两帧四像素合一格式的待处理图像中除基准图像以外的待处理图像，对基准图像进行信息补偿，得到四像素合一格式的第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，补偿后得到的目标图像中，会包含更多的图像信息，进而可以提高图像的丰富度。

图3-1是本发明实施例提供的又一种图像处理方法的步骤流程图，该方法可以应用于电子设备，如图3-1所示，该方法可以包括：

步骤301、获取至少两帧四像素合一格式的待处理图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤302、将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤303、将所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像作为剩余待处理图像，并将每帧剩余待处理图像输入预训练的卷积核生成模型，通过所述卷积核生成模型，生成每帧剩余待处理图像对应的目标卷积核。

本步骤中，该卷积核生成模型可以是基于卷积神经网络预先训练的，该卷积核生成模型可以基于待处理图像中包含的图像信息，生成能够从该待处理图像中提取补偿信息的目标卷积核，进一步地，在训练该卷积核生成模型时，可以对该卷积核生成模型中的参数进行设置，以使训练出的卷积核生成模型，为待处理图像生成的目标卷积核的维数大于1，进而确保基于该待处理图像对应的目标卷积核对该待处理图像对应的像素矩阵进行处理时，能够兼顾到像素及该像素的相邻像素，进而使得生成的目标卷积核，在后续步骤中，能够基于像素及其相邻像素进行提取，进而使得最终提取到的像素补偿矩阵可以体现该待处理图像具有的局部及全局特征，进而提高补偿效果。

进一步地，可选的，该卷积核生成模型可以通过下述步骤A～步骤D实现：

步骤A、将样本图像组输入初始卷积核生成模型，并通过所述初始卷积核生成模型生成所述样本图像组中每帧第二样本图像对应的卷积核。

本步骤中，该样本图像组中可以包含多帧第二样本图像，该样本图像组中的包含的第二样本图像可以是在同一场景下采集的内容相同包含的图像信息量存在差异的图像，进一步地，该可以初始卷积核生成模型可以是基于神经网络搭建的，具体的，可以先将样本图像组中的第二样本图像输入初始卷积核生成模型中，该初始卷积核生成模型可以基于第二样本图像的图像特征，生成每帧第二样本图像对应的卷积核。具体的，每帧第二样本图像对应的卷积核的个数及包含的维数，可以是预先设定的，第二样本图像对应的卷积核的个数可以是1个，也可以是多个，本发明实施例对此不作限定。

步骤B、基于每帧所述第二样本图像对应的卷积核、每帧所述第二样本图像及所述样本图像组对应的真实图像，计算所述初始卷积核生成模型的损失值；所述真实图像包含的图像信息量大于所述样本图像组中任一第二样本图像包含的图像信息量。

本步骤中，在计算卷积值时，对于每帧第二样本图像，可以利用第二样本图像对应的卷积核对第二样本图像进行卷积运算，得到每帧第二样本图像对应的偏置信息矩阵，其中，该偏置信息矩阵可以表示该第二样本图像中可能存在的信息偏移量，接着，从所述样本图像组中选择一帧第二样本图像，对于每个所述偏置信息矩阵，将所述偏置信息矩阵中每个元素的值，与所选择的第二样本图像中对应位置的像素的颜色通道值相加，得到预测图像，最后，基于所述预测图像与所述真实图像，计算所述初始卷积核生成模型的损失值。具体的，预测图像与真实图像的偏差程度，可以体现该初始卷积核生成模型的预测能力，因此，可以基于两者计算初始卷积核生成模型的损失值，在计算时，可以将预测图像中各个像素的值及真实图像中各个像素的值，代入预设的损失函数，进而得到该初始卷积核生成模型的损失值。

步骤D、若所述损失值在预设范围内，将所述初始卷积核生成模型作为所述卷积核生成模型；或者，若所述损失值不在所述预设范围内，对所述初始卷积核生成模型的参数进行调整，并基于调整后的初始卷积核生成模型，继续进行训练，直至所述损失值在所述预设范围内。

如果损失值在预设范围内，则可以认为该初始卷积核生成模型的预测能力足够强，即，利用于该初始卷积核生成模型生成的卷积核所提取到的信息足够准确，此时，可以停止训练，将初始卷积核生成模型作为所述卷积核生成模型，进一步地，如果损失值在预设范围内，利用于该初始卷积核生成模型生成的卷积核所提取到的信息还不够准确，此时，可以调整初始卷积核生成模型中的参数，并基于调整后的初始卷积核生成模型继续进行训练，直至损失值在预设范围内时，停止训练。本发明实施例中，通过预先训练卷积核生成模型，利用卷积核生成模型，有针对性的为待处理图像生成卷积核，进而使得后续步骤中，基于该卷积核从待处理图像中提取到的像素补偿矩阵更加准确。

步骤304、利用每一所述目标卷积核分别对对应的剩余待处理图像进行卷积处理，得到每帧剩余待处理图像的像素补偿矩阵。

本步骤中，对于任一剩余待处理图像执行卷积处理的过程可以是：利用该剩余待处理图像对应的目标卷积核以及该剩余待处理图像对应的像素矩阵进行卷积运算，其中，该剩余待处理图像对应的像素矩阵可以是该剩余待处理图像中各个像素组成的矩阵，该像素矩阵中的各个元素可以为该剩余待处理图像中的各个像素，其中，该像素矩阵中各个元素的值为各个元素在剩余待处理图像中对应的像素的颜色通道值，具体的，可以利用目标卷积核遍历整个像素矩阵进行卷积运算，示例的，图3-2是本发明实施例提供的一种卷积处理示意图，如图3-2所示，该示意图中包括剩余待处理图像对应的像素矩阵、目标卷积核及像素补偿矩阵。

进一步地，在进行卷积运算时，可以通过下述公式进行卷积运算：

destination(i，j)＝∑source(i+k，j+l)kernel(k，l)

其中，destination(i，j)表示像素矩阵中第i行第j列的元素在像素补偿矩阵中对应的元素的值，kernal(k，j)表示目标卷积核中坐标为(k，j)的元素的值，source(i+k，j+1)表示像素矩阵中与目标卷积核中坐标为(k，j)的元素对应的元素的值。

步骤305、将每一所述像素补偿矩阵与所述基准图像相加，得到四像素合一格式的第一图像。

具体的，可以将像素补偿矩阵中的各个元素的元素值与基准图像中对应位置的像素的颜色通道值相加，得到四像素合一格式的第一目标图像。通过为基准图像中像素的颜色通道值加上像素补偿矩阵中对应元素的值，可以使得基准图像中包含的图像信息量更多，一定程度上弥补基准图像缺失的信息。

步骤306、对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

综上所述，本发明实施例提供的图像处理方法，可以获取至少两帧四像素合一格式的待处理图像；将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像将至少两帧四像素合一格式的待处理图像中除基准图像以外的待处理图像作为剩余待处理图像，并将每帧剩余待处理图像输入预训练的卷积核生成模型，通过卷积核生成模型，生成每帧剩余待处理图像对应的目标卷积核；利用每一目标卷积核分别对对应的剩余待处理图像进行卷积处理，得到每帧剩余待处理图像的像素补偿矩阵；将每一像素补偿矩阵与基准图像相加，得到四像素合一格式的第一图像，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像，由于获取的每张待处理图像中会包括不同的信息，因此，通过为基准图像增加从其他待处理图像中提取的像素补偿矩阵，可以使得最终得到的目标图像中，包含更多的图像信息，进而可以提高图像的丰富度。

图4是本发明实施例提供的再一种图像处理方法的步骤流程图，该方法可以应用于电子设备，如图4所示，该方法可以包括：

步骤401、获取至少两帧四像素合一格式的待处理图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤402、将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤403、基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤404、对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

具体的，本步骤的实现方式可以参照其他实施例中的描述，本发明实施例在此不做赘述。

步骤405、基于所述基准图像，对所述目标图像进行信息补偿。

实际场景中，由于基准图像中有些区域可能会包含其他区域缺失的图像信息，因此，本发明实施例中，还可以基于基准图像，对目标图像进行信息补偿，进而更大程度的提高目标图像包含的图像信息量，提高目标图像的效果。具体的，可以基于所述基准图像中各个像素的颜色通道值及各个像素的相邻像素的颜色通道值，提取所述基准图像对应的像素补偿矩阵，接着将所述像素补偿矩阵中各个元素的补偿值，与所述目标图像中对应位置的像素的颜色通道值相加。其中，提取基准图像对应的像素补偿矩阵时，可以将基准图像输入预训练的卷积核生成模型，并通过卷积核生成模型生成基准图像对应的目标卷积核，该基准图像对应的目标卷积核的维数大于1，利用目标卷积核对基准图像对应的像素矩阵进行卷积处理，得到基准图像对应的像素补偿矩阵，该像素矩阵中各个元素的值为各个元素在基准图像中对应的像素的颜色通道值。

在本发明其他可能的实施例中，可选的，还可以在生成目标图像后，将目标图像输入图像信号处理器，进而得到目标待显示图像，这样，利用图像处理器(Image SignalProcessor，ISP)，对目标图像进行后续的处理，例如，对目标图像进行格式转换，可以使目标图像能够被其他设备处理。此时，可选的，该方法可以包括步骤405，也可以不包括，本发明实施例对此不作具体限定。

需要说明的是，本发明实施例中，也可以以其他格式的图像作为待处理图像，例如，以拜耳格式的图像作为待处理图像，本发明实施例对此不作限定。

综上所述，本发明实施例提供的图像处理方法，会获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，接着，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像，最后，还会进一步利用基准图像对目标图像进行补偿，进而更大程度的提高目标图像包含的图像信息量，提高目标图像的效果。

图5是本发明实施例提供的一种图像处理装置的框图，如图5所示，该装置50可以包括：

获取模块501，用于获取至少两帧四像素合一格式的待处理图像。

选择模块502，用于将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像。

第一补偿模块503，用于基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像。

处理模块504，用于对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

综上所述，本发明实施例提供的装置，可以获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中会包含更多的图像信息，进而可以提高图像的丰富度。

可选的，所述选择模块502，具体用于：

将每帧所述待处理图像输入预训练的图像选择模型；所述图像选择模型是通过多帧第一样本图像及质量最高的第一样本图像训练获得的模型。

将所述图像选择模型输出的待处理图像，作为所述基准图像。

可选的，所述第一补偿模块503，具体用于：

将所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像作为剩余待处理图像，并将每帧剩余待处理图像输入预训练的卷积核生成模型，通过所述卷积核生成模型，生成每帧剩余待处理图像对应的目标卷积核。

利用每一所述目标卷积核分别对对应的剩余待处理图像进行卷积处理，得到每帧剩余待处理图像的像素补偿矩阵。

将每一所述像素补偿矩阵与所述基准图像相加，得到四像素合一格式的第一图像。

可选的，所述装置50还包括：

输入模块，用于将所述目标图像输入图像信号处理器，得到目标待显示图像。

可选的，所述装置50还包括：

第二补偿模块，用于基于所述基准图像，对所述目标图像进行信息补偿。

综上所述，本发明实施例提供的装置，可以获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中会包含更多的图像信息，进而可以提高图像的丰富度。

图6为实现本发明各个实施例的一种电子设备的硬件结构示意图，如图6所示，该电子设备600包括但不限于：射频单元601、网络模块602、音频输出单元603、输入单元604、传感器605、显示单元606、用户输入单元607、接口单元608、存储器609、处理器610、以及电源611等部件。本领域技术人员可以理解，图6中示出的电子设备结构并不构成对电子设备的限定，电子设备可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，电子设备包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载电子设备、可穿戴设备、以及计步器等。

其中，处理器610，用于获取至少两帧四像素合一格式的待处理图像。

处理器610，用于将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像。

处理器610，用于基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像。

处理器610，用于对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

本发明实施例中，电子设备可以获取至少两帧四像素合一格式的待处理图像，接着，将至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，接着，基于除基准图像之外的待处理图像，对基准图像进行信息补偿，得到第一图像，最后，对第一图像进行重排马赛克处理，得到拜耳格式的目标图像。由于获取的每张待处理图像中会包括不同的信息，因此，最终得到的目标图像中会包含更多的图像信息，进而可以提高图像的丰富度。

应理解的是，本发明实施例中，射频单元601可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器610处理；另外，将上行的数据发送给基站。通常，射频单元601包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元601还可以通过无线通信***与网络和其他设备通信。

电子设备通过网络模块602为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。

音频输出单元603可以将射频单元601或网络模块602接收的或者在存储器609中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元603还可以提供与电子设备600执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元603包括扬声器、蜂鸣器以及受话器等。

输入单元604用于接收音频或视频信号。输入单元604可以包括图形处理器(Graphics Processing Unit，GPU)6041和麦克风6042，图形处理器6041对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元106上。经图形处理器6041处理后的图像帧可以存储在存储器609(或其它存储介质)中或者经由射频单元601或网络模块602进行发送。麦克风6042可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元601发送到移动通信基站的格式输出。

电子设备600还包括至少一种传感器605，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板6061的亮度，接近传感器可在电子设备600移动到耳边时，关闭显示面板6061和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别电子设备姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器605还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。

显示单元606用于显示由用户输入的信息或提供给用户的信息。显示单元106可包括显示面板6061，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode，OLED)等形式来配置显示面板6061。

用户输入单元607可用于接收输入的数字或字符信息，以及产生与电子设备的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元607包括触控面板6071以及其他输入设备6072。触控面板6071，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板6071上或在触控面板6071附近的操作)。触控面板6071可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器610，接收处理器610发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板6071。除了触控面板6071，用户输入单元607还可以包括其他输入设备6072。具体地，其他输入设备6072可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。

进一步的，触控面板6071可覆盖在显示面板6061上，当触控面板6071检测到在其上或附近的触摸操作后，传送给处理器610以确定触摸事件的类型，随后处理器610根据触摸事件的类型在显示面板6061上提供相应的视觉输出。虽然在图6中，触控面板6071与显示面板6061是作为两个独立的部件来实现电子设备的输入和输出功能，但是在某些实施例中，可以将触控面板6071与显示面板6061集成而实现电子设备的输入和输出功能，具体此处不做限定。

接口单元608为外部装置与电子设备600连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元608可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到电子设备600内的一个或多个元件或者可以用于在电子设备600和外部装置之间传输数据。

存储器609可用于存储软件程序以及各种数据。存储器609可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器609可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器610是电子设备的控制中心，利用各种接口和线路连接整个电子设备的各个部分，通过运行或执行存储在存储器609内的软件程序和/或模块，以及调用存储在存储器609内的数据，执行电子设备的各种功能和处理数据，从而对电子设备进行整体监控。处理器610可包括一个或多个处理单元；优选的，处理器610可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作***、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器610中。

电子设备600还可以包括给各个部件供电的电源611(比如电池)，优选的，电源611可以通过电源管理***与处理器610逻辑相连，从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。

另外，电子设备600包括一些未示出的功能模块，在此不再赘述。

优选的，本发明实施例还提供一种电子设备，包括处理器610，存储器609，存储在存储器609上并可在所述处理器610上运行的计算机程序，该计算机程序被处理器610执行时实现上述图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述图像处理方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random Access Memory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个......”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台电子设备(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本发明的保护之内。

Claims (10)

1.一种图像处理方法，其特征在于，应用于电子设备，所述方法包括：

获取至少两帧四像素合一格式的待处理图像；

将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像；

基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像；

对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

2.根据权利要求1所述的方法，其特征在于，所述将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像，具体包括：

将每帧所述待处理图像输入预训练的图像选择模型；所述图像选择模型是通过多帧第一样本图像及质量最高的第一样本图像训练获得的模型；

将所述图像选择模型输出的待处理图像，作为所述基准图像。

3.根据权利要求1所述的方法，其特征在于，所述基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像，具体包括：

将所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像作为剩余待处理图像，并将每帧剩余待处理图像输入预训练的卷积核生成模型，通过所述卷积核生成模型，生成每帧剩余待处理图像对应的目标卷积核；

利用每一所述目标卷积核分别对对应的剩余待处理图像进行卷积处理，得到每帧剩余待处理图像的像素补偿矩阵；

将每一所述像素补偿矩阵与所述基准图像相加，得到四像素合一格式的第一图像。

4.根据权利要求1所述的方法，其特征在于，所述对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像之后，所述方法还包括：

将所述目标图像输入图像信号处理器，得到目标待显示图像。

5.根据权利要求1至4任一所述的方法，其特征在于，所述得到目标图像之后，所述方法还包括：

基于所述基准图像，对所述目标图像进行信息补偿。

6.一种图像处理装置，其特征在于，所述装置包括：

获取模块，用于获取至少两帧四像素合一格式的待处理图像；

选择模块，用于将所述至少两帧四像素合一格式的待处理图像中的一帧待处理图像作为基准图像；

第一补偿模块，用于基于所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像，对所述基准图像进行信息补偿，得到四像素合一格式的第一图像；

处理模块，用于对所述第一图像进行重排马赛克处理，得到拜耳格式的目标图像。

7.根据权利要求6所述的装置，其特征在于，所述选择模块，具体用于：

将每帧所述待处理图像输入预训练的图像选择模型；所述图像选择模型是通过多帧第一样本图像及质量最高的第一样本图像训练获得的模型；

将所述图像选择模型输出的待处理图像，作为所述基准图像。

8.根据权利要求6所述的装置，其特征在于，所述第一补偿模块，具体用于：

将所述至少两帧四像素合一格式的待处理图像中除所述基准图像以外的待处理图像作为剩余待处理图像，并将每帧剩余待处理图像输入预训练的卷积核生成模型，通过所述卷积核生成模型，生成每帧剩余待处理图像对应的目标卷积核；

利用每一所述目标卷积核分别对对应的剩余待处理图像进行卷积处理，得到每帧剩余待处理图像的像素补偿矩阵；

将每一所述像素补偿矩阵与所述基准图像相加，得到四像素合一格式的第一图像。

9.根据权利要求6所述的装置，其特征在于，所述装置还包括：

输入模块，用于将所述目标图像输入图像信号处理器，得到目标待显示图像。

10.根据权利要求6至9任一所述的装置，其特征在于，所述装置还包括：

第二补偿模块，用于基于所述基准图像，对所述目标图像进行信息补偿。

Images