CN112202986B - 图像处理方法、图像处理装置、可读介质及其电子设备 - Google Patents
图像处理方法、图像处理装置、可读介质及其电子设备 Download PDFInfo
- Publication number
- CN112202986B CN112202986B CN202011061555.9A CN202011061555A CN112202986B CN 112202986 B CN112202986 B CN 112202986B CN 202011061555 A CN202011061555 A CN 202011061555A CN 112202986 B CN112202986 B CN 112202986B
- Authority
- CN
- China
- Prior art keywords
- image
- scaling
- pixel point
- corrected
- correction
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请涉及图像处理领域,公开了一种图像处理方法、图像处理装置、可读介质和电子设备。本申请中图像处理方法包括:获取电子设备的相机拍摄的待校正图像;计算待校正图像上每个像素点到待校正图像的亮度参考点之间的缩放距离;基于相机的缩放距离与校正系数之间的关系,确定各像素点的校正系数,其中与亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的缩放距离,并且与亮度参考点之间的缩放距离不同的像素点具有不同的校正系数;基于各像素点的校正系数对各像素点的亮度进行校正,得到校正后的图像。从而使得待校正图像中与亮度参考点之间的物理距离相同而亮度不同的像素点经过校正后的亮度相同,提高了阴影校正的效果。
Description
技术领域
本申请涉及图像处理领域,特别涉及一种图像处理方法、图像处理装置、可读介质和电子设备。
背景技术
在使用相机拍摄图像,例如使用手机上的相机拍摄照片时,如果拍摄目标离得比较远,随着视场角的增大,能够通过相机镜头的斜光束将慢慢减少,从而使得相机拍摄到的图像中间比较亮,边缘比较暗,这个现象称为光学***中的渐晕。渐晕现象会导致相机拍摄到的图像亮度不均,而图像的亮度不均会影响后续处理的准确性。因此图像传感器(ImageSensor,IS)输出的数字信号必须先经过图像信号处理器(Image Signal Processor,ISP)的镜头校正来消除渐晕给图像带来的影响。
目前,主要通过整个成像范围内的像素单元进行数字电路的补偿放大,从而达到阴影校正的目的,但是该方法需要消耗大量的数字电路存储单元用于存放灰度画面的校正系数,并且在相机分辨率越来越大的发展趋势,该方法成本高。
发明内容
本申请实施例提供了一种图像处理方法、图像处理装置、可读介质和电子设备。本申请实施例提供的图像处理方法使得待校正图像中与亮度参考点之间的物理距离相同而亮度不同的像素点经过校正后的亮度相同,提高了阴影校正的效果。
第一方面,本申请实施例提供了一种图像处理方法,包括:
获取电子设备的相机拍摄的待校正图像;
计算所述待校正图像上每个像素点到所述待校正图像的亮度参考点之间的缩放距离;
基于所述相机的所述缩放距离与校正系数之间的关系,确定各像素点的校正系数,其中与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离,并且与所述亮度参考点之间的缩放距离不同的像素点具有不同的校正系数;
基于各像素点的校正系数对各像素点的亮度进行校正,得到校正后的图像。
在本申请的一些实施例中,亮度参考点可以是样本图像中的任意一个像素点,用于作为参考点来计算样本图像中其他像素点的亮度值的校正系数。亮度参考点可以选择样本图像中亮度值最大的像素点,例如,与镜头光心对应的像素点或者样本图像的中心的像素点。需要说明的是,样本图像的亮度参考点的坐标与待校正图像的亮度参考点的坐标相同。
在本申请的一些实施例中,待校正图像中像素点到亮度参考点的物理距离为像素点间的实际距离,可以通过计算在二维坐标系中像素点坐标到亮度参考点坐标之间的实际距离得出,例如,在二维坐标系中,像素点的坐标为(x,y),亮度参考点坐标为(x0,y0),则在待校正图像中像素点到亮度参考点的物理距离是
例如,在待校正图像中,亮度参考点可以是与镜头光心对应的像素点O,并且与像素点O距离相等的四个像素点A、B、C、D,虽然像素点A、B、C、D关于像素点O对称分布,但是阴影情况不同,也就是亮度值不同,如果用相同的校正系数校正这四个对称分布的像素点,校正后的亮度值还是不同的,无法达到阴影校正的效果。但是,由于镜头阴影导致像素点A的亮度值小于像素点B的亮度值,通过缩放系数计算得出像素点A到亮度参考点O的缩放距离要大于像素点B到亮度参考点O的缩放距离,因此基于缩放距离得到像素点A的校正系数大于像素点B的校正系数,最后计算得出校正后的像素点A的亮度值与像素点B的亮度值相等,达到了图像阴影校正的效果。
在上述第一方面的一种实现中,在二维坐标系中,通过以下公式计算坐标为(x,y)的像素点与所述亮度参考点之间的缩放距离:
其中,(x0,y0)表示所示亮度参考点在二维坐标系中的坐标,k1、k2分别为横坐标缩放系数和纵坐标缩放系数,其中所述横坐标缩放系数和纵坐标缩放系数使得所述待校正图像中,与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离。
在上述第一方面的一种实现中,在二维坐标系中,通过以下公式计算坐标为(x,y)的像素点与所述亮度参考点之间的缩放距离:
其中,(x0,y0)表示所示亮度参考点在二维坐标系中的坐标;并且
当x>0时,k1i=k10,表示二维坐标系上横轴正方向的缩放系数,当x≤0时,k1i=k11,表示二维坐标系上横轴负方向的缩放系数,当y>0时,k2j=k20,表示二维坐标系上纵轴正方向的缩放系数,当y≤0时,k2j=k21,表示二维坐标系上纵轴负方向的缩放系数,其中k1i、k2j使得所述待校正图像中,与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离。
在本申请的一些实施例中,像素点到亮度参考点的缩放距离的计算,可以只考虑像素点坐标在二维坐标系与坐标轴相关的缩放系数k1、k2,在本申请的另外一些实施例中,可以考虑在二维坐标系中四个不同轴向的缩放系数k10、k11、k20、k21,具体选择哪种方式的缩放系数可以根据具体情况而定。
在上述第一方面的一种实现中,通过以下方式确定用于计算所述缩放距离的各所述缩放系数:
获取样本图像中各像素点的坐标和所述坐标对应的校正系数;
基于所述样本图像中的像素点坐标和校正系数建立表示校正系数与像素点的缩放距离之间关系的一维校正曲线;
通过所述样本图像的像素点坐标和所述像素点对应的校正系数拟合所述一维校正曲线,得到所述缩放系数。
在本申请的一些实施例中,样本图像是一副亮度均匀的图像,在镜头拍摄前,样本图像的每个像素点的亮度值是相同的,在镜头拍摄后,由于镜头阴影,样本图像中的像素点的亮度值会发生变化,并且,与亮度参考点对称分布的像素点的亮度值可能不同。
在本申请的一些实施例中,一维校正曲线是表示像素点的校正系数与像素点的缩放距离之间一维曲线,并且在一维校正曲线中,缩放距离与原点(即亮度参考点)的距离越近,校正系数变化越缓慢,缩放距离与原点的距离越远,校正系数变化越剧烈。
在上述第一方面的一种实现中,所述获取样本阴影图像中各像素点的坐标和所述坐标对应的校正系数,包括:
采用所述相机拍摄样本图像得到所述样本阴影图像,其中,所述样本图像中各像素点的亮度值相同;
计算所述样本阴影图像中各像素点的亮度值与亮度参考点的亮度值之间的比值,并将所述比值作为所述校正系数。
在上述第一方面的一种实现中,通过以下公式表示所述一维校正曲线:
g=ar2+br+c
其中,g表示校正系数,a、b、c表示一元二次多项式的拟合系数。
在本申请的一些实施例中,可以通过样本图像的多个(如2×106)像素点坐标及其参考校正系数可以确定一维校正曲线g=f(r)中的拟合系数a、b、c以及缩放系数k1、k2和光心坐标(x0,y0)。在本申请的另外一些实施例中,通过样本图像的像素点坐标及其参考校正系数可以确定一维校正曲线g=f(r)中的拟合系数a、b、c以及缩放系数k10、k11、k20、k21和光心坐标(x0,y0)。
需要说明的是,一维校正曲线除了上述的一元二次多项式拟合之外,还可以通过线性回归、套索回归、弹性网络回归对一维校正曲线进行拟合。
在上述第一方面的一种实现中,还包括:
按照预设的规则从所述一维校正曲线上抽取多个像素点的缩放距离和对应的校正系数并存储;
基于所述存储的多个像素点的缩放距离和对应的校正系数,通过插值算法计算待校正像素点的校正系数。
在上述第一方面的一种实现中,按照预设的规则从所述一维校正曲线上抽取多个像素点的缩放距离和对应的校正系数并存储,包括:
每间隔多个像素点抽取一个像素点的缩放距离和该像素点对应的校正系数,其中,被抽取的相邻两个像素点对应的校正系数的差值小于差值阈值;并且
所述被抽取的相邻两个像素点的缩放距离R(i)和R(i-1)满足以下关系:
R(i)-R(i-1)=2n(n=0,1,2,…)。
由于在一维校正曲线上缩放距离与亮度参考点的距离越近,校正系数变化越缓慢,缩放距离与亮度参考点的距离越远,校正系数变化越剧烈。因此,如果等间隔抽取像素点,在远离亮度参考点的位置,相邻两个像素点的校正系数的差值会很大,影响后续插值运算的精度。
在本申请的一些实施例中,被抽取的相邻两个像素点不是样本图像中紧邻的两个像素点,而是抽取后的像素点按缩放距离排列的前后两个像素点。
例如,在样本图像中,从像素点A1,A2,A3,……,A10中抽取的像素点是A1,A4和A10,并且像素点A1,A4和A10的缩放距离依次增大,则像素点A1和像素点A4是被抽取的相邻两个像素点,像素点A4和像素点A10是被抽取的相邻两个像素点,而像素点A1和像素点A10不是被抽取的相邻两个像素点。
可以理解,抽取像素点时,间隔的像素点数量可以是等间隔也可以不是等间隔的。例如在本申请的一些实施例中,在距离亮度参考点较近的位置,抽取的像素点较少,在一维校正曲线上被抽取的像素点的分布间隔较大,在距离亮度参考点较远的位置,抽取的像素点较多,在一维校正曲线上被抽取的像素点的分布间隔较小,这样可以使得被抽取的相邻两个像素点的校正系数的差值都在差值阈值以内,提高后续的插值运算的精度。
考虑到降低硬件电路在进行结点之间的插值计算时的逻辑成本,避免让计算机进行除法运算,在进行线性插值时,插值的权重之和2n,这样计算机右移n比特就可以完成运算,省去大量的硬件逻辑成本。
在上述第一方面的一种实现中,所述插值算法为线性插值算法。
在上述第一方面的一种实现中,所述亮度参考点为所述相机拍摄的图像中对应所述相机的镜头光心的像素点,或者所述亮度参考点为所述相机拍摄的图像的中心。
考虑到相机的镜头是一个凸透镜,因此凸透镜的中心可以看作是镜头的光心。
第二方面,本申请实施例提供了一种图像处理装置,包括:
获取装置,用于获取电子设备的相机拍摄的待校正图像;
计算装置,用于计算所述待校正图像上每个像素点到所述待校正图像的亮度参考点之间的缩放距离;
确定装置,用于基于所述相机的所述缩放距离与校正系数之间的关系,确定各像素点的校正系数,其中与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离,并且与所述亮度参考点之间的缩放距离不同的像素点具有不同的校正系数;
校正装置,用于基于各像素点的校正系数对各像素点的亮度进行校正,得到校正后的图像。
第三方面,本申请实施里提供了一种电子设备可读介质,所述电子设备可读介质上存储有指令,该指令在电子设备上执行时使电子设备执行上述任一方面的图像处理方法。
第四方面,本申请实施里提供了一种电子设备,包括:
存储器,用于存储由电子设备的一个或多个处理器执行的指令,以及
处理器,是电子设备的处理器之一,用于执行上述任一方面的图像处理方法。
附图说明
图1根据本申请的一些实施例,示出了一种待校正图像像素点亮度分布示意图。
图2根据本申请的一些实施例,示出了一种手机100的结构示意图。
图3根据本申请的一些实施例,示出了一种图像信号处理器141的结构示意图。
图4根据本申请的一些实施例,示出了一种阴影校正模型的训练方法的流程图。
图5a根据本申请的一些实施例,示出了一种样本图像500A的亮度分布示意图。
图5b根据本申请的一些实施例,示出了一种样本图像500B的亮度分布示意图。
图6a根据本申请的一些实施例,示出了一种阴影校正曲线示意图。
图6b根据本申请的一些实施例,示出了一种阴影校正曲线的结点分布示意图。
图6c根据本申请的一些实施例,示出了一种阴影校正曲线的结点分布示意图。
图7根据本申请的一些实施例,示出了一种校正系数分布示意图。
图8根据本申请的一些实施例,示出了一种图像处理方法的流程图。
图9根据本申请的一些实施例,示出了一种图像处理装置900的结构示意图。
图10根据本申请的一些实施例,示出了一种电子设备1000的结构框图。
图11根据本申请的一些实施例,示出了一种SoC 1100的框图。
具体实施例
本申请的说明性实施例包括但不限于图像处理方法、图像处理装置、可读介质和电子设备。
下面将结合附图对本申请实施例做进一步地详细描述。
镜头拍摄图像会产生镜头阴影导致拍摄图像的亮度不均匀,在拍摄图像上表现为像素点的亮度值不同,在理论情况下在拍摄后的图像上与亮度参考点(例如,光心)之间物理距离相等的像素点的亮度值相同,也就是镜头阴影相同。但是在实际的拍摄图像中,镜头阴影的分布并不一定是对称分布的,如图1所示,拍摄图像的四个像素点A、B、C、D关于亮度参考点O点对称,并且与亮度参考点O的距离相等,但是像素点A、B、C、D的亮度值分别是200、220、230、240,可以看出,虽然像素点A、B、C、D在图像上是对称分布的,但是镜头在这四个像素点产生的镜头阴影并不相同。因此,如果采用相同的校正系数对其进行校正,校正后这个四个像素点的亮度并不是相同的,无法达到图像阴影校正的效果。
为了解决上述问题,本申请实施例提供了一种图像处理方法,该图像处理方法根据目标像素点的坐标在二维坐标系不同径向的缩放系数,计算目标像素点与亮度参考点的缩放距离,通过缩放距离得到目标像素点的实际需要补偿的校正系数,例如,由于镜头阴影导致像素点A的亮度值小于像素点B的亮度值,通过缩放系数计算得出像素点A到亮度参考点O的缩放距离要大于像素点B到亮度参考点O的缩放距离,因此基于缩放距离得到像素点A的校正系数大于像素点B的校正系数,最后计算得出校正后的像素点A的亮度值与像素点B的亮度值相等,达到了图像阴影校正的效果。
本申请的图像处理方法可以应用于具有拍摄功能的各种电子设备。例如,包括但不限于手机、电脑、平板电脑、数码相机、摄像机等。为了便于说明,下文以手机100为例进行说明。
图2根据本申请的实施例示出了一种能够实现图1所示的手机100功能的手机100的结构框图。具体地,如图2所示,手机100可以包括处理器110,移动通信模块120,无线通信模块125,显示屏130,摄像头140,图像信号处理器(image signal processor,ISP)141,外部存储接口150,内部存储器151,音频模块160,传感器模块170,输入单元180和电源190。
可以理解的是,本申请的实施例示意的结构并不构成对手机100的具体限定。在本申请的另一些实施例中,手机100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,视频编解码器,数字信号处理器(digital signal processor,DSP),DPU(data processing unit,数据处理器)、基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
在一些实施例中,处理器110可以包括一个或多个接口。接口可以包括集成电路(inter-integrated circuit,I2C)接口,集成电路内置音频(inter-integrated circuitsound,I2S)接口,脉冲编码调制(pulse code modulation,PCM)接口,通用异步收发传输器(universal asynchronous receiver/transmitter,UART)接口,移动产业处理器接口(mobile industry processor interface,MIPI),通用输入输出(general-purposeinput/output,GPIO)接口,用户标识模块(subscriber identity module,SIM)接口,和/或通用串行总线(universal serial bus,USB)接口等。
可以理解的是,本申请的实施例示意的各模块间的接口连接关系,只是示意性说明,并不构成对手机100的结构限定。在本申请另一些实施例中,手机100也可以采用上述实施例中不同的接口连接方式,或多种接口连接方式的组合。
移动通信模块120可用于收发信息或通话过程中,信号的接收和发送,特别地,将基站的下行信息接收后,交由一个或者一个以上处理器110处理;另外,将涉及上行的数据发送给基站。通常,移动通信模块120包括但不限于天线、至少一个放大器、调谐器、一个或多个振荡器、用户身份模块(SIM)卡、收发信机、耦合器、LNA(英文:Low Noise Amplifier,中文低噪声放大器)、双工器等。此外,移动通信模块120还可以通过无线通信与网络和其他设备通信。所述无线通信可以使用任一通信标准或协议,包括但不限于GSM(英文:GlobalSystem of Mobile communication,中文:全球移动通讯***)、GPRS(英文:GeneralPacket Radio Service,中文:通用分组无线服务)、CDMA(英文:Code Division MultipleAccess,中文:码分多址)、CDMA(英文:Wideband Code Division Multiple Access,中文:宽带码分多址)、LTE(英文:Long Term Evolution,中文:长期演进)、电子邮件、SMS(英文:Short Messaging Service,中文:短消息服务)等。
无线通信模块125可以提供应用在手机100上的包括无线局域网(wireless localarea networks,WLAN)(如无线保真(wireless fidelity,Wi-Fi)网络),蓝牙(bluetooth,BT),全球导航卫星***(global navigation satellite system,GNSS),调频(frequencymodulation,FM),近距离无线通信技术(near field communication,NFC),红外技术(infrared,IR)等无线通信的解决方案。无线通信模块125可以是集成至少一个通信处理模块的一个或多个器件。无线通信模块125经由天线接收电磁波,将电磁波信号调频以及滤波处理,将处理后的信号发送到处理器110。无线通信模块125还可以从处理器110接收待发送的信号,对其进行调频,放大,经天线转为电磁波辐射出去。在一些实施例中,无线通信模块125能够实现前文所述的基于Wi-Fi网路的通信协议的多载波技术,从而支持手机100通过现有的Wi-Fi协议实现超宽带传输。
手机100可以通过摄像头140,ISP 141,视频编解码器,GPU,显示屏130以及应用处理器等实现拍摄功能。
ISP 141用于处理摄像头140反馈的数据。例如,拍照时,打开快门,光线通过镜头被传递到摄像头感光元件上,光信号转换为电信号,摄像头感光元件将所述电信号传递给ISP 141处理,转化为肉眼可见的图像。ISP141还可以对图像的噪点,亮度,肤色进行算法优化。ISP 141还可以对拍摄场景的曝光,色温等参数优化。在本申请的一些实施例中,可以通过ISP 141处理摄像头140在拍摄图像上产生的镜头阴影,在本申请的另外一些实施例中,也可以通过DPU处理摄像头140在拍摄图像上产生的镜头阴影。
需要说明的是,在本申请的一些实施例中,ISP 141可以置于摄像头140内,在本申请的另外一些实施例中,ISP141也可以外接摄像头140,例如,设置在处理器110中,在此不做限制。
摄像头140用于捕获静态图像或视频。物体通过镜头生成光学图像投射到感光元件。感光元件可以是电荷耦合器件(charge coupled device,CCD)或互补金属氧化物半导体(complementary metal-oxide-semiconductor,CMOS)光电晶体管。感光元件把光信号转换成电信号,之后将电信号传递给ISP转换成数字图像信号。ISP 141将数字图像信号输出到DSP加工处理。DSP将数字图像信号转换成标准的RGB,YUV等格式的图像信号。在一些实施例中,手机100可以包括1个或N个摄像头130,N为大于1的正整数。
数字信号处理器用于处理数字信号,除了可以处理数字图像信号,还可以处理其他数字信号。例如,当手机100在频点选择时,数字信号处理器用于对频点能量进行傅里叶变换等。
视频编解码器用于对数字视频压缩或解压缩。手机100可以支持一种或多种视频编解码器。这样,手机100可以播放或录制多种编码格式的视频,例如:动态图像专家组(moving picture experts group,MPEG)1,MPEG2,MPEG3,MPEG4等。
外部存储器接口150可以用于连接外部存储卡,例如Micro SD卡,实现扩展手机100的存储能力。外部存储卡通过外部存储器接口150与处理器110通信,实现数据存储功能。例如将音乐,视频等文件保存在外部存储卡中。
内部存储器151可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。内部存储器151可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储手机100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器151可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。在本申请的一些实施例中,处理器110通过运行存储在内部存储器151的指令,和/或存储在设置于处理器中的存储器的指令以及各种功能应用以及数据处理。
手机100还包括音频模块160,音频模块160可以包括扬声器,受话器,麦克风,耳机接口,以及应用处理器等实现音频功能。例如音乐播放,录音等。
音频模块160用于将数字音频信息转换成模拟音频信号输出,也用于将模拟音频输入转换为数字音频信号。音频模块160还可以用于对音频信号编码和解码。在一些实施例中,音频模块160可以设置于处理器110中,或将音频模块160的部分功能模块设置于处理器110中。
手机100还包括传感器模块170,其中传感器模块170可以包括压力传感器,陀螺仪传感器,气压传感器,磁传感器,加速度传感器,距离传感器,接近光传感器,指纹传感器,温度传感器,触摸传感器,环境光传感器等。
输入单元180可用于接收输入的数字或字符信息,以及产生与用户设置以及功能控制有关的键盘、鼠标、操作杆、光学或者轨迹球信号输入。
手机100还包括给各个部件供电的电源190(比如电池),优选的,电源可以通过电源管理***与处理器110逻辑相连,从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。电源190还可以包括一个或一个以上的直流或交流电源、再充电***、电源故障检测电路、电源转换器或者逆变器、电源状态指示器等任意组件。
可以理解,本申请的图像处理方法主要实现在手机100相机的ISP 141中,图3示出了ISP 141的一种结构示意图。如图3所示,ISP 141包括图像阴影校正单元141A、白平衡单元141B和色彩内插单元141C。具体的如下:
模拟数字转换器145从图像传感器143接收图像区域的多个像素电压,并将其转换为多个数字像素数据。图像阴影校正单元141A根据像素的与亮度参考点的距离产生一个校正系数,以对该目标像素进行补偿。此外,图像信号处理器141还包括白平衡单元141B以及色彩内插单元141C。其中,白平衡单元141B对目标像素进行白平衡补偿,色彩内插单元141C对白平衡单元141B所输出的图像数据进行内插以得到三原色(RGB)图像数据,再通过I/O接口传输到CPU处理,得到最终要显示的图像。
基于图2和图3所示的结构,下面详细介绍本申请实施例的图像处理方法,其中,本申请的图像处理方法可以由图3中的图像阴影校正单元141A实施。
在介绍本申请实施例的图像处理方法之前,先介绍本申请实施提供的阴影校正模型,阴影校正模型的训练可以在服务器侧完成,然后将训练好的阴影校正模型移植到手机100的ISP 141中,这样在手机100实时拍摄图像后,可以利用ISP 141中训练好的阴影校正模型实时校正图像中各个像素点的阴影,并且,图像中与亮度参考点相等的像素点,如果镜头产生阴影不同,也就是亮度值不一样,通过阴影校正模型进行校正,可以得到不同的校正系数,从而使得校正后的亮度值相同,达到阴影校正的效果。
图4示出了一种阴影校正模型的训练方法流程图,如图4所示,包括:
401:获取训练数据,其中,训练数据包括像素点参考校正系数和像素点坐标之间的对应关系。
在本申请的一些实施例中,训练数据可以用手机100的摄像头140拍摄一副亮度均匀的样本图像后得到样本图像的各像素点的亮度值,由于镜头阴影的存在,拍摄图像中每个像素点的亮度值都有可能发生改变,其中,样本图像中亮度参考点为最亮的像素点,选择样本图像中亮度参考点的亮度值为标准值,并计算该标准值与拍摄图像的各像素点的真实亮度值的比值,得到各个像素点的参考校正系数。
例如,如图5a所示,在手机100拍摄之前,样本图像500A是亮度均匀的图像,样本图像500A包括15×9(135)个像素点,并且每个像素点的亮度值相等,例如,亮度值都是250。从图中5a中可以看出,像素点O位于亮度参考点位置,像素点A1、B1、C1和D1关于亮度参考点对称分布,并且与亮度参考点的距离相等。图5b是手机100拍摄样本图像500A后得到的样本阴影图像500B,从图5a和图5b可以看出,由于镜头阴影,样本图像500A的像素点A1、B1、C1和D1的亮度值发生变化,在样本阴影图像500B中对应的像素点A2、B2、C2和D2的亮度值分别为200、220、230和240。在样本阴影图像500B中,像素点O位于亮度参考点位置,亮度最亮,例如,像素点O的亮度值为250。因此,可以以像素点0的亮度值为标准值,分别计算像素点O的亮度值与像素点A2、B2、C2和D2的亮度值的比值a、b、c和d。则
可以得出,像素点A2、B2、C2和D2的校正系数分别是1.25、1.14、1.09和1.04。采用同样的方法可以计算出整个样本阴影图像500B中剩余像素点的校正系数,最后将得到的样本阴影图像500B的所有像素点的校正系数作为参考校正系数。
然后获取每个像素点坐标以及参考校正系数的对应关系,因为每个参考校正系数与像素点一一对应的,而每个像素点的坐标也是唯一的,然后选取图像中的一个像素点为亮度参考点,并以亮度参考点为坐标原点建立二维坐标系,其中,亮度参考点的选取可以是样本图像中与手机100的摄像头140光心对应的像素点,也可以是样本图像的图像中心,在此不做限制。下面的实施例以光心为亮度参考点为例进行说明。
例如,在样本图像中,以光心为坐标原点,按从左到右,从上到下的顺序排列像素点,以1000行×2000列的图像为例,其中:
第1个像素点对应的像素点坐标为(-500,1000);
第2个像素点对应的像素点坐标为(-499,1000);
第3个像素点对应的像素点坐标为(-498,1000);
……
最后一个像素点对应的坐标为(500,-1000)。
则校正系数g与像素点坐标的数据列表如下表1所示。
g | (x,y) |
g(1) | (-500,1000) |
g(2) | (-499,1000) |
g(3) | (-498,1000) |
…… | …… |
g(2000000) | (500,-1000) |
表1
402:用获取的像素点坐标及其对应的参考校正系数训练阴影校正模型。
基于样本图像上的像素点坐标和参考校正系数建立表示参考校正系数与像素点的缩放距离之间关系的一维校正曲线,如前所述,对于距离光心距离相等的像素点,其亮度值可能不对称,因此需要校正的校正系数也不一样,通过本申请实施例提供的一维校正曲线,可以根据像素点的坐标位置生成相应的校正系数,从而使得校正后的图像亮度均匀。
如图6a所示,一维校正曲线是关于校正系数g与缩放距离r的一维曲线,一维阴影校正曲线的函数表达式为:
g=f(r) (1)
其中,通过在二维坐标系的不同径向设置不同的缩放系数,从而得到像素点到光心的缩放距离,例如,在二维坐标系的横轴上设置的缩放系数为k1,在二维坐标系的纵轴上设置的缩放系数为k2,又例如,在二维坐标系的横轴的正方向设置的缩放系数为k10,在二维坐标系的横轴的负方向设置的缩放系数为k11,在二维坐标系的纵轴的正方向设置的缩放系数为k20,在二维坐标系的纵轴的负方向设置的缩放系数为k21。
例如,以在二维坐标系的横轴上设置的缩放系数为k1,纵轴上设置的缩放系数为k2,则样本图像中像素点坐标(x,y)到光心坐标(x0,y0)的缩放距离r的可以表示为:
又例如,以在二维坐标系的坐标轴的四个径向分别设置缩放系数k10、k11、k20、k21,则样本图像中像素点坐标(x,y)到光心坐标(x0,y0)的缩放距离r的可以表示为:
其中
通过将获取的样本图像的像素点坐标及其对应的参考校正系数输入到阴影校正模型中,可以训练出缩放系数k1、k2或者k10、k11、k20、k21和光心坐标(x0,y0)。下面以训练缩放系数k1、k2介绍具体的训练过程:
首先,设置以像素点到光心的缩放距离r为变量的一元二次多项式,其中,多项式的拟合系数分别为a、b、c,则二次多项式的方程为:
g=ar2+br+c (6)
将公式(2)代入到公式(5)中,可以得出:
然后,将获取的样本图像的像素点坐标及其参考校正系数分别代入公式(7)进行拟合,其中,在拟合过程中,公式(7)的等号左边g是已知的参考校正系数,例如,样本图像的分辨率为1000×2000,则参考校正系数的数量为2×106个,在公式(6)的等号右边,x,y为已知的样本图像的像素点坐标(x,y),同样,样本图像的像素点坐标的数量也为2×106个。则校正系数g与像素点到光心的缩放距离r的数据列表如表2所示。
g | r |
g(0) | r(0) |
g(1) | r(1) |
g(2) | r(2) |
…… | …… |
g(2000000) | r(2000000) |
表2将表2中的数据代入公式(6),可得如下方程组,其中n表示采集到的像素点的个数。
依据上述可以利用最小二乘法得到待定系数a、b、c,从而得到了f(r)的方程表达式。最小二乘法的具体过程如下:
令
原方程可写为:
G=R×X
则根据最小二乘法得到的系数矩阵为:
因此,通过样本图像的2×106个像素点坐标及其参考校正系数可以确定一维校正曲线g=f(r)中的拟合系数a、b、c以及缩放系数k1、k2和光心坐标(x0,y0)。在本申请的另外一些实施例中,通过样本图像的像素点坐标及其参考校正系数可以确定一维校正曲线g=f(r)中的拟合系数a、b、c以及缩放系数k10、k11、k20、k21和光心坐标(x0,y0)。
需要说明的是,采用上述训练方法得到缩放系数是针对一种类型的镜头而定的,如果要对其他类型的镜头,后针对其他分辨率的图像进行阴影校正,可以采用图4的流程进行同样的处理,即用该种类型的镜头采用指定分辨率拍摄训练图像,得到该种类型的镜头在该分辨率下的图像的缩放系数。
需要说明的是,本申请实施例通过设置以缩放距离为变量的一元二次多项式对一维校正曲线进行拟合,在本申请的其他实施例中,还可以是以缩放距离为变量的一元高次幂多项式对一维校正曲线拟合,例如,高次幂可以是5次幂或6次幂等,除此之外,还可以通过线性回归、套索回归、弹性网络回归等对一维校正曲线拟合,在此不做限定。
图6a是拟合后的一维校正曲线g=f(r)的曲线图,如图6a所示,在r较小的位置,也就是距离光心较近位置的像素点,其对应的校正系数g变化缓慢;在r较大的位置,也就是距离光心较远位置的像素点,其对应的校正系数变化迅速,当r增大到图像的边界时,校正系数g的变化十分剧烈。
403:基于预设的规则获取阴影校正模型上多个像素点的缩放距离及其对应参考校正系数并存储。
在本申请的一些实施例中,可以采用硬件的方式保存阴影校正系数,例如,存储器,存储器可以是RAM(Random Access Memory,随机存取存储器),为了节省硬件的存储空间,先从计算出的各像素点的缩放距离对应的校正系数中,按照预设的抽取规则抽取部分像素点的缩放距离及其对应的校正系数作为结点并存储在存储器中。其中,预设的抽取规则包括:
(1)基于像素点与光心的距离设置合适的结点分布。
具体的,如图6a所示,阴影校正曲线g=f(r),其中,坐标原点表示光心,r轴上r(i)表示目标像素点相对于光心的距离,g轴上的g(i)表示目标像素点的校正系数。可以选取多个横坐标r(i)作为结点R(i),以及相应的校正系数g(i)作为结点校正系数G(i)。
如图6b所示,设置结点分布的一种方式是在r轴上均匀选取多个结点R(i),也就是相邻两个结点R(i)的间隔相等,例如,r(i-2)、r(i-1)、r(i)、r(i+1)、r(i+2),这5个结点中相邻两个结点的间隔都是相等的。但是,在远离坐标原点的位置,相邻两个结点的校正系数的间隔很大,例如,r(i+1)与r(i+2)对应的校正系数g(i+1)与g(i+2)的间隔明显大于g(i-1)与g(i-2)的间隔,相邻两个结点之间的校正系数G(i)间隔越大,越会降低后续在一维校正曲线在使用时的插值精度。
在本申请的一些实施例中,如图6c所示,在曲线平缓的地方,设置间隔较大的结点分布,而在曲线陡峭的地方,设置间隔较小的结点分布,例如,r(i+1)与r(i+2)的间隔明显小于r(i-2)与r(i-1)的间隔,对应的g(i+1)与g(i+2)的间隔与g(i-1)与g(i-2)的间隔相差不大。图7示出了校正系数与结点分布的示意图,其中,O表示光心,从图7可以看出,距离光心越近,增益补偿越稀疏,距离光心越远,增益补偿越密集。
(2)以预设距离设置相邻结点之间的间隔。
为了降低硬件电路在进行结点之间的插值计算时的逻辑成本,避免让计算机进行除法运算,在进行线性插值时,插值的权重之和2n,这样计算机右移n比特就可以完成运算,省去大量的硬件逻辑成本,因此,相邻两个结点要满足下列关系式:
R(i)-R(i-1)=2n(n=0,1,2,…) (8)
最后,通过计算待求分布结点的校正系数与线性分布的校正系数的误差函数的最小值,得到最终要存储在RAM的结点及其结点校正系数。其中,误差函数的表达式为:
其中,node表示待求结点,G(i)表示待求的结点校正系数,G(iavg)表示线性均匀分布的校正系数,abs表示绝对值运算。
在本申请的一些实施例中,可以通过遍历满足约束条件的缩放距离结点及其校正系数,使得公式(9)的误差函数最小。
例如,需要抽取16个结点存储在RAM中,而满足约束条件的结点有32个,分别是R(0)、R(1)、R(2)、……、R(15),以及R’(0)、R’(1)、R’(2)、……、R’(15),其对应的校正系数分别是G(0)、G(1)、G(2)、……、G(15),以及G’(0)、G’(1)、G’(2)、……、G’(15),而线性均匀分布的16个结点分别是R0(0)、R1(1)、R2(2)、……、R15(15),其对应的校正系数分别是G0(0)、G1(1)、G2(2)、……、G15(15),相邻的两个校正系数的间隔相等。
例如,abs[G(0)-G0(0)]=0.1,abs[G(0)-G’(0)]=0.2,则选取R(0)为待存储的结点,以及相应的结点校正系数G(0),以此类推,得到最终要存储的结点分布,例如,R(0)、R(1)、R(2)、……、R(15),并将这16个结点及其相应的16个校正系数存储在RAM中。
可以理解的是,本申请实施例列举了16个结点只是作为一个示例,并不是对本申请实施例的约束,在本申请的其他实施例中,RAM还可以精度的要求存储其他数量的结点,例如,32个结点,本申请实施例对此不作限制。
需要说明的是,存储在RAM的数据包括16个缩放距离结点及其16个校正系数结点外,还包括不同径向的缩放系数k10、k11、k20、k21和光心(x0,y0)。
在得到阴影校正系数后,就可以利用存储在RAM的阴影校正系数对镜头获取的后续图像进行校正处理,以清除图像中的镜头阴影。
根据本申请的一些实施例,图8介绍了一种图像处理方法,具体流程如图8所示,包括:
801:手机100的ISP 141获取待校正图像。
在本申请的一些实施例中,手机100的摄像头140拍摄待校正图像,然后模数转换器145将拍摄的待校正图像转换为数字像素数据,发送给手机100的ISP 141,由ISP 141的阴影校正单元141A处理待校正图像的镜头阴影。
802:手机100的ISP 141计算待校正图像上每个像素点到亮度参考点的缩放距离。
在本申请的一些实施例中,通过训练阴影校正模型得到不同径向的缩放系数k10、k11、k20、k21和光心(x0,y0),其中,阴影校正模型的训练可以在服务器侧完成,然后将训练好的阴影校正模型移植到手机100的ISP 141中,阴影校正模型的训练请参考图4的描述,在此不做赘述。
例如,如图1所示,光心O的坐标是(x0,y0),图1中四个像素点A、B、C、D的坐标分别是(x1,y1)、(-x1,y1)、(-x1,-y1)、(x1,-y1),通过不同径向缩放系数得到缩放后的像素点A、B、C、D与光心O的缩放距离分别是:
803:手机100的ISP 141基于缩放距离与校正系数之间的关系,确定各像素点的校正系数。
在本申请的一些实施例中,基于待校正图像中像素点与光心的缩放距离,查找其在RAM中的相邻两个缩放距离结点,并通过线性插值算法计算出待校正图像中每个像素点的阴影校正系数。其中,线性插值算法的计算公式为:
其中,r表示待校正图像中像素点与光心的缩放距离,R(i)和R(i+1)表示存储在RAM中相邻的两个缩放距离结点,r位于R(i)和R(i+1)之间,G(i)和G(i+1)表示存储在RAM中对应的结点校正系数,由于R(i+1)-R(i)=2n(n=0,1,2,…),因此,在上述插值运算中,计算机需要右移n比特即可完成运算,从而避免除法运算,节约了运算成本。
例如,rA在RAM中位于结点R(1)和R(2)之间,则通过线性插值计算得到rA的校正系数g(A)为:
例如,rB在RAM中位于结点R(2)和R(3)之间,则通过线性插值计算得到rB的校正系数g(A)为:
按照上述线性插值算法还可以得到像素点C和像素点D的校正系数g(C)和g(D),可以理解,尽管像素点A、B、C、D与光心的距离相等,但是它们的亮度值不相等,但是通过不同径向的缩放系数计算得出缩放距离rA、r、rC、rD也不相等,再通过插值计算后可以得到相应的校正系数,使得校正后的与光心距离相等的像素点的亮度相同。
例如,待校正图像的像素点A校正前的亮度值为200,像素点B校正前的亮度值为220,通过不同径向的缩放系数计算得出像素点A到光心的缩放距离要大于像素点B到光心的缩放距离,也就是rA>rB,这样得出g(A)>g(B),例如,g(A)=1.25,g(B)=1.14。
804:手机100的ISP 141基于各像素点的校正系数对各像素点的亮度进行校正,得到校正后的图像。
其中,待校正图像中各像素点的亮度值乘以对应的校正系数,公式如下:
pixelout=g×pixelin
其中,pixelin表示校正前待校正图像的像素点的亮度值,pixelout表示校正后像素点的亮度值,g表示待校正图像中像素点的校正系数。
例如,如图1所示,待校正图像像素点A的校正前的亮度值为200,计算出的校正系数g(A)=1.25,则校正后的像素点A的亮度值为250,待校正图像像素点B的校正前的亮度值为220,计算出的校正系数g(B)=1.14,则校正后的像素点B的亮度值也为250,因此校正后的像素点A与像素点B的亮度值相等,实现图像阴影校正,使用同样的方法可以校正待校正图像的所有像素点,并且与光心距离相等的像素点的亮度值不同,通过上述方法可以使得校正后的亮度值相同,最终校正后的图像亮度均匀。
最后将ISP 141校正后的图像发送给CPU处理,CPU处理后显示出最终拍摄的图像。
根据上述实施例提供的图像处理方法,本申请的一些实施例提供了一种图像处理装置900,其结构示意图如图9所示,包括:获取单元901、计算单元902、确定单元903和校正单元904,其中:
获取单元901,用于接收待校正图像,并获取每个像素点的真实亮度值。
计算单元902,用于获取待校正图像中每个像素点到光心的缩放距离,其中,缩放距离计算方法参考图4的描述,在此不做赘述。
确定单元903,用于基于计算单元902输出的像素点的缩放距离,查找其在RAM中的相邻的两个结点,通过插值算法计算出像素点的校正系数,其中,插值算法参考上述实施例的描述,在此不做赘述。
校正单元904,用于将亮度值乘以确定单元903输出的对应像素点坐标的校正系数,生成校正后图像。
通过以上实施例可以看出,本申请实施例的图像处理方法可以达到如下效果:
(1)硬件电路只需要存储光心坐标(x0,y0)以及一条一维的校正曲线数据及对应的结点位置,以及在四个径向的缩放系数,因此,硬件电路只需较少的存储空间,节省了硬件电路的成本和计算量。
(2)在标定过程中,通过对样本图像的处理,自动生成一维校正曲线,并结合阴影待校正图像中像素点的变化情况,自适应生成非均匀的结点分布。
(3)在标定过程中,根据图像亮度分布,生成的一维校正曲线会考虑二维坐标系上四个径向的缩放情况,涵盖阴影的各向异性。
需要说明的是,本申请实施例中涉及的公式,其目的在于计算或者表示与图像阴影校正系数以及与其相关的参数,但如果有其他公式可以实现这些功能,也属于本申请的保护范围。
根据本申请的一些实施例,图10示意性地示出了根据多个实施例的示例电子设备1000,电子设备1000包括但不限于手机、电脑、平板电脑、数码相机、摄像机等。在一个实施例中,电子设备1000可以包括一个或多个处理器1004,与处理器1004中的至少一个连接的***控制逻辑1008,与***控制逻辑1008连接的***内存1012,与***控制逻辑1008连接的非易失性存储器(NVM)1016,以及与***控制逻辑1008连接的网络接口1020。
在一些实施例中,处理器1004可以包括一个或多个单核或多核处理器。在一些实施例中,处理器1004可以包括通用处理器和专用处理器(例如,图像信号处理器,应用处理器,基带处理器等)的任意组合。例如,通过图像信号处理器校正图像中的镜头阴影,使得校正后的图像亮度均匀。
在一些实施例中,***控制逻辑1008可以包括任意合适的接口控制器,以向处理器1004中的至少一个和/或与***控制逻辑1008通信的任意合适的设备或组件提供任意合适的接口。
在一些实施例中,***控制逻辑1008可以包括一个或多个存储器控制器,以提供连接到***内存1012的接口。***内存1012可以用于加载以及存储数据和/或指令。在一些实施例中电子设备1000的内存1012可以包括任意合适的易失性存储器,例如,静态随机存取存储器(SRAM),用于存储样本图像中多个像素点的缩放距离及其对应的校正系数,例如,16个像素点的缩放距离和校正系数,用于通过插值算法校正图像中各个像素点的阴影,使得校正后的图像亮度均匀。
NVM/存储器1016可以包括用于存储数据和/或指令的一个或多个有形的、非暂时性的计算机可读介质。在一些实施例中,NVM/存储器1016可以包括闪存等任意合适的非易失性存储器和/或任意合适的非易失性存储设备,例如HDD(Hard Disk Drive,硬盘驱动器),CD(Compact Disc,光盘)驱动器,DVD(Digital Versatile Disc,数字通用光盘)驱动器中的至少一个。
NVM/存储器1016可以包括安装电子设备1000的装置上的一部分存储资源,或者它可以由设备访问,但不一定是设备的一部分。例如,可以经由网络接口1020通过网络访问NVM/存储1016。
特别地,***内存1012和NVM/存储器1016可以分别包括:指令1024的暂时副本和永久副本。指令1024可以包括:由处理器1004中的至少一个执行时导致电子设备1000实施如图2-4所示的方法的指令。在一些实施例中,指令1024、硬件、固件和/或其软件组件可另外地/替代地置于***控制逻辑1008,网络接口1020和/或处理器1004中。
网络接口1020可以包括收发器,用于为电子设备1000提供无线电接口,进而通过一个或多个网络与任意其他合适的设备(如前端模块,天线等)进行通信。在一些实施例中,网络接口1020可以集成于电子设备1000的其他组件。例如,网络接口1020可以集成于处理器1004的,***内存1012,NVM/存储器1016,和具有指令的固件设备(未示出)中的至少一种,当处理器1004中的至少一个执行所述指令时,电子设备1000实现如图4、图8所示的方法。
网络接口1020可以进一步包括任意合适的硬件和/或固件,以提供多输入多输出无线电接口。例如,网络接口1020可以是网络适配器,无线网络适配器,电话调制解调器和/或无线调制解调器。
在一个实施例中,处理器1004中的至少一个可以与用于***控制逻辑1008的一个或多个控制器的逻辑封装在一起,以形成***封装(SiP)。在一个实施例中,处理器1004中的至少一个可以与用于***控制逻辑1008的一个或多个控制器的逻辑集成在同一管芯上,以形成片上***(SoC)。
电子设备1000可以进一步包括:输入/输出(I/O)设备1032。I/O设备1032可以包括用户界面,使得用户能够与电子设备1000进行交互;***组件接口的设计使得***组件也能够与电子设备1000交互。在一些实施例中,电子设备1000还包括传感器,用于确定与电子设备1000相关的环境条件和位置信息的至少一种。
在一些实施例中,用户界面可包括但不限于显示器(例如,液晶显示器,触摸屏显示器等),扬声器,麦克风,一个或多个相机(例如,静止图像照相机和/或摄像机),手电筒(例如,发光二极管闪光灯)和键盘。
在一些实施例中,***组件接口可以包括但不限于非易失性存储器端口、音频插孔和电源接口。
在一些实施例中,传感器可包括但不限于陀螺仪传感器,加速度计,近程传感器,环境光线传感器和定位单元。定位单元还可以是网络接口1020的一部分或与网络接口1020交互,以与定位网络的组件(例如,全球定位***(GPS)卫星)进行通信。
根据本申请的实施例,图11示出了一种SoC(System on Chip,片上***)1100的框图,其中,SoC 1100可用于手机、电脑、平板电脑、数码相机、摄像机等。在图11中,相似的部件具有同样的附图标记。另外,虚线框是更先进的SoC的可选特征。在图11中,SoC 1100包括:互连单元1150,其被耦合至应用处理器;***代理单元1170;总线控制器单元1180;集成存储器控制器单元1140;一组或一个或多个协处理器1120,其可包括集成图形逻辑、图像信号处理器、音频处理器和视频处理器;静态随机存取存储器(SRAM)单元1130;直接存储器存取(DMA)单元1160。在一个实施例中,协处理器1120包括专用处理器,诸如例如网络或通信处理器、压缩引擎、GPGPU、高吞吐量MIC处理器、或嵌入式处理器等等。本申请公开的机制的各实施例可以被实现在硬件、软件、固件或这些实现方法的组合中。本申请的实施例可实现为在可编程***上执行的计算机程序或程序代码,该可编程***包括至少一个处理器、存储***(包括易失性和非易失性存储器和/或存储元件)、至少一个输入设备以及至少一个输出设备。例如,在本申请的一些实施例中,通过图像信号处理器校正图像中镜头阴影,使得校正后的图像亮度均匀。而且,通过静态随机存取存储器1130存储样本图像中多个像素点的缩放距离及其对应的校正系数,例如,16个像素点的缩放距离和校正系数,用于通过插值算法校正图像中各个像素点的阴影,使得校正后的图像亮度均匀。
可将程序代码应用于输入指令,以执行本申请描述的各功能并生成输出信息。可以按已知方式将输出信息应用于一个或多个输出设备。为了本申请的目的,处理***包括具有诸如例如数字信号处理器(DSP)、微控制器、专用集成电路(ASIC)或微处理器之类的处理器的任何***。
程序代码可以用高级程序化语言或面向对象的编程语言来实现,以便与处理***通信。在需要时,也可用汇编语言或机器语言来实现程序代码。事实上,本申请中描述的机制不限于任何特定编程语言的范围。在任一情形下,该语言可以是编译语言或解释语言。
在一些情况下,所公开的实施例可以以硬件、固件、软件或其任何组合来实现。所公开的实施例还可以被实现为由一个或多个暂时或非暂时性机器可读(例如,计算机可读)存储介质承载或存储在其上的指令,其可以由一个或多个处理器读取和执行。例如,指令可以通过网络或通过其他计算机可读介质分发。因此,机器可读介质可以包括用于以机器(例如,计算机)可读的形式存储或传输信息的任何机制,包括但不限于,软盘、光盘、光碟、只读存储器(CD-ROMs)、磁光盘、只读存储器(ROM)、随机存取存储器(RAM)、可擦除可编程只读存储器(EPROM)、电可擦除可编程只读存储器(EEPROM)、磁卡或光卡、闪存、或用于利用因特网以电、光、声或其他形式的传播信号来传输信息(例如,载波、红外信号数字信号等)的有形的机器可读存储器。因此,机器可读介质包括适合于以机器(例如,计算机)可读的形式存储或传输电子指令或信息的任何类型的机器可读介质。
在附图中,可以以特定布置和/或顺序示出一些结构或方法特征。然而,应该理解,可能不需要这样的特定布置和/或排序。而是,在一些实施例中,这些特征可以以不同于说明性附图中所示的方式和/或顺序来布置。另外,在特定图中包括结构或方法特征并不意味着暗示在所有实施例中都需要这样的特征,并且在一些实施例中,可以不包括这些特征或者可以与其他特征组合。
需要说明的是,本申请各设备实施例中提到的各单元/模块都是逻辑单元/模块,在物理上,一个逻辑单元/模块可以是一个物理单元/模块,也可以是一个物理单元/模块的一部分,还可以以多个物理单元/模块的组合实现,这些逻辑单元/模块本身的物理实现方式并不是最重要的,这些逻辑单元/模块所实现的功能的组合才是解决本申请所提出的技术问题的关键。此外,为了突出本申请的创新部分,本申请上述各设备实施例并没有将与解决本申请所提出的技术问题关系不太密切的单元/模块引入,这并不表明上述设备实施例并不存在其它的单元/模块。
需要说明的是,在本专利的示例和说明书中,诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来,而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且,术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含,从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素,而且还包括没有明确列出的其他要素,或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下,由语句“包括一个”限定的要素,并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
虽然通过参照本申请的某些优选实施例,已经对本申请进行了图示和描述,但本领域的普通技术人员应该明白,可以在形式上和细节上对其作各种改变,而不偏离本申请的精神和范围。
Claims (11)
1.一种图像处理方法,其特征在于,包括:
获取电子设备的相机拍摄的待校正图像、所述待校正图像在不同径向的缩放系数以及亮度参考点的坐标值;
根据所述缩放系数、所述待校正图像上各第一像素点的坐标、所述待校正图像的亮度参考点的坐标值,计算所述待校正图像上各所述第一像素点到所述待校正图像的亮度参考点之间的缩放距离;
基于所述待校正图像上各所述第一像素点到所述待校正图像的亮度参考点之间的缩放距离,确定各所述第一像素点的校正系数,其中与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离,并且与所述亮度参考点之间的缩放距离不同的像素点具有不同的校正系数;
基于各所述第一像素点的校正系数对各所述第一像素点的亮度进行校正,得到校正后的图像;
其中,通过以下方式确定用于计算所述缩放距离的各所述缩放系数:
获取样本图像中各第二像素点的坐标和所述坐标对应的校正系数;
基于各所述第二像素点的坐标和所述坐标对应的校正系数建立表示校正系数与像素点的缩放距离之间关系的一维校正曲线;
通过所述样本图像中各所述第二像素点的坐标和各所述第二像素点对应的校正系数拟合所述一维校正曲线,得到所述缩放系数和所述亮度参考点的坐标值;并且
所述获取样本图像中各第二像素点的坐标和所述坐标对应的校正系数,包括:
采用所述相机拍摄所述样本图像得到样本阴影图像,其中,所述样本图像中各所述第二像素点的亮度值相同;
计算所述样本阴影图像中各第三像素点的亮度值与亮度参考点的亮度值之间的比值,并将所述比值作为所述校正系数。
2.根据权利要求1所述的方法,其特征在于,在二维坐标系中,通过以下公式计算坐标为(x, y)的像素点与所述亮度参考点之间的缩放距离:
r =
其中, (x0,y0)表示所示亮度参考点在二维坐标系中的坐标,、分别为横坐标缩放系数和纵坐标缩放系数,其中所述横坐标缩放系数和纵坐标缩放系数使得所述待校正图像中,与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离。
3.根据权利要求1所述的方法,其特征在于,在二维坐标系中,通过以下公式计算坐标为(x,y)的像素点与所述亮度参考点之间的缩放距离:
r =
其中, (x0,y0)表示所示亮度参考点在二维坐标系中的坐标;并且
当时,=,表示二维坐标系上横轴正方向的缩放系数,当时,=,表示二维坐标系上横轴负方向的缩放系数,当y时,=,表示二维坐标系上纵轴正方向的缩放系数,当y时,=,表示二维坐标系上纵轴负方向的缩放系数,其中、使得所述待校正图像中,与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离。
4.根据权利要求1所述的方法,其特征在于,通过以下公式表示所述一维校正曲线:
g = ar2 + br + c
其中,g表示校正系数,a、b、c表示一元二次多项式的拟合系数。
5.根据权利要求4所述的方法,其特征在于,还包括:
按照预设的规则从所述一维校正曲线上抽取多个像素点的缩放距离和对应的校正系数并存储;
基于所述存储的多个像素点的缩放距离和对应的校正系数,通过插值算法计算待校正像素点的校正系数。
6.根据权利要求5所述的方法,其特征在于,按照预设的规则从所述一维校正曲线上抽取多个像素点的缩放距离和对应的校正系数并存储,包括:
每间隔多个像素点抽取一个像素点的缩放距离和该像素点对应的校正系数,其中,被抽取的相邻两个像素点对应的校正系数的差值小于差值阈值;并且
所述被抽取的相邻两个像素点的缩放距离R(i)和R(i-1)满足以下关系:
R(i) - R(i-1) = 2n (n = 0,1,2,…)。
7.根据权利要求5所述的方法,其特征在于,所述插值算法为线性插值算法。
8.根据权利要求1所述的方法,其特征在于,所述亮度参考点为所述相机拍摄的图像中对应所述相机的镜头光心的像素点,或者所述亮度参考点为所述相机拍摄的图像的中心。
9.一种图像处理装置,其特征在于,包括:
获取装置,用于获取电子设备的相机拍摄的待校正图像、所述待校正图像在不同径向的缩放系数以及亮度参考点的坐标值;
计算装置,用于根据所述缩放系数、所述待校正图像上各第一像素点的坐标、所述待校正图像的亮度参考点的坐标值,计算所述待校正图像上各所述第一像素点到所述待校正图像的亮度参考点之间的缩放距离;
确定装置,用于基于所述待校正图像上各所述第一像素点到所述待校正图像的亮度参考点之间的缩放距离,确定各所述第一像素点的校正系数,其中与所述亮度参考点之间的物理距离相同而亮度不同的像素点具有不同的所述缩放距离,并且与所述亮度参考点之间的缩放距离不同的像素点具有不同的校正系数;
校正装置,用于基于各所述第一像素点的校正系数对各所述第一像素点的亮度进行校正,得到校正后的图像;
其中,通过以下方式确定用于计算所述缩放距离的各所述缩放系数:
获取样本图像中各第二像素点的坐标和所述坐标对应的校正系数;
基于各所述第二像素点的坐标和所述坐标对应的校正系数建立表示校正系数与像素点的缩放距离之间关系的一维校正曲线;
通过所述样本图像中各所述第二像素点的坐标和各所述第二像素点对应的校正系数拟合所述一维校正曲线,得到所述缩放系数和所述亮度参考点的坐标值;并且
所述获取样本图像中各第二像素点的坐标和所述坐标对应的校正系数,包括:
采用所述相机拍摄所述样本图像得到样本阴影图像,其中,所述样本图像中各所述第二像素点的亮度值相同;
计算所述样本阴影图像中各第三像素点的亮度值与亮度参考点的亮度值之间的比值,并将所述比值作为所述校正系数。
10.一种电子设备可读介质,其特征在于,所述可读介质上存储有指令,该指令在电子设备上执行时使电子设备执行权利要求1至8中任一项的图像处理方法。
11.一种电子设备,其特征在于,包括:
存储器,用于存储由电子设备的一个或多个处理器执行的指令,以及
处理器,是电子设备的处理器之一,用于执行权利要求1至8中任一项的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011061555.9A CN112202986B (zh) | 2020-09-30 | 2020-09-30 | 图像处理方法、图像处理装置、可读介质及其电子设备 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011061555.9A CN112202986B (zh) | 2020-09-30 | 2020-09-30 | 图像处理方法、图像处理装置、可读介质及其电子设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112202986A CN112202986A (zh) | 2021-01-08 |
CN112202986B true CN112202986B (zh) | 2023-04-28 |
Family
ID=74013589
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011061555.9A Active CN112202986B (zh) | 2020-09-30 | 2020-09-30 | 图像处理方法、图像处理装置、可读介质及其电子设备 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112202986B (zh) |
Families Citing this family (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN115131216A (zh) * | 2021-03-24 | 2022-09-30 | 奥比中光科技集团股份有限公司 | 一种干涉条纹的校正方法及屏下*** |
CN115209062A (zh) * | 2021-04-13 | 2022-10-18 | 华为技术有限公司 | 一种图像处理方法及装置 |
CN112894154B (zh) * | 2021-05-07 | 2021-09-03 | 视睿(杭州)信息科技有限公司 | 激光打标方法及装置 |
CN113362253B (zh) * | 2021-06-30 | 2023-10-13 | 成都纵横自动化技术股份有限公司 | 一种图像阴影校正方法、***及其装置 |
CN113470749B (zh) * | 2021-07-20 | 2023-06-23 | 湖南圣洲生物科技有限公司 | 一种腔室亮度不均匀校正方法及装置 |
CN113727083B (zh) * | 2021-09-22 | 2023-01-24 | 歌尔科技有限公司 | 投影仪亮度调节方法、设备、计算机可读存储介质 |
CN115100071A (zh) * | 2022-07-18 | 2022-09-23 | 芯原微电子(上海)股份有限公司 | 亮度均衡矫正方法、装置,图像采集设备及存储介质 |
CN115802173B (zh) * | 2023-02-06 | 2023-04-25 | 北京小米移动软件有限公司 | 一种图像处理方法、装置、电子设备及存储介质 |
Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN101271196A (zh) * | 2008-04-24 | 2008-09-24 | 北京中星微电子有限公司 | 镜头阴影校正系数确定方法、镜头阴影校正方法及装置 |
JP2009055442A (ja) * | 2007-08-28 | 2009-03-12 | Mitsubishi Electric Corp | 画像補正装置 |
JP2013046377A (ja) * | 2011-08-26 | 2013-03-04 | Casio Comput Co Ltd | 画像処理装置、画像処理方法及びプログラム |
CN105681680A (zh) * | 2016-02-22 | 2016-06-15 | 信利光电股份有限公司 | 一种图像暗角校正方法、装置及*** |
CN111083458A (zh) * | 2019-12-31 | 2020-04-28 | 成都极米科技股份有限公司 | 一种亮度校正方法、***、设备及计算机可读存储介质 |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2004165958A (ja) * | 2002-11-13 | 2004-06-10 | Renesas Technology Corp | カメラモジュール |
WO2005043891A1 (ja) * | 2003-10-31 | 2005-05-12 | Mitsubishi Denki Kabushiki Kaisha | 画像補正方法および撮像装置 |
US7609305B2 (en) * | 2004-04-06 | 2009-10-27 | Samsung Electronics Co., Ltd. | Methods and systems for anti shading correction in image sensors |
-
2020
- 2020-09-30 CN CN202011061555.9A patent/CN112202986B/zh active Active
Patent Citations (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2009055442A (ja) * | 2007-08-28 | 2009-03-12 | Mitsubishi Electric Corp | 画像補正装置 |
CN101271196A (zh) * | 2008-04-24 | 2008-09-24 | 北京中星微电子有限公司 | 镜头阴影校正系数确定方法、镜头阴影校正方法及装置 |
JP2013046377A (ja) * | 2011-08-26 | 2013-03-04 | Casio Comput Co Ltd | 画像処理装置、画像処理方法及びプログラム |
CN105681680A (zh) * | 2016-02-22 | 2016-06-15 | 信利光电股份有限公司 | 一种图像暗角校正方法、装置及*** |
CN111083458A (zh) * | 2019-12-31 | 2020-04-28 | 成都极米科技股份有限公司 | 一种亮度校正方法、***、设备及计算机可读存储介质 |
Also Published As
Publication number | Publication date |
---|---|
CN112202986A (zh) | 2021-01-08 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN112202986B (zh) | 图像处理方法、图像处理装置、可读介质及其电子设备 | |
US20220207680A1 (en) | Image Processing Method and Apparatus | |
JP6967160B2 (ja) | 画像処理方法および関連デバイス | |
CN109547701B (zh) | 图像拍摄方法、装置、存储介质及电子设备 | |
US11558553B2 (en) | Electronic device for stabilizing image and method for operating same | |
CN110060213B (zh) | 图像处理方法、装置、存储介质及电子设备 | |
US20200051265A1 (en) | Electronic device for blurring image obtained by combining plural images based on depth information and method for driving the electronic device | |
US8994845B2 (en) | System and method of adjusting a camera based on image data | |
US11107198B2 (en) | Method and apparatus for incorporating noise pattern into image on which bokeh processing has been performed | |
US20200322534A1 (en) | Apparatus and method for estimating optical image stabilization motion | |
US20190268536A1 (en) | Electronic device and method for correcting image corrected in first image processing scheme in external electronic device in second image processing scheme | |
CN108269220B (zh) | 定位数字水印的方法及装置 | |
US11159739B2 (en) | Apparatus and method for generating moving image data including multiple section images in electronic device | |
US11729513B2 (en) | Electronic device and HDR image generation method therefor | |
US8995784B2 (en) | Structure descriptors for image processing | |
TWI785162B (zh) | 提供影像的方法及用於支持所述方法的電子裝置 | |
CN111742320A (zh) | 提供与应用有关的文本翻译管理数据的方法及其电子装置 | |
US9854218B2 (en) | Electronic system and image processing method | |
US11467673B2 (en) | Method for controlling camera and electronic device therefor | |
US20230410268A1 (en) | Method for providing image, and electronic device supporting same | |
CN114222072B (zh) | 图像处理方法、装置、电子设备及存储介质 | |
US11089233B2 (en) | Electronic device and a method for generating an image through synthesis of date acquired using a plurality of pixels having different light-receiving time durations | |
US11032462B2 (en) | Method for adjusting focus based on spread-level of display object and electronic device supporting the same | |
KR102614088B1 (ko) | 이미지 신호 프로세서 및 이미지 신호 프로세서를 포함하는 전자 장치 | |
CN115516494A (zh) | 用于生成图像的方法及其电子装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |