CN112040203A - 计算机存储介质、终端设备、图像处理方法及装置 - Google Patents
计算机存储介质、终端设备、图像处理方法及装置 Download PDFInfo
- Publication number
- CN112040203A CN112040203A CN202010910192.5A CN202010910192A CN112040203A CN 112040203 A CN112040203 A CN 112040203A CN 202010910192 A CN202010910192 A CN 202010910192A CN 112040203 A CN112040203 A CN 112040203A
- Authority
- CN
- China
- Prior art keywords
- light field
- pixels
- rgb
- pixel
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/257—Colour aspects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/67—Focus control based on electronic image sensor signals
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本公开是关于一种图像处理方法、图像处理装置、终端设备及计算机存储介质,涉及图像处理技术领域。该图像处理方法包括:获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,RGB图像包括多个RGB像素;获取拍摄装置的光场相机对目标物体拍摄的光场图像,光场图像包括光场像素;光场相机的光轴与RGB相机的光轴平行;对目标RGB图像和目标光场图像进行配准,得到RGB像素和光场像素的位置对应关系;根据RGB像素的像素值、光场像素的像素值和位置对应关系确定多个目标像素的位置和像素值,每个目标像素与一RGB像素和一光场像素对应;根据各目标像素的位置和像素值生成目标图像。
Description
技术领域
本公开涉及图像处理技术领域,具体而言,涉及一种图像处理方法、图像处理装置、终端设备及计算机存储介质。
背景技术
在使用手机等移动终端进行拍照时,为了达到突出成像主体的目的,需要对进行图像虚化,但是,对于移动终端,难以通过调整相机的镜头的光圈和焦距等参数实现图像虚化,一般需要对图像信息进行处理生成具有虚化效果的图像,但由于图像信息有限,使得虚化效果有待提升。
需要说明的是,在上述背景技术部分公开的信息仅用于加强对本公开的背景的理解,因此可以包括不构成对本领域普通技术人员已知的现有技术的信息。
发明内容
本公开的目的在于提供一种图像处理方法、图像处理装置、终端设备及计算机存储介质。
根据本公开的一个方面,提供一种图像处理方法,其特征在于,包括:
获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;
获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行;
对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系;
根据所述RGB像素的像素值、所述光场像素的像素值和所述位置对应关系确定多个目标像素的位置和像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应;
根据各所述目标像素的位置和像素值生成目标图像。
根据本公开的一个方面,提供一种图像处理装置,包括:
第一获取单元,用于获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;
第二获取单元,获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行;
配准单元,用于对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系;
处理单元,用于根据所述RGB像素的位置和像素值、所述光场像素的位置和像素值和所述位置对应关系,确定多个目标像素的位置和像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应;
输出单元,用于根据各所述目标像素的位置和像素值生成目标图像。
根据本公开的一个方面,提供一种终端设备,包括:
拍摄装置,包括RGB相机和光场相机,所述光场相机的光轴与所述RGB相机的光轴平行;所述RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;所述光场相机用于对所述目标物体进行拍摄,并得到光场图像,所述光场图像包括光场像素;
图像处理装置,用于实现上述任意一项所述的图像处理方法。
根据本公开的一个方面,提供一种计算机存储介质,其上存储有计算机程序,所述计算机程序被处理器执行时实现上述任意一项所述的图像处理方法。
本公开的图像处理方法、图像处理装置、终端设备及计算机存储介质,可根据拍摄同一目标物体而得到的RGB图像和光场图像成生目标图像,其中,光场相机可以获得光线的位置、路径和强度等信息,可实现数字对焦,为更加真实的模拟虚化效果提供了数据支持;而RGB图像清晰度高于光场图像,可用于表征目标图像中需要清晰显示的区域。因此,在将RGB图像和光场图像融合后,有利于提升图像虚化效果。
应当理解的是,以上的一般描述和后文的细节描述仅是示例性和解释性的,并不能限制本公开。
附图说明
此处的附图被并入说明书中并构成本说明书的一部分,示出了符合本公开的实施例,并与说明书一起用于解释本公开的原理。显而易见地,下面描述中的附图仅仅是本公开的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本公开的图像处理方法一实施方式的流程图。
图2为本公开的图像处理方法一实施方式中步骤S120的流程图。
图3为本公开的图像处理方法一实施方式中步骤S140的流程图。
图4为本公开的图像处理方法一实施方式中步骤S330的流程图。
图5为本公开的图像处理方法一实施方式中步骤S420的流程图。
图6为本公开的光场相机的原理图。
图7为本公开的RGB像素和光场像素的位置对应关系的原理图。
图8为本公开的图像处理装置一实施方式的方框图。
图9为本公开的终端设备一实施方式的方框图。
图10为本公开的终端设备一实施方式中拍摄装置的俯视图。
图11为本公开的终端设备一实施方式中拍摄装置的侧视图。
图12为本公开的计算机存储介质一实施方式的示意图。
具体实施方式
现在将参考附图更全面地描述示例实施方式。然而,示例实施方式能够以多种形式实施,且不应被理解为限于在此阐述的实施方式;相反,提供这些实施方式使得本公开将全面和完整,并将示例实施方式的构思全面地传达给本领域的技术人员。图中相同的附图标记表示相同或类似的结构,因而将省略它们的详细描述。此外,附图仅为本公开的示意性图解,并非一定是按比例绘制。
用语“一个”、“一”、“该”、“所述”用以表示存在一个或多个要素/组成部分/等;用语“包括”和“具有”用以表示开放式的包括在内的意思并且是指除了列出的要素/组成部分/等之外还可存在另外的要素/组成部分/等。
在本文中,与RGB相机和光场相机的镜头有关的物距、像距和焦距等距离,均以RGB相机的镜头和光场相机的镜头的等效透镜的光心所在平面为基准来描述,并不限定镜头的具体结构。该平面可定义为镜头平面,该镜头平面垂直于镜头的光轴。
本公开实施方式提供了一种图像处理方法,用于实现图像虚化。如图1所示,该图像处理方法可包括步骤S110-步骤S150,其中:
步骤S110、获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;
步骤S120、获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行;
步骤S130、对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系;
步骤S140、根据所述RGB像素的像素值、所述光场像素的像素值和所述位置对应关系,确定多个目标像素的像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应;
步骤S150、根据各所述目标像素的位置和像素值生成目标图像。
本公开实施方式的图像处理方法,可根据拍摄同一目标物体而得到的RGB图像和光场图像成生目标图像,其中,光场相机可以获得光线的位置、路径和强度等信息,可实现数字对焦,为更加真实的模拟虚化效果提供了数据支持;而RGB图像清晰度高于光场图像,可用于表征目标图像中需要清晰显示的区域。因此,在将RGB图像和光场图像融合后,有利于提升图像虚化效果。
下面对本公开实施方式的图像处理方法进行详细说明:
在步骤S110中,获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素。
拍摄装置可以用于一终端设备,该终端设备可以是手机、平板电脑或数码相机等移动终端设备,也可以是电视等其它终端设备。RGB相机可用于拍摄RGB图像,其可以是包括镜头和传感器的数码相机,传感器用于感应通过镜头进入照射至传感器的光强,以便形成RGB图像,RGB图像包括多个阵列分布的RGB像素。传感器可以是CCD传感器或CMOS传感器。RGB相机的详细结构和工作原理在此不再详述,只要能拍摄RGB图像即可。进一步的,RGB相机可以是定焦相机,其焦距固定,且为指定焦距。当然,RGB相机也可以是变焦相机,但在拍摄时,需要以指定焦距进行拍摄,且在拍摄过程中不对焦距进行调节。
目标物体可以是拍摄装置所处环境内的任意对象,该环境可以是室内环境,也可以是户外环境。目标物体可由用户自行选择,其可以是广告牌、人脸、花朵、建筑等,在此不对环境和目标物体做特殊限定。
在目标物体确定的情况下,其与RGB相机的镜头的距离,即物距,则可以确定。在拍摄前,可先确定物距,并根据物距选择目标物体。
在步骤S120中,获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行。
光场相机可包括镜头、传感器以及位于镜头和传感器之间的微透镜阵列,镜头和传感器关于微透镜阵列成共轭关系。通过镜头的光线可在微透镜阵列上形成图像,微透镜阵列可将图像投射至传感器,从而进行二次采样。根据光场信息可生成光场图像,光场图像包括多个阵列分布的光场像素,光场信息不仅包括光强,还可包括光线入射镜头的位置和光线的路径等信息。光场相机详细结构和工作原理在此不再详述,只要能拍摄光场图像即可。
如图10和图11所示,光场相机102的光轴与RGB相机101的光轴平行设置,二者可固定于同一外壳或支架等安装结构上,并朝向同一方向拍摄,从而构成一双目相机结构的拍摄装置100。进一步的,光场相机102的镜头可与RGB相机101的镜头处于同一垂直于光轴的平面上,二者的距离在此不做特殊限定。
在本公开的一些实施方式中,由于光场相机和RGB相机均属于同一拍摄装置,因而可将目标物体与RGB相机的物距近似的作为目标物体与光场相机的物距,也即拍摄装置与目标物体的物距,该物距为前述的指定物距。其中,光场相机的物距为光场相机的镜头的等效透镜的光心与目标物体的距离。
如图2所示,获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像;即步骤S120,可包括步骤S210-步骤S230,其中:
步骤S210、获取所述拍摄装置的光场相机对所述目标物体拍摄的光场信息。
光场信息可包括光线进入光场相机的位置、光线的路径和光线的强度。举例而言,如图6所示,若一条光线通过光场相机的镜头平面XY和微透镜平面ST所产生的交点坐标分别为(x,y)和(s,t),微透镜阵列平面ST为光线实际成像的实际像面,可以通过光场函数L(x,y,s,t)来表示这条光线的分布。而(x,y)和(s,t)共同确定了光线在空间中分布的位置和方向。其中,镜头平面XY可为垂直于光场相机的镜头的光轴,且经过该镜头的等效透镜的光心的平面。
步骤S220、根据所述指定物距和所述指定焦距确定所述光场相机的像距。
在通过光场相机获得了光场信息,即光场分布的基础上,可进行数字对焦。具体而言,在光场相机的物距和焦距已知的情况下,可根据透镜成像公式确定光场相机的像距,并根据该像距可确定一虚拟像面,该像距为虚拟像面与光场相机的镜头的距离。
步骤S230、根据所述像距和所述光场信息生成光场图像。
可将采集到的光场信息重新投影到虚拟像面上进行积分,从而得到在该像距下的光场图像。具体而言,如图6所示,ST平面为实际像面,即微透镜阵列平面,S'T'平面为虚拟像面。可根据光场成像公式计算出虚拟像面上的像,即光场图像。光场成像公式如下:
其中,E为光线在S'T'平面的所有点的亮度,即光场图像的所有点的亮度,用于表示光场图像;(s,t)为光线与ST平面的交点的坐标,(s',t')为光线与S'T'平面的交点的坐标;F为光场相机的镜头与实际像面的距离,F'为光场相机的镜头与虚拟像面的距离,即步骤S220中得出的像距;a=F'/F。
在步骤S130中,对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系。
可对光场图像和RGB图像中分辨率较低的一个进行放大,并在放大后采用光流法、块匹配等方法进行配准,从而获得光场像素的位置和RGB像素的位置的位置对应关系,光场像素的位置可与RGB像素的位置一一对应。其中,由于光场图像的分辨率一般低于RGB图像,因此,可对光场图像进行放大。需要说明的是,若采用块匹配方法进行配准,则需要事先对RGB相机和光场相机进行标定,标定的具体过程,在此不做特殊限定。
举例而言,参考图7,图7示出了在光场图像和RGB图像在同一像面的两个像素的位置对应关系,具体而言,该两个像素的位置满足以下关系式:
xL-xR=v×d/(u+v);
其中,光场相机和RGB相机的镜头平面共面,且OL和OR连线用于示该镜头平面;OL为光场相机的光轴与镜头平面的交点,OR为RGB相机的光轴与镜头平面的交点;d为OL和OR之间的距离,即光场相机和RGB相机的光轴之间的距离;光场相机和RGB相机具有共面的虚拟像面;xL和xR连线用于示出该虚拟像面,且该虚拟像面位于目标物体和镜头平面之间;xL为目标物体与OL连线与该虚拟像面的交点,即目标物体在光场相机的虚拟像面中的虚像,xR为目标物体与OR连线与该虚拟像面的交点,即目标物体在RGB相机的虚拟像面的虚像;v为像距,即镜头平面与虚拟像面之间的距离;u为物距,即目标物体与虚拟像面之间的距离。此外,光场相机和RGB相机还有实际像面(未示出),该实际像面位于镜头平面背离目标物体的一侧,其上具有目标物体的实像。当然,OL、xL也可用于指示RGB相机,OR、xR也可指示光场相机。
需要说明的是,图7及上述的关系式,仅用于对位置对应关系进行示例性说明,并不构成对光场相机和RGB相机的实际光路和成像方式的限定。
在步骤S140中,根据所述RGB像素的像素值、所述光场像素的像素值和所述位置对应关系,确定多个目标像素的位置和像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应。
可根据一RGB像素的及其对应的光场像素的位置确定一的目标像素的位置,根据一RGB像素的像素值及其对应的光场像素的像素值确定对应的目标像素的像素值。由于RGB像素和光场像素的数量均为多个,从而可确定出多个阵列分布的目标像素的位置和像素值。其中,像素值可用亮度或灰阶表征。
如图3所示,在本公开的一些实施方式中,根据所述RGB像素的像素值、所述光场像素的像素值和所述位置对应关系,确定多个目标像素的位置和像素值;即步骤S140,可包括步骤S310-步骤S330,其中:
步骤S310、根据所述光场信息确定对应每个所述光场像素的光线进入所述光场相机的镜头的位置。
对应每个所述光场像素的光线进入所述光场相机的镜头的位置为该光线与光场相机的镜头平面的交点在镜头平面上位置,该位置可用镜头平面内的坐标系中的坐标表示。
步骤S320、根据每个所述光场像素的光线进入所述光场相机的镜头的位置与所述光场相机的光轴的距离,确定各所述光场像素的像素值的权重。
光场像素的光线进入光场相机的镜头的位置与光场相机的光轴的距离,与光场像素的权重负相关,也就是说,在镜头平面上,光线与光轴的距离越小,对应的光场像素的像素值的权重越大。
举例而言,如图6所示,光场像素的像素值的权重以光场相机的光轴为中心成正态分布。具体而言,可根据权重计算公式计算光场像素的像素值的权重,权重计算公式:
其中,WL为光场像素的像素值的权重;dL为光场像素的光线进入光场相机的位置与光场相机的光轴的距离,即对应光场像素的光线与镜头平面的交点的位置与镜头的光轴的距离;σ为dL的标准差,其可预先设定。
步骤S330、根据所述RGB像素的像素值、所述光场像素的像素值及其权重和所述位置对应关系,确定多个目标像素的位置和像素值。
如图4所示,在本公开的一些实施方式中,根据所述RGB像素的像素值、所述光场像素的像素值及其权重和所述位置对应关系,确定多个目标像素的位置和像素值;即步骤S330,可包括步骤S410和步骤S420,其中:
步骤S410、根据每个所述光场像素的像素值的权重生成权重图。
通过对光场像素的权重进行积分,得到权重图,权重图的像素与各光场像素一一对应,且权重图的像素的像素值为对应的光场像素的权重。举例而言,可通过对权重计算公式进行积分计算出权重图,权重图表达式如下:
其中,E'为权重图,权重计算公式已在上文说明,在此不再赘述。
对于光场图像,σ越小,离光轴越远的光线的权重越小,最终生成的目标图像的效果越接近小光圈的效果;σ越大,则生成的目标图像的效果越接近大光圈的效果。
步骤S420、根据所述权重图的像素的像素值、所述RGB像素的像素值、所述光场像素的像素值及所述位置对应关系,确定多个目标像素的位置和像素值。
如图5所示,在本公开的一些实施方式中,上述的步骤S420可包括步骤S510和步骤S520,其中:
步骤S510、对所述权重图的像素值进行归一化,使所述像素值不小于0,且不大于1。
归一化的具体方式在此不做特殊限定,只要能使权重图的像素值不小于0,且不大于1的区间内即可。
步骤S520、根据像素值公式确定多个目标像素的像素值,所述像素值公式为:
Pb=(1-WL)×PL+C×WL;
其中,Pb为所述目标像素的像素值;WL为所述权重图的像素的像素值;PL为所述光场像素的像素值;C为RGB像素的像素值;且像素值公式中的RGB像素与光场像素在位置对应关系下对应。
根据像素值公式可直接计算出目标像素的像素值,可以看出,权重图的像素的像素值越高,则其对应的光场像素的像素值在目标像素的像素值中的占比越低,而对应该光场像素的RGB像素的像素值越高。同时,由于RGB图像的清晰度高于光场图像,因此,目标图像中,距光轴越近的区域清晰度越高,最高为直接采用RGB像素的像素值而距光轴越远的区域的清晰度越低,最低为直接采用光场像素的像素值。
步骤S150、根据各所述目标像素的位置和像素值生成目标图像。
在每个目标像素的位置和像素值已知的情况下,可生成相应的目标图像,该目标图像即为光场图像和RGB图像融合后的图像。在目标图像中,越靠近光轴的区域,即越靠近图像中心的区域,则更多的采用RGB图像,可获得较高的清晰度;而距离光轴越远的区域,则更多的采用光场图像,可获得虚化效果。由此,可通过RGB图像和光场图像的融合,得到具有虚化效果的目标图像,实现数字虚化,相较于单独的RGB相机,可实现数字虚化,而相较于单独的光场相机,可提高中心区域的清晰度,即提高重点区域的清晰度。
需要说明的是,尽管在附图中以特定顺序描述了本公开中图像处理方法的各个步骤,但是,这并非要求或者暗示必须按照该特定顺序来执行这些步骤,或是必须执行全部所示的步骤才能实现期望的结果。附加的或备选的,可以省略某些步骤,将多个步骤合并为一个步骤执行,以及/或者将一个步骤分解为多个步骤执行等。
本公开实施方式提供一种图像处理装置,如图8所示,该图像处理装置200可包括第一获取单元201、第二获取单元202、配准单元203、处理单元204和输出单元205,其中:
第一获取单元201用于获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,RGB图像包括多个RGB像素;
第二获取单元202获取拍摄装置的光场相机对目标物体拍摄的光场图像,光场图像包括光场像素;光场相机的光轴与RGB相机的光轴平行。
在本公开的一些实施方式中,第二获取单元202可包括光场采集模块、计算模块和成像模块,其中:
光场采集模块用于获取拍摄装置的光场相机对目标物体拍摄的光场信息。
计算模块用于根据指定物距和指定焦距确定光场相机的像距。
成像模块用于根据像距和光场信息生成光场图像。
配准单元203用于对目标RGB图像和目标光场图像进行配准,得到RGB像素和光场像素的位置对应关系。
处理单元204用于根据RGB像素的像素值、光场像素的像素值和位置对应关系,确定多个目标像素的位置和像素值,每个目标像素与一RGB像素和一光场像素对应。
在本公开的一些实施方式中,处理单元2044可包括第一处理模块、第二处理模块和第三处理模块,其中:
第一处理模块用于根据光场信息确定对应每个光场像素的光线进入光场相机的镜头的位置。
第二处理模块用于根据每个光场像素的光线进入光场相机的镜头的位置与光场相机的光轴的距离,确定各光场像素的像素值的权重。
第三处理模块用于根据RGB像素的像素值、光场像素的像素值及其权重和位置对应关系,确定多个目标像素的位置和像素值。
在本公开的一些实施方式中,第三处理模块可包括权重图生成模块和像素值生成模块。其中:
权重图生成模块根据每个光场像素的像素值的权重生成权重图。
像素值生成模块用于根据权重图的像素的像素值、RGB像素的像素值、光场像素的像素值及位置对应关系,确定多个目标像素的位置和像素值。
在本公开的一些实施方式中,像素值生成模块可包括归一化模块和计算模块,其中:
归一化模块用于对权重图的像素值进行归一化,使像素值不小于0,且不大于1;
计算模块用于根据位置对应关系和像素值公式确定多个目标像素的位置和像素值,像素值公式为:
Pb=(1-WL)×PL+C×WL;
其中,Pb为目标像素的像素值;WL为权重图的像素的像素值;PL为光场像素的像素值;C为RGB像素的像素值;且像素值公式中的RGB像素与光场像素在位置对应关系下对应。
输出单元205用于根据各目标像素的像素值生成目标图像。
上述图像处理装置200的有益效果及其中各单元和模块的具体细节已经在对应的图像处理方法中进行了详细描述,因此此处不再详述。
应当注意,尽管在上文详细描述中提及了用于动作执行的若干模块或者单元,但是这种划分并非强制性的。实际上,根据本公开的实施方式,上文描述的两个或更多模块或者单元的特征和功能可以在一个模块或者单元中具体化。反之,上文描述的一个模块或者单元的特征和功能可以进一步划分为由多个模块或者单元来具体化。
本公开实施方式还提供一种终端设备,如图9所示,终端设备900可包括拍摄装置100和图像处理装置200,其中:
如图10和图11所示,拍摄装置100包括RGB相机101和光场相机102,光场相机102的光轴与RGB相机的光轴平行;RGB相机101以指定焦距对一目标物体对焦拍摄的RGB图像,RGB图像包括多个RGB像素;光场相机102用于对目标物体进行拍摄,并得到光场图像,光场图像包括光场像素。其中,RGB相机为可以是定焦相机。
图像处理装置200用于执行上述任意实施方式的图像处理方法。该图像处理方法的具体内容在此不再详述。
本公开实施方式还提供一种计算机存储介质,其上存储有能够实现本公开的上述图像处理方法的程序产品。在一些可能的实施方式中,本发明的各个方面还可以实现为一种程序产品的形式,其包括程序代码,当所述程序产品在终端设备上运行时,所述程序代码用于使所述终端设备执行本说明书上述“示例性方法”部分中描述的根据本发明各种示例性实施方式的步骤。
如图12所示,描述了根据本发明的实施方式的用于实现上述方法的程序产品1201,其可以采用便携式紧凑盘只读存储器(CD-ROM)并包括程序代码,并可以在终端设备,例如个人电脑上运行。然而,本发明的程序产品不限于此,在本公开中,可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。
所述程序产品可以采用一个或多个可读介质的任意组合。可读介质可以是可读信号介质或者可读存储介质。可读存储介质例如可以为但不限于电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。可读存储介质的更具体的例子(非穷举的列表)包括:具有一个或多个导线的电连接、便携式盘、硬盘、随机存取存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。
本领域技术人员在考虑说明书及实践这里公开的发明后,将容易想到本公开的其它实施方案。本申请旨在涵盖本公开的任何变型、用途或者适应性变化,这些变型、用途或者适应性变化遵循本公开的一般性原理并包括本公开未公开的本技术领域中的公知常识或惯用技术手段。说明书和实施例仅被视为示例性的,本公开的真正范围和精神由所附的权利要求指出。
Claims (13)
1.一种图像处理方法,其特征在于,包括:
获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;
获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行;
对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系;
根据所述RGB像素的像素值、所述光场像素的像素值和所述位置对应关系确定多个目标像素的位置和像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应;
根据各所述目标像素的位置和像素值生成目标图像。
2.根据权利要求1所述的图像处理方法,其特征在于,所述目标物体与所述拍摄装置的距离为指定物距;
获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像;包括:
获取所述拍摄装置的光场相机对所述目标物体拍摄的光场信息;
根据所述指定物距和所述指定焦距确定所述光场相机的像距;
根据所述像距和所述光场信息生成光场图像。
3.根据权利要求2所述的图像处理方法,其特征在于,根据所述RGB像素的像素值、所述光场像素和像素值和所述位置对应关系,确定多个目标像素的位置和像素值;包括:
根据所述光场信息确定对应每个所述光场像素的光线进入所述光场相机的镜头的位置;
根据每个所述光场像素的光线进入所述光场相机的镜头的位置与所述光场相机的光轴的距离,确定各所述光场像素的像素值的权重;
根据所述RGB像素的像素值、所述光场像素的像素值及其权重和所述位置对应关系,确定多个目标像素的位置和像素值。
4.根据权利要求3所述的图像处理方法,其特征在于,根据所述RGB像素的像素值、所述光场像素的像素值及其权重和所述位置对应关系,确定多个目标像素的位置和像素值;包括:
根据每个所述光场像素的像素值的权重生成权重图;
根据所述权重图的像素的像素值、所述RGB像素的像素值、所述光场像素的像素值及所述位置对应关系,确定多个目标像素的位置和像素值。
5.根据权利要求4所述的图像处理方法,其特征在于,根据所述权重图的像素的像素值、所述RGB像素的像素值、所述光场像素的像素值及所述位置对应关系,确定多个目标像素的位置和像素值;包括:
对所述权重图的像素值进行归一化,使所述像素值不小于0,且不大于1;
根据所述位置对应关系和像素值公式确定多个目标像素的位置像素值,所述像素值公式为:
Pb=(1-WL)×PL+C×WL;
其中,Pb为所述目标像素的像素值;WL为所述权重图的像素的像素值;PL为所述光场像素的像素值;C为RGB像素的像素值;且所述像素值公式中的所述RGB像素与所述光场像素在所述位置对应关系下对应。
6.根据权利要求3所述的图像处理方法,其特征在于,所述光场像素的光线进入所述光场相机的镜头的位置与所述光场相机的光轴的距离,与所述光场像素的权重负相关。
7.根据权利要求6所述的图像处理方法,其特征在于,所述光场像素的像素值的权重以所述光场相机的镜头与其光轴的交点为中心呈正态分布。
9.根据权利要求1-8任一项所述的图像处理方法,其特征在于,所述RGB相机为定焦相机。
10.一种图像处理装置,其特征在于,包括:
第一获取单元,用于获取拍摄装置的RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;
第二获取单元,获取所述拍摄装置的光场相机对所述目标物体拍摄的光场图像,所述光场图像包括光场像素;所述光场相机的光轴与所述RGB相机的光轴平行;
配准单元,用于对所述目标RGB图像和所述目标光场图像进行配准,得到所述RGB像素和所述光场像素的位置对应关系;
处理单元,用于根据所述RGB像素的位置和像素值、所述光场像素的位置和像素值和所述位置对应关系,确定多个目标像素的位置和像素值,每个所述目标像素与一所述RGB像素和一所述光场像素对应;
输出单元,用于根据各所述目标像素的位置和像素值生成目标图像。
11.一种终端设备,其特征在于,包括:
拍摄装置,包括RGB相机和光场相机,所述光场相机的光轴与所述RGB相机的光轴平行;所述RGB相机以指定焦距对一目标物体对焦拍摄的RGB图像,所述RGB图像包括多个RGB像素;所述光场相机用于对所述目标物体进行拍摄,并得到光场图像,所述光场图像包括光场像素;
图像处理装置,用于执行权利要求1-10任一项所述的图像处理方法。
12.根据权利要求11所述的终端设备,其特征在于,所述RGB相机为定焦相机。
13.一种计算机存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1-10任一项所述的图像处理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010910192.5A CN112040203B (zh) | 2020-09-02 | 2020-09-02 | 计算机存储介质、终端设备、图像处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202010910192.5A CN112040203B (zh) | 2020-09-02 | 2020-09-02 | 计算机存储介质、终端设备、图像处理方法及装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112040203A true CN112040203A (zh) | 2020-12-04 |
CN112040203B CN112040203B (zh) | 2022-07-05 |
Family
ID=73592260
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202010910192.5A Active CN112040203B (zh) | 2020-09-02 | 2020-09-02 | 计算机存储介质、终端设备、图像处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN112040203B (zh) |
Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104184936A (zh) * | 2013-05-21 | 2014-12-03 | 吴俊辉 | 基于光场相机的影像对焦处理方法及其*** |
CN104519259A (zh) * | 2013-09-26 | 2015-04-15 | 联想(北京)有限公司 | 一种数据获取方法及电子设备 |
US20150103200A1 (en) * | 2013-10-16 | 2015-04-16 | Broadcom Corporation | Heterogeneous mix of sensors and calibration thereof |
CN105898282A (zh) * | 2015-02-12 | 2016-08-24 | 弗劳恩霍夫应用研究促进协会 | 光场相机 |
CN108053363A (zh) * | 2017-11-30 | 2018-05-18 | 广东欧珀移动通信有限公司 | 背景虚化处理方法、装置及设备 |
CN108337434A (zh) * | 2018-03-27 | 2018-07-27 | 中国人民解放军国防科技大学 | 一种针对光场阵列相机的焦外虚化重聚焦方法 |
CN108805921A (zh) * | 2018-04-09 | 2018-11-13 | 深圳奥比中光科技有限公司 | 图像获取***及方法 |
CN109922255A (zh) * | 2017-12-12 | 2019-06-21 | 黑芝麻国际控股有限公司 | 用于生成实时深度图的双相机*** |
-
2020
- 2020-09-02 CN CN202010910192.5A patent/CN112040203B/zh active Active
Patent Citations (8)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN104184936A (zh) * | 2013-05-21 | 2014-12-03 | 吴俊辉 | 基于光场相机的影像对焦处理方法及其*** |
CN104519259A (zh) * | 2013-09-26 | 2015-04-15 | 联想(北京)有限公司 | 一种数据获取方法及电子设备 |
US20150103200A1 (en) * | 2013-10-16 | 2015-04-16 | Broadcom Corporation | Heterogeneous mix of sensors and calibration thereof |
CN105898282A (zh) * | 2015-02-12 | 2016-08-24 | 弗劳恩霍夫应用研究促进协会 | 光场相机 |
CN108053363A (zh) * | 2017-11-30 | 2018-05-18 | 广东欧珀移动通信有限公司 | 背景虚化处理方法、装置及设备 |
CN109922255A (zh) * | 2017-12-12 | 2019-06-21 | 黑芝麻国际控股有限公司 | 用于生成实时深度图的双相机*** |
CN108337434A (zh) * | 2018-03-27 | 2018-07-27 | 中国人民解放军国防科技大学 | 一种针对光场阵列相机的焦外虚化重聚焦方法 |
CN108805921A (zh) * | 2018-04-09 | 2018-11-13 | 深圳奥比中光科技有限公司 | 图像获取***及方法 |
Also Published As
Publication number | Publication date |
---|---|
CN112040203B (zh) | 2022-07-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6335423B2 (ja) | 情報処理装置および情報処理方法 | |
JP2020505863A (ja) | イメージセンサ、撮像方法および電子装置 | |
JP6786225B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
US9473700B2 (en) | Camera systems and methods for gigapixel computational imaging | |
JP6674643B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2014150466A (ja) | 撮像装置及びその制御方法 | |
JPWO2019065260A1 (ja) | 情報処理装置、情報処理方法、及び、プログラム、並びに、交換レンズ | |
CN104412298B (zh) | 用于变换图像的方法和设备 | |
CN114846608A (zh) | 包括图像传感器的电子设备及其操作方法 | |
CN111182238A (zh) | 基于扫描光场的高分辨率移动电子设备的成像装置及方法 | |
CN115225820A (zh) | 拍摄参数自动调整方法、装置、存储介质及工业相机 | |
JP2013145982A (ja) | 撮像装置、画像処理装置及び方法 | |
WO2016175043A1 (ja) | 画像処理装置及び画像処理方法 | |
JP6283329B2 (ja) | 拡張現実対象認識装置 | |
CN112040203B (zh) | 计算机存储介质、终端设备、图像处理方法及装置 | |
TWI604221B (zh) | 影像景深測量方法以及應用該方法的影像擷取裝置 | |
JP6674644B2 (ja) | 画像処理装置及び画像処理方法 | |
KR102597470B1 (ko) | 뎁스 맵 결정 방법 및 그 방법을 적용한 전자 장치 | |
CN110443750B (zh) | 检测视频序列中的运动的方法 | |
CN108205236A (zh) | 全景摄像机及其镜头 | |
CN110581977A (zh) | 一种视频画面的输出方法、装置及三目摄像机 | |
JP6684454B2 (ja) | 画像処理装置及び画像処理方法 | |
CN115393555A (zh) | 一种三维图像获取方法、终端设备及存储介质 | |
CN115272124A (zh) | 一种畸变图像校正方法、装置 | |
KR100736565B1 (ko) | 파노라마 영상 촬영 방법 및 이를 수행하기 위한이동통신단말기 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |