CN110430415A - 一种物体深度信息的确定方法、电子设备和电路*** - Google Patents

一种物体深度信息的确定方法、电子设备和电路*** Download PDF

Info

Publication number
CN110430415A
CN110430415A CN201910561182.2A CN201910561182A CN110430415A CN 110430415 A CN110430415 A CN 110430415A CN 201910561182 A CN201910561182 A CN 201910561182A CN 110430415 A CN110430415 A CN 110430415A
Authority
CN
China
Prior art keywords
voltage
camera
angle
grating device
period
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201910561182.2A
Other languages
English (en)
Inventor
王恒
叶海水
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Huawei Technologies Co Ltd
Original Assignee
Huawei Technologies Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Huawei Technologies Co Ltd filed Critical Huawei Technologies Co Ltd
Publication of CN110430415A publication Critical patent/CN110430415A/zh
Priority to PCT/CN2020/079806 priority Critical patent/WO2020192503A1/zh
Pending legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/204Image signal generators using stereoscopic image cameras
    • H04N13/207Image signal generators using stereoscopic image cameras using a single 2D image sensor
    • H04N13/218Image signal generators using stereoscopic image cameras using a single 2D image sensor using spatial multiplexing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/271Image signal generators wherein the generated image signals comprise depth maps or disparity maps
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals

Abstract

本申请提供一种物体深度信息的确定方法、电子设备和电路***,其中方法包括:控制光栅器件的光栅结构为第一结构,光源产生的光束在光栅器件上产生第一衍射光束,第一衍射光束的衍射角为第一角度,第一衍射光束照射到待拍摄物体上的第一区域;其中,第一区域反射的第一反射光束被摄像头捕捉;调整光栅器件的光栅结构改变为第二结构,使得光束在光栅器件上产生第二衍射光束,第二衍射光束的衍射角为第二角度,第二衍射光束照射到待拍摄物体上的第二区域;其中,第二区域反射的第二反射光束被摄像头捕捉;根据第一反射光束和第二反射光束,确定待拍摄物体的深度信息。

Description

一种物体深度信息的确定方法、电子设备和电路***
本申请要求在2019年03月26日提交中国专利局、申请号为201910234518.4、申请名称为“一种深度信息采集方法和装置”的中国专利申请的优先权,其全部内容通过引用结合在本申请中。
技术领域
本申请涉及终端技术领域,尤其涉及一种物体深度信息的确定方法、电子设备和电路***。
背景技术
随着终端技术的进步,电子设备比如手机或相机等,拍摄功能越来越强大,而且拍摄的图像可以是三维图像,与二维图像相比,三维图像可以反映拍摄物体的更多的信息,也更符合人们对真实世界的认知。
三维图像通常是通过构建三维模型得到的,目前常用的三维模型构建方法包括:立体视觉法、结构光法以及飞行时间(time of flight,ToF)法等。以飞行时间为例,且以电子设备是相机为例,相机上设置的光源向被拍摄物体发射光束,该光束照射到拍摄物体上,经过拍摄物体反射,反射光被相机捕捉,通过相机发射光束和接收的反射光束之间的时间差来计算被拍摄物体表面各个区域与相机之间的距离,以产生被拍摄物体的深度信息,进而根据深度信息构建被拍摄物体的三维模型。
目前的一种方案为,电子设备比如相机可以通过光束对拍摄物体的区域进行扫描以获取拍摄物体表面不同区域和相机的距离信息,在这种方案中电子设备上的光源需要移动位置,因此使用这种方案的相机内设置有扫描装置,该扫描装置的位置发生移动以带动光源的位置发生移动,这样的话,光源在移动的过程中可以将光束照射到拍摄物体的不同区域上,以获取拍摄物体的不同区域和相机的距离信息。
但是,扫描装置在发生移动时,会发生振动,甚至还会触碰到相机内的其它器件,导致对它器件产生干扰,因此相机存在稳定性和可靠性差的问题;其次,相机需要为扫描装置提供足够大空间移动,因此相机还存在体积大,内部空间利用率较低的问题。
发明内容
本申请实施例提供一种物体深度信息的确定方法、电子设备和电路***,用于解决现有技术中通过扫描装置带动光源移动所导致的相机稳定性和可靠性差、空间利用率较低等的问题。
第一方面,本申请实施例提供一种物体深度信息的确定方法,应用于电子设备。该电子设备可以是手机、智能相机等电子设备。该电子设备可以包括光源、光栅器件以及至少一个摄像头。该方法包括:控制所述光栅器件的光栅结构为第一结构,所述光源产生的光束在所述光栅器件上产生第一衍射光束,所述第一衍射光束的衍射角为第一角度,所述第一衍射光束照射到待拍摄物体上的第一区域;其中,所述第一区域反射的第一反射光束被所述摄像头捕捉;调整所述光栅器件的光栅结构改变为第二结构,使得所述光束在所述光栅器件上产生第二衍射光束,所述第二衍射光束的衍射角为第二角度,所述第二衍射光束照射到所述待拍摄物体上的第二区域;其中,所述第二区域反射的第二反射光束被所述摄像头捕捉;根据所述第一反射光束和所述第二反射光束,确定所述待拍摄物体的深度信息。
本申请实施例中,电子设备在采集被拍摄物体的深度信息的过程中,通过控制光栅器件的结构发生变化,可以实现光束从不同衍射角度射出,对被拍摄物体进行扫描,而光源的位置不需要移动,因此不会产生振动,可以提高电子设备的可靠性,保证成像质量,同时也不需要预留移动空间,因此能够减小深度相机的体积,更利于***集成,克服了现有技术中机械性的扫描装置固有的缺陷。并且,本申请实施例基于采集被拍摄物体的深度信息的方案中,可以在保证被拍摄物体的不同区域都能被扫描到的同时,还可以保证接收到的反射光束具有较大的能量,进而获得信噪比较高的反射光信号,能够避免由于信噪比不佳,导致最终构建的三维模型精确性下降的问题。
在一种可能的设计中,所述光栅器件可以是硅基液晶(liquid crystal onsilicon,LCoS)空间光调制器;所述LCoS空间光调制器包括液晶层、第一电极层、第二电极层,所述液晶层位于所述第一电极层和所述第二电极层之间。相应的,控制所述光栅器件的光栅结构为第一结构,可以包括:在所述第一电极层和所述第二电极层之间施加第一电压,使得所述液晶层呈第一结构;所述第一结构包括:所述液晶层的折射率在第一方向上以第一周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈N级阶梯式递增或递减,所述第一方向平行于所述液晶层所在平面,N为大于等于2的整数;调整所述光栅器件的光栅结构改变为第二结构,可以包括:在所述第一电极层和所述第二电极层之间施加第二电压,使得所述液晶层呈第二结构;所述第二结构包括:所述液晶层的折射率在所述第一方向上以第二周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈Q级阶梯式递增或递减,Q为大于等于2的整数,Q≠N。
本实施方式可以基于LCoS空间光调制器实现光栅器件,通过控制LCoS空间光调制器中第一电极层、第二电极层之间的电压,即可使得第一电极层、第二电极层之间的液晶层的结构发生变化,进而使得投射到液晶层的光束从不同衍射角度射出,实现对被拍摄物体进行扫描,整个过程不需要移动光源的位置,所以能够提高电子设备的可靠性,保证成像质量,减小深度相机的体积,同时还可以提高反射光信号的信噪比。
在一种可能的设计中,控制所述光栅器件的光栅结构为第一结构,可以包括:根据衍射角和相位调制量之间的第一对应关系,确定与所述第一角度对应的第一相位调制量;其中,所述第一相位调整量在所述第一方向上以所述第一周期为周期呈周期性变化,且每个周期内的相位调制量在所述第一方向上呈N级阶梯式递增或递减;根据相位调制量和电压之间的第二对应关系,确定与所述第一相位调制量对应的第一电压;其中,所述第一电压在所述第一方向上以所述第一周期为周期呈周期性变化,且每个周期内的电压在所述第一方向上呈N级阶梯式递增或递减;在所述第一电极层和所述第二电极层之间施加所述第一电压,使得所述液晶层的折射率在所述第一方向上以所述第一周期为周期呈周期性变化。
本实施方式可以基于衍射角和相位调制量之间的第一对应关系确定与第一角度对应的第一相位调制量,然后再根据相位调制量和电压之间的第二对应关系确定与第一相位调制量对应的第一电压,通过在LCoS空间光调制器中的第一电极层和第二电极层之间施加第一电压,使得光束的衍射角为第一角度,照射到待拍摄物体上的第一区域。实现了根据需求精准的控制光束的衍射角度,提高了物体深度信息采集的精准性和可靠性。
在一种可能的设计中,调整所述光栅器件的光栅结构改变为第二结构,可以包括:根据衍射角和相位调制量之间的第一对应关系,确定与所述第二角度对应的第二相位调制量;其中,所述第二相位调制量在所述第一方向上以所述第二周期为周期呈周期性变化,且每个周期内的相位调制量在所述第一方向上呈Q级阶梯式递增或递减;根据相位调制量和电压之间的第二对应关系,确定与所述第二相位调制量对应的第二电压;其中,所述第二电压在所述第一方向上以所述第二周期为周期呈周期性变化,且每个周期内的电压在所述第一方向上呈Q级阶梯式递增或递减;在所述第一电极层和所述第二电极层之间施加所述第二电压,使得所述液晶层的折射率在所述第一方向上以所述第二周期为周期呈周期性变化。
本实施方式可以基于衍射角和相位调制量之间的第一对应关系确定与第二角度对应的第二相位调制量,然后再根据相位调制量和电压之间的第二对应关系确定与第二相位调制量对应的第二电压,通过在LCoS空间光调制器中的第一电极层和第二电极层之间施加第二电压,使得光束的衍射角为第二角度,照射到待拍摄物体上的第二区域。实现了根据需求精准的控制光束的衍射角度发生改变,提高了物体深度信息采集的精准性和可靠性。
在一种可能的设计中,所述光栅器件还可以是声光偏转器;所述声光偏转器包括驱动电源、声光介质以及压电换能器,相应的,控制所述光栅器件的光栅结构为第一结构,可以包括:控制所述驱动电源向所述压电换能器输入第三电压,使得所述压电换能器产生第一频率的超声波,所述第一频率的超声波传入所述声光介质后,所述声光介质形成第一结构;调整所述光栅器件的光栅结构改变为第二结构,可以包括:控制所述驱动电压向所述压电换能器输入第四电压,使得所述压电换能器产生第二频率的超声波,所述第二频率的超声波传入所述声光介质后,所述声光介质形成第二结构。
本实施方式还可以基于声光偏转器实现光栅器件,通过控制声光偏转器中的驱动电源向压电换能器输入的电压,即可使得声光介质的结构发生变化,进而使得投射到声光介质的光束从不同衍射角度射出,实现对被拍摄物体进行扫描,整个过程不需要移动光源的位置,所以能够提高电子设备的可靠性,保证成像质量,减小深度相机的体积,同时还可以提高反射光信号的信噪比。
在一种可能的设计中,在控制所述驱动电源向所述压电换能器输入第三电压之前,还可以根据衍射角和超声波的频率之间的第三对应关系,确定与所述第一角度对应的超声波的第一频率;根据超声波的频率和驱动电源的电压之间的第四对应关系,确定与所述第一频率对应的第三电压。
本实施方式可以基于衍射角和超声波的频率之间的第三对应关系确定与第一角度对应的超声波的第一频率,然后再根据超声波的频率和驱动电源的电压之间的第四对应关系确定与第一频率对应的第三电压,通过驱动电源向压电换能器输入第三电压,即可使得光束的衍射角为第一角度,照射到待拍摄物体上的第一区域。实现了根据需求精准的控制光束的衍射角度,提高了物体深度信息采集的精准性和可靠性。
在一种可能的设计中,在控制所述驱动电压向所述压电换能器输入第四电压之前,还可以根据衍射角和超声波的频率之间的第三对应关系,确定与所述第二角度对应的超声波的第二频率;根据超声波的频率和驱动电源的电压之间的第四对应关系,确定与所述第二频率对应的第四电压。
本实施方式可以基于衍射角和超声波的频率之间的第三对应关系确定与第二角度对应的超声波的第二频率,然后再根据超声波的频率和驱动电源的电压之间的第四对应关系确定与第二频率对应的第四电压,通过驱动电源向压电换能器输入第四电压,即可使得光束的衍射角为第二角度,照射到待拍摄物体上的第二区域。实现了根据需求精准的控制光束的衍射角度发生改变,提高了物体深度信息采集的精准性和可靠性。
第二方面,本申请实施例还提供一种电子设备,所述电子设备包括:至少一个处理器、光源、光栅器件以及至少一个摄像头;所述光源,用于产生光束,并将所述光束投射到所述光栅器件上;所述至少一个处理器,用于控制所述光栅器件的光栅结构为第一结构;其中,当所述光栅器件为第一结构时,所述光束在所述光栅器件上产生第一衍射光束,所述第一衍射光束的衍射角为第一角度,所述第一衍射光束照射到待拍摄物体上的第一区域;所述至少一个摄像头,用于捕捉所述第一区域反射的第一反射光束;所述至少一个处理器,还用于调整所述光栅器件的光栅结构改变为第二结构;其中,所述光栅器件为第二结构时,所述光束在所述光栅器件上产生第二衍射光束,所述第二衍射光束的衍射角为第二角度,所述第二衍射光束照射到所述待拍摄物体上的第二区域;所述至少一个摄像头,还用于捕捉所述第二区域反射的第二反射光束;所述至少一个处理器,还用于根据所述第一反射光束和所述第二反射光束,确定所述待拍摄物体的深度信息。
在一种可能的设计中,所述光栅器件为LCoS空间光调制器;所述LCoS空间光调制器包括液晶层;所述光栅器件的光栅结构为第一结构,包括:所述液晶层的折射率在第一方向上以第一周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈N级阶梯式递增或递减,所述第一方向平行于所述液晶层所在平面,N为大于等于2的整数;所述光栅器件的光栅结构为第二结构,包括:所述液晶层的折射率在所述第一方向上以第二周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈Q级阶梯式递增或递减,Q为大于等于2的整数,Q≠N。
在一种可能的设计中,所述光栅器件为声光偏转器;所述声光偏转器包括驱动电源、声光介质以及压电换能器;所述驱动电源用于:向所述压电换能器输入第三电压;所述压电换能器用于:在所述第三电压的驱动下产生第一频率的超声波;所述第一频率的超声波传入所述声光介质后,所述声光介质形成第一结构;所述驱动电源还用于:控制所述驱动电源向所述压电换能器输入第四电压;所述压电换能器还用于:在所述第四电压的驱动下产生第二频率的超声波;所述第二频率的超声波传入所述声光介质后,所述声光介质形成第二结构。
第三方面,本申请实施提供还一种电路***,该电路***可以是一个或多个芯片,比如,片上***(system-on-a-chip,SoC)。该电路***用于生成第一控制信号,所述第一控制信号用于控制光栅器件的光栅结构为第一结构;所述电路***还用于生成第二控制信号,所述第二控制信号用于控制所述光栅器件的光栅结构改变为第二结构。
第四方面,本申请实施例还提供一种电子设备。该电子设备包括光源、光栅器件、至少一个摄像头,至少一个处理器和存储器;所述存储器用于存储一个或多个计算机程序;当所述存储器存储的一个或多个计算机程序被所述至少一个处理器执行时,使得所述电子设备能够实现上述第一方面及其第一方面任一可能设计的技术方案。
第五方面,本申请实施例还提供一种电子设备,所述电子设备包括执行上述第一方面或者第一方面的任意一种可能的设计的方法的模块/单元;这些模块/单元可以通过硬件实现,也可以通过硬件执行相应的软件实现。
第六方面,本申请实施例还提供一种计算机可读存储介质,所述计算机可读存储介质包括计算机程序,当计算机程序在电子设备上运行时,使得所述电子设备执行本申请实施例第一方面及其第一方面任一可能设计的技术方案。
第七方面,本申请实施例还提供一种程序产品,包括指令,当所述程序产品在电子设备上运行时,使得所述电子设备执行本申请实施例第一方面及其第一方面任一可能设计的技术方案。
附图说明
为了更清楚地说明本申请实施例的技术方案,下面将对本申请实施例中所需要使用的附图作简单地介绍,显而易见地,下面所介绍的附图仅仅是本发明的一些实施例,对于本领域普通技术人员来讲,在不付出创造性劳动的前提下,还可以根据这些附图获得其他的附图。
图1为本申请实施例提供的一种应用场景的示意图;
图2为本申请实施例提供的另一种应用场景的示意图;
图3为本申请实施例提供的另一种应用场景的示意图;
图4为本申请实施例提供的一种手机100的结构示意图;
图5A为本申请实施例提供的一种深度相机200的结构示意图;
图5B为本申请实施例提供的一种深度相机200的结构示意图;
图6A、图6B、图6C、图6D为本申请实施例提供的LCoS空间光调制器中的液晶面板的示意图;
图6E为本申请实施例中液晶层施加的电压和液晶层对光的相位调制量的一种可能的对应关系的示意图;
图6F为本申请实施例提供一种相位调制量分布图;
图6G为本申请实施例提供另一种相位调制量分布图;
图7为本申请实施例提供的LCoS空间光调制器中的另一种液晶面板的示意图;
图8为本申请实施例提供另一种相位调制量分布图;
图9为本申请实施例提供另一种相位调制量分布图;
图10为本申请实施例中一种可能的采集深度信息的方法流程图;
图11为本申请实施例中一种可能的深度相机200采集深度信息的过程示意图;
图12(a)为本申请实施例中线状光束的示意图;
图12(b)为本申请实施例中点状光束的示意图;
图13为本申请实施例中一种可能的二维扫描的示意图;
图14为本申请实施例中声光偏转器的结构示意图;
图15为本申请实施例中另一种可能的采集深度信息的方法流程图;
图16为本申请实施例中另一种可能的深度相机200采集深度信息的过程示意图;
图17为本申请实施例中另一种可能的二维扫描的示意图。
具体实施方式
为使本申请实施例的目的、技术方案和优点更加清楚,下面将结合本申请实施例中的附图,对本申请实施例中的技术方案进行清楚、完整地描述。
以下,对本申请中的部分用语进行解释说明,以便于本领域技术人员理解。
本申请实施例涉及的光栅,也称衍射光栅,光栅可以有多种,比如按照光栅对入射光的调制作用可以将光栅分类为振幅调制光栅和相位调制光栅。其中,相位调制光栅是指光栅上不同区域的折射率可以变化,不同区域能对入射光的相位进行分别调制,导致相位不同的出射光叠加,产生衍射光束。相位调制光栅可以有多种,比如硅基液晶(liquidcrystal onsilicon,LCoS)。
本申请实施例涉及的声光效应,是指超声波通过介质时会造成介质的局部压缩和伸长而产生弹性应变,该应变随时间和空间作周期性变化,使介质出现疏密相间的现象,如同一个光栅。当光通过受到超声波扰动的介质时就会发生衍射现象,使得光的传播方向发生偏转,这种现象称之为声光效应。采用声光效应原理的光栅可以有多种,比如声光偏转器(acousto optical deflectors,AOD),具体可以是拉曼-奈斯声光偏转器,或者布拉格声光偏转器等,本申请实施例不限定。
需要说明的是,本申请实施例涉及的光栅器件,可以是上述任一种光栅,或者多种光栅的组合光栅,本申请实施例不作限定。下文中,主要以光栅器件是LCoS和AOD为例,所以LCoS和AOD的具体结构将在后文介绍。
本申请实施例涉及的多个,是指大于或等于两个。
需要说明的是,本文中术语“和/或”,仅仅是一种描述关联对象的关联关系,表示可以存在三种关系,例如,A和/或B,可以表示:单独存在A,同时存在A和B,单独存在B这三种情况。另外,本文中字符“/”,如无特殊说明,一般表示前后关联对象是一种“或”的关系。且在本申请实施例的描述中,“第一”、“第二”等词汇,仅用于区分描述的目的,而不能理解为指示或暗示相对重要性,也不能理解为指示或暗示顺序。
下面介绍本申请实施例提供的几种可能的应用场景。
应用场景1:
照相机上的光源向被拍摄物体(图1中以人脸为例)上发射光束1,假设光束1投射在人脸上的区域A,区域A反射光束1,反射光束1被照相机的镜头捕捉到。照相机确定光束1的发射时间和反射光束1被照相机镜头捕捉到的时间,通过二者之间的时间差确定人脸上区域A与照相机的距离。
之后,照相机可以改变发射光束的发射方向,比如,请继续参见图1所示,照相机上光源向人脸上的区域B发射光束2,区域B反射光束2,反射光束2被照相机镜头捕捉到,照相机可以确定人脸上区域B与照相机的距离。
需要说明的是,在本申请实施例中,照相机中设置光栅器件(图1中未示出),光源发射的光束经过光栅器件照射到人脸上,由于光栅器件的光栅结构可以发生变化,进而可以改变光束的出射方向,实现在人脸上扫描多次,以获取人脸不同区域和照相机的距离信息,所以,光源的位置无需改变,因此不再需要设置扫描装置,避免了扫描装置移动导致照相机稳定性和可靠性差、空间利用率低等问题。
进一步的,通过不断调整光栅器件的光栅结构,向人脸上的不同区域投射光束,就可以得到人脸不同区域到照相机的距离,进而得到人脸的深度信息,进而构建人脸的3D图像。
应用场景2:
请参见图2所示,为本申请实施例提供的另一种应用场景的示意图。如图2所示,手机上集成有光源和摄像头,内部还设置有光栅器件(图2中未示出)。
手机上的光源向被拍摄物体(图2中以人脸为例)上发射光束1,假设光束1投射在人脸上的区域A,区域A反射光束1,反射光束1被手机的摄像头捕捉到。手机确定光束1的发射时间和反射光束1被摄像头捕捉到的时间,通过二者之间的时间差确定人脸上区域A与手机的距离。
之后,手机可以改变发射光束的发射方向,比如,请继续参见图2所示,手机上光源向人脸上的区域B发射光束2,区域B反射光束2,反射光束2被手机摄像头捕捉到,手机可以确定人脸上区域B与照手机的距离。
需要说明的是,在本申请实施例中,手机中设置光栅器件(图2中未示出),光源发射的光束经过光栅器件照射到人脸上,由于光栅器件的光栅结构可以发生变化,进而可以改变光束的出射方向,实现在人脸上扫描多次,以获取人脸不同区域和手机的距离信息,所以,光源的位置无需改变,因此不再需要设置扫描装置,避免了扫描装置移动导致手机稳定性和可靠性差、空间利用率低等问题。
进一步的,通过不断调整光栅器件的光栅结构,向人脸上的不同区域投射光束,就可以得到人脸不同区域到照手机的距离,进而获得整个人脸的深度信息,基于该深度信息对人脸进行三维建模,就可以得到人脸的三维特征信息。
进一步的,基于人脸的三维特征信息,手机可实现人脸打卡、解锁手机、解锁应用、人脸支付等场景中的人脸识别的功能,或者是将人脸的三维建模功能集成在手机的手机app中,或者集成在微信视频、facetime,推特、朋友圈等需要拍摄的任何场景中,可在这些场景中实现三维图像的拍摄功能。
应用场景3:
请参见图3所示,为本申请实施例提供的另一种应用场景的示意图。如图3所示,汽车上设置有光源和摄像头,内部还设置有光栅器件(图3中未示出)。其中,在具体实施时,光源和摄像头除了可以如图3所示的设置在汽车尾部外,还可以设置在汽车头部、车身等位置,本申请实施例不做具体限制。
汽车上的光源向障碍物上发射光束1,假设光束1投射在障碍物上的区域A,区域A反射光束1,反射光束1被汽车上的摄像头捕捉到。汽车确定光束1的发射时间和反射光束1被汽车上的摄像头捕捉到的时间,通过二者之间的时间差确定障碍物上区域A与汽车的距离。
之后,汽车可以改变发射光束的发射方向,比如,请继续参见图3所示,汽车上光源向障碍物上的区域B发射光束2,区域B反射光束2,反射光束2被汽车的摄像头捕捉到,汽车可以确定障碍物上区域B与汽车的距离。
需要说明的是,在本申请实施例中,在汽车中设置光栅器件(图3中未示出),光源发射的光束经过光栅器件照射到障碍物上,由于光栅器件的光栅结构可以发生变化,进而可以改变光束的出射方向,实现在障碍物上扫描多次,以获取障碍物表面不同区域和汽车的距离信息,所以,光源的位置无需改变,因此不再需要设置扫描装置,避免了扫描装置移动所带来的稳定性和可靠性差、体积大及空间利用率较低的问题。
进一步的,通过不断调整光栅器件的光栅结构,向障碍物上的不同区域投射光束,就可以计算得到障碍物不同区域到照汽车的距离,进而获得整个障碍物的深度信息。
进一步的,基于障碍物的深度信息对障碍物进行三维建模可获得障碍物的形状、体积、尺寸等信息,进而还可以通过图像、文字或语音等方式向车主提示障碍物的形状、体积、尺寸等信息。
进一步的,还可以在车内设置显示屏,基于障碍物的深度信息生成障碍物的3D图像,并在显示屏上显示障碍物的三维图像,进而为车主提供更好的用户体验。
进一步地,上述障碍物的三维信息可以提供给汽车的自动驾驶***,以帮助自动驾驶***控制汽车自动规避障碍物。
以上列举了3中可能的应用场景,即本申请实施例中的电子设备可以是相机、手机、车载***等,在实际应用中,本申请实施例中的电子设备还可以是其它设备,诸如平板电脑、虚拟现实(Virtual Reality,VR)眼镜、可穿戴设备(如智能手表)等。便携式终端的示例性实施例包括但不限于搭载或者其它操作***的便携式终端。还应当理解的是,在本申请其他一些实施例中,上述电子设备也可以不是便携式终端,而是能够实现图像拍摄功能的台式计算机。
(1)以电子设备是手机为例,图4示出了手机100的结构示意图。
手机100可以包括处理器110,外部存储器接口120,内部存储器121,通用串行总线(universal serial bus,USB)接口130,充电管理模块140,电源管理模块141,电池142,天线1,天线2,移动通信模块151,无线通信模块152,音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,传感器模块180,按键190,马达191,指示器192,摄像头193,显示屏194,以及用户标识模块(subscriber identification module,SIM)卡接口195、光源196以及光栅器件197等。其中传感器模块180可以包括压力传感器180A,陀螺仪传感器180B,气压传感器180C,磁传感器180D,加速度传感器180E,距离传感器180F,接近光传感器180G,指纹传感器180H,温度传感器180J,触摸传感器180K,环境光传感器180L,骨传导传感器180M等。
可以理解的是,本申请实施例示意的结构并不构成对手机100的具体限定。在本申请另一些实施例中,手机100可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件或软件和硬件的组合实现。
其中,处理器110可以包括一个或多个处理单元,例如:处理器110可以包括应用处理器(application processor,AP),调制解调处理器,图形处理器(graphics processingunit,GPU),图像信号处理器(image signal processor,ISP),控制器,存储器,视频编解码器,数字信号处理器(digital signal processor,DSP),基带处理器,和/或神经网络处理器(neural-network processing unit,NPU)等。其中,不同的处理单元可以是独立的器件,也可以集成在一个或多个处理器中。
其中,控制器可以是手机100的神经中枢和指挥中心。控制器可以根据指令操作码和时序信号,产生操作控制信号,完成取指令和执行指令的控制。
处理器110中还可以设置存储器,用于存储指令和数据。在一些实施例中,处理器110中的存储器为高速缓冲存储器。该存储器可以保存处理器110刚用过或循环使用的指令或数据。如果处理器110需要再次使用该指令或数据,可从所述存储器中直接调用。避免了重复存取,减少了处理器110的等待时间,因而提高了***的效率。
手机100通过GPU,显示屏194,以及应用处理器等实现显示功能。GPU为图像处理的微处理器,连接显示屏194和应用处理器。GPU用于执行数学和几何计算,用于图形渲染。处理器110可包括一个或多个GPU,其执行程序指令以生成或改变显示信息。
显示屏194用于显示图像,视频等。显示屏194包括显示面板。显示面板可以采用液晶显示屏(liquid crystal display,LCD),有机发光二极管(organic light-emittingdiode,OLED),有源矩阵有机发光二极体或主动矩阵有机发光二极体(active-matrixorganic light emitting diode的,AMOLED),柔性发光二极管(flex light-emittingdiode,FLED),Miniled,MicroLed,Micro-oLed,量子点发光二极管(quantum dot lightemitting diodes,QLED)等。在一些实施例中,手机100可以包括1个或N个显示屏194,N为大于1的正整数。
内部存储器121可以用于存储计算机可执行程序代码,所述可执行程序代码包括指令。处理器110通过运行存储在内部存储器121的指令,从而执行手机100的各种功能应用以及数据处理。内部存储器121可以包括存储程序区和存储数据区。其中,存储程序区可存储操作***,至少一个功能所需的应用程序(比如声音播放功能,图像播放功能等)等。存储数据区可存储手机100使用过程中所创建的数据(比如音频数据,电话本等)等。此外,内部存储器121可以包括高速随机存取存储器,还可以包括非易失性存储器,例如至少一个磁盘存储器件,闪存器件,通用闪存存储器(universal flash storage,UFS)等。
其中,接近光传感器180G可以包括例如发光二极管(LED)和光检测器,例如光电二极管。发光二极管可以是红外发光二极管。手机100通过发光二极管向外发射红外光。手机100使用光电二极管检测来自附近物体的红外反射光。当检测到充分的反射光时,可以确定手机100附近有物体。当检测到不充分的反射光时,手机100可以确定手机100附近没有物体。手机100可以利用接近光传感器180G检测用户手持手机100贴近耳朵通话,以便自动熄灭屏幕达到省电的目的。接近光传感器180G也可用于皮套模式,口袋模式自动解锁与锁屏。
环境光传感器180L用于感知环境光亮度。手机100可以根据感知的环境光亮度自适应调节显示屏194亮度。环境光传感器180L也可用于拍照时自动调节白平衡。环境光传感器180L还可以与接近光传感器180G配合,检测手机100是否在口袋里,以防误触。
指纹传感器180H用于采集指纹。手机100可以利用采集的指纹特性实现指纹解锁,访问应用锁,指纹拍照,指纹接听来电等。
温度传感器180J用于检测温度。在一些实施例中,手机100利用温度传感器180J检测的温度,执行温度处理策略。
触摸传感器180K,也称“触控面板”。触摸传感器180K可以设置于显示屏194,由触摸传感器180K与显示屏194组成触摸屏,也称“触控屏”。触摸传感器180K用于检测作用于其上或附近的触摸操作。触摸传感器可以将检测到的触摸操作传递给应用处理器,以确定触摸事件类型。可以通过显示屏194提供与触摸操作相关的视觉输出。在另一些实施例中,触摸传感器180K也可以设置于手机100的表面,与显示屏194所处的位置不同。
摄像头193用于捕获静态图像或视频。通常,摄像头193可以包括感光元件比如镜头组和图像传感器,其中,镜头组包括多个透镜(凸透镜或凹透镜),用于采集被拍摄物体反射的光信号,并将采集的光信号传递给图像传感器。图像传感器根据所述光信号生成被拍摄物体的图像。其中,光源196可以用于向光栅器件197发送光束,光束经由光栅器件197从手机射出,投射至被拍摄物体的表面。光栅器件197的光栅结构可以发生变化,进而导致照射到光栅器件的光束从光栅器件射出的角度发生变化,进而导致光束投射在被拍摄物体的表面的位置发生变化。
应理解,光源196发出的光束具有良好的单色性。光源196可以是激光发射器、红外光发射器、可见光发射器等。如果光源196是激光发射器,则发出的光束是激光,如果光源196是红外发射器,则发出的光束是红外光,如果光源196是可见光发射器,则发出的光束是可见光。当然,光源196还可以是发射结构光的光源,比如点阵投射器。
在本申请实施例中,摄像头193可以包括1-N个摄像头。如前述内容可知,为了获取拍摄物体的深度信息,摄像头需要捕捉手机上光源发射出的光束以得到深度信息,所以,如果光源是红外光发射器,那么对应的,摄像头可以是红外摄像头。
因此,如果手机100包括一个摄像头,即相机应用所使用的用于拍照和录像的摄像头和用于采集深度信息的摄像头是同一摄像头。如果手机100包括多个摄像头,相机应用所使用的用于拍照和录像的摄像头和用于采集深度信息的摄像头可以是不同的摄像头。比如,相机应用所使用的摄像头是可见光摄像头,用于采集被拍摄物体深度信息的摄像头是红外摄像头。
以两个摄像头为例,且以一个摄像头用于拍摄图像比如可见光摄像头,另一个摄像头用于采集深度比如红外摄像头为例。
假设显示屏194上显示主界面,主界面中包括各个应用程序的图像,比如相机应用的图像,用户在触摸屏上点击相机应用的图像,触摸传感器180K检测到用户的点击操作,将点击操作发送给处理器110,处理器110根据点击操作的位置,确定用户点击相机应用,处理器110启动相机应用,打开摄像头193(可见光摄像头以及红外摄像头,二者的启动顺序不限定),显示屏194显示相机应用的界面,例如取景界面。
在启动可见光摄像头之后,可见光摄像头采集被拍摄物体反射的可见光,并基于捕捉到的可见光信息生成被拍摄物体的2D图像,并发送给处理器110;
在启动红外摄像头之后,处理器110启动光源196向光栅器件197发送第一红外光束,第一红外光束经由光栅器件197投射至被拍摄物体的表面的第一区域,之后;第一区域反射第一红外光束,反射的第一红外光束被红外摄像头捕捉;处理器110基于第一红外光束从光源196发出到被红外摄像头接收的时间差确定被拍摄物体的表面的第一区域和手机的第一距离;
在第一红外光束从光栅器件射出之后,或者在第一红外光束被手机的红外摄像头接收之后,处理器110控制光栅器件内光栅结构发生变化;在光栅结构变化之后,光源196向光栅器件197发送第二红外光束,第二红外光束经由光栅器件197投射至被拍摄物体的表面的第二区域;之后,第二区域反射第二红外光束,反射的第二红外光束被红外摄像头捕捉;处理器基于第二红外光束从光源196发出到被红外摄像头接收的时间差确定被拍摄物体的表面的第二区域和手机的距离;
通过多次这样的光栅结构调整过程,使得光源196发射的红外光束投射到被拍摄物体表面的不同区域,实现对被拍摄物体表面的全部区域进行扫描的目的,进而获得被拍摄物体表面各个区域和手机的距离,产生被拍摄物体的深度信息。
最后,处理器110结合被拍摄物体的深度信息对被拍摄物体进行三维建模,生成被拍摄物体的三维模型;将被拍摄物体的三维模型和2D图像结合处理,生成被拍摄物体的三维图像,并将该三维图像在显示屏194上进行显示。
应理解,在本申请实施例中,处理器110和光栅器件197可以是直接相连,处理器110输出控制信号至光栅器件197,控制光栅器件197中的光栅的结构变化。例如,处理器110输出第一控制信号控制光栅器件197的光栅呈第一结构,或处理器110输出第二控制信号控制光栅器件197的光栅呈第二结构。
处理器110和光栅器件197也可以是通过其它器件间接相连,处理器110输出的控制信号经过其它器件转换后再输入到光栅器件197。例如,处理器110通过数模转换芯片、驱动芯片和光栅器件197连接,处理器110输出控制信号至数模转换芯片,数模转换芯片对处理器110输出控制信号进行数模转换后输出调制信号到驱动芯片,由驱动芯片驱动光栅器件197呈第一结构或第二结构。
另外,手机100可以通过音频模块170,扬声器170A,受话器170B,麦克风170C,耳机接口170D,以及应用处理器等实现音频功能。例如音乐播放,录音等。手机100可以接收按键190输入,产生与手机100的用户设置以及功能控制有关的键信号输入。手机100可以利用马达191产生振动提示(比如来电振动提示)。手机100中的指示器192可以是指示灯,可以用于指示充电状态,电量变化,也可以用于指示消息,未接来电,通知等。手机100中的SIM卡接口195用于连接SIM卡。SIM卡可以通过***SIM卡接口195,或从SIM卡接口195拔出,实现和手机100的接触和分离。
(2)以电子设备是深度相机为例,图5A示出了深度相机200的结构示意图。
深度相机200可以包括处理器210、光源221、光栅器件222、摄像头220以及存储器230等。
其中,光源221可以用于向光栅器件222发送光束,光束经由光栅器件222从深度相机200射出,投射至被拍摄物体的表面。光栅器件222可以设置在光源221的前方,比如设置在光源221发出的光束的光路上。摄像头220不能设置在光源221发出的光线的光路上,以保证光源221发出的光束能够到达光栅器件222并从光栅器件222射出。光栅器件222的光栅结构可以发生变化,进而导致照射到光栅器件222的光束从光栅器件222射出的角度发生变化,进而导致光束投射在被拍摄物体的表面的位置发生变化。
对于处理器210、光源221、光栅器件222、摄像头220以及存储器230等的具体实现方式可以分别参考上述手机中的处理器、光源、光栅器件、摄像头以及存储器的具体实现方式,此处不再赘述。
例如,摄像头220可以包括1-N个摄像头。如果深度相机200包括一个摄像头,则用于拍照和录像的摄像头和用于采集深度信息的摄像头是同一摄像头。如果深度相机200包括多个摄像头,则用于拍照和录像的摄像头和用于采集深度信息的摄像头可以是不同的摄像头。
以深度相机200只有一个摄像头为例,且以光源221发出的光为可见光,摄像头为可见光摄像头为例。
摄像头220启动之后,摄像头220采集被拍摄物体反射的可见光,并基于捕捉到的可见光信息生成被拍摄物体的2D图像,并发送给处理器210;
与此同时,处理器210启动光源221向光栅器件222发送第一光束,第一光束经由光栅器件222投射至被拍摄物体的表面的第一区域,之后;第一区域反射第一光束,反射的第一光束被摄像头220捕捉;处理器210基于第一光束从光源221发出到被摄像头220接收的时间差确定被拍摄物体的表面的第一区域和深度相机200的第一距离;
在第一光束从光栅器件射出之后,或者在第一光束被深度相机200的摄像头220接收之后,处理器210控制光栅器件内光栅结构发生变化;在光栅结构变化之后,光源221向光栅器件222发送第二光束,第二光束经由光栅器件222投射至被拍摄物体的表面的第二区域;之后,第二区域反射第二光束,反射的第二光束被摄像头220捕捉;处理器基于第二光束从光源221发出到被摄像头220接收的时间差确定被拍摄物体的表面的第二区域和深度相机200的距离;
通过多次这样的光栅结构调整过程,使得光源221发射的光束投射到被拍摄物体表面的不同区域,实现对被拍摄物体表面的全部区域进行扫描的目的,进而获得被拍摄物体表面各个区域和深度相机200的距离,产生被拍摄物体的深度信息。
最后,处理器210结合被拍摄物体的深度信息对被拍摄物体进行三维建模,生成被拍摄物体的三维模型;将被拍摄物体的三维模型和2D图像结合处理,生成被拍摄物体的三维图像。
可以理解的是,本申请实施例示意的结构并不构成对深度相机200的具体限定。在本申请另一些实施例中,深度相机200可以包括比图示更多或更少的部件,或者组合某些部件,或者拆分某些部件,或者不同的部件布置。图示的部件可以以硬件,软件,或软件和硬件的组合实现。
下面,以图5A所示的深度相机200为例,介绍本申请实施例提供的采集深度信息的两种示例。
示例1:深度相机200中的光栅器件222是LCoS空间光调制器。
请参见图5B,深度相机200包括:处理器210、摄像头220、存储器230、光源221以及LcoS空间光调制器222。
下面介绍LcoS空间光调制器222的结构。
请参见图6A,LCoS空间光调制器222包括电极层和液晶层,其中电极层包括相对设置的正电极层和负电极层,液晶层由大量液晶分子形成,液晶层设置在正、负电极层之间。在具体实施过程中,正、负电极层的相对位置除了可以是如图6A所示的正电极层在液晶层上层、负电极层在液晶层的下层外,正、负电极层的相对位置可以被调换,即正电极层在液晶层下层、负电极层在液晶层的上层,本申请实施例对此不做具体限制。
当在电极层施加有电压时,正、负电极层之间形成电场,液晶分子在电场的作用下发生偏转。例如图6B所示,用虚线框中示出的液晶分子区域施加有电压,虚线框外的液晶分子区域未施加有电压,加载有电压的电极层区域对应的液晶分子(即虚线框中的液晶分子)在电场的作用下发生了偏转。
不同的电场会使液晶分子的倾斜角度不同。如图6B所示,假设电压V1小于电压V2,则施加电压为V1的区域的电场强度E1小于施加电压为V2的区域的电场强度E2,则施加电压为V1的区域中的液晶分子的偏转角度小于施加电压为V2的区域中的液晶分子的偏转角度。其中,液晶分子的偏转角度可以是液晶分子与水平面的夹角;液晶分子的偏转角度不同会导致液晶分子的折射率不同。因此,图6B中,两个虚线框中的液晶分子的折射率不同,而且,两个虚线框中的液晶分子和虚线框外的液晶分子的折射率也不同。
应理解,图6A和图6B介绍了LCoS空间光调制器222的结构,下面介绍光束在LCoS空间光调制器222发生衍射的原理。
(1)液晶层被划分为连续的M个区域(M个区域的大小可以相同或不同),如图6C所示;
针对M个区域中的任一区域,以区域1为例,请参见图6D,进一步将区域1划分为n个大小相同的子区域。
(2)区域1中的不同子区域上加载不同大小的电压,使得不同子区域中的液晶分子发生不同程度的偏转,进而使得不同子区域的折射率不同,如图6D中的子区域1、2、3,分别加载V1、V2、V3大小的电压,使得区域1、2、3的折射率不同。
当光束投射到区域1后,由于区域1中的不同子区域的折射率不同,导致区域1中不同子区域的出射光束之间会产生相位差(或光程差)(因为不同子区域的折射率不同,所以不同子区域的相位调制量不同,相位调制量即出射光和入射光的相位差值,所以对于区域1上的每个子区域来说,入射光束的相位相同,但是由于相位调制量不同,所以经过不同子区域的出射光束的相位被调整的不同,即不同子区域的出射光束的相位不同),不同子区域发射出的光线相互叠加,这样的话,区域1可以产生一束衍射光线。
上述过程(2)中,描述了液晶层上的区域1产生衍射光线的过程,对于M个区域中的其它区域,也是类似的过程,不多赘述。M个区域对光的相位调制量随空间呈周期性变化(一个区域为一个周期),M个区域产生的衍射光线叠加在一起,形成衍射光束,从LCoS空间光调制器222射出。
由上面的描述可知,电压不同,液晶分子的偏转角度不同,所以折射率不同,所以对照射到不同子区域上光线的相位调制量不同,对于不同的子区域,照射到各个子区域的入射光线的相位相同,但是由于不同子区域的相位调制量不同,所以不同子区域的出射光线的相位不同。由此可知,每个子区域的电压和相位调制量相关,所以在本申请一些实施例中,为了使得光束在LCoS空间光调制器222中发生衍射,需要使得液晶层对光的相位调制量随空间呈周期性变化(液晶层各区域的入射光的相位都相同),也即需要使得液晶层的折射率随空间呈周期性变化,也即需要使得液晶层中的液晶分子的排布结构随空间呈周期性变化,也即需要使得液晶层上施加的电压随空间呈周期性变化。
示例性的,图6E为LCoS空间光调制器222中液晶层施加的电压和相位调制量的一种可能的对应关系的示意图。该对应关系可以是实验人员根据试验确定的,并存储在相机200中。按照图6E所示的对应关系控制不同子区域的电压,会使得不同子区域的出射光束的相位呈现一定的规律。应理解,图6E仅是一种举例,并不是对电压和相位调制量之间的对应关系的限定,本领域技术人员可以根据实际情况设置电压和相位调制量之间的关系,本申请实施例不作限定。
举例来说,结合图6D和图6E,子区域1的电压为图6E中的v1,那么子区域1的相位调制量是π/4;子区域2的电压为图6E中的V2,那么子区域2的相位调制量为π/2。
应理解,在一些实施例中,通过图6E所示的电压和相位调制量的对应关系,可以控制区域1中的子区域1~n的相位调制量呈现台阶式(或阶梯式)的分布规律,如图6F,示出每个子区域(每个阶梯)的出射光束的相位,其中单个台阶(阶梯)的高度为2π/n。相应的,子区域1~n上施加的电压也呈台阶式(或阶梯式)的分布规律。相应的,子区域1~n中液晶分子的折射率的值也呈台阶式(或阶梯式)的分布规律。
图6F示出LCoS空间光调制器222中的区域1对应的相位调制量的分布规律,对于M个区域中的其它区域,均以和区域1类似的方式。这样,整个液晶层中的每个区域内的所有子区域的出射光线的相位都可以呈现类似图6F所示的分布规律,如图6G,区域1、区域2、区域M对应的相位调制量的分布规律一致。
需要说明的是,在具体实施时,LCoS空间光调制器222可以是如图6D所示的反射式的衍射光栅外,还可以是透射式的衍射光栅,如图7所示,本申请实施例不做具体限制。在本文接下来的描述中,主要以LCoS空间光调制器222是反射式的衍射光栅为例进行详细说明。
应理解,LCoS空间光调制器222上的M*N个子区域的出射光线叠加,形成衍射光束从LCoS空间光调制器222射出。
需要说明的是,在上述过程中,介绍了LCoS空间光调制器222发生衍射的原理,在本申请实施例中,LCoS空间光调制器222的结构可以发生变化,导致结构变化前后的LCoS空间光调制器222产生的衍射光束的出射方向不同,这样的话,LCoS空间光调制器222产生的衍射光束可以照射到拍摄物体上的不同区域。
下面,介绍LCoS空间光调制器222结构变化,进而导致衍射光束的出射角度(下文简称衍射角度)发生变化的过程。
假设LCoS空间光调制器222中液晶层的总长度(或者入射光覆盖的区域的总长度)为L,设单个区域内(即一个周期)内划分N个子区域,每个子区域的长度为d,根据反射式闪耀光栅的理论,光束衍射角θ应满足:
当θ值较小时(比如0~10°),
由此可知,衍射角度(出射光束的出射角度)θ和N*d相关,在λ不变的情况下,通过控制参数N和/或d改变,可以改变LCoS空间光调制器222中液晶层的结构,进而可控制出射光束的出射角度θ的改变。
在本申请实施例中,相机200中可以存储θ和N*d的对应关系,该对应关系可以是实验人员可以根据实验确定的。
假设入射光束覆盖的区域总长度为L不变,一个子区域的长度d不变(比如为预设数量个像素的宽度),在已知λ和N的情况下,当N=4时,由M=L/Nd可知M的值比如M=8,根据θ和N*d的关系可知光束的衍射角度为θ=2.775°;当N=16时,由M=L/Nd可知M的值比如M=2,根据θ和N*d的关系可知光束的衍射角度为θ=0.694°。
在一些实施例中,深度相机200中可以存储每一组N和θ对应的相位调制量分布图,深度相机200基于该相位调制量分布图控制LCoS空间光调制器222中液晶层的结构,那么衍射光束的出射角度就是与该相位调制量分布图对应的θ。例如,参见图8、图9所示,图8为N=4、θ=2.775°时的相位调制量分布图,图9为N=16、θ=0.694°时的相位调制量分布图。
在本申请实施例中,深度相机200中可以存储比如图6E所示电压和相位调制量的对应关系。在一些可能的设计中,该对应关系可以通过图8和图9所示的相位调制量分布图来表示;若深度相机200要控制LCoS空间光调制器222的衍射光束的出射角度是2.775°,那么手机100可以根据图8所示的相位调制量分布图确定M、N的取值(相当于确定区域的数量,以及每个区域内的子区域的数量),然后确定每个区域中的子区域的相位调制量,然后根据图6E所示的对应关系,确定每个子区域的电压,然后在各个子区域上施加电压。
下面介绍深度相机200采集深度信息的过程。请参见图10,该过程包括如下步骤:
S1001、相机200上的光源221向LCoS空间光调制器222发射第一光束。
S1002、处理器210在LCoS空间光调制器222上的电极层施加第一电压使得液晶层的结构呈第一结构;第一光束在LCoS空间光调制器222上发生衍射,产生第一衍射光束,沿第一方向射出,第一衍射光束投射到被拍摄物体表面的第一区域。
举例来说,请参照图11,在t1时刻,相机200中的光源221发出的第一光束A1照射到LCoS空间光调制器222上,处理器210根据如图8所示的相位调制量分布图确定液晶层上各个区域对应的相位调制量;然后按照预先保存的相位调制量和需要施加的电压的对应关系(比如图6E所示的对应关系),确定各个区域需要施加的电压,并向各个区域施加相应的电压,所以LCoS空间光调制器222呈第一结构,第一光束A1在第一结构的LCoS空间光调制器222上发生衍射现象,形成的衍射光束A2以θ=2.775°的衍射角度从液晶层射出,投射到人脸上的第一区域上。
S1003、第一衍射光束在被拍摄物体上的第一区域上发生反射,反射回的第一反射光束被摄像头220接收。
继续参见图11,衍射光束A2在被拍摄物体的第一区域反射,反射回的光束A2’在t1’时刻被摄像头220接收;处理器210根据t1和t1’,确定被拍摄物体上的第一区域距离相机200的距离。
S1004、处理器210确定第一光束从光源221发出的时间和被摄像头220接收到的时间,根据二者之间的时间差计算第一区域到相机200的第一距离。
S1005、处理器210在LCoS空间光调制器222上的电极层施加第二电压使得液晶层被的结构呈现第二结构;第二光束在LCoS空间光调制器222上发生衍射,产生第二衍射光束,沿第二方向射出,第二衍射光束投射到被拍摄物体表面的第二区域;其中,第一方向和第二方向不同。
请继续参照图11,在t2时刻,相机200中的光源221发出的第二光束B1照射到LCoS空间光调制器222上,处理器210根据如图9所示的相位调制量分布图确定液晶层上各个区域对应的相位调制量;然后按照预先保存的相位调制量和需要施加的电压的大小的对应关系(如图6E所示的对应关系),确定各个区域需要施加的电压,并向各个区域施加对应的电压,所以LCoS空间光调制器222呈第二结构。第二光束B1在第二种结构的LCoS空间光调制器222上发生衍射现象,形成衍射光束B2并沿着θ=0.694°衍射角度从液晶层射出,投射到人脸上的第二区域上。
S1006、第二衍射光束在第二区域上发生反射,反射回的第二反射光束被摄像头220接收。
继续参见图11,衍射光束B2在被拍摄物体的第二区域发生反射,反射回的光束B2’在t2’时刻被摄像头220接收;处理器210根据t2’和t2,可以确定第二区域到相机200的距离。
S1007、处理器210确定第二光束从光源221发出的时间和被摄像头220接收到的时间,根据二者之间的时间差计算第二区域到相机200的第二距离。
可选的,上述过程只描述处理器210在LCoS空间光调制器222上施加的电压由第一电压改变为第二电压,实际上,处理器210还可以继续改变施加在LCoS空间光调制器222上的电压,以使得光束沿多个不同的方向出射,进而投射到被拍摄物体表面的不同区域,完成对被拍摄物体表面的扫描,进而获得被拍摄物体的深度信息。
处理器210通过多次执行上述步骤S1002-步骤S1007,多次改变施加在LCoS空间光调制器222电极层上的电压,可以使得光束沿多个不同的方向出射,进而投射到被拍摄物体表面的不同区域,完成对被拍摄物体表面的扫描,进而获得被拍摄物体的深度信息。
需要说明的是,上面的实施例中以图8和图9两个相位调制量分布图为例,在实际应用中,相机200中可以存储每个衍射角(比如0度到90度)对应的相位调制量分布图,相机200可以先从最小的衍射角对应的相位调制量分布图开始,即先控制LCoS按照最小的衍射角对应的相位调制量分布图调整结构,使得衍射角度为最小衍射角;然后,可以调整相位调制量分布,使得衍射角逐渐增大,直到衍射角达到最大值。当然,相机200也可以从最大衍射角对应的相位调制量分布图开始,然后逐渐到最小的衍射角对应的相位调制量分布图,本申请实施例对此顺序不作限定。
当然,在实际应用中,相机200还可以先确定一个衍射角度的大致角度范围,然后只以该角度范围内的衍射角度对应的相位调制量分布图控制LCoS,本申请实施例不作限定。
可选的,在本申请实施例中,光源221发出的光束可以是线状光束,也可以是点状光束或者面状光源,对此不做具体限制。在光源221发出的光束可以是线状光束时,深度相机200只需要控制光束在一个方向上移动(即一维扫描)即可完成对被拍摄物体表面的扫描;在光源发出的光束可以是点状光束时,深度相机200需要控制光束在两个方向上移动(即二维扫描)才能完成对被拍摄物体表面的扫描。
举例来说,图12(a)为线状光束的示意图,在这种情况下,深度相机200中LCoS空间光调制器222中只需要设置一个液晶面板,即可完成光束在y方向上移动即可完成对被拍摄物体表面的扫描。
图12(b)为点状光束的示意图,在这种情况下,深度相机200中LCoS空间光调制器222可以通过设置两个相互正交的液晶面板的方式实现二维扫描。比如图13所示,液晶面板1用于控制光束在x方向上移动,液晶面板2用于控制光束在y方向上移动。
通过以上描述可知,本申请实施例通过在深度相机中设置LCoS空间光调制器,通过调节LCoS空间光调制器施加在液晶层上的电压,使得LCoS空间光调制器中的液晶层的结构发生变化,进而使得衍射光束的衍射角度不同,所以衍射光束可以投射到被拍摄物体的不同区域,最终实现光束对被拍摄物体的扫描。可见,本申请实施例提供的深度相机在采集被拍摄物体的深度信息的过程中,光源的位置不需要移动,即不需要扫描装置带动光源的位置发生移动,因此不会产生振动,可以提高可靠性,保证成像质量,同时也不需要预留移动空间,因此能够减小深度相机的体积,更利于***集成,克服了现有技术中机械性的扫描装置固有的缺陷。
并且,本申请实施例基于采集被拍摄物体的深度信息的方案中,可以在保证被拍摄物体的不同区域都能被扫描到的同时,还可以保证接收到的反射光束具有较大的能量,进而获得信噪比较高的反射光信号,能够避免由于信噪比不佳,导致最终构建的三维模型精确性下降的问题。
示例2:深度相机200中的光栅器件222是声光偏转器。
下面介绍声光偏振器的结构。
请参见图14,声光偏转器222包括驱动电源222a、声光介质222b和压电换能器222c。其中,驱动电源222a用于驱动压电换能器222c产生超声波,超声波传入声光介质222b后,可以造成声光介质的局部压缩和伸长而产生弹性应变,该应变随时间和空间作周期性变化,使介质出现疏密相间的现象。当光束通过受到超声波扰动的介质时就会发生衍射现象,即声光效应。
下文以布拉格声光偏转器为例进行详细说明。
根据布拉格衍射的基本理论,衍射应满足布拉格条件:
θi=θd=θB
其中,θB为布拉格角,λ为入射光波长,n为介质折射率,λS为声波在介质中的波长,θi与θd分别为光的入射角与出射角。由于布拉格角一般较小,所以有sinθB≈θB。其中,θB=λ/(2nλS)=(λ/2nνS)fS,νS为声光介质222b中的声速,由布拉格原理可知,衍射光与入射光间的夹角θ,即光束的偏转角等于布拉格角的2倍:
由此可见,只要改变超声波的频率fS,就可以改变光束的偏转角θ,达到控制光束传播方向的目的。
通过以上描述可知,超声波的频率fS和衍射光束的衍射角度θ相关,在一些实施例中,深度相机200可以存储超声波的频率fS和衍射光束的衍射角度θ的第一对应关系,并存储超声波的频率fS和驱动电源222a的驱动电压的第二对应关系。因此,相机200确定衍射角度θ之后,可以根据该衍射角度θ和第一对应关系,确定与所述衍射角度θ对应的超声波的频率,然后根据该超声波的频率和第二对应关系,确定驱动电源222a的驱动电压。这样的话,相机200通过控制驱动电源222a的驱动电压,就可以实现控制衍射角的衍射角度θ的目的。
示例性的,相机200可以从最小的衍射角度开始直到最大的衍射角度,即,先控制声光调制器按照最小的衍射角对应的频率对应的电压来控制驱动电源222a,使得衍射角度为最小衍射角;然后,可以按照较大的衍射角对应的频率对应的电压来控制驱动电源222a,使得衍射角度增大,直到达到衍射角最大。当然,相机200也可以从最大衍射角开始,逐渐到最小的衍射角,本申请实施例对此顺序不作限定。
下面介绍深度相机200采集深度信息的过程。请参见图15,该过程包括如下步骤:
S1501、相机200上的光源221向声光偏转器222发射第一光束。
S1502、处理器210控制驱动电源222a向压电换能器222c输入第一电压,驱动压电换能器222c产生第一频率的超声波;该频率的超声波传入声光介质222b后,声光介质形成第一疏密结构;第一光束在第一疏密结构上发生衍射,产生第一衍射光束,沿第一方向射出,第一衍射光束投射到被拍摄物体表面的第一区域。
举例来说,参见图16,在t3时刻,相机200中的光源221发出的第一光束A3照射到声光偏转器222的声光介质222b。处理器210控制驱动电源222a向压电换能器222c输入V1大小的电压,以使压电换能器222c产生频率为fS的超声波,超声波传入声光介质222b后,造成声光介质222b的局部压缩和伸长而产生弹性形变,出现第一种疏密结构。第一光束A3经过这种疏密结构的声光介质222b发生衍射,形成衍射光束A4沿θ3的衍射角度从液晶层射出,投射到人脸上的第一区域。
S1503、第一衍射光束在第一区域上发生反射,反射回的第一反射光束被摄像头220接收。
S1504、处理器210确定第一光束从光源221发出的时间和摄像头220接收到第一反射光束的时间,根据二者之间的时间差计算第一区域到相机200的第一距离。
继续参见图16所示,第一衍射光束A4在第一区域发生反射,反射回的光束A4’在t3’时刻被摄像头220接收。处理器210根据t3’和t3,确定第一区域到相机200的距离。
S1505、处理器210控制驱动电源222a向压电换能器222c输入第二电压,驱动压电换能器222c产生第二频率的超声波;该频率的超声波传入声光介质222b后,声光介质形成第二疏密结构;第二光束在第二疏密结构上发生衍射,产生第二衍射光束,沿第二方向射出,第二衍射光束投射到被拍摄物体表面的第二区域;其中,第二方向和第一方向不同。
请继续参照图16,在t4时刻,相机200中的光源221发出的第二束光束B3进入声光偏转器222的声光介质222b,此时处理器210控制驱动电源222a向压电换能器222c输入V2大小的电压,以使压电换能器222c产生频率为fS+△fS的超声波,超声波传入声光介质222b后,造成声光介质的弹性形变程度发生改变,声光介质的疏密状况发生变化,形成第二种疏密结构,第二光束B3经过该第二种疏密结构的声光介质发生衍射,形成第二衍射光束B4沿θ4的衍射角度从液晶层射出,投射到人脸上的第二区域上。
S1506、第二衍射光束在第二区域上发生反射,反射回的第二反射光束被摄像头220接收。
S1507、处理器210确定第二光束从光源221发出的时间和摄像头220接收第二反射光束的时间,根据二者之间的时间差计算第二区域到相机200的第二距离。
请继续参见图16,第二衍射光束B4在第二区域发生反射,反射回的光束B4’在t4’时刻被摄像头220接收,相机200的处理器210根据t4’和t4,确定第二区域到相机200的距离。
可选的,上述过程只描述处理器210在声光偏转器222上施加的电压由第一电压改变为第二电压,实际上,处理器210还可以继续改变施加在声光偏转器222上的电压,以使得光束沿多个不同的方向出射,进而投射到被拍摄物体表面的不同区域,完成对被拍摄物体表面的扫描,进而获得被拍摄物体的深度信息。
与LCoS空间光调制器类似,在本实施例中,光源221发出的光束可以是线状光束,也可以是点状光束,本申请实施例不做具体限制。
其中,在光源发出的光束是线状光束时,深度相机200只需要控制光束在一个方向上移动(即一维扫描)即可完成对被拍摄物体表面的扫描,此时只需要一个声光偏转器222即可。
在光源发出的光束是点状光束时,深度相机200需要控制光束在两个方向上移动(即二维扫描)才能完成对被拍摄物体的扫描,此时通过两个相互正交的声光偏转器222级联的方式即可实现二维扫描。比如图17所示,声光偏转器1用于控制光束在x方向上移动,声光偏转器2用于控制光束在y方向上移动。
通过以上描述可知,本申请实施例通过在深度相机中设置声光偏转器222,通过调节超声波的频率,使得声光介质222b呈现不同的疏密结构,使得光束在通过声光介质222b时发生不同程度的衍射,进而使得光束从不同的衍射角度投射到被拍摄物体表面的不同区域,最终实现光束对被拍摄物体表面的扫描。可见,本申请实施例提供的深度相机在对被拍摄物体进行光束扫描的过程中,光源的位置不需要移动,即不需要通过扫描装置带动光源的位置发生移动,因此不会产生振动,可以提高可靠性,保证成像质量,同时也不需要预留移动空间,因此能够减小深度相机的体积,更利于***集成,克服了现有技术中机械性的扫描装置固有的缺陷。
并且,本申请实施例基于采集被拍摄物体的深度信息的方案中,可以在保证被拍摄物体的不同区域都能被扫描到的同时,还可以保证接收到的反射光束具有较大的能量,进而获得信噪比较高的反射光信号,能够避免由于信噪比不佳,导致最终构建的三维模型精确性下降的问题。
应理解,上述的示例1和示例2分别以光栅器件是LCoS和声光偏转器为例进行介绍的,在实际应用中,还可以采用其他光栅,只要能够实现通过调整光栅结构,使得照射的光栅上的光束的衍射角度不同即可。
基于同一技术构思,本申请实施例还提供一种电路***,电路***可以是一个或多个芯片,比如可以是片上***。在一些实施例中,电路***可以是图4所示的手机100、图5A所示的深度相机200或图5A所示的深度相机200中的一个部件。该电路***用于生成第一控制信号,所述第一控制信号用于控制光栅器件的光栅结构为第一结构;所述电路***还用于生成第二控制信号,所述第二控制信号用于控制所述光栅器件的光栅结构改变为第二结构。
本申请的各个实施方式可以任意进行组合,以实现不同的技术效果。
以上所述,以上实施例仅用以对本申请的技术方案进行了详细介绍,但以上实施例的说明只是用于帮助理解本申请实施例的方法,不应理解为对本申请实施例的限制。本技术领域的技术人员可轻易想到的变化或替换,都应涵盖在本申请实施例的保护范围之内。
上述实施例中所用,根据上下文,术语“当…时”可以被解释为意思是“如果…”或“在…后”或“响应于确定…”或“响应于检测到…”。类似地,根据上下文,短语“在确定…时”或“如果检测到(所陈述的条件或事件)”可以被解释为意思是“如果确定…”或“响应于确定…”或“在检测到(所陈述的条件或事件)时”或“响应于检测到(所陈述的条件或事件)”。
在上述实施例中,可以全部或部分地通过软件、硬件、固件或者其任意组合来实现。当使用软件实现时,可以全部或部分地以计算机程序产品的形式实现。所述计算机程序产品包括一个或多个计算机指令。在计算机上加载和执行所述计算机程序指令时,全部或部分地产生按照本申请实施例所述的流程或功能。所述计算机可以是通用计算机、专用计算机、计算机网络、或者其他可编程装置。所述计算机指令可以存储在计算机可读存储介质中,或者从一个计算机可读存储介质向另一个计算机可读存储介质传输,例如,所述计算机指令可以从一个网站站点、计算机、服务器或数据中心通过有线(例如同轴电缆、光纤、数字用户线)或无线(例如红外、无线、微波等)方式向另一个网站站点、计算机、服务器或数据中心进行传输。所述计算机可读存储介质可以是计算机能够存取的任何可用介质或者是包含一个或多个可用介质集成的服务器、数据中心等数据存储设备。所述可用介质可以是磁性介质,(例如,软盘、硬盘、磁带)、光介质(例如DVD)、或者半导体介质(例如固态硬盘)等。
为了解释的目的,前面的描述是通过参考具体实施例来进行描述的。然而,上面的示例性的讨论并非意图是详尽的,也并非意图要将本申请限制到所公开的精确形式。根据以上教导内容,很多修改形式和变型形式都是可能的。选择和描述实施例是为了充分阐明本申请的原理及其实际应用,以由此使得本领域的其他技术人员能够充分利用具有适合于所构想的特定用途的各种修改的本申请以及各种实施例。

Claims (14)

1.一种物体深度信息的确定方法,其特征在于,应用于电子设备,所述电子设备包括光源、光栅器件以及至少一个摄像头,所述方法包括:
控制所述光栅器件的光栅结构为第一结构,所述光源产生的光束在所述光栅器件上产生第一衍射光束,所述第一衍射光束的衍射角为第一角度,所述第一衍射光束照射到待拍摄物体上的第一区域;其中,所述第一区域反射的第一反射光束被所述摄像头捕捉;
调整所述光栅器件的光栅结构改变为第二结构,使得所述光束在所述光栅器件上产生第二衍射光束,所述第二衍射光束的衍射角为第二角度,所述第二衍射光束照射到所述待拍摄物体上的第二区域;其中,所述第二区域反射的第二反射光束被所述摄像头捕捉;
根据所述第一反射光束和所述第二反射光束,确定所述待拍摄物体的深度信息。
2.如权利要求1所述的方法,其特征在于,所述光栅器件为硅基液晶LCoS空间光调制器;所述LCoS空间光调制器包括液晶层、第一电极层、第二电极层,所述液晶层位于所述第一电极层和所述第二电极层之间;
控制所述光栅器件的光栅结构为第一结构,包括:
在所述第一电极层和所述第二电极层之间施加第一电压,使得所述液晶层呈第一结构;所述第一结构包括:所述液晶层的折射率在第一方向上以第一周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈N级阶梯式递增或递减,所述第一方向平行于所述液晶层所在平面,N为大于等于2的整数;
调整所述光栅器件的光栅结构改变为第二结构,包括:
在所述第一电极层和所述第二电极层之间施加第二电压,使得所述液晶层呈第二结构;所述第二结构包括:所述液晶层的折射率在所述第一方向上以第二周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈Q级阶梯式递增或递减,Q为大于等于2的整数,Q≠N。
3.如权利要求2所述的方法,其特征在于,控制所述光栅器件的光栅结构为第一结构,包括:
根据衍射角和相位调制量之间的第一对应关系,确定与所述第一角度对应的第一相位调制量;其中,所述第一相位调整量在所述第一方向上以所述第一周期为周期呈周期性变化,且每个周期内的相位调制量在所述第一方向上呈N级阶梯式递增或递减;
根据相位调制量和电压之间的第二对应关系,确定与所述第一相位调制量对应的第一电压;其中,所述第一电压在所述第一方向上以所述第一周期为周期呈周期性变化,且每个周期内的电压在所述第一方向上呈N级阶梯式递增或递减;
在所述第一电极层和所述第二电极层之间施加所述第一电压,使得所述液晶层的折射率在所述第一方向上以所述第一周期为周期呈周期性变化。
4.如权利要求3所述的方法,其特征在于,调整所述光栅器件的光栅结构改变为第二结构,包括:
根据衍射角和相位调制量之间的第一对应关系,确定与所述第二角度对应的第二相位调制量;其中,所述第二相位调制量在所述第一方向上以所述第二周期为周期呈周期性变化,且每个周期内的相位调制量在所述第一方向上呈Q级阶梯式递增或递减;
根据相位调制量和电压之间的第二对应关系,确定与所述第二相位调制量对应的第二电压;其中,所述第二电压在所述第一方向上以所述第二周期为周期呈周期性变化,且每个周期内的电压在所述第一方向上呈Q级阶梯式递增或递减;
在所述第一电极层和所述第二电极层之间施加所述第二电压,使得所述液晶层的折射率在所述第一方向上以所述第二周期为周期呈周期性变化。
5.如权利要求1所述的方法,其特征在于,所述光栅器件为声光偏转器;所述声光偏转器包括驱动电源、声光介质以及压电换能器;
控制所述光栅器件的光栅结构为第一结构,包括:
控制所述驱动电源向所述压电换能器输入第三电压,使得所述压电换能器产生第一频率的超声波,所述第一频率的超声波传入所述声光介质后,所述声光介质形成第一结构;
调整所述光栅器件的光栅结构改变为第二结构,包括:
控制所述驱动电压向所述压电换能器输入第四电压,使得所述压电换能器产生第二频率的超声波,所述第二频率的超声波传入所述声光介质后,所述声光介质形成第二结构。
6.如权利要求5所述的方法,其特征在于,在控制所述驱动电源向所述压电换能器输入第三电压之前,所述方法还包括:
根据衍射角和超声波的频率之间的第三对应关系,确定与所述第一角度对应的超声波的第一频率;
根据超声波的频率和驱动电源的电压之间的第四对应关系,确定与所述第一频率对应的第三电压。
7.如权利要求6所述的方法,其特征在于,在控制所述驱动电压向所述压电换能器输入第四电压之前,所述方法还包括:
根据衍射角和超声波的频率之间的第三对应关系,确定与所述第二角度对应的超声波的第二频率;
根据超声波的频率和驱动电源的电压之间的第四对应关系,确定与所述第二频率对应的第四电压。
8.一种电子设备,其特征在于,所述电子设备包括:至少一个处理器、光源、光栅器件以及至少一个摄像头;
所述光源,用于产生光束,并将所述光束投射到所述光栅器件上;
所述至少一个处理器,用于控制所述光栅器件的光栅结构为第一结构;
其中,当所述光栅器件为第一结构时,所述光束在所述光栅器件上产生第一衍射光束,所述第一衍射光束的衍射角为第一角度,所述第一衍射光束照射到待拍摄物体上的第一区域;
所述至少一个摄像头,用于捕捉所述第一区域反射的第一反射光束;
所述至少一个处理器,还用于调整所述光栅器件的光栅结构改变为第二结构;
其中,所述光栅器件为第二结构时,所述光束在所述光栅器件上产生第二衍射光束,所述第二衍射光束的衍射角为第二角度,所述第二衍射光束照射到所述待拍摄物体上的第二区域;
所述至少一个摄像头,还用于捕捉所述第二区域反射的第二反射光束;
所述至少一个处理器,还用于根据所述第一反射光束和所述第二反射光束,确定所述待拍摄物体的深度信息。
9.如权利要求8所述的电子设备,其特征在于,所述光栅器件为LCoS空间光调制器;所述LCoS空间光调制器包括液晶层;
所述光栅器件的光栅结构为第一结构,包括:所述液晶层的折射率在第一方向上以第一周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈N级阶梯式递增或递减,所述第一方向平行于所述液晶层所在平面,N为大于等于2的整数;
所述光栅器件的光栅结构为第二结构,包括:所述液晶层的折射率在所述第一方向上以第二周期为周期呈周期性变化;其中,每个周期内的折射率在所述第一方向上呈Q级阶梯式递增或递减,Q为大于等于2的整数,Q≠N。
10.如权利要求8所述的电子设备,其特征在于,所述光栅器件为声光偏转器;所述声光偏转器包括驱动电源、声光介质以及压电换能器;
所述驱动电源用于:向所述压电换能器输入第三电压;
所述压电换能器用于:在所述第三电压的驱动下产生第一频率的超声波;所述第一频率的超声波传入所述声光介质后,所述声光介质形成第一结构;
所述驱动电源还用于:控制所述驱动电源向所述压电换能器输入第四电压;
所述压电换能器还用于:在所述第四电压的驱动下产生第二频率的超声波;所述第二频率的超声波传入所述声光介质后,所述声光介质形成第二结构。
11.一种电路***,其特征在于,
所述电路***用于生成第一控制信号,所述第一控制信号用于控制光栅器件的光栅结构为第一结构;
所述电路***还用于生成第二控制信号,所述第二控制信号用于控制所述光栅器件的光栅结构改变为第二结构。
12.一种电子设备,其特征在于,包括光源、光栅器件、至少一个摄像头,至少一个处理器和存储器;
所述存储器用于存储一个或多个计算机程序;当所述存储器存储的一个或多个计算机程序被所述至少一个处理器执行时,使得所述电子设备能够实现如权利要求1-7任一所述的方法。
13.一种计算机可读存储介质,其特征在于,所述计算机可读存储介质包括计算机程序,当计算机程序在电子设备上运行时,使得所述电子设备执行如权利要求1-7任一所述的方法。
14.一种程序产品,其特征在于,包括指令,当所述指令在计算机上运行时,使得所述计算机执行如权利要求1-7任一项所述的方法。
CN201910561182.2A 2019-03-26 2019-06-26 一种物体深度信息的确定方法、电子设备和电路*** Pending CN110430415A (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
PCT/CN2020/079806 WO2020192503A1 (zh) 2019-03-26 2020-03-18 一种物体深度信息的确定方法、电子设备和电路***

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CN201910234518 2019-03-26
CN2019102345184 2019-03-26

Publications (1)

Publication Number Publication Date
CN110430415A true CN110430415A (zh) 2019-11-08

Family

ID=68409588

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201910561182.2A Pending CN110430415A (zh) 2019-03-26 2019-06-26 一种物体深度信息的确定方法、电子设备和电路***

Country Status (2)

Country Link
CN (1) CN110430415A (zh)
WO (1) WO2020192503A1 (zh)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020192503A1 (zh) * 2019-03-26 2020-10-01 华为技术有限公司 一种物体深度信息的确定方法、电子设备和电路***
CN113075641A (zh) * 2020-01-03 2021-07-06 华为技术有限公司 一种tof深度传感模组和图像生成方法
CN114402253A (zh) * 2019-11-21 2022-04-26 华为技术有限公司 使用单个调制层进行衍射深度神经网络(d2nn)处理

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1180176A (zh) * 1996-09-06 1998-04-29 富士写真菲林株式会社 声光元件、光偏转器、光束扫描装置及图象记录装置
CN1599927A (zh) * 2001-12-07 2005-03-23 研究投资网络公司 用于读取光子衍射存储器的固态微型光机电***
CN104597572A (zh) * 2015-01-16 2015-05-06 华中科技大学 一种基于硅基液晶的波长选择开关
CN207937745U (zh) * 2018-02-08 2018-10-02 宁波舜宇光电信息有限公司 结构光投射装置、深度相机
CN109425994A (zh) * 2017-08-31 2019-03-05 脸谱科技有限责任公司 深度相机组件、头戴式显示器和用于深度感测的方法

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN103246072A (zh) * 2013-05-15 2013-08-14 福州大学 一种2d/3d转换的动态光栅
TWI585436B (zh) * 2016-05-19 2017-06-01 緯創資通股份有限公司 深度資訊量測方法及裝置
EP3445049B1 (en) * 2017-08-14 2021-01-27 Facebook Technologies, LLC Camera assembly with programmable diffractive optical element for depth sensing
CN108540791B (zh) * 2018-04-25 2020-01-24 京东方科技集团股份有限公司 一种双视显示方法和装置
CN109327653B (zh) * 2018-10-31 2021-01-26 Oppo广东移动通信有限公司 图像获取方法、图像获取装置、结构光组件及电子装置
CN110430415A (zh) * 2019-03-26 2019-11-08 华为技术有限公司 一种物体深度信息的确定方法、电子设备和电路***

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN1180176A (zh) * 1996-09-06 1998-04-29 富士写真菲林株式会社 声光元件、光偏转器、光束扫描装置及图象记录装置
CN1599927A (zh) * 2001-12-07 2005-03-23 研究投资网络公司 用于读取光子衍射存储器的固态微型光机电***
CN104597572A (zh) * 2015-01-16 2015-05-06 华中科技大学 一种基于硅基液晶的波长选择开关
CN109425994A (zh) * 2017-08-31 2019-03-05 脸谱科技有限责任公司 深度相机组件、头戴式显示器和用于深度感测的方法
CN207937745U (zh) * 2018-02-08 2018-10-02 宁波舜宇光电信息有限公司 结构光投射装置、深度相机

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
张中华等: "《光电子学原理与技术》", 1 October 2009, 北京航空航天大学出版社 *

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020192503A1 (zh) * 2019-03-26 2020-10-01 华为技术有限公司 一种物体深度信息的确定方法、电子设备和电路***
CN114402253A (zh) * 2019-11-21 2022-04-26 华为技术有限公司 使用单个调制层进行衍射深度神经网络(d2nn)处理
CN113075641A (zh) * 2020-01-03 2021-07-06 华为技术有限公司 一种tof深度传感模组和图像生成方法
WO2021136105A1 (zh) * 2020-01-03 2021-07-08 华为技术有限公司 一种tof深度传感模组和图像生成方法

Also Published As

Publication number Publication date
WO2020192503A1 (zh) 2020-10-01

Similar Documents

Publication Publication Date Title
CN110430415A (zh) 一种物体深度信息的确定方法、电子设备和电路***
US10897607B2 (en) Mobile terminal and method for controlling the same
CN106030335B (zh) 使用微功率脉冲雷达确定移动显示位置和取向
KR102290892B1 (ko) 이동단말기 및 그것의 제어방법
KR102401009B1 (ko) 이동 단말기
US11120244B2 (en) Method for controlling a digital device
KR101961666B1 (ko) 이동 단말기 및 그 제어방법
KR102403015B1 (ko) 지문 인식 센서를 포함하는 전자 장치
KR102522415B1 (ko) 전자 장치의 객체 인증 장치 및 방법
CN109863508B (zh) Lcd屏下指纹识别模组、lcd装置和终端设备
KR101892013B1 (ko) 이동 단말기
US11126293B2 (en) Electronic device having light absorbing member arranged between display panel and ultrasonic sensor
KR20160149068A (ko) 이동단말기 및 그 제어방법
KR20170005649A (ko) 3차원 깊이 카메라 모듈 및 이를 구비하는 이동 단말기
CN101971123A (zh) 具有可切换漫射体的交互式表面计算机
CN106662640A (zh) 智能照明飞行时间***和方法
CN109325460B (zh) 一种人脸识别方法、光心标定方法和终端
US20220179214A1 (en) Foveated display apparatus
US20200065542A1 (en) Electronic device including sensor placed under display
CN106127134A (zh) 光学装置、电子设备及其控制方法
WO2017013860A1 (ja) 表示装置および表示システム
CN111212074A (zh) 基于区块链的资格认定方法、装置、设备及存储介质
KR20170026002A (ko) 3차원 깊이 카메라 모듈 및 이를 구비하는 이동 단말기
CN209708007U (zh) 电子设备
CN209707870U (zh) 电子设备及其背光单元和感测模组

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination
RJ01 Rejection of invention patent application after publication

Application publication date: 20191108

RJ01 Rejection of invention patent application after publication