CN108271012A - 一种深度信息的获取方法、装置以及移动终端 - Google Patents

Abstract

本发明实施例提供了一种深度信息的获取方法、装置以及移动终端，应用于移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；其中所述方法包括：采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；基于所述红外电信号进行景深测量，获得深度信息。本发明实施例可以提高了信息采集的效率，丰富了摄像头模组的性能，减少移动终端中该摄像头模组的开孔，节省耗材。

Description

一种深度信息的获取方法、装置以及移动终端

技术领域

本发明实施例涉及拍摄处理技术领域，尤其涉及一种深度信息的获取方法、装置以及移动终端。

背景技术

传统的图像成像仪器采集到的信号只是空间域上的二维信息，三维场景中的深度信息没有被采集到。随着当今科学技术的发展和人们生活水平的提高，传统的二维信息已经不能满足人们实际生活的需求。如何能够从场景中快速、高效的获取三维场景中的深度信息已经成为当前研究的热点。

从实际场景的三维信息中获取场景深度信息的过程叫做深度获取。在现有技术中，可以采用深度摄像头进行深度测量。该深度摄像头为红外摄像头，用于感受红外光进行景深测量，但该深度摄像头不能感应RGB信息，如需要采集图像的RGB信息，则需要采用RGB摄像头。

发明内容

本发明实施例提供一种深度信息的获取方法，以解决现有的图像信息获取效率较低的问题。

为了解决上述技术问题，本发明是这样实现的：一种深度信息的获取方法，应用于移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；

所述方法包括：

采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；

基于所述红外电信号进行景深测量，获得深度信息。

第一方面，本发明实施例还提供了一种深度信息的获取装置，应用于移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；

所述装置包括：

图像采集模块，用于采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；

景深测量模块，用于基于所述红外电信号进行景深测量，获得深度信息。

第二方面，本发明实施例提供了一种移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量。

第三方面，本发明实施例提供了一种移动终端，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现上述的深度信息的获取方法的步骤。

第四方面，本发明实施例提供了一种计算机可读存储介质，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现上述的深度信息的获取方法的步骤。

在本发明实施例中，图像传感器的像素阵列包括RGB分量以及红外分量，使得图像传感器在采集RGB信息的同时可以采集红外电信号，以进行深度测量。本发明实施例采用一个摄像头模组即可完成RGB信息的采集以及红外信号的采集，相比于两个摄像头分别采集上述信息，提高了信息采集的效率，丰富了摄像头模组的性能。

另外，通过本发明实施例的上述设计，可以减少移动终端的一个摄像头模组，进而减少移动终端中该摄像头模组的开孔，节省耗材。

附图说明

图1是本发明实施例的一种深度信息的获取方法实施例的步骤流程图；

图2是本发明实施例的一种深度信息的获取装置实施例的结构框图；

图3是本发明实施例的一种移动终端的硬件结构示意图。

具体实施方式

下面将结合本发明实施例中的附图，对本发明实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例是本发明一部分实施例，而不是全部的实施例。基于本发明中的实施例，本领域普通技术人员在没有作出创造性劳动前提下所获得的所有其他实施例，都属于本发明保护的范围。

参照图1，示出了本发明实施例的一种深度信息的获取方法实施例的步骤流程图。本发明实施例可以应用于包含摄像头模组的移动终端中，该摄像头模组可以包括图像传感器，其中，图像传感器是组成数字摄像头的重要组成部分。根据元件的不同，上述图像传感器可分为CCD(Charge Coupled Device，电荷耦合元件)和CMOS(Complementary Metal-Oxide Semiconductor，金属氧化物半导体元件)两大类。

本发明实施例具体可以包括如下步骤：

步骤101，采用所述图像传感器采集图像数据，所述图像数据包括红外电信号；

在本发明实施例中，图像传感器能够接收红外电信号，则在图像传感器采集的图像数据中可以包括该红外电信号。为了实现图像传感器能够接收红外电信号，在本发明实施例中，图像传感器对应的像素阵列中可以包括RGB分量以及红外分量。

具体的，在一般情况下，如表1所示，每个像素点可以包含RGBG四个分量：

R	G
		G	B

表1

则一个包含多个像素点的像素阵列可以如表2所示：

表2

本发明实施例可以将如表2所示的像素阵列中的部分G分量替换为IR(InfraredRadiation，红外)分量。

在一种实施方式中，在像素阵列中，一个IR分量的区域大小可以大于或等于一个G分量的区域。在这种情况下，IR分量的设定规则至少可以包括如下方式，可以择一进行设定：

方式一：在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的其中一个G分量。

例如，可以设定指定数量为4。则在4个像素点中，可以用一个IR分量取代其中一个G分量，得到的该4个像素点的像素阵列可以如表3所示：

R	G	R	G
				G	B	IR	B
R	G	R	G
				G	B	G	B

表3

方式二：在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的至少两个G分量。

在具体实现中，由于用于获取距离信息的IR分量对像素点的面积要求较高，而其它分量对像素点的数量要求较高。因此，可以设定IR分量的面积大于其它分量，例如，如表4所述的像素阵列中，可以用一个IR分量替换2个G分量，或者，用一个IR分量替换4个G分量。

表4

在另一种实施方式中，在像素阵列中，一个IR分量的区域可以小于一个G分量的区域。在这种情况下，IR分量的设定规则至少可以包括如下方式：在指定数量的像素点的RGB分量中，采用一个红外分量的区域替换其中一个G分量的部分区域。

例如，可以设定指定数量为4。则在4个像素点中，可以用一个IR分量取代其中一个G分量的二分之一，得到的该4个像素点的像素阵列可以如表5所示：

表5

需要说明的是，本发明实施例并不限于上述在像素阵列中划分RGB区域以及IR区域的设定方式，本领域技术人员根据实际情况进行其他划分均是可以的。

步骤102，基于所述红外电信号进行景深测量，获得深度信息。

通过RGB传感器中的IR分量接收到红外电信号以后，可以根据该红外电信号来进行景深测量，获得深度信息。

在本发明实施例的一种优选实施例中，该红外电信号可以包括结构光中的红外电信号。其中，激光从激光器发出,经过柱面透镜后汇聚成宽度很窄的光带称为结构光，该光平面以一定角度入射在工件上，在工件上产生反射和散射。结构光，即将光线结构化，包括点结构光、线结构光以及简单的面结构光，通过投射器投射到被测物体表面的主动结构信息，如激光条纹、格雷码、正弦条纹等；然后，通过单个或多个相机拍摄被测表面即得结构光图像；最后，基于三角测量原理经过图像三维解析计算从而实现三维重建。

在本实施例的具体实现中，结构光技术的基本原理是：在激光器外放置一个光栅，激光通过光栅进行投射成像时会发生折射，从而使得激光最终在物体表面上的落点产生位移。当物体距离激光投射器比较近的时候，折射而产生的位移就较小，当物体距离较远时，折射而产生的位移也就会相应的变大。这时使用一个摄像头来检测采集投射到物体表面上的图样，通过图样的位移变化，就能用算法计算出物体的位置和深度信息。

在本发明实施例中，图像传感器的像素阵列包括RGB分量以及红外分量，使得图像传感器在采集RGB信息的同时可以采集红外电信号，以进行深度测量，获得深度信息。本发明实施例采用一个摄像头模组即可完成RGB信息的采集以及红外信号的采集，相比于两个摄像头分别采集上述信息，提高了信息采集的效率，丰富了摄像头模组的性能。

另外，通过本发明实施例的上述设计，可以减少移动终端的一个摄像头模组，进而减少移动终端中该摄像头模组的开孔，节省耗材。

需要说明的是，对于方法实施例，为了简单描述，故将其都表述为一系列的动作组合，但是本领域技术人员应该知悉，本发明实施例并不受所描述的动作顺序的限制，因为依据本发明实施例，某些步骤可以采用其他顺序或者同时进行。其次，本领域技术人员也应该知悉，说明书中所描述的实施例均属于优选实施例，所涉及的动作并不一定是本发明实施例所必须的。

参照图2，示出了本发明实施例的一种深度信息的获取装置实施例的结构框图，应用于移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；

本发明实施例具体可以包括如下模块：

图像采集模块201，用于采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；

景深测量模块202，用于基于所述红外电信号进行景深测量，获得深度信息。

在本发明实施例的一种优选实施例中，一个所述红外分量的区域大于或等于一个G分量的区域。

在本发明实施例的一种优选实施例中，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的其中一个G分量；

或者，

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的至少两个G分量。

在本发明实施例的一种优选实施例中，一个所述红外分量的区域小于一个G分量的区域。

在本发明实施例的一种优选实施例中，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量的区域替换其中一个G分量的部分区域。

在本发明实施例的一种优选实施例中，所述红外电信号包括结构光中的红外电信号。

对于装置实施例而言，由于其与方法实施例基本相似，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。

本发明实施例还提供了一种移动终端，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量。

本发明实施例提供的移动终端能够实现图1方法实施例中移动终端实现的各个过程，为避免重复，这里不再赘述。该移动终端图像传感器的像素阵列包括RGB分量以及红外分量，使得图像传感器在采集RGB信息的同时可以采集红外电信号，以进行深度测量，获得深度信息。本发明实施例采用一个摄像头模组即可完成RGB信息的采集以及红外信号的采集，相比于两个摄像头分别采集上述信息，提高了信息采集的效率，丰富了摄像头模组的性能。另外，通过本发明实施例的上述设计，可以减少移动终端的一个摄像头模组，进而减少移动终端中该摄像头模组的开孔，节省耗材，美化移动终端的外观。

图3为实现本发明各个实施例的一种移动终端的硬件结构示意图，该移动终端30包括但不限于：射频单元31、网络模块32、音频输出单元33、输入单元34、传感器35、显示单元36、用户输入单元37、接口单元33、存储器39、处理器310、以及电源311等部件。本领域技术人员可以理解，图3中示出的移动终端结构并不构成对移动终端的限定，移动终端可以包括比图示更多或更少的部件，或者组合某些部件，或者不同的部件布置。在本发明实施例中，移动终端包括但不限于手机、平板电脑、笔记本电脑、掌上电脑、车载终端、可穿戴设备、以及计步器等。

其中，处理器310，用于采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；基于所述红外电信号进行景深测量，获得深度信息。

本发明实施例的移动终端中的图像传感器的像素阵列包括RGB分量以及红外分量，使得图像传感器在采集RGB信息的同时可以采集红外电信号，以进行深度测量，获得深度信息。本发明实施例采用一个摄像头模组即可完成RGB信息的采集以及红外信号的采集，相比于两个摄像头分别采集上述信息，提高了信息采集的效率，丰富了摄像头模组的性能。另外，通过本发明实施例的上述设计，可以减少移动终端的一个摄像头模组，进而减少移动终端中该摄像头模组的开孔，节省耗材。

应理解的是，本发明实施例中，射频单元31可用于收发信息或通话过程中，信号的接收和发送，具体的，将来自基站的下行数据接收后，给处理器310处理；另外，将上行的数据发送给基站。通常，射频单元31包括但不限于天线、至少一个放大器、收发信机、耦合器、低噪声放大器、双工器等。此外，射频单元31还可以通过无线通信***与网络和其他设备通信。

移动终端通过网络模块32为用户提供了无线的宽带互联网访问，如帮助用户收发电子邮件、浏览网页和访问流式媒体等。

音频输出单元33可以将射频单元31或网络模块32接收的或者在存储器39中存储的音频数据转换成音频信号并且输出为声音。而且，音频输出单元33还可以提供与移动终端30执行的特定功能相关的音频输出(例如，呼叫信号接收声音、消息接收声音等等)。音频输出单元33包括扬声器、蜂鸣器以及受话器等。

输入单元34用于接收音频或视频信号。输入单元34可以包括图形处理器(Graphics Processing Unit，GPU)341和麦克风342，图形处理器341对在视频捕获模式或图像捕获模式中由图像捕获装置(如摄像头)获得的静态图片或视频的图像数据进行处理。处理后的图像帧可以显示在显示单元36上。经图形处理器341处理后的图像帧可以存储在存储器39(或其它存储介质)中或者经由射频单元31或网络模块32进行发送。麦克风342可以接收声音，并且能够将这样的声音处理为音频数据。处理后的音频数据可以在电话通话模式的情况下转换为可经由射频单元31发送到移动通信基站的格式输出。

移动终端30还包括至少一种传感器35，比如光传感器、运动传感器以及其他传感器。具体地，光传感器包括环境光传感器及接近传感器，其中，环境光传感器可根据环境光线的明暗来调节显示面板361的亮度，接近传感器可在移动终端30移动到耳边时，关闭显示面板361和/或背光。作为运动传感器的一种，加速计传感器可检测各个方向上(一般为三轴)加速度的大小，静止时可检测出重力的大小及方向，可用于识别移动终端姿态(比如横竖屏切换、相关游戏、磁力计姿态校准)、振动识别相关功能(比如计步器、敲击)等；传感器35还可以包括指纹传感器、压力传感器、虹膜传感器、分子传感器、陀螺仪、气压计、湿度计、温度计、红外线传感器等，在此不再赘述。

显示单元36用于显示由用户输入的信息或提供给用户的信息。显示单元36可包括显示面板361，可以采用液晶显示器(Liquid Crystal Display，LCD)、有机发光二极管(Organic Light-Emitting Diode,OLED)等形式来配置显示面板361。

用户输入单元37可用于接收输入的数字或字符信息，以及产生与移动终端的用户设置以及功能控制有关的键信号输入。具体地，用户输入单元37包括触控面板371以及其他输入设备372。触控面板371，也称为触摸屏，可收集用户在其上或附近的触摸操作(比如用户使用手指、触笔等任何适合的物体或附件在触控面板371上或在触控面板371附近的操作)。触控面板371可包括触摸检测装置和触摸控制器两个部分。其中，触摸检测装置检测用户的触摸方位，并检测触摸操作带来的信号，将信号传送给触摸控制器；触摸控制器从触摸检测装置上接收触摸信息，并将它转换成触点坐标，再送给处理器310，接收处理器310发来的命令并加以执行。此外，可以采用电阻式、电容式、红外线以及表面声波等多种类型实现触控面板371。除了触控面板371，用户输入单元37还可以包括其他输入设备372。具体地，其他输入设备372可以包括但不限于物理键盘、功能键(比如音量控制按键、开关按键等)、轨迹球、鼠标、操作杆，在此不再赘述。

进一步的，触控面板371可覆盖在显示面板361上，当触控面板371检测到在其上或附近的触摸操作后，传送给处理器310以确定触摸事件的类型，随后处理器310根据触摸事件的类型在显示面板361上提供相应的视觉输出。虽然在图3中，触控面板371与显示面板361是作为两个独立的部件来实现移动终端的输入和输出功能，但是在某些实施例中，可以将触控面板371与显示面板361集成而实现移动终端的输入和输出功能，具体此处不做限定。

接口单元38为外部装置与移动终端30连接的接口。例如，外部装置可以包括有线或无线头戴式耳机端口、外部电源(或电池充电器)端口、有线或无线数据端口、存储卡端口、用于连接具有识别模块的装置的端口、音频输入/输出(I/O)端口、视频I/O端口、耳机端口等等。接口单元38可以用于接收来自外部装置的输入(例如，数据信息、电力等等)并且将接收到的输入传输到移动终端30内的一个或多个元件或者可以用于在移动终端30和外部装置之间传输数据。

存储器39可用于存储软件程序以及各种数据。存储器39可主要包括存储程序区和存储数据区，其中，存储程序区可存储操作***、至少一个功能所需的应用程序(比如声音播放功能、图像播放功能等)等；存储数据区可存储根据手机的使用所创建的数据(比如音频数据、电话本等)等。此外，存储器39可以包括高速随机存取存储器，还可以包括非易失性存储器，例如至少一个磁盘存储器件、闪存器件、或其他易失性固态存储器件。

处理器310是移动终端的控制中心，利用各种接口和线路连接整个移动终端的各个部分，通过运行或执行存储在存储器39内的软件程序和/或模块，以及调用存储在存储器39内的数据，执行移动终端的各种功能和处理数据，从而对移动终端进行整体监控。处理器310可包括一个或多个处理单元；优选的，处理器310可集成应用处理器和调制解调处理器，其中，应用处理器主要处理操作***、用户界面和应用程序等，调制解调处理器主要处理无线通信。可以理解的是，上述调制解调处理器也可以不集成到处理器310中。

移动终端30还可以包括给各个部件供电的电源311(比如电池)，优选的，电源311可以通过电源管理***与处理器310逻辑相连，从而通过电源管理***实现管理充电、放电、以及功耗管理等功能。

另外，移动终端30包括一些未示出的功能模块，在此不再赘述。

优选的，本发明实施例还提供一种移动终端，包括处理器310，存储器39，存储在存储器39上并可在所述处理器310上运行的计算机程序，该计算机程序被处理器310执行时实现上述深度信息的获取方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。

本发明实施例还提供一种计算机可读存储介质，计算机可读存储介质上存储有计算机程序，该计算机程序被处理器执行时实现上述深度信息的获取方法实施例的各个过程，且能达到相同的技术效果，为避免重复，这里不再赘述。其中，所述的计算机可读存储介质，如只读存储器(Read-Only Memory，简称ROM)、随机存取存储器(Random AccessMemory，简称RAM)、磁碟或者光盘等。

需要说明的是，在本文中，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者装置不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者装置所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括该要素的过程、方法、物品或者装置中还存在另外的相同要素。

通过以上的实施方式的描述，本领域的技术人员可以清楚地了解到上述实施例方法可借助软件加必需的通用硬件平台的方式来实现，当然也可以通过硬件，但很多情况下前者是更佳的实施方式。基于这样的理解，本发明的技术方案本质上或者说对现有技术做出贡献的部分可以以软件产品的形式体现出来，该计算机软件产品存储在一个存储介质(如ROM/RAM、磁碟、光盘)中，包括若干指令用以使得一台终端(可以是手机，计算机，服务器，空调器，或者网络设备等)执行本发明各个实施例所述的方法。

上面结合附图对本发明的实施例进行了描述，但是本发明并不局限于上述的具体实施方式，上述的具体实施方式仅仅是示意性的，而不是限制性的，本领域的普通技术人员在本发明的启示下，在不脱离本发明宗旨和权利要求所保护的范围情况下，还可做出很多形式，均属于本发明的保护之内。

Claims (15)

1.一种深度信息的获取方法，应用于移动终端，其特征在于，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；

所述方法包括：

采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；

基于所述红外电信号进行景深测量，获得深度信息。

2.根据权利要求1所述的方法，其特征在于，一个所述红外分量的区域大于或等于一个G分量的区域。

3.根据权利要求2所述的方法，其特征在于，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的其中一个G分量；

或者，

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的至少两个G分量。

4.根据权利要求1所述的方法，其特征在于，一个所述红外分量的区域小于一个G分量的区域。

5.根据权利要求4所述的方法，其特征在于，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量的区域替换其中一个G分量的部分区域。

6.根据权利要求1所述的方法，其特征在于，所述红外电信号包括结构光中的红外电信号。

7.一种深度信息的获取装置，应用于移动终端，其特征在于，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量；

所述装置包括：

图像采集模块，用于采用所述图像传感器采集图像数据，所述图像数据包括通过所述红外分量接收的红外电信号；

景深测量模块，用于基于所述红外电信号进行景深测量，获得深度信息。

8.根据权利要求7所述的装置，其特征在于，一个所述红外分量的区域大于或等于一个G分量的区域。

9.根据权利要求8所述的装置，其特征在于，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的其中一个G分量；

或者，

在指定数量的像素点的RGB分量中，采用一个红外分量替换所述RGB分量中的至少两个G分量。

10.根据权利要求7所述的装置，其特征在于，一个所述红外分量的区域小于一个G分量的区域。

11.根据权利要求10所述的装置，其特征在于，所述红外分量的设定规则如下：

在指定数量的像素点的RGB分量中，采用一个红外分量的区域替换其中一个G分量的部分区域。

12.根据权利要求7所述的装置，其特征在于，所述红外电信号包括结构光中的红外电信号。

13.一种移动终端，其特征在于，所述移动终端包括摄像头模组以及设置在所述摄像头模组上的图像传感器，所述图像传感器中的像素阵列包括RGB分量以及红外分量。

14.一种移动终端，其特征在于，包括处理器、存储器及存储在所述存储器上并可在所述处理器上运行的计算机程序，所述计算机程序被所述处理器执行时实现如权利要求1至6中任一项所述的深度信息的获取方法的步骤。

15.一种计算机可读存储介质，其特征在于，所述计算机可读存储介质上存储计算机程序，所述计算机程序被处理器执行时实现如权利要求1至6中任一项所述的深度信息的获取方法的步骤。