CN108259764A - 摄像机、应用于摄像机的图像处理方法及装置 - Google Patents
摄像机、应用于摄像机的图像处理方法及装置 Download PDFInfo
- Publication number
- CN108259764A CN108259764A CN201810259849.9A CN201810259849A CN108259764A CN 108259764 A CN108259764 A CN 108259764A CN 201810259849 A CN201810259849 A CN 201810259849A CN 108259764 A CN108259764 A CN 108259764A
- Authority
- CN
- China
- Prior art keywords
- image
- processing
- video camera
- camera
- photographing module
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003672 processing method Methods 0.000 title claims abstract description 11
- 238000012545 processing Methods 0.000 claims abstract description 162
- 230000003287 optical effect Effects 0.000 claims abstract description 42
- 238000011282 treatment Methods 0.000 claims abstract description 42
- 238000000034 method Methods 0.000 claims description 31
- 238000012937 correction Methods 0.000 claims description 11
- 238000004590 computer program Methods 0.000 claims description 5
- 239000011159 matrix material Substances 0.000 description 21
- 230000004927 fusion Effects 0.000 description 19
- 238000010586 diagram Methods 0.000 description 18
- 239000013598 vector Substances 0.000 description 15
- 238000004458 analytical method Methods 0.000 description 12
- 230000006870 function Effects 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 9
- 230000001815 facial effect Effects 0.000 description 6
- 238000013473 artificial intelligence Methods 0.000 description 4
- 238000013527 convolutional neural network Methods 0.000 description 4
- 238000000605 extraction Methods 0.000 description 4
- 230000008569 process Effects 0.000 description 4
- 238000013519 translation Methods 0.000 description 4
- 230000000007 visual effect Effects 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 3
- 230000000877 morphologic effect Effects 0.000 description 3
- 238000006748 scratching Methods 0.000 description 3
- 230000002393 scratching effect Effects 0.000 description 3
- 241000251468 Actinopterygii Species 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 2
- 238000003384 imaging method Methods 0.000 description 2
- 238000011221 initial treatment Methods 0.000 description 2
- 230000005291 magnetic effect Effects 0.000 description 2
- 238000007500 overflow downdraw method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 1
- 230000004888 barrier function Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 238000007405 data analysis Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005611 electricity Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000010191 image analysis Methods 0.000 description 1
- 238000003032 molecular docking Methods 0.000 description 1
- 238000003012 network analysis Methods 0.000 description 1
- 239000013307 optical fiber Substances 0.000 description 1
- 238000000513 principal component analysis Methods 0.000 description 1
- 230000001902 propagating effect Effects 0.000 description 1
- 230000000306 recurrent effect Effects 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000012549 training Methods 0.000 description 1
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4038—Image mosaicing, e.g. composing plane images from plane sub-images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/80—Geometric correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
本申请实施例公开了摄像机、应用于摄像机的图像处理方法及装置。该摄像机包括摄像单元以及处理单元,其中,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;处理单元包括处理芯片,处理单元与摄像单元电连接,处理单元用于接收各摄像模块采集到的图像,对接收到的由各摄像模块采集到的多幅图像进行联合处理。该实施方式提高了摄像机对图像的分析处理能力以及数据处理效率。
Description
技术领域
本申请实施例涉及摄像机技术领域,具体涉及摄像机、应用于摄像机的图像处理方法及装置。
背景技术
现有的摄像机技术中,摄像机通常包括镜头、光圈、快门等光学装置,利用该光学装置采集外部图像。
现有的摄像机设备中通常与处理设备相连接,并将采集到的外部图像发送至处理设备以供处理设备对图像数据进行分析处理,其自身通常不能够对采集到的图像进行数据分析。
发明内容
本申请实施例提出了摄像机、应用于摄像机的图像处理方法及装置。
第一方面,本申请实施例提供了一种摄像机,该摄像机摄像单元以及处理单元,其中,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;处理单元包括处理芯片,处理单元与摄像单元电连接,处理单元用于接收各摄像模块采集到的图像,对接收到的由各摄像模块采集到的多幅图像进行联合处理。
在一些实施例中,处理芯片用于:基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;对校正后的图像进行联合处理。
在一些实施例中,处理单元还包括控制芯片,控制芯片用于连接处理芯片和各光传感器。
在一些实施例中,控制芯片用于接收各光传感器采集到的图像,并对各光传感器采集到的图像进行拼接;处理芯片用于对拼接后的图像进行处理。
在一些实施例中,摄像单元包括以下至少一项:双目摄像模块、全景摄像模块。
在一些实施例中,控制芯片用于将接收到的摄像单元拍摄的图像编码处理后提供至处理芯片。
第二方面,本申请实施例提供了一种应用于摄像机的图像处理方法,摄像机包括摄像单元以及处理芯片,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;处理芯片与摄像单元电连接,该方法包括:接收各摄像模块采集到的图像;对接收到的由各摄像模块采集到的多幅图像进行联合处理。
在一些实施例中,方法还包括:基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;对校正后的图像进行联合处理。
在一些实施例中,摄像机还包括控制芯片,控制芯片用于连接处理芯片和各光传感器,对接收到的由各摄像模块采集到的多幅图像进行联合处理,包括:接收控制芯片对光传感器采集的图像进行拼接后得到的图像;对拼接后得到的图像进行处理。
第三方面,本申请实施例提供了一种应用于摄像机的图像处理装置,摄像机包括摄像单元以及处理芯片,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;处理芯片与摄像单元电连接,该装置包括:接收单元,配置用于接收各摄像模块采集到的图像;处理单元,配置用于对接收到的由各摄像模块采集到的多幅图像进行联合处理。
在一些实施例中,装置进一步用于:基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;对校正后的图像进行联合处理。
在一些实施例中,摄像机还包括控制芯片,控制芯片用于连接处理芯片和各光传感器,处理单元进一步用于:接收控制芯片对光传感器采集的图像进行拼接后得到的图像;对拼接后得到的图像进行处理。
第四方面,本申请实施例提供了一种摄像机,包括:多个摄像模块,摄像模块包括摄像镜头以及光传感器;一个或多个处理芯片;存储装置,用于存储一个或多个程序,当一个或多个程序被一个或多个处理芯片执行,使得一个或多个处理芯片实现如第二方面中任意实施例的方法。
第五方面,本申请实施例提供了一种计算机可读存储介质,其上存储有计算机程序,该程序被处理器执行时实现如第二方面中任意实施例的方法。
本申请实施例提供的摄像机、应用于摄像机的图像处理方法及装置,通常设置摄像单元以及处理单元,同时在处理单元中设置用于处理图像的处理芯片,使得摄像机可以对接收到的图像进行分析处理,从而提高了摄像机对图像的分析处理能力以及数据处理效率。
附图说明
通过阅读参照以下附图所作的对非限制性实施例所作的详细描述,本申请的其它特征、目的和优点将会变得更明显:
图1示出了本申请提供的一个摄像机的结构示意图;
图2示意性的示出了本申请提供的一个双目摄像模块的结构示意图;
图3示出了本申请提供的又一个摄像机的结构示意图;
图4示意性的示出了本申请提供的一个全景摄像模块的结构示意图;
图5示意性的示出了本申请提供的一个双目全景摄像模块的结构示意图;
图6示出了根据本申请的应用于摄像机的图像处理方法的一个实施例的流程图;
图7是根据本申请的应用于摄像机的图像处理装置的一个实施例的结构示意图;
图8是适于用来实现本申请实施例的摄像机的硬件结构示意图。
具体实施方式
下面结合附图和实施例对本申请作进一步的详细说明。可以理解的是,此处所描述的具体实施例仅仅用于解释相关发明,而非对该发明的限定。另外还需要说明的是,为了便于描述,附图中仅示出了与有关发明相关的部分。
需要说明的是,在不冲突的情况下,本申请中的实施例及实施例中的特征可以相互组合。下面将参考附图并结合实施例来详细说明本申请。
图1示出了本申请提供的一个摄像机的结构示意图。
在本实施例中,如图1所示,摄像机100可以包括摄像单元11和处理单元12。在这里,摄像单元11包括多个摄像模块111,该摄像模块111包括摄像镜头1111以及光传感器1112。
在本实施例中,摄像单元11可以包括两个摄像模块111、三个摄像模块111等。在这里,该摄像模块111可以根据应用场景的需要设置。例如,若摄像机设置于闸机入口处时,为了获取沿与地面垂直方向上的更大视角,多个摄像模块111可以沿重力方向并排设置;为了获取沿与地面平行方向上的更大视角,上述摄像模块111可以沿与地面平行的方向并排设置。在这里,摄像模块111可以包括摄像镜头1111以及光传感器1112。该摄像镜头111例如可以包括广角镜头、长焦镜头、鱼眼镜头、普通单镜片镜头等。该光传感器1112例如可以包括红外光传感器、可见光传感器、RGB-IR传感器等。在这里,该摄像模块111可以获取的图像例如可以为面部图像、自动驾驶车辆外部的周围环境图像、风景图像、物品图像等等。
在本实施例中,处理单元12与摄像单元11电连接,处理单元12可以用于接收摄像单元11中各个摄像模块111采集到的图像,对接收到的由各个摄像模块111采集到的多幅图像进行联合处理。在这里,联合处理可以为将多幅图像一起处理。在这里,该联合处理例如可以包括对多幅图像的融合处理、拼接处理等。
在本实施例中,处理单元12包括处理芯片121。在这里,该处理芯片121可以为基于人工智能(AI,Artificial Intelligence)的处理芯片。该处理芯片121中集成有例如GPU(Graphics Processing Unit,图形处理器)等处理器。可选地,处理芯片121中还可以集成有DSP(Digital Signal Processing,数字信号处理)、FPGA(Field-Programmable GateArray,现场可编程门阵列)等功能。根据场景的需要,可选择包含有不同处理功能的处理芯片。
在本实施例中,上述处理芯片121可以用于接收各摄像模块采集到的图像,然后对接收到的由各摄像模块采集到的多幅图像进行联合处理,例如图像融合处理。图形融合通常包括信号级别融合、像素级别融合、特征级别的融合等。上述各级别的融合方法例如可以包括基于小波变换的图像融合、拉普拉斯金字塔融合等。
上述联合处理也可以是基于摄像机的实际应用场景的业务需求执行的图像处理,例如联合多个摄像单元采集的图像进行人脸识别、人脸检测、目标跟踪等处理。作为示例,在人脸识别场景中,联合处理可以是对接收到的多幅人脸图像分别提取特征,然后将提取出的特征融合;在目标跟踪场景中,联合处理可以是提取目标在每幅图像中的位置坐标,进而计算出目标在世界坐标系中的位置。
在本实施例中,处理芯片121对摄像模块111采集的多幅图像进行联合处理后,接着可以对图像基于各种人工智能场景进行处理分析,得到最终的处理结果。
作为示例,处理芯片121可以应用于人脸识别,此时处理芯片121可以对摄像机拍摄的人脸图像进行分析识别等,判断该面部图像是否为匹配的面部图像。当应用于人脸识别时,上述处理芯片121中可以包括GPU、DSP等。其所承载的可以包括各种用于人脸识别的模型等。该模型例如可以为用于进行人脸特征提取的卷积神经网络、循环神经网络等,用于进行面部三维重建技术的主动形状模型(Active Shape Model)等。上述各模型可以为基于大量样本进行预先训练的。以ASM为例,对处理芯片121在人脸识别中的应用进行具体的阐述。ASM是建立在点分布模型的基础上的。在进行人脸匹配时,可以利用经过训练的ASM对摄像单元获取到的面部图像进行面部特征识别,根据该面部图像的人脸特征向量,确定与预先存储的人脸特征向量之间的特征值是否小于预设阈值,从而将小于预设阈值的人脸图像确定为匹配的面部图像。在这里,该ASM可以通过如下步骤训练:首先获取预先人工标注的特征点图像的样本集合中的每一张图像的形状向量;然后对样本集合中的特征点图像进行归一化处理,得到平均人脸形状向量;接着采用标准的主成分分析算法确定样本集合中每一个特征点图像的形状向量与平均人脸形状向量之间的协方差矩阵,从而将每一张图像的形状向量均由平均形状向量与形状变化参数表示;最后,计算每一张图像样本的特征点对于的局部灰度模型作为局部特征点调整用的特征向量。最终,得到训练后的ASM模型。
作为示例,处理芯片121可以用于自动驾驶领域。在自动驾驶领域中,处理芯片121中可以包括GPU、DSP、FPGA等。其所承载的例如可以包括各种模型、反馈网络等。例如,上述摄像单元可以对自动驾驶车辆的外部环境进行采集,并将采集到的外部环境提供至处理芯片121。处理芯片121对外部环境利用模型、反馈网络等处理分析后,得到用于控制自动驾驶车辆的控制指令。该指令例如可以包括转弯指令、变道指令、加速指令、减速指令等,从而提高自动驾驶车辆的自动驾驶能力。以反馈网络为例进行具体的阐述。处理芯片121中可以预先设置移动向量。处理芯片121可以针对摄像模块发送外部环境图像进行分析(例如识别外部环境图像的内容),并根据车辆的最大转角速度、车辆的车距等车辆信息将上述移动向量分解为可以分别控制车辆的转角速度、车辆的转弯半径的分向量,然后将该分向量作为控制指令。接着,上述电子设备根据该控制指令对车辆的行驶参数(例如前轮转角速度、车辆行驶速度)进行调整。同时将调整后的行驶参数与当前环境进行比较,从而对控制指令继续调节,直到该控制指令可以适用于当前外部环境,并将该控制指令作为上述用于调整自动驾驶车辆的行驶参数的控制指令。
作为示例,处理芯片121还可以用于其他图像处理领域。其所承载的例如可以包括卷积神经网络、全卷积神经网络等。以抠图技术为例进行阐述,处理芯片121可以将摄像模块获取到的图像输入至全卷积神经网络,得到需要抠图的图像的分类图像。接着,处理芯片121可以将所得到的分类图像中用于表征目标对象的灰度值设置为前景灰度值,将用于表征目标对象之外的对象的灰度值设置为背景灰度值,生成初始处理图像。然后,处理芯片121对初始处理图像进行形态学处理,得到形态学图像。接着,例如图割算法对形态学图像进行处理,并对处理后的图形中的前景图像的灰度值还原为待处理图像中对应的位置处的灰度值,得到抠图图像。
可选地,摄像单元11中可以包括至少一个双目摄像模块。也即是说,多个摄像模块111中具有相同朝向的两个摄像模块111组合在一起组成双目摄像模块。如图2所示,图2示例性的示出了双目摄像模块的结构示意图。通过设置双目摄像模块,可以获取被拍摄场景的景深信息,从而使得处理单元可以利用景深信息更好地对被拍摄的场景进行分析,使得分析结果更加准确。
可选地,上述处理单元11中的处理芯片121还可以基于已标定的多个摄像模块111之间的相对参数,对接收到的多幅图像进行校正,然后对校正后的图像进行联合处理。具体的,上述处理芯片121可以首先对双目摄像模块进行标定。在这里,需要标定的数目摄像模块的参数例如可以包括双目摄像模块中各摄像模块的内参数矩阵、畸变系数矩阵等。该标定的方法与已知的单目摄像机的参考标定方法相同。在这里,还需要对双目摄像模块中左右摄像模块坐标系之间的相对关系进行标定,也即对双目摄像模块中的旋转矩阵、平移矩阵、本征矩阵以及基础矩阵标定。在这里,利用旋转矩阵和平移矩阵来确定双目摄像模块中左右两个摄像模块坐标系的相对位置关系。具体为可以将左摄像模块下的坐标转换到右摄像模块下的坐标,或者将右摄像模块下的坐标转换到左摄像模块下的坐标。本征矩阵为双目摄像模块中左右坐标系相互装换的矩阵,也即描述左右摄像模块图像屏幕上对应点之间的关系。而基础矩阵为本征矩阵加上摄像模块中相机内参数矩阵的相关信息,其用来描述同一物体在左右拍摄设备图像屏幕上投影在像素向量下的关系。然后,处理芯片121对标定好的双目摄像模块进行校正。在这里,对双目摄像模块进行校正是为了将双目摄像模块中左右两个摄像模块所拍摄的图像的平面设置于同一平面上。具体的,可以利用左右两个摄像模块的旋转矩阵对所拍摄的图像进行旋转,使得各图像中的同一点投影到两个摄像模块图像平面时,其处于两个像素坐标系的同一行,从而实现双目摄像模块的校正。最后,上述处理单元中的处理芯片121可以对接收到的由摄像模块采集到的多幅图像进行融合处理。该融合处理的方法可参考前述内容,在此不再赘述。
可选地,上述摄像机100中还可以设置有红外光投影仪,摄像单元11中还包括至少一个红外摄像模块以及一个可将光模块。该至少一个红外摄像模块中的光传感器为可见光传感器,该可见光模块的传感器为可见光传感器。上述红外光投影仪向被拍摄物体投射红外光图案。上述红外摄像模块用于捕捉具有红外光图案的被拍摄物体的红外图像,上述可见光模块用于获取被拍摄物体的可见光图像。处理芯片121可以对红外图像以及与红外图像具有相同拍摄对象的可见光图像进行融合处理,形成包含更丰富的成像通道信息的图像。
继续参考图3其示出了本申请提供的摄像机的又一个实施例的结构示意图。
如图3所示,在本实施例中,摄像机300包括摄像单元31以及处理单元32。摄像单元31包括多个摄像模块311,摄像模块311包括摄像镜头3111以及光传感器3112。处理单元32包括处理芯片321。其中,摄像镜头3111、光传感器3112以及处理芯片321的具体结构与图1所示的摄像机100相同,在此不再赘述。
在本实施例中,与图1所示的实施例不同的是,本实施例中,处理单元32还包括控制芯片322。控制芯片322用于连接各摄像模块311的光传感器3112与处理芯片321。在本实施例中,控制芯片322可用于为摄像机300提供与外部进行信息交换的USB接口控制、对接收到的各摄像模块311采集到的图像进行格式转换、编码处理等。
在本实施例中,上述控制芯片322还可以对多幅图像进行拼接处理。图像拼接例如可以包括利用OpenCV进行图像拼接、利用ORB(Oriented FAST and Rotated BRIEF,快速特征点提取和描述)算法进行图像拼接。图像拼接技术中,首选对多幅图像进行特征点提取和匹配,然后进行图像配准,也即是将待拼接图像转换至同一坐标系中。接着,将转换坐标后的图像拼接在一起,并对每两幅图像中拼接交界处的亮度、像素等进行加权融合,最后得到拼接后的图像。可采用已有的图像拼接技术对摄像机的多个摄像单元采集的图像进行拼接,在此不再赘述。
在本实施例中,与图2所示的实施例不同的是,摄像单元31中可以包括至少一个全景摄像模块,如图4所示,图4示意性的示出了全景摄像模块的结构示意图,其中两个摄像镜头沿同一方向相反设置,两个摄像镜头可以均为视场角超过180°的鱼眼镜头,且两个摄像镜头的光轴可以重叠。这样,多个摄像模块311a中的至少两个组合在一起组成全景摄像模块。通过设置全景摄像模块,使得成像角度更大,可以使被拍摄的场景的内容画面更加丰富,从而使得处理单元对图像的分析结果更加全面。
在本实施例中,上述控制芯片322可以对全景摄像模块采集到的图像进行拼接处理,并将处理后的图像提供至处理芯片321。
可选地,摄像单元31中可以包括至少一个双目全景摄像模块。也即是说,多个摄像模块中的至少四个组合在一起组成双目全景摄像模块。作为示例,该双目全景摄像模块包括四个摄像模块,如图5所示,图5示意性的示出了双目全景摄像模块的结构示意图。在该双目全景摄像模块中,其中两个摄像模块311b的摄像镜头和另外两个摄像模块311b的摄像镜头分别朝向相反的方向。对于朝同一方向的两个摄像模块311b之间组成一个双目摄像模块。从而,使得两组摄像镜头朝相反方向的摄像模块之间组成一个双目全景摄像模块。通过在摄像单元中设置双目全景摄像模块,在增加所拍摄的对象的场景深度的同时使得视角更加宽广,提高画面内容的丰富度,从而更加有利于处理单元对图像数据的分析。
从图3中可以看出,与图1所示的实施例不同的是,本实施的处理单元32增加了控制芯片322以及摄像单元31增加了至少一个全景摄像模块,同时控制芯片322可以对全景摄像模块采集到的图形进行拼接处理,从而使得所拍摄的视角更加宽广,提高画面内容的丰富度,从而更加有利于处理单元对图像数据的分析。
继续参考图6,其示出了根据本申请的应用于摄像机的图像处理方法的一个实施例的流程600。
该摄像机包括摄像单元以及处理芯片,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器,处理芯片与摄像单元电连接。该应用于摄像机的图像处理方法,包括以下步骤:
步骤601,接收摄像模块采集到的图像。
在本实施例中,各摄像模块采集到的图像例如可以包括红外光图像,可见光图像等。可以采集到的图像例如可以为面部图像、自动驾驶车辆外部的周围环境图像、风景图像、物品图像等等。处理芯片可以接收各摄像模块采集到的图像。
步骤602,对接收到的由摄像模块采集到的多幅图像进行联合处理。
在本实施例中,处理芯片可以对接收到的多幅图像进行联合处理。该联合处理例如可以为图像融合处理。该联合处理例如可以包括对多幅图像的融合处理。图形融合通常包括信号级别融合、像素级别融合、特征级别的融合等。上述各级别的融合方法例如可以包括基于小波变换的图像融合、拉普拉斯金字塔融合等。
在本实施例中,处理芯片还可以对接收到的红外图像以及与该红外图像所拍摄的对象相同的可见光图像进行融合处理,从而得到三维立体图像。
在本实施例中,处理芯片对摄像模块采集的多幅图像进行联合处理后,接着可以对图像基于各种人工智能场景进行处理分析,得到最终的处理结果。
作为示例,处理芯片可以应用于人脸识别领域,此时处理芯片可以对摄像机拍摄的人脸图像进行分析识别等,判断该面部图像是否为匹配的面部图像。
作为示例,处理芯片可以用于自动驾驶领域。在自动驾驶领域中,处理芯片可以对外部环境利用模型、反馈网络等处理分析后,得到用于控制自动驾驶车辆的控制指令。该指令例如可以包括转弯指令、变道指令、加速指令、减速指令等,从而提高自动驾驶车辆的自动驾驶能力。
在本实施例的一些可选的实现方式中,处理芯片还可以基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正,然后对校正后的图像进行联合处理。具体的,上述处理芯片可以首先对双目摄像模块进行标定。在这里,需要标定的数目摄像模块的参数例如可以包括双目摄像模块中各摄像模块的内参数矩阵、畸变系数矩阵等。该标定的方法与已知的单目摄像模块的参考标定方法相同。在这里,还需要对双目摄像模块中左右摄像模块坐标系之间的相对关系进行标定,也即对双目摄像模块中的旋转矩阵、平移矩阵、本征矩阵以及基础矩阵标定。在这里,利用旋转矩阵和平移矩阵来确定双目摄像模块中左右两个摄像模块坐标系的相对位置关系。具体为可以将左摄像模块下的坐标转换到右摄像模块下的坐标,或者将右摄像模块下的坐标转换到左摄像模块下的坐标。本征矩阵为双目摄像模块中左右坐标系相互装换的矩阵,也即描述左右摄像模块图像屏幕上对应点之间的关系。而基础矩阵为本征矩阵加上摄像模块中相机内参数矩阵的相关信息,其用来描述同一物体在左右摄像模块图像屏幕上投影在像素向量下的关系。然后,处理芯片对标定好的双目摄像模块进行校正。在这里,对双目摄像模块进行校正是为了将双目摄像模块中左右两个摄像模块所拍摄的图像的平面设置于同一平面上。具体的,可以利用左右两个摄像模块的旋转矩阵对所拍摄的图像进行旋转,使得各图像中的同一点投影到两个摄像模块图像平面时,其处于两个像素坐标系的同一行,从而实现双目摄像模块的校正。最后,上述处理单元中的处理芯片可以对接收到的由摄像模块采集到的多幅图像进行融合处理。该融合处理的方法可参考前述内容,在此不再赘述。
在本实施例的一些可选的实现方式中,上述摄像机的控制单元还包括控制芯片,该控制芯片用于连接处理芯片和光传感器。上述处理芯片还可用于接收控制芯片对光传感器采集的图像进行拼接后得到的图像,并对拼接后得到的图像进行处理。例如可以对拼接后得到的图像进行数据分析,从而得到分析结果。作为示例,在具体的应用场景中,例如无人零售店的应用场景中,处理芯片可以根据拼接后的全图像来检测购物者的轨迹,从而判断购物者的消费行为以更好的优化无人商店。处理芯片还可以根据拼接后的图像来识别障碍物等。
本申请实施例提供的应用于摄像机的图像处理方法,通过对接收到的各摄像模块采集的多幅图像进行联合分析处理,可以提高摄像机对图像的分析处理能力以及数据处理效率。
进一步参考图7,作为对上述各图所示方法的实现,本申请提供了一种应用于摄像机的图像处理装置的一个实施例,该装置实施例与图3所示的方法实施例相对应。
该摄像机包括摄像单元以及处理芯片,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器,处理芯片与摄像单元电连接。
如图7所示,本实施例所述的应用于摄像机的图像处理装置700包括:接收单元701,配置用于接收各摄像模块采集到的图像;处理单元702,配置用于对接收到的由各摄像模块采集到的多幅图像进行联合处理。
在本实施例中,应用于摄像机的图像处理装置700中:接收单元701和处理单元702的具体处理及其所带来的技术效果可分别参考图6对应实施例中的步骤601和步骤602的相关说明,在此不再赘述。
在本实施例的一些可选的实现方式中,应用于摄像机的图像处理装置700进一步用于:基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;对校正后的图像进行联合处理。
在本实施例的一些可选的实现方式中,摄像机还可以包括控制芯片,控制芯片用于连接处理芯片和各光传感器,处理单元702进一步用于:接收控制芯片对光传感器采集的图像进行拼接后得到的图像;对拼接后得到的图像进行处理。
本申请实施例提供的应用于摄像机的图像处理装置,通过对接收到的各摄像模块采集的多幅图像进行联合分析处理,可以提高摄像机对图像的分析处理能力以及数据处理效率。
下面参考图8,其示出了适于用来实现本申请实施例的摄像机的硬件结构示意图。图8示出的摄像机的结构仅仅是一个示例,不应对本申请实施例的功能和使用范围带来任何限制。
如图8所示,摄像机800包括摄像镜头801、摄像头802、光传感器803、光传感器804、处理芯片805和存储器806。其中,处理芯片805中包含有图像处理器GPU。摄像镜头801、摄像头802、光传感器803、光传感器804、处理芯片805以及存储器806通过总线807彼此相连。输入/输出(I/O)接口808也连接至总线807。在此,根据本申请的方法可以被实现为计算机程序,并且存储在存储器806中。摄像机800中的处理芯片805通过调用存储器806中存储的上述计算机程序,来具体实现本申请的方法中限定的图像分析功能。
特别地,根据本公开的实施例,上文参考流程图描述的过程可以被实现为计算机软件程序。例如,本公开的实施例包括一种计算机程序产品,其包括承载在计算机可读介质上的计算机程序,该计算机程序包含用于执行流程图所示的方法的程序代码。在这样的实施例中,该计算机程序可以通过通信部分809从网络上被下载和安装,和/或从可拆卸介质810被安装。在该计算机程序被处理芯片805中的图像处理单元(GPU)执行时,执行本申请的方法中限定的上述功能。需要说明的是,本申请所述的计算机可读介质可以是计算机可读信号介质或者计算机可读存储介质或者是上述两者的任意组合。计算机可读存储介质例如可以是——但不限于——电、磁、光、电磁、红外线、或半导体的***、装置或器件,或者任意以上的组合。计算机可读存储介质的更具体的例子可以包括但不限于:具有一个或多个导线的电连接、便携式计算机磁盘、硬盘、随机访问存储器(RAM)、只读存储器(ROM)、可擦式可编程只读存储器(EPROM或闪存)、光纤、便携式紧凑磁盘只读存储器(CD-ROM)、光存储器件、磁存储器件、或者上述的任意合适的组合。在本申请中,计算机可读存储介质可以是任何包含或存储程序的有形介质,该程序可以被指令执行***、装置或者器件使用或者与其结合使用。而在本申请中,计算机可读的信号介质可以包括在基带中或者作为载波一部分传播的数据信号,其中承载了计算机可读的程序代码。这种传播的数据信号可以采用多种形式,包括但不限于电磁信号、光信号或上述的任意合适的组合。计算机可读的信号介质还可以是计算机可读存储介质以外的任何计算机可读介质,该计算机可读介质可以发送、传播或者传输用于由指令执行***、装置或者器件使用或者与其结合使用的程序。计算机可读介质上包含的程序代码可以用任何适当的介质传输,包括但不限于:无线、电线、光缆、RF等等,或者上述的任意合适的组合。
附图中的流程图和框图,图示了按照本申请各种实施例的***、方法和计算机程序产品的可能实现的体系架构、功能和操作。在这点上,流程图或框图中的每个方框可以代表一个模块、程序段、或代码的一部分,该模块、程序段、或代码的一部分包含一个或多个用于实现规定的逻辑功能的可执行指令。也应当注意,在有些作为替换的实现中,方框中所标注的功能也可以以不同于附图中所标注的顺序发生。例如,两个接连地表示的方框实际上可以基本并行地执行,它们有时也可以按相反的顺序执行,这依所涉及的功能而定。也要注意的是,框图和/或流程图中的每个方框、以及框图和/或流程图中的方框的组合,可以用执行规定的功能或操作的专用的基于硬件的***来实现,或者可以用专用硬件与计算机指令的组合来实现。
描述于本申请实施例中所涉及到的单元可以通过软件的方式实现,也可以通过硬件的方式来实现。所描述的单元也可以设置在处理器中,例如,可以描述为:一种处理器包括接收单元和处理单元。其中,这些单元的名称在某种情况下并不构成对该单元本身的限定,例如,接收单元还可以被描述为“接收各摄像模块采集到的图像的单元”。
作为另一方面,本申请还提供了一种计算机可读介质,该计算机可读介质可以是上述实施例中描述的装置中所包含的;也可以是单独存在,而未装配入该装置中。上述计算机可读介质承载有一个或者多个程序,当上述一个或者多个程序被该装置执行时,使得该装置:接收摄像机中的各摄像模块采集到的图像;对接收到的由摄像模块采集到的多幅图像进行联合处理;其中,摄像机包括摄像单元以及处理芯片,摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;处理芯片与摄像单元电连接。
以上描述仅为本申请的较佳实施例以及对所运用技术原理的说明。本领域技术人员应当理解,本申请中所涉及的发明范围,并不限于上述技术特征的特定组合而成的技术方案,同时也应涵盖在不脱离上述发明构思的情况下,由上述技术特征或其等同特征进行任意组合而形成的其它技术方案。例如上述特征与本申请中公开的(但不限于)具有类似功能的技术特征进行互相替换而形成的技术方案。
Claims (14)
1.一种摄像机,包括摄像单元以及处理单元,其中,
所述摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;
所述处理单元包括处理芯片,所述处理单元与所述摄像单元电连接,所述处理单元用于接收摄像模块采集到的图像,对接收到的由摄像模块采集到的多幅图像进行联合处理。
2.根据权利要求1所述的摄像机,其中,所述处理芯片用于:
基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;
对校正后的图像进行联合处理。
3.根据权利要求1所述的摄像机,其中,所述处理单元还包括控制芯片,所述控制芯片用于连接所述处理芯片和光传感器。
4.根据权利要求3所述的摄像机,其中,所述控制芯片用于接收光传感器采集到的图像,并对光传感器采集到的图像进行拼接;
所述处理芯片用于对拼接后的图像进行处理。
5.根据权利要求1所述的摄像机,其中,所述摄像单元包括以下至少一项:双目摄像模块、全景摄像模块。
6.根据权利要求3所述的摄像机,其中,所述控制芯片用于将接收到的所述摄像单元拍摄的图像编码处理后提供至所述处理芯片。
7.一种应用于摄像机的图像处理方法,所述摄像机包括摄像单元以及所述处理芯片,所述摄像单元包括多个摄像模块,摄像模块包括摄像镜头以及光传感器;所述处理芯片与所述摄像单元电连接,所述方法包括:
接收摄像模块采集到的图像;
对接收到的由摄像模块采集到的多幅图像进行联合处理。
8.根据权利要求7所述的方法,其中,所述方法还包括:
基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;
对校正后的图像进行联合处理。
9.根据权利要求7或8所述的方法,其中,所述摄像机还包括控制芯片,所述控制芯片用于连接所述处理芯片和光传感器,所述对接收到的由摄像模块采集到的多幅图像进行联合处理,包括:
接收所述控制芯片对光传感器采集的图像进行拼接后得到的图像;
对拼接后得到的图像进行处理。
10.一种应用于摄像机的图像处理装置,摄像机包括摄像单元以及所述处理芯片,所述摄像单元包括多个摄像模块,所述摄像模块包括摄像镜头以及光传感器;所述处理芯片与所述摄像单元电连接,所述装置包括:
接收单元,配置用于接收摄像模块采集到的图像;
处理单元,配置用于对接收到的由摄像模块采集到的多幅图像进行联合处理。
11.根据权利要求10所述的装置,其中,所述装置进一步用于:
基于已标定的多个摄像模块之间的相对参数,对接收到的多幅图像进行校正;
对校正后的图像进行联合处理。
12.根据权利要求10或11所述的装置,其中,所述摄像机还包括控制芯片,所述控制芯片用于连接所述处理芯片和光传感器,所述处理单元进一步用于:
接收所述控制芯片对光传感器采集的图像进行拼接后得到的图像;
对拼接后得到的图像进行处理。
13.一种摄像机,包括:
多个摄像模块,摄像模块包括摄像镜头以及光传感器;
一个或多个处理芯片;
存储装置,用于存储一个或多个程序,
当所述一个或多个程序被所述一个或多个处理芯片执行,使得所述一个或多个处理芯片实现如权利要求7-9中任一所述的方法。
14.一种计算机可读介质,其上存储有计算机程序,其中,所述程序被处理器执行时实现如权利要求7-9中任一所述的方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810259849.9A CN108259764A (zh) | 2018-03-27 | 2018-03-27 | 摄像机、应用于摄像机的图像处理方法及装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN201810259849.9A CN108259764A (zh) | 2018-03-27 | 2018-03-27 | 摄像机、应用于摄像机的图像处理方法及装置 |
Publications (1)
Publication Number | Publication Date |
---|---|
CN108259764A true CN108259764A (zh) | 2018-07-06 |
Family
ID=62746492
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810259849.9A Pending CN108259764A (zh) | 2018-03-27 | 2018-03-27 | 摄像机、应用于摄像机的图像处理方法及装置 |
Country Status (1)
Country | Link |
---|---|
CN (1) | CN108259764A (zh) |
Cited By (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN109274939A (zh) * | 2018-09-29 | 2019-01-25 | 成都臻识科技发展有限公司 | 一种基于三摄像头模组的停车场出入口监控方法及*** |
CN110717445A (zh) * | 2019-10-09 | 2020-01-21 | 清华大学 | 一种用于自动驾驶的前车距离跟踪***与方法 |
CN111311742A (zh) * | 2020-03-27 | 2020-06-19 | 北京百度网讯科技有限公司 | 三维重建方法、三维重建装置和电子设备 |
TWI704408B (zh) * | 2018-08-22 | 2020-09-11 | 宏碁股份有限公司 | 全景照相裝置及其影像映射結合方法 |
CN113923330A (zh) * | 2021-10-11 | 2022-01-11 | 中国人民解放军63921部队 | 多目标测量*** |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102355545A (zh) * | 2011-09-20 | 2012-02-15 | 中国科学院宁波材料技术与工程研究所 | 一种360度实时全景摄像机 |
JP2017050819A (ja) * | 2015-09-04 | 2017-03-09 | Kddi株式会社 | パノラマ画像データの生成装置、生成方法及びプログラム |
CN106878687A (zh) * | 2017-04-12 | 2017-06-20 | 吉林大学 | 一种基于多传感器的车载环境识别***及全方位视觉模块 |
CN106926800A (zh) * | 2017-03-28 | 2017-07-07 | 重庆大学 | 多摄像头适配的车载视觉感知*** |
CN107423667A (zh) * | 2017-04-12 | 2017-12-01 | 杭州奥腾电子股份有限公司 | 一种车体上的预测障碍物的方法 |
CN107483911A (zh) * | 2017-08-25 | 2017-12-15 | 秦山 | 一种基于多目图像传感器的信号处理方法及*** |
-
2018
- 2018-03-27 CN CN201810259849.9A patent/CN108259764A/zh active Pending
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN102355545A (zh) * | 2011-09-20 | 2012-02-15 | 中国科学院宁波材料技术与工程研究所 | 一种360度实时全景摄像机 |
JP2017050819A (ja) * | 2015-09-04 | 2017-03-09 | Kddi株式会社 | パノラマ画像データの生成装置、生成方法及びプログラム |
CN106926800A (zh) * | 2017-03-28 | 2017-07-07 | 重庆大学 | 多摄像头适配的车载视觉感知*** |
CN106878687A (zh) * | 2017-04-12 | 2017-06-20 | 吉林大学 | 一种基于多传感器的车载环境识别***及全方位视觉模块 |
CN107423667A (zh) * | 2017-04-12 | 2017-12-01 | 杭州奥腾电子股份有限公司 | 一种车体上的预测障碍物的方法 |
CN107483911A (zh) * | 2017-08-25 | 2017-12-15 | 秦山 | 一种基于多目图像传感器的信号处理方法及*** |
Cited By (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
TWI704408B (zh) * | 2018-08-22 | 2020-09-11 | 宏碁股份有限公司 | 全景照相裝置及其影像映射結合方法 |
CN109274939A (zh) * | 2018-09-29 | 2019-01-25 | 成都臻识科技发展有限公司 | 一种基于三摄像头模组的停车场出入口监控方法及*** |
CN110717445A (zh) * | 2019-10-09 | 2020-01-21 | 清华大学 | 一种用于自动驾驶的前车距离跟踪***与方法 |
CN110717445B (zh) * | 2019-10-09 | 2022-08-23 | 清华大学 | 一种用于自动驾驶的前车距离跟踪***与方法 |
CN111311742A (zh) * | 2020-03-27 | 2020-06-19 | 北京百度网讯科技有限公司 | 三维重建方法、三维重建装置和电子设备 |
CN113923330A (zh) * | 2021-10-11 | 2022-01-11 | 中国人民解放军63921部队 | 多目标测量*** |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN108259764A (zh) | 摄像机、应用于摄像机的图像处理方法及装置 | |
Wang et al. | 360sd-net: 360 stereo depth estimation with learnable cost volume | |
CN104835117B (zh) | 基于重叠方式的球面全景图生成方法 | |
CN112950667B (zh) | 一种视频标注方法、装置、设备及计算机可读存储介质 | |
US20180012411A1 (en) | Augmented Reality Methods and Devices | |
JP4825980B2 (ja) | 魚眼カメラの校正方法。 | |
WO2022165809A1 (zh) | 一种训练深度学习模型的方法和装置 | |
CN109685913B (zh) | 基于计算机视觉定位的增强现实实现方法 | |
CN108961327A (zh) | 一种单目深度估计方法及其装置、设备和存储介质 | |
WO2023011013A1 (zh) | 视频图像的拼缝搜索方法、视频图像的拼接方法和装置 | |
CN110060230B (zh) | 三维场景分析方法、装置、介质及设备 | |
EP4178194A1 (en) | Video generation method and apparatus, and readable medium and electronic device | |
CN105488777A (zh) | 一种基于移动前景下全景图实时生成***及其方法 | |
CN110276831A (zh) | 三维模型的建构方法和装置、设备、计算机可读存储介质 | |
CN115330594A (zh) | 一种基于无人机倾斜摄影3d模型的目标快速识别与标定方法 | |
KR101715781B1 (ko) | 물체 인식 시스템 및 그 물체 인식 방법 | |
WO2023280082A1 (zh) | 一种手柄inside-out视觉6自由度定位方法及*** | |
CN108564654B (zh) | 三维大场景的画面进入方式 | |
CN114358112A (zh) | 视频融合方法、计算机程序产品、客户端及存储介质 | |
CN114616586A (zh) | 图像标注方法、装置、电子设备及计算机可读存储介质 | |
CN108122199A (zh) | 一种全景相机的原始图像颜色调整方法及装置 | |
CN116665077A (zh) | 基于ai识别技术的输电线路检测拍摄方法及其*** | |
CN116012609A (zh) | 一种环视鱼眼多目标跟踪方法、装置、电子设备及介质 | |
CN115565155A (zh) | 神经网络模型的训练方法、车辆视图的生成方法和车辆 | |
CN115115713A (zh) | 一种统一时空融合的环视鸟瞰图感知方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
RJ01 | Rejection of invention patent application after publication |
Application publication date: 20180706 |
|
RJ01 | Rejection of invention patent application after publication |