CN108632528B - 图像处理装置、图像处理方法以及记录介质 - Google Patents
图像处理装置、图像处理方法以及记录介质 Download PDFInfo
- Publication number
- CN108632528B CN108632528B CN201810237892.5A CN201810237892A CN108632528B CN 108632528 B CN108632528 B CN 108632528B CN 201810237892 A CN201810237892 A CN 201810237892A CN 108632528 B CN108632528 B CN 108632528B
- Authority
- CN
- China
- Prior art keywords
- motion vector
- unit
- acquisition
- imaging
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/246—Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/57—Mechanical or electrical details of cameras or camera modules specially adapted for being embedded in other devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/66—Remote control of cameras or camera parts, e.g. by remote control devices
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
本发明涉及图像处理装置、图像处理方法以及记录介质。CPU(18)使用基于传感器(17)的各种信息(GPS/地图信息/气压等),根据相对于摄像装置(10)的重力方向(G)、摄像装置(10)的姿势、前进的道路的斜度,在从图像中将在运动矢量计算时产生不良影响的可能性高的、产生辐射状的运动矢量的区域作为MV“非”计算区域(200)而除去之后的、进行了限定的MV计算区域中计算运动矢量。在计算了运动矢量之后,CPU(18)根据计算出的运动矢量推定帧间的抖动量,并基于该抖动量通过图像变形处理进行帧间的特征点的位置对齐。
Description
技术领域
本发明涉及图像处理装置、图像处理方法以及记录介质。
背景技术
一直以来,如下拍摄方法越来越普及,即,将数字照相机等摄像装置安装在用户的身体(头部、躯体部等)、穿着的衣服、或者自行车、摩托车、车辆等,对静止图像、动态图像等进行自动拍摄或通过远程操作进行拍摄。
作为搭载于车辆的摄像装置,提出了如下技术,该技术记载于日本特开2008-203992号公报,将摄像装置装配为光轴与车辆的行进方向一致,感测由行驶产生的旋转,从而对运动矢量(MV:Motion Vector)进行检测。
然而,在专利文献1中,以光轴的方向与行进方向一致为前提,因此在它们的方向不一致的情况下,存在难以准确地检测背景的运动矢量这样的问题。
发明内容
本发明涉及的图像处理装置的特征在于,具备:图像输入单元;运动矢量获取单元,从由所述图像输入单元输入的图像获取运动矢量;姿势获取单元,获取自己的姿势;以及设定单元,基于由所述姿势获取单元获取的自己的姿势,设定所述运动矢量获取单元应获取的运动矢量的获取区域。
此外,本发明涉及的记录了计算机可读的程序的记录介质记录有程序,所述程序使该计算机作为如下单元发挥功能:图像输入单元;运动矢量获取单元,从由所述图像输入单元输入的图像获取运动矢量;姿势获取单元,获取自己的姿势;以及设定单元,基于由所述姿势获取单元获取的自己的姿势,设定所述运动矢量获取单元应获取的运动矢量的获取区域。
附图说明
图1是示出基于本发明的实施方式的摄像***100的结构的示意图。
图2是示出基于本实施方式的摄像装置10的结构的框图。
图3是用于说明在本实施方式中在图像周边部产生的辐射状的运动矢量对抖动量的推定造成的影响的概念图。
图4是用于说明本实施方式的摄像装置10的动作的流程图。
图5A是用于说明基于实施方式的摄像装置10的姿势的概念图,是示出摄像装置10保持为水平的状态的图。
图5B是用于说明基于实施方式的摄像装置10的姿势的概念图,是示出摄像装置10相对于水平方向保持为倾斜或搭载有摄像装置10的移动体变得倾斜的状态的图。
图5C是用于说明基于实施方式的摄像装置10的姿势的概念图,是示出摄像装置10的光轴的图。
图6A是用于说明基于本实施方式的针对相对于摄像装置10的重力方向的MV“非”计算区域的位置设定的概念图,是示出重力方向G朝向摄像装置10的正下方向的情况的图。
图6B是用于说明基于本实施方式的针对相对于摄像装置10的重力方向的MV“非”计算区域的位置设定的概念图,是示出重力方向G朝向摄像装置10的正上方向的情况的图。
图6C是用于说明基于本实施方式的针对相对于摄像装置10的重力方向的MV“非”计算区域的位置设定的概念图,是示出重力方向G朝向摄像装置10的右(或左)方的情况的图。
图6D是用于说明基于本实施方式的针对相对于摄像装置10的重力方向的MV“非”计算区域的位置设定的概念图,是重力方向G朝向摄像装置10的左斜下(或右斜下)方向的情况的图。
图7A是用于说明基于本实施方式的针对摄像装置10的仰角的MV“非”计算区域的调整动作的概念图,是示出仰角θ为0°(水平)时的图。
图7B是用于说明基于本实施方式的针对摄像装置10的仰角的MV“非”计算区域的调整动作的概念图,是示出仰角θ>0°时的图。
图7C是用于说明基于本实施方式的针对摄像装置10的仰角的MV“非”计算区域的调整动作的概念图,是示出仰角θ<0°时的图。
图8A是用于说明基于本实施方式的针对移动体的移动状况的MV“非”计算区域的调整动作的概念图,是示出地形为平地时的图。
图8B是用于说明基于本实施方式的针对移动体的移动状况的MV“非”计算区域的调整动作的概念图,是示出地形为上坡时的图。
图8C是用于说明基于本实施方式的针对移动体的移动状况的MV“非”计算区域的调整动作的概念图,是示出地形为下坡时的图。
图9A是用于说明基于本实施方式的运动矢量的计算动作的概念图,是示出从运动矢量计算区域除去了MV“非”计算区域200时的图。
图9B是用于说明基于本实施方式的运动矢量的计算动作的概念图,是示出将整个图像区域作为计算对象时的图。
图9C是用于说明基于本实施方式的运动矢量的计算动作的概念图,是示出仅将图像中央区域作为计算对象时的图。
具体实施方式
以下,参照附图对本发明的实施方式进行说明。
A.实施方式的结构
图1是示出基于本发明的实施方式的摄像***100的结构的示意图。在图1中,摄像***100由摄像装置10和遥控器装置20构成。摄像装置10例如由具备摄像功能的数字照相机构成,遥控器装置20由专用设备、智能电话、平板终端等构成。摄像装置10与遥控器装置20使用各自能够利用的无线通信40构筑配对(无线连接识别)。无线通信40由无线LAN(WiFi)、蓝牙(Bluetooth,注册商标)等构成。
摄像装置10安装在用户的身体(头部、躯体部等)、穿着的衣服、或者自行车、摩托车、车辆等移动体(未图示)。基于本实施方式的摄像装置10由主体壳体30和底座部32构成,主体壳体30容纳包括摄像部14在内的主要的构成部分,底座部32经由铰链(hinge)31与该主体壳体30结合,使得能够以任意的角度进行固定。只要不从外部(用户等)施加适度的力,铰链31就会保持主体壳体30与底座部32的角度。在将摄像装置10设置到移动体时,用户将底座部32固定到移动体,并调整主体壳体30相对于底座部32的角度,使得主体壳体30的镜头33朝向行进方向。
遥控器装置20使用启动的照相机操作专用应用(程序)经由无线通信40对摄像装置10进行远程操作。该远程操作包括拍摄开始、停止、动作模式的设定、缩放、拍摄条件的设定、拍摄图像(拍摄动态图像)的阅览等操作。
图2是示出基于本实施方式的摄像装置10的结构的框图。在图2中,摄像装置10具备通信部11、ROM12、RAM13、摄像部14、操作部15、记录介质16、传感器17以及CPU18。
通信部11通过上述无线通信40与遥控器装置20连接,向遥控器装置20发送实时取景图像,或接收来自遥控器装置20的操作指示信号等。ROM12存储有由后述的CPU18执行的程序、动作等所需的各种参数等。RAM13用作对由摄像部14进行了摄像的图像数据进行临时存储的缓冲存储器,并且用作后述的CPU18执行了程序时的工作存储器。
摄像部14由镜头模块和CCD、CMOS等摄像元件构成,通过摄像元件将从镜头模块进入的图像变换为数字信号并进行输出,其中,镜头模块由光学镜头组构成。操作部15包括电源开关、模式键等基本的操作键,输出与用户的键操作相应的操作信号。记录介质16对用摄像部14进行了摄像的图像数据等进行保存。传感器17由陀螺仪传感器、加速度传感器、地磁传感器、气压传感器、GPS、地图信息获取单元中的至少一个构成,或组合两个以上而构成,对该摄像装置10的姿势、拍摄状况等进行检测(获取)。另外,所谓摄像装置10的姿势,包括摄像装置10相对于重力方向的姿势、相对于水平方向的姿势,所谓拍摄状况,包括安装了摄像装置10的移动体进行移动的地形的高低变化(正在上坡、正在下坡)。
CPU18通过执行存储在上述的ROM12的程序,从而对各部分的动作进行控制。特别是,在本实施方式中,CPU18从由摄像部14拍摄的实时取景图像获取在时间上连续的多个帧(图像),并获取这些帧中的特征点,进而导出(获取)与帧间的特征点的移动相应的运动矢量。
此时,CPU18使用来自传感器17的各种信息(陀螺仪/加速度/地磁/气压/GPS/地图信息),判别摄像装置10的姿势(重力方向(铅垂方向)和仰角)、拍摄状况(搭载了摄像装置10的移动体的移动状况;斜度),并基于这些姿势以及拍摄状况,限定从所拍摄的图像导出运动矢量MV的区域。换言之,CPU18基于摄像装置10的姿势以及拍摄状况,为了将可能产生辐射状的运动矢量MV的产生区域除外,设定不作为计算运动矢量MV的对象的区域(以下,称作MV“非”计算区域)的位置,并且调整其大小(面积)。
其结果是,能够高效且有效地排除辐射状的运动矢量MV的影响,能够根据帧间的运动矢量MV更准确地推定帧间的抖动量(手抖动量)。此外,因为能够更准确地推定帧间的抖动量(手抖动量),所以能够以高精度进行帧间的位置对齐。
此外,CPU18根据帧间的运动矢量来推定帧间的抖动量(手抖动量),并通过图像变形处理进行帧间的位置对齐,由此对抖动进行修正(电子式动态图像手抖动修正)。另外,虽然在本实施方式中,将由上述CPU18进行的一系列的处理作为图像处理来对待,但是也可以具备专用的图像处理部(GPU;Graphics Processing Unit,图像处理单元)。
图3是用于说明在本实施方式中在图像周边部产生的辐射状的运动矢量对抖动量的推定造成的影响的概念图。在根据帧间的运动矢量推定帧间的抖动量(手抖动量)时,在安装了摄像装置10的拍摄者、车辆等前进的情况下,如图3所示,在图像周边部产生辐射状的运动矢量MV。该辐射状的运动矢量MV会向与抖动不同的方向输出,因此会对抖动量的推定带来不良影响。
在本实施方式中,CPU18使用基于传感器17的各种信息(陀螺仪/加速度/地磁/气压/GPS/地图信息)来判定摄像装置10的姿势和拍摄状况,并基于该判定结果,限定运动矢量MV的计算区域(以下,称作运动矢量计算区域),由此,排除辐射状的运动矢量MV的影响。其结果是,能够高效地、且准确地推定摄像装置10的抖动量(手抖动量)。故此,能够提高帧间的位置对齐处理的稳定性(robustness)。
B.实施方式的动作
接着,对上述的实施方式的动作进行说明。
图4是用于说明本实施方式的摄像装置10的动作的流程图。此外,图5A~5C是用于说明基于本实施方式的摄像装置10的姿势的概念图。图6A~6D是用于说明基于本实施方式的针对相对于摄像装置10的重力方向的MV“非”计算区域的位置设定的概念图。图7A~7C是用于说明基于本实施方式的针对摄像装置10的仰角的MV“非”计算区域的调整动作的概念图。图8A~8C是用于说明基于本实施方式的针对移动体的移动状况的MV“非”计算区域的调整动作的概念图。图9A~9C是用于说明基于本实施方式的运动矢量的计算动作的概念图。
在摄像装置10中,CPU18判断能否进行前进判定(步骤S10)。然后,在能够进行前进判定的情况下(步骤S10的“是”),CPU18进行前进判定(步骤S12)。在前进判定中,CPU18使用基于传感器17的各种信息(陀螺仪/加速度/地磁/气压/GPS/地图信息)判断是否在搭载了摄像装置10的移动体前进的同时摄像部14朝向前进方向进行了拍摄。其中,前进判定方法没有限定。
接着,CPU18基于前进判定结果判断是否为前进中(步骤S14)。然后,在是前进中的情况下(步骤S14的“是”),CPU18判断是否能够进行摄像装置10的姿势判定(步骤S16)。然后,在能够进行姿势判定的情况下(步骤S16的“是”),CPU18进行摄像装置10的姿势判定(步骤S18)。
在姿势判定中,CPU18使用基于传感器17的各种信息(陀螺仪/加速度/地磁)判断相对于摄像装置10的重力方向和摄像装置10的仰角(或俯角;拍摄方向(摄像部14的光轴)相对于水平面的斜率)。例如,只要导出加速度传感器的时间平均,或用加速度和陀螺仪进行卡尔曼滤波(Kalman filtering)等即可。其中,姿势判定方法没有限定。
接着,CPU18作为搭载有摄像装置10的移动体的移动状况而进行斜度判定(步骤S20)。在斜度判定中,CPU18使用基于传感器17的各种信息(GPS/地图信息/气压等)判定移动体前进的道路的斜度。但是,斜度判定方法没有限定。
接着,CPU18基于上述姿势判定结果以及上述斜度判定结果来限定应计算(获取)运动矢量的运动矢量计算区域(步骤S22)。
在此,对运动矢量计算区域的限定处理进行说明。在许多的拍摄场景中,前进时的辐射状的运动矢量MV在图像内的以相对于摄像装置10的重力方向为中心的周边部产生。此外,该产生区域的大小(面积)根据摄像部14的拍摄方向(光轴)相对于行进方向的仰角以及搭载了摄像装置10的移动体的移动状况(斜度)而变化。
因此,在本实施方式中,为了将可能产生辐射状的运动矢量MV的MV“非”计算区域从运动矢量计算区域排除,根据重力方向、仰角、以及斜度来限定运动矢量计算区域。换言之,根据相对于摄像装置10的重力方向、摄像装置10的仰角、以及移动体的斜度,设定从计算运动矢量MV的区域排除在外的MV“非”计算区域的位置,并且调整该MV“非”计算区域的大小。
例如,关于相对于摄像装置10的重力方向,如图5A所示,如果摄像装置10保持为水平,则相对于摄像装置10的重力方向G朝向正下方。此外,如图6B所示,如果摄像装置10保持为倾斜,或搭载有摄像装置10的移动体倾斜,则重力方向G相对于摄像装置10朝向斜下方。
此外,如前所述,基于本实施方式的摄像装置10由主体壳体30和经由铰链31与主体壳体30结合的底座部32构成。因此,关于摄像装置10,如图5C所示,根据摄像装置10向移动体的设置状态、移动体的移动状态等,摄像装置10的光轴相对于水平方向具有仰角θ。
接着,对MV“非”计算区域的位置的设定和该MV“非”计算区域的大小的调整进行说明。首先,如图6A~6D所示,根据重力方向G来变更MV“非”计算区域的位置。具体地,在拍摄图像中,将重力方向G侧的区域设置为MV“非”计算区域。
即,如图6A所示,在重力方向G朝向摄像装置10的正下方向的情况下,即,朝向图像的下方向的情况下,将MV“非”计算区域200设定在图像的下侧。此外,如图6B所示,在重力方向G朝向摄像装置10的正上方向的情况下,即,朝向图像的上方向的情况下,将MV“非”计算区域200设定在图像的上侧。
此外,如图6C所示,在重力方向G朝向摄像装置10的右(或左)的情况下,即,在朝向图像的右(或左)方向的情况下,将MV“非”计算区域200设定在图像的右(或左)侧。此外,如图6D所示,在重力方向G朝向摄像装置10的左斜下(或右斜下)方向的情况下,即,朝向图像的左斜下(或右斜下)方向的情况下,MV“非”计算区域200也设定在图像的左下(或右斜下)侧。
接着,如图7A~7C所示,根据仰角θ来调整MV“非”计算区域200的大小(面积)。即,将图7A所示的仰角θ为0°(水平)时作为基准。如图7B所示,摄像装置10越是朝向上方,周边部越难以进入到图像内,因此仰角θ越大(仰角>0°),将MV“非”计算区域200调整得越窄。相反,如图7C所示,摄像装置10越是朝向下方,周边部越容易进入到图像内,因此仰角θ越为负(仰角<0°;越成为俯角),将MV“非”计算区域200调整得越宽。另外,虽然在图7A~7C中仅示出了重力方向G朝向正下方的情况,但是如图6B~6D所示,根据重力方向G的朝向而同样地进行应用。
进而,如图8A~8C所示,根据移动体进行移动的地形的高低变化,对MV“非”计算区域200的大小(面积)进行调整。例如,将图8A所示的进行移动的地形为平地时作为基准,如图8B所示,即使仰角=0°,但是在登上斜面的情况下,辐射状的运动矢量MV容易进入到图像内,因此拓宽MV“非”计算区域200。此外,如图8C所示,即使仰角=0°,但是在下斜面的情况下,辐射状的运动矢量MV难以进入到图像内,因此缩窄MV“非”计算区域200。斜率越陡,越增大调整量。另外,虽然在图8A~8C中仅示出了重力方向G朝向正下方的情况,但是如图6B~6D所示,可根据重力方向G的朝向同样地进行应用。
另外,设相对于摄像装置10的重力方向、仰角的角度的大小、设置了摄像装置的移动体的移动状态、移动体进行移动的地形的高低变化与MV“非”计算区域的对应关系预先作为对应表而存储在ROM12。
此外,关于MV“非”计算区域200的带宽(band width)、其调整宽度,优选根据摄像装置10的用途、镜头的视角等而以实验方式设定为最佳值。基本上,越是广角镜头,带宽越应该宽。
接着,CPU18在从图像除去了MV“非”计算区域200的、限定后的运动矢量计算区域中计算运动矢量(步骤S24),并将其应用于帧间的抖动量的推定处理。即,如图9A所示,通过将容易产生辐射状的运动矢量MV的MV“非”计算区域200从运动矢量计算区域除去,从而能够排除辐射状的运动矢量MV的影响,能够根据帧间的运动矢量MV更准确地推定帧间的抖动量(手抖动量)。
另一方面,在不是前进中的情况下(步骤S14的“否”),如图9B所示,不进行MV“非”计算区域200的设定、调整,将整个图像区域作为计算对象,还利用周边部整体的信息来计算运动矢量MV(步骤S26)。
此外,在不能进行前进判定的情况下(步骤S10的“否”),或者在不能进行姿势判定的情况下(步骤S16的“否”),如图9C所示,将存在辐射状的运动矢量MV的可能性高的周边部作为MV“非”计算区域200而全部除去,仅将图像中央区域作为计算对象来计算运动矢量MV(步骤S28)。在该情况下,有时不能利用周边部的有益信息。
作为运动矢量MV的计算方法,例如,从所拍摄的动态图像提取在时间上连续的多个帧中的特征点,并基于该帧间的特征点的移动来计算运动矢量MV。另外,在上述的3种运动矢量计算方法中,优选使搜索的运动矢量MV的个数相同等,从而使运算处理次数相等。此外,运动矢量MV的计算方法没有限定。
无论在哪种情况下,在计算运动矢量之后,CPU18都根据计算出的运动矢量MV来推定帧间的抖动量,并基于该抖动量进行通过图像变形处理进行帧间的特征点的位置对齐的位置对齐处理(步骤S30)。另外,帧间的位置对齐方法没有限定。此后,对下一个帧重复上述的处理。
根据上述的实施方式,使得根据摄像装置10的姿势,对在运动矢量计算时产生不良影响的可能性高的、产生辐射状的运动矢量的MV“非”计算区域200进行设定、调整,因此能够提高将摄像装置设置到移动体的情况下的自由度,且能够在背景的运动矢量MV的检测中谋求高效化。
更具体地,能够降低计算运动矢量MV时的运算次数,能够高效且有效地排除辐射状的运动矢量MV的影响。此外,通过排除由辐射状的运动矢量造成的影响,从而能够根据帧间的运动矢量MV更准确地推定帧间的抖动量(手抖动量)。此外,通过更准确地推定帧间的抖动量(手抖动量),从而能够以高精度进行帧间的位置对齐。
根据上述的实施方式,使得将摄像装置10设置到移动体,并设定与移动体的移动相伴的在摄像范围整体产生的运动矢量MV的计算范围,因此能够提高将摄像装置设置到移动体的情况下的自由度,且能够在背景的运动矢量MV的检测中谋求高效化。
根据上述的实施方式,使得检测相对于摄像装置10的姿势的重力方向G(铅垂方向),并基于该重力方向G(铅垂方向)来变更运动矢量MV的计算范围,因此能够高效且有效地排除辐射状的运动矢量MV的影响。
根据上述的实施方式,使得在摄像部14的摄像光轴方向相对于水平方向成为仰角的情况下,在重力方向G(铅垂方向)上增加运动矢量MV的计算范围,因此能够高效且有效地排除辐射状的运动矢量MV的影响。
根据上述的实施方式,使得在摄像部14的摄像光轴方向相对于水平方向成为俯角的情况下,在重力方向G(铅垂方向)上减小运动矢量MV的计算范围,因此能够高效且有效地排除辐射状的运动矢量MV的影响。
根据上述的实施方式,使得对搭载有摄像装置10的移动体进行移动的地形的高低变化进行检测,除了摄像装置10的姿势以外,还基于所检测出的高低变化,设定运动矢量MV的计算范围,因此能够高效且有效地排除辐射状的运动矢量MV的影响。
根据上述的实施方式,使得在由摄像部14依次进行摄像的图像为给定亮度以下的情况下,使运动矢量的计算无效,因此能够使得在不能检测特征点或者难以检测特征点的拍摄状况下无需勉强地计算运动矢量MV。
根据上述的实施方式,使得基于从运动矢量MV的计算范围计算出的运动矢量来推定由摄像部14依次进行摄像的图像的帧间的抖动量,并基于该推定出的抖动量进行帧间的特征点的位置对齐,因此能够更准确地推定手抖动量,能够以高精度进行帧间的位置对齐。
另外,虽然在上述的实施方式中,使得在从图像除去了MV“非”计算区域200的、进行了限定的运动矢量计算区域中计算运动矢量,但是也可以对在帧(图像)内产生的全部的运动矢量进行计算,并根据这些运动矢量,应用存在于从图像除去了MV“非”计算区域200的区域的运动矢量。通过这样,能够从图像输入到运动矢量计算处理为止,作为单纯的流程进行处理。
此外,在上述的实施方式中,在由摄像部14依次进行摄像的图像为给定亮度以下的情况下,CPU18不能提取图像内的特征点,因此也可以使运动矢量MV的计算处理无效。
进而,在上述实施方式中,将本发明应用于摄像装置10中的动作,但也可以将本发明应用于遥控器装置20的动作。
在此情况下,摄像装置10向遥控器装置20发送摄像得到的图像和基于传感器17的各种信息(陀螺仪/加速度/地磁)。此外,遥控器装置进行图4中记载的处理。
以上,对本发明的几个实施方式进行了说明,但是本发明并不限定于此,包括权利要求书记载的发明和与其等同的范围。
Claims (7)
1.一种图像处理装置,其特征在于,具备:
运动矢量获取单元,从由摄像单元输入的图像获取运动矢量;
姿势获取单元,获取所述摄像单元的铅垂方向的姿势;以及
设定单元,基于由所述姿势获取单元获取的所述摄像单元的铅垂方向的姿势,设定所述图像上的所述运动矢量获取单元应获取的运动矢量的获取区域,
所述设定单元在所述摄像单元的摄像光轴方向相对于水平方向成为仰角的情况下,扩大所述铅垂方向上的所述运动矢量的获取区域,
所述设定单元在所述摄像单元的摄像光轴方向相对于水平方向成为俯角的情况下,缩小所述铅垂方向上的所述运动矢量的获取区域。
2.根据权利要求1所述的图像处理装置,其特征在于,
还具备:高低变化获取单元,获取该装置移动的地形的高低变化,
所述设定单元除了基于由所述姿势获取单元获取的所述摄像单元的铅垂方向的姿势以外,还基于由所述高低变化获取单元获取的高低变化,设定所述运动矢量的获取区域。
3.根据权利要求1所述的图像处理装置,其特征在于,
所述设定单元在所述摄像单元摄像得到的图像为给定的亮度以下的情况下,使所述运动矢量获取单元对所述运动矢量的获取无效。
4.根据权利要求1所述的图像处理装置,其特征在于,还具备:
抖动量推定单元,基于由所述运动矢量获取单元从由所述设定单元设定的运动矢量的获取区域获取的运动矢量,推定作为由所述摄像单元摄像得到的图像的帧间的抖动量;以及
位置对齐单元,基于由所述抖动量推定单元推定的抖动量,进行所述帧间的特征点的位置对齐。
5.根据权利要求1所述的图像处理装置,其特征在于,
所述图像处理装置配备于移动体。
6.一种记录介质,记录有计算机可读的程序,所述程序使该计算机作为如下单元发挥功能:
运动矢量获取单元,从由摄像单元输入的图像获取运动矢量;
姿势获取单元,获取摄像单元的铅垂方向的姿势;以及
设定单元,基于由所述姿势获取单元获取的所述摄像单元的铅垂方向的姿势,设定所述运动矢量获取单元应获取的运动矢量的获取区域,
所述设定单元在所述摄像单元的摄像光轴方向相对于水平方向成为仰角的情况下,扩大所述铅垂方向上的所述运动矢量的获取区域,
所述设定单元在所述摄像单元的摄像光轴方向相对于水平方向成为俯角的情况下,缩小所述铅垂方向上的所述运动矢量的获取区域。
7.一种图像处理方法,其特征在于,包括:
运动矢量获取步骤,从由摄像单元输入的图像获取运动矢量;
姿势获取步骤,获取所述摄像单元的铅垂方向的姿势;以及
设定步骤,基于由所述姿势获取步骤获取的所述摄像单元的铅垂方向的姿势,设定所述图像上的所述运动矢量获取步骤应获取的运动矢量的获取区域,
在所述设定步骤中,在所述摄像单元的摄像光轴方向相对于水平方向成为仰角的情况下,扩大所述铅垂方向上的所述运动矢量的获取区域,
在所述设定步骤中,在所述摄像单元的摄像光轴方向相对于水平方向成为俯角的情况下,缩小所述铅垂方向上的所述运动矢量的获取区域。
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2017-059145 | 2017-03-24 | ||
JP2017059145A JP2018164146A (ja) | 2017-03-24 | 2017-03-24 | 画像処理装置、画像処理方法、及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
CN108632528A CN108632528A (zh) | 2018-10-09 |
CN108632528B true CN108632528B (zh) | 2020-08-14 |
Family
ID=63583778
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN201810237892.5A Active CN108632528B (zh) | 2017-03-24 | 2018-03-21 | 图像处理装置、图像处理方法以及记录介质 |
Country Status (3)
Country | Link |
---|---|
US (1) | US10560631B2 (zh) |
JP (1) | JP2018164146A (zh) |
CN (1) | CN108632528B (zh) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11722771B2 (en) * | 2018-12-28 | 2023-08-08 | Canon Kabushiki Kaisha | Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3679988B2 (ja) * | 2000-09-28 | 2005-08-03 | 株式会社東芝 | 画像処理装置及び画像処理方法 |
JP3866957B2 (ja) * | 2001-10-23 | 2007-01-10 | オリンパス株式会社 | 画像合成装置 |
JP2004221757A (ja) * | 2003-01-10 | 2004-08-05 | Renesas Technology Corp | 動き検出装置及び探索領域形状可変動き検出器 |
JP2004357202A (ja) * | 2003-05-30 | 2004-12-16 | Canon Inc | 撮影装置 |
JP4274233B2 (ja) * | 2006-11-30 | 2009-06-03 | ソニー株式会社 | 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム |
JP2008203992A (ja) | 2007-02-16 | 2008-09-04 | Omron Corp | 検出装置および方法、並びに、プログラム |
EP2214403B1 (en) * | 2007-12-03 | 2012-07-25 | Panasonic Corporation | Image processing device, photographing device, reproducing device, integrated circuit, and image processing method |
JP2010104005A (ja) | 2009-11-13 | 2010-05-06 | Casio Computer Co Ltd | 撮像装置及びそのプログラム |
JP5778998B2 (ja) * | 2010-06-04 | 2015-09-16 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 撮像装置、画像生成方法およびコンピュータプログラム |
JP6178646B2 (ja) | 2013-07-10 | 2017-08-09 | キヤノン株式会社 | 撮像装置及び像振れ補正処理方法 |
JP2015195569A (ja) * | 2014-03-25 | 2015-11-05 | パナソニック インテレクチュアル プロパティ コーポレーション オブアメリカPanasonic Intellectual Property Corporation of America | 移動体用撮影装置 |
JP6395506B2 (ja) | 2014-08-22 | 2018-09-26 | キヤノン株式会社 | 画像処理装置および方法、プログラム、並びに撮像装置 |
JP6488749B2 (ja) * | 2015-02-13 | 2019-03-27 | 株式会社デンソー | カメラ校正装置 |
JP6657925B2 (ja) | 2015-06-04 | 2020-03-04 | ソニー株式会社 | 車載カメラ・システム並びに画像処理装置 |
-
2017
- 2017-03-24 JP JP2017059145A patent/JP2018164146A/ja active Pending
-
2018
- 2018-03-20 US US15/926,464 patent/US10560631B2/en active Active
- 2018-03-21 CN CN201810237892.5A patent/CN108632528B/zh active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018164146A (ja) | 2018-10-18 |
US20180278846A1 (en) | 2018-09-27 |
CN108632528A (zh) | 2018-10-09 |
US10560631B2 (en) | 2020-02-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6395506B2 (ja) | 画像処理装置および方法、プログラム、並びに撮像装置 | |
EP2053844B1 (en) | Image processing device, image processing method, and program | |
JP5451593B2 (ja) | 撮像装置、撮像方法 | |
US20130107066A1 (en) | Sensor aided video stabilization | |
TWI394435B (zh) | 用於測定一成像裝置之移動的方法及系統 | |
CN106998425B (zh) | 振动检测设备、振动检测方法和摄像设备 | |
KR20160113887A (ko) | 영상안정화장치 및 방법 | |
JP5572031B2 (ja) | 撮像装置及びその制御方法 | |
EP2815569A1 (en) | Video image stabilization | |
CN107040713B (zh) | 运动矢量检测设备及其控制方法和摄像设备 | |
US20170150054A1 (en) | Image pickup apparatus for detecting moving amount of main subject or background, method for controlling image pickup apparatus, and storage medium | |
US10013632B2 (en) | Object tracking apparatus, control method therefor and storage medium | |
US20130107064A1 (en) | Sensor aided image stabilization | |
CN108632528B (zh) | 图像处理装置、图像处理方法以及记录介质 | |
JP2009159109A (ja) | 自動撮像装置及び自動撮像方法 | |
JP2021111929A (ja) | 撮像装置、撮像装置の制御方法およびプログラム | |
JP2021129268A (ja) | 撮像装置およびその制御方法 | |
JP2010074315A (ja) | 被写体追尾方法及び撮像装置 | |
JP2017121042A (ja) | 被写体追尾装置、その制御方法、および制御プログラム、並びに撮像装置 | |
JP5539565B2 (ja) | 撮像装置及び被写体追跡方法 | |
WO2016009199A2 (en) | Minimisation of blur in still image capture | |
CN106454066B (zh) | 图像处理设备及其控制方法 | |
US9781337B2 (en) | Image processing device, image processing method, and recording medium for trimming an image based on motion information | |
JP5247419B2 (ja) | 撮像装置および被写体追跡方法 | |
JP2010028418A (ja) | 撮像装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |