CN112188037B - 生成陀螺仪旋转方向的方法及计算机设备 - Google Patents
生成陀螺仪旋转方向的方法及计算机设备 Download PDFInfo
- Publication number
- CN112188037B CN112188037B CN202011018567.3A CN202011018567A CN112188037B CN 112188037 B CN112188037 B CN 112188037B CN 202011018567 A CN202011018567 A CN 202011018567A CN 112188037 B CN112188037 B CN 112188037B
- Authority
- CN
- China
- Prior art keywords
- acceleration
- coordinate system
- gyroscope
- imu
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/262—Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
- H04N5/2621—Cameras specially adapted for the electronic generation of special effects during image pickup, e.g. digital cameras, camcorders, video cameras having integrated special effects capability
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/11—Complex mathematical operations for solving equations, e.g. nonlinear equations, general mathematical optimization problems
- G06F17/13—Differential equations
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/222—Studio circuitry; Studio devices; Studio equipment
- H04N5/2228—Video assist systems used in motion picture production, e.g. video cameras connected to viewfinders of motion picture cameras or related video signal processing
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01P—MEASURING LINEAR OR ANGULAR SPEED, ACCELERATION, DECELERATION, OR SHOCK; INDICATING PRESENCE, ABSENCE, OR DIRECTION, OF MOVEMENT
- G01P13/00—Indicating or recording presence, absence, or direction, of movement
- G01P13/02—Indicating direction only, e.g. by weather vane
- G01P13/04—Indicating positive or negative direction of a linear movement or clockwise or anti-clockwise direction of a rotational movement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/15—Correlation function computation including computation of convolution operations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F17/00—Digital computing or data processing equipment or methods, specially adapted for specific functions
- G06F17/10—Complex mathematical operations
- G06F17/16—Matrix or vector computation, e.g. matrix-matrix or matrix-vector multiplication, matrix factorization
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/698—Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C21/00—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
- G01C21/10—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration
- G01C21/12—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning
- G01C21/16—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation
- G01C21/165—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments
- G01C21/1656—Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 by using measurements of speed or acceleration executed aboard the object being navigated; Dead reckoning by integrating acceleration or speed, i.e. inertial navigation combined with non-inertial navigation instruments with passive imaging devices, e.g. cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Mathematical Physics (AREA)
- Mathematical Analysis (AREA)
- Mathematical Optimization (AREA)
- Pure & Applied Mathematics (AREA)
- Computational Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Data Mining & Analysis (AREA)
- Signal Processing (AREA)
- Multimedia (AREA)
- Algebra (AREA)
- General Engineering & Computer Science (AREA)
- Software Systems (AREA)
- Databases & Information Systems (AREA)
- Computing Systems (AREA)
- Operations Research (AREA)
- Gyroscopes (AREA)
- Studio Devices (AREA)
Abstract
本申请适用于视频处理领域,提供了一种生成陀螺仪旋转方向的方法、实现子弹时间拍摄效果的方法、计算机可读存储介质、计算机设备及相机。所述方法包括:实时获取IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;根据加速度分量确定陀螺仪旋转方向。本申请的方法简单,运行速度快高,鲁棒性好。
Description
技术领域
本申请属于视频处理领域,尤其涉及一种生成陀螺仪旋转方向的方法、实现子弹时间拍摄效果的方法、装置、计算机可读存储介质、计算机设备及相机。
背景技术
子弹时间(Bullet time)是一种使用在电影、电视广告或电脑游戏中,用计算机辅助的摄影技术模拟变速特效,例如强化的慢镜头、时间静止等效果。子弹时间的特点是不但在时间上极端变化,而且在空间上极端变化:在慢镜头的同时拍摄角度(观众视角)也围绕场景旋转。然而,子弹时间这一视觉特效看似华丽,但制作的成品效果往往需要人为精心剪辑,如果不进行人为调整视角剪辑,生成的视频就可能由于拍摄者没有规律的旋转导致生成的视频画面中人或景物上下波动,变化不稳定,容易让人产生眩晕感。
发明内容
本申请实施例在于提供一种生成陀螺仪旋转方向的方法、实现子弹时间拍摄效果的方法、装置、计算机可读存储介质、计算机设备及相机,旨在至少解决以上问题之一。
第一方面,本申请提供了一种生成陀螺仪旋转方向的方法,所述方法包括:
实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向。
第二方面,本申请提供了一种生成陀螺仪旋转方向的装置,所述装置包括:
估计模块,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块,用于根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向。
第三方面,本申请提供了一种实现子弹时间拍摄效果的方法,所述方法包括:
获取相机围绕拍摄目标旋转时拍摄的全景视频;
执行如所述的生成陀螺仪旋转方向的方法的步骤;
根据子弹时间的陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
第四方面,本申请提供了一种实现子弹时间拍摄效果的装置,所述装置包括:
获取模块,用于获取相机围绕拍摄目标旋转时拍摄的全景视频;
估计模块,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块,用于根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向;
生成模块,用于根据子弹时间的陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
第五方面,本申请提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如所述的生成陀螺仪旋转方向的方法或如所述的实现子弹时间拍摄效果的方法的步骤。
第六方面,本申请提供了一种计算机设备,包括:
一个或多个处理器;
存储器;以及
一个或多个计算机程序,所述处理器和所述存储器通过总线连接,其中所述一个或多个计算机程序被存储在所述存储器中,并且被配置成由所述一个或多个处理器执行,所述处理器执行所述计算机程序时实现如所述的生成陀螺仪旋转方向的方法或如所述的实现子弹时间拍摄效果的方法的步骤。
第七方面,本申请提供了一种相机,包括:
一个或多个处理器;
存储器;以及
一个或多个计算机程序,所述处理器和所述存储器通过总线连接,其中所述一个或多个计算机程序被存储在所述存储器中,并且被配置成由所述一个或多个处理器执行,所述处理器执行所述计算机程序时实现如所述的生成陀螺仪旋转方向的方法或如所述的实现子弹时间拍摄效果的方法的步骤。
由于相机配件的原因,导致用户可能会按照不同的方式安装相机,例如,相机平行于相机旋转时的旋转轴,或者,相机垂直于相机旋转时的旋转轴,因此需要不同的朝向处理。在本申请实施例中,由于获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并对第一加速度值进行处理得到第四加速度,再根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向。因此本申请可以实时判断陀螺仪旋转方向,可以无需人机交互或后期精心剪辑就可以生成视觉效果稳定的子弹时间视频,且本申请的方法简单,运行速度快高,鲁棒性好。
附图说明
图1是本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的应用场景示意图。
图2是本申请一实施例提供的生成陀螺仪旋转方向的方法的流程图。
图3至8是分析陀螺仪旋转方向的示意图。
图9是本申请一实施例提供的生成陀螺仪旋转方向的装置示意图。
图10是本申请一实施例提供的实现子弹时间拍摄效果的装置示意图。
图11是本申请一实施例提供的计算机设备的具体结构框图。
图12是本申请一实施例提供的相机的具体结构框图。
具体实施方式
为了使本申请的目的、技术方案及有益效果更加清楚明白,以下结合附图及实施例,对本申请进行进一步详细说明。应当理解,此处所描述的具体实施例仅仅用以解释本申请,并不用于限定本申请。
为了说明本申请所述的技术方案,下面通过具体实施例来进行说明。
本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的应用场景可以是计算机设备或相机,计算机设备或相机执行本申请一实施例提供的生成陀螺仪旋转方向的方法确定陀螺仪旋转方向,或者,计算机设备或相机执行本申请一实施例提供的实现子弹时间拍摄效果的方法时先执行本申请一实施例提供的生成陀螺仪旋转方向的方法得到陀螺仪旋转方向,然后根据陀螺仪旋转方向生成全景视频中陀螺仪方向对应的画面。本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的应用场景也可以包括相连接的计算机设备100和相机200(如图1所示)。计算机设备100和相机200中可运行至少一个应用程序。计算机设备100可以是服务器、台式计算机、移动终端等,移动终端包括手机、平板电脑、笔记本电脑、个人数字助理等。相机200可以是普通的相机或者全景相机等。普通的相机是指用于拍摄平面图像和平面视频的拍摄装置。计算机设备100或者是相机200执行本申请一实施例提供的生成陀螺仪旋转方向的方法确定陀螺仪旋转方向,或者,计算机设备或相机执行本申请一实施例提供的实现子弹时间拍摄效果的方法时先执行本申请一实施例提供的生成陀螺仪旋转方向的方法得到陀螺仪旋转方向,然后根据陀螺仪旋转方向生成全景视频中陀螺仪方向对应的画面。
请参阅图2,是本申请一实施例提供的生成陀螺仪旋转方向的方法的流程图,本实施例主要以该生成陀螺仪旋转方向的方法应用于计算机设备或相机为例来举例说明,本申请一实施例提供的生成陀螺仪旋转方向的方法包括以下步骤:
S101、实时获取IMU(Inertial measurement unit,惯性测量单元)的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态。
IMU是测量物体三轴姿态角(或角速度值)以及加速度值的装置。一般的,一个IMU包含了三轴加速度计和三轴陀螺仪,加速度计检测物体在载体坐标***独立三轴的加速度信号,而陀螺仪检测载体相对于导航坐标系的角速度信号,测量物体在三维空间中的角速度值和加速度值,并以此解算出物体的姿态。
在本申请一实施例中,实时获取IMU的加速度值和角速度值具体可以是:利用重力感应器读取三轴加速度计的加速度值,利用角速度感应器读取三轴陀螺仪的角速度值。
所述估计IMU到世界坐标系的姿态具体可以是使用卡尔曼滤波器估计 IMU到世界坐标系的姿态。具体可以是:利用扩展卡尔曼滤波结合所述加速度值和角速度值,估计得到IMU到世界坐标系的旋转量具体包括以下步骤:
S1012、利用第K时刻的角速度值ωk计算第K时刻的状态转移矩阵Φ(ωk);
具体为根据公式Φ(ωk)=exp(-[ωk·Δt]×)计算第K时刻的状态转移矩阵Φ(ωk),Δt表示陀螺仪数据的采样时间间隔。
S1014、由第k时刻的加速度值dk更新观测量的噪声方差矩阵Rk,计算观测转移雅克比矩阵Hk,计算当前观测量和估计观测量误差ek;
S1015、更新第k时刻的最优卡尔曼增益矩阵Kk;
S1016、根据最优卡尔曼增益矩阵Kk和估计观测量误差ek更新IMU到世界坐标系的第k时刻的状态旋转后验估计量和过程协方差后验估计矩阵/>将更新后的所述状态旋转后验估计量/>作为IMU到世界坐标系的旋转量/>
在本申请一实施例中,S101之后还可以包括以下步骤:利用低通滤波对第一加速度值进行降噪处理,得到经过低通滤波和降噪后的第一加速度值d′i,具体包括:
通过公式d′i=α·di+(1-α)·Ri·d′i-1对第一加速度值进行低通滤波和降噪处理,其中,d′i表示第i时刻经过低通滤波和降噪后的第一加速度值,di表示第i时刻的第一加速度值,Ri为陀螺仪第i帧视频的相对旋转量, Ri=exp[-ωi·Δt]×,ωi表示第i时刻的角速度值,d′i-1表示第i-1时刻经过低通滤波和降噪后的第一加速度值,α表示平滑因子,其中fc表示低通滤波的截止频率,Rc表示时间常数,Δt表示陀螺仪数据的采样时间间隔。
扩展卡尔曼滤波(Extended Kalman Filtering):扩展卡尔曼滤波是将非线性***线性化,然后进行卡尔曼滤波,卡尔曼滤波是一种高效率的递归滤波器,它能够从一系列的不完全包含噪声的测量中,估计动态***的状态。
S102、将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值。
在本申请一实施例中,S102具体可以为:
S103、在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度。
在本申请一实施例中,S103具体可以为:
高通滤波器(High-pass filter),又称低截止滤波器、低阻滤波器,允许高于某一截频的频率通过,而大大衰减较低频率的一种滤波器。它去掉了信号中不必要的低频成分或者说去掉了低频干扰。
在本申请一实施例中,所述对第二加速度进行过滤之前,所述方法还可以包括以下步骤:
在世界坐标系中,在第k时刻,对第二加速度值做去噪处理,所述去噪处理可以采用巴特沃斯低通滤波器来处理,巴特沃斯低通滤波器的公式为/>其中,Hb(w)表示低通滤波器的介质,n为滤波器的阶数,可由预设值获得,例如n=4,w为频率,wc为截止频率,巴特沃斯低通滤波器的截止频率可预设为/>(这是归一化后的截止频率,即截止频率除以采样频率,以角频率的方式表示)。从而消除噪声的影响,让结果更稳定一些。
巴特沃斯滤波器(Butterworth filter)是电子滤波器的一种,它也被称作最大平坦滤波器。巴特沃斯滤波器的特点是通频带内的频率响应曲线最大限度平坦,没有纹波,而在阻频带则逐渐下降为零。
S104、将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z 轴的加速度分量。
在本申请一实施例中,S104具体可以为:
S105、根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向。
在本申请一实施例中,所述根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向具体可以为:
比较第四加速度的X、Y、Z轴的加速度分量的大小,得到最大加速度分量对应的轴,确定陀螺仪旋转方向为与最大加速度分量对应的、且与最大加速度分量的方向同向的轴朝相机旋转时的旋转轴的方向。
在本申请一实施例中,所述根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向之后,所述方法还可以包括:
将所述陀螺仪旋转方向作为相机的旋转方向,通过所述陀螺仪旋转方向确定相机与所述旋转轴的位置关系。
如图3所示,若第四加速度的Y轴的加速度分量大于第四加速度的X轴和 Z轴的加速度分量,且加速度分量的方向与Y轴的正半轴同向,说明此时陀螺仪旋转方向为Y轴正半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 Y轴正半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机垂直于相机旋转时的旋转轴,且相机的顶部朝相机旋转时的旋转轴。
如图4所示,若第四加速度的Z轴的加速度分量大于第四加速度的X轴和 Y轴的加速度分量,且加速度分量的方向与Z轴的负半轴同向,说明此时陀螺仪旋转方向为Z轴负半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 Z轴负半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机平行于相机旋转时的旋转轴,则相机与旋转轴的位置关系为相机的第一侧面朝相机旋转时的旋转轴。
如图5所示,若第四加速度的Y轴的加速度分量大于第四加速度的X轴和 Z轴的加速度分量,且加速度分量的方向与Y轴的负半轴同向,说明此时陀螺仪旋转方向为Y轴负半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 Y轴负半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机垂直于相机旋转时的旋转轴,则相机与旋转轴的位置关系为相机的底部朝相机旋转时的旋转轴。
如图6所示,若第四加速度的Z轴的加速度分量大于第四加速度的X轴和 Y轴的加速度分量,且加速度分量的方向与Z轴的正半轴同向,说明此时陀螺仪旋转方向为Z轴正半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 Z轴正半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机平行于相机旋转时的旋转轴,则相机与旋转轴的位置关系为相机的第二侧面朝相机旋转时的旋转轴。
如图7所示,若第四加速度的X轴的加速度分量大于第四加速度的Y轴和Z轴的加速度分量,且加速度分量的方向与X轴的正半轴同向,说明此时陀螺仪旋转方向为X轴正半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 X轴正半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机平行于相机旋转时的旋转轴,则相机与旋转轴的位置关系为相机的第三侧面朝相机旋转时的旋转轴。
如图8所示,若第四加速度的X轴的加速度分量大于第四加速度的Y轴和 Z轴的加速度分量,且加速度分量的方向与X轴的负半轴同向,说明此时陀螺仪旋转方向为X轴负半轴朝相机旋转时的旋转轴的方向,即相机的旋转方向为 X轴负半轴朝相机旋转时的旋转轴的方向。通过所述陀螺仪旋转方向确定相机垂直于相机旋转时的旋转轴,则相机与旋转轴的位置关系为相机的第四侧面朝相机旋转时的旋转轴。
以上所述仅为本发明的较佳实施例而已,相机用其他角度朝相机旋转时的旋转轴旋转时,陀螺仪旋转方向的分析如图3至图8示例所示,在此不再赘述。
请参阅图9,本申请一实施例提供的生成陀螺仪旋转方向的装置可以是运行于计算机设备或相机中的一个计算机程序或一段程序代码,例如该生成陀螺仪旋转方向的装置为一个应用软件;该生成陀螺仪旋转方向的装置可以用于执行本申请实施例提供的生成陀螺仪旋转方向的方法中的相应步骤。本申请一实施例提供的生成陀螺仪旋转方向的装置包括:
估计模块11,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块12,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块13,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块14,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块15,用于根据第四加速度的X、Y、Z轴的加速度分量确定相机的旋转方向,将相机的旋转方向作为陀螺仪旋转方向。
本申请一实施例提供的生成陀螺仪旋转方向的装置与本申请一实施例提供的生成陀螺仪旋转方向的方法属于同一构思,其具体实现过程详见说明书全文,此处不再赘述。
本申请一实施例还提供了一种实现子弹时间拍摄效果的方法,本实施例主要以该实现子弹时间拍摄效果的方法应用于计算机设备或相机为例来举例说明,本申请一实施例提供的实现子弹时间拍摄效果的方法与本申请一实施例生成陀螺仪旋转方向的方法的区别在于:
在S101之前,还包括以下步骤:获取相机围绕拍摄目标旋转时拍摄的全景视频;
在S105之后,还包括以下步骤:根据子弹时间的陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
请参阅图10,本申请一实施例提供的实现子弹时间拍摄效果的装置可以是运行于计算机设备或相机中的一个计算机程序或一段程序代码,例如该实现子弹时间拍摄效果的装置为一个应用软件;该实现子弹时间拍摄效果的装置可以用于执行本申请实施例提供的实现子弹时间拍摄效果的方法中的相应步骤。本申请一实施例提供的实现子弹时间拍摄效果的装置包括:
获取模块21,用于获取相机围绕拍摄目标旋转时拍摄的全景视频;
估计模块22,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块23,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块24,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块25,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块26,用于根据第四加速度的X、Y、Z轴的加速度分量确定相机的旋转方向,将相机的旋转方向作为陀螺仪旋转方向;
生成模块27,用于根据子弹时间的陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
本申请一实施例提供的实现子弹时间拍摄效果的装置与本申请一实施例提供的实现子弹时间拍摄效果的方法属于同一构思,其具体实现过程详见说明书全文,此处不再赘述。
本申请一实施例还提供了一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,所述计算机程序被处理器执行时实现如本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的步骤。
图11示出了本申请一实施例提供的计算机设备的具体结构框图,该计算机设备可以是图1中所示的计算机设备,一种计算机设备100包括:一个或多个处理器101、存储器102、以及一个或多个计算机程序,其中所述处理器101 和所述存储器102通过总线连接,所述一个或多个计算机程序被存储在所述存储器102中,并且被配置成由所述一个或多个处理器101执行,所述处理器101 执行所述计算机程序时实现如本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的步骤。
计算机设备可以是服务器、台式计算机、移动终端等,移动终端包括手机、平板电脑、笔记本电脑、个人数字助理等。
图12示出了本申请一实施例提供的相机的具体结构框图,该相机可以是图 1中所示的相机,一种相机200包括:一个或多个处理器201、存储器202、以及一个或多个计算机程序,其中所述处理器201和所述存储器202通过总线连接,所述一个或多个计算机程序被存储在所述存储器202中,并且被配置成由所述一个或多个处理器201执行,所述处理器201执行所述计算机程序时实现如本申请一实施例提供的生成陀螺仪旋转方向的方法或实现子弹时间拍摄效果的方法的步骤。
由于相机配件的原因,导致用户可能会按照不同的方式安装相机,例如,相机平行于相机旋转时的旋转轴,或者,相机垂直于相机旋转时的旋转轴,因此需要不同的朝向处理。在本申请实施例中,由于获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并对第一加速度值进行处理得到第四加速度,再根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向。因此本申请可以实时判断陀螺仪旋转方向,可以无需人机交互或后期精心剪辑就可以生成视觉效果稳定的子弹时间视频,且本申请的方法简单,运行速度快高,鲁棒性好。
应该理解的是,本申请各实施例中的各个步骤并不是必然按照步骤标号指示的顺序依次执行。除非本文中有明确的说明,这些步骤的执行并没有严格的顺序限制,这些步骤可以以其它的顺序执行。而且,各实施例中至少一部分步骤可以包括多个子步骤或者多个阶段,这些子步骤或者阶段并不必然是在同一时刻执行完成,而是可以在不同的时刻执行,这些子步骤或者阶段的执行顺序也不必然是依次进行,而是可以与其它步骤或者其它步骤的子步骤或者阶段的至少一部分轮流或者交替地执行。
本领域普通技术人员可以理解实现上述实施例方法中的全部或部分流程,是可以通过计算机程序来指令相关的硬件来完成,所述的程序可存储于一非易失性计算机可读取存储介质中,该程序在执行时,可包括如上述各方法的实施例的流程。其中,本申请所提供的各实施例中所使用的对存储器、存储、数据库或其它介质的任何引用,均可包括非易失性和/或易失性存储器。非易失性存储器可包括只读存储器(ROM)、可编程ROM(PROM)、电可编程ROM(EPROM)、电可擦除可编程ROM(EEPROM)或闪存。易失性存储器可包括随机存取存储器(RAM)或者外部高速缓冲存储器。作为说明而非局限,RAM以多种形式可得,诸如静态RAM(SRAM)、动态RAM(DRAM)、同步DRAM(SDRAM)、双数据率SDRAM(DDRSDRAM)、增强型SDRAM(ESDRAM)、同步链路 (Synchlink)DRAM(SLDRAM)、存储器总线(Rambus)直接RAM(RDRAM)、直接存储器总线动态RAM(DRDRAM)、以及存储器总线动态RAM(RDRAM)等。
以上实施例的各技术特征可以进行任意的组合,为使描述简洁,未对上述实施例中的各个技术特征所有可能的组合都进行描述,然而,只要这些技术特征的组合不存在矛盾,都应当认为是本说明书记载的范围。
以上实施例仅表达了本发明的几种实施方式,其描述较为具体和详细,但并不能因此而理解为对发明专利范围的限制。应当指出的是,对于本领域的普通技术人员来说,在不脱离本发明构思的前提下,还可以做出若干变形和改进,这些都属于本发明的保护范围。因此,本发明专利的保护范围应以所附权利要求为准。
Claims (16)
1.一种生成陀螺仪旋转方向的方法,其特征在于,所述方法包括:
实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
比较第四加速度的X、Y、Z轴的加速度分量的大小,得到最大加速度分量对应的轴,确定陀螺仪旋转方向为与最大加速度分量对应的、且与最大加速度分量的方向同向的轴朝相机旋转时的旋转轴的方向。
2.如权利要求1所述的生成陀螺仪旋转方向的方法,其特征在于,所述估计IMU到世界坐标系的姿态具体是:使用卡尔曼滤波器估计IMU到世界坐标系的姿态。
3.如权利要求2所述的生成陀螺仪旋转方向的方法,其特征在于,
所述使用卡尔曼滤波器估计IMU到世界坐标系的姿态具体是:利用扩展卡尔曼滤波结合所述加速度值和角速度值,估计得到IMU到世界坐标系的旋转量。
4.如权利要求1所述的生成陀螺仪旋转方向的方法,其特征在于,所述将所述加速度值作为第一加速度值之后,所述方法还包括:利用低通滤波对第一加速度值进行降噪处理,得到经过低通滤波和降噪后的第一加速度值d′i。
5.如权利要求4所述的生成陀螺仪旋转方向的方法,其特征在于,所述利用低通滤波对第一加速度值进行降噪处理,得到经过低通滤波和降噪后的第一加速度值d′i具体包括:
10.如权利要求1所述的生成陀螺仪旋转方向的方法,其特征在于,根据第四加速度的X、Y、Z轴的加速度分量确定陀螺仪旋转方向之后,所述方法还包括:
将所述陀螺仪旋转方向作为相机的旋转方向,通过所述陀螺仪旋转方向确定相机与所述旋转轴的位置关系。
11.一种生成陀螺仪旋转方向的装置,其特征在于,所述装置包括:
估计模块,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块,用于比较第四加速度的X、Y、Z轴的加速度分量的大小,得到最大加速度分量对应的轴,确定陀螺仪旋转方向为与最大加速度分量对应的、且与最大加速度分量的方向同向的轴朝相机旋转时的旋转轴的方向。
12.一种实现子弹时间拍摄效果的方法,其特征在于,所述方法包括:
获取相机围绕拍摄目标旋转时拍摄的全景视频;
执行如权利要求1至10任一项所述的生成陀螺仪旋转方向的方法的步骤;
根据陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
13.一种实现子弹时间拍摄效果的装置,其特征在于,所述装置包括:
获取模块,用于获取相机围绕拍摄目标旋转时拍摄的全景视频;
估计模块,用于实时获取惯性测量单元IMU的加速度值和角速度值,将所述加速度值作为第一加速度值,并估计IMU到世界坐标系的姿态;
转换模块,用于将第一加速度值从IMU坐标系转换到世界坐标系,得到第二加速度值;
过滤模块,用于在世界坐标系中,对第二加速度进行过滤,过滤掉重力加速度,得到第三加速度;
加速度分量确定模块,用于将第三加速度转换到IMU坐标系下,得到第四加速度的X、Y、Z轴的加速度分量;
方向确定模块,用于比较第四加速度的X、Y、Z轴的加速度分量的大小,得到最大加速度分量对应的轴,确定陀螺仪旋转方向为与最大加速度分量对应的、且与最大加速度分量的方向同向的轴朝相机旋转时的旋转轴的方向;
生成模块,用于根据陀螺仪旋转方向生成全景视频中陀螺仪旋转方向对应的画面。
14.一种计算机可读存储介质,所述计算机可读存储介质存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现如权利要求1至10任一项所述的生成陀螺仪旋转方向的方法或如权利要求12所述的实现子弹时间拍摄效果的方法的步骤。
15.一种计算机设备,包括:
一个或多个处理器;
存储器;以及
一个或多个计算机程序,所述处理器和所述存储器通过总线连接,其中所述一个或多个计算机程序被存储在所述存储器中,并且被配置成由所述一个或多个处理器执行,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至10任一项所述的生成陀螺仪旋转方向的方法或如权利要求12所述的实现子弹时间拍摄效果的方法的步骤。
16.一种相机,包括:
一个或多个处理器;
存储器;以及
一个或多个计算机程序,所述处理器和所述存储器通过总线连接,其中所述一个或多个计算机程序被存储在所述存储器中,并且被配置成由所述一个或多个处理器执行,其特征在于,所述处理器执行所述计算机程序时实现如权利要求1至10任一项所述的生成陀螺仪旋转方向的方法或如权利要求12所述的实现子弹时间拍摄效果的方法的步骤。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011018567.3A CN112188037B (zh) | 2020-09-24 | 2020-09-24 | 生成陀螺仪旋转方向的方法及计算机设备 |
JP2023519149A JP2023543250A (ja) | 2020-09-24 | 2021-09-24 | ジャイロスコープ回転方向を生成する方法及びコンピュータ機器 |
PCT/CN2021/120272 WO2022063221A1 (zh) | 2020-09-24 | 2021-09-24 | 生成陀螺仪旋转方向的方法及计算机设备 |
US18/028,516 US20230362317A1 (en) | 2020-09-24 | 2021-09-24 | Method for generating rotation direction of gyroscope and computer device |
EP21871590.2A EP4221181A1 (en) | 2020-09-24 | 2021-09-24 | Method for generating rotation direction of gyroscope and computer device |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
CN202011018567.3A CN112188037B (zh) | 2020-09-24 | 2020-09-24 | 生成陀螺仪旋转方向的方法及计算机设备 |
Publications (2)
Publication Number | Publication Date |
---|---|
CN112188037A CN112188037A (zh) | 2021-01-05 |
CN112188037B true CN112188037B (zh) | 2023-03-24 |
Family
ID=73943426
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
CN202011018567.3A Active CN112188037B (zh) | 2020-09-24 | 2020-09-24 | 生成陀螺仪旋转方向的方法及计算机设备 |
Country Status (5)
Country | Link |
---|---|
US (1) | US20230362317A1 (zh) |
EP (1) | EP4221181A1 (zh) |
JP (1) | JP2023543250A (zh) |
CN (1) | CN112188037B (zh) |
WO (1) | WO2022063221A1 (zh) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN112188037B (zh) * | 2020-09-24 | 2023-03-24 | 影石创新科技股份有限公司 | 生成陀螺仪旋转方向的方法及计算机设备 |
CN117288187B (zh) * | 2023-11-23 | 2024-02-23 | 北京小米机器人技术有限公司 | 机器人位姿确定方法、装置、电子设备及存储介质 |
Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5794078A (en) * | 1995-09-11 | 1998-08-11 | Nikon Corporation | Image movement correction of camera |
CN101109959A (zh) * | 2007-08-06 | 2008-01-23 | 北京航空航天大学 | 一种适用于任意运动微小型***的定姿*** |
JP2017187506A (ja) * | 2017-07-05 | 2017-10-12 | ヤフー株式会社 | 推定装置、移動方向推定方法及び移動方向推定プログラム |
CN107801014A (zh) * | 2017-10-25 | 2018-03-13 | 深圳岚锋创视网络科技有限公司 | 一种全景视频防抖的方法、装置及便携式终端 |
CN108458714A (zh) * | 2018-01-11 | 2018-08-28 | 山东大学 | 一种姿态检测***中不含重力加速度的欧拉角求解方法 |
CN110383002A (zh) * | 2017-03-08 | 2019-10-25 | 罗伯特·博世有限公司 | 空间取向的确定 |
CN110702107A (zh) * | 2019-10-22 | 2020-01-17 | 北京维盛泰科科技有限公司 | 一种单目视觉惯性组合的定位导航方法 |
CN110887506A (zh) * | 2019-10-14 | 2020-03-17 | 交通运输部水运科学研究所 | 一种受海浪影响的惯性传感器的运动幅度检测方法及*** |
CN110972112A (zh) * | 2019-12-10 | 2020-04-07 | Oppo广东移动通信有限公司 | 地铁运行方向的确定方法、装置、终端及存储介质 |
Family Cites Families (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5614527B2 (ja) * | 2010-03-05 | 2014-10-29 | セイコーエプソン株式会社 | 姿勢情報算出装置、姿勢情報算出システム、姿勢情報算出方法及び姿勢情報算出プログラム |
CN103278177B (zh) * | 2013-04-27 | 2015-07-01 | 中国人民解放军国防科学技术大学 | 基于摄像组网测量的惯性测量组合标定方法 |
CN106959110B (zh) * | 2017-04-06 | 2020-08-11 | 亿航智能设备(广州)有限公司 | 一种云台姿态检测方法及装置 |
WO2019221763A1 (en) * | 2018-05-18 | 2019-11-21 | Ensco, Inc. | Position and orientation tracking system, apparatus and method |
CN109540126B (zh) * | 2018-12-03 | 2020-06-30 | 哈尔滨工业大学 | 一种基于光流法的惯性视觉组合导航方法 |
CN109798891B (zh) * | 2019-01-25 | 2023-04-28 | 上海交通大学 | 基于高精度动作捕捉***的惯性测量单元标定*** |
CN112188037B (zh) * | 2020-09-24 | 2023-03-24 | 影石创新科技股份有限公司 | 生成陀螺仪旋转方向的方法及计算机设备 |
-
2020
- 2020-09-24 CN CN202011018567.3A patent/CN112188037B/zh active Active
-
2021
- 2021-09-24 EP EP21871590.2A patent/EP4221181A1/en active Pending
- 2021-09-24 JP JP2023519149A patent/JP2023543250A/ja active Pending
- 2021-09-24 US US18/028,516 patent/US20230362317A1/en active Pending
- 2021-09-24 WO PCT/CN2021/120272 patent/WO2022063221A1/zh unknown
Patent Citations (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5794078A (en) * | 1995-09-11 | 1998-08-11 | Nikon Corporation | Image movement correction of camera |
CN101109959A (zh) * | 2007-08-06 | 2008-01-23 | 北京航空航天大学 | 一种适用于任意运动微小型***的定姿*** |
CN110383002A (zh) * | 2017-03-08 | 2019-10-25 | 罗伯特·博世有限公司 | 空间取向的确定 |
JP2017187506A (ja) * | 2017-07-05 | 2017-10-12 | ヤフー株式会社 | 推定装置、移動方向推定方法及び移動方向推定プログラム |
CN107801014A (zh) * | 2017-10-25 | 2018-03-13 | 深圳岚锋创视网络科技有限公司 | 一种全景视频防抖的方法、装置及便携式终端 |
CN108458714A (zh) * | 2018-01-11 | 2018-08-28 | 山东大学 | 一种姿态检测***中不含重力加速度的欧拉角求解方法 |
CN110887506A (zh) * | 2019-10-14 | 2020-03-17 | 交通运输部水运科学研究所 | 一种受海浪影响的惯性传感器的运动幅度检测方法及*** |
CN110702107A (zh) * | 2019-10-22 | 2020-01-17 | 北京维盛泰科科技有限公司 | 一种单目视觉惯性组合的定位导航方法 |
CN110972112A (zh) * | 2019-12-10 | 2020-04-07 | Oppo广东移动通信有限公司 | 地铁运行方向的确定方法、装置、终端及存储介质 |
Non-Patent Citations (1)
Title |
---|
一种面向AHRS的改进互补滤波融合算法;杜杉杉等;《国外电子测量技术》;20150315(第03期);全文 * |
Also Published As
Publication number | Publication date |
---|---|
WO2022063221A1 (zh) | 2022-03-31 |
US20230362317A1 (en) | 2023-11-09 |
JP2023543250A (ja) | 2023-10-13 |
EP4221181A1 (en) | 2023-08-02 |
CN112188037A (zh) | 2021-01-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US11057567B2 (en) | Anti-shake method and apparatus for panoramic video, and portable terminal | |
JP6937809B2 (ja) | 制約ベースの回転平滑化を介してデジタルビデオを安定化するためのシステムおよび方法 | |
CN112188037B (zh) | 生成陀螺仪旋转方向的方法及计算机设备 | |
WO2018184423A1 (zh) | 一种全景视频防抖的方法、***及便携式终端 | |
CN111314604B (zh) | 视频防抖方法和装置、电子设备、计算机可读存储介质 | |
CN109029425B (zh) | 一种采用区域滤波的模糊星图复原方法 | |
JPH1124122A (ja) | 手ぶれ画像補正方法および手ぶれ画像補正装置並びにその方法をコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
CN114338994B (zh) | 光学防抖方法、装置、电子设备和计算机可读存储介质 | |
CN109040525B (zh) | 图像处理方法、装置、计算机可读介质及电子设备 | |
CN113395454A (zh) | 图像拍摄的防抖方法与装置、终端及可读存储介质 | |
US20130110451A1 (en) | State estimation apparatus | |
CN109688327B (zh) | 一种全景视频防抖的方法、装置及便携式终端 | |
CN117278854A (zh) | 一种视频防抖方法、装置、电子设备及存储介质 | |
CN110602377B (zh) | 一种视频稳像方法及装置 | |
CN115373429A (zh) | 云台控制方法、装置、计算机设备和存储介质 | |
CN113301249B (zh) | 全景视频处理方法、装置、计算机设备和存储介质 | |
CN110428452B (zh) | 非静态场景点的检测方法、装置、电子设备及存储介质 | |
Zhen et al. | Multi-image motion deblurring aided by inertial sensors | |
Duong et al. | A simple smoother for attitude and position estimation using inertial sensor | |
CN118200726A (zh) | 图像处理方法、装置及拍摄设备 | |
CN108337411B (zh) | 移动终端与镜头组件配合实现平面拍摄的方法和镜头组件 | |
CN116170689A (zh) | 视频生成方法、装置、计算机设备和存储介质 | |
CN111345023B (zh) | 图像消抖方法、装置、终端及计算机可读存储介质 | |
Chan et al. | Image deblurring using a hybrid optimization algorithm | |
CN113992846A (zh) | 姿态角的获取方法、防抖控制方法以及移动终端 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
PB01 | Publication | ||
PB01 | Publication | ||
SE01 | Entry into force of request for substantive examination | ||
SE01 | Entry into force of request for substantive examination | ||
GR01 | Patent grant | ||
GR01 | Patent grant |