JP2020031264A - 信号処理装置、撮像装置、信号処理方法 - Google Patents
信号処理装置、撮像装置、信号処理方法 Download PDFInfo
- Publication number
- JP2020031264A JP2020031264A JP2018153873A JP2018153873A JP2020031264A JP 2020031264 A JP2020031264 A JP 2020031264A JP 2018153873 A JP2018153873 A JP 2018153873A JP 2018153873 A JP2018153873 A JP 2018153873A JP 2020031264 A JP2020031264 A JP 2020031264A
- Authority
- JP
- Japan
- Prior art keywords
- posture
- pixel
- image
- virtual line
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B5/00—Adjustment of optical system relative to image or object surface other than for focusing
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B7/00—Control of exposure by setting shutters, diaphragms or filters, separately or conjointly
- G03B7/08—Control effected solely on the basis of the response, to the intensity of the light received by the camera, of a built-in light-sensitive device
- G03B7/091—Digital circuits
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/689—Motion occurring during a rolling shutter mode
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
- Image Processing (AREA)
Abstract
【課題】撮像画像についてのローリングシャッター歪補正の精度を向上させる。【解決手段】入力画のラインに対応する姿勢情報を算出する。そして算出される姿勢情報が共通となる入力画のライン方向の線である第1仮想線を、姿勢情報に応じて回転させて出力画上の第2仮想線を求める。出力画の各画素については、対応する第2仮想線を算出し、対応する第2仮想線に基づいて姿勢情報を求めるようにする。そして出力画の各画素座標について、対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する。この参照画素に基づいて入力画から出力画を切り出すことで、ラインによってカメラ姿勢が異なる場合でも、精度の高い歪補正が実現されるようにする。【選択図】図1
Description
本技術は信号処理装置、撮像装置、信号処理方法に関し、特に撮像装置(カメラ)のローリングシャッター歪の補正技術に関する。
撮像装置(カメラ)においては、手ぶれ補正として光学式手振れ補正(OIS:Optical Image Stabilizer)や電子式手振れ補正(EIS:Electronic Image Stabilization)が知られており、これらにより撮像装置の振れが画像に与える影響を抑制することができる。
例えば電子式手振れ補正では、画像から動き量を求める方法により手振れを補正するように画像処理が行われる。しかしながら、この方法では、計算処理が複雑であったり、低照度下での動き量の測定精度が低下したり、動被写体による手振れ量の推定誤差が発生したりするため、手振れ補正の精度が低下することがあった。
例えば電子式手振れ補正では、画像から動き量を求める方法により手振れを補正するように画像処理が行われる。しかしながら、この方法では、計算処理が複雑であったり、低照度下での動き量の測定精度が低下したり、動被写体による手振れ量の推定誤差が発生したりするため、手振れ補正の精度が低下することがあった。
これに対し、ジャイロセンサや加速度センサなどにより検出されるモーションセンサ情報を用いる電子式手振れ補正が提案されている。
ところが、モーションセンサ情報を用いる従来の電子式手振れ補正では、移動量に合わせて画像全体の位置を移動させるだけであり、画像面内での位置による移動量の違いに対応することは困難であった。
特に、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサのようなローリングシャッターを用いた撮像素子を用いた場合には、画素のラインごとの露光時間のズレによる一画面内での移動量の違い(フォーカルプレーン現象)に対する対応は行われていなかった。
ところが、モーションセンサ情報を用いる従来の電子式手振れ補正では、移動量に合わせて画像全体の位置を移動させるだけであり、画像面内での位置による移動量の違いに対応することは困難であった。
特に、CMOS(Complementary Metal Oxide Semiconductor)イメージセンサのようなローリングシャッターを用いた撮像素子を用いた場合には、画素のラインごとの露光時間のズレによる一画面内での移動量の違い(フォーカルプレーン現象)に対する対応は行われていなかった。
そこで本出願人は、特許文献1に開示されているように、画像面内での位置による移動量の違いや、一画面内での露光時間のズレによる移動量の違いに対応して手振れ補正を行うことができる撮像装置を提案している。この手振れ補正を採用することで、中央から周辺まで非常に精度よく手振れを補正することができるのに加え、フォーカルプレーン現象による変形も抑制することができる。
上述したように、特許文献1に開示されている手振れ補正により良好な効果を得ることができるが、特にローリングシャッター方式で撮像された画像について、フォーカルプレーン現象による変形(ローリングシャッター歪)をさらに適切に補正することが求められている。
本開示は、このような状況に鑑みて、より高精度の歪補正を実現できるようにすることを目的とする。
本開示は、このような状況に鑑みて、より高精度の歪補正を実現できるようにすることを目的とする。
本技術に係る信号処理装置は、入力画のラインに対応する姿勢情報を算出する姿勢算出部と、算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、を備える。
このような信号処理装置は、ローリングシャッター方式で撮像された画像の歪補正に適用できる。即ちローリングシャッター方式で撮像した画像におけるカメラの姿勢情報は、カメラ姿勢が変化していると、ラインによって異なることになる。カメラ姿勢の変化が大きい場合、第1仮想線としてのラインの姿勢情報を、座標変換して切り出す出力画像について使用すると、必ずしも画素毎の適切な姿勢情報が得られない。そこで第2仮想線を算出し、出力画の画素に対応する姿勢情報を得るようにする。
なお第1仮想線は、1フレームの撮像画像のライン毎、又は間欠的なライン毎に検出されるデータ(例えばIMUサンプル等)から求められる姿勢情報に対応する線であり、例えば入力画のラインに対応する直線である。1フレームに複数の第1仮想線が存在するといえる。1つの第1仮想線に相当するラインの画素は、姿勢情報が同じ値となる画素となる。
第2仮想線は例えば第1仮想線の座標変換で得られる線であるが、例えば直線、折れ線、或いは曲線とすることが想定される。
このような信号処理装置は、ローリングシャッター方式で撮像された画像の歪補正に適用できる。即ちローリングシャッター方式で撮像した画像におけるカメラの姿勢情報は、カメラ姿勢が変化していると、ラインによって異なることになる。カメラ姿勢の変化が大きい場合、第1仮想線としてのラインの姿勢情報を、座標変換して切り出す出力画像について使用すると、必ずしも画素毎の適切な姿勢情報が得られない。そこで第2仮想線を算出し、出力画の画素に対応する姿勢情報を得るようにする。
なお第1仮想線は、1フレームの撮像画像のライン毎、又は間欠的なライン毎に検出されるデータ(例えばIMUサンプル等)から求められる姿勢情報に対応する線であり、例えば入力画のラインに対応する直線である。1フレームに複数の第1仮想線が存在するといえる。1つの第1仮想線に相当するラインの画素は、姿勢情報が同じ値となる画素となる。
第2仮想線は例えば第1仮想線の座標変換で得られる線であるが、例えば直線、折れ線、或いは曲線とすることが想定される。
上記した本技術に係る信号処理装置においては、出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えることが考えられる。
即ち出力画の各画素を得るために、各画素について求められた参照座標により、入力画の画素データを取得し、補間処理を行う。
即ち出力画の各画素を得るために、各画素について求められた参照座標により、入力画の画素データを取得し、補間処理を行う。
上記した本技術に係る信号処理装置においては、前記第2仮想線は、複数の前記第1仮想線のそれぞれについて、それぞれの姿勢情報で示される回転角度の回転が与えられた複数の線であることが考えられる。
即ち第2仮想線は、出力画上で入力画の第1仮想線のそれぞれのラインを、各姿勢情報に対応する回転角度を与えるようにすることで、出力画上で傾きを持つ二次元的に表現される線とする。
即ち第2仮想線は、出力画上で入力画の第1仮想線のそれぞれのラインを、各姿勢情報に対応する回転角度を与えるようにすることで、出力画上で傾きを持つ二次元的に表現される線とする。
上記した本技術に係る信号処理装置においては、前記姿勢対応付け部は、出力画の各画素座標について、前記対応する第2仮想線として、画素座標が挟まれる関係となる2つの第2仮想線を求め、該2つの第2仮想線を用いた処理により画素座標の姿勢情報を求めることが考えられる。
第2仮想線は、出力画上で入力画のラインを投影した、二次元的に表現される線であるが、ライン毎に回転角が変わるため、必ずしも入力画と出力画で格子点(画素座標)が一致しない。そこで画素座標を挟み込む2つの第2仮想線を用いて姿勢情報を求める。
第2仮想線は、出力画上で入力画のラインを投影した、二次元的に表現される線であるが、ライン毎に回転角が変わるため、必ずしも入力画と出力画で格子点(画素座標)が一致しない。そこで画素座標を挟み込む2つの第2仮想線を用いて姿勢情報を求める。
上記した本技術に係る信号処理装置においては、前記姿勢対応付け部は、複数のそれぞれの第2仮想線について、第2仮想線上のベクトルとその第2仮想線上から処理対象である画素座標に向かうベクトルの外積を用いて、該画素座標に対応する第2仮想線となる2つの第2仮想線を判定することが考えられる。
即ち注目画素座標を挟む関係となる2つの第2仮想線をベクトルの外積を用いて判定する。
即ち注目画素座標を挟む関係となる2つの第2仮想線をベクトルの外積を用いて判定する。
上記した本技術に係る信号処理装置においては、前記姿勢対応付け部は、対応する2つの第2仮想線への処理対象の画素座標からの垂線の距離の逆比で線形補間を行って、該画素座標の姿勢情報を求めることが考えられる。
注目画素座標を挟む関係となる2つの第2仮想線は、それぞれ姿勢情報を示す線である。その各姿勢情報を用い、処理対象の画素座標からの2つの第2仮想線の距離の比に応じた補間を行う。
注目画素座標を挟む関係となる2つの第2仮想線は、それぞれ姿勢情報を示す線である。その各姿勢情報を用い、処理対象の画素座標からの2つの第2仮想線の距離の比に応じた補間を行う。
上記した本技術に係る信号処理装置においては、前記姿勢情報は撮像装置の傾きを3次元のベクトルで表す回転ベクトルであることが考えられる。
回転ベクトルとは、ベクトルの向きで回転軸を表し、ベクトルの大きさで回転量(単位 radian)を表すものである。
回転ベクトルとは、ベクトルの向きで回転軸を表し、ベクトルの大きさで回転量(単位 radian)を表すものである。
上記した本技術に係る信号処理装置においては、前記姿勢対応付け部及び前記画像変形部に対して、処理対象とする出力画の各画素座標を順次指示する出力画座標生成部を備えることが考えられる。
例えば画像の各画素を水平方向及び垂直方向に順次指定していくカウンタによりラスタ順などとして各画素が順次姿勢対応付け部と画像変形部での処理対象とされるようにする。
例えば画像の各画素を水平方向及び垂直方向に順次指定していくカウンタによりラスタ順などとして各画素が順次姿勢対応付け部と画像変形部での処理対象とされるようにする。
上記した本技術に係る信号処理装置においては、前記姿勢対応付け部及び前記画像変形部は、座標点を対象とする演算により、出力画の各画素座標の画素値の生成のために参照する入力画の画素座標を計算し、参照座標とすることが考えられる。
つまり画像データ(各画素データ)を使用するものではなく、座標の対応関係を求める演算を行う。
つまり画像データ(各画素データ)を使用するものではなく、座標の対応関係を求める演算を行う。
上記した本技術に係る信号処理装置においては、入力画の画素データを記憶する記憶部を備えることが考えられる。
撮像された入力された入力画は、例えばブロック変換などの必要な処理が施されて記憶部に記憶される。
撮像された入力された入力画は、例えばブロック変換などの必要な処理が施されて記憶部に記憶される。
上記した本技術に係る信号処理装置においては、前記参照座標は、出力画において入力画の姿勢補正とレンズ歪み補正を実現するための参照座標とされていることが考えられる。
撮像され入力された入力画は、レンズを通してイメージャに入射された被写体光の信号であるため、レンズ歪みの影響を受けている。そこで画像(座標)を回転するにあたっては、まず入力画のレンズ歪みの影響を取り除くようにする。
撮像され入力された入力画は、レンズを通してイメージャに入射された被写体光の信号であるため、レンズ歪みの影響を受けている。そこで画像(座標)を回転するにあたっては、まず入力画のレンズ歪みの影響を取り除くようにする。
上記した本技術に係る信号処理装置においては、入力画は、姿勢検出データが対応づけられた撮像画像信号であることが考えられる。
撮像装置(カメラ)によって撮像された撮像画像信号が入力画とされるが、この撮像画像信号にはカメラの姿勢検出データ、例えばIMUサンプルが対応づけられている。
撮像装置(カメラ)によって撮像された撮像画像信号が入力画とされるが、この撮像画像信号にはカメラの姿勢検出データ、例えばIMUサンプルが対応づけられている。
上記した本技術に係る信号処理装置においては、前記姿勢検出データは、角速度データ及び加速度データであることが考えられる。
即ちIMUサンプルが撮像画像信号に対応づけられている。
即ちIMUサンプルが撮像画像信号に対応づけられている。
本技術に係る撮像装置は、光学系を介して入射する被写体光を受光して被写体を撮像する撮像部と、撮像部の撮像時の姿勢検出データを得る検出部と、上記信号処理装置としての姿勢算出部、姿勢対応付け部、画像変形部、参照画素取得部、補間部とを備える。
これにより撮像装置において適切な歪補正を行う信号処理装置が搭載されるものとなる。
これにより撮像装置において適切な歪補正を行う信号処理装置が搭載されるものとなる。
本技術に係る信号処理方法は、入力画のラインに対応する姿勢情報を算出する姿勢算出処理と、算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け処理と、出力画の各画素座標について、前記姿勢対応付け処理で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する変換処理と、を信号処理装置が行う信号処理方法である。
これによりローリングシャッター方式で撮像した画像について、カメラ姿勢変化が大きい場合でも、出力画の画素に対応する姿勢情報を適切に得ることができる。
これによりローリングシャッター方式で撮像した画像について、カメラ姿勢変化が大きい場合でも、出力画の画素に対応する姿勢情報を適切に得ることができる。
本技術によれば、出力画の各画素位置に、適切なカメラ姿勢情報を対応させることが可能になり、姿勢変化が大きくても、歪補正を精度良く行うことができる。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、実施の形態を次の順序で説明する。
<1.第1の実施の形態の信号処理装置の構成>
<2.信号処理装置の動作>
<3.カメラ姿勢対応付け処理>
<4.第2の実施の形態の信号処理装置の構成>
<5.まとめ及び変形例>
<1.第1の実施の形態の信号処理装置の構成>
<2.信号処理装置の動作>
<3.カメラ姿勢対応付け処理>
<4.第2の実施の形態の信号処理装置の構成>
<5.まとめ及び変形例>
<1.第1の実施の形態の信号処理装置の構成と動作概要>
図1に第1の実施の形態の信号処理装置30の構成例を示す。
この図1では撮像装置31の一部の構成を示しており、信号処理装置30は、撮像装置31に内蔵される例とする。
図1に第1の実施の形態の信号処理装置30の構成例を示す。
この図1では撮像装置31の一部の構成を示しており、信号処理装置30は、撮像装置31に内蔵される例とする。
撮像装置31は、IMU(inertial measurement unit:慣性計測装置)10、イメージャ11、及び信号処理装置30を有する。
IMU10は3軸方向の角速度と加速度を検出する装置であり、ここではカメラ姿勢を検出するユニットとして搭載される。IMU10による姿勢検出データ(例えば角速度や加速度のIMUデータ)は、所定のサンプルタイミング毎にイメージャ11に供給される。
なお、姿勢検出データの取得のためには、IMUに限らず各種のモーションセンサが想定される。また姿勢検出の軸方向として6軸または9軸方向の動きを検出可能なものを使用してもよい。
なお、姿勢検出データの取得のためには、IMUに限らず各種のモーションセンサが想定される。また姿勢検出の軸方向として6軸または9軸方向の動きを検出可能なものを使用してもよい。
イメージャ11には、撮像素子部及び撮像信号処理部が設けられている。イメージャ11における撮像素子部は複数の画素が行列状に配置された撮像面を有する。そして撮像素子部は、図示しない光学系により被写体からの光が集光され撮像面に結像される被写体の像を撮像し、その撮像により取得される画像信号を出力する。
得られた画像信号についてはイメージャ11内の撮像信号処理部でAGC(Automatic Gain Control)処理やA/D変換(アナログ−デジタル変換)等の処理が施され、例えばRAW画像データとしてイメージャ11から出力される。例えばRAW画像データは4K×2Kの画素による画像データとして出力される。
得られた画像信号についてはイメージャ11内の撮像信号処理部でAGC(Automatic Gain Control)処理やA/D変換(アナログ−デジタル変換)等の処理が施され、例えばRAW画像データとしてイメージャ11から出力される。例えばRAW画像データは4K×2Kの画素による画像データとして出力される。
またイメージャ11にはIMU10用のインタフェースが実装されており、そのインタフェースを経由してIMU10から出力されるIMUデータを取り込む。そして、イメージャ11はRAW画像データにIMUデータを対応づけて出力する。
この場合、IMUデータには、対応するライン番号が示されるようにされる。イメージャ11の撮像素子部はローリングシャッター方式で撮像を行うため、ライン毎に露光タイミングが異なる。一方でIMU10は所定のサンプルタイミング毎にIMUデータを出力する。例えば撮像画像の1フレームに複数のサンプルタイミングが含まれるようなタイミング関係となる。
そのため、1サンプルタイミングのIMUデータは、1フレームの画像内のあるラインの露光タイミングに検出されたデータとなる。そこで、IMUデータにはライン番号が対応づけられるようにし、これによりIMUデータと画像のラインの同期がとられるようにしている。
この場合、IMUデータには、対応するライン番号が示されるようにされる。イメージャ11の撮像素子部はローリングシャッター方式で撮像を行うため、ライン毎に露光タイミングが異なる。一方でIMU10は所定のサンプルタイミング毎にIMUデータを出力する。例えば撮像画像の1フレームに複数のサンプルタイミングが含まれるようなタイミング関係となる。
そのため、1サンプルタイミングのIMUデータは、1フレームの画像内のあるラインの露光タイミングに検出されたデータとなる。そこで、IMUデータにはライン番号が対応づけられるようにし、これによりIMUデータと画像のラインの同期がとられるようにしている。
信号処理装置30は、カメラ姿勢算出部1、参照座標計算部2、データ分離部3、ブロック変換部4、フレームバッファー5、キャッシュ6、補間フィルタ7を有する。
また参照座標計算部2は、カメラ姿勢対応付け部21、出力画座標カウンタ22、ホモグラフィイ変換部23、レンズ歪補正部24を有する。
また参照座標計算部2は、カメラ姿勢対応付け部21、出力画座標カウンタ22、ホモグラフィイ変換部23、レンズ歪補正部24を有する。
データ分離部3は、イメージャ11から供給されるIMUデータ付きRAW画像データを、画像データとIMUデータに分離する。そして、データ分離部3は、IMUデータをカメラ姿勢算出部1に供給し、RAW画像データ(入力画)をブロック変換部4に供給する。
ブロック変換部4は、4K×2Kの画像データを8×8画素の順にするブロック変換を行う。
ブロック変換された画像データは、RAW画像データの8×8画素の順でフレームバッファー5に書き込まれる。フレームバッファー5は例えばDRAM(Dynamic Random Access Memory)により構成される。
フレームバッファー5からは後述する参照座標RCに基づいて、8×8画素のRAW画像データが読み出され、キャッシュ6に保持される。
キャッシュ6に読み出されたRAW画像データは補間フィルタ7(例えばLanczosフィルタ)により補間処理され、出力画POとしてのRAW画像データが出力される。
なお図示していないが、信号処理装置30の後段には、現像処理系や記録系等の回路が設けられ、出力画POに対しては現像処理、圧縮処理等が施され、表示に供されたり、記憶媒体へ記憶されたり、或いは外部機器に送信されたりする。
ブロック変換された画像データは、RAW画像データの8×8画素の順でフレームバッファー5に書き込まれる。フレームバッファー5は例えばDRAM(Dynamic Random Access Memory)により構成される。
フレームバッファー5からは後述する参照座標RCに基づいて、8×8画素のRAW画像データが読み出され、キャッシュ6に保持される。
キャッシュ6に読み出されたRAW画像データは補間フィルタ7(例えばLanczosフィルタ)により補間処理され、出力画POとしてのRAW画像データが出力される。
なお図示していないが、信号処理装置30の後段には、現像処理系や記録系等の回路が設けられ、出力画POに対しては現像処理、圧縮処理等が施され、表示に供されたり、記憶媒体へ記憶されたり、或いは外部機器に送信されたりする。
ここで補間フィルタ7を介した出力画POとしてのRAW画像データは、EISとしての振れ補正、レンズ歪補正とともにローリングシャッター歪に対する補正が施された画像データとなっている。これらの補正のための参照座標RCを生成する処理が、カメラ姿勢算出部1と参照座標計算部2で行われる。
カメラ姿勢算出部1は、IMUデータに基づいて、本実施の形態において姿勢情報として用いる回転ベクトルを求める。回転ベクトルについては後述する。
回転ベクトルは信号処理装置30のカメラ姿勢対応付け部21に供給される。
回転ベクトルは信号処理装置30のカメラ姿勢対応付け部21に供給される。
信号処理装置30において、カメラ姿勢対応付け部21は、出力画の各画素座標について、対応する姿勢情報(回転ベクトル)を対応づける。
またホモグラフィイ変換部23は、出力画POの各画素座標について、カメラ姿勢対応付け部21で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する処理(画像変形処理)を行う。
出力画座標カウンタ22は、水平方向及び垂直方向に配列された画素を指定するカウンタである。出力画座標カウンタ22は、その水平方向及び垂直方向のカウント値をカメラ姿勢対応付け部21及びホモグラフィイ変換部23に対して供給することで、処理対象とする出力画の各画素座標を順次指示する。
レンズ歪補正部24は、出力画POの各画素座標に対応する入力画上の参照座標を対象として更にレンズ歪補正に対応する補正処理を行う。
以上の結果得られた参照座標がキャッシュ6に供給され、出力画POの生成が行われる。
またホモグラフィイ変換部23は、出力画POの各画素座標について、カメラ姿勢対応付け部21で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する処理(画像変形処理)を行う。
出力画座標カウンタ22は、水平方向及び垂直方向に配列された画素を指定するカウンタである。出力画座標カウンタ22は、その水平方向及び垂直方向のカウント値をカメラ姿勢対応付け部21及びホモグラフィイ変換部23に対して供給することで、処理対象とする出力画の各画素座標を順次指示する。
レンズ歪補正部24は、出力画POの各画素座標に対応する入力画上の参照座標を対象として更にレンズ歪補正に対応する補正処理を行う。
以上の結果得られた参照座標がキャッシュ6に供給され、出力画POの生成が行われる。
この構成において、詳細は後述するが、カメラ姿勢対応付け部21は、算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を、姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について、対応する第2仮想線を算出し、対応する第2仮想線に基づいて姿勢情報を求める処理を行うようにしている。このようにすることで、EIS処理の過程で、ローリングシャッター歪みを高い精度で補正できるようにしている。
<2.信号処理装置の動作>
このような信号処理装置30による動作を説明する。
まず図2によりEISを模式的に説明する。EISでは撮像された画像からカメラの傾き・動きの影響を取り除く処理を行う。
例えば図2Aは傾いたカメラで撮像した様子を示している。ここでの傾いた状態とは、カメラがロール方向に傾いて水平・垂直方向が保たれていない状態である。この場合、撮像により得られる画像データは図2Bのように被写体が傾いた状態となる。
このような画像データに対して、EIS処理によりカメラの傾きと同じ方向に画像を回転させることで、図2Cの画像データを得ることができる。この図2Cの画像データは、図2Dのようにまっすぐの姿勢(ロール方向に傾きがない姿勢)のカメラで撮像した場合の画像と同様になる。
このように姿勢の傾きに対する回転を行うが、これは、入力画から、入力画サイズより小さいサイズの出力画を切り出す際に、切り出す画素範囲を姿勢情報に基づいて回転させることで実現する。
このような信号処理装置30による動作を説明する。
まず図2によりEISを模式的に説明する。EISでは撮像された画像からカメラの傾き・動きの影響を取り除く処理を行う。
例えば図2Aは傾いたカメラで撮像した様子を示している。ここでの傾いた状態とは、カメラがロール方向に傾いて水平・垂直方向が保たれていない状態である。この場合、撮像により得られる画像データは図2Bのように被写体が傾いた状態となる。
このような画像データに対して、EIS処理によりカメラの傾きと同じ方向に画像を回転させることで、図2Cの画像データを得ることができる。この図2Cの画像データは、図2Dのようにまっすぐの姿勢(ロール方向に傾きがない姿勢)のカメラで撮像した場合の画像と同様になる。
このように姿勢の傾きに対する回転を行うが、これは、入力画から、入力画サイズより小さいサイズの出力画を切り出す際に、切り出す画素範囲を姿勢情報に基づいて回転させることで実現する。
ここで姿勢情報としての回転ベクトルを図3で説明する。
回転ベクトルはカメラ姿勢を3次元のベクトルで表現するものである。
即ち回転ベクトルとはカメラの傾き(回転)を表すベクトルである。
ベクトルの向きで回転軸を表し、ベクトルの大きさで回転量r(単位:radian)を表す。
回転の正負は回転ベクトルの先から見て逆時計まわりが正とする。
回転量(ベクトルの大きさ)には一意性を保証するため例えば0≦||r||≦2πのような制限を設ける。
回転ベクトルはカメラ姿勢を3次元のベクトルで表現するものである。
即ち回転ベクトルとはカメラの傾き(回転)を表すベクトルである。
ベクトルの向きで回転軸を表し、ベクトルの大きさで回転量r(単位:radian)を表す。
回転の正負は回転ベクトルの先から見て逆時計まわりが正とする。
回転量(ベクトルの大きさ)には一意性を保証するため例えば0≦||r||≦2πのような制限を設ける。
回転ベクトル入力と画像入力との関係を図4に示す。
カメラを動かしながら撮像するときは、1フレームの間でも回転ベクトルは変化していくことになる。
回転ベクトルの元になるIMUデータが、例えば数ラインおきに取得されるとすると、回転ベクトルr0、r1、r2、r3も図示のように数ラインおきに取得される。ここでは垂直同期信号Vsyncで示される1フレームの期間に4つの回転ベクトルが取得されることを示しているが、これはあくまでも説明上の一例である。この場合は、フレームの上方1/4の画像に対応して回転ベクトルr0、次の1/4の画像に対して回転ベクトルr1、次の1/4の画像に対して回転ベクトルr2、最後の1/4の画像に対して回転ベクトルr3が、それぞれ対応することになる。
ここで第1仮想線L1は同じ値の回転ベクトルが対応する仮想的なラインを示している。
カメラを動かしながら撮像するときは、1フレームの間でも回転ベクトルは変化していくことになる。
回転ベクトルの元になるIMUデータが、例えば数ラインおきに取得されるとすると、回転ベクトルr0、r1、r2、r3も図示のように数ラインおきに取得される。ここでは垂直同期信号Vsyncで示される1フレームの期間に4つの回転ベクトルが取得されることを示しているが、これはあくまでも説明上の一例である。この場合は、フレームの上方1/4の画像に対応して回転ベクトルr0、次の1/4の画像に対して回転ベクトルr1、次の1/4の画像に対して回転ベクトルr2、最後の1/4の画像に対して回転ベクトルr3が、それぞれ対応することになる。
ここで第1仮想線L1は同じ値の回転ベクトルが対応する仮想的なラインを示している。
参照座標計算部2では、このような入力画像に対応する回転ベクトルの位置を出力座標に変換する。これは、図5のように、入力画での回転ベクトルを示す第1仮想線L1を出力座標系における第2仮想線L2に変換するものといえる。
回転ベクトルの位置を出力画に変換するには、入力画と同じ変換を加える必要がある。そこで図5に示すように、始めに入力画についてレンズ歪みを取り除き、そのあと、カメラと同じ向きに回転させる。これが出力座標系に変換したものとなる。
回転ベクトルの位置を出力画に変換するには、入力画と同じ変換を加える必要がある。そこで図5に示すように、始めに入力画についてレンズ歪みを取り除き、そのあと、カメラと同じ向きに回転させる。これが出力座標系に変換したものとなる。
続いて図6に示すように、出力画像の各点P(uo,vo)に対し、対応する入力画像の点P(ui,vi)を求める。
即ち出力画の各画素の点に対して、入力画のどこを参照するかを求めるものである。
即ち出力画の各画素の点に対して、入力画のどこを参照するかを求めるものである。
図6の出力座標は、出力画POとしての画素座標である、ある注目画素の点P(uo,vo)を示している。その点P(uo,vo)に対応する入力画像の点P(ui,vi)は、点P(uo,vo)に対応する回転ベクトルr(uo,vo)を用いて逆回転させる。
このときに、点P(uo,vo)に対応する回転ベクトルr(uo,vo)は、上述の第2仮想線L2を用いて算出することで、フレーム内で変化する回転ベクトルの値のうちで、正しく対応する回転ベクトルを判定できる。つまり点P(uo,vo)に対し、正しい回転ベクトルrを判定し、その逆回転として正しい回転量を与えることができる。
そして、その逆回転の後、入力画像と同じになるようにレンズ歪を付加することで、入力座標上での対応点である点P(ui,vi)がわかる。
このときに、点P(uo,vo)に対応する回転ベクトルr(uo,vo)は、上述の第2仮想線L2を用いて算出することで、フレーム内で変化する回転ベクトルの値のうちで、正しく対応する回転ベクトルを判定できる。つまり点P(uo,vo)に対し、正しい回転ベクトルrを判定し、その逆回転として正しい回転量を与えることができる。
そして、その逆回転の後、入力画像と同じになるようにレンズ歪を付加することで、入力座標上での対応点である点P(ui,vi)がわかる。
出力座標上の全ての画素座標について、このように対応する入力座標上の点が求められることで、切り出すべき範囲が設定される。
つまり、出力画の全ての画素の座標に対して、入力画上での位置を参照座標として求めることで、EISとしての回転補正のために入力画から切り出す画素範囲が求められることになる。
これはフレームバッファー5からキャッシュ6に読み出す画素データを指定するものとなるが、それは即ち、回転方向の補正を加えて、入力画のうちで出力画として切り出す範囲を指定するものとなる。
参照座標は、出力画の各画素に対する入力画の座標であるが、出力画の座標点が、必ずしも入力画の画素としての座標点に対応するわけではないので、参照座標は小数点を含む座標値となる。
つまり、出力画の全ての画素の座標に対して、入力画上での位置を参照座標として求めることで、EISとしての回転補正のために入力画から切り出す画素範囲が求められることになる。
これはフレームバッファー5からキャッシュ6に読み出す画素データを指定するものとなるが、それは即ち、回転方向の補正を加えて、入力画のうちで出力画として切り出す範囲を指定するものとなる。
参照座標は、出力画の各画素に対する入力画の座標であるが、出力画の座標点が、必ずしも入力画の画素としての座標点に対応するわけではないので、参照座標は小数点を含む座標値となる。
なお図5,図6においてレンズ歪みを考慮しているのは、被写体光はカメラのレンズを通して撮像素子部に入るため、入力画としての画像データはレンズ歪みの影響を受けているためである。
そのためEISにおいて回転するにあたっては、まず入力画のレンズ歪みの影響を取り除くようにしているためである。
そのためEISにおいて回転するにあたっては、まず入力画のレンズ歪みの影響を取り除くようにしているためである。
そして本実施の形態の場合、出力座標に対応する入力座標上での対応点を求めるにあたって仮想的な第2仮想線L2を用いることで、ラインと垂直方向の回転ベクトルの変化に対して精度の高い対応点算出を行うようにしている。これによってローリングシャッター歪みも精度よく補正する。
以下では、実施の形態で以上のような動作を行う理由について述べるとともに、その動作を詳細に説明する。
以下では、実施の形態で以上のような動作を行う理由について述べるとともに、その動作を詳細に説明する。
まず図7は入力画枠WIと出力画枠WOを示している。これは出力画を水平方向及び垂直方向に入力画の半分の画素数とする例である。
ここでライン番号に注目すると、ライン番号v_inは入力画の姿勢が対応するライン番号である。
ライン番号v_outは、出力画の姿勢が対応するライン番号である。
そしてv_out = v_in− (VSIZE_IN−VSIZE_OUT)/2となる。
出力画では0≦v_out ≦(VSIZE_OUT−1)の範囲の姿勢情報を使用することになる。
ここでライン番号に注目すると、ライン番号v_inは入力画の姿勢が対応するライン番号である。
ライン番号v_outは、出力画の姿勢が対応するライン番号である。
そしてv_out = v_in− (VSIZE_IN−VSIZE_OUT)/2となる。
出力画では0≦v_out ≦(VSIZE_OUT−1)の範囲の姿勢情報を使用することになる。
ここで図8のように、カメラ姿勢が理想姿勢のときの入力画枠WIと出力画枠WOにおける第1仮想線L1考える。
第1仮想線L1は、1フレームの撮像画像の各ライン毎、又は間欠的なライン毎に検出されるデータ(例えばIMUサンプル等)から求められる回転ベクトル(姿勢情報)に対応する仮想的な線(例えば直線)であり、1フレームに複数の第1仮想線L1が存在するといえる。
第1仮想線L1は、1フレームの撮像画像の各ライン毎、又は間欠的なライン毎に検出されるデータ(例えばIMUサンプル等)から求められる回転ベクトル(姿勢情報)に対応する仮想的な線(例えば直線)であり、1フレームに複数の第1仮想線L1が存在するといえる。
撮像を行ったカメラが理想姿勢(もともと水平がとれたカメラ姿勢)であれば、先の図7の出力画枠WOとして、入力画枠WIの中央を切り出せば良い。
すると、カメラ姿勢が対応する入力画上の第1仮想線L1は、カメラ姿勢が対応する出力画上の線としても問題ない。
つまり上述のように第2仮想線L2を用いる必要はない。
すると、カメラ姿勢が対応する入力画上の第1仮想線L1は、カメラ姿勢が対応する出力画上の線としても問題ない。
つまり上述のように第2仮想線L2を用いる必要はない。
ところが理想姿勢でないときは、精度が低下する。
図9にカメラ姿勢が理想姿勢でないときの入力画枠WIと出力画枠WOを示している。
理想姿勢でないときは例えば図示のように、入力画枠WIに対する出力画枠WOの位置、形状が変化する。
ここで、本実施の形態の第2仮想線L2を用いない場合は、出力画枠WOに対しては、姿勢情報に関して第1仮想線L1’を想定した状態で、各画素の入力画枠WIでの対応点を求めるようにしていた。第1仮想線L1’は出力画における水平方向の画素ラインに相当する線である。
ところが、その場合、第1仮想線L1と第1仮想線L1’がずれているため、出力画の各画素座標の姿勢情報が、入力画の姿勢情報と結びつかない。
本実施の形態では、このような出力画枠WOに対して、破線で示すように第2仮想線L2を計算し、これにより、第1仮想線L1に正しく対応した状態で、対応点計算を行うことになる。
図9にカメラ姿勢が理想姿勢でないときの入力画枠WIと出力画枠WOを示している。
理想姿勢でないときは例えば図示のように、入力画枠WIに対する出力画枠WOの位置、形状が変化する。
ここで、本実施の形態の第2仮想線L2を用いない場合は、出力画枠WOに対しては、姿勢情報に関して第1仮想線L1’を想定した状態で、各画素の入力画枠WIでの対応点を求めるようにしていた。第1仮想線L1’は出力画における水平方向の画素ラインに相当する線である。
ところが、その場合、第1仮想線L1と第1仮想線L1’がずれているため、出力画の各画素座標の姿勢情報が、入力画の姿勢情報と結びつかない。
本実施の形態では、このような出力画枠WOに対して、破線で示すように第2仮想線L2を計算し、これにより、第1仮想線L1に正しく対応した状態で、対応点計算を行うことになる。
そもそも第1仮想線L1’を用いていたのは以下の理由による。
ローリングシャッター歪みを補正するには、1フレーム期間に取得された複数のIMUデータサンプルによって算出された、複数のカメラ姿勢の中から、各ラインの露光タイミングに近いカメラ姿勢を用いて、ライン毎に歪を補正することが必要である。
しかし、出力画の画素位置が、入力画の複数のカメラ姿勢のうち、どれに対応するかを求めるのが困難だったため、簡易的に、カメラ姿勢が変化しない前提の対応を用いていたものである。カメラ姿勢が変化しないのであれば、第1仮想線L1と第1仮想線L1’がずれていても、実際の姿勢情報に違いは生じないため問題はない。このような手法は、カメラ姿勢を出力画の「横方向の1次元のライン」に対応させていたものといえる。
ローリングシャッター歪みを補正するには、1フレーム期間に取得された複数のIMUデータサンプルによって算出された、複数のカメラ姿勢の中から、各ラインの露光タイミングに近いカメラ姿勢を用いて、ライン毎に歪を補正することが必要である。
しかし、出力画の画素位置が、入力画の複数のカメラ姿勢のうち、どれに対応するかを求めるのが困難だったため、簡易的に、カメラ姿勢が変化しない前提の対応を用いていたものである。カメラ姿勢が変化しないのであれば、第1仮想線L1と第1仮想線L1’がずれていても、実際の姿勢情報に違いは生じないため問題はない。このような手法は、カメラ姿勢を出力画の「横方向の1次元のライン」に対応させていたものといえる。
より具体的にいえば、このような手法は、まず図10Aのように、入力画とIMUサンプル(カメラ姿勢)の対応づけを行う。図では各第1仮想線L1の姿勢情報のサンプルSP1〜SP4を示している。
次に図10Bのように出力画とIMUサンプルの対応づけを行う。このとき簡易的に、姿勢変化がない前提でライン番号を変換する。
ここで注目画素ATGについて入力座標上での対応点を探索する。そして図10Cのように、注目画素近傍2サンプル(SP1,SP2)をみつけ、注目画素を挟むサンプルSP1,SP2の姿勢情報で線形補間を行うことで、注目画素ATGについての姿勢情報を取得する。
次に図10Bのように出力画とIMUサンプルの対応づけを行う。このとき簡易的に、姿勢変化がない前提でライン番号を変換する。
ここで注目画素ATGについて入力座標上での対応点を探索する。そして図10Cのように、注目画素近傍2サンプル(SP1,SP2)をみつけ、注目画素を挟むサンプルSP1,SP2の姿勢情報で線形補間を行うことで、注目画素ATGについての姿勢情報を取得する。
このような手法は簡易である一方、カメラ姿勢が変化しないことを前提とするため、カメラ姿勢変化が大きい場合、カメラ姿勢と出力画の画素位置の対応が理想とずれ、ローリングシャッター歪補正がうまく機能しないことになってしまう。
例えば、カメラ姿勢が光軸周りに90度回転していた場合、カメラ姿勢は出力画の縦ラインに対応すべきだが横に対応させることになってしまう。
また例えばカメラ姿勢が光軸周りに180度回転していた場合、カメラ姿勢と出力画のラインの対応が上下反対になってしまっていた。このような場合、ローリングシャッター歪みを強調するようなこととなってしまう。
例えば、カメラ姿勢が光軸周りに90度回転していた場合、カメラ姿勢は出力画の縦ラインに対応すべきだが横に対応させることになってしまう。
また例えばカメラ姿勢が光軸周りに180度回転していた場合、カメラ姿勢と出力画のラインの対応が上下反対になってしまっていた。このような場合、ローリングシャッター歪みを強調するようなこととなってしまう。
これを解消するには、出力画の各画素座標について、バックワードマッピングにより入力画の対応点を正確に探索すればよい。ところが、出力画の各画素座標についての回転行列が不明なため、そのようなことができない。
これは、姿勢情報(姿勢情報に基づく回転情報)は入力画のラインに紐づいているものであり、出力画の画素からは変換元のアドレスがたどれないためである。
図11には、入力画から、歪補正、ホモグラフィイ変換(EIS)、リサイズを行って出力画を得ることを模式的に示している。
しかし出力画側からみると、リサイズ前のホモグラフィイ変換に対する逆変換の回転行列が不明であり、これによって入力画の対応点までたどることができない。
これは、姿勢情報(姿勢情報に基づく回転情報)は入力画のラインに紐づいているものであり、出力画の画素からは変換元のアドレスがたどれないためである。
図11には、入力画から、歪補正、ホモグラフィイ変換(EIS)、リサイズを行って出力画を得ることを模式的に示している。
しかし出力画側からみると、リサイズ前のホモグラフィイ変換に対する逆変換の回転行列が不明であり、これによって入力画の対応点までたどることができない。
そこで本実施の形態としては、フォワードマッピングと補間で近似する手法により、出力画の画素座標に対する入力画での対応点(対応点における姿勢情報)が精度よく求められるようにする。
即ちホモグラフィイ変換での回転情報は、入力画の第1仮想線L1をフォワードマッピングでホモグラフィイ変換することで、第2仮想線L2を生成し、対応する回転情報を伝搬する。そして出力画素の座標に応じて、姿勢情報を補間する。
即ちホモグラフィイ変換での回転情報は、入力画の第1仮想線L1をフォワードマッピングでホモグラフィイ変換することで、第2仮想線L2を生成し、対応する回転情報を伝搬する。そして出力画素の座標に応じて、姿勢情報を補間する。
図12Aに図10Aと同様に、入力画とIMUサンプル(カメラ姿勢)の対応(第1仮想線L1)を示している。この第1仮想線L1について2次元的な対応付けを行う。
そして図12Bのように、この第1仮想線L1を、それぞれのIMUサンプルSP1〜SP4に対応するカメラ姿勢情報を用いて、入力画の露光タイミングのラインが対応する出力画上の第2仮想線L2を、正しいホモグラフィイ計算により算出する(フォワードマッピング)。
これは、カメラ姿勢を、出力画の「傾きを持った2次元的な第2仮想線L2」に対応させるものとなる。
具体的には、入力画のラインを表す第1仮想線L1のベクトル表現を、カメラ姿勢を表す回転行列で回転させ、透視投影することで、出力画の(傾きを持った二次元的な)第2仮想線L2のベクトル表現に対応させる。
そして図12Bのように、この第1仮想線L1を、それぞれのIMUサンプルSP1〜SP4に対応するカメラ姿勢情報を用いて、入力画の露光タイミングのラインが対応する出力画上の第2仮想線L2を、正しいホモグラフィイ計算により算出する(フォワードマッピング)。
これは、カメラ姿勢を、出力画の「傾きを持った2次元的な第2仮想線L2」に対応させるものとなる。
具体的には、入力画のラインを表す第1仮想線L1のベクトル表現を、カメラ姿勢を表す回転行列で回転させ、透視投影することで、出力画の(傾きを持った二次元的な)第2仮想線L2のベクトル表現に対応させる。
その後、図12Cのように、出力画の各画素(注目画素ATG)について、2次元的な第2仮想線L2の中から、その注目画素ATGの位置を挟む線2本を探索する。
この場合、第2仮想線L2は二次元的な直線なので、直線と点の位置関係の方程式を外積を使って求めることができる。具体的には直線と点の位置関係が変わるとき、ベクトルの外積の符号(+/−)が変わることを利用する。
そして近傍2サンプルの姿勢情報を線形補間することで、注目画素ATGの姿勢情報を算出する。
このような処理により、カメラ姿勢の変化に関わらず、出力画の各画素について、精度よく姿勢情報を得ることができる。
この場合、第2仮想線L2は二次元的な直線なので、直線と点の位置関係の方程式を外積を使って求めることができる。具体的には直線と点の位置関係が変わるとき、ベクトルの外積の符号(+/−)が変わることを利用する。
そして近傍2サンプルの姿勢情報を線形補間することで、注目画素ATGの姿勢情報を算出する。
このような処理により、カメラ姿勢の変化に関わらず、出力画の各画素について、精度よく姿勢情報を得ることができる。
ここで図13Aに入力画における画素を示す。破線は第1仮想線L1を示すとする。図13Bは回転された第2仮想線L2と、入力画の画素及び出力画の範囲を示している。
図13Bの状態でフォワードマッピングされた入力画では、それぞれの第1仮想線L1毎に回転が変わるので、格子点からの垂線Hをホモグラフィイ変換して伸ばしても、隣の格子点と交わらない。
また出力画素G0についてみると、必ずしもフォワードマッピングの上に乗らないので、出力座標に合わせた補間処理が必要となる。
そして格子点を通る垂線が交わらないので解析的に解く補間は使えないことになる。
図13Bの状態でフォワードマッピングされた入力画では、それぞれの第1仮想線L1毎に回転が変わるので、格子点からの垂線Hをホモグラフィイ変換して伸ばしても、隣の格子点と交わらない。
また出力画素G0についてみると、必ずしもフォワードマッピングの上に乗らないので、出力座標に合わせた補間処理が必要となる。
そして格子点を通る垂線が交わらないので解析的に解く補間は使えないことになる。
これらのことを考慮して、本実施の形態では、出力画素座標に対応する姿勢情報を求めるために、以下のような補間処理を行うようにする。
図14は、入力画における出力画枠WOを示し、また各IMUサンプルSP1,SP2,SP3に対応する第1仮想線L1として、第1仮想線L1−1,L1−2,L1−3を示している。
各第1仮想線L1(L1−1,L1−2,L1−3)上に、2つの点An,Bnをおく。(n=1,2,3・・・)
図ではIMUサンプルSP1の第1仮想線L1−1上にA1、B1を設定し、IMUサンプルSP2の第1仮想線L1−2上にA2、B2を設定し、IMUサンプルSP3の第1仮想線L1−3上にA3、B3を設定した状態を示している。
各第1仮想線L1(L1−1,L1−2,L1−3)上に、2つの点An,Bnをおく。(n=1,2,3・・・)
図ではIMUサンプルSP1の第1仮想線L1−1上にA1、B1を設定し、IMUサンプルSP2の第1仮想線L1−2上にA2、B2を設定し、IMUサンプルSP3の第1仮想線L1−3上にA3、B3を設定した状態を示している。
このそれぞれの2つの点An,Bnを、図15に示すように、そのIMUサンプル(SP1,SP2,SP3)に対応する回転行列の転置で出力画に射影する。
出力画に対して、第1仮想線L1−1,L1−2,L1−3がそれぞれ回転された第2仮想線L2(L2−1,L2−2,L2−3)が得られる。
出力画に対して、第1仮想線L1−1,L1−2,L1−3がそれぞれ回転された第2仮想線L2(L2−1,L2−2,L2−3)が得られる。
ここで、出力画の座標上で、注目画素ATGと各IMUサンプルの第2仮想線L2との位置関係を判定する。具体的には、注目画素ATGが、各第2仮想線L2−1,L2−2,L2−3に対して、上にあるか、直線上か、下にあるか、を判定する。
そのために図16に示す、ベクトルAn→ATGと、ベクトルAn→Bnの外積を計算する。
ベクトルAn→ATGとは、第2仮想線L2−1については点A1から注目画素ATGへのベクトル、第2仮想線L2−2については点A2から注目画素ATGへのベクトル、第2仮想線L2−3については点A3から注目画素ATGへのベクトルである。
ベクトルAn→Bnとは、第2仮想線L2−1については点A1から点B1へのベクトル、第2仮想線L2−2については点A2から点B2へのベクトル、第2仮想線L2−3については点A3から点B3へのベクトルである。
そのために図16に示す、ベクトルAn→ATGと、ベクトルAn→Bnの外積を計算する。
ベクトルAn→ATGとは、第2仮想線L2−1については点A1から注目画素ATGへのベクトル、第2仮想線L2−2については点A2から注目画素ATGへのベクトル、第2仮想線L2−3については点A3から注目画素ATGへのベクトルである。
ベクトルAn→Bnとは、第2仮想線L2−1については点A1から点B1へのベクトル、第2仮想線L2−2については点A2から点B2へのベクトル、第2仮想線L2−3については点A3から点B3へのベクトルである。
各第2仮想線L2について求められる外積の値はz軸の向きになる。
外積の符号が+だと注目画素ATGは、その第2仮想線L2より上、
外積の絶対値が0だと注目画素ATGは、その第2仮想線L2上、
外積の符号が−だと注目画素ATGは、その第2仮想線L2の下
にいることになる。
図16の場合、n=1,2,3のそれぞれで、外積は+,+,−になる。つまり、この場合、注目画素ATGは第2仮想線L2−2と第2仮想線L2−3の間にいることになる。
外積の符号が+だと注目画素ATGは、その第2仮想線L2より上、
外積の絶対値が0だと注目画素ATGは、その第2仮想線L2上、
外積の符号が−だと注目画素ATGは、その第2仮想線L2の下
にいることになる。
図16の場合、n=1,2,3のそれぞれで、外積は+,+,−になる。つまり、この場合、注目画素ATGは第2仮想線L2−2と第2仮想線L2−3の間にいることになる。
次に図17のように、注目画素ATGと、上記のように選ばれた2つの第2仮想線L2−2,L2−3の距離l2,l3を求める。即ち注目画素ATGから第2仮想線L2−2,L2−3への垂線の長さである。
そして、第2仮想線L2−2(IMUサンプルSP2)、第2仮想線L2−3(IMUサンプルSP3)に対応する回転ベクトルr2,r3を、距離l3,l2の重みで線形補完したものを、注目画素ATGの回転ベクトルrとする。
そして、第2仮想線L2−2(IMUサンプルSP2)、第2仮想線L2−3(IMUサンプルSP3)に対応する回転ベクトルr2,r3を、距離l3,l2の重みで線形補完したものを、注目画素ATGの回転ベクトルrとする。
以上により、注目画素ATGの回転ベクトルrが求められる。
カメラ姿勢対応付け部21が、このように第1仮想線L1を、姿勢情報に応じて回転させて出力画上の仮想的な直線である第2仮想線L2を求め、出力画の各画素について、対応する第2仮想線L2を算出し、対応する第2仮想線L2に基づいて姿勢情報を求める処理を行うことで、ローリングシャッター歪みを高い精度で補正できる。
カメラ姿勢対応付け部21が、このように第1仮想線L1を、姿勢情報に応じて回転させて出力画上の仮想的な直線である第2仮想線L2を求め、出力画の各画素について、対応する第2仮想線L2を算出し、対応する第2仮想線L2に基づいて姿勢情報を求める処理を行うことで、ローリングシャッター歪みを高い精度で補正できる。
<3.カメラ姿勢対応付け処理>
カメラ姿勢対応付け部21の処理の具体例を図18に示す。
カメラ姿勢対応付け部21は、図18のループ処理LP1として、画像データの1フレーム内の全ての回転ベクトルについて、ステップS101〜S102の処理を実行する。
カメラ姿勢対応付け部21の処理の具体例を図18に示す。
カメラ姿勢対応付け部21は、図18のループ処理LP1として、画像データの1フレーム内の全ての回転ベクトルについて、ステップS101〜S102の処理を実行する。
ステップS101でカメラ姿勢対応付け部21は、処理対象の回転ベクトルが対応する入力画像上の第1仮想線L1を求める。
ステップS102でカメラ姿勢対応付け部21は、入力画上の第1仮想線L1を、その処理対象の回転ベクトルの値により回転させ、第2仮想線L2として出力画上にマッピングする。
ステップS102でカメラ姿勢対応付け部21は、入力画上の第1仮想線L1を、その処理対象の回転ベクトルの値により回転させ、第2仮想線L2として出力画上にマッピングする。
全ての回転ベクトルについて以上の処理を終えたら、カメラ姿勢対応付け部21は続いてループ処理LP2として、出力画の全画素(ピクセル)についてステップS201〜S205の処理を実行する。
ステップS201でカメラ姿勢対応付け部21は、処理対象の画素(注目画素ATGの画素座標)を挟む近傍の2つの第2仮想線L2を探索する。これは上述の図16のようにベクトル外積を計算することで求める。
ステップS202でカメラ姿勢対応付け部21は、2つの第2仮想線L2の探索ができたか否かで処理を分岐する。
ステップS202でカメラ姿勢対応付け部21は、2つの第2仮想線L2の探索ができたか否かで処理を分岐する。
2つの第2仮想線L2が発見できた場合は、カメラ姿勢対応付け部21はステップS203に進み、2つの第2仮想線L2と処理対象の注目画素ATGの間の距離を算出する。
そしてステップS204でカメラ姿勢対応付け部21は、算出した距離の逆比で線形補間を行い、注目画素ATGの回転ベクトル(姿勢情報)を算出する。即ち図17で説明した処理を行う。
そしてステップS204でカメラ姿勢対応付け部21は、算出した距離の逆比で線形補間を行い、注目画素ATGの回転ベクトル(姿勢情報)を算出する。即ち図17で説明した処理を行う。
ステップS202で2つの第2仮想線L2の探索ができないと判定された場合は、カメラ姿勢対応付け部21はステップS205に進み、代替回転ベクトルを処理対象である注目画素ATGの回転ベクトル(姿勢情報)とする。
以上により、出力画の各画素座標について回転ベクトルが求められる。
その後、参照座標計算部2の処理として、各画素座標については、求められた回転ベクトルを用いて、入力画から切り出すべき参照座標が求められる。
その参照座標を用いてフレームバッファー5から読み出された入力画データからは、出力画の各画素座標の画素値が補間フィルタ7での補間処理により生成され、出力画POとして出力されることになる。これによってEISによるブレ補正とともにローリングシャッター歪補正がなされた出力画POが得られる。
その後、参照座標計算部2の処理として、各画素座標については、求められた回転ベクトルを用いて、入力画から切り出すべき参照座標が求められる。
その参照座標を用いてフレームバッファー5から読み出された入力画データからは、出力画の各画素座標の画素値が補間フィルタ7での補間処理により生成され、出力画POとして出力されることになる。これによってEISによるブレ補正とともにローリングシャッター歪補正がなされた出力画POが得られる。
<4.第2の実施の形態の信号処理装置の構成>
第2の実施の形態の信号処理装置30の構成を図19に示す。
この図19の信号処理装置30は、EIS及びローリングシャッター歪みを補正する必要な構成を備えたものとして示している。
信号処理装置30は、カメラ姿勢算出部1、参照座標計算部2、補間フィルタ7、メモリ8を備えている。参照座標計算部2は、カメラ姿勢対応付け部21、出力画座標生成部25、画像変形部26を備えている。
第2の実施の形態の信号処理装置30の構成を図19に示す。
この図19の信号処理装置30は、EIS及びローリングシャッター歪みを補正する必要な構成を備えたものとして示している。
信号処理装置30は、カメラ姿勢算出部1、参照座標計算部2、補間フィルタ7、メモリ8を備えている。参照座標計算部2は、カメラ姿勢対応付け部21、出力画座標生成部25、画像変形部26を備えている。
メモリ8には、一体又は別体のカメラで撮像された画像データが入力画PIとして書き込まれる。そしてメモリ8からは、参照座標RCに基づいて入力画PI内の必要な画素のデータが読み出され、補間フィルタ7で補間処理が施されて出力画POとされる。
カメラ姿勢算出部1には、姿勢検出データSSが入力される。姿勢検出データSSは、例えば上述のIMUデータ、或いはその他のカメラ姿勢に応じた検出データである。姿勢検出データSSが入力画PIのラインに対応づけられている。
カメラ姿勢算出部1は、姿勢検出データSSを用いて姿勢情報、例えば回転ベクトルを算出して参照座標計算部2に供給する。
カメラ姿勢算出部1は、姿勢検出データSSを用いて姿勢情報、例えば回転ベクトルを算出して参照座標計算部2に供給する。
参照座標計算部2において、カメラ姿勢対応付け部21は第1の実施の形態と同様の処理を行う。出力画座標生成部25は、例えば図1の出力画座標カウンタ22などのように注目画素座標を指示する。
画像変形部26は、例えば図1のホモグラフィイ変換部23のように座標ベースでの画像変形を行う。画像変形部26はホモグラフィイ変換として例えば中心射影及び3次元回転でもよいし、他に仮想天球面にマップし回転させる変換、或いは等距離射影及び3次元回転などを行うようなものでもよい。
そして参照座標計算部2は当該構成により、第1の実施の形態と同様に出力画POの各画素座標に対応する参照座標RCを求める処理を行う。
なおここでは図1のレンズ歪補正部24は設けていない構成例を示している。
画像変形部26は、例えば図1のホモグラフィイ変換部23のように座標ベースでの画像変形を行う。画像変形部26はホモグラフィイ変換として例えば中心射影及び3次元回転でもよいし、他に仮想天球面にマップし回転させる変換、或いは等距離射影及び3次元回転などを行うようなものでもよい。
そして参照座標計算部2は当該構成により、第1の実施の形態と同様に出力画POの各画素座標に対応する参照座標RCを求める処理を行う。
なおここでは図1のレンズ歪補正部24は設けていない構成例を示している。
信号処理装置30はこのような図19の構成としても実現可能であり、この信号処理装置30は、撮像装置に内蔵されるほか、撮像装置とは別体の装置とされてもよい。
<5.まとめ及び変形例>
以上の実施の形態によれば次のような効果が得られる。
実施の形態の信号処理装置30は、入力画のラインに対応する姿勢情報を算出するカメラ姿勢算出部1を備える。また信号処理装置30は、算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線L1を、姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線L2を求め、出力画の各画素について、対応する第2仮想線L2を算出し、対応する第2仮想線L2に基づいて姿勢情報を求めるカメラ姿勢対応付け部21を備える。また信号処理装置30は、出力画の各画素座標について、カメラ姿勢対応付け部21で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部(ホモグラフィイ変換部23又は画像変形部26)を備える。
即ち実施の形態では、入力画とIMUサンプル(カメラ姿勢の第1仮想線L1)の対応として、各IMUサンプルに対応する姿勢で例えばホモグラフィ演算を行い、出力画に2次元的に第2仮想線L2をマップする。
また出力画とIMUサンプルの対応として、注目画素の近傍2サンプル(2つの第2仮想線L2)の探索を行う。そして近傍2サンプル探索結果として、注目画素を挟む2つの第2仮想線L2の姿勢情報で線形補間を行い、画素の姿勢情報を得る。
これにより、出力画の各画素位置に、適切なカメラ姿勢を対応させることが可能になり、姿勢変化が大きくてもローリングシャッター歪補正を精度良く行うことができるようになる。
以上の実施の形態によれば次のような効果が得られる。
実施の形態の信号処理装置30は、入力画のラインに対応する姿勢情報を算出するカメラ姿勢算出部1を備える。また信号処理装置30は、算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線L1を、姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線L2を求め、出力画の各画素について、対応する第2仮想線L2を算出し、対応する第2仮想線L2に基づいて姿勢情報を求めるカメラ姿勢対応付け部21を備える。また信号処理装置30は、出力画の各画素座標について、カメラ姿勢対応付け部21で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部(ホモグラフィイ変換部23又は画像変形部26)を備える。
即ち実施の形態では、入力画とIMUサンプル(カメラ姿勢の第1仮想線L1)の対応として、各IMUサンプルに対応する姿勢で例えばホモグラフィ演算を行い、出力画に2次元的に第2仮想線L2をマップする。
また出力画とIMUサンプルの対応として、注目画素の近傍2サンプル(2つの第2仮想線L2)の探索を行う。そして近傍2サンプル探索結果として、注目画素を挟む2つの第2仮想線L2の姿勢情報で線形補間を行い、画素の姿勢情報を得る。
これにより、出力画の各画素位置に、適切なカメラ姿勢を対応させることが可能になり、姿勢変化が大きくてもローリングシャッター歪補正を精度良く行うことができるようになる。
実施の形態の信号処理装置30は、さらに、出力画の各画素座標についての参照座標に基づいて、入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部(キャッシュ6又はメモリ8)と、参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部(補間フィルタ7)を備えている。
即ち出力画の各画素を得るために、各画素について求められた参照座標により、入力画の画素データを取得し、補間処理を行う。
これによりEIS処理による出力画としての画像データ、即ちカメラ姿勢を水平な状態としたときに得られるような画像を得ることができる。
即ち出力画の各画素を得るために、各画素について求められた参照座標により、入力画の画素データを取得し、補間処理を行う。
これによりEIS処理による出力画としての画像データ、即ちカメラ姿勢を水平な状態としたときに得られるような画像を得ることができる。
実施の形態では、第2仮想線L2は、複数の第1仮想線L1のそれぞれについて、それぞれの姿勢情報で示される回転角度の回転が与えられた複数の線であるとした。
即ち第2仮想線L2は、入力画でラインに対応した横方向の一次元の第1仮想線L1のそれぞれに対して、姿勢情報で示される回転角度と同じ回転を与えて出力画上で傾きを持つ二次元的に表現される線とする。従って各第1仮想線L1が異なる姿勢情報の場合には、各第2仮想線L2も、それぞれの姿勢情報に応じて回転された線となる。
つまりローリングシャッター方式で撮像した場合、入力画の各ラインに応じた姿勢情報はそれぞれ異なるものとなる場合があるが、それが第2仮想線L2にも反映される。
これにより、第2仮想線L2は入力画から切り出されて回転された出力画枠上の画素座標に対応した姿勢情報を表現されたものとなる。従って出力画の各画素に対して、姿勢情報を正しく対応づける線となる。
即ち第2仮想線L2は、入力画でラインに対応した横方向の一次元の第1仮想線L1のそれぞれに対して、姿勢情報で示される回転角度と同じ回転を与えて出力画上で傾きを持つ二次元的に表現される線とする。従って各第1仮想線L1が異なる姿勢情報の場合には、各第2仮想線L2も、それぞれの姿勢情報に応じて回転された線となる。
つまりローリングシャッター方式で撮像した場合、入力画の各ラインに応じた姿勢情報はそれぞれ異なるものとなる場合があるが、それが第2仮想線L2にも反映される。
これにより、第2仮想線L2は入力画から切り出されて回転された出力画枠上の画素座標に対応した姿勢情報を表現されたものとなる。従って出力画の各画素に対して、姿勢情報を正しく対応づける線となる。
実施の形態のカメラ姿勢対応付け部21は、出力画の各画素座標について、対応する第2仮想線L2として、画素座標が挟まれる関係となる2つの第2仮想線L2を求め、該2つの第2仮想線L2を用いた処理により画素座標の姿勢情報を求めるものとした。
第2仮想線L2は、出力画上で入力画のラインを投影した、二次元的に表現される線であるが、ライン毎に回転角が変わるため、必ずしも入力画と出力画で格子点(画素座標)が一致しない。そこで画素座標を挟み込む2つの第2仮想線L2を探索する。処理対象の注目画素を挟み込む2つの第2仮想線L2が得られれば、その注目画素の姿勢情報は、例えば2つの第2仮想線L2の各姿勢情報から線形補間により求めることができる。これにより、入力画と出力画とで画素座標の対応が一致していなくても、出力画の各画素座標について精度のよい姿勢情報を求めることができる。
第2仮想線L2は、出力画上で入力画のラインを投影した、二次元的に表現される線であるが、ライン毎に回転角が変わるため、必ずしも入力画と出力画で格子点(画素座標)が一致しない。そこで画素座標を挟み込む2つの第2仮想線L2を探索する。処理対象の注目画素を挟み込む2つの第2仮想線L2が得られれば、その注目画素の姿勢情報は、例えば2つの第2仮想線L2の各姿勢情報から線形補間により求めることができる。これにより、入力画と出力画とで画素座標の対応が一致していなくても、出力画の各画素座標について精度のよい姿勢情報を求めることができる。
実施の形態のカメラ姿勢対応付け部21は、複数のそれぞれの第2仮想線L2について、第2仮想線L2上のベクトルとその第2仮想線L2上から処理対象である画素座標に向かうベクトルの外積を用いて、該画素座標に対応する第2仮想線L2となる2つの第2仮想線L2を判定するという例を挙げた。
即ち2つの第2仮想線L2の判定を、ベクトル外積の符号による直線と点の位置関係を利用して行う。外積を用いることで、出力画の注目画素と各第2仮想線の位置関係(注目画素の座標が第2仮想線より上にあるか、第2仮想線上か、第2仮想線より下にあるか)を判定することができ、注目画素に対応する2つの第2仮想線を的確に判定できる。
即ち2つの第2仮想線L2の判定を、ベクトル外積の符号による直線と点の位置関係を利用して行う。外積を用いることで、出力画の注目画素と各第2仮想線の位置関係(注目画素の座標が第2仮想線より上にあるか、第2仮想線上か、第2仮想線より下にあるか)を判定することができ、注目画素に対応する2つの第2仮想線を的確に判定できる。
実施の形態のカメラ姿勢対応付け部21は、対応する2つの第2仮想線L2への処理対象の画素座標からの垂線の距離の逆比で線形補間を行って、該画素座標の姿勢情報を求めるものとした。
これにより2つの第2仮想線L2に挟まれた位置状態に応じて正確且つ容易な補間演算で注目画素座標の姿勢情報を得ることができる。
これにより2つの第2仮想線L2に挟まれた位置状態に応じて正確且つ容易な補間演算で注目画素座標の姿勢情報を得ることができる。
実施の形態では、姿勢情報は撮像装置の傾きを3次元のベクトルで表す回転ベクトルとする例を挙げた。
回転ベクトルによりカメラの姿勢情報を表現できる。回転ベクトルで表される3次元の回転角度で回転させることで、EISのための参照座標の算出や、第2仮想線の生成を行うことができる。
なお姿勢情報としては回転ベクトルに限定されず、クオータニオン(Quaternion)、回転行列(SO3)、オイラー角等を用いてもよい。
回転ベクトルによりカメラの姿勢情報を表現できる。回転ベクトルで表される3次元の回転角度で回転させることで、EISのための参照座標の算出や、第2仮想線の生成を行うことができる。
なお姿勢情報としては回転ベクトルに限定されず、クオータニオン(Quaternion)、回転行列(SO3)、オイラー角等を用いてもよい。
実施の形態の信号処理装置30は、さらにカメラ姿勢対応付け部21及びホモグラフィイ変換部23(又は画像変形部26)に対して、処理対象とする出力画の各画素座標を順次指示する出力画座標生成部(出力画座標カウンタ22又は出力画座標生成部25)を備えるものとした。
例えば画像の各画素を水平方向及び垂直方向に順次指定していくカウンタによりラスタ順などとして各画素が順次姿勢対応付け部と画像変形部での処理対象とされるようにする。
これにより出力画を構成する各画素座標について、順次参照座標が計算される。
例えば画像の各画素を水平方向及び垂直方向に順次指定していくカウンタによりラスタ順などとして各画素が順次姿勢対応付け部と画像変形部での処理対象とされるようにする。
これにより出力画を構成する各画素座標について、順次参照座標が計算される。
実施の形態では、カメラ姿勢対応付け部21及びホモグラフィイ変換部23(又は画像変形部26)は、座標点を対象とする演算により、出力画の各画素座標の画素値の生成のために参照する入力画の画素座標を計算し、参照座標RCとするものとした。
つまり画像データ(各画素データ)を使用するものではなく、座標の対応関係を求める演算を行う。このため参照座標計算部2の処理は、座標点を対象とする演算のみで、画素値を用いないため、処理負担が過大にならない。
つまり画像データ(各画素データ)を使用するものではなく、座標の対応関係を求める演算を行う。このため参照座標計算部2の処理は、座標点を対象とする演算のみで、画素値を用いないため、処理負担が過大にならない。
実施の形態の信号処理装置30は、入力画の画素データを記憶する記憶部(フレームバッファー5又はメモリ8)を備えるものとした。
撮像された入力された入力画は、例えばブロック変換などの必要な処理が施されて記憶部に記憶される。これにより出力画を構成する各画素座標の画素値を読み出すことができ、EIS処理やローリングシャッター歪み補正を適切に行うことができる。
撮像された入力された入力画は、例えばブロック変換などの必要な処理が施されて記憶部に記憶される。これにより出力画を構成する各画素座標の画素値を読み出すことができ、EIS処理やローリングシャッター歪み補正を適切に行うことができる。
実施の形態では、参照座標RCは、出力画において入力画の姿勢補正とレンズ歪み補正を実現するための参照座標とされている例を挙げた。
これによりレンズ歪みも補正した出力画を得ることができる。
なおレンズ歪み補正としては、中心射影の歪モデル、例えばTsaiのレンズ歪モデルによる補正、魚眼レンズ歪モデル、等距離射影からの歪みの補正、変換テーブルを利用した補正などが考えられる。
これによりレンズ歪みも補正した出力画を得ることができる。
なおレンズ歪み補正としては、中心射影の歪モデル、例えばTsaiのレンズ歪モデルによる補正、魚眼レンズ歪モデル、等距離射影からの歪みの補正、変換テーブルを利用した補正などが考えられる。
実施の形態では、入力画は、姿勢検出データが対応づけられた撮像画像信号であるとする例を挙げた。
撮像装置(カメラ)によって撮像された撮像画像信号が入力画とされるが、この撮像画像信号にはカメラの姿勢検出データ、例えばIMUサンプルが対応づけられている。
これにより入力画のラインに対応した姿勢情報を求めることができる。
撮像装置(カメラ)によって撮像された撮像画像信号が入力画とされるが、この撮像画像信号にはカメラの姿勢検出データ、例えばIMUサンプルが対応づけられている。
これにより入力画のラインに対応した姿勢情報を求めることができる。
実施の形態では、姿勢検出データは、角速度データ及び加速度データであるとする例を挙げた。即ちIMUサンプルが撮像画像信号に対応づけられている。
IMUサンプルとしての角速度データ及び加速度データは、カメラ姿勢算出部1に供給され、回転ベクトルが求められる。これにより入力画のラインに対応した姿勢情報を求めることができる。
IMUサンプルとしての角速度データ及び加速度データは、カメラ姿勢算出部1に供給され、回転ベクトルが求められる。これにより入力画のラインに対応した姿勢情報を求めることができる。
実施の形態は図1の信号処理装置30を含む撮像装置31の構成例とした。
即ち撮像装置31は、光学系を介して入射する被写体光を受光して被写体を撮像する撮像部(イメージャ11)と、撮像部の撮像時の姿勢検出データを得る検出部(IMU10)と、信号処理装置30(カメラ姿勢算出部1と、カメラ姿勢対応付け部と、ホモグラフィイ変換部23(又は画像変形部26)と、参照画素取得部(キャッシュ6又はメモリ8)と、補間部(補間フィルタ7)を備える例とした。
このように構成することで、撮像装置31(例えばデジタルカメラ)において、適切なローリングシャッター歪み補正が実現できる。
なお、図1や図19で示した信号処理装置30は必ずしも撮像装置に内蔵される構成とされることに限らない。例えば独立した装置として信号処理装置30が構成されてもよい。また信号処理装置30は、撮像装置で撮像した画像データを入力する装置、例えば画像編集装置、通信装置、情報処理装置、サーバ装置、テレビジョン装置、画像記録装置、画像再生装置、表示装置等に内蔵される装置としてもよい。
即ち撮像装置31は、光学系を介して入射する被写体光を受光して被写体を撮像する撮像部(イメージャ11)と、撮像部の撮像時の姿勢検出データを得る検出部(IMU10)と、信号処理装置30(カメラ姿勢算出部1と、カメラ姿勢対応付け部と、ホモグラフィイ変換部23(又は画像変形部26)と、参照画素取得部(キャッシュ6又はメモリ8)と、補間部(補間フィルタ7)を備える例とした。
このように構成することで、撮像装置31(例えばデジタルカメラ)において、適切なローリングシャッター歪み補正が実現できる。
なお、図1や図19で示した信号処理装置30は必ずしも撮像装置に内蔵される構成とされることに限らない。例えば独立した装置として信号処理装置30が構成されてもよい。また信号処理装置30は、撮像装置で撮像した画像データを入力する装置、例えば画像編集装置、通信装置、情報処理装置、サーバ装置、テレビジョン装置、画像記録装置、画像再生装置、表示装置等に内蔵される装置としてもよい。
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
なお本技術は以下のような構成も採ることができる。
(1)
入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、を備えた
信号処理装置。
(2)
出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
上記(1)に記載の信号処理装置。
(3)
前記第2仮想線は、複数の前記第1仮想線のそれぞれについて、それぞれの姿勢情報で示される回転角度の回転が与えられた複数の線である
上記(1)又は(2)に記載の信号処理装置。
(4)
前記姿勢対応付け部は、出力画の各画素座標について、前記対応する第2仮想線として、画素座標が挟まれる関係となる2つの第2仮想線を求め、該2つの第2仮想線を用いた処理により画素座標の姿勢情報を求める
上記(1)乃至(3)のいずれかに記載の信号処理装置。
(5)
前記姿勢対応付け部は、複数のそれぞれの第2仮想線について、第2仮想線上のベクトルとその第2仮想線上から処理対象である画素座標に向かうベクトルの外積を用いて、該画素座標に対応する第2仮想線となる2つの第2仮想線を判定する
上記(4)に記載の信号処理装置。
(6)
前記姿勢対応付け部は、対応する2つの第2仮想線への処理対象の画素座標からの垂線の距離の逆比で線形補間を行って、該画素座標の姿勢情報を求める
上記(4)又は(5)に記載の信号処理装置。
(7)
前記姿勢情報は撮像装置の傾きを3次元のベクトルで表す回転ベクトルである
上記(1)乃至(6)のいずれかに記載の信号処理装置。
(8)
前記姿勢対応付け部及び前記画像変形部に対して、処理対象とする出力画の各画素座標を順次指示する出力画座標生成部を備える
上記(1)乃至(7)のいずれかに記載の信号処理装置。
(9)
前記姿勢対応付け部及び前記画像変形部は、座標点を対象とする演算により、出力画の各画素座標の画素値の生成のために参照する入力画の画素座標を計算し、参照座標とする
上記(1)乃至(8)のいずれかに記載の信号処理装置。
(10)
入力画の画素データを記憶する記憶部を備える
上記(1)乃至(9)のいずれかに記載の信号処理装置。
(11)
前記参照座標は、出力画において入力画の姿勢補正とレンズ歪み補正を実現するための参照座標とされている
上記(1)乃至(9)のいずれかに記載の信号処理装置。
(12)
入力画は、姿勢検出データが対応づけられた撮像画像信号である
上記(1)乃至(11)のいずれかに記載の信号処理装置。
(13)
前記姿勢検出データは、角速度データ及び加速度データである
上記(12)に記載の信号処理装置。
(14)
光学系を介して入射する被写体光を受光して被写体を撮像する撮像部と、
撮像部の撮像時の姿勢検出データを得る検出部と、
前記姿勢検出データを用いて前記撮像部からの入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、
出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
撮像装置。
(15)
入力画のラインに対応する姿勢情報を算出する姿勢算出処理と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け処理と、
出力画の各画素座標について、前記姿勢対応付け処理で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する変換処理と、
を信号処理装置が行う信号処理方法。
(1)
入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、を備えた
信号処理装置。
(2)
出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
上記(1)に記載の信号処理装置。
(3)
前記第2仮想線は、複数の前記第1仮想線のそれぞれについて、それぞれの姿勢情報で示される回転角度の回転が与えられた複数の線である
上記(1)又は(2)に記載の信号処理装置。
(4)
前記姿勢対応付け部は、出力画の各画素座標について、前記対応する第2仮想線として、画素座標が挟まれる関係となる2つの第2仮想線を求め、該2つの第2仮想線を用いた処理により画素座標の姿勢情報を求める
上記(1)乃至(3)のいずれかに記載の信号処理装置。
(5)
前記姿勢対応付け部は、複数のそれぞれの第2仮想線について、第2仮想線上のベクトルとその第2仮想線上から処理対象である画素座標に向かうベクトルの外積を用いて、該画素座標に対応する第2仮想線となる2つの第2仮想線を判定する
上記(4)に記載の信号処理装置。
(6)
前記姿勢対応付け部は、対応する2つの第2仮想線への処理対象の画素座標からの垂線の距離の逆比で線形補間を行って、該画素座標の姿勢情報を求める
上記(4)又は(5)に記載の信号処理装置。
(7)
前記姿勢情報は撮像装置の傾きを3次元のベクトルで表す回転ベクトルである
上記(1)乃至(6)のいずれかに記載の信号処理装置。
(8)
前記姿勢対応付け部及び前記画像変形部に対して、処理対象とする出力画の各画素座標を順次指示する出力画座標生成部を備える
上記(1)乃至(7)のいずれかに記載の信号処理装置。
(9)
前記姿勢対応付け部及び前記画像変形部は、座標点を対象とする演算により、出力画の各画素座標の画素値の生成のために参照する入力画の画素座標を計算し、参照座標とする
上記(1)乃至(8)のいずれかに記載の信号処理装置。
(10)
入力画の画素データを記憶する記憶部を備える
上記(1)乃至(9)のいずれかに記載の信号処理装置。
(11)
前記参照座標は、出力画において入力画の姿勢補正とレンズ歪み補正を実現するための参照座標とされている
上記(1)乃至(9)のいずれかに記載の信号処理装置。
(12)
入力画は、姿勢検出データが対応づけられた撮像画像信号である
上記(1)乃至(11)のいずれかに記載の信号処理装置。
(13)
前記姿勢検出データは、角速度データ及び加速度データである
上記(12)に記載の信号処理装置。
(14)
光学系を介して入射する被写体光を受光して被写体を撮像する撮像部と、
撮像部の撮像時の姿勢検出データを得る検出部と、
前記姿勢検出データを用いて前記撮像部からの入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、
出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
撮像装置。
(15)
入力画のラインに対応する姿勢情報を算出する姿勢算出処理と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け処理と、
出力画の各画素座標について、前記姿勢対応付け処理で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する変換処理と、
を信号処理装置が行う信号処理方法。
1…カメラ姿勢算出部、2…参照座標計算部、3…データ分離部、4…ブロック変換部、5…フレームバッファー、6…キャッシュ、7…補間フィルタ、8…メモリ、10…IMU、11…イメージャ、21…カメラ姿勢対応付け部、22…出力画座標カウンタ、23…ホモグラフィイ変換部、24…レンズ歪補正部、25…出力画座標生成部、26…画像変形部、30…信号処理装置、31…撮像装置
Claims (15)
- 入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、を備えた
信号処理装置。 - 出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
請求項1に記載の信号処理装置。 - 前記第2仮想線は、複数の前記第1仮想線のそれぞれについて、それぞれの姿勢情報で示される回転角度の回転が与えられた複数の線である
請求項1に記載の信号処理装置。 - 前記姿勢対応付け部は、出力画の各画素座標について、前記対応する第2仮想線として、画素座標が挟まれる関係となる2つの第2仮想線を求め、該2つの第2仮想線を用いた処理により画素座標の姿勢情報を求める
請求項1に記載の信号処理装置。 - 前記姿勢対応付け部は、複数のそれぞれの第2仮想線について、第2仮想線上のベクトルとその第2仮想線上から処理対象である画素座標に向かうベクトルの外積を用いて、該画素座標に対応する第2仮想線となる2つの第2仮想線を判定する
請求項4に記載の信号処理装置。 - 前記姿勢対応付け部は、対応する2つの第2仮想線への処理対象の画素座標からの垂線の距離の逆比で線形補間を行って、該画素座標の姿勢情報を求める
請求項4に記載の信号処理装置。 - 前記姿勢情報は撮像装置の傾きを3次元のベクトルで表す回転ベクトルである
請求項1に記載の信号処理装置。 - 前記姿勢対応付け部及び前記画像変形部に対して、処理対象とする出力画の各画素座標を順次指示する出力画座標生成部を備える
請求項1に記載の信号処理装置。 - 前記姿勢対応付け部及び前記画像変形部は、座標点を対象とする演算により、出力画の各画素座標の画素値の生成のために参照する入力画の画素座標を計算し、参照座標とする
請求項1に記載の信号処理装置。 - 入力画の画素データを記憶する記憶部を備える
請求項1に記載の信号処理装置。 - 前記参照座標は、出力画において入力画の姿勢補正とレンズ歪み補正を実現するための参照座標とされている
請求項1に記載の信号処理装置。 - 入力画は、姿勢検出データが対応づけられた撮像画像信号である
請求項1に記載の信号処理装置。 - 前記姿勢検出データは、角速度データ及び加速度データである
請求項12に記載の信号処理装置。 - 光学系を介して入射する被写体光を受光して被写体を撮像する撮像部と、
撮像部の撮像時の姿勢検出データを得る検出部と、
前記姿勢検出データを用いて前記撮像部からの入力画のラインに対応する姿勢情報を算出する姿勢算出部と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け部と、
出力画の各画素座標について、前記姿勢対応付け部で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する画像変形部と、
出力画の各画素座標についての前記参照座標に基づいて、前記入力画の画素データを記憶する記憶部から参照画素データを読み出す参照画素取得部と、
前記参照画素データを用いた補間処理を行い、出力画を構成する画素データを生成する補間部と、を備えた
撮像装置。 - 入力画のラインに対応する姿勢情報を算出する姿勢算出処理と、
算出される姿勢情報が共通となる入力画のライン方向の仮想的な線である第1仮想線を姿勢情報に応じて回転させて出力画上の仮想的な線である第2仮想線を求め、出力画の各画素について対応する第2仮想線を算出し、前記対応する第2仮想線に基づいて姿勢情報を求める姿勢対応付け処理と、
出力画の各画素座標について、前記姿勢対応付け処理で対応づけられた姿勢情報を用いてその画素座標に対応する入力画上の参照座標を算出する変換処理と、
を信号処理装置が行う信号処理方法。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153873A JP2020031264A (ja) | 2018-08-20 | 2018-08-20 | 信号処理装置、撮像装置、信号処理方法 |
PCT/JP2019/025865 WO2020039747A1 (ja) | 2018-08-20 | 2019-06-28 | 信号処理装置、撮像装置、信号処理方法 |
US17/250,608 US11196929B2 (en) | 2018-08-20 | 2019-06-28 | Signal processing device, imaging device, and signal processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018153873A JP2020031264A (ja) | 2018-08-20 | 2018-08-20 | 信号処理装置、撮像装置、信号処理方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020031264A true JP2020031264A (ja) | 2020-02-27 |
Family
ID=69593089
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018153873A Pending JP2020031264A (ja) | 2018-08-20 | 2018-08-20 | 信号処理装置、撮像装置、信号処理方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US11196929B2 (ja) |
JP (1) | JP2020031264A (ja) |
WO (1) | WO2020039747A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11734789B2 (en) * | 2020-06-02 | 2023-08-22 | Immersive Tech, Inc. | Systems and methods for image distortion correction |
JP2023096333A (ja) * | 2021-12-27 | 2023-07-07 | セイコーエプソン株式会社 | 回路装置及び表示装置 |
CN115174879B (zh) * | 2022-07-18 | 2024-03-15 | 峰米(重庆)创新科技有限公司 | 投影画面校正方法、装置、计算机设备和存储介质 |
Family Cites Families (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008028500A (ja) * | 2006-07-19 | 2008-02-07 | Sony Corp | 画像処理装置、方法、およびプログラム |
US9280810B2 (en) * | 2012-07-03 | 2016-03-08 | Fotonation Limited | Method and system for correcting a distorted input image |
WO2014068779A1 (ja) | 2012-11-05 | 2014-05-08 | 株式会社モルフォ | 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体 |
JP6041651B2 (ja) * | 2012-12-10 | 2016-12-14 | キヤノン株式会社 | 画像処理装置、画像処理方法及びプログラム |
US9071756B2 (en) | 2012-12-11 | 2015-06-30 | Facebook, Inc. | Systems and methods for digital video stabilization via constraint-based rotation smoothing |
JP6327245B2 (ja) | 2013-03-29 | 2018-05-23 | ソニー株式会社 | 撮像装置、固体撮像素子、カメラモジュール、電子機器、および撮像方法 |
JP6505501B2 (ja) | 2015-05-22 | 2019-04-24 | 株式会社朋栄 | ローリングシャッタ回転歪み補正と映像安定化処理方法 |
KR102526794B1 (ko) * | 2015-07-22 | 2023-04-28 | 소니그룹주식회사 | 카메라 모듈, 고체 촬상 소자, 전자 기기 및 촬상 방법 |
US10027893B2 (en) * | 2016-05-10 | 2018-07-17 | Nvidia Corporation | Real-time video stabilization for mobile devices based on on-board motion sensing |
JP6169235B2 (ja) | 2016-08-29 | 2017-07-26 | キヤノン株式会社 | 撮像装置及びその制御方法 |
US10462370B2 (en) * | 2017-10-03 | 2019-10-29 | Google Llc | Video stabilization |
US10572982B2 (en) * | 2017-10-04 | 2020-02-25 | Intel Corporation | Method and system of image distortion correction for images captured by using a wide-angle lens |
JP2019106656A (ja) * | 2017-12-14 | 2019-06-27 | ルネサスエレクトロニクス株式会社 | 半導体装置および電子機器 |
US10999507B2 (en) * | 2018-10-30 | 2021-05-04 | Qualcomm Incorporated | Optical image stabilization techniques |
-
2018
- 2018-08-20 JP JP2018153873A patent/JP2020031264A/ja active Pending
-
2019
- 2019-06-28 US US17/250,608 patent/US11196929B2/en active Active
- 2019-06-28 WO PCT/JP2019/025865 patent/WO2020039747A1/ja active Application Filing
Also Published As
Publication number | Publication date |
---|---|
US11196929B2 (en) | 2021-12-07 |
US20210314473A1 (en) | 2021-10-07 |
WO2020039747A1 (ja) | 2020-02-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6919334B2 (ja) | 画像処理装置、画像処理方法、プログラム | |
JP5960595B2 (ja) | 画像処理装置、画像処理方法、プログラム及び撮影装置 | |
KR102526794B1 (ko) | 카메라 모듈, 고체 촬상 소자, 전자 기기 및 촬상 방법 | |
US10594941B2 (en) | Method and device of image processing and camera | |
EP3417606B1 (en) | A method of stabilizing a sequence of images | |
US20210082149A1 (en) | Real-time calibration of wide-baseline outside-in multi-camera systems | |
US11477382B2 (en) | Method of stabilizing a sequence of images | |
JP6677098B2 (ja) | 全天球動画の撮影システム、及びプログラム | |
JP6518115B2 (ja) | 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム | |
WO2020039747A1 (ja) | 信号処理装置、撮像装置、信号処理方法 | |
JP2017208619A (ja) | 画像処理装置、画像処理方法、プログラム及び撮像システム | |
JP2013214947A (ja) | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム | |
US11627390B2 (en) | Encoding method, playing method and apparatus for image stabilization of panoramic video, and method for evaluating image stabilization algorithm | |
JP2004213355A (ja) | 情報処理方法 | |
JP2019110434A (ja) | 画像処理装置、画像処理システムおよびプログラム | |
JP2018038087A (ja) | 撮像装置、撮像システム、画像処理方法、情報処理装置、及びプログラム | |
WO2018100230A1 (en) | Method and apparatuses for determining positions of multi-directional image capture apparatuses | |
WO2018150086A2 (en) | Methods and apparatuses for determining positions of multi-directional image capture apparatuses | |
JP2019071522A (ja) | 撮像装置および制御方法 | |
TWI672950B (zh) | 可補償影像變化的影像裝置 | |
JP7206797B2 (ja) | 撮像装置、情報処理装置、補正値計算方法およびプログラム | |
JP3452188B2 (ja) | 2次元動画像中の特徴点の追跡方法 | |
JP2014011569A (ja) | ブレ補正装置及び方法 | |
JP7234802B2 (ja) | 撮像システム、端末及びプログラム | |
JP2007271690A (ja) | 撮像装置 |