JP2014092460A - 画像処理装置および方法、画像処理システム、並びにプログラム - Google Patents
画像処理装置および方法、画像処理システム、並びにプログラム Download PDFInfo
- Publication number
- JP2014092460A JP2014092460A JP2012243179A JP2012243179A JP2014092460A JP 2014092460 A JP2014092460 A JP 2014092460A JP 2012243179 A JP2012243179 A JP 2012243179A JP 2012243179 A JP2012243179 A JP 2012243179A JP 2014092460 A JP2014092460 A JP 2014092460A
- Authority
- JP
- Japan
- Prior art keywords
- pole
- imaging units
- image
- pattern
- imaging
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/246—Calibration of cameras
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
- G06T7/73—Determining position or orientation of objects or cameras using feature-based methods
- G06T7/74—Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/80—Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
- G06T7/85—Stereo camera calibration
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two 2D image sensors having a relative position equal to or related to the interocular distance
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01B—MEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
- G01B11/00—Measuring arrangements characterised by the use of optical techniques
- G01B11/24—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures
- G01B11/25—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object
- G01B11/2513—Measuring arrangements characterised by the use of optical techniques for measuring contours or curvatures by projecting a pattern, e.g. one or more lines, moiré fringes on the object with several lines being projected in more than one direction, e.g. grids, patterns
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B35/00—Stereoscopic photography
- G03B35/08—Stereoscopic photography by simultaneous recording
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30204—Marker
- G06T2207/30208—Marker matrix
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
【課題】限られた空間でステレオカメラのキャリブレーションを実行する。
【解決手段】チャートパタン13にポール41−1,41−2を設けて、ステレオカメラを構成する撮像部21−1,21−2のそれぞれにより、チャートパタン13に含まれるパタンからなる特徴点と、ポール41−1,41−2とを撮像させる。キャリブレーション部12は、ポール41−1,41−2の先端部の画像からステレオカメラ11、またはチャートパタン13の傾きのずれを検出し、撮像部21−1,21−2をキャリブレーションするための補正パラメタを算出し、ステレオカメラ11に記憶させる。デプス検出部14は、ステレオカメラ11により撮像された画像を、ステレオカメラ11に記憶された補正パラメタで補正して、補正した画像に基づいて、ディスパリティを求める。本技術は、3次元画像を撮像するステレオカメラに適用することができる。
【選択図】図1
【解決手段】チャートパタン13にポール41−1,41−2を設けて、ステレオカメラを構成する撮像部21−1,21−2のそれぞれにより、チャートパタン13に含まれるパタンからなる特徴点と、ポール41−1,41−2とを撮像させる。キャリブレーション部12は、ポール41−1,41−2の先端部の画像からステレオカメラ11、またはチャートパタン13の傾きのずれを検出し、撮像部21−1,21−2をキャリブレーションするための補正パラメタを算出し、ステレオカメラ11に記憶させる。デプス検出部14は、ステレオカメラ11により撮像された画像を、ステレオカメラ11に記憶された補正パラメタで補正して、補正した画像に基づいて、ディスパリティを求める。本技術は、3次元画像を撮像するステレオカメラに適用することができる。
【選択図】図1
Description
本技術は、画像処理装置および方法、画像処理システム、並びにプログラムに関し、特に、ステレオ画像を撮像する複数のカメラのキャリブレーションを少ないスペースで、容易で、かつ、高精度に実現できるようにした画像処理装置および方法、画像処理システム、並びにプログラムに関する。
複数のカメラを利用して、3次元の画像を撮像できるようにする技術が一般に普及している。
3次元の画像を生成する手法としては、異なる2視点のカメラを設置してステレオカメラを構成し、ステレオカメラを構成する2視点のカメラにより撮像された画像に基づいて、視差を求め、この視差を利用して3次元の画像を生成するといったものが一般的な手法として知られている。
ところで、ここで使用される異なる2視点のカメラについては、適切な方向に設置されることが前提となるが、どのように設置してもある程度の物理的なずれが発生することが知られている。そこで、一般的には、2視点のカメラのそれぞれの撮像方向について、チャートパタンからなる画像を撮像し、撮像結果を用いて、キャリブレーションにより補正パラメタを求めておくことで、実際の撮像結果は、この補正パラメタにより補正されて使用される。
このキャリブレーションを実行するための様々な技術がこれまでにも提案されており、例えば、同じ距離の平面にある4点を、2視点のカメラで撮像し、撮像結果から補正パラメタを算出するというものが第1の手法として提案されている(特許文献1参照)。
また、特許文献1には、第2の手法として、チャートパタンに穴を開けることによって異なる奥行きを持つ面を1枚の画像として撮像し、1枚の画像でキャリブレーション処理を実行して、補正パラメタを算出するといったものも提案されている。
さらに、例えば、透明チャートにキャリブレーションパタンを印刷して異なる距離に配置し、これらの画像を撮像して、撮像結果を利用してキャリブレーション処理を実行することで、補正パラメタを算出するといったものも提案されている(特許文献2参照)。
しかしながら、特許文献1で提案される第1の手法においては、狭いスペースで容易にキャリブレーションを実行することが可能であるが、チャートパタンの傾きがあると精度が低下する恐れがあった。特に、特許文献1の第1の手法においては、チャートパタンを配置した位置と異なる位置とのキャリブレーションによる性能が、より低下する恐れがあった。
さらに、特許文献1の第2の手法、および特許文献2の手法においては、いずれも高精度でキャリブレーションを実行することが可能であるが、精度を上げるにはキャリブレーションをするために多くの空間が必要となる。
本技術はこのような状況に鑑みてなされたものであり、特に、ポールを設けたチャートパタンを用いて、キャリブレーションを実行するようにすることで、狭い空間でも高精度にキャリブレーションを実現できるようにするものである。
本技術の第1の側面の画像処理装置は、ステレオカメラを構成し、ポールを含むチャートパタンを撮像する複数の撮像部と、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部とを含む。
前記ポールには、その先端部に円盤部を設けさせ、前記先端部の側面外形がT字型のものを含ませるようにすることができる。
前記複数の撮像部により撮像されたチャートパタンに含まれる前記ポールを検出するポール検出部と、前記ポール検出部により検出されたポールに基づいて、前記チャートパタンの傾きを検出する傾き検出部と、前記複数の撮像部により撮像されたチャートパタンに含まれるパタンに基づいて、特徴点を検出する検出部と、前記傾き検出部により検出された傾きに基づいて、前記検出部により検出された特徴点の配置を補正する特徴点補正部とをさらに含み、前記補正パラメタ算出部には、前記特徴点補正部により配置が補正された特徴点の情報に基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出させるようにすることができる。
前記チャートパタンは、ボックスチャート、および格子点チャートを含ませるようにすることができる。
本技術の第1の側面の画像処理方法は、ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像処理をし、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出処理をするステップを含む。
本技術の第1の側面のプログラムは、ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像ステップと、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出ステップとを含む画像処理装置を制御するコンピュータに実行させる。
本技術の第2の側面の画像処理システムは、複数の撮像部を含む画像処理装置と、前記撮像部の撮像方向をキャリブレーションするためのチャートパタンとからなる画像処理システムであって、前記チャートパタンは、前記複数の撮像部に対して対向する位置に設けられ、特徴点となるパタンと、ポールとを含み、前記画像処理装置は、前記複数の撮像部が、ステレオカメラを構成すると共に、前記チャートパタンを撮像し、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部を含む。
本技術の第1の側面においては、ステレオカメラを構成する複数の撮像部により、ポールを含むチャートパタンが撮像され、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタが算出される。
本技術の第2の側面においては、前記画像処理装置は、ステレオカメラを構成する複数の撮像部により、対向する位置に設けられ、特徴点となるパタンと、ポールとを含むチャートパタンが撮像され、前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタが算出される。
本技術の第1、および第2の側面の画像処理装置、および画像処理システムは、独立した装置、およびシステムであっても良いし、画像処理を行うブロックであっても良い。
本技術の第1、および第2の側面によれば、限られた空間であっても、ステレオカメラを構成する撮像部の撮像方向を、容易で、かつ、高精度にキャリブレーションすることが可能となる。
<画像処理システムの構成例>
図1は、本技術を適用した画像処理システムの一実施の形態の構成例を示している。図1の画像処理システムは、まず、ステレオカメラ11の撮像部21−1,21−2が、ポール41−1,41−2が設けられたチャートパタン13を撮像する。そして、キャリブレーション部12が、撮像された2枚の画像に基づいて、撮像部21−1,21−2のずれを補正する補正パラメタを算出してステレオカメラ11に記憶させる。さらに、デプス検出部14が、ステレオカメラ11を用いてデプス検出処理を実施する際、補正パラメタを使用して、ステレオカメラ11の撮像部21−1,21−2により撮像された画像を補正して、デプス検出結果であるディスパリティ画像を生成する。
図1は、本技術を適用した画像処理システムの一実施の形態の構成例を示している。図1の画像処理システムは、まず、ステレオカメラ11の撮像部21−1,21−2が、ポール41−1,41−2が設けられたチャートパタン13を撮像する。そして、キャリブレーション部12が、撮像された2枚の画像に基づいて、撮像部21−1,21−2のずれを補正する補正パラメタを算出してステレオカメラ11に記憶させる。さらに、デプス検出部14が、ステレオカメラ11を用いてデプス検出処理を実施する際、補正パラメタを使用して、ステレオカメラ11の撮像部21−1,21−2により撮像された画像を補正して、デプス検出結果であるディスパリティ画像を生成する。
より具体的には、図1の画像処理システムは、ステレオカメラ11、キャリブレーション部12、チャートパタン13、およびデプス検出部14より構成される。ステレオカメラ11は、水平方向に所定の間隔で配置され、同一方向の画像を撮像する撮像部21−1,21−2を備えている。ステレオカメラ11は、キャリブレーション処理において、撮像部21−1,21−2のそれぞれにより、ポール41−1,41−2が設けられたチャートパタン13を撮像し、撮像した2枚の画像をキャリブレーション部12に供給し、キャリブレーション部12により算出された補正パラメタを記憶する。また、ステレオカメラ11は、デプス検出処理において、デプス検出部14に画像を供給する際、キャリブレーション処理により記憶された補正パラメタを画像に併せてデプス検出部14に供給する。
キャリブレーション部12は、キャリブレーション処理を実行し、ステレオカメラ11より供給されてくる画像に基づいて、撮像部21−1,21−2の撮像方向を補正する補正パラメタを算出し、ステレオカメラ11に記憶させる。
チャートパタン13は、平面状のチャートパタンに、ポール41−1,41−2が設けられたものであり、例えば、図2の画像Pで示されるものである。画像Pにおいては、領域Z1内においてチャートパタンが表示され、その中央部にポール41−1,41−2が水平方向に所定の間隔を空けて設けられている。ポール41−1,41−2は、図2の右部の側面図で示されるように、ステレオカメラ11の手前方向にチャートパタン13より支柱41b−1,41b−2分だけ飛び出した位置に円盤部41a−1,41a−2が設けられ、ちょうど側面から見るとT字型の構成とされている。
より詳細には、図2の左中央部で示されるように、チャートパタン13の中央部に設けられたパタンである円形部C1,C2の中央部に支柱41b−1,41b−2が設けられ、その先端部分に円盤部41a−1,41a−2が設けられている。それぞれの具体的な大きさは、例えば、図2の左下部で示されるように、円形部C1,C2の外円の直径が8cmであり内円の直径が6cmであり、支柱41b−1,41b−2の長さが7cmであり、円盤部41a−1,41a−2の直径が2.5cmであり、その厚さが5mmである。尚、これらの大きさは、図2で示される大きさに限るものではなく、それ以外の大きさであってもよいものである。
チャートパタン13は、例えば、図3で示されるボックスチャートと呼ばれるパタンT1などでもよいし、格子点チャートと呼ばれるパタンT2でもよいし、ボックスチャートと、格子点チャートとが組み合わされたパタンT3でもよい。尚、パタンT3は、図2の画像Pで示されるチャートパタンと同様である。
デプス検出部14は、ステレオカメラ11により撮像された画像を取得すると共に、ステレオカメラ11より供給されてくるキャリブレーション処理により算出された補正パラメタを取得する。そして、デプス検出部14は、ステレオカメラ11より供給されてくる画像を、補正パラメタを用いて補正し、補正した画像に基づいて画素単位で距離を求め、デプス画像(ディスパリティ画像)を検出する。
<画像処理システムの各構成を実現するための機能>
次に、図4の機能ブロック図を参照して、図1の画像処理システムの各構成を実現するための機能について説明する。
次に、図4の機能ブロック図を参照して、図1の画像処理システムの各構成を実現するための機能について説明する。
ステレオカメラ11は、撮像部21−1,21−2、およびパラメタ記憶部61を備えている。撮像部21−1,21−2は、CCD(Charge Coupled Device)、やCMOS(Complementary Metal Oxide Semiconductor)などの撮像素子からなる。撮像部21−1,21−2は、水平方向に所定間隔で配置され、撮像部21−1,21−2の設置位置を結ぶ直線からなるベースラインに対して、同一方向の画像となるチャートパタン13を撮像し、撮像した画像をキャリブレーション処理時には、キャリブレーション部12に供給する。また、デプス検出処理においては、撮像部21−1,21−2は、撮像した画像をデプス検出部14に供給する。尚、撮像部21−1,21−2のそれぞれについて、特に区別する必要がない場合、単に、撮像部21と称するものとし、その他の構成についても同様に称するものとする。
パラメタ記憶部61は、キャリブレーション部12のキャリブレーション処理により算出された補正パラメタを記憶すると共に、デプス検出処理においては、記憶している補正パラメタをデプス検出部14に供給する。
キャリブレーション部12は、画像取得部101、ポール検出部102、傾き検出部103、特徴点検出部104、特徴点補正部105、およびパラメタ算出部106を備えている。
画像取得部101は、ステレオカメラ11の撮像部21−1,21−2により撮像されたチャートパタンの2枚の画像を取得して、撮像されたチャートパタンの2枚の画像と共にポール検出部102に供給する。
ポール検出部102は、チャートパタンの2枚の画像に基づいて、ポール41の位置を検出し、検出されたポール41の位置の情報と併せて、撮像された2枚の画像を傾き検出部103に供給する。
傾き検出部103は、検出されたポール41の位置の情報に基づいて、チャートパタン13の傾きを検出し、検出したチャートパタン13の傾きの情報と共に、撮像された2枚の画像を特徴点検出部104に供給する。
特徴点検出部104は、撮像された2枚の画像より、サブピクセルの特徴点を検出し、検出結果と撮像画像とを特徴点補正部105に供給する。
特徴点補正部105は、特徴点の検出結果に基づいて、特徴点を補正し、補正結果と撮像画像とをパラメタ算出部106に供給する。
パラメタ算出部106は、補正結果となる補正画像と、撮像画像とから補正パラメタを算出し、ステレオカメラ11のパラメタ記憶部61に記憶させる。
デプス検出部14は、画像取得部121、パラメタ取得部122、補正部123、およびステレオマッチング部124を備えている。画像取得部121は、デプス検出処理において、ステレオカメラ11の撮像部21−1,21−2によりそれぞれ撮像された2枚の画像を取得して補正部123に供給する。
パラメタ取得部122は、ステレオカメラ11のパラメタ記憶部61に記憶されている補正パラメタを読み出して取得し、補正部123に供給する。
補正部123は、画像取得部121により取得された撮像部21−1,21−2によりそれぞれ撮像された2枚の画像を、補正パラメタを用いて補正し、補正画像をステレオマッチング部124に供給する。
ステレオマッチング部124は、ステレオマッチング処理により、補正された2枚の画像から画素単位で距離を求め、デプス画像(ディスパリティ画像)を生成して出力する。
<キャリブレーション処理>
次に、図5のフローチャートを参照して、キャリブレーション処理について説明する。
次に、図5のフローチャートを参照して、キャリブレーション処理について説明する。
ステップS11において、ステレオカメラ11は、撮像部21−1,21−2をそれぞれ使用して、2枚の画像からなるステレオ画像を撮像し、キャリブレーション部12に供給する。このとき、キャリブレーション部12の画像取得部101は、取得した2枚の画像をポール検出部102に供給する。
ステップS12において、ポール検出部102は、ポール検出処理を実行して、撮像された画像より、ポール41−1,41−2を検出し、検出結果と撮像された画像を傾き検出部103に供給する。
<ポール検出処理>
ここで、図6のフローチャートを参照してポール検出処理について説明する。
ここで、図6のフローチャートを参照してポール検出処理について説明する。
ステップS31において、ポール検出部102は、撮像された画像より円領域を切り出して抽出する。すなわち、撮像された画像が、例えば、図7の左上部で示される画像P1であるような場合、ポール検出部102は、円形部C1,C2を検出し、図7の右上部で示されるような、円形部C1,C2を含む円領域からなる画像P2を切り出して抽出する。
ステップS32において、ポール検出部102は、抽出された円領域からなる画像P2に対して、ラプラシアンフィルタなどの所定のフィルタ処理を施し、例えば、図7の左下部で示されるようなエッジ画像P3を抽出する。
ステップS33において、ポール検出部102は、エッジ画像P3より、円形部C1,C2の内円を推定する。すなわち、ポール検出部102は、図7の右下部における内円IL,IRを、円形部C1,C2の内円として推定する。
ステップS34において、ポール検出部102は、内円IL,IRの画像より、サブピクセルオーダーで円盤部41a−1,41a−2を推定する。
以上の処理により、ポール検出部102は、撮像された画像における円形部C1,C2の内円IL,IRを推定すると共に、内円IL,IR内からポール41−1,41−2の先端部である円盤部41a−1,41a−2をサブピクセルオーダーで検出し、検出したサブピクセル単位の円盤部41a−1,41a−2の情報と共に、撮像された画像を傾き検出部103に供給する。尚、内円IL,IRの推定については、その他の手法で推定するようにしてもよく、例えば、ハフ変換により推定するようにしても良い。
ここで、図5のフローチャートの説明に戻る。
ステップS13において、傾き検出部103は、チャートパタン13、およびステレオカメラ11間の傾きを検出し、撮像した画像と共に特徴点検出部104に供給する。
ここで、チャートパタン13、およびステレオカメラ11間における傾きは、ステレオカメラ11がチャートパタン13に対して回転しているモデルと、チャートパタン13がステレオカメラ11に対して回転しているモデルとが考えられる。
例えば、ステレオカメラ11がチャートパタン13に対して回転しているモデルを考える場合、図8で示されるようなモデルとなり、これらのモデルに基づいた関係により、以下の式(1)乃至式(4)の関係が求められる。
ここで、dは、ステレオカメラ11がベースラインBに対してθだけ回転したことに伴って発生する、ポール41−2の先端部の検出位置のずれ量を示しており、Bは、ポール41−1,41−2間の軸となるベースラインB上の距離を示しており、θはステレオカメラ11の撮像部21−1,21−2間のベースラインBに対してなす回転角を示している。また、L’は、ステレオカメラ11の回転したときの撮像部21−2と、ポール41の先端部との距離を示しており、φは撮像部21−2における画角を示しており、mpは、撮像部21−2の水平方向の画素数を示しており、dpは、画像上のポール先端部におけるずれ量を示している。αは、ポール先端部と、ずれたポール先端部との成す角を示している。尚、図8においては、ポール41の先端部には、簡単のため円盤部41aが設けられておらず、側面からみるとT字型ではなく棒状のポール41となっている。しかしながら、ポール41の先端部については、円盤部41aであるものとして説明を進めるものとする。すなわち、ポール41の円盤部41aは、ポール41の先端部を画像として認識しやすくするために設けられているものであるので、ポール41の側面方向からの形状は、T字型でも、I型でもよい。従って、以降においては、ポール41の先端部を円盤部41aとして説明を進めるものとする。
以上のような構成から、例えば、水平方向の画素数mpが1280画素であり、ベースラインB上のポール41−1,41−2間の間隔が8cmであり、距離L’が70cmであり、画角φが72.5度である場合、回転角θ=1度であるとすれば、ずれ量dpは0.0152画素となる。
すなわち、チャートパタン13とステレオカメラ11間の限界精度を1度とするには、ポール41の先端部の位置を0.0152ピクセルの精度で求める必要がある。
また、チャートパタン13がステレオカメラ11に対して回転している場合、図9で示されるようなモデルとなり、これらのモデルに基づいた関係により、以下の式(5)乃至式(14)の関係が求められる。
ここで、n0は、チャートパタン13’の回転に伴った、ポール41,41’の根本の位置の水平方向(ベースラインBの方向)のずれ量を示しており、BはベースラインB上のポール41−1,41−2間の距離を示しており、θは、チャートパタン13の回転角度を示しており、m0は、ポール41,41’の根本の位置の垂直方向のずれ量を示している。また、n1は、ポール41,41’の先端部の水平方向のずれ量を示しており、Mはポール41の長さを示しており、m1は、ずれたポール41’の先端部とベースラインBとの垂直方向の距離を示している。さらに、Lは、回転していないチャートパタン13のベースラインBとステレオカメラ11との距離であり、ξは、ずれたポール41’の根本の位置と先端部との撮像部21−1の中心位置におけるなす角を示しており、φは、撮像部21−1の画角を示している。また、mpは、撮像部21−1により撮像される画像の水平方向の端部から中央画素までの画素数を示しており、d1は、撮像部21−1により撮像される画像内におけるポール41’の先端部を示す画素の水平中央画素からの画素数を示している。さらに、d0は、撮像部21−1により撮像される画像内におけるポール41の根本を示す画素の水平中央画素からの画素数を示しており、Ψは、撮像部21−1により撮像される画像内におけるポール41,41’のそれぞれの根本の位置とのずれ角を示している。
この結果、水平方向の画素数mpが1280画素であり、ベースラインBのポール41−1,41−2間の間隔が8cmであり、距離L’が70cmであり、画角φが72.5度であり、ポール41の長さMが7cmである場合、d0に1度のずれがあるとすれば、d0(1)は、0.0076041となり、2度のずれがあるとき、d0(2)は、0.0304445となる。また、同様の条件において、d1に1度のずれがあるとき、d1(1)は、1.702891となり、d1(2)は、3.257879となる。
ここで、チャートパタン13が、ステレオカメラ11に対して回転していない場合、図10上段の画像G0で示されるように点線で示される正方形内にポール41の先端部である円盤部41aが含まれるものとする。この条件の下で、θ=1度になるようにチャートパタン13がステレオカメラ11に対して回転した場合、ポール41の先端部である円盤部41aは、図10中段の画像G1で示されるように撮像される。さらに、θ=2度になるようにチャートパタン13がステレオカメラ11に対して回転した場合、ポール41の先端部である円盤部41aは、図10下段の画像G2で示されるように撮像される。すなわち、θ=1であるとき、水平方向に対して、1.7ピクセルだけ実線で示される正方形からポール41の円盤部41aがずれており、同様に、θ=2であるとき、水平方向に対して、3.4ピクセルだけ実線で示される正方形からポール41の円盤部41aがずれているのが確認できる。尚、図10においては、上述した条件が同一の場合の円盤部41aの撮像画像の例であり、モザイク状に映し出されているのがピクセルサイズである。
以上のように、ステップS13において、傾き検出部103は、ポール41−1,41−2の先端部となる円盤部41a−1,41a−2の画像が、図10で示されるような点線で示される正方形からずれている画素数に応じて、撮像部21−1,21−2の撮像方向に対する回転のずれ角を求める。尚、上述したように、ずれ角を求めるに当たっては、ステレオカメラ11がチャートパタン12に対して回転するモデルにより定義される式、および、チャートパタン12がステレオカメラ11に対して回転するモデルにより定義される式のいずれを利用するようにしても良い。また、図8においては、撮像部21−2により撮像される画像との対応のみについて、図9においては、撮像部21−1により撮像される画像との対応のみについて、それぞれのモデルを説明したが、いずれのモデルにおいても、撮像部21−1,21−2の両方について同様の関係を測定して傾きが検出される必要がある。
以上においては、チャートパタン13におけるポール41−1,41−2間のベースラインBに対して垂直で、かつ、撮像部21−1,21−2の撮像方向に対して垂直方向を軸としたときの回転角を傾きとして求める例について説明してきたが、同様の手法で、傾き検出部103は、ベースラインBを軸としたときの回転角も求める。さらに、傾き検出部103は、撮像部21の撮像方向を軸としてステレオカメラ11が回転する、または、チャートパタン13が回転するといった傾きを示す回転角も求める。このとき、検出部103は、撮像部21−1,21−2により撮像された画像内におけるポール41−1,41−2のそれぞれの円盤部41a−1,41a−2の中心部を結ぶ直線と、水平方向とのなす角を求めることにより、撮像方向を軸とした回転角として算出する。
すなわち、傾き検出部103は、ベースラインBに対して垂直で、かつ、撮像部21の撮像方向に対して垂直方向を軸としたときの回転角(第1の回転角)、ベースラインBを軸としたときの回転角(第2の回転角)、および撮像部21の撮像方向を軸とした回転角(第3の回転角)の3種類の回転角を算出する。
ここで、図5のフローチャートの説明に戻る。
ステップS14において、特徴点検出部104は、撮像された画像に基づいて、チャートパタンにおけるコーナ部や交点部分などを、キャリブレーションの処理に必要とされる特徴点として抽出し、抽出した特徴点情報、傾き情報、および撮像された画像の情報を特徴点補正部105に供給する。
例えば、ボックスチャートを利用するような場合、特徴点検出部104は、まず、ボックスチャートの周囲のラインとなるエッジを検出する。より具体的には、特徴点検出部104は、撮像部21−1,21−2により撮像された画像の輝度値をg(x,y)として、補正後の画像の輝度値をf(x,y)とし、次のような式(15)乃至式(17)に従った演算を実行し、水平方向、および垂直方向のエッジを検出する。
次に、特徴点検出部104は、検出したエッジが連続的になっている部分を求め、上下左右の計4本の直線に対応するエッジの座標列を抽出する。これら座標列を、最小二乗法などを用いて、4本の直線を表す1次方程式を求める。
すなわち、例えば、図11で示されるような画像PL1,PR1がステレオカメラ11により撮像されると、特徴点検出部104は、上下の直線2本はy=ax+b、左右の直線2本はx=cx+d、のような形の1次方程式にそれぞれ近似する。
そして、特徴点検出部104は、この1次方程式を解くことにより、図12の画像PL1’,PR1’で示されるように、特徴点として、左右のチャートパタン基準点p0乃至p3を検出する。
ステップS15において、特徴点補正部105は、チャートパタン基準点として求められた特徴点の情報を、傾き情報に基づいて補正して、補正前の特徴点の情報、補正した特徴点の情報、および撮像された画像の情報をパラメタ算出部106に供給する。
すなわち、例えば、特徴点補正部105は、以下の式(18)乃至式(20)を算出することにより特徴点(x,y,z)を補正特徴点(x’,y’,z’)に補正する。
ここで、θ,φ,αは、それぞれ図13におけるX軸回りの回転(pitch)、Z軸回りの回転(Roll)、およびY軸回りの回転(Yaw)である。すなわち、θは、傾き検出部103により求められた、ベースラインBを軸としたときの回転角(第2の回転角)に対応し、φは、ベースラインBに対して垂直で、かつ、撮像部21の撮像方向に対して垂直方向を軸としたときの回転角(第1の回転角)に対応し、αは、撮像部21の撮像方向を軸とした回転角(第3の回転角)に対応する。
ステップS16において、パラメタ算出部106は、特徴点(x,y,z)の情報と、補正特徴点(x’,y’,z’)とから補正パラメタを算出し、算出した補正パラメタをステレオカメラ11のパラメタ記憶部61に記憶させる。
より詳細には、チャートパタンとしてボックスチャートを使用する場合、パラメタ算出部106は、特徴点p0乃至p3からなる4座標を用いて、画像PL1,PR1より、目的とする左右補正画像へ変換する補正パラメタを求める。以下に、具体的な処理内容を述べる。なお。目的とする左右補正画像への変換処理とは、図14に示すように、補正された画像PL11,PR11の各々に表示されるチャートパタンの形状が同一になるようにする処理である。
パラメタ算出部106は、このような補正画像PL11,PR11を得るための補正パラメタ、すなわち、図11で示される撮像部21−1,21−2のそれぞれの撮像画像PL1,PR1を射影変換により、目的とする補正画像PL11,PR11へ変換する補正パラメタを求める。
より詳細には、パラメタ算出部106は、まず、左右カメラ画像となる撮像部21−1,21−2により撮像された画像から取得した特徴点p0乃至p3からなる4点を結んでできる四角形を、同一形状の長方形へ斜影するための、基準となる長方形の水平方向、および垂直方向の辺の長さ(w,h)と、補正後の傾き角度φを求める。
次に、パラメタ算出部106は、図15Aで示されるように、撮像部21−1,21−2のいずれかにより撮像された画像(ここでは、左側に設けられた撮像部21により撮像された画像)におけるチャート基準点のp0とp1,p2とp3,p0とp2,p1とp3の中点であるq0,q1,q2,q3を求める。
ここで、チャート基準点q1とq2を結ぶ直線の長さをw、チャート基準点q0とq3を結ぶ直線の長さをhとし、さらに、チャート基準点q1とq2を結ぶ直線のカメラ画像水平ラインに対する傾きをφとする。
さらに、図15Cに示す長方形は、長さhの辺と長さwの辺によって構成される長方形であり、この長方形を基準長方形とする。
また、図16で示されるように、回転補正量θ(初期値として例えばθ=−0.15[rad])だけ、上で求めた基準長方形(図15C)を回転させる。これは、図17で示されるように、原点(0,0)に長方形の重心をおき(−w/2,h/2),(w/2,h/2),(−w/2,−h/2),(w/2,−h/2)を頂点とする長方形をφ+θだけ回転させればよい。
次に、パラメタ算出部106は、図18で示されるように撮像部21−1,21−2のそれぞれで撮像された画像から検出したボックスチャートの基準点p0乃至p3を結んでできる2つの四角形のそれぞれの重心を求め、さらにそれらの中点を求め(cx,cy)とする。この(cx,cy)が重心となるように、上で求めた基準長方形(重心が原点)を平行移動する(図19参照)。
この変換処理は、式で表すと、アフィン変換により(φ+θ)だけ回転させた後、(cx,cy)だけ平行移動する処理に相当するので、最終的な基準長方形の座標(X,Y)は、次の式(21)に示すように表される。
上記式(21)において、(x,y)に、重心を原点とする基準長方形の頂点の座標(−w/2,h/2),(w/2,h/2),(−w/2,−h/2),(w/2,−h/2)・・・を代入することにより、図19で示されるような基準長方形の頂点を示す絶対座標(X0,Y0),(X1,Y1),(X2,Y2),(X3,Y3)が求まる。
最後に、図20で示されるように、パラメタ算出部106は、図中左部で示される左補正画像の基準長方形の頂点座標(Xleft0,Yleft0)乃至(Xleft3,Yleft3)、および、図中右部で示される右補正画像の基準長方形の頂点座標(Xright0,Yright0)乃至(Xright3,Yright3)を求める。
これは、左右の補正画像間において、無限遠方の対象物の視差が無くなる(水平方向の座標が一致する)ように、基準長方形を水平方向へ平行移動すればよい。すなわち、ステレオカメラ11からチャートパタン13までの距離に対応した左右の視差dchartの分だけ基準長方形を水平方向に平行移動すればよい。以下に具体的な手順を示す。
すなわち、視差dchartは、実空間でのチャートの長方形パタンの水平方向の長さ(チャート基準点p0とp1間、または、チャート基準点p2とp3間の距離)Wchartと左右カメラの基線長Wbaselineが既知とすると、撮像部21−1,21−2により撮像された画像から取得した長方形パタンの水平方向の長さwを用いて、次の式(22)に従って算出することができる。
従って、左右の視差を考慮した基準長方形の座標((Xleft0,Yleft0)乃至(Xleft3,Yleft3),(Xright0,Yright0)乃至(Xright3,Yright3)は、前で求めた座標(X,Y)を、左画像、右画像それぞれ均等になるように、上で求めた視差だけ平行移動し、次の式(23),式(24)のように示すことができる。
なお、(Xleft,Yleft)は、(Xleft0,Yleft0)乃至(Xleft3,Yleft3)、(Xright,Yright)は、(Xright0,Yright0)乃至(Xright3,Yright3)を示すものとする。
以上を整理すると、左側の撮像部21により撮像された画像の補正画像における基準長方形の座標(Xleft,Yleft)は、次の式(25)のように示すことができる。
また、右側の撮像部21により撮像された画像の補正画像における基準長方形の座標(Xright,Yright)は、次の式(26)のように示すことができる。
従って、(x,y)に、重心を原点とする基準長方形の頂点の4座標:(−w/2,h/2),(w/2,h/2),(−w/2,−h/2),(w/2,−h/2)を代入することで、左右それぞれの補正画像における基準長方形の頂点4座標:左は(Xleft,Yleft),右は(Xright,Yright)が求まる。
以上のようにして求めた補正画像上の座標(Xleft,Yleft),(Xright,Yright)と、撮像部21−1,21−2により撮像された画像からの特徴点検出座標(Xleft,Yleft),(Xright,Yright)との関係を、図21に示すような斜影変換で表現すると、次の式(27),式(28)のようになる。
ここで、(X,Y)は斜影変換後の補正画像の座標であり、(x,y)は斜影変換前の撮像部21−1,21−2により撮像された画像の座標、変数a,b,c,d,e,f,g,hは補正パラメタである。
上記の式(27),式(28)は、斜影変換前の座標(x,y)と斜影変換後の座標(X,Y)をそれぞれ(xn,yn),(Xn,Yn)(nは0から3)とし、補正パラメタP=(a,b,c,d,e,f,g,h)とおくと、下記式(29)のように変形することができる。
上記式(29)の(xn,yn)へ撮像部21−1,21−2のそれぞれで撮像された画像上4点のチャート基準点p0乃至p3の座標を代入し、(Xn,Yn)へ式(25),式(26)で求めた補正画像における基準長方形の頂点座標(Xleft,Yleft),(Xright,Yright)を代入することによって、左画像用と右画像用の補正パラメタPを、それぞれ連立方程式の解として求めることができる。以下、上記で求めた撮像部21−1,21−2により撮像された左画像用、右画像用の補正パラメタ(P)は、それぞれ、Pleft,Prightとする。
パラメタ算出部106は、以上のようにして補正パラメタを算出すると共に、算出した補正パラメタをステレオカメラ11のパラメタ記憶部61に記憶させる。
以上の処理により、ポール41を検出し、検出したポール41に基づいてチャートパタン13とステレオカメラ11との傾きを検出したうえで、キャリブレーションを実行し、キャリブレーションにより、補正パラメタを算出するようにしたので、限られた狭い空間においても適切なキャリブレーションを実現することが可能となる。
<デプス検出処理>
次に、図22のフローチャートを参照して、デプス検出処理について説明する。
次に、図22のフローチャートを参照して、デプス検出処理について説明する。
ステップS51において、ステレオカメラ11は、撮像部21−1,21−2を利用して、左右の画像を撮像して、デプス検出部14に供給する。デプス検出部14の画像取得部121は、ステレオカメラ11より供給されてきた左右の画像を取得して、補正部123に供給する。
ステップS52において、パラメタ取得部122は、ステレオカメラ11のパラメタ記憶部61にアクセスし、記憶されている補正パラメタを読み出して取得し、補正部123に供給する。
ステップS53において、補正部123は、取得した左右の画像を、補正パラメタにより補正して、補正した画像をステレオマッチング部124に供給する。
より詳細には、補正部123は、撮像部21−1,21−2により撮像された左右の入力画像に対して、補正パラメタPleft,Prightを用いて、図21で示すような変換処理を行う。
具体的には、補正部123は、補正画像の座標(X,Y)に対応する撮像部21−1,21−2により撮像された左右の入力画像の座標(x,y)を、式(27),式(28)を用いて求め、補正画像の各画素値を撮像部21−1,21−2により撮像された左右の入力画像へマッピングしていく。なお、マッピングにあたっては、エイリアシングを抑制するためバイリニア法などにより画素補完を行うものとする。
ステップS54において、ステレオマッチング部124は、補正された左右の画像に基づいて、ステレオマッチング処理を実行して、画素単位での距離を求め、画素単位での距離に基づいた画素値からなるデプス画像(ディスパリティ画像)を生成して出力する。
以上の処理により、ポールを含めたチャートパタンを用いたキャリブレーション処理により求められた補正パラメタを利用して、デプス検出処理を実現することが可能となるため、限られた狭い空間でも、容易で、かつ、高精度に、ステレオカメラ11の撮像部21−1,21−2の撮像方向を補正することが可能となるので、高精度のデプス画像(ディスパリティ画像)を取得することが可能となる。
尚、以上においては、デプス検出部14によりデプス検出処理を行うことを目的として補正パラメタが求められる例について説明してきたが、その他の画像の撮像を目的としたステレオカメラに対する補正パラメタを求めるようにしても良い。また、以上においては、2の撮像部21−2,21−2を用いた例における補正パラメタを求める例について説明してきたが、それ以上の個数の撮像部を利用する際に使用する補正パラメタを求めるようにしてもよい。
以上によれば、複数の撮像部からなるステレオカメラにおける撮像部の撮像方向を、限られた空間でも適切に補正することが可能となり、ステレオカメラを利用した撮像を高精度に実現することが可能となる。
ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
図23は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタ-フェイス1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
入出力インタ-フェイス1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011ら読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
なお、本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
例えば、本技術は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
尚、本技術は、以下のような構成も取ることができる。
(1) ステレオカメラを構成し、ポールを含むチャートパタンを撮像する複数の撮像部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部と
を含む画像処理装置。
(2) 前記ポールは、その先端部に円盤部を設け、前記先端部の側面外形がT字型のものを含む
(1)に記載の画像処理装置。
(3) 前記複数の撮像部により撮像されたチャートパタンに含まれる前記ポールを検出するポール検出部と、
前記ポール検出部により検出されたポールに基づいて、前記チャートパタンの傾きを検出する傾き検出部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタンに基づいて、特徴点を検出する検出部と、
前記傾き検出部により検出された傾きに基づいて、前記検出部により検出された特徴点の配置を補正する特徴点補正部とをさらに含み、
前記補正パラメタ算出部は、前記特徴点補正部により配置が補正された特徴点の情報に基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する
(1)に記載の画像処理装置。
(4) 前記チャートパタンは、ボックスチャート、および格子点チャートを含む
(1)に記載の画像処理装置。
(5) ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像処理をし、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出処理をする
ステップを含む画像処理方法。
(6) ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像ステップと、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出ステップと
を含む画像処理装置を制御するコンピュータに実行させるためのプログラム。
(7) 複数の撮像部を含む画像処理装置と、前記撮像部の撮像方向をキャリブレーションするためのチャートパタンとからなる画像処理システムにおいて、
前記チャートパタンは、
前記複数の撮像部に対して対向する位置に設けられ、特徴点となるパタンと、ポールとを含み、
前記画像処理装置は、
前記複数の撮像部が、ステレオカメラを構成すると共に、前記チャートパタンを撮像し、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部を含む
画像処理システム。
(1) ステレオカメラを構成し、ポールを含むチャートパタンを撮像する複数の撮像部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部と
を含む画像処理装置。
(2) 前記ポールは、その先端部に円盤部を設け、前記先端部の側面外形がT字型のものを含む
(1)に記載の画像処理装置。
(3) 前記複数の撮像部により撮像されたチャートパタンに含まれる前記ポールを検出するポール検出部と、
前記ポール検出部により検出されたポールに基づいて、前記チャートパタンの傾きを検出する傾き検出部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタンに基づいて、特徴点を検出する検出部と、
前記傾き検出部により検出された傾きに基づいて、前記検出部により検出された特徴点の配置を補正する特徴点補正部とをさらに含み、
前記補正パラメタ算出部は、前記特徴点補正部により配置が補正された特徴点の情報に基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する
(1)に記載の画像処理装置。
(4) 前記チャートパタンは、ボックスチャート、および格子点チャートを含む
(1)に記載の画像処理装置。
(5) ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像処理をし、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出処理をする
ステップを含む画像処理方法。
(6) ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像ステップと、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出ステップと
を含む画像処理装置を制御するコンピュータに実行させるためのプログラム。
(7) 複数の撮像部を含む画像処理装置と、前記撮像部の撮像方向をキャリブレーションするためのチャートパタンとからなる画像処理システムにおいて、
前記チャートパタンは、
前記複数の撮像部に対して対向する位置に設けられ、特徴点となるパタンと、ポールとを含み、
前記画像処理装置は、
前記複数の撮像部が、ステレオカメラを構成すると共に、前記チャートパタンを撮像し、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部を含む
画像処理システム。
11 ステレオカメラ, 12 キャリブレーション部, 13 チャートパタン部, 14 デプス検出部, 21、21−1,21−2 撮像部, 41,41−1,41−2 ポール, 41a,41a−1,41a−2 円盤部, 41b,41b−1,41b−2 支柱, 61 パラメタ記憶部, 101 画像取得部, 102 ポール検出部, 103 傾き検出部, 104 特徴点検出部, 105 特徴点補正部, 106 パラメタ算出部, 121 画像取得部, 122 パラメタ取得部, 123 補正部, 124 ステレオマッチング部
Claims (7)
- ステレオカメラを構成し、ポールを含むチャートパタンを撮像する複数の撮像部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部と
を含む画像処理装置。 - 前記ポールは、その先端部に円盤部を設け、前記先端部の側面外形がT字型のものを含む
請求項1に記載の画像処理装置。 - 前記複数の撮像部により撮像されたチャートパタンに含まれる前記ポールを検出するポール検出部と、
前記ポール検出部により検出されたポールに基づいて、前記チャートパタンの傾きを検出する傾き検出部と、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタンに基づいて、特徴点を検出する検出部と、
前記傾き検出部により検出された傾きに基づいて、前記検出部により検出された特徴点の配置を補正する特徴点補正部とをさらに含み、
前記補正パラメタ算出部は、前記特徴点補正部により配置が補正された特徴点の情報に基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する
請求項1に記載の画像処理装置。 - 前記チャートパタンは、ボックスチャート、および格子点チャートを含む
請求項1に記載の画像処理装置。 - ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像処理をし、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出処理をする
ステップを含む画像処理方法。 - ステレオカメラを構成する複数の撮像部が、ポールを含むチャートパタンを撮像する撮像ステップと、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出ステップと
を含む画像処理装置を制御するコンピュータに実行させるためのプログラム。 - 複数の撮像部を含む画像処理装置と、前記撮像部の撮像方向をキャリブレーションするためのチャートパタンとからなる画像処理システムにおいて、
前記チャートパタンは、
前記複数の撮像部に対して対向する位置に設けられ、特徴点となるパタンと、ポールとを含み、
前記画像処理装置は、
前記複数の撮像部が、ステレオカメラを構成すると共に、前記チャートパタンを撮像し、
前記複数の撮像部により撮像されたチャートパタンに含まれるパタン、および前記ポールに基づいて、前記複数の撮像部のずれを補正する補正パラメタを算出する補正パラメタ算出部を含む
画像処理システム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012243179A JP2014092460A (ja) | 2012-11-02 | 2012-11-02 | 画像処理装置および方法、画像処理システム、並びにプログラム |
CN201310445699.8A CN103813150B (zh) | 2012-11-02 | 2013-09-25 | 图像处理设备和方法、图像处理*** |
US14/044,215 US8878944B2 (en) | 2012-11-02 | 2013-10-02 | Image processing apparatus and method, image processing system and program |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012243179A JP2014092460A (ja) | 2012-11-02 | 2012-11-02 | 画像処理装置および方法、画像処理システム、並びにプログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014092460A true JP2014092460A (ja) | 2014-05-19 |
Family
ID=50621999
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012243179A Pending JP2014092460A (ja) | 2012-11-02 | 2012-11-02 | 画像処理装置および方法、画像処理システム、並びにプログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US8878944B2 (ja) |
JP (1) | JP2014092460A (ja) |
CN (1) | CN103813150B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016203988A1 (ja) * | 2015-06-17 | 2016-12-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP5906272B2 (ja) * | 2014-03-28 | 2016-04-20 | 富士重工業株式会社 | 車両用ステレオ画像処理装置 |
US9196039B2 (en) * | 2014-04-01 | 2015-11-24 | Gopro, Inc. | Image sensor read window adjustment for multi-camera array tolerance |
JP2015204548A (ja) * | 2014-04-15 | 2015-11-16 | 株式会社リコー | 画像投影システム |
CN105446717B (zh) * | 2014-08-19 | 2019-06-25 | 联想(北京)有限公司 | 信息处理方法及电子设备 |
EP3258213A4 (en) * | 2015-02-13 | 2018-03-07 | Ricoh Company, Ltd. | Measurement tool, calibration method, calibration device, and program |
WO2018112790A1 (zh) * | 2016-12-21 | 2018-06-28 | 华为技术有限公司 | 图象处理方法及装置 |
JP7127656B2 (ja) * | 2018-01-10 | 2022-08-30 | ソニーグループ株式会社 | キャリブレーション装置とキャリブレーション方法およびキャリブレーションチャート装置 |
US10609360B2 (en) * | 2018-06-28 | 2020-03-31 | Black Sesame International Holding Limited | Dual camera calibration |
CN111091499B (zh) * | 2018-10-24 | 2023-05-23 | 方正国际软件(北京)有限公司 | 一种移动终端图像修正的方法及装置 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3255360B2 (ja) * | 1999-09-22 | 2002-02-12 | 富士重工業株式会社 | 距離データの検査方法およびその検査装置 |
JP3479006B2 (ja) * | 1999-09-22 | 2003-12-15 | 富士重工業株式会社 | 車載カメラの検査方法ならびに装置 |
JP4109077B2 (ja) * | 2002-10-11 | 2008-06-25 | 敬二 実吉 | ステレオカメラの調整装置およびステレオカメラの調整方法 |
JP4604774B2 (ja) | 2005-03-14 | 2011-01-05 | オムロン株式会社 | 3次元計測のためのキャリブレーション方法 |
CN101755190B (zh) * | 2008-05-19 | 2012-02-22 | 松下电器产业株式会社 | 校准方法、校准装置及具备该校准装置的校准*** |
JP2011253376A (ja) | 2010-06-02 | 2011-12-15 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
-
2012
- 2012-11-02 JP JP2012243179A patent/JP2014092460A/ja active Pending
-
2013
- 2013-09-25 CN CN201310445699.8A patent/CN103813150B/zh active Active
- 2013-10-02 US US14/044,215 patent/US8878944B2/en active Active
Cited By (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2016203988A1 (ja) * | 2015-06-17 | 2016-12-22 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JPWO2016203988A1 (ja) * | 2015-06-17 | 2018-04-05 | ソニー株式会社 | 画像処理装置および画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
US20140125819A1 (en) | 2014-05-08 |
US8878944B2 (en) | 2014-11-04 |
CN103813150B (zh) | 2017-01-18 |
CN103813150A (zh) | 2014-05-21 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP2014092460A (ja) | 画像処理装置および方法、画像処理システム、並びにプログラム | |
JP6859442B2 (ja) | キャリブレーション装置、キャリブレーションシステム、およびキャリブレーション方法 | |
JP6510213B2 (ja) | 投影システム、半導体集積回路、および画像補正方法 | |
JP2011253376A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
JP2014092461A (ja) | 画像処理装置および方法、画像処理システム、並びにプログラム | |
JP5633058B1 (ja) | 3次元計測装置及び3次元計測方法 | |
CN112686877B (zh) | 基于双目相机的三维房屋损伤模型构建测量方法及*** | |
US11488354B2 (en) | Information processing apparatus and information processing method | |
JP6413595B2 (ja) | 画像処理装置、システム、画像処理方法およびプログラム | |
JPWO2015132981A1 (ja) | 位置測定装置及び位置測定方法 | |
JP6594170B2 (ja) | 画像処理装置、画像処理方法、画像投影システムおよびプログラム | |
JP2011155412A (ja) | 投影システムおよび投影システムにおける歪み修正方法 | |
JP2016218815A (ja) | ラインセンサカメラのキャリブレーション装置及び方法 | |
JP4649559B2 (ja) | 3次元物体認識装置、並びに3次元物体認識プログラム及びこれが記録されたコンピュータ読み取り可能な記録媒体 | |
JP5998532B2 (ja) | 補正式算出方法、補正方法、補正装置及び撮像装置 | |
WO2018052100A1 (ja) | 画像処理装置、画像処理方法、画像処理プログラム | |
JP6318576B2 (ja) | 画像投影システム、画像処理装置、画像投影方法およびプログラム | |
JP6347610B2 (ja) | 画像処理装置および3次元空間情報取得方法 | |
JP4998792B2 (ja) | カメラ、カメラアレイ及びカメラアレイシステム | |
CN116385561A (zh) | 一种摄像头与激光雷达标定方法 | |
JP6317611B2 (ja) | ディスプレイ表示パターン生成装置及びそのプログラム | |
CN115797466A (zh) | 一种快速的三维空间标定方法 | |
JP6545033B2 (ja) | 三次元温度分布表示装置 | |
JP4925112B2 (ja) | 自由視点画像の生成方法 | |
JP2011171991A (ja) | 画像処理装置、電子機器、画像処理方法、および、画像処理プログラム |