JP6602982B2 - 車載カメラ、車載カメラの調整方法、車載カメラシステム - Google Patents

車載カメラ、車載カメラの調整方法、車載カメラシステム Download PDF

Info

Publication number
JP6602982B2
JP6602982B2 JP2018537029A JP2018537029A JP6602982B2 JP 6602982 B2 JP6602982 B2 JP 6602982B2 JP 2018537029 A JP2018537029 A JP 2018537029A JP 2018537029 A JP2018537029 A JP 2018537029A JP 6602982 B2 JP6602982 B2 JP 6602982B2
Authority
JP
Japan
Prior art keywords
error
image
vehicle
imaging
shield glass
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018537029A
Other languages
English (en)
Other versions
JPWO2018042954A1 (ja
Inventor
健 永崎
拓紀 茂泉
利幸 青木
直也 多田
春樹 的野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Astemo Ltd
Original Assignee
Hitachi Automotive Systems Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Automotive Systems Ltd filed Critical Hitachi Automotive Systems Ltd
Publication of JPWO2018042954A1 publication Critical patent/JPWO2018042954A1/ja
Application granted granted Critical
Publication of JP6602982B2 publication Critical patent/JP6602982B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C3/00Measuring distances in line of sight; Optical rangefinders
    • G01C3/02Details
    • G01C3/06Use of electric means to obtain final indication
    • G01C3/08Use of electric radiation detectors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C11/00Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
    • G01C11/04Interpretation of pictures
    • G01C11/06Interpretation of pictures by comparison of two or more pictures of the same area
    • G01C11/08Interpretation of pictures by comparison of two or more pictures of the same area the pictures not being supported in the same relative position as when they were taken
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/80Geometric correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • G06T7/85Stereo camera calibration
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/955Computational photography systems, e.g. light-field imaging systems for lensless imaging
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10012Stereo images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • General Physics & Mathematics (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Electromagnetism (AREA)
  • Computing Systems (AREA)
  • Measurement Of Optical Distance (AREA)

Description

本発明は、車載カメラおよびその調整方法ならびに車載カメラシステムに関する。
従来から車載カメラの校正方法、校正装置及びプログラムに関する発明が知られている(たとえば下記特許文献1を参照)。特許文献1に記載された校正方法は、透明体を介さずに被写体を撮影して第1撮影画像を取得するステップと、透明体を介して被写体を撮影して第2撮影画像を取得するステップと、第1撮影画像の被写体の像の座標と、第2撮影画像の被写体の像の座標と、に基づいて、透明体に起因する被写体の像の座標のずれを示す絶対位置ずれを算出するステップと、前記絶対位置ずれを校正する補正パラメータを算出するステップと、前記補正パラメータを前記撮影装置に記憶するステップと、を含む(同文献、請求項1等を参照)。
また、車載カメラの校正方法、校正装置、計測用具及びプログラムに関する別の発明も知られている(たとえば下記特許文献2を参照)。特許文献2に記載された校正方法は、ステレオカメラの撮影範囲に入るように設置された被写体とステレオカメラとの相対位置を計測するステップと、ステレオカメラにより撮影された被写体を含む撮影画像を取得するステップと、前記相対位置と前記撮影画像とに基づいてステレオカメラを校正する校正パラメータを決定するステップと、を含む(同文献、請求項1等を参照)。
特開2015−169583号公報 特開2016−006406号公報
前記特許文献1に記載された発明は、たとえば車両のシールドガラス等の透明体を取り外して被写体を撮影する必要があるという課題がある。また、前記特許文献2に記載された発明は、被写体とステレオカメラとの相対位置を計測するステップにおいて、レーザ測距計が必要になるという課題がある。
本発明は、前記課題に鑑みてなされたものであり、その目的とするところは、シールドガラスの取り外しを要せず、別の測距装置を用いることなく、シールドガラスに起因する測距誤差を低減することができる車載カメラおよびその調整方法ならびに車載カメラシステムを提供することにある。
前記目的を達成すべく、本発明の車載カメラは、車両のシールドガラスを通して対象物を撮影する車載カメラであって、一対の撮像素子と、該一対の撮像素子の画素位置における前記対象物の結像位置の差に含まれる前記シールドガラスに起因する誤差に関する誤差情報を前記画素位置ごとに記憶する誤差情報記憶部と、を有することを特徴とする。
本発明によれば、車両のシールドガラスを通して既知の対象物を撮影することで、撮像素子の画素位置における既知の対象物の結像位置の情報に基づいて、シールドガラスに起因する誤差に関する誤差情報を画素位置ごとに検出して誤差情報記憶部に記憶することができる。そして、この誤差情報を用いて、一対の撮像素子の画素位置における対象物の結像位置の差を補正することができる。したがって、本発明によれば、シールドガラスの取り外しを要せず、別の測距装置を用いることなく、シールドガラスに起因する測距誤差を低減することができる。
本発明の一実施形態に係る車載カメラの構成を示すブロック図。 対象物の結像位置の差を示すグラフ。 誤差情報記憶部に記憶される誤差情報の一例を示すグラフ。 視差情報記憶部に記憶される視差情報の一例を示すグラフ。 図1に示す車載カメラの処理の一例を示すフロー図。 本発明の一実施形態に係る車載カメラの調整方法のフロー図。 図4に示す撮像工程の詳細を示すフロー図。 校正チャートのパターンの一例を示す図。 校正チャートの設置誤差の一例を示す平面図。 設置誤差の影響を受けたステレオカメラの単眼画像の一例を示す画像図。 設置誤差の影響を受けたステレオカメラの単眼画像の一例を示す画像図。 校正チャートの枠線の寸法に基づく設置距離の算出原理を示す概念図。 校正チャートを撮影した一対の撮像素子の結像イメージを示す模式図。 シールドガラスに起因する誤差の補正原理を示す概念図。 誤差検出工程で得られる視差グラフの一例。 校正チャートの設置誤差を考慮した補正原理を示す概念図。 補正量算出工程で算出される距離の補正量の一例を示すグラフ。 本発明の一実施形態に係る車載カメラシステムの構成を示すブロック図。
以下、図面を参照して本発明の車載カメラ、車載カメラの調整方法、および車載カメラシステムの実施形態を説明する。
[車載カメラ]
図1は、本発明の一実施形態に係る車載カメラ10の構成を示すブロック図である。
本実施形態の車載カメラ10は、たとえば、歩行者、周辺の車両、道路の白線や路面、標識や建物などの立体物を含む自動車周辺の様々な対象物の視覚的な画像情報と距離情報とを取得するステレオカメラ装置である。すなわち、本実施形態の車載カメラ10は、車両に搭載され、車両前方の撮影対象領域の画像情報に基づいて車外環境を認識する装置である。車載カメラ10は、車両のシールドガラスSG(図7A参照)を通して測定対象物を撮影することで、測定対象物を詳細に把握し、たとえば運転支援時の安全性の向上に寄与する。
車載カメラ10は、たとえば、ステレオカメラ11と、画像入力インタフェース12と、画像処理部13と、記憶部14と、演算処理部15と、CAN(Controller Area Network)インタフェース16と、制御処理部17と、を備える。ステレオカメラ11は、左カメラ11Lと右カメラ11Rの一対のカメラを有している。ここでは図示を省略するが、左カメラ11Lおよび右カメラ11Rは、それぞれ、レンズと、CCD(Charge Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)等の撮像素子と備えている。
画像入力インタフェース12、画像処理部13、記憶部14、演算処理部15、CANインタフェース16、および制御処理部17は、たとえば、CPU(Central Processing
Unit)等の演算装置、メモリ等の記憶装置、およびプログラム等を備えた、単数または複数のコンピュータユニットによって構成することができる。これらの各部は、たとえばバス18を介して相互に接続されている。
画像入力インタフェース12は、ステレオカメラ11を制御し、撮影した画像を取り込むためのインタフェースである。画像入力インタフェース12は、バス18を介して、画像処理部13、演算処理部15、記憶部14、CANインタフェース16、および制御処理部17等に接続され、ステレオカメラ11の入出力部としても機能する。
画像処理部13は、画像入力インタフェース12およびバス18を介して取り込んだステレオカメラ11の画像を処理する。画像処理部13は、左カメラ11Lの撮像素子IEから得られる左画像と、右カメラ11Rの撮像素子IEから得られる右画像とを比較し、それぞれの画像に対して、撮像素子IEに起因するデバイス固有の偏差の補正や、ノイズ補間などの画像補正を行う(図8から図10参照)。
また、画像処理部13は、左カメラ11Lの撮像素子IEから得られる左画像と、右カメラ11Rの撮像素子IEから得られる右画像とを比較して、これら一対の撮像素子IEの画素位置における対象物の結像位置の差を求める。画像処理部13による処理中のデータや処理完了後のデータは、たとえばバス18を介して記憶部14に保存される。
詳細については後述するが、一対の撮像素子IEの画素位置における対象物の結像位置の差には、一対の撮像素子IEの間の距離すなわち相対位置に起因する視差だけでなく、シールドガラスSGの形状に起因する対象物の結像位置の誤差が含まれている。画像処理部13は、このシールドガラスSGに起因する結像位置の誤差に関する誤差情報を算出する。誤差情報は、撮像素子IEの画素位置ごとに、後述する誤差情報記憶部14A(図4参照)に保存される。
演算処理部15は、たとえば、記憶部14に保存された左カメラ11Lと右カメラ11Rの一対の撮像素子IEの間の距離に起因する視差に関する視差情報を用い、測定対象物である対象物の距離を測定し、測定対象物を認識することで、車両周辺の環境を知覚する。演算処理部15による対象物の認識には、必要に応じて、予め記憶された認識辞書を利用することができる。
演算処理部15による処理中のデータや処理後のデータは、たとえばバス18を介して記憶部14に保存される。演算処理部15は、一対の撮像素子IEによって撮影された画像に対して対象物の認識を行った後に、これらを用いて車両の制御量を計算することもできる。対象物、すなわち測定対象物には、たとえば、歩行者、周辺の車両、先行車のテールランプや対向車のヘッドライド、信号機、標識、その他の障害物などが含まれる。
記憶部14は、一対の撮像素子IEの画素位置ごとに誤差情報を記憶する誤差情報記憶部14Aと、一対の撮像素子IEの視差情報を記憶する視差情報記憶部14Bとを備えている(図4参照)。また、記憶部14は、演算処理部15による対象物の認識結果等を記憶する。
図2Aは、ステレオカメラ11の一対の撮像素子IEの画素位置における対象物の結像位置の差を示すグラフである。図2Bは、誤差情報記憶部14Aに記憶される誤差情報の一例を示すグラフである。図2Cは、視差情報記憶部14Bに記憶される視差情報の一例を示すグラフである。図2Aから図2Cでは、ステレオカメラ11の基線長に平行な横方向(x軸方向)における撮像素子IEの画素位置ごとに、それぞれ、結像位置の差、視差誤差δD、および視差Dを示している。
誤差情報は、補正量として、図2Bに示す視差誤差δDを含むことができる。視差誤差δDは、一対の撮像素子IEの画素位置において、屈折等、シールドガラスSGに起因して発生する対象物の結像位置の差である。図2Bに示す視差誤差δDは、図2Aに示す一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれている。
図2Bに示す視差誤差δDは、左カメラ11Lの撮像素子IEの画素位置における対象物の結像位置のシールドガラスSGに起因するずれ量δと、右カメラ11Rの撮像素子IEの画素位置における対象物の結像位置のシールドガラスSGに起因するずれ量δとの差δ−δである。視差誤差δDを含む誤差情報は、たとえば、後述する車載カメラの調整方法S100によって得ることができ、撮像素子IEの画素位置ごとに誤差情報記憶部14Aに記憶される。
誤差情報は、撮像素子IEと対象物との距離に応じた複数の補正量に関する誤差情報Bを含むことができる。より具体的には、シールドガラスSGに起因する視差誤差δDは、ステレオカメラ11の光軸方向(z軸方向)における対象物の距離に応じて変化する。そのため、誤差情報は、撮像素子IEと対象物との複数の異なる距離に応じた視差誤差δDに対応する複数の補正量を、誤差情報Bとして含むことができる。また、誤差情報は、後述するエーミング処理工程によって得られた特定の距離におけるシールドガラスSGに起因する誤差情報Aを含むことができる。
視差情報記憶部14Bに記憶される視差情報は、図2Cに示す視差Dを含むことができる。視差Dは、たとえば、図2Aに示すシールドガラスSGの影響を受けた一対の撮像素子IEの画素位置における結像位置の差から、補正量として、図2Bに示す視差誤差δDを差し引くことによって得ることができる。
換言すると、図2Aに示す一対の撮像素子IEの画素位置における対象物の結像位置の差は、図2Bに示すシールドガラスSGに起因する視差誤差δDと、図2Cに示す一対の撮像素子IEの間の距離に起因する視差Dを含む。図2Cに示す視差Dは、シールドガラスSGの影響を受けた視差である図2Aに示す結像位置の差から、シールドガラスSGに起因する図2Bに示す視差誤差δDを差し引くことで、シールドガラスSGの影響が低減されている。
CANインタフェース16は、画像処理部13、演算処理部15、および制御処理部17の計算結果等を車両のCAN20を介して車両制御装置30に伝送する(図14参照)。より具体的には、たとえば、画像処理部13によって算出されシールドガラスSGに起因する誤差が補正された対象物の距離、演算処理部15による対象物の認識結果等が、CANインタフェース16を介して車両制御装置30に伝送される。
制御処理部17は、画像処理部13や演算処理部15等の異常動作やデータ転送時のエラーの発生などを監視し、異常動作を防止する。
図3は、図1に示す車載カメラ10の処理の一例を示すフロー図である。
たとえば車両の走行時において、車載カメラ10は、ステップS1において、ステレオカメラ11の一対の撮像素子IEによって撮影した画像を、画像入力インタフェース12を介して取得する。取得された画像は、ステップS2において、画像処理部13によって画像処理され、一対の撮像素子IEの画素位置における対象物の結像位置の差が得られる。
このとき、得られた結像位置の差を、誤差情報記憶部14Aに記憶された誤差情報Aによって補正することができる。画像処理部13の画像処理の結果は、ステップS3において、演算処理部15による対象物の抽出および認識に用いられる。この演算処理部15による対象物の抽出および認識の結果、対象物の位置、すなわち画像上の位置と実空間での基線長に沿う横方向の位置や、光軸方向の距離が得られる。
しかし、誤差情報Aは、通常のエーミング処理工程で得られた所定の近距離におけるシールドガラスSGに起因する誤差や撮像素子IEの固有の癖を補正するための補正量である。そのため、たとえば、遠距離に存在する対象物の画像から得られた位置や距離は、依然としてシールドガラスSGに起因する誤差を含んでいる。
そこで、ステップS4において、画像処理部13によって誤差情報記憶部14Aに記憶された誤差情報Bを用い、対象物の横方向の位置や大まかな距離に応じて、当該対象物に適した補正処理を行う。誤差情報Bは、撮像素子IEと対象物との複数の異なる距離に応じた視差誤差δDに対応する複数の補正量である。これにより、遠距離に存在する対象物の画像から得られた位置や距離を、誤差情報Bを用いて補正し、シールドガラスSGに起因する測距誤差を低減することができる。
最後に、ステップS5において、CANインタフェース16によって、演算処理部15による対象物の認識結果や画像処理部13による補正後の距離を出力する。
このように、本実施形態の車載カメラ10は、車両のシールドガラスSGを通して車外の対象物を撮影する。そのため、一対の撮像素子IEの画素位置における対象物の結像位置の差には、視差だけでなく、シールドガラスSGのうねり等の形状に起因する誤差が含まれる。この誤差に対処するために、本実施形態の車載カメラ10は、前述のように、シールドガラスSGに起因する誤差に関する誤差情報を画素位置ごとに記憶する誤差情報記憶部14Aを備えている。
したがって、本実施形態の車載カメラ10によれば、誤差情報記憶部14Aに記憶された誤差情報を用いて、一対の撮像素子IEの画素位置における対象物の結像位置の差を、画素位置ごとに補正することができる。よって、本実施形態の車載カメラ10によれば、シールドガラスSGに起因する測定誤差を低減し、対象物の距離の測定や認識をより正確に行うことができる。
また、本実施形態の車載カメラ10は、一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれる視差に関する視差情報を記憶する視差情報記憶部14Bを備えている。これにより、視差情報記憶部14Bに記憶された視差情報に基づいて、対象物の距離の測定や認識をより正確に行うことができる。
また、本実施形態の車載カメラ10は、誤差情報記憶部14Aに記憶された誤差情報が、撮像素子IEと対象物との距離に応じた複数の補正量である誤差情報Bを含んでいる。
これにより、対象物との距離に応じて変化するシールドガラスSGに起因する測距誤差をより正確に補正することが可能になる。
[車載カメラの調整方法]
図4は、図1に示す車載カメラ10の調整方法の一例を示すフロー図である。本実施形態の車載カメラの調整方法S100は、たとえば前述のように、車両のシールドガラスSGを通して対象物を撮影する車載カメラ10の調整方法である。本実施形態の車載カメラの調整方法S100は、たとえば、図1に示す車載カメラ10のステレオカメラ11、画像入力インタフェース12、画像処理部13、演算処理部15、記憶部14を用いて実施することができる。
本実施形態の車載カメラの調整方法S100は、たとえば、撮像工程S10と、誤差検出工程S20と、補正量算出工程S30とを含むことができる。撮像工程S10は、ステレオカメラ11の少なくとも一方の撮像素子IEによってシールドガラスSGを通して対象物を撮影する工程である。誤差検出工程S20は、一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれるシールドガラスSGに起因する誤差に関する誤差情報を画素位置ごとに検出する工程である。補正量算出工程S30は、誤差情報を用いて対象物の結像位置の差に含まれる視差情報を得るための補正量を算出する工程である。以下、各工程について、より詳細に説明する。
(撮像工程)
図5は、図4に示す撮像工程S10の詳細を示すフロー図である。従来から、たとえば車両工場において車載カメラが車両に搭載された後、光軸や測距誤差の補正量等を計算するエーミング(Aiming)処理工程が行われている。本実施形態の車載カメラの調整方法S100は、撮像工程S10に、従来と同様のエーミング処理工程S11を含むことができる。撮像工程S10は、たとえば、画像取得工程S12と、単眼画像処理工程S13と、チャート設置誤差算出工程S14と、エーミング処理工程S11と、を含む。
画像取得工程S12では、まず、ステレオカメラ11によって車両のシールドガラスSGを通して対象物を撮影し、画像入力インタフェース12によって、左カメラ11Lと右カメラ11Rの一対の撮像素子IEの少なくとも一方から画像データを取得する。本実施形態において、撮像工程S10は、左カメラ11Lと右カメラ11Rの一対の撮像素子IEによって撮影された一対の画像のうち、一方の画像を用いる単眼画像処理工程S13と、双方の画像データを用いるステレオ画像処理工程S11aとを有している。
本実施形態の画像取得工程S12では、エーミング処理工程S11のステレオ画像処理工程S11aに用いるために、一対の撮像素子IEから画像データを取得する。しかし、撮像工程S10とは別にエーミング処理工程S11を行う場合には、画像取得工程S12において、ステレオカメラ11の一対の撮像素子IEのうち、一方のみから画像データを取得してもよい。画像取得工程S12において撮影する対象物としては、図6に示す校正チャートCを用いることができる。
図6は、校正チャートCのパターンの一例を示す図である。校正チャートCは、ステレオカメラ11の校正に用いられる平面のパターンを有するチャートである。校正チャートCのパターンは、たとえば、等間隔に配置された複数の縦線VLからなる縦縞パターンと、矩形の枠線FBを含んでいる。また、校正チャートCのパターンは、矩形の枠線FBの内側にランダムに配置された複数の点からなるランダムパターンRPを有してもよい。また、図示は省略するが、校正チャートCのパターンは、ステレオカメラ11の光軸を合わせるための十字パターンを有してもよい。
複数の縦線VLは、たとえば、ステレオカメラ11の基線長に概ね平行な方向に等間隔に配置され、鉛直方向に概ね平行になるように配置される。なお、縦線VLに替えて、等間隔に並ぶ別のパターンを用いることも可能である。枠線FBは、ステレオカメラ11の基線長に平行な方向を長手方向とする長方形である。複数の縦線VLは、枠線FBの短辺の方向に平行に延び、枠線FBの長辺に沿って等間隔に並んでいる。
校正チャートCは、ステレオカメラ11の光軸方向の前方の所定の距離に、ステレオカメラ11の光軸に対して概ね垂直になるように配置される。ステレオカメラ11から校正チャートCまでの距離は、たとえば3mから5m程度である。
単眼画像処理工程S13では、左カメラ11Lと右カメラ11Rの一対の撮像素子IEの一対の画像のうち、一方の画像データを用いた画像処理を行う。なお、単眼画像処理工程S13では、左カメラ11Lの撮像素子IEから取得した画像と、右カメラ11Rの撮像素子IEから取得した画像のそれぞれに、画像処理を行うこともできる。単眼画像処理工程S13では、校正チャートCの複数の縦線VLの位置や、枠線FBの縦横の寸法が画像上の数カ所で算出される。
チャート設置誤差算出工程S14では、単眼画像処理工程S13において算出された画像上の校正チャートCのパターンの縦線VLの位置や枠線FBの寸法が、予め記憶部14等に保存された実際の校正チャートCのパターンの縦線VLの位置や枠線FBの縦横の寸法と比較される。これにより、校正チャートCの設置誤差が算出される。
図7Aは、校正チャートCの設置誤差の一例を示す平面図である。図7Bおよび図7Cは、設置誤差の影響を受けたステレオカメラ11の単眼画像の一例を示す画像図である。
図7Aに示すように、校正チャートCの設置誤差は、校正チャートCが本来配置されるべき基準位置C0と実際に校正チャートCが配置された位置とのずれである。設置誤差は、たとえば、ステレオカメラ11の基線長に平行な横方向(x軸方向)の位置の誤差、ステレオカメラ11の光軸方向(z軸方向)の設置距離Zの誤差ΔZ、ステレオカメラ11の基線長および光軸方向に垂直な縦方向(y軸方向)の位置の誤差を含む。また、設置誤差は、x、y、z軸周りのロール角、ピッチ角、ヨー角の設置誤差を含む。
図7Aに示すように、ヨー角θ(あおり)の設置誤差を有する場合には、図7Bに示すように、単眼画像における校正チャートCの枠線FBのパターンは、本来の長方形から台形に歪む。この場合、単眼画像処理工程S13では、単眼画像における枠線FBの長手方向(x軸方向)両端で、枠線FBの高さ方向(y軸方向)の寸法を算出する。より具体的には、黒色の枠線FBと、校正チャートCの白地部分との境界が画像上のどこにあるかを算出する。これにより、単眼画像における枠線FBの寸法を算出し、チャート設置誤差算出工程S14においてヨー角θの設置誤差を算出することができる。
また、図7Aに示すヨー角θの設置誤差を有さず、基準位置C0よりも実際の設置位置が遠くなる設置距離Zの誤差ΔZを有する場合には、図7Cに示すように、単眼画像における校正チャートCの枠線FBのパターンは、本来の寸法よりも縮小される。一方、基準位置C0よりも実際の設置位置が近くなる設置距離Zの誤差を有する場合には、単眼画像における校正チャートCの枠線FBのパターンは、本来の寸法よりも拡大される。このように、縮小または拡大された単眼画像の枠線FBの寸法を、前述のように算出することで、チャート設置誤差算出工程S14において設置距離の誤差を算出することができる。
また、ヨー角θの設置誤差と設置距離Zの設置誤差の双方を有する場合や、ロール角、ピッチ角の設置誤差を有する場合にも、同様に設置誤差を算出することができる。
図8は、校正チャートCの枠線FBの寸法に基づく設置距離Zの算出原理を示す概念図である。撮像素子IEの撮像面における画像の高さ方向(y軸方向)の寸法hと、ステレオカメラ11の焦点距離fと、校正チャートCの枠線FBの予め測定された高さ方向の寸法Hから、ステレオカメラ11の光軸方向(z軸方向)における校正チャートCの設置距離Zは、Z=fH/hとなる。しかし、実際には、ステレオカメラ11と校正チャートCとの間に配置されたシールドガラスSGのうねりの影響を受けるため、後述する誤差検出工程S20が行われる。
次に、撮像工程S10に含まれるエーミング処理工程S11について説明する。エーミング処理工程S11は、図5に示すように、ステレオ画像処理工程S11aと、チャート測距工程S11bと、測距誤差算出工程S11cとを有することができる。ステレオ画像処理工程S11aは、画像取得工程S12においてステレオカメラ11の左カメラ11Lおよび右カメラ11Rの一対の撮像素子IEによって車両のシールドガラスSGを通して撮影された校正チャートCの画像を用いる。
ステレオ画像処理工程S11aでは、たとえば、一対の撮像素子IEによって撮影された校正チャートCのランダムパターンRPの一対の画像のデータのそれぞれについて、撮像素子IEの固有の癖を吸収するための補正などの画像処理を行う。また、ステレオカメラ11の一対の撮像素子IEによって撮影された校正チャートCの一対の画像のデータから、ステレオカメラ11の視差に関する情報である視差画像を計算する。
すなわち、ステレオ画像処理工程S11aでは、一対の撮像素子IEの画素位置における校正チャートCのパターンの結像位置の差が、視差画像として得られる。しかし、この結像位置の差としての視差画像は、屈折等、シールドガラスSGに起因する視差誤差を含んでいる。
チャート測距工程S11bでは、ステレオ画像処理工程S11aで得られたステレオ画像の所定部分を切り出し、視差値の分布である視差画像などの視差情報から、校正チャートCまでの距離Zを算出する。算出された視差画像を含む視差情報や設置距離Zは、記憶部14に記憶され保存される。
測距誤差算出工程S11cでは、チャート測距工程S11bにおいて算出された校正チャートCの設置距離Zと、予め記憶部14に入力されて保存された校正チャートCのパターンの実際の位置および寸法などの設計情報とを用いて、測距誤差が算出される。算出された測距誤差は、所定の距離に配置された校正チャートCのパターンに基づいて算出される。
そのため、校正チャートCが配置された当該所定の距離においては、シールドガラスSGに起因する誤差や、撮像素子IEの固有の癖を補正することが可能である。算出された測距誤差は、記憶部14の誤差情報記憶部14Aに、誤差情報Aとして記憶することができる(図4、図5参照)。以上により、図4に示す撮像工程S10が終了する。
従来のエーミング処理工程S11では、校正チャートCの設置誤差がなく、測距誤差がシールドガラスSGの影響によるものと仮定し、所定の近距離に配置された校正チャートCのパターンの測定誤差に基づいて、異なる距離の対象物に対する測距誤差を一律に補正するための補正量を求めていた。
これに対し、本実施形態の車載カメラの調整方法S100では、図4および図5に示す撮像工程S10において、従来と同様のエーミング処理工程S11に対し、単眼画像処理工程S13とチャート設置誤差算出工程S14が付加されている。そのため、たとえば、チャート設置誤差算出工程S14で算出され、記憶部14に保存された校正チャートCの設置誤差の算出結果を、チャート測距工程S11bにおいて参照し、校正チャートCの設置位置の補正などの設計情報の補正等を行うことが可能になる。
(誤差検出工程)
撮像工程S10の終了後は、図4に示すように、誤差検出工程S20が行われる。誤差検出工程S20は、一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれるシールドガラスSGに起因する誤差に関する誤差情報Bを、撮像素子IEの画素位置ごとに検出する工程である。誤差検出工程S20では、たとえば、シールドガラスSGのうねりに対する処理等、シールドガラスSGに起因する誤差を検出する処理が行われる。
ここで、シールドガラスSGのうねりとは、シールドガラスSGの局所的な歪であり、たとえば、シールドガラスSGの上端から下端へ延びる筋状の凹凸や、シールドガラスSGの局所的な凹部や凸部である。前述の撮像工程S10において、このようなうねりを有するシールドガラスSGを通して対象物を撮影する車載カメラ10の一対の撮像素子IEの画素位置における対象物の結像位置の差は、シールドガラスSGに起因する誤差に関する誤差情報を含んでいる。
より具体的には、前述のようなうねりを有するシールドガラスSGは、対象物からの光を屈折させ、ステレオカメラ11に視差誤差を生じさせて距離の測定誤差を生じさせる。
そのため、誤差検出工程S20では、シールドガラスSGに起因する視差誤差等の誤差を検出する処理が行われる。
誤差検出工程S20では、まず、図6に示す校正チャートCを、車載カメラ10から所定の距離に設置してシールドガラスSGを通して撮影する。校正チャートCの設置距離Zは、たとえば5m程度にすることができる。校正チャートCのパターンのうち、等間隔の複数の縦線VLによる縦縞パターン(等間隔パターン)は、シールドガラスSGの局所的な歪みによる視差誤差を、ステレオカメラ11の基線長に平行なX軸方向における異なる位置の部分ごとに計算するために重要な役割を果たす。
図9は、校正チャートCの縦縞パターンを撮影したステレオカメラ11の一対の撮像素子IEの結像イメージとして左画像および右画像を示す模式図である。図10は、誤差検出工程S20におけるシールドガラスSGのうねりに起因する距離誤差の補正原理を示す概念図である。図11は、誤差検出工程S20で得られる視差グラフの一例である。
図10に示すように、誤差検出工程S20では、近距離に配置された校正チャートCのパターンをステレオカメラ11によってシールドガラスSGを通して撮影する。そして、図9に示すように、一対の撮像素子IEによって得られた校正チャートCのパターンの左画像と右画像の視差を計算すると、図11に示すように、シールドガラスSGのうねりを反映した視差グラフSxが得られる。このとき、図10に示す校正チャートC上の点a、bに対する視差値Sa、Sbは、右の撮像素子IE上の画素位置における点a、bの投影点Ra、Rb、および、左の撮像素子IE上の画素位置における点a、bの投影点La、Lbとの間に、以下の関係式(1)および(2)が成立する。
Sa=La−Ra (1)
Sb=Lb−Rb (2)
さらに、たとえば50m先の遠距離にある点dの視差値Sdは、たとえば5m先の近距離にある校正チャートC上の点a、bから計算することができる。より詳細には、遠距離にある点dの視差値Sd(距離)は、近距離にある点aの左の撮像素子IEに対する投影点Laと、近距離にある点bの右の撮像素子IEに対する投影点Rbから計算することができる。
左の撮像素子IEに対する投影点Laと右の撮像素子IEに対する投影点Rbは、視差グラフSxに加えて、別の計算手段によって導くことができる。このように、左の撮像素子IEに対する投影点Laと右の撮像素子IEに対する投影点Rbが求められた場合、図10に示す遠距離にある点dの視差値Sdは、投影点La、投影点Rb、および前記式(1)を用いて、以下の式(3)によって求めることができる。
Sd=La−Rb=Sa+Ra−Rb (3)
また、図10に示す遠距離にある点eの視差値Seは、近距離にある校正チャートC上の点bの左の撮像素子IEに対する投影点Lbと、近距離にある校正チャートC上の点cの右の撮像素子IEに対する投影点Rcと、前記式(2)を用い、以下の式(4)によって求めることができる。
Se=Lb−Rc=Sb+Rb−Rc (4)
図10に示す近距離にある点aと点bの間隔と、点bと点cの間隔は、遠距離にある対象物Tの距離に応じて以下の式(5)によって計算することができる。したがって、対象物Tの距離やサイズに応じた視差変換が可能になる。
(基線長)−(基線長)×(校正チャートC設置距離/対象物Tの距離) (5)
以上の計算は、校正チャートCの設置位置の誤差がないと仮定した場合の計算である。
次に、校正チャートCの設置誤差を考慮した視差の誤差の求め方について説明する。図12は、校正チャートCの設置誤差を考慮した補正原理を示す概念図である。
図12において、Oaは、撮像素子IE上の光軸または基準となる校正チャートCのパターンの縦線VLの位置である。Vaは、撮像素子IEの撮像面の傾きを示すベクトルである。Obは、校正チャートC上の光軸上の点または、基準となる校正チャートCのパターンの縦線VLの位置である。Vbは、校正チャートCの傾きを示すベクトルである。Ocは、遠方の対象物Tの横位置の基準となる点(Oa、Obと光軸方向に重なる点)である。Vcは、遠方の対象物Tの測定面を示すベクトルである。ここで、Va、Vb、Vcは長さが1の単位ベクトルとする。また、校正チャートC上の点Pbや、撮像素子IE上の点Paは、それぞれ以下の式(6)および(7)を満たすものとする。
Pb=Ob+kb×Vb (6)
Pa=Oa+ka×Va (7)
この場合、距離の補正量は以下の手順によって算出することができる。すなわち、以下の各手順は、誤差情報を用いて対象物の結像位置の差に含まれる視差情報を得るための補正量を算出する補正量算出工程S30に含むことができる。
(補正量算出工程)
1)縦線の撮像位置の抽出
まず、図9に示すように、ステレオカメラ11の一対の撮像素子IEによって撮像した右画像と左画像のそれぞれについて、校正チャートCの縦線VLの位置を測定する。このとき、図12に示す左の撮像素子IEの正面の校正チャートC上の縦線VLを基準の縦線VLとする。そして基準の縦線VLの位置をLとし、基準の縦線VLの左側に等間隔に並んだ複数の縦線VLの位置を、基準の縦線VLから左方向へ、順次、L−1、L−2、L−3、…とする。また、基準の縦線VLの右側に等間隔に並んだ複数の縦線VLの位置を、基準の縦線VLから右方向へ、順次、L+1、L+2、L+3、…とする。
また、右の撮像素子IEの正面の校正チャートC上の縦線VLを基準の縦線VLとする。そして基準の縦線VLの位置をRとし、基準の縦線VLの左側に等間隔に並んだ複数の縦線VLの位置を、基準の縦線VLから左方向へ、順次、R−1、R−2、R−3、…とする。また、基準の縦線VLの右側に等間隔に並んだ複数の縦線VLの位置を、基準の縦線VLから右方向へ、順番にR+1、R+2、R+3、…とする。
そして、パタンマッチングにより、右画像と左画像の縦線VLの位置をサブピクセルで計算する。その結果として、以下の(8)に示すように、左画像上の縦線VLの位置[pix]と、右画像上の縦線VLの位置[pix]の複数のペアが得られる。
Figure 0006602982
さらに、校正チャートC上の縦線VLの位置の設計値としてKbxが既知であり、校正チャートC上の各縦線VLの位置に対応する右画像上の縦線VLの位置をKaxで表した、以下に示すような複数の位置のペアが得られる。
Figure 0006602982
同様に、以下の関係が得られる。
Figure 0006602982
Figure 0006602982
これらの関係式で、特に重要なのが、校正チャートC上の縦線VLの位置の設計値Kと各種測定値との関係を表した、(9)から(11)の関係式である。
2)行列パラメータ計算
この点をKの基準点(0番目)とし、その右隣りbの縦線VLが、右画面上のaの位置に投影されたとする。これを、(Kb1,Ka1)とする。このような値のペアが、以下の(12)に示すように、縦線VLの数だけ得られる。
Figure 0006602982
ここで、以下の式(13)は、以下の式(14)のように展開できる。
Figure 0006602982
Figure 0006602982
これが、任意のKb、Kaのペア(Kb,x,Ka,x)に対して成り立つ必要がある。すなわち、解は、求めたいβからβに対して線形式である。そこで、以下のデータ(15)を入力として、最小二乗法によって以下の式(16)を解いて、βからβを解く。
Figure 0006602982
Figure 0006602982
したがって、問題は、以下の式(17)となる。
Figure 0006602982
ただし、上記の式(17)は、βからβに対して不定解を持つ。すなわち、ある解を持つ場合、その定数倍もまた解となる。従って、別の手段を用いてβからβのいずれかの値を決める必要がある。
なお、上記の式(17)からβ=0であることが導かれる。残りのβ、β、βの係数である、k、k、−kを3次元空間にプロットすると、解(β、β、β)は、プロット点(ka、k、−k)が構成する平面に対して直交するベクトルという意味を持つ。このプロット点群(k、k、−k)は、放物線様の一列を成し、その作る部分空間は平面であることが分かる。
3)チャート設置位置の算出
以上により,βからβの値が導かれた。更に、このβからβの値を行列とした場合、図10の校正チャートC上の点の関係は、以下の(18)のような関係式が成り立つ。
Figure 0006602982
前述のように、単眼画像処理によって求めた縦線VLの位置から、βからβを不定解として求めることができる。すなわち、あるβからβが解とすると、その定数倍:(β,β,β,β)=c・(β,β,β,β)もまた、解となる。
ここで、上記の関係式(18)から、βが校正チャートCの設置位置、正確には、校正チャートCの設置距離Zを焦点距離fで割った値を表す量であり、βが校正チャートCの設置角度を表す量であることが分かる。したがって、別の手段において、校正チャートCの設置距離Zまたは設置角度が分かれば、片方からもう一方が導けることになる。
校正チャートCの設置誤差は、前述のように撮像工程S10に含まれる単眼画像処理工程S13およびチャート設置誤差算出工程S14において算出され、記憶部14に記憶されている。そのため、記憶部14に記憶された校正チャートCのヨー角θの設置誤差を用い、sinθを求めると、これはβの近似値となる。これにより、校正チャートCの設置位置βを導くことができる。
なお、前述の撮像工程S10に含まれる単眼画像処理工程S13およびチャート設置誤差算出工程S14において算出された校正チャートCの設置距離Zの誤差ΔZは、シールドガラスSGによる影響を受けるおそれがある。具体的には、自動車のシールドガラスSGは、縦方向にも一定の曲率で湾曲しているため、そのレンズ効果によって、ステレオカメラ11の一対の撮像素子IEで撮影した画像が真値に対して拡大または縮小することがある。
前述の単眼画像処理工程S13およびチャート設置誤差算出工程S14において、シールドガラスSGの影響を抑制するためには、角度を用いることが好ましい。角度を用いることで、β行列の展開式から、正確な距離を求めることができるためである。すなわち、校正チャートCの縦線VLのパターンから求めたβ行列が得られ、このうちβのパラメータが校正チャートCの傾きを表すため、これを元に校正チャートCの設置誤差をβから逆算することができる。これは、シールドガラスSGの縦方向のレンズ効果を打ち消すために効果的である。一方で、シールドガラスSGの湾曲による影響が少ない場合には、図8に示すように、設置距離Zは、Z=fH/hによって求めてもよい。
以下、β行列と校正チャートCの設置位置の関係について、より詳細に説明する。
まず、図12に示すように、右の撮像素子IEにおける理想のピンホールPHを、右ピンホール原点Oとすると、βは恒常的に0であり、βは、校正チャートC上の点Oまでの距離、すなわち、右ピンホール原点Oから点Oまでの距離と、右の撮像素子IEの仮想の撮像面上の点Oまでの距離の比となる。この解は、点Oが点Oと右ピンホール原点Oを結ぶ直線上にある限り成立する。また、平面幾何における外積の性質から、以下の式(19)を導くことができる。
Figure 0006602982
上記式(19)を導くために、ベクトルVa、Vbは単位ベクトルであることを利用している。もしも、sinθVaが1(OとVが垂直)ならば、βは、カメラ光軸(右ピンホール原点Oと点Oを結ぶ直線)に対するsin角を表すことになる。
4)ガラスうねり効果の計算1 前述のように、誤差検出工程S20は、一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれるシールドガラスSGに起因する誤差に関する誤差情報を、撮像素子IEの画素位置ごとに検出する工程である。ここで、誤差検出工程S20において行われるシールドガラスSGに起因する誤差を検出する処理であるシールドガラスSGのうねりに対する処理について説明する。
まず、シールドガラスSGのうねりの効果を計算する。この計算処理では、遠方光点と校正チャートC上の光点の関係は、理論、すなわち、ガラスの歪みを受けないピンホールモデルで求める。そして、校正チャートC上の光点と、撮像素子IEの投影面の関係を実際の観測値、すなわちシールドガラスSGの歪みの影響を受けた校正チャートCの縦線VLの位置の変位から勘案し、遠方光点による視差歪みを計算する。具体的には、ガラスのうねりの効果の計算処理は、以下の処理から成る。
まず、遠方光点kcに対して、チャート上のkb1、kb2の関係式:kb1=f1(kb2)、kb2=f2(kb1)を求める。これらの関係式は、前述のβ行列に基づいて導かれる。次に、チャート上の点kが、左の撮像素子IEの撮像面、右の撮像素子IEの撮像面に投影される位置は、校正チャートCの縦線VLの位置の解析により、L(k)とR(k)のグラフとして求められている。次に、遠方光点kの視差のずれ量を、この光点の校正チャートC上の交差点kb1、kb2に対して、視差=L(kb1)−R(kb2)により求める。
5)ガラスうねり効果の計算2 以上により、たとえば35m先の遠距離に光点cがあるとき、ステレオカメラ11の右の撮像素子IEによって撮影された右画像上での左右換算投影点の関係式:a2=a2(c)、a1=a1(c)を求めることが出来る。このようにたとえば3.5m先の近距離の校正チャートC上の等間隔点、すなわち等間隔に配置された複数の縦線VLを解析する事で、以下の(20)に示すように、ステレオカメラ11と校正チャートCとの相対的な位置関係を表すβ行列の具体的な値を得ることができる。
Figure 0006602982
このとき、光点cの右の撮像素子IEへの投影点b2は、Pb2=O+kb2×Vとして、この係数kb2を、kb2=関数1(k)によって求めることができる。同様に、光点cの左の撮像素子IEへの投影点b1は、Pb1=O+kb1×Vとして、この係数kb1を、kb1=関数2(kc)によって求めることができる。さらに、投影点b2は、撮像面上の投影点a2(=O+ka2×V)と、ka2=関数3(kb2)という関係にある。
同様に、投影点b1の、撮像面上の投影点a1(=O+ka1×V)の関係は、ka1=関数4(kb1)である。したがって、たとえば35m先の遠距離に光点cがあるとき、その右画像上での左右換算投影点:a2=a2(c)、a1=a1(c)の関係式は、ka2=関数3(関数1(kc))、ka1=関数4(関数2(kc))と求めることができる。
図13は、以上のシールドガラスSGのうねりの計算処理に基づく距離の補正量の一例を示すグラフである。○(丸印)でプロットされたグラフは、たとえば3.5m先の近距離における左右成分であり、△(三角印)でプロットされたグラフは、近距離における左右成分から推定した、たとえば35m先の遠距離における左右成分である。
このように、たとえば3.5m先の近距離の校正チャートC上の等間隔点である縦線VLを解析する事で、ステレオカメラ11と校正チャートCとの相対的な位置関係を表すβ行列の具体的な値を得ることができる。これにより、図13に示すように、RとΔRの関係式を明示的に求めることができる。すなわち、近距離の校正チャートC上の等間隔点である縦線VLを解析する事で、誤差情報を用いて対象物の結像位置の差に含まれる視差情報を得るための補正量を算出することができる。
以上のように、本実施形態の車載カメラの調整方法S100は、車両のシールドガラスSGを通して対象物を撮影し、車載カメラ10を調整する方法であり、前述のように、撮像工程S10と、誤差検出工程S20と、補正量算出工程S30とを有している。これにより、撮像工程S10において、撮像素子IEによってシールドガラスSGを通して対象物を撮影することができる。また、誤差検出工程S20において、一対の撮像素子IEの画素位置における対象物の結像位置の差に含まれるシールドガラスSGに起因する誤差に関する誤差情報を画素位置ごとに検出することができる。そして、誤差検出工程S20において得られた誤差情報を用いて対象物の結像位置の差に含まれる視差情報を得るための補正量を算出することができる。
したがって、本実施形態の車載カメラの調整方法S100によれば、従来の車載カメラの調整方法のように、シールドガラスSGの取り外しを要しない。加えて、別の測距装置を用いることなく、シールドガラスSGに起因する測距誤差を低減することができる。
また、本実施形態の車載カメラの調整方法S100は、前述のように、対象物を撮影する撮像工程S10において、シールドガラスSGを通して一対の撮像素子IEによって校正チャートCを撮影し、該校正チャートCのパターンと一対の撮像素子IEの画素位置における該パターンの結像位置とを用いて誤差情報を得る。すなわち、遠距離の対象物を撮影することなく、近距離に配置した校正チャートCを用いて、遠距離の対象物に対する距離の補正量を算出し、測距誤差を低減することができる。したがって、本実施形態の車載カメラの調整方法S100は、車両工場だけでなく、カーディーラーなどの限られたスペースにおいても行うことができる。
また、本実施形態の車載カメラの調整方法S100は、校正チャートCのパターンが、等間隔に配置された複数の縦線VLを含む。これにより、前述のように、近距離に配置した校正チャートCを用いて、遠距離の対象物に対する距離の補正量を算出し、測距誤差を低減することができる。
また、本実施形態の車載カメラの調整方法S100は、校正チャートCのパターンが、矩形の枠線FBを含む。これにより、前述のように、校正チャートCの設置誤差を容易かつ正確に算出することが可能になる。
[車載カメラシステム]
図14は、本発明の一実施形態に係る車載カメラシステム100の概略構成を示すブロック図である。本実施形態の車載カメラシステム100は、たとえば、車両に搭載されるシステムであり、前述の車載カメラ10と、車両制御装置30とを備えている。車両制御装置30は、車載カメラ10による対象物の距離や速度の算出結果および対象物の認識結果に基づいて、車両のブレーキ40、アクセル50、ブザー等の警報装置60、エンジン70、ステアリング80、サスペンション90等を制御する。
本実施形態の車載カメラシステム100は、前述の車載カメラ10を含んでいる。そのため、車載カメラ10によって、シールドガラスSGに起因する測定誤差を低減し、対象物の距離の測定や認識をより正確に行うことができ、車両制御装置30による制御の精度や信頼性を向上させることができる。
以上、図面を用いて本発明の実施の形態を詳述してきたが、具体的な構成はこの実施形態に限定されるものではなく、本発明の要旨を逸脱しない範囲における設計変更等があっても、それらは本発明に含まれるものである。
10 車載カメラ、14A 誤差情報記憶部、14B 視差情報記憶部、100 車載カメラシステム、C 校正チャート、FB 枠線(パターン)、IE 撮像素子、S10 撮像工程(対象物を撮影する工程)、S20 誤差検出工程(誤差情報を画素位置ごとに検出する工程)、S30 補正量算出工程(補正量を算出する工程)、S100 車載カメラの調整方法、SG シールドガラス、T 対象物、VL 縦線(パターン)

Claims (7)

  1. 車両のシールドガラスを通して車外の対象物を撮影する車載カメラであって、
    一対の撮像素子と、誤差情報記憶部と、を備え、
    前記誤差情報記憶部は、前記一対の撮像素子の画素位置における前記対象物の結像位置の差に含まれる前記シールドガラスに起因する誤差に関する誤差情報を前記画素位置ごとに記憶し、
    前記誤差情報は、前記撮像素子と前記対象物との距離に応じた複数の補正量を含むことを特徴とする車載カメラ。
  2. 前記結像位置の差に含まれる前記一対の撮像素子の視差に関する視差情報を記憶する視差情報記憶部を備えることを特徴とする請求項1に記載の車載カメラ。
  3. 車両のシールドガラスを通して対象物を撮影する車載カメラの調整方法であって、
    撮像素子によって前記シールドガラスを通して対象物を撮影する工程と、
    一対の前記撮像素子の画素位置における前記対象物の結像位置の差に含まれる前記シールドガラスに起因する誤差に関する誤差情報であって前記撮像素子と前記対象物との距離に応じた複数の補正量を含む誤差情報を前記画素位置ごとに検出する工程と、
    前記誤差情報を用いて前記対象物の結像位置の差に含まれる視差情報を得るための補正量を算出する工程と、
    を有することを特徴とする車載カメラの調整方法。
  4. 前記対象物を撮影する工程において、前記シールドガラスを通して前記一対の撮像素子によって校正チャートを撮影し、該校正チャートのパターンと前記一対の撮像素子の画素位置における該パターンの結像位置とを用いて前記誤差情報を得ることを特徴とする請求項に記載の車載カメラの調整方法。
  5. 前記パターンは、等間隔に配置された複数の縦線を含むことを特徴とする請求項に記載の車載カメラの調整方法。
  6. 前記パターンは、矩形の枠線を含むことを特徴とする請求項または請求項に記載の車載カメラの調整方法。
  7. 請求項1または請求項に記載の車載カメラを含む車載カメラシステム。
JP2018537029A 2016-08-29 2017-07-26 車載カメラ、車載カメラの調整方法、車載カメラシステム Active JP6602982B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016167040 2016-08-29
JP2016167040 2016-08-29
PCT/JP2017/026977 WO2018042954A1 (ja) 2016-08-29 2017-07-26 車載カメラ、車載カメラの調整方法、車載カメラシステム

Publications (2)

Publication Number Publication Date
JPWO2018042954A1 JPWO2018042954A1 (ja) 2019-04-18
JP6602982B2 true JP6602982B2 (ja) 2019-11-06

Family

ID=61301503

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018537029A Active JP6602982B2 (ja) 2016-08-29 2017-07-26 車載カメラ、車載カメラの調整方法、車載カメラシステム

Country Status (3)

Country Link
EP (1) EP3505865B1 (ja)
JP (1) JP6602982B2 (ja)
WO (1) WO2018042954A1 (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108759667B (zh) * 2018-05-29 2019-11-12 福州大学 车载摄像头下基于单目视觉与图像分割的前车测距方法
WO2021004642A1 (en) * 2019-07-11 2021-01-14 Toyota Motor Europe A camera calibration method, a computer program, a computer-readable recording medium and a camera calibration system
JP7417859B2 (ja) * 2020-03-19 2024-01-19 株式会社リコー 距離補正情報の算出方法、測距装置、移動体及びステレオカメラ装置
WO2022009534A1 (ja) * 2020-07-10 2022-01-13 日立Astemo株式会社 カメラシステムの製造方法及びカメラシステム
DE102020211154A1 (de) 2020-09-04 2022-03-10 Robert Bosch Gesellschaft mit beschränkter Haftung Verfahren und Vorrichtung zum Kalibrieren einer in einem Fahrzeug montierten Kamera
JP2023055094A (ja) * 2021-10-05 2023-04-17 日立Astemo株式会社 撮像装置及び視差ずれ補正方法
DE102021005335B4 (de) * 2021-10-26 2023-11-09 Mercedes-Benz Group AG Verfahren zur Kompensation von Messfehlern

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4109077B2 (ja) * 2002-10-11 2008-06-25 敬二 実吉 ステレオカメラの調整装置およびステレオカメラの調整方法
JP2010160051A (ja) * 2009-01-08 2010-07-22 Mitsutoyo Corp 画像機器の校正用パターン
JP6156724B2 (ja) * 2013-03-14 2017-07-05 株式会社リコー ステレオカメラ
JP6447055B2 (ja) 2014-01-28 2019-01-09 株式会社リコー 校正方法、校正装置、計測用具及びプログラム
JP6520080B2 (ja) * 2014-01-31 2019-05-29 株式会社リコー ステレオカメラ校正方法、視差算出装置、ステレオカメラ及び車両
JP6427900B2 (ja) 2014-03-07 2018-11-28 株式会社リコー 校正方法、校正システム、プログラム及び移動体
DE102014219423B4 (de) * 2014-09-25 2023-09-21 Continental Autonomous Mobility Germany GmbH Dynamisches Modell zur Kompensation von Verzeichnungen einer Windschutzscheibe

Also Published As

Publication number Publication date
EP3505865B1 (en) 2022-03-09
EP3505865A4 (en) 2020-04-29
JPWO2018042954A1 (ja) 2019-04-18
WO2018042954A1 (ja) 2018-03-08
EP3505865A1 (en) 2019-07-03

Similar Documents

Publication Publication Date Title
JP6602982B2 (ja) 車載カメラ、車載カメラの調整方法、車載カメラシステム
JP5906272B2 (ja) 車両用ステレオ画像処理装置
KR101787304B1 (ko) 교정 방법, 교정 장치 및 컴퓨터 프로그램 제품
KR100941271B1 (ko) 자동차용 차선이탈 방지 방법
EP3070675B1 (en) Image processor for correcting deviation of a coordinate in a photographed image at appropriate timing
EP3032818B1 (en) Image processing device
JP5811327B2 (ja) カメラキャリブレーション装置
US20200193641A1 (en) Method and apparatus for calibrating the extrinsic parameter of an image sensor
WO2017209015A1 (ja) ステレオカメラの設置パラメータ校正方法
JP2021025868A (ja) ステレオカメラ
JP2018084503A (ja) 距離測定装置
JP6768554B2 (ja) キャリブレーション装置
JP7303064B2 (ja) 画像処理装置、および、画像処理方法
JP7232005B2 (ja) 車両の走行環境検出装置及び走行制御システム
WO2019203001A1 (ja) ステレオカメラ装置
JP2020020657A (ja) ステレオカメラ装置、ステレオカメラシステム、及び移動体
JP7380443B2 (ja) 部分画像生成装置及び部分画像生成用コンピュータプログラム
JP6890293B2 (ja) カメラ校正装置、カメラ校正システム、カメラ校正方法及びプログラム
JP4040620B2 (ja) 車両周辺監視装置
JP2020042716A (ja) 異常検出装置および異常検出方法
WO2023067867A1 (ja) 車載制御装置、および、3次元情報取得方法
JP7247063B2 (ja) 画像処理装置、及びそれを用いたステレオカメラ装置
JP7083014B2 (ja) ステレオカメラ
JP7436400B2 (ja) ステレオ画像処理装置及び画像補正手段
WO2024127591A1 (ja) カメラ校正装置及びカメラ校正方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190723

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190913

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191001

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191009

R150 Certificate of patent or registration of utility model

Ref document number: 6602982

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350