JP6269838B2 - 自己位置算出装置及び自己位置算出方法 - Google Patents

自己位置算出装置及び自己位置算出方法 Download PDF

Info

Publication number
JP6269838B2
JP6269838B2 JP2016539706A JP2016539706A JP6269838B2 JP 6269838 B2 JP6269838 B2 JP 6269838B2 JP 2016539706 A JP2016539706 A JP 2016539706A JP 2016539706 A JP2016539706 A JP 2016539706A JP 6269838 B2 JP6269838 B2 JP 6269838B2
Authority
JP
Japan
Prior art keywords
pattern light
road surface
vehicle
image
self
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016539706A
Other languages
English (en)
Other versions
JPWO2016020970A1 (ja
Inventor
山口 一郎
一郎 山口
西内 秀和
秀和 西内
宣久 平泉
宣久 平泉
松本 淳
淳 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Publication of JPWO2016020970A1 publication Critical patent/JPWO2016020970A1/ja
Application granted granted Critical
Publication of JP6269838B2 publication Critical patent/JP6269838B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/002Measuring arrangements characterised by the use of optical techniques for measuring two or more coordinates
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01BMEASURING LENGTH, THICKNESS OR SIMILAR LINEAR DIMENSIONS; MEASURING ANGLES; MEASURING AREAS; MEASURING IRREGULARITIES OF SURFACES OR CONTOURS
    • G01B11/00Measuring arrangements characterised by the use of optical techniques
    • G01B11/26Measuring arrangements characterised by the use of optical techniques for measuring angles or tapers; for testing the alignment of axes
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01CMEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
    • G01C21/00Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00
    • G01C21/26Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network
    • G01C21/28Navigation; Navigational instruments not provided for in groups G01C1/00 - G01C19/00 specially adapted for navigation in a road network with correlation of data from several navigational instruments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • G06T2207/30208Marker matrix
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Remote Sensing (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Automation & Control Theory (AREA)
  • Signal Processing (AREA)
  • Length Measuring Devices By Optical Means (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Navigation (AREA)

Description

本発明は、自己位置算出装置及び自己位置算出方法に関する。
従来、車両に搭載されたカメラで車両近傍の画像を撮像して取得し、この画像の変化に基づいて車両の移動量を求める技術が知られている(例えば、特許文献1参照)。特許文献1では、車両が低速かつ微妙に移動した場合でも精度よく移動量を求められるように、画像の中から特徴点を検出し、この特徴点の位置を求め、特徴点の移動方向及び移動距離(移動量)から車両の移動量を求めている。
また、格子パターン(パターン光)を投光するレーザ投光器を用いて三次元計測を行う技術が知られている(例えば、特許文献2参照)。特許文献2では、パターン光の投光領域をカメラで撮像し、撮像した画像からパターン光を検出して、パターン光の位置から車両の挙動を求めている。
特開2008−175717号公報 特開2007−278951号公報
しかし、屋外環境においては、特許文献2に記載のようにパターン光を路面に投光したときに、周囲光の影響を受けるため、路面に投光したパターン光を検出することは困難である。
本発明は、上記課題に鑑みて成されたものであり、その目的は、路面に投光したパターン光を精度よく検出することができ、車両の自己位置を精度よく算出することができる自己位置算出装置及び自己位置算出方法を提供することである。
本発明の一態様に係る自己位置算出装置は、投光器から車両周囲の路面にパターン光を投光し、パターン光が投光された領域を含む車両周囲の路面を撮像部により撮像して画像を取得し、撮像部で取得した画像からパターン光の位置を抽出し、抽出されたパターン光の位置から、路面に対する車両の姿勢角を算出し、撮像部で取得した画像における路面上の複数の特徴点の時間変化に基づいて、車両の姿勢変化量を算出し、車両の初期位置及び姿勢角に姿勢変化量を加算してゆくことによって車両の現在位置及び姿勢角を算出する。そして、パターン光の位置を抽出するときに、パターン光の検出状態が閾値以上の場合、撮像部で取得されるフレーム間の画像を重ね合わせて重畳画像を生成し、重畳画像からパターン光の位置を抽出することを特徴とする。
図1は、第1の実施形態に係る自己位置算出装置の全体構成を示すブロック図である。 図2は、車両10への投光器11及びカメラ12の搭載例を示す外観図である。 図3(a)は、投光器11とカメラ12の間の基線長Lbと、各スポット光の画像上の座標(U、V)とから、各スポット光が照射された路面31上の位置を算出する様子を示す図であり、図3(b)は、パターン光32aが照射された領域とは異なる他の領域33から検出された特徴点の時間変化から、カメラ12の移動方向34を求める様子を示す模式図である。 図4(a)及び図4(b)は、カメラ12により取得された画像に対して二値化処理を施したパターン光32aの画像を示す図であり、図4(a)はパターン光32a全体を示し、図4(b)は1つのスポット光Sを拡大して示し、図4(c)はパターン光抽出部21により抽出された各スポット光Sの重心の位置Hを示す図である。 図5は、距離及び姿勢角の変化量を算出する方法を説明するための模式図である。 図6(a)は、時刻tに取得された第1フレーム(画像)38の一例を示す。図6(b)は、時刻tから時間Δtだけ経過した時刻(t+Δt)に取得された第2フレーム38’を示す。 図7(a)は、外部環境が明るい場合に重畳画像を生成するときの車両の移動量を示す。図7(b)は、外部環境が明るい場合に重畳画像を生成する様子を示す。 図8(a)は、外部環境が暗い場合に重畳画像を生成するときの車両の移動量を示す。図8(b)は、外部環境が暗い場合に重畳画像を生成する様子を示す。 図9(a)〜図9(d)は、第1の実施形態に係る自己位置算出装置の、リセットフラグ、重畳する画像数、特徴点検出状態、及び対応付けされた特徴点数の変化を示すタイミングチャートである。 図10は、図1の自己位置算出装置を用いた自己位置算出方法の一例を示すフローチャートである。 図11は、図10のステップS18の詳細な手順を示すフローチャートである。 図12は、第2の実施形態に係る自己位置算出装置の全体構成を示すブロック図である。 図13は、第2の実施形態に係るパターン光の位置から路面の高さの変化量を推定する方法を説明するための図である。 図14(a)〜図14(e)は、第2の実施形態に係る自己位置算出装置の、リセットフラグ、ステップS201の所定の周期、重畳する画像数、路面状態の良否、及び路面の段差(凹凸)の大きさの変化を示すタイミングチャートである。 図15は、第2の実施形態に係る自己位置算出装置による自己位置算出処理の処理手順を示すフローチャートである。 図16は、第2の実施形態に係る自己位置算出装置による図15のステップS28の詳細な処理手順を示すフローチャートである。 図17は、第3の実施形態に係る自己位置算出装置の全体構成を示すブロック図である。 図18(a)及び図18(b)は、第3の実施形態に係る自己位置算出装置の輝度変化及び特徴点検出フラグの変化を示すタイミングチャートである。 図19(a)〜図19(c)は、第3の実施形態に係る自己位置算出装置の、パターン光と特徴点を示す説明図である。 図20(a)〜図20(d)は、第3の実施形態に係る自己位置算出装置の、リセットフラグ、各周期が終わるタイミング、重畳する周期数、及び投光電力の変化を示すタイミングチャートである。 図21は、第3の実施形態に係る自己位置算出装置の処理手順を示すフローチャートである。
図面を参照して、第1〜第3の実施形態を説明する。図面の記載において同一部分には同一符号を付して説明を省略する。
(第1の実施形態)
[ハードウェア構成]
先ず、図1を参照して、第1の実施形態に係る自己位置算出装置のハードウェア構成を説明する。自己位置算出装置は、投光器11と、カメラ12と、エンジンコントロールユニット(ECU)13とを備える。投光器11は、車両に搭載され、車両周囲の路面にパターン光を投光する。カメラ12は、車両に搭載され、パターン光が投光された領域を含む車両周囲の路面を撮像して画像を取得する撮像部の一例である。ECU13は、投光器11を制御し、且つカメラ12により取得された画像から車両の移動量を推定する一連の情報処理サイクルを実行する制御部の一例である。
カメラ12は、固体撮像素子、例えばCCD及びCMOSを用いたデジタルカメラであって、画像処理が可能なデジタル画像を取得する。カメラ12の撮像対象は車両周囲の路面であって、車両周囲の路面には、車両の前部、後部、側部、車両底部の路面が含まれる。例えば、図2に示すように、カメラ12は、車両10の前部、具体的にはフロントバンパ上に搭載することができる。
車両10の前方の路面31上の特徴点(テクスチャ)及び投光器11により投光されたパターン光32bを撮像できるように、カメラ12が設置される高さ及び向きが調整され、且つ、カメラ12が備えるレンズのピント及び絞りが自動調整される。カメラ12は、所定の時間間隔をおいて繰り返し撮像を行い、一連の画像(フレーム)群を取得する。カメラ12により取得された画像データは、ECU13へ転送され、ECU13が備えるメモリに記憶される。
投光器11は、図2に示すように、カメラ12の撮像範囲内の路面31に向けて、正方形や長方形の格子像を含む所定の形状を有するパターン光32bを投光する。カメラ12は、路面31に照射されたパターン光を撮像する。投光器11は、例えば、レーザポインター及び回折格子を備える。レーザポインターから射出されたレーザ光を回折格子で回折することにより、投光器11は、図2〜図4に示すように、格子像、或いは行列状に配列された複数のスポット光Sからなるパターン光(32b、32a)を生成する。図3及び図4に示す例では、5×7のスポット光Sからなるパターン光32aを生成している。
図1に戻り、ECU13は、CPU、メモリ、及び入出力部を備えるマイクロコントローラからなり、予めインストールされたコンピュータプログラムを実行することにより、自己位置算出装置が備える複数の情報処理部を構成する。ECU13は、カメラ12により取得された画像から車両の現在位置を算出する一連の情報処理サイクルを、画像(フレーム)毎に繰り返し実行する。ECU13は、車両10にかかわる他の制御に用いるECUと兼用してもよい。
複数の情報処理部には、パターン光抽出部(重畳画像生成部)21、姿勢角算出部22、特徴点検出部23、姿勢変化量算出部24、輝度判断部(パターン光検出状態判断部)25、自己位置算出部26、パターン光制御部27、検出状態判断部28及び算出状態判断部29が含まれる。特徴点検出部23は、姿勢変化量算出部24に含まれていてもよい。
パターン光抽出部21は、カメラ12により取得された画像をメモリから読み込み、画像からパターン光の位置を抽出する。図3(a)に示すように、例えば、投光器11が行列状に配列された複数のスポット光からなるパターン光32aを路面31に向けて投光し、路面31で反射されたパターン光32aをカメラ12で検出する。パターン光抽出部21は、カメラ12により取得された画像に対して二値化処理を施すことにより、図4(a)及び図4(b)に示すように、スポット光Sの画像のみを抽出する。パターン光抽出部21は、図4(c)に示すように、各スポット光Sの重心の位置H、即ちスポット光Sの画像上の座標(U、V)を算出することにより、パターン光32aの位置を抽出する。座標は、カメラ12の撮像素子の画素を単位とし、5×7のスポット光Sの場合、“j”は1以上35以下の自然数である。スポット光Sの画像上の座標(U、V)は、パターン光32aの位置を示すデータとしてメモリに記憶される。
姿勢角算出部22は、パターン光32aの位置を示すデータをメモリから読み込み、カメラ12により取得された画像におけるパターン光32aの位置から、路面31に対する車両10の距離及び姿勢角を算出する。例えば、図3(a)に示すように、投光器11とカメラ12の間の基線長Lbと、各スポット光の画像上の座標(U、V)とから、三角測量の原理を用いて、各スポット光が照射された路面31上の位置を、カメラ12に対する相対位置として算出する。そして、姿勢角算出部22は、カメラ12に対する各スポット光の相対位置から、パターン光32aが投光された路面31の平面式、即ち、路面31に対するカメラ12の距離及び姿勢角(法線ベクトル)を算出する。なお、車両10に対するカメラ12の搭載位置及び撮像方向は既知であるため、本実施形態においては、路面31に対する車両10の距離及び姿勢角の一例として、路面31に対するカメラ12の距離及び姿勢角を算出する。以後、路面31に対するカメラ12の距離及び姿勢角を、「距離及び姿勢角」と略す。姿勢角算出部22により算出された距離及び姿勢角は、メモリに記憶される。
具体的には、カメラ12及び投光器11は車両10にそれぞれ固定されているため、パターン光32aの照射方向と、カメラ12と投光器11との距離(基線長Lb)は既知である。そこで、姿勢角算出部22は、三角測量の原理を用いて、各スポット光の画像上の座標(U、V)から各スポット光が照射された路面31上の位置を、カメラ12に対する相対位置(X,Y,Z)として求めることができる。
なお、カメラ12に対する各スポット光の相対位置(X,Y,Z)は同一平面上に存在しない場合が多い。なぜなら、路面31に表出するアスファルトの凹凸に応じて各スポット光の相対位置が変化するからである。そこで、最小二乗法を用いて、各スポット光との距離誤差の二乗和が最小となるような平面式を求めてもよい。
特徴点検出部23は、カメラ12により取得された画像をメモリから読み込み、メモリから読み込んだ画像から、路面31上の特徴点を検出する。特徴点検出部23は、路面31上の特徴点を検出するために、例えば、「D.G. Lowe,“Distinctive Image Features from Scale-Invariant Keypoints,” Int. J. Comput. Vis., vol.60, no.2, pp. 91-110, Nov. 200 」、或いは、「金澤 靖, 金谷健一, “コンピュータビジョンのための画像の特徴点抽出,” 信学誌, vol.87, no.12, pp.1043-1048, Dec. 2004」に記載の手法を用いることができる。
具体的には、特徴点検出部23は、例えば、ハリス(Harris)作用素又はSUSANオペレータを用いて、物体の頂点のように周囲に比べて輝度値が大きく変化する点を特徴点として検出する。或いは、特徴点検出部23は、SIFT(Scale-Invariant Feature Transform)特徴量を用いて、その周囲で輝度値がある規則性のもとで変化している点を特徴点として検出してもよい。そして、特徴点検出部23は、1つの画像から検出した特徴点の総数Nを計数し、各特徴点に識別番号(i(1≦i≦N))を付す。各特徴点の画像上の位置(U、V)は、ECU13内のメモリに記憶される。図6(a)及び図6(b)は、カメラ12により取得された画像から検出された特徴点Tの例を示す。各特徴点の画像上の位置(U、V)は、メモリに記憶される。
なお、本実施形態において、路面31上の特徴点は、主に大きさが1cm以上2cm以下のアスファルト混合物の粒を想定している。この特徴点を検出するために、カメラ12の解像度はVGA(約30万画素)である。また、路面31に対するカメラ12の距離は、約70cmである。更に、カメラ12の撮像方向は、水平面から約45degだけ路面31に向けて傾斜させる。また、カメラ12により取得される画像をECU13に転送するときの輝度値は、0〜255(0:最も暗い,255:最も明るい)の範囲内である。
姿勢変化量算出部24は、一定の情報処理サイクル毎に撮像されるフレームのうち、前回フレームに含まれる複数の特徴点の画像上の位置(U、V)をメモリから読み込み、更に、今回フレームに含まれる複数の特徴点の画像上の位置(U、V)をメモリから読み込む。そして、複数の特徴点の画像上での位置変化に基づいて、車両の姿勢変化量を求める。ここで、「車両の姿勢変化量」とは、路面31に対する「距離及び姿勢角」の変化量、及び路面上での「車両(カメラ12)の移動量」の双方を含んでいる。以下、距離及び姿勢角の変化量及び車両の移動量の算出方法について説明する。
図6(a)は、時刻tに取得された第1フレーム(画像)38の一例を示す。図5或いは図6(a)に示すように、第1フレーム38において、例えば3つの特徴点Te1、Te2、Te3の相対位置(X,Y,Z)がそれぞれ算出されている場合を考える。この場合、特徴点Te1、Te2、Te3によって特定される平面Gを路面と見なすことができる。よって、姿勢変化量算出部24は、相対位置(X,Y,Z)から、路面(平面G)に対するカメラ12の距離及び姿勢角(法線ベクトル)を求めることができる。更に、姿勢変化量算出部24は、既知のカメラモデルによって、各特徴点Te1、Te2、Te3の間の距離(l、l、l)及び夫々の特徴点Te1、Te2、Te3を結ぶ直線が成す角度を求めることができる。図5のカメラ12は、第1フレームにおけるカメラの位置を示す。
なお、カメラ12に対する相対位置を示す3次元座標(X,Y,Z)として、カメラ12の撮像方向をZ軸に設定し、撮像方向を法線とし且つカメラ12を含む平面内に、互いに直交するX軸及びY軸を設定する。一方、画像38上の座標として、水平方向及び垂直方向をそれぞれV軸及びU軸に設定する。
図6(b)は、時刻tから時間Δtだけ経過した時刻(t+Δt)に取得された第2フレームを示す。図5のカメラ12’は、第2フレーム38’を撮像したときのカメラの位置を示す。図5或いは図6(b)に示すように、第2フレーム38’において、カメラ12’が特徴点Te1、Te2、Te3を撮像し、特徴点検出部23が特徴点Te1、Te2、Te3を検出する。この場合、姿勢変化量算出部24は、時刻tにおける各特徴点Te1、Te2、Te3の相対位置(X,Y,Z)と、各特徴点の第2フレーム38’上の位置P(U、V)と、カメラ12のカメラモデルとから、時間Δtにおけるカメラ12の移動量(ΔL)だけでなく、距離及び姿勢角の変化量も算出することができる。例えば、以下の(1)〜(4)式からなる連立方程式を解くことにより、姿勢変化量算出部24は、カメラ12(車両)の移動量(ΔL)、及び距離及び姿勢角の変化量を算出することができる。なお、(1)式はカメラ12が歪みや光軸ずれのない理想的なピンホールカメラとしてモデル化したものであり、λiは定数、fは焦点距離である。カメラモデルのパラメータは、予めキャリブレーションをしておけばよい。
図3(b)は、カメラ12の撮像範囲のうち、パターン光32aが照射された領域とは異なる他の領域33から検出された特徴点の時間変化から、カメラ12の移動方向34を求める様子を模式的に示す。また、図6(a)及び図6(b)には、各特徴点Tの位置の変化方向及び変化量を示すベクトルDteを画像に重畳して示す。姿勢変化量算出部24は、時間Δtにおけるカメラ12の移動量(ΔL)だけでなく、距離及び姿勢角の変化量も同時に算出することができる。よって、姿勢変化量算出部24は、距離及び姿勢角の変化量を考慮して、6自由度の移動量(ΔL)を精度よく算出することができる。すなわち、車両10の旋回や加減速によるロール運動或いはピッチ運動によって距離や姿勢角が変化しても、移動量(ΔL)の推定誤差を抑制することができる。
なお、姿勢変化量算出部24は、相対位置が算出された特徴点すべてを用いるのではなく、特徴点同士の位置関係に基づいて最適な特徴点を選定してもよい。選定方法としては、例えば、エピポーラ幾何(エピ極線幾何,R.I. Hartley: “A linear method for reconstruction from lines and points,” Proc. 5th International Conference on Computer Vision, Cambridge, Massachusetts, pp.882-887(1995))を用いることができる。
前後フレーム間で特徴点を対応付けるには、例えば、検出した特徴点の周辺の小領域の画像をメモリに記録しておき、輝度や色情報の類似度から判断すればよい。具体的には、ECU13は、検出した特徴点を中心とする5×5(水平×垂直)画素分の画像をメモリに記録する。姿勢変化量算出部24は、例えば、輝度情報が20画素以上で誤差1%以下に収まっていれば、前後フレーム間で対応関係が取れる特徴点であると判断する。
このように、相対位置(X,Y,Z)が算出された特徴点Te1、Te2、Te3が、後のタイミングで取得された画像38’からも検出された場合に、姿勢変化量算出部24は、路面上の複数の特徴点の時間変化に基づいて、「車両の姿勢変化量」を算出することができる。
自己位置算出部26は、姿勢変化量算出部24で算出された「距離及び姿勢角の変化量」から距離及び姿勢角を算出する。更に、姿勢変化量算出部24で算出された「車両の移動量」から車両の現在位置を算出する。
具体的には、姿勢角算出部22(図1参照)にて算出された距離及び姿勢角が起点として設定された場合、この起点(距離及び姿勢角)に対して、姿勢変化量算出部24で算出された各フレーム毎の距離及び姿勢角の変化量を逐次加算する(積分演算する)ことにより、距離及び姿勢角を最新な数値に更新する。また、姿勢角算出部22にて距離及び姿勢角が算出された際の車両位置が起点(車両の初期位置)として設定され、この初期位置から車両の移動量を逐次加算する(積分演算する)ことにより、車両の現在位置を算出する。例えば、地図上の位置と照合された起点(車両の初期位置)を設定することで、地図上の車両の現在位置を逐次算出することができる。
このように、前後フレーム間で対応関係が取れる3点以上の特徴点を検出し続けることができれば、距離及び姿勢角の変化量を加算する処理(積分演算)を継続することにより、パターン光32aを用いることなく、距離や姿勢角を最新な数値に更新し続けることができる。ただし、最初の情報処理サイクルにおいては、パターン光32aを用いて算出された距離及び姿勢角、或いは所定の初期距離及び初期姿勢角を用いてもよい。つまり、積分演算の起点となる距離及び姿勢角は、パターン光32aを用いて算出しても、或いは、所定の初期値を用いても構わない。所定の初期距離及び初期姿勢角は、少なくとも車両10への乗員及び搭載物を考慮した距離及び姿勢角であることが望ましい。例えば、車両10のイグニションスイッチがオン状態であって、且つシフトポジションがパーキングから他のポジションへ移動した時に、パターン光32aを投光し、パターン光32aから算出された距離及び姿勢角を、所定の初期距離及び初期姿勢角として用いればよい。これにより、車両10の旋回や加減速によるロール運動或いはピッチ運動が発生していない時の距離や姿勢角を求めることができる。
なお、本実施形態では、距離及び姿勢角の変化量を算出し、距離及び姿勢角の変化量を逐次加算することにより、距離及び姿勢角を最新な数値に更新した。しかし、路面31に対するカメラ12の姿勢角だけをその変化量の算出及び更新の対象としても構わない。この場合、路面31に対するカメラ12の距離は一定と仮定すればよい。これにより、姿勢角の変化量を考慮して、移動量(ΔL)の推定誤差を抑制しつつ、ECU13の演算負荷を軽減し、且つ演算速度を向上させることもできる。
検出状態判断部28は、特徴点検出部23による特徴点Tの検出状態が第1基準を満たさず悪い状態か否かを判断する。例えば、トンネル内のコンクリート路面のように、路面にアスファルト混合物の粒などの模様や凹凸が少ない場合、画像から検出できる特徴点が少なくなる。この場合、前後フレーム間で対応関係が取れる特徴点の継続的な検出が困難となり、距離及び姿勢角の更新精度が低下してしまう。
そこで、検出状態判断部28は、例えば、カメラ12に対する相対位置が算出された特徴点のうち、後の情報処理サイクルで取得された画像からも検出できた特徴点の数が、所定のしきい値(例えば、3つ)以下である場合に、特徴点の検出状態が第1基準を満たさず、悪い状態と判断する。すなわち、前後フレーム間で対応付けが取れる4点以上の特徴点を検出できない場合、検出状態判断部28は、特徴点Tの検出状態が第1基準を満たさず、悪い状態と判断する。なお、距離や姿勢角の変化量を求めるには、前後フレーム間で対応付けが取れる少なくとも3つの特徴点が必要である。なぜなら、平面Gを特定するには3つの特徴点が必要だからである。推定精度を高めるには更に多くの特徴点が必要であるため、所定のしきい値は、4、或いは5以上であることが望ましい。
自己位置算出部26は、特徴点の検出状態が第1基準を満たしていると検出状態判断部28が判断した場合、積分演算の起点を維持する。一方、特徴点の検出状態が第1基準を満たさず、悪い状態と検出状態判断部28が判断した場合、自己位置算出部26は、同じ情報処理サイクルにおいて、姿勢角算出部22(図1参照)が算出した距離及び姿勢角、及びその時の車両位置を新たな起点(車両の姿勢角及び初期位置)に設定し、当該起点から車両の姿勢変化量の加算を開始する。
なお、第1の実施形態で、検出状態判断部28は、前後フレーム間で対応関係が取れる特徴点の数に基づいて、特徴点の検出状態を判断したが、1つの画像から検出された特徴点の総数Nに基づいて、特徴点の検出状態を判断してもよい。つまり、特徴点の総数Nが所定のしきい値(例えば9)以下である場合に、特徴点の検出状態が第1基準を満たさず、悪い状態と判断してもよい。検出された特徴点のうち対応付けができない特徴点があることを考慮し、所定のしきい値(3)の3倍の数(9)を、しきい値に設定すればよい。
算出状態判断部29は、姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態か否かを判断する。例えば、路面31上の段差にパターン光が照射された場合、路面31上の段差はアスファルトの凹凸に比べて大きいため、距離及び姿勢角の算出精度が極端に低下してしまう。特徴点の検出状態が第1基準よりも悪く、且つ距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態の場合、距離及び姿勢角、及びその変化量を精度よく検出する手段がなくなってしまう。
そこで、算出状態判断部29は、例えば、姿勢角算出部22によって算出される距離及び姿勢角の標準偏差が所定のしきい値よりも大きい場合、姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態と判断する。また、35個のスポット光のうち検出できたスポット光の数が3点未満である場合、原理的に路面31の平面式を求めることができないため、姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態と判断する。最小二乗法を用いて平面式を求める場合、各スポット光との距離誤差の最大値の絶対値がある閾値(例えば0.05m)以上になった場合に、姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態と判断してもよい。
特徴点の検出状態が第1基準を満たさず、悪い状態と検出状態判断部28が判断し、且つ姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態と算出状態判断部29が判断した場合、自己位置算出部26は、積分演算の起点として、前の情報処理サイクルにおける距離及び姿勢角、及び車両の現在位置を用いる。これにより、車両の移動量の算出誤差を抑制できる。
パターン光制御部27は、投光器11によるパターン光32aの投光を制御する。例えば、車両10のイグニションスイッチがオン状態となり、自己位置算出装置が起動すると同時に、パターン光制御部27は、パターン光32aの投光を開始する。その後、パターン光制御部27は、自己位置算出装置が停止するまで、パターン光32aを連続して投光する。或いは、所定の時間間隔をおいて、投光のオン/オフを繰り返してもよい。或いは、特徴点Tの検出状態が第1基準を満たさず、悪い状態と検出状態判断部28が判断した場合に限って、一時的にパターン光32aを投光してもよい。
輝度判断部(パターン光検出状態判断部)25は、カメラ12により取得されたパターン光の検出状態が所定の閾値以上であるか否かを判定する。例えば、輝度判断部25は、カメラ12により取得された画像の輝度平均値(パターン光の検出状態)が、路面輝度閾値Bth(所定の閾値)以上であるか否かを判断する。なお、輝度判断部25は、カメラ12により取得された画像の照度が閾値以上であるか否かを判断してもよい。また、輝度判断部25の代わりに照度センサが車両に搭載されていてもよい。
路面輝度閾値Bthは、例えば、以下の手順によって予め求めることができる。まず、車両に人や荷物や燃料等が乗っていない空載状態において、パターン光をアスファルト路面に投光した時の画像をカメラ12により撮像する。この時、画像上のアスファルト路面の輝度はほぼ一様になるようにする。例えば、パターン光が映っていない部分の画素の95%が輝度平均値から±20以内に収まるように光環境を調整して撮像する。なお、カメラ12により取得された画像の輝度値は、0〜255(0:最も暗い、255:最も明るい)の範囲内とする。更に、得られた画像において、パターン光が照射された画素の輝度平均値Bpと、それ以外のアスファルト路面が映っている画素の輝度平均値Baとを比較する。この一連の処理を、アスファルト路面が映っている部分の輝度平均値Baを0から10刻みに大きくしながら繰り返し、Bp×0.7<Baとなった時の輝度平均値Baを路面輝度閾値Bthとする。即ち、アスファルト路面の輝度がパターン光の輝度の約30%となる輝度値を路面輝度閾値Bthとする。
パターン光抽出部21は、輝度判断部25によりパターン光の検出状態が所定の閾値以上であると判定された場合に、カメラ12により得られた前後フレーム間の画像を所定の枚数だけ重ね合わせる。なお、重ね合わせる画像としては、現在から過去分のメモリに蓄積された前後フレーム間の画像を用いる場合を説明する。なお、重ね合わせる画像として、現在から将来的にカメラ12により取得される画像を含んでいてもよい。パターン光抽出部21は更に、生成した重畳画像からパターン光の位置を抽出する。姿勢角算出部22は、重畳画像から抽出されたパターン光の位置から路面に対する車両の姿勢角を算出することができる。また、自己位置算出部26は、その時の車両の現在位置及び重畳画像により算出された姿勢角を、車両の初期位置及び姿勢角(起点)に設定し、姿勢変化量の加算を開始することができる。
ここで、パターン光抽出部21は、カメラ12で取得した画像におけるパターン光の検出状態に応じて所定の画像の数を設定する。パターン光の検出状態は、例えば周囲光の輝度値に対するパターン光の輝度値の比(S/N比)である。パターン光抽出部21は、S/N比が小さい(外部環境が明るい)ほど、重ね合わせる画像数を多くする。
図7(a)に示すように、外部環境が相対的に明るい場合、必要な画像数が相対的に多いため、画像群を取得するための車両100の移動量は相対的に大きい。また、図7(b)に示すように、相対的に多い数の画像I1を重ね合わせて重畳画像I2を生成する。一方、図8(a)に示すように、外部環境が相対的に暗い場合、必要な画像数が相対的に少ないため、画像群を取得するための車両100の移動量は相対的に小さい。また、図8(b)に示すように、相対的に少ない数の画像I1を重ね合わせて重畳画像I2を生成する。
パターン光抽出部21により重ね合わせるべきパターン光抽出に必要な画像の数は、例えば以下の手順により設定することができる。まず、路面輝度閾値Bthを求める時と同様に、アスファルト路面が映っている部分の輝度平均値Baを0から10刻みに大きくしていき、各輝度平均値Baにおける、パターン光が照射された画素の輝度平均値Bpの比Rap=Ba/Bpを予め実験等で求めておき、ECUのメモリに記憶させておく。そして、実際に制御を行う場合には、カメラ12により取得された画像の輝度平均値の1の位を四捨五入した時のS/N比Rapを参照し、以下の式(5)で求められたSnの小数点第一位を切り上げた枚数を、パターン光抽出に必要な画像の数に設定する。

Sn=max{(0.5÷(1−Rap)2),50} ・・・(5)
即ち、アスファルト路面の輝度平均値Baがパターン光の輝度平均値Bpの約29%以下ならば1枚、75%ならば8枚、90%以上ならば50枚とする。なお、パターン光が照射された部分は画像全体と比べて十分小さいので、画像全体から輝度平均値を算出してもよい。また、実際に輝度平均値Baを0から10刻みに大きくして各Rapを求める実験において、実際に重畳してスポット光の抽出を行い、パターン光の各スポット光の抽出の成功率が95%以上となる枚数と設定してもよい。
また、以下で説明するように、パターン光抽出部21により重畳画像が生成できない(又は生成が困難な)場合には、前回の情報処理サイクルで採用した距離及び姿勢角(以下、単に「前回値」ともいう。)、又は上述した車両の所定の初期距離及び初期姿勢角(単に「初期値」ともいう。)を起点に用いる。
まず、S/N比が小さすぎて(明るすぎて)、積分時間が長すぎる場合がある。例えば、カメラ12により取得された画像の輝度平均値の1の位を四捨五入した時の比Rapを参照し、比Rapが0.95以上、即ち、アスファルト路面の輝度平均がパターン光の輝度平均の90%以上ならば、重畳画像作成に時間がかかりすぎて、その間の路面変化が小さいという仮定が成り立たなくなるか、或いはパターン光の抽出そのものが原理的に困難と判断し、前回値又は初期値を起点に用いる。
また、車両挙動が大きすぎる(車速が高すぎる)場合がある。例えば、設定された重畳画像の枚数を撮像する間に、車両の進行距離が0.2[m]を超える場合には、路面変化が小さいという仮定が成り立たなくなると判断し、重畳画像が生成できないと判断する。ここで、1000fpsのカメラを用いると、アスファルト路面の輝度平均がパターン光の輝度平均の75%の場合、重畳画像は8枚必要である。よって、以下の式(6)の通り、90km/h以上では、前回値又は初期値を起点に用いる。

0.2[m]÷(8[枚]÷1000[fps])
=25[m/s]
=90[km/h] ・・・(6)
また、路面変化(段差や凹凸)が大きすぎる場合がある。例えば、設定された重畳画像の枚数を撮像する間に、車両周囲の路面状態が閾値以上変化しているか否かを判定する。そして、車両周囲の路面状態が閾値以上変化しているという状態になった画像数が5%を超えた場合には、路面変化が小さいという仮定が成り立たなくなると判断し、前回値又は初期値を起点に用いる。なお、路面状態の変化の判定の詳細は、第2の実施形態において説明する。
図9(a)〜図9(d)は、第1の実施形態に係る自己位置算出装置の、リセットフラグ、重畳する画像数、特徴点検出状態、及び対応付けされた特徴点数の変化を示す。例えば、時刻t11,t12の情報処理サイクルにおいて、図9(d)に示すように対応付けされた特徴点数が3点以下となり、図9(c)に示すように特徴点検出状態が悪いと判断される。これに伴い、図9(a)に示すようにリセットフラグが「1」に設定される。
このうち、時刻t11の情報処理サイクルにおいては、図9(b)に示すように、パターン光抽出部21が、カメラ12の画像の平均輝度値から、重畳する画像数を1枚(即ち、重畳しない)と設定する。そして、パターン光抽出部21は、現在の時刻t11の情報処理サイクルにおいて取得される1枚の画像からパターン光を抽出する。
一方、時刻t12の情報処理サイクルでは、図9(b)に示すように、パターン光抽出部21が、カメラ12の画像の平均輝度値から、重畳する画像数を2枚と設定する。更に、パターン光抽出部21が、時刻t12においてカメラ12により取得された画像と、前回の情報処理サイクルにおいてカメラ12により取得された画像との2枚を重ね合わせて(輝度値を合算して)重畳画像を生成する。そして、パターン光抽出部21が、重畳画像からパターン光を抽出する。
[情報処理サイクル]
次に、カメラ12により取得された画像38から車両10の移動量を推定する自己位置算出方法の一例として、ECU13により繰り返し実行される情報処理サイクルを、図10及び図11を参照しながら説明する。図10のフローチャートに示す情報処理サイクルは、車両10のイグニションスイッチがオン状態となり、自己位置算出装置が起動すると同時に開始され、自己位置算出装置が停止するまで、繰り返し実行される。
図10のステップS10において、パターン光制御部27は、投光器11を制御して、車両周囲の路面31にパターン光32aを投光する。図10のフローチャートでは、パターン光32aを連続して投光する例を説明する。
ステップS11に進み、ECU13は、カメラ12を制御して、パターン光32aが投光された領域を含む車両周囲の路面31を撮像して画像38を取得する。ECU13は、カメラ12により取得された画像データを、メモリに記憶する。なお、ECU13はカメラ12の絞りを自動制御できる。前の情報処理サイクルで取得した画像38の平均輝度から、輝度値の最大値と最小値の中間値になるようにカメラ12の絞りをフィードバック制御してもよい。また、パターン光32aが投光されている領域は輝度値が高いため、パターン光32aを抽出した部分を除いた領域から、平均輝度値を求めてもよい。
ステップS12に進み、輝度判断部25は、カメラ12により取得された画像38をメモリから読み込み、画像の平均輝度が路面輝度閾値Bth以上か判断する。画像の平均輝度が路面輝度閾値Bth未満と判断された場合、ステップS15に進む。
ステップS15に進み、先ず、パターン光抽出部21は、カメラ12により取得された画像38をメモリから読み込み、図4(c)に示すように、画像38からパターン光32aの位置を抽出する。パターン光抽出部21は、パターン光32aの位置を示すデータとして算出されたスポット光Sの画像上の座標(U、V)をメモリに記憶する。
一方、ステップS12において、画像の平均輝度が路面輝度閾値Bth以上と判断された場合、ステップS13に進む。ステップS13において、パターン光抽出部21は、カメラ12により取得された画像の平均輝度から、パターン光抽出に必要な画像数(フレーム数)を設定する。
ステップS14において、パターン光抽出部21は、カメラ12により取得された画像38をメモリから読み込み、設定した画像数の前後フレームの画像を重ね合わせる(輝度値を合算する)ことにより、重畳画像を生成する。更に、パターン光抽出部21は、生成した重畳画像からパターン光32aの位置を抽出する。パターン光抽出部21は、パターン光32aの位置を示すデータとして算出されたスポット光Sの画像上の座標(U、V)をメモリに記憶する。
ステップS16において、姿勢角算出部22は、ステップS14又はステップS15で抽出されたパターン光32aの位置を示すデータをメモリから読み込み、パターン光32aの位置から、距離及び姿勢角を算出し、メモリに記憶する。
ステップS17に進み、ECU13は、画像38から特徴点を検出し、前後の情報処理サイクルの間で対応関係が取れる特徴点を抽出し、特徴点の画像上の位置(U、V)から、距離及び姿勢角の変化量、及び車両の移動量を算出する。
具体的に、先ず、特徴点検出部23は、カメラ12により取得された画像38をメモリから読み込み、画像38から路面31上の特徴点を検出し、各特徴点の画像上の位置(U、V)をメモリに記憶する。姿勢変化量算出部24は、各特徴点の画像上の位置(U、V)をメモリから読み込み、距離及び姿勢角と、特徴点の画像上の位置(U、V)とから、カメラ12に対する特徴点の相対位置(X,Y,Z)を算出する。なお、姿勢変化量算出部24は、前の情報処理サイクルのステップS16において設定された距離及び姿勢角を用いる。姿勢変化量算出部24は、カメラ12に対する特徴点の相対位置(X,Y,Z)を、メモリに記憶する。
そして、姿勢変化量算出部24は、特徴点の画像上の位置(U、V)と、前の情報処理サイクルのステップS17において算出された特徴点の相対位置(X,Y,Z)をメモリから読み込む。姿勢変化量算出部24は、前後の情報処理サイクルの間で対応関係が取れる特徴点の相対位置(X,Y,Z)及び画像上の位置(U、V)を用いて、距離及び姿勢角の変化量を算出する。更に、前回の情報処理サイクルにおける特徴点の相対位置(X,Y,Z)と今回の情報処理サイクルにおける特徴点の相対位置(X,Y,Z)とから、車両の移動量を算出する。ステップS17で算出された「距離及び姿勢角の変化量」及び「車両の移動量」は、ステップS19の処理で用いられる。
ステップS18に進み、ECU13は、特徴点の検出状態、及びパターン光による距離及び姿勢角の算出状態に応じて、積分演算の起点を設定する。詳細は、図11を参照して、後述する。
ステップS19に進み、自己位置算出部26は、ステップS18の処理で設定された積分演算の起点、及びステップS17の処理で算出された車両の移動量から、車両の現在位置を算出する。
こうして、本実施形態に係る自己位置算出装置は、上記した一連の情報処理サイクルを繰り返し実行して車両10の移動量を積算することにより、車両10の現在位置を算出することができる。
図11のフローチャートを参照して、図10のステップS18の詳細な手順を説明する。ステップS100において、ECU13は、今回の情報処理サイクルが初回であるか否かを判断する。そして、初回である場合、即ち、前回の情報処理サイクルのデータが無い場合にはステップS104へ進み、初回でない場合にはステップS101に進む。
ステップS101において、検出状態判断部28は、特徴点検出部23による特徴点Tの検出状態が第1基準を満たさず、悪い状態か否かを判断する。悪いと判断した場合(ステップS101でYES)、ステップS102へ進み、悪くなっていないと判断した場合(ステップS101でNO)、ステップS106へ進む。ステップS106で、ECU13は、現在の設定されている積分演算の起点を維持する。
ステップS102において、ECU13は、重畳画像を生成できたか判断する。重畳画像を生成できない場合としては、例えば、将来的に取得される画像も含めるために所定の枚数の画像を取得するための時間がかかり、重畳画像を生成中である場合や、又は原理的に重畳画像を生成することが不可能又は困難である場合が挙げられる。重畳画像を生成できないと判断された場合(ステップS102でNO)、ステップS103へ進み、重畳画像を生成できたと判断した場合(ステップS102でYES)、ステップS104へ進む。
ステップS103で、算出状態判断部29は、姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態か否かを判断する。たとえば、距離及び姿勢角の算出に成功しているか否かを判断する。成功していると判断した場合(ステップS103でYES)、ステップS104へ進み、成功していないと判断した場合(ステップS103でNO)、ステップS105へ進む。
ステップS104で、ECU13は、車両の現在位置を起点として設定し、更に、同じ情報処理サイクルのステップS16で算出された距離及び姿勢角を積分演算の起点として設定する。この距離及び姿勢角を起点として新たな積分演算が開始される。また、車両の現在位置を起点として新たに車両の移動量の積分演算を開始する。
ステップS105で、ECU13は、車両の現在位置を起点として設定し、更に、前回の情報処理サイクルで採用した距離及び姿勢角を積分演算の起点として設定する。この距離及び姿勢角を起点として新たな積分演算が開始される。また、車両の現在位置を起点として新たに車両の移動量の積分演算を開始する。その後、図10のステップS19に進む。
[第1の実施形態の効果]
以上説明したように、第1の実施形態によれば、輝度判断部25がパターン光の検出状態を判断し、パターン光の検出状態が閾値以上の場合、パターン光抽出部21が前後フレーム間の画像を重ね合わせて重畳画像を生成し、重畳画像からパターン光を抽出することにより、外部環境が明るい場合であっても路面に投光したパターン光を精度よく検出することができ、車両の自己位置を精度よく算出することができる。
また、カメラ12により取得された画像の平均輝度等のパターン光検出状態に応じて、パターン光抽出部21が重畳画像を生成するために必要な画像数を設定することにより、外部環境の明るさに応じて検出するパターン光の輝度値を調整することができ、パターン光を精度よく検出することができる。
また、図11のステップS102のように重畳画像の生成中は、前回の情報処理サイクルで採用された距離及び姿勢角、又は所定の初期距離及び初期姿勢角を起点として用いることにより、自己位置を算出するときの誤差を抑制することができる。
なお、図11のステップS105で、ECU13は、前回の情報処理サイクルで採用した距離及び姿勢角の代わりに、所定の初期距離及び初期姿勢角を積分演算の起点として設定してもよい。詳細には、特徴点の検出状態が第1基準を満たさず、悪い状態と検出状態判断部28が判断し、且つ姿勢角算出部22による距離及び姿勢角の算出状態が第2基準を満たさず、悪い状態と算出状態判断部29が判断した場合、自己位置算出部26は、積分演算の起点として、少なくとも車両10への乗員及び搭載物を考慮した所定の初期距離及び初期姿勢角を設定してもよい。例えば、自己位置算出装置を起動した直後の情報処理サイクルのステップS16で算出した距離及び姿勢角を用いることができる。これにより、車両10の旋回や加減速によるロール運動或いはピッチ運動が発生していない時の距離や姿勢角を起点として、距離及び姿勢角の更新及び移動量の算出を行うことができる。
(第2の実施形態)
[ハードウェア構成]
本発明の第2の実施形態として、車両周囲の路面状態の変化に基づいて自己位置を算出する場合を説明する。本発明の第2の実施形態に係る自己位置算出装置は、図12に示すように、検出状態判断部28及び算出状態判断部29の代わりに、路面状態判定部30を備える点が、第1の実施形態と異なる。他の構成は、第1の実施形態と同様であるので説明を省略する。
路面状態判定部30は、車両周囲の路面状態の変化を検出して路面状態が閾値以上変化しているか否かを判定する。そして、路面状態が閾値以上変化していると判定した場合には、自己位置算出部26は、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に固定する。これにより、姿勢角算出部22は路面に対する車両10の距離及び姿勢角の算出を停止する。また、自己位置算出部26は、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に姿勢変化量を加算して、現在の車両の現在位置、路面に対する距離及び姿勢角を算出する。
ここで、路面状態の変化を判定する方法について説明する。本実施形態では、パターン光32aのスポット光が路面に35(5×7)個投影されている。そこで、例えば、35個のスポット光のうちカメラ12の画像上において80%以下、すなわち28個以下しか検出できない場合には、路面状態判定部30は、路面の段差や凹凸が激しくなり、路面状態が閾値以上変化していると判定する。
このとき、路面状態の変化を路面の高さの変化量から推定してもよい。路面の高さの変化量は、車両の各車輪のサスペンションに取り付けられているストロークセンサの検出値の振動から検出することができる。例えば、ストロークセンサの検出値の振動が1Hz以上となった場合に、路面状態判定部30は、路面の段差や凹凸が激しくなったと推定し、路面状態が閾値以上変化したと判定する。また、鉛直方向の加速度を計測する加速度センサの検出値を積分して鉛直方向の速度を算出し、その速度の向きの変化が1Hz以上となった場合に、路面状態判定部30は、路面の段差や凹凸が激しくなり、路面状態が閾値以上変化していると判定してもよい。
さらに、路面の高さの変化量は、カメラ12で撮像した画像におけるパターン光32aの位置から推定してもよい。本実施形態では、図13に示すようなパターン光32aが路面31に投影されている。そこで、パターン光32aのスポット光をX方向に結んだ線分71と、Y方向に結んだ線分73を引く。そして、これらの線分の傾きが点75に示すように途中で15deg以上変化している場合に、路面状態判定部30は、路面の段差や凹凸が激しくなったと推定し、路面状態が閾値以上変化していると判定する。また、図13に示すように、隣り合うスポット光の間隔d1、d2の差が50%以上変化した場合に、路面状態判定部30は、路面状態が閾値以上変化していると判定してもよい。
このようにして路面状態が閾値以上変化していると判定すると、自己位置算出部26は前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に固定する。したがって、姿勢角算出部22は路面に対する車両10の距離及び姿勢角の算出を停止し、自己位置算出部26は、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に姿勢変化量を加算して、現在の車両10の現在位置、路面に対する距離及び姿勢角を算出する。
例えば、図14(e)に示すように、路面状態判定部30は、検出されたスポット光の数をモニターしており、閾値を35個のスポット光の80%にあたる28個に設定している。この場合に、路面状態判定部30は、スポット光を28個より多く検出できている間は姿勢角算出フラグを「1」に設定する。これにより、姿勢角算出部22は路面に対する車両10の距離及び姿勢角の算出を行い、自己位置算出部26は姿勢角算出部22で算出された車両の距離及び姿勢角を用いて現在の距離及び姿勢角を算出し、前回の情報処理サイクルで算出された車両10の現在位置に、車両の移動量を加算することで(積分演算を継続して)、現在の車両の自己位置を算出する。
しかし、時刻t21において、スポット光の検出個数が閾値を下回ると、自己位置算出部26は姿勢角算出フラグを「0」に切り替える。これにより、車両10の現在位置、路面に対する距離及び姿勢角は前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に固定され、姿勢角算出部22は車両10の距離及び姿勢角の算出を停止する。したがって、自己位置算出部26は、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に姿勢変化量を加算して、現在の車両の現在位置、路面に対する距離及び姿勢角を算出する。
この後、時刻t22においてスポット光の検出個数が再び閾値を上回ると、姿勢角算出フラグが「1」に設定され、姿勢角算出部22は車両10の距離及び姿勢角の算出を再開する。そして、自己位置算出部26は、姿勢角算出部22で算出された車両10の距離及び姿勢角を用いて車両10の現在の距離及び姿勢角を算出する。このように本実施形態に係る自己位置算出装置は、路面状態が大きく変化した場合には前回の情報処理サイクルで算出した車両10の現在位置、路面に対する距離及び姿勢角を用いるので、路面状態が大きく変化しても車両10の自己位置を精度よく、且つ安定して算出することができる。
パターン光抽出部21は、第1の実施形態と同様に、パターン光の検出状態が所定の閾値以上の場合、所定の枚数の画像を重ね合わせて重畳画像を生成する。パターン光抽出部21は、生成した重畳画像からパターン光を抽出する。
また、路面変化が大きいために重畳画像が生成できない場合には、前回値又は初期値を起点に用いる。例えば、設定された重畳画像の枚数を撮像する間に、路面状態判定部30が、車両周囲の路面状態が閾値以上変化しているか否かを判定する。変化していると判定された画像数が5%を超えた場合には、路面変化が小さいという仮定が成り立たなくなると判断し、前回値又は初期値を起点に用いる。
図14(a)〜図14(e)は、第2の実施形態に係る自己位置算出装置の、リセットフラグ、重畳する画像数、路面状態の良否、及び路面の段差や凹凸の大きさの変化を示す。図14(b)に示すように、所定の周期でリセットするか判断される。ここでは、所定の周期を10フレームとしているが、例えば所定の周期を10秒に設定してもよい。
時刻t21〜t22、時刻t24〜t25においては、図14(e)に示すように、路面の段差や凹凸が閾値以下となり、図14(d)に示すように路面状態が悪いと判断される。よって、図14(b)に示すように所定の周期のリセットするタイミングであっても、図14(a)に示すようにリセットフラグは「0」のままであり、重畳画像も生成されない。
一方、時刻t23においては、図14(b)に示すように所定の周期のリセットタイミングであり、図14(d)に示すように路面状態が良いと判断されているので、図14(a)に示すようにリセットフラグは「1」に設定される。図14(c)に示すように、パターン光抽出部21は、カメラ12の画像の平均輝度値から、重畳する画像数を3枚と設定する。更に、パターン光抽出部21は、時刻t23においてカメラ12により取得される1枚の画像と、前回フレーム及び前々回フレームにおいてカメラ12により取得される2枚の画像とを重ね合わせて重畳画像を生成する。そして、パターン光抽出部21は、生成した重畳画像からパターン光を抽出する。
[情報処理サイクル]
次に、図15及び図16を用いて、本発明の第2の実施形態に係る自己位置算出方法を説明する。図15に示すステップS20〜S27、S29の手順は、図10に示すステップS10〜S17、S19の手順と同様であるので、説明を省略する。
ステップS28において、ECU13は、車両周囲の路面状態の変化に応じて、自己位置を算出するための積分演算の起点を設定する。図15のステップS28の詳細な手順を図16のフローチャートを参照して、説明する。
図16に示すように、ステップS201において、路面状態判定部30は、所定の周期が経過したか否かを判定する。所定の周期は、例えば、パターン光抽出部21による重畳画像の生成に必要な数の画像を十分取得できる間隔に設定すればよい。図14で説明したように、路面状態判定部30は、周期カウントパルスが発生しているか否かを監視し、発生している場合には所定の周期が経過したと判定してステップS202に進む。一方、周期カウントパルスが発生していない場合には、所定の周期が経過していないと判定してステップS205に進む。
ステップS202において、路面状態判定部30は、車両周囲の路面状態の変化を検出する。具体的に、路面状態判定部30は、パターン光32aのスポット光の数を検出したり、各車輪に取り付けられているストロークセンサの検出値の振動を検出したりする。また、路面状態判定部30は、車両の鉛直方向の加速度を計測できる加速度センサの検出値を積分して鉛直方向の速度を算出したり、パターン光32aの位置を検出したりしてもよい。
次に、ステップS203において、路面状態判定部30は、車両周囲の路面状態が閾値以上変化しているか否かを判定する。例えば、パターン光32aのスポット光の数を検出する場合には、35個のスポット光のうちカメラの画像上において28個以下しか検出できない場合に、路面状態判定部30は、路面の段差や凹凸が激しくなり、路面状態が閾値以上変化していると判定する。
また、ストロークセンサを用いる場合には、検出値の振動が1Hz以上となった場合に、路面状態判定部30は路面状態が閾値以上変化していると判定する。さらに、加速度センサを用いる場合には、加速度センサの検出値を積分して鉛直方向の速度を算出し、その速度の向きの変化が1Hz以上となった場合に、路面状態判定部30は路面状態が閾値以上変化していると判定する。
また、パターン光32aの位置を用いる場合には、スポット光を結んだ線分の傾きが途中で15deg以上変化している場合に、路面状態判定部30は路面状態が閾値以上変化していると判定する。或いは、隣り合うスポット光の間隔の差が50%以上変化している場合に、路面状態判定部30は路面状態が閾値以上変化していると判定してもよい。
このようにして、車両周囲の路面状態が閾値以上変化しているか否かの判定が行われ、路面状態判定部30が閾値以上変化していると判定した場合(ステップS203でYES)にはステップS204に進む。一方、路面状態判定部30が閾値以上変化していないと判定した場合(ステップS203でNO)にはステップS205に進む。
ステップS204では、自己位置算出部26が、車両10の現在位置、路面に対する距離及び姿勢角を前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に固定する。すなわち、自己位置算出部26は、積分演算の起点として、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角を設定する。
これにより、姿勢角算出部22は路面に対する車両10の距離及び姿勢角の算出を停止し、自己位置算出部26は、前回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に姿勢変化量を加算して、現在の車両10の現在位置、路面に対する距離及び姿勢角を算出する。
一方、ステップS205では、自己位置算出部26が、今回の情報処理サイクルのステップS15で算出された車両10の現在位置、路面に対する距離及び姿勢角を積分演算の起点として設定する。これにより、自己位置算出部26は、今回の情報処理サイクルで算出された車両10の現在位置、路面に対する距離及び姿勢角に姿勢変化量を加算して車両10の現在位置、路面に対する距離及び姿勢角を算出する。
このようにして、現在の車両10の現在位置、路面に対する距離及び姿勢角を算出するための積分演算の起点が設定されると、ステップS28の処理は終了して図15のステップS29に進む。
[第2の実施形態の効果]
以上説明したように、第2の実施形態によれば、輝度判断部25がパターン光の検出状態を判断し、パターン光の検出状態が閾値以上の場合、パターン光抽出部21がフレーム間の画像を重ね合わせて重畳画像を生成することにより、外部環境が明るい場合であっても路面に投光したパターン光を精度よく検出することができ、車両の自己位置を精度よく算出することができる。
また、カメラ12により取得された画像の平均輝度等のパターン検出状態に応じて、パターン光抽出部21が重畳画像を生成するために必要な画像数を設定することにより、外部環境の明るさに応じて検出するパターン光の輝度値を調整することができ、パターン光を精度よく検出することができる。
(第3の実施形態)
[ハードウェア構成]
本発明の第3の実施形態として、同期検波により得られた画像を、所定周期分重ね合わせて重畳画像を生成する場合を説明する。本発明の第3の実施形態に係る自己位置算出装置は、図17に示すように、検出状態判断部28及び算出状態判断部29がない点が、第1の実施形態と異なる。他の構成は、第1の実施形態と同様であるので説明を省略する。
パターン光制御部27は、周期的に輝度が変化するパターン光32aの投光を開始する。その後、パターン光制御部27は、自己位置算出装置が停止するまで、パターン光32aを連続して投光する。或いは、必要に応じてパターン光32aを投光してもよい。本実施形態では、輝度変化の一例として、投光パターンの輝度が所定周波数の正弦波状に変化するように、投光器11に供給する電力を制御する。
パターン光抽出部21は、カメラ12により取得された画像をメモリから読み込み、更に、前述した所定周波数にて同期検波処理を実施することにより、画像に含まれるパターン光32aを抽出する。
次に、同期検波処理について説明する。カメラ12で撮像した画像に含まれる測定信号をsin(ω0+α)とすると、この測定信号には投光パターン以外に様々な周波数成分の太陽光や人工光が含まれている。そこで、周波数が変調周波数ωrとなる参照信号sin(ωr+β)を測定信号sin(ω0+α)に乗じると、その結果は、cos(ω0−ωr+α−β)/2−cos(ω0+ωr+α+β)/2となる。
この測定信号をローパスフィルタに通すと、ω0≠ωrの信号、即ち、周波数がωrではない投光パターン以外の太陽光や人工光は除去される。その一方で、ω0=ωrの信号、即ち、周波数がωrの投光パターンは、cos(α−β)/2となって抽出することができる。このように、同期検波処理を用いることにより、様々な周波数成分を含む測定信号の中から、投光パターンのみを抽出した画像を得ることができる。
即ち、本実施形態では、パターン光制御部27は、予め設定した所定の変調周波数ωrにてパターン光32aを輝度変調する。従って、路面には周波数ωrで輝度変調された投光パターンが投光される。そして、姿勢角算出部22は、カメラ12で撮像される画像(測定信号)に変調周波数ωrを乗じることにより、投光パターンのみを抽出することができる。
図18(a)は、投光器11より投光されるパターン光32aの輝度変化を示す特性図、図18(b)は、特徴点検出フラグの変化を示す特性図である。例えば、図18(a)に示すように正弦波状に輝度が変化するように制御する。
ここで、パターン光32aの輝度の設定について説明する。本実施形態では、最も日照量が多い夏至(6月)に近い晴天下においてもパターン光32aを検出できるように、該パターン光32aの最大輝度(図18(a)に示す輝度B1の上のピーク)を設定する。また、パターン光の影響が最も大きい夜間において、投光パターンを路面の特徴点と99%以上の確率で誤検出しないように、パターン光の最小輝度(図18(a)に示す輝度B1の下のピーク)を設定する。
パターン光の輝度変調の周波数は、例えば、200[Hz]とし、カメラ12のフレームレート(1秒間の撮影数)を2400[fps]とする。これは、本実施形態で、車両の最高速度72Km/h(≒20m/s)を想定した場合において、1周期での移動量を0.1m以下に抑えるためである。これは本実施形態の原理上、パターン光32aが投光される領域と、特徴点が検出される領域が可能な限り近い、或いは同一であることが望ましいためである。また、同期検波の原理から、1周期の間での移動量が大きくなり、路面状態が変化してしまうと、投光パターン以外の太陽光や人工光が変化し、同期検波の前提が崩れる可能性があり、1周期での移動量を小さく抑えることにより、これを回避する。従って、より高速なカメラを用い、この一定周期を更に短くすると更なる性能向上が期待できる。
特徴点検出部23は、投光器11より投光されるパターン光32aの輝度が予め設定した閾値輝度Bth以下であるか否かを判断する。閾値輝度Bthより大きい場合には、パターン光抽出部21が、上述した同期検波処理によりパターン光32aを抽出する。例えば、図19(a),(c)に示すように、図18(b)に示す時刻t1或いは時刻t3(輝度B1が閾値輝度Bthよりも大きい時刻)に撮影した画像から、同期検波処理によりパターン光32aを抽出する。
一方、閾値輝度Bth以下である場合には、特徴点検出部23は、路面31に存在する特徴点を検出する。具体的には、パターン光32aの輝度B1が、図18(a)に示すように正弦波状に変化する場合には、輝度B1が閾値輝度Bth以下となる時間帯に特徴点を検出する。即ち、図18(b)に示すように、輝度B1が閾値輝度Bth以下となる時間帯に特徴点検出フラグを「1」とし、この時間帯に特徴点を検出する。例えば、図19(b)に示すように、図18(b)に示す時刻t2(輝度B1が閾値輝度Bth以下の時刻)に撮影した画像から特徴点を検出する。更に、姿勢変化量算出部24は、特徴点検出部23で検出された特徴点の画像上の位置に基づき、カメラ12に対する特徴点の変化量を算出する。この際、特徴点を検出する領域は、パターン光32aを投光する領域と全部または一部が重なっている領域としている。
本実施形態では、パターン光抽出部21は、輝度判断部25によりパターン検出状態が所定の閾値以上と判断された場合、カメラ12で撮像された画像を所定の変調周波数で同期検波した同期画像を所定周期分、重ね合わせて(輝度値を合算して)、重畳画像を生成する。投光パターンのみを抽出した画像は、参照信号1周期中に撮像された画像から求められる。2周期以上行う場合には、それぞれの周期で抽出した画像の各画素について輝度値を合算して重ね合わせる。なお、重ね合わせた画像からスポット光を抽出する場合、各画素の輝度値を重ね合わせた画像の枚数で除して正規化してから、二値化処理によって抽出してもよい。
次に、重畳する所定周期の設定方法の一例を説明する。まず、カメラ12により取得された画像の輝度平均値の1の位を四捨五入した時の比Rapを参照し、以下の式(7)で求められたFnの小数点第一位を切り上げた周期を所定の周期の数とする。即ち、アスファルト路面の輝度平均がパターン光の輝度平均の50%未満ならば1周期、75%ならば2周期、90%以上ならば5周期とする。

Fn=max{(0.5÷(1−Rap)),10} ・・・(7)
なお、実際に輝度平均値Baを0から10刻みに大きくして各Rapを求める実験において、実際に同期検波による抽出を行い、パターン光の各スポット光の抽出の成功率が95%以上となる周期と設定してもよい。
ここで、車速が高すぎて重畳画像が生成できない場合には、前回値又は初期値を起点に用いる。例えば、アスファルト路面の輝度平均がパターン光の輝度平均の75%の場合、同期検波の周期は2周期必要である。また、同期検波の1周期あたりの画像数を4枚とすると、以下の式(8)の通り、90km/h以上では、前回値又は初期値を起点に用いる。

0.2[m]÷{(4[枚]×2[周期])÷1000[fps]}
=25[m/s]
=90[km/h] ・・・(8)
また、路面変化が大きく、重畳画像が生成できない場合、前回値又は初期値を起点に用いる。設定された同期検波の周期中に、車両周囲の路面状態が閾値以上変化しているか否かを判定し、変化しているという状態になった画像数が5%を超えた場合には、路面変化が小さいという仮定が成り立たなくなると判断し、前回値又は初期値を起点に用いる。同期検波を用いる場合、ストロークセンサを用いて判定する手法を用いることができる。
図20(a)〜図20(d)は、第3の実施形態に係る自己位置算出装置の、リセットフラグ、各周期が終わるタイミング、重畳する周期数、及び投光電力の変化を示す。時刻t31,t32,t33は、図20(b)に示すように参照信号の投光が1周期終わったタイミングであり、図20(d)に示すように周期的な投光電力が小さくなり、図20(a)に示すようにリセットフラグが「1」に設定される。
時刻t31,t33においては、図20(c)に示すように重畳する周期数が1周期と設定される。パターン光抽出部21は、時刻t31,t33以前の1周期の画像を重ね合わせて重畳画像を生成する。
一方、時刻t32において、図20(c)に示すように重畳する周期数が2周期と設定される。パターン光抽出部21が、時刻t32以前の2周期T1,T2分の画像を重ね合わせて重畳画像を生成する。
[情報処理サイクル]
次に、カメラ12により取得された画像38(図5参照)から車両10の移動量を推定する自己位置算出方法の一例として、ECU13により繰り返し実行される情報処理サイクルを、図21に示すフローチャートを参照して説明する。
図21に示す情報処理サイクルは、車両10のイグニションスイッチがオン状態となり、自己位置算出装置100が起動すると同時に開始され、該自己位置算出装置100が停止するまで、繰り返し実行される。
初めに、図21のステップS31において、パターン光制御部27は、投光器11を制御して、車両周囲の路面31にパターン光を投光する。この際、パターン光制御部27は、図18(a)に示すように、パターン光の輝度B1が所定周期の正弦波状に変化するように投光電力を制御する。例えば、正弦波の周波数を200[Hz]とする。その結果、時間経過に伴い輝度B1が正弦波状に変化するパターン光が路面31に投光される。
ステップS32において、カメラ12は、パターン光が投光されている領域を含む路面31を撮像して画像を取得する。
ステップS33において、ECU13が、同期検波の参照信号の投光が1周期完了したか判断する。同期検波の参照信号の投光が1周期完了したと判断された場合にステップS35に進み、完了していないと判断された場合にステップS34に進む。
ステップS34において、特徴点検出部23は、画像38から特徴点(例えば、アスファルト上に存在する凹凸部位)を検出し、前回の情報処理サイクルと今回の情報処理サイクルの間で対応関係が取れる特徴点を抽出し、特徴点の画像上の位置(Ui、Vi)から距離及び姿勢角を更新する。
具体的には、特徴点検出部23は、特徴点検出フラグが「1」のとき、カメラ12により取得された画像38をメモリから読み込み、画像38から路面31上の特徴点を検出し、各特徴点の画像上の位置(Ui、Vi)をメモリに記憶する。姿勢変化量算出部24は、各特徴点の画像上の位置(Ui、Vi)をメモリから読み込み、距離及び姿勢角と、特徴点の画像上の位置(Ui、Vi)とから、カメラ12に対する特徴点の相対位置(Xi,Yi,Zi)を算出する。姿勢変化量算出部24は、カメラ12に対する特徴点の相対位置(Xi,Yi,Zi)をメモリに記憶する。
そして、姿勢変化量算出部24は、特徴点の画像上の位置(Ui、Vi)と、前回の情報処理サイクルのステップS31において算出された特徴点の相対位置(Xi,Yi,Zi)をメモリから読み込む。姿勢変化量算出部24は、前回の情報処理サイクルと今回の情報処理サイクルの間で対応関係が取れる特徴点の相対位置(Xi,Yi,Zi)及び画像上の位置(Ui、Vi)を用いて、距離及び姿勢角の変化量を算出する。姿勢変化量算出部24は、前回の情報処理サイクルで求められた距離及び姿勢角に、上記した距離及び姿勢角の変化量を加算することにより、距離及び姿勢角を更新する。そして、更新後の距離及び姿勢角をメモリに記憶する。つまり、前回のサイクルのステップS34又はステップS37(後述)の処理で設定された距離及び姿勢角に対して、今回の情報処理サイクル毎の距離及び姿勢角の変化量を積分演算することにより、距離及び姿勢角を更新する処理を実行する。その後、ステップS38に進む。
一方、ステップS35において、パターン光抽出部21は、カメラ12により取得された画像の輝度平均から、パターン光抽出に必要な同期検波の周波数を設定する。
ステップS36において、パターン光抽出部21は、同期検波により現在の参照信号の周期で取得した画像群からパターン光を抽出する。
ステップS37において、パターン光抽出部21は、過去の周期で同期検波を用いて抽出したパターン光の画像を、ステップS35において設定した周期数だけ遡って重ね合わせて重畳画像を生成する。パターン光抽出部21は更に、生成した重畳画像からパターン光の位置を抽出する。姿勢角算出部22は、このパターン光の位置に基づいて距離及び姿勢角を算出する。
ステップS38において、ECU13は、積分演算の起点を選択する。この処理では、最初の情報処理サイクルにおいては、パターン光より算出される距離及び姿勢角を選択して設定する。更に、予め設定した条件が成立した場合、例えば、特徴点検出部23における特徴点の検出状態が低下し、特徴点をフラグが「1」となるタイミングで複数の特徴点を検出できなくなった場合には、移動量算出の起点をパターン光により算出する距離及び姿勢角、即ちステップS37の処理で算出された距離及び姿勢角にリセットする。他方、特徴点検出部23にて特徴点が正常に検出されている場合には、該特徴点の位置に基づいて距離及び姿勢角を更新する。
つまり、特徴点検出部23により特徴点が正常に検出されない場合には、カメラ12の距離及び姿勢角を高精度に設定することができず、この精度の低い距離及び姿勢角を採用して車両の移動量を算出すると、車両の移動量を高精度に検出できなくなる。従って、このような場合には、移動量算出の起点をパターン光の位置から求められる距離及び姿勢角にリセットする。こうすることで、距離及び姿勢角に大幅な誤差が生じることを防止する。
次いで、ステップS39において、自己位置算出部26は、ステップS34或いはS37の処理で求められた距離及び姿勢角と、積分演算の起点、及び、特徴点の画像上の位置(Ui、Vi)の変化量とから、路面31に対するカメラ12の移動量(ΔL)、即ち車両10の移動量を算出する。
こうして、第3の実施形態に係る自己位置算出装置では、上記した一連の情報処理サイクルを繰り返し実行して車両10の移動量を積算することにより、車両10の位置を算出することができる。
[第3の実施形態の効果]
以上説明したように、第3の実施形態によれば、輝度判断部25がパターン光の検出状態を判断し、パターン光の検出状態が閾値以上の場合、パターン光抽出部21がフレーム間の画像を所定の周期分、重ね合わせて重畳画像を生成することにより、外部環境が明るい場合であっても路面に投光したパターン光を精度よく検出することができ、車両の自己位置を精度よく算出することができる。
また、カメラ12により取得された画像の平均輝度等のパターン検出状態に応じて、パターン光抽出部21が重畳画像を生成するために必要な周期数を設定することにより、外部環境の明るさに応じて検出するパターン光の輝度値を調整することができ、パターン光を精度よく検出することができる。
(その他の実施の形態)
上記のように、本発明の第1〜第3の実施形態を記載したが、この開示の一部をなす論述及び図面はこの発明を限定するものであると理解すべきではない。この開示から当業者には様々な代替実施の形態、実施例及び運用技術が明らかとなろう。
本発明の第1〜第3の実施の形態では、主に、過去から現在においてカメラ12により取得された画像を重ね合わせて重畳画像を生成する場合を説明したが、カメラ12により将来的に取得される画像を一枚以上含めて重ね合わせて重畳画像を生成してもよい。将来的に取得される画像を含める場合としては、例えば、パターン光が常時点灯せずに間欠的に点灯している場合等が想定される。この場合、パターン光抽出部21は、パターン光抽出に必要な枚数が取得された時点で、重畳画像を生成する。パターン光抽出に必要な枚数が取得されるまでの間(重畳画像生成中)は、自己位置算出部は、前回値又は初期値を起点として、積分演算を開始してもよい。
また、図2では、カメラ12と投光器11を車両10の前面に取り付けた例を示したが、車両10の側方,後方,真下に向けて設置してもよい。また、本実施形態では車両10の一例として、四輪の乗用自動車を図2に示したが、オートバイ、貨物自動車、或いは例えば建設機械を運搬する特殊車両など、道路の路面或いは壁面上の特徴点を撮像することが可能な移動体(車両)すべてに適用可能である。
13 ECU
10 車両
11 投光器
12 カメラ(撮像部)
21 パターン光抽出部(重畳画像生成部)
22 姿勢角算出部
23 特徴点検出部
24 姿勢変化量算出部
25 輝度判断部(パターン光検出状態判断部)
26 自己位置算出部
28 検出状態判断部
29 算出状態判断部
30 路面状態判定部
31 路面
32a、32b パターン
Te 特徴点

Claims (5)

  1. 車両周囲の路面にパターン光を投光する投光器と、
    前記車両に搭載され、前記パターン光が投光された領域を含む車両周囲の路面を撮像して画像を取得する撮像部と、
    前記撮像部で取得した画像から、前記パターン光の位置を抽出するパターン光抽出部と、
    前記抽出されたパターン光の位置から、前記路面に対する車両の姿勢角を算出する姿勢角算出部と、
    前記撮像部で取得した画像における前記路面上の複数の特徴点の時間変化に基づいて、前記車両の姿勢変化量を算出する姿勢変化量算出部と、
    前記車両の初期位置及び姿勢角に前記姿勢変化量を加算してゆくことによって前記車両の現在位置及び姿勢角を算出する自己位置算出部
    とを備え、
    前記パターン光抽出部が、前記パターン光の検出状態が閾値以上の場合、前記撮像部で取得されるフレーム間の画像を重ね合わせて重畳画像を生成し、前記重畳画像から前記パターン光の位置を抽出することを特徴とする自己位置算出装置。
  2. 前記パターン光抽出部が、前記撮像部で取得された画像の輝度値に応じて、前記重畳画像として重ね合わせる画像の数を設定することを特徴とする請求項1に記載の自己位置算出装置。
  3. 前記自己位置算出部は、前記パターン光抽出部による前記重畳画像の生成中は、前回の情報処理サイクルで採用した姿勢角又は初期姿勢角を起点として用いて、前記姿勢変化量の加算を開始することを特徴とする請求項1又は2に記載の自己位置算出装置。
  4. 前記パターン光を所定の変調周波数で輝度変調するパターン光制御部を更に備え、
    前記パターン光抽出部が、前記撮像部で取得される画像を前記所定の変調周波数で同期検波することにより得られる同期画像を所定周期分、重ね合わせることにより前記重畳画像を生成することを特徴とする請求項1〜3のいずれか1項に記載の自己位置算出装置。
  5. 投光器から車両周囲の路面にパターン光を投光するステップと、
    前記パターン光が投光された領域を含む車両周囲の路面を撮像部により撮像して画像を取得するステップと、
    前記撮像部で取得した画像から、前記パターン光の位置を抽出するステップと、
    前記抽出されたパターン光の位置から、前記路面に対する車両の姿勢角を算出するステップと、
    前記撮像部で取得した画像における前記路面上の複数の特徴点の時間変化に基づいて、前記車両の姿勢変化量を算出するステップと、
    前記車両の初期位置及び姿勢角に前記姿勢変化量を加算してゆくことによって前記車両の現在位置及び姿勢角を算出するステップ
    とを含み、
    前記パターン光の位置を抽出するステップは、前記パターン光の検出状態が閾値以上の場合、前記撮像部で取得されるフレーム間の画像を重ね合わせて重畳画像を生成し、前記重畳画像から前記パターン光の位置を抽出することを特徴とする自己位置算出方法。
JP2016539706A 2014-08-04 2014-08-04 自己位置算出装置及び自己位置算出方法 Active JP6269838B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2014/070480 WO2016020970A1 (ja) 2014-08-04 2014-08-04 自己位置算出装置及び自己位置算出方法

Publications (2)

Publication Number Publication Date
JPWO2016020970A1 JPWO2016020970A1 (ja) 2017-05-25
JP6269838B2 true JP6269838B2 (ja) 2018-01-31

Family

ID=55263277

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016539706A Active JP6269838B2 (ja) 2014-08-04 2014-08-04 自己位置算出装置及び自己位置算出方法

Country Status (8)

Country Link
US (1) US9933252B2 (ja)
EP (1) EP3179462B1 (ja)
JP (1) JP6269838B2 (ja)
CN (1) CN106663376B (ja)
BR (1) BR112017002129B1 (ja)
MX (1) MX357830B (ja)
RU (1) RU2636235C1 (ja)
WO (1) WO2016020970A1 (ja)

Families Citing this family (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN107076539B (zh) * 2014-09-24 2020-03-10 庞巴迪公司 激光视觉检查***和方法
CN108027257A (zh) * 2015-08-21 2018-05-11 阿德科尔公司 光学轮廓仪以及其使用方法
US11100673B2 (en) 2015-09-24 2021-08-24 Apple Inc. Systems and methods for localization using surface imaging
WO2017053415A1 (en) * 2015-09-24 2017-03-30 Quovard Management Llc Systems and methods for surface monitoring
EP3174007A1 (en) 2015-11-30 2017-05-31 Delphi Technologies, Inc. Method for calibrating the orientation of a camera mounted to a vehicle
EP3173979A1 (en) 2015-11-30 2017-05-31 Delphi Technologies, Inc. Method for identification of characteristic points of a calibration pattern within a set of candidate points in an image of the calibration pattern
JP6707378B2 (ja) * 2016-03-25 2020-06-10 本田技研工業株式会社 自己位置推定装置および自己位置推定方法
DE102016006390A1 (de) * 2016-05-24 2017-11-30 Audi Ag Beleuchtungseinrichtung für ein Kraftfahrzeug zur Erhöhung der Erkennbarkeit eines Hindernisses
JP6704307B2 (ja) * 2016-07-01 2020-06-03 株式会社日立製作所 移動量算出装置および移動量算出方法
JP6601352B2 (ja) * 2016-09-15 2019-11-06 株式会社デンソー 車両姿勢推定装置
JP6838340B2 (ja) * 2016-09-30 2021-03-03 アイシン精機株式会社 周辺監視装置
JP6840024B2 (ja) * 2017-04-26 2021-03-10 株式会社クボタ オフロード車両及び地面管理システム
JP6499226B2 (ja) * 2017-06-02 2019-04-10 株式会社Subaru 車載カメラのキャリブレーション装置及び車載カメラのキャリブレーション方法
FR3068458B1 (fr) * 2017-06-28 2019-08-09 Micro-Controle - Spectra Physics Procede et dispositif de generation d'un signal impulsionnel a des positions particulieres d'un element mobile.
JP6849569B2 (ja) * 2017-09-29 2021-03-24 トヨタ自動車株式会社 路面検出装置
JP6932058B2 (ja) * 2017-10-11 2021-09-08 日立Astemo株式会社 移動体の位置推定装置及び位置推定方法
JP7064163B2 (ja) * 2017-12-07 2022-05-10 コニカミノルタ株式会社 3次元情報取得システム
EP3534333A1 (en) 2018-02-28 2019-09-04 Aptiv Technologies Limited Method for calibrating the position and orientation of a camera relative to a calibration pattern
EP3534334B1 (en) 2018-02-28 2022-04-13 Aptiv Technologies Limited Method for identification of characteristic points of a calibration pattern within a set of candidate points derived from an image of the calibration pattern
CN108426556B (zh) * 2018-03-09 2019-05-24 安徽农业大学 一种基于加速度的测力车轮转动角度测试方法
JP7124424B2 (ja) * 2018-05-02 2022-08-24 オムロン株式会社 3次元形状計測システム及び計測時間設定方法
US10890918B2 (en) 2019-04-24 2021-01-12 Innovation First, Inc. Performance arena for robots with position location system
US11200654B2 (en) * 2019-08-14 2021-12-14 Cnh Industrial America Llc System and method for determining field characteristics based on a displayed light pattern
KR20220026423A (ko) * 2020-08-25 2022-03-04 삼성전자주식회사 지면에 수직인 평면들의 3차원 재구성을 위한 방법 및 장치
DE102020124785A1 (de) 2020-09-23 2022-03-24 Connaught Electronics Ltd. Verfahren zum Überwachen eines Fokus einer an einem Kraftfahrzeug angeordneten Kamera, Computerprogrammprodukt, computerlesbares Speichermedium sowie System
DE102022206404A1 (de) * 2021-07-19 2023-01-19 Robert Bosch Engineering And Business Solutions Private Limited Ein System, das dazu angepasst ist, einen Straßenzustand in einem Fahrzeug zu erkennen, und ein Verfahren dafür
DE102021214551A1 (de) * 2021-12-16 2023-06-22 Psa Automobiles Sa Verfahren und Vorrichtung zum Erkennen von Objekten auf einer Fahrbahnoberfläche
DE102022203951A1 (de) * 2022-04-25 2023-10-26 Psa Automobiles Sa Verfahren und Vorrichtung zum Projizieren von Objekten

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH06325298A (ja) 1993-05-13 1994-11-25 Yazaki Corp 車両周辺監視装置
US8066415B2 (en) * 1999-06-17 2011-11-29 Magna Mirrors Of America, Inc. Exterior mirror vision system for a vehicle
RU2247921C2 (ru) * 2002-06-26 2005-03-10 Анцыгин Александр Витальевич Способ ориентирования на местности и устройство для его осуществления
JP2004177252A (ja) * 2002-11-27 2004-06-24 Nippon Telegr & Teleph Corp <Ntt> 姿勢計測装置および方法
JP2004198211A (ja) * 2002-12-18 2004-07-15 Aisin Seiki Co Ltd 移動体周辺監視装置
US20060095172A1 (en) * 2004-10-28 2006-05-04 Abramovitch Daniel Y Optical navigation system for vehicles
US20090309710A1 (en) * 2005-04-28 2009-12-17 Aisin Seiki Kabushiki Kaisha Vehicle Vicinity Monitoring System
JP5151050B2 (ja) * 2006-03-23 2013-02-27 日産自動車株式会社 車両用環境認識装置及び車両用環境認識方法
JP4780614B2 (ja) 2006-04-10 2011-09-28 アルパイン株式会社 車体挙動測定装置
JP4914726B2 (ja) 2007-01-19 2012-04-11 クラリオン株式会社 現在位置算出装置、現在位置算出方法
JP5251419B2 (ja) 2008-10-22 2013-07-31 日産自動車株式会社 距離計測装置および距離計測方法
US8559675B2 (en) * 2009-04-23 2013-10-15 Panasonic Corporation Driving support device, driving support method, and program
JP5472538B2 (ja) * 2011-06-14 2014-04-16 日産自動車株式会社 距離計測装置及び環境地図生成装置
JP2013147114A (ja) * 2012-01-18 2013-08-01 Toyota Motor Corp 周辺環境取得装置およびサスペンション制御装置
JP5992184B2 (ja) 2012-03-09 2016-09-14 株式会社トプコン 画像データ処理装置、画像データ処理方法および画像データ処理用のプログラム
JP5817927B2 (ja) * 2012-05-18 2015-11-18 日産自動車株式会社 車両用表示装置、車両用表示方法及び車両用表示プログラム
AT514834B1 (de) * 2013-02-07 2017-11-15 Zkw Group Gmbh Scheinwerfer für ein Kraftfahrzeug und Verfahren zum Erzeugen einer Lichtverteilung
WO2014152470A2 (en) * 2013-03-15 2014-09-25 Tk Holdings, Inc. Path sensing using structured lighting
MX349023B (es) * 2014-02-24 2017-07-07 Nissan Motor Aparato de calculo de la posicion propia y metodo de calculo de la posicion propia.
EP2919057B1 (en) * 2014-03-12 2022-01-19 Harman Becker Automotive Systems GmbH Navigation display method and system
US20170094227A1 (en) * 2015-09-25 2017-03-30 Northrop Grumman Systems Corporation Three-dimensional spatial-awareness vision system
US9630619B1 (en) * 2015-11-04 2017-04-25 Zoox, Inc. Robotic vehicle active safety systems and methods

Also Published As

Publication number Publication date
WO2016020970A1 (ja) 2016-02-11
US20170261315A1 (en) 2017-09-14
MX2017001248A (es) 2017-05-01
US9933252B2 (en) 2018-04-03
RU2636235C1 (ru) 2017-11-21
CN106663376A (zh) 2017-05-10
BR112017002129B1 (pt) 2022-01-04
JPWO2016020970A1 (ja) 2017-05-25
EP3179462A4 (en) 2017-08-30
EP3179462A1 (en) 2017-06-14
MX357830B (es) 2018-07-26
BR112017002129A2 (pt) 2017-11-21
CN106663376B (zh) 2018-04-06
EP3179462B1 (en) 2018-10-31

Similar Documents

Publication Publication Date Title
JP6269838B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6237876B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6237874B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6237875B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6176387B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6187671B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6547362B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6398218B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6369897B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6299319B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6398217B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6492974B2 (ja) 自己位置算出装置及び自己位置算出方法
JP7304016B2 (ja) 画像処理システム
JP6459745B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6369898B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6398219B2 (ja) 自己位置算出装置及び自己位置算出方法
JP6459701B2 (ja) 自己位置算出装置及び自己位置算出方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170208

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20171205

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20171218

R151 Written notification of patent or utility model registration

Ref document number: 6269838

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151