JP5930806B2 - 検知装置、及び検知方法 - Google Patents

検知装置、及び検知方法 Download PDF

Info

Publication number
JP5930806B2
JP5930806B2 JP2012082037A JP2012082037A JP5930806B2 JP 5930806 B2 JP5930806 B2 JP 5930806B2 JP 2012082037 A JP2012082037 A JP 2012082037A JP 2012082037 A JP2012082037 A JP 2012082037A JP 5930806 B2 JP5930806 B2 JP 5930806B2
Authority
JP
Japan
Prior art keywords
feature points
vehicle
range
frame
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012082037A
Other languages
English (en)
Other versions
JP2013210942A (ja
Inventor
隆幸 小笹
隆幸 小笹
直士 垣田
直士 垣田
文孝 伏見
文孝 伏見
敦 三野
敦 三野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Ten Ltd
Original Assignee
Denso Ten Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Ten Ltd filed Critical Denso Ten Ltd
Priority to JP2012082037A priority Critical patent/JP5930806B2/ja
Publication of JP2013210942A publication Critical patent/JP2013210942A/ja
Application granted granted Critical
Publication of JP5930806B2 publication Critical patent/JP5930806B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本発明は、検知装置、及び検知方法の技術に関する。
車載カメラが撮影した車外画像を車両に搭載されたディスプレイへ表示する画像表示装置が開発されている。このような画像表示装置によれば、ユーザはディスプレイに表示された車外画像を参考にして車両を運転することができる。
例えば、特許文献1には、特定の場所を一定の時間中一定の時間間隔で連続して撮像した複数の画像のそれぞれから、移動物体の一部を示す特徴点を抽出し、一定の時間中移動物体が画像上を一定の速度で移動することを前提に、複数の画像のうちの第1画像における各特徴点に相当するものを他の画像における特徴点の中から選択し、同一の特徴点の群を時間方向連結群として記憶手段に記憶させ、時間方向連結群のペアーの空間方向の連結の強さを示す空間方向連結指標値を算出し、空間方向連結指標値に基づいて、同一移動物体に属する前記時間方向連結群を検出することにより、これらの時間方向連結群に対応する移動物体を検出する技術が開示されている。
また、例えば、特許文献2には、移動体に設置された撮像装置によって撮像された動画像の画像上の検出対象点の画面上での動きを表す検出対象速度ベクトルを求め、検出対象点の予測速度ベクトルを他の検出対象点の検出対象速度ベクトルを用いて算出し、検出対象速度ベクトルの水平成分が予測速度ベクトルの水平成分よりも第1の閾値以上大きい場合に、当該検出対象点が障害物上の点であると判定する技術が開示されている。
特開2005−250910号公報 特開2005−209019号公報
車載カメラが撮影した車外画像を車両に搭載されたディスプレイへ表示する画像表示装置が開発されている。このような技術の一例として、交差点進入時や出庫する際に、自車両に接近する車両や歩行者(以下、ターゲットともいう)を自動で検出し、運転者に通知するシステムがある。ここで、図1は、従来技術において、自車両に接近するターゲットを強調枠で囲んで通知する例を示す。図1に示す従来技術では、ターゲットのエッジを検出して各ターゲットの一部を構成する特徴点を抽出し、抽出した特徴点をグループ化し、運転者に注意を促すための強調枠を設定し、これを画面に表示して運転者に対して注意を促す。但し、図1に示すような従来技術では、抽出した特徴点をグループ化する際、隣接する異なるターゲットの特徴点が区別されず、複数のターゲットが存在しているにも関わらず複数のターゲットが一つの強調枠で囲まれてしまうことがあった。図1においても、本来ターゲットが3つ存在するものの、これらが一つの強調枠で囲まれている。複数のターゲットが一つの強調枠で囲まれると、強調枠内には、実際に接近するターゲットが存在しない無駄な領域も存在することになる。複数のターゲットを含む場合に強調枠が広い場合には、強調枠が広くなる為にこのような無駄な領域を含む強調枠を通知された運転者は、強調枠内の特にどこに注意をしたらよいか困惑し、運転操作に支障をきたすことも想定される。特に、交差点進入時や出庫する際など、車両が停止している状態、またはこれに近い状態では、ターゲットの位置や場所を正確に通知できることが好ましい。一方で、車
両が走行中においては、ターゲットの位置や場所は、停止時ほど正確に通知する必要が無い場合もある。
本発明では、車両の状況に応じてターゲットをグループ化する範囲を変更でき、運転者が短時間で正確な状況整理をでき、円滑な運転操作を可能とする技術を提供することを課題とする。
本発明では、上述した課題を解決するため、特徴点を抽出してグループ化する範囲を状況に応じて変更することとした。
より詳細には、本発明は、車載カメラが撮影した車外画像からターゲットを検知してディスプレイへ表示する検知装置であって、前記車外画像から前記ターゲットの一部を構成する特徴点を抽出し、当該特徴点をグループ化する際の範囲を定めた範囲既定値に基づいて前記抽出された特徴点をグループ化し、グループ化された特徴点に基づいて前記ターゲットの存在を運転者に通知するための強調枠を決定し、決定された強調枠を前記ディスプレイに表示させる情報処理部を備え、前記情報処理部は、車両の状況に応じて前記範囲既定値を変更し、当該車両の状況に応じて変更される前記範囲既定値に基づいて前記抽出された特徴点をグループ化し、変更された範囲既定値に基づいてグループ化された特徴点に基づいて前記強調枠を決定する。
特徴点は、ターゲットの一部を構成するもので、換言すると、ターゲットを表す境界線上に存在する点である。グループ化は、ターゲットの存在を運転者に通知するために決定する強調枠を決定するために行うもので、特定した「点」同士を所定の条件に従って関連付けるものである。
本発明に係る検知装置は、上記グループ化に一つの特徴を有しており、グループ化する際の範囲を定めた範囲既定値を車両の状況に応じて変更できることを特徴とする。車両の状況とは、運転に影響を与える要因を広く含むもので、この車両の状況には、車両の走行状態、車両の周囲の状況、車外画像の内容などが例示される。本発明に係る検知装置では、このような状況に応じて範囲既定値が変更できる。すなわち、車両の状況に応じてグループ化する範囲を狭くしたり、又は広くしたりすることができる。グループ化する範囲を狭くすると、相対的に広い場合に比べ、一つの特徴点に対して関連付けを行える特徴点の数が減少する。その結果、ターゲットが複数存在する場合でも、ターゲット同士を区別することが可能となる。したがって、グループ化する範囲を狭くする場合は、車両が停止している状況のように、ターゲットをより正確に把握したい状況に有用である。
一方で、グループ化する範囲を広くすると、相対的に狭い場合に比べ、一つの特徴点に対して関連付けを行える特徴点の数が増加する。そのため、ターゲットが複数存在する場合、ターゲット同士を区別することが困難になる。したがって、グループ化する範囲を広くする場合は、車両が走行中のように、停止時と比較すると、ターゲットを特定する範囲が広くてもよい状況に有用である。
本発明に係る検知装置によれば、車両の状況に応じてターゲットをグループ化する際の範囲を変更できる。また、これに応じてターゲットの接近状況を通知する態様を変更できる。
ここで、本発明に係る検知装置において、前記情報処理部は、前記特徴点の数が既定数を上回る場合、当該特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化するようにして
もよい。
特徴点の数が多い場合には、ターゲットが複数存在していることが想定される。そこで、本発明では、特徴点の数が既定数を上回る場合、グループ化する範囲が狭くなるよう範囲既定値を小さい値に変更する。これにより、ターゲットをより正確に特定することができる。特徴点の数を判断する際に基準となる既定数は、車両の状況に応じて想定されるターゲットの数や種類に基づいて適宜設定することができる。ここでの車両の状況には、例えば、交差点進入時や出庫する際など、車両が停止している状態、またはこれに近い状態が例示される。
また、本発明に係る検知装置は、前記情報処理装置は、前記ターゲットの通過が想定される領域を定める仮想枠を決定し、前記強調枠が前記仮想枠内に収まらない場合、当該特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化するようにしてもよい。
仮想枠はターゲットの通過が想定される領域を定めるものであり、強調枠がこのような仮想枠に収まらない場合には、強調枠が不要な領域、すなわちターゲット以外のものを含んでいると判断することができる。本発明では、強調枠が仮想枠内に収まらない場合、グループ化する範囲を狭くすることで、ターゲットをより正確に特定することができる。なお、強調枠が仮想枠内に収まる場合、グループ化する範囲を広げるようにしてもよい。
ここで、本発明は、検知方法として特定することもできる。例えば、本発明は、車載カメラが撮影した車外画像からターゲットを検知してディスプレイへ表示する検知方法であって、前記車外画像から前記ターゲットの一部を構成する特徴点を抽出する抽出ステップと、前記特徴点をグループ化する際の範囲を定めた範囲既定値に基づいて前記抽出された特徴点をグループ化するグループ化ステップと、前記グループ化された特徴点に基づいて前記ターゲットの存在を運転者に通知するための強調枠を決定する強調枠決定ステップと、前記決定された強調枠を前記ディスプレイに表示させる表示ステップと、を備え、前記グループ化ステップでは、車両の状況に応じて前記範囲既定値を変更し、当該車両の状況に応じて変更される前記範囲既定値に基づいて前記抽出された特徴点をグループ化し、前記強調枠決定ステップでは、変更された範囲既定値に基づいてグループ化された特徴点に基づいて前記強調枠を決定する。
また、本発明に係る検知方法において、前記グループ化ステップでは、前記特徴点の数が既定数を上回る場合、前記特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化するようにしてもよい。更に、本発明は、前記ターゲットの通過が想定される領域を定める仮想枠を決定する仮想枠決定ステップを更に備え、
前記グループ化ステップでは、前記強調枠が前記仮想枠内に収まらない場合、前記特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化するようにしてもよい。
また、本発明は、上述した検知方法を実現させるプログラムとして特定することもできる。更に、本発明は、そのようなプログラムを記録したコンピュータが読み取り可能な記録媒体であってもよい。この場合、コンピュータ等に、この記録媒体のプログラムを読み込ませて実行することにより、その機能を提供させることができる。なお、コンピュータ等が読み取り可能な記録媒体とは、データやプログラム等の情報を電気的、磁気的、光学的、機械的、又は化学的作用によって蓄積し、コンピュータ等から読み取ることができる記録媒体をいう。
本発明によれば、車両の状況に応じてターゲットをグループ化する範囲を変更でき、運転者が短時間で正確な状況整理が可能となり、円滑な運転操作が可能となる。
従来技術において、自車両に接近するターゲットを強調枠で囲んで通知する例を示す。 第一実施形態に係る検知装置の構成を示す。 第一実施形態に係る車両を示す。 第一実施形態に係る検知処理のフローを示す。 フロントカメラで撮影された車外画像の一例を示す。 検出領域が設定された車外画像の一例を示す。 検出領域に対して特徴点の抽出処理を実行した車外画像の一例を示す。 図7に示す車外画像に対して特徴点の追跡処理を実行した車外画像の一例を示す。 第一実施形態に係るグループ化処理のフローを示す。 水平方向のヒストグラムの作成を説明する図を示す。 穴埋め処理を説明する図を示す。 車両の走行状態に応じて穴埋め係数を決定する処理フローを示す。 穴埋め係数「a」のパラメータテーブルAを示す。 特徴点数に応じて穴埋め係数を決定する処理フローを示す。 穴埋め係数「a」のパラメータテーブルBを示す。 穴埋め後のヒストグラムに対してエッジ検出する処理を説明するイメージを示す。 垂直方向のヒストグラムの作成を説明するイメージ図を示す。 第一実施形態に係る検知処理によって生成された通知画面を示す。 図18に示す通知画面の比較例であり、穴埋め係数「a」を図18に示す場合よりも大きい値に設定した例を示す。 第二実施形態に係るグループ化処理のフローを示す。 車外画像に仮想枠を表示した例を示す。 第二実施形態に係る検知処理によって生成された通知画面を示す。 図22に示す通知画面の比較例であり、穴埋め係数「a」を変更する前の値で穴埋め処理を行った例を示す。
次に、本発明に係る検知装置の実施形態について図面に基づいて説明する。以下に示す第一実施形態は例示であり、本発明の技術的範囲は、これらに限定されるものではない。
[第一実施形態]
<構成>
図2は、第一実施形態に係る検知装置1の構成を示す。検知装置1は、車両2に搭載され、車載カメラ3で撮影された車外画像からターゲットを検知してディスプレイ6へ表示し、また必要に応じてスピーカ7を通じて音声通知する。車載カメラ3には、フロントカメラ31、左サイドカメラ32、右サイドカメラ33、リヤカメラ34が含まれる。これらの車載カメラ3は、いずれも検知装置1とケーブルを介して接続されている。また、車両2には、検知装置1に関連するものとして、車速センサ4、シフトポジションセンサ5、スピーカ7が設けられ、検知装置1とケーブルを介して電気的に接続されている。
検知装置1は、ASIC(Application Specific Integrated Circuit)によって構成
することができ、例えば図2に示すように、RAM(Random Access Memory)10、A/
Dコンバータ11、デコーダ12、検知処理部13、エンコーダ14、D/Aコンバータ15を備える。なお、検知装置1は、CPU(Central Processing Unit)、メモリを備
えるマイクロコンピュータによって構成してもよい。
A/Dコンバータ11は、フロントカメラ31などの車載カメラ3から出力された画像信号をデジタル信号に変換する。また、A/Dコンバータ11は、車速センサ4やシフトポジションセンサ5からの各種信号をデジタル信号に変換する。デコーダ12は、変換されたデジタル信号に含まれるデータを複合する。複合されたデータは、検知処理部13に入力される。検知処理部13(本発明の情報処理部に相当する。)は、入力されるデータを処理する。検知処理部13が実行する処理内容(検知処理の内容)については、後述する。検知処理部13は、RAM10にアクセス可能であり、入力されたデータの書き換えを行うことができる。検知処理部13で処理されたデータは、エンコーダ14に出力される。エンコーダ14は、検知処理部13で処理されたデータを符号化する。符号化されたデータは、D/Aコンバータ15へ出力される。D/Aコンバータ15は、符号化されたデータをアナログ信号に変換され、例えばディスプレイ6などに出力される。
車載カメラ3は、車外画像を撮影する。カメラのレンズには魚眼レンズが採用されており、その魚眼レンズは180度以上の画角を有している。このため、車載カメラ3を構成する、フロントカメラ31、左サイドカメラ32、右サイドカメラ33、リヤカメラ34により、車載カメラ3は、車両2の全周囲の撮影が可能となっている。
図3に示すように、フロントカメラ31は、車両2の前端にあるナンバープレート取付位置の近傍に設けられ、その光軸は車両2の前進方向へ向けられている。左サイドカメラ32は、左サイドミラーに設けられており、その光軸は車両2の前進方向を基準にした左方向に沿って外部へ向けられている。右サイドカメラ33は、右サイドミラーに設けられており、その光軸は車両2の前進方向を基準にした右方向に沿って外部へ向けられている。リヤカメラ34は、車両2の後端にあるナンバープレート取付位置の近傍に設けられ、その光軸は車両2の前進方向の逆方向へ向けられている。なお、フロントカメラ31やリヤカメラ34の取り付け位置は、左右略中央であることが望ましいが、左右中央から左右方向に多少ずれた位置であってもよい。なお、第一実施形態に係る車両2は、合成画像生成部(図示せず)を備えており、合成画像生成部は、フロントカメラ31、左サイドカメラ32、右サイドカメラ33、リヤカメラ34で撮影された車外画像の合成画像を生成することができる。合成画像生成部の機能を利用することで、車両2の周辺の任意の視点からみた合成画像を生成して、ディスプレイ6へ生成した合成画像を出力して表示させることができる。
車速センサ4は、車両2が移動した際に車輪が回転する速度を車速信号として検知装置1へ出力する。車速センサ4は、車両2のエンジンルーム内に設置される。
シフトポジションセンサ5は、車両2に備わる変速ギヤを変更するシフトがユーザによって操作可能になっており、このシフトポジションを検知してシフトポジションを示す信号を検知装置1出力する。シフトポジションセンサ5は、車両1のセンターコンソール中央部に備わるシフトレバー近傍に設定される。
ディスプレイ6は、車載カメラ3で撮影された車外画像や、検知装置1による処理結果(ターゲットが接近している旨の通知など)を表示する。ディスプレイ6は、車両2の運転席と助手席との間のセンターコンソール上部に設けられている。
スピーカ7は、例えば、ターゲットが接近している旨の音声通知を出力する。
<検知処理>
次に、検知装置1で実行される検知処理について説明する。検知処理とは、車載カメラ3で撮影された車外画像からターゲット(車両、歩行者など)を検知してディスプレイ6へ表示する処理である。検知処理では、車外画像からターゲットの一部を構成する特徴点が抽出され、グループ化する際の範囲を定めた範囲既定値としての穴埋め係数に基づいて抽出された特徴点がグループ化され、グループ化された特徴点に基づいてターゲットの存在を運転者に通知するための強調枠が決定され、決定された強調枠がディスプレイ6に表示される。また、第一実施形態に係る検知処理では、車両2の状況に応じて穴埋め係数が変更され、車両2の状況に応じて変更される穴埋め係数に基づいて抽出された特徴点がグループ化され、変更された穴埋め係数に基づいてグループ化された特徴点に基づいて強調枠が決定される。なお、以下の説明では、車両2が交差点に進入した場合に、フロントカメラ31で撮影された車外画像に対して検知処理を実行する場合を例に説明する。但し、検知処理は、他の車載カメラ3で撮影された車外画像に対して実行することもできる。
図4は、第一実施形態に係る検知処理フローを示す。以下の処理は、例えば車速センサ4やシフトポジションセンサ5からの信号を検知装置1が取得し、検知装置1が、車両2が停止状態、又はこれに近い状態、換言すると車両2が交差点侵入時や出庫時であると判断して開始される。
ステップS01では、検知装置1は、画像を取得する。具体的には、まず、フロントカメラ31により、車外画像(車両2前方を撮影した画像)が撮影される。撮影された車外画像は、A/Dコンバータ11でデジタル信号に変換され、デコーダ12で複合され、検知処理部13に入力される。ここで、図5は、フロントカメラ31で撮影された車外画像の一例を示す。図5に示す車外画像は、交差点侵入時のものであり、前方右手に車両(ターゲットT2)、前方左手に横断歩道を横断する歩行者(ターゲットT1)が存在している。また、第一実施形態では、フロントカメラ31を含め車載カメラ3のレンズに魚眼レンズを用いており、撮影された車外画像は全体として円形に歪んでいる。車外画像の中心付近の歪みが最も小さく、車外画像の周辺にいくほど歪みが大きくなっている。画像が取得されると、ステップS02へ進む。
ステップS02では、検知装置1は、検出領域を設定する。検出領域とは、ターゲットの検知対象となる領域である。図6は、検出領域が設定された車外画像の一例を示す。図6に示す検出領域R1,R2は矩形状であり、車外画像の左側と右側に夫々設定されている。第一実施形態における検知処理は、車両2に接近するターゲットを特定するものである。車両2に接近しているかどうかは、車外画像を水平方向で2分割し、中央に移動するターゲットを特定することで判断することができる。そこで、検出領域が車外画像の左側と右側に夫々に設定される。ここで、車外画像の水平方向では、いずれの位置においても接近するターゲットが存在する可能性がある。よって、水平方向を全てカバーできるよう、各検出領域R1,R2の水平方向の長さは、車外画像の凡そ2分の1に設定されている。一方で、車外画像の垂直方向では、上部と下部には接近するターゲットが存在する可能性が低い領域が存在する。よって、各検出領域R1,R2の垂直方向の長さは、接近するターゲットが存在する可能性が低い領域が排除するよう設定されている。なお、検出領域R1,R2は、車載カメラ3の特性、ディスプレイ6の画面サイズ等に基づいて適宜設定することができる。検出領域が設定されると、ステップS03へ進む。
ステップS03では、検知装置1は、車外画像に含まれるノイズを除去する。例えば、既存のガウスフィルタにより、撮影された車外画像に含まれるノイズが除去される。ノイズが除去されると、ステップS04へ進む。
ステップS04では、検知装置1は、車外画像に含まれる物体のエッジを検出する。第
一実施形態におけるエッジ検出とは、コーナー検出と呼ばれるもので、例えば既存のHarrisオペレータと呼ばれる検出法により実現できる。コーナーとは、2つのエッジの交点である。なお、エッジの検出は、コーナーすなわち2本のエッジの交点を検出できればよく、他の検出法によってもよい。エッジが検出されると、ステップS05へ進む。
ステップS05では、検知装置1は、特徴点を抽出する。具体的には、エッジ検出を実行することで特定されたコーナーを特徴点として特定する。ここで、図7は、検出領域に対して特徴点の抽出処理を実行した車外画像の一例を示す。図7は、右側の検出領域に対してエッジ検出及び特徴点抽出を行い、風景や車両(ターゲット)のエッジが検出(コーナーが検出)された様子を示す。特徴点が抽出されると、ステップS06へ進む。
ステップS06では、検知装置1は、特徴点を追跡する。特徴点の追跡とは、具体的には、特定された特徴点が所定時間あたりどこへ移動したかを追跡するもので、各画素が次のフレームでどこへ移動したかを計測するいわゆるオプティカルフロー検出手法により実現することができる。第一実施形態では、車両2に接近するターゲットT1,T2を特定する必要があることから、左側の検出領域R1では右向きのベクトルを持つ特徴点が抽出される。また、右側の検出領域R2では左向きのベクトルを持つ特徴点が抽出される。これにより、静止物や自車両2から遠ざかる対象物など、不要な対象物を構成する特徴点が除去される。図8は、図7に示す車外画像に対して特徴点の追跡処理を実行した車外画像の一例を示す。図8の各特徴点に付されたベクトルは、説明の便宜上付したものであり、各特徴点が左向きのベクトルを有することを示す。図8に示すように、特徴点の追跡処理を実行することで、左向きのベクトルを持つ特徴点のみ、すなわち、風景などの特徴点は排除され、自車両2に接近する歩行者(ターゲットT1)と車両(ターゲットT2)の特徴点のみが抽出される。特徴点の追跡が完了すると、ステップS07へ進む。
ステップS07では、検知装置1は、抽出された特徴点のグループ化処理を行う。
<<グループ化処理>>
ここで、図9は、グループ化処理のフローを示す。図9に示すように、特徴点のグループ化処理は、水平方向のヒストグラムの作成(S11)、水平方向でグループ化する特徴点の決定(S12)、穴埋め処理(S13)、穴埋め後のヒストグラム結果に対してのエッジ検出(S14)、垂直方向のヒストグラムの作成(S15)、水平方向・垂直方向比のチェック(S16)、強調枠の決定(S17)を含む。
ステップS11では、水平方向のヒストグラムが作成される。ここで、図10は、水平方向のヒストグラムの作成を説明する図を示す。ヒストグラムの作成では、まず、特定方向のベクトルを持つ特徴点(第一実施形態の場合、左側の検出領域R1では、右向きのベクトルを持つ特徴点、右側の検出領域R2では、左向きのベクトルを持つ特徴点)の一つ一つに対して、横方向のヒストグラムが作成される。その際、各特徴点には重み幅を持たせて算出される。重み幅は、例えば市場の実測値に基づいて算出される固定値であり、図10では重み幅(r=2)に設定されている。図10において、X軸は検出領域のX座標であり、Y軸はX方向ヒストグラムである。
図10は、特徴点リストに示すように、5つの特徴点に対してヒストグラムを作成する様子を示す。5つの特徴点とは、(1)(17,xx)、(2)(18,xx)、(3)(15,xx)、(4)(12,xx)、(5)(W−5,xx)である。これらの5つの特徴点の夫々についてヒストグラムを作成すると、特徴点のX座標が重なる領域では、□で表現される特徴点(重み幅を含む)が積み重ねられ(累積され)ヒストグラムが作成される。図10の上図に示すように、例えば、X座標:16及びX座標:17では、特徴点(1)の他、特徴点(2)及び(3)の特徴点(重み幅によるもの)が累積される。な
お、第一実施形態ではヒストグラムを作成し、接近物ありと判断する基準となる閾値が「3」に設定されている。水平方向のヒストグラムが作成されると、ステップS12へ進む。
ステップS12では、検知装置1は、水平方向でグループ化する特徴点を決定する。具体的には、ヒストグラムの作成後、ヒストグラムが閾値3以上の場合“1”、それ以外は“0”とする二値化処理が行われる。第一実施形態では、ヒストグラム3以上は、X座標:16及びX座標:17のみである。したがって、図10の下図に示すように、X座標:16及びX座標:17が、水平方向でグループ化する特徴点として決定される。水平方向でグループ化する特徴点が決定されると、ステップS13へ進む。
ステップS13では、検知装置1は、穴埋め処理を行う。ここで、図11は、穴埋め処理を説明する図を示す。穴埋め処理の対象となる領域は、水平方向の座標で、水平方向でグループ化する特徴点に該当する値がない穴空き領域(ステップ12の二値化処理で“0”となった領域)である。但し、斜線部分の画素は穴埋め対象外の領域である。穴空き領域に対して、その左右a座標範囲内にグループ化する特徴点がともに存在していれば、図10(d)に示すように、穴埋め処理が行われる。これに対し、穴空き領域に対して、左右一方でもa座標範囲内にグループ化する特徴点が存在していれば、図10(b)、図10(c)に示すように、穴埋め処理は行われない。すなわち、a座標範囲内に左右共に“1”があれば、対象座標のヒストグラムが“1”に置換される。
ここで、上記穴埋め処理を行う際に用いる「a」は、穴埋め係数で、本発明の範囲既定値に相当し、画像の「画素」と対応している。この穴埋め係数「a」の値が大きくなるとグループ化する範囲が広くなり、この穴埋め係数「a」の値が小さくなるとグループ化する範囲が狭くなる。第一実施形態に係る検知装置1は、この穴埋め係数「a」を車両2の状況に応じて変更することを特徴とする。すなわち、第一実施形態の車両2の状況のように、交差点侵入時、すなわち車両が停止している場合、もしくはこれに近い状況の場合には、ターゲットをより正確に把握したいことから、穴埋め係数「a」を例えば走行中に比べて小さい値に設定することができる。
<<穴埋め係数決定処理1>>
ここで、図12は、穴埋め係数の決定処理のうち、車両の走行状態に応じて穴埋め係数を決定する処理フローを示す。ステップS21では、検知装置1は、車両2の走行状態を取得する。走行状態は、車速センサ4やシフトポジションセンサ5からの信号により取得する。次に、ステップS22では、検知装置1は、車両2が停車状態であるか判断する。車両2が停車状態である場合、ステップS23へ進む。一方、車両が停車状態でない場合、ステップS24へ進む。
ステップS23では、検知装置1は、穴埋め係数「a」を「1」に設定する。一方で、ステップS24では、検知装置1は、穴埋め係数「a」を「2」に設定する。ここで、図13は、穴埋め係数「a」のパラメータテーブルAを示す。このテーブルAは、例えばRAM10に格納され、停止時と走行中で穴埋め係数「a」を設定したものであり、停止時の穴埋め係数「a」は走行中の穴埋め係数「a」よりも小さい値に設定されている。検知装置1は、テーブルAにアクセスすることで、車両2の状況に応じた穴埋め係数「a」を取得し、設定することができる。以上により、穴埋め係数決定処理1が終了する。
<<穴埋め係数決定処理2>>
ここで、図14は、穴埋め係数の決定処理のうち、特徴点数に応じて穴埋め係数を決定する処理フローを示す。ステップS31では、検知装置1は、特徴点数を取得する。この特徴点数は、ステップS06の特徴点追跡処理を実行後の特徴点数とすることができる。
次に、ステップS32では、検知装置1は、特徴点数がXよりも多いか判断する。比較基準となる「X」は、ターゲットが複数存在している可能性が高い値として実測により得ることができる。特徴点数がXよりも多い場合、ステップS33へ進む。一方、車両が走行状態でない場合、ステップS34へ進む。
ステップS33では、検知装置1は、穴埋め係数「a」を「1」に設定する。一方で、ステップS34では、検知装置1は、穴埋め係数「a」を「2」に設定する。ここで、図15は、穴埋め係数「a」のパラメータテーブルBを示す。テーブルBは、特徴点数によって穴埋め係数「a」を設定したものであり、特徴点数>Xの場合、穴埋め係数「a」は「1」に設定され、特徴点数≦Xの場合、穴埋め係数「a」は「2」に設定されている。すなわち、特徴点数が多い場合、相対的に穴埋め係数「a」が小さい値に設定されている。特徴点数が多い場合、ターゲットが複数存在することが想定されるが、このように穴埋め係数を小さい値に設定することで、グループ化する範囲を狭めることができ、その結果、ターゲット同士を区別することが可能となる。検知装置1は、テーブルBにアクセスすることで、特徴点数に応じた穴埋め係数「a」を取得し、設定することができる。以上により、穴埋め係数決定処理2が終了する。
穴埋め処理が終了すると、ステップS14へ進み、検知装置1は、穴埋め後のヒストグラムに対してエッジ検出を行う。ここで、図16は、穴埋め後のヒストグラムに対してエッジ検出する処理を説明する図を示す。ステップS14のエッジ検出では、穴埋め後のヒストグラム結果から連続性を見つけ出し、水平方向のグループを決定する。すなわち、水平方向に複数の接近するターゲットがあれば、その数だけグループが作成される。より具体的には、X座標を右方向へ移動し、前座標のヒストグラムと比較し、不一致した座標が変化点(エッジ)として検出される。したがって、図16では、seg[0]、seg[1]、seg[2]、seg[3]において、座標が“0”から“1”又は“1”から“0”へ変化しており、これらの座標が変化点(エッジ)として検出される。
次にステップS15では、検知装置1は、垂直方向のヒストグラムを作成する。ここで、図17は、垂直方向のヒストグラムの作成を説明する図を示す。垂直方向のヒストグラムは、ステップS14でエッジを検出することで得られた水平方向のグループごとの範囲(例えば、seg[0]からseg[1]や、seg[2]からseg[3]の領域)上に存在する垂直方向の特徴点に対して、先に説明した水平方向のヒストグラムの作成と同様に行われる。すなわち、ヒストグラムは、各特徴点に重み幅を持たせて算出される。重み幅は、水平方向のヒストグラムの算出と同じく、図17では重み幅(r=2)に設定されている。特徴点のY座標が重なる領域では、□で表現される特徴点(重み幅を含む)が積み重ねられ(累積され)ヒストグラムが作成される。また、接近物ありと判断する基準となる閾値が「3」に設定されており、ヒストグラムが閾値3以上の場合“1”、それ以外は“0”とする二値化処理が行われる(図17の下図参照)。以上により、特徴点がグループ化され、ターゲットの存在を運転者に通知するための、仮の強調枠が作成される。
次に、ステップS16では、検知装置1は、仮の強調枠の、水平方向・垂直方向比(縦横比)のチェックを行う。縦横比のチェックは、ステップS11からステップS16で得られたヒストグラムのX座標の最小値、最大値、Y座標の最小値、最大値に対して行われる。例えば、極端に細長いものや極端にいびつなものなど、車両や歩行者のターゲットに基づいて算出された仮の形状枠としてふさわしくないものが除外される。この処理は、予め車両や歩行者のターゲットに基づく比較用の強調枠を記憶しておき、これと比較することで実現することができる。
次に、ステップS17では、検知装置1は、ステップS16のチェックを通過した仮の強調枠を最終的な強調枠として決定する。換言すると、ステップS16で削除されなかっ
たグループをクラスタリング処理によるグループ結果とする。以上により、グループ化処理が終了する。
グループ化処理が終了すると、図4に示すステップS08において、検知装置1は、ターゲットを追跡する。換言すると、ターゲットを表す、グループ化処理で決定された強調枠の単位時間当たりの移動量を算出し、時間的追跡を行う。移動方向は、左側の検出領域R1では右方向、右側の検出領域R2であれば左方向となる。強調枠に対して時間的追跡を行うことで、強調枠の座標値が特定される。
次に、ステップS09では、検知装置1は、検出領域、強調枠の描画処理を行う。すなわち、検出領域の座標、及び強調枠の座標を原画像に描画して、ターゲットが接近していることを運転者に通知するための通知画面を生成する。
ステップS10では、検知装置1は、生成した通知画面をディスプレイ6に出力する。具体的には、生成された通知画面の画像データがエンコーダ14で符号化され、符号化された画像データがD/Aコンバータ15でアナログ信号に変換され、例えばディスプレイ6などに出力される。なお、検知装置1は、ディスプレイ6に表示される通知画面に合わせてスピーカ7を通じて音声通知を行うようにしてもよい。
<効果>
第一実施形態に係る検知装置によれば、特徴点をグループ化する処理で穴埋め係数「a」が小さい値に設定されることで、接近するターゲットが複数存在する場合に、これらの複数のターゲットを運転者に通知するための強調枠をターゲット毎に表示することができる。ここで、図18は、第一実施形態に係る検知処理によって生成された通知画面を示す。図18に示す画面では、右側の検出領域R1内に強調枠F1,F2が表示されている。一方は、歩行者(ターゲットT1)が接近していることを通知する強調枠F1であり、もう一方は、車両(ターゲットT2)が接近していることを通知する強調枠F2である。図18に示すように、第一実施形態に係る検知装置1では、グループ化する処理で穴埋め係数「a」を小さい値に設定されることで、接近する2つのターゲットT1,T2を区別して強調枠F1,F2が表示されている。
ここで、図19は、図18に示す通知画面の比較例であり、穴埋め係数「a」を図18に示す場合よりも大きい値に設定した例を示す。図19に示す比較例では、グループ化する処理において、歩行者(ターゲットT1)特徴点と車両(ターゲットT2)の特徴点とが一つのグループとして処理されたことで、強調枠Fが一つのみ表示されている。この比較例における強調枠Fには、無駄な領域が多く存在している。したがって、このような強調枠Fを通知された運転者は、どこに注意をしたらよいか困惑し、運転操作に支障をきたすことも想定される。一方で、図18の強調枠F1,F2は、歩行者(ターゲットT1)が接近していることを通知する強調枠F1と、車両(ターゲットT2)が接近していることを通知する強調枠F2が区別して表示されることから、運転者は接近するターゲットT1,T2の存在を容易に把握することができる。
[第二実施形態]
第二実施形態に係る検知装置1は、ターゲットの通過が想定される領域を定める仮想枠を決定し、強調枠が仮想枠内に収まらない場合、グループ化する範囲が狭くなるよう範囲既定値(穴埋め係数「a」)を小さい値とし、変更された穴埋め係数「a」に基づいて抽出された特徴点をグループ化する。このような処理は、第一実施形態と同様の構成により実現できる。よって、構成についての説明は割愛し、以下、処理の相違点を中心に説明する。
ここで、図20は、第二実施形態に係るグループ化処理のフローを示す。第二実施形態におけるグループ化処理では、ステップS13−1において、既定の穴埋め係数「a」に基づいて穴埋め処理が行われる。その後、第一実施形態と同様のステップS14から17の処理が実行され、強調枠が決定される。強調枠が決定されるとステップS18へ進む。
ステップS18では、検知装置1は、仮想枠を決定する。仮想枠とは、ターゲットの通過が想定される領域である。ここで、図21は、車外画像に仮想枠Hを表示した例を示す。第二実施形態においてもフロントカメラ31を含め車載カメラ3のレンズに魚眼レンズを用いており、撮影された車外画像は全体として円形に歪んでいる。車外画像の中心付近の歪みが最も小さく、車外画像の周辺にいくほど歪みが大きくなっている。また、車両2の近くのターゲットが車外画像の中央付近で大きく表示され、車両2から離れるにつれ、車外画像の周辺にいくほどターゲットが小さく表示される。そのため、図21に示す仮想枠Hは五角形(ホームベース型)となっている。仮想枠Hの形状や寸法は、市場の実測値に基づいて適宜設計することができる。仮想枠Hが決定されると、ステップS19へ進む。
ステップS19では、検知装置1は、強調枠が仮想枠Hに収まっているか判断する。すなわち、強調枠が仮想枠からはみ出ていないかが判断される。強調枠が仮想枠Hに収まっていると判断された場合、グループ化処理が終了する。なお、強調枠が仮想枠Hに収まっていると判断された場合、穴埋め係数「a」の値を大きい値に変更し、再度穴埋め処理を行うようにしてもよい。一方で、強調枠が仮想枠Hに収まっていると判断されなかった場合、ステップS20へ進む。
ステップS20では、検知装置1は、穴埋め係数「a」を変更する。強調枠が仮想枠Hに収まっていない場合には、強調枠が複数のターゲットを含み、無駄な領域を多く含んでいることが想定される。そこで、強調枠が仮想枠に収まっていない場合には、穴埋め係数「a」が小さい値に変更される。その後、ステップS13−1へ戻り、変更後の穴埋め係数「a」に基づいて穴埋め処理が実行される。その後、更にステップS14から18の処理が実行され、ステップS19において強調枠が仮想枠に収まっていると判断された場合、グループ化処理が終了する。
<効果>
第二実施形態に係る検知装置1によれば、仮想枠を決定し、強調枠が仮想枠に収まるか判断することで、仮に収まらない場合には、強調枠が不要な領域、すなわちターゲット以外のものを含んでいると判断することができる。ここで、図22は、第二実施形態に係る検知処理によって生成された通知画面を示す。また、図23は、図22に示す通知画面の比較例であり、穴埋め係数「a」を変更する前の値で穴埋め処理を行った例を示す。図23に示す強調枠Fは、二つのターゲットT1,T2を含み、無駄な領域が多く存在している。したがって、このような強調枠Fを通知された運転者は、どこに注意をしたらよいか困惑し、運転操作に支障をきたすことも想定される。そこで、強調枠Fが仮想枠Hに収まっているかどうかを判断し、図23のように収まっていない場合には、穴埋め係数「a」を小さい値に変更することで、図22に示すように、歩行者(ターゲットT1)が接近していることを通知する強調枠F1と、車両(ターゲットT2)が接近していることを通知する強調枠F2を区別して表示することができる。その結果、運転者は接近するターゲットの存在を容易に把握することができる。
以上、本発明の好適な実施形態を説明したが、本発明に係る検知装置はこれらに限らず、可能な限りこれらの組合せを含むことができる。
1・・・検知装置
10・・・RAM
11・・・A/D変換
12・・・デコーダ
13・・・検知処理部
14・・・エンコーダ
15・・・D/A変換
2・・・車両
3・・・車載カメラ
31・・・フロントカメラ
32・・・左サイドカメラ
33・・・右サイドカメラ
34・・・リヤカメラ
4・・・車速センサ
5・・・シフトポジションセンサ
6・・・ディスプレイ
7・・・スピーカ

Claims (6)

  1. 車載カメラが撮影した車外画像からターゲットを検知してディスプレイへ表示する検知装置であって、
    前記車外画像に含まれる前記ターゲットのエッジに基づいて特徴点を抽出し、当該特徴点をグループ化する際の範囲を定めた範囲既定値に基づいて前記抽出された特徴点をグループ化し、グループ化された特徴点に基づいて強調枠を決定し、決定された強調枠を前記ディスプレイに表示させる情報処理部を備え、
    前記情報処理部は、車両停車時の前記範囲既定値を、車両走行時の前記範囲既定値よりも相対的に小さな値に設定する
    知装置。
  2. 前記情報処理部は、前記特徴点の数が既定数を上回る場合、当該特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化する、請求項1に記載の検知装置。
  3. 前記情報処理部は、前記ターゲットの通過が想定される領域を定める仮想枠を決定し、前記強調枠が前記仮想枠内に収まらない場合、当該特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化する、請求項1又は2に記載の検知装置。
  4. 車載カメラが撮影した車外画像からターゲットを検知してディスプレイへ表示する検知方法であって、
    前記車外画像に含まれる前記ターゲットのエッジに基づいて特徴点を抽出する抽出ステップと、
    前記特徴点をグループ化する際の範囲を定めた範囲既定値に基づいて前記抽出された特徴点をグループ化するグループ化ステップと、
    前記グループ化された特徴点に基づいて強調枠を決定する強調枠決定ステップと、
    前記決定された強調枠を前記ディスプレイに表示させる表示ステップと、を備え、
    前記グループ化ステップでは、車両停車時の前記範囲既定値を、車両走行時の前記範囲既定値よりも相対的に小さな値に設定する
    知方法。
  5. 前記グループ化ステップでは、前記特徴点の数が既定数を上回る場合、前記特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化する、
    請求項4に記載の検知方法。
  6. 前記ターゲットの通過が想定される領域を定める仮想枠を決定する仮想枠決定ステップを更に備え、
    前記グループ化ステップでは、前記強調枠が前記仮想枠内に収まらない場合、前記特徴点をグループ化する範囲が狭くなるよう前記範囲既定値を小さくし、変更された範囲既定値に基づいて前記抽出された特徴点をグループ化する、請求項4又は5に記載の検知方法。
JP2012082037A 2012-03-30 2012-03-30 検知装置、及び検知方法 Active JP5930806B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012082037A JP5930806B2 (ja) 2012-03-30 2012-03-30 検知装置、及び検知方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012082037A JP5930806B2 (ja) 2012-03-30 2012-03-30 検知装置、及び検知方法

Publications (2)

Publication Number Publication Date
JP2013210942A JP2013210942A (ja) 2013-10-10
JP5930806B2 true JP5930806B2 (ja) 2016-06-08

Family

ID=49528685

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012082037A Active JP5930806B2 (ja) 2012-03-30 2012-03-30 検知装置、及び検知方法

Country Status (1)

Country Link
JP (1) JP5930806B2 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015171815A1 (en) * 2014-05-06 2015-11-12 Nant Holdings Ip, Llc Image-based feature detection using edge vectors
JP6163453B2 (ja) * 2014-05-19 2017-07-12 本田技研工業株式会社 物体検出装置、運転支援装置、物体検出方法、および物体検出プログラム
JP5948465B1 (ja) * 2015-06-04 2016-07-06 株式会社ファンクリエイト 映像処理システム及び映像処理方法
JP6618766B2 (ja) * 2015-10-27 2019-12-11 株式会社デンソーテン 画像処理装置および画像処理方法
JP6587253B2 (ja) * 2016-03-02 2019-10-09 シャープ株式会社 画像処理装置、及び画像処理方法
JP6723822B2 (ja) * 2016-05-19 2020-07-15 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
DE102018208278A1 (de) 2018-05-25 2019-11-28 Robert Bosch Gmbh Betriebsassistenzverfahren, Steuereinheit, Betriebsassistenzsystem und Arbeitsvorrichtung
CN113706608B (zh) * 2021-08-20 2023-11-28 云往(上海)智能科技有限公司 一种预定区域内目标物的位姿检测装置、方法和电子设备

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04148283A (ja) * 1990-10-08 1992-05-21 Fujitsu Ltd クラスタリングによる移動物体の分離処理方法
JP4340000B2 (ja) * 2000-12-18 2009-10-07 本田技研工業株式会社 対象物認識装置
JP4638143B2 (ja) * 2003-12-26 2011-02-23 富士重工業株式会社 車両用運転支援装置
JP2008068675A (ja) * 2006-09-12 2008-03-27 Auto Network Gijutsu Kenkyusho:Kk 車両周辺視認装置
JP5074365B2 (ja) * 2008-11-28 2012-11-14 日立オートモティブシステムズ株式会社 カメラ装置
JP2010146478A (ja) * 2008-12-22 2010-07-01 Toyota Motor Corp 物体検出装置

Also Published As

Publication number Publication date
JP2013210942A (ja) 2013-10-10

Similar Documents

Publication Publication Date Title
JP5930806B2 (ja) 検知装置、及び検知方法
US20210365696A1 (en) Vehicle Intelligent Driving Control Method and Device and Storage Medium
JP5867273B2 (ja) 接近物体検知装置、接近物体検知方法及び接近物体検知用コンピュータプログラム
JP6795027B2 (ja) 情報処理装置、物体認識装置、機器制御システム、移動体、画像処理方法およびプログラム
JP4687411B2 (ja) 車両周辺画像処理装置及びプログラム
JP7206583B2 (ja) 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法およびプログラム
CN108162858B (zh) 车载监控装置及其方法
US9183449B2 (en) Apparatus and method for detecting obstacle
JP2013008070A (ja) 標識認識装置及び標識認識方法
JP6194604B2 (ja) 認識装置、車両及びコンピュータが実行可能なプログラム
JP4644273B2 (ja) 車両周辺監視装置
JP6516012B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法およびプログラム
KR101239718B1 (ko) 차량 주변 물체 검출 시스템 및 방법
JP6152261B2 (ja) 車載用駐車枠認識装置
JP2012252501A (ja) 走行路認識装置及び走行路認識用プログラム
JP2008309637A (ja) 障害物計測方法、障害物計測装置及び障害物計測システム
JP2013244852A (ja) 駐車支援装置、駐車支援方法およびそのプログラム
JP5261752B2 (ja) ドライブレコーダ
JP5477394B2 (ja) 車両周辺監視装置
CN113614810A (zh) 图像处理装置、车辆控制装置、方法和程序
JP2013161281A (ja) 交通画像取得装置、交通画像取得方法および交通画像取得プログラム
JP6569416B2 (ja) 画像処理装置、物体認識装置、機器制御システム、画像処理方法及び画像処理プログラム
JP6201809B2 (ja) 周辺監視装置及び方法
JP6584862B2 (ja) 物体検出装置、物体検出システム、物体検出方法及びプログラム
JP3942289B2 (ja) 車両監視装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150219

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151126

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20151208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160120

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160426

R150 Certificate of patent or registration of utility model

Ref document number: 5930806

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250