JP7229804B2 - 画像処理装置及び画像処理方法 - Google Patents

画像処理装置及び画像処理方法 Download PDF

Info

Publication number
JP7229804B2
JP7229804B2 JP2019024147A JP2019024147A JP7229804B2 JP 7229804 B2 JP7229804 B2 JP 7229804B2 JP 2019024147 A JP2019024147 A JP 2019024147A JP 2019024147 A JP2019024147 A JP 2019024147A JP 7229804 B2 JP7229804 B2 JP 7229804B2
Authority
JP
Japan
Prior art keywords
edge
parking
line
marker
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019024147A
Other languages
English (en)
Other versions
JP2020135084A (ja
Inventor
貴之 金子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Faurecia Clarion Electronics Co Ltd
Original Assignee
Clarion Co Ltd
Faurecia Clarion Electronics Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Clarion Co Ltd, Faurecia Clarion Electronics Co Ltd filed Critical Clarion Co Ltd
Priority to JP2019024147A priority Critical patent/JP7229804B2/ja
Priority to CN202010073488.6A priority patent/CN111563405B/zh
Priority to EP20153451.8A priority patent/EP3696723B1/en
Priority to US16/782,759 priority patent/US11430149B2/en
Publication of JP2020135084A publication Critical patent/JP2020135084A/ja
Application granted granted Critical
Publication of JP7229804B2 publication Critical patent/JP7229804B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G06V20/586Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads of parking space
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/10Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used
    • B60R2300/105Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of camera system used using multiple cameras
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Image Processing (AREA)

Description

本発明は、車両の周囲の路面を撮像する撮像装置から出力される画像信号に基づいて、この路面に設けられた駐車枠を推定する画像処理装置及び画像処理方法に関するものである。
モニターに表示された複数の駐車枠の形状のいずれかをユーザの操作に基づいて選択し、選択した駐車枠の形状に基づいて、カメラ画像から駐車枠を認識し、認識された駐車枠に基づいて、駐車枠で区画される駐車スペースへ車両を誘導する駐車支援装置は公知である(例えば特許文献1参照)。しかしながら、特許文献1に開示された技術では、ユーザが駐車枠の形状を選択する手動操作が必要であった。
これに対して、駐車場に設けられた駐車枠を、この駐車枠の端部に相当する路面に描かれたマーカーのエッジを抽出することにより自動で検出し、この駐車枠に関する情報を車内のモニターに提供し、あるいは車両に設けられたソナーや操舵装置等の制御装置に提供して車両の駐車を支援する駐車支援装置も公知である(例えば特許文献2参照)。
ところで、駐車場の駐車スペースには、車両の立ち入りや駐停車を禁止する領域が隣接していることがある。この駐停車禁止領域は、路面に描かれた複数の平行な斜線部で表されている(以下、「斜線領域」という。)。この斜線領域と駐車区画線とで挟まれた領域、或いは2つの斜線領域で挟まれた領域も、駐車スペースとして利用可能である。
特開2013-018406号公報 特開2012-210864号公報
しかしながら特許文献2に開示された技術では、左サイドカメラで撮影された画像から、画像の横方向に対して傾斜した基準角度に略沿った傾斜エッジのみを絞り込んで抽出し、この抽出された傾斜エッジに基づいて駐車枠の像を認識している。このため、特許文献2に開示された技術では、斜線領域ではエッジが極端に短く検出されてしまい、斜線領域を認識できず、これに隣接する駐車スペースを検出できないという問題がある。
そこで、本発明は、駐車場等の路面に設けられた駐車スペースの検出を迅速かつ確実に行うことが可能な画像処理装置及び画像処理方法を提供することを目的としている。
前記目的を達成するために、本発明の画像処理装置は、駐車区画線マーカーと、斜線部を有するマーカーとで仕切られた駐車場の駐車スペースを検出する画像処理装置であって、車両の周囲の路面を撮像する撮像装置から出力される画像信号に基づく画像を、所定方向に走査し、前記画像信号が低い値から高い値に変化する所定長さの第1のエッジ及び前記画像信号が高い値から低い値に変化する所定長さの第2のエッジを検出し、検出された各エッジの中から、所定間隔で隣り合う前記第1のエッジ及び前記第2のエッジのペアを抽出し、抽出された各ペアに基づいて、前記駐車区画線マーカーを検出するマーカー検出部と、前記マーカー検出部で前記ペアとして抽出されなかった所定長さの前記第1のエッジ又は前記第2のエッジを単独エッジと認定し、前記単独エッジの側方の所定の開始点から当該単独エッジに沿う方向にエッジを検出して前記斜線部の有無を判定し、前記斜線部が存在すると判定された前記単独エッジに基づいて直線部を検出し、当該直線部を、前記斜線部を有するマーカーに属するみなし直線部と認定する斜線検出部と、前記駐車区画線マーカーの前記第1のエッジ及び前記第2のエッジ、並びに前記みなし直線部の前記単独エッジから、隣り合う前記エッジを検出し、これらエッジ間の距離に基づいて、前記駐車スペースを検出する駐車枠検出部と、を有することを特徴とする。
このように構成された本発明の画像処理装置では、撮影された画像からエッジを検出し、所定長さの第1のエッジ及び第2のエッジを抽出している。これにより、ノイズとなる短いエッジを除去できる。さらに、隣り合う距離に基づいて、ペアのエッジを抽出し、駐車区画線マーカーを検出している。そして、ペアとして抽出されなかった単独エッジについて斜線部の有無を検出することで、斜線部を有するマーカーに属し駐車区画線として機能し得る直線部のエッジのみを抽出し、それ以外のノイズとなる長いエッジを除去できる。そして、抽出されたペアの第1のエッジ及び第2エッジ、並びに単独エッジに基づいて駐車スペースを検出することで、斜線部を有するマーカーに隣接する駐車スペースも、取りこぼすことなく検出できる。
このようにすることで、駐車場等の路面に設けられた駐車スペースの検出を迅速かつ確実に行うことが可能となる。
本発明の実施の形態である画像処理装置が適用される駐車支援装置の概略構成を示すブロック図である。 実施の形態である駐車支援装置の撮像装置の配置位置の一例を示す図である。 実施の形態である画像処理装置の概略構成を示す機能ブロック図である。 実施の形態である画像処理装置の動作の一例を説明するためのフローチャートである。 実施の形態である画像処理装置の動作の一例を説明するための図である。 実施の形態である画像処理装置の動作の一例を説明するための図である。 実施の形態である画像処理装置の動作の一例を説明するための図である。 実施の形態である画像処理装置の動作の一例を説明するための図である。 実施の形態である画像処理装置の動作の一例を説明するための図である。
(駐車支援装置の概略構成)
以下、この発明の実施の形態を図面に基づいて説明する。図1は、本発明の実施の形態である画像処理装置が適用される駐車支援装置の概略構成を示すブロック図、図2は実施の形態である駐車支援装置の撮像装置の配置位置の一例を示す図である。
図1に示すように、駐車支援装置1は、車両V(図2参照)に搭載され、駐車支援動作を行う。具体的には、駐車支援装置1は、この車両Vが駐車可能な駐車枠を認識する。そして、駐車支援装置1は、認識した駐車枠に車両Vを駐車させるようにこの車両Vを制御する。
車両Vの前後左右には、図2に示すように複数の小型カメラ(撮像装置)が備えられている。
具体的には、車両Vのフロントバンパまたはフロントグリルには、車両Vの前方に向けて前方カメラ20aが装着されている。車両Vのリアバンパまたはリアガーニッシュには、車両Vの後方に向けて後方カメラ20bが装着されている。車両Vの左ドアミラーには、車両Vの左側方に向けて左側方カメラ20cが装着されている。車両Vの右ドアミラーには、車両Vの右側方に向けて右側方カメラ20dが装着されている。
前方カメラ20a、後方カメラ20b、左側方カメラ20c、右側方カメラ20dには、それぞれ、広範囲を観測可能な広角レンズや魚眼レンズが装着されており、4台のカメラ20a~20dで車両Vの周囲の路面を含む領域を漏れなく観測することができるようになっている。これらカメラ20a~20dにより、車両Vの周囲の路面を撮像する撮像装置が構成されている。なお、以下の説明において、個々のカメラ(撮像装置)20a~20dを区別せずに説明する場合は単にカメラ20として説明する。
図1に戻って、駐車支援装置1は、前方カメラ20a、後方カメラ20b、左側方カメラ20c、右側方カメラ20dと、カメラECU22と、ナビゲーション装置30と、車輪速センサ32と、操舵角センサ34とを有する。
カメラECU22は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリ等から構成されたマイコンを主体として構成される。カメラECU22は、カメラ20を制御するとともに、カメラ20が検知した情報を用いて、俯瞰画像の生成処理や、駐車枠を検知する検知処理や、検知した駐車枠に車両Vを駐車できるか否かを判定する判定処理等を行う。
ナビゲーション装置(表示装置)30は画像表示機能を有するモニター31を有する。ナビゲーション装置30は、経路案内用の地図データ等が格納された記憶部を有する。ナビゲーション装置30は、この地図データ等及び図略のGPS装置等により検出された車両Vの現在位置に基づいて、ナビゲーション装置30の操作者が設定した目標地点までの経路案内を行う。経路案内動作中の各種画像はモニター31に表示される。
車輪速センサ32は、車両Vの車輪速を検知するセンサである。車輪速センサ32で検知された検知情報(車輪速)は、車両制御ECU40に入力される。
操舵角センサ34は、車両Vのステアリングの操舵角を検知する。車両Vが直進状態で走行するときの操舵角を中立位置(0度)とし、その中立位置からの回転角度を操舵角として出力する。操舵角センサ34で検知された検知情報(操舵角)は、車両制御ECU40に入力される。
さらに、駐車支援装置1は、車両制御ECU40と、ステアリング制御ユニット50と、スロットル制御ユニット60と、ブレーキ制御ユニット70とを有する。
車両制御ECU40は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)、フラッシュメモリ等から構成されたマイコンを主体として構成される。車両制御ECU40は、カメラECU22、車輪速センサ32及び操舵角センサ34から入力された各検知情報に基づいて、車両Vの駐車を支援する各種処理を実行する。
すなわち、例えば図略の自動駐車開始スイッチを運転手がオン操作して駐車支援装置1を作動させると、車両制御ECU40は、カメラECU22が駐車可と判定した駐車枠に車両Vを自動で駐車させる自動駐車処理を実行する。
ステアリング制御ユニット50は、車両制御ECU40で決定した車両制御情報に基づいて、パワステアクチュエータ52を駆動して、車両Vの操舵角を制御する。
スロットル制御ユニット60は、車両制御ECU40で決定した車両制御情報に基づいて、スロットルアクチュエータ62を駆動して、車両Vのスロットルを制御する。
ブレーキ制御ユニット70は、車両制御ECU40で決定した車両制御情報に基づいて、ブレーキアクチュエータ72を駆動して、車両Vのブレーキを制御する。
なお、カメラECU22、車輪速センサ32及び操舵角センサ34と、車両制御ECU40との間は、車内LAN(Local Area Network)であるセンサ情報CAN(登録商標)(Controller Area Network)80によって接続される。
また、ステアリング制御ユニット50、スロットル制御ユニット60及びブレーキ制御ユニット70と、車両制御ECU40との間は、車内LANである車両情報CAN(登録商標)82によって接続される。
以上の構成を有する駐車支援装置1において、本実施の形態の画像処理装置100は、カメラECU22により主に構成されている。
(画像処理装置の機能構成)
図3は、本実施の形態である画像処理装置100の概略構成を示す機能ブロック図である。
本実施の形態である画像処理装置100は、制御部110及び記憶部120を有する。制御部110は、カメラECU22のCPUから主に構成されており、記憶部120は、カメラECU22のROM、RAM、フラッシュメモリ等から主に構成されている。
制御部110は、画像処理装置100全体の制御を行う。加えて、制御部110は、後述するマーカー検出部111、斜線検出部112及び駐車枠検出部113により検出、推定された駐車スペースを区画する境界線としてのマーカーや駐車スペースに基づいて、車両Vが駐車可と判定した駐車枠にこの車両Vを自動で駐車させる自動駐車処理を車両制御ECU40に実行させるために、自動駐車処理に必要な情報(駐車スペース、駐車枠の位置、形状など)をこの車両制御ECU40に送出する。
車両制御ECU40は、制御部110から提供された情報に基づいて、さらに、車輪速センサ32及び操舵角センサ34(図3ではセンサとのみ図示している)が検知した検知情報に基づいて、パワステアクチュエータ52、スロットルアクチュエータ62及びブレーキアクチュエータ72(図3ではアクチュエータとのみ図示している)を駆動制御する。
制御部110はCPU、FPGAなどのプログラマブルロジックデバイス、ASIC等の集積回路に代表される演算素子を有する。
画像処理装置100の記憶部120には図略の制御用プログラムが格納されており、この制御用プログラムが画像処理装置100の起動時に制御部110により実行されて、画像処理装置100は図3に示すような機能構成を備えたものとなる。特に、本実施形態の画像処理装置100は、後述するように高速の画像処理を行うので、高速演算可能な演算素子、例えばFPGAなどを有することが好ましい。
制御部110は、マーカー検出部111、斜線検出部112、駐車枠検出部113、表示制御部114、及びエッジ検出部115を有する。
マーカー検出部111は、車両Vの周囲の路面を撮像するカメラ20から出力される画像信号に基づいて、エッジ検出を行って路面上の駐車領域を区画する駐車区画線マーカーを検出する。ここでいう駐車区画線マーカーとは、主に路面上に設けられた駐車領域を区画する境界線(直線)として描かれたマーカーのことであり、一般的には白線で示される。なお、駐車区画線マーカーは、白線以外の、例えば黄色線等、白以外の色の線で描かれている場合もある。このため、マーカー検出部111によって検出される駐車区画線マーカーは、「白線」に限定されるものではなく、一般に、路面との間にコントラストを有する境界線(直線)を駐車区画線として検出すればよい。
マーカー検出部111は、エッジ検出部115によって、画像信号に基づく画像中のエッジを検出する。このエッジ検出部115は、画像を所定方向に走査(スキャン)して、画像信号が所定値以上の差を持って変化する位置をエッジとして検出する。エッジ検出部115は、画像信号の輝度パターンや濃度パターンに基づいてエッジを検出することが好ましい。ここでいう走査とは、所定方向に向かって1つずつ画素を選択し、隣接する画素間で、画像信号の強度を比較していくことをいう。
なお、走査の方向は、路面に引かれた駐車区画線マーカーに直交する方向に設定するのが望ましい。すなわち、図5に示すように、駐車区画線マーカー200が車両Vの進行方向と直交する方向に延在しているときには、進行方向に沿って走査するのが望ましく、図6に示すように、駐車区画線マーカー200が車両Vの進行方向に沿って延在しているときは、進行方向と直交する方向に走査するのが望ましい。一般には、駐車区画線マーカーが延びている方向は未知であるため、マーカー検出部111は、車両Vの進行方向及びこれに直交する方向にそれぞれ沿って、2回に分けて走査するようにエッジ検出部115を制御してもよい。
そして、マーカー検出部111は、エッジ検出部115により検出されたエッジから、画像信号が所定値以上の差を持って低い値から高い値に変化するプラスエッジ(「立上りエッジ」ともいう)と、逆に高い値から低い値に変化するマイナスエッジ(「立下がりエッジ」ともいう)の位置とをそれぞれ抽出する。
ここで、輝度値に基づいてエッジを抽出する場合は、プラスエッジは、輝度が低く暗い画素(例えば黒い画素)から輝度が高く明るい画素(例えば白い画素)に変化したエッジをいう。つまり、走査位置が路面から駐車区画線と思われるものに切替わったことを示す。マイナスエッジは、輝度が高く明るい画素から輝度が低く暗い画素に変化したエッジをいう。つまり、走査位置が駐車区画線と思われるものから路面に切替わったことを示す。
これに対して、濃淡値に基づいてエッジを抽出する場合は、路面の濃度が高く(濃い)、駐車区画線マーカーの濃度は低い(淡い)ため、濃度が高い画素から濃度が低い画素に変化したエッジがプラスエッジとなり、濃度が低い画素から濃度が高い画素に変化したエッジがマイナスエッジとなる。また、路面よりも駐車区画線マーカーの輝度が低い(或いは濃度が濃い)場合は、輝度値や濃淡値の変化は逆転する。いずれの場合でも駐車区画線マーカーでは、その両側縁にプラスエッジとマイナスエッジが検出されるため、後述のペアの抽出が可能である。
上記走査を複数ライン(行)分繰り返すことで、走査方向と交差する方向に連続するプラスエッジで構成される線分を、プラスエッジ(第1のエッジ)の線分として抽出する。さらに連続するマイナスエッジで構成される線分を、マイナスエッジ(第2のエッジ)の線分として抽出する。抽出したプラスエッジの線分及びマイナスエッジの線分に対して、基準長さTに従って長さによるフィルタリングを行い、基準長さTに満たないプラスエッジの線分及びマイナスエッジの線分を除去する。また、長さに加えて、線分が延びる方向(角度)によってフィルタリングしてもよい。
次いで、マーカー検出部111は、フィルタリングの結果残った、プラスエッジの線及びマイナスエッジの各端点の位置(座標)を算出し、この位置に基づいて、所定間隔で隣り合うプラスエッジの線分とマイナスエッジの線分のペアを抽出する。そして、このように所定間隔で隣接するプラスエッジの線分とマイナスエッジの線分のペアで規定される直線を、駐車区画線マーカーと認定する。つまり、隣り合うプラスエッジの線分とマイナスエッジの線分との距離が、所定の線幅W±閾値の範囲内であれば、当該プラスエッジの線分とマイナスエッジの線分は、駐車区画線マーカーの両側縁の少なくとも一部のエッジであることがわかる。これらペアのエッジの線分で規定される直線を、駐車区画線マーカーとして認定できる。
線幅Wとは、駐車区画線マーカー等の線幅である。この線幅は、一般的には15~20cmであるが、駐車場によっては、駐車区画線の幅が30cm程度となる場合もある。よって本発明を適用する駐車場の駐車区画線マーカーの線幅に応じた適宜の値を、パラメータデータ122として記憶部120に記憶し、駐車場の状態に応じた好適な値を選択することが望ましい。
斜線検出部112は、マーカー検出部111により検出されたプラスエッジの線及びマイナスエッジの線のうち、ペアとして抽出されなかったエッジ(単独エッジ)の線分を、「片エッジの線」と認定し、記憶部120に一時的に登録する。そして、斜線検出部112は、エッジ検出部115を用いて、この「片エッジの線」の側方の所定の開始点から、片エッジの線に沿う方向に、画像を走査する。この走査によって、斜線部(走査方向に交差する線)の有無を検出し、斜線部が検出されたときは、当該「片エッジの線」に基づいて、直線部を検出し、この直線部を、斜線部を有するマーカー(本実施形態では、例えば、図5等に示す駐停車禁止マーカー300)に属し、駐車区画線として機能し得る「みなし直線部」(図5等の直線部301c)と認定する。
例えば、斜線検出部112は、画像信号の輝度パターンに基づいて、片エッジの線に沿って画素を比較して、輝度値が低輝度→高輝度→低輝度→・・・に、所定の間隔で変化するか否か(濃淡値の場合は、濃→淡→濃→・・・に変化するか否か)で斜線部の有無を判定する。輝度値等の信号強度の変化は1回、すなわち1本の斜線部を表す輝度値の変化が検出できればよいが、複数回の変化、すなわち複数本の斜線部を表す輝度値の変化を検出すれば、駐停車禁止領域の検出精度をより向上できる。この繰り返しの回数や間隔は、パラメータデータ122として記憶部120に設定しておくことが望ましい。また、走査する長さ(画素数)を記憶しておき、この長さに応じて輝度値の変化を検出してもよい。また、片エッジの線に沿って一ライン(一列)の走査を行うことで、輝度値の変化を検出できるが、複数ライン(複数列)の走査を行えば、検出精度をより向上できる。
なお、斜線部を検出する際の片エッジの線の「側方」とは、斜線部が存在する可能性のある側方であり、具体的には、プラスエッジ及びマイナスエッジのいずれも輝度値が高い側(濃淡値の場合は、濃度が低い(淡い)側)である。
駐車枠検出部113は、マーカー検出部111により検出された駐車区画線マーカーのプラスエッジの線分及びマイナスエッジの線分、並びにみなし直線部の片エッジの線の中から、駐車スペースを構成する可能性のある隣り合うエッジの線分を検出し、これらエッジの線分間の距離に基づいて、駐車スペースを検出する。
より具体的には、駐車枠検出部113は、まず、複数の駐車区画線マーカーのペアのプラスエッジの線及びマイナスエッジの線のうち、駐車スペースを構成する可能性のある隣り合う2本の線を選択する。ここで選択される2本の線は、駐車スペースを仕切る一対の駐車区画線の左右両端を構成する線であり、所定の駐車区画線マーカー(例えば、図8に示すK1)のマイナスエッジの線(Em3)と、これに向かい合う駐車区画線のマーカー(図8に示すK2)のプラスエッジの線(Ep4)である。
そして、駐車枠検出部113は、選択された2本のエッジの線の距離(隣り合う駐車区画線マーカーの内法寸法)を、各エッジの端点の座標に基づいて算出し、算出された距離が、所定範囲内にあるか判定する。この距離が所定の駐車スペース幅L±閾値の範囲内であれば、2本のエッジの線で仕切られた領域を駐車スペースとして検出する。駐車スペース幅Lとしては、普通自動車や小型貨物車用の駐車スペースであれば2m~3mが望ましい。大型貨物車やバス用の駐車スペースであれば、3.3m以上が望ましい。
また、駐車枠検出部113は、斜線検出部112によって検出されたみなし直線部の片エッジの線と、これと隣り合う駐車区画線マーカー200のプラスエッジの線分若しくはマイナスエッジの線分、又は他のみなし直線部の片エッジの線を選択する。これらエッジの線分間の距離が所定の駐車スペース幅L±閾値の範囲内であれば、2本のエッジの線分で仕切られた領域を駐車スペースとして検出することができる。
なお、みなし直線部の片エッジの線に隣り合うエッジの線分を検出する場合は、斜線部301bが検出された側とは反対方向、つまり輝度値が低い方向(路面方向)に向かって検索する。これにより、駐停車禁止領域A3(例えば、図8の線分Ep1とEm1の間、Ep2とEm2の間)が駐車スペースとして誤検知されるのを抑制できる。
そして、駐車枠検出部113は、検出された駐車スペースに基づいて、駐車スペースの形状、つまり駐車枠(図5等に示す202)を推定し、その座標値を駐車枠登録データ121として記憶部120に登録する。
表示制御部114は、カメラ20により撮像された車両V周辺の路面画像や、駐車枠検出部113により検出、推定された駐車枠を示す画像をこの路面画像に適宜重複して、あるいは単独でナビゲーション装置(表示装置)30のモニター31に表示させるための表示制御信号をナビゲーション装置30に送出する。
主に車両制御ECU40から構成される記憶部120は、ハードディスクドライブ等の大容量記憶媒体やROM、RAM等の半導体記憶媒体などの記憶媒体を有する。記憶部120には、制御部110における各種動作の際に用いられる各種データが一時的または非一時的に格納される。
また、記憶部120には駐車枠登録データ121が格納される。この駐車枠登録データ121は、駐車枠検出部113により検出、推定された駐車枠に関するデータである。また、記憶部120にはパラメータデータ122が格納されている。このパラメータデータ122は、マーカー検出部111、斜線検出部112、駐車枠検出部113及びエッジ検出部115が使用する予め決められた各種パラメータに関するデータである。パラメータデータ122としては、例えば、駐車区画線マーカーの線幅W、基準長さT、駐車区画線マーカーの延在方向の角度D、駐車スペース幅L、斜線検出部112が斜線部を検出する際の走査開始点Sの座標、斜線部の幅、及びこれらの閾値、等が挙げられる。これらのパラメータデータ122は、駐車支援装置1が使用される国、地域、さらには駐車スペース(駐車枠)の形状、大きさ、駐車区画線の幅、長さ、延在角度等に基づき、任意に設定及び変更できる。また、様々なマーカーに対応して、複数のパラメータを格納し、駐車スペースの検出対象の駐車場に応じた適切なパラメータを選択する構成とすることもできる。
(画像処理装置の動作)
次に、本実施の形態である画像処理装置100の動作の一例を図4のフローチャート及び図5~図9を参照して説明する。
図4は画像処理装置100の動作を説明するためのフローチャートである。図4のフローチャートに示す動作は、運転者が図略の自動駐車開始スイッチを操作して自動駐車開始の指示入力を行うことにより開始する。
ステップS1では、画像処理装置100の制御部110が、カメラ20により撮像された車両V周囲の路面の画像信号を取得する。
ステップS2では、ステップS1により取得された画像信号に基づき、制御部110がこれら画像信号を合成した信号を生成する。ステップS2において合成される信号は、あたかも車両Vの上方にカメラを設置して真下を見下ろしたような画像(俯瞰画像)をナビゲーション装置30に表示させるための信号である。このような俯瞰画像を生成する技術は公知であり、一例として、特開平3-99952号公報や特開2003-118522号公報に開示された技術が知られている。
なお、ステップS2において画像合成作業を行わず、あるいは、次のステップS3におけるプラスエッジとマイナスエッジの抽出の後にステップS2における画像合成作業を行ってもよい。しかしながら、俯瞰画像を生成してからプラスエッジとマイナスエッジの抽出作業を行うほうが画像処理装置100の処理負担が低減できる。
ステップS3では、前述したように、マーカー検出部111がステップS2で合成した画像を所定方向に走査し、画像信号の輝度値に基づいて、画像中のプラスエッジ及びマイナスエッジを抽出する。
駐車場等の路面に描かれたマーカーの一例を、図5を参照して説明する。図5に示す駐車場Pは、車両Vを駐車させる駐車領域A1と、車両Vの通行用として設けられた通路領域A2と、車両Vの立ち入りや駐停車を禁止する領域(以下、「駐停車禁止領域A3」という)と、を有する。駐停車禁止領域A3は斜線で表されるため、「斜線領域」や「ゼブラゾーン」等と呼ばれることもある。そして、この駐車場Pの路面には、駐車領域A1と通路領域A2と駐停車禁止領域A3とを区分する境界部分に複数のマーカー(駐車区画線マーカー200、駐停車禁止マーカー300)が描かれている。
図5に示す駐車区画線マーカー200は、駐車区画線を表すマーカーであり、通路領域A2における車両Vの進行方向(図中矢印で示す)に交差する方向、つまり駐車領域A1に向かって延びている。図5に示す例では、駐車区画線マーカー200は、進行方向に対して略直角に延びるように描かれている。
図5に示す駐停車禁止マーカー300は、駐停車禁止領域A3を表すマーカーであり、駐停車禁止領域A3を囲む略矩形状の外周線301aと、この外周線301a内に描かれた複数の斜線部301bと、を有する。外周線301aは、駐車スペースに沿って延びる2つの直線部301cと、この2つの直線部301cの互いに対向する端部を連結する1つ又は2つの連結線301dと、を有する。2つの直線部301cは、進行方向に対して略直角に延びるように描かれている。また、複数の斜線部301bは、2つの直線部301c間に、これらに対して傾斜して描かれている。
なお、図5に示す例では、駐停車禁止マーカー300が略矩形状に描かれているが、これに限定されることはなく、駐車場Pの形状等に対応して、略三角形、半円形、長円形等、様々な形状に描かれたものであってもよい。駐車スペースを構成するためには、駐停車禁止マーカー300は、直線部301cを少なくとも1つと、この直線部301cから傾斜して延びる複数の斜線部301bを有していればよい。もう1つの直線部301c及び連結線301dは、必ずしもなくてもよく、また、これらが必ずしも進行方向に沿って又は垂直に延びている必要はなく、傾斜していてもよいし、曲線であってもよい。
そして、隣り合うマーカー200,300により挟まれた領域に、車両Vを駐車すべき駐車スペースがある。この駐車スペースを囲う枠が、駐車枠202である。駐車枠202は、図示例では上面視した状態で車両Vの外形にほぼ外接する矩形状の枠である。しかし、駐車枠202は駐車場Pの路面に描かれているとは限らない。図5に示す例では駐車枠202を表す線が図示されているが、実際には路面に描かれてはいない。従って、駐車支援装置1がこの駐車枠202を目標として車両Vを駐車する駐車支援動作を行うためには、路面上の駐車区画線マーカー200及び駐停車禁止マーカー300の直線部301cを確実に検出し、これらに基づいて駐車枠202を認識する必要がある。
また、図6に、車両Vの進行方向又は後退方向に駐車区画線マーカー200、駐停車禁止マーカー300及び駐車枠202が存在する場合の路面の様子を示す。また、図7に、車両Vの進行方向に対して斜めに駐車区画線マーカー200、駐停車禁止マーカー300及び駐車枠202が存在する場合の路面の様子を示す。本実施形態では、複数のカメラ20により撮像された画像信号、又はこれらの画像信号を合成した俯瞰画像を用いることから、図5~図7の例は勿論、車両Vの周囲の所望の方向に存在する駐車スペース及びその駐車枠202を高精度に検出できる。
マーカー検出部111により、図5に示すような駐車区画線マーカー200及び駐停車禁止マーカー300を含む画像中のエッジ検出の動作の詳細について図8及び図9(a)を参照して説明する。図8は、図5の紙面右側の駐車領域A1部分の拡大図であり、図9(a)は図8に示す駐停車禁止マーカー300の拡大図である。
一例として、図8に示すように、X軸(ここでは車両Vの走行方向に沿う方向であって駐車区画線マーカー200の延在方向に直交する方向)を図中の左右方向に設定し、Y軸(ここでは駐車領域A1の方向であって駐車区画線マーカー200の延在方向)を図中の上下方向に設定する。マーカー検出部111は、エッジ検出部115に指示して、図8に矢印で示すように、所定の検知範囲Oを、駐車区画線マーカー200及び直線部301cの延在方向に直交する方向であって図中の左から右(X軸正方向)に向けて走査する。これにより、画像中のプラス(+)エッジ及びマイナス(-)エッジを検出していく。
図8に、検出されたプラスエッジを太破線で示し、マイナスエッジを太実線で示した。この図8に示すように、2つの駐停車禁止マーカー300の外周部分であって、各々の一方の直線部301cの左側(走査元)にプラスエッジの線分Ep1,Ep2が検出され、他方の直線部301cの右側(走査先)にマイナスエッジの線分Em1,Em2が検出された。また、2つの駐車区画線マーカー200の左側にプラスエッジの線分Ep3,Ep4が検出され、右側にマイナスエッジの線分Em3,Em4が検出された。さらに、駐停車禁止マーカー300の斜線部301bの両側、直線部301cの内側、直線部301cと連結線301dの境界部分にも、それぞれ短いプラスエッジ及びマイナスエッジが検出された。このとき、路面上での光の反射や、ゴミや汚れ等がある場合、これらのエッジもノイズとして検出されることがある。なお、図中の右から左、つまりX軸負方向に画素を走査した場合は、プラスエッジとマイナスエッジは逆転する。
図4に戻って、ステップS4では、マーカー検出部111がパラメータデータ122に格納された駐車区画線に関するパラメータ(基準長さT、角度D等)に基づき、ステップS3で検出したプラスエッジ及びマイナスエッジのフィルタリングを行う。このフィルタリングは、次のステップS5のペアの抽出の後に行ってもよいが、ペアの抽出の前に行って、ノイズを除去することで、画像処理を高速化できる。
まず、マーカー検出部111は基準長さT以上の長さを有し、かつ角度D方向に延びるプラスエッジの線分及びマイナスエッジの線分を抽出する。基準長さTは、例えば、車両Vの車長分(例えば5m)の長さが設定されているが、図8のような検知範囲Oを走査するときは、車長よりも短い長さが設定されている。角度Dは、車両Vの走行方向、画像を撮影したカメラ20の向き等を考慮した角度が設定されている。図5の場合は、駐車区画線マーカー200は、走行方向に対して駐車領域A1に向かって略直角に延びる直線であるため、角度D=90°が設定されている。
この処理により、図8において矩形で囲った所定長さで所定方向へ延在するエッジ、つまり駐車区画線マーカー200の両側縁を表すエッジの線分(線分Ep3,Ep4,Em3,Em4)と、駐停車禁止マーカー301の直線部301cの外縁を表すエッジの線分(線分Ep1,Ep2,Em1,Em2)が抽出される。これに対して、斜線部301bの両側、直線部301cの内側及び直線部301cと連結線301dの境界部分に検出された短いエッジは抽出されず、破棄される。また、路面の反射やゴミ等の存在によって検知された短いエッジや、垂直方向以外に延びる長いエッジも抽出されず、ノイズとして破棄される。
次のステップS5で、マーカー検出部111は、抽出された複数のエッジの線分から、プラスエッジの線分とマイナスエッジの線分のペアを抽出する。このとき、画像に基づき路面上で隣り合うプラスエッジとマイナスエッジの距離(図8の例ではW1,W2,W3,W4)を算出し、この距離が所定の線幅W±閾値の範囲内であれば、これらをペアと認定する。このようにして抽出された各ペアに基づき、駐車区画線マーカー200を検出することができる。
図8の例では、距離W3,W4=線幅Wであるため、プラスエッジの線分Ep3とマイナスエッジの線分Em3、プラスエッジの線分Ep4とマイナスエッジの線分Em4が、それぞれペアとして抽出される。これにより、駐車区画線マーカー200(K1,K2)が検出できる。これに対して、距離W1,W2>線幅Wであるため、プラスエッジの線分Ep1、マイナスエッジの線分Em1、プラスエッジの線分Ep2及びマイナスエッジの線分Em2は、ペアとして抽出されない。
次に、ステップS6では、マーカー検出部111は、ステップS5でペアとして抽出されなかったプラスエッジの線分及びマイナスエッジの線分を、「片エッジの線」として記憶部120に一時的に登録する。
次のステップS7では、駐車枠検出部113が、ステップS5で抽出された駐車区画線マーカー200に基づいて、駐車スペース及び駐車枠を検出する。それには、前述したように駐車スペースを構成する可能性のある隣り合う駐車区画線マーカー200の、向かい合うプラスエッジの線分とマイナスエッジの線分間の距離を算出する。この距離がパラメータとして設定された所定の駐車スペース幅L±閾値の範囲であれば、この2つの駐車区画線マーカー200間の領域が駐車スペースであると判定する。図8の例では、2つの駐車区画線マーカー200の向かい合うマイナスエッジの線分Em3とプラスエッジの線分Ep4との間の距離L1=Lであり、これらの間に駐車スペースが検出される。そして、検出された駐車スペースを構成する向かい合うプラスエッジの線分とマイナスエッジの線分に沿った線を長辺とし、向かい合う両端をそれぞれ結んだ線を短辺とする矩形状の枠が駐車枠202(図5参照)であると推定できる。
駐車枠検出部113は、各駐車枠202を構成する向かい合うプラスエッジの線分及びマイナスエッジの線分の端点の座標値を各々算出し、駐車枠登録データ121として記憶部120に登録する。このとき、駐車枠202の少なくとも通路領域A2に近い側の2つの端点の座標値を登録すれば、記憶容量をできるだけ少なくしつつ、駐車枠202を特定できるが、4点の座標値を登録してもよい。また、駐車区画線マーカー200の角度Dを、駐車枠202の角度として駐車枠登録データ121に加えてもよい。
次に、片エッジの線に対する処理を実行すべく、ステップS8で、片エッジの線が検出されたか否かを判定する。片エッジの線が検出されたと判定された場合(YES)、ステップS9に進む。これに対して、片エッジの線が検出されなかったと判定された場合(NO)、すべての駐車スペースが検出できており、駐車枠202の推定と登録もできているとして、ステップS9~S12をスキップして処理を終了する。
ステップS9では、ステップS6で検出された片エッジの線の周囲に斜線部が存在するか否かを判定するため、斜線検出部112が斜線部301bの検出処理を行う。つまり、片エッジの線の周囲に斜線部301bが存在する場合は、当該片エッジの線は、駐停車禁止領域A3に描かれた駐停車禁止マーカー300の直線部301cのエッジであると判断できる。これに対して、斜線部が存在しない場合は、片エッジの線が、路面で光の反射等によるノイズであると判断できる。
図9(a)を用いて、ステップS9の斜線部301bの検出処理の具体的手順の一例を説明する。片エッジの線が駐停車禁止マーカー300の直線部301cのエッジである場合、高い輝度値に切り替わる方向に斜線部が存在する。つまり、片エッジの線がプラスエッジの線分(例えば、線分Ep1)の場合は、その右側(X軸正方向)に斜線部301bが存在し、マイナスエッジの線分(例えば、線分Em1)の場合は、その左側(X軸負方向)に斜線部301bが存在する。そのため、プラスエッジの右側又はマイナスエッジの左側の、予め決められた走査開始点Sの画素から、斜線部301bが存在する方向、図9(a)の場合は、エッジに沿ったY軸正方向(矢印方向)へ画素を走査していく。図9(a)の斜線部301bの外縁に付した太破線は、Y軸正方向に走査したときに検出されるプラスエッジを表し、太実線はマイナスエッジを表す。
走査開始点Sの座標は、例えば、エッジの始点(端点)に対する相対的な座標の値が、パラメータデータ122として記憶部120に格納されている。駐停車禁止マーカー300では、斜線部301bは、直線部301cの内側に存在することから、この直線部301cの所定の線幅Wよりも、エッジの始点と走査開始点Sとの距離が長くなるように、X座標が設定されている。また、走査開始点SのY座標は、エッジの始点から、連結線301dの外周縁までの距離wよりも外側(Y軸負方向)に設定されている。
また、図9(b)に、駐停車禁止マーカー300の直線部301cが、Y軸に対して傾斜して描かれている場合の走査開始点S及び走査の方向を示す。この図9(b)の場合でも、片エッジの線のY軸に対する傾斜角度、片エッジの線の始点及び終点の位置座標に基づいて、走査開始点Sを設定し、この走査開始点Sから、片エッジの線の延在方向に沿って画素の走査を実行する。これにより、斜線部301bの有無を高精度に検出できる。
走査開始点Sからの画素の走査の結果、例えば、輝度値が低輝度(例えば、黒)→高輝度(例えば、白)→低輝度→高輝度→低輝度→・・・と変化し、かつ高輝度と低輝度との間隔が、パラメータデータ122として設定された所定の間隔で、繰り返し現れたときに、斜線部301bが存在すると判定できる。これに対して、走査の結果、輝度値の変化がない場合は、斜線部301bが存在しないと判定できる。
図4に戻り、次のステップS10では、ステップS9での走査の結果に基づいて、斜線部301bが検出された片エッジの線が存在するか否かを判定する。斜線部301bが検出された片エッジの線が存在する場合(YES)、ステップS11に進む。これに対して、斜線部301bが検出された片エッジの線が存在しない場合(NO)、駐車区画線として機能する直線部301cが存在しないことから、検出された片エッジの線はノイズとして破棄し、ステップS11、S12をスキップして処理を終了する。
ステップS11では、斜線部301bが検出された片エッジの線を、駐停車禁止マーカー300を構成する直線部301cを構成するエッジであるとみなし、この片エッジの線に基づいて、直線部301cを検出し、これを「みなし直線部」と認定する。
ステップS12では、駐車枠検出部113が、ステップS11で特定された直線部301cに基づいて、駐車スペース及び駐車枠202を検出する。それには、駐車枠検出部113は、直線部301cの片エッジの線の側方(斜線部301bが検出された側とは異なる側)を検索し、隣り合う駐車区画線マーカー200又は直線部301cを検出する。そして、上記ステップS7での処理と同様に、片エッジの線と、これと向かい合うエッジの線分との間の距離を算出し、この距離が所定の駐車スペース幅L±閾値の範囲であれば、これらエッジの線分間の領域を駐車スペースとして検出する。この処理を、斜線部301bが検出された片エッジの線の分だけ実行する。これにより、例えば、図8の例では、片エッジの線(線分Em1)と、片エッジの線(線分Ep2)との間、及び片エッジの線(線分Em2)と駐車区画線マーカー200のプラスエッジの線分Ep3との間に、それぞれ駐車スペースが検出される。
駐車枠検出部113は、駐車スペースを構成する向かい合うプラスエッジの線分とマイナスエッジの線分に沿った線を長辺とし、向かい合う両端をそれぞれ結んだ線を短辺とする矩形状の枠を駐車枠202と推定する。以上により、駐停車禁止領域A3に隣接する駐車枠202を、取りこぼすことなく確実に検出することができる。
そして、検出された駐停車禁止領域A3に隣接する駐車枠202について、各駐車枠202を構成する向かい合うプラスエッジの線分及びマイナスエッジの線分の端点の座標値を各々算出し、駐車枠登録データ121として記憶部120に登録する。なお、ステップS7の駐車区画線マーカー200に基づく駐車スペース及び駐車枠202の検出並びに登録も、このステップS11で実行してもよいが、このステップS7の処理を先に行い、その後に片エッジの線に対するステップS8以降の処理を実行するほうが、処理が効率的となり、画像処理全体の処理スピードを速くできる。
(画像処理装置の効果)
以上のように構成された本実施の形態である画像処理装置100では、マーカー検出部111が、撮影された画像から、エッジ検出によって所定長さのプラスエッジ及びマイナスエッジを検出し、この中から所定間隔で隣り合うエッジのペアを抽出し、抽出された各ペアに基づいて、前記駐車区画線マーカー200を検出している。また、斜線検出部112が、ペアとして抽出されなかった片エッジの線に対して、エッジ検出によって斜線部301bの有無を判定し、斜線部301bが検出された片エッジの線に基づいて、直線部を検出し、これを駐停車禁止マーカー300に属し駐車区画線として機能し得る「みなし直線部」と認定する。そして、駐車枠検出部113が、抽出された駐車区画線マーカー200のプラスエッジ及びマイナスエッジ、並びにみなし直線部の片エッジの線に基づいて駐車スペースを検出する。
従って、上述した従来の画像処理装置と異なり、本実施の形態では、駐車区画線マーカー200で挟まれた駐車スペースだけでなく、駐停車禁止領域A3に隣接する駐車スペース確実に検出することができ、駐車スペースの高い検出率を得ることができる。
また、駐停車禁止領域A3に描かれた駐停車禁止マーカー300を、パターンマッチングで検出する手法もあるが、駐停車禁止領域A3は、矩形、三角形、半円形等、様々な形状を呈し、大きさも様々である。そのため、複数のパターンを記憶しておき、これらとマッチングしたり、さらにエッジを検出したりする必要があり、演算処理に膨大な時間がかかる。これに対して、パターンマッチングを用いていない本実施形態の画像処理装置100及び画像処理方法では、演算処理コストを低減できる。以上より、駐車場P等の路面に設けられた駐車スペースの検出を迅速かつ確実に行うことが可能となる。
また、斜線検出部112は、画像信号が低い値から高い値に変化するエッジと、高い値から低い値に変化するエッジが、所定間隔で少なくとも1回検出されたとき、又は複数回連続して検出されたとき、斜線部301bが存在すると判定している。これにより、斜線部301bの有無を、より高速かつより高精度に検出できる。さらに斜線検出部112は、斜線部301bを検出する際に、片エッジの線の、画像信号が高い値となる側方を走査している。これにより、駐停車禁止領域A3が駐車スペースとして誤検知されるのを抑制でき、駐車スペースの検出精度の向上及び演算理処理の高速化が可能となる。
また、マーカー検出部111及び斜線検出部112は、画像信号の輝度パターン又は濃淡パターンに基づいてエッジを検出するものとすれば、プラスエッジ及びマイナスエッジを、より高速かつより精度よく検出できる。
また、本実施形態では、駐車区画線マーカー200の基準長さT、線幅W、延在方向の角度D及び駐車スペース幅Lが設定された記憶部120を備えている。このとき、駐車場Pの駐車枠202の形状や大きさ等に応じた適切な値を設定することで、駐車場Pの状態に合致し、より適切かつより高精度な駐車枠202の検出が可能となる。
また、駐停車禁止領域A3では、斜線との交差部分のエッジが極端に短く検出され、短いエッジを直線部のエッジとして登録すると、ゴミや光の反射により検出されたエッジ(ノイズ)との区別がつきにくい。また、短いエッジを連結して所定長さの片エッジの線とすることも考えられるが、処理時間がかかり、この場合もノイズのエッジも連結してしまう可能性もあり、結果的に駐車枠の検出精度や処理速度に影響する。
これに対して、本実施形態に係る画像処理装置100では、所定長さのプラスエッジ及びマイナスエッジのみを抽出することで、ノイズとなる短いエッジを破棄している。さらにペアとして抽出されなかった所定長さの片エッジの線に対して、斜線部301bの有無を判定し、斜線部が存在すると判定された片エッジの線に基づいて、みなし直線部を検出している。そして、斜線部が存在しないと判定された片エッジの線は破棄している。そのため、みなし直線部の検出精度が向上し、駐停車禁止マーカー300に隣接する駐車枠202の検出率を著しく向上させることができる。
以上、図面を参照して、本発明の実施の形態を詳述してきたが、具体的な構成は、この実施の形態及び実施例に限らず、本発明の要旨を逸脱しない程度の設計的変更は、本発明に含まれる。
例えば、上述の実施の形態である画像処理装置100では、画像の輝度値や濃淡値により画像信号の高低差の判定を行っていたが、画像のRGB値から画像信号の高低差の判定を行ってもよい。
V 車両
P 駐車場
1 駐車支援装置
20 カメラ(撮像装置)
22 カメラECU
100 画像処理装置
110 制御部
111 マーカー検出部
112 斜線検出部
113 駐車枠検出部
200 駐車区画線マーカー
202 駐車枠
300 駐停車禁止マーカー
301b 斜線部
301c 直線部(みなし直線部)

Claims (6)

  1. 駐車区画線マーカーと、斜線部を有するマーカーとで仕切られた駐車場の駐車スペースを検出する画像処理装置であって、
    車両の周囲の路面を撮像する撮像装置から出力される画像信号に基づく画像を、所定方向に走査し、前記画像信号が低い値から高い値に変化する所定長さの第1のエッジ及び前記画像信号が高い値から低い値に変化する所定長さの第2のエッジを検出し、検出された各エッジの中から、所定間隔で隣り合う前記第1のエッジ及び前記第2のエッジのペアを抽出し、抽出された各ペアに基づいて、前記駐車区画線マーカーを検出するマーカー検出部と、
    前記マーカー検出部で前記ペアとして抽出されなかった所定長さの前記第1のエッジ又は前記第2のエッジを単独エッジと認定し、前記単独エッジの側方の所定の開始点から当該単独エッジに沿う方向にエッジを検出して前記斜線部の有無を判定し、前記斜線部が存在すると判定された前記単独エッジに基づいて直線部を検出し、当該直線部を、前記斜線部を有するマーカーに属するみなし直線部と認定する斜線検出部と、
    前記駐車区画線マーカーの前記第1のエッジ及び前記第2のエッジ、並びに前記みなし直線部の前記単独エッジから、隣り合う前記エッジを検出し、これらエッジ間の距離に基づいて、前記駐車スペースを検出する駐車枠検出部と、を有することを特徴とする画像処理装置。
  2. 前記斜線検出部は、前記画像信号が低い値から高い値に変化するエッジと、高い値から低い値に変化するエッジが、所定間隔で少なくとも1回検出されたとき、又は複数回連続して検出されたとき、前記斜線部が存在すると判定することを特徴とする請求項1に記載の画像処理装置。
  3. 前記斜線検出部は、前記斜線部を検出する際に、前記単独エッジの、前記画像信号が高い値となる側方を走査することを特徴とする請求項1又は2に記載の画像処理装置。
  4. 前記マーカー検出部及び前記斜線検出部は、前記画像信号の輝度パターン又は濃淡パターンに基づいて前記エッジを検出することを特徴とする請求項1又は2に記載の画像処理装置。
  5. 前記駐車区画線マーカーの基準長さ、線幅、延在方向の角度及び駐車スペース幅が設定された記憶部を備えたことを特徴とする請求項1~3のいずれか一項に記載の画像処理装置。
  6. 駐車区画線マーカーと、斜線部を有するマーカーとで仕切られた駐車場の駐車スペースを検出する画像処理方法であって、
    車両の周囲の路面を撮像する撮像装置から出力される画像信号に基づく画像を、所定方向に走査し、前記画像信号が低い値から高い値に変化する所定長さの第1のエッジ及び前記画像信号が高い値から低い値に変化する所定長さの第2のエッジを検出し、検出された各エッジの中から、所定間隔で隣り合う前記第1のエッジ及び前記第2のエッジのペアを抽出し、抽出された各ペアに基づいて、前記駐車区画線マーカーを検出する工程と、
    前記マーカー検出部で前記ペアとして抽出されなかった所定長さの前記第1のエッジ又は前記第2のエッジを単独エッジと認定し、前記単独エッジの側方の所定の開始点から当該単独エッジに沿う方向にエッジを検出して前記斜線部の存在を判定し、前記斜線部が存在すると判定された前記単独エッジに基づいて直線部を検出し、当該直線部を、前記斜線部を有するマーカーに属するみなし直線部と認定する工程と、
    前記駐車区画線マーカーの前記第1のエッジ及び前記第2のエッジ、並びに前記みなし直線部の前記単独エッジから、隣り合う前記エッジを検出し、これらエッジ間の距離に基づいて、前記駐車スペースを検出する工程と、
    を含むことを特徴とする画像処理方法。
JP2019024147A 2019-02-14 2019-02-14 画像処理装置及び画像処理方法 Active JP7229804B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2019024147A JP7229804B2 (ja) 2019-02-14 2019-02-14 画像処理装置及び画像処理方法
CN202010073488.6A CN111563405B (zh) 2019-02-14 2020-01-22 图像处理装置和图像处理方法
EP20153451.8A EP3696723B1 (en) 2019-02-14 2020-01-23 Image processing device and image processing method
US16/782,759 US11430149B2 (en) 2019-02-14 2020-02-05 Image processing device and image processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019024147A JP7229804B2 (ja) 2019-02-14 2019-02-14 画像処理装置及び画像処理方法

Publications (2)

Publication Number Publication Date
JP2020135084A JP2020135084A (ja) 2020-08-31
JP7229804B2 true JP7229804B2 (ja) 2023-02-28

Family

ID=69190724

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019024147A Active JP7229804B2 (ja) 2019-02-14 2019-02-14 画像処理装置及び画像処理方法

Country Status (4)

Country Link
US (1) US11430149B2 (ja)
EP (1) EP3696723B1 (ja)
JP (1) JP7229804B2 (ja)
CN (1) CN111563405B (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7123844B2 (ja) * 2019-03-29 2022-08-23 本田技研工業株式会社 駐車場管理装置、駐車場管理方法、およびプログラム
JP7296768B2 (ja) 2019-04-22 2023-06-23 フォルシアクラリオン・エレクトロニクス株式会社 画像処理装置及び画像処理方法
JP7212317B2 (ja) * 2019-10-11 2023-01-25 トヨタ自動車株式会社 車両駐車支援装置
JP7467202B2 (ja) * 2020-03-31 2024-04-15 本田技研工業株式会社 駐車支援システム
JP2022175719A (ja) * 2021-05-14 2022-11-25 トヨタ自動車株式会社 自動駐車サーバ、自動運転車両、自動駐車システム
US20230031425A1 (en) * 2021-08-02 2023-02-02 DUS Operating Inc, Methodology to estimate slot line direction for parking slot detection
JP7501500B2 (ja) * 2021-11-15 2024-06-18 株式会社アイシン 駐車支援装置

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014083824A1 (ja) 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
US20150130640A1 (en) 2013-11-14 2015-05-14 Hyundai Motor Company Parking area detecting apparatus and method thereof
JP2018185589A (ja) 2017-04-24 2018-11-22 アイシン精機株式会社 駐車支援装置

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0399952A (ja) 1989-09-12 1991-04-25 Nissan Motor Co Ltd 車両用周囲状況モニタ
JP3943363B2 (ja) 2001-10-18 2007-07-11 クラリオン株式会社 駐車支援装置
JP4575031B2 (ja) * 2004-05-31 2010-11-04 三菱電機株式会社 車載用路面標示検出装置
JP2012210864A (ja) 2011-03-31 2012-11-01 Fujitsu Ten Ltd 画像処理装置、駐車支援システム、画像処理方法、及び、駐車支援方法
JP2013018406A (ja) 2011-07-12 2013-01-31 Fujitsu Ten Ltd 駐車枠の認識装置、駐車枠の認識方法、及び、プログラム
JP5981322B2 (ja) * 2012-11-27 2016-08-31 クラリオン株式会社 車載画像処理装置
JP6328369B2 (ja) * 2012-11-27 2018-05-23 クラリオン株式会社 車載用制御装置
WO2014083828A1 (ja) * 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
JP2014106704A (ja) * 2012-11-27 2014-06-09 Clarion Co Ltd 車載画像処理装置
JP5846317B2 (ja) * 2012-11-27 2016-01-20 日産自動車株式会社 車両用加速抑制装置
JP5915769B2 (ja) * 2012-11-27 2016-05-11 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
CN105303872B (zh) * 2015-08-28 2019-03-01 安徽科创生产力促进中心有限责任公司 停车收费***
BR112018008270B1 (pt) * 2015-10-22 2023-03-21 Nissan Motor Co., Ltd Dispositivo e método de detecção de linha de vaga de estacionamento
CN109074743A (zh) * 2016-04-28 2018-12-21 日产自动车株式会社 停车辅助方法及装置
KR102001916B1 (ko) * 2017-05-30 2019-07-19 엘지전자 주식회사 주차 보조 시스템
CN108386028B (zh) * 2018-05-04 2023-07-18 吉林大学 适用于多类型停车位的易扩展双层自动停车装置及其控制方法
US10896336B2 (en) * 2018-06-25 2021-01-19 Denso Ten Limited Parking compartment recognition apparatus
JP7296768B2 (ja) * 2019-04-22 2023-06-23 フォルシアクラリオン・エレクトロニクス株式会社 画像処理装置及び画像処理方法
JP7499606B2 (ja) * 2020-05-12 2024-06-14 フォルシアクラリオン・エレクトロニクス株式会社 画像処理装置及び画像処理方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014083824A1 (ja) 2012-11-27 2014-06-05 日産自動車株式会社 車両用加速抑制装置及び車両用加速抑制方法
US20150130640A1 (en) 2013-11-14 2015-05-14 Hyundai Motor Company Parking area detecting apparatus and method thereof
JP2018185589A (ja) 2017-04-24 2018-11-22 アイシン精機株式会社 駐車支援装置

Also Published As

Publication number Publication date
CN111563405B (zh) 2023-08-22
JP2020135084A (ja) 2020-08-31
US11430149B2 (en) 2022-08-30
US20200265605A1 (en) 2020-08-20
EP3696723A1 (en) 2020-08-19
CN111563405A (zh) 2020-08-21
EP3696723B1 (en) 2023-11-08

Similar Documents

Publication Publication Date Title
JP7229804B2 (ja) 画像処理装置及び画像処理方法
CN111824129B (zh) 图像处理装置及图像处理方法
CN113313935B (zh) 图像处理装置及图像处理方法
JP7246167B2 (ja) 画像処理装置及び画像処理方法
CN113212352B (zh) 图像处理装置以及图像处理方法
US11967158B2 (en) Image processor and image processing method
JP2008213744A (ja) 車輌周辺視認装置
US20210402987A1 (en) Image processor and image processing method
CN111862108A (zh) 图像处理装置及图像处理方法
JP6496619B2 (ja) 車両用駐車支援装置
CN113327201A (zh) 图像处理装置及图像处理方法
JP2020194470A (ja) 画像処理装置及び画像処理方法
JP7446851B2 (ja) 画像処理装置及び画像処理方法
JP7446830B2 (ja) 画像処理装置及び画像処理方法
JP7453008B2 (ja) 画像処理装置及び画像処理方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220104

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230117

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230124

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230215

R150 Certificate of patent or registration of utility model

Ref document number: 7229804

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150