JP6620733B2 - 認識装置 - Google Patents

認識装置 Download PDF

Info

Publication number
JP6620733B2
JP6620733B2 JP2016241223A JP2016241223A JP6620733B2 JP 6620733 B2 JP6620733 B2 JP 6620733B2 JP 2016241223 A JP2016241223 A JP 2016241223A JP 2016241223 A JP2016241223 A JP 2016241223A JP 6620733 B2 JP6620733 B2 JP 6620733B2
Authority
JP
Japan
Prior art keywords
recognition
recognition process
vehicle
unit
host vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016241223A
Other languages
English (en)
Other versions
JP2018095067A (ja
Inventor
横山 隆久
横山  隆久
健介 横井
健介 横井
建 桑原
建 桑原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Denso Corp
Original Assignee
Denso Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Denso Corp filed Critical Denso Corp
Priority to JP2016241223A priority Critical patent/JP6620733B2/ja
Priority to PCT/JP2017/042416 priority patent/WO2018110262A1/ja
Publication of JP2018095067A publication Critical patent/JP2018095067A/ja
Priority to US16/439,000 priority patent/US11042996B2/en
Application granted granted Critical
Publication of JP6620733B2 publication Critical patent/JP6620733B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/292Multi-camera tracking
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V40/00Recognition of biometric, human-related or animal-related patterns in image or video data
    • G06V40/10Human or animal bodies, e.g. vehicle occupants or pedestrians; Body parts, e.g. hands
    • G06V40/16Human faces, e.g. facial parts, sketches or expressions
    • G06V40/172Classification, e.g. identification
    • GPHYSICS
    • G07CHECKING-DEVICES
    • G07CTIME OR ATTENDANCE REGISTERS; REGISTERING OR INDICATING THE WORKING OF MACHINES; GENERATING RANDOM NUMBERS; VOTING OR LOTTERY APPARATUS; ARRANGEMENTS, SYSTEMS OR APPARATUS FOR CHECKING NOT PROVIDED FOR ELSEWHERE
    • G07C5/00Registering or indicating the working of vehicles
    • G07C5/08Registering or indicating performance data other than driving, working, idle, or waiting time, with or without registering driving, working, idle or waiting time
    • G07C5/0816Indicating performance data, e.g. occurrence of a malfunction
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S13/00Systems using the reflection or reradiation of radio waves, e.g. radar systems; Analogous systems using reflection or reradiation of waves whose nature or wavelength is irrelevant or unspecified
    • G01S13/86Combinations of radar systems with non-radar systems, e.g. sonar, direction finder
    • G01S13/867Combination of radar systems with cameras
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Oral & Maxillofacial Surgery (AREA)
  • Human Computer Interaction (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Traffic Control Systems (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、カメラにより撮影された画像に基づき、周辺情報を認識する認識装置に関するものである。
従来、車両では、複数の車載カメラにより撮影された画像に基づき、様々な処理が行われている(例えば、特許文献1)。特許文献1では、車両後方に設けられたリアカメラにより撮影された後方画像と、サイドミラーに設けられたサイドカメラにより撮影された後方画像とに基づき、画像の合成処理が行われている。合成処理により生成された合成画像は、車両に搭載された表示装置に表示される。このように、複数のカメラにより撮影された撮影画像を利用して、広域にわたって車両周辺の状況を確認することができる。
米国特許第9131120号明細書
ところで、近年では、フロントカメラにより撮影された前方画像に基づいて車両前方の情報を認識するとともに、リアカメラにより撮影された後方画像に基づいて車両後方の情報を認識する車両が存在する。このような車両では、前方画像に基づき演算する演算部とは別に、後方画像に基づき演算する演算部が設けられており、車両に搭載されるシステムの構成が複雑になるという問題があった。
本発明は、上記事情に鑑みてなされたものであり、構成を簡素化することができる認識装置を提供することを主たる目的とするものである。
本発明は、上記課題を解決するために、以下のようにした。
認識装置は、フロントカメラ及びリアカメラの各画像情報を入力する入力部と、前記入力部に入力された前記フロントカメラの画像情報を対象とする認識処理である前方認識処理を実行するとともに、前記入力部に入力された前記リアカメラの画像情報を対象とする認識処理である後方認識処理を実行する演算部と、を備え、前記演算部は、自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とを取得する取得部と、前記取得部により取得された前記情報に基づいて、前記前方認識処理及び前記後方認識処理としてそれぞれ実行される処理を選別する処理選別部と、を備える。
車両の前進時には、前方画像に基づき周辺情報を認識する必要があり、後退時には、後方画像に基づき周辺情報を認識する必要があることを考えると、前進時には前方認識処理を実行し、後退時には後方認識処理を実行すればよい。
ただし、自車両の走行状態によっては、前進時にも後方認識を行い、逆に後退時にも前方認識を行うことが望ましい場合がある。そこで、自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とに基づいて、前方認識処理及び後方認識処理としてそれぞれ実行される処理を選別することとした。これにより、より適切な情報を認識することができる。また、演算部が、前方認識処理及び後方認識処理を実行するため、演算部を別々に設けた場合と比較して、構成を簡素にすることができる。
認識システムを示すブロック図。 画像認識処理を示すフローチャート。 画像表示処理を示すフローチャート。 (a)は、シフトポジションを示すタイムチャート、(b)は、自車両の速度を示すタイムチャート、(c)は、前方認識処理の処理量を示すタイムチャート、(d)は、後方認識処理の処理量を示すタイムチャート。 (a)は、別実施形態におけるシフトポジションを示すタイムチャート、(b)は、別実施形態における自車両の速度を示すタイムチャート、(c)は、別実施形態における前方認識処理の処理量を示すタイムチャート、(d)は、別実施形態における後方認識処理の処理量を示すタイムチャート。
(第1実施形態)
以下、本発明の実施形態について図に基づいて説明する。なお、以下の各実施形態相互において、互いに同一もしくは均等である部分には、図中、同一符号を付してある。
実施形態にかかる認識装置10について、図面を参照しつつ説明する。図1に示すように、認識装置10は、フロントカメラ21と通信可能に接続されている。フロントカメラ21は、例えばCCDカメラ、CMOSイメージセンサ、近赤外線カメラ等の単眼撮像装置である。フロントカメラ21は、例えば車両のフロントガラスの上端付近に配置されており、自車両前方の道路を含む周辺環境を撮影(撮像)する。フロントカメラ21では、前方(例えば、0m〜200m)の周辺環境を撮影する。また、フロントカメラ21は、車幅方向において車両中央に取り付けられており、車両前方へ向けて所定角度範囲(例えば、20度〜50度)で広がる領域を撮像する。
フロントカメラ21で撮影された前方画像を含む前方画像情報は、認識装置10に出力される。なお、本実施形態におけるフロントカメラ21は、単眼カメラであるが、複数台のカメラ(複眼カメラ)を備えてもよい。
認識装置10は、リアカメラ22と通信可能に接続されている。リアカメラ22は、例えばCCDカメラ、CMOSイメージセンサ、近赤外線カメラ等の単眼撮像装置である。リアカメラ22は、例えば車両のリアバンパーや車両後方のナンバープレートなどに配置されており、自車両後方の道路を含む周辺環境を撮影(撮像)する。リアカメラ22では、後方(例えば、0m〜20m)の周辺環境を撮影する。また、リアカメラ22は、車幅方向において車両中央に取り付けられており、車両後方へ向けて所定角度範囲(例えば、140度〜180度)で広がる領域を撮像する。すなわち、リアカメラ22は、フロントカメラ21よりも撮影可能な距離が短い一方、撮影可能な角度が大きくなっている。リアカメラ22で撮影された後方画像を含む後方画像情報は、認識装置10に出力される。なお、本実施形態におけるリアカメラ22は、単眼カメラであるが、複数台のカメラ(複眼カメラ)を備えてもよい。
認識装置10は、変速装置23と通信可能に接続されている。変速装置23により、自車両のシフトポジションが設定される。具体的には、図示しないシフトレバー等が運転者により操作されることにより、変速装置23は、車両のシフトポジションを設定する。シフトポジションには、例えば、自車両が後退する状態であることを示す位置であるRポジション(リバース)、自車両が前進する状態であることを示す位置であるDポジション(ドライブ)が少なくともある。また、シフトポジションには、他に、Nポジション(ニュートラル)、Pポジション(パーキング)などもある。認識装置10は、変速装置23から、車両のシフトポジションを示す情報を取得する。
認識装置10は、車両に設けられた車速センサ24と通信可能に接続されている。車速センサ24は、自車両の車速を検出するセンサである。認識装置10は、車速センサ24から自車両の車速を示す情報を取得する。
認識装置10は、入力インターフェース等の入力部11と、CPU等の演算部12と、を備えたコンピュータである。また、認識装置10は、出力インターフェースや、RAMや、ROMなども備える。演算部12は、情報を取得する取得部13と、実行される処理を選別する処理選別部14と、表示装置25を制御する表示制御部15とによる各種機能を実行する。演算部12により、認識装置10に記憶されたプログラムが実行されることで、各種機能が実現される。この認識装置10は、フロントカメラ21と一体化されており、フロントカメラ21と共に車両のフロントガラスの上端付近に配置されている。つまり、認識装置10は、リアカメラ22と別体であり、リアカメラ22とは別に配置されている。本実施形態における認識システム100は、認識装置10と、フロントカメラ21と、リアカメラ22と、を備えている。
認識装置10は、前方画像及び後方画像を表示する表示装置25と通信可能に接続されている。表示装置25は、例えば、車内の運転席付近に配置され、運転者が視認可能となっている。
認識装置10は、車両制御装置30と通信可能に接続されている。車両制御装置30は、CPU、ROM、RAM、入出力インターフェース等を備えたコンピュータである。車両制御装置30は、認識装置10により認識された周辺情報に基づき、各種機能を実行する。各種機能としては、例えば、車両制御装置30は、衝突判定を行う衝突判定部31と、車両制御を行う車両制御部32とによる各機能を実行する。車両制御装置30に記憶されたプログラムが実行されることで、各種機能が実現される。なお、各種機能は、ハードウェアである電子回路によって実現されてもよく、あるいは、少なくとも一部をソフトウェア、すなわちコンピュータ上で実行される処理によって実現されてもよい。また、車両制御装置30による車両制御用の機能、特に車両の運転支援に関する機能として、ACC(Adaptive Cruise Control)機能や、レーンキーピングアシスト機能や、駐車アシスト機能などが設けられていてもよい。
車両制御装置30は、シリアル通信などの専用線を介して、ブレーキACT(アクチュエータ)26及びスピーカ27と、それぞれ接続されている。車両制御装置30は、ブレーキACT26のバルブの開閉及び開度を制御することで自車両を制動する。ブレーキACT26は、ポンプが作動流体に発生させた油圧により各輪のホイルシリンダ圧を増圧・維持・減圧することで、自車両の加速度(減速度)を制御する。車両制御装置30は、スピーカ27から警告音などの音声を出力させるように、スピーカ27を制御する。
車両制御装置30の衝突判定部31は、車両制御装置30が入力した車両周辺の情報に基づき、衝突判定を行う。具体的には、車両周辺において歩行者が認識されていた(歩行者が存在する旨の情報を入力した)場合、衝突判定部31は、歩行者と、自車両が衝突するか否かを判定する。例えば、衝突判定部31は、歩行者に関する情報(位置、速度、及び進行方向などの情報)に基づき、判定対象となる歩行者の進路を推定するとともに、自車両の状態(速度及び進行方向)に基づき、自車両の進路を推定する。そして、衝突判定部31は、推定した歩行者の進路と、推定した自車両の進路とが交差するか否かに基づき、衝突するか否かを判定する。なお、予測した衝突点(交差点)までの距離が所定距離以下である場合、又は衝突余裕時間(TTC)が所定時間以下である場合、衝突すると判定してもよい。
また、車両周辺において他車両が認識されていた(他車両が存在する旨の情報を入力した)場合、衝突判定部31は、歩行者と同様にして、衝突判定を行う。また、車両周辺において障害物が認識されていた(障害物が存在する旨の情報を入力した)場合、衝突判定部31は、障害物の位置と、自車両の位置から、距離を求め、所定距離以下である場合には、衝突すると判定する。なお、推定した自車両の走行進路上に障害物が存在し、かつ、所定距離以下である場合に、衝突すると判定してもよい。また、衝突余裕時間が所定時間以下である場合、衝突すると判定してもよい。
車両制御部32は、衝突判定部31により衝突すると判定された場合、車両制御を実行する。具体的には、車両制御部32は、衝突すると判定された物標までの距離に基づき、実行させる車両制御を変更する。例えば、車両制御部32は、予め決められた警告距離以上である場合には、警告音を出力させるようにスピーカ27を制御する。一方、所定距離未満である場合、車両制御部32は、自車両を制動させるようにブレーキACT26を制御する。
次に、認識装置10について詳しく説明する。認識装置10の入力部11は、認識装置10の外部から信号を入力する入力インターフェースであり、フロントカメラ21から前方画像情報を入力するとともに、リアカメラ22からの後方画像情報を入力する。入力部11は、所定周期ごとに前方画像情報と後方画像情報とを入力する。
認識装置10の演算部12は、前方画像情報及び後方画像情報が入力された場合、前方画像及び後方画像の歪みを補正する補正処理を行う。特に、リアカメラ22によって撮影される領域の角度は広いため、カメラレンズの性質上、後方画像の端において歪みが生じる。歪みを生じたまま、各種処理を行うと、ずれが生じる原因となる。そこで、認識装置10の演算部12は、前方画像及び後方画像の歪みを補正する補正処理を実行する。
認識装置10の演算部12は、前方画像情報を対象とする認識処理(以下、前方認識処理と示す場合がある)と、後方画像情報を対象とする認識処理(以下、後方認識処理と示す場合がある)とを実行する。前方認識処理及び後方認識処理は、自車両周辺において認識対象とする各種情報を認識するために実行される。前方認識処理として実行される処理には、例えば、歩行者認識処理と、車両認識処理と、障害物認識処理と、区画線認識処理と、道路標識認識処理などが含まれている。また、後方認識処理として実行される処理には、例えば、歩行者認識処理と、車両認識処理と、障害物認識処理と、区画線認識処理などが含まれている。これらは例示であって、他の情報を認識する処理が含まれていてもよい。逆に、例示した処理が含まれていなくてもよい。
歩行者認識処理は、認識対象として歩行者を認識する処理である。歩行者認識処理において、演算部12は、例えば、撮像画像内の各画素に対して動きベクトルを算出する。動きベクトルは、歩行者などの物標を構成する各画素における時系列での変化方向と大きさとを示すベクトルであり、撮像画像を構成する各時間のフレーム画像に基づいてその値が算出される。次に、演算部12は、同じ向きと大きさの動きベクトルを備える画素をラベリングし、ラベリングされた各画素を囲む最少の矩形領域を物標として抽出する。そして、演算部12は、抽出した物標に対して周知のパターンマッチングを実施し、物標の種別が歩行者であるか否かを認識する。例えば、歩行者認識処理において、演算部12は、歩行者用の辞書情報を用いて撮影画像から歩行者を認識する。辞書情報は、例えば、認識装置10の記憶部(ROM等)に記憶されている。
なお、演算部12がパターンマッチングにより歩行者を検出する場合、歩行者の一部分の特徴を検出する辞書情報を用いるものであってもよい。また、演算部12は、動きベクトルに代えて、輝度勾配ヒストグラム(HOG:Histogram of Oriented Gradient)を用いて、物標の認識や、物標の向きを判定するものであってもよい。また、前方画像と後方画像のいずれの撮影画像であっても歩行者認識処理の内容は同じとなっている。例えば、辞書情報は、前方画像と、後方画像のいずれを対象とする場合であっても、同じ辞書情報が利用される。
車両認識処理は、認識対象として車両を認識する処理である。車両認識処理において、演算部12は、歩行者認識処理と同様にして物標を抽出する。そして、演算部12は、抽出した物標に対して周知のパターンマッチングを実施し、物標の種別が車両であるか否かを認識する。例えば、車両認識処理において、演算部12は、車両用の辞書情報を用いて車両を認識する。車両には、4輪車のみならず、自動2輪車や自転車が含まれていてもよい。なお、前方画像と後方画像のいずれの撮影画像であっても車両認識処理の内容は同じとなっている。
障害物認識処理は、認識対象として歩行者や車両以外の障害物を認識する処理である。障害物は、静止物のことであり、例えば、壁やガードレールなどの建築物である。障害物認識処理において、演算部12は、例えば、撮像画像から障害物の存在を示す特徴点を抽出する。具体的には、撮像画像の輝度情報に基づきエッジ点を抽出する。エッジ点を抽出する場合、演算部12は、撮影画像の走査方向における輝度値の変化に基づいて、エッジ点を抽出する。詳しくは、演算部12は、自車両を中心として、撮影画像を右方向及び左方向に走査し、輝度値が所定値以上上昇するアップエッジ点を抽出する。なお、輝度値が所定値以下下降するダウンエッジ点を抽出してもよい。エッジ点の抽出方法は、任意に変更してもよく、例えば、撮影画像にsobelフィルタ等を適用してエッジ点を抽出してもよい。
そして、演算部12は、抽出したエッジ点に対してハフ変換を行う。ハフ変換では、エッジ点が複数個連続して並ぶ直線上の点や、直線どうしが直交する点を特徴点として抽出する。そして、演算部12は、撮影画像から抽出した特徴点に基づいて、障害物の輪郭を認識する。なお、前方画像と後方画像のいずれの撮影画像であっても障害物認識処理の内容は同じとなっている。
区画線認識処理は、認識対象として、車線を区画する区画線を認識する処理である。区画線には、例えば、白線などの道路の路面に描かれたペイントや、道路鋲若しくは石などによる区画線がある。区画線認識処理において、演算部12は、障害物認識処理と同様に、撮影画像から特徴点を抽出し、抽出した特徴点に基づき、区画線を認識する。具体的には、演算部12は、特徴点が所定間隔でライン状に並んでいる場合、当該ラインを区画線として認識する。なお、前方画像と後方画像のいずれの撮影画像であっても区画線認識処理の内容は同じとなっている。
道路標識認識処理は、認識対象として、道路標識を認識する処理である。道路標識認識処理において、演算部12は、前方画像に含まれる道路標識の種類を、例えば予め記憶されている道路標識の辞書情報を用いたパターンマッチングにより認識する。道路標識とは、道路の傍らに設置され、運転者等に必要な情報を提供する標示板のことである。道路標識には、案内、警戒、規制、指示などが標示されている。道路標識には、例えば、通行止めを示す道路標識、駐車可能であることを示す道路標識、市町村を示す道路標識などがある。なお、車両後方における道路標識を認識する必要性が低いことから、道路標識認識処理は、後方認識処理には含まれない。
演算部12は、歩行者、車両及び障害物を認識する際、歩行者、車両及び障害物に関わる情報を特定する。具体的には、演算部12は、歩行者、車両及び障害物を認識する際、その位置情報を算出する。位置情報は、撮影角度や、前方画像又は後方画像における距離に基づき算出され、座標により示される。その際、大きさや幅も合わせて特定してもよい。また、演算部12は、物標として、歩行者及び車両などの移動物を認識した場合、認識された物標の位置情報の変化等に基づいて、当該物標の速度及び進行方向等を算出する。そして、演算部12は、算出した情報を認識処理による認識結果と共に出力する。
ところで、認識装置10は、前方画像情報と後方画像情報とを入力し、前方認識処理と、後方認識処理を実行可能に構成されている。例えば、フロントカメラ21に一体に設けられ、前方認識処理を実行するフロントカメラ21用の認識装置10に、リアカメラ22からの後方画像情報を入力し、後方認識処理を実行させるように構成されている。これにより、前方認識処理を実行する演算部とは別に、後方認識処理を実行する演算部を設けるよりも、認識システム100の全体構成を簡素化することができる。また、前方認識処理と、後方認識処理は、共通する処理が多いため、前方認識処理を実行する演算部12に、後方認識処理を実行させても、性能上問題がなく実行することができる。
しかしながら、前方認識処理と、後方認識処理と、をそれぞれ別に実行するならば性能上問題がないが、同時に実行すると、処理負荷が増大することとなる。また、原則として、車両の前進時には、前方画像に基づき周辺情報を認識する必要があり、後退時には、後方画像に基づき周辺情報を認識する必要があることを考えると、前進時に後方認識処理を実行することは無駄が多い。同様に、後退時に前方認識処理を実行することは無駄が多い。そこで、処理負荷が増大することを抑制するため、演算部12は、以下のような画像認識処理を所定周期ごとに行っている。
図2に示すように、演算部12は、入力部11が入力した画像情報に含まれる撮影画像を取得する(ステップS101)。それと共に、演算部12は、変速装置23からシフトポジションを示す情報を取得し、車速センサ24から自車両の速度を示す情報を取得する。このステップS101を実行することにより、演算部12は、取得部13として機能する。
次に演算部12は、取得したシフトポジションを示す情報に基づき、自車両が後退する状態であるか否かを判定する(ステップS102)。ステップS102において、演算部12は、シフトポジションがRポジションである場合、自車両が後退する状態であると判定する。一方、演算部12は、Rポジションでない場合、すなわち、Dポジション、又はNポジション、又はPポジションである場合、自車両が後退する状態でないと判定する。
後退する状態でないと判定された場合(ステップS102:No)、演算部12は、取得した自車両の速度が所定速度以上であるか否かを判定する(ステップS103)。所定速度は、例えば、停止、又は停止後に後退するには、速過ぎる速度であることが望ましい。すなわち、所定速度未満である場合には、即座に停止又は停止後に後退する可能性があるように、所定速度が設定されることが望ましい。例えば、5〜15km/h程度の値が所定速度として設定される。
所定速度以上である場合(ステップS103:Yes)、演算部12は、前方認識処理におけるすべての処理を実行する(ステップS104)。具体的には、演算部12は、前方画像における認識対象としてあらかじめ定めた複数種類の認識対象をすべて認識するように、前方認識処理における処理をすべて選別し、実行する。例えば、演算部12は、歩行者認識処理、車両認識処理、障害物認識処理、区画線認識処理、及び道路標識認識処理をすべて選別して、実行する。すなわち、演算部12は、前方画像において、歩行者、車両、障害物、区画線、道路標識をすべて認識対象とする。一方、ステップS104において、演算部12は、後方認識処理を実行しない。つまり、演算部12は、所定速度以上で前進している場合、停止し、後退する可能性が低く、後方における周辺情報を取得する必要性が低いことから、後方認識処理における処理を選別しない。これにより、演算部12は、処理負荷が増大することなく、前方認識処理を実行可能となる。そして、画像認識処理を終了する。
一方、所定速度未満である場合(ステップS103:No)、演算部12は、前方認識処理として実行される処理の中から一部の処理を選別し、選別した処理を実行する(ステップS105)。つまり、演算部12は、自車両の前進状態下であって自車両の速度が低い場合又は停止している場合(ステップS105の場合)に、自車両の速度が高い場合(ステップS104の場合)と比較して、前方認識処理として実行される処理を減らすように選別する。
ステップS105を実行する際、演算部12は、各処理における認識対象の種類に基づき、処理を区別して、前方認識処理として実行される処理を選別する。認識対象の種類は、予め分類されており、演算部12は、車両の状況(シフトポジション及び車速)に応じて定められた分類に属する種類の認識対象を認識する処理を選別する。
認識対象の種類は、例えば、移動するものを認識対象としているか否かを基準として分類されている。また、認識対象の種類は、車両制御装置30等で実行される複数の機能のうち特定の機能にて利用されるか否か(必要か否か)を基準として分類されている。例えば、本実施形態では、車両制御用の機能(車両の運転支援に関する機能)として複数の機能が備えられており、車両制御装置30ではそれらの複数の機能のうち、衝突判定を行う機能が実行される。このため、認識対象の種類は、衝突判定に利用されるか否かを基準として分類されている。
具体的には、歩行者と、車両は、移動する認識対象であるとして分類されている。一方、障害物と、区画線と、道路標識は、移動しない認識対象であると分類されている。また、歩行者と、車両と、障害物は、衝突判定において利用される認識対象であるとして分類されている。一方、区画線と、道路標識は、衝突判定において利用されない認識対象であると分類されている。
ステップS105において、演算部12は、衝突判定において利用される認識対象として分類されている認識対象を認識する処理を、前方認識処理の中から選別して実行する。すなわち、演算部12は、前方認識処理の中から、歩行者を認識対象として認識する歩行者認識処理と、車両を認識対象として認識する車両認識処理と、障害物を認識対象として認識する障害物認識処理と、を選別し、実行する。なお、区画線認識処理と、道路標識認識処理を実行しないのは、これらの処理により認識される認識対象は、衝突判定において利用されないからであり、また、処理負荷が増大することを抑制する必要があるからである。また、静止しているため、所定速度未満で前進している場合には、歩行者や車両と比較して運転者が認識しやすいと考えるからである。
ステップS105の実行後、演算部12は、後方認識処理として実行される処理の中から一部の処理を選別し、選別した処理を実行する(ステップS106)。その後、画像認識処理を終了する。ステップS106(自車両の前進状態下であって自車両の速度が低い場合又は停止している場合)において、演算部12は、自車両の速度が高い場合(ステップS104の場合)と比較して、後方認識処理として実行される処理を増やすように選別している。つまり、ステップS104では、後方認識処理を全く実行しなかったが、ステップS106では、後方認識処理の一部を実行して、後方認識処理として実行される処理を増やしている。
その際、演算部12は、移動している認識対象に分類され、かつ、衝突判定において利用される認識対象に分類される認識対象を認識する処理を、後方認識処理として実行される処理の中から選別し、実行する。具体的には、演算部12は、歩行者を認識対象として認識する歩行者認識処理と、車両を認識対象として認識する車両認識処理とを選別し、実行する。
なお、所定速度未満で前進中又は停止中に、後方認識処理における処理の中から衝突判定において利用される認識対象を認識する処理を選別するのは、車両制御装置30において実行される衝突判定において利用されるためである。また、移動している認識対象を認識する処理を選別するのは、移動しているのであれば、所定速度未満で前進中又は停止中であっても、車両の後方に衝突する可能性があるからである。一方、移動していない認識対象を認識する処理を選別しないのは、静止物であれば、所定速度未満で前進中又は停止中に、車両の後方に衝突する可能性がほとんど考えられないからである。
一方、後退する状態であると判定された場合(ステップS102:Yes)、演算部12は、後方認識処理におけるすべての処理を実行する(ステップS107)。具体的には、演算部12は、後方画像における認識対象としてあらかじめ定めた複数種類の認識対象をすべて認識するように、後方認識処理における処理をすべて選別し、実行する。例えば、演算部12は、歩行者認識処理、車両認識処理、障害物認識処理、及び区画線認識処理をすべて選別して、実行する。すなわち、演算部12は、後方画像において、歩行者、車両、障害物、区画線をすべて認識対象とする。一方、ステップS107において、演算部12は、前方認識処理を実行しない。そして、画像認識処理を終了する。
以上のように、ステップS104〜ステップS107を実行することにより、演算部12は、取得部13により取得された各情報に基づいて、前方認識処理及び後方認識処理としてそれぞれ実行される処理を選別する処理選別部14として機能する。
なお、本実施形態では、後退する状態であると判定された場合、前方認識処理における処理を全く実行していないが、前方認識処理における一部の処理を選別して実行してもよい。例えば、前方認識処理のうち、歩行者及び車両を認識するため、歩行者認識処理と、車両認識処理と、を実行してもよい。
画像認識処理により周辺情報(認識対象に関する情報)を認識すると、認識装置10は、認識した周辺情報を車両制御装置30に出力する。
次に、撮影画像を表示装置25に表示させるための制御について説明する。演算部12は、前方画像と後方画像とを共通の表示装置25に表示させるように制御する表示制御部15として機能する。これにより、演算部12と、表示装置25をそれぞれ前方画像と後方画像ごとに設けるよりも、システムの全体構成を簡素化することができる。また、前方画像を表示させる処理と、後方画像を表示させる処理は、共通する処理が多いため、前方画像を表示させる演算部12に、後方画像を表示させる制御を行わせても、性能上問題がない。
しかしながら、同時に表示させると、処理負荷が増大することとなる。また、原則として、車両の前進時には、前方画像を視認する必要があり、後退時には、後方画像を視認する必要があることを考えると、前進時に後方画像を表示させることは無駄が多い。同様に、後退時に前方画像を表示させることは無駄が多い。そこで、処理負荷が増大することを抑制するため、以下のような画像表示処理を所定周期ごとに行っている。
図3に示すように、演算部12は、入力された画像情報に含まれる撮影画像を取得する(ステップS201)。それと共に、演算部12は、変速装置23からシフトポジションを示す情報を取得し、車速センサ24から自車両の速度を示す情報を取得する。次に、演算部12は、取得したシフトポジションに基づき、自車両が後退する状態であるか否かを判定する(ステップS202)。
後退する状態でないと判定された場合(ステップS202:No)、演算部12は、取得した自車両の速度が、所定速度(5〜15km/h程度の値)以上であるか否かを判定する(ステップS203)。
所定速度以上である場合(ステップS203:Yes)、演算部12は、前方画像のすべてを表示させるように表示装置25を制御する(ステップS204)。そして、画像表示処理を終了する。
一方、所定速度未満である場合(ステップS203:No)、演算部12は、前方画像の一部を省略し、残りの前方画像を表示させるように表示装置25を制御する(ステップS205)。具体的には、演算部12は、所定速度未満で前進している場合に、視認する必要性が低い画像を省略する。例えば、前方画像のうち上部の画像、すなわち、遠方の画像は、所定速度未満で前進している場合においては必要性が低いため、省略する。
そして、演算部12は、後方画像の一部を表示させるように表示装置25を制御し(ステップS206)、画像表示処理を終了する。ステップS206において、表示制御部15は、後方画像のうち、自車両の近傍の画像を表示させる。近傍の画像とは、後退する場合に、視認することが望ましい画像であり、例えば、車両から8mの範囲内の画像のことである。なお、後方画像を縮小して省略してもよい。
一方、後退する状態であると判定された場合(ステップS202:Yes)、演算部12は、後方画像のすべてを表示させるように表示装置25を制御する(ステップS207)。そして、画像表示処理を終了する。なお、本実施形態では、後退する状態であると判定された場合においても、前方画像の一部を表示させてもよい。
次に、図4に基づき、自車両の状態と、認識処理の実行態様との関係について説明する。
シフトポジションがDポジションであり、車速センサ24により取得された自車両の速度が所定速度以上である場合(期間T1)、演算部12は、前方認識処理における各処理をすべて実行する。つまり、演算部12は、歩行者認識処理、車両認識処理、障害物認識処理、区画線認識処理、及び道路標識認識処理を実行する。その一方、演算部12は、後方認識処理を実行しない。つまり、演算部12は、期間T1において、後方認識処理の処理量をゼロとする。
シフトポジションがDポジションであり、車速センサ24により取得された自車両の速度が所定速度未満である場合(期間T2)、演算部12は、前方認識処理における処理を一部選別して実行する。つまり、演算部12は、前方認識処理のうち、歩行者認識処理、車両認識処理、及び障害物認識処理を選別して、実行する。一方、演算部12は、前方認識処理のうち、区画線認識処理及び道路標識認識処理を実行しない。すなわち、演算部12は、期間T2において、期間T1よりも前方認識処理の処理量を減らす。
また、期間T2において、演算部12は、後方認識処理における処理を一部選別して、実行する。つまり、演算部12は、後方認識処理のうち、歩行者認識処理、車両認識処理を実行する。一方、演算部12は、後方認識処理のうち、障害物認識処理及び区画線認識処理及び道路標識認識処理を実行しない。すなわち、演算部12は、期間T2において、期間T1よりも後方認識処理の処理量を増やす。
このように、演算部12は、走行状態に応じて、前方認識処理及び後方認識処理における各々の実施率を変更している。つまり、演算部12は、同じ前進状態中であっても、走行状態に応じて、前方認識処理の実施率を低くする一方、後方認識処理の実施率を高くする場合がある。また、演算部12は、同じ前進状態中であっても、走行状態に応じて、前方認識処理の実施率を高くする一方、後方認識処理の実施率を低くする場合もある。これにより、前方認識処理と、後方認識処理を共に実行しても、処理負荷が増大することはない。
シフトポジションが後退を示す状態である場合(期間T3)、演算部12は、後方認識処理における各処理をすべて実行する。つまり、演算部12は、歩行者認識処理、車両認識処理、障害物認識処理、及び区画線認識処理を実行する。すなわち、演算部12は、期間T3において、期間T1及び期間T2よりも後方認識処理の処理量を増やす。
その一方、演算部12は、前方認識処理を実行しない。演算部12は、期間T3において、前方認識処理の処理量をゼロとする。すなわち、演算部12は、期間T3において、期間T1及び期間T2よりも前方認識処理の処理量を減らす。
このように、演算部12は、後退する状態であるか否かに応じて、前方認識処理及び後方認識処理における各々の実施率を変更している。つまり、演算部12は、後退状態である場合、前方認識処理の実施率を低くする一方、後方認識処理の実施率を高くする。その一方、演算部12は、前進状態である場合、前方認識処理の実施率を高くする一方、後方認識処理の実施率を低くする。これにより、処理負荷が増大することはない。
上記構成により、以下の効果を奏する。
自車両の前進時には、前方画像に基づき周辺情報を認識する必要があり、後退時には、後方画像に基づき周辺情報を認識する必要があることを考えると、認識装置10の演算部12は、前進時には前方認識処理を実行し、後退時には後方認識処理を実行すればよい。ただし、自車両の走行状態によっては、前進時にも後方認識を行い、逆に後退時にも前方認識を行うことが望ましい場合がある。
そこで、演算部12は、自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とに基づいて、前方認識処理及び後方認識処理としてそれぞれ実行される処理を選別することとした。すなわち、演算部12は、シフトポジションと、車速とに基づき、前方認識処理及び後方認識処理としてそれぞれ実行される処理を選別し、選別した処理を実行することとした。これにより、演算部12は、適切に認識処理を行い、走行状態に応じて適切な情報を認識することができる。また、演算部12が、前方認識処理及び後方認識処理を実行するため、演算部を別々に設けた場合と比較して、認識システム100の構成を簡素にすることができる。
自車両が前進している場合であっても所定速度未満である場合には、自車両が停止して、後退に切り替えられる可能性がある。そこで、演算部12は、自車両の前進状態下であって自車両の速度が低い場合に、自車両の速度が高い場合と比較して、後方認識処理として実行される処理を増やすこととした。これにより、自車両が停止して、後退に切り替えられた場合であっても、後方における周辺情報に基づいて、車両制御を行うことができる。
また、演算部12は、自車両の前進状態下であって自車両の速度が低い場合に、自車両の速度が高い場合と比較して、前方認識処理として実行される処理を減らすこととしている。このため、後方認識処理として実行される処理が増えた場合であっても、処理負荷が増大することを抑制することができる。
前方認識処理及び後方認識処理において、演算部12は、予め定められた複数種類の認識対象について認識を行っている。そして、認識対象の種類ごとに認識するための処理が定められている。このため、演算部12は、シフトポジションと、車速とに基づき、複数種類の認識対象の中からいくつかの認識対象を認識するための処理を選別する。このため、車両の状況に応じて適切な認識対象を認識することができる。
移動する認識対象の方が、静止している認識対象と比較して、運転者が認識しにくく、自車両と衝突する可能性が高い。特に、所定速度未満で前進している場合又は停止している場合、自車両後方において移動している認識対象と自車両とが衝突する可能性がある一方、自車両後方において静止している認識対象と衝突する可能性はほとんどない。また、移動する認識対象は、静止している認識対象とは異なり、進路を予測するためにある程度の時間を必要とする。このため、認識対象が移動しているか否かに基づき、認識対象を分類し、演算部12は、移動している認識対象を認識する処理を、静止している認識対象を認識する処理と比較して、優先的に選別するようにした。
これにより、衝突する可能性に応じて、認識対象とするか否かを適切に選別することができる。例えば、演算部12は、所定速度未満で前進している場合又は停止している場合、自車両後方における歩行者及び車両を認識対象として認識する処理を選別することができる。その一方、自車両後方における障害物を認識対象として認識する処理を選別しないようにすることができる。このため、演算部12は、走行状態に応じて、適切な認識対象を認識することができる。その一方で、不要な認識対象を認識する処理を選別しないようにして、処理量を減らし、処理負荷が増大することを抑制できる。
衝突判定で利用されるか否かに基づき、認識対象を分類し、演算部12は、衝突判定で利用される認識対象を認識する処理を、利用されない認識対象を認識する処理と比較して、優先的に選別するようにした。これにより、衝突判定で利用される認識対象(周辺情報)を認識することができる。その一方、利用されない認識対象を認識するための処理は実行されないため、処理負荷が増大することを抑えることができる。
前方認識処理に含まれる歩行者認識処理と、後方認識処理に含まれる歩行者認識処理を共通化した。すなわち、演算部12は、前方認識処理に含まれる歩行者認識処理において、使用する辞書情報を後方認識処理に含まれる歩行者認識処理においても使用することとしている。このため、別々に記憶する場合と比較して、記憶量を少なくすることができる。なお、車両認識処理、道路標識認識処理も同様である。
車両の前進時には、前方を視認する必要があり、後退時には、後方を視認する必要があることを考えると、前進時には前方画像を表示させ、後退時には後方画像を表示させればよい。しかしながら、自車両の走行状態によっては、前進時にも後方画像を視認できるようにし、逆に後退時にも前方画像を視認できるようにすることが望ましい。
そこで、演算部12は、自車両の走行状態によっては、前方画像と後方画像を共に表示させるように制御する。この場合、前方画像及び後方画像のうち少なくともいずれかの一部を省略するようにした。具体的には、自車両が前進する場合であって自車両の速度が所定速度未満である場合、演算部12は、前方画像の一部を省略して残りを表示させるとともに、後方画像の一部を表示させることとした。このため、前方画像と後方画像を共に視認することができる。また、このようにしても、双方の画像のすべてを出力しているわけではないので、出力する際の負荷が増大することを抑制することができる。また、演算部12が、前方画像と、後方画像を表示させるため、演算部12を別々に設けた場合と比較して、認識システム100の構成を簡素にすることができる。
(第2実施形態)
図5に基づき、第2実施形態にかかる認識装置10について説明する。図5は、自車両の状態と、認識処理の実行態様との関係について説明している。
シフトポジションがDポジションであり、車速センサ24により取得された自車両の速度が所定速度α以上である場合(期間U1)、演算部12は、前方認識処理における各処理をすべて実行する。つまり、演算部12は、歩行者認識処理、車両認識処理、区画線認識処理、及び道路標識認識処理を実行する。その一方、演算部12は、期間U1において、後方認識処理の処理量を通常(シフトポジションが後退を示す状態である場合)よりも抑制する。具体的には、演算部12は、期間U1において、後方認識処理のうち一部(例えば、必要最低限実行しなければならない処理)だけを実行することで、処理量を抑制する。なお、このとき、後方認識処理の処理量をゼロとしてもよい。
シフトポジションがDポジションであり、車速センサ24により取得された自車両の速度が所定速度α未満である場合(期間U2)、演算部12は、後方認識処理における処理を一部選別して実行する。例えば、演算部12は、複数ある後方認識処理のうち、歩行者認識処理及び車両認識処理を実行し、区画線認識処理及び道路標識認識処理を実行しない。すなわち、演算部12は、期間U2において、期間U1よりも後方認識処理の処理量を増やす。なお、期間U2において、演算部12は、前方認識処理における各処理をすべて実行する。
このように、演算部12は、走行状態に応じて、前方認識処理及び後方認識処理における各々の実施率を変更している。具体的には、走行状態に応じて後方認識処理の実施率を変更している。これにより、前方認識処理と後方認識処理とをすべて実行する場合と比べて、後方認識処理の一部を抑制することで、処理負荷を抑えることができる。
シフトポジションが後退を示す状態であり、車速センサ24により取得された自車両の速度が所定速度β以上である場合(期間U3)、演算部12は、前方認識処理における処理を一部選別して実行する。例えば、演算部12は、複数ある前方認識処理のうち、歩行者認識処理及び車両認識処理を実行し、区画線認識処理及び道路標識認識処理を実行しない。すなわち、演算部12は、期間U3において、期間U1及び期間U2(シフトポジションが前進を示す状態である場合)よりも前方認識処理の処理量を減らす。
また、期間U3において、演算部12は、後方認識処理における各処理をすべて実行する。すなわち、演算部12は、期間U3において、期間U1及び期間U2(シフトポジションが前進を示す状態である場合)よりも後方認識処理の処理量を増やす。なお、図5において、後退を示す状態である場合、後退する自車両の速度をマイナスで示すものとし、後退する速度に比例してマイナス値が大きくなるものする。
シフトポジションが後退を示す状態であり、車速センサ24により取得された自車両の速度が所定速度β未満である場合(期間U4)、演算部12は、後方認識処理における各処理をすべて実行する。すなわち、演算部12は、期間U4において、期間U1及び期間U2(シフトポジションが前進を示す状態である場合)よりも後方認識処理の処理量を増やす。なお、後退を示す状態である場合、後退する自車両の速度をマイナスで示しているため、所定速度β未満とは、所定速度β以上である場合よりも、自車両の速度自体は、速いことを示す(絶対値が大きいことを示す)。
その一方、演算部12は、期間U4において、前方認識処理の処理量を抑制する。具体的には、演算部12は、期間U4において、複数ある前方認識処理のうち一部のみ(例えば、必要最低限の処理のみ)を実行することで、処理量を抑制する。なお、前方認識処理の処理量をゼロとしてもよい。すなわち、演算部12は、期間U4において、期間U1及び期間U2(シフトポジションが前進を示す状態である場合)よりも前方認識処理の処理量を減らす。また、演算部12は、期間U4において、期間U3よりも前方認識処理の処理量を減らす。
その後、シフトポジションが後退を示す状態であり、車速センサ24により取得された自車両の速度が所定速度β以上である場合(期間U5)、演算部12は、期間U3と同様に、前方認識処理における処理を一部選別して実行し、後方認識処理における各処理をすべて実行する。
その後、シフトポジションが後退を示す状態からDポジションに変更され、車速センサ24により取得された自車両の速度が所定速度α未満である場合(期間U6)、演算部12は、期間U2と同様に、前方認識処理における各処理をすべて実行する一方、後方認識処理を一部選別して実行する。
また、シフトポジションがDポジションの状態となった後、所定速度α以上となった場合(期間U7)、演算部12は、期間U1と同様に、前方認識処理における各処理をすべて実行する一方、後方認識処理の処理量を抑制する。
このように、演算部12は、後退する状態であるか否かに応じて、前方認識処理及び後方認識処理における各々の実施率を変更している。つまり、演算部12は、後退状態である場合、前方認識処理の実施率を低くする一方、後方認識処理の実施率を高くする。その一方、演算部12は、前進状態である場合、前方認識処理の実施率を高くする一方、後方認識処理の実施率を低くする。これにより、処理負荷が常に増大することはない。また、シフトポジションが切り替わる場合に、事前に必要な認識処理を実行することとなり、切り替わった後、すぐに認識に基づく制御を実行することができる。
(他の実施形態)
本発明は、上記実施形態に限定されず、例えば以下のように実施してもよい。なお、以下では、各実施形態で互いに同一又は均等である部分には同一符号を付しており、同一符号の部分についてはその説明を援用する。
・自車両が前進している場合であって自車両の速度が所定速度(5〜15km/h程度の値)よりも遅い場合、車両が減速して、速度が低下することに応じて停止し、その後に後退する可能性が高くなる。そこで、演算部12は、自車両が前進する場合であって自車両の速度が所定速度未満である場合、自車両が減速して、速度が低くなることに応じて前方認識処理において実行させる処理を減らすとともに、後方認識処理において実行させる処理を増やしてもよい。
例えば、演算部12は、速度が15km/h以下の場合には、前方認識処理のうち、歩行者標識認識処理と、車両認識処理と、障害物認識処理を選別し、速度が5km/h以下の場合には、前方認識処理のうち、歩行者認識処理と、車線認識処理とを選別してもよい。そして、演算部12は、速度が15km/h以下の場合には、後方認識処理のうち、歩行者認識処理と、車両認識処理を選別し、速度が5km/h以下の場合には、後方認識処理のうち、歩行者認識処理と、車両認識処理と、障害物認識処理を選別してもよい。
これにより、後退する可能性が高まるにつれて、後方において認識対象となる周辺情報を多くすることができる。なお、自車両が減速して、車速が低下することに応じて前方認識処理において選別される処理を少なくしているため、このようにした場合であっても、処理負荷が増大することを抑制できる。
・低速時には、自車両近傍の情報の方が、遠方の情報よりも重要度(利用価値)が高く、各種機能で利用されやすい。そこで、演算部12は、所定速度未満で前進している場合、認識対象を距離に応じて分類し、自車両近傍の認識対象を認識する処理を優先的に選別してもよい。この場合、例えば、演算部12は、撮影画像上における距離により分類すればよい。具体的には、演算部12は、撮影画像の下半分の画像に基づき、又は自車両を中心として所定範囲内の画像に基づき、認識対象を認識する処理を行えばよい。これにより、処理負荷が増大することを抑制できる。なお、自車両の近傍とは、駐停車する際や進行方向を変更する際に、確認する必要がある範囲をいい、例えば、車両から10m程度の範囲内のことである。
・認識装置10は、ミリ波レーダなどのレーダ装置から取得したレーダ情報と、撮影画像に基づく情報を融合(フュージョン)して、位置情報などの精度を向上させてもよい。すなわち、撮影画像に基づく情報とレーダ情報のうち、精度が高い方の情報を用いて位置精度や、相対速度の精度等を向上させてもよい。レーダ装置は、例えば、ミリ波帯の高周波信号を探査波として送信し、物標からの反射波に基づき物標の位置を検知する装置である。
・表示制御部15としての演算部12は、表示させる撮影画像に所定の加工を施してもよい。例えば、後方画像に対して、自車両の幅や、操舵角度に基づき予測される自車両の位置を示す補助線や、駐車領域を示す補助線を加えてもよい。また、前方画像に対して、歩行者や車両を示して、注意喚起を促す画像を加えてもよい。
そして、このように加工処理を実行する場合、演算部12は、所定速度未満で前進中、前方画像の一部を表示させる場合、前方画像に対して実行される加工処理の一部又は全部を省略してもよい。同様に、演算部12は、所定速度未満で前進中、後方画像の一部を表示させる場合、後方画像に対して実行される加工処理の一部又は全部を省略してもよい。これにより、処理負荷の増大を抑制することができる。
・上記実施形態において、走行状態として走行場所を示す情報を取得するようにしてもよい。例えば、駐車場では、停止し、後退する可能性が高い。また、駐車場では、車両が走行する道路上と異なり、車両の進行方向が不規則となりやすく、自車両の後方から追突される可能性が高くなる。そこで、前進している状態であっても、駐車場を示す情報を取得した場合、後方認識処理における処理を選別して実行することとした。これにより、前進中であっても、停止し、後退する際に認識されていることが望ましい自車両後方における周辺情報を認識することができる。また、駐車場において、認識されていることが望ましい自車両後方における周辺情報を認識することができる。なお、走行場所を示す情報は、道路標識や、道路標示、ナビゲーションシステムなどから取得することができる。また、走行場所が、道路上である場合、演算部12は、後方認識処理を実行しないようにしてもよい。
・上記実施形態において、走行状態として、ウインカの状態に関する情報を取得してもよい。そして、例えば、ウインカが点灯状態である場合であって、前進している場合、演算部12は、後方認識処理における処理を選別して実行してもよい。ウインカが点灯状態である場合、右左折又は車線の変更を行う可能性が高く、自車両後方における周辺情報が認識されていることが望ましい。そこで、このように構成することにより、前進中であっても、右左折又は車線の変更を行う際に必要となる自車両後方における周辺情報を認識することができる。
・上記実施形態において、演算部12により選別される認識対象の種類は、任意に変更してもよい。例えば、1種類の認識対象を認識するように処理を選別してもよいし、2種類以上の認識対象を認識するように処理を選別してもよい。処理負荷と、利用される(又は利用される可能性が高い)認識対象であるか否かに基づいて、状況により、選別する種類を変更してもよい。
・認識対象の種類を、運転者が認識しやすいか否かを基準として分類してもよい。具体的には、認識対象の種類は、その大きさや幅を基準として分類してもよい。そして、演算部12は、前方認識処理又は後方認識処理における処理を選別する際、運転者が認識しにくい認識対象を認識する処理を優先的に選別してもよい。
・上記実施形態において、車両制御装置30に、ACC(Adaptive Cruise Control)機能を備え、検出した他車両との距離が車速に応じた車間距離の目標値となるように、自車両を追従走行させてもよい。具体的には、車両制御装置30に、シリアル通信などの専用線を介して、トランスミッションと、スロットルモータと、スロットルセンサと、をそれぞれ接続させる。そして、車両制御装置30は、追従対象となる車両に関する情報(車間距離と相対速度)に基づき、自車両の加速度を決定する。そして、車両制御装置30は、スロットルセンサが検出するスロットル開度を監視しながらスロットルモータを制御する。例えば、車速と加速度にスロットル開度が対応づけられたテーブルに基づき、決定された加速度と現在の車速に応じてスロットル開度を決定する。また、車両制御装置30は車速とスロットル開度に基づいて変速段の切り替えの必要性を判断し、必要であればトランスミッションに変速段を指示する。これにより、ACC機能が実現される。
そして、このようなACC機能が実行されている場合、演算部12は、前方認識処理の中から処理を選別する際、前方認識処理における車両認識処理を優先的に選別するようにしてもよい。その一方、ACC機能は、前進時においてのみ有効であるため、後方認識処理の中から処理を選別する際、後方認識処理における車両認識処理を選別しなくてもよい。例えば、演算部12は、前進時において、ACC機能が実行されている場合、車両認識処理を必ず実行してもよい。
・上記実施形態において、車両制御装置30に、レーンキーピングアシスト機能を備え、区画線に沿って自車両が走行するように、運転を支援させてもよい。具体的には、車両制御装置30は、認識された区画線に基づき、区画線と自車両の進行方向が所定角度となり、区画線と自車両の間の距離が所定範囲内となるように、車両制御を行う。例えば、車両制御装置30は、操舵角度を調整させたり、区画線に沿っていない場合には、警告音を出力させたりすることにより、レーンキーピングアシスト機能を実現する。
そして、このようなレーンキーピングアシスト機能が実行されている場合、演算部12は、前方認識処理の中から処理を選別する際、前方認識処理における区画線認識処理を優先的に選別するようにしてもよい。その一方、レーンキーピングアシスト機能は、通常、前進時においてのみ有効であるため、後方認識処理の中から処理を選別する際、後方認識処理における区画線認識処理を選別しなくてもよい。例えば、演算部12は、前進時において、所定速度未満であっても、レーンキーピングアシスト機能が実行されている場合、前方認識処理における区画線認識処理を必ず実行してもよい。
・上記実施形態において、車両制御装置30に、自車両を自動で駐車位置に駐車させる駐車アシスト機能を備えてもよい。具体的には、駐車アシスト機能が実行された場合、車両制御装置30は、障害物認識処理により認識された障害物の位置に基づき、自車両が駐車可能なスペースを認識し、当該スペースに自車両が駐車するように車両を誘導又は運転の補助をするようにしてもよい。
そして、駐車アシスト機能が実行されている場合、演算部12は、前方認識処理又は後方認識処理の中から処理を選別する際、障害物認識処理を優先的に選別するようにしてもよい。すなわち、演算部12は、駐車アシスト機能が実行されている場合、必ず障害物認識処理を選別し、実行してもよい。
・上記実施形態において、車両制御装置30に、認識された道路標識に基づく道路情報を報知する報知機能を備えてもよい。そして、報知機能が実行されている場合、演算部12は、認識対象として道路標識認識処理を優先的に選別して実行してもよい。
・上記実施形態において、認識装置10をフロントカメラ21と一体としたが、認識装置10をリアカメラ22と一体にしてもよい。認識装置10をフロントカメラ21と別体としてもよい。
・上記実施形態において、所定速度以上で前進している場合、演算部12は、前方認識処理をすべて実行させるとともに、前方画像をすべて表示させていたが、前方認識処理をすべて実行させるタイミングと、前方画像をすべて表示させるタイミングを異ならせてもよい。例えば、第1速度以上で前進している場合に、演算部12は、前方認識処理をすべて実行させ、第1速度よりも速い第2速度以上で前進している場合に、前方画像をすべて表示させるようにしてもよい。
・上記実施形態において、演算部12は、車両状況に応じて、表示制御に関係する画像表示処理の一部又は全部の実行を省略することにより、処理負荷の増大を抑制してもよい。つまり、後方認識処理及び前方認識処理を実行させる際、演算部12は、表示画像を表示させないことにより、処理負荷が増大することを抑制してもよい。
・車両の状況(シフトポジション及び車速)に応じて前方認識処理及び後方認識処理において選別されて実行される処理をあらかじめ定めて記憶しておいてもよい。また、車両の状況(シフトポジション及び車速)に応じて認識対象とする認識対象の種類をあらかじめ定めて記憶しておいてもよい。この場合、演算部12は、車両の状況(シフトポジション及び車速)に応じた種類の認識態様を認識する処理を選別すればよい。
・演算部12は、処理負荷(又は処理量)が予め決められた負荷よりも大きい場合に、前方認識処理及び後方認識処理において実行される処理を選別するようにしてもよい。この際、演算部12は、移動している認識態様を認識する処理を優先的に選別してもよいし、車両近傍の認識態様を認識する処理を優先的に選別してもよい。
・認識装置10に、車両制御装置30が有する各種機能(衝突判定部31や車両制御部32)を備えてもよい。
10…認識装置、11…入力部、12…演算部、13…取得部、14…処理選別部、21…フロントカメラ、22…リアカメラ。

Claims (7)

  1. フロントカメラ(21)及びリアカメラ(22)の各画像情報を入力する入力部(11)と、
    前記入力部に入力された前記フロントカメラの画像情報を対象とする認識処理である前方認識処理を実行するとともに、前記入力部に入力された前記リアカメラの画像情報を対象とする認識処理である後方認識処理を実行する演算部(12)と、を備え、
    前記演算部は、
    自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とを取得する取得部(13)と、
    前記取得部により取得された前記各情報に基づいて、前記前方認識処理及び前記後方認識処理としてそれぞれ実行される処理を選別する処理選別部(14)と、を備え
    前記演算部は、前記処理選別部が前記前方認識処理及び前記後方認識処理を選別した場合、選別された前記前方認識処理及び前記後方認識処理をそれぞれ実行するように構成されており、
    前記取得部は、前記走行状態を示す情報として自車両の速度を示す情報を取得し、
    前記処理選別部は、前記前方認識処理及び前記後方認識処理が選別される際、自車両の前進状態下であって自車両の速度が低い場合に、自車両の速度が高い場合と比較して、前記後方認識処理として実行される処理を増やす認識装置(10)。
  2. 前記取得部は、前記走行状態を示す情報として、自車両の速度を示す情報を取得し、
    前記処理選別部は、自車両の前進状態下であって自車両の速度が低い場合に、自車両の速度が高い場合と比較して、前記前方認識処理として実行される処理を減らす請求項に記載の認識装置。
  3. 前記取得部は、前記走行状態を示す情報として、自車両の走行場所を示す情報を取得し、
    前記処理選別部は、前記走行場所に応じて、前記前方認識処理及び前記後方認識処理としてそれぞれ実行される処理を選別する請求項1又は2に記載の認識装置。
  4. 前記演算部は、予め記憶された辞書情報に基づくパターンマッチングにより認識対象を認識するものであり、
    前記前方認識処理及び前記後方認識処理では、共通の前記辞書情報を用いて自車両前方の認識対象及び自車両後方の認識対象が認識される請求項1〜のうちいずれか1項に記載の認識装置。
  5. 前記演算部は、前記フロントカメラにより撮影された前方画像及び前記リアカメラにより撮影された後方画像のうち少なくともいずれかの画像を表示装置(25)に表示させる表示制御部(13)を備え、
    前記表示制御部は、自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とに基づいて、表示させる画像を決定し、
    前記前方画像と前記後方画像を共に表示させる場合には、前記前方画像及び前記後方画像のうち一部をそれぞれ表示させる請求項1〜のうちいずれかに記載の認識装置。
  6. フロントカメラ(21)及びリアカメラ(22)の各画像情報を入力する入力部(11)と、
    前記入力部に入力された前記フロントカメラの画像情報を対象とする認識処理である前方認識処理を実行するとともに、前記入力部に入力された前記リアカメラの画像情報を対象とする認識処理である後方認識処理を実行する演算部(12)と、を備え、
    前記演算部は、
    自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とを取得する取得部(13)と、
    前記取得部により取得された前記各情報に基づいて、前記前方認識処理及び前記後方認識処理としてそれぞれ実行される処理を選別する処理選別部(14)と、を備え、
    前記演算部は、予め定めた複数種類の認識対象について前記画像情報に基づいて認識するものであり、
    前記処理選別部は、前記取得部により取得された前記各情報に基づいて、前記複数種類の認識対象のうちいずれかの認識対象を認識する処理を、前記前方認識処理及び前記後方認識処理に含まれる処理の中から、選別するように構成され、
    前記認識対象は、移動しているか否かを基準として分類され、
    前記処理選別部は、移動していない認識対象を認識する処理と比較して、移動している認識対象を認識する処理を優先的に選別する認識装置。
  7. フロントカメラ(21)及びリアカメラ(22)の各画像情報を入力する入力部(11)と、
    前記入力部に入力された前記フロントカメラの画像情報を対象とする認識処理である前方認識処理を実行するとともに、前記入力部に入力された前記リアカメラの画像情報を対象とする認識処理である後方認識処理を実行する演算部(12)と、を備え、
    前記演算部は、
    自車両が前進及び後退のうちいずれの状態であるかを示す情報と、自車両の走行状態を示す情報とを取得する取得部(13)と、
    前記取得部により取得された前記各情報に基づいて、前記前方認識処理及び前記後方認識処理としてそれぞれ実行される処理を選別する処理選別部(14)と、を備え、
    前記演算部は、予め定めた複数種類の認識対象について前記画像情報に基づいて認識するものであり、
    前記処理選別部は、前記取得部により取得された前記各情報に基づいて、前記複数種類の認識対象のうちいずれかの認識対象を認識する処理を、前記前方認識処理及び前記後方認識処理に含まれる処理の中から、選別するように構成され、
    前記認識対象は、自車両からの距離を基準として分類され、
    前記処理選別部は、自車両からの距離が遠い認識対象を認識する処理と比較して、自車両からの距離が近い認識対象を認識する処理を優先的に選別する認識装置。
JP2016241223A 2016-12-13 2016-12-13 認識装置 Active JP6620733B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2016241223A JP6620733B2 (ja) 2016-12-13 2016-12-13 認識装置
PCT/JP2017/042416 WO2018110262A1 (ja) 2016-12-13 2017-11-27 認識装置
US16/439,000 US11042996B2 (en) 2016-12-13 2019-06-12 Recognition apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016241223A JP6620733B2 (ja) 2016-12-13 2016-12-13 認識装置

Publications (2)

Publication Number Publication Date
JP2018095067A JP2018095067A (ja) 2018-06-21
JP6620733B2 true JP6620733B2 (ja) 2019-12-18

Family

ID=62558437

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016241223A Active JP6620733B2 (ja) 2016-12-13 2016-12-13 認識装置

Country Status (3)

Country Link
US (1) US11042996B2 (ja)
JP (1) JP6620733B2 (ja)
WO (1) WO2018110262A1 (ja)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102017219869A1 (de) * 2017-11-08 2019-05-09 Continental Teves Ag & Co. Ohg Steuergerät für ein Kraftfahrzeug und Verfahren zum Betreiben des Steuergeräts
JP7184591B2 (ja) 2018-10-15 2022-12-06 三菱重工業株式会社 車両用画像処理装置、車両用画像処理方法、プログラムおよび記憶媒体
DE102019105790A1 (de) * 2019-03-07 2020-09-10 Man Truck & Bus Se Kraftfahrzeug mit einer Mehrzahl von Sensoreinrichtungen zur Umfelderfassung
JP7331721B2 (ja) * 2020-02-07 2023-08-23 トヨタ自動車株式会社 自動運転車両の制御装置
US11987266B2 (en) * 2022-02-25 2024-05-21 Hitachi Astemo, Ltd. Distributed processing of vehicle sensor data

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6891563B2 (en) 1996-05-22 2005-05-10 Donnelly Corporation Vehicular vision system
US20050192725A1 (en) * 2004-03-01 2005-09-01 Shih-Hsiung Li Auxiliary visual interface for vehicles
JP2005250645A (ja) * 2004-03-02 2005-09-15 Murakami Corp 車両周辺監視装置および車両周辺監視方法
JP4899367B2 (ja) * 2005-07-27 2012-03-21 日産自動車株式会社 俯瞰画像表示システム及び俯瞰画像の表示方法
TWI421624B (zh) * 2011-04-01 2014-01-01 Ind Tech Res Inst 環場監控裝置及其方法
JP2013018406A (ja) * 2011-07-12 2013-01-31 Fujitsu Ten Ltd 駐車枠の認識装置、駐車枠の認識方法、及び、プログラム
JP5921983B2 (ja) 2012-08-03 2016-05-24 クラリオン株式会社 車載撮像装置
JP2014215877A (ja) * 2013-04-26 2014-11-17 株式会社デンソー 物体検出装置
JP6266238B2 (ja) 2013-07-03 2018-01-24 クラリオン株式会社 接近物検出システム、及び車両
JP6703747B2 (ja) * 2015-09-18 2020-06-03 株式会社リコー 情報表示装置、情報提供システム、移動体装置、情報表示方法及びプログラム

Also Published As

Publication number Publication date
US20190347810A1 (en) 2019-11-14
US11042996B2 (en) 2021-06-22
WO2018110262A1 (ja) 2018-06-21
JP2018095067A (ja) 2018-06-21

Similar Documents

Publication Publication Date Title
JP6620733B2 (ja) 認識装置
JP7132713B2 (ja) 車両走行制御装置、車両走行制御システムおよび車両走行制御方法
JP6938903B2 (ja) 車両における衝突回避装置および衝突回避方法
JP6547836B2 (ja) 駐車支援方法及び駐車支援装置
JP6592074B2 (ja) 車両制御装置、車両制御方法、プログラム、および情報取得装置
CA3002639C (en) Parking space line detection method and device
JP4900211B2 (ja) 走行支援装置、車間距離設定方法
EP3188156B1 (en) Object recognition device and vehicle control system
WO2018003529A1 (ja) 車両制御装置及び車両制御方法
JP7302950B2 (ja) 車両の運転支援制御装置、運転支援システムおよび運転支援制御方法
JP6805105B2 (ja) 制御対象車両設定装置、制御対象車両設定システムおよび制御対象車両設定方法
JPWO2017068701A1 (ja) 駐車スペース検出方法および装置
JP7056632B2 (ja) 運転支援装置
JP7111454B2 (ja) 制御対象車両設定装置、制御対象車両設定システムおよび制御対象車両設定方法
WO2018003528A1 (ja) 車両制御装置及び車両制御方法
JPWO2019043847A1 (ja) 走行制御装置、車両および走行制御方法
US20210122369A1 (en) Extensiview and adaptive lka for adas and autonomous driving
US20200353919A1 (en) Target detection device for vehicle
JP2018089990A (ja) 運転支援装置
JP7151064B2 (ja) 車両の走行制御装置
WO2020184287A1 (ja) 車両における制動支援制御装置、制動支援制御システムおよび制動支援制御方法
JP7168486B2 (ja) 車両における制動支援制御装置、制動支援システムおよび制動支援制御方法
JP6881323B2 (ja) 車両の運転支援制御装置、車両の運転支援システムおよび車両の運転支援制御方法
JP7377822B2 (ja) 運転支援方法及び運転支援装置
JP7421692B2 (ja) 車両制御装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181010

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190806

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20191023

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20191105

R151 Written notification of patent or utility model registration

Ref document number: 6620733

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250