JP6801666B2 - 画像処理装置と画像処理方法および車両制御システム - Google Patents

画像処理装置と画像処理方法および車両制御システム Download PDF

Info

Publication number
JP6801666B2
JP6801666B2 JP2017543033A JP2017543033A JP6801666B2 JP 6801666 B2 JP6801666 B2 JP 6801666B2 JP 2017543033 A JP2017543033 A JP 2017543033A JP 2017543033 A JP2017543033 A JP 2017543033A JP 6801666 B2 JP6801666 B2 JP 6801666B2
Authority
JP
Japan
Prior art keywords
image
unit
discrimination information
analysis
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017543033A
Other languages
English (en)
Other versions
JPWO2017056822A1 (ja
Inventor
康孝 平澤
康孝 平澤
小柳津 秀紀
秀紀 小柳津
雄飛 近藤
雄飛 近藤
卓 青木
卓 青木
健人 赤間
健人 赤間
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Publication of JPWO2017056822A1 publication Critical patent/JPWO2017056822A1/ja
Application granted granted Critical
Publication of JP6801666B2 publication Critical patent/JP6801666B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/166Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/11Region-based segmentation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/174Segmentation; Edge detection involving the use of two or more images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/60Type of objects
    • G06V20/64Three-dimensional objects

Landscapes

  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Vascular Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)

Description

この技術は、画像処理装置と画像処理方法および車両制御システムに関し、移動体周辺領域の画像から対象物の存在の判定を効率よく行うことができるようにする。
従来、実空間を撮影した複数の画像を用いて、実空間内における対象物の存在を判定することが行われている。例えば、特許文献1では、複数のカメラで撮影して得られた画像のそれぞれから動体領域を検出して平面座標系に変換する。また、変換動体領域の重なりを検出し、その検出結果に基づき、空間内の指定された平面に動体領域が存在するか否かを判定することが行われている。
特開2008−015573号公報
ところで、対象物の存在する領域は実空間の特定の領域に限られる場合がある。このような場合、実空間を撮影した画像全体を用いて対象物の存在を判別すると、不要な領域に対しても対象物の存在の判別が行われて、効率的な処理を行うことができない。
そこで、この技術では移動体周辺領域の画像から対象物の存在の判定を効率よく行うことができる画像処理装置と画像処理方法ならびに車両制御システムを提供することを目的とする。
この技術の第1の側面は、
移動体周辺領域を示す偏光画像を用いて解析対象判別情報を生成する判別情報生成部と、
前記移動体周辺領域を示す無偏光画像に対して前記判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う画像解析部とを有し、
前記判別情報生成部は、前記偏光画像から算出された法線の方向が移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を生成して、
前記画像解析部は、前記路面の領域に応じて前記画像解析領域を設定する
画像処理装置にある。
この技術において、判別情報生成部は、移動体周辺領域を示す偏光画像を用いて、解析対象判別情報を生成する。例えば、判別情報生成部は、偏光画像に基づき法線を算出して、法線方向が移動体の鉛直方向となる連続した画像領域を路面の領域として、この路面を示す解析対象判別情報を生成する。また、判別情報生成部は、移動体の制動距離に関する情報を解析対象判別情報として生成する。移動体の制動距離に関する情報は、移動体の移動速度と、例えば距離検出が可能な撮像部で生成された画像または距離情報と移動面の粗さを検出できる偏光画像から制動距離を算出して、算出した制動距離と無偏光画像上の距離に基づき、無偏光画像における制動距離内の領域を示す情報を生成する。画像解析部は、移動体周辺領域を示す無偏光画像に対して判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う。例えば画像解析部は、解析対象判別情報に基づき、路面の領域や制動動距離内の画像を用いて対象物の判別を行う。
また、画像解析部を複数設けた場合、複数の画像解析部は、無偏光画像を解析対象判別情報に基づいて分割した領域に対して分担して対象物の判別を行う。例えば、制動距離内の領域については、他の画像領域よりも多くの画像解析部を用いて対象物の判別を行う。
また、画像取得部で取得された無偏光画像の転送を行う画像転送部を設け、画像解析部は通信ネットワークを介して画像転送部と接続して、画像転送部は、判別情報生成部で生成された解析対象判別情報に基づいて無偏光画像の転送の制御を行い、例えば画像解析領域の画像、または撮像方向が異なる複数の画像から選択した画像と解析対象判別情報を画像解析部へ転送する。
さらに、画像解析制御部と複数の画像解析部を設けて、画像解析制御部は、判別情報生成部で生成された解析対象判別情報に基づき、画像転送部から画像解析部へ転送される無偏光画像に対する対象物の判別を複数の画像解析部でどのように行うか制御する画像解析制御情報を生成して、無偏光画像と共に画像解析部へ送信する。
この技術の第2の側面は、
移動体周辺領域を示す偏光画像から算出された法線の方向が移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を判別情報生成部で生成すること、
前記移動体周辺領域を示す無偏光画像に対して、前記判別情報生成部で生成された解析対象判別情報で示された前記路面の領域に応じて設定した画像解析領域の画像を用いて対象物の判別を画像解析部で行うことと
を含む画像処理方法にある。
この技術の第3の側面は、
移動体周辺領域を示す偏光画像を用いて解析対象判別情報を生成する判別情報生成部と、
前記移動体周辺領域を示す無偏光画像に対して前記判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う画像解析部と、
前記画像解析部における前記対象物の判別結果に基づき車両走行制御部を行う駆動系制御部とを有し、
前記判別情報生成部は、前記偏光画像から算出された法線の方向が前記移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を生成して、
前記画像解析部は、前記路面の領域に応じて前記画像解析領域を設定する
車両制御システムにある。
この技術によれば、移動体周辺領域を示す偏光画像を用いて解析対象判別情報が判別情報生成部で生成される。画像解析部は、移動体周辺領域を示す無偏光画像に対して判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う。このため、移動体周辺領域の画像から対象物の存在の判定を効率よく行うことができる。なお、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また付加的な効果があってもよい。
車両制御システムの概略構成を例示したブロック図である。 画像取得部の設置例を示した図である。 第1の実施の形態の構成を示した図である。 偏光画像取得部で取得される偏光画像について説明するための図である。 判別情報生成部の構成を例示した図である。 被写体の形状と偏光画像についての説明図である。 輝度と偏光角との関係を例示した図である。 偏光度と天頂角の関係を示す図である。 第1の実施の形態の動作を例示したフローチャートである。 第1の実施の形態の動作を例示した図である。 第2の実施の形態の構成を示した図である。 判別情報生成部の構成を例示した図である。 TOFカメラを用いた場合の判別情報生成部の構成を示す図である。 第2の実施の形態の動作を例示した図である。 第3の実施の形態の構成を示した図である。 判別情報生成部の構成を例示した図である。 第3の実施の形態の動作を例示した図である。 第4の実施の形態の構成を例示した図である。 第4の実施の形態の動作を例示した図である。 第5の実施の形態の構成を例示した図である。 第5の実施の形態の動作を例示したフローチャートである。 第6の実施の形態の構成を例示した図である。 第6の実施の形態の動作を例示した図である。 第7の実施の形態の動作を例示した図である。 他の実施の形態の構成を例示した図である。
以下、本技術を実施するための形態について説明する。この技術の画像処理装置では、移動体周辺領域を示す偏光画像と無偏光画像を取得する。また、取得した偏光画像を用いて解析対象判別情報を生成する。さらに、無偏光画像に対して解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う。次に、移動体が例えば車両である場合について説明する。なお、説明は以下の順序で行う。
1.車両制御システムについて
2.画像処理装置について
3.第1の実施の形態
4.第2の実施の形態
5.第3の実施の形態
6.第4の実施の形態
7.第5の実施の形態
8.第6の実施の形態
9.第7の実施の形態
10.他の実施の形態
<1.車両制御システムについて>
図1は、車両制御システムの概略構成を例示したブロック図である。車両制御システム10は、通信ネットワーク20を介して接続された複数の制御部や検出部を備える。図1に示した例では、車両制御システム10は、駆動系制御部31、ボディ系制御部32、バッテリ制御部33、車外情報検出部34、および統合制御部40を備える。通信ネットワーク20は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。また、統合制御部40には、入力部51、音声出力部52、表示部53が接続されている。
各制御部は、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。
駆動系制御部31は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御部31は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構として機能する。また、駆動系制御部31は、車両の制動力を発生させる制動装置等の制御装置としての機能、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御部31には、車両状態検出部311が接続される。車両状態検出部311には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は走行速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御部31は、車両状態検出部311から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御部32は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御部32は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御部32には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御部32は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御部33は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池331を制御する。例えば、バッテリ制御部33には、二次電池331を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御部33は、これらの信号を用いて演算処理を行い、二次電池331の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出部34は、車両制御システム10を搭載した車両の外部の情報を検出する。車外情報検出部34には、画像取得部341と判別情報生成部342と画像解析部344を有している。画像取得部341は、偏光画像を取得するカメラ、測距が可能なTOF(Time Of Flight)カメラやステレオカメラ等を有している。
図2は、画像取得部の設置例を示した図である。画像取得部341は、例えば、車両80のフロントノーズ、サイドミラー、リアバンパ、バックドアおよび車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる画像取得部341Aおよび車室内のフロントガラスの上部に備えられる画像取得部341Bは、主として車両80の前方の画像を取得する。サイドミラーに備えられる画像取得部341C,341Dは、主として車両80の側方の画像を取得する。リアバンパ又はバックドアに備えられる画像取得部341Eは、主として車両80の後方の画像を取得する。なお、図2には、それぞれの画像取得部341A乃至341Eの撮影範囲の一例を示している。撮像範囲ARaは、フロントノーズに設けられた画像取得部341Aの撮像範囲を示し、撮像範囲ARbは、車室内のフロントガラスの上部に備えられる画像取得部341Bの撮像範囲を示している。撮像範囲ARc,ARdは、それぞれサイドミラーに設けられた画像取得部341C,341Dの撮像範囲を示し、撮像範囲AReは、リアバンパ又はバックドアに設けられた画像取得部341Eの撮像範囲を示す。
図1に戻り、車外情報検出部34は、画像取得部341で車両の周辺領域を撮像して得られた画像を判別情報生成部342と画像解析部344へ出力する。判別情報生成部342は画像取得部341で得られた画像に基づき路面の検出や制動距離の算出等を行い、路面の検出結果や制動距離の算出結果等を示す解析対象判別情報を生成して画像解析部344へ出力する。
画像解析部344は、画像取得部341で得られた無偏光画像に対して判別情報生成部342で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて画像解析を行い、対象物例えば障害物等の判定を行う。対象物の判定結果は、車両の走行に利用可能な情報であり、画像解析部344は、対象物の判定結果を統合制御部40へ出力する。なお、画像解析部344を統合制御部40に設けて、車外情報検出部34では、画像または画像と解析対象判別情報を、通信ネットワーク20を介して統合制御部40へ出力してもよい。
統合制御部40には、入力部51、音声出力部52、表示部53が接続されている。
入力部51は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。入力部51は、搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御部40に出力する。
音声出力部52は、統合制御部40からの音声信号に基づいた音声を出力することで、車両の搭乗者に対して聴覚的に情報を通知する。表示部53は、統合制御部40からの画像信号に基づいて画像表示を行い、車両の搭乗者に対して、視覚的に情報を通知する。
統合制御部40は、CPU(Central Processing Unit),ROM(Read Only Memory),RAM(Random Access Memory)等を有している。ROM(Read Only Memory)は、CPU(Central Processing Unit)により実行される各種プログラムを記憶する。RAM(Random Access Memory)は、各種パラメータ、演算結果又はセンサ値等の情報を記憶する。CPUは、ROMに記憶されている各種プログラムを実行して、入力部51からの入力信号および通信ネットワーク20を介した各制御部や検出部との通信によって取得した情報およびRAMに記憶されている情報等に応じて車両制御システム10内の動作全般を制御する。また、統合制御部40は、車両の搭乗者に対して、聴覚的に通知する情報を示す音声信号を生成して音声出力部52へ出力して、視覚的に情報を通知する画像信号を生成して表示部53へ出力する。また、統合制御部40は、外部環境に存在する様々な機器や他車両等との間の通信を行う通信インタフェース、車両の緯度や経度および高度を含む位置情報を生成する測位部等を有していてもよい。
なお、図1に示した例において、通信ネットワーク20を介して接続された少なくとも二つの制御部が一つの制御部として一体化されてもよい。あるいは、個々の制御部が、複数の制御部により構成されてもよい。さらに、車両制御システム10が、図示されていない別の制御部を備えてもよい。また、上記の説明において、いずれかの制御部が担う機能の一部又は全部を、他の制御部に持たせてもよい。つまり、通信ネットワーク20を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御部で行われるようになってもよい。
<2.画像処理装置について>
次に、本技術の画像処理装置を、上述のように図1に示す車両制御システムの車外情報検出部として適用した場合の実施の形態について説明する。
<3.第1の実施の形態>
図3は第1の実施の形態の構成を示している。車外情報検出部34は、画像取得部341-1と判別情報生成部342-1と画像解析部344-1を有している。また、画像取得部341-1は、偏光画像を取得する偏光画像取得部3411と無偏光画像を取得する無偏光画像取得部3412を有している。
偏光画像取得部3411は、偏光方向が異なる複数の偏光画像、例えば偏光方向が3方向以上の偏光画像を取得する。図4は、偏光画像取得部3411で取得される偏光画像について説明するための図である。例えば図4の(a)に示すように、偏光画像は、イメージセンサIMSに3方向以上の偏光方向の画素構成とされた偏光フィルタPLFを配置して撮像を行うことで生成する。なお、図4の(a)では、各画素が異なる4種類の偏光方向(偏光方向を矢印で示す)のいずれかの画素となる偏光フィルタPLFをイメージセンサIMSの入射面に配置した場合を例示している。また、図4の(b)に示すように、偏光画像は、偏光方向が異なる偏光板PL1〜PL4をカメラCM1〜CM4の前に設けて、カメラCM1〜CM4で撮像を行うことで生成してもよい。さらに、図4の(c)に示すように、マルチレンズアレイの構成を利用して偏光方向が異なる複数の偏光画像を生成してもよい。例えばイメージセンサIMSの前面にレンズLZを複数(図では4個)設けて、各レンズLZによって被写体の光学像をイメージセンサIMSの撮像面にそれぞれ結像させる。また、各レンズLZの前面に偏光板PLを設けて、偏光板PLの偏光方向を異なる方向とする。このような構成とすれば、偏光方向が異なる偏光画像をイメージセンサIMSで生成できる。
無偏光画像取得部3412は、無偏光の画像を取得する。無偏光画像取得部3412は、イメージセンサの入射面に偏光板や偏光フィルタを設けることなく撮像を行うことで無偏光画像を生成する。また、無偏光画像取得部3412は、偏光画像取得部3411で取得された偏光画像から無偏光画像を生成してもよい。偏光画像取得部3411でカラーフィルタを使用しない場合、輝度偏光画像を取得できる。ここで、例えば図4の(a)の場合、偏光方向が異なる方向であって隣接している4画素の輝度を平均することで、無偏光の通常輝度画像と同等の画像を取得することができる。また、図4の(b)の場合、画素毎に偏光方向が異なる輝度偏光画像の輝度を平均することで、無偏光である通常輝度画像と同等の画像を取得できる。さらに、図4の(c)の場合、被写体までの距離に対してレンズLZ間の距離が無視できる程度に短ければ、偏光方向が異なる複数の偏光画像では視差を無視することができる。したがって、偏光方向が異なる偏光画像の輝度を平均することで、無偏光の通常輝度画像と同等の画像を取得することができる。また、視差を無視することができない場合は、偏光方向が異なる偏光画像を視差量に応じて位置合わせして、位置合わせ後の偏光画像の輝度を平均すれば無偏光の通常輝度画像と同等の画像を取得することができる。
図5は、判別情報生成部の構成を例示している。判別情報生成部342-1は、法線検出部3421と路面判定部3422を有している。法線検出部3421は、偏光画像取得部3411で取得した偏光方向が異なる複数の偏光画像から法線を検出する。
ここで、被写体の形状と偏光画像について図6を用いて説明する。例えば図6に示すように、光源LTを用いて被写体OBの照明を行い、カメラCMは偏光板PLを介して被写体OBの撮像を行う。この場合、撮像画像は、偏光板PLの偏光方向に応じて被写体OBの輝度が変化する。なお、説明を容易とするため、例えば偏光板PLを回転して撮像を行うことで、複数の偏光画像を取得して、最も高い輝度をImax,最も低い輝度をIminとする。また、2次元座標におけるx軸とy軸を偏光板PLの平面上としたとき、偏光板PLを回転させたときのx軸に対するy軸方向の角度を偏光角υとする。
偏光板PLは、180度回転させると元の偏光状態に戻り180度の周期を有している。また、最大輝度Imaxが観測されたときの偏光角υを方位角αとする。このような定義を行うと、偏光板PLを回転させたときに観測される輝度Iは式(1)のように表すことができる。なお、図7は、輝度と偏光角との関係を例示している。また、この例は拡散反射のモデルを示しており、鏡面反射の場合は方位角が偏光角に比べて90度ずれる。
Figure 0006801666
式(1)では、偏光角υが偏光画像の生成時に明らかであり、最大輝度Imaxと最小輝度Iminおよび方位角αが変数となる。したがって、偏光方向が3方向以上の偏光画像の輝度を用いて、式(1)に示すモデル式へのフィッティングを行うことにより、輝度と偏光角の関係を示すモデル式に基づき最大輝度となる偏光角である方位角αを判別することができる。
また、物体表面の法線を極座標系で表現して、法線を方位角αと天頂角θとする。なお、天頂角θはz軸から法線に向かう角度、方位角αは、上述のようにx軸に対するy軸方向の角度とする。ここで、偏光板PLを回したときに最小輝度Iminと最大輝度Imaxが得られたとき、式(2)に基づき偏光度ρを算出できる。
Figure 0006801666
偏光度と天頂角の関係は、拡散反射の場合、フレネルの式から例えば図8に示す特性を有することが知られている。したがって、図8に示す特性から偏光度ρに基づき天頂角θを判別できる。なお、図8に示す特性は例示であって、被写体の屈折率等に依存して特性は変化する。例えば屈折率が大きくなるに伴い偏光度が大きくなる。
法線検出部3421は、このようにして方位角αと天頂角θを画素毎に算出して、算出した方位角αと天頂角θを示す画素毎の法線を法線検出結果として路面判定部3422へ出力する。
路面判定部3422は、法線検出部3421からの法線検出結果に基づき、法線方向が車両80の鉛直方向を基準として左右方向に所定の角度範囲内となる連続領域を路面とする。判別情報生成部342は、路面の検出結果を示す解析対象判別情報を画像解析部344-1へ出力する。
画像解析部344-1は、画像取得部341-1で得られた無偏光画像に対して判別情報生成部342-1で生成された解析対象判別情報に基づいて設定した画像解析領域の画像解析を行う。すなわち、画像解析部344-1は、無偏光画像における路面と検出された領域を画像解析領域として画像解析を行い、障害物等の判定を行う。なお、画像解析部344-1は、路面の端に位置する障害物を検出しやすくするため、路面の領域を基準として画像解析領域を左右方向に広く設定してもよい。
図9は、第1の実施の形態の動作を例示したフローチャートである。ステップST1で車外情報検出部34は撮像画像を取得する。車外情報検出部34の画像取得部341-1は車両80の周辺領域を撮像した偏光画像と無偏光画像を取得してステップST2に進む。
ステップST2で車外情報検出部34は解析対象判別情報を生成する。車外情報検出部34の判別情報生成部342-1は、ステップST1で取得した偏光画像に基づき、例えば路面検出結果を示す解析対象判別情報を生成してステップST3に進む。
ステップST3で車外情報検出部34は画像解析を行う。車外情報検出部34の画像解析部344-1は、ステップST1で取得した無偏光画像に対してステップST2で生成した解析対象判別情報に基づいて設定した画像解析領域の画像解析を行う。すなわち、画像解析部344-1は、無偏光画像における路面と検出された領域を画像解析領域として画像解析を行う。
図10は、第1の実施の形態の動作を例示している。図10の(a)は、画像取得部341-1で取得した無偏光画像を例示している。また、図10の(b)は、判別情報生成部342-1で検出した法線方向を矢印で示している。判別情報生成部342-1は、車両80に対して法線方向が略鉛直方向である連続した領域を路面として、路面の検出結果を示す解析対象判別情報を生成する。図10の(c)は、画像解析部344-1で画像解析を行う画像解析領域を例示している。画像解析部344-1は、解析対象判別情報に基づき路面と検出された領域または路面と検出された領域を左右に広げて画像解析領域ANとする。
このような第1の実施の形態によれば、路面を精度よく検出できるので、検出された路面を基準として画像解析領域を設定すれば、障害物等の検出を効率よく行うことができる。
<4.第2の実施の形態>
図11は第2の実施の形態の構成を示している。車外情報検出部34は、画像取得部341-2と判別情報生成部342-2と画像解析部344-2を有している。また、画像取得部341-2は、偏光画像を取得する偏光画像取得部3411と無偏光画像を取得する無偏光画像取得部3412および距離検出画像取得部3413を有している。
偏光画像取得部3411は、第1の実施の形態と同様にして偏光画像を生成して判別情報生成部342へ出力する。無偏光画像取得部3412は、第1の実施の形態と同様にして無偏光画像を生成して画像解析部344-2へ出力する。
距離検出画像取得部3413は、距離の検出に利用可能な画像を取得して判別情報生成部342-2へ出力する。距離検出画像取得部3413は、例えばステレオカメラ等で構成されており、距離検出画像取得部3413で取得した右視点画像と左視点画像を判別情報生成部342へ出力する。
図12は、判別情報生成部の構成を例示している。判別情報生成部342-2は、路面荒さ検出部3423と距離検出部3424と走行速度検出部3425および制動距離情報生成部3426を有している。
路面荒さ検出部3423は、偏光画像取得部3411で生成された偏光画像を用いて路面の粗さを検出する。路面荒さ検出部3423は、例えば偏光画像取得部3411で生成された水平偏光画像と垂直偏光画像を用いて、特開平11−230898号公報のように水平および垂直偏光成分の強度分布から路面荒さを検出する。路面荒さ検出部3423は、路面粗さの検出結果を制動距離情報生成部3426へ出力する。
距離検出部3424は、距離検出画像取得部3413で取得した画像、例えば右視点画像と左視点画像から、撮像方向に位置する被写体までの距離を検出して、検出結果を示す距離情報を制動距離情報生成部3426へ出力する。
走行速度検出部3425は、車両80の走行速度を検出して、検出結果を示す速度情報を制動距離情報生成部3426へ出力する。なお、走行情報は、駆動系制御部31に接続されている車両状態検出部311から取得してもよい。
制動距離情報生成部3426は、路面荒さ検出部3423で検出された路面粗さと走行速度検出部3425で検出された走行速度に基づいて、車両80の制動距離を算出する。また、制動距離情報生成部3426は、距離検出部3424の距離検出結果に基づき、前方に制動距離だけ離れた位置を判別して、判別結果を示す制動距離情報を画像解析部344-2へ出力する。
画像解析部344-2は、画像取得部341-2で得られた無偏光画像に対して判別情報生成部342-2で生成された解析対象判別情報に基づいて設定した画像解析領域の画像解析を行う。すなわち、画像解析部344-2は、無偏光画像において前方に制動距離だけ離れた位置までの領域を画像解析領域として画像解析を行い、障害物等の判定を行う。
また、距離検出画像取得部3413で例えばTOFカメラを用いた場合、判別情報生成部342-2は図13に示す構成とする。この場合、制動距離情報生成部3426は、路面荒さ検出部3423で検出された路面粗さと走行速度検出部3425で検出された走行速度に基づいて、車両80の制動距離を算出する。また、制動距離情報生成部3426は、TOFカメラで取得された距離情報に基づき、前方に制動距離だけ離れた位置を判別して、判別結果を示す制動距離情報を画像解析部344-2へ出力する。
このように構成した第2の実施の形態では、図9に示すフローチャートと同様に処理を行い、解析対象判別情報の生成では、制動距離だけ離れた位置を示す解析対象判別情報を生成する。また、画像解析では、無偏光画像において前方に制動距離だけ離れた位置までの領域を画像解析領域とする。
図14は、第2の実施の形態の動作を例示している。図14の(a)は、画像取得部341-2で取得した無偏光画像を例示している。また、図14の(b)は、画像解析部344-2で画像解析を行う画像解析領域を例示している。画像解析部344-2は、解析対象判別情報に基づき前方に制動距離だけ離れた位置までの領域を画像解析領域ANとする。
このような第2の実施の形態によれば、制動距離に応じて画像解析領域を設定できるので、速やかに検出する必要がある障害物等を効率よく検出できる。
<5.第3の実施の形態>
第3の実施の形態は、第1と第2の実施の形態を組み合わせた場合である。
図15は、第3の実施の形態の構成を示している。車外情報検出部34は、画像取得部341-3と判別情報生成部342-3と画像解析部344-3を有している。また、画像取得部341-3は、偏光画像を取得する偏光画像取得部3411と無偏光画像を取得する無偏光画像取得部3412および距離検出画像取得部3413を有している。
図16は判別情報生成部の構成を例示している。判別情報生成部342-3は、法線検出部3421、路面判定部3422、路面荒さ検出部3423、距離検出部3424、走行速度検出部3425および制動距離情報生成部3426を有している。
法線検出部3421は、偏光画像取得部3411で取得した偏光方向が異なる複数の偏光画像から法線を検出する。路面判定部3422は、法線検出部3421からの法線検出結果に基づき路面を検出して、路面の検出結果を解析対象判別情報として画像解析部344-3へ出力する。
路面荒さ検出部3423は、偏光画像取得部3411で生成された偏光画像を用いて路面粗さの検出を行い、検出結果を制動距離情報生成部3426へ出力する。距離検出部3424は、距離検出画像取得部3413で取得した画像を用いて距離の検出を行い、検出結果を示す距離情報を制動距離情報生成部3426へ出力する。走行速度検出部3425は、車両80の走行速度を検出して、検出結果を示す速度情報を制動距離情報生成部3426へ出力する。
制動距離情報生成部3426は、路面荒さ検出部3423で検出された路面粗さと走行速度検出部3425で検出された走行速度に基づいて、車両80の制動距離を算出する。また、制動距離情報生成部3426は、算出した制動距離と距離検出部3424またはTOFカメラで生成した距離情報に基づき、前方に制動距離だけ離れた位置を示す制動距離情報を画像解析部344-3へ出力する。
画像解析部344-3は、画像取得部341-3で得られた無偏光画像に対して判別情報生成部342-3で生成された解析対象判別情報に基づいて設定した画像解析領域の画像解析を行う。すなわち、画像解析部344-3は、無偏光画像において、路面と検出された領域であって前方に制動距離だけ離れた位置までを画像解析領域として画像解析を行い、障害物等の判定を行う。なお、画像解析部344-3は、路面の端に位置する障害物を検出しやすくするため、路面と検出された領域を基準として画像解析領域を左右方向に広く設定してもよい。
このように構成した第3の実施の形態では、図9に示すフローチャートと同様に処理を行い、解析対象判別情報の生成では、路面検出結果と制動距離だけ離れた位置を示す解析対象判別情報を生成する。また、画像解析では、無偏光画像において路面と検出された領域であって、前方に制動距離だけ離れた位置までを画像解析領域とする。
図17は、第3の実施の形態の動作を例示している。図17の(a)は、画像取得部341-3で取得した無偏光画像を例示している。また、図17の(b)は、画像解析部344-3で画像解析を行う画像解析領域を例示している。画像解析部344-3は、解析対象判別情報に基づき、路面と検出された領域であって前方に制動距離だけ離れた位置までの領域を画像解析領域ANとする。
このような第3の実施の形態によれば、路面に対して制動距離に応じて画像解析領域を設定できるので、速やかに検出する必要がある路面上の障害物等を効率よく検出できる。
<6.第4の実施の形態>
ところで、画像解析部で行われる処理に時間を要すると、車両の走行中に路面上の障害物等をリアルタイムで検出できないおそれがある。また、路面上に限らず他の位置でも障害物等の検出を行えば、より安全に走行が可能となる。そこで、第4の実施の形態では、画像解析部を複数設けた場合について説明する。
図18は、第4の実施の形態の構成を例示した図であり、3つの画像解析部を設けている。車外情報検出部34は、画像取得部341-aと判別情報生成部342-aと画像解析部344-a,344-b,344-cを有している。
画像取得部341-aと判別情報生成部342-aは、上述の第1乃至第3のいずれかの実施の形態と同様に構成する。
画像解析部344-a,344-b,344-cは、無偏光画像取得部で取得された無偏光画像に対して、判別情報生成部342-aで生成された解析対象判別情報に基づき領域分割を行い、複数の画像解析部で、分担して分割領域の画像解析を行う。
このように構成した第4の実施の形態では、図9に示すフローチャートと同様に処理を行い、画像解析では、解析対象判別情報に基づき無偏光画像を分割して、複数の画像解析部で、分担して分割領域の画像解析を行う。
図19は、第4の実施の形態の動作を例示している。図19の(a)は、画像取得部341-aで取得した無偏光画像を例示している。また、図19の(b)は、画像解析部344-a乃至344-cで画像解析を行う画像解析領域を例示している。画像解析部344-a,344-bは、解析対象判別情報に基づき、前方に制動距離だけ離れた位置までの領域AS-abにおける画像解析領域ANabの画像解析を行う。また、画像解析部344-cは、領域AS-abとは異なる残りの領域AS-cにおける画像解析領域ANcの画像解析を行う。
このような第4の実施の形態によれば、画像解析を複数の画像解析部で分担して行うことができるので、さらに効率よく路面上の障害物等を効率よく検出できる。また、前方に制動距離だけ離れた位置までの領域における画像解析領域に対して、より多くの画像解析部を割り当てるようにすれば、緊急性の高い障害物の検出をさらに効率よく行うことができる。
<7.第5の実施の形態>
上述の第1乃至第4の実施の形態では、車外情報検出部34に画像解析部が設けられている場合を例示したが、画像解析は、車外情報検出部34に限らず他の制御部で行うようにしてもよい。この場合、車外情報検出部34は、通信ネットワーク20を介して他の制御部に無偏光画像を出力する。また、通信ネットワーク20の通信速度は規格で定められているため、車外情報検出部34から画像解析を行う他の制御部に転送する画像のデータ量が多くなると、転送に時間を要することから他の制御部間等の通信を速やかに行うことができないおそれがある。したがって、車外情報検出部34は、撮像画像において画像解析の対象となる領域の画像のみを他の制御部へ出力する。以下、統合制御部40で画像解析を行う場合について説明する。
図20は、第5の実施の形態の構成を例示している。車外情報検出部34は、画像取得部341-aと判別情報生成部342-aと画像転送部346-1を有している。画像取得部341-aと判別情報生成部342-aは、上述の第1乃至第3のいずれかの実施の形態と同様に構成する。
画像取得部341-aは、偏光画像等を生成して判別情報生成部342-aへ出力する。また、画像取得部341-aは、無偏光画像を生成して画像転送部346-1へ出力する。判別情報生成部342-aは、画像取得部341-aから供給された偏光画像等を用いて解析対象判別情報を生成して画像転送部346-1へ出力する。
画像転送部346-1は、判別情報生成部342-aから供給された解析対象判別情報に基づき、画像取得部341-aから供給された無偏光画像において画像解析を行う画像解析領域を設定する。また、画像転送部346-1は、設定した画像解析領域の画像を、通信ネットワーク20を介して統合制御部40へ転送する。統合制御部40は、車外情報検出部34から供給された画像を用いて画像解析を行い、障害物等の検出を行う。なお、画像の転送をライン単位で行う場合、画像解析領域を含むラインの画像を転送する。
例えば、判別情報生成部342-aから供給された解析対象判別情報が路面検出結果を示している場合、画像転送部346-1は、路面であると検出された領域を画像解析領域として、画像解析領域の画像を統合制御部40へ転送する。また、判別情報生成部342-aから供給された解析対象判別情報が路面検出結果を示している場合、画像転送部346-1は、制動距離内の領域を画像解析領域と設定して、画像解析領域の画像を、通信ネットワーク20を介して統合制御部40へ転送する。
さらに、判別情報生成部342-aから供給された解析対象判別情報が路面検出結果と制動距離情報を示している場合、画像転送部346-1は、例えば制動距離内であって路面と検出された領域等を画像解析領域とする。画像転送部346-1は、画像解析領域の画像を、通信ネットワーク20を介して統合制御部40へ転送する。
図21は、第5の実施の形態の動作を例示したフローチャートである。ステップST11で車外情報検出部34は撮像画像を取得する。車外情報検出部34の画像取得部341-aは車両80の周辺領域を撮像した偏光画像と無偏光画像を取得してステップST12に進む。
ステップST12で車外情報検出部34は解析対象判別情報を生成する。車外情報検出部34の判別情報生成部342-aは、ステップST11で取得した偏光画像に基づき解析対象判別情報を生成してステップST13に進む。
ステップST13で車外情報検出部34は画像の転送を行う。車外情報検出部34の画像転送部346-1は、ステップST11で取得した無偏光画像に対してステップST12で生成した解析対象判別情報に基づいて設定した画像解析領域の画像を、通信ネットワーク20を介して統合制御部40へ転送してステップST14に進む。
ステップST14で統合制御部40は画像解析を行う。統合制御部40の画像解析部は、ステップST13で車外情報検出部34から送信された無偏光画像を用いて画像解析を行う。
このような第5の実施の形態によれば、車外情報検出部と通信ネットワークを介して接続された他の制御部等で画像解析を行う場合に、画像解析を行う領域の画像が通信ネットワーク20を介して送信される。したがって、無偏光画像の全体を転送する場合に比べて転送するデータ量を削減できる。
<8.第6の実施の形態>
第6の実施の形態では、異なる周辺領域を撮像する画像取得部が設けられている場合を例示している。例えば図2に示す画像取得部341A,341C,341D,341Eが設けられている場合について説明する。
図22は、第6の実施の形態の構成を例示している。車外情報検出部34は、画像取得部341A,341C,341D,341Eと判別情報生成部342-bと画像転送部346-2を有している。画像取得部341A,341C,341D,341Eは、図20を用いて説明した第5の実施の形態における画像取得部341-aに相当している。判別情報生成部342-bは、第5の実施の形態における判別情報生成部342-aの機能を画像取得部341A,341C,341D,341E毎に設けている。
画像取得部341A,341C,341D,341Eは、偏光画像等を生成して判別情報生成部342-bへ出力する。また、画像取得部341A,341C,341D,341Eは、無偏光画像を生成して画像転送部346-2へ出力する。
判別情報生成部342-bは、画像取得部341A,341C,341D,341E毎に、画像取得部から供給された偏光画像等を用いて解析対象判別情報を生成して画像転送部346-2へ出力する。
画像転送部346-2は、判別情報生成部342-bから供給された解析対象判別情報に基づき、画像解析を行う無偏光画像を転送対象の画像として判別する。例えば画像転送部346-2は、解析対象判別情報に基づき、路面が検出されている無偏光画像を転送対象の画像とする。また、画像転送部346-2は、制動距離が所定距離よりも長い場合に、走行の方向の前後の無偏光画像を転送対象の画像としてもよい。画像転送部346-2は、判別した転送対象の画像を解析対象判別情報とともに、通信ネットワーク20を介して統合制御部40へ転送する。また、統合制御部40の画像解析部は、受信した画像と解析対象判別情報に基づき、画像解析領域の画像を用いて画像解析を行う。
このように構成した第6の実施の形態では、図21に示すフローチャートと同様に処理を行い、画像の転送では、解析対象判別情報に基づいた画像解析領域を含む無偏光画像を、解析領域判別情報とともに転送する。
図23は、第6の実施の形態の動作を例示している。図23の(a)は画像取得部341Aで取得された無偏光画像を例示している。また、図23の(b),(c),(d)は画像取得部341C,341D,341Eで取得された無偏光画像をそれぞれ例示している。ここで、画像取得部341A,341Eで取得された画像で路面が検出されており、制動距離が算出されたとする。また画像取得部341C,341Dで取得された画像では路面が検出されていないとする。この場合、画像転送部346は、路面や制動距離の位置を示す画像、すなわち画像取得部341A,341Eで取得された無偏光画像を転送対象の画像として解析対象判別情報とともに、通信ネットワーク20を介して統合制御部40へ転送する。統合制御部40の画像解析部は、受信した画像と解析対象判別情報に基づき、図23の(e),(f)に示すように画像解析領域AN,ANBの画像解析を行う。このような処理を行えば、制動距離よりも近い路面上の障害物や、車間距離が制動距離よりも接近している後続車を画像解析によって検出することが可能となる。
このような第6の実施の形態によれば、車外情報検出部と通信ネットワークを介して接続された他の制御部等で画像解析を行う場合に、複数の画像取得部で生成された無偏光画像から画像解析を行う画像のみ、画像が通信ネットワーク20を介して送信される。したがって、各画像取得部で生成された無偏光画像の画像を全て転送する場合に比べて転送するデータ量を削減できる。
<9.第7の実施の形態>
上述の第6の実施の形態では、解析対象判別情報に基づいて判別した転送対象の画像を、通信ネットワーク20を介して統合制御部40へ転送したが、上述の第5の実施の形態と同様に、転送対象の画像における画像解析領域の画像を転送するようにしてもよい。第7の実施の形態では、転送対象の画像における画像解析領域の画像を、通信ネットワーク20を介して統合制御部40へ転送する場合について説明する。
第7の実施の形態では、車外情報検出部34を第6の実施の形態と同様に構成する。ここで、画像転送部346-2は、判別情報生成部342-bから供給された解析対象判別情報に基づき、画像解析を行う無偏光画像を転送対象の画像として判別する。例えば画像転送部346-2は、解析対象判別情報に基づき、路面が検出されている無偏光画像を転送対象画像とする。また、画像転送部346-2は、制動距離が所定距離よりも長い場合に、走行の方向の前後の無偏光画像を転送対象の画像としてもよい。
さらに、画像転送部346-2は、転送対象の画像に対して解析対象判別情報に基づき転送領域を設定して、転送領域の画像を解析対象判別情報とともに通信ネットワーク20を介して統合制御部40へ転送する。なお、画像の転送をライン単位で行う場合、ライン単位で転送領域を設定する。
このように構成した第7の実施の形態では、図21に示すフローチャートと同様に処理を行い、画像の転送では、解析対象判別情報に基づいて判別した転送領域の無偏光画像を解析対象判別情報とともに転送する。
図24は、第7の実施の形態の動作を例示している。図24の(a)は画像取得部341Aで取得された無偏光画像を例示している。また、図24の(b),(c),(d)は画像取得部341C,341D,341Eで取得された無偏光画像をそれぞれ例示している。ここで、画像取得部341A,341Eで取得された画像で路面が検出されており、制動距離が算出されたとする。また画像取得部341C,341Dで取得された画像では路面が検出されていないとする。この場合、画像転送部346は、路面や制動距離の位置を示す画像、すなわち画像取得部341A,341Eで取得された無偏光画像を転送対象の画像とする。さらに、画像の転送をライン単位で行う場合、ライン単位で転送領域を設定する。例えば、制動距離の位置までの領域のラインを転送領域として、すなわち画像取得部341A,341Eで取得された無偏光画像における制動距離の位置までの転送領域の画像を解析対象判別情報とともに、通信ネットワーク20を介して統合制御部40へ転送する。統合制御部40の画像解析部は、受信した画像と解析対象判別情報に基づき、図24の(e),(f)に示す転送領域ATA,ATEの画像において、路面の領域である画像解析領域AN,ANBの画像を用いて画像解析を行う。
このような第7の実施の形態によれば、車外情報検出部と通信ネットワークを介して接続された他の制御部等で画像解析を行う場合に、複数の画像取得部で生成された無偏光画像から、解析対象判別情報に基づいて設定した転送領域の画像が通信ネットワーク20を介して送信される。したがって、各画像取得部で生成された無偏光画像の画像を全て転送する場合や、画像解析領域を含む画像全体の画像を転送する場合に比べて転送するデータ量をさらに削減できる。
<10.他の実施の形態>
また、車外情報検出部34の構成は上述の実施の形態に限られない。例えば、判別情報生成部では偏光画像を用いて路面検出と路面粗さ検出を行う。画像解析部または画像転送部は、路面の検出結果と路面粗さの検出結果に基づき画像解析領域を設定して、画像解析領域の画像解析または画像解析領域の画像の転送を行うようにしてもよい。
また、図25に示すように、車外情報検出部34に画像解析制御部348を設けてもよい。画像解析制御部348は、解析対象判別情報に基づき画像解析制御情報を生成して、画像と共に統合制御部40へ転送する。画像解析制御情報は、例えば複数の画像解析部を用いて画像解析を行う場合、複数の画像解析部に対する画像の振り分け等を制御する情報である。統合制御部40は、画像解析制御部からの解制御情報に基づき、上述の第4の実施の形態と同様に、複数の画像解析部に画像を振り分けて、複数の解析部で分担して画像解析を行う。
なお、上述の実施の形態では、移動体周辺領域を示す偏光画像から解析対象判別情報を生成したが、移動体周辺領域を示す無偏光画像を用いて認識処理等を行い、解析対象判別情報を生成してもよい。また、距離の検出結果を解析対象判別情報として用いることもできる。
以上の実施の形態では、移動体が車両である場合を詳解してきた。しかしながら、移動体は車両に限られない。例えばロボットに上述の画像処理装置を設けて、画像解析結果に基づきロボットの移動制御を行ってもよい。また、船舶に上述の画像処理装置を設けて、偏光画像に基づき陸地と水面の判別を行い、水面の画像解析結果に基づき船舶の操舵等を行うようにしてもよい。
また、明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD−ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術の画像処理装置は以下のような構成も取ることができる。
(1) 移動体周辺領域を示す偏光画像を用いて解析対象判別情報を生成する判別情報生成部と、
前記移動体周辺領域を示す無偏光画像に対して前記判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う画像解析部と
を有する画像処理装置。
(2) 前記判別情報生成部は、前記偏光画像に基づき前記移動体周辺領域における路面を示す解析対象判別情報を生成して、
前記画像解析部は、前記路面の領域に応じて前記画像解析領域を設定する(1)に記載の画像処理装置。
(3) 前記判別情報生成部は、前記偏光画像から算出された法線の方向が前記移動体の鉛直方向となる連続した画像領域を前記路面の領域とする(2)に記載の画像処理装置。
(4) 前記判別情報生成部は、前記偏光画像を用いて前記移動体周辺領域における前記移動体の制動距離に関する情報を解析対象判別情報として生成して、
前記画像解析部は、前記制動距離内の領域を前記画像解析領域として設定する(1)乃至(3)の何れかに記載の画像処理装置。
(5) 前記判別情報生成部は、走行面の粗さおよび移動速度から算出された制動距離と前記無偏光画像上の距離に基づき、前記無偏光画像における前記制動距離内の領域を示す情報を前記解析対象判別情報として生成する(4)に記載の画像処理装置。
(6) 前記画像解析部を複数設け、
前記複数の画像解析部は、前記無偏光画像を前記解析対象判別情報に基づいて分割した領域に対して分担して前記対象物の判別を行う(1)乃至(5)の何れかに記載の画像処理装置。
(7) 前記解析対象判別情報は前記移動体周辺領域における前記移動体の制動距離に関する情報と前記移動体周辺領域における路面を示す情報であり、
前記複数の画像解析部は、前記制動距離内の領域についての前記対象物の判別を、他の画像領域よりも多くの前記画像解析部を用いて行う(6)に記載の画像処理装置。
(8) 前記無偏光画像の転送を行う画像転送部を設け、
前記画像解析部は通信ネットワークを介して前記画像転送部と接続して、
前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部への前記無偏光画像の転送を制御する(1)に記載の画像処理装置。
(9) 前記画像転送部は、前記画像解析領域の画像を転送する(8)に記載の画像処理装置。
(10) 前記判別情報生成部は、撮像方向毎に前記偏光画像を用いて解析対象判別情報を生成し、
前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部に転送する前記無偏光画像を選択して、選択した前記無偏光画像を前記解析対象判別情報とともに転送する(8)に記載の画像処理装置。
(11) 前記判別情報生成部は、撮像方向毎に前記偏光画像を用いて解析対象判別情報を生成し、
前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部に転送する前記無偏光画像を選択して、選択した前記無偏光画像における前記画像解析領域の画像を前記解析対象判別情報とともに転送する(8)に記載の画像処理装置。
(12) 画像解析制御部と複数の前記画像解析部を設け、
前記画像解析制御部は、前記判別情報生成部で生成された解析対象判別情報に基づき、前記画像転送部から前記画像解析部へ転送される前記無偏光画像に対する前記対象物の判別を前記複数の画像解析部でどのように行うか制御する画像解析制御情報を生成して、前記無偏光画像と共に前記画像解析部へ送信する(8)に記載の画像処理装置。
この技術の画像処理装置と画像処理方法および車両制御システムによれば、例えば車両周辺領域を示す偏光画像を用いて解析対象判別情報が判別情報生成部で生成される。画像解析部は、車両周辺領域を示す無偏光画像に対して判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物例えば路面上の障害物等の判別が行われる。このため、移動体周辺領域の画像から対象物の存在の判定を効率よく行うことができる。したがって、例えば自動車等で安全運転を行うための制御システムに適している。
10・・・車両制御システム
20・・・通信ネットワーク
31・・・駆動系制御部
32・・・ボディ系制御部
33・・・バッテリ制御部
34・・・車外情報検出部
40・・・統合制御部
51・・・入力部
52・・・音声出力部
53・・・表示部
80・・・車両
311・・・車両状態検出部
331・・・二次電池
341・・・画像取得部
3411・・・偏光画像取得部
3412・・・無偏光画像取得部
3413・・・距離検出画像取得部
342・・・判別情報生成部
3421・・・法線検出部
3422・・・路面判定部
3423・・・路面粗さ検出部
3424・・・距離検出部
3425・・・走行速度検出部
3426・・・制動距離情報生成部
344・・・画像解析部
346・・・画像転送部
348・・・画像解析制御部

Claims (12)

  1. 移動体周辺領域を示す偏光画像を用いて解析対象判別情報を生成する判別情報生成部と、
    前記移動体周辺領域を示す無偏光画像に対して前記判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う画像解析部とを有し、
    前記判別情報生成部は、前記偏光画像から算出された法線の方向が移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を生成して、
    前記画像解析部は、前記路面の領域に応じて前記画像解析領域を設定する
    画像処理装置。
  2. 前記判別情報生成部は、前記偏光画像を用いて前記移動体周辺領域における移動体の制動距離に関する情報を解析対象判別情報として生成して、
    前記画像解析部は、前記制動距離内の領域を前記画像解析領域として設定する
    請求項1に記載の画像処理装置。
  3. 前記判別情報生成部は、走行面の粗さおよび移動速度から算出された制動距離と前記無偏光画像上の距離に基づき、前記無偏光画像における前記制動距離内の領域を示す情報を前記解析対象判別情報として生成する
    請求項に記載の画像処理装置。
  4. 前記画像解析部を複数設け、
    前記複数の画像解析部は、前記無偏光画像を前記解析対象判別情報に基づいて分割した領域に対して分担して前記対象物の判別を行う
    請求項1に記載の画像処理装置。
  5. 前記解析対象判別情報は前記移動体周辺領域における前記移動体の制動距離に関する情報と前記移動体周辺領域における路面を示す情報であり、
    前記複数の画像解析部は、前記制動距離内の領域についての前記対象物の判別を、他の画像領域よりも多くの前記画像解析部を用いて行う
    請求項に記載の画像処理装置。
  6. 前記無偏光画像の転送を行う画像転送部を設け、
    前記画像解析部は通信ネットワークを介して前記画像転送部と接続して、
    前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部への前記無偏光画像の転送を制御する
    請求項1に記載の画像処理装置。
  7. 前記画像転送部は、前記画像解析領域の画像を転送する
    請求項に記載の画像処理装置。
  8. 前記判別情報生成部は、撮像方向毎に前記偏光画像を用いて解析対象判別情報を生成し、
    前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部に転送する前記無偏光画像を選択して、選択した前記無偏光画像を前記解析対象判別情報とともに転送する
    請求項に記載の画像処理装置。
  9. 前記判別情報生成部は、撮像方向毎に前記偏光画像を用いて解析対象判別情報を生成し、
    前記画像転送部は、前記判別情報生成部で生成された解析対象判別情報に基づいて、前記画像解析部に転送する前記無偏光画像を選択して、選択した前記無偏光画像における前記画像解析領域の画像を前記解析対象判別情報とともに転送する
    請求項に記載の画像処理装置。
  10. 画像解析制御部と複数の前記画像解析部を設け、
    前記画像解析制御部は、前記判別情報生成部で生成された解析対象判別情報に基づき、前記画像転送部から前記画像解析部へ転送される前記無偏光画像に対する前記対象物の判別を前記複数の画像解析部でどのように行うか制御する画像解析制御情報を生成して、前記無偏光画像と共に前記画像解析部へ送信する
    請求項に記載の画像処理装置。
  11. 移動体周辺領域を示す偏光画像から算出された法線の方向が移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を判別情報生成部で生成すること、
    前記移動体周辺領域を示す無偏光画像に対して、前記判別情報生成部で生成された解析対象判別情報で示された前記路面の領域に応じて設定した画像解析領域の画像を用いて対象物の判別を画像解析部で行うことと
    を含む画像処理方法。
  12. 移動体周辺領域を示す偏光画像を用いて解析対象判別情報を生成する判別情報生成部と、
    前記移動体周辺領域を示す無偏光画像に対して前記判別情報生成部で生成された解析対象判別情報に基づいて設定した画像解析領域の画像を用いて対象物の判別を行う画像解析部と、
    前記画像解析部における前記対象物の判別結果に基づき車両走行制御部を行う駆動系制御部とを有し、
    前記判別情報生成部は、前記偏光画像から算出された法線の方向が前記移動体の鉛直方向となる連続した画像領域を路面の領域として、前記移動体周辺領域における前記路面の領域を示す解析対象判別情報を生成して、
    前記画像解析部は、前記路面の領域に応じて前記画像解析領域を設定する
    車両制御システム。
JP2017543033A 2015-09-30 2016-08-30 画像処理装置と画像処理方法および車両制御システム Active JP6801666B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015193300 2015-09-30
JP2015193300 2015-09-30
PCT/JP2016/075295 WO2017056822A1 (ja) 2015-09-30 2016-08-30 画像処理装置と画像処理方法および車両制御システム

Publications (2)

Publication Number Publication Date
JPWO2017056822A1 JPWO2017056822A1 (ja) 2018-08-30
JP6801666B2 true JP6801666B2 (ja) 2020-12-16

Family

ID=58423195

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017543033A Active JP6801666B2 (ja) 2015-09-30 2016-08-30 画像処理装置と画像処理方法および車両制御システム

Country Status (4)

Country Link
US (1) US10769951B2 (ja)
JP (1) JP6801666B2 (ja)
CN (1) CN108028022B (ja)
WO (1) WO2017056822A1 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019026714A1 (ja) * 2017-08-04 2019-02-07 ソニー株式会社 情報処理装置、および情報処理方法、プログラム、並びに移動体
JP7101250B2 (ja) * 2018-09-04 2022-07-14 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置およびプレイフィールド逸脱検知方法
DE102018216983B3 (de) 2018-10-04 2019-11-28 Audi Ag Verfahren zum Unterdrücken von Abbildungen von Reflexionen in zumindest einem Kamerabild einer Kamera einer Umfeldsensorvorrichtung eines Kraftfahrzeugs sowie entsprechende Umfeldsensorvorrichtung

Family Cites Families (18)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3263699B2 (ja) * 1992-12-22 2002-03-04 三菱電機株式会社 走行環境監視装置
US7979172B2 (en) * 1997-10-22 2011-07-12 Intelligent Technologies International, Inc. Autonomous vehicle travel control systems and methods
JP2000353231A (ja) * 1999-06-10 2000-12-19 Mitsubishi Electric Corp 画像処理装置
CN1910623B (zh) * 2005-01-19 2011-04-20 松下电器产业株式会社 图像变换方法、纹理映射方法、图像变换装置和服务器客户机***
JP4785044B2 (ja) * 2006-01-13 2011-10-05 スタンレー電気株式会社 反射型光学センサ及び測定面の表面粗さ検出方法
JP2008015573A (ja) 2006-07-03 2008-01-24 Sony Corp 画像処理装置、画像処理方法および画像監視システム
RU2009107141A (ru) * 2007-08-07 2010-09-10 Панасоник Корпорэйшн (Jp) Устройство формирования информации нормальных векторов и способ формирования информации нормальных векторов
WO2010073547A1 (ja) * 2008-12-25 2010-07-01 パナソニック株式会社 画像処理装置及び擬似立体画像生成装置
EP2439716B1 (en) * 2010-09-16 2013-11-13 Ricoh Company, Ltd. Object identification device, moving object controlling apparatus having object identification device and information presenting apparatus having object identification device
JP5674130B2 (ja) * 2011-01-06 2015-02-25 株式会社リコー 撮像装置
CN104488011B (zh) * 2012-07-27 2017-03-15 京瓷株式会社 图像处理设备、成像设备、可移动体及区域设定方法
JP5944781B2 (ja) * 2012-07-31 2016-07-05 株式会社デンソーアイティーラボラトリ 移動体認識システム、移動体認識プログラム、及び移動体認識方法
WO2015045501A1 (ja) * 2013-09-27 2015-04-02 日立オートモティブシステムズ株式会社 外界認識装置
JP6380843B2 (ja) * 2013-12-19 2018-08-29 株式会社リコー 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
JP6315308B2 (ja) * 2014-01-15 2018-04-25 株式会社リコー 制御用対象物識別装置、移動体機器制御システム及び制御用対象物認識用プログラム
CN104008645B (zh) * 2014-06-12 2015-12-09 湖南大学 一种适用于城市道路车道线预测及预警方法
CN104129387B (zh) * 2014-07-25 2016-10-05 杭州电子科技大学 安全距离与碰撞时间权衡风险的单摄像头汽车防撞方法
KR20170124559A (ko) * 2015-02-25 2017-11-10 페이스북, 인크. 물체에 의해 반사된 광의 특성에 기반한 볼륨 내 물체의 식별

Also Published As

Publication number Publication date
US20180301032A1 (en) 2018-10-18
JPWO2017056822A1 (ja) 2018-08-30
CN108028022B (zh) 2021-06-15
CN108028022A (zh) 2018-05-11
US10769951B2 (en) 2020-09-08
WO2017056822A1 (ja) 2017-04-06

Similar Documents

Publication Publication Date Title
JP6760298B2 (ja) 情報取得装置と情報取得方法
US10850680B2 (en) Vehicle display apparatus and vehicle having the same
US10946868B2 (en) Methods and devices for autonomous vehicle operation
WO2018092540A1 (ja) 画像処理装置、および画像処理方法、並びにプログラム
CN113767389A (zh) 从用于自主机器应用的经变换的真实世界传感器数据模拟逼真的测试数据
JPWO2017159382A1 (ja) 信号処理装置および信号処理方法
US11961243B2 (en) Object detection using image alignment for autonomous machine applications
US20170223339A1 (en) Image processing apparatus and image processing method
US20230095988A1 (en) Systems and methods for performing commands in a vehicle using speech and image recognition
US11908104B2 (en) Weighted normalized automatic white balancing
US11948315B2 (en) Image composition in multiview automotive and robotics systems
WO2019073920A1 (ja) 情報処理装置、移動装置、および方法、並びにプログラム
JP2017220051A (ja) 画像処理装置、画像処理方法、および車両
WO2018180579A1 (ja) 撮像制御装置、および撮像制御装置の制御方法、並びに移動体
JPWO2019044571A1 (ja) 画像処理装置、および画像処理方法、プログラム、並びに移動体
JP6801666B2 (ja) 画像処理装置と画像処理方法および車両制御システム
WO2017188017A1 (ja) 検出装置、検出方法、およびプログラム
US20240059295A1 (en) Multi-view geometry-based hazard detection for autonomous systems and applications
US11017671B2 (en) Precautionary visual perception by detection of rear stop light of vehicle that is two vehicles ahead
US20240104941A1 (en) Sensor calibration using fiducial markers for in-cabin monitoring systems and applications
WO2022061289A1 (en) Simulating viewpoint transformations for sensor independent scene understanding in autonomous systems
KR102480989B1 (ko) 차량용 디스플레이 장치 및 그 동작 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190816

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200428

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200610

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20201027

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20201109

R151 Written notification of patent or utility model registration

Ref document number: 6801666

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151