JP2016111661A - 撮像装置、物体検出装置及び移動体機器制御システム - Google Patents

撮像装置、物体検出装置及び移動体機器制御システム Download PDF

Info

Publication number
JP2016111661A
JP2016111661A JP2015012169A JP2015012169A JP2016111661A JP 2016111661 A JP2016111661 A JP 2016111661A JP 2015012169 A JP2015012169 A JP 2015012169A JP 2015012169 A JP2015012169 A JP 2015012169A JP 2016111661 A JP2016111661 A JP 2016111661A
Authority
JP
Japan
Prior art keywords
light
image
imaging
image sensor
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2015012169A
Other languages
English (en)
Other versions
JP6468482B2 (ja
Inventor
伊藤 泉
Izumi Ito
泉 伊藤
明弘 川村
Akihiro Kawamura
明弘 川村
健 白崎
Ken Shirasaki
健 白崎
石塚 健一
Kenichi Ishitsuka
健一 石塚
健哉 藤原
Kenya Fujiwara
健哉 藤原
佐藤 裕之
Hiroyuki Sato
裕之 佐藤
修作 高巣
Shusaku Takasu
修作 高巣
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to PCT/JP2015/005812 priority Critical patent/WO2016084359A1/en
Priority to US15/515,849 priority patent/US10628696B2/en
Priority to EP15863353.7A priority patent/EP3225020A4/en
Publication of JP2016111661A publication Critical patent/JP2016111661A/ja
Application granted granted Critical
Publication of JP6468482B2 publication Critical patent/JP6468482B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q1/00Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor
    • B60Q1/02Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments
    • B60Q1/04Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights
    • B60Q1/14Arrangement of optical signalling or lighting devices, the mounting or supporting thereof or circuits therefor the devices being primarily intended to illuminate the way ahead or to illuminate other areas of way or environments the devices being headlights having dimming means
    • B60Q1/1415Dimming circuits
    • B60Q1/1423Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic
    • B60Q1/143Automatic dimming circuits, i.e. switching between high beam and low beam due to change of ambient light or light level in road traffic combined with another condition, e.g. using vehicle recognition from camera images or activation of wipers
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/04Mounting of cameras operative during drive; Arrangement of controls thereof relative to the vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60SSERVICING, CLEANING, REPAIRING, SUPPORTING, LIFTING, OR MANOEUVRING OF VEHICLES, NOT OTHERWISE PROVIDED FOR
    • B60S1/00Cleaning of vehicles
    • B60S1/02Cleaning windscreens, windows or optical devices
    • B60S1/04Wipers or the like, e.g. scrapers
    • B60S1/06Wipers or the like, e.g. scrapers characterised by the drive
    • B60S1/08Wipers or the like, e.g. scrapers characterised by the drive electrically driven
    • B60S1/0818Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like
    • B60S1/0822Wipers or the like, e.g. scrapers characterised by the drive electrically driven including control systems responsive to external conditions, e.g. by detection of moisture, dirt or the like characterized by the arrangement or type of detection means
    • B60S1/0833Optical rain sensor
    • B60S1/0844Optical rain sensor including a camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/28Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00 for polarising
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/143Sensing or illuminating at different wavelengths
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/10Image acquisition
    • G06V10/12Details of acquisition arrangements; Constructional details thereof
    • G06V10/14Optical characteristics of the device performing the acquisition or on the illumination arrangements
    • G06V10/147Details of sensors, e.g. sensor lenses
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60QARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
    • B60Q2300/00Indexing codes for automatically adjustable headlamps or automatically dimmable headlamps
    • B60Q2300/40Indexing codes relating to other road users or special conditions
    • B60Q2300/42Indexing codes relating to other road users or special conditions oncoming vehicle
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00Arrangements for holding or mounting articles, not otherwise provided for
    • B60R2011/0001Arrangements for holding or mounting articles, not otherwise provided for characterised by position
    • B60R2011/0003Arrangements for holding or mounting articles, not otherwise provided for characterised by position inside the vehicle
    • B60R2011/0026Windows, e.g. windscreen
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/131Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing infrared wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Signal Processing (AREA)
  • Automation & Control Theory (AREA)
  • Vascular Medicine (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Optics & Photonics (AREA)
  • Studio Devices (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Geophysics And Detection Of Objects (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Abstract

【課題】照明光案内部材を用いる撮像装置において、画像センサの第二受光部分に近い第一受光部分の領域に受光される受光量が相対的に低下するのを抑制することを課題とする。【解決手段】光照射手段202から照射された照明光が入射される被入射面232、及び、該被入射面から入射した照明光を光透過性部材105の一方の面へ透過させる透過面231を有する照明光案内部材230と、光透過性部材を透過した所定の撮像領域からの光を画像センサ206の第一受光部分で受光するとともに、前記光透過性部材の前記一方の面とは反対側の面で反射した照明光を前記画像センサの第一受光部分に隣り合う第二受光部分で受光する撮像手段と、前記所定の撮像領域から入射した光を前記画像センサの第一受光部分へ出射させるとともに、前記光透過性部材の前記反対側の面で反射した照明光を該画像センサの第二受光部分へ出射させる光学部材209を有する。【選択図】図3

Description

本発明は、撮像装置、物体検出装置及び移動体機器制御システムに関するものである。
従来、車両前方領域を画像センサの一部で撮像しつつ、車両のフロントガラスに付着する雨滴等の付着物を画像センサの他部で撮像する撮像装置が知られている。
例えば、特許文献1には、路面上の白線や先行車両などが存在する車両前方領域を画像センサの上部約2/3を占める第一受光部分で撮像し、その車両のフロントガラスの外壁面上に付着する雨滴を画像センサの下部約1/3を占める第二受光部分で撮像する撮像装置が開示されている。この撮像装置では、光照射手段から照射される照明光を、フロントガラスの内壁面上に設置される反射偏向プリズム(照明光案内部材)を通じてフロントガラスへ入射させ、その反射光を画像センサの第二受光部分で受光する。このような反射偏向プリズムを用いることにより、フロントガラスの外壁面上における雨滴が付着していない領域(非付着領域)で照明光が全反射する条件を満たすように、フロントガラスの内壁面へ照明光を入射させることが可能となる。
フロントガラス外壁面上の非付着領域で反射した照明光は、フロントガラスの内壁面から再び反射偏向プリズムに入射し、反射偏向プリズムの出射面から射出されて画像センサの第二受光部分に受光される。一方、フロントガラス外壁面上における雨滴が付着している領域(雨滴付着領域)では、照明光がフロントガラスの外壁面から車両外部へ透過する。したがって、フロントガラス外壁面上の雨滴付着領域で反射した照明光は、画像センサの第二受光部分には受光されない。その結果、画像センサの第二受光部分に対応する画像データから、非付着領域を映し出す画像部分の輝度が高く、雨滴付着領域を映し出す画像部分の輝度が低いという画像を得ることができる。この画像上における輝度の違い(コントラスト)により、フロントガラス上の雨滴を検出することができるとされている。
しかしながら、特許文献1に開示の撮像装置では、フロントガラス内壁面上に設置される反射偏向プリズムが、車両前方領域から画像センサへ向かう光束の一部を遮ることになる。より詳しくは、撮像領域からの光束のうち撮像レンズによって画像センサの第一受光部分の下部(画像センサの第二受光部分に近い側の第一受光部分の領域)へ集光される光束については、その撮像レンズの下部に入射する光束部分が反射偏向プリズムによって遮られる。そのため、画像センサの第一受光部分の下部に受光される受光量は、画像センサの第一受光部分の他の部分で受光される受光量よりも相対的に低くなる。反射偏向プリズムによって遮られる光束の量は、画像センサの下へ向かうほど多くなる。その結果、画像センサの第一受光部分に対応する画像では、その画像下部において画像下側へ向かうほど輝度が低くなり、当該画像を利用した後段の処理(車両検出処理等)において処理精度の低下を招くなどの弊害をもたらすおそれがある。
上述した課題を解決するために、本発明は、光透過性部材の一方の面側から該光透過性部材を照明する照明光を照射する光照射手段と、前記光照射手段から照射された照明光が入射される被入射面、前記光透過性部材の前記一方の面に接して配置され該被入射面から入射した照明光を該一方の面へ透過させる透過面、該透過面を透過して該光透過性部材の該一方の面とは反対側の面で反射した照明光を出射する出射面とを有する照明光案内部材と、前記光透過性部材の一方の面とは反対側の面から入射してくる所定の撮像領域からの光を画像センサの第一受光部分で受光して該撮像領域の画像データを出力するとともに、前記光透過性部材の前記反対側の面で反射して前記照明光案内部材の出射面から出射した照明光を前記画像センサの第一受光部分に隣り合う第二受光部分で受光して該光透過性部材の画像データを出力する撮像手段とを備えた撮像装置において、前記所定の撮像領域から入射した光を前記画像センサの第一受光部分へ出射させるとともに、前記照明光案内部材の出射面から入射した照明光を該画像センサの第二受光部分へ出射させる光学部材を設けたことを特徴とする。
本発明によれば、照明光案内部材を用いる撮像装置において、画像センサの第二受光部分に近い第一受光部分の領域に受光される受光量が相対的に低下するのを抑制できるという優れた効果が奏される。
実施形態における車載機器制御システムの概略構成を示す模式図である。 同車載機器制御システムにおける撮像ユニットを備えた物体検出装置の概略構成を示す模式図である。 同撮像ユニットの光学系を説明するための説明図である。 同撮像ユニットの斜視図である。 雨滴検出用の撮像画像データに適用可能なカットフィルタのフィルタ特性を示すグラフである。 雨滴検出用の撮像画像データに適用可能なバンドパスフィルタのフィルタ特性を示すグラフである。 同撮像部の光学フィルタに設けられる前段フィルタの正面図である。 同撮像部の撮像画像データの画像例を示す説明図である。 同撮像部の光学フィルタと画像センサとを光透過方向に対して直交する方向から見たときの模式拡大図である。 同光学フィルタの偏光フィルタ層と分光フィルタ層の領域分割パターンを示す説明図である。 フロントセンシング用受光領域に対応する箇所に設けられる分光フィルタ層の領域分割パターンの一例として、2×2の受光素子に対応した部分のみ図示した説明図である。 同分光フィルタ層のR、G、B用の各分光フィルタ領域の透過率特性を示すグラフである。 フロントセンシング用受光領域に対応する箇所に設けられる分光フィルタ層の領域分割パターンの他の例として、2×2の受光素子に対応した部分のみ図示した説明図である。 フロントセンシング用受光領域に対応する箇所に設けられる分光フィルタ層の領域分割パターンの更に他の例として、2×2の受光素子に対応した部分のみ図示した説明図である。 実施形態で利用可能な他の画像センサにおける1つの受光素子部分を拡大した断面を示す模式図である。 同画像センサのフィルタ部材に赤外光透過フィルタ機能を持たせる場合の好適なフィルタ特性の一例を示すグラフである。 実施形態における車両検出処理の流れを示すフローチャートである。 実施形態における雨滴検出処理の説明図である。 従来の反射偏向プリズムを用いた撮像ユニットの一例の概略構成を示す説明図である。 同撮像ユニットにおいて、車両前方の撮像領域から画像センサのフロントセンシング用受光領域の上端付近へ向かう光束と、反射偏向プリズムから射出される照明光の光束とを示す説明図である。 同撮像ユニットにおいて、撮像領域から一様な光を撮像部に入射させたときのフロントセンシング用画像領域の輝度とフロントセンシング用画像領域の上下方向位置との関係を示すグラフである。
以下、本発明に係る撮像装置を、移動体である自動車等の車両に搭載される対象機器を制御する移動体機器制御システムとしての車載機器制御システムに用いた一実施形態について説明する。
本発明に係る撮像装置は、車載機器制御システムに限らず、例えば、当該撮像装置で撮像した撮像画像データに基づいて検出対象物を検出する物体検出装置を利用するその他のシステムなどにも適用できる。
図1は、本実施形態における車載機器制御システムの概略構成を示す模式図である。
本車載機器制御システムは、移動体である自動車などの自車両100に搭載された撮像部により撮像した撮像画像データを利用して、ヘッドランプの配光制御、ワイパーの駆動制御、その他の車載機器の制御を行うものである。
本実施形態の車載機器制御システムに設けられる撮像部は、撮像ユニット101に設けられており、走行する自車両100の進行方向前方領域を撮像領域として撮像する。撮像ユニット101は、例えば、自車両100のフロントガラス105のルームミラー(図示せず)付近に設置される。撮像ユニット101の撮像部で撮像された撮像画像データは、画像解析ユニット102に入力される。画像解析ユニット102は、処理実行手段としてのCPUやRAM等により構成され、撮像部から送信されてくる撮像画像データを解析し、撮像画像データに自車両100の前方に存在する他車両の位置(方角や距離)を算出したり、フロントガラス105に付着する雨滴や異物などの付着物を検出したり、撮像領域内に存在する路面上の白線(区画線)等の検出対象物を検出したりする。
画像解析ユニット102の算出結果は、ヘッドランプ制御ユニット103に送られる。ヘッドランプ制御ユニット103は、例えば、画像解析ユニット102が算出した他車両の位置データから、自車両100の車載機器であるヘッドランプ104を制御する制御信号を生成する。具体的には、例えば、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
画像解析ユニット102の算出結果は、ワイパー制御ユニット106にも送られる。ワイパー制御ユニット106は、ワイパー107を制御して、自車両100のフロントガラス105に付着した雨滴や異物などの付着物を除去する。ワイパー制御ユニット106は、画像解析ユニット102が検出した付着物検出結果を受けて、ワイパー107を制御する制御信号を生成する。ワイパー制御ユニット106により生成された制御信号がワイパー107に送られると、自車両100の運転者の視界を確保するべく、ワイパー107を稼動させる。
また、画像解析ユニット102の算出結果は、車両走行制御ユニット108にも送られる。車両走行制御ユニット108は、画像解析ユニット102が検出した白線検出結果に基づいて、白線によって区画されている車線領域から自車両100が外れている場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。また、車両走行制御ユニット108は、画像解析ユニット102が検出した他車両の位置データに基づいて、先行車両との距離が近接した場合等に、自車両100の運転者へ警告を報知したり、自車両のハンドルやブレーキを制御するなどの走行支援制御を行ったりする。
図2は、撮像ユニット101に設けられる撮像部200を含む物体検出装置の概略構成を示す説明図である。
撮像部200は、主に、撮像レンズ204と、光学フィルタ205と、受光素子が2次元配置された画像センサ206を含んだセンサ基板207と、センサ基板207から出力されるアナログ電気信号(画像センサ206上の各受光素子が受光した受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する信号処理部208とから構成されている。
また、本実施形態の撮像ユニット101には、光照射手段としての光源部202も設けられている。この光源部202は、フロントガラス105の内壁面(一方の面)側に配置され、外壁面(反対側の面)に付着した付着物(以下、検出対象物が主に雨滴である場合を例に挙げて説明する。)を検出するためのものである。
本実施形態では、撮像レンズ204の光軸が略水平方向に一致するように撮像ユニット101を配置するが、これに限定されることはなく、水平方向(図2中のX方向)を基準とした特定方向に向けるような例であってもよい。撮像レンズ204は、例えば、複数のレンズで構成され、焦点がフロントガラス105の位置よりも遠方に設定されるものを用いる。撮像レンズ204の焦点位置は、例えば、無限遠又は無限遠とフロントガラス105との間に設定することができる。
画像センサ206は、センサ面を保護するカバーガラスを透過した光を受光する2次元配置された複数の受光素子で構成され、受光素子(撮像画素)ごとに入射光を光電変換する機能を有する。後述の図等では画像センサ206の各画素を簡略化して描いているが、実際には画像センサ206は2次元配置された数十万個程度の画素で構成されている。画像センサ206としては、例えば、全撮像画素を同時露光(グローバルシャッター)して各撮像画素の信号を読み出すCCD(Charge Coupled Device)や、ライン露光(ローリングシャッター)で露光された各撮像画素の信号を読み出すCMOS(Complementary Metal Oxide Semiconductor)などを用いたイメージセンサであり、その受光素子にはフォトダイオードを用いることができる。
信号処理部208は、画像センサ206で光電変換され、センサ基板207から出力されるアナログ電気信号(画像センサ206の各受光素子での受光量)をデジタル電気信号に変換した撮像画像データを生成して出力する機能を有する。信号処理部208は、画像解析ユニット102と電気的に接続されている。信号処理部208は、センサ基板207を経由して画像センサ206から電気信号(アナログ信号)が入力されると、入力された電気信号から、画像センサ206上における各撮像画素の明るさ(輝度)を示すデジタル信号(撮像画像データ)を生成する。そして、この撮像画像データを、画像の水平・垂直同期信号とともに、後段の画像解析ユニット102へ出力する。
また、画像解析ユニット102は、撮像ユニット101の撮像動作を制御する機能や、撮像ユニット101から送信される撮像画像データを解析する機能を有する。画像解析ユニット102は、撮像ユニット101から送信された撮像画像データから、画像センサ206の撮像対象(自車両前方領域に存在する他車両等の物体や、フロントガラス105上に付着している雨滴、凍結、曇り等)ごとの最適な露光量を算出し、画像センサ206の撮像対象ごとに最適な露光量(本実施形態では露光時間)を設定する機能を有する。また、画像解析ユニット102は、露光量調整と連動しながら、光源制御部102Bによって、光源部202の発光タイミングを調整する機能も有する。また、画像解析ユニット102は、撮像ユニット101から送信されてくる撮像画像データから、路面状態や道路標識などに関する情報を検出する機能を有する。また、画像解析ユニット102は、検出処理部102Aによって、フロントガラス105の状態(雨滴の付着、凍結、曇りなど)を検出する機能を有する。また、画像解析ユニット102は、撮像ユニット101から送信されてくる撮像画像データから、自車両の前方に存在する他車両の位置や方角、距離等を算出する機能を有する。
図3は、本実施形態における撮像ユニット101の光学系を説明するための説明図である。
図4は、撮像ユニット101の斜視図である。
本実施形態の光源部202は、フロントガラス105上に付着した付着物(雨滴、凍結、曇り等)を検出するための照明光を照射するものである。本実施形態の光源部202は、その光源としてのLEDを複数備えた構成となっている。このように光源を複数具備することにより、光源が1つである場合と比較して、フロントガラス105上の付着物を検出するための検出領域が広がり、フロントガラス105の付着物の検出精度が向上する。LEDの配置方法は、図3中のY方向に沿って1列又は複数列に配置することで、後述するとおり、車両前方領域の画像が映し出される画像領域の下側に映し出されるフロントガラス画像を撮像するための照明を均一化したり、検出領域を広げたりすることが可能となる。
光源部202は、光源部202が照射する照明光の光軸方向と撮像レンズ204の光軸方向とが予め所定の角度を有するように配置されている。また、光源部202は、光源部202が照射する照明光によって照明されるフロントガラス105上において、その照明範囲が撮像レンズ204の所定の画角範囲内(視野角の範囲内)、例えば11°〜12°の範囲内となるように、配置されている。
光源部202の発光波長としては、対向車の運転者や歩行者を眩惑しないように、可視光を避けることが好ましく、例えば、可視光よりも波長が長く、画像センサ206の受光感度が及ぶ波長範囲(例えば800〜1000nm程度の赤外光波長範囲)を用いる。光源部202の発光タイミングなどの駆動制御は、信号処理部208からの画像信号の取得と連動しながら、画像解析ユニット102の光源制御部102Bを通じて行われる。
本実施形態の撮像ユニット101には、図3に示すように、光源部202からの光を入射してフロントガラス105へ導く照明光案内部材としての反射偏向プリズム230が設けられている。反射偏向プリズム230は、光源部202からの照明光を適切にフロントガラス105の内部に導くために、その一面である透過面231がフロントガラス105の内壁面に密着するように配置されている。これにより、反射偏向プリズム230の被入射面232から入射した光源部202からの照明光のうち、反射偏向プリズム230の透過面231から出射した照明光の大部分がフロントガラス105の内壁面に入射するようになる。
反射偏向プリズム230をフロントガラス105の内壁面に取り付ける際、これらの間に、透光性材料からなるジェルやシール材などの充填材を介在させて密着性を高めるのが好ましい。これにより、反射偏向プリズム230とフロントガラス105との間に空気層や気泡などが介在しないようにでき、これらの間でフレネル反射によるロスが生じにくいようにしている。また、充填材の屈折率は、反射偏向プリズム230とフロントガラス105の中間屈折率であることが好ましい。これにより、充填材と反射偏向プリズム230との間、及び、充填材とフロントガラス105との間でのフレネル反射ロスを軽減できるからである。ここでいうフレネル反射とは、屈折率の異なる材料間で発生する反射のことである。
反射偏向プリズム230の材料は、少なくとも光源部202からの照明光を透過させる材料であればよく、ガラスやプラスチックなどを用いることができる。本実施形態の光源部202からの照明光は赤外光であるため、反射偏向プリズム230の材料としては、可視光を吸収するような黒色系の材料を用いてもよい。可視光を吸収する材料を用いることにより、反射偏向プリズム230に光源部202からの照明光(赤外光)以外の光(車外からの可視光など)が入射するのを抑制できる。
また、本実施形態においては、反射偏向プリズム230の被入射面232から入射し、反射偏向プリズム230の透過面231からフロントガラス105の内壁面へ入射した照明光が、フロントガラス105の外壁面上における雨滴(検出対象物)が付着していない非付着箇所で略全反射し、その反射光がフロントガラス105の内壁面から再び反射偏向プリズム230の透過面231を介して反射偏向プリズム230の内部へ入射し、反射偏向プリズム230の出射面233から出射するように構成されている。そして、詳しくは後述するが、反射偏向プリズム230の出射面233から出射した照明光は、撮像ユニット101に設けられている光学部材としての波長フィルタ209の内面209aで反射した後、撮像レンズ204で集光されて画像センサ206の第二受光部分である付着物検出用受光領域へ入射するように構成されている。
フロントガラス105の外壁面に対する照明光の入射角θは、本実施形態では約50°となるように構成されている。適切な入射角θは、空気とフロントガラス105の外壁面との間の屈折率差に起因して、フロントガラス105の内部においてその外壁面で全反射を起こす臨界角と、フロントガラス105の外壁面上に空気(屈折率1)とは異なる屈折率の付着物(例えば雨滴であれば屈折率=約1.33)が付着した場合の屈折率差に起因した臨界角との間である。したがって、本実施形態では、フロントガラス105の外壁面に雨滴等の付着物が付着していない場合、その非付着箇所では、照明光がフロントガラス105の外壁面を透過することはなく、すべて反射される。
一方、フロントガラス105の外壁面上に空気(屈折率1)とは異なる雨滴(屈折率1.33)などの付着物が付着すると、この全反射条件が崩れ、雨滴が付着している雨滴付着箇所では照明光がフロントガラス105の外壁面を透過する。したがって、フロントガラス105の外壁面上の非付着箇所については、その反射光が画像センサ206に受光されて高輝度な画像部分となる一方、フロントガラス105の外壁面上の雨滴付着箇所については、その反射光の光量が減り、画像センサ206に受光される光量が少なくなるので、低輝度な画像部分となる。したがって、画像センサ206から出力される画像データに基づく撮像画像上においては、雨滴付着箇所と非付着箇所との間で高いコントラストが得られる。
ここで、フロントガラス105の外壁面で反射した光源部202からの照明光(赤外光)を画像センサ206で受光して撮像する際、画像センサ206の付着物検出用受光領域には、光源部202からの照明光のほか、例えば太陽光などの大光量の外乱光も入射してくる。よって、光源部202からの照明光をこのような大光量の外乱光と区別するためには、光源部202の発光量を外乱光よりも十分に大きくする必要があるが、このような大発光量の光源部202を用いることは困難である場合が多い。
なお、本実施形態においては、後述するように、車両前方の撮像領域側から入射してくる外乱光のうち、赤外波長帯の光については波長フィルタ209でカットされるが、その他の波長帯(可視光波長帯)の光については、波長フィルタ209を透過するため、比較的多くの外乱光が画像センサ206の付着物検出用受光領域に入射してくる。
そこで、本実施形態においては、例えば、図5に示すように光源部202の発光波長よりも短い波長(可視光波長帯を含む)の光をカットするようなカットフィルタか、もしくは、図6に示すように透過率のピークが光源部202の発光波長とほぼ一致したバンドパスフィルタを有する光学フィルタ205を介して、光源部202からの照明光を画像センサ206の付着物検出用受光領域で受光するように構成する。これにより、光源部202の発光波長以外の光をカットして画像センサ206の付着物検出用受光領域で受光できるので、画像センサ206の付着物検出用受光領域で受光される光源部202からの光量は、外乱光に対して相対的に大きくなる。その結果、大発光量の光源部202でなくても、光源部202からの照明光を外乱光と区別することが可能となる。
ただし、本実施形態においては、画像センサ206による撮像画像データから、フロントガラス105上の雨滴を検出するだけでなく、先行車両や対向車両の検出や白線の検出も行う。そのため、画像センサ206の全領域について光源部202が照射する照明光の波長帯(赤外波長帯)以外の光をカットしてしまうと、先行車両や対向車両の検出や白線の検出に必要な波長帯の光を画像センサ206で受光できず、これらの検出に支障をきたす。
そこで、本実施形態では、画像センサ206の領域を、フロントガラス105上の雨滴を検出するための付着物検出用受光領域と、先行車両や対向車両の検出や白線の検出を行うためのフロントセンシング用受光領域とに区分し、付着物検出用受光領域に対応する箇所についてのみ光源部202が照射する赤外波長光以外の波長帯をカットするフィルタを、光学フィルタ205に配置している。
図7は、光学フィルタ205に設けられる前段フィルタ210の正面図である。
図8は、撮像画像データの画像例を示す説明図である。
本実施形態の光学フィルタ205は、前段フィルタ210と後段フィルタ220とを光透過方向に重ね合わせた構造となっている。前段フィルタ210は、図7に示すように、撮像画像上部2/3であるフロントセンシング用画像領域213に対応する画像センサ206上のフロントセンシング用受光領域に配置される赤外光カットフィルタ領域211と、撮像画像下部1/3である付着物検出用画像領域214に対応する画像センサ206上の付着物検出用受光領域に配置される赤外光透過フィルタ領域212とに、領域分割されている。赤外光透過フィルタ領域212には、図5に示したカットフィルタや図6に示したバンドパスフィルタを用いる。
本実施形態では、前段フィルタ210を構成する赤外光カットフィルタ領域211と赤外光透過フィルタ領域212とが、それぞれ層構成の異なる多層膜によって形成されている。このような前段フィルタ210の製造方法としては、赤外光カットフィルタ領域211の部分をマスクで隠しながら赤外光透過フィルタ領域212の部分を真空蒸着などにより成膜した後、今度は赤外光透過フィルタ領域212の部分をマスクで隠しながら赤外光カットフィルタ領域211の部分を真空蒸着などにより成膜するという方法が挙げられる。
対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の画像は、主に撮像画像中央部から上部に存在することが多く、撮像画像下部には自車両前方の直近路面の画像が存在するのが通常である。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別に必要な情報は撮像画像上部に集中しており、その識別において撮像画像下部の情報はあまり重要でない。よって、単一の撮像画像データから、対向車両や先行車両あるいは白線の検出と雨滴の検出とを両立して行う場合には、図8に示すように、撮像画像下部を付着物検出用画像領域214とし、残りの撮像画像上部をフロントセンシング用画像領域213とし、これに対応して前段フィルタ210を領域分割するのが好適である。
なお、本実施形態では、撮像画像中におけるフロントセンシング用画像領域213の下部に付着物検出用画像領域214を設けた例であるが、フロントセンシング用画像領域213の上部に付着物検出用画像領域214を設けたり、フロントセンシング用画像領域213の上部と下部の両方に付着物検出用画像領域214を設けたりしてもよい。
撮像部200の撮像方向を下方へ傾けていくと、撮像領域内の下部に自車両のボンネットが入り込んでくる場合がある。この場合、自車両のボンネットで反射した太陽光や先行車両のテールランプなどが外乱光となり、これが撮像画像データに含まれることで対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の誤識別の原因となる。このような場合でも、本実施形態では、撮像画像下部に対応する箇所に図5に示したカットフィルタや図6に示したバンドパスフィルタが配置されているので、ボンネットで反射した太陽光や先行車両のテールランプなどの外乱光がカットされる。よって、対向車両のヘッドランプ及び先行車両のテールランプ並びに白線の識別精度が向上する。
なお、本実施形態では、撮像レンズ204の特性により、撮像領域内の光景と画像センサ206上の像とでは天地が逆になる。よって、撮像画像下部を付着物検出用画像領域214とする場合には、光学フィルタ205の前段フィルタ210の上部を図5に示したカットフィルタや図6に示したバンドパスフィルタで構成することになる。
ここで、先行車両を検出する際には、撮像画像上のテールランプを識別することで先行車両の検出を行うが、テールランプは対向車両のヘッドランプと比較して光量が少なく、また街灯などの外乱光も多く存在するため、単なる輝度データのみからテールランプを高精度に検出するのは困難である。そのため、テールランプの識別には分光情報を利用し、赤色光の受光量に基づいてテールランプを識別することが必要となる。そこで、本実施形態では、後述するように、光学フィルタ205の後段フィルタ220に、テールランプの色に合わせた赤色フィルタあるいはシアンフィルタ(テールランプの色の波長帯のみを透過させるフィルタ)を配置し、赤色光の受光量を検知できるようにしている。
ただし、本実施形態の画像センサ206を構成する各受光素子は、赤外波長帯の光に対しても感度を有するので、赤外波長帯を含んだ光を画像センサ206で受光すると、得られる撮像画像は全体的に赤みを帯びたものとなってしまう。その結果、テールランプに対応する赤色の画像部分を識別することが困難となる場合がある。そこで、本実施形態では、光学フィルタ205の前段フィルタ210において、フロントセンシング用画像領域213に対応する箇所を赤外光カットフィルタ領域211としている。これにより、テールランプの識別に用いる撮像画像データ部分から赤外波長帯が除外されるので、テールランプの識別精度が向上する。
図9は、光学フィルタ205と画像センサ206とを光透過方向に対して直交する方向から見たときの模式拡大図である。
画像センサ206は、上述したようにCCDやCMOSなどを用いたイメージセンサであり、その受光素子にはフォトダイオード206Aを用いている。フォトダイオード206Aは、画素ごとに2次元的にアレイ配置されており、フォトダイオード206Aの集光効率を上げるために、各フォトダイオード206Aの入射側にはマイクロレンズ206Bが設けられている。この画像センサ206がワイヤボンディングなどの手法によりPWB(printed wiring board)に接合されてセンサ基板207が形成されている。
画像センサ206のマイクロレンズ206B側の面には、光学フィルタ205が近接配置されている。光学フィルタ205の後段フィルタ220は、図9に示すように、透明なフィルタ基板221上に偏光フィルタ層222と分光フィルタ層223を順次形成して積層構造としたものである。偏光フィルタ層222と分光フィルタ層223は、いずれも、画像センサ206上における1つのフォトダイオード206Aに対応するように領域分割されている。
光学フィルタ205と画像センサ206との間に空隙がある構成としてもよいが、光学フィルタ205を画像センサ206に密着させる構成とした方が、光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の各領域の境界と画像センサ206上のフォトダイオード206A間の境界とを一致させやすくなる。光学フィルタ205と画像センサ206は、例えば、UV接着剤で接合してもよいし、撮像に用いる有効画素範囲外でスペーサにより支持した状態で有効画素外の四辺領域をUV接着や熱圧着してもよい。
図10は、本実施形態に係る光学フィルタ205の偏光フィルタ層222と分光フィルタ層223の領域分割パターンを示す説明図である。
偏光フィルタ層222と分光フィルタ層223は、フロントセンシング用画像領域213に対応する箇所に設けられ、それぞれ、第1領域及び第2領域という2種類の領域が、画像センサ206上の1つのフォトダイオード206Aに対応して配置されたものである。これにより、画像センサ206上の各フォトダイオード206Aによって受光される受光量は、受光する光が透過した偏光フィルタ層222と分光フィルタ層223の領域の種類に応じて、偏光情報や分光情報等として取得することができる。
分光フィルタ層223の領域分割パターンとしては、2種類の領域を市松模様状に分布させたパターンに限らず、例えば、図11に示す例のように、R、G、Bの各分光フィルタがベイヤ配列で配置されたパターンであってもよい。図11に示す例では、2×2の受光素子に対応する4つのフィルタ領域に対し、その対角に位置する2つのフィルタ領域にR用分光フィルタ領域とB用分光フィルタ領域とを配置し、残りの対角に位置する2つのフィルタ領域にG用分光フィルタ領域を配置したものである。ここで、これらのR、G、B用の各分光フィルタ領域は、図12に示すような透過率特性を有し、それぞれ、可視域の赤色(Red)、緑色(Green)、青色(Blue)の波長帯域の光を透過する。これにより、前方車両のテールランプの検出や標識検知など分光情報に基づく情報が詳細に取得することが可能となる。
また、例えば、図13に示すように、図11に示したG用分光フィルタ領域の1つを非フィルタ領域(全波長帯域を透過させるフィルタ領域)としたものであってもよい。このような非フィルタ領域(図13中符号Cで示す領域)を設けることで、そこを分光フィルタ領域とした場合よりも光透過率が上がるため、例えば、光量が不足する夜間時の車両前方の画像が採取しやすくなる。
また、例えば、図14に示すように、図11に示したG用分光フィルタ領域の1つを、赤外光を選択的に透過させる赤外光用フィルタ領域としたものであってもよい。このような赤外光用フィルタ領域(図14中符号IRで示す領域)を設けることで、例えば投光する車両のヘッドライトに赤外光の光を加えることが可能となり、夜間時の障害物検知がしやすくなる。
ただし、本実施形態では、光学フィルタ205の前段フィルタ210において、フロントセンシング用画像領域213に対応する箇所に赤外光カットフィルタ領域211が設けられている。そのため、ヘッドライトに赤外光が赤外光カットフィルタ領域211によってカットされないようにする必要がある。一方で、赤外光カットフィルタ領域211は、光源部202から照射される照明光がフロントセンシング用画像領域213で受光されて外乱光となる事態を防止する機能も果たしている。そのため、光源部202から照射される照明光がフロントセンシング用画像領域213で受光されるのを防止しつつ、自車両のヘッドライトの赤外光はフロントセンシング用画像領域213で受光して夜間時の障害物検知がしやすくなる構成が望まれる。
このような構成としては、例えば、次のような構成が挙げられる。
自車両のヘッドライトの赤外光の波長帯(第一赤外帯域)と、光源部202が照明光として照射する赤外光の波長帯(第二赤外帯域)とを、互いに重複しない波長帯をもつように設定する。具体例としては、第一赤外帯域を750〜900nmとし、第二赤外帯域を900〜1000nmとする。なお、可視光帯域は400〜750nm程度である。第一赤外帯域と第二赤外帯域とを完全に重複しないように設定することが望ましいが、このように設定しても、後述するフィルタの性能上、これらの帯域を完全に選択して透過、非透過(カット)させることが困難であることから、第一赤外帯域と第二赤外帯域とが多少重複していても問題ない。
波長フィルタ209としては、可視光帯域及び第一赤外帯域を透過させ、かつ、第二赤外帯域を遮断、反射するようなフィルタ特性を有する構成とする。この構成とすることで、車両前方の撮像領域から入射してくる光のうちの可視光領域の光、及び、ヘッドライトの赤外光(第一赤外帯域)に照らされた障害物からの反射光については、波長フィルタ209を透過し、画像センサ206のフロントセンシング用受光領域へ集光される。一方、光源部202の照明光(第二赤外帯域)によるフロントガラス105で反射した光については、波長フィルタ209から出射する面(波長フィルタ209の内面209a)で反射し、画像センサ206の付着物検出用受光領域へ入射させることができる。
このとき、付着物検出用受光領域には、車両前方の撮像領域から入射してくるヘッドライトの赤外光(第一赤外帯域)が入射して外乱光になるおそれがある。そのため、付着物検出用受光領域に対応する光学フィルタ205上の箇所には、可視光帯域及び第一赤外帯域をカットし、かつ、第二赤外帯域を透過させるフィルタ機能を持たせるのが好ましい。ただし、後述する図15に示すように、光学フィルタ205における赤外光透過フィルタ機能(可視光帯域をカットするフィルタ機能)を、画像センサ206内の全フォトダイオード206Aに対応して設けられた各フィルタ部材206Dにもたせる場合、そのフィルタ部材206Dは、第一赤外帯域及び第二赤外帯域の双方を透過させる構成とする。
なお、本実施形態では、画像センサ206はモノクロ画像用の撮像素子を前提にして説明するが、画像センサ206をカラー用撮像素子で構成してもよい。カラー用撮像素子で構成する場合、カラー用撮像素子の各撮像画素に付属するカラーフィルタの特性に応じて、偏光フィルタ層222と分光フィルタ層223の各領域の光透過特性を調整してやればよい。すなわち、本実施形態における光学フィルタ205を構成する前段フィルタ210(赤外光カットフィルタ領域211や赤外光透過フィルタ領域212)や後段フィルタ220(偏光フィルタ層222や分光フィルタ層223)が担う一部又は全部のフィルタ機能を備えた画像センサ206を用いることが可能である。このような画像センサ206を用いることで、光学フィルタ205の簡素化が可能となり、あるいは、光学フィルタ205自体が不要となり、全体として低コスト化を図ることが可能となる。
このような画像センサとしては、例えば、図15に示すような受光素子が2次元配置された画像センサが挙げられる。この画像センサの受光素子部分の断面は、入射側(図中上側)から順に、マイクロレンズ206B、フィルタ部材206D、配線206C、フォトダイオード206Aが層状に配列されている。このフィルタ部材206Dとして、上述した光学フィルタ205を構成する前段フィルタ210や後段フィルタ220と同等のフィルタ機能を持たせる。このようなフィルタ部材206Dは、図15に示すように、マイクロレンズ206Bの下側の透明基層上に、所定のフィルタ機能を有するフィルタ材料を蒸着等によって多層膜状に付着させるなど、既存の製法を用いて作成することができる。
フィルタ部材206Dに赤外光透過フィルタ機能を持たせる場合、フロントセンシング用画像領域213に対応する箇所については、図16中符号F1で示すように、比較的広い範囲の赤外光領域を選択的に透過させるバンドパスフィルタを好適に用いることができる。一方、付着物検出用画像領域214に対応する箇所については、図16中符号F2で示すように、比較的狭い範囲の赤外光領域を選択的に透過させるバンドパスフィルタを好適に用いることができる。ただし、光源部202の発光波長の分布範囲を含むようなバンドパスフィルタであることが望まれる。
なお、1つの画素についての偏光情報や分光情報は、当該画素の受光量のみから取得せず、当該画素の周辺に位置する他の画素の受光量も用いて取得するようにしてもよい。
本実施形態において、偏光フィルタ層222の第1領域は、画像センサ206の撮像画素の縦列(鉛直方向)に平行に振動する鉛直偏光成分のみを選択して透過させる鉛直偏光領域であり、偏光フィルタ層222の第2領域は、画像センサ206の撮像画素の横列(水平方向)に平行に振動する水平偏光成分のみを選択して透過させる水平偏光領域である。また、分光フィルタ層223の第1領域は、偏光フィルタ層222を透過可能な使用波長帯域に含まれる赤色波長帯(特定波長帯)の光のみを選択して透過させる赤色分光領域であり、分光フィルタ層223の第2領域は、波長選択を行わずに光を透過させる非分光領域である。そして、本実施形態においては、隣接する縦2つ横2つの合計4つの撮像画素a〜dによって撮像画像データの1画像画素が構成される。
具体的には、撮像画素aでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素aは、鉛直偏光成分Pの赤色波長帯Rの光P/Rを受光することになる。
また、撮像画素bでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素bは、鉛直偏光成分Pにおける非分光Cの光P/Cを受光することになる。
また、撮像画素cでは、光学フィルタ205の偏光フィルタ層222における水平偏光領域(第2領域)と分光フィルタ層223の非分光領域(第2領域)を透過した光が受光される。したがって、撮像画素cは、水平偏光成分Sにおける非分光Cの光S/Cを受光することになる。
撮像画素dでは、光学フィルタ205の偏光フィルタ層222における鉛直偏光領域(第1領域)と分光フィルタ層223の赤色分光領域(第1領域)を透過した光が受光される。したがって、撮像画素dは、撮像画素aと同様、鉛直偏光成分Pにおける赤色波長帯Rの光P/Rを受光することになる。
以上の構成により、本実施形態によれば、撮像画素aおよび撮像画素dの出力信号から赤色光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素bの出力信号から非分光の鉛直偏光成分画像についての一画像画素が得られ、撮像画素cの出力信号から非分光の水平偏光成分画像についての一画像画素が得られる。よって、本実施形態によれば、一度の撮像動作により、赤色光の鉛直偏光成分画像、非分光の鉛直偏光成分画像、非分光の水平偏光成分画像という3種類の撮像画像データを得ることができる。
このようにして得られる赤色光の鉛直偏光成分画像は、例えば、テールランプの識別に使用することができる。赤色光の鉛直偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射した赤色光や自車両100の室内におけるダッシュボードなどからの赤色光(映りこみ光)等のように水平偏光成分Sの強い赤色光による外乱要因が抑制された赤色画像を得ることができる。よって、赤色光の鉛直偏光成分画像をテールランプの識別に使用することで、テールランプの認識率が向上する。
また、非分光の鉛直偏光成分画像は、例えば、白線や対向車両のヘッドランプの識別に使用することができる。非分光の水平偏光成分画像は、水平偏光成分Sがカットされているので、路面に反射したヘッドランプや街灯等の白色光や自車両100の室内におけるダッシュボードなどからの白色光(映りこみ光)等のように水平偏光成分Sの強い白色光による外乱要因が抑制された非分光画像を得ることができる。よって、非分光の鉛直偏光成分画像を白線や対向車両のヘッドランプの識別に使用することで、その認識率が向上する。特に、雨路において、路面を覆った水面からの反射光は水平偏光成分Sが多いことが一般に知られている。よって、非分光の鉛直偏光成分画像を白線の識別に使用することで、雨路における水面下の白線を適切に識別することが可能となり、認識率が向上する。
また、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間で各画素値を比較した指標値を画素値とした比較画像を用いれば、後述するように、撮像領域内の金属物体、路面の乾湿状態、撮像領域内の立体物、雨路における白線の高精度な識別が可能となる。ここで用いる比較画像としては、例えば、非分光の鉛直偏光成分画像と非分光の水平偏光成分画像との間の画素値の差分値を画素値とした差分画像、これらの画像間の画素値の比率を画素値とした比率画像、あるいは、これらの画像間の画素値の合計に対するこれらの画像間の画素値の差分値の比率(差分偏光度)を画素値とした差分偏光度画像などを使用することができる。
なお、本実施形態では、赤外光カットフィルタ領域211を光学フィルタ205に設けず、例えば、撮像レンズ204に赤外光カットフィルタ領域211を設けてもよい。この場合、光学フィルタ205の作製が容易となる。また、偏光フィルタ層は、必ずしも設ける必要はない。
〔ヘッドランプの配光制御〕
以下、本実施形態におけるヘッドランプの配光制御について説明する。
本実施形態におけるヘッドランプの配光制御は、撮像部200で撮像された撮像画像データを解析して車両のテールランプとヘッドランプを識別し、識別したテールランプから先行車両を検出するとともに、識別したヘッドランプから対向車両を検出する。そして、先行車両や対向車両の運転者の目に自車両100のヘッドランプの強い光が入射するのを避けて他車両の運転者の幻惑防止を行いつつ、自車両100の運転者の視界確保を実現できるように、ヘッドランプ104のハイビームおよびロービームの切り替えを制御したり、ヘッドランプ104の部分的な遮光制御を行ったりする。
本実施形態のヘッドランプ配光制御では、撮像ユニット101から取得することができる情報のうち、撮像領域内の各地点(光源体)から発せられる光の強さ(明るさ情報)、ヘッドランプやテールランプなどの光源体(他車両)と自車両との距離(距離情報)、各光源体から発せられる光の赤色成分と白色成分(非分光)との比較による分光情報、白色成分の水平偏光成分と鉛直偏光成分との比較による偏光情報、水平偏光成分がカットされた白色成分の鉛直偏光成分情報、水平偏光成分がカットされた赤色成分の鉛直偏光成分情報を用いる。
明るさ情報について説明すると、夜間に、先行車両や対向車両が自車両から同じ距離に存在する場合、撮像部200によってそれらの先行車両及び対向車両を撮像すると、撮像画像データ上では検出対象物の1つである対向車両のヘッドランプが最も明るく映し出され、検出対象物の1つである先行車両のテールランプはそれよりも暗く映し出される。また、リフレクタが撮像画像データに映し出されている場合、リフレクタは自ら発光する光源ではなく、自車両のヘッドランプを反射することによって明るく映し出されるものに過ぎないので、先行車両のテールランプよりもさらに暗くなる。一方、対向車両のヘッドランプ、先行車両のテールランプ及びリフレクタからの光は、距離が遠くなるにつれて、それを受光する画像センサ206上ではだんだん暗く観測される。よって、撮像画像データから得られる明るさ(輝度情報)を用いることで 2種類の検出対象物(ヘッドランプとテールランプ)及びリフレクタの一次的な識別が可能である。
また、距離情報について説明すると、ヘッドランプやテールランプは、そのほとんどが左右一対のペアランプの構成であるため、この構成の特徴を利用してヘッドランプやテールランプ(すなわち他車両)と自車両との距離を求めることが可能である。ペアとなる左右一対のランプは、撮像部200が撮像した撮像画像データ上では、互いに近接して同じ高さ方向位置に映し出され、当該ランプを映し出すランプ画像領域の広さはほぼ同じで、かつ、当該ランプ画像領域の形状もほぼ同じである。よって、これらの特徴を条件とすれば、その条件を満たすランプ画像領域同士をペアランプであると識別できる。なお、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなり、単一ランプとして認識される。
このような方法でペアランプを識別できた場合、そのペアランプ構成であるヘッドランプやテールランプの光源までの距離を算出することが可能である。すなわち、車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像部200における撮像レンズ204の焦点距離fは既知であるため、撮像部200の画像センサ206上における左右ランプにそれぞれ対応した2つのランプ画像領域間の距離w1を撮像画像データから算出することにより、そのペアランプ構成であるヘッドランプやテールランプの光源と自車両までの距離xは、単純な比例計算(x=f×w0/w1)により求めることができる。また、このようにして算出される距離xが適正範囲であれば、その算出に用いた2つのランプ画像領域は他車両のヘッドランプとテールランプであると識別することができる。よって、この距離情報を用いることで、検出対象物であるヘッドランプとテールランプの識別精度が向上する。
また、分光情報について説明すると、本実施形態では、上述したとおり、撮像部200で撮像した撮像画像データから、赤色光(鉛直偏光成分)P/Rを受光する画像センサ206上の撮像画素a,b,c,d等に対応した画素データのみを抽出することで、撮像領域内の赤色成分だけを映し出した赤色画像を生成することができる。よって、赤色画像において所定輝度以上の輝度を有する画像領域が存在する場合、その画像領域はテールランプを映し出したテールランプ画像領域であると識別することが可能である。
また、撮像部200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b等に対応した画素データのみを抽出することで、撮像領域内のモノクロ輝度画像(鉛直偏光成分)を生成することができる。よって、赤色画像上の画像領域と、この画像領域に対応したモノクロ輝度画像上の画像領域との間の輝度比率(赤色輝度比率)を算出することもできる。この赤色輝度比率を用いれば、撮像領域内に存在する物体(光源体)からの光に含まれる相対的な赤色成分の比率を把握することができる。テールランプの赤色輝度比率は、ヘッドランプや他のほとんどの光源よりも十分に高い値をとるので、この赤色輝度比率を用いればテールランプの識別精度が向上する。
また、偏光情報について説明すると、本実施形態では、上述したとおり、撮像部200で撮像した撮像画像データから、白色光(非分光)の鉛直偏光成分P/Cを受光する画像センサ206上の撮像画素b等に対応した画素データと、白色光(非分光)の水平偏光成分S/Cとを受光する画像センサ206上の撮像画素c等に対応した画素データとを抽出し、画像画素ごとに、これらの画像データ間の画素値(輝度)を比較した比較画像を得ることができる。具体的には、例えば、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの差分値(S−P)を画素値とした差分画像を、比較画像として得ることができる。このような比較画像によれば、ヘッドランプから撮像部200へ直接入射する直接光の画像領域(ヘッドランプ画像領域)と、ヘッドランプから雨路の水面で反射してから撮像部200へ入射する間接光の画像領域とのコントラストを大きくとることができ、ヘッドランプの識別精度が向上する。
特に、比較画像としては、白色光(非分光)の鉛直偏光成分Pと白色光(非分光)の水平偏光成分Sとの比率(S/P)を画素値とした比率画像や、差分偏光度((S−P)/(S+P))を画素値とした差分偏光度画像などが好適に使用できる。一般に、水面などの水平な鏡面で反射した光は、水平偏光成分が常に強くなることが知られており、とくに水平偏光成分Sと鉛直偏光成分Pとの比率(S/P)や差分偏光度((S−P)/(S+P))をとった場合、その比率や差分偏光度は特定角度(ブリュースター角度)において最大となることが知られている。雨路では、散乱面であるアスファルト面に水が張られて鏡面に近い状態となるため、路面からのヘッドランプ反射光は水平偏光成分Sの方が強くなる。よって、路面からのヘッドランプ反射光の画像領域は、比率画像や差分偏光度画像においては、その画素値(輝度)が大きいものとなる。一方、ヘッドランプからの直接光は基本的には無偏光なので、比率画像や差分偏光度画像においては、その画素値(輝度)が小さいものとなる。この違いにより、ヘッドランプからの直接光と同じ程度の光量をもつ雨路面からのヘッドランプ反射光を適切に除外でき、ヘッドランプからの直接光をこのようなヘッドランプ反射光と区別して識別することができる。
また、本実施形態によれば、このように分光情報により識別した各ランプ画像領域について、上述した偏光情報を用いることにより、テールランプやヘッドランプからの直接光と照り返し光とを高い精度で識別できる。具体的には、例えば、テールランプに関しては、上述した水平偏光成分Sの赤色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のテールランプからの直接光と雨路面からのテールランプの照り返し光とを識別する。また、例えば、ヘッドランプに関しては、上述した水平偏光成分の白色画像の画素値(輝度値)やその差分偏光度等を元に、水平偏光成分の頻度や強さの違いを利用して、先行車両のヘッドランプからの直接光と雨路面からのヘッドランプの照り返し光とを識別する。
次に、本実施形態における先行車両及び対向車両の検出処理の流れについて説明する。
図17は、本実施形態における車両検出処理の流れを示すフローチャートである。
本実施形態の車両検出処理では、撮像部200が撮像した画像データに対して画像処理を施し、検出対象物であると思われる画像領域を抽出する。そして、その画像領域に映し出されている光源体の種類が2種類の検出対象物のいずれであるかを識別することで、先行車両、対向車両の検出を行う。
まず、ステップS1では、撮像部200の画像センサ206のフロントセンシング用受光領域によって撮像された自車両前方の画像データをメモリに取り込む。この画像データは、上述したように、画像センサ206の各撮像画素における輝度を示す信号を含む。次に、ステップS2では、自車両の挙動に関する情報を図示しない車両挙動センサから取り込む。
ステップS3では、メモリに取り込まれた画像データから検出対象物(先行車両のテールランプ及び対向車両のベッドランプ)であると思われる輝度の高い画像領域(高輝度画像領域)を抽出する。この高輝度画像領域は、画像データにおいて、所定の閾値輝度よりも高い輝度を有する明るい領域となり、複数存在する場合が多いが、それらのすべてを抽出する。よって、この段階では、雨路面からの照り返し光を映し出す画像領域も、高輝度画像領域として抽出される。
高輝度画像領域抽出処理では、まず、ステップS31において、画像センサ206上の各撮像画素の輝度値を所定の閾値輝度と比較することにより2値化処理を行う。具体的には、所定の閾値輝度以上の輝度を有する画素に「1」、そうでない画素に「0」を割り振ることで、2値化画像を作成する。次に、ステップS32において、この2値化画像において、「1」が割り振られた画素が近接している場合には、それらを1つの高輝度画像領域として認識するラベリング処理を実施する。これによって、輝度値の高い近接した複数の画素の集合が、1つの高輝度画像領域として抽出される。
上述した高輝度画像領域抽出処理の後に実行されるステップS4では、抽出された各高輝度画像領域に対応する撮像領域内の物体と自車両との距離を算出する。この距離算出処理では、車両のランプは左右1対のペアランプであることを利用して距離を検出するペアランプ距離算出処理と、遠距離になるとペアランプを構成する左右のランプを区別して認識できなくなって当該ペアランプが単一ランプとして認識される場合の単一ランプ距離算出処理とを実行する。
まず、ペアランプ距離算出処理のために、ステップS41では、ランプのペアを作成する処理であるペアランプ作成処理を行う。ペアとなる左右一対のランプは、撮像部200が撮像した画像データにおいて、近接しつつほぼ同じ高さとなる位置にあり、高輝度画像領域の面積がほぼ同じで、かつ高輝度画像領域の形が同じであるとの条件を満たす。したがって、このような条件を満たす高輝度画像領域同士をペアランプとする。ペアをとることのできない高輝度画像領域は単一ランプとみなされる。ペアランプが作成された場合には、ステップS42のペアランプ距離算出処理によって、そのペアランプまでの距離を算出する。車両の左右ヘッドランプ間の距離及び左右テールランプ間の距離は、一定値w0(例えば1.5m程度)で近似することができる。一方、撮像部200における焦点距離fは既知であるため、撮像部200の画像センサ206上の左右ランプ距離w1を算出することにより、ペアランプまでの実際の距離xは、単純な比例計算(x=f・w0/w1)により求めることができる。なお、先行車両や対向車両までの距離検出は、レーザレーダやミリ波レーダなどの専用の距離センサを用いてもよい。
ステップS5では、鉛直偏光成分Pの赤色画像と鉛直偏光成分Pの白色画像との比率(赤色輝度比率)を分光情報として用い、この分光情報から、ペアランプとされた2つの高輝度画像領域が、ヘッドランプからの光によるものなのか、テールランプからの光によるものなのかを識別するランプ種類識別処理を行う。このランプ種類識別処理では、まずステップS51において、ペアランプとされた高輝度画像領域について、画像センサ206上の撮像画素a,dに対応した画素データと画像センサ206上の撮像画素bに対応した画素データとの比率を画素値とした赤色比画像を作成する。そして、ステップS52において、その赤色比画像の画素値を所定の閾値と比較し、所定の閾値以上である高輝度画像領域についてはテールランプからの光によるテールランプ画像領域であるとし、所定の閾値未満である高輝度画像領域についてはヘッドランプからの光によるヘッドランプ画像領域であるとするランプ種別処理を行う。
続いて、ステップS6では、テールランプ画像領域及びヘッドランプ画像領域として識別された各画像領域について、差分偏光度((S−P)/(S+P))を偏光情報として用いて、テールランプ又はヘッドランプからの直接光か雨路面等の鏡面部で反射して受光された照り返し光かを識別する照り返し識別処理を行う。この照り返し識別処理では、まずステップS61において、テールランプ画像領域について差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。また、同様に、ヘッドランプ画像領域についても差分偏光度((S−P)/(S+P))を算出し、その差分偏光度を画素値とした差分偏光度画像を作成する。そして、ステップS62において、それぞれの差分偏光度画像の画素値を所定の閾値と比較し、所定の閾値以上であるテールランプ画像領域及びヘッドランプ画像領域については、照り返し光によるものであると判断し、それらの画像領域は先行車両のテールランプを映し出したものではない又は対向車両のヘッドランプを映し出したものではないとして、除外する処理を行う。この除外処理を行った後に残るテールランプ画像領域及びヘッドランプ画像領域は、先行車両のテールランプを映し出したものである、あるいは、対向車両のヘッドランプを映し出したものであると識別される。
なお、レインセンサなどを車両に搭載しておき、当該レインセンサにより雨天時であることを確認した場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。また、運転者(ドライバー)がワイパーを稼働している場合にのみ、上述した照り返し識別処理S6を実行するようにしてもよい。要するに、雨路面からの照り返しが想定される雨天時のみに上述した照り返し識別処理S6を実行するようにしてもよい。
以上のような車両検出処理により検出した先行車両及び対向車両の検出結果は、本実施形態では自車両の車載機器であるヘッドランプの配光制御に用いられる。具体的には、車両検出処理によりテールランプが検出されてその先行車両のバックミラーに自車両のヘッドランプ照明光が入射する距離範囲内に近づいた場合に、その先行車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。また、車両検出処理によりベッドランプが検出されて、その対向車両の運転者に自車両のヘッドランプ照明光が当たる距離範囲内に近づいた場合に、その対向車両に自車両のヘッドランプ照明光が当たらないように、自車両のヘッドランプの一部を遮光したり、自車両のヘッドランプの光照射方向を上下方向又は左右方向へずらしたりする制御を行う。
〔白線検出処理〕
以下、本実施形態における白線検出処理について説明する。
本実施形態では、自車両が走行可能領域から逸脱するのを防止する目的で、検出対象物としての白線(区画線)を検出する処理を行う。ここでいう白線とは、実線、破線、点線、二重線等の道路を区画するあらゆる白線を含む。なお、黄色線等の白色以外の色の区画線などについても同様に検出可能である。
本実施形態における白線検出処理では、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の鉛直偏光成分Pの偏光情報を用いる。なお、この白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めても良い。一般に、白線やアスファルト面は、可視光領域においてフラットな分光輝度特性を有することが知られている。一方、シアン光は可視光領域内の広帯域を含んでいるため、アスファルトや白線を撮像するには好適である。よって、前記構成例2における光学フィルタ205を用い、白色成分の鉛直偏光成分にシアン光の鉛直偏光成分を含めることで、使用する撮像画素数が増えるため、結果的に解像度が上がり、遠方の白線も検出することが可能となる。
本実施形態の白線検出処理において、多くの道路では、黒色に近い色の路面上に白線が形成されており、白色成分(非分光)の鉛直偏光成分Pの画像において白線部分の輝度は路面上の他部分より十分に大きい。そのため、路面部分のうち輝度が所定値以上である部分を白線として判定することにより、白線を検出することができる。特に、本実施形態では、使用する白色成分(非分光)の鉛直偏光成分Pの画像は、水平偏光成分Sがカットされているので、雨路からの照り返し光などを抑制した画像を取得することが可能となる。よって、夜間における雨路などからヘッドランプの照り返し光等の外乱光を白線と誤認識することなく、白線検出を行うことが可能である。
また、本実施形態における白線検出処理において、撮像ユニット101から取得することができる情報のうち、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pとの比較による偏光情報、例えば、白色成分(非分光)の水平偏光成分Sと鉛直偏光成分Pの差分偏光度((S−P)/(S+P))を用いてもよい。白線からの反射光は、通常、拡散反射成分が支配的であるため、その反射光の鉛直偏光成分Pと水平偏光成分Sとはほぼ同等となり、差分偏光度はゼロに近い値を示す。一方、白線が形成されていないアスファルト面部分は、乾燥状態のときには散乱反射成分が支配的となる特性を示し、その差分偏光度は正の値を示す。また、白線が形成されていないアスファルト面部分は、湿潤状態のときには、鏡面反射成分が支配的となり、その差分偏光度は更に大きな値を示す。したがって、得られた路面部分の偏光差分値が所定閾値よりも小さい部分を白線と判定することができる。
〔フロントガラス上の雨滴検出処理〕
以下、本実施形態における雨滴検出処理について説明する。
本実施形態では、ワイパー107の駆動制御やウォッシャー液の吐出制御を行う目的で、付着物としての雨滴を検出する処理を行う。なお、ここでは、フロントガラス上に付着した付着物が雨滴である場合を例に挙げて説明するが、鳥の糞、隣接車両からの跳ねてきた路面上の水しぶきなどの付着物についても同様である。
本実施形態における雨滴検出処理では、撮像ユニット101から取得することができる情報のうち、前段フィルタ210の赤外光透過フィルタ領域212を透過した光を受光する付着物検出用画像領域214の鉛直偏光成分Pの偏光情報を用いる。そのため、光源部202からフロントガラス105へ入射させる光は鉛直偏光成分Pを多く含むようにする必要がある。そのためには、例えば光源部202の光源として発光ダイオード(LED)を用いる場合、その光源部202とフロントガラス105との間に、鉛直偏光成分Pのみを透過させる偏光子を配置するのがよい。また、光源部202の光源として半導体レーザ(LD)を用いる場合、LDは特定偏光成分の光のみを発光させることができるので、鉛直偏光成分Pのみの光がフロントガラス105に入射するようにLDの軸を合わせてもよい。
本実施形態では、上述したとおり、光源部202から照射されて反射偏向プリズム230からフロントガラス105の内壁面に入射した照明光(赤外光)は、フロントガラス105の外壁面上に雨滴が付着していない非付着箇所では、フロントガラス105の外壁面で正反射する。この正反射光は、画像センサ206の付着物検出用受光領域に受光されて付着物検出用画像領域214に映し出される。一方、フロントガラス105の外壁面上に雨滴が付着している雨滴付着箇所では、照明光がフロントガラス105の外壁面を透過し、その透過光が画像センサ206の付着物検出用受光領域に受光されることはない。したがって、撮像画像データの付着物検出用画像領域214は、非付着箇所については高輝度な画像部分(高い画素値)となる一方、雨滴付着箇所については低輝度な画像部分(低い画素値)となる。このような違いから、雨滴の有無だけでなく、雨滴の量も把握することが可能である。
図18は、本実施形態における雨滴検出処理の説明図である。
本実施形態の雨滴検出処理では、撮像ユニット101から取得した撮像画像データの付着物検出用画像領域214の情報を用い、雨滴量が一定量を超えたと判断したらワイパー107を駆動させる。詳しくは、付着物検出用画像領域214を例えば図18に示すように画像横方向に8区分に分割し、各区分内の合計画素値IL1〜IL8を算出する。そして、いずれかの区分の合計画素値IL1〜IL8が予め決められた閾値ILthを下回ったら、雨滴量が一定量を超えたと判断してワイパー107を駆動させる。逆に、いずれかの区分の合計画素値IL1〜IL8が予め決められた閾値ILth以上になったら、ワイパー107の駆動を停止させる。なお、ワイパー107の駆動を開始させる条件や停止させる条件は、これに限らず適宜設定できる。例えば、閾値は固定値である必要はなく、撮像部200が搭載される自車両周辺の状況変化等に応じて適宜変更するようにしてもよい。また、開始条件と停止条件の閾値は同じ値でも異なる値でもよい。
ここで、本実施形態のように光学フィルタ205を設けて外乱光を低減している構成であっても、付着物検出用画像領域214に対応する赤外光透過フィルタ領域212を透過する外乱光(光源部202の発光波長と同じ外乱光)も存在するため、外乱光の影響を完全に除去することはできない。例えば、昼間は、太陽光の赤外波長成分が外乱光として影響するし、夜間は、対向車のヘッドライトに含まれる赤外波長成分が外乱光として影響する。このような外乱光があると、上述した各区分の合計画素値IL1〜IL8が外乱光分だけ高めに誤差が生じ、雨滴を検出する際に誤検出を引き起こして適切な制御の妨げとなる。
このような誤検出を防ぐため、本実施形態では、光源部202の照明光の光量を画像センサ206の露光タイミングと同期させて制御している。具体的には、光源部202で照明しているときの照明時画像と、光源部202を消灯したときの消灯時画像とを撮像し、付着物検出用画像領域214について、これらの差分画像(比較画像)を生成して、その差分画像に基づいて上述した雨滴検出処理を行う。
外乱光のうち、太陽光などは多少時間が経過しても大きな変化がないが、自車両100の走行中の対向車のヘッドライトなどは、わずかの時間経過で大きな変化が生じる場合がある。この場合、差分画像を得るための2つのフレームの時間的な間隔が開いていると、その間に外乱光の大きさが変わってしまい、差分画像を生成した際に、うまく外乱光をキャンセルできない可能性がある。このようなことを防ぐために、差分画像を得るための2つのフレームは連続するフレームであることが好ましい。
また、本実施形態においては、フロントセンシング用画像領域213の画像情報を用いるために撮像される通常フレームでは、フロントセンシング用画像領域213の輝度値に基づいた自動露光制御を行い、光源部202は消灯させておく。通常フレームを撮像している任意の合間に雨滴検知用の2つのフレームを連続して挿入する。この2つのフレームの撮像時において、露光制御は通常フレームの撮像時の自動露光制御ではなく、雨滴検知に適した露光制御を行う。
また、フロントセンシング用画像領域213の画像情報を元に車両制御や配光制御等を行う場合には、撮像画像中央部の輝度値に合わせた自動露光制御(AEC)を行うのが通常であるが、雨滴を検出するための2フレームについては、雨滴検知に最適な露光制御を行うのが好ましい。なぜなら、雨滴を検出するための2フレームの撮像時にも自動露光制御を行うと、光源部202の照明時のフレームと光源部202の消灯時のフレームとで、その露光時間が変わってしまう場合があるためである。2つのフレーム間で露光時間が変わると、それぞれのフレームに含まれる外乱光の受光量が変わってしまい、差分画像によって外乱光を適切にキャンセルできないおそれがあるからである。よって、雨滴を検出するための2フレームについては、例えば、露光時間が同じなるように露光制御を行うのがよい。
また、雨滴検知用のフレームを用いずに、通常フレームと同じ撮像フレームを用いて雨滴検出処理を行うようにしてもよい。また、前述の差分画像を用いず、単一のフレームで雨滴検出処理を行うこととしても構わない。
次に、本発明の特徴部分である、撮像ユニット101に設けられている光学部材としての波長フィルタ209について説明する。
図19は、従来の反射偏向プリズム230’を用いた撮像ユニットの一例の概略構成を示す説明図である。
従来は、図19に示すように、反射偏向プリズム230’から射出された照明光をそのまま撮像レンズ204に入射させる構成であった。このような構成においては、撮像レンズ204の画角範囲内(視野角の範囲内)に反射偏向プリズム230’が入り込むことになる。この場合、反射偏向プリズム230’が、車両前方の撮像領域から画像センサ206へ向かう光束の一部を遮ることになる。このとき、反射偏向プリズム230’を撮像レンズ204からなるべく離れた位置に配置すれば、反射偏向プリズム230’によって遮られてしまう光束の量を減らすことも可能である。しかしながら、反射偏向プリズム230’によって遮られる光束の量を十分に減らすには、反射偏向プリズム230’と撮像レンズ204との距離が長くなりすぎて、当該撮像ユニットの前後方向長さが大幅に長くなり、当該撮像ユニットの大型化を招く。
図20は、車両前方の撮像領域から画像センサ206のフロントセンシング用受光領域の上端付近へ向かう光束と、反射偏向プリズム230’から射出される照明光の光束とを示す説明図である。
なお、本実施形態では、撮像レンズ204の特性により、撮像領域内の光景と画像センサ206上の像とでは天地が逆になる構成であるため、画像センサ206上では、付着物検出用受光領域が上部に位置し、フロントセンシング用受光領域が下部に位置する。
撮像領域上のある地点から撮像レンズ204の有効範囲内に入射した光束は、撮像レンズ204によって、画像センサ206のフロントセンシング用受光領域上の対応する地点に集光される。ところが、画像センサ206のフロントセンシング用受光領域のうち、付着物検出用受光領域に近い部分(フロントセンシング用受光領域の上端付近)に集光される撮像領域からの光束は、撮像レンズ204に入射する前に、その一部が反射偏向プリズム230’に遮られてしまう。具体的には、撮像レンズ204の下部に入射する光束部分が反射偏向プリズム230’に遮られてしまう。
そのため、光束が反射偏向プリズム230’に遮られることのない付着物検出用受光領域から離れた画像センサ206のフロントセンシング用受光領域の部分(フロントセンシング用受光領域の下方部分)と比較して、光束の一部が反射偏向プリズム230’に遮られてしまうフロントセンシング用受光領域の部分(フロントセンシング用受光領域の上端付近)の受光量は、相対的に少ないものとなる。反射偏向プリズム230’によって遮られる光束の量は、付着物検出用受光領域に近いほど多くなる。
図21は、撮像領域から一様な光を撮像部200に入射させたときのフロントセンシング用画像領域213の輝度とフロントセンシング用画像領域213の上下方向位置との関係を示すグラフである。
このグラフでは、横軸にフロントセンシング用画像領域213の上下方向位置をとり、縦軸に輝度値をとったものである。なお、横軸は、図中右側ほど付着物検出用画像領域214に近づく。すなわち、図中右側ほど画像下部に向かう。レンズやセンサの特性を除いて、本来であれば、フロントセンシング用画像領域213の上下方向におけるどの位置でも、輝度値は同じになるはずであるが、図21に示すグラフのとおり、グラフ右側部分において右側へ向かうほど輝度値が下がっている。これは、画像センサ206のフロントセンシング用受光領域に受光される光束のうち、反射偏向プリズム230’によって遮られる光束の量が、付着物検出用受光領域に近いほど多くなることに起因している。
このように、フロントセンシング用画像領域213の下部において、画像下側へ向かうほど(付着物検出用画像領域214に近づくほど)輝度値が下がっていくようでは、フロントセンシング用画像領域213の下部における他車両や白線等の検出精度が低下するなどの弊害をもたらす。
本実施形態は、図3に示したように、撮像ユニット101に波長フィルタ209を設けることにより、反射偏向プリズム230を画角範囲外に配置することを可能にしたものである。
すなわち、本実施形態において、撮像レンズ204の画角範囲にわたって配置されている波長フィルタ209は、光学フィルタ205の赤外光透過フィルタ領域212と同様、図5に示したカットフィルタや図6に示したバンドパスフィルタで構成される。これにより、車両前方の撮像領域から入射してくる光のうちの可視光領域の光については、波長フィルタ209を透過し、撮像レンズ204によって画像センサ206のフロントセンシング用受光領域へ集光される。一方、本実施形態の波長フィルタ209は、光源部202からの照明光と同じ波長帯である赤外波長帯の光を透過させずに反射させる。そのため、車両前方の撮像領域から入射してくる可視光が波長フィルタ209から出射する面(波長フィルタ209の内面209a)で、フロントガラス105の外壁面上の非付着箇所で反射した照明光を反射させて、その反射光を画像センサ206の付着物検出用受光領域へ入射させることができる。
このような構成により、図3に示すように、撮像領域からの光束を遮ることのない位置、すなわち、撮像レンズ204の画角範囲外に、反射偏向プリズム230を配置しても、フロントガラス105で反射した照明光を、画角範囲内に配置された波長フィルタ209を介して、画像センサ206の付着物検出用受光領反射偏向プリズム230へ集光させることができる。その結果、画像センサ206のフロントセンシング用受光領域に受光される撮像領域からの光束はいずれも反射偏向プリズム230に遮られることがなくなるので、フロントセンシング用受光領域内に撮像領域からの受光量が相対的に少なくなる部分が生じることはない。
しかも、本実施形態によれば、反射偏向プリズム230によりフロントガラス105の内部へ導かれてフロントガラス105の外壁面で反射した照明光が、波長フィルタ209の内面209aで反射して画像センサ206の付着物検出用受光領域へ入射することができれば、フロントガラス105の内壁面のどの位置に反射偏向プリズム230を配置してもかまわない。したがって、反射偏向プリズム230の配置の自由度が高まる。加えて、反射偏向プリズム230の配置の自由度が高まることで、フロントガラス105上に設定される雨滴検出領域の位置も自由度が高まるので、より雨滴検出に有効なフロントガラス105上の位置に雨滴検出領域を設定することが可能となる。
なお、本実施形態においては、撮像領域から画像センサ206のフロントセンシング用受光領域へ受光させるべき光と、フロントガラス105の外壁面で反射した光源部202からの照明光との間における波長の違いを利用することで、波長フィルタ209により、撮像領域からの光を画像センサ206のフロントセンシング用受光領域へ受光させ、かつ、フロントガラス105の外壁面で反射した照明光を画像センサ206の付着物検出用受光領域へ受光させている。しかしながら、反射偏向プリズム230を撮像レンズ204の画角範囲外に配置するための光学部材は、このような波長の違いを利用する波長フィルタ209に限られない。
例えば、本実施形態における波長フィルタ209に代えて、光源部202からの照明光に含まれる特定偏光成分(例えば水平偏光成分S)については反射させ、この特定変更成分とは異なる別の偏光成分(例えば鉛直偏光成分P)の光を透過するような偏光成分選択部材としての偏光フィルタを用いてもよい。この場合、波長フィルタ209と同様の効果を得ることができる。
以上に説明したものは一例であり、次の態様毎に特有の効果を奏する。
(態様A)
フロントガラス105等の光透過性部材の一方の面(内壁面等)側から該光透過性部材を照明する照明光を照射する光源部202等の光照射手段と、前記光照射手段から照射された照明光が入射される被入射面232、及び、前記光透過性部材の前記一方の面に接して配置され該被入射面から入射した照明光を該一方の面へ透過させる透過面231を有する反射偏向プリズム230等の照明光案内部材と、前記光透過性部材を透過した自車両前方等の所定の撮像領域からの光を画像センサ206のフロントセンシング用受光領域等の第一受光部分で受光して該撮像領域の画像データを出力するとともに、前記光透過性部材の前記一方の面とは反対側の面(外壁面等)で反射した照明光を前記画像センサの第一受光部分に隣り合う付着物検出用受光領域等の第二受光部分で受光して該光透過性部材の画像データを出力する撮像部200等の撮像手段とを備えた撮像装置において、前記所定の撮像領域から入射した光を前記画像センサの第一受光部分へ出射させるとともに、前記光透過性部材の前記反対側の面で反射した照明光を該画像センサの第二受光部分へ出射させる波長フィルタ209等の光学部材を設けたことを特徴とする。
これによれば、このような光学部材を有することで、照明光案内部材を撮像手段の画角範囲外に配置しても、光透過性部材の前記反対側の面で反射した照明光を、画像センサの第二受光部分に受光させることが可能となる。これにより、上述したとおり、画像センサの第一受光部分に受光される撮像領域からの光は反射偏向プリズム230に遮られることがなくなる。よって、画像センサの第二受光部分に近い第一受光部分の領域で、撮像領域からの受光量が相対的に少なくなることを抑制することができる。
(態様B)
前記態様Aにおいて、前記光学部材は、前記光透過性部材を透過した前記所定の撮像領域からの光が前記画像センサへ受光されるまでの光路上に配置され、該所定の撮像領域から入射した光を透過して内面209a等の所定の出口面から前記画像センサの第一受光部分へ出射するとともに、前記光透過性部材の前記反対側の面で反射した照明光を該所定の出口面で反射させて該画像センサの第二受光部分へ出射するものであることを特徴とする。
これによれば、照明光案内部材の配置の自由度が高まる。
(態様C)
前記態様Bにおいて、前記光照射手段は、可視光波長帯から外れた赤外波長帯等の特定波長帯の照明光を照射するものであり、前記光学部材は、前記所定の撮像領域から入射する可視光波長帯の光を透過し、前記特定波長帯の光を前記所定の出口面で反射させる波長フィルタ209等の波長選択部材であることを特徴とする。
これによれば、波長の違いを利用した光学部材を簡易に実現できる。
(態様D)
前記態様Cにおいて、前記画像センサの第一受光部分へ入射する光路上には、可視光波長帯の光は透過させるが前記特定波長帯の光は透過させない赤外光カットフィルタ領域211等の波長フィルタが配置されていることを特徴とする。
これによれば、光学部材の出口面で反射した光照射手段からの照明光が画像センサの第一受光部分へ入射するのを抑制でき、画像センサの第一受光部分に対する外乱光を抑制することができる。
(態様E)
前記態様C又はDにおいて、前記画像センサの第二受光部分へ入射する光路上には、前記特定波長帯の光は透過させるが可視光波長帯の光は透過させない赤外光透過フィルタ領域212等の波長フィルタが配置されていることを特徴とする。
これによれば、光学部材を透過した撮像領域からの光が画像センサの第二受光部分へ入射するのを抑制でき、画像センサの第二受光部分に対する外乱光を抑制することができる。
(態様F)
前記態様B〜Eのいずれかの態様において、前記光照射手段は、水平偏光成分S等の特定偏光成分をもつ照明光を照射するものであり、前記光学部材は、前記特定偏光成分とは異なる鉛直偏光成分P等の別の偏光成分の光を透過し、該特定偏光成分の光を前記所定の出口面で反射させる偏光成分選択部材であることを特徴とする。
これによれば、偏光特性の違いを利用した光学部材を簡易に実現できる。
(態様G)
前記態様Fにおいて、前記画像センサの第一受光部分へ入射する光路上には、前記別の偏光成分の光は透過させるが前記特定偏光成分の光は透過させない偏光フィルタが配置されていることを特徴とする。
これによれば、光学部材の出口面で反射した光照射手段からの照明光が画像センサの第一受光部分へ入射するのを抑制でき、画像センサの第一受光部分に対する外乱光を抑制することができる。
(態様H)
前記態様F又はGにおいて、前記画像センサの第二受光部分へ入射する光路上には、前記特定偏光成分の光は透過させるが前記別の偏光成分の光は透過させない偏光フィルタが配置されていることを特徴とする。
これによれば、光学部材を透過した撮像領域からの光が画像センサの第二受光部分へ入射するのを抑制でき、画像センサの第二受光部分に対する外乱光を抑制することができる。
(態様I)
フロントガラス105等の光透過性部材の一方の面(内壁面等)側から、該光透過性部材を透過した車両前方等の撮像領域からの光を受光して該撮像領域の画像(フロントセンシング用画像領域213)を撮像するとともに、該光透過性部材の該一方の面とは反対側の面(外壁面等)の画像(付着物検出用画像領域214)を撮像する撮像ユニット101等の撮像装置と、前記撮像装置が撮像した撮像画像データに基づいて、前記撮像領域内に存在する他車両や白線等の検出対象物を検出する物体検出処理及び前記光透過性部材の前記反対側の面上に付着する雨滴等の付着物を検出する付着物検出処理を実行する画像解析ユニット102の検出処理部102A等の検出処理手段とを備えた物体検出装置であって、前記撮像装置として、前記態様A〜Hのいずれかの態様に係る撮像装置を用いることを特徴とする。
これによれば、画像センサの第一受光部分に隣接又は近接する第二受光部分で受光した受光量に基づく光透過性部材の画像(付着物検出用画像領域214等)から雨滴等の付着物を検出する場合でも、画像センサの第一受光部分のうち第二受光部分に近い領域において撮像領域からの受光量が相対的に少なくなることが抑制される。これにより、撮像領域の高精度な撮像画像データを得ることができるので、撮像領域の高精度な画像データを用いる後段の処理において、処理精度を高めることができる。
(態様J)
自車両100等の移動体のフロントガラス105等の窓部材の内壁面側に設置された撮像ユニット101等の撮像装置で撮像した撮像画像データに基づいて、当該移動体の外部の撮像領域内に存在する他車両や白線等の検出対象物を検出するとともに、前記窓部材の外壁面上に付着する雨滴等の付着物を検出する物体検出装置と、前記物体検出装置による検出結果に基づいて、移動体に搭載されたワイパー、ヘッドランプ、ハンドルやブレーキ等の所定の制御対象機器を制御するワイパー制御ユニット106、ヘッドランプ制御ユニット103、車両走行制御ユニット108等の移動体機器制御手段とを備えた移動体機器制御システムであって、前記物体検出装置として、前記態様Iの物体検出装置を用いることを特徴とする。
これによれば、撮像領域の高精度な画像データを用いて移動体の制御対象機器を制御できるので、移動体の機器制御を高精度に行うことが可能となる。
100 自車両
101 撮像ユニット
102 画像解析ユニット
102A 検出処理部
102B 光源制御部
103 ヘッドランプ制御ユニット
104 ヘッドランプ
105 フロントガラス
106 ワイパー制御ユニット
107 ワイパー
108 車両走行制御ユニット
200 撮像部
202 光源部
204 撮像レンズ
205 光学フィルタ
206 画像センサ
207 センサ基板
208 信号処理部
209 波長フィルタ
210 前段フィルタ
211 赤外光カットフィルタ領域
212 赤外光透過フィルタ領域
213 フロントセンシング用画像領域
214 付着物検出用画像領域
220 後段フィルタ
221 フィルタ基板
222 偏光フィルタ層
223 分光フィルタ層
230,230’ 反射偏向プリズム
231 透過面
232 被入射面
233 出射面
特開2014−32174号公報

Claims (10)

  1. 光透過性部材の一方の面側から該光透過性部材を照明する照明光を照射する光照射手段と、
    前記光照射手段から照射された照明光が入射される被入射面、及び、前記光透過性部材の前記一方の面に接して配置され該被入射面から入射した照明光を該一方の面へ透過させる透過面を有する照明光案内部材と、
    前記光透過性部材を透過した所定の撮像領域からの光を画像センサの第一受光部分で受光して該撮像領域の画像データを出力するとともに、前記光透過性部材の前記一方の面とは反対側の面で反射した照明光を前記画像センサの第一受光部分に隣り合う第二受光部分で受光して該光透過性部材の画像データを出力する撮像手段とを備えた撮像装置において、
    前記所定の撮像領域から入射した光を前記画像センサの第一受光部分へ出射させるとともに、前記光透過性部材の前記反対側の面で反射した照明光を該画像センサの第二受光部分へ出射させる光学部材を設けたことを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記光学部材は、前記光透過性部材を透過した前記所定の撮像領域からの光が前記画像センサへ受光されるまでの光路上に配置され、該所定の撮像領域から入射した光を透過して所定の出口面から前記画像センサの第一受光部分へ出射するとともに、前記光透過性部材の前記反対側の面で反射した照明光を該所定の出口面で反射させて該画像センサの第二受光部分へ出射するものであることを特徴とする撮像装置。
  3. 請求項2に記載の撮像装置において、
    前記光照射手段は、可視光波長帯から外れた特定波長帯の照明光を照射するものであり、
    前記光学部材は、前記所定の撮像領域から入射する可視光波長帯の光を透過し、前記特定波長帯の光を前記所定の出口面で反射させる波長選択部材であることを特徴とする撮像装置。
  4. 請求項3に記載の撮像装置において、
    前記画像センサの第一受光部分へ入射する光路上には、可視光波長帯の光は透過させるが前記特定波長帯の光は透過させない波長フィルタが配置されていることを特徴とする撮像装置。
  5. 請求項3又は4に記載の撮像装置において、
    前記画像センサの第二受光部分へ入射する光路上には、前記特定波長帯の光は透過させるが可視光波長帯の光は透過させない波長フィルタが配置されていることを特徴とする撮像装置。
  6. 請求項2乃至5のいずれか1項に記載の撮像装置において、
    前記光照射手段は、特定偏光成分をもつ照明光を照射するものであり、
    前記光学部材は、前記特定偏光成分とは異なる別の偏光成分の光を透過し、該特定偏光成分の光を前記所定の出口面で反射させる偏光成分選択部材であることを特徴とする撮像装置。
  7. 請求項6に記載の撮像装置において、
    前記画像センサの第一受光部分へ入射する光路上には、前記別の偏光成分の光は透過させるが前記特定偏光成分の光は透過させない偏光フィルタが配置されていることを特徴とする撮像装置。
  8. 請求項6又は7に記載の撮像装置において、
    前記画像センサの第二受光部分へ入射する光路上には、前記特定偏光成分の光は透過させるが前記別の偏光成分の光は透過させない偏光フィルタが配置されていることを特徴とする撮像装置。
  9. 光透過性部材の一方の面側から、該光透過性部材を透過した撮像領域からの光を受光して該撮像領域の画像を撮像するとともに、該光透過性部材の該一方の面とは反対側の面の画像を撮像する撮像装置と、
    前記撮像装置が撮像した撮像画像データに基づいて、前記撮像領域内に存在する検出対象物を検出する物体検出処理及び前記光透過性部材の前記反対側の面上に付着する付着物を検出する付着物検出処理を実行する検出処理手段とを備えた物体検出装置であって、
    前記撮像装置として、請求項1乃至8のいずれか1項に記載の撮像装置を用いることを特徴とする物体検出装置。
  10. 移動体の窓部材の内壁面側に設置された撮像装置で撮像した撮像画像データに基づいて、当該移動体の外部の撮像領域内に存在する検出対象物を検出するとともに、前記窓部材の外壁面上に付着する付着物を検出する物体検出装置と、
    前記物体検出装置による検出結果に基づいて、移動体に搭載された所定の制御対象機器を制御する移動体機器制御手段とを備えた移動体機器制御システムであって、
    前記物体検出装置として、請求項9の物体検出装置を用いることを特徴とする移動体機器制御システム。
JP2015012169A 2014-11-26 2015-01-26 撮像装置、物体検出装置及び移動体機器制御システム Expired - Fee Related JP6468482B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
PCT/JP2015/005812 WO2016084359A1 (en) 2014-11-26 2015-11-20 Imaging device, object detector and mobile device control system
US15/515,849 US10628696B2 (en) 2014-11-26 2015-11-20 Imaging device, object detector and mobile device control system
EP15863353.7A EP3225020A4 (en) 2014-11-26 2015-11-20 Imaging device, object detector and mobile device control system

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2014238793 2014-11-26
JP2014238793 2014-11-26

Publications (2)

Publication Number Publication Date
JP2016111661A true JP2016111661A (ja) 2016-06-20
JP6468482B2 JP6468482B2 (ja) 2019-02-13

Family

ID=56125054

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015012169A Expired - Fee Related JP6468482B2 (ja) 2014-11-26 2015-01-26 撮像装置、物体検出装置及び移動体機器制御システム

Country Status (3)

Country Link
US (1) US10628696B2 (ja)
EP (1) EP3225020A4 (ja)
JP (1) JP6468482B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019082359A (ja) * 2017-10-30 2019-05-30 国立研究開発法人宇宙航空研究開発機構 モニタリング装置、及びモニタリングシステム

Families Citing this family (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6690955B2 (ja) * 2016-02-02 2020-04-28 株式会社デンソーテン 画像処理装置及び水滴除去システム
JP6589760B2 (ja) * 2016-07-07 2019-10-16 株式会社デンソー 車両制御装置
JP2018044828A (ja) * 2016-09-13 2018-03-22 株式会社東芝 物体認識方法、プログラム、および光学システム
US10936884B2 (en) * 2017-01-23 2021-03-02 Magna Electronics Inc. Vehicle vision system with object detection failsafe
US10307780B2 (en) * 2017-06-08 2019-06-04 Meyer Products, Llc Video monitoring system for a spreader hopper
US11460550B2 (en) 2017-09-19 2022-10-04 Veoneer Us, Llc Direct detection LiDAR system and method with synthetic doppler processing
US11194022B2 (en) * 2017-09-29 2021-12-07 Veoneer Us, Inc. Detection system with reflection member and offset detection array
JP2019082615A (ja) * 2017-10-31 2019-05-30 スリーエム イノベイティブ プロパティズ カンパニー 撮像装置
US11585901B2 (en) 2017-11-15 2023-02-21 Veoneer Us, Llc Scanning lidar system and method with spatial filtering for reduction of ambient light
JP6627127B2 (ja) * 2017-11-27 2020-01-08 本田技研工業株式会社 車両制御装置、車両制御方法、およびプログラム
JP7081473B2 (ja) 2018-03-02 2022-06-07 株式会社リコー 撮像光学系、撮像システム及び撮像装置
EP3537399B1 (en) 2018-03-05 2021-03-31 Ricoh Company, Ltd. Imaging optical system, imaging system, and imaging apparatus
US10850595B2 (en) * 2018-03-07 2020-12-01 Magna Electronics Inc. Vehicular sensing system with attenuation of reflected-refracted light off of precipitation using light polarization
US10852503B2 (en) 2018-03-20 2020-12-01 Ricoh Company, Ltd. Joint structure
JP7124366B2 (ja) 2018-03-20 2022-08-24 株式会社リコー 撮像素子固定構造及び撮像装置
JP2019164303A (ja) 2018-03-20 2019-09-26 株式会社リコー 光学システム及び撮像装置
CN112189133B (zh) * 2018-05-31 2023-04-18 株式会社Psm国际 长尺寸片材的质量测量方法及质量测量装置
DK180429B1 (en) * 2018-11-20 2021-04-23 Motional Ad Llc Self-cleaning sensor housings
JP7279438B2 (ja) * 2019-03-19 2023-05-23 株式会社リコー 撮像装置、車両及び撮像方法
JP7204551B2 (ja) * 2019-03-19 2023-01-16 株式会社小糸製作所 車両用監視システム
US11474218B2 (en) 2019-07-15 2022-10-18 Veoneer Us, Llc Scanning LiDAR system and method with unitary optical element
US11579257B2 (en) 2019-07-15 2023-02-14 Veoneer Us, Llc Scanning LiDAR system and method with unitary optical element
US11313969B2 (en) 2019-10-28 2022-04-26 Veoneer Us, Inc. LiDAR homodyne transceiver using pulse-position modulation
US11326758B1 (en) 2021-03-12 2022-05-10 Veoneer Us, Inc. Spotlight illumination system using optical element
US20220303515A1 (en) * 2021-03-17 2022-09-22 Mediatek Inc. High Sensitivity Color Image Generation Using Hybrid Sensor
US11732858B2 (en) 2021-06-18 2023-08-22 Veoneer Us, Llc Headlight illumination system using optical element
DE102021132724A1 (de) * 2021-12-10 2023-06-15 Valeo Schalter Und Sensoren Gmbh Optischer fahrzeug-umgebungssensor, fahrzeug und herstellungsverfahren

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003315256A (ja) * 2002-04-23 2003-11-06 Mitsubishi Electric Corp 透光体表面の異物検出装置
JP2014032174A (ja) * 2012-07-13 2014-02-20 Ricoh Co Ltd 撮像装置、付着物検出装置、移動装置用機器制御システム及び移動装置

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1798540A3 (en) * 2000-12-22 2007-07-04 Niles Co., Ltd. Object sensor and control apparatus using the same
JP2012008360A (ja) 2010-06-25 2012-01-12 Nikon Corp 付着物検出光学系及び観察装置
JP2012179935A (ja) * 2011-02-28 2012-09-20 Jvc Kenwood Corp 車両用表示装置
JP5561333B2 (ja) * 2011-11-02 2014-07-30 株式会社リコー 画像処理装置、撮像方法、プログラムおよび車両
JP5999483B2 (ja) 2011-11-02 2016-09-28 株式会社リコー 付着物検出装置および車載機器制御装置
JP5656131B2 (ja) 2012-02-13 2015-01-21 株式会社リコー 撮像ユニット及びその設置方法
JP2014044196A (ja) 2012-07-30 2014-03-13 Ricoh Co Ltd 付着物検出装置、移動装置用機器制御システム及び移動装置
EP2879919B1 (de) * 2012-08-06 2018-06-20 Conti Temic microelectronic GmbH Detektion von regentropfen auf einer scheibe mittels einer kamera und beleuchtung
KR101599731B1 (ko) * 2014-05-30 2016-03-04 엑센도 주식회사 거울을 이용한 전반사형태 레인센서

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2003315256A (ja) * 2002-04-23 2003-11-06 Mitsubishi Electric Corp 透光体表面の異物検出装置
JP2014032174A (ja) * 2012-07-13 2014-02-20 Ricoh Co Ltd 撮像装置、付着物検出装置、移動装置用機器制御システム及び移動装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2019082359A (ja) * 2017-10-30 2019-05-30 国立研究開発法人宇宙航空研究開発機構 モニタリング装置、及びモニタリングシステム
JP7024996B2 (ja) 2017-10-30 2022-02-24 国立研究開発法人宇宙航空研究開発機構 モニタリングシステム

Also Published As

Publication number Publication date
JP6468482B2 (ja) 2019-02-13
US10628696B2 (en) 2020-04-21
EP3225020A4 (en) 2017-11-08
US20170270381A1 (en) 2017-09-21
EP3225020A1 (en) 2017-10-04

Similar Documents

Publication Publication Date Title
JP6468482B2 (ja) 撮像装置、物体検出装置及び移動体機器制御システム
JP5846485B2 (ja) 付着物検出装置及び付着物検出方法
US9726604B2 (en) Adhering detection apparatus, adhering substance detection method, storage medium, and device control system for controlling vehicle-mounted devices
JP6380843B2 (ja) 物体検出装置及びこれを備えた移動体機器制御システム並びに物体検出用プログラム
JP4326999B2 (ja) 画像処理システム
JP4327024B2 (ja) 画像処理システム
JP5936098B2 (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ
JP2013029451A (ja) 付着物検出装置及び付着物検出方法
JP2013031054A (ja) 撮像装置及びこれを備えた物体検出装置、並びに、光学フィルタ及びその製造方法
JP5656131B2 (ja) 撮像ユニット及びその設置方法
JP6555569B2 (ja) 画像処理装置、移動体機器制御システム及び画像処理用プログラム
JP5858327B2 (ja) 撮像装置及びこれを備えた物体検出装置並びに偏光フィルタ
WO2016084359A1 (en) Imaging device, object detector and mobile device control system
JP5839253B2 (ja) 物体検出装置及びこれを備えた車載機器制御装置
JP2016146583A (ja) 撮像装置、移動体機器制御システム及びプログラム
JP2016200528A (ja) 物体検出装置、移動体機器制御システム及び物体検出用プログラム
JP2015031564A (ja) 付着物検出装置及び移動装置用機器制御システム
JP6701542B2 (ja) 検出装置、移動体機器制御システム及び検出用プログラム
JP2017003531A (ja) 物体検出装置、物体除去動作制御システム、物体検出方法及び物体検出用プログラム
JP2015169567A (ja) 付着物検出装置、移動体機器制御システム及び付着物検出用プログラム
JP6536946B2 (ja) 撮像装置、撮像方法、プログラムおよび移動体機器制御システム
JP5891723B2 (ja) 撮像方法および撮像ユニット
JP2014232026A (ja) 付着物検出装置、移動体機器制御システム及び移動体
JP2016218046A (ja) 物体検出装置、物体除去動作制御システム、物体検出方法及び物体検出用プログラム
JP6566308B2 (ja) 付着物検出装置、移動体機器制御システム、付着物検出用プログラム及び付着物検出方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171227

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181005

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181204

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20181221

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20190103

R151 Written notification of patent or utility model registration

Ref document number: 6468482

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees