JP7040447B2 - 画像処理装置および情報生成装置と情報生成方法 - Google Patents

画像処理装置および情報生成装置と情報生成方法 Download PDF

Info

Publication number
JP7040447B2
JP7040447B2 JP2018535478A JP2018535478A JP7040447B2 JP 7040447 B2 JP7040447 B2 JP 7040447B2 JP 2018535478 A JP2018535478 A JP 2018535478A JP 2018535478 A JP2018535478 A JP 2018535478A JP 7040447 B2 JP7040447 B2 JP 7040447B2
Authority
JP
Japan
Prior art keywords
correction information
polarized image
unit
pixel
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018535478A
Other languages
English (en)
Other versions
JPWO2018037678A1 (ja
Inventor
雄飛 近藤
俊 海津
哲平 栗田
沱 庄
康孝 平澤
穎 陸
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Sony Group Corp
Original Assignee
Sony Corp
Sony Group Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp, Sony Group Corp filed Critical Sony Corp
Publication of JPWO2018037678A1 publication Critical patent/JPWO2018037678A1/ja
Application granted granted Critical
Publication of JP7040447B2 publication Critical patent/JP7040447B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/646Circuits for processing colour signals for image enhancement, e.g. vertical detail restoration, cross-colour elimination, contour correction, chrominance trapping filters
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J4/00Measuring polarisation of light
    • G01J4/04Polarimeters using electric detection means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Theoretical Computer Science (AREA)
  • Color Television Image Signal Generators (AREA)
  • Studio Devices (AREA)
  • Image Processing (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

この技術は、画像処理装置および情報生成装置と情報生成方法に関し、高画質の偏光画像を得られるようにする。
従来、撮像部と偏光子を用いて偏光画像を生成する方法が開示されている。例えば、特許文献1では、撮像部の前に偏光子を配置して、この偏光子を回して撮影することで複数偏光方向の偏光画像が生成する方法が開示されている。また、画素毎に異なる偏光方向の偏光子を設けることで、1回の撮像で異なる複数の偏光方向の偏光画像を生成する方法が開示されている。
さらに、複数の偏光方向の偏光画像から被写体の法線情報を生成することが行われている。例えば、非特許文献1や非特許文献2では、複数の偏光方向の偏光画像を偏光モデル式に当てはめることによって法線情報が生成されている。
国際公開第2008/099589号
Lawrence B.Wolff and Terrance E.Boult :"Constraining Object Features Using a Polarization Reflectance Model",IEEE Transaction on pattern analysis and machine intelligence,Vol.13、No.7,July 1991 Gary A. Atkinson and Edwin R. Hancock :"Recovery of surface orientation from diffuse polarization",IEEE Transactions of Image Processing, Vol.15, Issue.6, pp.1653-1664, 2006
ところで、画素毎に偏光子を設けた画像センサで偏光画像を生成する場合、微細な画素に偏光子を形成する難しさ等によって感度のばらつきを生じて、例えば輝度が均一である無偏光の被写体を撮像しても偏光画像は輝度のばらつきを生じた画像となってしまう場合がある。
そこで、この技術では、高画質の偏光画像を得るための画像処理装置および情報生成装置と情報生成方法を提供することを目的とする。
この技術の第1の側面は、
偏光画像に対して、予め生成されている補正情報を用いて偏光方向の違いによって生じた感度ばらつきを補正する補正処理部を備え、
前記偏光画像は、偏光子が配された偏光撮像素子を有する偏光画像取得部によって取得される複数偏光方向の偏光方向毎の画素を含む画像であり、
前記補正情報は、計測光照射部から前記偏光画像取得部に強度が一様の計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき生成されて、前記偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正ゲインである
画像処理装置にある。
この技術においては、偏光子が配された偏光撮像素子を有する偏光画像取得部に計測光照射部から強度が一様の計測光を照射して偏光画像取得部で取得された複数偏光方向の画素を含む偏光画像に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正ゲインが、感度ばらつきを補正する補正情報として、予め補正情報記憶部に記憶される。補正情報は、例えば偏光方向毎または偏光画像の画素毎に生成されている。また、補正情報には、偏光画像に生じたシェーディングを補正する情報が含められる。また、偏光画像はカラー画像であるとき、補正情報は、偏光画像の色成分毎に生成されて、補正情報には、偏光画像のホワイトバランスを補正する情報が含まれる。補正処理部では、偏光画像に対して、予め生成されて補正情報記憶部に記憶されている補正情報を用いて偏光方向の違いによって生じた感度ばらつきの補正が行われる。
この技術の第2の側面は、
偏光子が配された偏光撮像素子を有して複数偏光方向の偏光方向毎の画素を含む偏光画像を取得する偏光画像取得部に、強度が一様の計測光を照射する計測光照射部と、
前記計測光照射部から前記偏光画像取得部に計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を生成する補正情報生成処理部とを備える
情報生成装置にある。
この技術において、計測光照射部は、偏光画像を取得する偏光画像取得部に強度が一様の計測光を照射する。例えば、計測光照射部は無偏光光を偏光画像取得部に照射する。または、計測光照射部は球状拡散板を介して計測光を偏光画像取得部に照射する。補正情報生成部は、計測光照射部から計測光を所定の撮像光学系を用いた偏光画像取得部に照射して、この偏光画像取得部で取得された偏光画像に基づき、この偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を生成する。
また、計測光照射部は板状拡散板を介して計測光を偏光画像取得部に照射して、補正情報生成部は、板状拡散板に対する偏光画像取得部の向きを移動させる。あるいは、計測光照射部は、板状拡散板を介して計測光を偏光画像取得部に照射して、補正情報生成部は、偏光画像取得部の焦点距離と光軸中心に基づいて、画素毎に補正情報を生成する。
この技術の第3の側面は、
偏光子が配された偏光撮像素子を有して複数偏光方向の偏光方向毎の画素を含む偏光画像を取得する偏光画像取得部に、計測光照射部から強度が一様の計測光を照射することと、
前記計測光照射部から前記偏光画像取得部に前記計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を補正情報生成処理部で生成することと
を含む情報生成方法にある。

この技術によれば、偏光画像に対して、予め生成されている補正情報を用いて偏光方向の違いによって生じた感度ばらつきを補正する補正処理が行われる。このため高画質の偏光画像を取得できるようになる。なお、本明細書に記載された効果はあくまで例示であって限定されるものでは無く、また付加的な効果があってもよい。
偏光画像の取得について説明するための図である。 輝度と偏光角との関係を例示した図である。 偏光度と天頂角の関係を例示した図である。 画像処理装置を用いた偏光画像システムの構成を例示した図である。 偏光画像取得部の構成を例示した図である。 偏光子およびカラーフィルタを例示した図である。 偏光子とカラーフィルタの組み合わせを例示した図である。 補正処理部の動作を例示したフローチャートである。 補正処理部の処理結果を例示した図である。 補正処理部の処理結果を例示した図である。 偏光画像取得部で取得される計測偏光画像の一部を例示した図である。 補正情報生成部の第1の実施の形態を説明するための図である。 第1の実施の形態の動作を示すフローチャートである。 補正情報生成部の第2の実施の形態を説明するための図である。 第2の実施の形態の動作を示すフローチャートである。 補正情報生成部の第3の実施の形態を説明するための図である。 第3の実施の形態の動作を示すフローチャートである。 偏光画像取得部で平面拡散板を撮像する場合を示した図である。 法線の算出を説明するための図である。 補正情報生成部の第4の実施の形態を説明するための図である。 第4の実施の形態の動作を示すフローチャートである。 車両制御システムの概略的な構成例を示すブロック図である。 撮像部および車外情報検出部の設置位置の一例を示す説明図である。
以下、本技術を実施するための形態について説明する。なお、説明は以下の順序で行う。
1.偏光画像の取得について
2.偏光画像システムの構成
3.補正処理部の動作
4.ばらつき補正情報の生成について
4-1.補正情報生成部の第1の実施の形態
4-2.補正情報生成部の第2の実施の形態
4-3.補正情報生成部の第3の実施の形態
4-4.補正情報生成部の第4の実施の形態
5.他の構成および動作について
6.応用例
<1.偏光画像の取得について>
図1は、偏光画像の取得について説明するための図である。例えば図1に示すように、光源LTを用いて被写体OBの照明を行い、撮像部CMは偏光子PLを介して被写体OBの撮像を行う。この場合、撮像画像は、偏光子PLの偏光方向に応じて被写体OBの輝度が変化する。なお、説明を容易とするため、例えば偏光方向を回転したとき、最も高い輝度をImax,最も低い輝度をIminとする。また、2次元座標におけるx軸とy軸を偏光子の平面上としたとき、偏光子の偏光方向を回転させたときのx軸に対するy軸方向の角度を偏光角υpolとする。偏光子の偏光方向は、z軸方向を軸として180度回転させると元の偏光状態に戻り180度の周期を有している。また、偏光方向を回転させたときに観測される輝度Iは式(1)のように表すことができる。なお、図2は、輝度と偏光角との関係を例示している。
Figure 0007040447000001
式(1)では、偏光角υpolが偏光画像の生成時に明らかであり、最大輝度Imaxと最小輝度Iminおよび方位角φが変数となる。したがって、偏光方向が3方向以上の偏光画像の輝度を用いて、式(1)に示す偏光モデル式へのフィッティングを行うことにより、輝度と偏光角の関係を示す偏光モデル式に基づいて、所望の方位角φの輝度を推定できる。
また、物体表面の法線は、極座標系を用いて方位角φと天頂角θで示すことができる。なお、天頂角θはz軸から法線に向かう角度、方位角φは、上述のようにx軸に対するy軸方向の角度とする。ここで、最小輝度Iminと最大輝度Imaxから、式(2)に基づき偏光度ρを算出できる。
Figure 0007040447000002
偏光度と天頂角の関係は、例えば拡散反射の場合は図3の(a)に示す特性、鏡面反射の場合は図3の(b)に示す特性を有することが知られており、例えば天頂角θが「θ=0」である場合、偏光度ρは「ρ=0」となる。すなわち、最小輝度Imin=最大輝度Imaxとなり、方位角φに係らず輝度は一定となる。
<2.偏光画像システムの構成>
図4は、本技術の画像処理装置を用いた偏光画像システムの構成を例示している。偏光画像システム10は、偏光画像取得部20、補正情報記憶部30、補正処理部40を有している。また、偏光画像システム10では、ばらつき補正情報を生成して補正情報記憶部30に記憶させる補正情報生成部50を用いることができる。
偏光画像取得部20は、複数偏光方向の偏光方向毎の画素を含む偏光画像を取得する。図5は、偏光画像取得部の構成を例示している。偏光画像取得部20は、CMOS(Complementary Metal Oxide Semiconductor)やCCD(Charge Coupled Device)等のイメージセンサ200と、偏光子201または偏光子201とカラーフィルタ202を用いて構成される。イメージセンサ200は、偏光子201または偏光子201とカラーフィルタ202を介して入射された被写体光の光電変換を行い、被写体光に応じた画像信号、すなわち偏光画像の画像信号を生成する。偏光画像取得部20は、偏光画像の画像信号を補正処理部40へ出力する。また、補正情報生成部50を用いる場合、偏光画像取得部20は、偏光画像の画像信号を補正情報生成部50へ出力する。
図6は偏光子およびカラーフィルタを例示している。図6の(a),(b)は偏光子201の偏光パターンを例示している。偏光子201は、被写体光から直線偏光光を取り出せればよく、例えばワイヤーグリッドやフォトニック液晶等を用いる。図6の(a)は、1画素を偏光成分単位として、例えば式(1)に示す偏光モデル式へのフィッティングを行うことができるように複数偏光方向(例えば0°,45°,90°,135°の4方向)の画素を設けた場合を例示している。また、図6の(b)は、例えばカラーフィルタの色成分配列単位が2×2画素単位であり、2×2画素単位を偏光単位として、上述のように複数偏光方向(例えば0°,45°,90°,135°の4方向)の画素を設けた場合を例示している。
図6の(c)~(g)はカラーフィルタを例示している。カラーフィルタは、色成分例えば赤と青と緑(RGB)の色成分からなるカラーデモザイクフィルタである。カラーフィルタは、図6の(c)に示すように1画素を1つの色成分単位として、RGB色成分をBayer配列とした場合に限らず、図6の(d)に示すように2×2画素を1つの色成分単位として繰り返した構成であってもよい。また、図6の(e)に示すようにBayer配列に白色画素を混載して繰り返した構成であってもよく、図6の(f)に示すように2×2画素を1つの色成分単位とした2×2色成分単位の配列に白色画素を混載して繰り返した構成であってもよい。さらに、夜間等でも高感度な撮像を可能するため、図6の(g)に示すように例えば赤外(IR)画素を混在して繰り返した構成であってもよい。
カラーフィルタと偏光子は、色成分毎に4つの偏光成分が得られるように組み合わせて用いる。図7は、偏光子とカラーフィルタの組み合わせを例示している。
図7の(a)は、カラーフィルタが図6の(d)の構成であり、図6の(a)に示す構成の偏光子を用いた場合を示している。この組み合わせは、色成分単位毎に偏光方向毎の画素が含まれて、色成分毎に4つの偏光成分が得られるようになる。
図7の(b)は、カラーフィルタが図6の(d)の構成であり、図6の(b)に示す構成のカラーフィルタを用いた場合を示している。この組み合わせでは、カラーフィルタの色成分単位に対して偏光子の偏光成分単位を左右および上下方向に1画素分だけ位相をずらして用いることで、色成分単位毎に偏光方向毎の画素が含まれて、色成分毎に4つの偏光成分が得られるようになる。
偏光子の偏光成分単位が2×2画素である場合、偏光成分単位毎に得られた偏光成分における隣接する異なる偏光成分単位の領域からの偏光成分の漏れ込み分の割合は1×1画素に比べて少なくなる。また、偏光子がワイヤーグリッドである場合、格子の方向(ワイヤー方向)に対して電場成分が垂直方向である偏光光が透過されて、透過率はワイヤーが長いほど高くなる。このため、偏光成分単位が2×2画素である場合は1×1画素に比べて透過率が高くなる。したがって、偏光画像取得部は、図7の(b)に示す組み合わせを用いることで、図7の(a)に示す組み合わせを用いた場合に比べて消光比を良くすることができる。また、偏光成分単位が2×2画素である場合、1×1画素に比べて偏光方向の画素の配置の偏りが大きい。したがって、偏光画像取得部は、図7の(a)に示す組み合わせを用いることで、図7の(b)に示す組み合わせを用いた場合に比べて法線の精度を高くできる。
図7の(c)は、カラーフィルタが図6の(c)の構成であり、図6の(b)に示す構成の偏光パターンを用いた場合を示している。この組み合わせによれば、偏光成分単位毎に色成分毎の画素が含まれて、色成分毎に4つの偏光成分が得られるようになる。さらに、色成分単位が1×1画素であることから、2×2画素に比べて色成分画素の配置の偏りが小さい。したがって、偏光画像取得部は、図7の(c)に示す組み合わせを用いることで、例えば図7の(a)に示す組み合わせを用いた場合に比べて画質を良くすることができる。
図7の(d)は、カラーフィルタが図6の(f)の構成であり、図6(b)に示す構成の偏光パターンを用いた場合を示している。この組み合わせでは、カラーフィルタの色成分単位に対して偏光パターンの偏光成分単位を左右および上下方向に1画素分だけ位相をずらして用いることで、色成分単位毎に偏光方向毎の画素が含まれて、色成分毎に4つの偏光成分が得られるようになる。さらに、色成分単位に白色画素が含まれていることから、白色画素を含まないカラーフィルタを用いた場合例えば図7の(b)に示す組み合わせを用いた場合に比べて感度を良くすることができる。
図4の補正情報記憶部30は、予め補正情報生成部50によって算出されたばらつき補正情報を記憶している。ばらつき補正情報は、例えば後述するように、偏光画像を取得する偏光画像取得部20に補正情報生成部の計測光照射部から強度が一様の計測光を照射して偏光画像取得部20で取得された偏光画像に基づき、偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正ゲインである。また、偏光画像がカラー画像である場合は、色成分毎のばらつき補正情報が記憶されている。
補正処理部40は、補正情報記憶部30に記憶されているばらつき補正情報を用いて偏光画像補正情報を設定して、設定した偏光画像補正情報を用いて偏光画像取得部20で取得された偏光画像の補正処理を行う。
補正情報生成部50は偏光画像取得部20の感度ばらつきや感度ばらつきとシェーディングの補正に用いるばらつき補正情報を生成する。補正情報生成部50は、偏光画像における偏光方向毎にばらつき補正情報を生成する処理、または偏光画像における画素毎にばらつき補正情報を生成する処理を行う。補正情報生成部50は、生成したばらつき補正情報を補正情報記憶部30に記憶させる。
<3.補正処理部の動作>
次に、補正処理部40の動作について説明する。補正処理部40では、偏光画像補正情報に基づいて各画素のゲイン調整を行い、偏光画像取得部20で取得した偏光画像の補正処理を行う。式(3)は、偏光画像の補正処理で用いる補正式を示している。式(3)において、画素値Iijは、偏光画像取得部20で取得された偏光画像における画素位置(i,j)の画素値である。画素値BKは、黒レベルを示している。黒レベルの画素値BKは、画面全体で同じ値を用いてもよく、あらかじめ画素毎に計測した画素値BKを用いてもよい。偏光画像補正情報GAijは、画素位置(i,j)の画素に対する補正ゲインであり、例えば、式(4)に示すように、予め感度ばらつきの計測結果に基づいて生成されて補正情報記憶部30に記憶されているばらつき補正情報GVijとする。
Cij=(Iij-BK)×GAij ・・・(3)
GAij=GVij ・・・(4)
補正処理部40は、偏光画像における画素位置(i,j)の画素に対して、偏光画像補正情報GAijと画素値Iijを用いて式(3)の演算を行い、感度ばらつきが補正された画素値Cijを算出する。
また、偏光画像補正情報は、感度ばらつき補正を行うための補正情報に限らず、シェーディング補正やホワイトバランス補正を行うための補正情報を含めてもよい。
シェーディング補正のための情報(以下「シェーディング補正情報」という)GSは、偏光画像取得部20で用いられる撮像光学系の個体毎に計測を行い、計測結果に基づいて生成したシェーディング補正情報を用いてもよく、レンズ設計データなどから算出したシェーディング補正情報を用いてもよい。なお、シェーディング補正情報GSは補正情報記憶部30に記憶させる。
補正処理部40は、感度ばらつき補正とシェーディング補正を行う場合、偏光画像における画素位置(i,j)の画素に対するばらつき補正情報GVijとシェーディング補正情報GSijを補正情報記憶部30から取得して、式(5)に基づき偏光画像補正情報GAijを設定する。さらに、補正処理部40は、偏光画像における画素位置(i,j)の画素に対して、画素値Iijと設定された偏光画像補正情報GAijを用いて式(3)の演算を行い、感度ばらつき補正とシェーディング補正が行われた画素値Cijを算出する。
GAij=GVij × GSij ・・・(5)
なお、補正情報生成部50において、後述するように画素毎にばらつき補正情報の生成を行うことで、感度ばらつき補正だけでなくシェーディング補正を含めたばらつき補正情報を生成できる。この場合、補正処理部40は、ばらつき補正情報GVijを偏光画像補正情報GAijとして設定することで、感度ばらつき補正とシェーディング補正を行うことができる。
ホワイトバランス補正のための情報(以下「ホワイトバランス補正情報」という)GWは、例えばホワイトバランス検出機構を設けてホワイトバランス補正情報を生成してもよく、ユーザー等の照明設定に応じたホワイトバランス補正情報を用いてもよい。また、ホワイトバランス補正情報は、偏光画像に基づいて生成してもよい。例えば、4つの偏光方向の画素の輝度値を用いて、図2に示すように、偏光角に対する輝度変化を示す偏光モデル式(例えばcos関数)にフィッティングさせた場合、フィッティング後の偏光モデル式における振幅変化分は鏡面反射成分に相当しており、各色成分で輝度が最も高い画素位置を検出すれば、照明の画素位置を検出できる。さらに、検出した照明の画素位置を白色とする補正情報を生成してホワイトバランス補正情報とする。
補正処理部40は、感度ばらつき補正とホワイトバランス補正を行う場合、偏光画像における画素位置(i,j)の画素に対するばらつき補正情報GVijとホワイトバランス補正情報GWijを用いて、式(6)に基づき偏光画像補正情報GAijを設定する。さらに、補正処理部40は、偏光画像における画素位置(i,j)の画素に対して、画素値Iijと設定された偏光画像補正情報GAijを用いて式(3)の演算を行い、感度ばらつき補正とホワイトバランス補正が行われた画素値Cijを算出する。
GAij=GVij × GWij ・・・(6)
さらに。補正処理部40は、感度ばらつき補正とシェーディング補正とホワイトバランス補正を行う場合、偏光画像における画素位置(i,j)の画素に対するばらつき補正情報GVijとシェーディング補正情報GSijとホワイトバランス補正情報GWijを用いて、式(7)に基づき偏光画像補正情報GAijを算出する。さらに、補正処理部40は、偏光画像における画素位置(i,j)の画素に対して、画素値Iijと設定された偏光画像補正情報GAijを用いて式(3)の演算を行い、感度ばらつき補正とシェーディング補正とホワイトバランス補正が行われた画素値Cijを算出する。
GAij=GVij × GSij × GWij ・・・(7)
図8は、補正処理部の動作を例示したフローチャートである。ステップST1で補正処理部は偏光画像を取得する。補正処理部40は、偏光画像取得部20から偏光画像を取得してステップST5に進む。また、ステップST2で補正処理部はばらつき補正情報を取得する。補正処理部40は、補正情報記憶部30に偏光方向毎のばらつき補正情報が記憶されている場合、補正対象画素の偏光方向に対応するばらつき補正情報を取得する。補正処理部40は、補正情報記憶部30に画素毎のばらつき補正情報が記憶されている場合、補正対象画素の画素位置に対応するばらつき補正情報を取得する。補正処理部40は、補正対象画素に対応するばらつき補正情報を取得してステップST3に進む。
ステップST3で、補正処理部40はシェーディング補正情報を取得する。補正処理部40は補正情報記憶部30から補正対象画素に対応するシェーディング補正情報を取得してステップST4に進む。
ステップST4で補正処理部はホワイトバランス補正情報を取得する。補正処理部40は、ホワイトバランス検出機構で生成されたホワイトバランス補正情報、またはユーザー等の照明設定に応じたホワイトバランス補正情報、あるいは偏光画像に基づいて生成したホワイトバランス補正情報を取得してステップST5に進む。
ステップST5で補正処理部は補正演算処理を行う。補正処理部40はステップST2乃至ステップST4の処理で取得した補正情報を用いて偏光画像補正情報GAijを設定する。さらに、補正処理部40は設定した偏光画像補正情報GAijを用いて式(3)の演算を行い、感度ばらつき補正等が行われた偏光画像を生成する。
なお、ステップST2からステップST4の処理は、いずれの補正情報を優先して取得してもよい。また、ステップST3またはステップST4の処理は、必要に応じて行うようにしてもよい。例えば、ばらつき補正情報にシェーディング補正を行える情報が含まれている場合、ステップST3の処理を省くようにする。また、偏光画像がカラー画像の場合にステップST4の処理を行うようにする。また、補正処理部40は、図8の処理を偏光画像の画素毎に繰り返してもよい。
図9,図10は、補正処理部の処理結果を例示している。図9の(a)は、例えば無偏光光を偏光画像取得部20に照射して取得された偏光画像の輝度ヒストグラムを偏光方向毎に示している。偏光方向毎の輝度ヒストグラムは、偏光子を形成する難しさ等によって生じた感度のばらつきのために輝度平均値が異なる場合がある。
ここで、偏光画像補正情報が、例えば後述する補正情報生成部の第1の実施の形態で示すように偏光方向毎に算出されている場合、輝度平均値が最も高い偏光方向に対して、他の偏光方向の輝度平均値が等しくなるように画素値が補正される。したがって、処理後の偏光画像における偏光方向の輝度ヒストグラムは、図9の(b)に示すように、偏光方向毎の輝度平均値が一致する。
また、偏光画像補正情報が、例えば後述する補正情報生成部の実施の形態で示すように全画素の平均値に基づいて画素毎に算出されている場合、各画素の画素値が全画素の平均値となるように画素値が補正される。したがって、処理後の偏光画像における偏光方向の輝度ヒストグラムは、図9の(c)に示すように、偏光方向に係らず図9の(a)や図9の(b)に比べてばらつきが少なく最頻値が輝度平均値を示すヒストグラムとなる。
図10の(a)は、輝度が均一である被写体を撮像したときに、感度ばらつきと画面左上にシェーディングが生じているときの偏光画像を例示している。補正処理部40は、例えば上述の式(5)に基づき偏光画像補正情報GAijを算出して、算出した偏光画像補正情報GAijを用いて補正処理を行い、感度ばらつきとシェーディングを補正する。したがって、補正処理部40から出力される補正処理後の偏光画像は、図10の(b)に示すように感度ばらつきとシェーディングが補正された高画質の偏光画像となる。
以上のように、本技術によれば、偏光画像取得部20で取得された偏光画像における感度ばらつき等を補正できるので、高画質の偏光画像を得られるようになる。また、高画質の偏光画像が得られるようになるので、例えば偏光画像を用いた処理において感度ばらつきによる処理性能の劣化を防止できる。
<4.ばらつき補正情報の生成について>
次に、ばらつき補正情報の生成について説明する。補正情報生成部50は計測光照射部と補正情報生成処理部を有している。計測光照射部は、偏光画像を取得する偏光画像取得部20に強度が一様の計測光を照射する。補正情報生成処理部は、計測光照射部から計測光を照射して偏光画像取得部で取得された偏光画像に基づき、この偏光画像に生じた偏光方向の違いによる感度ばらつきを補正するばらつき補正情報を生成する。さらに、補正情報生成処理部は、生成したばらつき補正情報を補正情報記憶部30に記憶させる。なお、ばらつき補正情報の生成では、ノイズによる悪影響を生じないように十分に明るい計測光を用いて露光時間を長くして計測偏光画像を取得することが望ましい。また、複数枚の偏光画像を取得して平均化処理を行い、平均化処理後の偏光画像を用いることで、計測偏光画像におけるノイズを低減させてもよい。このように、ノイズの少ない計測偏光画像を用いることで、偏光画像取得部20に応じたばらつき補正情報を正しく生成できる。
図11は、偏光画像取得部で取得される計測偏光画像の一部を例示しており、図11の(a)は計測偏光画像が白黒画像である場合、図11の(b)は計測偏光画像がカラー画像である場合を示している。また、「C1」は、計測偏光画像における第1偏光方向である当該画素の画素値を示している。「C2」は計測偏光画像における第2偏光方向の当該画素の画素値、「C3」は計測偏光画像における第3偏光方向の当該画素の画素値、「C4」は計測偏光画像における第4偏光方向の当該画素の画素値を示している。「R1」は計測偏光画像における第1偏光方向の赤色画素である当該画素の画素値を示している。「R2」は計測偏光画像における第2偏光方向の赤色画素である当該画素の画素値、「R3」は計測偏光画像における第3偏光方向の赤色画素である当該画素の画素値、「R4」は計測偏光画像における第4偏光方向の赤色画素である当該画素の画素値を示している。同様に、「G1」~「G4」は各偏光方向の緑色画素である当該画素の画素値、「B1」~「B4」は各偏光方向の青色画素である当該画素の画素値を示している。なお、「C1」~「C4」「R1」~「R4」「G1」~「G4」「B1」~「B4」は、黒レベルの画素値BKを除いた画素値である。また、第1偏光方向~第4偏光方向は、偏光モデル式へのフィッティングを行うことができる偏光方向に設定されている。また、後述する第3の実施の形態では、90°の角度差を有するように偏光方向を設定する。
<4-1.補正情報生成部の第1の実施の形態>
図12は、補正情報生成部の第1の実施の形態を説明するための図である。補正情報生成部50-1の計測光照射部51-1は、計測光として平行無偏光光を出射する光源を用いて構成されている。補正情報生成処理部52-1は、計測光照射部51-1から偏光画像取得部20に計測光を照射して生成された偏光画像からばらつき補正情報を生成する。
図13は、第1の実施の形態の動作を示すフローチャートである。ステップST11で補正情報生成部は平行無偏光光を用いて計測偏光画像を取得する。補正情報生成部50-1は、計測光照射部51-1から平行無偏光光を偏光画像取得部20に照射して、偏光画像取得部20で生成された計測偏光画像を補正情報生成処理部52-1で取得してステップST12に進む。
ステップST12で補正情報生成部はばらつき補正情報を生成する。補正情報生成部50-1の補正情報生成処理部52-1は、取得した計測偏光画像に基づいて、後述するように偏光方向毎または画素毎に補正値を示したばらつき補正情報を生成してステップST13に進む。
ステップST13で補正情報生成部はばらつき補正情報を記憶させる。補正情報生成部50-1の補正情報生成処理部52-1は生成したばらつき補正情報を補正情報記憶部30に記憶させる。
次に、ばらつき補正情報の生成について説明する。照明光が平行無偏光光である場合の理想計測偏光画像は、偏光方向や画素位置に係らず画素値が等しくなる。しかし、偏光子の偏光方向に応じて感度ばらつきを生じると、画素の偏光方向に応じた画素値のばらつきを生じる。したがって、補正情報生成部50-1の補正情報生成処理部52-1は、計測偏光画像における画素値のばらつきを補正するための偏光方向毎または画素毎の補正値を示したばらつき補正情報を生成する。
計測偏光画像が白黒画像である場合、補正情報生成処理部52-1は、図11の(a)に示す計測偏光画像の全領域または中央領域における偏光方向毎の画素平均値(C1mean,C2mean,C3mean,C4mean)に基づき、式(8)または式(9)の演算を行い基準画素値Cbaseを算出する。
Cbase=(C1mean+C2mean+C3mean+C4mean)/4 ・・・(8)
Cbase=Max(C1mean,C2mean,C3mean,C4mean) ・・・(9)
次に、補正情報生成処理部52-1は、式(10)~(13)の演算を行い、偏光方向毎のばらつき補正情報を生成する。なお、「GVd1」は第1偏光方向に対する補正ゲイン、「GVd2」~「GVd4」は第2~第4偏光方向に対する補正ゲインを示している。また、式(8)を用いて基準画素値Cbaseを算出すれば、式(9)を用いる比べてノイズ等の影響を受けにくい基準画素値Cbaseを算出できる。また、式(9)を用いて基準画素値Cbaseを算出すれば、補正ゲインは「1」以上の値となるので、ばらつき補正情報を用いた補正処理によって画素値が低下することや、飽和している画素値が非飽和状態となってしまうことがない。
GVd1=Cbase/C1mean ・・・(10)
GVd2=Cbase/C2mean ・・・(11)
GVd3=Cbase/C3mean ・・・(12)
GVd4=Cbase/C4mean ・・・(13)
計測偏光画像がカラー画像である場合、補正情報生成処理部52-1は、図11の(b)に示す計測偏光画像に基づき、色毎に同様な処理を行う。例えば赤色画素についてのばらつき補正情報を生成する場合、補正情報生成処理部52-1は、計測偏光画像の全領域または中央領域における赤色画素の偏光方向毎の画素平均値(R1mean,R2mean,R3mean,R4mean)に基づき、式(14)または式(15)に基づき基準画素値Cbaseを算出する。
Rbase=(R1mean+R2mean+R3mean+R4mean)/4 ・・・(14)
Rbase=Max(R1mean,R2mean,R3mean,R4mean) ・・・(15)
次に、補正情報生成処理部52-1は、式(16)~(19)の演算を行い、赤色画素における偏光方向毎にばらつき補正情報を生成する。なお、「GVd1R」は赤色画素の第1偏光方向に対する補正ゲイン、「GVd2R」~「GVd4R」は赤色画素の第2~第4偏光方向に対する補正ゲインを示している。
GVd1R=Rbase/R1mean ・・・(16)
GVd2R=Rbase/R2mean ・・・(17)
GVd3R=Rbase/R3mean ・・・(18)
GVd4R=Rbase/R4mean ・・・(19)
また、補正情報生成処理部52-1は、緑色画素および青色画素についても赤色画素の場合と同様な処理を行うことで、緑色画素における偏光方向毎にばらつき補正情報と青色画素における偏光方向毎にばらつき補正情報を生成する。
また、補正情報生成処理部52-1は、画素毎にばらつき補正情報を生成する場合、式(20)の演算を画素毎に行う。
GVij=Cbase/Cij ・・・(20)
計測偏光画像がカラー画像である場合、補正情報生成処理部52-1は、図11の(b)に示す計測偏光画像に基づき、色毎に同様な処理を行う。例えば赤色画素についてのばらつき補正情報を画素毎に生成する場合、式(21)の演算を画素毎に行う。
GVRij=Rbase/Rij ・・・(21)
また、補正情報生成処理部52-1は、緑色画素および青色画素についても赤色画素の場合と同様な処理を行うことで、緑色画素における画素毎にばらつき補正情報GVGijと青色画素における偏光方向毎にばらつき補正情報GVBijを生成する。補正情報生成処理部52-1は、生成したばらつき補正情報を補正情報記憶部30に記憶させる。
<4-2.補正情報生成部の第2の実施の形態>
図14は、補正情報生成部の第2の実施の形態を説明するための図である。補正情報生成部50-2の計測光照射部51-2は、球状拡散板DBaと光源LTを用いて構成されている。計測光照射部51-2の球状拡散板DBaは、球の中心が偏光画像取得部20の主点となるように配置されて、球状拡散板DBaを介して偏光画像取得部20に入射する計測光は、球状拡散板DBaのいずれの位置でも天頂角θが「θ=0」となるように構成されている。補正情報生成処理部52-2は、計測光照射部51-2から偏光画像取得部20に計測光を照射して生成された偏光画像に基づいてばらつき補正情報を生成する。
図15は、第2の実施の形態の動作を示すフローチャートである。ステップST21で補正情報生成部は球状拡散板を用いて計測偏光画像を取得する。補正情報生成部50-2における計測光照射部51-2は、球状拡散板DBaを介して補正情報生成部50-2に計測光を照射する。補正情報生成部50-2の補正情報生成処理部52-2は、偏光画像取得部20で生成された計測偏光画像を取得してステップST22に進む。
ステップST22で補正情報生成部はばらつき補正情報を生成する。天頂角θが「θ=0」となるように照明が行われる場合、上述したように、最小輝度Imin=最大輝度Imaxとなる。すなわち、感度ばらつきを生じていない場合は、偏光方向に係らず画素値が等しくなる。したがって、補正情報生成部50-2の補正情報生成処理部52-2は、取得した計測偏光画像に基づいて、後述するように偏光方向毎または画素毎に補正値を示したばらつき補正情報を生成してステップST23に進む。
ステップST23で補正情報生成部はばらつき補正情報を記憶させる。補正情報生成部50-2の補正情報生成処理部52-2は生成したばらつき補正情報を補正情報記憶部30に記憶させる。
次に、ばらつき補正情報の生成について説明する。天頂角θが「θ=0」となるように照明が行われる場合、偏光画像取得部20で取得された理想計測偏光画像は、偏光方向や画素位置に係らず画素値が等しくなる。しかし、偏光子の偏光方向に応じて感度ばらつきを生じると、画素の偏光方向に応じた画素値のばらつきを生じる。したがって、補正情報生成部50-2の補正情報生成処理部52-2は、計測偏光画像における画素値のばらつきを補正するための偏光方向毎または画素毎の補正値を示したばらつき補正情報を生成する。
計測偏光画像が白黒画像である場合、補正情報生成処理部52-2は、図11の(a)に示す計測偏光画像に基づき、第1の実施の形態と同様に式(8)乃至式(13)の演算を行うことで、偏光方向毎にばらつき補正情報を生成する。また、計測偏光画像がカラー画像である場合、補正情報生成処理部52-2は、図11の(b)に示す計測偏光画像に基づき、色毎に同様な処理を行う。例えば赤色画素についてのばらつき補正情報を生成する場合、補正情報生成処理部52-2は、第1の実施の形態と同様に式(14)乃至式(19)の演算を行うことで、赤色画素の偏光方向毎のばらつき補正情報を生成する。また、補正情報生成処理部52-2は、緑色画素および青色画素についても赤色画素の場合と同様な処理を行うことで、緑色画素における偏光方向毎にばらつき補正情報と青色画素における偏光方向毎にばらつき補正情報を生成する。
また、補正情報生成処理部52-2は、画素毎にばらつき補正情報を生成する場合、計測偏光画像が白黒画像であるときは式(20)の演算を画素毎に行い、計測偏光画像がカラー画像であるときは式(21)の演算を画素毎に行う。さらに、補正情報生成処理部52-2は、緑色画素および青色画素についても赤色画素の場合と同様な処理を行うことで、緑色画素における画素毎にばらつき補正情報と青色画素における偏光方向毎にばらつき補正情報を生成する。
<4-3.補正情報生成部の第3の実施の形態>
図16は、補正情報生成部の第3の実施の形態を説明するための図である。補正情報生成部50-3の計測光照射部51-3は、平面拡散板DBbと光源LTを用いて構成されている。補正情報生成処理部52-3は、計測光照射部51-3から偏光画像取得部20に平面拡散板を介して計測光を照射して生成された偏光画像を用いて、偏光画像取得部20の焦点距離情報と光軸中心情報に基づいて補正情報を生成する。
図17は、第3の実施の形態の動作を示すフローチャートである。ステップST31で補正情報生成部は平面拡散板を用いて計測偏光画像を取得する。補正情報生成部50-3の補正情報生成処理部52-3は、平面拡散板DBbを介して補正情報生成部50-3に計測光を照射する。補正情報生成部50-3の補正情報生成処理部52-3は、偏光画像取得部20で生成された計測偏光画像を取得してステップST33に進む。
ステップST32で補正情報生成部は光軸中心情報と焦点距離情報を取得する。補正情報生成部50-3の補正情報生成処理部52-3は、光軸中心の位置を示す光軸中心情報と平面拡散板を撮像したときの焦点距離を示す焦点距離情報を取得してステップST33に進む。なお、光軸中心情報と焦点距離情報は、偏光画像取得部20で用いている撮像光学系の特性からあらかじめ取得されている情報を補正情報生成処理部52-3に記憶させてもよく、ユーザーが入力してもよい。また、キャリブレーションによって光軸中心情報と焦点距離情報を取得してもよい。なお、ステップST32の処理は、画素毎に補正情報を生成する場合にのみ行うようにしてもよい。
ステップST33で補正情報生成部は、ばらつき補正情報を生成する。補正情報生成部50-2の補正情報生成処理部52-2は、取得した計測偏光画像に基づいて、後述するように偏光方向毎または画素毎に補正値を示したばらつき補正情報を生成してステップST34に進む。
ステップST34で補正情報生成部はばらつき補正情報を記憶させる。補正情報生成部50-3の補正情報生成処理部52-3は生成したばらつき補正情報を補正情報記憶部30に記憶させる。
次に、ばらつき補正情報の生成について説明する。計測偏光画像において、光軸中心の近傍領域では、天頂角θが「θ≒0」となり、光軸から離れた画角端では天頂角θが大きくなる。また、天頂角θが「θ≒0」である場合、最小輝度Iminと最大輝度Imaxは略等しいと見なすことができる。すなわち、感度ばらつきを生じていない場合は、偏光方向に係らず画素値が略等しくなる。したがって、補正情報生成部50-3の補正情報生成処理部52-3は、計測画像における光軸中心の近傍領域の画像に基づいて、偏光方向毎に補正値を示したばらつき補正情報を生成する。
計測偏光画像が白黒画像である場合、補正情報生成処理部52-3は、図11の(a)に示す計測偏光画像に基づき、第1の実施の形態と同様に式(8)乃至式(13)の演算を行うことで、偏光方向毎にばらつき補正情報を生成する。また、計測偏光画像がカラー画像である場合、補正情報生成処理部52-3は、図11の(b)に示す計測偏光画像に基づき、色毎に同様な処理を行う。例えば赤色画素についてのばらつき補正情報を生成する場合、補正情報生成処理部52-3は、第1の実施の形態と同様に式(14)乃至式(19)の演算を行うことで、赤色画素の偏光方向毎のばらつき補正情報を生成する。また、補正情報生成処理部52-3は、緑色画素および青色画素についても赤色画素の場合と同様な処理を行うことで、緑色画素における偏光方向毎にばらつき補正情報と青色画素における偏光方向毎にばらつき補正情報を生成する。
次に、画素毎にばらつき補正情報を生成する場合について説明する。図18は、偏光画像取得部で平面拡散板を撮像する場合を示している。計測偏光画像において、偏光画像取得部20の光軸中心から画素位置が離れると法線の傾き(天頂角θ)が大きくなる。図18の(a)は、偏光画像取得部20における撮像光学系の中心である主点と平面拡散板DBbの関係を、偏光画像取得部20における撮像光学系の光軸方向に対して直交する方向からの視点で示している。また、図18の(b)は、光軸方向の視点で示している。なお、図18の(c)は、計測偏光画像における各画素の視点方向を平行としたときの法線方向を示している。
このように、計測偏光画像における画素に応じて法線の傾きが変化して、光軸中心から画素位置が外側に離れるに伴い法線の傾きが大きくなる。すなわち、天頂角θは、画素位置が光軸中心から外側に離れるに伴い、図18の(d)に示すように、最小輝度Iminと最大輝度Imaxの差が大きくなる。
したがって、補正情報生成処理部52-3は、光軸中心位置と焦点距離および補正対象画素位置から、その補正対象画素位置で観測されるべき法線を算出して、法線を偏光モデル式に適用する。さらに、光軸中心近傍の画素値から基準値(Imax+Imin)/2を設定して偏光モデル式に当てはめることで、理想輝度値を算出して補正対象画素位置に対応するばらつき補正情報を生成する。
図19は法線の算出を説明するための図である。図19の(a)は、偏光画像取得部20と平面拡散板DBbの配置、図19の(b)は方位角φ、図19の(c)は天頂角θを示している。また、図19において、光軸中心LCを座標(Cx,Cy)、補正対象画素HPを座標(Hx,Hy)とする。焦点距離fm(単位は「mm」)は、式(22)に基づき画素単位の焦点距離fに変換できる。なお、式(22)において「ps」は1画素の画素サイズ(単位は「mm/ピクセル」)を示している。
f=fm/ps ・・・(22)
補正対象画素HPの方位角φは、式(23)に基づき算出できる。また、補正対象画素HPの天頂角θは式(24)に基づき算出できる。
Figure 0007040447000003
また、平面拡散板の裏側から照明を行うことで計測光を偏光画像取得部20に照射する場合、原理的には鏡面反射が発生しない拡散反射光と見なすことができる。補正情報生成処理部52-3は、計測光を照射して偏光画像取得部20で取得された偏光画像の画素値を用いて式(1)に示す偏光モデル式へのフィッティングを行う。また、式(1)は式(25)として示すことができ、式(25)における偏光度ρは、式(2)に基づき算出できる。
Figure 0007040447000004
また、式(24)に基づき天頂角θが算出されていることから、式(26)に基づき偏光度ρを算出する。なお、式(26)は、拡散反射光における偏光度を示す式として知られており、屈折率nは使用する平面拡散板の屈折率とする。
Figure 0007040447000005
以上の演算処理を行うと、偏光モデル式において、補正対象画素HPの偏光方向を示す偏光角υpol、方位角φ、偏光度ρが既知となる。したがって、((Imax+Imin)/2)を推定して、補正対象画素HPの理想輝度Ipolを算出できるようにする。
((Imax+Imin)/2)の推定では、偏光方向が90度異なる画素値の平均値を推定値とする。式(27)は、偏光方向が90度異なる2つの画素値Ipol,Ipol+90の加算式を示している。画素値Ipolと画素値Ipol+90の加算結果は、(Imax+Imin)となることが式(27)に基づき明らかである。
Figure 0007040447000006
したがって、補正情報生成処理部52-3は、偏光方向が90度異なる画素の画素平均値を((Imax+Imin)/2)の推定値として用いることができる。また、((Imax+Imin)/2)の推定では、天頂角θによる影響が無くなるように、光軸中心の近傍領域における偏光方向が90度異なる画素を用いる。
補正情報生成処理部52-3は、具体的には光軸中心の近傍領域から偏光方向毎に等しい数(i,j方向のそれぞれm個)の画素値を用いて式(28)の演算を行い、算出した平均値を推定値((Imax+Imin)/2)baseとする。
Figure 0007040447000007
さらに、補正情報生成処理部52-3は、補正対象画素HPの偏光方向を示す偏光角υpol、補正対象画素HPの方位角φ、偏光度ρおよび推定した((Imax+Imin)/2)baseを用いて式(29)の演算を行うことで、理想輝度値IDを算出する。
Figure 0007040447000008
また、補正情報生成処理部52-3は、画素位置(i,j)である補正対象画素HPの画素値Cijと理想輝度値IDijに基づき、式(30)を用いてばらつき補正情報GVijを生成する。
GVij=IDij/Cij ・・・(30)
このようにして、補正情報生成処理部52-3は、偏光画像の各画素を補正対象画素として画素毎にばらつき補正情報GVを生成して補正情報記憶部30に記憶させる。
なお、偏光画像取得部20の撮像光学系としてテレセントリック光学系を用いた場合、各画素は、平面拡散板を用いても球状拡散板を用いた場合と同様に拡散板と正対した状態となる。したがって、平面拡散板とテレセントリック光学系を用いた場合には、第2の実施の形態と同様にしてばらつき補正情報を生成すればよい。
<4-4.補正情報生成部の第4の実施の形態>
図20は、補正情報生成部の第4の実施の形態を説明するための図である。補正情報生成部50-4の計測光照射部51-4は、平面拡散板DBbを介して光源LTからの照明光を偏光画像取得部20に照射する。補正情報生成処理部52-4は、偏光画像取得部20の向きをパン方向またはチルト方向に回動させる回動部53を制御して、補正対象画素を平面拡散板DBbと正対させる。また、補正情報生成処理部52-4は、平面拡散板DBbと正対する補正対象画素および周辺画素の画素値を用いて、第1または第2の実施の形態と同様にして補正対象画素に対するばらつき補正情報を生成する。
図21は、第4の実施の形態の動作を示すフローチャートである。ステップST41で補正情報生成部は補正対象画素を平面拡散板に正対させる。補正情報生成部50-4は、偏光画像取得部20をパン方向やチルト方向に駆動して、偏光画像取得部20の補正対象画素を平面拡散板と正対させてステップST42に進む。
ステップST42で補正情報生成部50-4は、平面拡散板を用いて計測偏光画像を取得する。補正情報生成部50-1は、計測光照射部51-1から平面拡散板を介して照明光を偏光画像取得部20に照射して、偏光画像取得部20で生成された計測偏光画像を補正情報生成処理部52-4で取得してステップST43に進む。
ステップST43で補正情報生成部は、ばらつき補正情報を生成する。補正情報生成部50-4の補正情報生成処理部52-4は、取得した計測偏光画像に基づいて、第1乃至第2の実施の形態と同様に、補正対象画素の偏光方向または補正対象画素に対する補正値を示したばらつき補正情報を生成してステップST44に進む。
ステップST44で補正情報生成部はばらつき補正情報の生成処理を終了するか判別する。補正情報生成部50-4は、所望の画素のばらつき補正情報の生成が完了したか判別する。補正情報生成部50-4は、ばらつき補正情報の生成が完了していない画素がある場合はステップST45に進む。また、補正情報生成部50-4は、所望の画素についてばらつき補正情報の生成が完了した場合はステップST46に進む。
ステップST45で補正情報生成部は補正対象画素を更新する。補正情報生成部50-4は、ばらつき補正情報の生成が完了していない画素を新たな補正対象画素としてステップST41に戻り、新たな補正対象画素を平面拡散板と正対させる。
ステップST46で補正情報生成部はばらつき補正情報を記憶させる。補正情報生成部50-4の補正情報生成処理部52-4は生成したばらつき補正情報を補正情報記憶部30に記憶させる。
また、補正対象画素を平面拡散板と正対するように偏光画像取得部20の向きをパン方向またはチルト方向に調整する場合に、画素毎に平面拡散板と正対するように調整するためには、高精度の向き調整機構が必要となる。このため、複数画素からなる領域毎に、領域内のいずれかの画素を補正対象画素としてばらつき補正情報の生成を行い、生成したばらつき補正情報と当該領域内の各画素のばらつき補正情報としてもよい。
上述の第1乃至第3の実施の形態では、偏光方向毎にばらつき補正情報を生成する場合と画素毎にばらつき補正情報を生成する場合について説明した。また、第4の実施の形態では、画素毎にばらつき補正情報を生成する場合について説明したが、補正情報生成部は、偏光方向毎または画素毎のばらつき補正情報のいずれかを生成して補正情報記憶部30に記憶させてばよい。例えば、偏光画像取得部20において、同一偏光方向の画素の感度ばらつきが閾値よりも少ないことが明らかな場合には偏光方向毎のばらつき補正情報を生成する。また、同一偏光方向の画素の感度ばらつきが閾値以上であることが明らかな場合には画素毎のばらつき補正情報を生成する。なお、偏光方向毎にばらつき補正情報を生成する場合は、画素毎にばらつき補正情報を生成する場合に比べてばらつき補正情報のデータ量が少なくなるので、補正情報記憶部30の記憶容量を少なくできる。また、補正処理部40では、画素毎にばらつき補正情報を補正情報記憶部30から読み出す必要がないので、効率よく補正処理を行える。さらに、画素毎にばらつき補正情報を生成する場合は、偏光方向毎にばらつき補正情報を生成する場合に比べてばらつきが大きくても高精度に補正処理を行うことが可能となる。
<5.他の構成および動作について>
ところで、ばらつき補正情報の生成において、偏光画像取得部20は、偏光画像取得部20を各種装置等に搭載する際に使用する所定の撮像光学系を装着する。この場合、イメージセンサ200には、所定の撮像光学系の特性に応じた計測光が偏光子やカラーフィルタを介して入射される。したがって、補正情報生成部50では、画素毎にばらつき補正情報の生成を行うことで、所定の撮像光学系によって生じるシェーディングと偏光子のばらつき等によって生ずる感度ばらつきを共に補正するばらつき補正情報を生成できる。
また、撮像光学系を用いることなく画素毎にばらつき補正情報の生成を行うようにすれば、補正情報生成部では、偏光子のばらつき等によって生ずる感度ばらつきのみを補正するばらつき補正情報を生成できる。また、撮像光学系を装着して取得した偏光画像に対して、感度ばらつきのみを補正する画素毎のばらつき補正情報を用いて画素値を補正した場合、補正後の偏光画像に生じている画素値のばらつきは、撮像光学系の特性によって生じたばらつきを示す。したがって、感度ばらつきのみを補正する画素毎のばらつき補正情報を用いれば、撮像光学系における偏光画像を取得する際の特性を測定することも可能となる。
<6.応用例>
本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
図22は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図22に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図22では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
ここで、図23は、撮像部7410及び車外情報検出部7420の設置位置の一例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
なお、図23には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
図22に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図22の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
なお、図22に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
以上説明した車両制御システム7000において、撮像部7410,7910,7912,7914,7916,7918は、偏光画像取得部20を用いる構成とする。また、図22に示した応用例の統合制御ユニット7600に補正情報記憶部30と補正処理部40を設ける。このような構成とすれば、撮像部7410,7910,7912,7914,7916,7918では感度ばらつきの少ない偏光画像を取得できるので、取得した偏光画像を運転支援や運転制御等に利用できる。なお、補正情報記憶部30と補正処理部40は、図22に示した統合制御ユニット7600のためのモジュール(例えば、一つのダイで構成される集積回路モジュール)において実現されてもよい。
明細書中において説明した一連の処理はハードウェア、またはソフトウェア、あるいは両者の複合構成によって実行することが可能である。ソフトウェアによる処理を実行する場合は、処理シーケンスを記録したプログラムを、専用のハードウェアに組み込まれたコンピュータ内のメモリにインストールして実行させる。または、各種処理が実行可能な汎用コンピュータにプログラムをインストールして実行させることが可能である。
例えば、プログラムは記録媒体としてのハードディスクやSSD(Solid State Drive)、ROM(Read Only Memory)に予め記録しておくことができる。あるいは、プログラムはフレキシブルディスク、CD-ROM(Compact Disc Read Only Memory),MO(Magneto optical)ディスク,DVD(Digital Versatile Disc)、BD(Blu-Ray Disc(登録商標))、磁気ディスク、半導体メモリカード等のリムーバブル記録媒体に、一時的または永続的に格納(記録)しておくことができる。このようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、プログラムは、リムーバブル記録媒体からコンピュータにインストールする他、ダウンロードサイトからLAN(Local Area Network)やインターネット等のネットワークを介して、コンピュータに無線または有線で転送してもよい。コンピュータでは、そのようにして転送されてくるプログラムを受信し、内蔵するハードディスク等の記録媒体にインストールすることができる。
なお、本明細書に記載した効果はあくまで例示であって限定されるものではなく、記載されていない付加的な効果があってもよい。また、本技術は、上述した技術の実施の形態に限定して解釈されるべきではない。この技術の実施の形態は、例示という形態で本技術を開示しており、本技術の要旨を逸脱しない範囲で当業者が実施の形態の修正や代用をなし得ることは自明である。すなわち、本技術の要旨を判断するためには、請求の範囲を参酌すべきである。
また、本技術の画像処理装置は以下のような構成も取ることができる。
(1) 偏光画像に対して、予め生成されている補正情報を用いて偏光方向の違いによって生じた感度ばらつきを補正する補正処理部を備える画像処理装置。
(2) 前記偏光画像は、偏光子が配された偏光撮像素子を有する偏光画像取得部によって取得される複数偏光方向の偏光方向毎の画素を含む画像である(1)に記載の画像処理装置。
(3) 前記補正情報は、偏光方向毎に生成されている(1)または(2)に記載の画像処理装置。
(4) 前記補正情報は、前記偏光画像の画素位置毎に生成されている(1)乃至(3)のいずれかに記載の画像処理装置。
(5) 前記補正情報は、前記偏光画像に生じたシェーディングを補正する情報を含む(1)乃至(4)のいずれかに記載の画像処理装置。
(6) 前記偏光画像はカラー画像であり、前記補正情報は、前記偏光画像の色成分毎に生成されている(1)乃至(5)のいずれかに記載の画像処理装置。
(7) 前記補正情報は、前記偏光画像のホワイトバランスを補正する情報を含む(6)に記載の画像処理装置。
(8) 前記補正情報は、前記偏光画像取得部に計測光照射部から強度が一様の計測光を照射して前記偏光画像取得部で取得された偏光画像に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正ゲインである(2)に記載の画像処理装置。
(9) 前記補正情報を記憶する補正情報記憶部をさらに備える(1)乃至(8)のいずれかに記載の画像処理装置。
また、本技術の情報生成装置は以下のような構成も取ることができる。
(1) 偏光画像を取得する偏光画像取得部に強度が一様の計測光を照射する計測光照射部と、
前記計測光照射部から計測光を照射して前記偏光画像取得部で取得された偏光画像に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を生成する補正情報生成部と
を備える情報生成装置。
(2) 前記計測光照射部は、前記計測光として無偏光光を照射する(1)に記載の情報生成装置。
(3) 前記計測光照射部は、球状拡散板を介して前記計測光を前記偏光画像取得部に照射する(1)に記載の情報生成装置。
(4) 前記計測光照射部は、板状拡散板を介して前記計測光を前記偏光画像取得部に照射して、
前記補正情報生成部は、前記板状拡散板に対する前記偏光画像取得部の向きを移動させて、前記補正情報を生成する(1)に記載の情報生成装置。
(5) 前記計測光照射部は、板状拡散板を介して前記計測光を前記偏光画像取得部に照射して、
前記補正情報生成部は、前記偏光画像取得部の焦点距離と光軸中心に基づいて、画素毎に補正情報を生成する(1)に記載の情報生成装置。
この技術の画像処理装置および情報生成装置と情報生成方法によれば、 偏光画像を取得する偏光画像取得部に強度が一様の計測光を照射して取得した偏光画像に基づき、この偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報が予め生成されて、この予め生成されている補正情報を用いて、偏光画像に対して、偏光方向の違いによって生じた感度ばらつきを補正する補正処理が行われる。このため、高画質の偏光画像を取得できるようになり、偏光画像を用いて例えば三次元形状の認識等を行う機器に適している。
10・・・偏光画像システム
20・・・偏光画像取得部
30・・・補正情報記憶部
40・・・補正処理部
50,50-1,50-2,50-3,50-4・・・補正情報生成部
51-1,51-2,51-3,51-4・・・計測光照射部
52-1,52-2,52-3,52-4・・・補正情報生成処理部
53・・・回動部
200・・・イメージセンサ
201・・・偏光子
202・・・カラーフィルタ

Claims (13)

  1. 偏光画像に対して、予め生成されている補正情報を用いて偏光方向の違いによって生じた感度ばらつきを補正する補正処理部を備え、
    前記偏光画像は、偏光子が配された偏光撮像素子を有する偏光画像取得部によって取得される複数偏光方向の偏光方向毎の画素を含む画像であり、
    前記補正情報は、計測光照射部から前記偏光画像取得部に強度が一様の計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき生成されて、前記偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正ゲインである
    画像処理装置。
  2. 前記補正情報は、偏光方向毎に生成されている
    請求項1に記載の画像処理装置。
  3. 前記補正情報は、前記偏光画像の画素位置毎に生成されている
    請求項1に記載の画像処理装置。
  4. 前記補正情報は、前記偏光画像に生じたシェーディングを補正する情報を含む
    請求項1に記載の画像処理装置。
  5. 前記偏光画像はカラー画像であり、前記補正情報は、前記偏光画像の色成分毎に生成されている
    請求項1に記載の画像処理装置。
  6. 前記補正情報は、前記偏光画像のホワイトバランスを補正する情報を含む
    請求項に記載の画像処理装置。
  7. 前記補正情報を記憶する補正情報記憶部をさらに備える
    請求項1に記載の画像処理装置。
  8. 偏光子が配された偏光撮像素子を有して複数偏光方向の偏光方向毎の画素を含む偏光画像を取得する偏光画像取得部に、強度が一様の計測光を照射する計測光照射部と、
    前記計測光照射部から前記偏光画像取得部に前記計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を生成する補正情報生成処理部とを備える
    情報生成装置。
  9. 前記計測光照射部は、拡散板を介して前記計測光を前記偏光画像取得部に照射する
    請求項8に記載の情報生成装置。
  10. 前記計測光照射部は、前記拡散板として球状拡散板を用いる
    請求項に記載の情報生成装置。
  11. 前記計測光照射部は、前記拡散板として板状拡散板を用いて
    前記補正情報生成処理部は、前記板状拡散板に対する前記偏光画像取得部の向きを移動させて、前記補正情報を生成する
    請求項に記載の情報生成装置。
  12. 前記計測光照射部は、板状拡散板を介して前記計測光を前記偏光画像取得部に照射して、
    前記補正情報生成処理部は、前記偏光画像取得部の焦点距離と光軸中心に基づいて、画素毎に補正情報を生成する
    請求項8に記載の情報生成装置。
  13. 偏光子が配された偏光撮像素子を有して複数偏光方向の偏光方向毎の画素を含む偏光画像を取得する偏光画像取得部に、計測光照射部から強度が一様の計測光を照射することと、
    前記計測光照射部から前記偏光画像取得部に前記計測光を照射して前記偏光画像取得部で取得された偏光画像と前記偏光画像取得部における前記計測光の入射方向に基づき、該偏光画像に生じた偏光方向の違いによる感度ばらつきを補正する補正情報を補正情報生成処理部で生成することと
    を含む情報生成方法。
JP2018535478A 2016-08-24 2017-06-13 画像処理装置および情報生成装置と情報生成方法 Active JP7040447B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2016163627 2016-08-24
JP2016163627 2016-08-24
PCT/JP2017/021793 WO2018037678A1 (ja) 2016-08-24 2017-06-13 画像処理装置および情報生成装置と情報生成方法

Publications (2)

Publication Number Publication Date
JPWO2018037678A1 JPWO2018037678A1 (ja) 2019-06-20
JP7040447B2 true JP7040447B2 (ja) 2022-03-23

Family

ID=61246681

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018535478A Active JP7040447B2 (ja) 2016-08-24 2017-06-13 画像処理装置および情報生成装置と情報生成方法

Country Status (5)

Country Link
US (2) US10848727B2 (ja)
JP (1) JP7040447B2 (ja)
CN (1) CN109565546B (ja)
DE (1) DE112017004203T5 (ja)
WO (1) WO2018037678A1 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017149608A1 (ja) * 2016-02-29 2017-09-08 富士通フロンテック株式会社 撮像装置及び撮像方法
US20210235060A1 (en) * 2018-05-18 2021-07-29 Sony Corporation Solid-state imaging device, information processing device, information processing method, and calibration method
US10598838B2 (en) * 2018-06-29 2020-03-24 Intel Corporation Pixel level polarizer for flexible display panels
WO2020017002A1 (ja) * 2018-07-19 2020-01-23 株式会社ソニー・インタラクティブエンタテインメント 電子機器および撮影方法
JP2020080366A (ja) * 2018-11-13 2020-05-28 ソニーセミコンダクタソリューションズ株式会社 受光装置
WO2020213238A1 (ja) 2019-04-19 2020-10-22 ソニー株式会社 撮像装置と画像処理装置および画像処理方法
CN112444508A (zh) * 2019-09-03 2021-03-05 天马日本株式会社 荧光图像分析装置
TW202131671A (zh) * 2019-10-07 2021-08-16 日商索尼半導體解決方案公司 電子機器
WO2021140873A1 (ja) * 2020-01-09 2021-07-15 ソニーグループ株式会社 画像処理装置と画像処理方法および撮像装置
JP7494031B2 (ja) 2020-07-06 2024-06-03 キヤノン株式会社 画像処理装置、撮像装置および画像処理方法
US11838699B2 (en) * 2020-07-06 2023-12-05 Canon Kabushiki Kaisha Image processing apparatus, image pickup apparatus, and image processing method
JP7300432B2 (ja) * 2020-10-27 2023-06-29 Ckd株式会社 三次元計測装置
JPWO2022196038A1 (ja) * 2021-03-19 2022-09-22
WO2023105961A1 (ja) * 2021-12-08 2023-06-15 ソニーグループ株式会社 画像処理装置、および画像処理方法、並びにプログラム
DE102021132644A1 (de) 2021-12-10 2023-06-15 Valeo Schalter Und Sensoren Gmbh Verfahren zur Farbkalibrierung einer farbauflösenden Kamera für ein Kraftfahrzeug, Steuereinrichtung und Kamera

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006013731A (ja) 2004-06-24 2006-01-12 Casio Comput Co Ltd 撮像装置とホワイトバランス制御方法、光量調整装置
JP2007134903A (ja) 2005-11-09 2007-05-31 Sharp Corp 周辺光量補正装置、周辺光量補正方法、電子情報機器、制御プログラムおよび可読記録媒体
JP2009192520A (ja) 2007-11-15 2009-08-27 Nikon Corp 表面検査装置
WO2014119257A1 (ja) 2013-01-29 2014-08-07 パナソニック株式会社 撮像システム

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4713983B2 (ja) * 2005-08-31 2011-06-29 オリンパスイメージング株式会社 色調整方法及び色調整装置
EP2120007A4 (en) 2007-02-13 2010-12-01 Panasonic Corp IMAGE PROCESSING SYSTEM, METHOD AND APPARATUS AND IMAGE FORMAT
JP4748266B2 (ja) * 2009-01-30 2011-08-17 ソニー株式会社 情報入力装置、情報入出力装置および電子機器
JP2012203274A (ja) 2011-03-28 2012-10-22 Sony Corp 撮像装置および電子機器
US8851680B2 (en) * 2011-05-12 2014-10-07 Reald Inc. Polarization compensated stereoscopic systems
JP5982751B2 (ja) * 2011-08-04 2016-08-31 ソニー株式会社 画像処理装置、および画像処理方法、並びにプログラム
CN103182984B (zh) * 2011-12-28 2015-08-26 财团法人车辆研究测试中心 车用影像显示***及其校正方法
JP2014174517A (ja) * 2013-03-13 2014-09-22 Seiko Epson Corp プロジェクターおよび制御方法
JP6471424B2 (ja) 2013-11-13 2019-02-20 セイコーエプソン株式会社 プロジェクター

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006013731A (ja) 2004-06-24 2006-01-12 Casio Comput Co Ltd 撮像装置とホワイトバランス制御方法、光量調整装置
JP2007134903A (ja) 2005-11-09 2007-05-31 Sharp Corp 周辺光量補正装置、周辺光量補正方法、電子情報機器、制御プログラムおよび可読記録媒体
JP2009192520A (ja) 2007-11-15 2009-08-27 Nikon Corp 表面検査装置
WO2014119257A1 (ja) 2013-01-29 2014-08-07 パナソニック株式会社 撮像システム

Also Published As

Publication number Publication date
DE112017004203T5 (de) 2019-06-13
US20200068182A1 (en) 2020-02-27
WO2018037678A1 (ja) 2018-03-01
JPWO2018037678A1 (ja) 2019-06-20
US10848727B2 (en) 2020-11-24
US20190166342A1 (en) 2019-05-30
US10904503B2 (en) 2021-01-26
CN109565546B (zh) 2020-12-01
CN109565546A (zh) 2019-04-02

Similar Documents

Publication Publication Date Title
JP7040447B2 (ja) 画像処理装置および情報生成装置と情報生成方法
JP7070423B2 (ja) 画像処理装置と画像処理方法および撮像装置
JP6988819B2 (ja) 画像処理装置、および画像処理方法、並びにプログラム
JP7047767B2 (ja) 画像処理装置と画像処理方法
JP6977821B2 (ja) 画像処理装置と画像処理方法
US10704957B2 (en) Imaging device and imaging method
WO2018034209A1 (ja) 撮像装置と撮像方法
US10877288B2 (en) Imaging device and imaging method
JP2018207453A (ja) 制御装置、撮像装置、制御方法、プログラム及び撮像システム
JP7235906B2 (ja) 固体撮像装置
WO2019163315A1 (ja) 情報処理装置、撮像装置、及び撮像システム
JP6981416B2 (ja) 画像処理装置と画像処理方法
JP7059185B2 (ja) 画像処理装置、画像処理方法、および撮像装置
WO2021229983A1 (ja) 撮像装置及びプログラム
WO2020255589A1 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200526

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210907

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220208

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220221

R151 Written notification of patent or utility model registration

Ref document number: 7040447

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151