JP2016127333A - 撮像素子および撮像装置および撮像情報認識システム - Google Patents

撮像素子および撮像装置および撮像情報認識システム Download PDF

Info

Publication number
JP2016127333A
JP2016127333A JP2014264726A JP2014264726A JP2016127333A JP 2016127333 A JP2016127333 A JP 2016127333A JP 2014264726 A JP2014264726 A JP 2014264726A JP 2014264726 A JP2014264726 A JP 2014264726A JP 2016127333 A JP2016127333 A JP 2016127333A
Authority
JP
Japan
Prior art keywords
image
imaging
filter
imaging device
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2014264726A
Other languages
English (en)
Inventor
伊藤 泉
Izumi Ito
泉 伊藤
正幸 藤島
Masayuki Fujishima
正幸 藤島
輔宏 木村
Sukehiro Kimura
輔宏 木村
洋義 関口
Hiroyoshi Sekiguchi
洋義 関口
高橋 祐二
Yuji Takahashi
祐二 高橋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2014264726A priority Critical patent/JP2016127333A/ja
Priority to EP15872182.9A priority patent/EP3238443A4/en
Priority to US15/539,968 priority patent/US10178361B2/en
Priority to PCT/JP2015/006132 priority patent/WO2016103607A1/en
Publication of JP2016127333A publication Critical patent/JP2016127333A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/30Polarising elements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B3/00Simple or compound lenses
    • G02B3/0006Arrays
    • G02B3/0037Arrays characterized by the distribution or form of lenses
    • G02B3/0056Arrays characterized by the distribution or form of lenses arranged along two different directions in a plane, e.g. honeycomb arrangement of lenses
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/201Filters in the form of arrays
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Polarising Elements (AREA)
  • Optical Filters (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】偏光した光を撮像に参与させつつも、偏光していない光をも撮像に参与させうる新規な撮像素子を実現する。【解決手段】この発明の撮像素子100は、撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置に用いられる撮像素子であって、イメージセンサIMSの受光面LRS上に、透過偏光特性が異なる2種以上の画素を有する偏光フィルタPFLを有する。【選択図】図1

Description

この発明は、撮像素子および撮像装置および撮像情報認識システムに関する。
撮像対象の像をイメージセンサの受光面に結像させて、撮像対象の対象画像を得る撮像装置は、従来から種々ものが知られている。
「撮像対象」は、撮像されるべき対象であり、「対象画像」は、撮像対象を撮像して得られる画像である。
撮像装置と撮像対象の間には、ガラス板等の透明板が存在する場合がある。例えば、建築物内部の撮像対象を「窓ガラス」を介して建築物外部から撮像するような場合である。あるいは、車両の内部にいる運転者を、フロントガラスを介して車外から撮像する場合である。
このような透明板が介在すると、透明板で反射された反射光による画像が「対象画像に対してノイズとして写り込」み、撮像されるべき本来の撮像対象の対象画像の像質を劣化させる。
このような反射光によるノイズを軽減できるものとして、偏光した光による撮像を行なう方法が知られている(特許文献1)等。
この発明は、偏光した光を撮像に参与させつつも、偏光していない光をも撮像に参与させうる新規な撮像素子の実現を課題とする。
この発明の撮像素子は、撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置に用いられる撮像素子であって、イメージセンサの受光面上に、透過偏光特性が異なる2種以上の画素を有する偏光フィルタを有する。
この発明の撮像素子によれば、通常の輝度画像と共に偏光フィルタ画像を併せて取得できる。
撮像装置と撮像素子を説明するための図である。 基本画素マトリックスと、基本カラーフィルタマトリックスと、基本偏光フィルタマトリックスを説明するための図である。 撮像情報認識システムの実施の1形態を説明するための図である。
以下、実施の形態を説明する。
図1(a)は、撮像装置による撮像を説明するための説明図である。
図1(a)において、符号Obは「撮像対象」を示し、符号LNは「結像レンズ系」、符号100は「撮像素子」をそれぞれ示している。
結像レンズ系LNにより撮像対象Obの像を撮像素子100の受光面上に結像する。
「結像レンズと撮像素子を組み合わせてなる撮像装置」は、従来から、種々知られており、この発明の撮像装置も、これら周知の撮像装置の構造を適宜利用できる。なお、結像レンズLNは、撮像素子100に入射する結像光線の受光面への入射角がなるべく小さくなるように「像側にテレセントリック」であることが好ましい。
図1(b)〜(d)に、この発明の撮像素子の構成の3例を例示する。
図1(b)〜(d)において、符号IMSは「イメージセンサ」、符号LRSはイメージセンサIMSの「受光面」、符号CFLは「カラーフィルタ」、符号MLAは「マイクロレンズアレイ」を示している。
イメージセンサIMSは、その受光面LRS上に、多数の微小な光電変換素子PDを2次元的に配列して有している。光電変換素子PDの2次元的な配列は、図の左右方向および図面に直交する方向の2方向に密接した配列である。
カラーフィルタCFLは、受光面LRSの光電変換素子PDに入射する光を「色分解する」ためのフィルタCFを、光電変換素子PDの2次元的な配列に倣って2次元的に配列させて構成されている。
マイクロレンズアレイMLAは、多数の凸レンズ形状のマイクロレンズMLを、光電変換素子PDの2次元的な配列に倣って2次元的に配列させて有している。
偏光フィルタPFLは、多数の光透過性の偏光素子PFを、光電変換素子PDの2次元的な配列に倣って配列させて構成されている。
図1(b)に示す撮像素子100Aでは、偏光フィルタPFLが「カラーフィルタCFLとともにマイクロレンズアレイMLAを挟む」ように、偏光フィルタPFL、カラーフィルタCFL、マイクロレンズアレイMLAの位置が定められている。
図1(c)に示す撮像素子100Bでは、偏光フィルタPFLが「カラーフィルタCFLとマイクロレンズアレイMLAとで挟まれる」ように、偏光フィルタPFL、カラーフィルタCFL、マイクロレンズアレイMLAの位置が定められている。
図1(d)に示す撮像素子100Cでは、偏光フィルタPFLがマイクロレンズアレイMLAとともに、「カラーフィルタCFLを挟む」ように、偏光フィルタPFL、カラーフィルタCFL、マイクロレンズアレイMLAの位置が定められている。
図1(b)等の上方から下方へ向かっての、偏光フィルタPFL、カラーフィルタCFL、マイクロレンズアレイMLAの配置の順は、任意である。例えば、偏光フィルタPFLとカラーフィルタCFLとが、マイクロレンズアレイMLAを介して受光面LRSと逆の側にあってもよい。
この場合、偏光フィルタPFLとカラーフィルタCFLのどちらがマイクロレンズアレイMLA側に位置するようにしてもよい。
上記の如く、カラーフィルタCFLにおけるフィルタCFの2次元的配列、マイクロレンズアレイMLAにおけるマイクロレンズMLの2次元的配列、偏光フィルタPFLにおける偏光素子PFの2次元的配列は、光電変換素子PDの2次次元的配列に倣っている。
即ち、光電変換素子PDの個々には「フィルタCF、偏光素子PF、マイクロレンズMLの1組」が対応する。
従って、個々の光電変換素子PDに入射する光は、マイクロレンズMLにより光電変換素子PDに集光されるが、その際、偏光素子PFとフィルタCFを透過し、これらの作用を受ける。
なお、撮像装置によって得るべき対象画像が「モノクロ画像」である場合には、カラーフィルタCFLを省略できる。
以下では、撮像装置によって得るべき対象画像が「カラー画像」である場合を想定し、カラーフィルタCFLを用いる場合を説明する。
上記の如く、イメージセンサIMSの受光面LRSに2次元的に配された光電変換素子PDの個々に「偏光素子CFとフィルタCFとマイクロレンズMLの1組」が対応する。
個々の光電変換素子PDによる微小な光電変換領域を「画素」と呼び、個々の光電変換素子PDに対応するフィルタCF、偏光素子PFの1つ1つも「画素」と呼ぶ。
この発明の撮像素子は、イメージセンサIMSの受光面LRSの上に「透過偏光特性が異なる2種以上の画素を有する偏光フィルタ」を有する点を特徴とする。
以下、この点を説明する。
図2において、符号ELUは「基本画素マトリックス」を示す。基本画素マトリックスELUは、同一形状の4つの画素PX11〜PX22が「正方形状に配列した状態」を意味する。
イメージセンサIMSの受光面LRSは、このような基本画素マトリックスELUが、互いに直交する2方向(図の上下左右方向)に繰り返して配列された面である。
図2において、符号CFLUは「4個のフィルタR11、G12、G21、B22の配列による基本カラーフィルタマトリックスCFLU」を示している。
フィルタR11〜B22の個々は、上においてフィルタCFと呼んだものであり、カラーフィルタにおける1画素である。
基本カラーフィルタマトリックスCFLUは「4個のフィルタR11、G12、G21、B22」を図の如く、基本画素マトリックスELUにおける4個の画素PX11〜PX22と同配列に配列したものである。
カラーフィルタCFLは、このような基本カラーフィルタマトリックスCFLUが、互いに直交する2方向に繰り返して配列して構成されている。
4個のフィルタR11〜B22の個々は、同一形状で、画素PX11等と同サイズである。基本カラーフィルタマトリックスCFLUは、1個の赤色のフィルタR11、1個の青色のフィルタB22と、2個の緑色のフィルタG12、G21を有する。
これら4個のフィルタR11、G12、G21、B22は、基本画素マトリックスELUの4つの画素PX11、PX12、PX21、PX22の個々と1:1に対応させて重ねられる。
図2において、符号PFLU1〜PFLU6は、偏光フィルタPFLの画素である偏光素子PFの配列を示す「基本偏光フィルタマトリックス」を6例示している。
図2に示す基本偏光フィルタマトリックスPFLU1〜PFLU6は、何れも4つの画素(偏光素子PF)を、図の如く正方行列状に配して構成されている。個々の画素は同一形状・同一サイズで、画素PX11等と同サイズである。
偏光フィルタPFLは、図示の如き基本偏光フィルタマトリックスを、互いに直交する2方向(図の上下左右方向)に繰り返して配列することにより構成される。
基本偏光フィルタマトリックスPFLU1を例にとって説明すると、4個の偏向素子C11、C12、V21、C22は、図2の基本画素マトリックスELUの4つの画素PX11、PX12、PX21、PX22の個々と1:1に対応させて重ねられる。
基本偏光フィルタマトリックスPFLU1を構成する4個の偏光素子のうち、3個の偏光素子C11、C12、C22は「光を偏光させることなく透過」させるフィルタであり、偏光素子V21は「鉛直方向の偏光成分(電界が鉛直方向に振動している成分)」のみを透過させるフィルタである。
偏光素子C11、C12、C13は、上記の如く、透過させる光を「偏光させる」ものではなく、謂わば「素通し」である。
しかし、この明細書においては、これらも「素通しという透過偏光特性」を持つものとして「偏光素子」と呼ぶ。
基本偏光フィルタマトリックスPFLU1の2次元的な配列を有する偏光フィルタは、
透過偏光特性が異なる2種の画素C11、C12、C22(これらの透過偏光特性は「素通し」である。)と画素V21を有する。
基本偏光フィルタマトリックスPFLU1を用いる場合、受光面における基本画素マトリックスELUで見ると、画素PX11〜P22のうち、画素PX21には「フィルタG21で緑色に色分解され、フィルタV21で鉛直方向の偏光となった光」が入射する。
残りの3画素PX11、PX12、PX22には、それぞれフィルタR11、G12、B22により色分解された光が「偏光化されず(素通し)」に入射する。
従って、受光面における全ての基本画素マトリックスの画素PX11、PX12、PX22からの受光信号は「通常のカラー輝度画像」を構成するデータで、受光面における全ての基本画素マトリックスの画素PX21からの受光信号は「偏光フィルタPFLでV偏光状態となった画像」を構成するデータである。
上記「カラー輝度画像」は、赤(R)・緑(G)・B(青)の3色の成分から演算生成される画像である。
また「偏光フィルタ画像」は、垂直方向および/または水平方向の電界振動成分を透過させる偏光素子(画素)を透過した成分により生成される画像である。
画素PX12とPX21の受光信号を用いることにより、「偏光フィルタ画像」を得ることができる。
この場合、画素PX21の受光信号をそのまま用いることもできるが、画素PX12の出力と、画素PX21の出力の差:
(PX12の出力)―(PX21の出力)=ΔG
は、緑色に色分解された光の「H偏光成分(電界が水平方向に振動している偏光成分)の輝度」となる。
從って、このΔGと、画素PX21の出力(V方向偏光成分の輝度)を用いれば「V方向及びH方向の偏光成分による偏光フィルタ画像」を得ることができる。
從って、撮像対象Obの像をイメージセンサIMSの受光面LRSに結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得できる。
図2に示す基本偏光フィルタマトリックスPFLU2は、PFLU1において画素PX21に対応する偏光素子V21を、水平方向の偏光成分のみを透過させる偏光素子H21に代えたものである。
基本偏光フィルタマトリックスPFLU1の場合と同様に、画素PX11、PX12、PX22の出力により「通常のカラー輝度画像」を得ることができる。
また、画素PX12とPX21の受光信号を用いることにより、「偏光フィルタ画像」を得ることができる。
この場合、緑色に色分解された光の「V偏光成分の輝度」は、引き算:
(PX12の出力)―(PX21の出力)=δG
で得られる「δG」となる。
從って、このδGと、画素PX21の出力(H方向偏光成分の輝度)を用いれば「V方向及びH方向の偏光成分による偏光フィルタ画像」を得ることができる。
図2に示す基本偏光フィルタマトリックスPFLU3は、PFLU2において画素PX12に対応する偏光素子C12を、垂直方向の偏光成分のみを透過させる偏光素子V12
に代えたものである。
画素PX11、PX12、PX21、PX22の出力により「通常のカラー輝度画像」を得ることができる。
緑色成分光の通常の輝度成分は、画素PX12の出力と、画素PX21の出力の和:
(画素PX12の出力)+(画素PX21の出力)=ΣG
によって得ることができる。
従って、画素PX11、PX22の出力と、このΣGを用いて「通常のカラー輝度画像」を構成できる。
また、画素PX12、PX21の出力から、偏光フィルタ画像を得ることができる。
図2に示す基本偏光フィルタマトリックスPFLU4は、PFLU3において画素PX12とPX21の偏光素子V12、H21を、偏光素子H12、V21に入れ替えたものである。
基本偏光フィルタマトリックスPFLU3の場合と同様、画素PX11、PX12、PX21、PX22の出力により「通常のカラー輝度画像」を得ることができる。
緑色成分光の通常の輝度成分は、画素PX12の出力と、画素PX21の出力の和:
(画素PX12の出力)+(画素PX21の出力)=σG
によって得ることができる。
従って、画素PX11、PX22の出力とσGを用いて「通常のカラー輝度画像」を構成できる。
「偏光フィルタ画像」は、画素PX12、PX21の出力を用いて構成できる。
図2に示す基本偏光フィルタマトリックスPFLU5は、PFLU3において画素PX12とPX22の偏光素子を偏光素子V11、V22で置き換えたものである。
図2に示す基本偏光フィルタマトリックスPFLU6は、PFLU5において画素PX11、PX12、PX22の偏光素子を偏光素子H11、H12、H22で置き換え、画素PX21の偏光素子H21を偏光素子V21で置き換え代えたものである。
これら基本偏光フィルタマトリクスPFLU5、PFLU6の何れの場合も、画素PX11、PX12、PX22の出力により、カラー輝度画像を構成できる。これら3画素の出力は何れも「偏光成分」のものであるが、何れも偏光方向が同一であるので、これらを用いてカラー輝度画像を構成できる。
また偏光フィルタ画像は、画素PX11、PX12、PX21、PX22の出力から構成できる。
基本偏光フィルタマトリックスPFLU5、PFLU6を用いる場合、画像全体の輝度成分が均一化され、ダイナミックレンジを向上させる効果がある。
即ち、撮像対象Obにもよるが、一般に、緑色成分の光を受光する画素PX12、PX21では、赤い色、青色成分の光を受光する画素PX11、PX22よりも高輝度となり、撮影条件によっては飽和し易くなる。
緑色成分の光を受光する画素PX12、PX21に、偏光素子V12、V22、H12、H22を組み合わせた場合に比して、これらに偏光素子C12、C22を組み合わせた場合も、略2倍程度高輝度となる。
従って、基本偏光フィルタマトリックスPFLU1の場合には、4つの画素のうち画素PX12の輝度が、周囲の画素に対して高輝度の状態となる。
基本偏光フィルタマトリックスPFLU5やPFLU6のような構成では、全ての画素が「偏光成分の輝度」となるので、同じマトリックス内における輝度の均一化を図ることができる。
また、一般に「素通しでない偏光素子を設置した画素」では、周囲の画素と比較し低輝度となる。
例えば、基本偏光フィルタマトリックスPFLU1やPFLU2では、偏光フィルタ画像の生成に用いる画素PX21での輝度が、他の画素PX11、PX12、PX22での輝度よりも低くなる。
このため、輝度の高い画素PX11、PX2、PX22から、輝度の低い画素PX21へ「より多くの光成分が混入してクロストークが発生」し、画素PX21が「本来とるべき信号値」に対して誤差成分が多く乗ることになる。
この現象は、図1(b)に示した撮像素子100Aのように、偏光フィルタPFLが、受光面LRSから「より離れて配置」されている構成の場合に特に顕著である。
これを抑制するために、基本偏光フィルタマトリックスPFLU5やPFLU6のように、画素PX11、PX12、PX22にも「素通しでない偏光素子V11、V12、V22、あるいはH11、H12、H22」を配して、これらの画素の輝度値を相対的に低下させることが有効である。
なお、カラー輝度画像、偏光フィルタ画像の出力を行う上では、上記の演算に加え、基本画素マトリックスELUの隣接マトリックス画素を用いた補完処理等も行うことは言うまでもない。
上の撮像素子の実施の形態において例示した、基本偏光フィルタマトリックスPFLU1ないしPFLU6を見ると明らかなように「イメージセンサIMSの受光面LRS上に、透過偏光特性が異なる2種以上の画素を有する偏光フィルタPFL」を有する。
即ち、基本偏光フィルタマトリックスPFLU1、PFLU2を用いる例では、偏光フィルタは、素通しの偏光素子C11、C12、C22と、鉛直方向もしくは水平方向の偏光成分の光を透過させる偏光素子V21もしくはH21の2種の画素を有する。
また、基本偏光フィルタマトリックスPFLU5、PFLU6を用いる例では、偏光フィルタは、透過させる光の偏光方向が互いに直交する2種の偏光素子V11、V12、V22、H21あるいは偏光素子H11、H12、H22、V21を有する。
基本偏光フィルタマトリックスPFLU3、PFLU4を用いる例では、3種の偏光素子C11、C22、V12、H21または偏光素子C11、C22、H12、V2を有する。
偏光フィルタに用いられる「透過偏光特性が異なる2種以上の画素(偏光素子)」は、上記のものに限定されないことは言うまでもない。
図3に即して、この発明の撮像素子を用いる撮像装置と、該撮像装置を用いる撮像情報認識システムの実施の1形態を説明する。
この撮像情報認識システムは、例えば、有料道路料金所の通行料自動収集システムに用いることができる。
図3において、符号11は偏光カメラとして構成された撮像装置であり、撮像処理部111と画像処理部112とを有する。
撮像処理部111は、先に図1(a)に即して説明した如く、結像レンズ系と撮像素子を有し、撮像素子は、上に実施の形態を説明した如きものである。
従って、撮像処理部111からは、図の如く「偏光フィルタ画像データ」と「輝度画像データ」が出力される。
「偏光フィルタ画像データ」は、前述の偏光フィルタ画像を構成するためのデータであり、「輝度画像データ」は上記「カラー輝度画像」を構成するためのデータである。
即ち、偏光カメラ11の撮像処理部111からは、偏光フィルタ画像データと、輝度画像データと言う、2種の画像データが分離して出力される。
これら2種の画像データは画像処理部112により画像処理され、カラー輝度画像による「可視画像情報」とされ、サーバコンピュータ17に入力する。
サーバコンピュータ17は偏光カメラ11とともに「撮像システムの要部」をなす。
サーバコンピュータ17は、入力された「可視画像情報」を、JPG、BMP等の汎用画像形式にエンコードし、電気通信回線INTを介して認知システム20に伝送される。このようにサーバコンピュータ17から認知システム20に伝送される情報により構成される画像が、認識システム20での認識の対象となる。
認識の対象は、通行料自動収集システムを通過する車両とその運転者である。
認識システム20では伝送された情報に基づき、「車両とその運転者」を認識する。
偏光カメラ11により車両が撮像される際、運転者と偏光カメラ11との間には通常「フロントガラス」が介在する。
このフロントによる反射光は、撮像された画像にノイズ成分として作用する。
このようなノイズにより画質を劣化された対象画像は、運転者の認識の妨げとなり特定作業を困難にするが、偏光カメラ11から得られる「可視画像情報」は、前述の如く別個に取得したカラー輝度画像と偏光フィルタ画像を用いる画像処理で構成される。
よく知られたように、偏光フィルタは「反射光を低減させる性質」を持つ。従って、撮像処理部111から出力される「偏光フィルタ画像データ」では、反射光によるノイズ成分が有効に低減されている。
従って、可視画像情報においては反射光によるノイズが有効に低減されており、運転者の認識・特定が容易となる。
この「認識・特定」は、従来から知られた適宜の方法で行うことができる。
例えば、送られてきた可視画像情報を「目視可能な画像」としてディスプレイに表示し、これを「目視」して特定作業を行うことができる。
あるいは、認識システムが保有しているデータと上記「可視画像情報」を照合して、認識・特定を自動的に特定を行うことができる。また、上記「目視による特定」と「自動的な特定」とを併用することができ、このようにすると「特定の精度」を高めることができる。
上に説明したように、この発明によれば、以下の如き撮像素子、撮像装置、撮像情報認識システムを実現できる。
[1]
撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置に用いられる撮像素子であって、イメージセンサIMSの受光面LRS上に、透過偏光特性が異なる2種以上の画素を有する偏光フィルタPFLを有する撮像素子100。
[2]
[1]記載の撮像素子であって、偏光フィルタPFLにおける透過偏光特性が異なる2種以上の画素に、全偏光成分を透過させる無偏光画素(C11等)が含まれる撮像素子。
[3]
[1]または[2]記載の撮像素子であって、偏光フィルタPFLにおける透過偏光特性が異なる2種以上の画素に、特定の偏光成分を透過させる1種以上の偏光画素(V12、H21等)が含まれる撮像素子。
[4]
[1]ないし[3]の何れか1に記載の撮像素子において、偏光フィルタPFLとともに、該偏光フィルタにおけると同一の画素および画素配列を持つカラー画素CFを有するカラーフィルタCFLを有し、撮像対象の色分解が可能である撮像素子。
[5]
[4]記載の撮像素子であって、カラーフィルタは、赤色フィルタR11、緑色フィルタG12、G21、青色フィルタB22の3種類の色画素を有する撮像素子。
[6]
撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置11であって、請求項1ないし5の何れか1項に記載の撮像素子を用いる撮像装置。
[7]
撮像対象の像を撮像装置で撮像して対象画像を得、該対象画像に基づき、前記撮像対象の特定のための処理を行う撮像情報認識システムであって、撮像システム(11、17)
と、認識システム20とを有し、前記撮像システムは、[6]記載の撮像装置11を有し、前記認識システム20は、前記撮像システムにより撮像された対象画像に基づき前記撮像対象の特定のための処理を行う機能を有する撮像情報認識システム。
以上、発明の好ましい実施の形態について説明したが、この発明は上述した特定の実施形態に限定されるものではなく、上述の説明で特に限定していない限り、特許請求の範囲に記載された発明の趣旨の範囲内において、種々の変形・変更が可能である。
この発明の実施の形態に記載された効果は、発明から生じる好適な効果を列挙したに過ぎず、発明による効果は「実施の形態に記載されたもの」に限定されるものではない。
Ob 撮像対象
LN 結像レンズ系
100 撮像素子
IMS イメージセンサ
LRS 受光面
PFL 偏光フィルタ
CFL カラーフィルタ
MLA マイクロレンズアレイ
PF 偏向素子(偏光フィルタPFLの画素)
CF フィルタ(カラーフィルタCFLの画素)
PD 光電変換素子
11 偏光カメラ(撮像装置)
特開2011−002718号公報

Claims (7)

  1. 撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置に用いられる撮像素子であって、
    イメージセンサの受光面上に、透過偏光特性が異なる2種以上の画素を有する偏光フィルタを有する撮像素子。
  2. 請求項1記載の撮像素子であって、
    偏光フィルタにおける透過偏光特性が異なる2種以上の画素に、全偏光成分を透過させる無偏光画素が含まれる撮像素子。
  3. 請求項1または2記載の撮像素子であって、
    偏光フィルタにおける透過偏光特性が異なる2種以上の画素に、特定の偏光成分を透過させる1種以上の偏光画素が含まれる撮像素子。
  4. 請求項1ないし3の何れか1項に記載の撮像素子において、
    偏光フィルタとともに、該偏光フィルタにおけると同一の画素および画素配列を持つカラー画素を有するカラーフィルタを有し、撮像対象の色分解が可能である撮像素子。
  5. 請求項4記載の撮像素子であって、
    カラーフィルタは、赤色フィルタ、緑色フィルタ、青色フィルタの3種類の色画素を有する撮像素子。
  6. 撮像対象の像をイメージセンサの受光面に結像させ、通常の輝度画像と共に偏光フィルタ画像を併せて取得し、これら画像に対する画像処理を行う撮像装置であって、
    請求項1ないし5の何れか1項に記載の撮像素子を用いる撮像装置。
  7. 撮像対象の像を撮像装置で撮像して対象画像を得、該対象画像に基づき、前記撮像対象の特定のための処理を行う撮像情報認識システムであって、
    撮像システムと、認識システムとを有し、
    前記撮像システムは、請求項6記載の撮像装置を有し、
    前記認識システムは、前記撮像システムにより撮像された対象画像に基づき前記撮像対象の特定のための処理を行う機能を有する撮像情報認識システム。
JP2014264726A 2014-12-26 2014-12-26 撮像素子および撮像装置および撮像情報認識システム Pending JP2016127333A (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2014264726A JP2016127333A (ja) 2014-12-26 2014-12-26 撮像素子および撮像装置および撮像情報認識システム
EP15872182.9A EP3238443A4 (en) 2014-12-26 2015-12-09 Image pickup element, imaging apparatus, and image recognition system
US15/539,968 US10178361B2 (en) 2014-12-26 2015-12-09 Image pickup element, imaging apparatus, and image recognition system using non-polarized light
PCT/JP2015/006132 WO2016103607A1 (en) 2014-12-26 2015-12-09 Image pickup element, imaging apparatus, and image recognition system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014264726A JP2016127333A (ja) 2014-12-26 2014-12-26 撮像素子および撮像装置および撮像情報認識システム

Publications (1)

Publication Number Publication Date
JP2016127333A true JP2016127333A (ja) 2016-07-11

Family

ID=56149676

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014264726A Pending JP2016127333A (ja) 2014-12-26 2014-12-26 撮像素子および撮像装置および撮像情報認識システム

Country Status (4)

Country Link
US (1) US10178361B2 (ja)
EP (1) EP3238443A4 (ja)
JP (1) JP2016127333A (ja)
WO (1) WO2016103607A1 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018117022A1 (ja) * 2016-12-20 2018-06-28 株式会社資生堂 塗布制御装置、塗布装置、塗布制御方法および記録媒体
WO2019131303A1 (ja) * 2017-12-28 2019-07-04 シャープ株式会社 虹彩認証装置

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CA2999671A1 (en) * 2015-09-30 2017-04-06 Sony Corporation Control apparatus, control method, and program
WO2019026287A1 (ja) * 2017-08-04 2019-02-07 株式会社ソニー・インタラクティブエンタテインメント 撮像装置および情報処理方法
JP2019080223A (ja) * 2017-10-26 2019-05-23 株式会社ソニー・インタラクティブエンタテインメント カメラシステム
WO2019220722A1 (ja) * 2018-05-18 2019-11-21 ソニー株式会社 固体撮像装置と情報処理装置および情報処理方法とキャリブレーション方法
EP3866462B1 (en) * 2018-10-09 2022-11-02 FUJIFILM Corporation Imaging device
JP7247778B2 (ja) 2019-06-20 2023-03-29 株式会社リコー 光偏向装置、レーザレーダ装置、及び画像形成装置

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006254331A (ja) * 2005-03-14 2006-09-21 Fuji Photo Film Co Ltd 被写体の反射光成分を検出する画像処理方法およびこれを実行する装置
JP2009055624A (ja) * 2007-05-31 2009-03-12 Panasonic Corp カラー偏光撮像装置および画像処理装置
JP2009290895A (ja) * 2007-06-15 2009-12-10 Panasonic Corp 画像処理装置
JP2010263158A (ja) * 2009-05-11 2010-11-18 Sony Corp 2次元固体撮像装置、及び、2次元固体撮像装置における偏光光データ処理方法
JP2012212978A (ja) * 2011-03-30 2012-11-01 Nikon Corp 撮像素子および撮像装置
JP2013197670A (ja) * 2012-03-16 2013-09-30 Ricoh Co Ltd 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2003007594A1 (fr) * 2001-07-10 2003-01-23 Sharp Kabushiki Kaisha Emetteur de donnees audiovisuelles (av), recepteur de donnees av et appareil de reproduction/d'affichage de donnees av
JP4228304B2 (ja) * 2003-06-26 2009-02-25 ソニー株式会社 情報処理システム、情報処理装置および方法、記録媒体、並びにプログラム
US8866920B2 (en) * 2008-05-20 2014-10-21 Pelican Imaging Corporation Capturing and processing of images using monolithic camera array with heterogeneous imagers
JP2011002718A (ja) 2009-06-19 2011-01-06 Toshiba Corp 画像撮像装置
US8345144B1 (en) 2009-07-15 2013-01-01 Adobe Systems Incorporated Methods and apparatus for rich image capture with focused plenoptic cameras
JP5696927B2 (ja) 2009-12-25 2015-04-08 株式会社リコー 物体識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
BR112012017199A2 (pt) 2009-12-25 2018-07-31 Ricoh Co Ltd aparelho para identificação de objetos, aparelho para controle de corpos em movimento e aparelho para fornecer informações
CN102342116B (zh) * 2010-01-05 2015-01-07 松下电器产业株式会社 三维摄像装置
JP2011165005A (ja) 2010-02-10 2011-08-25 Toshiba Corp 撮像装置および料金収受システム
JP5761601B2 (ja) 2010-07-01 2015-08-12 株式会社リコー 物体識別装置
EP2439716B1 (en) 2010-09-16 2013-11-13 Ricoh Company, Ltd. Object identification device, moving object controlling apparatus having object identification device and information presenting apparatus having object identification device
JP5967463B2 (ja) 2010-09-16 2016-08-10 株式会社リコー 物体識別装置、並びに、これを備えた移動体制御装置及び情報提供装置
CN102650823A (zh) * 2011-05-13 2012-08-29 京东方科技集团股份有限公司 具有偏振能力的彩色滤光片及其制作方法
US9177983B2 (en) * 2012-01-23 2015-11-03 Omnivision Technologies, Inc. Image sensor with optical filters having alternating polarization for 3D imaging
JP6515531B2 (ja) 2014-12-26 2019-05-22 株式会社リコー 撮像情報処理装置および撮像情報処理システム

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006254331A (ja) * 2005-03-14 2006-09-21 Fuji Photo Film Co Ltd 被写体の反射光成分を検出する画像処理方法およびこれを実行する装置
JP2009055624A (ja) * 2007-05-31 2009-03-12 Panasonic Corp カラー偏光撮像装置および画像処理装置
JP2009290895A (ja) * 2007-06-15 2009-12-10 Panasonic Corp 画像処理装置
JP2010263158A (ja) * 2009-05-11 2010-11-18 Sony Corp 2次元固体撮像装置、及び、2次元固体撮像装置における偏光光データ処理方法
JP2012212978A (ja) * 2011-03-30 2012-11-01 Nikon Corp 撮像素子および撮像装置
JP2013197670A (ja) * 2012-03-16 2013-09-30 Ricoh Co Ltd 撮像装置、物体検出装置、車両走行支援画像処理システム、及び車両

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2018117022A1 (ja) * 2016-12-20 2018-06-28 株式会社資生堂 塗布制御装置、塗布装置、塗布制御方法および記録媒体
CN110191661A (zh) * 2016-12-20 2019-08-30 株式会社资生堂 涂布控制装置、涂布装置、涂布控制方法以及记录介质
JPWO2018117022A1 (ja) * 2016-12-20 2019-10-24 株式会社 資生堂 塗布制御装置、塗布装置、塗布制御方法および記録媒体
US10799009B2 (en) 2016-12-20 2020-10-13 Shiseido Company, Ltd. Application control device, application device, application control method and storage medium
CN110191661B (zh) * 2016-12-20 2022-07-05 株式会社资生堂 涂布控制装置、涂布装置、涂布控制方法以及记录介质
WO2019131303A1 (ja) * 2017-12-28 2019-07-04 シャープ株式会社 虹彩認証装置

Also Published As

Publication number Publication date
US10178361B2 (en) 2019-01-08
WO2016103607A1 (en) 2016-06-30
US20170374325A1 (en) 2017-12-28
EP3238443A4 (en) 2017-11-29
EP3238443A1 (en) 2017-11-01

Similar Documents

Publication Publication Date Title
JP2016127333A (ja) 撮像素子および撮像装置および撮像情報認識システム
JP5421365B2 (ja) 3次元撮像装置
US9979950B2 (en) Imaging device and electronic information instrument
US20100283884A1 (en) Imaging device
KR20170094968A (ko) 피사체 거리 측정 부재, 이를 갖는 카메라 모듈
JP5493054B2 (ja) 立体動画像及び平面動画像を撮像する撮像素子及びこの撮像素子を搭載する撮像装置
JP2010057067A (ja) 撮像装置および画像処理装置
US9188480B2 (en) Color filter array and image sensor
JPWO2019078340A1 (ja) 撮像装置および方法、並びに、画像処理装置および方法
KR20200074101A (ko) 촬상 장치 및 방법, 및, 화상 처리 장치 및 방법
JP2010068018A (ja) 画像処理装置、撮像装置および表示装置
JP2009290268A (ja) 撮像装置
CN104935793A (zh) 配有滤光器阵列的微透镜和固态成像设备
CN107710741B (zh) 一种获取深度信息的方法及摄像装置
JPWO2012140917A1 (ja) 画像処理装置および画像処理プログラム
JP5634614B2 (ja) 撮像素子及び撮像装置
Morimitsu et al. A 4M pixel full-PDAF CMOS image sensor with 1.58 μm 2× 1 On-Chip Micro-Split-Lens technology
JPWO2009017184A1 (ja) カラー撮像素子及びこれを用いた撮像装置及びフィルタ
JP2014003433A (ja) 撮像装置
CN113810578B (zh) 一种屏下摄像头模块和显示装置
US20220210378A1 (en) Image processing device, lens module, and image processing method
US20220413258A1 (en) Imaging apparatus, information processing method, program, and interchangeable lens
KR20220116183A (ko) 촬상 장치, 정보 처리 방법, 및 프로그램
WO2014112002A1 (ja) 撮像素子、及び撮像装置
US9338435B2 (en) Grid modulated single lens 3-D camera

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20171206

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20181218

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190208

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190415

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190903