JP6692749B2 - マルチスペクトルカメラ - Google Patents

マルチスペクトルカメラ Download PDF

Info

Publication number
JP6692749B2
JP6692749B2 JP2016545616A JP2016545616A JP6692749B2 JP 6692749 B2 JP6692749 B2 JP 6692749B2 JP 2016545616 A JP2016545616 A JP 2016545616A JP 2016545616 A JP2016545616 A JP 2016545616A JP 6692749 B2 JP6692749 B2 JP 6692749B2
Authority
JP
Japan
Prior art keywords
nth
photoelectric conversion
transmittance
optical
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016545616A
Other languages
English (en)
Other versions
JPWO2016031922A1 (ja
Inventor
平本 政夫
政夫 平本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
MICROTECHNICA CO., LTD.
Original Assignee
MICROTECHNICA CO., LTD.
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by MICROTECHNICA CO., LTD. filed Critical MICROTECHNICA CO., LTD.
Publication of JPWO2016031922A1 publication Critical patent/JPWO2016031922A1/ja
Application granted granted Critical
Publication of JP6692749B2 publication Critical patent/JP6692749B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only

Landscapes

  • Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Computer Hardware Design (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Optics & Photonics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Optical Filters (AREA)
  • Solid State Image Pick-Up Elements (AREA)

Description

本発明は、被写体を撮像することによって取得した画像から画素単位で被写体の反射分光特性を計測できるマルチスペクトル技術に関する。
近年、CCDやCMOS等の撮像素子を用いたデジタルカメラの高機能化や高性能化には目を見張るものがある。特に、半導体製造技術の急速な進歩により、撮像素子における画素構造の微細化が進んでいる。その結果、撮像素子の多画素化および駆動回路の高集積化が図られ、撮像素子の画質が大幅に改善されている。また、撮像素子の超小型化も実現されている。
最近では、カラー画質の改善も著しい。通常の赤(R)、緑(G)、および青(B)の3原色フィルタを用いたカラー撮像以外に、多数の色フィルタを用いて撮像することにより、被写体のカラー画像の品質を向上させることが行われている。例えば、特許文献1の中で紹介されているマルチスペクトルカメラは、CCDの前に分光特性が異なる多数の光学フィルタを装備し、各光学フィルタを機械的に入れ替えながら撮像する。これにより、撮像によって取得した各画像から被写体の詳細な色情報やスペクトル情報を得ることができる。
また、特許文献2は、光学フィルタを最適設計することにより、用いる光学フィルタの数を削減できるマルチスペクトルカメラを紹介している。
特許文献3は、1次元の撮像素子と、レンズを通して入射した光を分光するビームスプリッタと、任意の波長帯域の光を選択して透過させるチューナブルフィルタとを用いることにより、光学フィルタを入れ替える機構を用いずとも様々な波長帯域における画像が得られる技術を紹介している。
さらに特許文献4は、標準的なRGBの色フィルタとそれら以外の色フィルタとを備える単板式のカラー撮像素子を用いて品質の良いカラー画像を得る技術を紹介している。
特開2005−181038号公報 特開2010−122080号公報 特開2012−138652号公報 特開2008−136251号公報
特許文献1および特許文献2に開示されている従来技術では、複数の光学フィルタを入れ替える機械的な機構が必要である。そのため、撮像装置のサイズが大きくなり、また機械部分を定期的に保守しなければならないという課題がある。特許文献3に開示されている従来技術では、1次元の撮像素子を用いているため、2次元画像を得るには1次元の撮像素子を画素配列方向に対して垂直方向に移動(以下、スキャンとも呼ぶ)させる機械的な機構が必要である。さらに、被写体が静止していなければ、撮像結果がブレを有する2次元画像になるという課題がある。また、特許文献4に開示されている従来技術では、使用される標準的なRGBの色フィルタとそれら以外の色フィルタとが、各々特定の1つの(狭い)波長帯域の光のみを透過させるため、さらなる感度向上は期待できないという課題がある。
本発明は、従来の技術とは異なるアプローチのマルチスペクトル技術を提供する。本発明のある実施形態は、機械的な機構が不要で、被写体の動きにも対応でき、感度も向上できるマルチスペクトルカメラを提供する。
本発明の一態様に係るマルチスペクトルカメラは、複数の画素単位が撮像面に2次元的に配列された撮像素子であって、各画素単位は第1から第N(Nは2以上の整数)の光感知セルを含み、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、前記第1から第Nの光感知セルにそれぞれ対向して配置された第1から第Nの光学フィルタであって、各々が所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、を備える。前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化する。前記信号処理回路は、前記第1から第Nの光感知セルからのN個の光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する。
本発明の他の態様に係るマルチスペクトルカメラは、N+1個(Nは2以上の整数)の光学系を含む複眼光学系と、所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、前記第1から第Nの光学フィルタにそれぞれ対向する第1から第Nの光感知セル群を有し、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、を備える。前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化し、前記第1から第Nの光学フィルタは、前記複眼光学系における前記N+1個の光学系のうちのN個の光学系にそれぞれ対向して配置され、前記撮像素子は、さらに前記第1から第Nの光学フィルタのいずれもが対向して配置されていない無フィルタ光感知セル群、または前記第1から第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが対向して配置された透過率平均化光感知セル群を有し、前記信号処理回路は、前記第1から第Nの光感知セル群からのN種類の光電変換信号と、前記無フィルタ光感知セル群からの光電変換信号または前記透過率平均化光感知セル群からの光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する。
本発明の一態様に係るマルチスペクトルカメラによれば、光学フィルタの入れ替えや撮像素子をスキャンさせる機械的な機構を不要にできるため、被写体の動きにも対応できる。また、撮像素子は、所定の波長帯域において透過率が複数のピークを有する光学フィルタを用いているため、従来のRGB等の色フィルタを用いた場合よりも感度を高くすることができる。加えて、各光感知セルからの信号が多数の色情報を含んでいるため、それらの信号を合成することにより、被写体の反射光スペクトルを概算できる。
本発明の実施形態における色フィルタの代表的な分光特性概要図である。 (a)は本発明の実施形態1における撮像素子の画素基本単位の平面図であり、(b)はA−A’線断面図、(c)はB−B’線断面図、(d)はC−C’線断面図である。 (a)は本発明の実施形態1におけるシミュレートした色フィルタ1a〜1dの分光特性図であり、(b)はシミュレートした色フィルタ1e〜1hの分光特性図である。 (a)は本発明の実施形態1における色フィルタ1aの透過率の変動成分だけを抽出した元データ、該変動成分に関して変数変換したデータ、余弦関数(cos)データを示す特性図で、(b)は色フィルタ1bに関する上記同様の特性図で、(c)は色フィルタ1cに関する上記同様の特性図で、(d)は色フィルタ1dに関する上記同様の特性図である。 (a)は本発明の実施形態1における色フィルタ1eの透過率の変動成分だけを抽出した元データ、該変動成分に関して変数変換したデータ、余弦関数(cos)データを示す特性図で、(b)は色フィルタ1fに関する上記同様の特性図で、(c)は色フィルタ1gに関する上記同様の特性図で、(d)は色フィルタ1hに関する上記同様の特性図である。 本発明の実施形態1におけるマルチスペクトルカメラの構成図である。 本発明の実施形態1における結像レンズと広帯域光学フィルタを通して撮像素子に結像される様子を模式的に示した図である。 (a)は本発明の実施形態1で被写体として用いたX−Rite社製のマクベスカラーチェッカーNo13〜No15の反射分光特性図であり、(b)はマクベスカラーチェッカーNo16〜No18の反射分光特性図である。 本発明の実施形態1における色フィルタを除く、光源及びレンズを含む光学系の分光特性と撮像素子の分光感度を合わせた分光特性図である。 本発明の実施形態1における撮像及び信号処理シミュレーションの流れ図である。 (a)は本発明の実施形態1における撮像素子の画素E(0)〜E(8)の値を示した図であり、(b)は算出したフーリエ係数a(0)〜a(8)の値を示した図である。 (a)は本発明の実施形態1における算出した被写体の分光特性図であり、(b)は被写体であるカラーチェッカの分光特性図である。 本発明の実施形態2におけるカメラ内に保持した色フィルタの分光特性図である。 (a)は本発明の実施形態3における複眼光学系を含む撮像素子の平面図であり、(b)はAA’断面図、(c)はBB’断面図、(d)はCC’断面図である。 本発明の実施形態3におけるマルチスペクトルカメラの構成図である。 本発明の実施形態3における広帯域光学フィルタと9つの結像レンズを通して撮像素子に結像される様子を模式的に示した図である。 本発明の実施形態3の変形例を示す図である。
(実施形態1)
本発明の第1の実施形態におけるマルチスペクトルカメラは、N+1個(Nは2以上の整数)の光感知セルを画素の基本単位とする撮像素子を有し、その基本単位(以下、「画素単位」とも称する)の中のN個の光感知セルの各々は、1つの光学フィルタ(以下、「色フィルタ」と称することもある。)に対向する。すなわち、各基本単位の中のN個の光感知セルに対向してN個の光学フィルタがそれぞれ配置される。それらN個の光学フィルタの各々は、所定の波長帯域(例えば、380nm〜760nm)において透過率のピークあるいはアンダーピークを1つ以上有する。さらに、N個の光学フィルタは、透過率のピークの数とアンダーピークの数とを合わせた総ピーク数が異なる。すなわち、画素の基本単位は、光感知セル上に色フィルタが配置されたN個の画素と、色フィルタが配置されていない1つの画素とから構成される。
本明細書において、「ピーク」とは、上記所定の波長帯域のうち、透過率がその波長帯域における平均値を超える1つの連続した部分帯域内(その中では透過率が平均値以下になることはない)で透過率が最大になる点を意味する。一方、「アンダーピーク」とは、透過率が上記平均値を下回る1つの連続した部分帯域内(その中では透過率が平均値以上になることはない)で透過率が最小になる点を意味する。
全ての色フィルタは、例えば所定波長帯域の下限波長でピークを有し、所定波長帯域の上限波長でピークあるいはアンダーピークを有する。例えば、N個の色フィルタのうち、第1の色フィルタは所定波長帯域間でピークとアンダーピークを1つずつ有する総ピーク数2つの光学フィルタであり得る。第2の色フィルタは所定波長帯域間で2つのピークと1つのアンダーピークを有する総ピーク数3つの光学フィルタであり得る。第3の色フィルタは所定波長帯域間で2つのピークと2つのアンダーピークを有する総ピーク数4つの光学フィルタであり得る。以下、同様に、第i(iは1以上でN以下の整数)の光学フィルタは総ピーク数がi+1である。このように、N個の色フィルタは、その符番数の増加と共に総ピーク数が1つずつ増加する特徴がある。各色フィルタの光透過特性は、波長に対して変動性を有する。
それら色フィルタを介して受光する各画素について、以下では、第1の色フィルタが配置された画素を第1の画素、第2の色フィルタが配置された画素を第2の画素というように、色フィルタの符番と画素の符番を一致させている。また、本明細書では画素を光感知セルと呼ぶこともある。
以上の画素構成から、画素信号に関して画素の基本単位毎に分析すると、色フィルタを配置していない画素は、所定波長帯域の全ての光を光電変換した信号を発生する。第1の画素は、所定波長帯域の全ての光成分のうちの1つの特定の(比較的狭い)波長帯域の光成分を特に多く含む光を光電変換した信号を発生し、第2の画素は、所定波長帯域の全ての光成分のうちの2つの特定の(比較的狭い)波長帯域の光成分を特に多く含む光を光電変換した信号を発生する。このように第iの画素は(iは1以上N以下の整数)、所定波長帯域の全ての光成分のうちのi個の特定の(比較的狭い)波長帯域の光成分を特に多く含む光を光電変換した信号を発生する。
波長を独立変数、被写体の光反射率を従属変数とした関数を考えた場合、所定波長帯域において、色フィルタを配置していない画素の信号は被写体の光反射率の直流成分を有すると考えられる。一方、第1〜第Nの画素の信号は、上記直流成分の一部と被写体の光反射率分布におけるN種類の交流成分を有すると考えられる。従って、それらの信号を用いると、被写体の光反射率を有限のフーリエ級数の形式で近似させることが可能である。この近似手法が本実施形態のアプローチである。
ここで、本実施形態の基本原理について説明する。被写体のある1点からの反射光エネルギーを表す波長の関数が、所定の波長帯域λ1〜λ2(但しλ2−λ1=W)で存在するとして、その関数を波長λ1からのシフト波長X(0≦X≦W)を用いてF(X)で表す。F(X)は、0≦X≦Wの範囲でのみ定義される関数であるが、以下の説明ではF(X)が偶関数であるものと仮定して、フーリエ余弦級数で展開することを考える。すると、F(X)は式1で示される有限のフーリエ余弦級数で近似できる。なお、シフト波長Xを、以下では単に波長Xと表現する場合がある。
Figure 0006692749
但し、式1におけるa(i)は下記の式2で表され、iは0から予め設定された最大自然数Mまでの整数である。また、式2における積分範囲はX=0〜Wである。
Figure 0006692749
式2で示すa(i)が撮像素子の画素信号から作り出すことができれば、被写体の反射分光特性を近似的に算出できる。しかしながら、そのためには撮像素子の各色フィルタが、波長の変化に対して余弦的に変化する分光特性を有する必要がある。そのような色フィルタはかなり特殊な光学フィルタと言える。本実施形態は、このような色フィルタの特殊性を緩和するものでもあり、用いる色フィルタの分光特性が波長の変化に対して必ずしも余弦的に変化するものでなくても良い。
例えば、撮像素子の画素上に配置された色フィルタの1つが図1の実線で示される分光特性を有していたとして、その特性がG(X)で表されるとする。G(X)は、光透過率の最大値を1とした場合の透過比率(以下では透過率と呼ぶ場合もある)が平均的にKaであり、さらに波長によって透過率が変動し、その変動成分(交流成分とも言う)をその極大値と極小値との差PPを用いて(PP/2)×AC(X)で表されるとする。すなわち、G(X)=Ka+(PP/2)AC(X)で表現される。また、色フィルタを配置していない画素では、撮像素子の表面の光反射等で受光量が若干低下し、透過比率はKdであるとする。参考までに、図1ではその特性を破線で表している。
被写体からの光が100%光電変換されるとすると、色フィルタを配置していない画素の信号Sdは以下の式3で表され、色フィルタを配置した画素の信号Saは式4で表される。
Figure 0006692749
Figure 0006692749
式3、式4から、式5が導かれる。被写体からの反射光が色フィルタの交流成分によって減衰した場合の光の強度が画素信号の演算で求められることがわかる。
Figure 0006692749
いずれの色フィルタのAC(X)も余弦関数であれば、式2に示すフーリエ係数を求めることができ、その結果を用いて式1から被写体の反射分光特性F(X)を算出でき得る。しかし、各色フィルタの分光特性が図1のような変動性はあっても余弦関数でない交流成分を有している場合、式2及び式1を利用することは出来ない。
本実施形態はこの問題を解決したものであり、ある条件を満たせば色フィルタの分光特性における変動が余弦関数で表されなくとも、被写体の反射分光特性を算出できる。そのある条件とは、いずれの色フィルタにおいても、分光特性の交流成分AC(X)が波長Xと関係付けられた変数Zの変化に対して、余弦関数に近くなるということである。もしこの条件が成立すれば、式5の左辺は、
Figure 0006692749
と近似できる。Z'=dZ/dXとすると、式5は式6で表される。
Figure 0006692749
式6は、(F(Z)/Z')のフーリエ係数を画素信号SaおよびSdを用いた演算で求められることを意味している。これにより、(F(Z)/Z')を有限のフーリエ級数に展開した結果が得られ、その展開結果にZ'を乗算し、さらにF(Z)をF(X)に変換することにより、被写体の反射分光特性を求めることができる。
以上が本実施形態の基本原理である。以下、その基本原理をもとに本実施形態の具体例を説明する。
まず本実施形態におけるマルチスペクトルカメラの撮像素子について説明する。本実施形態では、撮像面に2次元的に配列された複数の画素単位を有する撮像素子が用いられる。画素単位は、撮像素子における画素の基本単位であり、複数の光感知セルを含む。
図2は、撮像素子の画素の基本単位を示している。図2(a)は画素の基本単位を示す平面図である。本実施形態では、水平方向に3画素、垂直方向に3画素の9画素を基本構成としている。その中心の画素上には色フィルタが配置されておらず、その他の画素の上には色フィルタが配置されている。図2(b)、(c)、(d)は、それぞれ、図2(a)におけるA−A’線断面図、B−B’線断面図、C−C’線断面図である。図2に示されているように、本実施形態のマルチスペクトルカメラは、3行3列に配列された9個の光感知セル2a、2b、2c、2d、2e、2f、2g、2h、2zと、8枚の色フィルタ1a、1b、1c、1d、1e、1f、1g、1hとを備えている。色フィルタ1a、1b、1c、1d、1e、1f、1g、1hは、それぞれ、光感知セル2a、2b、2c、2d、2e、2f、2g、2hに対向している。本明細書では、このように対向した関係にあることを、「対応する」と表現することがある。光感知セル2zは、画素単位の中心に位置しており、その上には色フィルタが存在しない。各光感知セルは、受光量に応じた光電変換信号(画素信号ともいう)を出力するフォトダイオード等の受光素子を有している。これらの光感知セルは、シリコン基板3に形成され、シリコン酸化膜31を介して複数の色フィルタと対向している。
撮像素子への結像は、色フィルタを通して、あるいは直接光感知セルで光電変換される。各光感知セルからの光電変換信号は、図2では省略されているが、配線層を通して撮像素子から電気信号として読み出される。
ここで、色フィルタ1a〜1hについて説明する。色フィルタ1a〜1hは1層のチタン系酸化膜であるが、膜厚が互いに異なる。本実施形態では、被写体の計測波長帯域を380nm〜760nmとして、色フィルタ1a〜1hの膜厚を設計している。その設計条件は、色フィルタ1a〜1hに光が垂直に入射し、シリコン酸化膜31を通して光感知セル2a〜2h、2zで光電変換されるものとし、色フィルタ1a〜1hの上部は屈折率1.0の空気層で、各色フィルタは屈折率2.5のチタン系酸化膜で形成され、色フィルタ1a〜1hの下部は屈折率1.47のシリコン酸化膜3であるということである。このような設計条件で、色フィルタ1a、1b、1c、1d、1e、1f、1g、1hの膜厚を、それぞれ76nm、152nm、228nm、304nm、380nm、456nm、532nm、608nmとしている。以上の膜厚は、基本膜厚76nmの整数倍である。その結果、波長帯域380nm〜760nmでは、全ての色フィルタの透過特性は380nmでピークを有し、760nmではピークあるいはアンダーピークを有する。
図3(a)に色フィルタ1a〜1dの分光特性のシミュレーション結果を、図3(b)に色フィルタ1e〜1hの分光特性のシミュレーション結果を示す。これらの色フィルタは光透過率の最大値を1とした場合の透過比率において波長に対して変動性を有する。また、各色フィルタの分光特性におけるピークとアンダーピークを合わせた総数は、波長帯域380nm〜760nmにおいて、色フィルタ1aは2つ、色フィルタ1bは3つ、色フィルタ1cは4つ、色フィルタ1dは5つ、色フィルタ1eは6つ、色フィルタ1fは7つ、色フィルタ1gは8つ、色フィルタ1hは9つである。
各色フィルタの透過比率について、波長の増加と共にそれらは繰り返し変動するが、それらの周期は一定ではない。しかしながら、波長と関係付けた別な変数に対しては一定周期になり得る。本実施形態では、波長をλ、各色フィルタの透過率をYとし、例えば式7、式8で示すλの2次関数で表したZ(Zは波長380nmからのシフト波長とする)を独立変数とすると、透過率Yの変動成分は余弦関数で近似できる。
(式7)(Z+380)=λ−(65/19.6)×(λ−520)2+65 [380≦λ≦520nmの場合]
(式8)(Z+380)=λ−(65/57.6)×(λ−520)2+65 [520≦λ≦760nmの場合]
図4及び図5に、各色フィルタの透過率の変動成分だけを抽出した元データと、該変動成分に関して式7と式8を用いて変数変換したデータと、余弦関数(cos)のデータとを示す。図4(a)は色フィルタ1aのデータを、図4(b)は色フィルタ1bのデータを、図4(c)は色フィルタ1cのデータを、図4(d)は色フィルタ1dのデータを、図5(a)は色フィルタ1eのデータを、図5(b)は色フィルタ1fのデータを、図5(c)は色フィルタ1gのデータを、図5(d)は色フィルタ1hのデータを表している。いずれの図においても、実線が色フィルタの透過率変動成分の元データ、破線が当該変動成分に関して変数変換したデータ、1点鎖線が余弦関数(cos)データを示している。図4及び図5からわかるように、各色フィルタの透過率の変動成分は波長λと関係付けられた変数Zで表されることにより、概ね余弦関数で表される分布に近いことがわかる。このように、本明細書においては、近似的に周期関数のように変化することを「周期的に変化する」と表現する。本明細書における周期的な変化は、必ずしも厳密な意味での周期的変化を意味しない。
次に撮像素子の画素信号について説明する。色フィルタ1a〜1hの順でそれらが配置された画素を第1〜第8の画素と称し、それらの画素信号をE(1)〜E(8)で表す。また、色フィルタが配置されていない画素を第9の画素と称し、その画素信号をE(0)で表す。
以下の説明において、各色フィルタの特性および色フィルタを配置していない画素の分光特性に関して、図1で記した記号をそのまま用いる。波長帯域380nm〜760nmにおいて、下限波長380nmからのシフト波長Xと被写体の反射分光特性を示す関数F(X)を用いて、画素信号E(0)、E(1)〜E(8)を表すと、以下の式9、式10で表される。
Figure 0006692749
Figure 0006692749
但し、AC(i,X)の入力変数について、iは色フィルタ1a〜1hの順に付番した数値(1〜8)で、Xは上記の波長である。すなわち、AC(1,X)〜AC(8,X)は、順に図4(a)〜図4(d)、図5(a)〜図5(d)の実線で示される特性の関数である。
式9及び式10から式11が得られる。
Figure 0006692749
AC(i,X)は、図4及び図5に示されているように、余弦関数で近似できるとして、式11は式12で表すことができる。
Figure 0006692749
Z'=dZ/dXとすると、式12は式13で表される。
Figure 0006692749
F(Z)/Z'のフーリエ係数について、a(0)は(2/W)∫(F(Z)/Z')dZであるが、それは(2/W)∫F(X)dXと同じである。このため、a(0)は、式9を用いて式14で表される。一方、i≧1のa(i)は、式2をもとに式13を用いて式15で表される。
Figure 0006692749
Figure 0006692749
式14、式15で得られるフーリエ係数から、F(Z)/Z'は式16に示すフーリエ級数で近似的に展開できる。その結果にZ'の値を乗算すれば、F(Z(X))すなわちF(X)が求まる。
Figure 0006692749
以上のように、撮像素子の画素信号を用いてフーリエ係数を算出し、それらを用いて、式1のフーリエ級数展開とZ'の乗算により被写体の反射分光特性を近似的に算出できる。
次に本実施形態におけるマルチスペクトルカメラの構成とカメラ内の信号処理について説明する。図6は本実施形態におけるマルチスペクトルカメラの構成図である。このマルチスペクトルカメラは、結像レンズ11と、広帯域光学フィルタ12と、撮像素子13と、信号発生/受信部14と、画像処理部15と、画像メモリー16と、信号出力部17とを備えている。結像レンズ11は、図6では単一のレンズとして描かれているが、複数のレンズの組み合わせであってもよい。広帯域光学フィルタ12は、本実施形態では波長帯域380nm〜760nmの光のみ透過させるように設計されている。撮像素子13は本実施形態ではCMOS型の撮像素子であるが、CCDなどの他の種類のイメージセンサでもよい。信号発生/受信部14は、撮像素子13からの画像信号を受信すると共に撮像素子13を駆動するための信号を撮像素子13に送る。信号発生/受信部14は、例えばCMOSドライバなどのLSIから構成され得る。画像処理部15は信号発生/受信部14からの画像信号を画像メモリー16に送信すると共に画像メモリー16からの画像信号を読み出して処理する。画像処理部15は、例えば公知のデジタル信号処理プロセッサ(DSP)などの信号処理回路と、本実施形態における画像処理を実行するソフトウェアとの組合せによって実現され得る。あるいは、画像処理部15は、専用のハードウェアから構成されていてもよい。本実施形態における信号処理は、画像処理部15における信号処理回路によって実行される。画像メモリー16は、例えばDRAMやSRAMなどの公知の半導体メモリーによって構成され得る。信号出力部17は画像処理部15からの信号を外部に出力する。
被写体からの光のうち、結像レンズ11と広帯域光学フィルタ12により、波長帯域380nm〜760nmの光のみが透過し、撮像素子の撮像部(撮像面)に結像される。図7は被写体からの光が結像レンズ11、広帯域光学フィルタ12を透過して撮像素子13の撮像部(撮像面)13aに結像される様子を模式的に示した図である。結像された画像は撮像素子13で光電変換され電気信号になり、信号発生/受信部14、画像処理部15を介して画像メモリー16に記録される。
画像処理部15は画像メモリー16に記録された画像情報を画素の基本単位ごとに読み出し、信号処理を行う。一例として、以下にX−Rite社製のマクベスカラーチェッカーNo13〜No18の色見本を撮像した場合の被写体の分光特性を算出する撮像及び信号処理シミュレーションを説明する。なお、上記色見本はNo13〜No18の順に青(B)、緑(G)、赤(R)、黄(Ye)、マゼンタ(Mg)、シアン(Cy)である。それらの反射分光特性を図8に示す。同図(a)はNo13〜No15の反射分光特性を示し、番号順に実線、破線、一点鎖線で表している。同図(b)はNo16〜No18の反射分光特性を示し、番号順に実線、破線、一点鎖線で表している。
撮像条件は以下のとおりである。光源は色温度5100Kのハロゲン灯を用いた。色フィルタを除く、光源、レンズを含む光学系と撮像素子の分光感度を合わせた分光特性を図9に示す。この特性を撮像光学分光特性と呼び、O(X)で表す。但し、Xは380nmからのシフト波長である。本実施形態では波長帯域380nm〜760nmの範囲を対象にしていることから、Xの取り得る値は0〜380nmである。また色フィルタを含む撮像素子に関する係数について、図3をもとにKa=0.79、PP=0.347とし、Kdは0.96とした。
以下に、図10を参照しながら、シミュレーションの流れを説明する。但し、事前処理として式7及び式8を波長λで微分し、λ=380+XとしてZ’(=dZ/dX)を算出しておく。
まず第1ステップとして、No13〜No18の各色見本を撮像したとして、それらの分光特性と、撮像光学分光特性O(X)と、各色フィルタの分光透過特性との離散的な積分演算を行い、各色見本に関して相対的な信号値E(0)〜E(8)を算出する(S1)。実際の計算では10nm毎の数値データを用いて離散的な積分を行い、1つの色見本につき9個の信号値を算出する。従って、総計6×9=54個の信号値を算出する。
次に第2のステップとして、算出した信号値E(0)〜E(8)に補正係数Kgを掛ける(S2)。これは図4、図5からわかるように各色フィルタの透過率と波長の関係において、波長λを変数Zに変数変換した場合の波形(図中の破線)が理想とする余弦関数の波形(図中の1点鎖線)より低いことに起因する誤差を補正するために行われる。波長λを変数Zに変数変換した場合の波形(図中の破線)が理想とする余弦関数の波形(図中の1点鎖線)より低いため、信号値E(0)〜E(8)は理想とする信号値より小さいと考えられる。そこで信号を若干増幅すべく補正係数Kgを各信号に掛ける。本実施形態ではその補正係数Kgを1.025とした。
第3のステップとして、補正係数Kgを掛けた結果を新たに信号値E(0)〜E(8)とし、式14、式15を用いて各色見本のフーリエ係数a(0)〜a(8)を算出する(S3)。図11(a)に補正係数Kgを掛けた後の信号値E(0)〜E(8)を示し、図11(b)に算出したフーリエ係数a(0)〜a(8)を示す。但し、これらの数値は計算上の相対値である。
第4ステップとして、算出したフーリエ係数a(0)〜a(8)を用いて、F(Z)/Z’をフーリエ級数に展開する(S4)。第5ステップとして、展開されたフーリエ級数にZ’を掛けて、F(Z(X))すなわちF(X)を算出する(S5)。算出されたF(X)は撮像画像のスペクトルであるが、これには上記で説明した撮像光学分光特性を含んでいる。そこで、第6ステップでF(X)をさらにO(X)で除算し、被写体の分光特性を算出する(S6)。
算出した被写体の分光特性を図12(a)に示し、被写体であるカラーチェッカの実際の分光特性を図12(b)に示す。図12(a)および(b)の中で、太い実線は青(算出結果:Cal_No13、実際の特性:No13)、太い破線は緑(算出結果:Cal_No14、実際の特性:No14)、太い一点鎖線は赤(算出結果:Cal_No15、実際の特性:No15)、細い実線は黄(算出結果:Cal_No16、実際の特性:No16)、細い破線はマゼンタ(算出結果:Cal_No17、実際の特性:No17)、細い一点鎖線はシアン(算出結果:Cal_No18、実際の特性:No18)のカラーチェッカの分光特性を表している。図12において波長範囲は400nm〜700nmであるが、算出した被写体の分光特性はカラーチェッカの分光特性と概ね同じであることがわかる。
最後に、算出した被写体の分光特性から、予め指定された波長における分光特性値を取り出し、それらのデータを画素信号とした特定波長画像と、画素の基本単位毎に画素信号の平均値を算出し、それらを画素信号とした白黒画像とを、信号出力部17から外部に出力する(S7)。このようにして、画像処理部15から信号出力部17を介して特定波長画像と白黒画像が出力される。指定波長を変えることにより、設定された計測波長帯域内の全ての画像を得ることができる。また、出力される白黒画像については、撮像素子13の画素には分光透過率のピークを複数有する色フィルタが多数配置されているため、分光透過率のピークを1つしか有していない従来のRGBフィルタを用いた場合よりも光利用率が高く、それ故、画像の明度が高い。
以上のように、本実施形態のマルチスペクトルカメラでは、N=8として、所定の波長帯域において透過率のピークあるいはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数を合わせた総ピーク数が異なる第1〜第8の光学フィルタが用いられる。前記第1〜第8のフィルタは、前記所定の波長帯域における波長λと各々の透過率Yとの関係において、前記波長λと関係付けられた変数Zの変化に対して前記透過率Yが周期的に変化する。さらに、前記第1〜第8のフィルタ夫々が対応(対向)して配置された第1の光感知セル〜第8の光感知セルと、前記第1〜第8の光学フィルタのいずれも配置されていない無フィルタ光感知セルとを画素単位とする撮像素子が用いられる。前記無フィルタ光感知セル及び前記第1の光感知セル〜第8の光感知セルからの9個の光電変換信号E(0)〜E(8)と、独立変数を前記変数Zとする8種類の周期関数AC(1,X)〜AC(8,X)と、前記波長λの微小変化(シフト波長Xの微小変化と等価)に対する前記変数Zの変化値(Z’=dZ/dX)とを用いて、撮像画像の分光特性(すなわち、波長ごとの強度分布)を算出できる。さらに、算出した分光特性を撮像光学系の分光特性で除算することにより、被写体の反射分光特性を算出できる。また、透過率のピークを複数有する光学フィルタが用いられるため、カメラから得られる撮像画像の明度が高いという長所を有する。
本実施形態では、特に、第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは総ピーク数がi+1である。そして、演算に用いられるN種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)である。なお、前述の説明では、余弦関数cos(iπZ/W)という表現を用いたが、Zは波長λと関係づけられた変数であればよいため、前述のπZ/Wを改めてZと表すことができる。このように書き替えると、前述の余弦関数はcos(iZ)と表される。
画像処理部15における信号処理回路は、無フィルタ光感知セルの光電変換信号をE(0)、前記第iの光感知セルの光電変換信号をE(i)として、E(0)に第1の定数k1(前述の例では、2/WKd)を乗算した結果a(0)と、E(i)に第2の定数k2(前述の例では2)を乗算した結果からE(0)に第3の定数を乗算した結果(前述の例では、2(Ka/Kd))を減算し、さらに第4の定数(PP)で除算した結果a(i)に前記余弦関数cos(iZ)を乗算したa(i)cos(iZ)と、を用いて、a(0)とa(1)cos(Z)〜a(N)cos(NZ)の全てとを加算した結果に、前記波長λの微小変化に対する前記変数Zの変化値を乗算することにより、被写体の反射分光特性を算出する。
信号処理回路は、図10のステップS2に示すように、前記第1から第Nの光感知セルからの光電変換信号に第5の定数(Kg)を乗算することによって、信号値を補正してもよい。
なお、本実施形態では画素の基本単位を3×3の9画素としたが、これに限定されるものではない。例えば、U×V(U、Vは、互いに異なる自然数)の整数画素を基本単位にしても問題ない。さらに、被写体の分光特性の波形(交流成分)だけを計測するのであれば、画素の基本単位に、分光特性の直流成分の算出に関係する、色フィルタが配置されない画素(無フィルタ光感知セル)を含まなくても良い。その場合、画素単位に含まれる光感知セルの数と、それらに対向する光学フィルタの数とは、一致する。また、上記無フィルタ光感知セルの代わりに、第1〜第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが対向して配置された透過率平均化光感知セルを含んでいても良い。高屈折率材料では、波長によって屈折率が大きく変化する。そのような材料では、ピークとアンダーピークの平均の透過率が長波長側で高くなる。その影響を除去するため、全ピークおよび全アンダーピークの平均の透過率を有するフィルタを設けてもよい。また、色フィルタについても単層膜に限らず、複数層の膜で構成してもよい。透過率において総ピーク数が異なる光学フィルタ群を有し、全ての光学フィルタが波長λと各々の透過率Yの関係において、波長λと関係付けた変数Zの変化に対して透過率Yが周期的に変化すれば、色フィルタの構成は任意である。加えて、変数Zと波長λの関係に関して、本実施形態では式7と式8で近似表現したが、これに限定するものではなく、スプライン関数等を用いた別な近似式を用いても問題はない。また、撮像素子の構造に関して、本実施形態では各画素にマイクロレンズを配置していないが、撮像素子の感度向上のためにマイクロレンズを配置してもよい。また、カメラ内の信号処理に関して、画素の基本単位毎に信号を処理したが、隣接する基本単位の画素信号も使い、偽色の防止を図っても構わない。このように、信号処理回路は、画素単位ごとに信号処理を行うとともに、隣接する画素単位からの光電変換信号を利用して補間情報を生成してもよい。さらに、本実施形態では、計測波長帯域を380nm〜760nmに設計したが、これに限るものではなく、さらに範囲の広い波長帯域であっても構わない。また上記説明では、暗黙に色フィルタ自体着色がなく、屈折率も波長に関係なく一定としたが、実際は微妙に着色し、屈折率が波長により若干変化することが原因で短波長側においてピークとアンダーピークの差が変化する、あるいは平均的な透過率が下がる等の問題がある。そこで上記処理の第6ステップ(S6)の後で、それらの問題に対応する補正係数を用いて、被写体の反射分光特性をさらに補正してもよい。そのような補正係数は、短波長の領域における光の透過率の減衰による影響と、透過率の振幅が波長によって異なることによる影響とを打ち消すように設定される。
(実施形態2)
次に本発明の第2の実施形態を説明する。本実施形態は、上記第1の実施形態と撮像素子やカメラの構成は同じであるが、画像処理部にカラー画像を作成するための3種類の色フィルタの分光特性データを有している。それら色フィルタの分光特性を図13に示す。同図において、点線がR(赤)フィルタの分光特性、破線がG(緑)フィルタの分光特性、1点鎖線がB(青)フィルタの分光特性である。
本実施形態では、被写体の分光特性を算出する処理までは第1の実施形態と同じで、その後、被写体の分光特性に上記色フィルタの分光特性を掛け合わせ、R信号、G信号、B信号を算出する処理を有する。該処理の後、算出されたRGB信号からカラー画像を作り出し、信号出力部から外部に出力する。通常、カラー画像を出力するカラーカメラでは、赤外カットフィルタが必要であるが、本実施形態では、赤外カットフィルタを必要としないという特長がある。また、色フィルタについても、通常、透過率が負の値を取ることはできないが、本実施形態では、色フィルタの透過率において部分的に負の特性を有しており、その結果、視感度上好ましいカラー画像を作ることができる。但し、RGB信号として算出した結果、負信号になれば、強制的に信号値を0にする処理を入れる。
以上のように、本実施形態のマルチスペクトルカメラでは、内部に3種類の色フィルタの分光特性データを有し、算出した被写体の分光特性にそれらを掛け合わせることにより、カラー信号を作ることができる。すなわち、本実施形態における信号処理回路は、複数の色フィルタの分光特性を示すデータを用いて、算出した撮像画像の分光特性を示す関数と色フィルタの分光特性を示す関数とを積分演算することにより、カラー信号を算出する。赤外カットフィルタを用いることなくカラー画像を生成できるという利点がある。また、負の分光特性を有する色フィルタも計算上利用可能である。このため、これまでにない色再現の範囲が広いカラー画像を提供できるという効果も有する。
なお、本実施形態では、3種類の色フィルタの分光特性データをカメラ内部に保持したが、これに限るものではなく、4種類以上の色フィルタの分光特性データを保持しても構わない。各色フィルタの分光特性データは、カメラ内のメモリ等の記録媒体に格納され、信号処理回路がそのデータを読み出して上記処理が行われ得る。
(実施形態3)
続いて、第3の実施形態を説明する。本実施形態におけるマルチスペクトルカメラは、撮像素子における撮像面が複数の撮像領域に分かれており、それらの撮像領域に対向して複数の光学系(例えばレンズ)が配置されている点で、実施形態1、2と異なる。各撮像領域は、多数の光感知セル(光感知セル群と称する。)を含む。撮像領域の数をN+1個とすると、そのうちのN個の撮像領域と、それらに対向するN個の光学系との間に、N個の光学フィルタがそれぞれ配置されている。それらのN個の光学フィルタは、実施形態1、2において説明したN個の光学フィルタ(色フィルタ)と同様の特性を有する。
本実施形態におけるマルチスペクトルカメラは、1つの被写体を複数の光学系を用いて撮影する。各々の光学系を介してほぼ同一の撮影画像が得られることを前提として、N+1個の光学系が配列された複眼光学系と、N+1の光感知セル群(上記の撮像領域)を含む撮像素子と、少なくともN個の光学フィルタとが用いられる。それら光学フィルタは、複眼光学系に含まれる複数の光学系にそれぞれ対応して配置される。各光学フィルタは、実施形態1における光学フィルタと同様、所定の波長帯域(例えば、380nm〜760nm)において透過率のピークあるいはアンダーピークを1つ以上有する。第1〜第Nの光学フィルタ(色フィルタ)は、前記ピークの数と前記アンダーピークの数を合わせた総ピーク数が異なっている。すなわち、被写体を撮像した場合、N種類の色フィルタを介して撮像されたN個の画像と色フィルタを介さず撮影された1つの画像とが得られる。色フィルタによる減衰を考慮しなければ、それらは全て同一の画像であるものとする。但し、N種類の色フィルタの透過率は、波長が短くなるにつれて全体的に減衰する場合がある。そのような場合は、当該減衰特性と同様の減衰特性を有する光学フィルタ(以下、平均化フィルタと呼ぶ)を色フィルタが配置されていない光学系に対向して配置してもよい。その場合、平均化フィルタを介した画像も得られる。平均化フィルタは、第1〜第Nの色フィルタにおけるピークとアンダーピークの中間の透過率を有するといえる。平均化フィルタを透過した光を受ける光感知セル群を、「透過率平均化光感知セル群」と称する。一方、平均化フィルタが配置されない場合、いずれのフィルタも介さずに入射する光を受ける光感知セル群を、「無フィルタ光感知セル群」と称する。
以下の説明において、第Nの画素という表現は第Nの画素群の総称である一方、画像内の同一位置の画素を指す場合もある。この場合、第1から第Nの画素は、それぞれの画像内の同一位置の画素である。ここで、画像内の同一位置の画素は、第1から第Nの画素と、色フィルタを配置していない画素群における同一位置の画素とを表す。
以下、本実施形態の詳細を説明する。
まず本実施形態におけるマルチスペクトルカメラの撮像素子について説明する。本実施形態では9つの光学系から成る複眼光学系を有する2次元の撮像素子が用いられる。図14は、撮像素子13の構造を示している。図14(a)は複眼光学系を含む撮像素子13の平面図である。本実施形態の撮像素子は水平方向に3つ、垂直方向に3つの合計9つの結像レンズ20を有している。その内の8つの結像レンズ20の直下には色フィルタが配置されている。図14(a)におけるA−A’線断面を図14(b)に、B−B’線断面を図2(c)に、C−C’線断面を図14(d)に示す。図14に示すように、撮像素子13は、色フィルタ1a、1b、1c、1d、1e、1f、1g、1hと、光感知セル群2a、2b、2c、2d、2e、2f、2g、2h、2zとを有する。撮像素子13の表面には複数の光感知セル群2a〜2zが2次元状に配列されている。なお、同図から分かるように光感知セル群2z上には色フィルタが無い。光感知セル群2zは結像レンズによる画像を直接光電変換する。
撮像素子13への結像は、色フィルタ1a〜1hを通して、あるいは直接光感知セルで光電変換される。図14では省略されているが、光電変換信号は、配線層を通して撮像素子から電気信号として読み出される。なお、被写体は撮像素子13から十分離れており、9つの結像レンズ20による光感知セル群2a〜2zにおける画像は、光学フィルタ1a〜1hの透過特性の違いを無視すれば、ほぼ同一である。さらに光感知セル群2a〜2zは同じ画素数で同じサイズを有する。すなわち、それらの光感知セル群から読み出された画像もほぼ同一である。もし複眼光学系の個々の光学系に光学的な歪みがある場合は、それに起因する画像の歪を補正する処理を画像処理部(信号処理回路)が行ってもよい。本実施形態における色フィルタ1a〜1hは、実施形態1、2における色フィルタ1a〜1hとサイズは異なるが同じ特性を有する。
次に撮像素子13の画素信号について説明する。ここでは、光感知セル群2a〜2hの順にそれら光感知セル群における同一場所の画素を第1〜第8の画素と称し、それらの画素信号をE(1)〜E(8)で表す。また、光感知セル群2zにおける上記同一場所の画素を第9の画素と称し、その画素信号をE(0)で表す。すると、実施形態1において説明した式9〜式15の処理がそのまま適用でき、被写体の反射分光特性を近似的に算出できる。
次に、本実施形態におけるマルチスペクトルカメラの構成とカメラ内の信号処理について説明する。図15は、本実施形態におけるマルチスペクトルカメラの構成図である。本実施形態のマルチスペクトルカメラは、撮像素子13に対向して9個の光学フィルタ1および9個の結像レンズ20が配置されている点を除き、実施形態1、2と同様の構成を有する。このため、重複する構成要素の説明は省略する。
被写体からの光のうち、広帯域光学フィルタ12により、波長帯域380nm〜760nmの光のみが透過し、9つの結像レンズ20により撮像素子13の撮像部(撮像面)に結像される。図16は被写体からの光が広帯域光学フィルタ12、9つの結像レンズ20を透過して撮像素子13の撮像部13aに結像される様子を模式的に示した図である。なお、撮像部は9つの結像レンズ20に対応して、仮想的に9つの撮像領域(2a〜2hと2z)に分割される。結像された画像は撮像素子13で光電変換され電気信号になり、信号発生/受信部14、画像処理部15を介して画像メモリー16に記録される。
画像処理部15は画像メモリー16に記録された画像情報を画素の仮想的な9つの撮像領域毎に読み出し、信号処理を行う。この信号処理は、実施形態1において説明した処理と同じである。また、実施形態2において説明した処理を適用してもよい。
以上のように、本実施形態のマルチスペクトルカメラでは、9つの光学系から成る複眼光学系と、所定の波長帯域において透過率のピークあるいはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数を合わせた総ピーク数が異なる第1〜第8の光学フィルタとが用いられる。前記第1〜第8のフィルタは、前記所定の波長帯域における波長λと各々の透過率Yの関係において、前記波長λと関係付けた変数Zの単調増加に対して前記透過率Yが周期的に変化する。さらに、前記第1〜第8のフィルタ夫々が対応して配置された第1の光感知セル群〜第8の光感知セル群と、前記第1〜第8の光学フィルタのいずれも配置されていない無フィルタ光感知セル群とを有する撮像素子が用いられる。前記無フィルタ光感知セル及び前記第1の光感知セル〜第8の光感知セルからの9個の光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出できる。さらに、算出した分光特性を撮像光学系の分光特性で除算することにより、被写体の反射分光特性を算出できる。また、透過率のピークを複数有する光学フィルタが用いられるため、カメラから得られる撮像画像としても明度が高いという長所を有する。
なお、本実施形態では3×3の9つのレンズを用いた複眼光学系と8つの色フィルタとを用いたが、これに限定されるものではない。例えば、図17に示すように、通常の単眼白黒カメラ21の前面に、色フィルタが無い凹レンズと色フィルタ1a〜1hが各々装着された8つの凹レンズとを含む凹レンズアレイ22を配置した構成でも良い。凹レンズアレイ22は、偏心のある凹レンズを含んでいてもよい。但し、そのような構成において、画像の複数個所で凹レンズによる歪みが有る場合や画像位置がずれる場合、それらの画像補正を行う必要がある。このような構成では、図17に示すように、凹レンズアレイ22と撮像素子13との間に比較的大型の結像レンズ23が配置され得る。このような結像レンズ23は、各凹レンズによって広がった光を、その凹レンズに対応する撮像素子上の画素領域に集束させる。なお、凹レンズに偏心を持たせるのは、光学的に結像の位置をずらすことにより、その凹レンズに対応する撮像領域内に適切に像を形成するためである。その他の例として、通常の単眼白黒カメラの前面に、色フィルタが無い凸レンズと色フィルタ1a〜1hが各々装着された8つの凸レンズとを含む9つの凸レンズアレイを配置した構成でも良い。但し、その場合、画像の複数個所で凸レンズによる歪みが有る場合や画像位置がずれる場合、それらの画像補正を行う必要がある。この場合も、凸レンズに偏心を持たせるのは、光学的に結像の位置をずらすことにより、その凸レンズに対応する撮像領域内に適切に像を形成するためである。
以上のように、本開示は、以下の項目に記載のマルチスペクトルカメラを含む。
[項目1]
複数の画素単位が撮像面に2次元的に配列された撮像素子であって、各画素単位は第1から第N(Nは2以上の整数)の光感知セルを含み、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、
前記第1から第Nの光感知セルにそれぞれ対向して配置された第1から第Nの光学フィルタであって、各々が所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、
前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、
を備え、
前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化し、
前記信号処理回路は、前記第1から第Nの光感知セルからのN個の光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する、
マルチスペクトルカメラ。
[項目2]
前記画素単位は、前記第1から第Nの光感知セルと、前記第1から第Nの光学フィルタのいずれにも対応して配置されていない無フィルタ光感知セルまたは前記第1から第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが配置された透過率平均化光感知セルとを含み、
前記信号処理回路は、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルからの光電変換信号をさらに用いて、前記分光特性を算出する、項目1に記載のマルチスペクトルカメラ。
[項目3]
所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N個の光電変換信号を用いて算出された撮像画像の分光特性を、前記第1から第Nの光学フィルタを除く撮像光学系の分光特性で除算することにより、前記撮像光学系の影響を除いた撮像画像の分光特性を算出する、項目1または2に記載のマルチスペクトルカメラ。
[項目4]
前記第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは前記総ピーク数がi+1であって、前記N種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)である、項目1から3のいずれかに記載のマルチスペクトルカメラ。
[項目5]
前記信号処理回路は、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルの光電変換信号をE(0)、前記第iの光感知セルの光電変換信号をE(i)として、
E(0)に第1の定数k1を乗算した結果a(0)と、E(i)に第2の定数k2を乗算した結果からE(0)に第3の定数を乗算した結果を減算し、さらに第4の定数を除算した結果a(i)に前記余弦関数cos(iZ)を乗算したa(i)cos(iZ)と、を用いて、
a(0)とa(1)cos(Z)〜a(N)cos(NZ)の全てとを加算した結果に前記波長λの微小変化に対する前記変数Zの変化値を乗算することにより、前記撮像画像の前記分光特性を算出する、項目2に記載のマルチスペクトルカメラ。
[項目6]
前記信号処理回路は、前記第1から第Nの光感知セルからの光電変換信号に第5の定数を乗算することにより、前記第1から第Nの光感知セルからの光電変換信号を補正する、項目5に記載のマルチスペクトルカメラ。
[項目7]
各画素単位において、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルを中心に、その周辺に前記第1から第Nの光感知セルが配置されている、項目2、5、または6のいずれかに記載のマルチスペクトルカメラ。
[項目8]
前記信号処理回路は、前記画素単位ごとに信号処理を行うと共に、隣接する画素単位からの光電変換信号を利用して補間情報も生成する、項目7に記載のマルチスペクトルカメラ。
[項目9]
前記撮像素子は、前記画素単位ごとに配置された複数のマイクロレンズを有する、項目7または8に記載のマルチスペクトルカメラ。
[項目10]
前記信号処理回路は、複数の色フィルタの分光特性を示すデータを用いて、算出した前記撮像画像の前記分光特性を示す関数と前記色フィルタの分光特性を示す関数とを積分演算することにより、カラー信号を算出する、項目1から9のいずれかに記載のマルチスペクトルカメラ。
[項目11]
N+1個(Nは2以上の整数)の光学系を含む複眼光学系と、
所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、
前記第1から第Nの光学フィルタにそれぞれ対向する第1から第Nの光感知セル群を有し、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、
前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、
を備え、
前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化し、
前記第1から第Nの光学フィルタは、前記複眼光学系における前記N+1個の光学系のうちのN個の光学系にそれぞれ対向して配置され、
前記撮像素子は、さらに前記第1から第Nの光学フィルタのいずれもが対向して配置されていない無フィルタ光感知セル群、または前記第1から第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが対向して配置された透過率平均化光感知セル群を有し、
前記信号処理回路は、前記第1から第Nの光感知セル群からのN種類の光電変換信号と、前記無フィルタ光感知セル群からの光電変換信号または前記透過率平均化光感知セル群からの光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する、
マルチスペクトルカメラ。
[項目12]
所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N種類の光電変換信号を用いて算出された撮像画像の分光特性に対して、前記第1から第Nの光学フィルタの透過率のピークまたはアンダーピークが波長変化に対して減衰または増加する場合、前記減衰または増加を補正した撮像画像の分光特性を算出する、項目11に記載のマルチスペクトルカメラ。
[項目13]
所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N種類の光電変換信号を用いて算出された撮像画像の分光特性を、前記第1から第Nの光学フィルタを除く撮像光学系の分光特性で除算することにより、前記撮像光学系の影響を除いた撮像画像の分光特性を算出する、項目11または12に記載のマルチスペクトルカメラ。
[項目14]
前記第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは前記総ピーク数がi+1であって、前記N種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)である、項目1から3のいずれかに記載のマルチスペクトルカメラ。
[項目15]
前記信号処理回路は、前記無フィルタ光感知セルの光電変換信号をE(0)、前記第iの光感知セルの光電変換信号をE(i)として、
E(0)に第1の定数k1を乗算した結果a(0)と、E(i)に第2の定数k2を乗算した結果からE(0)に第3の定数を乗算した結果を減算し、さらに第4の定数を除算した結果a(i)に前記余弦関数cos(iZ)を乗算したa(i)cos(iZ)と、を用いて、
a(0)とa(1)cos(Z)〜a(N)cos(NZ)の全てとを加算した結果に前記波長λの微小変化に対する前記変数Zの変化値を乗算することにより、前記撮像画像の前記分光特性を算出する、項目11または12に記載のマルチスペクトルカメラ。
[項目16]
前記信号処理回路は、前記第1から第Nの光感知セルからの光電変換信号に第5の定数を乗算することにより、前記第1から第Nの光感知セルからの光電変換信号を補正する、項目15に記載のマルチスペクトルカメラ。
[項目17]
前記信号処理回路は、前記複眼光学系における各光学系によって形成される画像の歪みを補正した上で、前記撮像画像の分光特性を算出する、項目11から16のいずれかに記載のマルチスペクトルカメラ。
[項目18]
前記複眼光学系は、複数の凸レンズを含む、項目11から17のいずれかに記載のマルチスペクトルカメラ。
[項目19]
前記複数の凸レンズは、偏心のある凸レンズを含む、項目18に記載のマルチスペクトルカメラ。
[項目20]
前記複眼光学系は、複数の凹レンズと、1つの凸レンズとを含む、項目11から17のいずれかに記載のマルチスペクトルカメラ。
[項目21]
前記複数の凹レンズは、偏心のある凹レンズを含む、項目20に記載のマルチスペクトルカメラ。
[項目22]
前記信号処理回路は、複数の色フィルタの分光特性を示すデータを用いて、算出した前記撮像画像の前記分光特性を示す関数と前記色フィルタの分光特性を示す関数とを積分演算することにより、カラー信号を算出する、項目11から21のいずれかに記載のマルチスペクトルカメラ。
本発明のマルチスペクトルカメラは、主に固体撮像素子を用いた固体カメラの全てに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラ等の民生用カメラや産業用の監視カメラ等に利用可能である。
1a、1b、1c、1d、1e、1f、1g、1h 色フィルタ
2a、2b、2c、2d、2e、2f、2g、2h、2z 光感知セル
3 シリコン基板
11 結像レンズ
12 広帯域光学フィルタ
13 撮像素子
13a 撮像部(撮像面)
14 信号発生/受信部
15 画像処理部
16 画像メモリー
17 信号出力部
20 (複眼)結像レンズ
21 単眼白黒カメラ
22 凹レンズアレイ
23 結像レンズ
31 シリコン酸化膜

Claims (22)

  1. 複数の画素単位が撮像面に2次元的に配列された撮像素子であって、各画素単位は第1から第N(Nは2以上の整数)の光感知セルを含み、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、
    前記第1から第Nの光感知セルにそれぞれ対向して配置された第1から第Nの光学フィルタであって、各々が所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、
    前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、
    を備え、
    前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化し、
    前記信号処理回路は、前記第1から第Nの光感知セルからのN個の光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する、
    マルチスペクトルカメラ。
  2. 前記画素単位は、前記第1から第Nの光感知セルと、前記第1から第Nの光学フィルタのいずれにも対応して配置されていない無フィルタ光感知セルまたは前記第1から第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが配置された透過率平均化光感知セルとを含み、
    前記信号処理回路は、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルからの光電変換信号をさらに用いて、前記分光特性を算出する、請求項1に記載のマルチスペクトルカメラ。
  3. 所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
    前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N個の光電変換信号を用いて算出された撮像画像の分光特性を、前記第1から第Nの光学フィルタを除く撮像光学系の分光特性で除算することにより、前記撮像光学系の影響を除いた撮像画像の分光特性を算出する、請求項1または2に記載のマルチスペクトルカメラ。
  4. 前記第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは前記総ピーク数がi+1であって、前記N種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)である、請求項1から3のいずれかに記載のマルチスペクトルカメラ。
  5. 前記第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは前記総ピーク数がi+1であって、前記N種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)であり、
    前記信号処理回路は、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルの光電変換信号をE(0)、第i(iは1以上でN以下の整数)の光感知セルの光電変換信号をE(i)として、
    E(0)に第1の定数k1を乗算した結果a(0)と、E(i)に第2の定数k2を乗算した結果からE(0)に第3の定数を乗算した結果を減算し、さらに第4の定数を除算した結果a(i)に前記余弦関数cos(iZ)を乗算したa(i)cos(iZ)と、を用いて、
    a(0)とa(1)cos(Z)〜a(N)cos(NZ)の全てとを加算した結果に前記波長λの微小変化に対する前記変数Zの変化値を乗算することにより、前記撮像画像の前記分光特性を算出する、請求項に記載のマルチスペクトルカメラ。
  6. 前記信号処理回路は、前記第1から第Nの光感知セルからの光電変換信号に第5の定数を乗算することにより、前記第1から第Nの光感知セルからの光電変換信号を補正する、請求項5に記載のマルチスペクトルカメラ。
  7. 各画素単位において、前記無フィルタ光感知セルまたは前記透過率平均化光感知セルを中心に、その周辺に前記第1から第Nの光感知セルが配置されている、請求項2、5、または6のいずれかに記載のマルチスペクトルカメラ。
  8. 前記信号処理回路は、前記画素単位ごとに信号処理を行うと共に、隣接する画素単位からの光電変換信号を利用して補間情報も生成する、請求項7に記載のマルチスペクトルカメラ。
  9. 前記撮像素子は、前記画素単位ごとに配置された複数のマイクロレンズを有する、請求項7または8に記載のマルチスペクトルカメラ。
  10. 前記信号処理回路は、複数の色フィルタの分光特性を示すデータを用いて、算出した前記撮像画像の前記分光特性を示す関数と前記色フィルタの分光特性を示す関数とを積分演算することにより、カラー信号を算出する、請求項1から9のいずれかに記載のマルチスペクトルカメラ。
  11. N+1個(Nは2以上の整数)の光学系を含む複眼光学系と、
    所定の波長帯域において透過率のピークまたはアンダーピークを1つ以上有し、且つ前記ピークの数と前記アンダーピークの数とを合わせた総ピーク数が異なる第1から第Nの光学フィルタと、
    前記第1から第Nの光学フィルタにそれぞれ対向する第1から第Nの光感知セル群を有し、各光感知セルは受光量に応じた光電変換信号を出力する、撮像素子と、
    前記第1から第Nの光感知セルから出力された光電変換信号を処理する信号処理回路と、
    を備え、
    前記第1から第Nの光学フィルタの各々の透過率Yは、前記所定の波長帯域における波長λと関係付けられた変数Zの変化に対して周期的に変化し、
    前記第1から第Nの光学フィルタは、前記複眼光学系における前記N+1個の光学系のうちのN個の光学系にそれぞれ対向して配置され、
    前記撮像素子は、さらに前記第1から第Nの光学フィルタのいずれもが対向して配置されていない無フィルタ光感知セル群、または前記第1から第Nの光学フィルタにおけるピークとアンダーピークの中間の透過率を有する光学フィルタが対向して配置された透過率平均化光感知セル群を有し、
    前記信号処理回路は、前記第1から第Nの光感知セル群からのN種類の光電変換信号と、前記無フィルタ光感知セル群からの光電変換信号または前記透過率平均化光感知セル群からの光電変換信号と、独立変数を前記変数ZとするN種類の周期関数と、前記波長λの微小変化に対する前記変数Zの変化値とを用いて、撮像画像の分光特性を算出する、
    マルチスペクトルカメラ。
  12. 所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
    前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N種類の光電変換信号を用いて算出された撮像画像の分光特性に対して、前記第1から第Nの光学フィルタの透過率のピークまたはアンダーピークが波長変化に対して減衰または増加する場合、前記減衰または増加を補正した撮像画像の分光特性を算出する、請求項11に記載のマルチスペクトルカメラ。
  13. 所定の波長帯域の光のみ透過させる帯域透過フィルタをさらに備え、
    前記信号処理回路は、前記帯域透過フィルタを介した撮像によって取得された前記N種類の光電変換信号を用いて算出された撮像画像の分光特性を、前記第1から第Nの光学フィルタを除く撮像光学系の分光特性で除算することにより、前記撮像光学系の影響を除いた撮像画像の分光特性を算出する、請求項11または12に記載のマルチスペクトルカメラ。
  14. 前記第1から第Nの光学フィルタのうち、第i(iは1以上でN以下の整数)の光学フィルタは前記総ピーク数がi+1であって、前記N種類の周期関数は、所定周波数の1倍からN倍までの整数倍の周波数のいずれかを有するN個の余弦関数cos(iZ)である、請求項11から13のいずれかに記載のマルチスペクトルカメラ。
  15. 前記信号処理回路は、前記無フィルタ光感知セル群の光電変換信号をE(0)、第i(iは1以上でN以下の整数)の光感知セルの光電変換信号をE(i)として、
    E(0)に第1の定数k1を乗算した結果a(0)と、E(i)に第2の定数k2を乗算した結果からE(0)に第3の定数を乗算した結果を減算し、さらに第4の定数を除算した結果a(i)に前記余弦関数cos(iZ)を乗算したa(i)cos(iZ)と、を用いて、
    a(0)とa(1)cos(Z)〜a(N)cos(NZ)の全てとを加算した結果に前記波長λの微小変化に対する前記変数Zの変化値を乗算することにより、前記撮像画像の前記分光特性を算出する、請求項14に記載のマルチスペクトルカメラ。
  16. 前記信号処理回路は、前記第1から第Nの光感知セルからの光電変換信号に第5の定数を乗算することにより、前記第1から第Nの光感知セルからの光電変換信号を補正する、請求項15に記載のマルチスペクトルカメラ。
  17. 前記信号処理回路は、前記複眼光学系における各光学系によって形成される画像の歪みを補正した上で、前記撮像画像の分光特性を算出する、請求項11から16のいずれかに記載のマルチスペクトルカメラ。
  18. 前記複眼光学系は、複数の凸レンズを含む、請求項11から17のいずれかに記載のマルチスペクトルカメラ。
  19. 前記複数の凸レンズは、偏心のある凸レンズを含む、請求項18に記載のマルチスペクトルカメラ。
  20. 前記複眼光学系は、複数の凹レンズと、1つの凸レンズとを含む、請求項11から17のいずれかに記載のマルチスペクトルカメラ。
  21. 前記複数の凹レンズは、偏心のある凹レンズを含む、請求項20に記載のマルチスペクトルカメラ。
  22. 前記信号処理回路は、複数の色フィルタの分光特性を示すデータを用いて、算出した前記撮像画像の前記分光特性を示す関数と前記色フィルタの分光特性を示す関数とを積分演算することにより、カラー信号を算出する、請求項11から21のいずれかに記載のマルチスペクトルカメラ。
JP2016545616A 2014-08-28 2015-08-27 マルチスペクトルカメラ Active JP6692749B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP2014173761 2014-08-28
JP2014173761 2014-08-28
JP2015147859 2015-07-27
JP2015147859 2015-07-27
PCT/JP2015/074256 WO2016031922A1 (ja) 2014-08-28 2015-08-27 マルチスペクトルカメラ

Publications (2)

Publication Number Publication Date
JPWO2016031922A1 JPWO2016031922A1 (ja) 2017-06-15
JP6692749B2 true JP6692749B2 (ja) 2020-05-13

Family

ID=55399806

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016545616A Active JP6692749B2 (ja) 2014-08-28 2015-08-27 マルチスペクトルカメラ

Country Status (2)

Country Link
JP (1) JP6692749B2 (ja)
WO (1) WO2016031922A1 (ja)

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6815628B2 (ja) * 2016-11-25 2021-01-20 株式会社マイクロ・テクニカ マルチスペクトル撮像装置
JP6789792B2 (ja) 2016-12-13 2020-11-25 ソニーセミコンダクタソリューションズ株式会社 撮像素子、電子機器
CN115615548B (zh) * 2022-10-13 2024-05-28 哈尔滨工业大学 一种多角度多光谱立体成像模组及模组设计方法
CN116698189B (zh) * 2023-06-06 2024-03-29 北京理工大学长三角研究院(嘉兴) 一种感算一体仿生复眼传感器及构建方法

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004228662A (ja) * 2003-01-20 2004-08-12 Minolta Co Ltd 撮像装置
CN101345248B (zh) * 2007-07-09 2010-07-14 博立码杰通讯(深圳)有限公司 多光谱感光器件及其制作方法
JP2010122080A (ja) * 2008-11-20 2010-06-03 Hiroaki Kodera 分光画像推定方法および装置
JP2010193380A (ja) * 2009-02-20 2010-09-02 Olympus Corp 撮影装置、色変換処理装置、サーバ情報処理装置、クライアント情報処理装置、およびサーバ情報処理装置における画像データ処理方法、およびクライアント情報処理装置における色変換処理方法
JP2013106217A (ja) * 2011-11-15 2013-05-30 Panasonic Corp 奥行き推定撮像装置

Also Published As

Publication number Publication date
JPWO2016031922A1 (ja) 2017-06-15
WO2016031922A1 (ja) 2016-03-03

Similar Documents

Publication Publication Date Title
JP5904281B2 (ja) 画像処理方法、画像処理装置、撮像装置および画像処理プログラム
JP5398346B2 (ja) 撮像装置及び信号処理装置
JP5106256B2 (ja) 撮像装置
JP4603011B2 (ja) イメージ撮像装置及びその動作方法
JP6131546B2 (ja) 画像処理装置、撮像装置および画像処理プログラム
JP2007074635A (ja) 画像入力装置および固体撮像素子
JP5698875B2 (ja) カラー撮像素子および撮像装置
JP6692749B2 (ja) マルチスペクトルカメラ
JPWO2005117453A1 (ja) 撮像装置
JP5600814B2 (ja) 画像処理装置及び方法並びに撮像装置
JP5927570B2 (ja) 3次元撮像装置、光透過部、画像処理装置、およびプログラム
JP2015226299A (ja) 画像入力装置
JP5702895B2 (ja) カラー撮像素子および撮像装置
JP2011176710A (ja) 撮像装置
JP5600813B2 (ja) 画像処理装置及び撮像装置
JP4825239B2 (ja) カラー撮像装置
JP2010276469A (ja) 画像処理装置及び測距装置の画像処理方法
JP2009278577A5 (ja)
JP7121538B2 (ja) 撮像装置及び撮像方法
WO2015064274A1 (ja) 撮像素子
JP5896603B2 (ja) 撮像装置及び画像処理装置
JP5054659B2 (ja) 撮像装置
JP6815628B2 (ja) マルチスペクトル撮像装置
JP2019062475A (ja) 撮像素子および撮像装置
WO2020059050A1 (ja) 撮像素子、撮像装置、撮像方法およびプログラム

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20180727

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20180727

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180820

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191015

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191029

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191213

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200414

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200415

R150 Certificate of patent or registration of utility model

Ref document number: 6692749

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250