JPWO2011043051A1 - 撮像装置および固体撮像素子 - Google Patents
撮像装置および固体撮像素子 Download PDFInfo
- Publication number
- JPWO2011043051A1 JPWO2011043051A1 JP2011501830A JP2011501830A JPWO2011043051A1 JP WO2011043051 A1 JPWO2011043051 A1 JP WO2011043051A1 JP 2011501830 A JP2011501830 A JP 2011501830A JP 2011501830 A JP2011501830 A JP 2011501830A JP WO2011043051 A1 JPWO2011043051 A1 JP WO2011043051A1
- Authority
- JP
- Japan
- Prior art keywords
- pixel
- light
- pattern
- image
- filter
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims abstract description 181
- 238000002834 transmittance Methods 0.000 claims abstract description 144
- 230000005540 biological transmission Effects 0.000 claims abstract description 53
- 230000003287 optical effect Effects 0.000 claims description 111
- 238000000034 method Methods 0.000 description 70
- 230000000694 effects Effects 0.000 description 26
- 230000007274 generation of a signal involved in cell-cell signaling Effects 0.000 description 24
- 239000011521 glass Substances 0.000 description 22
- 238000004364 calculation method Methods 0.000 description 20
- 230000014509 gene expression Effects 0.000 description 20
- 230000008569 process Effects 0.000 description 20
- 238000010586 diagram Methods 0.000 description 14
- 230000006870 function Effects 0.000 description 12
- 238000006243 chemical reaction Methods 0.000 description 10
- 238000004519 manufacturing process Methods 0.000 description 10
- 239000000203 mixture Substances 0.000 description 10
- 238000005516 engineering process Methods 0.000 description 4
- 239000010453 quartz Substances 0.000 description 4
- 239000004065 semiconductor Substances 0.000 description 4
- VYPSYNLAJGMNEJ-UHFFFAOYSA-N silicon dioxide Inorganic materials O=[Si]=O VYPSYNLAJGMNEJ-UHFFFAOYSA-N 0.000 description 4
- 239000013598 vector Substances 0.000 description 4
- 238000009825 accumulation Methods 0.000 description 2
- 230000008859 change Effects 0.000 description 2
- 230000008094 contradictory effect Effects 0.000 description 2
- 238000006073 displacement reaction Methods 0.000 description 2
- 238000007689 inspection Methods 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 230000007246 mechanism Effects 0.000 description 2
- 230000007935 neutral effect Effects 0.000 description 2
- 239000005304 optical glass Substances 0.000 description 2
- 238000003672 processing method Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
Images
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B11/00—Filters or other obturators specially adapted for photographic purposes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/48—Increasing resolution by shifting the sensor relative to the scene
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
- Studio Devices (AREA)
- Blocking Light For Cameras (AREA)
Abstract
固体撮像素子は、N個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、各々が各画素に対応して配置された複数の光透過部30a、30b、30c、30dとを備える。各光透過部は、M個(Mは2以上の整数)の縞状の領域に分割され、各領域は個別に設定された光透過率を有している。光透過部30a、30b、30c、30dにおける光透過率の配列パターンは互いに異なっている。撮像装置は、撮像面上において第1の方向に像を移動させる位置ずらし部を備え、移動の前後で画素信号の読出しを行うことによって画素ピッチで規定される解像度よりも高い解像度の画像を生成する。
Description
本発明は、サブピクセルの精度で画像の精細度を向上させる撮像装置および固体撮像素子に関する。
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と呼ぶことがある。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、固体撮像素子における画素構造の微細化が進んでいる。その結果、固体撮像素子の画素及び駆動回路の高集積化が図られ、撮像素子の画素数は100万画素程度から1000万画素以上へと急速に多画素化が進んでいる。その一方で、多画素の固体撮像素子の製造プロセスでは、画素密度が高くなる程、製造工程が複雑になると共に生産品質も低下する。また、画質検査に要する時間も長くなり、その結果、歩留りや生産性にも影響が出ている。
画像の高解像度化には、撮像素子の多画素化による方法以外に、光学系により結像した画像に対して撮像素子の画素をずらすという、所謂、画素ずらし技術による方法もある。画素ずらし技術には、大きく分けて2種類の技術がある。第1の画素ずらし技術は、固体撮像素子の撮像面内において行列状に配列された複数の画素を1行あるいは1列毎に半画素ピッチずらして配置する画像空間的位置ずれの画素ずらしである。第2の画素ずらし技術は、2次元正方配列の固体撮像素子および光学系の少なくとも一方を機械的に微動させる時間変動の画素ずらしである。
画像空間的位置ずれによる画素ずらし技術の基本原理の一例が特許文献1に開示されている。特許文献1では、画像空間的位置ずれによる画素ずらし技術が撮像素子を3つ用いた3板式のカラーカメラに適用されている。このカラーカメラは、人間の視感度の高い緑(G)の撮像素子の画素を1行おきに1/2ピッチ水平方向にずらした構成を採用することにより、水平方向の解像度を高めている。
水平方向だけでなく垂直方向にも画素をずらした一例が、特許文献2に開示されている。特許文献2のCCD撮像素子では、画素に相当する光感知部の形状をひし形にして、蛇行状に配置している。各画素を水平方向にも垂直方向にも画素の1/2ピッチ分ずらして配列することにより、水平及び垂直方向における解像度を高めている。
時間変動の画素ずらしの技術については、撮像素子に対して光学系を機械的に微動させる一例が、特許文献3に開示されている。特許文献3では、撮像素子とレンズとの間に透光性の平行平板が設置されている。光軸に対して平行平板を振らせることにより、撮像素子に結像した光学像を微動させ、微動方向の解像度を向上させている。光学系は動かさず、撮像素子そのものを微動させ、解像度を向上させた例が特許文献4に記されている。特許文献4に開示された例では、微動手段として圧電素子を用い、撮像素子を画素の1/2ピッチ微動させることによって、解像度を向上させている。
以上のように、従来の画素ずらし技術は、画素を水平および垂直方向に1/2ピッチずらして配置するか、機械的に撮像素子を水平および垂直方向に1/2ピッチ微動させることによって解像度を向上させる。原理的には、光感知部の開口率が100%であれば、画素を1/2ピッチずらすことにより、解像度は2倍に向上する。
従来の画素ずらし技術によれば、解像度を約2倍に向上させることができるが、それ以上の増加は望めない。さらに解像度を向上させるには、画素の配置密度を高めなければならなかった。
本発明は、画素の配置密度を高めることなく、従来の画素ずらし技術では実現できなかった、解像度を2倍を超える値に向上させる画素ずらし技術を提供することを目的とする。
本発明の撮像装置は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイ、および各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(Mは2以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部を有する固体撮像素子と、前記固体撮像素子の撮像面に像を形成する光学系と、前記複数の光透過部に対する前記像の相対位置を前記第1方向および前記第2方向の少なくとも一方にシフトさせる位置ずらし部と、前記固体撮像素子の各画素から出力される信号に基づいて、前記画素アレイの前記第1方向における画素ピッチで規定される解像度よりも高い解像度の画像を生成する信号処理部と、を備えている。
ある実施形態において、前記光学系は、前記光学系によって形成される像の前記第2方向における解像度を低下させる光学ローパスフィルタを有し、前記位置ずらし部は、前記複数の光透過部に対する前記像の相対位置を前記第1方向にシフトさせる。
ある実施形態において、各単位画素ブロックに含まれる前記N個の画素に対応する前記N個の光透過部の光透過率の配列パターンは、直交ウェーブレット係数に基づいて決定されている。
ある実施形態において、前記光学系は、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を含み、前記位置ずらし部は、前記透光性部材を前記光軸に垂直な方向に移動させることによって前記複数の光透過部に対する前記像の相対位置をシフトさせる。
ある実施形態において、各単位画素ブロックに含まれるN個の画素に対応するN個の光透過部のうち少なくともN−1個は、第1透過率または前記第1透過率とは異なる第2透過率に設定されている。
ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターンまたは前記第1パターンの背反パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および各領域の光透過率が0よりも大きい第3透過率に設定された第4パターンである。
ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および前記第1パターンの背反パターンである。
本発明の固体撮像素子は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(MはN以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部とを備える。
本発明の撮像装置および固体撮像素子によれば、サブピクセルの精度で画素信号を取得できるため、従来の画素ずらし技術以上の高解像度化が実現でき得る。
以下、図面を参照しながら、本発明の実施形態を説明する。複数の図にわたって共通する要素には同一の参照符号を付している。
(実施形態1)
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部200とを備えている。なお、本実施形態の撮像装置はビデオカメラであるが、撮像装置は静止画のみを取得するカメラであってもよい。
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部200とを備えている。なお、本実施形態の撮像装置はビデオカメラであるが、撮像装置は静止画のみを取得するカメラであってもよい。
撮像部100は、光学系11と、光学系11を通して結像した光情報を、光電変換によって電気信号に変換する固体撮像素子1(イメージセンサ)とを備えている。光学系11は、光学レンズ4と、水晶からなる光学的ローパスフィルタ2と、端部からの距離に応じて厚さが変化している透明ガラス板3とを含んでいる。透明ガラス板3は、光学系駆動部7によって光軸に垂直な方向に微動できるように構成されている。撮像部100はさらに、固体撮像素子1を駆動するための基本信号を発生するとともに固体撮像素子1からの出力信号を受信して映像信号処理部10に送出する信号発生/受信部5と、信号発生/受信部5によって発生された基本信号に基づいて撮像素子1を駆動する素子駆動部6とを備えている。なお、素子駆動部6は、信号発生/受信部5に組み込まれていてもよい。
光学レンズ4は、公知のレンズであり、複数のレンズを有するレンズユニットであり得る。光学的ローパスフィルタ2は、画素配列が原因で発生するモアレパターンを低減するための光学素子である。撮像素子1は、典型的にはCCDまたはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部5および素子駆動部6は、例えばCCDドライバなどのLSIから構成される。光学系駆動部7は、例えば公知の圧電素子から構成される。
映像信号処理部200は、撮像部100から送出される信号を処理してビデオ信号を生成するビデオ信号生成部9と、ビデオ信号の生成過程で発生する各種のデータを格納する画像メモリー部8と、生成したビデオ信号を外部に送出するビデオインターフェース部10とを備えている。ビデオ信号生成部9は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、ビデオ信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。本実施形態では、ビデオ信号生成部9や画像メモリー部8が本発明における信号処理部に含まれる。画像メモリー部8は、DRAMなどによって構成される。画像メモリー部8は、撮像部100から送出された信号を記録するとともに、ビデオ信号生成部9によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、ビデオインターフェース部10を介して不図示の記録媒体や表示部などに送出される。
本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、以上の構成はあくまでも一例であり、固体撮像素子1を除く構成要素には、公知の要素を好適に組み合わせて用いることができる。
図2は、露光中に光学レンズ4を透過した光が撮像素子1に入射する様子を模式的に示す図である。図2では、簡単のため光学レンズ4および撮像素子1以外の構成要素の記載は省略されている。また、レンズ4は、一般には光軸方向に並んだ複数のレンズによって構成され得るが、簡単のため、単一のレンズとして描かれている。撮像素子1の撮像面1aには、2次元状に配列された複数の画素を含む画素アレイが配置されている。各画素は、典型的にはフォトダイオードを含み、受けた光の量(受光量)に応じた光電変換信号(画素信号)を出力する。撮像面1aには光学系11を透過した光が入射する。
図3Aは、本実施形態における画素配列を示す平面図である。画素アレイ200は、図3Aに示すように、撮像面1a上に正方格子状に配列された複数の画素を有している。画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、2行2列に配置された4つの画素20a、20b、20c、20dを含んでいる。なお、本発明における画素配列は、図3Aに示す正方格子状の配列ではなく、例えば、図3Bに示すような斜交型の配列であってもよいし、他の配列であってもよい。画素配列は、第1方向および第1方向と交差する第2方向に沿って2次元状に複数の画素が配列されていればどのような配列であってもよい。以下の説明では、図3Aの画素配列を前提にするが、図3Bなどの画素配列であっても、後述するNDフィルタの向きおよび像の移動方向を適宜変更することにより、同様の効果が得られる。以下の説明において、図3A、3Bに示すXY座標を用いる。本明細書では、便宜上、X方向を「水平方向」、Y方向を「垂直方向」と呼ぶこととする。
以上の構成により、入射光は光学レンズ4、光学ガラス板3、光学的ローパスフィルタ2を通して固体撮像素子1の撮像面1a上に結像され、固体撮像素子1の各画素で光電変換される。ここで、光学的ローパスフィルタ2は、入射光を画像の垂直方向に1画素分複屈折させ、当該方向の解像度を低下させている。本実施形態では、固体撮像素子の画素アレイ200は、2×2画素を基本構成として、それらの画素各々に対向して、ND(Neutral Density)フィルタが配置されている。各NDフィルタは、個々に分離して配置されているが、分離せず1つのフィルタ層として画素アレイ200に対向して配置されていてもよい。なお、本発明においては、画素に1対1に対応して複数の光透過部が設けられていればよい。ここで、「対応」とは、信号蓄積開始時に対向していることを意味するものとする。本実施形態では、各NDフィルタが1つの光透過部として機能する。
図4は、本実施形態における固体撮像素子1の基本画素構成及び信号分布を示す図である。図4(a)に示すように、開口率100%の画素20a、20b、20c、20dに1対1に対応してNDフィルタ30a、30b、30c、30dがそれぞれ配置されている。NDフィルタ30a〜30dの各々は、水平方向の画素ピッチ(a)の1/4の幅をもつ4つの領域から構成される。NDフィルタ30a〜30cにおける各領域は、相対的に光透過率が高い領域(「淡」と表す)、および相対的に光透過率が低い領域(「濃」と表す)のいずれかである。NDフィルタ30aの光透過率の配列パターンは、図4における左側から順に「濃」「淡」「濃」「淡」の縞状のパターンである。NDフィルタ30bは「淡」「濃」「濃」「淡」の縞状パターンを有している。NDフィルタ30cは「淡」「淡」「濃」「濃」の縞状パターンを有している。NDフィルタ30dは、縞状パターンを有しておらず、4つの領域の光透過率は同一である。本実施形態では、「淡」の部分の光透過率をα(>0)、「濃」の部分の光透過率をβ(>0、ただしαよりも小さい)として、縞状パターンを有していないNDフィルタ30dの光透過率は(α+β)/2に設定されている。その結果、各NDフィルタを透過する光の量はほぼ同じである。
ここで、本実施形態におけるNDフィルタの光透過率の配列パターンについて説明しておく。上記の濃淡パターンは、図9Aに示すHaar基底によるスケーリング関数u(t)と、図9Bに示す同基底のウェーブレット関数v(t)とからなる直交ウェーブレット変換の係数に基づいている。本実施形態では単位画素ブロックあたり、4つの画素から出力される4つのデータを取り扱う。直交ウェーブレット変換に基づくと、データ群の加算や減算によって別なデータ群に変換し、また、同じ処理で元のデータ群に戻すことができる。本実施形態の場合、「淡」及び縞模様のない領域を1とし、「濃」領域を−1と表すと、NDフィルタ30a、30b、30d、30dのパターン成分は、それぞれ(−1,1,−1,1)、(1,−1,−1,1)、(1,1,−1,―1)、(1,1,1,1)と表すことができる。それらの直交性はベクトルの内積と同じ処理で確認できる。すなわち、各NDフィルタを4つの成分からなるベクトルと考えると、それらの内積は0になり、直交していることがわかる。
以下、本実施形態における撮像時の動作を説明する。
露光が開始すると、まず、一定時間、各画素に受光量に応じた信号が蓄積する。蓄積した信号は、撮像素子1から読み出され、信号発生/受信部5を経由して画像メモリ―部8に送出される。次に、光学系駆動部7は、透明ガラス板3を、光軸に対して垂直方向(画像の水平方向)に微動させ、撮像面に形成される像を水平方向に1画素ピッチ移動させる。移動後の状態で、再び一定の時間、各画素に信号が蓄積する。蓄積した信号は、再度、撮像素子1から読み出され、画像メモリー部8に送出される。ここで、光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。
次に、図4(b)〜(d)を参照しながら、読み出される画素信号を説明する。最初に、NDフィルタ30b、30dに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30dに入射する光の量は同じと考える。
図4(b)には、NDフィルタがないと仮定した場合に画素20b、20dに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。ここで、1画素ピッチの1/4の幅を有する各領域に入射する光の量を示す信号をX1、X2、X3、・・・、Xnと表記する。図4(b)には、像が水平方向に1画素ピッチ移動した後に画素20a、20cに蓄積される信号の水平方向の依存性を例示するグラフ19bも示されている。
以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9が行う処理を説明する。
まず第1に、静止状態においてNDフィルタ30b、30dを介して光電変換された信号がそれぞれ読み出される。図4(c)に示すように、NDフィルタ30bの両端の2つの領域の透過率はαであり、内側の2つの領域の透過率はβであるため、NDフィルタ30bに対向する画素20bの信号Sbは、α(X1+X4)+β(X2+X3)と表される。同様に、NDフィルタ30dを介して得られる信号Sdは、(X1+X2+X3+X4)(α+β)/2と表される。
第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図4(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。同様に、NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。すなわち、上記信号Sa〜Sdは、それぞれ以下の式1〜式4で表される。
(式1)Sa=α(X2+X4)+β(X1+X3)
(式2)Sb=α(X1+X4)+β(X2+X3)
(式3)Sc=α(X1+X2)+β(X3+X4)
(式4)Sd=(X1+X2+X3+X4)(α+β)/2
(式1)Sa=α(X2+X4)+β(X1+X3)
(式2)Sb=α(X1+X4)+β(X2+X3)
(式3)Sc=α(X1+X2)+β(X3+X4)
(式4)Sd=(X1+X2+X3+X4)(α+β)/2
次に、これらの信号について以下の処理を行う。最初に、Sdを2(α+β)で除算する。次に、Sdとその他の信号との減算を行い、それらの結果を2(α−β)で除算する。これらの演算により、式5〜式8でそれぞれ表される信号Y1、Y2、Y3、Y4が得られる。
(式5)Y1=Sd/2(α+β)
(式6)Y2=(Sc−Sd)/2(α−β)
(式7)Y3=(Sd−Sa)/2(α−β)
(式8)Y4=(Sb−Sd)/2(α−β)
(式5)Y1=Sd/2(α+β)
(式6)Y2=(Sc−Sd)/2(α−β)
(式7)Y3=(Sd−Sa)/2(α−β)
(式8)Y4=(Sb−Sd)/2(α−β)
その結果、Y1〜Y4とX1〜X4との関係が以下の式9〜式12で表される。
(式9)Y1=(X1+X2+X3+X4)/4
(式10)Y2=(X1+X2−X3−X4)/4
(式11)Y3=(X1−X2+X3−X4)/4
(式12)Y4=(X1−X2−X3+X4)/4
(式9)Y1=(X1+X2+X3+X4)/4
(式10)Y2=(X1+X2−X3−X4)/4
(式11)Y3=(X1−X2+X3−X4)/4
(式12)Y4=(X1−X2−X3+X4)/4
NDフィルタ30a〜30dを介して得られた信号を上記演算により処理して得られる信号(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ加減算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式13〜式16に示す加減算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1〜X4を得ることができる。
(式13)X1=Y1+Y2+Y3+Y4
(式14)X2=Y1+Y2−Y3−Y4
(式15)X3=Y1−Y2+Y3−Y4
(式16)X4=Y1−Y2−Y3+Y4
(式13)X1=Y1+Y2+Y3+Y4
(式14)X2=Y1+Y2−Y3−Y4
(式15)X3=Y1−Y2+Y3−Y4
(式16)X4=Y1−Y2−Y3+Y4
なお、上記の信号演算処理は一例であり、信号X1〜X4が求められれば、上記の手順に限らず、どのような手順で処理を行ってもよい。
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。4種類のNDフィルタのうちの3種類は、幅が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有する。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有する。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有する。第4のNDフィルタ30dは、縞模様のパターンを有しておらず、その透過率は均一である。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、本実施形態では、各画素の開口率は100%であるものとしているが、100%よりも小さくてもよい。各画素の開口率に応じて信号を補正すれば同様の効果を得ることができる。
また、本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ここで、「背反」とは、透過率αである「淡」領域と透過率βである「濃」領域とが逆転していることを意味する。例えば、図4(a)に示すパターンの代わりに図5に示すパターンを採用してもよい。図5は、NDフィルタ30a、30b、30cの代わりに、濃淡を逆転させたNDフィルタ30e、30f、30gをそれぞれ配置した構成を示している。この構成を採用した場合、上記の信号演算処理において、αとβとを逆転させれば同様の結果が得られる。この例では、3つのNDフィルタの濃淡を逆転させているが、1つまたは2つのNDフィルタの濃淡を逆転させた構成であってもよい。
NDフィルタと画素との対応に関して、本実施形態では1つのNDフィルタに対して1画素を対応させているが、複数の画素を1つのNDフィルタに対応させても問題はない。例えば、1つのNDフィルタに対して2画素を対応させることが可能である。図6は、1つのNDフィルタ30hに対して2画素20a、20bを対応させる例を示している。この例では、2つの画素20a、20bを覆うようにNDフィルタ30hが配置されている。NDフィルタ30hは、各々がX方向に画素ピッチの1/2の幅をもつ4つの領域に分割されている。このNDフィルタ30hの光透過率の配列パターンは、「濃」「淡」「淡」「濃」と表される。2つの画素20a、20bから得られる2つの画素信号に基づいて4つの領域の輝度を示す信号を求めることができる。この例では、X方向の解像度は通常の解像度の1/2になる。なお、この例では、NDフィルタ30hのうち、画素20aに対向する部分と、画素20bに対向する部分とがそれぞれ異なる光透過部として機能する。そのため、NDフィルタ30hは、画素20aに対向する部分と画素20bに対向する部分とが異なる光透過率の配列パターンとなるように構成される。
また、本実施形態では、透明ガラス板3を移動させることによって光の像を移動させるが、像の移動を他の方法で行ってもよい。本発明においては、複数の光透過部に対して像の相対位置が変化するように構成されていれば、どのような手段によって実現されていてもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチ水平に移動させても信号処理によって同様の効果が得られる。NDフィルタを微動させる構成では、例えば、素子駆動部6がNDフィルタを微動させる機構を備える。
本実施形態では、各画素に入射する光の量をほぼ等しくするために、第4のNDフィルタ30dの光透過率を(α+β)/2に設定しているが、このように設定する必要は必ずしもない。第4のNDフィルタ30dの4つの領域の光透過率が0でない限り、どのような値に設定されていても、信号演算によって同様の効果を得ることができる。
本実施形態では、水平方向の解像度が通常の4倍に向上するが、光学的ローパスフィルタ2を用いるため、垂直方向の解像度は通常の1/2に低下する。そこで、垂直方向の解像度の低下を抑えるため、垂直方向の画素ピッチを通常の半分にしてもよい。このようにすれば、光学的ローパスフィルタ2を用いても、垂直方向の解像度は通常の解像度と同程度に維持される。
(実施形態2)
次に、図7を参照しながら本発明の第2の実施形態による撮像装置を説明する。本実施形態の撮像装置は、NDフィルタの構成のみが実施形態1の撮像装置と異なっており、その他の構成は実施形態1と同じである。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
次に、図7を参照しながら本発明の第2の実施形態による撮像装置を説明する。本実施形態の撮像装置は、NDフィルタの構成のみが実施形態1の撮像装置と異なっており、その他の構成は実施形態1と同じである。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
図7は本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。図7(a)は、開口率100%の画素に1対1に対応して縞状パターンのNDフィルタ30a、30b、30c、30dが配置された状態を示している。本実施形態では、実施形態1(図4)のNDフィルタの構成を一部変更し、NDフィルタ30dの代わりにNDフィルタ30aの背反模様のNDフィルタ30eが画素20dに対向して配置されている。また、濃淡パターンの光透過率に関して、「濃」の部分は極めて光透過率が低く(β≒0)、「淡」の部分では光透過率が極めて高く(α≒1)設定されている。このような構成により、各NDフィルタの全透過光量をほぼ同じにしている。
以下、本実施形態における撮像時の動作を説明する。
撮像のための露光が開始すると、透明ガラス板3は光軸に対して垂直方向(画像の水平方向)に微動し、撮像面に形成される像を水平方向に微動させる。光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。本実施形態では、像は静止状態から水平方向に1画素ピッチずれた位置、5/4ピッチずれた位置、3/2ピッチずれた位置にそれぞれ移動し、その度に光電変換によって生成された画像信号が固体撮像素子1から読み出される。
次に、図7(b)〜(f)を参照しながら、読み出される画素信号を説明する。本実施形態では、「濃」領域および「淡」領域の光透過率をそれぞれ0%および100%とする。すなわち、α=1、β=0とする。最初に、NDフィルタ、30b、30eに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30e上の光量は同じと考える。
図7(b)には、NDフィルタがないと仮定した場合に画素20b、30eに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。図7(b)には、像が水平方向に1ピッチ、5/4ピッチ、3/2ピッチ移動した際に画素30a、30cに蓄積される信号の水平方向の依存性をそれぞれ例示するグラフ19b、19c、19dも示されている。
以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9で行われる処理を説明する。
まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図7(c)に示すように、NDフィルタ30b、30eを介して得られる信号は、それぞれ(X1+X4)、(X1+X3)と表される。第2に、水平方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図7(d)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X2+X4)、(X1+X2)と表される。第3に、静止状態から水平方向に5/4画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(e)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X3+X5)、(X2+X3)と表される。第4に、静止状態から水平方向に3/2画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(f)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X4+X6)、(X3+X4)と表される。
読み出された信号の中で、(X3+X5)と(X4+X6)は利用せず、その他の信号を利用する。まず、NDフィルタ30eを介して得られた信号(X1+X3)と、像が1画素ピッチ移動した際にNDフィルタ30aを介して得られた信号(X2+X4)の加算により、(X1+X2+X3+X4)を算出し、それをY1とおく(式17)。次に、以下の式18〜式20で示す各信号間の減算を行う。
(式17)Y1=(X1+X2+X3+X4)
(式18)Y2=(X1+X2)−(X3+X4)
(式19)Y3=(X1+X3)−(X2+X4)
(式20)Y4=(X1+X4)−(X2+X3)
(式17)Y1=(X1+X2+X3+X4)
(式18)Y2=(X1+X2)−(X3+X4)
(式19)Y3=(X1+X3)−(X2+X4)
(式20)Y4=(X1+X4)−(X2+X3)
これらの演算によって得られる信号Y1、Y2、Y3、Y4は、係数を除けば実施形態1と同じでありる。(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ演算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式21〜式24に示す演算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1〜X4を得ることができる。
(式21)X1=(Y1+Y2+Y3+Y4)/4
(式22)X2=((Y1+Y2)−(Y3+Y4))/4
(式23)X3=((Y1+Y3)−(Y2+Y4))/4
(式24)X4=((Y1+Y4)−(Y2+Y3))/4
(式21)X1=(Y1+Y2+Y3+Y4)/4
(式22)X2=((Y1+Y2)−(Y3+Y4))/4
(式23)X3=((Y1+Y3)−(Y2+Y4))/4
(式24)X4=((Y1+Y4)−(Y2+Y3))/4
なお、信号演算処理は上記の手順に限らず、信号X1〜X4が求められれば、どのような手順で処理を行ってもよい。
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、本実施形態では「淡」の領域の透過率を100%とし、「淡」の領域の透過率を0%としたが、濃淡の差が十分大きければ、上記演算処理は概ね成立するので、必ずしも上記透過率に設定する必要はない。
本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ただし、本実施形態では、NDフィルタ30aとNDフィルタ30eとは背反の関係になるように構成されている必要がある。
また、本実施形態でも、結像の微動に関して、透明ガラス板3を微動させる方法に限らず、他の方法で行ってもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチだけ水平に移動させても同様の効果が得られる。
(実施形態3)
次に、本発明の第3の実施形態による撮像装置を説明する。本実施形態の撮像装置において、実施形態2の撮像装置と構成や信号読み出し処理は同じであるが、算出する信号が異なる。そのため、実施形態2の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
次に、本発明の第3の実施形態による撮像装置を説明する。本実施形態の撮像装置において、実施形態2の撮像装置と構成や信号読み出し処理は同じであるが、算出する信号が異なる。そのため、実施形態2の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
本実施形態では、画像の特徴を画素値の変化分と考え、1/4画素ピッチ毎の交流信号を算出することを目的とする。すなわち、直流成分を0としたときの各画素信号を算出する。そこで、Y1=0としてX1〜X4の信号を算出する。このような処理によって直流成分に影響されない画素信号が得られる。具体的には、式21〜式24において、Y1=0とおいて、各画素信号を算出すれば、以下の式25〜式28に示す1/4画素ピッチ毎の交流信号X1〜X4が得られる。
(式25) X1=(Y2+Y3+Y4)/4
(式26) X2=(Y2−Y3−Y4)/4
(式27) X3=(Y3−Y2−Y4)/4
(式28) X4=(Y4−Y2−Y3)/4
(式25) X1=(Y2+Y3+Y4)/4
(式26) X2=(Y2−Y3−Y4)/4
(式27) X3=(Y3−Y2−Y4)/4
(式28) X4=(Y4−Y2−Y3)/4
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々について撮像を行う。本実施形態では、信号処理において、直流成分である信号を0とおくことにより、1画素ピッチの1/4の幅をもつ各領域における交流の画素信号を得ることができる。その結果、交流成分についても従来以上の高解像度画像が得られるという効果を奏する。
(実施形態4)
次に、図8を参照しながら本発明の第4の実施形態による撮像装置を説明する。本実施形態の撮像装置は、実施形態2の撮像装置と比較して、光透過部の各領域の配列パターンは実施形態2と同様であるが、各NDフィルタの濃淡部における光透過率、光の像のずれ方、および信号処理方法が異なる。以下、実施形態2の撮像装置と異なる点を中心に説明し、重複する点についての説明を省略する。
次に、図8を参照しながら本発明の第4の実施形態による撮像装置を説明する。本実施形態の撮像装置は、実施形態2の撮像装置と比較して、光透過部の各領域の配列パターンは実施形態2と同様であるが、各NDフィルタの濃淡部における光透過率、光の像のずれ方、および信号処理方法が異なる。以下、実施形態2の撮像装置と異なる点を中心に説明し、重複する点についての説明を省略する。
NDフィルタの濃淡部における光透過率に関して、実施形態1と同じく、「淡」の部分の光透過率はα(>0)、「濃」の部分の光透過率はβ(>0、ただしαよりも小さい)に設定される。光の像のずれ方及び撮像に関しては、実施形態1と同様である。すなわち、撮像面に形成される像が静止状態から水平方向に1画素ピッチ移動し、像の移動前後で光電変換された画素信号が固体撮像素子1からそれぞれ読み出される。
以下、図8を参照しながら、読み出される画素信号を説明する。図8は、本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。
本実施形態では、まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図8(c)に示すように、NDフィルタ30bを介して得られる信号Sbは、α(X1+X4)+β(X2+X3)と表される。NDフィルタ30eを介して得られる信号Seはα(X1+X3)+β(X2+X4)と表される。第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30eを介して光電変換された画素信号が読み出される。図8(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。したがって、信号Sa、Sb、Scは、それぞれ式1〜式3で表される。信号Seは、次の式29で表される。
(式29)Se=α(X1+X3)+β(X2+X4)
(式29)Se=α(X1+X3)+β(X2+X4)
ここで、式1と式25により、(X1+X3)と(X2+X4)に関して連立方程式を解くと、それらはそれぞれ以下の式30、31で表される。
(式30)(X1+X3)=(αSe−βSa)/(α2−β2)
(式31)(X2+X4)=(αSa−βSe)/(α2−β2)
(式30)(X1+X3)=(αSe−βSa)/(α2−β2)
(式31)(X2+X4)=(αSa−βSe)/(α2−β2)
さらに、式30と式31から、以下の式32と式33で示すように、X3をX1とその他の項で表し、またX4をX2とその他の項で表す。
(式32)X3=(αSe−βSa)/(α2−β2)−X1
(式33)X4=(αSa−βSe)/(α2−β2)−X2
(式32)X3=(αSe−βSa)/(α2−β2)−X1
(式33)X4=(αSa−βSe)/(α2−β2)−X2
次に、X3、X4を式2と式3に代入することにより、X1とX2を求める。X1、X2は、それぞれ以下の式34、式35で表される。さらに、X3、X4は、それぞれ以下の式36、式37で表される。
(式34)X1=(−(α+2β)Sa+(α+β)(Sb+Sc)−βSe)/2(α2−β2)
(式35)X2=((α+2β)Sa−(α+β)(Sb−Sc)+βSe)/2(α2−β2)
(式36)X3=(αSa−(α+β)(Sb+Sc)+(2α+β)Se)/2(α2−β2)
(式37)X4=((α−2β)Sa+(α+β)(Sb−Sc)−3βSe)/2(α2−β2)
(式34)X1=(−(α+2β)Sa+(α+β)(Sb+Sc)−βSe)/2(α2−β2)
(式35)X2=((α+2β)Sa−(α+β)(Sb−Sc)+βSe)/2(α2−β2)
(式36)X3=(αSa−(α+β)(Sb+Sc)+(2α+β)Se)/2(α2−β2)
(式37)X4=((α−2β)Sa+(α+β)(Sb−Sc)−3βSe)/2(α2−β2)
このように、図8(a)に示すNDフィルタの構成で、1画素ピッチ水平方向に像をずらすことにより、水平方向の画素ピッチが通常の1/4である画像に相当する高精細な画像信号が得られる。なお、信号演算処理は上記の手順に限らず、信号X1〜X4が求められれば、どのような手順で行ってもよい。
以上のように本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、以上の実施形態1〜4では、各NDフィルタは、X方向に等しい幅をもった4つの縞状の領域に分割されているが、これらの領域の幅が異なっていても本発明の効果を得ることは可能である。これらの領域の幅が異なっている場合、それらの幅の差に起因する透過光量の差を考慮して各信号を補正すればよい。
本発明における各光透過部の光透過率の配列パターンは、上記の実施形態1〜4で示したNDフィルタのパターンに限るものではない。各光透過部の光透過率の配列パターンは、光透過部の各領域に入射する光の量を示す信号を求めることができれば、どのようなパターンであってもよい。また、光透過部における領域の数も4つに限るものではない。本発明では、1つの単位画素ブロックにN個(Nは2以上の整数)の画素が含まれ、各光透過部がM個(Mは2以上の整数)の領域に分割されていればよい。
また、上記の各実施形態において、各NDフィルタの各領域の光透過率は、α、β、(α+β)/2のいずれかに設定されるが、本発明はこのような例に限られるものではない。本発明において、各光透過部の全ての領域の光透過率が異なっていても、それらの光透過率が既知であれば、信号演算によって各領域の信号を求めることができる。
上記の各実施形態では、水晶からなる光学的ローパスフィルタ2によって垂直方向の解像度を下げ、水平方向に像をずらすことにより、水平方向のみ解像度を向上させている。これは、像をずらす回数を削減するためであり、もし垂直方向にも像を微動させるなら、光学的ローパスフィルタ2を用いなくてもよい。光学的ローパスフィルタ2を用いず、像を水平及び垂直方向にシフトさせる構成であっても、各実施形態と同様の効果を得ることができる。さらに、各光透過部は、水平方向に限らず、垂直方向に沿って配列された複数の領域に分割されていてもよい。また、各光透過部の光透過率の配列パターンが2次元的なパターンであれば、水平及び垂直方向の高解像度化も図ることができる。
本発明の撮像装置および固体撮像素子は、固体撮像素子を用いるすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに利用可能である。
1 固体撮像素子
1a 固体撮像素子の撮像面
2 光学的ローパスフィルタ
3 透明ガラス板
4 光学レンズ
5 信号発生/受信部
6 素子駆動部
7 光学系駆動部
8 画像メモリー部
9 ビデオ信号生成部
10 ビデオインターフェース部
11 光学系
19a、19b、19c、19d 画素信号
20a、20b、20c、20d 画素
30a、30b、30c、30d、30e、30f、30g、30h、30i NDフィルタ(光透過部)
40 単位画素ブロック
100 撮像部
200 映像信号処理部
1a 固体撮像素子の撮像面
2 光学的ローパスフィルタ
3 透明ガラス板
4 光学レンズ
5 信号発生/受信部
6 素子駆動部
7 光学系駆動部
8 画像メモリー部
9 ビデオ信号生成部
10 ビデオインターフェース部
11 光学系
19a、19b、19c、19d 画素信号
20a、20b、20c、20d 画素
30a、30b、30c、30d、30e、30f、30g、30h、30i NDフィルタ(光透過部)
40 単位画素ブロック
100 撮像部
200 映像信号処理部
本発明は、サブピクセルの精度で画像の精細度を向上させる撮像装置および固体撮像素子に関する。
近年、CCDやCMOS等の固体撮像素子(以下、「撮像素子」と呼ぶことがある。)を用いたデジタルカメラやデジタルムービーの高機能化、高性能化には目を見張るものがある。特に半導体製造技術の進歩により、固体撮像素子における画素構造の微細化が進んでいる。その結果、固体撮像素子の画素及び駆動回路の高集積化が図られ、撮像素子の画素数は100万画素程度から1000万画素以上へと急速に多画素化が進んでいる。その一方で、多画素の固体撮像素子の製造プロセスでは、画素密度が高くなる程、製造工程が複雑になると共に生産品質も低下する。また、画質検査に要する時間も長くなり、その結果、歩留りや生産性にも影響が出ている。
画像の高解像度化には、撮像素子の多画素化による方法以外に、光学系により結像した画像に対して撮像素子の画素をずらすという、所謂、画素ずらし技術による方法もある。画素ずらし技術には、大きく分けて2種類の技術がある。第1の画素ずらし技術は、固体撮像素子の撮像面内において行列状に配列された複数の画素を1行あるいは1列毎に半画素ピッチずらして配置する画像空間的位置ずれの画素ずらしである。第2の画素ずらし技術は、2次元正方配列の固体撮像素子および光学系の少なくとも一方を機械的に微動させる時間変動の画素ずらしである。
画像空間的位置ずれによる画素ずらし技術の基本原理の一例が特許文献1に開示されている。特許文献1では、画像空間的位置ずれによる画素ずらし技術が撮像素子を3つ用いた3板式のカラーカメラに適用されている。このカラーカメラは、人間の視感度の高い緑(G)の撮像素子の画素を1行おきに1/2ピッチ水平方向にずらした構成を採用することにより、水平方向の解像度を高めている。
水平方向だけでなく垂直方向にも画素をずらした一例が、特許文献2に開示されている。特許文献2のCCD撮像素子では、画素に相当する光感知部の形状をひし形にして、蛇行状に配置している。各画素を水平方向にも垂直方向にも画素の1/2ピッチ分ずらして配列することにより、水平及び垂直方向における解像度を高めている。
時間変動の画素ずらしの技術については、撮像素子に対して光学系を機械的に微動させる一例が、特許文献3に開示されている。特許文献3では、撮像素子とレンズとの間に透光性の平行平板が設置されている。光軸に対して平行平板を振らせることにより、撮像素子に結像した光学像を微動させ、微動方向の解像度を向上させている。光学系は動かさず、撮像素子そのものを微動させ、解像度を向上させた例が特許文献4に記されている。特許文献4に開示された例では、微動手段として圧電素子を用い、撮像素子を画素の1/2ピッチ微動させることによって、解像度を向上させている。
以上のように、従来の画素ずらし技術は、画素を水平および垂直方向に1/2ピッチずらして配置するか、機械的に撮像素子を水平および垂直方向に1/2ピッチ微動させることによって解像度を向上させる。原理的には、光感知部の開口率が100%であれば、画素を1/2ピッチずらすことにより、解像度は2倍に向上する。
従来の画素ずらし技術によれば、解像度を約2倍に向上させることができるが、それ以上の増加は望めない。さらに解像度を向上させるには、画素の配置密度を高めなければならなかった。
本発明は、画素の配置密度を高めることなく、従来の画素ずらし技術では実現できなかった、解像度を2倍を超える値に向上させる画素ずらし技術を提供することを目的とする。
本発明の撮像装置は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイ、および各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(Mは2以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部を有する固体撮像素子と、前記固体撮像素子の撮像面に像を形成する光学系と、前記複数の光透過部に対する前記像の相対位置を前記第1方向および前記第2方向の少なくとも一方にシフトさせる位置ずらし部と、前記固体撮像素子の各画素から出力される信号に基づいて、前記画素アレイの前記第1方向における画素ピッチで規定される解像度よりも高い解像度の画像を生成する信号処理部と、を備えている。
ある実施形態において、前記光学系は、前記光学系によって形成される像の前記第2方向における解像度を低下させる光学ローパスフィルタを有し、前記位置ずらし部は、前記複数の光透過部に対する前記像の相対位置を前記第1方向にシフトさせる。
ある実施形態において、各単位画素ブロックに含まれる前記N個の画素に対応する前記N個の光透過部の光透過率の配列パターンは、直交ウェーブレット係数に基づいて決定されている。
ある実施形態において、前記光学系は、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を含み、前記位置ずらし部は、前記透光性部材を前記光軸に垂直な方向に移動させることによって前記複数の光透過部に対する前記像の相対位置をシフトさせる。
ある実施形態において、各単位画素ブロックに含まれるN個の画素に対応するN個の光透過部のうち少なくともN−1個は、第1透過率または前記第1透過率とは異なる第2透過率に設定されている。
ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターンまたは前記第1パターンの背反パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および各領域の光透過率が0よりも大きい第3透過率に設定された第4パターンである。
ある実施形態において、N=4、M=4であり、前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および前記第1パターンの背反パターンである。
本発明の固体撮像素子は、撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(MはN以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部とを備える。
本発明の撮像装置および固体撮像素子によれば、サブピクセルの精度で画素信号を取得できるため、従来の画素ずらし技術以上の高解像度化が実現でき得る。
以下、図面を参照しながら、本発明の実施形態を説明する。複数の図にわたって共通する要素には同一の参照符号を付している。
(実施形態1)
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部200とを備えている。なお、本実施形態の撮像装置はビデオカメラであるが、撮像装置は静止画のみを取得するカメラであってもよい。
図1は本発明の第1の実施形態における撮像装置の概略構成を示すブロック図である。本実施形態の撮像装置は、デジタル式のビデオカメラであり、撮像部100と、撮像部100から送出される信号に基づいて映像信号(ビデオ信号)を生成する映像信号処理部200とを備えている。なお、本実施形態の撮像装置はビデオカメラであるが、撮像装置は静止画のみを取得するカメラであってもよい。
撮像部100は、光学系11と、光学系11を通して結像した光情報を、光電変換によって電気信号に変換する固体撮像素子1(イメージセンサ)とを備えている。光学系11は、光学レンズ4と、水晶からなる光学的ローパスフィルタ2と、端部からの距離に応じて厚さが変化している透明ガラス板3とを含んでいる。透明ガラス板3は、光学系駆動部7によって光軸に垂直な方向に微動できるように構成されている。撮像部100はさらに、固体撮像素子1を駆動するための基本信号を発生するとともに固体撮像素子1からの出力信号を受信して映像信号処理部10に送出する信号発生/受信部5と、信号発生/受信部5によって発生された基本信号に基づいて撮像素子1を駆動する素子駆動部6とを備えている。なお、素子駆動部6は、信号発生/受信部5に組み込まれていてもよい。
光学レンズ4は、公知のレンズであり、複数のレンズを有するレンズユニットであり得る。光学的ローパスフィルタ2は、画素配列が原因で発生するモアレパターンを低減するための光学素子である。撮像素子1は、典型的にはCCDまたはCMOSセンサであり、公知の半導体製造技術によって製造される。信号発生/受信部5および素子駆動部6は、例えばCCDドライバなどのLSIから構成される。光学系駆動部7は、例えば公知の圧電素子から構成される。
映像信号処理部200は、撮像部100から送出される信号を処理してビデオ信号を生成するビデオ信号生成部9と、ビデオ信号の生成過程で発生する各種のデータを格納する画像メモリー部8と、生成したビデオ信号を外部に送出するビデオインターフェース部10とを備えている。ビデオ信号生成部9は、公知のデジタル信号処理プロセッサ(DSP)などのハードウェアと、ビデオ信号生成処理を含む画像処理を実行するソフトウェアとの組合せによって好適に実現され得る。本実施形態では、ビデオ信号生成部9や画像メモリー部8が本発明における信号処理部に含まれる。画像メモリー部8は、DRAMなどによって構成される。画像メモリー部8は、撮像部100から送出された信号を記録するとともに、ビデオ信号生成部9によって生成された画像データや、圧縮された画像データを一時的に記録する。これらの画像データは、ビデオインターフェース部10を介して不図示の記録媒体や表示部などに送出される。
本実施形態の撮像装置は、電子シャッタ、ビューファインダ、電源(電池)、フラッシュライトなどの公知の構成要素を備え得るが、それらの説明は本発明の理解に特に必要でないため省略する。また、以上の構成はあくまでも一例であり、固体撮像素子1を除く構成要素には、公知の要素を好適に組み合わせて用いることができる。
図2は、露光中に光学レンズ4を透過した光が撮像素子1に入射する様子を模式的に示す図である。図2では、簡単のため光学レンズ4および撮像素子1以外の構成要素の記載は省略されている。また、レンズ4は、一般には光軸方向に並んだ複数のレンズによって構成され得るが、簡単のため、単一のレンズとして描かれている。撮像素子1の撮像面1aには、2次元状に配列された複数の画素を含む画素アレイが配置されている。各画素は、典型的にはフォトダイオードを含み、受けた光の量(受光量)に応じた光電変換信号(画素信号)を出力する。撮像面1aには光学系11を透過した光が入射する。
図3Aは、本実施形態における画素配列を示す平面図である。画素アレイ200は、図3Aに示すように、撮像面1a上に正方格子状に配列された複数の画素を有している。画素アレイ200は、複数の単位画素ブロック40に分割され、各単位画素ブロック40は、2行2列に配置された4つの画素20a、20b、20c、20dを含んでいる。なお、本発明における画素配列は、図3Aに示す正方格子状の配列ではなく、例えば、図3Bに示すような斜交型の配列であってもよいし、他の配列であってもよい。画素配列は、第1方向および第1方向と交差する第2方向に沿って2次元状に複数の画素が配列されていればどのような配列であってもよい。以下の説明では、図3Aの画素配列を前提にするが、図3Bなどの画素配列であっても、後述するNDフィルタの向きおよび像の移動方向を適宜変更することにより、同様の効果が得られる。以下の説明において、図3A、3Bに示すXY座標を用いる。本明細書では、便宜上、X方向を「水平方向」、Y方向を「垂直方向」と呼ぶこととする。
以上の構成により、入射光は光学レンズ4、光学ガラス板3、光学的ローパスフィルタ2を通して固体撮像素子1の撮像面1a上に結像され、固体撮像素子1の各画素で光電変換される。ここで、光学的ローパスフィルタ2は、入射光を画像の垂直方向に1画素分複屈折させ、当該方向の解像度を低下させている。本実施形態では、固体撮像素子の画素アレイ200は、2×2画素を基本構成として、それらの画素各々に対向して、ND(Neutral Density)フィルタが配置されている。各NDフィルタは、個々に分離して配置されているが、分離せず1つのフィルタ層として画素アレイ200に対向して配置されていてもよい。なお、本発明においては、画素に1対1に対応して複数の光透過部が設けられていればよい。ここで、「対応」とは、信号蓄積開始時に対向していることを意味するものとする。本実施形態では、各NDフィルタが1つの光透過部として機能する。
図4は、本実施形態における固体撮像素子1の基本画素構成及び信号分布を示す図である。図4(a)に示すように、開口率100%の画素20a、20b、20c、20dに1対1に対応してNDフィルタ30a、30b、30c、30dがそれぞれ配置されている。NDフィルタ30a〜30dの各々は、水平方向の画素ピッチ(a)の1/4の幅をもつ4つの領域から構成される。NDフィルタ30a〜30cにおける各領域は、相対的に光透過率が高い領域(「淡」と表す)、および相対的に光透過率が低い領域(「濃」と表す)のいずれかである。NDフィルタ30aの光透過率の配列パターンは、図4における左側から順に「濃」「淡」「濃」「淡」の縞状のパターンである。NDフィルタ30bは「淡」「濃」「濃」「淡」の縞状パターンを有している。NDフィルタ30cは「淡」「淡」「濃」「濃」の縞状パターンを有している。NDフィルタ30dは、縞状パターンを有しておらず、4つの領域の光透過率は同一である。本実施形態では、「淡」の部分の光透過率をα(>0)、「濃」の部分の光透過率をβ(>0、ただしαよりも小さい)として、縞状パターンを有していないNDフィルタ30dの光透過率は(α+β)/2に設定されている。その結果、各NDフィルタを透過する光の量はほぼ同じである。
ここで、本実施形態におけるNDフィルタの光透過率の配列パターンについて説明しておく。上記の濃淡パターンは、図9Aに示すHaar基底によるスケーリング関数u(t)と、図9Bに示す同基底のウェーブレット関数v(t)とからなる直交ウェーブレット変換の係数に基づいている。本実施形態では単位画素ブロックあたり、4つの画素から出力される4つのデータを取り扱う。直交ウェーブレット変換に基づくと、データ群の加算や減算によって別なデータ群に変換し、また、同じ処理で元のデータ群に戻すことができる。本実施形態の場合、「淡」及び縞模様のない領域を1とし、「濃」領域を−1と表すと、NDフィルタ30a、30b、30d、30dのパターン成分は、それぞれ(−1,1,−1,1)、(1,−1,−1,1)、(1,1,−1,―1)、(1,1,1,1)と表すことができる。それらの直交性はベクトルの内積と同じ処理で確認できる。すなわち、各NDフィルタを4つの成分からなるベクトルと考えると、それらの内積は0になり、直交していることがわかる。
以下、本実施形態における撮像時の動作を説明する。
露光が開始すると、まず、一定時間、各画素に受光量に応じた信号が蓄積する。蓄積した信号は、撮像素子1から読み出され、信号発生/受信部5を経由して画像メモリ―部8に送出される。次に、光学系駆動部7は、透明ガラス板3を、光軸に対して垂直方向(画像の水平方向)に微動させ、撮像面に形成される像を水平方向に1画素ピッチ移動させる。移動後の状態で、再び一定の時間、各画素に信号が蓄積する。蓄積した信号は、再度、撮像素子1から読み出され、画像メモリー部8に送出される。ここで、光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。
次に、図4(b)〜(d)を参照しながら、読み出される画素信号を説明する。最初に、NDフィルタ30b、30dに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30dに入射する光の量は同じと考える。
図4(b)には、NDフィルタがないと仮定した場合に画素20b、20dに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。ここで、1画素ピッチの1/4の幅を有する各領域に入射する光の量を示す信号をX1、X2、X3、・・・、Xnと表記する。図4(b)には、像が水平方向に1画素ピッチ移動した後に画素20a、20cに蓄積される信号の水平方向の依存性を例示するグラフ19bも示されている。
以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9が行う処理を説明する。
まず第1に、静止状態においてNDフィルタ30b、30dを介して光電変換された信号がそれぞれ読み出される。図4(c)に示すように、NDフィルタ30bの両端の2つの領域の透過率はαであり、内側の2つの領域の透過率はβであるため、NDフィルタ30bに対向する画素20bの信号Sbは、α(X1+X4)+β(X2+X3)と表される。同様に、NDフィルタ30dを介して得られる信号Sdは、(X1+X2+X3+X4)(α+β)/2と表される。
第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図4(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。同様に、NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。すなわち、上記信号Sa〜Sdは、それぞれ以下の式1〜式4で表される。
(式1)Sa=α(X2+X4)+β(X1+X3)
(式2)Sb=α(X1+X4)+β(X2+X3)
(式3)Sc=α(X1+X2)+β(X3+X4)
(式4)Sd=(X1+X2+X3+X4)(α+β)/2
(式1)Sa=α(X2+X4)+β(X1+X3)
(式2)Sb=α(X1+X4)+β(X2+X3)
(式3)Sc=α(X1+X2)+β(X3+X4)
(式4)Sd=(X1+X2+X3+X4)(α+β)/2
次に、これらの信号について以下の処理を行う。最初に、Sdを2(α+β)で除算する。次に、Sdとその他の信号との減算を行い、それらの結果を2(α−β)で除算する。これらの演算により、式5〜式8でそれぞれ表される信号Y1、Y2、Y3、Y4が得られる。
(式5)Y1=Sd/2(α+β)
(式6)Y2=(Sc−Sd)/2(α−β)
(式7)Y3=(Sd−Sa)/2(α−β)
(式8)Y4=(Sb−Sd)/2(α−β)
(式5)Y1=Sd/2(α+β)
(式6)Y2=(Sc−Sd)/2(α−β)
(式7)Y3=(Sd−Sa)/2(α−β)
(式8)Y4=(Sb−Sd)/2(α−β)
その結果、Y1〜Y4とX1〜X4との関係が以下の式9〜式12で表される。
(式9)Y1=(X1+X2+X3+X4)/4
(式10)Y2=(X1+X2−X3−X4)/4
(式11)Y3=(X1−X2+X3−X4)/4
(式12)Y4=(X1−X2−X3+X4)/4
(式9)Y1=(X1+X2+X3+X4)/4
(式10)Y2=(X1+X2−X3−X4)/4
(式11)Y3=(X1−X2+X3−X4)/4
(式12)Y4=(X1−X2−X3+X4)/4
NDフィルタ30a〜30dを介して得られた信号を上記演算により処理して得られる信号(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ加減算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式13〜式16に示す加減算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1〜X4を得ることができる。
(式13)X1=Y1+Y2+Y3+Y4
(式14)X2=Y1+Y2−Y3−Y4
(式15)X3=Y1−Y2+Y3−Y4
(式16)X4=Y1−Y2−Y3+Y4
(式13)X1=Y1+Y2+Y3+Y4
(式14)X2=Y1+Y2−Y3−Y4
(式15)X3=Y1−Y2+Y3−Y4
(式16)X4=Y1−Y2−Y3+Y4
なお、上記の信号演算処理は一例であり、信号X1〜X4が求められれば、上記の手順に限らず、どのような手順で処理を行ってもよい。
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。4種類のNDフィルタのうちの3種類は、幅が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有する。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有する。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有する。第4のNDフィルタ30dは、縞模様のパターンを有しておらず、その透過率は均一である。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、本実施形態では、各画素の開口率は100%であるものとしているが、100%よりも小さくてもよい。各画素の開口率に応じて信号を補正すれば同様の効果を得ることができる。
また、本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ここで、「背反」とは、透過率αである「淡」領域と透過率βである「濃」領域とが逆転していることを意味する。例えば、図4(a)に示すパターンの代わりに図5に示すパターンを採用してもよい。図5は、NDフィルタ30a、30b、30cの代わりに、濃淡を逆転させたNDフィルタ30e、30f、30gをそれぞれ配置した構成を示している。この構成を採用した場合、上記の信号演算処理において、αとβとを逆転させれば同様の結果が得られる。この例では、3つのNDフィルタの濃淡を逆転させているが、1つまたは2つのNDフィルタの濃淡を逆転させた構成であってもよい。
NDフィルタと画素との対応に関して、本実施形態では1つのNDフィルタに対して1画素を対応させているが、複数の画素を1つのNDフィルタに対応させても問題はない。例えば、1つのNDフィルタに対して2画素を対応させることが可能である。図6は、1つのNDフィルタ30hに対して2画素20a、20bを対応させる例を示している。この例では、2つの画素20a、20bを覆うようにNDフィルタ30hが配置されている。NDフィルタ30hは、各々がX方向に画素ピッチの1/2の幅をもつ4つの領域に分割されている。このNDフィルタ30hの光透過率の配列パターンは、「濃」「淡」「淡」「濃」と表される。2つの画素20a、20bから得られる2つの画素信号に基づいて4つの領域の輝度を示す信号を求めることができる。この例では、X方向の解像度は通常の解像度の1/2になる。なお、この例では、NDフィルタ30hのうち、画素20aに対向する部分と、画素20bに対向する部分とがそれぞれ異なる光透過部として機能する。そのため、NDフィルタ30hは、画素20aに対向する部分と画素20bに対向する部分とが異なる光透過率の配列パターンとなるように構成される。
また、本実施形態では、透明ガラス板3を移動させることによって光の像を移動させるが、像の移動を他の方法で行ってもよい。本発明においては、複数の光透過部に対して像の相対位置が変化するように構成されていれば、どのような手段によって実現されていてもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチ水平に移動させても信号処理によって同様の効果が得られる。NDフィルタを微動させる構成では、例えば、素子駆動部6がNDフィルタを微動させる機構を備える。
本実施形態では、各画素に入射する光の量をほぼ等しくするために、第4のNDフィルタ30dの光透過率を(α+β)/2に設定しているが、このように設定する必要は必ずしもない。第4のNDフィルタ30dの4つの領域の光透過率が0でない限り、どのような値に設定されていても、信号演算によって同様の効果を得ることができる。
本実施形態では、水平方向の解像度が通常の4倍に向上するが、光学的ローパスフィルタ2を用いるため、垂直方向の解像度は通常の1/2に低下する。そこで、垂直方向の解像度の低下を抑えるため、垂直方向の画素ピッチを通常の半分にしてもよい。このようにすれば、光学的ローパスフィルタ2を用いても、垂直方向の解像度は通常の解像度と同程度に維持される。
(実施形態2)
次に、図7を参照しながら本発明の第2の実施形態による撮像装置を説明する。本実施形態の撮像装置は、NDフィルタの構成のみが実施形態1の撮像装置と異なっており、その他の構成は実施形態1と同じである。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
次に、図7を参照しながら本発明の第2の実施形態による撮像装置を説明する。本実施形態の撮像装置は、NDフィルタの構成のみが実施形態1の撮像装置と異なっており、その他の構成は実施形態1と同じである。以下、実施形態1の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
図7は本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。図7(a)は、開口率100%の画素に1対1に対応して縞状パターンのNDフィルタ30a、30b、30c、30dが配置された状態を示している。本実施形態では、実施形態1(図4)のNDフィルタの構成を一部変更し、NDフィルタ30dの代わりにNDフィルタ30aの背反模様のNDフィルタ30eが画素20dに対向して配置されている。また、濃淡パターンの光透過率に関して、「濃」の部分は極めて光透過率が低く(β≒0)、「淡」の部分では光透過率が極めて高く(α≒1)設定されている。このような構成により、各NDフィルタの全透過光量をほぼ同じにしている。
以下、本実施形態における撮像時の動作を説明する。
撮像のための露光が開始すると、透明ガラス板3は光軸に対して垂直方向(画像の水平方向)に微動し、撮像面に形成される像を水平方向に微動させる。光学的ローパスフィルタ2は画像の垂直方向に解像度を低下させるが、水平方向には影響を及ぼさない。本実施形態では、像は静止状態から水平方向に1画素ピッチずれた位置、5/4ピッチずれた位置、3/2ピッチずれた位置にそれぞれ移動し、その度に光電変換によって生成された画像信号が固体撮像素子1から読み出される。
次に、図7(b)〜(f)を参照しながら、読み出される画素信号を説明する。本実施形態では、「濃」領域および「淡」領域の光透過率をそれぞれ0%および100%とする。すなわち、α=1、β=0とする。最初に、NDフィルタ、30b、30eに注目する。光学的ローパスフィルタ2の影響により、NDフィルタ30b、30e上の光量は同じと考える。
図7(b)には、NDフィルタがないと仮定した場合に画素20b、30eに蓄積される信号の水平方向の依存性を例示するグラフ19aが示されている。図7(b)には、像が水平方向に1ピッチ、5/4ピッチ、3/2ピッチ移動した際に画素30a、30cに蓄積される信号の水平方向の依存性をそれぞれ例示するグラフ19b、19c、19dも示されている。
以下、各画素から読み出される画素信号に基づいてビデオ信号生成部9で行われる処理を説明する。
まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図7(c)に示すように、NDフィルタ30b、30eを介して得られる信号は、それぞれ(X1+X4)、(X1+X3)と表される。第2に、水平方向に像が1画素ピッチ移動し、NDフィルタ30a、30cを介して光電変換された画素信号が読み出される。図7(d)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X2+X4)、(X1+X2)と表される。第3に、静止状態から水平方向に5/4画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(e)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X3+X5)、(X2+X3)と表される。第4に、静止状態から水平方向に3/2画素ピッチ像が移動し、NDフィルタ1a、1cを介して光電変換された画素信号が読み出される。図7(f)に示すように、このときNDフィルタ30a、30cを介して読み出される信号は、それぞれ(X4+X6)、(X3+X4)と表される。
読み出された信号の中で、(X3+X5)と(X4+X6)は利用せず、その他の信号を利用する。まず、NDフィルタ30eを介して得られた信号(X1+X3)と、像が1画素ピッチ移動した際にNDフィルタ30aを介して得られた信号(X2+X4)の加算により、(X1+X2+X3+X4)を算出し、それをY1とおく(式17)。次に、以下の式18〜式20で示す各信号間の減算を行う。
(式17)Y1=(X1+X2+X3+X4)
(式18)Y2=(X1+X2)−(X3+X4)
(式19)Y3=(X1+X3)−(X2+X4)
(式20)Y4=(X1+X4)−(X2+X3)
(式17)Y1=(X1+X2+X3+X4)
(式18)Y2=(X1+X2)−(X3+X4)
(式19)Y3=(X1+X3)−(X2+X4)
(式20)Y4=(X1+X4)−(X2+X3)
これらの演算によって得られる信号Y1、Y2、Y3、Y4は、係数を除けば実施形態1と同じでありる。(Y1、Y2、Y3、Y4)は、ウェーブレット変換された信号であるといえる。それらの結果に対して上記と同じ演算処理を施すと元の信号(X1、X2、X3、X4)を算出できる。すなわち、以下の式21〜式24に示す演算処理により、1画素ピッチの1/4の幅をもつ各領域における画素信号X1〜X4を得ることができる。
(式21)X1=(Y1+Y2+Y3+Y4)/4
(式22)X2=((Y1+Y2)−(Y3+Y4))/4
(式23)X3=((Y1+Y3)−(Y2+Y4))/4
(式24)X4=((Y1+Y4)−(Y2+Y3))/4
(式21)X1=(Y1+Y2+Y3+Y4)/4
(式22)X2=((Y1+Y2)−(Y3+Y4))/4
(式23)X3=((Y1+Y3)−(Y2+Y4))/4
(式24)X4=((Y1+Y4)−(Y2+Y3))/4
なお、信号演算処理は上記の手順に限らず、信号X1〜X4が求められれば、どのような手順で処理を行ってもよい。
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、本実施形態では「淡」の領域の透過率を100%とし、「淡」の領域の透過率を0%としたが、濃淡の差が十分大きければ、上記演算処理は概ね成立するので、必ずしも上記透過率に設定する必要はない。
本実施形態における各NDフィルタの光透過率の配列パターンは、上記のパターンに限るものではない。各NDフィルタの光透過率の配列パターンは、上記に示すパターンの背反なパターンであってもよい。ただし、本実施形態では、NDフィルタ30aとNDフィルタ30eとは背反の関係になるように構成されている必要がある。
また、本実施形態でも、結像の微動に関して、透明ガラス板3を微動させる方法に限らず、他の方法で行ってもよい。例えば、厚さが均一な透明ガラス板を光軸に対して傾斜させて配置し、そのガラス板を微動させても像の位置をずらすことができる。このように、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を微動させることによって同様の効果を得ることができる。また、像と撮像素子1を固定し、全てのNDフィルタを1画素ピッチだけ水平に移動させても同様の効果が得られる。
(実施形態3)
次に、本発明の第3の実施形態による撮像装置を説明する。本実施形態の撮像装置において、実施形態2の撮像装置と構成や信号読み出し処理は同じであるが、算出する信号が異なる。そのため、実施形態2の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
次に、本発明の第3の実施形態による撮像装置を説明する。本実施形態の撮像装置において、実施形態2の撮像装置と構成や信号読み出し処理は同じであるが、算出する信号が異なる。そのため、実施形態2の撮像装置と異なる点を中心に説明し、重複する点については説明を省略する。
本実施形態では、画像の特徴を画素値の変化分と考え、1/4画素ピッチ毎の交流信号を算出することを目的とする。すなわち、直流成分を0としたときの各画素信号を算出する。そこで、Y1=0としてX1〜X4の信号を算出する。このような処理によって直流成分に影響されない画素信号が得られる。具体的には、式21〜式24において、Y1=0とおいて、各画素信号を算出すれば、以下の式25〜式28に示す1/4画素ピッチ毎の交流信号X1〜X4が得られる。
(式25) X1=(Y2+Y3+Y4)/4
(式26) X2=(Y2−Y3−Y4)/4
(式27) X3=(Y3−Y2−Y4)/4
(式28) X4=(Y4−Y2−Y3)/4
(式25) X1=(Y2+Y3+Y4)/4
(式26) X2=(Y2−Y3−Y4)/4
(式27) X3=(Y3−Y2−Y4)/4
(式28) X4=(Y4−Y2−Y3)/4
以上のように、本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切る形で像を初期位置から水平方向に1画素ピッチ、5/4画素ピッチ、3/2画素ピッチずらし、各々について撮像を行う。本実施形態では、信号処理において、直流成分である信号を0とおくことにより、1画素ピッチの1/4の幅をもつ各領域における交流の画素信号を得ることができる。その結果、交流成分についても従来以上の高解像度画像が得られるという効果を奏する。
(実施形態4)
次に、図8を参照しながら本発明の第4の実施形態による撮像装置を説明する。本実施形態の撮像装置は、実施形態2の撮像装置と比較して、光透過部の各領域の配列パターンは実施形態2と同様であるが、各NDフィルタの濃淡部における光透過率、光の像のずれ方、および信号処理方法が異なる。以下、実施形態2の撮像装置と異なる点を中心に説明し、重複する点についての説明を省略する。
次に、図8を参照しながら本発明の第4の実施形態による撮像装置を説明する。本実施形態の撮像装置は、実施形態2の撮像装置と比較して、光透過部の各領域の配列パターンは実施形態2と同様であるが、各NDフィルタの濃淡部における光透過率、光の像のずれ方、および信号処理方法が異なる。以下、実施形態2の撮像装置と異なる点を中心に説明し、重複する点についての説明を省略する。
NDフィルタの濃淡部における光透過率に関して、実施形態1と同じく、「淡」の部分の光透過率はα(>0)、「濃」の部分の光透過率はβ(>0、ただしαよりも小さい)に設定される。光の像のずれ方及び撮像に関しては、実施形態1と同様である。すなわち、撮像面に形成される像が静止状態から水平方向に1画素ピッチ移動し、像の移動前後で光電変換された画素信号が固体撮像素子1からそれぞれ読み出される。
以下、図8を参照しながら、読み出される画素信号を説明する。図8は、本実施形態における固体撮像素子1の基本画素構成及び信号分布図である。
本実施形態では、まず第1に、静止状態において、NDフィルタ30b、30eを介して光電変換された信号がそれぞれ読み出される。図8(c)に示すように、NDフィルタ30bを介して得られる信号Sbは、α(X1+X4)+β(X2+X3)と表される。NDフィルタ30eを介して得られる信号Seはα(X1+X3)+β(X2+X4)と表される。第2に、水平左方向に像が1画素ピッチ移動し、NDフィルタ30a、30eを介して光電変換された画素信号が読み出される。図8(d)に示すように、NDフィルタ30aを介して得られる信号Saはα(X2+X4)+β(X1+X3)と表される。NDフィルタ30cを介して得られる信号Scはα(X1+X2)+β(X3+X4)と表される。したがって、信号Sa、Sb、Scは、それぞれ式1〜式3で表される。信号Seは、次の式29で表される。
(式29)Se=α(X1+X3)+β(X2+X4)
(式29)Se=α(X1+X3)+β(X2+X4)
ここで、式1と式25により、(X1+X3)と(X2+X4)に関して連立方程式を解くと、それらはそれぞれ以下の式30、31で表される。
(式30)(X1+X3)=(αSe−βSa)/(α2−β2)
(式31)(X2+X4)=(αSa−βSe)/(α2−β2)
(式30)(X1+X3)=(αSe−βSa)/(α2−β2)
(式31)(X2+X4)=(αSa−βSe)/(α2−β2)
さらに、式30と式31から、以下の式32と式33で示すように、X3をX1とその他の項で表し、またX4をX2とその他の項で表す。
(式32)X3=(αSe−βSa)/(α2−β2)−X1
(式33)X4=(αSa−βSe)/(α2−β2)−X2
(式32)X3=(αSe−βSa)/(α2−β2)−X1
(式33)X4=(αSa−βSe)/(α2−β2)−X2
次に、X3、X4を式2と式3に代入することにより、X1とX2を求める。X1、X2は、それぞれ以下の式34、式35で表される。さらに、X3、X4は、それぞれ以下の式36、式37で表される。
(式34)X1=(−(α+2β)Sa+(α+β)(Sb+Sc)−βSe)/2(α2−β2)
(式35)X2=((α+2β)Sa−(α+β)(Sb−Sc)+βSe)/2(α2−β2)
(式36)X3=(αSa−(α+β)(Sb+Sc)+(2α+β)Se)/2(α2−β2)
(式37)X4=((α−2β)Sa+(α+β)(Sb−Sc)−3βSe)/2(α2−β2)
(式34)X1=(−(α+2β)Sa+(α+β)(Sb+Sc)−βSe)/2(α2−β2)
(式35)X2=((α+2β)Sa−(α+β)(Sb−Sc)+βSe)/2(α2−β2)
(式36)X3=(αSa−(α+β)(Sb+Sc)+(2α+β)Se)/2(α2−β2)
(式37)X4=((α−2β)Sa+(α+β)(Sb−Sc)−3βSe)/2(α2−β2)
このように、図8(a)に示すNDフィルタの構成で、1画素ピッチ水平方向に像をずらすことにより、水平方向の画素ピッチが通常の1/4である画像に相当する高精細な画像信号が得られる。なお、信号演算処理は上記の手順に限らず、信号X1〜X4が求められれば、どのような手順で行ってもよい。
以上のように本実施形態の撮像装置によれば、固体撮像素子1の画素に1対1に対応して配置された、光透過率の配列パターンが互いに異なる4種類のNDフィルタを利用することにより、水平方向の解像度を実質的に4倍に高めることが可能となる。各NDフィルタは、縞の間隔が水平画素ピッチの1/4である4つの領域に分割されている。第1のNDフィルタ30aは、「濃」「淡」「濃」「淡」の縞状パターンを有している。第2のNDフィルタ30bは、「淡」「濃」「濃」「淡」の縞状パターンを有している。第3のNDフィルタ30cは、「淡」「淡」「濃」「濃」の縞状パターンを有している。第4のNDフィルタ30dは、「淡」「濃」「淡」「濃」の縞状パターンを有している。これらの縞状パターンを横切るように像を水平方向に1画素ピッチ移動させ、移動の前後で撮像することにより、1画素ピッチの1/4の幅を有する各領域における画素信号を得ることができる。すなわち、サブピクセルの精度で画素信号を取得できるため、従来以上の高解像度化が図れるという効果を奏する。
なお、以上の実施形態1〜4では、各NDフィルタは、X方向に等しい幅をもった4つの縞状の領域に分割されているが、これらの領域の幅が異なっていても本発明の効果を得ることは可能である。これらの領域の幅が異なっている場合、それらの幅の差に起因する透過光量の差を考慮して各信号を補正すればよい。
本発明における各光透過部の光透過率の配列パターンは、上記の実施形態1〜4で示したNDフィルタのパターンに限るものではない。各光透過部の光透過率の配列パターンは、光透過部の各領域に入射する光の量を示す信号を求めることができれば、どのようなパターンであってもよい。また、光透過部における領域の数も4つに限るものではない。本発明では、1つの単位画素ブロックにN個(Nは2以上の整数)の画素が含まれ、各光透過部がM個(Mは2以上の整数)の領域に分割されていればよい。
また、上記の各実施形態において、各NDフィルタの各領域の光透過率は、α、β、(α+β)/2のいずれかに設定されるが、本発明はこのような例に限られるものではない。本発明において、各光透過部の全ての領域の光透過率が異なっていても、それらの光透過率が既知であれば、信号演算によって各領域の信号を求めることができる。
上記の各実施形態では、水晶からなる光学的ローパスフィルタ2によって垂直方向の解像度を下げ、水平方向に像をずらすことにより、水平方向のみ解像度を向上させている。これは、像をずらす回数を削減するためであり、もし垂直方向にも像を微動させるなら、光学的ローパスフィルタ2を用いなくてもよい。光学的ローパスフィルタ2を用いず、像を水平及び垂直方向にシフトさせる構成であっても、各実施形態と同様の効果を得ることができる。さらに、各光透過部は、水平方向に限らず、垂直方向に沿って配列された複数の領域に分割されていてもよい。また、各光透過部の光透過率の配列パターンが2次元的なパターンであれば、水平及び垂直方向の高解像度化も図ることができる。
本発明の撮像装置および固体撮像素子は、固体撮像素子を用いるすべてのカメラに有効である。例えば、デジタルスチルカメラやデジタルビデオカメラなどの民生用カメラや、産業用の固体監視カメラなどに利用可能である。
1 固体撮像素子
1a 固体撮像素子の撮像面
2 光学的ローパスフィルタ
3 透明ガラス板
4 光学レンズ
5 信号発生/受信部
6 素子駆動部
7 光学系駆動部
8 画像メモリー部
9 ビデオ信号生成部
10 ビデオインターフェース部
11 光学系
19a、19b、19c、19d 画素信号
20a、20b、20c、20d 画素
30a、30b、30c、30d、30e、30f、30g、30h、30i NDフィルタ(光透過部)
40 単位画素ブロック
100 撮像部
200 映像信号処理部
1a 固体撮像素子の撮像面
2 光学的ローパスフィルタ
3 透明ガラス板
4 光学レンズ
5 信号発生/受信部
6 素子駆動部
7 光学系駆動部
8 画像メモリー部
9 ビデオ信号生成部
10 ビデオインターフェース部
11 光学系
19a、19b、19c、19d 画素信号
20a、20b、20c、20d 画素
30a、30b、30c、30d、30e、30f、30g、30h、30i NDフィルタ(光透過部)
40 単位画素ブロック
100 撮像部
200 映像信号処理部
Claims (8)
- 撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイ、および各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(Mは2以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部を有する固体撮像素子と、
前記固体撮像素子の撮像面に像を形成する光学系と、
前記複数の光透過部に対する前記像の相対位置を前記第1方向および前記第2方向の少なくとも一方にシフトさせる位置ずらし部と、
前記固体撮像素子の各画素から出力される信号に基づいて、前記画素アレイの前記第1方向における画素ピッチで規定される解像度よりも高い解像度の画像を生成する信号処理部と、
を備える撮像装置。 - 前記光学系は、前記光学系によって形成される像の前記第2方向における解像度を低下させる光学ローパスフィルタを有し、
前記位置ずらし部は、前記複数の光透過部に対する前記像の相対位置を前記第1方向にシフトさせる、請求項1に記載の撮像装置。 - 各単位画素ブロックに含まれる前記N個の画素に対応する前記N個の光透過部の光透過率の配列パターンは、直交ウェーブレット係数に基づいて決定されている、請求項1または2に記載の撮像装置。
- 前記光学系は、光軸に垂直な平面に対して傾斜した表面を有する透光性部材を含み、
前記位置ずらし部は、前記透光性部材を前記光軸に垂直な方向に移動させることによって前記複数の光透過部に対する前記像の相対位置をシフトさせる、請求項1から3のいずれかに記載の撮像装置。 - 各単位画素ブロックに含まれるN個の画素に対応するN個の光透過部のうち少なくともN−1個は、第1透過率または前記第1透過率とは異なる第2透過率に設定されている、請求項1から4のいずれかに記載の撮像装置。
- N=4、M=4であり、
前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターンまたは前記第1パターンの背反パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および各領域の光透過率が0よりも大きい第3透過率に設定された第4パターンである、請求項5に記載の撮像装置。 - N=4、M=4であり、
前記第1透過率を「1」、前記第2透過率を「−1」と表すとき、各単位画素ブロックに含まれる4つの画素に対応する4つの光透過部の光透過率の配列パターンは、それぞれ、「1、−1、1、−1」で表される第1パターン、「−1、1、1、−1」で表される第2パターンまたは前記第2ターンの背反パターン、「−1、−1、1、1」で表される第3パターンまたは前記第3パターンの背反パターン、および前記第1パターンの背反パターンである、請求項5に記載の撮像装置。 - 撮像面上において、第1方向および前記第1方向と交差する第2方向に沿って2次元状に配列された複数の画素を含む画素アレイであって、各々がN個(Nは2以上の整数)の画素を含む複数の単位画素ブロックに分割された画素アレイと、
各々が各画素に対応して配置された複数の光透過部であって、各光透過部は前記第1の方向に沿って配列されたM個(MはN以上の整数)の領域に分割され、各領域は個別に設定された光透過率を有し、各単位画素ブロックに含まれる前記N個の画素に対応するN個の光透過部の光透過率の配列パターンは互いに異なっている複数の光透過部と、
を備える固体撮像素子。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2009233287 | 2009-10-07 | ||
JP2009233287 | 2009-10-07 | ||
PCT/JP2010/005936 WO2011043051A1 (ja) | 2009-10-07 | 2010-10-04 | 撮像装置および固体撮像素子 |
Publications (1)
Publication Number | Publication Date |
---|---|
JPWO2011043051A1 true JPWO2011043051A1 (ja) | 2013-03-04 |
Family
ID=43856535
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2011501830A Pending JPWO2011043051A1 (ja) | 2009-10-07 | 2010-10-04 | 撮像装置および固体撮像素子 |
Country Status (4)
Country | Link |
---|---|
US (1) | US8537256B2 (ja) |
JP (1) | JPWO2011043051A1 (ja) |
CN (1) | CN102177706B (ja) |
WO (1) | WO2011043051A1 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US9066072B2 (en) * | 2010-07-20 | 2015-06-23 | Semiconductor Components Industries, Llc | Systems and methods for calibrating image sensors |
WO2012157209A1 (ja) * | 2011-05-19 | 2012-11-22 | パナソニック株式会社 | 3次元撮像装置、撮像素子、光透過部、および画像処理装置 |
US10110834B2 (en) | 2011-11-07 | 2018-10-23 | Raytheon Company | Hadamard enhanced sensors |
JP6080505B2 (ja) * | 2012-11-06 | 2017-02-15 | キヤノン株式会社 | 像振れ補正装置およびその制御方法 |
US9363425B2 (en) * | 2012-12-06 | 2016-06-07 | Semiconductor Components Industries, Llc | Color filter arrangements for fused array imaging systems |
WO2016200792A1 (en) * | 2015-06-07 | 2016-12-15 | Barrows, Geoffrey, Louis | Localization method and apparatus |
JP2018157074A (ja) * | 2017-03-17 | 2018-10-04 | キヤノン株式会社 | 電子部品、電子部品の製造方法及び電子機器 |
WO2018214284A1 (zh) * | 2017-05-23 | 2018-11-29 | 华为技术有限公司 | 一种应用于终端的拍摄图像的方法及终端设备 |
JP6814762B2 (ja) * | 2018-03-16 | 2021-01-20 | 株式会社日立製作所 | 撮像装置 |
JP7169363B2 (ja) * | 2018-10-03 | 2022-11-10 | 富士フイルム株式会社 | 撮像装置 |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS58137247A (ja) | 1982-02-10 | 1983-08-15 | Hitachi Ltd | 固体撮像装置 |
JPS60187187A (ja) | 1984-03-06 | 1985-09-24 | Matsushita Electronics Corp | 固体撮像装置およびその駆動方法 |
US4907074A (en) * | 1985-10-31 | 1990-03-06 | Canon Kabushiki Kaisha | Image pickup apparatus having color separation filters and forming line-sequential luminance and color-difference signals |
JPS63284979A (ja) | 1987-05-15 | 1988-11-22 | Fujitsu Ltd | 固体撮像装置 |
JPS6469160A (en) | 1987-09-10 | 1989-03-15 | Canon Kk | Picture input device |
JP3907729B2 (ja) * | 1996-02-05 | 2007-04-18 | オリンパス株式会社 | 静止画像撮像装置 |
JP3762049B2 (ja) * | 1997-06-27 | 2006-03-29 | キヤノン株式会社 | 撮像装置及び撮像方法及びその撮像方法を記録した記録媒体 |
JP3970185B2 (ja) * | 2003-01-14 | 2007-09-05 | 富士フイルム株式会社 | 固体撮像素子及びデジタルカメラ |
JP3877695B2 (ja) * | 2003-04-03 | 2007-02-07 | 松下電器産業株式会社 | カラー固体撮像装置 |
JP2005167874A (ja) * | 2003-12-05 | 2005-06-23 | Sanyo Electric Co Ltd | 固体撮像素子及び画像信号処理装置 |
US7157690B2 (en) * | 2004-03-31 | 2007-01-02 | Matsushita Electric Industrial Co., Ltd. | Imaging device with triangular photodetector array for use in imaging |
CN101533202B (zh) * | 2005-07-26 | 2011-04-13 | 松下电器产业株式会社 | 复眼方式的摄像装置 |
JP2008011467A (ja) * | 2006-06-30 | 2008-01-17 | Toshiba Corp | 表示パネルの撮像方法及び表示パネルの撮像装置 |
US7602427B2 (en) * | 2006-07-07 | 2009-10-13 | Honeywell International Inc. | Image sensor that provides raw output comprising compressed data |
JP2009010847A (ja) * | 2007-06-29 | 2009-01-15 | Toshiba Corp | 色成分補間装置及びその方法 |
JP2009093020A (ja) * | 2007-10-10 | 2009-04-30 | Olympus Corp | 光学装置及びその光学装置を用いた撮像装置 |
JP2009116216A (ja) * | 2007-11-09 | 2009-05-28 | Seiko Epson Corp | 画像表示装置及び画像表示方法 |
-
2010
- 2010-10-04 WO PCT/JP2010/005936 patent/WO2011043051A1/ja active Application Filing
- 2010-10-04 US US13/142,021 patent/US8537256B2/en active Active
- 2010-10-04 CN CN2010800028948A patent/CN102177706B/zh not_active Expired - Fee Related
- 2010-10-04 JP JP2011501830A patent/JPWO2011043051A1/ja active Pending
Also Published As
Publication number | Publication date |
---|---|
US8537256B2 (en) | 2013-09-17 |
CN102177706B (zh) | 2013-11-27 |
US20110254985A1 (en) | 2011-10-20 |
CN102177706A (zh) | 2011-09-07 |
WO2011043051A1 (ja) | 2011-04-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
WO2011043051A1 (ja) | 撮像装置および固体撮像素子 | |
US8111982B2 (en) | Imaging device and electronic camera | |
JP5503458B2 (ja) | 固体撮像素子および撮像装置 | |
JP6103301B2 (ja) | 固体撮像装置およびその製造方法、並びに電子機器 | |
JP5739640B2 (ja) | 撮像素子及び撮像装置 | |
RU2490715C1 (ru) | Устройство захвата изображения | |
JP6762766B2 (ja) | 撮像素子、撮像装置、および撮像信号処理方法 | |
JP2013157883A (ja) | 固体撮像素子およびカメラシステム | |
CN105518862A (zh) | 固态成像器件、固态成像器件的驱动方法及电子装置 | |
JP5621059B2 (ja) | カラー撮像素子及び撮像装置 | |
CN104025584B (zh) | 彩色摄像元件及摄像装置 | |
JP2015076476A (ja) | 固体撮像装置およびその製造方法、並びに電子機器 | |
CN103460703B (zh) | 彩色摄像元件及摄像装置 | |
WO2011043045A1 (ja) | 撮像装置、固体撮像素子、画像生成方法、およびプログラム | |
JPWO2010038378A1 (ja) | 画素ずらし型撮像装置 | |
CN106506997B (zh) | 包括相位差检测像素的图像传感器 | |
JP2015115527A (ja) | 固体撮像装置及びカメラシステム | |
JP2015029012A (ja) | 撮像素子および電子機器 | |
JP5698555B2 (ja) | 撮像素子、撮像装置 | |
TWI633790B (zh) | Solid-state imaging device and driving method thereof and electronic device | |
JP2007088732A (ja) | 固体撮像素子 | |
JP2010278664A (ja) | 固体撮像素子及び撮像装置 | |
WO2014097507A1 (ja) | 固体撮像素子 | |
JP2015201778A (ja) | 撮像装置 | |
WO2022149353A1 (ja) | 受光素子、撮像装置及び補正処理方法 |