JP5378627B2 - 撮像装置およびその動作制御方法ならびに撮像システム - Google Patents
撮像装置およびその動作制御方法ならびに撮像システム Download PDFInfo
- Publication number
- JP5378627B2 JP5378627B2 JP2013504504A JP2013504504A JP5378627B2 JP 5378627 B2 JP5378627 B2 JP 5378627B2 JP 2013504504 A JP2013504504 A JP 2013504504A JP 2013504504 A JP2013504504 A JP 2013504504A JP 5378627 B2 JP5378627 B2 JP 5378627B2
- Authority
- JP
- Japan
- Prior art keywords
- filter
- photoelectric conversion
- color
- conversion element
- component
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000003384 imaging method Methods 0.000 title claims description 35
- 238000000034 method Methods 0.000 title claims description 27
- 238000006243 chemical reaction Methods 0.000 claims description 157
- 239000003086 colorant Substances 0.000 claims description 32
- 230000000295 complement effect Effects 0.000 claims description 13
- 238000001914 filtration Methods 0.000 description 6
- 230000014509 gene expression Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 4
- 239000000203 mixture Substances 0.000 description 2
- 230000005484 gravity Effects 0.000 description 1
- 230000012447 hatching Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 230000003595 spectral effect Effects 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/40—Scaling of whole images or parts thereof, e.g. expanding or contracting
- G06T3/4015—Image demosaicing, e.g. colour filter arrays [CFA] or Bayer patterns
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/84—Camera processing pipelines; Components thereof for processing colour signals
- H04N23/843—Demosaicing, e.g. interpolating colour pixel values
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/10—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
- H04N23/12—Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/134—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Color Television Image Signal Generators (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Solid State Image Pick-Up Elements (AREA)
Description
第25図は,第24a図に示す固体電子撮像素子1の一行の光電変換素子を示している。水平方向において,同じ特性を有するカラー・フィルタが形成されている光電変換素子2に蓄積された信号電荷が混合されている。カラー・フィルタは一個おきに同じ特性となっているので,画素混合後の画像はロウ・パス・フィルタを通過したように解像度が低下してしまう。
さらに,第26a図に示すように,固体電子撮像素子1の光電変換素子2の列に対応した周期の画像が固体電子撮像素子1上に結像している場合において,第26b図に示すように,3×3の光電変換素子2のブロックごとに信号電荷を混合すると,そのブロック内での赤色のレベルは8ビットで255,緑色のレベルは8ビットで128,青色のレベルは0となり,第26c図に示すように,オレンジ色となってしまう(色モアレ)。
従来は,固体電子撮像素子の受光面前方に光学的ロウ・パス・フィルタを配置し,被写体像の高周波数成分を除去することにより,色モアレの発生などを抑えていた。しかしながら,解像度が低下してしまう。
このために,固体電子撮像素子のフィルタ配列を,任意の着目画素が,その着目画素の色を含む3色と着目画素の4辺のいずれかにいて隣接する配列制限条件を満たす3色ランダム配列としたものがある(特開2000−308080号公報)。しかしながら,同時化処理をランダム・パターンごとに最適化する必要があり,煩雑となる。また,高周波成分による偽色には有効ではない。
また,分光感度が異なる複数のフィルタを有し,そのうちの第1のフィルタと第2のフィルタとが,画像格子の一方の対角方向に第1の所定周期で交互に配置され,他方の対角方向に第2の所定周期で交互に配置されているセンサもある(特開2005−136766号公報)。しかしながら,画素再現精度が高くない。水平,垂直のエッジ以外のパターンに対しても最適な補間を行うものもある(特許第4350706号公報)。
さらに,画素を間引くことにより,データ量を少なくしてフレーム・レートを高くする場合には,間引き処理が行われた後で画素補間処理が行われており,処理が煩雑とならざるを得ない。また,偽信号も発生してしまう。
また,この発明は,データ量が少なくされた画像から偽信号の発生を未然に防止することを目的とする。
この発明による固体電子撮像装置は,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する第1の映像信号混合回路を備えていることを特徴とする。
この発明は,上記固体電子撮像装置に適した動作制御方法も提供している。すなわち,この方法は,固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,映像信号混合回路が,上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力するものである。
この発明によると,固体電子撮像素子から出力される映像信号は,第1の映像信号混合回路において,同じフィルタ特性を有するカラー・フィルタが形成されている光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号が,混合後の映像信号のレベルが色成分ごとに等しくなるような重み付け係数で重み付けがされて混合される。映像信号が混合されるので,実質的に映像信号の信号量が少なくなる。
この発明は,上記の固体電子撮像装置を利用した撮像システムも提供している。すなわち,この撮像システムは,上述した撮像装置を備え,水平方向および垂直方向にそれぞれ3つの上記小ブロックから構成される1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号レベルが色成分ごとに等しくなる第2の重み付け係数を用いて上記第1の映像信号混合回路から出力される映像信号について色成分ごとに混合して出力する第2の映像信号混合回路を備えていることを特徴とする。
この発明によると,1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号のレベルが色成分ごとに等しくなる第2の重み付け係数を用いて,第1の映像信号混合回路から出力される映像信号について色成分ごとに混合される。映像信号を混合した場合に,特定の色のみが他の色と比べて大きくならずに,三原色または3つの補色の色成分のレベルが1つの大ブロック中の水平方向および垂直方向の1ラインにおいて色成分ごとに等しくなるので,偽色の発生を未然に防止できる。
上記撮像システムにおいて,水平方向および垂直方向にそれぞれ二つの上記小ブロックから構成される一つの中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは,たとえば,水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも1つ含まれているものである。
また,上記撮像システムにおいて,上記中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタは水平方向および垂直方向に2つずつ連続している部分が少なくとも1つ含まれているものである。上記小ブロックに,中央の光電変換素子を中心に点対称となるように上記色の三原色または上記3つの補色の光成分を透過するフィルタ特性を有する3種類のカラー・フィルタがすべて含まれているようにすることが好ましい。上記第1の小ブロックにおいて赤色またはシアンの色の光成分を透過するフィルタ特性を有するカラー・フィルタまたは青色ましくはマゼンタの色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきに形成されているものでもよい。
第2図は,固体電子撮像素子の受光面の一部を示している。
第3a図から第3c図は,画素補間の一例である。
第4a図から第4c図は,フィルタの一例である。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
第6図は,固体電子撮像素子の受光面の一部を示している。
第7図は,固体電子撮像素子の受光面の一部を示している。
第8図は,固体電子撮像素子の受光面の一部を示している。
第9a図から第9c図は,画素補間の一例である。
第10a図から第10c図は,フィルタの一例である。
第11図は,画像に対し,フィルタ係数を当てはめたものである。
第12図は,画像の一部を示している。
第13図は,画像の一部を示している。
第14図は,フィルタの一例である。
第15図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第16図は,フィルタ処理を示している。
第17図は,固体電子撮像素子の受光面の一部を示している。
第18図は,固体電子撮像素子の受光面の一部を示している。
第19図は,画像に対し,フィルタ係数を当てはめたものである。
第20図は,画像の一部を示している。
第21図は,画像に対し,フィルタ係数を掛けたものを当てはめたものである。
第22図は,フィルタ処理を示している。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。
第24a図は,固体電子撮像素子の受光面の一部を示し,第24b図および第24c図は画像の一部を示している。
第25図は,画素混合を示している。
第26a図から第26c図は,画像の一部を示している。
固体電子撮像素子10には,水平方向および垂直方向に多数の光電変換素子11が配列されている。光電変換素子11の受光面上には,色の三原色である赤色,緑色および青色のうち,赤色の光成分を透過するフィルタ特性を有する赤色フィルタ(符号Rで示す),緑色の光成分を透過するフィルタ特性を有する緑色フィルタ(符号Gで示す)または青色の光成分を透過するフィルタ特性を有する青色フィルタ(符号Bで示す)のいずれかのカラー・フィルタが形成されている。
第1図に示す光電変換素子10におけるカラー・フィルタの配列はベイヤ配列と呼ばれるものである。奇数行奇数列の光電変換素子10の受光面上に赤色フィルタRが形成され,偶数行偶数列の光電変換素子10の受光面上に青色フィルタBが形成され,奇数行偶数列および偶数行奇数列の光電変換素子10の受光面上に緑色フィルタGが形成されている。
第2図は,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を示している。
小ブロック12では,中心の光電変換素子11Aには青色フィルタBが形成されている。中心の光電変換素子11Aの上下左右の光電変換素子11には緑色フィルタGが形成されており,中心の光電変換素子11Aの斜め方向には赤色フィルタRが形成されている。このように,ベイヤ配列では,水平方向および垂直方向にそれぞれ3つの光電変換素子11から構成される小ブロック12を考えた場合,小ブロック12に含まれる光電変換素子11に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子11Aを中心に点対称となるようにカラー・フィルタが形成されている。中心の光電変換素子11Aに形成されているカラー・フィルタが青色フィルタBの場合だけでなく,中心の光電変換素子11Aに形成されているカラー・フィルタが赤色フィルタRまたは緑色フィルタGの場合でも同様である。
赤色フィルタRが形成されている光電変換素子11には赤色の光成分を表わす信号電荷が蓄積され,緑色フィルタGが形成されている光電変換素子11には緑色の光成分を表わす信号電荷が蓄積され,青色フィルタBが形成されている光電変換素子11には青色の光成分を表わす信号電荷が蓄積される。蓄積された信号電荷が固体電子撮像素子10から読み出されることにより,被写体像を表わす映像信号が得られる。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第3a図から第3c図は,この実施例による画素混合の方法を示している。この実施例による画素混合は,画像の縮小と画素補間とを同時に行うものである。
第3a図は,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,赤色フィルタRが形成されている光電変換素子12から得られる画素を用いて,赤色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの右斜め下,右斜め上,左斜め下および左斜め上の光電変換素子11にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子11に対応する画素から赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの右斜め下,右斜め上,左斜め下および左斜め上の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される(水平方向および垂直方向ともに1/3に縮小)。
第3b図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子12のうち,緑色フィルタGが形成されている光電変換素子12から得られる画素を用いて,緑色成分をもつ中央の画素13Aが生成される。第2図に示すように,中央の光電変換素子11Aの上下左右の光電変換素子11にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子11に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。緑色成分をもつ中央の画素13Aは存在しないから,その中央の画素13Aの上下左右の緑色成分をもつ画素Gが混合されることにより,緑色成分をもつ中央の画素13Aが生成されるとともに画像部分13が縮小される。
第3c図も,第2図に示す小ブロック12を構成する光電変換素子11から得られる3画素×3画素の画像部分13を示している。第2図に示す小ブロック12を構成する光電変換素子11のうち,中央の光電変換素子11Aには,青色フィルタBが形成されているから,青色成分をもつ中央の画素13Aが得られている。なお,本実施例では,上記処理を小ブロック12の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素13Aを生成しても良い。
第4a図から第4c図は,第3a図から第3c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第4a図は,第3a図に示すように赤色成分をもつ中央の画素13Aを生成するためのフィルタ16を示している。フィルタ16は,3画素×3画素の画像部分13に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はすべて1である。空白の箇所のフィルタ係数は0である。
第4b図は,第3b図に示すように緑色成分をもつ中央の画素13Aを生成するためのフィルタ17を示している。フィルタ17も3画素×3画素の画像部分13に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。これらのフィルタ係数もすべて1である。
第4c図は,第3c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ18を示している。フィルタ18も3画素×3画素の画像部分13に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数は4である。
第2図に示す小ブロック12から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第4a図,第4b図および第4c図に示すフィルタ16,17および18を用いてフィルタ処理が行われることにより,第3a図,第3b図および第3c図に示す処理が行われることと等価となる(但し,実際にはデータ量を維持するためにフィルタ処理により得られた値に1/4が乗じられる)。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック12の中央の画素位置とするように混合処理することで,小ブロック12の中央の画素位置における各色成分の画素13Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素補間処理と画像の縮小処理とが同時に行われることとなる。
第5図は,ディジタル・カメラの電気的構成を示すブロック図である。
ディジタル・カメラの全体の動作は制御装置20によって統括される。ディジタル・カメラには,撮像装置21が含まれている。この撮像装置21に上述した固体電子撮像素子10が含まれている。固体電子撮像素子10は,駆動回路30によって駆動される。
撮像素子10の前方には撮像レンズ22が設けられており,撮像レンズ22によって被写体像が撮像素子10の受光面に結像する。撮像素子10からは,被写体像を表わす映像信号が出力され,アナログ/ディジタル変換回路24においてディジタル画像データに変換される。変換されたディジタル画像データは画素混合装置29に入力する。画素混合装置29において上述したように画素補間および画像の縮小処理が行われる。
画素混合装置29に入力した画像データは,切り換えスイッチ25に与えられる。静止画記録時には切り換えスイッチ25はS1端子側が接続され,上述したように画素補間および画像の縮小処理が行われる場合(例えば,スルー画撮像,ムービ撮像時)には切り替えスイッチ25はS2端子側が接続される。
切り替えスイッチ25のS2端子側が接続されていると,画像データはメモリ26に与えられ,一時的に記憶される。
第3a図に示したように赤色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。赤色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4a図に示すものとなる。上述したように,赤色成分の画素についての画素補間および縮小処理が実現される。
同様に,第3b図に示したように緑色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。緑色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4b図に示すものとなる。上述したように,緑色成分の画素についての画素補間および縮小処理が実現される。
また,第3c図に示したように青色成分の画素を表わす画像データがメモリ26から読み出されてフィルタ27に入力する。青色成分の画素を表わす画像データがフィルタ27に入力するときには,フィルタ27のフィルタ係数は第4c図に示すものとなる。上述したように,青色成分の画素についての画素補間および縮小処理が実現される。
フィルタ27から出力された画像データは,切り替えスイッチ28のS2端子に与えられる。切り替えスイッチ28も切り替えスイッチ25と同様に,静止画記録時にはS1端子側が接続され,画素補間および画像の縮小処理が行われる場合(例えば,ムービ撮像時)にはS2端子側が接続される。フィルタ27から出力された画像データは画像処理回路31において所定の処理が行われて出力されることとなる。静止画記録時に得られる画像データは画素混合装置29における処理は行われずに画像処理回路31に入力する。画像処理回路31において所定の画像処理が行われて出力する。
第6図から第17図は,他の実施例を示している。
第6図は,固体電子撮像素子40の受光面の一部を示している。
固体電子撮像素子40にも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。
第6図では,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている。このように,水平方向および垂直方向にそれぞれ9つの光電変換素子42から構成されるブロックを大ブロック41と呼ぶこととする。大ブロック41は,後述のように小ブロックを水平方向および垂直方向にそれぞれ3つずつのものに等しく小ブロック9個分と等しい。
第7図は,第6図に示す固体電子撮像素子40の受光面のうち,水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものである。
水平方向および垂直方向にそれぞれ6つの光電変換素子42が抽出されたものを中ブロック43と呼ぶこととする。中ブロック43は,後述のように小ブロックを水平方向および垂直方向にそれぞれ2つずつのものに等しく小ブロック4個分と等しい。
中ブロック43では,水平方向および垂直方向において緑色フィルタG,赤色フィルタRおよび青色フィルタBが少なくとも一つずつ形成されており,この中ブロック43を繰り返し配列することでいずれの水平方向,垂直方向および斜め方向においても緑色フィルタGが少なくとも一つは形成されている。また,中ブロック43においては,緑色フィルタGが水平方向,垂直方向および斜め方向において2つ連続している部分が少なくとも一つは含まれている。さらに,中ブロック43においては,緑色フィルタGが水平方向および垂直方向において2つ連続している部分が少なくとも一つは含まれている。中ブロック43のカラー・フィルタの配列が水平方向および垂直方向において繰り返されて,固体電子撮像素子40のカラー・フィルタの配列となる。
たとえば,中ブロック43では,緑色フィルタGは,第6n(nは正の整数)+1行,第6n+3行,第6n+4行および第6n+6行では,第6m(mは正の整数)+1列,第6m+3列,第6m+4列および第6m+6列に形成されており,第6n+2行および第6n+5行では,第6m+2列,第6m+5列に形成されている。同様に,青色フィルタBは,第6n+1行および第6n+3行では第6m+2列に,第6n+2行では第6m+4列および第6m+6列に,第6n+4行および第6n+6行では第6m+5列に,第6n+5行では第6m+1列および第6m+3列にそれぞれ形成されている。赤色フィルタRは,第6n+1行では第6m+5列に,第6n+2行では第6m+1列および第6m+3列に,第6n+4行および第6n+6行では第6m+2列に,第6n+5行では第6m+4列および第6m+6列にそれぞれ形成されている。
第8図は,固体電子撮像素子40の一部を構成するものであり,水平方向および垂直方向にそれぞれ3画素の光電変換素子41から構成される小ブロック44を示している。
小ブロック44では,中心ならびに中心の斜め左上,斜め左下,斜め右上および斜め右下に緑色フィルタGが形成されている。中心に形成されている緑色フィルタGの上下には青色フィルタBが形成され,中心に形成されている緑色フィルタGの左右には赤色フィルタRが形成されている。
中心に形成されている緑色フィルタGの上下に青色フィルタBが形成され,その緑色フィルタGの左右に赤色フィルタRが形成されている小ブロック44と,その小ブロック44に形成されている青色フィルタBと赤色フィルタRとの位置が逆の小ブロックとが水平及び垂直方向に交互に繰り返されて固体電子撮像素子40(大ブロック41,中ブロック43)のカラー・フィルタ配列となる。
小ブロック44においても,小ブロック44に含まれる光電変換素子41に赤色フィルタR,緑色フィルタGおよび青色フィルタBのすべてが含まれ,かつ中心の光電変換素子41Aを中心に点対称となるようにカラー・フィルタが形成されている。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタがベイヤ配列にしたがって形成されていてもよい。
第9a図から第9c図は,この実施例による画素混合の方法を示している。この実施例による画素混合も,画像の縮小と画素補間とを同時に行うものである。
第9a図は,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,赤色フィルタRが形成されている光電変換素子41から得られる画素を用いて,赤色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子45Aの左右の光電変換素子41にカラー・フィルタRが形成されている。カラー・フィルタRが形成されている光電変換素子41に対応する画素からが赤色成分を表わす画素R(カラー・フィルタと同じ符号を付す)が得られる。赤色成分をもつ中央の画素45Aは存在しないから,その中央の画素45Aの左右の赤色成分をもつ画素Rが混合されることにより,赤色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9b図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,緑色フィルタGが形成されている光電変換素子41から得られる画素を用いて,緑色成分をもつ中央の画素45Aが生成される。第8図に示すように,中央の光電変換素子41Aおよび中央の光電変換素子41Aの斜め左上,斜め左下,斜め右上および斜め右下の光電変換素子41にカラー・フィルタGが形成されている。カラー・フィルタGが形成されている光電変換素子41に対応する画素から緑色成分を表わす画素G(カラー・フィルタと同じ符号を付す)が得られる。この場合も緑色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。
第9c図も,第8図に示す小ブロック44を構成する光電変換素子41から得られる3画素×3画素の画像部分45を示している。第8図に示す小ブロック44を構成する光電変換素子41のうち,中央の光電変換素子41Aの上下に,青色フィルタBが形成されているから,第9c図に示すように中央の画素45Aの上下にある青色成分をもつ画素から青色成分をもつ中央の画素45Aが生成されるとともに画像部分45が縮小される。なお,本実施例では,上記処理を小ブロック44の3画素×3画素の全ての画素を用いて行っているが,全ての画素を用いずに各色成分の中央の画素45Aを生成しても良い。
第10a図から第10c図は,第9a図から第9c図に示す方法で画素補間および縮小を行うためのフィルタ(ディジタル・フィルタ)の一例である。
第10a図は,第9a図に示すように赤色成分をもつ中央の画素45Aを生成するためのフィルタ47を示している。フィルタ47は,3画素×3画素の画像部分45に対応するもので,赤色成分を有する画素Rに乗じるフィルタ係数(重み付け係数)が規定されている。これらのフィルタ係数はいずれも4である。
第10b図は,第9b図に示すように緑色成分をもつ中央の画素45Aを生成するためのフィルタ48を示している。フィルタ48も3画素×3画素の画像部分45に対応するもので,緑色成分を有する画素Gに乗じるフィルタ係数が規定されている。中央の画素Gに乗じるフィルタ係数が4であり,その他の画素Gに乗じるフィルタ係数はすべて1である。
第10c図は,第9c図に示すように青色成分をもつ中央の画素13Aを生成するためのフィルタ49を示している。フィルタ49も3画素×3画素の画像部分45に対応するもので,青色成分を有する画素Bに乗じるフィルタ係数が規定されている。このフィルタ係数はいずれも4である。
第8図に示す小ブロック44から得られる3画素×3画素から構成される画像部分を表す画像データに対して,第10a図,第10b図および第10c図に示すフィルタ47,48および49を用いてフィルタ処理が行われることにより,第9a図,第9b図および第9c図に示す処理が行われることと等価となる。また以上の処理は,赤色成分,緑色成分,青色成分の加重平均の重心を小ブロック44の中央の画素位置とするように混合処理することで,小ブロック44の中央の画素位置における各色成分の画素45Aを生成する処理と等価である。
以上の処理が行われることにより,画素補間処理と画像の縮小処理とが同時に行われることとなる。他の画素についても同様の処理が行われ1フレームの画像について画素間処理と画像の縮小処理とが同時に行われることとなる。
第11図は,第6図に示すカラー・フィルタ配列をもつ撮像素子42を用いて被写体を撮像することにより得られる画像に対し,第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。
第11図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。第11図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4+4=8,緑色成分については4+4+4=12,青色成分については4+4+4+4=16となってしまい,赤色成分,緑色成分および青色成分の比率が2:3:4となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
第12図は,被写体像70の一例である。
この被写体像70は,第6図に示す撮像素子42の水平方向の画素の解像度と同じ解像度をもつもので,各列71の幅と光電変換素子41の幅とが等しくなっている。
第12図に示すような被写体像70が,第6図に示す撮像素子40の受光面上に結像し,かつ第10a図から第10c図に示すフィルタ47から49を用いてフィルタ処理が行われると,第13図に示す画像80となる。
第13図を参照して,画像80には水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81,82および83が含まれている。第1行のブロック81は青色となり,第2行のブロック82はオレンジ色となり,第3行のブロック83は青色となる。この実施例では,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われるものである。
第14図は,フィルタ61の一例である。
第1行から第3行および第7行から第9行までは,第1列から第3列および第7列から第9列のフィルタ係数は1であり,第1行から第3行および第7行から第9行までは,第4列から第6列,第4行から第6行までは第1列から第3列および第7列から第9列のフィルタ係数は2であり,第4行から第6行までは第4列から第6列までのフィルタ係数は4である。各ブロック62は3画素×3画素に対応して形成されている。
第15図は,第11図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第15図においても第11図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第15図においては,第11図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16+16=32,緑色成分では8+8+16=32,青色成分では8+8+8+8=32であり,1:1:1の色成分の関係が保たれている。この結果,偽色の発生が防止される。
第16図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示している。
第10a図から第10c図に示すフィルタ47から49を用いて画像がフィルタ処理された場合に得られる第13図に示す画像80は,第1行のブロック81および第3行のブロック83については赤色成分が0,緑色成分が8ビット標記で128,青色成分が8ビット標記で255となっている。また,画像80の第2行のブロック82については赤色成分が255,緑色成分が128,青色成分が0となっている。
このような画像80にフィルタ61を用いてフィルタ処理が行われると,画像80のブロック82の中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式1から式3で表される。
赤色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式1
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式2
青色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式3
式1から式3を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90で示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80に対してフィルタ処理が行われる。フィルタ61の処理103は,フィルタ27の処理と異なり,画素混合による間引きは行われない。画像80に対し3×3のフィルタ61のフィルタ処理が行われると,画像80の中央真ん中の大きい1画素(90)について比率が1:1:1となり,引き続き隣接する画像80内の大きい1画素に移動して3×3のフィルタ61のフィルタ処理が行われる処理が繰りかされることにより,偽色が修正される。一方,図10等の最初のフィルタ処理は,フィルタ61の処理と対比的に見ると,3×3の中央の画素を対象とするフィルタ処理のみ行っているとも言える。
上述した実施例において,偽色の発生を防止できる理由について述べる。
第17図は,固体電子撮像素子40のカラー・フィルタ配列を示すもので,第6図に示すものに対応している。第17図において,第6図に示すものと同一物については同一符号が付されている。
上述したように,第17図に示すカラー・フィルタ配列を有する固体電子撮像素子40の受光面上に,第12図に示したように,第17図に示す固体電子撮像素子40の水平方向の解像度と同じ解像度をもつ被写体像が結像すると,第13図に示すように,第1行のブロック81および第3行のブロック81では青色に,第2行のブロック82はオレンジとなり,偽色が発生する。
第17図において,第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr1およびBr3ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr2が第13図に示す第1行のブロック81に対応する。第6n+4行から第6n+6行の第6m+1列から第6m+3列の光電変換素子の小ブロックBr4およびBr6ならびに第6n+4行から第6n+6行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr5が第13図に示す第2行のブロック82に対応する。第6n+1行から第6n+3行の第6m+1列から第6m+3列の光電変換素子のブロックのうち,小ブロックBr7およびBr9ならびに第6n+1行から第6n+3行の第6m+4列から第6m+6列の光電変換素子の小ブロックBr8が第13図に示す第3行のブロック83に対応する。
第13図において,第1行のブロック81は青色になっているが,これは,第17図の第1行の小ブロックBr1および小ブロックBr3においては,赤色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第1行の小ブロックBr2においては,赤色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。また,第13図において,第2行のブロック82はオレンジとなっているが,第17図の第2行の小ブロックBr4および小ブロックBr6においては,青色の光成分を透過するフィルタが形成されている第6m+1列および第6m+3列の被写体像(第12図に示す被写体像70)のレベルが0となり,第17図の第2行の小ブロックBr5においては,青色の光成分を透過するフィルタが形成されている第6m+5行の被写体像のレベルが0となるからである。第13図において,第3行のブロック83が青色になっている理由は第1行のブロック81が青色になっている理由と同じである。
この実施例では,小ブロックBr1−Br9においては緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは各行および各列の光電変換素子の受光面上に形成されているが,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。同様に,奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている光電変換素子の位置に対応する偶数行の小ブロックBr4−Br6の位置にある光電変換素子の位置に赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
このように,奇数行の小ブロックBr1−Br3,Br7−Br9と偶数行の小ブロックBr4−Br6との間で,青色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置と赤色の光成分を透過するフィルタ特性を有するカラー・フィルタの配置とが逆となっているために,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数値として,第15図に示したような赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるよう第14図のフィルタ係数を設定する。
また,この実施例によるカラー・フィルタ配列では,次のように,いわゆるA配列とB配列とが水平方向および垂直方向に交互に繰り返されていると表わすこともできる。
すなわち,いわゆるA配列(たとえば,小ブロックBr1)では,第17図に示す小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成され,小ブロックBr1に示すように赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の行(第6n+2行)の両端に形成され,青色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央の列(第6m+2列)の両端に形成される。いわゆるB配列(たとえば,小ブロックBr4,Br2)では,A配列と同様に,小ブロックBr1−Br9のそれぞれの小ブロック内において,緑色の光成分を透過するフィルタ特性を有するカラー・フィルタは中央と四隅に形成されるが,小ブロックBr4(または小ブロックBr2)に示すように,小ブロックBr1では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の行(第6n+5行または第6n+2行)の両端には青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成され,小ブロックBr1では青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていた中央の列(第6m+2列または第6m+5列)の両端には赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成される。
偶数行の小ブロックBr4−Br6では赤色の光成分を透過するフィルタ特性を有するカラー・フィルタは,奇数行の小ブロックBr1−Br3,Br7−Br9において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面に形成されている。奇数行の小ブロックBr1−Br3,Br7−Br9において青色の光成分を透過するフィルタ特性を有するカラー・フィルタは,偶数行の小ブロックBr4−Br6において青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されていない光電変換素子の受光面上に形成されている。したがって,第12図のような撮像素子42の水平方向の解像度と同じ解像度の被写体像が結像した場合であっても,第14図のようなフィルタ演算により隣接する小ブロックから得られる映像信号にもとづいて偽色を補正できる。その際,フィルタ係数を適切に設定するのは上述した通りである。
このように,小ブロックBr1において赤色の色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの光電変換素子おきの光電変換素子の受光面上に形成されており,小ブロックBr1に垂直方向に隣接する小ブロックBr4(水平方向に隣接する小ブロックBr2)においては,小ブロックBr1において赤色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている位置に対応する位置にある光電変換素子の受光面上に青色の光成分を透過するフィルタ特性を有するカラー・フィルタが形成されている。
また,ベイヤ配列では,赤色の光成分を透過する特性を有するカラー・フィルタおよび青色の光成分を透過する特性を有するカラー・フィルタは,いずれも水平方向に1画素おきに配列されており,同一列および同一行には赤色の光成分を透過する特性を有するカラー・フィルタまたは青色の光成分を透過する特性を有するカラー・フィルタしか存在しないので,第26c図のようにオレンジ色の偽色しか生じない。第14図のようなフィルタ演算を行っても隣接ブロックにも青色の光成分が存在しないので上述のように偽色を補正できない。
これに対し,この実施例によるカラー・フィルタ配列では,中ブロック(基本配列パターン)において,水平方向および垂直方向のすべてに緑色の光成分,青色の光成分および赤色の光成分を透過するフィルタ特性をもつカラー・フィルタが少なくとも1つ形成されているため,フィルタ演算により隣接する小ブロックからの映像信号にもとづいて偽色を補正できる。その際,フィルター係数値として,赤色成分,緑色成分,青色成分の係数の和の比率が1:1:1となるようフィルタ係数が設定されるのはいうまでもない。
第18図から第22図は,他の実施例を示すものである。
第18図は,固体電子撮像素子40Aの受光面の一部を示すもので,第6図に対応している。
固体電子撮像素子40Aにも水平方向および垂直方向に多数の光電変換素子41が配列されている。これらの光電変換素子41の受光面上には上述したのと同様に,赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されている。第18図に示す固体電子撮像素子40Aのフィルタ配列は,第6図に示す固体電子撮像素子40のフィルタ配列と異なっている。
第18図に示す固体電子撮像素子40Aにおいても,第6図に示す固体電子撮像素子40と同様に,水平方向および垂直方向にそれぞれ9つの光電変換素子42が抽出されている(大ブロック41)。上述したように,大ブロック41は,水平方向および垂直方向にそれぞれ3つの光電変換素子は42から構成される9個分の小ブロックBr11−Br19と等しい。
これらの小ブロックBr11−Br19のそれぞれにおいて,中央の光電変換素子42の上下および左右の光電変換素子42の受光面上には緑色の光成分を透過する緑色フィルタGが形成されている。中央の光電変換素子42の受光面上には赤色の光成分を透過する赤色フィルタRまたは青色の光成分を透過する青色フィルタBが形成されている。中央の光電変換素子42の受光面に赤色フィルタRが形成されている場合には,四隅の光電変換素子42の受光面には青色フィルタBが形成されており,中央の光電変換素子42の受光面に青色フィルタBが形成されている場合には四隅の光電変換素子42の受光面には赤色フィルタRが形成されている。
また,上下または左右に隣接する小ブロックBr11−Br19同士では,中央の光電変換素子42に形成されているフィルタおよび四隅の光電変換素子42に形成されているフィルタは異なっている。たとえば,第18図において左上の小ブロックBr11の中央の光電変換素子42には赤色フィルタRが形成されており,四隅の光電変換素子42には青色フィルタBが形成されているが,この小ブロックBr11の右隣および下の小ブロックBr12および小ブロックBr14の中央の光電変換素子42には青色フィルタBが形成されており,四隅の光電変換素子42には赤色フィルタRが形成されている。このように,小ブロックBr11において赤色フィルタR(または青色フィルタB)が形成されている光電変換素子42の位置に対応する小ブロックBr12および小ブロックBr14の位置にある光電変換素子42の受光面には青色フィルタB(または赤色フィルタR)が形成されている。小ブロックBr11と小ブロックBr12および小ブロックBr14だけでなく,他の小ブロックについても同様の関係が成立する。
第18図においては,9つの小ブロックBr11−Br19からなる大ブロック41のみが図示されているが,そのような小ブロックが水平方向および垂直方向に繰り返されていることはいうまでもない。
上記の例では,光電変換素子11の受光面上に赤色フィルタR,緑色フィルタGまたは青色フィルタBが形成されているが,三原色の補色であるシアンCの光成分を透過する特性を有するシアン・フィルタ,マゼンタMの光成分を透過する特性を有するマゼンタ・フィルタまたはイエローYの光成分を透過する特性を有するイエロー・フィルタが形成されていてもよい。
第18図に示す固体電子撮像素子40Aにおける画素混合は,第3a図から第3c図にもとづいて行われればよい。上述したのと同様に,画像の縮小と画素補間とが同時に行われるのは理解できよう。また,そのような画素混合は,第4a図から図4c図に示すディジタル・フィルタ16−18を利用すればよい。
第19図は,第18図に示すカラー・フィルタ配列をもつ撮像素子40Aを用いて被写体を撮像することにより得られる画像50Aに対し,第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理するときの各フィルタ係数を並べて表示したものである。第19図は,第11図に対応している。
第19図において,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられるフィルタ係数を示している。上述したのと同様に,第19図において水平方向の中央のラインにある画素のフィルタ係数を色成分ごとに加算すると,赤色成分については4,緑色成分については1+1+1+1=4,青色成分については4+4=8となってしまい,赤色成分,緑色成分および青色成分の比率が1:1:2となっており,1:1:1となっていない。垂直方向の中央のラインにある画素のフィルタ係数についても同様である。
上述したのと同様に,第12図に示すような被写体像70が,第18図に示す撮像素子40Aの受光面上に結像し,かつ第4a図から第4c図に示すフィルタ16から18を用いてフィルタ処理が行われると,第20図に示す画像80となる。
第20図を参照して,画像80Aには水平方向および垂直方向にそれぞれ3つのブロック(3画素×3画素から構成される)81A,82Aおよび83Aが含まれている。第1行のブロック81Aはオレンジ色となり,第2行のブロック82Aは青色となり,第3行のブロック83Aはオレンジ色となる。この実施例においても,赤色成分,緑色成分および青色成分の比率が1:1:1となるように,さらにフィルタ処理が行われる。
第21図は,第19図に示すフィルタ係数に対して第14図に示すフィルタ61の重み付け係数を掛け合わせたものである。
第21図においても第19図と同様に,R,GまたはBの符号は,それぞれの画素が有する色成分を示している。括弧内の数字は,それぞれの画素に乗じられたフィルタ係数を示している。
第21図においては,第19図に示すものと異なり,水平方向および垂直方向の中央のラインにおいてフィルタ係数の和は赤色成分では16,緑色成分では2+2+4+4+2+2=16,青色成分では8+8=16であり,1:1:1の色成分の関係が保たれている。
第22図は,第14図に示すフィルタ61を利用してフィルタ処理が行われる様子を示すもので,第16図に対応している。
上述のように,第20図に示す画像80Aは,第1行のブロック81Aおよび第3行のブロック83Aについては赤色成分が255,緑色成分が8ビット標記で128,青色成分が8ビット標記で0となっている。また,画像80Aの第2行のブロック82Aについては赤色成分が0,緑色成分が128,青色成分が255となっている。
このような画像80Aにフィルタ61を用いてフィルタ処理が行われると,上述した式1から式3と同様に,画像80Aのブロック82Aの中央の領域の赤色成分,緑色成分および青色成分のそれぞれについて式4から式6で表される。
赤色成分=(255×1+255×2+255×1+0×2+0×4+0×2+255×1+255×2+255×1)/16=128・・・式4
緑色成分=(128×1+128×2+128×1+128×2+128×4+128×2+128×1+128×2+128×1)/16=128・・・式5
青色成分=(0×1+0×2+0×1+255×2+255×4+255×2+0×1+0×2+0×1)/16=128・・・式6
式4から式6を参照すれば分るように,赤色成分,緑色成分および青色成分の比率が1:1:1となり,ブロック(3画素×3画素から構成される)90Aで示すように偽色の発生が防止される。このようなフィルタ61によるフィルタ処理が,隣接する隣の領域に移動して順次行われ,これを繰り返すことで画像80Aに対してフィルタ処理が行われる。
第23図は,ディジタル・カメラの電気的構成を示すブロック図である。この図において,第5図に示す回路と同一物については同一符号を付して説明を省略する。
撮像素子40は,第6図に示すカラー・フィルタの配列をもつものが利用される。上述したように,画素混合装置(第1の画素混合装置)29において,第9a図から第9c図および第10a図から第10c図を参照して説明したように第1のフィルタ処理が行われる。第1のフィルタ処理が行われた画像データは第2の画素混合装置100に入力する。
第2の画素混合装置100に入力した画像データは切り替えスイッチ101に与えられる。切り替えスイッチ101は,切り替えスイッチ25および28と同様に,上述したフィルタ処理等が行われる場合にはS2端子が接続され,ユーザーの指示などによりフィルタ処理を行わない時にはS1端子が接続される。後述の切り替えスイッチ104も同様である。
切り替えスイッチ101のS2端子が接続されて画像データがメモリ102に入力すると入力した画像データはメモリ102に一時的に記憶される。画像データはメモリ102から読み出され,第14図に示すフィルタ係数をもつフィルタ103においてフィルタ処理が行われる。フィルタ103から画像データが切り替えスイッチ104を介して出力される。出力された画像データは偽色の発生が防止されたものとなる。なお,上記実施の形態においては撮像素子から出力された映像信号をアナログ/ディジタル変換したディジタル画像データに対して上述の画素混合処理を行う例を示したが,撮像素子としてCMOSを用いた場合には,撮像素子から映像信号を読み出す際に,上述の画素混合処理を行うようにしても良い。
Claims (7)
- 水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力する固体電子撮像素子,ならびに
上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する第1の映像信号混合回路,
を備えた撮像装置。 - 請求の範囲第1項に記載の撮像装置を備え,
水平方向および垂直方向にそれぞれ3つの上記小ブロックから構成される1つの大ブロック中の水平方向および垂直方向の1ラインにおいて混合後の映像信号レベルが色成分ごとに等しくなる第2の重み付け係数を用いて上記第1の映像信号混合回路から出力される映像信号について色成分ごとに混合して出力する第2の映像信号混合回路,
を備えた撮像システム。 - 水平方向および垂直方向にそれぞれ二つの上記小ブロックから構成される一つの中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向,垂直方向および斜め方向のすべてにおいて2つ連続している部分が少なくとも1つ含まれている,
請求の範囲第2項に記載の撮像システム。 - 上記中ブロックに含まれる光電変換素子の受光面に形成されている緑色またはイエローの光成分を透過するカラー・フィルタが水平方向および垂直方向に2つずつ連続している部分が少なくとも1つ含まれている,
請求の範囲第3項に記載の撮像システム。 - 上記小ブロックに,中央の光電変換素子を中心に点対称となるように上記色の三原色または上記3つの補色の光成分を透過するフィルタ特性を有する3種類のカラー・フィルタがすべて含まれている,
請求の範囲第1項に記載の撮像システム。 - 上記第1の小ブロックにおいて赤色もしくはシアンの色の光成分を透過するフィルタ特性を有するカラー・フィルタまたは青色もしくはマゼンタの色の光成分を透過するフィルタ特性を有するカラー・フィルタは水平方向または垂直方向に一つの上記光電変換素子おきに形成されている,
請求の範囲第1項に記載の撮像システム。 - 固体電子撮像素子が,水平方向および垂直方向に多数配列された光電変換素子を備え,色の三原色である赤色,緑色および青色のうちのいずれかの色の光成分または色の三原色の補色であるシアン,マゼンタおよびイエローの3つの補色のうちのいずれかの色の光成分を透過するフィルタ特性を有するカラー・フィルタが上記光電変換素子の受光面上に形成され,水平方向および垂直方向にそれぞれ3つの上記光電変換素子から構成される1つの小ブロックにおいては,緑色またはイエローの光成分を透過するフィルタ特性を有するカラー・フィルタが各行および各列の上記光電変換素子の受光面上に形成され,このような小ブロックが水平方向および垂直方向に繰り返されており,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,かつ,水平方向および垂直方向に隣接する第1および第2の小ブロックのうち第1の小ブロックにおいて青色またはマゼンタの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子の位置に対応する第2の小ブロックの位置にある上記光電変換素子の受光面上に赤色またはシアンの色成分を透過するフィルタ特性を有するカラー・フィルタが形成されており,上記光電変換素子に蓄積された信号電荷を映像信号として出力し,
映像信号混合回路が,上記固体電子撮像素子から出力される映像信号のうち,同じフィルタ特性を有するカラー・フィルタが形成されている上記光電変換素子に蓄積された信号電荷にもとづいて得られる映像信号を,混合後の映像信号レベルが色成分ごとに等しくなるような重み付け係数で重み付けをして混合して出力する,
撮像装置の動作制御方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2013504504A JP5378627B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
Applications Claiming Priority (6)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2011054684 | 2011-03-11 | ||
JP2011054684 | 2011-03-11 | ||
JP2011162215 | 2011-07-25 | ||
JP2011162215 | 2011-07-25 | ||
JP2013504504A JP5378627B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
PCT/JP2011/067919 WO2012124184A1 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP5378627B2 true JP5378627B2 (ja) | 2013-12-25 |
JPWO2012124184A1 JPWO2012124184A1 (ja) | 2014-07-17 |
Family
ID=46830286
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2013504504A Expired - Fee Related JP5378627B2 (ja) | 2011-03-11 | 2011-07-29 | 撮像装置およびその動作制御方法ならびに撮像システム |
Country Status (5)
Country | Link |
---|---|
US (1) | US8730360B2 (ja) |
EP (1) | EP2645723B1 (ja) |
JP (1) | JP5378627B2 (ja) |
CN (1) | CN103270756B (ja) |
WO (1) | WO2012124184A1 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR101725044B1 (ko) * | 2010-05-27 | 2017-04-11 | 삼성전자주식회사 | 촬영이 가능한 디스플레이 장치 |
CN103563361B (zh) * | 2011-09-29 | 2015-04-29 | 富士胶片株式会社 | 图像处理设备和方法以及成像设备 |
WO2014185238A1 (ja) * | 2013-05-13 | 2014-11-20 | 富士フイルム株式会社 | カラー画像データの混入補正装置および撮像装置ならびにそれらの動作制御方法 |
CN105264886B (zh) * | 2013-05-23 | 2017-05-03 | 富士胶片株式会社 | 像素插值装置及其动作控制方法 |
WO2014188951A1 (ja) * | 2013-05-23 | 2014-11-27 | 富士フイルム株式会社 | 画素混合装置およびその動作制御方法 |
JP2015195550A (ja) * | 2014-03-28 | 2015-11-05 | パナソニックIpマネジメント株式会社 | 撮像素子および撮像装置 |
CN107275359B (zh) | 2016-04-08 | 2021-08-13 | 乐金显示有限公司 | 有机发光显示装置 |
EP3522106A1 (en) * | 2018-01-31 | 2019-08-07 | InterDigital CE Patent Holdings | A filter array enabling easy demosaicing |
JP2023010159A (ja) * | 2021-07-09 | 2023-01-20 | 株式会社ソシオネクスト | 画像処理装置および画像処理方法 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000023174A (ja) * | 1998-07-01 | 2000-01-21 | Ricoh Co Ltd | 画像処理装置及び画像処理方法 |
JP2001085664A (ja) * | 1999-07-15 | 2001-03-30 | Sony Corp | 固体撮像素子およびその駆動方法並びにカメラシステム |
JP2004221839A (ja) * | 2003-01-14 | 2004-08-05 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
Family Cites Families (27)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3268891B2 (ja) * | 1992-08-14 | 2002-03-25 | オリンパス光学工業株式会社 | 内視鏡撮像装置 |
JPH0823543A (ja) | 1994-07-07 | 1996-01-23 | Canon Inc | 撮像装置 |
JPH0823542A (ja) | 1994-07-11 | 1996-01-23 | Canon Inc | 撮像装置 |
JP3551571B2 (ja) * | 1995-08-11 | 2004-08-11 | ソニー株式会社 | カラーccd固体撮像素子 |
US20080079748A1 (en) * | 1997-09-13 | 2008-04-03 | Phan Gia C | Image sensor and image data processing system |
EP0930789B1 (en) | 1998-01-20 | 2005-03-23 | Hewlett-Packard Company, A Delaware Corporation | Colour image pickup device |
JP4098438B2 (ja) | 1999-04-15 | 2008-06-11 | オリンパス株式会社 | カラー撮像素子及びカラー撮像装置 |
US7847829B2 (en) | 2001-01-09 | 2010-12-07 | Sony Corporation | Image processing apparatus restoring color image signals |
JP4088536B2 (ja) * | 2003-01-28 | 2008-05-21 | 松下電器産業株式会社 | 固体撮像装置 |
JP2004266369A (ja) | 2003-02-21 | 2004-09-24 | Sony Corp | 固体撮像装置およびその駆動方法 |
WO2004088992A1 (ja) | 2003-03-28 | 2004-10-14 | Olympus Corporation | 画像処理装置及び画像処理プログラム |
JP4385282B2 (ja) | 2003-10-31 | 2009-12-16 | ソニー株式会社 | 画像処理装置および画像処理方法 |
JP5039966B2 (ja) * | 2005-07-05 | 2012-10-03 | 国立大学法人東京工業大学 | 画素混合方法 |
US7821553B2 (en) | 2005-12-30 | 2010-10-26 | International Business Machines Corporation | Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor |
JP4662883B2 (ja) | 2006-05-15 | 2011-03-30 | 富士フイルム株式会社 | 二次元カラー固体撮像素子 |
US7769230B2 (en) | 2006-11-30 | 2010-08-03 | Eastman Kodak Company | Producing low resolution images |
US7701496B2 (en) | 2006-12-22 | 2010-04-20 | Xerox Corporation | Color filter pattern for color filter arrays including a demosaicking algorithm |
JP5082528B2 (ja) | 2007-03-23 | 2012-11-28 | ソニー株式会社 | 固体撮像装置及び撮像装置 |
JP4785799B2 (ja) * | 2007-07-17 | 2011-10-05 | 富士フイルム株式会社 | 画像処理装置、画像処理方法及び撮影装置 |
EP3876510A1 (en) | 2008-05-20 | 2021-09-08 | FotoNation Limited | Capturing and processing of images using monolithic camera array with heterogeneous imagers |
JP5149143B2 (ja) | 2008-12-24 | 2013-02-20 | シャープ株式会社 | 固体撮像素子およびその製造方法、電子情報機器 |
JP5471117B2 (ja) * | 2009-07-24 | 2014-04-16 | ソニー株式会社 | 固体撮像装置とその製造方法並びにカメラ |
JP2011171885A (ja) * | 2010-02-17 | 2011-09-01 | Renesas Electronics Corp | 画像処理装置及び画像処理方法 |
JP5054856B1 (ja) * | 2011-02-21 | 2012-10-24 | 富士フイルム株式会社 | カラー撮像素子 |
CN103974044B (zh) * | 2011-02-28 | 2016-06-08 | 富士胶片株式会社 | 镶嵌图像处理方法 |
WO2012117584A1 (ja) * | 2011-02-28 | 2012-09-07 | 富士フイルム株式会社 | カラー撮像装置 |
JP5824297B2 (ja) * | 2011-08-30 | 2015-11-25 | キヤノン株式会社 | 画像処理装置及び方法、及び撮像装置 |
-
2011
- 2011-07-29 WO PCT/JP2011/067919 patent/WO2012124184A1/ja active Application Filing
- 2011-07-29 JP JP2013504504A patent/JP5378627B2/ja not_active Expired - Fee Related
- 2011-07-29 EP EP11861224.1A patent/EP2645723B1/en not_active Not-in-force
- 2011-07-29 CN CN201180062745.5A patent/CN103270756B/zh not_active Expired - Fee Related
-
2013
- 2013-06-28 US US13/930,585 patent/US8730360B2/en not_active Expired - Fee Related
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2000023174A (ja) * | 1998-07-01 | 2000-01-21 | Ricoh Co Ltd | 画像処理装置及び画像処理方法 |
JP2001085664A (ja) * | 1999-07-15 | 2001-03-30 | Sony Corp | 固体撮像素子およびその駆動方法並びにカメラシステム |
JP2004221839A (ja) * | 2003-01-14 | 2004-08-05 | Sony Corp | 画像処理装置および方法、記録媒体、並びにプログラム |
JP2007037104A (ja) * | 2005-06-21 | 2007-02-08 | Sony Corp | 画像処理装置及び画像処理方法、撮像装置、並びにコンピュータ・プログラム |
Also Published As
Publication number | Publication date |
---|---|
EP2645723A4 (en) | 2014-05-14 |
JPWO2012124184A1 (ja) | 2014-07-17 |
US20130293750A1 (en) | 2013-11-07 |
WO2012124184A1 (ja) | 2012-09-20 |
EP2645723B1 (en) | 2015-06-17 |
CN103270756A (zh) | 2013-08-28 |
EP2645723A1 (en) | 2013-10-02 |
US8730360B2 (en) | 2014-05-20 |
CN103270756B (zh) | 2014-08-13 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5378627B2 (ja) | 撮像装置およびその動作制御方法ならびに撮像システム | |
JP5054857B1 (ja) | カラー撮像装置 | |
JP5872406B2 (ja) | カラー撮像素子 | |
JP5702896B2 (ja) | カラー撮像素子及び撮像装置 | |
JP5345258B2 (ja) | カラー撮像素子 | |
JP5380629B2 (ja) | カラー撮像素子 | |
US8786738B2 (en) | Image sensing apparatus and method of controlling operation of same | |
CN103621070B (zh) | 摄像装置及摄像装置的控制方法 | |
CN103430552B (zh) | 摄像装置 | |
CN104041019B (zh) | 摄像装置及摄像装置的控制方法 | |
JP5411390B2 (ja) | カラー撮像素子 | |
JP4633413B2 (ja) | 撮像装置及び信号処理方法 | |
CN104025575B (zh) | 摄像装置及摄像装置的控制方法 | |
JP4333371B2 (ja) | 撮像装置および撮像素子 | |
JP2006157236A (ja) | 撮像装置及びその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130903 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130925 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 5378627 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
LAPS | Cancellation because of no payment of annual fees |