JP4517493B2 - 固体撮像素子及びその信号処理方法 - Google Patents

固体撮像素子及びその信号処理方法 Download PDF

Info

Publication number
JP4517493B2
JP4517493B2 JP2000318081A JP2000318081A JP4517493B2 JP 4517493 B2 JP4517493 B2 JP 4517493B2 JP 2000318081 A JP2000318081 A JP 2000318081A JP 2000318081 A JP2000318081 A JP 2000318081A JP 4517493 B2 JP4517493 B2 JP 4517493B2
Authority
JP
Japan
Prior art keywords
filter
color
gray
green
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2000318081A
Other languages
English (en)
Other versions
JP2002135792A (ja
JP2002135792A5 (ja
Inventor
新一郎 斉藤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2000318081A priority Critical patent/JP4517493B2/ja
Priority to US09/982,304 priority patent/US7126633B2/en
Publication of JP2002135792A publication Critical patent/JP2002135792A/ja
Priority to US11/582,224 priority patent/US7852389B2/en
Publication of JP2002135792A5 publication Critical patent/JP2002135792A5/ja
Application granted granted Critical
Publication of JP4517493B2 publication Critical patent/JP4517493B2/ja
Priority to US12/966,655 priority patent/US8848074B2/en
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/133Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)
  • Optical Filters (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Image Input (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、原色系のカラーフィルタを備えて成る単板式の固体撮像素子及びその信号処理方法に係わる。
【0002】
【従来の技術】
単板式のカラー用固体撮像素子においては、センサ部上にオンチップカラーフィルタを形成し、このオンチップカラーフィルタを複数色のカラーフィルタが所定の配列で繰り返し配置された構成とすることにより、所望の色の信号が出力されるようにしている。
【0003】
このカラーフィルタのカラーコーディング(色配列)には多数の種類がある。
そのうち、原色系(赤R、緑G、青Bの3色)の色配列で、いわゆるベイヤー配列がとられている。
【0004】
このベイヤー配列を図11に示す。
縦2画素×横2画素の4画素で見ると、グリーン(緑)Gが対角線状に斜めに2カ所に配置され、残りの2カ所の一方にレッド(赤)Rが、他方にブルー(青)Bが配置されている。
全体的にはグリーンGが斜め方向に並ぶ形になっている。
【0005】
このベイヤー配列の特徴は、解像度に寄与するグリーンGの画素が水平方向のみ、もしくは垂直方向のみに見ると毎画素存在する。図中Pxは水平方向の画素ピッチ、Pyは垂直方向の画素ピッチを示す。
これにより以下の特徴を有している。
【0006】
(1)水平方向及び垂直方向の空間周波数特性が等方的である。
図12に図11のベイヤー配列における3原色の水平方向及び垂直方向の空間周波数特性を示す。図12AはグリーンG、図12BはレッドR、図12CはブルーBをそれぞれ示す。
図12B及び図12Cより、レッドRとブルーBは、水平方向で見ても垂直方向で見ても1画素おきに存在する。これにより、水平空間周波数(1/Px)及び垂直空間周波数(1/Py)が1/4となっている。
一方、図12Aより、グリーンGは前述のように水平方向で見ても垂直方向で見ても毎画素存在し、水平空間周波数(1/Px)及び垂直空間周波数(1/Py)が1/2とレッドRやブルーBの2倍となっている。ただし、斜め方向では1画素おきに存在するのでレッドRやブルーBと同じになっている。
従って、3色とも、水平空間周波数と垂直空間周波数が等しくなっている。
【0007】
(2)比較的解像感の高いアパコン信号(輪郭補正信号)をグリーンGの画素のみで作ることができる。
アパコン信号をグリーンGの画素のみで作ることにより、3色全ての画素を使用してアパコン信号を作る方式と比較して、比較的小規模なハードウエアで実現可能である利点を有している。
【0008】
【発明が解決しようとする課題】
ところが、RGB(原色系)ベイヤー配列のカラーフィルタでは、アパコン信号をグリーンGの画素からの信号のみで生成するように構成していることにより、色によって解像感の偏りが発生することがある。
これは、グリーンGの信号のみでアパコン信号を生成すると、分光特性上、グリーン成分に偏ってしまうために、レッドR、ブルーB等のグリーンGを含まない原色系の色相の被写体に対してアパコン信号が生成されにくい。
即ち例えば赤いバラ等に対しては、飽和度の高い被写体であるにもかかわらず、輪郭強調がつきにくくなる。
【0009】
上述した問題の解決のために、本発明においては、色による解像感の偏りの発生をなくし、輪郭強調をつけて良好な画像が得られる固体撮像素子及びその信号処理方法を提供するものである。
【0010】
【課題を解決するための手段】
本発明の固体撮像素子は、原色系のカラーフィルタを具備して成る単板式の固体撮像素子であって、カラーフィルタにおいて3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成されたものである。
本発明の固体撮像素子の信号処理方法は、原色系のカラーフィルタを具備して成り、カラーフィルタにおいて、3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成され、グレイフィルタを他の3原色のフィルタと同等の周波数特性となるようにキャリアバランスをとる手段と、輪郭補正信号を合成する手段とを備えた単板式の固体撮像素子に対して、3原色のフィルタ及びグレイフィルタの4色の画素の出力信号から、キャリアバランスをとる処理を行い、ホワイトバランス処理を行い、さらに、全画素に対して3倍のデータを形成する補間の処理を行い、補間の処理と並行して輪郭補正信号を生成して、生成した輪郭補正信号を補間処理した信号に合成するものである。
【0011】
上述の本発明の固体撮像素子の構成によれば、3原色(赤、緑、青)のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタを配置したことにより、グレイフィルタが配置された画素において3原色(赤、緑、青)の各色の信号をそれぞれ検出することができ、グレイフィルタの画素の出力信号を利用して、3原色(赤、緑、青)の各色の出力信号の処理を行うことができる。
上述の本発明の固体撮像素子の信号処理方法によれば、3原色のフィルタ及びグレイフィルタの4色の画素の出力信号から、キャリアバランスをとる処理を行い、ホワイトバランス処理を行い、さらに、全画素に対して3倍のデータを形成する補間の処理を行い、補間の処理と並行して輪郭補正信号を生成して、生成した輪郭補正信号を補間処理した信号に合成することにより、3原色(赤、緑、青)の各色の出力信号の処理を行うことができる。
【0012】
【発明の実施の形態】
本発明は、原色系のカラーフィルタを具備して成る単板式の固体撮像素子であって、カラーフィルタにおいて3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成された固体撮像素子である。
【0013】
また本発明は、上記固体撮像素子において、カラーフィルタの色配列がベイヤー配列であり、レッドフィルタの水平隣のグリーンフィルタ或いはブルーフィルタの水平隣のグリーンフィルタがグレイフィルタに置き換えられている構成とする。
【0014】
本発明は、原色系のカラーフィルタを具備して成り、カラーフィルタにおいて、3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成され、グレイフィルタを他の3原色のフィルタと同等の周波数特性となるようにキャリアバランスをとる手段と、輪郭補正信号を合成する手段とを備えた単板式の固体撮像素子に対して、3原色のフィルタ及びグレイフィルタの4色の画素の出力信号から、キャリアバランスをとる処理を行い、ホワイトバランス処理を行い、さらに、全画素に対して3倍のデータを形成する補間の処理を行い、補間の処理と並行して輪郭補正信号を生成して、生成した輪郭補正信号を補間処理した信号に合成する固体撮像素子の信号処理方法である。
また、本発明は、上記固体撮像素子の信号処理方法において、固体撮像素子のカラーフィルタの色配列がベイヤー配列であり、レッドフィルタの水平隣のグリーンフィルタ或いはブルーフィルタの水平隣のグリーンフィルタがグレイフィルタに置き換えられている構成とする。
【0015】
本発明では、原色系(レッド、グリーン、ブルー)のカラーフィルタの配列の中で特定の画素のみグレイフィルタに置き換えてカラーフィルタを構成するものである。
【0016】
そして、例えば図11に示した原色系ベイヤー配列のカラーフィルタの場合、レッドRに水平方向で隣接するグリーンGをグレイに置き換えるか、もしくはブルーBの水平方向で隣接するグリーンGをグレイに置き換える。
【0017】
本発明の一実施の形態として固体撮像素子のカラーフィルタの色配列を図1に示す。
本実施の形態のカラーフィルタ1は、図11に示した原色系ベイヤー配列のカラーフィルタにおいて、レッドフィルタRに水平方向で隣接するグリーンフィルタGをグレイフィルタGrayに置き換えた場合である。
これにより、レッドR、グリーンG、ブルーB、グレイGrayの4色のフィルタが、水平方向・垂直方向ともに1画素おきに存在している。
【0018】
グレイフィルタは、他の3原色のフィルタと同様にして形成することが可能である。例えばグレイの染料(または顔料)を含有したレジスト等により形成することができる。
【0019】
また、グレイフィルタは、可視光線の分光領域で比較的波長依存性の少ないフラットな光学特性を有している。
そして、グレイフィルタも他の色のフィルタと同様に、例えば染料・顔料の含有量を変更することにより、フィルタの透過率を多くしたり少なくしたりして透過特性を変更することが可能である。
【0020】
グレイフィルタの透過特性は、上述のようにして変更可能であるが、機能的には次の3種類に大別される。
(1)透過率100%に近い理想的なホワイトに近い透過特性
(2)可視光分光領域における積分値がグリーンフィルタと同等な透過率を有する透過特性
(3)上記以外の透過率を有する透過特性
これらの場合のグレイフィルタの透過特性を、他の3原色のフィルタの透過特性と共に図2に示す。
【0021】
(1)透過率100%に近い理想ホワイト特性(図2のGray(1)の場合)この場合、RGB各色の感度と比較して、グレイ画素の感度は2倍以上と高い。これにより、S/N比の改善が可能となる。
また、後述するキャリアバランスをとると、グレイGray画素の出力をRGB各色の感度と同じようになるようにするので、負の利得をもつことになるが、これにより輝度信号や色差信号のS/N比を改善することができる。
【0022】
(2)可視光分光領域における積分値がグリーンフィルタと同等な透過率を有するグレイ分光(図2のGray(2)の場合)
(1)の場合、グレイフィルタが他のRGBフィルタに比較して感度が高いため、同一光量に対してグレイフィルタが他の色フィルタより早く飽和する。
従って、グレイフィルタGrayの可視光分光領域における積分値がグリーンフィルタGと同じようになるような透過率にすることで、ダイナミックレンジをRGBフィルタと同等にすることが可能である。
【0023】
(3)上記以外の透過率を有するグレイ分光(図2のGray(3)の場合)
グレイフィルタGrayの可視光分光領域における積分値をグリーンフィルタG以下となるような透過率にすることで、輝度のダイナミックレンジをRGBフィルタ以上の特性にすることが可能である。
ただし、この場合グレイフィルタGrayの感度はグリーンGよりも小さいので、感度もしくはS/N比の点では(1)(2)の場合よりも劣る。
【0024】
グレイフィルタGrayは、上述のようにフラットな透過特性を有するため、可視光領域の全ての色相の光に対して応答を持つ。
従って、RGB各画素の感度値と同等の信号出力となるようにそれぞれ利得を制御することにより、グレイフィルタGrayの画素の出力を信号処理におけるRGBそれぞれのフィルタ出力信号として代用可能である。
【0025】
まず、グリーンGのフィルタ出力信号について考える。図3Aにグリーン成分となるフィルタの配置を示す。図3Aにおいて、左下の元々のグリーンフィルタGreenに加えて、右上のグレイフィルタもグリーン成分Greenを構成する。図3Aではグレイフィルタは元々のグリーンフィルタと区別するため、斜線を付加して示している。
この場合、グリーン成分Greenとなる画素の配置は図11のベイヤー配列のグリーンGと同じであるので、グリーン成分Greenの空間周波数特性は、図3Bに示すように、先に示した図12Aの場合と等しくなる。
【0026】
次に、レッドRのフィルタ出力信号について考える。図4Aにレッド成分となるフィルタの配置を示す。図4Aにおいて、左上の元々のレッドフィルタRedに加えて、右上のグレイフィルタもレッド成分Redを構成する。図4Aではグレイフィルタは元々のレッドフィルタと区別するため、斜線を付加して示している。
この場合、レッド成分Redとなる画素は左上と右上即ち上半分である。従って、水平方向には毎画素存在し、垂直方向には1画素おきに存在する。これにより、レッド成分Redの空間周波数特性は、図4Bに示すように、水平空間周波数は図12Bの場合の2倍の1/2となり、その一方垂直空間周波数は図12Bの場合と同じ1/4となる。また、画素の個数は2倍となるので、図4Bの面積が図12Bの面積の2倍となっている。即ちレッドの情報量が2倍になっている。
【0027】
続いて、ブルーBのフィルタ出力信号について考える。図5Aにブルー成分となるフィルタの配置を示す。図5Aにおいて、右下の元々のブルーフィルタBlueに加えて、右上のグレイフィルタもブルー成分Blueを構成する。図5Aではグレイフィルタは元々のブルーフィルタと区別するため、斜線を付加して示している。
この場合、ブルー成分Blueとなる画素は右下と右上即ち右半分である。従って、水平方向には1画素おきに存在し、垂直方向には毎画素存在する。これにより、ブルー成分Blueの空間周波数特性は、図5Bに示すように、水平空間周波数は図12Cの場合と同じ1/4となり、その一方垂直空間周波数は図12Cの場合の2倍の1/2となる。また、画素の個数は2倍となるので、図5Bの面積が図12Cの面積の2倍となっている。即ちブルーの情報量が2倍になっている。
【0028】
つまり、図11に示す従来のベイヤー配列では、レッドRとブルーBの画素はグリーンGの画素に対して半分の情報量であったのが、本実施の形態ではグレイフィルタGrayを用いることにより従来の2倍の情報として扱えるため、レッドR・グリーンG・ブルーBの各画素の情報量を同等とすることができる。
即ち空間周波数特性として、レッドRとブルーBの通過帯域が従来の2倍になる。
【0029】
次に、レッド、グリーン、ブルー、グレイの4色のフィルタからアパコン信号(輪郭補正信号)を生成する方法について説明する。
図7に信号処理のブロック図を示す。この図7に示す信号処理は、4色の画素の出力信号(例えばCCD型固体撮像素子の場合はCCD出力)から、各種処理を行って、輝度信号Yと色差信号Cとを得るものである。
【0030】
(1)まず、グレイフィルタの画素の出力を、RGB各画素の感度値と同等の信号出力となるようにそれぞれ利得を制御する必要がある。これをキャリアバランスと言う。
ここで、図6に示すように、全画素を4色のフィルタを1つずつ含む2×2の4画素ずつの区画に区切って、この2×2の4画素の各色のフィルタを、それぞれRedij、Greenij、Blueij、Grayij(i,jは0以上の整数によるアドレス)とする。
【0031】
そして、この場合、以下の数式により、それぞれグリーン、レッド、ブルーに対してキャリアバランスがなされる。
(グリーンキャリアバランス)
Green(i,j)´=Gray(i,j)×〔Σ(グリーン出力値)〕/〔Σ(グレイ出力値)〕
ただし、Σの範囲は対象画素アドレス(i,j)に対して±N画素の領域
(レッドキャリアバランス)
Red(i,j)´=Gray(i,j)×〔Σ(レッド出力値)〕/〔Σ(グレイ出力値)〕
ただし、Σの範囲は対象画素アドレス(i,j)に対して±N画素の領域
(ブルーキャリアバランス)
Blue(i,j)´=Gray(i,j)×〔Σ(ブルー出力値)〕/〔Σ(グレイ出力値)〕
ただし、Σの範囲は対象画素アドレス(i,j)に対して±N画素の領域
【0032】
このようにキャリアバランスを行った出力Green(i,j)´,Red(i,j)´,Blue(i,j)´を、各色の出力として後段の回路に出力する。
【0033】
実際には、このキャリアバランスの処理は、図7に示すように通常の信号処理回路でも行われるホワイトバランス回路12の前段の回路11で行う。
【0034】
(2)次に、キャリアバランスの後のホワイトバランス補正処理を行う。
例えば白い被写体を撮像した場合、本来R,G,Bは同じレベルになるはずだが、R,G,B各色のフィルタの分光特性の違い(図2参照)により、必ずしも同一レベルとはならない。
このとき、R,G,Bのそれぞれに利得を持たせることにより、白を撮像したときにR=G=Bになるようにする。
これにより、各色毎の感度差を補正して、白い被写体は白く見えるようにする。
これをホワイトバランス補正と呼び、通常のグレイフィルタのない通常のカラーフィルタでも行われる処理である。
図7のブロック図では、ホワイトバランス回路12でホワイトバランス補正が行われ、出力WBoutを得る。
【0035】
(3)次に、各色の出力信号から輝度信号と色差信号とを生成するために、全画素に対して3倍のRGBデータを作り出す。
これを補間と呼ぶ。
即ち4色の出力信号である、R,Gray,R,Gray,・・・・,G,B,G,B・・・・のような点順次のデータからR,R,R,R,R,R,・・・・,G,G,G,G,G,G,・・・・,B,B,B,B,B,・・・・のような毎画素RGBが存在する3種類のRGBデータに変換する。これにより、例えば100画素からはR,G,Bを100ずつ含む300のデータを得る。
図7のブロック図では、ホワイトバランス回路12の出力WBoutから、Red補間回路13R、Green補間回路13G、Blue補間回路13Bで、各色の補間が行われる。
【0036】
(4)また、補間の処理と並行してアパコン信号(輪郭補正信号)を生成する。
このアパコン信号の生成は、ホワイトバランス補正の後、図7のアパコン合成回路14において行われる。図8に図7のアパコン合成回路14の構成を示す。
図8に示すように、アパコン合成回路14では、まずホワイトバランス出力の信号WBoutをRed/Gray、Green/Gray、及びBlue/Grayの3種類の信号系に分離する。これを色分離という。
【0037】
色分離を行った後、3種類の信号系それぞれでアパコン回路21R,21G,21Bを通す。
続いて、それぞれのアパコン回路21R,21G,21Bの出力信号に対して、増幅器22R,22G,22Bによってそれぞれレッド系がゲインα、グリーン系がゲインβ、ブルー系がゲインγの利得制御を行う。通常はα=β=γ=1である。
最後に3系統の信号を混合し、アパコン信号出力APoutとして出力する。
【0038】
さらに、各色のアパコン回路21R,21G,21Bの詳細な構成を図9に示す。上述の色分離がなされた後の信号を、図9の上下2系統で使用する。上側は垂直アパコン信号ap_vを生成する系統vであり、下側は水平アパコン信号ap_hを生成する系統hである。
垂直アパコン信号ap_vは、最初に水平方向のローパスフィルタ31をかけて、水平方向の演算ap_v(u)を行って高域信号をカットする。その後、垂直方向のバンドパスフィルタ32により、垂直方向の演算ap_v(v)を行って垂直高域信号を生成する。
水平アパコン信号ap_hは、最初に垂直方向のローパスフィルタ34をかけて、垂直方向の演算ap_h(v)を行って垂直の高域信号をカットする。その後、水平方向のバンドパスフィルタ35により、水平方向の演算ap_h(u)を行って水平高域信号を生成する。
尚、各方向の演算においては、ある特定画素の周囲の画素(前後或いは左右の数画素)の画素を使用して演算を行えばよい。これにより、例えばローパスフィルタ31,33ではその特定画素の信号をぼかして、バンドパスフィルタ32,34ではその特定画素の信号を強調して、アパコン信号(輪郭補正信号)の元とすることができる。
そして、垂直アパコン信号ap_vには増幅器33でゲインk、水平アパコン信号ap_hには増幅器36でゲインlをかけて、その後2系統の信号を混合し、各RGBアパコン信号として出力する。この出力に図8の増幅器22R,22G,22Bにおいて利得制御を行って3色のアパコン信号を合成することにより、アパコン信号出力APoutが得られる。
【0039】
(5)次に、補間処理した信号とアパコン信号を合成し、ガンマ補正を行う。
ここで、モニタ、ディスプレイに用いられるCRT(陰極線管)は、非線形な入出力特性を持っており、低輝度側の発光が入力に比例せず、小さく出る傾向がある。
従って、RGB信号を直接ディスプレイに表示した場合、低輝度側がつぶれたような、言い換えると暗く見える。これをCRTのガンマ特性と呼ぶ。
このとき、入力するRGB信号にガンマ特性と逆の特性を有する非線形処理をすることで、モニタ、ディスプレイで見たとき、自然なコントラストになる。これをガンマ補正と呼ぶ。
【0040】
ガンマ補正は、各補間回路13R,13G,13Bにより補間された信号とアパコン合成回路14の出力APoutとを合成した後、ガンマ補正回路15により行われる。
【0041】
(6)ガンマ補正を行ったR,G,B各色の信号を、それぞれ輝度信号合成回路16及び色差信号合成回路17に送り、輝度信号合成回路16で輝度信号Yを生成し、色差信号合成回路17で色差信号Cを生成する。
このようにして、輪郭補正処理がなされている輝度信号Y及び色差信号Cを得ることができる。
【0042】
上述の本実施の形態によれば、原色系ベイヤー配列のカラーフィルタにおいて、グリーンフィルタGreenの特定の画素をグレイフィルタGrayに置き換えたことにより、グレイフィルタGrayの画素では、全ての色相の光に対して透過する特性を有するので、R,G,B3色の信号を得ることができる。
これにより、グリーン成分が非常に少ない被写体、例えば赤や青の原色系の被写体に対しても輪郭強調を行うことができる。
従って、有彩色における解像度を改善することが可能となり、良好な画像を得ることができる。
【0043】
そして、比較的可視光分光領域でフラットな透過特性を持つグレイフィルタに置き換えたことにより、図2に示したGray(1),Gray(2),Gray(3)の3種類の透過率を選択することにより、感度の改善もしくは、ダイナミックレンジの改善効果を得ることができる。
【0044】
上述の実施の形態では、ベイヤー配列のカラーフィルタを具備した固体撮像素子に本発明を適用したが、本発明においてカラーフィルタの色配列はベイヤー配列には限定されず、その他の原色系(R,G,B)の色配列にも適用することができる。
【0045】
本発明を適用する他の色配列の例を図10A及び図10Bに示す。
図10Aは、いわゆるGストライプと呼ばれる色配列である。グリーンフィルタGを1列おきに縦一列に配置し、グリーンフィルタGの各列の間の列にレッドフィルタR及びブルーフィルタBを配置している。レッドフィルタR及びブルーフィルタBは市松配置となっている。
この色配列に本発明を適用する場合には、例えば図中*印を付したグリーンフィルタG、即ちレッドフィルタRの左隣のグリーンフィルタGをグレイフィルタに置き換えればよい。(或いは*印を付していないグリーンフィルタG、即ちレッドフィルタRの右隣のグリーンフィルタGをグレイフィルタに置き換えてもよい。)
これにより、前述のベイヤー配列に適用した実施の形態と同様に、グレイフィルタの画素においてR,G,B3色の信号の出力を得ることができ、色による解像感の偏りをなくす効果が得られる。
尚、Gストライプの色配列としては、レッドフィルタR及びブルーフィルタBの他の配置も考えられる。
【0046】
図10Bは、特にCCD固体撮像素子で垂直方向2画素を加算して出力する場合の色配列である。図11に示したベイヤー配列の各色R,G,Bの画素を垂直方向2画素に分割した形になっている。
この色配列に本発明を適用する場合には、例えば図中*印を付したグリーンフィルタG、即ちレッドフィルタRの水平隣のグリーンフィルタGをグレイフィルタに置き換えればよい。
これにより、図1の実施の形態と同様に、グレイフィルタの画素においてR,G,B3色の信号の出力を得ることができ、垂直2画素を加算して出力した信号を処理することにより、色による解像感の偏りをなくす効果が得られる。
【0047】
本発明は、CCD固体撮像素子にもMOS型の固体撮像素子にも適用することができ、いずれの固体撮像素子においても、同様に本発明を適用してグレイフィルタを有するオンチップカラーフィルタを形成することにより、色による解像感の偏りをなくして、良好な画像を得ることが可能である。
【0048】
尚、本発明におけるグレイフィルタを備えたカラーフィルタは、各種画像表示装置(ディスプレイ)にも使用可能であるが、特に固体撮像素子に使用した場合に、上述の色による解像感の偏りをなくして、良好な画像を得る効果を有するものである。
【0049】
本発明は、上述の実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲でその他様々な構成が取り得る。
【0050】
【発明の効果】
上述の本発明によれば、原色系色配列のカラーフィルタにおいて、特定の画素をグレイフィルタに置き換えたことにより、グレイフィルタの画素では、原色の各色の信号を得ることができる。
これにより、色による解像感の偏りの発生をなくし、原色系の被写体でも輪郭強調をつけることができる。
従って、有彩色における解像度を改善することが可能となり、良好な画像を得ることができる。
【0051】
また本発明によれば、比較的可視光分光領域でフラットな透過特性を持つグレイフィルタを備えたことにより、グレイフィルタの透過率を選定することによって、感度の改善効果もしくは、ダイナミックレンジの改善効果を得ることができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態の固体撮像素子のカラーフィルタの色配列を示す図である。
【図2】図1のカラーフィルタにおける各色のフィルタの分光特性を示す図である。
【図3】図1のカラーフィルタにおけるグリーン成分を示す図である。
A グリーン成分の配列を示す図である。
B グリーン成分の空間周波数特性を示す図である。
【図4】図1のカラーフィルタにおけるレッド成分を示す図である。
A レッド成分の配列を示す図である。
B レッド成分の空間周波数特性を示す図である。
【図5】図1のカラーフィルタにおけるブルー成分を示す図である。
A ブルー成分の配列を示す図である。
B ブルー成分の空間周波数特性を示す図である。
【図6】図1のカラーフィルタの各画素にアドレスを付した図である。
【図7】信号処理ブロックを示す図である。
【図8】図7のアパコン合成回路の構成を示す図である。
【図9】図8の各色のアパコン回路の詳細な構成を示す図である。
【図10】A、B 本発明を適用するカラーフィルタの色配列の他の例を示す図である。
【図11】ベイヤー配列を示す図である。
【図12】A〜C 図11のベイヤー配列における各色の空間周波数特性を示す図である。
【符号の説明】
1 カラーフィルタ、11 キャリアバランス回路、12 ホワイトバランス回路、14 アパコン合成回路、15 ガンマ補正回路、16 輝度信号合成回路、17 色差信号合成回路、21R,21G,21B アパコン回路、31 水平ローパスフィルタ、32 垂直バンドパスフィルタ、33 垂直ローパスフィルタ、34 水平バンドパスフィルタ

Claims (4)

  1. 原色系のカラーフィルタを具備して成る単板式の固体撮像素子であって、
    上記カラーフィルタにおいて、3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成された
    固体撮像素子。
  2. 上記カラーフィルタの色配列がベイヤー配列であり、レッドフィルタの水平隣のグリーンフィルタ或いはブルーフィルタの水平隣のグリーンフィルタが上記グレイフィルタに置き換えられている請求項1に記載の固体撮像素子。
  3. 原色系のカラーフィルタを具備して成り、
    上記カラーフィルタにおいて、3原色のフィルタの配列の特定の画素に、可視光分光領域における積分値がグリーンフィルタと同等な透過率、もしくはグリーンフィルタ以下の透過率を有するグレイフィルタが配置形成され、
    上記グレイフィルタを、他の3原色のフィルタと同等の周波数特性となるようにキャリアバランスをとる手段と、
    輪郭補正信号を合成する手段とを備えた単板式の固体撮像素子に対して、
    3原色のフィルタ及びグレイフィルタの4色の画素の出力信号から、上記キャリアバランスをとる処理を行い、
    ホワイトバランス処理を行い、
    さらに、全画素に対して3倍のデータを形成する補間の処理を行い、
    上記補間の処理と並行して、上記輪郭補正信号を生成して、
    生成した上記輪郭補正信号を、補間処理した信号に合成する
    固体撮像素子の信号処理方法。
  4. 上記固体撮像素子の上記カラーフィルタの色配列がベイヤー配列であり、レッドフィルタの水平隣のグリーンフィルタ或いはブルーフィルタの水平隣のグリーンフィルタが上記グレイフィルタに置き換えられている請求項3に記載の固体撮像素子の信号処理方法。
JP2000318081A 2000-10-18 2000-10-18 固体撮像素子及びその信号処理方法 Expired - Lifetime JP4517493B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2000318081A JP4517493B2 (ja) 2000-10-18 2000-10-18 固体撮像素子及びその信号処理方法
US09/982,304 US7126633B2 (en) 2000-10-18 2001-10-17 Solid-state image-pickup device having primary color and gray color filters and processing means thereof
US11/582,224 US7852389B2 (en) 2000-10-18 2006-10-16 Solid-state image pick-up device having primary color and gray color filters and processing means therefor
US12/966,655 US8848074B2 (en) 2000-10-18 2010-12-13 Solid-state image pickup device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2000318081A JP4517493B2 (ja) 2000-10-18 2000-10-18 固体撮像素子及びその信号処理方法

Publications (3)

Publication Number Publication Date
JP2002135792A JP2002135792A (ja) 2002-05-10
JP2002135792A5 JP2002135792A5 (ja) 2007-04-12
JP4517493B2 true JP4517493B2 (ja) 2010-08-04

Family

ID=18796763

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2000318081A Expired - Lifetime JP4517493B2 (ja) 2000-10-18 2000-10-18 固体撮像素子及びその信号処理方法

Country Status (2)

Country Link
US (3) US7126633B2 (ja)
JP (1) JP4517493B2 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4517493B2 (ja) * 2000-10-18 2010-08-04 ソニー株式会社 固体撮像素子及びその信号処理方法
KR101081000B1 (ko) * 2003-10-23 2011-11-09 소니 가부시키가이샤 화상 처리 장치 및 화상 처리 방법과 기록 매체
EP1594321A3 (en) * 2004-05-07 2006-01-25 Dialog Semiconductor GmbH Extended dynamic range in color imagers
WO2005115820A1 (de) 2004-05-25 2005-12-08 Siemens Aktiengesellschaft Überwachungseinheit nebst assistenzsystem für kraftfahrzeuge
US7880785B2 (en) 2004-07-21 2011-02-01 Aptina Imaging Corporation Rod and cone response sensor
BE1016426A3 (nl) * 2005-01-25 2006-10-03 Ceulemans Jean Paul Jeanne Inrichting voor het vergroten van het dynamisch bereik van digitale captatiesystemen.
EP3920079B1 (en) 2005-03-11 2023-06-28 Hand Held Products, Inc. Digital picture taking optical reader having hybrid monochrome and color image sensor array
JP4984634B2 (ja) 2005-07-21 2012-07-25 ソニー株式会社 物理情報取得方法および物理情報取得装置
JP5017812B2 (ja) * 2005-07-21 2012-09-05 凸版印刷株式会社 固体撮像素子
US8274715B2 (en) 2005-07-28 2012-09-25 Omnivision Technologies, Inc. Processing color and panchromatic pixels
US7830430B2 (en) * 2005-07-28 2010-11-09 Eastman Kodak Company Interpolation of panchromatic and color pixels
US8139130B2 (en) 2005-07-28 2012-03-20 Omnivision Technologies, Inc. Image sensor with improved light sensitivity
US7821553B2 (en) * 2005-12-30 2010-10-26 International Business Machines Corporation Pixel array, imaging sensor including the pixel array and digital camera including the imaging sensor
JP4241840B2 (ja) 2006-02-23 2009-03-18 富士フイルム株式会社 撮像装置
JP4449936B2 (ja) 2006-03-31 2010-04-14 ソニー株式会社 撮像装置、カメラシステムおよびその駆動方法
JP4967432B2 (ja) * 2006-04-14 2012-07-04 ソニー株式会社 撮像装置およびカメラシステム
JP4187004B2 (ja) * 2006-04-17 2008-11-26 ソニー株式会社 撮像装置および撮像装置の露光制御方法
JP4867448B2 (ja) * 2006-04-18 2012-02-01 ソニー株式会社 物理情報取得方法および物理情報取得装置
US7916362B2 (en) * 2006-05-22 2011-03-29 Eastman Kodak Company Image sensor with improved light sensitivity
JP5106870B2 (ja) * 2006-06-14 2012-12-26 株式会社東芝 固体撮像素子
KR100871564B1 (ko) * 2006-06-19 2008-12-02 삼성전기주식회사 카메라 모듈
KR100772910B1 (ko) * 2006-06-26 2007-11-05 삼성전기주식회사 디지털 카메라 모듈
US8031258B2 (en) 2006-10-04 2011-10-04 Omnivision Technologies, Inc. Providing multiple video signals from single sensor
JP4930109B2 (ja) * 2007-03-06 2012-05-16 ソニー株式会社 固体撮像装置、撮像装置
KR100976284B1 (ko) 2007-06-07 2010-08-16 가부시끼가이샤 도시바 촬상 장치
US8452082B2 (en) * 2007-09-27 2013-05-28 Eastman Kodak Company Pattern conversion for interpolation
JP5262180B2 (ja) 2008-02-26 2013-08-14 ソニー株式会社 固体撮像装置及びカメラ
KR101639382B1 (ko) 2008-08-27 2016-07-13 삼성전자주식회사 높은 동적 범위를 가지는 영상을 생성하는 장치 및 방법
JP5375359B2 (ja) * 2009-06-22 2013-12-25 ソニー株式会社 撮像素子、電荷読み出し方法、撮像装置
US8619143B2 (en) * 2010-03-19 2013-12-31 Pixim, Inc. Image sensor including color and infrared pixels
JP5675215B2 (ja) 2010-08-20 2015-02-25 オリンパス株式会社 デジタルカメラ
JP5757711B2 (ja) * 2010-09-27 2015-07-29 オリンパス株式会社 スペクトル情報測定方法、カラーセンサおよびバーチャルスライド装置
JPWO2013089036A1 (ja) 2011-12-16 2015-04-27 ソニー株式会社 撮像装置
TWI552594B (zh) 2014-10-27 2016-10-01 聯詠科技股份有限公司 用於影像感測裝置的色彩濾波陣列及其製造方法
CN105635699B (zh) * 2014-11-06 2019-10-18 联咏科技股份有限公司 用于图像传感装置的色彩滤波阵列及其制造方法
WO2018062303A1 (ja) * 2016-09-29 2018-04-05 株式会社ニコン 撮像素子および電子カメラ
JP6730916B2 (ja) * 2016-11-30 2020-07-29 日本放送協会 コントラスト補正装置及びプログラム
WO2019208236A1 (ja) * 2018-04-23 2019-10-31 富士フイルム株式会社 医療画像処理システム
US11172142B2 (en) * 2018-09-25 2021-11-09 Taiwan Semiconductor Manufacturing Co., Ltd. Image sensor for sensing LED light with reduced flickering
JP7391041B2 (ja) * 2018-12-11 2023-12-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置及び電子機器

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000057651A1 (en) * 1999-03-22 2000-09-28 Biomorphic Vlsi, Inc. Color image pickup apparatus

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3971065A (en) * 1975-03-05 1976-07-20 Eastman Kodak Company Color imaging array
US4290671A (en) * 1980-02-19 1981-09-22 Rca Corporation Color encoding filter
JPS57102281U (ja) * 1980-12-16 1982-06-23
US4500914A (en) * 1981-08-01 1985-02-19 Sharp Kabushiki Kaisha Color imaging array and color imaging device
JPS5875393A (ja) * 1981-10-29 1983-05-07 Sharp Corp 単板カラ−撮像装置
EP0570204B1 (en) * 1992-05-13 1996-07-10 Matsushita Electric Industrial Co., Ltd. Solid state image pickup device using a colour filter array
JPH0823543A (ja) * 1994-07-07 1996-01-23 Canon Inc 撮像装置
JPH08116913A (ja) 1994-10-18 1996-05-14 Kyodo Kumiai Shisupetsukusu 魚を原料とした発酵調味料の製造方法
US5574816A (en) * 1995-01-24 1996-11-12 Alcatel Na Cable Sytems, Inc. Polypropylene-polyethylene copolymer buffer tubes for optical fiber cables and method for making the same
US5768511A (en) * 1995-09-18 1998-06-16 International Business Machines Corporation Method and system for managing objects in networked computer system with action performed in the server and object updated in the client
JP3820608B2 (ja) * 1995-10-23 2006-09-13 日本ビクター株式会社 映像信号処理回路
US6400403B1 (en) * 1996-07-03 2002-06-04 Sony Corporation Solid-state imaging device having improved resolution without generating a pseudo signal
JPH1126737A (ja) * 1997-06-30 1999-01-29 Victor Co Of Japan Ltd 固体撮像素子
GB2345217A (en) * 1998-12-23 2000-06-28 Nokia Mobile Phones Ltd Colour video image sensor
JP3913388B2 (ja) * 1999-02-01 2007-05-09 三洋電機株式会社 固体撮像装置
GB2351866A (en) * 1999-07-07 2001-01-10 Sharp Kk Stereoscopic display
US6900838B1 (en) * 1999-10-14 2005-05-31 Hitachi Denshi Kabushiki Kaisha Method of processing image signal from solid-state imaging device, image signal processing apparatus, image signal generating apparatus and computer program product for image signal processing method
JP4517493B2 (ja) * 2000-10-18 2010-08-04 ソニー株式会社 固体撮像素子及びその信号処理方法
US6960753B2 (en) * 2001-01-24 2005-11-01 Hewlett-Packard Development Company, L.P. Photosensor arrays with encoded permanent information
US20040105021A1 (en) * 2002-12-02 2004-06-03 Bolymedia Holdings Co., Ltd. Color filter patterns for image sensors

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2000057651A1 (en) * 1999-03-22 2000-09-28 Biomorphic Vlsi, Inc. Color image pickup apparatus

Also Published As

Publication number Publication date
US20110149127A1 (en) 2011-06-23
US20020044209A1 (en) 2002-04-18
JP2002135792A (ja) 2002-05-10
US8848074B2 (en) 2014-09-30
US20070035645A1 (en) 2007-02-15
US7126633B2 (en) 2006-10-24
US7852389B2 (en) 2010-12-14

Similar Documents

Publication Publication Date Title
JP4517493B2 (ja) 固体撮像素子及びその信号処理方法
US7414630B2 (en) Hexagonal color pixel structure with white pixels
JP3988457B2 (ja) 撮像装置及び固体撮像素子の信号処理方法
US9160935B2 (en) Sensor arrangement for transforming color space representation in a digital color image
CN108650497B (zh) 具有透明滤波器像素的成像***
US7847842B2 (en) Preventing green non-uniformity in image sensors
US6226034B1 (en) Spatial non-uniformity correction of a color sensor
US7072509B2 (en) Electronic image color plane reconstruction
US20030016295A1 (en) Image signal processor
JP4451044B2 (ja) 混成画素補間装置および混成画素補間方法
US7305141B2 (en) Contour filter for image sensor output signals
US6747698B2 (en) Image interpolating device
JP2000316169A (ja) カラー撮像素子及びカラー撮像装置
JP2002010286A (ja) 信号処理装置、信号処理方法、及び撮像装置
JP2004056640A (ja) 補色系単板式カラーディジタルカメラにおける撮像画像の補間方法、その補間装置及びそれを備えたディジタルカメラ
US20230269352A1 (en) Solid-state imaging element, camera module, image processing device, and imaging method
JP4119565B2 (ja) カラー撮像素子及びカラー撮像装置
JP2001218099A (ja) 多板式撮像装置および画像データ処理用記録媒体
GB2466375A (en) Improved method for interpolation of tristimulus values on pixels of an image sensor.
JPS58179083A (ja) カラ−固体撮像装置
KR20050014916A (ko) 신호 처리를 위한 방법 및 장치, 컴퓨터 프로그램 제품,컴퓨팅 시스템 및 카메라
JPS6123488A (ja) カラ−固体撮像装置
JPH04298191A (ja) 輝度信号合成回路
JPH0149076B2 (ja)

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070226

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20070226

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20090423

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090512

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20100302

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100427

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100510

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130528

Year of fee payment: 3

R151 Written notification of patent or utility model registration

Ref document number: 4517493

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250