JP5775570B2 - マルチスペクトル感光素子及びそのサンプリング方法 - Google Patents

マルチスペクトル感光素子及びそのサンプリング方法 Download PDF

Info

Publication number
JP5775570B2
JP5775570B2 JP2013512715A JP2013512715A JP5775570B2 JP 5775570 B2 JP5775570 B2 JP 5775570B2 JP 2013512715 A JP2013512715 A JP 2013512715A JP 2013512715 A JP2013512715 A JP 2013512715A JP 5775570 B2 JP5775570 B2 JP 5775570B2
Authority
JP
Japan
Prior art keywords
pixel
sampling
merger
pixels
row
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013512715A
Other languages
English (en)
Other versions
JP2013529035A (ja
Inventor
笑平 胡
笑平 胡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Boly Media Communications Shenzen Co Ltd
Original Assignee
Boly Media Communications Shenzen Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Boly Media Communications Shenzen Co Ltd filed Critical Boly Media Communications Shenzen Co Ltd
Publication of JP2013529035A publication Critical patent/JP2013529035A/ja
Application granted granted Critical
Publication of JP5775570B2 publication Critical patent/JP5775570B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H01ELECTRIC ELEMENTS
    • H01LSEMICONDUCTOR DEVICES NOT COVERED BY CLASS H10
    • H01L27/00Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate
    • H01L27/14Devices consisting of a plurality of semiconductor or other solid-state components formed in or on a common substrate including semiconductor components sensitive to infrared radiation, light, electromagnetic radiation of shorter wavelength or corpuscular radiation and specially adapted either for the conversion of the energy of such radiation into electrical energy or for the control of electrical energy by such radiation
    • H01L27/144Devices controlled by radiation
    • H01L27/146Imager structures
    • H01L27/14601Structural or functional details thereof
    • H01L27/14609Pixel-elements with integrated switching, control, storage or amplification elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/135Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
    • H04N25/136Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements using complementary colours
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/62Detection or reduction of noise due to excess charges produced by the exposure, e.g. smear, blooming, ghost image, crosstalk or leakage between pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/78Readout circuits for addressed sensors, e.g. output amplifiers or A/D converters

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Power Engineering (AREA)
  • Condensed Matter Physics & Semiconductors (AREA)
  • Electromagnetism (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Color Image Communication Systems (AREA)

Description

本発明は感光チップの感光画素の読み込みに関し、特に、大型アレイ感光チップの感光画素のサブサンプリングデータ(下位のサンプリングデータ)の読み込みに関する。具体的には、本発明はマルチスペクトル感光素子(多重分光感光素子)及びそのサンプリング方法に関することである。
本発明は、本発明者による、発明の名称「マルチスペクトル感光素子及びその製造方法」(PCT/CN2007/071262)と、発明の名称「マルチスペクトル感光素子及びその製造方法」(中国出願番号:200810217270.2)に引き続く出願であり、更に具体的な、且つ最適な半導体回路及びチップレベルの実現を提供することを旨とする。
従来の感光素子では、カラー可視光を検出するか、又は赤外光を検出するかであるが、両者を同時に検出するものがほとんどない。またその他の発明又は出願がある。例えば、インジウム・カドミウムの半導体技術を用い、可視と赤外光の検出を同時に実現する(「Silicon infrared focal plane arrays、 M. Kimata、 in Handbook of Infrared Detection Technologies、 edited by M. Henini and M. Razeghi、 pp. 352−392、 Elsevier Science Ltd.、 2002)。しかしながら、それらはカラー(色彩)を得られない。従来のカラー感光(可視光線の感光)と赤外感光とを同時に取得する方法は、一つのカラー感光素子と一つの赤外感光素子を、物理的に重ね合わせる(例えば「Backside−hybrid Photodetector for trans−chip detection of NIR light」、 by T. Tokuda et al.、 in IEEE Workshop on Charge−coupled Devices & Advanced Image Sensors、 Elmau、 Germany、 May 2003、 及び「A CMOS image sensor with eye−safe detection function using backside carrier injection」、 T. Tokuda et al.、 J. Inst Image Information & Television Eng.、 60(3):366−372、 March 2006)。
本発明者による「マルチスペクトル感光素子及びその製造方法」(PCT/CN2007/071262、特許文献1)と「マルチスペクトル感光素子及びその製造方法」(中国出願番号:200810217270.2特許文献2)は、カラー可視光線像と赤外画像とを同時に取得できる新たなマルチスペクトル感光素子の製造方法が提案されている。このような新たな感光素子は、感光素子ダイナミックレンジを極めて大きく広げて、これで自動車、防犯用品、警備用品等の分野の高性能要求を満たした。その上、それを例えば携帯電話用のカメラのような寸法の小さいカラー感光素子に用いると、画像品質を大幅に向上させることができる。更に、それらが従来のCMOS、CCD、又は他の半導体感光素子製造技術を用いて製造されてもよく、且つ、各種の技術にも非常に多い且つ効果的な製造方法及び構造設計がある。本発明は主に少数の幾つかの種類の、CMOS/CCD半導体技術を用いる製造方法を提案する。
しかしながら、この新たな二重層(双層)又は多重層(多層)の感光素子は、一つの新たな問題をもたらす。即ち、データ量が従来の単層の感光素子の二倍、もしくは、更に多い。二重層感光素子は半分の画素のみによって単層感光素子と同一な解像度を取得できる。しかしながら、大型アレイの感光素子のデータを高速に処理することは、依然として改善する必要がある1つの問題である。
近年、優れた方法が提案されている。例えば、大型アレイ画像に対して高性能のサブサンプリングを行い、読み込み回路共有、行ビニング(Row Binning)及び列ビニング(Column Binning)のサンプリング技術(例えば米国特許第6,801,258B1号, 米国特許第6,693,670B1号,米国特許第7,091,466B2号,米国特許第7,319,218B2号等)が挙げられる。言及に値する特許は、米国特許第6,693,670号, 米国特許第7,091,466号及び米国特許第7,319,218号である。これら特許は、効果が良く且つ便利な手段を提供し、N行N列又はM行N列の併用を実現した。
しかしながら、これらサブサンプリング技術が最適ではない。例えば、行ビニングと列ビニングを用いるサブサンプリング技術はN個の点を1つの点に合併(組み合わせ)することにより、画像信号対雑音比の改善が最高でもN1/2 (米国特許第7,091,466号, 米国特許第7,319,218号を参照)である。これは行ビニングと列ビニングがただ信号を平均化するからであり、ランダムノイズの分散のみをN1/2(ルートN)倍低減し、有用な信号自身の強度が増強されず、ただ幾つかの点の平均値で取り替える。通常、画像信号には緩変低周波数の固定ノイズもあり、この部分のノイズも減少しない。
また、従来のサブサンプリング技術はただ単独にBayerパターン(Bayer図案、Bayer配列)又はCYMG四色パターン(CYMGカラーパターン)配列の感光チップのサブサンプリングの需要を考えており、後の計算の簡単化を考えない。例えば、1つのBayerパターンのカラー画像は、米国Micron Technologies Inc.の行ビニングと列ビニングのサンプリング技術(米国特許第7,091,466号,米国特許第7,319,218号)を通した後、依然として1つのBayerパターンであり、複雑な処理によってプレビューと記憶段階で好ましいYUV画像を取得できる。信号対雑音比を改善できる他のサブサンプリング回路が、複雑な積分回路と比較器を用いる必要があり、これで補助回路の増加と周波数の増加となる。
また現状のサブサンプリング技術には大きな制限がある。つまり、行ビニングと列ビニングは、同一な、且つ空間で隣接(中間は他の画素で隔てられる)しない色彩画素間のみに行われる。Bayerパターン又はCYMG四色パターンにとって、同一な色彩画素で、空間で隣接しておらず、行ビニングと列ビニングとを行った後の画像は、既に原画像(原始画像)の空間上の均一分布の特徴を破壊している。このため、バックエンド処理(最終段階の処理、後端処理)がこのような場合に適応しないと、直線エッジには、鋸歯効果が生じやすくなる。
本発明が注目する二重層又は多重層感光素子にとっては、従来技術が窮屈でありふれたものになる。これは二重層又は多重層感光素子が非常に優れたしかし全体に新しい色彩のパターン(色彩図案)配列を提供するためであり、信号読み込みにもサブサンプリングにも、二重層又は多重層感光素子の特徴に対する、改善を行わなければならない。
国際出願第PCT/CN2007/071262号 中国特許出願第200810217270.2号 米国特許第6,801,258B1号 米国特許第6,693,670B1号 米国特許第7,091,466B2号 米国特許第7,319,218B2号
「Silicon infrared focal plane arrays」 M. Kimata、 Handbook of Infrared Detection Technologies、 編集者 M. Henini and M. Razeghi、 pp. 352−392、 Elsevier Science Ltd.、 2002年 「Backside−hybrid Photodetector for trans−chip detection of NIR light」、 by T. Tokudaら、 IEEE Workshop on Charge−coupled Devices & Advanced Image Sensors、 Elmau、 Germany、 2003年5月 「A CMOS image sensor with eye−safe detection function using backside carrier injection」、 T. Tokudaら、 J. Inst Image Information & Television Eng.、 60(3):366−372、 March 2006
本発明の目的は更に優れたサブサンプリング原理及び先進的なサブサンプリング回路を提出し、且つサブサンプリングとその後の画像処理を合わせて最適化することにある。本発明はマルチスペクトル感光素子及びそのサンプリング方法を提供し、これで二重層又は多重層マルチスペクトル感光チップのデータ量が相対的に大きいという微弱な不具合を克服する。ここで、サンプリング方法は主にサブサンプリングを含むが、全画像サンプリングもカバーしている。本発明は二重層又は多重層マルチスペクトル感光素子に限定されず、単層の感光素子にとって、同様に適用される。
本発明を便利に説明し、且つそれと従来技術との区別を解釈するために、二重層感光素子、両面(双面)感光素子、及び双方向(双向)感光素子の定義を提供する。ここで、二重層感光素子とは、感光画素が物理的に両層(例えば本発明者の発明出願「マルチスペクトル感光素子及びその製造方法(PCT/CN2007/071262)」に記載)の両層感光素子と区別され、層ごとに特定のスペクトルを感応する感光画素が含まれる。両面感光素子とは、感光素子が2つの感光表面を有し、両方の面とも少なくとも1つの方向から感光できる。双方向感光素子とは、感光素子能が2つの(通常、互に180度となる)方向から感光でき、即ち、感光素子の正面と背面から感光できる。
1つの感光素子は二重層、両面(双面)及び双方向の3つの特徴のうち1つ以上の特徴を同時に有してもよい。
上述の技術的課題を解決するために、本発明が以下のような技術的解決策を用いる。
本発明は、マルチスペクトル感光素子であって、行と列とで配列されている画素アレイと、
前記画素アレイにおける隣接する同行異列、異行同列、又は異行異列の画素間を両々合併してサンプリングを行い、第一の合併画素のサンプリングデータを取得するための第一の合併ユニットと、
第一の合併ユニットが取得した第一の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第二の合併画素のサンプリングデータを取得するための第二の合併ユニットと、を含むマルチスペクトル感光素子、を特徴とする。
前記マルチスペクトル感光素子は、さらに第二の合併ユニットが取得した第二の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第三の合併画素のサンプリングデータを取得するための第三の合併ユニットを更に含む。
前記マルチスペクトル感光素子によれば、前記第一の合併ユニット又は第二の合併ユニットの画素合併方式は、同一な又は異なる色彩画素間の電荷累積方式(電荷重畳方式、charge superposition 方式)又は2つの異なる色彩画素間の信号平均方式であり、その内、異なる色彩画素間の画素合併方式(電荷累積方式又は信号平均方式を含む)が色彩空間の変換の方式に従って、これで色彩の再構築の要求を満たす。
前記マルチスペクトル感光素子によれば、前記電荷累積方式が読み込みコンデンサ(FD、読み取りキャパシタ)で遂行(完成)される。
前記マルチスペクトル感光素子によれば、前記第一の合併ユニット又は第二の合併ユニットで機能する、色彩に基づく合併とサンプリングの方式は、同色合併方式、異色合併方式、複合合併方式、又は余った色彩を選択的に放棄する合併方式を含む。且つ第一の合併ユニットと第二の合併ユニットの合併とサンプリングの方式は、同時に同色合併方式が機能することはない。即ち二つの合併ユニットにおいて、少なくとも一つの合併ユニットが同色合併方式を用いない。
前記マルチスペクトル感光素子によれば、前記第一の合併ユニット又は第二の合併ユニットの位置に基づく合併とサンプリングの方式は、バスに直接出力する信号自動平均方式、行飛ばし(行スキップ)又は列飛ばし(列スキップ)方式、及び逐次サンプリング方式の少なくとも一種を含む。これらの位置に基づく合併とサンプリングの方式は単独に使用されてもよく、組み合わされて使用されてもよい。
前記マルチスペクトル感光素子によれば、前記第三の合併ユニットの合併とサンプリングの方式は、色彩空間変換方式及びバックエンドデジタル画像拡大縮小方式(後端デジタル画像拡大縮小方式)の少なくとも1種を含む。
前記マルチスペクトル感光素子によれば、前記色彩空間変換は、RGBからCyYeMgX空間への変換、RGBからYUV空間への変換、又はCyYeMgXからYUV空間への変換を含み、その内、XがR(赤)、G(緑)、B(青)のいずれか1種である。
前記マルチスペクトル感光素子によれば、前記画素アレイは少なくとも1つの基本画素を含む複数のマクロ画素から構成され、その内、基本画素が受動画素(パッシブ素子)又は能動画素(アクティブ素子)であってよい。
前記マルチスペクトル感光素子によれば、前記マクロ画素における基本画素がマトリックス状(格子状)又はハニカム状(蜂の巣状)で配列される。
前記マルチスペクトル感光素子によれば、前記マクロ画素の組成方式は、読み込みコンデンサ(FD)を持たない3T能動画素組成方式と、1個の読み込みコンデンサ(FD)を備えた4T能動画素組成方式の少なくとも1種を含んでよい。
前記マルチスペクトル感光素子によれば、各マクロ画素の、1つの読み込みコンデンサ(FD)を備えた4T能動画素は、4点、6点、又は8点によって共有される読み取り回路を採用する。
前記マルチスペクトル感光素子によれば、前記マクロ画素は、4つのマトリックス配列された画素と、二つの行の中間に位置する二つの非透光(不透明)な読み込みコンデンサ(FD)から構成され、上一行の画素と下一行の画素とが1つの読み込みコンデンサ(FD)を共有し、2つの読み込みコンデンサ(FD)の間で電荷の移動を実現することができ、且つ少なくとも1つの読み込みコンデンサに読み込み回路が接続される組成方式を含むことができる。
前記マクロ画素は、2点によって共有、3点によって共有、又は4点によって共有される読み込みコンデンサ(FD)付きの3T又は4T能動画素を有する少なくとも一つの基本画素から組成されてもよい。また、基本画素は、4点橋絡共有方式(橋式共有方式)、6点橋絡共有方式、又は8点橋絡共有方式を適用される読み込み回路を採用してもよい。
前記マルチスペクトル感光素子によれば、各マクロ画素が2点、3点、又は4点によって共有される読み込みコンデンサ(FD)付きの3T能動画素または4T能動画素を有する基本画素から組成され、基本画素は、4点橋絡共有方式、6点橋絡共有方式、又は8点橋絡共有方式を適用される読み込み回路を採用してもよい。
前記マルチスペクトル感光素子によれば、前記マルチスペクトル感光素子の全画像サンプリング方式は、プログレッシブ走査を行って且つプログレッシブ読み込みを行う方式、若しくはプログレッシブ走査を行って且つインターレース(又はインターライン)読み込みを行う方式のいずれかを含むことができる。
本発明は、マルチスペクトル感光素子のサンプリング方法を更に開示する。この方法は、以下のステップを含む。すなわち、前記画素アレイにおける隣接する同行異列、異行同列、又は異行異列の画素の間をそれぞれ合併(結合)してサンプリングを行い、第一の合併画素のサンプリングデータを取得するための第一の合併プロセスと、第一の合併プロセスが取得した第一の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第二の合併画素のサンプリングデータを取得するための第二の合併プロセスと、を含む。
前記サンプリング方法は、さらに、第二の合併プロセスが取得した第二の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第三の合併画素のサンプリングデータを取得するための第三の合併プロセスを含む。
前記サンプリング方法によれば、前記第一の合併プロセス又は第二の合併プロセスの画素の合併とサンプリングの方式は、同一な又は異なる色彩の画素間の電荷累積方式(charge superposition)又は異なる色彩の画素間の信号平均方式であり、その内、異なる色の画素の合併方式(電荷累積方式又は信号平均方式を含む)は色彩空間変換の方式に従って組み合わされて、これにより色彩再構築の要求を満たす。
前記サンプリング方法によれば、前記第一の合併プロセス又は第二の合併プロセスで機能する色彩に基づく合併とサンプリングの方式は、同色合併方式、異色合併方式、複合合併方式、又は余った色彩を選択的に放棄する方式を含む。且つ第一の合併プロセスと第二の合併プロセスの少なくとも一方の合併プロセスは、同色合併方式を用いない。
前記サンプリング方法によれは、前記第一の合併プロセス又は第二の合併とサンプリングのプロセスで機能する、位置に基づく合併とサンプリングの方式は、バスに直接出力する信号自動平均方式、行飛ばし(行スキップ)又は列飛ばし(列スキップ)方式、及び逐次サンプリング方式の少なくとも一種を含む。
前記サンプリング方法によれば、前記第三の合併とサンプリングのプロセスが行う合併とサンプリングの方式は、色彩空間変換(color space conversion)方式とバックエンドデジタル画像拡大縮小(backend digital image scaling)方式の少なくとも一つを含む。
前記サンプリング方法によれば、前記色彩空間の変換は、RGBからCyYeMgX空間への変換、RGBからYUV空間への変換、又はCyYeMgXからYUV空間への変換を含み、その内、XがR(赤)、G(緑)、B(青)のいずれか一種である。
前記サンプリング方法によれば、その全画像のサンプリングの方式は、プログレッシブ走査を行い且つプログレッシブ読み込み方式を行う方式、又はプログレッシブ走査を行い且つインターレース(又はインターライン)読み込みを行う方式のいずれかを含む。
本発明の有益な技術的効果は以下の通りである。
本発明は、サブサンプリングを少なくとも2つのプロセスに分ける。即ち前述の第一の合併とサンプリングのプロセスと第二の合併とサンプリングのプロセスである。第一の合併とサンプリングのプロセスと第二の合併とサンプリングのプロセスは、通常、画素の行の(合併)サンプリングと列の(合併)サンプリングの間に行われる。主にアナログ信号に対して行われ、電荷累積部分を除き、通常、第一の合併とサンプリングのプロセスのみで行われるほかに、その順序及び内容を一般に交換してもよい。また、第三の合併とサンプリングのプロセスを含んでよく、第三の合併とサンプリングのプロセスはアナログ・デジタル変換の後に行われ、主にデジタル信号に対して行われる。
第一の合併とサンプリングのプロセスでは、画素アレイにおいて2つのすぐ隣に隣接する画素が結合される(合併を行う)。一方、隣接する画素の合併が完成したとき、本文では、合併後の画素を第一の合併画素(第一の結合画素)として参照する。第一の合併画素は、ただ本発明を便宜的に説明するためのものであり、この概念を用いて第一の合併プロセスを行った後の画素を示すもので、物理的には、画素アレイに1つの「第一の合併画素」が存在することを示さない。2つの隣接する画素の合併とサンプリング後のデータを「第一の合併画素のサンプリングデータ」と称する。ここで、隣接とは、2つの画素の間が水平、垂直、又は対角方向から見て近接しており、中間に他の画素がないことを言う。隣接する場合には、同行異列、異行同列、又は異行異列を含む。一般的に、このような合併では、信号が少なくとも2つの画素の信号平均となるが、ノイズがN1/2(ルートN,Nの正の平方根)低減し、このため、合併後、少なくとも信号対雑音比をN1/2倍(ルートN倍)上げることができる。またこのような合併は、同一な又は異なる色彩の画素の間で行われてもよい。他方、2つの合併する画素の色彩が異なってもよい。即ち色の累積(追加)又は色の平均化が行われる。色彩の三原色原理として知られているとおり、二種類の原色の累積がもう一つの原色の補色であり、つまり、二つの異なる原色の画素が合併すると、もう一つの原色の補色を生じる。色彩空間の変換は、原色空間から補色空間への移動だけが要求される。異なる補色によって色彩の再構築が完成される。即ち、本発明によれば、異なる色彩の画素の合併を実現することができて、信号対雑音比を向上させ、それとともにカラーの再構築を行うことができる。サブサンプリングのプロセス全体もこれによって最適化され、大データ量の画素アレイの高速需求に更に適応される。色彩空間変換のための一つの基本的な要求は、変換後の色彩の組み合わせが(挿入値等の手段を介する)要求されたRGB(又はYUV、又はCYMK)色彩を再構築できることである。
通常、画素アレイは複数の画素を含んでおり、且つ第一の合併とサンプリングではただ2つの画素を合併するため、合併で形成された第一の合併画素は複数存在する。異なる第一の合併画素にとって、それが用いた色彩合併方式は、同一であってもよく、異なってもよい。第一の合併全体が同一の色彩を持つ画素の間で行われる場合に、それを同色合併方式と称する。第一の合併全体が異なる色彩の画素間で行われる場合に、それを異色合併方式と称する。第一の合併の一部が同一な色彩の画素間で行われ、一部が異なる色彩間で行われる場合に、それを複合合併方式と称する。画素アレイにおける余った色彩を放棄(放棄は選択的なものであり、例えば、これによってカラー再構築に影響してはいけない)する場合に、このような色彩合併方式を、余剰カラーの選択的放棄方式と称する。
第二の合併プロセスは複数の第一の合併画素に対する操作である。同様に、色彩が同一な第一の合併画素を合併してもよく、色彩が異なる第一の合併画素を合併してもよい(この場合に、三原色の全部累積となってカラーを再構築できない可能性がある)。
上述の同色合併、異色合併、複合合併等の方式は、合併とサンプリングとを色彩に基づいて分類したものである。これに加えて、合併とサンプリングの位置の選択した角度から、第一の合併プロセスと第二の合併プロセスの合併とサンプリング方式は、同じバスに直接出力する信号自動平均方式、行飛ばし(行スキップ)又は列飛ばし(列スキップ)方式、逐次サンプリング方式(一対一サンプリング方式)、及びこれら方式の二種又は三種の組み合わせを含む。第一の合併とサンプリングのプロセスのみで行われる電荷累積部分を除き、第一の合併プロセスと第二の合併プロセスは、順序が異なる以外、その方式は同一であって、交換可能である。
バスに直接出力する信号自動平均方式とは、合併する必要がある信号(色彩が同一又は異なる)を、データ収集バスに同時に出力し、(電圧)信号の自動的な平衡によって、合併する必要がある信号の平均値を取得する。行飛ばし又は列飛ばし方式とは行又は列を飛ばすことによって、データ量を低減する方式によって(合併と)サンプリングとを実現する。逐次サンプリング方式とは、実際にいずれかの合併も行わずに、これによって元の画素又は第一の合併画素を読み込む。この3つの方式が同時に使用されてもよく、例えば、行飛ばし又は列飛ばし方式がバスに直接出力する信号自動平均方式又は逐次サンプリング方式と同時に使用されてもよい。
第三の合併とサンプリングのプロセスのサブサンプリング方式は、色彩空間変換方式、バックエンドデジタル画像拡大縮小方式、及びこの2つの方式の連続の使用を含む。第一と第二の合併プロセスは主にアナログ信号で行われるが、第三のサブサンプリングプロセスが主にデジタル信号で行われる。即ちアナログ・デジタル変換の後に行われる。異なる空間位置にある3つ又は4つの色彩画素を、同一な点の値としてまた1つの色彩空間に転換する。これにより、水平方向及び(又は)垂直方向においてデータの減少を実現でき、これでサブサンプリングの効果が達成される。デジタル画像拡大縮小方式は、最も直感的に理解できる、一般に利用可能なサブサンプリング方式である。
本発明はサンプリングを合併する時に最初に電荷累積を実現する。従来の合併とサンプリングは、ほとんど電圧又は電流信号を平均することによって行われており、このような方式がN点を合併する場合に、信号対雑音比を、最大でN1/2(ルートN)倍増加させる。これは、現在の合併とサンプリングがいずれもN個の同一な色彩の画素を1本の出力線を共用する方式によって、合併とサンプリングとを行い、この出力線において、各画素の電圧又は電流信号について、必ず(自動的に)平均を求めているためである。このため、その信号対雑音比の向上がただノイズ合併後にN1/2(ルートN)低減し、これで信号対雑音比を最大N1/2(ルートN)倍上げていた。しかし、本発明の電荷累積方式によれば、例えば読み込みコンデンサを介して電荷を記憶し、電荷の累積を実現し、これで信号が重ね合わされて信号対雑音比が少なくともN倍上がり、信号平均の方法に比べて、少なくともN1/2(ルートN)倍高くなる。つまり、N個の信号を電荷累積法で合併することで、理論上、最高ではN2つの信号を平均する効果又はよりよい効果を達成できる(例えば以下の記載するよう)。これが信号対雑音比を向上させた効果的な手段である。
もう一つの顕著な効果は、隣接する(隣り合う)画素の累積が更に、画素の間の相互干渉(cross−talking)効果が低減されるということでもたらされる。これは本来相互干渉する色彩が、現在では合理的に(合法的に)一体となることである。つまり、本来ノイズに属する一部信号が、現在有効な信号部分となり、このため、N個の信号の電荷累積が信号対雑音比の改善となり、理論上の上限に接近でき、即ちN×N1/2倍となる。これは、N3個の信号を平均する効果に相当する。
電荷累積は合併とサンプリングとにおいて効果的な手段であり、しかし、それが合併する画素が空間上相隣する必要がある。従来の、サブサンプリングが行われない原因は、従来のサブサンプリングが単に同一な色彩の画素の間で行われるが、合併される画素の間に他の画素を隔てていると、電荷累積を実現できない。多重層感光素子は、色彩のパターンが非常に豊かであるため、電荷累積の実現がより簡単である。本発明の色彩空間変換の方法によれば、単層感光素子上に電荷累積を簡単に実現できる。
本発明が全画像サンプリング(即ち1つの画像に対して最高解像度比率でサンプリングを行う)を行う場合に、プログレッシブ走査を行って且つインターレース(又はインターライン)読み込みを行う方式を用いることで、クロック速度を上げず、かつフレームバッファを用いずに、単一の写真を取る場合に大型アレイ画像の全画像読み込みフレームレートを倍にする。AD転換器と行バッファを増加すると、全画像読み込みフレームレートを更に上げることができる。この方法は機械シャッターを省くことに対して重要な価値がある。
本発明のプログレッシブ走査を行って且つインターレース(又はインターライン)読み込みを行う方式は、伝統的なテレビシステムにおける交互配置された走査方式(interleaved scanning)とは異なる。伝統的な交互配置された走査方式は、インターレース走査であり、インターレース方式で読み込む。このため、奇数フィールド及び偶数フィールドの間の時間(感光時間、読み込み時間に拘わらず)では1つのフィールド分が異なり、即ちハーフフレーム分が異なる。しかし、本発明のプログレッシブ走査でインターレース(又はインターライン)読み込みを行う方式においては、画素の感光(検出)の時間系列の順序は、プログレッシブ走査でプログレッシブ読み込みを行う方式と完全に同一であり、ただ行の読み込み順序が変化している。
本発明は実施例によって新たな、威力がより強く、適応面がより広い感光素子及びそのサブサンプリング方法を説明する。これらの最適な実現方法は、単に例として本発明及び本発明者の以前の関連発明の特長及び実現方法を説明するが、これら発明の保護範囲を制限するものではない。
本分野の技術者にとって、本発明の上述及びそのほかの目的及び特長が、以下の最適な、複数の図面をつける実現例の細部を読んだ後、明らかになる。
図1は、CMOS受動画素のための読み込み(サンプリング)回路である。 図2は、CMOS 3T能動画素のための読み込み(サンプリング)回路である。 図3は、CMOS 4T能動画素のための読み込み(サンプリング)回路である。 図4aは、CMOS能動画素の読み込み(サンプリング)回路と行アドレス選択回路のそれぞれとの関係である。 図4bは、CMOS受動画素の読み込み(サンプリング)回路と行アドレス選択回路のそれぞれとの関係である。 図5はCMOS画素の読み込み(サンプリング)回路と行アドレス選択回路及び列アドレス選択回路との構造模式図である。 図6は1つの典型的な列バッファをつける実用CMOS画素の読み込み(サンプリング)回路模式図である。 図7はCCD画素の読み込み方式とCMOS画素の読み込み方式との比較のための図である。図7aにおいては、垂直方向のCCD画素の間がおいて1つずつ走査されることが示される。 図7bは、CCD画素の読み込み方式と比較するためのCMOS画素の読み込み方式を示す図である。 図8は、米国特許第7,091,466号の基本原理を説明する模式図である。合併する必要がある同一な画素のスイッチを同時に開放(オープン、オン)にすることによって、関連信号をサンプリングバスまでに同時に出力して自己が平衡となり、これで合併画素の平均値を得る。 図9は、米国特許第7,319,218号の基本原理を説明する模式図である。合併する必要がある同一な画素を異なる時に高速サンプリングして、関連信号を完全に記録してからサンプリングバスまでに同時に出力した後、自己が平衡となり、これで合併画素の平均値を得る。その基本思想は米国特許7、091、466号と同一であり、ただ異なる回路を用いて実現される。 図10aは従来の画素同色合併技術の基本思想を示す。即ち、隣り合うマクロ画素の、色彩同一な画素を(信号平均の方式により)合併する。図10aは列合併の模式図である。 図10bは従来の画素同色合併技術の基本思想を示す。即ち、隣り合うマクロ画素の、色彩同一な画素を(信号平均の方式により)合併する。図10bは行列同時合併の模式図である。 図11は、現在使用されている4点共有の4T能動感光画素の読み込み回路を示し、各画素が平均に1.75個のゲートを用いる。 図12は、1つの6点による共有の4T能動感光画素の読み込み回路を示し、各画素が平均に1.5個のゲートを用いる。この6点共有能動感光画素の読み込み回路が、ハニカム状配列を用いる両面二重層感光素子に適応され(中国出願番号200810217270.2「マルチスペクトル感光素子及びその製造方法」を参照)、1つのマクロ画素におけるすべての3つの複合画素の上下二重層感光ダイオードが同一の読み込みコンデンサ(FD)と3T読み込み回路を共有するようにさせる。 図13は、1つの8点による共有の4T能動感光画素の読み込み回路を示し、各画素が平均に1.375個のゲートを用いる。この8点による共有能動感光画素の読み込み回路が、4点のマクロ画素を基礎とするマトリックス配列の両面二重層感光素子に適応され、1つのマクロ画素におけるすべての4つの複合画素の上下二重層感光ダイオードが同一の読み込みコンデンサ(FD)と3T読み込み回路を共有するようにさせる。 図14は、本発明の異色と複合合併技術の基本思想を示す。即ち、まず、同一マクロ画素内の2つの異なる又は同一な色彩の画素(信号平均又は累積の方式により)を合併し、そして合併後相隣且つ色彩同一な画素間の合併をする。図14(a)はBayerパターン感光素子の両列合併の模式図であり、図14(b)はBayerパターン感光素子の両列と両行同時合併の模式図である。ここで、単独にGとB、又はGとRとを合併する場合には、異色合併となるが、GとBの合併、GとRの合併、BとRの合併、及びGとGの合併をあわせて行う場合には、複合合併となる。ある合併が同色の間(GとG)にあり、他の合併が異色の間にあるからである。BayerパターンのRGB原色画像が、複合合併された後、CyYeMgG補色画像に転換される。この図では、GとBの合併、GとRの合併、BとRの合併、及びGとGの合併が第一の合併プロセスとなる。第二の合併プロセスは、合併後に異なる位置においてCy、Ye、Mg、及びG値を取得し、同色合併の方式によりバスに同時出力され、又は行飛ばし又は列飛ばしの方式により、ある画素を飛ばして、逐次に読み出す。 図15は、本発明の複合合併技術が更に一般的なM行とN列の合併に用いられる場合(図では5×3となり、即ち5行と3列の合併)を示す。行と列とを、飛ばす(スキップ)方法又は交差させる(クロス)方法(行飛ばし又はインターラインと列飛ばし及び跨列)を組み合わせて、図15に類似するが異なる種々の場合が得られる。3行3列の合併は、2行2列の合併方式に、行飛ばし及び列飛ばしを加えて完成することができる。第3行と第4行が交差合併する場合に、一対の、同じ中点位置に位置する(Mg、G)信号を生じる。均一性を維持するために、後の列の合併をより容易にするために、人為的にMg又はGを正面の位置(前の位置)にする様考慮する。行と列の対称性によって、この図から、3×5、2×3、3×2、2×4、4×2、5×2、2×5、2×6、6×2、3×4、4×3、3×6、6×3、4×4、4×5、5×4、4×6、6×4、5×6、6×5、6×6、7×6、6×7、7×7、8×8等の様々な合併に容易に拡張できる。より有用なのは2×2、2×4、4×2、4×4、3×6、6×3、6×6、4×8、8×4、及び8×8の、画像の縦横比を容易に維持できる合併因子である。同様に、この図では、GとBの合併、GとRの合併、BとRの合併、及びGとGの合併が、第一の合併プロセスとなる。第二の合併プロセスは、合併後、異なる位置においてCy、Ye、Mg、及びGの値を取得し、同色合併の方式によりバスに同時出力し、そして中間において用いない画素(例えば図における第5行と第10行)を飛ばす(スキップする、省く)。感光素子が第三の合併とサンプリングのプロセスを含む場合に、飛ばした色彩は、後の第三の合併とサンプリングのプロセスに参加しない。 図16は、色空間マトリックスの変換(色彩空間のマトリックス変換)によって引き起こされる、追加的な2×2画像のダウンサイジング(縮小)を示す。CyYeMgGの画像が原画像であり、本発明の複合合併方法によりBayer RGB画像から取得しても、それをYUV画像に転換した場合に、追加的な2×2縮小を取得できる。縮小方法は、1つのCyYeMgGマクロ画素を、共通点の4つの画素として見なされる1つの(Y、U、V)画素に転換し、そして(水平方向に)相隣する2つの点のU値とV値とを平均し、プレビューとJPEG/MPEG圧縮のYUV422画像を取得する。 図17は、本発明の優れた読み込み回路を示す。この読み込み回路では、奇数行と偶数行の感光画素が、1つの非透光の読み込みコンデンサFD(例えば図におけるFD1とFD2)を共用する。スイッチTG1が選択されてGr感光ダイオードにおけるコンデンサをFD1に転換する。同様に、スイッチTG2、TG3、TG4がそれぞれR、B、Gb等コンデンサ値をFD2、FD1、又はFD2に読み込む。またスイッチTG5が、読み込みコンデンサFD1における値を、累積の方式により、FD2(又はFD2からFD1に転送する)に転送する。このようなレイアウトの感光画素には、図18に示すような4点橋絡共有読み込み回路を用いてもよい。この回路では、読み込みコンデンサFD非透光の要求は、図21に示すプログレッシブ走査、インターレース又はインターライン読み込みを実現することの必要なものである。 図18は、本発明の4点マクロ画素マトリックス配列に用いる4点橋絡共有読み込み回路を示す。このような読み込み回路には、各画素が平均に2つのトランジスタ(オーディオン)を用いる。この回路は、ゲート数が最少の共有読み込み回路ではないが、他の面では多くの特長を有する。第一の特長は、サブサンプリングする場合に、TG1/TG3又はTG2/TG4を同時に開放(オープン、オン)することによって、奇数行の画素値Grと偶数行の画素値Bとが累積の方式でFD1内で累積し、信号累積、ノイズ低減の二重効果を達成する。これに類似して、FDが2つの信号を融合した後、そして読み込みの方式を用いて、信号対雑音比を最大で2×21/2倍を上げることができ、その内、2倍が信号の増強から、21/2倍がノイズの減弱からである。比較すると、従来の2つの信号を平均する方法は、ノイズを減ずる方式によって、信号対雑音比を最大で21/2倍のみを上げることができる。同様に、時間系列を制御してTG1/TG4/TG5又はTG2/TG3/TG5を同時にオープンにすれば、対角線における画素を信号累積の方式で読み出すことができる。第2の特長は、図21に示すように、全画像サンプリングする場合に、下一行の画素値をFDに保存する方法により、インターレース又はインターライン読み込みを実現できる。 図19は、本発明のハニカム配列の3点マクロ画素を有する二重層感光素子に用いる六点共有読み込み回路を示す。このような読み込み回路では、最上層(頂層)の3つの画素が1つの読み込みコンデンサFD1を共用し、最下層(底層)の3つの画素が1つの読み込みコンデンサFD2を共用し、最上層3点と最下層3点とが1つの拡大と読み込み回路を共用する。このような最上層と最下層の共用の読み込み回路の方法は、設計を簡単化し、サブサンプリングする場合に制御ロジックを簡単化することができる。図12と異なる点は、最上層と最下層の読み込みコンデンサが共有されない点で、これは両面感光素子の製造に便利である。 図20は、本発明の4点マクロ画素マトリックス配列の二重層感光素子を用いる8点共有読み込み回路を示す。このような読み込み回路では、最上層の4つの画素が1つの読み込みコンデンサFD1を共用し、最下層の4つの画素が1つの読み込みコンデンサFD2を共用し、最上層の4点と最下層の4点とが1つの拡大と読み込み回路を共用する。図13と異なる点は、最上層と最下層の読み込みコンデンサが共有されない点で、これは両面感光素子の製造に便利である。明らかに、両面二重層感光素子にとって、最上層と最下層の4つのマクロ画素点がそれぞれ図18に示すように二重FD橋絡共有読み込み回路を用いてもよく、これで最上層と最下層との読み込み回路を相対的に独立させる。且つ各自がインターレース又はインターライン読み込みの方式を用いてもよく、全画像の写真を取るシャッター速度を増加する。 図21aは、図17に示すサンプリング読み込み回路を示し、全画像サンプリングする場合のインターレース読み込み(図21(a))又はインターライン読み込み(図21(b))方式に用いる模式図である。図21(a)のインターレース読み込みでは、第1行(GrRgGrR…)を読む場合に、第2行(BGBG…)の画素値が、第1行に相応する位置の値の読み込みの後に、既に空のFD区間にすぐに移動する。つまり、第1行の第N列画素が読み込まれる場合に、第2行の第N−1(又はN−2等)個目の画素が垂直対応のFD区域に移動している。第1行を読んだ後、FDに保存した第2行の値をすぐに読まず、続いて第3行の画素値を読む。同様に、第3行の画素値を読む場合に、第4行の画素値もFDの区画(区域、領域)に同時に転送される。つまり、すべての偶数行の画素値が、奇数行の画素値がすべて読むまでに、FDバッファ領域に逐一移動する。最後に、順序により一行一行にFDバッファ領域において偶数行の画素値を読む。図21aはインターレース読み込み方式を示しており、これは従来のテレビシステムにおけるフィールド走査方式とは異なる。異なる点は、バッファ(FD)区域に保存した後第二のハーフフレーム画像の感光時間が、第一のハーフフレームとほとんど同一である点である。このため、シャッター速度は行毎の読み込みの二倍となり、このためテレビシステムのフィールド走査方式によって引き起こされる奇数フィールドと偶数フィールド時間の1フィールド遅れ(ハーフフレーム遅れ)という状況を避ける。このような場合は、連続のビテオ録画よりも1枚の撮影(ショット)により適している。インターレース読み込み方式を用いて写真を取る場合に、電子シャッター速度を瞬間で二倍にすることは非常に価値のある方法である。例えば、仮に画素の読み込みクロックが96MHzであり、感光チップが8M画素あると、全画像を取る場合に電子シャッター速度が(96/8)= 12fps、又は1/12秒である。しかし、図19に示すようなインターレース読み込み方式又はインターライン読み込み方式を用いると、興味がある一つのフレームを、瞬間に24fps、又は1/24秒に上げて、速度が一倍速くなる。シャッター速度は1/24秒に達し、つまり、携帯電話のカメラモジュールの機械シャッターを省いてもよくなる。1/12秒の速度では機械シャッターが必要であり、そうしないと、手振れによる画像不良が発生する。 図21bは、図17に示すサンプリング読み込み回路を示し、全画像サンプリングする場合のインターレース読み込み(図21(a))又はインターライン読み込み(図21(b))方式に用いる模式図である。図21(b)のインターライン読み込みでは、第1行(GrRgGrR …)を読んだ場合に、第2行(BGBG…)の値が、第1行相応位置の値読み込みの後、既に空のFD区間にすぐに移動する。つまり、第1行の第N列の画素値が読み込まれる場合に、第2行の第N−1(又はN−2等)個目の画素値が垂直対応のFD区域に移動している。第1行を読んだ後、第3行の画素値をすぐに読まない場合には、続いて第4行の画素値を読み、それとともに第3行の画素値をFD区域に転送する。つまり、行の読み込み順序が1、4、5、8、・・・2、3、6、7という順序に従う。図21(b)のメリットは、前のハーフフレームの画像が、依然としてBayerパターン配列であるため、写真を取った瞬間の小さな図のプレビューを取得できる。図21bはインターライン読み込み方式を示しており、これは従来のテレビシステムにおけるフィールド走査方式とは異なる。異なる点は、バッファ(FD)区域に保存した後第二のハーフフレーム画像の感光時間が、第一のハーフフレームとほとんど同一である点である。このため、シャッター速度は行毎の読み込みの二倍となり、このためテレビシステムのフィールド走査方式によって引き起こされる奇数フィールドと偶数フィールド時間の1フィールド遅れ(ハーフフレーム遅れ)という状況を避ける。このような場合は、連続のビテオ録画よりも1枚の撮影(ショット)により適している。インターライン読み込み方式を用いて写真を取る場合に、電子シャッター速度を瞬間で二倍にすることは非常に価値のある方法である。例えば、仮に画素の読み込みクロックが96MHzであり、感光チップが8M画素あると、全画像を取る場合に電子シャッター速度が(96/8)= 12fps、又は1/12秒である。しかし、図19に示すようなインターレース読み込み方式又はインターライン読み込み方式を用いると、興味がある一つのフレームを、瞬間に24fps、又は1/24秒に上げて、速度が一倍速くなる。シャッター速度は1/24秒に達し、つまり、携帯電話のカメラモジュールの機械シャッターを省いてもよくなる。1/12秒の速度では機械シャッターが必要であり、そうしないと、手振れによる画像不良が発生する。 図22は、1つの二重層感光素子がサブサンプリングする場合の、簡略化された処理の場合を示す。即ち、第一の合併プロセスは、まず上下両層の余った色彩画素から、合併又は放棄の方法により、色彩再構築に必要な色彩分量を保留し、例えば、Cy、Mg(BとRが合併して取得する)、G、及びYeが保留される。第三の合併プロセスは、図16に示す色彩空間転換の手段を用いて、隣り合うCyYeMgG4つの画素を、1つのYUV色彩に転換し、そして隣り合うUV成分を水平方向の2つのサブサンプリングをし、YUYV422画像を取得する。このプロセスが1つの2×2のサブサンプリングを完成する。画像がまだ大きすぎると、色彩空間CyYeMgGからYUVまでの転換前に、第二の合併プロセスでまずCyYeMgG同一な色彩の平均をしてもよく、図における全サンプリング方式を用いない。このような二重層感光素子が全画像サンプリングする場合に、ある画素を放棄してもよく、全部読みだした後、バックエンドプロセッサーからどのように処理するかを決定してもよい。全部読みだした場合に、データ量は二倍増加する。そうすると、図18と図20に示すインターレース方式又はインターライン方式を用いれば、写真を取る瞬間のフレームレートを2倍上げるが、これは従来の単層感光素子速度に相当する。図22によって、二重層又は多重層感光素子がサブサンプリングする場合の複雑性と色彩豊かなことを示す。二重層又は多重層感光素子がマクロ画素の色彩で何千種類以上の可能性を持つため、サブサンプリングも相応に更に多い可能性がある。ここで、幾つかの方法を挙げて本発明の核心を説明する。 図23は、更に他の二重層感光素子がサブサンプリングをする場合の簡単化された処理の情況を示す。即ち、第一の合併プロセスで、画素の累積(又は平均化)により、まずCyYeMgBのマクロ画素を取得する。そして、第三の合併プロセスがこの4点から、色彩変換の関係によってYUV色彩を取得し、これで2×2のサブサンプリングを実現する。色彩転換の前、第二の合併プロセスでまずCyYeMgBのマクロ画素を同一の色彩の(信号平均の方式により)合併を行い、全サンプリング方式を用いずに、更に高倍数のサブサンプリングを取得してもよい。図において、CyYeMgBのマクロ画素をBRGBの類似したBayerパターンのマクロ画素で取り替えてもよい。ここで、CyYeMgBで説明し、CyYeMgB、CyYeMgG、CyYeMgRを用いてもYUV又は再構築したRGBを取得できる。つまり、CyYeMgGはただCyYeMgXの1つの特殊な例であり、ここで、XがR、G、又はBであってもよい。 図24は、更にもう一種の二重層感光素子がサブサンプリングをする場合の簡略化された処理の情況を示す。即ち、第一の合併プロセスが、隣り合う画素を水平方向(信号平均又は累積の方式により)に沿って合併する。そして第二の合併プロセスが、合併後の画素を(信号平均又は累積、又は放棄の方式により)垂直方向を沿って合併する。適切な時間系列の制御により、水平方向と垂直方向の合併が同時に完成できる。このようなサブサンプリング方式には、従来のサブサンプリング方式より色彩が豊かになる上、よりよい信号対雑音比を提供する。 図25は、本発明の画素読み込みとサブサンプリングの回路を実現する感光素子の原理的なシステムの模式的なブロック図を示す。図25は、本発明の各種機能モジュール感光素子における実現方法を説明する。この原理的なシステムは、画素アレイ、行アドレス復号制御器、列アドレス復号制御器、サンプリング制御回路、拡大とアナログ・デジタル変換モジュール、色彩変換とサブサンプリング及び画像処理モジュール、出力制御モジュール、メインチップ制御モジュール(図25におけるCCモジュール)、及び他の利用可能なモジュールを含む。画素読み込みとサブサンプリングの機能は、主に行アドレス復号制御器と列アドレス復号制御器により相応の制御信号(行選択信号Row[i]、行制御ベクトル信号RS[i]、列選択信号Col[j]、列制御ベクトル信号T[j]、ここで、iとjがそれぞれ対応する行の符号と列の符号である)を生じて完成する。システムの他のモジュールとの協調は、主にメインチップ制御モジュールにより完成する。第三の合併とサンプリングのプロセスは、もしそれが存在する場合には、アレイと、色彩変換と、サブサンプリング及び画像処理のモジュールで完成する。 図26は、図25における各制御信号(行選、行制御ベクトル、列選、列制御ベクトル)と対応する感光画素における制御信号の関係を、1つの具体的な実施例(図17に示す感光画素)によって説明する図である。図26は図17におけるGr画素とB画素の信号の共有情況(TG5は省略)を示す。行選択信号Row[i]とCol[j]が既に明確に示されている。この回路図では、リセット信号RS1と転送ゲート制御信号RS2(TG1又はTG3)は行制御信号に属する。RS2が各行を使用しているときに、RS1は両行を共有する (例えば、TG1がRS[i]に属するが、TG3がRS[i+1]に属する)。図17におけるTG5(図26では省略する)は、列制御信号T[j]に属する。つまり、できるだけ画素に対して行操作(同一行の画素が完全に同一である)と列操作(同一列の画素が完全に同一である)のみを行い、各画素の異なる操作を行なわず、これにより複雑さの程度を低減する。
以下の具体的な実施形態において、図25と図26を参照しながら、本発明のサンプリングとサブサンプリングの方法の実現内容を説明する。
本発明の具体的な実施形態のマルチスペクトル感光素子は、異なる読み込みとサブサンプリングの回路が図25に示すような回路で実現できる。マルチスペクトル感光素子は、複数のマクロ画素を含む画素アレイ、行アドレス復号制御器、列アドレス復号制御器、サンプリング制御回路、拡大とアナログ・デジタル変換モジュール、色彩変換とサブサンプリング及び画像処理モジュール、出力制御モジュール、メインチップ制御モジュール(図25におけるCCモジュール)、及び他の可能なモジュールを含む。
需要に応じて、マトリックス状又はハニカム状で、4つ又は3つの画素に基づいたマクロ画素が配列されている。これらの画素は、受動画素(パッシブ素子)であってもよく、また能動画素(アクティブ素子)でもよい。また読み込みコンデンサFD(読み込みキャパシタ)を備えていてもよく、逆に読み込みコンデンサFDを備えていなくとも良い。
上述した様に、既にサブサンプリングプロセスを、第一の合併とサンプリングのプロセス、第二の合併とサンプリングのプロセス、及び選択可能な第三の合併とサンプリングのプロセスと分けた。これらプロセスに対応して、それぞれ第一の合併ユニット、第二の合併ユニット及び第三の合併ユニットを用いて上述した合併とサンプリングのプロセスを実現する。これらユニットはただその実現機能の面から、デバイスに対してモジュール化されており、物理的なデバイスの角度から、これら機能ユニットが1つの物理的なモジュールでその機能を実現してもよく、又は複数の物理的なモジュールを組み合わせてその機能を実現してもよい、又はこれらの複数の機能ユニットを、1つの物理的モジュールに集成してもよい。本文における第一の合併ユニット、第二の合併ユニット及び第三の合併ユニットの説明は、ただその機能上の説明を行ったものであり、その物理的な実現方式を具体的に制限するものではない。
具体的には、図12に示した様に、行アドレス復号制御器と列アドレス復号制御器によって必要なサブサンプリング機能を実現する。行アドレス復号制御器は二種類の信号を出力する。即ち行選択信号Row[i] (各行につき一本の線で示す)と行制御ベクトル信号RS[i] (各行につき一本以上の線)、ここで、iは行の符号を意味する。同様に、列アドレス復号制御器は2種類の信号を出力する。即ち列選択信号Col[j] (毎列一本線)と列制御ベクトル信号T[j] (毎列一本又は複数本線)、ここで、jは列の符号を意味する。
行選択信号Row[i]は行の選択のために使用され、列選択信号Col[j]は列の選択のために使用される。これらは相対的な標準信号の2つのグループのである。行制御ベクトル信号RS[i]は、従来のCMOS行制御信号の拡張(各行につき一本の線が各行につき複数本の線までに拡張する)であるが、列制御ベクトル信号T[j]には、いくつかのCMOS感光素子がなく、ある場合でも、一列には1つのみである。図26は図17の感光画素を例とし、Row[i]、RS[i]、Col[j]、及びT[j]の1つの具体的な実現を提供する。ここで、Row[i]が二つの行によって共有されるが、RSは2つの行制御信号RS1[i](リセット信号、同様に二つの行による共有)とRS2[2](電荷転送制御信号)を含む。
本発明では、同時に幾つかの行が選択すること、同時に幾つかの列が選択されること、更に同時に幾つかの行と幾つかの列が同時に選択されること、のうちのいずれの場合も可能である。従来のいくつかの技術では(例えば米国特許第6,801,258号、米国特許第6,693,670号、米国特許第7,091,466号、米国特許第7,319,218号等)、同様に幾つかの行若しくは幾つかの列が同時に選択される可能性があるが、合併とサンプリングの方式が異なるため、行選択信号と列選択信号の時間系列と波型とが完全に異なる。例えば、図14(a)における合併とサンプリングとをする場合、第1行第1列と第2行第2列が同時に選択されるが、このような情況が従来のサブサンプリング方法では発生することがない。
RS[i]とT[j]は、感光画素のリセット、ゼロクリア、感光時間制御、電荷転送(電荷転移)、画素合併、及び画素読み込みを制御する。行列の対称性によって、RS[i]とT[j]とは複数の種類の具体的な実現方法がある。図17に示すようなTG1−TG5、Vb1−Vb4等の信号、更に図18に示すようなRS、S、とSF信号は、RS[i]とT[j]が含むものである。本発明はこれら信号の具体的な実現方法によって制限されない。
更に具体的には、いずれかのM×N因子(M≧2、N≧2)のサブサンプリングをする場合に、まず始めに、両方の行(両行)、両方の列(両列)、又は両方の行及び両方の列について合併とサンプリングとを行う第一の合併とサンプリングのプロセスを行い、そしてその後第一の合併とサンプリングのプロセスに基づいたM行×N列のサブサンプリングを完成する。
第一の合併とサンプリングの後のサブサンプリング(主にM×N因子のサブサンプリング)即ち第二の合併とサンプリングのプロセスは、以下の各種方式で単独に又は組み合わせて実行してもよい。即ち、バスに直接出力する信号自動平均方式、行飛ばし又は列飛ばし方式、逐次サンプリング方式を、単独に又は組み合わせて実行してもよい。しかし、第三の合併とサンプリングのプロセスがある場合には、以下の2種の方式を単独に又は合わせて実行してもよい。即ち、色彩空間変換方式とバックエンドデジタル画像拡大縮小方式である。
1つの画素アレイには、多くの感光画素が含まれ、特に二重層又は多重層感光素子にとって、色彩の種類及び幾何分布情況が非常に多い。第一の合併とサンプリングのプロセスは複数の(多数の)第一の合併画素に対応する。このため、第一の合併とサンプリングのプロセスの間、これら合併された第一の合併画素について、画素の色彩の合併の面から言えば、色彩の選択方法は様々である。同色合併方式、異色合併方式、複合合併方式(一部画素色彩が同一、一部が異なる)、余った色彩を選択的に放棄する方式を用いてもよい。
色彩空間の変換はRGBからCyYeMgG空間への変換、CyYeMgGからYUV空間への変換、及びRGBからYUV空間への変換を含む。
RGBからCyYeMgG空間への変換は、アナログ信号空間で完成してもよく、デジタル空間で完成してもよい。このため、それが第一の合併プロセス、第二の合併プロセス、又は第三の合併とサンプリングのプロセスにおけるいずれかのプロセスで完成してもよい。しかし、CyYeMgGからYUV空間への変換及びRGBからYUV空間への変換は、デジタル信号空間のみで完成する。つまり第三の合併とサンプリングのプロセスで完成する。
更に具体的には、画素アレイの一部分は、複数のマトリックスで配列された3つ又は4つの基本画素の1グループのマクロ画素から構成される。ここで、マクロ画素における基本画素は受動画素から組成されてもよく、FDを備えていない3T能動画素から組成されてもよく、1つのFDを備えている4T能動画素から組成されてもよい。
マクロ画素の基本画素に、FDを備えている4T能動画素を用いた場合、その読み込み回路が4点共有方式(図11)、6点共有方式(図12)、及び8点共有方式(図13)の何れかを採用することができる。
更に好ましくは、各マクロ画素を、2つの非透光のFDを備える4T能動画素から組成することができる。この時、その読み込み回路が4点橋絡共有方式(図18)を用いてもよい。相応に、このような感光素子が第1回の両方の行(両行)、両方の列(両列)、又は両方の行及び両方の列について合併とサンプリング、及びサブサンプリングの色彩合併を行う場合に、電荷累積の方式を用いる。このようなマクロ画素が後のプログレッシブ走査、インターレース読み込み又はインターライン読み込みの全画像サンプリング方式に可能性を提供する。
二重層又は多重層感光素子にとって、第一の合併とサンプリングのプロセスの色彩選択が更に色彩を豊富にする。各マクロ画素が2つのFDを備えた4T能動画素から組成される場合、その読み込み回路は、4点橋絡共有方式(図18)、6点橋絡共有方式(図19)、又は8点橋絡共有方式(図20)を用いてもよい。これに対応して、このような感光素子が第1回の両方の行(両行)、両方の列(両列)、又は両方の行及び両方の列について合併とサンプリングのサブサンプリングの色彩合併を行う場合には、電荷累積の方式を用いる。
N個の信号が電荷累積の方式を用いて合併する場合に、信号対雑音比の改善の上限はN×N1/2倍(NとルートNの積算値の倍数)であるが、N個の信号が信号平均の方式を用いて合併する場合には、信号対雑音比の改善の上限がN1/2倍である。そして、このような4点共用方式の2つのFD(又は両行画素共用一行FD)の感光素子が全画像サンプリングをする場合に、正常なプログレッシブ走査、プログレッシブ読み込みの外に、更にプログレッシブ走査、インターレース読み込み(又はインターライン読み込み)の方式を用いてもよい。
例えば、全画像サンプリングをする場合に、行アドレス復号制御器と列アドレス復号制御器が、所望される画像領域の要求により、まず順次にRow[i]とRS[i]の値をデバイスにより高又は低と設定し。そして順次に列出力Col[j]とT[j]の値を高又は低と設定する。これにより、要求された画素値(電荷/電圧)を、(読み書き回路(read/write circuit)を介して)読み込み順序に従って出力バス上に出力するようにさせる。
サブサンプリングをする場合に、それぞれがサポートするM×Nサンプリング因子(行がM倍縮小、列がN倍縮小)に対して、行アドレス復号制御器と列アドレス復号制御器は、M×Nサンプリング因子及び画像区域要求により、各出力行に対応して、同時に合併する必要がある行に対応するすべてのRow[i]とRS[i]値を高又は低と設定する。そして同時に各出力列に対応し、合併する必要がある列のすべてのCol[j]とT[j]の値を高又は低と設定し、すべての合併する必要がある画素値(電荷/電圧)を、読み込み順序(読み書き回路を介して)により出力バスに同時に出力するようにさせる。それとともに、必要な場合に、行アドレス復号制御器と列アドレス復号制御器が更にM×Nサンプリング因子と画像区域の要求により、必要な行飛ばしと列飛ばしの操作を行う。
異なるM×Nサンプリング因子のために、出力バスで、異なる時間において、異なる色彩を取得する可能性がある。従って、他のシステム機能モジュール、例えば増幅とアナログ/デジタル変換モジュール、色彩変換とサブサンプリングと画像処理モジュール、更に出力制御モジュールはいずれも相応の協調動作が必要となる。このシステムの全体制御(主制御)は、メインチップ制御モジュール(図25におけるCCモジュール)によって実現されても良い。増幅とアナログ/デジタル変換モジュールと画素アレイ以外の他のモジュールは、主にデジタル処理回路であるため、デバイス周辺でより簡単に実現でき、これで感光素子の配線を簡単にする。
以下、図26の読み込み回路と、図25に示すような感光素子の他のモジュールと併せて、更に具体的な信号制御フローを示す。ここで、図26の読み込み回路は図17に示す感光画素によって使用される。
まず、リセット(クリア)と感光制御を行う。ひとつの簡単なリセット制御の方法は、Vb1とVb2とを全部ゼロに調整することである。ここで、Vb1とVb2は、行制御ベクトルの1つの信号である。また別なる方法は、まずFD1とFD2をリセット(図26におけるRS1ゼロ調整)し、それとともにTG1とTG2をオープン(オン)にし(図26におけるRS2が高と設定)、感光画素においてGrとRの電荷を消去することである。この後、RS1を高と設定し、RS2をゼロ調整する。この後、光の照射で、GrとRの感光ダイオードが電荷を重ね合わせ始める。
Grにおける電荷を読み込む必要がある場合に、3種のやり方がある。第一の方法は、直接TG1/RS2とRow[i]が直接オープンにされて、Grにおける電荷がFD1に転送され、そしてこの中(電荷を介して電圧までの転換)からGrにおける電荷値を読み出す。第二の方法は、第一の種類の最後のステップに続いてGrにおける電荷値が読みだされた後、FD1がリセットされ、FD1からリセット状態下の電荷(電圧)が読み出され、これで読みだされたGrの電荷値に対して関連サンプリングを行うものである。第3の方法は、Grにおける電荷値が読み込まれる前、まずFD1がリセットされてサンプリングされる方法である。この第三の方法は、Grの値と干渉するため、第2の方法程には好ましくない。この時、列アドレス復号制御器がGrに対応する列選択信号Col[j]をオープンにしなければならず、これでGrの測定値(二回である可能性があり、一回がリセット状態下の測定である)を増幅とアナログ・デジタル変換モジュールに出力する。
Row[i]、Col[j]、及びRS2[i]の値によって、メインチップ制御モジュールCCが読み込んでいる画素の色彩を算出でき、そしてその色に対して対応する処理を行う。異なる色彩が異なる増幅回路に入る可能性があり、そして異なるアナログ・デジタル変換処理を行なってデジタル信号を取得する。
感光画素のデジタル信号をバッファに保存して、色彩変換とサブサンプリング及び図象処理モジュールを介して、更に処理を行う。全画像サンプリングをする場合は、サブサンプリングは行われない。大型アレイ画像感光素子では、通常、いずれかの色彩変換は行われない。このため、このモード下で、メインチップ制御モジュールCCが対応する制御を行い、感光画素のデジタル信号は、色彩変換とサブサンプリングモジュールの代わりに、画像処理モジュールに直接に入る。感光素子に含まれる画像処理の後、出力モジュールにより感光素子の外部インターフェースに出力される。
全画像サンプリングをする場合に、プログレッシブ走査、インターレース又はインターライン読み込み方式を実施することに留意する。この場合に、奇数行と偶数行のリセットクリアと感光時間制御が同時に行われる。インターレース読み込みの場合、偶数行(第1行)の画素が全部読み込まれた後、行アドレス復号制御器がすぐに下一行を読むことはなく、まず後の奇数行(第2行)を偶数行と共用されているFDに転送し、そして第3行の読み込みを始める。インターライン読み込みの場合に、第1行の符号が0から始まると、前のハーフフレーム(半分のフレーム)の行読み込み順序が0、3、4、7、8、11、12、15・・・であるが、後のハーフフレーム(半分のフレーム)の読み込み順序は1、2、5、6、9、10、13、14・・・である。更に複雑な順序があってもよい。例えば、では最初のハーフフレームを読む場合に読み込まなかった行を読み、既に1回使用したFDに一時的に保存され、次のハーフフレームを読む場合に読み出すことができる。
プログレッシブ走査、インターレース又はインターライン方式が伝統的なテレビにけるフィールド走査方式に異なる点は、本発明のプログレッシブ走査でインターレース又はインターライン読み込みの方式の中では、画素の感光(検出)の時間系列が完全に1行ずつで行われるという点である。
サブサンプリングをする場合、情況が複雑になる。しかしながら、いくつかのサブサンプリング因子M×Nは、一つの特定の感光素子によって支持(サポート)されることができる。従って、メインチップ制御モジュールCC、行アドレス復号制御器、及び列アドレス復号制御器は、支持されているM×Nサブサンプリング因子のみを考えてもよい。例えば、1つの5百万画素の感光素子は、2×2、2×1、4×4、8×8の4種類の場合のみを考える。
第二の合併とサンプリングのプロセスは、通常、電荷累積に関与せず、このため、以下のような3種類の方式を用いる。即ち、バスに直接出力する信号の自動平均方式、行飛ばし又は列飛ばし方式、逐次サンプリング方式である。この3つの方式は従来から知られており、簡単であり、本分野の通常の知識を有する技術者に知られているため、詳細な記載はここでは不要である。第三の合併とサンプリングのプロセスはデジタル画像空間で完成され、相対的な標準のデジタル画像の拡大と縮小の技術を用いる。本発明の使用方法を更に容易に了解するために、以下、第一の合併とサンプリングのプロセスのみの信号制御フローを詳しく説明する。
図17に示すようなマクロ画素にとって、第一の合併プロセスでは、二種類の合併方式をとることが可能である。第1の方式がGrとBとを合併し、且つRとGbとを合併する方式であり、第2の方式がGrとGbとを合併し、且つRとBとを合併する方式である。
時間系列による第一の合併方式は、以下の通りである。
1.t0時刻:行アドレス復号制御器が、図26に示すようなFD1に対応するRS1をゼロにセット(リセット)する。
2.t1時刻:TG1とTG3(RS2[i]とRS2[i+1])かオープンとなり(オンにされ、開放され)、GrとBの感光ダイオード(PD)の電荷がそれぞれ同時にFD1に転送(転移)される。この時、RS1が高レベルに設定されてもよい。
3.t2時刻:(Grが第i行第j列と仮定すれば)行Row[i]と列Col[j]とがオープンとなり、FD1における電荷(電圧値)を出力バス上に出力される。
4.t3時刻:FD1におけるゼロ値が読み込まれて、関連するサンプリングのために用いられる。
第iと第i+1行のすべての画素は、前の2つのステップ(即ち、t0時間とt1時間)で同時に機能してもよく、また合併後の画素は第3と第4ステップで順次に読み込まれてよい(即ち、t2時間とt3時間)。このため、相互に関連するサンプリングをしない場合には、平均1つのクロックパルスが1つの画素を読み込み、相互に関連するサンプリングをする場合には平均2つのクロックパルスが1つの画素を読み込むことができる。これが画素位置の優先順序により行われる。このような合併方式は、以下の色彩の優先順序で行われてもよい。
第二の合併方式では、時間系列の情況が複雑になる。第二の合併方式には、2種類の処理方式がある。第1の処理方式は、色彩の順序に基づいて行われる。まず、行全体のGrとGbについて合併とサンプリングとが行われ、そしてBとRとの合併とサンプリングが行われる。又は逆の順序で行われてもよい。これはより簡単な方式であり、制御信号の時間系列は以下のとおりとなる。
5.t0時刻:行アドレス復号制御器によって、図17と図26に示すようなFD1とFD2に対応するRS1がゼロ調整(リセット)される。
6.t1時刻:TG1とTG4(RS2[i]とRS2[i+1])がオープン(オン、open)され、それとともにGrとGbの感光ダイオード(PD)の電荷がそれぞれFD1とFD2に転送される。この時、RS1を高レベルに設定していてもよい。
7.t2時刻:TG5がオープンされ、FD2における電荷がFD1に転送される。
8.t3時刻:(Grが第i行第j列と仮定すれば)行選Row[i]と列選Col[j]がオープンされる。FD1における電荷(電圧値)が出力バス上に出力される。
9.t4時刻:FD1におけるゼロ値が読み込まれ、関連サンプリングとして用いられる。
上記の最初の3ステップの操作(t0,t1,t2)は、第i行と第i+1行のすべてのGrとGb画素に対して同時に行われてもよく、合併画素は、第4ステップと第5ステップで順次に読み込まれる。このため、関連サンプリングをしなければ、平均1つのクロックパルスが1つの画素を読み込み、関連サンプリングをすれば、平均2つのクロックパルスが1つの画素を読み込むことができる。このような読み込み方式は画素の位置による自然な順序を壊し、最終段階の処理(バックエンド処理)での校正が必要となる。一致性を保持するために、最初の合併方式は、色彩の優先順序に基づく方式で行われてもよい。
第二の処理方式は、位置の優先順序に基づいて行われる。まず第1のGrとGbとについて、合併とサンプリングとが行われ、そして第一のBとRについて合併とサンプリングとが行われることを繰り返す。このような方式の制御信号の時間順序が上の第一の処理方式に類似するが、画素の間にはシリアル(順次)処理のみができ、行ビニング処理ができない。つまり、第一の合併画素を処理するt0−t5時刻で、第2の合併画素を処理できない。これがより高いシステムクロックを要求する。サブサンプリングを行った後、画素の数量が大幅に低減し、このため、システムクロック周波数が高すぎることにならない。
本発明における最適な回路のために、サブサンプリングをする間、関連サンプリングはその限定された効果故に省略される。これにより、上の時間系列はより簡単になる。
選定した画素サンプリング順序のために、メインチップ制御モジュールCCが、増幅とアナログ・デジタル変換モジュール、色彩変換和サブサンプリング及び画像処理モジュール、更に出力制御モジュールを制御し、これにより異なる色彩に対して対応する異なる処理を行う。更に詳しい説明は本発明の範疇を超えている。
従来のサブサンプリング方式は主に同一な色彩の画素間で行われ、且つ主に画素平均及び行飛ばし又は列飛ばしの方式を用いる。これら方法は、色彩豊かな二重層又は多重層感光素子にとって、局限と無力になる。本発明が提出したサブサンプリング方法は、色彩空間変換の方式によって、同一な色彩間で行われてもよく、異なる色彩間で行われてもよく、混合で行われてもよい(即ち一部が同一な色彩間で行われ、一部が異なる色彩間で行われる)。また、本発明が提出した電荷累積の信号合併方式は、n個の信号を合併し、n3個に近づく信号累積の効果を達成できる。このため、本発明のサブサンプリング方法は従来のサブサンプリング方法に比べて、よりよい画像品質があり、特に、本発明を二重層又は多重層感光素子に用いる場合に、数え切れない、簡単な且つ優れたサブサンプリング方式を生じる。

Claims (10)

  1. 行と列とで配列されている画素アレイと、
    前記画素アレイにおける隣接する同行異列、異行同列、又は異行異列のいずれかの画素をそれぞれ合併してサンプリングを行い、第一の合併画素のサンプリングデータを取得するための、少なくとも同行異列の異なる色彩画素を合併することを含む第一の合併ユニットと、
    前記第一の合併ユニットが取得した前記第一の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第二の合併画素のサンプリングデータを取得するための第二の合併ユニットと、を含み、
    前記第一の合併ユニット又は前記第二の合併ユニットの画素合併方式は、同一な又は異なる色彩画素間の電荷累積方式又は二つの異なる色彩画素間の信号平均方式であり、前記異なる色彩画素間の画素合併方式が色彩空間変換の方式に従い、
    前記電荷累積方式が読み込みコンデンサで遂行され、
    前記画素アレイは少なくとも1つの基本画素を含む複数のマクロ画素から構成されており、
    前記マクロ画素は、4つのマトリックス配列の画素と両行中間に位置する2つの非透光の読み込みコンデンサから組成されており、上一行の画素と下一行の画素が1つの読み込みコンデンサを共用し、2つの読み込みコンデンサの間に電荷転送を実現でき、且つ少なくとも1つの読み込みコンデンサに読み込み回路が接続される組成方式を含んでいることを特徴とし、行アドレスと列アドレスの両方を有するマルチスペクトル感光素子。
  2. 前記第二の合併ユニットが取得した前記第二の合併画素のサンプリングデータに対して合併とサンプリングとを行い、第三の合併画素のサンプリングデータを取得するための第三の合併ユニットを更に含むことを特徴とする請求項1に記載のマルチスペクトル感光素子。
  3. 前記第一の合併ユニット又は前記第二の合併ユニットの色彩に基づく合併とサンプリングの方式が同色合併方式、異色合併方式、複合合併方式、又は余った色彩を選択的に放棄する合併方式のいずれか一種以上の方式を含んでおり、且つ前記第一の合併ユニットと前記第二の合併ユニットが用いた合併とサンプリングの方式が異なる場合に、少なくとも一方の合併ユニットに於いて同色合併方式が採用されないことを特徴とする請求項1又は2に記載のマルチスペクトル感光素子。
  4. 前記第一の合併ユニット又は第二の合併ユニットの位置に基づく合併とサンプリングの方式は、バスに直接出力する信号自動平均方式と、行飛ばし又は列飛ばし方式とから選択される少なくとも一種の方式を含むことを特徴とする請求項1から3のいずれかに記載のマルチスペクトル感光素子。
  5. 前記第三の合併とサンプリングのユニットの合併とサンプリングの方式は、色彩空間変換方式又はバックエンドデジタル画像拡大縮小方式の少なくとも一種を含み、
    前記色彩空間変換は、RGBからCyYeMgX空間への変換と、RGBからYUV空間への変換と、CyYeMgXからYUV空間への変換から選択されるいずれかの1種の変換を含んでおり、前記Xとは、R、G、Bのいずれか1種であることを特徴とする請求項2に記載のマルチスペクトル感光素子。
  6. 前記基本画素が受動画素又は能動画素であることを特徴とする請求項1から5のいずれかに記載のマルチスペクトル感光素子。
  7. 前記マクロ画素における前記基本画素が、マトリックス状又はハニカム状に配列されていることを特徴とする請求項6に記載のマルチスペクトル感光素子。
  8. 前記マクロ画素の組成方式は、読み込みコンデンサを持たない3T能動画素組成方式と、一つの読み込みコンデンサを備えた4T能動画素組成方式と、から選択される少なくとも1種の方式を含むことを特徴とする請求項6に記載のマルチスペクトル感光素子。
  9. 前記1つの読み込みコンデンサを備えた4T能動画素が、4点共有方式、6点共有方式、又は8点共有方式のいずれかを用いることを特徴とする請求項8に記載のマルチスペクトル感光素子。
  10. 前記マクロ画素は2点によって共有、3点によって共有、又は4点によって共有される読み込みコンデンサを備えている、3T能動画素又は4T能動画素を有する少なくとも一つの基本画素から組成されており、前記基本画素は、4点橋絡共有方式、6点橋絡共有方式、又は8点橋絡共有方式を用いることを特徴とする請求項6に記載のマルチスペクトル感光素子。
JP2013512715A 2010-06-01 2010-06-01 マルチスペクトル感光素子及びそのサンプリング方法 Expired - Fee Related JP5775570B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/CN2010/073443 WO2011150554A1 (zh) 2010-06-01 2010-06-01 一种多光谱感光器件及其采样方法

Publications (2)

Publication Number Publication Date
JP2013529035A JP2013529035A (ja) 2013-07-11
JP5775570B2 true JP5775570B2 (ja) 2015-09-09

Family

ID=45066114

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013512715A Expired - Fee Related JP5775570B2 (ja) 2010-06-01 2010-06-01 マルチスペクトル感光素子及びそのサンプリング方法

Country Status (8)

Country Link
US (1) US9100597B2 (ja)
EP (1) EP2512126B1 (ja)
JP (1) JP5775570B2 (ja)
KR (1) KR101473424B1 (ja)
CA (1) CA2787911C (ja)
HU (1) HUE039688T2 (ja)
RU (1) RU2534018C2 (ja)
WO (1) WO2011150554A1 (ja)

Families Citing this family (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5945463B2 (ja) * 2012-06-28 2016-07-05 オリンパス株式会社 固体撮像装置
US9293500B2 (en) 2013-03-01 2016-03-22 Apple Inc. Exposure control for image sensors
US9276031B2 (en) 2013-03-04 2016-03-01 Apple Inc. Photodiode with different electric potential regions for image sensors
US9741754B2 (en) 2013-03-06 2017-08-22 Apple Inc. Charge transfer circuit with storage nodes in image sensors
US9549099B2 (en) 2013-03-12 2017-01-17 Apple Inc. Hybrid image sensor
US9319611B2 (en) 2013-03-14 2016-04-19 Apple Inc. Image sensor with flexible pixel summing
US9596423B1 (en) 2013-11-21 2017-03-14 Apple Inc. Charge summing in an image sensor
US9596420B2 (en) 2013-12-05 2017-03-14 Apple Inc. Image sensor having pixels with different integration periods
US9473706B2 (en) 2013-12-09 2016-10-18 Apple Inc. Image sensor flicker detection
US10285626B1 (en) 2014-02-14 2019-05-14 Apple Inc. Activity identification using an optical heart rate monitor
US9232150B2 (en) 2014-03-12 2016-01-05 Apple Inc. System and method for estimating an ambient light condition using an image sensor
US9277144B2 (en) 2014-03-12 2016-03-01 Apple Inc. System and method for estimating an ambient light condition using an image sensor and field-of-view compensation
US9584743B1 (en) 2014-03-13 2017-02-28 Apple Inc. Image sensor with auto-focus and pixel cross-talk compensation
US9497397B1 (en) 2014-04-08 2016-11-15 Apple Inc. Image sensor with auto-focus and color ratio cross-talk comparison
US9538106B2 (en) 2014-04-25 2017-01-03 Apple Inc. Image sensor having a uniform digital power signature
US9686485B2 (en) 2014-05-30 2017-06-20 Apple Inc. Pixel binning in an image sensor
FR3023653B1 (fr) * 2014-07-09 2017-11-24 Commissariat Energie Atomique Capteur d'images cmos a echantillonnage multiple correle
FR3026877B1 (fr) * 2014-10-03 2018-01-05 Commissariat A L'energie Atomique Et Aux Energies Alternatives Capteur d'empreintes digitales ou palmaires
US9912883B1 (en) 2016-05-10 2018-03-06 Apple Inc. Image sensor with calibrated column analog-to-digital converters
EP3712945A3 (en) 2016-09-23 2020-12-02 Apple Inc. Stacked backside illuminated spad array
JP6799690B2 (ja) 2017-01-25 2020-12-16 アップル インコーポレイテッドApple Inc. 変調感度を有するspad検出器
US10656251B1 (en) 2017-01-25 2020-05-19 Apple Inc. Signal acquisition in a SPAD detector
US10962628B1 (en) 2017-01-26 2021-03-30 Apple Inc. Spatial temporal weighting in a SPAD detector
FR3064869B1 (fr) * 2017-03-28 2019-05-03 Commissariat A L'energie Atomique Et Aux Energies Alternatives Capteur d'images
US10622538B2 (en) 2017-07-18 2020-04-14 Apple Inc. Techniques for providing a haptic output and sensing a haptic input using a piezoelectric body
US10440301B2 (en) 2017-09-08 2019-10-08 Apple Inc. Image capture device, pixel, and method providing improved phase detection auto-focus performance
US10848693B2 (en) 2018-07-18 2020-11-24 Apple Inc. Image flare detection using asymmetric pixels
US11019294B2 (en) 2018-07-18 2021-05-25 Apple Inc. Seamless readout mode transitions in image sensors
WO2020025684A1 (en) * 2018-07-31 2020-02-06 Deutsches Krebsforschungszentrum Stiftung des öffentlichen Rechts Method and system for augmented imaging in open treatment using multispectral information
US11233966B1 (en) 2018-11-29 2022-01-25 Apple Inc. Breakdown voltage monitoring for avalanche diodes
US11563910B2 (en) 2020-08-04 2023-01-24 Apple Inc. Image capture devices having phase detection auto-focus pixels
US11546532B1 (en) 2021-03-16 2023-01-03 Apple Inc. Dynamic correlated double sampling for noise rejection in image sensors
US12069384B2 (en) 2021-09-23 2024-08-20 Apple Inc. Image capture devices having phase detection auto-focus pixels

Family Cites Families (34)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6801258B1 (en) 1998-03-16 2004-10-05 California Institute Of Technology CMOS integration sensor with fully differential column readout circuit for light adaptive imaging
US6693670B1 (en) 1999-07-29 2004-02-17 Vision - Sciences, Inc. Multi-photodetector unit cell
RU2152692C1 (ru) * 1999-09-21 2000-07-10 Бобрышев Владимир Дмитриевич Преобразователь столбца теплового изображения в электрический сигнал
JP3515467B2 (ja) * 2000-02-18 2004-04-05 三洋電機株式会社 ディジタルカメラ
US7424207B2 (en) 2000-02-18 2008-09-09 Sanyo Electric Co., Ltd. Digital camera
JP4557540B2 (ja) * 2002-12-20 2010-10-06 パナソニック株式会社 固体撮像装置及びその駆動方法、並びにカメラ
US7154075B2 (en) 2003-11-13 2006-12-26 Micron Technology, Inc. Method and apparatus for pixel signal binning and interpolation in column circuits of a sensor circuit
US7091466B2 (en) 2003-12-19 2006-08-15 Micron Technology, Inc. Apparatus and method for pixel binning in an image sensor
KR100871687B1 (ko) 2004-02-11 2008-12-05 삼성전자주식회사 서브 샘플링 모드에서 디스플레이 품질을 개선한 고체촬상 소자 및 그 구동 방법
JP4492250B2 (ja) * 2004-08-11 2010-06-30 ソニー株式会社 固体撮像素子
JP4306603B2 (ja) * 2004-12-20 2009-08-05 ソニー株式会社 固体撮像装置および固体撮像装置の駆動方法
US7417670B1 (en) * 2005-01-12 2008-08-26 Ambarella, Inc. Digital video camera with binning or skipping correction
US7705900B2 (en) 2005-06-01 2010-04-27 Eastman Kodak Company CMOS image sensor pixel with selectable binning and conversion gain
US8306362B2 (en) * 2005-07-20 2012-11-06 Omnivision Technologies, Inc. Selective pixel binning and averaging based on scene illuminant
JP4894275B2 (ja) * 2006-01-20 2012-03-14 ソニー株式会社 固体撮像装置
US7916362B2 (en) 2006-05-22 2011-03-29 Eastman Kodak Company Image sensor with improved light sensitivity
JP4855192B2 (ja) * 2006-09-14 2012-01-18 富士フイルム株式会社 イメージセンサ及びデジタルカメラ
KR100818987B1 (ko) * 2006-09-19 2008-04-04 삼성전자주식회사 이미지 촬상 장치 및 상기 이미지 촬상 장치의 동작 방법
JP4386096B2 (ja) 2007-05-18 2009-12-16 ソニー株式会社 画像入力処理装置、および、その方法
US7924332B2 (en) * 2007-05-25 2011-04-12 The Trustees Of The University Of Pennsylvania Current/voltage mode image sensor with switchless active pixels
CN101345248B (zh) * 2007-07-09 2010-07-14 博立码杰通讯(深圳)有限公司 多光谱感光器件及其制作方法
JP2009021809A (ja) * 2007-07-11 2009-01-29 Canon Inc 撮像装置の駆動方法、撮像装置、及び撮像システム
US7755121B2 (en) * 2007-08-23 2010-07-13 Aptina Imaging Corp. Imagers, apparatuses and systems utilizing pixels with improved optical resolution and methods of operating the same
US8089522B2 (en) * 2007-09-07 2012-01-03 Regents Of The University Of Minnesota Spatial-temporal multi-resolution image sensor with adaptive frame rates for tracking movement in a region of interest
JP5026951B2 (ja) * 2007-12-26 2012-09-19 オリンパスイメージング株式会社 撮像素子の駆動装置、撮像素子の駆動方法、撮像装置、及び撮像素子
US7667169B2 (en) * 2008-05-22 2010-02-23 Omnivision Technologies, Inc. Image sensor with simultaneous auto-focus and image preview
JP5272634B2 (ja) * 2008-06-20 2013-08-28 ソニー株式会社 固体撮像装置、固体撮像装置の信号処理方法および撮像装置
US8471939B2 (en) 2008-08-01 2013-06-25 Omnivision Technologies, Inc. Image sensor having multiple sensing layers
US7777171B2 (en) * 2008-08-26 2010-08-17 Eastman Kodak Company In-pixel summing of charge generated by two or more pixels having two reset transistors connected in series
JP5253956B2 (ja) * 2008-10-16 2013-07-31 シャープ株式会社 固体撮像装置及びその駆動方法、並びに電子情報機器
US8130302B2 (en) 2008-11-07 2012-03-06 Aptina Imaging Corporation Methods and apparatus providing selective binning of pixel circuits
JP5029624B2 (ja) * 2009-01-15 2012-09-19 ソニー株式会社 固体撮像装置及び電子機器
US8913166B2 (en) * 2009-01-21 2014-12-16 Canon Kabushiki Kaisha Solid-state imaging apparatus
CN101834974B (zh) * 2009-03-09 2013-12-18 博立码杰通讯(深圳)有限公司 一种多光谱感光器件及其采样方法

Also Published As

Publication number Publication date
HUE039688T2 (hu) 2019-01-28
KR101473424B1 (ko) 2014-12-24
CA2787911C (en) 2017-07-11
US9100597B2 (en) 2015-08-04
CA2787911A1 (en) 2011-12-08
EP2512126A4 (en) 2014-01-01
EP2512126B1 (en) 2018-07-25
EP2512126A1 (en) 2012-10-17
WO2011150554A1 (zh) 2011-12-08
KR20130050911A (ko) 2013-05-16
RU2534018C2 (ru) 2014-11-27
RU2012157297A (ru) 2014-07-20
JP2013529035A (ja) 2013-07-11
US20130068934A1 (en) 2013-03-21

Similar Documents

Publication Publication Date Title
JP5775570B2 (ja) マルチスペクトル感光素子及びそのサンプリング方法
JP4777496B2 (ja) 固体撮像素子
US5955753A (en) Solid-state image pickup apparatus and image pickup apparatus
US6992714B1 (en) Image pickup apparatus having plural pixels arranged two-dimensionally, and selective addition of different pixel color signals to control spatial color arrangement
US9131178B2 (en) Solid-state imaging apparatus for selectively outputting signals from pixels therein
JP4611296B2 (ja) 電荷ビニング型イメージセンサ
US6992341B2 (en) Amplifying solid-state image pickup device
EP2338283B1 (en) Image sensor with vertical binning of pixels
US20090027530A1 (en) Solid-state image pick-up device
CN101834974B (zh) 一种多光谱感光器件及其采样方法
JP2009521842A (ja) 静止画またはビデオ撮影用画像センサ
US7379107B2 (en) Image sensor for still or video photography
US7643079B2 (en) Control circuit for reading out signal charges from main and subsidiary pixels of a solid-state image sensor separately from each other in interlace scanning
JP2000295530A (ja) 固体撮像装置
JP5767320B2 (ja) 感光素子、感光素子の読み込み方法、及び感光素子の読み込み回路
JPS60217761A (ja) 高解像度固体撮像装置
KR100891119B1 (ko) Ccd센서 또는 하이브리드 센서의 2차원 전하이동 방법
CN101853861B (zh) 一种感光器件及其读取方法、读取电路
JPH10214957A (ja) 固体撮像装置
CN101853861A (zh) 一种感光器件及其读取方法、读取电路

Legal Events

Date Code Title Description
A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140217

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140224

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140312

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140319

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20140417

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20140424

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140515

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20141111

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150310

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20150423

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20150609

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20150703

R150 Certificate of patent or registration of utility model

Ref document number: 5775570

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees