JP2016528848A - 複数の画像感知素子を用いて画像を撮影するためのシステム及び方法 - Google Patents

複数の画像感知素子を用いて画像を撮影するためのシステム及び方法 Download PDF

Info

Publication number
JP2016528848A
JP2016528848A JP2016536293A JP2016536293A JP2016528848A JP 2016528848 A JP2016528848 A JP 2016528848A JP 2016536293 A JP2016536293 A JP 2016536293A JP 2016536293 A JP2016536293 A JP 2016536293A JP 2016528848 A JP2016528848 A JP 2016528848A
Authority
JP
Japan
Prior art keywords
integration time
image
photosensitive element
well capacity
photodiode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016536293A
Other languages
English (en)
Other versions
JP2016528848A5 (ja
Inventor
ルオ、ジアフ
リン、ペン
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Qualcomm Inc
Original Assignee
Qualcomm Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Qualcomm Inc filed Critical Qualcomm Inc
Publication of JP2016528848A publication Critical patent/JP2016528848A/ja
Publication of JP2016528848A5 publication Critical patent/JP2016528848A5/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/45Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from two or more image sensors being of different type or operating in different modes, e.g. with a CMOS sensor for moving images in combination with a charge-coupled device [CCD] for still images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/583Control of the dynamic range involving two or more exposures acquired simultaneously with different integration times
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/50Control of the SSIS exposure
    • H04N25/57Control of the dynamic range
    • H04N25/58Control of the dynamic range involving two or more exposures
    • H04N25/581Control of the dynamic range involving two or more exposures acquired simultaneously
    • H04N25/585Control of the dynamic range involving two or more exposures acquired simultaneously with pixels having different sensitivities within the sensor, e.g. fast or slow pixels or pixels having different sizes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/778Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising amplifiers shared between a plurality of pixels, i.e. at least one part of the amplifier must be on the sensor array itself

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

ダイナミックレンジを拡張するために異なる積分時間を有する複数の画像感知素子を組み込んでいるCMOS可視画像センサのための方法、デバイス、及びコンピュータプログラム製品が本明細書において開示される。一態様では、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含むCMOS可視画像センサを使用して画像を撮る方法が開示され、ここにおいて、第2のウェルキャパシティは、第1のウェルキャパシティよりも大きい。方法は、少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定することを含む。方法は、少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定することを更に含み、ここにおいて、第2の積分時間は、第1の積分時間とは異なる。【選択図】 図9

Description

[0001] 本願は一般に、デジタル撮像に関し、より具体的には、ダイナミックレンジを拡張するために複数の画像感知素子を含む可視画像センサのためのシステム、方法、及びデバイスに関する。
[0002] デジタル画像では、相補型金属酸化膜半導体(CMOS)センサのダイナミックレンジは、時折、屋外シーンを正確に表現するのに十分でないことがあり得る。これは特に、モバイルデバイスにおいて使用され得るより小型なセンサ、例えば、モバイル電話のカメラに、当てはまり得る。例えば、モバイルデバイスカメラで使用される典型的なセンサは、略60−70dBのダイナミックレンジを有し得る。しかしながら、典型的な自然の屋外シーンは、光エリアと影との間で100dBのコントラスト範囲を容易にカバーし得る。このダイナミックレンジが、モバイルデバイスで使用される典型的なセンサのダイナミックレンジよりも大きいため、モバイルデバイスによって撮影される画像においてディテールが失われ得る。
[0003] 画像センサのダイナミックレンジを拡張しようとする以前の試みは、各々、それら自体の利点と、それら自体の欠点とを有する。例えば、幾つかの以前のアプローチは、1つがより短い露光時間を有し、1つがより長い露光時間を有する2つのフレームを組み合わせることを含む。このアプローチでは、より長い露光時間を有するフレームが、暗い領域におけるディテールを示すために使用され得、より短い露光時間を有するフレームが、明るい領域におけるディテールを示すために使用され得る。このアプローチは、静止している物体に対して良い結果を齎し得、優れたワイドダイナミックレンジ(WDR)ピクチャを生成し得る。残念ながら、移動物体が撮影されるとき、そのような画像を作るために使用される2つの異なるフレーム間の時間差が、モーションゴースト効果を引き起こし得る。このアプローチはまた、そのようなデバイスにおいてフルフレームメモリを必要とし得る。
[0004] そのようなモーションアーチファクトを減らすために、別のアプローチは、長時間露光フレームの読出しの直後に短時間露光フレームの積分を開始する。このスキームがどのように機能するかを説明するために、短時間露光時間をSライン時間、長時間露光時間をLライン時間と想定する。典型的なロールシャッター動作の場合、撮像装置(imager)は、時間0に第1の行、そして1ライン時間後に第2の行、等の積分を開始するだろう。Lライン時間において、長時間露光フレームについての第1の行を読み出し、第2の短時間露光フレームについて積分を直ちに開始し、1ライン時間後に第2の行の読出し及びリセットが続く。故に、例えば、時間L+Sライン時間では、行1の短時間露光フレームの読出しが発生し、時間L+S+1では、短時間露光フレームの行2の読出しが発生するだろう。これは、両方のフレームが完全に読み出されるまで続く。モーションアーチファクトは、以前のアプローチに比べて減らされ得るが、このアプローチは、依然として、完全なWDRフレームを再構築するために、メモリバッファのS個のラインを必要とするだろう。
[0005] 二重フレームアプローチからのモーションアーチファクトを最小化するために、及び、必要とされるラインバッファの量を減らすために、異なる積分時間が同じ読出しフレーム内に実装される場合に異なるスキームが使用され得る。例えば、1つの可能なスキームは、より長い積分時間Tlongを有する2つの行と、より短い積分時間Tshortを有する別の2つの行を有することである。このスキームは、図1に例示されるように、一方の対角線上に2つの緑画素を、他方の対角線上に赤及び青画素を有する2×2のサブパターンを有する、周知のBayerパターンのような、カラーフィルタサブパターンが通常対で起こる色感知撮像装置に使用され得る。
[0006] 他のアプローチに類似して、Tlongを有する行は、暗い領域におけるディテールを示すために使用され、Tshortを有する行は、明るい領域におけるディテールを示すために使用される。そのようなアプローチの場合、モーションアーチファクトが最小化され、ラインバッファは必要ない。しかしながら、このアプローチは、垂直方向において解像度損失を引き起こすだろう。改良された別のアプローチは、米国特許第8059174号において提示されており、ここでは、長い及び短い積分時間が密にインターリーブされる、即ち、行内の幾つかの画素がより長い積分時間を有するのに対して、同じ行内の他の画素はより短い積分時間を有することとなり、これは、垂直方向においてより良い解像度に帰着する。しかしながら、これは、依然として、垂直方向と水平方向の両方において幾らかの解像度損失を引き起こす。同様のスキームでは、長い積分時間を有する画素の1つの行が使用され得、画素の次の行は、短い積分時間を有し得、ここで、両方の画素は、同じカラーフィルタを有する。しかしながら、このアプローチは、異なるアスペクト比と、垂直解像度損失とを引き起こす。
[0007] この問題に対する更に別のアプローチは、対数画素(logarithmic pixel)のような、非線形応答画素を使用することであり得る。そのような画素は、非常に高いネイティブダイナミックレンジ(very high native dynamic range)を提供するが、これら画素を使用して作られる画像は、より高い固定パターンノイズ(FPN)といった他の課題を抱えている。
[0008] 異なる積分時間の他に、画素内操作(in-pixel manipulation)のような他の技法も、WDRを達成するために実装され得る。例えば、所謂、横型オーバフロー蓄積容積(LOFIC:lateral over-flow integrated capacitor)スキームでは、特定の画素が飽和状態に近いときに電荷を蓄積するために各画素において小容量が加えられる。このスキームでは、より複雑なレイアウトを犠牲にして、より高いダイナミックレンジが達成され得る。
[0009] これらスキームの各々では、各画素は、1つの光感知素子を有し、これら画素は、水平方向及び垂直方向の両方に同じ増加で、通常矩形パターンで配列される。
[0010] 別の可能なスキームは、米国特許第7019274号に例示されており、それは、小さい光感知素子及び大きい光感知素子が各画素に組み込まれるスキームを示す。より大きい素子により多くの露光を、小さい素子により少ない露光を可能にするように画素の上部にある遮光体を調整することで、合成されたピクチャは、より高いダイナミックレンジを有することができる。しかしながら、そのようなアプローチの場合、ダイナミックレンジ拡張が小さい素子と大きい素子との比並びにそれらの開口率に依存するため、ダイナミックレンジ拡張は、撮像装置が製造された時点で固定される。しかしながら、実際、シーンによっては、異なるダイナミックレンジが必要とされる。例えば、微光(low light)の状況では、任意の高ダイナミックレンジ画像情報を使用しないことが好ましく、代わりに、より高い信号対ノイズ比(SNR)を達成するために、可能な限り多くの光に各画素を曝すことが好ましいだろう。しかしながら、米国特許第7019274で使用されるスキームは、そのような異なるスキームに対して最適化されない可能性がある。
[0011] 本明細書で説明されるシステム、方法、デバイス、及びコンピュータプログラム製品は、各々、幾つかの態様を有し、これらのうちの何れも、その望ましい属性を単独で担うものではない。後に続く特許請求の範囲によって表されるような本発明の範囲を限定することなく、幾つかの特徴が以下に簡潔に説明される。この説明を検討した後、特に、「発明の詳細な説明」というセクションを読めば、本発明の有利な特徴が、複数の光感知素子を用いて画像を撮影することをどのように含むのかを理解されるだろう。
[0012] 幾つかの態様では、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含む画像センサを用いて画像を撮影する方法が開示され、ここにおいて、第2のウェルキャパシティは、第1のウェルキャパシティよりも大きい。方法は、少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定することと、少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定することとを備え、ここにおいて、第2の積分時間は、第1の積分時間とは異なる。
[0013] 一態様では、電子デバイスが開示される。デバイスは、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含むCMOS可視画像センサと、ここにおいて、第2のウェルキャパシティは、第1のウェルキャパシティよりも大きい、少なくとも1つの第1の光感知素子の各々に対して使用されるべき第1の積分時間を決定することと、少なくとも1つの第2の光感知素子の各々に対して使用されるべき第2の積分時間を決定することとを行うように構成されたプロセッサとを備え、ここにおいて、第2の積分時間は、第1の積分時間とは異なる。
[0014] 一態様では、電子デバイスが開示される。デバイスは、CMOS可視画像センサに含まれる、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定するための手段と、CMOS可視画像センサに含まれる、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定するための手段とを備え、ここにおいて、第2の積分時間は、第1の積分時間とは異なり、第2のウェルキャパシティは、第1のウェルキャパシティよりも大きい。
[0015] 一態様では、命令を備える非一時的コンピュータ可読媒体が開示され、命令は、実行されると、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含むCMOS可視画像センサを使用して画像を撮る方法を行うことをデバイス内のプロセッサに行わせ、ここにおいて、第2のウェルキャパシティは、第1のウェルキャパシティよりも大きい。方法は、少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定することと、少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定することとを備え、ここにおいて、第2の積分時間は、第1の積分時間とは異なる。
[0016] 図1は、Bayerカラーフィルタパターンの例示である。 [0017] 図2は、2ダイオード画素の例示的な概略図である。 [0018] 図3は、ダイナミックレンジ拡張を可能にするための2ダイオード画素の例示的なタイミング図である。 [0019] 図4A及び図4Bは、ダイナミックレンジ拡張の原理の例示である。 [0020] 図5は、α(x,y)のグラフであり、これは、2つのフォトダイオードからの読出し値を合成するための関数を例示する。 [0021] 図6は、低光の状況において使用され得る2ダイオード画素の例示的なタイミング図である。 [0022] 図7は、一対の共通トランジスタを共有するトータルで4つのフォトダイオードを有する、同じ行又は同じ列の何れか内にある2つの隣接した画素の概略的な例示である。 [0023] 図8は、フォトダイオードからの読出し値を合成するための構成要素のセットを有するデバイスの高水準ブロック図を描写する。 [0024] 図9は、二重ダイオードデバイスを使用する方法の例示である。
発明の詳細な説明
[0025] 複数の実施形態は、可視画像センサのダイナミックレンジを拡張するための方法及びシステムに関する。一実施形態は、画像センサのダイナミックレンジを拡張するために異なる積分時間を有する二重ダイオード画素を組み込んでいるCMOSベースの可視画像センサを含む。典型的なモバイルデバイス上で使用されるセンサがフルダイナミックレンジの屋外画像のを撮影するのに十分なダイナミックレンジを有さない可能性があるため、可視画像センサのダイナミックレンジを拡張することが重要であり得る。幾つかの実施形態では、CMOSセンサは、二重ダイオード設計を組み込むことで、増加したダイナミックレンジを有し得る。そのような設計は、例えば、より多くの光を吸収し、画像のより暗いエリアにおいて更なるディテールを提供するために、より大きいウェルキャパシティを有するより大きいフォトダイオードと、画像のより明るいエリアにおいて更なるディテールを提供するために、より小さいウェルキャパシティを有するより小さいフォトダイオードとを含み得る。
[0026] フォトダイオードのような光感知素子が保持することができる総電荷量は、ウェルキャパシティと呼ばれ、電子単位で測定される。光感知素子のウェルキャパシティは、典型的にデシベル単位で測定されるその素子のダイナミックレンジに関する。ダイナミックレンジ、ウェルキャパシティとノイズフロアとの比、は、センサが、フルウェルキャパシティに到達するまで低光度においてどれだけうまく正確な信号を測定することができるかの測定である。同様のノイズフロアを前提として、感知素子のダイナミックレンジは、そのウェルキャパシティに比例し、それは、典型的にそのような光感知素子のサイズに比例する。
[0027] 「例示的」という用語は、本明細書では、「例証、事例、又は例示としての役割を果たす」という意味で使用される。「例示的」として本明細書で説明される任意の実施形態は、必ずしも、他の実施形態よりも有利である又は好ましいと解釈されるべきではない。新規のシステム、装置、及び方法の様々な態様が、添付の図面に関連して以下に更に詳しく説明される。しかしながら、本開示は、多くの異なる形式で具現化され得、本開示全体を通して提示される任意の特定の構造又は機能に限定されるものとして解釈されるべきではない。むしろ、これらの態様は、本開示を徹底的かつ完全なものとし、本開示により本開示の範囲が当業者に十分に伝わるように、提供される。本明細書での教示に基づき、当業者は、本開示の範囲が、本発明の任意の他の態様と組み合わされて実装されようと独立して実装されようと、本明細書で開示される新規なシステム、装置、及び方法の任意の態様をカバーするように意図されていることを認識するべきである。例えば、本明細書に示される任意の数の態様を使用して、装置が実装されるか、又は方法が実施され得る。加えて、本発明の範囲は、本明細書に示される本発明の様々な態様に加えて、又はそれ以外の、他の構造、機能、又は構造と機能を使用して実施されるこのような装置又は方法をカバーするように意図される。本明細書で開示される任意の態様が、特許請求の範囲の1つ又は複数の要素によって具現化され得ることは理解されるべきである。
[0028] 特定の態様が本明細書で説明されるが、これら態様の多くの変形及び置換は、本開示の範囲に含まれる。好ましい態様の幾つかの利益及び利点が述べられるが、本開示の範囲は、特定の利益、用途、又は目的に限定されるようには意図されない。むしろ、本開示の態様は、異なるワイヤレス技術、システム構成、ネットワーク、及び送信プロトコルに広く適用可能であるように意図されており、そのうちの幾つかが、図において及び好ましい態様の以下の説明において例として例示される。発明の詳細な説明及び図面は、限定というよりはむしろ、本開示の単なる例示であり、本開示の範囲は、添付の特許請求の範囲及びそれらの同等物によって定義されている。
[0029] 上述したように、明るいエリアと暗いエリアの両方を含むシーンのピクチャを撮るために、画像センサ、即ち撮像装置、のダイナミックレンジを拡張することが望まれ得る。これは、特に、より小さい画素が、各画素に対して軽減フルウェルキャパシティ(FQC)を有し得ることから、小さい画素サイズに当てはまり得る。例えば、モバイル電話カメラで使用される典型的な画像センサが60−70dBのダイナミックレンジを有するのに対して、典型的な自然シーンは100dBのコントラスト範囲を容易にカバーし得る。故に、撮影された画像のダイナミックレンジを拡張する方法が、そのようなピクチャのコントラスト忠実性を維持するために必要とされる。
[0030] 従って、複数の実施形態は、1つ又は複数の画素が様々なウェルキャパシティの光感知素子から構成される画像センサに関する。従って、これらの画像センサは、撮影された同じ画像フレーム内の微光画像部分及び最も明るい(high light)画像部分を正確に撮影するために、以下で説明されるように、異なる感知素子の組み合わせを使用することで、高ダイナミックレンジで画像を撮影することができる。上記方法の欠点のうちの幾つかを回避しつつ増加ダイナミックレンジを提供するために使用され得る1つの方法は、画素当たり2つの光感知素子、1つの小さい光感知素子と1つの大きい光感知素子、を有する可視画像センサを提供することであり得る。図2は、2ダイオード画素の例示的な概略図200である。以下で説明されるように、他の光感知素子もまた使用され得ることが当業者には明らかであるが、固定された(pinned)フォトダイオードが、そのような光感知素子の例として使用され得る。故に、各画素は、大きいフォトダイオードと小さいフォトダイオードとを含み得る。画素200のこの図では、大きいフォトダイオード210は、Dlargeと呼ばれ得、小さいフォトダイオード220は、Dsmallと呼ばれ得る。画素200は、各フォトダイオードに対して別々に機能することができる他の読出し素子を更に含み得るか、或いは両方のダイオードが、幾つかの共通した読出し素子を共有し得る。これは、フォトダイオードの増加された充填比(fill factor)を齎し得る。これら画素は、画素の1つの行を形成するために、固定の画素ピッチで、水平方向において繰り返しインスタント化される。各撮像装置は、2次元画素アレイを形成するために、垂直方向において、実質的には水平方向の場合と同じ画素ピッチで、多数の行又はそのような画素を含み得る。
[0031] 画素200のような、異なる感知素子を有する画素を含む可視画像センサは、多数の点で以前のセンサとは異なり得る。例えば、可視画像センサの大きいフォトダイオード210及び小さいフォトダイオード220は、異なる積分時間を有し得る。例えば、これら積分時間は、大きいフォトダイオード210の積分時間についてはTLと表され得、小さいフォトダイオード220の積分時間についてはTSと表され得る。大きいフォトダイオード210は、小さいフォトダイオード220よりも長い積分時間を有し得る。これにより、より大きいフォトダイオード210は、画像のより暗い領域におけるディテールを示すことができ得、小さいフォトダイオード220は、画像のより明るい領域におけるディテールをより良く示すことができ得る。
[0032] そのような回路は、低ノイズ4トランジスタ(4T)画素に基づき得、大きいダイオードDlarge210及び小さいダイオードDsmall220に対してそれぞれ個別の移動ゲートMxl204及びMxs208を含み得る。大きいフォトダイオードDlarge210及び小さいフォトダイオードDsmall220の影付きエリアによって例示されるように、これらダイオードは、異なるサイズ、Dlarge210に対してより大きいサイズ、を有し得る。ここではDlarge210に対して不規則な形が例示されているが、幾つかの態様では、電荷移動を容易にするために、丸みのある長方形などの、各ダイオードに対してより十分に制御された形が好まれるだろう。画素をサポートする他の回路は、リセットトランジスタMrst225と、ソースフォロワトランジスタMsf230及び行選択トランジスタMsel235から構成される読出しブランチとを含み得る。
[0033] 図3は、図2に示されているもののような2ダイオード画素の例示的なタイミング図300である。このタイプの画素では、入射光子が、シリコン基板において電子・正孔対に変換される。次に、光電子は、Dlarge210及びDsmall220という2つのフォトダイオードによって集められる。大きいフォトダイオードDlarge210に対する積分は、時間T0に開始する。この時に、RST及びXRFLの両方は、ある特定の時間量の間ハイであり得、トランジスタMrst225及びMxl204の両方をオンにする。これは、Dlarge210における全ての電子を空にし得、Dlarge210を既定の電圧に設定し得る。XRFLが低電圧に設定された時点で、Mxl204はオフになり、Dlarge210は、光電子を集め始め、その電圧は低下する。一般に、そのような光電子蓄積の比は、Dlarge210に当たる入射光の量に比例し、従って、それは、光度とフォトダイオードエリアの両方の関数である。
[0034] 前に述べたように、Dlarge210は、時間TLの間、光を集めるように構成され得る。Dlarge210が電子を集めるのと同時に、Dsmall220もまた、電子を集め得るが、これらは使用されないだろう。時間T0+TL−TS+1/2ライン時間310において、小さいフォトダイオードDsmall220は、RST及びXFLSの両方を高い値に設定することでリセットされ得る。このリセットは、Dsmall220が集めた任意の光電子を破棄し得、Dsmall220が、光電子を再度集め始めることを可能にする。Dsmall220は、時間TSの間、光を集めるように構成され得る。
[0035] 積分時間の終了時に、ダイオード上の蓄積された電荷を読み出すために、相関二重サンプリング(CDS)動作が用いられ得る。これを行うために、まずMrst225が、RSTを高く設定することでオンにされ、これは、フローティングノード(FN)をリセット電圧(CELLHIバイアス−Mrst225の閾値)に設定する。この後、SEL信号がハイに設定され得、これは、画素読み出しを可能にするためにMsel235をオンにし得る。BUSが電流源に接続されている場合、Msf230は、ソースフォロワとして機能し、これは、BUS電圧がFNの電圧を追跡することに帰着する。FNのリセット電圧が読み出された時点で、Mxl204は、XREFをハイに設定し、Dlarge210における集められた全ての光電子をFNにダンピングし、それによって、FNの電圧を下げることによってオンにされる。この後、BUS電圧は、FNの下げられた電圧に従い得、第2の読出しは、SELがハイに設定されている場合、ソースフォローを通じて行われ得る。両方の読出し間の差分は、Dlarge210によって集められた光電子によるノードFNでの的確な電圧変化を決定するために使用され得る。追加の列回路もまた、そのような情報を記憶するために、及び、増幅、デジタル化、及び他の処理のような更なる処理を可能にするために使用され得る。一般に、CDS動作は、存在し得るある特定の一時的なノイズ及びトランジスタ変動のインパクトを減らし得る。幾つかの態様では、1つがリセット用で1つが読出し用である2つのXRFLパルス間の時間差は、大きいフォトダイオードの積分時間TLに相当し得る。大きいフォトダイオードDlarge210が読み出された時点で、約1/2ライン時間後に、別のCDS動作が、小さいフォトダイオードDsmall220を読み出すために実行され得る。この動作は、大きいフォトダイオードDlarge210に関連して上述された動作に類似し得る。Dsmall220を読み出すためのCDS動作では、小さいフォトダイオードsmall220に対してXFRSをハイに設定することで、Mxs208がオンにされ得る。Dsmall220について積分する際、2つのXFRSパルス間の時間は、Dsmall220の積分時間TSである。
[0036] 図3に例示された読出しスキームを使用する際、大きいフォトダイオード210の読出しと、小さいフォトダイオード220の読出しとの間に、約1/2ライン時間の時間差が存在し得る。従って、1つのラインバッファが、大きいフォトダイオード210からの情報を記憶するために必要とされ得る。所与の画素からの小さいフォトダイオード220が読み出された時点で、関連した大きいフォトダイオード210からの結果と合成され、最終的な画素出力値を形成し得る。従って、この2ダイオード構成からの追加のメモリ要件が最小化される。
[0037] 図4A及び図4Bは、ダイナミックレンジ拡張の原理を例示する。図4Aは、図2に示されたフォトダイオードからの元の読出し値のプロット410を例示する。x軸は、画素に当たる光度である。大きいフォトダイオードDlarge210の場合、蓄積された信号は、積分時間TLと、集光エリアAREALとの積に比例する。小さいフォトダイオード220の場合、その信号は、TS×AREASに比例し、ここで、AREASは、Dsmall220のその集光エリアである。各フォトダイオードがそれぞれ飽和レベルFWCL及びFWCSを有するため、プロット420でL1及びL2としてそれぞれ示されるように光度がある特定のレベルを上回った時点で、フォトダイオードは、これ以上の電荷を集めることができなくなり、次いで、その出力がクリッピングされる。Dsmall220及びDlarge210の両方の組み合わせを使用することによって、このダイナミックレンジは拡張され得る。上記パラメータの既知の値を使用することで、小さいフォトダイオード220の信号値は、TL×AREAL/(TS×AREAS)という係数が乗じられ得、これは、図4Bに示されるプロット420に帰着する。故に、2ダイオードセンサを使用することで、小さいフォトダイオードの飽和状態は、FWCS×TL×AREAL/(TS×AREAS)へとプッシュされ得、これは、TL対TSの適切な比を選択することで、画素ダイナミックレンジの拡張に帰着し得る。
[0038] 多数の方法が、両方のフォトダイオードからの読出し値を合成するために使用され得る。例えば、大きいフォトダイオード210(図2)の出力が飽和状態を下回る場合、この値は、最終的な画素出力として使用され得る。しかしながら、この値が、その飽和レベルに近づくと、画素の値は、代わりに小さいフォトダイオードの出力となるように操作され得る。両方のダイオードの出力を利用するために、より複雑なアルゴリズムも使用され得る。例えば、2つの読出し画像を1つの線形HDR画像へと合成するもう1つの複雑なアルゴリズムが以下に説明される:
[0039] T1及びT2が、それぞれ、TL及びTSに対応して、大きい及び小さいフォトダイオードの読出し画像を表すものとする。R=(TL/TS)×(AREAL/AREAS)とする。MADは、T1とRxT2との間の局所的な平均絶対誤差値を表すものとし、それは以下のように定義される:
Figure 2016528848
[0040] ここで、W(x,y)は、画素(x,y)に中心があるm×nのウィンドウであり、Nは、ウィンドウW(x,y)内の画素の総数である。α(x,y)は、以下のように定義されるものとする:
Figure 2016528848
[0041] a及びbは、フォトダイオード間の偏移幅を制御するチューニングパラメータである。
[0042] 図5は、MAD、T1とRxT2との間の局所的な平均絶対誤差値、の関数としての関数αのグラフである。関数α(x,y)を用いて、合成されたT1及びT2画像Thdrは、次のように表せられ得る:
Figure 2016528848
[0043] 上記関数は、T1が飽和状態になったとき又はモーションが提示されるときT1からT2に平滑に切り替わるだろう。これは、図5のαのグラフから観察され得る:T1が飽和状態になると、MAD値は大きくなり、次にαが1に近くなり、それによりThdrがT2に近くなるだろう。同様に、提示されたモーションがあるとき、MADは大きくなり、αは1に近くなり、それによりこの場合も同様に、ThdrはT2に近くなるだろう。
[0044] N0というノイズフロアを想定すると、上記の再合成スキーム(recombination scheme)の場合、画素のダイナミックレンジは以下のように表せられ得る:
Figure 2016528848
[0045] 比較のために、同じ画素が、単一のダイオードの通常のアプローチで実装された場合、より一層大きいフォトダイオードが、FWCS+FWCLのオーダで、組み合わされた飽和レベルを有する同じ画素ピッチに対して実装され得ることは想定され得る。結果として、そのダイナミックレンジは、以下のようになり得る:
Figure 2016528848
[0046] これら2つのアプローチからの異なるダイナミックレンジを比較するために、そのようなフォトダイオードのフルウェルキャパシティが、画素のフォトダイオードエリアに幾らか比例し得ることが想定され得る。故に、このフォトダイオードの集光エリアが、ダイオードエリアとほぼ同じであると想定される場合、二重ダイオードを用いた画素のダイナミックレンジは、以下となり得る:
Figure 2016528848
[0047] TL/TSが、1+FWCS/FWCLよりも大きくなり得るため、DRnewは、DRoldよりも高くなり得る。故に、このアプローチは、光感知画素のダイナミックレンジを改善し得る。
[0048] TLとTSの両方が、動的にプログラミングされ得るため、本開示の1つの利点は明らかになり得る:システムの最大のダイナミックレンジは、より大きいTL/TS比をプログラミングすることによって容易に増加され得る。しかしながら、L1とL2との間の光度レベルについて、TL及びTSが固定であると想定すると、そのような画素のSNRは、飽和した大きいフォトダイオードからの情報がもはや使用されていない可能性があるため、より低くなり得る。より小さいフォトダイオードだけからの信号が使用される場合、より高いノイズレベルが存在し得る。故に、ダイナミックレンジを必要なぶんだけ拡張しつつSNRレベルを維持するために、TL及びTSを別個に調整するための露光制御を実装することが有益であり得る。
[0049] TL及びTSを調整する1つの方法は、以下の通りであり得る。第1に、TL及びTSは、同じ値に設定され得る。このことから、自動露制御が通常のセンサで使用され得るのと同じように、自動露光制御のためのTLの統計データが使用され得る。明度レベルがターゲット明度レベルに到達すると、TL画像は、クリッピング画素のチェック受けることができる。クリッピング画素の既定の閾値が使用され得、画像内のクリッピング画素の数は、この閾値レベルと比較され得る。TL画像内のクリッピング画素のカウントが、既定の閾値よりも低い場合、TL露光長は十分であり得、TSは、TLに等しく保たれ得る。このケースでは、代わりにTLからの画素が使用され得るため、TS画素からの値が使用されないだろう。しかしながら、TL画像内のクリッピング画素のカウントが、既定の閾値よりも大きい場合、TS露光時間が減らされ得、TS画像内のクリッピング画素のカウントも開始し得る。幾つかの態様では、TSは、TS画像内のクリッピング画素のカウントが第2の既定の閾値を下回るようなレベルにのみ減らされ得る。換言すると、拡張されたダイナミックレンジが、シーンダイナミックレンジをちょうどカバーするような方法でTS画素が使用され得る。このように、SNRは、比較的より高いレベルで維持されるだろう。
[0050] 2D画素アレイの場合、数万画素を有することもあるが、個々の画素の上述したこれら異なる制御信号に接続することは可能ではない可能性がある。典型的な設計では、SEL、RST、XRFL、及びXFRSは、画素の1つの行によって共有される水平バスであり得、BUSは、画素の1つの列によって共有される垂直バスであり得る。本明細書の例では、CELLHI自体は、2Dアレイにおける全ての画素に対して同じであり得、従って、水平バス又は垂直バスの何れかであり得る。そのような実装の結果として、画素の1つの行は、それぞれ大きいフォトダイオードと小さいフォトダイオードに対して同じTL及びTS積分時間を有するだろう。
[0051] RST、SEL、及び異なるXFR信号の生成は、典型的に、垂直タイミング生成器によって制御される。シフトレジスタベースの、又は、デコーダベースの設計の何れかが、そのような目的で使用され得る。シフトレジスタベースのアプローチが使用される場合、小さいフォトダイオードを制御するための遅延XFRS信号を生成するために、追加のポインタ信号及び一対のシフトレジスタが必要とされるだろう。デコーダベースのアプローチの場合、そのような信号を生成するために、追加のカウンタ又は同様の論理回路が必要とされ得る。しかしながら、そのようなタスクに必要とされる追加のシリコンエリアは各行に対して極めて小さい。
[0052] 際立って明るいシーンでピクチャを撮るために高ダイナミックが必要とされるが、微光の状況下では、そのような拡張ダイナミックレンジは、必要とされないだろう。代わりに、同じ積分時間がTS及びTLの両方に使用される異なるモード下で上述した二重ダイオード画素を動作させることによってより高いSNRが達成され得る。画素内ビニング、即ち、Dlarge及びDsmallという両方のフォトダイオードからの電荷を同一の浮遊ノード(FN)にダンピングすること、が使用された後に1つのCDS読出しが続く。そのような構成に対するタイミング図が図6に示される。
[0053] 図6に例示される動作モード下では、両方のダイオードが、RST、XFRL、及びXFRSを全てハイに設定することで、時間T0において同時にリセットされ得る。その後、両方のダイオードが、光電子の蓄積を開始する。TL積分時間の後、かつ、TSがTLに等しく設定されている場合、CDS動作が開始し得る:RSTをハイに設定することで最初にFNがリセットされる。これに続いて、SELは、FNのリセットレベルを読み出しするためにオンになり得る。その後、XFRL及びXRFSの両方がハイに設定され得、両方のフォトダイオードからの蓄積された電荷は、FNに移動され得、その後、減らされたFNレベルのもう1つの読出しが続く。この動作は、たった1つの読出しの使用を可能にし、これは、両方のフォトダイオードからの電荷がブースト信号レベルまで加算される間、読出しプロセスからのノイズ寄与を最小化する。故に、このプロセスは、高い信号対ノイズ比に帰着し得る。
[0054] 一般に、本明細書で説明された二重ダイオード画素の場合、低光レベル下では、TL及びTSの両方を同じに設定し、かつ、フルフレーム積分時間を使用して、信号レベルを増加させることで、ビニングモード下でそれを動作させることは通常有益である。更に、アナログ及び/又はデジタル利得もまた適用され得る。光レベルが上がるにつれ、フォトダイオードのうちの1つからの信号レベルが飽和し得、本明細書で説明される画素は、動作モードを、異なるTL及びTS時間を有するWDRモードに切り換えるように構成され得る。一般に、TSは、上述したように、画素ダイナミックレンジをブーストするために、TLよりも短いだろう。
[0055] 先に説明された画素は、同じリセット及び読出しトランジスタを共有する小さいフォトダイオード及び大きいフォトダイオードを含んでいたが、これら画素のうちの幾つかはまた、レイアウトのフィルファクタを更に改善するために、そのような共通素子を共有し得る。例えば、同じ行又は同じ列の何れかにあり、Dsmall1 709,Dlarge1 710、Dsmall2 714、及びDlarge2 715というトータルで4つのフォトダイオードを有する2つの隣接した画素704及び705は、図7に示されるように、一対の共通トランジスタ720を共有することができる。共有構造に依存して、動作タイミングは、それに応じて調整され得る。例えば、水平共有が実装される場合、各ライン時間に4つの読出しCDS動作が存在し得る、即ち、Dlarge1 710、Dsmall1 709、Dlarge2 715、最後にDsmall2 714を読み出すためにそれぞれ1つ。
[0056] 故に、そのような二重ダイオード画素は、屋外などの高水準のダイナミックレンジを有するシーンの場合など、必要時にWDR動作を可能に得る。二重ダイオード画素は、小さい及び大きいフォトダイオードを含み得、ある特定の補助回路を含み得る。2つのフォトダイオードは、異なる積分時間をサポートするように設計され得る。微光の状況下では、二重ダイオード画素は、両方のフォトダイオードに対して同じ積分時間で、SNRをブーストするためにビニングモード下で動作され得る。WDRモード下では、大きい及び小さいフォトダイオードに対する積分時間は、異なり得、ここで、典型的に、TLよりもTSが少ない。ダイナミックレンジは、TL対TSの比がかなり大きくなると拡張され得る。TL及びTSを別個に変更することによって、そのような画素のダイナミックレンジは、SNRの損失を最小化しつつ、拡張され得る。このアプローチは、センサのダイナミックレンジを拡張しつつも、画像解像度を維持し得、追加のモーションアーチファクトを引き起こさないだろう。
[0057] 図8は、両方とも同じ画素800内にある第1のフォトダイオード815及び第2のフォトダイオード825に動作的に結合されたプロセッサ820を含む構成要素のセットを有するデバイス800の高水準ブロック図を描写する。ワーキングメモリ805、記憶装置810、及びメモリ830はまた、プロセッサと通信状態にあり、そのプロセッサに動作的に取り付けられている。デバイス800は、デジタルカメラ、携帯電話、又は別のデバイスのような、デジタル写真を撮るように構成されたデバイスであり得る。第1のフォトダイオード815及び第2のフォトダイオード825は、二重ダイオード画素の一部であり得る。多数のそのような画素が、デバイス800に含まれ得る。
[0058] プロセッサ820は、汎用処理ユニット、又は開示された方法のために特別に設計されたプロセッサであり得る。示されるように、プロセッサ820は、メモリ830及びワーキングメモリ805に接続されている。例示される実施形態では、メモリ830は、タイミングモジュール835、画像合成モジュール840、及びオペレーティングシステム875を記憶する。これらのモジュールは、様々なタスクを行うようにプロセッサを構成する命令を含む。ワーキングメモリ805は、メモリ830のモジュールに含まれるプロセッサ命令のワーキングセットを記憶するためにプロセッサ820によって使用され得る。代替的に、ワーキングメモリ805はまた、デバイス800の動作中に作られる動的なデータを記憶するためにプロセッサ820によって使用され得る。
[0059] 上述したように、プロセッサ820は、これらメモリに記憶された幾つかのモジュールによって構成される。例えば、タイミングモジュール835は、第1のフォトダイオード815及び第2のフォトダイオード825に対してタイミングを決定するようにプロセッサ820を構成する命令を含み得る。幾つかの態様では、これらタイミングは、各フォトダイオードに対して同じであり得るか、外部の条件に基づいて異なり得る。
[0060] メモリ830はまた、画像合成モジュール840を含み得る。画像合成モジュール840は、第1のフォトダイオード815及び第2のフォトダイオード825から信号を受信し、画像を作るようにフォトダイオードからのこれら信号を合成するようにプロセッサ820を構成する命令を含み得る。幾つかの態様では、この画像は、一方又は両方のフォトダイオードから受信される情報を含み得る。幾つかの態様では、画像合成モジュール840は、メモリ805又は記憶装置810にこの画像を記憶するように構成され得る。
[0061] オペレーティングシステムモジュール875は、デバイス800のメモリ及び処理リソースを管理するようにプロセッサを構成する。例えば、オペレーティングシステムモジュール875は、第1のフォトダイオード815、記憶装置810、又は第2のフォトダイオード825のような、ハードウェアリソースを管理するためのデバイスドライバを含み得る。従って、幾つかの実施形態では、上述されたモジュールに含まれる命令は、これらのハードウェアリソースと直接はインタラクトしない可能性があるが、代わりに、オペレーティングシステム構成要素875内に位置する複数のAPI又は標準的なサブルーチンを通じてインタラクトし得る。次に、オペレーティングシステム875内の命令は、これらのハードウェア構成要素と直接インタラクトし得る。
[0062] プロセッサ820は、記憶モジュール810にデータを書き込み得る。記憶モジュール810は、従前のディスクデバイスとしてグラフィカルに表されるが、当業者であれば、複数の実施形態が、メモリディスク、USBドライブ、フラッシュドライブ、リモートに接続された記憶媒体、仮想ディスクドライバ、又は同様のものを含むように、ディスクベースの記憶デバイス又は幾つかの他のタイプの記憶媒体のうちの1つの何れかを含み得ることを理解するであろう。
[0063] 図8は、プロセッサ、第1及び第2のフォトダイオード、並びにメモリを含むために別個の構成要素を有するデバイスを描写しているが、当業者であれば、特定の設計目的を達成するために、これらの別個の構成要素が様々な方法で組み合わされ得ることを認識するであろう。例えば、代替的な実施形態では、メモリ構成要素は、費用を節約しパフォーマンスを向上させるために、プロセッサ構成要素と組み合わされ得る。
[0064] 追加的に、図8は、幾つかのモジュールを有するメモリ構成要素830と、ワーキングメモリを有する別個のメモリ805とを含む2つのメモリ構成要素を例示しているが、当業者であれば、幾つかの実施形態が異なるメモリアーキテクチャを利用することを認識するであろう。例えば、設計は、メモリ830に含まれるモジュールを実装するプロセッサ命令の記憶のために、ROM又は静的RAMメモリを利用し得る。代替的に、プロセッサ命令は、デバイス800に一体化されるか又は外部デバイスポートを介して接続されたディスク記憶デバイスからシステム起動時に読み込まれ得る。次に、プロセッサ命令は、プロセッサによる実行を容易にするためにRAMへとロードされ得る。例えば、ワーキングメモリ805はRAMメモリであり得、ここで、命令は、プロセッサ820による実行の前にワーキングメモリ805にロードされる。
[0065] 図9は、二重ダイオードデバイスを使用する方法の例示である。この方法は、デバイス800のようなデバイスによって行われ得る。
[0066] ブロック905において、方法は、CMOS可視画像センサに含まれる少なくとも1つのより大きい光感知素子の各々に対して第1の積分時間を決定することを含む。例えば、第1の積分時間は、少なくとも1つのより大きい光感知素子によって観察される照明条件に少なくとも部分的に基づいて決定され得る。幾つかの態様では、これを決定するための手段は、プロセッサを含み得る。
[0067] ブロック910において、方法は、少なくとも1つのより小さい光感知素子の各々に対して第2の積分時間を決定することを含み、ここにおいて、第2の積分時間は、第1の積分時間とは異なる。幾つかの態様では、これを決定するための手段は、プロセッサを含み得る。
[0068] ブロック915において、方法は、少なくとも1つのより小さい光感知素子からの少なくとも1つの信号と、少なくとも1つのより大きい光感知素子からの少なくとも1つの信号とに少なくとも部分的に基づいて画像を形成し得る。幾つかの態様では、画像は、より大きい又はより小さい1つ又は複数の素子からの信号の組み合わせに基づいて形成され得る。幾つかの態様では、画像を形成するための手段は、プロセッサを含み得る。
[0069] 本明細書において、「第1の」、「第2の」、等の称号を用いた要素への如何なる参照も、一般に、これら要素の量も順序も限定しないことが理解されるべきである。むしろ、これらの称号は、2つ以上の要素を、又は、1つの要素の複数の事例を区別する便利な方法として本明細書で使用され得る。故に、第1の要素及び第2の要素への参照は、そこで2つの要素しか用いられないことも、何等かの方法で第1の要素が第2の要素に先行しなければならないことも、意味していない。また、別途記載されていない限り、要素のセットは、1つ又は複数の要素を含み得る。
[0070] 当業者であれば、情報及び信号が、様々な異なる技術及び技法の何れかを使用して表され得ることを理解するであろう。例えば、上の説明全体にわたって参照され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、及びチップは、電圧、電流、電磁波、磁場又は磁性粒子、光場又は光粒子、或いはこれらの任意の組み合わせによって表され得る。
[0071] 当業者であれば更に、本明細書に開示された態様と関連して説明された実例となる様々な論理ブロック、モジュール、プロセッサ、手段、回路、及びアルゴリズムステップの何れも、電子ハードウェア(例えば、ソースコーディング又は他の何等かの技法を使用して設計され得る、デジタル実装、アナログ実装、又はこれら2つの組み合わせ)、命令(便宜上、本明細書では「ソフトウェア」又は「ソフトウェアモジュール」と呼ばれ得る)を組み込む様々な形式の設計コード又はプログラム、或いは両方の組み合わせとして実装され得ることを認識するであろう。このハードウェア及びソフトウェアの互換性を明確に例示するために、実例となる様々な構成要素、ブロック、モジュール、回路、及びステップは、概ねそれらの機能性の観点から上で説明されている。そのような機能性がハードウェアとして実装されるかソフトウェアとして実装されるかは、特定の用途とシステム全体に課される設計の制約とに依存する。当業者は、上述された機能を特定の用途ごとに様々な方法で実装し得るが、このような実装の決定は本開示の範囲からの逸脱をさせるものとして解釈されるべきでない。
[0072] 本明細書に開示された態様と関連して及び図1−9に関連して説明された、実例となる様々な論理ブロック、モジュール、及び回路は、集積回路(IC)、アクセス端末、又はアクセスポイント内に実装され得るか、又はこれらによって行われ得る。ICは、汎用プロセッサ、デジタルシグンナルプロセッサ(DSP)、特定用途向け集積回路(ASIC)、フィールドプログラマブルゲートアレイ(FPGA)又は他のプログラマブル論理デバイス、ディスクリートゲート又はトランジスタ論理、ディスクリートハードウェア構成要素、電気構成要素、光学構成要素、機械構成要素、或いは本明細書に説明された機能を行うように設計されたそれらの任意の組み合わせを含み得、IC内、IC外、又はその両方に存在する命令又はコードを実行し得る。論理ブロック、モジュール、及び回路は、ネットワーク内又はデバイス内の様々な構成要素と通信するために、アンテナ及び/又はトランシーバを含み得る。汎用プロセッサはマイクロプロセッサであり得るが、代替的に、プロセッサは任意の従来のプロセッサ、コントローラ、マイクロコントローラ、又はステートマシンであり得る。プロセッサはまた、コンピューティングデバイスの組み合わせ、例えば、DSPと、1つのマイクロプロセッサ、複数のマイクロプロセッサ、DSPコアに連結した1つ又は複数のマイクロプロセッサ、或いは任意の他のそのような構成との組み合わせとして実装され得る。これらモジュールの機能性は、本明細書で教示されたような他の何等かの方法で実装され得る。本明細書で説明された機能性(例えば、添付図面のうちの1つ又は複数に関連して)は、幾つかの態様では、添付の特許請求の範囲において同様に指定された「〜ための手段」の機能性に対応し得る。
[0073] ソフトウェアで実装される場合、これら機能は、コンピュータ可読媒体において、1つ又は複数の命令又はコードとして、記憶又は送信されることができる。本明細書に開示される方法又はアルゴリズムのステップは、コンピュータ可読媒体上に存在し得るプロセッサ実行可能なソフトウェアモジュールに実装され得る。コンピュータ可読媒体は、ある場所から別の場所へコンピュータプログラムを移動することを可能にされ得る任意の媒体を含む通信媒体及びコンピュータ記憶媒体の両方を含む。記憶媒体は、コンピュータによってアクセスされ得る任意の利用可能な媒体であり得る。限定ではなく例として、このようなコンピュータ可読媒体は、RAM、ROM、EEPROM(登録商標)、CD−ROM又は他の光ディスク記憶装置、磁気ディスク記憶装置又は他の磁気記憶デバイス、或いは、データ構造又は命令の形式で所望のプログラムコードを記憶するために使用されることができ、かつコンピュータによってアクセスされることができる任意の他の媒体を含み得る。また、任意の接続は、厳密にはコンピュータ可読媒体と称され得る。ディスク(disk)及びディスク(disc)は、本明細書で使用される場合、コンパクトディスク(CD)、レーザーディスク(登録商標)、光ディスク、デジタル多用途ディスク(DVD)、フロッピー(登録商標)ディスク、及びブルーレイディスクを含み、ディスク(disk)は、通常、データを磁気的に再生し、ディスク(disc)は、データをレーザを用いて光学的に再生する。上記の組み合わせもまた、コンピュータ可読媒体の範囲内に含まれるべきである。追加的に、方法又はアルゴリズムの動作は、コンピュータプログラム製品に組み込まれ得る、機械可読媒体及びコンピュータ可読媒体上で、コード及び命令のうちの1つ、又はそれらの任意の組み合わせ、又はそれらのセットとして存在し得る。
[0074] 任意の開示されたプロセスにおけるステップの任意の特定の順序又は階層は、サンプルのアプローチの例であることが理解される。設計の選好に基づいて、プロセスにおけるステップの特定の順序又は階層は本開示の範囲内にありながら並べ替えられ得ることが理解される。添付の方法の請求項は、様々なステップの要素を1つのサンプルの順序で示し、それらが提示された特定の順序又は階層に限定されることは意味されない。
[0075] 本開示で説明された実装形態への様々な修正は、当業者には容易に明らかであり得、本明細書で定義された包括的な原理は、本開示の精神又は範囲から逸脱することなく他の実装形態に適用され得る。故に、本開示は、本明細書に示された実装形態に限定されるように意図されず、本明細書に開示される特許請求の範囲、原理、及び新規な特徴と一致する最も広い範囲が与えられるべきである。「例示的」という用語は、本明細書では、「例証、事例、又は例示としての役割を果たす」という排他的な意味で用いられる。「例示的」として本明細書で説明される任意の実装形態は、必ずしも、他の実装形態よりも有利である又は好ましいと解釈されるべきではない。
[0076] 別個の実装形態に照らして本明細書で説明されたある特定の特徴もまた、単一の実装形態で、組み合わせて実装され得る。反対に、単一の実装形態のコンテキストにおいて説明される様々な特徴はまた、複数の実装形態で別個に、又は任意の適したサブコンビネーションで実装され得る。更に、特徴は、ある特定の組み合わせで動作するものと上述され、そのように最初に特許請求の範囲に記載すらされ得るが、請求される組み合わせからの1つ又は複数の特徴は、幾つかのケースでは、その組み合わせから削除され得、請求される組み合わせは、サブコンビネーション又はサブコンビネーションの変形物に向けられ得る。
[0077] 同様に、動作は、図面に特定の順序で描写されるが、このことが、所望の結果を達成するために、そのような動作が特定の順序で又は連続した順序で行われること、或いは、全ての例示された動作が行われることを必要とするものと理解されるべきではない。ある特定の環境では、マルチタスク及び並列処理は有利であり得る。更に、上述された実装形態における様々なシステム構成要素の分離は、全ての実装形態においてそのような分離を要求するものとして理解されるべきではなく、説明されたプログラム構成要素及びシステムが、一般に単一のソフトウェア製品へと纏めて一体化され得るか、又は複数のソフトウェア製品にパッケージ化され得ることは理解されるべきである。加えて、他の実装は、以下の特許請求の範囲内である。幾つかのケースでは、特許請求の範囲に記載されているアクションは、異なる順序で行われ、それでもなお所望の結果を達成することができる。

Claims (30)

  1. 第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含む画像センサを用いて画像を撮影する方法であって、前記第2のウェルキャパシティは、前記第1のウェルキャパシティよりも大きく、前記方法は、
    前記少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定することと、
    前記少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定することと、ここにおいて、前記第2の積分時間は、前記第1の積分時間とは異なる、
    を備える方法。
  2. 前記少なくとも1つの第1の光感知素子からの少なくとも1つの信号と、前記少なくとも1つの第2の光感知素子からの少なくとも1つの信号に少なくとも部分的に基づいて画像を形成すること
    を更に備える、請求項1に記載の方法。
  3. 画像を形成することは、以下の式に少なくとも部分的に基づいて画像を形成することを備え、
    Figure 2016528848
    ここにおいて、Nは、画素(x,y)に中心があるm×nのウィンドウであるウィンドウW(x,y)内の画素の総数であり、T1は、前記少なくとも1つの第1の光感知素子の読出し値であり、T2は、前記少なくとも1つの第2の光感知素子の読出し値であり、Thdrは、前記合成された画像であり、
    Figure 2016528848
    a及びbは、偏移幅を制御するチューニングパラメータであり、MADは、以下によって定義される局所的な平均絶対誤差値である、
    Figure 2016528848
    請求項2に記載の方法。
  4. 前記画像は、高ダイナミックレンジ画像である、請求項1に記載の方法。
  5. 前記少なくとも1つの第1の光感知素子及び前記少なくとも1つの第2の光感知素子のうちの少なくとも1つは、フォトダイオードである、請求項1に記載の方法。
  6. 前記第2の積分時間は、前記第1の積分時間よりも短い、請求項1に記載の方法。
  7. 前記第1の積分時間及び前記第2の積分時間のうちの少なくとも1つは、照明条件に少なくとも部分的に基づいて決定される、請求項1に記載の方法。
  8. 電子デバイスであって、
    第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含むCMOS可視画像センサと、ここにおいて、前記第2のウェルキャパシティは、前記第1のウェルキャパシティよりも大きい、
    プロセッサと
    を備え、前記プロセッサは、
    前記少なくとも1つの第1の光感知素子の各々に対して使用されるべき第1の積分時間を決定することと、
    前記少なくとも1つの第2の光感知素子の各々に対して使用されるべき第2の積分時間を決定することと、ここにおいて、前記第2の積分時間は、前記第1の積分時間とは異なる、
    を行うように構成される、デバイス。
  9. 前記少なくとも1つの第1の光感知素子及び前記少なくとも1つの第2の光感知素子のうちの少なくとも1つは、フォトダイオードを備える、請求項8に記載のデバイス。
  10. 前記第2の積分時間は、前記第1の積分時間よりも短い、請求項8に記載のデバイス。
  11. 前記プロセッサは、照明条件に少なくとも部分的に基づいて第1の積分時間を決定するように構成される、請求項8に記載のデバイス。
  12. 前記プロセッサは、照明条件に少なくとも部分的に基づいて第2の積分時間を決定するように構成される、請求項8に記載のデバイス。
  13. 前記少なくとも1つの第1の光感知素子及び前記少なくとも1つの第2の光感知素子は、1つ以上のトランジスタを共有する、請求項8に記載のデバイス。
  14. 前記プロセッサは、画像を形成するように更に構成され、前記画像は、前記少なくとも1つの第1のフォトダイオード及び前記少なくとも1つの第2のフォトダイオードのうちの1つ以上からの信号に少なくとも部分的に基づく、請求項8に記載のデバイス。
  15. 画像を形成することは、以下の式に少なくとも部分的に基づいて画像を形成することを備え、
    Figure 2016528848
    ここにおいて、Nは、画素(x,y)に中心があるm×nのウィンドウであるウィンドウW(x,y)内の画素の総数であり、T1は、前記少なくとも1つの第1の光感知素子の読出し値であり、T2は、前記少なくとも1つの第2の光感知素子の読出し値であり、Thdrは、前記合成された画像であり、
    Figure 2016528848
    a及びbは、偏移幅を制御するチューニングパラメータであり、MADは、以下によって定義される局所的な平均絶対誤差値である、
    Figure 2016528848
    請求項14に記載のデバイス。
  16. 前記画像は、高ダイナミックレンジ画像である、請求項14に記載のデバイス。
  17. 電子デバイスであって、
    CMOS可視画像センサに含まれる、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定するための手段と、
    前記CMOS可視画像センサに含まれる、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定するための手段と、ここにおいて、前記第2の積分時間は、前記第1の積分時間とは異なり、前記第2のウェルキャパシティは、前記第1のウェルキャパシティよりも大きい、
    を備える、デバイス。
  18. 前記少なくとも1つの第1の光感知素子からの少なくとも1つの信号と、前記少なくとも1つの第2の光感知素子からの少なくとも1つの信号に少なくとも部分的に基づいて画像を形成するための手段
    を更に備える、請求項17に記載のデバイス。
  19. 画像を形成するための手段は、以下の式に少なくとも部分的に基づいて画像を形成するための手段を備え、
    Figure 2016528848
    ここにおいて、Nは、画素(x,y)に中心があるm×nのウィンドウであるウィンドウW(x,y)内の画素の総数であり、T1は、前記少なくとも1つの第1の光感知素子の読出し値であり、T2は、前記少なくとも1つの第2の光感知素子の読出し値であり、Thdrは、前記合成された画像であり、
    Figure 2016528848
    a及びbは、偏移幅を制御するチューニングパラメータであり、MADは、以下によって定義される局所的な平均絶対誤差値である、
    Figure 2016528848
    請求項18に記載のデバイス。
  20. 前記画像は、高ダイナミックレンジ画像である、請求項17に記載のデバイス。
  21. 前記少なくとも1つの第1の光感知素子及び前記少なくとも1つの第2の光感知素子のうちの少なくとも1つは、フォトダイオードである、請求項17に記載のデバイス。
  22. 前記第2の積分時間は、前記第1の積分時間よりも短い、請求項17に記載のデバイス。
  23. 前記第1の積分時間及び前記第2の積分時間のうちの少なくとも1つは、照明条件に少なくとも部分的に基づいて決定される、請求項17に記載のデバイス。
  24. 命令を備える非一時的コンピュータ可読媒体であって、前記命令は、実行されると、第1のウェルキャパシティを有する少なくとも1つの第1の光感知素子と、第2のウェルキャパシティを有する少なくとも1つの第2の光感知素子とを含むCMOS可視画像センサを使用して画像を撮る方法を行うことをデバイス内のプロセッサに行わせ、前記第2のウェルキャパシティは、前記第1のウェルキャパシティよりも大きく、前記方法は、
    前記少なくとも1つの第1の光感知素子の各々に対して第1の積分時間を決定することと、
    前記少なくとも1つの第2の光感知素子の各々に対して第2の積分時間を決定することと、ここにおいて、前記第2の積分時間は、前記第1の積分時間とは異なる、
    を備える、非一時的コンピュータ可読媒体。
  25. 前記方法は、
    前記少なくとも1つの第1の光感知素子からの少なくとも1つの信号と、前記少なくとも1つの第2の光感知素子からの少なくとも1つの信号とに少なくとも部分的に基づいて画像を形成すること
    を更に備える、請求項24に記載の非一時的コンピュータ可読媒体。
  26. 画像を形成することは、以下の式に少なくとも部分的に基づいて画像を形成することを備え、
    Figure 2016528848
    ここにおいて、Nは、画素(x,y)に中心があるm×のウィンドウであるウィンドウW(x,y)内の画素の総数であり、T1は、前記少なくとも1つの第1の光感知素子の読出し値であり、T2は、前記少なくとも1つの第2の光感知素子の読出し値であり、Thdrは、前記合成された画像であり、
    Figure 2016528848
    a及びbは、偏移幅を制御するチューニングパラメータであり、MADは、以下によって定義される局所的な平均絶対誤差値である、
    Figure 2016528848
    請求項25に記載の非一時的コンピュータ可読媒体。
  27. 前記画像は、高ダイナミックレンジ画像である、請求項24に記載の非一時的コンピュータ可読媒体。
  28. 前記少なくとも1つの第1の光感知素子及び前記少なくとも1つの第2の光感知素子のうちの少なくとも1つは、フォトダイオードである、請求項24に記載の非一時的コンピュータ可読媒体。
  29. 前記第2の積分時間は、前記第1の積分時間よりも短い、請求項24に記載の非一時的コンピュータ可読媒体。
  30. 前記第1の積分時間及び前記第2の積分時間のうちの少なくとも1つは、照明条件に少なくとも部分的に基づいて決定される、請求項24に記載の非一時的コンピュータ可読媒体。
JP2016536293A 2013-08-21 2014-08-11 複数の画像感知素子を用いて画像を撮影するためのシステム及び方法 Pending JP2016528848A (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
US13/972,742 2013-08-21
US13/972,742 US9578223B2 (en) 2013-08-21 2013-08-21 System and method for capturing images with multiple image sensing elements
PCT/US2014/050506 WO2015026550A1 (en) 2013-08-21 2014-08-11 System and method for capturing images with multiple image sensing elements

Publications (2)

Publication Number Publication Date
JP2016528848A true JP2016528848A (ja) 2016-09-15
JP2016528848A5 JP2016528848A5 (ja) 2017-07-06

Family

ID=51429378

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016536293A Pending JP2016528848A (ja) 2013-08-21 2014-08-11 複数の画像感知素子を用いて画像を撮影するためのシステム及び方法

Country Status (6)

Country Link
US (1) US9578223B2 (ja)
EP (1) EP3036894B1 (ja)
JP (1) JP2016528848A (ja)
KR (1) KR101843667B1 (ja)
CN (1) CN105453542B (ja)
WO (1) WO2015026550A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023080197A1 (ja) * 2021-11-05 2023-05-11 ソニーセミコンダクタソリューションズ株式会社 撮像素子、電子機器

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102149453B1 (ko) * 2014-02-21 2020-08-28 삼성전자주식회사 이미지를 획득하기 위한 전자 장치 및 방법
US9521351B1 (en) * 2015-09-21 2016-12-13 Rambus Inc. Fractional-readout oversampled image sensor
US9838628B2 (en) 2016-03-16 2017-12-05 Sony Corporation Detecting quantities beyond sensor saturation
US10057530B2 (en) * 2016-03-16 2018-08-21 BAE Systems Imaging Solutions Inc. High dynamic range imaging sensor array
US10128284B2 (en) 2016-06-23 2018-11-13 Qualcomm Incorporated Multi diode aperture simulation
US10440298B2 (en) * 2016-12-23 2019-10-08 Bae Systems Information And Electronic Systems Integration Inc. Extended dynamic range cis pixel achieving ultra-low noise
CN108419030B (zh) * 2018-03-01 2021-04-20 思特威(上海)电子科技股份有限公司 具有led闪烁衰减的hdr图像传感器像素结构及成像***
US11922639B2 (en) 2018-06-07 2024-03-05 Dolby Laboratories Licensing Corporation HDR image generation from single-shot HDR color image sensors
US10708487B2 (en) 2018-08-28 2020-07-07 Qualcomm Incorporated Image processing for saturated pixels
KR102609559B1 (ko) 2019-04-10 2023-12-04 삼성전자주식회사 공유 픽셀들을 포함하는 이미지 센서
CN110236694B (zh) * 2019-06-04 2021-09-10 广东欧谱曼迪科技有限公司 基于光谱响应特性的同屏近红外双谱荧光成像方法及***
KR20220051052A (ko) 2020-10-16 2022-04-26 삼성전자주식회사 이미지 센서
US20220210353A1 (en) * 2020-12-30 2022-06-30 Semiconductor Components Industries, Llc High dynamic range image sensors
FR3123734A1 (fr) * 2021-06-02 2022-12-09 Université de Bourgogne Procédé de traitement de données de pixels, dispositif et programme correspondant
CN114040132B (zh) * 2021-11-22 2023-11-21 成都微光集电科技有限公司 图像传感器及其曝光时序控制方法、***及介质
CN114900687B (zh) * 2022-05-17 2024-03-05 中国科学院新疆理化技术研究所 一种不同光强对cmos图像传感器像素单元满阱容量影响的仿真方法
CN115866426B (zh) * 2022-11-30 2024-05-03 天津大学 基于横向溢流集成电容的多模式复用像素结构

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011015219A (ja) * 2009-07-02 2011-01-20 Toshiba Corp 固体撮像装置

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6324578B1 (en) 1998-12-14 2001-11-27 International Business Machines Corporation Methods, systems and computer program products for management of configurable application programs on a network
US7489352B2 (en) 2002-11-15 2009-02-10 Micron Technology, Inc. Wide dynamic range pinned photodiode active pixel sensor (APS)
JP4264251B2 (ja) 2002-12-09 2009-05-13 富士フイルム株式会社 固体撮像装置とその動作方法
US7026596B2 (en) 2003-10-30 2006-04-11 Micron Technology, Inc. High-low sensitivity pixel
US7087883B2 (en) * 2004-02-04 2006-08-08 Omnivision Technologies, Inc. CMOS image sensor using shared transistors between pixels with dual pinned photodiode
JP4500574B2 (ja) 2004-03-30 2010-07-14 富士フイルム株式会社 広ダイナミックレンジカラー固体撮像装置及びこの固体撮像装置を搭載したデジタルカメラ
US7616231B2 (en) 2005-01-06 2009-11-10 Goodrich Corporation CMOS active pixel sensor with improved dynamic range and method of operation for object motion detection
US7911518B2 (en) * 2005-02-01 2011-03-22 Samsung Electronics Co., Ltd. Variable exposure for color image sensor
JP4241840B2 (ja) 2006-02-23 2009-03-18 富士フイルム株式会社 撮像装置
US20070285547A1 (en) * 2006-05-30 2007-12-13 Milligan Edward S CMOS image sensor array optimization for both bright and low light conditions
US8059174B2 (en) 2006-05-31 2011-11-15 Ess Technology, Inc. CMOS imager system with interleaved readout for providing an image with increased dynamic range
US8159585B2 (en) 2007-05-01 2012-04-17 Omnivision Technologies, Inc. Image sensor pixel with gain control
EP2009911B1 (en) 2007-06-29 2015-08-26 Omnivision Technologies, Inc. High dynamic range sensor with blooming drain
JP2009055479A (ja) 2007-08-28 2009-03-12 Panasonic Corp イメージセンサ及び電磁波イメージング装置
US8279328B2 (en) * 2009-07-15 2012-10-02 Tower Semiconductor Ltd. CMOS image sensor with wide (intra-scene) dynamic range
US8674282B2 (en) 2011-03-25 2014-03-18 Aptina Imaging Corporation Pumped pinned photodiode pixel array
JP5646421B2 (ja) 2011-09-22 2014-12-24 株式会社東芝 固体撮像装置および固体撮像システム

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011015219A (ja) * 2009-07-02 2011-01-20 Toshiba Corp 固体撮像装置

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023080197A1 (ja) * 2021-11-05 2023-05-11 ソニーセミコンダクタソリューションズ株式会社 撮像素子、電子機器

Also Published As

Publication number Publication date
US9578223B2 (en) 2017-02-21
KR101843667B1 (ko) 2018-03-29
EP3036894A1 (en) 2016-06-29
KR20160045815A (ko) 2016-04-27
CN105453542B (zh) 2019-08-16
EP3036894B1 (en) 2023-01-18
US20150054992A1 (en) 2015-02-26
CN105453542A (zh) 2016-03-30
WO2015026550A1 (en) 2015-02-26

Similar Documents

Publication Publication Date Title
KR101843667B1 (ko) 다수의 이미지 감지 엘리먼트들로 이미지들을 캡쳐하는 시스템 및 방법
JP6267348B2 (ja) 複数の短時間露出を使用してデジタル画像をキャプチャするためのシステムおよび方法
US7978240B2 (en) Enhancing image quality imaging unit and image sensor
JP4928674B2 (ja) 広いダイナミックレンジを達成するための時間インデックス付け方法を用いた多サンプリング方法
TWI382757B (zh) 提供多像素整合週期之方法,裝置以及系統
CN110753192A (zh) 阈值监测的有条件重置的图像传感器
JP2007151069A (ja) 固体撮像装置、固体撮像装置の駆動方法および撮像装置
JP2006080937A (ja) 物理情報取得方法および物理情報取得装置、並びに物理量分布検知の半導体装置、プログラム、および撮像モジュール
US11856301B2 (en) Method and system for extending image dynamic range using per-pixel coding of pixel parameters
WO2011041153A1 (en) Ccd image sensor with variable output gain
JP6578942B2 (ja) 撮像ユニット、電子機器、プログラム、および制御方法
JP2023123474A (ja) 撮像装置
US10056421B2 (en) Imaging device and imaging method
KR20210114290A (ko) 이미지 센서 및 이를 포함하는 촬영 장치
JP7293002B2 (ja) 撮像装置
WO2018124054A1 (ja) 撮像装置及びその制御方法
WO2016203966A1 (ja) 撮像装置、撮像方法、並びにプログラム
US11943543B2 (en) Imaging device

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170523

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170523

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20170523

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20170531

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20170822

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20180313