JP2013211603A - 撮像装置、撮像方法およびプログラム - Google Patents

撮像装置、撮像方法およびプログラム Download PDF

Info

Publication number
JP2013211603A
JP2013211603A JP2012078650A JP2012078650A JP2013211603A JP 2013211603 A JP2013211603 A JP 2013211603A JP 2012078650 A JP2012078650 A JP 2012078650A JP 2012078650 A JP2012078650 A JP 2012078650A JP 2013211603 A JP2013211603 A JP 2013211603A
Authority
JP
Japan
Prior art keywords
pixel
pixels
defective
correction
pixel value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012078650A
Other languages
English (en)
Inventor
Tetsuji Nakaseko
哲司 中世古
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012078650A priority Critical patent/JP2013211603A/ja
Priority to US13/780,478 priority patent/US9160943B2/en
Priority to CN2013100932800A priority patent/CN103369264A/zh
Publication of JP2013211603A publication Critical patent/JP2013211603A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/40Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled
    • H04N25/46Extracting pixel data from image sensors by controlling scanning circuits, e.g. by modifying the number of pixels sampled or to be sampled by combining or binning pixels
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/67Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response
    • H04N25/671Noise processing, e.g. detecting, correcting, reducing or removing noise applied to fixed-pattern noise, e.g. non-uniformity of response for non-uniformity detection or correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Studio Devices (AREA)

Abstract

【課題】画像データの画質を向上させる。
【解決手段】撮像装置は、複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を補正するための補正部を具備するものである。この補正部は、加算画素値を生成した複数の画素に含まれる欠陥画素の数を算出する。そして、補正部は、この算出した欠陥画素の数に基づいて設定される増幅率により加算画素値を増幅し、当該増幅された加算画素値を欠陥画素補正後の加算画素値として出力する。
【選択図】図1

Description

本技術は、撮像装置に関する。詳しくは、画像データを生成する撮像装置および撮像方法ならびに当該方法をコンピュータに実行させるプログラムに関する。
近年、人物等の被写体を撮像して撮像画像を生成し、この生成された撮像画像を記録するデジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)等の撮像装置が普及している。このような撮像装置では、技術の進歩に伴い画素が小型化するとともに画素数が増加している。
画素が小型化すると各画素に1度に入射する光子の量が減少するため、光量不足による画質の劣化や、ダイナミックレンジの減少を引き起こす場合がある。
そこで、複数の画素の画素値を加算して読み出しを行う撮像素子が提案されている(例えば、特許文献1参照)。
特開2010−28423号公報
上述の従来技術では、同一のカラーフィルタが設けられた複数の画素の画素値を加算して読み出しを行うことにより、広いダイナミックレンジを実現することができる。
しかしながら、加算する複数の画素のうちに欠陥画素が含まれている場合には、欠陥画素が生成した不正確な信号と、正常な画素が生成した信号とを加算するため、加算後の画素値が不正確な値になるおそれがある。このような欠陥画素が含まれている場合でも、画質を向上させることが重要である。
本技術はこのような状況に鑑みて生み出されたものであり、画像データの画質を向上させることを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、上記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正部を具備する撮像装置、撮像方法、および、プログラムである。これにより、加算画素値を生成した複数の画素に含まれる欠陥画素の数に応じて加算画素値を増幅することにより欠陥画素補正が行われるという作用をもたらす。
また、この第1の側面において、上記補正部は、受光量に係わらずに上記加算画素値を増加させない黒点画素の数を上記欠陥画素の数として上記増幅率を設定するようにしてもよい。これにより、黒点欠陥画素の数に応じて増幅することにより欠陥画素補正が行われるという作用をもたらす。
また、この第1の側面において、受光量に係わらずに上記加算画素値を増加させる白点画素の上記光電変換の結果を上記加算画素値に加算しない撮像素子をさらに具備し、上記補正部は、上記白点画素を上記黒点画素とみなして上記欠陥画素の数を算出するようにしてもよい。これにより、加算画素値に加算されないように無効化された白点欠陥画素が黒点欠陥画素とみなされて欠陥画素の数が算出されるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、上記白点画素の上記光電変換の結果が上記加算画素値に加算されるのを阻止するためのヒューズが各画素に設けられており、上記白点画素の上記ヒューズは切断されているようにしてもよい。これにより、白点欠陥画素のヒューズが切断されることにより、白点欠陥画素の信号の加算が防止されるという作用をもたらす。
また、この第1の側面において、上記撮像素子は、上記白点画素の上記光電変換の結果が上記加算画素値に加算されるのを阻止するための論理ゲートが各画素に設けられており、上記白点画素の上記論理ゲートは非導通状態にされているようにしてもよい。これにより、白点欠陥画素の論理ゲートが非導通状態にされることにより、白点欠陥画素の信号の加算が防止されるという作用をもたらす。
また、この第1の側面において、欠陥画素の画素値をこの欠陥画素に近接する画素の画素値に基づいて生成し、当該生成された画素値を補正後の画素値として出力する第2補正部をさらに具備し、上記複数の画素が全て欠陥画素の場合には、上記補正部による補正の代わりに上記第2補正部による補正が行われるようにしてもよい。これにより、複数の画素が全て欠陥画素の場合には、欠陥画素の画素値を近接する画素の画素値に基づいて生成する補正が行われるという作用をもたらす。
また、この第1の側面において、上記増幅率は、上記複数の画素に対する上記欠陥画素の割合の増加に応じて増加するようにしてもよい。これにより、複数の画素に対する欠陥画素の割合の増加に応じて増加する増幅率が設定されるという作用をもたらす。
また、この第1の側面において、上記補正部は、上記複数の画素のうちの正常な画素の数を示す正常画素数を上記複数の画素の数および上記欠陥画素の数に基づいて算出し、当該算出された正常画素数と上記複数の画素の数との比に基づく値を上記増幅率として設定するようにしてもよい。これにより、正常画素数と複数の画素の数との比に基づいて増幅率が設定されるという作用をもたらす。
本技術によれば、画像データの画質を向上させることができるという優れた効果を奏し得る。
本技術の実施の形態における撮像装置100の機能構成の一例を示すブロック図である。 本技術の実施の形態の撮像素子200の基本構成例の一例を示す概念図である。 本技術の実施の形態の撮像素子200におけるカラーフィルタの配置の一例を模式的に示す図である。 本技術の実施の形態の撮像素子200から信号を読み出す際の2つの読み出し方法(全画素読み出しおよび加算読み出し)を模式的に示す図である。 本技術の実施の形態のFDを共有する2×2画素(FD共有4画素300)の回路構成の一例を示す模式図である。 本技術の実施の形態においてヒューズが切断された画素を含むFD共有4画素300における電荷の読み出しを模式的に示す図である。 本技術の実施の形態においてヒューズが切断された画素を含むFD共有4画素300が生成した加算画素値の加算読み出し用欠陥画素補正部130による補正を模式的に示す図である。 本技術の実施の形態におけるゲイン調整部131による欠陥画素補正と、他の撮像装置における欠陥画素補正とを模式的に示す図である。 本技術の実施の形態におけるゲイン調整部131による欠陥画素補正の補正結果と、他の撮像装置における欠陥画素補正の補正結果とを模式的に示す図である。 本技術の実施の形態における撮像装置100による撮像処理が行われる際の処理手順例を示すフローチャートである。 本技術の実施の形態における欠陥画素補正処理(ステップS910)の処理手順例を示すフローチャートである。 本技術の実施の形態における欠陥画素の検出および欠陥画素のヒューズの切断を模式的に示す図である。 本技術の実施の形態における撮像装置100の欠陥画素の検出および無効化の際の処理手順例を示すフローチャートである。 本技術の実施の形態の第1の変形例として、2×2画素内に、1つのR画素と、1つのB画素と、2つのG画素とが配置されるベイヤー配列のカラーフィルタが設けられている撮像素子での実施例を模式的に示す図である。 本技術の実施の形態の第2の変形例として、ヒューズの代わりに論理ゲートが設けられている撮像素子を模式的に示す図である。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.本技術の実施の形態(撮像制御:欠陥画素の数に応じて画素値を増幅して欠陥画素補正を行う例)
2.変形例
<1.本技術の実施の形態>
[撮像装置の機能構成例]
図1は、本技術の実施の形態における撮像装置100の機能構成の一例を示すブロック図である。
なお、撮像装置100における画像の信号処理に着目して説明するため、図1では、撮像装置100における画像の信号処理以外に関する構成(例えば、レンズ、フラッシュ等)を省略して説明する。
撮像装置100は、被写体を撮像して画像データ(撮像画像)を生成し、生成された画像データを画像コンテンツ(静止画コンテンツまたは動画コンテンツ)として記録する撮像装置である。この撮像装置100は、撮像素子からの信号の読み出しにおいて、1画素ずつ信号を読み出すモード(全画素読み出しモード)と、複数の画素の信号を加算して1つの信号にして複数の画素ずつ信号を読み出すモード(加算読み出しモード)とを備えている。
撮像装置100は、撮像素子200と、信号処理部120と、欠陥画素アドレス情報保持部160と、記録部171と、表示部172と、操作受付部181と、制御部182とを備える。
操作受付部181は、ユーザからの操作を受け付けるものである。この操作受付部181は、例えば、シャッターボタン(図示せず)が押下された場合には、その押下に関する信号を、操作信号として制御部182に供給する。また、操作受付部181は、撮像素子からの信号の読み出しモードがユーザにより選択された場合には、その選択に関する信号を制御部182に供給する。
制御部182は、撮像装置100における各部動作を制御するものである。なお、図1では、主要な信号線のみを示し、他は省略する。例えば、この制御部182は、シャッターボタンが押下されて、静止画像の記録を開始するための操作信号を受け付けた場合には、静止画像の記録実行に関する信号を、撮像素子200に供給する。
また、制御部182は、全画素読み出しモードおよび加算読み出しモードのうちのどちらで信号を読み出して画像を生成するかを示す信号を、撮像素子200および信号処理部120に供給する。
撮像素子200は、受光した被写体光を電気信号に光電変換するイメージセンサである。この撮像素子200は、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサやCCD(Charge Coupled Device)センサなどにより実現される。なお、本技術の実施の形態では、CMOSセンサが撮像素子200である例について説明する。この撮像素子200では、欠陥画素から出力される信号が略最小値となるように欠陥画素が無効化(黒欠陥化)される。なお、欠陥画素の無効化については、図12および図13を参照して説明するため、ここでの説明を省略する。
なお、撮像素子200は、本技術の実施の形態においては、複数の画素の信号を加算して1つの信号にして複数の画素ずつ信号を読み出すことが可能なセンサにより実現されることを想定して説明する。なお、撮像素子200については、図2を参照して説明するため、ここでの詳細な説明を省略する。
撮像素子200は、生成した信号(画素値)を、信号処理部120に供給する。
欠陥画素アドレス情報保持部160は、撮像素子200に配置されている画素のうちの欠陥画素の位置を示す情報(欠陥画素アドレス情報)を保持するものである。なお、欠陥画素アドレス情報保持部160は、CMOSイメージセンサ(撮像素子200)に設けられたメモリや、撮像装置100に設けられたメモリにより実現することができる。この欠陥画素アドレス情報保持部160は、欠陥画素アドレス情報を信号処理部120に供給する。
信号処理部120は、撮像素子200から供給された画素値に対して種々の信号処理を行うものである。なお、本技術の実施の形態では、撮像素子200に配置されている画素に含まれる欠陥画素が生成した信号の補正(以下では、この補正を、欠陥画素補正と称する)に着目して信号処理部120の内部構成を示す。信号処理部120は、加算読み出し用欠陥画素補正部130と、全画素読み出し用欠陥画素補正部121と、画像処理部122とを備える。
加算読み出し用欠陥画素補正部130は、加算読み出しにより生成された画素値の欠陥画素補正を行うものである。この加算読み出し用欠陥画素補正部130は、欠陥画素カウント部132と、ゲイン調整部131とを備える。なお、加算読み出し用欠陥画素補正部130は、特許請求の範囲に記載の補正部の一例である。
欠陥画素カウント部132は、撮像素子200から供給された画素値であって、加算読み出しにより生成された画素値(以降では、加算画素値と称する)を生成した複数の画素のうちに含まれている欠陥画素の数をカウントする。この欠陥画素カウント部132は、撮像素子200から供給された加算画素値ごとに欠陥画素の数をカウントする。この欠陥画素カウント部132は、カウント結果(欠陥画素数)を、ゲイン調整部131に供給する。
また、欠陥画素カウント部132は、加算画素値を生成した複数の画素が全て欠陥画素である場合には、そのことを通知する信号を全画素読み出し用欠陥画素補正部121に供給する。
ゲイン調整部131は、撮像素子200から供給された加算画素値と、欠陥画素カウント部132から供給されたその加算画素値に係る欠陥画素数とに基づいて、この加算画素値に対する欠陥画素補正を行うものである。このゲイン調整部131は、欠陥画素数に応じたゲイン(増幅倍率)を用いて加算画素値を増幅することにより欠陥画素補正を行う。なお、このゲイン調整部131が行う欠陥画素補正については、図7を参照して説明するため、ここでの説明を省略する。ゲイン調整部131は、欠陥画素補正後の加算画素値を、画像処理部122へ供給する。
全画素読み出し用欠陥画素補正部121は、全画素読み出しにより読み出された画素値の欠陥画素補正を行うものである。なお、全画素読み出しにより読み出された画素値の補正方法は既知の補正方法を用いることができる。なお、本技術の実施の形態では、全画素読み出し用欠陥画素補正部121は、近接する同色の画素により生成された画素値を用いて新たに画素値を生成することを想定して説明する。
また、全画素読み出し用欠陥画素補正部121は、加算画素値を生成した画素が全て欠陥画素であることが欠陥画素カウント部132から通知された場合には、その加算画素値に近接する同色の画素が生成した加算画素値を用いて新たに画素値を生成して欠陥画素補正を行う。
全画素読み出し用欠陥画素補正部121は、欠陥画素補正後の画素値を、画像処理部122へ供給する。なお、全画素読み出し用欠陥画素補正部121は、特許請求の範囲に記載の第2補正部の一例である。
画像処理部122は、欠陥画素補正が行われた画素値に種々の画像処理を施して、表示や記録に用いる画像を生成するものである。この画像処理部122は、例えば、ホワイトバランスの補正、ガンマ補正、黒レベル補正および画像圧縮などの信号処理を行う。画像処理部122は、信号処理をした画像信号を、画像データとして記録部171および表示部172に供給する。
記録部171は、画像処理部122から供給された記録画像データを画像コンテンツ(画像ファイル)として記録するものである。例えば、この記録部171として、DVD(Digital Versatile Disk)等のディスクやメモリカード等の半導体メモリ等のリムーバブルな記録媒体(1または複数の記録媒体)を用いることができる。また、これらの記録媒体は、撮像装置100に内蔵するようにしてもよく、撮像装置100から着脱可能とするようにしてもよい。
表示部172は、画像処理部122から供給された画像を表示するものである。表示部172は、例えば、モニタ画像(ライブビュー画像)や、撮像装置100の各種機能の設定画面などを表示する。この表示部172は、例えば、カラー液晶パネルにより実現される。
次に、撮像素子200について図2を参照して説明する。
[撮像素子の構成例]
図2は、本技術の実施の形態の撮像素子200の基本構成例の一例を示す概念図である。
なお、図2では、n×m画素(実施の形態では2×2画素)に同一のカラーフィルタを設け、このn×m画素の信号(光電変換の結果)を加算して読み出すことができる撮像素子の例を示す。なお、加算方法としては、浮遊拡散層(フローティングディフュージョン:FD:Floating-Diffusion(以下は、FDと称する))において加算する方法(FD加算)、垂直信号線において加算する方法(SF(ソースフォロア)加算)、AD(Analog Digital)変換された画素の信号を加算してから読み出す方法などの方法がある。どの方法においても、複数の画素のそれぞれの光電変換の結果が加算されるため本技術の実施の形態は実現できるが、図2では、FD加算を行うことができる撮像素子を説明する。
撮像素子200は、画素アレイ部210と、行走査回路220と、タイミング制御回路230と、列走査回路240と、カラム処理部250と、出力回路260とを備える。
画素アレイ部210は、2次元マトリックス状に配置された複数の画素(画素310)を備える。なお、図2に示す画素アレイ部210では、複数の画素310のうちの一部が示されている。画素アレイ部210における画素310は、2(行)×2(列)画素で1つのFDを共有する。画素アレイ部210では、FDを共有する2×2画素を示す枠(FD共有4画素300)が示されている。画素アレイ部210では、FD共有により2列の画素ごとに1つのFDが設けられるため、画素において生じた信号を伝送するための線(垂直信号線391)は、2列の画素ごとに1本設けられる。
なお、全画素読み出しを行う場合には、2列の画素を同時に読み出すことができないため、1行からの読み出しを2回に分けて行われる。このため、各画素のフォトダイオードにおいて発生した電子をFDに転送させるための線(電荷転送線)は、1行の画素に対して2本設けられる(電荷転送線381乃至384)。これにより、FDを共有する2列の画素のうち、右側の列の画素と、左側の列の画素とを別々に駆動することができる。
また、図2には、FDの電位をリセットするための信号をFDに供給するための線や、FDにおける電位に基づいて発生した信号を垂直信号線に流すための信号をFDに供給するための線をまとめて図示した線(信号線371)が示されている。なお、各信号線と画素との関係については、FD共有4画素300の回路構成の説明とともに示すため、ここでの説明を省略する。なお、各画素の回路構成は、FD共有4画素300の回路構成として図5を参照して説明するためここでの説明を省略する。
行走査回路220は、各画素に信号を供給し、順次垂直方向(列方向)に行単位で画素310を選択走査するものである。行走査回路220により行単位で選択走査が行われることにより、画素からの信号が行単位で出力される。
なお、行走査回路220は、全画素読み出しの場合には、1行の画素に対して2本設けられる電荷転送線(例えば、電荷転送線381と382)における信号の供給タイミングをずらし、FDを共有する2列の画素を別々に駆動して信号を読み出す。そして、その駆動の後に次の行の選択走査を行う。
また、行走査回路220は、加算読み出しの場合には、FDを共有する2行の画素を同時に駆動するために、2行単位で選択走査を行う。また、加算読み出しの場合には、FDを共有する2列の画素を同時に駆動するために、1行の画素に対して2本設けられる電荷転送線(例えば、電荷転送線381と382)における信号の供給タイミングを同時にする。すなわち、電荷転送線381乃至384における信号の供給タイミングが同時になる。これにより、2×2画素の信号がFDにおいて加算され、この加算された信号が読み出される。
タイミング制御回路230は、行走査回路220および列走査回路240に対して、画像信号生成処理に関するタイミングを制御するものである。タイミングを制御するため、タイミング制御回路230は、撮像素子200における各部が動作するための各種のタイミング信号を生成するためのタイミングジェネレータとして機能する。
このタイミング制御回路230は、例えば、撮像素子200の外部(例えば、図1の制御部182)から加算読み出しで画像の生成を開始するための信号が供給された場合には、加算読み出しの動作を撮像素子200の各部に行わせる。
カラム処理部250は、画素アレイ部210から出力されるアナログ信号に対して各種の信号処理を行うものである。例えば、カラム処理部250は、信号処理として、ノイズを除去するためのCDS(Correlated Double Sampling;相関二重サンプリング)処理、アナログの信号をデジタル化するためのAD(Analog Digital)変換処理などを行う。なお、これらの信号処理を行う回路は、垂直信号線ごと(2列の画素ごと)に設けられる。なお、図2では、この回路として、AD変換処理を行う回路(ADC251)が示されている。
列走査回路240は、カラム処理部250における列ごと(2列の画素ごと)の回路部分を順番に選択走査するものである。この列走査回路240は、例えば、シフトレジスタやアドレスデコーダなどによって構成される。列走査回路240は、例えば、カラム処理部250における列ごとの回路部分(図2ではADC251)を順番に選択走査することにより、カラム処理部250において生成された信号(画素値)を出力回路260に出力させる。
出力回路260は、撮像素子200が生成した信号を外部の回路に出力するものである。この出力回路260は、撮像素子200が生成した信号を外部の回路が受信できる形にフォーマットし、このフォーマットを行ったデータを出力する。
次に、各画素に設けられるカラーフィルタの配置について、図3を参照して説明する。
[カラーフィルタの配置例]
図3は、本技術の実施の形態の撮像素子200におけるカラーフィルタの配置の一例を模式的に示す図である。
撮像素子200における各画素には、赤色(R)の光を透過するカラーフィルタ(Rフィルタ)、緑色(G)の光を透過するカラーフィルタ(Gフィルタ)、および、青色(B)の光を透過するカラーフィルタ(Bフィルタ)のいずれかが設けられる。画素アレイ部210では、1つのFDを共有する2×2画素で同一のカラーフィルタが設けられる。また、2×2画素を1つのフィルタとして捉えた場合に、カラーフィルタの配置がベイヤー配列となるように設けられる。
図3では、Rフィルタにより赤色の光を受光する画素(R画素)が、右上から左下へ引いた斜線を付した矩形(R画素311)により表され、Gフィルタにより緑色の光を受光する画素(G画素)が、灰色を付した矩形(G画素312)により表されている。また、Bフィルタにより青色の光を受光する画素(B画素)が、クロス斜線を付した矩形(B画素313)により表されている。また、図3では、FDを共有する2×2画素(FD共有4画素)を示す枠(FD共有4画素300)が示されている。
図3に示すように、画素アレイ部210では、R画素およびG画素が2列ごとに交互に配置される2行と、G画素およびB画素が2列ごとに交互に配置される2行とが交互に配置される。
次に、撮像素子200から信号を読み出す際の2つの読み出し方法(全画素読み出しおよび加算読み出し)について、図4を参照して説明する。
[信号の読み出し例]
図4は、本技術の実施の形態の撮像素子200から信号を読み出す際の2つの読み出し方法(全画素読み出しおよび加算読み出し)を模式的に示す図である。
図4(a)には、4行×4列の画素(FD共有4画素で4つ)が示され、図4(b)には、この4行×4列の画素から加算読み出しにより読み出された信号(加算画素値)が模式的に示されている。また、図4(c)には、4行×4列の画素から全画素読み出しにより読み出された信号(画素値)が模式的に示されている。
図4(b)に示すように、加算読み出しの場合には、FDを共有する複数の画素の出力で1つの画素値(加算画素値)が生成される。このため、図4(b)には、4つのFD共有4画素から生成された4個の加算画素値が模式的に示されている。
なお、図4(c)に示すように、全画素読み出しを行った場合には、1画素から1つの画素値が生成される。このため、図4(c)には、4行×4列の画素(計16個)から生成された16個の画素値が模式的に示されている。
図4に示すように、4画素でFDを共有して加算読み出しを行った場合には、撮像素子200に設けられている画素と生成される画素値との関係は4対1の関係となる。一方、全画素読み出しを行った場合には、撮像素子200に設けられている画素と生成される画素値との関係は1対1の関係となる。なお、4画素でFDを共有して加算読み出しを行った場合は、読み出しのデータ量が垂直および水平の両方向で半分となる。ここで、出力回路からの出力が高速である場合には、1行の画素から信号がカラム処理部250に同時に読み出されるため、列が1/2になっても速度にあまり影響しない。一方、垂直方向の数である読み出される行の数が半分になることにより、行の切り替え回数が半分になり、読み出しを高速化することができる。
すなわち、4画素でFDを共有して加算読み出しを行うことにより、FDを共有しないで1画素ずつFDを備える撮像素子と比較して、フレームレートが約1/2となり、高速化することが可能である。このように、画素加算を実施した後にカラム処理部250でAD変換(ADC)を実施する方式では、フレームレート高速化のメリットがある。
なお、図4に示すように、n×m画素で加算する方法は、見た目の画素サイズを大きく見せる有効な手法の一つである。近年、画素サイズは、一眼レフカメラ向けなどの高級機種を除くと微細化が進んでいる。このように、画素サイズを小さくするとともに全体の画素数を多くするのが近年のトレンドとなっている。
しかしながら、1画素あたりのサイズが小さくなると、同一の露光時間で受光できる光量が減少するため、画質が悪くなる。その対策の一つとして複数画素の加算処理などが行われている。
次に、FD共有4画素の回路構成について図5を参照して説明する。
[FD共有4画素の回路構成例]
図5は、本技術の実施の形態のFDを共有する2×2画素(FD共有4画素300)の回路構成の一例を示す模式図である。
FD共有4画素300は、FDを共有する4画素により構成され、4つのフォトダイオード(PD(Photo Diode)331乃至334)と、4つの転送トランジスタ(転送トランジスタ341乃至344)とを備える。また、FD共有4画素300は、4つのヒューズ321乃至324と、リセットトランジスタ351と、アンプトランジスタ352と、選択トランジスタ353とを備える。
FD共有4画素300において、PD331は、そのアノード端子が接地され、カソード端子が転送トランジスタ341のソース端子に接続される。なお、PD332乃至333も同様に、アノード端子が接地され、それぞれのカソード端子が転送トランジスタ342乃至344のソース端子にそれぞれ接続される。
転送トランジスタ341は、そのゲート端子がヒューズ321の一方の端子に接続され、そのドレイン端子がフローティングディフュージョン(FD354)を介してリセットトランジスタ351のソース端子とアンプトランジスタ352のゲート端子とに接続される。なお、転送トランジスタ342乃至344も同様に、ゲート端子がヒューズ322乃至324の一方の端子にそれぞれ接続され、ドレイン端子がフローティングディフュージョン(FD354)を介してリセットトランジスタ351のソース端子とアンプトランジスタ352のゲート端子とに接続される。そして、ヒューズ321乃至324は、他方の端子が電荷転送線381乃至384にそれぞれ接続される。
また、リセットトランジスタ351は、そのゲート端子が画素リセット線373に接続され、そのドレイン端子が電源線359とアンプトランジスタ352のドレイン端子とに接続される。また、アンプトランジスタ352のソース端子が選択トランジスタ353のドレイン端子に接続され、選択トランジスタ353のゲート端子が選択線372に接続される。また、選択トランジスタ353のソース端子が垂直信号線391に接続される。
PD331乃至334は、光の強度に応じて電荷を発生させる光電変換素子である。
転送トランジスタ341乃至344は、行走査回路220からの信号(転送パルス)に従って、それぞれが接続されるPD(PD331乃至334)において発生した電荷をFD354に転送するものである。転送トランジスタ341乃至344は、例えば、電荷転送線(電荷転送線381乃至384)から信号(パルス)が供給されると導通状態となり、それぞれが接続されるPD(PD331乃至334)において発生した電子をFD354に転送する。なお、転送トランジスタ341乃至344と電荷転送線(電荷転送線381乃至384)との間には、ヒューズ321乃至324がそれぞれ設けられており、ヒューズが切断されている場合には、PDにおいて発生した電子をFD354に転送することができなくなる。
ヒューズ321乃至324は、それぞれが接続されている転送トランジスタ(転送トランジスタ341乃至344)を無効化するためのものである。本技術の実施の形態では、撮像素子200の製造段階において欠陥が検出された画素(欠陥画素)において生じた電荷をFDへ転送させないために用いられる。ヒューズ321乃至324は、撮像素子を使用する前の段階(例えば、製造過程や、最初の電源投入時)において、欠陥が認められた画素の転送トランジスタのゲート端子に接続されているものが切断される。なお、欠陥画素の検出およびヒューズの切断については、図12および図13を参照して説明するため、ここでの説明を省略する。
リセットトランジスタ351は、行走査回路220からの信号(リセットパルス)に従って、FD354の電位をリセットするためのものである。リセットトランジスタ351は、行走査回路220からリセットパルスがゲート端子に供給されると導通状態となり、FD354から電源線359に電流が流れ、FD354の電位がリセットされる。
アンプトランジスタ352は、FD354の電位を増幅するものである。アンプトランジスタ352は、選択トランジスタ353が導通状態の場合には、その増幅された電位に応じた信号(出力信号)を垂直信号線391に出力する。
選択トランジスタ353は、アンプトランジスタ352が出力した信号を垂直信号線391に出力するためのものである。例えば、選択トランジスタ353は、行走査回路220から信号(選択パルス)がゲート端子に供給されると導通状態となり、アンプトランジスタ352が出力した出力信号が垂直信号線391に出力される。
次に、ヒューズが切断された画素と電荷の読み出しとの関係について、図6を参照して説明する。
[ヒューズが切断された画素と電荷の読み出しとの関係の一例]
図6は、本技術の実施の形態においてヒューズが切断された画素を含むFD共有4画素300における電荷の読み出しを模式的に示す図である。
なお、図6では、図5において示したFD共有4画素300のうちのPD331が欠陥画素であり、ヒューズ321が切断されていることを想定して説明する。
このように、ヒューズ321が切断されている場合には、電荷転送線381における電位の遷移が転送トランジスタ341に伝わらない。これにより、転送トランジスタ341が常に非導通状態となり、欠陥が検出された画素(PD331)において発生した電荷がFD354へ転送されなくなる。一方、正常な画素(PD332乃至334)において発生した電荷はFD354へ転送される(図中の矢印411乃至413参照)。
次に、図6のように欠陥画素のヒューズが切断されている状態において加算読み出しにより読み出された画素値の補正について、図7を参照して説明する。
[欠陥画素の画素値の補正の一例]
図7は、本技術の実施の形態においてヒューズが切断された画素を含むFD共有4画素300が生成した加算画素値の加算読み出し用欠陥画素補正部130による補正を模式的に示す図である。
図7(a)には、FDを共有する4画素(FD共有4画素300)に欠陥画素がない場合の加算画素値の補正が示され、図7(b)には、FD共有4画素300に1つの欠陥画素が含まれる場合が示されている。また、図7(c)には、FD共有4画素300に2つの欠陥画素が含まれる場合が示され、図7(d)には、FD共有4画素300に3つの欠陥画素が含まれる場合が示されている。なお、図7では、画素値の一例を示す数値を矩形の中に示す。また、欠陥画素の画素値は、黒色を付した矩形により示す。
ここでは、正常画素は「5」の値に相当する電荷をFDに転送し、欠陥画素は電荷をFDに転送しない(「0」)こととする。
まず、欠陥画素がない場合について説明する。図7(a)に示すように、欠陥画素がない場合には、4つの画素がそれぞれ生成した電荷(「5」)を総和した値の加算画素値(「20」)が撮像素子200により生成される。欠陥画素カウント部132は、欠陥画素アドレス情報からこの加算画素値を生成した4つの画素における欠陥の情報を取り出し、この加算画素値を生成した4画素のうちの欠陥画素の数(欠陥画素数)を算出する。そして、「0」の値の欠陥画素数が算出され、この欠陥画素数がゲイン調整部131に供給される。ゲイン調整部131では、「0」の値から補正の必要がないと判断し、撮像素子200から供給された加算画素値(「20」)に対して等倍(「×1」)のゲイン処理(増幅処理)をする。そして、処理後の加算画素値(「20」)が画像処理部122へ出力される。
また、1つの欠陥画素が含まれる場合には、図7(b)に示すように、正常な3つの画素がそれぞれ生成した電荷(「5」)を総和した値の加算画素値(「15」)が撮像素子200により生成される。欠陥画素カウント部132は、「1」の値の欠陥画素数をゲイン調整部131に供給する。ゲイン調整部131では、「1」の値から補正の必要ありと判断し、撮像素子200から供給された加算画素値(「15)に対して「×4/3」のゲイン処理をする。そして、処理後の加算画素値(「20」)が画像処理部122へ出力される。
なお、2つの欠陥画素が含まれる場合には、図7(c)に示すように、「10」の値の加算画素値が撮像素子200により生成され、「2」の値の欠陥画素数に基づいて「×2(4/2)」のゲイン処理が行われる。そして、処理後の加算画素値(「20」)が出力される。
また、3つの欠陥画素が含まれる場合には、図7(d)に示すように、「5」の値の加算画素値が撮像素子200により生成され、「3」の値の欠陥画素数に基づいて「×4(4/1)」のゲイン処理が行われる。そして、処理後の加算画素値(「20」)が出力される。
このように、加算読み出しにより生成された加算画素値が、その加算画素値を生成した複数の画素のうちの欠陥画素の割合に応じて補正される。なお、ゲイン調整部131によるこの補正は、例えば、次の式1により表される。
Phd'(Add)=Phd(Add)×N/(N−C) ・・・式1
ここで、Phd(Add)は、加算読み出しにより生成される画素値(加算画素値)であり、Phd'(Add)は、ゲイン処理後の加算画素値である。また、Nは、加算した画素の総数(2×2=4)であり、Cは、この加算画素値を生成した画素に含まれる欠陥画素の数である。
ここで、加算読み出しを行う場合における欠陥画素と信号強度(加算画素値)との関係について、いくつかの式を用いながら説明する。
欠陥画素がない場合(図7(a))には、加算読み出しにより生成される加算画素値(Phd(Add))は、次の式2となる。
Phd(Add)=Phd(UL)+Phd(UR)+Phd(DL)+Phd(DR) ・・・式2
ここで、Phd(UL)は、FDを共有する4画素のうちの左上の画素が生成した電荷に応じた値の信号(画素値)である。また、Phd(UR)はFDを共有する4画素のうちの右上の画素が生成した電荷に応じた値の信号(画素値)であり、Phd(DL)は左下の画素生成した電荷に応じた値の画素値であり、Phd(DR)は右下の画素生成した電荷に応じた値の画素値である。
ここで、左上の画素のみが黒点欠陥であることを想定(図7(b))し、この場合におけるPhd(Add)の値について説明する。なお、黒点欠陥とは、画素の欠陥により出力される画素データの値がデジタル出力として略最小値となるものを示す。すなわち、黒点欠陥の画素は、画素が受光した光の量に係わらずに略最小値となる信号(電荷)を生成する画素である。
この左上の画素が黒点欠陥である場合には、Phd(UL)=0であるため、加算読み出しにより生成される加算画素値(Phd(Add))は、次の式3となる。
Phd(Add)=Phd(UR)+Phd(DL)+Phd(DR)・・・式3
この式3に示すように、黒点欠陥は電荷を生じないことから、加算画素値Phd(Add)は、正常な画素の画素値の総和となる。
なお、同色のカラーフィルタが設けられている隣接する2×2画素において加算が行われるため、これらの4画素において生じる電荷のレベルは略同じであると考えられる。このため、FDを共有する4画素のうちの1つの画素に黒点欠陥がある場合の加算画素値は、欠陥がない場合の3/4程度の出力値となると考えることができる。
すなわち、隣接する2x2画素を同一のカラーフィルタとするイメージャデバイスでの4画素加算読み出しでは、黒点欠陥は以下のように補正することで欠陥補正が可能となる。
・1画素欠陥がある場合は、読み出しデータを4/3倍する
・2画素欠陥がある場合は、読み出しデータを2倍する
・3画素欠陥がある場合は、読み出しデータを4倍する
このように、加算する画素に黒点欠陥画素が含まれる場合には、黒点欠陥画素の数に応じて信号(加算画素値)を増幅することにより、欠陥画素の補正を行うことができる。
しかしながら、欠陥画素が白点欠陥である場合には、上述の式2が成立しない。ここで、白点欠陥とは、画素の欠陥により出力される画素データの値がデジタル出力として略最大となるものを示す。すなわち、白点欠陥の画素は、画素が受光した光の量に係わらずに所定の強さの信号(電荷)を生成する画素である。
例えば、左上の画素が白点欠陥である場合には、加算読み出しにより生成される加算画素値(Phd(Add))は、次の式4となる。なお、M1は、最大値を表す。
Phd(Add)=M1+Phd(UR)+Phd(DL)+Phd(DR)
・・・式4
ここで、M1はデジタル出力の最大値であるため、式4は、次の式5により表すことができる。
Phd(Add)=M1 ・・・式5
このように、加算読み出しにより生成される加算画素値に白点欠陥において生じた信号が含まれる場合には、黒点欠陥が含まれる場合の補正方法では正しく補正することできない。そこで、本技術の実施の形態では、白点欠陥画素のヒューズを切断することにより転送トランジスタを無効化(黒欠陥化)し、白点欠陥画素の信号が加算されない状態にする。これにより、白点欠陥画素が黒点欠陥画素と同様になり、欠陥画素の数に応じて信号(加算画素値)を増幅する欠陥画素補正を白点欠陥画素に対しても行うことができる。
次に、他の撮像装置における加算読み出しでの欠陥画素補正と、ゲイン調整部131による加算読み出しでの欠陥画素補正との違いについて、図8および図9を参照して説明する。
[効果例]
図8は、本技術の実施の形態におけるゲイン調整部131による欠陥画素補正と、他の撮像装置における欠陥画素補正とを模式的に示す図である。
図8(a)には、他の撮像装置における加算読み出しでの欠陥画素補正が示され、図8(b)には、本技術の実施の形態におけるゲイン調整部131による欠陥画素補正が示されている。なお、図8(b)は、図7(b)と同様のものであるため、ここでの詳細な説明を省略する。
図8(a)では、2(行)×10(列)の画素が生成した画素値と、これらの画素から生成される画素値(加算画素値)と、欠陥画素の補正が行われた画素値(加算画素値)とが示されている。なお、図8(b)では、2(行)×10(列)の画素の画素値として、加算画素値(GR0)として加算される4つのG画素の画素値(G0乃至G3)と、加算画素値(GR1)として加算される4つのG画素の画素値(G4乃至G7)とが示されている。また、加算画素値(GR2)として加算される4つのG画素の画素値(G8乃至G11)と、加算画素値(BR0)として加算される4つのB画素の画素値(B0乃至B3)と、加算画素値(BR1)として加算される4つのB画素の画素値(B4乃至B7)とが示されている。
なお、図8(a)では、G4の画素が欠陥画素であることを想定する。この場合において加算読み出しが行われると、G4の画素の画素値を含んでいる加算後の加算画素値(GR1)も不正確な値となる。他の撮像装置では、不正確な度合いが不明なため、加算画素値に対する欠陥画素補正では、加算画素値(GR1)を生成した画素に近接するG画素により生成された加算画素値に基づいて加算画素値(GR1)を新たに生成する。例えば、図8(a)に示す場合には、次の式6を用いて補正後の加算画素値が生成される。
GR1=(GR0+GR2)/2 ・・・式6
このように、他の撮像装置では、欠陥画素を含む複数の画素から生成された加算画素値を補正する場合には、同色のカラーフィルタが設けられ、さらに欠陥画素を含まない複数の画素から生成された加算画素値を用いて新たに加算画素値を生成する欠陥画素補正を行う。この欠陥画素補正では、欠陥画素を含む複数の画素のうちの正常な画素が生成した信号が無駄になる。また、補正元となる加算画素値を生成した画素(G0乃至3とG8乃至11)と欠陥画素(G4)との間の距離が、正常な画素(G5乃至7)と欠陥画素(G4)との間の距離よりも遠くなるため、補正の精度が低くなる。
これに対し、図8(b)に示すように、ゲイン調整部131による欠陥画素の補正では、欠陥画素の数に応じて加算画素値を増幅することにより欠陥画素を補正するため、欠陥画素に隣接する正常な画素が生成した信号(画素値)が無駄にならない。また、補正元となる画素値を生成した画素の位置が欠陥画素に近いため、補正の精度も高くなる。
図9は、本技術の実施の形態におけるゲイン調整部131による欠陥画素補正の補正結果と、他の撮像装置における欠陥画素補正の補正結果とを模式的に示す図である。
図9(a)には、他の撮像装置における欠陥画素補正の補正結果を示し、図9(b)には、本技術の実施の形態におけるゲイン調整部131による欠陥画素補正の補正結果を示す。なお、図9(a)および(b)では、1マスの矩形が1画素(1画素423)であり、1つの物体(注目被写体422)が撮像されている画像を想定して説明する。
他の撮像装置における欠陥画素補正では、近接する同色画素の画素値を用いて新たに画素値を生成する補正が行われるため、例えば、2画素ほど左右に離れた位置の画素を用いて補正対象の位置の画素値が新たに生成される。この結果、図9(a)の補正後の画素値421に示すように、注目被写体の像が欠けた画像となる場合がある。これにより、画像の再現性が悪化する。
これに対し、図9(b)の補正後の画素値424に示すように、ゲイン調整部131による欠陥画素補正では、補正対象の画素値を欠陥画素の数に応じて増幅する補正を行うことにより、注目被写体の像が正しく映った画像となる。このように、欠陥画素の数に応じて画素値を増幅する補正を行うことにより、補正の精度が向上し、画像の再現性が向上する。
[撮像装置の動作例]
次に、本技術の実施の形態における撮像装置100の動作について図面を参照して説明する。
図10は、本技術の実施の形態における撮像装置100による撮像処理が行われる際の処理手順例を示すフローチャートである。
まず、撮像を開始するか否かが制御部182により判断され(ステップS901)、撮像を開始しないと判断された場合には、撮像を開始するまで待機する。
一方、撮像を開始すると判断された場合には(ステップS901)、欠陥画素アドレス情報が、欠陥画素カウント部132により取得される(ステップS902)。そして、読み出しモード(加算読み出しモードまたは全画素読み出しモード)の設定が制御部182により行われる(ステップS903)。そして、ユーザがシャッターボタンを押下して撮像素子200により被写体が撮像され、その設定された読み出しモードで画像が取得される(ステップS904)。
その後、撮像された画像を構成する画素値のうち欠陥画素が生成した信号を含む画素値を補正する欠陥画素補正処理が行われる(ステップS910)。なお、欠陥画素補正処理(ステップS910)は、図11において説明するため、ここでの説明を省略する。
次に、欠陥画素補正が施された画像データに対して、欠陥画素補正処理以外の信号処理(例えば、ホワイトバランスの補正、ガンマ補正、黒レベル補正)が画像処理部122により行われる(ステップS905)。そして、画像データが記録部171に記録された後に(ステップS906)、撮像を終了するか否かが制御部182により判断され(ステップS907)、撮像を終了しないと判断された場合には、ステップS903に戻る。なお、ステップS907において撮像を終了すると判断された場合(例えば、電源OFF)には、撮像処理手順は終了する。
図11は、本技術の実施の形態における欠陥画素補正処理(ステップS910)の処理手順例を示すフローチャートである。
まず、処理対象の画像を取得した際の読み出しモードが加算読み出しモードであるか否かが、加算読み出し用欠陥画素補正部130および全画素読み出し用欠陥画素補正部121により判断される(ステップS911)。そして、加算読み出しモードでない(全画素読み出しモードである)と判断された場合には(ステップS911)、欠陥画素が生成した画素値が、欠陥画素に近接する同色の画素の生成した画素値に基づいて補正される(ステップS912)。この補正は、全画素読み出し用欠陥画素補正部121により行われ、加算読み出し用欠陥画素補正部130は静止する。そして、ステップS912の後に、欠陥画素補正の処理手順は終了する。
一方、加算読み出しモードであると判断された場合には(ステップS911)、加算読み出し用欠陥画素補正部130による補正処理が行われる。まず、画像を構成する画素値(加算画素値)のうちから、補正を判定する画素値(判定対象画素値)が設定される(ステップS913)。そして、判定対象画素値を生成した複数の画素(FD共有4画素)のうちの欠陥画素の数(欠陥画素数)が、欠陥画素カウント部132により欠陥画素アドレス情報を用いて算出される(ステップS914)。
次に、FD共有4画素が全て正常な画素である(欠陥画素数が0)か否かが、ゲイン調整部131により判断される(ステップS915)。そして、欠陥画素がないと判断された場合には(ステップS915)、撮像された画像を構成する全ての画素値(加算画素値)について補正の判定が終了したか否かが判断される(ステップS919)。ここで、撮像された画像を構成する全ての画素値(加算画素値)について補正の判定が終了していないと判断された場合には(ステップS919)、ステップS913に戻る。
また、ステップS915において、FD共有4画素が全て正常な画素でない(欠陥画素数が1以上)と判断された場合には、FD共有4画素が全て欠陥画素である(欠陥画素数が4)か否かが、判断される(ステップS916)。ここで、FD共有4画素が全て欠陥画素であると判断された場合には(ステップS916)、判定対象画素値が、判定対象画素値を生成した画素に近接する同色の画素(FD共有4画素)の生成した画素値(加算画素値)に基づいて補正される(ステップS917)。このように、FD共有4画素が全て欠陥画素である場合には、加算読み出し用欠陥画素補正部130による補正が行えないため、全画素読み出し用欠陥画素補正部121により補正が行われる。そして、ステップS917の後に、ステップS919に進む。
一方、FD共有4画素の全てが欠陥画素ではない(一部が欠陥画素である)と判断された場合には(ステップS916)、欠陥画素の数に応じて設定されるゲイン(増幅率)により画素値(加算画素値)を増幅する(ステップS918)。これにより、FD共有4画素に含まれる欠陥画素の数に応じて画素値が補正される。そして、ステップS918において欠陥画素の数に応じて画素値を補正した後に、ステップS919に進む。なお、ステップS918は、特許請求の範囲に記載の補正手順の一例である。
なお、ステップS919において、撮像された画像を構成する全ての画素値(加算画素値)について補正の判定が終了したと判断された場合には、欠陥画素補正の処理手順は終了する。
なお、図11では、FD共有4画素が全て欠陥画素であるか否かの判定の手順(ステップS916)と、全て欠陥画素である場合の補正の手順(ステップS917)とを行う例について説明した。しかしながら、これに限定されるものではなく、例えば、4画素が全て欠陥画素であるFD共有4画素が存在する撮像素子を不良品として取り除いて撮像装置を生成する場合には、ステップS916およびステップS917を行わない場合も考えらえる。
ここまでは、撮像装置100における加算読み出しでの欠陥画素補正について説明した。この欠陥画素補正を行うためには、図7において説明したように、白点欠陥画素の信号が加算画素値に加算されないようにする必要がある。このため、製造過程において欠陥画素が検出され、撮像素子を使用する前の段階において、欠陥画素の転送トランジスタのゲート端子に接続されているヒューズが切断される。
次に、欠陥画素の検出および白点欠陥画素のヒューズの切断について、図12および図13を参照して簡単に説明する。
[撮像素子の欠陥検出の一例]
図12は、本技術の実施の形態における欠陥画素の検出および欠陥画素のヒューズの切断を模式的に示す図である。
図12(a)には、欠陥画素を検出する際(欠陥画素検出検査時)の機能構成が模式的に示され、図12(b)には、欠陥画素のヒューズを切断する際(欠陥画素無効化時)の機能構成が模式的に示されている。
なお、図12(a)および(b)では、撮像素子(撮像素子200)については、ヒューズの切断を説明するために、行走査回路(行走査回路220)と画素アレイ部(画素アレイ部210)との間にヒューズ(ヒューズ450)を示す。また、図12(a)では撮像素子200の内部構成として、欠陥画素の検出に係わる内部構成のみを示す。そして、図12(b)では、撮像素子200の内部構成として、白点欠陥画素のヒューズの切断に係わる内部構成のみを示す。
また、図12では、図1において示した欠陥画素アドレス情報保持部160が、撮像素子200に設けられたメモリにより実現されている例を示す。
図12(a)には、撮像素子200と、画素の欠陥を検査するための装置(検査装置440)とが示されている。
ここで、欠陥画素の検出について説明する。欠陥画素を検出する際には、撮像素子200を用いて画像を生成し、この生成された画像が検査装置440に供給される。この段階では、各画素に設けられている全てのヒューズ(ヒューズ450)はまだ切断されていない。すなわち、この段階では、電荷転送線を介した行走査回路からの制御により、全ての画素において電荷の転送が制御されている。
そして、検査装置440における検出部(欠陥画素検出部441)において、供給された画像を用いて欠陥画素が検出される。その後、検出された欠陥画素の位置が欠陥画素アドレス情報保持部160に供給されて、欠陥画素アドレス情報が欠陥画素アドレス情報保持部160に保持される。
図12(b)には、撮像素子200が示されている。なお、撮像素子200には、欠陥画素アドレス情報保持部160に保持されている欠陥画素アドレス情報から欠陥画素の位置を特定するアドレスデコーダ455が示されている。
ここで、欠陥画素のヒューズの切断について説明する。欠陥画素のヒューズを切断する際には、欠陥画素アドレス情報保持部160に保持されている欠陥画素アドレス情報により特定される欠陥画素のヒューズが切断される。
まず、アドレスデコーダ455が欠陥画素アドレス情報に基づいて欠陥画素の位置を特定する。そして、この特定された位置の画素に設けられているヒューズが切断されるように電流が供給される。なお、図12(b)では、ヒューズ450に示されている複数のヒューズ(FUSE)のうち、FUSEn−1が欠陥画素のヒューズであることを想定し、このFUSEn−1に過大な電流が供給されてヒューズが切断された様子が模式的に示されている。
なお、このヒューズの切断の過程を行うタイミングは、欠陥画素の検出検査の段階で行う場合や、撮像装置100を初めて使用する際のセットアップの段階で行う場合などが考えられる。
[欠陥画素の検出および無効化の動作例]
次に、本技術の実施の形態における撮像装置100の欠陥画素の検出および無効化の際の処理手順について説明する。
図13は、本技術の実施の形態における撮像装置100の欠陥画素の検出および無効化の際の処理手順例を示すフローチャートである。
まず、欠陥画素の検出対象の撮像素子を用いて、欠陥画素を検出するための画像(欠陥画素検出用画像)が取得される(ステップS941)。次に、この取得された欠陥画素検出用画像を用いて欠陥画素の位置が欠陥画素検出部441により検出される(ステップS942)。
その後、検出された欠陥画素の位置(アドレス)が、欠陥画素アドレス情報保持部160に保持される(ステップS943)。そして、欠陥画素アドレス情報保持部160に保持された情報(欠陥画素アドレス情報)に基づいて、欠陥画素のヒューズが切断され(ステップS944)。
この図12および図13に示すように、欠陥画素の検出およびヒューズの切断を行うことにより、図7に示す補正方法による欠陥画素補正が白点欠陥画素においても可能となる。
<2.変形例>
本技術の実施の形態では、2×2画素でFD加算されて読み出された画素値(加算画素値)を加算読み出し用欠陥画素補正部130で補正する例について説明した。加算画素値が生成される場合に本技術の実施の形態で示した欠陥画素補正ができるため、2×2画素以外の加算(n×m)における加算でも実施することができる。このように、いくつかの変形例が想定される。そこで、本技術の実施の形態の想定される変形例を説明する。
図14は、本技術の実施の形態の第1の変形例として、2×2画素内に、1つのR画素と、1つのB画素と、2つのG画素とが配置されるベイヤー配列のカラーフィルタが設けられている撮像素子での実施例を模式的に示す図である。
図14(a)には、この撮像素子(撮像素子610)に設けられるカラーフィルタの配置の一例が示されている。なお、このカラーフィルタの配置は、一般的なベイヤー配列のカラーフィルタである。すなわち、R画素(R画素611)とG画素(G画素612)とが交互に配置されている行と、G画素(G画素612)とB画素(B画素613)とが交互に配置されている行とが列方向に交互に配置されている。
図14(b)には、図14(a)に示すベイヤー配列で4画素加算読み出しを行った場合に生成される加算画素値が模式的に示されている。図14(b)に示すように、4×4画素からは、4個の加算画素値が生成される。なお、この4×4画素のうちの4個のR画素から生成された加算画素値の補正について、図14(c)を参照して説明する。
図14(c)には、図14(b)に示すR画素を4画素加算読み出しで読み出した場合における補正が模式的に示されている。なお、図14(c)では、加算読み出しされる4画素のうちの左上の1画素が欠陥画素であり、この欠陥画素のヒューズが切断されていることを想定して説明する。なお、図14(c)に示す図は、図7(b)および図8(c)に対応する。図14(c)に示すように、加算対象の画素の位置が離れている場合においても、白点欠陥画素において生じた信号が加算されないようにすることにより、本技術の実施の形態を実施することができる。
図15は、本技術の実施の形態の第2の変形例として、ヒューズの代わりに論理ゲートが設けられている撮像素子を模式的に示す図である。なお、図15では、図12に対応する模式図を示す。
図15に示す撮像素子では、図12において示したヒューズ450の代わりに、論理ゲート(論理ゲート710)が示されている。このように、転送トランジスタのゲート端子と電荷転送線との間に論理ゲート(例えば、ANDゲート)を設けることにより、信号の読み出しタイミングにおいて、欠陥画素において生じた信号が加算されるのを防ぐことができる。
なお、各画素の論理ゲートに配線する必要があるため配線数が多くなるが、例えば、オートフォーカス用の撮像素子などの画素数が比較的少ない撮像素子では、ヒューズを予め切断する処理を行わずとも、欠陥画素補正を行うことができる。
なお、この論理ゲートを設けた場合には、図13において示したフローチャートにおける欠陥画素のヒューズの切断手順(ステップS944)は行われない。また、図10において示したフローチャートにおける画像の取得の際(ステップS904)には、欠陥画素の論理ゲートが遮断される。それ以外は、本技術の実施の形態の手順例と同様である。
このように、本技術の実施の形態によれば、画素値が加算される複数の画素に含まれる欠陥画素の数を算出し、この欠陥画素の数に応じて加算された画素値(加算画素値)を増幅することにより、加算読み出しでの欠陥画素補正を高精度で行うことができる。すなわち、本技術の実施の形態によれば、欠陥画素の補正の精度の向上により、画像データの画質を向上させることができる。
なお、この補正方法は、加算する複数の画素のうちに正常な画素が含まれていれば補正できるため、連続欠陥画素が存在する場合においても、高精度に補正することが可能となる。また、回路的に簡易に製造できるため、加算読み出しにおける欠陥画素補正の精度を低コストで向上させることができる。
なお、本技術の実施の形態では、撮像素子の製造過程において白点欠陥画素が生じる場合を想定して説明したが、白点欠陥画素が生じない場合(欠陥画素が黒点欠陥画素のみとなるイメージセンサの場合)には、白点欠陥画素を無効化する処理は不要である。
なお、本技術の実施の形態では、画素の欠陥により出力される画素データの値がデジタル出力として略最大となるものを白点欠陥画素として説明したが、これに限定されるものではない。光量と無関係に生じる信号の量が最大以外の欠陥画素についても、画質が劣化するような欠陥画素については、ヒューズを切断するとともに位置情報を欠陥画素アドレス情報保持部160に保持することにより、撮像された画像の画質を向上させることができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、ハードディスク、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
なお、本技術は以下のような構成もとることができる。
(1) 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正部を具備する撮像装置。
(2) 前記補正部は、受光量に係わらずに前記加算画素値を増加させない黒点画素の数を前記欠陥画素の数として前記増幅率を設定する前記(1)に記載の撮像装置。
(3) 受光量に係わらずに前記加算画素値を増加させる白点画素の前記光電変換の結果を前記加算画素値に加算しない撮像素子をさらに具備し、
前記補正部は、前記白点画素を前記黒点画素とみなして前記欠陥画素の数を算出する前記(2)に記載の撮像装置。
(4) 前記撮像素子は、前記白点画素の前記光電変換の結果が前記加算画素値に加算されるのを阻止するためのヒューズが各画素に設けられており、
前記白点画素の前記ヒューズは切断されている
前記(3)に記載の撮像装置。
(5) 前記撮像素子は、前記白点画素の前記光電変換の結果が前記加算画素値に加算されるのを阻止するための論理ゲートが各画素に設けられており、
前記白点画素の前記論理ゲートは非導通状態にされている
前記(3)に記載の撮像装置。
(6) 欠陥画素の画素値をこの欠陥画素に近接する画素の画素値に基づいて生成し、当該生成された画素値を補正後の画素値として出力する第2補正部をさらに具備し、
前記複数の画素が全て欠陥画素の場合には、前記補正部による補正の代わりに前記第2補正部による補正が行われる前記(1)から(5)のいずれかに記載の撮像装置。
(7) 前記増幅率は、前記複数の画素に対する前記欠陥画素の割合の増加に応じて増加する前記(1)から(6)のいずれかに記載の撮像装置。
(8) 前記補正部は、前記複数の画素のうちの正常な画素の数を示す正常画素数を前記複数の画素の数および前記欠陥画素の数に基づいて算出し、当該算出された正常画素数と前記複数の画素の数との比に基づく値を前記増幅率として設定する前記(7)に記載の撮像装置。
(9) 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正手順を具備する撮像方法。
(10) 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正手順をコンピュータに実行させるプログラム。
100 撮像装置
120 信号処理部
121 全画素読み出し用欠陥画素補正部
122 画像処理部
130 加算読み出し用欠陥画素補正部
131 ゲイン調整部
132 欠陥画素カウント部
160 欠陥画素アドレス情報保持部
171 記録部
172 表示部
181 操作受付部
182 制御部
200 撮像素子
210 画素アレイ部
220 行走査回路
230 タイミング制御回路
240 列走査回路
250 カラム処理部
260 出力回路

Claims (10)

  1. 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正部を具備する撮像装置。
  2. 前記補正部は、受光量に係わらずに前記加算画素値を増加させない黒点画素の数を前記欠陥画素の数として前記増幅率を設定する請求項1記載の撮像装置。
  3. 受光量に係わらずに前記加算画素値を増加させる白点画素の前記光電変換の結果を前記加算画素値に加算しない撮像素子をさらに具備し、
    前記補正部は、前記白点画素を前記黒点画素とみなして前記欠陥画素の数を算出する請求項2記載の撮像装置。
  4. 前記撮像素子は、前記白点画素の前記光電変換の結果が前記加算画素値に加算されるのを阻止するためのヒューズが各画素に設けられており、
    前記白点画素の前記ヒューズは切断されている
    請求項3記載の撮像装置。
  5. 前記撮像素子は、前記白点画素の前記光電変換の結果が前記加算画素値に加算されるのを阻止するための論理ゲートが各画素に設けられており、
    前記白点画素の前記論理ゲートは非導通状態にされている
    請求項3記載の撮像装置。
  6. 欠陥画素の画素値をこの欠陥画素に近接する画素の画素値に基づいて生成し、当該生成された画素値を補正後の画素値として出力する第2補正部をさらに具備し、
    前記複数の画素が全て欠陥画素の場合には、前記補正部による補正の代わりに前記第2補正部による補正が行われる請求項1記載の撮像装置。
  7. 前記増幅率は、前記複数の画素に対する前記欠陥画素の割合の増加に応じて増加する請求項1記載の撮像装置。
  8. 前記補正部は、前記複数の画素のうちの正常な画素の数を示す正常画素数を前記複数の画素の数および前記欠陥画素の数に基づいて算出し、当該算出された正常画素数と前記複数の画素の数との比に基づく値を前記増幅率として設定する請求項7記載の撮像装置。
  9. 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正手順を具備する撮像方法。
  10. 複数の画素のそれぞれの光電変換の結果を加算した値である加算画素値を、前記複数の画素に含まれる欠陥画素の数に基づいて設定される増幅率により増幅し、当該増幅された加算画素値を補正後の加算画素値として出力する補正手順をコンピュータに実行させるプログラム。
JP2012078650A 2012-03-30 2012-03-30 撮像装置、撮像方法およびプログラム Pending JP2013211603A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2012078650A JP2013211603A (ja) 2012-03-30 2012-03-30 撮像装置、撮像方法およびプログラム
US13/780,478 US9160943B2 (en) 2012-03-30 2013-02-28 Imaging apparatus, imaging method, and program
CN2013100932800A CN103369264A (zh) 2012-03-30 2013-03-22 成像装置、成像方法、以及程序

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012078650A JP2013211603A (ja) 2012-03-30 2012-03-30 撮像装置、撮像方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2013211603A true JP2013211603A (ja) 2013-10-10

Family

ID=49234484

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012078650A Pending JP2013211603A (ja) 2012-03-30 2012-03-30 撮像装置、撮像方法およびプログラム

Country Status (3)

Country Link
US (1) US9160943B2 (ja)
JP (1) JP2013211603A (ja)
CN (1) CN103369264A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020110676A1 (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6180882B2 (ja) * 2013-10-31 2017-08-16 ソニーセミコンダクタソリューションズ株式会社 固体撮像装置、信号処理装置、および電子機器
WO2015135164A1 (zh) 2014-03-12 2015-09-17 深圳市大疆创新科技有限公司 数码影像的坏点矫正方法和***
US9648261B2 (en) * 2015-08-26 2017-05-09 Apple Inc. Account for clipped pixels in auto-focus statistics collection
CN106507068B (zh) 2016-11-29 2018-05-04 广东欧珀移动通信有限公司 图像处理方法及装置、控制方法及装置、成像及电子装置
CN106604001B (zh) * 2016-11-29 2018-06-29 广东欧珀移动通信有限公司 图像处理方法、图像处理装置、成像装置及电子装置
KR102493488B1 (ko) * 2018-06-15 2023-02-01 삼성디스플레이 주식회사 표시 장치
US11837174B2 (en) 2018-06-15 2023-12-05 Samsung Display Co., Ltd. Display device having a grayscale correction unit utilizing weighting

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW582176B (en) * 2001-07-06 2004-04-01 Hynix Semiconductor Inc Image sensor with defective pixel address storage
DE102006050864B4 (de) * 2005-10-31 2015-08-20 Hitachi Kokusai Electric Inc. Verfahren und Vorrichtung zur Korrektur fehlerhafter Pixel für eine bildgebende Festkörpervorrichtung
JP4661912B2 (ja) 2008-07-18 2011-03-30 ソニー株式会社 固体撮像素子およびカメラシステム
JP5556199B2 (ja) * 2010-01-29 2014-07-23 ソニー株式会社 固体撮像素子及び撮像機器
JP5541718B2 (ja) * 2010-08-19 2014-07-09 キヤノン株式会社 撮像装置及びその欠陥画素検出方法
JP5526014B2 (ja) * 2010-12-21 2014-06-18 株式会社日立製作所 撮像装置

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020110676A1 (ja) * 2018-11-29 2020-06-04 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、および、撮像装置
US11632505B2 (en) 2018-11-29 2023-04-18 Sony Semiconductor Solutions Corporation Solid-state image sensor and imaging device

Also Published As

Publication number Publication date
US20130258145A1 (en) 2013-10-03
US9160943B2 (en) 2015-10-13
CN103369264A (zh) 2013-10-23

Similar Documents

Publication Publication Date Title
US11719908B2 (en) Image sensor and image capturing apparatus
US11493729B2 (en) Image sensor capable of reducing readout time and image capturing apparatus
JP2013211603A (ja) 撮像装置、撮像方法およびプログラム
US9071781B2 (en) Image capturing apparatus and defective pixel detection method
KR101422875B1 (ko) 고체 촬상 장치, 고체 촬상 장치의 구동 방법 및 촬상 장치
JP5614993B2 (ja) 撮像装置及び固体撮像素子の駆動方法
JP4691930B2 (ja) 物理情報取得方法および物理情報取得装置、並びに物理量分布検知の半導体装置、プログラム、および撮像モジュール
JP4821921B2 (ja) 固体撮像装置および電子機器
JP4609092B2 (ja) 物理情報取得方法および物理情報取得装置
WO2014118868A1 (ja) 撮像装置及び固体撮像装置
US20090251556A1 (en) Solid-state imaging device, signal processing method of solid-state imaging device, and electronic apparatus
JP2012090118A (ja) 撮像素子及び撮像装置
JP2007150643A (ja) 固体撮像素子、固体撮像素子の駆動方法および撮像装置
WO2016027397A1 (ja) 固体撮像装置及びカメラ
JP2005348042A (ja) 固体撮像装置及び撮像システム
JP2013145981A (ja) 撮像装置
JP2005348041A (ja) 固体撮像装置および撮像システム
US11716554B2 (en) Solid-state imaging device and method for driving the same, and electronic apparatus
JP2008306565A (ja) 撮像装置及びその信号補正方法
JP4929584B2 (ja) 信号処理方法および信号処理装置並びに物理量分布検知のための半導体装置
JP2012075050A (ja) 固体撮像素子、撮像装置、黒レベル決定方法
JP7294407B2 (ja) 撮像素子、及び、撮像装置
JP5683985B2 (ja) 固体撮像装置および撮像装置
JP5072466B2 (ja) 撮像装置
WO2021192176A1 (ja) 撮像装置