JP3984936B2 - 撮像装置および撮像方法 - Google Patents

撮像装置および撮像方法 Download PDF

Info

Publication number
JP3984936B2
JP3984936B2 JP2003290167A JP2003290167A JP3984936B2 JP 3984936 B2 JP3984936 B2 JP 3984936B2 JP 2003290167 A JP2003290167 A JP 2003290167A JP 2003290167 A JP2003290167 A JP 2003290167A JP 3984936 B2 JP3984936 B2 JP 3984936B2
Authority
JP
Japan
Prior art keywords
pixel
imaging
detection
signal
defective
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2003290167A
Other languages
English (en)
Other versions
JP2005064697A (ja
Inventor
雄一郎 服部
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2003290167A priority Critical patent/JP3984936B2/ja
Priority to US10/913,853 priority patent/US7375749B2/en
Publication of JP2005064697A publication Critical patent/JP2005064697A/ja
Application granted granted Critical
Publication of JP3984936B2 publication Critical patent/JP3984936B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/403Edge-driven scaling; Edge-based scaling
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/68Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects
    • H04N25/683Noise processing, e.g. detecting, correcting, reducing or removing noise applied to defects by defect estimation performed on the scene signal, e.g. real time or on the fly detection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Color Television Image Signal Generators (AREA)
  • Image Processing (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Studio Devices (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Image Input (AREA)

Description

本発明は、撮像素子を具備する撮像装置に関し、特に撮像中の撮像素子における画素欠陥の補正を行うことができる撮像装置および撮像方法に関するものである。
従来、CCD(Charge Coupled Device)等の固体撮像素子には、正常な画素に対して感度が低い、もしくは著しく暗電流が多いなどのいわゆる欠陥画素が存在する。このような欠陥画素は、固体撮像素子で撮像された画像中の孤立点ノイズとなり画質劣化の原因となる。したがって、固体撮像素子を用いた撮像装置では、画質への悪影響を排除するために欠陥画素の補正が行われている。
従来の欠陥画素の補正方法としては、例えば、以下に示すような2種類の方法が一般的に知られている。
一つ目の補正方法は、撮像装置の工場出荷時に欠陥画素の位置を検出し、撮像装置内に設けられたEEPROM(電気的書き換え可能な読出し専用メモリ)等の不揮発性メモリにその情報を記憶しておき、撮像動作中その情報を元に欠陥画素をその周辺の画素から補間した画素に置き換えることで補正する方法である。
また、二つ目の方法は、撮像動作中に隣接する画素との信号レベル差を元に異常な出力を持つ画素を欠陥画素として検出して、その欠陥画素を周辺の画素から補間した画素に置き換えることで補正する方法である。この二つ目の方法の具体例として、露光時間に応じて増減する白キズに対して適宜補正することのできる電子カメラについて開示されている(例えば、特許文献1参照。)。
特開平11―239298号公報
しかしながら、上記一つ目の補正方法によると、欠陥画素検出時に安定した撮像条件を与えることができるので検出精度が高い反面、想定される欠陥画素の個数分の位置情報を格納するための不揮発性メモリが必要となりコストアップおよび消費電力の増大を招くという問題を有する。
また上記二つ目の補正方法によると、欠陥画素の位置情報を格納する不揮発性メモリが不要になる反面、特に自然画像(複雑な明度差や彩度差のある画像)などを撮像中に欠陥画素の検出を行うと、欠陥画素の検出精度が低くなり、誤検出による補正で画質劣化を伴うという問題を有する。
本発明は、上述した事情を考慮してなされたもので、欠陥画素の位置情報を格納する不揮発性メモリを不要とするとともに、複雑な被写体を撮像中であっても欠陥画素の検出を精度よく行うことのできる撮像装置および撮像方法を提供することを目的とする。
この発明は、上述した課題を解決すべくなされたもので、本発明による撮像装置は、各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つ又は複数の固体撮像素子と、前記撮像信号において欠陥画素の検出の対象となる注目画素の信号レベルと、前記注目画素周辺に位置する複数の周辺画素との信号レベルとの差を基に、前記注目画素が欠陥画素候補であるか否かの検出を行い、検出結果に応じた検出信号を出力する検出手段と、前記検出手段が出力する前記注目画素の前記検出信号が欠陥画素候補であることを示す場合に、前記注目画素の周辺画素の前記検出信号のうち、いずれかの検出信号が欠陥画素候補であることを示しているか否かに基づき、前記注目画素に対する検出信号が誤検出であるか否かを判定する判定手段と、前記周辺画素の組み合わせを制御する制御手段とを具備し、前記判定手段が誤検出でないと判定した前記検出信号により撮像動作中に1つ又は複数の前記固体撮像素子における欠陥画素を検出することを特徴とする。
ここで、撮像信号がアナログ−デジタル変換されているものならば撮像データと呼称してもよい。また、撮像信号をアナログ−デジタル変換する機能は、固体撮像素子内に設けてもよいし、固体撮像素子の外に設けてもよい。
制御手段を有することにより、固体撮像素子における露光時間や撮像装置の使用環境に応じて、固体撮像素子における欠陥画素の数が変化した場合に、これに対応するように、検出信号を参照する周辺画素の組み合わせを制御することができる。
また、本発明による撮像装置の一態様例においては、上記判定手段が誤検出でないと判定した検出信号を基に、注目画素の画素データの替わりに、周辺画素の画素データを基に生成する補正データを用いることで補正を行う補正手段を更に具備することを特徴とする。
これにより、精度良く欠陥画素を検出した検出信号を基に、欠陥画素の補正を行うことができる。すなわち、精度の悪い検出信号を基に欠陥画素の補正を行う場合と比べて画質が向上する。
また、本発明による撮像装置の一態様例においては、上記検出手段において信号レベルの差を求める周辺画素と、判定手段において検出信号を参照する周辺画素とは、周辺画素の数または/および周辺画素と注目画素との位置関係が異なることを特徴とする。
これにより、欠陥画素の検出に適した周辺画素と、エッジ部分を誤検出した検出信号を判定することに適した周辺画素において、その数や注目画素との位置関係が異なる場合には、これに対応することができる。
また、本発明による撮像装置は、各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つまたは複数の固体撮像素子と、撮像信号に基づき欠陥画素候補を検出する検出手段と、検出手段による検出が誤検出であるか否かを、欠陥画素候補とされた注目画素の周辺の領域に含まれる画素のうち、いずれかの画素が欠陥画素候補であるか否に基づき、判定する判定手段と、撮像条件に基づいて領域を変化させる制御手段とを具備することを特徴とする。
また、本発明による撮像装置の一態様例においては、上記撮像条件は、撮像装置の周辺温度を含むことを特徴とする。
これにより、撮像装置の周辺温度が上昇したことにより固体撮像素子の温度も上昇して、欠陥画素の数が増加する現象に対応することができる。
また、本発明による撮像装置の一態様例においては、上記撮像条件は、1つまたは複数の固体撮像素子における露光時間を含むことを特徴とする。
これにより、固体撮像素子における露光時間に応じて欠陥画素の数が増減する現象に対応することができる。
また、本発明による撮像方法は、各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つまたは複数の固体撮像素子を有する撮像装置を用いた撮像方法であって、撮像信号において欠陥画素の検出の対象となる注目画素の信号レベルと、注目画素周辺に位置する複数の周辺画素との信号レベルとの差を基に、注目画素が欠陥画素候補であるか否かの検出を行い、検出結果に応じた検出信号を出力する第1のステップと、第1のステップで出力する注目画素の検出信号が欠陥画素候補であることを示す場合に、注目画素の周辺画素の検出信号のうち、いずれかの検出信号が欠陥画素候補であることを示しているか否かに基づき、前記注目画素に対する検出信号が誤検出であるか否かを判定する第2のステップと、前記第2のステップにおいて前記周辺画素の組み合わせを制御する第3のステップと、第2のステップで誤検出でないと判定した検出信号により撮像動作中に1つまたは複数の固体撮像素子における欠陥画素を検出する第のステップとを有することを特徴とする。
また、本発明による撮像方法は、各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つまたは複数の固体撮像素子を有する撮像装置を用いた撮像方法であって、撮像信号に基づき欠陥画素候補を検出するステップと、検出手段による検出が誤検出であるか否かを、欠陥画素候補とされた注目画素の周辺の領域に含まれる画素のうち、いずれかの画素が欠陥画素候補であるか否に基づき、判定するステップと、撮像条件に基づいて、領域を変化させるステップとを有することを特徴とする。
以上により、本発明による撮像装置および撮像方法は、複雑な被写体を撮像中であっても欠陥画素の誤検出を防ぐことにより欠陥画素の検出を精度よく行うことができる。
以下、本発明の実施形態について説明する。
(第1の実施形態)
図1は、本発明の第1の実施形態における単板撮像装置の概略構成を示す図である。図1において、被写体からの入射光は結像光学系101により撮像素子102の撮像面上に結像される。撮像素子102の各画素にはカラー撮像のために色フィルタが貼られている。また、撮像素子102とは例えばCCDであり、撮像素子102の各画素は、被写体の輝度に応じて光電変換する。本実施形態において、色フィルタとは、例えば図3に示すようにRGB(赤、緑、青)の3色の色フィルタが周期的に配列されたものである。尚、色フィルタの配列形態は、この限りではなく、補色のみや補色と原色の組み合わせなど種々の色を組み合わせた種々の配列形態であって好適である。
撮像素子102は不図示のタイミング発生回路及びドライブ回路により駆動制御され、被写体の輝度に応じた撮像信号を出力する。撮像素子102が出力する撮像信号は、AFE(アナログフロントエンド)回路103によりアナログ信号処理及びAD(アナログ−デジタル)変換されて撮像データSINとして出力される。AFE回路103が出力する撮像データSINは、欠陥画素検出回路104及び欠陥画素補正回路107に供給される。
次に、欠陥画素検出回路104は、撮像動作中に撮像データSINより欠陥画素を検出して検出信号DETを出力する回路であり、その構成及び動作の詳細については後述する。また、制御CPU106は、欠陥画素検出回路104に対して欠陥画素検出のための閾値THを供給する。また、欠陥画素検出回路104が出力する検出信号DETは、エッジ部判定回路105に供給される。また、エッジ部判定回路105は供給された検出信号DETの2次元的な分布状態から、検出信号DETが欠陥画素を検出したものであるか否かの判定を行い、判定信号DEFを出力する。このエッジ部判定回路105は、画像のエッジ部分などを欠陥画素と誤検出することを防ぎ、誤った欠陥画素補正による画質劣化を防止するために設けられたものであり、その構成及び動作の詳細については後述する。
また、欠陥画素補正回路107は、エッジ部判定回路105が出力する判定信号DEFで欠陥画素であると判定されている欠陥画素に対して、欠陥画素補正処理を行い、補正後の撮像データSOUTを出力する。具体的には、欠陥画素補正回路107は、欠陥画素の周辺の画素の平均値を求めて欠陥画素の画素値に置き換えることで補正を行う。欠陥画素補正された撮像データSOUTは、カメラ信号処理回路108において、輪郭補正、色補正、γ補正等の各種信号処理が施された後に画像信号として端子109より出力される。以上に示す構成により、本実施形態の撮像装置は、撮像動作中に誤検出を防ぎながら精度よく欠陥画素の検出を行い、検出した欠陥画素の補正を行うことができる。
次に、欠陥画素検出回路104の構成例を図に示して説明する。図2は、図1に示した欠陥画素検出回路104の構成例を示したブロック図である。図2において、201〜204は入力される撮像データSINの各々1画素を遅延する1画素遅延手段である。図2に示すように、1画素遅延手段201〜204において入出力される画素データをそれぞれX3,Y2,X2,Y1,X1とする。撮像素子102の画素には、図3に示したように水平走査方向に2色の色フィルタが交互に貼ってあるので、画素データ(X1,X2,X3)と画素データ(Y1,Y2)はそれぞれ同じ色フィルタの画素データである。図2に示した各画素データの撮像素子102上での2次元的な配列イメージを図4に示す。図4に示すように、画素データX2が欠陥検出の対象となる注目画素とすると、1画素遅延手段201〜204における注目画素の前後の画素データX1、X3は、撮像素子102上では注目画素の左右に配列される同じ色フィルタの画素である。
すなわち、1画素遅延手段201〜204により、欠陥画素検出を行う注目画素データX2とその左右に位置する同じ色の画素データX1およびX3が同時化される。同時化された3画素データのうちX1とX3は、平均化回路205に供給されて、2つの画素データの平均値が算出される。この平均値と画素データX2は、差分演算回路206に供給され、平均値と画素データX2の差分の絶対値である差分絶対値が計算される。
次に、差分演算回路206が計算した差分絶対値は、比較回路207に供給され、閾値THとの大小比較が行われる。比較回路207の出力信号である検出信号DETは、上記差分絶対値が閾値THより大きい場合に真となり、閾値THより小さい場合には偽となる。以上説明したように、欠陥画素検出回路104では注目画素とその左右の同色の色フィルタを有する2画素の平均値を比較することで、特異点として存在する欠陥画素を検出しようとするものである。尚、特異点である欠陥画素を検出する方法は、上述した限りではなく、色フィルタの配列状態などに応じて種々の検出方法を利用して好適である。
しかしながら、上述した検出方法では、欠陥画素である特異点を検出するだけではなく、撮影画像にエッジ(急峻な輝度変化)が含まれている場合も欠陥画素として誤検出されてしまう。欠陥画素として誤検出されるエッジの輝度変化例について図を用いて説明する。図5は、欠陥画素として誤検出されるエッジの輝度変化例を示す図である。図5に示すように、画素X1と注目画素X2の輝度変化が急峻であり、注目画素X2がエッジ上に存在している。この場合に、以下の式1が成り立つと欠陥画素検出回路104は誤検出を行い検出信号DETは真となってしまう。
|L1−(L0+L1)/2| > TH … 式1
このようにエッジ上に注目画素X2が存在する場合に、検出信号DETを欠陥画素補正回路107に入力すると、注目画素X2を欠陥画素として補正してしまい、画質劣化の要因となる。そこで、本実施形態においては、欠陥画素とエッジ部の判別を行うために、検出信号DETはエッジ部判定回路105に供給する。これにより、エッジ部分でないと判定された場合には、判定信号DEFが真と出力される。
次に、図1に示したエッジ部判定回路105の回路構成例について説明する。
図6は、図1に示したエッジ部判定回路105の回路構成例を示す図である。図6に示すように、エッジ部判定回路105は、撮像素子102の水平方向1ライン分の遅延を行う1ライン遅延手段601、602及び1画素遅延手段603〜608とエッジ判定部609により構成されている。欠陥画素検出回路104より入力される検出信号DETは、1ライン遅延手段601の入力端子と、1画素遅延手段603の入力端子と、エッジ判定部609の入力端子D9に接続されている。また、1画素遅延手段603の出力端子は、エッジ判定部609の入力端子D8と1画素遅延手段604の入力端子に接続されている。また、1ライン遅延手段601の出力は1画素遅延手段605およびエッジ判定部609の入力端子D6および1ライン遅延手段602の入力端子に接続されている。また、1画素遅延手段605の出力は、1画素遅延手段606の入力端子と、エッジ判定部609の入力端子D5に接続されている。1画素遅延手段604、606、608の出力は、各々がエッジ判定部609の入力端子D7、D4、D1に接続されている。また、1ライン遅延手段の出力は、エッジ判定部609の入力端子D3と、1画素遅延手段607の入力端子に接続されている。
以上の1ライン遅延手段601、602及び1画素遅延手段603〜608の構成により、図7に示す撮像素子102上の3×3の画素配列となる画素データD1〜D9が同時化されて、エッジ判定部609の入力端子D1〜D9に入力される。これにより、エッジ判定部609は、図7においてエッジ判定の注目画素である画素データD5に対して隣接する画素データD1、D2、D3、D4、D6、D7、D8、D9の8画素について、いずれかの検出信号DETが真である場合には、画素データD5は欠陥画素ではなくエッジ部であると判定し、判定信号DEFは偽となる。また、上記8画素のいずれも検出信号DETが偽である場合には、画素データD5は孤立点である可能性が高いので、判定信号DEFは真となる。つまりエッジ部は輝度差が2次元的に連続していると仮定して、検出信号DETが2次元的に連続して真となっている場合には、エッジ部を誤検出したものであると判断する。以上に説明したように、エッジ部判定回路105は、欠陥画素検出回路104が欠陥画素として検出した検出信号DETに対して、2次元的に検出状況を判断してエッジ部の誤検出であるか否かを判定することで、エッジ部の誤検出を含まない検出信号であると判定した判定信号DEFを出力する。
次に、図1に示した欠陥画素補正回路107の回路構成例について説明する。
図8は、図1に示した欠陥画素補正回路107の回路構成例を示す図である。図8において、遅延調整回路801は、AFE回路103より供給される撮像データSINに対して、欠陥画素補正を行う注目画素とエッジ部判定回路105が出力する判定信号DEFとの位相が合うように遅延調整する。次に、1画素遅延手段802〜805は、遅延調整された撮像データより隣接する同じ色フィルタの3画素(X1,X2,X3)を同時化する。これにより、平均化回路806は、画素データX1、X3の平均値AVを算出する。同時に、切替回路807は、判定信号DEFに基づき、注目画素X2が欠陥画素である場合には平均値AVを補正後の撮像データSOUTとして出力し、欠陥画素でない場合には画素信号X2を撮像データSOUTとして出力する。
以上に示したように、欠陥画素補正回路107は、エッジ部判定回路105が出力するエッジ部の誤検出を含まない欠陥画素の検出信号となる判定信号DEFに応じて、欠陥画素の補正を行う。尚、本実施形態においては、欠陥画素の前後2画素のデータを平均して補正データを求めたが、この限りではなく、色フィルタの配列などに応じて任意の周辺の画素データを用いて任意の演算により補正データを求めて好適である。
上述したように、第1の実施形態における撮像装置は、撮像データを利用して欠陥画素の検出を行う際に、画像のエッジ部を欠陥画素として誤検出することを防ぎ、精度のよい欠陥画素の検出を行うことができる。これにより、欠陥画素を誤検出した検出信号を基に補正することによる画質の劣化を防ぐことができる。また、従来のように不揮発性メモリに欠陥画素情報を予め格納する場合に比べて、不揮発性メモリを必要としないので、その分のコストを節約することができる。更に、不揮発性メモリに欠陥画素情報を格納する方式だと、経時劣化による新たな欠陥画素や、固体撮像素子における露光時間に応じて欠陥画素の数が増減する現象や、使用環境(特に温度)による欠陥画素の増加などには対応できないが、本実施形態における撮像装置は、十分に対応することができる。
(第2の実施形態)
次に、上述した第1の実施形態の撮像装置とエッジ部の判定処理が異なる第2の実施形態における撮像装置について説明する。図9は、第2の実施形態における撮像装置の概略構成を示す図である。図9において上述した図1と同一の符号101,102,103,104,107,108,109を付与されているものは、同一の機能を有するものであるので説明を省略する。すなわち、第2の実施形態における撮像装置は、第1の実施形態における撮像装置と、制御CPU901およびエッジ部判定回路902を具備する点で異なる。
図9に示すように、制御CPU901は、上述した閾値THを出力する点は第1の実施形態における制御CPU106と同様であるが、エッジ部判定回路902に対してエッジ部判定処理を制御する判定モード制御信号DMを更に出力する点で異なる。また、エッジ部判定回路902は、制御CPU901より供給される判定モード制御信号DMに基づき、エッジ部判定の処理モードを切り替えて、検出信号DETに対するエッジ部による誤検出であるか否かの判定を行う。
次に、図9に示したエッジ部判定回路902の回路構成例について説明する。
図10は、図9に示したエッジ部判定回路902の回路構成例を示す図である。図10において上述した図6と同一の符号601〜608を付与されているものは、同一の機能を有するものであるので説明を省略する。すなわち、図10に示すエッジ部判定回路902は、図1に示したエッジ部判定回路105とエッジ判定部1009を備える点で異なる。
このエッジ判定部1009は、エッジ部判定時の周辺画素の参照方法により複数の処理モードを有し、その処理モードの選択は判定モード制御信号DMにより制御される。以下に、判定モード制御信号DMに応じて周辺画素の参照方法を制御する具体例について図を用いて説明する。図11(a)〜(d)は、エッジ部判定回路1009における判定モード制御信号DMに応じて周辺画素の参照方法を制御する具体例を示す図である。図11(a)〜(d)に示すように、エッジ部判定回路1009は、判定モード制御信号DMに応じて4種類ある周辺画素の参照方法(以下、参照方法a〜dとする)のいずれかを選択して実行する。すなわち、制御CPU901より供給される判定モード制御信号DMは、参照方法a〜dのいずれかを指定する信号である。尚、本実施形態では、参照方法a〜dに図11(a)〜(d)に示す参照方法が対応するとする。
図11(a)は、第1の実施形態での周辺画素の参照方法と同様に注目画素に隣接する8画素全てを参照し、いずれかの画素で検出信号DETが真となった場合には、注目画素に対する欠陥検出をエッジ部の誤検出と判定する。図11(b)は、斜め方向に隣接する4画素(D1,D3,D7,D9)のみを参照し、4画素のうちいずれかの画素で検出結果が真となった場合に注目画素をエッジと判定する。図11(c)は、上下に隣接する2画素(D2,D8)のみを参照し、図11(d)では全く参照しない。
以上に示したように、エッジ部判定回路902は、制御CPU901より供給される判定モード制御信号DMに応じた周辺画素の参照方法を用いて、注目画素に対する欠陥検出がエッジ部の誤検出であるか否かを判定する。尚、周辺画素の参照方法は、上述した限りではなく、色フィルタの配列や、撮像素子102内における注目画素の位置などに応じて所望の参照方法でよい。これにより、撮像素子102の温度上昇や、長時間露光などにより欠陥画素の発生数が増加した場合は、欠陥画素が2次元的に連続して分布する可能性が高くなるため、参照画素を少なくすることで欠陥画素の検出能力が向上するという効果が得られる。一方、参照する周辺画素を少なくすると、エッジ部の誤検出による画質劣化の確率も高くなるため、撮像素子102の温度や露光時間の条件に応じて適切な参照方法となるよう制御CPU901が判定モード制御信号DMを出力する必要がある。
ここで、欠陥検出の信頼性を更に高める他の実施形態について説明する。
まず、図1には示していないが、揮発性のメモリまたはレジスタなどに、撮影中に検出した欠陥画素の位置情報を数フレーム分格納する。これにより、全てのフレーム(または所定数以上のフレーム)で同じ位置に欠陥画素が検出されていれば、その欠陥画素の位置情報は信頼性の高い位置情報であると言える。この位置情報に応じて過去に検出した欠陥画素の検出信号(以下、第2の検出信号とする)を出力してこれを基に欠陥画素補正回路107が補正を行う。または、第2の検出信号と判定信号DEFを比較して両者が真の場合にのみ欠陥画素補正回路107が補正を行ってもよい。これにより、欠陥画素の誤検出を更に防ぐことができる。尚、数フレーム分格納される欠陥画素の位置情報は、任意のタイミングで更新すればよい。また、撮影中に検出した欠陥画素の位置情報は、カウンタなどでタイミング基準信号(水平同期信号など)の変化点から判定信号DEFの変化点までのカウント数を計ることで得られる。また、位置情報を基にした第2の検出信号も、カウンタのカウント値と位置情報のカウント数が一致した場合に真となる回路より出力することができる。
尚、上述した実施形態においては、撮像素子102を1つのみ有する単板撮像装置であったが、この限りではなく、撮像素子を3つ(2つ以上)有する撮像装置であってもよい。また、上述した実施形態においては色フィルタを有する撮像素子102を示したが、この限りではなく、白黒映像を撮影するための色フィルタなしの撮像素子であっても、本発明を適用することができる。また、撮像素子としては、上述したCCD以外にもCMOSセンサなどが利用可能である。
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
本発明の第1の実施形態における単板撮像装置の概略構成を示す図である。 図1に示した欠陥画素検出回路104の構成例を示したブロック図である。 撮像素子102における色フィルタの配列例を示す図である。 図2に示した各画素データの撮像素子102上での2次元的な配列イメージを示す図である。 欠陥画素として誤検出されるエッジの輝度変化例を示す図である。 図1に示したエッジ部判定回路105の回路構成例を示す図である。 エッジ部判定回路105がエッジ判定に利用する周辺画素および注目画素の撮像素子102上の画素配列を示す図である。 図1に示した欠陥画素補正回路107の回路構成例を示す図である。 第2の実施形態における撮像装置の概略構成を示す図である。 図9に示したエッジ部判定回路902の回路構成例を示す図である。 エッジ部判定回路1009における判定モード制御信号DMに応じて周辺画素の参照方法を制御する具体例を示す図である。
符号の説明
101 結像光学系
102 撮像素子
103 AFE(アナログフロントエンド)回路
104 欠陥画素検出回路
105、902 エッジ部判定回路
106、901 制御CPU
107 欠陥画素補正回路
108 カメラ信号処理回路
609、1009 エッジ判定部

Claims (9)

  1. 各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つ又は複数の固体撮像素子と、
    前記撮像信号において欠陥画素の検出の対象となる注目画素の信号レベルと、前記注目画素周辺に位置する複数の周辺画素との信号レベルとの差を基に、前記注目画素が欠陥画素候補であるか否かの検出を行い、検出結果に応じた検出信号を出力する検出手段と、
    前記検出手段が出力する前記注目画素の前記検出信号が欠陥画素候補であることを示す場合に、前記注目画素の周辺画素の前記検出信号のうち、いずれかの検出信号が欠陥画素候補であることを示しているか否かに基づき、前記注目画素に対する検出信号が誤検出であるか否かを判定する判定手段と
    前記周辺画素の組み合わせを制御する制御手段と
    を具備し、
    前記判定手段が誤検出でないと判定した前記検出信号により撮像動作中に1つ又は複数の前記固体撮像素子における欠陥画素を検出すること
    を特徴とする撮像装置。
  2. 前記判定手段が誤検出でないと判定した前記検出信号を基に、前記注目画素の画素データの替わりに、前記周辺画素の画素データを基に生成する補正データを用いることで補正を行う補正手段を更に具備することを特徴とする請求項1に記載の撮像装置。
  3. 前記検出手段において信号レベルの差を求める前記周辺画素と、前記判定手段において前記検出信号を参照する前記周辺画素とは、周辺画素の数又は及び周辺画素と前記注目画素との位置関係が異なることを特徴とする請求項1又は請求項2に記載の撮像装置。
  4. 各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つ又は複数の固体撮像素子と、
    前記撮像信号に基づき欠陥画素候補を検出する検出手段と、
    前記検出手段による検出が誤検出であるか否かを、前記欠陥画素候補とされた注目画素の周辺の領域に含まれる画素のうち、いずれかの画素が欠陥画素候補であるか否に基づき、判定する判定手段と、
    撮像条件に基づいて、前記領域を変化させる制御手段と、
    を具備することを特徴とする撮像装置。
  5. 前記判定手段が誤検出でないと判定した前記注目画素の画素データの替わりに、前記注目画素の周辺画素の画素データを基に生成する補正データを用いることで補正を行う補正手段を更に具備することを特徴とする請求項4に記載の撮像装置。
  6. 前記撮像条件は、前記撮像装置の周辺温度を含むことを特徴とする請求項4又は5に記載の撮像装置。
  7. 前記撮像条件は、1つ又は複数の前記固体撮像素子における露光時間を含むことを特徴とする請求項又はに記載の撮像装置。
  8. 各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つ又は複数の固体撮像素子を有する撮像装置を用いた撮像方法であって、
    前記撮像信号において欠陥画素の検出の対象となる注目画素の信号レベルと、前記注目画素周辺に位置する複数の周辺画素との信号レベルとの差を基に、前記注目画素が欠陥画素候補であるか否かの検出を行い、検出結果に応じた検出信号を出力する第1のステップと、
    前記第1のステップで出力する前記注目画素の前記検出信号が欠陥画素候補であることを示す場合に、前記注目画素の周辺画素の前記検出信号のうち、いずれかの検出信号が欠陥画素候補であることを示しているか否かに基づき、前記注目画素に対する検出信号が誤検出であるか否かを判定する第2のステップと、
    前記第2のステップにおいて前記周辺画素の組み合わせを制御する第3のステップと、
    前記第2のステップで誤検出でないと判定した前記検出信号により撮像動作中に1つ又は複数の前記固体撮像素子における欠陥画素を検出する第4のステップと
    を有することを特徴とする撮像方法。
  9. 各画素において被写体の輝度に応じて光電変換することで撮像信号を出力する1つ又は複数の固体撮像素子を有する撮像装置を用いた撮像方法であって、
    前記撮像信号に基づき欠陥画素候補を検出するステップと、
    前記ステップによる検出が誤検出であるか否かを、前記欠陥画素候補とされた注目画素の周辺の領域に含まれる画素のうち、いずれかの画素が欠陥画素候補であるか否に基づき、判定するステップと、
    撮像条件に基づいて、前記領域を変化させるステップと、
    を有することを特徴とする撮像方法。
JP2003290167A 2003-08-08 2003-08-08 撮像装置および撮像方法 Expired - Fee Related JP3984936B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2003290167A JP3984936B2 (ja) 2003-08-08 2003-08-08 撮像装置および撮像方法
US10/913,853 US7375749B2 (en) 2003-08-08 2004-08-06 Method of correcting pixel defect in image sensing element, and image sensing apparatus using the same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003290167A JP3984936B2 (ja) 2003-08-08 2003-08-08 撮像装置および撮像方法

Publications (2)

Publication Number Publication Date
JP2005064697A JP2005064697A (ja) 2005-03-10
JP3984936B2 true JP3984936B2 (ja) 2007-10-03

Family

ID=34114119

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003290167A Expired - Fee Related JP3984936B2 (ja) 2003-08-08 2003-08-08 撮像装置および撮像方法

Country Status (2)

Country Link
US (1) US7375749B2 (ja)
JP (1) JP3984936B2 (ja)

Families Citing this family (56)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8471852B1 (en) 2003-05-30 2013-06-25 Nvidia Corporation Method and system for tessellation of subdivision surfaces
US8184923B2 (en) * 2004-04-19 2012-05-22 Semiconductor Energy Laboratory Co., Ltd. Image analysis method, image analysis program, pixel evaluation system having the image analysis method, and pixel evaluation system having the image analysis program
TWI256847B (en) * 2004-08-30 2006-06-11 Via Tech Inc Method and apparatus for dynamically detecting pixel values
JP4709514B2 (ja) * 2004-09-16 2011-06-22 オリンパス株式会社 カプセル型内視鏡システム
JP4591046B2 (ja) * 2004-11-11 2010-12-01 ソニー株式会社 欠陥検出補正回路及び欠陥検出補正方法
KR100690342B1 (ko) 2005-08-08 2007-03-09 엠텍비젼 주식회사 이미지 센서의 불량 화소 판별 방법 및 장치
US8009209B2 (en) 2005-09-30 2011-08-30 Simon Fraser University Methods and apparatus for detecting defects in imaging arrays by image analysis
US8571346B2 (en) 2005-10-26 2013-10-29 Nvidia Corporation Methods and devices for defective pixel detection
US7750956B2 (en) 2005-11-09 2010-07-06 Nvidia Corporation Using a graphics processing unit to correct video and audio data
US8588542B1 (en) 2005-12-13 2013-11-19 Nvidia Corporation Configurable and compact pixel processing apparatus
US8737832B1 (en) 2006-02-10 2014-05-27 Nvidia Corporation Flicker band automated detection system and method
US8630498B2 (en) 2006-03-02 2014-01-14 Sharp Laboratories Of America, Inc. Methods and systems for detecting pictorial regions in digital images
KR100780224B1 (ko) 2006-05-11 2007-11-27 삼성전기주식회사 이미지 센서의 불량 화소 검출 및 복원방법
EP1863272B1 (en) * 2006-05-29 2016-03-23 STMicroelectronics (Research & Development) Limited Correction of defective adjacent pixels in image sensors
US7864365B2 (en) * 2006-06-15 2011-01-04 Sharp Laboratories Of America, Inc. Methods and systems for segmenting a digital image into regions
US8437054B2 (en) 2006-06-15 2013-05-07 Sharp Laboratories Of America, Inc. Methods and systems for identifying regions of substantially uniform color in a digital image
US8594441B1 (en) 2006-09-12 2013-11-26 Nvidia Corporation Compressing image-based data using luminance
US7952646B2 (en) * 2006-12-27 2011-05-31 Intel Corporation Method and apparatus for content adaptive spatial-temporal motion adaptive noise reduction
US8723969B2 (en) 2007-03-20 2014-05-13 Nvidia Corporation Compensating for undesirable camera shakes during video capture
JP4975515B2 (ja) * 2007-05-01 2012-07-11 シャープ株式会社 固体撮像素子の欠陥画素補正装置、固体撮像素子の欠陥画素補正方法、制御プログラム、可読記録媒体、撮像装置および電子情報機器
US8724895B2 (en) 2007-07-23 2014-05-13 Nvidia Corporation Techniques for reducing color artifacts in digital images
US8570634B2 (en) 2007-10-11 2013-10-29 Nvidia Corporation Image processing of an incoming light field using a spatial light modulator
US8780128B2 (en) 2007-12-17 2014-07-15 Nvidia Corporation Contiguously packed data
US9177368B2 (en) 2007-12-17 2015-11-03 Nvidia Corporation Image distortion correction
US8698908B2 (en) 2008-02-11 2014-04-15 Nvidia Corporation Efficient method for reducing noise and blur in a composite still image from a rolling shutter camera
US9379156B2 (en) 2008-04-10 2016-06-28 Nvidia Corporation Per-channel image intensity correction
KR20110008261A (ko) * 2008-04-24 2011-01-26 쓰리엠 이노베이티브 프로퍼티즈 컴파니 웨이블릿 변환을 사용한 핵산 증폭 곡선의 분석
JP5311916B2 (ja) * 2008-07-31 2013-10-09 株式会社エルモ社 撮像装置
US8310570B1 (en) * 2008-10-08 2012-11-13 Marvell International Ltd. Repairing defective pixels
US8373718B2 (en) 2008-12-10 2013-02-12 Nvidia Corporation Method and system for color enhancement with color volume adjustment and variable shift along luminance axis
US8749662B2 (en) 2009-04-16 2014-06-10 Nvidia Corporation System and method for lens shading image correction
JP5169994B2 (ja) * 2009-05-27 2013-03-27 ソニー株式会社 画像処理装置、撮像装置及び画像処理方法
US8259198B2 (en) * 2009-10-20 2012-09-04 Apple Inc. System and method for detecting and correcting defective pixels in an image sensor
US8698918B2 (en) 2009-10-27 2014-04-15 Nvidia Corporation Automatic white balancing for photography
JP5697433B2 (ja) * 2010-12-22 2015-04-08 キヤノン株式会社 画像処理装置及び画像処理方法
JP2013168793A (ja) * 2012-02-15 2013-08-29 Toshiba Corp 画像処理装置
US9105078B2 (en) 2012-05-31 2015-08-11 Apple Inc. Systems and methods for local tone mapping
US9332239B2 (en) 2012-05-31 2016-05-03 Apple Inc. Systems and methods for RGB image processing
US9014504B2 (en) 2012-05-31 2015-04-21 Apple Inc. Systems and methods for highlight recovery in an image signal processor
US8917336B2 (en) 2012-05-31 2014-12-23 Apple Inc. Image signal processing involving geometric distortion correction
US9142012B2 (en) 2012-05-31 2015-09-22 Apple Inc. Systems and methods for chroma noise reduction
US8872946B2 (en) 2012-05-31 2014-10-28 Apple Inc. Systems and methods for raw image processing
US9077943B2 (en) 2012-05-31 2015-07-07 Apple Inc. Local image statistics collection
US8953882B2 (en) 2012-05-31 2015-02-10 Apple Inc. Systems and methods for determining noise statistics of image data
US11089247B2 (en) 2012-05-31 2021-08-10 Apple Inc. Systems and method for reducing fixed pattern noise in image data
US9031319B2 (en) 2012-05-31 2015-05-12 Apple Inc. Systems and methods for luma sharpening
US9025867B2 (en) 2012-05-31 2015-05-05 Apple Inc. Systems and methods for YCC image processing
US8817120B2 (en) 2012-05-31 2014-08-26 Apple Inc. Systems and methods for collecting fixed pattern noise statistics of image data
US9743057B2 (en) 2012-05-31 2017-08-22 Apple Inc. Systems and methods for lens shading correction
US9798698B2 (en) 2012-08-13 2017-10-24 Nvidia Corporation System and method for multi-color dilu preconditioner
US9508318B2 (en) 2012-09-13 2016-11-29 Nvidia Corporation Dynamic color profile management for electronic devices
US9307213B2 (en) 2012-11-05 2016-04-05 Nvidia Corporation Robust selection and weighting for gray patch automatic white balancing
US9418400B2 (en) 2013-06-18 2016-08-16 Nvidia Corporation Method and system for rendering simulated depth-of-field visual effect
US9826208B2 (en) 2013-06-26 2017-11-21 Nvidia Corporation Method and system for generating weights for use in white balancing an image
US9756222B2 (en) 2013-06-26 2017-09-05 Nvidia Corporation Method and system for performing white balancing operations on captured images
EP3189772A4 (en) * 2014-09-03 2018-05-16 Olympus Corporation Endoscope device

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05260386A (ja) * 1992-03-16 1993-10-08 Sony Corp 固体撮像素子の欠陥画素検出回路
JP3216244B2 (ja) 1992-06-29 2001-10-09 ソニー株式会社 固体撮像素子の欠陥補正装置及び固体撮像装置
JP3227815B2 (ja) 1992-07-06 2001-11-12 ソニー株式会社 固体撮像装置
JPH06245148A (ja) 1993-02-17 1994-09-02 Matsushita Electric Ind Co Ltd 画素欠陥補正装置
JPH0723297A (ja) 1993-06-29 1995-01-24 Sony Corp 固体撮像素子の欠陥検出装置
JP3125124B2 (ja) * 1994-06-06 2001-01-15 松下電器産業株式会社 欠陥画素傷補正回路
JP3384209B2 (ja) 1995-10-13 2003-03-10 ソニー株式会社 固体撮像素子の測定方法
JP3785520B2 (ja) * 1997-03-19 2006-06-14 コニカミノルタホールディングス株式会社 電子カメラ
JPH11239298A (ja) 1998-02-19 1999-08-31 Konica Corp 電子カメラ、画素信号補正方法及び記録媒体
JP2003046871A (ja) 2001-08-01 2003-02-14 Olympus Optical Co Ltd 撮像装置
JP4583680B2 (ja) 2001-09-28 2010-11-17 パナソニック株式会社 固体撮像装置
JP4194336B2 (ja) * 2002-07-25 2008-12-10 富士通マイクロエレクトロニクス株式会社 半導体集積回路、欠陥画素補正方法、及び画像プロセッサ

Also Published As

Publication number Publication date
US7375749B2 (en) 2008-05-20
US20050030395A1 (en) 2005-02-10
JP2005064697A (ja) 2005-03-10

Similar Documents

Publication Publication Date Title
JP3984936B2 (ja) 撮像装置および撮像方法
JP4374488B2 (ja) デモザイク処理及び不良ピクセル補正を組み合わせるためのディジタル画像システム及び方法
JP3747909B2 (ja) 画素欠陥検出補正装置及び画素欠陥検出補正方法
JP4388909B2 (ja) 画素欠陥補正装置
US20080278609A1 (en) Imaging apparatus, defective pixel correcting apparatus, processing method in the apparatuses, and program
US7777791B2 (en) Defective pixel correction device
JP5541718B2 (ja) 撮像装置及びその欠陥画素検出方法
JP2005123946A (ja) 欠陥画素検出方法、検出装置および撮像装置
JP2011077825A (ja) 表示装置、表示システム、表示方法及びプログラム
JP3980781B2 (ja) 撮像装置および撮像方法
JP3696069B2 (ja) 固体撮像素子の欠陥画素検出方法および装置
JP4331120B2 (ja) 欠陥画素検出方法
JP4166974B2 (ja) 画素キズ検出・補正装置
JP2011114473A (ja) 画素欠陥補正装置
JP2000217039A (ja) 点欠陥検出方法および点欠陥画素値補正方法
JP2009177436A (ja) 固体撮像装置、信号処理装置、および電子情報機器
JP3331666B2 (ja) 固体撮像装置及び固体撮像装置の欠陥検出補正方法
JP2005318383A (ja) 欠陥画素補正装置及び欠陥画素補正処理方法
JP3990059B2 (ja) 撮像デバイスの欠陥画素補正装置および方法
JP2012124800A (ja) 撮像装置
JP2006100913A (ja) 画像処理装置および画像処理方法
JP4088869B2 (ja) 固体撮像素子の欠陥画素検出装置及び固体撮像装置
JP2004112025A (ja) 固体撮像素子の欠陥画素補正装置
JP2005168057A (ja) 固体撮像素子の画素欠陥補正方法および装置
JP2005318642A (ja) 固体撮像素子の欠陥画素検出方法および装置

Legal Events

Date Code Title Description
A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070109

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070308

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070703

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070709

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120713

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120713

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130713

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees