JP2006140768A - 撮像装置、画像処理装置および画像処理プログラム - Google Patents

撮像装置、画像処理装置および画像処理プログラム Download PDF

Info

Publication number
JP2006140768A
JP2006140768A JP2004328580A JP2004328580A JP2006140768A JP 2006140768 A JP2006140768 A JP 2006140768A JP 2004328580 A JP2004328580 A JP 2004328580A JP 2004328580 A JP2004328580 A JP 2004328580A JP 2006140768 A JP2006140768 A JP 2006140768A
Authority
JP
Japan
Prior art keywords
color component
pixel
color
pixel signal
color filter
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004328580A
Other languages
English (en)
Other versions
JP2006140768A5 (ja
JP4407485B2 (ja
Inventor
Hiroshi Sano
央 佐野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2004328580A priority Critical patent/JP4407485B2/ja
Priority to US11/269,625 priority patent/US7843505B2/en
Publication of JP2006140768A publication Critical patent/JP2006140768A/ja
Publication of JP2006140768A5 publication Critical patent/JP2006140768A5/ja
Application granted granted Critical
Publication of JP4407485B2 publication Critical patent/JP4407485B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/843Demosaicing, e.g. interpolating colour pixel values
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • H04N25/11Arrangement of colour filter arrays [CFA]; Filter mosaics
    • H04N25/13Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
    • H04N25/134Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on three different wavelength filter elements
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N2209/00Details of colour television systems
    • H04N2209/04Picture signal generators
    • H04N2209/041Picture signal generators using solid-state devices
    • H04N2209/042Picture signal generators using solid-state devices having a single pick-up sensor
    • H04N2209/044Picture signal generators using solid-state devices having a single pick-up sensor using sequential colour illumination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】被写体像に輝度や色の急激な変化が含まれていても、補間処理における偽色の発生を抑える撮像装置を提供する。
【解決手段】照明装置13の光源として、光の3原色であるB成分、G成分、およびR成分をそれぞれ含むように発光極大波長を分離した3波長光源であるLEDモジュール131を備える。LEDモジュール131の発光極大波長と、撮像素子121の分光感度特性の透過極大波長とを合致させる。分光感度特性の「山」で示される透過域にLEDモジュール131の発光極大波長を3つ含むようにし、撮像信号値が異なる色成分の光の受光信号の和によって表されるようにする。LEDモジュール131の各色成分の発光素子を時分割で点灯させ、各発光素子の点灯タイミングに合わせて撮像素子121でそれぞれ電荷蓄積を行わせる。分光感度特性の「山」に含まれる3つの発光極大波長における感度比と、実際に得られた信号値(注目画素位置に設けられている色フィルタと異なる色成分の撮像信号)とを用いて、注目画素位置において上記異なる色成分の情報を推定する。
【選択図】図2

Description

本発明は、画素ごとに異なる色のフィルタを通して撮影を行う撮像装置、この撮像装置で撮影された画像に対する画像処理装置に関する。
ベイヤー配列のような色配列を有する色フィルタを備える撮像素子から出力される画像信号は、1画素当たりRGBのうちいずれか1つの色成分の情報を有する。すなわち、R色フィルタに対応する画素からはR色の情報が出力され、G色フィルタに対応する画素からはG色の情報が出力され、B色フィルタに対応する画素からはB色の情報が出力される。R色フィルタに対応する画素情報を例にとれば、R成分の情報だけでG成分、B成分の情報がない。このため、画像を構成する全ての画素位置においてRGB全色分の情報を得るために各画素位置において不足する色成分の情報が補間処理によって算出される(特許文献1参照)。
特開2003−287674号公報
特許文献1に記載の補間処理では、注目画素に近接する画素で得られる色成分の情報を参照して注目画素における色成分の情報を生成するので、被写体像の輝度や色が急激に変化する箇所では偽色が発生することがある。
請求項1に記載の発明による撮像装置は、第1の色成分を透過させる第1の色フィルタ、もしくは第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して被写体像を撮像する撮像素子と、被写体が第1の色成分の光で照明された状態で撮像素子に第1の撮像を行わせるとともに、被写体が第2の色成分の光で照明された状態で撮像素子に第2の撮像を行わせる撮像制御手段と、第1の色フィルタ、第2の色フィルタ、第1の色成分の光、および第2の色成分の光のそれぞれの分光特性と、第1の撮像で得られる画素信号および第2の撮像で得られる画素信号とを用いて、各画素位置において共通の色成分の画素信号を有するように第1の色成分もしくは第2の色成分の画素信号を生成する画素信号生成手段とを備えることを特徴とする。
上記撮像装置の画素信号生成手段は、(1)第1の色フィルタによる第1の色成分の透過率と第2の色フィルタによる第1の色成分の透過率との比、および第2の色フィルタが形成される画素から第1の撮像で得られる第1の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第1の画素信号推定手段と、(2)第1の色フィルタによる第2の色成分の透過率と第2の色フィルタによる第2の色成分の透過率との比、および第2の色フィルタが形成される画素から第2の撮像で得られる第2の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第2の画素信号推定手段と、(3)第2の色フィルタによる第1の色成分の透過率と第1の色フィルタによる第1の色成分の透過率との比、および第1の色フィルタが形成される画素から第1の撮像で得られる第1の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第3の画素信号推定手段と、(4)第2の色フィルタによる第2の色成分の透過率と第1の色フィルタによる第2の色成分の透過率との比、および第1の色フィルタが形成される画素から第2の撮像で得られる第2の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第4の画素信号推定手段とを含むことを特徴とする。
撮像装置はさらに、(1)第2の色フィルタが形成される画素について、第1の画素信号推定手段で推定された第1の色成分の画素信号と、第2の画素信号推定手段で推定された第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、(2)第1の色フィルタが形成される画素について、第3の画素信号推定手段で推定された第1の色成分の画素信号と、第4の画素信号推定手段で推定された第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成手段を備えてもよい。
上記第1の色フィルタおよび第2の色フィルタはそれぞれ第1の色成分および第2の色成分を透過し、第2の色フィルタは第1の色成分より第2の色成分の透過率が高く、第1の色フィルタは第2の色成分より第1の色成分の透過率が高くされることを特徴とする。
第1の色成分および第2の色成分は光の3原色を構成してもよい。
請求項6に記載の発明は、第1の色成分を透過させる第1の色フィルタ、もしくは第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して撮像された画像であって、被写体が第1の色成分の光で照明された状態で撮像された第1の画像、および被写体が第2の色成分の光で照明された状態で撮像された第2の画像に対する画像処理を行う画像処理装置に適用される。そして、第1の色フィルタ、第2の色フィルタ、第1の色成分の光、および第2の色成分の光のそれぞれの分光特性と、第1の画像および第2の画像を構成する画素信号とを用いて、各画素位置において共通の色成分の画素信号を有するように第1の色成分もしくは第2の色成分の画素信号を生成する画素信号生成手段を備えることを特徴とする。
上記画像処理装置の画素信号生成手段は、(1)第1の色フィルタによる第1の色成分の透過率と第2の色フィルタによる第1の色成分の透過率との比、および第2の色フィルタが形成される画素に対応する第1の画像の第1の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第1の画素信号推定手段と、(2)第1の色フィルタによる第2の色成分の透過率と第2の色フィルタによる第2の色成分の透過率との比、および第2の色フィルタが形成される画素に対応する第2の画像の第2の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第2の画素信号推定手段と、(3)第2の色フィルタによる第1の色成分の透過率と第1の色フィルタによる第1の色成分の透過率との比、および第1の色フィルタが形成される画素に対応する第1の画像の第1の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第3の画素信号推定手段と、(4)第2の色フィルタによる第2の色成分の透過率と第1の色フィルタによる第2の色成分の透過率との比、および第1の色フィルタが形成される画素に対応する第2の画像の第2の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第4の画素信号推定手段とを含むことを特徴とする。
画像処理装置はさらに、(1)第2の色フィルタが形成される画素について、第1の画素信号推定手段で推定された第1の色成分の画素信号と、第2の画素信号推定手段で推定された第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、(2)第1の色フィルタが形成される画素について、第3の画素信号推定手段で推定された第1の色成分の画素信号と、第4の画素信号推定手段で推定された第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成手段を備えてもよい。
請求項9に記載の発明は、第1の色成分を透過させる第1の色フィルタ、もしくは第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して撮像された画像であって、被写体が第1の色成分の光で照明された状態で撮像された第1の画像、および被写体が第2の色成分の光で照明された状態で撮像された第2の画像に対する画像処理をコンピュータ装置で実行する画像処理プログラムに適用される。そして、(1)第1の色フィルタによる第1の色成分の透過率と第2の色フィルタによる第1の色成分の透過率との比、および第2の色フィルタが形成される画素に対応する第1の画像の第1の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第1の画素信号推定処理と、(2)第1の色フィルタによる第2の色成分の透過率と第2の色フィルタによる第2の色成分の透過率との比、および第2の色フィルタが形成される画素に対応する第2の画像の第2の色成分の画素信号を用いて、当該画素に第1の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第2の画素信号推定処理と、(3)第2の色フィルタによる第1の色成分の透過率と第1の色フィルタによる第1の色成分の透過率との比、および第1の色フィルタが形成される画素に対応する第1の画像の第1の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第1の色成分の画素信号を推定する第3の画素信号推定処理と、(4)第2の色フィルタによる第2の色成分の透過率と第1の色フィルタによる第2の色成分の透過率との比、および第1の色フィルタが形成される画素に対応する第2の画像の第2の色成分の画素信号を用いて、当該画素に第2の色フィルタが形成される場合に得られる第2の色成分の画素信号を推定する第4の画素信号推定処理と、(5)第2の色フィルタが形成される画素について、第1の画素信号推定処理で推定した第1の色成分の画素信号と、第2の画素信号推定処理で推定した第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、第1の色フィルタが形成される画素について、第3の画素信号推定処理で推定した第1の色成分の画素信号と、第4の画素信号推定処理で推定した第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成処理とを含むことを特徴とする。
本発明によれば、色フィルタの第1の色成分および第2の色成分における透過率比と、色フィルタを介して得られる画素信号とを用いて他の色成分の画素信号を推定するようにしたので、近接画素の信号の影響を受けることがなく、画像における輝度や色の急激な変化に起因する偽色の発生を抑えることができる。
以下、図面を参照して本発明を実施するための最良の形態について説明する。図1は、本発明の一実施の形態による一眼レフ電子カメラの外観図である。図1において、電子カメラ本体10に交換可能な撮影レンズ20が装着されている。電子カメラ本体10の被写体側から見て左上部にレリーズボタン11が設けられ、電子カメラ本体10の中央上部にはポップアップ式の照明装置13が配設される。図1は照明装置13が使用位置にポップアップされた状態を示す。ポップアップされた照明装置13は、発光体として備えられている複数のLED(発光ダイオード)モジュール131が被写体方向に向くように構成されている。
図2は、図1の電子カメラ本体10の要部構成を説明するブロック図である。図2において、CPU101はASICなどによって構成される。CPU101は、後述する各ブロックから出力される信号を入力して所定の演算を行い、演算結果に基づく制御信号を各ブロックへ出力する。
撮影レンズ20を通過してカメラ本体10に入射した被写体光束は、撮像素子121へ導かれる。撮像素子121は、CCDイメージセンサなどによって構成される。撮像素子121は被写体光束による像を撮像し、撮像信号をA/D変換回路122へ出力する。A/D変換回路122は、アナログ撮像信号をディジタル信号に変換する。
CPU101は、ディジタル変換後の画像データにホワイトバランス処理などの画像処理を行う他、画像処理後の画像データを所定の形式で圧縮する圧縮処理、圧縮された画像データを伸長する伸長処理なども行う。記録媒体126は、電子カメラ本体10に対して着脱可能なメモリカードなどによって構成される。記録媒体126には、画像処理後の画像データが記録される。
画像再生回路124は、非圧縮の画像データ(圧縮前の画像データもしくは伸長後の画像データ)を用いて再生表示用のデータを生成する。表示装置125は、たとえば、液晶表示モニタなどによって構成され、再生表示用のデータによる画像を表示する。
測距装置102は、撮影レンズ20による焦点位置の調節状態を検出し、検出信号をCPU101へ出力する。CPU101は、焦点検出信号に応じて撮影レンズ20内のフォーカスレンズ(不図示)を光軸方向に進退駆動するようにフォーカスレンズ駆動機構(不図示)へ指令を送り、撮影レンズ20による焦点位置を調節する。焦点調節情報は、主要被写体までの距離情報に対応する。
測光装置103は被写体光量を検出し、検出信号をCPU101へ出力する。CPU101は、この検出信号を用いて露出演算を行うことにより、照明装置13から発光すべき光量や制御露出値を演算する。
操作部材107は、レリーズボタン11(図1)の操作に連動するレリーズスイッチなどを含み、各スイッチに対応する操作信号をCPU101へ送出する。
照明装置13は複数個(図1の例では25個)のLEDモジュール131、およびLEDモジュール131を発光させる発光回路132を有する。各LEDモジュール131は、赤色(R成分)光を発する発光素子と、緑色(G成分)光を発する発光素子と、青色(B成分)光を発する発光素子とを含む。発光回路132は、CPU101からLEDの発光開始や発光終了を指示するタイミング信号、発光強度(輝度)を指示する信号などを受信し、受信信号に応じて各色の発光素子を点灯制御する。なお、電子カメラ10に照明装置13の発光を禁止する設定が行われている場合(照明装置13が使用位置にポップアップされていない状態を含む)には、CPU101が発光を指示する信号を出力しないように構成されている。
図3は、発光回路132の構成例を示す図である。図3において、R成分を含む光を発する発光素子131r、G成分を含む光を発する発光素子131g、およびB成分を含む光を発する発光素子131bによって1つのLEDモジュール131が構成される。発光回路132の電源端子+および電源端子−間には、不図示の電源回路からLEDモジュール131の駆動に必要な所定の直流電圧(たとえば、3V)が印加される。
R成分の発光素子131rは、CPU101によって発光信号sigrが高レベルにされると発光する。すなわち、ベース抵抗器133を介してトランジスタ136にベース電流が供給され、トランジスタ136がベース電流に応じたコレクタ電流を発光素子131rに流すことにより、発光素子131rがR成分光を発する。
G成分の発光素子131gは、CPU101によって発光信号siggが高レベルにされると発光する。すなわち、ベース抵抗器134を介してトランジスタ137にベース電流が供給され、トランジスタ137がベース電流に応じたコレクタ電流を発光素子131gに流すことにより、発光素子131gがG成分光を発する。
B成分の発光素子131bは、CPU101によって発光信号sigbが高レベルにされると発光する。すなわち、ベース抵抗器135を介してトランジスタ138にベース電流が供給され、トランジスタ138がベース電流に応じたコレクタ電流を発光素子131bに流すことにより、発光素子131bがB成分光を発する。
このように、R成分、G成分、B成分の光を発する発光素子が個別に選択発光可能に構成されることにより、各LEDモジュール131の発光/非発光、および発光色が独立して点灯制御される。発光素子131r、発光素子131g、および発光素子131bが同時に点灯される場合の混色光は白色光である。
上記構成の発光回路132は各LEDモジュール131ごとに設けられる。LEDモジュール131に対する発光信号sigr、siggおよびsigbの信号レベルは、CPU101が決定する。
周知のように、発光素子(LED)はその定格範囲において駆動電流および発光強度間に比例関係を有する電流制御型デバイスである。CPU101は各トランジスタへ供給する発光信号(ベース電流)を制御することにより、LEDモジュール131から発せられる光量、色を個別に制御する。各発光素子131r、131gおよび131bの発光強度と供給電流の関係は、あらかじめテーブル化してCPU101内の不揮発性メモリに格納されている。CPU101は、発光強度を引数として上記テーブルを参照して必要な供給電流を決定し、この電流値を発光回路132へ指示する。発光回路132は、CPU101から送出される指令にしたがって電流を各発光素子131r、131gおよび131bへ供給する。
(照明光の分光放射強度特性)
図4は、LEDモジュール131による照明光の分光放射強度特性例を示す図である。図4において、横軸は発光(放射)波長(単位nm)を表し、縦軸は発光(放射)強度を表す。縦軸目盛は、発光強度の最大値を1とする相対値で記されている。
図4の3つの「山」に対応する波形のうち、左側に位置する波形がB成分光に対応し、波長λの関数Bi(λ)で表される。図4で中央の「山」に対応する波形がG成分光に対応し、波長λの関数Gi(λ)で表される。図4で右側の「山」に対応する波形がR成分光に対応し、波長λの関数Ri(λ)で表される。
図4の波形の3つの極大値は、わかりやすく説明するために同一である例を記載している。本実施の形態では、LEDモジュール131が3原色波長に対応する光を同一強度で発することよりも、それぞれの「山」の波長帯域が狭く(たとえば、スペクトル半値幅30nm)、極大値および極小値の比が所定値(たとえば、10:1)以上となるように構成されていることが重要である。
(撮像素子の分光感度特性)
撮像素子121(図2)の撮像面に構成されている画素領域上には、周知の分光フィルタ(色フィルタ)121aが設けられている。色フィルタ121aは、主としてR成分、主としてG成分、および主としてB成分のいずれかの光を通過させる原色フィルタが画素位置に対応して所定の配列(たとえば、ベイヤー配列)で構成された色分解フィルタである。撮像素子121は、このような色フィルタ121aを通して被写体像を撮像することにより、光の3原色ごとの撮像信号を出力する。
上述したLEDモジュール131の発光極大波長は、色フィルタ121aの分光透過特性の透過極大波長と合致するように構成されている。図5は、撮像素子121の分光感度特性例を示す図である。この分光感度特性は、色フィルタ121aの分光透過特性、撮像素子121の画素を構成するフォトダイオードの波長感度特性、および色フィルタ121aと別に撮像素子121の撮像面に配設されている赤外光遮断フィルタ(不図示)の赤外光遮断特性を合成したものである。
図5において、横軸は受光波長(単位nm)を表し、縦軸は受光感度を表す。縦軸目盛は、受光感度の最大値を1とする相対値で記されている。図5の3つの「山」に対応する波形のうち、左側に位置する波形がB成分光の感度特性に対応し、波長λの関数Bs(λ)で表される。図5で中央の「山」に対応する波形がG成分光の感度特性に対応し、波長λの関数Gs(λ)で表される。図5で右側の「山」に対応する波形がR成分光の感度特性に対応し、波長λの関数Rs(λ)で表される。
本発明による電子カメラは、上記分光放射強度特性を有する照明装置13を点灯させながら、上記分光感度特性を有する撮像素子121で撮像する。
撮影時、すなわち、撮像素子121の電荷蓄積時に照明装置13を点灯させて主要被写体を照明すると、被写体光束の色成分はLEDモジュール131の発光極大波長に対応する成分が強くなる。この場合のR、G、B各色成分の撮像信号値はそれぞれ次式(1)〜(3)で表される。
Figure 2006140768
ただし、被写体の分光反射率を波長λの関数A(λ)で表す。
上式(1)〜(3)による撮像信号値は、それぞれ対応する色成分の色フィルタが配設されている画素から出力される信号値である。G色成分を表す上式(2)は、展開すると次式(4)で表される。
Figure 2006140768
上式(4)の第1項は、G成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131rのみが点灯した場合に得られる撮像信号値を表す。上式(4)の第2項は、G色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131gのみが点灯した場合に得られる撮像信号値を表す。上式(4)の第3項は、G色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131bのみが点灯した場合に得られる撮像信号値を表す。
式(4)の第1項をGr、第2項をGg、第3項をGbと表すと、G成分の色フィルタに対応する画素で得られる撮像信号値は次式(5)で表される。
G=Gr+Gg+Gb (5)
同様に、R色成分を表す上式(1)は、展開すると次式(6)で表される。
Figure 2006140768
上式(6)の第1項は、R成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131rのみが点灯した場合に得られる撮像信号値を表す。上式(6)の第2項は、R色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131gのみが点灯した場合に得られる撮像信号値を表す。上式(6)の第3項は、R色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131bのみが点灯した場合に得られる撮像信号値を表す。
式(6)の第1項をRr、第2項をRg、第3項をRbと表すと、R成分の色フィルタに対応する画素で得られる撮像信号値は次式(7)で表される。
R=Rr+Rg+Rb (7)
さらに、B色成分を表す上式(3)は、展開すると次式(8)で表される。
Figure 2006140768
上式(8)の第1項は、B成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131rのみが点灯した場合に得られる撮像信号値を表す。上式(8)の第2項は、B色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131gのみが点灯した場合に得られる撮像信号値を表す。上式(8)の第3項は、B色成分の色フィルタが配設されている画素において、LEDモジュール131の発光素子131bのみが点灯した場合に得られる撮像信号値を表す。
式(8)の第1項をBr、第2項をBg、第3項をBbと表すと、B成分の色フィルタに対応する画素で得られる撮像信号値は次式(9)で表される。
B=Br+Bg+Bb (9)
上式(5)、(7)、(9)、図4および図5によれば、撮像信号値は異なる色成分の光の受光信号の和で表される。この理由は、発光素子131r、131g、131bの分光放射強度特性のスペクトル幅に比べて分光感度特性の「山」の波長帯域幅が広く、各「山」の透過域にLEDモジュール131の発光極大波長がそれぞれ(3つ)含まれるからである。
各色成分に対応する撮像信号値は、照明装置13からR成分光、G成分光、およびB成分光を時分割で発光させることにより得られる。すなわち、照明装置13のLEDモジュール131を点灯させるとき、CPU101が発光素子131r、発光素子131g、および発光素子131bの順に点灯させる。撮像素子121は、各色成分の光が発光されているタイミングでそれぞれ電荷蓄積を行う。
撮像素子121からは、R成分光が発光されている状態で蓄積された電荷信号(撮像信号)と、G成分光が発光されている状態で蓄積された電荷信号(撮像信号)と、B成分光が発光されている状態で蓄積された電荷信号(撮像信号)とが順に読み出される。CPU101は、R成分光に対応する撮像信号をディジタル変換した画像データRi、G成分光発光時の撮像信号をディジタル変換した画像データGi、B色光発光時の撮像信号をディジタル変換した画像データBiを、それぞれ不図示のバッファメモリに一時格納する。
画像データRiのうち、R成分の色フィルタに対応する画素で得られる信号がRr、G成分の色フィルタに対応する画素で得られる信号がGr、B成分の色フィルタに対応する画素で得られる信号がBrに対応する。
画像データGiのうち、R成分の色フィルタに対応する画素で得られる信号がRg、G成分の色フィルタに対応する画素で得られる信号がGg、B成分の色フィルタに対応する画素で得られる信号がBgに対応する。
画像データBiのうち、R成分の色フィルタに対応する画素で得られる信号がRb、G成分の色フィルタに対応する画素で得られる信号がGb、B成分の色フィルタに対応する画素で得られる信号がBbに対応する。
(補間処理)
G成分の色フィルタに対応する画素に注目すると、当該画素から出力される撮像信号はGr、Gg、Gbを示す情報だけで、Rr、Rg、RbやBr、Bg、Bbを示す情報がない。このため、全ての画素位置でGr、Gg、Gb、Rr、Rg、Rb、Br、Bg、およびBbについて全情報を得るには、不足する情報を生成して補間する必要がある。
本実施の形態では不足する色成分の情報を推定により生成する。
1.G成分の色フィルタに対応する画素位置において信号Rrを推定する。
G成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Grである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(10)が成立する。
Rr/Gr≒Rs(λr)/Gs(λr) (10)
ただし、λrはRi(λ)を最大にする波長である。式(10)において、Gr、Rs(λ)、Gs(λ)およびλrは既知であることから、CPU101はこれら既知の値を式(10)へ代入して信号Rrを得る。上式(10)の意味は、既知のR成分波長λrにおけるR成分光の感度特性Rs(λr)および波長λrにおけるG成分光の感度特性Gs(λr)の比と、実際に得られたR成分の信号値Grとを用いてR成分の情報(信号Rr)を推定するものである。なお、分光放射強度特性Bi(λ)、Gi(λ)、Ri(λ)、分光感度特性Bs(λ)、Gs(λ)、およびRs(λ)を示すデータは、あらかじめCPU101内の不揮発性メモリ(不図示)に格納されている。
2.G成分の色フィルタに対応する画素位置において信号Rgを推定する。
G成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Ggである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(11)が成立する。
Rg/Gg≒Rs(λg)/Gs(λg) (11)
ただし、λgはGi(λ)を最大にする波長である。式(11)において、Gg、Rs(λ)、Gs(λ)およびλgは既知であることから、CPU101はこれら既知の値を式(11)へ代入して信号Rgを得る。上式(11)の意味は、既知のG成分波長λgにおけるR成分光の感度特性Rs(λg)および波長λgにおけるG成分光の感度特性Gs(λg)の比と、実際に得られたG成分の信号値Ggとを用いてG成分の情報(信号Rg)を推定するものである。
3.G成分の色フィルタに対応する画素位置において信号Rbを推定する。
G成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Gbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(12)が成立する。
Rb/Gb≒Rs(λb)/Gs(λb) (12)
ただし、λbはBi(λ)を最大にする波長である。式(12)において、Gb、Rs(λ)、Gs(λ)およびλbは既知であることから、CPU101はこれら既知の値を式(12)へ代入して信号Rbを得る。上式(12)の意味は、既知のB成分波長λbにおけるR成分光の感度特性Rs(λb)および波長λbにおけるG成分光の感度特性Gs(λb)の比と、実際に得られたB成分の信号値Gbとを用いてB成分の情報(信号Rb)を推定するものである。
4.G成分の色フィルタに対応する画素位置において信号Bbを推定する。
G成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Gbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(13)が成立する。
Bb/Gb≒Bs(λb)/Gs(λb) (13)
ただし、λbはBi(λ)を最大にする波長である。式(13)において、Gb、Bs(λ)、Gs(λ)およびλbは既知であることから、CPU101はこれらを式(13)へ代入して信号Bbを得る。上式(13)の意味は、既知の波長λbにおけるB成分光の感度特性Bs(λb)およびB成分波長λbにおけるG成分光の感度特性Gs(λb)の比と、実際に得られたB成分の信号値Gbとを用いてB成分の情報(信号Bb)を推定するものである。
5.G成分の色フィルタに対応する画素位置において信号Brを推定する。
G成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Grである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(14)が成立する。
Br/Gr≒Bs(λr)/Gs(λr) (14)
ただし、λrはRi(λ)を最大にする波長である。式(14)において、Gr、Bs(λ)、Gs(λ)およびλrは既知であることから、CPU101はこれら既知の値を式(14)へ代入して信号Brを得る。上式(14)の意味は、既知の波長λrにおけるB成分光の感度特性Bs(λr)および波長λrにおけるG成分光の感度特性Gs(λr)の比と、実際に得られたR成分の信号値Grとを用いてR成分の情報(信号Br)を推定するものである。
6.G成分の色フィルタに対応する画素位置において信号Bgを推定する。
G成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Ggである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(15)が成立する。
Bg/Gg≒Bs(λg)/Gs(λg) (15)
ただし、λgはGi(λ)を最大にする波長である。式(15)において、Gg、Bs(λ)、Gs(λ)およびλgは既知であることから、CPU101はこれら既知の値を式(15)へ代入して信号Bgを得る。上式(15)の意味は、既知の波長λgにおけるB成分光の感度特性Bs(λg)および波長λgにおけるG成分光の感度特性Gs(λg)の比と、実際に得られたG成分の信号値Ggとを用いてG成分の情報(信号Bg)を推定するものである。
7.R成分の色フィルタに対応する画素位置において信号Ggを推定する。
R成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Rgである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(16)が成立する。
Gg/Rg≒Gs(λg)/Rs(λg) (16)
ただし、λgはGi(λ)を最大にする波長である。式(16)において、Rg、Gs(λ)、Rs(λ)およびλgは既知であることから、CPU101はこれらを式(16)へ代入して信号Ggを得る。上式(16)の意味は、既知の波長λgにおけるG成分光の感度特性Gs(λg)および波長λgにおけるR成分光の感度特性Rs(λg)の比と、実際に得られたG成分の信号値Rgとを用いてG成分の情報(信号Gg)を推定するものである。
8.R成分の色フィルタに対応する画素位置において信号Grを推定する。
R成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Rrである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(17)が成立する。
Gr/Rr≒Gs(λr)/Rs(λr) (17)
ただし、λrはRi(λ)を最大にする波長である。式(17)において、Rr、Gs(λ)、Rs(λ)およびλrは既知であることから、CPU101はこれら既知の値を式(17)へ代入して信号Grを得る。上式(17)の意味は、既知の波長λrにおけるG成分光の感度特性Gs(λr)および波長λrにおけるR成分光の感度特性Rs(λr)の比と、実際に得られたR成分の信号値Rrとを用いてR成分の情報(信号Gr)を推定するものである。
9.R成分の色フィルタに対応する画素位置において信号Gbを推定する。
R成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Rbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(18)が成立する。
Gb/Rb≒Gs(λb)/Rs(λb) (18)
ただし、λbはBi(λ)を最大にする波長である。式(18)において、Rb、Gs(λ)、Rs(λ)およびλbは既知であることから、CPU101はこれらを式(18)へ代入して信号Gbを得る。上式(18)の意味は、既知の波長λbにおけるG成分光の感度特性Gs(λb)および波長λbにおけるR成分光の感度特性Rs(λb)の比と、実際に得られたB成分の信号値Rbとを用いてB成分の情報(信号Gb)を推定するものである。
10.R成分の色フィルタに対応する画素位置において信号Bbを推定する。
R成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Rbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(19)が成立する。
Bb/Rb≒Bs(λb)/Rs(λb) (19)
ただし、λbはBi(λ)を最大にする波長である。式(19)において、Rb、Bs(λ)、Rs(λ)およびλbは既知であることから、CPU101はこれらを式(19)へ代入して信号Bbを得る。上式(19)の意味は、既知の波長λbにおけるB成分光の感度特性Bs(λb)および波長λbにおけるR成分光の感度特性Rs(λb)の比と、実際に得られたB成分の信号値Rbとを用いてB成分の情報(信号Bb)を推定するものである。
11.R成分の色フィルタに対応する画素位置において信号Brを推定する。
R成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Rrである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(20)が成立する。
Br/Rr≒Bs(λr)/Rs(λr) (20)
ただし、λrはRi(λ)を最大にする波長である。式(20)において、Rr、Bs(λ)、Rs(λ)およびλrは既知であることから、CPU101はこれらを式(20)へ代入して信号Brを得る。上式(20)の意味は、既知の波長λrにおけるB成分光の感度特性Bs(λr)および波長λrにおけるR成分光の感度特性Rs(λr)の比と、実際に得られたR成分の信号値Rrとを用いてR成分の情報(信号Br)を推定するものである。
12.R成分の色フィルタに対応する画素位置において信号Bgを推定する。
R成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Rgである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(21)が成立する。
Bg/Rg≒Bs(λg)/Rs(λg) (21)
ただし、λgはGi(λ)を最大にする波長である。式(21)において、Rg、Bs(λ)、Rs(λ)およびλgは既知であることから、CPU101はこれらを式(21)へ代入して信号Bgを得る。上式(21)の意味は、既知の波長λgにおけるB成分光の感度特性Bs(λg)および波長λgにおけるR成分光の感度特性Rs(λg)の比と、実際に得られたG成分の信号値Rgとを用いてG成分の情報(信号Bg)を推定するものである。
13.B成分の色フィルタに対応する画素位置において信号Ggを推定する。
B成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Bgである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(22)が成立する。
Gg/Bg≒Gs(λg)/Bs(λg) (22)
ただし、λgはGi(λ)を最大にする波長である。式(22)において、Bg、Gs(λ)、Bs(λ)およびλgは既知であることから、CPU101はこれらを式(22)へ代入して信号Ggを得る。上式(22)の意味は、既知の波長λgにおけるG成分光の感度特性Gs(λg)および波長λgにおけるB成分光の感度特性Bs(λg)の比と、実際に得られたG成分の信号値Bgとを用いてG成分の情報(信号Gg)を推定するものである。
14.B成分の色フィルタに対応する画素位置において信号Grを推定する。
B成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Brである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(23)が成立する。
Gr/Br≒Gs(λr)/Bs(λr) (23)
ただし、λrはRi(λ)を最大にする波長である。式(23)において、Br、Gs(λ)、Bs(λ)およびλrは既知であることから、CPU101はこれらを式(23)へ代入して信号Grを得る。上式(23)の意味は、既知の波長λrにおけるG成分光の感度特性Gs(λr)および波長λrにおけるB成分光の感度特性Bs(λr)の比と、実際に得られたR成分の信号値Brとを用いてR成分の情報(信号Gr)を推定するものである。
15.B成分の色フィルタに対応する画素位置において信号Gbを推定する。
B成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Bbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(24)が成立する。
Gb/Bb≒Gs(λb)/Bs(λb) (24)
ただし、λbはBi(λ)を最大にする波長である。式(24)において、Bb、Gs(λ)、Bs(λ)およびλbは既知であることから、CPU101はこれらを式(24)へ代入して信号Gbを得る。上式(24)の意味は、既知の波長λbにおけるG成分光の感度特性Gs(λb)および波長λbにおけるB成分光の感度特性Bs(λb)の比と、実際に得られたB成分の信号値Bbとを用いてB成分の情報(信号Gb)を推定するものである。
16.B成分の色フィルタに対応する画素位置において信号Rrを推定する。
B成分の色フィルタに対応する画素位置で得られるR成分の情報は信号Brである。図5の分光感度特性より、R成分光(Ri(λ))の波長帯域が狭く単色光とすれば次式(25)が成立する。
Rr/Br≒Rs(λr)/Bs(λr) (25)
ただし、λrはRi(λ)を最大にする波長である。式(25)において、Br、Rs(λ)、Bs(λ)およびλrは既知であることから、CPU101はこれらを式(25)へ代入して信号Rrを得る。上式(25)の意味は、既知の波長λrにおけるR成分光の感度特性Rs(λr)および波長λrにおけるB成分光の感度特性Bs(λr)の比と、実際に得られたR成分の信号値Brとを用いてR成分の情報(信号Rr)を推定するものである。
17.B成分の色フィルタに対応する画素位置において信号Rgを推定する。
B成分の色フィルタに対応する画素位置で得られるG成分の情報は信号Bgである。図5の分光感度特性より、G成分光(Gi(λ))の波長帯域が狭く単色光とすれば次式(26)が成立する。
Rg/Bg≒Rs(λg)/Bs(λg) (26)
ただし、λgはGi(λ)を最大にする波長である。式(26)において、Bg、Rs(λ)、Bs(λ)およびλgは既知であることから、CPU101はこれらを式(26)へ代入して信号Rgを得る。上式(26)の意味は、既知の波長λgにおけるR成分光の感度特性Rs(λg)および波長λgにおけるB成分光の感度特性Bs(λg)の比と、実際に得られたG成分の信号値Bgとを用いてG成分の情報(信号Rg)を推定するものである。
18.B成分の色フィルタに対応する画素位置において信号Rbを推定する。
B成分の色フィルタに対応する画素位置で得られるB成分の情報は信号Bbである。図5の分光感度特性より、B成分光(Bi(λ))の波長帯域が狭く単色光とすれば次式(27)が成立する。
Rb/Bb≒Rs(λb)/Bs(λb) (27)
ただし、λbはBi(λ)を最大にする波長である。式(27)において、Bb、Rs(λ)、Bs(λ)およびλbは既知であることから、CPU101はこれらを式(27)へ代入して信号Rbを得る。上式(27)の意味は、既知の波長λbにおけるR成分光の感度特性Rs(λb)および波長λbにおけるB成分光の感度特性Bs(λb)の比と、実際に得られたB成分の信号値Bbとを用いてB成分の情報(信号Rb)を推定するものである。
以上のように推定した色成分の情報を上式(5)、(7)および(9)に代入することにより撮像信号値が得られる。
なお、上式(10)〜上式(27)において分母が0に近い値をとる場合は演算結果が不正確になるおそれが生じる。この場合には、注目画素(推定対象とする画素)の周囲に位置する信号値を用いて平均値を算出する平均補間処理などの周知の補間処理を施すことにより、各画素位置において不足する色成分の情報を得ればよい。
以上説明した電子カメラ10のCPU101で行われるカメラ処理の一例について、図6のフローチャートを参照して説明する。図6による処理は、カメラのメインスイッチ(不図示)がオンされると起動する。
図6のステップS1において、CPU101は半押し操作されたか否かを判定する。CPU101は、操作部材107を構成するレリーズ半押しスイッチから半押し操作信号が入力された場合にステップS1を肯定判定してステップS2へ進み、半押し操作信号が入力されない場合にはステップS1を否定判定し、当該判定処理を繰り返す。
ステップS2において、CPU101は測光処理を行ってステップS3へ進む。CPU101は測光結果を用いて制御露出値を算出する。ステップS3において、CPU101は測距装置102へ指令を送り、測距処理を行わせてステップS4へ進む。
ステップS4において、CPU101はフォーカスレンズ駆動機構(不図示)へ指令を送り、撮影レンズ20内のフォーカスレンズ(不図示)を合焦位置へ駆動させてステップS5へ進む。
ステップS5において、CPU101は全押し操作されたか否かを判定する。CPU101は、操作部材107を構成するレリーズ全押しスイッチから全押し操作信号が入力された場合にステップS5を肯定判定してステップS6へ進み、全押し操作信号が入力されない場合にはステップS5を否定判定し、ステップS20へ進む。
ステップS6において、CPU101は照明装置13の各発光回路132へ指令を送り、RGB各色成分の発光素子のうちR成分の発光素子131rのみを点灯させてステップS7へ進む。ステップS7において、CPU101は撮像素子121に電荷蓄積を行わせてステップS8へ進む。電荷蓄積時間は、制御露出値に対応する露光時間である。
ステップS8において、CPU101は照明装置13の各発光回路132へ指令を送り、R成分の発光素子131rを消灯させてステップS9へ進む。ステップS9において、CPU101は撮像素子121から撮像信号を読み出してステップS10へ進む。これにより、ディジタル変換された画像データRiが不図示のバッファメモリに格納される。
ステップS10において、CPU101は照明装置13の各発光回路132へ指令を送り、G成分の発光素子131gのみを点灯させてステップS11へ進む。ステップS11において、CPU101は撮像素子121に電荷蓄積を行わせてステップS12へ進む。電荷蓄積時間は、制御露出値に対応する露光時間である。
ステップS12において、CPU101は照明装置13の各発光回路132へ指令を送り、G成分の発光素子131gを消灯させてステップS13へ進む。ステップS13において、CPU101は撮像素子121から撮像信号を読み出してステップS14へ進む。これにより、ディジタル変換された画像データGiが不図示のバッファメモリに格納される。
ステップS14において、CPU101は照明装置13の各発光回路132へ指令を送り、B成分の発光素子131bのみを点灯させてステップS15へ進む。ステップS15において、CPU101は撮像素子121に電荷蓄積を行わせてステップS16へ進む。電荷蓄積時間は、制御露出値に対応する露光時間である。
ステップS16において、CPU101は照明装置13の各発光回路132へ指令を送り、B成分の発光素子131bを消灯させてステップS17へ進む。ステップS17において、CPU101は撮像素子121から撮像信号を読み出してステップS18へ進む。これにより、ディジタル変換された画像データBiが不図示のバッファメモリに格納される。
ステップS18において、CPU101は画像処理を行う。画像処理は、上述した色成分の情報を推定する処理(上記1〜18)やホワイトバランス処理などを含む。CPU101は所定の画像処理を行うとステップS19へ進む。ステップS19において、CPU101は、記録媒体126に画像データを記録してステップS1へ戻る。これにより、一連の撮影処理を終了する。
上述したステップS5を否定判定して進むステップS20において、CPU101は半押し操作が継続されているか否かを判定する。CPU101は、操作部材107を構成するレリーズ半押しスイッチから半押し操作信号が継続して入力されている場合にステップS17を肯定判定してステップS5へ戻り、半押し操作信号が入力されない場合にはステップS20を否定判定し、ステップS1へ戻る。
以上説明した実施形態についてまとめる。
(1)照明装置13の光源として、光の3原色である青(B成分)、緑(G成分)、および赤(R成分)をそれぞれ含むように発光極大波長を分離した3色混合型(3波長)光源であるLEDモジュール131を備える。分光放射強度特性例は図4のBi(λ)、Gi(λ)、Ri(λ)である。
(2)LEDモジュール131の発光極大波長と、撮像素子121の撮像面に設けられる色フィルタ121aの分光透過特性の透過極大波長とを合致させる。色フィルタ121aの分光透過特性、撮像素子121の画素を構成するフォトダイオードの波長感度特性、および色フィルタ121aと別に撮像素子121の撮像面に配設されている赤外光遮断フィルタ(不図示)の赤外光遮断特性を合成した分光感度特性例は図5のBs(λ)、Gs(λ)、Rs(λ)である。発光極大波長および分光透過極大波長を合致させるようにしたので、光の3原色成分が撮像素子121で効率よく受光される。したがって、3原色成分の回収効率が高まることによって撮像信号の信号レベルが向上し、S/N比のよい画像が得られる。さらに、LEDモジュール131を必要以上の発光強度で発光させなくてよいので、消費電力を低減することもできる。
(3)分光感度特性の「山」で示される透過域にLEDモジュール131の発光極大波長をそれぞれ(3つ)含むようにし、撮像信号値が異なる色成分の光の受光信号の和によって表されるようにする。
(4)LEDモジュール131の発光素子131r、発光素子131g、および発光素子131bを時分割で点灯させ、各発光素子の点灯タイミングに合わせて撮像素子121でそれぞれ電荷蓄積を行わせる。これにより、色成分ごとの撮像信号Ri、Gi、およびBiが得られる。
(5)分光放射強度特性Bi(λ)、Gi(λ)、Ri(λ)、分光感度特性Bs(λ)、Gs(λ)、およびRs(λ)を示すデータをあらかじめCPU101内の不揮発性メモリ(不図示)に格納しておく。分光感度特性の「山」に含まれる3つの発光極大波長における感度比と、実際に得られた信号値(注目画素位置に設けられている色フィルタと異なる色成分の撮像信号)とを用いて、注目画素位置において上記異なる色成分の情報を推定する。これにより、注目画素の周囲の画素における画像データ(色成分の情報)を参照して注目画素における色成分の情報を生成する場合と異なり、被写体像の輝度や色が急激に変化する箇所でも偽色の発生を抑えることができる。
上述した説明では、LEDモジュール131を備える内蔵タイプの照明装置13を例にあげて説明したが、照明装置を電子カメラ本体10に外付けする構成にしてもよい。
LEDモジュール131を3原色の発光素子を有する白色LEDモジュールで構成する例を説明したが、赤色LED、緑色LED、および青色LEDをそれぞれ別個に設け、これらの別個のLEDによる照明光で主要被写体を照明するようにしてもよい。
上述した説明では、ベイヤー配列の色フィルタを例に説明したが、デルタ配列をはじめとする他のフィルタ配列の場合にも適用できる。
撮像素子121はCMOSセンサで構成してもよい。
以上の説明では、電子カメラを例にあげて説明したが、上記1〜18の色成分情報を推定する処理を含む画像復元プログラムを用意し、このプログラムをパーソナルコンピュータなどに取込んで画像復元装置として使用することができる。この場合には、パーソナルコンピュータのデータストレージ装置にプログラムをローディングした上で当該プログラムを実行させることにより、画像復元装置として使用する。プログラムのローディングは、プログラムを格納した記録媒体をパーソナルコンピュータにセットして行ってもよいし、ネットワークを経由する方法でパーソナルコンピュータなどにローディングしてもよい。
図7は、画像復元を行う画像処理プログラムの流れを説明するフローチャートである。図7のステップS51において、コンピュータは画像データを読み込んでステップS52へ進む。これにより、色成分ごとの撮像信号Ri、Gi、およびBiが読み込まれる。
ステップS52において、コンピュータは透過率比を算出してステップS53へ進む。これにより、上式(10)〜式(27)の右辺に相当する透過率比が得られる。ステップS53において、コンピュータは第1の画素信号推定処理を行い、ステップS54へ進む。第1の画素信号推定処理は、上式(10)、式(12)、式(13)および式(14)が対応する。
ステップS54において、コンピュータは第2の画素信号推定処理を行い、ステップS55へ進む。第2の画素信号推定処理は、上式(11)および式(15)が対応する。
ステップS55において、コンピュータは第3の画素信号推定処理を行い、ステップS56へ進む。第3の画素信号推定処理は、上式(17)、式(18)、式(23)および式(24)が対応する。
ステップS56において、コンピュータは第4の画素信号推定処理を行い、ステップS57へ進む。第4の画素信号推定処理は、上式(16)、式(19)、式(20)、式(21)、式(22)、式(25)、式(26)および式(27)が対応する。
ステップS57において、コンピュータは合成処理を行って図7による処理を終了する。合成処理は、上式(5)、式(7)および式(9)が対応する。これにより、各画素位置において共通に各色成分(R、G、B)を有する画像が得られる。
上述した説明では、照明装置13の光源の発光極大(中心)波長と、撮像素子121の撮像面に設けられる色フィルタ121aの透過極大波長とがそれぞれR、G、B色で構成される例を示した。本発明は、これら3成分の波長の組み合わせによる画像復元に限らず、たとえば、B(青)色とY(黄)色などの2成分の波長の組み合わせによる画像復元にも適用できる。
特許請求の範囲における各構成要素と、発明を実施するための最良の形態における各構成要素との対応について説明する。分光手段は、たとえば、色フィルタ121aによって構成される。撮像制御手段、画素信号生成手段、第1の画素信号推定手段、第2の画素信号推定手段、第3の画素信号推定手段、第4の画素信号推定手段、および画像合成手段は、たとえば、CPU101によって構成される。第1の色はR色もしくはB色に、第2の色はG色に、それぞれ対応する。なお、本発明の特徴的な機能を損なわない限り、各構成要素は上記構成に限定されるものではない。
本発明の一実施の形態による一眼レフ電子カメラの外観図である。 電子カメラ本体の要部構成を説明するブロック図である。 発光回路の構成例を示す図である。 LEDモジュールによる照明光の分光放射強度特性例を示す図である。 撮像素子の分光感度特性例を示す図である。 CPUで行われるカメラ処理の一例について説明するフローチャートである。 画像処理プログラムの流れについて説明するフローチャートである。
符号の説明
10…電子カメラ本体
13…照明装置
20…撮影レンズ
101…CPU
102…測距装置
103…測光装置
107…操作部材
121…撮像素子
121a…色フィルタ
131…LEDモジュール
131r、131g、131b…発光素子
132…発光回路

Claims (9)

  1. 第1の色成分を透過させる第1の色フィルタ、もしくは前記第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して被写体像を撮像する撮像素子と、
    被写体が前記第1の色成分の光で照明された状態で前記撮像素子に第1の撮像を行わせるとともに、前記被写体が前記第2の色成分の光で照明された状態で前記撮像素子に第2の撮像を行わせる撮像制御手段と、
    前記第1の色フィルタ、前記第2の色フィルタ、前記第1の色成分の光、および前記第2の色成分の光のそれぞれの分光特性と、前記第1の撮像で得られる画素信号および前記第2の撮像で得られる画素信号とを用いて、各画素位置において共通の色成分の画素信号を有するように前記第1の色成分もしくは前記第2の色成分の画素信号を生成する画素信号生成手段とを備えることを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記画素信号生成手段は、
    (1)前記第1の色フィルタによる前記第1の色成分の透過率と前記第2の色フィルタによる前記第1の色成分の透過率との比、および前記第2の色フィルタが形成される画素から前記第1の撮像で得られる前記第1の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第1の画素信号推定手段と、
    (2)前記第1の色フィルタによる前記第2の色成分の透過率と前記第2の色フィルタによる前記第2の色成分の透過率との比、および前記第2の色フィルタが形成される画素から前記第2の撮像で得られる前記第2の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第2の画素信号推定手段と、
    (3)前記第2の色フィルタによる前記第1の色成分の透過率と前記第1の色フィルタによる前記第1の色成分の透過率との比、および前記第1の色フィルタが形成される画素から前記第1の撮像で得られる前記第1の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第3の画素信号推定手段と、
    (4)前記第2の色フィルタによる前記第2の色成分の透過率と前記第1の色フィルタによる前記第2の色成分の透過率との比、および前記第1の色フィルタが形成される画素から前記第2の撮像で得られる前記第2の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第4の画素信号推定手段とを含むことを特徴とする撮像装置。
  3. 請求項2に記載の撮像装置において、
    (1)前記第2の色フィルタが形成される画素について、前記第1の画素信号推定手段で推定された前記第1の色成分の画素信号と、前記第2の画素信号推定手段で推定された前記第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、(2)前記第1の色フィルタが形成される画素について、前記第3の画素信号推定手段で推定された前記第1の色成分の画素信号と、前記第4の画素信号推定手段で推定された前記第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成手段をさらに備えることを特徴とする撮像装置。
  4. 請求項1〜3のいずれか一項に記載の画像処理装置において、
    前記第1の色フィルタおよび前記第2の色フィルタはそれぞれ前記第1の色成分および前記第2の色成分を透過し、前記第2の色フィルタは前記第1の色成分より前記第2の色成分の透過率が高く、前記第1の色フィルタは前記第2の色成分より前記第1の色成分の透過率が高くされることを特徴とする撮像装置。
  5. 請求項1〜4のいずれか一項に記載の画像処理装置において、
    前記第1の色成分および前記第2の色成分は光の3原色を構成することを特徴とする撮像装置。
  6. 第1の色成分を透過させる第1の色フィルタ、もしくは前記第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して撮像された画像であって、被写体が前記第1の色成分の光で照明された状態で撮像された第1の画像、および前記被写体が前記第2の色成分の光で照明された状態で撮像された第2の画像に対する画像処理を行う画像処理装置において、
    前記第1の色フィルタ、前記第2の色フィルタ、前記第1の色成分の光、および前記第2の色成分の光のそれぞれの分光特性と、前記第1の画像および前記第2の画像を構成する画素信号とを用いて、各画素位置において共通の色成分の画素信号を有するように前記第1の色成分もしくは前記第2の色成分の画素信号を生成する画素信号生成手段を備えることを特徴とする画像処理装置。
  7. 請求項6に記載の画像処理装置において、
    前記画素信号生成手段は、
    (1)前記第1の色フィルタによる前記第1の色成分の透過率と前記第2の色フィルタによる前記第1の色成分の透過率との比、および前記第2の色フィルタが形成される画素に対応する前記第1の画像の前記第1の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第1の画素信号推定手段と、
    (2)前記第1の色フィルタによる前記第2の色成分の透過率と前記第2の色フィルタによる前記第2の色成分の透過率との比、および前記第2の色フィルタが形成される画素に対応する前記第2の画像の前記第2の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第2の画素信号推定手段と、
    (3)前記第2の色フィルタによる前記第1の色成分の透過率と前記第1の色フィルタによる前記第1の色成分の透過率との比、および前記第1の色フィルタが形成される画素に対応する前記第1の画像の前記第1の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第3の画素信号推定手段と、
    (4)前記第2の色フィルタによる前記第2の色成分の透過率と前記第1の色フィルタによる前記第2の色成分の透過率との比、および前記第1の色フィルタが形成される画素に対応する前記第2の画像の前記第2の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第4の画素信号推定手段とを含むことを特徴とする画像処理装置。
  8. 請求項7に記載の画像処理装置において、
    (1)前記第2の色フィルタが形成される画素について、前記第1の画素信号推定手段で推定された前記第1の色成分の画素信号と、前記第2の画素信号推定手段で推定された前記第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、(2)前記第1の色フィルタが形成される画素について、前記第3の画素信号推定手段で推定された前記第1の色成分の画素信号と、前記第4の画素信号推定手段で推定された前記第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成手段をさらに備えることを特徴とする画像処理装置。
  9. 第1の色成分を透過させる第1の色フィルタ、もしくは前記第1の色成分と異なる第2の色成分を透過させる第2の色フィルタが受光画素ごとに形成される分光手段を介して撮像された画像であって、被写体が前記第1の色成分の光で照明された状態で撮像された第1の画像、および前記被写体が前記第2の色成分の光で照明された状態で撮像された第2の画像に対する画像処理をコンピュータ装置で実行する画像処理プログラムにおいて、
    (1)前記第1の色フィルタによる前記第1の色成分の透過率と前記第2の色フィルタによる前記第1の色成分の透過率との比、および前記第2の色フィルタが形成される画素に対応する前記第1の画像の前記第1の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第1の画素信号推定処理と、
    (2)前記第1の色フィルタによる前記第2の色成分の透過率と前記第2の色フィルタによる前記第2の色成分の透過率との比、および前記第2の色フィルタが形成される画素に対応する前記第2の画像の前記第2の色成分の画素信号を用いて、当該画素に前記第1の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第2の画素信号推定処理と、
    (3)前記第2の色フィルタによる前記第1の色成分の透過率と前記第1の色フィルタによる前記第1の色成分の透過率との比、および前記第1の色フィルタが形成される画素に対応する前記第1の画像の前記第1の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第1の色成分の画素信号を推定する第3の画素信号推定処理と、
    (4)前記第2の色フィルタによる前記第2の色成分の透過率と前記第1の色フィルタによる前記第2の色成分の透過率との比、および前記第1の色フィルタが形成される画素に対応する前記第2の画像の前記第2の色成分の画素信号を用いて、当該画素に前記第2の色フィルタが形成される場合に得られる前記第2の色成分の画素信号を推定する第4の画素信号推定処理と、
    (5)前記第2の色フィルタが形成される画素について、前記第1の画素信号推定処理で推定した前記第1の色成分の画素信号と、前記第2の画素信号推定処理で推定した前記第2の色成分の画素信号との和を合成後の第1の色成分の画素信号とし、前記第1の色フィルタが形成される画素について、前記第3の画素信号推定処理で推定した前記第1の色成分の画素信号と、前記第4の画素信号推定処理で推定した前記第2の色成分の画素信号との和を合成後の第2の色成分の画素信号とする画像合成処理とを含むことを特徴とする画像処理プログラム。
JP2004328580A 2004-11-12 2004-11-12 撮像装置、画像処理装置および画像処理プログラム Expired - Fee Related JP4407485B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2004328580A JP4407485B2 (ja) 2004-11-12 2004-11-12 撮像装置、画像処理装置および画像処理プログラム
US11/269,625 US7843505B2 (en) 2004-11-12 2005-11-09 Image-capturing device, image processing device and image processing program product for image composition processing

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2004328580A JP4407485B2 (ja) 2004-11-12 2004-11-12 撮像装置、画像処理装置および画像処理プログラム

Publications (3)

Publication Number Publication Date
JP2006140768A true JP2006140768A (ja) 2006-06-01
JP2006140768A5 JP2006140768A5 (ja) 2007-12-20
JP4407485B2 JP4407485B2 (ja) 2010-02-03

Family

ID=36385846

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004328580A Expired - Fee Related JP4407485B2 (ja) 2004-11-12 2004-11-12 撮像装置、画像処理装置および画像処理プログラム

Country Status (2)

Country Link
US (1) US7843505B2 (ja)
JP (1) JP4407485B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015159651A1 (ja) * 2014-04-14 2015-10-22 シャープ株式会社 光検出装置および固体撮像装置並びにそれらの製造方法

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8253824B2 (en) * 2007-10-12 2012-08-28 Microsoft Corporation Multi-spectral imaging
US8929682B2 (en) 2011-04-28 2015-01-06 Hewlett-Packard Development Company, L.P. Calibrating image sensors
US20120274799A1 (en) * 2011-04-28 2012-11-01 Yu-Wei Wang Calibrating image sensors
WO2014156018A1 (ja) * 2013-03-29 2014-10-02 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 推定装置、推定方法、集積回路およびプログラム
JP6304953B2 (ja) * 2013-06-27 2018-04-04 オリンパス株式会社 観察装置
CN106341614B (zh) * 2015-07-08 2019-12-13 全崴科技有限公司 摄影影像调整方法
US10154201B2 (en) * 2015-08-05 2018-12-11 Three In One Ent Co., Ltd Method for adjusting photographic images to higher resolution

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH01319369A (ja) 1988-06-21 1989-12-25 Konica Corp 写真フィルムプレーヤ
JPH0222993A (ja) 1988-07-12 1990-01-25 Konica Corp 写真フィルムプレーヤ
US20020191102A1 (en) * 2001-05-31 2002-12-19 Casio Computer Co., Ltd. Light emitting device, camera with light emitting device, and image pickup method
JP2003287674A (ja) 2002-03-28 2003-10-10 Nikon Gijutsu Kobo:Kk カメラ
CN1672428B (zh) 2002-07-26 2010-11-03 奥林巴斯株式会社 图像处理***
US20050046739A1 (en) * 2003-08-29 2005-03-03 Voss James S. System and method using light emitting diodes with an image capture device
JP2005338278A (ja) * 2004-05-25 2005-12-08 Nikon Corp 撮影用照明装置およびカメラシステム
US7400826B2 (en) * 2005-08-29 2008-07-15 Avago Technologies Ecbu Ip Pte Ltd Imaging device and method for producing a flash of light with pulsing

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2015159651A1 (ja) * 2014-04-14 2015-10-22 シャープ株式会社 光検出装置および固体撮像装置並びにそれらの製造方法
JPWO2015159651A1 (ja) * 2014-04-14 2017-04-13 シャープ株式会社 光検出装置および固体撮像装置並びにそれらの製造方法
US10348990B2 (en) 2014-04-14 2019-07-09 Sharp Kabushiki Kaisha Light detecting device, solid-state image capturing apparatus, and method for manufacturing the same

Also Published As

Publication number Publication date
US20060103738A1 (en) 2006-05-18
US7843505B2 (en) 2010-11-30
JP4407485B2 (ja) 2010-02-03

Similar Documents

Publication Publication Date Title
US9826894B2 (en) Endoscope system with frame-sequential light emission
US9456144B2 (en) Imaging apparatus and control method
US7683967B2 (en) Digital camera having an electronic flash device LED as a flashlight source
KR101786953B1 (ko) 발광 장치 및 이를 포함하는 카메라 시스템
EP1602969B1 (en) Illumination device for photographing and camera system
JP4305327B2 (ja) 撮像装置、ホワイトバランス制御方法及びホワイトバランス制御プログラム
US7843505B2 (en) Image-capturing device, image processing device and image processing program product for image composition processing
KR100651813B1 (ko) 스트로보 제어장치, 및 스트로보 제어방법
JP2017003709A (ja) 撮像装置、発光制御方法、プログラム
JP2007017623A (ja) 撮影装置、発光制御装置及び発光装置
JP6318789B2 (ja) 映像処理装置、映像処理方法、及び映像処理プログラム
JP5228318B2 (ja) カメラおよび発光量演算プログラム
JP2004186879A (ja) 固体撮像装置及びデジタルカメラ
JP2012119788A (ja) 撮影装置、画像処理装置、撮影方法及び画像処理方法
JP6136948B2 (ja) 撮像装置、映像信号処理方法及び映像信号処理プログラム
JP4374863B2 (ja) 撮像装置
KR101417819B1 (ko) 촬상 장치
JP2008283364A (ja) 撮像装置及びホワイトバランス補正方法
US7382497B2 (en) Image pickup apparatus and image pickup method
JP2007110485A (ja) 撮像装置、光源検出方法
JP6160546B2 (ja) 映像処理装置、撮像装置、映像処理方法、及び映像処理プログラム
JP2005352208A (ja) 電子カメラ
JP2005269303A (ja) 画像処理装置、画像処理プログラム、及び固体撮像素子
JP2008258825A (ja) カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20071022

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071031

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20091001

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091020

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091102

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4407485

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121120

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151120

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20151120

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees