JP2010103740A - デジタルカメラ - Google Patents

デジタルカメラ Download PDF

Info

Publication number
JP2010103740A
JP2010103740A JP2008273018A JP2008273018A JP2010103740A JP 2010103740 A JP2010103740 A JP 2010103740A JP 2008273018 A JP2008273018 A JP 2008273018A JP 2008273018 A JP2008273018 A JP 2008273018A JP 2010103740 A JP2010103740 A JP 2010103740A
Authority
JP
Japan
Prior art keywords
visible light
signal
video signal
image
light video
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2008273018A
Other languages
English (en)
Inventor
Katsumi Tokuyama
克巳 徳山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Original Assignee
Panasonic Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp filed Critical Panasonic Corp
Priority to JP2008273018A priority Critical patent/JP2010103740A/ja
Priority to US12/573,566 priority patent/US20100103268A1/en
Publication of JP2010103740A publication Critical patent/JP2010103740A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/64Circuits for processing colour signals
    • H04N9/643Hue control means, e.g. flesh tone control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/20Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only
    • H04N23/21Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from infrared radiation only from near infrared [NIR] radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/30Transforming light or analogous information into electric information
    • H04N5/33Transforming infrared radiation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/77Circuits for processing the brightness signal and the chrominance signal relative to each other, e.g. adjusting the phase of the brightness signal relative to the colour signal, correcting differential gain or differential phase

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Toxicology (AREA)
  • Studio Devices (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】合成画像における合成条件、合成比率の設定操作の容易化。
【解決手段】生成手段が、可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する。合成手段が可視光映像信号と非可視光映像信号とを、合成比率変更可能に合成する。調整手段が、外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取ったパラメータに基づいて合成比率を調整する。表示手段が、合成映像信号から合成画像を生成して表示する。そして、合成画像を表示手段で表示しながら、操作者が調整手段に入力するパラメータを受け付け、受け付けたパラメータに基づいて調整手段が合成比率を変更する。
【選択図】 図2

Description

本発明は、可視光並びに非可視光を撮像するデジタルカメラの画像合成手法および、制御方法に関する。
非可視光に感光してなる非可視光映像は人の目に写るものとは異なった映像となるため、スチルカメラ(銀塩カメラ)等では、撮影対象にあまりされていない。しかしながら、従来から、可視光/非可視光共に撮像可能なカメラは考案されている。この種のカメラでは、主に非可視光映像における被写体の認識を高めるために、可視光データが用いられており、可視光データを参考にすることによって非可視光映像における被写体の検出精度を高めている。
ところで昨今、写真において記憶色を重視する考え方が出てきており、実際の目に見える映像よりも、印象的で記憶に残る映像が要求されるようになってきている。例えば、通常の可視光撮像カメラでは、遠くの山並みは、かすんで鮮やかに撮像できない。同様に人間の目でも遠くの山並みはかすんで鮮やかに見えない。しかしながら、人は、きれいな景色を見た場合、遠くの山並みであっても鮮やかに見えたように記憶してしまう。これに対して、近赤外光領域を撮像可能なカメラ(非可視光撮像カメラ)では、遠くの山並みまで明確に写ししだすことが可能である。この特性を利用し、近赤外光領域並びに可視光領域と共に撮像可能なカメラによってかすんだ山並みの部分を、近赤外光領域と可視光領域との両方で撮像したうえで撮影した両映像を合成することで、遠くの山並みまで鮮やかに表現された写真が作られる(例えば、特許文献1参照)。
特開平11−143031号公報
しかしながら、近赤外光映像(非可視光映像)は、可視光に感光してなる可視光映像とは見た目が異なるため、両画像を合成する際の合成条件や合成比率を決定することは難しい。また、記憶色は、人それぞれで感じ方が異なるため、各人それぞれで最適な合成映像が異なる。
従来例は銀塩カメラにおける映像合成技術であって、製造時等において、メーカの調整担当者がR,G,Bの情報を見て合成係数を変えることで合成映像(写真)における合成具合を調整しているが、補正条件(合成係数)が固定されており、ユーザが調整することは不可能であって、すべての条件下において最適となる合成映像、又はすべての人にとって最適となる合成映像を得ることは困難である。
現在では、デジタル画像を加工するためのソフトウエアがあるため、映像をデジタル保存した後に上記ソフトウエアを用いて、上記合成と同等の加工を行うことは可能である。しかしながら、非可視光を含めて感光させてなる画像には、可視光で見えない映像成分が混在しているため、保存した後に、ディスプレイで映像を視認しながら加工するのは非常に困難となる。したがって、デジタル保存する前に、最適な条件にて合成したうえで映像信号をデジタル保存する必要があるが、その操作は煩雑であるうえに、熟練者でなければ実行困難なものであった。
本発明は、デジタルカメラでのデジタル処理が容易にできる点と、モニタで画像を表示できる特性を利用し補正、画像合成を実施する。合成の条件はR,G、Bの情報のみでなく、デジタルフィルタ処理等で周辺画素の相関情報も含め決定する。また、合成条件のみではなく、ゲイン等の補正を行うことでより鮮明な画像を得ることが可能となる。映像を記録する前に予め、モニタに画像を表示させながら、R,G,B情報の補正の他、輝度信号、色差信号を、それぞれ個別に外部のパラメータより任意に変更することで、場面に応じた最適な合成条件、補正条件を調整し、場面に応じた最適な画像、人に応じた最適な画像を得ることを可能とする。
具体的には本発明は、
可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
前記可視光映像信号と前記非可視光映像信号とを、合成比率変更可能に合成する合成手段と、
外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取った前記パラメータに基づいて前記合成比率を調整する調整手段と、
前記合成手段が合成する合成映像信号から合成画像を生成して表示する表示手段と、
を備え、
前記合成画像を前記表示手段で表示しながら、前記操作者が前記調整手段に入力する前記パラメータを受け付け、受け付けた前記パラメータに基づいて前記調整手段が前記合成比率を変更する。
以上の構成を備えることで、本発明では、それぞれ個別にかつ任意にパラメータを変更することで、場面に応じた最適な合成条件と補正条件とを調整することができ、これにより場面や被写体に応じた最適な画像を得ることが可能になる。
本発明には、
前記パラメータは、前記合成比率に応じて前記合成映像信号に設定される映像信号に関する係数であり、
前記調整手段は、
それぞれの撮影状況に応じて予め前記係数を設定して記憶したうえで、前記操作者による撮影状況の選択操作を受け付け、受け付けた前記選択状況に応じた前記合成比率の標準値を、受け付けた前記選択状況に対応する前記係数に基づいて設定する第1のコントロール手段と、
前記第1のコントロール手段が設定した前記合成比率の標準値に基づいて前記合成手段が生成して前記表示手段が表示する前記合成画像を見ながら前記操作者が行う前記係数に関する入力操作を受け付け、受け付けた入力操作に基づいて前記係数を上昇調整する第2のコントロール手段と、
前記第1のコントロール手段が設定した前記合成比率の標準値に基づいて前記合成手段が生成して前記表示手段が表示する前記合成画像を見ながら前記操作者が行う前記係数に関する入力操作を受け付け、受け付けた入力操作に基づいて前記係数を下降調整する第3のコントロール手段と、
を備える、という態様がある。これにより、パラメータ調整の容易性を向上させることが可能になる。
また本発明には、
前記調整手段は、前記可視光映像信号100%(前記非可視映像信号0%)の第1のパラメータ標準値と、前記非可視光映像信号100%(前記可視光映像信号0%)の第2のパラメータ標準値とを予め記憶したうえで、前記第1のパラメータ標準値と第2のパラメータ標準値とを切り替えることで、当該デジタルカメラを、可視光撮像カメラと非可視光撮像カメラとに交互に切り替える、
という態様がある。これにより可視光撮像カメラと非可視光撮像カメラとを兼用することが可能なデジタルカメラを実現できる。
また本発明には、
前記非可視光映像信号は近赤外光映像信号であり、
前記合成手段は、前記表示手段に表示される前記合成画像における色成分のレベルに応じて前記操作者が前記調整手段に入力する前記パラメータに基づいて、前記可視光映像信号と前記近赤外光映像信号との合成比率を変更する、
という態様がある。これにより、霞んだ画像の補正等、ある一定の条件の画像を補正、改善する映像信号を得ることが可能になる。
また本発明には、
前記生成手段は、
可視光を受光して前記可視光映像信号を生成するとともに非可視光を受光して前記非可視光映像信号を生成する画素を、複数備える単一のイメージセンサと、
前記イメージセンサの各画素から出力される前記可視光映像信号と前記非可視光映像信号とを、それぞれフィルタ処理することで、前記各画素に対応するR信号,G信号,B信号,可視光輝度信号,及び非可視光信号を生成するフィルタ回路と、
を備え、
前記合成手段は、前記フィルタ回路から出力される前記R信号,前記G信号,前記B信号,前記可視光輝度信号,及び前記非可視光信号を合成する、
とう態様がある。これにより、カメラの構成を小型化することが可能になる。
また本発明には、
前記生成手段は、
可視光を受光して前記可視光映像信号を生成する画素を複数備える可視光イメージセンサと、
非可視光を受光して前記非可視光映像信号を生成する画素を複数備える非可視光イメージセンサと、
前記可視光イメージセンサの各画素から出力される前記可視光映像信号を、フィルタ処理することで、前記各画素に対応するR信号,G信号,B信号,可視光輝度信号を生成する可視光フィルタ回路と、
前記非可視光イメージセンサの各画素から出力される前記非可視光映像信号を、フィルタ処理することで、前記各画素に対応する非可視光信号を生成す非可視光フィルタ回路と、
を備え、
前記合成手段は、前記可視光フィルタ回路から出力される前記R信号,前記G信号,前記B信号,前記可視光輝度信号,及び前記非可視光フィルタ回路から出力される前記非可視光信号を合成する、
という態様がある。これにより、精度や解像度の高いデジタルカメラを構成することが可能になる。
また本発明には、
前記可視光映像信号の高周波成分を抽出する可視光ハイパスフィルタと、
前記非可視光映像信号の高周波成分を抽出する非可視光ハイパスフィルタと、
前記可視光ハイパスフィルタにより抽出される可視光映像信号高周波成分の信号レベルと、前記非可視光ハイパスフィルタにより抽出される非可視光映像信号高周波成分の信号レベルとを比較し、その比較結果に基づいて、前記可視光映像信号高周波成分と前記非可視光映像信号高周波成分のうちの一方を選択する選択手段と、
前記合成手段が出力する合成映像信号に前記選択手段が選択する高周波成分を加算する加算手段と、
をさらに備える、
という態様がある。これにより、さらに解像度の高い映像を得ることが可能になる。
また本発明には、
前記生成手段は、R信号及び、G信号を含んで前記可視光映像信号を生成し、
前記調整手段は、調整した前記合成比率に基づいて、前記R信号と前記G信号の信号レベルを個別に変更する、
という態様がある。これにより、合成した画像の色の再現性を向上させることが可能になる。
また本発明には
前記調整手段は、調整した前記合成比率に基づいて、前記合成映像信号における各色の信号レベルを変更する、
という態様がある。これにより、さらに鮮やかな色の画像を生成することが可能になる。
また本発明には、前記表示手段は、前記合成比率に応じた階調を有する合成比率示唆画像を生成して表示する、
という態様がある。これにより視覚的に、合成比率を確認することが可能となって、パラメータ調整の容易性と精度とが向上する。
本発明によれば、実際は、人の目には見えない部分を、人の目で見えたかのような自然な状態での合成画像を得ることができるうえに、撮影条件や人の好みに応じて常に最適な合成画像を得ることが可能になる。
図1に、本発明の一実施形態のデジタルカメラの構成を示す。本実施形態のデジタルカメラにおいて、カメラ信号処理回路100は、デジタルの映像信号として輝度信号、色差信号をモニタIF回路101へと出力する。モニタIF回路101は、輝度信号、色差信号をモニタ用の映像信号へ変換することで映像信号102を生成したうえで、生成した映像信号をモニタ102に出力する。また、同時にカメラ信号処理回路100は記録装置99にデータ(輝度信号,色差信号)を出力する。
CPU103は、カメラ信号処理回路100と記録措置99とにシリアルインターフェース等を介して接続されて、カメラ信号処理回路100を制御する。CPU103の汎用ポートは、標準値設定用SW104、パラメータUP用SW105、パラメータDOWN用SW106、標準値切替用SW107、パラメータ切替用SW108、および記録コマンドSW109に接続されている。
カメラ信号処理回路100は、合成比率を外部から変更可能な状態で非可視光映像と可視光映像とを合成する手段(合成手段)を備える。CPU103とSW104〜108とは、画像の合成比率を外部からコントロールする手段(調整手段)を構成する。モニタ102は、画像をモニタする手段(表示手段)を構成する。SW104〜108は、推奨値を決定する第1のコントロール手段と、任意に係数を上げる第2のコントロール手段と、任意に係数を下げる第3のコントロール手段とを構成する。
操作者は、映像信号に基づいてモニタ102で表示される映像を確認しながら、SW104〜108それぞれを制御することで、パラメータの制御を行う。そして最適なパラメータ設定を確定させた時点で、操作者は記録コマンドSW109をONにする(シャッタを押すことに相当する)ことで、最適な状態での映像が記録される。パラメータの制御(調整)は、SW104〜108それぞれに接続されたCPU103が、操作者によって調整されたSW104〜108それぞれの状態を確認したうえで、確認したSW104〜108それぞれの状態に応じて、カメラ信号処理回路100及び記録装置99を制御することで実現される。
以下に全体の詳細な動作について説明を行う。まずは、カメラ信号処理回路100の動作の説明を行う。図2に、生成手段として、可視光/非可視光対応センサを用いたカメラ信号処理回路100の構成例を示す。カメラ信号処理回路100は、可視光/非可視光対応センサ110、フィルタ回路111、乗算器112,113、条件判定回路114、輝度信号処理回路115、色差信号処理回路116、およびレジスタ117を備える。
以下の説明では、非可視光映像は、近赤外光(IR)に感光してなる近赤外光映像であって、遠くの映像が霞んで見える可視光映像を鮮やかに表現するために可視光映像と非可視映像(近赤外光映像)とを合成する場合を想定している。
非可視光と可視光を受光する1つのイメージセンサ(可視光/非可視対応センサ)110は、図8に示すようにR画素,G画素,B画素,非可視光画素から構成されている。ここでは非可視光画素はIR画素であって、図8で示す画素配列からなるセンサを用いたときを例に説明を行う。
可視光/非可視光対応センサ110から出力された映像信号は、フィルタ回路111へ入力される。フィルタ回路111に入力される各映像信号は、1つの画素に対して、R画素,G画素,B画素、IR画素のいずれかの1つの画素情報しか持っていない。そのため、フィルタ回路111は、周辺の同色画素に対して画素重心を合わせこむ形で各映像信号に係数を設けることで、フィルタ処理を行う。これにより、フィルタ回路111では、1つの画素に対してR信号,G信号,B信号、IR信号、および可視光輝度信号が生成される。図8の画素170において、R信号,G信号,B信号,IR信号,および可視光輝度信号を生成するためのフィルタ構成例を以下に示す。
G1=(G11+(3*G21)+(3*G12)+(9*G22))/16
R1=((3*R11)+R21+(9*R13)+(3*R23))/16
B1=((3*B12)+(9*B22)+B14+(3*B24))/16
Y1=(0.69*G1)+(0.3*R1)+(0.11*B1)
IR1=((9*IR12)+(3*IR22)+IR24+(3*IR14))/16
フィルタ回路111は、1つの画素に対して、R信号,G信号,B信号,IR信号,および可視光輝度信号を生成する。フィルタ回路111で生成された信号のうち、R信号,G信号,B信号は、条件判定回路114へと入力される。
図4に条件判定回路114の構成を示す。条件判定回路114は、補正係数算出回路130,加算器131,減算器132,および乗算器133,134,135,136を備える。補正係数算出回路130は、入力されるR信号,G信号,B信号,IR信号に基づいて、可視光信号とIR信号との合成比率を決定するための、IR補正係数と可視光補正係数とを算出する。
図5に補正係数算出回路130の構成を示し、図5を参照して補正係数算出回路130におけるIR補正係数と可視光補正係数との算出動作を説明する。補正係数算出回路130は、霞補正係数算出回路140、青空補正係数算出回路141、IR補正係数算出回路142、およびインバータ143を備える。ここでは、近赤外光の特徴を利用してIR補正係数と可視光補正係数とが算出される。
可視光の波長範囲内では、波長の短い光ほど大気を構成する分子により散乱されやすい。したがって、霞んだ遠景が青っぽくみえる特徴がある。近赤外光は可視光に比べて大気を構成する分子による散乱が少ないので、近赤外光に感光してなる近赤外光映像では遠方まで霞まずに映像を写し取ることができる。この特徴を利用して、青っぽく見える部分を抽出して、IR信号成分の映像信号をより多い比率で合成することにより、遠方まで霞まずに写る画像を得ることが可能となる。霞補正係数算出回路140は霞補正係数を算出するための回路である。
逆に青空を撮影した近赤外光映像では、光を吸収して、黒く沈んだように写る傾向がある。したがって、青空を撮影した近赤外光映像では、IR信号成分を大きくすると、青空が沈んだ画像となってしまう。そのため、青空を撮影した映像に関しては、可視光の信号成分を大きくする必要がある。青空補正係数算出回路141は、青空を撮影した映像における青空補正係数を算出するための回路である。
以下に霞補正係数算出回路140の霞補正係数の算出例を示す。霞補正係数算出回路140は青っぽく見える部分を抽出するために、色差信号B−Rに着目しており、色差信号B−Rの大きさに基づいて青っぽく見える部分を他の部分から識別している。このような識別を行うために、霞補正係数算出回路140には、青っぽく見えるレベルを判断するための閾値Aと、青空の青のレベルを判断するための閾値Bと、合成比率の強弱の調整を行うための係数kAとがレジスタ117から入力される。
霞み成分と青空とを色差信号B−Rの大きさで比較すると、霞み成分<青空であるため、閾値A<閾値Bにする必要がある。したがって、閾値A,閾値Bを0〜255までの設定範囲とし、R,Bのデータを0〜255の範囲のデータとしたとき、霞補正係数 Kkhの条件は以下のようになる。
閾値A=0の場合は、
Kkh = 100
閾値B>(B-R)>閾値Aの場合は、
Kkh = kA((B-R)−閾値A)
(B-R)>閾値Bの場合は、
Kkh = 閾値B−閾値A
(B-R)≦閾値Aの場合は、
Kkh = 0
上記条件で、霞補正係数Kkhを算定する場合、
閾値A≦色差信号B−R<閾値B、の状態では、
・霞補正係数Kkhは、色差信号B−Rに比例して係数kAの傾きで増加する。
閾値B≦色差信号B−R、の状態では、
・その映像は青空であると判断される。青空を補正する場合、IR信号成分における霞補正係数Kkhを小さくする必要がある。これに応じて霞補正係数Kkhは、閾値B<Kkh<閾値Aの範囲で保持される。この場合における青空補正係数は、青空補正係数算出回路141にて生成される。
また、霞補正係数Kkhが0%、100%となる状態を作るためには、閾値A=0(Min値)や閾値A=255(Max値)を設定すればよい。そうすれば、無条件に霞補正係数Kkhを、100%(閾値A=0)や0%(閾値A=255)に設定することが可能となる。
次に青空補正係数算出回路141における青空補正係数の算出例を示す。青空補正においては、霞補正と同じく色差信号B−Rに着目しており、色差信号B−Rの大きさで補正判断を行う。この青のレベルを判断するために、青空補正係数算出回路141には、閾値Bと、合成比率の強弱の調整を行うための係数とがレジスタ117から入力される。
霞み成分と青空とを色差信号B−Rの大きさで比較すると、霞み成分<青空であるため、閾値A<閾値Bにする必要がある。したがって、閾値Bを0〜255までの設定範囲とし、R,Bのデータを0〜255の範囲のデータとしたとき、青空補正係数 Kbsの条件は以下のようになる。
(B-R)>閾値Bの場合は、
Kbs =kB((B-R)−閾値B)
(B-R)≦閾値Bの場合は、
Kbs = 0
上記条件で、青空補正係数Kbsを算定する場合、
色差信号B−R≧閾値B以上、の状態では、
・青空補正係数Kbsは、色差信号B−Rに比例して、係数kBの傾きで増加する。
また、閾値B=255を設定することで、青空補正係数Kbsを0%とすることができる。すなわち、閾値B=0(Min値)や閾値A=255(Max値)、閾値B=255(Max値)を設定することで、無条件に青空補正係数Kbsを100%(閾値A=0)や0%(閾値A=255(Max値)、閾値B=255(Max値)に設定することが可能となる。
ここで説明した、レジスタより入力される閾値A,閾値B,係数kA,係数kBはそれぞれレジスタ117経由で外部から補正係数算出部140,141に可変設定可能となっている。したがって、閾値A,閾値Bを変更することで、IR信号成分として検出する波長領域を変更することが可能であり、係数kA,係数kBを変更することで、IR信号成分を合成する際における合成比率を変更することが可能となる。
以上説明したようにして算出される霞補正係数算出回路140の霞補正係数と、青空補正係数算出回路141の青空補正係数とは、IR補正係数算出回路142に入力される。IR補正係数算出回路142は、入力される霞補正係数Kkhと青空補正係数Kbsとの大小を比較する。Kkh>Kbsである場合、IR補正係数算出回路142は、霞補正係数Kkhから青空補正係数Kbsを減算する (Kkh-Kbs)ことでIR補正係数を生成する。
このようにしてIR補正係数を生成する場合、
閾値A≦色差信号B−R<閾値B、の状態では、
・IR補正係数は、霞を補正するために、色差信号B−Rに比例して係数kAの傾きで増加する。
色差信号B−R≧閾値B、の状態では、
・その映像は青空であると判断される。青空を補正する場合、IR補正係数は、色差信号B−Rに反比例して係数kBの傾きで減少する。
IR補正係数 Kir1の動作条件は以下のようになる。
Kkh>Kbsの場合は、
Kir1 = Kkh-Kbs
Kkh≦Kbsの場合は、
Kir1 = 0
IR補正係数算出回路142で生成されるIR補正係数Kir1は外部に出力されると共に、インバータ143に入力される。インバータ143は、IR補正係数Kir1の逆数を生成し、生成した逆数を可視光補正係数Kir1’として出力する。可視光補正係数Kir1’は可視光信号の補正係数であって、可視光補正係数Kir1’とIR補正係数Kir1とには、Kir1’+Kir1=1の関係が成立する。
補正係数算出回路130から出力される可視光補正係数とIR補正係数とは、外部へ出力される。さらにIR補正係数は、B信号のゲイン補正用に設けられた乗算器135と、R信号のゲイン補正用に設けられた乗算器136とに入力される。
本実施の形態において、非可視光として近赤外光を選択しているのは、可視光で霞んだ部分を補正することを目的としているためである。可視光では、前述したとおり、霞んだ遠景が青っぽくみえる特徴がある。したがって、IR補正係数が大きく設定された映像部分は、可視光では青っぽく見えており、この映像部分では、B信号成分が大きく、R信号成分が小さくなっている傾向がある。この映像部分をより鮮やかな映像にするためには、この映像部分において、B信号を小さくし、R信号のゲインを大きくする調整を行うことが望ましい。B信号の補正係数生成用として設けられた乗算器135と、R信号の補正係数生成用として設けられた乗算器136とは、このような補正係数を算出するための乗算器となる。
B信号の補正係数生成用の乗算器135は、レジスタ117から入力されるBゲイン補正係数と補正係数算出回路130から入力されるIR補正係数とを乗算することでB信号補正係数を生成する。乗算器135は、生成したB信号補正係数を乗算器133に入力する。乗算器133はB信号とB信号補正係数とを乗算して、B信号補正信号を生成する。乗算器133は生成したB信号補正信号を減算器132に入力する。減算器132は、B信号からB信号補正信号を減算することで、B信号の補正を行う。減算器132は、補正結果を、B’信号として出力する。
R信号の補正係数生成用の乗算器136は、レジスタ117から入力されるRゲイン補正係数とIR補正係数とを乗算することでR信号補正係数を生成する。乗算器136は、生成したR信号補正係数を乗算器134に入力する。乗算器134はR信号とR信号補正係数とを乗算することでR信号補正信号を生成する。乗算器134は、生成したR信号補正信号を加算器131に入力する。加算器131は、R信号とR信号補正信号とを加算することで、R信号の補正を行う。加算器131は補正結果をR’信号として出力する。なお、G信号は補正を行わないまま条件判定回路114から出力される。
補正係数算出回路130に入力されるBゲイン補正係数とRゲイン補正係数とはレジスタ117経由で外部から制御可能であって、Bゲイン補正係数やRゲイン補正係数を変更することで、補正の強弱を調整可能である。
カメラ信号処理回路100の説明に戻る。条件判定回路114で生成されたG信号,B’信号,R’信号は、色差信号処理回路116に入力される。同様に、条件判定回路114で生成されたIR補正係数は乗算器112に入力される。乗算器112は、IR補正係数とフィルタ回路111で生成されたIR信号とを乗算することで、IR’信号を生成する。乗算器112で生成されたIR’信号は輝度信号処理回路115に入力される。また、条件判定回路114で生成された可視光補正係数は乗算器113に入力される。乗算器113は、フィルタ回路111で生成された可視光輝度信号と可視光補正係数とを乗算することでY’信号を生成したうえで、生成したY’信号を輝度信号処理回路115に入力する。
図6に輝度信号処理回路115の構成を示す。輝度信号処理回路115は加算器150、ハイパスフィルタ151,152、乗算器153,154、輪郭強調信号選択回路155、および加算器156を備える。
輝度信号処理回路115に入力されたY’信号とIR’信号とは加算器150で加算される。加算器150は加算結果をIR合成比率が調整された合成輝度信号として加算器156に入力する。
また、輝度信号処理回路115に入力されたY’信号はハイパスフィルタ151に、IR’信号はハイパスフィルタ152にそれぞれ入力される。ハイパスフィルタ151は、Y’信号の輪郭抽出処理を行ってY輪郭抽出信号を生成し、ハイパスフィルタ152は、IR’信号の輪郭抽出処理を行ってIR輪郭抽出信号を生成する。ハイパスフィルタ151は生成したY輪郭抽出信号をY輪郭ゲイン調整用乗算器153に入力し、ハイパスフィルタ152は生成したIR輪郭抽出信号をIR輪郭ゲイン調整用乗算器154に入力する。Y輪郭ゲイン調整用乗算器153は、入力されるY輪郭抽出信号と、レジスタ117から入力されるY輪郭ゲイン係数とを乗算処理することでY輪郭抽出信号のゲイン調整を行う。以上の処理を行うことでY輪郭ゲイン調整用乗算器153はY輪郭強調信号を生成し、生成したY輪郭強調信号を輪郭強調信号選択回路155に入力する。IR輪郭ゲイン調整用乗算器154は、入力されるIR輪郭抽出信号と、レジスタ117から入力されるIR輪郭ゲイン係数とを乗算処理することでIR輪郭抽出信号のゲイン調整を行う。以上の処理を行うことでIR輪郭ゲイン調整用乗算器154はIR輪郭強調信号を生成し、生成したIR輪郭強調信号を輪郭強調信号選択回路155に入力する。
ここで、近赤外光は、緑色をした草木を反射する特性があり、影の部分との明暗がより明確に出る傾向がある。したがって、草木が被写体である場合には、IR輪郭強調信号>Y輪郭強調信号となる。このことを利用して、IR輪郭強調信号をエッジ強調信号として適用することでより解像感のある映像を得ることが可能となる。輪郭強調信号選択回路155の動作条件は、
IR輪郭強調信号≦ Y輪郭強調信号の状態では、
輪郭強調信号= Y輪郭強調信号
IR輪郭強調信号> Y輪郭強調信号の状態では、
輪郭強調信号= IR輪郭強調信号
となる。
ただし、近赤外光は可視光とは異なる特性を備えており、例えば、青空に雲が浮かんでいた場合では、青空と雲との間のコントラクト差が大きいために、不用意に輪郭強調を行うと、過度な輪郭強調結果となる場合がある。このような過度な輪郭強調を抑制するためには特定の輪郭を抽出することが有効となる。特定輪郭を抽出するには、輪郭強調信号選択回路155の動作条件に、フィルタ回路111から出力されるR信号、B信号、G信号を付加すればよい。例えば、草木のような特定の輪郭を強調したい場合は、G信号を条件に付加する。G信号を条件に付加したときの条件は以下のようになる。
IR輪郭強調信号> Y輪郭強調信号 かつ G信号>閾値Gの状態では、
輪郭強調信号= IR輪郭強調信号
それ以外の状態では、
輪郭強調信号= Y輪郭強調信号
このとき、閾値Gはレジスタ117から入力される。
輪郭強調信号選択回路155で生成されたY輪郭強調信号は、加算器156に入力される。加算器156は、加算器150で生成された合成輝度信号とY輪郭強調信号とを加算することで合成輝度信号の輪郭強調を行う。加算器156は、輪郭強調を行った輝度信号として出力する。なお、レジスタ117から輝度信号処理回路115に入力されるY輪郭ゲイン係数とIR輪郭ゲイン係数とはレジスタ117経由で外部より制御可能であるため、これらY輪郭ゲイン係数とIR輪郭ゲイン係数とを操作者が変更することで、輪郭補正の強弱を調整することが可能となる。
次に、色差信号処理回路116の動作について、図7を参照して説明する。色差信号処理回路116は条件判定回路114からR信号,B信号,G信号,及びIR係数信号が入力される。
図7に色差信号処理回路116の構成図を示す。色差信号処理回路116に入力されたR信号、B信号、G信号は色差信号生成回路160に入力される。色差信号生成回路160は、以下の変換式に基づいて、R信号、B信号、G信号を処理することで、色差信号R−Y、色差信号B−Yを生成する。
(変換式)
R-Y = R-((0.59*G)+(0.3*R)+(0.11*B))
B-Y = B-((0.59*G)+(0.3*R)+(0.11*B))
色差信号生成回路160は、生成した色差信号R−Y,B−Yを乗算器161と、乗算器162とに入力する。乗算器161は色差信号R−Yのゲインを調整し、乗算器162は、色差信号B−Yのゲインを調整する。各乗算器161,162のゲイン調整は、IR係数に応じて可変となる。ここで説明するIR係数は、霞んだ映像信号をターゲットにしているために、その値が大きくなっている。IR係数が大きいことは霞んだ信号入力になっていることを意味しており、この場合には、可視光信号であるR信号、B信号、G信号は、色成分が少ない状態で色差信号生成回路160に入力される。したがって、IR信号の大きさに応じて、色差信号R−Y,B−Yのゲインを大きくすることで、色を鮮やかに見せることが可能となる。
乗算器163は、レジスタ117から入力されるR−Yゲイン補正係数と補正係数算出回路130から入力されるIR補正係数とを乗算することで、ゲイン調整信号R−Yを生成する。乗算器164は、レジスタ117から入力されるB−Yゲイン補正係数と補正係数算出回路130から入力されるIR補正係数とを乗算することで、ゲイン調整信号B−Yを生成する。このようにして乗算器163,164がIR補正係数にR−Yゲイン補正係数やB−Yゲイン補正係数を乗算することで、非可視光信号(IR信号)を用いた可視光信号(R信号,G信号,B信号)の補正量(どの程度補正するのか)を調整することが可能となる。R−Yゲイン補正係数とB−Yゲイン補正係数とは、レジスタ117経由で使用者等が外部から調整可能である。
乗算器163,164からそれぞれ出力されたゲイン調整信号R−Y,ゲイン調整信号B−Yは、乗算器161,162に入力される。乗算器161,162には、色差信号生成回路160から色差信号R−Y,色差信号B−Yも入力される。乗算器161は、色差信号R−Yにゲイン調整信号R−Yを乗算することで、色差信号R−Yのゲイン調整を行う。乗算器161,162から出力された、ゲイン調整後の色差信号R−Y(ゲイン調整済)、色差信号B−Y信号(ゲイン調整済)は多重処理回路165に入力される。多重回路165は、色差信号R−Y(ゲイン調整済)と色差信号B−Y信号(ゲイン調整済)とを多重化処理することで、最終の色差信号を生成して出力する。
以上の処理を行うことでカメラ信号処理回路100は輝度信号と色差信号とを生成してモニタIF回路101と記録装置99とに入力する。モニタ出力IF回路101は、入力される輝度信号と色差信号とからモニタ用映像信号を生成し、生成したモニタ用映像信号をモニタ102に入力する。例えば、モニタ102がRGB信号対応の表示装置である場合、モニタ出力IF回路101は、輝度信号と色差信号とからRGB信号を生成してモニタ102に出力する。このような処理を行う結果、モニタ102には 常にカメラ信号処理回路100の出力(輝度信号,色差信号)に基づいて表示を行うことができる。
画像記録装置99は、CPU103からシリアルインターフェースを介して記録コマンドを受け取ると、カメラ信号処理回路100から入力される輝度信号,色差信号を、記録媒体(図示省略)に記録する。
CPU103の汎用ポートは、標準値設定用SW104と、パラメータUP用SW105と、パラメータDOWN用SW106と、標準値切替用SW107と、パラメータ切替用SW108と、記録コマンドSW109とに接続されている。SW104〜109は、通常“L”レベルが出力されており、使用者がSW104〜109を操作したときのみに“H”となる。これらSW104〜109はデジタルカメラの外部に配置されたボタンに連動しており、使用者が外部からボタンを操作することで、SW104〜109がONする。これにより、任意にカメラ信号処理回路100を制御可能となる。
次にCPU103の動作に関して説明する。CPU103は、汎用ポートの状態に応じて、カメラ信号処理回路100のレジスタ117にアクセスすることで、デジタルカメラのパラメータを変更すると同時に、記録装置99に記録コマンドを送信し、画像の記録の制御を行う。
図11にCPUの制御のフローチャートを示す。制御がスタートすると、ステップS100でCount1=0が、ステップS101でCount2=0がそれぞれ設定される。Count1は標準値の組み合わせの状態を管理するステータスカウンタとなる。Count2はカメラ信号処理回路のどのパラメータにアクセスするかの状態を管理するステータスカウンタとなる。
次にステップS102で、汎用ポートがモニタされて、Wait状態となる。ステップS102のWait状態は、PORT0〜5のいずれかのPORTが変化したときに終了してステップS103に移行する。
ステップS103ではPORT5の状態が確認される。ステップS103でPORT5の状態が“1”になったことが確認されると、ステップS122に移行する。ステップS122では、記録コマンドが記録装置99に送信される。記録コマンドを受け取った画像記録装置99は、CPU103とのシリアルインターフェースから、記録コマンドを受け取ると、カメラ信号処理回路100から入力されるカメラ映像信号(輝度信号,色差信号)を、記録媒体に記録する。ここでは、記録コマンドSW109がONにされたタイミングがデジタルカメラのシャッタを押したタイミングとなる。
ステップS103で、PORT5の状態が“0”であることが確認されると、ステップS104に移行する。ステップS104ではPORT3の状態が確認される。ここで、PORT3が“1”であることが確認されると、ステップS111へ移行する。PORT3が”1”であることは、標準値切替SW107を押してONにした状態であることを示している。PORT3が”1”であることが確認されると、ステップS111に移行する。ステップS111では、Count1の値が1インクリメントされる。インクリメントされたCount1の値はステップS112でCount>4であるか否かの判断が実施される。ステップS112で、Count>4でない(Count≦4である)と判断される場合はステップS102に戻る。このように、ステップS102→ステップS103→ステップS104→ステップS111→ステップS112→ステップS102が繰り返されることで、Count1の値を0から4まで順に変更することが可能となる。
ステップS112でCount1>4であると判断される場合はステップS113に移行する。ステップS113では、Count1の値が0に戻される。すなわち、標準値切替SW107が操作されることで、Count1の値が0から4までの間で繰り返し変更される。
ステップS104でPORT3の状態が“0”のときは、ステップS105に移行する。ステップS105では、Baseの状態が、Count1の条件に基づいてセットされる。Baseは標準値を設定するため各パラメータの組み合わせである。Baseの条件は任意の値で、任意の組み合わせで実施可能であるが、今回の実施例としては、以下の5条件で動作を説明する。
Baseセット条件
・Count1=0の場合は、
Base=可視100%
・Count1=1の場合は、
Base=合成条件1
・Count1=2の場合は、
Base=合成条件2
・Count1=3の Base=合成条件3
・Count1=4の場合は、
Base=非可視100%
各パラメータの設定範囲を0〜255とした状態において、Count1=0(Base=可視100%)としたときの各パラメータの設定例は以下のような組み合わせとなる。
・閾値A=255
・閾値B=255
・係数kA=0
・係数kB=0
・Rゲイン補正係数=0
・Bゲイン補正係数=0
・Y輪郭ゲイン係数=0
・IR輪郭ゲイン係数=0
・R−Yゲイン補正係数
・B−Yゲイン補正係数=0
・閾値A=Max値
・閾値B=Max値
この場合、霞補正係数算出回路140と、青空補正係数算出回路141とでは、共に、補正係数(霞補正係数,青空補正係数)が0に設定される。これにより、IR補正はかからない状態となり、可視光信号が100%出力される。
また、Count1=4(Base=非可視100%)としたときの各パラメータの設定例は以下のような組み合わせとなる。
・閾値A=0
・閾値B=255
・係数kA=任意の値
・係数kB=任意の値
・Rゲイン補正係数=任意の値
・Bゲイン補正係数=任意の値
・Y輪郭ゲイン係数=任意の値
・IR輪郭ゲイン係数=任意の値
・R−Yゲイン補正係数=任意の値
・B−Yゲイン補正係数=任意の値
・閾値A=0
・閾値B=255(Max値)
この場合、霞補正係数算出回路140と、青空補正係数算出回路141とでは、共に補正係数(霞補正係数,青空補正係数)が100に設定される。これにより、IR補正は100%の状態となり、非可視光信号が100%出力される。
Base=合成条件1、Base=合成条件2、Base=合成条件3のときはそれぞれのパラメータに予め準備された任意の値がセットされる。非可視光信号と可視光信号との合成を行うためには、各パラメータを任意の中間値に設定する。この任意の値の設定においては、各パラメータを予め評価したうえで、ある条件化において最適と思われるパラメータを設定しておくことが望ましい。
次にステップS106では、PORT0の状態が確認される。PORT0が“1”であることが確認されると、ステップS121に移行する。PORT0が”1”の状態は、標準値設定用SW104が操作によりONにされた状態を示している。ステップS121では、ステップS105でセットされたBaseの条件にしたがって、カメラ信号処理回路100にパラメータの設定値を転送する。
例えば、可視光撮像カメラと、非可視光撮像カメラとを切り替えながら使用する場合、Base=非可視100%としたうえで、標準値設定用SW107を操作することで、このデジタルカメラを非可視光専用の撮像カメラに変更することが可能となる。
逆に、Base=可視100%の状態で、標準値設定用SW107を操作することで、このデジタルカメラを可視光専用の撮像カメラに変更することが可能となる。このように、標準値切替SW107で標準状態を切替ええながら、標準値設定用SW104を操作することで、可視光専用の撮像カメラと非可視光専用の撮像カメラとを切替ながら使用することが可能となる。
可視光映像と非可視光映像とを合成する場合、Base=合成条件1、Base=合成条件2、Base=合成条件3のいずれかの状態を選択したうえで標準値設定用SW104を操作してパラメータを設定することで、可視光映像、非可視光映像を合成可能なデジタルカメラに切り替えることができる。ここで設定された各パラメータの設定値は、ある条件下では最適な任意の値であっても、現在撮影する被写体に対しては、必ずしも最適な状態であるとは限らない。そこで、次に各パラメータの値を個別に任意に変更することが望ましい。以下に各パラメータの値を個別に任意に変更する手段を示す。ステップS106でPORT1の状態が“0”のときは、ステップS107へと移行する。
ステップS107では、PORT4の状態が確認される。PORT4が“1”であることが確認されると、ステップS114に移行する。PORT34が”1”の状態は、パラメータ切替用SW108が操作によりONにされた状態を示している。ステップS114では、Count2の値が1インクリメントされる。インクリメントされたCount2の値はステップS115において、Count2>9であるか否かが判断される。ステップS115において、Count2>9でないと判断される場合は、ステップS102に戻る。このように、ステップS102→ステップS103→ステップS104→ステップS105→ステップS106→ステップS107→ステップS114→ステップS115→ステップS102を繰り返すことで、Count2の値を0から9まで順に変更することが可能となる。ステップS115において、Count2>9であると判断される場合は、ステップS116に移行する。ステップS116では、Count2の値が0に戻される。これにより、パラメータ切替SW108を操作することで、Count2の値が0から9まで順番に、さらには9の次は0に戻る形で繰り返して変更することが可能となる。
一方、ステップS107でPORT4の状態が“0”であると判断されると、ステップS108に移行する。
ステップS108ではParmの状態が、Count2の条件によってセットされる。Parmはパラメータ選択の状態を示している。以下にパラメータ選択の条件の例を示す。
Parmセット条件
・Count2=0の場合は、
Parm=閾値A
・Count2=1の場合は、
Parm=閾値B
・Count2=2の場合は、
Parm=係数kA
・Count2=3の場合は、
Parm=係数kB
・Count2=4の場合は、
Parm=Rゲイン補正係数
・Count2=5の場合は、
Parm=Bゲイン補正係数
・Count2=6の場合は、
Parm=Y輪郭ゲイン係数
・Count2=7の場合は、
Parm=IR輪郭ゲイン係数
・Count2=8の場合は、
Parm=R−Yゲイン補正係数
・Count2=9の場合は、
Parm=B−Yゲイン補正係数
Parmのセットが終わるとステップS109へ移行する。ステップS108では、PORT1の状態が確認される。PORT1が“1”のとき、ステップS119に移行する。PORT1が”1”の状態は、パラメータUP用SW105が操作によりONにされた状態を示している。ステップS119では、カメラ信号処理回路100にシリアル通信が行われて、ステップS108でセットされたParmのパラメータのレジスタの値が読み出される。次にステップS120では、ステップS119で読み出されたレジスタ値に、加算数nの値が加算処理されることでレジスタ値が新しい設定値に更新される。次に、カメラ信号処理回路100にシリアル通信が行われて、ステップS108でセットされたParmのパラメータのレジスタ117に、加算処理された新しい設定値が書き込まれる。このとき加算数nは任意の数となる。
例えば、Parm=閾値Aで、加算数n=2のとき、まず、シリアル通信で閾値Aのレジスタ117にアクセスすることで、レジスタ117のデータが読み出される。このとき、読み出された閾値Aのデータが40であったすると、40+2=42の加算処理が行われたうえで、再度シリアル通信で閾値Aのレジスタ117にアクセスして加算処理された新しい設定値(42)が、閾値Aとしてレジスタ117に書き込まれる。これにより、パラメータUP用SW105を操作することで、Parmにセットされたパラメータの値を加算方向へ変更することが可能となる。
ステップS111では逆にPORT2の状態が確認される。PORT2が“1”であることが確認されると、ステップS117に移行する。PORT2が”1”の状態は、パラメータDOWN用SW106が操作によりONにされた状態を示している。ステップS117では、カメラ信号処理回路100にシリアル通信を行い、ステップS108でセットされたParmのパラメータのレジスタの値が読み出される。次にステップS118では、ステップS117で読み出されたデータ(パラメータのレジスト値)に、減算数nの減算処理が行われることで、パラメータのレジスト値が新しい設定値に更新される。次に、カメラ信号処理回路100にシリアル通信を行い、ステップS108でセットされたParmのパラメータが格納されたレジスタ117に、減算処理された新しい設定値が書き込まれる。このとき減算数nは任意の数となる。
例えば、Parm=閾値Bで、加算数n=1のとき、まず、閾値Bが格納されたレジスタ117にシリアル通信でアクセスすることで、レジスタ117のデータが読み出される。このとき、読み出された閾値Bのデータが30であったすると、30−1=29の減算処理が行われたうえで、再度シリアル通信で閾値Bが格納されているレジスタ117にアクセスして減算処理された新しい設定値(29)が閾値Bとしてレジスタ117に書き込まれる。これにより、パラメータDOWN用SW106をONにすることで、Parmにセットされたパラメータの値を減算方向へ変更することが可能となる。
以上の処理を整理すると、
1.標準値設定用SW107により合成条件の標準設定値を決定する、
2.パラメータ切替SW108により変更したいパラメータを選択する、
3.パラメータUP用SW105またはパラメータDOWN用SW106を操作して、パラメータの設定値を変更する、
4.他に変更したいパラメータがある場合には、上記1−3の処理を繰り返す、
という処理の流れとなる。
このとき、デジタルカメラは動作状態にあり常にモニタに映像が出力されているため、モニタで映像信号を確認しながら、パラメータを変更し、最適な条件を見つけ出すことができる。最適な条件が見つかった時点で、記録コマンドSW109をONにしたうえで、シャッタを操作することで、最適な状態での画像を記録する。
また、モニタで実際の映像信号を確認しながら最適条件を決定すると同時に、合成条件をモニタに出力することで、現在、どの様な条件で合成を行っているかを視覚的に確認することも可能である。合成条件をモニタに出力する手段を図12に示す。
図12に示すカメラ信号処理回路200の構成は、基本的には、図2に示すカメラ信号処理回路100と同等であり、同一ないし同様の部分には同一の符号を付している。最終段の輝度信号処理回路115の出力端にセレクタ208を、色差信号処理回路116の出力端にセレクタ209を、それぞれ挿入配置した構成となっている。セレクタ208,209それぞれには、レジスタ207から選択信号が供給される。これにより、セレクタ208,209それぞれは、外部から制御可能である。セレクタ208は制御信号が“0”の状態では、輝度信号処理回路115から出力される輝度信号を選択して出力し、制御信号が“1”の状態では、条件判定回路204から出力されるIR補正係数を選択して出力する。セレクタ209は、制御信号が“0”の状態では、色差信号処理回路116から出力される色差信号を選択して出力し、制御信号が“1”の状態では、色成分が“0”となる固定信号を選択して出力する。
したがって、制御信号が“0”のときは、通常の映像信号がカメラ信号処理回路200から出力される。このとき、IR補正係数は、IRの合成比率が高いときに大きな値となり、IRの合成比率が低いときには小さな信号となる。このIR係数信号を輝度信号として出力して、モニタに表示した場合、色差信号は、“0”となる固定信号であるため、白黒の画像となり、IRの合成比率が高い部分は白っぽく表示され、IRの合成比率が低い部分は黒っぽく表示される。これにより、モニタ102上では、合成比率に応じた階調を有する合成比率示唆画像が表示される。したがって、視覚的に合成比率を確認することが可能となる。
外部から切替制御を行う構成例を図13に示す。基本的な構成は図1と同じである。図1の構成においてCPU103のポートに接続されているSW104〜109を、図13の構成では、SW群215として表示している。モニタ102上で視覚的に合成比率を確認するための制御用のSWとしてCPU103のポートにSW216が追加されている。SW216がONしたときに、カメラ信号処理回路200にシリアル通信を行い、レジスタ117にアクセスを行って、セレクタ208,209の制御信号を変更することで、出力制御を行うことが可能となる。
上述した実施形態では、カメラ信号処理回路100は、図2に示すように、単一の可視光/非可視対応センサ110を備えたものであったが、図3に示すように、可視光センサ128と非可視光センサ120とを備えて構成することも可能である。ここでは、非可視光センサ120を近赤外光センサから構成している。
非可視光センサ120は、図10で示すようにすべて、IR画素からなるセンサである。可視光センサ128は図9に示すようにR画素,G画素,B画素からなるセンサである。このような画素配列のセンサ120,128を有するカメラ信号処理回路100の動作の説明を以下行う。
可視光センサ128から出力された映像信号は、フィルタ回路129に入力される。可視光センサ128からされた出力された映像信号は、1つの画素に対して、R画素,G画素,B画素のいずれかの1つの画素情報しか持っていないため、フィルタ回路129では、周辺の同色画素に対して画素重心を合わせこむ形で係数を設けて、フィルタ処理を行うことで、1つの画素に対してR信号,G信号,B信号、輝度信号を生成する。フィルタ回路129にて生成されたR信号,G信号,B信号と可視光輝度信号とのうちで、R信号,G信号,B信号は条件判定回路124に入力され、可視光輝度信号は乗算器113に入力される。図9に示す画素180に対して、R信号,G信号,B信号、可視光輝度信号を生成するためのフィルタ構成例を以下に示す。
G1=(G11+(3*G21)+(3*G12)+(9*G22))/16
R1=((3*R11)+R21+(9*R13)+(3*R23))/16
B1=((3*B12)+(9*B22)+B14+(3*B24))/16
Y1=(0.69*G1)+(0.3*R1)+(0.11*B1)
非可視光センサ120から出力された映像信号は、フィルタ回路121に入力される。非可視光センサ120は、1つの画素に対してIR画素のみを有しているため、非可視光センサ120で生成されるIR信号と、フィルタ回路129で生成されるR信号,G信号,B信号、可視光輝度信号とは、画素の重心位置がずれている。そのため、フィルタ回路120では、生成したIR信号の画素重心を、R信号,G信号,B信号、可視光輝度信号の画素重心に合わせこむために、フィルタ処理を行う。図10における画素190に対応するIR信号を生成するためのフィルタ構成例を以下に示す。
IR1=(IR11+IR21+IR12+IR22)/4
フィルタ回路121にて生成されたIR信号は乗算器112に入力される。このとき、フィルタ回路129で生成されるR信号,G信号,B信号,および可視光輝度信号と、フィルタ回路121で生成されるIR信号とは、可視光/非可視対応センサ110を有するカメラ信号処理回路100の動作で説明した、フィルタ回路111から出力されるR信号,G信号,B信号、可視光輝度信号、IR信号と同等になる。したがって、以降の動作は、可視光/非可視光対応センサ110を有するカメラ信号処理回路100の説明の動作と同等の動作を行う事で実現可能となる。
本発明にかかる可視光信号、非可視光信号の合成方法および、制御方法は、モニタを確認しながら撮影を行うデジタルカメラとして有用である。
本発明構成図 カメラ信号処理回路構成図 カメラ信号処理回路(2センサ対応)構成図 条件判定回路構成図 補正係数算出部構成図 輝度信号処理回路構成図 色差信号処理回路構成図 可視/近赤両対応センサ画素配列 可視センサ画素配列 近赤センサ画素配列 CPU制御フローチャート カメラ信号処理回路追加機能構成図 本発明構成図追加機能構成図
符号の説明
100、200 カメラ信号処理回路
101 モニタインターフェース回路
102 モニタ
103 CPU
99 記録装置
104、105、106、107、108、109、216 SW
215 SW群
110、200 可視光/非可視光対応センサ
120 非可視光センサ
128 可視光センサ
111、121、129 フィルタ回路
114 条件判定回路
115 輝度信号処理回路
116 色差信号処理回路
117 レジスタ
112、113、122、123、202、203、133、134、135、136、161、162、163、164 乗算器
208、209 セレクタ
130 補正係数算出回路
131、150、156 加算器
132、153、154 減算器
140 霞補正係数算出回路
141 青空補正係数算出回路
142 IR補正係数算出回路
143 インバータ
151、152 ハイパスフィルタ
155 輪郭信号選択回路
160 色差信号生成回路
165 多重処理回路
170、180、190 画素重心ターゲット

Claims (14)

  1. 可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
    前記可視光映像信号と前記非可視光映像信号とを、合成比率変更可能に合成する合成手段と、
    外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取った前記パラメータに基づいて前記合成比率を調整する調整手段と、
    前記合成手段が合成する合成映像信号から合成画像を生成して表示する表示手段と、
    を備え、
    前記合成画像を前記表示手段で表示しながら、前記操作者が前記調整手段に入力する前記パラメータを受け付け、受け付けた前記パラメータに基づいて前記調整手段が前記合成比率を変更する、
    ことを特徴とするデジタルカメラ
  2. 前記パラメータは、前記合成比率に応じて前記合成映像信号に設定される映像信号に関する係数であり、
    前記調整手段は、
    それぞれの撮影状況に応じて予め前記係数を設定して記憶したうえで、前記操作者による撮影状況の選択操作を受け付け、受け付けた前記選択状況に応じた前記合成比率の標準値を、受け付けた前記選択状況に対応する前記係数に基づいて設定する第1のコントロール手段と、
    前記第1のコントロール手段が設定した前記合成比率の標準値に基づいて前記合成手段が生成して前記表示手段が表示する前記合成画像を見ながら前記操作者が行う前記係数に関する入力操作を受け付け、受け付けた入力操作に基づいて前記係数を上昇調整する第2のコントロール手段と、
    前記第1のコントロール手段が設定した前記合成比率の標準値に基づいて前記合成手段が生成して前記表示手段が表示する前記合成画像を見ながら前記操作者が行う前記係数に関する入力操作を受け付け、受け付けた入力操作に基づいて前記係数を下降調整する第3のコントロール手段と、
    を備えることを特徴とする、
    請求項1に記載のデジタルカメラ
  3. 前記調整手段は、前記可視光映像信号100%(前記非可視映像信号0%)の第1のパラメータ標準値と、前記非可視光映像信号100%(前記可視光映像信号0%)の第2のパラメータ標準値とを予め記憶したうえで、前記第1のパラメータ標準値と第2のパラメータ標準値とを切り替えることで、当該デジタルカメラを、可視光撮像カメラと非可視光撮像カメラとに交互に切り替える、
    ことを特徴とする請求項1に記載のデジタルカメラ。
  4. 前記非可視光映像信号は近赤外光映像信号であり、
    前記合成手段は、前記表示手段に表示される前記合成画像における色成分のレベルに応じて前記操作者が前記調整手段に入力する前記パラメータに基づいて、前記可視光映像信号と前記近赤外光映像信号との合成比率を変更する、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ
  5. 前記生成手段は、
    可視光を受光して前記可視光映像信号を生成するとともに非可視光を受光して前記非可視光映像信号を生成する画素を、複数備える単一のイメージセンサと、
    前記イメージセンサの各画素から出力される前記可視光映像信号と前記非可視光映像信号とを、それぞれフィルタ処理することで、前記各画素に対応するR信号,G信号,B信号,可視光輝度信号,及び非可視光信号を生成するフィルタ回路と、
    を備え、
    前記合成手段は、前記フィルタ回路から出力される前記R信号,前記G信号,前記B信号,前記可視光輝度信号,及び前記非可視光信号を合成する、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ。
  6. 前記生成手段は、
    可視光を受光して前記可視光映像信号を生成する画素を複数備える可視光イメージセンサと、
    非可視光を受光して前記非可視光映像信号を生成する画素を複数備える非可視光イメージセンサと、
    前記可視光イメージセンサの各画素から出力される前記可視光映像信号を、フィルタ処理することで、前記各画素に対応するR信号,G信号,B信号,可視光輝度信号を生成する可視光フィルタ回路と、
    前記非可視光イメージセンサの各画素から出力される前記非可視光映像信号を、フィルタ処理することで、前記各画素に対応する非可視光信号を生成す非可視光フィルタ回路と、
    を備え、
    前記合成手段は、前記可視光フィルタ回路から出力される前記R信号,前記G信号,前記B信号,前記可視光輝度信号,及び前記非可視光フィルタ回路から出力される前記非可視光信号を合成する、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ。
  7. 前記可視光映像信号の高周波成分を抽出する可視光ハイパスフィルタと、
    前記非可視光映像信号の高周波成分を抽出する非可視光ハイパスフィルタと、
    前記可視光ハイパスフィルタにより抽出される可視光映像信号高周波成分の信号レベルと、前記非可視光ハイパスフィルタにより抽出される非可視光映像信号高周波成分の信号レベルとを比較し、その比較結果に基づいて、前記可視光映像信号高周波成分と前記非可視光映像信号高周波成分のうちの一方を選択する選択手段と、
    前記合成手段が出力する合成映像信号に前記選択手段が選択する高周波成分を加算する加算手段と、
    をさらに備える、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ。
  8. 前記生成手段は、R信号とG信号とを含んで前記可視光映像信号を生成し、
    前記調整手段は、調整した前記合成比率に基づいて、前記R信号と前記G信号との信号レベルを個別に変更する、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ。
  9. 前記調整手段は、調整した前記合成比率に基づいて、前記合成映像信号における各色の信号レベルを変更する、
    ことを特徴とする、
    請求項1に記載のデジタルカメラ。
  10. 前記表示手段は、前記合成比率に応じた階調を有する合成比率示唆画像を生成して表示する、
    ことを特徴する、
    請求項1に記載のデジタルカメラ。
  11. 可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
    前記可視光映像信号と前記非可視光映像信号とを合成する合成手段と、
    前記可視光映像信号の高周波成分を抽出する可視光ハイパスフィルタと、
    前記非可視光映像信号の高周波成分を抽出する非可視光ハイパスフィルタと、
    前記可視光ハイパスフィルタにより抽出される可視光映像信号高周波成分の信号レベルと、前記非可視光ハイパスフィルタにより抽出される非可視光映像信号高周波成分の信号レベルとを比較し、その比較結果に基づいて、前記可視光映像信号高周波成分と前記非可視光映像信号高周波成分のうちの一方を選択する選択手段と、
    前記合成手段が出力する合成映像信号に前記選択手段が選択する高周波成分を加算する加算手段と、
    を備える、
    ことを特徴とするデジタルカメラ。
  12. 可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
    前記可視光映像信号と前記非可視光映像信号とを、合成比率変更可能に合成する合成手段と、
    外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取った前記パラメータに基づいて前記合成比率を調整する調整手段と、
    前記合成手段が合成する合成映像信号から合成画像を生成して表示する表示手段と、
    を備え、
    前記生成手段は、R信号及び、G信号を含んで前記可視光映像信号を生成し、
    前記調整手段は、調整した前記合成比率に基づいて、前記R信号と前記G信号の信号レベルを個別に変更する、
    ことを特徴とするデジタルカメラ。
  13. 可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
    前記可視光映像信号と前記非可視光映像信号とを、合成比率変更可能に合成する合成手段と、
    外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取った前記パラメータに基づいて前記合成比率を調整する調整手段と、
    前記合成手段が合成する合成映像信号から合成画像を生成して表示する表示手段と、
    を備え、
    前記調整手段は、調整した前記合成比率に基づいて、前記合成映像信号における各色の信号レベルを変更する、
    ことを特徴とするデジタルカメラ。
  14. 可視光を受光して可視光映像信号を生成するとともに非可視光を受光して非可視光映像信号を生成する生成手段と、
    前記可視光映像信号と前記非可視光映像信号とを、合成比率変更可能に合成する合成手段と、
    外部から操作者が入力する画像合成に関するパラメータを受け取ったうえで、受け取った前記パラメータに基づいて前記合成比率を調整する調整手段と、
    前記合成手段が合成する合成映像信号から合成画像を生成して表示する表示手段と、
    を備え、
    前記表示手段は、前記合成比率に応じた階調を有する合成比率示唆画像を生成して表示する、
    ことを特徴するデジタルカメラ。
JP2008273018A 2008-10-23 2008-10-23 デジタルカメラ Pending JP2010103740A (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2008273018A JP2010103740A (ja) 2008-10-23 2008-10-23 デジタルカメラ
US12/573,566 US20100103268A1 (en) 2008-10-23 2009-10-05 Digital camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008273018A JP2010103740A (ja) 2008-10-23 2008-10-23 デジタルカメラ

Publications (1)

Publication Number Publication Date
JP2010103740A true JP2010103740A (ja) 2010-05-06

Family

ID=42117092

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008273018A Pending JP2010103740A (ja) 2008-10-23 2008-10-23 デジタルカメラ

Country Status (2)

Country Link
US (1) US20100103268A1 (ja)
JP (1) JP2010103740A (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010178036A (ja) * 2009-01-29 2010-08-12 Victor Co Of Japan Ltd 撮像装置および撮像方法
KR101247321B1 (ko) * 2010-12-09 2013-03-25 삼성테크윈 주식회사 이미지 센서용 계수 산출 장치 및 이미지 센서용 계수 산출 방법
WO2014122928A1 (ja) * 2013-02-08 2014-08-14 株式会社デンソー 画像処理装置
JP2017046349A (ja) * 2015-08-27 2017-03-02 フルークコーポレイションFluke Corporation 可視光画像データ及び赤外線画像データの組合せシステム、熱画像カメラ、赤外線画像を強調する方法を実行する命令を記録したコンピュータ読み取り可能な記録媒体
WO2017090462A1 (ja) * 2015-11-27 2017-06-01 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム
JPWO2016208142A1 (ja) * 2015-06-26 2018-04-12 日本電気株式会社 画像処理システム、画像処理方法、およびコンピュータ読取可能な記録媒体
WO2018079372A1 (ja) * 2016-10-28 2018-05-03 京セラ株式会社 撮像装置、撮像システム、移動体、及び撮像方法
US9990730B2 (en) 2014-03-21 2018-06-05 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
JP6351903B1 (ja) * 2016-10-14 2018-07-04 三菱電機株式会社 画像処理装置、画像処理方法、及び撮影装置
JP2020022088A (ja) * 2018-08-01 2020-02-06 キヤノン株式会社 撮像装置、制御方法、記録媒体、および、情報処理装置

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102466519B (zh) * 2010-11-10 2014-02-05 敦南科技股份有限公司 光感测装置的输出信号校正方法及光感测装置
US9143704B2 (en) * 2012-01-20 2015-09-22 Htc Corporation Image capturing device and method thereof
US9619195B2 (en) * 2013-11-01 2017-04-11 Apple Inc. Invisible light transmission via a display assembly
CN107918929B (zh) * 2016-10-08 2019-06-21 杭州海康威视数字技术股份有限公司 一种图像融合方法、装置及***
CN107566747B (zh) * 2017-09-22 2020-02-14 浙江大华技术股份有限公司 一种图像亮度增强方法及装置
JP7171254B2 (ja) * 2018-06-13 2022-11-15 キヤノン株式会社 画像処理装置、撮像装置、および画像処理方法
JP7250483B2 (ja) * 2018-11-12 2023-04-03 キヤノン株式会社 撮像装置、コンピュータプログラム、及び記憶媒体
CN109729274B (zh) * 2019-01-30 2021-03-09 Oppo广东移动通信有限公司 图像处理方法、装置、电子设备及存储介质

Family Cites Families (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6963366B2 (en) * 1996-06-19 2005-11-08 Canon Kabushiki Kaisha Image pickup apparatus
JP4511066B2 (ja) * 2001-03-12 2010-07-28 オリンパス株式会社 撮像装置
JP2002323649A (ja) * 2001-04-26 2002-11-08 Hitachi Ltd 撮像装置
JP4200890B2 (ja) * 2003-12-10 2008-12-24 株式会社日立製作所 映像信号処理装置及びそれを用いたテレビジョン受信機並びに映像信号処理方法
US7538326B2 (en) * 2004-12-03 2009-05-26 Fluke Corporation Visible light and IR combined image camera with a laser pointer
JP4441882B2 (ja) * 2005-11-18 2010-03-31 ソニー株式会社 撮影装置、表示制御方法、プログラム
US7773136B2 (en) * 2006-08-28 2010-08-10 Sanyo Electric Co., Ltd. Image pickup apparatus and image pickup method for equalizing infrared components in each color component signal
JP4757221B2 (ja) * 2007-03-30 2011-08-24 富士フイルム株式会社 撮像装置及び方法
JP5184016B2 (ja) * 2007-09-12 2013-04-17 オンセミコンダクター・トレーディング・リミテッド 撮像装置

Cited By (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010178036A (ja) * 2009-01-29 2010-08-12 Victor Co Of Japan Ltd 撮像装置および撮像方法
KR101247321B1 (ko) * 2010-12-09 2013-03-25 삼성테크윈 주식회사 이미지 센서용 계수 산출 장치 및 이미지 센서용 계수 산출 방법
US10063788B2 (en) 2013-02-08 2018-08-28 Denso Corporation Night-vision image processing apparatus
WO2014122928A1 (ja) * 2013-02-08 2014-08-14 株式会社デンソー 画像処理装置
JP2014171214A (ja) * 2013-02-08 2014-09-18 Denso Corp 画像処理装置
US10726559B2 (en) 2014-03-21 2020-07-28 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
US10366496B2 (en) 2014-03-21 2019-07-30 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
US9990730B2 (en) 2014-03-21 2018-06-05 Fluke Corporation Visible light image with edge marking for enhancing IR imagery
US11010876B2 (en) 2015-06-26 2021-05-18 Nec Corporation Image processing system, image processing method, and computer-readable recording medium
JPWO2016208142A1 (ja) * 2015-06-26 2018-04-12 日本電気株式会社 画像処理システム、画像処理方法、およびコンピュータ読取可能な記録媒体
JP2017046349A (ja) * 2015-08-27 2017-03-02 フルークコーポレイションFluke Corporation 可視光画像データ及び赤外線画像データの組合せシステム、熱画像カメラ、赤外線画像を強調する方法を実行する命令を記録したコンピュータ読み取り可能な記録媒体
US10152811B2 (en) 2015-08-27 2018-12-11 Fluke Corporation Edge enhancement for thermal-visible combined images and cameras
US10872448B2 (en) 2015-08-27 2020-12-22 Fluke Corporation Edge enhancement for thermal-visible combined images and cameras
WO2017090462A1 (ja) * 2015-11-27 2017-06-01 ソニー株式会社 情報処理装置、および情報処理方法、並びにプログラム
US10798307B2 (en) 2015-11-27 2020-10-06 Sony Semiconductor Solutions Corporation Information processing device, information processing method, and program
JP6351903B1 (ja) * 2016-10-14 2018-07-04 三菱電機株式会社 画像処理装置、画像処理方法、及び撮影装置
JPWO2018079372A1 (ja) * 2016-10-28 2019-09-12 京セラ株式会社 撮像装置、撮像システム、移動体、及び撮像方法
US10742890B2 (en) 2016-10-28 2020-08-11 Kyocera Corporation Imaging apparatus, imaging system, moving body, and imaging method
WO2018079372A1 (ja) * 2016-10-28 2018-05-03 京セラ株式会社 撮像装置、撮像システム、移動体、及び撮像方法
JP2020022088A (ja) * 2018-08-01 2020-02-06 キヤノン株式会社 撮像装置、制御方法、記録媒体、および、情報処理装置
JP7254461B2 (ja) 2018-08-01 2023-04-10 キヤノン株式会社 撮像装置、制御方法、記録媒体、および、情報処理装置

Also Published As

Publication number Publication date
US20100103268A1 (en) 2010-04-29

Similar Documents

Publication Publication Date Title
JP2010103740A (ja) デジタルカメラ
JP5460173B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、撮像装置
JP6259185B2 (ja) 撮像装置及びその制御方法、プログラム並びに記憶媒体
KR101427660B1 (ko) 디지털 영상 처리 장치에서 영상의 배경흐림 효과 처리장치 및 방법
JP6055681B2 (ja) 撮像装置
US9426372B2 (en) Imaging device and imaging method
US20170171446A1 (en) Image capturing apparatus, control method therefor, program, and recording medium
US20150036878A1 (en) Image processing apparatus and image processing method
JP2007142670A (ja) 画像処理システム、画像処理プログラム
WO2013032008A1 (ja) 画像処理装置、プログラム
JP7071084B2 (ja) 画像処理装置及び画像処理方法、プログラム、記憶媒体
KR101294735B1 (ko) 이미지 처리 방법 및 이를 이용한 촬영 장치
JP2011010194A (ja) ボカシ画像形成装置及びそれを備えたカメラ
JP2021182672A (ja) 画像処理装置、画像処理方法、及びプログラム
WO2016117137A1 (ja) 撮像装置、撮像方法、および画像表示装置
JP2019004230A (ja) 画像処理装置及び方法、及び撮像装置
JP6702752B2 (ja) 画像処理装置、撮像装置、制御方法及びプログラム
US10762600B2 (en) Image processing apparatus, image processing method, and non-transitory computer-readable recording medium
JPWO2019155757A1 (ja) 画像処理装置、画像処理方法及び画像処理システム
US11069031B2 (en) Image processing apparatus, control method for image processing apparatus, image pickup apparatus, and non-transitory computer-readable storage medium to control reflected color components of input image
US10051200B2 (en) Imaging apparatus and control method thereof
JP2007288573A (ja) クロマサプレス処理装置
JP2004088408A (ja) デジタルカメラ
JP4857856B2 (ja) 彩度調整機能を有する電子カメラ、および画像処理プログラム
KR20110060499A (ko) 디지털 영상 처리 장치 및 그 제어방법