JP2020048095A - 撮像装置及び制御方法 - Google Patents

撮像装置及び制御方法 Download PDF

Info

Publication number
JP2020048095A
JP2020048095A JP2018175628A JP2018175628A JP2020048095A JP 2020048095 A JP2020048095 A JP 2020048095A JP 2018175628 A JP2018175628 A JP 2018175628A JP 2018175628 A JP2018175628 A JP 2018175628A JP 2020048095 A JP2020048095 A JP 2020048095A
Authority
JP
Japan
Prior art keywords
image signal
image
changed
threshold
imaging device
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2018175628A
Other languages
English (en)
Other versions
JP7210199B2 (ja
Inventor
愛彦 沼田
Aihiko Numata
愛彦 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2018175628A priority Critical patent/JP7210199B2/ja
Priority to EP19189709.9A priority patent/EP3627828A1/en
Priority to US16/554,729 priority patent/US11138764B2/en
Priority to CN201910890089.6A priority patent/CN110933292A/zh
Publication of JP2020048095A publication Critical patent/JP2020048095A/ja
Application granted granted Critical
Publication of JP7210199B2 publication Critical patent/JP7210199B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • H04N23/951Computational photography systems, e.g. light-field imaging systems by using two or more images to influence resolution, frame rate or aspect ratio
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/001Texturing; Colouring; Generation of texture or colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/73Deblurring; Sharpening
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/11Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths for generating image signals from visible and infrared light wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/13Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with multiple sensors
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/741Circuitry for compensating brightness variation in the scene by increasing the dynamic range of the image compared to the dynamic range of the electronic image sensors
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10048Infrared image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20092Interactive image processing based on input by user
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computing Systems (AREA)
  • Studio Devices (AREA)
  • Cameras In General (AREA)
  • Color Television Image Signal Generators (AREA)

Abstract

【課題】撮像装置に関するユーザーの設定から、ユーザーの意図をくみ取って、それに応じた画像を取得する撮像装置を提供する。【解決手段】撮像装置100において、可視光に感度を有し輝度情報と色情報を含む第1の画像信号107を出力する第1の撮像素子103と、赤外光に感度を有し輝度情報を含む第2の画像信号108を出力する第2の撮像素子104と、第1の撮像素子から出力された第1の画像信号と、第2の撮像素子から出力された第2の画像信号を合成し、第3の画像信号を生成する合成処理部105と、第3の画像信号の明るさ、コントラスト、色のいずれかに関する撮影パラメータを設定する撮影パラメータ設定手段と、を有する。合成処理手段は、撮影パラメータ設定手段によって第3の画像信号の明るさ、コントラスト、色の少なくとも一つに関するパラメータが変更された場合に、第1の画像信号と第2の画像信号の合成割合を変更する。【選択図】図1

Description

本発明は撮像装置及びその制御方法に関するものである。
監視用途などの撮像装置においては、夜間などの低照度時にも鮮明な被写体像を取得することが要求される。低照度時にも鮮明な被写体像を取得できる撮像装置として、可視光に感度を有する撮像素子に加えて、赤外光に感度を有する撮像素子を備え、これら二つの撮像素子で取得した画像信号を合成して表示する撮像装置が提案されている(例えば特許文献1)
特開2013−247492号公報
特許文献1では、撮影環境に応じて、自動的に合成処理時の合成パラメータを決定している。しかしながら、ユーザーの意図によっては、必ずしもユーザーが所望する画像が取得できない場合がある。
そこで、本発明はユーザーによる各種パラメータ設定に基づき、ユーザーの意図を反映した最適な画像を取得することができるユーザーフレンドリーな撮像装置を得ることを目的とする。
撮像装置であって、可視光に感度を有し輝度情報と色情報を含む第1の画像信号を出力する第1の撮像素子と、
赤外光に感度を有し輝度情報を含む第2の画像信号を出力する第2の撮像素子と、
前記第1の撮像素子から出力された前記第1の画像信号と、第2の撮像素子から出力された第2の画像信号を合成し、第3の画像信号を生成する合成処理手段と、
前記第3の画像の明るさ、コントラスト、色のいずれかに関する撮影パラメータを設定する撮影パラメータ設定手段と、を有し、
前記合成処理手段は、前記撮影パラメータ設定手段によって前記第3の画像信号の明るさ、コントラスト、色の少なくとも一つに関するパラメータが変更された場合に、前記第1の画像信号と前記第2の画像信号の合成割合を変更することを特徴とする。
本発明によれば、ユーザーによる各種パラメータ設定に基づき、ユーザーの意図を反映した最適な画像を取得することができるユーザーフレンドリーな撮像装置を得ることができる。
実施例1の撮像装置の構成図。 波長選択プリズムのスペクトル分布図。 実施例1における動作を示すフローチャート。 実施例1の撮影パラメータ設定手段の構成例を示す図。 実施例2の撮影パラメータ設定手段の構成例を示す図。 色ゲインやαを変更した場合のヒストグラムを説明する図。 実施例2の彩度設定動作を示すフローチャート。 実施例2における彩度閾値を可変設定するためのフローチャート。 実施例2におけるユーザーインターフェースの変形例を示す図。 輝度ゲインやαを変更した場合のヒストグラムを説明する図。 実施例3における明るさの設定に関するフローチャート。 実施例4におけるコントラストの設定に関するフローチャート。
以下、図を用いて、本発明の実施例における撮像装置について説明する。その際、全ての図において同一の機能を有するものは同一の数字を付け、その繰り返しの説明は省略する。
本実施例における撮像装置を図1に示す。図1において、撮像装置100は、結像光学系101、光分離部102、第1の撮像素子103、第2の撮像素子104、合成処理部105、制御部106、撮影パラメータ設定手段110を有する。
光分離部102は、結像光学系101を通って入射した光を、第1の撮像素子103と第2の撮像素子104に分離している。具体的には、光分離部102は波長選択プリズムから構成されており、特定の閾値の波長よりも短い波長の光(可視光)は波長選択プリズムを透過し、特定の閾値の波長よりも長い波長の光(赤外光)は波長選択プリズムで反射されるように構成されている。なお、ここで透過する/反射するとは80%以上の光が透過する/反射することを意味する。
即ち、可視光は第1の撮像素子103に入射し、赤外光は第2の撮像素子104に入射するように構成されている。ここで、前記の特定の閾値は600nm以上750nm以下である。即ち、可視光と赤外光の境目は600nm以上750nm以下と定義する。また、赤外光とは前記特定の閾値から2500nmまでの波長の光を意味する。図2に、波長選択プリズムの分光透過スペクトルと分光反射スペクトルの例を示した。実線が透過、点線が反射である。
第1の撮像素子103は少なくとも可視光に感度を有し、第2の撮像素子104は少なくとも赤外光に感度を有している。例えば、光電変換部の材料としてSiを使用すれば、波長380nm以上波長1100nm以下の光に感度を有する撮像素子が実現できる。従って、第1の撮像素子103、第2の撮像素子104ともに、光電変換部をSiで形成すればよい。なお、第1の撮像素子103、第2の撮像素子104としては、例えばCCDやCMOSタイプの固体撮像素子などを用いることができる。
第1の撮像素子103中の画素は、RGBベイヤー配列のオンチップカラーフィルタを備えており、第1の撮像素子103から出力されるRGB形式の第1の画像信号107には輝度情報のほかに色情報が含まれている。一方、第2の撮像素子104から出力される第2の画像信号108には輝度情報のみが含まれている。なお、第1の撮像素子103は可視光をメインとした感度分布を持っていればよく、可視光以外の感度分布を持っていてもよい。
また、第2の撮像素子104は赤外光をメインとした感度分布を持っていればよく、赤外光以外の光に対しても感度分布を持っていてもよい。各々の撮像素子103、104の駆動および画像信号の読み出しは、制御部106が制御している。制御部106にはCPUなどのコンピュータや、メモリが含まれている。なお前記メモリには、前記CPUによって後述のフローチャートの動作を実行させるためのコンピュータプログラムが記憶されている。また制御部106にはCPUからの指示に基づき各種回路の動作を制御するための駆動回路も内蔵されている。
合成処理部105は、第1の画像信号107と第2の画像信号108を合成して、第3の画像信号109を生成する。具体的には、例えば以下のような処理を行う。
まず、RGB形式で読み出された第1の画像信号107をデモザイク処理し、現像してYUV形式の画像信号に変換する。この際の第1の画像信号107から得られたYUV信号を各々、Y1、U1、V1とする。同様に、第2の画像信号108も現像してYUV形式に変換する。この際の第2の画像信号108のY信号をY2とする。なお、第2の画像信号108は色情報を有さずUとVの値はゼロである。
次に、Y1信号とY2信号を合成して、第3の画像信号109を生成する。具体的には、第3の画像信号109のYUV信号を各々、Y3、U3、V3とした時、以下のような式を用いて第3の画像信号109を生成する。
Y3=α×Y1+(1−α)×Y2 (式1)
U3=U1 (式2)
V3=V1 (式3)
ここで、αは0以上1以下の実数である。式1からわかるように、Y信号で決まる輝度情報に関しては、αの値が大きいほど、第3の画像信号109は第1の画像信号107に近くなり、αの値が小さいほど、第3の画像信号109は第2の画像信号108に近くなる。また、U信号、V信号とY信号の比で決まる色情報に関しても、αの値が大きいほど、第3の画像信号109は第1の画像信号107に近くなり、αの値が小さいほど、第3の画像信号109は第2の画像信号108に近くなる。
夜間などの低照度時には可視光成分よりも赤外光成分の方が強い場合が多い。従って、合成処理部105によって合成処理を行うことで、第1の画像信号107よりもSN比に優れ、輝度情報と色情報の両方の情報を持つ第3の画像信号109を取得することができる。
式1より、第3の画像信号109は、αの値が大きいほど第1の画像信号107に近いため、色再現性に優れた画像信号となる。一方、αの値が小さいほど第2の画像信号108に近いため、SN比に優れた画像信号となる。即ち、色再現性とSN比はトレードオフの関係となっており、αの値を制御することでSN比と色再現性のどちらを重視するかを変更することができる。
次に図3は本実施例における動作を示すフローチャートである。まずS301において撮影環境の照度を測定する。具体的には例えば前記第1の画像信号のY信号のレベルを平均化することによって被写体の照度を検出することができる。そして検出された照度に応じてS302においてαの値を決定する。具体的には、照度が高いほどαを大きく、照度が低いほどαを小さくする。即ち、照度が高いほど色再現性を重視した合成画像を生成し、照度が低いほどSN比を重視した合成画像信号を生成する。例えば、十分な照度が得られている場合にはαを1にして第1の画像信号107を表示し、照度が低下するにつれて、αを小さくして連続的に重みを変更して合成画像信号である第3の画像信号109を表示する。そして最終的にはαを0にして第2の画像信号108を表示する。
しかしながら、照度が同じであっても、ユーザーによって、色再現性を重視したい場合、SN比を重視したい場合が異なる。そこで本実施例では、更に撮像装置に関するユーザーインターフェースの各種設定状況から、ユーザーの意図をくみ取って、前記αを変更し色再現性とSN比のどちらを重視するかを切り替えているため、最適な画像信号を取得できる。以下で更に詳細な説明を行う。
図4は撮影パラメータ設定手段の構成例を示す図である。撮影パラメータ設定手段110は例えば画像表示が可能な液晶タッチパネルから構成されており、合成処理部105で生成した第3の画像信号109を表示する表示部111を有する。更に、画像の露出、コントラスト、色などに関する設定を行うインターフェース112を備えている。ユーザーがカーソルやタッチパネルなどのインターフェース112を用いて露出、コントラスト、色等に関する設定を行うと、その設定を反映して、表示部111に表示する第3の画像信号109が変化するように構成されている。
なお、後述するように、撮像装置100内部に表示部111やインターフェース112を備えていなくても良い。例えば、撮像装置100がネットワークを介して第3の画像信号103をPCやスマートフォンなどのクライアント装置に転送し、クライアント装置側に配置された表示部やインターフェースを用いて、ユーザーが撮影パラメータを設定する構成となっていても良い。
更には合成処理部105もクライアント装置側に配置してもよく、クライアント装置からの指示に応じて撮像装置100から第1の画像信号と第2の画像信号をクライアント装置に送り、クライアント装置側で合成を行ってもよい。
まず、図3のS303において、ユーザーが明るさに関する設定を行ったか否かを判断する。ここで、明るさに関する設定とは、目標の露出レベルを変更する設定を含む。
また、自動露出設定をシャッター優先モードにしたり、シャッタースピードやゲイン(撮像感度)そのものをマニュアルで設定したりする場合も含む。また、シャッタースピードやゲインをマニュアルで所定値より小さくしたり、シャッタースピードやゲインの上限/下限値を設定したりする設定も含む。また、表示される画像の明るさ(ブライトネスと呼ぶこともある)の設定も含む。なお、結像光学系101が絞り調整機能を有している場合には、自動露出設定を絞り優先にしたり、絞り値をマニュアルで設定したりする設定も含む。
ユーザーが、これらの明るさに関する設定を行った場合、ユーザーは第3の画像信号109の明るさ、または、第3の画像信号109の解像感、を重視していることが分かるので前記αを所定割合下げる。
即ち、S304において、αを所定割合さげる。更にユーザーが目標の露出レベルを上げた場合、あるいは画像の明るさを上げた場合等においては、ユーザーは第3の画像信号109の内、暗い部分の視認性を向上させようとしているとしてαを更に下げてもよい。一方、ユーザーが目標の露出レベルを下げた場合、あるいは画像の明るさを下げた場合、ユーザーは第3の画像信号109の内、明るい部分の視認性を向上させようとしているのでαを上げてもよい。
また、S304において、絞り優先モードに切り替えたり、ユーザーが絞りを調整したりした場合、即ち絞りを開いた場合にはピント面近傍の被写体の解像感を向上させようとしていることが分かる。また絞りを絞った場合にはピント面から離れた被写体の解像感を、向上させようとしていることが分かる。したがっていずれの場合もαを所定割合下げる。
一般に、結像光学系の解像力は、ピント面近傍が最も高く、ピント面から離れるに従って、物体が十分に遠い場合、ほぼピント面からの距離の逆数に比例して解像力が低下する。ピント面での解像力は、収差や回折の影響によって多少ずれるものの、おおまかには結像光学系のF値(絞り値)に反比例する。また、解像力のピント面からの距離の逆数に対する比例係数は、収差や回折の影響によって多少ずれるものの、おおまかには結像光学系のF値の2乗に反比例する。即ち、絞りを開いているほど、ピント面近傍の画像の解像感が高く、絞りを絞っているほど、ピント面から離れた被写体の解像感が高くなる。したがって、ユーザーが解像感を高めようとして絞りを操作した場合にはαを所定割合下げる。
またS304において、ユーザーがシャッタースピードを短くした場合には動き量の大きい被写体の解像感を、シャッタースピードを長くした場合には暗い部分の視認性を向上させようとしていることが分かる。なぜなら、シャッタースピードが短いほど、動きブレの影響が小さく、シャッタースピードが長いほど、撮像素子の画素に入射する光の量が増加するため、暗い部分のSN比が向上するためである。したがって、シャッタースピード優先モードに切り替えたり、シャッタースピードを調整したりした場合にはαを所定割合小さくする。
同様に、S304において、ユーザーがゲイン、あるいはゲインの上限値を設定した場合には、暗い部分の視認性を、向上させたいことが分かる。したがって、αを所定割合小さくする。
以上のように、S303でユーザーが明るさに関する設定を行った場合、その背景には、第3の画像信号109の明るさ、または、第3の画像信号109の解像感のどちらかを重視したい、という意図があることが分かる。即ち、いずれの場合もユーザーは色情報よりも輝度情報を重視していることが分かる。
そこで、本実施例の撮像装置100では、ユーザーが明るさに関する上記のような明るさに関する設定のいずれか1つの設定を行った場合、S304において基本的にαを所定割合(例えば数%)下げる。更に明るさを上げるような設定(例えば絞り値を所定より小さくしたり、シャッタースピードを所定値より長くしたり、撮像感度を所定値より上げた場合等)をした場合には合成割合αを更に小さくして、第3の画像信号109を第2の画像信号108に近づける。前述したように、合成割合αが小さいほど、画像のSN比を向上させることができるため、ユーザーの意図通りの画像を取得することができる。逆に明るさをさげるような設定をした場合にはαを大きくしてもよい。
次に、S305において、ユーザーがコントラストに関する設定を行ったか否か判別する。ここで、コントラストに関する設定とは、表示される画像のコントラスト、エッジ強調の強さ、画像圧縮の設定を含む。また、結像光学系がフォーカスの手動調整機能やズームの手動調整機能を有している場合、フォーカスやズームに関する手動設定を含む。
ユーザーが、これらのコントラストに関する設定を行った場合、ユーザーは、第3の画像信号109の解像感を重視していることが分かる。
即ち、ユーザーがフォーカスを調整した場合、ユーザーが視認したい領域の解像感が十分ではなく、第3の画像信号109全体、もしくはその一部の領域の解像感を向上させたい、という意図がある。また、ユーザーがズーム倍率を高くした場合、あるいは、ユーザーが表示される画像のコントラストを上げた場合には、ユーザーが視認したい領域の解像感が十分ではなく、解像感を向上させたい、という意図がある。
以上のように、ユーザーがコントラストに関する設定を行った場合、その背景には、第3の画像信号109の解像感を重視したい、という意図があることが分かる。即ち、ユーザーは色情報よりも輝度情報を重視していることが分かる。
そこで、本実施例の撮像装置100では、S305でユーザーがコントラストに関する設定を行った場合、S306においてαを所定割合(例えば数%)下げる。更に、コントラストを上げるような設定の場合にはαを更に小さくして、第3の画像信号109を第2の画像信号108に近づける。前述したように、合成割合αが小さいほど、画像信号のSN比を向上させることができるため、ユーザーの意図通りの画像を取得することができる。逆にコントラストを下げるような設定の場合にはαを上げてもよい。なお、本実施例ではS304とS306でそれぞれαを所定割合下げているが、例えばS304でαを所定割合下げたら、S306では再度αを下げないようにしてもよい。
続いて、S307で、ユーザーが色に関する設定を行ったか否か判別する。ここで、色に関する設定とは、各色のゲインを手動で調整したり、表示される画像の色の彩度を変更したりする設定を含む。また、ユーザーによる、色温度の設定や、自動色バランス調整の実施、といった設定を含む。
ユーザーが、これらの色に関する設定を行った場合、ユーザーは、第3の画像信号109の色再現性を重視している。なぜなら手段、ユーザーが色に関する設定を行ったということは、現在表示されている第3の画像信号109の色情報の視認性が不十分であると感じており、色情報を改善させたい、という意図が読み取れるからである。
そこで、本実施例の撮像装置100では、ユーザーが色に関する設定を行った場合、S308で合成割合αを所定割合(例えば数%)大きくして、第3の画像信号109を第1の画像信号107に近づける。前述のように、合成割合αが大きいほど、画像の色再現性が向上するため、ユーザーの意図通りの画像を取得することができる。なお、本実施例ではS304やS306で一旦αを所定割合下げたのち、S308でαを所定割合上げるようにしている。しかし、S308ではαを所定割合上げる際の基準はS302で照度に応じて変更されたαを基準にしてS308でαを所定割合上げるようにしてもよい。
以上では、第3の画像信号109のみを表示する場合を示したが、第1の画像信号107、第2の画像信号108のいずれか、または両方を第3の画像信号109とともに同時に表示しても良い。但し、特に撮像装置100がネットワークを介して画像信号をクライアント装置に転送している場合、表示する画像の種類が多いほど、データ量が増大して、表示画像の遅延を招くため、第3の画像信号109のみを転送して表示する方が好ましい。
ユーザーが明るさ、コントラスト、色に関する設定を行う前の合成割合αは一定の値(例えば0.5)を使用しても良い。あるいは、ユーザーが明るさ、コントラスト、色に関する設定を行った場合、どの程度合成割合αを変更するかを、パラメータの変更度合によって変更しても良い。例えば、露出レベルや画像の明るさ、コントラスト、色の彩度などの場合値の変更度合が大きいほど、合成割合の変更度合いを大きくする方が好ましい。
なお、ユーザーが直接、合成割合αを設定するようにしてもよいが、本実施例のように、撮影パラメータの設定から、間接的にユーザーの意図を読み取ってαを変更する方が好ましい。以下で理由を説明する。通常の可視光画像を取得する撮像装置の場合、可視光画像と赤外光画像の合成は行わないため、ユーザーは合成割合αを変更できない。そのため、通常の可視光画像を取得する撮像装置に慣れたユーザーにとって、合成割合αを変更した場合に、生成される合成画像がどのように変化するか、を予測することが難しい。本実施例の撮像装置の場合、ユーザーは、通常の可視光画像を取得する撮像装置でも使用している、撮影パラメータの設定のみを行うため、ユーザーにとって生成される画像の変化を予測することが容易である。即ち、本実施例の撮像装置では、ユーザーは、通常の可視光を取得する撮像装置と同様の撮影パラメータの設定を行うだけで、撮像装置が自動で最適な合成割合αを判断し、ユーザーの意図通りの第3の画像信号を生成することができる。従って特別な技術的な知識がなくてもユーザーフレンドリーな設定が自動で行われることになる。
なお、S308の後でユーザーは第3の画像信号の表示状態を確認して、αを更に手動で設定(微調整)できるようにしてもよい。即ち、ユーザーインターフェースはαを手動設定するための設定手段を有し、S309においてαの手動設定が所定時間内に行われたか否かを判別し、Yesの場合にはS310でαをそれに応じて変更する。そのあとS311に進む。S309でNoの場合はαを変更せずにS311に進む。S311において、(ユーザーが表示されている合成画像に対する各種設定が完了したと判断して)不図示の決定ボタンが押した、あるいは最後の設定から所定時間以上が経過したか否かを判別する。S311でYes即ち前記決定ボタンが押されたか最後の設定から所定時間が経過したらS312に進み上記の各種のパラメータ設定状態と最終的なαとユーザーIDとを関連付けて不図示の不揮発性メモリに学習データとして保存し、フローを終了する。
なお、上記の不揮発性メモリに保存された学習データは図3のフローの開始にあたってユーザーIDの入力にともなって読出されるようにしてもよい。そうすることによって、図3のフローにおいてα等の変更をする際に上記の不揮発性メモリから読み出されたユーザーごとの過去の設定情報を参照することによってユーザーごとの好みを反映した最適な設定が可能となる。
実施例2の撮像装置では、ユーザーの撮影パラメータの設定に応じて、合成割合αを変化させる場合と、合成割合αを変化させない場合を使い分けるようにする。具体的には、合成割合αを変化させなくても、ユーザーの意図が反映できる場合にはαを変化させず、αを変化させないと、ユーザーの意図が反映できない場合には、αを変化させる。このような構成とすることで、ユーザーの意図を更に正確に反映した第3の画像信号109が取得できるため、好ましい。
例として、ユーザーが色の彩度を変更する場合について図5〜図7を用いて説明する。色の彩度はU信号、V信号が大きくなるほど、大きい。一方、前述したように、合成割合αが大きいほど、Y信号に対するU信号、Y信号に対するV信号の比を向上させることができる。言い換えると、Y信号に対するU信号、V信号の比を向上させるためには、色の彩度を大きくするか、合成割合αを大きくすればよい。
なお、一般に、色の彩度が同じ、即ちU信号とV信号の値が変化しなくても、Y信号が変化すると、色の鮮やかさは異なって見える。即ち、Y信号に対するU信号、V信号の比が、色の鮮やかさに相当するため、以下では、Y信号に対するU信号、V信号の比を、色の鮮やかさと呼ぶ。
即ち、ユーザーが色の鮮やかさを減少させたい場合には、第3の画像信号109を生成し表示する際に、色ゲインによって彩度を減少させる方法と、合成割合αを小さくして第2の画像信号108に近い第3の画像信号109を生成する方法が選択できる。一方、ユーザーが色の鮮やかさを向上させたい場合には、第3の画像信号109を生成し表示する際に、色ゲインによって彩度を向上させる方法と、合成割合αを大きくして第1の画像信号107に近い第3の画像信号109を生成する方法を選択できる。そこで、実施例2の撮像装置では以下のような制御を行う。
図5は実施例2の撮像装置の撮影パラメータ設定手段110の例を示した図である。撮影パラメータ設定手段110は、合成処理部105で生成した第3の画像信号109を表示する表示部211と、画像の露出、コントラスト、色に関する設定を行うユーザーインターフェース212を備えている。図5では、例として色の彩度を設定するユーザーインターフェースのみを示したが図3のように明るさやコントラストについてもインターフェースを備えていてもよい。なお、色の彩度設定用カーソル213は左に動かすほど色の彩度が低く、右に動かすほど色の彩度が高くなるようなユーザーインターフェースである。
彩度設定用カーソルの位置が第1の彩度閾値C1より大きくかつ、第2の彩度閾値C2より小さい(ただしC1<C2)の場合には表示する際の色ゲインの変更のみによって、ユーザーの意図通りの彩度の第3の画像信号109が取得できる。一方で、彩度設定用カーソルの位置が第1の彩度閾値C1より小さい、あるいは第2の彩度閾値C2より大きい場合には、色ゲインの変更のみでは、ユーザーの意図通りの彩度の第3の画像信号109を取得するのが困難になる。
図6は色ゲインやαを変更した場合のヒストグラムを説明する図である。より具体的には、表示する際に色ゲインを変更することによって色の鮮やかさを変化させた場合と、合成割合αによって色の鮮やかさを変化させた場合の差異を説明する模式図である。図6(A)は色の鮮やかさの変更前、図6(B)は、図6(A)に対して、表示する際の色ゲインを上げた場合、図6(C)は、図6(A)に対して、合成割合αを大きくした場合である。また、図6(D)は色の鮮やかさの変更前、図6(E)は、図6(D)に対して、表示する際の色ゲインを下げた場合、図6(F)は、図6(D)に対して、合成割合αを小さくした場合である。
色ゲインを変更することによって色の鮮やかさを変化させた場合には、元々の画像が有するビット数以上の階調表現ができないため、図6(B)、(E)のように、中間階調の色の再現性が低下してしまう。特に、色ゲインを大きく変更するほど、中間階調の色の情報が失われる。一方、合成割合αによって色の鮮やかさを変化させた場合、第3の画像信号109を生成するところで中間階調を維持することができるため、図6(C)、(F)のように、中間階調を維持したまま、色の鮮やかさを変更することができる。
図7は実施例2における彩度設定動作を示すフローチャートである。実施例2ではS701で彩度の設定がなされたか否かを判別し、彩度の設定がなされた場合にはS702において、変更後の彩度が第2の彩度閾値C2より小さいか判別する。S702でYesの場合にはS703で変更後の彩度が第1の彩度閾値C1より大きいか判別する。S703で変更後の彩度が第1の彩度閾値C1より大きい場合には、合成割合αを変化させずに彩度のアップダウンの設定に応じて色ゲインをアップダウンさせる(S704、図7の真ん中のルート)。一方で、S702においてNo即ち変更後の彩度が第2の彩度閾値C2より小さくない場合には、彩度のアップに応じて合成割合αを増加させて第3の画像信号109を第1の画像信号107に近づける(S705、図7の一番右のルート)。一方S703において変更後の彩度が第1の彩度閾値C1より大きくない場合には、彩度ダウンに応じて合成割合αをダウンさせて第3の画像信号109を第2の画像信号108に近づける(S706、図7の一番左のルート)。そして、このような構成とすることで、ユーザーの意図を更に正確に反映することができる。以下で理由を説明する。
合成処理を行わずに、通常の可視光画像を取得する撮像装置を想定した場合、合成割合によって色の鮮やかさを制御することができない。従って、通常の可視光画像を取得する撮像装置においては、ユーザーが色の彩度の変更を行った時、色ゲインによって色の鮮やかさが変わる。従って、ユーザーが本実施例の撮像装置に対して彩度を変更した場合も、ユーザーは色ゲインによって色の鮮やかさが変わることを予測している可能性が高い。
そこで、実施例2の撮像装置では、中間階調の色の再現性が許容できる範囲内では、通常の可視光画像を取得する撮像装置と同様に、S704でαを変更せずに色ゲインによって色の彩度を変更する。このような構成とすることで、通常の可視光画像を取得する撮像装置と同じような動作を予測するユーザーに対して、より違和感の少ない画像を取得できる。なお、図7の実施例においてS705とS706においても彩度のアップダウンに応じて色のゲインをアップダウンしてもよい。
なお第1の彩度閾値C1、第2の彩度閾値C2は可変としてもよい。図8は実施例2における第1の彩度閾値C1、第2の彩度閾値C2を可変設定するためのフローチャートである。この実施例においてはメニュー選択によって彩度閾値を手動で変更するモードか彩度閾値を自動で変更するモードを選択できる。また、手動で変更するモードの場合にさらに、色重視モードか否かを選択できるものとする。図8において、S801で彩度閾値を手動で変更するモードか否かを判定し、Yesの場合には更にS802で色重視モードか否かを判別する。色重視モードの場合には、S803において、合成割合αを上げるとともに、彩度閾値C1を下げ、彩度閾値C2を上げC1とC2の間隔を広げる。S802で色重視モードでないと判別された場合にはS804で、合成割合αを下げるとともに、彩度閾値C1を上げ、彩度閾値C2を下げC1とC2の間隔を狭くする。
一方S801で彩度閾値を自動で変更するモードと判別された場合には、S805において照度が所定の値M2より大きいか否かを判別する。S805において照度がM2より大きいと判別された場合にはS803に進み、合成割合αを上げるとともに、彩度閾値C1を下げ、彩度閾値C2を上げC1とC2の間隔を広げる。S805で照度がM2より大きくないと判別された場合にはS806に進み、照度が所定の値M1(ただしM1<M2)より小さいか否か判別する。S806で照度がM1より小さい場合にはS804に進み、合成割合αを下げるとともに、彩度閾値C1を上げ、彩度閾値C2を下げC1とC2の間隔を狭くする。S806でNoの場合、即ち、照度がM1とM2の間である場合にはC1、C2は変更しない。このように第1の彩度閾値C1、第2の彩度閾値C2を可変設定することによって図7のフローチャートにおけるαの制御がより最適にできるようになる。
次に図9は実施例2における図5のユーザーインターフェース212の変形例を示す図であり、図9(A)に示す様に、第1の彩度閾値C1、第2の彩度閾値C2をユーザーインターフェース212上に表示しても良い。この時、図9(B)に示す様に、ユーザーインターフェースの例えば色や明るさや線の太さや破線実線などを、C1とC2の間の領域と、C1より小さい、あるいはC2より大きい領域とで変更すると更に好ましい。図9(B)では、第1の彩度閾値C1や第2の彩度閾値C2の間の領域は実線、第1の彩度閾値C1より小さい、あるいは第2の彩度閾値C2より大きい領域では点線で表示されるようにしている。
また、図9(C)に示す様に、色の彩度設定用カーソル213がC1とC2の間の領域にある場合には、C1より小さい、あるいはC2より大きい領域の部分は表示されていなくても良い。この時、図9(D)に示す様に、ユーザーが色の彩度設定用カーソル213がC1からC2の領域を越えて設定しようとした場合にのみ、C1より小さい、あるいはC2より大きい領域が表示されるようになっていても良い。
あるいは、図9(E)に示す様に、ユーザーが色の彩度設定用カーソル213が第1の彩度閾値C1、または第2の彩度閾値C2を越えて設定しようとした場合に、ポップアップ警告(例えば「これ以上彩度を上げると合成割合が変わります。」など)が表示されるようになっていても良い。
図9(A)〜(E)に示すような構成とすることで、ユーザーが、色ゲインによって変化して色の彩度が変化しているのか、合成割合によって変化しているのかを、把握することができるため、好ましい。なお、図9(A)〜(E)では、彩度設定用カーソル213が長方形のバーと、円形のカーソルの組み合わせである場合を示したが、他の形の図形を使用しても良いし、彩度を数字で表現しても良い。
以上では、ユーザーが色の彩度を変更した場合について説明したが、明るさに関する設定についても、同様の構成とすることが好ましい。
即ち、実施例3においては、明るさについても、ユーザーが表示される画像の明るさの設定を変更した場合に、実施例2と同様の構成を適用するものとする。前述したように、夜間などの低照度時には可視光成分よりも赤外光成分の方が強い場合が多い。従って、第1の画像信号107の方が、第2の画像信号108よりも相対的に暗い。
即ち、ユーザーが明るさを暗くしたい場合には、第3の画像信号109を生成した後に、表示する際の輝度ゲインを変更して明るさを暗くする方法と、合成割合αを大きくする方法が選択できる。一方、ユーザーが明るさを明るくしたい場合には、第3の画像信号109を生成した後に、表示する際の輝度ゲインを変更して明るさを明るくする方法と、合成割合αを小さくする方法が選択できる。
図10は表示する際に輝度ゲインを変更することによって明るさを変化させた場合と、合成割合αによって明るさを変化させた場合の差異をヒストグラムを用いて説明した模式図である。図10(A)は明るさの変更前、図10(B)は、図10(A)に対して、表示する際の輝度ゲインを上げた場合、図10(C)は、図10(A)に対して、合成割合αを大きくした場合である。また、図10(D)は明るさの変更前、図10(E)は、図10(D)に対して、表示する際の輝度ゲインを下げた場合、図10(F)は、図10(D)に対して、合成割合αを小さくした場合である。
図11は実施例3における明るさの設定に関するフローチャートであり、まずS1101において明るさ設定をしたか否かを判別する。Yesの場合、S1102で、変更後の明るさが第2の輝度閾値L2より小さいか否かを判別する。Yesの場合には更にS1103で変更後の明るさが第1の輝度閾値L1より大きい(ただしL1<L2)か否かを判別する。S1103でYesの場合つまり変更後の明るさが第1の輝度閾値L1より大きく第2の輝度閾値L2より小さい場合S1104において変更後の明るさ設定のアップダウンに応じて輝度のゲインをアップダウンさせる。この時αは変化させない。一方で、S1102でNo、即ち変更後の明るさが第2の輝度閾値L2よりも小さくない場合には、S1105において変更後の明るさ設定のアップに応じてαをダウンさせて第3の画像信号109を第2の画像信号108に近づける。一方、S1103でNo即ち、変更後の明るさが第1の輝度閾値L1より大きくない場合には、S1106において、変更後の明るさ設定のダウンに応じて合成割合αをアップさせて第3の画像信号109を第1の画像信号107に近づける。
即ち、中間階調の輝度の再現性が許容できる範囲では、通常の可視光画像を取得する撮像装置と同様に、輝度ゲインによって明るさを変更する。このような構成とすることで、通常の可視光画像を取得する撮像装置と同じような動作を予測するユーザーに対して、より違和感の少ない画像を取得できる。なお、上記実施例において輝度がL1より小さい場合またはL2より大きい場合においてαだけでなく輝度のアップダウンに応じて輝度ゲインもアップダウンしてもよい。
実施例4においては、コントラストについても、ユーザーが表示される画像のコントラストの設定を変更した場合に、同様の構成を適用する。前述したように、合成割合αが小さいほどSN比の優れた第3の画像信号109が取得できる。従って、合成割合αが小さいほど輝度差の小さいテクスチャも視認することができる。即ちユーザーがコントラストを増加させた場合、ユーザーはテクスチャの視認性を向上させようとしていると推測できる。図10に示す明るさの変化と同様、表示する際の輝度ゲインを変更することによって画像のコントラストを増加させた場合、中間階調の輝度の情報が失われてしまう。即ち、輝度ゲインを変更することによって画像のコントラストを増加させた場合、輝度差の大きいテクスチャの視認性は向上するが、輝度差が小さいテクスチャの視認性は向上しない。
一方、画像のSN比を向上させつつ、画像のコントラストも増加させた場合、輝度差の小さいテクスチャも視認できるようになる。従って、表示する際の輝度ゲインによってコントラストを増加させた場合、同時に合成割合αを減少させた方が、輝度差の小さいテクスチャも視認できるようになる。ここで、ユーザーがコントラストを第2のコントラスト閾値D2を越えずに増加させた場合には、ユーザーは輝度差の大きいテクスチャの視認性のみが向上したことで満足している、と判断できる。一方で、ユーザーが、第2のコントラスト閾値D2を越えてコントラストを更に増加させようとした場合、輝度差の大きいテクスチャの視認性だけではなく、輝度差の小さいテクスチャの視認性も向上させようとしているとわかる。
そこで、実施例4の撮像装置では、変更後のコントラストが第2のコントラスト閾値D2より小さい場合は、合成割合αを変化させない。一方で、変更後のコントラストが第2のコントラスト閾値D2よりも大きい場合には、合成割合αを減少させて第3の画像信号109を第2の画像信号108に近づける。このような構成とすることで、通常の可視光画像を取得する撮像装置と同じような動作を予測するユーザーに対して、より違和感の少ない画像を取得できる。
ユーザーがコントラストを減少させた場合、ユーザーは輝度差の小さいテクスチャの視認性を低下させたいと判断していると推測できる。表示する際の輝度ゲインを変更することによって画像のコントラストを減少させた場合、輝度差の大きいテクスチャの階調差は低下するものの、階調差の小さいテクスチャとして残存している。
一方、画像のコントラストを減少させつつ、画像のSN比も同時に減少させた場合、輝度差の大きいテクスチャがノイズに埋もれるようになる。従って、表示する際の輝度ゲインによってコントラストを減少させた場合、同時に合成割合αを増加させた方が、より大きい輝度差のテクスチャもノイズに埋もれるため、視認性を低下させることができる。
ここで、ユーザーがコントラストを第1のコントラスト閾値D1を越えずに減少させた場合には、ユーザーは輝度差の小さいテクスチャの視認性が低下したことで満足している、と判断できる。一方で、ユーザーが、第1のコントラスト閾値D1を越えてコントラストを更に減少させようとした場合、輝度差の小さいテクスチャの視認性だけではなく、輝度差の大きいテクスチャの視認性も低下させようとしているとわかる。
具体的にその処理について説明する。図12は実施例4におけるコントラストの設定に関するフローチャートを示す。まず、S1201においてコントラスト設定がされたか否かを判別する。Yesの場合にはS1202においてコントラスト設定のアップダウンに応じて輝度ゲインのアップダウンを行う。更にS1203において設定後のコントラストが前記第2のコントラスト閾値D2よりも小さいか否かを判別し、Yesの場合には更にS1204で設定後のコントラストが第1のコントラスト閾値D1(ただしD1<D2)よりも大きいか否か判別する。S1204でYesの場合にはそのままフローは終了する。一方S1203でNoの場合即ち設定後のコントラストがD2よりも小さいくない場合にはS1205で設定後のコントラストのアップに応じてαをダウンする。またS1204において、設定後のコントラストがD1より大きくない場合には、S1206で設定後のコントラストダウンに応じてαをアップする。
上記のように、実施例4の撮像装置では、変更後のコントラストがD1より大きくD2より小さい場合は、合成割合αを変化させない。一方で、変更後のコントラストが第1のコントラスト閾値D1より小さい場合には、合成割合αを増加させて第3の画像信号109を第1の画像信号107に近づける。このような構成とすることで、通常の可視光画像を取得する撮像装置と同じような動作を予測するユーザーに対して、より違和感の少ない画像を取得できる。
以上のように、実施例2〜実施例4に示す撮像装置では、ユーザーが色、明るさ、コントラストの変更度合が所定の閾値範囲内の場合には、合成割合を変更しないため、通常の可視光画像を取得する撮像装置と同じような画像の変化を示す。一方で、ユーザーが色、明るさ、コントラストの変更度合が所定の閾値範囲外の場合には、合成割合も変更することで、色や輝度のゲイン調整のみでは表現できないダイナミックレンジの広い第3の画像信号109を取得することができる。
なお、実施例における撮像装置は監視カメラなどのようにクライアント装置とネットワークを介して相互に通信可能な状態に接続されている、複数装置からなる構成であってもよい。その場合クライアント装置は、撮像装置を制御する各種コマンドをネットワークを介して送信する。それを受けて、撮像装置は、コマンドに対するレスポンスや撮像した画像データをクライアント装置に送信する。そして撮像装置の撮影パラメータは、クライアント装置側からユーザーが選択することができる。
クライアント装置は例えばPCやスマホなどの外部機器であり、ネットワークは、有線LAN、無線LAN等により構成されている。また、ネットワークを介して撮像装置に電源を供給する構成となっていても良い。
なお、上記実施例においては光分離部102により第1の撮像素子と第2の撮像素子に異なる分光特性の光を導くように構成しているが、例えば第1の撮像素子と第2の撮像素子のそれぞれの前に異なる分光特性のフィルタが配置されていてもよい。また、第1の撮像素子と第2の撮像素子は光分離部102を介さずに別々の独立した光学系を介した光を受光する2眼タイプであってもよい。更には第1の撮像素子と第2の撮像素子は、一つの撮像素子内に例えば第1の撮像素子用の分光特性フィルタを配置した画素と第2の撮像素子用の分光特性フィルタを配置した画素を交互に配置したものであってもよい。
以上、本発明の好ましい実施例について説明したが、本発明はこれらの実施例に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
また、本発明における制御の一部または全部を上述した実施例の機能を実現するプログラム(ソフトウェア)をネットワーク又は各種記憶媒体を介して撮像装置や情報処理装置に供給するようにしてもよい。そしてその撮像装置や情報処理装置におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。
100:撮像装置
101:結像光学系
102:光分離部
103:第1の撮像素子
104:第2の撮像素子
105:合成処理部
106:制御部
107:第1の画像信号
108:第2の画像信号
109:第3の画像信号
110、210:撮影パラメータ設定手段
111、211:表示部
112、212:ユーザーインターフェース
213:彩度設定用カーソル


Claims (20)

  1. 可視光に感度を有し輝度情報と色情報を含む第1の画像信号を出力する第1の撮像素子と、
    赤外光に感度を有し輝度情報を含む第2の画像信号を出力する第2の撮像素子と、
    前記第1の撮像素子から出力された前記第1の画像信号と、第2の撮像素子から出力された第2の画像信号を合成し、第3の画像信号を生成する合成処理手段と、
    前記第3の画像信号の明るさ、コントラスト、色のいずれかに関する撮影パラメータを設定する撮影パラメータ設定手段と、を有し、
    前記合成処理手段は、前記撮影パラメータ設定手段によって前記第3の画像信号の明るさ、コントラスト、色の少なくとも一つに関するパラメータが変更された場合に、前記第1の画像信号と前記第2の画像信号の合成割合を変更することを特徴とする撮像装置。
  2. 前記撮影パラメータ設定手段によって、前記第3の画像信号の明るさに関するパラメータが変更された場合に、前記第3の画像信号における第2の画像信号の合成割合を高めることを特徴とする請求項1に記載の撮像装置。
  3. 絞り調整機能を含む結像光学系を有し、前記撮影パラメータ設定手段によって絞りに関するパラメータが変更された場合に、前記第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項2に記載の撮像装置。
  4. 前記撮影パラメータ設定手段によって、前記第3の画像信号のコントラストに関するパラメータが変更された場合に、前記第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項1から3のいずれか1項に記載の撮像装置。
  5. フォーカス調整機能を含む結像光学系を有し、前記撮影パラメータ設定手段によってフォーカスに関するパラメータが変更された場合に、前記第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項1から4のいずれか1項に記載の撮像装置。
  6. ズーム調整機能を含む結像光学系を有し、前記撮影パラメータ設定手段によってズームに関するパラメータが変更された場合に、前記第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項1から5のいずれか1項に記載の撮像装置。
  7. 前記撮影パラメータ設定手段によって、前記第3の画像信号の色に関するパラメータが変更された場合に、前記第3の画像信号における前記第1の画像信号の合成割合を高めることを特徴とする、請求項1から6のいずれか1項に記載の撮像装置。
  8. 前記撮影パラメータ設定手段における、前記撮影パラメータの変更度合が大きいほど、前記合成処理手段における前記第1の画像信号と前記第2の画像信号の合成割合の変更度合いを大きくすることを特徴とする、請求項1から7のいずれか1項に記載の撮像装置。
  9. 前記撮影パラメータ設定手段における、前記撮影パラメータの変更度合が所定の閾値より小さい場合には、前記合成処理手段における前記第1の画像信号と前記第2の画像信号の合成割合を変更しないことを特徴とする、請求項1から8のいずれか1項に記載の撮像装置。
  10. 前記撮影パラメータ設定手段によって、彩度が変更された場合、変更後の彩度が第1の閾値と前記第1の閾値より大きい第2の閾値の間の場合には前記合成割合を変更せず、変更後の彩度が前記第1の閾値より小さい場合には前記第3の画像信号における前記第2の画像信号の合成割合を高め、変更後の彩度が前記第2の閾値よりも大きい場合には前記第3の画像信号における前記第1の画像信号の割合を高めることを特徴とする、請求項9に記載の撮像装置。
  11. 前記撮影パラメータ設定手段によって、明るさが変更された場合、変更後の明るさが第1の閾値と前記第1の閾値より大きい第2の閾値の間の場合には前記合成割合を変更せず、変更後の明るさが前記第1の閾値より小さい場合には前記第3の画像信号における前記第1の画像信号の合成割合を高め、変更後の明るさが前記第2の閾値よりも大きい場合には第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項9または10に記載の撮像装置。
  12. 前記撮影パラメータ設定手段によって、コントラストが変更された場合、変更後のコントラストが第1の閾値と前記第1の閾値より大きい第2の閾値の間の場合は前記合成割合を変更せず、変更後の明るさが前記第1の閾値より小さい場合には前記第3の画像信号における前記第1の画像信号の割合を高め、変更後の明るさが前記第2の閾値よりも大きい場合には前記第3の画像信号における前記第2の画像信号の合成割合を高めることを特徴とする、請求項9から11のいずれか1項に記載の撮像装置。
  13. 前記撮影パラメータ設定手段がユーザーインターフェースを備え、ユーザーインターフェースに前記閾値を表示することを特徴とする、請求項9から12のいずれか1項に記載の撮像装置。
  14. 前記撮影パラメータの変更度合が前記第1の閾値と第2の閾値の間にあるか否かに応じてユーザーインターフェースの表示を変更することを特徴とする、請求項9から13のいずれか1項に記載の撮像装置。
  15. 前記撮影パラメータの変更度合が前記第1の閾値または前記第2の閾値を越えた場合に、ユーザーインターフェースに所定の表示が現れるようにしたことを特徴とする、請求項9から14のいずれか1項に記載の撮像装置。
  16. 前記撮像装置はネットワークを介して接続されたクライアント装置を含み、前記クライアント装置が撮影パラメータ設定手段を有することを特徴とする請求項1から15のいずれか1項に記載の撮像装置。
  17. 前記撮像装置はネットワークを介して接続されたクライアント装置を含み、前記クライアント装置が前記合成処理手段を有することを特徴とする請求項1から16のいずれか1項に記載の撮像装置。
  18. 請求項1から17のうちいずれか一項に記載の撮像装置の各手段としてコンピュータを機能させるためのコンピュータプログラム。
  19. 請求項18に記載のコンピュータプログラムを記憶したコンピュータで読み取り可能な記憶媒体。
  20. 可視光に感度を有し輝度情報と色情報を含む第1の画像信号を出力する第1の撮像素子と、赤外光に感度を有し輝度情報を含む第2の画像信号を出力する第2の撮像素子と、を少なくとも有する撮像装置を制御するための制御方法であって、
    前記第1の撮像素子から出力された前記第1の画像信号と、第2の撮像素子から出力された第2の画像信号を合成し、第3の画像信号を生成する合成処理ステップと、
    前記第3の画像信号の明るさ、コントラスト、色のいずれかに関する撮影パラメータを設定する撮影パラメータ設定ステップと、を有し、
    前記合成処理ステップは、前記撮影パラメータ設定ステップによって前記第3の画像信号の明るさ、コントラスト、色の少なくとも一つに関するパラメータが変更された場合に、前記第1の画像信号と前記第2の画像信号の合成割合を変更することを特徴とする撮像装置を制御するための制御方法。

JP2018175628A 2018-09-20 2018-09-20 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体 Active JP7210199B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2018175628A JP7210199B2 (ja) 2018-09-20 2018-09-20 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体
EP19189709.9A EP3627828A1 (en) 2018-09-20 2019-08-02 Image processing device, image processing method, and recording medium
US16/554,729 US11138764B2 (en) 2018-09-20 2019-08-29 Image processing device, image processing method, and recording medium
CN201910890089.6A CN110933292A (zh) 2018-09-20 2019-09-20 图像处理装置、摄像装置、图像处理方法和存储介质

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018175628A JP7210199B2 (ja) 2018-09-20 2018-09-20 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体

Publications (2)

Publication Number Publication Date
JP2020048095A true JP2020048095A (ja) 2020-03-26
JP7210199B2 JP7210199B2 (ja) 2023-01-23

Family

ID=67658395

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018175628A Active JP7210199B2 (ja) 2018-09-20 2018-09-20 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体

Country Status (4)

Country Link
US (1) US11138764B2 (ja)
EP (1) EP3627828A1 (ja)
JP (1) JP7210199B2 (ja)
CN (1) CN110933292A (ja)

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7271132B2 (ja) 2018-10-26 2023-05-11 キヤノン株式会社 撮像装置および監視システム
JP7250483B2 (ja) 2018-11-12 2023-04-03 キヤノン株式会社 撮像装置、コンピュータプログラム、及び記憶媒体
JP7316809B2 (ja) 2019-03-11 2023-07-28 キヤノン株式会社 画像処理装置、画像処理装置の制御方法、システム、及び、プログラム
JP2020188349A (ja) 2019-05-14 2020-11-19 キヤノン株式会社 撮像装置、撮像方法、コンピュータプログラム及び記憶媒体
JP7286412B2 (ja) 2019-05-22 2023-06-05 キヤノン株式会社 画像処理装置およびその制御方法、撮像装置、監視システム
JP2020202503A (ja) 2019-06-11 2020-12-17 キヤノン株式会社 撮像装置、コンピュータプログラムおよび記憶媒体
JP2021019228A (ja) 2019-07-17 2021-02-15 キヤノン株式会社 撮像装置、コンピュータプログラムおよび記録媒体

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080099678A1 (en) * 2004-12-03 2008-05-01 Johnson Kirk R Camera with visible light and infrared image blending
JP2010161459A (ja) * 2009-01-06 2010-07-22 Olympus Corp 赤外線照射式撮像装置
JP2013247492A (ja) * 2012-05-25 2013-12-09 Konica Minolta Inc 物体検出装置

Family Cites Families (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7307793B2 (en) * 2004-07-02 2007-12-11 Insight Technology, Inc. Fusion night vision system
JP6055681B2 (ja) * 2013-01-10 2016-12-27 株式会社 日立産業制御ソリューションズ 撮像装置
CN105432076B (zh) 2013-07-25 2017-10-10 日立麦克赛尔株式会社 摄像装置
WO2015058166A2 (en) * 2013-10-18 2015-04-23 Flir Systems, Inc. Measurement device for lighting installations and related methods
US10015474B2 (en) * 2014-04-22 2018-07-03 Fluke Corporation Methods for end-user parallax adjustment
JP6568719B2 (ja) * 2014-08-29 2019-08-28 株式会社 日立産業制御ソリューションズ 撮像方法及び撮像装置
CN107534728B (zh) 2015-04-23 2020-01-24 富士胶片株式会社 图像处理装置、摄像装置、图像处理方法及存储介质
US10152811B2 (en) * 2015-08-27 2018-12-11 Fluke Corporation Edge enhancement for thermal-visible combined images and cameras
US10880498B2 (en) * 2017-03-08 2020-12-29 Sony Corporation Image processing apparatus and image processing method to improve quality of a low-quality image
JP7182935B2 (ja) 2018-07-30 2022-12-05 キヤノン株式会社 撮像装置、制御方法およびプログラム

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20080099678A1 (en) * 2004-12-03 2008-05-01 Johnson Kirk R Camera with visible light and infrared image blending
JP2010161459A (ja) * 2009-01-06 2010-07-22 Olympus Corp 赤外線照射式撮像装置
JP2013247492A (ja) * 2012-05-25 2013-12-09 Konica Minolta Inc 物体検出装置

Also Published As

Publication number Publication date
EP3627828A1 (en) 2020-03-25
US11138764B2 (en) 2021-10-05
US20200098148A1 (en) 2020-03-26
JP7210199B2 (ja) 2023-01-23
CN110933292A (zh) 2020-03-27

Similar Documents

Publication Publication Date Title
JP7210199B2 (ja) 撮像装置、制御方法、コンピュータプログラム、及び記憶媒体
JP7250483B2 (ja) 撮像装置、コンピュータプログラム、及び記憶媒体
JP5642433B2 (ja) 撮像装置及び画像処理方法
JP2008085388A (ja) 撮像装置
JP2012010048A (ja) 画像信号処理装置
JP2006081037A (ja) 撮像装置
US20190182432A1 (en) Display control apparatus and control method for the same
JP2009010616A (ja) 撮像装置および画像出力制御方法
US11140331B2 (en) Image capturing apparatus, control method for image capturing apparatus, and control program for image capturing apparatus
JP2012142823A (ja) 表示制御装置、撮像装置および表示制御プログラム
US11368629B2 (en) Image capturing apparatus, control method for image capturing apparatus, and control program for image capturing apparatus for controlling exposure of region having different brightness
JP6873816B2 (ja) 撮像装置、撮像装置の制御方法、及びプログラム
JP2021136555A (ja) 画像処理装置および画像処理方法
US9413974B2 (en) Information processing apparatus, image sensing apparatus, control method, and recording medium for conversion processing
JP4604789B2 (ja) 電子ファインダー及びそれを用いた電子カメラ
US10341604B2 (en) Camera system, camera, interchangeable lens, and storage medium storing control program for camera system thereon
JP2021005761A (ja) 画像処理装置、撮像装置、画像処理装置の制御方法、及びプログラム
JP2012095223A (ja) 撮像装置、撮像方法及びプログラム
EP3442218A1 (en) Imaging apparatus and control method for outputting images with different input/output characteristics in different regions and region information, client apparatus and control method for receiving images with different input/output characteristics in different regions and region information and displaying the regions in a distinguishable manner
WO2021014560A1 (ja) 撮像装置
JP2019033470A (ja) 画像処理システム、撮像装置、画像処理装置、制御方法およびプログラム
JP2019176425A (ja) 撮像装置とその制御方法およびプログラム、記録媒体
KR20130092213A (ko) 디지털 촬영 장치 및 이의 제어 방법
US20220217285A1 (en) Image processing device, image processing method, and recording medium
JP6024098B2 (ja) 撮像装置及び撮像システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220613

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220705

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220831

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20221004

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221128

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20221213

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230111

R151 Written notification of patent or utility model registration

Ref document number: 7210199

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151