JP2023039396A - Electronic apparatus and method for controlling the same - Google Patents
Electronic apparatus and method for controlling the same Download PDFInfo
- Publication number
- JP2023039396A JP2023039396A JP2022066491A JP2022066491A JP2023039396A JP 2023039396 A JP2023039396 A JP 2023039396A JP 2022066491 A JP2022066491 A JP 2022066491A JP 2022066491 A JP2022066491 A JP 2022066491A JP 2023039396 A JP2023039396 A JP 2023039396A
- Authority
- JP
- Japan
- Prior art keywords
- imaging
- photographing
- image
- image signal
- shooting
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Landscapes
- Transforming Light Signals Into Electric Signals (AREA)
- Studio Devices (AREA)
Abstract
Description
本発明は、電子機器及びその制御方法に関し、特に高ダイナミックレンジ画像を生成する技術に関するものである。 The present invention relates to an electronic device and its control method, and more particularly to technology for generating a high dynamic range image.
従来、一般的なデジタルカメラに使われているCCDイメージセンサや、CMOSイメージセンサ等の撮像素子を用いて、階調に関するダイナミックレンジを拡大する技術が提案されている。 2. Description of the Related Art Conventionally, there has been proposed a technique for expanding the dynamic range of gradation by using an imaging device such as a CCD image sensor or a CMOS image sensor used in general digital cameras.
特許文献1の撮像装置では、同一画素の信号に複数の異なる増幅ゲインをかけて同時に読み出し、信号処理により合成することで、ダイナミックレンジを拡大する技術が開示されている。また、特許文献2では、検出した被写体の状態や撮影モード等に応じて、撮影回数を切り替えて複数枚の撮影を行い、信号処理により合成することで、ダイナミックレンジを拡大する技術が開示されている。 An image pickup apparatus disclosed in Japanese Patent Laid-Open No. 2002-100001 discloses a technique of applying a plurality of different amplification gains to signals of the same pixel, reading them simultaneously, and synthesizing them by signal processing, thereby expanding the dynamic range. Further, Japanese Patent Laid-Open No. 2002-200002 discloses a technique for expanding the dynamic range by switching the number of shots according to the detected subject state, the shooting mode, etc., taking a plurality of shots, and synthesizing the shots by signal processing. there is
特許文献1に開示された方法でダイナミックレンジを更に拡大するために増幅ゲインの差を拡大して撮影すると、画素信号が所定の出力レベル以下の画素の黒つぶれや、所定の出力レベルを超える画素の白飛びは発生しにくくなる。一方で、中間の出力レベルの画素の階調を損失してしまう。 If the method disclosed in Japanese Patent Application Laid-Open No. 2002-200002 expands the difference in the amplification gain to further expand the dynamic range and shoots images, blackouts occur in pixels whose pixel signals have a predetermined output level or less, and pixels whose pixel signals exceed a predetermined output level. overexposure is less likely to occur. On the other hand, the gradation of pixels with intermediate output levels is lost.
また、特許文献2に開示された方法でダイナミックレンジを更に拡大するために撮影回数を増やして撮影すると、被写体が動いている場合には、不自然な合成画像が生成されてしまうことがある。
Further, if the number of times of photographing is increased in order to further expand the dynamic range by the method disclosed in
本発明は上記問題点を鑑みてなされたものであり、撮影回数を抑制しつつ、よりダイナミックレンジの広い高画質の画像を生成することを目的とする。 SUMMARY OF THE INVENTION The present invention has been made in view of the above problems, and it is an object of the present invention to generate a high-quality image with a wider dynamic range while suppressing the number of times of photographing.
上記目的を達成するために、本発明の電子機器は、被写体の光学像を光電変換して得られた画像信号に、複数の異なるゲインの少なくともいずれかをかけて出力する撮像手段と、前記撮像手段から出力された画像信号の輝度値を検出する検出手段と、前記輝度値に基づいて、撮影ごとに前記複数の異なるゲインを含む撮影条件を変えながら複数回の撮影を行うかどうかを判断する判断手段と、前記判断手段における判断の結果に応じて前記撮影条件を決定する決定手段と、前記決定手段により決定された前記撮影条件に基づいて、前記撮像手段を制御して撮影を行う制御手段とを有する。 In order to achieve the above object, an electronic apparatus according to the present invention includes imaging means for applying at least one of a plurality of different gains to an image signal obtained by photoelectrically converting an optical image of a subject, and outputting the image signal. detecting means for detecting the luminance value of the image signal output from the means; and determining, based on the luminance value, whether or not to perform multiple photographing while changing the photographing conditions including the plurality of different gains for each photographing. determining means; determining means for determining the photographing conditions according to the determination result of the determining means; and control means for controlling the imaging means to perform photographing based on the photographing conditions determined by the determining means. and
本発明によれば、撮影回数を抑制しつつ、よりダイナミックレンジの広い高画質の画像を生成することができる。 According to the present invention, it is possible to generate a high-quality image with a wider dynamic range while suppressing the number of times of photographing.
以下、添付図面を参照して実施形態を詳しく説明する。なお、以下の実施形態は特許請求の範囲に係る発明を限定するものではない。実施形態には複数の特徴が記載されているが、これらの複数の特徴の全てが発明に必須のものとは限らず、また、複数の特徴は任意に組み合わせられてもよい。さらに、添付図面においては、同一若しくは同様の構成に同一の参照番号を付し、重複した説明は省略する。 Hereinafter, embodiments will be described in detail with reference to the accompanying drawings. In addition, the following embodiments do not limit the invention according to the scope of claims. Although multiple features are described in the embodiments, not all of these multiple features are essential to the invention, and multiple features may be combined arbitrarily. Furthermore, in the accompanying drawings, the same or similar configurations are denoted by the same reference numerals, and redundant description is omitted.
<第1の実施形態>
●構成
図1は、本実施形態における撮像装置100の構成を示すブロック図である。
図1において、撮影レンズ10は、撮像装置100の本体部に装着可能な交換レンズユニット、または本体部に組み込まれたレンズ部であり、フォーカスレンズやズームレンズ等の複数のレンズ群、及び、絞り機構等から構成される。機械式シャッター12は、絞り機能を備え、撮像素子14に入射する光量を制御するためのものである。
<First embodiment>
●Configuration FIG. 1 is a block diagram showing the configuration of an
In FIG. 1, an
撮像素子14は、複数の画素を有するCMOSイメージセンサであって、撮影レンズ10により結像された被写体の光学像に対し、各画素で光電変換を行って入射光量に応じて生成された電荷に応じた画像信号にゲインをかけて出力する。その際に、複数の異なるゲインをかけた画像信号を出力することにより、1回の撮影で複数の異なる信号レベルの画像信号を得ることができる。A/D変換器16は撮像素子14のアナログ信号出力をデジタル信号に変換するである。なお、A/D変換器16は撮像素子14に内蔵されていてもかまわない。
The
タイミング発生部18は、撮像素子14、A/D変換器16にクロック信号や制御信号を供給し、メモリ制御部22及びシステム制御部50により制御される。機械式シャッター12以外にも、タイミング発生部18が撮像素子14のリセットタイミングを制御することによって、電子シャッターとして、蓄積時間を制御することが可能であり、動画撮影等に使用できる。
The
画像処理部20は、A/D変換器16からの画像データ或いはメモリ制御部22からの画像データに対して所定の画素補間処理や色変換処理、ガンマ処理、露出補正処理等の各種信号処理を行って、処理した画像データを出力する。また、画像処理部20によって画像の切り出し、変倍処理を行うことで電子ズーム機能が実現される。
The
画像処理部20は、さらに任意の合成方法を用いてHDR(高ダイナミックレンジ)画像を生成する。例えば、所定の信号レベル以下の画像部分(通常画像)については高ゲインをかけた画像信号を用い、信号レベルが所定の信号レベルを超え、明るく白飛びしている画像部分については低ゲインをかけた画像信号を用いて合成を行う方法がある。なお、合成後の画像の暗部の信号に用いられる通常画像としては、暗部のランダムノイズが抑えられていることが好ましい。
The
メモリ制御部22は、A/D変換器16、タイミング発生部18、画像処理部20、メモリ30、圧縮・伸長部32を制御する。A/D変換器16から出力される画像データは、画像処理部20、メモリ制御部22を介して、或いはメモリ制御部22を介して、直接メモリ30に書き込まれる。
The
メモリ30は、ユーザーが撮像装置100に指示をした内容を記憶する記憶部であり、例えば、電気的に消去・記録可能な不揮発性メモリである。すなわち、撮影した静止画像や動画像を格納するために用いられ、所定枚数の静止画像や所定時間の動画像を格納するのに十分な記憶量を備えている。
The
これにより、複数枚の静止画像を連続して撮影する連写撮影やパノラマ撮影の場合にも、高速かつ大量の画像書き込みをメモリ30に対して行うことが可能となる。また、メモリ30は、システム制御部50の作業領域としても使用することが可能である。
This makes it possible to write a large amount of images to the
画像表示部28は、撮影画像や撮影時の情報、及び操作部70による操作用のユーザーインターフェース等を表示するためのものであり、例えば、TFT-LCD等から構成される。そして、メモリ30に書き込まれた表示用の画像データが画像表示部28により表示される。画像表示部28を用いて、撮像した画像データを逐次表示することで、電子ファインダ(EVF)機能を実現することができる。また、画像表示部28は、システム制御部50の指示により任意に表示をON/OFFすることが可能であり、表示をOFFにした場合には撮像装置100の電力消費を大幅に低減することができる。
The
システム制御部50は、撮像装置100全体を制御し、輝度差検出部107a、動き検出部107b等を備える。輝度差検出部107aは、A/D変換器16から出力される画像データを用いて、明部と暗部の輝度差を算出する。例えば、画面全体を複数エリアに分割し、エリア毎に輝度(明るさ)を測定して、明るいエリア(明部エリア)と暗いエリア(暗部エリア)との輝度差を算出する。動き検出部107bは、A/D変換器16から出力される現在のフレームの画像データとその前のフレームの画像データから、被写体の動き量を検出する処理を行う。
The
露光制御部40は、画像処理部20による演算結果に基づいて、画像撮影に用いる露出条件を算出する。また、後述するように、HDR撮影時には、輝度差検出部107aで算出した被写体の輝度差に基づいて撮影枚数を決定する。また、画像処理部20による演算結果と動き検出部107bで検出した動き量とを用いて撮影時の露光条件を決定し、タイミング発生部18及び絞り機能を備えるシャッター12に対して制御信号を伝達する。
The
焦点調節部42は、撮影レンズ10のフォーカシングを制御し、ズーム制御部44は、撮影レンズ10のズーミングを制御する。フラッシュ48は、AF補助光の投光機能、フラッシュ調光機能を有する。
A
また、画像処理部20は、A/D変換器16から出力される画像データを用いて所定の演算処理を行う。そして、得られた演算結果に基づいてシステム制御部50が露光制御部40を制御することにより、自動露出(AE)処理を行う。また、フラッシュ48を制御することにより、フラッシュプリ発光(EF)処理を行う。また、焦点調節部42を制御することにより、TTL(スルー・ザ・レンズ)方式のオートフォーカス(AF)処理を行う。さらに、得られた演算結果に基づいてオートホワイトバランス(AWB)処理も行う。
Also, the
操作部60、62、64、66、70及び72は、ユーザーが撮像装置100に指示を入力するために用いられ、レリーズ釦等のスイッチやモード切り換えダイヤル、ズーム操作レバー等の操作部材、タッチパネル、視線検知によるポインティング、音声認識装置等の単数或いは複数の組み合わせで構成される。ここで、これらの操作手段の具体的な説明を行う。操作部60、62、64、66、70及び72を介したユーザー入力は、システム制御部50に通知される。
The
モードダイヤル60は、電源オフ、自動撮影モード、撮影モード、パノラマ撮影モード、動画撮影モード、再生モード、PC接続モード等の各機能モードを切り替え設定することができる。
The
シャッタースイッチSW1(62)は、不図示のシャッターボタンの操作途中でONとなり、AF処理、AE処理、AWB処理等の動作開始を指示する。 A shutter switch SW1 (62) is turned ON during operation of a shutter button (not shown), and instructs the start of operations such as AF processing, AE processing, and AWB processing.
シャッタースイッチSW2(64)は、不図示のシャッターボタンの操作完了(例えば全押し)でONとなり、読み出し処理、現像処理、及び記録処理からなる一連の処理の動作開始を指示する。 The shutter switch SW2 (64) is turned ON when the operation of the shutter button (not shown) is completed (for example, fully pressed), and instructs the start of a series of processing operations including reading processing, developing processing, and recording processing.
読み出し処理では、フラッシュ撮影の場合、EF処理を行った後に、AE処理で決定された露光時間分、撮像素子14を露光させ、この露光期間中に発光させて、露光期間終了と同時に露光制御部40により遮光することで、撮像素子14への露光を終了させる。そして、撮像素子14から読み出した信号をA/D変換器16、メモリ制御部22を介してメモリ30に画像データを書き込む。
In the reading process, in the case of flash photography, after performing EF processing, the
そして、画像処理部20やメモリ制御部22での演算を用いた現像処理を行う。更に、メモリ30から画像データを読み出して、圧縮・伸長部32で圧縮を行い、記録媒体200に画像データを書き込む記録処理が行われる。
Then, development processing using calculations in the
不揮発性メモリ31は、FlashROM等で構成され、システム制御部50が実行するプログラムコードは不揮発性メモリ31に書き込まれ、逐次読み出しながらプログラムコードを実行する。また、不揮発性メモリ31内にはシステム情報を記憶する領域や、ユーザー設定情報を記憶する領域を設け、さまざまな情報や設定を次回起動時に読み出して、復元することを実現している。
The
圧縮・伸長部32は、適応離散コサイン変換(ADCT)等、公知の圧縮方法を用いて画像データを圧縮伸長する。また、圧縮・伸長部32は、メモリ30に格納された画像を読み込んで圧縮処理或いは伸長処理を行い、処理を終えたデータをメモリ30に書き込む。
A compression/
表示切替スイッチ66は、画像表示部28の表示切替を行うことができる。この機能により、光学ファインダ77を用いて撮影を行う際に、画像表示部28への電流供給を遮断することにより、省電力を図ることが可能となる。
The
操作部70は、各種ボタン、タッチパネルや回転式ダイヤル等から成り、一例として、メニューボタン、セットボタン、マクロボタン、マルチ画面再生改ページボタン、フラッシュ設定ボタン、単写/連写/セルフタイマー切り替えボタンを含む。更に、メニュー移動+(プラス)ボタン、メニュー移動-(マイナス)ボタン、再生画像移動+(プラス)ボタン、再生画像移動-(マイナス)ボタン、撮影画質選択ボタン、露出補正ボタン、日付/時間設定ボタン等も含む。 The operation unit 70 includes various buttons, a touch panel, a rotary dial, etc. Examples include a menu button, a set button, a macro button, a multi-screen playback page break button, a flash setting button, and a single/continuous/self-timer switching button. including. In addition, menu move + (plus) button, menu move - (minus) button, playback image move + (plus) button, playback image move - (minus) button, image quality selection button, exposure compensation button, date/time setting button etc. are also included.
ズームスイッチ72は、ユーザーが撮像画像の倍率変更指示を行うために用いられる。ズームスイッチ72は、撮像画角を望遠側に変更させるテレスイッチと、広角側に変更させるワイドスイッチからなる。このズームスイッチ72を用いることにより、ズーム制御部44に撮影レンズ10の撮像画角の変更を指示し光学ズーム操作を行うトリガとなる。また、画像処理部20による画像の切り出しや、画素補間処理などによる撮像画角の電子的なズーミング変更のトリガともなる。
The
サーミスタ74は、撮像装置100内部の温度を測定する。撮像素子14の欠陥画素は温度による影響を受けるため、撮影時の温度により傷補正処理を変える必要がある。サーミスタ74は、撮像装置100内の撮像素子14の近くに配置し、撮像素子14自体の温度を測定する。
The thermistor 74 measures the temperature inside the
電源部86は、アルカリ電池の一次電池やNiCd電池やNiMH電池、Li-ion電池等の二次電池、ACアダプター、または外部バッテリー等からなる。
インタフェース90は、メモリカードやハードディスク等の記録媒体とのインタフェース、コネクタ92は、メモリカードやハードディスク等の記録媒体と接続を行う。
The
An
光学ファインダ77は、画像表示部28による電子ファインダ機能を使用すること無しに、光学ファインダのみを用いて撮影を行うことが可能である。
通信部75は、USB、IEEE1394、LAN、無線通信等の各種通信機能を有する。76は、通信部75により撮像装置100を他の機器と接続するコネクタ或いは無線通信の場合はアンテナである。
The
The communication unit 75 has various communication functions such as USB, IEEE1394, LAN, and wireless communication. A
記録媒体200は、メモリカードやハードディスク等の記録媒体である。この記録媒体200は、半導体メモリや磁気ディスク等から構成される記録部202、撮像装置100とのインタフェース204、撮像装置100と接続を行うコネクタ206を備えている。
A
図2は、撮像素子14の回路構成の一例を示す図である。画素部250には、複数の画素240が画素R1_1~Bm_n(m、nは任意の整数)のように行列状に配置されている。なお、画素240において、Rは赤色、Gは緑色、Bは青色のカラーフィルタが画素上に配置されることを意味する。また、R(G,B)i_jは、画素240が第i行第j列の画素であることを示す。また、同じ列の画素240のうち、奇数行の画素240は垂直出力線252に接続され、偶数行の画素240は垂直出力線256に接続されている。
FIG. 2 is a diagram showing an example of the circuit configuration of the
列回路スイッチ255がオフの際は、奇数行の画素からの画像信号は垂直出力線252を介して列回路253にのみ入力され、列回路スイッチ255がオンの際は、列回路253と列回路257にそれぞれ入力される。偶数行の画素からの画像信号も同様に、列回路スイッチ255がオフの際は垂直出力線256を介して列回路257にのみ入力され、列回路スイッチ255がオンの際は列回路253と列回路257にそれぞれ入力される。列回路スイッチ255がオフの際は偶数行と奇数行の画素からの画像信号を同時に読み出しすることができ、オンの際は偶数行と奇数行の画素からの画像信号が順次読み出される。
When the
駆動信号RES、TX、SEL、FDINCはそれぞれ、垂直走査回路251から画素部250に供給される。なお、これらの駆動信号については、行に対応する数字を表す自然数変数m(=1,2,・・・,n)を付加して、RES_m、TX_m、SEL_m、FDINC_mと表記する。
The drive signals RES, TX, SEL, and FDINC are supplied from the
ここで、画素240の1画素毎の構成について、図3を用いて説明する。
フォトダイオード(PD)301は入射光を光電変換し、入射光量に応じた電荷を蓄積する。転送スイッチ302は、信号txのレベルがHighレベルであるときに、PD301に蓄積されている電荷をフローティングディフュージョン(FD)部303に転送する。FD部303は、ソースフォロアを構成するトランジスタ304のゲートに接続されており、PD301から転送される電荷量を電圧値に変換する。
Here, the configuration of each pixel of the
A photodiode (PD) 301 photoelectrically converts incident light and accumulates electric charges according to the amount of incident light. The
リセットスイッチ305は、FD部303をリセットするためのスイッチ素子であり、信号resのレベルがHighレベルであるときに、FD部303のリセットを行う。また、信号txと信号resのレベルを同時にHighレベルにすると、転送スイッチ302及びFDリセットスイッチ305の両方がオンとなって、FD部303を経由してPD301のリセットが行われる。
The
FDincスイッチ307は、信号fdincのレベルがHighレベルであるときに、付加容量308をFD部303と接続する。また、信号fdincのレベルがLowレベルであるときにはFDincスイッチ307がオフであり、付加容量308とFD部303とは非接続状態となる。これにより、FD部303に生じる容量が変化する。言い換えると、FDincスイッチ307及び付加容量308は、入力ノードの容量値を可変とする容量可変手段として機能する。
The
FDincスイッチ307のオン・オフによって、FD部303に転送された電荷に対するトランジスタ304の出力電圧の変換比、すなわちゲイン(以下、FDゲインという)を切り替えることができる。付加容量308がFD部303に接続された接続状態では静電容量値が増加し、非接続状態の場合と比べて相対的にゲインが小さくなる。逆に、付加容量308とFD部303とが非接続状態になると静電容量値が減少し、接続状態と比べて相対的にゲインが大きくなる。
By turning on/off the
このように、本実施形態の撮像素子14は、信号fdincに応じてFD部303に保持される電荷量を可変とし、画素240の出力ゲインを切り替えることができる。
In this manner, the
画素選択スイッチ306は、信号selのレベルがHighレベルであるときに、FD303において電圧に変換された画素信号を出力する(vout)。各画素240の出力は、前述したように列毎の垂直出力線252、256を介して列回路253、257に入力される。本実施形態では、1つの画素240に1つの垂直出力線252または256が繋がっている構成であるが、1つの画素240に、複数の垂直出力線が接続されていても構わない。また、列回路スイッチ255をオンにすることで、1つの垂直出力線を2つの列回路253、257に接続することが可能となり、1つの画素240の出力を、2つの列回路253、257を用いて複数種類のアナログゲインで増幅することが可能となる。
The
次に、図4を参照して、列回路253の構成について説明する。
1行分の画素240の出力(vout)は、その出力端子に接続された垂直出力線252を介して列回路253に入力される。列ごとに設けられた垂直出力線252は電流源254を介して接地されている。電流源254と、垂直出力線252に接続された画素240のトランジスタ304とによってソースフォロワ回路が構成される。
Next, the configuration of
The output (vout) of the
列回路253において、クランプ容量401は静電容量C1を有し、フィードバック容量402は静電容量C2を有する。画素部250の出力(vout)は、クランプ容量401を介して演算増幅器403の反転入力端子に入力される。演算増幅器403の非反転入力端子には基準電圧Vrefが供給される。演算増幅器403の反転入力端子と出力端子に接続されたフィードバック容量402と並列にスイッチ404が接続されている。スイッチ404は、フィードバック容量402の両端をショートさせるためのスイッチ素子であり、信号cfsにより制御される。スイッチ404のオン・オフ制御によってゲイン設定を変更できるため、入力された画素信号を複数種類のアナログゲインで増幅して出力することができる。
In
S信号転送スイッチ405は、画素部250から読み出される画素信号(以下「S信号」と記す。)を、S信号保持容量407に転送するためのスイッチ素子である。信号tsのレベルをHighレベルにすることにより、演算増幅器403で増幅されたS信号が、S信号転送スイッチ405を介してS信号保持容量407に保持される。
The S
N信号転送スイッチ406は、画素部250から読み出されるノイズ信号(以下、「N信号」と記す。)をN信号保持容量408に転送するためのスイッチ素子である。信号tnのレベルをHighレベルにすることにより、演算増幅器403で増幅されたN信号が、N信号転送スイッチ406を介してN信号保持容量408に保持される。
The N
S信号保持容量407、N信号保持容量408に保持されたS信号およびN信号は、出力端子vs、vnからそれぞれ出力される。そして、出力端子vs、vnから出力されたS信号とN信号の差分は、不図示のアナログ-デジタル変換回路によりデジタル信号に変換される。列回路253においてcfs、ts、tn等の駆動信号は、図1のタイミング発生部18の制御に従って、図2のタイミングジェネレータ(TG)260から供給される。
The S signal and N signal held in the S
なお、列回路257も列回路253と同様の構成を有し、垂直出力線256に接続された一行分の画素240の出力を処理する。
Note that the
図2に戻り、メモリ261は、デジタル信号に変換された出力データを、TG260から出力される書き込み信号memwrに従って保持する。メモリ261に保持されたデータは、水平走査回路262の走査によりデータ出力部263へ順次転送される。データ出力部263は、LVDS(Low Voltage Differential Signaling)等の伝送方式により、撮像素子14の外部へデータを出力する。
Returning to FIG. 2 , the
●HDR撮影処理
次に、本発明の実施形態に係る撮像装置100のシステム制御部50におけるHDR撮影時の処理について図5を参照して説明する。
●HDR Imaging Processing Next, processing during HDR imaging in the
まず、図5のフローチャートを参照して、測光結果を用いて撮影条件を決定してHDR画像の撮影を行う処理について説明する。なお、この処理は、操作部70に含まれる不図示のレリーズ釦によりHDR撮影が指示されると開始される。すなわち、1回の蓄積により得られる画像信号に複数のゲインをかけて読み出すことで、同時に信号レベルの異なる2枚の画像を取得する。この2枚の画像を合成処理することで、HDR撮影と呼ばれる高ダイナミックレンジ画像を生成することができる。 First, with reference to the flowchart of FIG. 5, the process of determining the shooting conditions using the photometry result and shooting an HDR image will be described. Note that this process is started when HDR shooting is instructed by a release button (not shown) included in the operation unit 70 . That is, by multiplying an image signal obtained by one accumulation by a plurality of gains and reading out, two images having different signal levels are obtained at the same time. By synthesizing these two images, a high dynamic range image called HDR imaging can be generated.
S201では、本撮影前に予め決められた露出でプリ撮影を行って撮像素子14から出力された画像信号に基づいて画像処理部20により測光を行う。このときに得られる画像信号は、撮像素子14のすべての画素から読み出してもよいし、間引き読み出しや加算読み出しにより読み出してもよく、予め決められたゲインをかけて出力される。また、後述するように被写体の動きを検出するために、所定間隔で繰り返し読み出される。S202において、システム制御部50は、画像処理部20からS201で実施した測光結果を受け取り、輝度差検出部107aで被写体の明部エリアと暗部エリアとの輝度差を算出する。
In S<b>201 , pre-shooting is performed with a predetermined exposure before actual shooting, and photometry is performed by the
S203では、S202で算出した被写体の輝度差が予め決められた第1の閾値Thd1以上であるか否かを露光制御部40が判定する。輝度差が第1の閾値Thd1以上である場合には、撮影回数が追加撮影を含む2回であると判断してS204へ進み、輝度差が第1の閾値Thd1未満である場合には、追加撮影を実施せず、撮影回数が1回であると判断してS208に進む。
In S203, the
S204では、追加撮影を含む2回分の撮影条件を決定する。なお、S204における具体的な撮影条件の決定方法の詳細については、図3を参照して後述する。 In S204, shooting conditions for two shots including additional shooting are determined. The details of the method for determining specific imaging conditions in S204 will be described later with reference to FIG.
S205及びS206では、S204で決定した2回分の撮影条件に従い、1回目の撮影および2回目の撮影を行う。具体的には、システム制御部50から焦点調節部42、ズーム制御部44及びタイミング発生部18を介して撮影レンズ10及び撮像素子14を制御し、画像信号を取得する。
In S205 and S206, the first and second imaging are performed according to the two imaging conditions determined in S204. Specifically, the
S207では、S205及びS206で取得した複数枚の画像信号を画像処理部20により合成してHDR画像を生成し、HDR撮影の処理を終了する。
In S207, the
一方、S208では、追加撮影を行わないため、1回分の撮影条件を決定する。なお、S208における具体的な撮影条件の決定方法の詳細については、図8を参照して後述する。 On the other hand, in S208, since additional imaging is not performed, imaging conditions for one shot are determined. Details of the method for determining the specific imaging conditions in S208 will be described later with reference to FIG.
S209では、S208で決定した撮影条件に従い、S205と同様に撮影を行う。
S210では、S209で取得した複数枚の画像信号を画像処理部20により合成してHDR画像を生成し、HDR撮影の処理を終了する。
In S209, photographing is performed in the same manner as in S205 according to the photographing conditions determined in S208.
In S210, the
●撮影条件の決定方法
次に、図6及び図7のフローチャートを参照して、撮影条件の決定方法について説明する。
まず、図5のS204における撮影条件の決定方法について、図6を用いて説明する。
●Method for Determining Imaging Conditions Next, a method for determining imaging conditions will be described with reference to the flowcharts of FIGS. 6 and 7. FIG.
First, the method of determining the imaging conditions in S204 of FIG. 5 will be described with reference to FIG.
S401では、図5のS202で算出された被写体の輝度差が、予め決められた第2の閾値Thd2以上であるかどうかを判断する。なお、第2の閾値Thd2は、S203で用いられる第1の閾値Thd1よりも大きい値を設定する。第2の閾値Thd2以上(輝度差が大)である場合はS402に進み、第2の閾値Thd2未満かつ第1の閾値Thd1以上(輝度差が中)である場合はS409に進む。 In S401, it is determined whether or not the brightness difference of the object calculated in S202 of FIG. 5 is equal to or greater than a predetermined second threshold Thd2. Note that the second threshold Thd2 is set to a value larger than the first threshold Thd1 used in S203. If the difference is greater than or equal to the second threshold Thd2 (large luminance difference), the process proceeds to S402.
S402では、動き検出部107bにおいて、プリ撮影により得られた、S201で測光に用いた画像及びその前に得られた画像間の被写体の動きベクトル成分を算出する。動きベクトル成分が予め決められた閾値Thv以上であれば、被写体が動いていると判断し、S403に進む。一方、動きベクトル成分が閾値Thv未満であれば、被写体が動いていないと判断し、S406に進む。
In S402, the
S403では、画像処理部20で取得した測光結果に基づいて、主被写体の明るさを判定する。主被写体の測光値が予め決められた閾値Thp以上であれば、主被写体が明るいと判断し、S404に進んで撮影条件を後述するA1に決定する。一方、主被写体の測光値が閾値Thp未満であれば、主被写体が暗いと判断し、S405に進んで撮影条件を後述するA2に決定する。
In S403, the brightness of the main subject is determined based on the photometric results obtained by the
S406においても、S403と同様の判断を行い、主被写体の測光値が閾値Thp以上であれば、主被写体が明るいと判断し、S407に進んで撮影条件を後述するB1に決定する。一方、主被写体の測光値が閾値Thp未満であれば、主被写体が暗いと判断し、S408に進んで撮影条件を後述するB2に決定する。 In S406, the same determination as in S403 is made, and if the photometric value of the main subject is equal to or greater than the threshold Thp, it is determined that the main subject is bright, and the process advances to S407 to set the shooting condition to B1, which will be described later. On the other hand, if the photometric value of the main subject is less than the threshold Thp, it is determined that the main subject is dark, and the process advances to S408 to determine B2 as the shooting condition, which will be described later.
また、S409ではS402と同様の判断を行い、被写体の動きベクトル成分が予め決められた閾値Thv以上であれば、被写体が動いていると判断してS410に進み、閾値Thv未満であれば、被写体が動いていないと判断してS413に進む。 In step S409, the same determination as in step S402 is performed. is not moving, and the process proceeds to S413.
S410及びS413では、それぞれS403と同様の判断を行う。そして、S410において主被写体の測光値が閾値Thp以上であれば、主被写体が明るいと判断してS411に進んで撮影条件を後述するC1に決定し、閾値Thp未満であれば、主被写体が暗いと判断してS412に進んで撮影条件を後述するC2に決定する。 In S410 and S413, the same determination as in S403 is made. If the photometric value of the main subject is equal to or greater than the threshold Thp in S410, it is determined that the main subject is bright, and the process advances to S411 to determine the shooting condition C1, which will be described later. Then, the process advances to S412 to determine C2, which will be described later, as the imaging condition.
また、S413において主被写体の測光値が閾値Thp以上であれば、主被写体が明るいと判断してS414に進んで撮影条件を後述するD1に決定し、閾値Thp未満であれば、主被写体が暗いと判断してS415に進んで撮影条件を後述するD2に決定する。 If the photometric value of the main subject is equal to or greater than the threshold Thp in S413, it is determined that the main subject is bright, and the process advances to S414 to determine the shooting condition D1, which will be described later. Then, the process advances to S415 to determine D2, which will be described later, as the imaging condition.
ここで、図8の表を参照して、撮影条件A1~D2の具体例について説明する。
図8において、項目601は、図6で説明した撮影条件A1~D2を示している。項目604は、図3で判定した被写体の状態である、輝度差、被写体の動きの有無、及び主被写体の明るさを示す。項目602は1回目の撮影に用いる撮影条件の具体的な内容、項目603は、2回目の撮影に用いる撮影条件の具体的な内容を示しており、ここでは、シャッタースピードTvと、撮像素子14に設定する2種類のゲイン1及びゲイン2を示している。
Here, specific examples of the imaging conditions A1 to D2 will be described with reference to the table in FIG.
In FIG. 8, an
図8に示すように、図6のS401で輝度差が第2の閾値Thd2以上(輝度差が大)である場合には、撮像素子14から出力する画像枚数を4枚に設定し、図6のS401で輝度差が第2の閾値Thd2未満かつ第1の閾値Thd1以上(輝度差が中)である場合には、撮像素子14から出力する画像枚数を3枚に設定する。つまり、1回の撮影で最大2枚の画像を取得できるため、撮像素子14から出力する画像枚数が3枚以上である場合には2回の撮影が必要となる。
As shown in FIG. 8, when the luminance difference is greater than or equal to the second threshold Thd2 (the luminance difference is large) in S401 of FIG. If the luminance difference is less than the second threshold Thd2 and equal to or greater than the first threshold Thd1 (medium luminance difference) in S401 of 1, the number of images to be output from the
また、被写体が動体である場合には、シャッタースピードを高速にすることで被写体ブレを軽減するとともに、主被写体の明るさに応じて、明るい場合には低いゲイン、暗い場合には高いゲインを設定している。ゲイン設定は、高ゲインになるとノイズが増えて画質が悪化する懸念があるため、できるだけ低いゲインで撮影する事が望ましい。そのため、被写体が動体でない場合には、同じ明るさであっても被写体が動体である場合よりも低いゲインを設定し、シャッタースピードを調整することで異なる明るさの被写体に対応するようにしている。 In addition, when the subject is moving, the shutter speed is increased to reduce subject blur, and depending on the brightness of the main subject, a low gain is set for bright subjects and a high gain for dark subjects. are doing. As for the gain setting, there is a concern that noise increases and image quality deteriorates when the gain becomes high, so it is desirable to shoot with the lowest possible gain. Therefore, when the subject is not moving, even if the brightness is the same, the gain is set lower than when the subject is moving, and the shutter speed is adjusted to handle subjects with different brightness. .
なお、輝度差が中である場合、2回の撮影により取得する画像枚数が3枚であるため、撮影条件C1、C2では、1回目の撮影においてゲイン1で増幅した1枚の画像を出力し、撮影条件D1、D2では、2回目の撮影においてゲイン1で増幅した1枚の画像を出力している。この場合、撮像素子14では1種類のゲインをかけた1枚分の画像信号を出力する。そして、撮像素子14が2系統の増幅部を有する場合には、いずれか一方のみを用いればよい。また、撮像素子14が出力する画像枚数を1枚にするのは、1回目の撮影と2回目の撮影のいずれであっても構わない。
Note that when the luminance difference is medium, the number of images acquired by two shots is three. Therefore, under the shooting conditions C1 and C2, one image amplified with a gain of 1 is output in the first shot. , under photographing conditions D1 and D2, one image amplified with a gain of 1 is output in the second photographing. In this case, the
図5のS207では、このように異なる撮影条件で得られた4枚または3枚の画像信号を合成して、HDR画像を生成する。 In S207 of FIG. 5, an HDR image is generated by synthesizing four or three image signals obtained under different shooting conditions.
次に、図5のS203で輝度差が第1の閾値Thd1未満(輝度差が小)と判断された場合のS208における撮影条件の決定方法について、図4を用いて説明する。
S501では、画像処理部20で取得した測光結果に基づいて、主被写体の明るさを判定する。主被写体の測光値が予め決められた閾値Thp以上であれば、被写体が明るいと判断し、S502に進んで撮影条件を図8に示すE1に決定する。一方、主被写体の測光値が閾値Thp未満であれば、被写体が暗いと判断し、S503に進んで撮影条件を図5に示すE2に決定する。
Next, the method of determining the shooting conditions in S208 when it is determined in S203 in FIG. 5 that the luminance difference is less than the first threshold value Thd1 (the luminance difference is small) will be described with reference to FIG.
In S<b>501 , the brightness of the main subject is determined based on the photometric result obtained by the
S208では、S203で輝度差が第1の閾値Thd1未満、すなわち、輝度差が小さいと判断されている。そのため、撮影は1回のみ、撮像素子14からは2枚の画像を出力するものとし、主被写体の明るさに応じて、図8で示すように1回の撮影で用いる撮影条件E1、E2を決定する。
In S208, it is determined in S203 that the luminance difference is less than the first threshold Thd1, that is, the luminance difference is small. Therefore, it is assumed that the photographing is performed only once and two images are output from the
上記の通り第1の実施形態によれば、測光結果に基づく被写体の状態に応じて、撮影条件を決定することで、撮影回数および撮像素子14から出力される画像枚数を抑制しつつ、よりダイナミックレンジの広い、高画質のHDR画像を生成することができる。
As described above, according to the first embodiment, by determining the shooting conditions according to the state of the subject based on the photometric results, the number of shots and the number of images output from the
なお、上述した例では、輝度差を大、中、小の3段階に分け、撮像素子14から出力される画像枚数を4枚から2枚としたが、本発明はこれに限れられるものではなく、第2の閾値Thd2との比較を行わずに2段階としても良いし、逆に、更に輝度値を4段階以上に分けてもよい。その場合にも、必要とされている画像の枚数に応じて必要な回数の撮影を行えばよい。
In the above example, the luminance difference is divided into three levels of large, medium, and small, and the number of images output from the
<第2の実施形態>
次に、本発明の第2の実施形態について説明する。なお、第2の実施形態における撮像装置は、第1の実施形態において図1を参照して説明したものと同様であるため、説明を省略する。
上述した第1の実施形態では、プリ撮影で得られた画像の測光結果に基づいてHDR撮影を行う際の撮影条件を決定する場合について説明した。これに対し、第2の実施形態では、1回目のHDR撮影で得られた画像に基づいて、撮影条件を決定する場合について説明する。
<Second embodiment>
Next, a second embodiment of the invention will be described. Note that the imaging apparatus in the second embodiment is the same as that described with reference to FIG. 1 in the first embodiment, so description thereof will be omitted.
In the above-described first embodiment, a case has been described in which the shooting conditions for HDR shooting are determined based on the photometry result of an image obtained by pre-shooting. On the other hand, in the second embodiment, a case will be described in which the imaging conditions are determined based on the image obtained by the first HDR imaging.
以下、図9のフローチャートを参照して、1回目のHDR撮影で得られた画像の情報に基づいて撮影条件を決定してHDR画像の撮影を行う処理について説明する。なお、この処理は、図2に示す処理と同様に、操作部70に含まれる不図示のレリーズ釦によりHDR画像の撮影が指示されると開始される。 Processing for determining shooting conditions based on image information obtained in the first HDR shooting and shooting an HDR image will be described below with reference to the flowchart of FIG. 9 . It should be noted that this process is started when an HDR image capturing instruction is given by a release button (not shown) included in the operation unit 70, similarly to the process shown in FIG.
S301において、上述したS201と同様に、本撮影前にプリ撮影を行って撮像素子14から出力された画像信号を画像処理部20で取得し、測光を行う。
In S301, as in S201 described above, pre-shooting is performed before main shooting, and an image signal output from the
S302では、システム制御部50は、画像処理部20からS301で実施した測光結果を受け取り、1回目の撮影条件を決定する。本実施形態では、1回目の撮影条件は、測光結果の明部を基準にして、絞り制御値、シャッタースピード、ゲイン1及びゲイン2(低ゲイン・高ゲイン)を決定する。
In S302, the
S303において、S302で決定した1回目の撮影条件に従い、システム制御部50から焦点調節部42、ズーム制御部44及びタイミング発生部18を介して撮影レンズ10及び撮像素子14を制御し、1回目の撮影を行い、画像信号を取得する。
In S303, according to the first shooting conditions determined in S302, the
S304において、システム制御部50は、画像処理部20からS303で撮影した1回目の画像信号を受け取り、輝度差検出部107aで被写体の明部エリアと暗部エリアとの輝度差を算出する。なお、撮像素子14からはゲイン1及びゲイン2で増幅された画像信号が出力されているが、いずれか一方を用いて算出する。また、ゲイン1及びゲイン2で増幅された画像信号の両方を用いて算出してもよい。
In S304, the
S305では、S304で算出した被写体の輝度差が予め決められた第3の閾値Thd3以上であるか否かを露光制御部40が判定する。輝度差が第3の閾値Thd3以上である場合には、追加撮影を実施すると判断してS306へ進み、輝度差が第3の輝度差未満である場合には、追加撮影を実施しないと判断してS309に進む。
In S305, the
S306では、S303の撮影で用いた撮影画像の撮影条件と、S304で算出した輝度差に基づいて、追加で撮影する2回目の撮影条件を決定する。本実施形態では、S303で実施する1回目の撮影条件を被写体の明部を基準にして決定するため、2回目の撮影では、1回目の撮影で不足する暗部の階調を補うような撮影条件とする。 In S306, based on the shooting conditions of the shot image used in shooting in S303 and the luminance difference calculated in S304, the shooting conditions for the second additional shooting are determined. In the present embodiment, since the first shooting condition performed in S303 is determined based on the bright part of the subject, in the second shooting, the shooting conditions are set so as to compensate for the insufficient gradation of the dark part in the first shooting. and
S307では、2回目の撮影を行う。この撮影処理では、S306で決定した撮影条件に従い、システム制御部50から焦点調節部42、ズーム制御部44及びタイミング発生部18を介して撮影レンズ10及び撮像素子14を制御し、画像信号を取得する。そして、S308において、S303及びS307の2回の撮影処理で取得した複数枚の画像信号を画像処理部20にて合成し、HDR画像を生成し、処理を終了する。
In S307, the second shooting is performed. In this photographing process, the
なお、2回目の撮影で用いる撮影条件は、必要に応じて、撮像素子14に2種類の異なるゲインを設定しても良いし、同じゲインを設定してもよい。同じゲインを設定した場合、撮像素子14が2系統の増幅部を有する場合には、いずれか一方を用いればよい。
As for the imaging conditions used in the second imaging, two different gains may be set for the
一方、S309では、S303の撮影処理で取得した複数枚の画像信号を画像処理部20にて合成し、HDR画像を生成し、処理を終了する。
On the other hand, in S309, the
上記の通り本第2の実施形態によれば、S302における1回目のHDR撮影で得られた画像における被写体の状態に応じて、2回目の撮影を行うかどうかを判断することで、撮影回数を抑制しつつ、よりダイナミックレンジの広い、高画質のHDR画像を生成することができる。 As described above, according to the second embodiment, by determining whether or not to perform the second imaging according to the state of the subject in the image obtained by the first HDR imaging in S302, the number of times of imaging is reduced. A high-quality HDR image with a wider dynamic range can be generated while suppressing noise.
なお、上述した実施形態では、追加撮影をする際の一例として2回としているが、本発明は2回に限定されるものではなく、3回以上(複数回)の撮影を行ってもよい。 In the above-described embodiment, as an example of additional photography, two times are used, but the present invention is not limited to two times, and photography may be performed three or more times (a plurality of times).
<第3の実施形態>
次に、本発明の第3の実施形態について説明する。
<Third Embodiment>
Next, a third embodiment of the invention will be described.
第3の実施形態では、図10及び図11を用いて、本実施形態におけるユーザーインターフェースに関して説明する。なお、第2の実施形態と同様に、図1で説明した撮像装置100を用いることができるため、ここでは説明を省略する。
In the third embodiment, the user interface in this embodiment will be described with reference to FIGS. 10 and 11. FIG. As in the second embodiment, the
図10は、HDRモードにおける追加撮影を許可するか否かを、ユーザーが操作部70を操作することで撮像装置100に設定するためのユーザーインターフェースの一例を示す。本実施形態では、HDRメニュー画面701において、ユーザーが事前に追加撮影を許可するボタン702、もしくは追加撮影を許可しないボタン703のいずれかを選択し、設定する事が可能である。設定した情報は不揮発性メモリ31に保存される。
FIG. 10 shows an example of a user interface for allowing the user to operate the operation unit 70 to set whether or not to permit additional shooting in the HDR mode. In this embodiment, on the
図11は、HDR撮影時に追加撮影を行う場合の表示方法を示す図である。本実施形態では、HDR撮影時の表示画面801に、追加撮影が必要な判断がされた時、メッセージ表示802をシステム制御部50の指示で表示する。
FIG. 11 is a diagram showing a display method when additional shooting is performed during HDR shooting. In this embodiment, a
次に、図12を用いて、第3の実施形態におけるHDR撮影処理について説明する。図12は、第1の実施形態で説明した図5に示す撮像処理に、追加撮影の可否に関わる処理を追加したものである。以下、図5に示す処理と同様の処理には同じステップ番号を付して、適宜説明を省略する。 Next, HDR imaging processing in the third embodiment will be described with reference to FIG. 12 . FIG. 12 is obtained by adding processing related to whether or not additional photography is possible to the imaging processing shown in FIG. 5 described in the first embodiment. Hereinafter, the same step numbers are given to the same processes as those shown in FIG. 5, and the description thereof will be omitted as appropriate.
S203において、S202で算出した被写体の輝度差が第1の閾値Thd1以上であるか否かを露光制御部40が判定する。輝度差が第1の閾値Thd1以上である場合にはS901の処理へ進み、輝度差が第1の閾値Thd1未満である場合に、S208の処理に進む。
In S203, the
S901では、不揮発性メモリ31に保存された追加撮影に関する設定を取得し、S902に進む。S902では、S901で取得した追加撮影に関する設定値に応じて、追加撮影が許可されている場合はS903に進み、追加撮影が許可されていない場合はS208に進む。
In S901, settings related to additional shooting saved in the
S903では、システム制御部50により画像表示部28に図11に示すメッセージ表示802を行い、S204に進む。なお、本実施形態では、画像表示部28にメッセージを表示する場合について説明したが本発明はこれに限られるものではなく、例えば、音声や、LED等の発光部等を用いて通知するようにしても良い。
In S903, the
なお、図12に示す例では、第1の実施形態と同様に、測光結果を用いて2回分の撮影条件を決定する場合について説明した。しかしながら、本発明はこれに限られるものではなく、第2の実施形態で説明したように、追加撮影を行うか否かを1回目の撮影で得られた画像の条件に基づいて決定する場合に適用してもよい。その場合、図9のS305でYESとなった場合に、S306の処理を行う前に図12に示すS901~S903の処理を行えばよい。 Note that in the example shown in FIG. 12, as in the first embodiment, a case has been described in which the photometry results are used to determine the imaging conditions for two shots. However, the present invention is not limited to this, and as described in the second embodiment, when determining whether or not to perform additional photography based on the conditions of the image obtained in the first photography, may apply. In that case, if YES in S305 of FIG. 9, the processes of S901 to S903 shown in FIG. 12 may be performed before performing the process of S306.
上記の通り第3の実施形態によれば、第1及び第2の実施形態と同様の効果に加え、ユーザーによる追加撮影を許可/非許可の選択することで、よりユーザーの意図に応じた撮影を行うことができる。 As described above, according to the third embodiment, in addition to the same effects as those of the first and second embodiments, the user can select permission/non-permission for additional photography, so that the photography can be performed in accordance with the user's intentions. It can be performed.
なお、上述した実施形態では、1回の撮影で得られた画像信号に対し2種類のゲインをかけることで、明るさの異なる2枚の画像を取得し、この2枚の画像を合成する事でHDR画像を生成する例について説明した。しかしながら、本発明は2種類に限定されるものではなく、3種類以上のゲインをかけてもよい。 In the above-described embodiment, two images with different brightness are acquired by applying two types of gains to the image signal obtained by one shooting, and these two images are synthesized. has described an example of generating an HDR image. However, the present invention is not limited to two types of gains, and three or more types of gains may be applied.
<第4の実施形態>
次に、本発明の第4の実施形態について説明する。
<Fourth Embodiment>
Next, a fourth embodiment of the invention will be described.
図13は、第4の実施形態における撮影処理のフローチャートである。
S1401では、1回の蓄積により得られる画像信号に複数のゲインをかけて読み出すことで、同時に信号レベルの異なる2枚の画像を取得する。この2枚の画像を合成処理することで、HDR撮影により高ダイナミックレンジ画像を生成することができる。S202では、S201で取得した画像から画像中の輝度差と被写体の動きベクトルを検出する。
FIG. 13 is a flowchart of imaging processing in the fourth embodiment.
In S1401, an image signal obtained by one accumulation is multiplied by a plurality of gains and read out, thereby obtaining two images having different signal levels at the same time. By synthesizing these two images, a high dynamic range image can be generated by HDR photography. In S202, the luminance difference in the image and the motion vector of the object are detected from the image acquired in S201.
S1403では、S1402で検出した輝度差が閾値bThを超えているか否かを判断し、同時に2枚の画像を撮影した条件で被写体のダイナミックレンジが不足していないかを判定する。輝度差が閾値bThを超えている場合には、追加撮影が必要だと判断してS1404に進み、S1402で取得した被写体の動きベクトルが閾値vThより小さいかどうかを判断する。 In S1403, it is determined whether or not the luminance difference detected in S1402 exceeds the threshold value bTh, and it is determined whether or not the dynamic range of the subject is insufficient under the condition that two images are simultaneously captured. If the luminance difference exceeds the threshold bTh, it is determined that additional imaging is necessary, and the process advances to S1404 to determine whether the motion vector of the object acquired in S1402 is smaller than the threshold vTh.
被写体の動きベクトルが閾値vThより小さければ、追加撮影による合成ブレは目立たないので、追加撮影すると判断してS1405へ進む。一方、S1403で輝度差が閾値bTh以下の場合には、被写体のダイナミックレンジが十分であると判断し、またS1404で動きベクトルが閾値vTh以上の場合には、追加撮影による合成ブレが目立つため追加撮影しないと判断して、S1401へ戻る。 If the motion vector of the object is smaller than the threshold value vTh, the combined blur due to the additional shooting is inconspicuous. On the other hand, if the luminance difference is equal to or less than the threshold bTh in S1403, it is determined that the dynamic range of the subject is sufficient. It is determined not to shoot, and the process returns to S1401.
S1405では、追加撮影を挿入する時間があるかを判定し、追加撮影しても記録フレームレートが落ちない場合は、S1406において輝度差を再度判定する。輝度差が閾値bTh2より大きければ、非常に明暗差の大きいシーンなので、S1407へ進み、複数ゲインによる追加撮影を行う。輝度差が閾値bTh2以下であれば、S1408へ進んで単一ゲインによる追加撮影を行う。なお、これらの追加撮影については、図14及び図15を用いて詳細に後述する。 In S1405, it is determined whether there is time to insert additional shooting, and if the recording frame rate does not drop even after the additional shooting, the luminance difference is determined again in S1406. If the luminance difference is greater than the threshold bTh2, the scene has a very large difference in brightness, so the process advances to S1407 to perform additional shooting using multiple gains. If the luminance difference is equal to or less than the threshold value bTh2, the process advances to S1408 to perform additional imaging with a single gain. These additional shootings will be described later in detail with reference to FIGS. 14 and 15. FIG.
一方、S1405で追加撮影を行う時間が無いと判断した場合には、追加撮影することで記録フレームレートが低下するので、S1409で記録フレームレートを変更して、S1410で追加撮影を行う。この記録フレームレート変更処理については、図17を用いて詳細に後述する。
上記動作を連続させることで、HDR動画撮影を実現する。
On the other hand, if it is determined in S1405 that there is no time to perform additional shooting, the recording frame rate will decrease due to additional shooting, so the recording frame rate is changed in S1409 and additional shooting is performed in S1410. This recording frame rate change processing will be described later in detail using FIG.
By continuing the above operations, HDR video shooting is realized.
図14は、本実施形態の複数ゲインによる追加撮影を示したタイミングチャートである。
図14(a)は、S1403またはS1404で、追加撮影を行わないと判断したときのタイミングチャートを示している。各フレームで1回の蓄積を行い、得られた画素信号に2種類のゲインH/Lをかけて読み出して、H/Lの2枚の画像を合成して、HDR画像を生成する。
FIG. 14 is a timing chart showing additional imaging with multiple gains according to this embodiment.
FIG. 14A shows a timing chart when it is determined in S1403 or S1404 that additional shooting is not performed. Accumulation is performed once for each frame, the obtained pixel signals are multiplied by two types of gains H/L, read out, and the two images of H/L are combined to generate an HDR image.
図14(b)は、S1405において追加撮影を行う時間があると判断しているときに、S1407で追加撮影を行うタイミングチャートを示している。読み出しフレーム(第1の撮影動作)間に、読み出しフレームを追加できるかどうかで、追加撮影(第2の撮影動作)する時間があるかを判断している。図15(b)のH1/L1が元の読み出しフレームで、H2/L2が追加撮影する読み出しフレームである。このようにして得られた4枚の画像H1/L1/H2/L2を合成することで、高ダイナミックレンジ画像を生成することができる。 FIG. 14B shows a timing chart for performing additional imaging in S1407 when it is determined in S1405 that there is time to perform additional imaging. It is determined whether there is time for additional imaging (second imaging operation) based on whether or not a readout frame can be added between readout frames (first imaging operation). H1/L1 in FIG. 15B is the original readout frame, and H2/L2 is the additional readout frame. A high dynamic range image can be generated by synthesizing the four images H1/L1/H2/L2 thus obtained.
なお、図14(b)では、通常撮影と追加撮影で蓄積時間を変更して4種類の画像の取得を行っているが、撮影条件によっては蓄積時間を揃えて読み出しゲインの変更のみで追加撮影を行ってもよい。具体的な例として、
H1=ISO400、 L1=ISO100
H2=ISO1600、L2=ISO6400
という組み合わせで撮影する。さらに蓄積時間とゲインの両方を変更して撮影しても良い。
次のフレームにおいても同様に、4枚の画像H3/L3/H4/L4を合成する。
In FIG. 14B, four types of images are acquired by changing the accumulation time between normal photography and additional photography. may be performed. As a concrete example,
H1=ISO400, L1=ISO100
H2=ISO1600, L2=ISO6400
Shoot with a combination of Further, shooting may be performed by changing both the accumulation time and the gain.
Similarly, in the next frame, four images H3/L3/H4/L4 are synthesized.
図14(c)は、S1406において単一ゲインで追加撮影を行うと判断された場合に、S1408において追加撮影を行うタイミングチャートを示している。図14(c)のH1/L1が元の読み出しフレームで、M2が追加撮影した読み出しフレームである。このようにして得られた3枚の画像H1/L1/M2を合成することで、高ダイナミックレンジ画像を生成することができる。 FIG. 14C shows a timing chart for performing additional imaging in S1408 when it is determined in S1406 to perform additional imaging with a single gain. H1/L1 in FIG. 14C is the original readout frame, and M2 is the additional readout frame. A high dynamic range image can be generated by synthesizing the three images H1/L1/M2 thus obtained.
図14(b)に示すように4枚の画像を合成する場合には、非常に広いダイナミックレンジの画像を生成することができるが、読み出す画像の数が倍増することで、消費電力の増加も大きいものとなる。これに対し、単一ゲインでの追加撮影では、通常撮影では輝度差がもう少し足りない場合に、消費電力増加を最小限に抑えながら、必要なダイナミックレンジを確保することができる。 When four images are synthesized as shown in FIG. 14(b), an image with a very wide dynamic range can be generated. becomes a big one. On the other hand, additional shooting with a single gain can ensure the necessary dynamic range while minimizing the increase in power consumption when the brightness difference is slightly insufficient in normal shooting.
図15は、本実施形態の追加撮影による記録フレームレート変更を示したタイミングチャートであり、S1405で追加撮影する時間がない場合の処理を示す。
図15(a)に示すように、フレーム間に追加撮影を挿入する時間がない場合は、記録フレームレートを変更することにより合成するフレームレートも変更して、追加撮影できるようにする。記録フレームレートは、当該フレームのフレームレート情報を変更することや、また同じ画像を2度出力することで、フレームレートが見かけ上変更するようにしてもよい。
FIG. 15 is a timing chart showing changes in the recording frame rate due to additional shooting according to this embodiment, and shows processing when there is no time for additional shooting in S1405.
As shown in FIG. 15A, when there is no time to insert additional shooting between frames, the recording frame rate is changed to change the composite frame rate so that additional shooting can be performed. The recording frame rate may be apparently changed by changing the frame rate information of the frame or by outputting the same image twice.
図15(b)は、記録フレームレートを落として追加撮影を行う場合を示すタイミングチャートである。4枚の画像H1/L1/H2/L2を取得することが可能なように記録フレームレートを落とすことで、合成する画像のフレームレートは1/2になる。 FIG. 15(b) is a timing chart showing a case where the recording frame rate is lowered and additional shooting is performed. By lowering the recording frame rate so that four images H1/L1/H2/L2 can be acquired, the frame rate of the image to be combined is halved.
図15(c)は、記録フレームレートを落として単一ゲインにより追加撮影を行う場合を示すタイミングチャートである。3枚の画像H1/L1/M2を取得することが可能なように記録フレームレートを落とすことで、合成する画像のフレームレートは1/2になる。ここでも図14(c)で説明したように、ダイナミックレンジがあと少し不足する場合に、消費電力増加を抑えて必要なダイナミックレンジを確保するための方法である。 FIG. 15(c) is a timing chart showing a case where the recording frame rate is lowered and additional shooting is performed with a single gain. By lowering the recording frame rate so that the three images H1/L1/M2 can be obtained, the frame rate of the image to be combined is halved. Again, as described with reference to FIG. 14C, this is a method for securing the necessary dynamic range by suppressing an increase in power consumption when the dynamic range is slightly insufficient.
図16は、本実施形態の動きベクトルの検出方法を説明するための図である。
動きベクトルは、画像間の差分を検出することで推定することができる。H1/L1フレームとH2/L2フレーム間の動きベクトルを検出する場合、本実施形態では、適正画像に近いH1/H2フレーム間で検出を行う。H1/H2フレームをそれぞれ必要な解像度に変換し、画像間の差の絶対値の総和を求めることで、図16に示すように、動きベクトルSの検出を行うことができる。
そして、求めた動きベクトルSが閾値bThを超えた場合、動きが大きいものとみなすことができる。
FIG. 16 is a diagram for explaining the motion vector detection method of this embodiment.
Motion vectors can be estimated by detecting differences between images. When detecting a motion vector between the H1/L1 frame and the H2/L2 frame, in this embodiment, detection is performed between the H1/H2 frames that are close to the proper image. The motion vector S can be detected as shown in FIG. 16 by converting each of the H1/H2 frames to the required resolution and calculating the sum of the absolute values of the differences between the images.
Then, when the obtained motion vector S exceeds the threshold bTh, it can be regarded that the motion is large.
動きベクトルSを検出するフレーム間で露出差がある場合は、画像間で露出差の正規化を行う必要がある。H1画像の露出Tv1/Av1/Sv1とH2画像の露出Tv2/Av2/Sv2から正規化係数Gainを求める。そして、求めた正規化係数GainをH2画像に乗算することで、H1画像と同じ露出の画像として扱うことができ、画像間の動きベクトルを検出することができる。 If there is an exposure difference between the frames for which the motion vector S is detected, it is necessary to normalize the exposure difference between the images. A normalization coefficient Gain is obtained from the exposure Tv1/Av1/Sv1 of the H1 image and the exposure Tv2/Av2/Sv2 of the H2 image. By multiplying the H2 image by the obtained normalization coefficient Gain, the H2 image can be handled as an image with the same exposure as the H1 image, and the motion vector between the images can be detected.
図17は、本実施形態における表示の一例を示した図である。
「A:現在の合成枚数」の表示は、図14(b)及び図14(c)で説明した、合成に使用している画像の枚数を表示する。ユーザーはカメラが合成している撮影枚数がどの程度なのかを、この表示を通じて確認することができる。
「B:現在の記録レート」の表示は、図15(b)及び図15(c)で説明した、記録フレームレートを表している。ユーザーはカメラが必要とするダイナミックレンジに応じて、記録フレームレートがユーザーの意図通りかをこの表示を通じて確認することができる。
これらがユーザーの意図しない表示になった場合は、ユーザーは設定を変更して意図通りの撮影が行えるようにすることができる。
FIG. 17 is a diagram showing an example of display in this embodiment.
The display of "A: current number of combined images" displays the number of images used for combining as described with reference to FIGS. 14(b) and 14(c). Through this display, the user can confirm how many shots the camera is combining.
The display of "B: current recording rate" indicates the recording frame rate described with reference to FIGS. 15(b) and 15(c). Through this display, the user can check whether the recording frame rate is as intended by the user according to the dynamic range required by the camera.
If these are not displayed as intended by the user, the user can change the settings so that shooting can be performed as intended.
上記の通り第4の実施形態によれば、画像を連続して撮影している場合にも、ダイナミックレンジを拡大した画像を得ることができる。 As described above, according to the fourth embodiment, it is possible to obtain an image with an expanded dynamic range even when images are continuously captured.
なお、上述した実施形態では、撮像装置に適用した場合について説明したが、本発明はこれに限られるものではない。異なるゲインを設定し、ダイナミックレンジ拡大合成が可能な電子機器であれば様々な電子機器に本発明を適用することができ、例えば、スマートフォンやカムコーダー、カメラ付きゲーム機等に適用可能である。 In addition, in the above-described embodiment, the case where the present invention is applied to an imaging device has been described, but the present invention is not limited to this. The present invention can be applied to various electronic devices as long as they are electronic devices capable of setting different gains and synthesizing with an expanded dynamic range.
また、上述した実施形態は、その一部または全部を組み合わせて用いることが可能である。 In addition, the embodiments described above can be used in combination with some or all of them.
<他の実施形態>
また、本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
<Other embodiments>
Further, the present invention supplies a program that implements one or more functions of the above-described embodiments to a system or device via a network or a storage medium, and one or more processors in the computer of the system or device executes the program. It can also be realized by a process of reading and executing. It can also be implemented by a circuit (for example, ASIC) that implements one or more functions.
発明は上記実施形態に制限されるものではなく、発明の精神及び範囲から離脱することなく、様々な変更及び変形が可能である。従って、発明の範囲を公にするために請求項を添付する。 The invention is not limited to the embodiments described above, and various modifications and variations are possible without departing from the spirit and scope of the invention. Accordingly, the claims are appended to make public the scope of the invention.
10:撮影レンズ、14:撮像素子、16:A/D変換器、18:タイミング発生部、20:画像処理部、22:メモリ制御部、28:画像表示部、30:メモリ、40:露光制御部、50:システム制御部、60:モードダイヤルスイッチ、70:操作部、75:通信部、76:コネクタ(またはアンテナ)、90:インタフェース、92:コネクタ、100:撮像装置、107a:輝度差検出部、107b:動き検出部、200:記録媒体、202:記録部、204:インタフェース、206:コネクタ
10: photographing lens, 14: image sensor, 16: A/D converter, 18: timing generator, 20: image processing unit, 22: memory control unit, 28: image display unit, 30: memory, 40: exposure control Unit 50: System control unit 60: Mode dial switch 70: Operation unit 75: Communication unit 76: Connector (or antenna) 90: Interface 92: Connector 100:
Claims (22)
前記撮像手段から出力された画像信号の輝度値を検出する検出手段と、
前記輝度値に基づいて、撮影ごとに前記複数の異なるゲインを含む撮影条件を変えながら複数回の撮影を行うかどうかを判断する判断手段と、
前記判断手段における判断の結果に応じて前記撮影条件を決定する決定手段と、
前記決定手段により決定された前記撮影条件に基づいて、前記撮像手段を制御して撮影を行う制御手段と
を有することを特徴とする電子機器。 an imaging means for applying at least one of a plurality of different gains to an image signal obtained by photoelectrically converting an optical image of a subject and outputting the signal;
a detection means for detecting a luminance value of the image signal output from the imaging means;
determination means for determining, based on the luminance value, whether or not to perform a plurality of shootings while changing shooting conditions including the plurality of different gains for each shooting;
determining means for determining the photographing condition according to the determination result of the determining means;
and control means for controlling the imaging means to perform imaging based on the imaging conditions determined by the determination means.
前記決定手段は、前記被写体の動きと、主被写体の輝度値とに基づいて、各撮影における前記撮影条件を決定することを特徴とする請求項1に記載の電子機器。 further comprising motion detection means for detecting motion of the subject;
2. The electronic device according to claim 1, wherein said determining means determines said photographing conditions for each photograph based on the movement of said subject and the luminance value of a main subject.
前記判断手段は、当該第1の撮影条件で撮影を行って得た画像信号における明部と暗部との輝度差が予め決められた第1の閾値以上の場合に、前記複数回の撮影を行うと判断することを特徴とする請求項1に記載の電子機器。 The determining means further determines a first photographing condition based on a photometric value of an image signal obtained by pre-photographing by the imaging means,
The determining means performs the plurality of photographing operations when a luminance difference between a bright portion and a dark portion in an image signal obtained by photographing under the first photographing condition is equal to or greater than a predetermined first threshold value. 2. The electronic device according to claim 1, wherein the electronic device determines that
前記判断手段が複数回の撮影を行うと判断した場合に、前記決定手段は、前記第1の撮影条件で撮影を行って得た画像信号における暗部の輝度値に基づいて第2の撮影条件を決定することを特徴とする請求項8に記載の電子機器。 The determining means determines the first imaging condition based on a brightness value of a bright portion in an image signal obtained by performing the pre-imaging,
When the determining means determines that the photographing is performed a plurality of times, the determining means sets the second photographing condition based on the brightness value of the dark part in the image signal obtained by photographing under the first photographing condition. 9. The electronic device according to claim 8, characterized in that it determines.
前記操作手段により、複数回の撮影を行わない指示がされた場合に、前記判断手段は、前記輝度値に関わらず、複数回の撮影を行わないと判断することを特徴とする請求項1に記載の電子機器。 further comprising operating means;
2. The apparatus according to claim 1, wherein when said operation means gives an instruction not to perform multiple shots, said determination means determines not to perform multiple shots regardless of said luminance value. Electronics as described.
前記判断手段により前記複数回の撮影を行うと判断された場合に、前記制御手段は、連続する前記第1の撮影動作の間に、前記第1の撮影動作と異なる撮影条件を用いて第2の撮影動作を行うように前記撮像手段を制御し、前記決定手段は、前記第2の撮影動作で用いる撮影条件を決定し、
前記複数回の撮影は、1回の前記第1の撮影動作と、1回の前記第2の撮影動作であることを特徴とする請求項1に記載の電子機器。 The imaging means repeatedly performs a first imaging operation of applying at least one of a plurality of different gains to an image signal obtained by photoelectrically converting an optical image of a subject and outputting the image signal,
When the determining means determines that the plurality of times of photographing is to be performed, the control means performs a second photographing operation using photographing conditions different from those of the first photographing operation during the continuous first photographing operation. controlling the imaging means to perform the imaging operation of, the determining means determining imaging conditions to be used in the second imaging operation;
2. The electronic device according to claim 1, wherein the multiple times of photographing are one of the first photographing operation and one of the second photographing operation.
前記判定手段により、連続する前記第1の撮影動作の間に前記第2の撮影動作を行う時間が無いと判定された場合に、前記制御手段は、前記第2の撮影動作を行うことができるように、前記撮像手段が前記第1の撮影動作を行う間隔を変更するように制御することを特徴とする請求項13に記載の電子機器。 further comprising determination means for determining whether there is time to perform the second shooting operation between the continuous first shooting operations;
When the determining means determines that there is no time to perform the second imaging operation between the continuous first imaging operations, the control means can perform the second imaging operation. 14. The electronic device according to claim 13, wherein control is performed so as to change the interval at which the imaging means performs the first photographing operation.
前記判断手段は、更に、前記動きが予め決められた閾値よりも小さい場合に、前記第2の撮影動作を行うと判断することを特徴とする請求項13または14に記載の電子機器。 further comprising motion detection means for detecting motion of the subject in the images obtained by the continuous first shooting operation;
15. The electronic device according to claim 13, wherein the determination means further determines that the second photographing operation is to be performed when the movement is smaller than a predetermined threshold.
前記表示手段は、前記記録手段により前記画像信号を記録するフレームレートを表示することを特徴とする請求項17に記載の電子機器。 further comprising display means;
18. The electronic device according to claim 17, wherein said display means displays a frame rate at which said image signal is recorded by said recording means.
前記表示手段は、前記決定手段により決定された撮影条件で得られる画像の枚数を表示することを特徴とする請求項1に記載の電子機器。 further comprising display means;
2. The electronic apparatus according to claim 1, wherein said display means displays the number of images obtained under the photographing conditions determined by said determination means.
前記撮像工程で出力された画像信号の輝度値を検出する検出工程と、
前記輝度値に基づいて、撮影ごとに前記複数の異なるゲインを含む撮影条件を変えながら複数回の撮影を行うかどうかを判断する判断工程と、
前記判断工程における判断の結果に応じて前記撮影条件を決定する決定工程と、
前記決定工程で決定された前記撮影条件に基づいて、前記撮像手段を制御して撮影を行うように制御する制御工程と
を有することを特徴とする電子機器の制御方法。 an imaging step of applying at least one of a plurality of different gains to an image signal obtained by photoelectrically converting an optical image of a subject by an imaging means and outputting the image signal;
a detection step of detecting a luminance value of the image signal output in the imaging step;
a determination step of determining, based on the luminance value, whether or not to perform a plurality of shootings while changing shooting conditions including the plurality of different gains for each shooting;
a determination step of determining the imaging condition according to the result of determination in the determination step;
A control method for an electronic device, comprising: a control step of controlling the imaging means to perform imaging based on the imaging conditions determined in the determination step.
Applications Claiming Priority (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021146351 | 2021-09-08 | ||
JP2021146351 | 2021-09-08 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023039396A true JP2023039396A (en) | 2023-03-20 |
Family
ID=85600555
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022066491A Pending JP2023039396A (en) | 2021-09-08 | 2022-04-13 | Electronic apparatus and method for controlling the same |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023039396A (en) |
-
2022
- 2022-04-13 JP JP2022066491A patent/JP2023039396A/en active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6675194B2 (en) | Imaging device, control method therefor, program, and storage medium | |
US20060098107A1 (en) | Method and apparatus for removing noise from a digital image | |
JP5343588B2 (en) | Imaging device | |
JP7195120B2 (en) | Imaging device and its control method | |
JP2009201094A (en) | Imaging apparatus and imaging method | |
US10839497B2 (en) | Image processing apparatus and method | |
JP5223686B2 (en) | Imaging apparatus and imaging method | |
JP5063372B2 (en) | Image processing apparatus, control method, and program | |
JP5800664B2 (en) | Imaging apparatus and control method thereof | |
US10097751B2 (en) | Imaging apparatus and image compositing method | |
JP2015033064A (en) | Imaging device, control method therefor, program, and storage medium | |
JP5277863B2 (en) | Imaging apparatus and imaging method | |
US9013597B2 (en) | Image pickup apparatus that carries out noise compensation, control method therefor, and storage medium | |
JP2012019341A (en) | Imaging device, and method and program for controlling the same | |
JP6559014B2 (en) | Imaging apparatus, control method thereof, and program | |
JP2018006828A (en) | Imaging apparatus, control method therefor and program | |
JP2012090041A (en) | Image processing device, method, and program | |
JP5310331B2 (en) | Imaging apparatus and imaging method | |
US10674092B2 (en) | Image processing apparatus and method, and image capturing apparatus | |
JP2023039396A (en) | Electronic apparatus and method for controlling the same | |
JP6353585B2 (en) | Imaging apparatus, control method therefor, program, and storage medium | |
JP5482428B2 (en) | Imaging apparatus, camera shake correction method, and program | |
JP2012227744A (en) | Imaging apparatus | |
JP2015053652A (en) | Imaging apparatus, and control method and control program for the same | |
JP2014053777A (en) | Imaging apparatus |