JP6785456B2 - 画像処理装置、画像処理方法及びプログラム - Google Patents
画像処理装置、画像処理方法及びプログラム Download PDFInfo
- Publication number
- JP6785456B2 JP6785456B2 JP2018225170A JP2018225170A JP6785456B2 JP 6785456 B2 JP6785456 B2 JP 6785456B2 JP 2018225170 A JP2018225170 A JP 2018225170A JP 2018225170 A JP2018225170 A JP 2018225170A JP 6785456 B2 JP6785456 B2 JP 6785456B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- motion
- exposure
- blend ratio
- subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 104
- 238000003672 processing method Methods 0.000 title claims description 9
- 239000000203 mixture Substances 0.000 claims description 151
- 238000004364 calculation method Methods 0.000 claims description 70
- 230000035945 sensitivity Effects 0.000 claims description 51
- 238000001514 detection method Methods 0.000 claims description 24
- 230000002194 synthesizing effect Effects 0.000 claims description 24
- 230000003044 adaptive effect Effects 0.000 claims description 21
- 230000007423 decrease Effects 0.000 claims description 16
- 230000006978 adaptation Effects 0.000 claims description 12
- 238000002156 mixing Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 30
- 238000000034 method Methods 0.000 description 16
- 230000000052 comparative effect Effects 0.000 description 11
- 238000004590 computer program Methods 0.000 description 10
- 238000009825 accumulation Methods 0.000 description 7
- 238000012937 correction Methods 0.000 description 4
- 230000000694 effects Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 3
- 238000009499 grossing Methods 0.000 description 3
- 230000006870 function Effects 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 230000003321 amplification Effects 0.000 description 1
- 210000000746 body region Anatomy 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 230000001186 cumulative effect Effects 0.000 description 1
- 230000006866 deterioration Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T11/00—2D [Two Dimensional] image generation
- G06T11/001—Texturing; Colouring; Generation of texture or colour
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/21—Indexing scheme for image data processing or generation, in general involving computational photography
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10141—Special mode during image acquisition
- G06T2207/10144—Varying exposure
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20212—Image combination
- G06T2207/20221—Image fusion; Image merging
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Exposure Control For Cameras (AREA)
Description
[1−1.画像処理装置の構成]
まず、図1及び図2を参照しながら、実施の形態1に係る画像処理装置2の構成について説明する。図1は、実施の形態1に係る画像処理装置2の構成を示すブロック図である。図2は、実施の形態1に係る画像処理装置2のセンサ制御部6の処理を説明するための図である。
次に、図3〜図4Eを参照しながら、実施の形態1に係る画像処理装置2の動作について説明する。図3は、実施の形態1に係る画像処理装置2の動作の流れを示すフローチャートである。図4Aは、実施の形態1に係る長露光画像28の一例を示す模式図である。図4Bは、実施の形態1に係る短露光画像30の一例を示す模式図である。図4Cは、実施の形態1に係る補正短露光画像32の一例を示す模式図である。図4Dは、実施の形態1に係る動き量検出部10により検出された被写体の動き量の分布の一例を示す模式図である。図4Eは、実施の形態1に係る画像処理装置2により生成されるHDR画像34の一例を示す模式図である。
ここで、図5及び図6を参照しながら、比較例に係る画像処理装置について説明する。図5は、比較例に係る画像処理装置のセンサ制御部の処理を説明するための図である。図6は、比較例に係る画像処理装置により生成されるHDR画像36の一例を示す模式図である。
[2−1.画像処理装置の構成]
図7及び図8を参照しながら、実施の形態2に係る画像処理装置2Aの構成について説明する。図7は、実施の形態2に係る画像処理装置2Aの構成を示すブロック図である。図8は、実施の形態2に係る画像処理装置2Aの動きブレンド比率算出部12Aの処理を説明するための図である。なお、以下に示す各実施の形態において、上記実施の形態1と同一の構成要素には同一の符号を付して、その説明を省略する。
次に、図9〜図10Cを参照しながら、実施の形態2に係る画像処理装置2Aの動作について説明する。図9は、実施の形態2に係る画像処理装置2Aの動作の流れを示すフローチャートである。図10Aは、実施の形態2に係る長露光画像28Aの一例を示す模式図である。図10Bは、実施の形態2に係る短露光画像30Aの一例を示す模式図である。図10Cは、実施の形態2に係る画像処理装置2Aにより生成されるHDR画像34Aの一例を示す模式図である。なお、図9のフローチャートにおいて、図3のフローチャートの処理と同一の処理には同一のステップ番号を付して、その説明を省略する。
例えば被写体26が暗い場合に、第1のセンサゲインを大きくすることにより、補正短露光画像にはノイズが多く発生するようになる。この時、動きブレンド比率を補正しない場合には、動き量検出部10は、補正短露光画像のノイズを被写体26の動きと誤検出してしまい、補正短露光画像の動きブレンド比率が大きくなってHDR画像34Aにおけるノイズが多くなるおそれが生じる。
[3−1.画像処理装置の構成]
図11及び図12を参照しながら、実施の形態3に係る画像処理装置2Bの構成について説明する。図11は、実施の形態3に係る画像処理装置2Bの構成を示すブロック図である。図12は、実施の形態3に係る画像処理装置2Bの動きブレンド比率算出部12Bの処理を説明するための図である。
次に、図13A〜図14を参照しながら、実施の形態3に係る画像処理装置2Bの動作について説明する。図13Aは、実施の形態3に係る長露光画像28Bの一例を示す模式図である。図13Bは、実施の形態3に係る短露光画像30Bの一例を示す模式図である。図13Cは、実施の形態3に係る画像処理装置2Bにより生成されるHDR画像34Bの一例を示す模式図である。図14は、比較例に係る画像処理装置により生成されるHDR画像40の一例を示す模式図である。なお、説明の都合上、図13A〜図14では、被写体の図示を省略してある。
短露光画像30Bにフリッカが発生した際に、動きブレンド比率を補正しない場合には、動き量検出部10は、補正短露光画像のフリッカを被写体の動きと誤検出してしまい、補正短露光画像の動きブレンド比率が大きくなってHDR画像34Bにフリッカが発生するおそれが生じる。
[4−1.画像処理装置の構成]
図15及び図16を参照しながら、実施の形態4に係る画像処理装置2Cの構成について説明する。図15は、実施の形態4に係る画像処理装置2Cの構成を示すブロック図である。図16は、実施の形態4に係る画像処理装置2Cの動きブレンド比率算出部12Cの処理を説明するための図である。
次に、図17A〜図17Cを参照しながら、実施の形態4に係る画像処理装置2Cの動作について説明する。図17Aは、実施の形態4に係る長露光画像28Cの一例を示す模式図である。図17Bは、実施の形態4に係る短露光画像30Cの一例を示す模式図である。図17Cは、実施の形態4に係る画像処理装置2Cにより生成されるHDR画像34Cの一例を示す模式図である。
例えば被写体26が明るい場合には、第1の露光時間及び第2の露光時間をともに短くする。この時、動きブレンド比率を補正しない場合には、長露光画像28Cに被写体26の像のブレがほとんど発生していないにもかかわらず、長露光画像28Cが補正短露光画像で無駄に置き換えられてしまい、動き適応画像には補正短露光画像に起因するノイズが多く発生するようになる。
以上、一つ又は複数の態様に係る画像処理装置について、上記各実施の形態に基づいて説明したが、本開示は、上記各実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思い付く各種変形を上記各実施の形態に施したものや、異なる実施の形態における構成要素を組み合わせて構築される形態も、一つ又は複数の態様の範囲内に含まれてもよい。
4 画像センサ
6,6A,6C センサ制御部
8 レベル調整部
10 動き量検出部
12,12A,12B,12C 動きブレンド比率算出部
14 動き適応画像合成部
16 輝度ブレンド比率算出部
18 HDR画像合成部
20 減算部
22 絶対値算出部
24 ブロック差分累算部
26 被写体
28,28A,28B,28C 長露光画像
30,30A,30B,30C 短露光画像
32 補正短露光画像
34,34A,34B,34C,36,40 HDR画像
36 HDR画像
38 フリッカ検出部
Claims (6)
- 被写体を撮像したHDR(High Dynamic Range)画像を生成するための画像処理装置であって、
1フレーム時間内で、第1の露光時間及び第1のセンサゲインで前記被写体を撮像した第1の画像を出力し、且つ、前記第1の露光時間よりも長い第2の露光時間及び第2のセンサゲインで前記被写体を撮像した第2の画像を出力する画像センサと、
前記被写体の明るさが変化した際に、前記第1の露光時間と前記第1のセンサゲインとの積である第1の露光感度を、前記第1の画像が第1の明るさとなるように制御し、且つ、前記第2の露光時間と前記第2のセンサゲインとの積である第2の露光感度を、前記第2の画像が第2の明るさとなるように制御するセンサ制御部と、
前記第1の画像の輝度レベルを前記第2の画像の輝度レベルに略一致するように調整することにより、前記第1の画像から補正画像を生成するレベル調整部と、
前記補正画像及び前記第2の画像の同じ位置にある各画素間における画素値の差分に基づいて、前記被写体の動き量を検出する動き量検出部と、
前記動き量に基づいて、前記補正画像及び前記第2の画像をブレンドする比率である動きブレンド比率を算出する動きブレンド比率算出部と、
前記動きブレンド比率に基づいて前記補正画像と前記第2の画像とを合成することにより、動き適応画像を生成する動き適応画像合成部と、
前記動き適応画像と前記第1の画像とを合成することにより、前記HDR画像を生成するHDR画像合成部と、を備え、
前記センサ制御部は、前記被写体の明るさが暗く変化した際に、前記第1のセンサゲインが前記第2のセンサゲイン以下となるように、前記第1の露光感度及び前記第2の露光感度を制御する
画像処理装置。 - 前記動きブレンド比率算出部は、前記第1のセンサゲインが大きくなるに従って前記動き適応画像における前記補正画像の割合が小さくなるように、前記動きブレンド比率を補正する
請求項1に記載の画像処理装置。 - 前記画像処理装置は、さらに、前記第1の画像のフリッカ値を検出するフリッカ検出部を備え、
前記動きブレンド比率算出部は、前記フリッカ値が大きくなるに従って前記動き適応画像における前記補正画像の割合が小さくなるように、前記動きブレンド比率を補正する
請求項1に記載の画像処理装置。 - 前記動きブレンド比率算出部は、前記第2の露光時間が短くなるに従って前記動き適応画像における前記補正画像の割合が小さくなるように、前記動きブレンド比率を補正する
請求項1に記載の画像処理装置。 - 被写体を撮像したHDR画像を生成するための画像処理方法であって、
(a)1フレーム時間内で、第1の露光時間及び第1のセンサゲインで前記被写体を撮像した第1の画像を出力し、且つ、前記第1の露光時間よりも長い第2の露光時間及び第2のセンサゲインで前記被写体を撮像した第2の画像を出力するステップと、
(b)前記被写体の明るさが変化した際に、前記第1の露光時間と前記第1のセンサゲインとの積である第1の露光感度を、前記第1の画像が第1の明るさとなるように制御し、且つ、前記第2の露光時間と前記第2のセンサゲインとの積である第2の露光感度を、前記第2の画像が第2の明るさとなるように制御するステップと、
(c)前記第1の画像の輝度レベルを前記第2の画像の輝度レベルに略一致するように調整することにより、前記第1の画像から補正画像を生成するステップと、
(d)前記補正画像及び前記第2の画像の同じ位置にある各画素間における画素値の差分に基づいて、前記被写体の動き量を検出するステップと、
(e)前記動き量に基づいて、前記補正画像及び前記第2の画像をブレンドする比率である動きブレンド比率を算出するステップと、
(f)前記動きブレンド比率に基づいて前記補正画像と前記第2の画像とを合成することにより、動き適応画像を生成するステップと、
(g)前記動き適応画像と前記第1の画像とを合成することにより、前記HDR画像を生成するステップと、を含み、
前記(b)において、前記被写体の明るさが暗く変化した際に、前記第1のセンサゲインが前記第2のセンサゲイン以下となるように、前記第1の露光感度及び前記第2の露光感度を制御する
画像処理方法。 - 請求項5に記載の画像処理方法をコンピュータに実行させる
プログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018225170A JP6785456B2 (ja) | 2018-11-30 | 2018-11-30 | 画像処理装置、画像処理方法及びプログラム |
US16/593,593 US10970827B2 (en) | 2018-11-30 | 2019-10-04 | Image processor and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018225170A JP6785456B2 (ja) | 2018-11-30 | 2018-11-30 | 画像処理装置、画像処理方法及びプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2020088791A JP2020088791A (ja) | 2020-06-04 |
JP6785456B2 true JP6785456B2 (ja) | 2020-11-18 |
Family
ID=70849300
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018225170A Active JP6785456B2 (ja) | 2018-11-30 | 2018-11-30 | 画像処理装置、画像処理方法及びプログラム |
Country Status (2)
Country | Link |
---|---|
US (1) | US10970827B2 (ja) |
JP (1) | JP6785456B2 (ja) |
Families Citing this family (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11570374B1 (en) * | 2020-09-23 | 2023-01-31 | Apple Inc. | Subject-aware low light photography |
JP2022107233A (ja) * | 2021-01-08 | 2022-07-21 | ソニーセミコンダクタソリューションズ株式会社 | イメージセンサ、撮像装置、信号処理方法 |
CN115314628B (zh) * | 2021-05-08 | 2024-03-01 | 杭州海康威视数字技术股份有限公司 | 一种成像方法、***及摄像机 |
JP2022188690A (ja) * | 2021-06-09 | 2022-12-21 | オリンパス株式会社 | 撮像装置、画像処理装置、画像処理方法、記憶媒体 |
KR20230032359A (ko) * | 2021-08-30 | 2023-03-07 | 에스케이하이닉스 주식회사 | 전자 장치 및 그 동작 방법 |
US11671714B1 (en) * | 2022-01-24 | 2023-06-06 | Qualcomm Incorporated | Motion based exposure control |
Family Cites Families (12)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8525900B2 (en) * | 2009-04-23 | 2013-09-03 | Csr Technology Inc. | Multiple exposure high dynamic range image capture |
JP5445235B2 (ja) | 2010-03-09 | 2014-03-19 | ソニー株式会社 | 画像処理装置、画像処理方法およびプログラム |
JP5652649B2 (ja) | 2010-10-07 | 2015-01-14 | 株式会社リコー | 画像処理装置、画像処理方法および画像処理プログラム |
US8711248B2 (en) * | 2011-02-25 | 2014-04-29 | Microsoft Corporation | Global alignment for high-dynamic range image generation |
JP2013066142A (ja) | 2011-08-31 | 2013-04-11 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP2014229988A (ja) | 2013-05-20 | 2014-12-08 | キヤノン株式会社 | 画像処理装置、画像処理方法およびプログラム |
US9544505B2 (en) * | 2014-04-11 | 2017-01-10 | Hanwha Techwin Co., Ltd. | Image processing apparatus for synthesizing images based on a plurality of exposure time periods and image processing method thereof |
JP6529269B2 (ja) | 2015-01-26 | 2019-06-12 | キヤノン株式会社 | 画像処理装置、情報処理方法及びプログラム |
JP6486153B2 (ja) | 2015-03-09 | 2019-03-20 | キヤノン株式会社 | 情報処理装置、情報処理方法及びプログラム |
JP6596862B2 (ja) | 2015-03-20 | 2019-10-30 | Toto株式会社 | 除菌水生成装置 |
JP2017224971A (ja) | 2016-06-15 | 2017-12-21 | ソニー株式会社 | 画像処理装置、画像処理方法、およびプログラム |
JP2018050149A (ja) | 2016-09-21 | 2018-03-29 | キヤノン株式会社 | 画像処理装置 |
-
2018
- 2018-11-30 JP JP2018225170A patent/JP6785456B2/ja active Active
-
2019
- 2019-10-04 US US16/593,593 patent/US10970827B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
US20200175660A1 (en) | 2020-06-04 |
JP2020088791A (ja) | 2020-06-04 |
US10970827B2 (en) | 2021-04-06 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6785456B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US7483064B2 (en) | Imaging apparatus | |
TWI408953B (zh) | 攝像裝置及攝像方法 | |
WO2018070240A1 (ja) | 画像処理装置、画像処理方法、及び画像処理回路 | |
JP4822773B2 (ja) | 色ノイズ低減回路及びそれを用いた撮像装置 | |
JP5787648B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP5968068B2 (ja) | 露出制御を行う撮像装置、撮像装置の制御方法、プログラム及び記録媒体 | |
US20080253758A1 (en) | Image processing method | |
US20100231748A1 (en) | Imaging device | |
JP6074254B2 (ja) | 画像処理装置およびその制御方法 | |
JP6324090B2 (ja) | 撮像装置 | |
JP2015156600A (ja) | 画像信号処理装置,画像信号処理方法,および撮像装置 | |
JP2009049547A (ja) | 画像処理装置、画像処理方法、画像処理プログラム | |
JP2011254125A (ja) | 画像処理装置、カメラシステム、画像処理方法、およびプログラム | |
JP2013118513A (ja) | 撮像装置 | |
JP7117532B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
US8928787B2 (en) | Photographing apparatus and photographing method | |
JP2010183460A (ja) | 撮像装置およびその制御方法 | |
JP2009213032A (ja) | ワイド・ダイナミック・レンジ画像生成処理装置 | |
JP5621335B2 (ja) | 画像処理装置及び画像処理方法、並びに画像撮像装置 | |
JP5520863B2 (ja) | 画像信号処理装置 | |
JP2018181070A (ja) | 画像処理装置および画像処理方法 | |
US11012630B1 (en) | Image processor and image processing method | |
JP2010183461A (ja) | 撮像装置およびその制御方法 | |
JP2006279162A (ja) | 画像入力方法及びこれを用いた画像入力装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20200911 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200929 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20201009 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6785456 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313113 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
SZ03 | Written request for cancellation of trust registration |
Free format text: JAPANESE INTERMEDIATE CODE: R313Z03 |