JP7371197B2 - 画像処理装置およびその制御方法 - Google Patents
画像処理装置およびその制御方法 Download PDFInfo
- Publication number
- JP7371197B2 JP7371197B2 JP2022161830A JP2022161830A JP7371197B2 JP 7371197 B2 JP7371197 B2 JP 7371197B2 JP 2022161830 A JP2022161830 A JP 2022161830A JP 2022161830 A JP2022161830 A JP 2022161830A JP 7371197 B2 JP7371197 B2 JP 7371197B2
- Authority
- JP
- Japan
- Prior art keywords
- signal
- image processing
- value
- predetermined
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 57
- 238000000034 method Methods 0.000 title claims description 29
- 238000013507 mapping Methods 0.000 claims description 22
- 238000006243 chemical reaction Methods 0.000 claims description 14
- 238000012937 correction Methods 0.000 claims description 10
- 238000013139 quantization Methods 0.000 claims description 5
- 230000035945 sensitivity Effects 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 238000004364 calculation method Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000006870 function Effects 0.000 description 5
- 238000011161 development Methods 0.000 description 4
- 230000003287 optical effect Effects 0.000 description 4
- 238000003384 imaging method Methods 0.000 description 3
- 238000012546 transfer Methods 0.000 description 3
- 239000003086 colorant Substances 0.000 description 2
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000000694 effects Effects 0.000 description 2
- 238000003702 image correction Methods 0.000 description 2
- 230000011514 reflex Effects 0.000 description 2
- 230000005457 Black-body radiation Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 230000015572 biosynthetic process Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 230000003247 decreasing effect Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000005375 photometry Methods 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 238000003825 pressing Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 230000003068 static effect Effects 0.000 description 1
- 238000003786 synthesis reaction Methods 0.000 description 1
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/92—Dynamic range modification of images or parts thereof based on global image properties
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/90—Determination of colour characteristics
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20208—High dynamic range [HDR] image processing
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
Description
以下、添付図面を参照して、本発明をその例示的な実施形態に基づいて詳細に説明する。なお、説明する実施形態は単なる例示であり、本発明の範囲を限定するものではない。例えば、以下では本発明をデジタルカメラに適用した実施形態を説明する。しかし、デジタルカメラは本発明を適用可能な画像処理装置の一例にすぎない。本発明は任意の電子機器において実施可能である。このような電子機器には、デジタルカメラやデジタルビデオカメラといった撮像装置はもちろん、パーソナルコンピュータ、タブレット端末、携帯電話機、ゲーム機、ドライブレコーダ、ロボット、ドローンなどが含まれるが、これらに限定されない。
図2は実施形態に係るデジタルカメラ(以下、カメラ)の、主な光学部材やセンサ等の配置例を示す断面図である。本実施形態におけるカメラはレンズ交換可能なデジタル一眼レフカメラであり、カメラ本体1と交換レンズ2を有している。カメラ本体1において撮像素子10は例えばCMOSイメージセンサやCCDイメージセンサであり、複数の画素(蓄積型光電変換素子)が配列されている。撮像素子10の前方近傍に設けられていたメカニカルシャッター11は、撮像素子10の露出タイミングおよび露出時間を制御する。
S803で制御部21は、LmaxとmaxDRLとを比較する。ここで、maxDRLがLmax以上であれば、S804で制御部21は、LmaxがSDRのEOTFの定義域の最大値となるようにトーンマッピングする。
S809で制御部21は、トーンマッピングされたSDR信号をSDRフォーマットで保存するか否かを、例えば表示器27にGUIを表示してユーザに問い合わせる。ユーザから例えば操作部23を通じて保存が指示されれば、S810で制御部21はSDRフォーマットでSDR信号を記憶部26に保存する。ユーザから保存しない旨の指示があった場合、制御部21はSDR信号を保存せずに処理を終了する。
次に、本発明の第2実施形態について図9~11を用いて説明する。第1実施形態では、HDR信号をファイル記録する際に、出力Dレンジのピーク輝度情報であるmaxDRLをメタデータとして記載する方法を記述した。第2実施形態では、ファイル記録されたHDR信号に対して、トーンカーブ補正等で出力Dレンジのピーク輝度が変更されるようなレタッチを行った場合におけるmaxDRLの更新方法ついて述べる。
S1001(図10)で出力ピーク輝度情報取得部902は、HDR信号901のメタデータに記載されたmaxDRLを取得する。
S1002で色輝度調整部903は、表示器27にHDR信号901に基づく画像と、トーンカーブ補正など画像のレタッチ用GUIを表示する。また、色輝度調整部903は、操作部23を通じたユーザ指示に従って画像の色や輝度を補正する。
S1003で色輝度調整後の出力ピーク輝度情報算出部904は、出力ピーク輝度情報取得部902が取得したmaxDRLに対して、レタッチによる画像補正を反映させた出力Dレンジのピーク輝度情報maxDRL_rを算出する。補正前の入力信号の階調値をx、補正後の階調値をy、補正の入出力特性をfとすると、yは以下の(式1)を用いて求められる。
y=f(x)…(式1)
maxDRL_r=ymax…(式2)
S1004で記録部905は、maxDRL_rをHDR信号のメタデータ74に記録する。
S1005で記録部905は、HDR信号のファイルを記憶部26に記録する。
次に、本発明の第3実施形態について図12を用いて説明する。第1および第2実施形態では、保存されたHDR信号をSDR環境で視聴するための手順について説明した。本実施形態では、HDR信号をSDR環境でトーンカーブ補正等のレタッチを行った際に、レタッチ中及びレタッチ後のHDR信号をSDR環境で視聴するためにリアルタイムにトーンマッピングする方法について述べる。
S1213~S1214は第1実施形態のS809~S810と同様であるため説明を省略する。
次に、本発明の第4実施形態について説明する。第2実施形態では、画像のレタッチによりピーク輝度が変更された場合に、メタデータとしてのmaxDRLを更新するようにした。一方、本実施形態では、画像のレタッチによりピーク輝度が変更された場合であっても、メタデータとしてのmaxDRLを更新しない。レタッチ、例えばシャープネスの強さの変更によって画像のピーク輝度が変化し、maxDRLが更新される場合を想定する。この場合、maxDRLに基づきSDRへのトーンマッピングを行うと、シャープネスの強さによって画像の階調が変化することになる。しかし、例えばユーザがシャープネスの強さを変えながら画像を確認したい場合には、画像の階調は変えずに、シャープネスの効果のみを変更することが望ましい。そこで本実施形態では、画像のレタッチによりピーク輝度が変更された場合であっても、メタデータとしてのmaxDRLを更新しないこととした。なお、第2実施形態のようにmaxDRLを更新するモードと、本実施形態のようにmaxDRLを更新しないモードとを、ユーザ操作により、または自動的に選択可能にしてもよい。
上記の実施形態では、主に静止画ファイルを想定した説明を行った。本実施形態では、動画ファイルを想定した実施形態について説明する。
図13(a)は、動画ファイルフォーマットの一例であるMP4フォーマットのデータ構造を示す。MP4フォーマットのデータ構造は、メタデータを記録する領域1301と、動画のストリーム1305を記録する領域1304を含む。このうち領域1301はEXIF領域1302とサムネイル領域1303を含み、maxDRLはEXIF領域1302に記録される。しかしながら、動画データは、例えば記録中にモード変更があった場合、連続して記録された動画データの途中でピーク輝度が変わる場合がある。この場合、EXIF領域1302にmaxDRLとして何を記録するかが問題となる。そこで本実施形態では、動画撮影開始時の設定に基づくピーク輝度(動画データの開始フレームのピーク輝度)をmaxDRLとしてEXIF領域1302に記録することとした。なお、maxDRLとしては、動画データのピーク輝度を代表する値であれば他の値を用いてもよい。例えば、動画データの終了フレームのピーク輝度、全フレームのピーク輝度のうちの最大値、全フレームのピーク輝度のうちの最小値、全フレームのピーク輝度のうちの平均値、全フレームのピーク輝度の中央値などを用いることができる。
上記の実施形態では、ファイルのメタデータとしてmaxDRLを記述したが、必ずしもファイルのメタデータとして取り扱う場合に限定されない。例えば、デジタルカメラとHDRディスプレイを直接HDMI(登録商標)で接続してHDR信号を出力させるような場合は、以下のような形態が考えられる。例えばデジタルカメラは、maxDRLに相当する値を、HDR信号のメタデータとして出力信号用の記録媒体に読み出し、HDRディスプレイにその値が入力されるような形態である。
Claims (23)
- 信号レベルに対する表示輝度が絶対輝度で示される所定の画像信号を記録する画像処理装置であって、
前記画像処理装置に予め設定された異なる複数の出力ダイナミックレンジのうち、前記所定の画像信号の撮影条件に応じた1つの出力ダイナミックレンジのピーク輝度を示す情報を取得する取得手段と、
前記取得手段により取得された前記情報に基づく第1の値を、前記所定の画像信号に関連付けて記録する記録手段と、
を有することを特徴とする画像処理装置。 - 被写体を撮像する撮像素子をさらに有し、
前記所定の画像信号は、前記撮像素子から得られる信号から生成され、
前記撮影条件は、撮影モードを含み、
前記撮影モードは、前記異なる複数の出力ダイナミックレンジに対応する複数の撮影モードの1つであることを特徴とする請求項1に記載の画像処理装置。 - 前記撮影条件に含まれる撮影モードに応じて、前記撮像素子から得られる信号に適用されるコントラスト調整用の階調特性が異なることを特徴とする請求項2に記載の画像処理装置。
- 前記異なる複数の出力ダイナミックレンジが前記コントラスト調整用の階調特性に応じて定まり、前記ピーク輝度は、前記1つの出力ダイナミックレンジの前記コントラスト調整用の階調特性における最大の出力値であることを特徴とする請求項3に記載の画像処理装置。
- 前記所定の画像信号に対する色または輝度の補正により前記ピーク輝度が変化した場合、前記第1の値を更新する更新手段をさらに有することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- 前記所定の画像信号に対する色または輝度の補正により前記ピーク輝度が変化した場合であっても、前記第1の値を更新しないことを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- 前記第1の値に基づき、前記所定の画像信号の階調値を、異なるダイナミックレンジを有する所定のフォーマットにおける階調値に変換することにより、前記所定の画像信号を前記所定のフォーマットの信号に変換する変換手段をさらに有することを特徴とする請求項1から6のいずれか1項に記載の画像処理装置。
- 前記所定の画像信号は、HDR(High Dynamic Range)信号であることを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
- 前記所定の画像信号は、PQ(Perceptual Quantization)に準拠した信号特性に基づくことを特徴とする請求項1から7のいずれか1項に記載の画像処理装置。
- 前記異なるダイナミックレンジとは、SDR(Standard Dynamic Range)であることを特徴とする請求項8または9に記載の画像処理装置。
- 前記記録手段は、前記所定の画像と前記第1の値とを1つのファイルに記録することを特徴とする請求項1から10のいずれか1項に記載の画像処理装置。
- 前記1つのファイルがHEIF(High Efficiency Image File Format)形式で記録されることを特徴とする請求項11に記載の画像処理装置。
- 信号レベルに対する表示輝度が絶対輝度で示される所定の画像信号を処理する画像処理装置であって、
前記所定の画像信号に対応付けて記録された第1の値を取得する取得手段と、ここで、前記第1の値は、前記所定の画像信号の撮影条件に応じた異なる複数の出力ダイナミックレンジのうちの1つの出力ダイナミックレンジのピーク輝度を示し、
前記第1の値に基づき、前記所定の画像信号の階調値を、異なるダイナミックレンジを有する所定のフォーマットにおける階調値にトーンマッピングすることにより、前記所定の画像信号を前記所定のフォーマットの信号に変換する変換手段と、
を有することを特徴とする画像処理装置。 - 前記変換手段は、前記第1の値が予め定められた第2の値よりも小さい場合、前記第1の値が前記所定のフォーマットにおける最大の階調値になるようトーンマッピングすることを特徴とする請求項13に記載の画像処理装置。
- 前記変換手段は、前記第1の値が予め定められた第2の値よりも大きい場合、前記第2の値を前記所定のフォーマットにおける最大の階調値になるようトーンマッピングすることを特徴とする請求項13または14に記載の画像処理装置。
- 前記所定の画像信号は、HDR(High Dynamic Range)信号であることを特徴とする請求項13から15のいずれか1項に記載の画像処理装置。
- 前記所定の画像信号は、PQ(Perceptual Quantization)に準拠した信号特性に基づくことを特徴とする請求項13から15のいずれか1項に記載の画像処理装置。
- 前記所定のフォーマットの信号とは、SDR(Standard Dynamic Range)信号であることを特徴とする請求項16または17に記載の画像処理装置。
- 前記所定の画像信号は、HEIF(High Efficiency Image File Format)形式のファイルとして記録されていることを特徴とする請求項13から18のいずれか1項に記載の画像処理装置。
- 信号レベルに対する表示輝度が絶対輝度で示される所定の画像信号を記録する画像処理装置の制御方法であって、
前記画像処理装置に予め設定された異なる複数の出力ダイナミックレンジのうち、前記所定の画像信号の撮影条件に応じた1つの出力ダイナミックレンジのピーク輝度を示す情報を取得する取得工程と、
前記取得工程において取得された前記情報に基づく第1の値を、前記所定の画像信号に関連付けて記録する記録する記録工程と、
を有することを特徴とする、画像処理装置の制御方法。 - 信号レベルに対する表示輝度が絶対輝度で示される所定の画像信号をファイルとして記録する画像処理装置の制御方法であって、
前記所定の画像信号に対応付けられて記録された第1の値を取得する取得する取得工程と、ここで、前記第1の値は、前記所定の画像信号の撮影条件に応じた異なる複数の出力ダイナミックレンジのうちの1つの出力ダイナミックレンジのピーク輝度を示し、
前記第1の値に基づき、前記所定の画像信号の階調値を、異なるダイナミックレンジを有する所定のフォーマットにおける階調値にトーンマッピングすることにより、前記所定の画像信号を前記所定のフォーマットの信号に変換する変換工程と、
を有することを特徴とする、画像処理装置の制御方法。 - コンピュータを、請求項1から12のいずれか1項に記載の画像処理装置が有する各手段として機能させるためのプログラム。
- コンピュータを、請求項13から19のいずれか1項に記載の画像処理装置が有する各手段として機能させるためのプログラム。
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018164801 | 2018-09-03 | ||
JP2018164801 | 2018-09-03 | ||
JP2019141685A JP7157714B2 (ja) | 2018-09-03 | 2019-07-31 | 画像処理装置およびその制御方法 |
Related Parent Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019141685A Division JP7157714B2 (ja) | 2018-09-03 | 2019-07-31 | 画像処理装置およびその制御方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2022183218A JP2022183218A (ja) | 2022-12-08 |
JP7371197B2 true JP7371197B2 (ja) | 2023-10-30 |
Family
ID=69641438
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2022161830A Active JP7371197B2 (ja) | 2018-09-03 | 2022-10-06 | 画像処理装置およびその制御方法 |
Country Status (2)
Country | Link |
---|---|
US (2) | US11354789B2 (ja) |
JP (1) | JP7371197B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US11354789B2 (en) * | 2018-09-03 | 2022-06-07 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
KR20200101048A (ko) * | 2019-02-19 | 2020-08-27 | 삼성전자주식회사 | 영상을 처리하는 전자 장치 및 그 영상 처리 방법 |
Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016058848A (ja) | 2014-09-08 | 2016-04-21 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
JP2016189586A (ja) | 2014-06-10 | 2016-11-04 | パナソニックIpマネジメント株式会社 | 変換方法および変換装置 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20090086074A1 (en) * | 2007-09-27 | 2009-04-02 | Omnivision Technologies, Inc. | Dual mode camera solution apparatus, system, and method |
CN102484675B (zh) * | 2009-07-31 | 2015-03-25 | 夏普株式会社 | 灰度调整装置、图像显示装置、以及电视接收机 |
TWI630821B (zh) * | 2013-07-19 | 2018-07-21 | 新力股份有限公司 | File generation device, file generation method, file reproduction device, and file reproduction method |
RU2667034C2 (ru) | 2014-05-28 | 2018-09-13 | Конинклейке Филипс Н.В. | Способы и устройства для кодирования hdr-изображений и способы и устройства для использования таких кодированных изображений |
EP3671746B1 (en) * | 2014-06-20 | 2023-08-30 | Panasonic Intellectual Property Management Co., Ltd. | Playback method and playback apparatus |
GB2538997A (en) * | 2015-06-03 | 2016-12-07 | Nokia Technologies Oy | A method, an apparatus, a computer program for video coding |
JP6830190B2 (ja) * | 2015-10-07 | 2021-02-17 | パナソニックIpマネジメント株式会社 | 映像送信方法、映像受信方法、映像送信装置及び映像受信装置 |
JP2017184220A (ja) | 2016-03-24 | 2017-10-05 | シャープ株式会社 | 映像処理装置、表示装置、映像処理方法、制御プログラム、および記録媒体 |
US11354789B2 (en) * | 2018-09-03 | 2022-06-07 | Canon Kabushiki Kaisha | Image processing apparatus and control method thereof |
-
2019
- 2019-08-29 US US16/554,968 patent/US11354789B2/en active Active
-
2022
- 2022-05-11 US US17/742,054 patent/US11798143B2/en active Active
- 2022-10-06 JP JP2022161830A patent/JP7371197B2/ja active Active
Patent Citations (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016189586A (ja) | 2014-06-10 | 2016-11-04 | パナソニックIpマネジメント株式会社 | 変換方法および変換装置 |
JP2016058848A (ja) | 2014-09-08 | 2016-04-21 | ソニー株式会社 | 画像処理装置及び画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2022183218A (ja) | 2022-12-08 |
US11354789B2 (en) | 2022-06-07 |
US20200074602A1 (en) | 2020-03-05 |
US20220270221A1 (en) | 2022-08-25 |
US11798143B2 (en) | 2023-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP3551123B2 (ja) | 電子カメラ | |
TWI293846B (en) | Image pickup device with brightness correcting function and method of correcting brightness of image | |
JP6675194B2 (ja) | 撮像装置及びその制御方法、プログラム並びに記憶媒体 | |
JP7157714B2 (ja) | 画像処理装置およびその制御方法 | |
JP7371197B2 (ja) | 画像処理装置およびその制御方法 | |
JP5660341B2 (ja) | 撮像装置、撮像方法 | |
JP2017022610A (ja) | 画像処理装置、画像処理方法 | |
JP7071084B2 (ja) | 画像処理装置及び画像処理方法、プログラム、記憶媒体 | |
US20100128142A1 (en) | Image processing apparatus, image processing method, and storage medium storing image processing program | |
US10785462B2 (en) | Image processing apparatus, image capturing apparatus, image processing method, and storage medium | |
JP2019004230A (ja) | 画像処理装置及び方法、及び撮像装置 | |
JP4158029B2 (ja) | ホワイトバランス調整方法および電子カメラ | |
JPH11298848A (ja) | デジタルカメラ | |
JP2000307941A (ja) | デジタルカメラ | |
CN111866399B (zh) | 图像处理设备、其控制方法以及计算机可读介质 | |
JP7397640B2 (ja) | 画像処理装置および画像処理方法 | |
JP4752434B2 (ja) | 色補正処理プログラムおよび電子カメラ | |
JP5904753B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP2000134525A (ja) | デジタルカメラ | |
JP3713984B2 (ja) | デジタルカメラ | |
JP2004128558A (ja) | 撮像装置 | |
JP2000050138A (ja) | デジタルカメラ | |
JP5091734B2 (ja) | 撮像装置および撮像方法 | |
JP6072191B2 (ja) | 画像処理装置及び画像処理装置の制御方法 | |
JP2000115627A (ja) | 露出計機能を有するデジタルカメラ |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20221006 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230821 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20230919 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20231018 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 7371197 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |