JP2020184669A - 画像処理装置、撮像装置、画像処理方法、プログラム - Google Patents
画像処理装置、撮像装置、画像処理方法、プログラム Download PDFInfo
- Publication number
- JP2020184669A JP2020184669A JP2019087663A JP2019087663A JP2020184669A JP 2020184669 A JP2020184669 A JP 2020184669A JP 2019087663 A JP2019087663 A JP 2019087663A JP 2019087663 A JP2019087663 A JP 2019087663A JP 2020184669 A JP2020184669 A JP 2020184669A
- Authority
- JP
- Japan
- Prior art keywords
- image
- exposure
- long
- images
- captured
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000003384 imaging method Methods 0.000 title claims description 47
- 238000003672 processing method Methods 0.000 title claims 2
- 239000002131 composite material Substances 0.000 claims abstract description 20
- 238000009795 derivation Methods 0.000 claims description 23
- 239000013598 vector Substances 0.000 claims description 19
- 230000033001 locomotion Effects 0.000 claims description 18
- 230000002194 synthesizing effect Effects 0.000 claims description 5
- 238000000034 method Methods 0.000 abstract description 34
- 230000035945 sensitivity Effects 0.000 description 22
- 230000006870 function Effects 0.000 description 13
- 238000004891 communication Methods 0.000 description 9
- 238000010586 diagram Methods 0.000 description 8
- 230000015572 biosynthetic process Effects 0.000 description 3
- 230000010365 information processing Effects 0.000 description 3
- 238000003786 synthesis reaction Methods 0.000 description 3
- 230000005540 biological transmission Effects 0.000 description 2
- 239000013078 crystal Substances 0.000 description 2
- 230000003287 optical effect Effects 0.000 description 2
- 230000001960 triggered effect Effects 0.000 description 2
- 206010034972 Photosensitivity reaction Diseases 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 239000000203 mixture Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000010355 oscillation Effects 0.000 description 1
- 230000036211 photosensitivity Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/684—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time
- H04N23/6845—Vibration or motion blur correction performed by controlling the image sensor readout, e.g. by controlling the integration time by combination of a plurality of images sequentially taken
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/76—Circuitry for compensating brightness variation in the scene by influencing the image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
- H04N23/81—Camera processing pipelines; Components thereof for suppressing or minimising disturbance in the image signal generation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
- Image Processing (AREA)
- Exposure Control For Cameras (AREA)
Abstract
【課題】高品質な画像を生成する画像処理技術を提供する。【解決手段】画像処理装置は、時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせを行う位置合わせ手段と、長時間露光画像が条件を満たす場合、長時間露光画像を出力し、長時間露光画像が条件を満たさない場合、複数の短時間露光画像から選択される短時間露光画像が合成された合成画像を出力する出力手段と、を備える。【選択図】図1
Description
本発明は、被写体ぶれを抑制した画像を生成する画像処理技術に関する。
被写体の動きがシャッタースピードよりも速い場合、撮像された画像に被写体ぶれが発生する場合がある。そのため、被写体ぶれの発生を抑制するための撮像技術や、被写体ぶれを抑制した画像を生成する画像処理技術が提案されている。
例えば特許文献1に記載の撮像装置は、動画像データの符号化を行うエンコーダの動きベクトル情報を利用して、被写体ぶれを抑制可能な露光時間を算出し、動画像撮像時のシャッタースピードを制御する。
特許文献1に記載の撮像装置では、被写体ぶれを抑制可能な露光時間のうち、理論上、最も長い露光時間(すなわち、最も遅いシャッタースピード)が、適正な露光時間として算出される。しかし、実際には、上記の適正な露光時間よりも長い露光時間で撮像が行われることで、被写体ぶれが発生していない高品質な画像が得られる可能性がある。なお、被写体ぶれとは、被写体の動きがシャッタースピードよりも速いことに起因して、被写体がぶれてしまうことをいう。
また、特許文献1に記載の撮像装置では、適正な露光時間として、真に適正な露光時間よりも短い露光時間が設定されると、光量の不足を補うために高い撮像感度が設定される。そのため、高い撮像感度で撮像されることに起因して、撮像された画像にノイズが発生してしまう場合がある。
本発明は上記課題を鑑みなされたものであり、その目的は、高品質な画像を生成する画像処理技術を提供することである。
本発明の一態様によれば、画像処理装置は、時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせを行う位置合わせ手段と、長時間露光画像が条件を満たす場合、長時間露光画像を出力し、長時間露光画像が条件を満たさない場合、複数の短時間露光画像から選択される短時間露光画像が合成された合成画像を出力する出力手段と、を備える。
本発明に係る画像処理技術によれば、被写体ぶれが抑制されつつ、ノイズの少ない画像が生成される。その結果、高品質な画像を生成することができる、という効果を奏する。
以下、本発明を実施するための形態の一例について図面を参照して説明する。なお、図面の説明において同一の要素には同一の符号を付して、重複する説明を省略する場合がある。この実施形態に記載されている構成要素はあくまで例示であり、本発明の範囲をそれらに限定する趣旨のものではない。
[実施形態]
以下、本発明の画像処理技術を実現するための実施形態の一例について説明する。
以下、本発明の画像処理技術を実現するための実施形態の一例について説明する。
図1は、本実施形態の一態様に係る画像処理装置100の機能構成の一例を示すブロック図である。
画像処理装置100は、例えば、入力部110と、露光時間導出部120と、撮像制御部130と、取得部140と、位置合わせ部150と、ソート部160と、判定部170と、合成部180と、出力部190とを備える。これらは、例えば、画像処理装置100の不図示の処理部(処理装置)や制御部(制御装置)が有する機能部(機能ブロック)であり、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
画像処理装置100は、例えば、入力部110と、露光時間導出部120と、撮像制御部130と、取得部140と、位置合わせ部150と、ソート部160と、判定部170と、合成部180と、出力部190とを備える。これらは、例えば、画像処理装置100の不図示の処理部(処理装置)や制御部(制御装置)が有する機能部(機能ブロック)であり、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
入力部110は、一例として、画像処理装置100の外部の撮像部200によって撮像された画像(以下、「撮像画像」という。)の入力を受け付ける機能を有する。
露光時間導出部120は、一例として、入力部110に入力された撮像画像に基づいて、この撮像画像に対応する露光時間を導出(算出)する機能を有する。
撮像制御部130は、撮像部200を制御する、または撮像部200による撮像を制御する機能部である。撮像制御部130は、一例として、撮像部200の露光時間を設定する機能を有するとともに、一例として、露光時間導出部120によって導出された露光時間に対応するISO感度を設定する機能を有する。
取得部140は、一例として、入力部110に入力された画像から、短時間露光画像セットと、長時間露光画像とを取得する機能を有する。詳細は後述する。
位置合わせ部150は、一例として、短時間露光画像セットと、長時間露光画像とを含む画像群の位置合わせを行う機能を有する。
ソート部160は、一例として、位置合わせ部150によって位置合わせされた短時間露光画像セットと、長時間露光画像とを、所定の基準に従ってソートする機能を有する。
判定部170は、一例として、ソート部160によってソートされた画像群において、長時間露光画像が閾値以上に順位付けされているか否かを判定する機能を有する。
合成部180は、一例として、画像の鮮鋭度に対する閾値判定を行って、画像群(短時間露光画像セットの一部)を1枚の画像に合成する機能を有する。
出力部190は、一例として、合成部180によって合成された画像を出力する機能を有する。
ここで、画像の「出力」とは、自装置での画像の表示(表示出力)の他、自装置での他の機能部への画像の出力(内部出力)や、自装置以外の装置(外部装置)への画像の出力(外部出力)や送信(外部送信)等を含む概念である。
(画像処理の手順)
図2は、本実施形態における画像処理の手順例を示すフローチャートである。
図2のフローチャートにおける処理は、例えば画像処理装置100の不図示の処理部が、記憶部300に格納された画像処理プログラムのコードを不図示のRAMに読み出して実行することにより実現される。
図2は、本実施形態における画像処理の手順例を示すフローチャートである。
図2のフローチャートにおける処理は、例えば画像処理装置100の不図示の処理部が、記憶部300に格納された画像処理プログラムのコードを不図示のRAMに読み出して実行することにより実現される。
なお、図1では、記憶部300を画像処理装置100の構成要素から除外して示しているが、記憶部300を画像処理装置100の構成要素に含めてもよい。また、図2のフローチャートにおける各記号Sは、ステップを意味する。
また、以下説明するフローチャートは、あくまでも本実施形態における画像処理の手順の一例を示すものに過ぎず、他のステップを追加したり、一部のステップを削除したりしてもよいことは勿論である。
S201において、入力部110は、撮像部200で撮像された撮像画像の入力を受け付ける。なお、入力された撮像画像は、例えば、不図示の表示部に表示させるようにすることもできる。
S202において、露光時間導出部120は、撮像部200の露光時間を導出する露光時間導出処理を行う。
図3は、露光時間導出処理の手順例を説明するためのフローチャートである。S2021〜S2024の処理は、露光時間導出部120によって実行される。
S2021において、露光時間導出部120によって撮像画像から動きベクトルが取得される。
ここで、「動きベクトル」とは、撮像画像中で動きが生じている領域における、動きの方向及び大きさを示すベクトルである。本実施形態では、一例として、時系列的に連続する2枚の撮像画像において、ブロックマッチング等の公知の手法を用いて、動きベクトルが取得される。
図4は、取得された動きベクトルに基づき露光時間を導出する原理を説明するための図である。
図4において、撮像画像410と、撮像画像420とは、時系列的に先に撮像された撮像画像と、後に撮像された撮像画像とをそれぞれ示している。
図4において、撮像画像410と、撮像画像420とは、時系列的に先に撮像された撮像画像と、後に撮像された撮像画像とをそれぞれ示している。
ここでは、撮像画像410におけるマクロブロック411と、撮像画像420におけるマクロブロック422とは、同じ被写体を含むこととする。この場合、露光時間導出部120は、マクロブロック411が存在していた位置からマクロブロック422の位置までのシフト量を、マクロブロック422の動きベクトルとして導出する。図4において、マクロブロック411が存在していた位置は破線矩形で、マクロブロック422の動きベクトルは破線矢印で示されている。
図3に戻り、S2022において、設定値が取得される。S2022で取得される設定値は、少なくとも2枚の撮像画像において対応する画素間の空間的距離(空間的距離を示す画素数)をどの程度許容するかを示す値である。設定値が小さい程、許容される画素間の距離は短くなり、設定値が大きい程、許容される画素間の距離は長くなる。すなわち、設定値は、許容される被写体ぶれの大きさを示す指標(指標値)といえる。露光時間導出部120は、例えば、予め記憶部300に記憶されている設定値を取得する。
なお、設定値は、予め記憶部300に記憶させておくこととしてもよいが、この他にも、例えば、ユーザーによって不図示の操作部によって入力された値を設定するようにしてもよい。さらに、設定値は例えば、サーバクライアントシステム等によってサーバ等の外部装置から不図示の通信部によって受信した値を設定するようにしてもよいし、インターネット等を利用して設定値を通信部によってダウンロードするなどして設定してもよい。
S2023において、撮像時間間隔が取得される。S2023で取得される撮像時間間隔は、例えば、2枚の撮像画像が撮像された時間間隔とすることができる。具体的には、例えば、撮像画像がライブビュー動画に含まれるフレームであった場合、撮像時間間隔は、フレームレートに対応するフレーム間隔とすることができる。
なお、上記の撮像時間間隔の代わりに、撮像時間間隔によって規定される期間である撮像期間を取得して、以降の処理を行うようにしてもよい。
S2024において、露光時間が導出される。本実施形態では、S2023で取得される撮像時間間隔に基づき、2枚の撮像画像において対応する画素間の空間的距離を、設定値以内(または設定値未満)に抑制するための露光時間が導出される。
ここで、例えば、動きベクトルのベクトル量(ベクトルの大きさ、ベクトルの値)をm、設定値をx、撮像時間間隔をdとした場合、導出される露光時間tは、以下の数式(1)で表すことができる。
t=d×x/m ・・・(1)
t=d×x/m ・・・(1)
例えば、図4に示される2枚の撮像画像が、30fpsのライブビュー動画に含まれる2枚のフレームであった場合を考える。取得された動きベクトルのベクトル量を「17.24」とし、設定値を「5」とすると、上記の数式(1)により、
t=33[ms]×5/17.24=9.57[ms]
と算出される。このため、露光時間導出部120は、露光時間として「9.57ms」を導出する。S2024が終了すると、露光時間導出処理を終了し、メインフローチャートの処理に復帰する。
t=33[ms]×5/17.24=9.57[ms]
と算出される。このため、露光時間導出部120は、露光時間として「9.57ms」を導出する。S2024が終了すると、露光時間導出処理を終了し、メインフローチャートの処理に復帰する。
再び図2のメインフローチャートに戻り、露光時間導出処理を行った後、S203において、撮像制御部130は、撮像部200の露光時間を設定する。本実施形態では、撮像制御部130は、短時間露光画像を撮像するための露光時間(以下、「第1の露光時間」という。)と、長時間露光画像を撮像するための露光時間(以下、「第2の露光時間」という。)と、を設定する。
S202で導出された露光時間は、理論上、被写体ぶれを設定値以内に抑制することができる最も長い露光時間であると言える。
本実施形態では、一例として、S202で導出された露光時間が第1の露光時間に設定される。
一方、第2の露光時間は、第1の露光時間よりも長い露光時間が設定される。例えば、第1の露光時間の「2.0倍」の露光時間が第2の露光時間として設定される。
本実施形態では、一例として、S202で導出された露光時間が第1の露光時間に設定される。
一方、第2の露光時間は、第1の露光時間よりも長い露光時間が設定される。例えば、第1の露光時間の「2.0倍」の露光時間が第2の露光時間として設定される。
なお、第2の露光時間を設定するための倍率は、任意に設定することができる。また、明るい場所、暗い場所等の撮像環境に応じて、上記倍率を変更させてもよい。
さらに、撮像制御部130は、導出された露光時間に対応するISO感度を設定する。
具体的には、撮像制御部130は、例えば、以下の手法に基づいてISO感度を設定する。ISO感度は、数値やレベル等によって設定することができる。そして、設定したISO感度を撮像部200に出力し、そのISO感度で撮像部200に撮像を行わせるように制御する。
具体的には、撮像制御部130は、例えば、以下の手法に基づいてISO感度を設定する。ISO感度は、数値やレベル等によって設定することができる。そして、設定したISO感度を撮像部200に出力し、そのISO感度で撮像部200に撮像を行わせるように制御する。
図5は、露光時間とISO感度との対応関係を示すグラフ例である。
このグラフにおいて、横軸は露光時間を示し、縦軸はISO感度を示している。ISO感度とは、あるフィルムがどの程度弱い光まで記録できるかを示す指標値(感光度)である。また、露光時間とシャッタースピードとの関係から、横軸の露光時間には括弧書きでシャッタースピードと記載している。
このグラフにおいて、横軸は露光時間を示し、縦軸はISO感度を示している。ISO感度とは、あるフィルムがどの程度弱い光まで記録できるかを示す指標値(感光度)である。また、露光時間とシャッタースピードとの関係から、横軸の露光時間には括弧書きでシャッタースピードと記載している。
撮像制御部130は、例えば、上記の露光時間とISO感度との対応関係に基づき、露光時間導出部120によって導出された露光時間が、いずれの範囲に属するかに応じて対応するISO感度を設定する。露光時間とISO感度との対応関係は、例えば実施例で後述するように、ISO感度テーブルとして予め記憶部300に記憶させておくことができる。
S204において、処理部は、所定のシャッター操作を検出したか否かを判定する。この所定のシャッター操作は、例えば、連写撮影(例えばバースト撮影)のためのシャッター操作とすることができる。また、連写撮影のためのシャッター操作は、例えば、不図示のシャッターボタンに対する長押し操作とすることができる。所定のシャッター操作を検出しなかった場合(S204:NO)、再びS201〜S203が繰り返される。一方、所定のシャッター操作を検出した場合(S204:YES)、S205に移行する。
S205において、取得部140は、撮像部200によって撮像された、短時間露光画像セットと、長時間露光画像とを取得する。短時間露光画像セットとは、例えば、S204の所定のシャッター操作をトリガーとする連写撮影(例えばバースト撮影)によって撮像された、第1の露光時間で撮像された複数の短時間露光画像(複数の短時間露光画像のセット)である。さらに、S205では、例えば、S204の所定のシャッター操作をトリガーとして、第2の露光時間で撮像された長時間露光画像も取得される。つまり、S204の所定のシャッター操作をトリガーとして、露光時間を変えて複数枚の画像を撮像する、ブラケット撮影も行われると言える。
S206において、位置合わせ部150は、短時間露光画像セットと、長時間露光画像とを含む画像群の位置合わせを行う。例えば、ユーザーがスマートフォンを手に持って撮像を行うような場合、画像間で画素の位置ずれが発生してしまう可能性が高い。
そこで、取得された短時間露光画像セットと、長時間露光画像との位置合わせを行う。例えば、位置合わせ部150は、オプティカルフローを用いた公知の位置合わせ処理を行うことができる。この手法には、ブロックマッチング法や、勾配法などの手法も含まれる。あるいは、ジャイロセンサ等の慣性センサからのセンサ出力値を撮像画像ごとに取得して、画像間のシフト量に応じて位置合わせを行ってもよい。
S207において、ソート部160は、S206で位置合わせされた短時間露光画像セットと、長時間露光画像とを、所定の基準に従ってソートする。本実施形態では、この画像群は、鮮鋭度の高い画像から降順に並び替えられる。「鮮鋭度」とは、画像の明瞭さを示す指標(指標値)の一種である。
画像の鮮鋭度は、例えば、強度が異なる2種類のガウシアンフィルタを画像に適用し、ぼかし処理が施された2枚の画像の差の2乗値(SSD)を用いることができる。
また、ソート部160において、鮮鋭度だけではなく他の基準も考慮してソートが行われてもよい。例えば、鮮鋭度に応じたスコアと、他の画像と共通する重畳領域の大きさに応じたスコアとを各画像に付与し、合計スコアが降順となるように画像が並び替えられてもよい。重畳領域の大きさを考慮することにより、後述の合成処理(S210)において合成に適した画像が上位に順位付けされ得る。
S208において、判定部170は、S207でソートされた画像群において、長時間露光画像が閾値以上に順位付けされているか否かを判定する。
具体的には、例えば、画像群が鮮鋭度順にソートされているのであれば、予め定められた鮮鋭度に対する閾値(閾値鮮鋭度)を用いることができる。この場合、判定部170は、例えば、鮮鋭度が閾値以上の画像群と、鮮鋭度が閾値を下回る画像群とに分類する。そして、判定部170は、長時間露光画像が、鮮鋭度が閾値以上の画像群に含まれている場合(S208:YES)、長時間露光画像以外の画像を記憶部300から削除する。
具体的には、例えば、画像群が鮮鋭度順にソートされているのであれば、予め定められた鮮鋭度に対する閾値(閾値鮮鋭度)を用いることができる。この場合、判定部170は、例えば、鮮鋭度が閾値以上の画像群と、鮮鋭度が閾値を下回る画像群とに分類する。そして、判定部170は、長時間露光画像が、鮮鋭度が閾値以上の画像群に含まれている場合(S208:YES)、長時間露光画像以外の画像を記憶部300から削除する。
なお、S208において、判定部170が、鮮鋭度が閾値を上回る画像群と、鮮鋭度が閾値以下の画像群とに分類するようにし、長時間露光画像が、鮮鋭度が閾値を上回る画像群に含まれている場合、長時間露光画像以外の画像を記憶部300から削除するようにしてもよい。
そして、S209において、出力部190は長時間露光画像を出力し、本フローチャートの処理を終了する。
前述の通り、第1の露光時間は、理論上、被写体ぶれを設定値以内に抑制することができる最も長い露光時間であると言える。しかしながら、第2の露光画像で撮像した場合であっても、必ずしも長時間露光画像に被写体ぶれが発生するとは限らない。
そこで、本実施形態の画像処理装置100は、1回の連写撮影(例えばバースト撮影)で短時間露光画像セットと、長時間露光画像とを取得し、長時間露光画像が所定の閾値以上であれば被写体ブレが発生していないと推定して、当該長時間露光画像を出力する。
図6は、本実施形態において長時間露光画像が出力される具体例を示す図である。
図6において、1枚の長時間露光画像と、7枚の短時間露光画像とが位置合わせ(S206)された様子が示されている。矩形は各画像を表しており、矩形内の数字はその画像の鮮鋭度を意味している。
図6において、1枚の長時間露光画像と、7枚の短時間露光画像とが位置合わせ(S206)された様子が示されている。矩形は各画像を表しており、矩形内の数字はその画像の鮮鋭度を意味している。
図6の例において、画像群が鮮鋭度順にソートされると、長時間露光画像は全8枚の画像中3番目に順位付けされる。例えば、鮮鋭度に対する閾値=350である場合、鮮鋭度が「403」,「399」,「387」,「365」の4枚の画像が、鮮鋭度が閾値以上の画像群であり、鮮鋭度が「316」,「316」,「311」,「290」の4枚の画像が、鮮鋭度が閾値を下回る画像群である。この結果、長時間露光画像は閾値以上の画像群に含まれることから、短時間露光画像が記憶部300から削除され、長時間露光画像が出力される。
一方、図2の処理において、長時間露光画像が、鮮鋭度が閾値以上の画像群に含まれていない場合(S208:NO)、S210に移行する。S210において、合成部180は、鮮鋭度が閾値以上の短時間露光画像の画像群(すなわち、短時間露光画像セットの一部)を1枚の画像に合成して、閾値を下回る画像群を記憶部300から削除する。そして、S211において、出力部190は、S210で合成された画像(以下、「合成画像」という。)を出力し、本フローチャートの処理を終了する。
図5からも明らかなように、傾向として、第1の露光時間が短いほど(すなわち、シャッタースピードが速いほど)、撮像制御部130は、高いISO感度を設定する。撮像部200が高いISO感度で撮像した場合、撮像画像には高感度ノイズが多くなるおそれがある。そこで、本実施形態の画像処理装置100は、長時間露光画像に被写体ブレが発生していると推定される場合に、閾値以上の短時間露光画像セットを対象として、いわゆるマルチフレームノイズ除去処理が行われる。
図7は、本実施形態において合成画像が出力される具体例を示す図である。
図7において、1枚の長時間露光画像と、7枚の短時間露光画像とが位置合わせ(S206)された様子が示されている。矩形は各画像を表しており、矩形内の数字はその画像の鮮鋭度を意味している。
図7において、1枚の長時間露光画像と、7枚の短時間露光画像とが位置合わせ(S206)された様子が示されている。矩形は各画像を表しており、矩形内の数字はその画像の鮮鋭度を意味している。
図7の具体例において、画像群が鮮鋭度順にソートされると、長時間露光画像は全8枚の画像中5番目に順位付けされる。例えば、鮮鋭度に対する閾値=350である場合、鮮鋭度が「403」,「399」,「387」,「365」の4枚の画像が、鮮鋭度が閾値以上の画像群であり、鮮鋭度が「316」,「316」,「311」,「290」の4枚の画像が、鮮鋭度が閾値を下回る画像群である。この結果、長時間露光画像は閾値以上の画像群に含まれていないことから、鮮鋭度が「403」,「399」,「387」,「365」の4枚の短時間露光画像が1枚の画像に合成され、閾値を下回る画像群(長時間露光画像を含む)が記憶部300から削除され、合成画像が出力される。
なお、前述した長時間露光画像の鮮鋭度が閾値以上となること、または長時間露光画像の鮮鋭度が閾値を上回ることは、長時間露光画像に対する条件の一例である。
また、前述した鮮鋭度が閾値以上となる(または閾値を上回る)短時間露光画像の画像群を合成することは、複数の短時間露光画像から選択される短時間露光画像を合成することの一例である。
また、前述した鮮鋭度が閾値以上となる(または閾値を上回る)短時間露光画像の画像群を合成することは、複数の短時間露光画像から選択される短時間露光画像を合成することの一例である。
<実施例>
次に、上記の画像処理装置100を適用した、または上記の画像処理装置100を備える撮像装置、電子装置(電子機器)、情報処理装置の実施例について説明する。ここでは、一例として、カメラ機能付き(撮像機能付き)携帯電話機の一種であるスマートフォンの実施例について説明する。但し、本発明を適用可能な実施例が、この実施例に限定されるわけでないことは勿論である。
次に、上記の画像処理装置100を適用した、または上記の画像処理装置100を備える撮像装置、電子装置(電子機器)、情報処理装置の実施例について説明する。ここでは、一例として、カメラ機能付き(撮像機能付き)携帯電話機の一種であるスマートフォンの実施例について説明する。但し、本発明を適用可能な実施例が、この実施例に限定されるわけでないことは勿論である。
図8は、本実施例におけるスマートフォン1000の機能構成の一例を示す図である。
スマートフォン1000は、例えば、処理部1100と、操作部1200と、タッチパネル1230と、表示部1250と、記憶部1300と、音出力部1400と、撮像部1500と、通信部1600と、時計部1700と、ジャイロセンサ1800とを備える。
スマートフォン1000は、例えば、処理部1100と、操作部1200と、タッチパネル1230と、表示部1250と、記憶部1300と、音出力部1400と、撮像部1500と、通信部1600と、時計部1700と、ジャイロセンサ1800とを備える。
処理部1100は、記憶部1300に記憶されているシステムプログラム等の各種プログラムに従ってスマートフォン1000の各部を統括的に制御したり、画像処理に係る各種の処理を行う処理装置であり、CPUやDSP等のプロセッサーやASIC等の集積回路を有して構成される。
処理部1100は、主要な機能部として、露光時間導出部120と、撮像制御部130と、取得部140と、位置合わせ部150と、ソート部160と、判定部170と、合成部180と、表示制御部195とを有する。これらの機能部は、図1の画像処理装置100が備える機能部にそれぞれ対応するものである。
ただし、表示制御部195は、図1の画像処理装置100が備える出力部190による出力の一態様として、各種の画像を表示部1250に表示(表示出力)させる制御を行う。
操作部1200は、操作ボタンや操作スイッチといった、ユーザーがスマートフォン1000に対する各種の操作入力を行うための入力装置を有して構成される。また、操作部1200は、表示部1250と一体的に構成されたタッチパネル1230を有し、このタッチパネル1230は、ユーザーとスマートフォン1000との間の入力インターフェースとして機能する。操作部1200からは、ユーザー操作に従った操作信号が処理部1100に出力される。
表示部1250は、LCD(Liquid Crystal Display)等を有して構成される表示装置であり、表示制御部195から出力される表示信号に基づいた各種の表示を行う。本実施例では、表示部1250は、タッチパネル1230と一体的に構成されてタッチスクリーンを形成している。
音出力部1400は、スピーカ等を有して構成される音出力装置であり、処理部1100から出力される音出力信号に基づいた各種の音出力を行う。
撮像部1500は、任意のシーンの画像を撮像可能に構成された撮像デバイスであり、CCD(Charge Coupled Device)イメージセンサやCMOS(Complementary MOS)イメージセンサ等の撮像素子(半導体素子)を有して構成される。撮像部1500は、撮像対象物から発せられた光を、不図示のレンズによって撮像素子の受光平面に結像させ、光電変換によって、像の光の明暗を電気信号に変換する。変換された電気信号は、不図示のA/D(Analog Digital)変換器によってデジタル信号に変換されて、処理部1100に出力される。
通信部1600は、装置内部で利用される情報を外部の情報処理装置との間で送受するための通信装置である。通信部1600の通信方式としては、所定の通信規格に準拠したケーブルを介して有線接続する形式や、クレイドルと呼ばれる充電器と兼用の中間装置を介して接続する形式、近距離無線通信を利用して無線接続する形式等、種々の方式を適用可能である。
時計部1700は、スマートフォン1000の内部時計であり、例えば水晶振動子及び発振回路である水晶発振器を有して構成される。時計部1700の計時情報は、処理部1100に随時出力される。
ジャイロセンサ1800は、例えば3軸の軸回りの角速度を検出するセンサである。ジャイロセンサ1800の検出結果は、処理部1100に随時出力される。
記憶部1300は、ROMやEEPROM、フラッシュメモリ、RAM等の揮発性又は不揮発性のメモリや、ハードディスク装置等を有して構成される記憶装置である。
本実施例では、記憶部1300には、例えば、画像処理プログラム1310と、ISO感度テーブル1320と、入力画像用バッファ1330と、STE(Short Time Exposure)画像データベース1340と、LTE(Long Time Exposure)画像データベース1350とが記憶される。
画像処理プログラム1310は、処理部1100により読み出され、画像処理として実行されるプログラムである。この画像処理は、例えば、図2に示したフローチャートに基づく処理として実行される。
ISO感度テーブル1320には、例えば図5に示したような、露光時間とISO感度との対応関係がテーブル形式で定められている。
入力画像用バッファ1330は、例えば、撮像部1500によって撮像された撮像画像が入力画像として記憶されるバッファである。
STE画像データベース1340は、例えば、第1の露光時間で撮像された短時間露光画像が記憶されるデータベースである。
LTE画像データベース1350は、例えば、第2の露光時間で撮像された長時間露光画像が記憶されるデータベースである。
LTE画像データベース1350は、例えば、第2の露光時間で撮像された長時間露光画像が記憶されるデータベースである。
スマートフォン1000の処理部1100は、記憶部1300に記憶されている画像処理プログラム1310に従って、画像処理を行う。この画像処理は、図2に示したフローチャートに従って実行される。
この場合、図2の処理において、表示制御部195は、S201において入力部110で受け付けられた入力画像(撮像画像)を、例えばライブビュー画像として表示部1250に表示させる。また、表示制御部195は、タッチスクリーンとして構成された表示部1250に、タッチパネル1230を介してタッチ操作可能なシャッターボタンを表示させる。そして、判定部170は、S204において、表示部1250に表示されたシャッターボタンが、タッチパネル1230を介してタッチ操作(例えば、シャッターボタンの長押し操作)されたか否かを判定する。
また、表示制御部195は、S208の判定結果が肯定判定である場合(S208:YES)、長時間露光画像を表示部1250に表示させる(S209)。また、表示制御部195は、S208の判定結果が否定判定である場合(S208:NO)、S210で生成された合成画像を表示部1250に表示させる(S211)。
<実施形態の効果>
本実施形態の画像処理装置100では、取得部140によって取得された、時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせが、位置合わせ部150によって行われる。そして、長時間露光画像が条件(例えば鮮鋭度に対する条件)を満たす場合、長時間露光画像を出力し、長時間露光画像が条件を満たさない場合、複数の短時間露光画像から選択される短時間露光画像が合成された合成画像が、出力部190から出力される。
これによれば、被写体ぶれが抑制されつつ、ノイズの少ない画像が生成される。その結果、高品質な画像を出力することができる。
本実施形態の画像処理装置100では、取得部140によって取得された、時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせが、位置合わせ部150によって行われる。そして、長時間露光画像が条件(例えば鮮鋭度に対する条件)を満たす場合、長時間露光画像を出力し、長時間露光画像が条件を満たさない場合、複数の短時間露光画像から選択される短時間露光画像が合成された合成画像が、出力部190から出力される。
これによれば、被写体ぶれが抑制されつつ、ノイズの少ない画像が生成される。その結果、高品質な画像を出力することができる。
また、この場合、出力部190は、長時間露光画像が条件を満たさない場合、条件を満たす短時間露光画像が合成された合成画像を出力するため、合成する短時間露光画像を適切に選択した上で、高品質な画像を出力することができる。
また、画像処理装置100では、ソート部160が、位置合わせ部150によって位置合わせされた画像群を所定の基準に従ってソートするため、後段の判定部170による長時間露光画像に対する条件の判定が容易となる。
また、この場合、ソート部160が、位置合わせされた画像群を鮮鋭度に基づいてソートとすることで、画像群を簡易かつ適切にソートすることができる。
また、この場合、ソート部160が、ソート対象となる画像を、位置合わせ部150によって位置合わせされた画像群において他の画像と共通する重畳領域が大きいほど、上位に順位付けすることで、重畳領域の大きさを考慮したソートを実現することができる。その結果、合成部180による合成に適した画像が上位に順位付けされ得る。
また、画像処理装置100では、合成部180が、ソート部160によってソートされた画像群に基づき合成画像を生成する。また、合成部180は、長時間露光画像の鮮鋭度が所定の鮮鋭度に達していない場合、鮮鋭度が所定の鮮鋭度に達している複数の短時間露光画像を合成する。これにより、鮮鋭度が適正である短時間露光画像に基づいて合成画像を生成することが可能となり、高品質な画像を生成することができる。
また、画像処理装置100では、露光時間導出部120が、撮像部200で撮像された撮像画像に含まれる被写体の動きベクトル量に応じた露光時間を導出する。また、撮像制御部130が、撮像部200を制御する。そして、撮像制御部130が、露光時間導出部120によって導出された露光時間に基づいて撮像部200の露光時間を制御することで、適切な露光時間に基づく撮像を撮像部200に行わせることができる。
また、この場合、撮像部200の露光時間を第1の露光時間とすることで、適切な露光時間に基づく複数の短時間露光画像の撮像を撮像部200に行わせることができる。
また、この場合、撮像画像に含まれる被写体の動きベクトル量をm、予め定められた設定値をx、撮像画像が撮像される時間間隔をdとした場合、露光時間導出部120によって導出される露光時間tは、t=d×x/mで表される。そして、設定値を、少なくとも2枚の撮像画像において対応する画素間の空間的距離を示す画素数とすることで、適切な設定値を設定した上で、簡単な計算によって露光時間を導出することができる。
また、上記の条件を、長時間露光画像の鮮鋭度に対する条件とすることで、長時間露光画像の鮮鋭度に基づいて、長時間露光画像と合成画像とのいずれの画像を出力するかを簡易かつ適切に判定することができる。
<変形例>
本発明を適用可能な実施形態は、上記の実施形態に限定されない。以下、変形例について説明する。
本発明を適用可能な実施形態は、上記の実施形態に限定されない。以下、変形例について説明する。
<指標値>
上記の実施形態では、画像の指標値として鮮鋭度を用いたが、これはあくまでも一例であり、他の指標値を用いるようにしてもよい。指標値は、取得された各画像の画素値から算出され、画質を評価可能な値であれば鮮鋭度以外であってもよい。鮮鋭度以外の指標値としては、例えば、明度(明るさ)、ノイズ量、コントラスト、および、ホワイトバランスなどを適用することができる。これら鮮鋭度以外の指標値を用いて、上記の実施形態と同様の処理を行うようにしてもよい。
上記の実施形態では、画像の指標値として鮮鋭度を用いたが、これはあくまでも一例であり、他の指標値を用いるようにしてもよい。指標値は、取得された各画像の画素値から算出され、画質を評価可能な値であれば鮮鋭度以外であってもよい。鮮鋭度以外の指標値としては、例えば、明度(明るさ)、ノイズ量、コントラスト、および、ホワイトバランスなどを適用することができる。これら鮮鋭度以外の指標値を用いて、上記の実施形態と同様の処理を行うようにしてもよい。
<条件>
上記の実施形態では、長時間露光画像に対する条件を、鮮鋭度に対する条件としたが、これに限定されない。具体的には、例えば、長時間露光画像に対する条件を、上記の鮮鋭度以外の指標値に対する条件としてもよい。
上記の実施形態では、長時間露光画像に対する条件を、鮮鋭度に対する条件としたが、これに限定されない。具体的には、例えば、長時間露光画像に対する条件を、上記の鮮鋭度以外の指標値に対する条件としてもよい。
また、例えば、短時間露光画像セットの鮮鋭度の平均値や中央値等の統計値を算出する。そして、長時間露光画像に対する条件を、長時間露光画像の鮮鋭度が、算出された統計値以上(または統計値超)となることを条件としてもよい。
<合成画像>
上記の実施形態では、長時間露光画像の鮮鋭度が閾値を下回る場合、鮮鋭度が閾値以上である短時間露光画像を1枚の画像に合成した合成画像を出力することとしたが、これに限定されない。
上記の実施形態では、長時間露光画像の鮮鋭度が閾値を下回る場合、鮮鋭度が閾値以上である短時間露光画像を1枚の画像に合成した合成画像を出力することとしたが、これに限定されない。
具体的には、例えば、長時間露光画像の鮮鋭度が閾値を下回る場合、短時間露光画像セットの中から、鮮鋭度が長時間露光画像の鮮鋭度よりも大きい短時間露光画像を選択する。そして、選択した短時間露光画像を1枚の画像に合成した合成画像を生成して出力するようにしてもよい。
また、例えば、長時間露光画像の鮮鋭度が閾値を下回る場合、短時間露光画像セットの鮮鋭度の平均値や中央値等の統計値を算出し、鮮鋭度がこれらの統計値よりも大きい短時間露光画像を選択する。そして、選択した短時間露光画像を1枚の画像に合成した合成画像を生成して出力するようにしてもよい。
また、例えば、長時間露光画像の鮮鋭度が閾値を下回る場合、短時間露光画像セットの中から鮮鋭度が高い順に一定数の短時間露光画像を選択したり、鮮鋭度が閾値以上である短時間露光画像の中から鮮鋭度が高い順に一定数の短時間露光画像を選択する。そして、選択した短時間露光画像を1枚の画像に合成した合成画像を生成して出力するようにしてもよい。
また、例えば、長時間露光画像の鮮鋭度が閾値以上である(または閾値を上回る)場合、鮮鋭度が閾値以上である(または閾値を上回る)短時間露光画像と、長時間露光画像とを1枚の画像に合成した合成画像を生成して出力するようにしてもよい。
<画像処理装置の構成>
上記の画像処理装置100の構成要素は、必ずしも全ての構成要素を必須としなければならないわけではない。
上記の画像処理装置100の構成要素は、必ずしも全ての構成要素を必須としなければならないわけではない。
具体的には、例えば、図1に示した画像処理装置100の構成要素のうち、取得部140を除外し、位置合わせ部150が、入力部110に入力された撮像画像の中から、第1の露光時間で撮像された短時間露光画像セットと、第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像とを含む画像群を選択して、位置合わせを行うようにしてよい。また、例えば、位置合わせ部150を除外してもよい。
また、例えば、撮像制御部130を画像処理装置100の構成要素から除外し、撮像制御部130を撮像部200に設けるようにしてもよい。
<撮像装置等>
また、上記の実施例では、本発明を、撮像装置、電子装置(電子機器)、情報処理装置の一例であるスマートフォンに適用した場合を例示したが、これに限定されない。スマートフォン等の携帯電話機の他にも、本発明は、カメラ、PDA、パソコン、ナビゲーション装置、腕時計、各種のタブレット端末といった各種の装置に適用可能である。
また、上記の実施例では、本発明を、撮像装置、電子装置(電子機器)、情報処理装置の一例であるスマートフォンに適用した場合を例示したが、これに限定されない。スマートフォン等の携帯電話機の他にも、本発明は、カメラ、PDA、パソコン、ナビゲーション装置、腕時計、各種のタブレット端末といった各種の装置に適用可能である。
また、上記の各種の装置は、撮像部(撮像手段)を備えているとよいが、撮像部を必ずしも備えていなくてもよい。この場合は、例えば、撮像部を備える外部装置から撮像画像のデータを入力し、入力した撮像画像のデータに基づいて画像処理を行うようにすればよい。
<記録媒体>
また、上記の実施形態では、画像処理に係る各種のプログラムやデータが、記憶部300に記憶されており、処理部がこれらのプログラムを読み出して実行することで、上記の各実施形態における画像処理が実現された。この場合、各装置の記憶部は、ROMやEEPROM、フラッシュメモリ、ハードディスク、RAMといった内部記憶装置の他に、メモリカード(SDカード)やコンパクトフラッシュ(登録商標)カード、メモリスティック、USBメモリ、CD−RW(光学ディスク)、MO(光磁気ディスク)といった記録媒体(記録メディア、外部記憶装置、記憶媒体)を有していてもよく、これらの記録媒体に上記の各種のプログラムやデータを記憶させることとしてもよい。
また、上記の実施形態では、画像処理に係る各種のプログラムやデータが、記憶部300に記憶されており、処理部がこれらのプログラムを読み出して実行することで、上記の各実施形態における画像処理が実現された。この場合、各装置の記憶部は、ROMやEEPROM、フラッシュメモリ、ハードディスク、RAMといった内部記憶装置の他に、メモリカード(SDカード)やコンパクトフラッシュ(登録商標)カード、メモリスティック、USBメモリ、CD−RW(光学ディスク)、MO(光磁気ディスク)といった記録媒体(記録メディア、外部記憶装置、記憶媒体)を有していてもよく、これらの記録媒体に上記の各種のプログラムやデータを記憶させることとしてもよい。
図9は、この場合における記録媒体の一例を示す図である。
画像処理装置100には、メモリカード301を挿入するためのカードスロット310が設けられており、カードスロット310に挿入されたメモリカード301に記憶された情報を読み取る又はメモリカードに情報を書き込むためのカードリーダライタ(R/W)320が設けられている。カードリーダライタ320は、処理部の制御に従って、記憶部300に記録されたプログラムやデータをメモリカード301に書き込む動作を行う。メモリカード301に記録されたプログラムやデータは、画像処理装置100以外の外部装置で読み取ることで、当該外部装置において上記の実施形態における画像処理を実現することが可能に構成されている。
画像処理装置100には、メモリカード301を挿入するためのカードスロット310が設けられており、カードスロット310に挿入されたメモリカード301に記憶された情報を読み取る又はメモリカードに情報を書き込むためのカードリーダライタ(R/W)320が設けられている。カードリーダライタ320は、処理部の制御に従って、記憶部300に記録されたプログラムやデータをメモリカード301に書き込む動作を行う。メモリカード301に記録されたプログラムやデータは、画像処理装置100以外の外部装置で読み取ることで、当該外部装置において上記の実施形態における画像処理を実現することが可能に構成されている。
100・・画像処理装置
110・・入力部
120・・露光時間導出部
130・・撮像制御部
140・・取得部
150・・位置合わせ部
160・・ソート部
170・・判定部
180・・合成部
190・・出力部
1000・・スマートフォン
110・・入力部
120・・露光時間導出部
130・・撮像制御部
140・・取得部
150・・位置合わせ部
160・・ソート部
170・・判定部
180・・合成部
190・・出力部
1000・・スマートフォン
Claims (13)
- 時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、前記第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせを行う位置合わせ手段と、
前記長時間露光画像が条件を満たす場合、前記長時間露光画像を出力し、前記長時間露光画像が前記条件を満たさない場合、前記複数の短時間露光画像から選択される短時間露光画像が合成された合成画像を出力する出力手段と、
を備える画像処理装置。 - 前記出力手段は、前記長時間露光画像が前記条件を満たさない場合、前記条件を満たす前記短時間露光画像が合成された合成画像を出力する、
請求項1に記載の画像処理装置。 - 位置合わせされた前記画像群を所定の基準に従ってソートするソート手段をさらに備える、
請求項1または2に記載の画像処理装置。 - 前記ソート手段は、位置合わせされた前記画像群を鮮鋭度に基づいてソートする、
請求項3に記載の画像処理装置。 - 前記ソート手段は、ソート対象となる画像を、位置合わせされた前記画像群において他の画像と共通する重畳領域が大きいほど、上位に順位付けする、
請求項4に記載の画像処理装置。 - ソートされた前記画像群に基づき前記合成画像を生成する合成手段をさらに備え、
前記合成手段は、前記長時間露光画像の鮮鋭度が所定の鮮鋭度に達していない場合、鮮鋭度が前記所定の鮮鋭度に達している前記複数の短時間露光画像を合成する、
請求項4または5に記載の画像処理装置。 - 撮像部で撮像された撮像画像に含まれる被写体の動きベクトル量に応じた露光時間を導出する導出手段と、
前記撮像部を制御する撮像制御手段と、
をさらに備え、
前記撮像制御手段は、前記導出手段によって導出された露光時間に基づいて前記撮像部の露光時間を制御する、
請求項1から6のいずれか1項に記載の画像処理装置。 - 前記撮像部の露光時間は、前記第1の露光時間である、
請求項7に記載の画像処理装置。 - 前記撮像画像に含まれる被写体の動きベクトル量をm、予め定められた設定値をx、前記撮像画像が撮像される時間間隔をdとした場合、前記導出手段によって導出される露光時間tは、
t=d×x/m
で表され、
前記設定値は、少なくとも2枚の前記撮像画像において対応する画素間の空間的距離を示す画素数である、
請求項7または8に記載の画像処理装置。 - 前記条件は、前記長時間露光画像の鮮鋭度に対する条件である、
請求項1から9のいずれか1項に記載の画像処理装置。 - 撮像部と、
時系列順に連続する画像群であって、第1の露光時間で前記撮像部によって撮像された複数の短時間露光画像と、前記第1の露光時間よりも長い第2の露光時間で前記撮像部によって撮像された長時間露光画像と、を含む画像群の位置合わせを行う位置合わせ手段と、
前記長時間露光画像が条件を満たす場合、前記長時間露光画像を出力し、前記長時間露光画像が前記条件を満たさない場合、前記複数の短時間露光画像から選択される短時間露光画像が合成された合成画像を出力する出力手段と、
を備える撮像装置。 - 時系列順に連続する画像群であって、第1の露光時間で撮像された複数の短時間露光画像と、前記第1の露光時間よりも長い第2の露光時間で撮像された長時間露光画像と、を含む画像群の位置合わせを行うことと、
前記長時間露光画像が条件を満たす場合、前記長時間露光画像を出力し、前記長時間露光画像が前記条件を満たさない場合、前記複数の短時間露光画像から選択される短時間露光画像が合成された合成画像を出力することと、
を含む画像処理方法。 - コンピュータを、請求項1から請求項10のいずれか1項に記載の画像処理装置の各手段として機能させるためのプログラム。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019087663A JP2020184669A (ja) | 2019-05-07 | 2019-05-07 | 画像処理装置、撮像装置、画像処理方法、プログラム |
CN202010355292.6A CN111917993B (zh) | 2019-05-07 | 2020-04-29 | 图像处理装置、方法、拍摄装置及其程序的记录介质 |
US16/866,567 US11159725B2 (en) | 2019-05-07 | 2020-05-05 | Image processing apparatus, image processing method, and recording medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2019087663A JP2020184669A (ja) | 2019-05-07 | 2019-05-07 | 画像処理装置、撮像装置、画像処理方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2020184669A true JP2020184669A (ja) | 2020-11-12 |
Family
ID=73044710
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2019087663A Pending JP2020184669A (ja) | 2019-05-07 | 2019-05-07 | 画像処理装置、撮像装置、画像処理方法、プログラム |
Country Status (3)
Country | Link |
---|---|
US (1) | US11159725B2 (ja) |
JP (1) | JP2020184669A (ja) |
CN (1) | CN111917993B (ja) |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023236215A1 (zh) * | 2022-06-10 | 2023-12-14 | 北京小米移动软件有限公司 | 图像处理方法、装置及存储介质 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2022184134A (ja) * | 2021-05-31 | 2022-12-13 | キヤノン株式会社 | 撮像装置およびその制御方法 |
Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006067249A (ja) * | 2004-08-26 | 2006-03-09 | Sharp Corp | 撮像装置 |
JP2007104029A (ja) * | 2005-09-30 | 2007-04-19 | Sanyo Electric Co Ltd | 画像取得装置及びプログラム |
JP2007202098A (ja) * | 2005-12-27 | 2007-08-09 | Kyocera Corp | 撮像装置および撮像方法 |
JP2008072428A (ja) * | 2006-09-14 | 2008-03-27 | Nikon Corp | 画像処理装置、電子カメラ、および画像処理プログラム |
JP2010193058A (ja) * | 2009-02-17 | 2010-09-02 | Casio Computer Co Ltd | 撮像装置、撮像方法及び撮像プログラム |
JP2011244144A (ja) * | 2010-05-17 | 2011-12-01 | Panasonic Corp | 撮像装置 |
JP2012238975A (ja) * | 2011-05-10 | 2012-12-06 | Canon Inc | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 |
Family Cites Families (21)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8229244B2 (en) * | 2009-03-30 | 2012-07-24 | Mitsubishi Electric Research Laboratories, Inc. | Multi-image deblurring |
WO2010116731A1 (ja) * | 2009-04-08 | 2010-10-14 | パナソニック株式会社 | 撮像装置、再生装置、撮像方法及び再生方法 |
JP5458865B2 (ja) * | 2009-09-18 | 2014-04-02 | ソニー株式会社 | 画像処理装置、撮像装置、および画像処理方法、並びにプログラム |
US8711248B2 (en) * | 2011-02-25 | 2014-04-29 | Microsoft Corporation | Global alignment for high-dynamic range image generation |
JP5806007B2 (ja) * | 2011-06-15 | 2015-11-10 | オリンパス株式会社 | 撮像装置 |
JP2013066142A (ja) * | 2011-08-31 | 2013-04-11 | Sony Corp | 画像処理装置、および画像処理方法、並びにプログラム |
JP5832855B2 (ja) * | 2011-11-01 | 2015-12-16 | クラリオン株式会社 | 画像処理装置、撮像装置および画像処理プログラム |
JP5536010B2 (ja) * | 2011-11-02 | 2014-07-02 | カシオ計算機株式会社 | 電子カメラ、撮像制御プログラム及び撮像制御方法 |
KR101871945B1 (ko) * | 2013-01-17 | 2018-08-02 | 한화에어로스페이스 주식회사 | 영상 처리 장치 및 방법 |
JP2014154982A (ja) * | 2013-02-06 | 2014-08-25 | Canon Inc | 撮像装置およびその制御方法 |
US9100586B2 (en) * | 2013-03-14 | 2015-08-04 | Pelican Imaging Corporation | Systems and methods for photometric normalization in array cameras |
US9544505B2 (en) * | 2014-04-11 | 2017-01-10 | Hanwha Techwin Co., Ltd. | Image processing apparatus for synthesizing images based on a plurality of exposure time periods and image processing method thereof |
CN105556957B (zh) * | 2014-08-27 | 2018-06-26 | 华为技术有限公司 | 一种图像处理方法、计算机存储介质、装置及终端 |
KR102368625B1 (ko) * | 2015-07-23 | 2022-03-02 | 삼성전자주식회사 | 디지털 촬영 장치 및 그 방법 |
CN105681626B (zh) * | 2016-02-25 | 2019-02-05 | Oppo广东移动通信有限公司 | 检测方法、控制方法、检测装置、控制装置及电子装置 |
CN105827964B (zh) * | 2016-03-24 | 2019-05-17 | 维沃移动通信有限公司 | 一种图像处理方法及移动终端 |
CN106331514A (zh) * | 2016-09-07 | 2017-01-11 | 青岛海信移动通信技术股份有限公司 | 一种控制超长曝光的方法及终端 |
CN107220951A (zh) * | 2017-05-31 | 2017-09-29 | 广东欧珀移动通信有限公司 | 人脸图像降噪方法、装置、存储介质及计算机设备 |
CN107222679B (zh) * | 2017-06-30 | 2019-01-22 | 维沃移动通信有限公司 | 一种图像数据的处理方法和移动终端 |
CN107729736B (zh) * | 2017-10-27 | 2020-01-14 | Oppo广东移动通信有限公司 | 人脸识别方法以及相关产品 |
US10701279B2 (en) * | 2018-10-02 | 2020-06-30 | Adobe Inc. | Utilizing alignment models and motion vector path blending to generate a long exposure digital image from a sequence of short exposure digital images |
-
2019
- 2019-05-07 JP JP2019087663A patent/JP2020184669A/ja active Pending
-
2020
- 2020-04-29 CN CN202010355292.6A patent/CN111917993B/zh active Active
- 2020-05-05 US US16/866,567 patent/US11159725B2/en active Active
Patent Citations (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006067249A (ja) * | 2004-08-26 | 2006-03-09 | Sharp Corp | 撮像装置 |
JP2007104029A (ja) * | 2005-09-30 | 2007-04-19 | Sanyo Electric Co Ltd | 画像取得装置及びプログラム |
JP2007202098A (ja) * | 2005-12-27 | 2007-08-09 | Kyocera Corp | 撮像装置および撮像方法 |
JP2008072428A (ja) * | 2006-09-14 | 2008-03-27 | Nikon Corp | 画像処理装置、電子カメラ、および画像処理プログラム |
JP2010193058A (ja) * | 2009-02-17 | 2010-09-02 | Casio Computer Co Ltd | 撮像装置、撮像方法及び撮像プログラム |
JP2011244144A (ja) * | 2010-05-17 | 2011-12-01 | Panasonic Corp | 撮像装置 |
JP2012238975A (ja) * | 2011-05-10 | 2012-12-06 | Canon Inc | 撮像装置及びその制御方法、プログラム、並びに記憶媒体 |
Cited By (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023236215A1 (zh) * | 2022-06-10 | 2023-12-14 | 北京小米移动软件有限公司 | 图像处理方法、装置及存储介质 |
Also Published As
Publication number | Publication date |
---|---|
US11159725B2 (en) | 2021-10-26 |
US20200358955A1 (en) | 2020-11-12 |
CN111917993B (zh) | 2022-06-07 |
CN111917993A (zh) | 2020-11-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4274233B2 (ja) | 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム | |
CN110191291B (zh) | 基于多帧图像的图像处理方法和装置 | |
JP4872797B2 (ja) | 撮像装置、撮像方法および撮像プログラム | |
EP2903258B1 (en) | Image-processing device and method, and image pickup device | |
CN103428460A (zh) | 针对影像撷取模组记录输出视讯序列的录影方法以及录影装置 | |
US20100277603A1 (en) | Image Capture Device to Minimize the Effect of Device Movement | |
JP5125734B2 (ja) | 撮像装置、画像選択方法及び画像選択プログラム | |
CN113099122A (zh) | 拍摄方法、装置、设备和存储介质 | |
JP2010160311A (ja) | 撮像装置 | |
CN103888684A (zh) | 图像处理装置以及图像处理方法 | |
US11159725B2 (en) | Image processing apparatus, image processing method, and recording medium | |
JPWO2020158069A1 (ja) | 撮像装置、撮像方法、及びプログラム | |
US9979899B2 (en) | Image effect processing support apparatus, image effect processing support method, and medium for recording image effect processing support program | |
US9986163B2 (en) | Digital photographing apparatus and digital photographing method | |
EP3267675B1 (en) | Terminal device and photographing method | |
CN113891018A (zh) | 拍摄方法、装置及电子设备 | |
KR101140414B1 (ko) | 디블러링 지원 디지털 촬영 장치 및 그 방법 | |
JP6498175B2 (ja) | 撮像装置およびその制御方法 | |
KR101889702B1 (ko) | 손떨림 보정 방법, 기계로 읽을 수 있는 저장 매체 및 촬상 장치 | |
JP2014216830A (ja) | 画像追尾装置、画像追尾方法及びプログラム | |
EP4304188A1 (en) | Photographing method and apparatus, medium and chip | |
JP2014153517A (ja) | 画像処理装置および画像処理方法、プログラム並びに記憶媒体 | |
JP6555978B2 (ja) | 画像処理装置、その制御方法およびプログラム | |
JP5707815B2 (ja) | 撮像装置、記録制御装置、撮像制御方法及びプログラム | |
JP2014176060A (ja) | 撮像装置及び画像再生装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20220421 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20230405 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230418 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20231010 |