JP7133979B2 - 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 - Google Patents
画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 Download PDFInfo
- Publication number
- JP7133979B2 JP7133979B2 JP2018099369A JP2018099369A JP7133979B2 JP 7133979 B2 JP7133979 B2 JP 7133979B2 JP 2018099369 A JP2018099369 A JP 2018099369A JP 2018099369 A JP2018099369 A JP 2018099369A JP 7133979 B2 JP7133979 B2 JP 7133979B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- ratio
- synthesis
- pixel
- positional deviation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 98
- 238000003672 processing method Methods 0.000 title claims description 6
- 230000015572 biosynthetic process Effects 0.000 claims description 179
- 238000003786 synthesis reaction Methods 0.000 claims description 179
- 239000013598 vector Substances 0.000 claims description 79
- 238000006073 displacement reaction Methods 0.000 claims description 73
- 239000002131 composite material Substances 0.000 claims description 68
- 239000000203 mixture Substances 0.000 claims description 48
- 238000000034 method Methods 0.000 claims description 38
- 230000002194 synthesizing effect Effects 0.000 claims description 29
- 238000012937 correction Methods 0.000 claims description 15
- 230000007423 decrease Effects 0.000 claims description 8
- 230000008569 process Effects 0.000 claims description 7
- 238000012804 iterative process Methods 0.000 claims description 3
- 235000019557 luminance Nutrition 0.000 description 44
- 238000004364 calculation method Methods 0.000 description 20
- 238000003384 imaging method Methods 0.000 description 16
- 230000006870 function Effects 0.000 description 15
- 238000010586 diagram Methods 0.000 description 8
- 230000000694 effects Effects 0.000 description 8
- 238000005316 response function Methods 0.000 description 8
- 229920006395 saturated elastomer Polymers 0.000 description 6
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000002411 adverse Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 238000011156 evaluation Methods 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000007935 neutral effect Effects 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 238000000844 transformation Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
- Studio Devices (AREA)
Description
図1は、本発明の実施の形態1に係る画像処理装置の構成を示すブロック図である。
本実施の形態1に係る画像処理装置には、露光条件が異なり、互いに対応する2枚の画像Ia,Ibが入力される。露光条件とは、撮像装置における露光時間、絞り、素子感度、減光フィルタ等の設定値であり、露光量を制御する条件の全てをいう。本実施の形態1では、互いに対応する2枚の画像は、互いの間に視差がある2枚の画像であるものとする。このような2枚の画像は、例えば、位置が異なるセンサを用いて同一の撮影対象(被写体及びシーンなど)を撮像して得られる2枚の画像、または、移動体に搭載した撮像装置を用いて時分割で同一の撮影対象を撮像して得られる2枚の画像などである。2枚の画像の撮影時において撮像装置に対する被写体の奥行き距離が異なる場合には、2枚の画像同士の間に被写体の位置ずれが局所的に生じる。本実施の形態1に係る画像処理装置は、局所的な位置ずれが生じた複数の画像を、位置ずれ補正して合成する。ただし、互いに対応する2枚の画像は、互いの間に視差がない2枚の画像であってもよい。
第1合成比率決定部1aは、第1画像ImgAの輝度値に基づいて、第1画像ImgA及び第2画像ImgBの合成を行った場合の、第1画像ImgAの合成における画素毎の第1合成比率WeiAを決定して、第1合成比率画像WeiAを生成する。
図1の位置ずれ顕著性判定部2は、第1合成比率画像WeiA及び第2合成比率画像WeiBに基づいて、第1画像ImgAと第2画像ImgBとの間の位置ずれが、前記第1画像及び前記第2画像の合成を行った場合に生成される合成画像の輝度に影響する程度を画素毎に判定して、位置ずれ顕著性画像Impを生成する。
図1の重み付き動きベクトル算出部3は、位置ずれ顕著性Impに基づいて、位置ずれ探索に要する処理量を変更しつつ、当該位置ずれ探索によって第1画像ImgAと第2画像ImgBとの間の画素毎の動きベクトルWを算出する。
図1の位置補正部4aは、動きベクトルWに基づいて第2画像ImgBの位置を画素毎に補正して、位置補正後の第2画像ImgBwを生成する。
図1の合成部4bは、第1合成比率WeiAに基づいて、第1画像ImgAと、位置補正後の第2画像ImgBwとを重み付け加算する合成を行うことによって、第3の画像ImgCを生成する。図1の合成部4bは、例えば次式(9)を用いて第3の画像ImgCを計算する。
次に、図5乃至図7を用いて、本実施の形態1に係る画像処理装置の動作を説明する。
本実施の形態1に係る画像処理装置では、視点の異なる複数露光条件の画像を合成する際に、全ての画素について位置ずれ探索を一律に行うのではなく、位置ずれ顕著性が小さい領域では位置ずれ探索に要する演算量を削減するので、第3画像ImgCの品位を保ちつつ、画素単位の位置ずれ探索に要する処理時間を低減することができる。以下、この効果について順を追って説明する。
以上の説明では、撮像画像のうち、露光の少ない画像を基準画像及び第1画像ImgAとし、露光の多い画像を参照画像及び第2画像ImgBとして説明した。しかしながら、上述したように、これとは逆に、露光の多い画像を基準画像及び第1画像ImgAとし、露光の少ない画像を参照画像及び第2画像ImgBとしてもよい。この場合には、第1合成比率決定部1a及び第2合成比率決定部1bにおいて輝度値及び合成比率のそれぞれの関係を反転させる。つまり、輝度値の低い側で第1画像ImgAに対する合成比率が大きく、輝度値の高い側で第1画像ImgAに対する合成比率が小さくなるような第1合成比率画像WeiA及び第2合成比率画像WeiBを生成すればよい。そして、その他の処理は上述の処理と同様に行えばよい。
Claims (11)
- 露光条件が異なり、互いに対応する第1画像及び第2画像に基づく合成を行う画像処理装置であって、
前記第1画像の輝度値に基づいて、前記第1画像及び前記第2画像の合成を行った場合の、前記第1画像及び前記第2画像の一方の画像の合成における画素毎の第1合成比率を決定する第1合成比率決定部と、
前記第2画像の輝度値に基づいて、前記第1画像及び前記第2画像の合成を行った場合の、前記一方の画像の合成における画素毎の第2合成比率を決定する第2合成比率決定部と、
前記第1合成比率及び前記第2合成比率に基づいて、前記第1画像と前記第2画像との間の位置ずれが、前記第1画像及び前記第2画像の合成を行った場合に生成される合成画像の輝度に影響する程度を、位置ずれ顕著性として画素毎に判定する位置ずれ顕著性判定部と、
前記位置ずれ顕著性に基づいて、位置ずれ探索に要する処理量を変更しつつ、当該位置ずれ探索によって前記第1画像と前記第2画像との間の画素毎の動きベクトルを算出する重み付き動きベクトル算出部と、
前記第1画像と、前記第2画像と、前記動きベクトルとに基づく合成を行うことによって、第3画像を生成する画像生成部と
を備える、画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記位置ずれ顕著性判定部は、
前記第1合成比率及び前記第2合成比率の一方が小さくなるほど前記位置ずれ顕著性を大きくし、かつ、前記第1合成比率と前記第2合成比率との差分絶対値が大きくなるほど前記位置ずれ顕著性を大きくし、
前記重み付き動きベクトル算出部は、
前記位置ずれ顕著性が小さくなるほど、前記位置ずれ探索に要する処理量を小さくする、画像処理装置。 - 請求項1または請求項2に記載の画像処理装置であって、
前記重み付き動きベクトル算出部は、
前記第1合成比率によって形成される第1合成比率画像と、前記第2合成比率によって形成される第2合成比率画像との間の位置ずれ探索を行うことによって、前記動きベクトルを算出する、画像処理装置。 - 請求項1から請求項3のうちのいずれか1項に記載の画像処理装置であって、
前記重み付き動きベクトル算出部は、
前記位置ずれ顕著性に基づいて、ブロックマッチング法を用いた位置ずれ探索が行われる画素の数を変更することによって、前記位置ずれ探索に要する処理量を変更する、画像処理装置。 - 請求項1から請求項3のうちのいずれか1項に記載の画像処理装置であって、
前記重み付き動きベクトル算出部は、
前記位置ずれ顕著性に基づいて、ブロックマッチング法を用いた位置ずれ探索における位置ずれ候補位置の数を変更することによって、前記位置ずれ探索に要する処理量を変更する、画像処理装置。 - 請求項1から請求項3のうちのいずれか1項に記載の画像処理装置であって、
前記重み付き動きベクトル算出部は、
前記位置ずれ顕著性に基づいて、勾配法を用いた位置ずれ探索における反復処理の回数を変更することによって、前記位置ずれ探索に要する処理量を変更する、画像処理装置。 - 請求項1から請求項7のうちのいずれか1項に記載の画像処理装置であって、
前記画像生成部は、
前記動きベクトルに基づいて前記第1画像及び前記第2画像の他方の画像の位置を画素毎に補正する位置補正部と、
前記第1合成比率または前記第2合成比率に基づいて、前記一方の画像と、位置が補正された前記他方の画像とを重み付け加算する合成を行うことによって、第3の画像を生成する合成部と
を含む、画像処理装置。 - 露光条件が異なり、互いに対応する第1画像及び第2画像に基づく合成を行う画像処理方法であって、
前記第1画像の輝度値に基づいて、前記第1画像及び前記第2画像の合成を行った場合の、前記第1画像及び前記第2画像の一方の画像の合成における画素毎の第1合成比率を決定し、
前記第2画像の輝度値に基づいて、前記第1画像及び前記第2画像の合成を行った場合の、前記一方の画像の合成における画素毎の第2合成比率を決定し、
前記第1合成比率及び前記第2合成比率に基づいて、前記第1画像と前記第2画像との間の位置ずれが、前記第1画像及び前記第2画像の合成を行った場合に生成される合成画像の輝度に影響する程度を、位置ずれ顕著性として画素毎に判定し、
前記位置ずれ顕著性に基づいて、位置ずれ探索に要する処理量を変更しつつ、当該位置ずれ探索によって前記第1画像と前記第2画像との間の画素毎の動きベクトルを算出し、
前記第1画像と、前記第2画像と、前記動きベクトルとに基づく合成を行うことによって、第3画像を生成する、画像処理方法。 - 請求項9に記載の画像処理方法における各処理をコンピュータに実行させる、画像処理プログラム。
- 請求項10に記載の画像処理プログラムを記憶した、コンピュータ読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018099369A JP7133979B2 (ja) | 2018-05-24 | 2018-05-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2018099369A JP7133979B2 (ja) | 2018-05-24 | 2018-05-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2019205073A JP2019205073A (ja) | 2019-11-28 |
JP7133979B2 true JP7133979B2 (ja) | 2022-09-09 |
Family
ID=68727443
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2018099369A Active JP7133979B2 (ja) | 2018-05-24 | 2018-05-24 | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7133979B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114820404A (zh) * | 2021-01-29 | 2022-07-29 | 北京字节跳动网络技术有限公司 | 图像处理方法、装置、电子设备及介质 |
WO2022265321A1 (en) | 2021-06-15 | 2022-12-22 | Samsung Electronics Co., Ltd. | Methods and systems for low light media enhancement |
CN117044215A (zh) * | 2021-06-15 | 2023-11-10 | 三星电子株式会社 | 用于低光照媒体增强的方法和*** |
Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008118555A (ja) | 2006-11-07 | 2008-05-22 | Canon Inc | 画像処理装置、撮像装置、及び画像処理方法 |
-
2018
- 2018-05-24 JP JP2018099369A patent/JP7133979B2/ja active Active
Patent Citations (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2008118555A (ja) | 2006-11-07 | 2008-05-22 | Canon Inc | 画像処理装置、撮像装置、及び画像処理方法 |
Also Published As
Publication number | Publication date |
---|---|
JP2019205073A (ja) | 2019-11-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5687553B2 (ja) | 画像合成装置、画像合成方法及び画像合成プログラム | |
CN104980652B (zh) | 图像处理设备和图像处理方法 | |
WO2013054446A1 (ja) | 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 | |
US20120062694A1 (en) | Imaging apparatus, imaging method, and program | |
US20120008005A1 (en) | Image processing apparatus, image processing method, and computer-readable recording medium having image processing program recorded thereon | |
JP6326180B1 (ja) | 画像処理装置 | |
WO2012147719A1 (ja) | 画像処理装置、画像処理方法、および、画像処理プログラム | |
JP7133979B2 (ja) | 画像処理装置、画像処理方法、画像処理プログラム、及び、記憶媒体 | |
US10269128B2 (en) | Image processing device and method, and recording medium | |
JP6678376B2 (ja) | 動き検出装置および動き検出方法 | |
JP6648914B2 (ja) | 画像処理装置、画像処理方法及びプログラム | |
KR100956228B1 (ko) | 왜곡 영상 보정 기능을 갖는 영상처리 장치 | |
KR20150035315A (ko) | 하이 다이나믹 레인지 영상 생성 방법 및, 그에 따른 장치, 그에 따른 시스템 | |
JP2015144475A (ja) | 撮像装置、撮像装置の制御方法、プログラム及び記憶媒体 | |
JP5610245B2 (ja) | 画像合成装置、画像合成方法、画像合成プログラム及び記録媒体 | |
JP5882702B2 (ja) | 撮像装置 | |
JP2013162359A (ja) | 画像処理装置および画像処理方法 | |
JP6800090B2 (ja) | 画像処理装置、及び画像処理方法、並びにプログラム及び記録媒体 | |
JP7057079B2 (ja) | 画像処理装置、撮像装置、画像処理方法、及びプログラム | |
JP2019101997A (ja) | 複数の撮像画像を合成することによりノイズを低減する画像処理装置及び画像処理方法 | |
US11373316B2 (en) | Apparatus and method for calculating motion vector | |
JP2007234034A (ja) | 画像処理装置及び画像処理方法 | |
JP6494388B2 (ja) | 画像処理装置、画像処理方法、及びプログラム | |
JPWO2006117844A1 (ja) | 画像処理装置、画像処理方法、及び情報端末装置 | |
JP6554009B2 (ja) | 画像処理装置、その制御方法、プログラム及び記録媒体 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20210326 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20220112 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20220201 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20220315 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20220802 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20220830 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7133979 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |