JP6910780B2 - 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 - Google Patents
画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 Download PDFInfo
- Publication number
- JP6910780B2 JP6910780B2 JP2016192496A JP2016192496A JP6910780B2 JP 6910780 B2 JP6910780 B2 JP 6910780B2 JP 2016192496 A JP2016192496 A JP 2016192496A JP 2016192496 A JP2016192496 A JP 2016192496A JP 6910780 B2 JP6910780 B2 JP 6910780B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- disturbance
- image processing
- deterioration
- linear
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 62
- 238000003672 processing method Methods 0.000 title claims description 21
- 238000003384 imaging method Methods 0.000 title claims description 14
- 230000006866 deterioration Effects 0.000 claims description 155
- 238000000034 method Methods 0.000 claims description 39
- 230000009466 transformation Effects 0.000 claims description 36
- 238000006243 chemical reaction Methods 0.000 claims description 32
- 238000012886 linear function Methods 0.000 claims description 20
- 230000008569 process Effects 0.000 claims description 14
- 230000015556 catabolic process Effects 0.000 claims description 10
- 238000006731 degradation reaction Methods 0.000 claims description 10
- 238000012935 Averaging Methods 0.000 claims description 6
- 230000004304 visual acuity Effects 0.000 claims description 6
- 238000000844 transformation Methods 0.000 claims 2
- 238000012937 correction Methods 0.000 description 82
- 239000010410 layer Substances 0.000 description 31
- 230000006870 function Effects 0.000 description 18
- 230000003287 optical effect Effects 0.000 description 15
- 238000013135 deep learning Methods 0.000 description 13
- 238000013527 convolutional neural network Methods 0.000 description 10
- 230000004913 activation Effects 0.000 description 8
- 238000012549 training Methods 0.000 description 7
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 7
- 230000008859 change Effects 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000000694 effects Effects 0.000 description 5
- 238000004088 simulation Methods 0.000 description 5
- 229920013655 poly(bisphenol-A sulfone) Polymers 0.000 description 4
- 238000004364 calculation method Methods 0.000 description 3
- 230000002087 whitening effect Effects 0.000 description 3
- 238000009792 diffusion process Methods 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- 239000010426 asphalt Substances 0.000 description 1
- 230000002238 attenuated effect Effects 0.000 description 1
- 230000006399 behavior Effects 0.000 description 1
- 230000000295 complement effect Effects 0.000 description 1
- 230000007423 decrease Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 229910044991 metal oxide Inorganic materials 0.000 description 1
- 150000004706 metal oxides Chemical class 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000035772 mutation Effects 0.000 description 1
- 230000000737 periodic effect Effects 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 238000011176 pooling Methods 0.000 description 1
- 238000007781 pre-processing Methods 0.000 description 1
- 239000002356 single layer Substances 0.000 description 1
- 230000002194 synthesizing effect Effects 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
Images
Landscapes
- Image Processing (AREA)
- Studio Devices (AREA)
Description
前記領域のサイズまたは前記学習情報は、前記劣化の大きさに基づいて決定される。
本発明は、上述の実施例の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
102b、303 補正部(画像処理部)
103、302 記憶部
301 画像処理装置
Claims (16)
- 擾乱により劣化した入力画像の少なくとも一部の領域を取得する工程と、
前記入力画像とは異なる時間に撮影された画像、または、該入力画像とは異なる視点から撮影された画像を用いて、前記擾乱による劣化の大きさを取得する工程と、
前記擾乱に関して予め学習された学習情報を取得する工程と、
前記領域と前記学習情報とを用いて、該領域における劣化を推定または補正する工程と、を有し、
前記劣化を推定または補正する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも1つの線型関数による第N+1線型変換を実行する工程と、を有し、
前記領域のサイズまたは前記学習情報は、前記劣化の大きさに基づいて決定されることを特徴とする画像処理方法。 - 前記擾乱による劣化の大きさは、前記入力画像の撮影時における周囲の環境に関する情報に基づいて取得されることを特徴とする請求項1に記載の画像処理方法。
- 前記第n線型変換(n=1〜N)のそれぞれは、前記学習情報に基づく複数のフィルタの各々とのコンボリューションを含むことを特徴とする請求項1または2に記載の画像処理方法。
- 前記領域における前記劣化を補正する工程において、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含むことを特徴とする請求項3に記載の画像処理方法。
- 前記第n線型変換(n=1〜N)および前記第N+1線型変換のそれぞれにおける前記フィルタのサイズは、前記擾乱による前記劣化の大きさに基づいて決定されることを特徴とする請求項4に記載の画像処理方法。
- 前記学習情報は、同一の被写体が存在する少なくとも一対の学習画像を用いて学習された情報であり、
前記一対の学習画像は、前記擾乱により劣化した画像と、該擾乱により劣化していない画像を含むことを特徴とする請求項1乃至6のいずれか1項に記載の画像処理方法。 - 前記学習画像のうち前記擾乱により劣化していない前記画像は、前記被写体を互いに異なる時間で撮影した複数の画像、または、該被写体を互いに異なる視点から撮影した複数の画像を平均化して、ブラインドデコンボリューションを実行した画像であることを特徴とする請求項7に記載の画像処理方法。
- 前記複数の画像は、前記擾乱による影響を除いて、時間または視点に応じて変化する被写体を含まないことを特徴とする請求項8に記載の画像処理方法。
- 前記入力画像または前記領域の解像力を判定する工程を更に有し、
前記解像力が所定の閾値以下の場合、前記劣化を推定または補正する工程は、前記入力画像または前記領域に対してブラインドデコンボリューションを実行した後に実行されることを特徴とする請求項1乃至9のいずれか一項に記載の画像処理方法。 - 擾乱により劣化した入力画像の少なくとも一部の領域を取得する工程と、
前記擾乱に関して予め学習された学習情報を取得する工程と、
前記領域と前記学習情報とを用いて、該領域における劣化を補正する工程と、を有し、
前記劣化を推定または補正する工程は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成する工程と、
前記中間データに対して、前記学習情報に基づく少なくとも1つの線型関数による第N+1線型変換を実行する工程と、を有し、
前記領域における前記劣化を補正する工程において、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、
前記入力画像の画素に対する前記擾乱による劣化の大きさをd、前記第n線型変換(n=1〜N)および前記第N+1線型変換のそれぞれにおける前記フィルタの1次元サイズをsm(m=1〜N+1)とするとき、
なる条件式を満たすことを特徴とする画像処理方法。 - 擾乱に関する学習情報を記憶する記憶部と、
前記擾乱により劣化した入力画像の少なくとも一部の領域と、前記学習情報とを用いて、該領域における劣化を推定または補正する画像処理部と、を有し、
前記画像処理部は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成し、
前記中間データに対して、前記学習情報に基づく少なくとも1つの線型関数による第N+1線型変換を実行し、
前記画像処理部は、前記入力画像とは異なる時間に撮影された画像または前記入力画像とは異なる視点から撮影された画像を用いて、前記擾乱による劣化の大きさを取得し、
前記領域のサイズまたは前記学習情報は、前記劣化の大きさに基づいて決定される、ことを特徴とする画像処理装置。 - 擾乱に関する学習情報を記憶する記憶部と、
前記擾乱により劣化した入力画像の少なくとも一部の領域と、前記学習情報とを用いて、該領域における劣化を補正する画像処理部と、を有し、
前記画像処理部は、Nを2以上の整数、nを1からNまでの整数とするとき、
前記領域に対して、前記学習情報に基づく複数の線型関数のそれぞれによる第n線型変換と、非線型関数による第n非線型変換とをnが1からNになるまで順に実行することで中間データを生成し、
前記中間データに対して、前記学習情報に基づく少なくとも1つの線型関数による第N+1線型変換を実行し、
前記領域における前記劣化を補正する工程において、前記第N+1線型変換は、前記学習情報に基づくフィルタとのコンボリューションを含み、
前記入力画像の画素に対する前記擾乱による劣化の大きさをd、前記第n線型変換(n=1〜N)および前記第N+1線型変換のそれぞれにおける前記フィルタの1次元サイズをsm(m=1〜N+1)とするとき、
なる条件式を満たすことを特徴とする画像処理装置。 - 被写体空間の像を入力画像として取得する撮像部と、
請求項12または13に記載の画像処理装置と、を有することを特徴とする撮像装置。 - 請求項1乃至11のいずれか1項に記載の画像処理方法をコンピュータに実行させることを特徴とする画像処理プログラム。
- 請求項15に記載の画像処理プログラムを記憶していることを特徴とするコンピュータが読み取り可能な記憶媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016192496A JP6910780B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2016192496A JP6910780B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2018055516A JP2018055516A (ja) | 2018-04-05 |
JP6910780B2 true JP6910780B2 (ja) | 2021-07-28 |
Family
ID=61835814
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2016192496A Active JP6910780B2 (ja) | 2016-09-30 | 2016-09-30 | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6910780B2 (ja) |
Families Citing this family (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7129229B2 (ja) * | 2018-06-07 | 2022-09-01 | キヤノン株式会社 | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 |
GB2589250B (en) | 2018-06-15 | 2023-03-08 | Canon Kk | Medical image processing apparatus, medical image processing method and program |
JP7305401B2 (ja) * | 2018-09-06 | 2023-07-10 | キヤノン株式会社 | 画像処理装置、画像処理装置の作動方法、及びプログラム |
WO2020049828A1 (ja) * | 2018-09-06 | 2020-03-12 | キヤノン株式会社 | 画像処理装置、画像処理方法、及びプログラム |
WO2020075345A1 (ja) | 2018-10-10 | 2020-04-16 | キヤノン株式会社 | 医用画像処理装置、医用画像処理方法及びプログラム |
JP7016835B2 (ja) * | 2019-06-06 | 2022-02-07 | キヤノン株式会社 | 画像処理方法、画像処理装置、画像処理システム、学習済みウエイトの製造方法、および、プログラム |
JP2021105561A (ja) * | 2019-12-26 | 2021-07-26 | アイタックソリューションズ株式会社 | 認識処理システム、認識処理装置、及び認識処理プログラム |
KR20210101999A (ko) * | 2020-02-11 | 2021-08-19 | 삼성전자주식회사 | 화질 조정을 지원하는 전자 장치 및 그 방법 |
JP2023058758A (ja) * | 2020-03-19 | 2023-04-26 | ソニーセミコンダクタソリューションズ株式会社 | データ生成方法、学習方法、推定方法、データ生成装置及びプログラム |
Family Cites Families (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0620048A (ja) * | 1992-07-01 | 1994-01-28 | Canon Inc | 画像処理装置 |
JP4872862B2 (ja) * | 2006-09-28 | 2012-02-08 | ソニー株式会社 | 画像データ演算装置および方法、プログラム、並びに記録媒体 |
JP6239985B2 (ja) * | 2014-01-15 | 2017-11-29 | 日本放送協会 | 画像処理装置、画像処理プログラム及び撮像装置 |
-
2016
- 2016-09-30 JP JP2016192496A patent/JP6910780B2/ja active Active
Also Published As
Publication number | Publication date |
---|---|
JP2018055516A (ja) | 2018-04-05 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6910780B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP6728365B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、記憶媒体 | |
JP7258604B2 (ja) | 画像処理方法、画像処理装置、プログラム、および学習済みモデルの製造方法 | |
US20130057714A1 (en) | Image pickup device, image processing device, image processing method, and image processing program | |
JPWO2011099244A1 (ja) | 画像処理装置および画像処理方法 | |
JP7508265B2 (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP7370922B2 (ja) | 学習方法、プログラム及び画像処理装置 | |
JP7246900B2 (ja) | 画像処理装置、画像処理システム、撮像装置、画像処理方法、プログラム、および、記憶媒体 | |
JP2020036310A (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、記憶媒体、および、画像処理システム | |
JP2021087201A (ja) | 画像処理装置、画像処理方法、学習装置、学習方法、撮像装置、及びプログラム | |
JP2019074777A (ja) | 画像処理方法、画像処理装置、および撮像装置 | |
US20240185405A1 (en) | Information processing apparatus, information processing method, and program | |
JP2020197774A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7146461B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
JP7191588B2 (ja) | 画像処理方法、画像処理装置、撮像装置、レンズ装置、プログラム、および、記憶媒体 | |
JP7009219B2 (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP7129229B2 (ja) | 画像処理方法、画像処理装置、撮像装置、プログラム、および、記憶媒体 | |
CN110958382A (zh) | 图像处理方法、图像处理装置、成像装置和存储介质 | |
EP2517172A1 (en) | Filter setup learning for binary sensor | |
JP2020061129A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理システム、プログラム、および、記憶媒体 | |
JP6611509B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
JP2019139694A (ja) | 画像処理方法、画像処理装置、撮像装置、画像処理プログラム、および、記憶媒体 | |
JP2023041375A (ja) | 情報処理装置、情報処理方法及びプログラム | |
JP2024064248A (ja) | 画像処理装置、画像処理方法及びプログラム | |
US20230095184A1 (en) | Information processing apparatus, information processing method, and storage medium |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20190925 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20201029 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20201110 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20201228 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20210608 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20210707 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6910780 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |