JP7510264B2 - 画像処理装置および画像処理方法、撮像装置 - Google Patents
画像処理装置および画像処理方法、撮像装置 Download PDFInfo
- Publication number
- JP7510264B2 JP7510264B2 JP2020046839A JP2020046839A JP7510264B2 JP 7510264 B2 JP7510264 B2 JP 7510264B2 JP 2020046839 A JP2020046839 A JP 2020046839A JP 2020046839 A JP2020046839 A JP 2020046839A JP 7510264 B2 JP7510264 B2 JP 7510264B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- lens
- image processing
- equation
- shake
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000012545 processing Methods 0.000 title claims description 74
- 238000003384 imaging method Methods 0.000 title claims description 54
- 238000003672 processing method Methods 0.000 title claims description 6
- 230000009466 transformation Effects 0.000 claims description 71
- 238000012937 correction Methods 0.000 claims description 58
- 230000003287 optical effect Effects 0.000 claims description 46
- 230000006835 compression Effects 0.000 claims description 44
- 238000007906 compression Methods 0.000 claims description 44
- 238000000034 method Methods 0.000 claims description 29
- 230000008569 process Effects 0.000 claims description 20
- 238000001514 detection method Methods 0.000 claims description 3
- 238000010008 shearing Methods 0.000 claims description 3
- 230000004044 response Effects 0.000 claims description 2
- 239000011159 matrix material Substances 0.000 description 38
- 238000004364 calculation method Methods 0.000 description 35
- 230000002265 prevention Effects 0.000 description 15
- 230000006870 function Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 12
- 230000015572 biosynthetic process Effects 0.000 description 9
- 230000000694 effects Effects 0.000 description 9
- 238000003786 synthesis reaction Methods 0.000 description 9
- 238000013519 translation Methods 0.000 description 6
- 230000004048 modification Effects 0.000 description 5
- 238000012986 modification Methods 0.000 description 5
- 230000008859 change Effects 0.000 description 4
- 238000011156 evaluation Methods 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 230000006641 stabilisation Effects 0.000 description 3
- 238000011105 stabilization Methods 0.000 description 3
- 238000005516 engineering process Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 230000009467 reduction Effects 0.000 description 2
- 238000004904 shortening Methods 0.000 description 2
- 230000001131 transforming effect Effects 0.000 description 2
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 1
- 230000001133 acceleration Effects 0.000 description 1
- 230000004075 alteration Effects 0.000 description 1
- 230000003321 amplification Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000002950 deficient Effects 0.000 description 1
- 238000011161 development Methods 0.000 description 1
- 238000003199 nucleic acid amplification method Methods 0.000 description 1
- 238000004091 panning Methods 0.000 description 1
- 230000002093 peripheral effect Effects 0.000 description 1
- 229920001690 polydopamine Polymers 0.000 description 1
- 238000002360 preparation method Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000003860 storage Methods 0.000 description 1
- 238000011426 transformation method Methods 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
- H04N23/687—Vibration or motion blur correction performed by mechanical compensation by shifting the lens or sensor position
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/02—Affine transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6812—Motion detection based on additional sensors, e.g. acceleration sensors
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20172—Image enhancement details
- G06T2207/20201—Motion blur correction
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Structure And Mechanism Of Cameras (AREA)
- Adjustment Of Camera Lenses (AREA)
- Image Processing (AREA)
- Editing Of Facsimile Originals (AREA)
Description
画像変形部127は、例えば射影変換などを用いて、画像データに対して幾何学的な画像変形処理を適用する。撮像画像において、撮像光学系120の光軸に対応する画像座標を原点とし、画素アレイの長辺に沿う方向をX軸、短辺に沿う方向をY軸とする直交座標系を規定する。そして、画像メモリ125に格納された変形前の画像における画素座標を(X0,Y0)、変形後の画像における画素座標を(X1,Y1)とする。この場合、変形前後の画素座標の関係は、同次座標表現を用いると(式1)のように記述することができる。
次に、変形量演算部200の動作の詳細について説明する。変形量演算部200は、動き信号から得られる装置ブレの角度と、ズーム位置から得られる撮像光学系120の焦点距離と、アナモフィックレンズ122の特性に関する情報とを用いて画像変形量を算出する。具体的には、変形量演算部200は(式1)の射影変換行列を画像変形量として算出する。
ty … 垂直並進
θ … 回転角
νx … 水平あおり
νy … 垂直あおり
α … せん断の非等方倍率
φ … せん断の方向角
図3において、符号201から205のブロックは、像ブレの並進変形成分の補正量を算出する。符号211から215までのブロックは、像ブレのあおり変形成分の補正量を算出する。また、符号221および223から226までのブロックは、像ブレの回転変形成分の補正量を算出する。符号227のブロックは、アナモフィックレンズが含まれる場合に、回転変形成分を補正したときに画像を正しく変形するためのせん断変形成分の補正量を算出する。
(1):ビデオカメラ100に加わるロール方向の角度ブレ(回転角:θr)
(2):アナモフィックレンズによる水平方向の圧縮(圧縮率:a)
(3):ロール方向の角度ブレによる回転変形の補正(回転角:Φ、ただし、tanΦ=1/a・tanθr)
(4):せん断処理(せん断の非等方倍率:B=cosΦ/cosθr、せん断の方向角:γ-Φ、ただし、tanγ=a・tanθr)
(5):ディスクイーズ処理(水平方向の拡大率:1/a)
また、変形量演算部200は、ビデオカメラ100にアナモフィックレンズが装着されていない場合には、(式13)をそのまま用いて(式1)の射影変換行列を算出する。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (11)
- 光軸と直交する第1の方向および第2の方向の少なくとも一方に圧縮され、かつ前記第1の方向における圧縮が前記第2の方向における圧縮よりも大きい被写体像を形成するレンズを用いて撮像された画像データに対し、前記レンズの光軸回りの装置ブレに起因する像ブレ補正を行う画像処理装置であって、
前記レンズの被写体像の圧縮率に関する第1の情報と前記装置ブレの回転角に関する第2の情報とに基づいて、前記光軸回りの装置ブレに起因する被写体像の回転変形の補正処理およびせん断処理を含む幾何学的な変形処理を前記画像データに適用する画像変形手段を有することを特徴とする画像処理装置。 - 前記レンズが、撮像素子の画素アレイの長辺に平行な方向を前記第1の方向として被写体像を圧縮するレンズであることを特徴とする請求項1に記載の画像処理装置。
- さらに、前記画像変形手段が出力する画像データを再生する際にディスクイーズ処理を行うディスクイーズ処理手段を有することを特徴とする請求項1から4のいずれか1項に記載の画像処理装置。
- さらに、前記第1の情報を取得する取得手段を有することを特徴とする請求項1から5のいずれか1項に記載の画像処理装置。
- 前記取得手段は、操作部へのユーザ操作に応じて前記第1の情報を取得することを特徴とする請求項6に記載の画像処理装置。
- 撮像装置であって、
撮像素子と、
前記撮像装置の動きを表す信号を出力する動き検出手段と、
請求項1から7のいずれか1項に記載の画像処理装置とを有し、
前記画像処理装置は、
前記装置ブレの回転角に関する情報を前記動き検出手段の出力から取得し、
前記撮像素子を用いて得られた画像データに対して像ブレ補正を適用する、
ことを特徴とする撮像装置。 - 前記撮像装置は、前記レンズが着脱可能であることを特徴とする請求項8に記載の撮像装置。
- 光軸と直交する第1の方向および第2の方向の少なくとも一方に圧縮され、かつ前記第1の方向における圧縮が前記第2の方向における圧縮よりも大きい被写体像を形成するレンズを用いて撮像された画像データに対し、前記レンズの光軸回りの装置ブレに起因する像ブレ補正を行う、画像処理装置が実行する画像処理方法であって、
前記レンズの被写体像の圧縮率に関する第1の情報と前記装置ブレの回転角に関する第2の情報とに基づいて、前記光軸回りの装置ブレに起因する被写体像の回転変形の補正処理およびせん断処理を含む幾何学的な変形処理を前記画像データに適用する画像変形工程を有することを特徴とする画像処理方法。 - コンピュータを、請求項1から7のいずれか1項に記載の画像処理装置が有する各手段として機能させるためのプログラム。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020046839A JP7510264B2 (ja) | 2020-03-17 | 2020-03-17 | 画像処理装置および画像処理方法、撮像装置 |
US17/201,063 US11363204B2 (en) | 2020-03-17 | 2021-03-15 | Image processing apparatus, image capture apparatus, and image processing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020046839A JP7510264B2 (ja) | 2020-03-17 | 2020-03-17 | 画像処理装置および画像処理方法、撮像装置 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2021150737A JP2021150737A (ja) | 2021-09-27 |
JP2021150737A5 JP2021150737A5 (ja) | 2023-03-15 |
JP7510264B2 true JP7510264B2 (ja) | 2024-07-03 |
Family
ID=77746931
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020046839A Active JP7510264B2 (ja) | 2020-03-17 | 2020-03-17 | 画像処理装置および画像処理方法、撮像装置 |
Country Status (2)
Country | Link |
---|---|
US (1) | US11363204B2 (ja) |
JP (1) | JP7510264B2 (ja) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN116522417B (zh) * | 2023-07-04 | 2023-09-19 | 广州思涵信息科技有限公司 | 显示设备的安全检测方法、装置、设备及存储介质 |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3278206B2 (ja) | 1992-08-31 | 2002-04-30 | キヤノン株式会社 | 撮像装置及びその方法 |
JP2018156036A (ja) | 2017-03-21 | 2018-10-04 | パナソニックIpマネジメント株式会社 | 撮像装置 |
JP2021033015A (ja) | 2019-08-22 | 2021-03-01 | キヤノン株式会社 | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US5673086A (en) * | 1990-10-05 | 1997-09-30 | Canon Kabushiki Kaisha | Image aspect ratio conversion processing apparatus |
US5696560A (en) * | 1994-07-25 | 1997-12-09 | Magma, Inc. | Motion picture distribution system |
US7893963B2 (en) * | 2000-03-27 | 2011-02-22 | Eastman Kodak Company | Digital camera which estimates and corrects small camera rotations |
US7148947B2 (en) * | 2004-04-07 | 2006-12-12 | Panavision International, L.P. | Anamorphic three-perforation imaging system |
JP2014126861A (ja) * | 2012-12-27 | 2014-07-07 | Canon Inc | 撮像装置及びその制御方法、プログラム、記憶媒体 |
CN106464780B (zh) * | 2013-10-03 | 2019-06-21 | 特拉华大学 | Xslit相机 |
US10539764B2 (en) * | 2017-07-05 | 2020-01-21 | Panavision International, L.P. | Anamorphic photography and squeeze ratios for digital imagers |
US10401634B1 (en) * | 2018-02-12 | 2019-09-03 | Panavision International, L.P. | Attachment producing anamorphic effect |
KR102581210B1 (ko) * | 2019-01-10 | 2023-09-22 | 에스케이하이닉스 주식회사 | 이미지 신호 처리 방법, 이미지 신호 프로세서 및 이미지 센서 칩 |
-
2020
- 2020-03-17 JP JP2020046839A patent/JP7510264B2/ja active Active
-
2021
- 2021-03-15 US US17/201,063 patent/US11363204B2/en active Active
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3278206B2 (ja) | 1992-08-31 | 2002-04-30 | キヤノン株式会社 | 撮像装置及びその方法 |
JP2018156036A (ja) | 2017-03-21 | 2018-10-04 | パナソニックIpマネジメント株式会社 | 撮像装置 |
JP2021033015A (ja) | 2019-08-22 | 2021-03-01 | キヤノン株式会社 | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 |
Also Published As
Publication number | Publication date |
---|---|
US20210297597A1 (en) | 2021-09-23 |
JP2021150737A (ja) | 2021-09-27 |
US11363204B2 (en) | 2022-06-14 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6071545B2 (ja) | 撮像装置、画像処理装置及びその制御方法、プログラム、記憶媒体 | |
US9924100B2 (en) | Image-blur correction apparatus, tilt correction apparatus, method of controlling image-blur correction apparatus, and method of controlling tilt correction apparatus | |
JP6960238B2 (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP6821339B2 (ja) | 像振れ補正装置、傾き補正装置、像振れ補正装置の制御方法、傾き補正装置の制御方法 | |
US9607361B2 (en) | Image processing apparatus and image processing method | |
US10848676B2 (en) | Semiconductor device and electronic device | |
US9338355B2 (en) | Image capturing apparatus, control method thereof, and storage medium | |
JP6253280B2 (ja) | 撮像装置およびその制御方法 | |
JP5432697B2 (ja) | 撮像装置及びその制御方法 | |
US10447944B2 (en) | Imaging apparatus, control method thereof and program | |
JP6526273B2 (ja) | 画像処理装置、画像処理方法、および撮像装置 | |
JP2007243335A (ja) | 手振れ補正方法、手振れ補正装置および撮像装置 | |
JP6420888B2 (ja) | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP7510264B2 (ja) | 画像処理装置および画像処理方法、撮像装置 | |
WO2017104102A1 (ja) | 撮像装置 | |
JP5393877B2 (ja) | 撮像装置および集積回路 | |
EP3836540B1 (en) | Image processing apparatus and image capturing apparatus | |
JP2007214620A (ja) | 画像処理装置、画像処理方法、およびプログラム | |
JP6053422B2 (ja) | 撮像装置および撮像方法 | |
US10951829B2 (en) | Image capturing apparatus and method for controlling display | |
JP2017204666A (ja) | 撮像装置 | |
JP5921646B2 (ja) | 画像処理装置及び画像処理方法 | |
JP2014066765A (ja) | 撮像装置およびその制御方法 | |
JP2012147202A (ja) | 画像処理装置およびその方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7421 Effective date: 20210103 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20210113 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20230307 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230307 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20240208 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20240216 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240404 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240524 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240621 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7510264 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |