JP6725979B2 - 像ブレ補正装置及びその制御方法、記憶媒体 - Google Patents
像ブレ補正装置及びその制御方法、記憶媒体 Download PDFInfo
- Publication number
- JP6725979B2 JP6725979B2 JP2015232264A JP2015232264A JP6725979B2 JP 6725979 B2 JP6725979 B2 JP 6725979B2 JP 2015232264 A JP2015232264 A JP 2015232264A JP 2015232264 A JP2015232264 A JP 2015232264A JP 6725979 B2 JP6725979 B2 JP 6725979B2
- Authority
- JP
- Japan
- Prior art keywords
- amount
- determination
- movement
- follow shot
- main subject
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 238000012937 correction Methods 0.000 title claims description 34
- 238000000034 method Methods 0.000 title claims description 23
- 239000013598 vector Substances 0.000 claims description 118
- 238000001514 detection method Methods 0.000 claims description 22
- 230000005484 gravity Effects 0.000 claims description 16
- 238000003384 imaging method Methods 0.000 claims description 12
- 230000006641 stabilisation Effects 0.000 claims 2
- 238000011105 stabilization Methods 0.000 claims 2
- 238000004091 panning Methods 0.000 description 62
- 230000008569 process Effects 0.000 description 15
- 238000012545 processing Methods 0.000 description 14
- 238000010586 diagram Methods 0.000 description 13
- 238000004364 calculation method Methods 0.000 description 9
- 230000008859 change Effects 0.000 description 9
- 230000006854 communication Effects 0.000 description 8
- 238000004891 communication Methods 0.000 description 8
- 230000003287 optical effect Effects 0.000 description 7
- 238000005259 measurement Methods 0.000 description 3
- 230000010354 integration Effects 0.000 description 2
- 238000005070 sampling Methods 0.000 description 2
- 230000007175 bidirectional communication Effects 0.000 description 1
- 238000006073 displacement reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 239000004973 liquid crystal related substance Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012544 monitoring process Methods 0.000 description 1
- 230000004044 response Effects 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/73—Deblurring; Sharpening
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/683—Vibration or motion blur correction performed by a processor, e.g. controlling the readout of an image memory
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/50—Image enhancement or restoration using two or more images, e.g. averaging or subtraction
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6811—Motion detection based on the image signal
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/681—Motion detection
- H04N23/6815—Motion detection by distinguishing pan or tilt from motion
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/68—Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
- H04N23/682—Vibration or motion blur correction
- H04N23/685—Vibration or motion blur correction performed by mechanical compensation
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10016—Video; Image sequence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/20—Special algorithmic details
- G06T2207/20021—Dividing image into blocks, subimages or windows
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
- H04N23/61—Control of cameras or camera modules based on recognised objects
- H04N23/611—Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Studio Devices (AREA)
- Adjustment Of Camera Lenses (AREA)
Description
図1は、本発明の像ブレ補正装置を搭載した撮像装置の第1の実施形態であるカメラの構成を示すブロック図である。図1において、カメラ1000は、カメラ本体120に交換レンズ100が着脱可能に装着されて構成されている。交換レンズ100は、主撮影光学系102、焦点距離を変更可能なズームレンズ群103、カメラの振れに起因する光軸に対する像ブレを光軸と直交する方向に移動することにより光学的に補正するシフトレンズ群104を有する撮影レンズユニット101を備える。また、交換レンズ100は、ズームレンズ群103の位置を検出するズームエンコーダ105、シフトレンズ群104の位置を検出する位置センサ106、カメラの振れを検出する角速度センサ111を備える。さらに、角速度センサ111の出力を増幅するアンプ112、レンズ制御用マイクロコンピュータ(以下レンズマイコン)113、シフトレンズ群104を駆動するドライバ114を備える。さらに、シフトレンズ群104の位置センサ106の出力を増幅するアンプ115、カメラ本体120との電気的な接続を行うマウント接点部116を備える。
以下、本発明の第2の実施形態について説明する。本実施形態は第1の実施形態に対し、次の点が異なる。すなわち、主要被写体と判定するのに必要な数の動きベクトルが検出されない場合(画角に対して被写体が小さい、低コントラスト被写体)、0近辺の動きベクトルの重心もしくはピークの算出に用いるベクトルの範囲を変更する。具体的には、撮像装置の動きを検出する角速度センサ111によって検出された動き量に比例して範囲を変更する。動きが遅い被写体を追尾するためにパンニングを行っている場合は、被写体を追尾することは容易であり、追尾がずれることも少ない。また背景と主要被写体の動きベクトルの差も少なくなるため、重心もしくはピークを算出するための動きベクトルの範囲を狭くすることが望ましい。これに対して、動きが速い被写体を追尾するためにパンニングを行っている場合は、被写体を追尾することは難しく、追尾がずれることが多い。また背景と主要被写体の動きベクトルの差は大きくなる。そのため、重心もしくはピークを算出するための動きベクトルの範囲を広くすることが望ましい。この処理によって、主要被写体の推定に不必要なベクトルを除外することが可能になり、推定の精度を高くすることが可能となる。
以下、本発明の第3の実施形態について説明する。本実施形態は第1の実施形態に対し、次の点が異なる。すなわち、主要被写体と判定するのに必要な数の動きベクトルが検出されない場合(画角に対して被写体が小さい、低コントラスト被写体)では、0近辺の動きベクトルの重心かピークのどちらかを計算に用いるかを判断する。具体的には、計算に用いる動きベクトルのヒストグラムのピークが複数存在する場合(多峰性)は重心を計算する。それに対して一つのピークが出力されている場合には、ピークを計算に用いる。これによって少ない数の動きベクトルに適した動き量の計算が可能になり、少ないベクトルによっても推定の精度を高くすることが可能になる。
以下、本発明の第4の実施形態について説明する。本実施形態は第1の実施形態に対し、次の点が異なる。すなわち、主要被写体と判定するのに必要な数の動きベクトルが検出されない場合(画角に対して被写体が小さい、低コントラスト被写体)、0近辺の動きベクトルの精度を高くする。具体的には、ユーザの追尾が不正確でパンニングが遅い場合に、被写体ベクトルと背景ベクトルの動き量が近くなることがあるが、そのような場合に、被写体ベクトルの検出精度を高くする。その方法としては、重心かピークかを計算するための動きベクトルの分布範囲内に角速度センサ111の出力から背景ベクトルと判定できるベクトルが重なっている場合は、背景ベクトルを除外して、動きベクトルの重心かピークかを計算する。これによって、背景ベクトルの影響を除外して、主要被写体の推定の精度を高くすることが可能となる。
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
Claims (9)
- 複数の画像を用いて、異なる複数の領域の動きベクトルを検出する検出手段と、
前記検出手段により検出された前記異なる複数の領域の動きベクトルに基づいて、主被写体の動き量を判定する判定手段と、
前記判定手段により判定された前記主被写体の動き量に基づいて、前記主被写体の像ブレを補正する制御手段と、
流し撮りが行われるか否かを判定する流し撮り判定手段と、を備え、
前記判定手段は、前記流し撮り判定手段により流し撮りが行われると判定された場合に、前記流し撮り判定手段により流し撮りが行われないと判定された場合とは異なり、前記異なる複数の領域内の前記動きベクトルにより表される複数の動き量の中の重心または、動き量が0付近の判定範囲に含まれる動き量のピークを、前記主被写体の動き量と判定することを特徴とする像ブレ補正装置。 - 前記複数の画像を撮像する撮像装置の動きを検出する角速度センサをさらに備え、前記判定手段は、前記角速度センサの検出結果に基づいて前記判定範囲を変更することを特徴とする請求項1に記載の像ブレ補正装置。
- 前記判定手段は、前記角速度センサが前記撮像装置の動きが小さくなることを示すにつれて、前記判定範囲を狭めることを特徴とする請求項2に記載の像ブレ補正装置。
- 前記検出手段により検出された前記異なる複数の領域の動きベクトルの分布に応じて、前記判定手段は、前記判定範囲に含まれる前記動き量の重心を前記主被写体の動き量とするか、前記判定範囲に含まれる動き量のピークを前記主被写体の動き量とするかを切り替えることを特徴とする請求項1に記載の像ブレ補正装置。
- 前記判定範囲に含まれる動き量が複数のピークを有する場合には、前記判定手段は、前記判定範囲に含まれる動き量の重心を前記主被写体の動き量とすることを特徴とする請求項4に記載の像ブレ補正装置。
- 前記複数の画像を撮像する撮像装置の動きを検出する角速度センサをさらに備え、前記判定手段は、前記判定範囲に含まれる動き量の中で、前記主被写体の動き量の判定に用いられない動き量を、前記角速度センサの検出結果に応じて判定することを特徴とする請求項1に記載の像ブレ補正装置。
- 前記判定手段は、前記角速度センサの検出結果に応じて背景の動き量を判定し、前記判定範囲に含まれる動き量の中で、判定された前記背景の動き量を前記主被写体の動き量の判定に用いないことを特徴とする請求項6に記載の像ブレ補正装置。
- 複数の画像を用いて、異なる複数の領域の動きベクトルを検出する第1の検出工程と、
前記第1の検出工程において検出された前記異なる複数の領域の動きベクトルに基づいて、主被写体の動き量を判定する判定工程と、
前記判定工程において判定された前記主被写体の動き量に基づいて、前記主被写体の像ブレを補正する制御工程と、
流し撮りが行われるか否かを判定する流し撮り判定工程と、を有し、
前記判定工程では、前記流し撮り判定工程で流し撮りが行われると判定された場合に、前記流し撮り判定工程で流し撮りが行われないと判定された場合とは異なり、前記異なる複数の領域内の前記動きベクトルにより表される複数の動き量の中の重心または、動き量が0付近の判定範囲に含まれる動き量のピークを、前記主被写体の動き量と判定することを特徴とする像ブレ補正装置の制御方法。 - 請求項8に記載の制御方法の各工程をコンピュータに実行させるためのプログラムを記憶したコンピュータが読み取り可能な記憶媒体。
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015232264A JP6725979B2 (ja) | 2015-11-27 | 2015-11-27 | 像ブレ補正装置及びその制御方法、記憶媒体 |
US15/359,067 US10091424B2 (en) | 2015-11-27 | 2016-11-22 | Image blur correction apparatus, method for controlling the same, and storage medium |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2015232264A JP6725979B2 (ja) | 2015-11-27 | 2015-11-27 | 像ブレ補正装置及びその制御方法、記憶媒体 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2017097297A JP2017097297A (ja) | 2017-06-01 |
JP2017097297A5 JP2017097297A5 (ja) | 2019-01-10 |
JP6725979B2 true JP6725979B2 (ja) | 2020-07-22 |
Family
ID=58777614
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2015232264A Expired - Fee Related JP6725979B2 (ja) | 2015-11-27 | 2015-11-27 | 像ブレ補正装置及びその制御方法、記憶媒体 |
Country Status (2)
Country | Link |
---|---|
US (1) | US10091424B2 (ja) |
JP (1) | JP6725979B2 (ja) |
Families Citing this family (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP6674264B2 (ja) * | 2016-01-26 | 2020-04-01 | キヤノン株式会社 | 像振れ検出装置及び方法、及び撮像装置 |
JP6700874B2 (ja) * | 2016-03-08 | 2020-05-27 | キヤノン株式会社 | 像ブレ補正装置及びその制御方法、プログラム、記憶媒体 |
JP6815747B2 (ja) * | 2016-05-02 | 2021-01-20 | キヤノン株式会社 | 画像処理装置、撮像装置、画像処理装置の制御方法、プログラム、および、記憶媒体 |
JP6873716B2 (ja) * | 2017-01-31 | 2021-05-19 | キヤノン株式会社 | 像ブレ補正装置およびその制御方法、撮像装置、レンズ装置 |
JP2018146663A (ja) * | 2017-03-02 | 2018-09-20 | キヤノン株式会社 | 像ブレ補正装置およびその制御方法、撮像装置、レンズ装置 |
JP6935269B2 (ja) * | 2017-08-14 | 2021-09-15 | キヤノン株式会社 | 像ブレ補正装置およびその制御方法、撮像装置 |
JP6995561B2 (ja) * | 2017-10-23 | 2022-01-14 | キヤノン株式会社 | 像ブレ補正装置およびその制御方法、撮像装置 |
EP3739866A4 (en) * | 2018-03-16 | 2021-03-03 | Sony Corporation | INFORMATION PROCESSING DEVICE, INFORMATION PROCESSING PROCESS AND PROGRAM |
US11722771B2 (en) * | 2018-12-28 | 2023-08-08 | Canon Kabushiki Kaisha | Information processing apparatus, imaging apparatus, and information processing method each of which issues a notification of blur of an object, and control method for the imaging apparatus |
US11153485B2 (en) * | 2019-09-05 | 2021-10-19 | Gopro, Inc. | Automated camera mode selection using local motion vector |
Family Cites Families (17)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH04163535A (ja) | 1990-10-29 | 1992-06-09 | Olympus Optical Co Ltd | カメラのブレ防止装置 |
JP4379918B2 (ja) * | 2004-11-29 | 2009-12-09 | 富士フイルム株式会社 | 撮影装置及び撮影方法 |
JP4755490B2 (ja) * | 2005-01-13 | 2011-08-24 | オリンパスイメージング株式会社 | ブレ補正方法および撮像装置 |
JP2007318292A (ja) * | 2006-05-24 | 2007-12-06 | Casio Comput Co Ltd | 動きベクトル検出装置及びそのプログラム |
JP4274233B2 (ja) * | 2006-11-30 | 2009-06-03 | ソニー株式会社 | 撮影装置、画像処理装置、および、これらにおける画像処理方法ならびに当該方法をコンピュータに実行させるプログラム |
JP5208109B2 (ja) * | 2007-06-20 | 2013-06-12 | パナソニック株式会社 | 像振れ補正装置およびカメラ |
JP4518157B2 (ja) * | 2008-01-31 | 2010-08-04 | カシオ計算機株式会社 | 撮像装置及びそのプログラム |
JP5300413B2 (ja) * | 2008-10-28 | 2013-09-25 | キヤノン株式会社 | 動きベクトル検出装置及び動きベクトル検出方法及び撮像装置及びプログラム |
JP5179398B2 (ja) * | 2009-02-13 | 2013-04-10 | オリンパス株式会社 | 画像処理装置、画像処理方法、画像処理プログラム |
JP5374220B2 (ja) * | 2009-04-23 | 2013-12-25 | キヤノン株式会社 | 動きベクトル検出装置およびその制御方法、ならびに撮像装置 |
JP5572031B2 (ja) * | 2010-08-09 | 2014-08-13 | キヤノン株式会社 | 撮像装置及びその制御方法 |
US20120155727A1 (en) * | 2010-12-15 | 2012-06-21 | General Electric Company | Method and apparatus for providing motion-compensated images |
JP5703788B2 (ja) * | 2011-01-28 | 2015-04-22 | 株式会社ニコン | 撮像装置、画像処理装置、画像処理プログラム |
US9432575B2 (en) * | 2013-06-28 | 2016-08-30 | Canon Kabushiki Kaisha | Image processing apparatus |
JP6246015B2 (ja) * | 2014-02-19 | 2017-12-13 | キヤノン株式会社 | 画像処理装置およびその制御方法 |
JP6577703B2 (ja) * | 2014-08-05 | 2019-09-18 | キヤノン株式会社 | 画像処理装置及び画像処理方法、プログラム、記憶媒体 |
JP6539091B2 (ja) * | 2015-04-09 | 2019-07-03 | キヤノン株式会社 | 撮像装置およびその制御方法 |
-
2015
- 2015-11-27 JP JP2015232264A patent/JP6725979B2/ja not_active Expired - Fee Related
-
2016
- 2016-11-22 US US15/359,067 patent/US10091424B2/en not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2017097297A (ja) | 2017-06-01 |
US10091424B2 (en) | 2018-10-02 |
US20170155842A1 (en) | 2017-06-01 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6725979B2 (ja) | 像ブレ補正装置及びその制御方法、記憶媒体 | |
JP6486087B2 (ja) | 像ブレ補正装置、撮像装置および制御方法 | |
US9635265B2 (en) | Image processing apparatus and method of controlling the same | |
US9883104B2 (en) | Control apparatus, image pickup apparatus, control method, and non-transitory computer-readable storage medium which are capable of performing tilt correction | |
CN107257429B (zh) | 图像抖动校正设备及控制方法、光学设备和摄像设备 | |
JP6700872B2 (ja) | 像振れ補正装置及びその制御方法、撮像装置、プログラム、記憶媒体 | |
JP6833461B2 (ja) | 制御装置および制御方法、撮像装置 | |
JP6727791B2 (ja) | 追尾制御装置および追尾制御方法、撮像装置 | |
JP6995561B2 (ja) | 像ブレ補正装置およびその制御方法、撮像装置 | |
JP6581474B2 (ja) | 像振れ補正装置及びその制御方法、プログラム、記憶媒体 | |
JP6282152B2 (ja) | 撮像装置およびその制御方法 | |
JP6598537B2 (ja) | 画像処理装置、撮像装置および画像処理プログラム | |
US10212364B2 (en) | Zoom control apparatus, image capturing apparatus and zoom control method | |
JP6401494B2 (ja) | ブレ補正装置、ブレ補正方法およびプログラム、並びに撮像装置 | |
JP2018010165A (ja) | 像振れ補正装置およびその制御方法、ならびに撮像装置 | |
JP2018060126A (ja) | 像ぶれ補正装置およびその制御方法、撮像装置 | |
JP2018180302A (ja) | 像ブレ補正装置、交換レンズ、カメラアシステム、および像ブレ補正方法 | |
JP6429633B2 (ja) | 像ブレ補正装置、制御方法、光学機器、撮像装置 | |
EP3739868B1 (en) | Control apparatus, lens apparatus, imaging apparatus, control method, and program | |
JP2015145901A (ja) | 撮像装置 | |
JP2015102757A (ja) | 撮像装置及びその制御方法、プログラム、記憶媒体 | |
JP6703789B2 (ja) | 像ブレ補正装置及び方法、及び撮像装置 | |
JP2017134185A5 (ja) | ||
JP2019125946A (ja) | 制御装置、撮像装置、制御方法、及びプログラム | |
JP7073078B2 (ja) | 撮像装置およびその制御方法 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20181121 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20181121 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20190930 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20191007 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20191203 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20200529 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20200626 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6725979 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |
|
LAPS | Cancellation because of no payment of annual fees |