JP6727791B2 - 追尾制御装置および追尾制御方法、撮像装置 - Google Patents

追尾制御装置および追尾制御方法、撮像装置 Download PDF

Info

Publication number
JP6727791B2
JP6727791B2 JP2015217363A JP2015217363A JP6727791B2 JP 6727791 B2 JP6727791 B2 JP 6727791B2 JP 2015217363 A JP2015217363 A JP 2015217363A JP 2015217363 A JP2015217363 A JP 2015217363A JP 6727791 B2 JP6727791 B2 JP 6727791B2
Authority
JP
Japan
Prior art keywords
subject
amount
tracking control
image
motion vector
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2015217363A
Other languages
English (en)
Other versions
JP2017092592A (ja
JP2017092592A5 (ja
Inventor
伸茂 若松
伸茂 若松
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2015217363A priority Critical patent/JP6727791B2/ja
Priority to US15/298,685 priority patent/US10277809B2/en
Priority to DE102016120954.6A priority patent/DE102016120954A1/de
Priority to CN201610963038.8A priority patent/CN106954007B/zh
Priority to GB1618583.7A priority patent/GB2545551B/en
Publication of JP2017092592A publication Critical patent/JP2017092592A/ja
Publication of JP2017092592A5 publication Critical patent/JP2017092592A5/ja
Application granted granted Critical
Publication of JP6727791B2 publication Critical patent/JP6727791B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/61Control of cameras or camera modules based on recognised objects
    • H04N23/611Control of cameras or camera modules based on recognised objects where the recognised objects include parts of the human body
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/681Motion detection
    • H04N23/6811Motion detection based on the image signal
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/68Control of cameras or camera modules for stable pick-up of the scene, e.g. compensating for camera body vibrations
    • H04N23/682Vibration or motion blur correction
    • H04N23/685Vibration or motion blur correction performed by mechanical compensation

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)

Description

本発明は、被写体を追尾し、被写体画像を画面の所定位置に移動させ、または保持する制御に関する。
露出決定やピント合わせが自動化され、手振れ等による撮影画像の像ブレを防ぐ制御装置が搭載されたデジタルカメラ等がある。また被写体の顔や人体を検出する検出機能が提案されている。例えば人物の顔を判断するためのパターンが予め定められており、画像内に含まれる該パターンに一致する箇所が人物の顔として検出される。検出された人物の顔画像の情報は、合焦制御や露出制御等で参照される。
移動している被写体の撮影時や、焦点距離の大きい望遠での撮影時には、以下の問題がある。動体である被写体の移動により被写体が画角から外れてしまう場合、動き続ける被写体を、手動操作のみで精度良く追尾するには撮影者の特別な技術が必要である。また、望遠レンズを有するカメラで撮影を行う場合、手振れによる像ブレが大きくなるので、主被写体を撮影画像の中心に保持することが難しい。撮影者が被写体を画角内に捉え直そうとしてカメラを操作した場合、撮影者が意図して操作したときの手ぶれ量に応じて像ブレ補正が行われてしまう。そのため、像ブレ補正制御の影響により被写体を画角内に捉え、または撮影画像の中心に被写体画像を位置させるために撮影者が行う微調整の操作が難しくなる。
特許文献1には、光軸と交差させる方向に光学系の一部を移動させることによって、自動的に被写体を追尾する撮像装置が開示されている。撮像素子により取得される画像信号から被写体の位置が検出され、被写体追尾演算量が算出される。ブレ補正演算量に被写体追尾演算量を合成することで、像ブレを補正しつつ被写体追尾制御が可能である。
特開2010−93362号公報
被写体の画像位置を画面内の特定位置に保持するように被写体追尾制御を行うシステムでは、被写体検出の遅れや検出精度が追尾制御に大きな影響を与える可能性がある。例えば、撮像された画像の解析によって行われる被写体検出では実時間に対して検出の遅れが必ず発生する。被写体の画像位置を画角内で特定の位置に保持するために位置フィードバック制御が行われる。その際、検出遅れによる無駄時間を加味してフィードバック制御を行わなければならない。
また撮像素子に入力される前に被写体の光像を、シフトレンズ等の駆動により補正する被写体追尾制御がある。この場合、被写体検出での実時間に対する遅れが被写体の追尾性能に大きな影響を与える可能性がある。被写体追従性を高めるためにフィードバックゲインを大きくすると、撮影条件によっては発振することが懸念される。逆に発振しないようにフィードバックゲインを小さくすると被写体追従性が低下し、被写体を逃がしやすくなってしまうという問題がある。
本発明の目的は、被写体を追尾する追尾制御において、被写体追従性を高めることである。
本発明に係る装置は、被写体を追尾する制御を行う追尾制御装置であって、撮像素子で撮像された撮像画像より被写体を検出する被写体検出手段と、前記撮像画像のうち所定範囲の画像を第1の画像として取得する取得手段と、前記撮像素子により取得された異なるフレームにおける画像信号に基づいて前記被写体の動きベクトルを取得し、取得された前記動きベクトルに基づいて補正量を取得する補正量取得手段と、前記被写体検出手段により検出された前記被写体の位置と、撮像範囲内に予め設定された所定の位置との差分量に基づいて追尾制御量を取得する追尾制御量取得手段と、前記補正量と前記追尾制御量とを加算して制御量を取得し、前記制御量に基づいて前記第1の画像における前記被写体の位置を制御することで追尾制御を行う制御手段と、を備える。
本発明によれば、被写体を追尾する追尾制御において、被写体追従性を高めることができる。
本発明の実施形態に係る撮像装置を模式的に示す図である。 本発明の実施形態に係る撮像装置の構成例を示す図である。 検出された被写体の追尾制御を説明する図である。 第1実施形態における追尾量算出部の機能ブロック図である。 第1実施形態における補正ベクトル検出部の機能ブロック図である。 第1実施形態における補正ベクトル検出処理を説明する図である。 第1実施形態における度数分布処理を説明する図である。 第1実施形態における振れ補正角度算出部の機能ブロック図である。 被写体の追尾制御例を説明するフローチャートである。 第2実施形態における補正ベクトル検出を説明する図である。 第2実施形態における検出ブロックの配置変更を説明する図である。
以下に、本発明の各実施形態について、添付図面を参照して詳細に説明する。本発明に係る光学機器は各種のレンズ装置や撮像装置、望遠鏡、双眼鏡等に適用可能である。以下の実施形態では、デジタルスチルカメラ、デジタルビデオカメラ等の撮像装置への適用例を説明するが、Webカメラ、携帯電話等の撮影装置に搭載可能である。
[第1実施形態]
図1は、本発明の第1実施形態に係る撮像装置を模式的に示す図である。撮像装置101は像ブレ補正装置および被写体追尾制御装置を具備する。像ブレ補正装置は、例えば光軸102に対して矢印103p、103yで示すピッチ方向、ヨー方向の角度振れに対して像ブレ補正を行う。3次元直交座標系のうちZ軸方向を光軸方向とし、Z軸に直交する第1の軸をX軸とし、Z軸およびX軸に直交する第2の軸をY軸と定義する。矢印103pに示すX軸回り方向がピッチ方向であり、矢印103yに示すY軸回り方向がヨー方向である。
図2は撮像装置101の構成を模式的に示す平面図である。図2は撮像装置101の撮像部の構成と、CPU(中央演算処理装置)105により実行される像ブレ補正処理および被写体の自動追尾処理の機能ブロックを示す。
撮像装置101は本体部にレリーズボタン104(図1参照)を備える。レリーズボタン104の操作時にスイッチのON/OFF信号がCPU105に送られる。CPU105は本実施形態の制御装置として機能する。なお、本発明はCPU105を備える任意の光学機器に適用可能である。
撮像光学系の光軸102上には、振れ補正レンズ(補正レンズともいう)114と撮像素子106が位置する。撮像装置101は、角度振れの角速度を検出する角速度検出手段(以下、角速度計という。)を備える。角速度計103は、図1の矢印103pのピッチ方向および矢印103yのヨー方向の角度振れを検出する。角速度計103の出力する検出信号はCPU105に入力される。被写体の自動追尾制御が行われない場合、振れ補正角度算出部108は、角速度計103の出力に基づいて振れ補正角度を演算する。具体的には、振れ補正角度算出部108は、角速度計103の出力に対して、角速度計103に検出ノイズとして付加されるDC(直流)成分をカットした後、積分処理を実行して角度信号を出力する。DC成分のカットには、例えばHPF(ハイパスフィルタ)が用いられる。振れ補正角度算出部108の出力は加算部112を介して敏感度調整部109に入力される。
敏感度調整部109は、ズームおよびフォーカス位置情報107と、これらにより求まる焦点距離や撮影倍率に基づいて、振れ補正角度算出部108の出力を増幅し、振れ補正目標値を出力する。ズーム位置情報はズームユニットから取得され、フォーカス位置情報はフォーカスユニットから取得される。ズームおよびフォーカス位置情報107に基づいて振れ補正目標値を算出する理由は、フォーカスやズーム等の光学情報の変化により補正レンズ114の振れ補正ストロークに対する撮像面での振れ補正敏感度が変化するからである。敏感度調整部109は振れ補正目標値を駆動制御部113に出力する。
補正レンズ114は、撮影画像における被写体画像をシフト方向に移動させる。駆動制御部113は補正レンズ114を駆動制御し、振れ補正と被写体の追尾制御を行う。また駆動制御部113は、補正レンズ114を光軸とは異なる方向に駆動することで像ブレ補正(光学式防振)を実行する。図2に示す例では、補正レンズ114を用いた光学式防振が採用されている。これに限らず像ブレ補正として、撮像素子を光軸と垂直な面内で移動させることで像ブレを行う補正方法を適用してもよい。または、撮像素子が出力する各撮影フレームの画像の切り出し位置を変更することで、振れの影響を軽減させる電子式防振を適用してもよい。あるいは複数の像ブレ補正方法を組み合わせることも可能である。
次に、補正レンズ114を用いた被写体の自動追尾制御方法について説明する。図2に示す被写体検出部110は、撮像素子106から撮像された画像信号を取得し、撮影画像内の被写体の画像位置(被写***置)を検出する。被写***置情報は追尾量算出部111および後述の補正ベクトル検出部116に出力される。追尾量算出部111は、ズームおよびフォーカス位置情報107と、検出された被写***置情報に基づいて、補正レンズ114の駆動により被写体を追尾するために用いる制御量を算出する。以下、被写体を追尾して被写体の画像位置を画面における特定の位置(例えば中央位置)に位置させるための制御量(追尾制御量)を追尾補正量という。追尾補正量は振れ補正角度算出部108および加算部112に出力される。
加算部112は、振れ補正角度算出部108が出力する振れ補正量と追尾量算出部111が出力する追尾補正量とを加算する。加算部112の出力は、敏感度調整部109に入力される。これにより、補正レンズ114の振れ補正ストロークに合わせて敏感度調整が行われ、駆動制御部113は敏感度調整部109の出力に基づいて、補正レンズ114の駆動量を算出する。駆動量に基づいて補正レンズ114が駆動されることで、被写体の追尾制御と像ブレ補正が行われる。
動きベクトル検出部115は、撮像素子106から撮像された画像信号を取得し、画像の動きベクトルを検出する。動きベクトル検出部115は検出した動きベクトル情報を補正ベクトル検出部116に出力する。補正ベクトル検出部116は、検出された動きベクトル情報と被写体検出部110の出力から、補正ベクトルを算出して振れ補正角度算出部108に出力する。
次に、被写体検出部110が行う被写***置の検出処理について詳細に説明する。撮像素子106は被写体からの反射光を電気信号に光電変換することで画像情報を取得する。画像情報はA/D変換部でデジタル画像信号に変換され、デジタル画像信号が被写体検出部110に送られる。撮影画像内に捉えた被写体の画像が複数である場合、それらの被写体から主被写体を自動的に認識する方法として以下の方法がある。
主被写体検出の第1の方法は人物を検出する方法である。この場合、被写体検出部110は被写体の顔や人体を検出する。顔検出処理では、人物の顔を判断するためのパターンが予め定められており、撮像された画像内に含まれる該パターンに一致する箇所を人物の顔画像として検出することができる。被写体検出部110は、検出された各被写体について、被写体の顔としての確からしさを示す信頼度を算出する。信頼度は、例えば画像内における顔領域の大きさや、顔パターンとの一致度等から算出される。すなわち被写体検出部110は、撮影画像内における被写体の大きさ、または当該被写体と予め記憶された被写体のパターンとの一致度に基づいて当該被写体の信頼度演算を行う。
主被写体検出の第2の方法は、撮像された画像内の色相や彩度等のヒストグラムを使用する方法である。撮影画像内に捉えられている被写体画像に関し、その色相や彩度等のヒストグラムから導出される分布を複数の区間に分け、区間ごとに撮像された画像を分類する処理が実行される。例えば、撮像された画像について複数の色成分のヒストグラムが作成され、その山型の分布範囲で区分けし、同一の区間の組み合わせに属する領域にて撮像された画像が分類され、被写体の画像領域が認識される。認識された被写体の画像領域ごとに評価値を算出することで、当該評価値が最も高い被写体の画像領域を主被写体領域として判定することができる。
主被写体領域の決定後には、その特徴量を用いて、以降に順次撮像された画像から特徴量と類似する領域を検出することで主被写体領域を追尾することができる。主被写体領域の特徴量は、例えば色相分布や大きさ等から演算される。検出された被写体の位置情報は、追尾量算出部111に入力される。追尾量算出部111は、被写体の数が1つの場合、被写体画像の中心位置が画面中央付近に位置するように追尾補正量を演算する。また撮影者が、随時出力される映像信号にしたがって撮像装置の表示部の画面に表示される映像を見ながら、撮像装置の操作部材を操作することによって、表示画面上で被写***置を指定することも可能である。この場合、撮影者が表示画面に表示される複数の被写体の画像の中から主被写体を指定する操作を行うと、指定された位置での色相分布や大きさ等の特徴量が算出される。算出された特徴量を用いて、以降に順次撮像された画像から、当該特徴量と類似する特徴量をもつ領域を検出して、検出された領域を主被写体領域として追尾することができる。
図3は、検出された主被写体の追尾制御を説明する図である。図3(A)は、被写体追尾制御の開始前における撮影画像301aを例示する。図3(B)は、被写体追尾制御の開始後における撮影画像301bを例示する。図3(A)の撮影画像301aにおいて、中央に示す黒点は画面中央位置304を示す。追尾制御の開始前に被写体302aの画像位置は画面中央位置304から離れている。被写体中心位置303aは、被写体302aの画像における中心位置を示す。CPU105が被写体追尾制御を開始させると、時間経過につれて被写体中心位置303aと画面中央位置304との距離が徐々に小さくなっていく。被写体追尾制御によって最終的には図3(B)に示すように、被写体中心位置303aと画面中央位置304とがほぼ一致する。
次に、図4を参照して追尾量算出部111の構成について説明する。図4は追尾量算出部111の一例を示す機能ブロック図である。追尾量算出部111は、画面の縦方向および横方向の各軸にて追尾補正量を演算するが、簡単化のために、以下では片軸についてのみ説明する。
減算部403は、被写体検出部110が出力する被写***置情報に基づき、被写***置(中心位置)401の座標から画面中央位置402の座標を減算する。これにより、被写体画像の中心位置が画面中央位置402から画像上でどれくらいの距離であるかを示す差分量(以下、中心ズレ量という)が算出される。中心ズレ量は画面中央位置402での差分量を0とした符号付きのデータである。減算部403の出力は、カウント値テーブル参照部(以下、単に参照部という)404に入力される。
参照部404は、中心ズレ量、つまり差分量の大きさに基づいて、追尾のためのカウント値を演算する。具体的には以下の通りである。
・中心ズレ量が所定閾値A以下であるか、または、所定閾値「−A」以上である場合
カウント値はゼロまたは最小値に設定される。中心ズレ量の大きさが所定の閾値以下である場合、画面中央位置から所定範囲内では追尾をしない不感帯領域が設定される。
・中心ズレ量が所定閾値Aより大きいか、または、所定閾値「−A」未満である場合
カウント値は、中心ズレ量が大きくなるにつれて大きくなるように設定される。カウント値の符号については、中心ズレ量の符合に合わせて演算される。
参照部404の出力は、信号選択部406が第1の入力として取得する。信号選択部406は、第2の入力としてダウンカウント値出力部405の出力するダウンカウント値を取得する。また信号選択部406には制御用信号として、追尾SW(スイッチ)407の状態を示す信号が入力される。追尾SW407がオンに設定されている場合、信号選択部406は参照部404の出力を選択して、加算部408に出力する。また追尾SW407がオフに設定されている場合、信号選択部406はダウンカウント値を選択して、加算部408に出力する。ダウンカウント値については後で説明する。
加算部408は、信号選択部406の出力と、追尾量に係る前回サンプリング値を取得して両者を加算する。加算部408の出力は上下限値設定部409に入力される。上下限値設定部409は追尾補正量を所定の範囲内に制限する。つまり追尾補正量は、所定の上限値以上にならず、かつ所定の下限値以下にならないようにリミッタがかけられて値が変更される。上下限値設定部409の出力は、遅延部410とLPF(ローパスフィルタ)411にそれぞれ入力される。
遅延部410は、現時点よりも所定のサンプリング時間だけ過去の追尾補正量、つまり前回のサンプリング値を演算結果として、加算部408およびダウンカウント値出力部405にそれぞれ出力する。ダウンカウント値出力部405は、前回のサンプリング時点での追尾補正量(前回サンプリング値)がプラスの符号である場合、ダウンカウント値をマイナスに設定する。またダウンカウント値出力部405は、前回サンプリング値がマイナスの符号である場合、ダウンカウント値をプラスに設定する。これにより、追尾補正量の絶対値が小さくなるように処理が行われる。またダウンカウント値出力部405は、前回サンプリング値がゼロ近傍の範囲(0±所定範囲)以内である場合、ダウンカウント値を0に設定する。ダウンカウント値は信号選択部406への第2の入力となる。
LPF411は、上下限値設定部409の出力に対して、被写体検出時の高周波ノイズをカットし、処理後の信号を補正レンズ量変換部412に出力する。補正レンズ量変換部412は、LPF411の出力を、補正レンズ114によって被写体追尾動作を行うための信号に変換する。こうして最終的な追尾補正量が演算され、追尾補正量に基づいて補正レンズ114が駆動されることで、徐々に被写体画像の中心位置が撮影画像の中心付近に位置するように追尾補正処理が行われる。
次に動きベクトル検出部115が行う動きベクトルの検出処理について説明する。
撮像素子106は被写体からの反射光を電気信号に光電変換することで画像信号を取得する。取得された画像信号はデジタル信号に変換されてから、動きベクトル検出部115に送られる。動きベクトル検出部115は、あらかじめ記憶されている1フレーム前の画像と現在の画像、つまり時間的に連続する2つの画像を比較することで、画像の相対的なズレ情報から動きベクトルを算出する。このとき、画像をいくつかのエリアに分割する処理が行われる。分割された小エリア(分割領域)でそれぞれの画像情報を比較することによって、各エリアでの動きベクトルが算出される。動きベクトル検出部115は算出した動きベクトルを補正ベクトル検出部116に出力する。
補正ベクトル検出部116は、各エリアにて算出された動きベクトル(フレーム間の移動ピクセル)に基づいて度数分布処理を行い、最も度数の大きいピクセルから画像全体の動きベクトルを決定する。以下、補正ベクトル検出部116が、動きベクトル検出部115からの動きベクトル情報と、被写体検出部110の出力に基づいて補正ベクトルを算出する処理について説明する。
図5は補正ベクトル検出部116の構成例を示す制御ブロック図である。ベクトル重みづけ処理部(以下、重みづけ処理部という)501は、動きベクトル検出部115の出力と、被写体検出部110の出力を取得する。動きベクトル検出部115の出力は、画面内に配置されたエリア(検出領域)ごとの動きベクトル値を表す。被写体検出部110の出力は、被写体中心位置および被写体の縦横の大きさを表す。
まず、被写体検出部110からの情報を用いない場合の動きベクトル検出方法を説明する。被写体追尾機能がOFF設定である場合、あるいは特徴的な被写体が画面内に存在しない場合には、被写***置情報は使用しない。この場合、重みづけ処理部501は、動きベクトル検出部115からエリアごとのベクトル値を取得してそのまま度数分布処理部502に出力する。
図6(A)は、画面内に動体である被写体601が存在する場合の画像例を示す。破線の枠範囲602は、主被写体として検出された画像範囲を表している。図6(B)は、動きベクトル検出部115における検出ブロック603〜605の配置例を示す。矩形状の検出ブロックは画面全体に均等に配置されている。例えば、画面内で動いている被写体601が存在していても、画面内にて被写体601の画像の大きさが画面に占める比率が小さい場合を想定する。この場合、被写体601以外のエリアで検出される動きベクトル値にかかわる検出ブロック数の方が、被写体601にかかわる検出ブロック数よりも多い。度数分布処理部502は、画面内で検出された全ベクトルから度数分布処理を行う。図7を参照して具体的に説明する。図7(A)および(B)にそれぞれ示す度数分布図の横軸は移動量(単位:ピクセル)を表し、縦軸は度数を表す。
図7(A)は、被写体が動体である場合に、度数分布処理部502にて検出された、あるフレームでの度数分布例を示す。図6(A)のような被写体601が存在するエリアでの検出ブロックは、ベクトル群702のように移動量に幅をもった度数分布を示す。また、被写体601に対応するエリア以外での検出ブロックは、ベクトル群703のような度数分布を示す。動体である被写体がいないエリアでのベクトル検出結果に関しては、主に手振れと手振れ補正の影響を受けた検出結果となる。一方、ベクトル群702で示すように、移動している被写体601に対応するエリアでのベクトル検出結果については、動体の速度と手振れ補正の影響を受けたベクトル検出結果となる。ここで、被写体601に対応するエリアにかかわる検出ブロック数は、被写体601以外のエリアにかかわる検出ブロック数に対して少ない。つまり、ベクトル群702の総度数に比べて、ベクトル群703の総度数の方が大きい。図7(A)の検出例では、最も度数の多いピクセル移動量が度数ピーク701の位置となるため、移動している被写体601が存在しないエリアで検出された動きベクトルの値が設定されることになる。
本実施形態の重みづけ処理部501は、被写体検出部110からの被写体重心位置と被写体画像の大きさから被写体エリアを設定し、被写体エリアと被写体エリアでない領域での検出ブロックごとに重みづけ処理を行う。これにより、主被写体エリアのベクトルを検出することができる。具体的には、図6(A)にて被写体601が主被写体として指定されるか、あるいは自動的に認識された場合を想定する。枠範囲602は、主被写体エリアを表しており、被写体検出部110により検出される被写体中心位置と、縦方向および横方向のそれぞれの被写体画像の大きさから設定される。
図6(B)に示す検出ブロック603は、枠範囲602に収まっている検出ブロックを示しており、重みづけ処理部501は当該検出ブロックに対する重みづけ係数値を1とする。つまり、重みづけ係数値として1を各検出ブロック603の動きベクトル値に乗算し、各動きベクトル値を更新する処理が行われる。重みづけ処理部501は、枠範囲602のエリアから所定位置だけ離れた第1のエリアを設定し、当該エリア内に位置する検出ブロック604に対して重みづけ係数値を、例えば0.3とする。重みづけ係数値として0.3を各検出ブロック604の動きベクトル値に乗算し、各動きベクトル値を更新する処理が行われる。重みづけ処理部501は、枠範囲602のエリアからさらに離れた第2のエリアを設定し、当該エリア内に位置する検出ブロック605に対して重みづけ係数値を0とする。つまり、重みづけ係数値として0が各検出ブロック605の動きベクトル値に乗算されるので、動きベクトル値はゼロとなる。このように重みづけ処理部501は、各検出ブロックの動きベクトル値に対し、被写体検出部110からの被写体中心位置と被写体の大きさから設定した被写体エリアに基づいて重みづけ係数を算出する。重みづけ処理部501は重みづけ係数を用いた乗算を行って各検出ブロックの動きベクトル値を更新する。
度数分布処理部502は、重みづけ処理された動きベクトルを取得して度数分布処理を行う。図7(B)は、動体である被写体が存在する場合に度数分布処理部502にて検出された、あるフレームでの度数分布例を示す。具体的には、図6(A)にて被写体601が主被写体として指定されるか、あるいは自動的に認識された場合を想定する。ベクトル群702と703の意味は図7(A)の場合と同じであるが、それらの度数分布が異なる。ベクトル群703については、移動している被写体がいないエリアでのベクトル検出結果を示し、殆どの検出ブロックで重みづけ係数値が0に設定される。このため、図7(A)に比べて、度数が小さくなっている。一方、ベクトル群702については、移動している被写体601の速度と手振れ補正の影響を受けたベクトル検出結果が得られ、重みづけ係数値は1または0.3に設定される。このため図7(B)のベクトル群702に関する度数分布は、図7(A)にてベクトル群702に対応する度数分布とほとんど同じ結果となる。図7(B)の度数分布において、最も度数の多いピクセル移動量は度数ピーク704の位置となる。この位置は、移動している被写体601が存在するエリア内の検出ブロックで検出された動きベクトル値の範囲内であり、被写体領域およびその近傍領域での動きベクトル値が移動量として決定される。
図5の被写体ベクトル角速度換算部503は、度数分布処理部502により検出された動きベクトル(フレーム間の差分ベクトル)を取得し、ピクセル単位から角速度単位へ換算する。カメラの振れ角速度をω、焦点距離(mm)をf、ピクセル(pixel)単位での動きベクトルをA、フレームレート(fps)をB、セルピッチ(1ピクセル当たりの距離(mm))をXと表記する。カメラの振れ角速度相当の単位に変換する処理では、下記式(1)が使用される。
ω = A × B × X ÷ f ・・・(1)
角速度単位に変換された動きベクトルは、振れ補正角度算出部108に入力される。振れ補正角度算出部108には、角速度計103の出力である角速度と、追尾量算出部111の出力である追尾補正量が同時に入力される。
次に、振れ補正角度算出部108における振れ補正角度算出処理について説明する。図8は振れ補正角度算出部108の内部処理を説明するブロック図である。
角速度計103の出力する角速度信号はHPF801に入力される。HPF801は、角速度計103に検出ノイズとして付加されるオフセット成分を除去するためにDC成分をカットする。HPF801は、HPF処理した角速度信号を加減算部802および角速度減算量算出部805に出力する。加減算部802は、HPF処理された角速度信号と、後述の可変ゲイン部808および角速度減算量算出部805の各出力信号を取得する。加減算部802にて、HPF801の出力と、可変ゲイン部808の出力であるベクトルフィードバック角速度はいずれも正入力として加算処理され、角速度減算量算出部805からの角速度減算量は負入力として減算処理される。ベクトルフィードバック角速度と角速度減算量の算出については後で詳述する。積分器803は加減算部802の出力を取得して積分処理を行い、目標角度を算出する。積分器803は積分結果をリミット部804と角速度減算量算出部805と可変ゲイン部808にそれぞれ出力する。リミット部804は積分器803による積分後の目標角度信号を取得する。リミット部804は目標角度信号の信号値が最大可動範囲を超える場合に当該信号値が最大値に保持されるように制限する。リミット部804は、振れ補正目標値に対する上下限としてリミット閾値が設定されているので、予め設定された範囲内の振れ補正角度が算出される。
角速度減算量算出部805はHPF801と積分器803の各出力を取得して角速度減算量を算出する。加減算部802において角速度から角速度減算量を減算する目的は、振れ補正の可動範囲内で振れ補正目標値を算出することである。リミット部804には、入力信号値が最大可動範囲を超える場合、最大値に制限するために振れ補正目標値を上下限が設定されている。しかし、角速度が振れ補正の可動範囲を超えてしまうと、その後の振れ補正が不能状態になり、大きな像ブレが発生する可能性がある。そこで角速度減算量算出部805は、振れ補正目標値(制御周期の前回サンプリング値)を用いて角速度減算量を算出して加減算部802に出力する。加減算部802は角速度から角速度減算量を減算し、その後に積分器803が積分する。これにより、振れ補正の可動範囲内で振れ補正目標値を算出することができる。
角速度減算量算出部805は、角速度減算量として、HPF801の出力する角速度信号にゲインαまたはβを乗算した信号を生成する。具体的には、第1の閾値をA1とし、第2の閾値をA2として、「A1<A2」の関係を満たすものとする。振れ補正目標位置がA1以下である場合、ゲインαの値が0に設定される。また、振れ補正目標位置がA2以上である場合、ゲインαの値が1に設定される。振れ補正目標位置がA1より大きく、A2未満である場合には、ゲインαの値は、閾値A1とA2との間を線形補間した一次式にしたがって算出される値となる。
また、第3の閾値をB1とし、第4の閾値をB2として、「B1>B2」、および「A1=−B1、A2=−B2」の関係を満たすものとする。振れ補正目標位置がB1以上である場合、ゲインβの値が0に設定される。振れ補正目標位置がB2以下である場合、ゲインβの値が1に設定される。振れ補正目標位置がB1未満であって、B2より大きい場合には、ゲインβの値は閾値B1とB2との間を線形補間した一次式にしたがって算出される値となる。
角速度減算量算出部805は、設定されたゲインαおよびβを用いて、下記式(2)、(3)により角速度減算量を算出する。
・HPF角速度の符号がプラスの場合 : 角速度減算量 = HPF角速度 × α ・・・(2)
・HPF角速度の符号がマイナスの場合: 角速度減算量 = HPF角速度 × β ・・・(3)
HPF角速度はHPF801によって処理された角速度であり、角速度減算量に関してHPF角速度の符号に応じて乗算されるゲインが異なる。すなわちHPF角速度の符号がプラスの場合、HPF角速度にゲインαが乗算され、HPF角速度の符号がマイナスの場合、HPF角速度にゲインβが乗算される。算出された角速度減算量は、加減算部802でHPF角速度から減算される。これにより、補正レンズが可動端に到達して振れ補正不能状態になることを防ぎ、可動範囲内での振れ補正制御を行うことができる。なお、可動端は補正レンズが移動可能な可動範囲の限界位置またはその近傍に相当する。
次に図8の可変ゲイン部808から出力されるベクトルフィードバック角速度(以下、FB角速度という)の演算処理について説明する。
補正ベクトル検出部116は、図5から図7を用いて説明した方法で、角速度換算後の補正ベクトル値の信号を出力する。この信号は減算部807に入力される。一方、追尾量算出部111は、図4を用いて説明した方法で算出した追尾量(制御周期の前回サンプリング値)を微分器806に出力する。微分器806は微分処理を行い、追尾量を角速度相当の値に変換した追尾角速度を減算部807に出力する。減算部807は、補正ベクトル検出部116から取得した補正ベクトル値を正入力とし、微分器806から取得した追尾角速度を負入力として、減算処理を行う。減算結果を示す信号(減算信号)は可変ゲイン部808に出力される。減算部807の出力は、検出されたベクトル(角速度相当への換算後のベクトル)から追尾量分の角速度を減算した信号であり、カメラ振れから振れ補正分を減算した振れ補正後のカメラ揺れ残り角速度相当の値となる。
ここで、移動している被写体の画像が画面上に存在しない場合について説明する。この場合、補正ベクトル検出部116は画面全体に配置されたすべての検出ブロックを用いた度数分布処理を行い、動きベクトルを決定する。カメラ振れから振れ補正の振れ量分が除去された振れ補正揺れ残りの動きベクトルが出力される。この出力は加減算部802にてHPF801の出力に加算されることで振れ補正効果を向上させることができる。また、移動している被写体の画像が画面上に存在する場合であっても、図6にて被写体が指定されていない場合には、図7(A)において、被写体(動体)の移動にかかわるベクトルは除去される。図6(A)の枠範囲602以外のエリアにおいて動きベクトルが検出される検出ブロックの数の方が、枠範囲602における検出ブロック数よりも多い。このため、カメラ振れから振れ補正の振れ量分が除去された振れ補正揺れ残りの動きベクトルが検出され、振れ補正効果が向上する。
また、図5から図7にて説明した方法で移動している被写体が検出された場合、補正ベクトル検出部116は、被写体(動体)の移動量を含むベクトルとして動きベクトルを検出する。よって、被写体の移動を補正するように振れ補正を行うことができる。図6において、移動している被写体601が追尾被写体として設定されている場合、被写体の大きさとして検出される枠範囲602の大きさと位置に基づいて、重みづけ処理が実行される。つまり、図6(B)を用いて説明したように各検出ブロックに対する重みづけ処理が行われ、図7(B)に示すように度数分布処理が行われる。この場合に検出される動きベクトルは、被写体601の移動量を含む動きベクトルである。
以上のように検出された被写体の移動量を含む動きベクトルは、角速度相当への換算後に減算部807に入力され、追尾量分の角速度が減算された後、可変ゲイン部808に入力される。可変ゲイン部808は、入力に対して0から1の間で設定されたゲイン係数(Kと記す)を乗算する。可変ゲイン部808には、積分器803からの振れ補正目標値(制御周期の前回サンプリング値)が同時に入力され、振れ補正目標値に応じてK値が設定される。具体的には、所定の角度閾値1と角度閾値2が設定され、「角度閾値1<角度閾値2」、および「角度閾値2<45度」の関係を満たすものとする。振れ補正目標値の絶対値が角度閾値1以内である場合、K値が1に設定され、振れ補正目標値の絶対値が角度閾値2以上である場合、K値が0に設定される。振れ補正目標値の絶対値が角度閾値1と角度閾値2との間である場合には、ゲイン係数値1から0の間を線形補間して得られるテーブル(または一次式)にしたがってK値が設定される。この例では2つのポイントを設定して作成されるテーブルを用いて、2点間での線形補間処理を行っているが、3ポイント以上の設定によりテーブルを作成することもできる。
振れ補正目標値が相対的に小さい場合には、補正レンズが振れ補正の可動端へ到達するまでに、まだ余裕があるので、補正ベクトルを角速度に加算して振れ補正目標値が算出される。一方、振れ補正目標値が相対的に大きく、補正レンズが振れ補正の可動端へ到達するまでの余裕がない場合に可変ゲイン部808はゲインを小さい値に制御し、補正ベクトルの値を制限する。補正レンズの可動端への到達によって振れ補正の制御不能となる状態を防ぐことができる。
以上のように、補正ベクトル検出部116からの被写体の移動量を含む動きベクトルと、追尾量算出部111からの追尾角度と、振れ補正目標値(制御周期の前回サンプリング値)とからFB角速度が算出される。FB角速度は可変ゲイン部808から加減算部802に出力される。加減算部802は、FB角速度と、HPF801を通した角速度と、角速度減算量算出部805からの角速度減算量とを取得し、補正用角速度を算出する。補正用角速度は積分処理後に、振れ補正の可動範囲でリミット処理が行われ、振れ補正角度が算出される。このようにすると、振れ補正の可動範囲内で振れ補正の制御と被写体の追尾制御を同時に行うことができる。
上記の例では振れ補正目標値に応じて、可変ゲイン部808のゲインを変更する方法を例示したが、被写体検出部110からの被写体の画像位置または画像位置の変化量に基づいてゲイン係数を設定することもできる。被写***置が画面の中心付近である場合、追尾量算出部111での追尾制御は行われないので、FB角速度を用いて積極的に振れ補正制御が行われる。また、被写***置が画面の中心から離れている場合、追尾量算出部111による追尾制御が行われる。そのとき、追尾制御により画角を移動させるベクトルが発生するが、戻す速度が速い場合には少なからずベクトルの検出ノイズが発生する可能性がある。その検出ノイズの影響でFB角速度を用いた追尾制御において誤制御が発生することを防ぐために、被写体の画像位置またはその位置変化量に基づいて可変ゲイン部808のゲイン設定が行われる。具体的には、振れ補正角度算出部108は、被写体の画像位置が画面中心から離れている場合や当該画像位置に係る所定の変化量を検出した場合、可変ゲイン部808のゲインを相対的に小さく設定することで、追尾制御性の低下を抑制する。
図9を参照して、振れ補正制御および被写体追尾制御の処理例を説明する。図9のフローチャートに示す処理は、撮像装置101の主電源がオン操作された場合に開始し、CPU105の制御下にて一定のサンプリング周期で実行される。
まず、S901において、CPU105は防振SWがON操作されたか否かを判断する。防振SWは、ユーザが像ブレ補正の操作指示に使用する操作スイッチである。防振SWがOFFである場合、処理がS915に進み、CPU105は、補正レンズ114のレンズ駆動量をゼロに設定する。そしてS916に移行する。また、防振SWがONである場合には処理がS902に進む。
S902にてCPU105は角速度計103の出力を取り込む。S903でCPU105は振れ補正が可能な状態であるか否かを判断する。具体的には、CPU105は、カメラに電源が供給された時点から角速度計103の出力が安定する状態までの期間において、振れ補正が可能な状態でないと判断する。これにより、電源供給直後に角速度計103の出力値が不安定な状態で振れ補正が行われないようにすることができる。振れ補正が可能な状態でない場合にはS915に移行する。一方、CPU105は、角速度計103の出力が安定した状態である場合、振れ補正が可能な状態であると判断し、S904に処理を進める。
S904でCPU105は、被写体の追尾SWがON操作されたか否かを判断する。追尾SWがOFFである場合、S911に移行する。S911でCPU105は、追尾補正量をゼロに設定する。次のS912でCPU105は、動きベクトルをゼロに設定した後、S913に移行する。S904で追尾SWがONである場合には、S905に処理を進める。
S905にてCPU105は、追尾対象の有無について判断する。例えば、自動で検出された顔や人体が主被写体として選択され、または画像の色相や彩度等に基づいて画像内の特徴量から主被写体が検出される。撮像された画像のライブビユー表示を行っている表示デバイス(例えばLCD:液晶表示装置)の画面にタッチパネルを搭載した撮像装置では、ユーザがタッチ操作で指定したポイントから被写体を認識する処理が行われる。S905において、被写体追尾の対象がないと判断された場合、S911に移行し、被写体追尾の対象があると判断された場合、S906に処理を進める。
S906にて被写体検出部110は、被写体画像の中心位置と大きさを検出する。続いて、S907で追尾量算出部111は被写体検出部110から取得した被写***置情報から追尾量を算出する。S908で動きベクトル検出部115は、検出ブロックの位置(図6(B)参照)における動きベクトルをそれぞれ算出する。次にS909で補正ベクトル検出部116は、各動きベクトルの画像内の配置位置と、S907で算出された被写***置および大きさに基づき、図6(B)を用いて説明した方法で動きベクトルごとの重みづけ係数を算出する。
次にS910で補正ベクトル検出部116は、S908で算出された各ベクトルと、S909で算出された各ベクトルの重みづけ係数とから、図5乃至図7で説明した度数分布処理を行い、補正された動きベクトル(補正動きベクトル)を算出する。S913で振れ補正角度算出部108は、S910で算出された補正動きベクトルまたはS912で設定された動きベクトルと、S907またはS911にて算出または設定された追尾量と、S902で取得された角速度出力から振れ補正量を算出する。振れ補正角度の算出処理については、図8を用いて説明した通りである。
S914においてCPU105は、S913で算出された振れ補正量と、S907またはS911にて算出または設定された追尾補正量とを加算して、補正レンズ114のレンズ駆動量を算出する。S916にて駆動制御部113は、レンズ駆動量に基づき補正レンズ114を駆動する。これにより、振れ補正と被写体追尾が行われる。図9のサブルーチンが終了すると、次回のサンプリング周期の到来時点まで待ち状態となる。
本実施形態では、撮像された画像内の被写体画像の位置と大きさに応じて設定されたベクトル検出エリアに基づいて、被写***置における動きベクトルが検出される。被写***置に基づいて、被写体画像を画面内の特定の位置(例えば中央付近や、ユーザが指定した位置)に位置させるための追尾量が算出される。補正された動きベクトルと、角速度出力と、被写***置に基づいて演算された追尾量とから算出される駆動制御量にしたがって補正レンズが駆動され、振れ補正および追尾制御が行われる。これにより、被写体検出の遅れが大きい場合や検出誤差が生じ得る場合、例えば被写体がゆっくり移動し、追尾制御がないとしたときに画面中心部から被写体画像が離れてしまうシーン等において、本実施形態の追尾制御が有効である。本実施形態によれば、画面内の特定の位置、例えば画面中央付近に被写体の画像を保持することが可能である。また、被写体の動きが大きく、急峻な被写体画像の位置変化により、被写体画像が画面中央部から離れたところに位置する可能性が高い場合においても、本実施形態の追尾制御が有効である。このような場合には直ちに画面中央部に被写体画像が位置するように追尾制御が実行されるので、追尾動作の性能を向上させることができる。
本実施形態では、振れ補正手段として補正レンズを用いて、光軸に垂直な面内で移動させる、いわゆる光学式防振制御への適用例を説明した。しかし、本発明は以下の構成を有する被写体追尾装置に適用することもできる。
(1)撮像素子を光軸に垂直な面内で移動させる構成。
(2)撮像素子が出力する各撮影フレームの切り出し位置を変更する画像処理によって電子式制御を行う構成。
(3)撮像素子と撮影レンズ群を含む鏡筒を回転駆動させる機構部を備える構成。
(4)撮像装置とは別に設けた駆動機構部(例えば、撮像装置のパンニング動作やチルティング動作を行う回転雲台等)を組み合わせた構成。
(5)上記(1)から(4)に示す複数の構成の組み合わせ。
なお、このことは後述する実施形態でも同じである。
[第2実施形態]
図10を参照して、本発明の第2実施形態における動きベクトル検出例を説明する。以下では、本実施形態にて第1実施形態との相違点を主として説明し、第1実施形態の場合と同様の構成要素については既に使用した符号を用いることにより、それらの詳細な説明を省略する。
図10(A)は、撮影画面内に動体である被写体1001が存在する場合の画像例を示す。破線の枠範囲1002は、被写体検出部110にて被写***置と被写体の大きさから求められる被写体エリアに相当する画像範囲を表している。図10(B)は、動きベクトル検出部115における検出ブロックの配置例を示しており、検出ブロックが画面全体に均等に配置されている状態を表した模式図である。
図10(B)では、第1実施形態にて説明した図6(B)に比べて検出ブロックの数が少ない。図6(B)のように所定数以上の検出ブロックが画面全体に亘って配置されている場合、回路構造やプログラム規模の増大、処理負荷の増大等が問題となる。多数の検出ブロックを画面全面に亘って配置することは困難であるため、検出ブロックの数を制限することになる。しかし、検出ブロックの数が少ない場合、図10(B)のように検出ブロック同士の間隔が大きくなってしまう。そのため、図6および図7で説明したように被写体エリアに基づいて重みづけ処理を行い、被写体エリアでの動きベクトルを検出しても、実際に枠範囲1002内で検出可能な検出ブロックの数は非常に少なくなる。このことは被写体画像の大きさが小さくなるほど顕著になる。検出ブロックの数が少ない場合、1個の検出ブロックで高い精度が必要となり、仮に間違ったベクトル検出が行われると、正確でない振れ補正制御につながる可能性がある。
そこで本実施形態では、被写体検出部110により検出される被写***置と被写体の大きさに基づいて、ベクトル検出部115における検出ブロックの配置を変更する処理について説明する。検出ブロックの配置変更によって、被写体1001の動き量を含んだ動きベクトルを精度良く検出することができる。図11を参照して具体例を説明する。
図11は、被写***置と被写体の大きさに基づいて、動きベクトルにかかわる検出ブロックの配置を変更する処理例を示す。図11(A)は、ある時刻における、撮影待機中のライブビュー表示の1フレームの画像または動画撮影における1フレームの画像の一例を示す。主被写体1101は動体(自動車)であり、その進行方向を図11の左方向とする。被写体エリア1102を破線の矩形枠で示す。図11(B)は、図11(A)の時刻から時間が経過したときの撮影画像例を示す。被写体エリア1103を破線の矩形枠で示す。図11(C)は、図11(A)と同時刻における動きベクトル検出部115の検出ブロック配置例を示す。図11(D)は、図11(B)と同時刻における動きベクトル検出部115の検出ブロック配置例を示す。
図11(C)に示すように、CPU105は検出された被写***置と大きさに基づいて、被写体エリア1102にできるだけ検出ブロックが収まるように検出ブロック位置を移動させる。これにより、主被写体1101が存在する位置での検出ブロックの数を多くすることができる。検出可能なブロック数が多い分、被写体の移動を含めた動きベクトルを検出することができるので、精度のよい被写体追尾を行える。図11(D)においても、検出された被写***置と大きさに基づいて、被写体エリア1103が設定され、被写体エリア1103にできるだけ検出ブロックが収まるように検出ブロック位置が移動される。
但し、被写体検出精度によって、リアルタイムに動きベクトルの検出ブロックの配置を変更することには課題がある。被写体検出においては、検出処理の負荷等により、実時間に対して遅れを無くして検出することが難しいため、被写体検出結果には検出時間の遅れが必ず生じる。また、被写***置の検出精度や被写体の大きさの検出精度を高くして検出することは難しく、多少の誤差が生じてしまう。動きベクトルに関しては、フレーム間の差分によりベクトル検出が行われるので、コントラストが高いシーンであれば、高精度で遅れの少ない検出を行えるという利点がある。このように被写体検出と動きベクトル検出には時間差があり、被写体の位置や大きさの検出に誤差がある。このため、画面上での主被写体1101の移動速度が大きい場合、被写体の位置に応じて検出ブロックの配置を変更すると、被写体ベクトルの誤検出が発生する可能性がある。この場合、被写体検出の遅れと精度にも関連して、間違った位置に検出ブロックが配置されてしまうことが懸念される。
そこで本実施形態では、被写体検出部110により検出される被写体の画像位置の変化量が小さい(被写体速度が小さい)場合にCPU105により、検出ブロックを配置する範囲を縮小する処理が行われる。この場合、被写体の検出位置と動きベクトルの検出ブロックの位置との差分が小さく、検出精度が高いと判断できるからである。一方、被写体の画像位置の変化量が大きい(被写体速度が大きい)場合にはCPU105により、検出ブロックを配置する範囲を大きく設定する処理が行われる。これにより、誤検出の発生を抑えることができる。
また、被写体の画像位置の変化量が大きい場合には、補正ベクトルの検出精度が低くなっていると判定され、図8の可変ゲイン部808のゲインが小さい値に設定される。その結果、ベクトルフィードバック制御による被写体の誤追尾の発生を抑えることができる。一方、被写体の画像位置の変化量が小さい場合には、補正ベクトルの検出精度が高いと判定され、可変ゲイン部808のゲインが大きい値に設定される。その結果、ベクトルフィードバック制御による被写体追尾性能を向上させることができる。
本実施形態では、撮像された画像内の被写体の画像位置と大きさとから、動きベクトルの検出ブロックの配置が変更される。被写体の画像位置の付近に検出ブロックが集まるように検出ブロックが配置される。被写体の画像位置における動きベクトルが補正ベクトルとして検出し易くなるように設定され、補正ベクトルと角速度出力とに基づいて振れ補正および追尾制御が行われる。これにより、被写体の自動追尾性能が向上する。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサーがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
101 撮像装置
102 光軸
103 角速度計
105 CPU
106 撮像素子
114 振れ補正レンズ

Claims (14)

  1. 被写体を追尾する制御を行う追尾制御装置であって、
    撮像素子で撮像された撮像画像より被写体を検出する被写体検出手段と、
    前記撮像画像のうち所定範囲の画像を第1の画像として取得する取得手段と、
    前記撮像素子により取得された異なるフレームにおける画像信号に基づいて前記被写体の動きベクトルを取得し、取得された前記動きベクトルに基づいて補正量を取得する補正量取得手段と、
    前記被写体検出手段により検出された前記被写体の位置と、撮像範囲内に予め設定された所定の位置との差分量に基づいて追尾制御量を取得する追尾制御量取得手段と、
    前記補正量と前記追尾制御量とを加算して制御量を取得し、前記制御量に基づいて前記第1の画像における前記被写体の位置を制御することで追尾制御を行う制御手段と、を備えることを特徴とする追尾制御装置。
  2. 前記追尾制御量取得手段は、前記差分量の大きさが閾値以下である場合の前記追尾制御量よりも前記差分量の大きさが閾値を超える場合の前記追尾制御量のほうが大きくなるように、前記差分量に基づいて前記追尾制御量を取得することを特徴とする請求項1に記載の追尾制御装置。
  3. 前記追尾制御量取得手段は、入力された前記差分量に基づいてカウント値を出力する出力部を有し、前記カウント値に基づいて前記追尾制御量を取得し、前記出力部は、前記差分量が前記閾値以下であるとき、カウント値を最小値に設定し、前記最小値をカウント値として出力することを特徴とする請求項2に記載の追尾制御装置。
  4. 前記被写体の位置および大きさを検出して前記撮像画像内に被写体領域を設定する設定手段を備え、
    前記補正量取得手段は、前記被写体領域の情報に基づいて前記動きベクトルを取得することを特徴とする請求項1からのいずれか1項に記載の追尾制御装置。
  5. 前記補正量取得手段は、前記撮像画像内に設定される複数の検出領域にてそれぞれ検出される前記動きベクトルに対して重みづけ係数を設定し、前記動きベクトルの値に前記重みづけ係数を乗算して前記被写体の動きベクトルを取得することを特徴とする請求項1からのいずれか1項に記載の追尾制御装置。
  6. 振れ検出信号を出力する振れ検出手段を備え、
    前記補正量取得手段は、前記被写体の動きベクトルと前記振れ検出信号とに基づいて前記補正量を取得することを特徴とする請求項1からのいずれか1項に記載の追尾制御装置。
  7. 前記補正量取得手段は、前記動きベクトルと前記追尾制御量から抽出した高周波成分に基づいて前記補正量を取得することを特徴とする請求項1から6のいずれか1項に記載の追尾制御装置。
  8. 前記補正量取得手段は、前記被写体の動きベクトルに基づく移動量から前記高周波成分に対応する移動量を減算して前記補正量を取得することを特徴とする請求項に記載の追尾制御装置。
  9. 前記補正量取得手段は、前記被写体の動きベクトルに基づく移動量から前記高周波成分に対応する移動量を減算して取得した減算信号にゲイン係数を乗算して前記補正量を取得する請求項に記載の追尾制御装置。
  10. 前記補正量取得手段は、前記補正量または前記被写体の位置もしくは当該被写体の位置の変化量に対応する前記ゲイン係数を設定することを特徴とする請求項に記載の追尾制御装置。
  11. 前記補正量取得手段は、前記追尾制御量に対して微分処理をすることで高周波成分を抽出することを特徴とする請求項7から10のいずれか1項に記載の追尾制御装置。
  12. 前記制御手段は、前記撮像素子に光束を導く撮像光学系を構成する光学素子、前記撮像素子、又は前記撮像画像から前記第1の画像を取得する範囲の少なくともいずれかの位置を制御することで、前記被写体の追尾制御を行うことを特徴とする請求項1から11のいずれか1項に記載の追尾制御装置。
  13. 請求項1から12のいずれか1項に記載の追尾制御装置と、
    前記被写体を撮像する撮像手段を備えることを特徴とする撮像装置。
  14. 被写体を追尾する制御を行う追尾制御装置にて実行される追尾制御方法であって、
    撮像素子で撮像された撮像画像より被写体を検出する被写体検出工程と、
    前記撮像画像のうち所定範囲の画像を第1の画像として取得する画像取得工程と、
    前記撮像素子により取得された異なるフレームにおける画像信号に基づいて前記被写体の動きベクトルを取得し、取得された前記動きベクトルに基づいて補正量を取得する補正量取得工程と、
    前記被写体検出工程により検出された前記被写体の位置と、撮像範囲内に予め設定された所定の位置との差分量に基づいて追尾制御量を取得する追尾制御量取得工程と、
    前記補正量と前記追尾制御量とを加算して制御量を取得し、前記制御量に基づいて前記第1の画像における前記被写体の位置を制御することで追尾制御を行う制御工程と、を有することを特徴とする追尾制御方法。
JP2015217363A 2015-11-05 2015-11-05 追尾制御装置および追尾制御方法、撮像装置 Active JP6727791B2 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2015217363A JP6727791B2 (ja) 2015-11-05 2015-11-05 追尾制御装置および追尾制御方法、撮像装置
US15/298,685 US10277809B2 (en) 2015-11-05 2016-10-20 Imaging device and imaging method
DE102016120954.6A DE102016120954A1 (de) 2015-11-05 2016-11-03 Abbildungseinrichtung und Abbildungsverfahren
CN201610963038.8A CN106954007B (zh) 2015-11-05 2016-11-04 摄像装置和摄像方法
GB1618583.7A GB2545551B (en) 2015-11-05 2016-11-04 Imaging device and imaging method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2015217363A JP6727791B2 (ja) 2015-11-05 2015-11-05 追尾制御装置および追尾制御方法、撮像装置

Publications (3)

Publication Number Publication Date
JP2017092592A JP2017092592A (ja) 2017-05-25
JP2017092592A5 JP2017092592A5 (ja) 2018-12-13
JP6727791B2 true JP6727791B2 (ja) 2020-07-22

Family

ID=58584980

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2015217363A Active JP6727791B2 (ja) 2015-11-05 2015-11-05 追尾制御装置および追尾制御方法、撮像装置

Country Status (5)

Country Link
US (1) US10277809B2 (ja)
JP (1) JP6727791B2 (ja)
CN (1) CN106954007B (ja)
DE (1) DE102016120954A1 (ja)
GB (1) GB2545551B (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2016103746A1 (ja) * 2014-12-25 2016-06-30 オリンパス株式会社 撮像装置
US10171739B2 (en) * 2016-03-02 2019-01-01 Panasonic Intellectual Property Management Co., Ltd. Image pickup device
JP6700872B2 (ja) * 2016-03-07 2020-05-27 キヤノン株式会社 像振れ補正装置及びその制御方法、撮像装置、プログラム、記憶媒体
JP6815747B2 (ja) * 2016-05-02 2021-01-20 キヤノン株式会社 画像処理装置、撮像装置、画像処理装置の制御方法、プログラム、および、記憶媒体
US10863079B2 (en) * 2017-07-13 2020-12-08 Canon Kabushiki Kaisha Control apparatus, image capturing apparatus, and non-transitory computer-readable storage medium
JP2019062340A (ja) * 2017-09-26 2019-04-18 キヤノン株式会社 像振れ補正装置および制御方法
JP6995561B2 (ja) * 2017-10-23 2022-01-14 キヤノン株式会社 像ブレ補正装置およびその制御方法、撮像装置
JP7129201B2 (ja) * 2018-04-18 2022-09-01 キヤノン株式会社 画像処理装置、撮像装置、画像処理方法、及びプログラム
WO2020031458A1 (ja) * 2018-08-06 2020-02-13 ソニー株式会社 撮像制御装置、撮像制御方法、プログラム
JP7197785B2 (ja) * 2019-01-28 2022-12-28 日本電信電話株式会社 映像処理装置、映像処理方法、及び映像処理プログラム
JP7242320B2 (ja) * 2019-01-31 2023-03-20 キヤノン株式会社 撮像装置、制御方法およびプログラム
JP7186854B2 (ja) * 2019-02-28 2022-12-09 富士フイルム株式会社 画像表示装置、画像表示方法、及びプログラム
KR20210092620A (ko) * 2020-01-16 2021-07-26 삼성전자주식회사 카메라 이동 제어 방법 및 장치
US11228702B1 (en) * 2021-04-23 2022-01-18 Gopro, Inc. Stabilization of face in video
TWI776733B (zh) * 2021-11-12 2022-09-01 國立臺灣大學 快速抑制數位影像中的背景高頻雜訊的資料處理方法

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20050128309A1 (en) * 2003-07-25 2005-06-16 Nikon Corporation Shooting lens having vibration reducing function and camera system for same
JP4201809B2 (ja) 2006-11-13 2008-12-24 三洋電機株式会社 手ぶれ補正装置及び方法並びに撮像装置
DE202008018444U1 (de) * 2007-01-09 2014-03-06 Huawei Technologies Co., Ltd. Basisstationsvorrichtung und Mobilstationsvorrichtung
KR101023946B1 (ko) * 2007-11-02 2011-03-28 주식회사 코아로직 객체 추적을 이용한 디지털 영상의 손떨림 보정 장치 및방법
JP4958756B2 (ja) * 2007-12-13 2012-06-20 キヤノン株式会社 撮像装置及びその制御方法及びプログラム
JP2010093362A (ja) 2008-10-03 2010-04-22 Nikon Corp 撮像装置および光学装置
JP2010114752A (ja) * 2008-11-07 2010-05-20 Canon Inc 撮像装置及び撮像方法及びプログラム
JP2011155582A (ja) * 2010-01-28 2011-08-11 Sanyo Electric Co Ltd 撮像装置
GB2487200A (en) * 2011-01-12 2012-07-18 Canon Kk Video encoding and decoding with improved error resilience
JP5911201B2 (ja) * 2011-04-20 2016-04-27 キヤノン株式会社 カメラ装置の自動追尾制御装置及びそれを有する自動追尾カメラシステム
JP2013247508A (ja) * 2012-05-25 2013-12-09 Canon Inc 自動追尾カメラの制御装置及び該制御装置を有する自動追尾カメラ
JP5762587B2 (ja) * 2013-04-15 2015-08-12 キヤノン株式会社 画像処理装置および画像処理方法
JP6257207B2 (ja) 2013-08-01 2018-01-10 キヤノン株式会社 像振れ補正装置およびその制御方法、レンズ鏡筒、並びに撮像装置
JP6150655B2 (ja) 2013-08-01 2017-06-21 キヤノン株式会社 像振れ補正装置およびその制御方法、レンズ鏡筒、光学機器、並びに撮像装置
JP2015034879A (ja) 2013-08-08 2015-02-19 キヤノン株式会社 像振れ補正装置およびその制御方法、レンズ鏡筒、光学機器、並びに撮像装置
JP6335058B2 (ja) * 2013-09-24 2018-05-30 キヤノン株式会社 撮像装置及び撮像方法
JP6056774B2 (ja) * 2014-01-17 2017-01-11 ソニー株式会社 撮像装置と撮像方法およびプログラム。
JP6296824B2 (ja) * 2014-02-26 2018-03-20 キヤノン株式会社 撮像装置及びその制御方法
JP6395401B2 (ja) * 2014-03-11 2018-09-26 キヤノン株式会社 像振れ補正装置およびその制御方法、光学機器、撮像装置
JP2015217363A (ja) 2014-05-20 2015-12-07 カルソニックカンセイ株式会社 金属製触媒担体の製造方法および金属製触媒担体の製造装置

Also Published As

Publication number Publication date
JP2017092592A (ja) 2017-05-25
US10277809B2 (en) 2019-04-30
GB2545551B (en) 2018-02-21
CN106954007A (zh) 2017-07-14
GB2545551A (en) 2017-06-21
CN106954007B (zh) 2020-09-01
DE102016120954A1 (de) 2017-05-11
US20170134649A1 (en) 2017-05-11

Similar Documents

Publication Publication Date Title
JP6727791B2 (ja) 追尾制御装置および追尾制御方法、撮像装置
KR101624450B1 (ko) 화상 처리 장치, 화상 처리 방법, 및 기록 매체
CN104065868B (zh) 摄像设备及其控制方法
US10659691B2 (en) Control device and imaging apparatus
US9531938B2 (en) Image-capturing apparatus
US9641758B2 (en) Image blur correction apparatus, lens apparatus, image pickup apparatus, method of controlling image blur correction apparatus, and non-transitory computer-readable storage medium
KR20180101466A (ko) 심도 정보 취득 방법 및 장치, 그리고 이미지 수집 디바이스
JP6995561B2 (ja) 像ブレ補正装置およびその制御方法、撮像装置
JP2019029962A (ja) 撮像装置およびその制御方法
JP6961500B2 (ja) 像振れ補正装置およびその制御方法、撮像装置
JP7009107B2 (ja) 撮像装置およびその制御方法
JP6643095B2 (ja) 像ブレ補正装置及びその制御方法、プログラム、記憶媒体
JP6504899B2 (ja) 制御装置、光学機器、撮像装置および制御方法
US9420161B2 (en) Image-capturing apparatus
US10917556B2 (en) Imaging apparatus
JP6204805B2 (ja) 撮像装置及びその制御方法、プログラム、記憶媒体
JP6486453B2 (ja) 画像処理装置、画像処理方法、プログラム
JP6613149B2 (ja) 像ブレ補正装置及びその制御方法、撮像装置、プログラム、記憶媒体
JP6584259B2 (ja) 像ブレ補正装置、撮像装置および制御方法
JP2012198807A (ja) 画像処理装置、画像処理方法、画像処理プログラム及び撮像装置
JP6702736B2 (ja) 撮像制御装置および撮像装置の制御方法、プログラム
JP7321691B2 (ja) 撮像装置、撮像装置の制御方法、および、プログラム
JP7123544B2 (ja) 撮像装置、撮像装置の方法、および、プログラム
JP2009038572A (ja) 振れ補正装置、撮影装置、振れ検出装置、撮影方法、振れ補正装置の製造方法、振れ検出装置の製造方法
JP2010187207A (ja) 画像合成装置、画像合成プログラム、および画像合成方法

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20181102

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20181102

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190709

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191105

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200602

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200701

R151 Written notification of patent or utility model registration

Ref document number: 6727791

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151