JP4458173B2 - 画像記録方法、画像記録装置、およびプログラム - Google Patents

画像記録方法、画像記録装置、およびプログラム Download PDF

Info

Publication number
JP4458173B2
JP4458173B2 JP2008072302A JP2008072302A JP4458173B2 JP 4458173 B2 JP4458173 B2 JP 4458173B2 JP 2008072302 A JP2008072302 A JP 2008072302A JP 2008072302 A JP2008072302 A JP 2008072302A JP 4458173 B2 JP4458173 B2 JP 4458173B2
Authority
JP
Japan
Prior art keywords
image
procedure
search points
image recording
coordinates
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2008072302A
Other languages
English (en)
Other versions
JP2009231967A (ja
Inventor
浩一 中込
豊 小野寺
紳一 松井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP2008072302A priority Critical patent/JP4458173B2/ja
Priority to DE602009001125T priority patent/DE602009001125D1/de
Priority to EP09003238A priority patent/EP2104333B1/en
Priority to KR1020090021390A priority patent/KR100991030B1/ko
Priority to TW098108696A priority patent/TWI386869B/zh
Priority to US12/406,529 priority patent/US8013913B2/en
Priority to CN2009101277063A priority patent/CN101540863B/zh
Publication of JP2009231967A publication Critical patent/JP2009231967A/ja
Priority to HK10102813.9A priority patent/HK1134730A1/xx
Application granted granted Critical
Publication of JP4458173B2 publication Critical patent/JP4458173B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/147Scene change detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/277Analysis of motion involving stochastic approaches, e.g. using Kalman filters
    • GPHYSICS
    • G11INFORMATION STORAGE
    • G11BINFORMATION STORAGE BASED ON RELATIVE MOVEMENT BETWEEN RECORD CARRIER AND TRANSDUCER
    • G11B20/00Signal processing not specific to the method of recording or reproducing; Circuits therefor
    • G11B20/10Digital recording or reproducing
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • H04N23/635Region indicators; Field of view indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/673Focus control based on electronic image sensor signals based on contrast or high frequency components of image signals, e.g. hill climbing method
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/67Focus control based on electronic image sensor signals
    • H04N23/675Focus control based on electronic image sensor signals comprising setting of focusing regions
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/14Picture signal circuitry for video frequency region
    • H04N5/144Movement detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/76Television signal recording
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30196Human being; Person

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Studio Devices (AREA)
  • Television Signal Processing For Recording (AREA)
  • Image Analysis (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Description

本発明は、画像記録方法、画像記録装置、およびプログラムに関する。詳しくは、連続する画像を順番に取得して、当該画像の中の1つを記録する画像記録方法、画像記録装置、およびプログラムに関する。
従来より、デジタルカメラなどの撮像装置としては、画像中の撮影対象の動作を契機として、自動的に画像を記録する手法が知られている。
例えば、ブロックマッチング法を用いて、自動的に画像を記録する手法が知られている(特許文献1参照)。すなわち、所定の画像において撮影対象を含むブロックを記憶し、この所定の画像に連続する画像において、撮影対象を含むブロックに類似するブロックを探索する。このようにブロックの移動を検出することにより、撮影対象を追跡して、自動的に画像を記録する。
特開平9−70012号公報
しかしながら、動物や人間などの生物を撮影する場合、撮影対象は、手足を動かしたり、体の姿勢を変えたりする。よって、上述のような単純な追跡手法では、類似するブロックを検出できず、撮影対象を追跡できない場合があった。その結果、自動記録処理の安定性が低くなる、という問題があった。
本発明は、撮影対象の移動や変形の瞬間を捉えて自動的に記録する自動記録処理を安定して動作させることができる画像記録方法、画像記録装置、およびプログラムを提供することを目的とする。
請求項1に記載の発明は、連続する画像を順番に取得して、当該画像の中の1つを記録する画像記録方法であって、前記画像中に特定領域および当該特定領域を囲む追跡範囲を設定する手順と、当該画像中の前記特定領域の特徴量を記憶する手順と、当該画像の前記特定領域に、所定数の探索点を生成する手順と、を備える初期設定手順と、乱数を用いて、前記複数の探索点の座標を更新する手順と、前記特定領域の特徴量と前記画像における前記更新後の探索点の特徴量とを比較して、類似度が高いほど重みを大きくして、重み付けを行う手順と、前記探索点を重み付けに応じて選別する手順と、前記選別した探索点の座標の分散を算出する手順と、前記選別した探索点の座標の重みつき平均を算出する手順と、を備えるフィルタ手順と、前記選別した探索点の座標の分散、前記選別した探索点の座標の重みつき平均、および前記追跡範囲に基づいて、当該画像を記録するか否かを判定し、記録すると判定した場合には、当該画像を記録する画像記録判定手順と、を備えることを特徴とする。
請求項2に記載の発明は、請求項1に記載の画像記録方法において、前記探索点を重み付けに応じて選別する手順は、前記探索点の重みの総和を算出し、この総和に等しい数だけ識別子を生成し、当該識別子のそれぞれを、重みに応じて前記探索点に対応付けておき、当該識別子の中からランダムに前記所定数の回数だけ前記識別子を選択し、選択された識別子に対応する探索点を記憶する手順であることを特徴とする。
請求項3に記載の発明は、請求項1に記載の画像記録方法において、前記探索点を重み付けに応じて選別する手順は、前記重み付けが所定の閾値以下である探索点を除去する手順であることを特徴とする。
請求項4に記載の発明は、請求項1から3のいずれかに記載の画像記録方法において、最初の画像に対して前記初期設定手順および前記フィルタ手順を実行し、その後、2番目の画像からk(kは自然数)番目の画像まで、前記フィルタ手順を繰り返す学習手順と、(k+1)番目以降の画像について、前記フィルタ手順および前記画像記録判定手順を繰り返す画像記録手順と、を備えることを特徴とする。
請求項5に記載の発明は、請求項4に記載の画像記録方法において、前記学習手順を実行した後、前記画像記録手順を実行するまでの間に、前記フィルタ手順を繰り返して、前記特定領域および前記追跡範囲を追従して移動させることを特徴とする。
請求項6に記載の発明は、請求項4または5に記載の画像記録方法において、前記学習手順の前記選別した探索点の座標の重みつき平均を算出する手順では、前記選別した探索点の座標の重みつき平均が前記追跡範囲の外に位置する場合、エラーを出力することを特徴とする。
請求項7に記載の発明は、請求項4から6のいずれかに記載の画像記録方法において、前記学習手順の前記選別した探索点の座標の分散を算出する手順では、前記分散が所定の閾値以上である場合、エラーを出力することを特徴とする。
請求項8に記載の発明は、請求項4から7のいずれかに記載の画像記録方法において、前記学習手順の前記選別した探索点の座標の分散を算出する手順では、前記分散の前回の分散からの変化量が大きい場合、エラーを出力することを特徴とする。
請求項9に記載の発明は、請求項4から8のいずれかに記載の画像記録方法において、前記画像記録手順の前記選別した探索点の座標の重みつき平均を算出する手順では、前記選別した探索点の座標の重みつき平均が前記追跡範囲の外に位置する場合、前記画像を記録することを特徴とする。
請求項10に記載の発明は、請求項4から9のいずれかに記載の画像記録方法において、前記画像記録手順の前記選別した探索点の座標の分散を算出する手順では、前記分散が所定の閾値以上である場合、前記画像を記録することを特徴とする。
請求項11に記載の発明は、請求項4から10のいずれかに記載の画像記録方法において、前記画像記録手順の前記選別した探索点の座標の分散を算出する手順では、前記分散の前回の分散からの変化量が大きい場合、前記画像を記録することを特徴とする。
請求項12に記載の発明は、請求項1から11のいずれかに記載の発明をコンピュータに実行させるためのプログラムである。
請求項13に記載の発明は、連続する画像を順番に取得して、当該画像の中の1つを記録する画像記録装置であって、前記画像中に特定領域および当該特定領域を囲む追跡範囲を設定し、当該画像中の前記特定領域の特徴量を記憶し、当該画像の前記特定領域に、所定数の探索点を生成する初期設定手段と、乱数を用いて、前記複数の探索点の座標を更新し、前記特定領域の特徴量と前記画像における前記更新後の探索点の特徴量とを比較して、類似度が高いほど重みを大きくして、重み付けを行い、前記探索点を重み付けに応じて選別し、前記選別した探索点の座標の分散を算出し、前記選別した探索点の座標の重みつき平均を算出するフィルタ手段と、前記選別した探索点の座標の分散、前記選別した探索点の座標の重みつき平均、および前記追跡範囲に基づいて、当該画像を記録するか否かを判定し、記録すると判定した場合には、当該画像を記録する画像記録判定手段と、を備えることを特徴とする画像記録装置。
本発明によれば、自動記録処理を安定して動作させることができる。
以下、本発明の一実施形態を図面に基づいて説明する。
[外観図および回路構成]
図1(A)は、本実施の形態に係る画像記録装置としての撮像装置1の外観を示す正面図であり、図1(B)は背面図である。
この撮像装置1には、前面に撮像レンズ2が設けられており、上面部にはシャッタボタン3が設けられている。このシャッタボタン3は、半押し操作と全押し操作とが可能な所謂ハーフシャッタ機能を備えるものである。
また、背面には、ファンクションキー4、カーソルキー5、および、表示部6が設けられている。カーソルキー5は、図中aの方向に回転可能なロータリースイッチとしての役割を果たす。
図2は、撮像装置1の概略構成を示すブロック図である。この撮像装置1は、バスライン18を介して各部に接続された制御部17を備えている。制御部17は、撮像装置1の各部を制御するワンチップマイコンである。
同図において、撮像レンズ2は、詳細には光学系部材を実装するレンズユニットである。また、駆動制御部7は、撮影者のズーム操作または撮影者のシャッタボタン3の半押し操作の検出による制御部17からのAF(自動合焦)処理に基づく制御信号に基づいて、撮像レンズ2の位置を移動させる回路部である。
撮像部8は、CMOS等のイメージセンサからなり、上述の撮像レンズ2の光軸上に配置されている。
ユニット回路9は、撮像部8から出力される被写体の光学像に応じたアナログの撮像信号を、デジタル信号に変換する回路である。このユニット回路9は、入力した撮像信号を保持するCDSと、AE(自動露出調整)処理等に伴って撮像信号を増幅するゲイン調整アンプ(AGC)、増幅された撮像信号をデジタルの撮像信号に変換するA/D変換器(ADC)等から構成されている。
撮像部8の出力信号はユニット回路9を経て各々デジタル信号として画像処理部10に送られて、各種画像処理が施されるとともに、プレビューエンジン12にて縮小加工されて、表示部6に供給される。
表示部6は、16:9のアスペクト比を備えるLCDからなり、ドライバを内蔵しており、このデジタル信号とドライバを駆動する駆動制御信号とが入力されると、デジタル信号に基づく画像をスルー画像として下位レイヤーに表示する。
また、表示部6は、制御部17から出力されるメッセージやアイコンなどを上位レイヤーに表示する。
また、画像記録モードにおいて、画像処理部10で処理された信号は、符号化/復号化処理部11で圧縮符号化され、JPEG形式等の所定のファイル形式でファイル化されて画像記録部14に記録される。一方、画像再生モードにおいては画像記録部14から読み出された画像ファイルを符号化/復号化処理部11で復号化し表示部6に表示する。
プレビューエンジン12は、上記スルー画像の生成の他、画像記録モードにおいて画像記録部14に記録される直前の画像を表示部6に表示させる際に必要な制御を行う。
さらに、バスライン18には、プログラムメモリ15や連続撮影された画像を一時的に記憶するRAM16が接続されている。プログラムメモリ15には、後述するフローチャートに示す処理を実行するためのプログラムを記憶する。
制御部17は、プログラムメモリ15からプログラムを読み出して、デジタルカメラの各部を制御して、撮像信号に含まれる輝度情報に基づいたAE制御処理、コントラスト検出方式によるAF制御処理、後述の自動記録処理などを行う。
学習処理部13は、自動記録処理を実行する際に、後述の学習処理を行う回路部である。
[自動記録処理]
次に、撮像装置1における自動記録処理について、図3のフローチャートを参照しながら説明する。
まず、ユーザは、ファンクションキー4およびカーソルキー5を操作して、画像記録モードとし、さらに、自動記録機能を選択する。すると、制御部17は、この操作を検出し、プログラムメモリ15から自動記録処理に係るプログラムを読み出して自動記録処理を実行する。
ステップS1では、表示部6の下位レイヤーにスルー画像を表示するとともに、表示部6の上位レイヤーに、自動記録処理を伴う画像記録モードである旨のアイコン、および、撮影対象を追跡する範囲(以降、追跡範囲と呼ぶ)を表示する。
具体的には、図4に示すように、表示部6の表示領域61の中心には、撮影対象を決定するフォーカスエリア63が表示され、フォーカスエリア63の中心には、追跡対象領域Cが設けられている。また、表示部6の表示領域61には、追跡対象領域Cを囲んで追跡範囲62が表示される。
ステップS2では、ユーザは、撮影対象がフォーカスエリア63内に位置するように、撮像装置1の向きを変更し、さらに、ファンクションキー4およびカーソルキー5を操作して、追跡範囲62の横幅、縦幅を変更して、追跡範囲62の範囲を設定する。
具体的には、ここでは、図5に示すように、ユーザは、鳥を撮影対象として撮像装置1の向きを調整し、表示領域61に表示させる。そして、撮影対象の鳥の特徴部分であるくちばし部分を追跡対象領域C内に位置させる。
次に、鳥の挙動を観測しながら、カーソルキー5を右方向若しくは左方向に回転させて追跡範囲62の範囲を調整し、ファンクションキー4を操作して、追跡範囲62の範囲を設定する。
ステップS3では、ユーザは、シャッタボタン3を半押し操作する。すると、制御部17は、この操作を検出し、フォーカスエリアについてAF(自動合焦)処理、AE(自動露出調整)処理、および、AWB(オートホワイトバランス)処理を行う。
ステップS4では、スルー表示される画像の中から5枚の画像を取得して、撮影対象を追跡する学習処理を行う。この学習処理については、後に詳述する。
ステップS5では、学習処理の結果、撮影対象を追跡可能であるか否かを判定する。この判定がNOの場合には、撮影対象を追跡不可能である旨を表示部6の表示領域61に表示し(ステップS6)、ステップS3に戻る。一方、この判定がYESの場合には、撮影対象を追跡可能である旨を表示部6の表示領域61に表示し(ステップS7)、ステップS8に移る。
ステップS8では、シャッタボタン3が全押し操作されたか否かを判定する。この判定がNOの場合には、ステップS9に移り、YESの場合には、表示領域61内の追跡範囲62の位置をロックして(ステップS10)、ステップS11に移る。
ステップS9では、ユーザは、カメラの向きを操作して、フレーミングを行う。すると、制御部17は、このフレーミングに伴って追従処理を行う。すなわち、表示部6の表示領域61内では、フレーミングにより撮影対象が移動するから、追跡対象領域Cおよび追跡範囲62を撮影対象に追従して移動させて、ステップS8に戻る。この追従処理については、後に詳述する。
具体的には、図6に示すように、撮影対象である鳥の全体が表示領域61に入るように、ユーザがフレーミングを行うと、追跡対象領域Cおよび追跡範囲62は、鳥のくちばしを追跡して表示領域61内を移動する。
ステップS11では、撮影対象が移動または変化したことを検出して、画像を記録する画像記録処理を行い、終了する。この画像記録処理については、後に詳述する。
具体的には、図7(A)および図7(B)に示すように、撮影対象である鳥が飛び立とうとしたり水に頭を入れたりすると、この鳥の動作を検出し、その瞬間の画像を記録する。
[学習処理]
以下、ステップS4の学習処理について、図8のフローチャートを参照しながら説明する。
上述のように、取得した5枚のスルー画像を評価対象画像として、これら評価対象画像に対して順番に学習処理を行う。
ステップS21では、評価対象画像に所定数の探索点Pを生成する。
具体的には、探索点Pの個数を256個とする。すると、探索点Pの座標は、P[num](P[num],P[num])(0<=num<=255)と表される。
本実施形態では、探索点Pの個数を256個としたが、これに限らず、撮像装置1に搭載されるCPUの処理能力に基づいて、適宜決定されてよい。
ステップS22では、各探索点P[num]を中心とする所定範囲を探索対象領域T[num]として設定する。具体的には、この探索対象領域T[num]は、以下の式(1)で表される。
Figure 0004458173
具体的には、size=2とし、図9に示すように、探索対象領域Tを、各探索点を中心とする縦5画素、横5画素の範囲とする。
なお、本実施形態では、理解の容易のためsize=2としたが、これに限らない。すなわち、学習精度を維持しつつ実時間計測を行うため、4<size<10が望ましい。
ステップS23では、全ての探索点P[num]の初期座標をフォーカスエリア63中心に設定する。
すなわち、フォーカスエリア63の中心の座標を(F,F)とすると、探索点P[num]の初期座標は、以下の式(2)のように表される。
Figure 0004458173
ステップS24では、図10に示すように、探索対象領域T[num]の初期位置を追跡対象領域Cとする。1枚目の評価対象画像のYUVの各色空間において、追跡対象領域Cを構成する画素Qの画素値を算出し、基準画素値B1、B2、B3として記憶する。
評価対象画像のY色空間をSr1、U色空間をSr2、V色空間をSr3とすると、基準画素値B1、B2、B3は、以下の式(3)〜(5)のように表される。
Figure 0004458173
本実施形態では、評価対象画像の色空間としてYUV色空間を用いたが、これに限らず、RGB色空間、HSV色空間、HLS色空間、OHHTA色空間などを用いてもよく、カメラのスルー画像出力の色空間に応じて適宜選択されてよい。
ステップS25では、正規分布に従う乱数を用いて、全ての探索点P[num]の座標を更新する。すると、図11に示すように、表示領域61内に探索点Pが分布する。図11には、理解を容易にするため、256個の探索点Pのうち20個のみを示す。
すなわち、平均μ、分散σ2の正規分布に従う乱数をN(μ,σ2)として、探索点P[num]の座標は、以下の式(6)のように更新される。
Figure 0004458173
ステップS26では、各探索点の重みを算出する。
具体的には、評価対象画像のYUVの各色空間において、探索対象領域T[num]を構成する画素Qの画素値を算出する。そして、これら画素値と、記憶した基準画素値B1〜B3との差分を算出し、この差分が所定範囲内であるものの画素数を計数し、この個数を当該探索点の重みとする。
よって、重みが大きいということは、評価対象画像の探索対象領域T[num]と、1枚目の評価対象画像の追跡対象領域Cと、が類似していることを意味する。
具体的には、上下の閾値をTH1,TH2として、以下の式(7)〜(9)を満たすものの画素Qの個数をカウントし、重みPw[num]とする。
本実施形態では、sizeを2とし、各探索対象領域T[num]を構成する画素Qは25個としたので、重みPw[num]の最小値はゼロであり、最大値は25となる。
Figure 0004458173
ステップS27では、探索点Pのリサンプリングを行う。
すなわち、探索点Pの重みPwの総和を所定値Nとする。次に、N個の識別子を生成し、これらN個の識別子のそれぞれを、重みPwに応じて探索点Pに対応付ける。つまり、探索点Pの重みPwが大きいほど、この探索点Pに対応する識別子の個数が多くなる。
次に、N個の識別子の中の1つをランダムに選択する処理を、探索点Pの個数に等しい回数だけ繰り返し、この選択された識別子に対応する探索点Pを、新たな256個の探索点P[num]として記憶する。ここで、特定の探索点Pが複数回選択される場合があるが、この場合、特定の探索点Pを複数回記憶する。
具体的には、図12に示すように、重みPwの総和であるNを1024とし、識別子として0〜1023までの整数を生成する。そして、これら1024個の整数のそれぞれを、重みPwに応じて探索点Pに対応付ける。
例えば、探索点P[23]は、重みPwが22であるため、0−21の整数に対応する。探索点P[248]は、重みPwが22であるため、22−43の整数に対応する。
次に、ゼロから1023の範囲内で乱数を256回発生させて、発生した乱数に等しい数値を1024個の整数の中から抽出し、この抽出した数値に対応する探索点Pを新たな探索点P[num]として記憶する。
つまり、以上のステップS27の処理により、P[num]の中から特定のものが選択されて、0〜255の番号が付されて、新たなP[num]として記憶される。
具体的には、表示領域61内の探索点Pの分布は、図11に示す状態から図13に示す状態となる。例えば、P[5]、P[6]は、乱数により選択されなかったため、消去される。一方、P[0]は、新たなP[92]、P[119]として記憶され、P[1]は、新たなP[208]として記憶され、P[2]は、新たなP[103]として記憶される。また、P[3]は、新たなP[139]として記憶され、P[4]は、新たなP[54]として記憶される。
ステップS28では、新たな探索点P[num]の座標の分散Vを算出し、ステップS29では、この分散Vが所定の閾値未満であるか否かを判定する。
この判定がNOの場合には、撮影対象を追跡できないため、ステップS30に移り、学習エラーを出力する。一方、この判定がYESの場合には、ステップS31に移る。
ステップS31では、分散Vの前回からの変化量が大きいか否かを判定する。
この判定がNOの場合には、ステップS32に移り、撮影対象を追跡できないため、学習エラーを出力する。一方、この判定がYESの場合には、ステップS33に移る。
ステップS33では、全探索点P[num]の座標の重みつき平均を撮影対象の現在の座標として算出し、ステップS34では、この座標が評価対象画像の追跡範囲内に位置しているか否かを判定する。この判定がNOの場合には、撮影対象を追跡できないため、ステップS35に移り、学習エラーを出力する。一方、この判定がYESの場合には、ステップS36に移る。
ステップS36では、現在の評価対象画像が5枚目であるか否かを判定する。この判定がYESの場合には、終了し、この判定がNOの場合には、評価対象画像を次の画像に更新して(ステップS37)、ステップS25に戻ってループ処理を行う。
図14は、鳥が表示された時系列の画像に上述の学習処理を実行して得られる探索点Pの分布の変化を示す図である。図15は、建物の壁が表示された時系列の画像に上述の学習処理を実行して得られる探索点Pの分布の変化を示す図である。
鳥が表示された画像では、図14(a)〜(e)に示すように、鳥のくちばしには特徴があるため、探索点Pがそれほど分散せず、学習エラーとならない。一方、建物の壁が表示された画像では、図15(a)〜(e)に示すように、壁面のテクスチャは均一であるため、探索点Pが分散し、学習エラーとなる。
[画像記録処理]
以下、画像記録処理について、図16のフローチャートを参照しながら説明する。
ステップS40〜ステップS43までは、学習処理のステップS25〜ステップS28と同様の処理である。
ステップS44では、分散Vが閾値以上であるか否かを判定する。この判定がYESの場合、撮影対象が追跡できないほど素早く移動した、あるいは、撮影対象を見失ったと考えられるので、ステップS45に移り、画像を記録する。一方、この判定がNOの場合、ステップS46に移る。
ステップS46では、分散Vの前回からの変化量が大きいか否かを判定する。分散Vの変動が大きい場合、例えば鳥や昆虫が羽ばたきだしたなど、撮影対象の形状が大きく変化したと考えられる。
例えば、以下の式(10)、(11)の両方を満たす場合である。
Figure 0004458173
ステップS46の判定がYESの場合、ステップS45に移り、画像を記録する。一方、この判定がNOの場合、ステップS47に移る。
ステップS47は、学習処理のステップS33と同様の処理である。
ステップS48では、撮影対象の現在の座標Pnが、追跡範囲62の外にあるか否かを判定する。この判定がYESの場合、撮影対象が移動したと考えられるので、ステップS45に移り、画像を記録する。一方、この判定がNOの場合、ステップS49に移る。
ステップS49は、学習処理のステップS37と同様の処理である。このステップS49の後、ステップS40に戻る。
[追従処理]
追従処理では、撮影対象の現在の座標Pnが中心となるように、表示領域61内で追跡範囲62を移動させる。
なお、この追従処理では、学習処理のステップS25からステップS37までのループ処理を継続して行う。ただし、一旦、撮影対象を追跡可能であると判定したので、ステップS29、ステップS31、およびステップS34のエラー判定を行わないこととする。
以上のように、分散Vの閾値は、学習処理のステップS29および画像記録処理のステップS44の判定で用いられる。
また、分散Vの変化量は、学習処理のステップS31および画像記録処理のステップS46の判定で用いられる。
また、追跡範囲の位置や大きさは、学習処理のステップS34および画像記録処理のステップS48の判定で用いられる。
よって、ファンクションキー4およびカーソルキー5を操作して、分散Vの閾値、分散Vの変化量、および追跡範囲の位置や大きさを適宜設定することで、自動記録の感度を任意のレベルに設定できる。
ただし、撮影対象の移動量や撮影対象の形状の変化量が小さくても自動記録するように設定すると、学習処理で学習エラーが出力されやすくなるが、自動記録の感度を高感度とすることができる。
一方、撮影対象の移動量や撮影対象の形状の変化量が大きくなければ自動記録しないように設定すると、自動記録の感度は低感度となるが、学習処理で学習エラーを出力され難くできる。
本実施形態によれば、以下のような効果がある。
(1)学習処理において撮影対象を追跡できるか否か、つまり、自動記録可能か否かを判定し、表示部6に表示したので、ユーザがパラメータを再設定することにより、確実に自動記録できる。よって、自動記録処理を安定して動作させることができる。
(2)シャッタボタン3を半押し操作することで、追跡対象領域Cおよび追跡範囲62が撮影対象に追従して移動するので、ユーザは、フレーミングにより所望の構図で自動記録できる。
(3)シャッタボタン3を全押し操作することで、表示領域61内の追跡範囲62の位置をロックし、撮影対象が移動したり変形したりすると、自動記録を行う。よって、ユーザに緊張を強いることなく、撮影対象が移動した瞬間や変形した瞬間を確実に捉えて、自動的に記録できる。
例えば、動物や昆虫が飛び立つ瞬間、人間がサッカーボールを蹴り出す瞬間、あるいは、ゴルフクラブとゴルフボールとのインパクトの瞬間等を、自動的に記録できる。
(4)ファンクションキー4およびカーソルキー5により、追跡範囲の位置や大きさ、分散Vの閾値、および分散Vの変化量を設定できるようにしたので、ユーザは、自動記録の感度を任意のレベルに設定できる。
なお、本発明は前記実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。
例えば、本実施形態では、フォーカスエリア63の中心に1つの追跡対象領域Cを生成して、この1つの追跡対象領域Cに対して学習処理を行ったが、これに限らない。すなわち、図17に示すように、フォーカスエリア63の中心部分に9つの追跡対象領域Cを生成し、これら9つの追跡対象領域Cに対して学習処理を行い、これら9つの追跡対象領域Cのうち分散Vが閾値未満かつ最小となったものに対して、画像記録処理を行ってもよい。
また、本実施形態では探索点Pのリサンプリングを、重み付けに応じて確率的に選択する方法を採用したが、これに限らず、所定の閾値TH3を用いて、重みPwがTH3以下である探索点Pを除去する方法を採用してもよい。あるいは、これらの確率的リサンプリングと閾値リサンプリングを併用してもよい。
本発明の一実施形態に係る画像記録システムの外観を示す図である。 前記実施形態に係る画像記録システムの概略構成を示すブロック図である。 前記実施形態に係る画像記録システムの自動記録処理のフローチャートである。 前記実施形態に係る画像記録システムの表示領域を示す図である。 前記実施形態に係る表示領域に撮影対象の一部を表示した状態を示す図である。 前記実施形態に係る表示領域に撮影対象の全体を表示した状態を示す図である。 前記実施形態に係る表示領域に表示した撮影対象が動作した状態を示す図である。 前記実施形態に係る画像記録システムの学習処理のフローチャートである。 前記実施形態に係る学習処理の探索領域を説明するための図である。 前記実施形態に係る学習処理の基準画素値を算出する手順を説明するための図である。 前記実施形態に係る学習処理の探索点の分布を示す図である。 前記実施形態に係る学習処理のリサンプリングおよびサンプリングの手順を説明するための図である。 前記実施形態に係る学習処理の探索点にリサンプリングおよびサンプリングを実行した結果を示す図である。 前記実施形態に係る学習処理を、鳥が表示された時系列の画像に実行して得られる探索点の分布の変化を示す図である。 前記実施形態に係る学習処理を、建物の壁が表示された時系列の画像に実行して得られる探索点の分布の変化を示す図である。 前記実施形態に係る画像記録システムの画像記録処理のフローチャートである。 前記実施形態に係る画像記録システムの変形例を説明するための図である。
符号の説明
1 撮像装置(画像記録装置)
62 追跡範囲
P 探索点
C 追跡対象領域(特定領域)
Pw 探索点の重み
V 分散

Claims (13)

  1. 連続する画像を順番に取得して、当該画像の中の1つを記録する画像記録方法であって、
    前記画像中に特定領域および当該特定領域を囲む追跡範囲を設定する手順と、
    当該画像中の前記特定領域の特徴量を記憶する手順と、
    当該画像の前記特定領域に、所定数の探索点を生成する手順と、を備える初期設定手順と、
    乱数を用いて、前記複数の探索点の座標を更新する手順と、
    前記特定領域の特徴量と前記画像における前記更新後の探索点の特徴量とを比較して、類似度が高いほど重みを大きくして、重み付けを行う手順と、
    前記探索点を重み付けに応じて選別する手順と、
    前記選別した探索点の座標の分散を算出する手順と、
    前記選別した探索点の座標の重みつき平均を算出する手順と、を備えるフィルタ手順と、
    前記選別した探索点の座標の分散、前記選別した探索点の座標の重みつき平均、および前記追跡範囲に基づいて、当該画像を記録するか否かを判定し、記録すると判定した場合には、当該画像を記録する画像記録判定手順と、を備えることを特徴とする画像記録方法。
  2. 前記探索点を重み付けに応じて選別する手順は、前記探索点の重みの総和を算出し、この総和に等しい数だけ識別子を生成し、当該識別子のそれぞれを、重みに応じて前記探索点に対応付けておき、当該識別子の中からランダムに前記所定数の回数だけ前記識別子を選択し、選択された識別子に対応する探索点を記憶する手順であることを特徴とする請求項1に記載の画像記録方法。
  3. 前記探索点を重み付けに応じて選別する手順は、前記重み付けが所定の閾値以下である探索点を除去する手順であることを特徴とする請求項1に記載の画像記録方法。
  4. 最初の画像に対して前記初期設定手順および前記フィルタ手順を実行し、その後、2番目の画像からk(kは自然数)番目の画像まで、前記フィルタ手順を繰り返す学習手順と、
    (k+1)番目以降の画像について、前記フィルタ手順および前記画像記録判定手順を繰り返す画像記録手順と、を備えることを特徴とする請求項1から3のいずれかに記載の画像記録方法。
  5. 前記学習手順を実行した後、前記画像記録手順を実行するまでの間に、前記フィルタ手順を繰り返して、前記特定領域および前記追跡範囲を追従して移動させることを特徴とする請求項4に記載の画像記録方法。
  6. 前記学習手順の前記選別した探索点の座標の重みつき平均を算出する手順では、前記選別した探索点の座標の重みつき平均が前記追跡範囲の外に位置する場合、エラーを出力することを特徴とする請求項4または5に記載の画像記録方法。
  7. 前記学習手順の前記選別した探索点の座標の分散を算出する手順では、前記分散が所定の閾値以上である場合、エラーを出力することを特徴とする請求項4から6のいずれかに記載の画像記録方法。
  8. 前記学習手順の前記選別した探索点の座標の分散を算出する手順では、前記分散の前回の分散からの変化量が大きい場合、エラーを出力することを特徴とする請求項4から7のいずれかに記載の画像記録方法。
  9. 前記画像記録手順の前記選別した探索点の座標の重みつき平均を算出する手順では、前記選別した探索点の座標の重みつき平均が前記追跡範囲の外に位置する場合、前記画像を記録することを特徴とする請求項4から8のいずれかに記載の画像記録方法。
  10. 前記画像記録手順の前記選別した探索点の座標の分散を算出する手順では、前記分散が所定の閾値以上である場合、前記画像を記録することを特徴とする請求項4から9のいずれかに記載の画像記録方法。
  11. 前記画像記録手順の前記選別した探索点の座標の分散を算出する手順では、前記分散の前回の分散からの変化量が大きい場合、前記画像を記録することを特徴とする請求項4から10のいずれかに記載の画像記録方法。
  12. 請求項1から11のいずれかに記載の画像記録方法をコンピュータに実行させるためのプログラム。
  13. 連続する画像を順番に取得して、当該画像の中の1つを記録する画像記録装置であって、
    前記画像中に特定領域および当該特定領域を囲む追跡範囲を設定し、当該画像中の前記特定領域の特徴量を記憶し、当該画像の前記特定領域に、所定数の探索点を生成する初期設定手段と、
    乱数を用いて、前記複数の探索点の座標を更新し、前記特定領域の特徴量と前記画像における前記更新後の探索点の特徴量とを比較して、類似度が高いほど重みを大きくして、重み付けを行い、前記探索点を重み付けに応じて選別し、前記選別した探索点の座標の分散を算出し、前記選別した探索点の座標の重みつき平均を算出するフィルタ手段と、
    前記選別した探索点の座標の分散、前記選別した探索点の座標の重みつき平均、および前記追跡範囲に基づいて、当該画像を記録するか否かを判定し、記録すると判定した場合には、当該画像を記録する画像記録判定手段と、を備えることを特徴とする画像記録装置。
JP2008072302A 2008-03-19 2008-03-19 画像記録方法、画像記録装置、およびプログラム Active JP4458173B2 (ja)

Priority Applications (8)

Application Number Priority Date Filing Date Title
JP2008072302A JP4458173B2 (ja) 2008-03-19 2008-03-19 画像記録方法、画像記録装置、およびプログラム
DE602009001125T DE602009001125D1 (de) 2008-03-19 2009-03-05 Bildaufzeichnungsverfahren, Bildaufzeichnungsvorrichtung und Bildaufzeichnungsprogramm
EP09003238A EP2104333B1 (en) 2008-03-19 2009-03-05 Image recording method, image recording device, and image recording program
KR1020090021390A KR100991030B1 (ko) 2008-03-19 2009-03-13 화상기록방법, 화상기록장치, 및 기억매체
TW098108696A TWI386869B (zh) 2008-03-19 2009-03-18 影像記錄方法、影像記錄裝置及記錄媒體
US12/406,529 US8013913B2 (en) 2008-03-19 2009-03-18 Image recording method, image recording device, and storage medium
CN2009101277063A CN101540863B (zh) 2008-03-19 2009-03-19 图像记录方法以及图像记录装置
HK10102813.9A HK1134730A1 (en) 2008-03-19 2010-03-17 Image recording method, image recording device, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2008072302A JP4458173B2 (ja) 2008-03-19 2008-03-19 画像記録方法、画像記録装置、およびプログラム

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2010017516A Division JP2010141911A (ja) 2010-01-29 2010-01-29 画像記録方法、画像記録装置、およびプログラム

Publications (2)

Publication Number Publication Date
JP2009231967A JP2009231967A (ja) 2009-10-08
JP4458173B2 true JP4458173B2 (ja) 2010-04-28

Family

ID=40673429

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2008072302A Active JP4458173B2 (ja) 2008-03-19 2008-03-19 画像記録方法、画像記録装置、およびプログラム

Country Status (8)

Country Link
US (1) US8013913B2 (ja)
EP (1) EP2104333B1 (ja)
JP (1) JP4458173B2 (ja)
KR (1) KR100991030B1 (ja)
CN (1) CN101540863B (ja)
DE (1) DE602009001125D1 (ja)
HK (1) HK1134730A1 (ja)
TW (1) TWI386869B (ja)

Families Citing this family (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8081214B2 (en) 2004-10-12 2011-12-20 Enforcement Video, Llc Method of and system for mobile surveillance and event recording
US8599368B1 (en) 2008-01-29 2013-12-03 Enforcement Video, Llc Laser-based speed determination device for use in a moving vehicle
JP4492697B2 (ja) * 2007-12-28 2010-06-30 カシオ計算機株式会社 撮像装置、及び、プログラム
CA2714362A1 (en) 2008-01-29 2009-08-06 Enforcement Video, Llc Omnidirectional camera for use in police car event recording
US20090213218A1 (en) 2008-02-15 2009-08-27 Andrew Cilia System and method for multi-resolution storage of images
JP4780205B2 (ja) * 2009-02-23 2011-09-28 カシオ計算機株式会社 撮像装置、画角調節方法、及び、プログラム
TWI424247B (zh) * 2010-02-11 2014-01-21 Altek Corp 對焦方法及攝像裝置
CN103577409B (zh) * 2012-07-19 2016-12-21 阿里巴巴集团控股有限公司 一种图像搜索中建立图像索引的方法和装置
US9075847B2 (en) * 2012-11-28 2015-07-07 Sap Se Methods, apparatus and system for identifying a document
JP5929774B2 (ja) * 2013-02-08 2016-06-08 カシオ計算機株式会社 画像取得方法、装置、およびプログラム
US9967456B2 (en) 2014-07-18 2018-05-08 Xiaomi Inc. Photographing method and device
CN104113691B (zh) * 2014-07-18 2015-10-14 小米科技有限责任公司 拍摄方法及装置
JP6385210B2 (ja) * 2014-09-05 2018-09-05 キヤノン株式会社 画像診断支援装置および制御方法、プログラム
JP6655878B2 (ja) * 2015-03-02 2020-03-04 キヤノン株式会社 画像認識方法及び装置、プログラム
US10341605B1 (en) 2016-04-07 2019-07-02 WatchGuard, Inc. Systems and methods for multiple-resolution storage of media streams
CN113092496B (zh) * 2021-04-06 2022-10-04 深圳市卓兴半导体科技有限公司 一种检测晶圆分布范围的方法、***及存储介质

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0970012A (ja) 1995-06-23 1997-03-11 Matsushita Electric Ind Co Ltd 電子スチルカメラと画像印刷装置
US7177447B2 (en) * 1999-02-23 2007-02-13 Lockheed Martin Corporation Real-time multi-stage infrared image-based tracking system
JP3337030B2 (ja) * 2001-04-02 2002-10-21 ソニー株式会社 電子スチル撮像装置
JP2003006654A (ja) 2001-06-20 2003-01-10 Nippon Telegr & Teleph Corp <Ntt> 動画像における移動体の特徴量抽出方法と自動追跡方法及びそれらの装置、並びに、それらの方法の実行プログラムとこの実行プログラムを記録した記録媒体
US20070263923A1 (en) * 2004-04-27 2007-11-15 Gienko Gennady A Method for Stereoscopic Measuring Image Points and Device for Carrying Out Said Method
US7894637B2 (en) * 2004-05-21 2011-02-22 Asahi Kasei Corporation Device, program, and method for classifying behavior content of an object person
TW200644612A (en) * 2005-06-15 2006-12-16 Inventec Appliances Corp Method for digital camera to take picture automatically
JP5087264B2 (ja) 2005-12-08 2012-12-05 株式会社トプコン 画像処理装置及びその方法
TW200731781A (en) * 2006-02-03 2007-08-16 Benq Corp Methods and systems for automatic shuttering
JP4093273B2 (ja) * 2006-03-13 2008-06-04 オムロン株式会社 特徴点検出装置、特徴点検出方法および特徴点検出プログラム
US7796163B2 (en) * 2006-07-25 2010-09-14 Fujifilm Corporation System for and method of taking image based on objective body in a taken image

Also Published As

Publication number Publication date
US20090237529A1 (en) 2009-09-24
TW200947357A (en) 2009-11-16
HK1134730A1 (en) 2010-05-07
TWI386869B (zh) 2013-02-21
EP2104333B1 (en) 2011-04-27
US8013913B2 (en) 2011-09-06
KR100991030B1 (ko) 2010-10-29
KR20090100259A (ko) 2009-09-23
JP2009231967A (ja) 2009-10-08
CN101540863A (zh) 2009-09-23
DE602009001125D1 (de) 2011-06-09
EP2104333A1 (en) 2009-09-23
CN101540863B (zh) 2011-06-01

Similar Documents

Publication Publication Date Title
JP4458173B2 (ja) 画像記録方法、画像記録装置、およびプログラム
JP5394296B2 (ja) 撮像装置及び画像処理方法
JP5507014B2 (ja) 動体検出装置及び方法
JP2007072606A (ja) 画像処理装置及び方法
JP2009188490A (ja) 画像処理装置およびプログラム
US8767096B2 (en) Image processing method and apparatus
JP2010199694A (ja) 撮像装置、画角調節方法、及び、プログラム
JP2005215373A (ja) 撮像装置
JP2010154306A (ja) 撮像制御装置、撮像制御プログラム及び撮像制御方法
JP4807582B2 (ja) 画像処理装置、撮像装置及びそのプログラム
JP5118590B2 (ja) 被写体追尾方法及び撮像装置
JP2010141911A (ja) 画像記録方法、画像記録装置、およびプログラム
JP2014116878A (ja) 撮像装置および撮像方法
JP2011151482A (ja) 撮像装置および撮像装置の制御方法
JP7342883B2 (ja) 撮像制御装置、撮像装置、撮像制御方法
JP7286294B2 (ja) 撮像装置、撮像装置の制御方法、および、プログラム
JP2010093451A (ja) 撮像装置および撮像装置用プログラム
JP2011018989A (ja) 撮像装置、画像選択方法、及び、プログラム
JP2021105850A (ja) 画像処理装置及び方法、及び撮像装置
JP2008048152A (ja) 動画処理装置、動画撮影装置および動画撮影プログラム
WO2019082832A1 (ja) 撮像装置、撮像装置の制御方法、および、プログラム
JP7361546B2 (ja) 画像処理装置、画像処理方法、プログラム、記憶媒体
JP5948960B2 (ja) カメラ、画像処理装置及びプログラム
JP5616745B2 (ja) 追尾装置および追尾方法
JP5683898B2 (ja) 追尾装置および追尾方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20090930

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20100119

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20100201

R150 Certificate of patent or registration of utility model

Ref document number: 4458173

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130219

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140219

Year of fee payment: 4