JP4909315B2 - 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 - Google Patents
映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 Download PDFInfo
- Publication number
- JP4909315B2 JP4909315B2 JP2008148219A JP2008148219A JP4909315B2 JP 4909315 B2 JP4909315 B2 JP 4909315B2 JP 2008148219 A JP2008148219 A JP 2008148219A JP 2008148219 A JP2008148219 A JP 2008148219A JP 4909315 B2 JP4909315 B2 JP 4909315B2
- Authority
- JP
- Japan
- Prior art keywords
- subject
- video
- time
- amount
- movement
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Television Signal Processing For Recording (AREA)
Description
映像入力手段が、映像を入力し、映像フレーム記憶手段に格納する映像入力ステップ(ステップ1)と、
被写体検出手段が、前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って(ステップ2)被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出ステップ(ステップ3)と、
サムネイル画像抽出手段が、前記時系列被写体リスト記憶手段に格納された前記被写体の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と被写***置との距離の逆数と、被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出ステップ(ステップ4)と、を行う。
映像入力手段が、映像を入力し、映像フレーム記憶手段に格納する映像入力ステップと、
被写体検出手段が、前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出ステップと、
画像単位対応手段が、画像単位毎のフレーム間の動きベクトルを算出し、背景の情報を前記時系列被写体リスト記憶手段に格納する画像単位対応ステップと、
サムネイル画像抽出手段が、前記時系列被写体リスト記憶手段に格納された情報を利用して、背景の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と被写***置との距離の逆数と、被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出ステップと、を行う。
時系列被写体リスト記憶手段に格納された情報を利用して、被写体と背景の両者の動き量を算出し、被写体の動き量及び前記背景の動き量の一方の極大・極小値の時点を取り出し、取り出した時点の周辺において、他方の動き量による条件を加えて決まる時点を抽出時点とする。
時系列被写体リスト記憶手段に格納された情報を利用して、被写体と背景の両者の動き量を算出し、背景の動き量の2つの連続する極小値間における被写体の動き量の平均値を算出し、2つの連続する極小値間にある背景の動き量の極大値の前後近傍に被写体の動き量の極小値が存在し、かつ、その極小値が被写体の動き量の平均値より小さい場合に、被写体の動き量の極小値の時点を抽出時点とする。
映像を入力し、映像フレーム記憶手段に格納する映像入力手段110と、
映像フレーム記憶手段102から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出手段140と、
時系列被写体リスト記憶手段104に格納された被写体の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と被写***置との距離の逆数と、被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出手段150と、を有する。
映像を入力し、映像フレーム記憶手段に格納する映像入力手段と、
映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出手段と、
画像単位毎のフレーム間の動きベクトルを算出し、背景の情報を時系列被写体リスト記憶手段に格納する画像単位対応手段と、
時系列被写体リスト記憶手段に格納された情報を利用して、背景の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と被写***置との距離の逆数と、被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出手段と、を有する。
時系列被写体リスト記憶手段に格納された情報を利用して、被写体と背景の両者の動き量を算出し、被写体の動き量及び背景の動き量の一方の極大・極小値の時点を取り出し、取り出した時点の周辺において、他方の動き量による条件を加えて決まる時点を抽出時点とする。
時系列被写体リスト記憶手段に格納された情報を利用して、被写体と背景の両者の動き量を算出し、背景の動き量の2つの連続する極小値間における被写体の動き量の平均値を算出し、2つの連続する極小値間にある背景の動き量の極大値の前後近傍に被写体の動き量の極小値が存在し、かつ、その極小値が被写体の動き量の平均値より小さい場合に、被写体の動き量の極小値の時点を抽出時点とする。
(1)被写体検出部140においてフレーム間の対応付けが可能であり、被写体の動きのみを利用してサムネイルを抽出する処理;
(2)被写体及び背景の動きを利用してサムネイルを抽出する処理;
に分けて説明する。
映像入力部110は、映像の次の処理フレームをフレームバッファ102等へ読み出し、各装置(カット点検出部120、画像単位対応部130、被写体検出部140、サムネイル画像抽出部150)から利用可能にする手順である。処理を初めて開始した際には、カット点検出部120及び被写体検出手順における処理に必要なフレーム数を、例えば、フレームバッファ102に読み出す。例えば特徴点追跡を利用した被写体検出であれば2枚である。
カット点検出部120は、読み出した処理対象フレーム間にカット点があるかどうか判定し、カット点がある場合は処理を飛ばすために映像入力更新手順(ステップ101)に戻る。カット点がない場合は被写体検出手順(ステップ103)に移行する。
被写体検出部140は、被写体の検出有無を、例えば、特徴点を画像単位として動きによって判定し、時系列被写体リスト記憶部104に格納し、ステップ102に戻る。
サムネイル画像抽出部150は、ステップ103で格納された時系列被写体リスト記憶部104の情報を基にサムネイルとして抽出するフレーム画像を選択し、選択された画像の映像時刻等をサムネイル時刻リスト記憶部105に記憶する。具体的な手順は図6に後述する。
次に、上記のステップ104における被写体動きを利用したサムネイルの抽出方法について説明する。
サムネイル画像抽出部150は、時系列被写体リスト記憶部104の情報を利用して被写体及び背景の動き量を算出する。例えば、前述の非特許文献2の手法では、画像単位座標(集合)は特徴点集合で記憶されている。動きベクトルを対応する特徴点の各フレーム間のベクトル差分として、例えば、全被写体の動きベクトル絶対値の中央値を被写体の動き量として算出する。また、背景の動き量をサムネイル抽出条件に利用する場合は、被写体同様に背景の特徴点に関して動きベクトル絶対値の中央値を背景の動き量として算出する。この算出をショット内の全てのフレーム間で行う。その後、必要に応じてその動き量グラフに対して平滑化処理を行うなどの前処理を行う。こうして被写体及び背景の動き量のグラフを作成する。スノーボードを行っている映像に対して作成したグラフの例を図7に示す。なお、被写体検出部140に別の手法を用いた場合、例えば、矩形を画像単位とするオブジェクト認識手法の場合は、被写体領域の矩形重心座標同士のベクトル差を上記被写体動き量とすることで同様の処理を行うことができる。また、被写体・背景動き量を中央値として算出しているが、他の計算方法を用いてもよい。
被写体・背景動き量算出手順(ステップ1041)で得られた各動き量のグラフの極大・極小値及び被写体の位置や大きさを考慮してサムネイルを検出する。以下にその検出例を示す。始めに被写体・背景動き量算出手順にて算出された動き量それぞれに対して極大・極小を取る映像時刻を選択する。更に、その各映像時刻前後のある範囲内で被写体の位置、大きさに対する条件を最も満たす映像時刻をそれぞれ選択する。被写体の位置・大きさの評価基準は、例えば、画面中央の垂線と被写体重心座標との距離の逆数(距離が0の場合はある定数)と、また被写体が画面に占める割合とを掛け合わせたものを評価基準(大きな方がより適している)として利用する。そして評価値として被写体の位置及び大きさの評価基準の重み付き和を上記評価値として選択基準に利用することで被写体の位置・大きさを満たす時刻を算出することができる。
サムネイル抽出条件検出手順(ステップ1042)で検出されたサムネイル時刻をサムネイル時刻リスト記憶部104に格納する。または、映像入力部110により該当時刻の画像を取得し、ファイル、メモリ等に記憶してもよい。
例として、ドラマ映像に対して、被写体・背景動き算出手順(ステップ1041)で作成した被写体・背景のグラフを図8に示す。
本発明は、上記の背景動きに加えて、被写体動きも考慮することで、被写体に注目して追跡撮影したフォローショットを検出可能である。図9にグラフの例を示す。
出力部160では、サムネイル時刻リスト記憶部105の映像フレーム番号に基づいてフレームバッファ102からサムネイルを抽出し、そのサムネイルを、例えば、画像を順次表示していくスライドショーのような提示方法でユーザに提示するのが効果的である。
102 映像フレーム記憶手段、フレームバッファ
103 被写体映像区間リスト記憶部
104 時系列被写体リスト記憶部、時系列被写体リスト記憶部
105 サムネイル時刻記憶手段、サムネイル時刻リスト記憶部
110 映像入力手段、映像入力部
120 カット点検出部
130 画像単位対応部
140 被写体検出手段、被写体検出部
150 サムネイル画像抽出手段、サムネイル画像抽出部
160 出力部
Claims (10)
- 映像の中から映像内容を表す代表画像を抽出する映像処理方法であって、
映像入力手段が、映像を入力し、映像フレーム記憶手段に格納する映像入力ステップと、
被写体検出手段が、前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出ステップと、
サムネイル画像抽出手段が、前記時系列被写体リスト記憶手段に格納された前記被写体の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と前記被写***置との距離の逆数と、前記被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出ステップと、
を行うことを特徴とする映像処理方法。 - 映像の中から映像内容を表す代表画像を抽出する映像処理方法であって、
映像入力手段が、映像を入力し、映像フレーム記憶手段に格納する映像入力ステップと、
被写体検出手段が、前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出ステップと、
画像単位対応手段が、画像単位毎のフレーム間の動きベクトルを算出し、背景の情報を前記時系列被写体リスト記憶手段に格納する画像単位対応ステップと、
サムネイル画像抽出手段が、前記時系列被写体リスト記憶手段に格納された情報を利用して、背景の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と前記被写***置との距離の逆数と、前記被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出ステップと、
を行うことを特徴とする映像処理方法。 - 前記サムネイル画像抽出ステップにおいて、
前記時系列被写体リスト記憶手段に格納された情報を利用して、前記被写体と背景の両者の動き量を算出し、前記被写体の動き量及び前記背景の動き量の一方の極大・極小値の時点を取り出し、取り出した時点の周辺において、他方の動き量による条件を加えて決まる時点を前記抽出時点とする
請求項2記載の映像処理方法。 - 前記サムネイル画像抽出ステップにおいて、
前記時系列被写体リスト記憶手段に格納された情報を利用して、前記被写体と背景の両者の動き量を算出し、背景の動き量の2つの連続する極小値間における前記被写体の動き量の平均値を算出し、前記2つの連続する極小値間にある背景の動き量の極大値の前後近傍に前記被写体の動き量の極小値が存在し、かつ、その極小値が前記被写体の動き量の平均値より小さい場合に、前記被写体の動き量の極小値の時点を前記抽出時点とする
請求項2記載の映像処理方法。 - 映像の中から映像内容を表す代表画像を抽出する映像処理装置であって、
映像を入力し、映像フレーム記憶手段に格納する映像入力手段と、
前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出手段と、
前記時系列被写体リスト記憶手段に格納された前記被写体の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と前記被写***置との距離の逆数と、前記被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出手段と、
を有することを特徴とする映像処理装置。 - 映像の中から映像内容を表す代表画像を抽出する映像処理装置であって、
映像を入力し、映像フレーム記憶手段に格納する映像入力手段と、
前記映像フレーム記憶手段から映像フレームを取得して、該映像フレーム内の被写体を検出し、フレーム対応付けを行って被写体の位置とともに時系列被写体リスト記憶手段に格納する被写体検出手段と、
画像単位毎のフレーム間の動きベクトルを算出し、背景の情報を前記時系列被写体リスト記憶手段に格納する画像単位対応手段と、
前記時系列被写体リスト記憶手段に格納された情報を利用して、背景の動き量を算出し、算出した動き量の極大・極小値の時点を抽出時点とし、当該抽出時点の周辺の中で、画面中央と前記被写***置との距離の逆数と、前記被写体面積の画面に占める割合との重み付き和を評価値とし、当該評価値に基づいて、サムネイル画像を抽出するサムネイル画像抽出手段と、
を有することを特徴とする映像処理装置。 - 前記サムネイル画像抽出手段は、
前記時系列被写体リスト記憶手段に格納された情報を利用して、前記被写体と背景の両者の動き量を算出し、前記被写体の動き量及び前記背景の動き量の一方の極大・極小値の時点を取り出し、取り出した時点の周辺において、他方の動き量による条件を加えて決まる時点を前記抽出時点とする
請求項6記載の映像処理装置。 - 前記サムネイル画像抽出手段は、
前記時系列被写体リスト記憶手段に格納された情報を利用して、前記被写体と背景の両者の動き量を算出し、背景の動き量の2つの連続する極小値間における前記被写体の動き量の平均値を算出し、前記2つの連続する極小値間にある背景の動き量の極大値の前後近傍に前記被写体の動き量の極小値が存在し、かつ、その極小値が前記被写体の動き量の平均値より小さい場合に、前記被写体の動き量の極小値の時点を前記抽出時点とする
請求項6記載の映像処理装置。 - 請求項5乃至8のいずれか1項に記載の映像処理装置を構成する各手段としてコンピュータを機能させるための映像処理プログラム
- 請求項9記載の映像処理プログラムを格納したことを特徴とするコンピュータ読取可能な記録媒体。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008148219A JP4909315B2 (ja) | 2008-06-05 | 2008-06-05 | 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008148219A JP4909315B2 (ja) | 2008-06-05 | 2008-06-05 | 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009296344A JP2009296344A (ja) | 2009-12-17 |
JP4909315B2 true JP4909315B2 (ja) | 2012-04-04 |
Family
ID=41544102
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008148219A Expired - Fee Related JP4909315B2 (ja) | 2008-06-05 | 2008-06-05 | 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4909315B2 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2014170980A (ja) * | 2011-05-12 | 2014-09-18 | Nec Corp | 情報処理装置、情報処理方法および情報処理プログラム |
KR101340308B1 (ko) * | 2012-06-08 | 2013-12-11 | 주식회사 마이씨에프 | 영상 처리 장치 및 방법 |
WO2020235060A1 (ja) * | 2019-05-22 | 2020-11-26 | 三菱電機ビルテクノサービス株式会社 | 映像処理装置および映像処理方法 |
Family Cites Families (5)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3131560B2 (ja) * | 1996-02-26 | 2001-02-05 | 沖電気工業株式会社 | 動画像処理システムにおける動画像情報検出装置 |
JP2003348528A (ja) * | 2002-05-22 | 2003-12-05 | Nippon Telegr & Teleph Corp <Ntt> | 代表画像選択方法,代表画像選択装置,代表画像選択プログラムおよび代表画像選択プログラムの記録媒体 |
JP4168940B2 (ja) * | 2004-01-26 | 2008-10-22 | 三菱電機株式会社 | 映像表示システム |
JP4259421B2 (ja) * | 2004-08-02 | 2009-04-30 | 日本電信電話株式会社 | 映像の代表画像選出方法及びプログラム |
JP4744345B2 (ja) * | 2006-04-18 | 2011-08-10 | シャープ株式会社 | サムネイル作成方法および動画データ再生装置 |
-
2008
- 2008-06-05 JP JP2008148219A patent/JP4909315B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2009296344A (ja) | 2009-12-17 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP6561830B2 (ja) | 情報処理システム、情報処理方法及びプログラム | |
JP5247356B2 (ja) | 情報処理装置およびその制御方法 | |
JP5227911B2 (ja) | 監視映像検索装置及び監視システム | |
JP4775306B2 (ja) | 画像処理装置、撮像装置、および画像表示制御方法、並びにコンピュータ・プログラム | |
JP5106271B2 (ja) | 画像処理装置、画像処理方法、及びコンピュータプログラム | |
JP4852652B2 (ja) | 電子ズーム装置、電子ズーム方法、及びプログラム | |
JP7131599B2 (ja) | 情報処理システム、情報処理方法及びプログラム | |
CN107430780B (zh) | 用于基于视频内容特性的输出创建的方法 | |
JPWO2006025272A1 (ja) | 映像分類装置、映像分類プログラム、映像検索装置、および映像検索プログラム | |
JP2009539273A (ja) | ビデオクリップからのキーフレーム候補の抽出 | |
US10146992B2 (en) | Image processing apparatus, image processing method, and storage medium that recognize an image based on a designated object type | |
US11189035B2 (en) | Retrieval device, retrieval method, and computer program product | |
JP2010140425A (ja) | 画像処理システム | |
JP2012105205A (ja) | キーフレーム抽出装置、キーフレーム抽出プログラム、キーフレーム抽出方法、撮像装置、およびサーバ装置 | |
JP4909315B2 (ja) | 映像処理装置及び方法及びプログラム及びコンピュータ読取可能な記録媒体 | |
JP2004348303A (ja) | 物体検出装置及びプログラム | |
JP3469122B2 (ja) | 編集用映像区間分類方法及び装置、並びにこの方法を記録した記録媒体 | |
JP2011211757A (ja) | 電子ズーム装置、電子ズーム方法、及びプログラム | |
JP6737247B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6768222B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
US20210407264A1 (en) | Image processing apparatus, image processing method, and storage medium | |
JP6841181B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6756311B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP6768223B2 (ja) | 画像処理装置、画像処理方法及び画像処理プログラム | |
JP4268606B2 (ja) | 表情画像記録検索装置 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20100817 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20110922 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20110927 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111121 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120110 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120113 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150120 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4909315 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S531 | Written request for registration of change of domicile |
Free format text: JAPANESE INTERMEDIATE CODE: R313531 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |