JP3508013B2 - カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体 - Google Patents

カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体

Info

Publication number
JP3508013B2
JP3508013B2 JP14511499A JP14511499A JP3508013B2 JP 3508013 B2 JP3508013 B2 JP 3508013B2 JP 14511499 A JP14511499 A JP 14511499A JP 14511499 A JP14511499 A JP 14511499A JP 3508013 B2 JP3508013 B2 JP 3508013B2
Authority
JP
Japan
Prior art keywords
information
camerawork
time interval
input
video format
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP14511499A
Other languages
English (en)
Other versions
JP2000341613A (ja
Inventor
孝幸 大竹
良治 片岡
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP14511499A priority Critical patent/JP3508013B2/ja
Publication of JP2000341613A publication Critical patent/JP2000341613A/ja
Application granted granted Critical
Publication of JP3508013B2 publication Critical patent/JP3508013B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Compression Or Coding Systems Of Tv Signals (AREA)

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、多数のMPEG動
画情報を記憶媒体に蓄積し、そのMPEG動画情報を検
索し、そのMPEG動画情報に動画特徴情報を付与して
利用者に提供するMPEGビデオ検索装置およびMPE
Gビデオ検索プログラムを記録した記憶媒体に関する。
【0002】
【従来の技術】入力した動画情報からオプティカルフロ
ー(動画フレームを均等ブロックに細分化し、各領域で
動きベクトルを算出してフレーム上に動きベクトル分布
を示した情報)を求め、その動きベクトル分布の傾向に
よりカメラワークの判定を行うカメラワーク判定方法
が、例えば映像情報メディア学会技術報告VOL. 22, No.
1に掲載の論文「A Study on a Motion Recongnition fr
om Moving Images with Camera Works」に示されてい
る。
【0003】本論文に示されている技術は、入力した動
画情報からオプティカルフローを求めた後、図9で示す
通り、フレームを数個の領域に分割し、動きベクトルの
水平成分と垂直成分について、各々の領域で平均値を算
出し、71および72に領域を分割した状態で全ての領
域の動きベクトル水平成分平均が一定でかつ垂直成分平
均が0に近い場合、カメラワークは左右どちらかにパン
していると判定し、71および72に領域を分割した状
態で全ての領域の動きベクトル水平成分平均が0に近
く、かつ垂直成分平均が一定である場合、カメラワーク
は上下どちらかにチルトしていると判定し、73に領域
を分割した状態で731と732の領域の動きベクトル
垂直成分平均が正の値であり、かつ733と734の領
域の垂直成分平均が負の値であり、かつ731と733
の領域の水平垂直成分平均が負の値であり、かつ732
と734の領域の水平垂直成分平均が正の値である場
合、カメラワークはズームインしていると判定し、73
に領域を分割した状態で731と732の領域の動きベ
クトル垂直成分平均が負の値であり、かつ733と73
4の領域の垂直成分平均が正の値であり、かつ731と
733の領域の水平垂直成分平均が正の値であり、かつ
732と734の領域の水平垂直成分平均が負の値であ
る場合、カメラワークはズームアウトしていると判定す
る。
【0004】
【発明が解決しようとする課題】上述した従来のカメラ
ワーク判定方法では、全画面領域のオプティカルフロー
を求めてカメラワークの判定を行うため、長い処理時間
が必要となる。例えば、動画を撮影した後に即時的にそ
の動画情報の特徴情報としてカメラワーク判定結果情報
を導出したり、記憶媒体に蓄積されている多数の動画情
報を検索するために事前にカメラワーク情報による索引
を作製する機能を実現する方法としては適さない、とい
う問題がある。
【0005】また、動く物体を撮影しながら同時に撮影
カメラを操作する場合、動きベクトルを生じさせる要因
がカメラワークのみではなくなるため、カメラワークを
判定する精度が劣化する。例えば、風景のように撮影対
象物に動きが少ないものを撮影しながらカメラを操作し
て動画情報を作成したものに適応することはできるが、
撮影対象物が急激に動いている状況を撮影しながらカメ
ラを操作して作成した動画情報に適応することができな
い、という問題がある。
【0006】本発明の目的は、より短い処理で、より精
度の高いカメラワーク判定処理を行うことができるMP
EGビデオ検索装置およびMPEGビデオ検索プログラ
ムを記録した記録媒体を提供することにある。
【0007】
【課題を解決するための手段】本発明は、MPEGビデ
オ形式の動画情報のフォーマット解析により動きベクト
ルを抽出し、フレーム上の全領域ではなく、カメラワー
ク判定に有効な一部の領域のみの動きベクトルを用いて
カメラワークの判定処理を行うことにより、カメラワー
ク判定処理時間の短縮および判定精度の向上を図ったも
のである。
【0008】ただし、MPEGビデオ形式の動画情報に
は、Intra マクロブロック(MPEGビデオ形式で動き
ベクトルが符号化されないフレーム内符号化マクロブロ
ックの領域)や動きベクトルが符号化されたとしても実
際の撮影対象物の動きと異なった情報として符号化が行
われている領域が存在し、その領域をカメラワークの判
定処理に活用すると判定結果の精度が劣化する。例え
ば、MPEGビデオ形式の動画を入力することにより、
オプティカルフロー抽出処理の負荷を軽減するという利
点はあるが、判定結果の精度が劣化することにより、信
頼できる判定結果が得られない、という問題が新たに発
生する。
【0009】このようなカメラワーク判定結果の精度を
劣化させるマクロブロックが存在している可能性が高い
のは、前フレームで撮影されていなかった実世界の空間
が現フレームに新たに出現する可能性の高いフレーム周
辺部のマクロブロックであり、この領域の動きベクトル
を用いないでカメラワーク判定を行うことで、上述のM
PEGビデオ形式を動画情報として活用する際の問題を
解決する。
【0010】図8にカメラワーク判定有効領域を示す。
【0011】カメラワーク判定に有効な領域は、61に
示す横M個、縦N個のマクロブロックから成り立つ矩形
領域であるフレーム全領域の中で、62に示すカメラワ
ーク以外の撮影対象物の動きによる動きベクトルが発生
する可能性が高い中心部の、カメラワーク判定の妨げと
なる領域1を除き、63に示すMPEGビデオ形式でIn
tra マクロブロックとして符号化されたり動きベクトル
が符号化されたとしても実際の撮影対象物の動きと異な
った情報として符号化が行われている可能性が高いフレ
ーム周辺部の、カメラワーク判定の妨げとなる領域2を
除く、641,642,643,644に示す部分から
成り立つ画面の領域である。
【0012】フレーム中の左端から水平方向m番目、上
端から垂直方向n番目の位置に存在するマクロブロック
位置を(m,n)と表現してカメラワーク判定有効領域
を説明すると、641に示すカメラワーク判定有効領域
は、(A,B)、(M−A,B)、(A,B+L)、
(M−A,B+L)を頂点とした矩形領域、642に示
すカメラワーク判定有効領域は、(A,N−B−L)、
(M−A,N−B−L)、(A,N−B)、(M−A,
N−B)を頂点とした矩形領域、643に示すカメラワ
ーク判定有効領域は、(A,B)、(A+L,B)、
(A,N−B)、(A+L,N−B)を頂点とした矩形
領域、644に示すカメラワーク判定有効領域は、(N
−A−L,B)、(M−A,B)、(M−A−L,N−
B)、(M−A,N−B)を頂点とした矩形領域であ
り、A+L<M/2、B+L<N/2、L>0、A>
0、B>0の各条件を満足する前提で、カメラワーク判
定に適するように経験的にL,A,Bの値を決定する。
【0013】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して説明する。
【0014】図1は本発明の一実施形態の、カメラワー
クによるMPEG動画検索装置の構成図である。
【0015】このMPEG動画像検索システムはMPE
G動画情報管理装置11と利用者端末装置12で構成さ
れている。
【0016】カメラワーク情報を具えたMPEG動画情
報管理装置11は、MPEGビデオ形式情報、時間間隔
情報群を入力し、MPEGビデオ形式情報からフレーム
間符号化ピクチャの動きベクトルを抽出し、入力した時
間間隔情報に示される開始時間から終了時間内に含まれ
るフレームに対し、同一フレーム二次元位置のマクロブ
ロック毎に動きベクトルの平均を計算し、全時間間隔情
報に対して本計算を繰り返し、時間間隔情報およびその
時間間隔で算出した平均の動きベクトル情報群の組みを
時間間隔情報個数出力する動きベクトル抽出部111
と、フレームの動きベクトル情報群を入力し、予め指定
したカメラワーク判定有効領域内に存在する動きベクト
ル情報のみを用い、予め指定したカメラワーク判定ルー
ルを用いてカメラワークを判定し、判定したカメラワー
ク判定結果情報を出力するカメラワーク判定部112
と、MPEGビデオ形式情報、ビデオ識別子情報、時間
間隔情報、カメラワーク判定結果情報を入力し、それら
の情報を関連付けて二次記憶媒体に蓄積するカメラワー
ク情報蓄積部113と、カメラワーク情報とビデオ識別
子情報を入力し、そのカメラワーク情報とビデオ識別子
情報を二次記憶媒体から検索し、一致する情報が存在し
ていた場合、その情報に関連付けられた時間間隔情報群
とMPEGビデオ形式情報を出力するか、もしくは、ビ
デオ識別子を入力し、そのビデオ識別子情報を二次記憶
媒体から検索し、一致する情報が存在している場合、そ
の情報に関連付けられた時間間隔情報群とカメラワーク
判定結果情報群とMPEGビデオ形式情報を出力するカ
メラワーク検索部114により構成されている。
【0017】利用者端末装置12は、カメラワーク情報
とビデオ識別子情報、もしくはビデオ識別子情報を入力
し、その情報をMPEG動画情報管理装置11に送信す
るカメラワーク検索キー送信部121と、時間間隔情報
群とMPEGビデオ形式情報、もしくは時間間隔情報と
カメラワーク判定結果情報群とMPEGビデオ形式情報
をMPEG動画情報管理装置11から受信する結果受信
部122と、時間間隔情報とMPEGビデオ形式情報を
入力し、時間間隔情報に示された開始時間と終了時間の
範囲でMPEGビデオ形式情報を再生するか、もしくは
時間間隔情報群とカメラワーク判定結果情報群とMPE
Gビデオ形式情報を入力し、時間間隔情報に示された開
始時間と終了時間の範囲で関連付けられたカメラワーク
判定結果情報を付加情報としてMPEGビデオ形式情報
の再生に加えて表示する結果再生部123により構成さ
れている。
【0018】MPEG動画情報投入者13は、MPEG
ビデオ形式情報、ビデオ識別子情報、時間間隔情報群を
MPEG動画情報管理装置11に投入する。MPEG動
画情報検索者14は、カメラワーク情報およびビデオ識
別情報を利用者端末装置12に投入し、欲するビデオ識
別情報のMPEGビデオ形式情報の映像を、該当カメラ
ワーク情報の時間範囲だけ見るか、もしくはビデオ識別
情報を利用者端末装置12に投入し、欲するビデオ識別
情報のMPEGビデオ形式情報の映像を、カメラワーク
判定結果情報を付加情報として合わせて見る。
【0019】図1のカメラワーク判定部112で実行さ
れるカメラワーク判定処理方法を図2に示す。処理21
において、入力した動きベクトル情報群の中でIntra マ
クロブロックが占める割合を計算し、R以上の割合でIn
tra マクロブロックが存在した場合、カメラワークが無
い期間と判定する。割合Rは、あらかじめカメラワーク
判定に適するように経験的に決定される。処理22にお
いて、処理21でカメラワークが無いと判定されなかっ
た場合、図8に示すカメラワーク判定有効領域の64
1,642,643,644のフレーム二次元位置に存
在するマイクロブロック単位動きベクトルに対し、各々
の領域で動きベクトルの水平方向成分平均、垂直方向成
分平均、水平方向成分分散、垂直方向成分分散を計算す
る。処理23において、処理22で得られた4領域毎の
4つの統計情報とカメラワーク判定ルールより各種カメ
ラワークの判定を行う。カメラワーク判定ルールは、予
めカメラワーク判定に適するように経験的に決定され
る。処理24において、処理23で得られたカメラワー
ク判定結果を出力する。
【0020】図1の構成において実行されるカメラワー
クによるMPEG動画検索用索引作成処理を図3に示
す。処理31において、動きベクトル抽出部11が、M
PEG動画情報投入者13から投入されたMPEGビデ
オ形式情報、時間間隔情報群を入力し、MPEGビデオ
形式情報内のフレーム間符号化ピクチャの動きベクトル
を抽出し、時間間隔情報に示される開始時間から終了時
間内に含まれるフレームに対し、同一フレーム二次元位
置のマクロブロック毎に動きベクトルの平均を計算し、
全時間間隔情報に対して本計算を繰り返し、時間間隔情
報およびその時間間隔で算出した平均の動きベクトル情
報群の組みを時間間隔情報個数出力する、動きベクトル
抽出処理を行う。処理32において、カメラワーク判定
部112が、処理31で出力された動きベクトル情報群
を入力し、予め指定したカメラワーク判定有効領域内に
存在する動きベクトル情報のみを用い、予め指定したカ
メラワーク判定ルールを用いてカメラワークを判定し、
判定したカメラワーク判定結果情報を出力するカメラワ
ーク判定処理を行う。処理32は、全ての時間間隔情報
に対する動きベクトル情報群のカメラワークの判定が終
了するまで繰り返し実施する(処理33)。処理34に
おいて、カメラワーク情報蓄積部113が、MPEG動
画情報投入者13から投入されたMPEGビデオ形式情
報、ビデオ識別子情報、時間間隔情報、処理32で出力
された時間間隔情報毎のカメラワーク判定結果情報を関
連付けて二次記憶媒体に蓄積するカメラワーク情報蓄積
処理を行う。 図1の構成において実行されるカメラワ
ークによるMPEG動画検索処理を図4に示す。
【0021】処理41において、カメラワーク検索キー
送信部121が、MPEG動画情報検索者14から投入
されたカメラワーク情報およびビデオ識別子情報をMP
EG動画情報管理装置11に送信するカメラワーク検索
キー送信処理を行う。
【0022】処理42において、カメラワーク検索部1
14が、処理41で送信されたカメラワーク情報および
ビデオ識別子情報より、カメラワーク情報蓄積部113
に蓄積されている情報を検索し、一致するビデオ識別子
情報に関連付けられたMPEGビデオ形式情報と、一致
するビデオ識別子情報およびカメラワーク判定結果情報
に関連付けられた時間間隔情報群を出力し、利用者端末
装置12に送信するカメラワーク情報検索処理を行う。
処理43において、結果受信部122が、処理42で送
信されたMPEGビデオ形式情報と時間間隔情報群を受
信する結果受信処理を行う。処理44において、結果再
生部123が、処理43で受信したMPEGビデオ形式
情報を受信した時間間隔情報に示される時間範囲のみ映
像再生する結果再生処理を行う。
【0023】もしくは処理41において、カメラワーク
検索キー送信部121が、MPEG動画情報検索者14
から投入されたビデオ識別子情報を、MPEG動画情報
管理装置11に送信するカメラワーク検索キー送信処理
を行う。処理42において、カメラワーク検索部114
が、処理41で送信されたビデオ識別子情報より、カメ
ラワーク情報蓄積部113に蓄積されている情報を検索
し、一致するビデオ識別子情報に関連付けられたMPE
Gビデオ形式情報と、一致するビデオ識別子情報に関連
付けられたカメラワーク判定結果情報群と時間間隔情報
群を出力し、利用者端末装置12に送信するカメラワー
ク情報検索処理を行う。処理43において、結果受信部
122が、処理42で送信されたMPEGビデオ形式情
報とカメラワーク判定結果情報群と時間間隔情報群を受
信する結果受信処理2を行う。処理44において、結果
再生部123が処理43で受信したMPEGビデオ形式
情報を受信した時間間隔情報に示される時間範囲でカメ
ラワーク判定結果をビデオ特徴情報として付加して表示
して映像再生する結果再生処理を行う。
【0024】カメラワーク判定処理112における処理
の設定例を図5を用いて説明する。
【0025】51に示す横が22個のマクロブロック
(横が352画素)で縦が15個のマクロブロック(縦
が240画素)からなるフレームサイズで、動きベクト
ルの大きさの単位が半画素であるMPEGビデオ形式情
報を用い、1フレームの全330個のマクロブロックの
うちで、3割(99個)以上Intra マクロブロックが存
在した場合にカメラワークが無いショットと判定するよ
う設定し、51に示すフレームの左端から水平方向m番
目、上端から垂直方向n番目の位置に存在するマクロブ
ロック位置を(m,n)と表現する場合、521に示す
カメラワーク判定有効領域1を(1,1)、(21,
1)、(1,3)、(21,3)を頂点とした矩形領域
に設定し、522に示すカメラワーク判定有効領域2を
(1,12)、(21、12)、(1,14)、(2
1,14)を頂点とした矩形領域に設定し、523に示
すカメラワーク判定有効領域3を(1,1)、(3,
1)、(1,14)、(3,14)を頂点とした矩形領
域に設定し、524に示すカメラワーク判定有効領域4
を(19,1)、(21,1)、(19,14)、(2
1,14)を頂点とした矩形領域に設定し、521の領
域内での全動きベクトルの水平方向成分平均を1 avg
x, 垂直方向成分平均を1 avg y, 水平方向成分分散を
sd x,垂直方向成分分散を1 sd y とし、522の領
域内での全動きベクトルの水平方向成分平均を1 avg x,
垂直方向成分平均を2 avg y,水平方向成分分散を2 sd
x, 垂直方向成分分散を2 sd yとし、523の領域内で
の全動きベクトルの水平方向成分平均を1 avg x,垂直方
向成分平均を3 avg y,水平方向成分分散を3 sd x, 垂直
方向成分分散を3 sd yとし、524の領域内での全動き
ベクトルの水平方向成分平均を1 avg x,垂直方向成分平
均を4 avg y,水平方向成分分散を4 sd x, 垂直方向成分
分散を4 sd yとし、動きベクトル水平方向成分の右から
左方向の動きが正の値とされ、垂直方向成分の下から上
の方向の動きが正の値とされていた場合、カメラワーク
判定ルールとして、1 avg y <0かつ2 avg y >0かつ
3 avg y <0かつ4 avg x >0の状態はズームアウト、
1 avg y >0かつ2 avg y <0かつ3 avg y >0かつ4
avg x <0の状態はズームイン、3 avg x >0かつ4 av
g x >0かつ1 sd y×2 sd y <32の状態は右にパン、
3 avg x <0かつ4 avg x <0かつ1 sd y×2 sd y<32
の状態は左にパン、1 avg y >0かつ2 avg y >0かつ
3 sd x×4 sd x<32の状態は下にチルト、1 avg y <0
かつ2 avg y <0かつ3 sd x×4 sd x<32の状態は上に
チルト、と判定するように設定する。
【0026】全処理の流れを図6と図7を用いて説明す
る。
【0027】動画像情報投入者13は多数のショット
(場面)により構成される1つの動画像情報131を二
次記憶媒体115に蓄積する際、動画識別番号135
と、各ショットに関する開始カット(ショット開始フレ
ーム番号)132と終了カット(ショット終了フレーム
番号)133で定義されるショット時間情報群をシステ
ムに入力する。
【0028】カメラワーク判定部112では、動きベク
トル抽出部111により抽出された動きベクトルによ
り、ショット毎にカメラワーク判定を行い、カメラワー
ク判定結果情報134を動画情報の特徴情報として獲得
し、動画識別番号135と開始カット132と終了カッ
ト133とカメラワーク判定結果情報134と動画情報
131を、関連付けられた一組のカメラワーク情報とし
て、カメラワーク情報蓄積部113が二次記憶媒体11
5に蓄積する。
【0029】動画情報検索者14は、撮影対象物を注目
するカメラワークとしてズームインのカメラワークを実
施しているカットを選定し、その再生初期フレーム(頭
出し位置)を得て、直ちにその時間位置から再生したい
と要求した場合、ズームインのカメラワーク検索キー1
41と動画識別番号135をカメラワーク検索キー送信
部121を通じてカメラワーク検索部114に入力し、
図7に示す通り、カメラワーク検索部114は、二次記
憶媒体115に蓄積している情報から、動画識別検索キ
ー142と一致する動画識別情報で、かつカメラワーク
検索キー141と一致するカメラワーク判定結果情報を
検索し、一致した情報に関連付けられた全ての開始カッ
トと終了カットの組みを、回答開始カット143、回答
終了カット144からなる回答ショット時間情報群とし
て、結果受信部122を通じて結果再生部123に送信
する。同時に一致した情報に関連付けられたMPEGビ
デオ形式情報を回答動画情報145として、結果受信部
122を通じて結果再生部123に送信する。結果再生
部123は、回答動画情報145を回答ショット時間情
報群で示される時間範囲のみ再生する。
【0030】また、動画情報検索者14は、指定する動
画情報をカメラワーク判定結果情報134を動画特徴情
報として付加して同時に再生したいと要求した場合、動
画識別番号135をカメラワーク検索キー送信部121
を通じてカメラワーク検索部114に入力し、図7に示
す通り、カメラワーク検索部114は二次記憶媒体11
5に蓄積している情報から、動画識別検索キー142と
一致する動画識別情報を検索し、一致した情報に関連付
けられた全ての開始カットと終了カットとカメラワーク
判定結果情報の組みを、回答開始カット143、回答終
了カット144からなるショット時間情報および回答カ
メラワーク情報146からなる回答動画特徴情報群とし
て、結果受信部122を通じて結果再生部123に送信
する。同時に一致した情報に関連付けられたMPEGビ
デオ形式情報を回答動画情報145として、結果受信部
122を通じて結果再生部123に送信する。結果再生
部123は、回答動画情報145の再生に伴い、回答動
画特徴情報の回答カメラワーク情報136を付加情報と
して表示する。回答カメラワーク情報146は回答動画
情報145の回答ショット時間情報で示される時間範囲
毎に切り替えて表示する。
【0031】なお、図1に示した各部の処理はMPEG
ビデオ検索プログラムとして、FD(フロッピィ・ディ
スク)、CD−ROM、MO(光磁気ディスク)等の記
録媒体に記録しておき、パソコン等のコンピュータで実
行することができる。
【0032】
【発明の効果】以上説明したように、本発明によれば、
MPEGビデオ形式のフォーマット解析により抽出され
た一部の画面領域の動きベクトル情報を活用すること
で、より短い処理時間で、より精度の高いカメラワーク
判定処理を行うことが可能になり、これにより、動画を
撮影した後に即時的にその動画情報の特徴情報としてカ
メラワーク判定結果情報を導出したり、記憶媒体に蓄積
されている多数の動画情報を検索するために事前にカメ
ラワーク情報による索引を作成する機能として、カメラ
ワーク判別処理を活用することが可能となる。また、撮
影対象物が急激に動いている状況を撮影しながらカメラ
を操作して作成した動画情報を活用することが可能とな
る。
【図面の簡単な説明】
【図1】本発明の一実施形態のカメラワークによるMP
EG動画検索装置の構成図である。
【図2】図1の実施形態のカメラワーク判定処理を示す
フローチャートである。
【図3】図1の実施形態のカメラワークによるMPEG
動画検索用索引作成方法を示すフローチャートである。
【図4】図1の実施形態のカメラワークによるMPEG
動画検索を示すフローチャートである。
【図5】図1の実施形態で判定処理の詳細な設定例を説
明するための図である。
【図6】図1の実施形態で情報の流れを説明するための
図である。
【図7】図1の実施形態で関連付けられた情報例を説明
するための図である。
【図8】本発明のカメラワーク判定有効領域を示す図で
ある。
【図9】従来の技術を説明するための図である。
【符号の説明】
11 MPEG動画情報管理装置 111 動きベクトル抽出部 112 カメラワーク判定部 113 カメラワーク情報蓄積部 114 カメラワーク検索部 115 二次記憶媒体 12 利用者端末装置 121 カメラワーク検索キー送信部 122 結果受信部 123 結果再生部 13 MPEG動画情報投入者 34 MPEG動画情報検索者 21〜24,31〜34,41〜44 処理 521〜524 カメラワーク判定有効領域 131 動画情報 132 開始カット 133 終了カット 134 カメラワーク判定結果情報 135 動画識別番号 141 カメラワーク検索キー 142 動画識別検索キー 143 回答開始カット 144 回答終了カット 145 回答動画情報 146 回答カメラワーク情報 61 フレーム全領域 62,63 カメラワーク判定の妨げとなる領域 641〜644 カメラワーク判定有効領域 71 左右パンのカメラワーク判定の領域分割 72 上下チルトのカメラワーク判定の領域分割 73 ズームのカメラワーク判定の領域分割 731〜734 ズームのカメラワーク判定領域
───────────────────────────────────────────────────── フロントページの続き (58)調査した分野(Int.Cl.7,DB名) H04N 5/222 - 5/257 H04N 5/76 - 5/95

Claims (6)

    (57)【特許請求の範囲】
  1. 【請求項1】 MPEG1ビデオ形式(ISO/TEC
    11172−2)もしくはMPEG2ビデオ形式(I
    SO/TEC 13818−2)にしたがい符号化され
    た情報および開始時間と終了時間から成り立つ時間間隔
    情報の集合を入力し、該MPEGビデオ形式情報からフ
    レーム間符号化ピクチャ(PピクチャおよびBピクチ
    ャ)の動きベクトルを抽出し、入力した該時間間隔情報
    に示される開始時間から終了時間内に含まれるフレーム
    に対し、同一フレーム二次元位置のマクロブロック毎に
    動きベクトルの平均を計算し、全時間間隔情報に対して
    本計算を繰り返し、時間間隔情報および該時間間隔で算
    出した平均の動きベクトル情報群の組みを時間間隔情報
    個数出力する動きベクトル抽出手段と、 フレームの平均の動きベクトル情報群を入力し、カメラ
    ワーク判定ルールを用いてカメラワークを判定し、判定
    したカメラワーク判定結果情報を出力するカメラワーク
    判定手段と、 MPEGビデオ形式情報、ビデオ識別子情報、時間間隔
    情報、カメラワーク判定結果情報を入力し、それらの情
    報を関連付けて記憶手段に記憶するカメラワーク情報蓄
    積手段と、 カメラワーク情報とビデオ識別子情報を入力し、該カメ
    ラワーク情報と該ビデオ識別子情報を記憶手段から検索
    し、一致する情報が存在していた場合、該情報に関連付
    けられた時間間隔情報群とMPEGビデオ形式情報を出
    力するか、もしくは、ビデオ識別子情報を入力し、該ビ
    デオ識別子情報を前記記憶手段から検索し、一致する情
    報が存在していた場合、該情報に関連付けられた時間間
    隔情報群とカメラワーク判定結果情報群とMPEGビデ
    オ形式情報を出力するカメラワーク検索手段と、 時間間隔情報とMPEGビデオ形式情報を入力し、該時
    間間隔情報に示された開始時間と終了時間の範囲で該M
    PEGビデオ形成情報を再生するか、もしくは時間間隔
    情報群とカメラワーク判定結果情報群とMPEGビデオ
    形式情報を入力し、該時間間隔情報に示された開始時間
    と終了時間の範囲で該時間間隔情報に関連付けられたカ
    メラワーク判定結果情報を付加情報として該MPEGビ
    デオ形式情報の再生に加えて表示する結果再生手段を有
    する、カメラワーク情報によるMPEGビデオ検索装
    置。
  2. 【請求項2】 前記カメラワーク判定手段は、横M個、
    縦N個のマクロブロックから成り立つMPEGビデオ形
    式情報のフレーム領域の中で、フレームの左端から水平
    方向m番目、上端から垂直方向n番目の位置に存在する
    マクロブロック位置を(m,n)と表現した場合、
    (A,B)、(M−A,B)、(A,B+L)、(M−
    A,B+L)を頂点とした矩形領域と、(A,N−B−
    L)、(M−A,N−B−L)、(A,N−B)、(M
    −A,N−B)を頂点とした矩形領域と、(A,B)、
    (A+L,B)、(A,N−B)、(A+L,N−B)
    を頂点とした矩形領域と、(M−A−L,B)、(M−
    A,B)、(M−A−L,N−B)、(M−A,N−
    B)を頂点とした矩形領域をカメラワーク判定有効領域
    とし、該カメラワーク判定有効領域内に存在する動きベ
    クトルのみを用いてカメラワーク判定を行い、A+L<
    M/2、B+L<N/2、L>0、A>0、B>0の各
    条件を満足する前提でL,A,Bの値を選択する請求項
    1記載の検索装置。
  3. 【請求項3】 MPEG1ビデオ形式(ISO/TEC
    11172−2)もしくはMPEG2ビデオ形式(I
    SO/TEC 13818−2)にしたがい符号化され
    た情報および開始時間と終了時間から成り立つ時間間隔
    情報の集合を入力し、該MPEGビデオ形式情報からフ
    レーム間符号化ピクチャ(PピクチャおよびBピクチ
    ャ)の動きベクトルを抽出し、入力した該時間間隔情報
    に示される開始時間から終了時間内に含まれるフレーム
    に対し、同一フレーム二次元位置のマクロブロック毎に
    動きベクトルの平均を計算し、全時間間隔情報に対して
    本計算を繰り返し、時間間隔情報および該時間間隔で算
    出した平均の動きベクトル情報群の組みを時間間隔情報
    個数出力する動きベクトル抽出処理と、 フレームの平均動きベクトル情報群を入力し、カメラワ
    ーク判定ルールを用いてカメラワークを判定し、判定し
    たカメラワーク判定結果情報を出力するカメラワーク判
    定処理と、 カメラワーク情報とビデオ識別子情報を入力し、該カメ
    ラワーク情報と該ビデオ識別子情報を、MPEGビデオ
    形式情報、ビデオ識別子情報、時間間隔情報、カメラワ
    ーク判定結果情報を入力し、それらの情報を関連付けて
    記憶する記憶手段から検索し、一致する情報が存在して
    いた場合、該情報に関連付けられた時間間隔情報群とM
    PEGビデオ形式情報を出力するか、もしくは、ビデオ
    識別子情報を入力し、該ビデオ識別子情報を前記記憶手
    段から検索し、一致する情報が存在していた場合、該情
    報に関連付けられた時間間隔情報群とカメラワーク判定
    結果情報群とMPEGビデオ形式情報を出力するカメラ
    ワーク検索処理をコンピュータに実行させるための、M
    PEG動画情報管理装置に実装されるMPEGビデオ検
    索プログラムを記録した記録媒体。
  4. 【請求項4】 カメラワーク情報とビデオ識別子情報、
    もしくはビデオ識別子情報を入力し、その情報をMPE
    G動画情報管理装置に送信するカメラワーク検索キー送
    信処理と、 時間間隔情報群とMPEGビデオ形式情報、もしくは時
    間間隔情報群とカメラワーク判定結果情報群とMPEG
    ビデオ形成情報を前記MPEG動画情報管理装置から受
    信する結果受信処理と、 時間間隔情報とMPEGビデオ形式情報を入力し、時間
    間隔情報に示された開始時間と終了時間の範囲でMPE
    Gビデオ形式情報を再生するか、もしくは時間間隔情報
    群とカメラワーク判定結果情報群とMPEGビデオ形式
    情報を入力し、時間間隔情報に示された開始時間と終了
    時間の範囲で関連付けられたカメラワーク判定結果情報
    を付加情報としてMPEGビデオ形式情報の再生に加え
    て表示する結果再生処理をコンピュータに実行させるた
    めの、利用者端末装置に実装されるMPEGビデオ検索
    プログラムを記録した記録媒体。
  5. 【請求項5】 MPEG1ビデオ形式(ISO/TEC
    11172−2)もしくはMPEG2ビデオ形式(I
    SO/TEC 13818−2)にしたがい符号化され
    た情報および開始時間と終了時間から成り立つ時間間隔
    情報の集合を入力し、該MPEGビデオ形式情報からフ
    レーム間符号化ピクチャ(PピクチャおよびBピクチ
    ャ)の動きベクトルを抽出し、入力した該時間間隔情報
    に示される開始時間から終了時間内に含まれるフレーム
    に対し、同一フレーム二次元位置のマクロブロック毎に
    動きベクトルの平均を計算し、全時間間隔情報に対して
    本計算を繰り返し、時間間隔情報および該時間間隔で算
    出した平均の動きベクトル情報群の組みを時間間隔情報
    個数出力する動きベクトル抽出処理と、 フレームの平均の動きベクトル情報群を入力し、カメラ
    ワーク判定ルールを用いてカメラワークを判定し、判定
    したカメラワーク判定結果情報を出力するカメラワーク
    判定処理と、 カメラワーク情報とビデオ識別子情報を入力し、該カメ
    ラワーク情報と該ビデオ識別子情報を、MPEGビデオ
    形式情報、ビデオ識別子情報、時間間隔情報、カメラワ
    ーク判定結果情報を入力し、それらの情報を関連付けて
    記憶する記憶手段から検索し、一致する情報が存在して
    いた場合、該情報に関連付けられた時間間隔情報群とM
    PEGビデオ形式情報を出力するか、もしくは、ビデオ
    識別子情報を入力し、該ビデオ識別子情報を前記記憶手
    段から検索し、一致する情報が存在していた場合、該情
    報に関連付けられた時間間隔情報群とカメラワーク判定
    結果情報群とMPEGビデオ形式情報を出力するカメラ
    ワーク検索処理と、 カメラワーク情報とビデオ識別子情報、もしくはビデオ
    識別子情報を入力し、その情報を前記カメラワーク検索
    処理に出力するカメラワーク検索キー出力処理と、 時間間隔情報とMPEGビデオ形式情報を入力し、時間
    間隔情報に示された開始時間と終了時間の範囲でMPE
    Gビデオ形式情報を再生するか、もしくは時間間隔情報
    群とカメラワーク判定結果情報群とMPEGビデオ形式
    情報を入力し、時間間隔情報に示された開始時間と終了
    時間の範囲で関連付けられたカメラワーク判定結果情報
    を付加情報としてMPEGビデオ形式情報の再生に加え
    て表示する結果再生処理をコンピュータに実行させるた
    めのMPEGビデオ検索プログラムを記録した記録媒
    体。
  6. 【請求項6】 横M個、縦N個のマクロブロックから成
    り立つMPEGビデオ形式情報のフレーム領域の中で、
    フレームの左端から水平方向m番目、上端から垂直方向
    n番目の位置に存在するマクロブロック位置を(m,
    n)と表現した場合、(A,B)、(M−A,B)、
    (A,B+L)、(M−A,B+L)を頂点とした矩形
    領域と、(A,N−B−L)、(M−A,N−B−
    L)、(A,N−B)、(M−A,N−B)を頂点とし
    た矩形領域と、(A,B)、(A+L,B)、(A,N
    −B)、(A+L,N−B)を頂点とした矩形領域と、
    (M−A−L,B)、(M−A,B)、(M−A−L,
    N−B)、(M−A,N−B)を頂点とした矩形領域を
    カメラワーク判定有効領域とし、該カメラワーク判定有
    効領域内に存在する動きベクトルのみを用いてカメラワ
    ーク判定を行い、A+L<M/2、B+L<N/2、L
    >0、A>0、B>0の各条件を満足する前提でL,
    A,Bの値を選択する請求項3または5記載の記録媒
    体。
JP14511499A 1999-05-25 1999-05-25 カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体 Expired - Fee Related JP3508013B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP14511499A JP3508013B2 (ja) 1999-05-25 1999-05-25 カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP14511499A JP3508013B2 (ja) 1999-05-25 1999-05-25 カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JP2000341613A JP2000341613A (ja) 2000-12-08
JP3508013B2 true JP3508013B2 (ja) 2004-03-22

Family

ID=15377721

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14511499A Expired - Fee Related JP3508013B2 (ja) 1999-05-25 1999-05-25 カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP3508013B2 (ja)

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002536746A (ja) * 1999-02-01 2002-10-29 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動画シーケンスを表す記述子とその記述子を使用する画像検索システム
JP5272940B2 (ja) * 2009-07-17 2013-08-28 富士通株式会社 画像符号化装置
CN110611824B (zh) * 2018-06-14 2021-12-24 连株式会社 精彩视频产生方法、使用其的精彩视频产生装置以及介质

Also Published As

Publication number Publication date
JP2000341613A (ja) 2000-12-08

Similar Documents

Publication Publication Date Title
CA2576690C (en) Method and device for motion estimation and compensation for panorama image
EP2134080B1 (en) Information processing apparatus, image-capturing system, reproduction control method, recording control method, and program
KR101436639B1 (ko) 정보 처리 장치, 촬상 장치, 화상 표시 제어 방법, 및 기록 매체
US8064656B2 (en) Image processing apparatus, imaging apparatus, image processing method, and computer program
TWI472228B (zh) 資訊處理裝置,成像裝置,影像顯示控制方法及電腦程式
JP2005312018A (ja) 監視システム、撮像制御装置、撮像設定装置、制御方法、及びプログラム
CA2739716A1 (en) Media container file
WO2004066631A1 (ja) パノラマ画像を用いた監視装置及び監視方法
JP3131560B2 (ja) 動画像処理システムにおける動画像情報検出装置
JPH0993588A (ja) 動画像処理方法
CN116366992A (zh) 记录装置、记录装置的控制方法和记录介质
JP3508013B2 (ja) カメラワーク情報によるmpegビデオ検索装置およびmpegビデオ検索プログラムを記録した記録媒体
JP2003061038A (ja) 映像コンテンツ編集支援装置および映像コンテンツ編集支援方法
JP4497761B2 (ja) 画像処理装置及びインデックス作成方法
JP4243034B2 (ja) 符号化装置
CN102007765A (zh) 执行运动图像的记录以及播放的装置
JP2009230635A (ja) 画像データ生成装置、画像データ生成方法、および画像データ生成用プログラム
JP6355634B2 (ja) データ処理装置、データ処理方法、プログラム、記録媒体及びデータ処理システム
WO2023029252A1 (zh) 多视点视频数据处理方法、设备及存储介质
CN116193155A (zh) 基于视频分析的检索方法、视频监控***和计算机设备
KR101793702B1 (ko) 영상 저장 장치 및 그의 영상 검색 방법
JP5070179B2 (ja) シーン類似判定装置、そのプログラム及びサマリ映像生成システム
KR102063495B1 (ko) 멀티미디어 콘텐츠 처리를 위한 장치 및 제어방법
JP4317003B2 (ja) ハイライト静止画生成・配信装置
JP4320738B2 (ja) オーディオビデオ信号記録装置、オーディオビデオ信号記録方法

Legal Events

Date Code Title Description
RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20031210

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20031210

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20031210

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100109

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110109

Year of fee payment: 7

LAPS Cancellation because of no payment of annual fees