JP2000217054A - 動画像に係る映像検索方法およびそのシステム - Google Patents

動画像に係る映像検索方法およびそのシステム

Info

Publication number
JP2000217054A
JP2000217054A JP11013327A JP1332799A JP2000217054A JP 2000217054 A JP2000217054 A JP 2000217054A JP 11013327 A JP11013327 A JP 11013327A JP 1332799 A JP1332799 A JP 1332799A JP 2000217054 A JP2000217054 A JP 2000217054A
Authority
JP
Japan
Prior art keywords
video
data
index
motion information
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP11013327A
Other languages
English (en)
Inventor
Katsunobu Fushikida
勝信 伏木田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Telecommunications Advancement Organization
Original Assignee
NEC Corp
Telecommunications Advancement Organization
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp, Telecommunications Advancement Organization filed Critical NEC Corp
Priority to JP11013327A priority Critical patent/JP2000217054A/ja
Publication of JP2000217054A publication Critical patent/JP2000217054A/ja
Withdrawn legal-status Critical Current

Links

Abstract

(57)【要約】 【課題】 簡単に求めた動き情報データを用い効果的に
所望の映像データを検索できることである。 【解決手段】 対象映像フレームと後続映像フレームと
から差分パターン算出部14が求めたフレーム差分パタ
ーン(動き情報データ)を受けたインデックス画像生成
部15と代表フレーム選択部16とは映像ショットの切
り替えのため黒割合閾値を越えるような映像データを除
いた映像インデックスを後続映像フレームに重ね合わせ
て作成し出力する。映像インデックスを受けて複数イン
デックス記憶部21が記憶する一方、重ね合わせ処理部
26が2枚のキー画像A,Bから差分パターン算出部2
5が求めた差分データをキー画像Bに重ねて検索キー画
像を生成し、このキー画像に類似する映像インデックス
に対応する映像データを選択した映像選択部23が映像
データ記憶部24から候補映像データを出力する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、動画像に係る映像
データベースの中から所望の映像データを検索する映像
検索方法およびそのシステムに関し、特に、簡単に求め
られる動き情報データを用いて効果的に所望の映像デー
タを検索できる映像検索方法およびそのシステムに関す
る。
【0002】
【従来の技術】従来、この種の動画像に係る映像検索方
法では、動画像を構成するフレーム画像の一つを静止画
像として扱い、静止画像を検索する方法またはその手段
を用いて所望のシーンである映像データを得ている。例
えば、樋渡、伏木田、脇により発表された「画像−音イ
ンデックスによる動画像検索」(情報処理学会、56回
全国大会、1998)(以後、文献1)では、静止画像
における画像データ内の色情報または形状情報などを用
いて所望の画像データの検索を行なうことが記載されて
いる。
【0003】しかしながら、この文献1に記載されるよ
うに、このような静止画像情報のみから所望の映像デー
タを自動検索する場合の的中率は低いので、検索精度を
高めるため音声を検出して検索情報に加えている。
【0004】このほか、検索精度を高めるため、アツオ
ヨシダほかにより発表された「V−QBE:Video
database retrieval by me
ans of example motion of
objects」(Proceedings of t
he IEEE International Con
ference on Multimedia Com
puting andSystem,pp.453−4
57,1996)(以後、文献2)では、対象となる映
像が動いた軌跡を手書きで入力し、この手書きの軌跡を
検索キーとして用いることにより目的の映像データを検
索している。
【0005】
【発明が解決しようとする課題】上述した従来の動画像
に係る映像検索方法およびそのシステムのうち、前者の
文献1では静止画像データに音声を併せ用いて検索する
ため構成が複雑になり、静止画像データのみによる動画
像に係る映像データの検索では近接する連続映像データ
または動きの緩慢な連続映像データのように殆どが類似
な映像データの場合があり、的中率が低くなるという問
題点がある。
【0006】また、後者の文献2では、動き情報に対す
る検索キーの入力が簡単ではないという実用上の面で問
題点がある。
【0007】本発明の課題は、このような問題点を解決
するため、比較的簡単に動画像の動き情報データを求め
て検索の的中率を上げ、動画像に係る映像データを効果
的に検索できる映像検索方法およびそのシステムを提供
することである。
【0008】
【課題を解決するための手段】本発明による動画像に係
る映像検索方法は、動画像に係る映像データベースの中
から所望の映像データを検索する際、連続する映像フレ
ームの列から選択された近接する二つの映像フレームか
ら動き情報データを抽出した後、この動き情報データを
前記映像フレームの一つに重ね合わせた映像データを映
像インデックスとして生成し、この映像インデックスを
用いて複数の映像データから所望の映像データを検索す
ることである。
【0009】また、動画像に係る映像データベースの中
から所望の映像データを検索する本発明による映像検索
システムは、連続する映像フレームの列のある一つの対
象映像フレームとこの対象映像フレームに近接する後続
映像フレームとから動き情報データを抽出する動き情報
データ抽出手段と、この抽出された動き情報データを前
記対象映像フレームおよび前記後続映像フレームのいず
れか一方に重ね合わせた映像データを映像インデックス
として生成する映像インデックス生成手段と、この映像
インデックスを用いて複数の映像データから所望のデー
タを検索する映像検索手段とを備えている。
【0010】このような構成により、検索のための映像
インデックスに動き情報データが加えられているので、
その対象映像フレームの検索に対する的中率が向上す
る。
【0011】また、具体的な一つの上記動き情報データ
は、二つの異なる映像フレームの画素間の相違パターン
から生成することができ、他方所望の映像データを検索
する前記映像インデックスは、動画像に係る映像ショッ
トの切り替わり時点における動き情報データを抽出した
際に削除することができる。すなわち、動き情報データ
は比較的単純な構成で求めることができ、かつ映像シー
ンの変わる部分のデータは比較した二つの画像データの
変化が大きいため動き情報データが多量であることによ
り検索のための映像インデックスから削除することがで
きる。従って、効果的な検索が可能になる。
【0012】ここで、図2および図3を併せ参照して動
画像に係る二つの映像フレームにおける動き情報データ
について説明し、動き情報データとなるフレーム差分パ
ターンの作成と変化する映像シーンの削除とについて説
明する。
【0013】図2に示される二つの映像(ビデオ)フレ
ームパターンそれぞれは、映像フレーム系列において時
間的に隣り合う先行映像フレームパターン101および
後続映像フレームパターン102に対するものである。
これら二つの映像フレームパターン101、102にお
ける差分データは、先行映像フレームパターン101と
後続映像フレームパターン102との対応する画素(ピ
クセル)のRGB値を比較し、同じ場合は「白」、異な
る場合は「黒」それぞれをフレーム差分パターン(また
は相違パターン)103として表示したものとなる。図
示された映像で明らかなように、動きのある部分が移動
体の場合にはその輪郭(エッジ)部分が「黒」で表示さ
れ、この物体の形状に類似した映像フレームパターンが
フレーム差分パターン103として得られる。
【0014】また、映像シーンが切り替わる際にはフレ
ームの内容が大幅に変化するので、フレーム差分パター
ンは殆どが「黒」となる。この部分は動き情報データと
して通常は不必要なため映像インデックスの作成から削
除してよい。この削除はフレーム差分パターン内の黒の
割合が多い側に黒割合の閾値を越えた場合に実行でき
る。
【0015】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して説明する。
【0016】図1は本発明の実施の一形態を示す機能ブ
ロック図である。図1に示された動画像に係る映像検索
システムは、映像インデックス作成手段10および映像
検索手段20により構成されるものとする。
【0017】映像インデックス作成手段10は、動き情
報データ抽出手段11および映像インデックス生成手段
12により構成され、連続して入力する映像(ビデオ)
フレームの列から隣接する映像フレーム毎の映像インデ
ックスを作成して映像検出手段20へ出力するものとす
る。
【0018】動き情報データ抽出手段11は遅延部13
および差分パターン算出部14により構成され、遅延部
13は入力する一つの映像フレームを1フレーム分遅延
させて対象映像フレームとし、差分パターン算出部14
がこの対象映像フレームとこの対象フレームから1フレ
ーム分後に入力する後続映像フレームとのフレーム差分
データを算出して映像インデックス生成手段12へ動き
情報データとして出力する。
【0019】映像インデックス生成手段12はインデッ
クス画像生成部15および代表フレーム選択部16によ
り構成されるものとする。インデックス画像生成部15
は、後続映像フレームに差分パターン算出部14から出
力される動き情報データのフレーム差分データと差分パ
ターン算出部14に入力したと同一の後続映像フレーム
との線形和を各画素毎に算出し、インデックス候補画像
として代表フレーム選択部16へ出力する。代表フレー
ム選択部16は、差分パターン算出部14から入力する
動き情報データの黒の割合データを求め、この黒の割合
データが別に入力する黒割合閾値データに満たないイン
デックス候補画像のみをインデックス画像生成部15か
ら選択して受け、映像インデックスとして映像検索手段
20へ順次出力する。
【0020】また、映像検索手段20は、複数インデッ
クス記憶部21、検索キー画像生成手段22、映像選択
部23、および映像データ記憶部24により構成される
ものとし、別に生成する検索キー画像により映像インデ
ックス作成手段10から受けた複数の映像インデックス
と共に入力する映像データから所望の映像フレームを選
択し出力する。
【0021】複数インデックス記憶部21は、映像イン
デックス作成手段10から受けた複数の映像インデック
スを記憶する。
【0022】検索キー画像生成手段22は差分パターン
算出部25および重ね合わせ処理部26により構成され
ているものとする。差分パターン算出部25は、所望す
る一枚の映像画面をキー画像Aとし、他の動きのある一
枚の映像画面をキー画像Bとして両方のキー画像A,B
を入力して両者のフレーム差分データを各画素毎に算出
し重ね合わせ処理部26へ送出する。重ね合わせ処理部
26は、キー画像Bを入力しこのキー画像Bに差分パタ
ーン算出部25から受けるフレーム差分データを対応す
る画素毎に加算する重ね合わせ処理を行ない、結果を検
索キー画像として映像選択部23へ出力する。
【0023】映像選択部23は、複数インデックス記憶
部21に記憶される複数の映像インデックスと重ね合わ
せ処理部26から受ける検索キー画像との間で類似度の
計算を行ない、類似度の最も高い映像インデックスを選
択してそのインデックス番号を映像データ記憶部24へ
出力する。
【0024】映像データ記憶部24は所望の映像フレー
ムを含む映像データを予め入力し映像インデックスのイ
ンデックス番号に対応させて記憶しているものとする。
映像データ記憶部24は、映像選択部23から受けるイ
ンデックス番号に対応する映像データを記憶データから
選択して候補映像フレームとして出力する。
【0025】上記説明では、遅延部での遅延を1フレー
ム分としたが別の遅延時間を設定してもよい。
【0026】また、上記説明では、検索キー画像として
二つの既存画像を用いるとしたが、フレーム差分データ
として、上記文献2に記載されるように既存の画像を参
照して手書き入力することも適用可能である。
【0027】
【発明の効果】以上説明したように本発明によれば、動
画像に係る映像データベースの中から所望の映像データ
を自動検索する際の的中率を向上させることができると
いう効果を得ることができる。
【0028】その理由は、動きにより差異を生じる二つ
の映像フレームから求められる差分データを動き情報デ
ータとして用いて映像データの検索を行なうからであ
る。
【0029】更に、本発明によれば、より効率的な映像
検索が可能となるという効果を得ることができる。
【0030】その理由は、一つの静止映像フレームのデ
ータにこの静止映像フレームの動き情報データを重ね合
わせた映像データを映像インデックスとしてブラウズを
行なうからである。
【0031】また、本発明によれば、動きに対する検索
キーの入力を比較的容易にできるという効果を得ること
ができる。
【0032】その理由は、二つの映像フレームをキー画
像にして求められる差分データを用いて検索キーを作成
できるからである。
【図面の簡単な説明】
【図1】本発明の実施の一形態を示す機能ブロック図で
ある。
【図2】図1で用いられる映像フレームパターンおよび
フレーム差分パターンの一形態を示すパターン図であ
る。
【符号の説明】
10 映像インデックス作成手段 11 動き情報データ抽出(手段) 12 映像インデックス生成(手段) 13 遅延部 14、25 差分パターン算出部 15 インデックス画像生成部 16 代表フレーム選択部 20 映像検索手段 21 複数インデックス記憶部 22 検索キー画像生成(手段) 23 映像選択部 24 映像データ記憶部 26 重ね合わせ処理部 101 先行映像フレームパターン 102 後続映像フレームパターン 103 フレーム差分パターン

Claims (9)

    【特許請求の範囲】
  1. 【請求項1】 動画像に係る映像データベースの中から
    所望の映像データを検索する映像検索方法において、連
    続する映像フレームの列から選択された近接する二つの
    映像フレームから動き情報データを抽出した後、この動
    き情報データを前記映像フレームの一つに重ね合わせた
    映像データを映像インデックスとして生成し、この映像
    インデックスを用いて複数の映像データから所望の映像
    データを検索することを特徴とする動画像に係る映像検
    索方法。
  2. 【請求項2】 請求項1において、前記動き情報データ
    は、時間的に隣接する映像フレームの画素間の相違パタ
    ーンであることを特徴とする動画像に係る映像検索方
    法。
  3. 【請求項3】 請求項1において、所望の映像データを
    検索するための前記映像インデックスは、動画像に係る
    映像ショットの切り替わり時点における動き情報データ
    が抽出された際に削除されることを特徴とする動画像に
    係る映像検索方法。
  4. 【請求項4】 動画像に係る映像データベースの中から
    所望の映像データを検索する映像検索システムにおい
    て、連続する映像フレームの列に並ぶ一つの対象映像フ
    レームとこの対象映像フレームに近接する後続映像フレ
    ームとから動き情報データを抽出する動き情報データ抽
    出手段と、この抽出された動き情報データを前記対象映
    像フレームおよび前記後続映像フレームのいずれか一方
    に重ね合わせた映像データを映像インデックスとして生
    成する映像インデックス生成手段と、この映像インデッ
    クスを用いて複数の映像データから所望のデータを検索
    する映像検索手段とを備えることを特徴とする動画像に
    係る映像検索システム。
  5. 【請求項5】 請求項4において、前記動き情報データ
    抽出手段は、一つの映像フレームを入力して一フレーム
    周期分を遅延し前記対象映像フレームとして出力する遅
    延部と、この対象映像フレームと前記後続映像フレーム
    とを入力し画素間の相違パターンを算出して動き情報デ
    ータを出力する差分パターン算出部とを備えることを特
    徴とする動画像に係る映像検索システム。
  6. 【請求項6】 請求項4において、前記映像インデック
    ス生成手段は、前記動き情報データ抽出手段から抽出さ
    れた動き情報データを前記対象映像フレームおよび前記
    後続映像フレームのいずれか一方に重ね合わせた映像デ
    ータをインデックス画像として生成すると共に動画像に
    係る映像ショットの切り替わり時点における切り替わり
    の動き情報データを予め設定しこの切り替わりの動き情
    報データを含むインデックス画像を削除して前記映像イ
    ンデックスを作成することを特徴とする動画像に係る映
    像検索システム。
  7. 【請求項7】 請求項4において、前記映像検索手段
    は、前記映像インデックス生成手段から得られた複数の
    映像インデックスを記憶する複数映像インデックス記憶
    部と、所望の映像データの動きに係る検索キー画像を入
    力し前記複数映像インデックス記憶部に記憶されている
    複数の映像インデックスから類似度の最も高い映像イン
    デックスを選択する映像選択部とを備えることを特徴と
    する動画像に係る映像検索システム。
  8. 【請求項8】 請求項7において、二つの画像を入力し
    これらの相違パターンから前記動きに係る検索キー画像
    を生成して前記映像選択部へ出力する検索キー画像生成
    手段を備えることを特徴とする動画像に係る映像検索シ
    ステム。
  9. 【請求項9】 請求項7において、前記動きに係る検索
    キー画像を手書きにより入力して前記映像選択部へ出力
    する検索キー画像生成手段を備えることを特徴とする動
    画像に係る映像検索システム。
JP11013327A 1999-01-21 1999-01-21 動画像に係る映像検索方法およびそのシステム Withdrawn JP2000217054A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11013327A JP2000217054A (ja) 1999-01-21 1999-01-21 動画像に係る映像検索方法およびそのシステム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11013327A JP2000217054A (ja) 1999-01-21 1999-01-21 動画像に係る映像検索方法およびそのシステム

Publications (1)

Publication Number Publication Date
JP2000217054A true JP2000217054A (ja) 2000-08-04

Family

ID=11830065

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11013327A Withdrawn JP2000217054A (ja) 1999-01-21 1999-01-21 動画像に係る映像検索方法およびそのシステム

Country Status (1)

Country Link
JP (1) JP2000217054A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100460222B1 (ko) * 2002-06-17 2004-12-04 엘지전자 주식회사 멀티미디어 스트림에 대한 구조적 인덱스 정보 기술 방법, 진행형 비디오 인덱싱 방법 및 시스템
JP2010061221A (ja) * 2008-09-01 2010-03-18 Ntt Comware Corp 3次元動画像再生装置及び付加情報検索方法とプログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR100460222B1 (ko) * 2002-06-17 2004-12-04 엘지전자 주식회사 멀티미디어 스트림에 대한 구조적 인덱스 정보 기술 방법, 진행형 비디오 인덱싱 방법 및 시스템
JP2010061221A (ja) * 2008-09-01 2010-03-18 Ntt Comware Corp 3次元動画像再生装置及び付加情報検索方法とプログラム

Similar Documents

Publication Publication Date Title
EP3540637A1 (en) Neural network model training method, device and storage medium for image processing
US10475204B2 (en) Fast multi-object detection and tracking system
US7024020B2 (en) Apparatus and method for generating object-labeled image in video sequence
CN106210449B (zh) 一种多信息融合的帧率上变换运动估计方法及***
JP3451985B2 (ja) 動画像類似度算出装置および方法
JP2009539273A (ja) ビデオクリップからのキーフレーム候補の抽出
CN105872345A (zh) 基于特征匹配的全帧电子稳像方法
Lai et al. Video summarization of surveillance cameras
CN110399826B (zh) 一种端到端人脸检测和识别方法
WO2010079559A1 (ja) クレジット情報区間検出方法、クレジット情報区間検出装置及びクレジット情報区間検出プログラム
Zheng et al. Progressively real-time video salient object detection via cascaded fully convolutional networks with motion attention
Wei et al. Novel video prediction for large-scale scene using optical flow
US20160203612A1 (en) Method and apparatus for generating superpixels for multi-view images
JP3299671B2 (ja) 画像の動き検出装置
JP2000217054A (ja) 動画像に係る映像検索方法およびそのシステム
Wang et al. Virtual reality scene construction based on multimodal video scene segmentation algorithm
Teknomo et al. Background image generation using boolean operations
Delibaşoğlu PESMOD: Small moving object detection benchmark dataset for moving cameras
Lin et al. Event-guided Frame Interpolation and Dynamic Range Expansion of Single Rolling Shutter Image
JP2000132692A (ja) 曲線の特徴点抽出方法及びこの方法を記録した記録媒体
Zhao et al. Siamese network based on global and local feature matching for object tracking
Bhaumik et al. An unsupervised method for real time video shot segmentation
US6687295B1 (en) Method and apparatus for motion estimation for encoding sequential frames
Wu et al. Fast and improved seam carving with strip partition and neighboring probability constraints
Rathore et al. Deepbbox: accelerating precise ground truth generation for autonomous driving datasets

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20040513

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20040517

RD03 Notification of appointment of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7423

Effective date: 20040819

A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20060404