JP4227241B2 - 画像処理装置及び方法 - Google Patents
画像処理装置及び方法 Download PDFInfo
- Publication number
- JP4227241B2 JP4227241B2 JP10576799A JP10576799A JP4227241B2 JP 4227241 B2 JP4227241 B2 JP 4227241B2 JP 10576799 A JP10576799 A JP 10576799A JP 10576799 A JP10576799 A JP 10576799A JP 4227241 B2 JP4227241 B2 JP 4227241B2
- Authority
- JP
- Japan
- Prior art keywords
- scene
- key frame
- moving image
- specified
- frame
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
- G06F16/783—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content
- G06F16/7847—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content
- G06F16/785—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually using metadata automatically derived from the content using low-level visual features of the video content using colour or luminescence
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/73—Querying
- G06F16/738—Presentation of query results
- G06F16/739—Presentation of query results in form of a video summary, e.g. the video summary being a video sequence, a composite still image or having synthesized frames
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Physics & Mathematics (AREA)
- Data Mining & Analysis (AREA)
- General Physics & Mathematics (AREA)
- Library & Information Science (AREA)
- Computational Linguistics (AREA)
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
- Television Signal Processing For Recording (AREA)
- Processing Or Creating Images (AREA)
Description
【発明の属する技術分野】
本発明は、動画像データの検索操作を容易に行うのに適した形態にて動画像データを格納するための画像処理装置及び方法に関する。
【0002】
【従来技術】
近年、MPEG等の動画像データ圧縮技術の進歩と、記録メディアの大容量化により、インターネット等を用いて動画像データを配信することが実現されている。また、個人ユーザレベルにおいても、大量のデジタル画像データを格納しておくことが一般に行える状況となっている。
【0003】
このような大量の動画像データの中から自分の見たい動画像を選択するには、操作者が一つ一つの動画像データについて倍速再生を行なったり、早送りと再生を繰り返したりすることにより、その内容を確認する必要があった。
【0004】
【発明が解決しようとする課題】
しかしながら、従来のような方法では、ユーザは面倒な操作を強いられ、所望の動画にたどり着くまでに大変な労力と時間を費やさなければならない。
【0005】
本発明は上記の問題に鑑みてなされたものであり、動画像データの内容確認を容易かつ適確に行える画像処理装置及び方法を提供することを目的とする。
【0006】
また、本発明の他の目的は、上記目的を達成するのに好適なデータ構造を提供することにある。
【0007】
また、本発明の他の目的は、所望の動画像データを得るための検索を容易に行えるようにすることにある。
【0008】
【課題を解決するための手段】
上記の目的を達成するための本発明の画像処理装置は例えば以下の構成を備える。すなわち、
動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記キーフレームの特徴量情報を取得する取得手段とを備え、
前記格納手段において格納されるシーン情報は前記取得手段で取得されたキーフレームの画像の特徴量情報を含む。
また、上記の目的を達成するための本発明の他の態様による画像処理装置は以下の構成を備える。すなわち、
動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段とを備え、
前記生成手段は、前記格納手段に格納されたシーン情報が示すシーンと、当該動画像の予め定められた時間分の先頭シーン及び終了シーンを時系列順にマージすることにより、抽出動画データを生成する。
また、上記の目的を達成するための本発明の他の態様による画像処理装置は以下の構成を備える。すなわち、
動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画の再生時間を指定する指定手段と、
前記指定手段で指定された再生時間に基づいて、前記生成手段でマージされる各シーンの長さを調整する調整手段とを備える。
また、上記の目的を達成するための本発明の他の態様による画像処理装置は以下の構成を備える。すなわち、
動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画データを構成するシーンの中に、その再生時間が予め定められた時間よりも短いものが存在する場合に、これを除去する除去手段とを備える。
更に、上記の目的を達成するための本発明の他の態様による画像処理装置は以下の構成を備える。すなわち、
動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定された シーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画の再生時間を指定する指定手段と、
前記格納手段に格納されたシーン情報によって示されるシーンをその重要度の順に選択して予め定められた時間長分を切り出す切出し手段とを備え、
前記切出し手段は、切り出されたシーンの合計時間が前記指定手段で指定された指定時間を越えるまで処理を実行し、
前記生成手段は、前記切出し手段で切り出されたシーンを時系列関係を保ちながら順次マージして抽出動画データを生成する。
【0009】
また、上記の目的を達成するための本発明の他の態様による画像処理方法は、
ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記キーフレームの特徴量情報を取得する取得工程とを備え、
前記格納工程において格納されるシーン情報は前記取得工程で取得されたキーフレームの画像の特徴量情報を含む。
また、上記の目的を達成するための本発明の他の態様による画像処理方法は、
ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程とを備え、
前記生成工程は、前記記憶手段に格納されたシーン情報が示すシーンと、当該動画像の予め定められた時間分の先頭シーン及び終了シーンを時系列順にマージすることにより、抽出動画データを生成する。
また、上記の目的を達成するための本発明の他の態様による画像処理方法は、
ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画の再生時間を指定する指定工程と、
前記指定工程で指定された再生時間に基づいて、前記生成工程でマージされる各シーンの長さを調整する調整工程とを備える。
また、上記の目的を達成するための本発明の他の態様による画像処理方法は、
ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画データを構成するシーンの中に、その再生時間が予め定められた時間よりも短いものが存在する場合に、これを除去する除去工程とを備える。
更に、上記の目的を達成するための本発明の他の態様による画像処理方法、
ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画の再生時間を指定する指定工程と、
前記記憶手段に格納されたシーン情報によって示されるシーンをその重要度の順に選択して予め定められた時間長分を切り出す切出し工程とを備え、
前記切出し工程は、切り出されたシーンの合計時間が前記指定工程で指定された指定時間を越えるまで処理を実行し、
前記生成工程は、前記切出し工程で切り出されたシーンを時系列関係を保ちながら順次マージして抽出動画データを生成する。
【0011】
【発明の実施の形態】
以下、添付の図面を参照して本発明の好適な実施形態を説明する。
【0012】
<第1の実施形態>
図1は本実施形態の画像処理装置の制御構成を示すブロック図である。図1において、101はCPUであり、本実施形態の画像処理装置における各種制御を実行する。102はROMであり、本装置の立ち上げ時に実行されるブートプログラムや各種データを格納する。103はRAMであり、CPU101が処理するための制御プログラムを格納するとともに、CPU101が各種制御を実行する際の作業領域を提供する。104はキーボード、105はマウスであり、ユーザによる各種入力操作環境を提供する。
【0013】
106は外部記憶装置であり、ハードディスクやフロッピーディスク、CD−ROM等で構成される。107は表示器であり、CRTディスプレイや液晶ディスプレイなどで構成され、CPU101の制御の下で各種表示を行う。108はネットワークインターフェースであり、ネットワーク上の各機器との通信を可能とする。109はビデオインターフェースであり、ビデオカメラ110や、VTR112からの動画データの取り込みを可能とする。また、111は、上記の各構成を接続するバスである。
【0014】
なお、上記の構成においてビデオカメラ110、VTR112や外部記憶装置106はネットワーク上に配置されたもので代用してもよい。
【0015】
図2は本実施形態の画像処理装置の機能構成を示すブロック図である。図2において、201は動画入力部であり、ビデオカメラ110、VTR112等からビデオインターフェース109を介して画像を取り込む、或いは、ネットワーク上からネットワークインターフェース108を介して動画を取り込む。205は動画蓄積部であり、動画入力部201で取り込まれた動画の全フレームを蓄積するものである。200は動画再生部であり、指定されたフレーム番号に基づいて動画蓄積部205から動画フレームを順次呼び出すことで動画を再生する。
【0016】
207は表示部であり、動画再生部200によって再生される動画や、サムネイル作成部210によって作成されるサムネイル画像を、ユーザに対して表示器107を介して表示する。ユーザ操作部206は、ユーザがキーポード104、マウス105を用いて、動画再生の指示、ランダム表示指示、類似検索指示、ダイジェスト再生指示、等を行うものである。
【0017】
202はシーン指定部であり、重要なシーンの開始フレーム、終了フレーム、及び、キーフレームの指定を行う。203はフレーム特徴抽出部であり、シーン指定部202で指定されたキーフレームからカラーレイアウトを抽出する。なお、本実施形態においては、カラーレイアウトは特開平10−260983に開示されているように、フレーム画像を分割してえられる複数のブロックの特徴量をラベル化し、これを所定のルールで並べたラベル列が用いられる。204はシーン特徴情報蓄積部であり、シーン指定部202で指定されたデータとフレーム特徴抽出部203で抽出されたカラーレイアウトをひとつのデータ構造にまとめて蓄積する。
【0018】
208はダイジェスト用シーン決定部であり、シーン特徴情報蓄積部204を参照してダイジェスト用シーンを決定するものである。209はダイジェストシーン情報蓄積部であり、ダイジェスト用シーン決定部208によって決定されたダイジェスト用シーンの情報を格納する。212はダイジェスト再生部であり、ダイジェストシーン情報蓄積部209を参照し、動画再生部200を介して、ダイジェストの再生を行う。
【0019】
210はサムネイル作成部であり、シーン指定部202により指定されたキーフレーム画像を縮小してサムネイル画像を作成する。211はパターンマッチング部であり、キーフレームのカラーレイアウトのラベル列同士のマッチングを行うものである。
【0020】
図3は本実施形態の画像処理装置に格納されるシーン特徴データのデータ構造を示す図である。シーン特徴情報蓄積部204は、図3の(a)に示されるごときシーン特徴データを、当該シーン特徴データが抽出された動画像データに対応づけて格納する。シーン特徴データにおいて、開始フレーム番号は、当該シーンの始まりのフレームのフレーム番号である。キーフレーム番号は、当該シーンの中で最も代表的なフレームのフレーム番号である。終了フレーム番号は、当該シーンの終了のフレームのフレーム番号である。また、シーンの重要度は、動画中でどのくらいそのシーンが重要であるかを示すものである。本実施形態では、動画全体に対するシーンの重要度を例えば100を最大値とした整数などで指定する。キーフレームのカラーレイアウトは、特開平10−260983に示したラベル列及びその属性情報である。
【0021】
図3の(b)はキーフレームのカラーレイアウトのデータ構造を示す図である。また、図4は本実施形態による画像のブロック分割例を示す図である。以下、図3及び図4を参照して、本実施形態における「キーフレームのカラーレイアウト」について更に詳細な説明を加える。
【0022】
図3の(b)において、「分割数」は画像の分割数である。本実施形態では、画像の分割を縦横同じ分割数でかつ2のべき乗の数とし、そのべきの数で分割数を表現する。例えば、図4に示すように、縦横の分割数がそれぞれ8であれば、8=23であるから、3で表されることになる。
【0023】
また、「色特徴の抽出方法」は、画像を分割して得られた各ブロックにおける特徴量の抽出方法を示す。例えば、平均色(画素全体の色の平均)、最頻色(画素全体の中で最も頻度の高い色)を用いることなどが上げられる。
【0024】
「カラーデータフォーマット」は、色データの形式を示すものである。図3の(c)に、カラーデータフォーマットのデータ構造を示す。「色空間」は色を表現するための空間であり、例えばRGB空間や、L*u*v*空間などである。「色の深さ」は、1画素あたり何bitで表現するかであり、32bit/pixel,24bit/pixel,16bit/pixelなどである。「カラーマップ」は色番号と実際の色を対応付けるマップである。ただし、「カラーマップ」は、必ずしも必要ではない。
【0025】
「ラベル列」は、各ブロックについて取得された特徴量に応じて付与されたラベルの列である。この数はもちろん、ブロックの分割数によって決まる。以下、ラベル列の生成について説明する。
【0026】
図5は本実施形態による多次元特徴量空間を説明する図である。図5に示すように、多次元特徴量空間(RGBカラー空間)を複数の色セルに分割し、夫々の色セルに対して通し番号でユニークなラベルを付与する。ここで、多次元特徴用空間(RGBカラー空間)を複数の色セルに分けたのは微妙な特徴量(色)の違いを吸収するためである。なお、多次元特徴量空間に関しては、画像特徴量をそのまま用いるものではなく各パラメータを平均と分散を実験によって求め規格化(正規化)した後、例えば、主成分分析等の直交変換を行い、意味のある次元にしたものを用いることが考えられる。なお、「意味のある次元」とは、主成分分析において、寄与率が大きな主成分軸で構成される次元である。
【0027】
次に、キーフレーム画像を分割して得られた各ブロックに対して、「色特徴の抽出方法」によって定められた画像特徴量計算処理を行い、上記多次元特徴量空間上のどのセルに属するかを求め、対応するラベルを求める。この処理を全てのブロックに対して行う。すなわち、各ブロックにおいて全ての画素がどの色セルに属するかの計算処理を行い、もっとも頻度の多い色セルのラベルをその分割画像ブロックのラベルとして決定し、この処理を全てのブロックに対して行う。
【0028】
以上のようにして各ブロックに対してパラメータラベルが付与されると、各ブロックに付与されたパラメータラベルを所定のブロック順序で並べることにより、ラベル列が生成される。例えば、図4に示されるように、左から右への走査を上から下へ行うことによりパラメータラベルを並べ、ラベル列を作る。
【0029】
以上のような構成を備えた本実施形態の画像処理装置の動作例を以下に説明する。
【0030】
[シーン特徴抽出処理]
まず、動画から重要なシーンに関する情報を抽出しシーン特徴データ(図3)として記憶する処理を説明する。
【0031】
図6は本実施形態による登録処理の手順を表すフローチャートである。まず、ステップS11において、シーン指定部202は、動画中の重要なシーンの開始フレーム、終了フレーム、当該シーンのキーとなるキーフレームを決定するとともに、当該シーンの重要度を決定する。この処理は、人手によってマニュアルで行っても、何らかの演算処理を用いて自動的に行っても構わない。以下では、マニュアルによって決定を行う例を示す。
【0032】
まず、動画再生部200は、動画入力部201によって入力され動画蓄積部205に記憶された動画を読み出す。ユーザによるユーザ操作部206を介した指示によって再生、早送り、巻き戻し等を行う。そして、ユーザは、表示部207に再生される画像を観察し、重要なシーンを指定する。例えば、画像を再生させながら、重要シーンの開始場面(フレーム)と終了場面(フレーム)を指示するとともに、当該重要シーンの中で最もよくそのシーンを表わしている場面(フレーム)をキーフレームとして指示する。
【0033】
シーン指定部202では、ユーザ操作部206を介して指示された開始フレームと、終了フレームと、キーフレームのそれぞれのフレーム番号を得る。さらに、当該動画全体に対する当該シーンの重要度を、例えば100を最大値とした整数を用いて指定する。こうして得られたそれぞれの値は、シーン指定部202によって図3のシーン特徴データの形式にまとめられる。
【0034】
次に、こうして得られたシーン特徴データは、ステップS12において、対象としている動画のIDと当該動画から抽出されたシーンの先頭から割り振られたシーンIDと共にシーン特徴情報としてシーン特徴情報蓄積部204に格納される。図7は、シーン特徴情報の一例を示す図である。
【0035】
次にステップS13において、フレーム特徴抽出部203は、シーン特徴情報蓄積部204を参照して、動画蓄積部205よりキーフレームを順次取り出し、色に関する特徴抽出を行って「キーフレームのカラーレイアウト」を決定し、シーン特徴情報蓄積部204に格納していく。カラーレイアウトを決定する処理似ついては上述したとおりであり、更に詳細な説明は、特開平10−260983に述べられている。この処理はシーン特徴情報に含まれる全てのキーフレーム番号について行われる。
【0036】
以上のようにして、ユーザによって指定された全てのシーンについて、シーン特徴データ(図3)が抽出され、シーン特徴情報としてシーン特徴情報蓄積部204に格納される。以上がシーン特徴抽出の処理であり、この処理を対象となる全ての動画に対して行う。
【0037】
[ダイジェスト動画作成処理]
次に、シーン特徴情報からそれぞれの動画についてのダイジェスト動画を自動作成する処理を説明する。図8及び図9は本実施形態による(一つの動画に対する)ダイジェスト動画作成処理の手順を表すフローチャートである。
【0038】
まず、ステップS21において、ダイジェスト用シーン決定部208は、シーン特徴情報蓄積部204を参照し、同一の動画IDをもつ全てのシーン特徴データの開始フレーム番号と終了フレーム番号から、その合計時間を算出する。この合計時間と、ユーザによって指定されたダイジェスト動画再生のための指定時間から動画の先頭及び終了シーンの時間を差し引いた時間(以下、これをTSと表わす)とを比較する。ここで指定時間から先頭及び終了シーンの時間を除くのは、ダイジェスト動画には動画像の先頭と終了のシーンが必ず含まれるという観点に基づいている。また、先頭及び終了シーンの時間は、人間の視覚特性に基づき目にちらつかない程度の最適な長さのものとする。よってこの時間長に関しては特に限定しないが、数秒オーダーのものである。なお、先頭と終了のシーンを必ずしも含めないように構成することももちろん可能である。
【0039】
さて、ステップS21において、シーンの合計時間の方が長い場合は、シーンの合計時間を指定時間に合わせるべくステップS22以降の処理を実行する。
【0040】
まず、ステップS22では、全てのシーン特徴データの重要度からその最大値を取得する。次に、ステップS23において、重要度の下限の閾値と最大値の中間値を、重要度の閾値とする。ここで、重要度の下限の閾値とは、人間が重要なシーンであると判定する際の最低限の重要度である。すなわち、重要なシーンと判定されたシーンの開始フレームと終了フレームが、この重要度を持っているものと仮定される。なお、この重要度の下限の閾値は経験的に決まるものであり、特に限定されるものではない。次に、ステップS24において、後続のステップS25からS32までの一連の処理のために、初期値としてSaに重要度の最大値を、Sbに重要度の下限の閾値を設定する。
【0041】
次に、ステップS25において、閾値以上の重要度を持つダイジェスト用シーンを決定する。この処理について、図10を用いてより詳細に説明する。図10には、動画とその重要なシーンを概念的に表したものと、これに対応させて、横軸に時間、縦軸にフレームの重要度をとったグラフが示されている。先述したようにそれぞれの重要なシーンの開始フレーム、終了フレームの重要度は閾値の下限値と仮定される。また、キーフレームはそのシーンを最もよく表しているものであるから、シーンの重要度がキーフレームの重要度に相当するものとする。なお、重要なシーン以外のフレームの重要度は不定であるとする(点線で図示された部分)。
【0042】
以上から、開始フレームの重要度からキーフレームの重要度までの間と、キーフレームの重要度から終了フレームの重要度までの間に仮想的な直線を引くことができる(図10において実線で示された部分)。これらの仮想的な重要度の直線と閾値の交点を求め、その交点の間に存在するフレームが、閾値以上の重要度をもったフレームとして抽出され、これら抽出されたフレームによってダイジェスト用シーンが決定される。すなわち、図10では(a)から(b)までのフレームと(c)から(d)までのフレームがこれに相当し、これらのフレームがダイジェスト用シーンとなる。
【0043】
次にステップS26において、ステップS25で決定されたダイジェスト用シーンの合計時間からTSを減算し、これをTRとする。次に、ステップS27において、TRが0以上であり、かつ誤差の時間以内かどうかを判定する。ここで誤差の時間とは、閾値をどの位置に動かしても、TRが0とならない(即ち、ダイジェスト用のシーンの合計時間がTSに一致しない)場合を想定して設けられた時間であり、経験的に求まるものである。ここで、TRが所定の時間以上であれば、次にステップS28に進む。
【0044】
ステップS28では、TRが正であるかを判定する。ここで正であると判定された場合は、ダイジェスト用シーンの合計時間が長すぎることを意味するので、ステップS29へ進み、現在の閾値をSbに設定する。そして、ステップS30において、閾値をSaと現在の閾値の中間値に更新する。そして、ステップS25へ戻る。すなわち、重要度の下限の閾値を現在設定されている閾値に設定し、この新たに設定された下限の閾値とSaに格納されている最大値との中間値を新たに閾値に設定して、上述のステップS25以降の処理を繰り返す。
【0045】
一方、ステップS27において負であると判定された場合は、ダイジェスト用シーンの合計時間が短すぎることを意味し、処理はステップS31へ進む。ステップS31においては、現在の閾値をSaに設定する。そして、ステップS32において、閾値をSbと現在の閾値の中間値に更新する。そして、ステップS25へと戻る。すなわち、重要度の最大値を現在設定されている閾値に設定し、この新たに設定された最大値とSbに格納されている下限値との間の中間値を新たな閾値に設定として、上述のステップS25以降の処理を繰り返す。
【0046】
以上のようにステップS25からステップS32を繰り返すことで、ダイジェスト用シーンは、TSに最も近くなり、最終的にステップS27で、TRは0以上で所定の時間より短いと判定され、ステップS34へと進むことになる。
【0047】
一方、ステップS21で、シーンの合計時間の方が短いと判定された場合は、このままでは、ダイジェスト動画の時間がユーザの指定した時間に満たないので、ステップS33へ進み、例外処理を行う。ステップS33では、シーン特徴情報に登録されている当該動画像の全ての重要なシーンについて、そのキーフレームを中心として、それぞれ暫時、シーンを長くしていき、これら重要シーンの再生時間をTSに近づける。すなわち、キーフレームの左側と右側交互にフレームを追加していき、シーンを長くする。そして、ステップS34へ進む。
【0048】
ステップS34において、ダイジェスト用シーンとして抽出、決定されたシーンは時系列にソートされ、図11に例示するようなダイジェストシーン情報として、ダイジェストシーン情報蓄積部209へ蓄積される。次に、ステップS35において、当該動画像の先頭シーンをダイジェストシーン情報の先頭に、終了シーンをダイジェストシーン情報の最後に格納する。もしこのとき、前後のシーンと重要シーンのフレームが重なるときは、マージを行う。
【0049】
次に、ステップS36において、ダイジェストシーン情報の各シーンを順に調べて、短すぎるシーンが存在しないかどうかチェックを行う。ここで短すぎるシーンとは、人間が目でその内容を判定不可能と思われる時間であり、人間の視覚特性に基づき決定されるものである。本例では、先頭及び終了シーンの時間として定めたものより短いものとする。ここで短すぎるシーンが存在した場合は、ステップS37において、その短すぎるシーンをダイジェストシーン情報より取り除く。次に、ステップS38において、ステップS37で取り除いたシーンの前後にあるシーンのうち、その重要度の高い方のシーンについて、キーフレームを中心にシーンを暫時長くしていき(ステップS33と同様)、取り除いた分を埋める。次に、ステップS39において、ダイジェストシーン情報中の全てのシーンについてチェックを行ったかどうかを判定し、全てについてチェックが行われるまでステップS36からステップS38を繰り返す。
【0050】
以上の処理によって得られたダイジェストシーン情報から、それぞれのシーンを順に再生させることにより、動画データに対するダイジェスト動画を得ることができる。以上が、ダイジェスト動画作成処理であり、この処理を対象となる全ての動画に対して行う。
【0051】
[動画検索処理]
次に、ユーザが所望の動画を検索する際の処理について述べる。図12は本実施形態による動画検索の際のユーザの典型的な操作における状態遷移図である。また、図13は、本実施形態による動画検索の処理を説明するフローチャートである。
【0052】
まず、ユーザのユーザ操作部206を介してランダム表示が指示されると、処理はステップS51からステップS52へ進み、状態:キーフレームランダム表示100となる。このとき、サムネイル作成部210は、シーン特徴情報蓄積部204によって格納されたシーン特徴情報を参照して所定数のシーンIDに含まれるキーフレームの番号を取り出し(ステップS52)、これを基に動画蓄積部205よりキーフレーム画像を取り出す(ステップS53)。そして、キーフレーム画像を縮小してこれをサムネイルとして、ランダムに表示部207を介して表示する(ステップS54)。なお、ステップS52における所定数とは、一画面で表示するサムネイル画像の数に対応する。こなお、れらサムネイル画像は、動画ID、シーンID、キーフレーム番号と関連づけて特に図示しないメモリ上に保持してもよいし、蓄積媒体上に記憶しておいてもよい。このようにサムネイルを保持しておけば、ステップS54でその都度サムネイルを生成する必要がなくなる。もちろん、検索処理の初期化として、全てのキーフレームのサムネール画像を作成してこれをメモリ又は蓄積媒体上に動画IDなどと関連づけて保持しておき、ランダム表示の指示があるごとに、所定数のサムネイル画像をメモり又は蓄積媒体より取り出して表示するようにしてもい。
【0053】
ユーザはキーフレームのサムネイル画像の中から、所望の動画中に含まれるシーンに似ているものが見つかるまで、このランダム表示の指示を繰り返す(ステップS55)。そして、似ているキーフレーム(所望のキーフレーム)が見つかったら、ユーザ操作部206を介して所望のキーフレームを指定することにより類似フレームの表示を指示する(ステップS56)。この指示により処理はステップS57以降へ進み、画像処理装置は、状態:類似フレーム表示101となる。このとき、パターンマッチング部211は、指定されたキーフレームを比較元として、シーン特徴情報蓄積部204に含まれるキーフレームのカラーレイアウトに含まれるラベル列同士でマッチングを行い、各動画像中のキーフレームとの類似度を算出する(ステップS57)。
【0054】
この類似度の算出には、例えば特開平10−260983号に記載されたラベル列間のマッチング処理を適用することが可能である。簡単に説明すると次のとおりである。まず、図14に示すようなペナルティマトリクスを用意する。このペナルティマトリクスでは、図5で示した特徴量空間の各色セルにおいて、隣接する色セル間には小さいペナルティ(距離)を与え、遠い色セル間には大きいペナルティ(距離)を与えるようにラベル間のペナルティが設定されている。そして、比較元のキーフレームのラベル列と他のキーフレームのラベル列との距離を、このペナルティマトリクスを参照して算出し、類似度を得る。特に、曖昧なパターンマッチングを行えるように、音声認識等において用いられるDPマッチング手法や、特開平8−241335号に開示されているようなファジー非決定性有限オートマトンを適用することも可能である。
【0055】
また、このとき比較元と比較先においてキーフレームのイメージの「分割数」などの属性情報が異なるときは、それぞれの属牲情報を元にラベル列のデータ変換を行うことが可能である。例えば、比較元の分割数が3(23×23=64個のブロックとなる)であり、比較先の分割数が2(22×22=16個のブロックとなる)であり、色特徴の抽出方法が共に「平均色」である場合は、比較元のラベル列を、4つ一組としてそれぞれ一旦対応する色セルの重心にあたる中間色に直し、この4つの中間色の平均を求め、この平均色に対応するラベルを新たなラベルとしていくことにより、比較先と同じ16個のラベルを含むラベル列に変換できる。
【0056】
以上のようにして各キーフレームとの類似度が求まると、類似度の高い順番に表示部207を介して対応するサムネイル画像を検索給果として表示する(ステップS58、S59)。
【0057】
ユーザは所望するシーンと思われるキーフレームが得られるまで、これらランダム表示、及び、類似フレーム表示を繰り返す(ステップS60)。次に、ユーザがキーフレーム類似検索結果の中から所望の動画中のシーンと思われるキーフレームのサムネイル画像をユーザ操作部206を介して指定し、再生の指示を出すと画像処理装置は、状態:動画再生102となる(ステップS61)。このとき、動画再生部200は、指示されたキーフレームに関連付けられた動画IDとキーフレーム番号を参照し、動画蓄積部205から対応する動画のキーフレーム番号から順次フレーム画像を取り出して表示部207を介して表示する(ステップS63)。
【0058】
なお、再生させたシーンがユーザの所望する動画に含まれるシーンでなければ、ランダム表示を再度指示することにより(ステップS60)、ランダム表示を再度実行させたり、他のサムネイル画像を比較元に指定しなおして類似シーン表示を行わせることができる。
【0059】
そして、所望の動画に含まれるシーンであると思われれば、動画全体を確認するためにユーザはユーザ操作部206を介してダイジェスト再生の指示を出す。ダイジェスト再生が指示されると(ステップS62)、画像処理装置は、状態:ダイジェスト再生103となる(ステップS64)。このときダイジェスト再生部212は、ダイジェスト蓄積部209のダイジェストシーン情報を参照して、指定されたキーフレームの動画IDにおける全てのダイジェスト用シーンの開始フレーム番号から終了フレーム番号を、動画再生部200に通知する。動画再生部200は、通知された開始フレーム番号から終了フレーム番号までのフレームを動画蓄積部から順次取り出して、表示部207を介して表示する。このようにして動画のダイジェストが表示され、ユーザは所望の動画であったかどうかの判定が行える。
【0060】
そして、もし所望の動画でなければ、ランダム表示や、他のサムネイル画像を比較元として類似シーン表示を行う(ステップS60)。以上のことを繰り返すことによって、ユーザは所望の動画を得ることが可能となる。
【0061】
もちろん、上記の処理の流れは一例であり、それぞれの操作を自由に組み合わせることで、所望の動画に辿り着く事も可能である。例えば、状態:類似フレーム表示101から、ダイジェスト再生指示を与えて、状態:ダイジェスト再生103に移り、動画全体のチェックを行っても構わない。或いは、状態:キーフレームランダム表示100において所望のキーフレームを選択して動画再生やダイジェスト再生を行わせるように構成することもできる。
【0062】
以上説明したように、上記第1の実施形態によれば、シーン特徴というデータ構造で動画の重要なシーンに関する情報が記述できるため、キーフレームのランダム表示、キーフレーム類似検索、及び、ダイジェスト自動作成とダイジェスト再生が可能となり、ユーザはこれらを好みの組み合わせで操作することによって、瞬時に所望の動画にたどり着くことが可能となる。また、シーン特徴というデータ構造に従えば、他の画像処理装置で利用されている動画像も同様に扱うことが可能となる。
【0063】
<第2の実施形態>
上記第1の実施形態においては、ダイジェスト動画作成処理において、指定の時間に納まるように閾値を変化させて、ダイジェスト用シーンを決定している。しかしながら、指定時間に応じたダイジェスト用シーンの決定方法はこれに限られるものではない。例えば、この処理の他の実施形態として図15に示した処理手順を用いることも可能である。
【0064】
図15は、第2の実施形態によるダイジェスト用シーンの決定処理手順を説明するフローチャートである。まず、ステップS71において、ダイジェスト用シーン決定部208は、シーン特徴情報蓄積部204を参照し、同一の動画IDをもつ全てのシーン特徴の開始フレーム番号と終了フレーム番号を得て、これに基づいて当該動画の重要シーンとして指定されたシーンの合計時間を算出する。そして、この合計時間と、ユーザによって指定されたダイジェスト動画の再生時間(指定時間)から開始シーンと終了シーンとを差し引いた時間TSとを比較する。ここでシーンの合計時間の方がTSよりも長いときは、このままではダイジェスト再生時間が指定時間を越えてしまうので、ステップS72へ進み、再生時間の調整を行う。
【0065】
まず、ステップS72において、シーン特徴情報の同一の動画IDを持つシーン特徴データについて、シーンの重要度でソートを行う。次にステップS73において、この重要度の高い順番に、所定の時間の長さでシーンを取り出し、これをダイジェスト用シーンとする。このとき、所定の時間とは人間の目にちらつかない程度の長さであり、人間の視覚特性によって決定される。また、各シーンから所定の時間分を取り出すときは、キーフレームを中心にして所定時間分のフレームを取り出す。
【0066】
次にステップS74において、ステップS73の処理を最も重要度の低いシーンまで行ったか、即ち、ソートされた重要シーンの全てについて行ったかを判定する。ここで、全てのシーン特徴情報についてステップS73の処理が行われたということは、取得したシーンによるダイジェスト再生時間が指定時間以下であることを意味するので、ステップS78へ進み各シーンの再生時間を長くする方向で調整を行う。
【0067】
一方、ステップS74において、ステップS73の処理が全ての重要シーンについて行われていないと判断されると、処理はステップS75へ進む。ステップS75では、ダイジェスト用シーンの合計時間がTS以上となったかどうかを判定し、TS以上となるまでステップS73(及びS74)を繰り返す。そして、シーンの合計時間がTS以上となった時点でステップS76へ処理を移す。この結果、ダイジェスト用シーンに重要度の高いシーンが優先的に含まれることになる。
【0068】
ここでステップS71においてシーンの合計時間の方が短いと判定された場合、及び、ステップS74において最も重要度の低いシーンまで取得されたと判定された場合の処理であるステップS78について説明する。ステップS78へ処理が移行してきた場合、このままでは、ダイジェスト動画の再生時間がユーザの指定した時間に満たない。従って、ステップS78では、この時点でダイジェスト用シーンを構成する全てのシーンについて、そのキーフレームを中心としてそれぞれ暫時シーンを長くしていき、シーンの合計時間をTSに近づけていく。
【0069】
ステップS76においては、ダイジェスト用シーンとして抽出されたシーンを時系列にソートし、図11に例を示したダイジェストシーン情報として、ダイジェストシーン情報蓄積部209へ蓄積する。次に、ステップS77において、先頭のシーンをダイジェストシーン情報の先頭に、終了のシーンをダイジェストシーン情報の最後に格納する。もしこのとき、前後のシーンとフレームが重なるときは、マージを行う。
【0070】
以上のような処理によってもダイジェスト動画を自動的に得ることが可能である。
【0071】
[他の実施形態]
上記各実施形態においては、ダイジェストの作成は、ダイジェストシーン情報を対象となる全ての動画の対して求めた後、一旦、蓄積媒体上に記憶している。しかしながら、ダイジェスト再生指示によりその都度、指示のあった動画のみについてメモリ上にダイジェストシーン情報を作成するようにしてもよい。この場合、本実施形態で説明したダイジェスト動画作成処理そのものは軽いので、即座にダイジェスト再生を行うことが可能である。
【0072】
また、上記各実施形態においては、シーン特徴抽出処理と動画検索処理(及びダイジェスト動画作成処理)を一つの画像処理装置で実現しているが、シーン特徴のデータ構造持ったデータと原動画像及びこれらを関連付ける仕組みが存在すれば、それぞれを別々の画像処理装置で実現しても構わない。
【0073】
また、上記各実施形態においては、各フレームの位置を示すのに動画の先頭から割り振られるフレームの番号(開始フレーム番号等)で表現したがこれに限られるものではない。例えば、先頭から再生したときの時間であってもよく、動画中でそのフレームを特定できれば何であってもよい。
【0074】
また、上記各実施形態においては、シーン特徴抽出処理において、開始フレーム、終了フレーム、キーフレームの決定を手動で行う場合を説明したが、自動的に各フレームを決定することも可能である。例えば、動画中の全てのフレームに対して特徴抽出を行ってカラーレイアウトを求め、近傍のフレーム間でラベル列の比較を行ってその類似度を算出する。類似度が低いほどフレーム間の変化が激しく、この変化が激しい部分が心理的に印象に残る。このことを利用して類似度から各フレームの重要度を決定するといった方法が挙げられる。
【0075】
なお、本発明は、例えばホストコンピュータ、インターフェース機器、リーダ、プリンタなどの複数の機器から構成されるシステムに適用しても、一つの機器からなる装置(例えば、複写機、ファクシミリ装置など)に適用してもよい。
【0076】
また、本発明の目的は、前述した実施形態の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システムあるいは装置に供給し、そのシステムあるいは装置のコンピュータ(またはCPUやMPU)が記憶媒体に格納されたプログラムコードを読み出し実行することによっても、達成されることは言うまでもない。
【0077】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施形態の機能を実現することになり、そのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0078】
プログラムコードを供給するための記憶媒体としては、例えば、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発生のメモリカード、ROMなどを用いることができる。
【0079】
また、コンピュータが読み出したプログラムを実行することにより、前述した実施形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS(オペレーティングシステム)などが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0080】
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ポードや機能拡張ユニットに備わるCPUなどが実際の処理の一部または全部を行い、その処理によって前述した実施形態の機能が実現される場合も含まれることは言うまでもない。
【0081】
【発明の効果】
以上説明したように、本発明によれば、動画像データの内容確認を容易かつ適確に行える。また、本発明のデータ構造によれば、複数の画像処理装置間で、内容確認のための情報を共有することができる。
【図面の簡単な説明】
【図1】本実施形態の画像処理装置の制御構成を示すブロック図である。
【図2】本実施形態の画像処理装置の機能構成を示すブロック図である。
【図3】本実施形態の画像処理装置に格納されるシーン特徴データのデータ構造を示す図である。
【図4】本実施形態による画像のブロック分割例を示す図である。
【図5】本実施形態による多次元特徴量空間を説明する図である。
【図6】本実施形態による登録処理の手順を表すフローチャートである。
【図7】シーン特徴情報の一例を示す図である。
【図8】第1の実施形態によるダイジェスト動画作成処理の手順を表すフローチャートである。
【図9】第1の実施形態によるダイジェスト動画作成処理の手順を表すフローチャートである。
【図10】動画とその重要なシーンを概念的に表すとともに、これに対応させて各シーンの重要度と閾値の関係を概念的に表わす図である。
【図11】本実施形態によるダイジェストシーン情報のデータ構成例を示す図である。
【図12】本実施形態による動画検索の際のユーザの典型的な操作における状態遷移図である。
【図13】本実施形態による動画検索の処理を説明するフローチャートである。
【図14】ラベル列間の類似度計算を行うためのペナルティマトリクスの例を示す図である。
【図15】第2の実施形態によるダイジェスト動画作成処理の手順を表すフローチャートである。
Claims (45)
- 動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記キーフレームの特徴量情報を取得する取得手段とを備え、
前記格納手段において格納されるシーン情報は前記取得手段で取得されたキーフレームの画像の特徴量情報を含むことを特徴とする画像処理装置。 - 前記キーフレームの特徴量情報は、該キーフレームの画像を複数ブロックに分割し、各ブロックについて取得された特徴量に応じてラベルを付与し、付与されたラベルを予め定められた順序で並べて得られるラベル列であることを特徴とする請求項1に記載の画像処理装置。
- 前記複数ブロックへの分割は、画像を縦横共に2のべき乗でブロックに分割するものであることを特徴とする請求項2に記載の画像処理装置。
- 前記ラベル列とともに画像の分割数、特徴量の抽出方法、および色表現に関する情報を記憶する手段を備えることを特徴とする請求項2又は3に記載の画像処理装置。
- 前記キーフレームの一つが指定された場合に、該指定されたキーフレームと他のキーフレームの画像の類似度を、各キーフレームの画像特徴量に基づいて算出する算出手段と、
前記算出手段で算出された類似度に基づいてキーフレームを提示する提示手段と、
前記提示手段で提示されたキーフレームの中から選択されたキーフレームを含む動画像データを取得し、再生する再生手段とを更に備えることを特徴とする請求項1または2に記載の画像処理装置。 - 動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段とを備え、
前記生成手段は、前記格納手段に格納されたシーン情報が示すシーンと、当該動画像の予め定められた時間分の先頭シーン及び終了シーンを時系列順にマージすることにより、抽出動画データを生成することを特徴とする画像処理装置。 - 動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画の再生時間を指定する指定手段と、
前記指定手段で指定された再生時間に基づいて、前記生成手段でマージされる各シーンの長さを調整する調整手段とを備えることを特徴とする画像処理装置。 - 前記調整手段は、
各シーンに設定された重要度に基づいてシーン内の各フレームの重要度を決定し、該シーン内において閾値を越える重要度を有するフレームを抽出し、これをマージ対象のシーンとして前記生成手段に提供するフレーム抽出手段と、
前記生成手段で生成される抽出動画データの再生時間が、前記指定された再生時間の予め定められた誤差範囲に納まるように、前記フレーム抽出手段において用いられる閾値を制御する閾値制御手段とを備えることを特徴とする請求項7に記載の画像処理装置。 - 前記シーン情報によって指定される全てのシーンの合計時間が前記指定手段で指定された再生時間よりも短い場合、該指定された再生時間の予め定められた誤差範囲に納まるように各シーンのキーフレームを中心として再生時間を暫時延長する延長調整手段を更に備えることを特徴とする請求項8に記載の画像処理装置。
- 動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画データを構成するシーンの中に、その再生時間が予め定められた時間よりも短いものが存在する場合に、これを除去する除去手段とを備えることを特徴とする画像処理装置。 - 前記除去手段で除去されたシーンの再生時間に相当する時間分だけ他のシーンを延長する延長手段を更に備えることを特徴とする請求項10に記載の画像処理装置。
- 前記延長手段は、前記抽出動画データ内における前記除去手段で除去されたシーンの前後に隣接するシーンのうちの設定された重要度の高いほうのシーンを、キーフレームを中心に時間延長することを特徴とする請求項11に記載の画像処理装置。
- 動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定手段と、
前記特定手段で特定されたシーンの各々の重要度を設定する設定手段と、
前記特定手段で特定されたシーンとキーフレームを示す情報、及び前記設定手段で設定された重要度をシーン情報として当該動画像データに関連させて格納する格納手段と、
前記格納手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成手段と、
前記抽出動画の再生時間を指定する指定手段と、
前記格納手段に格納されたシーン情報によって示されるシーンをその重要度の順に選択して予め定められた時間長分を切り出す切出し手段とを備え、
前記切出し手段は、切り出されたシーンの合計時間が前記指定手段で指定された指定時間を越えるまで処理を実行し、
前記生成手段は、前記切出し手段で切り出されたシーンを時系列関係を保ちながら順次マージして抽出動画データを生成することを特徴とする画像処理装置。 - 前記予め定められた時間長は、ユーザが画像を認識可能な長さであることを特徴とする請求項13に記載の画像処理装置。
- 前記シーン情報によって指定される全てのシーンの合計時間が前記指定手段で指定された再生時間よりも短い場合、該指定された再生時間の予め定められた誤差範囲に納まるように各シーンのキーフレームを中心として再生時間を暫時延長する延長調整手段を更に備えることを特徴とする請求項14に記載の画像処理装置。
- 前記シーン情報は、各キーフレームの画像の画像特徴量を含み、前記キーフレームの一つが指定された場合に、該指定されたキーフレームと他のキーフレームの画像の類似度を各キーフレームの画像特徴量に基づいて算出する算出手段と、
前記算出手段で算出された類似度に基づいてキーフレームを提示する提示手段と、
前記提示手段で提示されたキーフレームの中から選択されたキーフレームを含む動画像データに関して、前記生成手段で生成された抽出画像データを再生する再生手段とを更に備えることを特徴とする請求項6乃至15のいずれか1項に記載の画像処理装置。 - 前記キーフレームの特徴量情報は、該キーフレームの画像を複数ブロックに分割し、各ブロックについて取得された特徴量に応じてラベルを付与し、付与されたラベルを予め定められた順序で並べて得られるラベル列であることを特徴とする請求項16に記載の画像処理装置。
- 前記シーン情報は、各キーフレームの画像の画像特徴量を含み、
前記キーフレームをランダムに表示する第1手段と、
前記生成手段で生成された抽出画像データを再生する第2手段と、
指定されたキーフレームと他のキーフレームの画像の類似度を各キーフレームの画像特徴量に基づいて算出し、類似検索を行う第3手段と、
指定されたキーフレームから動画を再生する第4手段とを備え、
前記第1乃至第4手段を任意の組み合わせで機能させるべく操作可能としたことを特徴とする請求項6乃至15のいずれか1項に記載の画像処理装置。 - 前記特定手段で特定されたシーンを示す情報は当該シーンの開始フレームと終了フレームのそれぞれのフレーム識別子を含み、キーフレームを示す情報は当該キーフレームのフレーム番号を含むことを特徴とする請求項1乃至18のいずれか1項に記載の画像処理装置。
- 前記フレーム識別子は、動画像データにおける先頭からのフレーム番号であることを特徴とする請求項19に記載の画像処理装置。
- 前記フレーム識別子は、動画像データにおける先頭から当該フレームまでの時間であることを特徴とする請求項19に記載の画像処理装置。
- 前記キーフレームの画像をサムネイル化して一覧表示する表示手段を更に備えることを特徴とする請求項1乃至21のいずれか1項に記載の画像処理装置。
- ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記キーフレームの特徴量情報を取得する取得工程とを備え、
前記格納工程において格納されるシーン情報は前記取得工程で取得されたキーフレームの画像の特徴量情報を含むことを特徴とする画像処理方法。 - 前記キーフレームの特徴量情報は、該キーフレームの画像を複数ブロックに分割し、各ブロックについて取得された特徴量に応じてラベルを付与し、付与されたラベルを予め定められた順序で並べて得られるラベル列であることを特徴とする請求項23に記載の画像処理方法。
- 前記複数ブロックへの分割は、画像を縦横共に2のべき乗でブロックに分割するものであることを特徴とする請求項24に記載の画像処理方法。
- 前記ラベル列とともに画像の分割数、特徴量の抽出方法、および色表現に関する情報を記憶する工程を備えることを特徴とする請求項24又は25に記載の画像処理方法。
- 前記キーフレームの一つが指定された場合に、該指定されたキーフレームと他のキーフレームの画像の類似度を、各キーフレームの画像特徴量に基づいて算出する算出工程と、
前記算出工程で算出された類似度に基づいてキーフレームを提示する提示工程と、
前記提示工程で提示されたキーフレームの中から選択されたキーフレームを含む動画像データを取得し、再生する再生工程とを更に備えることを特徴とする請求項23または24に記載の画像処理方法。 - ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程とを備え、
前記生成工程は、前記記憶手段に格納されたシーン情報が示すシーンと、当該動画像の予め定められた時間分の先頭シーン及び終了シーンを時系列順にマージすることにより、抽出動画データを生成することを特徴とする画像処理方法。 - ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画の再生時間を指定する指定工程と、
前記指定工程で指定された再生時間に基づいて、前記生成工程でマージされる各シーンの長さを調整する調整工程とを備えることを特徴とする画像処理方法。 - 前記調整工程は、
各シーンに設定された重要度に基づいてシーン内の各フレームの重要度を決定し、該シーン内において閾値を越える重要度を有するフレームを抽出し、これをマージ対象のシーンとして前記生成工程に提供するフレーム抽出工程と、
前記生成工程で生成される抽出動画データの再生時間が、前記指定された再生時間の予め定められた誤差範囲に納まるように、前記フレーム抽出工程において用いられる閾値を制御する閾値制御工程とを備えることを特徴とする請求項29に記載の画像処理方法。 - 前記シーン情報によって指定される全てのシーンの合計時間が前記指定工程で指定された再生時間よりも短い場合、該指定された再生時間の予め定められた誤差範囲に納まるように各シーンのキーフレームを中心として再生時間を暫時延長する延長調整工程を更に備えることを特徴とする請求項30に記載の画像処理方法。
- ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画データを構成するシーンの中に、その再生時間が予め定められた時間よりも短いものが存在する場合に、これを除去する除去工程とを備えることを特徴とする画像処理方法。 - 前記除去工程で除去されたシーンの再生時間に相当する時間分だけ他のシーンを延長する延長工程を更に備えることを特徴とする請求項32に記載の画像処理方法。
- 前記延長工程は、前記抽出動画データ内における前記除去工程で除去されたシーンの前後に隣接するシーンのうちの設定された重要度の高いほうのシーンを、キーフレームを中心に時間延長することを特徴とする請求項33に記載の画像処理方法。
- ユーザの操作入力に応じて、動画像データ中の少なくとも1つの、複数フレームを含むシーンを特定し、特定されたシーンの各々からキーフレームとすべきフレームを特定する特定工程と、
前記特定工程で特定されたシーンの各々の重要度を設定する設定工程と、
前記特定工程で特定されたシーンとキーフレームを示す情報、及び前記設定工程で設定された重要度をシーン情報として当該動画像データに関連させて記憶手段に格納する格納工程と、
前記記憶手段に格納されたシーン情報に基づいて、動画再生が可能な抽出動画データを生成する生成工程と、
前記抽出動画の再生時間を指定する指定工程と、
前記記憶手段に格納されたシーン情報によって示されるシーンをその重要度の順に選択して予め定められた時間長分を切り出す切出し工程とを備え、
前記切出し工程は、切り出されたシーンの合計時間が前記指定工程で指定された指定時間を越えるまで処理を実行し、
前記生成工程は、前記切出し工程で切り出されたシーンを時系列関係を保ちながら順次マージして抽出動画データを生成することを特徴とする画像処理方法。 - 前記予め定められた時間長は、ユーザが動画を認識可能な長さであることを特徴とする請求項35に記載の画像処理方法。
- 前記シーン情報によって指定される全てのシーンの合計時間が前記指定工程で指定された再生時間よりも短い場合、該指定された再生時間の予め定められた誤差範囲に納まるように各シーンのキーフレームを中心として再生時間を暫時延長する延長調整工程を更に備えることを特徴とする請求項36に記載の画像処理方法。
- 前記シーン情報は、各キーフレームの画像の画像特徴量を含み、
前記キーフレームの一つが指定された場合に、該指定されたキーフレームと他のキーフレームの画像の類似度を各キーフレームの画像特徴量に基づいて算出する算出工程と、
前記算出工程で算出された類似度に基づいてキーフレームを提示する提示工程と、前記提示工程で提示されたキーフレームの中から選択されたキーフレームを含む動画像データに関して、前記生成工程で生成された抽出画像データを再生する再生工程とを更に備えることを特徴とする請求項28乃至37のいずれか1項に記載の画像処理方法。 - 前記キーフレームの特徴量情報は、該キーフレームの画像を複数ブロックに分割し、各ブロックについて取得された特徴量に応じてラベルを付与し、付与されたラベルを予め定められた順序で並べて得られるラベル列であることを特徴とする請求項38に記載の画像処理方法。
- 前記シーン情報は、各キーフレームの画像の画像特徴量を含み、
前記キーフレームをランダムに表示する第1工程と、
前記生成工程で生成された抽出画像データを再生する第2工程と、
指定されたキーフレームと他のキーフレームの画像の類似度を各キーフレームの画像特徴量に基づいて算出し、類似検索を行う第3工程と、
指定されたキーフレームから動画を再生する第4工程とを備え、
前記第1乃至第4工程を任意の組み合わせで機能させるべく操作可能としたことを特徴とする請求項28乃至37のいずれか1項に記載の画像処理方法。 - 前記特定工程で特定されたシーンを示す情報は当該シーンの開始フレームと終了フレームのそれぞれのフレーム番号を含み、キーフレームを示す情報は当該キーフレームのフレーム番号を含むことを特徴とする請求項23乃至40のいずれか1項に記載の画像処理方法。
- 前記フレーム識別子は、動画像データにおける先頭からのフレーム番号であることを特徴とする請求項41に記載の画像処理方法。
- 前記フレーム識別子は、動画像データにおける先頭から当該フレームまでの時間であることを特徴とする請求項41に記載の画像処理方法。
- 前記キーフレームの画像をサムネイル化して一覧表示する表示工程を更に備えることを特徴とする請求項23乃至43のいずれか1項に記載の画像処理方法。
- 請求項23乃至44のいずれか1項に記載の画像処理方法をコンピュータに実行させるための制御プログラムを格納したことを特徴とするコンピュータ読み取り可能な記憶媒体。
Priority Applications (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10576799A JP4227241B2 (ja) | 1999-04-13 | 1999-04-13 | 画像処理装置及び方法 |
US09/547,342 US6704029B1 (en) | 1999-04-13 | 2000-04-11 | Method and apparatus for specifying scene information in a moving picture |
EP00303086A EP1045316A3 (en) | 1999-04-13 | 2000-04-12 | Image processing method and apparatus |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP10576799A JP4227241B2 (ja) | 1999-04-13 | 1999-04-13 | 画像処理装置及び方法 |
Publications (3)
Publication Number | Publication Date |
---|---|
JP2000299829A JP2000299829A (ja) | 2000-10-24 |
JP2000299829A5 JP2000299829A5 (ja) | 2007-04-05 |
JP4227241B2 true JP4227241B2 (ja) | 2009-02-18 |
Family
ID=14416342
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP10576799A Expired - Fee Related JP4227241B2 (ja) | 1999-04-13 | 1999-04-13 | 画像処理装置及び方法 |
Country Status (3)
Country | Link |
---|---|
US (1) | US6704029B1 (ja) |
EP (1) | EP1045316A3 (ja) |
JP (1) | JP4227241B2 (ja) |
Families Citing this family (76)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US6571052B1 (en) * | 1997-07-11 | 2003-05-27 | Mitsubishi Denki Kabushiki Kaisha | Moving picture playback apparatus |
JP3192663B2 (ja) | 1997-07-11 | 2001-07-30 | 三菱電機株式会社 | 動画収集装置 |
JP2000350156A (ja) * | 1999-06-09 | 2000-12-15 | Hitachi Ltd | 動画像情報の記憶方法及びこれを記録した記録媒体 |
JP3323842B2 (ja) * | 1999-10-22 | 2002-09-09 | インターナショナル・ビジネス・マシーンズ・コーポレーション | 映像の要約方法及び装置 |
KR100512138B1 (ko) * | 2000-03-08 | 2005-09-02 | 엘지전자 주식회사 | 합성 키프레임을 이용한 비디오 브라우징 시스템 |
JP3619420B2 (ja) * | 2000-03-17 | 2005-02-09 | 株式会社デノン | 記録装置 |
JP2001320667A (ja) * | 2000-05-12 | 2001-11-16 | Sony Corp | サービス提供装置および方法、受信端末装置および方法、サービス提供システム |
JP3784289B2 (ja) * | 2000-09-12 | 2006-06-07 | 松下電器産業株式会社 | メディア編集方法及びその装置 |
JP3838483B2 (ja) * | 2000-12-27 | 2006-10-25 | Kddi株式会社 | オーディオ概要情報、オーディオビデオ概要情報の抽出装置、再生装置、および記録媒体 |
JP3640615B2 (ja) * | 2001-03-02 | 2005-04-20 | シャープ株式会社 | ダイジェスト作成装置 |
US7010744B1 (en) * | 2001-05-14 | 2006-03-07 | The Mathworks, Inc. | System and method of navigating and creating electronic hierarchical documents |
US7224892B2 (en) * | 2001-06-26 | 2007-05-29 | Canon Kabushiki Kaisha | Moving image recording apparatus and method, moving image reproducing apparatus, moving image recording and reproducing method, and programs and storage media |
JP4546682B2 (ja) * | 2001-06-26 | 2010-09-15 | パイオニア株式会社 | 映像情報要約装置、映像情報要約方法および映像情報要約処理プログラム |
KR100396580B1 (ko) * | 2001-07-16 | 2003-09-02 | 삼성에스디에스 주식회사 | 분산처리를 이용한 동영상 레이블 방법 및 그 장치 |
US7231131B2 (en) * | 2001-08-02 | 2007-06-12 | Warner Bros. Home Entertainment Inc. | Apparatus for generating content codes for audiovisual programs by multiple viewers |
US7330638B2 (en) * | 2001-08-02 | 2008-02-12 | Warner Bros. Home Entertainment Inc. | Apparatus generating content codes for audiovisual programs |
JP4426743B2 (ja) | 2001-09-13 | 2010-03-03 | パイオニア株式会社 | 映像情報要約装置、映像情報要約方法および映像情報要約処理プログラム |
TW544634B (en) * | 2001-10-05 | 2003-08-01 | Newsoft Technology Corp | Thumbnail sequence generation system and method |
JP4296376B2 (ja) * | 2001-12-14 | 2009-07-15 | 富士フイルム株式会社 | 動画取得方法 |
JP4194272B2 (ja) * | 2001-12-28 | 2008-12-10 | キヤノン株式会社 | 動画像管理装置及び方法 |
EP2202648A1 (en) * | 2002-04-12 | 2010-06-30 | Mitsubishi Denki Kabushiki Kaisha | Hint information describing method for manipulating metadata |
US7047494B2 (en) | 2002-05-07 | 2006-05-16 | Hewlett-Packard Development Company, L.P. | Scalable video summarization |
US7035435B2 (en) | 2002-05-07 | 2006-04-25 | Hewlett-Packard Development Company, L.P. | Scalable video summarization and navigation system and method |
JP3738843B2 (ja) * | 2002-06-11 | 2006-01-25 | ソニー株式会社 | 画像検出装置、画像検出方法および画像検出プログラム |
US7319764B1 (en) | 2003-01-06 | 2008-01-15 | Apple Inc. | Method and apparatus for controlling volume |
EP1642295A1 (en) * | 2003-07-03 | 2006-04-05 | Matsushita Electric Industrial Co., Ltd. | Video processing apparatus, ic circuit for video processing apparatus, video processing method, and video processing program |
GB2404299A (en) * | 2003-07-24 | 2005-01-26 | Hewlett Packard Development Co | Method and apparatus for reviewing video |
JP4217964B2 (ja) | 2003-08-20 | 2009-02-04 | ソニー株式会社 | 情報信号処理装置および情報信号処理方法 |
KR100991619B1 (ko) * | 2003-09-17 | 2010-11-04 | 엘지전자 주식회사 | 내용 기반 트릭 플레이를 위한 방송 서비스 방법 및 시스템 |
JP2005159781A (ja) * | 2003-11-27 | 2005-06-16 | Seiko Epson Corp | 画像選択処理装置、画像選択方法およびそのプログラム、記録媒体 |
US7664292B2 (en) * | 2003-12-03 | 2010-02-16 | Safehouse International, Inc. | Monitoring an output from a camera |
EP1657923A4 (en) * | 2004-03-04 | 2008-04-09 | Seiko Epson Corp | PROCESSING MOBILE IMAGE DATA |
US20050198067A1 (en) * | 2004-03-05 | 2005-09-08 | Casper Liu | Multi-resolution feature extraction for video abstraction |
JP4285287B2 (ja) * | 2004-03-17 | 2009-06-24 | セイコーエプソン株式会社 | 画像処理装置、画像処理方法およびそのプログラム、記録媒体 |
JP2005277733A (ja) * | 2004-03-24 | 2005-10-06 | Seiko Epson Corp | 動画像処理装置 |
JP2005293212A (ja) * | 2004-03-31 | 2005-10-20 | Toshiba Corp | 要約映像生成装置、要約映像生成方法及びプログラム |
JP4615262B2 (ja) | 2004-06-30 | 2011-01-19 | ソニー株式会社 | 再生装置およびその方法 |
JP4835439B2 (ja) * | 2004-08-10 | 2011-12-14 | ソニー株式会社 | 情報信号処理方法、情報信号処理装置及びコンピュータプログラム記録媒体 |
WO2006016605A1 (ja) * | 2004-08-10 | 2006-02-16 | Sony Corporation | 情報信号処理方法、情報信号処理装置及びコンピュータプログラム記録媒体 |
JP4772544B2 (ja) | 2005-04-27 | 2011-09-14 | 富士フイルム株式会社 | 撮像装置、撮像方法、及びプログラム |
JP4556789B2 (ja) * | 2005-07-07 | 2010-10-06 | ソニー株式会社 | 再生装置、再生方法および再生プログラム |
JP4412269B2 (ja) | 2005-07-28 | 2010-02-10 | ソニー株式会社 | 電子機器、表示処理方法及びプログラム |
JP2007049332A (ja) * | 2005-08-09 | 2007-02-22 | Sony Corp | 記録再生装置および記録再生方法、並びに、記録装置および記録方法 |
US20070098281A1 (en) * | 2005-10-31 | 2007-05-03 | International Business Machines Corporation | Damping rotational vibration in a multi-drive tray |
JP4670683B2 (ja) * | 2006-02-28 | 2011-04-13 | ソニー株式会社 | 画像処理装置および方法、データ記録媒体、プログラム記録媒体、並びにプログラム |
KR100836611B1 (ko) * | 2006-02-28 | 2008-06-10 | (주)케이티에프테크놀로지스 | 방송 프로그램을 배경화면으로 설정하는 방법 및 장치,이를 이용한 휴대용 단말기 |
JP4826333B2 (ja) * | 2006-05-11 | 2011-11-30 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP4642697B2 (ja) | 2006-05-24 | 2011-03-02 | Necディスプレイソリューションズ株式会社 | 画像キャッシュメモリを有する画像表示装置 |
JP2008016930A (ja) * | 2006-07-03 | 2008-01-24 | Sony Corp | 表示制御装置および方法、並びにプログラム |
US8331674B2 (en) * | 2007-04-06 | 2012-12-11 | International Business Machines Corporation | Rule-based combination of a hierarchy of classifiers for occlusion detection |
JP4952357B2 (ja) * | 2007-04-25 | 2012-06-13 | 三菱電機ビルテクノサービス株式会社 | エレベーターの防犯録画装置 |
JP2008004116A (ja) * | 2007-08-02 | 2008-01-10 | Hitachi Ltd | 映像中の文字検索方法及び装置 |
JP5309322B2 (ja) * | 2008-06-25 | 2013-10-09 | 株式会社日立ソリューションズ | 管理サーバ及びビデオコンテンツ処理方法 |
US8788963B2 (en) * | 2008-10-15 | 2014-07-22 | Apple Inc. | Scrollable preview of content |
EP2357815A4 (en) * | 2008-11-14 | 2012-06-20 | Panasonic Corp | PICTURE DEVICE AND SEPARATE PLAY PROCEDURE |
US8543921B2 (en) * | 2009-04-30 | 2013-09-24 | Apple Inc. | Editing key-indexed geometries in media editing applications |
JP5533861B2 (ja) | 2009-04-30 | 2014-06-25 | ソニー株式会社 | 表示制御装置、表示制御方法、及び、プログラム |
US8566721B2 (en) * | 2009-04-30 | 2013-10-22 | Apple Inc. | Editing key-indexed graphs in media editing applications |
US8503770B2 (en) | 2009-04-30 | 2013-08-06 | Sony Corporation | Information processing apparatus and method, and program |
JP2011010007A (ja) * | 2009-06-25 | 2011-01-13 | Sony Corp | 電子機器、画像出力方法及びプログラム |
JP2011035837A (ja) * | 2009-08-05 | 2011-02-17 | Toshiba Corp | 電子機器および画像データの表示方法 |
KR101647064B1 (ko) * | 2010-03-24 | 2016-08-23 | 삼성전자 주식회사 | 휴대 단말기의 입체 영상 출력 방법 및 장치 |
JP4892074B2 (ja) * | 2010-03-31 | 2012-03-07 | 株式会社東芝 | 電子機器、画像出力方法及びプログラム |
JP2012044390A (ja) * | 2010-08-18 | 2012-03-01 | Nippon Telegr & Teleph Corp <Ntt> | 映像要約装置および映像要約プログラム |
EP2423921A1 (en) * | 2010-08-31 | 2012-02-29 | Research In Motion Limited | Methods and electronic devices for selecting and displaying thumbnails |
US8621351B2 (en) | 2010-08-31 | 2013-12-31 | Blackberry Limited | Methods and electronic devices for selecting and displaying thumbnails |
CN103026704B (zh) * | 2011-05-23 | 2016-11-23 | 松下电器(美国)知识产权公司 | 信息处理装置、信息处理方法以及集成电路 |
JP2012256105A (ja) * | 2011-06-07 | 2012-12-27 | Sony Corp | 表示装置、オブジェクト表示方法、及びプログラム |
JP5532344B2 (ja) * | 2011-09-28 | 2014-06-25 | 株式会社東芝 | 電子機器、画像データの表示方法およびプログラム |
JP2014106637A (ja) * | 2012-11-26 | 2014-06-09 | Sony Corp | 情報処理装置および方法、並びにプログラム |
US11853690B1 (en) | 2016-05-31 | 2023-12-26 | The Mathworks, Inc. | Systems and methods for highlighting graphical models |
JP2017191609A (ja) * | 2017-04-14 | 2017-10-19 | ソニー株式会社 | 画像処理装置および画像処理方法 |
WO2020201780A1 (en) * | 2019-04-04 | 2020-10-08 | Google Llc | Video timed anchors |
CN111782874B (zh) * | 2020-06-30 | 2023-01-17 | 科大讯飞股份有限公司 | 视频检索方法、装置、电子设备和存储介质 |
CN115967823A (zh) * | 2021-10-09 | 2023-04-14 | 北京字节跳动网络技术有限公司 | 视频封面生成方法、装置、电子设备及可读介质 |
CN116188700B (zh) * | 2023-04-27 | 2023-07-14 | 南京大圣云未来科技有限公司 | 一种基于aigc自动生成3d场景的*** |
Family Cites Families (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH0778804B2 (ja) * | 1992-05-28 | 1995-08-23 | 日本アイ・ビー・エム株式会社 | シーン情報入力システムおよび方法 |
US5606690A (en) | 1993-08-20 | 1997-02-25 | Canon Inc. | Non-literal textual search using fuzzy finite non-deterministic automata |
JPH08191411A (ja) * | 1994-11-08 | 1996-07-23 | Matsushita Electric Ind Co Ltd | シーン判別方法および代表画像記録・表示装置 |
US5553221A (en) * | 1995-03-20 | 1996-09-03 | International Business Machine Corporation | System and method for enabling the creation of personalized movie presentations and personalized movie collections |
JP3250467B2 (ja) * | 1996-10-04 | 2002-01-28 | 松下電器産業株式会社 | 映像要約方法および映像表示方法 |
JP3754791B2 (ja) * | 1997-03-19 | 2006-03-15 | キヤノン株式会社 | 画像検索装置及び方法 |
US6400853B1 (en) | 1997-03-19 | 2002-06-04 | Canon Kabushiki Kaisha | Image retrieval apparatus and method |
JPH1175150A (ja) * | 1997-08-29 | 1999-03-16 | Hitachi Denshi Ltd | 動画像編集方法及び動画像編集装置並びに動画像編集動作を実行するためのプログラムを記録した記録媒体 |
JP3613543B2 (ja) * | 1997-11-11 | 2005-01-26 | 株式会社日立国際電気 | 動画像編集装置 |
JPH11238071A (ja) * | 1998-02-20 | 1999-08-31 | Toshiba Corp | ダイジェスト作成装置及びダイジェスト作成方法 |
JP3593273B2 (ja) * | 1998-12-24 | 2004-11-24 | シャープ株式会社 | 情報記録装置 |
-
1999
- 1999-04-13 JP JP10576799A patent/JP4227241B2/ja not_active Expired - Fee Related
-
2000
- 2000-04-11 US US09/547,342 patent/US6704029B1/en not_active Expired - Lifetime
- 2000-04-12 EP EP00303086A patent/EP1045316A3/en not_active Withdrawn
Also Published As
Publication number | Publication date |
---|---|
EP1045316A2 (en) | 2000-10-18 |
US6704029B1 (en) | 2004-03-09 |
EP1045316A3 (en) | 2006-02-08 |
JP2000299829A (ja) | 2000-10-24 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4227241B2 (ja) | 画像処理装置及び方法 | |
KR100602315B1 (ko) | 동화상데이터 관리장치 및 방법 | |
US7487524B2 (en) | Method and apparatus for presenting content of images | |
US6400890B1 (en) | Image retrieving method and apparatuses therefor | |
CN100367794C (zh) | 元数据编辑装置 | |
EP1168840A2 (en) | Method and apparatus for special video reproduction modes | |
US7849406B2 (en) | Apparatus and method for authoring | |
JP2000299829A5 (ja) | ||
JPH0993588A (ja) | 動画像処理方法 | |
US8311393B2 (en) | Image editing apparatus and method | |
JP2007020195A (ja) | 映像の検索方法および装置 | |
JP3897476B2 (ja) | 画像処理装置及びその方法、コンピュータ可読メモリ | |
JP6934402B2 (ja) | 編集システム | |
EP1308861A2 (en) | Image processing apparatus displaying a catalog of different types of data in a different manner | |
JP2001306579A (ja) | 情報検索装置、情報検索方法およびその方法をコンピュータに実行させるプログラムを記録したコンピュータ読み取り可能な記録媒体 | |
JP2009022018A (ja) | 映像の検索方法および装置 | |
JP2001054607A (ja) | ゴルフスイングフォーム記録再生装置 | |
JP4412894B2 (ja) | 画像抽出装置 | |
JP2005318618A (ja) | 動画像管理装置及び方法 | |
JP3931890B2 (ja) | 映像の検索方法および装置 | |
JPH1138954A (ja) | 画像表示装置、画像表示方法および画像表示プログラムを記録した媒体 | |
JP2000242649A (ja) | 画像検索装置および画像検索方法ならびにこの方法を記録した記録媒体 | |
JP2004088313A (ja) | 動画像整理方法および装置、動画像再生方法および装置並びにプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060413 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060413 |
|
RD01 | Notification of change of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7426 Effective date: 20060413 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20060413 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20080724 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080728 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080801 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20080807 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080926 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081121 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081128 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111205 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20121205 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20131205 Year of fee payment: 5 |
|
S802 | Written request for registration of partial abandonment of right |
Free format text: JAPANESE INTERMEDIATE CODE: R311802 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
LAPS | Cancellation because of no payment of annual fees |