JP2005025715A - ショートフィルム生成再生装置およびその方法 - Google Patents
ショートフィルム生成再生装置およびその方法 Download PDFInfo
- Publication number
- JP2005025715A JP2005025715A JP2003379610A JP2003379610A JP2005025715A JP 2005025715 A JP2005025715 A JP 2005025715A JP 2003379610 A JP2003379610 A JP 2003379610A JP 2003379610 A JP2003379610 A JP 2003379610A JP 2005025715 A JP2005025715 A JP 2005025715A
- Authority
- JP
- Japan
- Prior art keywords
- still image
- short film
- music
- unit
- style
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Landscapes
- Processing Or Creating Images (AREA)
Abstract
【解決手段】 入力画像から画像特徴量を抽出する画像特徴量抽出部1107と、画像特徴量をスタイル特徴量に変換する画像−スタイル特徴量変換部1115と、画像特徴量を音楽特徴量に変換する画像−音楽特徴量変換部1118と、スタイル特徴量に基づいてスタイルを決定するスタイル決定部1116と、音楽特徴量に基づいて音楽を決定する音楽決定部1119と、静止画、音楽、スタイルを用いてシナリオを生成するシナリオ生成部1117とを備えている。
【選択図】 図1
Description
まず、第1に、ユーザが静止画、音楽およびスタイルを選択した場合は、ときにスタイル(エフェクト)にアンマッチングなBGM、DSPが選ばれてしまい、ショートフィルムを見ていて、違和感を感じることがある。
第2に、静止画、音楽およびスタイルをユーザが全て選択しなければならず、非常に煩わしい。例えば、ユーザが使いたいDSPを選ぶのはともかく、ユーザが選んだ画像にマッチした音楽、スタイルを選ぶのは面倒である。また逆に、ユーザが夏らしい音楽を選択したときに、夏らしいDSPとアクティブなスタイルを選択したいと思ったとしても、莫大なDSPのライブラリの中から、適切な画像セットを選択するのは至難である。
第5に、オブジェクトの種類、例えば顔のパーツを認識した上で、視覚効果を適用していない。したがって、顔パーツの途中で切れたり、パーツの重要性を識別してスライドイン/アウトする順序が決定されないので、見ている側に違和感をもたらす。
また、静止画のオブジェクト情報を元にエフェクトの動作を確定するパラメータを決定することによって、エンターテイメント性を向上させたショートフィルムを生成し、再生することができるショートフィルム生成再生装置およびその方法を提供することを第3の目的とする。
これによって、映像を生成する際に用いる最適な音楽およびスタイルを決定することができる。
これによって、映像を生成する際に用いる最適な音楽および静止画を決定することができる。
これによって、映像を生成する際に用いる最適な静止画および音楽を決定することができる。
これによって、映像を生成する際に用いる最適な静止画、音楽およびスタイルを決定することができる。
これによって、画像特徴量を作成する煩雑を防止しつつ、静止画に合致した画像特徴量を取得することができる。
また、本発明に係るショートフィルム生成再生装置においては、前記スタイルは、対象となる1つ以上の静止画をどのような視覚効果を用いて再生するかを規定した所定数のエフェクトおよび属性を含むパラメータを有し、前記シナリオ生成手段は、前記エフェクトの対象である静止画の前記オブジェクト情報を前記エフェクトに関連付けることを特徴とすることもできる。
具体的には、本発明に係るショートフィルム生成再生装置においては、前記シナリオ生成手段は、前記スタイルが備える一群のエフェクトの中から1つのエフェクトを1つずつ選択し、選択したエフェクトを時間軸上に順次配置するエフェクト配置手段と、前記エフェクト配置手段が時間軸上に配置したエフェクト毎に、前記オブジェクト情報に基づいて、当該エフェクトが要求する画像の特徴量を満たす静止画を割り当てる静止画割当手段と、前記エフェクト配置手段が時間軸上に配置したエフェクトに合致したオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成し、生成したシナリオを前記データベース手段に登録するパラメータ設定手段とを有することを特徴とすることができる。
また、本発明に係るショートフィルム生成再生装置においては、前記エフェクトが要求する画像の特徴量は、オブジェクトの特徴量であることを特徴としてもよい。
また、本発明に係るショートフィルム生成再生装置においては、前記ショートフィルム生成再生装置は、さらにオブジェクトに含まれる特徴的な部分を示す特徴点を抽出し、抽出した特徴点を前記オブジェクト情報に登録する特徴点抽出手段を備え、前記パラメータ設定手段は、オブジェクトに含まれる特徴点の位置に対する処理を示すパラメータを記述することによってシナリオを生成することを特徴とすることもできる。
これによって、オブジェクトの特徴点に着目したエンターテイメント性を向上させたショートフィルムを生成し、再生することができる。
これによって、個人の属性で特定されるオブジェクトに対する処理を行う視覚効果を有するショートフィルムを生成し、再生することができる。
これによって、スタイルでシナリオの骨格を決めた後、その視覚効果をきめ細かく決めることができる。
これによって、スタイルでシナリオの骨格を決めた後、その視覚効果をよりきめ細かく決めることができる。
これによって、エフェクトに対して最適な静止画を割り当てることができる。
また、本発明に係るショートフィルム生成再生装置においては、前記ショートフィルム生成再生装置は、さらに、再生する映像の選択を行うためのショートフィルム選択手段と、前記ショートフィルム選択手段により選択された映像のシナリオおよび前記シナリオに定義された前記静止画と前記音楽とを前記データベース手段から読み出し、前記シナリオに基づいて前記映像を再生するショートフィルム再生手段とを備えることを特徴としてもよい。
これにより、作成済みのショートフィルムの中から好みのショートフィルムを選んで再生することができる。
また、本発明に係るショートフィルム生成再生装置においては、前記ショートフィルム再生手段は、前記映像を同時に複数再生し、前記RF信号を複数出力することを特徴とすることもできる。
また、本発明に係るショートフィルム生成再生装置においては、前記ショートフィルム生成再生装置は、ホームサーバであることを特徴とすることもできる。
また、本発明に係るショートフィルム生成再生装置においては、前記エフェクトが要求する画像の特徴量は、オブジェクトの特徴量であることを特徴としてもよい。
また、本発明に係るショートフィルム生成再生装置においては、前記オブジェクトの特徴は、オブジェクトの種類、色、形および数の少なくとも1つであることを特徴としてもよい。
また、本発明に係るショートフィルム生成再生装置においては、前記入力手段は、さらにオブジェクトに含まれる特徴的な部分を示す特徴点を抽出し、抽出した特徴点を前記オブジェクト情報に登録する特徴点抽出手段を備え、前記パラメータ設定手段は、オブジェクトに含まれる特徴点の位置に対する処理を示すパラメータを記述することによってシナリオを生成することを特徴とすることもできる。
これによって、オブジェクトの特徴点に着目したエンターテイメント性を向上させたショートフィルムを生成し、再生することができる。
これによって、個人の属性で特定されるオブジェクトに対する処理を行う視覚効果を有するショートフィルムを生成し、再生することができる。
これによって、ユーザはショートフィルム再生装置だけを手軽に持ち運ぶことができるので、外出先等で映像を再生することができる。
よって、静止画、音楽、スタイルといったショートフィルムの素材の特徴量を利用することで、より簡単、安易、手軽にショートフィルムを生成することができ、また、静止画内のオブジェクト情報を抽出することによって、より効果的にエフェクトを生かすことができるという点において、実用的価値は極めて高い。
また、静止画のオブジェクト情報を元にエフェクトの動作を確定するパラメータを決定することができるので、オブジェクトが分断されるような事態が回避され、オブジェクトに着目したエンターテイメント性を向上させたショートフィルムを生成し、再生することができる。
また、本発明に係るショートフィルム生成再生装置によれば、名前で特定されるオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成するので、オブジェクトの名前を認識した上で、視覚効果に反映させることによって、特定のオブジェクトにフォーカスしたショートフィルムを生成し、再生することができる。
よって、本発明により、静止画のオブジェクトに着目した種々の画像処理が可能となり、エンターテイメント性の高いショートフィルムを生成し、再生することが可能となり、デジタルカメラが普及してきた今日における本願発明の実用的価値は極めて高い。
(実施の形態1)
図1は、本発明の実施の形態1に係るショートフィルム生成再生装置の構成を示す機能ブロック図である。
ショートフィルム生成再生装置1001aは、入力された1つ以上の静止画を用いて、短編の映像(ショートフィルム)を生成し、再生する装置であり、図1に示されるように、入力部1101、データベース部1102、再生部1103、内部バス1104およびショートフィルム生成部1105aを備えている。また、再生部1103には、表示装置1002が接続されている。表示装置1002は、LCDや、ブラウン管など、映像を表示するためのデバイスであり、再生されたショートフィルムを表示する。
データベース部1102は、少なくとも一つのデータ記録装置を含み、静止画、音楽および予め設定された一つ以上のスタイルを記憶しており、データベース1109内のデータを検索する機能を有している。
画像内オブジェクト抽出部1108は、入力された画像データから、例えば人物等のオブジェクトを抽出し、オブジェクト情報を生成する。ここで、オブジェクト情報は、抽出したオブジェクトが接する円の中心の座標と半径の大きさによって表される位置情報と、オブジェクトの種類を含んでいる。オブジェクトの種類としては、人の顔であるか否かがある。この場合、例えば個人を識別する情報をオブジェクトの種類として持たせることもできる。なお、オブジェクトの位置情報は、円の中心と半径によって表現する方法に依らず、例えば四角形の一つの対角線の始点と終点の座標でも表すことが可能である。
画像選択部1113は、静止画を選択するためのGUI(グラフィカルユーザインタフェース)をユーザに提供する。画像特徴量読出部1114は、画像選択部1113を用いてユーザが選択した静止画の特徴量をデータベース1109から読み出す。画像−スタイル特徴量変換部1115は、画像特徴量読出部1114によって読み出された画像特徴量をスタイル特徴量に変換する。スタイル決定部1116は、スタイル特徴量に基づいてデータベース1109に記録されているスタイルを検索し、最適なスタイルを決定する。一方、画像−音楽特徴量変換部1118は、画像特徴量読出部1114によって読み出された画像特徴量を音楽特徴量に変換する。音楽決定部1119は、音楽特徴量に基づいてデータベース1109に記録されている音楽を検索し、最適な音楽を決定する。そして、シナリオ生成部1117は、ユーザが選択した静止画、スタイル決定部1116により決定されたスタイルおよび音楽決定部1119により決定された音楽を用いてシナリオを生成する。
スタイルは、生成するショートフィルム全般に共通する項目や属性を記述した“ヘッダ”と、一つのコンセプトの元に集められた任意の数の“エフェクトの集合”を含む構成である。このエフェクトは、対象となる1枚以上の静止画をどのような視覚効果を用いて再生するかを規定しており、実際の視覚効果を提供する関数と、その属性とが記述されている。このとき、スタイルの有する“エフェクトの集合”内においては、エフェクト間の時間軸における順列や対象となる静止画へのポインタは確定していない。属性としては、例えばスピード属性(例えば、“slow”、“normal”、“fast”)、配列属性(例えば、“prologue”、“body”、“epilogue”、“anywhere”)等がある。これら属性は、後述するシナリオ中でのエフェクトの配列順を決定する際に参照される。
シナリオの構成は、エフェクトの配列に関する属性であって、例えば、シナリオの構成が<“prologue”−“body”−“epilogue”>である場合、エフェクトが持つ配列属性に基づいて、1)プロローグ、2)本題、3)エピローグの順にそれぞれエフェクトを配列する。リズムは、エフェクトを配列する際において、スピード属性“fast”と“slow”を有するエフェクトを配列する比率を示す。例えば、リズムが<2−1>であるならば、“fast”の属性のあるエフェクトを2つ配列した後には必ず“slow”のスピード属性のあるエフェクトを配列する。スタイルの特徴量は、「激しさ」、「躍動感」、「爽快さ」、「素朴さ」、「ソフトさ」の5つのキーワードについて、それぞれ5段階のレベルで表している。
このエフェクトでは、図3(a)〜図3(e)に示すように人物が写った1枚の画像に対して、スポットライトがオブジェクトである顔を探索している。次に、図3(f)に示すように顔を探し当て、スポットライトを顔に合わせる。さらに、図3(g)に示すようにスポットライトの部分だけを切り取り、他の部分は消去する。最後に、図3(h)に示すようにスポットライトの部分にズームインして、画面いっぱいに拡大して表示している。
上記再生部1103は、ショートフィルム選択部1110およびショートフィルム再生部1112を備えている。
図4は、入力部1101における静止画入力時のアルゴリズムを示すフローチャートである。
静止画入力部1106は、メディアに記録されている静止画を本ショートフィルム生成再生装置1001a内のメモリに読み出す(S1101)。次に、画像特徴量抽出部1107は、読み出された画像データの画像特徴量を抽出する(S1102)。さらに、画像内オブジェクト抽出部1108は、静止画中のオブジェクトを抽出し、オブジェクト情報を生成する(S1103)。
図5は、ショートフィルム生成部1105でのシナリオの生成時のアルゴリズムを示すフローチャートである。
最初に、画像選択部1113は、ユーザから作成するショートフィルムの対象とする静止画(1枚以上)の選択範囲の決定を受け付ける(S1201)。ショートフィルムで使用する静止画は、この範囲内の静止画が対象となる。画像特徴量読出部1114は、選択された静止画(群)の画像特徴量および意味情報をデータベース1109から読み出す(S1202)。
次に、画像−音楽特徴量変換部1118は、画像特徴量読出部1114により決定された代表色を音楽感性イメージに変換する(S1204)。表1は、色に対する色感性イメージおよび音楽感性イメージの対応の一例を示す対応表である。ここで、音楽感性イメージは、それぞれの色に対する色感性イメージに基づいて予め設定されており、代表色が決まれば音楽感性イメージは決定する。また、音楽感性イメージは、スタイル特徴量と同様に、「激しさ」、「躍動感」、「爽快さ」、「素朴さ」、「ソフトさ」の5つのキーワードについて、それぞれ5段階のレベルで表されている。
シナリオ生成部1117は、上記のように決定された静止画、音楽およびスタイルを用いてシナリオを生成する(S1209)。
図6は、エフェクトの配列を決めるアルゴリズムを示すフローチャートである。
まず、シナリオ生成部1117は、音楽決定部1119で決定されたBGMとなる音楽を読み出し、その時間長を得る(S1301)。次に、シナリオ生成部1117は、スタイル決定部1116で決定されたスタイルを読み出し、その属性であるシナリオの構成およびリズムを得る(S1302)。
シナリオ生成部1117は、シナリオの構成および配列履歴に基づいて、次に配列すべきエフェクトの配列属性を決定する(S1304)。例えば、シナリオ構成が<“prologue”−“body”−“epilogue”>である場合、音楽の初めから0〜30%以内に配置するエフェクトは、“prologue”もしくは“anywhere”の配列属性を持つエフェクトである。また、音楽の初めから30〜80%に配置するエフェクトは、“body”もしくは“anywhere”の配列属性を持つエフェクトである。音楽の初めから80〜100%に配置するエフェクトは、“epilogue”もしくは“anywhere”の配列属性を持つエフェクトである。
エフェクトの配列属性およびスピード属性を決定する処理および配列すべきエフェクトを決定する処理について、音楽の時間長の95%を超えるまでエフェクトの配列を行うと(S1307)、シナリオ生成部1117は、スタイルのスピード属性を読み出し、時間的な調整を行う対象とするエフェクトを決定する(S1308)。例えば、スタイルの動き属性が“slow”である場合は、配列された全てのエフェクトが実行時間を伸張する対象である。スタイルの動き属性が“normal”である場合には、エフェクトのスピード属性が“slow”か“normal”であるエフェクトが対象である。スタイルの動き属性が“fast”である場合には、エフェクトのスピード属性が“slow”であるエフェクトが対象である。
シナリオ生成部1117は、時間的な調整の対象に決定したエフェクトの実行時間を伸張し、エフェクト配列の総実行時間が音楽と同じになるように調整する(S1309)。これによって、音楽の時間長に合わせて、エフェクトが配置されたことになる。
以上のように、シナリオ生成部1117はシナリオを生成する(図5、ステップS1209)。最後に、シナリオ生成部1117は、生成したシナリオをデータベース1109に保存する(S1210)。
再生部1103のショートフィルム選択部1110は、データベース部1102に登録されているショートフィルムのリストを取得し、ユーザに表示する。ユーザが見たいショートフィルムを選択すると、ショートフィルム選択部1110は、その選択されたショートフィルムのシナリオおよびそこに定義された音楽と静止画との読み出しを指示する。ショートフィルム再生部1112は、データベース1109から読み出されたシナリオをデコードし、読み出された音楽と静止画を用いてショートフィルムを再生し、表示装置1002へ出力する。
なお、本実施の形態1では、静止画の持つ画像特徴量の内、色ヒストグラムだけに着目して、静止画の代表色の色感性イメージをベースとして、音楽特徴量、スタイル特徴量に変換している。色ヒストグラムに限らず、空間周波数、オブジェクトの数等、他の特徴量に着目して、音楽特徴量、スタイル特徴量に変換しても構わない。また、それらの複合によって、音楽特徴量、スタイル特徴量に変換する方法であっても構わない。さらに、集計による方法に依らず、特徴的な静止画を抽出して、これを選択された静止画群の代表画像として、音楽特徴量およびスタイル特徴量を決定する方法であっても構わない。
次に、ユーザが音楽を選択することによって、その音楽のイメージに合ったショートフィルムを生成する場合について説明する。
図8は、本発明の実施の形態2に係るショートフィルム生成再生装置の他の構成を示すブロック図である。なお、実施の形態1のショートフィルム生成再生装置1001aと対応する部分に同じ番号を付し、その説明を省略する。
ショートフィルム生成部1105bは、ユーザが音楽を選択することによって、その音楽のイメージに合ったショートフィルムを生成する装置であって、上記したスタイル決定部1116およびシナリオ生成部1117の他、音楽選択部1120、音楽特徴量読出部1121、音楽−画像特徴量変換部1122、音楽−スタイル特徴量変換部1124および画像決定部1123を備えている。
図9は、ショートフィルム生成部1105bでのシナリオの生成時のアルゴリズムを示すフローチャートである。
最初に、ユーザは、作成するショートフィルムのBGMとしたい曲(音楽1)を音楽選択部1120により選択する(S1401)。音楽特徴量読出部1121は、選択された音楽1の音楽特徴量をデータベース1109から読み出す(S1402)。なお、本実施の形態2では、音楽特徴量をデータベース1109から読み出す形式としたが、音楽特徴量読出部1121に音楽特徴量を抽出する機能を持たせ、直接に選択された音楽から音楽特徴量を抽出しても構わない。次に、音楽特徴量読出部1121は、読み出した音楽特徴量を音楽感性イメージに変換する(S1403)。
シナリオ生成部1117は、上記のように決定された静止画、音楽およびスタイルを用いて上記実施の形態1と同様にシナリオを生成する(S1408)。最後に、シナリオ生成部1117は、生成したシナリオをデータベース1109に保存する(S1409)。
次に、ユーザがスタイルを選択することによって、そのスタイルのイメージに沿ったショートフィルムを生成する場合について説明する。
図10は、本発明の実施の形態3に係るショートフィルム生成再生装置の他の構成を示すブロック図である。なお、実施の形態1,2のショートフィルム生成再生装置1001a,1001bと対応する部分に同じ番号を付し、その説明を省略する。
ショートフィルム生成部1105cは、ユーザがスタイルを選択することによって、そのスタイルのイメージに沿ったショートフィルムを生成する装置であり、上記画像決定部1123、音楽決定部1119およびシナリオ生成部1117の他、スタイル選択部1125、スタイル特徴量読出部1126、スタイル−画像特徴量変換部1127およびスタイル−音楽特徴量変換部1128を備えている。
図11は、ショートフィルム生成部1105cでのシナリオの生成時のアルゴリズムを示すフローチャートである。
最初に、ユーザは、作成するショートフィルムで使用したいスタイルをスタイル選択部1125により選択する(S1501)。スタイル特徴量読出部1126は、選択されたスタイルをデータベース1109から読み出し、そのスタイルのヘッダ部分に図2に示すように記述されたスタイル特徴量を取得する(S1502)。次に、スタイル−音楽特徴量変換部1128は、スタイル特徴量を音楽特徴量に変換する(S1503)。本実施の形態3では、スタイル特徴量として、そのスタイルにマッチする音楽感性イメージを記述しておき、その音楽感性イメージを音楽特徴量に変換する。次に、音楽決定部1119は、音楽特徴量をキーとしてデータベース1109を検索し、ショートフィルムのBGMとする一つの音楽を決定する(S1504)。
シナリオ生成部1117は、上記のように決定された静止画、音楽およびスタイルを用いて上記実施の形態1,2と同様にシナリオを生成する(S1507)。最後に、シナリオ生成部1117は、生成したシナリオをデータベース1109に保存する(S1508)。
さらに、本実施の形態3では、画像決定部1123は、画像特徴量をキーとしてデータベース1109に記録されている静止画を検索しているが、これに限られるものではない。例えば、スタイル特徴量の一つとしてオブジェクト情報を定義し、画像決定部1123は、オブジェクト情報と画像特徴量によってデータベース1109に記録されている静止画を検索することも可能である。この場合、スナップ写真を中心とした静止画を見せるスタイルでは、人(顔)のオブジェクトがたくさん含まれる静止画を選択する方が好ましい。
次に、ユーザがテーマを選択することによって、そのテーマのイメージに沿ったショートフィルムを生成する場合について説明する。
図12は、本発明の実施の形態4に係るショートフィルム生成再生装置の他の構成を示すブロック図である。なお、実施の形態1〜3のショートフィルム生成再生装置1001a〜1001cと対応する部分に同じ番号を付し、その説明を省略する。
ショートフィルム生成部1105dは、ユーザがテーマを選択することによって、そのテーマのイメージに沿ったショートフィルムを生成する装置であり、画像決定部1123、スタイル決定部1116、音楽決定部1119およびシナリオ生成部1117の他、テーマ選択部1129、テーマ特徴量読出部1130、テーマ−画像特徴量変換部1131、テーマ−スタイル特徴量変換部1132およびテーマ−音楽特徴量変換部1133を備えている。
図13は、ショートフィルム生成部1105dでのシナリオの生成時のアルゴリズムを示すフローチャートである。
最初に、ユーザは、作成するショートフィルムで使用したいテーマをテーマ選択部1129により選択する(S1601)。テーマ特徴量読出部1130は、選択されたテーマのテーマ定義ファイルをデータベース1109から読み出す(S1602)。次に、テーマ−スタイル特徴量変換部1132は、テーマ定義ファイルに記述されたスタイル特徴量を取り出す(S1603)。そして、スタイル決定部1116は、スタイル特徴量をキーとしてデータベースを検索して、スタイルを決定する(S1604)。
次に、テーマ−画像特徴量変換部1131は、テーマ定義ファイルに記述された画像特徴量を取り出す(S1607)。そして、画像決定部1123は、画像特徴量をキーとしてデータベース1109に記録されている静止画を検索し、所定数の静止画を決定する(S1608)。
以上のように、ユーザが選択したテーマに基づいて、テーマに最適なスタイル、最適な音楽および最適な静止画を決定し、ショートフィルムを作成しているので、ユーザはショートフィルムを作成するときに膨大な画像、音楽およびスタイルの中から最適な静止画、音楽およびスタイルを選んだりする煩わしさを避けることができる。また、テーマを選択するだけでそのテーマに合ったショートフィルムを作成することが可能となり、ユーザにとって快適な作成環境が構築できる。
次に、シナリオ生成部1117におけるエフェクトと静止画の対応付けについて述べる。ここでは、図3に示すエフェクトに静止画を割り当てる場合について説明する。このエフェクトは、上記のように人物が写った1枚の静止画に対して、スポットライトがオブジェクトである顔を探索して、最終的に顔を探し当てて、最後にズームインするエフェクトを示したものである。
シナリオ生成部1117は、エフェクトの属性を読み出す(S1701)。このエフェクトの属性は、予め設定している静止画の検索ルールであって、例えば表4に示すように“顔の数”、“顔の位置”、“顔の大きさ”、“類似画像の数”等が設定されている。図3に示すエフェクトでは、人が一人で写っている静止画であれば効果的に見せることができるので、例えば検索ルールは「顔の数=1」と設定されている。
上記各実施の形態1〜5では、シナリオ生成部1117は、上記のように最初にエフェクトを配列し、次にエフェクトに対して、エフェクトの要求する画像特徴量を有する静止画をデータベース1109から選択することによって、エフェクトと静止画とのリンクを確定している。これに対して、本実施の形態6は、最初に静止画を配列した後、静止画の画像特徴量およびオブジェクト情報に基づいてエフェクトを選択することによって、エフェクトと静止画とのリンクを確定する場合である。
図16は、静止画に対してエフェクトを割り当てるアルゴリズムを示すフローチャートである。
シナリオ生成部1117は、決定されている静止画(複数)をデータベース1109に登録された順に読み出し、時間軸上に並べる(S1801)。次に、シナリオ生成部1117は、各静止画の画像特徴量およびオブジェクト情報に基づいて静止画の類似性および種類を決定する(S1802)。次に、シナリオ生成部1117は、例えば表5に示すような変換テーブルにより各静止画の類似性および種類に応じたエフェクトを割り当て、エフェクトと静止画とのリンクを確定する(S1803)。図15に示す例では、静止画Aにはスナップ写真(二人)の項から“spotlight2”を選択する。同様に、静止画B〜D、E、Fに“pan ”、“ still ”、 “zoomin1 ”といった視覚効果を選択する。なお、このときのエフェクトの選択は、同一項目内であればどれを選んでも構わないので、例えばランダム、ラウンドロビン等のルールにより選択すればよい。
以上のように、最初に静止画を配列した後、静止画の画像特徴量およびオブジェクト情報に基づいてエフェクトと静止画とのリンクを確定しているので、ユーザにより選択された静止画、または画像決定部1123により決定された静止画を全て素材として使用したシナリオを生成することが可能となる。また、静止画の画像特徴量およびオブジェクト情報に基づいて、静止画に適切なエフェクトを選択することができる。
また、最初に静止画を時間軸上に並べずに、静止画の画像特徴量およびオブジェクト情報に基づいてエフェクトと静止画とのリンクを確定した後、リンクが確定したエフェクトのみを時間軸上に配列することによってシナリオを生成しても構わない。
図17は、本発明の実施の形態7に係るショートフィルム生成再生装置の他の構成を示す機能ブロック図である。
静止画選択部2110は、メディアに記録されている静止画を本ショートフィルム生成再生装置2001内のメモリ(図示せず)に読み出すとともに、データベース2020に登録する。メディアは、例えば、コンパクトフラッシュ(R)メモリカード、SDメモリカード(R)等の半導体メモリメディア、CD−R/ROM/RW、DVD−R/RAM/RW等の光ディスクメディア、テープ、フレキシブルディスク等の磁気メディア、MO等の光磁気ディスク等である。
図18は、データベース2020に登録されたオブジェクト情報2220の構成例を示す図である。
エフェクトテーブル2230は、エフェクト群に含まれる各エフェクトのエフェクト名と、そのエフェクトが要求するオブジェクトの数との関係を示すテーブルである。
図19に示されるように、エフェクトテーブル2230は、エフェクト名の欄と、要求するオブジェクトの数の欄とから構成される。
エフェクト名の欄には、対象となる1枚以上の静止画をどのような視覚効果を用いて再生するかを規定するエフェクト名、例えば、スポットライトeff1、ズームeff2、トリミングeff3、クロストークeff4、スライドインeff5、スライドアウトeff6などの一覧が格納される。要求するオブジェクトの数の欄には、スポットライトeff1〜スライドアウトeff6に対応して、「1〜4」、「1〜4」、「1,2」、「2」、「いくつでもOK」、「いくつでもOK」がそれぞれ格納される。
シナリオ生成部2030は、ユーザが予め選択した静止画や、決定されたスタイルおよび音楽あるいは決定されたスタイル、音楽およびテーマを用いてシナリオを生成し、生成したシナリオをデータベース2020に登録するものであり、エフェクト配置部2310と、静止画割当部2320と、パラメータ設定部2330等とを備える。
例えば、エフェクトがスライドアウトeff6である場合を例に挙げると、
1.方向スライドアウトするブロックが動く方向(縦、横、斜め、中央から4角)
2.大きさスライドアウトするブロックの幅
3.順序ブロックがスライドアウトする順序
の3つのパラメータを確定することによって、スライドアウトの動作を確定することができる。
ショートフィルム選択部2410は、再生しようとするショートフィルムを選択するためのGUIをユーザに提供する。
表示部2050は、LCD、ブラウン管など映像を表示するためのデバイスと、内蔵されるスピーカとから構成され、再生されたショートフィルムの映像などを表示する。
図20は、入力部2010における静止画入力時のアルゴリズムを示すフローチャートである。
静止画選択部2110およびオブジェクト情報抽出部2120は、メディアに記録されている全ての静止画について、各静止画毎に以下の処理を繰り返し実行する(S2011)。
次に、オブジェクト情報抽出部2120は、読み出された静止画に含まれるオブジェクト(この実施の形態7では人の顔)を全て抽出し、当該オブジェクトの位置情報などから構成されるオブジェクト情報を生成する(S2014)。オブジェクト情報の生成が終わると、入力部2010は、オブジェクト情報をデータベース2020に登録する(S2015)。これによって、静止画2210に対応するオブジェクト情報2220(図18参照)がデータベース2020に登録される。
以上の処理により、画像処理の対象となる全ての静止画につき、それぞれオブジェクトの位置等が取得され、オブジェクトを中心とした画像処理が可能となる。
図21は、シナリオ生成部2030の各部が実行するシナリオを生成するまでのアルゴリズムを示したフローチャートである。なお、このシナリオ生成処理は、ショートフィルムで使用する静止画の対象範囲の指示をユーザから受け付けたり、このショートフィルムで使用する音楽や、スタイル、テーマが決定された後、実行される。
まず、静止画割当部2320は、エフェクトの属性情報中のオブジェクトの数をキーとして、要求するオブジェクトの数を満たす静止画をオブジェクト情報2220を用いて検索し、検索により得られた複数の静止画の中から1つ選択した静止画を、マップする静止画に決定する(S2023)。具体的には、エフェクトがスライドアウトeff6である場合、静止画割当部2320は、1つ以上のオブジェクトが写った写真を検索して、その結果得られる写真を1枚決定し、スライドアウトeff6にマッピングする。
全てのエフェクトについて、マップされる静止画の決定およびパラメータの決定が終わると(S2025)、シナリオが完成したので、シナリオ生成部2030は、生成したシナリオをデータベース2020に登録し(S2026)、シナリオ生成処理を終了する。
図22は、パラメータ設定部2330がエフェクトのバリエーションおよびパラメータを決定するアルゴリズムを説明するためのサブルーチンを示すフローチャートである。なお、説明を簡略化するため、「スライドアウト」を例に挙げて、パラメータの決定処理を具体的に説明する。
次いで、パラメータ設定部2330は、回転角:θ(θ=−90゜,θ=0゜,0゜<θ<90゜)について、ブロック境界線を取得し、縦、横、斜めでのフラグをセットする(S2402)。
図24は、オリジナルの座標系(x−o−y)をθ°(0゜<θ<90゜)回転させた回転座標系:s−o−t座標系を説明する図である。
図24(a)において、オブジェクトO[i]は、x−o−y座標系におけるオブジェクトの重心の座標(x[i],y[i])と、オブジェクトに外接する円の半径:r[i]によって表されるものとする。Hは、静止画の高さである。s−o−t座標系における座標(s[i],t[i])は、下記に示される式によって求めることができる。
まず、パラメータ設定部2330は、対象のオブジェクトO[i]のt軸上における正側にオブジェクトが存在するか、すなわち、t[i+1]があるか否か判断する(S2407)。t[i+1]が存在する場合(S2407でYes)、オブジェクトO[i]とt軸上における正側のオブジェクトO[i+1]の禁止帯間に隙間があるか否か判断する(S2408)。
全ての回転角θでのブロック境界線の取得およびそのθでのバリエーションにフラグをセットを実行すると(S2412)、パラメータ設定部2330は、静止画の中心を通るx軸に平行なブロック境界線と、y軸に平行なブロック境界線とで、静止画を4ブロックに分割する(S2413)。そして、パラメータ設定部2330は、全てのオブジェクトO[i]が4ブロックのいずれかに収まるか否か判断する(S2414)。
これに対して、オブジェクトO[i]の少なくとも1つが4ブロックのいずれかに収まらない場合(S2414でNo)、そのオブジェクトが分断されることになるので、4角のフラグをセットすることなく、ステップS2414に進む。
ブロックの幅、移動順序および移動方向、すなわち、スライドアウトに必要な全てのパラメータの決定が終わると、メインルーチンにリターンする。これによって、スライドアウトを含むシナリオがデータベース2020に登録される。
図25に示されるように、シナリオ2270は、時間軸上の時間割り当てを示す開始時刻および終了時刻と、当該時間軸上に割り当てられるエフェクトと、各エフェクトに割り当てられる静止画と、パラメータとから構成される。エフェクトがスライドアウトeff6の場合、パラメータには、選択されたバリエーション(θでのバリエーションを示すフラグF0=1およびそのθ)の他、スライドアウトするブロックの幅(当該ブロックを規定するブロック境界の位置yBL[j]およびθ)、スライドアウトするブロックの順序(B0、B1、…)、スライドアウトするブロックの方向(B0:右斜め上、B1:右斜め下、…)が記載される。
したがって、オブジェクトである人の顔が分断されるような事態が回避され、同じエフェクトであっても、マッピングされている静止画に最適なバリエーションのエフェクトを実行することができる。一方、見る側からすれば、同じエフェクトであってもマッピングされている静止画によって動作が異なることになる。その結果、再生時にユーザが見るショートフィルムは、同じエフェクトが続いた場合でも、あたかも異なるエフェクトが続くように見え、ワンパターンですぐに飽きてしまうものではなく、非常にエンターテイメント性の高いコンテンツを生成できる。さらに、同じエフェクトと静止画のマッピングであっても、複数のバリエーションから選択することも可能であり、異なる見せ方を実現することも可能である。
また、図23(c)と逆の傾きのブロック境界線を取得する場合には回転角θを90゜<θ<180゜の範囲で変更するようにすればよい。
次いで、本発明の実施の形態8に係るショートフィルム生成再生装置について説明する。
図26は、本発明の実施の形態8に係るショートフィルム生成再生装置の他の構成を示す機能ブロック図である。なお、実施の形態7のショートフィルム生成再生装置2001と対応する部分に同じ番号を付し、その説明を省略する。
図27(a)〜図27(g)に示されるように、絵コンテにおいては、頭、目、鼻、口を含むパーツのブロックを順次スライドアウトさせる横のスライドアウトの一種の処理によって、いわゆるモンタージュ風のエフェクトを実現したものが示されている。
本エフェクトでは、顔のパーツである目、鼻、口の位置と大きさを取得することによって、ブロックの幅を決め、モンタージュ風の視覚効果を得ることがミソである。
具体的には、エフェクトテーブル2231は、図28に示されるように、エフェクト名の欄と、要求するオブジェクトの数の欄と、要求するオブジェクトの特徴点の欄から構成される。そして、エフェクト名の欄には、モンタージュeff10が格納され、モンタージュeff10に対応する要求するオブジェクトの数の欄には「1」または「2」が格納され、要求するオブジェクトの特徴点の欄には頭、目、鼻、口が格納される。
静止画選択部2110およびオブジェクト情報抽出部2120は、メディアに記録されている全ての静止画について、各静止画毎に以下の処理を繰り返し実行する(S2011)。
全ての静止画について、データベース2021に対してその静止画2210およびオブジェクト情報2221の登録が終わると(S2016)、入力部2011は、データ入力処理を終了する。
オブジェクト情報2221は、図30に示されるように、抽出したオブジェクトが接する円の中心の座標と、半径の大きさによって表される位置情報と、対応する静止画のファイル名との他、特徴点を含んで構成される。特徴点としては、上記したように目頭、目尻、鼻の頂点、口の両端、眉の始まりと終わりの位置座標である。
次いで、シナリオ生成処理について説明する。
図31は、シナリオ生成部2031の各部が実行するシナリオを生成するまでのアルゴリズムを示したフローチャートである。なお、このシナリオ生成処理は、ショートフィルムで使用する静止画の対象範囲の指示をユーザから受け付けたり、このショートフィルムで使用する音楽や、スタイル、テーマが決定された後、実行される。
まず、静止画割当部2321は、エフェクトの属性情報中のオブジェクトの数および特徴点をキーとして、要求するオブジェクトの数を満たす静止画をオブジェクト情報2221を用いて検索し、検索により得られた複数の静止画の中から1つ選択した静止画を、マップする静止画に決定する(S2023)。具体的には、エフェクトの属性が要求するオブジェクトの数および特徴点を有する静止画を検索して、エフェクトにマッピングする。
図32は、データベース2021に登録されたシナリオ2271の構成例を示す図である。
なお、図33(a)に示すように、モンタージュにマップされた静止画に2人の顔が含まれている場合、2人の顔の部分をトリミングし、顔の大きさがほぼ同一となるように正規化し、オブジェクトのパーツの位置合わせをして、2枚の写真を重ね(図33(b)参照)、上位の写真をパーツのブロック毎にスライドアウトさせ、下位の写真がパーツ毎に見えてくるモンタージュ風の処理を行うようにしてもよい(図33(c)〜図33(h))。
(実施の形態9)
図34は、本発明の実施の形態9に係るショートフィルム生成再生装置2003の機能構成を示すブロック図である。
ところで、ショートフィルム生成再生装置2001の入力部2010ではオブジェクト(人の顔)の位置だけを抽出するように構成していたが、このショートフィルム生成再生装置2003の入力部2012は、入力部2010の構成に加えてそのオブジェクトが誰であるかを認証する顔認証部2140をさらに備えて構成され、この顔特徴点抽出部2130を追加することによって、認証された者を意識したエフェクト(例えば、スポットライト)に対応したシナリオを作成し、このシナリオを用いてショートフィルムを再生する点がショートフィルム生成再生装置2001と大きく異なっている。
このような処理を実現するために、データベース2022に格納されているエフェクトテーブル2232、オブジェクト情報2222およびシナリオ2272は、特定の者にスポットライトを当てるようなエフェクトが実現されるように構成される。
静止画選択部2110、オブジェクト情報抽出部2120および顔認証部2140は、メディアに記録されている全ての静止画について、各静止画毎に以下の処理を繰り返し実行する(S2011)。
全ての静止画について、データベース2022への全ての静止画2210およびオブジェクト情報2222の登録が終わると(S2216)、入力部2012は、データ入力処理を終了する。
オブジェクト情報2222は、図38に示されるように、抽出したオブジェクトが接する円の中心の座標と、半径の大きさによって表される位置情報と、対応する静止画のファイル名との他、名前を含んで構成される。
図39は、シナリオ生成部2032の各部が実行するシナリオを生成するまでのアルゴリズムを示したフローチャートである。なお、このシナリオ生成処理は、ショートフィルムで使用する静止画の対象範囲の指示をユーザから受け付けたり、このショートフィルムで使用する音楽や、スタイル、テーマが決定された後、実行される。
図40は、データベース2022に登録されたシナリオ2272の構成例を示す図である。
図41は、本発明の実施の形態10に係るショートフィルム生成再生装置2004の機能構成を示すブロック図である。
図41に示されるように、ショートフィルム生成再生装置2004は、入力部2013と、データベース2023と、シナリオ生成部2033と、再生部2040と、表示部2050と、これら入力部2013〜表示部2050を接続する内部バス2060との他、アドレス帳2070を含んで構成される。なお、実施の形態9のショートフィルム生成再生装置2003と対応する部分に同じ番号を付し、その説明を省略する。また、また、ここでは、実施の形態7,8の場合と同様に、上記のショートフィルム生成部1105a〜1105dの内、シナリオ生成部1117に対応するシナリオ生成部2033だけが示されている。
図43は、性別を用いたエフェクトの一例を示す絵コンテである。本エフェクトは、従来のスライドインのエフェクトに対して、オブジェクトが男女である場合には、その関係を暗示するようなキャラクタ(図43ではハートマーク)を表示するものである。男性の顔が含まれるブロックと女性の顔が含まれるブロックがスライドインしてきて、一枚の絵を生成する(図43(a)、図43(b))。その後、両者の関係を暗示するようなキャラクタ、例えばハートマークなどを表示する(図43(c)、図43(d))。これに対して、性別が男女でない場合には、図44に示されるように、通常の円によって、二人の顔にフォーカスする。
具体的には、エフェクトテーブル2233は、図45に示されるように、エフェクト名の欄および要求するオブジェクトの数の欄の他、要求するオブジェクトの性別およびキャラクタの欄をさらに備えて構成される。要求するオブジェクトの性別の欄には、男1人、かつ女1人や、その他の組み合わせも可が格納され、キャラクタの欄には男女の組の場合には「ハートマーク」が、その他の組み合わせの場合には「○」が格納される。これにより、性別の組み合わせに合致したキャラクタを表示するような視覚効果を得ることが可能となる。
静止画選択部2110、オブジェクト情報抽出部2120、顔認証部2140および個人情報検索部2150は、メディアに記録されている全ての静止画について、各静止画毎に以下の処理を繰り返し実行する(S2011)。
名前が登録されると、個人情報検索部2150は、名前でアドレス帳2070を検索し、その名前に対応する個人情報をオブジェクト情報2223に追加する(S2121)。全てのオブジェクト情報の生成が終わると、入力部2013は、オブジェクト情報2223をデータベース2023に登録する。これによって、静止画2210に対応するオブジェクト情報2223(図47参照)かデータベース2023に登録される。
図47は、上記のデータ入力処理でデータベース2023に格納されたオブジェクト情報2223の構成例を示す図である。
このように構成されたオブジェクト情報2223により、画像処理の対象となる全ての静止画につき、それぞれオブジェクトの位置および名前等が取得され、ユーザにより指定されたオブジェクトの性別の組を中心とした画像処理が可能となる。
最初に、エフェクト配置部2310は、エフェクトテーブル2233に格納されている複数のエフェクトの中からユーザによって指定された性別の組に合致した視覚効果を実行できるエフェクトを一つ選出し、選出した時間軸上に配置する(S2021)。具体的には、決定された音楽の時間長に合わせて、エフェクトのスティルや、ズーム等を、この順番に配置するような場合である。これによって、シナリオの骨格が形成される。
このように構成されたシナリオ2273を用いてショートフィルム再生すると、再生部2040のショートフィルム選択部2410によって、ショートフィルムのシナリオおよびそこに定義された音楽と静止画との読み出しが指示され、ショートフィルム再生部2420は、指示されたシナリオに従って音楽と静止画を用いてショートフィルムを再生し、表示部2050へ出力する。この場合、ショートフィルム再生部2420は、各エフェクト毎の静止画から、そのエフェクトに対応するパラメータで定義されているフレーム画像を生成し、ショートフィルムを再生する。そして、フレーム画像を生成する場合、静止画のオブジェクトの性別の組によって特定されるキャラクタを決定する。
以上のように、実施の形態10の発明によれば、顔認証部2140によって得られた静止画内のオブジェクトの名前を使って、アドレス帳とリンクすることによって、名前に付随する様々な属性(性別、年齢、所属、趣味など)をオブジェクト情報に追加することができる。したがって、それらの情報を使えば、同じエフェクトであっても新たなエンターテイメント性を見出すことができる。
また、上記実施の形態7では、静止画割当部2320は、エフェクト配置部2310が時間軸上に配置したエフェクト毎に、データベース2020に登録されたオブジェクト情報に基づいて、当該エフェクトが要求するオブジェクトの数を満たす静止画を割り当てるようにしたが、本実施の形態における静止画割当部2320は、エフェクトが要求するオブジェクトの種類、色、形および数の少なくとも1つを満たす静止画を割り当てるようにしてもよい。この場合にはオブジェクト情報抽出部2120でオブジェクトの色および形も抽出するようにすればよい。
(実施の形態11)
次に、エフェクトブロックを選択することによって、シナリオ、すなわちショートフィルムを生成する場合について説明する。
エフェクトブロックの集合は、図49に示されるように、一つ以上の基本エフェクトの並びを複数集めたものである。そして、各エフェクトブロックは、pan,still,wipein等の視覚的に一つの動きを示す基本エフェクトと、この基本エフェクトと同じ基本エフェクトや、この基本エフェクトと異なる基本エフェクトを少なくとも1つ組み合わせたものである。エフェクトブロックがその集合に含まれている状態(初期状態)では、それを再生するときのパラメータが何も決まっていない。
音楽特徴量か、画像特徴量のいずれかを元に、下記に示される1)〜4)を順次実行することにより、シナリオ、すなわちショートフィルムを生成することができる。
1)コンテンツを生成するために使用するエフェクトブロック(複数)を選出する。
2)コンテンツの特徴を決定するエフェクトブロックのパラメータを生成する。
3)音楽にマッチするようエフェクトブロックを時間軸上に配列する。
4)エフェクトブロックにマッチした画像をアロケー卜(割り当て)する。
音楽特徴量は,楽譜的情報と感性的情報の2つに分類できる。楽譜的情報はテンポ、変化点など、楽譜から取得できる情報であり、テンポは音楽全体のリズムの速さを表し、変化点は曲中の曲調が変化するポイントであったり、打楽器等の特徴的な音が入るポイントを示す。一方、感性的情報は、人がその音楽を聴いたときに感じる情報であり、人が音楽を聞いたときに感じるであろう感性を激しさ、躍動感、爽快感、素朴さ、ソフトさ等の感性キーワードについて10段階評価によるポイントによって表す。なお、10段階評価でなく、5段階でも3段階でもよい。他方、エフェクトブロックは1つ以上の基本エフェクトの順列であり、初期状態においては、その順列だけが決定済みであって、実際のエフェクトブロックのあらゆる動作、見え方を定義するパラメータである時間の長さ、開始位置、終了位置、色相などは何一つ未定義である。
基本エフェクトは、Pan、Slidein、Still、Wipein、Focusinなどのように視覚的に一つの動きを示したものである。エフェクトブロックは、任意の個数の基本エフェクトを時間軸上に並べることによって、例えば映画の1シーンのような一連のまとまりのある動きを定義したものである。
以下、音楽を選択したとき、その音楽特徴量を元に、エフェクトブロック、写真を素材として、ショートフィルム(コンテンツ)を自動生成するための構成およびアルゴリズムを示す。
図51に示されるように、ショートフィルム生成再生装置3000は、データベースに格納される音楽特徴量、画像特徴量や上記したエフェクトブロックの集合の他、エフェクトブロック選出部3002、パラメータ決定部3003、エフェクトブロック配列部3004、写真割当部3005および座標データ生成部3006を含んで構成される。なお、ここでは、ショートフィルム生成再生装置3000として、データベースおよびシナリオ生成部の部分だけが示されている。
ショートフィルム生成再生装置3000は、先ずショートフィルムのBGMとして再生する音楽をデータベースから選出する(S3001)。この選出方法は、ショートフィルム生成再生装置3000がGUIなどのインターフェースを提供して、ユーザが自分で好みの曲を選択する方法であっても、あるいは、ショートフィルム生成再生装置3000によってデータベースから自動的に選出する方法であっても構わない。音楽の選出が終わると、ショートフィルム生成再生装置3000は、音楽データとその音楽特徴量のデータをデータベースから読み出す。なお、データベースに音楽特徴量が存在しないような場合には、データベースから音楽データを読み出した際に、その音楽データから音楽特徴量データを抽出すればよい。
パラメータの決定が終わると、エフェクトブロック配列部3004は、音楽特徴量の楽譜的情報を元に選出した複数のエフェクトブロックの中から順次一つを選択して、時間軸上に配列していく(S3004)。より詳しくは、特に変化点の情報により、曲中の曲調が変化するポイントや打楽器のような特徴的な音が入るポイントにおいて、エフェクトの変化が一致するように配置する。例えば、変化点が連続する場合にはstill → still → stillのように表示する静止画が連続的に切り替わるエフェクトブロックを配置する。
なお、ステップS3002,S3003において,音楽特徴量を用いたが、音楽特徴量に代えて画像特徴量を用いることも可能である。つまり、ステップS3002では、画像特徴量として画像から抽出した代表色を用い、代表色が「赤」の場合には、変化の激しいエフェクトブロックを選出し、代表色が「青」の場合には、変化のゆったりとしたエフェクトブロックを選出するようにしてもよい。
したがって、本実施の形態11に係る発明によれば、エフェクトのつながりがスムーズになり、さらなる面白さを含んだエンターテイメント性の高い視覚効果を生み出すことができる。
図53は、本発明の実施の形態に係るショートフィルム生成再生システムの構成を示す機能ブロック図である。なお、上記各実施の形態と同様の部分については同じ記号を付し、説明を省略する。
本実施の形態12のショートフィルム生成再生システムは、上記各実施の形態に示す再生部1103をショートフィルム生成再生装置とは別に表示装置1002とともにショートフィルム再生装置1400として構成し、ショートフィルム生成再生装置1001eに通信部1401を備えている点が上記各実施の形態と相違しており、その他は同様である。
ショートフィルム選択部1110は、再生しようとするショートフィルムを選択するためのGUIをユーザに提供する。ショートフィルム再生部1112は、選択されたショートフィルムのシナリオ、並びにそこに定義された静止画と音楽を記憶部1403から読み出し、シナリオをデコードしてショートフィルムを再生する。通信部1404は、ネットワーク1402を介して外部の装置との通信を行う。記憶部1403は、外部の装置より通信部1404を経て受信したデータを一時的に保持する。表示部1111は、LCDなど映像を表示するためのデバイスであり、再生されたショートフィルムを表示する。
ショートフィルム選択部1110は、通信部1404およびネットワーク1402を介して、ショートフィルム生成再生装置1001eのデータベース部1102に登録されているショートフィルムのリストを取得し、ユーザに表示する。ユーザが見たいショートフィルムを選択すると、ショートフィルム選択部1110は、その名前を含む情報を通信部1404を介してショートフィルム生成再生装置1001eに送信し、選択されたショートフィルムのシナリオ、音楽および静止画の送信を要求する。
要求したショートフィルムのシナリオ、音楽および静止画を受信したショートフィルム再生装置1400の通信部1404は、そのシナリオ、音楽および静止画を記憶部1403に記憶する。次に、ショートフィルム再生部1112は、選択されたショートフィルムのシナリオ、静止画および音楽を記憶部1403から読み出し、シナリオをデコードしてショートフィルムを再生し、表示部1111へ出力する。
次に、上記各実施の形態1〜12のように構成されたショートフィルム生成再生装置でショートフィルムを再生する場合の他の実施の形態について説明する。
図54は、本発明に係るショートフィルム生成再生装置の他の実施の形態の構成を示すブロック図である。なお、上記各実施の形態1〜12と同様の部分については同じ記号を付し、説明を省略する。
ショートフィルム生成再生装置1001fの再生部1103は、再生したショートフィルムをRF信号に変調してテレビ1020へ出力している。ここで、RF信号はテレビチャンネルの周波数帯に変調された信号である。通常、周波数帯としてU/VHF帯が使われ、テレビのチャンネル(例えば5、7等)に対応する。
チャンネル選択部1021は、チューナおよび復調回路等(図示しない)を備えており、ショートフィルム生成再生装置1001fから入力されたRF信号およびアンテナ1003からの信号を受信し、所望の周波数を選択して表示部1022へ出力する。表示部1022は、LCD、ブラウン管など映像を表示するためのデバイスであり、再生されたショートフィルムを表示する。
ユーザは、リモコン1004のチャンネルボタン1042でショートフィルム生成再生装置1001fから入力されたRF信号が割り当てられたチャンネル(例えば5)を押下する。これを受けて、再生部1103のショートフィルム選択部1110は、データベース部1102に登録されているテーマを取得し、テーマ選択画面としてRF信号に変調してテレビ1020へ出力する。このテーマの選択については、後で詳しく説明する。
図55はテーマ選択画面の表示イメージ図であり、図56はユーザ選択画面のイメージ図である。
テーマ選択には、手動選択と自動選択とがあり、ユーザは予めどちらかを選択することができる。
また、テレビ1020の表示部1022を親子画面として構成し、ショートフィルムの再生を例えば子画面で表示させることも、逆に親画面で表示させることも可能である。
図57は、本発明に係るショートフィルム生成再生装置の他の実施の形態の構成を示すブロック図である。上記実施の形態13と同様の部分については同じ記号を付し、説明を省略する。
本実施の形態14は、ショートフィルム生成再生装置1001gからのRF信号出力を複数設けている点が上記実施の形態13と相違しており、その他は同様である。
テレビ1020のチャンネル選択部1021は、ショートフィルム生成再生装置1001gから入力された複数のRF信号およびアンテナ1003からの信号を受信し、所望の周波数を選択して表示部1022へ出力する。
なお、選択中のチャンネルボタン1042を押すたびに、テーマはそのままで再生中のショートフィルムが切り替わるようにすることも可能である。すなわち、チャンネルボタン1042でテーマ選択、同じボタンを押すたびにショートフィルムが切り替わる。この場合、ユーザは飽きることなくショートフィルムを楽しむことができる。
図58は、本発明に係るショートフィルム生成再生装置の他の実施の形態の構成を示すブロック図である。上記実施の形態13と同様の部分については同じ記号を付し、説明を省略する。
本実施の形態15は、ショートフィルム生成再生装置1001hからのショートフィルムの再生出力をビデオ信号で行っている点が上記実施の形態13と相違しており、その他は同様である。
テレビ1020は、ショートフィルム生成再生装置1001hから入力されたビデオ信号をビデオ入力端子(図示しない)で受信している。
リモコン1004は、メニューボタン1041およびショートフィルムボタン1043を備えている。ユーザは、リモコン1004により操作を行い、メニューボタン1041でショートフィルムのテーマを選択する。また、ショートフィルムボタン1043で、ショートフィルムを視聴する。すなわち、ショートフィルムボタン1043が押されると、テレビ1020は、ショートフィルム生成再生装置1001hから入力されたビデオ信号を選択して、表示する。ここで、ショートフィルムボタン1043を押すたびに再生中のショートフィルムが切り替わるようにすることも可能である。この場合、ユーザは飽きることなくショートフィルムを楽しむことができる。
なお、上記実施の形態13〜15では、ショートフィルム生成再生装置1001e〜1001hとテレビ1020とに分割して別に構成しているが、これに限られるものではなく、例えば全てを一体に構成しても構わない。
また、上記各実施の形態では静止画が記録されているメディアから静止画を入力するようにしたが、カメラ付き携帯電話機のように自装置で撮影した静止画や、メールに添付されて送られてくる静止画、ネットワークを介して受信した静止画などであってもよい。つまり、取得された静止画であれば、その取得の方式の如何に関係なく本願発明の範囲に含まれるのはいうまでもない。
2001〜2004,3000 ショートフィルム生成再生装置
1002 表示装置
1020 テレビ
1022,1111,2050 表示部
1030,1117,2030〜2033 シナリオ生成部
1043 ショートフィルムボタン
1101,2010〜2013 入力部
1103,2040 再生部
1105a〜1105d ショートフィルム生成部
1106 静止画入力部
1107 画像特徴量抽出部
1108 画像内オブジェクト抽出部
1109,2020〜2023 データベース
1110,2410 ショートフィルム選択部
1112,2420 ショートフィルム再生部
1113 画像選択部
1114 画像特徴量読出部
1115 画像−スタイル特徴量変換部
1116 スタイル決定部
1118 画像−音楽特徴量変換部
1119 音楽決定部
1120 音楽選択部
1121 音楽特徴量読出部
1122 音楽−画像特徴量変換部
1123 画像決定部
1124 音楽−スタイル特徴量変換部
1125 スタイル選択部
1126 スタイル特徴量読出部
1127 スタイル−画像特徴量変換部
1128 スタイル−音楽特徴量変換部
1129 テーマ選択部
1130 テーマ特徴量読出部
1131 テーマ−画像特徴量変換部
1132 テーマ−スタイル特徴量変換部
1133 テーマ−音楽特徴量変換部
1202 画像特徴量抽出部
1400 ショートフィルム再生装置
1401,1404 通信部
1603 画像−スタイル特徴量変換部
1604 スタイル決定部
1605 画像−音楽特徴量変換部
1606 音楽決定部
2070 アドレス帳
2110 静止画選択部
2120 オブジェクト情報抽出部
2130 顔特徴点抽出部
2140 顔認証部
2150 個人情報検索部
2210 静止画
2213 位置情報
2220〜2223 オブジェクト情報
2230〜2233 エフェクトテーブル
2240 音楽
2250 スタイル
2260 テーマ
2270〜2273 シナリオ
2280 顔情報
2310 エフェクト配置部
2320〜2323 静止画割当部
2330〜2333 パラメータ設定部
3002 エフェクトブロック選出部
3003 パラメータ決定部
3004 エフェクトブロック配列部
3005 写真割当部
3006 座標データ生成部
Claims (40)
- 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置であって、
前記静止画、前記静止画の特徴を表す画像特徴量、生成する映像の全体的なイメージを表すスタイル、当該スタイルの特徴を表すスタイル特徴量、音楽および当該音楽の特徴を表す音楽特徴量を記憶するデータベース手段と、
映像を生成する際に用いる前記静止画、前記音楽および前記スタイルのいずれか1つを選択するための選択手段と、
前記選択手段により選択された前記静止画、前記音楽および前記スタイルのいずれか1つに対応する特徴量を前記データベース手段から読み出す特徴量読出手段と、
前記特徴量読出手段により読み出された前記特徴量を他の特徴量に変換する特徴量変換手段と、
前記特徴量変換手段により変換された前記他の特徴量に基づいて、映像を生成する際に用いる前記静止画、前記音楽および前記スタイルの内、前記選択手段により選択されなかった前記静止画、前記音楽および前記スタイルをそれぞれ決定する決定手段と、
前記選択手段により選択された前記静止画、前記音楽および前記スタイルのいずれか1つ並びに前記決定手段により決定された前記静止画、前記音楽および前記スタイルに基づいて映像のシナリオを生成するシナリオ生成手段と
を備えることを特徴とするショートフィルム生成再生装置。 - 前記選択手段により静止画が選択された場合、前記特徴量変換手段は、前記特徴量読出し手段により読み出された画像特徴量を音楽特徴量およびスタイル特徴量に変換する
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記選択手段により音楽が選択された場合、前記特徴量変換手段は、前記特徴量読出し手段により読み出された音楽特徴量を画像特徴量およびスタイル特徴量に変換する
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記選択手段によりスタイルが選択された場合、前記特徴量変換手段は、前記特徴量読出し手段により読み出されたスタイル特徴量を画像特徴量および音楽特徴量に変換する
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記データベース手段は、さらに、生成する映像のテーマおよび当該テーマの特徴を表すテーマ特徴量を記憶し、
前記選択手段は、映像を生成する際に用いる前記静止画、前記音楽、前記スタイルおよび前記テーマのいずれか1つを選択し、
前記特徴量読出手段は、前記選択手段により選択された前記静止画、前記音楽、前記スタイルおよび前記テーマのいずれか1つの特徴量を前記データベース手段から読み出す
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記特徴量変換手段は、前記特徴量読出し手段により読み出されたテーマ特徴量を画像特徴量、音楽特徴量およびスタイル特徴量に変換する
ことを特徴とする請求項2記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、静止画を取得する静止画取得手段と、
前記静止画取得手段により取得された静止画から画像特徴量を抽出する画像特徴量抽出手段と
を備えることを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、前記静止画取得手段により取得された静止画から、当該静止画に含まれるオブジェクトの情報を表すオブジェクト情報を抽出するオブジェクト情報抽出手段
を備えることを特徴とする請求項7記載のショートフィルム生成再生装置。 - 前記スタイルは、対象となる1つ以上の静止画をどのような視覚効果を用いて再生するかを規定した所定数のエフェクトおよび属性を含むパラメータを有し、
前記シナリオ生成手段は、前記エフェクトの対象である静止画の前記オブジェクト情報を前記エフェクトに関連付ける
ことを特徴とする請求項8記載のショートフィルム生成再生装置。 - 前記シナリオ生成手段は、
前記スタイルが備える一群のエフェクトの中から1つのエフェクトを1つずつ選択し、選択したエフェクトを時間軸上に順次配置するエフェクト配置手段と、
前記エフェクト配置手段が時間軸上に配置したエフェクト毎に、前記オブジェクト情報に基づいて、当該エフェクトが要求する画像の特徴量を満たす静止画を割り当てる静止画割当手段と、
前記エフェクト配置手段が時間軸上に配置したエフェクトに合致したオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成し、生成したシナリオを前記データベース手段に登録するパラメータ設定手段とを有する
ことを特徴とする請求項9記載のショートフィルム生成再生装置。 - 前記エフェクトが要求する画像の特徴量は、オブジェクトの特徴量である
ことを特徴とする請求項10記載のショートフィルム生成再生装置。 - 前記オブジェクトの特徴は、オブジェクトの種類、色、形および数の少なくとも1つである
ことを特徴とする請求項10記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらにオブジェクトに含まれる特徴的な部分を示す特徴点を抽出し、抽出した特徴点を前記オブジェクト情報に登録する特徴点抽出手段を備え、
前記パラメータ設定手段は、オブジェクトに含まれる特徴点の位置に対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項10記載のショートフィルム生成再生装置。 - 前記データベース手段は、さらに、個人の顔を特定するための個人認証用顔情報を記憶し、
前記ショートフィルム生成再生装置は、さらに、前記オブジェクト情報抽出手段が抽出したオブジェクトが人の顔である場合、前記個人認証用顔情報を用いてオブジェクトの名前を認証し、認証したオブジェクトの名前を前記オブジェクト情報に登録する顔認証手段を有し、
前記パラメータ設定手段は、名前で特定されるオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項10記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに
個人の名前とその個人の属性とを対応付けた個人情報を記憶する個人情報記憶手段と、
顔認証手段が認証したオブジェクトの名前に対応する個人の属性を前記個人情報から検索し、検索した個人の属性を前記オブジェクト情報に登録する個人情報検索手段とを有し、
前記パラメータ設定手段は、個人の属性で特定されるオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項14記載のショートフィルム生成再生装置。 - 前記スタイルは、対象となる1つ以上の静止画をどのような視覚効果を用いて再生するかを規定した所定数のエフェクトおよび属性を含むパラメータを有し、
前記シナリオ生成手段は、前記スタイルが有する前記属性および前記エフェクトが有する属性に基づいて、前記エフェクトの配列を行う
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記エフェクトは、1つのエフェクトだけで構成される基本エフェクトおよび複数の基本エフェクトの組み合わせで構成されるエフェクトブロックのいずれかであり、
前記シナリオ生成手段は、前記スタイルが有する前記属性および前記エフェクトが有する属性に基づいて、前記基本エフェクトまたは前記エフェクトブロックの配列を行う
ことを特徴とする請求項16記載のショートフィルム生成再生装置。 - 前記シナリオ生成手段は、前記エフェクトに当該エフェクトの種類に応じた静止画を割り当てる
ことを特徴とする請求項16記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、再生する映像の選択を行うためのショートフィルム選択手段と、
前記ショートフィルム選択手段により選択された映像のシナリオおよび前記シナリオに定義された前記静止画と前記音楽とを前記データベース手段から読み出し、前記シナリオに基づいて前記映像を再生するショートフィルム再生手段と
を備えることを特徴とする請求項1記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、前記ショートフィルム再生手段により再生された前記映像を表示するための表示手段
を備えることを特徴とする請求項19記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、当該装置および当該装置に接続される前記映像を表示するための表示装置の操作を行うための操作手段を備え、
前記ショートフィルム再生手段は、前記映像を再生した信号をRF信号に変調して出力するとともに、前記操作手段に設けられ、前記RF信号が割り当てられた所定のチャンネルボタンが押下されると、前記映像の再生を開始する
ことを特徴とする請求項19記載のショートフィルム生成再生装置。 - 前記ショートフィルム再生手段は、前記チャンネルボタンが押下される毎に、再生を行っている前記映像を他の映像に切り替える
ことを特徴とする請求項21記載のショートフィルム生成再生装置。 - 前記ショートフィルム再生手段は、前記映像を同時に複数再生し、前記RF信号を複数出力する
ことを特徴とする請求項22記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに、当該装置および当該装置に接続される前記映像を表示するための表示装置の操作を行うための操作手段を備え、
前記ショートフィルム再生手段は、前記映像を再生した信号をビデオ信号に変調して出力するとともに、前記操作手段に設けられ、前記ビデオ信号が割り当てられた所定のボタンが押下されると、前記映像の再生を開始する
ことを特徴とする請求項19記載のショートフィルム生成再生装置。 - 前記ショートフィルム再生手段は、前記ボタンが押下される毎に、再生を行っている前記映像を他の映像に切り替える
ことを特徴とする請求項24記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、ホームサーバである
ことを特徴とする請求項1記載のショートフィルム生成再生装置。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置であって、
当該装置および当該装置に接続される映像を表示するための表示装置の操作を行うための操作手段と、
映像を再生した信号をRF信号に変調して出力するとともに、前記操作手段に設けられ、前記RF信号が割り当てられた所定のボタンが押下されると、映像の再生を開始するショートフィルム再生手段
を備えることを特徴とするショートフィルム生成再生装置。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置であって、
前記静止画、前記静止画の特徴を表す画像特徴量、音楽、前記音楽の特徴を表す音楽特徴量および対象となる1以上の静止画をどのような視覚効果を用いて再生するかを規定したエフェクトを記憶するデータベース手段と、
映像を生成する際に用いる前記静止画および前記音楽のいずれか1つを選択するための選択手段と、
前記選択手段により選択された前記静止画および前記音楽のいずれかの特徴を表す特徴量を前記データベース手段から読み出す特徴量読出手段と、
前記特徴量読出手段により読み出された前記特徴量を他の特徴量に変換する特徴量変換手段と、
前記特徴量変換手段により変換された前記他の特徴量に基づいて、それぞれ映像を生成する際に用いる前記静止画および前記音楽の内、前記選択手段により選択されなかった前記静止画および前記音楽を決定する決定手段と、
前記選択手段により選択され前記静止画および前記音楽のいずれか並びに前記決定手段により決定された前記静止画および前記音楽に基づいて、映像を生成する際に用いる所定数の前記エフェクトおよびパラメータを決定し、生成する映像の全体的なイメージを表すスタイルを生成するスタイル生成手段と、
前記選択手段により選択され前記静止画および前記音楽のいずれか、前記決定手段により決定された前記静止画および前記音楽並びに前記スタイル生成手段により生成された前記スタイルに基づいて映像のシナリオを生成するシナリオ生成手段と
を備えることを特徴とするショートフィルム生成再生装置。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置であって、
静止画を取得する静止画取得手段と、
前記静止画を記憶するデータベース手段と、
前記静止画取得手段により取得された静止画から、当該静止画に含まれるオブジェクトを抽出し、抽出したオブジェクトの位置を含むオブジェクト情報を前記データベース手段に登録するオブジェクト情報抽出手段と
を備えることを特徴とするショートフィルム生成再生装置。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置であって、
外部から入力された静止画を入力する入力手段と、
前記静止画、対象となる1つ以上の静止画をどのような視覚効果を用いて再生するかを規定した所定数のエフェクトとパラメータとを有するスタイルおよび生成する映像に用いられる音楽を記憶するデータベース手段と、
予め決定されたスタイルおよび音楽の特徴に基づいて、映像のシナリオを生成するシナリオ生成手段とを備え、
前記入力手段は、
外部から静止画が入力される毎に、当該静止画に含まれるオブジェクトを抽出し、抽出したオブジェクトの位置を含むオブジェクト情報を前記データベース手段に登録するオブジェクト情報抽出手段を有し、
前記シナリオ生成手段は、
前記データベース手段に記憶される一群のエフェクトの中から1つのエフェクトを1つずつ選択し、選択したエフェクトを時間軸上に順次配置するエフェクト配置手段と、
前記エフェクト配置手段が時間軸上に配置したエフェクト毎に、前記データベース手段に登録されたオブジェクト情報に基づいて、当該エフェクトが要求する画像の特徴量を満たす静止画を割り当てる静止画割当手段と、
前記エフェクト配置手段が時間軸上に配置したエフェクトに合致したオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成し、生成したシナリオを前記データベース手段に登録するパラメータ設定手段とを有する
ことを特徴とするショートフィルム生成再生装置。 - 前記エフェクトが要求する画像の特徴量は、オブジェクトの特徴量である
ことを特徴とする請求項30記載のショートフィルム生成再生装置。 - 前記オブジェクトの特徴は、オブジェクトの種類、色、形および数の少なくとも1つである
ことを特徴とする請求項31記載のショートフィルム生成再生装置。 - 前記入力手段は、さらにオブジェクトに含まれる特徴的な部分を示す特徴点を抽出し、抽出した特徴点を前記オブジェクト情報に登録する特徴点抽出手段を備え、
前記パラメータ設定手段は、オブジェクトに含まれる特徴点の位置に対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項30記載のショートフィルム生成再生装置。 - 前記データベース手段は、さらに、個人の顔を特定するための個人認証用顔情報を記憶し、
前記入力手段は、さらに、前記オブジェクト情報抽出手段が抽出したオブジェクトが人の顔である場合、前記個人認証用顔情報を用いてオブジェクトの名前を認証し、認証したオブジェクトの名前を前記オブジェクト情報に登録する顔認証手段を有し、
前記パラメータ設定手段は、名前で特定されるオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項30記載のショートフィルム生成再生装置。 - 前記ショートフィルム生成再生装置は、さらに個人の名前とその個人の属性とを対応付けた個人情報を記憶する個人情報記憶手段を備え、
前記入力手段は、さらに顔認証手段が認証したオブジェクトの名前に対応する個人の属性を前記個人情報から検索し、検索した個人の属性を前記オブジェクト情報に登録する個人情報検索手段を有し、
前記パラメータ設定手段は、個人の属性で特定されるオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成する
ことを特徴とする請求項34記載のショートフィルム生成再生装置。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生装置と、ネットワークを介して前記ショートフィルム生成再生装置と接続されるショートフィルム再生装置とを備えるショートフィルム生成再生システムであって、
前記ショートフィルム生成再生装置は、
前記静止画、前記静止画の画像特徴量、生成する映像の全体的なイメージを表すスタイル、前記スタイルのスタイル特徴量、音楽および前記音楽の音楽特徴量を記憶するデータベース手段と、
映像を生成する際に用いる前記静止画、前記音楽および前記スタイルのいずれか1つを選択するための選択手段と、
前記選択手段により選択された前記静止画、前記音楽および前記スタイルのいずれか1つに対応する特徴量を前記データベース手段から読み出す特徴量読出手段と、
前記特徴量読出手段により読み出された前記特徴量を他の特徴量に変換する特徴量変換手段と、
前記特徴量変換手段により変換された前記他の特徴量に基づいて、映像を生成する際に用いる前記静止画、前記音楽および前記スタイルの内、前記選択手段により選択されなかった前記静止画、前記音楽および前記スタイルをそれぞれ決定する決定手段と、
前記選択手段により選択された前記静止画、前記音楽および前記スタイルのいずれか1つ並びに前記決定手段により決定された前記静止画、前記音楽および前記スタイルに基づいて映像のシナリオを生成するシナリオ生成手段と、
前記ショートフィルム再生装置により選択された映像のシナリオおよび前記シナリオに定義された前記静止画と前記音楽とを前記データベース手段から読み出し、前記ネットワークを介して前記ショートフィルム再生装置へ送信する通信手段とを備え、
前記ショートフィルム再生装置は、
再生する映像の選択を行うためのショートフィルム選択手段と、
前記ネットワークを介して前記ショートフィルム生成再生装置と通信を行う通信手段と、
前記ショートフィルム生成再生装置より受信した映像のシナリオおよび前記シナリオに定義された前記静止画と前記音楽とを一時的に保持する記憶手段と、
前記ショートフィルム選択手段により選択された映像のシナリオおよび前記シナリオに定義された前記静止画と前記音楽とを前記記憶手段から読み出し、前記シナリオに基づいて前記映像を再生するショートフィルム再生手段と、
前記ショートフィルム再生手段により再生された前記映像を表示するための表示手段とを備える
ことを特徴とするショートフィルム生成再生システム。 - 少なくとも1つの静止画を用いて、映像を生成し、再生するショートフィルム生成再生方法であって、
映像を生成する際に用いる静止画、音楽および生成する映像の全体的なイメージを表すスタイルのいずれか1つを選択するための選択ステップと、
前記選択ステップにより選択された前記静止画、前記音楽および前記スタイルのいずれか1つに対応する特徴量を読み出す特徴量読出ステップと、
前記特徴量読出ステップにより読み出された前記特徴量を他の特徴量に変換する特徴量変換ステップと、
前記特徴量変換ステップにより変換された前記他の特徴量に基づいて、映像を生成する際に用いる前記静止画、前記音楽および前記スタイルの内、前記選択手段により選択されなかった前記静止画、前記音楽および前記スタイルをそれぞれ決定する決定ステップと、
前記選択ステップにより選択された前記静止画、前記音楽および前記スタイルのいずれか1つ並びに前記決定ステップにより決定された前記静止画、前記音楽および前記スタイルに基づいて映像のシナリオを生成するシナリオ生成ステップと
を含むことを特徴とするショートフィルム生成再生方法。 - 少なくとも1つの静止画を用いて、映像を生成再生するショートフィルム生成再生方法であって、
外部から入力された静止画を入力する入力ステップと、
予め決定された生成する映像の全体的なイメージを表すスタイルおよび生成する映像に用いられる音楽の特徴に基づいて、映像のシナリオを生成するシナリオ生成ステップとを含み、
前記入力ステップは、
外部から静止画が入力される毎に、当該静止画に含まれるオブジェクトを抽出し、抽出したオブジェクトの位置を含むオブジェクト情報を生成するオブジェクト情報抽出ステップを含み、
前記シナリオ生成ステップは、
一群のエフェクトの中から1つのエフェクトを1つずつ選択し、選択したエフェクトを時間軸上に順次配置するエフェクト配置ステップと、
前記エフェクト配置ステップが時間軸上に配置したエフェクト毎に、前記オブジェクト情報に基づいて、当該エフェクトが要求する画像の特徴を満たす静止画を割り当てる静止画割当ステップと、
前記エフェクト配置ステップが時間軸上に配置したエフェクトに合致したオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成するパラメータ設定ステップとを含む
ことを特徴とするショートフィルム生成再生方法。 - 少なくとも1つ以上の静止画を用いて、映像を生成し、再生するためのプログラムであって、
映像を生成する際に用いる静止画、音楽および生成する映像の全体的なイメージを表すスタイルのいずれか1つを選択するための選択ステップと、
前記選択ステップにより選択された前記静止画、前記音楽および前記スタイルのいずれか1つに対応する特徴量を読み出す特徴量読出ステップと、
前記特徴量読出ステップにより読み出された前記特徴量を他の特徴量に変換する特徴量変換ステップと、
前記特徴量変換ステップにより変換された前記他の特徴量に基づいて、映像を生成する際に用いる前記静止画、前記音楽および前記スタイルの内、前記選択ステップにより選択されなかった前記静止画、前記音楽および前記スタイルをそれぞれ決定する決定ステップと、
前記選択ステップにより選択された前記静止画、前記音楽および前記スタイルのいずれか1つ並びに前記決定ステップにより決定された前記静止画、前記音楽および前記スタイルに基づいて映像のシナリオを生成するシナリオ生成ステップと
をコンピュータに実行させることを特徴とするプログラム。 - 少なくとも1つの静止画を用いて、映像を生成再生するためのプログラムであって、
外部から入力された静止画を入力する入力ステップと、
予め決定された生成する映像の全体的なイメージを表すスタイルおよび生成する映像に用いられる音楽の特徴に基づいて、映像のシナリオを生成するシナリオ生成ステップとを含み、
前記入力ステップは、
外部から静止画が入力される毎に、当該静止画に含まれるオブジェクトを抽出し、抽出したオブジェクトの位置を含むオブジェクト情報を生成するオブジェクト情報抽出ステップを含み、
前記シナリオ生成ステップは、
一群のエフェクトの中から1つのエフェクトを1つずつ選択し、選択したエフェクトを時間軸上に順次配置するエフェクト配置ステップと、
前記エフェクト配置ステップが時間軸上に配置したエフェクト毎に、前記オブジェクト情報に基づいて、当該エフェクトが要求する画像の特徴を満たす静止画を割り当てる静止画割当ステップと、
前記エフェクト配置ステップが時間軸上に配置したエフェクトに合致したオブジェクトに対する処理を示すパラメータを記述することによってシナリオを生成するパラメータ設定ステップとを含む
をコンピュータに実行させることを特徴とするプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2003379610A JP4261317B2 (ja) | 2002-11-25 | 2003-11-10 | ショートフィルム生成再生装置およびその方法 |
Applications Claiming Priority (3)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2002341292 | 2002-11-25 | ||
JP2003167825 | 2003-06-12 | ||
JP2003379610A JP4261317B2 (ja) | 2002-11-25 | 2003-11-10 | ショートフィルム生成再生装置およびその方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2005025715A true JP2005025715A (ja) | 2005-01-27 |
JP4261317B2 JP4261317B2 (ja) | 2009-04-30 |
Family
ID=34198699
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2003379610A Expired - Fee Related JP4261317B2 (ja) | 2002-11-25 | 2003-11-10 | ショートフィルム生成再生装置およびその方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4261317B2 (ja) |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002348400A (ja) | 2001-05-24 | 2002-12-04 | Hitachi Chem Co Ltd | 再生発泡性スチレン系樹脂粒子、その製造方法及び成形品 |
JP2006134146A (ja) * | 2004-11-08 | 2006-05-25 | Fujitsu Ltd | データ処理装置,情報処理システム,選択プログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体 |
JP2006349943A (ja) * | 2005-06-15 | 2006-12-28 | Canon Inc | 画像表示方法及び画像表示装置 |
JP2007005985A (ja) * | 2005-06-22 | 2007-01-11 | Casio Comput Co Ltd | 撮像装置、プログラム、情報端末及び情報通信システム |
JP2007295443A (ja) * | 2006-04-27 | 2007-11-08 | Akiyuki Yamaguchi | 家庭用フォトムービー専用編集機 |
JP2008154064A (ja) * | 2006-12-19 | 2008-07-03 | Roland Corp | 映像作成装置 |
JP2009545814A (ja) * | 2006-07-31 | 2009-12-24 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | 画像レイアウト制約生成 |
US7694213B2 (en) | 2004-11-01 | 2010-04-06 | Advanced Telecommunications Research Institute International | Video content creating apparatus |
JP2011082693A (ja) * | 2009-10-05 | 2011-04-21 | Kawai Musical Instr Mfg Co Ltd | 動画再生装置、及びコンピュータプログラム |
US7952535B2 (en) | 2005-02-20 | 2011-05-31 | Mediatek Singapore Pte Ltd | Electronic visual jockey file |
JP2012003427A (ja) * | 2010-06-15 | 2012-01-05 | Toshiba Corp | 電子機器及び画像処理方法 |
JP2012010405A (ja) * | 2011-09-28 | 2012-01-12 | Toshiba Corp | 電子機器、画像データの表示方法およびプログラム |
JP2012098292A (ja) | 2011-11-22 | 2012-05-24 | Yupiteru Corp | 目標物報知装置及びプログラム |
JP2012175243A (ja) * | 2011-02-18 | 2012-09-10 | Nikon Corp | 画像処理装置 |
US8548249B2 (en) | 2010-02-19 | 2013-10-01 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2014200109A (ja) * | 2014-07-14 | 2014-10-23 | 株式会社ニコン | 再生演出プログラムおよび再生演出装置 |
JP2015046917A (ja) * | 2014-10-11 | 2015-03-12 | オリンパスイメージング株式会社 | 撮影装置および撮影方法 |
JP2018107834A (ja) * | 2018-04-05 | 2018-07-05 | 株式会社ニコン | 再生演出プログラムおよび再生演出装置 |
CN110246472A (zh) * | 2019-05-09 | 2019-09-17 | 平安科技(深圳)有限公司 | 一种音乐风格的转换方法、装置及终端设备 |
JP7197231B1 (ja) | 2022-07-25 | 2022-12-27 | Jp Games株式会社 | 情報処理装置、情報処理方法およびプログラム |
-
2003
- 2003-11-10 JP JP2003379610A patent/JP4261317B2/ja not_active Expired - Fee Related
Cited By (24)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002348400A (ja) | 2001-05-24 | 2002-12-04 | Hitachi Chem Co Ltd | 再生発泡性スチレン系樹脂粒子、その製造方法及び成形品 |
US7694213B2 (en) | 2004-11-01 | 2010-04-06 | Advanced Telecommunications Research Institute International | Video content creating apparatus |
JP2006134146A (ja) * | 2004-11-08 | 2006-05-25 | Fujitsu Ltd | データ処理装置,情報処理システム,選択プログラムおよび同プログラムを記録したコンピュータ読取可能な記録媒体 |
US7952535B2 (en) | 2005-02-20 | 2011-05-31 | Mediatek Singapore Pte Ltd | Electronic visual jockey file |
JP2006349943A (ja) * | 2005-06-15 | 2006-12-28 | Canon Inc | 画像表示方法及び画像表示装置 |
JP4595704B2 (ja) * | 2005-06-22 | 2010-12-08 | カシオ計算機株式会社 | 画像処理装置、撮像装置、およびプログラム |
JP2007005985A (ja) * | 2005-06-22 | 2007-01-11 | Casio Comput Co Ltd | 撮像装置、プログラム、情報端末及び情報通信システム |
JP2007295443A (ja) * | 2006-04-27 | 2007-11-08 | Akiyuki Yamaguchi | 家庭用フォトムービー専用編集機 |
JP2009545814A (ja) * | 2006-07-31 | 2009-12-24 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | 画像レイアウト制約生成 |
JP4870212B2 (ja) * | 2006-07-31 | 2012-02-08 | ヒューレット−パッカード デベロップメント カンパニー エル.ピー. | 画像レイアウト制約生成 |
JP2008154064A (ja) * | 2006-12-19 | 2008-07-03 | Roland Corp | 映像作成装置 |
JP2011082693A (ja) * | 2009-10-05 | 2011-04-21 | Kawai Musical Instr Mfg Co Ltd | 動画再生装置、及びコンピュータプログラム |
US8548249B2 (en) | 2010-02-19 | 2013-10-01 | Sony Corporation | Information processing apparatus, information processing method, and program |
JP2012003427A (ja) * | 2010-06-15 | 2012-01-05 | Toshiba Corp | 電子機器及び画像処理方法 |
JP2012175243A (ja) * | 2011-02-18 | 2012-09-10 | Nikon Corp | 画像処理装置 |
JP2012010405A (ja) * | 2011-09-28 | 2012-01-12 | Toshiba Corp | 電子機器、画像データの表示方法およびプログラム |
JP2012098292A (ja) | 2011-11-22 | 2012-05-24 | Yupiteru Corp | 目標物報知装置及びプログラム |
JP2014200109A (ja) * | 2014-07-14 | 2014-10-23 | 株式会社ニコン | 再生演出プログラムおよび再生演出装置 |
JP2015046917A (ja) * | 2014-10-11 | 2015-03-12 | オリンパスイメージング株式会社 | 撮影装置および撮影方法 |
JP2018107834A (ja) * | 2018-04-05 | 2018-07-05 | 株式会社ニコン | 再生演出プログラムおよび再生演出装置 |
CN110246472A (zh) * | 2019-05-09 | 2019-09-17 | 平安科技(深圳)有限公司 | 一种音乐风格的转换方法、装置及终端设备 |
CN110246472B (zh) * | 2019-05-09 | 2024-05-24 | 平安科技(深圳)有限公司 | 一种音乐风格的转换方法、装置及终端设备 |
JP7197231B1 (ja) | 2022-07-25 | 2022-12-27 | Jp Games株式会社 | 情報処理装置、情報処理方法およびプログラム |
JP2024015726A (ja) * | 2022-07-25 | 2024-02-06 | Jp Games株式会社 | 情報処理装置、情報処理方法およびプログラム |
Also Published As
Publication number | Publication date |
---|---|
JP4261317B2 (ja) | 2009-04-30 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
EP1422668B1 (en) | Short film generation/reproduction apparatus and method thereof | |
JP4261317B2 (ja) | ショートフィルム生成再生装置およびその方法 | |
CN112449231B (zh) | 多媒体文件素材的处理方法、装置、电子设备及存储介质 | |
EP4024879A1 (en) | Video processing method and device, terminal and computer readable storage medium | |
JP4988011B2 (ja) | 電子機器及び画像処理方法 | |
KR101240562B1 (ko) | 정보 처리 장치, 정보 처리 방법, 및 기록 매체 | |
KR101155738B1 (ko) | 정보 처리 장치 및 방법과 기록 매체 | |
JP5980222B2 (ja) | コンテンツ処理装置、コンテンツ処理方法およびプログラム | |
KR101006293B1 (ko) | 멀티미디어 재생장치 및 메뉴화면 표시방법 | |
JP4737539B2 (ja) | マルチメディア再生装置および背景画像表示方法 | |
JP5903187B1 (ja) | 映像コンテンツ自動生成システム | |
CN110249387A (zh) | 用于创建伴随视觉影像的音频轨的方法 | |
JP5371174B2 (ja) | 画像表示装置及び画像表示方法 | |
KR101263686B1 (ko) | 증강 현실을 이용한 노래방 시스템 및 장치, 이의 노래방 서비스 방법 | |
JPH07168855A (ja) | 情報記録再生装置 | |
CN102640149A (zh) | 乐曲推荐***、信息处理装置及信息处理方法 | |
US8301995B2 (en) | Labeling and sorting items of digital data by use of attached annotations | |
JP3708854B2 (ja) | メディア作品制作支援装置及びプログラム | |
JP2009004999A (ja) | 映像データ管理装置 | |
KR20070011093A (ko) | 멀티미디어 컨텐츠 부호화/재생 방법 및 장치 | |
JP2006140559A (ja) | 画像再生装置及び画像再生方法 | |
JP4892074B2 (ja) | 電子機器、画像出力方法及びプログラム | |
JP5225330B2 (ja) | 電子機器及び画像処理方法 | |
JP2014115388A (ja) | 情報処理装置、情報処理システム、制御方法、及びプログラム | |
JP2005191892A (ja) | 情報取得装置及びこれを用いたマルチメディア情報作成システム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060622 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081021 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081209 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090113 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090205 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120220 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4261317 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130220 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140220 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |