以下、この発明の実施の形態について説明する。図1は、画像および/または音声コンテンツのコンテンツ編集システムの全体構成の一例を示している。撮像装置10はフレームレートが可変設定された映像データを生成して、この映像データのフレームレートを示すフレームレート情報が含まれた付属情報を映像データに連結して素材データDTmとして、編集画像表示制御を行う編集装置30に供給する。また、音声入力装置20が撮像装置10に設けられているときには音声データを生成して、付属情報と共に素材データDTmとして編集装置30に供給する。なお、素材データDTmは、撮像装置10だけでなく他の機器から供給されるものとしても良い。なお、ここで言う連結とは、映像データとフレームレート情報を含む付属情報が、互いにリンクされている状態であれば良い。例えば、互いに別の記録媒体に記録されていたり、別の伝送路で伝送されたものであっても、付属情報に対応するフレーム番号が含まれている等していれば、後で互いの対応が付けることができる。本実施の形態では、このような場合も含めて、連結しているとする。
編集装置30は、供給された素材データDTmを用いて編集処理を行い、コンテンツデータDCを生成して出力する。なお、編集装置30は、編集に関した映像信号Svmを生成して編集画像表示装置40に供給する。これにより、ユーザは、編集画像表示装置40での表示画像によって画像の編集経過や編集結果等の確認を行うことができる。同様に、編集装置30は、編集に関した音声信号Samを生成して編集音声出力装置41に供給する。これにより、ユーザは、編集音声出力装置41から出力される音声によって音声の編集経過や編集結果等の確認を行うことができる。
図2は、撮像装置10の構成例を示している。撮像レンズ系11を通して入射された光は、撮像部12に入射されて、撮像部12に設けられている例えばCCD(Charge Coupled Device)等の撮像素子の撮像面上に被写体画像が結像される。撮像素子は、光電変換によって被写体画像の撮像電荷を生成する。また、後述するタイミングジェネレータ142からの駆動信号CRに基づいて、生成した撮像電荷の読み出しを行い、駆動信号CRに応じたフレームレートの撮像信号Spを生成して信号処理部13のカメラ処理回路131に供給する。
カメラ処理回路131は、タイミングジェネレータ142から供給されたタイミング信号CTに基づき、撮像信号Spと同期したタイミングで種々の信号処理を行う。例えば、相関二重サンプリング等を行うことで撮像信号Spからノイズ成分を除去する処理、ノイズ除去された撮像信号Spをディジタルの映像データに変換する処理、映像データのクランプ処理、シェーディング補正や撮像素子の欠陥補正、γ処理や輪郭補償およびニー(knee)補正等を行う。また、制御部14の撮像制御回路141から供給された動作制御信号CSに基づいた処理条件等で種々の信号処理を行う。このように、カメラ処理回路131で種々の信号処理を行って得られた映像データDVは、出力部15に供給される。
制御部14のタイミングジェネレータ142は、撮像制御回路141からの動作制御信号CSに応じた駆動信号CRを生成して撮像部12に供給することにより、撮像部12における撮像電荷の読み出し周期を可変して、撮像信号Spのフレームレートを、ユーザインタフェース部16からの操作信号PSaに基づいた設定フレームレートFRsに制御する。例えばNTSC方式ではフレーム周波数59.94Hzや29.97Hz、PAL方式ではフレーム周波数50Hzや25Hzを基準フレームレートFRrのフレーム周波数として、設定フレームレートFRsを基準フレームレートFRrのk(kは正数に限らない正の値)倍とする操作が行われたときには、撮像信号Spのフレームレートが基準フレームレートFRrのk倍となるように制御する。なお、例えば、CCD等の撮像素子の各画素から転送部へ各画素に蓄積された撮像電荷を移動させるための読み出しパルス(センサーゲートパルス)の周期を変更する等することで、撮像電荷の読み出し周期が可変され、フレームレートが可変される。また、この際に、CDR(Common Data Rate)方式を採用しても良い。CDR方式を用いると、有効なフレームレートは可変するが、CCDから出力される信号のフレームレートは不変とすることができ、カメラ処理回路131等の処理レートを一定とすることができる。このCDR方式に関しては、PCT出願、出願番号PCT/JP03/0051、2003/01/22出願に開示されている。
また、タイミングジェネレータ142は、駆動信号CRに同期したタイミング信号CTを生成してカメラ処理回路131や音声処理回路132に供給する。さらに、タイミングジェネレータ142は、映像データDVのフレームレートである設定フレームレートFRsをフレームレート情報として、このフレームレート情報を含む付属情報DMを生成して、出力部15に供給する。
制御部14の撮像制御回路141には、ユーザインタフェース部16が接続されている。ユーザインタフェース部16は、撮像装置10での動作切換操作やフレームレート可変操作が行われたとき、これらの操作に応じた操作信号PSaを生成して撮像制御回路141に供給する。また、ユーザインタフェース部16は、図示しないリモートコマンダ等の外部機器から操作信号PSaが供給されたとき、この操作信号PSaを撮像制御回路141に供給する。
撮像制御回路141は、ユーザインタフェース部16からの操作信号PSaに基づき、撮像装置10の動作が操作信号PSaに応じた動作となるように、動作制御信号CSを生成してカメラ処理回路131やタイミングジェネレータ142に供給する。
音声処理回路132には、音声入力装置20からアナログの音声信号Sinが供給される。音声処理回路132は、タイミングジェネレータ142から供給されたタイミング信号CTに基づいて音声信号Sinのサンプリング処理を行い、ディジタルの音声データDAを生成して出力部15に供給する。
出力部15は、映像データDVや音声データDAに対して付属情報DMを連結させて素材データDTmを生成して編集装置30に供給する。なお、素材データDTmあるいは素材データDTmに基づいて生成した記録信号を記録媒体に記録すれば、記録媒体に記録されている素材データDTmあるいは素材データDTmを編集装置30で再生することにより、記録媒体を介して素材データDTmを編集装置30に供給できる。
ここで、映像データDVや音声データDAに対して付属情報DMを連結させる方法の一例として、映像データDVや音声データDAを圧縮してデータストリームとして素材データDTmを生成するときには画像のデータストリーム中に付属情報DMを挿入、あるいはデータストリームのヘッダ中に付属情報DMを挿入することが考えられる。
また、非圧縮の映像データや音声データを伝送するためにSMPTE(Society of Motion Picture and Television Engineers)259M「Television - 10-Bit 4:2:2 Component and 4fsc Composite Digital Signals - Serial Digital Interface」として規格化されているSDIフォーマットや、圧縮された映像データや音声データを伝送するためにSMPTE305M「Television - Serial Data Transport Interface (SDTI)」として規格化されているSDTIフォーマット、SDTIフォーマットを更に限定しているSMPTE326M「Television - SDTI Content Package Format (SDTI-CP)」として規格化されたSDTI−CPフォーマットを用いる場合、付属情報DMをSMPTE330M「Television - Unique Material Identifier (UMID)」として規格化されているUMIDのデータとして、各フォーマットの信号に挿入することが考えられる。なお、映像データDVや音声データDAに対して付属情報DMを連結する方法はこれに限られず種々の方法が考えられる。
ところで、上述の撮像装置10は、設定フレームレートFRsの撮像信号Spを得ることができるように、撮像部12における撮像電荷の読み出し周期を可変した。しかし、撮像部12における撮像電荷の読み出し周期を可変しなくとも、設定フレームレートFRsの撮像信号Spを得ることができる。すなわち、設定フレームレートFRsよりも高いフレームレートであり、フレームレートが一定である映像データDVaを生成して、この映像データDVaから設定フレームレートFRs分だけ映像データを抽出することで、設定フレームレートFRsの映像データDVを生成できる。この場合の構成を図3に示す。なお、図3において、図2と対応する部分については同一符号を付し詳細な説明は省略する。
制御部18のタイミングジェネレータ182は、ユーザインタフェース部16を介して設定される設定フレームレートFRsの最高値に応じた駆動信号CRaを生成して撮像部12に供給する。撮像部12は、駆動信号CRaに基づいて撮像信号の生成を行い、フレームレートが基準フレームレートFRrよりも高い固定フレームレートFRqの撮像信号Spaを生成して信号処理部17のカメラ処理回路131に供給する。例えば、設定フレームレートFRsが基準フレームレートFRrのn(nは自然数)倍まで変更可能であるとき、基準フレームレートFRrのn倍のフレームレートである撮像信号Spaを生成して、カメラ処理回路131に供給する。即ち、撮像部12は、ユーザインタフェース部16を介して設定される設定フレームレートFRsに影響されることなく、固定のフレームレートである撮像信号Spaを生成する。
また、タイミングジェネレータ182は、駆動信号CRaに同期したタイミング信号CTaを生成して信号処理部17のカメラ処理回路131や音声処理回路132および有効フレーム信号生成回路183に供給する。
カメラ処理回路131は、撮像信号Spaに基づいて生成した固定フレームレートFRqの映像データDVaを有効データ選別回路171に供給する。音声処理回路132は、一定周波数のタイミング信号CTaに基づいたサンプリングを行って生成した音声データDAaを有効データ選別回路171に供給する。
撮像制御回路181は、ユーザインタフェース部16からの操作信号PSaに基づき、設定フレームレートFRsを示す設定情報信号CFを生成して有効フレーム信号生成回路183に供給する。
有効フレーム信号生成回路183は、映像データDVaの一定値であるフレームレートFRqと設定情報信号CFによって示された設定フレームレートFRsとの比に基づき、映像データDVaからフレーム単位でデータ抽出を行って設定フレームレートFRsの映像データDVを生成するための抽出制御信号CCを生成する。さらに、有効フレーム信号生成回路183は、この抽出制御信号CCをタイミング信号CTaに同期して有効データ選別回路171に供給する。例えば、映像データDVaのフレームレートFRqが基準フレームレートFRrのn倍であり、設定フレームレートFRsが基準フレームレートFRrの(n/2)倍であるとき、映像データDVaから1フレーム置きにフレーム単位でデータ抽出を行う抽出制御信号CCを生成して、タイミング信号CTaに同期して有効データ選別回路171に供給する。また、有効フレーム信号生成回路183は、設定情報信号CFに基づき設定フレームレートFRsをフレームレート情報として有する付属情報DMを生成して出力部15に供給する。
有効データ選別回路171は、抽出制御信号CCによって示されたフレームの映像データDVaおよび音声データDAaを抽出して映像データDVおよび音声データDAとして出力部15に供給する。また、図示せずも、有効フレーム信号生成回路183から有効データ選別回路171に対して設定フレームレートFRsをフレームレート情報として有する付属情報DMを供給し、有効データ選別回路171で、設定フレームレートFRsと音声データDAaを生成したときのフレームレートとの比に応じて音声データDAaの間引きを行うものとしても良い。例えば、音声データDAaを生成したときのフレームレートFRqが基準フレームレートFRrのn倍であり、設定フレームレートFRsが基準フレームレートFRrの(n/2)倍であるとき、音声データDAaに対して1サンプル置きに間引きを行う。この場合、フレーム単位で音声データを間引く場合よりも間引き間隔を小さくできるので、音声データDAに基づく音声を良好な音質とすることができる。
このように、映像データDVaのフレーム周波数を一定とすることで、撮像部12や信号処理部17のカメラ処理回路131での動作周波数を可変する必要がなくなり、撮像部12やカメラ処理回路131の構成を簡単にできる。また、映像データDVaからフレーム単位でデータ抽出を行うだけで設定フレームレートFRsの映像データDVを生成できるので、所望の設定フレームレートFRsの映像データDVを映像データDVaから容易に生成できる。
また、撮像装置に画像メモリや加算器および除算器を設けるものとして、映像データを所定(predetermined)フレーム分毎に加算して映像データDVを生成するようにしても良い。この場合には、撮像信号Spのフレームレート可変範囲を狭くできる。すなわち、nフレーム分の撮像信号Spを加算して信号レベルを(1/n)倍すれば、撮像信号Spのフレームレートを(1/n)倍としなくとも、フレームレートを(1/n)倍とした信号を得ることが可能となる。
図4および図5は、撮像装置10,10aで生成される映像データDVと付属情報DMの関係を説明するための図である。図4Aに示すように設定フレームレートFRsを例えば基準フレームレートFRrの1倍あるいは2倍とすると、図4Bに示す映像データDV(図では映像データDVに基づいたフレーム画像を示している)に対して、設定フレームレートFRsを示す図4Cのフレームレート情報DM-FRsを含んだ付属情報DMが連結される。なお、図4Dは、時間経過とフレーム画像の関係を示したものである。また、フレームレート情報DM-FRsは、設定フレームレートFRsを示すだけでなく、基準フレームレートFRrに対する設定フレームレートFRsの倍率を示すものとしても良い。図4Cおよび以下の図で示すフレームレート情報DM-FRsでは倍率を記している。
図5Aに示すように設定フレームレートFRsを例えば基準フレームレートFRrの1倍あるいは1/2倍とすると、図5Bに示す映像データDV(図では映像データDVに基づいたフレーム画像を示している)に対して、設定フレームレートFRsを示す図5Cのフレームレート情報DM-FRsを含んだ付属情報DMが連結される。図5Dは、時間経過とフレーム画像の関係を示したものである。
次に、編集装置30について説明する。図6は、編集装置30の構成を示している。編集装置30に供給された素材データDTmは、検出手段である素材取込部31の情報検出回路311に供給される。情報検出回路311は、素材データDTmから付属情報DMを検出する。この検出した付属情報DMをデータベース化処理回路312に供給する。また、素材データDTmに含まれている映像データDVと音声データDAをデータベース化処理回路312に供給する。
データベース化処理回路312は、映像データDVと音声データDAと情報検出回路311で検出した付属情報DMとを関係付けて編集処理部32のデータ記憶装置321に記憶させる。また、データベース化処理回路312は、データ記憶装置321に記憶した付属情報DMや、この付属情報DMに関係付けられている映像データDVや音声データDAに基づいて、容易に素材データの内容を確認可能とするデータベース情報DBを生成して編集制御部33に供給する。例えば、データベース情報DBは、素材データの内容を識別可能とする情報(例えばサムネイル)、素材データの時間長、設定フレームレートFRs、データ記憶装置321における記憶位置等の情報から構成されるものである。
編集制御部33は、GUI(Graphical User Interface)環境で編集処理を可能とするための映像データDVgや、データベース情報の内容を表示するための映像データDViを生成して映像出力信号生成回路351に供給する。映像出力信号生成回路351は、供給された映像データDVg,DViに基づき映像信号Svmを生成して編集画像表示装置40に出力する。このように、映像信号Svmを編集画像表示装置40に供給することで、どのような素材データが記憶されているか等を編集画像表示装置40の画面上に表示できる。この映像信号Svmは、編集用の表示画像となる。
また、編集制御部33は、ポストプロダクション処理の制御を行う。すなわち、編集制御部33に接続されているユーザインタフェース部34から、GUI環境での表示を利用した操作信号PSeが供給されて、操作信号PSeによっていずれかの素材データを選択することが示されたときには、この操作信号PSeに応じた読出制御信号RCを生成して編集処理部32の書込読出処理回路322に供給する。また、操作信号PSeが読み出した素材データの加工や結合等の編集操作に関するものであるときには、操作信号PSeに応じた編集制御信号ETを生成して編集処理部32の信号編集回路323に供給する。さらに、素材データの編集が終了してコンテンツデータが完成されたとき、操作信号PSeがコンテンツデータをデータ記憶装置321に記憶する操作を示しているときには、操作信号PSeに応じた書込制御信号WCを生成して、書込読出処理回路322に供給する。また、操作信号PSeがコンテンツデータの出力を示しているときには、操作信号PSeに応じた出力制御信号RPを生成して書込読出処理回路322に供給する。操作信号PSeがコンテンツデータの再生速度範囲を規定するものであるときには、操作信号PSeに応じた速度範囲設定信号LPを生成して信号編集回路323に供給する。
書込読出処理回路322は、読出制御信号RCに基づき、要求された素材データをデータ記憶装置321から読み出して信号編集回路323に供給する。また、書込制御信号WCに基づき、完成されたコンテンツデータDCをデータ記憶装置321に記憶させる。また、出力制御信号RPに基づき、要求されたコンテンツデータDCをデータ記憶装置321から読み出して出力する。
信号編集回路323は、データ記憶装置321から読み出した素材データに含まれている映像データDVや音声データDAを用いて、画像や音声の加工や結合および削除等の編集処理を編集制御信号ETに基づいて行う。ここで、信号編集回路323は、編集前や編集中あるいは編集後の映像データDVeを映像出力信号生成回路351に供給し、編集前や編集中あるいは編集後の音声データDAeを音声出力信号生成回路352に供給する。また、信号編集回路323は、編集処理によって映像データDVや音声データDAのフレームレートを変更したとき、付属情報DMも編集後の映像データや音声データに合わせて変更する。さらに編集後の映像データDVや音声データDAおよび編集後の映像データDVや音声データDAに対応する付属情報DMcを連結させてコンテンツデータDCを生成する。また、速度範囲設定信号LPが供給されたときには、この速度範囲設定信号LPに基づいてコンテンツデータDCの再生速度範囲を示す速度範囲情報も付属情報DMcとして連結させる。さらに、ユーザインタフェース部34からコンテンツのタイトルやコンテンツの推奨再生速度が入力されたときには、これらの情報も付属情報DMcとして連結させる。また、編集処理によってコンテンツデータの再生時間長情報が得られているときには、この情報も付属情報DMcとして連結させるものとしても良い。さらに、コンテンツデータの再生可能な最高速度が入力されたときには、この最高速度も付属情報DMcとして連結させる。
編集出力信号生成部35の映像出力信号生成回路351は、上述したように、編集制御部33から供給された映像データDVg,DViに基づき映像信号Svmを生成して編集画像表示装置40に供給する。このためGUI環境で素材データに関する情報を表示できる。さらに、信号編集回路323から供給された映像データDVeに基づき映像信号Svmを生成することで、編集前や編集中あるいは編集後の画像を編集画像表示装置40の画面上で確認できる。
音声出力信号生成回路352は、信号編集回路323から供給された音声データDAeを、アナログの音声信号Samに変換するとともに所望の信号レベルとして、例えばスピーカやヘッドホンを用いて構成された編集音声出力装置41に供給する。このため、編集前や編集中あるいは編集後の音声を編集音声出力装置41から出力される音声によって確認できる。
このように、編集装置30で素材データDTmを用いたポストプロダクション処理を行いコンテンツデータDCが完成すると、この完成したコンテンツデータDCを出力する。
次に、編集装置30の動作について説明する。図7は、編集画像表示装置40に表示する編集操作のためのGUI画面を示している。GUI画面では、素材データの一覧を示す素材管理表示である素材管理ブラウザ401が左上に設けられており、左下には素材データを再生順に並べてコンテンツの生成を行う再生順序表示であるストーリーボード402が設けられている。画面中央には、編集前や編集後の素材データの画像を表示する再生画像表示であるモニタービューワー403、中央下側には、時間軸に沿って素材データを貼り付けてコンテンツの生成を行う再生時間順表示であるタイムライン404が設けられている。また、モニタービューワー403とタイムライン404との間には、動作コントロール部405が設けられている。なお、素材管理ブラウザ401、ストーリーボード402、モニタービューワー403、タイムライン404、動作コントロール部405の配置や形状は例示的なものであり、限定的なものでないことは勿論である。
素材管理ブラウザ401は、データ記憶装置321に記憶している素材データの一覧を示すものであり、記憶している素材データのタイトルや長さおよび内容を示すスタンプ画(サムネイル画)、ノイズレスで自然な再生画像を得ることができる再生可能速度範囲等を素材毎に表示する。
ストーリーボード402は、コンテンツ生成の作業を行う場所であり、素材データを再生順に並べることでコンテンツの生成を行う。また、再生可能速度範囲の表示も行う。モニタービューワー403では、素材データに基づく画像を表示するだけでなく、再生可能速度範囲を示す可変速度バー表示や再生可能速度範囲での再生速度の位置表示を行う。
タイムライン404は、時間軸に沿って素材データを貼りつけていくことでコンテンツ生成の作業をより詳細に行うための場所である。また、再生速度に基づいて算出した再生時間に応じて素材データの表示幅を可変する。動作コントロール部405では、素材データやタイムライン404上につなげたコンテンツの再生を行うための操作キー表示を行う。
ここで、表示したGUIの画像とユーザインタフェース部34からの操作信号PSeに基づいて、ドラッグ&ドロップ操作や動作コントロール部405のキー操作等が行われたと編集制御部33で判別したときには、操作に応じて編集装置30の動作を制御する。
図8は、編集動作時の表示制御の一例を示すフローチャートである。ステップST11では、素材データの処理要求がなされたか否かを識別する。ここで処理要求がなされていないときにはステップST11に戻り、処理要求がなされたときにはステップST12に進む。
ステップST12では、編集する素材データから設定フレームレートFRsを示すフレームレート情報DM-FRsが得られているか否かを識別する。ここで、データベース情報DBを参照して、素材データからフレームレート情報DM-FRsが得られていないときにはステップST13に進み、素材データが1倍速のデータであるとした表示制御を行う。また、素材データからフレームレート情報DM-FRsが得られているときにはステップST14に進む。
ステップST14では、フレームレート情報DM-FRsで示された設定フレームレートFRsに基づいて再生可能速度を設定する。この再生可能速度の設定では、一定のフレーム間隔で間引きを行うものとしたりフレーム繰り返しを行うことでノイズレスで自然な再生画像を得ることができるように、再生可能速度を設定する。例えば、基準フレームレートFRrに対する設定フレームレートFRsの倍数が1よりも大きいとき、この倍数の約数で1以外の値を求めて、求めた約数の逆数を算出することで再生可能速度を設定できる。すなわち、設定フレームレートFRsが基準フレームレートの10倍であるとき、1以外の約数は「2,5,10」となり、この約数の逆数「1/10,1/5,1/2」となる。この約数の逆数を選択することで1倍速未満の再生可能速度を設定できる。また、1倍速以上の再生可能速度は自然数倍とすることで、各再生速度において行う間引き間隔を等しくできる。なお、再生可能速度の上限は、例えば素材データの内容を容易に把握できる速度に制限する。
基準フレームレートFRrに対する設定フレームレートFRsの倍数が1よりも小さいときには、この倍数の逆数を求めて逆数の1以外の約数あるいは逆数の整数倍の値を算出することで再生可能速度を設定できる。すなわち、設定フレームレートFRsが基準フレームレートの(1/6)倍であるとき、逆数の1以外の約数は「2,3,6」となり、逆数の整数倍は「6,12,18,・・・」となる。この逆数の1以外の約数や逆数の整数倍の値を再生可能速度とすれば、各再生速度において行う間引き間隔あるいは繰り返し回数を等しくできる。また、設定フレームレートFRsの倍数が1よりも小さいときに再生速度を(1/FRs)倍速以下としても、再生画像はフレーム画像を必要な回数繰り返したものとなるため、再生可能速度の下限を1倍速としても良い。
ステップST15では、フレームレート情報DM-FRsに応じた表示制御、すなわち設定フレームレートFRsを示すフレームレート情報DM-FRsが付属情報DMとして連結されている素材データであることを識別可能とする表示や、設定フレームレートFRsに基づいて設定した再生可能速度範囲の表示を行う。例えば、素材管理ブラウザ401やストーリーボード402では、設定フレームレートFRsの情報が連結されている素材データであることを容易に識別可能とするため、スタンプ画401a,402aの画枠の形状や色等を、設定フレームレートFRsの情報が連結されていない素材とは異なるものとする。また、素材に関する情報を表示する情報表示領域401b,402bが設けられているときには、この領域にステップST14で設定した再生可能速度範囲を表示する。例えば、図7および後述する図9では、設定フレームレートFRsの情報が連結されている素材データであるとき、画枠の幅を広くして表示するとともに、再生可能速度範囲が「×0.1〜×2.0」の場合を示している。
タイムライン404の表示も素材管理ブラウザ401やストーリーボード402と同様に、設定フレームレートFRsを示すフレームレート情報DM-FRsが付属情報DMとして連結されている素材データであることを容易に識別可能とする。例えばフレーム画像表示領域404aの画枠の形状や色を設定フレームレートFRsのフレームレート情報DM-FRsが連結されていない素材とは異なるものとする。さらに、タイムライン404では、設定フレームレートFRsに応じて、フレーム画像表示領域404aを時間軸方向である水平方向に調整する。例えば、設定フレームレートFRsが基準フレームレートFRrよりも大きいときには、単位時間あたりのフレーム画像数が多くなる。このため、フレーム画像表示領域404aの表示幅は広くする。また、設定フレームレートFRsが基準フレームレートFRrよりも小さいときには、単位時間あたりのフレーム画像数が少なくなる。このため、フレーム画像表示領域404aは狭くする。また、モニタービューワー403には、素材データに基づいた素材画像表示403aを設けるだけでなく、再生速度表示403bや設定した再生可能速度範囲に対応する速度可変コンソール表示403cを設けて、再生画像や再生速度および再生可能速度範囲の表示を行う。また、速度可変コンソール表示403cの太線で示すカーソル位置によって、制御できる方向も識別可能とされる。
ステップST16では、ユーザインタフェース部34を介して再生速度が指示されたか否かを識別する。ここで、タイムライン404におけるフレーム画像表示領域404aの表示幅を変更する操作がなされたとき、あるいはモニタービューワー403に表示された速度可変コンソール表示403cのカーソル位置が移動されたときにはステップST17に進む。また、再生速度の指示されていないときにはステップST16に戻る。
ステップST17では、指示された再生速度を識別して、識別した再生速度を表示する。例えばタイムライン404におけるフレーム画像表示領域404aの表示幅を変更する操作がなされたときには、操作方向に応じて再生速度をステップST14で設定された再生可能速度から順次選択して、操作終了時の速度を再生速度とする。また、モニタービューワー403に表示された速度可変コンソール表示403cのカーソル位置が移動されたときには、ステップST14で設定された再生可能速度からカーソル位置に応じた速度を選択して再生速度とする。
再生速度が識別されたときには、モニタービューワー403の再生速度表示403bを指示された再生速度とする。また、速度可変コンソール表示403cのカーソル位置とフレーム画像表示領域404aの表示幅とを連動させて、フレーム画像表示領域404aの表示幅を変更する操作によって再生速度が指示されたときには、速度可変コンソール表示403cのカーソル位置を指示された再生速度と対応する位置に移動することで、再生速度を表示するとともに、速度可変コンソール表示403cのカーソル位置を変更する操作によって再生速度が指示されたときには、フレーム画像表示領域404aの表示幅を対応する再生速度に応じた幅に変更する。このように、速度可変コンソール表示403cのカーソル位置とフレーム画像表示領域404aの表示幅とを連動させることによって、いずれを利用しても正しく再生速度を可変させることができる。
ステップST18では、指示された再生速度から、この指示された再生速度で素材データを再生したときの再生時間を算出する。例えば上述したように設定フレームレートFRsが基準フレームレートの10倍であるとき、再生可能なスロー速度は「1/10,1/5,1/2」の何れかの倍速となる。ここで、素材の再生時間が1倍速のときに30秒である場合、1/10倍速再生のときの再生時間は300秒、1/5倍速ならば150秒等となる。このように1倍速のときの再生時間に再生時の倍速数の逆数を乗算することで再生時間を算出できる。
ステップST19では、再生時間に応じた表示制御を行う。例えば、タイムライン404でのフレーム画像表示領域404aの表示幅をステップST18で算出した再生時間に応じて可変してステップST16に戻る。また、素材データの再生動作中は、モニタービューワー403の素材画像表示403aとして、指示された再生速度で素材データを再生したときの再生画像を表示する。
なお、素材データにおける一部のシーンの再生時間を変える場合には、この一部のシーンを分割して、分割したシーンに対して上述の処理を行うことで、再生時間を可変させることができる。
図9は、例えば設定フレームレートFRsが基準フレームレートFRrの10倍であることを示すフレームレート情報DM-FRsが連結された素材データを用いるときの、編集操作画面を示している。図9Aは再生速度が1倍速、図9Bは(1/10)倍速、図9Cは2倍速のときのGUI画面であり、設定フレームレートFRsの情報が連結されている素材データは、例えばストーリーボード402やタイムライン404で、設定フレームレートFRsを示すフレームレート情報DM-FRsが連結されていない素材データと異なる画枠表示が行われる。
ここで、選択した素材データの再生時には、フレームレート情報DM-FRsに基づいて設定フレームレートFRsを識別して、再生速度FPと設定フレームレートFRsを乗算して識別値FDを算出して、この識別値FDに基づいて再生処理条件を決定する。例えば、上述の図9Aの画面表示で示すように再生速度が1倍速とされているとともに、設定フレームレートFRsが基準フレームレートFRrに対して10倍速とされているとき、識別値FDは「10×1=10」となる。なお、図10Aは、設定フレームレートFRsが基準フレームレートFRrに対して10倍速とされているときの映像データDVに基づく画像を示している。また図10Bはフレーム画像の設定フレームレートFRsを示すフレームレート情報DM-FRs、図10Cは絶対フレーム番号ANをそれぞれ示している。
識別値FDが「FD=10」であるときには、図10D,図10Eに示すように、「FD=10」フレーム目毎すなわち映像データDVを9フレーム分飛ばしながら用いて映像信号Svmを生成することで、この映像信号Svmに基づき1倍速の再生画像をモニタービューワー403に表示できる。なお、図10Dは表示される画像の絶対フレーム番号AN、図10Eは映像信号Svmによってモニタービューワー403の素材画像表示403aに表示されるフレーム画像を示している。
次に、タイムライン404におけるフレーム画像表示領域404aの表示幅を矢印A方向に広げる操作や、速度可変コンソール表示403cのカーソル位置を矢印B方向に移動する操作が行われると、再生速度を遅くする操作がなされたものと処理する。ここで、例えば(1/10)倍速に設定されたときには図9Bに示すように、モニタービューワー403の再生速度表示403bを(1/10)倍速に変更する。また、速度可変コンソール表示403cのカーソル位置を(1/10)倍速の位置とする。さらに再生時間が長くなることから、フレーム画像表示領域404aの表示幅を広くする。
図9Bの画面表示で示すように再生速度が(1/10)倍速での再生では、識別値FDが「10×(1/10)=1」となる。識別値FDが「FD=1」であるときには、「FD=1」フレーム目毎すなわち映像データDVを毎フレーム用いて映像信号Svmを生成することで、図10Aに示す(1/10)倍速の再生画像をモニタービューワー403の素材画像表示403aに表示できる。
また、タイムライン404におけるフレーム画像表示領域404aの表示幅を矢印B方向に縮める操作や、速度可変コンソール表示403cのカーソル位置を矢印A方向に移動する操作が行われると、再生速度を速くする操作がなされたものと処理する。ここで、例えば2倍速に設定されたときには図9Cに示すように、モニタービューワー403の再生速度表示403bを2倍速に変更する。また、速度可変コンソール表示403cのカーソル位置を2倍速の位置とする。さらに再生時間が短くなることから、フレーム画像表示領域404aの表示幅を狭くする。
図9Cの画面表示で示すように再生速度が2倍速での再生では、識別値FDが「10×2=20」となる。識別値FDが「FD=20」であるときには、図10F,図10Gに示すように、「FD=20」フレーム目毎すなわち映像データDVを19フレーム分飛ばしながら用いて映像信号Svmを生成することで、この映像信号Svmに基づき2倍速の再生画像をモニタービューワー403の素材画像表示403aに表示できる。なお、図10Fは表示される画像の絶対フレーム番号AN、図10Gは映像信号Svmによってモニタービューワー403の素材画像表示403aに表示されるフレーム画像を示している。
このように、フレームレート情報DM-FRsと再生速度に基づきフレーム単位で間引きを行うことにより、ノイズレスのスロー再生を容易に実現できる。なお、再生速度の可変操作は、再生動作中も可能とすることで、簡単に所望の再生速度での再生画像を確認することができる。
また、再生速度と表示幅が関係付けられて表示されることから、再生速度と時間軸の伸び縮みの関係を容易に把握することが可能となり、編集操作を容易に行うことができる。なお、フレーム画像表示領域404aには、表示幅の変更が可能な方向すなわち再生速度を可変できる方向を示す表示、例えば破線で示す矢印表示を設けるものとすれば、再生速度の変更可能方向を容易に識別することが可能となる。
図11は、図8に示す表示制御を行い、例えば図9のように表示される編集画面を用いた編集処理動作を示すフローチャートである。ステップST21では、素材データの取り込みを行い、取り込んだ素材データをデータ記憶装置321に記憶させるとともに、データベース情報DBを生成させる。
ステップST22では、取り込んだ素材データの内容を、データベース情報DBを利用して表示する。この素材データの内容表示は、例えば取り込まれている素材データのスタンプ画や情報を素材管理ブラウザ401に表示させることで行う。また、素材管理ブラウザ401に表示されている素材データのいずれかが選択されたときには、選択された素材データの画像をモニタービューワー403に表示する。さらにモニタービューワー403とタイムライン404の間に設けられている動作コントロール部405で再生制御キー表示が操作されたときには、キー操作に応じて素材データの再生や停止、変速再生等を行い、再生画像をモニタービューワー403に表示する。
ステップST23では素材データの選択が行われたか否かを判別する。ここで、素材データの選択が行われていないときにはステップST23に戻り、素材データの選択が行われたときにはステップST24に進む。例えば素材管理ブラウザ401からタイムライン404にドラッグ&ドロップされたときには素材データが選択されたものとしてステップST24に進む。
ステップST24では、選択された素材データに基づくフレーム画像をタイムライン404のフレーム画像表示領域404aに時間順に並べて表示する。
ステップST25では、タイムライン404に表示されたフレーム画像に対する切り取りや貼り付けあるいは並べ換え等の編集操作に応じて素材データを加工して、所望の映像データや音声データを生成してコンテンツデータとする。また、映像データや音声データに設定フレームレート等を示す付属情報DMcを連結させコンテンツデータとする。
ステップST26では、コンテンツデータの完成処理を行い、ステップST25で生成したコンテンツデータに対して、素材データのつなぎ部分の処理や演出効果の追加あるいは追加する画像や音声の合成等の処理を行う。ステップST27では、コンテンツデータの出力処理を行う。すなわち、完成されたコンテンツデータを放送用の番組データとして番組送出装置に供給する。あるいは配信用コンテンツデータとしてコンテンツ送出装置に供給する。また、完成されたコンテンツデータにコンテンツ再生メニューリストや再生メニューに応じた特殊再生等を行うための情報等を付加する等のオーサリングを行い、オーサリングの完了したデータを記録媒体に記録させる。
ところで、上述の編集装置30の編集処理は、コンピュータを用いてソフトウェア処理によっても実現できる。このソフトウェアでコンテンツ編集を行う場合の構成を図12に示す。
コンピュータは、図12に示すようにCPU(Central Processing Unit)381を内蔵しており、このCPU381にはバス390を介してROM382,RAM383,記憶容量が大容量であるハード・ディスク・ドライブ等を用いて構成したデータ蓄積部384,入出力インタフェース385が接続されている。さらに、入出力インタフェース385には信号入力部391や信号出力部392、記録媒体ドライブ393が接続されている。
CPU381は、ROM382やRAM383あるいはデータ蓄積部384に記憶されているプログラムを実行して、上述の図8や図11に示す編集処理を行う。信号入力部391に入力された素材データは、入出力インタフェース385とバス390を介してデータ蓄積部384に記憶させる。また、データ蓄積部384に記憶されている素材データから、編集に用いる素材データを読み出して編集処理を行い完成されたコンテンツデータを再度データ蓄積部384に記憶させる。このデータ蓄積部384に記憶されている完成されたコンテンツデータを読み出して信号出力部392を介して出力する。
なお、編集処理を行うプログラムは、予めROM382やデータ蓄積部384に記憶させておくものとしたり、記録媒体ドライブ393によって、コンテンツ送出処理のプログラムを記録媒体に記録しあるいは記録媒体に記録されているプログラムを読み出して実行するものとしても良い。さらに、有線あるいは無線の伝送路を介してプログラムを伝送し、受信したプログラムをコンピュータで実行するものとしても良い。
このように、上述の実施の形態によれば、フレームレート情報が付属情報として連結されている素材データと連結されていない素材データが識別可能に表示されるので、素材データのフレームレート情報を利用したスロー再生が可能なシーンを簡単に見つけることができる。また、付属情報に基づいて、再生可能速度範囲が表示されるので、この範囲内の速度を設定して可変速再生を行うことで効果的な映像表現を簡単に行うことができる。
また、編集装置30は、素材データのフレームレートを低下させることなくコンテンツデータを生成すれば、素材データが有効に活用されて再生速度の可変範囲が広いコンテンツを提供できる。
10,10a・・・撮像装置、12・・・撮像部、13,17・・・信号処理部、14,18・・・制御部、15・・・出力部、16,34・・・ユーザインタフェース部、20・・・音声入力装置、30・・・編集装置、31・・・素材取込部、32・・・編集処理部、33・・・信号編集部、35・・・編集出力信号生成部、40・・・編集画像表示装置、41・・・編集音声出力装置、131・・・カメラ処理回路、132・・・音声処理回路、141,181・・・撮像制御回路、142,182・・・タイミングジェネレータ、171・・・有効データ選別回路、183・・・有効フレーム信号生成回路、311・・・情報検出回路、312・・・データベース化処理回路、321・・・データ記憶装置、322・・・書込読出処理回路、323・・・信号編集回路、351・・・映像出力信号生成回路、352・・・音声出力信号生成回路、384・・・データ蓄積部、391・・・信号入力部、392・・・信号出力部、401・・・素材管理ブラウザ、402・・・ストーリーボード、403・・・モニタービューワー、404・・・タイムライン、405・・・動作コントロール部