JP2011139293A - 画像再生制御装置、画像再生制御方法および撮像装置 - Google Patents

Abstract

【課題】異なるフレームレートで撮像された複数の動画像データを、適切な動画を再生できる技術を提供する。
【解決手段】通常フレームレートストリーム復号部は６８通常のフレームレートのストリームを復号して通常のフレームレートのフレームを出力する。高フレームレートストリーム復号部７０は通常のフレームレートのストリームに含まれる少なくとも一部のシーンに関しての通常よりも高いフレームレートのストリームを復号して、通常よりも高いフレームレートのフレームを出力する。フレーム選択部６４は、シーンを特定するための関連情報とコマ送り再生すべき期間を特定する制御情報とに基づいて、再生すべきフレームとして選択する。フレーム選択部は、コマ送り再生すべき期間の場合に通常よりも高いフレームレートのフレームが存在する場合であれば、通常よりも高いフレームレートのフレームを選択して出力する。
【選択図】図９

Description

本発明は、符号化された複数の動画像を復号して再生する画像生成制御装置、およびそれを搭載した撮像装置に関する。

近年、一般ユーザが静止画のみならず、手軽に動画像を撮影することができるデジタルムービーカメラが普及してきており、それらの中には撮影に際してフレームレートを変更したり、異なるフレームレートの動画を同時に撮像したりすることができるものもある（特許文献１参照）。これらの動画は記録メディア等に記録された後、例えば、ムービーカメラに搭載されている表示モニタやＰＣ（Personal Computer）、テレビ等で鑑賞される。

特開２００７−１９５０５０号公報

同一シーンについて異なるフレームレートで撮影ができると、例えば重要なシーンについては時間分解能の高い高フレームレートで撮影することができて便利である。一方で、同一シーンについての動画が同時に複数存在することになり、画像再生時の制御が複雑となる場合がある。

本発明はこうした状況に鑑みなされたものであり、その目的は、異なるフレームレートで撮像された複数の動画像データを、再生の目的に応じて適切な動画を再生できる技術を提供することにある。

本発明のある態様は画像再生制御装置である。この装置は、通常のフレームレートのストリームを復号して通常のフレームレートの動画のフレームを出力する通常フレームレートストリーム復号部と、前記通常のフレームレートのストリームに含まれる少なくとも一部のシーンに関しての通常よりも高いフレームレートのストリームを復号して、通常よりも高いフレームレートの動画のフレームを出力する高フレームレートストリーム復号部と、前記シーンを特定するための関連情報とコマ送り再生すべき期間を特定する制御情報とに基づいて、前記通常のフレームレートの動画のフレームまたは前記通常よりも高いフレームレートの動画のフレームのいずれかを再生すべき動画のフレームとして選択するフレーム選択部とを含む。前記フレーム選択部は、コマ送り再生すべき期間の場合に前記通常よりも高いフレームレートの動画のフレームが存在する場合であれば、前記通常よりも高いフレームレートの動画のフレームを選択して出力する。

本発明の別の態様は撮像装置である。この装置は、動画像を取得する撮像部と、前記撮像部により撮像される動画像を符号化して、通常のフレームレートのストリームと通常よりも高いフレームレートのストリームとの、２種類のストリームを生成可能な画像符号化部と、前記通常のフレームレートのストリームと当該ストリームの生成と並行して生成された前記通常よりも高いフレームレートのストリームとを関連づける関連情報を生成する制御部と、上述した画像再生制御装置と、前記画像再生制御装置により表示制御される表示装置とを含む。

本発明のさらに別の態様は画像記録制御方法である。この方法は、同一のシーンに関する通常のフレームレートのストリームと、通常よりも高いフレームレートのストリームとが同時に存在するときに、前記同一のシーンに関するストリームをコマ送り再生すべき場合には、前記通常よりも高いフレームレートのストリームを復号することにより得られたフレームを用いてコマ送り再生をする。

なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。

本発明によれば、異なるフレームレートで撮像された複数の動画像データを、再生の目的に応じて適切な動画を再生できる。

実施の形態１にかかる撮像装置の内部構成を模式的に示した図である。 実施の形態１にかかる撮像装置の処理の流れを説明するフローチャートである。 通常フレームレートフレーム符号化部が符号化の対象とする通常フレームレートフレーム群と、高フレームレートフレーム符号化部が符号化の対象とする第１高フレームレートフレーム群および第２高フレームレートフレーム群との関係の一例を模式的に表した図である。 チャプタが埋め込まれたストリームを伸張したときの、チャプタとフレームとの位置関係の一例を示す図である。 ファイル連結部が生成するファイルの構造の一例を模式的に表した図である。 ファイル連結部が生成するファイルの構造の別例を模式的に表した図である。 ファイルに格納される関連情報の記録形式の一例を模式的に表した図である。 ファイルに格納される関連情報の記録形式の別例を模式的に表した図である。 実施の形態２にかかる画像再生制御装置の内部構成を模式的に示した図である。 実施の形態２にかかる映像選択の流れを説明するフローチャートである。 ６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、フレーム切り替えのタイミング例を示す図である。 ６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングの別例を示す図である。 ６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。 ６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。 ６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。

（実施の形態１）
本発明の実施の形態１の概要を述べる。実施の形態１は、２４０ｆｐｓ（frames per second）のフレームレートで動画フレームを生成してフレームバッファに格納しておき、通常の撮影モードでは、６０ｆｐｓのフレームレートになるまでフレームを間引いてからストリームを生成する。ユーザから高速撮影を行う旨の指示がある間は、６０ｆｐｓのフレームレートのストリームの生成に加えて、フレームを間引きする前の２４０ｆｐｓのフレームレートのストリームも生成する。撮影終了後、生成されたフレームレートの異なる複数のストリームを連結して単一のファイルとして保存する。

図１は、実施の形態１に係る撮像装置２００の内部構成を模式的に示した図である。撮像装置２００は、センサ１０、操作部１２、フレーム生成部１４、および画像記録制御装置１００を含む。画像記録制御装置１００はさらに、フレームバッファ１６、フレーム間引き部１８、画像符号化部２０、制御部２２、ファイル連結部３２、および記録部３４を含む。

フレーム生成部１４は、センサ１０が取得した映像のフレームを生成する。センサ１０は、ＣＣＤ（Charge Coupled Devices）センサやＣＭＯＳ（Complementary Metal Oxide Semiconductor）イメージセンサなどの図示しない固体撮像素子であり、フレーム生成部１４はセンサ１０から出力されるアナログの三原色信号Ｒ、Ｇ、Ｂを処理して、デジタルの輝度信号Ｙおよび色差信号Ｃｒ、Ｃｂのフレームに変換する。フレームバッファ１６は、フレーム生成部１４が生成したフレームを一時的に保存する。

フレーム間引き部１８は、フレームバッファ１６に格納されているフレームを間引きする。フレームバッファ１６にはフレーム生成部１４が生成した、フレームレートが２４０ｆｐｓのフレームが格納されており、フレーム間引き部１８は、当該フレームを四分の一に間引くことにより、フレームレートが６０ｆｐｓのフレームを生成する。ここでフレーム生成部１４が生成するフレームのフレームレートと、フレーム間引き部１８が生成するフレームのフレームレートとは様々な組み合わせがあってもよい。例えば、フレーム生成部１４が６００ｆｐｓのフレームを生成してもよく、フレーム間引き部１８は間引きの枚数を自由に変更できるようにしてもよい。

画像符号化部２０はさらに、通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とのふたつの画像符号化部を含む。

通常フレームレートフレーム符号化部３６は、フレーム間引き部１８が生成したフレームを符号化して通常フレームレートストリーム２４を生成する。通常フレームレートフレーム符号化部３６は、当該フレームを所定の規格にしたがい符号化する。動画像の符号化には、国際標準化機関であるＩＳＯ（International Organization for Standardization）／ＩＥＣ（International Electrotechnical Commission）によって標準化されたＭＰＥＧ（Moving Picture Experts Group）シリーズの規格（ＭＰＥＧ−１、ＭＰＥＧ−２およびＭＰＥＧ−４）、電気通信に関する国際標準機関であるＩＴＵ−Ｔ（International Telecommunication Union-Telecommunication Standardization Sector）によって標準化されたＨ．２６ｘシリーズの規格（Ｈ．２６１、Ｈ．２６２およびＨ．２６３）、もしくは両方の標準化機関によって合同で標準化された最新の動画像圧縮符号化標準規格であるＨ．２６４／ＡＶＣ（両機関における正式勧告名はそれぞれMPEG-4 Part 10: Advanced Video CodingとH.264）に準拠する技術、その拡張標準であるＨ．２６４／ＡＶＣ Ａｎｎｅｘ Ｇ、すなわちＨ．２６４／ＳＶＣ（Scalable Video Coding）が用いられる。

高フレームレートフレーム符号化部３８は、操作部１２に入力されたユーザの指示がある間、フレームバッファ１６に格納されているフレームを符号化し、ストリームを生成する。したがって、高フレームレートフレーム符号化部３８が生成するストリームは、通常フレームレートフレーム符号化部３６が生成するストリームよりも高いフレームレート（２４０ｆｐｓ）のストリームとなる。以後、ユーザの指示により高フレームレートフレーム符号化部３８がフレームバッファ１６に格納されているフレームを直接符号化してストリームを生成する動作を「高速撮影モード」と呼ぶ。高フレームレートフレーム符号化部３８も通常フレームレートフレーム符号化部３６と同様に、ＭＰＥＧ−２、またはＭＰＥＧ−４、Ｈ．２６４／ＡＶＣ、Ｈ．２６４／ＳＶＣなどの規格にしたがい圧縮符号化する。

通常フレームレートフレーム符号化部３６がフレーム間引き部１８の生成した一連のフレームをすべて符号化して一つのストリーム（通常フレームレートストリーム２４）を生成するのに対し、高フレームレートフレーム符号化部３８は、ユーザから高速撮影モードの指示がある度に、その指示がある期間に符号化する。例えばユーザが１度目の高速撮影モードの指示を行うと、高フレームレートフレーム符号化部３８は第１高フレームレートストリーム２６を生成する。以後、高フレームレートフレーム符号化部３８はユーザから高速撮影モードの指示がある度にストリームを生成し、ｎ回目の指示で第ｎ高フレームレートストリーム２８を生成する。

高フレームレートフレーム符号化部３８が生成するストリームはフレームレートが高く、映像を高い時間分解能で撮影することができる一方で、多くの記録容量を要する。反対に、通常フレームレートフレーム符号化部３６が生成する通常フレームレートストリーム２４はフレームが間引きされているため時間分解能は落ちるが、その分記憶容量は少なくなる。これらの性質を利用して、映像全体を通常フレームレートストリーム２４で記録し、例えば重要なシーンについては高速撮影モードで撮影することにより、記憶容量を抑えつつ、重要なシーンを高い時間分解能で記録することが可能となる。

制御部２２は、操作部１２に入力されたユーザの指示に基づいて関連情報３０を生成する。ここで「関連情報」とは、センサ１０に入力された映像を通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とが共に符号化したときに、両者が生成したストリームを関連づける情報である。例えば、通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とが重複して符号化した部分を特定する情報、すなわち、高フレームレートで撮像すべき期間を特定する情報である。関連情報の具体例については後述する。

ファイル連結部３２は、通常フレームレートフレーム符号化部３６が生成した通常フレームレートストリーム２４、高フレームレートフレーム符号化部３８が生成したひとつ以上の高フレームレートストリーム、および制御部２２が生成した関連情報３０を多重化して連結し、単一のファイルを生成する。ここで「単一のファイル」とはファイル操作の単位となるファイルを意味し、ひとつのファイル名の下で一括してファイルの複製や削除、ファイル転送等の操作の対象となる。ファイルとしては、例えばＭＰ４ファイルフォーマットにしたがったコンテナファイルを利用することができる。当該コンテナファイルには、各符号化データのヘッダ情報、メタデータ、時刻情報などを記述したコンテナを含めることができる。

記録部３４は、ファイル連結部３２が生成したファイルを格納する。記録部３４としては例えば、内蔵メモリとして、半導体メモリまたはハードディスクを採用することができる。また、リムーバブルメモリとして、メモリーカード、リムーバブルハードディスク、または光ディスクを採用することができる。

画像記録制御装置１００の構成は、ハードウェア的には、任意のプロセッサ、メモリ、その他のＬＳＩで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは、当業者には理解されるところである。

図２は、実施の形態１にかかる撮像装置２００の処理の流れを説明するフローチャートである。本フローチャートにおける処理は、例えばユーザが撮像装置２００の電源ボタン（図示しない）を押すと開始する。

ユーザが動画撮影を選択した場合（Ｓ１０Ｙ）、フレーム生成部１４はセンサ１０が取得した映像のフレームを生成してフレームバッファ１６に格納する（Ｓ１２）。ユーザが操作部１２を介して高速撮影モードを選択する場合（Ｓ１４Ｙ）、高フレームレートフレーム符号化部３８は、フレームバッファ１６に格納されている高フレームレートのフレームを符号化する（Ｓ１６）。ユーザが高速撮影モードを選択しない場合には（Ｓ１４Ｎ）、高フレームレートフレーム符号化部３８は符号化を実行しない。

フレーム間引き部１８は、フレームバッファ１６に格納されているフレームを所定の枚数間引きする（Ｓ１８）。通常フレームレートフレーム符号化部３６は、フレーム間引き部１８が出力した通常のフレームレートのフレームを符号化する（Ｓ２０）。ここで動画像の撮影を終了しない場合には（Ｓ２２Ｎ）、ステップＳ１２に戻り、フレームの符号化を続行する。動画像の撮影を終了する場合には（Ｓ２２Ｙ）、制御部２２は関連情報３０を生成する（Ｓ２４）。その後ファイル連結部３２は、通常フレームレートフレーム符号化部３６が生成した通常フレームレートストリーム２４、高フレームレートフレーム符号化部３８が生成した一つ以上の高フレームレートのストリーム、および制御部２２が生成した関連情報３０を連結してひとつのファイルを生成する（Ｓ２６）。ファイル連結部３２がファイルを生成するか、あるいは動画撮影でない場合に（Ｓ１０Ｎ）、本処理は終了する。

なお、図２において通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とが符号化処理を直列に実行する場合について説明したが、両者は並列に符号化処理を実行してもよい。

以下、制御部２２が生成する関連情報３０の具体例について図を参照しながら説明する。

図３は、通常フレームレートフレーム符号化部３６が符号化の対象とする通常フレームレートフレーム群４０と、高フレームレートフレーム符号化部３８が符号化の対象とする第１高フレームレートフレーム群４２および第２高フレームレートフレーム群４４との関係の一例を模式的に表した図である。本例では通常フレームレートフレーム群４０のフレームレートは６０ｆｐｓであり、第１高フレームレートフレーム群４２および第２高フレームレートフレーム群４４のフレームレートは２４０ｆｐｓであるとする。

通常フレームレートフレーム群４０の撮影開始時刻を原点とする時間軸４６と、通常フレームレートフレーム群４０の第１番目のフレームのフレーム番号を１とし、以後順番に通し番号をふったときのフレーム番号を表すフレーム軸４８とを考える。通常フレームレートフレーム群４０は時刻０から始まって時刻Ｔ５で終了する。このとき通常フレームレートフレーム群４０は、１番目のフレームからＦ５番目のフレームまで存在し、その間のフレームの総数はＮ０枚である。

時刻Ｔ１においてユーザが操作部１２を介して高速撮影モードを選択すると、高フレームレートフレーム符号化部３８は第１高フレームレートフレーム群４２の符号化を開始する。時刻Ｔ２においてユーザが高速撮影モードを終了すると、高フレームレートフレーム符号化部３８は符号化を終了する。第１高フレームレートフレーム群は時刻Ｔ１からＴ２までのＤ１の期間に撮影されたフレーム群ということになる。

時刻Ｔ３においてユーザが再度高速撮影モードを選択すると、高フレームレートフレーム符号化部３８は第２高フレームレートフレーム群４４の符号化を開始する。Ｄ２の時間が経過し、時刻Ｔ４においてユーザが高速撮影モードを終了すると、高フレームレートフレーム符号化部３８は符号化を終了する。

この例では、通常フレームレートフレーム群４０と第１高フレームレートフレーム群４２とは時刻Ｔ１からＴ２までのＤ１の期間において重複する。そこで両者の重複部分を特定する関連情報３０として、時刻Ｔ１とＴ２とのセットが考えられる。また、両者の重複が始まる時刻Ｔ１と重複する期間であるＤ１とのセットも重複部分を特定する関連情報３０とすることができる。同様に、通常フレームレートフレーム群４０と第２高フレームレートフレーム群４４とは時刻Ｔ３からＴ４までのＤ２の期間において重複するので、Ｔ３とＴ４のセットあるいはＴ３とＤ２のセットを通常フレームレートフレーム群４０と第２高フレームレートフレーム群４４との重複部分を特定する関連情報３０とすることができる。

ユーザが高速撮影モードを選択した時刻Ｔ１において、通常フレームレートフレーム群４０はＦ１番目のフレームであったとする。その後時刻Ｔ２においてユーザが高速撮影モードを終了したとき、通常フレームレートフレーム群４０はＦ２番目のフレームであったとする。このとき、通常フレームレートフレーム群４０と第１高フレームレートフレーム群４２との重複部分は、通常フレームレートフレーム群４０のフレーム番号Ｆ１とＦ２とのセットで特定することができる。また、Ｆ１番目のフレームとＦ２番目とのフレームの間にＮ１枚の通常フレームレートフレーム群４０のフレームがあるとすれば、通常フレームレートフレーム群４０と第１高フレームレートフレーム群４２との重複部分は、通常フレームレートフレーム群４０のフレーム番号Ｆ１と重複部分の枚数Ｎ１とのセットでも特定することができる。したがって、Ｆ１とＦ２とのセットあるいはＦ１とＮ１とのセットを通常フレームレートフレーム群４０と第１高フレームレートフレーム群４２との重複部分を特定する関連情報３０とすることができる。

通常フレームレートフレーム群４０と第２高フレームレートフレーム群４４との場合も同様で、時刻Ｔ３の時の通常フレームレートフレーム群４０のフレーム番号をＦ３、時刻Ｔ４の時の通常フレームレートフレーム群４０のフレーム番号をＦ４とし、その間のフレーム数をＮ２とすれば、Ｆ３とＦ４とのセットあるいはＦ３とＮ２とのセットを通常フレームレートフレーム群４０と第２高フレームレートフレーム群４４との重複部分を特定する関連情報３０とすることができる。

ここで、通常フレームレートフレーム群４０のフレーム数Ｎ１またはＮ２のかわりに、対応する第１高フレームレートフレーム群４２または第２高フレームレートフレーム群４４のフレーム数を用いることも可能である。この場合、第１高フレームレートフレーム群４２および第２高フレームレートフレーム群４４のフレームレートは通常フレームレートフレーム群４０の４倍（２４０ｆｐｓ／６０ｆｐｓ＝４）であるので、対応するフレームの枚数もそれぞれ４倍となる。

図４は、関連情報３０の別の例を模式的に表した図である。本例は、ストリームの中に映像の区切りデータとしてチャプタ（chapter）が埋め込まれる場合の例である。

本例においては、図４はチャプタが埋め込まれたストリームを伸張したときの、チャプタとフレームとの位置関係の一例を示す図である。第１のチャプタ５２ａは、チャプタ付きストリーム５０内に存在し、第１高フレームレートフレーム群４２が開始する直前に埋め込まれている。また、第２のチャプタ５２ｂは、第１高フレームレートフレーム群４２が終了した直後に埋め込まれている。したがって第１のチャプタ５２ａと第２のチャプタ５２ｂとのセットを、チャプタ付きストリーム５０と第１高フレームレートフレーム群４２との重複部分を特定する関連情報３０とすることができる。なお、チャプタ５２は、関連情報３０としてファイル連結部３２が埋め込む。

図５は、ファイル連結部３２が生成するファイル５４の構造の一例を模式的に表した図である。ファイル５４は、ファイルの先頭からヘッダ５６、関連情報３０、通常フレームレートストリーム２４、第１高フレームレートストリーム２６の順に格納され、終端に第ｎ高フレームレートストリーム２８を含む。ここでヘッダ５６は各ストリームの先頭位置の情報等を格納する。このように、各ストリームを順番に格納する場合は、ファイル連結部３２がファイル５４を生成するときの制御が簡単になる点で有利である。

なお、ヘッダ５６や関連情報３０はファイルの先頭でなくてもよく、例えばファイルの終端にあってもよい。この場合、通常フレームレートストリーム２４が先頭となるため、ファイルを探索することなく即座に映像全体を再生できる点で有利である。また、関連情報３０はヘッダ５６の一部として格納されていてもよい。

図６は、ファイル連結部３２が生成するファイル５４の構造の別例を模式的に表した図である。本例では、先頭にヘッダ５６および関連情報３０が格納される点では図５に示す例と同じであるが、各ストリームファイルは所定の基準で分割され、分散して格納される点で異なる。また、ヘッダ５６は各ストリームの先頭位置の情報のみならず、分割された各ストリームの先頭位置の情報も格納される。

図６において、通常フレームレートストリーム２４はｍ個の単位に分割され、第１のストリームその１（符号２４ａ）、第１のストリームその２（符号２４ｂ）と続いて第１のストリームそのｎ（符号２４ｃ）に至り、最後に第１のストリームそのｍ（符号２４ｄ）として格納される。分割された通常フレームレートストリーム２４の間に、分割された第２のストリームその１（符号２６ａ）や第２のストリームその２（符号２６ｂ）が格納される。同様に、第ｎのストリームも分割されて格納される（符号２８ａ）。このように、各ストリームを分割して記録する方式は、記録時の制御が複雑になるものの、記録部３４の記録領域に対して効率的に記録できる点で有利である。記録領域内に物理的に連続して大きな空き領域がなく、小さな空き領域しか存在しないような場合でも、ファイルを小さな単位に分割して記録できれば、そのような小さな空き領域に記録することができるからである。

したがって、上述したファイルを分割するための「所定の基準」とは、記録部３４の記録領域を効率よく利用するために用意するデータ記録の最小単位であり、例えばストリームに記録されている映像の時間や、データのサイズあるいはチャプタ５２によって区切られる単位が用いられる。これらの基準およびその最小単位は、記録部３４の容量やファイルシステムの制限などを考慮して実験的に定めればよい。

図７は、ファイル５４に格納される関連情報３０の記録形式の一例を模式的に表した図である。本例では、関連情報３０として、上述した時刻Ｔ０から時刻Ｔ５までの各時刻を用いる場合について説明する。

まず、関連情報３０を記録する領域の先頭に、記録すべき関連情報３０の個数を格納する。本例では、記録すべき関連情報は時刻Ｔ０から時刻Ｔ５までの６個であるから、関連情報３０の個数として６を格納する。次に、通常フレームレートフレーム群４０の開始時刻であるＴ０と終了時刻であるＴ５を格納し、次に第１高フレームレートフレーム群４２の開始時刻であるＴ１と終了時刻であるＴ２を格納する。最後に第２高フレームレートフレーム群４４の開始時刻であるＴ３と終了時刻であるＴ４を格納する。フレーム群の数が増えた場合も同様の形式で格納すればよい。また、開始時刻と終了時刻は必ずセットで保存されるので、記録すべき関連情報３０の個数としてはセットの個数を記録してもよい。本例の場合では、開始時刻と終了時刻のセットは３セットあるため、関連情報３０の個数として３を格納する。

なお、関連情報３０としては、通常フレームレートフレーム群４０の開始時刻であるＴ０と終了時刻であるＴ５は省略することが可能である。

図８は、ファイル５４に格納される関連情報３０の記録形式の別例を模式的に表した図である。本例では、関連情報３０として、上述した各フレーム群の先頭のフレーム番号とフレームの枚数とを用いる場合について説明する。

本例の場合は、図７に示す例と異なり、記録すべき関連情報３０の個数は格納されず、先頭から順に関連情報３０が格納される。具体的には、まず通常フレームレートフレーム群４０のフレームの総数であるＮ０が格納される。次に第１高フレームレートフレーム群４２の先頭フレームに対応する通常フレームレートフレーム群４０のフレーム番号であるＦ１と、第１高フレームレートフレーム群４２と重複する区間の通常フレームレートフレーム群４０のフレーム枚数であるＮ１が格納される。続いて、第２高フレームレートフレーム群４４の先頭フレームに対応する通常フレームレートフレーム群４０のフレーム番号であるＦ３と、第１高フレームレートフレーム群４２と重複する区間の通常フレームレートフレーム群４０のフレーム枚数であるＮ２が格納される。最後に関連情報３０の終端を示す識別子であるターミネータが格納される。関連情報３０の先頭からターミネータまでの間の情報を読み込むことにより、関連情報３０の個数が格納されていなくても、関連情報を正しく読み取ることが可能となる。

なお、関連情報３０として、通常フレームレートフレーム群４０のフレームの総数であるＮ０は省略することもできる。

以上の構成による動作は以下のとおりである。ユーザは、実施の形態１にかかる撮像装置を用いて記録に残したい映像を撮像するに際し、その中でも特に重要なシーンについては高速撮影をする。撮影を終了すると、映像全体が６０ｆｐｓのフレームレートで記録されており、高速撮影をしたシーンについては２４０ｆｐｓのフレームレートで撮影された映像もあわせて記録されている。この結果、異なるフレームレートで撮影された映像が複数存在することになるが、これらは単一のファイルにまとめられて記録される。

以上説明したように実施の形態１によれば、映像全体を通常のフレームレートで撮影し、重要なシーンについては合わせて高フレームレートで撮影することにより、重要でないシーンの符号量を抑えることが可能となり、結果として記憶容量を節約することができる。また、重要なシーンは別のストリームとして生成されるため、重要なシーンの取出しが容易となる。さらに、すべてのストリームと関連情報３０とをまとめてひとつのファイルとして生成されるため、ストリームごとに別ファイルを生成する場合と比較して、ファイルのコピーや転送、削除等の管理が容易となる。また、ストリームファイルの一部を消失した結果、一連のストリームファイルがすべて再生できなくなるということも防止できる。

すべての機器が、例えば２４０ｆｐｓのような高フレームレートで撮影されたストリームを再生できるとは限らないが、実施の形態１によれば、映像全体を通常のフレームレートで撮影してあるため、高フレームレートで撮影されたストリームを再生できない機器においても映像を再生することが可能となる。

（実施の形態２）
実施の形態２の概要を述べる。実施の形態２は、通常の撮影モードで撮影されたストリームと高速撮影モードで撮影されたストリームとの複数のストリームを含む動画ファイルを再生するに際し、通常の撮影モードで撮影されたストリームを再生中であっても、コマ送り再生時には、高速撮影モードで撮影されたストリームのフレームを用いてコマ送り再生する。高速撮影モードで撮影されたストリームは通常の撮影モードで撮影されたストリームと比べて映像の時間分解能が高いので、通常の撮影モードで撮影されたストリームを用いてコマ送り再生する場合よりも、動画の変化をきめ細かく再生できるからである。

図９は、実施の形態２にかかる画像再生制御装置３００の内部構成を模式的に示した図である。画像再生制御装置３００は、ファイル分割部５８、画像復号部６０、操作受付部６２、およびフレーム選択部６４を含む。画像復号部６０はさらに、通常フレームレートストリーム復号部６８と高フレームレートストリーム復号部７０とを含む。

ファイル分割部５８は、記録部３４から構成要素として関連情報３０および異なるフレームレートで撮像された複数のストリームを含む単一ファイルを受け取り、それを構成要素に分割する。通常フレームレートストリーム復号部６８は、ファイル分割部５８が分割した構成要素のうち、通常フレームレートストリーム２４を復号する。高フレームレートストリーム復号部７０は、ファイル分割部５８が分割した構成要素のうち、高フレームレートストリームを復号する。

操作受付部６２は、ファイル分割部５８が分割した構成要素のうち、関連情報３０を受け取る。加えて、図示しないユーザインタフェースを介して、動画をコマ送り再生すべき旨の指示等、ユーザから再生方法に関する制御情報を受け付ける。フレーム選択部６４は、画像復号部６０から復号された６０ｆｐｓのフレームおよび２４０ｆｐｓのフレームを受け取り、操作受付部６２からの制御情報に基づいて表示すべきフレームを選択する。表示部６６は、フレーム選択部６４で選択されたフレームを図示しないテレビやモニタ等の出力デバイスに表示する。

画像再生制御装置３００の構成は、ハードウェア的には、任意のプロセッサ、メモリ、その他のＬＳＩで実現でき、ソフトウェア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウェアのみ、ソフトウェアのみ、またはそれらの組み合わせによっていろいろな形で実現できることは、当業者には理解されるところである。

ここで、通常フレームレートストリーム復号部６８および高フレームレートストリーム復号部７０は、復号したフレームが表示部６６にて出力されるか否かに関わらず、常にフレームを復号することを前提とする。また、高フレームレートストリーム復号部７０が復号した２４０ｆｐｓのフレームを再生するに際しては、通常のフレームレートのフレームと同じフレームレートである６０ｆｐｓで再生する。したがって、通常のフレームレートのフレームの再生と比べて４倍（２４０ｆｐｓ／６０ｆｐｓ＝４倍）ゆっくりと再生されるように見える。

図１０は、実施の形態２にかかる映像選択の流れを説明するフローチャートである。本フローチャートにおける処理は、例えば操作受付部６２がユーザから動画の再生を指示されたときに開始する。

フレーム選択部６４は、高フレームレートストリーム復号部７０から高フレームレートフレームが出力されるフレームが存在するか否かを調べる。高フレームレートフレームが存在しない場合には（Ｓ２８Ｎ）、フレーム選択部６４は通常のフレームレートのフレームを選択する（Ｓ３６）。高フレームレートフレームが存在する場合には（Ｓ２８Ｙ）、フレーム選択部６４は、操作受付部６２からコマ送りで再生すべき指示が存在するか否かを調べる。コマ送り再生すべき指示が存在する場合には（Ｓ３０Ｙ）、フレーム選択部６４は高フレームレートのフレームを選択する（Ｓ３４）。コマ送り再生すべき指示が存在しない場合には（Ｓ３０Ｎ）、フレーム選択部６４は、操作受付部６２から高速撮影モードで撮影された高フレームレートのフレームを再生すべき指示が存在するか否かを調べる。

高フレームレートで再生すべき指示が存在しない場合には（Ｓ３２Ｎ）、フレーム選択部６４は通常のフレームレートのフレームを選択する（Ｓ３６）。高フレームレートで再生すべき指示が存在する場合には（Ｓ３２Ｙ）、フレーム選択部６４は高フレームレートのフレームを選択する（Ｓ３４）。フレーム選択部６４が、選択したフレームを表示部６６に出力すると（Ｓ３８）、本フローチャートにおける処理は終了する。フレーム選択部６４は、ストリームの再生中は毎フレームについて本フローチャートにおける処理を実行する。

図１１は、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えのタイミング例を示す図である。本例では、時刻Ｔ７から時刻Ｔ１０の期間に２４０ｆｐｓのフレーム群が存在し、６０ｆｐｓのフレーム群を再生中に、時刻Ｔ８においてコマ送り再生すべき旨の指示があり、時刻Ｔ９にコマ送り再生を終了した例が示されている。コマ送り再生すべき旨の指示があった時刻Ｔ８から時刻Ｔ９の期間は、６０ｆｐｓのフレーム群が存在するにも関わらず、２４０ｆｐｓのフレーム群でコマ送り再生を行う。

図１２は、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングの別例を示す図である。本例では、時刻Ｔ１１から時刻Ｔ１３の間、および時刻Ｔ１４から時刻Ｔ１６の間のふたつの期間にわたり、ふたつの２４０ｆｐｓのフレーム群が存在する。

時刻Ｔ１２まで６０ｆｐｓのフレーム群が通常再生されていたが、時刻Ｔ１２においてコマ送り再生をすべき指示があり、２４０ｆｐｓのフレーム群を用いたコマ送り再生に切り替わる。時刻Ｔ１３においてひとつ目の２４０ｆｐｓのフレーム群が終了するため、６０ｆｐｓのフレーム群を用いてのコマ送り再生に切り替わる。その後、時刻Ｔ１４にてふたつ目の２４０ｆｐｓのフレーム群が出現するため、再び２４０ｆｐｓのフレーム群を用いたコマ送り再生に切り替わる。時刻Ｔ１５においてコマ送り再生をすべき指示が終了するので、６０ｆｐｓのフレーム群を用いた通常再生に切り替わる。

図１３は、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。本例では、６０ｆｐｓのフレーム群を再生中に２４０ｆｐｓのフレーム群が存在しない範囲でユーザからコマ送り再生すべき旨の指示があり、コマ送り再生中に２４０ｆｐｓのフレーム群が出現したため、以後２４０ｆｐｓのフレーム群が選択されコマ送り再生される。その後、コマ送り再生中に２４０ｆｐｓのフレーム群が存在する範囲でコマ送り再生が終了したため、再度６０ｆｐｓのフレーム群が選択され再生される。

図１４は、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。本例では、６０ｆｐｓのフレーム群を再生中に２４０ｆｐｓのフレーム群が存在する範囲でユーザからコマ送り再生すべき旨の指示があり、２４０ｆｐｓのフレーム群が選択されコマ送り再生される。その後、コマ送り再生中に２４０ｆｐｓのフレーム群が終了したため、６０ｆｐｓのフレーム群を用いてコマ送り再生される。コマ送り再生が終了後も引き続き６０ｆｐｓのフレーム群が選択され再生される。

図１５は、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とが存在する場合にそれらのフレームを再生するに際し、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群との切り替えタイミングのさらに別の例を示す図である。本例では、６０ｆｐｓのフレーム群を再生中に２４０ｆｐｓのフレーム群が存在しない範囲でユーザからコマ送り再生すべき旨の指示があり、６０ｆｐｓのフレーム群を用いてコマ送り再生される。その後、２４０ｆｐｓのフレーム群が出現したので、２４０ｆｐｓのフレーム群を用いてのコマ送り再生となる。コマ送り再生中に２４０ｆｐｓのフレーム群が終了したため、再度６０ｆｐｓのフレーム群を用いてのコマ送り再生となる。コマ送り再生が終了後も引き続き６０ｆｐｓのフレーム群が選択され再生される。

以上のように、実施の形態２にかかる画像再生制御装置３００は、高速撮影モードで撮影された２４０ｆｐｓのフレーム群が存在する場合には、ユーザからコマ送り再生すべき旨の指示があったときには、２４０ｆｐｓのフレーム群に切り替えてコマ送り再生を行う。これにより、６０ｆｐｓのフレームをコマ送り再生する場合と比べて、動画の変化をきめ細かく再生することが可能となる。

以上、実施の形態１および実施の形態２を説明した。これらの実施の形態の任意の組合せもまた本発明の実施の形態として有用である。実施の形態１と実施の形態２とを組合せ、ファイル連結部３２の出力した単一ファイルをファイル分割部５８が受け取るようにすれば、これらの実施の形態の効果の和に加え、さらに、撮像から再生までを一貫してユーザに提供できるようになる点で有利である。

以上、本発明を実施の形態をもとに説明した。この実施の形態は例示であり、それらの各構成要素や各処理プロセスの組合せにいろいろな変形例が可能なこと、またそうした変形例も本発明の範囲にあることは当業者に理解されるところである。

例えば、上記実施の形態１では、画像符号化部２０が通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とのふたつ画像符号化部を含む場合について説明したが、いずれかの演算速度が十分速い場合には、ひとつの画像符号化部としてもよい。この場合、高速撮影モード時には通常のフレームレートの映像と高フレームレートの映像とを時分割で符号化することになる。回路の規模を小さくできることから、製造コストや消費電力を抑えられる点で有利である。

また、上記実施の形態１では、通常フレームレートフレーム符号化部３６と高フレームレートフレーム符号化部３８とはそれぞれ独立して演算する場合を想定したが、演算結果を共有できるようにしてもよい。例えば、高フレームレートフレーム符号化部３８が計算した４枚分のフレームの動きベクトルを合成すれば、通常フレームレートフレーム符号化部３６で計算すべき１枚分の動きベクトルとなる。この結果を共有することにより、全体として演算時間と消費電力とを抑えられる点で有利である。

また、上記実施の形態１では、チャプタ５２を関連情報３０として記録する場合について説明したが、ストリームに埋め込むチャプタ５２自体に、対応する高フレームレートの映像の情報を持たせてもよい。この場合、上述の例ではチャプタ５２ａに第１高フレームレートフレーム群４２の開始を、チャプタ５２ｂに第１高フレームレートフレーム群４２の終了を情報として記録することになる。また上述の例では、チャプタ５２ａとチャプタ５２ｂとをもって第１高フレームレートフレーム群４２の関連情報３０として説明したが、チャプタ５２ａと第１高フレームレートフレーム群４２のフレーム数や時間等を関連情報３０とすることもできる。

また、上記実施の形態１では、フレーム生成部１４が常時２４０ｆｐｓのフレームを生成する場合について説明したが、通常は６０ｆｐｓの動画を生成し、高速撮影モードの場合のみ２４０ｆｐｓのフレームを生成するようにしてもよい。この場合、高速撮影モードではない場合のフレーム生成部１４の演算量が減り、フレーム間引き部１８の演算も不要となるため、消費電力を抑えられる点で有利である。また、フレームレートが低い場合にはセンサ１０における受光量を多くすることができるため、ノイズを抑制する効果も得られる。

上記実施の形態２では、通常フレームレートストリーム復号部６８および高フレームレートストリーム復号部７０は、復号したフレームが表示部６６にて出力されるか否かに関わらず、常にフレームを復号するものとして説明したが、それぞれ表示部６６にて出力されるフレームを復号する場合のみ復号するようにしてもよい。その場合、フレーム選択部６４が通常フレームレートストリーム復号部６８または高フレームレートストリーム復号部７０にフレームを復号すべき指示を出力することになる。通常フレームレートストリーム復号部６８または高フレームレートストリーム復号部７０のいずれかのみが動作すればよいので、消費電力を抑制できる点で有利である。

また、上記実施の形態２では、画像復号部６０が通常フレームレートストリーム復号部６８と高フレームレートストリーム復号部７０とのふたつ画像復号部を含む場合について説明したが、いずれかの演算速度が十分速い場合には、ひとつの画像復号部としてもよい。この場合、６０ｆｐｓのフレーム群と２４０ｆｐｓのフレーム群とを時分割で復号することになる。回路の規模を小さくできることから、製造コストや消費電力を抑えられる点で有利である。

また、上記実施の形態２では、ファイル分割部５８が単一ファイルを構成要素に分割する場合について説明したが、構成要素は単一ファイルとしてまとまっておらず、複数のファイルとして点在していてもよい。この場合、ファイル分割部５８に替えて図示しないファイル管理部が、点在する複数のファイルを関連づけることになる。これは例えば関連情報および異なるフレームレートで撮像された複数のストリームを同一フォルダに格納しておいたり、複数のファイルの命名規則を共通化したりすることで実現できる。

５８ ファイル分割部、 ６２ 操作受付部、 ６４ フレーム選択部、 ６６ 表示部、 ６８ 通常フレームレートストリーム復号部、 ７０ 高フレームレートストリーム復号部、 ２００ 撮像装置、 ３００ 画像再生制御装置。

Claims (5)

1. 通常のフレームレートのストリームを復号して通常のフレームレートの動画のフレームを出力する通常フレームレートストリーム復号部と、
   前記通常のフレームレートのストリームに含まれる少なくとも一部のシーンに関しての通常よりも高いフレームレートのストリームを復号して、通常よりも高いフレームレートの動画のフレームを出力する高フレームレートストリーム復号部と、
   前記シーンを特定するための関連情報とコマ送り再生すべき期間を特定する制御情報とに基づいて、前記通常のフレームレートの動画のフレームまたは前記通常よりも高いフレームレートの動画のフレームのいずれかを再生すべき動画のフレームとして選択するフレーム選択部とを含み、
   前記フレーム選択部は、コマ送り再生すべき期間の場合に前記通常よりも高いフレームレートの動画のフレームが存在する場合であれば、前記通常よりも高いフレームレートの動画のフレームを選択して出力することを特徴とする画像再生制御装置。
2. 前記フレーム選択部は、前記通常のフレームレートの動画のフレームの再生中に前記コマ送り再生すべき期間が開始した場合に、前記通常よりも高いフレームレートの動画のフレームが存在しない場合には、前記通常のフレームレートの動画のフレームを選択して出力し、前記コマ送り再生すべき期間中に前記通常よりも高いフレームレートの動画のフレームが出現した場合には、その後前記通常よりも高いフレームレートの動画のフレームを選択して出力することを特徴とする請求項１に記載の装置。
3. 前記フレーム選択部は、前記通常よりも高いフレームレートの動画のフレームを用いての前記コマ送り再生中に、前記通常よりも高いフレームレートの動画のフレームが終了した場合には、その後前記通常のフレームレートの動画のフレームを選択して出力することを特徴とする請求項１または２に記載の装置。
4. 動画像を取得する撮像部と、
   前記撮像部により撮像される動画像を符号化して、通常のフレームレートのストリームと通常よりも高いフレームレートのストリームとの、２種類のストリームを生成可能な画像符号化部と、
   前記通常のフレームレートのストリームと当該ストリームの生成と並行して生成された前記通常よりも高いフレームレートのストリームとを関連づける関連情報を生成する制御部と、
   請求項１から３のいずれかに記載の画像再生制御装置と、
   前記画像再生制御装置により表示制御される表示装置とを含むことを特徴とする撮像装置。
5. 同一のシーンに関する通常のフレームレートのストリームと、通常よりも高いフレームレートのストリームとが同時に存在するときに、前記同一のシーンに関するストリームをコマ送り再生すべき場合には、前記通常よりも高いフレームレートのストリームを復号することにより得られたフレームを用いてコマ送り再生をすることを特徴とする画像再生制御方法。

Images