JP4735611B2 - 画像データ再生装置および画像データ再生方法 - Google Patents

画像データ再生装置および画像データ再生方法 Download PDF

Info

Publication number
JP4735611B2
JP4735611B2 JP2007171965A JP2007171965A JP4735611B2 JP 4735611 B2 JP4735611 B2 JP 4735611B2 JP 2007171965 A JP2007171965 A JP 2007171965A JP 2007171965 A JP2007171965 A JP 2007171965A JP 4735611 B2 JP4735611 B2 JP 4735611B2
Authority
JP
Japan
Prior art keywords
image data
digest
main image
group
main
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2007171965A
Other languages
English (en)
Other versions
JP2009010838A (ja
Inventor
渉 猪羽
慎 中手
つきみ 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2007171965A priority Critical patent/JP4735611B2/ja
Priority to US12/213,341 priority patent/US20090003799A1/en
Publication of JP2009010838A publication Critical patent/JP2009010838A/ja
Application granted granted Critical
Publication of JP4735611B2 publication Critical patent/JP4735611B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Indexing, Searching, Synchronizing, And The Amount Of Synchronization Travel Of Record Carriers (AREA)
  • Management Or Editing Of Information On Record Carriers (AREA)

Description

本発明は、記録媒体に記録された複数の本編画像データの中から所望のものを検索して再生する画像データ再生装置および画像データ再生方法に関する。
記録媒体に記録された複数の映像データ等の本編画像の中から、所望の映像を検索し易くするため、本編のダイジェスト映像を再生しそれを選択することで、ダイジェスト画像に付加されたリファレンスマークをもとに、対応する本編映像を再生するデータ再生方式がある(例えば、特許文献1参照。)。
特開平11−32288号公報
しかし、上述の特許文献1記載の背景技術では、本編画像データの数が増えるとそれだけその短編のダイジェスト画像データも増えることになり、非常に多くの本編画像データの中から所望の本編画像データを検索するには、それに応じた数のダイジェスト画像データを見る必要が生じる。そのため本編画像データが増えるとその利点が失われてしまうという問題がある。
特に、テレビ番組などを録画した等のように画像データが十分な時間的長さを持つ場合には、ユーザがそのダイジェストを見て本編内容を推測し、所望の本編データがどうかを判断することに適しているが、ビデオカメラでユーザが旅先の記録として数十秒程度から数分程度の風景などを多数撮影した場合には、ダイジェストを見てその本編だけでなく、その本編と同じ時間帯に撮影した映像をすべて見たい、あるいは同日の午後撮影された映像を要約したダイジェストを見たい等、必ずしも選択したダイジェストの本編だけが見たいわけではない。
そこで、本発明は、記録媒体に記録された本編画像データが増えた場合でも、ダイジェスト画像データを利用して、所望の本編画像データを簡単に検索することができる画像データ再生装置および画像データ再生方法を提供することを目的とする。
上記課題を解決するために、本発明の画像データ再生装置および画像データ再生方法では、記録媒体に記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成し、複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データを1つまたは複数抽出してまとめたダイジェスト画像データを前記グループ毎に作成し、複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト画像データとを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記各ダイジェスト画像データを前記各ダイジェスト画像データと関連付けされた前記本編画像データの記録日時順に従って再生する。または、記録媒体に記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成し、複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データ区間を1つまたは複数抽出し、本編画像データ上で前記各区間を区間開始情報及び区間終了情報または区間長情報により示すダイジェスト区間情報を前記グループ毎に作成し、複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト区間情報とを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記ダイジェスト区間情報の区間開始情報及び区間終了情報または区間長情報によって示される区間の本編画像データをダイジェスト画像データとして、前記ダイジェスト区間情報と関連付けされた前記本編画像データの記録日時順に従って再生する。
ここで、ダイジェスト画像データの再生中に、ユーザより前記本編画像データへの再生切替え指示を受けた場合、前記関連付けに基づいて再生中のダイジェスト画像データのグループと同じグループに属する1または複数の前記本編画像データを選択して記録日時順に再生するようにしても良いし、前記本編画像データの再生中に、ユーザよりダイジェスト画像データへの再生切替え指示を受けた場合、前記関連付けに基づいて再生中の本編画像データのグループと同じグループに属する前記ダイジェスト画像データを選択し、選択した前記ダイジェスト画像データから順に前記ダイジェスト画像データを前記本編画像データの記録日時順に従って再生するようにしても良い。
本発明によれば、記録媒体に記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けして複数のグループを作成し、複数の各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データを1つまたは複数抽出してまとめたダイジェスト画像データをグループ毎に作成し、複数のグループ毎に各グループに属する本編画像データとダイジェスト画像データとを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、ダイジェスト画像データをそのダイジェスト画像データと関連付けされた本編画像データの記録日時順に従って再生するか、または複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データ区間を1つまたは複数抽出し、本編画像データ上で前記各区間を区間開始情報及び区間終了情報または区間長情報により示すダイジェスト区間情報をグループ毎に作成し、複数の各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト区間情報とを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、ダイジェスト区間情報の区間開始情報及び区間終了情報または区間長情報によって示される区間の本編画像データをダイジェスト画像データとして、ダイジェスト区間情報と関連付けされた前記本編画像データの記録日時順に従って再生するようにしたので、記録媒体に記録されている複数の本編画像データの内容をグループ毎に簡単かつ迅速に確認して、所望の本編画像データを簡単に検索することができる。
以下、本発明に係る画像データ再生装置および画像データ再生方法の実施の形態について説明する。以下で説明する画像データ再生装置の実施の形態は、本編画像データの記録機能および再生機能を有するビデオカメラ等の画像データ再生装置および画像データ再生方法を想定している。なお、本編画像データには、画像データ以外に音声データ等が含まれていても良いし、その画像データには動画データだけでなく、静止画データでも良いし、動画データと静止画データとが混在していても勿論よい。そのため、ダイジェスト画像データに音声データが含まれていたり、ダイジェスト画像データが動画データだけでなく、静止画データでも良い。
実施の形態1.
図1は、本発明の実施の形態1の画像データ再生装置を示すブロック図である。
図1において、実施の形態1の画像データ再生装置は、記録媒体10からデータを読出したりまたは記録媒体10にデータを記録する本発明のデータ読取り部およびデータ書込み部として機能するデータ読書き部11と、カメラ(図示せず)により撮影した動画や静止画等の画像データを符号化して本編画像データを作成しデータ読書き部11を介し記録媒体10に記録する本編画像データ作成部12と、記録媒体に20記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けし複数のグループを作成する本編画像グループ作成部13と、各グループに含まれる1または複数の本編画像データそれぞれからダイジェスト画像データを作成してグループ毎に記録媒体10に記録するダイジェスト画像データ作成部14と、記録媒体10から読み出された本編画像データおよびダイジェスト画像データを復号して再生するデータ再生部15と、データ再生部15に対して本編画像データおよびダイジェスト画像データの再生開始や再生停止、一時停止、早送り、早戻りなどの再生に関する制御を行う再生制御部16と、ユーザの操作により本編画像データの再生(本編再生モード)やダイジェスト画像データの再生(ダイジェスト再生モード)の切替え指示や、本編画像データおよびダイジェスト画像データの再生等に関する指示を入力する操作入力部17と、再生された本編画像データまたはダイジェスト画像データを表示するためのモニタ18と、外部表示装置(図示せず)に映像信号を送出するための映像信号出力部19とを有している。
尚、記録媒体10は、画像データ再生装置10に固定されたあるいは取り外し可能なハードディスクやメモリ等であっても、またはDVDやBD等の光ディスク等の記録媒体であっても、本編画像データおよびダイジェスト画像データを記録できる記録容量を備えていればよい。また、本編画像データとダイジェスト画像データとは異なる記録媒体に記録されるように構成しても勿論よい。
また、データ読書き部11は、記録媒体10がハードディスクであれば磁気ヘッド、光ディスクであれば光ピックアップなどであり信号を記録するために必要なデータ変調などを含む記録媒体10に応じたデータ読出し部とし、記録媒体10が装置外部に設けられた場合には、その外部記録媒体10とデータを送受信するインターフェイスであるとし、そのとき直接記録媒体10にデータを読出しまたは記録を行うのは外部記録媒体10上に設けられたアクセス部となる。
また、データ再生部15は、本編画像データと、ダイジェスト画像データとが同じ符号化方式、例えばMPEG2であれば同じデコード(復号化)処理でよいので一つのデータ再生部15でよいが、異なる符号化方式や、本編画像データまたはダイジェスト画像データを複数同時に再生し表示する場合には、再生表示に必要な数のデコーダであるデータ再生部15が必要となる。
また再生制御部16は、操作入力部17からの入力に応じて動作するものとし、例えば再生開始が入力されれば再生開始する本編画像データまたはダイジェスト画像データをデータ読書き部11を介して取得し、データ再生部15に復号化処理をおこなうよう制御するものとする。
また、操作入力部17は、装置ユーザが所定の動作を入力が行えればよく、再生開始、再生停止などの再生に関する制御に対応したボタンをそれぞれ設けてもよいし、またGUI(グラフィカルユーザインターフェース)と、十字キーや矢印ボタンなどの上下左右の方向を入力することが可能なボタンと操作を決定する決定ボタンを組み合わせることで、モニタ上もしくは外部接続された表示装置に、操作の選択ボタンや本編画像データまたはダイジェスト画像データのリストを表示して、その選択ボタンから選択して入力するように構成してもよい。またキーボード、マウスなどパソコンで利用されている入力装置や赤外線リモコンなどを用いてリモコン上のキー操作から入力するようにしてもよい。またその場合には、入力装置から入力された信号を受信するためのインターフェースが必要となる。
図2は、本実施の形態1の本編画像グループ作成部13によるグループ分け、およびダイジェスト画像データ作成部14によるダイジェスト画像データの作成概要を示す説明図である。
図2(a)は、本編画像データ作成部12が作成した本編画像データD1〜D9、およびそのグループ分けを示している。ここで、ここで、左から右へ向く“再生方向”と記した矢印の方向が本編画像データH1〜H9の再生順序を示しており、本編画像データH1〜H9は、H1→H2→H3→・・・→H9であることを示している。また、本編画像データH1〜H9の横方向、すなわち再生方向における長さがそれぞれの再生時間を示している。また本編画像データH1〜H9の間隔は、本編画像データが撮影または記録された時間の間隔を示すものとする。すなわち前の本編画像データの撮影が終了し、次の本編画像データの撮影を開始した時刻までの時間を示しているものとする。そして、図2(a)では、例えば、本編画像データ間の時間間隔が所定の閾値以上であるか否かによりグループ分けを行っている。本編画像データH1〜H3、H4とH5、H6〜H9では、本編画像データ間の記録間隔が例えば、1日や、5日、1週間等の所定閾値未満であり、本編画像データH3とH4との間、およびH5とH6との間の記録間隔は、その所定閾値以上ある場合を示している。
そして、本編画像グループ作成部13は、本編画像データ間の記録間隔が所定閾値以上ある場合には、旅行や運動会、遊びの撮影等のイベントや、撮影日時が異なる本編画像データであるものとして、本編画像データ間の記録間隔が所定閾値以上あるか否かによりグループ分けする。ここでは、図2(a)に示すように、本編画像データH1〜H3をグループ1、本編画像データH4とH5をグループ2、本編画像データH6〜H9をグループ1にグループ分けすることになる。このグループ分けにより、同一グループの本編画像データは旅行や運動会、遊びの撮影等のイベントや撮影日時がほぼ同一となる。
ここで、所定閾値を10分や20分とより短くすれば、旅先で周った観光地ごとのグループ分けや、運動会での種目ごとのグループ分けができる。また、記録された画像データの間隔が所定閾値以下であるか否かでグループ分けを行う以外に、特定の時間に含まれるいくつかの画像データを1つのグループとしてもよいし、特定の長さの画像データが記録された場合にその前後でグループ分けを行うなど、記録日時に基づくグループ分けであればよい。さらに特定の閾値の設定は画像データ再生装置に予め設定され再生制御部内に記録されていてそれをもとにグループ分けをおこなってもよいし、利用者がモニタ18上に表示される例えばGUIを用いて、表示された時間の選択肢の中から選択する、または直接数字を入力することで設定できるようにしてもよい。
図2(b)は、図2(a)に示すようにグループ分けした本編画像データH1〜H9を本編画像グループ作成部13がグループ毎に1つにまとめて1つのストリームとした状態を示している。ここで、本編画像データをグループ毎に1つにまとめて繋ぐ際に、本編画像データの符号化方式に合わせて、本編画像データを再符号化(再エンコード)して本編画像データをまとめるようにしても良い。
そして、ダイジェスト画像データ作成部14は、図2(c)に示すように、各グループの本編画像データの一部を抽出しつなげて、各グループ毎に一つのダイジェスト画像データD1〜D3を作成する。
図3は、本実施の形態1のダイジェスト画像データ作成部14によるダイジェスト画像データの作成方法例を示す説明図である。
図3(a)は、各グループに属する各本編画像データの先頭から例えば3秒ずつ各本編画像データの一部を抽出して各グループのダイジェスト画像データを作成する例を示している。ここでは、グループ1に属する本編画像データ1〜20の先頭から例えば3秒ずつ本編画像データ1〜20の一部を抽出して、60秒のグループ1のダイジェスト画像データを作成することを示している。
図3(b)は、各グループに属する各本編画像データの任意の位置から各本編画像データの記録時間の長さに応じて各本編画像データの一部を抽出して各グループのダイジェスト画像データを作成する例を示している。ここでは、グループ1に属する本編画像データ1〜20の任意の位置から例えば3秒や、4秒、5秒ずつ本編画像データ1〜20の一部を抽出してグループ1のダイジェスト画像データを作成することを示している。
このように、本実施の形態1のダイジェスト画像データ作成部14が作成するダイジェスト画像データは、対応する本編画像データを要約した映像であればよいので、グループに含まれる全ての本編画像データから一定時間の要約映像を抽出する必要はなく、また1つの本編画像データから複数の要約映像を抽出してもよい。また、本編画像データの再生時間が短い場合には3秒より短い映像を抽出したり、本編画像データの再生時間が長い場合には3秒より長い映像を抽出するなど抽出する時間を変更してダイジェスト画像データを作成してもよいし、全ての本編画像データで一定の時間でなくてもよい。また先頭からの映像でなくても、何秒間か経過した後、一定時間の映像を取得するようにしてもよいし、取得しようとする時間と同じ時間の本編画像データであるなど、一定の長さの本編画像データからは要約映像を取得しなくてもよいし、また、秒など時間の単位ではなく例えば本編画像データがMPEGなどの圧縮符号化を利用して記録されている場合であれば数GOPといったその圧縮方式に応じた単位や数フレームといった映像で用いる単位であっても構わない。
また、MPEGなどの圧縮符号化で記録されている場合であれば、上記のようにして取得した20個の本編画像データの要約映像を1つのダイジェスト画像データとすると、再生時にその繋ぎ目で不連続点が生じて、画や音が正しく再生されない場合もあるので、その前後の数GOPまたはダイジェスト画像データ全体を再符号化(再エンコード)するとよい。
図4は、本実施の形態1の記録媒体10に記録された管理情報のデータ構造を示す説明図である。
図4に示すように、記録媒体10には、本編画像データ作成部12が作成した本編画像データが記録される本編画像データ記録領域41と、ダイジェスト画像データ作成部14が作成した本編画像データが記録されるダイジェスト画像データ記録領域42と、本編画像データとダイジェスト画像データの論理ブロックアドレスや、記録日時、再生時間、画質などの管理情報が記録される管理情報記録領域43とが設けられている。なお、図面では、以降、本編画像データは本編データ、ダイジェスト画像データはダイジェストデータと略す場合がある。
図5は、本実施の形態1の再生制御部16が本編画像データおよびダイジェスト画像データは管理する管理情報のデータ構造の一例を示す説明図である。
本実施の形態1の再生制御部16は、本編画像データ作成部12や本編画像グループ作成部13、ダイジェスト画像データ作成部14から本編画像データおよびダイジェスト画像データの管理情報を読み出し、内部メモリ等に図5に示すようにグループ毎に関連付けあるいは対応付けて記憶して管理している。
図5(a)は、再生制御部16の内部メモリ等が記憶する管理情報の内容の一例を示している。具体的には、記録媒体名“A001”、記録媒体メディアタイプ“HDD”、記録媒体10に記録された本編画像データをグループ分けした際の全グループ数“4”、記録媒体10に記録された本編画像データの総再生時間“**;**;**;”、そしてグループ1〜N(ここでは、全グループ数4であるのでn=4)のグループ毎に、本編画像データとダイジェスト画像データのファイル名や、再生時間“**;**;**;”、論理アドレス“******;”をそれぞれ関連付けあるいは対応付けて記憶して管理していることを示している。
図5(b)は、再生制御部16が記録媒体10に記憶する管理情報のツリー構造の一例を示している。具体的には、再生制御部16は、ループ1〜N(ここでは、全グループ数4であるのでn=4)のグループ毎に、本編画像データとダイジェスト画像データのファイル名や、再生時間“**;**;**;”、論理アドレス“******;”をそれぞれ記録媒体10に記録して管理していることを示している。
ここで、再生制御部16は、日時情報を取得するための時計または外部から日時情報を取得できる構成とし、これにより本編画像データの記録日時を記録し管理している。なお、この記録日時等の属性情報は、再生制御部16内ではなく本編画像データと併せて記録媒体10上に媒体アクセス部を介して記録してもよい。またその場合には、本編画像データの記録領域とは異なる領域に管理領域を設けて記録し、管理データがどの本編画像データに対応するのか、本編画像データのデータ名や、記録媒体10上での論理的及び物理的なアドレス情報等も併せて記録するとよい。
次に、図6に示すフローチャートに従って、画像データ再生装置の処理手順について述べる。
図6は、本実施の形態1の画像データ再生装置の動作を示すフローチャートである。
なお、記録媒体10には、予め本編画像データ作成部12によって複数の本編画像データが記録されているものとする。そして各本編画像データはその記録日時または撮影日時、ジャンル、記録または撮影者名、記録または撮影場所、本編画像データの再生時間など本編画像データに関する全ての管理情報が再生制御部16に記憶され管理されているものとする。
まず、画像データ再生装置10のユーザが、操作入力部17よりダイジェスト画像データの再生開始を指示するダイジェスト再生開始指示を入力し、再生制御部16がそのダイジェスト再生開始指示をイベントして受け付けると(ステップ600)、再生制御部16は本編画像グループ作成部13にグループ化の指示を出力して、本編画像グループ作成部13が図2(b)に示すように記録媒体10に記録された複数の本編画像データのグループ分けを行う(S610)。
つまり、ダイジェスト画像データ作成部16は、再生制御部16から記録媒体10に記録されている本編画像データのデータ数や記録日時などの情報を取得して、本編画像データ間の記録間隔に基づいてグループ分けを行う。
尚、ダイジェスト再生開始の入力は、先に述べたように再生開始ボタンを設けて、そのボタンをユーザが押すことで入力されるようにしてもよいし、また直接入力するボタンを設けなくても汎用的な方法として、モニタ18上に“ダイジェスト再生”というGUI(グラフィカルユーザインターフェース)のボタンを表示したり、モニタ18上にダイジェスト画像データの再生開始を選択するための選択ボタンを表示して、ユーザに選択させるようにしてもよい。
つぎに、本編画像データのグループ分けが終了すると、再生制御部16はダイジェスト画像データ作成部14にダイジェスト画像作成の指示を出力する。
するとダイジェスト画像データ作成部14は、図2(c)や図3(a),(b)に示すように、本編画像グループ作成部13がグループ分けした本編画像データのグループ毎にダイジェスト画像データを作成すると共に(ステップ620)、ダイジェスト画像データの再生時間や論理アドレス、ダイジェスト画像データがどの本編画像データのグループに属するか等を示す管理情報を作成する(ステップ630)。
ここで、管理情報は、例えば、図5(a)に示すような本編画像データの各グループ毎にどの本編画像データおよびダイジェスト画像データが含まれているのかを示す情報である。例えば、第1グループの中には、データ名0001から0020までの本編データが含まれていることと、ダイジェスト画像データはd001であることを示す情報とが含まれる。また、データ名だけでなく、論理アドレスや物理アドレス等、本編画像データおよびダイジェスト画像データの記録された記録媒体10上での論理的または物理的位置を特定するための情報を併せて記録してもよい。また複数の媒体にまたがって本編画像データおよびダイジェスト画像データが記録されている場合には、媒体を特定する情報も併せて記録するとよい。また本編画像データやダイジェスト画像データの再生時間も記録してもよい。そして、図5(b)に示すように、管理情報を、ルートディレクトリ下に各グループのグループ名が付いたディレクトリを作成し、そのディレクトリ下にそのグループに属するデータファイルを格納するといった方法で記憶等するようにしても良い。またその場合には、本編画像データとダイジェスト画像データで拡張子を変えるなどすれば、本編画像データか、ダイジェスト画像データか区別して管理することができる。
次に、再生制御部16は、上述したようにダイジェスト画像データ作成部14が作成したダイジェスト画像データを記録媒体10等に記録すると共に(ステップ640)、ステップ630で作成した管理情報を、各グループ毎に本編画像データとダイジェスト画像データとが関連付けまたは対応付けられるように記録媒体10等に記録する(ステップ650)。
なお、このような管理情報を記録媒体10や再生制御部16内等に記録しなくとも、ダイジェスト画像データのヘッダ部にグループ1であることを示す情報を格納して、グループ1に属する本編画像データにもヘッダ部にグループ1であることを示す情報を格納するようにしてもよい。ヘッダ部は、例えば本編画像データ及びダイジェスト画像データがMPEGであれば、GOPレイヤや、ピクチャレイヤ等に設けられたユーザデータ領域のように、ユーザが自由に使うことのできる領域とするとよい。また透かし情報として映像情報に埋め込めば、ヘッダ情報やユーザデータ領域など映像情報と以外の領域を持たない符号化方式であっても、グループ情報を格納することができる。但し、本編画像データやダイジェスト画像データにグループ情報である管理情報を記録する場合には、再生制御部16再生の都度、記録された領域にアクセスして再生を制御する処理を行う必要がある。
次に、再生制御部16は、データ再生部15にダイジェストデータ再生指示を出力して、グループ順にダイジェスト画像データを再生するよう制御する(ステップ660)。グループ順とは、例えば、ダイジェスト画像データのもとになるグループの本編画像データの記録日時が古いダイジェスト画像データから新しいダイジェスト画像データを順に再生する。例えば、本実施の形態1の例のように、グループが4つあった場合には、記録日時の古いグループのダイジェストデータから順に再生を行い、全てのグループのダイジェストデータの再生が終了したら、そこでダイジェストデータの再生を終了しても良いし、再度、記録日時の古いグループのダイジェストデータから順に再生を行っても勿論よい。
そして、ダイジェスト画像データの再生が開始すると、モニタ18または映像信号出力部19を介し接続された外部表示装置(図示せず)にてダイジェスト画像データの再生映像が表示される。これにより、本装置のユーザは、これらダイジェスト画像データの表示によって、記録媒体10に記録されている多数の本編画像データの要約映像であるダイジェスト画像データを視聴することができ、所望の映像をまたはある特定の期間に記録された映像を探すことができる。
ここで、本装置のユーザから操作入力部17を介し本編再生モード、すなわち本編画像データへの切り替え指示が入力されると(ステップ665“YES”)、再生制御部16は、本編画像データのグループとダイジェスト画像データとの対応を示す管理情報をもとに、操作入力部17から切替え入力を受け付けときにデータ再生部15が再生していたダイジェスト画像データと同一グループの、先頭の本編画像データから日時順に再生を行う(ステップ680)。例えば、グループ2のダイジェスト画像データd002を再生している際に本編再生モードの切り替え指示が入力した場合には、図5に示すように、グループ2の先頭の本編画像データ0021から再生されることになる。なお、本装置のユーザから操作入力部17を介し本編画像データへの切り替え指示が入力されなければ(ステップ665“no”)、そのまま全グループのダイジェストデータを再生する(ステップ680)。なお、操作入力部17での入力は、直接切替え動作を指定することができるボタンであってもよいし、またダイジェストデータ再生開始で述べたようにGUIを用いた入力としてもよい。
図7は、ダイジェストデータの再生順番と、本編データのグループとの対応関係を表す概念図である。
ダイジェスト画像データの再生は、グループ1のダイジェスト画像データ→グループ2のダイジェスト画像データ→グループ3のダイジェスト画像データ→…と古いグループから新しいグループへと順に再生していき、全グループのダイジェスト画像データの再生を行う。ここで、もしグループ1のダイジェストデータ再生中に切替え入力があると、管理情報内にはグループ1に含まれる本編画像データを特定する情報が記録されているので、その情報をもとにグループ1の本編画像データ1→本編画像データ2と再生するという処理になる。
そして、本編画像データを再生中に、再度、ユーザより操作入力部17を介しユーザよりダイジェスト再生モードへの切替え入力があると(ステップ685“YES”)、ダイジェスト画像データから本編画像データへの切替えと同様に、再生制御部16は、管理情報を参照して、ダイジェスト再生モードの切替入力時に表示されていた本編画像データのグループと同一グループのダイジェスト画像データの先頭、またはダイジェスト画像データ内で切替入力時に表示されていた本編画像データもしくはそれより新しい日時に記録された本編画像データから抽出した画像データから、先に述べたグループ順にダイジェスト画像データの再生を行うようデータ再生部15に指示を出す。
これにより、データ再生部15は、ダイジェスト再生モード切替入力時に表示されていた本編画像データのグループと同一グループのダイジェスト画像データから先に述べたグループ順にダイジェスト画像データの再生を再開する(ステップ690)。なお、そのグループのダイジェスト画像データの再生が終了した場合、そこでダイジェスト画像データの再生を終了しても良いし、そのダイジェスト画像データの再生を繰り返しても良いし、さらには、次のグループのダイジェスト画像データの再生を順次行うようにしても勿論よい。
従って、本実施の形態1によれば、記録媒体10に記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けし複数のグループを作成し、その各グループに含まれる1または複数の本編画像データそれぞれからダイジェスト画像データを作成してグループ毎に記録媒体に記録し、ユーザによってダイジェスト再生モードが指示された場合、ダイジェスト画像データをグループ毎に再生させるようにしたので、記録媒体10に記録された複数の本編画像データの内容をグループ毎に簡単かつ迅速に知ることができる。
特に、本実施の形態1の本編画像グループ作成部13では、図2に示すように、本編画像データの記録終了時刻から次の本編画像データの間隔が所定閾値以上あるか否かにより、本編画像データのグループを作成するようにしたので、記録日時が近い本編画像データを同一のグループにグループ分けするので、ほぼ同時刻に記録または撮影された同じ内容あるいは同じ被写体の画像を同じグループとして扱うことができる。またグループ分けは撮影間隔だけでなく、時間的にある一定の区間に記録日時が含まれる動画データを同じグループとしてもよく、例えば区間その区間を24時間と設定すると、ある特定の年月日に記録された動画データは1つの同じグループとなり、日付ごとのグループ分けが行われる。このような区間は、記録時刻の情報を利用して、更に細分化して各日とも午前、午後に分けて計8つのグループとしてもよいのはもちろん、装置に予め区間が設定されていてもよいし、利用者が先に述べたGUIを用いた方法のようにモニタ上に表示された時間の選択肢の中から選択または数字を入力するようにしてもよいし、あるいは、記録されている動画データの中で最も記録された日時が古いデータと最も日時が新しいデータの時間の間隔を均等に分けたり、1グループに含まれる動画データの総再生時間が一定時間内であれば同じグループとするなど、動画データの記録日時と動画データの再生時間から計算されるものとしてもよい。また、それ以外にも記録されている動画データ数から各グループの動画データ数が均等になるような区間で分けるように構成してもよい。
また、ダイジェスト画像データの再生の際、ユーザによってある本編画像データのダイジェスト画像データが指定された場合、その本編画像データが属するグループの先頭の本編画像データから当該グループに属する本編画像データを再生するようにしたので、ダイジェスト画像データを利用して複数の本編画像データが記録された記録媒体からその映像とほぼ同じ時刻に撮影または記録された本編映像、または同じ属性を持つ本編映像を簡単に検索して再生することができる。
その結果、特に、ビデオカメラなど個人で撮影された映像が多く記録された記録媒体10を再生するときに、ユーザが所望の映像を探すだけでなく、その前後で撮影された映像も合わせて再生することができる。
多数の本編画像データが記録された記録媒体から本編画像データを再生し表示する画像データ再生装置において、本編映像を要約したダイジェスト画像データを見ながら所望の本編画像データを探せるだけでなく、
また、ある本編映像を見た際に、その本編映像からある時間が経過した後に撮影された本編画像データを要約したダイジェスト画像データまたは異なる属性を持つ本編画像データを要約したダイジェスト画像データを見ることができる。またこれにより、必ずしも完全な本編画像データを提示しているわけではないダイジェスト画像データを使って本編画像データを探す際に、誤って所望の本編ではない本編画像データを再生開始してしまった場合でも、素早く続きダイジェスト画像データに戻って本編画像データを再度検索することを可能にしている。
実施の形態2.
上記実施の形態1の画像データ再生装置では、ダイジェスト画像データ作成部14が各グループに含まれる1または複数の本編画像データそれぞれからダイジェスト画像データの実データを作成してそのグループ毎に記録媒体に記録するようにしたが、本実施の形態2では、ダイジェスト画像データの実データは作成せず、本編画像データの一部をダイジェスト画像データとするためのダイジェストデータプレイリストを作成するようにしたものである。この場合、ダイジェスト画像データの実データを作らないため、記録媒体10の容量の消費を抑えることができるという利点がある。
図8は、本実施の形態2の画像データ再生装置の構成例を示すブロック図である。
図1に示す実施の形態1の画像データ再生装置では、ダイジェスト画像データの実データを作成するダイジェスト画像データ作成部14を設けているのに対し、図9に示す本実施の形態2の画像データ再生装置では、その代わりにダイジェスト画像データの実データは作成せず、本編画像データの一部をダイジェスト画像データとするためのダイジェストデータプレイリスト、すなわち本編画像データの一部を区間開始情報と区間終了情報または区間長情報とにより指定してダイジェスト画像データを抽出するためのダイジェスト区間情報を作成するダイジェスト区間情報作成部24を設けている。その他の構成は、図1と同様である。
図9は、実施の形態2のダイジェスト区間情報作成部24が作成するダイジェストデータプレイリストの一例を示す図である。
図9において、例えば、グループ1の本編データ1〜20のダイジェストデータプレイリストは、図に示すように、各本編データ1〜20において再生開始時間および再生終了時間を、例えば、“00;00;00”、“00;00;03”や、“00;01;20”、“00;01;25”等といように。3秒間から数秒間の短時間指定して、各本編データ1〜20からそれぞれ要約映像を抽出し、それらを連続して再生することによりグループ1のダイジェスト画像データとしている。
また、図9では、再生順序、対応する本編画像データと再生する区間の開始点と終了点とを、再生開始時間および再生終了時間というダイジェスト区間情報により記してあり、ダイジェスト画像データ再生部14は、このダイジェスト区間情報をもとに記録媒体10よりデータ読書き部11を介して本編画像データの一部をダイジェスト画像データとして読み出して再生する。ここで、ダイジェストデータプレイリストのダイジェスト区間情報は、再生する本編データの区間が指定できる形式であれば、例えば開始点の代わりに本編画像データの先頭からの経過時間を、終了点の代わりに開始点からの経過時間を指定するといった形式でもよい。また時間情報ではなく、本編画像データの符号化方式に応じた映像の位置を特定するためのPTS、先頭からのGOP数など、特定の箇所を指定するための情報であればよい。
本実施の形態2のダイジェスト区間情報作成部24では、このようなダイジェストデータプレイリストによるダイジェスト画像データの作成を本編画像データのグループ全てに対して行う。
従って、本実施の形態2によれば、上記実施の形態1と同様に、記録媒体10に記録された複数の本編画像データの内容をグループ毎に簡単かつ迅速に知ることができると共に、ダイジェスト画像データを利用して複数の本編画像データが記録された記録媒体からその映像とほぼ同じ時刻に撮影または記録された本編映像、または同じ属性を持つ本編映像を簡単に検索して再生することができる。
特に、本実施の形態2の画像データ再生装置によれば、本編画像データの一部を開始点と終了点とを指定して抽出するダイジェストデータプレイリストのダイジェスト区間情報によりダイジェスト画像データを作成し、ダイジェスト画像データの実データを作成しないようにしたため、ダイジェスト画像データの実データを記録媒体10に記憶する必要がなくなり、記録媒体10の容量の消費を抑えることができるという利点がある。
実施の形態3.
上記実施の形態1,2の画像データ再生装置では、本編グループ作成部13は、記録媒体10に記録された本編データの記録日時および再生時間を参照して本編データ間の記録間隔に基づきグループ分けして説明したが、本実施の形態3では、記録媒体10に記録された本編データの記録日時に基づいて日毎にグループ分けするものである。
具体的には、記録媒体10には、例えば、4月29日に記録された20個の本編画像データと、同年5月3日に記録された30個の本編画像データと、同年5月4日に記録された40個の本編画像データと、同年5月5日に記録された10個の本編画像データとが記録されているものとする。
すると、本実施の形態3の本編グループ作成部13は、記録媒体10に記録された本編データの記録日時に基づいて、2007年4月29日に記録された20個の本編画像データからなるグループ1、同年5月3日に記録された30個の本編画像データからなるグループ2、同年5月4日に記録された40個の本編画像データからなるグループ3、同年5月5日に記録された10個の本編画像データからなるグループ4というようにグループ分けをする。
そして、本実施の形態3のダイジェスト画像データ作成部14は上記実施の形態1の場合と同様に、2007年4月29日に記録された20個の本編画像データから要約映像となるダイジェスト画像データを1つ、同年5月3日に記録された30個の本編画像データからダイジェスト画像データを1つ、同年5月4日に記録された40個の本編画像データからダイジェスト画像データを1つ、同年5月5日に記録された10個の本編画像データからダイジェスト画像データを1つ、というように各グループ1〜4毎に1つずつ計4つのダイジェスト画像データを作成する。
従って、本実施の形態3によれば、上記実施の形態1と同様に、記録媒体10に記録された複数の本編画像データの内容をグループ毎に簡単かつ迅速に知ることができると共に、ダイジェスト画像データを利用して複数の本編画像データが記録された記録媒体からその映像とほぼ同じ時刻に撮影または記録された本編映像、または同じ属性を持つ本編映像を簡単に検索して再生することができる。
特に、本実施の形態3によれば、本編グループ作成部13は記録媒体10に記録された本編データの記録日時および再生時間を参照して本編データ間の記録間隔に基づきグループ分けするのではなく、記録媒体10に記録された本編データの記録日時に基づいて日毎にグループ分けするようにしたので、日毎のダイジェストデータを作成することができる。
なお、上記実施の形態1〜3の説明では、画像データ再生装置をハードウエア的に構成して説明したが、本発明ではこれに限らず、プログラムによってソフトウエア的に構成しても勿論よい。
また、上記実施の形態1〜3の説明では、ダイジェスト画像データ作成部14またはダイジェスト区間情報作成部24が各グループに含まれる1または複数の本編画像データそれぞれからダイジェスト画像データを作成してグループ毎に記録媒体10に記録するように説明したが、本発明では、これに限らず、記録媒体10とは別の記憶手段、例えば、ダイジェスト画像データ作成部14またはダイジェスト区間情報作成部24の内部メモリや、再生制御部16等の内部メモリ等のメモリに記憶するようにしても勿論よい。
また、上記実施の形態1〜3の説明では、データ読書き部11が記録媒体10に対し本編画像データやダイジェスト画像データを書き込むものとして説明したが、記録媒体10に対し本編画像データやダイジェスト画像データを書き込む必要がない場合、例えば、既に記録媒体10に本編画像データやダイジェスト画像データが書き込まれている場合等は、データ読書き部11の書き込み機能を省略して、単なるデータ読取り部と構成しても勿論よい。
また、上記実施の形態1〜3の説明では、図6に示すように、ユーザからのダイジェスト再生開始の入力を受け付けたときに、本編画像データのグループ分けを行い、そのグループ毎にダイジェスト画像データの作成を行い、ダイジェスト画像データの再生を行うように説明したが、図10(a)に示すように本編画像データのグループ分けからグループ毎のダイジェスト画像データの作成までのステップ610〜650までの処理と、図10(b)に示すようにダイジェスト画像データの再生処理等のステップ660〜690までの処理とを分けて、それぞれ別のイベント入力の受付、すなわちダイジェスト作成開始入力受付(ステップ605)と、ダイジェスト再生開始入力受付(ステップ600)とにより開始するようにしても良い。例えば、図10(a)に示すステップ605のダイジェスト作成開始のイベントとしては、ユーザによる操作入力部17によるダイジェスト作成開始入力でも良いし、本装置の充電開始をダイジェスト作成開始入力イベントとしても良いし、記録媒体10への本編画像データの所定容量の記録をダイジェスト作成開始入力イベントとしても勿論よい。
本発明の実施の形態1の画像データ再生装置を示すブロック図である。 本実施の形態1の本編画像グループ作成部13によるグループ分け、およびダイジェスト画像データ作成部14によるダイジェスト画像データの作成概要を示す説明図である。 本実施の形態1のダイジェスト画像データ作成部14によるダイジェスト画像データの作成方法例を示す説明図である。 本実施の形態1の記録媒体10に記録された管理情報のデータ構造を示す説明図である。 本実施の形態1の再生制御部16が本編画像データおよびダイジェスト画像データは管理する管理情報のデータ構造の一例を示す説明図である。 本実施の形態1の画像データ再生装置の動作を示すフローチャートである。 ダイジェストデータの再生順番と、本編データのグループとの対応関係を表す概念図である。 本発明の実施の形態2の画像データ再生装置を示すブロック図である。 実施の形態2のダイジェスト区間情報作成部24が作成するダイジェストデータプレイリストの一例を示す図である。 本編画像データのグループ分けからグループ毎のダイジェスト画像データの作成までの処理と、ダイジェスト画像データの再生処理等の処理とを別々のイベントにより実行した場合の動作を示すフローチャートである。
符号の説明
10 記録媒体
11 データ読み書き部
12 本編画像データ作成部
13 本編画像グループ作成部
14 ダイジェスト画像データ作成部
15 データ再生部
16 再生制御部
17 操作入力部
18 モニタ
19 映像信号出力部

Claims (6)

  1. 記録媒体に記録された複数の本編画像データを読み出すデータ読出部と、
    前記データ読出部によって前記記録媒体から読み出された前記複数の本編画像データを再生するデータ再生部と、
    前記記録媒体に記録された前記複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成する本編画像グループ作成部と、
    前記本編画像グループ作成部によって作成された複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データを1つまたは複数抽出してまとめたダイジェスト画像データを前記グループ毎に作成するダイジェスト画像データ作成部と、
    前記本編画像グループ作成部によって作成された複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト画像データとを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記各ダイジェスト画像データを前記各ダイジェスト画像データと関連付けされた前記本編画像データの記録日時順に従って再生するよう前記データ再生部を制御する再生制御部と、
    を有する画像データ再生装置。
  2. 記録媒体に記録された複数の本編画像データを読み出すデータ読出部と、
    前記データ読出部によって前記記録媒体から読み出された前記複数の本編画像データを再生するデータ再生部と、
    前記記録媒体に記録された複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成する本編画像グループ作成部と、
    前記本編画像グループ作成部によって作成された複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データ区間を1つまたは複数抽出し、本編画像データ上で前記各区間を区間開始情報及び区間終了情報または区間長情報により示すダイジェスト区間情報を前記グループ毎に作成するダイジェスト区間情報作成部と、
    前記本編画像グループ作成部によって作成された複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト区間情報とを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記ダイジェスト区間情報の区間開始情報及び区間終了情報または区間長情報によって示される区間の本編画像データをダイジェスト画像データとして、前記ダイジェスト区間情報と関連付けされた前記本編画像データの記録日時順に従って再生するよう前記データ再生部を制御する再生制御部と、
    を有する画像データ再生装置。
  3. 請求項1または請求項2のいずれかに記載の画像データ再生装置において、
    前記再生制御部は、
    前記ダイジェスト画像データの再生中に、ユーザより前記本編画像データへの再生切替え指示を受けた場合、前記関連付けに基づいて再生中のダイジェスト画像データのグループと同じグループに属する1または複数の前記本編画像データを選択して記録日時順に再生するよう前記データ再生部を制御する前記画像データ再生装置。
  4. 請求項1から請求項3のいずれか一の請求項に記載の画像データ再生装置において、
    前記再生制御部は、
    前記本編画像データの再生中に、ユーザよりダイジェスト画像データへの再生切替え指示を受けた場合、前記関連付けに基づいて再生中の本編画像データのグループと同じグループに属する前記ダイジェスト画像データを選択し、選択した前記ダイジェスト画像データから順に前記ダイジェスト画像データを前記本編画像データの記録日時順に従って再生するよう前記データ再生部を制御する画像データ再生装置。
  5. 記録媒体に記録された複数の本編画像データを読み出すステップと、
    前記記録媒体に記録された前記複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成するステップと、
    複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データを1つまたは複数抽出してまとめたダイジェスト画像データを前記グループ毎に作成するステップと、
    複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト画像データとを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記各ダイジェスト画像データを前記各ダイジェスト画像データと関連付けされた前記本編画像データの記録日時順に従って再生するステップと、
    を有する画像データ再生方法。
  6. 記録媒体に記録された複数の本編画像データを読み出すステップと、
    前記記録媒体に記録された前記複数の本編画像データをそれらの記録日時に基づいてグループ分けし、複数のグループを作成するステップと、
    複数の前記各グループに含まれる1または複数の本編画像データから、本編画像データの要約となる画像データ区間を1つまたは複数抽出し、本編画像データ上で前記各区間を区間開始情報及び区間終了情報または区間長情報により示すダイジェスト区間情報を前記グループ毎に作成するステップと、
    複数の前記各グループ毎に各グループに属する前記本編画像データと前記ダイジェスト区間情報とを関連付けし、ユーザよりダイジェスト画像データの再生開始の指示が入力した場合、前記ダイジェスト区間情報の区間開始情報及び区間終了情報または区間長情報によって示される区間の本編画像データをダイジェスト画像データとして、前記ダイジェスト区間情報と関連付けされた前記本編画像データの記録日時順に従って再生するステップと、
    を有する画像データ再生方法。
JP2007171965A 2007-06-29 2007-06-29 画像データ再生装置および画像データ再生方法 Active JP4735611B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2007171965A JP4735611B2 (ja) 2007-06-29 2007-06-29 画像データ再生装置および画像データ再生方法
US12/213,341 US20090003799A1 (en) 2007-06-29 2008-06-18 Method for apparatus for reproducing image data

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2007171965A JP4735611B2 (ja) 2007-06-29 2007-06-29 画像データ再生装置および画像データ再生方法

Publications (2)

Publication Number Publication Date
JP2009010838A JP2009010838A (ja) 2009-01-15
JP4735611B2 true JP4735611B2 (ja) 2011-07-27

Family

ID=40325431

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2007171965A Active JP4735611B2 (ja) 2007-06-29 2007-06-29 画像データ再生装置および画像データ再生方法

Country Status (1)

Country Link
JP (1) JP4735611B2 (ja)

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4165851B2 (ja) * 2000-06-07 2008-10-15 キヤノン株式会社 記録装置及び記録制御方法
JP2006311592A (ja) * 2003-02-14 2006-11-09 Sharp Corp ストリーム再生制御装置及びコンピュータプログラム
JP4120548B2 (ja) * 2003-09-26 2008-07-16 日本電気株式会社 番組記録再生装置、番組管理方法およびプログラム
JP4164478B2 (ja) * 2004-07-29 2008-10-15 キヤノン株式会社 再生装置
JP4222295B2 (ja) * 2004-11-19 2009-02-12 パナソニック株式会社 ビデオサーバおよびこれを用いた映像配信システム

Also Published As

Publication number Publication date
JP2009010838A (ja) 2009-01-15

Similar Documents

Publication Publication Date Title
JP4591405B2 (ja) 情報処理装置及び情報処理方法、並びにコンピュータ・プログラム
JPWO2006033329A1 (ja) 映像表示装置、映像表示方法および映像表示プログラム
KR20040071455A (ko) 썸네일 이미지를 이용한 녹화 프로그램 편집방법
JP3285029B2 (ja) 記録媒体
US20090003799A1 (en) Method for apparatus for reproducing image data
JP4218029B2 (ja) 映像記録装置
WO2009139302A1 (ja) 録画再生装置
JP2009010839A (ja) 画像データ再生装置および画像データ再生方法
JP4330968B2 (ja) 再生装置、記録装置、再生プログラム、及び再生プログラムを記録したコンピュータ読み取り可能な記録媒体
JP5683301B2 (ja) 画像記録装置
JP4838659B2 (ja) 再生装置及び再生装置の制御方法
US8437390B2 (en) Imaging apparatus
JP2005341399A (ja) 記録再生装置と記録再生方法
JP2008283708A (ja) 再生装置
JP4735611B2 (ja) 画像データ再生装置および画像データ再生方法
JP2012156588A (ja) 動画記録装置
JP2006074586A (ja) 映像音声記録再生装置
JP2008067117A (ja) 映像記録方法、装置、媒体
JP2008152871A (ja) 情報記録再生装置及び再生装置
JP2006092681A (ja) 画像管理方法、画像管理装置及び画像管理システム
JP2010252128A (ja) メタデータ処理装置、映像処理装置及び映像処理システム
JP2005339645A (ja) 記録/再生装置、その記録/再生方法、プログラムおよび記録媒体
JP5375298B2 (ja) 映像処理装置
JP2003257158A (ja) 記録再生装置および記録再生方法
JP5846940B2 (ja) 情報処理装置、プログラム、情報処理方法及び再生方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20091228

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20100909

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110216

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110329

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110411

R151 Written notification of patent or utility model registration

Ref document number: 4735611

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140513

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350