JP4411614B2 - 記録再生装置及び記録再生装置による画像処理方法 - Google Patents

記録再生装置及び記録再生装置による画像処理方法 Download PDF

Info

Publication number
JP4411614B2
JP4411614B2 JP2006114636A JP2006114636A JP4411614B2 JP 4411614 B2 JP4411614 B2 JP 4411614B2 JP 2006114636 A JP2006114636 A JP 2006114636A JP 2006114636 A JP2006114636 A JP 2006114636A JP 4411614 B2 JP4411614 B2 JP 4411614B2
Authority
JP
Japan
Prior art keywords
image
viewing
person
thumbnail image
age
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006114636A
Other languages
English (en)
Other versions
JP2007288594A (ja
Inventor
聡 若林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Victor Company of Japan Ltd
Original Assignee
Victor Company of Japan Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Victor Company of Japan Ltd filed Critical Victor Company of Japan Ltd
Priority to JP2006114636A priority Critical patent/JP4411614B2/ja
Publication of JP2007288594A publication Critical patent/JP2007288594A/ja
Application granted granted Critical
Publication of JP4411614B2 publication Critical patent/JP4411614B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
  • Television Signal Processing For Recording (AREA)

Description

本発明は、記録媒体に記録された映像データ(本明細書では映像データだけでなく、映像に関連する音声データを含むデータをも映像データと略記する)を再生する際、再生開始位置を示す場所に関連して付けられたサムネイル画像中に人物の画像があるとき、その人物画像領域を加工して表示する記録再生装置及び記録再生装置による画像処理方法に関する。
近年では放送局から流れてくるデジタル映像データを記録したり、デジタルビデオカメラなどで記録した映像データをダビングしたり、あるいは記録された映像データを再生したりするDVDレコーダやHDDレコーダに代表される記録再生装置が開発されている。記録されたコンテンツに対しては、多数の再生開始位置を定義することができる。この再生開始位置はチャプタ又はブックマークという名前で呼ばれることが一般的である。また、再生開始位置情報は記録装置内で保存されて利用され、記録媒体にその情報を記録し、読み出すことができる場合もある。
上述したチャプタ又はブックマークなどの再生開始位置は、タイトル作成者やコンテンツを再生するユーザが任意に設定することができる。また、記録再生装置が音声の切り替わりや画像の切り替わりなどを検出して自動的に作成することができる場合もある。
設定された再生開始位置に対して、画面上にはその再生開始位置の動画像をフレーム画像として取り込み、必要に応じて縮小し、画面上にサムネイル画像という形で一覧表で表示する記録再生装置が提案されている(例えば、下記の特許文献1参照)。また、大量に蓄積されている映像データベースなどから、顔画像を検出し、検出した顔を識別することによって、制服などのように服装が同一であっても誤検出することがなく、映像中に登場する人物の顔を区別して表示するようにした映像検索装置も提案されている(下記の特許文献2参照)。そして、ユーザは一覧表示されているサムネイル画像を見ることによって、それぞれのコンテンツを再生する場所がおおよそ分かり、その場所から所望の画像を再生することができる。
特開2002−152665号公報(要約) 特開2001−167110号公報(要約)
しかしながら、上記の特許文献1又は2に記載されたように、ユーザが再生開始位置を容易に判別できるようにしたサムネイル画像のうち、特に、記録再生装置によって自動的に生成されたサムネイル画像には、他人や子供に見せたくない人物の画像も含まれてしまうという問題があった。
本発明は、上記の問題点を解決するためになされたもので、サムネイル画像を表示する際に、再生開始位置としての機能を残しつつ、見られたくない人物の画像を見せないようにすることが可能な記録再生装置及び記録再生装置による画像処理方法を提供することを目的とする。
上記の目的を達成するために、本発明は、記録媒体に記録されたコンテンツに対して、再生開始位置を設定する再生開始位置設定手段と、前記再生開始位置に対応付けてサムネイル画像を生成するサムネイル画像生成手段とを有する記録再生装置において、
前記コンテンツに視聴制限年齢情報が付加されている場合は、この視聴制限年齢情報の値(年齢)と、あらかじめ装置に外部から設定されている制限年齢とを比較して、前記視聴制限年齢情報の値が前記制限年齢以上の場合は前記コンテンツの視聴は不可と判断する一方、前記コンテンツに視聴制限年齢情報が付加されていない場合、若しくは、前記視聴制限年齢情報の値が前記制限年齢未満の場合は前記コンテンツの視聴は可能と判断する視聴判断手段と、
前記サムネイル画像生成手段によって生成されたサムネイル画像の中に人物の画像が入っているか否かを判定する人物判定手段と、
前記人物判定手段によってサムネイル画像の中に人物の画像が入っていると判定され、かつ、前記視聴判断手段の判断結果が視聴は可能と判断されている場合、前記サムネイル画像の中の人物画像の明瞭度を低下させる処理を施す画像処理手段とを、
備えたことを特徴とする。
また、本発明は、請求項2に記載の画像処理方法において、視聴判断ステップと、人物判定ステップと、画像処理ステップとを有することを特徴とする。
本発明は上記のように構成したことによって、サムネイル画像の中に人物の画像が入っていて、かつ、コンテンツの視聴が可能になっているときには、その人物画像の明瞭度を低下させるように人物画像領域を加工するので、サムネイル画像を表示する際に、このサムネイル画像に対して再生開始位置としての機能を残しつつ、見られたくない人物の画像を見せないようにすることが可能な記録再生装置及び記録再生装置による画像処理方法が提供される。
以下、本発明を図面に示す好適な実施の形態に基づいて詳細に説明する。図1は本発明に係る記録再生装置の一実施の形態の概略構成を示す機能ブロック図である。本実施の形態は、例えば、DVDやHDDを用いる記録媒体10に対して映像記録手段1が映像情報を記録する一方、映像再生手段6が記録媒体10に記録された映像情報を再生して表示デバイス18に表示する構成になっている。再生開始位置設定手段2は、映像情報の再生開始位置を設定するもので、記録媒体10に記録された映像情報の中身、すなわちコンテンツに対して、ユーザが任意に設定したり、記録再生装置が音声の切り替わりや画像の切り替わりなどを検出して自動的に作成したりするものである。再生開始位置設定手段2で設定された再生開始位置に対応付けてサムネイル画像生成手段3がそれぞれサムネイル画像を生成すると、サムネイル画像表示手段4が生成されたサムネイル画像を表示デバイス18に表示させる。そこで、ユーザが再生開始位置選択手段5を用いて、表示デバイス18に表示されたサムネイル画像のいずれか1つを選択すると、その選択情報が映像再生手段6に伝えられ、選択されたサムネイル画像に対応する位置から映像情報の再生が開始されることになる。
本実施の形態は、さらに、サムネイル画像生成手段3によって生成されたサムネイル画像の中に人物の画像が入っているか否かを判定する人物判定手段7と、記録媒体10に記録されたコンテンツに視聴制限年齢情報が付加されているか否かを判断し、付加されている場合は、この視聴制限年齢情報の値と、あらかじめ装置に外部から設定されている制限年齢とを比較して、視聴制限年齢情報の値が制限年齢以上の場合はコンテンツの視聴は不可と判断する一方、コンテンツの視聴制限年齢情報が付加されていない場合、若しくは、視聴制限年齢情報の値が制限年齢未満の場合はコンテンツの視聴は可能と判断する視聴判断手段8と、人物判定手段7によってサムネイル画像の中に人物の画像が入っていると判定され、かつ、視聴判断手段8の判断結果が視聴可能と判断されたとき、その人物画像の明瞭度を低下させるように人物画像領域を加工する画像処理手段9とを備えている。このように、人物画像の明瞭度を低下させるように人物画像領域を加工することによって、サムネイル画像が再生開始位置として残されるが、見られたくない画像を見せないようにすることができる。
図2は本発明に係る記録再生装置の一実施の形態の具体的な構成を示すブロック図である。図2において、記録媒体10はビデオファイルや静止画データファイルを構築することができる情報記録媒体である。駆動装置11は記録媒体10を回転駆動するとともに、記録媒体10に情報を書き込んだり、記録媒体10から情報を読み出したりするものである。この駆動装置11が記録媒体10に書き込むデータ、及び記録媒体10から読み出したデータを蓄えておくためのバッファ12を備えている。
また、テレビチューナのような入力手段16を介して取り込まれた情報を符号化してバッファ12に供給するエンコーダ部13と、バッファ12からデータを受け取り、それを復号するデコーダ部14と、このデコーダ部14で復号してキャプチャされた静止画データを格納する静止画データ部15と、デコーダ部14で復号された動画データを画面表示したり、あるいは、静止画データ部15に格納された静止画データを画面表示したりする表示デバイス18とを備えている。さらに、静止画データ部15に格納されている静止画データに対応する画像中に、人物の画像があるか否かを検出する人物検出部17と、表示デバイス18に表示された画面を見てユーザがサムネイル画像を生成する場所を指定する、例えばマウス、リモコンなどが用いられる選択手段19とを備えている。
また、CPUなどで構成される制御手段20と、その演算処理に必要な制御手順や固定データなどを書き込み、必要に応じて制御手段20に提供するメモリ21とを備え、制御手段20が駆動装置11、エンコーダ部13、デコーダ部14、人物検出部17及び表示デバイス18を制御するように構成されている。
上記のように構成された本実施の形態に係る記録再生装置の動作のうち、特に、本発明に最も関連するサムネイル画像の表示処理について、図3及び図4に示したフローチャートに従って説明する。この場合、ユーザが選択手段19を操作して、記録媒体10に記録された画像データを駆動装置11が読み出してバッファ12に一時的に蓄え、デコーダ部14がそのデータを復号して表示デバイス18に供給し、表示デバイス18には動画像が表示されているものとする。
図3において、まず、ステップS101で、ユーザが選択手段19を用いてサムネイル画像を生成すべき場所(フレーム)を指定する。次に、ステップS102で、制御手段20はユーザによって指定されたフレームが存在する場所を解釈し、指定されたフレームに対応する記録媒体10のデータを読み出すべき場所を決定する。次に、ステップS103で、制御手段20は決定した場所に記録されている動画データを読み出すように指示を与えて駆動装置11を動作させる。これによって、記録媒体10に記録されている符号化された動画データのうち、ステップS102で指定された場所に記録されているMPEG−2フォーマットなどで圧縮された動画データが読み出され、バッファ12に蓄えられる。すなわち、動画データの取得が行われる。
次に、ステップS104で、制御手段20は動画データを復号し、静止画データを生成する指示をデコーダ部14に与える。これにより、デコーダ部14はバッファ12に蓄えられた動画データを復号し、静止画データを生成して静止画データ部15に格納する。すなわち、取得した動画データの指定時刻のビデオフレームを復号する。なお、ユーザが指定したフレームに対応する別のサムネイル画像用データが記録媒体10に用意されている場合には、指定された場所に記録されているMPEG−2フォーマットなどで圧縮された動画データを読み出さずに、駆動装置11がサムネイル画像用データを読み出して静止画データ部15に格納する。
次に、ステップS105で、制御手段20は静止画データ部15に格納された静止画データをサムネイル表示するのに全画像表示とするか又は一部非表示とするか、すなわち、サムネイル非表示モードか否かを、メモリ21から情報を取得して判断する。この情報は次のa、bいずれかの方法により設定される。
a.あらかじめユーザが選択手段19を用いて、サムネイル表示を全画像表示を可能にするか、画像の一部を隠蔽するかを設定し、その情報をメモリ21に保存する。
b.再生すべき記録媒体10内やコンテンツに付加されているパレンタル情報(視聴制限年齢情報)をメモリ21に保存する。
上記b.の場合は、この読み出したパレンタル情報の年齢と、ユーザによってあらかじめ装置に設定してある制限年齢とを比較して、制限年齢よりパレンタル情報の年齢が大きい場合にサムネイル非表示モードにする。
ステップS105でサムネイル表示を一部非表示とするサムネイル非表示モードであると判断した場合には、ステップS106で、人物検出部17を用いて、詳細を後述するように、サムネイル非表示処理、すなわちサムネイル画像から人物検出とその加工の処理とを行う。ステップS106の処理を行った後、ステップS107で、サムネイル画像に一部処理を施した画像を表示デバイス18に表示して処理を終了する。なお、ステップS105でサムネイル非表示モードでないと判断した場合には、ステップS106の処理を行わないで、そのまま処理を終了する。
図4は図3に示したサムネイル画像表示処理のうち、ステップS106の詳細な処理手順を示すフローチャートであり、以下、このフローチャートに従って説明する。まず、ステップS201で、人物検出部17を用いて静止画データ部15に格納されたサムネイル画像データに基づいてサムネイル画像内の人物画像を検出する処理を行う。続いて、ステップS202で、サムネイル画像に人物の画像(図面では人物と略記する)が入っているか否かを判断する。ステップS202で人物の画像が入っていないと判断した場合、実際には人物の画像の検出ミスの可能性もあるので、ステップS204に進んで別の人物検出手法があるか否かを判断し、ある場合にはステップS206で別の人物検出手法を選択し、再びステップS201以降の処理を実行する。ステップS204で別の人物検出手法が無いと判断した場合、人物の画像の検出とその加工の処理を終了する。
一方、ステップS202でサムネイル画像に人物の画像が入っていると判断した場合には、ステップS203で人物部領域(x,y)・(x1,y1)に画像の加工を施す。その後、ステップS204に進んで別の人物検出手法があるか否かを判断し、有る場合にはステップS206で別の人物検出手法を選択してステップS201以降の処理を実行し、無い場合には人物の画像の検出とその画像の加工処理を終了する。
ステップS204での別の人物検出手法があるか否かについての判断と、ステップS206での別の人物検出手法の選択とをそれぞれ行う目的は、使用する人物検出手法が顔部分を認識して判断するものや、肌色部分を検出して身体部分を検出するものなどがあって、それぞれ得手不得手があったり、サムネイル画像の人物の画像の表示状態により複数の検出手法を用いた方が効果的であったりするからである。なお、人物画像に加工を施す際、人物部領域(x,y)・(x1,y1)が確定できないときには、サムネイル画像の全体に画像処理を施す。また、別の検出手法が無い場合にはステップS205へ進み、加工処理された画像と元画像とを合成し、画像処理されたサムネイル画像を生成する。
次に、ステップS201で行う人物検出方法について説明する。この人物検出方法は、下記の(1)又は(2)に示すように、一般的によく知られた方法を用いて行う。
(1)色相、明度、彩度のカラー情報から肌色を検出し、肌色の領域サイズや画素数によって、肌と非肌とを判定して人物の画像を検出する。
(2)画像に対して主成分分析を行い、顔データベースとパターンマッチングすることにより顔認識を行って人物の画像を検出する。
次に、ステップS203で行う人物部領域に対する画像加工の処理について説明する。ここで行う画像加工の処理は、画像は詳細には分からないが、どのような画像であるかがぼんやりと分かるような加工方法を用いることによって、その画像からどういうイメージか推測できる方法を利用する。例えば、「ぼかし」、「モザイク化」などの画像処理方法により画像加工を行う。
ここで、「ぼかし」とは、ある点のピクセルに関して、そのピクセルの色と周囲4ピクセル(上下左右)の色とに所定の演算を施し、ある点のピクセルの色とする処理である。例えば、処理対象のピクセルの色と、周囲のピクセルの色とを混ぜ合わせる比率を2:1にすれば、処理対象となるピクセル(x,y)の色は以下のようになる。
周囲の色平均=((x,y+1)の色+(x+y,y)の色+(x,y−1)の色+(x−1,y)の色)/4
ピクセル(x,y)の色成分=((x,y)の色成分×2+周囲の色成分平均)/3
以上の演算をR、G、Bのそれぞれに対して行う。
なお、上記の例では周囲の4ピクセルを用いて2:1の割合で混ぜ合わせたが、必ずしも4ピクセルを使うだけでなく、あるピクセルに対して上下左右2ピクセル及び斜め1ピクセル用いるようにしてもよい。
また、「モザイク化」とは、ある一定領域をその領域の色素の平均色で置き換える手法である。例えば、4ピクセル×4ピクセルごとにその領域内の色素の平均値を求め、4ピクセル×4ピクセルの領域を平均値の色で置き換える。この処理も必ずしも4ピクセル×4ピクセルではなく、これ以外のサイズの大きさを用いることも可能である。
ところで、人物検出は時間がかかる処理になることが多いが、本実施の形態ではサムネイル画像という比較的サイズの小さな画像で処理を行うため、人物検出時間が短くて済み、操作性の妨げになることはない。
以上の説明によって明らかなように、本実施の形態によれば、サムネイル画像を表示する際に、人物領域などに対して「ぼかし」、「モザイク化」など、画像にエフェクトをかけて表示することにより、見られたくないサムネイル画像を見せないようにすることが可能になる。この結果、他人や子供に対して個人情報に関する画像やアダルト画像などの情報を隠蔽し、安心してサムネイル画像の一覧を見せることができる。
なお、上記の実施の形態では人物画像の明瞭度を低下させる方法として、「ぼかし」又は「モザイク化」を例示したが、本発明はこれらに限定されず、「解像度の低下」、「部分マスキング」など、他の画像処理方法を用いても上述したと同様な効果が得られる。
本発明に係る記録再生装置の一実施の形態の概略構成を示す機能ブロック図である。 本発明に係る記録再生装置の一実施の形態の具体的な構成を示すブロック図である。 本発明の一実施の形態の動作を説明するために、サムネイル画像の表示処理の具体的な手順を示すフローチャートである。 図3に示すフローチャートの主要なステップの詳細な処理手順を示すフローチャートである。
符号の説明
1 映像記録手段
2 再生開始位置設定手段
3 サムネイル画像生成手段
4 サムネイル画像表示手段
5 再生開始位置選択手段
6 映像再生手段
7 人物判定手段
8 視聴判断手段
9 画像処理手段
10 記録媒体
18 表示デバイス
20 制御手段

Claims (2)

  1. 記録媒体に記録されたコンテンツに対して、再生開始位置を設定する再生開始位置設定手段と、前記再生開始位置に対応付けてサムネイル画像を生成するサムネイル画像生成手段とを有する記録再生装置において、
    前記コンテンツに視聴制限年齢情報が付加されている場合は、この視聴制限年齢情報の値(年齢)と、あらかじめ装置に外部から設定されている制限年齢とを比較して、前記視聴制限年齢情報の値が前記制限年齢以上の場合は前記コンテンツの視聴は不可と判断する一方、前記コンテンツに視聴制限年齢情報が付加されていない場合、若しくは、前記視聴制限年齢情報の値が前記制限年齢未満の場合は前記コンテンツの視聴は可能と判断する視聴判断手段と、
    前記サムネイル画像生成手段によって生成されたサムネイル画像の中に人物の画像が入っているか否かを判定する人物判定手段と、
    前記人物判定手段によってサムネイル画像の中に人物の画像が入っていると判定され、かつ、前記視聴判断手段の判断結果が視聴は可能と判断されている場合、前記サムネイル画像の中の人物画像の明瞭度を低下させる処理を施す画像処理手段とを、
    備えたことを特徴とする記録再生装置。
  2. 記録媒体に記録されたコンテンツに対して、再生開始位置を設定する再生開始位置設定手段と、前記再生開始位置に対応付けてサムネイル画像を生成するサムネイル画像生成手段とを有する記録再生装置による画像処理方法において、
    前記コンテンツに視聴制限年齢情報が付加されている場合は、この視聴制限年齢情報の値(年齢)と、あらかじめ装置に外部から設定されている制限年齢とを比較して、前記視聴制限年齢情報の値が前記制限年齢以上の場合は前記コンテンツの視聴は不可と判断する一方、前記コンテンツに視聴制限年齢情報が付加されていない場合、若しくは、前記視聴制限年齢情報の値が前記制限年齢未満の場合は前記コンテンツの視聴は可能と判断する視聴判断ステップと、
    前記サムネイル画像生成手段によって生成されたサムネイル画像の中に人物の画像が入っているか否かを判定する人物判定ステップと、
    前記人物判定ステップによってサムネイル画像の中に人物の画像が入っていると判定され、かつ、前記視聴判断ステップの判断結果が視聴は可能と判断されている場合、前記サムネイル画像の中の人物の画像の明瞭度を低下させる処理を施す画像処理ステップとを、
    有することを特徴とする画像処理方法。
JP2006114636A 2006-04-18 2006-04-18 記録再生装置及び記録再生装置による画像処理方法 Expired - Fee Related JP4411614B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006114636A JP4411614B2 (ja) 2006-04-18 2006-04-18 記録再生装置及び記録再生装置による画像処理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006114636A JP4411614B2 (ja) 2006-04-18 2006-04-18 記録再生装置及び記録再生装置による画像処理方法

Publications (2)

Publication Number Publication Date
JP2007288594A JP2007288594A (ja) 2007-11-01
JP4411614B2 true JP4411614B2 (ja) 2010-02-10

Family

ID=38759934

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006114636A Expired - Fee Related JP4411614B2 (ja) 2006-04-18 2006-04-18 記録再生装置及び記録再生装置による画像処理方法

Country Status (1)

Country Link
JP (1) JP4411614B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4331240B2 (ja) 2008-01-23 2009-09-16 株式会社東芝 電子機器および画像表示方法

Also Published As

Publication number Publication date
JP2007288594A (ja) 2007-11-01

Similar Documents

Publication Publication Date Title
JP4331240B2 (ja) 電子機器および画像表示方法
US7711184B2 (en) Image display method, image display program, and image display apparatus
JP4909854B2 (ja) 電子機器および表示処理方法
US9071806B2 (en) Reproducing apparatus
JP2009088689A (ja) 電子機器および表示方法
JP2007049247A (ja) 映像再生示装置
JP4856105B2 (ja) 電子機器および表示処理方法
JP2007072564A (ja) マルチメディア再生装置、メニュー操作受付方法およびコンピュータプログラム
JP2008252454A (ja) カメラ装置およびカメラ装置におけるgui切替方法
JP5330551B2 (ja) 電子機器および表示処理方法
JP2007180638A (ja) 撮像装置
JP2003123393A (ja) 画像情報記録媒体、画像情報処理装置及び画像情報処理プログラム
JP4411614B2 (ja) 記録再生装置及び記録再生装置による画像処理方法
JP2007181164A (ja) 画像再生装置
JP2001209361A (ja) マルチメディア表示装置
JP4484775B2 (ja) 再生装置及び再生方法
JPH113346A (ja) 動画像ファイル管理装置
JP4609711B2 (ja) 画像処理装置および方法、並びにプログラム
JP2001119661A (ja) 動画編集システムおよび記録媒体
JP2006217060A (ja) 記録装置、記録再生装置および記録方法並びに記録再生方法
JP2007129725A (ja) 画像形成装置、画像形成方法、及び記録媒体
US20080151060A1 (en) Camera apparatus and chapter data generating method in camera apparatus
KR20120098622A (ko) 비디오 콘텐츠에 보이스 콘텐츠를 부가하는 방법 및 상기 방법을 구현하기 위한 디바이스
JP2009218874A (ja) 記録再生装置
JP4328265B2 (ja) 動画像処理装置、動画像処理方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080630

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090804

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090924

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20091023

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20091105

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313111

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121127

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131127

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees