JP4178017B2 - 画像処理方法及びデジタルカメラ - Google Patents

画像処理方法及びデジタルカメラ Download PDF

Info

Publication number
JP4178017B2
JP4178017B2 JP2002313089A JP2002313089A JP4178017B2 JP 4178017 B2 JP4178017 B2 JP 4178017B2 JP 2002313089 A JP2002313089 A JP 2002313089A JP 2002313089 A JP2002313089 A JP 2002313089A JP 4178017 B2 JP4178017 B2 JP 4178017B2
Authority
JP
Japan
Prior art keywords
brightness
image
exposure
processing
shutter button
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002313089A
Other languages
English (en)
Other versions
JP2004153315A (ja
Inventor
浩一 坂本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Corp
Original Assignee
Fujifilm Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujifilm Corp filed Critical Fujifilm Corp
Priority to JP2002313089A priority Critical patent/JP4178017B2/ja
Publication of JP2004153315A publication Critical patent/JP2004153315A/ja
Application granted granted Critical
Publication of JP4178017B2 publication Critical patent/JP4178017B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、顔抽出技術を利用して明るさ補正を行う画像処理方法及びデジタルカメラに関する。
【0002】
【従来の技術】
近年、デジタルカメラにはAE(自動露出)やAF(自動焦点調整)の機能が装備され、撮影がより容易に行えるようになっている。このAEにおける測光方式としては中央重点測光が一般的に知られているが、中央重点測光では主要な被写体が中央にない構図で撮影するような場合、主要被写体に合わせた適正な露出が得られないという問題がある。例えば、主要被写体である人物をフレームの端に置く構図で、背景の中央が白いような場合、AEはその白色に合わせて露出制御を行うため、光量が絞られ、人物の顔が暗く写ってしまうなどの露出不良となる。
【0003】
中央重点測光の欠点を解決する手段として、複数のポイントにおいて光量を測定するいわゆるマルチパターン測光による露出制御も行われている。マルチパターン測光によれば、フレーム全体で平均的な露出制御が行われるため、上記のように主要被写体である人物が中央にないような場合の問題は幾分解決される。しかし、例えば、逆光で人物を撮影する場合などでは、どのような構図であっても、AEは全体的に明るいと判断して光量を絞るように露出制御を行うため、やはり人物の顔が暗く写るという問題は解決されない。
【0004】
【発明が解決しようとする課題】
上述のように中央重点測光やマルチパターン測光あるいはそれらを任意に選択できるデジタルカメラでは、撮影時の状況によって顔部の明るさが適正になるような露出制御を行うことはできない。しかし、撮影の対象を人物や風景とする一般的な撮影においては、風景よりも人物、特に人物の顔部の撮影具合が写真(あるいは画像データ)としての出来栄えに影響することから、人物の顔部を適正な明るさすることが望まれる。
【0005】
本発明は上記事情に鑑みてなされたもので、画像に対する明るさ補正により人物の顔部を良好な明るさ(輝度)にする画像処理方法及びデジタルカメラを提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明の画像処理方法は、シャッターボタンの半押しで露出及び焦点調整を行い、シャッターボタンの全押しで露出及び焦点調整後の記録画像を取得して記録するデジタルカメラの画像処理方法において、前記半押しを検出して露出及び焦点処理後の縮小画像を取得するステップと、前記全押しを検出して露出及び焦点処理後の前記縮小画像を分析して人物の顔領域を抽出するステップと、抽出した顔領域の輝度値と顔の適正な明るさにおける輝度値との差分値を、抽出した顔領域の明るさが最適値となる補正量として算出するステップと、前記補正量に基づいて全押し時の前記記録画像の明るさを補正するステップとを含むものである。
【0008】
本発明のデジタルカメラは、シャッターボタンの半押しで露出及び焦点調整を行い、シャッターボタンの全押しで露出及び焦点調整後の記録画像を取得して記録するデジタルカメラにおいて、前記半押しを検出して露出及び焦点処理後の縮小画像を取得する手段と、前記全押しを検出して露出及び焦点処理後の前記縮小画像を分析して人物の顔領域を抽出する手段と、抽出した顔領域の輝度値と顔の適正な明るさにおける輝度値との差分値を、抽出した顔領域の明るさが最適値となる補正量として算出する手段と、前記補正量に基づいて全押し時の前記記録画像の明るさを補正する手段とを備えるものである
【0009】
上記発明によれば、画像から抽出した顔領域の明るさが最適値となる補正量に基づいて記録画像の明るさを補正することで、人物の顔部が良好な明るさ(輝度)の記録画像が得られる。
【0010】
【発明の実施の形態】
以下、本発明の実施の形態を図面を参照して説明する。
図1は本発明の一実施形態のデジタルカメラの構成を示すブロック図であり、主として、レンズ101、CCD102、アナログ信号処理部103、A/D変換器104、TG(タイミングジェネレータ)105、制御部106、デジタル信号処理部107、メモリ108、圧縮伸張部109、LCD110、記録部111、シャッターボタン112、操作スイッチ113、顔抽出処理部114及び補正量算出部115を備える。
【0011】
レンズ101は詳しくはAF(自動焦点調節)機構を備えたズームレンズ(焦点距離可変レンズ)であり、レンズ101のAF機構及びズーム機構は図示せぬ駆動回路によって駆動される。なお、ズームレンズに代えて、AF機構のみを備えた焦点距離構成レンズを用いてもよい。
【0012】
CCD102は、マトリクス状またはハニカム状に配置された多数の受光素子を有する光センサで、レンズ101の焦点位置に相当するカメラ本体内部の位置に配置されている。
【0013】
アナログ信号処理部103は、CCD102から出力された画像信号に所定のアナログ処理を行い、画素ごとのR、G、B信号として出力する。アナログ信号処理部103は、内部にCDS(相関二重サンプリング)回路やAGC(オートゲインコントロール)回路などを有し、CDS回路では画像信号のノイズ低減が、AGC回路ではゲイン調整により各画像信号のレベル調整が行われる。
【0014】
A/D変換器33は、アナログ信号処理部32から順次加えられるR、G、B信号をデジタル形式のR、G、B信号に変換して出力する。
【0015】
タイミングジェネレータ105は、CCD102、アナログ信号処理部103、A/D変換器104にタイミング信号を与え、このタイミング信号によって各回路の同期がとられている。
【0016】
制御部106は、バスで接続する各部の動作を制御し、デジタルカメラの撮像動作に係る統括制御を行う。また、シャッターボタン112やその他の操作スイッチ113からの入力に基づいて、AF(自動焦点調整)、AE(自動露出)、AW(オートホワイトバランス)等の制御を行う制御手段の役割を果たす。制御部106は、周辺構成とのデータの受け渡しやタイミング制御などの他に様々な機能をソフトウェア的に行う。
【0017】
デジタル信号処理部107は、入力された画像データに対してホワイトバランス補正、ガンマ(γ)補正、輪郭補正、色補正、YC処理等の各種処理を行う。さらに、後述する顔部の明るさが最適となる明るさ補正量に基づく明るさ補正を行う。デジタル信号処理部107で輝度信号(Y信号)及び色差信号(Cr、Cb信号)に変換された画像データは、バスを介して画像データ一時記憶用のメモリ108に格納される。YC信号は、圧縮伸張部109で所定のフォーマットに従って圧縮されたのち、記録部111を介してメモリカードなどの記録媒体に記録される。
【0018】
メモリ108は、DRAM等で構成され、取得した画像データを一時記憶するバッファメモリとしての機能を果たす。各種処理を行うため、画像データはバスを介して接続する各部に読み出され、処理後再び書き込みが行われる。
【0019】
圧縮伸張部109は、メモリ108に蓄積された画像データをJPEG方式などの所定の圧縮方式で圧縮して記録部111に装填された記録媒体に記録したり、記録媒体から読み出された画像データを伸長したりする。圧縮伸張部109で圧縮処理を行う際の画像データは、輝度データYと色差データCr,Cbとに変換されて(YC分離処理)、メモリ37に格納されている。一方、記録媒体に記録されている画像データを再生表示する場合、YC分離により生成された輝度信号および色差信号がRGB信号に変換される。
【0020】
LCD110は画像表示用のディスプレイで、RGB信号に基づいてLCDドライバ(図示省略)により駆動される。メモリ108に一時記憶されている画像データは、所定の処理が行われた後LCD110へ転送され、カラー画像が表示される。撮影時はLCDをファインダーとして用いることにより、撮影範囲を正確に決定することができる。
【0021】
記録部111は、取得した画像データと画像データごとのタグ情報をメモリカードなどの記録媒体に記録する。記録の具体的処理は、シャッターボタン112の全押しにより撮影(即ち、画像データの取得)が指示されると、上記の一連の画像処理完了後メモリ108に記憶された画像のサムネイル画像とJPEG方式により圧縮された圧縮画像とが生成され、撮影画像に関するタグ情報(コマ番号、露出値、シャッタースピード、圧縮率、撮影日、撮影時のフラッシュのオン/オフのデータ、シーン情報等)とともに両画像が記録媒体に記録される。
【0022】
なお、記録媒体は半導体記録メディア等のメモリカードに限定されるものではなく、DVD−RAM、DVD−RW、CD−RW等の光記録媒体、フロッピーディスク等の磁気記録媒体、MO等の光磁気記録媒体等も用いることができ、また、外部記録媒体に限らずハードディスク等の内蔵記録媒体であってもよい。
【0023】
シャッターボタン112は、デジタルカメラに撮影開始を指示するためのスイッチであり、半押し状態と全押し状態とが検出可能な2段階スイッチになっており、シャッターボタン112の半押しでAF(自動焦点調整)制御、AE(自動露出)制御、顔領域抽出用の画像の取得が行なわれ、シャッターボタン112の全押しで撮影並びに後述する明るさ補正処理及び画像データの記録が行われる。
【0024】
AE制御は、輝度検出及び輝度判定に基づいてシャッタースピードや絞りが自動的に設定する。輝度検出は、CCD101により所定の間隔で取り込まれ、メモリ108に格納される画像データを利用して、R、G、Bで与えられる画像データの各色成分の輝度値を画像全体に渡って合計または平均して行われる。輝度判定による被写体の明るさの判定結果に基づいてシャッタースピードや絞りの設定が決定される。
【0025】
AF制御は、画像データ全体のコントラストの概略値をAF評価値として求めつつレンズ101を移動させることによって合焦を行う。例えば、シャッターボタンの半押し時にG信号の高周波成分が最大になるようにAFモータ駆動回路がAFモータを駆動し、合焦位置へレンズを移動させてオートフォーカスを行う。
【0026】
顔領域抽出処理部114は、シャッターボタン112の半押しで取得された画像データを保持するメモリと、画像データから画像中に存在する人物の顔に相当する領域を抽出する顔抽出機能とを有する。顔抽出処理は、デジタル信号処理部107の輪郭補正等の処理を経た画像データに対して行われる。顔領域の抽出方法は公知の技術(特開平9−101579号公報等)を用いることができる。
【0027】
補正量算出部115は、抽出した顔領域の明るさ(輝度値)を算出して、算出した明るさと適正な明るさとの差分から補正値を算出する。
【0028】
上記顔抽出処理及び補正量算出処理は、処理時間が比較的長いため、短時間の処理が要求されるシャッターボタンの半押し後の期間では行わず、長時間の処理が許容されるシャッターボタンの全押し後の期間で行う。
【0029】
次に、図2に示すフローチャートを参照して本発明の実施の形態のデジタルカメラの動作について説明する。
【0030】
デジタルカメラの電源スイッチがオンの状態で(ステップS101)、「撮影」モードがオンである場合(ステップS102)、制御部106はシャッターボタン112の半押し(S1)の検出を行う(ステップS103)。
【0031】
シャッターボタン112の半押しが検出されると、制御部106の指示により、AEとAFが実行され(ステップS104)、上記AEとAFによって合焦点、適正露出と判断して取得された画像データがメモリ108に格納される。また、同じ画像データは顔領域抽出処理部114内のメモリにも顔領域抽出用として格納される(ステップS105)。格納される画像データは、CCDの間引きモードにおいて間引きされた縮小画像(例えば、VGA程度の画像サイズ)である。
【0032】
次に、制御部106はシャッターボタン112の全押し(S2)の検出を行う(ステップS106)。シャッターボタン112の押下がない場合は、ステップS107で所定時間の経過を判断し、所定時間が経過していない場合はステップS106戻り検知を繰り返す。所定時間が経過している場合、撮影動作が行われないものと判断してステップS103に戻る。
【0033】
ステップS106でシャッターボタン112の全押しが検出されると、制御部106の指示により、画像の記録及び明るさの補正を含む明るさ補正処理が行われる(ステップS108)。
【0034】
図3は、記録用に取得した画像に対して行う明るさ補正処理の手順を示すフローチャートである。シャッターボタン112の全押しを検出すると、制御部106は、画像の記録及び明るさの補正処理を行う。
【0035】
明るさ補正処理を行うために、顔領域抽出処理部114は、ステップS105で顔領域抽出処理部内のメモリに格納した画像データに対して顔領域抽出処理を行う(ステップS201)。次に、画像データの被写体が人物で顔の領域が存在する場合、抽出された顔領域の輝度値を算出する(ステップS202)。
【0036】
次に、記録用に取得した画像データに対して行う明るさ補正処理を行うための補正値を算出する(ステップS203)。補正値は、ステップS202で算出した輝度値と顔の適正な明るさにおける輝度値との差分値である。
【0037】
前述の通り、ステップS204でシャッターボタン112の全押しと同時にCCD102から記録用の画像が取得され、信号処理された画像データがメモリ108に一時記憶される。メモリ108に一時記憶された記録用画像データは、再びデジタル信号処理部107に読み出され、ステップS203で算出した補正値に基づいてデジタルゲインの調整等を行い、明るさ補正の画像処理が行われる(ステップS205)。
【0038】
図2のフローチャートに戻り、明るさの補正処理が施された画像データは、再びメモリ108に一時記憶され、その後YC処理や圧縮処理などの必要な処理を行ったあと、記録部111により記録媒体に記録される。また、必要に応じてLCD110への画像表示も行われる(ステップS109)。
【0039】
以上の処理により、記録用に取得した画像データは、被写体の顔の明るさが適正に補正された状態で記録される。この結果、被写体がフレームの中央になかったり(中央重点測光の場合)、逆光であったりして、被写体の顔部に合わせた露出制御が行われず、撮影時(画像データ取得時)には顔の明るさが不適切な画像データであっても、記録媒体に保存される際は、顔の明るさが適正になるように自動的に補正される。
【0040】
なお、上記の処理において、顔領域抽出処理で複数の顔領域が抽出された場合(即ち複数の人物が被写体として撮像されている場合)、複数の領域で輝度値を求めて平均を算出したり、または、面積が大きい領域だけの輝度値を代表値としたりするなど、適宜適切な条件設定を行う。
【0041】
また、顔領域抽出処理は撮影時、常に行う必要はなく、例えば、人物を撮影するためのモード(例えば、ポートレート撮影モード)に設定されている場合の撮影時にのみ顔領域抽出処理を実行するようにしてもよい。モード設定で顔領域抽出処理部のオン、オフを制御することにより、人物が撮影されていない画像データに対して顔領域抽出処理を行う等の不要な動作を防止して消費電力の低減を図ることができる。
【0042】
【発明の効果】
以上説明したように本発明によれば、画像から抽出した顔領域の明るさが最適値となる補正量に基づいて記録画像の明るさを補正することで、人物の顔部が良好な明るさ(輝度)の記録画像を得ることができる。
【図面の簡単な説明】
【図1】本発明の一実施の形態におけるデジタルカメラの構成を示すブロック図。
【図2】デジタルカメラにおける画像処理の手順を示すフローチャート。
【図3】画像処理における明るさ補正の手順を示すフローチャート。
【符号の説明】
101 レンズ
102 CCD
103 アナログ処理部
104 A/D変換器
105 タイミングジェネレータ
106 制御部
107 デジタル信号処理部
108 メモリ
109 圧縮伸長部
110 LCD
111 記録部
112 シャッターボタン
113 操作スイッチ
114 顔抽出処理部
115 補正量算出部

Claims (2)

  1. シャッターボタンの半押しで露出及び焦点調整を行い、シャッターボタンの全押しで露出及び焦点調整後の記録画像を取得して記録するデジタルカメラの画像処理方法において、
    前記半押しを検出して露出及び焦点処理後の縮小画像を取得するステップと、前記全押しを検出して露出及び焦点処理後の前記縮小画像を分析して人物の顔領域を抽出するステップと、抽出した顔領域の輝度値と顔の適正な明るさにおける輝度値との差分値を、抽出した顔領域の明るさが最適値となる補正量として算出するステップと、前記補正量に基づいて全押し時の前記記録画像の明るさを補正するステップとを含む画像処理方法。
  2. シャッターボタンの半押しで露出及び焦点調整を行い、シャッターボタンの全押しで露出及び焦点調整後の記録画像を取得して記録するデジタルカメラにおいて、
    前記半押しを検出して露出及び焦点処理後の縮小画像を取得する手段と、前記全押しを検出して露出及び焦点処理後の前記縮小画像を分析して人物の顔領域を抽出する手段と、抽出した顔領域の輝度値と顔の適正な明るさにおける輝度値との差分値を、抽出した顔領域の明るさが最適値となる補正量として算出する手段と、前記補正量に基づいて全押し時の前記記録画像の明るさを補正する手段とを備えるデジタルカメラ。
JP2002313089A 2002-10-28 2002-10-28 画像処理方法及びデジタルカメラ Expired - Fee Related JP4178017B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002313089A JP4178017B2 (ja) 2002-10-28 2002-10-28 画像処理方法及びデジタルカメラ

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002313089A JP4178017B2 (ja) 2002-10-28 2002-10-28 画像処理方法及びデジタルカメラ

Publications (2)

Publication Number Publication Date
JP2004153315A JP2004153315A (ja) 2004-05-27
JP4178017B2 true JP4178017B2 (ja) 2008-11-12

Family

ID=32457803

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002313089A Expired - Fee Related JP4178017B2 (ja) 2002-10-28 2002-10-28 画像処理方法及びデジタルカメラ

Country Status (1)

Country Link
JP (1) JP4178017B2 (ja)

Families Citing this family (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1878219B1 (en) * 2005-04-26 2015-02-11 Canon Kabushiki Kaisha Image capturing apparatus and its control method
JP4537255B2 (ja) 2005-04-28 2010-09-01 富士フイルム株式会社 撮像装置および撮像方法
JP5319078B2 (ja) * 2006-07-07 2013-10-16 オリンパスイメージング株式会社 カメラ、カメラの画像処理方法、プログラム、記録媒体
CN100553295C (zh) * 2006-07-07 2009-10-21 奥林巴斯映像株式会社 照相机、照相机的图像处理方法
JP2009063674A (ja) * 2007-09-04 2009-03-26 Canon Inc 撮像装置及びフラッシュ制御方法
JP5040830B2 (ja) * 2008-06-27 2012-10-03 株式会社ニコン 撮像装置
JP2010226416A (ja) * 2009-03-24 2010-10-07 Nikon Corp デジタルカメラ
JP4678060B2 (ja) * 2009-03-25 2011-04-27 株式会社ニコン 撮像装置および画像処理プログラム
WO2018158809A1 (ja) 2017-02-28 2018-09-07 三菱電機株式会社 車両用撮像制御装置、ドライバモニタリング装置、及び、車両用撮像制御方法
CN112232146B (zh) * 2020-09-27 2024-04-09 厦门亿联网络技术股份有限公司 一种脸部亮度计算方法、装置、设备及存储介质

Also Published As

Publication number Publication date
JP2004153315A (ja) 2004-05-27

Similar Documents

Publication Publication Date Title
US8477993B2 (en) Image taking apparatus and image taking method
JP4826028B2 (ja) 電子カメラ
JP4126721B2 (ja) 顔領域抽出方法及び装置
US20090231448A1 (en) Image pick-up apparatus with a shake reducing function
JP2001103366A (ja) カメラ
JP2007158544A (ja) カメラシステム
US8228423B2 (en) Imaging apparatus and method for controlling flash emission
JP4200428B2 (ja) 顔領域抽出方法及び装置
JP2003307669A (ja) カメラ
US7428012B2 (en) Image processing method including generating face region information and a digital camera including face region identification unit
JP4309524B2 (ja) 電子カメラ装置
JP4178017B2 (ja) 画像処理方法及びデジタルカメラ
JP3927802B2 (ja) 画像処理装置
JP2004201228A (ja) 顔領域抽出方法及び装置
JP5048599B2 (ja) 撮像装置
US20060221215A1 (en) Image pickup apparatus and motion vector deciding method
JP2004080376A (ja) 動画撮像装置及び動画再生装置
JP4680022B2 (ja) 撮影装置
US8041206B2 (en) Imaging apparatus and method for controlling flash emission
JP2007027984A (ja) 撮影装置およびその制御方法
JP2004145022A (ja) デジタルカメラ
JP2003319246A (ja) デジタルカメラ
JP5264541B2 (ja) 撮像装置及びその制御方法
JP2002044516A (ja) 電子カメラ
JP2002044510A (ja) 電子カメラ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050215

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060325

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A712

Effective date: 20061124

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070621

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070627

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070827

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070919

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20071120

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20080409

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080508

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20080620

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080806

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080825

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

R150 Certificate of patent or registration of utility model

Ref document number: 4178017

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110829

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120829

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130829

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees