JP3717720B2 - 電子カメラ - Google Patents

電子カメラ Download PDF

Info

Publication number
JP3717720B2
JP3717720B2 JP23706099A JP23706099A JP3717720B2 JP 3717720 B2 JP3717720 B2 JP 3717720B2 JP 23706099 A JP23706099 A JP 23706099A JP 23706099 A JP23706099 A JP 23706099A JP 3717720 B2 JP3717720 B2 JP 3717720B2
Authority
JP
Japan
Prior art keywords
interpolation
image
unit
data
electronic camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP23706099A
Other languages
English (en)
Other versions
JP2001061099A (ja
Inventor
大 川瀬
正祐 樋口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Corp filed Critical Olympus Corp
Priority to JP23706099A priority Critical patent/JP3717720B2/ja
Priority to US09/643,800 priority patent/US6906748B1/en
Publication of JP2001061099A publication Critical patent/JP2001061099A/ja
Application granted granted Critical
Publication of JP3717720B2 publication Critical patent/JP3717720B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation

Landscapes

  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Television Signal Processing For Recording (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Image Processing (AREA)
  • Studio Circuits (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、所望の画像を撮像し、この画像情報を記録・表示することが可能な電子カメラに関する。
【0002】
【従来の技術】
いわゆる電子カメラにおいて、撮影レンズ系を介して得られた被写体像はCCD(固体撮像素子)によって電気信号に変換され、さらにA/D変換器によってデジタル画像信号に変換される。これにより、LCDへの画像表示、小型記録メディアへの記録等を行うために種々の画像処理を施すことが可能な被写体像の画像情報が得られる。例えば画像記録に関し、被写体像の画像情報は、所定の画像処理が施されたのち、例えばJPEG(Joint Photographic Coding Experts Group)方式の画像圧縮伸長回路に供給される。JPEG方式はカラー静止画像のデータ圧縮方式の一つとしてよく知られており、人間の視覚特性に基づいて特定の画像情報を削減し、画像の記憶容量を少なくする。圧縮伸長回路により圧縮された画像情報は所定のインターフェースを介してフラッシュメモリ、スマートメディア等の小型記録メディアに記録される。
【0003】
このような従来の電子カメラにおいては、言うまでもなく画像記録における画質向上が重要な課題であり、固体撮像素子の高精細化、演算プロセッサの能力向上とあいまって不断の研究開発が進められている。
【0004】
画質向上を実現するためには、例えば、電子カメラに新たな専用の処理系を実装することが考えられる。しかしながら、特に普及型の電子カメラでは極めて厳格なコストを要求される
【0005】
【発明が解決しようとする課題】
本発明は上記事情を考慮してなされたものであり、高画質の画像記録を行い得る安価な構成の電子カメラを提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明は、上記の課題を解決するために次のような手段を講じた。
(1)本発明の電子カメラは、被写体光を撮像手段により受光し、これにより電子的な画像情報として得られた被写体像を電子的に記録可能な電子カメラであって、前記撮像手段により得られた複数画素の画像データを画像処理する画像処理手段と、前記画像データに対して画素数を変更する際に画素補間をするときの補間位置を算出する補間位置算出部と、前記画像データのn点とn+1点との間を予め等分割し、この等分割した各位置に対応するように予め設けられた補間係数を記憶する補間係数記憶部と、前記補間位置算出部での算出によって前記予め等分割した位置とは異なる位置に得られた補間位置を、前記予め等分割された位置のうち前記算出された画素補間位置に最も近い分割位置に更に修正する補間位置修正部と、前記修正された補間位置及びこの補間位置に対応するように予め設けられた補間係数とにより前記画像データの補間演算を行う補間演算部とを有し、該補間演算部により少なくとも3次以上の高次多項式の近似式による補間処理を行う補間処理手段と、前記補間処理手段により補間処理をされた画像データを圧縮処理する画像圧縮処理手段と、を具備することを特徴とする。
(2)本発明の電子カメラは、上記(1)に記載の電子カメラであって、且つ前記画像処理手段は、前記撮像手段に設けられた撮像素子から出力された色毎のデータを擬似的に3板化する処理を行うことを特徴とする。
【0007】
(3)本発明の電子カメラは、上記(1)に記載の電子カメラであって、且つ前記画像処理手段は、前記撮像手段により得られた画像データから変換された色相データのサンプリングレートを変換する処理を行うことを特徴とする。
【0008】
【発明の実施の形態】
図面を参照して本発明の実施の形態を説明する。
【0009】
図1は、本発明の一実施形態に係る電子カメラの概略構成を示す概略ブロック図である。
【0010】
撮影レンズ系11を通過した被写体の画像は、撮像素子12で電気信号に変換される。撮像素子12で変換された電気信号は、撮像回路13でアナログ画像信号に変換された後に、A/D変換器14によってデジタル画像信号に変換される。そして、このデジタル画像信号は、所定の処理を経て、例えば、外部メモリである着脱可能な着脱メモリ20(例えば、フラッシュメモリ、スマートメディア等)にインターフェース(I/F)21を介して記録される。なお、着脱メモリ20は通常カードスロット22に装着される。また、電子カメラは、例えばランダムアクセスメモリ(RAM)等からなり高速に動作するバッファメモリ30を有している。このバッファメモリ30は、画像の圧縮伸長における作業用メモリとして、或いは一時的な画像記憶手段としての高速バッファとして使用される。バッファメモリ30の記録領域は、本発明においては、元画像用の記録領域31と、キュービック補間画像用の記録領域32とを有している。なお、キュービック補間画像用の記録領域32をバッファメモリ30から独立したメモリにより構成しても良く、例えばキュービック補間処理用の演算回路(又は、IC)の内蔵メモリに設けても良い。
【0011】
圧縮伸長回路40は、デジタル画像信号の圧縮を行ったり、圧縮された画像信号を展開(伸長)するためのものである。
【0012】
また、電子カメラには、通常、画像表示用のLCD50(液晶表示装置)が搭載されており、このLCD50は着脱メモリ20に記録された画像の確認や、撮影しようとする画像を表示する。即ち、バッファメモリ30からの画像情報が一旦ビデオメモリ51に取り込まれ、次にビデオ出力回路52によってこれがビデオ画像に変換されて画像表示LCD50により表示される。また、ビデオ出力回路52の出力はビデオ出力用の外部端子53を介して外部表示装置にビデオ画像が出力できるようになっている。
【0013】
シスコン70は、電子カメラの各機器の全体の制御を行うもので、その機能の詳細は後述する。シスコン70は、レリーズからなる操作部73からの入力を受け付けてレリーズの操作に応じて撮像を行ったり、画像処理を指示したりする。また、シスコン70は、被写体の撮像時における光量が不足している場合には、ストロボ発光部71に依頼してストロボをオンにして撮影するように制御する。また、シスコン70には図示しない撮影距離検出部があり、被写体との距離を検出する機能を有する。また、操作部73は、各種モードの設定も行うことができるようになっており、そのモード設定はモードLCDに表示される。
【0014】
外部インターフェース(外部I/F)61は、外部入出力端子60に接続されて、外部機器とのデータの入出力を行う。この外部入出力端子60には、例えばパーソナルコンピュータ等が接続され、着脱メモリ20内の画像をパーソナルコンピュータ等に転送したり、パーソナルコンピュータ等から画像データを入力したりする。
【0015】
また、電子カメラの各部は基本的に電池により駆動されるようになっており、電源部80を介してカメラ電池81からの電力がカメラ回路を含む各部に供給される。また、カメラ電池81は電源部80からの制御により充電可能なものとなっている。
【0016】
ところで、シスコン70には、本発明の特徴点に係る構成要素として、画素数変換処理部701と、キュービック補間処理部702とを備える。
【0017】
画素数変換処理部701は、被写体像のデジタル画像信号をA/D変換器14から入力し、該デジタル信号が示す画像の画素数を所望の画素数に変換する。このような画素数変換処理部701による画素数変換処理、すなわち画像情報の情報量変更処理にキュービック補間処理が適用されている。画像情報量の変更とは、ここでは、所定の画素データを間引きすること、所定の画素データ同士を加算すること、及び画素データを移動することを含む。
【0018】
キュービック補間(演算)処理は、3次畳み込み補間演算処理とも称され、一般に、見た目にきれいな高画質の画像が得られる補間処理手法である。なお、本願発明はキュービック補間演算処理のみに限定されず、少なくとも3次以上の高次多項式の近似式による異なる補間演算処理が適用されても良い。
【0019】
図2は、本実施形態の要部に関するより詳細な構成を示すブロック図である。
【0020】
同図に示されるように、A/D変換器14の出力段に、RGB3板化処理部100、色空間変換部、サンプリングレート変換部101、拡大/縮小処理部102、および圧縮/伸長(JPEG)部40が接続されている。これらRGB3板化処理部100、色空間変換部、サンプリングレート変換部101、拡大/縮小処理部102、および圧縮/伸長(JPEG)部40は共通のバスに接続されており、このバスを介してバッファメモリ30の記録対象である元画像やキュービック補間画像に対しアクセス可能となっている。
【0021】
そして、上記RGB3板化処理部100によるRGBデータの3板化処理、サンプリングレート変換部101による画像情報のサンプリングレート変換処理、および拡大/縮小処理部102による画像情報の拡大/縮小処理の少なくとも一部(本実施形態ではこれら3つの処理全て)にキュービック補間処理が適用されている。
【0022】
キュービック補間処理の基本概念について、1次元イメージに基づいて説明する。
【0023】
図3は、1次元の補間モデルを示す図である。図3の(a)に示すように、従来では、2点間を結ぶ直線によって所望の位置における出力値を計算する直線補間が一般的であった。このようにすると、計算に必要な既知の出力値を有する位置は2点でよいが、あくまでも2点間の比例平均の出力値を求めるものであるので、例えば、その2点間に最大値又は最小値がある場合は補間点を適切に検出できないことになる。本発明では、この補間精度を上げるために、少なくとも3次以上の多次多項式による近似式による補間演算(特に本実施形態ではキュービック補間演算)を用いて所望の位置における出力値を得ている。図3の(b)は、4点の値から3次多項式の係数を求め、求められた3次多項式による近似式に位置データを入れて出力を得ている例を示す。図3の(b)において、位置n−1、n、n+1、n+2の4点の出力値から3次多項式の係数を求め、その3次多項式から位置x′における出力値を求めることによって所望の位置における補間値が得られることになる。これを例えば、直線補間で行った場合を考慮すると、最大値をとる位置はn+1になるので、図3の(b)の場合と異なり、正確な位置が得られない。
【0024】
図4は、キュービック補間処理部の構成を示すブロック図である。キュービック補間処理部702は、補間位置算出部91と、補間位置修正部92と、補間係数テーブル93と、補間演算部94とにより構成され、次のように動作する。
【0025】
バッファメモリ30の元画像用の記録領域31に記録されている元画像データの例えば4×4=16画素分の画像データが補間位置算出部91に入力される。補間位置算出部91は、入力された元画像データに基づいて、例えば、図3(b)における、n点とn+1点との間の補間位置x’を算出する。次に、補間位置修正部92は、演算を簡略化するために、例えば、n点とn+1点との間を16等分した場合におけるx’点に最も近い点に補間位置を修正する。このように補間位置を修正することにより、予め用意された補間係数テーブル93を用いて演算が行えるようになる。修正された補間位置に関して補間係数テーブル93から所定の補間係数が読み出されるとともに、補間演算部94は読み出された補間係数を上記4×4の画素データのそれぞれに適用し、所定の演算式に従って画素データのレベル値(補間画素データ)を算出する。補間された画素データはキュービック補間画像用の記録領域32に記録される。
【0026】
このようなキュービック補間処理部702によれば、複雑な計算を行うことなく、高速に補間位置における出力値が算出可能となる。
【0027】
図5は、RGB3板化を説明するための図である。
【0028】
例えば撮像素子12により図5(a)に示すようなRGBデータが得られたとする。このRGBデータでは「R(ed)」,「G(reen)」,「B(lue)」それぞれのデータが1画素を挟んで離散的な配置となっているが、図5(b)に示すように、全画素について1画素毎に「R」,「G」,「B」のデータを用意する必要がある。なお、図5(c)は、Y=aR+bG+cB,cb=α(B−Y),Cr=β(R−Y)によりRGB表現が輝度−色差表現に変換された場合を示す。この輝度−色差表現に対するキュービック補間処理については後述する。
【0029】
RGB3板化処理部100は、図5(b)に示すようなデータを得るべく、データが存在しない色のデータを補間により得る。この場合の補間処理に上述したキュービック補間処理部702による補間処理が適用される。
【0030】
図5(d)は、補間により求める画素と、その際に用いられる画素の範囲を示している。図5(d)において、括弧で括られたRはデータが存在しない画素である。
【0031】
図5(d)〜(f)において、RGBの括弧内の部分の(R)(G)(B)はそれぞれ当該色情報がないことを示している。図5の(d)は、R(レッド)の補間の様子を示す図であって、この場合において、R(レッド)の色情報を有する周りの点▲1▼と点▲2▼及び点▲3▼におけるR(レッド)の色情報は、図中破線Aで示したデータ(16個のRのデータ)を用いて補間できる。また、同様にして、点▲4▼、点▲5▼及び点▲6▼におけるR(レッド)の色情報は、図中破線Bで示したデータで求めることができる。このような補間方法により、全ての格子点の色情報が求められる。次に、G(グリーン)の場合には、Gのデータのある画素とない画素とが交互に配置されているので、例えば、破線C内の16個のデータを用いて、図中の斜線で示した(G)のデータが得られる。なお、図5の(f)に示すB(ブルー)の場合には、配置はR(レッド)の場合と同様であるので、R(レッド)と同様な方法によって画素のない部分におけるデータを補間することができる。この場合において、補間係数テーブルとして用意されているのは、16画素(3次多項式の2次元補間であれば、上記のように16個のデータ)分であるので、補間係数テーブルとしては小さいテーブルを用意すれば良く、更にテーブルによって補間係数を与えているので、複雑な計算を要することがないので、小さな回路で、擬似3板化が実現できる。
【0032】
図6は、サンプリングレート変換を説明するための図である。
【0033】
RGBデータが上述したように色空間変換部により輝度及び色相(色差)データに変換され、例えば図6に示すように、輝度データ200と、いわゆる「444」相当の色相データ201とが得られているとする。サンプリングレート変換部101は、この「444」相当の色相データ201から画素データの間引きによりX方向の画素数を1/2にして「422」相当の色相データを得る。あるいは、「444」相当の色相データ201から画素データの間引きにより、X方向の画素数を1/2にすると共にY方向の画素数についてもこれを1/2にして「420」相当の色相データを得る。このような画素数変換において、サンプリング位相の設定によっては、存在しない空間における画像データを補間生成する必要があり、キュービック補間処理部702による補間処理が適用され、存在しない画素のデータが補間される。
【0034】
図7は、画像の拡大/縮小を説明するための図である。
【0035】
図7において、白丸は拡大/縮小処理前の画素を示しており、黒丸(P11,P12,P13,P21,P22,...)は拡大/縮小処理後の画素を示している。同図から明らかなように、X座標0〜4までの区間の画素の配列ピッチは白丸の画素と黒丸の画素とで異なっており、黒丸の画素の方が白丸の画素よりもピッチが荒く画素数が減少している。つまり、図7は画像を縮小した場合を示している。画像拡大についてはこの場合と逆になる。
【0036】
拡大/縮小処理部102は、与えられたの拡大/縮小率に応じて画素数を変更するが、このとき、上記と同様にキュービック補間処理部702による補間処理が適用される。
【0037】
以上説明したように、RGB3板化処理、サンプリングレート変換処理、拡大/縮小処理など、画素数を変更する処理にキュービック補間演算処理が適用されているので、画質向上のための専用のハードウェアを付加することなくシステム構成の制約を受けないで安価に高画質の画像を記録可能になる。
【0038】
また、複雑な演算を行わず予め用意されたテーブル(補間係数テーブル)を参照して補間演算を実行するので、高速処理が可能になると共に、高性能な演算素子などを必要としない。
【0039】
なお、キュービック補間処理は、RGB3板化処理、サンプリングレート変換処理、拡大/縮小処理の全てに適用されなくても良く、例えばサンプリングレート変換処理のみに適用するなど、適用範囲は任意に変更され得る。
【0040】
また、本発明は、上述した実施形態のみに限定されず、種々変形して実施可能である。
【0041】
【発明の効果】
本発明によれば、画素数を変更する際に行われる3次以上の高次多項式の近似式による補間処理を複雑な演算を行わずに行い得る補間処理手段を具備する構成としていることから、高速かつ高精度に画像記録を行い得る電子カメラを提供できる。
【図面の簡単な説明】
【図1】本発明の一実施形態に係る電子カメラの概略構成を示す概略ブロック図
【図2】実施形態の要部に関するより詳細な構成を示すブロック図
【図3】1次元の補間モデルを示す図
【図4】キュービック補間処理部の構成を示すブロック図
【図5】RGB3板化を説明するための図
【図6】サンプリングレート変換を説明するための図
【図7】画像の拡大/縮小を説明するための図
【符号の説明】
11…撮影レンズ系、
12…撮像素子、
13…撮像回路、
14…A/D変換器、
20…着脱メモリ、
21…インターフェース(I/F)、
22…カードスロット、
30…バッファメモリ、
31…元画像用の記録領域
32…キュービック補間画像用の記録領域、
40…圧縮伸長回路、
50…LCD、
51…ビデオメモリ、
52…ビデオ出力回路、
53…外部端子、
70…シスコン
73…操作部、
71…ストロボ発光部、
61…外部インターフェース(外部I/F)、
80…電源部、
81…カメラ電池。

Claims (3)

  1. 被写体光を撮像手段により受光し、これにより電子的な画像情報として得られた被写体像を電子的に記録可能な電子カメラであって、
    前記撮像手段により得られた複数画素の画像データを画像処理する画像処理手段と、
    前記画像データに対して画素数を変更する際に画素補間をするときの補間位置を算出する補間位置算出部と、前記画像データのn点とn+1点との間を予め等分割し、この等分割した各位置に対応するように予め設けられた補間係数を記憶する補間係数記憶部と、前記補間位置算出部での算出によって前記予め等分割した位置とは異なる位置に得られた補間位置を、前記予め等分割された位置のうち前記算出された画素補間位置に最も近い分割位置に更に修正する補間位置修正部と、前記修正された補間位置及びこの補間位置に対応するように予め設けられた補間係数とにより前記画像データの補間演算を行う補間演算部とを有し、該補間演算部により少なくとも3次以上の高次多項式の近似式による補間処理を行う補間処理手段と、
    前記補間処理手段により補間処理をされた画像データを圧縮処理する画像圧縮処理手段と、
    を具備することを特徴とする電子カメラ。
  2. 前記画像処理手段は、前記撮像手段に設けられた撮像素子から出力された色毎のデータを擬似的に3板化する処理を行うことを特徴とする請求項1に記載の電子カメラ。
  3. 前記画像処理手段は、前記撮像手段により得られた画像データから変換された色相データのサンプリングレートを変換する処理を行うことを特徴とする請求項1に記載の電子カメラ。
JP23706099A 1999-08-24 1999-08-24 電子カメラ Expired - Lifetime JP3717720B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP23706099A JP3717720B2 (ja) 1999-08-24 1999-08-24 電子カメラ
US09/643,800 US6906748B1 (en) 1999-08-24 2000-08-22 Electronic camera

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP23706099A JP3717720B2 (ja) 1999-08-24 1999-08-24 電子カメラ

Publications (2)

Publication Number Publication Date
JP2001061099A JP2001061099A (ja) 2001-03-06
JP3717720B2 true JP3717720B2 (ja) 2005-11-16

Family

ID=17009833

Family Applications (1)

Application Number Title Priority Date Filing Date
JP23706099A Expired - Lifetime JP3717720B2 (ja) 1999-08-24 1999-08-24 電子カメラ

Country Status (1)

Country Link
JP (1) JP3717720B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4802944B2 (ja) * 2006-08-31 2011-10-26 大日本印刷株式会社 補間演算装置

Also Published As

Publication number Publication date
JP2001061099A (ja) 2001-03-06

Similar Documents

Publication Publication Date Title
JP3429061B2 (ja) 電子スチルカメラ
EP2191639B1 (en) Correcting imaging device motion during an exposure
US6366318B1 (en) CFA correction for CFA images captured at partial resolution
JPH0759098A (ja) 輝度階調を用いたフルカラーイメージ適応的補間装置
US6809765B1 (en) Demosaicing for digital imaging device using perceptually uniform color space
US20100295977A1 (en) Image processor and recording medium
JP4372686B2 (ja) 撮像システム
US7728881B2 (en) Color signal correcting method, apparatus, and program
JP2000244823A (ja) 撮像素子の欠陥画素補正装置
US6906748B1 (en) Electronic camera
JPH11168745A (ja) デジタルカメラ
JP3717720B2 (ja) 電子カメラ
JP2004242125A (ja) 画像処理装置
JP3706030B2 (ja) 撮像装置
JP3975033B2 (ja) 電子カメラ
JP4244218B2 (ja) 撮像信号処理回路およびカメラシステム
JP3951993B2 (ja) 撮像装置及びこの撮像装置に用いられるカラーデータ計測方法
JP2005277618A (ja) 撮像装置、シェーディング補正装置、及びシェーディング補正方法
JP2006262382A (ja) 画像処理装置
JP4339671B2 (ja) 撮像装置
JPH0969971A (ja) 電子カメラ
US20100253795A1 (en) Image processing device
JP3368012B2 (ja) 画像データ処理装置
JP3615092B2 (ja) 電子カメラ
JPH1023448A (ja) カラー画像処理装置

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20040824

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041025

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20041207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20050823

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20050831

R151 Written notification of patent or utility model registration

Ref document number: 3717720

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080909

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090909

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090909

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100909

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110909

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120909

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130909

Year of fee payment: 8

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term