JP4306438B2 - 撮像装置 - Google Patents

撮像装置 Download PDF

Info

Publication number
JP4306438B2
JP4306438B2 JP2003414868A JP2003414868A JP4306438B2 JP 4306438 B2 JP4306438 B2 JP 4306438B2 JP 2003414868 A JP2003414868 A JP 2003414868A JP 2003414868 A JP2003414868 A JP 2003414868A JP 4306438 B2 JP4306438 B2 JP 4306438B2
Authority
JP
Japan
Prior art keywords
blur
unit
image
optical system
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP2003414868A
Other languages
English (en)
Other versions
JP2005176050A (ja
Inventor
豪 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nikon Corp
Original Assignee
Nikon Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nikon Corp filed Critical Nikon Corp
Priority to JP2003414868A priority Critical patent/JP4306438B2/ja
Publication of JP2005176050A publication Critical patent/JP2005176050A/ja
Application granted granted Critical
Publication of JP4306438B2 publication Critical patent/JP4306438B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Images

Landscapes

  • Studio Devices (AREA)
  • Adjustment Of Camera Lenses (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、ブレ補正機能を備えた撮像装置に関する。
従来より、撮影光学系における光軸のブレを補正するブレ補正装置や、そのようなブレ補正装置を備えた撮像装置などが知られている。これらの装置には、撮影光学系の一部と撮像素子(またはフィルム)との何れかを物理的に移動させることによりブレを補正するものがある。また、露光時間を分割して繰り返し撮像を行い、生成した分割数の画像を合成することでブレを補正するものがある(例えば、特許文献1参照)。
特許第3424666号公報
しかし、前述した撮影光学系の一部と撮像素子(またはフィルム)との何れかを物理的に移動させることによりブレを補正する装置では、物理的な移動量を決めるブレ検出センサに誤差が発生すると、正常にブレ補正が行えない場合があった。
また、前述した露光時間を分割して繰り返し撮像を行い、生成した分割数の画像を合成することでブレを補正する装置では、合成の対象となるそれぞれの画像にブレが発生している場合、合成によりこれを補正することはできず、また、合成によりブレを悪化させてしまうこともある。
本発明は、高精度にブレ補正を行うことができる撮像装置を提供することを目的とする。
請求項1に記載の撮像装置は、撮像素子と、被写体像を前記撮像素子面に結像させる撮影光学系と、前記撮影光学系における光軸のブレを検出するブレ検出部と、前記ブレ検出部による検出結果に基づいて、前記撮像素子と前記撮影光学系の一部との何れかを移動させて前記ブレを補正するブレ補正部と、前記ブレ補正部を用いて前記ブレを補正しながら全露光時間を所定の分割数で分割して繰り返し撮像を行い、前記ブレ補正部により前記ブレが補正された前記分割数の画像を生成する撮像部と、前記ブレ補正部により前記ブレが補正された前記分割数の画像を合成することにより前記ブレ補正部により補正されずに残ったブレを補正する合成部とを備えたことを特徴とする。
請求項2に記載の撮像装置は、請求項1に記載の撮像装置において、前記ブレ補正部は、前記分割数で分割された撮像と撮像との間の時間に、前記撮像素子が前記ブレ補正部による補正が行われる前に位置していた初期位置に前記撮像素子を移動させるか、または、前記撮影光学系の一部が前記ブレ補正部による補正が行われる前に位置していた初期位置に前記撮影光学系の一部を移動させることを特徴とする。
請求項3に記載の撮像装置は、請求項1又は請求項2に記載の撮像装置において、前記分割数の画像の経時変化をもとに得られる前記ブレを示す情報と、前記ブレ検出部から得られる前記ブレを示す情報とを比較し、比較結果に基づいて前記分割数の画像の全てを合成するか否かを判定する判定部をさらに備え、前記合成部は、前記判定部による判定結果に基づいて、画像の合成を行うことを特徴とする。
請求項4に記載の撮像装置は、請求項1から請求項3までの何れか1項に記載の撮像装置において、前記ブレ補正部は、前記ブレの補正中に、前記ブレ検出部による検出結果に基づいて前記撮像素子と前記撮影光学系の一部との何れかの移動量を求め、前記移動量が、前記撮像素子と前記撮影光学系の一部との何れかを移動させる限界量に近づくと、前記撮像素子と前記撮影光学系の一部との何れかを移動させる量を、前記移動量よりも低減することを特徴とする。
本発明によれば、高精度にブレ補正を行うことができる撮像装置を提供することができる。
以下、図面を用いて本発明を実施するための最良の形態について説明する。本実施形態では、本発明の撮像装置の一例として、電子カメラを用いて説明する。
本実施形態の電子カメラ100は、図1に示すように、撮影レンズ1、CCD2、絞りシャッタユニット3、絞りシャッタユニット3を駆動する絞りシャッタユニット駆動回路4、絞りシャッタユニット駆動回路4を制御する絞りシャッタユニット制御回路5、CCD2を駆動するCCD駆動回路6、画像処理部7、メモリ8、画像を一時記録する画像メモリ9、カメラ制御部10を備える。また電子カメラ100は、不図示の結像光学系を備え、この結像光学系と撮影レンズ1を合わせて、撮影光学系と称する。この撮影光学系は、被写体像をCCD2の撮像素子面に結像させる。
また、電子カメラ100は、LCD11、LCD11を制御するLCD制御部12、およびレリーズボタンなどを含む不図示の操作部を備える。そして、カメラ制御部10は、絞りシャッタユニット制御回路5および画像処理部7と接続される。
さらに、電子カメラ100は、撮影レンズ1の位置を検出する位置センサ13、撮影レンズ1を撮影レンズ1の光軸と垂直な面内で移動させるアクチュエータ14、アクチュエータ14を制御するアクチュエータ制御回路15、電子カメラ100の撮影光学系における光軸のブレを検出するジャイロ16、アクチュエータ制御回路15を制御する光学的ブレ補正制御部17を備える。位置センサ13およびジャイロ16による検出結果は、光学的ブレ補正制御部17に検知される。さらに、光学的ブレ補正制御部17は、カメラ制御部10と接続される。
なお、前述したように、撮影レンズ1は、アクチュエータ14によって、撮影レンズ1の光軸と垂直な面内で移動可能である。ただし、以下では、説明を簡単にするため、撮影レンズ1の光軸と垂直な面内における鉛直方向についてのみ説明する。水平方向についても同様の動作が行われる。
以上説明した構成の電子カメラ100において、撮影モードが実行されると、カメラ制御部10は、撮影レンズ1および絞りシャッタユニット3を介した被写体像をCCD2により撮像し、撮像により得られた画像に対して画像処理部7を介して所定の画像処理を行い、LCD制御部12を介してLCD11に表示すると共に、メモリ8に記録する。
次に、電子カメラ100が行う光学的ブレ補正について説明する。
光学的ブレ補正制御部17は、ジャイロ16により検出される電子カメラ100の撮影光学系における光軸のブレに基づいて、撮影レンズ1を移動させる目標位置を求める。そして、光学的ブレ補正制御部17は、位置センサ13により検出される撮影レンズ1の位置を求め、目標位置との差から移動量(請求項の「検出結果」に対応する)を求める。そして、光学的ブレ補正制御部17は、求めた移動量を、アクチュエータ制御回路15に与える。アクチュエータ制御回路15はこの移動量にしたがって、アクチュエータ14を制御し、撮影レンズ1を移動させてブレを補正する。
なお、CCD2は、請求項の「撮像素子」に対応し、撮影レンズ1は、請求項の「撮影光学系」に対応し、ジャイロ16、光学的ブレ補正制御部17は、請求項の「ブレ検出部」に対応する。また、位置センサ13、アクチュエータ14、アクチュエータ制御回路15、光学的ブレ補正制御部17は、請求項の「ブレ補正部」に対応する。また、絞りシャッタユニット3、絞りシャッタユニット駆動回路4、絞りシャッタユニット制御回路5、CCD2、CCD駆動回路6、画像処理部7、カメラ制御部10は、請求項の「撮像部」に対応し、画像処理部7、画像メモリ9、カメラ制御部10は、請求項の「合成部」に対応する。
以下、本実施形態の特徴である撮影時の動作について、図2のフローチャートおよび図3のタイミングチャートを用いて説明する。なお、本実施形態では、後述するように、露光時間を分割する。このときの分割数は、予め、4と定められているものとして説明する。
ユーザにより撮影モードの実行が指示されると、カメラ制御部10は、レリーズボタンが半押しされたか否かを判定する(ステップS1)。
レリーズボタンが半押しされると、光学的ブレ補正制御部17は、各部を介して光学的ブレ補正を開始する(ステップS2)。
そして、カメラ制御部10は、レリーズボタンが全押しされたか否かを判定する(ステップS3)。レリーズボタンが全押しされると、カメラ制御部10は、撮影条件を設定し(ステップS4)、カメラ制御部10内の不図示のカウンタをn=1とする(ステップS5)。
カメラ制御部10は、撮影レンズ1を介してCCD2に入射する光量に基づき、適切なシャッタ速度および絞り値を撮影条件として設定する。さらに、カメラ制御部10は、設定したシャッタ速度をもとに、露光時間を求め、その露光時間を4で割って、1回の露光時間として設定する。
次に、光学的ブレ補正制御部17は、アクチュエータ制御回路15を介して、アクチュエータ14を駆動し、撮影レンズ1をセンタリングする(ステップS6)。撮影レンズ1は、撮影レンズ1の光軸と、撮影光学系の光軸とが一致する位置が初期位置であるため、撮影レンズ1をセンタリングすることは、撮影レンズ1を初期位置に移動することと同意である。
次に、カメラ制御部10は、各部を介して、n回目の撮像を行い(ステップS7)、生成した画像を画像メモリ9に転送して記録する(ステップS8)。
そして、カメラ制御部10は、カメラ制御部10内の不図示のカウンタがn=4であるか否かを判定する(ステップS9)。n=4でない場合、カメラ制御部10は、カメラ制御部10内の不図示のカウンタをn=n+1とし(ステップS10)ステップS6に戻る。そして、n=4となるまで、ステップS6からステップS9の動作を繰り返す。
すなわち、図3に示すように、光学的ブレ補正制御部17は、撮影レンズ1を移動させてブレ補正を行い、カメラ制御部10は、光学的ブレ補正中に、全露光時間を所定の分割数(ここでは4)で分割して、4回繰り返し撮像を行い、分割数(ここでは4)の画像を生成する。そして、光学的ブレ補正制御部17は、撮像が終わるたびに(撮像を行うタイミングに同期して)、撮影レンズ1をセンタリングする。このような撮影レンズ1のセンタリングは、画像を画像メモリ9に転送している間に行われる。
そして、n=4となると(4回の撮像が終了すると)、カメラ制御部10は、画像メモリ9から分割数の画像を読み出し、画像処理部7を介してそれらの画像を合成する(ステップS11)。画像処理部7は、画像をもとに得られる動きベクトルや画像に含まれるエッジなどを参照して位置合わせを行い、画像を合成する。そして、ホワイトバランス調整などの所定の画像処理を施す。
そして、カメラ制御部10は、合成した画像をメモリ8に記録して(ステップS12)、一連の処理を終了する。
以上説明したように、本実施形態によれば、撮影光学系における光軸のブレを検出し、検出結果に基づいて、撮影光学系の一部である撮影レンズ1を移動させてブレを補正するとともに、ブレの補正中に、全露光時間を所定の分割数で分割して繰り返し撮像を行い、分割数の画像を生成して、それらを合成する。
そのため、合成の対象となるそれぞれの画像に発生するブレを低減することができる。したがって、このようなブレの少ない画像を合成することにより、高精度にブレ補正を行うことができる。
また、本実施形態によれば、繰り返し撮像を行うタイミングに同期して、撮影光学系の一部である撮影レンズ1をセンタリングする(初期位置に移動させる)。
したがって、ジャイロ16にドリフトが発生する場合でも、光学的ブレ補正中に、撮影レンズ1が機械的な移動の限界に達してしまうのを防ぐことができる。また、露光時間が長い場合にも、同様に、撮影レンズ1が機械的な移動の限界に達してしまうのを防ぐことができる。このように、繰り返し撮像を行うタイミングに同期して、撮影光学系の一部である撮影レンズ1を初期位置に移動させることができるのは、露光時間を分割して、繰り返し撮像を行うためである。なお、センタリングにより撮影レンズ1を初期位置に移動させることが好ましい。しかし、必ずしも初期位置まで移動させなくても、撮影レンズ1を初期位置に近づくよう移動させれば上記効果を得られることは言うまでもない。
1回の撮像が終了してから、画像を転送している間の時間を有効に利用して、撮影光学系の一部である撮影レンズ1を初期位置に移動させることにより、ジャイロ16にドリフトが発生していても、露光時間が長くても、精度良く光学的ブレ補正を行うことができる。したがって、合成の対象となるそれぞれの画像の画質を向上させることができる。
なお、本実施形態では、光学的ブレ補正の際に、撮影レンズ1を移動させてブレの補正を行う例を示したが、撮像素子であるCCD2を移動させてブレの補正を行うようにしても良い。また、撮影レンズ1とCCD2との間に可変頂角プリズムを設け、ジャイロ16により検出されるブレに応じて、プリズムの入射光に対する出射角を変化させてブレの補正を行うVAP(Vari−Angle Prism)方式でブレの補正を行うようにしても良い。この場合、プリズムは、請求項の「撮影光学系の一部」に対応する。
また、本実施形態では、光学的ブレ補正中に撮影レンズ1が機械的な移動の限界に達してしまうのを防ぐために、撮影レンズ1をセンタリングする例を示したが、センタリングを行う代わりに、撮影レンズ1の移動量を低減するセンタバイアスを行うようにしても良い。具体的には、撮影レンズ1が機械的な移動の限界に近づくと、移動量を低減するようにしても良い。
このように、ブレの補正中に、ジャイロ16による検出結果に基づいて撮影光学系の一部である撮影レンズ1の移動量を求め、移動量が撮影光学系の一部である撮影レンズ1を移動させる限界量に近づくと、撮影光学系の一部である撮影レンズ1を移動させる量を低減することにより、撮影レンズ1のセンタリングを行わなくても、光学的ブレ補正中に撮影レンズ1が機械的な移動の限界に達してしまうのを防ぐことができる。このようなセンタバイアスは、画像を転送する時間が短い場合などに有効である。
また、本実施形態では、露光時間を4分割して、4回の撮像を繰り返す例を示したが、分割数は4でなくても良い。分割数をユーザに指定させるようにしても良いし、露光時間などに応じて決めるようにしても良い。例えば、露光時間が長ければ分割数を多くし、露光時間が短い場合には分割数を少なくすると良い。
また、本実施形態において、画像を合成する(図2ステップS11参照)際に、分割数の画像の経時変化をもとに得られるブレを示す情報と、ジャイロ16から得られるブレを示す情報とを比較し、比較結果に基づいて分割数の画像の全てを合成するか否かを判定し、判定結果に基づいて、画像の合成を行うようにしても良い。例えば、画像メモリ9から読み出した分割数の画像の径時変化を見ることによりブレを求め、ジャイロ16により検出されたブレよりも画像から得られるブレの方が顕著な場合には、その画像を異常画像として合成の対象から除くようにしても良い。
また、ジャイロ16により検出されたブレが所定値よりも大きい場合には、ユーザが意図的に電子カメラ100を動かしていわゆる流し撮りを行っていると判断し、光学的手ぶれ補正を中止するとともに、露光時間を分割せずに、通常の露光を行うようにするのが好ましい。
また、本実施形態では、撮像装置の一例として電子カメラ100を用いて説明を行ったが、ビデオなどの撮像装置に本発明を応用しても良い。
本実施形態の電子カメラ100の構成を示すブロック図である。 本実施形態の電子カメラ100の動作を示すフローチャートである。 本実施形態における各処理のタイミングを説明するタイミングチャートである。
符号の説明
1 撮影レンズ
2 CCD
3 絞りシャッタユニット
4 絞りシャッタユニット駆動回路
5 絞りシャッタユニット制御回路
6 CCD駆動回路
7 画像処理部
8 メモリ
9 画像メモリ
10 カメラ制御部
11 LCD
12 LCD制御部
13 位置センサ
14 アクチュエータ
15 アクチュエータ制御回路
16 ジャイロ
17 光学的ブレ補正制御部
100 電子カメラ

Claims (4)

  1. 撮像素子と、
    被写体像を前記撮像素子面に結像させる撮影光学系と、
    前記撮影光学系における光軸のブレを検出するブレ検出部と、
    前記ブレ検出部による検出結果に基づいて、前記撮像素子と前記撮影光学系の一部との何れかを移動させて前記ブレを補正するブレ補正部と、
    前記ブレ補正部を用いて前記ブレを補正しながら全露光時間を所定の分割数で分割して繰り返し撮像を行い、前記ブレ補正部により前記ブレが補正された前記分割数の画像を生成する撮像部と、
    前記ブレ補正部により前記ブレが補正された前記分割数の画像を合成することにより前記ブレ補正部により補正されずに残ったブレを補正する合成部と
    を備えたことを特徴とする撮像装置。
  2. 請求項1に記載の撮像装置において、
    前記ブレ補正部は、前記分割数で分割された撮像と撮像との間の時間に、前記撮像素子が前記ブレ補正部による補正が行われる前に位置していた初期位置に、前記撮像素子を移動させるか、または、前記撮影光学系の一部が前記ブレ補正部による補正が行われる前に位置していた初期位置に、前記撮影光学系の一部を移動させる
    ことを特徴とする撮像装置。
  3. 請求項1又は請求項2に記載の撮像装置において、
    前記分割数の画像の経時変化をもとに得られる前記ブレを示す情報と、前記ブレ検出部から得られる前記ブレを示す情報とを比較し、比較結果に基づいて前記分割数の画像の全てを合成するか否かを判定する判定部備え、
    前記合成部は、前記判定部による判定結果に基づいて、画像の合成を行う
    ことを特徴とする撮像装置。
  4. 請求項1から請求項3までの何れか1項に記載の撮像装置において、
    前記ブレ補正部は、前記ブレの補正中に、前記ブレ検出部による検出結果に基づいて前記撮像素子と前記撮影光学系の一部との何れかの移動量を求め、前記移動量が、前記撮像素子と前記撮影光学系の一部との何れかを移動させる限界量に近づくと、前記撮像素子と前記撮影光学系の一部との何れかを移動させる量を、前記移動量よりも低減する
    ことを特徴とする撮像装置。
JP2003414868A 2003-12-12 2003-12-12 撮像装置 Expired - Lifetime JP4306438B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2003414868A JP4306438B2 (ja) 2003-12-12 2003-12-12 撮像装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2003414868A JP4306438B2 (ja) 2003-12-12 2003-12-12 撮像装置

Publications (2)

Publication Number Publication Date
JP2005176050A JP2005176050A (ja) 2005-06-30
JP4306438B2 true JP4306438B2 (ja) 2009-08-05

Family

ID=34734542

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2003414868A Expired - Lifetime JP4306438B2 (ja) 2003-12-12 2003-12-12 撮像装置

Country Status (1)

Country Link
JP (1) JP4306438B2 (ja)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4777087B2 (ja) * 2005-03-03 2011-09-21 富士フイルム株式会社 撮像装置、撮像方法、および撮像プログラム、並びに画像記録出力システム、画像記録出力方法
JP4867554B2 (ja) * 2006-09-29 2012-02-01 カシオ計算機株式会社 電子カメラ、撮像制御プログラム及び撮像制御方法
JP4697461B2 (ja) * 2006-11-01 2011-06-08 富士フイルム株式会社 撮像装置
JP2008236661A (ja) * 2007-03-23 2008-10-02 Olympus Corp 撮像装置及び暗電流成分キャンセル処理方法
JP5065060B2 (ja) * 2008-01-16 2012-10-31 キヤノン株式会社 撮像装置及びその制御方法
JP2011039295A (ja) * 2009-08-11 2011-02-24 Nikon Corp ブレ補正装置及び光学機器
JP5480798B2 (ja) 2010-01-05 2014-04-23 パナソニック株式会社 撮像装置
JP6495126B2 (ja) * 2015-07-13 2019-04-03 オリンパス株式会社 撮像装置、画像処理方法
JP2021077935A (ja) * 2019-11-05 2021-05-20 エスゼット ディージェイアイ テクノロジー カンパニー リミテッドSz Dji Technology Co.,Ltd 制御装置、撮像装置、制御方法、及びプログラム

Also Published As

Publication number Publication date
JP2005176050A (ja) 2005-06-30

Similar Documents

Publication Publication Date Title
JP4522207B2 (ja) カメラシステム、カメラ本体及び交換レンズ
JP6486656B2 (ja) 撮像装置
US7693405B2 (en) Image pickup device, method of controlling image pickup device, and recording medium
JP2010273038A (ja) 撮像装置
US20160366340A1 (en) Photographing apparatus, photographing controller, photographing control method, and photographing control program
US9871964B2 (en) Photographing apparatus, photographing controller, photographing control method, and photographing control program
JP6806467B2 (ja) 画像処理装置及び方法、撮像装置、及び撮像システム
JP4900939B2 (ja) 撮像装置の制御方法
JP2016167801A (ja) 撮像装置、撮像方法及び撮像プログラム
JP6642971B2 (ja) 像ブレ補正装置、光学機器、撮像装置および制御方法
JP4306438B2 (ja) 撮像装置
JP6040422B2 (ja) 撮像装置
JP4876550B2 (ja) 撮像装置、制御方法および制御プログラム
JP5393877B2 (ja) 撮像装置および集積回路
US20060187335A1 (en) Image pickup apparatus
US11330179B2 (en) Imaging device and control method thereof
KR100498042B1 (ko) 안정된 영상을 획득할 수 있는 영상획득시스템 및 그안정화 방법
JP5407547B2 (ja) 撮像装置
JP6739357B2 (ja) 撮像装置および焦点調節方法
JP2009267894A (ja) 手振れ検出装置、撮像装置、及び、プログラム
JP6477275B2 (ja) 撮像装置
JP2010187207A (ja) 画像合成装置、画像合成プログラム、および画像合成方法
JP2019095630A (ja) 像振れ補正装置を有する光学機器
JP2019109270A (ja) 撮像装置
JP7451152B2 (ja) 撮像装置、制御方法及びコンピュータプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20061127

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20081226

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20090107

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090309

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090414

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090427

R150 Certificate of patent or registration of utility model

Ref document number: 4306438

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120515

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150515

Year of fee payment: 6

S531 Written request for registration of change of domicile

Free format text: JAPANESE INTERMEDIATE CODE: R313531

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150515

Year of fee payment: 6

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150515

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term