JP2010230523A - 位相接続方法及びその装置 - Google Patents

位相接続方法及びその装置 Download PDF

Info

Publication number
JP2010230523A
JP2010230523A JP2009078874A JP2009078874A JP2010230523A JP 2010230523 A JP2010230523 A JP 2010230523A JP 2009078874 A JP2009078874 A JP 2009078874A JP 2009078874 A JP2009078874 A JP 2009078874A JP 2010230523 A JP2010230523 A JP 2010230523A
Authority
JP
Japan
Prior art keywords
wave pattern
sine wave
phase
measurement
phase connection
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2009078874A
Other languages
English (en)
Inventor
Tomohito Masuda
智仁 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toppan Inc
Original Assignee
Toppan Printing Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toppan Printing Co Ltd filed Critical Toppan Printing Co Ltd
Priority to JP2009078874A priority Critical patent/JP2010230523A/ja
Publication of JP2010230523A publication Critical patent/JP2010230523A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】正弦波パターン光を計測対象物に照射して得られる画像を観察することによりその表面形状を計測する三次元計測システムにおいて、正確な位相接続を行う。
【解決手段】計測用正弦波パターン光Aの初期期位相を複数回変化させることより観察手段で得られる観察画像群から計測用位相値データを算出し、かつ位相接続参照用正弦波パターン光Bの初期位相を複数回変化させることより観察手段で得られる観察画像群から位相接続参照用位相値データを算出する位相値データ算出手段と、計測用正弦波パターン光Aの一周期に相当するピクセル幅と位相接続参照用正弦波パターン光Bの一周期に相当するピクセル幅との最小公倍数が、計測対象物1の投影面の有効画素数以上になるように位相接続参照用正弦波パターン光Aの周期を決定する位相接続参照用正弦波パターン周期決定手段と備える構成にした。
【選択図】図1

Description

本発明は、位相シフト法により対象物を三次元計測するための位相接続方法及びその装置に関するものである。
正弦波格子位相シフト法による三次元計測システムとは、正弦波パターンの対象物への投影手段(プロジェクタ)と対象物上のパターンの観察手段(カメラやビデオ)からなる、対象物の表面形状を計測するシステムである。
投影手段と観察手段の間の相対的な位置姿勢が既知(幾何学的キャリブレーション済み)であり、投影手段のどの方向から対象物表面上の各点に光が投影されるか、また、観察手段のどの方向からそれらの反射光が観察されるかが分かれば、三角測量法の原理に基づき対象物の表面形状が求まる。
以下では、対象物表面上を各点において投影手段のどの方向から光が投影されているか、つまり、投影手段平面上のどのピクセルが物体表面を照射しているかを求める方法について示す。
投影手段からは図3の(1)式で表される平行縞が照射される。
ここで、L(x,y)は投影手段の最小入力輝度、L(x,y)は最大入力輝度と最小入力輝度のオフセット、I(x,y)は投影手段平面上の(x,y)上における入力輝度である。Φ(x,y)は投影手段平面上の画素位置に対応する位相であり、投影手段平面上のy軸に平行な正弦波パターンであれば、図3の(2)式で表わされる。
但し、xは正弦波パターンの1周期に相当するピクセル幅)と表される。δは初期位相であり、この値を変化させることにより正弦波パターンがシフトする。
初期位相δで投影された各ピクセルの輝度値I(x,y)が対象物表面で観察手段により観察されると、式(1)上での未知数はΦ(x,y)、L(x,y)、L(x,y)となり、異なる初期位相でI(x,y)を複数回(理論上三回以上)観察することで連立方程式をたてることができ、これらの未知数を計算することが可能となる。初期位相を離散的に変化させた場合は、図3の(1)式より以下に示す図3の(3)式及び図3の(4)式の関係が得られる。
図3の(3)式及び図3の(4)式共に左辺は既知の値であり、この2つの式より、図3の(5)式が得られる。
この図3の(5)式を再び図3の(3)式、図3の(4)式に代入することによりΦ(x,y)が0から2πの範囲で得られる。これが計測用位相値データである。
但し、もともとΦ(x,y)は図3の(2)式で表される位相である。一方、観察手段上で得られたΦ(x,y)は0から2πに畳み込まれた不連続な位相になっているので、2πの周期の曖昧性を解決する必要がある。これを解決する方法を位相接続法と呼ぶ。
ところで、特許文献1,2では、計測用位相値データのみを用い、隣接画素間の位相が滑らかに変化すると仮定し、2πに畳み込まれる不連続な境界(2π=0)が発生する箇所について位相接続の可能性を判断している。しかし、この仮定は対象物の表面が不連続面を含まないという仮定と同義であるので、複雑な形状をもつ対象物表面の三次元形状を求めることは不可能である。
また、特許文献4では振幅値L(x,y)で画像をマスキングして領域分割することで、位相接続の可能性判定を行っている。これは、奥行きが異なれば振幅値も異なるという仮定に基づくが、この仮定は実世界では厳密には正しい仮定とは言えないため、あらゆる対象物に適用可能とは言えない。
また、特許文献5では、有効画素の全領域で基準平面に投影されるパターンの位相を求め、その後計測物体上のパターンの位相との差を高さ情報に変換する方法が実現されているが、基準平面となるものが必要な上、基準平面上と計測物体上のパターンの位相差が2π以上になるような勾配をもつ物体表面の三次元形状を求めることはできない。
一方、計測用正弦波パターン光とは周期の異なる一種類以上の位相接続参照用正弦波パターン光を用い、計測用正弦波パターン光と同様に初期位相を変化させて位相接続参照用位相データを算出し、これを基に計測用位相データの位相接続を行う方法がある。特許文献3や非特許文献1では計測用正弦波パターン光における輝度振幅に対して、位相接続参照用正弦波パターンの周期に関する必要条件を開示している。
特許第3178436号公報 特開2008−082869号公報 特開2006−003212号公報 特開2006−079275号公報 特開2006−084286号公報
「位相シフト法を用いた高速な3次元計測手法の提案」、電子情報通信学会技術研究報告、PRMUパターン認識・メディア理解、vol. 99、No. 515、pp. 43-50、1999
上述の特許文献3や非特許文献1では、計測用正弦波パターン光の輝度振幅における分解能を加味し、位相接続参照用正弦波パターンの周期に関する必要条件を示している。
そこで、本発明では、上記の必要条件の中でさらに、一種類の位相接続参照用正弦波パターンのみで位相接続が可能な周期を算出し、かつ複数の算出値における理論上の位相接続誤差を評価してその誤差を最小化する周期を探索する。
これにより、本発明は、位相接続時に参照する位相接続参照用正弦波パターンを一種類のみ使うことにより効率性が向上し、位相接続計算を高精度に行うことができる位相接続方法及びその装置を提供することを目的とする。
上記の目的を達成するために請求項1の発明は、計測用正弦波パターン光を計測対象物に投影し、前記計測用正弦波パターン光の初期位相値を複数回変化させて前記計測対象物上で相対的にシフトさせることにより観察される観察画像群から計測用位相値データを算出し、前記計測用正弦波パターン光と周期の異なる位相接続参照用正弦波パターン光を前記計測対象物に投影し、前記位相接続参照用正弦波パターン光の初期位相を複数回変化させて前記計測対象物上で相対的にシフトさせることにより観察される観測画像群から位相接続参照用位相値データを算出し、前記計測用位相値データと前記位相接続参照用位相値データを用いて位相接続する方法であって、前記計測用正弦波パターン光の一周期に相当するピクセル幅と前記位相接続参照用正弦波パターン光の一周期に相当するピクセル幅との最小公倍数が、前記計測対象物の投影面の有効画素数以上になるように前記位相接続参照用正弦波パターン光の周期を決定することを特徴とする。
請求項2の発明は、請求項1記載の位相接続法において、算出された前記計測用位相値データ中で同じ位相を示す各々の箇所において、前記位相接続参照用正弦波パターンにおける位相値の任意二つの値の差の絶対値のうちの最小の値が、前記位相接続参照用正弦波パターンの周期を変化させることより最大となる周期を決定することを特徴とする。
請求項3の発明は、位相接続装置であって、計測用正弦波パターン光及び前記計測用正弦波パターン光と周期の異なる位相接続参照用正弦波パターン光を計測対象物に投影する投影手段と、前記計測対象物に投影された前記計測用正弦波パターン光及び前記計測用正弦波パターン光を観察する観察手段と、前記計測用正弦波パターン光の初期位相値を複数回変化させることより前記観察手段で得られる観察画像群から計測用位相値データを算出し、かつ前記位相接続参照用正弦波パターン光の初期位相を複数回変化させることより前記観察手段で得られる観察画像群から位相接続参照用位相値データを算出する位相値データ算出手段と、前記計測用正弦波パターン光の一周期に相当するピクセル幅と前記位相接続参照用正弦波パターン光の一周期に相当するピクセル幅との最小公倍数が、前記計測対象物の投影面の有効画素数以上になるように前記位相接続参照用正弦波パターン光の周期を決定する位相接続参照用正弦波パターン周期決定手段とを備えることを特徴とする。
請求項4の発明は、請求項3記載の位相接続装置において、前記位相接続参照用正弦波パターン周期決定手段は、算出された前記計測用位相値データ中で同じ位相を示す各々の箇所において、前記位相接続参照用正弦波パターンにおける位相値の任意二つの値の差の絶対値のうちの最小の値が、前記位相接続参照用正弦波パターンの周期を変化させることより最大となる周期を決定することを特徴とする。
本発明の位相接続法及び移送接続装置によれば、位相接続時に参照する位相接続参照用正弦波パターンを一種類のみ使うことにより効率性が向上し、また位相接続計算を高精度に行うことができる。
本発明の位相接続方法を用いた三次元形状計測装置の一例を示す構成図である。 本発明の位相接続方法により投影手段に入力する計測用と位相接続参照用の二つの正弦波パターン及び各々の正弦波パターンから位相値データと整数値データが算出される過程を示す図である。 従来及び本発明に使用される数式を示す図である。
(実施の形態1)
以下、本発明の実施の形態について、図1及び図2を参照して詳細に説明する。
三次元形状計測装置は、図1に示すように、計測対象物1の表面に対して上方から斜め下方に向けて配置された、観察光学系2及び観察記録装置3からなる観察手段20、観察記録装置3と逆に計測対象物1の表面に対して上方から斜め下方に向けて配置された、投影光学系4及び投影光源5からなる投影手段50、及び正弦波パターン観察部6、正弦波パターン入力部7、位相値データ算出部8、位相接続処理部9、三次元形状算出部10、位相接続参照用正弦波パターン周期決定部11、計測用正弦波パターン周期入力部12を含んで構成される。
このように構成された三次元形状計測装置において、正弦波パターン入力部7から入力された正弦波パターン信号により投影光源5を動作させ、その正弦波パターン光を投影光学系4を通して計測対象物1の表面に投影する。そして、計測対象物1の表面に投影された正弦波パターン光の画像を観察手段20の観察光学系2を通して観察記録装置3で記録し、正弦波パターン観察部6に出力する。正弦波パターン観察部6では、計測対象物1の表面に投影された正弦波パターンを観察し、その観察画像を正弦波パターン観察部6により位相値データ算出部8に送出する。また、この時、位相値データ算出部8は、投影された正弦波パターンの初期位相値を正弦波パターン入力部7から取得する。初期位相値を複数回変化させて得られた観察画像群から、位相値データ算出部8によって計測用位相値データを取得する。また、位相接続処理部9では、位相値データ算出部8で算出された位相値データと、後述する位相接続参照用正弦波パターン光を基に算出された位相値データとに基づいて位相接続処理を行い、その処理結果を三次元形状算出部10に出力し、三次元形状算出部10で計測対象物1の表面の三次元形状を算出する。
図2は、照射された正弦波パターン光と、それを観察することにより得られる位相値を図式化したものである。計測用位相値データの取得時には、計測用正弦波パターン周期入力部12によって入力される周期を持つ計測用正弦波パターン光を投影して位相値データを取得する。
計測用正弦波パターン周期入力部12により入力された周期の値は、位相接続参照用正弦波パターン周期決定部11に入力され、位相値の計算誤差に対して強靱な位相接続が可能な位相接続参照用正弦波パターンの周期を算出し決定する。
図2は二組の正弦波パターン、すなわち三次元計測用の正弦波パターン光Aと位相接続用の正弦波パターン光Bによって投影手段平面上の画素位置を特定する仕組みを表している。投影手段平面が縦方向に24ピクセル有しており、三次元計測用の正弦波パターン光Aと位相接続参照用正弦波パターン光Bはそれぞれ8ピクセル、6ピクセルを一周期としているとする。観測装置20は対象物体1の表面上でこれら各正弦波パターン光を観察し、それぞれの位相値データを算出する。求められた各々の位相値データをそれぞれ、1ピクセルに対応する周期で割った値の整数値データM(x,y)に変換する。
また、図2では、計測用正弦波パターン光Aと位相接続参照用正弦波パターン光Bにおける各々の1ピクセルに対応する周期は、π/4(=2π/8)とπ/3(=2π/6)である。これにより、投影手段平面上におけるピクセル番号0〜23の24ピクセルの画素位置は、これら二つの整数値の組で一意に特定できる。例えば、対象物1の表面上のある点で整数値(7、1)の組が得られた場合、これはピクセル番号7である8番目のピクセルから光を投影されていることが分かる。
一般的に計測用正弦波パターン光Aと位相接続参照用正弦波パターン光Bの一周期に相当するピクセル幅をそれぞれxf1、xf2とすると、観測装置の平面上における任意の画素上で二つの正弦波パターン光A,Bにより割り当てられる位相値の組は、xf1とxf2の最小公倍数lcm(xf1、xf2)のピクセル幅の整数倍の位置で再び割り当てられる。投影手段における平面上の有効画素がlcm(xf1、xf2)以下であれば、位相接続参照用正弦波パターン光はこの1種類のみで投影手段における平面上の有効画素を一意に表現できるが、有効画素数がlcm(xf1、xf2)より多いと、全ての有効画素を一意に表現できるまで、新たに上述の2つの正弦波パターン光とは異なる周期を持つ正弦波パターン光を複数用意する必要がある。投影する正弦波パターン光の数が増えると処理する観察画像も増大するので望ましくない。このため、位相接続参照用正弦波パターン光の周期は、入力された計測用正弦波パターン光の周期に対し、lcm(xf1、xf2)が投影手段における平面上の有効画素以上になるようにすれば、ただ1種類の位相接続参照用正弦波パターン光を用いるだけで位相接続が可能となる。
また、計測用と位相接続参照用の正弦波パターン光の1ピクセルに対応する位相をそれぞれθLf1、θLf2(図2中ではπ/4とπ/3)とし、各々の位相値データをθLf1、θLf2で割った整数値データMf1(x,y)、Mf2(x,y)のうち、Mf1(x,y)が等しい箇所におけるMf2(x,y)の整数値データを全て求める(図2中でMf1(x,y)=3である箇所のMf2(x,y)は{3、5、1})。
この数の任意のニ整数の差のうち最小の値をMf2minとすると、位相値の計算誤差がεの時、図3の(6)式を満たすことが正確な位相接続を保証する条件となる。この条件は、Mf1(x,y)の全ての値に対して同様に式(6)を満たすことが必要条件となる。
位相値の計算誤差に最も強靱な位相接続参照用正弦波パターンの周期は、lcm(xf1、xf2)が投影平面上の有効画素数より大きくなる周期の中で、Mf1(x,y)の全ての値に対して計算されるMf2minの最小値が最大になる周期を選択すればよい。Mf2minの最小値が最大を示す値を求める計算は、候補となる全ての周期に対して計算を行うことにより可能である。
一方、上述の方法で対象物表面状に投影される計測用と位相接続参照用の正弦波パターン光から各々の位相値データに変換され、この二つのデータにより位相接続処理部8で位相接続が行われる。投影手段50と観察手段20の相対的な位置姿勢が分かっていれば(図1中Bが既知であれば)、対象物表面状(図1中p)に光を投影している画素位置が分かり(図1中の方向ベクトルdが分かり)、かつ観察手段平面上のどの画素位置で観察されているかが分かる(図1中の方向ベクトルdが分かる)ので、三角測量法の原理に基づき対象物1表面状(図1中p)の三次元位置を三次元形状算出部10において算出することができる。
1……計測対象物、2……観察光学系、3……観察記録装置、4……投影光学系、5……投影光源、6……正弦波パターン観察部、7……正弦波パターン入力部、8……位相値データ算出部、9……位相接続処理部、10……三次元形状算出部、11……位相接続参照用正弦波パターン周期決定部、12……計測用正弦波パターン周期入力部、20……観察手段、50……投影手段。

Claims (4)

  1. 計測用正弦波パターン光を計測対象物に投影し、
    前記計測用正弦波パターン光の初期位相値を複数回変化させて前記計測対象物上で相対的にシフトさせることにより観察される観察画像群から計測用位相値データを算出し、
    前記計測用正弦波パターン光と周期の異なる位相接続参照用正弦波パターン光を前記計測対象物に投影し、
    前記位相接続参照用正弦波パターン光の初期位相を複数回変化させて前記計測対象物上で相対的にシフトさせることにより観察される観測画像群から位相接続参照用位相値データを算出し、
    前記計測用位相値データと前記位相接続参照用位相値データを用いて位相接続する方法であって、
    前記計測用正弦波パターン光の一周期に相当するピクセル幅と前記位相接続参照用正弦波パターン光の一周期に相当するピクセル幅との最小公倍数が、前記計測対象物の投影面の有効画素数以上になるように前記位相接続参照用正弦波パターン光の周期を決定する、
    ことを特徴とする位相接続方法。
  2. 算出された前記計測用位相値データ中で同じ位相を示す各々の箇所において、前記位相接続参照用正弦波パターンにおける位相値の任意二つの値の差の絶対値のうちの最小の値が、前記位相接続参照用正弦波パターンの周期を変化させることより最大となる周期を決定することを特徴とする請求項1記載の位相接続法。
  3. 計測用正弦波パターン光及び前記計測用正弦波パターン光と周期の異なる位相接続参照用正弦波パターン光を計測対象物に投影する投影手段と、
    前記計測対象物に投影された前記計測用正弦波パターン光及び前記計測用正弦波パターン光を観察する観察手段と、
    前記計測用正弦波パターン光の初期位相値を複数回変化させることより前記観察手段で得られる観察画像群から計測用位相値データを算出し、かつ前記位相接続参照用正弦波パターン光の初期位相を複数回変化させることより前記観察手段で得られる観察画像群から位相接続参照用位相値データを算出する位相値データ算出手段と、
    前記計測用正弦波パターン光の一周期に相当するピクセル幅と前記位相接続参照用正弦波パターン光の一周期に相当するピクセル幅との最小公倍数が、前記計測対象物の投影面の有効画素数以上になるように前記位相接続参照用正弦波パターン光の周期を決定する位相接続参照用正弦波パターン周期決定手段と、
    を備えることを特徴とする位相接続装置。
  4. 前記位相接続参照用正弦波パターン周期決定手段は、算出された前記計測用位相値データ中で同じ位相を示す各々の箇所において、前記位相接続参照用正弦波パターンにおける位相値の任意二つの値の差の絶対値のうちの最小の値が、前記位相接続参照用正弦波パターンの周期を変化させることより最大となる周期を決定することを特徴とする請求項3記載の位相接続装置。
JP2009078874A 2009-03-27 2009-03-27 位相接続方法及びその装置 Pending JP2010230523A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2009078874A JP2010230523A (ja) 2009-03-27 2009-03-27 位相接続方法及びその装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2009078874A JP2010230523A (ja) 2009-03-27 2009-03-27 位相接続方法及びその装置

Publications (1)

Publication Number Publication Date
JP2010230523A true JP2010230523A (ja) 2010-10-14

Family

ID=43046499

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2009078874A Pending JP2010230523A (ja) 2009-03-27 2009-03-27 位相接続方法及びその装置

Country Status (1)

Country Link
JP (1) JP2010230523A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10302422B2 (en) 2015-12-16 2019-05-28 Seiko Epson Corporation Measurement system, measurement method, robot control method, robot, robot system, and picking apparatus

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0666527A (ja) * 1992-08-20 1994-03-08 Sharp Corp 3次元計測方法
JP2001159510A (ja) * 1999-12-01 2001-06-12 Matsushita Electric Ind Co Ltd 三次元形状計測方法及びその装置
JP2006003212A (ja) * 2004-06-17 2006-01-05 Konica Minolta Sensing Inc 位相計測システム
JP2006322949A (ja) * 2006-07-24 2006-11-30 Wakayama Univ エイリアシングを利用した投影格子の位相解析方法
JP2008145209A (ja) * 2006-12-08 2008-06-26 Nec Engineering Ltd 三次元形状計測装置及び三次元形状計測方法

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0666527A (ja) * 1992-08-20 1994-03-08 Sharp Corp 3次元計測方法
JP2001159510A (ja) * 1999-12-01 2001-06-12 Matsushita Electric Ind Co Ltd 三次元形状計測方法及びその装置
JP2006003212A (ja) * 2004-06-17 2006-01-05 Konica Minolta Sensing Inc 位相計測システム
JP2006322949A (ja) * 2006-07-24 2006-11-30 Wakayama Univ エイリアシングを利用した投影格子の位相解析方法
JP2008145209A (ja) * 2006-12-08 2008-06-26 Nec Engineering Ltd 三次元形状計測装置及び三次元形状計測方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10302422B2 (en) 2015-12-16 2019-05-28 Seiko Epson Corporation Measurement system, measurement method, robot control method, robot, robot system, and picking apparatus

Similar Documents

Publication Publication Date Title
CN106548489B (zh) 一种深度图像与彩色图像的配准方法、三维图像采集装置
JP4290733B2 (ja) 3次元形状計測方法及びその装置
US9441959B2 (en) Calibration method and shape measuring apparatus
JP2011064482A (ja) 高速三次元計測装置及び高速三次元計測方法
JP2006105983A (ja) 物体の形状測定方法および装置
CN110692084B (zh) 用于导出场景的拓扑信息的装置和机器可读存储介质
JP2009019941A (ja) 形状測定方法
JP2009115612A (ja) 3次元形状計測装置及び3次元形状計測方法
JP5854544B1 (ja) 形状計測装置および形状計測方法
JP2017116420A (ja) データ処理装置およびその方法
JP4516949B2 (ja) 三次元形状計測装置及び三次元形状計測方法
JP6035031B2 (ja) 複数の格子を用いた三次元形状計測装置
JP2008145139A (ja) 形状計測装置
JP5746046B2 (ja) 特に歯科医療を目的とした物体表面の三次元測定方法
JP6420159B2 (ja) 形状計測装置および形状計測方法
JP4797109B2 (ja) 三次元形状計測装置及び三次元形状計測方法
JP2010175554A (ja) 三次元形状計測装置及び三次元形状計測方法
US10801834B2 (en) Fringe projection for determining topography of a body
JP2011047876A (ja) 3次元形状測定方法
JP2010230523A (ja) 位相接続方法及びその装置
KR20100041026A (ko) 컬러 투사 모아레 기법을 이용한 3차원 형상 측정 장치 및 방법
JP2010210571A (ja) 画像相関変位計、及び変位測定方法
JP2008170281A (ja) 形状測定装置及び形状測定方法
JP2008170282A (ja) 形状測定装置
Ishiyama et al. Precise 3-d measurement using uncalibrated pattern projection

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20120220

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20130228

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130326

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130517

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20130702