JP4348859B2 - 部品の円特徴の精密三次元位置姿勢検出装置 - Google Patents
部品の円特徴の精密三次元位置姿勢検出装置 Download PDFInfo
- Publication number
- JP4348859B2 JP4348859B2 JP2000384788A JP2000384788A JP4348859B2 JP 4348859 B2 JP4348859 B2 JP 4348859B2 JP 2000384788 A JP2000384788 A JP 2000384788A JP 2000384788 A JP2000384788 A JP 2000384788A JP 4348859 B2 JP4348859 B2 JP 4348859B2
- Authority
- JP
- Japan
- Prior art keywords
- circle
- feature
- arc
- point sequence
- dimensional position
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
Description
【発明の属する技術分野】
本発明は、部品の円特徴の精密三次元位置姿勢検出装置に関する。いわゆる物体認識処理に関するものであり、特にモデルベーストマッチング法に用いる特徴を抽出する手段を提供するものである。
【0002】
【従来の技術】
モデルベーストマッチング法を用いた物体認識処理では、物体を構成する直線、円弧といった幾何学的特徴データ(特徴要素)の集合であるモデルと、画像から抽出した対象物体の特徴要素とを比較して対象物体の認識を行う。
この比較は、対象物体を構成する直線,円弧,円を特徴要素として抽出し、これら対象物体の特徴要素のモデルの特徴要素に対する相関(特徴マッチング)をとることにより行われる。
【0003】
特徴要素の抽出としては、画像データに微分空間フィルタ等の鮮明化処理を施すことによりエッジ部分を強調した画像データ(エッジ画像データ)を作成し、これからエッジ画素が連なってなるエッジ線分データ(エッジチェーン)を抽出することにより行われる。
【0004】
しかし、上記特徴要素のうち、円特徴を抽出することは、実際には非常に難しい。
「円」は正面から見れば円形であっても、対象物が斜めに傾いていたり、画像中心から離れた位置にある場合等では、見掛け上「楕円」になるためである。
そこで、円特徴を検出する際の円特徴の候補として、閉曲線を用いる方法がある(特願平8−100974号、以降これを“先件提案♯1“と呼ぶ)。
【0005】
この方法は、三次元座標をデータとして有する各点の集合である閉曲線データを構成する点の数によって閉曲線を「大きな閉曲線」と「小さな閉曲線」とに分別し、「大きな閉曲線」の場合はその等価楕円を計算し、この等価楕円の諸元等を特徴データとして抽出するとともに、「小さな閉曲線」の場合はこれを囲む各辺が軸に平行な長方形を計算し、この長方形の中心位置を特徴データとして抽出するようにしたものである。
【0006】
ところが、閉曲線は部品表面や背景にあるシミ、影、凸凹等で作られる場合もあり、閉曲線だけでは「穴」や「円筒の端点」といった部分と区別がつき難い場合がある。
このような場合はマッチング回数が増えるため処理時間が大きくなったり、本来正しくない閉曲線とマッチングすることによる誤認識を生じることがある。
そこで、部品が傾いても穴や円筒の端点の円特徴の三次元位置姿勢を検出することができ、部品の様々な設置状態に対応して、円特徴を検出する方法がある(特願平9−136452号、以降これを“先件提案♯2“と呼ぶ)。
【0007】
この方法は、工業製品の「穴」や「円筒部分の端点」を抽出するため、部品が傾くことにより、例え画像上ではそれらが円とならなくても、「穴」や「円筒部分の端点」を正面から見れば円となることに注目し、入力画像から得たエッジ線分のうち円になりそうな点列部分を抽出し、その点列の三次元位置データを基に計算される平面上で点列データに関して円近似を行うようにしたものである。
尚、円弧近似方法としては、最小二乗法等の近似手段を用いて円の方程式を近似し、中心位置と半径を計算して、このエッジ線分を円弧と決定する方法を採るのが一般的であるが、画像データ中にあるエッジ線分を円又は円弧に近似するときの処理計算を速くでき、始点、終点を必ず通る方法がある(特願平6−113217号又は特願平6−113218号、以降これを“先件提案♯3“と呼ぶ)。
【0008】
この方法は、画像データ中にあるエッジ線分を円または円弧に近似する際、対象とするエッジ線分の2つの端点である始点と終点と、他の1点の合計3点を通る円又は円弧を仮定するものである。そして、円又は円弧を仮定した後、エッジ線分の全ての要素の点が円周上にあると判定されれば、それらのエッジ線分を仮定した円弧として認識し、また、円周上から一定以上離れた点があると判定されれば、それらのエッジ線分を円弧に近似しない。
【0009】
更に、部品の円特徴の三次元位置姿勢検出装置として、部品上の円特徴部分の表面に油や埃が付着していて抽出したエッジ線分が小さく切れてしまい、閉曲線とならない場合にも、円特徴を検出して、部品の様々な設置状態に対応できる方法がある(特願平11−232453号(以降これを“先件提案♯4“と呼ぶ)。
この方法は、検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、円弧特徴を抽出する際、設定した半径範囲に入るもののみを円弧特徴とし、抽出した円弧の元となったエッジ線分を円候補点列として設定し、設定された円候補点列に基づいて円特徴を計算するものである。
【0010】
【発明が解決しようとする課題】
しかしながら、先件提案♯4で設定する円弧半径範囲をあまり大きくすると誤った認識結果となる可能性が高くなり、逆に設定する円弧半径範囲をあまりに小さくすると全く認識できなくなり、この円弧半径範囲の設定が難しくなる。
【0011】
【課題を解決するための手段】
上記課題を解決する本発明の請求項1に係る部品の円特徴の精密三次元位置姿勢検出装置は、検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、円弧特徴を抽出する際、設定した半径範囲に入るもののみを円弧特徴とし、抽出した円弧の元となったエッジ線分を円候補点列として設定し、設定された円候補点列に基づいて円特徴を計算する部品の円特徴の精密三次元位置姿勢検出装置において、初期状態では対象部品の存在する可能性がある全ての範囲に対応できるように円弧半径範囲を設定するラフ円弧半径設定手段と、ラフ円弧半径設定手段により求められたラフ検出結果を中心にして上下に小範囲分の奥行きを考慮した円弧半径範囲を設定する精密円弧半径設定手段を有することを特徴とする。
【0012】
上記課題を解決する本発明の請求項2に係る部品の円特徴の精密三次元位置姿勢検出装置は、検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、円弧特徴を抽出する際、設定した半径範囲に入るもののみを円弧特徴とし、抽出した円弧の元となったエッジ線分を円候補点列として設定し、設定された円候補点列に基づいて円特徴を計算する部品の円特徴の精密三次元位置姿勢検出装置において、連続認識/取出状態では、前回検出結果を中心にして上下に検査対象1つ分以上の奥行きを考慮した円弧半径範囲を設定するラフ円弧半径設定手段と、前記ラフ円弧半径設定手段により求められたラフ検出結果を中心にして上下に小範囲分の奥行きを考慮した円弧半径範囲を設定する精密円弧半径設定手段を有することを特徴とする。
【0013】
上記課題を解決する本発明の請求項3に係る部品の円特徴の精密三次元位置姿勢検出装置は、請求項1又は2に記載の部品の円特徴の精密三次元位置姿勢検出装置において、抽出した点列の三次元位置を計測する手段と、この点列の位置データを基に平面を計算する手段と、計算した平面上で点列データに関して円近似を行い、近似した円の中から設定データに合うものを選択する手段と、選択された円に関して円特徴の三次元位置姿勢を検出する手段とを備えることを特徴とする。
【0014】
【発明の実施の形態】
(1)基本的な考え方
本発明の目的は、工業部品の「穴」や「円筒部分の端点」といった円特徴の三次元位置姿勢を検出することである。本発明では、検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、部品上に付着した油や埃のために抽出したエッジ線分が小さく切れてしまい閉曲線とならない場合でも、先件提案♯3に示すように、エッジ線分を円弧近似することにより画面上での円弧を抽出し、先件提案♯2に示すように閉曲線の代わりに円弧を元に円候補点列を設定し、最終的に円特徴を検出する。
【0015】
(2)円弧半径範囲の自動設定
本発明では円弧半径範囲の設定について、先件提案♯4における定量的な円弧半径範囲の設定方式の代わりに、対象部品高さ、前回検出結果、ラフ検出結果から自動的に円弧半径範囲の設定を行う。
円弧特徴を抽出する際、自動的に設定した半径範囲に入るもののみを円弧特徴とする。
【0016】
(2.1)初期状態での円弧半径範囲の設定
初期状態では、対象部品の存在位置は不定であるため対象部品の存在する可能性がある全ての範囲に対応できるように円弧半径範囲を設定する。
ここで検出した位置はラフ検出結果となる。
【0017】
(2.2)連続認識/取出状態での円弧半径範囲の設定
認識結果は検出した円特徴の中心の位置が一番高位にあるものを出力するために、次ぎに検出すべき対象部品の位置は、前回検出結果に対してほぼ等しい高さ位置以下になるものと推定される。
このことから、連続認識/取出状態での円弧半径範囲の設定は、図1に示すように、前回検出結果を中心にして上下に検査対象1つ+α分の奥行きAを考慮した円弧半径範囲(以下、ラフ検出設定範囲と言う)を設定する。
このラフ検出設定範囲は、図1に示すように、レンズ焦点に対するイメージ平面上における、最大円弧半径と最小円弧半径との間の許容誤差で示される。
ここで検出した位置はラフ検出結果となる。
【0018】
(2.3)ラフ検出結果後の円弧半径範囲の設定
(2.1)、(2.2)で検出した結果は円弧半径範囲が大きいために誤差を含んだ検出結果となる。
このために、図2に示すように、精密な検出結果を得るために、ラフ検出結果を中心にして上下に小範囲β分の奥行きBを考慮した円弧半径範囲(以下、精密検出設定範囲という)の設定を行う。
この精密検出設定範囲は、図2に示すように、レンズ焦点に対するイメージ平面における、最大円弧半径と最小円弧半径との間の許容誤差で示される。
【0019】
(3)円候補点列の設定
本発明では円候補点列について先件提案♯4における円弧特徴を用いた円候補点列を設定する。
即ち、検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態にあることを前提とし、カメラにより撮影された対象部品の穴の画像は、エッジ線分が小さく切れた場合でも、円の一部である円弧であるから、閉曲線か否かに係わらず、円特徴を抽出することができる。
従って、円弧近似としては、画像データ中にある点列を円または円弧に近似する際、対象とする点列の2つの端点と、他の1点の合計3点を通る円弧を仮定し、その点列の更に他の1点が仮定した円弧の円周上にあれば、点列の全ての要素の点が仮定した円弧の円周上にあると判定し、対象となる点列を仮定した円弧として認識する。
【0020】
(4)円特徴データの計算
点列の三次元位置計測、三次元円計算、円特徴確認等の円特徴データ計算処理は、先件提案♯2の図17、図25又は図26に記載した装置の「点列データ抽出部」以降の処理を用いる。
即ち、抽出した点列の三次元位置を計測する手段と、この点列の位置データを基に平面を計算する手段と、計算した平面上で点列データに関して円近似を行い、近似した円の中から設定データに合うものを選択する手段と、選択された円に関して円特徴の三次元位置姿勢を検出する手段とを備えるものである。
【0021】
一例として図4に示す処理は、入力画像から得たエッジデータのうち円になりそうな点列部分を抽出した後、抽出した点列部分の三次元位置計測を行い、最小二乗法等によって三次元点列データの乗る平面(以降“円平面”と呼ぶ)を計算した後、円平面上へ円候補となる点列データの全ての点をマップし、円平面上で点列データに関して円近似を行い、更に、入力画像から抽出した円が実際の対象部品のとして正しいかどうかの正当性を確認するため、抽出した円の径が、予め設定しておいた範囲(以降“円設定値”と呼ぶ)内に入るか否かを判断し、円設定値内に入れる円特徴を示すデータを設定するものである。
【0022】
また、図5に示す処理は、図4に示す処理に比較し、抽出した点列の三次元位置計測において、計測しようとする点の前後数点から作られる直線とエピポーララインのなす角度を求め、その角度と設定した値とを比較することで、その点を三次元位置計測するか否かを判断する計測点選択処理を追加したものである。
更に、図6に示す処理は、図4に示す処理に比較し、抽出した点列の三次元位置データを基に計算される平面上で点列データに関して円近傍を行い、抽出した円と同心円上の近傍の円弧を抽出し、円と近傍の円弧の点列の三次元位置データから再度円平面を計算し、その円平面上で円を構成していた点列データに関して再度円近似を行い、円特徴の三次元位置姿勢を検出する近傍円弧抽出処理を追加したものである。
【0023】
(5)円特徴データの精密計測
円候補点列を先件提案♯4の方法を用いて設定した場合、円特徴データ計算のデータとなる元のデータ量が少ないため、検出した検出した円特徴の傾きが実際とは大きく異なる場合がある。
そこで、(2.3)を実施することにより計測ポイントを絞り込んで円特徴の精密な傾き計測を行う。
【0024】
(6)本発明の実施例
本発明による円特徴の三次元位置姿勢を精密に検出する装置の例を図3に示す。
この装置は、先件提案♯4の実施例(6.12)の円特徴の三次元位置姿勢を検出する装置12において円特徴データ計算部を2段にして、この時の円弧半径範囲計算部もラフ検出用と精密検出用の2つを用意したことを特徴とする。
【0025】
即ち、図3に示すように、ラフ検出用の点列データ抽出部10及び円特徴データ計算部20と、精密検出用の点列データ抽出部30及び円特徴データ計算部40とを設けたものである。
ラフ検出用の点列データ抽出部10は、円弧抽出部11及び抽出円弧仮想円候補点列設定部12を備える。
ラフ検出用の円弧抽出部11は、円弧特徴を抽出する際、初期状態では、(2.1)で述べたように、対象部品の存在する可能性がある全ての範囲に対応できるように円弧半径範囲を設定し、設定した半径範囲に入るもののみを円弧特徴とする。
【0026】
また、連続認識/取出状態では、(2.2)で述べたように、前回検出結果を中心にして上下に検査対象1つ+α分の奥行きを考慮したラフ検出設定範囲Aを設定し、設定したラフ検出設定範囲Aに入るもののみを円弧特徴とする。
ラフ検出設定範囲Aは、図1に示す位置関係を用いて、ラフ円弧半径範囲計算部50により予め設定し、その値をメモリ70に記憶しておく。
ラフ検出用の抽出円弧仮想円候補点列設定部12は、抽出した円弧の中心と半径と同じデータをもつ仮想的な円を考え、その仮想円の円周上の点の位置を計算し、仮想円の円周として求められた点列を円候補点列として設定する。
【0027】
設定された円候補点列に基づいて、円特徴データ計算部20は、(4)で述べたように、円特徴を計算する。
一方、精密検出用の点列データ抽出部30は、円弧抽出部31及び抽出円弧仮想円候補点列設定部32を備える。
精密検出用の円弧抽出部31は、円弧特徴を抽出する際、(2.3)で述べたように、ラフ検出結果を中心にして上下に小範囲β分の奥行きを考慮した精密検出設定範囲Bを設定し、設定した精密検出設定範囲Bに入るもののみを円弧特徴とする。
【0028】
精密検出設定範囲Bは、図2に示す位置関係を用いて、精密円弧半径範囲計算部60により予め設定し、その値をメモリ70に記憶しておく。
精密検出用の抽出円弧仮想円候補点列設定部32は、抽出した円弧の中心と半径と同じデータをもつ仮想的な円を考え、その仮想円の円周上の点の位置を計算し、仮想円の円周として求められた点列を円候補点列として設定する。
設定された円候補点列に基づいて、円特徴データ計算部40は、(4)で述べたように、円特徴を計算する。
【0029】
【発明の効果】
以上、実施例に基づいて具体的に説明したように、本発明によれば、以下の効果を奏する。
(1)入力画像において、部品表面に油や埃が付着している場合でも、部品上の「穴」や「円筒の端点」といった円特徴の位置と姿勢を精密に検出することができる。
(2)円特徴を抽出することで、対象部品が三次元的にどのような位置にあるかを検出することができる。
(3)円弧特徴を抽出するための円弧半径範囲を2段階に分けて行うため、設定が容易であり、正確な認識結果を得ることが可能となる。
【図面の簡単な説明】
【図1】本発明における連続認識/取出状態でのラフ円弧半径範囲の設定を示す説明図である。
【図2】本発明におけるラフ検出結果後の精密円弧半径範囲の設定を示す説明図である。
【図3】本発明の一実施例に係る精密三次元位置姿勢検出装置を示すブロック図である。
【図4】円特徴の三次元位置姿勢を検出する装置の例を示すブロック図である。
【図5】円特徴の三次元位置姿勢を検出する装置の例を示すブロック図である。
【図6】円特徴の三次元位置姿勢を検出する装置の例を示すブロック図である。
【符号の説明】
A,B 奥行き
10,30 点列データ抽出部
11,31 円弧抽出部
12,32 抽出円弧仮想円候補点列設定部
20,40 円特徴データ計算部
50 ラフ円弧半径範囲計算部
60 精密円弧半径範囲計算部
70 メモリ
Claims (3)
- 検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、円弧特徴を抽出する際、設定した半径範囲に入るもののみを円弧特徴とし、抽出した円弧の元となったエッジ線分を円候補点列として設定し、設定された円候補点列に基づいて円特徴を計算する部品の円特徴の精密三次元位置姿勢検出装置において、初期状態では対象部品の存在する可能性がある全ての範囲に対応できるように円弧半径範囲を設定するラフ円弧半径設定手段と、ラフ円弧半径設定手段により求められたラフ検出結果を中心にして上下に小範囲分の奥行きを考慮した円弧半径範囲を設定する精密円弧半径設定手段を有することを特徴とする部品の円特徴の精密三次元位置姿勢検出装置。
- 検出すべき対象部品の穴がカメラの光軸に対してほぼ傾かない設置状態に限定し、円弧特徴を抽出する際、設定した半径範囲に入るもののみを円弧特徴とし、抽出した円弧の元となったエッジ線分を円候補点列として設定し、設定された円候補点列に基づいて円特徴を計算する部品の円特徴の精密三次元位置姿勢検出装置において、連続認識/取出状態では、前回検出結果を中心にして上下に検査対象1つ分以上の奥行きを考慮した円弧半径範囲を設定するラフ円弧半径設定手段と、前記ラフ円弧半径設定手段により求められたラフ検出結果を中心にして上下に小範囲分の奥行きを考慮した円弧半径範囲を設定する精密円弧半径設定手段を有することを特徴とする部品の円特徴の精密三次元位置姿勢検出装置。
- 請求項1又は2に記載の部品の円特徴の精密三次元位置姿勢検出装置において、抽出した点列の三次元位置を計測する手段と、この点列の位置データを基に平面を計算する手段と、計算した平面上で点列データに関して円近似を行い、近似した円の中から設定データに合うものを選択する手段と、選択された円に関して円特徴の三次元位置姿勢を検出する手段とを備えることを特徴とする部品の円特徴の精密三次元位置姿勢検出装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000384788A JP4348859B2 (ja) | 2000-12-19 | 2000-12-19 | 部品の円特徴の精密三次元位置姿勢検出装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000384788A JP4348859B2 (ja) | 2000-12-19 | 2000-12-19 | 部品の円特徴の精密三次元位置姿勢検出装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002183740A JP2002183740A (ja) | 2002-06-28 |
JP4348859B2 true JP4348859B2 (ja) | 2009-10-21 |
Family
ID=18852171
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000384788A Expired - Fee Related JP4348859B2 (ja) | 2000-12-19 | 2000-12-19 | 部品の円特徴の精密三次元位置姿勢検出装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4348859B2 (ja) |
Families Citing this family (2)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
KR100660415B1 (ko) * | 2005-06-07 | 2006-12-22 | 주식회사 아이너스기술 | 허용 오차 영역을 이용한 3차원 측정 데이터의 검출 방법 |
JP4919156B2 (ja) * | 2006-12-19 | 2012-04-18 | 株式会社ニコン | 画像処理方法および画像処理装置 |
-
2000
- 2000-12-19 JP JP2000384788A patent/JP4348859B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002183740A (ja) | 2002-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN107735674B (zh) | 表面缺陷检测装置、表面缺陷检测方法及钢材的制造方法 | |
CN107239742B (zh) | 一种仪表指针刻度值计算方法 | |
CN111156923A (zh) | 工件检测方法、装置、计算机设备以及存储介质 | |
EP3264181B1 (en) | Substrate pre-alignment method | |
WO2022105676A1 (zh) | 一种工件平面磨损的测量方法和*** | |
JP3849228B2 (ja) | 部品の円特徴の三次元位置姿勢検出装置、その検出方法及びその記録媒体 | |
JPH0914965A (ja) | 測量用ターゲット | |
JP2011058939A (ja) | 外観検査装置、外観検査方法 | |
JPH041869A (ja) | 画像照合方法 | |
JP4348859B2 (ja) | 部品の円特徴の精密三次元位置姿勢検出装置 | |
JP6863946B2 (ja) | 画像処理装置 | |
CN108106610B (zh) | 一种载物台垂直度检测方法、***及其控制装置 | |
JP2005283267A (ja) | 貫通穴計測装置及び方法並びに貫通穴計測用プログラム | |
JP6681759B2 (ja) | 溶接ビードの検査システム | |
CN111179221B (zh) | 焊接坡口的检测方法、设备及存储介质 | |
JP6340237B2 (ja) | ばね端末検出装置、プログラム、記録媒体、及び方法 | |
JP3675543B2 (ja) | 画像位置計測方法 | |
JP4312891B2 (ja) | 円特徴の三次元位置姿勢検出装置 | |
JP3867410B2 (ja) | 三次元視覚位置決め方法及び装置 | |
JP4595957B2 (ja) | 円特徴の三次元位置姿勢検出装置 | |
JP4569595B2 (ja) | 円特徴の三次元位置姿勢検出装置 | |
JP2013167445A (ja) | 欠陥抽出装置および欠陥抽出方法 | |
JPH0933227A (ja) | 三次元形状識別方法 | |
KR101179401B1 (ko) | 정합쌍 분류장치 및 방법 | |
KR20170094709A (ko) | 원형 물체에 대한 특징 검출 장치 및 방법 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060308 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20090108 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20090120 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090319 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090630 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090713 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120731 Year of fee payment: 3 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 4348859 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130731 Year of fee payment: 4 |
|
LAPS | Cancellation because of no payment of annual fees |