JP4681984B2 - 部品の位置決め方法及び装置 - Google Patents

部品の位置決め方法及び装置 Download PDF

Info

Publication number
JP4681984B2
JP4681984B2 JP2005241488A JP2005241488A JP4681984B2 JP 4681984 B2 JP4681984 B2 JP 4681984B2 JP 2005241488 A JP2005241488 A JP 2005241488A JP 2005241488 A JP2005241488 A JP 2005241488A JP 4681984 B2 JP4681984 B2 JP 4681984B2
Authority
JP
Japan
Prior art keywords
component
rectangle
image
circumscribed rectangle
feature point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2005241488A
Other languages
English (en)
Other versions
JP2007058436A (ja
Inventor
公子 藤江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Juki Corp
Original Assignee
Juki Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Juki Corp filed Critical Juki Corp
Priority to JP2005241488A priority Critical patent/JP4681984B2/ja
Publication of JP2007058436A publication Critical patent/JP2007058436A/ja
Application granted granted Critical
Publication of JP4681984B2 publication Critical patent/JP4681984B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Image Processing (AREA)
  • Supply And Installment Of Electrical Components (AREA)
  • Image Analysis (AREA)

Description

本発明は、部品の位置決め方法及び装置に係り、特に、電子部品実装機に用いるのに好適な、撮像された部品の画像を処理して、部品の辺やコーナー等の外形特徴物から部品を位置決めする、部品の位置決め方法及び装置に関する。
電子部品の実装機では、フィーダから供給される電子部品を吸着ノズルで吸着し、吸着ノズルを回路基板上の所定位置に移動させて電子部品を基板に搭載している。この場合、電子部品は、必ずしも正しい姿勢で吸着されるわけではないので、電子部品を回路基板に搭載する際に、実装直前に画像認識部においてCCDカメラ等の撮像装置で部品の画像データを取得し、画像処理を行なって、吸着中心と部品中心のずれ、並びに、吸着傾きを検出して、部品搭載の位置決めを行ない、精度良く電子部品を実装している。
このような電子部品実装機の部品位置決め手法の一つに、部品の辺やコーナー等の外形特徴物を検出して、部品の位置決めを行なうものがある。この部品の外形特徴物による位置決め手法によれば、リードやボール等の電極が存在しない部品でも、位置決めが可能である。
特に、特許文献1で提案されている外形認識手法と、特許文献2で提案されている汎用的な部品特徴物のデータ管理手法を組み合わせることにより、部品の任意の位置に存在する辺やコーナーを検出して、部品の位置決めを行なうことが可能である。
特開2002−288634号公報 特開2001−209792号公報
しかしながら、従来の外形特徴物による部品位置決め手法では、辺やコーナーを検出するための探索ウィンドウの設定位置を誤ると、ユーザの指定した辺やコーナーを正しく検出することができず、正しく位置決めできないという問題点があった。
即ち、従来手法による探索ウィンドウの設定には、(1)外接スキャンによる部品存在位置取得と、(2)座標位置から直接指定、という2つの手法がある。
このうち前者(1)の外接スキャンによる部品存在位置取得法で、例えば図1(A)のような、ユーザが指定した長方形の部品10の4コーナーC0(x,y)、C1(x,y)、C2(x,y)、C3(x,y)を検出する場合を考える。画像上のどの辺りに部品10が存在するかを把握するため、部品の外接矩形S1を求めて、(B)画像全体を走査し、(C)部品外接矩形S1とその中心S1’を取得する。
(D)部品外接矩形S1の中心S1’と部品の中心が一致していると仮定すれば、指定された辺やコーナーの存在位置を算出できるため、その周辺に探索ウィンドウWを設定し、(E)該探索ウィンドウW内で辺やコーナーの検出を行なうことで、指定された辺やコーナーを正しく検出できる。
しかしながら、この(1)の方法では、図2に示す如く、(A)ユーザの定義した部品10の中心10’と部品外接矩形S1の中心S1’が異なる場合、(D)に示す如く、探索ウィンドウWがコーナー部に正しく設定されず、辺やコーナーを正しく検出できない。又、図3に示す如く、(A)反射照明等で認識させた時に、部品全体が光らない場合に、(B)に示す如く、やはり探索ウィンドウWがコーナー部に正しく設定されないという問題点を有する。
一方、後者(2)の方法では、次のような問題点がある。
即ち、実装機で部品位置決め用の撮像は、部品を吸着しているノズルが画像の中心になるように行なう。ノズルは部品の中心部を吸着するため、画像中心と部品中心はほぼ一致する。吸着時の部品供給状態によって、吸着位置に多少のばらつきがあるものの、大きくずれることは少ない。
そこで、部品吸着ずれ量が、ある一定量以内だと仮定した場合、部品中心と画像中心が一致しているものとして、指定された辺やコーナーの存在位置を算出し、この位置に、想定している吸着ずれ量分を加味して探索ウィンドウを設定することで、指定された辺やコーナーを正しく検出できる。
しかしながら、図4に示す如く、部品10に穴12等があるため、ユーザが指定した部品中心10’に対応する想定吸着位置20と、実際の吸着位置(画像中心)22とが異なる場合には、対応できない。この場合には、常に同じ方向にずれる。
又、図5に示す如く、想定以上の吸着ずれが発生した場合にも、やはり対応できない。この場合には、ずれる方向が常に同じとは限らない。
本発明は、前記従来の問題点を解消するべくなされたもので、ユーザが指定した部品中心が外接矩形中心や実際の部品の吸着位置とは異なる場合や、反射照明等で認識させたときに部品全体が光らない場合や、想定以上の吸着ずれが発生した場合にも、辺やコーナーを的確に検出可能とすることを課題とする。
本発明は、位置決め対象部品の指定された特徴点(辺やコーナー)を全て含む最小矩形を特徴点外接矩形とし、撮像画像の部品像の外接矩形を部品外接矩形とし、特徴点外接矩形と部品外接矩形を用いて、指定された特徴点の存在範囲を絞り込み、この絞り込んだ領域を、特徴点を検出するための探索ウィンドウとして画像処理するようにして、前記課題を解決したものである。
又、本発明は、位置決め対象部品の指定された特徴点を全て含む最小矩形を特徴点外接矩形とする手段と、撮像画像の部品像の外接矩形を部品外接矩形とする手段と、前記特徴点外接矩形と部品外接矩形を用いて指定された特徴点の存在範囲を絞り込み、この絞り込んだ領域を、特徴点を検出するための探索ウィンドウとして画像処理する手段と、を備えたことを特徴とする部品位置決め装置により、同じく前記課題を解決したものである。
本発明によれば、指定された全ての特徴点を含む最小矩形と部品撮影画像上の部品外接矩形を用いて、検出した特徴点の存在位置を絞り込むようにしたので、ユーザが指定した部品中心が外接矩形中心や実際の部品吸着位置とは異なる場合や、部品全体が光らない場合や、想定以上の吸着ずれが発生した場合でも、それに追従して探索ウィンドウを設定することができ、特徴点を正しく検出することが可能となる。
以下図面を参照して、本発明の実施形態を詳細に説明する。
図6に、本発明を実施するための電子部品位置検出装置の実施形態を示す。
図6において、10は電子部品、28は、該電子部品10を吸着するための吸着ノズル、30は、多数の照明ランプを備えた照明装置32、レンズ34、例えばCCDカメラでなる撮像装置36を含む部品検出部、40は、CPU42、A/Dコンバータ44、部品データ格納メモリ46、画像メモリ48、50を含む画像処理装置、60は、入力画像や処理画像を表示するためのモニタである。
以下、動作を説明する。
実装機の主制御装置は、認識に先立って、部品データを前記画像処理装置40に送信する。部品データには、部品ID、形状やサイズ等の情報が含まれている。本発明のように、コーナーや辺を検出して部品の位置決めを行なう場合は、例えば次の2つの方法で、部品データを記述することができる。
(1)特許文献2に記載されているように、属性を設定した電極(リード、ボール等)や位置決め可能な特徴がある部分(辺、コーナー、マーク等)を最小構成単位要素(以下エレメントと称する)として扱い、このエレメントと、その配置情報等を属性としたエレメント構成要素(以下エレメントグループと称する)を設定し、又、このエレメントグループの集合と部品のサイズ等の部品としての属性情報から、1個の部品を設定する方法。
(2)部品の縦・横寸法と、4方向の中で直線形状である辺若しくはコーナーを指定する簡易的なデータ表現方法。直線が存在する方向と直線と部品中心との位置関係が記述されているデータである。
例えば前記(1)又は(2)の方法で記載された部品データの情報と、実際に検出した画像上の外形特徴位置から、部品の位置決めができる。
図7に、本発明による処理手順を示す。
実装機の主制御装置から部品の認識要求が出されると、ステップ100で、まず部品の画像の撮像を行なう。続いて、ステップ102で、該当する部品データを取得する。認識時は、実装機の主制御装置から部品IDが通知される。部品データは、前記部品データ格納メモリ46で部品ID毎に管理されているため、部品IDを用いて該当する部品データを取得することができる。
次いでステップ104に進み、取得した部品データから、図8に例示するように、検出指定された全ての辺やコーナーを含む最小領域の矩形(特徴点外接矩形と称する)S0を取得する。
次に、ステップ106で、辺やコーナーを検出するための2値化閾値を取得する。この2値化閾値は、部品データ等で外部指定されるが、指定されていなければ、ステップ100で撮像した画像から自動的に取得することもできる。自動取得の方法は、一般的な閾値取得手法(p−タイル法や微分ヒストグラム法、判別分析法)を部品形状や撮像条件により使い分けることができる。
次いでステップ108で、ステップ106で求めた2値化閾値を用いて、画像の4方向からそれぞれスキャンし、図9に示す如く、部品の外接矩形S1を求める。
次いでステップ110に進み、ステップ104で求めた特徴点外接矩形S0とステップ108で求めた部品外接矩形S1から、検出しようとする辺やコーナーの存在位置を算出し、探索ウィンドウWを設定する。
次いでステップ112に進み、例えば特許文献1に記載された方法により、探索ウィンドウW内で辺やコーナーの検出処理を実行する。又、特願2005−20519で提案した手法を用いれば、探索ウィンドウW内に指定された辺やコーナーと同一形状の物を全て検出することができる。
即ち、特許文献1に記載されたアルゴリズムでは、探索ウィンドウW内で垂直方向と水平方向に部品外側から走査線を順次投射していき、部品の辺を示すエッジ点列(各走査線が部品のエッジと交差する黒丸の点列)を取得する。そして、この取得したエッジ点列について、ハフ変換を用いて最も多くの点が乗る直線を求め、この直線に投票した点列を用いて最小二乗法で直線式を求め直し、直線を検出するが、このような直線検出方法では、一番エッジ取得点の多い辺の直線だけを検出するため、残りの点列で直線が検出できる場合でも1本しか検出できない。このため特願2005−20519では、直線検出で使用したエッジ点列を除いていき、繰り返しすべての直線を検出するなどの方法を用い、探索ウィンドウW内のエッジ点列から生成されるすべての直線を検出するようにしている。
次いでステップ114に進み、探索ウィンドウW内で辺やコーナーが正常検出できたか否かを判定し、判定結果が正である場合には、ステップ116に進み、検出した数と検出位置を記憶しておく。
ステップ110における探索ウィンドウWの設定、ステップ112における辺やコーナーの検出処理、ステップ116における検出結果の格納処理は、指定されている全ての辺やコーナーに対して行なう。
ステップ118で、指定された全ての辺やコーナーの検出を終えたと判定された時点では、各辺やコーナーに複数の候補点が存在することも有り得る。
そこで、ステップ120に進み、例えば特願2005−20519で提案した方法を用いて、指定された辺やコーナーの位置関係から、正しいコーナーを選択する。
即ち、指定された特徴部分の画像位置を予測し、その予測された画像位置に、実際に検出された特徴部分が存在するときに、その検出された特徴部分に基づいて位置検出を行う。従って、予測位置、つまり指定された特徴部分と一致する特徴部分のみを用いて部品認識が行われることから、検索ウィンドウW内に複数の類似した特徴部分を検出しても、予測位置と一致しない特徴部分は、部品認識に使用されることはないので、特徴部分の誤検出を防止することができる。また、部品の位置ずれが大きく、検索ウィンドウW内に指定した特徴部分が存在しないような場合には、予測位置では、指定した特徴部分は検出できず、検出エラーとなるので、誤った部品認識が行われることを防止することができる。
次いでステップ122に進み、検出した辺やコーナーの座標から部品の中心と傾きを算出し、ステップ124で、位置決め結果を実装機の主制御装置へ送信する。
前出ステップ104における特徴点外接矩形S0の取得は、具体的には、次のようにして行なう。
即ち、特徴点外接矩形S0は、図8に例示する如く、部品データで指定されている辺やコーナーを全て含む最小矩形である。このとき、コーナーのサイズや辺の長さは考慮しない。3点以上の辺やコーナーが指定されないと、矩形にはならず、図6(E)のように、検出指定されている辺やコーナーの数が1個の場合の特徴点外接矩形S0は点であり、図6(D)のように、2個の場合は線分となる。
又、前出ステップ108における部品外接矩形S1の取得は、画像の4方向からスキャンして行なう。このとき、図9に示すように、部品外接矩形S1が画像端に接している場合は、部品が画像からはみ出していると考えられる。このような場合でも、(A)のように、指定されている全ての辺やコーナーが画像上に入っていれば位置決め可能である。
しかし、(B)のように、指定した辺やコーナーのうち、1つでも画像の外にはみ出してしまっている場合は、正しく部品の位置決めを行なうことができない。そこで、部品外接矩形S1が画像端に接しており、更に特徴点外接矩形S0と比較して極端に部品外接矩形S1の方が小さい場合は、指定された辺やコーナーのどれかが画像からはみ出している可能性が高いため、視野はみ出しエラーとして認識処理を打ち切る。
一方、(C)に示す如く、部品外接矩形S1の方が特徴点外接矩形S0より大きい場合は、エラーと判断できないので、認識処理を続行する。
又、前出ステップ110における探索ウィンドウWの設定は、具体的には次のようにして行なう。
まず、特徴点外接矩形S0と部品外接矩形S1の面積の大小関係は、特徴点外接矩形S0≦部品外接矩形S1の関係にある(部品形状や吸着時の部品の傾きによっては完全に成り立たない場合もある)。
例えば図10に示すような部品10で、コーナーC0を検出するための探索ウィンドウWを設定する場合について考える。
部品外接矩形S1の何処かに特徴点外接矩形S0が含まれているはずである。部品データで、コーナーC0に対応する特徴点外接矩形S0上の点P0が部品外接矩形S1上に存在し得る範囲は、図11に示すとおりである。これを矩形S2とする。ここで、矩形S2の領域は、部品外接矩形S1内に部品が正立(傾き0)の状態で存在していることを前提として求めている。しかし、部品が全く傾かない状態で吸着されることはまず無いため、吸着傾き分だけ点P0の存在し得る範囲を広げる必要がある。ここで、吸着傾きθ(経験値、例えばθ=10°)を考慮すると、点P0が部品外接矩形S1内に存在し得る範囲は、図12に示すとおりとなる(これを矩形S3とする)。ここで、特徴点外接矩形S0の横の長さをH、縦の長さをVとする。
吸着時の部品傾きがθ未満であれば、矩形S3内に指定コーナーC0が存在するはずである。しかし、コーナーを検出するためには、コーナー部に存在する辺を検出する必要があるため、コーナー部のRサイズや辺のサイズ分だけ広げる必要がある。これを図13に示す(これを矩形S4とする)。そして、この矩形S4が探索ウィンドウWとなる。
このような探索ウィンドウ設定方法は、辺やコーナー等の外形特徴物だけの場合に限らず、リード、ボール、マーク等にもそれぞれ有効である。リードの場合の特徴点外接図形S0と部品外接図形S1の関係を図14、探索ウィンドウWの設定方法を図15に例示する。
なお、特徴物とは、リード、ボール、コーナー、辺、マーク等の特徴点の総称で、特徴物グループとは、同一の特徴物1つ以上からなる集合のことである。
特徴物情報とは、特徴物の形状に合わせた認識に必要なデータを記述するもので、例えば図14に示したリードグループL0の特徴物情報とは、リード種別(ガルフィングリード、フラットリード等)、リード先端切り欠け形状、リードサイズ(リード幅や長さ)、リードサイズ許容値等である。又、コーナーグループC1、C0の特徴物情報とは、コーナー形状、コーナーサイズ、コーナーRサイズ等である。
これに対して、特徴物グループ情報は、特徴物が何処にどのように配置するかを記述するデータであり、特徴物の形状によらず、基点特徴物座標、特徴物総数、配置繰り返し情報(縦横ピッチ、縦横配列数)等からなる。
なお、前記実施形態では、特徴点外接矩形S0を認識処理中に求めたが、同じ部品であれば特徴点外接矩形S0も同じであるので、部品データ受信時に求めておき、部品データと合わせて管理することもできる。これは、認識処理速度を少しでも速めたい場合に効果がある。しかし、部品データ領域容量にも限りがあるため、メモリ容量を節約したい場合には、前記実施形態の手法の方が良い。
従来の外接スキャンによる部品存在位置取得法を説明するための図 図1で示した手法の問題点の一つを説明するための図 同じく他の問題点を説明するための図 従来の座標位置から探索ウィンドウを直接指定する手法の問題点の一つを説明するための図 同じく他の問題点を説明するための図 本発明を実施するための電子部品位置検出装置の実施形態を示す、一部斜視図を含むブロック図 本発明による処理手順を示す流れ図 前記処理手順において、部品データから特徴点外接矩形を取得する様子を示す図 同じく部品外接矩形を取得する様子を示す図 同じく探索ウィンドウの設定方法を説明するための図 同じく特徴点外接矩形上の点が部品外接矩形内で存在し得る範囲を示す図 同じく吸着傾きを考慮したときの特徴点外接矩形上の点が部品外接矩形内で存在し得る範囲を示す図 同じくコーナー部のRサイズや辺のサイズ分だけ広げた状態を示す図 リードにおける特徴点外接矩形と部品外接矩形の関係の例を示す図 同じく探索ウィンドウを求める様子を示す図
符号の説明
10…部品
30…部品検出部
32…照明装置
36…撮像装置
40…画像処理装置
46…部品データ格納メモリ
48、50…画像メモリ
60…モニタ
S0…特徴点外接矩形
S1…部品外接矩形
W…探索ウィンドウ

Claims (2)

  1. 位置決め対象部品の指定された特徴点を全て含む最小矩形を特徴点外接矩形とし、
    撮像画像の部品像の外接矩形を部品外接矩形とし、
    特徴点外接矩形と部品外接矩形を用いて、指定された特徴点の存在範囲を絞り込み、この絞り込んだ領域を、特徴点を検出するための探索ウィンドウとして画像処理することを特徴とする部品位置決め方法。
  2. 位置決め対象部品の指定された特徴点を全て含む最小矩形を特徴点外接矩形とする手段と、
    撮像画像の部品像の外接矩形を部品外接矩形とする手段と、
    前記特徴点外接矩形と部品外接矩形を用いて指定された特徴点の存在範囲を絞り込み、この絞り込んだ領域を、特徴点を検出するための探索ウィンドウとして画像処理する手段と、
    を備えたことを特徴とする部品位置決め装置。
JP2005241488A 2005-08-23 2005-08-23 部品の位置決め方法及び装置 Active JP4681984B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2005241488A JP4681984B2 (ja) 2005-08-23 2005-08-23 部品の位置決め方法及び装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2005241488A JP4681984B2 (ja) 2005-08-23 2005-08-23 部品の位置決め方法及び装置

Publications (2)

Publication Number Publication Date
JP2007058436A JP2007058436A (ja) 2007-03-08
JP4681984B2 true JP4681984B2 (ja) 2011-05-11

Family

ID=37921906

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2005241488A Active JP4681984B2 (ja) 2005-08-23 2005-08-23 部品の位置決め方法及び装置

Country Status (1)

Country Link
JP (1) JP4681984B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6001937B2 (ja) * 2012-07-05 2016-10-05 住友ゴム工業株式会社 シート状ゴム材料のコーナ頂点検出方法

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002230538A (ja) * 2001-02-06 2002-08-16 Matsushita Electric Ind Co Ltd 画像入力装置および方法
JP2002288634A (ja) * 2001-03-28 2002-10-04 Juki Corp 部品位置検出方法及び装置
JP2006190849A (ja) * 2005-01-07 2006-07-20 Juki Corp 部品認識方法及び装置
JP2006234793A (ja) * 2005-01-28 2006-09-07 Juki Corp 部品位置検出方法および装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH05149716A (ja) * 1991-11-29 1993-06-15 Toshiba Corp コーナ検出方法

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002230538A (ja) * 2001-02-06 2002-08-16 Matsushita Electric Ind Co Ltd 画像入力装置および方法
JP2002288634A (ja) * 2001-03-28 2002-10-04 Juki Corp 部品位置検出方法及び装置
JP2006190849A (ja) * 2005-01-07 2006-07-20 Juki Corp 部品認識方法及び装置
JP2006234793A (ja) * 2005-01-28 2006-09-07 Juki Corp 部品位置検出方法および装置

Also Published As

Publication number Publication date
JP2007058436A (ja) 2007-03-08

Similar Documents

Publication Publication Date Title
US6396942B1 (en) Method and apparatus for locating ball grid array packages from two-dimensional image data
JP6472801B2 (ja) 部品データ取扱装置および部品データ取扱方法並びに部品実装システム
JP5158686B2 (ja) 吸着部品表裏判定装置及び吸着部品表裏判定方法
JP4681984B2 (ja) 部品の位置決め方法及び装置
JP2002288634A (ja) 部品位置検出方法及び装置
JP5160366B2 (ja) 電子部品のパターンマッチング方法
JP2009076796A (ja) 電子部品向き検査装置及び電子部品向き検査方法並びに電子部品装着機
JP4106301B2 (ja) 部品認識方法及び装置
JP4744234B2 (ja) 部品の位置決め方法及び装置
JP2017130592A (ja) 部品データ取扱装置および部品データ取扱方法並びに部品実装システム
JP2005116869A (ja) 基準マーク位置検出装置および基準マーク位置検出プログラム
JP4566686B2 (ja) 対象物の形状判別方法及び装置
JP4380864B2 (ja) 部品検出方法及び装置
JP4757701B2 (ja) 電子部品の吸着位置補正方法及び装置
JP4823782B2 (ja) 部品位置決め方法及び装置
JP4614487B2 (ja) 部品位置検出方法、部品位置検出装置、部品データ格納方法及びその装置
JP4642648B2 (ja) 実装装置に搭載される部品の画像処理方法及び装置
JP2013062378A (ja) 位置決め装置、および位置決め方法
JP2006234793A (ja) 部品位置検出方法および装置
JP2007142039A (ja) 電子部品のリード幅検出位置決定方法及びリード幅検出方法並びにそれらの装置
JP4150262B2 (ja) 部品認識方法及び装置
JP2008122259A (ja) 対象物の形状判別方法及び装置
JP2007115725A (ja) 部品認識方法及び装置
JP2017147360A (ja) 電子部品検査方法、電子部品実装方法、及び電子部品実装装置
JP2005173845A (ja) 部品認識装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20080811

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20110111

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20110207

R150 Certificate of patent or registration of utility model

Ref document number: 4681984

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140210

Year of fee payment: 3