JP6391281B2 - 光学検査方法、光学検査装置、および光学部材の製造方法 - Google Patents

光学検査方法、光学検査装置、および光学部材の製造方法 Download PDF

Info

Publication number
JP6391281B2
JP6391281B2 JP2014087946A JP2014087946A JP6391281B2 JP 6391281 B2 JP6391281 B2 JP 6391281B2 JP 2014087946 A JP2014087946 A JP 2014087946A JP 2014087946 A JP2014087946 A JP 2014087946A JP 6391281 B2 JP6391281 B2 JP 6391281B2
Authority
JP
Japan
Prior art keywords
image
defect
optical inspection
density
value
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2014087946A
Other languages
English (en)
Other versions
JP2015206701A (ja
Inventor
知彦 結城
知彦 結城
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2014087946A priority Critical patent/JP6391281B2/ja
Publication of JP2015206701A publication Critical patent/JP2015206701A/ja
Application granted granted Critical
Publication of JP6391281B2 publication Critical patent/JP6391281B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Description

本発明は、対象物を撮影して得られた画像に対して画像処理を行い、その結果に基づき前記対象物の欠陥判定を行う光学検査方法、光学検査装置、および光学部材の製造方法に関する。
レンズやミラーのような光学部材の製造過程において、これら光学部材の検査や検品は、製造工程内の検査者による目視検査によって行われることがある。この光学部材を不良として判定する条件に、微小な欠陥が密集した場合がある。ここで記載する微小な欠陥が密集した場合とは、光学部材の表面に、直径が数十ミクロン程のゴミやキズといった複数の微細な欠陥が、数十ミクロン程の間に近接して密集しているような状態を指す。
目視検査では、検査者が、密集した欠陥が生じていると考えられる領域内の各欠陥の面積や個数を目視確認することにより、経験的に上記のような条件で欠陥判定(良否判定)を行っている。この種の目視検査は熟練を要するため、対象物(光学部材など)を撮影して得られた画像に対して画像処理を行い、目視検査の欠陥判定と同等、あるいはそれ以上に信頼性の高い検査結果を得られる光学検査装置が求められている。
従来より、この種の目視検査を自動化するため、画像センサや画像処理システムを用いた光学検査装置が種々提案されている。たとえば、下記特許文献1の光学検査装置では、被検物の撮像画像を単位面積毎の小領域に分割し各小領域内に含まれる欠陥の個数を特徴量として用いることにより、密集した微小な欠陥を検出しようとしている。
特開2012−73119号公報
ところで、目視検査において、密集した欠陥の欠陥判定結果は、散乱強度分布の指向性によって異なるものとなる可能性がある。たとえば、鏡面に鋭く付けられたキズの集まりは散乱(または反射)光強度分布に強い指向性を持っており、特定の方向から照明したり観察した場合にのみ強く光って見えるため、検査者の熟練度などによっては目視検査で見落され良品と判定される場合がある。一方、ホコリや汚れなどの集まりは散乱(または反射)光強度分布の指向性が弱いため、どの方向から観察しても同じような明るさで見える。このようなホコリや汚れは、軽微であれば良品判定でも構わない場合もあるにもかかわらず、目視検査では比較的見えやすく、また、不良品と判定するのは比較的容易である。
一般に、対象物(の欠陥)を特定の方向から照明したり、観察(あるいは撮影)した場合にのみ、大きな散乱ないし反射光量(あるいは輝度)が得られる場合、その対象物(の欠陥)の光学特性は異方性を有する、と言える。あるいは、その対象物(の欠陥)は光学的な異方性を有する、と言ってもよい。
そして、上記の目視検査では、対象物(の欠陥)の光学特性が強い異方性を有している場合は検査者にかなりの熟練を要し、また、熟練度が高い検査者であっても、見落としの可能性が高くなる、という傾向が認められる。
そこで、光学検査装置で欠陥判定を行う場合、目視検査の欠陥判定と同等あるいはそれ以上に高い信頼性を得るためには、例えば、目視検査で検査が難しく、見落しも生じやすい光学特性が強い異方性を示している欠陥を確実に検出できると好ましい。
ところが、上記特許文献1に開示されるような従来技術では、単に密集した欠陥に含まれている個数を基準に欠陥判定を行っているだけで、散乱(あるいは反射)強度分布の指向性や上記のような光学的な異方性は考慮されていない。従って、特許文献1に記載されるような従来の画像検査技術では、(熟練した)検査者による目視検査との欠陥判定の結果にずれを生じるおそれがあり、欠陥の過検出(あるいは逆に検出失敗)を生じる可能性がある。
そこで本発明の課題は、対象物を撮影して得られた画像に対して画像処理を行い、その結果に基づき前記対象物の欠陥判定を行う光学検査において、対象物の光学特性の照明方向に係る異方性に基づき対象物の欠陥判定を行えるようにすることにある。
上記課題を解決するため、本発明は、対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査方法において、前記制御装置が実行する画像処理が、前記複数の画像に対して、各画素における画素値の最大値を取得して最大値合成画像を生成する第1の画像生成工程と、前記複数の画像に対して、各画素における画素値の平均値を取得して平均値合成画像を生成する第2の画像生成工程と、前記最大値合成画像前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を各画素の画素値として有する比較画像を生成する第3の画像生成工程と、前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出する抽出工程と、抽出した前記欠陥候補画素群の単位空間内における密度に関する情報を取得する密度情報取得工程と、前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする。
また、本発明は、対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査装置において、前記制御装置は、前記複数の画像の各画素における画素値の最大値および平均値から、それぞれ最大値合成画像および平均値合成画像を生成し、前記最大値合成画像前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を、各画素の画素値として有する比較画像を生成し、前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出し、前記欠陥候補画素群の単位空間内における密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする。
上記構成によれば、異なる照明方向ごとに撮像した画像から最大値合成画像、平均値合成画像、さらに最大値合成画像と平均値合成画像の比較画像を生成し、対象物の光学特性の撮像時の照明方向に係る異方性に基づき対象物の欠陥判定を行うことができる。
本発明を採用した光学検査方法を実施する光学検査装置の概略構成図である。 図1の光学検査装置による光学検査の全体的な流れを示したフローチャート図である。 図1の光学検査装置による光学検査において、対象物の欠陥判定の詳細を示すフローチャートである。 本発明を採用した光学検査方法において、最大値および平均値合成画像から比較画像を得る画像処理を示したもので、(a)は光学特性の異方性が高い場合、(b)は光学特性の異方性が低い場合をそれぞれ示した説明図である。 本発明を採用した光学検査方法において、比較画像の欠陥候補画素群に対する画像処理を示した説明図である。
以下、添付図面を参照して本発明を実施するに好適な実施の形態につき詳細に説明する。
図1は本発明の実施形態としての光学検査方法を実行する光学検査装置1の概略構成を示している。図1の光学検査装置1は、画像撮像部100と画像処理システム200を備えている。図1の光学検査装置1は、対象物Wが、光透過性(ないし半透過性)を有する部材、たとえばレンズのような光学部材である場合を想定した構成となっている。
図1において、画像撮像部100は、カメラ101、光源102、対象物Wを載置するホルダ103を有している。カメラ101、光源102、ホルダ103は、フレーム部104に対して所定の位置関係で固定されている。
なお、レンズのような光学部材を対象物Wとして扱う場合、図1の光学検査装置1は、対象物W(例えばレンズ)を形成する製造ラインの一部に配置することができる。例えば、光学検査装置1はそのような検査が必要となる製造ライン上の位置、レンズを形成、研磨するラインの下流に配置することができる。その場合、検査すべきレンズは不図示の搬送機構(例えばロボット装置など)を用いてホルダ103に載置され、光学検査装置1に順次供給され、検査される。
カメラ101は、対物レンズユニット101aと、撮像素子としてのセンサ部101b、あるいはさらに不図示のシャッタ機構などから構成される。カメラ101のセンサ部101bはCCDセンサやCMOSセンサなどから構成される。対象物Wを光学検査する際、カメラ101による対象物Wの撮像タイミングは、制御装置、例えば後述の画像処理システム200のプロセッサ201によって制御される。
光源102は、対象物Wを異なる方向から照明して、各照明方向ごとにカメラ101により対象物Wの複数の画像を撮影できるよう構成する。このために、光源102は、例えば光源素子として、例えば複数のLED光源を用いて構成することができる。例えば、図1の構成では、光源102の各光源素子は、射出した光が対象物Wに斜めに入射するよう、かつ射出端面が環状に均等に並ぶように対象物Wの下方に配置されている。このように対象物Wを異なる方向から照明してそれぞれの照明方向ごとに撮影を行うことにより、カメラ101で撮影した各画像にはそれぞれ散乱方位の異なる散乱光成分を記録することができる。
なお、図1の構成は、対象物Wを(主に)透過光で撮影するような照明方向となるよう光源102はカメラ101に対して対象物Wの反対側に配置している。しかしながら、対象物Wを(主に)反射光で撮影するような照明方向となるよう、例えば図1の対象物Wの上側の、カメラ101と同じ側に配置する構成も考えられる。また、透過光撮影と反射光撮影を切り換えることができるよう、図1の光源102の位置を対象物Wの下側か上側のいずれかに設定可能な例えば揺動機構(不図示)などを追加しておく構成も考えられる。
画像処理システム200は、後述の画像処理全体を制御する制御装置としてのプロセッサ201を有する。画像処理システム200は、例えばPC(パーソナルコンピュータ)などのハードウェアを利用して構成することができる。画像処理システム200は、主制御部としてのプロセッサ201の他、例えばROM211、RAM212、カメラ101からの画像データ入力や、モニタ202への表示画像出力に用いられるインターフェース214を有する。なお、インターフェース214は簡略化のため単一のブロックにより示してあるが、例えばカメラ101とモニタ202では、入出力信号の仕様などが異なる別体のインターフェースカードなどが用いられるのはいうまでもない。モニタ202は、画像撮像部100より送信された画像データやプロセッサ201による画像処理結果(あるいはその途中の処理状況など)を表示するために用いることができる。
また、画像処理システム200には、例えばHDD、SSD、あるいは他の任意の外部記憶デバイスから構成された外部記憶装置213を設けてある。外部記憶装置213は、プロセッサ201の仮想記憶領域などとして用いられる他、後述の画像処理および欠陥判定を制御するためのプロセッサ201により実行可能なプログラムの格納に用いられる。この本実施形態に係るプログラムは、外部記憶装置213に限られず、例えば上記のROM211などに格納しておいてもよい。また、本実施形態に係るプログラムは、DVDやCDROM、各種フラッシュメモリなどの着脱自在な外部記憶デバイスに格納した状態で画像処理システム200に導入し、プロセッサ201により実行させることもできる。なお、外部記憶装置213や他の外部記憶デバイスに格納されたプログラムは、通常、RAM212の所定領域に展開され、実行される。
また、画像処理システム200には、キーボードやポインティングデバイス(マウスその他のデバイス)、音声入出力手段などから成る不図示のユーザーインターフェース手段が接続される。このユーザーインターフェース手段は、検査者が光学検査処理を開始、終了させたり、光学検査処理の細部の設定変更を行うのに用いられる。
後述の光学検査処理において、画像処理システム200のプロセッサ201は、光源102の照明方向を制御しつつ、カメラ101によりそれぞれ異なる照明方向を持つ照明光により対象物Wを撮像させる。また、プロセッサ201は、それぞれ異なる照明方向を持つ照明光により撮像した対象物Wの複数の画像に対して後述の画像処理を行い、その画像処理結果に基づき、対象物Wの欠陥判定を行う。この欠陥判定とは、いわゆる良否判定、例えば、対象物Wを(例えば出荷基準を満たす)良品であるか、あるいは(例えば同基準を満たさない)不良品であるかの判定である。
この欠陥判定のためのプロセッサ201による画像処理には、後述の最大値合成画像、平均値合成画像、および比較画像をそれぞれ生成する第1の画像生成工程、第2の画像生成工程、および第3の画像生成工程が含まれる。特に、第3の画像生成工程の画像生成においては、対象物の光学特性の照明方向に係る異方性に対応する特徴量を画素値として有する比較画像を生成する。また、本実施形態の同画像処理には、上記の比較画像に対する特徴量演算の結果に応じて対象物Wの欠陥の有無を判定する欠陥判定工程が含まれる。また、この欠陥判定工程においては、比較画像の中で所定値を超える画素値を有し互いに隣接した欠陥候補画素群を抽出する処理が含まれる。そして、例えば、抽出した複数の欠陥候補画素群を比較画像よりも低解像度な2次元単位空間に写像し、この2次元単位空間に写像された欠陥候補画素群の画素値を累積して得た特徴量の大小に基づき対象物の欠陥の有無を判定することができる。
以上のように構成された光学検査装置1による、対象物Wの光学検査手順につき説明する。図2は光学検査装置1による光学検査手順の全体の流れを示している。また、図3は図2の光学検査手順における画像処理および欠陥判定処理を詳細に示している。図2および図3の光学検査手順は、プロセッサ201のプログラムとして記述することができる。この光学検査プログラムは、上記のように外部記憶装置213に格納しておくか、あるいは他の記憶デバイスを介して画像処理システム200に供給することができる。この場合、外部記憶装置213や上記記憶デバイスはコンピュータ読み取り可能な記録媒体を構成する。
光学検査装置1が起動すると、最初にステップS101が実行され、対象物Wを載置されたホルダ103が供給される。対象物Wは例えばレンズなどの光学部材であって、その場合、搬送装置(不図示)などによってホルダ103に載置され、図1の検査位置に供給される。続いて、ステップS102に進み、光源102に取り付けられているLED光源を1つ選択して点灯させる。光源102からの光によって照明された対象物Wに欠陥がある場合、欠陥部位は光を散乱させてその部分のみを明るく浮かび上がらせることになる。
ステップS103では、ステップS102で形成された照明状態においてカメラ101により対象物Wを撮影する。カメラ101の対物レンズユニット101aにより対象物Wの像は、センサ部101bで結像する。プロセッサ201の制御によって決定された撮像タイミングでカメラ101の各部が駆動されて撮像が行われ、撮像が終了すると、ステップS104において点灯しているLEDを消灯する。
ステップS102の光源102の照明方向の選択、およびその照明方向からの照明光による対象物Wの撮像は、ステップS105で終了条件が成立するまで順次繰り返される。すなわち、ステップS105では、対象物Wを取り囲むように取り付けられている光源102の各LED光源が、全方位すべて点灯して撮像を行ったどうかを判定する。対象物Wの撮像が終了した場合(ステップS105:YES)は、ステップS106に進み、画像処理を行う。対象物Wの撮像がまだ終了していなければ(ステップS105:NO)ステップS102に戻り、引き続き光源102による照明方向を順次変更しながらカメラ101による撮像を続行する。
上記のようにして対象物Wを撮像して得られた画像は、デジタル画像データとして画像処理システム200に送信される。ステップS106では、プロセッサ201はこのデジタル画像データに対して後述の画像処理を加え、ステップS107においてその画像処理結果に基づき欠陥判定を行う。この画像処理(S106)および欠陥判定(S107)については、図3〜図5を参照して後で詳細に説明する。
ステップS107の欠陥判定により、対象物Wが良品であるか(ステップS108)、不良品であるか(ステップS109)を判別できる。この判定結果は例えばモニタ202に表示して検査者(作業者)に報知する他、外部記憶装置213に用意した光学検査結果記録用のデータベースなどに記録することができる。
上記の処理が終了した後、対象物Wを載置したホルダ103は不図示の搬送機構(例えばロボット装置など)を介して光学検査装置1から取り出されれる。なお、この段階において、光学部品の製造システムなどでは、ステップS107〜S109の結果に応じて対象物Wの搬送先を変更するような制御を行うことができる。例えば、対象物Wは良品と判定された場合、通常の製造ラインへ搬送し、不良品と判定された場合は通常の製造ラインから外し別の搬送ラインに送る、といった制御を行うことができる。
次に、図2のフローチャートに示した画像処理(S106)および欠陥判定(S107)につき詳細に説明する。図3はプロセッサ201による画像処理(S106)および欠陥判定(S107)の制御手順をフローチャートとして示している。
図3のステップS201、S202、S203では、カメラ101により異なる照明方向で撮影した複数の画像(図4の500、600)に対して、最大値合成画像(S201)、平均値合成画像(S202)、および比較画像(S203)を生成する。ここで、図4を参照して、ステップS201、S202、S203における最大値合成画像生成処理、平均値合成画像生成処理、比較画像処理につき説明する。
図4(a)と図4(b)では、カメラ101によりそれぞれ異なる対象物Wを撮影している。図4(a)の画像500(501〜504)は、対象物Wの同一の欠陥部位をカメラ101により異なる照明方向で撮像し、得られた画像である。また、図4(b)の画像600(601〜604)は、同様に、対象物W(図4(a)とは異なる)の同一の欠陥部位をカメラ101により異なる照明方向で撮像し、得られた画像である。
なお、図4では簡略化のため、撮像された対象物Wの同一の欠陥部位は単なる楕円で表現してあるが、実際の対象物Wの欠陥部位は様々な形状を取り得る。例えばレンズのような光学部品では、線状や三日月形状、半円形状などの形状で撮影されることがある。
また、図4(a)、(b)は、対象物W(の同一部位)の複数の画像500、600と、これら複数の画像から生成した最大値合成画像(701、702)および平均値合成画像(801、802)を示している。また、図4(a)、(b)において、最大値合成画像(701、702)および平均値合成画像(801、802)から輝度値比較画像(901、902)を得る処理を示している。
そして、図4(a)は対象物(の欠陥)が散乱光強度の高い指向性を示す場合、図4(b)は対象物(の欠陥)が散乱光強度の指向性が低い場合をそれぞれ示している。散乱光強度の指向性が高い、すなわち対象物(の欠陥)の光学特性に照明方向に関する強い異方性が認められる場合には、図4(a)のようにある一方向からの照明光により撮像された画像502(のみ)が大きな輝度を有する結果となる。一方、散乱光強度の指向性が低い場合には、照明方向を変えても撮像された画像は特に照明方向に関する異方性を示すことなく、図4(b)のようにどの照明方向から得た画像(601〜604)も似たような輝度分布を示すことになる。
ここで、発明が解決しようとする課題の欄で述べたように、図4(a)の如く撮像された欠陥部位の散乱光強度の指向性が高く、照明方向に関する異方性が強い欠陥の判定には、目視検査者の高い熟練度が要求され、また、見落しも生じやすい。そして、本実施形態の画像処理は、特に図4(a)のように照明方向に関する異方性が強い欠陥部位を確実に欠陥部位として判定できるよう構成したものである。
図3のステップS201において、プロセッサ201は、異なる照明方向の照明光で得た画像(図4の500または600)から最大値合成画像を生成する。この最大値合成画像は、例えば異なる照明方向の照明光で得た画像(図4の500または600)の対応する同一画素の画素値(例えば輝度値)の最大値をその画素の代表値として取得し、この処理を全ての画素について行うことにより生成する。
また、図3のステップS202では、プロセッサ201は、異なる照明方向の照明光で得た画像(図4の500または600)から平均値合成画像を生成する。この平均値合成画像は、例えば異なる照明方向の照明光で得た画像(図4の500または600)の対応する同一画素の画素値(例えば輝度値)の平均値をその画素の代表値として取得し、この処理を全ての画素について行うことにより生成する。
図4(a)のように欠陥部位の散乱強度指向性が高い(照明方向に関する光学特性の異方性が強い)場合には、当然、上記の処理により得られた最大値合成画像701は、平均値合成画像801よりも輝度が大きな部位を有することになる。逆に、図4(b)のように欠陥部位の散乱強度指向性が低い(照明方向に関する光学特性の異方性が無い、または弱い)場合には、どの照明方向でも似たような画素値分布となる。この場合上記の処理により得られた最大値合成画像702と平均値合成画像802は似かよった画素値分布となる。
従って、最大値合成画像と平均値合成画像を生成し、さらに、最大値合成画像と平均値合成画像の比較画像を生成し(図3ステップS203)、比較画像の特性を解析(同S204以降)する。これにより、図4(a)のように散乱強度指向性が高い(照明方向に関する光学特性の異方性が強い)欠陥部位を検出できることが判る。この本実施形態の手法は、照明方向をいちいち分別することなく、単に画素ごとの最大値ないし平均値を求めてその画素の特徴量を取得し、比較する数値演算によって実施でき、大きな計算コストないし計算資源を必要としない利点がある。
ステップS203の比較画像生成では、例えば最大値合成画像と平均値合成画像の各々対応する画素について画素値(例えば輝度値)の比較値を演算し、その結果得られた値を画素の画素値(例えば輝度値)に対応させた比較画像を作成する。ここで行う画素値(輝度値)の比較演算は、画素値(輝度値)の差を取る減算演算か、あるいは商(ないし比)を取る除算演算により行うことができる。
ここで、欠陥部位の散乱強度分布の指向性が強い(照明方向に関する光学特性の異方性が強い)場合、図4(a)に示すようにある照明方向で得られた画像(502)のみ高い画素値が得られ、それ以外の方位からは輝度値を得られない。逆に欠陥部位の散乱強度分布の指向性が弱い(照明方向に関する光学特性の異方性が無い、または弱い)場合は、図4(b)に示すように全方位の照明においてほぼ一定の輝度値が得られる。従って、それぞれの条件で最大値合成画像と平均値合成画像の比較を行うと、欠陥部位の散乱強度分布の指向性が強い(照明方向に関する光学特性の異方性が強い)場合はその比較画素の画素値は高くなる。逆に欠陥部位の散乱強度分布の指向性が弱い(照明方向に関する光学特性の異方性が弱い)場合、比較画素の画素値は低くなる。
ここで、ステップS203の比較画像生成によって得られた比較画像(図4の901または902)の画素値は、単なる画素値(例えば輝度値)の比較値ではない。すなわち、比較画像(図4の901または902)の画素値は、対象物の散乱強度分布の指向性、すなわち照明方向に関する光学特性の異方性に対応する特徴量として考えることができる。
なお、ステップS203で生成した比較画像(あるいはさらにその元になっている平均値画像と最大値画像)は、適当なデータ変換を介してモニタ202で可視表示することができる。その場合、比較画像の各画素値は、必要に応じてモニタ202で可視表示可能な表示輝度値などに変換する。このようにしてモニタ202で可視表示した比較画像(あるいはさらにその元になっている平均値画像と最大値画像)は、例えば検査者が目視検査を行なう場合(あるいはそのトレーニングなどを行う場合)などの参考表示として用いることができる。
さて、発明が解決しようとする課題の欄で述べたように、目視検査で不良品として判定するためには、欠陥部位の散乱光強度が指向性が高いだけではなく、そのような欠陥部位の密度が問題とされる場合がある。例えば、この種の目視検査では、そのような欠陥部位が(例えばある程度以上の密度で)密集していることが重要視される。
もちろん、図3のステップS203までの処理を行い、比較画像の画素値の大小によって、ある程度の欠陥検出を行うことは不可能ではない。しかしながら、本実施形態は、照明方向に関する光学特性の異方性が強いだけではなく、さらに欠陥部位が(例えばある程度以上の密度で)密集していることを条件として欠陥(良否)判定を行えるようにしたものである。
そこで、図3のステップS204以降の処理は、ステップS203で作成した比較画像に対して画像処理を行い、照明方向に関する光学特性の異方性が強く、かつ(例えばある程度以上の密度で)密集した欠陥候補画素群を検出し、欠陥(良否)判定を行う。
ステップS204では、まず、ステップS203で生成した比較画像(図4の901または902)に対して、一定以上の画素値を有し、かつ比較画像の中で連続(隣り合った)した画素群を欠陥候補画素群として抽出する。ここで、上述のように、ステップS203で生成した比較画像の画素値は、欠陥部位の照明方向に関する光学特性の異方性に対応する特徴量と考えることができる。この欠陥候補画素群の抽出は、例えば、比較画像の画素(値)に対するラベリング処理によって行うことができる。
ここでラベリング処理とは、画像データを走査し、例えば所定の閾値との比較によって一定以上の画素値を有する画素を検出し、そのような画素が検出された場合には、隣接する同様の特性を有する画素に固有のラベルを付していく処理である。このようなラベリング処理の詳細は公知であるから、本実施形態においてはその詳細な説明は省略する。ステップS204においては、このラベリング処理を欠陥部位の照明方向に関する光学特性の異方性に対応する特徴量である比較画像の画素値に対して行う。
図5の左側は、ステップS204において、上記のようなラベリング処理により、一定以上の画素値を有しかつ空間的に連続することを条件として抽出された欠陥候補画素群の一例を示している。図5の左側は6x6ドットの比較画像空間において抽出された、それぞれほぼL字型に連続(隣接)した3つの欠陥候補画素群D0、D1、D2を示している。なお、図5では、図4とは逆に着色部位によって高い画素値を表現してある。
ステップS204では、さらに欠陥候補画素群D0、D1、D2を特定する特徴量を取得する。この特徴量としては、例えば、欠陥候補画素群D0、D1、D2の比較画像における位置(座標)を表す重心座標g0(x0、y0)、g1(x1、y1)、g2(x1、y2)と、各画素群の代表値を取得する。
また、欠陥候補画素群D0、D1、D2を代表する特徴量Bとしては、欠陥候補画素群D0、D1、D2の各画素の画素値を反映した値を用いる。例えば、これら画素群の各画素の画素値の平均値(あるいは累積値)などを用いることが考えられる。ここでは、欠陥候補画素群D0、D1、D2を代表する特徴量Bは、それぞれ上記の画素値の平均値(あるいは累積値)から取得した特徴量B0、B1、B2であるものとする。
次にステップS205では、比較画像の解像度よりも低解像度を有する2次元空間を準備する。例えば、このような2次元空間は、上記の欠陥候補画素群(D0、D1、D2…)を特定する特徴量を格納できるようRAM212上に所定領域を割り当てることにより用意できる。この2次元空間上は、例えば比較画像内のn×m画素の領域を2次元空間のある単位空間(1画素と考えてもよい)にマップするよう用いられる。この2次元空間の領域は、例えば比較画像のn×m画素の大きさ(ないし面積)を有する単位空間として考えることができる。
なお、図5では、簡略化のため、比較画像のn×m画素の領域と、それに対応する大きさを有する2次元空間の1つの単位空間のみを図示している。しかしながら、実際には比較画像の大きさは撮像された画像の大きさに応じて定まり、図5左側に示したサイズよりももっと大きい場合がある。従って、本実施形態の画像処理に用いる2次元空間の(例えばn×m画素の大きさを有する)単位空間は比較画像全体をカバーできる数だけ必要に応じてメモリ上に割り当てられるものとする。
図5の例は、同図左側の比較画像内のn×m画素の領域を同図右側の2次元空間の単位空間にマップする例で、この例ではn=m=6となっている。ただし、本実施形態で用いるn×mの2次元空間の1画素(ないし単位空間)の大きさは任意であり、また必ずしもn=mの正方形の領域を用いる必要はない。なお、このn×mの2次元空間は、検査者が必要に応じて画像処理システム200のユーザーインターフェースを用いるなどして対象物の検査に適切な縦横比、大きさの空間を設定できるようにしておいてもよい。
図3のステップS206〜S208のループでは次のような処理を行う。すなわち、比較画像内の欠陥候補画素群D0、D1、D2のデータが、例えばそれらの重心座標g0、g1、g2に応じて上記の2次元空間のどの単位空間に属しているかを判別する(S206)。そして、欠陥候補画素群D0、D1、D2を代表する特徴量B0、B1、B2を判別された2次元空間の特定の単位空間に付加する(S207)。
まず、ステップS206においては、比較画像内の欠陥候補画素群D0、D1、D2(…)から1つの欠陥候補画素群Dを選択し、その欠陥候補画素群が2次元空間上のどの単位空間に属するか選択する。なお、欠陥候補画素群D0、D1、D2(…)は、上記のラベリング処理の際に割り当てられたポインタアドレスの配列やリストなどを介して、順次、アドレッシング可能であるものとする。
ここで、2次元空間の1の単位空間が上記のように比較画像のn×m画素の大きさを有し、それが2次元方向にタイル状に配列されているようなアドレス配置を考える。そして、欠陥候補画素群Dの重心座標がg(x、y)であり場合、(x、y)の座標がメモリ上に(例えば2次元配列などの形式で)配列されているとする。このようなメモリ構成においては、次のような簡単なアドレス演算により、欠陥候補画素群Dを選択し、その欠陥候補画素群が2次元空間上のどの単位空間に属するか選択することができる。すなわち、欠陥候補画素群Dが属する2次元空間の単位空間Pの座標g’(x’、y’)は、次の式(1)、(2)のようなアドレス演算(除算)により求めることができる。
x’=x/n …(1)
y’=y/m …(2)
ただし、これらのアドレス除算では小数点以下は切り捨てるものとする。
次に、ステップS207では、選択した欠陥候補画素群Dの代表値である照明方向に関する光学特性の異方性に対応する特徴量Bを上記のようにして特定した2次元空間上の座標g’(x’、y’)を有する単位空間Pに付加する。実際には、この処理は、2次元空間上の座標g’(x’、y’)を有する単位空間Pを表現するメモリ領域に欠陥候補画素群Dの照明方向に関する光学特性の異方性に対応する特徴量Bを加算することによって行うことができる。
例えば、図5の欠陥候補画素群D0の照明方向に関する光学特性の異方性に対応する特徴量B0を、2次元空間の単位空間P0の特徴量(に相当するメモリアドレス)に付加する場合、B’0にB0を加算すればよい。ステップS208では、ステップS206、S207の処理を全ての欠陥候補画素群D0、D1、D2(…)に行ったか否かを判定し、全ての欠陥候補画素群を処理していなければステップS206にループして上記の処理を繰り返す。また、ステップS208で全ての欠陥候補画素群を処理したことが確認された場合にはステップS209の欠陥判定に移行する。なお、ステップS208の判定は、欠陥候補画素群D0、D1、D2(…)のポインタアドレスを格納したリストの終りに到達したか否かを検査することにより行うことができる。
以上のように、ステップS206〜S208を全ての欠陥候補画素群D0、D1、D2(…)に施すことにより、各画素群の照明方向に関する光学特性の異方性に対応する特徴量B0、B1、B2(…)を2次元空間上にマップ(写像)することができる。
例えば、図5左側の3つの欠陥候補画素群D0、D1、D2の場合、ステップS206〜S208のループ処理が終了した時点で、これらの画素群は図5右側の2次元空間の1つの単位空間P0にマップされることになる。そしてこの単位空間P0の代表値である密集した欠陥候補画素群の照明方向に関する光学特性の異方性に対応する特徴量B’0は
B’0=B0+B1+B2 …(3)
となる。なお、単位空間P0中の欠陥候補画素群D0、D1、D2を代表する座標値は例えばこれらの欠陥候補画素群D0、D1、D2の重心座標g0(x0、y0)、g1(x1、y1)、g2(x1、y2)から座標g0’(x’、y’)と求めることができる。
以上のような画像処理を終了した段階で、2次元単位空間P0を代表する密集した欠陥の照明方向に関する光学特性の異方性に対応する特徴量B’0は、この単位空間P0に集められた欠陥候補画素群D0、D1、D2(…)の特徴量の累積値となる。従って、この単位空間P0の特徴量B’0は、当然ながら、その単位空間P0に集められた欠陥候補画素群D0、D1、D2(…)の散乱光強度の指向性、ないしは照明方向に関する光学特性の異方性の大小(強弱)を反映したものとなる。
すなわち、上記の光学的な異方性が弱い欠陥候補画素群が多く集まった場合、2次元空間上の単位空間P0の特徴量B’は小さい値となる。逆に光学的な異方性が強い欠陥候補画素群が多く集まった場合は、2次元空間上の単位空間P0の特徴量B’は大きな値となる。
つまり、上記の2次元単位空間への特徴量の累積は、光学的な異方性が強い欠陥候補画素群の特徴量の累積処理を意味すると同時に、その2次元単位空間内における欠陥候補画素群の密度に対応する密度対応値を取得する処理を意味する(密度情報取得工程)。従って、この2次元単位空間に累積された特徴量の大小は、その2次元単位空間にマップされた欠陥候補画素群光学的な異方性の強さと、欠陥候補画素群の密度を反映しており、2次元単位空間に累積された特徴量の大小に基づき欠陥判定を行うことができる。
ステップS209では、上記の2次元単位空間に累積された特徴量の大小に基づき欠陥判定を行う。この欠陥判定は、例えば2次元空間の1つの単位空間P0に対して行うことができる。ここでは、例えばこの単位空間P0の特徴量B’を予め定めた閾値と比較する。そして、閾値を超える(以上の)特徴量B’を持つ単位空間P0については不良(欠陥)あり、と判定し、閾値以下の(を超えない)特徴量B’を持つ単位空間P0については不良(欠陥)なし、と判定することができる。
なお、ステップS206〜S208で比較画像の全ての欠陥候補画素群(D0、D1、D2…)を処理した場合、当然、欠陥候補画素群(D0、D1、D2…)のデータが1つ以上の2次元空間の単位空間(P0、P1…)に対してマップされる場合がある。
従って、その場合、ステップS209の欠陥判定は欠陥候補画素群(D0、D1、D2…)のデータが集積された複数の2次元空間の単位空間(P0、P1…)に対して行うことになる。その場合、例えば、2次元空間おいてしきい値を超える特徴量B’を持つ単位空間(P0、P1…)が1つでもあった場合、対象物Wを不良品と判定し、まったくない場合に良品と判定することが考えられる。このような欠陥判定は、1個所でも欠陥部位を許さない(例えばレンズのような光学部品の)厳密な欠陥判定に好適で、また現実的な判定基準と考えられる。しかしながら、欠陥判定の対象物Wの製品種別などに応じて、例えば2次元空間おいてしきい値を超える特徴量B’を持つ単位空間(P0、P1…)を数ヶ所まで許容し、それ以上は不良品と判定する、といった欠陥判定を行うようにしてもよい。
以上説明したように、例えば図1に示したようなハードウェア構成において、図2〜図5に示したような画像処理を行うことにより、小さな対象物の光学特性の撮像時の照明方向に係る異方性に基づき対象物の欠陥判定を行うことができる。本実施形態では、異なる照明方向ごとに撮像した対象物の画像から最大値合成画像、平均値合成画像、さらに最大値合成画像と平均値合成画像の比較画像を生成(第1〜第3の画像生成処理)する。そして、本実施形態では、上記比較画像は、照明方向に関する光学特性の異方性に対応する特徴量を画素値として有するものとして生成されている。従って、この本実施形態の手法は、照明方向をいちいち分別することなく、単に画素ごとの最大値ないし平均値を求めてその画素の特徴量を取得し、比較する数値演算によって実施でき、大きな計算コストないし計算資源を必要としない。
また、本実施形態では、比較画像で所定値を超える上記の特徴量に対応する画素値を有し、かつ互いに隣接した欠陥候補画素群を抽出する。そして、抽出した欠陥候補画素群の単位空間内における密度に関する密度情報を取得し、この密度情報に応じて対象物の欠陥の有無を判定する。これにより、対象物の欠陥部位の照明方向に関する光学特性の異方性のみならず、欠陥部位の密度を考慮して、確実かつ信頼性の高い欠陥判定を行うことができる。
特に、上記の欠陥候補画素群の単位空間内における密度に関しては、抽出した欠陥候補画素群を比較画像よりも低解像度な2次元単位空間に写像し、この2次元単位空間に写像された欠陥候補画素群の特徴量に対応する画素値を累積する。そして、欠陥候補画素群の2次元単位空間で累積された画素値を密度に対応する密度対応値として取得し、この密度対応値の大小に基づき対象物の欠陥の有無を判定することができる。
なお、以上の実施形態では、欠陥部位の照明方向に関する光学特性の異方性は、散乱光強度の指向性を例に説明した。しかしながら、例えば上で触れたように撮像方式を透過光撮影ではなく反射光撮影とする場合には、照明方向に関する光学特性の異方性は散乱光ではなく反射光(成分)の指向性として撮像された画像に現れる、と考えられる。従って、図1の光源102を対象物Wの上側に配置して反射光撮影を行う場合にも上述の実施形態と同様の手法によって欠陥判定を行うことができる。
また、以上の実施形態では、レンズのような光学部材を例に画像処理および欠陥判定処理につき説明した。しかしながら、本発明の光学検査技術は光学部材の欠陥判定だけではなく、上記同様に欠陥部位の光学特性の異方性と、その密度を介して欠陥判定を行うべき任意の対象物の欠陥判定に利用することができる。
上記実施形態の画像処理および欠陥判定を行う制御手順は具体的には画像処理システム200のプロセッサ201により実行される。従って上述した機能を実現するソフトウェアのプログラムを記録した記録媒体を画像処理システム200に供給し、プロセッサ201が記録媒体に格納されたプログラムを読み出し実行することによって達成されるよう構成することができる。この場合、記録媒体から読み出されたプログラム自体が上述した実施形態の機能を実現することになり、プログラム自体、ないしそのプログラムを記録した記録媒体は本発明を構成することになる。
また、上記実施形態では、コンピュータで読み取り可能な記録媒体が外部記憶装置213または他の不図示の外部記憶デバイスであるものとして説明したが、本発明はこのような形態に限定されるものではない。本発明を実施するためのプログラムは、コンピュータ読み取り可能な記録媒体であれば、いかなる記録媒体に記録されていてもよい。例えば、プログラムを供給するための記録媒体としては、着脱式のHDDやSSD、光学ディスク、各種フラッシュメモリデバイスなど、任意の外部記憶デバイスを用いることができるのはいうまでもない。
1…光学検査装置、100…画像撮像部、101…カメラ、103…ホルダ、104…フレーム部、200…画像処理システム、201…プロセッサ、202…モニタ、213…外部記憶装置

Claims (11)

  1. 対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査方法において、
    前記制御装置が実行する画像処理が、
    前記複数の画像に対して、各画素における画素値の最大値を取得して最大値合成画像を生成する第1の画像生成工程と、
    前記複数の画像に対して、各画素における画素値の平均値を取得して平均値合成画像を生成する第2の画像生成工程と、
    記最大値合成画像前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を各画素の画素値として有する比較画像を生成する第3の画像生成工程と、
    前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出する抽出工程と、
    抽出した前記欠陥候補画素群の単位空間内における密度に関する情報を取得する密度情報取得工程と、
    前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする光学検査方法。
  2. 請求項に記載の光学検査方法において、前記欠陥候補画素群を前記比較画像よりも低解像度な2次元単位空間に写像し、前記2次元単位空間に写像された前記欠陥候補画素群の画素値を累積することにより前記欠陥候補画素群の前記2次元単位空間における密度に対応する密度対応値を取得し、この密度対応値の大小に基づき前記対象物の欠陥の有無を判定することを特徴とする光学検査方法。
  3. 請求項1または2に記載の光学検査方法の各工程を前記制御装置に実行させるための特徴とする光学検査プログラム。
  4. 請求項に記載の光学検査プログラムを格納したコンピュータ読み取り可能な記録媒体。
  5. 対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査装置において、
    前記制御装置は、前記複数の画像の各画素における画素値の最大値および平均値から、それぞれ最大値合成画像および平均値合成画像を生成し、
    前記最大値合成画像前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を、各画素の画素値として有する比較画像を生成し、
    前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出し、前記欠陥候補画素群の単位空間内における密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする光学検査装置。
  6. 請求項に記載の光学検査装置において、前記欠陥候補画素群を前記比較画像よりも低解像度な2次元単位空間に写像し、前記2次元単位空間に写像された前記欠陥候補画素群の画素値を累積することにより前記欠陥候補画素群の前記2次元単位空間における密度に対応する密度対応値を取得し、この密度対応値の大小に基づき前記対象物の欠陥の有無を判定することを特徴とする光学検査装置。
  7. 光学部材の欠陥判定を行う光学部材の製造方法において、
    光学部材を形成する工程と、
    前記光学部材を対象物として請求項1または2に記載の光学検査方法の各工程を実行することにより前記光学部材の欠陥判定を行う工程と、
    含むことを特徴とする光学部材の製造方法。
  8. 対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査方法において、
    前記制御装置が、
    前記複数の画像から、前記照明方向に対して異方性を有する部位を特定する工程と、
    前記異方性を有する部位の単位空間内における密度に関する情報を取得する密度情報取得工程と、
    前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする光学検査方法。
  9. 請求項8に記載の光学検査方法の各工程を前記制御装置に実行させるための光学検査プログラム。
  10. 請求項9に記載の光学検査プログラムを格納したコンピュータ読み取り可能な記録媒体。
  11. 対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査装置において、
    前記制御装置は、前記複数の画像から、前記照明方向に対して異方性を有する部位を特定し、前記異方性を有する部位の単位空間内における密度に関する情報を取得する密度情報を取得し、取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする光学検査装置。
JP2014087946A 2014-04-22 2014-04-22 光学検査方法、光学検査装置、および光学部材の製造方法 Active JP6391281B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2014087946A JP6391281B2 (ja) 2014-04-22 2014-04-22 光学検査方法、光学検査装置、および光学部材の製造方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014087946A JP6391281B2 (ja) 2014-04-22 2014-04-22 光学検査方法、光学検査装置、および光学部材の製造方法

Publications (2)

Publication Number Publication Date
JP2015206701A JP2015206701A (ja) 2015-11-19
JP6391281B2 true JP6391281B2 (ja) 2018-09-19

Family

ID=54603588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014087946A Active JP6391281B2 (ja) 2014-04-22 2014-04-22 光学検査方法、光学検査装置、および光学部材の製造方法

Country Status (1)

Country Link
JP (1) JP6391281B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114486916A (zh) * 2022-01-26 2022-05-13 上海电机学院 基于机器视觉的手机玻璃盖板缺陷检测方法

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS55123852U (ja) * 1979-02-27 1980-09-02
JP2560539B2 (ja) * 1990-11-20 1996-12-04 日本電気株式会社 水晶薄板双晶検査装置
JPH08186808A (ja) * 1994-12-28 1996-07-16 Sumitomo Metal Ind Ltd 画像処理方法及びその装置
JP3417738B2 (ja) * 1995-09-06 2003-06-16 ペンタックス株式会社 光学部材検査装置
JP3360795B2 (ja) * 1997-03-05 2002-12-24 ペンタックス株式会社 光学部材検査装置
WO1999022224A1 (en) * 1997-10-29 1999-05-06 Vista Computer Vision Ltd. Illumination system for object inspection
JP2000028476A (ja) * 1998-07-11 2000-01-28 Masami Nishiko 光学検査方式
JP2002122555A (ja) * 2000-10-16 2002-04-26 Nippi:Kk 透明体検査用光源、透明体検査装置およびその検査方法
JP2003090805A (ja) * 2001-09-20 2003-03-28 Pentax Corp 光学部材検査方法
JP4310090B2 (ja) * 2002-09-27 2009-08-05 株式会社日立製作所 欠陥データ解析方法及びその装置並びにレビューシステム
JP4550610B2 (ja) * 2005-02-09 2010-09-22 株式会社ケー・デー・イー レンズ検査装置
DE102007006525B4 (de) * 2007-02-06 2009-05-14 Basler Ag Verfahren und Vorrichtung zur Detektierung von Defekten
US8358830B2 (en) * 2010-03-26 2013-01-22 The Boeing Company Method for detecting optical defects in transparencies

Also Published As

Publication number Publication date
JP2015206701A (ja) 2015-11-19

Similar Documents

Publication Publication Date Title
JP4150390B2 (ja) 外観検査方法及び外観検査装置
US10976656B2 (en) Defect inspection device and defect inspection method
JP5432864B2 (ja) 検査装置及び検査方法
JP6682809B2 (ja) 検査システムおよび検査方法
JP5292846B2 (ja) 観察装置と、観察方法
JP2012242281A (ja) 検出対象物の中心位置を算出する方法、装置およびプログラム
JP2008170256A (ja) 欠陥検出方法、欠陥検出プログラムおよび検査装置
JP6045429B2 (ja) 撮像装置、画像処理装置及び画像処理方法
JP2007155405A (ja) 外観検査方法及び外観検査装置
JP6391281B2 (ja) 光学検査方法、光学検査装置、および光学部材の製造方法
JP2007017364A (ja) シルエット抽出装置及び該方法並びに3次元形状データ生成装置及び該方法
JP6973205B2 (ja) 画像処理システム、画像処理装置、画像処理プログラム
JP7159624B2 (ja) 表面性状検査方法及び表面性状検査装置
JP2014062837A (ja) 欠陥検査装置及び欠陥レビュー装置
JP4956077B2 (ja) 欠陥検査装置及び欠陥検査方法
JP2010175283A (ja) 面画像生成装置
JP7293907B2 (ja) 外観検査管理システム、外観検査管理装置、外観検査管理方法及びプログラム
JP2008111705A (ja) 欠陥検出方法、欠陥検出プログラムおよび検査装置
US20220148152A1 (en) System and method for adjustable production line inspection
JPWO2020031423A1 (ja) オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
JP7306858B2 (ja) 画像検査システム及び画像検査方法
JP6662126B2 (ja) 検出装置、方法及びプログラム
JP7222795B2 (ja) 画像検査システム及び画像検査方法
JP5757157B2 (ja) 検出対象物について頭部分の位置および軸部分の方向を算出する方法、装置およびプログラム
JP5402182B2 (ja) 外観検査方法及び外観検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170421

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20180220

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180227

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180426

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180724

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180821

R151 Written notification of patent or utility model registration

Ref document number: 6391281

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151