JP6391281B2 - Optical inspection method, optical inspection device, and optical member manufacturing method - Google Patents
Optical inspection method, optical inspection device, and optical member manufacturing method Download PDFInfo
- Publication number
- JP6391281B2 JP6391281B2 JP2014087946A JP2014087946A JP6391281B2 JP 6391281 B2 JP6391281 B2 JP 6391281B2 JP 2014087946 A JP2014087946 A JP 2014087946A JP 2014087946 A JP2014087946 A JP 2014087946A JP 6391281 B2 JP6391281 B2 JP 6391281B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- defect
- optical inspection
- density
- value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
Description
本発明は、対象物を撮影して得られた画像に対して画像処理を行い、その結果に基づき前記対象物の欠陥判定を行う光学検査方法、光学検査装置、および光学部材の製造方法に関する。 The present invention relates to an optical inspection method, an optical inspection apparatus, and an optical member manufacturing method for performing image processing on an image obtained by photographing an object and determining the defect of the object based on the result.
レンズやミラーのような光学部材の製造過程において、これら光学部材の検査や検品は、製造工程内の検査者による目視検査によって行われることがある。この光学部材を不良として判定する条件に、微小な欠陥が密集した場合がある。ここで記載する微小な欠陥が密集した場合とは、光学部材の表面に、直径が数十ミクロン程のゴミやキズといった複数の微細な欠陥が、数十ミクロン程の間に近接して密集しているような状態を指す。 In the manufacturing process of optical members such as lenses and mirrors, inspection and inspection of these optical members may be performed by visual inspection by an inspector in the manufacturing process. There are cases where minute defects are densely packed under the condition for determining this optical member as defective. The case where the minute defects described here are densely packed means that a plurality of minute defects such as dust and scratches having a diameter of several tens of microns are closely gathered on the surface of the optical member between several tens of microns. Refers to the state of being.
目視検査では、検査者が、密集した欠陥が生じていると考えられる領域内の各欠陥の面積や個数を目視確認することにより、経験的に上記のような条件で欠陥判定(良否判定)を行っている。この種の目視検査は熟練を要するため、対象物(光学部材など)を撮影して得られた画像に対して画像処理を行い、目視検査の欠陥判定と同等、あるいはそれ以上に信頼性の高い検査結果を得られる光学検査装置が求められている。 In the visual inspection, the inspector visually confirms the area and number of each defect in a region where a dense defect is considered to occur, and empirically performs defect determination (good / bad determination) under the above conditions. Is going. Since this type of visual inspection requires skill, image processing is performed on an image obtained by photographing an object (such as an optical member), and is equivalent to or more reliable than the visual inspection defect determination. There is a need for an optical inspection apparatus that can obtain inspection results.
従来より、この種の目視検査を自動化するため、画像センサや画像処理システムを用いた光学検査装置が種々提案されている。たとえば、下記特許文献1の光学検査装置では、被検物の撮像画像を単位面積毎の小領域に分割し各小領域内に含まれる欠陥の個数を特徴量として用いることにより、密集した微小な欠陥を検出しようとしている。
Conventionally, in order to automate this type of visual inspection, various optical inspection apparatuses using an image sensor or an image processing system have been proposed. For example, in the optical inspection apparatus disclosed in
ところで、目視検査において、密集した欠陥の欠陥判定結果は、散乱強度分布の指向性によって異なるものとなる可能性がある。たとえば、鏡面に鋭く付けられたキズの集まりは散乱(または反射)光強度分布に強い指向性を持っており、特定の方向から照明したり観察した場合にのみ強く光って見えるため、検査者の熟練度などによっては目視検査で見落され良品と判定される場合がある。一方、ホコリや汚れなどの集まりは散乱(または反射)光強度分布の指向性が弱いため、どの方向から観察しても同じような明るさで見える。このようなホコリや汚れは、軽微であれば良品判定でも構わない場合もあるにもかかわらず、目視検査では比較的見えやすく、また、不良品と判定するのは比較的容易である。 By the way, in the visual inspection, the defect determination result of the dense defect may be different depending on the directivity of the scattering intensity distribution. For example, a collection of scratches sharply attached to the mirror surface has a strong directivity in the scattered (or reflected) light intensity distribution and appears to shine strongly only when illuminated or observed from a specific direction. Depending on the degree of skill, etc., it may be overlooked by visual inspection and judged as a non-defective product. On the other hand, a collection of dust and dirt has a low directivity of the scattered (or reflected) light intensity distribution, so that it can be viewed with the same brightness even when observed from any direction. Such dust and dirt are relatively easy to see by visual inspection and are relatively easy to determine as defective, although they may be judged as good if they are slight.
一般に、対象物(の欠陥)を特定の方向から照明したり、観察(あるいは撮影)した場合にのみ、大きな散乱ないし反射光量(あるいは輝度)が得られる場合、その対象物(の欠陥)の光学特性は異方性を有する、と言える。あるいは、その対象物(の欠陥)は光学的な異方性を有する、と言ってもよい。 In general, if a large amount of scattered light or reflected light (or luminance) is obtained only when the object (defect) is illuminated or observed (or photographed) from a specific direction, the optical property of the object (defect) is obtained. It can be said that the characteristic has anisotropy. Alternatively, it may be said that the object (defect thereof) has optical anisotropy.
そして、上記の目視検査では、対象物(の欠陥)の光学特性が強い異方性を有している場合は検査者にかなりの熟練を要し、また、熟練度が高い検査者であっても、見落としの可能性が高くなる、という傾向が認められる。 In the visual inspection described above, if the optical properties of the object (defects thereof) have strong anisotropy, the inspector requires considerable skill, and the inspector is highly skilled. However, there is a tendency that the possibility of oversight increases.
そこで、光学検査装置で欠陥判定を行う場合、目視検査の欠陥判定と同等あるいはそれ以上に高い信頼性を得るためには、例えば、目視検査で検査が難しく、見落しも生じやすい光学特性が強い異方性を示している欠陥を確実に検出できると好ましい。 Therefore, when performing defect determination with an optical inspection apparatus, in order to obtain reliability that is equal to or higher than defect determination in visual inspection, for example, inspection is difficult by visual inspection and optical characteristics that are likely to be overlooked are strong. It is preferable that a defect showing anisotropy can be reliably detected.
ところが、上記特許文献1に開示されるような従来技術では、単に密集した欠陥に含まれている個数を基準に欠陥判定を行っているだけで、散乱(あるいは反射)強度分布の指向性や上記のような光学的な異方性は考慮されていない。従って、特許文献1に記載されるような従来の画像検査技術では、(熟練した)検査者による目視検査との欠陥判定の結果にずれを生じるおそれがあり、欠陥の過検出(あるいは逆に検出失敗)を生じる可能性がある。
However, in the prior art disclosed in
そこで本発明の課題は、対象物を撮影して得られた画像に対して画像処理を行い、その結果に基づき前記対象物の欠陥判定を行う光学検査において、対象物の光学特性の照明方向に係る異方性に基づき対象物の欠陥判定を行えるようにすることにある。 Therefore, an object of the present invention is to perform image processing on an image obtained by photographing an object, and in an optical inspection in which the defect of the object is determined based on the result, in the illumination direction of the optical characteristic of the object. An object of the present invention is to enable a defect determination of an object based on such anisotropy.
上記課題を解決するため、本発明は、対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査方法において、前記制御装置が実行する画像処理が、前記複数の画像に対して、各画素における画素値の最大値を取得して最大値合成画像を生成する第1の画像生成工程と、前記複数の画像に対して、各画素における画素値の平均値を取得して平均値合成画像を生成する第2の画像生成工程と、前記最大値合成画像と前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を各画素の画素値として有する比較画像を生成する第3の画像生成工程と、前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出する抽出工程と、抽出した前記欠陥候補画素群の単位空間内における密度に関する情報を取得する密度情報取得工程と、前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする。 To solve the above problems, the present invention illuminates an object different from the plurality of illumination directions, the control for a plurality of images of the object obtained by imaging for each of the plurality of illumination directions by the imaging means device performs image processing by acquiring the optical inspection method for determining the presence or absence of a defect of the object, the image processing by the control device to be executed, to the plurality of images, the maximum value of the pixel values in each pixel first image generation step, to the plurality of images, the second image generation step of generating an average composite image to obtain the average value of the pixel values in each pixel to generate a maximum combined images by If a third image generating step of generating a comparison image with comparison values obtained by comparing the pixel values between corresponding pixels of the previous SL maximum composite image the mean value combined image as a pixel value of each pixel , whether the comparative image An extraction step of extracting defect candidate pixel groups that have pixel values exceeding a predetermined value and are adjacent to each other; and a density information acquisition step of acquiring information on the density of the extracted defect candidate pixel groups in a unit space; And a determination step of determining the presence or absence of a defect of the object according to information on the density acquired in the density information acquisition step .
また、本発明は、対象物を互いに異なる複数の照明方向から照明し、撮像手段により前記複数の照明方向ごとに撮像して取得した前記対象物の複数の画像に対して制御装置により画像処理を行い、前記対象物の欠陥の有無を判定する光学検査装置において、前記制御装置は、前記複数の画像の各画素における画素値の最大値および平均値から、それぞれ最大値合成画像および平均値合成画像を生成し、前記最大値合成画像と前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を、各画素の画素値として有する比較画像を生成し、前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出し、前記欠陥候補画素群の単位空間内における密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする。 Further, the present invention illuminates an object different from the plurality of illumination directions, the image processing by the control device for a plurality of images of the object obtained by imaging for each of the plurality of illumination directions by the imaging means performed, the optical inspection device determines the presence or absence of a defect of the object, wherein the control device, the maximum and average values of the pixel values in each pixel of the plurality of images, the maximum value respectively synthesized image and the average composite image And generating a comparison image having a comparison value obtained by comparing pixel values between corresponding pixels of the maximum value synthesized image and the average value synthesized image as a pixel value of each pixel. , a pixel value exceeding a predetermined value, and extracts the defect candidate pixel group adjacent to each other chromatic defects of the object in accordance with information about the density in the defect candidate pixel group unit space And judging a.
上記構成によれば、異なる照明方向ごとに撮像した画像から最大値合成画像、平均値合成画像、さらに最大値合成画像と平均値合成画像の比較画像を生成し、対象物の光学特性の撮像時の照明方向に係る異方性に基づき対象物の欠陥判定を行うことができる。 According to the above configuration, the maximum value composite image, the average value composite image, and the comparison image of the maximum value composite image and the average value composite image are generated from the images captured for different illumination directions, and the optical characteristics of the object are captured. The defect determination of the object can be performed based on the anisotropy related to the illumination direction.
以下、添付図面を参照して本発明を実施するに好適な実施の形態につき詳細に説明する。 DESCRIPTION OF EXEMPLARY EMBODIMENTS Hereinafter, embodiments suitable for carrying out the invention will be described in detail with reference to the accompanying drawings.
図1は本発明の実施形態としての光学検査方法を実行する光学検査装置1の概略構成を示している。図1の光学検査装置1は、画像撮像部100と画像処理システム200を備えている。図1の光学検査装置1は、対象物Wが、光透過性(ないし半透過性)を有する部材、たとえばレンズのような光学部材である場合を想定した構成となっている。
FIG. 1 shows a schematic configuration of an
図1において、画像撮像部100は、カメラ101、光源102、対象物Wを載置するホルダ103を有している。カメラ101、光源102、ホルダ103は、フレーム部104に対して所定の位置関係で固定されている。
In FIG. 1, the
なお、レンズのような光学部材を対象物Wとして扱う場合、図1の光学検査装置1は、対象物W(例えばレンズ)を形成する製造ラインの一部に配置することができる。例えば、光学検査装置1はそのような検査が必要となる製造ライン上の位置、レンズを形成、研磨するラインの下流に配置することができる。その場合、検査すべきレンズは不図示の搬送機構(例えばロボット装置など)を用いてホルダ103に載置され、光学検査装置1に順次供給され、検査される。
When an optical member such as a lens is handled as the object W, the
カメラ101は、対物レンズユニット101aと、撮像素子としてのセンサ部101b、あるいはさらに不図示のシャッタ機構などから構成される。カメラ101のセンサ部101bはCCDセンサやCMOSセンサなどから構成される。対象物Wを光学検査する際、カメラ101による対象物Wの撮像タイミングは、制御装置、例えば後述の画像処理システム200のプロセッサ201によって制御される。
The
光源102は、対象物Wを異なる方向から照明して、各照明方向ごとにカメラ101により対象物Wの複数の画像を撮影できるよう構成する。このために、光源102は、例えば光源素子として、例えば複数のLED光源を用いて構成することができる。例えば、図1の構成では、光源102の各光源素子は、射出した光が対象物Wに斜めに入射するよう、かつ射出端面が環状に均等に並ぶように対象物Wの下方に配置されている。このように対象物Wを異なる方向から照明してそれぞれの照明方向ごとに撮影を行うことにより、カメラ101で撮影した各画像にはそれぞれ散乱方位の異なる散乱光成分を記録することができる。
The
なお、図1の構成は、対象物Wを(主に)透過光で撮影するような照明方向となるよう光源102はカメラ101に対して対象物Wの反対側に配置している。しかしながら、対象物Wを(主に)反射光で撮影するような照明方向となるよう、例えば図1の対象物Wの上側の、カメラ101と同じ側に配置する構成も考えられる。また、透過光撮影と反射光撮影を切り換えることができるよう、図1の光源102の位置を対象物Wの下側か上側のいずれかに設定可能な例えば揺動機構(不図示)などを追加しておく構成も考えられる。
In the configuration of FIG. 1, the
画像処理システム200は、後述の画像処理全体を制御する制御装置としてのプロセッサ201を有する。画像処理システム200は、例えばPC(パーソナルコンピュータ)などのハードウェアを利用して構成することができる。画像処理システム200は、主制御部としてのプロセッサ201の他、例えばROM211、RAM212、カメラ101からの画像データ入力や、モニタ202への表示画像出力に用いられるインターフェース214を有する。なお、インターフェース214は簡略化のため単一のブロックにより示してあるが、例えばカメラ101とモニタ202では、入出力信号の仕様などが異なる別体のインターフェースカードなどが用いられるのはいうまでもない。モニタ202は、画像撮像部100より送信された画像データやプロセッサ201による画像処理結果(あるいはその途中の処理状況など)を表示するために用いることができる。
The
また、画像処理システム200には、例えばHDD、SSD、あるいは他の任意の外部記憶デバイスから構成された外部記憶装置213を設けてある。外部記憶装置213は、プロセッサ201の仮想記憶領域などとして用いられる他、後述の画像処理および欠陥判定を制御するためのプロセッサ201により実行可能なプログラムの格納に用いられる。この本実施形態に係るプログラムは、外部記憶装置213に限られず、例えば上記のROM211などに格納しておいてもよい。また、本実施形態に係るプログラムは、DVDやCDROM、各種フラッシュメモリなどの着脱自在な外部記憶デバイスに格納した状態で画像処理システム200に導入し、プロセッサ201により実行させることもできる。なお、外部記憶装置213や他の外部記憶デバイスに格納されたプログラムは、通常、RAM212の所定領域に展開され、実行される。
Further, the
また、画像処理システム200には、キーボードやポインティングデバイス(マウスその他のデバイス)、音声入出力手段などから成る不図示のユーザーインターフェース手段が接続される。このユーザーインターフェース手段は、検査者が光学検査処理を開始、終了させたり、光学検査処理の細部の設定変更を行うのに用いられる。
The
後述の光学検査処理において、画像処理システム200のプロセッサ201は、光源102の照明方向を制御しつつ、カメラ101によりそれぞれ異なる照明方向を持つ照明光により対象物Wを撮像させる。また、プロセッサ201は、それぞれ異なる照明方向を持つ照明光により撮像した対象物Wの複数の画像に対して後述の画像処理を行い、その画像処理結果に基づき、対象物Wの欠陥判定を行う。この欠陥判定とは、いわゆる良否判定、例えば、対象物Wを(例えば出荷基準を満たす)良品であるか、あるいは(例えば同基準を満たさない)不良品であるかの判定である。
In the optical inspection process described later, the
この欠陥判定のためのプロセッサ201による画像処理には、後述の最大値合成画像、平均値合成画像、および比較画像をそれぞれ生成する第1の画像生成工程、第2の画像生成工程、および第3の画像生成工程が含まれる。特に、第3の画像生成工程の画像生成においては、対象物の光学特性の照明方向に係る異方性に対応する特徴量を画素値として有する比較画像を生成する。また、本実施形態の同画像処理には、上記の比較画像に対する特徴量演算の結果に応じて対象物Wの欠陥の有無を判定する欠陥判定工程が含まれる。また、この欠陥判定工程においては、比較画像の中で所定値を超える画素値を有し互いに隣接した欠陥候補画素群を抽出する処理が含まれる。そして、例えば、抽出した複数の欠陥候補画素群を比較画像よりも低解像度な2次元単位空間に写像し、この2次元単位空間に写像された欠陥候補画素群の画素値を累積して得た特徴量の大小に基づき対象物の欠陥の有無を判定することができる。
The image processing performed by the
以上のように構成された光学検査装置1による、対象物Wの光学検査手順につき説明する。図2は光学検査装置1による光学検査手順の全体の流れを示している。また、図3は図2の光学検査手順における画像処理および欠陥判定処理を詳細に示している。図2および図3の光学検査手順は、プロセッサ201のプログラムとして記述することができる。この光学検査プログラムは、上記のように外部記憶装置213に格納しておくか、あるいは他の記憶デバイスを介して画像処理システム200に供給することができる。この場合、外部記憶装置213や上記記憶デバイスはコンピュータ読み取り可能な記録媒体を構成する。
An optical inspection procedure for the object W by the
光学検査装置1が起動すると、最初にステップS101が実行され、対象物Wを載置されたホルダ103が供給される。対象物Wは例えばレンズなどの光学部材であって、その場合、搬送装置(不図示)などによってホルダ103に載置され、図1の検査位置に供給される。続いて、ステップS102に進み、光源102に取り付けられているLED光源を1つ選択して点灯させる。光源102からの光によって照明された対象物Wに欠陥がある場合、欠陥部位は光を散乱させてその部分のみを明るく浮かび上がらせることになる。
When the
ステップS103では、ステップS102で形成された照明状態においてカメラ101により対象物Wを撮影する。カメラ101の対物レンズユニット101aにより対象物Wの像は、センサ部101bで結像する。プロセッサ201の制御によって決定された撮像タイミングでカメラ101の各部が駆動されて撮像が行われ、撮像が終了すると、ステップS104において点灯しているLEDを消灯する。
In step S103, the object W is imaged by the
ステップS102の光源102の照明方向の選択、およびその照明方向からの照明光による対象物Wの撮像は、ステップS105で終了条件が成立するまで順次繰り返される。すなわち、ステップS105では、対象物Wを取り囲むように取り付けられている光源102の各LED光源が、全方位すべて点灯して撮像を行ったどうかを判定する。対象物Wの撮像が終了した場合(ステップS105:YES)は、ステップS106に進み、画像処理を行う。対象物Wの撮像がまだ終了していなければ(ステップS105:NO)ステップS102に戻り、引き続き光源102による照明方向を順次変更しながらカメラ101による撮像を続行する。
The selection of the illumination direction of the
上記のようにして対象物Wを撮像して得られた画像は、デジタル画像データとして画像処理システム200に送信される。ステップS106では、プロセッサ201はこのデジタル画像データに対して後述の画像処理を加え、ステップS107においてその画像処理結果に基づき欠陥判定を行う。この画像処理(S106)および欠陥判定(S107)については、図3〜図5を参照して後で詳細に説明する。
The image obtained by imaging the object W as described above is transmitted to the
ステップS107の欠陥判定により、対象物Wが良品であるか(ステップS108)、不良品であるか(ステップS109)を判別できる。この判定結果は例えばモニタ202に表示して検査者(作業者)に報知する他、外部記憶装置213に用意した光学検査結果記録用のデータベースなどに記録することができる。
Based on the defect determination in step S107, it can be determined whether the object W is a non-defective product (step S108) or a defective product (step S109). The determination result can be displayed, for example, on the
上記の処理が終了した後、対象物Wを載置したホルダ103は不図示の搬送機構(例えばロボット装置など)を介して光学検査装置1から取り出されれる。なお、この段階において、光学部品の製造システムなどでは、ステップS107〜S109の結果に応じて対象物Wの搬送先を変更するような制御を行うことができる。例えば、対象物Wは良品と判定された場合、通常の製造ラインへ搬送し、不良品と判定された場合は通常の製造ラインから外し別の搬送ラインに送る、といった制御を行うことができる。
After the above process is completed, the
次に、図2のフローチャートに示した画像処理(S106)および欠陥判定(S107)につき詳細に説明する。図3はプロセッサ201による画像処理(S106)および欠陥判定(S107)の制御手順をフローチャートとして示している。
Next, the image processing (S106) and defect determination (S107) shown in the flowchart of FIG. 2 will be described in detail. FIG. 3 is a flowchart showing a control procedure of image processing (S106) and defect determination (S107) by the
図3のステップS201、S202、S203では、カメラ101により異なる照明方向で撮影した複数の画像(図4の500、600)に対して、最大値合成画像(S201)、平均値合成画像(S202)、および比較画像(S203)を生成する。ここで、図4を参照して、ステップS201、S202、S203における最大値合成画像生成処理、平均値合成画像生成処理、比較画像処理につき説明する。
In steps S201, S202, and S203 of FIG. 3, the maximum value composite image (S201) and the average value composite image (S202) are obtained with respect to a plurality of images (500 and 600 in FIG. 4) captured by the
図4(a)と図4(b)では、カメラ101によりそれぞれ異なる対象物Wを撮影している。図4(a)の画像500(501〜504)は、対象物Wの同一の欠陥部位をカメラ101により異なる照明方向で撮像し、得られた画像である。また、図4(b)の画像600(601〜604)は、同様に、対象物W(図4(a)とは異なる)の同一の欠陥部位をカメラ101により異なる照明方向で撮像し、得られた画像である。
In FIGS. 4A and 4B, different objects W are photographed by the
なお、図4では簡略化のため、撮像された対象物Wの同一の欠陥部位は単なる楕円で表現してあるが、実際の対象物Wの欠陥部位は様々な形状を取り得る。例えばレンズのような光学部品では、線状や三日月形状、半円形状などの形状で撮影されることがある。 In FIG. 4, for the sake of simplification, the same defective portion of the imaged object W is represented by a simple ellipse, but the actual defective portion of the object W can take various shapes. For example, an optical component such as a lens may be photographed in a linear shape, a crescent shape, a semicircular shape, or the like.
また、図4(a)、(b)は、対象物W(の同一部位)の複数の画像500、600と、これら複数の画像から生成した最大値合成画像(701、702)および平均値合成画像(801、802)を示している。また、図4(a)、(b)において、最大値合成画像(701、702)および平均値合成画像(801、802)から輝度値比較画像(901、902)を得る処理を示している。
4A and 4B show a plurality of
そして、図4(a)は対象物(の欠陥)が散乱光強度の高い指向性を示す場合、図4(b)は対象物(の欠陥)が散乱光強度の指向性が低い場合をそれぞれ示している。散乱光強度の指向性が高い、すなわち対象物(の欠陥)の光学特性に照明方向に関する強い異方性が認められる場合には、図4(a)のようにある一方向からの照明光により撮像された画像502(のみ)が大きな輝度を有する結果となる。一方、散乱光強度の指向性が低い場合には、照明方向を変えても撮像された画像は特に照明方向に関する異方性を示すことなく、図4(b)のようにどの照明方向から得た画像(601〜604)も似たような輝度分布を示すことになる。 4A shows a case where the object (defect) has high directivity with high scattered light intensity, and FIG. 4B shows a case where the object (defect) has low directivity of scattered light intensity. Show. When the scattered light intensity has high directivity, that is, when strong anisotropy with respect to the illumination direction is recognized in the optical characteristics of the object (defects thereof), illumination light from one direction as shown in FIG. As a result, the captured image 502 (only) has a high luminance. On the other hand, when the scattered light intensity has a low directivity, the captured image does not exhibit anisotropy with respect to the illumination direction even when the illumination direction is changed, and can be obtained from any illumination direction as shown in FIG. The images (601 to 604) also show similar luminance distributions.
ここで、発明が解決しようとする課題の欄で述べたように、図4(a)の如く撮像された欠陥部位の散乱光強度の指向性が高く、照明方向に関する異方性が強い欠陥の判定には、目視検査者の高い熟練度が要求され、また、見落しも生じやすい。そして、本実施形態の画像処理は、特に図4(a)のように照明方向に関する異方性が強い欠陥部位を確実に欠陥部位として判定できるよう構成したものである。 Here, as described in the column of the problem to be solved by the invention, the defect portion imaged as shown in FIG. 4A has high directivity of the scattered light intensity and has a strong anisotropy in the illumination direction. The determination requires a high level of skill of the visual inspector and is likely to be overlooked. The image processing according to the present embodiment is configured so that a defective part having strong anisotropy with respect to the illumination direction as shown in FIG.
図3のステップS201において、プロセッサ201は、異なる照明方向の照明光で得た画像(図4の500または600)から最大値合成画像を生成する。この最大値合成画像は、例えば異なる照明方向の照明光で得た画像(図4の500または600)の対応する同一画素の画素値(例えば輝度値)の最大値をその画素の代表値として取得し、この処理を全ての画素について行うことにより生成する。
In step S201 in FIG. 3, the
また、図3のステップS202では、プロセッサ201は、異なる照明方向の照明光で得た画像(図4の500または600)から平均値合成画像を生成する。この平均値合成画像は、例えば異なる照明方向の照明光で得た画像(図4の500または600)の対応する同一画素の画素値(例えば輝度値)の平均値をその画素の代表値として取得し、この処理を全ての画素について行うことにより生成する。
In step S202 in FIG. 3, the
図4(a)のように欠陥部位の散乱強度指向性が高い(照明方向に関する光学特性の異方性が強い)場合には、当然、上記の処理により得られた最大値合成画像701は、平均値合成画像801よりも輝度が大きな部位を有することになる。逆に、図4(b)のように欠陥部位の散乱強度指向性が低い(照明方向に関する光学特性の異方性が無い、または弱い)場合には、どの照明方向でも似たような画素値分布となる。この場合上記の処理により得られた最大値合成画像702と平均値合成画像802は似かよった画素値分布となる。
When the scattering intensity directivity of the defect site is high as shown in FIG. 4A (the optical characteristic anisotropy with respect to the illumination direction is strong), naturally, the maximum value
従って、最大値合成画像と平均値合成画像を生成し、さらに、最大値合成画像と平均値合成画像の比較画像を生成し(図3ステップS203)、比較画像の特性を解析(同S204以降)する。これにより、図4(a)のように散乱強度指向性が高い(照明方向に関する光学特性の異方性が強い)欠陥部位を検出できることが判る。この本実施形態の手法は、照明方向をいちいち分別することなく、単に画素ごとの最大値ないし平均値を求めてその画素の特徴量を取得し、比較する数値演算によって実施でき、大きな計算コストないし計算資源を必要としない利点がある。 Therefore, a maximum value synthesized image and an average value synthesized image are generated, and further, a comparison image between the maximum value synthesized image and the average value synthesized image is generated (step S203 in FIG. 3), and the characteristics of the comparative image are analyzed (after S204). To do. Thereby, it can be seen that a defect site having a high scattering intensity directivity (a strong anisotropy of optical characteristics with respect to the illumination direction) can be detected as shown in FIG. The method of this embodiment can be carried out by simply calculating the maximum value or the average value for each pixel to obtain the feature amount of the pixel without dividing the illumination direction one by one, and can be carried out by a numerical operation for comparison, with a large calculation cost or There is an advantage of not requiring computational resources.
ステップS203の比較画像生成では、例えば最大値合成画像と平均値合成画像の各々対応する画素について画素値(例えば輝度値)の比較値を演算し、その結果得られた値を画素の画素値(例えば輝度値)に対応させた比較画像を作成する。ここで行う画素値(輝度値)の比較演算は、画素値(輝度値)の差を取る減算演算か、あるいは商(ないし比)を取る除算演算により行うことができる。 In the comparison image generation in step S203, for example, a comparison value of pixel values (for example, luminance values) is calculated for the corresponding pixels of the maximum value synthesized image and the average value synthesized image, and the resulting value is used as the pixel value ( For example, a comparison image corresponding to the luminance value) is created. The pixel value (luminance value) comparison operation performed here can be performed by a subtraction operation that takes a difference between pixel values (luminance values) or a division operation that takes a quotient (or ratio).
ここで、欠陥部位の散乱強度分布の指向性が強い(照明方向に関する光学特性の異方性が強い)場合、図4(a)に示すようにある照明方向で得られた画像(502)のみ高い画素値が得られ、それ以外の方位からは輝度値を得られない。逆に欠陥部位の散乱強度分布の指向性が弱い(照明方向に関する光学特性の異方性が無い、または弱い)場合は、図4(b)に示すように全方位の照明においてほぼ一定の輝度値が得られる。従って、それぞれの条件で最大値合成画像と平均値合成画像の比較を行うと、欠陥部位の散乱強度分布の指向性が強い(照明方向に関する光学特性の異方性が強い)場合はその比較画素の画素値は高くなる。逆に欠陥部位の散乱強度分布の指向性が弱い(照明方向に関する光学特性の異方性が弱い)場合、比較画素の画素値は低くなる。 Here, when the directivity of the scattering intensity distribution at the defect site is strong (the optical property anisotropy in the illumination direction is strong), only the image (502) obtained in a certain illumination direction as shown in FIG. High pixel values can be obtained, and luminance values cannot be obtained from other directions. On the other hand, when the directivity of the scattering intensity distribution at the defect site is weak (there is no or weak optical property anisotropy with respect to the illumination direction), as shown in FIG. A value is obtained. Therefore, when the maximum value composite image and the average value composite image are compared with each other, if the directivity of the scattering intensity distribution at the defect site is strong (the optical characteristic anisotropy in the illumination direction is strong), the comparison pixel The pixel value of becomes higher. On the other hand, when the directivity of the scattering intensity distribution at the defective portion is weak (the optical property anisotropy with respect to the illumination direction is weak), the pixel value of the comparison pixel is low.
ここで、ステップS203の比較画像生成によって得られた比較画像(図4の901または902)の画素値は、単なる画素値(例えば輝度値)の比較値ではない。すなわち、比較画像(図4の901または902)の画素値は、対象物の散乱強度分布の指向性、すなわち照明方向に関する光学特性の異方性に対応する特徴量として考えることができる。 Here, the pixel value of the comparison image (901 or 902 in FIG. 4) obtained by the comparison image generation in step S203 is not a simple comparison value of pixel values (for example, luminance values). That is, the pixel value of the comparative image (901 or 902 in FIG. 4) can be considered as a feature amount corresponding to the directivity of the scattering intensity distribution of the target object, that is, the anisotropy of the optical characteristics related to the illumination direction.
なお、ステップS203で生成した比較画像(あるいはさらにその元になっている平均値画像と最大値画像)は、適当なデータ変換を介してモニタ202で可視表示することができる。その場合、比較画像の各画素値は、必要に応じてモニタ202で可視表示可能な表示輝度値などに変換する。このようにしてモニタ202で可視表示した比較画像(あるいはさらにその元になっている平均値画像と最大値画像)は、例えば検査者が目視検査を行なう場合(あるいはそのトレーニングなどを行う場合)などの参考表示として用いることができる。
Note that the comparison image generated in step S203 (or the average value image and the maximum value image that are based on the comparison image) can be visually displayed on the
さて、発明が解決しようとする課題の欄で述べたように、目視検査で不良品として判定するためには、欠陥部位の散乱光強度が指向性が高いだけではなく、そのような欠陥部位の密度が問題とされる場合がある。例えば、この種の目視検査では、そのような欠陥部位が(例えばある程度以上の密度で)密集していることが重要視される。 Now, as described in the section of the problem to be solved by the invention, in order to determine as a defective product by visual inspection, not only the scattered light intensity of the defective part is high in directivity but also such defective part. Density may be a problem. For example, in this type of visual inspection, it is emphasized that such defective portions are densely packed (for example, at a density of a certain level or more).
もちろん、図3のステップS203までの処理を行い、比較画像の画素値の大小によって、ある程度の欠陥検出を行うことは不可能ではない。しかしながら、本実施形態は、照明方向に関する光学特性の異方性が強いだけではなく、さらに欠陥部位が(例えばある程度以上の密度で)密集していることを条件として欠陥(良否)判定を行えるようにしたものである。 Of course, it is not impossible to detect a certain amount of defects by performing the processing up to step S203 in FIG. 3 and determining the pixel value of the comparison image. However, in this embodiment, not only the anisotropy of the optical characteristics regarding the illumination direction is strong, but also the defect (good or bad) determination can be performed on the condition that the defect sites are dense (for example, at a density of a certain level). It is a thing.
そこで、図3のステップS204以降の処理は、ステップS203で作成した比較画像に対して画像処理を行い、照明方向に関する光学特性の異方性が強く、かつ(例えばある程度以上の密度で)密集した欠陥候補画素群を検出し、欠陥(良否)判定を行う。 Therefore, in the processing after step S204 in FIG. 3, image processing is performed on the comparative image created in step S203, and the optical characteristic anisotropy with respect to the illumination direction is strong and dense (for example, at a certain density or more). A defect candidate pixel group is detected and a defect (good or bad) determination is performed.
ステップS204では、まず、ステップS203で生成した比較画像(図4の901または902)に対して、一定以上の画素値を有し、かつ比較画像の中で連続(隣り合った)した画素群を欠陥候補画素群として抽出する。ここで、上述のように、ステップS203で生成した比較画像の画素値は、欠陥部位の照明方向に関する光学特性の異方性に対応する特徴量と考えることができる。この欠陥候補画素群の抽出は、例えば、比較画像の画素(値)に対するラベリング処理によって行うことができる。 In step S204, first, a group of pixels having a pixel value equal to or greater than a certain value and continuous (adjacent) in the comparison image with respect to the comparison image (901 or 902 in FIG. 4) generated in step S203. Extracted as a defect candidate pixel group. Here, as described above, the pixel value of the comparison image generated in step S203 can be considered as a feature amount corresponding to the anisotropy of the optical characteristics related to the illumination direction of the defective part. The extraction of the defect candidate pixel group can be performed, for example, by a labeling process for pixels (values) of the comparison image.
ここでラベリング処理とは、画像データを走査し、例えば所定の閾値との比較によって一定以上の画素値を有する画素を検出し、そのような画素が検出された場合には、隣接する同様の特性を有する画素に固有のラベルを付していく処理である。このようなラベリング処理の詳細は公知であるから、本実施形態においてはその詳細な説明は省略する。ステップS204においては、このラベリング処理を欠陥部位の照明方向に関する光学特性の異方性に対応する特徴量である比較画像の画素値に対して行う。 Here, the labeling process refers to scanning image data, detecting pixels having a pixel value equal to or greater than a certain value, for example, by comparison with a predetermined threshold, and if such pixels are detected, the adjacent similar characteristics are detected. This is a process of attaching a unique label to pixels having. Since details of such a labeling process are known, a detailed description thereof will be omitted in the present embodiment. In step S204, this labeling process is performed on the pixel value of the comparison image, which is a feature amount corresponding to the anisotropy of the optical characteristics regarding the illumination direction of the defective part.
図5の左側は、ステップS204において、上記のようなラベリング処理により、一定以上の画素値を有しかつ空間的に連続することを条件として抽出された欠陥候補画素群の一例を示している。図5の左側は6x6ドットの比較画像空間において抽出された、それぞれほぼL字型に連続(隣接)した3つの欠陥候補画素群D0、D1、D2を示している。なお、図5では、図4とは逆に着色部位によって高い画素値を表現してある。 The left side of FIG. 5 shows an example of a defect candidate pixel group extracted in step S204 on the condition that it has a pixel value of a certain level or more and is spatially continuous by the labeling process as described above. The left side of FIG. 5 shows three defect candidate pixel groups D0, D1, and D2 that are extracted in a 6 × 6 dot comparative image space and that are each continuous (adjacent) in a substantially L shape. In FIG. 5, a high pixel value is represented by a colored portion, contrary to FIG. 4.
ステップS204では、さらに欠陥候補画素群D0、D1、D2を特定する特徴量を取得する。この特徴量としては、例えば、欠陥候補画素群D0、D1、D2の比較画像における位置(座標)を表す重心座標g0(x0、y0)、g1(x1、y1)、g2(x1、y2)と、各画素群の代表値を取得する。 In step S204, feature quantities that further specify the defect candidate pixel groups D0, D1, and D2 are acquired. As this feature amount, for example, barycentric coordinates g0 (x0, y0), g1 (x1, y1), g2 (x1, y2) representing positions (coordinates) in the comparison image of the defect candidate pixel groups D0, D1, and D2 The representative value of each pixel group is acquired.
また、欠陥候補画素群D0、D1、D2を代表する特徴量Bとしては、欠陥候補画素群D0、D1、D2の各画素の画素値を反映した値を用いる。例えば、これら画素群の各画素の画素値の平均値(あるいは累積値)などを用いることが考えられる。ここでは、欠陥候補画素群D0、D1、D2を代表する特徴量Bは、それぞれ上記の画素値の平均値(あるいは累積値)から取得した特徴量B0、B1、B2であるものとする。 Further, as the feature amount B representing the defect candidate pixel groups D0, D1, and D2, values that reflect the pixel values of the pixels of the defect candidate pixel groups D0, D1, and D2 are used. For example, it is conceivable to use an average value (or cumulative value) of pixel values of each pixel of these pixel groups. Here, it is assumed that the feature values B representing the defect candidate pixel groups D0, D1, and D2 are the feature values B0, B1, and B2 obtained from the average values (or accumulated values) of the pixel values.
次にステップS205では、比較画像の解像度よりも低解像度を有する2次元空間を準備する。例えば、このような2次元空間は、上記の欠陥候補画素群(D0、D1、D2…)を特定する特徴量を格納できるようRAM212上に所定領域を割り当てることにより用意できる。この2次元空間上は、例えば比較画像内のn×m画素の領域を2次元空間のある単位空間(1画素と考えてもよい)にマップするよう用いられる。この2次元空間の領域は、例えば比較画像のn×m画素の大きさ(ないし面積)を有する単位空間として考えることができる。
In step S205, a two-dimensional space having a resolution lower than that of the comparison image is prepared. For example, such a two-dimensional space can be prepared by allocating a predetermined area on the
なお、図5では、簡略化のため、比較画像のn×m画素の領域と、それに対応する大きさを有する2次元空間の1つの単位空間のみを図示している。しかしながら、実際には比較画像の大きさは撮像された画像の大きさに応じて定まり、図5左側に示したサイズよりももっと大きい場合がある。従って、本実施形態の画像処理に用いる2次元空間の(例えばn×m画素の大きさを有する)単位空間は比較画像全体をカバーできる数だけ必要に応じてメモリ上に割り当てられるものとする。 In FIG. 5, for simplification, only an n × m pixel region of the comparison image and one unit space of a two-dimensional space having a size corresponding to the region are illustrated. However, in practice, the size of the comparison image is determined according to the size of the captured image, and may be larger than the size shown on the left side of FIG. Accordingly, it is assumed that a unit space (for example, having a size of n × m pixels) of the two-dimensional space used for the image processing of the present embodiment is allocated on the memory as necessary so as to cover the entire comparison image.
図5の例は、同図左側の比較画像内のn×m画素の領域を同図右側の2次元空間の単位空間にマップする例で、この例ではn=m=6となっている。ただし、本実施形態で用いるn×mの2次元空間の1画素(ないし単位空間)の大きさは任意であり、また必ずしもn=mの正方形の領域を用いる必要はない。なお、このn×mの2次元空間は、検査者が必要に応じて画像処理システム200のユーザーインターフェースを用いるなどして対象物の検査に適切な縦横比、大きさの空間を設定できるようにしておいてもよい。
The example of FIG. 5 is an example in which an area of n × m pixels in the comparison image on the left side of the figure is mapped to a unit space of the two-dimensional space on the right side of the figure. In this example, n = m = 6. However, the size of one pixel (or unit space) in the n × m two-dimensional space used in the present embodiment is arbitrary, and it is not always necessary to use a square region of n = m. The n × m two-dimensional space allows an inspector to set a space with an aspect ratio and size suitable for inspection of an object by using the user interface of the
図3のステップS206〜S208のループでは次のような処理を行う。すなわち、比較画像内の欠陥候補画素群D0、D1、D2のデータが、例えばそれらの重心座標g0、g1、g2に応じて上記の2次元空間のどの単位空間に属しているかを判別する(S206)。そして、欠陥候補画素群D0、D1、D2を代表する特徴量B0、B1、B2を判別された2次元空間の特定の単位空間に付加する(S207)。 In the loop of steps S206 to S208 in FIG. 3, the following processing is performed. That is, it is determined to which unit space of the two-dimensional space the data of the defect candidate pixel groups D0, D1, and D2 in the comparison image belongs, for example, according to their barycentric coordinates g0, g1, and g2 (S206). ). Then, feature amounts B0, B1, and B2 representing the defect candidate pixel groups D0, D1, and D2 are added to the specific unit space of the determined two-dimensional space (S207).
まず、ステップS206においては、比較画像内の欠陥候補画素群D0、D1、D2(…)から1つの欠陥候補画素群Dを選択し、その欠陥候補画素群が2次元空間上のどの単位空間に属するか選択する。なお、欠陥候補画素群D0、D1、D2(…)は、上記のラベリング処理の際に割り当てられたポインタアドレスの配列やリストなどを介して、順次、アドレッシング可能であるものとする。 First, in step S206, one defect candidate pixel group D is selected from the defect candidate pixel groups D0, D1, D2 (...) In the comparison image, and in which unit space in the two-dimensional space the defect candidate pixel group is located. Select whether to belong. It is assumed that the defect candidate pixel groups D0, D1, D2 (...) Can be sequentially addressed through the array or list of pointer addresses assigned during the labeling process.
ここで、2次元空間の1の単位空間が上記のように比較画像のn×m画素の大きさを有し、それが2次元方向にタイル状に配列されているようなアドレス配置を考える。そして、欠陥候補画素群Dの重心座標がg(x、y)であり場合、(x、y)の座標がメモリ上に(例えば2次元配列などの形式で)配列されているとする。このようなメモリ構成においては、次のような簡単なアドレス演算により、欠陥候補画素群Dを選択し、その欠陥候補画素群が2次元空間上のどの単位空間に属するか選択することができる。すなわち、欠陥候補画素群Dが属する2次元空間の単位空間Pの座標g’(x’、y’)は、次の式(1)、(2)のようなアドレス演算(除算)により求めることができる。
x’=x/n …(1)
y’=y/m …(2)
ただし、これらのアドレス除算では小数点以下は切り捨てるものとする。
Here, an address arrangement is considered in which one unit space in the two-dimensional space has a size of n × m pixels of the comparison image as described above and is arranged in a tile shape in the two-dimensional direction. When the barycentric coordinates of the defect candidate pixel group D are g (x, y), it is assumed that the coordinates of (x, y) are arranged on the memory (for example, in a form such as a two-dimensional array). In such a memory configuration, it is possible to select the defect candidate pixel group D and to which unit space on the two-dimensional space the defect candidate pixel group D is selected by the following simple address calculation. That is, the coordinates g ′ (x ′, y ′) of the unit space P in the two-dimensional space to which the defect candidate pixel group D belongs are obtained by address calculation (division) as in the following equations (1) and (2). Can do.
x ′ = x / n (1)
y ′ = y / m (2)
However, in these address divisions, the decimal part is rounded down.
次に、ステップS207では、選択した欠陥候補画素群Dの代表値である照明方向に関する光学特性の異方性に対応する特徴量Bを上記のようにして特定した2次元空間上の座標g’(x’、y’)を有する単位空間Pに付加する。実際には、この処理は、2次元空間上の座標g’(x’、y’)を有する単位空間Pを表現するメモリ領域に欠陥候補画素群Dの照明方向に関する光学特性の異方性に対応する特徴量Bを加算することによって行うことができる。 Next, in step S207, the coordinate value g ′ on the two-dimensional space in which the feature amount B corresponding to the anisotropy of the optical characteristic related to the illumination direction, which is the representative value of the selected defect candidate pixel group D, is specified as described above. It is added to the unit space P having (x ′, y ′). Actually, this processing is performed by anisotropy of the optical characteristics related to the illumination direction of the defect candidate pixel group D in the memory area representing the unit space P having the coordinates g ′ (x ′, y ′) in the two-dimensional space. This can be done by adding the corresponding feature quantity B.
例えば、図5の欠陥候補画素群D0の照明方向に関する光学特性の異方性に対応する特徴量B0を、2次元空間の単位空間P0の特徴量(に相当するメモリアドレス)に付加する場合、B’0にB0を加算すればよい。ステップS208では、ステップS206、S207の処理を全ての欠陥候補画素群D0、D1、D2(…)に行ったか否かを判定し、全ての欠陥候補画素群を処理していなければステップS206にループして上記の処理を繰り返す。また、ステップS208で全ての欠陥候補画素群を処理したことが確認された場合にはステップS209の欠陥判定に移行する。なお、ステップS208の判定は、欠陥候補画素群D0、D1、D2(…)のポインタアドレスを格納したリストの終りに到達したか否かを検査することにより行うことができる。 For example, when adding the feature quantity B0 corresponding to the anisotropy of the optical characteristics regarding the illumination direction of the defect candidate pixel group D0 of FIG. 5 to the feature quantity (corresponding to the memory address) of the unit space P0 in the two-dimensional space, What is necessary is just to add B0 to B'0. In step S208, it is determined whether or not the processing in steps S206 and S207 has been performed on all defect candidate pixel groups D0, D1, D2 (...). If all defect candidate pixel groups have not been processed, the process loops to step S206. And repeat the above process. If it is confirmed in step S208 that all defect candidate pixel groups have been processed, the process proceeds to defect determination in step S209. Note that the determination in step S208 can be made by examining whether or not the end of the list storing the pointer addresses of the defect candidate pixel groups D0, D1, D2 (...) Has been reached.
以上のように、ステップS206〜S208を全ての欠陥候補画素群D0、D1、D2(…)に施すことにより、各画素群の照明方向に関する光学特性の異方性に対応する特徴量B0、B1、B2(…)を2次元空間上にマップ(写像)することができる。 As described above, by performing steps S206 to S208 on all the defect candidate pixel groups D0, D1, D2 (...), The feature amounts B0, B1 corresponding to the anisotropy of the optical characteristics regarding the illumination direction of each pixel group. , B2 (...) can be mapped (mapped) onto a two-dimensional space.
例えば、図5左側の3つの欠陥候補画素群D0、D1、D2の場合、ステップS206〜S208のループ処理が終了した時点で、これらの画素群は図5右側の2次元空間の1つの単位空間P0にマップされることになる。そしてこの単位空間P0の代表値である密集した欠陥候補画素群の照明方向に関する光学特性の異方性に対応する特徴量B’0は
B’0=B0+B1+B2 …(3)
となる。なお、単位空間P0中の欠陥候補画素群D0、D1、D2を代表する座標値は例えばこれらの欠陥候補画素群D0、D1、D2の重心座標g0(x0、y0)、g1(x1、y1)、g2(x1、y2)から座標g0’(x’、y’)と求めることができる。
For example, in the case of the three defect candidate pixel groups D0, D1, and D2 on the left side of FIG. 5, when the loop processing of steps S206 to S208 is completed, these pixel groups are one unit space in the two-dimensional space on the right side of FIG. Will be mapped to P0. Then, the feature quantity B′0 corresponding to the anisotropy of the optical characteristics related to the illumination direction of the dense defect candidate pixel group which is a representative value of the unit space P0 is B′0 = B0 + B1 + B2 (3)
It becomes. The coordinate values representative of the defect candidate pixel groups D0, D1, and D2 in the unit space P0 are, for example, the barycentric coordinates g0 (x0, y0) and g1 (x1, y1) of these defect candidate pixel groups D0, D1, and D2. , G2 (x1, y2) and coordinates g0 ′ (x ′, y ′).
以上のような画像処理を終了した段階で、2次元単位空間P0を代表する密集した欠陥の照明方向に関する光学特性の異方性に対応する特徴量B’0は、この単位空間P0に集められた欠陥候補画素群D0、D1、D2(…)の特徴量の累積値となる。従って、この単位空間P0の特徴量B’0は、当然ながら、その単位空間P0に集められた欠陥候補画素群D0、D1、D2(…)の散乱光強度の指向性、ないしは照明方向に関する光学特性の異方性の大小(強弱)を反映したものとなる。 At the stage where the image processing as described above is completed, the feature quantity B′0 corresponding to the anisotropy of the optical characteristic related to the illumination direction of the dense defect representing the two-dimensional unit space P0 is collected in this unit space P0. This is the cumulative value of the feature values of the defective candidate pixel groups D0, D1, D2 (...). Therefore, the feature quantity B′0 of the unit space P0 is naturally the directivity of the scattered light intensity of the defect candidate pixel groups D0, D1, D2 (...) Collected in the unit space P0, or the optical related to the illumination direction. It reflects the magnitude (strongness) of anisotropy of characteristics.
すなわち、上記の光学的な異方性が弱い欠陥候補画素群が多く集まった場合、2次元空間上の単位空間P0の特徴量B’は小さい値となる。逆に光学的な異方性が強い欠陥候補画素群が多く集まった場合は、2次元空間上の単位空間P0の特徴量B’は大きな値となる。 That is, when a large number of defect candidate pixel groups having weak optical anisotropy are collected, the feature quantity B ′ of the unit space P0 in the two-dimensional space is a small value. Conversely, when many defect candidate pixel groups having strong optical anisotropy are gathered, the feature quantity B ′ of the unit space P0 in the two-dimensional space becomes a large value.
つまり、上記の2次元単位空間への特徴量の累積は、光学的な異方性が強い欠陥候補画素群の特徴量の累積処理を意味すると同時に、その2次元単位空間内における欠陥候補画素群の密度に対応する密度対応値を取得する処理を意味する(密度情報取得工程)。従って、この2次元単位空間に累積された特徴量の大小は、その2次元単位空間にマップされた欠陥候補画素群光学的な異方性の強さと、欠陥候補画素群の密度を反映しており、2次元単位空間に累積された特徴量の大小に基づき欠陥判定を行うことができる。 In other words, the accumulation of feature amounts in the two-dimensional unit space means the accumulation processing of feature amounts of defect candidate pixel groups having strong optical anisotropy, and at the same time, defect candidate pixel groups in the two-dimensional unit space. This means a process of acquiring a density correspondence value corresponding to the density of the image (density information acquisition step). Therefore, the magnitude of the feature amount accumulated in the two-dimensional unit space reflects the strength of the optical anisotropy of the defect candidate pixel group mapped in the two-dimensional unit space and the density of the defect candidate pixel group. In addition, the defect determination can be performed based on the size of the feature amount accumulated in the two-dimensional unit space.
ステップS209では、上記の2次元単位空間に累積された特徴量の大小に基づき欠陥判定を行う。この欠陥判定は、例えば2次元空間の1つの単位空間P0に対して行うことができる。ここでは、例えばこの単位空間P0の特徴量B’を予め定めた閾値と比較する。そして、閾値を超える(以上の)特徴量B’を持つ単位空間P0については不良(欠陥)あり、と判定し、閾値以下の(を超えない)特徴量B’を持つ単位空間P0については不良(欠陥)なし、と判定することができる。 In step S209, defect determination is performed based on the feature amount accumulated in the two-dimensional unit space. This defect determination can be performed on one unit space P0 in a two-dimensional space, for example. Here, for example, the feature amount B ′ of the unit space P0 is compared with a predetermined threshold value. Then, it is determined that there is a defect (defect) for the unit space P0 having the feature amount B ′ exceeding (or above) the threshold, and the unit space P0 having the feature amount B ′ (not exceeding) the threshold or less is defective. It can be determined that there is no (defect).
なお、ステップS206〜S208で比較画像の全ての欠陥候補画素群(D0、D1、D2…)を処理した場合、当然、欠陥候補画素群(D0、D1、D2…)のデータが1つ以上の2次元空間の単位空間(P0、P1…)に対してマップされる場合がある。 In addition, when all the defect candidate pixel groups (D0, D1, D2,...) Of the comparison image are processed in steps S206 to S208, naturally, the data of the defect candidate pixel group (D0, D1, D2,...) Is one or more. There is a case where the unit space (P0, P1,...) Of the two-dimensional space is mapped.
従って、その場合、ステップS209の欠陥判定は欠陥候補画素群(D0、D1、D2…)のデータが集積された複数の2次元空間の単位空間(P0、P1…)に対して行うことになる。その場合、例えば、2次元空間おいてしきい値を超える特徴量B’を持つ単位空間(P0、P1…)が1つでもあった場合、対象物Wを不良品と判定し、まったくない場合に良品と判定することが考えられる。このような欠陥判定は、1個所でも欠陥部位を許さない(例えばレンズのような光学部品の)厳密な欠陥判定に好適で、また現実的な判定基準と考えられる。しかしながら、欠陥判定の対象物Wの製品種別などに応じて、例えば2次元空間おいてしきい値を超える特徴量B’を持つ単位空間(P0、P1…)を数ヶ所まで許容し、それ以上は不良品と判定する、といった欠陥判定を行うようにしてもよい。 Therefore, in this case, the defect determination in step S209 is performed on a plurality of two-dimensional space unit spaces (P0, P1,...) In which data of defect candidate pixel groups (D0, D1, D2,...) Are accumulated. . In that case, for example, when there is at least one unit space (P0, P1,...) Having a feature quantity B ′ exceeding a threshold value in a two-dimensional space, the object W is determined as a defective product and there is no case at all. It is conceivable to determine that the product is non-defective. Such defect determination is suitable for strict defect determination (for example, an optical component such as a lens) that does not allow a defect portion even at one place, and is considered as a realistic determination criterion. However, several unit spaces (P0, P1,...) Having a feature quantity B ′ exceeding a threshold value in a two-dimensional space are allowed, for example, depending on the product type of the defect determination target W, and more. It may be possible to perform defect determination such as determining as a defective product.
以上説明したように、例えば図1に示したようなハードウェア構成において、図2〜図5に示したような画像処理を行うことにより、小さな対象物の光学特性の撮像時の照明方向に係る異方性に基づき対象物の欠陥判定を行うことができる。本実施形態では、異なる照明方向ごとに撮像した対象物の画像から最大値合成画像、平均値合成画像、さらに最大値合成画像と平均値合成画像の比較画像を生成(第1〜第3の画像生成処理)する。そして、本実施形態では、上記比較画像は、照明方向に関する光学特性の異方性に対応する特徴量を画素値として有するものとして生成されている。従って、この本実施形態の手法は、照明方向をいちいち分別することなく、単に画素ごとの最大値ないし平均値を求めてその画素の特徴量を取得し、比較する数値演算によって実施でき、大きな計算コストないし計算資源を必要としない。 As described above, for example, in the hardware configuration as shown in FIG. 1, by performing the image processing as shown in FIGS. 2 to 5, the optical characteristics of a small object are related to the illumination direction at the time of imaging. The defect determination of the object can be performed based on the anisotropy. In the present embodiment, a maximum value composite image, an average value composite image, and a comparison image of the maximum value composite image and the average value composite image are generated from the images of the objects captured in different illumination directions (first to third images). Generation process). In the present embodiment, the comparative image is generated as a pixel having a feature amount corresponding to the anisotropy of the optical characteristic regarding the illumination direction. Therefore, the method of this embodiment can be carried out by simply calculating the maximum value or the average value for each pixel and acquiring the feature amount of the pixel without dividing the illumination direction one by one, and performing a large calculation. Does not require cost or computational resources.
また、本実施形態では、比較画像で所定値を超える上記の特徴量に対応する画素値を有し、かつ互いに隣接した欠陥候補画素群を抽出する。そして、抽出した欠陥候補画素群の単位空間内における密度に関する密度情報を取得し、この密度情報に応じて対象物の欠陥の有無を判定する。これにより、対象物の欠陥部位の照明方向に関する光学特性の異方性のみならず、欠陥部位の密度を考慮して、確実かつ信頼性の高い欠陥判定を行うことができる。 In the present embodiment, defect candidate pixel groups having pixel values corresponding to the above-described feature amount exceeding a predetermined value in the comparison image and adjacent to each other are extracted. And the density information regarding the density in the unit space of the extracted defect candidate pixel group is acquired, and the presence or absence of the defect of a target object is determined according to this density information. Thereby, not only the anisotropy of the optical characteristic regarding the illumination direction of the defective part of the target object but also the density of the defective part is taken into consideration, and the defect determination can be performed reliably and highly reliably.
特に、上記の欠陥候補画素群の単位空間内における密度に関しては、抽出した欠陥候補画素群を比較画像よりも低解像度な2次元単位空間に写像し、この2次元単位空間に写像された欠陥候補画素群の特徴量に対応する画素値を累積する。そして、欠陥候補画素群の2次元単位空間で累積された画素値を密度に対応する密度対応値として取得し、この密度対応値の大小に基づき対象物の欠陥の有無を判定することができる。 In particular, regarding the density of the defect candidate pixel group in the unit space, the extracted defect candidate pixel group is mapped to a two-dimensional unit space having a resolution lower than that of the comparative image, and the defect candidates mapped to the two-dimensional unit space are mapped. The pixel values corresponding to the feature values of the pixel group are accumulated. Then, the pixel value accumulated in the two-dimensional unit space of the defect candidate pixel group is acquired as a density correspondence value corresponding to the density, and the presence or absence of a defect of the target object can be determined based on the magnitude of the density correspondence value.
なお、以上の実施形態では、欠陥部位の照明方向に関する光学特性の異方性は、散乱光強度の指向性を例に説明した。しかしながら、例えば上で触れたように撮像方式を透過光撮影ではなく反射光撮影とする場合には、照明方向に関する光学特性の異方性は散乱光ではなく反射光(成分)の指向性として撮像された画像に現れる、と考えられる。従って、図1の光源102を対象物Wの上側に配置して反射光撮影を行う場合にも上述の実施形態と同様の手法によって欠陥判定を行うことができる。
In the above embodiment, the anisotropy of the optical characteristics related to the illumination direction of the defective part has been described by taking the directivity of the scattered light intensity as an example. However, for example, as described above, when the imaging method is not reflected-light imaging but reflected-light imaging, the anisotropy of the optical characteristics related to the illumination direction is captured as reflected light (component) directivity instead of scattered light. Appear to appear in the image. Accordingly, even when the reflected light imaging is performed with the
また、以上の実施形態では、レンズのような光学部材を例に画像処理および欠陥判定処理につき説明した。しかしながら、本発明の光学検査技術は光学部材の欠陥判定だけではなく、上記同様に欠陥部位の光学特性の異方性と、その密度を介して欠陥判定を行うべき任意の対象物の欠陥判定に利用することができる。 In the above embodiment, the image processing and the defect determination processing have been described using an optical member such as a lens as an example. However, the optical inspection technique of the present invention is not only used for defect determination of optical members, but also for defect determination of any object to be subjected to defect determination based on the anisotropy of the optical characteristics of the defective portion and its density as described above. Can be used.
上記実施形態の画像処理および欠陥判定を行う制御手順は具体的には画像処理システム200のプロセッサ201により実行される。従って上述した機能を実現するソフトウェアのプログラムを記録した記録媒体を画像処理システム200に供給し、プロセッサ201が記録媒体に格納されたプログラムを読み出し実行することによって達成されるよう構成することができる。この場合、記録媒体から読み出されたプログラム自体が上述した実施形態の機能を実現することになり、プログラム自体、ないしそのプログラムを記録した記録媒体は本発明を構成することになる。
The control procedure for performing image processing and defect determination in the above embodiment is specifically executed by the
また、上記実施形態では、コンピュータで読み取り可能な記録媒体が外部記憶装置213または他の不図示の外部記憶デバイスであるものとして説明したが、本発明はこのような形態に限定されるものではない。本発明を実施するためのプログラムは、コンピュータ読み取り可能な記録媒体であれば、いかなる記録媒体に記録されていてもよい。例えば、プログラムを供給するための記録媒体としては、着脱式のHDDやSSD、光学ディスク、各種フラッシュメモリデバイスなど、任意の外部記憶デバイスを用いることができるのはいうまでもない。
In the above embodiment, the computer-readable recording medium is described as the
1…光学検査装置、100…画像撮像部、101…カメラ、103…ホルダ、104…フレーム部、200…画像処理システム、201…プロセッサ、202…モニタ、213…外部記憶装置
DESCRIPTION OF
Claims (11)
前記制御装置が実行する画像処理が、
前記複数の画像に対して、各画素における画素値の最大値を取得して最大値合成画像を生成する第1の画像生成工程と、
前記複数の画像に対して、各画素における画素値の平均値を取得して平均値合成画像を生成する第2の画像生成工程と、
前記最大値合成画像と前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を各画素の画素値として有する比較画像を生成する第3の画像生成工程と、
前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出する抽出工程と、
抽出した前記欠陥候補画素群の単位空間内における密度に関する情報を取得する密度情報取得工程と、
前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする光学検査方法。 Illuminating an object different from the plurality of illumination directions, subjected to image processing by the control device for a plurality of images of the object obtained by imaging for each of the plurality of illumination directions by the imaging means, of the object In the optical inspection method for determining the presence or absence of defects,
The image processing executed by the control device is:
A first image generation step of acquiring a maximum value of pixel values in each pixel and generating a maximum value composite image for the plurality of images;
A second image generation step of acquiring an average value of pixel values in each pixel and generating an average value composite image for the plurality of images;
A third image generating step of generating a comparison image with comparison values obtained by comparing the pixel values between corresponding pixels of the previous SL maximum composite image the mean value combined image as a pixel value of each pixel,
An extraction step of extracting defect candidate pixel groups having pixel values exceeding a predetermined value and adjacent to each other from the comparison image;
A density information acquisition step of acquiring information regarding the density in the unit space of the extracted defect candidate pixel group;
A determination step of determining the presence / absence of a defect in the object according to information on the density acquired in the density information acquisition step .
前記制御装置は、前記複数の画像の各画素における画素値の最大値および平均値から、それぞれ最大値合成画像および平均値合成画像を生成し、
前記最大値合成画像と前記平均値合成画像の対応する画素間の画素値を比較して得られる比較値を、各画素の画素値として有する比較画像を生成し、
前記比較画像から、所定値を超える画素値を有し、かつ、互いに隣接する欠陥候補画素群を抽出し、前記欠陥候補画素群の単位空間内における密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする光学検査装置。 Illuminating an object different from the plurality of illumination directions, subjected to image processing by the control device for a plurality of images of the object obtained by imaging for each of the plurality of illumination directions by the imaging means, of the object In an optical inspection device that determines the presence or absence of defects,
The control device, the maximum and average values of the pixel values in each pixel of the plurality of images to generate a maximum value composite image and the average value composite image respectively,
Generating a comparison image having a comparison value obtained by comparing pixel values between corresponding pixels of the maximum value synthesized image and the average value synthesized image as a pixel value of each pixel;
A defect candidate pixel group having a pixel value exceeding a predetermined value and adjacent to each other is extracted from the comparison image, and the defect of the object is detected according to information on the density of the defect candidate pixel group in a unit space. An optical inspection apparatus for determining presence or absence.
光学部材を形成する工程と、
前記光学部材を対象物として請求項1または2に記載の光学検査方法の各工程を実行することにより前記光学部材の欠陥判定を行う工程と、
を含むことを特徴とする光学部材の製造方法。 In the manufacturing method of the optical member for performing the defect determination of the optical member,
Forming an optical member;
A step of performing defect determination of the optical member by executing each step of the optical inspection method according to claim 1 or 2 using the optical member as an object;
The manufacturing method of the optical member characterized by including .
前記制御装置が、The control device is
前記複数の画像から、前記照明方向に対して異方性を有する部位を特定する工程と、Identifying a portion having anisotropy with respect to the illumination direction from the plurality of images;
前記異方性を有する部位の単位空間内における密度に関する情報を取得する密度情報取得工程と、A density information acquisition step of acquiring information on the density in the unit space of the part having anisotropy;
前記密度情報取得工程で取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定する判定工程と、を含むことを特徴とする光学検査方法。A determination step of determining the presence / absence of a defect in the object according to information on the density acquired in the density information acquisition step.
前記制御装置は、前記複数の画像から、前記照明方向に対して異方性を有する部位を特定し、前記異方性を有する部位の単位空間内における密度に関する情報を取得する密度情報を取得し、取得した密度に関する情報に応じて前記対象物の欠陥の有無を判定することを特徴とする光学検査装置。The control device acquires density information for identifying a part having anisotropy with respect to the illumination direction from the plurality of images, and acquiring information on a density of the part having the anisotropy in a unit space. An optical inspection apparatus that determines the presence or absence of a defect of the object according to information on the acquired density.
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014087946A JP6391281B2 (en) | 2014-04-22 | 2014-04-22 | Optical inspection method, optical inspection device, and optical member manufacturing method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2014087946A JP6391281B2 (en) | 2014-04-22 | 2014-04-22 | Optical inspection method, optical inspection device, and optical member manufacturing method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2015206701A JP2015206701A (en) | 2015-11-19 |
JP6391281B2 true JP6391281B2 (en) | 2018-09-19 |
Family
ID=54603588
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2014087946A Active JP6391281B2 (en) | 2014-04-22 | 2014-04-22 | Optical inspection method, optical inspection device, and optical member manufacturing method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP6391281B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
CN114486916A (en) * | 2022-01-26 | 2022-05-13 | 上海电机学院 | Mobile phone glass cover plate defect detection method based on machine vision |
Family Cites Families (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPS55123852U (en) * | 1979-02-27 | 1980-09-02 | ||
JP2560539B2 (en) * | 1990-11-20 | 1996-12-04 | 日本電気株式会社 | Quartz thin plate twin crystal inspection system |
JPH08186808A (en) * | 1994-12-28 | 1996-07-16 | Sumitomo Metal Ind Ltd | Method and device for processing image |
JP3417738B2 (en) * | 1995-09-06 | 2003-06-16 | ペンタックス株式会社 | Optical member inspection device |
JP3360795B2 (en) * | 1997-03-05 | 2002-12-24 | ペンタックス株式会社 | Optical member inspection device |
WO1999022224A1 (en) * | 1997-10-29 | 1999-05-06 | Vista Computer Vision Ltd. | Illumination system for object inspection |
JP2000028476A (en) * | 1998-07-11 | 2000-01-28 | Masami Nishiko | System for optical inspection |
JP2002122555A (en) * | 2000-10-16 | 2002-04-26 | Nippi:Kk | Light source for transparent body, transparent body inspection device, and method therefor |
JP2003090805A (en) * | 2001-09-20 | 2003-03-28 | Pentax Corp | Optical member inspecting method |
JP4310090B2 (en) * | 2002-09-27 | 2009-08-05 | 株式会社日立製作所 | Defect data analysis method and apparatus, and review system |
JP4550610B2 (en) * | 2005-02-09 | 2010-09-22 | 株式会社ケー・デー・イー | Lens inspection device |
DE102007006525B4 (en) * | 2007-02-06 | 2009-05-14 | Basler Ag | Method and device for detecting defects |
US8358830B2 (en) * | 2010-03-26 | 2013-01-22 | The Boeing Company | Method for detecting optical defects in transparencies |
-
2014
- 2014-04-22 JP JP2014087946A patent/JP6391281B2/en active Active
Also Published As
Publication number | Publication date |
---|---|
JP2015206701A (en) | 2015-11-19 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4150390B2 (en) | Appearance inspection method and appearance inspection apparatus | |
US10976656B2 (en) | Defect inspection device and defect inspection method | |
JP5432864B2 (en) | Inspection apparatus and inspection method | |
JP6682809B2 (en) | Inspection system and inspection method | |
JP5292846B2 (en) | Observation device and observation method | |
JP2012242281A (en) | Method, device and program for calculating center position of detection object | |
JP2008170256A (en) | Flaw detection method, flaw detection program and inspection device | |
JP6045429B2 (en) | Imaging apparatus, image processing apparatus, and image processing method | |
JP2007155405A (en) | Visual inspection method and visual inspection device | |
JP6391281B2 (en) | Optical inspection method, optical inspection device, and optical member manufacturing method | |
JP2007017364A (en) | Device and method for extracting silhouette, and device and method for generating three-dimensional shape data | |
JP6973205B2 (en) | Image processing system, image processing device, image processing program | |
JP7159624B2 (en) | Surface texture inspection method and surface texture inspection device | |
JP2014062837A (en) | Defect inspection device and defect reviewing device | |
JP4956077B2 (en) | Defect inspection apparatus and defect inspection method | |
JP2010175283A (en) | Device for producing plane image | |
JP7293907B2 (en) | Visual inspection management system, visual inspection management device, visual inspection management method and program | |
JP2008111705A (en) | Method and program for detecting defect and inspection apparatus | |
US20220148152A1 (en) | System and method for adjustable production line inspection | |
JPWO2020031423A1 (en) | Object detection method, object detection device and computer program | |
JP7306858B2 (en) | Image inspection system and image inspection method | |
JP6662126B2 (en) | Detecting device, method and program | |
JP7222795B2 (en) | Image inspection system and image inspection method | |
JP5757157B2 (en) | Method, apparatus and program for calculating head position and axis direction for detection object | |
JP5402182B2 (en) | Appearance inspection method and appearance inspection apparatus |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20170421 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20180220 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20180227 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20180426 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20180724 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20180821 |
|
R151 | Written notification of patent or utility model registration |
Ref document number: 6391281 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R151 |