以下の実施形態は、一般に画像処理システム、画像処理方法、及びプログラムに関する。より詳細に、以下の実施形態は、対象物に対して互いに異なる照明条件の照明光をそれぞれ照射し、各照明光を照射された対象物を撮像して画像処理を行う画像処理システム、画像処理方法、及びプログラムに関する。
本実施形態の検査システムは、コンピュータを用いた画像処理技術により、対象物の欠けなどの凹凸を強調した画像を生成して、対象物の欠け(対象物の欠けの有無、欠けの程度など)を検査する。対象物は、回路基板上に実装されている部品を想定している。なお、画像処理の対象物は、回路基板上に実装されている部品以外であってもよく、対象物の種類、形状などは特定の種類、形状などに限定されない。なお、以下の説明では、特に断りのない限り、図4において、前後、左右、上下の各方向が規定されている。
図1は、本実施形態の画像処理システムIPS1のブロック構成を示す。画像処理システムIPS1は、コンピュータシステム1と、2つの照明装置である第1照明装置21及び第2照明装置22と、1つの撮像装置3と、を主構成として備える。なお、画像処理システムIPS1は、搬送装置4、表示装置5をさらに備えることが好ましい。
そして、画像処理システムIPS1は、図2に示す基板ユニット9に実装されているLED(Light Emitting Diode)92を対象物とする。基板ユニット9は、回路基板91、LED(Light Emitting Diode)92を有している。回路基板91は長尺の矩形板形状であり、回路基板91の表面911には、複数のLED92が回路基板91の長手方向に沿って一列に実装されている。また、回路基板91には、LED92以外の素子(例えばコネクタ93など)が実装されていてもよい。
図3は、LED92の上面図を示す。LED92は、四角体のパッケージ921内にLEDチップが実装されている。パッケージ921の上面922は浅い窪み923が形成されている。パッケージ921の表面が欠けていると、パッケージ921の表面のキズとして凹部が形成される。そこで、画像処理システムIPS1は、LED92(パッケージ921)の上面922のキズとなる凹部(欠陥凹部)を強調する画像(第3画像)を生成する。さらに、画像処理システムIPS1は、パッケージ921の欠陥凹部が強調された画像に基づいて、LED92の外観検査を行うことが好ましい。
具体的に、本実施形態の画像処理システムIPS1では、以下の画像処理方法を実行する。
まず、基板ユニット9は、搬送装置4によって撮像装置3の下方を、後方から前方に向かう進行方向X1に移動し、撮像装置3による撮像処理が行われる。
搬送装置4は、例えばベルトコンベア装置で構成されている。搬送装置4は、モータ、プーリ、コンベアベルトなどを備えており、モータの回転駆動力がプーリなどを介してコンベアベルトに伝達される。搬送装置4の上面にはコンベアベルトが露出しており、コンベアベルト上に載置された基板ユニット9は、進行方向X1に一定速度で進む。コンベアベルト上の基板ユニット9の長さ方向(基板ユニット9の長手方向)は前後方向に沿っており、回路基板91の表面911は上方向を向いている。
また、基板ユニット9が固定されて、撮像装置3が進行方向X1(あるいは進行方向X1の逆方向)に移動する構成でもよい。
なお、基板ユニット9の長さ方向の一端側(進行方向X1)は前方向であり、基板ユニット9の長さ方向の他端側(進行方向X1の反対方向)が後方向になる。また、基板ユニット9の幅方向の一端側が右方向であり、基板ユニット9の幅方向の他端側が左方向である。また、基板ユニット9の厚み方向の一端側が上方向であり、基板ユニット9の厚み方向の他端側が下方向である。
そして、画像処理システムIPS1は、進行方向X1に一定速度で進む基板ユニット9に対して、以下の画像処理を行う。
まず、第1照明装置21、第2照明装置22、及び撮像装置3は、搬送装置4の上方において進行方向X1に並んで配置されている。そして、第1照明装置21は、撮像装置3より前側に位置し、第2照明装置22は、撮像装置3より後側に位置している。すなわち、前から後に向かって、第1照明装置21、撮像装置3、第2照明装置22の順に位置する。
第1照明装置21は、図1、図4に示すように帯状の照明光Lt1を照射するバータイプの照明装置であり、帯状の照明光Lt1を出射する長尺の発光面211を有する。第1照明装置21から出射される照明光Lt1の照射領域は、照明光Lt1の光軸K1を法線とする面において細長い帯状(バー形状)になる。第1照明装置21は、進行方向X1に移動する基板ユニット9に向かって後斜め下方(例えば、水平面に対する入射角θ1が45°になるように)に照明光Lt1を照射する。さらに、第1照明装置21は、上下方向から見て、照明光Lt1の照射領域の長手方向が進行方向X1に直交するように配置される。すなわち、基板ユニット9が進行方向X1に移動している場合、上下方向から見て、照明光Lt1の照射領域の長手方向(発光面211の長手方向)は、基板ユニット9の長さ方向(前後方向)に対して直交しており、基板ユニット9の幅方向(左右方向)に沿っている。そして、図1に示すように、第1照明装置21の光軸K1が回路基板91の表面911に交わる点を交点Q1とする。
第2照明装置22は、図1、図4に示すように帯状の照明光Lt2を照射するバータイプの照明装置であり、帯状の照明光Lt2を出射する長尺の発光面221を有する。第2照明装置22から出射される照明光Lt2の照射領域は、照明光Lt2の光軸K2を法線とする面において細長い帯状になる。第2照明装置22は、進行方向X1に移動する基板ユニット9に向かって前斜め下方(例えば、水平面に対する入射角θ2が45°になるように)に照明光Lt2を照射する。さらに、第2照明装置22は、上下方向から見て、照明光Lt2の照射領域の長手方向が進行方向X1に直交するように配置される。すなわち、基板ユニット9が進行方向X1に移動している場合、上下方向から見て、照明光Lt2の照射領域の長手方向(発光面221の長手方向)は、基板ユニット9の長さ方向(前後方向)に対して直交しており、基板ユニット9の幅方向(左右方向)に沿っている。そして、図1に示すように、第2照明装置22の光軸K2は、交点Q1で回路基板91の表面911に交わる。
上述のように、第1照明装置21が照明光Lt1を照射する方向と、第2照明装置22が照明光Lt2を照射する方向とは、進行方向X1において互いに反対方向になる。
なお、LED92の厚みは薄く、交点Q1は、光軸K1,K2がLED92(パッケージ921)の表面に交わる点であるとみなすこともできる。また、交点Q1は、パッケージ921の上面に形成されてもよい。また、上述の入射角θ1、θ2の関係は、θ1=θ2であればよく、入射角θ1、θ2は45°以外であってもよい。
撮像装置3は、ラインセンサ31と、マウントアダプタ32と、レンズ33とを備えているカメラである(図1、図4参照)。ラインセンサ31には、マウントアダプタ32を介してレンズ33が取り付けられている。ラインセンサ31は、CCD(Charged Coupled Devices)、またはCMOS(Complementary Metal Oxide Semiconductor)などの複数の撮像素子を有しており、複数の撮像素子は、左右方向にライン状に配置されている。そして、レンズ33を介して集光された光をラインセンサ31の撮像素子が受光することで、ラインセンサ31が白黒(またはカラー)の静止画を撮像する。ラインセンサ31が撮像した画像は、基板ユニット9の前後方向の一部が写っているライン画像であり、ライン画像の撮像範囲は、進行方向X1に直交(交差)する左右方向(第2方向)に延びる長尺形状になる。また、ライン画像は、各画素の濃淡値が例えば256段階に設定された濃淡画像である。なお、本実施形態において、暗い画素は濃淡値が低く、明るい画素は濃淡値が高くなる。また、本実施形態の撮像装置3の仕様は、画像分解能:0.02mm/pixであるが、この仕様に限定されない。
そして、本実施形態の撮像装置3は、撮像装置3の左右方向の撮像範囲に、回路基板91上のLED92が収まるように配置されており、LED92の前後方向の一部がライン画像に写る。
そして、図1に示すように、撮像装置3の光軸K3は鉛直方向に沿っており、交点Q1で回路基板91の表面911に交わる。なお、LED92の厚みは薄く、交点Q1は、光軸K3がLED92(パッケージ921)の表面に交わる点であるとみなすこともできる。
したがって、撮像装置3は、基板ユニット9に照射された照明光Lt1が基板ユニット9の表面911で拡散反射した拡散反射光Lt11を受光することができる。撮像装置3は、受光した拡散反射光Lt11から濃淡画像の情報を生成し、この濃淡画像の情報をライン画像(第1ライン画像)の情報としてコンピュータシステム1へ出力する。
また、撮像装置3は、基板ユニット9に照射された照明光Lt2が基板ユニット9の表面911で拡散反射した拡散反射光Lt21を受光することができる。撮像装置3は、受光した拡散反射光Lt21から濃淡画像の情報を生成し、この濃淡画像の情報をライン画像(第2ライン画像)の情報としてコンピュータシステム1へ出力する。
上述の第1照明装置21、第2照明装置22の各発光タイミング、及び撮像装置3の撮像タイミングは、コンピュータシステム1によって決定され、コンピュータシステム1から第1照明装置21、第2照明装置22、及び撮像装置3にそれぞれ指示される。
本実施形態では、コンピュータシステム1からの指示によって、撮像装置3(ラインセンサ31)は、進行方向X1に移動する基板ユニット9の前端から後端までを所定の撮像周期で撮像し、撮像した一連の複数のライン画像をコンピュータシステム1へ出力する。
コンピュータシステム1は、画像処理用のプログラムを実行することで、基板ユニット9のライン画像の情報に対して、画像処理を施す。さらに、コンピュータシステム1は、画像処理用のプログラムを実行することで、基板ユニット9のライン画像の情報を用いて基板ユニット9の外観検査を行うことが好ましい。
コンピュータシステム1は、ハードウェアとしてのプロセッサ及びメモリを主構成とする。コンピュータシステム1のメモリに記録されたプログラム(画像処理用のプログラム)をプロセッサが実行することによって、本開示における後述の画像処理装置11の機能が実現される。プログラムは、コンピュータシステム1のメモリに予め記録されていてもよいが、電気通信回線を通じて提供されてもよいし、コンピュータシステム1で読み取り可能なメモリカード、光学ディスク、ハードディスクドライブ等の非一時的記録媒体に記録されて提供されてもよい。コンピュータシステム1のプロセッサは、半導体集積回路(IC)又は大規模集積回路(LSI)を含む1乃至複数の電子回路で構成される。複数の電子回路は、1つのチップに集約されていてもよいし、複数のチップに分散して設けられていてもよい。複数のチップは、1つの装置に集約されていてもよいし、複数の装置に分散して設けられていてもよい。
そして、コンピュータシステム1は、画像処理用のプログラムを実行することで画像処理装置11として機能する。
画像処理装置11は、機器制御部111、画像取得部112、画像分類部113、画像補正部114、第1処理部115、第2処理部116、画像平滑部117、検査部118、出力部119を備える。
機器制御部111は、第1照明装置21、第2照明装置22の各発光タイミング、及び撮像装置3の撮像タイミングを、第1照明装置21、第2照明装置22、及び撮像装置3にそれぞれ指示する。
具体的に、機器制御部111は、撮像装置3の撮像タイミングの周期(撮像周期)を、基板ユニット9の移動速度、撮像装置3の撮像範囲などに基づいて、LED92の前端から後端までの全体が複数のライン画像に分割されて写るように設定している。例えば、一連の複数のライン画像を時系列に沿って前後方向に連結すると、LED92の前端から後端までの全体が写った濃淡画像になる。なお、以降の説明では、一連の複数のライン画像が時系列に沿って連結された1つの濃淡画像を、連結画像と呼ぶ。
また、機器制御部111は、第1照明装置21及び第2照明装置22の各発光タイミングを交互に設定しており、撮像装置3の撮像タイミング毎に、第1照明装置21と第2照明装置22とが交互に発光する。この場合、第1照明装置21の発光タイミングである第1発光タイミングの周期は、撮像周期の2倍であり、第2照明装置22の発光タイミングである第2発光タイミングの周期も、撮像周期の2倍になる。
すなわち、撮像装置3は、交互に発生する第1照明装置21の第1発光タイミング及び第2照明装置22の第2発光タイミングに同期して、LED92を撮像する。あるいは、第1照明装置21及び第2照明装置22は、撮像装置3の撮像タイミングに同期して交互に発光するともいえる。
そして、第1照明装置21が発光する第1発光タイミングに撮像装置3が撮像したライン画像を第1ライン画像とし、第2照明装置22が発光する第2発光タイミングに撮像装置3が撮像したライン画像を第2ライン画像とする。この場合、撮像装置3は、第1ライン画像及び第2ライン画像の各情報を交互に出力する。
画像取得部112は、撮像装置3から有線伝送路または無線伝送路を介して、第1ライン画像及び第2ライン画像の各情報を交互に受け取る。すなわち、画像取得部112は、撮像周期毎に交互に撮像された第1ライン画像及び第2ライン画像の各情報を、撮像装置3から受け取る。画像取得部112は、第1ライン画像及び第2ライン画像の各情報を、を時系列に沿って受け取ることで、LED92の前端から後端までを小領域に分割して撮像した一連の複数のライン画像(第1ライン画像及び第2ライン画像)の情報を受け取ることができる。
ここで、画像取得部112が受け取った一連の複数のライン画像の情報は、第1照明装置21の発光時に撮像された第1ライン画像の情報と、第2照明装置22の発光時に撮像された第2ライン画像の情報とが、時系列に交互に存在する。そして、LED92に凹凸部が存在する場合、第1照明装置21の照明光Lt1が照射された凹凸と、第2照明装置22の照明光Lt2が照射された凹凸部とでは、凹凸部によって生じる影の方向が反対方向になる。
図5Aに示すように、LED92の上面922に下方向に窪んだ凹部である欠陥凹部81が存在すると仮定する。そして、第1照明装置21が発光を維持し、第2照明装置22が消灯を維持している状態で、撮像装置3が上述の撮像周期毎に繰り返し撮像した場合、撮像された一連の複数のライン画像を時系列に沿って前後方向に連結すると、図5Bに示す連結画像G1が生成される。また、第1照明装置21が消灯を維持し、第2照明装置22が発光を維持している状態で、撮像装置3が上述の撮像周期毎に繰り返し撮像した場合、撮像された一連の複数のライン画像を時系列に沿って前後方向に連結すると、図5Cに示す連結画像G2が生成される。
第1照明装置21が発光し、第2照明装置22が消灯している状態では、欠陥凹部81内の後部には、第1照明装置21の照明光Lt1が照射される。しかし、欠陥凹部81内の前部に向かう照明光Lt1はLED92の上面922によって遮られるので、欠陥凹部81内の前部には、照明光Lt1が照射されず、影ができている。したがって、連結画像G1では、LED92の上面922が写ったLED領域60内に、欠陥凹部81内の前部が暗領域61として写っている。
第1照明装置21が消灯し、第2照明装置22が発光している状態では、欠陥凹部81内の前部には、第2照明装置22の照明光Lt2が照射される。しかし、欠陥凹部81内の後部に向かう照明光Lt2はLED92の上面922によって遮られるので、欠陥凹部81内の後部には、照明光Lt2が照射されず、影ができている。したがって、連結画像G2では、LED92の上面922が写ったLED領域60内に、欠陥凹部81内の後部が暗領域62として写っている。
上述のように、第1照明装置21のみが発光しているときに欠陥凹部81が撮像された画像と、第2照明装置22のみが発光しているときに欠陥凹部81が撮像された画像とでは、欠陥凹部81内に生じる影の写り具合が変わる。
次に、図6Aに示すようにLED92の上面922に、微細な粒子などによる暗色の汚れが表面汚れ82として付着していると仮定する。そして、第1照明装置21が発光を維持し、第2照明装置22が消灯を維持している状態で、撮像装置3が上述の撮像周期毎に繰り返し撮像した場合、撮像された一連の複数のライン画像を時系列に沿って前後方向に連結すると、図6Bに示す連結画像G3が生成される。また、第1照明装置21が消灯を維持し、第2照明装置22が発光を維持している状態で、撮像装置3が上述の撮像周期毎に繰り返し撮像した場合、撮像された一連の複数のライン画像を時系列に沿って前後方向に連結すると、図6Cに示す連結画像G4が生成される。
第1照明装置21が発光し、第2照明装置22が消灯している状態では、表面汚れ82には、第1照明装置21の照明光Lt1が照射される。しかし、照明光Lt1の大部分は、暗色の表面汚れ82に吸収される。したがって、連結画像G3では、LED92の上面922が写ったLED領域60内に、表面汚れ82のほぼ全領域が暗領域63として写っている。
第1照明装置21が消灯し、第2照明装置22が発光している状態では、表面汚れ82の上面には、第2照明装置22の照明光Lt2が照射される。しかし、照明光Lt2の大部分は、暗色の表面汚れ82に吸収される。したがって、連結画像G4では、LED92の上面922が写ったLED領域60内に、表面汚れ82のほぼ全領域が暗領域64として写っている。
上述のように、第1照明装置21及び第2照明装置22の各発光状態が変わっても、表面汚れ82が撮像された画像における表面汚れ82の写り具合は殆ど変わらない。すなわち、第1照明装置21のみが発光しているときに表面汚れ82が撮像された画像と、第2照明装置22のみが発光しているときに表面汚れ82が撮像された画像とでは、表面汚れ82の写り具合は殆ど同じである。
そして、画像処理装置11は、欠陥凹部81及び表面汚れ82を撮像した際に画像上に生じる上述の差異を利用することで、欠陥凹部81が表面汚れ82に比べて強調されたLED92の画像(第3画像)を生成することができる。
図7Aは、複数の第1ライン画像G51及び複数の第2ライン画像G52を時系列に沿って前後方向に連結した連結画像G5を示す。図7Bは、連結画像G5の一部領域A1を拡大した図である。なお、連結画像G5は、画像処理装置11では実際に生成されない画像であるが、本実施形態の説明のために示している。もちろん、連結画像G5は、画像処理装置11で実際に生成されてもよい。
連結画像G5では、四角形状のLED領域R50にLED92のパッケージ921の上面922が写っている。LED領域R50の後方には、第1照明装置21の発光時に生じる影が写り、第2照明装置22の発光時に明るくなる明暗領域R51が位置している。LED領域R50の前方には、第2照明装置22の発光時に生じる影が写り、第1照明装置21の発光時に明るくなる明暗領域R52が位置している。また、LED領域R50の左方には、LED92を回路基板91に実装するための半田が写った半田領域R53が位置し、LED領域R50の右方には、LED92を回路基板91に実装するための半田が写った半田領域R54が位置している。
連結画像G5では、第1照明装置21が発光し、第2照明装置22が消灯している状態で撮像された第1ライン画像G51と、第1照明装置21が消灯し、第2照明装置22が発光している状態で撮像された第2ライン画像G52とが、時系列に沿って交互に連結されている。そして、第1ライン画像G51と第2ライン画像G52とでは、LED92の凹凸によって生じる影の方向は、前後方向において互いに逆になる。したがって、明暗領域R51では、濃淡値が比較的低い複数の暗画素で主に構成された第1ライン画像G51と、濃淡値が比較的高い複数の明画素で主に構成された第2ライン画像G52とが交互に配置されている。また、明暗領域R52では、濃淡値が比較的高い複数の明画素で主に構成された第1ライン画像G51と、濃淡値が比較的低い複数の暗画素で主に構成された第2ライン画像G52とが交互に配置されている。
なお、以降の説明において、濃淡画像内で濃淡値が比較的高い画素を明画素と呼び、濃淡画像内で濃淡値が比較的低い画素を暗画素と呼ぶ。
上述のように、LED92の凹凸によって前後方向に生じる影の情報は、第1ライン画像G51と第2ライン画像G52とでは互いに異なって現れる。そこで、画像分類部113は、画像取得部112が取得した一連の複数のライン画像の情報を、第1ライン画像のグループである第1グループと、第2ライン画像のグループである第2グループとのいずれかに分類する。画像分類部113は、画像取得部112が取得した一連の複数のライン画像の情報を、それぞれのライン画像の情報を受信した順番、第1発光タイミング及び第2発光タイミングに基づいて、第1グループまたは第2グループに分類することができる。
また、撮像装置3は、第1ライン画像の情報及び第2ライン画像の情報のそれぞれに、第1ライン画像の情報及び第2ライン画像を識別するための識別情報を付加して出力してもよい。この場合、画像分類部113は、ライン画像に付加されている識別情報に基づいて、画像取得部112が取得した一連の複数のライン画像の情報を分類することができる。
画像補正部114は、第1グループの複数の第1ライン画像G51に基づいて、図8Aに示す補正画像G6を生成する。補正画像G6は、第1グループの複数の第1ライン画像G51を時系列に沿って前後方向に並べ、複数の第1ライン画像G51の各間に、第2ライン画像G52の代わりに補完画像G510を配置した濃淡画像である。補完画像G510は、前後方向に隣接する一対の第1ライン画像G51から生成される。例えば、補完画像G510は、前後方向に隣接する一対の第1ライン画像G51の平均画像であり、一対の第1ライン画像G51をそれぞれ構成する各画素の濃淡値の平均値が、補完画像G510を構成する各画素の濃淡値になる。そして、補完画像G510は、一対の第1ライン画像G51の間に嵌め込まれる。したがって、補正画像G6は、第1照明装置21が発光を維持し、第2照明装置22が消灯を維持している状態で、撮像装置3が撮像周期毎に繰り返し撮像した複数のライン画像を時系列に沿って前後方向に連結した連結画像に相当する。すなわち、補正画像G6は、図7Aの連結画像G5から第2ライン画像G52が間引かれた画像に、複数の補完画像G510を補完した濃淡画像になる。
上述のように生成された補正画像G6では、四角形状のLED領域R60にLED92のパッケージ921の上面922が写っており、LED領域R60は、複数の明画素で主に構成されている。但し、LED92の上面922には浅い窪み923が形成されているので、LED領域R60内の前側は、LED領域R60内の後側に比べると、明画素に対する暗画素の割合が大きくなる。LED領域R60の後方には、第1照明装置21の発光時に生じる影が写る影領域R61が位置する。この影領域R61は、補完画像G510で補完されていることによって、複数の暗画素で主に構成されている。LED領域R60の前方には、第1照明装置21からの照明光Lt1が照射された領域が写る照射領域R62が位置する、この照射領域R62は、補完画像G510で補完されていることによって、複数の明画素で主に構成されている。また、LED領域R60の左方には、半田領域R63が位置し、LED領域R60の右方には、半田領域R64が位置している。半田領域R63,R64は、複数の暗画素で主に構成されている。
また、画像補正部114は、第2グループの複数の第2ライン画像G52に基づいて、図8Bに示す補正画像G7を生成する。補正画像G7は、第2グループの複数の第2ライン画像G52を時系列に沿って前後方向に並べ、複数の第2ライン画像G52の各間に、第1ライン画像G51の代わりに補完画像G520を配置した濃淡画像である。補完画像G520は、前後方向に隣接する一対の第2ライン画像G52から生成される。例えば、補完画像G520は、前後方向に隣接する一対の第2ライン画像G52の平均画像であり、一対の第2ライン画像G52をそれぞれ構成する各画素の濃淡値の平均値が、補完画像G520を構成する各画素の濃淡値になる。そして、補完画像G520は、一対の第2ライン画像G52の間に嵌め込まれる。したがって、補正画像G7は、第1照明装置21が消灯を維持し、第2照明装置22が発光を維持している状態で、撮像装置3が撮像周期毎に繰り返し撮像した複数のライン画像を時系列に沿って前後方向に連結した連結画像に相当する。すなわち、補正画像G7は、図7Aの連結画像G5から第1ライン画像G51が間引かれた画像に、複数の補完画像G520を補完した濃淡画像になる。
上述のように生成された補正画像G7では、四角形状のLED領域R70にLED92のパッケージ921の上面922が写っており、LED領域R70は、複数の明画素で主に構成されている。但し、LED92の上面922には浅い窪み923が形成されているので、LED領域R70内の後側は、LED領域R70内の前側に比べると、明画素に対する暗画素の割合が大きくなる。LED領域R70の前方には、第2照明装置22の発光時に生じる影が写る影領域R72が位置する。この影領域R72は、補完画像G520で補完されていることによって、複数の暗画素で主に構成されている。LED領域R70の前方には、第2照明装置22からの照明光Lt2が照射された領域が写る照射領域R71が位置する、この照射領域R71は、補完画像G520で補完されていることによって、複数の明画素で主に構成されている。また、LED領域R70の左方には、半田領域R73が位置し、LED領域R70の右方には、半田領域R74が位置している。半田領域R73,R74は、複数の暗画素で主に構成されている。
このように、第1照明装置21及び第2照明装置22が交互に発光し、撮像装置3は、第1照明装置21及び第2照明装置22の各発光タイミングを撮像タイミングとしている。したがって、画像処理装置11は、異なる2つの照明条件下でLED92を撮像した第1ライン画像G51及び第2ライン画像G52を交互に取得できる。すなわち、画像処理システムIPS1は、異なる2つの照明条件下でLED92を撮像した第1ライン画像G51及び第2ライン画像G52を生成するために、1台の撮像装置3を備えていればよい。
そして、第1処理部115は、補正画像G6,G7の同一座標における各画素の濃淡値を互いに比較する。
そして、第1処理部115は、第1グループの補正画像G6と第2グループの補正画像G7との差分画像を、図9Aに示す第1画像G8として生成する。具体的に、第1処理部115は、補正画像G6及び補正画像G7の同一座標における各画素の濃淡値の差分絶対値を求める。補正画像G6の画素数及び補正画像G7の画素数は互いに同じであり、第1処理部115は、補正画像G6及び補正画像G7の全ての画素について、濃淡値の差分絶対値を求める。そして、第1処理部115は、補正画像G6及び補正画像G7の同一座標における各画素の濃淡値の差分絶対値を濃淡値とする複数の画素によって、第1画像G8を生成する。
すなわち、第1画像G8は、補正画像G6及び補正画像G7を合成して、補正画像G6と補正画像G7との差異を明画素として強調した濃淡画像になる。この結果、照明光Lt1または照明光Lt2によって影ができる箇所が第1画像G8に写っている場合、当該箇所は、第1画像G8において明るい領域になる。一方、照明光Lt1または照明光Lt2によって影ができない箇所が第1画像G8に写っている場合、当該箇所は、第1画像G8において暗い領域になる。
したがって、第1画像G8では、欠陥凹部81(図5A参照)が表面汚れ82(図6A参照)に比べて明るく写り、表面汚れ82が欠陥凹部81に比べて暗く写る。第1画像G8では、四角形状のLED領域R80にLED92のパッケージ921の上面922が写っており、LED領域R80は、複数の暗画素で主に構成されている。LED領域R80の後方には、第1照明装置21の発光時に生じる影が写り、第2照明装置22の発光時に明るくなる明暗領域R81が位置している。LED領域R80の前方には、第1照明装置21の発光時に明るくなり、第2照明装置22の発光時に生じる影が写る明暗領域R82が位置している。明暗領域R81,R82のそれぞれは、複数の明画素で主に構成されている。また、LED領域R80の左方には、半田領域R83が位置し、LED領域R80の右方には、半田領域R84が位置している。半田領域R83,R84は、複数の暗画素で主に構成されている。
また、第1処理部115は、補正画像G6及び補正画像G7を比較し、補正画像G6及び補正画像G7の同一座標における各画素のうち、より低い輝度(最も低い輝度)を示す濃淡値の画素を当該座標の画素とした濃淡画像を、図9Bに示す第2画像G9として生成する。具体的に、第1処理部115は、補正画像G6及び補正画像G7の同一座標における各画素の濃淡値を比較する。そして、第1処理部115は、同一座標における各画素のうち濃淡値が低い方の画素を選択し、この濃淡値が低い方の画素を当該座標における画素とする。第1処理部115は、補正画像G6及び補正画像G7の全画素について上述の比較、選択の各処理を行う。第1処理部115は、濃淡値が低い方の画素を座標毎に選択し、濃淡値が低い方の画素を各座標に配置することで、第2画像G9を生成する。
すなわち、第2画像G9は、補正画像G6及び補正画像G7を合成して、第1グループの補正画像G6及び第2グループの補正画像G7の少なくとも一方において暗くなる領域を強調した濃淡画像になる。この結果、照明光Lt1または照明光Lt2によって影ができる箇所、及び光を吸収する箇所が第2画像G9に写っている場合、当該箇所は、第2画像G9において暗い領域になる。
したがって、第2画像G9では、欠陥凹部81(図5A参照)及び表面汚れ82(図6A参照)は、暗く写る。第2画像G9では、四角形状のLED領域R90にLED92のパッケージ921の上面922が写っており、LED領域R90は、複数の明画素で主に構成されている。LED領域R90の後方には、第1照明装置21の発光時に生じる影が写り、第2照明装置22の発光時に明るくなる明暗領域R91が位置している。第1照明装置21の発光時に明るくなり、第2照明装置22の発光時に生じる影が写る明暗領域R92が位置している。明暗領域R91,R92のそれぞれは、複数の暗画素で主に構成されている。また、LED領域R90の左方には、半田領域R93が位置し、LED領域R90の右方には、半田領域R94が位置している。半田領域R93,R94は、複数の暗画素で主に構成されている。
第2処理部116は、第1画像G8と第2画像G9との差分画像を、LED9の凹凸を強調した第3画像G10(図10A参照)として生成する。具体的に、第2処理部116は、第2画像G9の各画素の濃淡値から第1画像G8の各画素の濃淡値を引くことで、第1画像G8及び第2画像G9の同一座標における各画素の濃淡値の差分値を求める。第1画像G8の画素数及び第2画像G9の画素数は互いに同じであり、第2処理部116は、第1画像G8及び第2画像G9の全ての画素について、濃淡値の差分値を求める。そして、第2処理部116は、第1画像G8及び第2画像G9の同一座標における各画素の濃淡値の差分値を濃淡値とする複数の画素によって、第3画像G10を生成する。第3画像G10では、差分絶対値ではなく、差分値を用いており、差分値がマイナスになる場合には、差分値を0(ゼロ)に置き換える。この結果、第3画像G10は、以下の特徴を有する。
まず、第1画像G8において欠陥凹部81が写っている箇所は、明るく写っており、複数の明画素で主に構成されている。また、第2画像G9において欠陥凹部81が写っている箇所は、影によって暗く写っており、複数の暗画素で主に構成されている。
一方、第1画像G8において、表面汚れ82が写っている各箇所は、凹凸が少ないために暗く写っており、複数の暗画素で主に構成されている。また、第2画像G9において表面汚れ82が写っている箇所は、表面汚れ82自体の色によって暗く写っており、複数の暗画素で主に構成されている。
したがって、第2画像G9の各画素の濃淡値から第1画像G8の各画素の濃淡値を引く差分処理によって、第3画像G10において欠陥凹部81が写っている箇所では、第2画像G9の各画素の濃淡値からの低下幅が比較的大きくなる。また、上述の差分処理によって、第3画像G10において表面汚れ82が写っている箇所では、第2画像G9の各画素の濃淡値からの低下幅が比較的小さくなる。
すなわち、第3画像G10において欠陥凹部81が写っている箇所では、各画素の濃淡値がより低くなり、第3画像G10において欠陥凹部81はより暗く写っている。また、第3画像G10において表面汚れ82が写っている箇所では、第2画像G9において表面汚れ82が写っている箇所に比べて濃淡値の低下幅が小さく、第3画像G10において表面汚れ82は欠陥凹部81より明るく写っている。
図10Aに示す第3画像G10では、四角形状のLED領域R100にLED92のパッケージ921の上面922が写っており、LED領域R100の四辺付近は、複数の明画素で主に構成されている。LED領域R100の後方には、第1照明装置21の発光時に生じる影が写り、第2照明装置22の発光時に明るくなる明暗領域R101が位置している。LED領域R100の前方には、第2照明装置22の発光時に生じる影が写り、第1照明装置21の発光時に明るくなる明暗領域R102が位置している。明暗領域R101,R102のそれぞれは、複数の暗画素で主に構成されている。また、LED領域R100の左方には、半田領域R103が位置し、LED領域R100の右方には、半田領域R104が位置している。半田領域R103,R104は、複数の暗画素で主に構成されている。
そして、LED領域R100では、左前の角部に周囲より暗く写った欠陥領域R105、R106が存在している。すなわち、この欠陥領域R105、R106が、欠陥凹部81に対応する。このように、第3画像G10では、欠陥領域R105、R106が濃淡値が周囲に比べて著しく低い暗画素として、表面汚れ82が写っている箇所と比較しても強調されており、後段の検査部118による検査精度(欠陥領域の検出精度)が向上する。
そして、検査部118は、第3画像G10に基づいて、LED92の外観検査を行う。具体的に、検査部118は、画像認識処理として、ディープラーニング(Deep Learning)による認識アルゴリズムを実行する。この認識アルゴリズムは、予め、多層構造のニューラルネットワークを用いて、LED92の画像データ(正常品、欠陥品の各画像データ)などを学習モデルとするディープラーニングによって構築される。そして、膨大な数の学習モデル用いたディープラーニングによって、LED92の欠陥凹部81を認識するための特徴量が抽出され、認識アルゴリズムが構築される。検査部118は、ディープラーニングによる認識アルゴリズムを実行することで、第3画像G10から欠陥領域R105,R106を抽出する。
あるいは、検査部118は、画像認識処理として、テンプレートマッチングを用いた認識アルゴリズムを実行してもよい。この場合、検査部118は、正常なLED92の画像をテンプレート画像とし、テンプレート画像を第3画像G10と比較することで、画像認識処理を行う。
なお、検査部118は、上述の画像認識処理を行う前に、第3画像G10に対して二値化処理及び微分処理の少なくとも一方を施して、LED領域R100のエッジ、またはエッジより少し大きい領域を抽出し、LED領域R100を含む抽出領域内の画像を画像認識処理の対象としてもよい。
出力部119は、検査部118の検査結果、検査経過などの各情報を含む画像データを作成し、表示装置5へ出力する。表示装置5は、受信した画像データに基づいて、検査部118の検査結果、検査経過などの各情報を表示する。
また、画像処理装置11は、画像平滑部117を備えることが好ましい。画像平滑部117は、第3画像G10におけるグラデーションなどのノイズを低減する。画像平滑部117は、図10Bに示すような、第3画像G10からノイズを低減した第3画像G10aを出力する。
本実施形態では、LED92のパッケージ921の上面922には浅い窪み923が形成されており(図3参照)、この窪み923によって、進行方向X1に沿って濃淡値が変化するグラデーションが画像内に発生しやすい。そこで、画像平滑部117を例えばクロスメディアンフィルタで構成することで、特に進行方向X1に沿って濃淡値が変化するグラデーションによるノイズを低減することができる。クロスメディアンフィルタは、対象画素を中心とする行方向の複数画素の各濃淡値の中央値と、対象画素を中心とする列方向の複数画素の各濃淡値の中央値との二乗和平方根を、対象画素の濃淡値とする。なお、画像平滑部117は、クロスメディアンフィルタで以外であってもよく、特定のフィルタに限定されない。
上述の画像処理装置11による画像処理方法をまとめると、図11のフローチャートのようになる。
まず、撮像装置3との相対位置が変化するLED92をラインセンサ31によって撮像したライン画像の情報を生成する(撮像ステップS1)。また、LED92に対して互いに異なる方向から各照明光Lt1,Lt2をそれぞれ照射する(照明ステップS2)。そして、ライン画像の情報を受け取って画像処理を行う(画像処理ステップS3)。そして、照明ステップS2は、LED92に対して、互いに異なる発光タイミングで各照明光Lt1,Lt2をそれぞれ繰り返し照射する。また、撮像ステップS1は、複数の照明光Lt1,Lt2の各発光タイミングに同期してLED92を撮像する。
なお、上述の実施形態では、LED92に対する照明光Lt1,Lt2の各照射方向を、第1照明装置21、第2照明装置22の各照明条件としている。しかし、第1照明装置21、第2照明装置22の各照明条件は、照明光の波長、強度、偏光状態などのいずれかであってもよい。すなわち、第1照明装置21、第2照明装置22の各照明条件が互いに異なっていればよい。
また、照明装置の数を3台以上として、照明条件を3つ以上としてもよい。この場合、画像処理装置11は、3つ以上の照明条件にそれぞれ対応する補正画像を生成し、各補正画像の差分処理及び各画素の濃淡値の比較処理などを行って、第1画像及び第2画像を上記同様に生成できる。そして、画像処理装置11は、第1画像及び第2画像から上記同様に第3画像を生成できる。
上述の実施形態に係る第1の態様の画像処理システムIPS1は、撮像装置3と、第1照明装置21及び第2照明装置22(複数の照明装置)と、画像処理装置11と、を備える。撮像装置3は、相対位置が変化するLED92(対象物)をラインセンサ31によって撮像したライン画像(第1ライン画像G51及び第2ライン画像G52)の情報を生成する。第1照明装置21及び第2照明装置22は、LED92に対する照明条件が互いに異なる各照明光Lt1,Lt2をLED92にそれぞれ照射する。画像処理装置11は、前記ライン画像の情報を受け取って画像処理を行う。そして、第1照明装置21及び第2照明装置22は、LED92に対して、互いに異なる発光タイミングで各照明光Lt1,Lt2をそれぞれ繰り返し照射する。撮像装置3は、第1照明装置21及び第2照明装置22の各発光タイミングに同期してLED92を撮像する。
すなわち、画像処理システムIPS1では、照明条件が互いに異なる複数の照明光Lt1,Lt2を、互いに異なる発光タイミングでLED92に照射している。そして、撮像装置3は、複数の照明光Lt1,Lt2の各照射タイミングに同期してLED92を撮像する。したがって、画像処理システムIPS1は、1つの撮像装置3が撮像したライン画像に基づいて、撮像時の照明条件が互いに異なる複数の画像に画像処理を施すことができる。この結果、照明条件が異なる複数の照明光をそれぞれ照射された検査対象を撮像して画像処理を行う場合に、構成部品の数を低減できる。
例えば、比較例として、照明装置及び撮像装置の組を複数組備えて、各組の照明装置の照明条件を互いに異ならせるシステム構成が挙げられる。この場合、各組の照明装置が常に発光を維持することによって、照明条件が異なる複数の照明光をそれぞれ照射されたLED92を撮像して画像処理を行うことができる。しかしながら、この比較例では、複数の照明装置が必要であり、上述の画像処理システムIPS1に比べて、部品点数(撮像装置の台数)が多くなってしまう。
また、実施形態に係る第2の態様の画像処理システムIPS1では、第1の態様において、前記照明条件は、LED92に対する照明方向であり、第1照明装置21及び第2照明装置22は、各照明光Lt1,Lt2を互いに異なる方向からLED92にそれぞれ照射することが好ましい。
したがって、画像処理システムIPS1は、照明方向によって影の発生形態が互いに異なる複数の画像を用いて、画像処理を行うことができる。
また、実施形態に係る第3の態様の画像処理システムIPS1では、第1または第2の態様において、第1照明装置21及び第2照明装置22が決められた順序でそれぞれ発光するように、第1照明装置21及び第2照明装置22の各発光タイミングの周期が設定されていることが好ましい。
したがって、LED92に照射される照明光の照明条件が周期的に決められた順序で切り換わるので、画像処理システムIPS1は、時系列に沿って受け取った一連の複数のライン画像のそれぞれの照明条件を容易に識別できる。
また、実施形態に係る第4の態様の画像処理システムIPS1では、第3の態様において、画像処理装置11は、画像分類部113と、画像補正部114と、第1処理部115と、第2処理部116と、を備えることが好ましい。画像分類部113は、撮像装置3が撮像した複数の前記ライン画像を、第1照明装置21及び第2照明装置22にそれぞれ対応するグループのいずれかに分類する。画像補正部114は、複数のグループのそれぞれに対応する補正画像G6,G7として、複数のグループのそれぞれに属するライン画像(第1ライン画像G51及び第2ライン画像G52)を用いてLED92が写った各濃淡画像を生成する。第1処理部115は、複数のグループの各補正画像G6,G7の差分画像を第1画像G8として生成する。また、第1処理部115は、複数のグループの各補正画像G6,G7を比較し、各補正画像G6,G7の同一座標の複数の画素のうち最も暗い輝度を示す濃淡値の画素を当該座標の画素とした濃淡画像を第2画像G9として生成する。第2処理部116は、第1画像G8と第2画像G9との差分画像を、LED92の凹部(欠陥凹部81)を強調した第3画像G10として生成する。
したがって、画像処理システムIPS1では、LED92の欠陥凹部81とLED92の表面汚れ82とが、第3画像G10において容易に識別される。
また、実施形態に係る第5の態様の画像処理システムIPS1では、第4の態様において、画像補正部114は、複数のグループのそれぞれにおいて、撮像装置3の撮像タイミングの時系列に沿って並んだ2つ以上のライン画像の各間を補完することで、補正画像G6,G7を生成することが好ましい。
したがって、画像処理システムIPS1では、間引かれたライン画像に基づいて、LED92の全体が写った濃淡画像を補正画像G6,G7として生成することができる。
また、実施形態に係る第6の態様の画像処理システムIPS1では、第4または第5の態様において、第3画像G10に対して平滑化処理を行う画像平滑部117をさらに備えることが好ましい。
したがって、画像処理システムIPS1は、第3画像G10からノイズを低減することができる。
また、実施形態に係る第7の態様の画像処理システムIPS1では、第6の態様において、画像平滑部117は、クロスメディアンフィルタであることが好ましい。
したがって、画像処理システムIPS1は、進行方向X1に沿って濃淡値が変化するグラデーションによるノイズを第3画像G10から低減することができる。
また、実施形態に係る第8の態様の画像処理システムIPS1では、第4乃至第7の態様のいずれか一つにおいて、画像処理装置11は、第3画像G10に基づいて、LED92の欠け(欠陥凹部81)の検査を行う検査部118をさらに備えることが好ましい。
したがって、画像処理システムIPS1は、LED92の欠けの有無、欠けの程度を判断して、LED92の外観検査を行うことができる。
また、実施形態に係る第9の態様の画像処理システムIPS1では、第4乃至第8の態様のいずれか一つにおいて、複数の照明装置は、第1照明装置21及び第2照明装置22で構成される。そして、第1照明装置21及び第2照明装置22が交互に発光するように、第1照明装置21の発光タイミングである第1発光タイミング及び第2照明装置22の発光タイミングである第2発光タイミングが交互に設定されていることが好ましい。
したがって、画像処理システムIPS1は、2つの照明装置(第1照明装置21及び第2照明装置22)を用いて、互いに異なる2つの照明条件下で撮像された各画像に画像処理を施すことができる。この結果、照明条件が異なる2つの照明光をそれぞれ照射された検査対象を撮像して画像処理を行う場合に、構成部品の数を低減できる。
また、実施形態に係る第10の態様の画像処理システムIPS1では、第9の態様において、第1照明装置21の照射方向と第2照明装置22の照射方向とは、前記相対位置の変化方向(進行方向X1)に沿って互いに反対方向であることが好ましい。
したがって、画像処理システムIPS1は、LED92の欠陥凹部81による画像上の特徴と、LED92の表面汚れ82による画像上の特徴とを容易に識別できる。
また、実施形態に係る第11の態様の画像処理システムIPS1では、第1乃至第10の態様のいずれか一つにおいて、撮像装置3とLED92との相対位置は、進行方向X1(第1方向)に沿って変化する。そして、ライン画像の撮像範囲は、進行方向X1に交差する第2方向に延びる長尺形状であることが好ましい。
したがって、画像処理システムIPS1は、ラインセンサ31を用いた画像処理を精度よく行うことができる。
上述の実施形態に係る第12の態様の画像処理方法は、撮像ステップS1と、照明ステップS2と、画像処理ステップS3と、を備える。撮像ステップS1は、相対位置が変化するLED92をラインセンサ31によって撮像したライン画像(第1ライン画像G51及び第2ライン画像G52)の情報を生成する。照明ステップS2は、LED92に対する照明条件が互いに異なる各照明光Lt1,Lt2をLED92にそれぞれ照射する。画像処理ステップS3は、ライン画像の情報を受け取って画像処理を行う。そして、照明ステップS2は、LED92に対して、互いに異なる発光タイミングで各照明光Lt1,Lt2をそれぞれ繰り返し照射する。撮像ステップS1は、各照明光Lt1,Lt2の発光タイミングに同期してLED92を撮像する。
したがって、画像処理方法は、画像処理システムIPS1と同様に、照明条件が異なる複数の照明光をそれぞれ照射された検査対象を撮像して画像処理を行う場合に、構成部品の数を低減できる。
上述の実施形態に係る第13の態様のプログラムは、コンピュータシステム1に、第12の態様の画像処理方法を実行させる。
したがって、プログラムは、上述の画像処理方法と同様に、照明条件が異なる複数の照明光をそれぞれ照射された検査対象を撮像して画像処理を行う場合に、構成部品の数を低減できる。
なお、上述の実施の形態は本発明の一例である。このため、本発明は、上述の実施形態に限定されることはなく、この実施の形態以外であっても、本発明に係る技術的思想を逸脱しない範囲であれば、設計等に応じて種々の変更が可能であることは勿論である。