JP2017224974A - 撮像装置および撮像システム並びに外観検査装置および製造方法 - Google Patents

撮像装置および撮像システム並びに外観検査装置および製造方法 Download PDF

Info

Publication number
JP2017224974A
JP2017224974A JP2016118638A JP2016118638A JP2017224974A JP 2017224974 A JP2017224974 A JP 2017224974A JP 2016118638 A JP2016118638 A JP 2016118638A JP 2016118638 A JP2016118638 A JP 2016118638A JP 2017224974 A JP2017224974 A JP 2017224974A
Authority
JP
Japan
Prior art keywords
image data
region
interest
evaluation value
imaging
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2016118638A
Other languages
English (en)
Inventor
治一 渡辺
Jiichi Watanabe
渡辺  治一
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2016118638A priority Critical patent/JP2017224974A/ja
Publication of JP2017224974A publication Critical patent/JP2017224974A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)
  • Studio Devices (AREA)
  • Image Analysis (AREA)

Abstract

【課題】テンプレートマッチングによる対象物の探索時間を短縮し、予め設定された関心領域と同じ配置及び面積で欠落なく画像データを出力可能な撮像装置および撮像システム並びに外観検査装置および製造方法を提供する。【解決手段】一部領域の画像データのみを出力可能な撮像装置で、撮像領域の対象物を含む第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、撮像領域内で移動可能で第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、第1及び第2の画像データの類似度を表す評価値を算出する評価値算出手段と、評価値が所定の閾値以上であるとき、第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、を備え、第1及び第2の画像データは、出力画像データよりもデータ量が小さい。【選択図】図1

Description

本発明は、撮像装置および撮像システム並びに外観検査装置および製造方法に関し、特に部分読出し機能を有するものに関する。
工場の製造ラインでは、流れ作業の中で検査者が部品等の外観検査を行う目視検査の代わりに、画像入力用の撮像装置とコンピュータやデジタル入出力機器とを接続して検査を行うシステムが導入されている。これらのシステムに使用される撮像装置は、マシンビジョンカメラと呼ばれ、近年では、検査精度を向上させるために、1000万以上の画素を有する撮像素子(イメージセンサ)を搭載したものが使用されるようになってきた。
このような撮像装置で被検査物(対象物)を撮像し、撮像素子の全画素から信号を読み出す場合、画素数が多いため、各画素から信号を読み出すための時間が長くなる。
そこで、特許文献1では、撮像素子の全画素の一部を関心領域として指定し、該当する関心領域のみを読み出しする、所謂部分読み出しを行うことにより、画素から信号を読み出すための時間を短縮する技術が提案されている。
特開2004−023256号公報
しかしながら、上述の特許文献1に開示された従来技術では、部品等の被検査物(対象物)の位置が撮像装置の指定された関心領域内からずれて配置される度に、被検査物(対象物)の一部しか表示されないこととなる。そこで、検査者は、その都度、流れ作業を止めて撮像装置の関心領域を変更するか、被検査物の位置を変更する(調整する)か、いずれかの作業を行う必要があった。
これを解消するため、対象物が撮像領域の予め設定された関心領域内から位置ずれを起こして配置されても、予め設定された関心領域と同じ配置及び面積で欠落なく画像データを出力可能とするようにテンプレートマッチングを利用することが考えられる。即ち、撮像素子の撮像領域のうち、一部領域の画像データのみを出力可能な撮像装置で、撮像領域における対象物を含む第1の関心領域の画像データと、第1の関心領域と同じ面積で変位する第2の関心領域の画像データをテンプレートマッチングで比較する。
このとき、撮像素子の対象物を含む一部領域の全画素を読み出した画像データが必要であるため、対象物の探索に時間がかかることを改善することが望まれる。
本発明の目的は、テンプレートマッチングによる対象物の探索時間を短縮し、予め設定された関心領域と同じ配置及び面積で欠落なく画像データを出力可能な撮像装置および撮像システム並びに外観検査装置および製造方法を提供することにある。
上記目的を達成するため、本発明に係る撮像装置は、複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを出力可能な撮像装置であって、前記撮像領域の対象物を含む第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、を備えており、前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さい、ことを特徴とする。
また、本発明に係る撮像システムは、複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを出力可能な撮像装置と、該撮像装置からの画像データを受信する外部機器と、を含む撮像システムであって、前記撮像領域の対象物を含む第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、を備えており、前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さく、前記評価値の算出を前記外部機器において行うことを特徴とする。
また、本発明に係る外観検査装置は、複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを用いて対象物を外観検査する外観検査装置であって、前記撮像領域の第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、を備えており、前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さい、ことを特徴とする。
また、本発明に係る製造方法は、複数の部品から構成される装置を製造する製造方法であって、前記複数の部品のうちの少なくとも一つを、上記外観検査装置を用いて検査する検査工程と、前記検査工程の検査結果に基づいて、前記複数の部品を組み立てる組立工程と、を備えることを特徴とする。
本発明によれば、テンプレートマッチングによる対象物の探索時間を短縮し、予め設定された関心領域と同じ配置及び面積で欠落なく画像データを出力可能な撮像装置および撮像システム並びに外観検査装置および製造方法を提供することができる。
第1の実施形態に係る撮像装置の構成図 第1の実施形態で画素間引きを示す図 第1の実施形態で関心領域から画素間引きを行うことを示す図 第1の実施形態で基準テンプレートを登録する際のモニタ画面を示す図 第1の実施形態で間引きテンプレートを示す図 第1の実施形態のフローチャート 第2の実施形態における複数の間引きテンプレートを示す図 第2の実施形態のフローチャート 第3の実施形態のフローチャート 第4の実施形態に係る撮像装置の構成図 第4の実施形態における部分読み出し位置変更範囲を示す図 第5の実施形態に係る撮像システムの構成図
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。
以下の実施形態における外観検査装置は、まず第1の関心領域において対象物(被検査物)の形状(外観、輪郭、外形等)を記憶する。その上で、次の対象物を含む第2の関心領域における対象物の形状と、記憶している第1の関心領域における対象物の形状とを比較して類似度を算出する(得る)。その算出された類似度が所定の閾値以上であれば、第2の関心領域内に位置している対象物は、第1の関心領域内に位置していた対象物と同種の物体(部品)であり、検査の対象(撮像の対象)となる。
このように、類似度が所定の閾値以上に高くなるように、撮像装置が撮影し得る撮像領域(撮像可能な全領域)の中から第2の関心領域を切り出して、この第2の関心領域に対応する位置部分(撮像領域全体ではない)を読み出すようにする。このような動作をすることによって、比較的短時間に(読み出し時間を削減しつつ)外観検査を行うことができる外観検査装置を提供することができる。
尚、以下の実施形態で、第1の関心領域における対象物と、第2の関心領域における類似の対象物との照合を外観検査として行う外観検査装置は、撮像装置で構成される場合や、撮像システム(撮像装置および外部機器)で構成される場合がある。
《第1の実施形態》
(撮像装置)
図1に、撮像素子の撮像領域のうち一部領域の画像データのみを出力可能な本発明の第1の実施形態に係る撮像装置の構成を示す。撮像装置100は、イメージセンサ(撮像素子)101を含む撮像系を有し、センサ駆動制御部102、デジタル変換部(変換部)としてのAD部103、アドレス変換部104で撮像処理が行われる。
不図示のレンズを通った光束は、撮像装置100のイメージセンサ101に結像する。センサ駆動制御部102は、イメージセンサ101の蓄積動作や読み出し動作の制御を行う。センサ駆動制御部102によってイメージセンサ101の撮像処理を行うと、イメージセンサ101からはアナログの撮像信号が出力される。アナログの撮像信号は、AD部103にてデジタル変換され、画像データとして後述の画像信号処理部108に入力される。尚、AD部103は、イメージセンサ101に構成されていても構わない。
アドレス変換部104は、センサ駆動制御部102がイメージセンサ101の蓄積制御と読み出し制御を行う対象画素のアドレスを算出する。画素間引き設定部120は、部分読み出し領域内の画素の間引き量を設定する。図2において、灰色枠の画素が間引きされた画素に対応し、白枠の画素のみ読み出しを行う。具体的な間引きとしては、図2(a)のように隣接画素を間引いたり、図2(b)のように数画素ごとに1画素間引いたり、図2(c)のように数ラインごとに、1ライン間引いたりする。
イメージセンサ101の一部領域から画素間引き設定部120の間引き量に基づいて部分読み出しを行う場合、アドレス変換部104は、イメージセンサ101の全画素のうち、読み出しを行う画素を対象画素としてアドレス出力する。即ち、読み出し対象とならないアドレスはスキップする。これに関しては、後に詳述する。
カメラ入力インターフェース部106は、撮像装置100の装置筐体の外側に設けられるPCなど外部機器から、撮像装置100の間引き量の設定や、部分読み出しを行いたい関心領域の座標データを受信するインターフェースである。また、メモリ107は、カメラ入力インターフェース部106で入力された撮像装置100の設定値や、部分読み出しを行いたい関心領域の座標データを保存する。部分読み出し位置設定部105は、メモリ107から、関心領域の座標データを読み出し、アドレス変換部104に送信する。
ここで、イメージセンサ101の全画素を横1000×縦1000として、一部領域から画素間引き設定部120の間引き量に基づいて部分読み出しを行う場合を、図3を用いて説明する。本実施形態では、イメージセンサ101の左上の座標を(1,1)とし、右下の座標を(1000,1000)として説明している。また、画素間引き設定部120における間引き量として、隣接画素を間引く場合を選択している。
本実施形態では、部分読み出しを行う関心領域の左上と右下の座標を与えることで、関心領域を定義している。図3では、基準テンプレートとして登録する撮影対象物(撮影したい被写体)を含む固定された第1の関心領域Imgは、左上(300,300)、右下(600,600)の破線で囲まれた領域で示されている。
(第1の関心領域Imgの座標データ)
この第1の関心領域Imgの座標データは、カメラ入力インターフェース部106を経由して、メモリ107に保存される。第1の関心領域Imgの座標データは、部分読み出し位置の設定部105によりメモリ107から読み出される。そして、第1の関心領域Imgの画像データもしくは画像間引き設定部120により間引かれた画像データは、アドレス変換部104、センサ駆動制御部102によりイメージセンサ101より読み出される。そして、AD部103でデジタル変換される。
(第1の関心領域Imgと同じ面積を保って変位可能(移動可能)な第2の関心領域Imgの座標データ)
後述する画像信号所織り部108における部分読み出し位置変更部111が、第2の関心領域Imgの新しい部分読み出し位置座標データを算出し、初期値を更新してメモリ107に保存する。
(変位可能な関心領域Imgにおける画像読出し)
第2の関心領域Imgの画像データもしくは画像間引き設定部120により間引かれた画像データは、画像データを得る獲得手段としてのアドレス変換部104、センサ駆動制御部102によりイメージセンサ101より読み出される。そして、AD部103でデジタル変換される。これについては、第1の関心領域と同様である。
即ち、部分読み出し位置設定部105は、メモリ107から、第2の関心領域Imgの座標データを読み出す。アドレス変換部104は、部分読み出し位置設定部105の座標データ及び画素間引き設定部120の間引き量に基づき、イメージセンサ101の蓄積及び読み出しを行うためのアドレス情報であるラインや画素ナンバーをセンサ駆動制御部102に対し発行する。図3では、灰色枠の画素を間引いて白枠のみの画素を読み出すアドレスを発行する。
具体的には、アドレス変換部104は、下記のように読み飛ばしライン、読み飛ばし列、読み出し画素を算出する。
・読み飛ばしライン 行1〜行299。行601〜1000
・読み飛ばし列の画素 列1〜列299、列601〜1000
・読み出し画素 (300+2i、300+2j)但し、i、Jは、0〜150
・読み出し画素 (300+2m−1、300+2n−1)但し、m、nは、1〜150
その後センサ駆動制御部102は、アドレス変換部104から発行されたアドレス情報に基づきイメージセンサ101から関心領域内の対象画素のみ部分読み出しを行う。
(画像信号処理部108)
画像信号処理部108は、基準テンプレート保存部109、間引きテンプレート保存部121、評価値算出部110、部分読み出し位置変更部111、画像信号出力部112から構成されている。
基準テンプレート保存部109は、関心領域内の全画素を読み出したAD部103からの出力画像データを基準テンプレートとして登録し保存する。間引きテンプレート保存部121は、基準テンプレートの画像データから、画素間引き設定部120で設定された間引き量で間引かれた画像データをテンプレートとして保存する。尚、基準テンプレート保存部109に記憶した基準テンプレートの画像データ、間引きテンプレート保存部121に記憶した間引きテンプレートの画像データの双方あるいはいずれか一方を、メモリ107に記憶するようにしても構わない。
本実施形態では、間引きテンプレートを基準テンプレートの画像データから画素間引きを行い生成しているが、次のような方法でも構わない。即ち、アドレス変換部104は、第1の関心領域内の全画素から画素間引き設定部120で設定された間引き量で間引かれた対象画素のアドレスを算出し、対象画素のみのアナログ信号を出力する。その後、第1の関心領域における対象画素のみのアナログ信号(画素信号)については、AD部103でデジタル変換され、間引きテンプレート保存部121は、AD部103からの出力画像データを間引きテンプレートとして保存する。
評価値算出部110には、AD部103からの出力画像(第2の関心領域Imgの間引きされたデータ量の画像)と、間引きテンプレート保存部121に記憶された第1の関心領域Imgの間引きされたデータ量の画像に係るデジタル信号が入力する。そして、被検査物が対象物であるかどうか(類似の対象物であるかどうか)をパターンマッチングで比較し、類似度に基づく評価値(類似度を表す評価値、或いは類似度が高ければ高いほど大きな値を示す評価値)を算出する。
この類似度を表す評価値が所定の閾値以上であるときは、基準テンプレートにおける撮影対象物と類似する類似対象物(検査対象)がAD部103からの出力画像に存在することとなる。
そして、この類似度を表す評価値が所定の閾値未満であるときは、後に詳述するように
部分読み出し位置変更部111は、部分読み出し領域の位置を変更するための座標データを算出しメモリ107に保存する。画像信号出力部112は、評価値が既定値以上のときに、撮像装置100からの画像をPCやモニタ等の外部機器に対応したフォーマットに変換し、出力するためのインターフェースである。
尚、ここでいう評価値とは、類似度、或いは一致度、或いは類似度(一致度)の高さ(或いは低さ)を表す何らかの値であればどのような値であっても構わない。
(基準テンプレートの登録)
次に、検査者または操作者が基準テンプレートを登録する方法について説明する。図4は、本実施形態における撮像装置100を用いて、基準テンプレートとなる撮影対象物Tを撮影したときのモニタ画面を示している。なお、本実施形態では、イメージセンサの全画素数を図3と同様に横1000×縦1000としているが、撮影映像の画素数についてはこれに限定されない。また、本実施形態では、撮影映像の左上の座標を(1,1)とし、右下の座標を(1000,1000)として説明している。
まず、検査者は、図4のようにモニタ画面を見ながら基準テンプレートとして登録したい撮影対象物Tを含む固定された第1の関心領域ImgoをPCや他の操作器で設定する。図4において、第1の関心領域Imgは、左上(300,300)、右下(600,600)の破線で囲まれた領域である。この第1の関心領域Imgの座標データは、カメラ入力インターフェース部106を経由して、メモリ107に保存される。そして、部分読み出し位置設定部105は、メモリ107から、第1の関心領域Imgの座標データを読み出すことができる。
アドレス変換部104は、部分読み出し位置設定部105の座標データに基づき、イメージセンサ101の蓄積および読み出しを行うためのアドレス情報であるラインや画素ナンバーをセンサ駆動制御部102に対して発行する。具体的には、アドレス変換部104は、以下のように読み飛ばしライン、読み出しライン、読み飛ばし列、読み出し列の画素を算出する。
・読み飛ばしライン 行1〜行299。行601〜1000
・読み出しライン 行300〜行600
・読み飛ばし列の画素 列1〜列299、列601〜1000
・読み出し列の画素 列300〜列600
その後、センサ駆動制御部102は、アドレス変換部104から発行されたアドレス情報に基づきイメージセンサ101から第1の関心領域のみの対象画素の部分読み出しを行う。第1の関心領域から読み出された対象画素のアナログ信号は、AD部102で既定のビット数(8ビットや10ビット等)で量子化され、デジタル変換された画像データとして画像信号処理部108に入力される。この画像データを基準テンプレートTEMPとして保存する場合は、PCや他の操作器からテンプレート保存のコマンドをカメラ入力インターフェース部106に入力することで、基準テンプレート保存部109に保存される。
(間引きテンプレートの登録)
次に、間引きテンプレートの登録方法について説明する。間引きテンプレートは、画素間引き設定部120の設定に従い、基準テンプレートTEMPの画像データから、間引きを行った画像データのみを保存する。例えば、基準テンプレートTEMPが図5(a)のように横6×縦6の画素の画像データとし、基準テンプレートの左上の座標を(i,j)とし、右下の座標を(i+6,j+6)とする。
間引きテンプレートは、画素間引き設定部120が隣接画素を間引く設定となっている場合は、図5(b)のように灰色枠の画素を間引き、白枠で囲まれた画素の画像データのみを間引きテンプレート保存部121に保存する。
(i+1、j)、(i+3、j)、(i+5、j)
(i、j+1)、(i+2、j+1)、(i+3、j+1)
(i+1、j+2)、(i+3、j+2)、(i+5、j+2)
(i、j+3)、(i+2、j+3)、(i+3、j+3)
(i+1、j+4)、(i+3、j+4)、(i+5、j+4)
(i、j+5)、(i+2、j+5)、(i+3、j+5)
(フローチャート)
図6は、本実施形態におけるイメージセンサ101で撮像された被検査物が、対象物であるかを間引きテンプレートSTEMPとテンプレートマッチングを行い、対象物である場合は、既定のフォーマットで画像出力を行うフローチャートである。
まず、PCや他の操作器等の外部機器から予めメモリ107に保存された第1の関心領域Imgの座標データを、部分読み出し位置設定部105(図1)が、初期値INTとして読みだす(ステップS1)。次に、PCや他の操作器等の外部機器から予め設定されている間引き量を画素間引き設定部120から読み出す(ステップS2)。
アドレス変換部104は、部分読み出し位置設定部105から読み出された初期値INTと、画素間引き設定部120で読出された間引き量からイメージセンサ101の部分読出しを行う指定アドレスを駆動制御部102に対して発行する(ステップS3)。
すると、イメージセンサ101から指定アドレスの対象画素が読み出され(ステップS4)、AD部103は、デジタル変換された画像データを出力する(ステップS5)。ステップS6は、まだ実行されていないのでステップS7へ進む。
ステップS7では、評価値算出部110で、AD部103からの間引きされた画像データと、間引きテンプレート保存部109に保存される間引きテンプレートの画像とテンプレートマッチングを行い、類似度を表す評価値を算出する(ステップS8)。
本実施形態では、間引きテンプレートとAD部103からの間引きされた画像データの輝度値で相関マッチングを行っているが、輪郭、カラーマッチング等他のパターン認識技術を使用してマッチングを行っても構わない。
ステップS8で評価値がある既定値(所定の閾値)以上のときは、AD103からの画像データは、被検査物であると判定し、ステップS12へ進む。検査者は、最終的には被検査物を含む関心領域内の全画素の画像データが必要なので、ステップS12では、被検査物を含む関心領域内の全画素を読み出す必要がある。
よって、ステップS12では、画素間引き設定部120の間引き量をなしに設定する(間引き量をゼロとする)。その後、画像データを間引き無しで出力するために、ステップS2へ戻り、ステップS3〜ステップS5を再度実行し、ステップS6へ進む。ステップS6では、ステップS12が既に終了済みなので、ステップS13に進む。ステップS13では、画像信号出力部112で既定のフォーマットに変換され外部に出力される。
ステップS9で評価値がある既定値未満のときは、被検査物の位置が関心領域Img内からずれていると判断し、イメージセンサ101の部分読み出し領域(第2の関心領域)の位置を変更する。具体的には、部分読み出し位置変更部111が新しい部分読み出し位置座標データを算出し(ステップS10)、初期値INTを更新してメモリ107に保存する(ステップS11)。このとき、新しい第2の関心領域の座標データは、初期値INTで囲まれた領域(第1の関心領域)と同じ面積で、左上、右下の座標のみ異なっている。
その後、ステップS9で評価値がある既定値以上になるまでは、ステップS1〜S9を繰り返す。つまり、AD部103からの間引かれた画像データと間引きテンプレートとの評価値が既定値以上になるまで、イメージセンサ101の部分読み出し位置(第2の関心領域の位置)を予め設定された第1の関心領域と同じ面積で変更していく。
以上の構成及びフローを行うことで、テンプレートマッチングで被検査物をイメージセンサ101から探索する時間を短縮し、被検査物を予め設定された関心領域と同じ配置及び面積で欠落なく外部に出力することが可能となる。また、間引き(撮像領域内の所定画素からの信号を読み出さない)を用いることで、読出し時間を最短化できる。
本実施形態では、読み出し領域(撮像領域の一部)の中において、格子状に画素を間引いたり、ラインごとに画素を間引いたり、といった画素領域を間引く手法を採っている。しかしながら、データ量を減らす方法はこの限りではなく、例えばAD変換する際の階調数を減らしたり、色情報を減らしたり(或いは白黒画像として取り込んだり)することによってデータ量を減らしても良い。
ここで、領域(画素領域)を間引くと、読み出しにかかる時間とマッチングにかかる時間の両方を短縮することが可能であり、AD変換する際に上記のような方法でデータ量を減らせばマッチングにかかる時間を短縮可能である。いずれの方法も本発明の効果を奏することができる方法であり、この点は後述する実施形態でも同様である。
《第2の実施形態》
第1の実施形態は、一つの間引きテンプレートを用いて被検査物の画像データとテンプレートマッチングを行った。本実施形態は、第1及び第2の間引きを行う第1及び第2の間引きテンプレートとして間引きテンプレートを複数備え、被検査物の画像データとテンプレートマッチングを行う点が第1の実施形態と異なる。
本実施形態の撮像装置の構成図は、第1の実施形態と同じなので省略する。ただし、間引きテンプレート保存部121には、複数の間引きテンプレートが保存されている。即ち、図7(a)の基準テンプレートから、図7(b)のように灰色枠の画素を間引いた画素データのテンプレートSTEMPと、図7(c)のように白枠の画素を間引いた画素データのSTEMP1の2つのテンプレートが保存されている。つまり、間引きテンプレート保存部121には、STEMPとSTEMP1の相補的(排他的)な画像データが保存されている。
尚、本実施形態では間引きテンプレート保存部121に、相補的(排他的)な画像データを保存したが、図7(d)、(e)のように間引き量の異なる(灰色枠の画素を間引く)複数の間引きテンプレートを保存しても構わない。また、上記説明では2種類の間引きテンプレートを間引きテンプレート保存部121に保存したが、3種類以上の間引きテンプレートを保存しても構わない。
(フローチャート)
図8は、本実施形態のフローチャートである。ステップS21〜ステップS26までは、第1の実施形態のステップS1〜S6と同等なので説明は省略する。ステップS27では、まず初期値n=0として、間引きテンプレートSTEMPとテンプレートマッチングを行う(ステップS27)。ここでnは、間引きテンプレートのテンプレート番号であり、本実施形態では間引きテンプレートを2種類用意しているので、nは0または1の値である。
ステップS28で、評価値が既定値以上の場合は、ステップS33に進み、nが最大値ではないのでステップS34に進み、nをインクリメントする。ステップS35で画素間引き設定部120の間引き量を間引きテンプレートSTEMP1と同じ間引き量に変更する。その後、他方の間引きテンプレートSTEMP1とのマッチングのため、再度ステップS22からS29を繰り返す。
ステップS29で評価値が再度既定値以上の場合は、ステップS33に進み、nは、最大値であるのでステップS36に進み、第1の実施形態のステップS12と同様に画素間引き設定部120の間引き量を無しにする(間引き量をゼロとする)。その後は、再度ステップS22〜S26へ進む。ステップS26で、ステップS36は実施済みなので、第1の実施形態のステップS13と同様に、画像信号出力部112で既定のフォーマットに変換して外部に出力する(ステップS37)。
ステップS28で、評価値が既定値未満の場合は、被検査物の位置が関心領域Img内からずれていると判断し、イメージセンサ101の部分読み出し領域の位置を変更する。
ステップS30で、n=0及び間引き量を初期値に戻し、ステップS29で評価値が既定値以上になるまでステップS1からステップS32を繰り返す。
第1の実施形態では、一つの間引きテンプレートとテンプレートマッチングを行った。一方、本実施形態では、複数の間引きテンプレートとテンプレートマッチングを行い、全ての間引きテンプレートとの評価値が既定値以上になるまでテンプレートマッチングを繰り返す。これにより、評価値の信頼度を向上させることが可能となり、似たような形状の部品が配置されている中から所望している対象物(類似の対象物)を探索するのに有効となる。
《第3の実施形態》
第2の実施形態では、複数の間引きテンプレートを使用してテンプレートマッチングを行った。本実施形態は、最初に間引きテンプレートで粗マッチング(第1のマッチング)を行い、評価値が既定値以上の場合は、基準テンプレートで微マッチング(精マッチング、第2のマッチング)を行う。この点が、第2の実施形態と異なる。
(フローチャート)
図9は、本実施形態のフローチャートである。ステップS41からステップS52までが、間引きテンプレートでテンプレートマッチングを行い、評価値が既定値以上になるまで部分読み出し位置を変更していくフローである。ステップS49で、評価値が既定値以上の場合は、ステップS53に進む。これは、間引きテンプレートで粗マッチングが終了したことを意味する。
ステップS53では、評価値が2回連続して既定値以上となっていないので、ステップS54に進み、微マッチングを行うべく関心領域の全画素を読み出すために間引き量を無しに設定する。再度、ステップS42からステップS46を行い、ステップS56で基準テンプレートとテンプレートマッチングを行う。これは、微マッチングを行うフローである。
その後、評価値が既定値以上の場合は、ステップS53で、評価値が2回連続して既定値以上となったので既定のフォーマットで画像出力を行い処理を終了する。ステップS53は、部分読み出しされた画像データが、間引きテンプレートと、基準テンプレートの両方でマッチングを行い、評価値が既定値以上になったかを判断している。ステップS53で既定値未満の時は、再度、粗マッチングのフローに戻る。つまり、間引きテンプレートと基準テンプレートの両方で評価値が既定値以上になるまで、部分読み出し位置を変更しテンプレートマッチングを行っていく。
《第4の実施形態》
第1乃至第3の実施形態は、評価値が既定値未満の時、部分読み出し位置を変更しているが、変更位置の範囲は規定していない。本実施形態では、部分読み出し位置の変更範囲を限定している点が第1乃至第3の実施形態と異なる。
図10は、本実施形態の構成図で、図1の構成図に対し、第2の関心領域Imgの座標データを所定範囲に規制する範囲規制手段としての部分読み出し位置変更範囲設定部130を備えている点が第1乃至第3の実施形態と異なる。部分読み出し位置変更範囲設定部130は、部分読み出し位置変更部111が、位置変更を行う範囲を設定する。つまり、テンプレートマッチングを行う探索範囲を限定する。
具体的には、第2の関心領域Imgの移動範囲として、図11のように第1の関心領域Imgの左上、右下の座標データをある既定量変化させることで、第1の関心領域Imgの中心から数倍拡大した範囲を設定することが出来る(図11の太線枠)。例えば、第1の関心領域Imgの左上、右下の座標データが(300、300)、(600、600)とする。第2の関心領域Imgの移動範囲として、第1の関心領域Imgの範囲を中心から拡大するために左上、右下の座標データを62変化させる。
すると、左上、右下の座標データは、(300−62=238、300−62=238)、(600+62=662、600+62=662)となる。これは、第1の関心領域Imgの約2倍の範囲となる。部分読み出し位置変更部111は、この範囲内で、第2の関心領域Imgの部分読み出し位置を変更する。被検査物の配置が大きくずれないシステムの場合、部分切り出し位置の変更範囲を限定することで更にテンプレートマッチングを行う探索範囲の時間短縮を図ることが可能となる。
ところで、左上、右下の座標データをある既定量変化させた範囲内で、テンプレートマッチングを行い評価値がある既定値以上にならない場合は、既定量を更に大きくし、探索範囲を拡大させていくと良い。
本実施形態では、Imgの中心から放射状にある既定量拡大していくように探索範囲を設定しているが、これに限られない。他の探索範囲の設定方法として、評価値がある既定値以上になった左上、右下の座標データを随時メモリ107に記憶しておき、過去の履歴に基づき各座標データに対応する各領域を包含する最大探索範囲を定めるようにしても良い。即ち、左上の座標データの最小値、右下の座標データの最大値の範囲で探索範囲を決定しても良い。
また、評価値がある既定値以上になった左上、右下の座標データを随時メモリ107に記憶しておき、部分読み出し位置変更部111は、過去の履歴に基づき各座標データを順次読み出していき位置変更をしても良い。つまり、評価値がある既定値以上になった左上、右下の座標データの履歴に基づいて部分読み出し位置を変更していくようにしても良い。
《第5の実施形態》
図12は、本実施形態の構成図である。第1乃至第4の実施形態では、撮像装置100の装置筐体の内部において、評価部算出部110におけるパターンマッチングにより類似度が算出された。これに対し、本実施形態では、撮像装置100の装置筐体の外部に撮像素子101からの画像データを受信するPC(パソコン)など外部機器を有し、装置筐体の外部において、評価部算出部110におけるパターンマッチングにより類似度が算出される。
図12に示すように、本実施形態では、画素間引き設定部120、間引きテンプレート保存部121、部分読み出し位置変更範囲設定部130を撮像装置100に接続されたPC等の外部機器200に設けている。
本実施形態では、撮像装置100で部分読み出しを行った画像データを外部機器200に送信し、外部機器200内で基準テンプレートや間引きテンプレートとテンプレートマッチングを行う。そして、評価値が既定値以上になるまで、部分読み出し位置変更座標を撮像装置100に送信している。以上の構成をとることで、第1乃至第4の実施形態と同様の効果を得ることが可能である。また、本実施形態においては、図1、図10に示した撮像装置100の処理負荷を軽減することが可能となる。
(変形例)
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
(変形例1)
上述した実施形態では、第1及び第2の関心領域に対応して変換部(デジタル変換部)でデジタル変換されたデータ量より少ない第1及び第2のデータに関し、間引き(撮像領域内の所定画素からの信号を読み出さない)や階調数を減らすことを述べた。更には、圧縮(例えば隣接する複数画素を包含した画素として隣接する複数画素の平均化)を用いて画素数を少なくしても良い。
(変形例2)
上述した第2の実施形態で、第1の関心領域は、複数の対象物に対し対象物ごとに複数設けられるものであったが、第1の関心領域は、複数の対象物を含む(第1の関心領域として単一となる)ように設けられるものであっても良い。
(変形例3)
上述の実施形態に記載した外観検査装置、撮像装置、撮像システム(撮像装置および外部機器)は、複数の部品によって構成される様々な装置の製造方法(組み立て方法)に適用することも可能である。
例えば、部品A、部品B等の複数の部品によって構成される装置を製造する方法において、部品A、部品Bを含む複数の部品のうちの少なくとも1つを上述の外観検査装置で検査した上で組み立て(製造)を行うようにする。このようにすれば、短い時間で部品の検査を行うことができるため、高品質な装置(製品)を短時間で(高効率で)製造することが可能となる。
尚、ここで行う検査の結果、問題がある、と判定された部品については、製造ラインから自動的に外しても良いし、或いは自動的に修正加工を行う工程に進めても構わない。いずれにしても、組み立て工程に進む部品は、検査の結果が基準を満たしている(外観上問題が無い、形状のずれが所定の閾値の範囲内である)部品だけ、とすることが望ましい。ただし、装置によっては、検査結果が基準値から外れている(形状のずれが所定の閾値を越えている)場合は、装置への組み込み方(組み立て方)を変えて対応しても構わない。
上述したような、複数の部品から構成される装置を製造する製造方法は、複数の部品のうちの少なくとも一つを上述した外観検査装置を用いて検査する検査工程と、該検査工程の検査結果に基づいて、上記複数の部品を組み立てる組立工程と、を備える。
101・・イメージセンサ(撮像素子)、102・・センサ駆動制御部、103・・AD部、104・・アドレス変換部、107・・メモリ、110・・評価値算出部、111・・ 部分読み出し位置変更部、112・・画像信号出力部、121・・間引きテンプレート保存部、Imgo・・第1の関心領域、Img・・第2の関心領域

Claims (16)

  1. 複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを出力可能な撮像装置であって、
    前記撮像領域の対象物を含む第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、
    前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、
    前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、
    前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、
    を備えており、
    前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さい、
    ことを特徴とする撮像装置。
  2. 前記複数の画素から出力された信号をデジタル信号に変換する変換部を更に備え、
    前記第1、2の画像データ及び前記出力画像データは、前記撮像領域の領域内の画素信号を前記変換部によって変換されることによって得られたデジタル信号である、
    ことを特徴とする請求項1に記載の撮像装置。
  3. 前記第1、2の画像データの各々は、前記第1、2の関心領域内の一部の画素からの信号のみを前記変換部によって変換したデータである、
    ことを特徴とする請求項2に記載の撮像装置。
  4. 前記出力画像データは、前記2の関心領域内の全ての画素からの信号を前記変換部によって変換したデータである、
    ことを特徴とする請求項2又は3に記載の撮像装置。
  5. 前記第1の関心領域の座標データを予め記憶する記憶手段を有することを特徴とする請求項1乃至4のいずれか1項に記載の撮像装置。
  6. 前記第1の関心領域は、複数の対象物に対し対象物ごとに複数設けられることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  7. 前記第1の関心領域は、複数の対象物を含むように設けられることを特徴とする請求項1乃至5のいずれか1項に記載の撮像装置。
  8. 前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりも画素数が少ないことを特徴とする請求項1乃至7のいずれか1項に記載の撮像装置。
  9. 前記第1の画像データ、及び前記第2の画像データは、第1及び第2の間引きによりそれぞれ複数備わり、
    算出されたそれぞれの前記評価値がそれぞれ既定値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力することを特徴とする請求項8に記載の撮像装置。
  10. 前記第1及び第2の間引きは、互いに相補的な間引きであることを特徴とする請求項9に記載の撮像装置。
  11. 前記第2の関心領域の座標データを所定範囲に規制する範囲規制手段を有することを特徴とする請求項5に記載の撮像装置。
  12. 前記所定範囲は、前記第1の評価値算出手段の評価値が既定値以上である前記第2の関心領域の座標データの最小値および最大値に基づいて定められることを特徴とする請求項11に記載の撮像装置。
  13. 前記評価値算出手段は第1及び第2の評価値算出手段を備え、
    前記第1の評価値算出手段は、前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出し、
    前記第2の評価値算出手段は、前記第2の画像データよりもデータ量が大きいデータと前記第1の画像データよりもデータ量が大きいデータとの類似度を表す評価値を算出し、前記第1の評価値算出手段の評価値が既定値以上であるとき、前記第2の評価値算出手段による類似度を算出することを特徴とする請求項1乃至12のいずれか1項に記載の撮像装置。
  14. 複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを出力可能な撮像装置と、該撮像装置からの画像データを受信する外部機器と、を含む撮像システムであって、
    前記撮像領域の対象物を含む第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、
    前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、
    前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、
    前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、
    を備えており、
    前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さく、
    前記評価値の算出を前記外部機器において行うことを特徴とする撮像システム。
  15. 複数の画素を有する撮像素子の撮像領域のうち、一部領域の画像データのみを用いて対象物を外観検査する外観検査装置であって、
    前記撮像領域の第1の関心領域内の画素から得られた信号に基づく第1の画像データを記憶する記憶手段と、
    前記撮像領域の領域内で移動可能であって、前記第1の関心領域と同じ面積の第2の関心領域内の画素から得られた信号に基づく第2の画像データを得る獲得手段と、
    前記第2の画像データと前記第1の画像データとの類似度を表す評価値を算出する評価値算出手段と、
    前記評価値算出手段により算出された前記評価値が所定の閾値以上であるとき、前記第2の関心領域内の画素から得られた信号に基づく出力画像データを出力する出力手段と、
    を備えており、
    前記第1の画像データ、及び前記第2の画像データは、前記出力画像データよりもデータ量が小さい、ことを特徴とする外観検査装置。
  16. 複数の部品から構成される装置を製造する製造方法であって、
    前記複数の部品のうちの少なくとも一つを、請求項13に記載の外観検査装置を用いて検査する検査工程と、
    前記検査工程の検査結果に基づいて、前記複数の部品を組み立てる組立工程と、
    を備えることを特徴とする製造方法。
JP2016118638A 2016-06-15 2016-06-15 撮像装置および撮像システム並びに外観検査装置および製造方法 Pending JP2017224974A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2016118638A JP2017224974A (ja) 2016-06-15 2016-06-15 撮像装置および撮像システム並びに外観検査装置および製造方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016118638A JP2017224974A (ja) 2016-06-15 2016-06-15 撮像装置および撮像システム並びに外観検査装置および製造方法

Publications (1)

Publication Number Publication Date
JP2017224974A true JP2017224974A (ja) 2017-12-21

Family

ID=60688330

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016118638A Pending JP2017224974A (ja) 2016-06-15 2016-06-15 撮像装置および撮像システム並びに外観検査装置および製造方法

Country Status (1)

Country Link
JP (1) JP2017224974A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019208204A1 (ja) * 2018-04-24 2019-10-31 ソニーセミコンダクタソリューションズ株式会社 撮像装置
JP2022506989A (ja) * 2018-11-13 2022-01-17 エイチエヌティ エレクトロニクス カンパニー リミテッド 撮影システム及び撮影システム制御方法
KR102477088B1 (ko) * 2022-04-07 2022-12-14 세이지리서치 주식회사 검사 영역 조정 방법 및 검사 영역 조정 장치
KR102478499B1 (ko) * 2022-04-07 2022-12-20 세이지리서치 주식회사 공정 제어 방법 및 공정 제어 장치

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019208204A1 (ja) * 2018-04-24 2019-10-31 ソニーセミコンダクタソリューションズ株式会社 撮像装置
US11451737B2 (en) 2018-04-24 2022-09-20 Sony Semiconductor Solutions Corporation Imaging device
JP2022506989A (ja) * 2018-11-13 2022-01-17 エイチエヌティ エレクトロニクス カンパニー リミテッド 撮影システム及び撮影システム制御方法
JP7181398B2 (ja) 2018-11-13 2022-11-30 ミレ アオトス カンパニー リミテッド 撮影システム及び撮影システム制御方法
US11563890B2 (en) 2018-11-13 2023-01-24 Mirae Autos Co., Ltd. Photographing system and photographing system control method
KR102477088B1 (ko) * 2022-04-07 2022-12-14 세이지리서치 주식회사 검사 영역 조정 방법 및 검사 영역 조정 장치
KR102478499B1 (ko) * 2022-04-07 2022-12-20 세이지리서치 주식회사 공정 제어 방법 및 공정 제어 장치

Similar Documents

Publication Publication Date Title
US8581996B2 (en) Imaging device
JP6102749B2 (ja) 情報処理装置、撮像制御方法、プログラム、デジタル顕微鏡システム、表示制御装置、表示制御方法及びプログラム
US8451335B2 (en) Imaging device
JP2017224974A (ja) 撮像装置および撮像システム並びに外観検査装置および製造方法
US8879868B2 (en) Image processing method for converting an annual image
JP6326180B1 (ja) 画像処理装置
JP4769764B2 (ja) ポイントをシステムに入力する入力方法、設定方法、校正方法
US7869706B2 (en) Shooting apparatus for a microscope
JPWO2007074605A1 (ja) 画像処理方法、画像処理プログラム、画像処理装置、及び撮像装置
US9781343B2 (en) Image processing apparatus and method for operating image processing apparatus
US6330066B1 (en) Height measuring apparatus and method and testing apparatus using the height measuring apparatus
JP6529360B2 (ja) 画像処理装置、撮像装置、画像処理方法およびプログラム
JP2007298376A (ja) 境界の位置決定装置、境界の位置を決定する方法、当該装置としてコンピュータを機能させるためのプログラム、および記録媒体
JP2017220885A (ja) 画像処理装置、その制御方法、および制御プログラム
US20070009173A1 (en) Apparatus and method for shading correction and recording medium therefore
WO2021070415A1 (ja) 補正パラメータ算出方法、変位量算出方法、補正パラメータ算出装置、及び、変位量算出装置
JP2016164709A (ja) 画像処理装置、撮像装置および画像処理プログラム
US20220076399A1 (en) Photographing guide device
JP4628851B2 (ja) 物体検出方法および物体検出装置
JP2007026423A (ja) 画像処理装置および画像処理方法
JP2007036743A (ja) 複数画像合成方法及び撮像装置
JPH08125844A (ja) 画像処理方法およびその方法を用いた画像処理システム
CN105989587B (zh) 一种多功能oct***的自动定标方法
CN109565544B (zh) 位置指定装置及位置指定方法
JP2017224973A (ja) 撮像装置および撮像システム並びに外観検査装置および製造方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190521

RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20191203

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200121

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20200714