JP2018112470A - 検査システムおよび検査方法 - Google Patents

検査システムおよび検査方法 Download PDF

Info

Publication number
JP2018112470A
JP2018112470A JP2017002935A JP2017002935A JP2018112470A JP 2018112470 A JP2018112470 A JP 2018112470A JP 2017002935 A JP2017002935 A JP 2017002935A JP 2017002935 A JP2017002935 A JP 2017002935A JP 2018112470 A JP2018112470 A JP 2018112470A
Authority
JP
Japan
Prior art keywords
image
intensity
abnormality
area
region
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2017002935A
Other languages
English (en)
Inventor
井上 靖之
Yasuyuki Inoue
靖之 井上
圭一 赤澤
Keiichi Akazawa
圭一 赤澤
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Elemex Corp
Original Assignee
Ricoh Elemex Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Elemex Corp filed Critical Ricoh Elemex Corp
Priority to JP2017002935A priority Critical patent/JP2018112470A/ja
Publication of JP2018112470A publication Critical patent/JP2018112470A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】強度画像から異常候補領域を特定する際に用いる基準を、塗装色によらずに同一化する。【解決手段】実施形態の検査システムは、被検査体に対して光の強度の周期的な時間変化および空間変化を与える面的な照明部と、時間相関カメラまたはそれと等価な動作をする撮像システムから出力される画像データから、振幅画像、位相画像、および強度画像を生成する画像生成部と、振幅画像、位相画像、および強度画像の各々から、被検査体において異常が存在する可能性がある異常候補領域を特定する領域特定部と、異常候補領域から、異常を判定するための複数の特徴を算出する特徴算出部と、複数の特徴を用いた多変量解析を実行することで、異常を判定する異常判定部と、を備え、領域特定部は、強度画像から異常候補領域を特定する場合、強度画像に正規化処理を施し、当該正規化処理が施された後の強度画像を用いて、異常候補領域を特定する。【選択図】図1

Description

本発明の実施形態は、検査システムおよび検査方法に関する。
従来、周期的に変化する光を被検査体に照射し、当該被検査体の表面からの反射光を撮像することで、光の強度のみならず、光の時間遷移に関する情報をも含んだ時間相関画像を取得する技術が提案されている。このような時間相関画像は、たとえば、被検査体の異常を検出するために用いられる。
特許第5669071号公報
時間相関画像を用いた異常検出では、異常が存在する可能性がある異常候補領域を特定した後、当該異常候補領域から特徴を算出し、算出した特徴を用いた多変量解析を実行することで、異常判定が行われる場合がある。
ここで、被検査体が塗装製品である場合、塗装表面の形状の変化として表れない内層欠陥が存在する領域を、異常候補領域として精度よく特定することが望まれる。しかしながら、塗装表面の光の反射性能は、塗装色に応じて変化するため、たとえ同じ内層欠陥であっても、画像上の変化(たとえば強度画像における画素値の変化)としての表れやすさは、塗装色に応じて異なる。このため、従来では、内層欠陥が存在する領域としての異常候補領域を強度画像から精度よく特定するためには、異常候補領域に該当するか否かの判定基準を塗装色に応じて異ならせる必要があり、煩雑な処理が必要であった。
そこで、強度画像から異常候補領域を特定する際に用いる基準を、塗装色によらずに同一化することが望まれる。
実施形態の検査システムは、被検査体に対して光の強度の周期的な時間変化および空間変化を与える面的な照明部と、時間相関カメラまたはそれと等価な動作をする撮像システムから出力される画像データから、振幅画像、位相画像、および強度画像を生成する画像生成部と、振幅画像、位相画像、および強度画像の各々から、被検査体において異常が存在する可能性がある異常候補領域を特定する領域特定部と、異常候補領域から、異常を判定するための複数の特徴を算出する特徴算出部と、複数の特徴を用いた多変量解析を実行することで、異常を判定する異常判定部と、を備え、領域特定部は、強度画像から異常候補領域を特定する場合、強度画像に正規化処理を施し、当該正規化処理が施された後の強度画像を用いて、異常候補領域を特定する。
図1は、実施形態の検査システムの構成例を示した図である。 図2は、実施形態の時間相関カメラの構成を示したブロック図である。 図3は、実施形態の時間相関カメラで時系列順に蓄積されたフレームを表した概念図である。 図4は、実施形態の照明装置が照射する縞パターンの一例を示した図である。 図5は、実施形態の時間相関カメラによる、被検査体の異常の第1の検出例を示した図である。 図6は、実施形態において、図5に示される異常が被検査体にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。 図7は、実施形態の時間相関カメラによる、被検査体の異常の第2の検出例を示した図である。 図8は、実施形態の時間相関カメラによる、被検査体の異常の第3の検出例を示した図である。 図9は、実施形態の照明制御部が照明装置に出力する縞パターンの例を示した図である。 図10は、実施形態のスクリーンを介した後の縞パターンを表した波の形状の例を示した図である。 図11は、実施形態による被検査体がメタリック塗装やパール塗装などが施された製品である場合における塗装表面の概略的構成を示した図である。 図12は、振幅画像、位相画像、および強度画像の各々から抽出される異常候補領域と、当該異常候補領域に基づいて算出される特徴と、を説明するための図である。 図13は、実施形態の検査システムが被検査体の検査を行う際に実行する一連の処理を示したフローチャートである。 図14は、実施形態の検査システムが実行する異常候補領域の特定処理の詳細を示したフローチャートである。 図15は、実施形態において用いられうるラプラシアンフィルタの具体例を示した図である。 図16は、実施形態における強度画像の具体例を示した図である。 図17は、実施形態においてラプラシアン処理が施された後の強度画像の具体例を示した図である。 図18は、実施形態の検査システムが実行する特徴算出処理の詳細を示したフローチャートである。 図19は、実施形態における振幅画像の具体例を示した図である。 図20は、実施形態においてラプラシアン処理が施された後の強度画像の具体例における第2領域を示した図である。 図21は、実施形態において強度に関する特徴が算出される領域の具体例を示した図である。 図22は、第2変形例の照明制御部が出力する縞パターンの切り替え例を示した図である。 図23は、第2変形例の照明制御部が、異常(欠陥)を含めた表面に縞パターンを照射した例を示した図である。 図24は、第2変形例において、y方向に縞パターンを変化させた場合における、異常(欠陥)とスクリーン上の縞パターンの関係を示した図である。 図25は、第3変形例の照明制御部が照明装置に出力する縞パターンの例を示した図である。
(実施形態)
以下、実施形態の検査システムについて説明する。実施形態の検査システムは、被検査体を検査するために様々な構成を備えている。図1は、実施形態の検査システムの構成例を示した図である。図1に示されるように、実施形態の検査システムは、PC100と、時間相関カメラ110と、照明装置120と、スクリーン130と、アーム140と、を備えている。
アーム140は、被検査体150を固定するために用いられ、PC100からの制御に応じて、時間相関カメラ110が撮像可能な被検査体150の表面の位置と向きを変化させる。
照明装置120は、被検査体150に光を照射する装置であって、PC100からの縞パターンに従って、照射する光の強度を領域単位で制御できる。さらに、照明装置120は、周期的な時間の遷移に従って当該領域単位の光の強度を制御できる。換言すれば、照明装置120は、光の強度の周期的な時間変化および空間変化を与えることができる。なお、具体的な光の強度の制御手法については後述する。
スクリーン130は、照明装置120から出力された光を拡散させた上で、被検査体150に対して面的に光を照射する。実施形態のスクリーン130は、照明装置120から入力された周期的な時間変化および空間変化が与えられた光を、面的に被検査体150に照射する。なお、照明装置120とスクリーン130との間には、集光用のフレネルレンズ等の光学系部品(図示されず)が設けられてもよい。
なお、実施形態は、照明装置120とスクリーン130とを組み合わせて、光強度の周期的な時間変化および空間変化を与える面的な照明部を構成する例について説明するが、実施形態の照明部は、このような組み合わせに制限されるものではない。実施形態では、たとえば、LEDを面的に配置したり、大型モニタを配置したりするなどして、照明部を構成してもよい。
図2は、実施形態の時間相関カメラ110の構成を示したブロック図である。時間相関カメラ110は、光学系210と、イメージセンサ220と、データバッファ230と、制御部240と、参照信号出力部250と、を備えている。
光学系210は、撮像レンズ等を含み、時間相関カメラ110の外部の被写体(被検査体150を含む)からの光束を透過し、その光束により形成される被写体の光学像を結像させる。
イメージセンサ220は、光学系210を介して入射された光の強弱を光強度信号として画素毎に高速に出力可能なセンサとする。
実施形態の光強度信号は、検査システムの照明装置120が被写体(被検査体150を含む)に対して光を照射し、当該被写体からの反射光を、イメージセンサ220が受け取ったものである。
イメージセンサ220は、たとえば従来のものと比べて高速に読み出し可能なセンサであり、行方向(x方向)、列方向(y方向)の2種類の方向に画素が配列された2次元平面状に構成されたものとする。そして、イメージセンサ220の各画素を、画素P(1,1),……,P(i,j),……,P(X,Y)とする(なお、実施形態の画像サイズをX×Yとする。)。なお、イメージセンサ220の読み出し速度を制限するものではなく、従来と同様であってもよい。
イメージセンサ220は、光学系210によって透過された、被写体(被検査体150を含む)からの光束を受光して光電変換することで、被写体から反射された光の強弱を示した光強度信号(撮像信号)で構成される、2次元平面状のフレームを生成し、制御部240に出力する。実施形態のイメージセンサ220は、読み出し可能な単位時間毎に、当該フレームを出力する。
実施形態の制御部240は、たとえばCPU、ROM、およびRAM等で構成され、ROMに格納された検査プログラムを実行することで、転送部241と、読出部242と、強度画像用重畳部243と、第1の乗算器244と、第1の相関画像用重畳部245と、第2の乗算器246と、第2の相関画像用重畳部247と、画像出力部248と、を実現する。なお、CPU等で実現することに制限するものではなく、FPGA、またはASICで実現してもよい。
転送部241は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、データバッファ230に、時系列順に蓄積する。
データバッファ230は、イメージセンサ220から出力された、光強度信号で構成されたフレームを、時系列順に蓄積する。
図3は、実施形態の時間相関カメラ110で時系列順に蓄積されたフレームを表した概念図である。図3に示されるように、実施形態のデータバッファ230には、時刻t(t=t0,t1,t2,……,tn)毎の複数の光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)の組み合わせで構成された複数のフレームFk(k=1,2,……,n)が、時系列順に蓄積される。なお、時刻tで生成される一枚のフレームは、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)で構成される。
実施形態の光強度信号(撮像信号)G(1,1,t),……,G(i,j,t),……,G(X,Y,t)には、フレームFk(k=1,2,……,n)を構成する各画素P(1,1),……,P(i,j),……,P(X,Y)が対応づけられている。
イメージセンサ220から出力されるフレームは、光強度信号のみで構成されており、換言すればモノクロの画像データとも考えることができる。なお、実施形態は、解像度、感度、およびコスト等を考慮して、イメージセンサ220がモノクロの画像データを生成する例について説明するが、イメージセンサ220としてモノクロ用のイメージセンサに制限するものではなく、カラー用のイメージセンサを用いてもよい。
図2に戻り、実施形態の読出部242は、データバッファ230から、光強度信号G(1,1,t),……,G(i,j,t),……,G(X,Y,t)をフレーム単位で、時系列順に読み出して、第1の乗算器244と、第2の乗算器246と、強度画像用重畳部243と、に出力する。
実施形態の時間相関カメラ110は、読出部242の出力先毎に画像データを生成する。換言すれば、時間相間カメラ110は、3種類の画像データを生成する。
実施形態の時間相関カメラ110は、3種類の画像データとして、強度画像データと、2種類の時間相関画像データと、を生成する。なお、実施形態は、強度画像データと、2種類の時間相関画像データと、を生成することに制限されるものではなく、強度画像データを生成しない場合や、1種類又は3種類以上の時間相関画像データを生成する場合なども考えられる。
実施形態のイメージセンサ220は、上述したように単位時間毎に、光強度信号で構成されたフレームを出力している。しかしながら、通常の画像データを生成するためには、撮像に必要な露光時間分の光強度信号が必要になる。そこで、実施形態では、強度画像用重畳部243が、撮像に必要な露光時間分の複数のフレームを重畳して、強度画像データを生成する。なお、強度画像データの各画素値(光の強度を表す値)G(x,y)は、以下に示す式(1)から導き出すことができる。なお、露光時間は、t0とtnの時間差とする。
これにより、従来のカメラの撮像と同様に、被写体(被検査体150を含む)が撮像された強度画像データが生成される。そして、強度画像用重畳部243は、生成した強度画像データを、画像出力部248に出力する。
時間相関画像データは、時間遷移に応じた光の強弱の変化を示す画像データである。つまり、実施形態では、時系列順のフレーム毎に、当該フレームに含まれる光強度信号に対して、時間遷移を示した参照信号を乗算し、参照信号と光強度信号との乗算結果である時間相関値で構成された、時間相関値フレームを生成し、複数の時間相関値フレームを重畳することで、時間相関画像データを生成する。
ところで、時間相関画像データを用いて、被検査体150の異常を検出するためには、イメージセンサ220に入力される光強度信号を、参照信号に同期させて変化させる必要がある。このため、実施形態の照明装置120は、上述したように、スクリーン130を介して周期的に時間変化および縞の空間的な移動を与えるような、面的な光の照射を行うように構成される。
実施形態では、2種類の時間相関画像データを生成する。参照信号は、時間遷移を表した信号であればよいが、実施形態では、複素正弦波e-jωtを用いる。なお、角周波数ω、時刻tとする。参照信号を表す複素正弦波e-jωtが、上述した露光時間(換言すれば強度画像データ、および時間相関画像データを生成するために必要な時間)の一周期と相関をとるように、角周波数ωが設定されるものとする。換言すれば、照明装置120およびスクリーン130等の照明部によって形成された面的かつ動的な光は、被検査体150の表面(反射面)の各位置で第1の周期(時間周期)での時間的な照射強度の変化を与えるとともに、表面に沿った少なくとも一方向に沿った第2の周期(空間周期)での空間的な照射強度の増減分布を与える。この面的な光は、表面で反射される際に、当該表面のスペック(法線ベクトルの分布等)に応じて複素変調される。時間相関カメラ110は、表面で複素変調された光を受光し、第1の周期の参照信号を用いて直交検波(直交復調)することにより、複素信号としての時間相関画像データを得る。このような複素時間相関画像データに基づく変復調により、表面の法線ベクトルの分布に対応した特徴を検出することができる。
複素正弦波e-jωtは、e-jωt=cosωt−j・sinωtと表すこともできる。従って、時間相関画像データの各画素値C(x,y)は、以下に示す式(2)から導き出すことができる。
実施形態では、式(2)において、実部を表す画素値C1(x,y)と、虚部を表す画素値C2(x,y)と、に分けて、2種類の時間相関画像データを生成する。
このため、参照信号出力部250は、第1の乗算器244と、第2の乗算器246と、に対してそれぞれ異なる参照信号を生成し、出力する。実施形態の参照信号出力部250は、複素正弦波e-jωtの実部に対応する第1の参照信号cosωtを第1の乗算器244に出力し、複素正弦波e-jωtの虚部に対応する第2の参照信号sinωtを第2の乗算器246に出力する。このように、実施形態の参照信号出力部250は、一例として、互いにヒルベルト変換対をなす正弦波および余弦波の時間関数として表される2種類の参照信号を出力する。しかしながら、参照信号は、ここで説明する例に制限されるものではなく、時間関数のような、時間遷移に応じて変化する参照信号であればよい。
そして、第1の乗算器244は、読出部242から入力されたフレーム単位で、当該フレームの光強度信号毎に、参照信号出力部250から入力された複素正弦波e-jωtの実部cosωtを乗算する。
第1の相関画像用重畳部245は、撮像に必要な露光時間分の複数のフレームについて、第1の乗算器244の乗算結果を画素毎に重畳する処理を行う。これにより、第1の時間相関画像データの各画素値C1(x,y)が、以下の式(3)から導出される。
そして、第2の乗算器246は、読出部242から入力されたフレームの光強度信号に対して、参照信号出力部250から入力された複素正弦波e-jωtの虚部sinωtを乗算する。
第2の相関画像用重畳部247は、撮像に必要な露光時間分の複数のフレームについて、第2の乗算器246の乗算結果を画素毎に重畳する処理を行う。これにより、第2の時間相関画像データの各画素値C2(x,y)が、以下の式(4)から導出される。
上述した処理を行うことで、2種類の時間相関画像データ、換言すれば2自由度を有する時間相関画像データを生成できる。
また、実施形態は、参照信号の種類を制限するものでない。たとえば、実施形態では、複素正弦波e-jωtの実部と虚部の2種類の時間相関画像データを生成するが、光の振幅と、光の位相と、による2種類の画像データを生成してもよい。
なお、実施形態の時間相関カメラ110は、時間相関画像データとして、複数系統分生成可能とする。これにより、たとえば複数種類の幅の縞が組み合わされた光が照射された際に、上述した実部と虚部とによる2種類の時間相関画像データを、縞の幅毎に生成可能とする。このために、時間相関カメラ110は、2個の乗算器と2個の相関画像用重畳部とからなる組み合わせを、複数系統分備えるとともに、参照信号出力部250は、系統毎に適した角周波数ωによる参照信号を出力可能とする。
そして、画像出力部248が、2種類の時間相関画像データと、強度画像データと、をPC100に出力する。これにより、PC100が、2種類の時間相関画像データと、強度画像データと、を用いて、被検査体150の異常を検出する。そのためには、被検査体150に対して光を照射する必要がある。
実施形態の照明装置120は、高速に移動する縞パターンを照射する。図4は、実施形態の照明装置120が照射する縞パターンの一例を示した図である。図4に示す例では、縞パターンをx方向にスクロール(移動)させている例とする。白い領域が縞に対応した明領域、黒い領域が縞と縞との間に対応した間隔領域(暗領域)である。
実施形態では、時間相関カメラ110が強度画像データおよび時間相関画像データを撮像する露光時間で、照明装置120が照射する縞パターンが一周期分移動する。これにより、照明装置120は、光の強度の縞パターンの空間的な移動により光の強度の周期的な時間変化を与える。実施形態では、図4の縞パターンが一周期分移動する時間を、露光時間と対応させることで、時間相関画像データの各画素には、少なくとも、縞パターン一周期分の光の強度信号に関する情報が埋め込まれる。
図4に示されるように、実施形態では、照明装置120が矩形波に基づく縞パターンを照射する例について説明するが、矩形波以外を用いてもよい。実施形態では、照明装置120がスクリーン130を介して照射されることで、矩形波の明暗の境界領域をぼかすことができる。
実施形態では、照明装置120が照射する縞パターンを、A(1+cos(ωt+kx))と表す。すなわち、縞パターンには、複数の縞が反復的に(周期的に)含まれる。なお、被検査体150に照射される光の強度は0〜2Aの間で調整可能とし、光の位相kxとする。kは、縞の波数である。xは、位相が変化する方向である。
そして、フレームの各画素の光強度信号f(x,y,t)の基本周波数成分は、以下の式(5)として表すことができる。式(5)で示されるように、x方向で縞の明暗が変化する。
f(x,y,t)=A(1+cos(ωt+kx))
=A+A/2{ej(ωt+kx)+e-j(ωt+kx)} …(5)
式(5)で示されるように、照明装置120が照射する縞パターンの強度信号は、複素数として考えることができる。
そして、イメージセンサ220には、当該照明装置120からの光が被写体(被検査体150を含む)から反射して入力される。
したがって、イメージセンサ220に入力される光強度信号G(x,y,t)を、照明装置120が照射された際のフレームの各画素の光強度信号f(x,y,t)とすることができる。そこで、強度画像データを導出するための式(1)に式(5)を代入すると、式(6)を導出できる。なお、位相をkxとする。
式(6)から、強度画像データの各画素には、露光時間Tに、照明装置120が出力している光の強度の中間値Aを乗じた値が入力されていることが確認できる。さらに、時間相関画像データを導出するための式(2)に式(5)を代入すると、式(7)を導出できる。なお、AT/2を振幅とし、kxを位相とする。
これにより、式(7)で示された複素数で示された時間相関画像データは、上述した2種類の時間相関画像データと置き換えることができる。つまり、上述した実部と虚部とで構成される時間相関画像データには、被検査体150に照射された光強度変化における位相変化と振幅変化とが含まれている。換言すれば、実施形態のPC100は、2種類の時間相関画像データに基づいて、照明装置120から照射された光の位相変化と、光の振幅変化と、を検出できる。
そこで、実施形態のPC100は、時間相関画像データおよび強度画像データに基づいて、画素毎に入る光の位相変化を表した位相画像と、画素毎に入る光の振幅を表した振幅画像と、を生成する。また、PC100は、強度画像データに基づいて、画素毎に入る光の強度を表した強度画像を生成する。そして、PC100は、位相画像と、振幅画像と、強度画像と、の少なくともいずれかに基づいて、被検査体150の異常を検出する。
ところで、被検査体150の表面形状に凹凸に基づく異常が生じている場合、被検査体150の表面の法線ベクトルの分布には、異常に対応した変化が生じている。また、被検査体150の表面に光を吸収するような異常が生じている場合、反射した光の強度に変化が生じる。法線ベクトルの分布の変化は、光の位相変化および振幅変化のうち少なくともいずれか一つとして検出される。そこで、実施形態では、時間相関画像データを用いて、法線ベクトルの分布の変化に対応した、光の位相変化および振幅変化のうち少なくともいずれか一つを検出する。これにより、表面形状の異常が存在する可能性がある領域を特定することが可能となる。以下、被検査体150の異常、法線ベクトル、および光の位相変化又は振幅変化の関係について例を挙げて説明する。
図5は、実施形態の時間相関カメラ110による、被検査体の異常の第1の検出例を示した図である。図5に示される例では、被検査体500に突形状の異常501がある状況とする。当該状況においては、異常501の点502の近傍領域においては、法線ベクトル521、522、523が異なる方向を向いていることを確認できる。そして、当該法線ベクトル521、522、523が異なる方向を向いていることで、異常501から反射した光に拡散(たとえば、光511、512、513)が生じ、時間相関カメラ110のイメージセンサ220の任意の画素531に入る縞パターンの幅503が広くなる。
図6は、図5に示される異常501が被検査体500にある場合に、当該異常に応じて変化する、光の振幅の例を表した図である。図6に示される例では、光の振幅を実部(Re)と虚部(Im)とに分けて2次元平面上に表している。図6では、図5の光511、512、513に対応する光の振幅611、612、613として示している。そして、光の振幅611、612、613は互いに打ち消し合い、イメージセンサ220の当該任意の画素531には、振幅621の光が入射する。
したがって、図6に示される状況では、被検査体500の異常501が撮像された領域で、局所的に振幅が小さいことが確認できる。換言すれば、振幅変化を示した振幅画像において、周囲と比べて暗くなっている領域がある場合に、当該領域で局所的に光同士の振幅の打ち消し合いが生じていると推測できるため、当該領域に対応する被検査体500の位置で、異常501が生じていると判断できる。なお、ここでは、突形状の異常501に対応する領域で、振幅画像が局所的に暗くなる場合を例示したが、キズなどの凹み状の異常に対応する領域でも、振幅画像は局所的に暗くなる。
実施形態の検査システムは、図5の異常501のように傾きが急峻に変化しているものに限らず、緩やかに変化する異常も検出できる。図7は、実施形態の時間相関カメラ110による、被検査体の異常の第2の検出例を示した図である。図7に示される例では、正常な場合は被検査体の表面が平面(換言すれば法線が平行)となるが、被検査体700に緩やかな勾配701が生じた状況とする。このような状況においては、勾配701上の法線ベクトル721、722、723も同様に緩やかに変化する。したがって、イメージセンサ220に入力する光711、712、713も少しずつずれていく。図7に示される例では、緩やかな勾配701のために光の振幅の打ち消し合いは生じないため、図5、図6で表したような光の振幅はほとんど変化しない。しかしながら、本来スクリーン130から投影された光が、そのままイメージセンサ220に平行に入るはずが、緩やかな勾配701のために、スクリーン130から投影された光が平行の状態でイメージセンサ220に入らないために、光に位相変化が生じる。従って、光の位相変化について、周囲等との違いを検出することで、図7に示したような緩やかな勾配701による異常を検出できる。
また、被検査体の表面形状(換言すれば、被検査体の法線ベクトルの分布)以外にも異常が生じる場合がある。図8は、実施形態の時間相関カメラ110による、被検査体の異常の第3の検出例を示した図である。図8に示される例では、被検査体800に汚れ801が付着しているため、照明装置120から照射された光が吸収あるいは拡散反射し、時間相関カメラ110の、汚れ801を撮像している任意の画素領域では光の強度がほとんど変化しない例を表している。換言すれば、汚れ801を撮像している任意の画素領域では、光の強度変化が打ち消し合ってキャンセルされ、ほとんど直流的な明るさになる例を示している。
このような場合、汚れ801を撮像している画素領域においては、光の振幅がほとんどないため、振幅画像を表示した際に、周囲と比べて暗くなる領域が生じる。したがって、当該領域に対応する被検査体800の位置に、汚れ801があることを推定できる。
このように、実施形態では、時間相関画像データに基づいて、光の振幅の変化と、光の位相の変化と、を検出することで、被検査体における、異常が存在する可能性がある領域を特定することができる。
図1に戻り、PC100について説明する。PC100は、検出システム全体の制御を行う。PC100は、アーム制御部101と、照明制御部102と、制御部103と、を備える。
アーム制御部101は、被検査体150の時間相関カメラ110による撮像対象となる表面を変更するために、アーム140を制御する。実施形態では、PC100において、被検査体150の撮像対象となる表面を複数設定しておく。そして、時間相関カメラ110が被検査体150の撮像が終了する毎に、アーム制御部101が、当該設定に従い、時間相関カメラ110が設定された表面を撮像できるようにアーム140を制御して、被検査体150を移動させる。なお、実施形態によるアーム140の移動方法は、撮像が終了する毎にアーム140を移動させ、撮像が開始する前に停止させるのを繰り返すことに制限されるものではなく、継続的にアーム140を駆動させることも含まれ得る。なお、アーム140は、搬送部、移動部、位置変更部、姿勢変更部等とも称されうる。
照明制御部102は、被検査体150を検査するために照明装置120が照射する縞パターンを出力する。実施形態の照明制御部102は、少なくとも3枚以上の縞パターンを、照明装置120に受け渡し、当該縞パターンを露光時間中に切り替えて表示するように照明装置120に指示する。
図9は、照明制御部102が照明装置120に出力する縞パターンの例を示した図である。図9(B)に示す矩形波に従って、図9(A)に示す黒領域と白領域とが設定された縞パターンが出力されるように、照明制御部102が制御を行う。
実施形態で照射する縞パターン毎の縞の間隔は、検出対象となる異常(欠陥)の大きさに応じて設定されるものとして、ここでは詳しい説明を省略する。
また、縞パターンを出力するための矩形波の角周波数ωは、参照信号の角周波数ωと同じ値とする。
図9に示されるように、照明制御部102が出力する縞パターンは、矩形波として示すことができるが、スクリーン130を介することで、縞パターンの境界領域をぼかす、すなわち、縞パターンにおける明領域(縞の領域)と暗領域(間隔の領域)との境界での光の強度変化を緩やかにする(鈍らせる)ことで、正弦波に近似させることができる。図10は、スクリーン130を介した後の縞パターンを表した波の形状の例を示した図である。図10に示されるように波の形状が、正弦波に近づくことで、計測精度を向上させることができる。また、縞に明度が多段階に変化するグレー領域を追加したり、グラデーションを与えたりしてもよい。また、カラーの縞を含む縞パターンを用いてもよい。
図1に戻り、制御部103は、画像生成部104と、領域特定部105と、特徴算出部106と、異常判定部107と、を備える。制御部103は、時間相関カメラ110から入力されるデータに基づいて、振幅画像および位相画像(時間相関画像)と、強度画像とを生成し、生成した画像に基づいて、異常が存在する可能性のある領域(以下、異常候補領域と記載する)を特定する。そして、制御部103は、特定した異常候補領域に基づいて、異常を判定するための複数の特徴(特徴量)を算出し、算出した複数の特徴を用いた多変量解析を実行することで被検査体150の異常を判定する。なお、実施形態では、制御部103は、振幅成分と位相成分とで分けた極形式の複素数で示される時間相関画像データ(複素時間相関画像データと称されうる)ではなく、当該複素数を実部と虚部とで分けた2種類の時間相関画像データを、時間相関カメラ110から受け取るものとする。
画像生成部104は、時間相関カメラ110から入力されるデータ(強度画像データや時間相関画像データなどといった画像データ)に基づいて、振幅画像、位相画像、および強度画像を生成する。前述したように、振幅画像とは、画素毎に入る光の振幅を表した画像であり、位相画像とは、画素毎に入る光の位相を表した画像であり、強度画像とは、画素毎に入る光の強度を表した画像である。
実施形態は、振幅画像の算出手法を制限するものではないが、たとえば、画像生成部104は、2種類の時間相関画像データの画素値C1(x,y)およびC2(x,y)から、下記の式(8)を用いて、振幅画像の各画素値F(x,y)を導き出すことが可能である。
また、画像生成部104は、画素値C1(x,y)およびC2(x,y)から、下記の式(9)を用いて、位相画像の各画素値P(x,y)を導き出すことが可能である。
なお、画像生成部104が時間相関カメラ110から入力される強度画像データに基づいて強度画像を生成することも可能であることは言うまでもないため、ここでは強度画像の各画素値の導出方法についての説明を省略する。
領域特定部105は、画像生成部104により生成された振幅画像、位相画像、および強度画像の各々から、異常が存在する可能性がある異常候補領域を特定する。領域特定部105は、たとえば、光の振幅が(周囲などとの関係で)局所的に変化する位置を含む領域を、振幅画像の異常候補領域として特定し、光の位相が局所的に変化する位置を含む領域を、位相画像の異常候補領域として特定する。これらの異常候補領域の特定の際には、ガウシアン処理(平滑化処理)や、ラプラシアン処理、閾値処理などといった様々な画像処理が用いられうる。
また、領域特定部105は、光の強度が(周囲などとの関係で)局所的に変化する位置を含む領域を、強度画像の異常候補領域として特定する。
ここで、被検査体150が、メタリック塗装やパール塗装などが施された製品である場合を想定する。この場合、被検査体150の表面は、以下のような構成となる。
図11は、実施形態による被検査体150がメタリック塗装やパール塗装などが施された製品である場合における塗装表面の概略的構成を示した図である。図11に示されるように、被検査体150がメタリック塗装やパール塗装などが施された製品である場合、当該被検査体150の表面は、下地層1101と、カラー層1102と、光拡散層1103と、上塗層1104と、によって構成される。
ここで、図11の例では、上塗層1104の下、より具体的にはカラー層1102と光拡散層1103との間に、塵芥1105が存在している。この塵芥1105は、上塗層1104の表面形状の変化として表れない、いわゆる内層欠陥を構成する。
内層欠陥は、上塗層1104の表面形状の変化として表れないため、当該内層欠陥が存在する領域を振幅画像および位相画像の異常候補領域として特定することは困難である。しかしながら、内層欠陥は、被検査体150からの反射光の強度に影響を与えるため、内層欠陥が存在する領域を強度画像の異常候補領域として特定することは可能である。
ところで、被検査体150の表面の光の反射性能は、カラー層1102の色(塗装色)に応じて変化するため、たとえ同じ内層欠陥であっても、強度画像における画素値の変化としての表れやすさは、塗装色に応じて異なる。このため、従来では、内層欠陥が存在する領域としての異常候補領域を強度画像から精度よく特定するためには、異常候補領域に該当するか否かの判定基準を塗装色に応じて異ならせる必要があり、煩雑な処理が必要となる。
そこで、実施形態では、強度画像から異常候補領域を特定する場合に、強度画像に正規化処理を施すことで塗装色の影響を排除し、塗装色の影響を排除した後の強度画像から、異常候補領域を特定することにした。これにより、強度画像から異常候補領域を特定する際に用いる基準を、塗装色によらずに同一化することができるので、強度画像からの異常候補領域の特定をより容易に行うことが可能になる。なお、強度画像から異常候補領域を具体的にどのように特定するかについては、領域特定部105が実行する処理の説明とともに、後で詳細に説明するため、ここではこれ以上の説明を省略する。
図1に戻り、特徴算出部106は、領域特定部105により特定された全ての異常候補領域から、異常を判定するための複数の特徴(振幅、位相、および強度に関する複数の特徴)を算出する。そして、異常判定部107は、特徴算出部106により算出された複数の特徴を用いた多変量解析を実行することで、被検査体150の異常を判定する。
多変量解析の手法としては、たとえば、MT法(マハラノビスタグチ法)などが挙げられる。MT法とは、多数の情報をマハラノビス距離という1つの尺度に集約し、マハラノビス距離の大小によって、検査対象の品質を判定する方法である。具体的に、MT法では、品質に問題が無い良品サンプルの特徴を表すデータに基づいて予め基準を作成し、作成した基準と、検査対象の特徴を表すデータとに基づいて、検査対象に対応するマハラノビス距離を算出し、算出したマハラノビス距離を所定の閾値と比較等することで、検査対象の品質を判定する。
なお、実施形態では、多変量解析の手法として、MT法以外の手法が用いられてもよい。
ここで、実施形態では、以下に説明するように、MT法で用いられる複数の特徴のうち、強度に関する複数の特徴の一つとして、異常候補領域における強度の差分値、より具体的には強度値の最大値(MAX)および最小値(min)の差分値、が用いられる。この差分値は、「Range」とも称されうる。
なお、実施形態では、異常を判定するための特徴が、複数存在する。したがって、実施形態では、特徴算出部106は、強度の差分値以外の他の特徴も算出する。たとえば、特徴算出部106は、強度画像以外の他の画像(振幅画像または位相画像)から特定された異常候補領域、または当該異常候補領域に種々の画像処理を施した領域における画素値(振幅または位相)の最大値および最小値の差分値などを、他の特徴として算出しうる。
図12は、振幅画像、位相画像、および強度画像の各々から抽出される異常候補領域と、当該異常候補領域に基づいて算出される特徴と、を説明するための図である。図12の例では、領域Aが、振幅画像、位相画像、および強度画像の全てにおいて異常候補領域として特定され、領域Bが、振幅画像のみにおいて異常候補領域として特定され、領域Cが、位相画像および強度画像において異常候補領域として特定されている。なお、図12では、簡単化のため、同一の符号が付された領域(異常候補領域)が同一の外形を有するように図示されているが、振幅画像から特定された異常候補領域と、位相画像から特定された異常候補領域と、強度画像から特定された異常候補領域とは、それぞれ異なる外形を有しうる。
図12に示されるように、実施形態では、異常候補領域として特定された全ての領域A〜Cから、強度の最大値および最小値の差分値(Range)が算出される。すなわち、実施形態では、強度画像から特定された異常候補領域(領域AおよびC)のみならず、強度画像からは特定されていないものの他の画像(振幅画像および位相画像の少なくとも一方)から特定された異常候補領域(領域B)からも、強度の差分値が算出される。
強度画像以外の他の画像から異常候補領域(領域B)が特定されている場合、従来では、振幅画像の領域Bに対応した強度画像内の領域から、強度の差分値が算出されていた。しかしながら、たとえば長手側の縁が湾曲した細長形状の部分の表面が検査対象(撮像対象)となっている場合、その部分の強度画像は、湾曲した縁の部分において、異常の有無に関わらず相対的に暗くなる。このため、従来では、もし領域Bのような異常候補領域が上記の湾曲した縁の部分に位置するものとして特定されると、その異常候補領域における強度の差分値が異常の有無に関わらず大きくなるので、たとえ異常がなくても異常があるものとして検出される過検出が発生しうる。
そこで、実施形態では、湾曲した縁の部分においては異常の有無に関わらず強度の差分値が大きくなることに起因する上記の過検出を抑制するため、領域特定部105により特定された異常候補領域が強度画像から特定された領域であるか否かに応じて、強度の差分値を算出する対象の領域を異ならせることにした。
概略的に説明すると、実施形態による特徴算出部106は、異常候補領域が少なくとも強度画像から特定された領域である場合、当該異常候補領域に膨張処理を施した領域における強度値の最大値と、膨張処理を施していない異常候補領域における強度値の最小値と、の差分値を、強度の差分値として算出する。また、特徴算出部106は、異常候補領域が強度画像から特定された領域ではなく、かつ振幅画像および位相画像のうち少なくとも一方から特定された領域である場合、当該異常候補領域に対応した強度画像内の第1領域と、当該第1領域において強度値の勾配の変化が最も大きい位置を含む第2領域と、の論理積に対応した領域から、強度の差分値を算出する。なお、第1領域および第2領域がどのように設定されるかについては、特徴算出部106が実行する処理の説明とともに、後で詳細に説明するため、ここではこれ以上の説明を省略する。
なお、実施形態では、上述した通り、内層欠陥が存在する可能性がある領域をより確実に異常候補領域として判定するため、正規化処理によって塗装色の影響を排除した強度画像から、異常候補領域を特定していた。しかしながら、たとえば塗装色として暗い色が使用されている場合、仮に内層欠陥があったとしても、暗い色の影響により、内層欠陥が人の目では認識されないため、この場合は、内層欠陥を異常として判定しないことが望まれる。したがって、異常判定の際には、異常候補領域の特定の際と異なり、塗装色の影響を加味することが望まれる。
そこで、実施形態では、異常を判定するための複数の特徴のうち強度に関する複数の特徴を算出する場合、正規化処理を施していない強度画像を用いることで、異常判定の際に塗装色の影響が加味されるようにした。すなわち、実施形態による特徴算出部106は、強度画像に正規化処理を施すことなく、上述した強度の差分値を算出する。
以下、実施形態において実行される処理について説明する。図13は、実施形態の検査システムが被検査体150の検査を行う際に実行する一連の処理を示したフローチャートである。以下では、被検査体150は、既にアーム140に固定された状態で、検査の初期位置に配置されているものとする。
図13に示されるように、実施形態のPC100は、まず、照明装置120に対して、被検査体150を検査するための縞パターンを出力する(S1301)。
照明装置120は、PC100から入力された縞パターンを格納する(S1321)。そして、照明装置120は、格納された縞パターンを、時間遷移に従って変化するように表示する(S1322)。なお、照明装置120が表示を開始する条件は、縞パターンが格納されることに制限するものではなく、たとえば検査者が照明装置120に対して開始操作を行ったことであってもよい。
そして、PC100の制御部103は、時間相関カメラ110に対して、撮像開始指示を送信する(S1302)。
次に、時間相関カメラ110は、送信されてきた撮像開始指示に従って、被検査体150および当該被検査体150の周囲を含む領域について撮像を開始する(S1311)。そして、時間相関カメラ110の制御部240は、強度画像データと、時間相関画像データと、を生成する(S1312)。そして、時間相関カメラ110の制御部240は、強度画像データと、時間相関画像データと、を、PC100に出力する(S1313)。
PC100の制御部103は、強度画像データと、時間相関画像データと、を受け取る(S1303)。そして、画像生成部104は、受け取った強度画像データおよび時間相関画像データから、振幅画像、位相画像、および強度画像を生成する(S1304)。
そして、領域特定部105は、振幅画像、位相画像、および強度画像の各々から、異常が存在する可能性のある異常候補領域を特定する(S1305)。以下、このS1305における異常候補領域の特定処理の詳細について説明する。
図14は、実施形態の検査システムが実行する異常候補領域の特定処理(図13のS1305の処理)の詳細を示したフローチャートである。以下では、一例として、強度画像を用いた異常候補領域の特定処理についてのみ説明し、振幅画像および位相画像を用いた異常候補領域の特定処理については説明を省略する。
図14に示されるように、異常候補領域の特定処理において、領域特定部105は、まず、強度画像にガウシアン処理(平滑化処理)を施す(S1401)。これにより、図11に示されたような光拡散層1103のような、ランダムな光の拡散を引き起こす層が被検査体150内に存在する場合でも、当該光の拡散によって表れる強度画像の画素値の細かい変化の影響をキャンセルした強度画像を生成することができる。
そして、領域特定部105は、ガウシアン処理が施された強度画像に、ラプラシアン処理を施す(S1402)。ラプラシアン処理とは、複数の画素を有した画像内における画素値の勾配の変化を算出する処理のことである。ラプラシアン処理は、2階微分に対応するので、画素値の緩やかな(定常的な)変化を無視することができる。したがって、ラプラシアン処理によれば、たとえば長手側の縁が湾曲した細長形状の部分の表面が検査対象(撮像対象)となっている場合であっても、当該湾曲した縁の部分の強度値が急峻に(局所的に)変化していない場合には、当該強度値の変化を無視することができる。
図15は、実施形態において用いられうるラプラシアンフィルタの具体例を示した図である。この図15に示されたラプラシアンフィルタは、処理対象の画素の画素値と、処理対象の画素の周囲に隣接する8個の画素の画素値との差分をとるための、いわゆる8近傍ラプラシアンフィルタである。より具体的に、図15に示されたラプラシアンフィルタは、処理対象の画素の画素値を8倍した値から、処理対象の画素の周囲に隣接する8個の画素の画素値の総和を引いた値を、処理対象の画素の新たな画素値とするためのフィルタである。この計算により求められた新たな画素値が、ラプラシアン処理前の画素値の2階微分に相当する。
なお、実施形態では、図15に示された例とは異なるフィルタ係数を有したラプラシアンフィルタが用いられてもよい。以下、ラプラシアンフィルタによって得られる結果について、画像の具体例とともに簡単に説明する。
図16は、実施形態における強度画像の具体例を示した図である。図17は、実施形態においてラプラシアン処理が施された後の強度画像の具体例を示した図である。これらの図16および図17に示されるように、ラプラシアンフィルタによれば、湾曲した縁の部分の影響が表れた強度画像1601から、当該縁の部分の影響がキャンセルされた画像1701を得ることができる。
図14に戻り、ラプラシアン処理(S1402)が終了すると、領域特定部105は、ラプラシアン処理が施された後の強度画像に、正規化処理を施す(S1403)。これにより、塗装色の影響が排除される。
そして、領域特定部105は、正規化処理(S1403)が施された後の強度画像に対して、閾値処理を実行する(S1404)。たとえば、領域特定部105は、正規化処理が施された後の強度画像から、画素値が所定値以上であり、かつ面積が所定値以上の領域を抽出する。
そして、領域特定部105は、閾値処理(S1404)によって抽出された領域を、強度画像の異常候補領域として特定する(S1405)。これにより、S1401から始まる一連の処理(異常候補領域の特定処理)が終了し、図13のS1306に処理が移行する。
図13に戻り、異常候補領域の特定処理(S1305)が終了すると、特徴算出部106は、異常候補領域から、異常を判定するための複数の特徴を算出する(S1306)。以下、このS1306における特徴算出処理の詳細について説明する。
図18は、実施形態の検査システムが実行する特徴算出処理(図13のS1306の処理)の詳細を示したフローチャートである。以下では、一例として、強度に関する特徴(強度の差分値)を算出するための特徴算出処理についてのみ説明し、強度の差分値以外の他の特徴を算出するための特徴算出処理については、説明を省略する。
図18に示されるように、特徴算出部106は、まず、強度画像にガウシアン処理(平滑化処理)を施す(S1801)。このS1801の処理は、上述した図14におけるS1401の処理と同様である。
そして、特徴算出部106は、特徴を算出する対象となっている異常候補領域(以下、算出対象領域と記載する)が、少なくとも強度画像から特定された異常候補領域か否かを判断する(S1802)。
算出対象領域が少なくとも強度画像から特定された異常候補領域であると判断された場合(S1802:Yes)、特徴算出部106は、当該異常候補領域を所定回数膨張させる(S1803)。膨張処理とは、ある領域に、当該領域の周囲の数ピクセル分の領域を追加する処理である。そして、特徴算出部106は、膨張処理が施された領域における画素値(平滑化後の強度値)の最大値と、膨張処理が施される前の領域における画素値(平滑化後の強度値)の最小値と、の差分値を、異常を判定するための特徴(強度に関する特徴)の一つとして算出する(S1804)。
一方、算出対象領域が、振幅画像および位相画像のうち少なくとも一方から特定された異常候補領域であると判断された場合(S1802:No)、特徴算出部106は、算出対象領域が、振幅画像および位相画像のうち一方のみから特定された異常候補領域であるか否かを判断する(S1805)。
算出対象領域が振幅画像および位相画像のうち一方のみから特定された異常候補領域であると判断された場合(S1805:Yes)、特徴算出部106は、当該異常候補領域に対応した強度画像内の領域を、第1領域として設定する(S1806)。
一方、算出対象領域が振幅画像および位相画像の両方から特定された異常候補領域であると判断された場合(S1805:No)、特徴算出部106は、振幅画像から特定された異常候補領域と、位相画像から特定された異常候補領域と、の論理和に対応した領域を、第1領域として設定する(S1807)。
S1806またはS1807における第1領域の設定が終了すると、特徴算出部106は、振幅画像にラプラシアン処理を施す(S1808)。なお、ラプラシアン処理については、前述したため、ここでは説明を省略する。
そして、特徴算出部106は、ラプラシアン処理後の強度画像における上記の第1領域内で画素値が最も大きい画素を特定する(S1809)。そして、特徴算出部106は、S1809で特定した画素に、当該画素の周囲の数ピクセル分の領域を追加する膨張処理を実行する(S1810)。
そして、特徴算出部106は、S1810で膨張された領域に基づき、第2領域を設定する(S1811)。たとえば、特徴算出部106は、S1810で膨張された領域そのものを、第2領域として設定することができる。しかしながら、S1809で特定された画素が、第1領域の端部に位置する場合には、S1810で膨張された領域が、第1領域からはみ出すことになる。したがって、この場合、特徴算出部106は、S1810で膨張された領域そのものを第2領域として設定するのではなく、S1810で膨張された領域と、第1領域と、が重なる領域を、第2領域として設定する。
そして、特徴算出部106は、上述したS1806またはS1807で特定された第1領域と、S1811で特定された第2領域と、の論理積に対応した領域を特定し、当該領域から、強度の差分値(平滑化後の強度値の最大値および最小値の差分値)を算出する(S1812)。
ここで、図16、および図19〜図21を参照して、第1領域および第2領域が設定され、当該第1領域および第2領域に基づいて振幅の減衰量が算出されるまでの処理の流れについて、画像の具体例とともにより詳細に説明する。
上述したように、図16は、実施形態における強度画像の具体例を示した図である。一方、図19は、実施形態における振幅画像の具体例を示した図である。以下では、一例として、強度画像1601(図16参照)および位相画像(不図示)からは異常候補領域が特定されず、振幅画像1901(図19参照)のみから異常候補領域1902(図19参照)が特定された場合について説明する。
振幅画像1901のみから異常候補領域1902が特定された場合、前述したように、振幅画像1901の異常候補領域1902に対応した強度画像1601内の領域が、第1領域として設定される。そして、第1領域が設定されると、強度画像1601にラプラシアン処理が施され、当該ラプラシアン処理後の画像における第1領域から、画素値が最も大きい画素が特定される。そして、当該画素値が最も大きい画素を中心として膨張処理が施された領域が、第2領域として設定される。
図20は、実施形態においてラプラシアン処理が施された後の強度画像の具体例(図17参照)における第2領域を示した図である。この図20(および図17)に示された画像1701は、図16に示された強度画像1601にラプラシアン処理が施されることで生成されたものである。図20に示された領域2001は、画像1701における第1領域に対応した領域(図19の異常候補領域1902に対応した領域)内で画素値が最も大きい画素を中心として膨張処理が施された領域を表す。したがって、図20の例では、領域2001が、第2領域として設定される。
上記のように第1領域および第2領域が設定されると、当該第1領域および第2領域の論理積に対応した領域が、強度に関する特徴を算出する対象の領域として特定される。そして、このように特定された領域から、画素値(強度値)の最大値および最小値が抽出され、それらの差分値が、強度に関する特徴として算出される。
なお、上記では、第1領域と第2領域との論理積に対応した領域から強度の差分値を算出する例について説明したが、当該論理積に対応した領域と、第2領域とは、実際には同一となることが多い。したがって、実施形態では、論理積に対応した領域に替えて、第2領域から、強度の差分値が算出されてもよい。つまり、実施形態では、論理積に対応した領域から強度の差分値を算出することも可能であるし、第2領域から強度の差分値を算出することも可能である。
図21は、実施形態において強度に関する特徴が算出される領域の具体例を示した図である。この図21は、図16に示された強度画像1601に、図19で第1領域として特定された領域1902と、図20で第2領域として特定された領域2001と、を重ねて図示したものである。図21の例では、第1領域として特定された領域1902と、第2領域として特定された領域2001と、の論理積に対応した領域2101から、画素値の最大値および最小値が抽出され、それらの差分値が、強度に関する特徴として算出される。
図18に戻り、S1804またはS1812の処理によって差分値(強度に関する特徴)が算出されると、S1801から始まる一連の処理(特徴算出処理)が終了し、図13のS1307に処理が移行する。
そして、図13に戻り、異常判定部107は、特徴算出部106により算出された複数の特徴を用いて、MT法などに基づく多変量解析を実行することで、被検査体150の異常を判定する(S1307)。S1307における異常判定処理の結果は、PC100が備える(図示しない)表示装置などに出力される。
なお、異常判定処理の結果の出力方法としては、たとえば、強度画像データを表示するとともに、振幅画像データと位相画像データとに基づいて異常が検出された領域に対応する、強度画像データの領域を、検査者が異常を認識できるように装飾表示する方法などが考えられる。なお、実施形態では、判定結果を視覚的に出力することに限らず、判定結果を音声などにより出力してもよい。
上記のS1307の処理が終了すると、制御部103は、被検査体150の検査が終了したか否かを判定する(S1308)。検査が終了していないと判定された場合(S1308:No)、アーム制御部101が、予め定められた設定に従って、次の検査対象となる被検査体150の表面が、時間相関カメラ110で撮像できるように、アーム140の移動制御を行う(S1309)。そして、アーム140の移動制御が終了した後、制御部103が、再び時間相関カメラ110に対して、撮像の開始指示を送信する(S1302)。
一方、制御部103は、被検査体150の検査が終了したと判定された場合(S1308:Yes)、終了指示を時間相関カメラ110に対して出力する(S1310)。これにより、PC100が実行する一連の処理が終了する。
そして、時間相関カメラ110は、終了指示を受け付けたか否かを判定する(S1314)。終了指示を受け付けていない場合(S1314:No)、再びS1311からの処理が行われる。一方、終了指示を受け付けた場合(S1314:Yes)、処理が終了する。
なお、照明装置120の終了処理は、検査者が行ってもよいし、他の構成からの指示に従って終了してもよい。
以上により、実施形態の検査システムが被検査体の検査を行う際に実行する一連の処理が終了する。
なお、上述した実施形態では、時間相関カメラ110を用いて生成された強度画像データと、時間相関画像データと、を生成する例について説明した。しかしながら、強度画像データと、時間相関画像データと、を生成するために時間相関カメラ110を用いることに制限するものではなく、アナログ的な処理で実現可能な時間相関カメラや、それと等価な動作をする撮像システムを用いてもよい。たとえば、通常のデジタルスチルカメラが生成した画像データを出力し、情報処理装置が、デジタルスチルカメラが生成した画像データを、フレーム画像データとして用いて参照信号を重畳することで、時間相関画像データを生成してもよいし、イメージセンサ内で光強度信号に参照信号を重畳するようなデジタルカメラを用いて、時間相関画像データを生成してもよい。
以上説明したように、実施形態による領域特定部105は、強度画像から異常候補領域を特定する場合、強度画像に正規化処理を施し、当該正規化処理が施された後の強度画像を用いて、異常候補領域を特定する。これにより、強度画像に表れる塗装色の影響が正規化処理によって排除されるので、強度画像から異常候補領域を特定する際に用いる基準を、塗装色によらずに同一化することができる。
さらに、実施形態による特徴算出部106は、異常を判定するための複数の特徴のうちの強度に関する特徴を算出する場合、正規化処理が施されていない強度画像を用いて、強度に関する特徴を算出する。前述したように、異常判定の際には、異常候補領域の特定の際と異なり、塗装色の影響を加味することが望まれるが、実施形態によれば、正規化処理が施されていない強度画像、すなわち塗装色の影響を含んだ強度画像から算出した特徴に基づき、塗装色の影響を加味した異常判定が行われるので、上記の要望を実現することができる。
以下、実施形態のいくつかの変形例について説明する。
(第1変形例)
上述した実施形態では、位相、振幅および強度の局所的な変化(周囲との違い)に基づいて、異常候補領域を特定する例について説明したが、周囲との違いに基づいて異常候補領域を特定することに制限するものではない。たとえば、第1変形例として、予め設定(取得)された参照形状のデータ(参照データ)との差異に基づいて異常候補領域を特定する場合も考えられる。この場合、空間位相変調照明(縞パターン)の位置合わせおよび同期の状況を、参照データを設定(取得)した時の状況に合わせることが必要となる。
第1変形例では、領域特定部105が、予め(図示しない)記憶部に記憶された、参照表面から得られた位相画像、振幅画像および強度画像と、被検査体150の位相画像、振幅画像および強度画像と、を比較し、被検査体150の表面と参照表面との間で、光の位相、振幅および強度のうちいずれか1つ以上について所定の基準以上の違いがあるか否かを判定する。
以下では、第1変形例において、実施形態と同じ構成の検査システムが用いられ、参照表面の例として、正常な被検査体の表面が用いられるものとする。
この場合、照明装置120がスクリーン130を介して縞パターンを照射している間に、時間相関カメラ110が、正常な被検査体の表面を撮像し、強度画像データと、時間相関画像データと、を生成する。そして、PC100が、時間相関カメラ110で生成された強度画像データおよび時間相関画像データから、位相画像、振幅画像および強度画像を生成し、PC100の記憶部(図示せず)に、生成した位相画像、振幅画像および強度画像を記憶させておく。そして、時間相関カメラ110が、異常が存在する可能性の有無を判定したい被検査体を撮像し、強度画像データと、時間相関画像データとを生成する。そして、PC100が、強度画像データおよび時間相関画像データから、位相画像、振幅画像および強度画像を生成した後、過去に記憶部に記憶した、正常な被検査体の位相画像、振幅画像および強度画像と、を比較する。その際、PC100は、正常な被検査体の位相画像、振幅画像および強度画像と、検査対象の被検査体の位相画像、振幅画像および強度画像との比較結果を、異常候補領域を特定するための特徴を表すデータとして出力するものとする。これにより、PC100は、異常候補領域を特定するための特徴が、所定の基準以上となっている画素(領域)を特定することで、位相画像、振幅画像および強度画像の各々の異常候補領域を特定することができる。
以上の構成により、第1変形例では、正常な被検査体の表面と差異が生じているか否か、換言すれば、被検査体の表面に異常が存在する可能性の有無を判定できる。なお、位相画像、振幅画像および強度画像の比較手法は、どのような手法を用いてもよいので、説明を省略する。
第1変形例では、参照表面との違いに基づいて、異常候補領域を抽出するための特徴を示したデータを出力する例について説明した。しかしながら、第1変形例で説明した参照表面の違いを用いる技術と、実施形態で説明した周囲との違いを用いる技術と、を組み合わせて、異常候補領域を特定することも考えられる。なお、第1変形例の技術と、実施形態の技術と、を組み合わせる手法は、どのような手法を用いてもよいので、ここでは説明を省略する。
(第2変形例)
また、上述した実施形態では、x方向に縞パターンを動かして、被検査体の異常(欠陥)を検出する例について説明した。しかしながら、x方向に垂直なy方向で急峻に法線の分布が変化する異常(欠陥)が被検査体に生じている場合、x方向に縞パターンを動かすよりも、y方向に縞パターンを動かす方が欠陥の検出が容易になる場合がある。そこで、第2変形例として、x方向に移動する縞パターンと、y方向に移動する縞パターンとを、交互に切り替える例について説明する。
第2変形例の照明制御部102は、所定の時間間隔毎に、照明装置120に出力する縞パターンを切り替える。これにより、照明装置120は、一つの検査対象面に対して、異なる方向に延びた複数の縞パターンを出力する。
図22は、第2変形例の照明制御部102が出力する縞パターンの切り替え例を示した図である。図22の(A)では、照明制御部102は、照明装置120が表示する縞パターンをx方向に遷移させる。その後、図22の(B)に示されるように、照明制御部102は、照明装置120が表示する縞パターンをy方向に遷移させる。
そして、PC100の制御部103は、図22の(A)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行い、図22の(B)の縞パターン照射から得られた時間相関画像データに基づいて、異常検出を行う。
図23は、第2変形例の照明制御部102が、異常(欠陥)2301を含めた表面に縞パターンを照射した例を示した図である。図23に示される例では、異常(欠陥)2301が、x方向に延びている。この場合、照明制御部102は、x方向に交差するy方向、換言すれば異常(欠陥)2301の長手方向に交差する方向に縞パターンが移動するように設定する。当該設定により、検出精度を向上させることができる。
図24は、図23においてy方向、換言すれば異常(欠陥)2301の長手方向に直交する方向に縞パターンを変化させた場合における、異常(欠陥)2301とスクリーン130上の縞パターンの関係を示した図である。図24に示されるように、y方向に幅が狭く、且つ当該y方向に交差するx方向を長手方向とする異常(欠陥)2301が生じている場合、照明装置120から照射された光は、x方向に交差するy方向で光の振幅の打ち消しが大きくなる。このため、PC100では、y方向に移動させた縞パターンに対応する振幅画像データから、当該異常(欠陥)2301を検出できる。
第2変形例の検査システムにおいて、被検査体に生じる欠陥の長手方向がランダムな場合には、複数方向(例えば、x方向、および当該x方向に交差するy方向等)で縞パターンを表示することで、欠陥の形状を問わずに当該欠陥の検出が可能となり、異常(欠陥)の検出精度を向上させることができる。また、異常の形状に合わせた縞パターンを投影することで、異常の検出精度を向上させることができる。
(第3変形例)
また、上述した第2変形例は、x方向の異常検出と、y方向の異常検出と、を行う際に、縞パターンを切り替える手法に制限するものでない。そこで、第3変形例として、照明制御部102が照明装置120に出力する縞パターンをx方向およびy方向に同時に動かす例について説明する。
図25は、第3変形例の照明制御部102が照明装置120に出力する縞パターンの例を示した図である。図25に示される例では、照明制御部102が縞パターンを、方向2501に移動させる。
図25に示される縞パターンは、x方向では1周期2502の縞パターンを含み、y方向では一周期2503の縞パターンを含んでいる。つまり、図25に示される縞パターンは、幅が異なる交差する方向に延びた複数の縞を有している。ここで、第3変形例では、x方向の縞パターンの幅と、y方向の縞パターンの幅と、を異ならせる必要がある。これにより、x方向に対応する時間相関画像データと、y方向に対応する時間相関画像データと、を生成する際に、対応する参照信号を異ならせることができる。なお、縞パターンによる光の強度の変化の周期(周波数)が変化すればよいので、縞の幅を変化させるのに代えて、縞パターン(縞)の移動速度を変化させてもよい。
そして、時間相関カメラ110が、x方向の縞パターンに対応する参照信号に基づいて、x方向の縞パターンに対応する時間相関画像データを生成し、y方向の縞パターンに対応する参照信号に基づいて、y方向の縞パターンに対応する時間相関画像データを生成する。そして、PC100の制御部103は、x方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行った後、y方向の縞パターンに対応する時間相関画像データに基づいて、異常検出を行う。これにより、第3変形例では、欠陥の生じた方向を問わずに検出が可能となり、異常(欠陥)の検出精度を向上させることができる。
上述した実施形態のPC100で実行される検査プログラムは、インストール可能な形式又は実行可能な形式のファイルでCD−ROM、フレキシブルディスク(FD)、CD−R、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録されて提供される。
また、上述した実施形態のPC100で実行される検査プログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上述した実施形態のPC100で実行される検査プログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
本発明のいくつかの実施形態および変形例を説明したが、これらの実施形態および変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態および変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
100…PC(検査システム)、104…画像生成部、105…領域特定部、106…特徴算出部、107…異常判定部、110…時間相関カメラ、120…照明装置(照明部)、130…スクリーン(照明部)。

Claims (12)

  1. 被検査体に対して光の強度の周期的な時間変化および空間変化を与える面的な照明部と、
    時間相関カメラまたはそれと等価な動作をする撮像システムから出力される画像データから、振幅画像、位相画像、および強度画像を生成する画像生成部と、
    前記振幅画像、前記位相画像、および前記強度画像の各々から、前記被検査体において異常が存在する可能性がある異常候補領域を特定する領域特定部と、
    前記異常候補領域から、前記異常を判定するための複数の特徴を算出する特徴算出部と、
    前記複数の特徴を用いた多変量解析を実行することで、前記異常を判定する異常判定部と、
    を備え、
    前記領域特定部は、前記強度画像から前記異常候補領域を特定する場合、前記強度画像に正規化処理を施し、当該正規化処理が施された後の前記強度画像を用いて、前記異常候補領域を特定する、
    検査システム。
  2. 前記領域特定部は、前記強度画像から前記異常候補領域を特定する場合、前記強度画像にラプラシアン処理を施し、当該ラプラシアン処理が施された後の前記強度画像に正規化処理を施し、当該正規化処理が施された後の前記強度画像を用いて、前記異常候補領域を特定する、
    請求項1に記載の検査システム。
  3. 前記領域特定部は、前記強度画像から前記異常候補領域を特定する場合、前記強度画像にガウシアン処理を施し、当該ガウシアン処理を施した後の前記強度画像にラプラシアン処理を施し、当該ラプラシアン処理が施された後の前記強度画像に正規化処理を施し、当該正規化処理が施された後の前記強度画像を用いて、前記異常候補領域を特定する、
    請求項2に記載の検査システム。
  4. 前記特徴算出部は、前記複数の特徴のうちの強度に関する特徴を算出する場合、前記正規化処理が施されていない前記強度画像を用いて、前記強度に関する特徴を算出する、
    請求項1〜3のいずれか1項に記載の検査システム。
  5. 前記特徴算出部は、前記異常候補領域が前記強度画像から特定された領域ではなく、かつ前記振幅画像および前記位相画像のうち少なくとも一方から特定された領域である場合、前記異常候補領域に対応した前記強度画像内の第1領域と、当該第1領域において画素値の勾配の変化が最も大きい位置を含む第2領域と、の論理積に対応した領域における強度値の最大値および最小値の差分値、または前記第2領域における前記強度値の最大値および最小値の差分値を、前記強度に関する特徴として算出する、
    請求項4に記載の検査システム。
  6. 前記特徴算出部は、前記異常候補領域が前記強度画像から特定された領域ではなく、かつ前記振幅画像および前記位相画像の両方から特定された領域である場合、前記振幅画像から特定された前記異常候補領域と、前記位相画像から特定された前記異常候補領域と、の論理和に対応した領域を、前記第1領域として設定する、
    請求項5に記載の検査システム。
  7. 前記特徴算出部は、前記強度画像にラプラシアン処理を施し、当該ラプラシアン処理が施された後の前記強度画像の前記第1領域において画素値が最も大きい画素を中心として膨張処理を施した領域を、前記第2領域として設定する、
    請求項5または6に記載の検査システム。
  8. 前記特徴算出部は、前記膨張処理を施した領域と、前記第1領域と、が重なる領域を、前記第2領域として設定する、
    請求項7に記載の検査システム。
  9. 前記特徴算出部は、前記強度画像にガウシアン処理を施し、当該ガウシアン処理を施した後の前記強度画像を用いて、前記第1領域および前記第2領域を設定する、
    請求項5〜8のいずれか1項に記載の検査システム。
  10. 前記特徴算出部は、前記異常候補領域が前記強度画像から特定された領域である場合、前記強度画像から特定された前記異常候補領域に膨張処理を施した領域における前記強度値の最大値と、前記膨張処理を施していない前記異常候補領域における前記強度値の最小値と、の差分値を、前記強度に関する特徴として算出する、
    請求項5〜9のいずれか1項に記載の検査システム。
  11. 前記異常判定部は、前記多変量解析として、MT(マハラノビスタグチ)法を用いた判定処理を実行することで、前記異常を判定する、
    請求項1〜10のいずれか1項に記載の検査システム。
  12. 光の強度の周期的な時間変化および空間変化を与える面的な照明部により照らされた被検査体を撮像した時間相関カメラまたはそれと等価な動作をする撮像システムから出力される画像データから、振幅画像、位相画像、および強度画像を生成する画像生成ステップと、
    前記振幅画像、前記位相画像、および前記強度画像の各々から、前記被検査体において異常が存在する可能性がある異常候補領域を特定する領域特定ステップと、
    前記異常候補領域から、前記異常を判定するための複数の特徴を算出する特徴算出ステップと、
    前記複数の特徴を用いた多変量解析を実行することで、前記異常を判定する異常判定ステップと、
    を備え、
    前記領域特定ステップは、前記強度画像から前記異常候補領域を特定する場合、前記強度画像に正規化処理を施し、当該正規化処理が施された後の前記強度画像を用いて、前記異常候補領域を特定するステップを含む、
    検査方法。
JP2017002935A 2017-01-11 2017-01-11 検査システムおよび検査方法 Pending JP2018112470A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2017002935A JP2018112470A (ja) 2017-01-11 2017-01-11 検査システムおよび検査方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017002935A JP2018112470A (ja) 2017-01-11 2017-01-11 検査システムおよび検査方法

Publications (1)

Publication Number Publication Date
JP2018112470A true JP2018112470A (ja) 2018-07-19

Family

ID=62911207

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017002935A Pending JP2018112470A (ja) 2017-01-11 2017-01-11 検査システムおよび検査方法

Country Status (1)

Country Link
JP (1) JP2018112470A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117608326A (zh) * 2024-01-19 2024-02-27 四川图林科技有限责任公司 一种半球谐振陀螺的半球谐振子振动幅值控制***及方法

Citations (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002139446A (ja) * 2000-10-31 2002-05-17 Nkk Corp 表面欠陥検出方法及び装置
JP2010287179A (ja) * 2009-06-15 2010-12-24 Ricoh Elemex Corp 画像検査装置、画像検査方法および画像検査プログラム
JP2011232303A (ja) * 2010-04-30 2011-11-17 Ricoh Elemex Corp 画像検査方法及び画像検査装置
JP2012021909A (ja) * 2010-07-15 2012-02-02 Keyence Corp 画像処理装置及び外観検査方法
JP2012021919A (ja) * 2010-07-16 2012-02-02 Keyence Corp 画像処理装置、画像処理方法及びコンピュータプログラム
JP2012127934A (ja) * 2010-11-26 2012-07-05 Fujitsu Ltd 検査方法及び検査装置
JP2012211876A (ja) * 2011-03-31 2012-11-01 Hitachi Chem Co Ltd 外観検査装置
JP2012229928A (ja) * 2011-04-25 2012-11-22 Jfe Steel Corp 表面欠陥検出方法、および表面欠陥検出装置
JP2015028482A (ja) * 2007-03-28 2015-02-12 エス.オー.アイ.テック シリコン オン インシュレーター テクノロジーズS.O.I.Tec Silicon On Insulator Technologies 基板表面の欠陥検査方法及び装置
JP3197766U (ja) * 2015-03-17 2015-06-04 バイスリープロジェクツ株式会社 表面検査装置
WO2015152306A1 (ja) * 2014-03-31 2015-10-08 国立大学法人東京大学 検査システムおよび検査方法
JP2015197345A (ja) * 2014-03-31 2015-11-09 国立大学法人 東京大学 検査システムおよび検査方法
US20160334340A1 (en) * 2014-01-22 2016-11-17 Tiama Method and device for the detection in particular of refracting defects
JP2016224707A (ja) * 2015-05-29 2016-12-28 リコーエレメックス株式会社 検査システム
JP2017003273A (ja) * 2015-06-04 2017-01-05 東芝電子管デバイス株式会社 防湿体、および放射線検出器

Patent Citations (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002139446A (ja) * 2000-10-31 2002-05-17 Nkk Corp 表面欠陥検出方法及び装置
JP2015028482A (ja) * 2007-03-28 2015-02-12 エス.オー.アイ.テック シリコン オン インシュレーター テクノロジーズS.O.I.Tec Silicon On Insulator Technologies 基板表面の欠陥検査方法及び装置
JP2010287179A (ja) * 2009-06-15 2010-12-24 Ricoh Elemex Corp 画像検査装置、画像検査方法および画像検査プログラム
JP2011232303A (ja) * 2010-04-30 2011-11-17 Ricoh Elemex Corp 画像検査方法及び画像検査装置
JP2012021909A (ja) * 2010-07-15 2012-02-02 Keyence Corp 画像処理装置及び外観検査方法
JP2012021919A (ja) * 2010-07-16 2012-02-02 Keyence Corp 画像処理装置、画像処理方法及びコンピュータプログラム
JP2012127934A (ja) * 2010-11-26 2012-07-05 Fujitsu Ltd 検査方法及び検査装置
JP2012211876A (ja) * 2011-03-31 2012-11-01 Hitachi Chem Co Ltd 外観検査装置
JP2012229928A (ja) * 2011-04-25 2012-11-22 Jfe Steel Corp 表面欠陥検出方法、および表面欠陥検出装置
US20160334340A1 (en) * 2014-01-22 2016-11-17 Tiama Method and device for the detection in particular of refracting defects
WO2015152306A1 (ja) * 2014-03-31 2015-10-08 国立大学法人東京大学 検査システムおよび検査方法
JP2015197345A (ja) * 2014-03-31 2015-11-09 国立大学法人 東京大学 検査システムおよび検査方法
JP2015200632A (ja) * 2014-03-31 2015-11-12 国立大学法人 東京大学 検査システムおよび検査方法
JP3197766U (ja) * 2015-03-17 2015-06-04 バイスリープロジェクツ株式会社 表面検査装置
JP2016224707A (ja) * 2015-05-29 2016-12-28 リコーエレメックス株式会社 検査システム
JP2017003273A (ja) * 2015-06-04 2017-01-05 東芝電子管デバイス株式会社 防湿体、および放射線検出器

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN117608326A (zh) * 2024-01-19 2024-02-27 四川图林科技有限责任公司 一种半球谐振陀螺的半球谐振子振动幅值控制***及方法
CN117608326B (zh) * 2024-01-19 2024-03-29 四川图林科技有限责任公司 一种半球谐振陀螺的半球谐振子振动幅值控制***及方法

Similar Documents

Publication Publication Date Title
US10739272B2 (en) Inspection system and inspection method
JP6316068B2 (ja) 検査システムおよび検査方法
JP6542586B2 (ja) 検査システム
WO2018159825A1 (ja) 検査システムおよび検査方法
JP2016224707A (ja) 検査システム
JP6276092B2 (ja) 検査システムおよび検査方法
JP2018009849A (ja) 検査システムおよび検査方法
JP2017101977A (ja) 検査システムおよび検査方法
JP2018028527A (ja) 検査システム
JP6420131B2 (ja) 検査システム、及び検査方法
JP2018112470A (ja) 検査システムおよび検査方法
JP2018115937A (ja) 検査システム
JP2019002761A (ja) 検査システムおよび検査方法
JP6703415B2 (ja) 検査装置及び検査方法
JP6781430B2 (ja) 検査システム
JP6909378B2 (ja) 検査システム
JP2017101979A (ja) 検査システム
JP6902684B2 (ja) 画像処理装置および検査システム
JP2019174232A (ja) 検査システムおよび検査方法
JP2018112471A (ja) 検査システムおよび検査方法
JP6826813B2 (ja) 検査装置及び検査方法
JP2020012816A (ja) 検査システムおよび検査方法
JP6909377B2 (ja) 検査システムおよび検査方法
JP2020101417A (ja) 検査システム
JP2019002873A (ja) 検査システムおよび検査方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190913

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200812

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200908

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20210309