JP7449739B2 - Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method - Google Patents
Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method Download PDFInfo
- Publication number
- JP7449739B2 JP7449739B2 JP2020051136A JP2020051136A JP7449739B2 JP 7449739 B2 JP7449739 B2 JP 7449739B2 JP 2020051136 A JP2020051136 A JP 2020051136A JP 2020051136 A JP2020051136 A JP 2020051136A JP 7449739 B2 JP7449739 B2 JP 7449739B2
- Authority
- JP
- Japan
- Prior art keywords
- inspection
- image
- learning
- detection target
- captured image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000007689 inspection Methods 0.000 title claims description 130
- 238000000034 method Methods 0.000 title claims description 26
- 238000001514 detection method Methods 0.000 claims description 101
- 230000007547 defect Effects 0.000 claims description 84
- 238000012545 processing Methods 0.000 claims description 68
- 238000009826 distribution Methods 0.000 claims description 22
- 238000012549 training Methods 0.000 claims description 6
- 230000006870 function Effects 0.000 claims description 3
- 238000004891 communication Methods 0.000 description 13
- 238000003384 imaging method Methods 0.000 description 12
- 238000003860 storage Methods 0.000 description 11
- 230000002950 deficient Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000007781 pre-processing Methods 0.000 description 3
- 238000012360 testing method Methods 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000004065 semiconductor Substances 0.000 description 2
- RYGMFSIKBFXOCR-UHFFFAOYSA-N Copper Chemical compound [Cu] RYGMFSIKBFXOCR-UHFFFAOYSA-N 0.000 description 1
- 230000005856 abnormality Effects 0.000 description 1
- 230000002146 bilateral effect Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 229910052802 copper Inorganic materials 0.000 description 1
- 239000010949 copper Substances 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000007613 environmental effect Effects 0.000 description 1
- 238000010304 firing Methods 0.000 description 1
- 230000014509 gene expression Effects 0.000 description 1
- 238000009499 grossing Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Image Analysis (AREA)
Description
本開示は、検査対象を検査するための技術に関し、とくに、検査対象を検査するための検査システム、検査システムに利用可能な学習装置、学習プログラム、学習方法、検査システムに利用可能な検査装置、検査プログラム、及び検査方法に関する。 The present disclosure relates to a technique for inspecting an inspection target, and in particular, an inspection system for inspecting an inspection target, a learning device that can be used in the inspection system, a learning program, a learning method, an inspection device that can be used in the inspection system, Regarding inspection programs and inspection methods.
便器装置の貯水タンクなどの衛生陶器を製造する際に、施釉や焼成などの工程において、釉薬のはげや亀裂(クラック)などの不具合が生じうる。従来は、熟練した検査員が目視で外観を検査していたが、人材を確保するのが困難で、教育負荷も高いため、属人化の解消が大きな課題となっていた。 When manufacturing sanitary ware such as water storage tanks for toilet devices, defects such as peeling of the glaze and cracks may occur during processes such as glazing and firing. In the past, skilled inspectors visually inspected the appearance, but it was difficult to secure human resources and the training load was high, so eliminating the need for individual workers was a major issue.
このような不具合を自動的に検出するために、検査対象物の撮像画像から表面状態を判定する技術が提案されている(例えば、特許文献1参照)。 In order to automatically detect such defects, a technique has been proposed that determines the surface state from a captured image of an object to be inspected (see, for example, Patent Document 1).
不具合を検出できずに、不具合のあるままで製品を出荷してしまうと、回収、代品出荷、再加工などの手間が生じるとともに、製品の信頼性が低下してしまう。したがって、不具合を自動的に検出する精度を更に高める必要がある。 If a defect is not detected and the product is shipped with the defect, it will take time to recall, ship a replacement product, reprocess, etc., and the reliability of the product will decrease. Therefore, there is a need to further improve the accuracy of automatically detecting defects.
本開示は、このような課題に鑑みてなされ、その目的は、検査対象を検査する精度を向上させることにある。 The present disclosure has been made in view of such problems, and its purpose is to improve the accuracy with which an inspection target is inspected.
上記課題を解決するために、本開示のある態様の検査システムは、検査対象の検出対象部位を検出するための検出器を学習する学習装置と、学習装置により学習された検出器を用いて、検査対象の検出対象部位を検出する検査装置と、を備える。学習装置は、検出対象部位を含む検査対象の撮像画像を取得する学習用画像取得部と、学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、撮像画像に画像処理を施す画像処理部と、画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、学習データ生成部により生成された学習データを使用して検出器を学習する学習部と、を備える。検査装置は、検査対象の撮像画像を取得する検査用画像取得部と、検出器を用いて、検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、を備える。 In order to solve the above problems, an inspection system according to an aspect of the present disclosure uses a learning device that learns a detector for detecting a detection target region of an inspection target, and a detector learned by the learning device. An inspection device that detects a detection target site of an inspection target. The learning device includes a learning image acquisition unit that acquires a captured image of the inspection target including the detection target region, and a learning device that generates learning data from the captured image of the inspection target acquired by the learning image acquisition unit. An image processing section that performs image processing, a learning data generation section that generates learning data from the image of the detection target region processed by the image processing section, and a detector using the learning data generated by the learning data generation section. It is equipped with a learning section for learning. The inspection device includes an inspection image acquisition unit that acquires a captured image of the inspection target, and a detection unit that uses a detector to detect a detection target region from the captured image acquired by the inspection image acquisition unit.
本開示の別の態様は、学習装置である。この装置は、検出対象部位を含む検査対象の撮像画像を取得する学習用画像取得部と、学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、撮像画像に画像処理を施す画像処理部と、画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、学習データ生成部により生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習する学習部と、を備える。 Another aspect of the present disclosure is a learning device. This device includes a learning image acquisition unit that acquires a captured image of the inspection target including the detection target region, and a training image acquisition unit that acquires a captured image of the inspection target that includes the detection target region, and a training image acquisition unit that uses the captured image to An image processing unit that performs image processing, a learning data generation unit that generates learning data from the image of the detection target region processed by the image processing unit, and a learning data generation unit that uses the learning data generated by the learning data generation unit to and a learning unit that learns a detector for detecting the detection target region.
本開示の別の態様は、学習プログラムである。このプログラムは、コンピュータを、検出対象部位を含む検査対象の撮像画像を取得する学習用画像取得部と、学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、撮像画像に画像処理を施す画像処理部と、画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、学習データ生成部により生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習する学習部と、として機能させる。 Another aspect of the present disclosure is a learning program. This program connects a computer to a learning image acquisition unit that acquires a captured image of the inspection target including the detection target region, and before generating learning data from the captured image of the inspection target acquired by the learning image acquisition unit. An image processing section that performs image processing on the captured image, a learning data generation section that generates learning data from the image of the detection target region processed by the image processing section, and a learning data generation section that uses the learning data generated by the learning data generation section. , and a learning unit that learns a detector for detecting a detection target part of an inspection target.
本開示のさらに別の態様は、学習方法である。この方法は、コンピュータに、検出対象部位を含む検査対象の撮像画像を取得するステップと、取得された検査対象の撮像画像から学習データを生成する前に、撮像画像に画像処理を施すステップと、処理された検出対象部位の画像から学習データを生成するステップと、生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習するステップと、を実行させる。 Yet another aspect of the present disclosure is a learning method. This method includes the steps of: acquiring a captured image of the inspection target including the detection target region in a computer; performing image processing on the captured image before generating learning data from the acquired captured image of the inspection target; A step of generating learning data from the processed image of the detection target region, and a step of learning a detector for detecting the detection target region of the inspection target using the generated learning data are executed.
本開示のさらに別の態様は、検査装置である。この装置は、検査対象の撮像画像を取得する検査用画像取得部と、検査用画像取得部により取得された検査対象の撮像画像から検出対象部位を検出する前に、撮像画像に画像処理を施す画像処理部と、検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、を備える。 Yet another aspect of the present disclosure is an inspection device. This device includes an inspection image acquisition unit that acquires an image of the inspection target, and a test image acquisition unit that performs image processing on the captured image before detecting a detection target part from the image of the inspection target acquired by the inspection image acquisition unit. Detection from the captured image acquired by the inspection image acquisition unit using an image processing unit and a detector trained using learning data generated from images of the detection target region included in the captured image of the inspection target A detection unit that detects a target region.
本開示のさらに別の態様は、検査プログラムである。このプログラムは、コンピュータを、検査対象の撮像画像を取得する検査用画像取得部と、検査用画像取得部により取得された検査対象の撮像画像から検出対象部位を検出する前に、撮像画像に画像処理を施す画像処理部と、検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、として機能させる。 Yet another aspect of the present disclosure is an inspection program. This program runs a computer to an inspection image acquisition section that acquires a captured image of the inspection target, and to convert the image into a captured image before detecting a detection target part from the captured image of the inspection target acquired by the inspection image acquisition section. An image acquired by an image acquisition unit for inspection using an image processing unit that performs processing and a detector trained using learning data generated from images of the detection target region included in the captured image of the inspection target. It functions as a detection unit that detects a detection target region from an image.
本開示のさらに別の態様は、検査方法である。この方法は、コンピュータに、検査対象の撮像画像を取得するステップと、取得された検査対象の撮像画像から検出対象部位を検出する前に、撮像画像に画像処理を施すステップと、検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、取得された撮像画像から検出対象部位を検出するステップと、を実行させる。 Yet another aspect of the present disclosure is a testing method. This method requires a computer to acquire a captured image of the inspection target, perform image processing on the captured image before detecting the detection target region from the acquired captured image of the inspection target, and perform image processing on the captured image of the inspection target. A step of detecting a detection target region from the acquired captured image using a detector trained using learning data generated from an image of the detection target region included in the image is executed.
なお、以上の構成要素の任意の組合せ、本発明の表現を方法、装置、システム、記録媒体、コンピュータプログラムなどの間で変換したものもまた、本発明の態様として有効である。 Note that arbitrary combinations of the above-mentioned components and expressions of the present invention converted between methods, devices, systems, recording media, computer programs, etc. are also effective as aspects of the present invention.
本開示の実施の形態として、衛生陶器の一例であるタンクの外観を検査する技術について説明する。実施の形態に係る学習装置は、タンクの表面に生じたクラックなどの欠陥を検出するための欠陥検出器を学習する。実施の形態に係る検査装置は、学習装置により学習された欠陥検出器を使用してタンクの撮像画像から欠陥を検出する。これにより、検査の効率及び精度を向上させることができるので、検査員の負担を大幅に軽減させることができる。また、合格品を不合格品と判定する割合を低減させることができるので、不合格品の見直しなどの手間を軽減させることができる。また、検査員の経験や技量などによらず、精確な検査を実施することができるので、検査の属人化を解消し、検査員の人員不足を軽減させることができるとともに、製品の品質を良好に安定させることができる。 As an embodiment of the present disclosure, a technique for inspecting the appearance of a tank, which is an example of sanitary ware, will be described. The learning device according to the embodiment learns a defect detector for detecting defects such as cracks occurring on the surface of a tank. The inspection device according to the embodiment detects defects from the captured image of the tank using the defect detector learned by the learning device. Thereby, the efficiency and accuracy of the inspection can be improved, and the burden on the inspector can be significantly reduced. Furthermore, since it is possible to reduce the proportion of acceptable products to be determined as rejected products, it is possible to reduce the effort of reviewing rejected products. In addition, since accurate inspections can be carried out regardless of the inspector's experience or skill, it is possible to eliminate inspections from individual to individual, reduce the shortage of inspectors, and improve product quality. It can be stabilized well.
図1は、実施の形態に係る検査システムの構成を示す。検査システム1は、検査対象であるタンク2と、タンク2の外観を撮像するための撮像装置3と、タンク2の表面に生じた欠陥を検出するための欠陥検出器を学習する学習装置100と、欠陥検出器を用いてタンク2の表面を検査する検査装置200と、それらの装置を接続する通信網の一例であるインターネット4とを備える。
FIG. 1 shows the configuration of an inspection system according to an embodiment. The
図2は、タンク2の表面の撮像画像の例を示す。図2(a)は、タンク2の表面に生じたクラックの画像を示す。撮像画像10には、4つのクラック11a、11b、11c、11dの画像が含まれている。学習装置100は、撮像画像10に含まれるクラックに対して、クラックであることを示すアノテーション(教師ラベル)を付与し、教師あり学習によって欠陥検出器を学習する。
FIG. 2 shows an example of a captured image of the surface of the
欠陥検出器の汎化性能(未知データに対する検出性能)を向上せるためには、多種多様な欠陥の画像を学習データとして欠陥検出器を学習する必要があるが、タンク2を製造する際にタンク2の表面に欠陥が発生する割合は非常に低いので、実際にタンク2の表面に欠陥が生じている画像を大量に収集して学習データを生成するのは困難である。このような課題を解決するために、本実施の形態では、1つの欠陥の画像を複数に分割し、分割された欠陥の画像のそれぞれから学習データを生成する。これにより、大量の学習データを効率良く生成して欠陥検出器を学習することができるので、欠陥検出器の汎化性能及び精度を向上させることができる。このようにして学習された欠陥検出器により欠陥を検出する場合、1つの欠陥が存在する場合であっても、細分化された欠陥の一部ずつが複数個に分けて検出される可能性があるが、検出後に近接している欠陥同士をまとめればよい。この手法は、クラックなど、1つの欠陥においても位置によって形状などの特徴が異なりうる欠陥の検出器を学習する際にとくに効果的である。
In order to improve the generalization performance (detection performance for unknown data) of the defect detector, it is necessary to train the defect detector using images of a wide variety of defects as learning data. Since the rate of occurrence of defects on the surface of
学習装置100は、図2(a)に示すように、4つのクラック11a、11b、11c、11dの画像のそれぞれにアノテーション12a、12b、12c、12dを付与してもよいが、本実施の形態では、図2(b)に示すように、4つのクラック11a、11b、11c、11dの画像のうち11a、11b、11cの3つの画像をそれぞれ複数に分割し、分割された複数のクラックの画像のそれぞれにアノテーションを付与して、別々の学習データを生成する。例えば、クラック11aの画像を3つに分割し、それぞれにアノテーション12a1、12a2、12a3を付与して、3つの学習データを生成する。これにより、アノテーションが付与された学習データの数を増やすことができるので、欠陥検出器の汎化性能及び精度を向上させることができる。
The
学習装置100は、担当者からアノテーションの指定を受け付けてもよいし、自動的又は半自動的にアノテーションを付与してもよい。学習装置100は、撮像画像10に含まれる欠陥の位置、大きさ、種類の指定を担当者から受け付け、指定された欠陥の大きさ、種類、数などに応じて、欠陥の画像を分割してから学習データを生成するのか分割せずに学習データを生成するのかや、分割する場合は分割数や分割したそれぞれの領域の大きさや形状などを決定してもよい。例えば、図2(a)に示したクラック11dは、位置によらず単調な形状を有しているので、分割せずに全体にアノテーション12dを付与してもよい。クラック11a、11b、11cは、変化に富んだ形状を有しているので、クラックの大きさや形状の変化などに応じた数に分割して、それぞれにアノテーションを付与してもよい。
The
図3は、タンク2の表面の撮像画像の例を示す。図3(a)は、タンク2の表面に生じたクラックの画像を示す。タンク2の表面の撮像画像には、クラックなどの欠陥に起因する輝度のコントラストの他に、タンク2の表面の凹凸や撮像時の環境光などに起因する輝度のコントラストが含まれうる。このような検出すべきでない背景画像の特徴を欠陥検出器が誤学習すると、検出精度が低下しうる。このような課題を解決するために、本実施の形態では、検査対象の撮像画像から学習データを生成する前に、撮像画像に画像処理を施す。この前処理は、欠陥などの検出対象部位ではない部位の画像のコントラストを低下させて輝度を平滑化することが可能な画像処理であってもよい。例えば、画像全体にぼかし(ブラー)フィルタをかけてもよい。ぼかしフィルタは、例えば、カーネルの範囲内の画素値の平均を取る箱形フィルタ、注目画素との距離に応じて重みを変えるガウシアンフィルタ、カーネルの範囲内の全画素の中央値を採用する中央値フィルタ、正規分布の重みを付けたガウシアンフィルタであるバイラテラルフィルタなどであってもよい。前処理は、画像の解像度を下げる画像処理であってもよい。これにより、簡易な画像処理によって学習効率を向上させることができるので、高精度な欠陥検出器を短期間で生成することができる。
FIG. 3 shows an example of a captured image of the surface of the
図3(b)は、図3(a)に示した画像にぼかしフィルターをかけた画像を示す。背景はぼかされてコントラストが低下しているので、背景の特徴を誤学習するのを低減させることができる。欠陥のコントラストも若干低下するが、特徴は保たれているので、欠陥の特徴を欠陥検出器に学習させることができる。 FIG. 3(b) shows an image obtained by applying a blur filter to the image shown in FIG. 3(a). Since the background is blurred and the contrast is reduced, erroneous learning of background features can be reduced. The contrast of the defect is also slightly reduced, but the characteristics are maintained, so the defect detector can learn the characteristics of the defect.
画像処理は、検出対象部位におけるコントラストの特徴が失われず、検出対象部位ではない部位におけるコントラストが十分に平滑化されるような条件で実行されればよい。学習装置100は、検出対象部位における輝度の分布と、検出対象部位ではない背景における輝度の分布を取得し、それぞれの輝度の分布に基づいて、画像処理の種類やカーネルサイズなどの条件を決定してもよい。学習装置100は、同種の検査対象を同様の環境で撮像した複数の撮像画像を検査する場合は、同じ条件で画像処理を施してもよい。
Image processing may be performed under conditions such that contrast characteristics in the detection target region are not lost and contrast in regions other than the detection target region is sufficiently smoothed. The
撮像装置3により検査対象のタンク2の表面を撮像する際に、欠陥ではない部位のコントラストが十分に低くなるような撮像環境で撮像を実行してもよい。例えば、タンク2の表面の色や反射率などに応じた照度でタンク2に光を照射してもよい。また、撮像装置3の焦点距離、解像度、絞りなどを調整してもよい。
When the
図4は、実施の形態に係る学習方法の手順を示すフローチャートである。学習装置100は、欠陥を有する検査対象の撮像画像を取得し(S10)、取得した撮像画像に対してぼかしなどの前処理を実施する(S12)。学習装置100は、撮像画像に含まれる欠陥の画像の少なくとも一部を複数に分割し(S14)、分割した複数の欠陥画像のそれぞれにアノテーションを付与して学習データを生成する(S16)。学習装置100は、欠陥の種類ごとに異なるアノテーションを付与してもよい。これにより、欠陥の種類ごとに特徴を欠陥検出器に学習させることができるので、欠陥検出器を用いて検査対象の撮像画像から欠陥を検出すると同時に欠陥の種類を判定することができる。学習装置100は、生成した学習データを使用して教師あり学習により欠陥検出器を学習する。学習装置100は、欠陥検出器を学習する際に、既知の任意の学習アルゴリズムを適用してもよい。
FIG. 4 is a flowchart showing the procedure of the learning method according to the embodiment. The
図5は、実施の形態に係る検査方法の手順を示すフローチャートである。検査装置200は、検査対象の撮像画像を取得し(S30)、学習装置100が学習データを生成する際に実施したのと同様の画像処理を撮像画像に対して実施する(S32)。検査装置200は、学習済みの欠陥検出器を用いて撮像画像から欠陥を検出し(S34)、検出結果を出力する(S36)。
FIG. 5 is a flowchart showing the procedure of the inspection method according to the embodiment. The
本発明者は、上記の方法により、欠陥を含むタンク2の不合格品212点の撮像画像を使用して欠陥検出器を学習し、学習した欠陥検出器を使用してタンク2の合格品500点と不合格品23点の検査を実施した。不合格品を合格品と誤判定した件数は0件であった。これにより、本実施の形態の技術によって、不合格品を誤って出荷してしまう可能性を最小限に抑えることができることが示された。また、合格品を不合格品と誤判定した件数は7件であり、正解率は98.6%であった。これにより、不合格品を検査員が確認する手間を大幅に軽減させることができるとともに、合格品を出荷できずにロスしてしまう割合を大幅に低減させることができることが示された。
Using the method described above, the present inventor trained a defect detector using captured images of 212 rejected products of
図6は、実施の形態に係る学習装置100の構成を示す。学習装置100は、表示装置112、入力装置113、通信装置114、処理装置120、及び記憶装置130を備える。学習装置100は、サーバ装置であってもよいし、パーソナルコンピューターなどの装置であってもよいし、携帯電話端末、スマートフォン、タブレット端末などの携帯端末であってもよい。
FIG. 6 shows the configuration of the
表示装置112は、処理装置120により生成される画面を表示する。表示装置112は、液晶表示装置、有機EL表示装置などであってもよい。入力装置113は、学習装置100の使用者による指示入力を処理装置120に伝達する。入力装置113は、マウス、キーボード、タッチパッドなどであってもよい。表示装置112及び入力装置113は、タッチパネルとして実装されてもよい。
The
通信装置114は、他の装置との間の通信を制御する。通信装置114は、有線又は無線の任意の通信方式により通信を行ってもよい。通信装置114は、インターネット4を介して撮像装置3及び検査装置200との間で通信を行う。
記憶装置130は、処理装置120により使用されるプログラム、データなどを記憶する。記憶装置130は、半導体メモリ、ハードディスクなどであってもよい。記憶装置130には、学習用画像保持部131、学習データ保持部132、及び欠陥検出器133が格納される。
The
処理装置120は、学習用画像取得部121、画像処理部122、学習データ生成部123、学習部124、及び欠陥検出器提供部125を備える。これらの構成は、ハードウエア的には、任意のコンピュータのCPU、メモリ、その他のLSIなどにより実現され、ソフトウエア的にはメモリにロードされたプログラムなどによって実現されるが、ここではそれらの連携によって実現される機能ブロックを描いている。したがって、これらの機能ブロックがハードウエアのみ、またはハードウエアとソフトウエアの組合せなど、いろいろな形で実現できることは、当業者には理解されるところである。
The
学習用画像取得部121は、欠陥を有する検査対象の撮像画像を撮像装置3から取得して学習用画像保持部131に格納する。画像処理部122は、学習用画像保持部131に格納された学習用画像に対して、ぼかしなどの画像処理を施す。学習データ生成部123は、学習用画像に含まれる欠陥にアノテーションを付与する。学習データ生成部123は、少なくとも一部の欠陥画像を複数に分割し、分割されたそれぞれの欠陥画像にアノテーションを付与する。学習データ生成部123は、学習用画像を表示装置112に表示し、入力装置113を介して担当者からアノテーションの指定を受け付けてもよい。学習データ生成部123は、欠陥にアノテーションを自動的に付与してもよい。学習データ生成部123は、学習データを生成して学習データ保持部132に格納する。
The learning
学習部124は、学習データ保持部132に格納された学習データを使用して、欠陥検出器133を学習する。欠陥検出器提供部125は、学習済みの欠陥検出器133を検査装置200に提供する。
The
図7は、実施の形態に係る検査装置200の構成を示す。検査装置200は、表示装置212、入力装置213、通信装置214、処理装置220、及び記憶装置230を備える。検査装置200は、サーバ装置であってもよいし、パーソナルコンピューターなどの装置であってもよいし、携帯電話端末、スマートフォン、タブレット端末などの携帯端末であってもよい。
FIG. 7 shows the configuration of an
表示装置212は、処理装置220により生成される画面を表示する。表示装置212は、液晶表示装置、有機EL表示装置などであってもよい。入力装置213は、検査装置200の使用者による指示入力を処理装置220に伝達する。入力装置213は、マウス、キーボード、タッチパッドなどであってもよい。表示装置212及び入力装置213は、タッチパネルとして実装されてもよい。
The
通信装置214は、他の装置との間の通信を制御する。通信装置214は、有線又は無線の任意の通信方式により通信を行ってもよい。通信装置214は、インターネット4を介して撮像装置3及び学習装置100との間で通信を行う。
記憶装置230は、処理装置220により使用されるプログラム、データなどを記憶する。記憶装置230は、半導体メモリ、ハードディスクなどであってもよい。記憶装置230には、検査用画像保持部231、検出結果保持部232、及び欠陥検出器233が格納される。
The
処理装置220は、検査用画像取得部221、画像処理部222、欠陥検出部223、検出結果生成部224、及び検出結果出力部225を備える。これらの構成も、ハードウエアのみ、またはハードウエアとソフトウエアの組合せなど、いろいろな形で実現できる。
The
検査用画像取得部221は、撮像装置3により撮像された検査対象の画像を撮像装置3から取得して検査用画像保持部231に格納する。画像処理部222は、学習装置100が学習用画像に対して実施したのと同じ画像処理を検査用画像に対して実施する。
The inspection
欠陥検出部223は、学習装置100から取得した学習済みの欠陥検出器233を用いて、検査用画像保持部231に格納された検査用画像から欠陥を検出し、検出結果を検出結果保持部232に格納する。検出結果生成部224は、検出された欠陥に関する情報を生成する。検出結果生成部224は、欠陥検出部223により検出された複数の欠陥が近接している場合、それらの欠陥をまとめて1つの欠陥とする。検出結果生成部224は、検出された欠陥の位置、大きさ、数、種類などの情報を生成する。検出結果出力部225は、検出結果生成部224により生成された検出結果を表示装置212などに出力する。
The
以上、実施の形態に基づき本発明を説明したが、実施の形態は、本発明の原理、応用を示すにすぎない。また、実施の形態には、請求の範囲に規定された本発明の思想を逸脱しない範囲において、多くの変形例や配置の変更が可能である。 Although the present invention has been described above based on the embodiments, the embodiments merely illustrate the principle and application of the present invention. Furthermore, many modifications and changes in arrangement are possible in the embodiments without departing from the spirit of the invention defined in the claims.
上記の実施の形態では、主に衛生陶器の表面に生じたクラックを検出する技術について説明したが、本実施の形態の技術は、衛生陶器の表面に生じた別の種類の不具合、例えば、鉄、銅、素地、異物などの付着、釉薬や色などの異常、気泡、割れ、欠けなどの発生などを検出する場合にも適用可能である。また、衛生陶器以外の任意の製品を検査対象としてもよいし、欠陥以外の任意の検出対象部位を検出対象としてもよい。 In the above embodiment, the technology for detecting cracks that occur on the surface of sanitary ware was mainly described. It can also be applied to detect the adhesion of copper, base material, foreign matter, etc., abnormalities in glaze or color, occurrence of bubbles, cracks, chips, etc. Further, any product other than sanitary ware may be the object of inspection, or any part other than defects may be the object of detection.
1 検査システム、2 タンク、3 撮像装置、4 インターネット、10 撮像画像、11 クラック、12 アノテーション、100 学習装置、121 学習用画像取得部、122 画像処理部、123 学習データ生成部、124 学習部、125 欠陥検出器提供部、131 学習用画像保持部、132 学習データ保持部、133 欠陥検出器、200 検査装置、221 検査用画像取得部、222 画像処理部、223 欠陥検出部、224 検出結果生成部、225 検出結果出力部、231 検査用画像保持部、232 検出結果保持部、233 欠陥検出器。
1 inspection system, 2 tank, 3 imaging device, 4 internet, 10 captured image, 11 crack, 12 annotation, 100 learning device, 121 learning image acquisition unit, 122 image processing unit, 123 learning data generation unit, 124 learning unit,
Claims (12)
前記学習装置により学習された前記検出器を用いて、検査対象の検出対象部位を検出する検査装置と、
を備え、
前記学習装置は、
検出対象部位を含む検査対象の撮像画像を取得する学習用画像取得部と、
前記学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施す画像処理部と、
前記画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、
前記学習データ生成部により生成された学習データを使用して前記検出器を学習する学習部と、
を備え、
前記検査装置は、
検査対象の撮像画像を取得する検査用画像取得部と、
前記検出器を用いて、前記検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、
を備え、
前記画像処理部は、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布を取得し、それぞれの輝度の分布に基づいて、前記画像処理の種類又はカーネルサイズを決定する
検査システム。 a learning device that learns a detector for detecting a detection target part of an inspection target;
an inspection device that detects a detection target part of an inspection target using the detector learned by the learning device;
Equipped with
The learning device includes:
a learning image acquisition unit that acquires a captured image of the inspection target including the detection target part;
an image processing unit that performs image processing to apply a blurring filter to the entire captured image before generating learning data from the captured image of the inspection target acquired by the learning image acquisition unit;
a learning data generation unit that generates learning data from the image of the detection target region processed by the image processing unit;
a learning unit that learns the detector using the learning data generated by the learning data generating unit;
Equipped with
The inspection device includes:
an inspection image acquisition unit that acquires a captured image of the inspection target;
a detection unit that uses the detector to detect a detection target region from the captured image acquired by the inspection image acquisition unit;
Equipped with
The image processing unit obtains a brightness distribution in the detection target region and a brightness distribution in a background other than the detection target region of the captured image of the inspection target, and performs the image processing based on the respective brightness distributions. An inspection system that determines the type or kernel size of a kernel.
前記学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施す画像処理部と、
前記画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、
前記学習データ生成部により生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習する学習部と、
を備え、
前記画像処理部は、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布を取得し、それぞれの輝度の分布に基づいて、前記画像処理の種類又はカーネルサイズを決定する
学習装置。 a learning image acquisition unit that acquires a captured image of the inspection target including the detection target part;
an image processing unit that performs image processing to apply a blurring filter to the entire captured image before generating learning data from the captured image of the inspection target acquired by the learning image acquisition unit;
a learning data generation unit that generates learning data from the image of the detection target region processed by the image processing unit;
a learning unit that uses the learning data generated by the learning data generating unit to learn a detector for detecting a detection target part of the inspection target;
Equipped with
The image processing unit obtains a brightness distribution in the detection target region and a brightness distribution in a background other than the detection target region of the captured image of the inspection target, and performs the image processing based on the respective brightness distributions. A learning device that determines the type or kernel size.
検出対象部位を含む検査対象の撮像画像を取得する学習用画像取得部と、
前記学習用画像取得部により取得された検査対象の撮像画像から学習データを生成する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施す画像処理部と、
前記画像処理部により処理された検出対象部位の画像から学習データを生成する学習データ生成部と、
前記学習データ生成部により生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習する学習部と、
として機能させ、
前記画像処理部は、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布を取得し、それぞれの輝度の分布に基づいて、前記画像処理の種類又はカーネルサイズを決定する
学習プログラム。 computer,
a learning image acquisition unit that acquires a captured image of the inspection target including the detection target part;
an image processing unit that performs image processing to apply a blurring filter to the entire captured image before generating learning data from the captured image of the inspection target acquired by the learning image acquisition unit;
a learning data generation unit that generates learning data from the image of the detection target region processed by the image processing unit;
a learning unit that uses the learning data generated by the learning data generating unit to learn a detector for detecting a detection target part of the inspection target;
function as
The image processing unit obtains a brightness distribution in the detection target region and a brightness distribution in a background other than the detection target region of the captured image of the inspection target, and performs the image processing based on the respective brightness distributions. A learning program that determines the type or kernel size.
検出対象部位を含む検査対象の撮像画像を取得するステップと、
取得された検査対象の撮像画像から学習データを生成する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施すステップと、
処理された検出対象部位の画像から学習データを生成するステップと、
生成された学習データを使用して、検査対象の検出対象部位を検出するための検出器を学習するステップと、
を実行させ、
前記画像処理を施すステップにおいて、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布を取得し、それぞれの輝度の分布に基づいて、前記画像処理の種類又はカーネルサイズを決定する
学習方法。 to the computer,
acquiring a captured image of the inspection target including the detection target region;
Before generating learning data from the acquired captured image of the inspection target, performing image processing to apply a blurring filter to the entire captured image;
a step of generating learning data from the processed image of the detection target region;
using the generated training data to learn a detector for detecting the detection target part of the inspection target;
run the
In the step of performing the image processing, a brightness distribution in the detection target region and a brightness distribution in the background other than the detection target region of the captured image of the inspection target are obtained, and based on the respective brightness distributions, the A learning method for determining the type of image processing or kernel size.
前記検査用画像取得部により取得された検査対象の撮像画像から検出対象部位を検出する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施す画像処理部と、
検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、前記検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、
を備え、
前記画像処理の種類又はカーネルサイズは、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布に基づいて決定される
検査装置。 an inspection image acquisition unit that acquires a captured image of the inspection target;
an image processing unit that performs image processing to apply a blurring filter to the entire captured image before detecting a detection target region from the captured image of the inspection target acquired by the inspection image acquisition unit;
Detecting the detection target region from the captured image acquired by the inspection image acquisition unit using a detector trained using learning data generated from an image of the detection target region included in the captured image of the inspection target. a detection unit to
Equipped with
The type of image processing or the kernel size is determined based on a luminance distribution in the detection target region of a captured image of the inspection target and a luminance distribution in a background other than the detection target region.
検査対象の撮像画像を取得する検査用画像取得部と、
前記検査用画像取得部により取得された検査対象の撮像画像から検出対象部位を検出する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施す画像処理部と、
検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、前記検査用画像取得部により取得された撮像画像から検出対象部位を検出する検出部と、
として機能させ、
前記画像処理の種類又はカーネルサイズは、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布に基づいて決定される
検査プログラム。 computer,
an inspection image acquisition unit that acquires a captured image of the inspection target;
an image processing unit that performs image processing to apply a blurring filter to the entire captured image before detecting a detection target region from the captured image of the inspection target acquired by the inspection image acquisition unit;
Detecting the detection target region from the captured image acquired by the inspection image acquisition unit using a detector trained using learning data generated from an image of the detection target region included in the captured image of the inspection target. a detection unit to
function as
The type of image processing or the kernel size is determined based on a luminance distribution in the detection target region of the captured image of the inspection target and a luminance distribution in a background other than the detection target region.
検査対象の撮像画像を取得するステップと、
取得された検査対象の撮像画像から検出対象部位を検出する前に、前記撮像画像の全体にぼかしフィルタをかける画像処理を施すステップと、
検査対象の撮像画像に含まれる検出対象部位の画像から生成された学習データを使用して学習された検出器を用いて、取得された撮像画像から検出対象部位を検出するステップと、
を実行させ、
前記画像処理の種類又はカーネルサイズは、前記検査対象の撮像画像の前記検出対象部位における輝度の分布と、前記検出対象部位ではない背景における輝度の分布に基づいて決定される
検査方法。 to the computer,
a step of acquiring a captured image of the inspection target;
Before detecting a detection target region from the obtained captured image of the inspection target, performing image processing to apply a blurring filter to the entire captured image;
Detecting a detection target region from the acquired captured image using a detector trained using learning data generated from an image of the detection target region included in the captured image of the inspection target;
run the
The type of image processing or the kernel size is determined based on a luminance distribution in the detection target region of a captured image of the inspection target and a luminance distribution in a background other than the detection target region.
Priority Applications (2)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020051136A JP7449739B2 (en) | 2020-03-23 | 2020-03-23 | Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method |
PCT/JP2021/003830 WO2021192627A1 (en) | 2020-03-23 | 2021-02-03 | Inspection system, learning device, learning program, learning method, inspection device, inspection program, and inspection method |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2020051136A JP7449739B2 (en) | 2020-03-23 | 2020-03-23 | Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2021148720A JP2021148720A (en) | 2021-09-27 |
JP7449739B2 true JP7449739B2 (en) | 2024-03-14 |
Family
ID=77851233
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2020051136A Active JP7449739B2 (en) | 2020-03-23 | 2020-03-23 | Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP7449739B2 (en) |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2023084900A1 (en) * | 2021-11-10 | 2023-05-19 | 富士フイルム株式会社 | Learning method, learning device, learning program, and image processing device |
Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002328096A (en) | 2001-04-27 | 2002-11-15 | Tokyo Electric Power Co Inc:The | Program, method, and system for detecting crack defect generated on structure |
JP2014159981A (en) | 2013-02-19 | 2014-09-04 | Kddi Corp | Inspection auxiliary device |
JP2015087949A (en) | 2013-10-30 | 2015-05-07 | キヤノン株式会社 | Image processor and control method thereof, program, and storage medium |
JP2017053819A (en) | 2015-09-11 | 2017-03-16 | 国立大学法人富山大学 | Crack detection method and detection program of concrete |
JP6294529B1 (en) | 2017-03-16 | 2018-03-14 | 阪神高速技術株式会社 | Crack detection processing apparatus and crack detection processing program |
KR101926561B1 (en) | 2018-03-13 | 2018-12-07 | 연세대학교 산학협력단 | Road crack detection apparatus of patch unit and method thereof, and computer program for executing the same |
-
2020
- 2020-03-23 JP JP2020051136A patent/JP7449739B2/en active Active
Patent Citations (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002328096A (en) | 2001-04-27 | 2002-11-15 | Tokyo Electric Power Co Inc:The | Program, method, and system for detecting crack defect generated on structure |
JP2014159981A (en) | 2013-02-19 | 2014-09-04 | Kddi Corp | Inspection auxiliary device |
JP2015087949A (en) | 2013-10-30 | 2015-05-07 | キヤノン株式会社 | Image processor and control method thereof, program, and storage medium |
JP2017053819A (en) | 2015-09-11 | 2017-03-16 | 国立大学法人富山大学 | Crack detection method and detection program of concrete |
JP6294529B1 (en) | 2017-03-16 | 2018-03-14 | 阪神高速技術株式会社 | Crack detection processing apparatus and crack detection processing program |
KR101926561B1 (en) | 2018-03-13 | 2018-12-07 | 연세대학교 산학협력단 | Road crack detection apparatus of patch unit and method thereof, and computer program for executing the same |
Non-Patent Citations (1)
Title |
---|
KUMRU, Mesut,Assessing the visual quality of sanitary ware by fuzzy logic,Applied Soft Computing,2013年,Volume 13, Issue 8,pp.3646-3656 |
Also Published As
Publication number | Publication date |
---|---|
JP2021148720A (en) | 2021-09-27 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
Shipway et al. | Automated defect detection for fluorescent penetrant inspection using random forest | |
US20140348415A1 (en) | System and method for identifying defects in welds by processing x-ray images | |
JP5085573B2 (en) | Defect inspection method and defect inspection apparatus | |
EP3889588A1 (en) | Inspection assistance device, inspection assistance method, and inspection assistance program for concrete structure | |
JP7449739B2 (en) | Inspection system, learning device, learning program, learning method, inspection device, inspection program, inspection method | |
JP2010091361A (en) | Method and device for inspecting image | |
JP2010014503A (en) | Image inspection processing device, image inspection processing method, program, and recording medium | |
JP2020139905A (en) | Inspection device, inspection method, and program | |
WO2020090290A1 (en) | Image classifying device, image inspecting device, and image classifying method | |
WO2021192627A1 (en) | Inspection system, learning device, learning program, learning method, inspection device, inspection program, and inspection method | |
US10627351B2 (en) | Inspection of components for imperfections | |
CN115266774B (en) | Artificial intelligence-based weld joint ray detection and evaluation method | |
JP2021148719A (en) | Inspection system, learning device, learning program, learning method, inspection device, inspection program, and inspection method | |
WO2022172469A1 (en) | Image inspection device, image inspection method, and trained model generation device | |
CN112465780B (en) | Method and device for monitoring abnormal film thickness of insulating layer | |
JP2011232302A (en) | Image inspection method and image inspection device | |
JP7460391B2 (en) | LEARNING DEVICE, IMAGE INSPECTION DEVICE, PROGRAM, AND LEARNING METHOD | |
JP2007057705A (en) | Inspection method and inspection apparatus of display panel | |
JPWO2020158630A1 (en) | Detector, learner, computer program, detection method and learner generation method | |
JP2008026072A (en) | Flaw inspection device and flaw inspection method | |
Topp et al. | How can NDT 4.0 improve the Probability of Detection (POD)? | |
JP2004347363A (en) | Method for inspecting display quality of electronic display through degree of disorder of luminance distribution | |
EP4010873B1 (en) | Use of an hdr image in a visual inspection process | |
WO2021229905A1 (en) | Image inspection device, image inspection method, and prelearned model generation device | |
JP7300155B2 (en) | Teaching device in solid preparation appearance inspection, and teaching method in solid preparation appearance inspection |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A712 Effective date: 20201218 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20230106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20230905 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20231106 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20231212 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20240126 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20240206 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20240304 |
|
R150 | Certificate of patent or registration of utility model |
Ref document number: 7449739 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |