JP2022040531A - 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置 - Google Patents

異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置 Download PDF

Info

Publication number
JP2022040531A
JP2022040531A JP2020145295A JP2020145295A JP2022040531A JP 2022040531 A JP2022040531 A JP 2022040531A JP 2020145295 A JP2020145295 A JP 2020145295A JP 2020145295 A JP2020145295 A JP 2020145295A JP 2022040531 A JP2022040531 A JP 2022040531A
Authority
JP
Japan
Prior art keywords
abnormality
inspection
abnormality determination
determination model
image data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2020145295A
Other languages
English (en)
Inventor
研一 中里
Kenichi Nakazato
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Robert Bosch GmbH
Original Assignee
Robert Bosch GmbH
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Robert Bosch GmbH filed Critical Robert Bosch GmbH
Priority to JP2020145295A priority Critical patent/JP2022040531A/ja
Priority to DE102021119598.5A priority patent/DE102021119598A1/de
Priority to CN202111002232.7A priority patent/CN114113101A/zh
Publication of JP2022040531A publication Critical patent/JP2022040531A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/02Systems using the reflection of electromagnetic waves other than radio waves
    • G01S17/06Systems determining position data of a target
    • G01S17/08Systems determining position data of a target for measuring distance only
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S17/00Systems using the reflection or reradiation of electromagnetic waves other than radio waves, e.g. lidar systems
    • G01S17/88Lidar systems specially adapted for specific applications
    • G01S17/89Lidar systems specially adapted for specific applications for mapping or imaging
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01SRADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
    • G01S7/00Details of systems according to groups G01S13/00, G01S15/00, G01S17/00
    • G01S7/48Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00
    • G01S7/4802Details of systems according to groups G01S13/00, G01S15/00, G01S17/00 of systems according to group G01S17/00 using analysis of echo signal for target characterisation; Target signature; Target cross-section
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N20/00Machine learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/772Determining representative reference patterns, e.g. averaging or distorting patterns; Generating dictionaries
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/774Generating sets of training patterns; Bootstrap methods, e.g. bagging or boosting
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/70Arrangements for image or video recognition or understanding using pattern recognition or machine learning
    • G06V10/77Processing image or video features in feature spaces; using data integration or data reduction, e.g. principal component analysis [PCA] or independent component analysis [ICA] or self-organising maps [SOM]; Blind source separation
    • G06V10/776Validation; Performance evaluation
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8883Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges involving the calculation of gauges, generating models
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06NCOMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00Computing arrangements based on biological models
    • G06N3/02Neural networks
    • G06N3/04Architecture, e.g. interconnection topology
    • G06N3/045Combinations of networks
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computing Systems (AREA)
  • Medical Informatics (AREA)
  • Evolutionary Computation (AREA)
  • Artificial Intelligence (AREA)
  • General Health & Medical Sciences (AREA)
  • Health & Medical Sciences (AREA)
  • Databases & Information Systems (AREA)
  • Multimedia (AREA)
  • Electromagnetism (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Mathematical Physics (AREA)
  • Quality & Reliability (AREA)
  • General Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Pathology (AREA)
  • Immunology (AREA)
  • Analytical Chemistry (AREA)
  • Chemical & Material Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Signal Processing (AREA)
  • Biochemistry (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Image Processing (AREA)

Abstract

Figure 2022040531000001
【課題】異常の教師画像データが少ない場合であっても、様々な種類の学習用データを新たに追加することができ、外観に現れる異常の検査の信頼性を向上可能な異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置を提供する。
【解決手段】検査対象を測定した検査画像データを入力データとして検査対象の異常を判定するための異常判定モデルを生成する異常判定モデル生成方法は、検査対象の異常の特徴パターンを擬似した擬似データ(Img_fak)に基づいて異常判定モデルを生成するための学習用データセット(Img_tch)を生成するステップと、学習用データセット(Img_tch)を用いて異常判定モデルを生成するステップとを含む。
【選択図】図4

Description

本発明は、異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置に関する。
近年、ディープラーニング等のAI(Artificial Intelligence)技術が発達し、種々の検査にAIを活用することが検討されている。一般的なAI技術を適用した検査の自動化手段として、教師ありの機械学習による異常検知、あるいは教師なしの機械学習による異常検知等の手法が考えられる。
外観に現れる異常の検査を教師ありの機械学習を用いて行う場合、機械学習を実施する前に、あらかじめ多数の教師画像データを準備し、正常又は異常、あるいは、異常のレベルごとにラベリングすることが必要となる。その際に、教師画像データが不足していると、未知の異常を検知できず、効果的な学習を行うことができない。このため、実際の異常を撮影した教師画像データを画像処理することにより、新たな教師画像データを生成し、教師画像データ数を増やすことが行われている。
例えば、特許文献1には、機械学習に用いる教師画像データの数が不足した場合に、質の良い教師画像データを生成する技術が提案されている。具体的に、特許文献1には、複数のパターンに分類された教師画像データを取得し、所定の基準に基づき、属する教師画像データの個数が少ない不足パターンを特定し、ある教師画像データを空間的に反転したり色調を変更したりすることにより、不足パターンに属する新たな教師画像データを生成する機械学習システムが開示されている。
特開2018-169672号公報
ここで、特許文献1に開示された機械学習システムは、実際の教師画像データの色調を変換することにより、教師画像データの数を増やすものである。色調の変換に限らず、実際の教師画像データを反転ないし線形変換させたりすることにより、教師画像データの数を増やすことも可能である。しかしながら、色調の変換や線形変換により教師画像データの数を増やす場合、新たに追加される教師画像データは元の教師画像データの特徴に基づいて創出されるものであるために教師画像データの内容には限界があり、機械学習による異常の検査の精度が低下する虞がある。
本発明は、上記問題に鑑みてなされたものであり、異常の検査の精度を向上させることができる異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置を提供することを目的とする。
上記課題を解決するために、本発明のある観点によれば、検査対象を測定した検査画像データを入力データとして検査対象の異常を判定するための異常判定モデルを生成する異常判定モデル生成方法であって、異常の特徴パターンを擬似して作成される擬似データに基づいて異常判定モデルを生成するための学習用データセットを生成するステップと、学習用データセットを用いて異常判定モデルを生成するステップとを含む異常判定モデル生成方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、検査対象を測定した検査画像データを入力データとして検査対象の異常を判定するための異常判定モデルを生成する異常判定モデル生成装置であって、異常の特徴パターンを擬似して作成される擬似データに基づいて生成された学習用データセットを用いて異常判定モデルを生成する学習部とを含む異常判定モデル生成装置が提供される。
また、上記課題を解決するために、本発明のさらに別の観点によれば、検査対象を測定した検査画像データに基づいて検査対象の検査を行う検査装置であって、異常の特徴パターンを擬似して作成される擬似データに基づいて生成された学習用データセットを用いて生成された異常判定モデルを記憶する記憶部と、検査対象を測定した検査画像データを異常判定モデルに入力して検査対象の異常の有無を判定する判定部とを含む検査装置が提供される。
以上説明したように本発明によれば、異常の教師画像データが少ない場合であっても、様々な種類の教師画像データを新たに追加することができ、外観に現れる異常の検査の信頼性を向上させることができる。
本発明の実施の形態に係る検査装置を含む検査システムの構成例を示す模式図である。 同実施形態に係る検査装置の機能構成を示すブロック図である。 同実施形態に係る異常判定モデル生成方法の一例を示すフローチャートである。 学習用データセットの作成方法を示す説明図である。 同実施形態に係る検査装置による異常判定方法の一例を示すフローチャートである。 同実施形態に係る検査装置を含む検査システムの適用例を示す模式図である。 同実施形態に係る検査装置を含む検査システムの別の適用例を示す模式図である。
以下、添付図面を参照しながら本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
<1.検査装置の概要>
まず、本発明の一実施形態に係る検査装置の概要を説明する。
図1は、本実施形態に係る検査装置20を含む検査システム100の構成例を示す模式図である。検査システム100は、検査装置20、検出器11、入力部15及び表示部13を備える。検査システム100は、検査対象の画像データに基づき、異常判定モデルを用いて検査対象の異常判定を自動で行うシステムとして構築されている。
検出器11は、検査対象を測定することにより画像データを生成し、当該画像データを検査装置20に出力する。検出器11としては、撮像カメラ又はLiDAR(Light Detection And RangingあるいはLight Imaging Detection And Ranging)が例示される。撮像カメラは、例えばCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子を備え、撮影対象の画像データを生成する。また、LiDARは、レーザー光を走査しながら測定対象に照射して当該レーザー光の散乱や反射光を観測することによって測定対象の外観の状態を反映した画像データを生成する。
検出器11は、測定対象の外観の状態を反映した画像データを生成可能な機器であればよく、撮像カメラやLiDARに限定されない。また、検査システム100に備えられる検出器11は1台に限られるものではなく、2台以上であってもよい。検出器11は、撮像カメラ及びLiDAR等、複数の種類の機器を含んでいてもよい。
入力部15は、ユーザによる操作入力を受け付けて、検査装置20に対して操作信号を送信する。例えば、入力部15は、ユーザによる操作入力を受け付ける操作ボタン、操作スイッチ等のうちの少なくとも一つの入力手段を含み、例えば、キーボードやタッチパネル、タブレットコンピュータ、スマートホン等により構成される。
表示部13は、検査装置20から出力される駆動信号に基づいて駆動され、検査結果等の所定の表示を行う。例えば、表示部13は、液晶パネル等を備える表示装置により構成される。なお、入力部15と表示部13とが一体化され、例えば、タッチパネルにより構成されてもよい。
検査装置20は、制御部30、メモリ21及び記憶装置23を備える。制御部30の一部又は全部は、CPU(Central Processing Unit)等のプロセッサにより構成される。特に、制御部30は、CPUと併せてGPU(Graphic Processing Unit)を含んでもよい。この他、検査装置20は、検出器11、入力部15又は表示部13との間でそれぞれ信号を送受信するインタフェースを備える。
メモリ21は、RAM(Random Access Memory)又はROM(Read Only Memory)等の少なくとも一つの記憶素子により構成される。記憶装置23は、HDD(Hard Disk Drive)やCD(Compact Disc)、DVD(Digital Versatile Disc)、SSD(Solid State Drive)、USB(Universal Serial Bus)フラッシュ、ストレージ装置等の少なくとも一つの記憶媒体により構成される。メモリ21又は記憶装置23は、記憶部として機能し、プロセッサにより実行される演算処理のプログラムや、演算処理に用いられる種々の演算パラメータ、取得したデータ、演算結果等を記憶する。また、メモリ21又は記憶装置23は、検査に用いられる異常判定モデルを記憶する。
<2.検査装置の概略構成>
ここまで、検査システム100の全体構成を説明した。続いて、検査装置20の概略構成例を具体的に説明する。
図2は、検査装置20の機能構成を示すブロック図である。検査装置20の制御部30は、画像処理部31、演算部33及び表示制御部39を備える。演算部33は、学習部35及び判定部37を含む。制御部30が有する各機能は、具体的には、プロセッサによるプログラムの実行により実現されるソフトウェア機能であってもよく、一部がハードウェアの機能により実現されてもよい。
(2-1.画像処理部)
画像処理部31は、検出器11から出力された画像データを加工処理し、検査に用いるための検査画像データを生成する。例えば、画像処理部31は、検出器11から出力された画像データに対して、膨張フィルタ、収縮フィルタ、平均化フィルタ又はメディアンフィルタのうちの少なくとも一つを用いてコントラストを調整する処理を行ってもよく、エッジ抽出フィルタ又はエッジ強調フィルタを用いてコントラストを調整したりエッジを強調したりする処理を行ってもよい。また、画像処理部31は、検出器11から出力された画像データから、所定の大きさ又は範囲等の画像データを抽出するトリミング処理を行ってもよい。なお、画像処理部31の機能は、検出器11に備えられていてもよい。
(2-2.演算部)
演算部33は、検査対象の異常の判定に用いる異常判定モデルを生成する学習部35と、生成された異常判定モデルを用いて検査対象の異常の判定を行う判定部37とを備える。
学習部35は、異常判定に用いるための異常判定モデルを生成する。具体的に、学習部35は、検査対象の異常の特徴パターンを表した画像データ(学習用データ)を入力データとして、異常判定モデルの機械学習を行う。生成された異常判定モデルは、メモリ21又は記憶装置23に格納され、判定部37による異常判定処理に用いられる。本実施形態において、学習部35を含む検査装置20が、異常判定モデル生成装置としての機能を兼ねている。
本実施形態において、異常が生じている検査対象を実際に測定して得られた実画像データではなく、検査対象において生じ得る異常の特徴パターンを擬似して作成される擬似データが学習用データとして用いられる。擬似データは、例えば、実際に発生するキズの特徴パターンを参考にして、あるいは、ユーザの過去の知見又は経験則に基づいて、生じ得る異常の特徴パターンを人工的に描画して作成される。また、学習用データは、異常の特徴パターンを人工的に描画して作成された擬似データに基づいて、無作為に画像変換処理を行うことによって生成される擬似データを含んでもよい。これにより、新たな検査システム100を構築する際に、あるいは、検査対象を新設した場合等において、実際に異常が生じる前に異常判定モデルを生成することができる。このような画像変換処理としては、例えば、GAN(Generative Adversarial Network)に代表されるランダム画像生成アルゴリズムを用いることができる。ただし、画像生成アルゴリズムはGANに限定されない。
また、異常の判定を行う際に、異常の有無だけでなく異常の種類を判別したい場合、異常の特徴パターンを人工的に描画して擬似データを作成する際に、異常の種類ごとに擬似データを分類してもよい。例えば、検査対象の表面にキズが発生する場合、破損が発生する場合、割れが発生する場合等、異常の種類によって現れる特徴パターンが異なる場合には、異常の種類ごとに擬似データを分類してもよい。
学習部35は、擬似データを学習用データとして用いて、機械学習モデルを利用して異常判定モデルを生成する。当該機械学習モデルは、既存の機械学習モデルのうち、画像データを教師データとする機械学習に利用可能な学習モデルのいずれであってもよい。例えば、機械学習モデルは、線形回帰、カルマンフィルタ等のフィルタ、サポートベクタマシン、ランダムフォレスト、近傍法、ディープラーニング等のニューラルネットワーク又はベイジアンネットワーク等を用いた計算モデルであってよい。
さらに、学習部35は、画像処理部31により生成された検査画像データと、後述する判定部37により得られる異常判定結果の情報とに基づいて、異常判定モデルを更新してもよい。これにより、異常の特徴パターンを人工的に描画して作成された擬似データを用いて生成された異常判定モデルを、実際に取得された検査画像データの正常又は異常の判定結果に基づいて自動的に修正することができる。したがって、異常判定モデルを用いた検査結果の精度を向上させることができる。
判定部37は、学習部35により生成されメモリ21又は記憶装置23に格納された異常判定モデルを利用して、画像処理部31により生成された検査画像データに基づき、検査対象の異常の判定を行う。具体的に、判定部37は、検査画像データを異常判定モデルに入力し、異常判定モデルからの出力に基づいて検査対象の異常の有無を判別する。例えば、異常判定モデルにより、学習用データとして入力された擬似データに含まれる異常の特徴パターンに該当する特徴パターンが検査画像データに含まれる確率が算出される。判定部37は、異常判定モデルから出力された確率が所定の閾値以上の場合、異常有りと判定する。
なお、異常判定モデルを利用した異常の判定方法は、上記の例に限られない。また、異常判定モデルにより、異常が発生している確率だけでなく、併せて異常の種類の分類が求められる場合、判定部37は、検査対象の異常の有無を判定するだけでなく、異常の種類を判別する。
(2-3.表示制御部)
表示制御部39は、表示部13に表示させる画像信号を生成し、表示部13での表示を制御する。表示制御部39は、少なくとも学習部35及び判定部37の処理結果を表示部13に表示させる。例えば、表示制御部39は、学習部35による機械学習の実行時に、機械学習の条件の設定画面や進捗状況を表示部13に表示させる。また、表示制御部39は、判定部37による異常判定処理の実行時に、判定結果を表示部13に表示させる。ただし、表示部13での表示内容は特に制限されるものではない。
<3.異常判定モデル生成方法>
異常判定モデルの生成方法について説明する。
図3は、異常判定モデル生成方法の一例を示すフローチャートである。
まず、ユーザは、検査対象に生じ得る異常の特徴パターンを人工的に描画して擬似データを作成する(ステップS11)。例えば、ユーザは、検査対象に生じ得る異常として、ユーザの考え得る異常の特徴パターンを描画し擬似データを生成する。考え得る異常の特徴パターンは、例えば、経験則に基づいて描画されるものであってよい。あるいは、異常の種類によっては、無作為に描画される特徴パターンであってもよい。本実施形態に係る検査装置20による異常判定の対象は検査対象の外観に現れる異常である。具体的に、異常判定の対象となる異常は、例えば検査対象の表面に発生するキズや擦り傷、破断、変形、汚染物の付着等の少なくとも一つを含む。ユーザは、検査対象の使用環境や使用条件、過去に生じた異常の形状のパターン等を考慮して、考え得る異常の形状のパターンを描画し擬似データを生成する。
例えば、ユーザは、図形描画ソフトを用いて異常の特徴パターンを描画し、データ変換処理を行って擬似データを生成してもよく、手書きで作成した異常の特徴パターンをデータ作成ソフトを利用して読込むことにより擬似データを生成してもよい。その他、異常の特徴パターンを人工的に描画して擬似データを作成する方法は、特に限定されるものではない。また、生成される擬似データの特徴パターンが過度に具体的に描画されていると、機械学習時にオーバーフィッティングを生じるおそれがある。このため、生成される擬似データの描画パターンは、異常の形状を詳細に描画したものではなく、簡略化されたものであることが好ましい。
次いで、ユーザは、ステップS11で作成した擬似データに基づいて、無作為に画像変換処理を行うことにより新たな擬似データを追加して、機械学習用のデータセットを生成する(ステップS13)。例えば、ユーザは、GAN等のランダム画像生成アルゴリズムを実行可能な装置を用いて、ステップS11で作成した擬似データの色調変換、線形変換等を実行し、さらに擬似データを作成する。このとき、擬似データの数が少なすぎると、オーバーフィッティングを生じて、未知の異常の特徴パターンに対応できなくなるおそれがある。このため、異常状態の検査対象を実際に測定して得られた画像データを検証用画像データとして用いて異常判定モデルの有効性を検証しながら、適切な数の学習用データを揃えることが好ましい。
図4は、機械学習用のデータセットの作成方法を示す説明図である。
例えば、検査対象の表面に発生するキズの検査を行うための異常判定モデルを生成するにあたり、検査対象の表面に発生したキズを実際に測定したときに、図4の上段に示したような特徴パターンを有する画像データImg_actが得られるとする。
図4に示す例において、ユーザは、実際に発生するキズの特徴パターンを参考にして、あるいは、ユーザの過去の知見又は経験則に基づいて、生じ得るキズの特徴パターンを描画した擬似データImg_fakを作成する。さらに、ユーザは、作成した擬似データImg_fakに基づいて、無作為に画像変換処理を行って擬似データを追加し、所定数の擬似データからなる学習用データセットImg_tchを生成する。
なお、ステップS11において作成される擬似データの数が、機会学習用のデータセットとして十分な数である場合、画像変換処理により擬似データを追加するステップS13は省略されてもよい。また、生成される学習用データセットImg_tchは、異常を生じている検査対象を実際に測定して得られた画像データを含んでいてもよい。
次いで、ユーザは、生成した機械学習用のデータセットを検査装置20に入力し、学習部35による機械学習を実行させ、異常判定モデルを生成する(ステップS15)。上述のとおり、学習部35は、画像データを教師データとする機械学習に利用可能な既存の機械学習モデルを利用して、異常判定モデルの機械学習を実行する。
次いで、ユーザは、検査対象に生じた異常を実際に測定した検証用画像データを用いて、生成された異常判定モデルの有効性を検証する(ステップS17)。有効性の検証に用いられる検証用画像データは、異常判定モデルの機械学習に用いられていない実画像データが使用される。検証用画像データは、例えば、図4に示したような異常を生じている画像データImg_actと、異常を生じていない正常な状態の画像データとを含む。検証用画像データの数は、異常判定モデルの機械学習に用いた擬似データの数よりも多くてもよい。ユーザは、検証用画像データを異常判定モデルに入力して出力された判定結果の正答率のデータを取得する。
次いで、ユーザは、取得した正答率が、所望の要件をクリアしているか否かを判別する(ステップS19)。正答率が所望の要件をクリアしていない場合(S19/No)、ユーザは、ステップS11に戻り、新たに擬似データImg_fakを作成して、異常判定モデルの生成を再実行する。ステップS11に戻る代わりに、ステップS13に戻って、画像変換処理により擬似データを追加してもよい。これにより、異常判定モデルによる異常判定の結果の精度が高められるように適合される。
一方、正答率が所望の要件をクリアしている場合(S19/Yes)、ユーザは、異常判定モデルを生成する作業を終了する。生成された異常判定モデルは、メモリ21又は記憶装置23に格納される。
なお、異常判定モデルは、異常の有無を判定するだけでなく、異常の種類を分類して出力可能なモデルであってもよい。例えば、異常判定モデルの機械学習に用いる学習用データセットImg_tchの擬似データImg_fakを異常の種類に関連付けて機械学習を行い、異常判定モデルを生成する。これにより、異常判定モデルに検査画像データを入力して得られる判定結果から、検査対象に生じている異常を推定することができ、異常に対する対処や緊急度を選択することができる。
<4.検査装置の動作>
検査装置20の判定部37による異常判定処理の動作を説明する。
図5は、主として判定部37により実行される検査対象の異常判定処理の動作を示すフローチャートである。
まず、画像処理部31は、検出器11から出力される検査対象を測定した画像データを取得し、当該画像データを画像処理することにより検査画像データを生成する(ステップS21)。
次いで、判定部37は、生成された検査画像データを異常判定モデルに入力して、検査対象の異常の有無を判定する(ステップS23)。例えば、判定部37は、異常判定モデルから出力される判定結果として、異常の発生の確率のデータを取得し、異常の発生の確立が所定の閾値以上の場合に異常が発生していると判定する。
次いで、表示制御部39は、表示部13の駆動信号を生成し、判定結果の情報を表示部13に表示させる(ステップS25)。表示制御部39は、表示部13への表示と合わせて、メモリ21又は記憶装置23へ判定結果のログを保存してもよい。また、検査対象に異常が発生している場合、表示制御部39は、警告音等を発生させて、ユーザへの通知を行ってもよい。
なお、異常判定モデルが異常の有無だけでなく、生じている異常の種類を分類可能なモデルである場合、表示制御部39は、異常判定モデルから出力される判定結果のデータに基づいて、異常の種類の情報を表示部13に表示させてもよい。その際に、表示制御部39は、異常の種類に応じた対処法や緊急度等の情報を併せて表示させてもよい。
検査装置20は、例えば、定点に固定された検出器11により検査対象を測定した検査画像データを継続的に取得し、ステップS21~ステップS25の処理を繰り返すことにより、検査対象の異常を監視してもよい。あるいは、ユーザが、任意のタイミングで検出器11により検査対象を測定し、得られた検査画像データに基づいて検査装置20がステップS21~ステップS25の処理を実行し、検査対象の異常の有無を判定してもよい。
また、検査対象が、検出器11と相対移動可能に構成され、検出器11の測定範囲を順次通過するように配置された検査対象であり、検査装置20は、検出器11により検査対象を測定した検査画像データを継続的に取得し、ステップS21~ステップS25の処理を繰り返すことにより、検査対象の異常を監視してもよい。これにより、長尺の検査対象物であっても、同時に全体を測定することなく、異常判定モデルを用いて異常の有無を判定することができる。
<5.適用例>
本実施形態に係る検査装置20を利用した検査システム100の適用例について説明する。
(5-1.第1の例)
図6は、製品の製造ラインに適用した検査システム100Aの例を示す説明図である。図6に示す例において、2つの検出器11a,11bは、ベルトコンベア55上を流れる機器に対して複数のアームロボット51a~51c,53を用いて部品を組付けて製品を生産する製造ラインを測定可能に設置されている。かかる製造ラインにおいて、例えば、アームロボット51a~51cやベルトコンベア55の脚部55aに、他の物体との接触や摺動によってキズが発生するおそれがあるとする。
この場合、ユーザは、あらかじめ考え得るキズの特徴パターンを人工的に描画し、さらに画像変換処理を行って、複数の擬似データImg_fakを含む学習用データセットImg_tchを生成する。また、ユーザは、あらかじめこれらの学習用データセットImg_tchを入力データとして機械学習を行って異常判定モデルを生成しておく。そして、検査装置20は、検出器11a,11bから出力される画像データから生成される検査画像データを異常判定モデルに入力し、異常判定モデルからの出力に基づいて異常の有無を判定する処理を繰り返し実行する。
これにより、アームロボット51a~51c,55等、検査対象が可動式の部分を含む場合であっても、製造ラインにキズ等の異常が発生していないかを監視することができる。また、キズ等の異常の特徴パターンを人工的に描画して作成した擬似データを学習用データとして用いて学習した異常判定モデルを用いて異常の有無を判定するため、実際に生じた異常の画像データがない場合であっても、あらかじめ想定される異常を検知することができる。図6に示した適用例は、例えば、倉庫内を移動するコンテナ上の箱や、工場又は倉庫内の床又は壁等、様々な検査対象の外観の検査システムとして用いることができる。
(5-2.第2の例)
図7は、ベルトコンベア61上に載置されて搬送される検査対象品63a~63eの検査に適用した検査システム100Bの例を示す。図7に示す例において、2つの検出器11c,11dは、それぞれベルトコンベア61の特定の測定範囲Ra,Rbに向けて設置されている。検査対象品63a~63eには、キズや擦り傷、汚れの付着、破損等が生じるおそれがあるとする。
この場合、ユーザは、あらかじめ考え得る外観上の異常の特徴パターンや、正常な検査対象品63a~63eの外観には存在しない形状の特徴パターンを人工的に描画し、さらに画像変換処理を行って、複数の擬似データImg_fakを含む学習用データセットImg_tchを生成する。また、ユーザは、あらかじめこれらの学習用データセットImg_tchを入力データとして機械学習を行って異常判定モデルを生成しておく。そして、それぞれの測定範囲Ra,Rbを検査対象品63a~63eが順次通過する状態で、検査装置20は、検出器11c,11dから出力される画像データから生成される検査画像データを異常判定モデルに入力し、異常判定モデルからの出力に基づいて検査対象品63a~63eの異常の有無を判定する処理を繰り返し実行する。
これにより、検出器11c,11dの測定範囲Ra,Rbを順次通過する検査対象品63a~63eの検査を自動で継続的に実行することができる。また、異常の特徴パターンを人工的に描画して作成した擬似データを学習用データとして用いて学習した異常判定モデルを用いて異常の有無を判定するため、実際に生じた異常の画像データがない場合であっても、あらかじめ想定される異常や未知の異常を検知することができる。
なお、図7に示した適用例では、検出器11c,11dの測定範囲Ra,Rbが固定され、当該測定範囲Ra,Rbを通過する検査対象品63a~63bを測定した画像データを用いて異常判定を行っていたが、検査対象品が移動することなく、検出器の測定範囲が検査対象品に対して相対移動するように検査システムを構築することもできる。また、検査対象品がベルトコンベア上に載置されて搬送される代わりに、検査対象品自体が検出器の測定範囲に対して相対移動するものであってもよい。図7に示した適用例は、例えば、電車や自動車等の車両の外観の検査システムとしても用いることができる。
<6.効果>
以上説明したように、本実施形態に係る異常判定モデル生成方法及び異常判定モデル生成装置によれば、異常判定に用いる異常判定モデルを生成するための学習用データとして、異常を生じている検査対象を実際に測定して得られた画像データではなく、異常の特徴パターンを擬似して作成される擬似データ(例えば、ユーザにより人工的に作成されたデータ等)が用いられる。したがって、異常の特徴パターンを含む学習用データを自由に生成することができるため、実際に異常を生じる前や特定の異常が生じたサンプル数が少ない場合であっても、知見又は経験則に照らしてあらかじめ想定される異常や、想定外の未知の異常を検知可能な異常判定モデルを生成することができる。また、あらかじめ異常と認識している学習用データを自由に生成することができるため、実際に測定した画像データを正常又は異常に分類したり、異常の種類ごとに分類したりする負担を軽減することができ、コストを低減することもできる。
また、本実施形態によれば、擬似データを学習用データとして用いて機械学習により生成された異常判定モデルに対して、検査対象を実際に測定して取得した検証用画像データを用いて有効性を検証する。このため、生成された異常判定モデルの正答率が所望の正答率となるように学習用データを作成しながら、判定精度の高い異常判定モデルを生成することができる。したがって、ユーザが異常の特徴パターンを人工的に描画して作成された擬似データを用いる場合であっても、判定精度の高い異常判定モデルを生成することができる。
また、本実施形態によれば、異常の特徴パターンをユーザが人工的に描画して作成された擬似データが学習用データとして用いられ得る。このため、様々な形状のパターンを特徴パターンとする学習用データを作成することができ、様々な異常を検知可能な異常判定モデルを生成することができる。また、異常の特徴パターンをユーザが人工的に描画して作成された擬似データが学習用データとして用いられ得るため、簡略化された形状のパターンを含む学習用データとすることができ、機械学習時にオーバーフィッティングを生じるおそれを低減することができる。
また、本実施形態に係る検査装置によれば、上記の異常判定モデル生成方法及び異常判定モデル生成装置により生成された異常判定モデルを用いて、検査対象の外観の検査を行うことができる。したがって、実際に異常を生じる前や特定の異常が生じたサンプル数が少ない場合であっても、検査対象の外観に生じた異常が検出されやすくなって、判定精度を高めることができる。また、本実施形態に係る検査装置によれば、簡略化して描画された異常の特徴パターンを含む学習用データを用いて生成された、オーバーフィッティングが抑制された異常判定モデルを利用して異常判定が行われるため、検査対象の外観に生じた異常の判定精度を高めることができる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、上記本発明に係る異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置が適用される検査対象は、検査対象の画像データから特徴パターンを抽出可能な検査対象であれば、本発明を適用することができる。
また、学習用データセットImg_tchは、擬似データのみによって構成されていなくてもよく、実際に検査対象を測定して取得した正常データ及び異常データの少なくとも一方を含んでいてもよい。
また、上記実施形態では、検査装置20が学習部35及び判定部37を備える例を説明したが、本発明はかかる例に限定されない。例えば、学習部35が、別の装置に備えられて、独立した異常判定モデル生成装置として構成されてもよい。この場合、学習部35を含む異常判定モデル生成装置を用いてあらかじめ機械学習を行うことで異常判定モデルが生成され、判定部37を含む検査装置20のメモリ21又は記憶装置23に異常判定モデルが記憶される。
さらに、リアルタイムで検査装置20を用いて異常判定を行うのではなく、オフラインで異常判定を行う場合には、検査装置20が画像処理部31を含まずに構成されていてもよい。例えば、検出器11から出力される画像データから抽出した検査画像データを記憶媒体に記憶させ、当該記憶媒体に記憶された検査画像データを検査装置20の判定部37に読み込ませるようにしてもよい。このように構成した場合であっても、検査装置20は、異常判定モデルに基づいて検査対象の異常判定を行うことができる。
1…検査装置、3…検出器、7…表示部、10…制御部、11…画像処理部、13…演算部、15…学習部、17…判定部、19…表示制御部、21…メモリ、23…記憶装置

Claims (6)

  1. 検査対象を測定した検査画像データを入力データとして前記検査対象の異常を判定するための異常判定モデルを生成する異常判定モデル生成方法において、
    検査対象の異常の特徴パターンを擬似した擬似データ(Img_fak)に基づいて前記異常判定モデルを生成するための学習用データセット(Img_tch)を生成するステップと、
    前記学習用データセット(Img_tch)を用いて前記異常判定モデルを生成するステップと、
    を含むことを特徴とする異常判定モデル生成方法。
  2. 前記擬似データ(Img_fak)の異常の特徴パターンは、検査対象を測定した実画像データではなく、ユーザにより作成された異常の特徴パターンであることを特徴とする請求項1に記載の異常判定モデル生成方法。
  3. 前記擬似データ(Img_fak)の異常の特徴パターンは、前記検査対象の表面に形成される異常の形状のパターンであることを特徴とする請求項1又は2に記載の異常判定モデル生成方法。
  4. 検査対象を測定した検査画像データを入力データとして前記検査対象の異常を判定するための異常判定モデルを生成する異常判定モデル生成装置(20)において、
    検査対象の異常の特徴パターンを擬似した擬似データ(Img_fak)に基づいて生成された学習用データセット(Img_tch)を用いて前記異常判定モデルを生成する学習部(35)を含むことを特徴とする異常判定モデル生成装置。
  5. 検査対象を測定した検査画像データに基づいて前記検査対象の検査を行う検査装置(20)において、
    検査対象の異常の特徴パターンを擬似した擬似データ(Img_fak)に基づいて生成された学習用データセット(Img_tch)を用いて生成された異常判定モデルを記憶する記憶部(21,23)と、
    前記検査対象を測定した検査画像データを前記異常判定モデルに入力して前記検査対象の異常の有無を判定する判定部(37)と、
    を含むことを特徴とする検査装置。
  6. 前記検査対象は、前記検査画像データの検出器(11)の測定範囲(Ra,Rb)と相対移動可能に構成され、前記検出器(11)の測定範囲(Ra,Rb)を順次通過するように配置された検査対象である、ことを特徴とする請求項5に記載の検査装置。
JP2020145295A 2020-08-31 2020-08-31 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置 Pending JP2022040531A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2020145295A JP2022040531A (ja) 2020-08-31 2020-08-31 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置
DE102021119598.5A DE102021119598A1 (de) 2020-08-31 2021-07-28 Verfahren zur Erzeugung eines Abnormalitätsbeurteilungsmodells, Vorrichtung zur Erzeugung eines Abnormalitätsbeurteilungsmodells und Untersuchungsvorrichtung
CN202111002232.7A CN114113101A (zh) 2020-08-31 2021-08-30 异常判定模型生成方法和异常判定模型生成装置以及检查装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2020145295A JP2022040531A (ja) 2020-08-31 2020-08-31 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置

Publications (1)

Publication Number Publication Date
JP2022040531A true JP2022040531A (ja) 2022-03-11

Family

ID=80221647

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020145295A Pending JP2022040531A (ja) 2020-08-31 2020-08-31 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置

Country Status (3)

Country Link
JP (1) JP2022040531A (ja)
CN (1) CN114113101A (ja)
DE (1) DE102021119598A1 (ja)

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6441980B2 (ja) 2017-03-29 2018-12-19 三菱電機インフォメーションシステムズ株式会社 教師画像を生成する方法、コンピュータおよびプログラム
JP6882772B2 (ja) * 2017-07-11 2021-06-02 株式会社Rist 検査装置、検査方法及び検査プログラム
US20200134384A1 (en) * 2017-09-14 2020-04-30 Mitsubishi Electric Corporation Abnormality detection device
JP7106391B2 (ja) * 2018-08-22 2022-07-26 株式会社Ye Digital 画像判定方法、画像判定装置および画像判定プログラム
CN110599484B (zh) * 2019-09-19 2023-01-10 京东方科技集团股份有限公司 缺陷检测方法、装置及存储介质
CN110658202B (zh) * 2019-09-30 2021-01-01 贵州航天云网科技有限公司 一种基于深度学习的工业元器件外观缺陷检测方法
CN111179261A (zh) * 2019-12-31 2020-05-19 深圳市太赫兹科技创新研究院 缺陷检测方法、***、终端设备及存储介质

Also Published As

Publication number Publication date
CN114113101A (zh) 2022-03-01
DE102021119598A1 (de) 2022-03-03

Similar Documents

Publication Publication Date Title
US11715190B2 (en) Inspection system, image discrimination system, discrimination system, discriminator generation system, and learning data generation device
KR20190063839A (ko) 제조 공정에서 딥러닝을 활용한 머신 비전 기반 품질검사 방법 및 시스템
JP7380019B2 (ja) データ生成システム、学習装置、データ生成装置、データ生成方法及びデータ生成プログラム
JP2021140739A (ja) プログラム、学習済みモデルの生成方法、情報処理方法及び情報処理装置
JP7059883B2 (ja) 学習装置、画像生成装置、学習方法、及び学習プログラム
JP6749655B1 (ja) 検査装置、異常検出方法、コンピュータプログラム、学習モデルの生成方法、及び学習モデル
EP3417424B1 (en) Real-time detection of object scanability
KR20160066927A (ko) 컴퓨터 보조 진단 지원 장치 및 방법
US20220405586A1 (en) Model generation apparatus, estimation apparatus, model generation method, and computer-readable storage medium storing a model generation program
US11521120B2 (en) Inspection apparatus and machine learning method
JP7453813B2 (ja) 検査装置、検査方法、プログラム、学習装置、学習方法、および学習済みデータセット
CN117173461A (zh) 一种多视觉任务的灌装容器缺陷检测方法、***及介质
Xu et al. Tackling small data challenges in visual fire detection: a deep convolutional generative adversarial network approach
JP2022040531A (ja) 異常判定モデル生成方法及び異常判定モデル生成装置並びに検査装置
JPWO2019215746A5 (ja)
Taesiri et al. A video game testing method utilizing deep learning
CN115937991A (zh) 人体摔倒识别方法、装置、计算机设备及存储介质
JP7414629B2 (ja) 学習用データ処理装置、学習装置、学習用データ処理方法、およびプログラム
JP7407670B2 (ja) 評価システム、評価方法、および評価プログラム
JP7322560B2 (ja) プログラム、情報処理方法及び情報処理装置
JP2023038060A (ja) ラベル生成方法、モデル生成方法、ラベル生成装置、ラベル生成プログラム、モデル生成装置、及びモデル生成プログラム
JP2021135630A (ja) 学習装置、画像検査装置、学習済みデータセット、および学習方法
JPWO2020031423A1 (ja) オブジェクト検出方法、オブジェクト検出装置及びコンピュータプログラム
WO2023166776A1 (ja) 外観分析システム、外観分析方法、及びプログラム
KR102521000B1 (ko) 플랜트 설비 관리 시스템 및 방법

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230824

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240517

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20240605