JP2017167624A - 画像処理装置、画像処理方法、およびプログラム - Google Patents

画像処理装置、画像処理方法、およびプログラム Download PDF

Info

Publication number
JP2017167624A
JP2017167624A JP2016049533A JP2016049533A JP2017167624A JP 2017167624 A JP2017167624 A JP 2017167624A JP 2016049533 A JP2016049533 A JP 2016049533A JP 2016049533 A JP2016049533 A JP 2016049533A JP 2017167624 A JP2017167624 A JP 2017167624A
Authority
JP
Japan
Prior art keywords
image
image processing
models
processing apparatus
pixel
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2016049533A
Other languages
English (en)
Other versions
JP6707920B2 (ja
Inventor
亮介 笠原
Ryosuke Kasahara
亮介 笠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Ricoh Co Ltd
Original Assignee
Ricoh Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Ricoh Co Ltd filed Critical Ricoh Co Ltd
Priority to JP2016049533A priority Critical patent/JP6707920B2/ja
Priority to US15/453,430 priority patent/US10115189B2/en
Priority to EP17160407.7A priority patent/EP3220353B1/en
Priority to CN201710146609.3A priority patent/CN107194908A/zh
Publication of JP2017167624A publication Critical patent/JP2017167624A/ja
Application granted granted Critical
Publication of JP6707920B2 publication Critical patent/JP6707920B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • G06T7/001Industrial image inspection using an image reference approach
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00Pattern recognition
    • G06F18/20Analysing
    • G06F18/22Matching criteria, e.g. proximity measures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01NINVESTIGATING OR ANALYSING MATERIALS BY DETERMINING THEIR CHEMICAL OR PHYSICAL PROPERTIES
    • G01N21/00Investigating or analysing materials by the use of optical means, i.e. using sub-millimetre waves, infrared, visible or ultraviolet light
    • G01N21/84Systems specially adapted for particular applications
    • G01N21/88Investigating the presence of flaws or contamination
    • G01N21/8851Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges
    • G01N2021/8887Scan or image signal processing specially adapted therefor, e.g. for scan signal adjustment, for detecting different kinds of defects, for compensating for structures, markings, edges based on image processing techniques
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Data Mining & Analysis (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Evolutionary Computation (AREA)
  • Health & Medical Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Evolutionary Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Chemical & Material Sciences (AREA)
  • Analytical Chemistry (AREA)
  • Biochemistry (AREA)
  • General Health & Medical Sciences (AREA)
  • Immunology (AREA)
  • Pathology (AREA)
  • Image Analysis (AREA)
  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)

Abstract

【課題】画像を使用した画像検査の精度を改善する画像処理装置、画像処理方法およびプログラムを提供する。
【解決手段】本発明の画像処理方法は、第1の特徴量であるZスコアおよび同時確率を計算しS501、計算したZスコアおよび同時確率を使用して、モデルの負担率を計算するS502。そしてこの負担率を重みとして使用し、画素値の重み付け画素平均値および重み付け画素分散値を計算しS503、計算した画素平均値および画素分散値の値の差が、設定した閾値以下であるか否かを判断し、その差が閾値以下である場合S504yes、収束した画素平均値および画素分散値を、該当する画像のデータとして格納しS505、以後の検査のために使用する。
【選択図】図5

Description

本発明は、画像処理装置、画像処理方法、およびプログラムに関する。
所与のデータに関して、そのデータを解釈するために機械学習のアルゴリズムを利用することが知られている。データとしては、将棋、囲碁など将来の展開においてデータがどのような状態に有るかということ、画像に写っている被写体が人物であるかそうでないかということ、写っているシーンがどう人物が写っていて、背景は何か、などを挙げることができる。機械学習は、対象とするデータに応じて、例えば文章の識別、音声の識別、画像の識別、将来展開の予測など、広い範囲に対して使用されている。
また、機械学習のアルゴリズムを用いて材質の判別や、欠陥検査を行う方法も既に知られている。従来の機械学習を使用する材質判別や欠陥検査を行う場合、複数の同種で異なる状態にある対象物が画像内に存在すると精度が充分ではないという問題が有った。
例えば、ネジのタップ切り込み開始位置が異なるような複数の対象物を含む画像の欠陥を検出する場合には、欠陥ではないのにもかかわらず、タップ切り込み開始位置の差による画像の差が欠陥と判定されてしまう場合も有る。このとき、その差を許容するように判定しきい値を設定すると、欠陥の許容範囲も大きくなってしまい、欠陥検出感度が低くなるという問題があった。
従来から、画像を使用した欠陥検査法が知られており、例えば特開2005−265661号公報(特許文献1)には、事前に用意した良品の画像群を元に,画素ごとの輝度値の平均と標準偏差を求め、検査時は対象画像の画素ごとに,輝度値の偏差値を計算(平均値を引いて標準偏差で割る)し、画素毎の偏差値が設定した閾値よりも大きい画素を異常(外れ値)と判断する方法が開示されている。
しかしながら、特許文献1に記載の技術は、画像内に複数の対象物を含むばらつきの大きな対象物の検査を行うことに対応するものではない。
本発明は、画像を使用した画像検査の精度を改善することを目的とする。
本発明によれば、
画像を処理する画像処理装置であって、
複数の物体形状を表現する複数のモデル毎で、かつ前記モデル内に複数の領域を有し、前記領域毎に存在するパラメータと、
学習用に入力された入力画像が、前記複数のモデルのいずれに当てはまるかを表す確率を計算する計算手段と、
前記確率を元に前記パラメータを最適化した前記複数のモデルを用いて入力された検査画像を前記複数のモデルと比較する比較手段と、
を有することを特徴とする画像処理装置が提供される。
本発明によれば、画像検査の精度を改善することができる。
本実施形態の画像処理システム100の概略図。 本実施形態の画像処理装置130のハードウェアブロック200を示す図。 本実施形態の画像処理装置130の機能ブロックを示す図。 本実施形態における学習ステージの処理のフローチャート。 図4で説明した本実施形態の学習ステップS403の詳細な処理のフローチャート。 本実施形態の画像処理方法における検査ステージの処理のフローチャート。 本実施形態の隠れ変数を使用するモデル推定処理700について、画像を使用した説明図。 本実施形態において欠陥推定量をクラスタリングし、欠陥を推定する処理の概念図。 本実施例で使用した学習画像を示す図。 生成した学習モデルを使用して実際の対象物を画像的に検査した結果を示す図。 従来法により、各モデルを学習させた結果(比較例)を示す図。
以下、本発明を実施形態により説明するが、本発明は、後述する実施形態に限定されるものではない。図1は、本実施形態の画像処理システム100の概略図である。図1の画像処理システム100は、本実施形態において画像を使用した検査システムとして実装されている。画像処理システム100は、カメラ120、画像処理装置130、および出力装置140を含んでいる。カメラ120が対象物110の画像を撮影し、撮影した画像を使用して画像処理装置130が対象物110の状態を判定する。
画像処理装置130の判断結果は、出力装置140に送られ、出力装置140は、アラームその他の外部装置を動作させて、対象物110に欠陥があることを通知する。なお、実施形態における欠陥とは、画像的に確認できるいかなる欠陥をもいうものであり、例えば、ピンホール、バリ、欠けその他を含むものである。
なお、画像処理装置130は、カメラ120に対して直接接続されるように記載されているが、本実施形態では、カメラ120と、画像処理装置130とを、ネットワークを介して遠隔的に配置することもできる。この場合、画像処理システム100は、遠隔検査システムとして機能し、カメラ120は、イーサネット(登録商標)、WiFi、LLE、3G、4Gその他、有線または無線ネットワーク(図示せず)を介して画像処理装置130に接続されていても良い。なお、特定の実施形態においては、カメラ120は、画像処理装置130と一体とされていても良く、また画像処理装置130に取付けられていても良い。
図2は、本実施形態の画像処理装置130のハードウェアブロック200を示す。画像処理装置130は、パーソナル・コンピュータ、ワークステーションまたは専用の画像処理装置として実装することができる。画像処理装置130は、システムバス205により相互接続されたCPU201、RAM202、ROM203および通信装置204を含んで構成されている。システムバス205には、PCI、PCIExpressなどのバスブリッジを介してI/Oバス207が接続されている。
また、I/Oバス207には、適切なプロトコルを介して、表示装置208、HDDといった記憶装置209、カメラ120が接続されている。なお、カメラ120は、他の実施形態においては、通信装置204を介して接続することもできる。さらに画像処理装置130は、VGA、HDMI(登録商標)、USBなどの適切なバスを介して表示装置208に接続され、画像処理装置130からの映像出力を出力する。また、画像処理装置130には、マウス、キーボードどの他の入力装置206が接続され、外部から画像処理装置130を制御することが可能とされている。
画像処理装置130が使用するCPUとしては、より具体的には、例えば、PENTIUM(登録商標)〜PENTIUM IV(登録商標)、ATOM(登録商標)、CORE2DUO(登録商標)、CORE2QUAD(登録商標)、COREi(登録商標)シリーズ、XEON(登録商標)などの他、PENTIUM(登録商標)互換CPU、POWER PC(登録商標)、MIPSなどを挙げることができる。
使用するオペレーティング・システム(OS)としては、MacOS(商標)、Windows(登録商標)、UNIX(登録商標)、LINUX(登録商標)、CHROME(登録商標)、ANDROID(登録商標)またはそれ以外の適切なOSを挙げることができる。さらに、画像処理装置130は、上述したOS上で動作する、アセンブラ言語、C、C++、Visual C++、VisualBasic、Java(登録商標)、Perl、Rubyなどのプログラミング言語により記述されたアプリケーション・プログラムを格納し、実行することができる。
画像処理装置130における各種処理は、画像処理装置130が実装するCPU201が、RAM202や記憶装置209に記憶されている各種プログラムを実行することにより画像処理装置130上に実現されるものである。なお、他の実施形態では上述した機能を、独立した回路(ハードウェア)で実現することもできる。
図3は、本実施形態の画像処理装置130の機能ブロックを示す。図3に示す実施形態は、情報の流れを明確にするべく、カメラ120も示す。カメラ120は、本実施形態における撮像手段に相当する。図3の機能ブロックは、I/O部131、対象物画像取得部132、および学習部133を含んでいる。I/O部131は、カメラ120が取得した画像を、学習シーケンスおよび検査のシーケンスに対応して、対象物画像取得部132または学習部133に振り分ける。対象物画像取得部132は、I/O部131から送られた画像データを例えばRAM202または画像専用の画像RAM(図示せず)などに一旦格納し、下流側の処理が完了するまで画像を保存する。
なお、本実施形態では、対象物画像取得部132が取得した画像は、記憶部138に格納しておき、検査結果が生成された場合に、画像に検査結果を重畳して画像出力として出力することができる。また、画像は、対象物110を固有に識別する識別値と対応付けて記憶部138に検査ログとして格納しておくこともできる。
学習部133は、学習のために予めカメラ120が取得した欠陥のない画像を取得して、良品の対象物110の画像を学習する。対象物110は複数の異なる形状の物体であっても良いし、1つの対象物110上に複数の形状の部品、物体その他の被写体が写り込んでいて、画像の一部分を取り出して処理することできる。
なお、本実施形態では、良品の対象物110を取得して学習させて生成した画像を、対象物110の画像に対するモデルとして参照する。本実施形態では、複数の異なる形状の物体の画像をそれぞれ学習することにより、複数のモデルをk種類(kは、自然数である。)与える。ここで、対象物画像取得部132および学習部133の欠陥のない対象物110の画像を取得する機能手段は、本実施形態の複数の画像を複数のモデルに対応付けて取得する手段に相当する。また、学習部133の学習機能を提供する機能手段が、本実施形態の最適化手段に相当する。
さらに画像処理装置130は、欠陥推定量計算部134、クラスタリング部135、欠陥領域決定部136および検査結果生成部137を含んでいる。欠陥推定量計算部134は、学習部133が取得したモデルを使用して対象物110の画像に関し、どのモデルに当てはまるかの確率を計算し、そこから求めた一つもしくは、複数のモデルを使用して、欠陥推定量を画素ごとに計算する。欠陥推定量計算部134が、本実施形態における計算手段および比較手段に相当する。
クラスタリング部135は、画素について計算した欠陥推定量の大きさをクラスタリングし、例えば、設定した閾値以上の欠陥推定量を有する画素を決定する。なおクラスタリング部135が、本実施形態における検出手段に相当する。欠陥領域決定部136は、設定した閾値以上の欠陥推定量を有する画像の集合を欠陥として決定し、その結果を、検査結果生成部137に送付する。なお、欠陥領域決定部136は、ノイズなどによって画素単位で設定した閾値を超えるデータについてスクリーニングまたはアラームを生成する機能を提供することもできる。
検査結果生成部137は、欠陥領域決定部136の決定に応じて、例えば画像上に欠陥を示す画像をレンダリングする、対象物110の識別値および欠陥の有無を示す情報と共に、リストを生成する、または画像処理装置130に対し、欠陥が見いだされたことをアラームさせるかまたは画像的に表示させる処理を実行する。
なお、本実施形態において生成するべき検査結果は、対象物110の良品または欠陥品であるかが識別でき、必要に応じて、画像データを確認することが可能である限り、いかなる方法、フォーマットおよび形式とすることができる。
以下、本実施形態の画像処理方法を、図3に示した各機能部の機能を説明しながら詳細に説明する。図4に示す処理は、本実施形態における学習ステージに相当し、図3の学習部133が実行する処理である。なお、図4および後述する図5の処理は、画像処理装置130が実装するCPU201が、本実施形態のプログラムをRAM202に読み込んで、プログラムを動作させることにより、画像処理装置130の各ハードウェアを動作させることで、画像処理装置130を各機能手段として機能させることにより実現される。
本実施形態の画像処理方法は、ステップS400から開始し、ステップS401で、学習するべき画像を取得する。本実施形態における統計処理は、画像から画素(x,y)の画素値を取得し、複数の画像から得た画素値を画素(x,y)の画素値の平均として画素平均値および当該画素の分散値を取得する。なお、画素平均値が本実施形態の第1のパラメータに相当し、画素分散値が、本実施形態の第2のパラメータに相当する。なお、本願における統計処理は、本例では、平均値と分散値を用いるものとするが、他にも画素値の確率分布を表現するパラメータで特に限定はなく、何を用いても良い。
画像の取得に際しては、同一の対象物の画像には、モデル識別値を付与し、対応付けを行いながら学習させることができる。他の実施形態では、モデルとモデル識別値とを対応付けること無く、後述するEMアルゴリズムにおける最適化処理で、モデルの負担率という、モデルを特定するための確率を、パラメータの最適化時に最適化させることができる。また、モデルをモデル識別値で識別する態様では、画像の対象物が写り込んでいない箇所に、モデル識別値をエンコードした2次元コードなどを埋め込んでおき、画像読み取りと同時に、モデル識別値を対応付けて読み込ませることができる。
なお、使用するモデルの数は、ユーザが任意に設定することができ、特にモデル数には限定はない。
その後、ステップS402で画素平均値および画素分散値をパラメータとして使用したEMアルゴリズムを使用する学習プロセスを実行する。本実施形態の学習アルゴリズムにおいては、第1の特徴量としてZスコアを用いる。このZスコアは、下記式(1)で与えられる。
上記式(1)中、In(x,y)は、学習するべきn番目の画像の画素値であり、μk(x,y)は、k番目のモデル画像の画素(x,y)の画素平均値であり、σ2 k(x,y)は、k番目のモデル画像の画素(x,y)の画素値の分散値である。
以上の定式化においてZスコアは、n番目のk番目のモデル画像の画素(x,y)の偏差値を与える機能を有し、Zスコアは確率モデルに正規分布を仮定した場合のハズレ量を表す値である。本実施形態では例示的にZスコアを第1の特徴量とするが、確率モデル的に画素値を使用して計算することができる特徴量であれば、Zスコアに限定されない。
さらに本実施形態では、EMアルゴリズムにおける第2の特徴量として、下記式(2)で与えられる、入力画像Inが、k番目のモデルに該当する画像全体に対する同時確率enkを計算する。
確率enkは、Zスコアを平均0、分散1の標準正規分布の式に代入し、確率を各画素について求め、これを画素または領域ごとに積を計算し、同時確率を求める。なお、X,Yは、それぞれ入力画像の画素数である。本実施形態では、画素毎ではなく、画素全体にわたる画素値の分布からenkを求める。この例では、画像全体に対して同時確率enkを求めている。本実施形態によれば、入力画像のパーツ全体を見ながら、どのモデルに該当するかどうかという確率を、適切に求めることができる。
さらに、本実施形態のEMアルゴリズムにおいては、上述した確率enkを使用して、入力された画像が、それぞれどのモデルに分類されるかの期待値に相当する負担率γnkを、下記式(3)で計算する。Nは、入力する画像の総数であり、Kは、モデル数である。
本実施形態ではステップS403でモデルの学習処理を実行する。モデルの学習処理については、より詳細に後述する。モデルの学習が終了した後、モデルを特徴づける第1のパラメータおよび第2のパラメータは、対象物の検査、認識、判定などの目的のために、記憶装置に格納される。
図5は、図4で説明した本実施形態の学習ステップS402の学習処理の詳細なフローチャートである。ここで、ステップS501〜S502までがEステップであり、ステップS503が、Mステップであり、本実施形態で実装されるEMアルゴリズムを構成する。図5の処理は、ステップS500から開始し、ステップS501で、式(1)で示す第1の特徴量であるZスコアおよび式(2)で与えられる同時確率を計算する。
ステップS502で、計算したZスコアおよび同時確率を使用して、式(3)で与えられるモデルの負担率を計算する。その後、S503でこの負担率を重みとして使用し、画素値の重み付け画素平均値および重み付け画素分散値を計算し、これを記憶装置に格納する。
上述した重み付け画素平均値および重み付け画素分散値は、下記式(4)、(5)で与えられる。
上記式中、Nkは、下記式(6)で与えられる負担率の総和であり、式(4)および式(5)の規格化定数で、下記式(6)で与えられる。
その後、ステップS504で、前回計算した画素平均値および画素分散値のそれぞれの値と、ステップS503で計算した画素平均値および画素分散値の値の差が、設定した閾値以下であるか否かを判断する。ステップS504の判断でその差が閾値以下である場合(yes)、ステップS505で収束した画素平均値および画素分散値を、該当する画像のデータとして格納し、以後の検査のために使用する。
一方、ステップS504でそれぞれの値の差が閾値を超える場合(no)、処理をステップS501に戻し、再度、Zスコア、同時確率、および負担率γnkを計算する。そして上記反復処理を、ステップS504で、それぞれの値の差が閾値以下となるまで実行させる。ステップS504の判断が肯定的な結果を返す場合(yes)、ステップS505でその時の画素平均値および画素分散値をモデルデータとして格納し、ステップS506で処理を終了する。
なお、学習開始時の初期値としては画素分散値は乱数、画素平均値は1としてもよいし、もしユーザーが入力画像をみながら、種類を分類できるように、入力画像がどちらのモデルに分けたいかが明確な場合には、モデルの初期値として、その入力画像の値を画素平均値として用いても良い。
図6は、本実施形態の画像処理方法における検査ステージの処理のフローチャートである。図6の処理は、ステップS600から開始し、ステップS601で対象物画像取得部132が対象物の画像を取得し、当該画像を受領して欠陥推定量計算部134が、式1と式2にもとづいてZスコアおよび同時確率を計算する。ステップS602において、欠陥推定量計算部134は、隠れ変数となっている対象物110が帰属されるモデルを推定するために同時確率enk及び負担率γnkを計算する。なお、負担率γnkはあるモデルkに対してのみ1となり、他は0となる場合もあるし、そうではなく、複数のモデルに対して混合した形で例えば2つのモデルに対して0.5ずつを取る場合もある。このように必ずしも対象物110が帰属されるモデルは一つとは限らない。
ステップS603では、モデルを推定した後、欠陥推定量を、下記式(7)を使用して計算する。
上述した通り、Znkは、平均からのずれの大きさの指標となるので、対象物が画素(x,y)で欠陥を有している場合、Sn(x,y)の値は、大きくなり、画素(x,y)の平均値に近い場合、0に近づくという性質を有する。このため、ステップS604でクラスタリング部135が対象物の欠陥を、Sn(x,y)の値をクラスタリングすることにより、判定する。なお、欠陥領域決定部136により、対象物に発生する可能性のある欠陥の大きさの下限以下の広がりを有する画素については、計算上の誤差などを考慮して欠陥判定から排除することもできる。ステップS604の判定の後、処理はステップS605に進んで検査結果を生成して終了する。
図7は、本実施形態の処理700の前提となる、モデル推定問題についての説明図である図7の説明では、説明の簡略化のため、モデルが2種類、すなわちK=2であるものとして説明する。今回は、図7に示すように、各画素が正規分布を持つと仮定したモデルが2つあり、観測できる画像はそのモデルのどれかから生成された画像であるとする。ここで、どのモデルから観測されたものかは不明であり、隠れ変数となっている。学習が完了する、つまりモデルの推定が完了すると、図の左にある各モデルごとの画素平均画像と画素分散画像が得られる。この2つの画像を元に、テスト時には入力画像に欠陥があるかどうかを検出する。
本実施形態では、学習ステップの終了時において、負担率γnkを最適化させる平均値および分散値が図5のステップS505で決定され、格納される。図7(a)は、ステップS505で決定された画素平均値および画素分散値を画素(x,y)にマッピングして示した、モデルデータを、可視表示したものである。
本実施形態では、図7(a)に示した画素値分布を使用し、式(2)の同時確率enk及び式(3)の負担率γnkに基づいて、隠れ変数であるモデルを測定画像から推定し、選択、または重みを付けて考慮する。当該選択を元に、欠陥量推定を行うことにより、複数の画像が存在する場合にでも高精度な欠陥推定を行うことが可能となる。
図8は、本実施形態において欠陥推定量をクラスタリングし、欠陥を推定する処理の概念図を示す。図8は、欠陥推定量Sn(x,y)を、対応する画素(x,y)に対応する位置にプロットして模式的に示す図である。画像欠陥が推定されない画素では、Sn(x,y)の値は、小さくなる。
一方、欠陥830が推定される画素では、欠陥推定量Sn(x,y)は、大きくなるため、欠陥830に対応する画素群の欠陥推定量Sn(x,y)810は、その周辺領域よりも大きくなる。欠陥の推定に際しては、例えば一例として欠陥推定量Sn(x,y)について、所定の閾値Thを設定しておき、この閾値Thを超えた領域を、欠陥領域と推定することができる。また、特に閾値Thを設定することなく、欠陥推定量Sn(x,y)と、例えば画像表示の際の明度とを対応付け、欠陥推定量Sn(x,y)をカラーマッピングすることで、欠陥領域を高い明度で表示する態様も採用することができる。
この他、何らかの原因により発生した画素の欠陥推定量Sn(x,y)840も、ポイント的に発生することが想定される。このようなポイント的に発生した画素については、特定の実施形態では、欠陥と推定することはしない。ただし、画像的に確認し、画像欠陥でないことの確認を促す出力を生成させることもできる。
以下、本実施形態を実施例を使用して説明する。なお、サンプル画像は、「画像応用技術専門委員会 外観検査アルゴリズムコンテスト2014」(外観検査アルゴリズムコンテスト2014、主催:精密工学会 画像応用技術専門委員会)の課題画像から引用したものを加工して使用した。図9は、本実施例で使用した学習画像を示す。図9から見てとることができるように、学習画像は、2つのモデル画像を含み、k=2である。図9に示す画像を図4、図5で説明した処理に適用し、各モデルを図7(c)に示す測定画像からそれぞれ推定した。
このようにして生成したモデルを使用して実際の対象物を画像的に検査した。その結果を図10に示す。図10(a)は、モデルを画像的に示した図であり、それぞれのモデルに対し、左手側が画素平均値を示す平均画像、右手側が画素分散値を示す分散画像である。図10(a)に示すように、それぞれのモデルは、本実施形態により、明確に分離できていることが示されている。
図10(b)は、本実施形態に従って生成した欠陥推定量マップSを示す。欠陥推定量マップSは、検査の対象である対象物および本実施形態により計算し、図8のようにして欠陥推定量Sn (x,y)を、Sn (x,y)=0を低明度(B)とし、欠陥量Sn (x,y)の大きさを明度に対応付けて割り当て、画素(x,y)にマッピングして生成した。図10(b)中、紙面左手側が検査対象とする対象物の画像であり、紙面右手側が、欠陥推定量マップである。図10(b)の対象物にみられる欠陥1010は、欠陥推定量マップSにおいても欠陥1020として明確に識別されていることが示されている。以上の通り、本実施形態では、複数の形状が混在して学習される場合でも、欠陥検出の感度を充分に向上させることができることが示された。
図11は、従来法(単一モデルで学習させたもの)により、各モデルを学習させた結果(比較例)を示す。図11(a)は、モデルを画像的に示した図であり、それぞれのモデルに対し、左手側が平均画像、右手側が分散画像である。図11(a)に示されるように、従来法では、2つのモデルが重なった状態で、学習されてしまい、平均画像、分散画像とも2モデルがミックスされた形状が与えられている。
図11(a)に示した学習状態で、従来法によって検査した結果を図11(b)に示す。図11(b)は、本実施形態に従って生成した欠陥推定量マップSを示す。欠陥推定量マップSは、従来法では、k=1と固定している。検査の対象である対象物および本実施形態により計算し、図8のようにして欠陥推定量Sn (x,y)を、Sn (x,y)=0を低明度(B)とし、欠陥推定量Sn(x,y)の大きさを明度に対応付けて割り当て、画素(x,y)にマッピングして生成した対象物の画像である。紙面右手側が、欠陥推定量マップである。図11(b)の対象物にみられる欠陥1110は、色の濃淡変化で、欠陥1120として存在が認められるものの、図11(b)に示すように他の領域に比較して、充分に識別できていないことが示されている。
以上説明したように、本実施形態では、画像として複数の形状が混在して学習される場合でも、欠陥検出の感度を充分に向上させることができることが示された。すなわち、本実施形態においては、複数の形状を同時に学習させた場合でも効率的に画像中の異常を検出することを可能とする、画像処理装置、画像処理方法、画像処理システム、およびプログラムを提供することが可能となる。
これまで本発明を、実施形態をもって説明してきたが、本発明は、実施形態に限定されるものではなく、他の実施形態、追加、変更、削除など、当業者が想到することができる範囲内で変更することができ、いずれの態様においても本発明の作用・効果を奏する限り、本発明の範囲に含まれるものである。
100 :画像処理システム
110 :対象物
120 :カメラ
130 :画像処理装置
131 :I/O部
132 :対象物画像取得部
133 :学習部
134 :欠陥推定量計算部
135 :クラスタリング部
136 :欠陥領域決定部
137 :検査結果生成部
138 :記憶部
140 :出力装置
200 :ハードウェアブロック
201 :CPU
202 :RAM
203 :ROM
204 :通信装置
205 :システムバス
206 :入力装置
207 :I/Oバス
208 :表示装置
209 :記憶装置
210 :カメラ
特開2005−265661号公報

Claims (10)

  1. 画像を処理する画像処理装置であって、
    複数の物体形状を表現する複数のモデル毎で、かつ前記モデル内に複数の領域を有し、前記領域毎に存在するパラメータと、
    学習用に入力された入力画像が、前記複数のモデルのいずれに当てはまるかを表す確率を計算する計算手段と、
    前記確率を元に前記パラメータを最適化した前記複数のモデルを用いて入力された検査画像を前記複数のモデルと比較する比較手段と、
    を有することを特徴とする画像処理装置。
  2. 前記検査画像が前記複数のモデルのうちいずれのモデルに当てはまるかを表す確率を、隠れ変数として用いることで前記パラメータを最適化する最適化手段を有することを特徴とする請求項1に記載の画像処理装置。
  3. 前記各モデルに存在する複数の領域ごとに、前記確率を計算をする計算手段を有することを特徴とする請求項1または2に記載の画像処理装置。
  4. 前記複数の領域ごとに計算した前記確率の積を用いて、前記複数のモデルのいずれに当てはまるかを表す確率を計算する計算手段を有することを特徴とする請求項3に記載の画像処理装置。
  5. 前記パラメータをEMアルゴリズムを用いて最適化する最適化手段を有することを特徴とする請求項2〜4に記載の画像処理装置。
  6. 前記比較手段によって比較した結果を元に、検査画像における欠陥領域を検出する検出手段を具備することを特徴とする請求項1〜5に記載の画像処理装置。
  7. 前記確率と、前記検査画像における前記複数のモデルとの当てはまり度合いを元に外れ量を算出する算出手段を有することを特徴とする請求項1〜6に記載の画像処理装置。
  8. 前記複数のモデルの数を入力する入力手段を有することを特徴とする請求項1〜7に記載の画像処理装置。
  9. 画像を処理する画像処理装置が実行する画像処理方法であって、
    複数の物体形状を表現する複数のモデル毎で、かつ前記モデル内に複数の領域を有し、前記領域毎に存在するパラメータを計算するステップと、
    学習用に入力された入力画像が、前記複数のモデルのいずれに当てはまるかを表す確率を計算するステップと、
    前記確率を元に前記パラメータを最適化した前記複数のモデルを用いて入力された検査画像を前記複数のモデルと比較するステップと、
    を実行することを特徴とする画像処理方法。
  10. 画像処理装置が画像を処理するための装置実行可能なプログラムであって、前記プログラムは、画像処理装置に対し、
    複数の物体形状を表現する複数のモデル毎で、かつ前記モデル内に複数の領域を有し、前記領域毎に存在するパラメータを計算するステップと、
    学習用に入力された入力画像が、前記複数のモデルのいずれに当てはまるかを表す確率を計算するステップと、
    前記確率を元に前記パラメータを最適化した前記複数のモデルを用いて入力された検査画像を前記複数のモデルと比較するステップと
    を実行させることを特徴とする、プログラム。
JP2016049533A 2016-03-14 2016-03-14 画像処理装置、画像処理方法、およびプログラム Expired - Fee Related JP6707920B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016049533A JP6707920B2 (ja) 2016-03-14 2016-03-14 画像処理装置、画像処理方法、およびプログラム
US15/453,430 US10115189B2 (en) 2016-03-14 2017-03-08 Image processing apparatus, image processing method, and recording medium
EP17160407.7A EP3220353B1 (en) 2016-03-14 2017-03-10 Image processing apparatus, image processing method, and recording medium
CN201710146609.3A CN107194908A (zh) 2016-03-14 2017-03-13 图像处理装置以及图像处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016049533A JP6707920B2 (ja) 2016-03-14 2016-03-14 画像処理装置、画像処理方法、およびプログラム

Publications (2)

Publication Number Publication Date
JP2017167624A true JP2017167624A (ja) 2017-09-21
JP6707920B2 JP6707920B2 (ja) 2020-06-10

Family

ID=58461049

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016049533A Expired - Fee Related JP6707920B2 (ja) 2016-03-14 2016-03-14 画像処理装置、画像処理方法、およびプログラム

Country Status (4)

Country Link
US (1) US10115189B2 (ja)
EP (1) EP3220353B1 (ja)
JP (1) JP6707920B2 (ja)
CN (1) CN107194908A (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10572993B2 (en) 2017-01-23 2020-02-25 Ricoh Company, Ltd. Information processing apparatus, information processing method and recording medium
US10685432B2 (en) 2017-01-18 2020-06-16 Ricoh Company, Ltd. Information processing apparatus configured to determine whether an abnormality is present based on an integrated score, information processing method and recording medium

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10783629B2 (en) 2017-09-29 2020-09-22 Align Technology, Inc. Aligner image based quality control system
CN108107051B (zh) * 2017-12-19 2020-03-31 无锡先导智能装备股份有限公司 基于机器视觉的锂电池缺陷检测***及方法
KR102579904B1 (ko) * 2018-01-31 2023-09-19 삼성전자주식회사 비전 검사 관리 방법 및 비전 검사 시스템
CN109584175B (zh) * 2018-11-21 2020-08-14 浙江大华技术股份有限公司 一种图像处理方法及装置
US11295444B2 (en) 2019-04-01 2022-04-05 Align Technology, Inc. Vision and geometric approaches to detect defects in dental appliances
CN110232399A (zh) * 2019-04-24 2019-09-13 中国南方电网有限责任公司超高压输电公司检修试验中心 基于集对分析和K-means聚类的输电设备缺陷分析方法和***
CN110245662B (zh) * 2019-06-18 2021-08-10 腾讯科技(深圳)有限公司 检测模型训练方法、装置、计算机设备和存储介质
CN112184876B (zh) * 2020-09-28 2021-04-27 北京达佳互联信息技术有限公司 图像处理方法、装置、电子设备和存储介质

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5793888A (en) * 1994-11-14 1998-08-11 Massachusetts Institute Of Technology Machine learning apparatus and method for image searching
US7167583B1 (en) 2000-06-28 2007-01-23 Landrex Technologies Co., Ltd. Image processing system for use with inspection systems
US6996790B2 (en) * 2003-01-30 2006-02-07 Synopsys, Inc. System and method for generating a two-dimensional yield map for a full layout
JP2005265661A (ja) 2004-03-19 2005-09-29 Ovit:Kk 画像処理方法およびその装置
US8290251B2 (en) * 2008-08-21 2012-10-16 Adobe Systems Incorporated Image stylization using sparse representation
GB2462851B (en) * 2008-08-21 2010-09-15 4Sight Imaging Ltd Image processing
WO2013056733A1 (en) * 2011-10-19 2013-04-25 Siemens Aktiengesellschaft Out of plane artifact reduction in digital breast tomosynthesis and ct
US9235879B2 (en) * 2012-06-29 2016-01-12 Hong Kong Applied Science And Technology Research Institute Co., Ltd. Apparatus, system, and method for temporal domain hole filling based on background modeling for view synthesis
CN103544691B (zh) 2012-07-19 2018-07-06 苏州比特速浪电子科技有限公司 图像处理方法及设备
JP2014126445A (ja) * 2012-12-26 2014-07-07 Sharp Corp 位置合せ装置、欠陥検査装置、位置合せ方法、及び制御プログラム
JP6468802B2 (ja) * 2014-01-20 2019-02-13 キヤノン株式会社 三次元計測装置、三次元計測方法及びプログラム
CN104574353B (zh) * 2014-09-12 2017-08-01 苏州大学 基于视觉显著性的表面缺陷判定方法
JP6572535B2 (ja) 2014-12-10 2019-09-11 株式会社リコー 画像認識システム、サーバ装置及び画像認識方法
JP2016115331A (ja) * 2014-12-12 2016-06-23 キヤノン株式会社 識別器生成装置、識別器生成方法、良否判定装置、良否判定方法、プログラム
CN105069778B (zh) * 2015-07-16 2017-06-23 西安工程大学 基于目标特征显著图构建的工业产品表面缺陷检测方法
JP6794737B2 (ja) 2015-12-01 2020-12-02 株式会社リコー 情報処理装置、情報処理方法、プログラムおよび検査システム
EP3176751B1 (en) 2015-12-01 2020-12-30 Ricoh Company, Ltd. Information processing device, information processing method, computer-readable recording medium, and inspection system
US10708573B2 (en) * 2016-01-04 2020-07-07 Occipital, Inc. Apparatus and methods for three-dimensional sensing
JP6976270B2 (ja) * 2016-04-08 2021-12-08 オービタル インサイト インコーポレイテッド 地理的領域におけるコンテナ内に格納された量の遠隔決定
US20180012411A1 (en) * 2016-07-11 2018-01-11 Gravity Jack, Inc. Augmented Reality Methods and Devices
US10546373B2 (en) * 2016-08-03 2020-01-28 Sightline Innovation Inc. System and method for integrated laser scanning and signal processing
US20180048894A1 (en) * 2016-08-11 2018-02-15 Qualcomm Incorporated Methods and systems of performing lighting condition change compensation in video analytics
US20180047173A1 (en) * 2016-08-12 2018-02-15 Qualcomm Incorporated Methods and systems of performing content-adaptive object tracking in video analytics
US10290196B2 (en) * 2016-08-15 2019-05-14 Nec Corporation Smuggling detection system

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10685432B2 (en) 2017-01-18 2020-06-16 Ricoh Company, Ltd. Information processing apparatus configured to determine whether an abnormality is present based on an integrated score, information processing method and recording medium
US10572993B2 (en) 2017-01-23 2020-02-25 Ricoh Company, Ltd. Information processing apparatus, information processing method and recording medium

Also Published As

Publication number Publication date
JP6707920B2 (ja) 2020-06-10
US20170262974A1 (en) 2017-09-14
US10115189B2 (en) 2018-10-30
EP3220353B1 (en) 2018-06-27
EP3220353A1 (en) 2017-09-20
CN107194908A (zh) 2017-09-22

Similar Documents

Publication Publication Date Title
JP6707920B2 (ja) 画像処理装置、画像処理方法、およびプログラム
CN111028213B (zh) 图像缺陷检测方法、装置、电子设备及存储介质
JP7058373B2 (ja) 医療画像に対する病変の検出及び位置決め方法、装置、デバイス、及び記憶媒体
JP6693938B2 (ja) 外観検査装置
CN104811660B (zh) 控制装置及控制方法
JP6632288B2 (ja) 情報処理装置、情報処理方法、プログラム
JP4692632B2 (ja) 画像処理方法、画像処理プログラム、および画像処理装置
JP2018005773A (ja) 異常判定装置及び異常判定方法
JP2012032370A (ja) 欠陥検出方法、欠陥検出装置、学習方法、プログラム、及び記録媒体
US8559728B2 (en) Image processing apparatus and image processing method for evaluating a plurality of image recognition processing units
JP2017107541A (ja) 情報処理装置、情報処理方法、プログラムおよび検査システム
US20210271913A1 (en) Information processing apparatus, information processing method, and storage medium
US20220114725A1 (en) Microscopy System and Method for Checking Input Data
US20210272272A1 (en) Inspection support apparatus, inspection support method, and inspection support program for concrete structure
JP2016220198A (ja) 情報処理装置、方法、プログラム
JP2019158628A (ja) 検査装置、検査方法、及び検査プログラム
JP2020042669A (ja) 検査装置及び機械学習方法
JP6786015B1 (ja) 動作分析システムおよび動作分析プログラム
US20240013369A1 (en) Image defect detecting system, generation method of image defect detecting system and non-transitory computer readable medium
CN115292722B (zh) 基于不同色彩空间的模型安全检测方法和装置
JP7416071B2 (ja) 判定装置、および判定プログラム
CN112585610B (zh) 设置环境推测装置以及计算机可读取的记录介质
JP2018077719A (ja) 破面解析装置および破面解析方法
US20200167908A1 (en) Determination device and determining method thereof
TWI537877B (zh) 膚色偵測方法及系統

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190122

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20191205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20191217

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200207

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200504

R151 Written notification of patent or utility model registration

Ref document number: 6707920

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

LAPS Cancellation because of no payment of annual fees