JP7333408B2 - 画像処理装置、部品実装システムおよび画像処理方法 - Google Patents

画像処理装置、部品実装システムおよび画像処理方法 Download PDF

Info

Publication number
JP7333408B2
JP7333408B2 JP2021554461A JP2021554461A JP7333408B2 JP 7333408 B2 JP7333408 B2 JP 7333408B2 JP 2021554461 A JP2021554461 A JP 2021554461A JP 2021554461 A JP2021554461 A JP 2021554461A JP 7333408 B2 JP7333408 B2 JP 7333408B2
Authority
JP
Japan
Prior art keywords
image
primary color
color
recognition
component
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021554461A
Other languages
English (en)
Other versions
JPWO2021090395A1 (ja
Inventor
恵市 小野
一也 小谷
智也 藤本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of JPWO2021090395A1 publication Critical patent/JPWO2021090395A1/ja
Application granted granted Critical
Publication of JP7333408B2 publication Critical patent/JP7333408B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/56Extraction of image or video features relating to colour
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10024Color image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20212Image combination
    • G06T2207/20224Image subtraction
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30141Printed circuit board [PCB]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Quality & Reliability (AREA)
  • Supply And Installment Of Electrical Components (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)

Description

本明細書は、画像処理装置、部品実装システムおよび画像処理方法を開示する。
従来、この種の画像処理装置としては、認識対象を含み、各画素のRGB値(RGB画素情報)が定められた画像を処理するものが提案されている(例えば、特許文献1参照)。この装置では、画像から抽出すべき認識対象のRGB値と、認識対象と間違われやすい色など積極的に除外すべき除外RGB値とを予め設定しておく。そして、画像から除外RGB値に含まれる画素を除去して認識対象のRGB値に含まれる画素を抽出することで、認識対象の領域に対応する画像だけを残して、認識対象の状態の検査などを行う。
特開2010-175483号公報
しかしながら、上述した画像処理装置では、認識対象のRGB値や除外RGB値を予め設定しておく必要があるから、設定処理の負担が大きくなる。また、予め設定していても、実際に画像を撮像する際の対象物の姿勢や位置ずれなどによって光の当たり具合などが変化してRGB値に変化が生じると、認識対象のRGB値を精度よく抽出することが困難となることもある。
本開示は、除外すべき箇所のRGB値を予め設定することなく、認識対象を精度よく認識することを主目的とする。
本開示は、上述の主目的を達成するために以下の手段を採った。
本開示の画像処理装置は、
各画素がRGB三原色の階調値を有するカラー画像を処理する画像処理装置であって、
前記カラー画像として、認識対象と、該認識対象と主要な色成分が異なり輝度が類似の類似箇所とを含む画像を取得する画像取得部と、
RGB三原色のうち前記類似箇所の主要な色成分に近い第1原色の階調値を前記カラー画像から抽出した第1原色画像と、前記第1原色以外の第2原色の階調値を前記カラー画像から抽出した第2原色画像とを用いて、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成する差分画像生成部と、
RGB三原色のうちいずれかの原色を前記カラー画像から抽出した画像の階調値から前記差分画像の階調値を減じた階調値を有する認識用画像を生成する認識用画像生成部と、
前記認識用画像を用いて前記認識対象の認識処理を行う認識処理部と、
を備えることを要旨とする。
本開示の画像処理装置は、第1原色画像の階調値から第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成するため、差分画像の階調値は、類似箇所における主要な色成分に近い第1原色とそれ以外の第2原色との差分に基づくものとなる。また、いずれかの原色画像の階調値から差分画像の階調値を減じて認識用画像を生成するから、認識用画像内で類似箇所の輝度を低減して認識対象と類似箇所との輝度の差を明確にすることができる。このため、類似箇所を認識対象と誤認識するのを抑制することができる。また、処理に用いられる各画像は、実際に取得されたカラー画像から抽出されたり生成されるから、予め設定しておく必要がない。したがって、除外すべきRGBの階調値を予め設定することなく、認識対象を精度よく認識することができる。
部品実装システム10の一例を示す説明図。 実装装置20の構成の概略を示す構成図。 実装装置20と管理装置40と実装検査装置30の電気的な接続関係を示す説明図。 実装後検査処理ルーチンの一例を示すフローチャート。 認識対象の部品Pの一例を示す説明図。 比較例において部品Pの外形形状を誤認識する様子の一例を示す説明図。 認識用画像の生成処理の一例を示すフローチャート。 認識用画像Giを生成する様子の一例を示す説明図。
次に、本開示の実施の形態を図面を用いて説明する。図1は部品実装システム10の構成の概略を示す構成図であり、図2は実装装置20の構成の概略を示す構成図であり、図3は実装装置20と管理装置40と実装検査装置30の電気的な接続関係を示す説明図である。なお、図1,2中、左右方向をX方向とし、前後方向をY方向とし、上下方向をZ方向とする。
部品実装システム10は、図1に示すように、印刷装置12と、印刷検査装置14と、複数の実装装置20と、実装検査装置30と、管理装置40とを備え、これらがネットワークとしてのLAN18に接続されている。印刷装置12は、スクリーンマスクに形成されたパターン孔にはんだを押し込むことで基板S(図2参照)に印刷する。印刷検査装置14は、印刷装置12で印刷されたはんだの状態を検査する。実装装置20は、基板Sの搬送方向(X方向)に沿って配置され、基板Sに部品を実装したり、実装した部品の実装状態を検査したりする。実装検査装置30は、各実装装置20で基板Sに実装された部品の実装状態を検査する。管理装置40は、部品実装システム10の全体を管理する。印刷装置12と印刷検査装置14と複数の実装装置20と実装検査装置30とは、この順で基板Sの搬送方向に並べて設置されて生産ラインを構成する。なお、生産ラインが、これらの装置以外に、部品が実装された基板Sのリフロー処理を行うリフロー装置などを備えてもよく、実装検査装置30がリフロー装置の下流側に配置されていてもよい。
実装装置20は、図2,図3に示すように、基板Sを搬送する基板搬送装置21と、部品を供給する部品供給装置22と、部品を吸着するノズル24が昇降可能に配設されたヘッド23と、ヘッド23をXY方向に移動させるヘッド移動装置25とを備える。基板搬送装置21は、図2の前後に間隔を開けて設けられ左右方向に架け渡されたコンベアベルトを2対有しており、各コンベアベルトにより基板Sを図中左から右へと搬送する。部品供給装置22は、例えば部品が所定ピッチで収容されたテープを送り出すことで部品を供給するテープフィーダであり、複数種類の部品を供給可能となるように実装装置20に複数セットされている。
また、実装装置20は、この他にマークカメラ26やパーツカメラ27、記憶部28、実装装置20の全体を制御する実装制御装置29を備える。マークカメラ26は、ヘッド23に取り付けられ、ヘッド移動装置25によってヘッド23と共にXY方向に移動する。マークカメラ26は、基板Sに付されたマークの他、部品供給装置22により供給された部品や基板Sに実装された部品などの撮像対象を上方から撮像して画像を生成し、生成した画像を実装制御装置29へ出力する。また、パーツカメラ27は、部品供給装置22と基板搬送装置21との間に設置され、ノズル24に保持(吸着)されている部品を下方から撮像して画像を生成し、生成した画像を実装制御装置29へ出力する。なお、本実施形態では、少なくともマークカメラ26は、カラー撮像素子を備え、各画素がRGB三原色の階調値(R,G,B)を有するカラー画像を撮像可能に構成されている。なお、階調値(R,G,B)は、それぞれ値0~255までの256段階の値をとる。記憶部28は、処理プログラムや部品の実装位置に関する情報、実装結果などの情報を記憶するHDDなどの装置である。
実装制御装置29は、周知のCPUやROM、RAMなどで構成されている。実装制御装置29は、基板搬送装置21やヘッド23、ヘッド移動装置25などに駆動信号を出力する。実装制御装置29には、マークカメラ26やパーツカメラ27からの画像が入力される。実装制御装置29は、マークカメラ26で撮像された部品実装前の基板Sの画像を処理してマークの位置を認識することにより基板Sの位置を認識したり、マークカメラ26で撮像された部品実装後の基板Sの画像を処理して部品の実装状態を検査したりする。また、実装制御装置29は、パーツカメラ27で撮像された画像に基づいてノズル24に部品が吸着されているか否かを判定したり、部品の吸着姿勢を判定したりする。
実装検査装置30は、図3に示すように、各実装装置20で部品が実装された基板Sを搬送する基板搬送装置32と、部品の実装状態を検査するための画像を撮像する検査カメラ34と、検査カメラ34をXY方向に移動させるカメラ移動装置36と、実装検査装置30の全体を制御する検査制御装置39とを備える。基板搬送装置32とカメラ移動装置36は、それぞれ、実装装置20の基板搬送装置21とヘッド移動装置25と同様の構成である。
検査制御装置39は、周知のCPUやROM、RAMなどで構成されている。検査制御装置39は、基板搬送装置32やカメラ移動装置36への駆動信号や検査カメラ34への撮像信号を出力する。また、検査制御装置39は、検査カメラ34からの画像が入力され、その画像を処理して部品の実装状態を検査する。また、検査制御装置39は、実装制御装置29や管理装置40の管理制御装置42とLAN18を介して通信可能に接続されており、検査状況や検査結果に関する情報などを送信する。
管理装置40は、図3に示すように、管理制御装置42と、記憶部44と、入力デバイス46と、ディスプレイ48とを備える。管理制御装置42は、周知のCPUやROM、RAMなどで構成されている。記憶部44は、処理プログラムなどの各種情報を記憶するHDDなどの装置である。入力デバイス46は、作業者が各種指令を入力するキーボードおよびマウスなどを含む。ディスプレイ48は、各種情報を表示する液晶表示装置である。また、記憶部44には、生産プログラムが記憶されている。生産プログラムには、基板Sに実装する部品種の情報や各部品の実装順の情報、各部品の実装位置や実装角度の情報、各部品を供給する部品供給装置22の情報、部品を吸着するノズル24の情報、生産する基板Sの枚数の情報などが定められている。管理制御装置42は、実装制御装置29とLAN18を介して通信可能に接続されており、実装制御装置29から実装状況に関する情報を受信したり、実装制御装置29に生産プログラムを送信したりする。また、管理制御装置42は、検査制御装置39とLAN18を介して通信可能に接続されており、検査制御装置39から検査状況や検査結果に関する情報を受信したり、検査制御装置39に検査対象の基板Sの情報を送信したりする。管理制御装置42は、この他に印刷装置12や印刷検査装置14の図示しない各制御装置とLAN18を介して通信可能に接続されており、各装置から作業状況に関する情報を受信したり、作業指示を送信したりする。
以下は、こうして構成された実装装置20の動作として、部品の実装処理と部品実装後の基板Sの検査処理についての説明である。部品の実装処理では、実装制御装置29は、まず、ヘッド移動装置25を制御してヘッド23を部品供給装置22の部品供給位置の上方へ移動させ、ノズル24を下降させて部品供給位置に供給された部品をノズル24に吸着させる。次に、実装制御装置29は、ヘッド移動装置25を制御してヘッド23をパーツカメラ27の上方に移動させ、パーツカメラ27を制御してノズル24に吸着させた部品を撮像する。続いて、実装制御装置29は、撮像された画像を処理してノズル24に吸着された部品の位置ずれなどを判定し、位置ずれが解消されるように当該部品の目標実装位置を補正する。そして、実装制御装置29は、ヘッド移動装置25を制御してヘッド23を基板Sの上方へ移動させてノズル24を下降させ、部品を基板S上の目標実装位置に実装する。また、本実施形態の実装制御装置29は、基板Sへの部品の実装が完了すると、基板Sを搬出する前に部品の実装状態を検査する検査処理を行う。図4は実装後検査処理ルーチンの一例を示すフローチャートである。
このルーチンが開始されると、実装制御装置29は、まず、マークカメラ26で撮像された部品実装後の基板Sのカラー画像を取得する(S100)。上述したように、マークカメラ26で撮像されるカラー画像は、各画素がRGB三原色の階調値(R,G,B)を有する。次に、実装制御装置29は、取得したカラー画像から部品を認識するための認識用画像の生成処理を行う(S110)。この生成処理の詳細は、後述する。続いて、実装制御装置29は、生成した認識用画像を用いて部品を認識して実装状態を検査し(S120)、その検査結果を記憶部28に登録(記憶)して(S130)、実装後検査処理ルーチンを終了する。S120では、実装制御装置29は、例えば部品の実装位置のずれや部品の実装角度のずれを取得し、目標実装位置に対するX方向のずれ量およびY方向のずれ量が基準値内であるか否か、目標実装角度に対する回転ずれ量(角度)が基準値内であるか否かなどを検査する。また、実装制御装置29は、部品の欠けの有無や部品の欠品なども検査する。
ここで、図5は認識対象の部品Pの一例を示す説明図である。図示するように、例えば部品Pは、上面視が矩形状で、両端部に電極Peを有すると共に中央部が樹脂などの非光沢性の材料で形成された部品である。このため、画像処理では、電極Peを認識対象として部品Pの外形形状や位置が認識されるものとする。また、図6は比較例において部品Pの外形形状を誤認識する様子の一例を示す説明図である。図6では、図5の部品Pが実装された基板Sの画像を処理した際の様子を示す。部品Pの電極Peは、画像の撮像時に、光を反射して白く光るため、画像内に白色で写るものとなる。このため、電極Peの階調値(R,G,B)は、例えば(255,255,255)となり、次式(1)により輝度Yは値255となる。
Y=0.30×R+0.59×G+0.11×B・・・(1)
また、画像内には、基板Sに設けられている銅箔Cfや印刷装置12で基板Sに印刷されたはんだSo(点線で図示)なども写っている。このうち銅箔Cfは、はんだSoよりも光を反射しやすく、画像内にオレンジ色や黄色などで写るものとなる。この銅箔Cfの階調値(R,G,B)は、例えば(239,160,154)となり、式(1)により輝度Yは値183となる。このように銅箔Cfは、主要な色成分がオレンジ色や黄色に近い赤色(R)であり電極Peとは異なるものの、輝度Yが比較的高く電極Peの輝度Yに類似する。■ここで、認識対象の電極Peと主要な色成分が異なるとは、電極Peが白色で写るために3原色がいずれも高い階調値となるのに対し、3原色のうちいずれかの1の原色が他の原色よりも高い階調値となることをいう。なお、認識対象の主要な色成分即ち階調値の高い原色が3原色のいずれか1色であれば、その原色とは異なる原色が高い階調値となる場合に主要な色成分が異なるものとすればよい。また、電極Peと類似の輝度Yとは、例えば、電極Peの輝度Yに対する相違が30%程度以内であるなど、数十%程度以内の所定範囲内にあることをいう。このため、実装制御装置29は、マークカメラ26で撮像されたカラー画像を画像処理する際に、電極Peと銅箔Cfとを区別して認識することが困難となり、銅箔Cfを電極Peの一部と誤認識する場合がある。その場合、実装制御装置29は、銅箔Cfの一部を含めて部品Pの形状を認識するため、部品Pの実装位置のずれや実装角度のずれを誤判定することになる。例えば、図6では、実際には部品Pの実装角度のずれが殆どない場合に、実装制御装置29が部品Pの外形形状を誤認識して実装角度のずれがあると誤判定した様子の一例である。このような誤認識を防止するため、本実施形態では、S110の認識用画像の生成処理を以下のように行う。図7は認識用画像の生成処理の一例を示すフローチャートであり、図8は認識用画像Giを生成する様子の一例を示す説明図である。なお、図8は、各画像の実際の階調値とは異なり、階調値のイメージを示すものであり、例えば銅箔Cfの部分などを均一な階調値で示していても、実際には階調値の高い部分や低い部分が混在している。
図7の認識用画像の生成処理では、実装制御装置29は、まず、上述したS100で取得したカラー画像における各画素の階調値(R,G,B)から、赤色の階調値Rを抽出したR画像Gr(第1原色画像)と、青色の階調値Bを抽出したB画像Gb(第2原色画像)とを生成する(S200)。上述したように、銅箔Cfの主要な色成分がオレンジ色や黄色であるため、実装制御装置29は、RGB三原色のうちオレンジ色や黄色に近い赤色の階調値Rを抽出してR画像Gr(図8A参照)を生成する。また、実装制御装置29は、RGB三原色のうちオレンジ色や黄色に対する補色に近い青色の階調値Bを抽出してB画像Gb(図8B参照)を生成する。なお、銅箔Cfの主要な色成分に近い赤色の階調値Rは、銅箔Cfの階調値(R,G,B)のうち最も大きな値となり、補色に近い青色の階調値Bは、銅箔Cfの階調値(R,G,B)のうち最も小さな値となる。
次に、実装制御装置29は、R画像Grの各画素の階調値RからB画像Gbの各画素の階調値Bを減算した差分の階調値を有する差分画像Gdを生成する(S210)。例えば、電極Peの階調値(R,G,B)は(255,255,255)で、銅箔Cfの階調値(R,G,B)は(239,160,154)であるから、差分画像Gdは、電極Peの部分で差分の階調値が値0などとなり、銅箔Cfの部分で差分の階調値が値85などとなる。このため、図8Cに示すように、差分画像Gdは、電極Peの部分や背景の部分で差分が殆ど値0(黒色)となり、銅箔Cfの部分で銅箔Cfの階調値Rと階調値Bとの差分が現れている。なお、銅箔Cfの階調値(R,G,B)のうち、赤色の階調値Rが最も大きく、青色の階調値Bが最も小さいから、銅箔Cfの部分で差分が比較的大きく現れることになる。
続いて、実装制御装置29は、差分画像Gdに平滑化処理を施して差分画像Gd’(差分平滑画像,平滑後画像,図8D参照)を生成する(S220)。S220の平滑化処理は、例えば周知の移動平均フィルタやガウシアンフィルタなどを用いて、階調値Rと階調値Bとの差分の階調値を平滑化してぼかすことにより行われ、ノイズの影響などを除外することができる。そして、実装制御装置29は、B画像Gbの各画素の階調値から差分画像Gd’の各画素の階調値を減算した階調値を有する認識用画像Giを生成して(S230)、認識用画像の生成処理を終了する。ここで、B画像Gbは、銅箔Cfの部分の階調値がR画像Grほど高くなく、そのB画像Gbから差分画像Gd’を減算して認識用画像Giが生成されるから、認識用画像Giにおいて銅箔Cfの部分の階調値をより抑えることができる。このため、図8Eに示すように、認識用画像Giは、銅箔Cfの部分の輝度が、元のカラー画像(図6参照)や図8AのR画像Gr、図8BのB画像Gbよりも低下した画像となる。一方で、電極Peの部分は、B画像Gbでも高い階調値(B=255)であり、差分画像Gd(Gd’)でも差分が値0となるなど殆ど差分が生じない。このため、認識用画像Giにおいて、電極Peの部分の輝度は、元のカラー画像と実質的に変わらないものとなる。したがって、実装制御装置29がS120で認識用画像Giを用いて部品Pを認識する際に、銅箔Cfを電極Peに含めて部品Pの外形形状を誤認識するのを防止して、電極Peを適切に認識することができる。
なお、上述したように、カラー画像内に銅箔Cfはオレンジ色や黄色で写るが、光の反射具合によっては例えば銅箔Cfの中心部分など一部分が白色で写って階調値(R,G,B)が(255,255,255)またはそれに近い値となる場合がある。その場合、S210で生成される差分画像Gdでは、銅箔Cfの一部分で電極Peと同様に差分が値0となり、銅箔Cfの残りの部分に上述したような階調値Rと階調値Bとの差分が生じる。そして、実装制御装置29がS220の平滑化処理を行わずに、差分画像GdをB画像Gbから減算して認識用画像Giを生成すると、銅箔Cfの残りの部分は輝度が低下し、銅箔Cfの一部分は電極Peと同様に元の輝度で残ることになる。そうなると、実装制御装置29は、銅箔Cfの一部分と残りの部分との境界を、電極Peの境界などと誤認識するおそれがある。これに対して、実装制御装置29がS220の平滑化処理を行うと、銅箔Cfの残りの部分で生じた差分が銅箔Cfの一部分に分散されるため、銅箔Cfの一部分のみが残りの部分と極端に異なる輝度となるのを抑制することができる。これにより、実装制御装置29が、銅箔Cfの一部分と残りの部分との境界を誤認識するおそれを低減することができる。このように、差分の急激な変化による影響を低減して誤認識を抑制するために、本実施形態ではS220の平滑化処理を行うのである。
ここで、本実施形態の構成要素と本開示の構成要素との対応関係を明らかにする。本実施形態の図4の実装後検査処理ルーチンのS100を実行する実装制御装置29が画像取得部に相当し、図7の認識用画像の生成処理のS200~S220を実行する実装制御装置29が差分画像生成部に相当し、認識用画像の生成処理のS230を実行する実装制御装置29が認識用画像生成部に相当し、実装後検査処理ルーチンのS120を実行する実装制御装置29が認識処理部に相当する。また、マークカメラ26が撮像装置に相当し、実装制御装置29が画像処理装置に相当し、部品実装システム10が部品実装システムに相当する。なお、本実施形態では、実装制御装置29の動作を説明することにより本開示の画像処理方法の一例も明らかにしている。
以上説明した本実施形態の実装制御装置29は、R画像Gr(第1原色画像)からB画像Gb(第2原色画像)を減じた差分画像Gdを生成する。このため、差分画像Gdの階調値は、部品Pの電極Peに輝度が類似する類似箇所である銅箔Cfにおける主要な色成分に近い赤色(第1原色)と、それ以外の青色(第2原色)との差分となる。また、B画像Gbから差分画像Gd(Gd’)を減じて認識用画像Giを生成するため、認識用画像Gi内で銅箔Cfの輝度を低減することができるから、銅箔Cfを電極Peと誤認識するのを抑制することができる。したがって、除外すべきRGBの階調値を画像撮像前に予め設定することなく、認識対象である電極Peを精度よく認識することができる。
また、実装制御装置29は、銅箔Cfの主要な色成分に対する補色に近い青色の階調値を抽出したB画像Gbを用いるから、緑色の階調値を抽出する場合に比して、主要な色成分に近い赤色とその補色に近い青色との差分を大きくして認識用画像Gi内で銅箔Cfの輝度をより低減することができる。
また、実装制御装置29は、R画像GrからB画像Gbを減じた差分を平滑化した階調値を有する差分画像Gd’を生成するから、認識用画像Gi内で差分の急激な変化による影響を低減して、銅箔Cfを電極Peと誤認識するのを抑制することができる。
なお、本開示は上述した実施形態に何ら限定されることはなく、本開示の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
例えば、上述した実施形態では、R画像GrからB画像Gbを減じた差分を平滑化した階調値を有する差分画像Gd’を用いて認識用画像Giを生成したが、これに限られるものではない。例えば、R画像GrからB画像Gbを減じた差分画像Gdを平滑化することなくそのまま用いて認識用画像Giを生成してもよい。
上述した実施形態では、銅箔Cfの主要な色成分に対する補色に近い青色の階調値を抽出したB画像Gbを用いて差分画像Gdを生成したが、補色を用いるものに限られず、他の色の原色画像を用いるものであればよい。即ち、RGB三原色のうち緑色の階調値Gを抽出してG画像Ggを第2原色画像として生成し、R画像GrからG画像Ggを減じて差分画像Gd(Gd’)を生成してもよい。その場合、G画像Ggから差分画像Gd(Gd’)を減じて認識用画像Giを生成すればよい。なお、R画像Grを第1原色画像、B画像Gbを第2原色画像とした場合に、第2原色画像であるB画像Gbから差分画像Gd(Gd’)を減じて認識用画像Giを生成したが、これに限られず、第1原色画像であるR画像Grや、G画像Ggなど、いずれかの原色画像から差分画像Gd(Gd’)を減じて認識用画像Giを生成してもよい。
上述した実施形態では、基板Sに設けられている銅箔Cfを類似箇所として除外する処理を例示したが、これに限られず、印刷装置12で基板Sに印刷されたはんだSoなどを類似箇所として除外してもよいし、基板S自体を類似箇所として除外してもよい。
上述した実施形態では、実装装置20で行う検査処理に本開示を適用したが、これに限られず、実装検査装置30で行う検査処理に本開示を適用してもよい。その場合、検査制御装置39を画像処理装置として同様な処理を行えばよい。また、実装制御装置29や検査制御装置39に限られず、管理装置40の管理制御装置42を画像処理装置として同様な処理を行ってもよい。あるいは、実装制御装置29がカラー画像の取得と、差分画像Gd(Gd’)や認識用画像Giの生成とを行い、検査制御装置39や管理制御装置42が認識用画像Giを用いた認識処理(検査処理)を行うなど、2以上の装置が共同で行うものなどとしてもよい。あるいは、部品実装後の基板Sの検査処理に本開示を適用するものに限られず、部品実装前にはんだSoの塗布状態を検査する検査処理に本開示を適用してもよい。その場合、印刷検査装置14の制御装置を画像処理装置として同様な処理を行えばよい。
上述した実施形態では、認識対象として上面視が矩形状で両端部に電極Peが設けられた部品Pを例示したが、これに限られず、両端部に電極Peが設けられていない部品や、上面視が円形状など矩形状以外の形状の部品などを認識対象としてもよい。また、基板Sに実装された部品Pを認識対象としたが、これに限られず、部品供給装置22で部品供給位置に供給された部品や、部品供給位置でノズル24に吸着されてから一旦所定箇所に仮置きされた部品など、基板Sに実装される前の部品を認識対象としてもよい。
上述した実施形態では、部品Pが基板Sに実装される実装処理における検査に必要な画像処理に本開示を適用するものを例示したが、実装処理における検査に必要な画像処理に限られず、例えば製品への異物の付着有無を検査するために、異物を認識対象とする画像処理などに本開示を適用するものであってもよい。
ここで、本開示の画像処理装置は、以下のように構成してもよい。例えば、本開示の画像処理装置において、前記認識用画像生成部は、前記認識用画像として、前記第2原色画像の階調値から前記差分画像の階調値を減じた階調値を有する画像を生成するものとしてもよい。類似箇所における第2原色画像の階調値は、第1原色画像の階調値ほど高くなく輝度が抑えられている。このため、第2原色画像から差分画像を減じることで、認識用画像内で類似箇所の輝度をより低減することができるから、類似箇所を認識対象と誤認識するのをより抑制することができる。また、第2原色画像は、差分画像の生成に用いられたものであるから、新たな原色画像を準備することなく速やかに処理を行うことができる。
本開示の画像処理装置において、前記差分画像生成部は、前記第2原色画像として、RGB三原色のうち前記類似箇所の主要な色成分に対する補色に近い原色を前記第2原色とする画像を用いるものとしてもよい。こうすれば、第1原色画像の階調値と第2原色画像の階調値との差分即ち差分画像の階調値がより大きくなるから、第2原色画像の階調値から差分画像の階調値を減じた階調値を小さくすることができる。このため、認識用画像内で類似箇所の輝度をさらに低減することができるから、類似箇所を認識対象と誤認識するのをさらに抑制することができる。
本開示の画像処理装置において、前記差分画像生成部は、前記差分画像として、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分を平滑化した階調値を有する画像を生成するものとしてもよい。こうすれば、差分画像の画素間における差分の急激な変化を抑えることができるから、認識用画像内の類似箇所において階調値が急激に変化するのを低減することができる。このため、類似箇所において階調値が急激に変化する箇所を、認識対象の境界などと誤認識するのを抑制することができる。
本開示の部品実装システムは、
基板に部品を実装する部品実装システムであって、
前記部品が実装された前記基板のカラー画像を撮像する撮像装置と、
前記基板に実装された前記部品を前記認識対象として含む前記カラー画像を処理する上述したいずれかの前記画像処理装置と、
を備えることを要旨とする。
本開示の部品実装システムは、部品が実装された基板のカラー画像を撮像する撮像装置と、基板に実装された部品を認識対象として含むカラー画像を処理する本開示のいずれかの画像処理装置とを備える。したがって、上述した画像処理装置と同様に、除外すべきRGBの階調値を予め設定することなく、認識対象を精度よく認識することができる。
本開示の画像処理方法は、
各画素がRGB三原色の階調値を有するカラー画像を処理する画像処理方法であって、
(a)前記カラー画像として、認識対象と、該認識対象と主要な色成分が異なり輝度が類似の類似箇所とを含む画像を取得するステップと、
(b)RGB三原色のうち前記類似箇所の主要な色成分に近い第1原色の階調値を前記カラー画像から抽出した第1原色画像と、前記第1原色以外の第2原色の階調値を前記カラー画像から抽出した第2原色画像とを用いて、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成するステップと、
(c)RGB三原色のうちいずれかの原色を前記カラー画像から抽出した画像の階調値から前記差分画像の階調値を減じた階調値を有する認識用画像を生成するステップと、
(d)前記認識用画像を用いて前記認識対象の認識処理を行うステップと、
を含むことを要旨とする。
本開示の画像処理方法は、上述した画像処理装置と同様に、第1原色画像の階調値から第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成し、差分画像の階調値をいずれかの原色画像の階調値から減じて認識用画像を生成する。したがって、除外すべきRGBの階調値を予め設定することなく、認識対象を精度よく認識することができる。なお、この画像処理方法において、上述した画像処理装置の種々の態様を採用してもよいし、画像処理装置の各機能を実現するようなステップを追加してもよい。
本開示は、カラー画像の画像処理や部品の実装処理の技術分野などに利用可能である。
10 部品実装システム、12 印刷装置、14 印刷検査装置、18 LAN、20 実装装置、21,32 基板搬送装置、22 部品供給装置、23 ヘッド、24 ノズル、25 ヘッド移動装置、26 マークカメラ、27 パーツカメラ、28 記憶部、29 実装制御装置、30 実装検査装置、34 検査カメラ、36 カメラ移動装置、39 検査制御装置、40 管理装置、42 管理制御装置、44 記憶部、46 入力デバイス、48 ディスプレイ、Cf 銅箔、Gd,Gd’ 差分画像、Gb B画像、Gi 認識用画像、Gr R画像、P 部品、Pe 電極、S 基板、So はんだ。

Claims (5)

  1. 各画素がRGB三原色の階調値を有するカラー画像を処理する画像処理装置であって、
    前記カラー画像として、認識対象としての部品の電極と、該認識対象と主要な色成分が異なり輝度が類似の類似箇所とを含む画像を取得する画像取得部と、
    記類似箇所のRGB三原色の階調値のうち最も大きな値である原色を、主要な色成分に近い第1原色として、前記第1原色の階調値を前記カラー画像から抽出した第1原色画像と、前記第1原色以外の第2原色の階調値を前記カラー画像から抽出した第2原色画像とを用いて、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成する差分画像生成部と、
    前記第2原色画像の階調値から前記差分画像の階調値を減じた階調値を有する認識用画像を生成する認識用画像生成部と、
    前記認識用画像を用いて前記認識対象の認識処理を行う認識処理部と、
    を備える画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記差分画像生成部は、前記第2原色画像として、前記類似箇所のRGB三原色の階調値のうち最も小さな値である原色を、主要な色成分に対する補色に近い原色として、前記第2原色とする画像を用いる
    画像処理装置。
  3. 請求項1または2に記載の画像処理装置であって、
    前記差分画像生成部は、前記差分画像として、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分を平滑化した階調値を有する画像を生成する
    画像処理装置。
  4. 基板に前記部品を実装する部品実装システムであって、
    前記部品が実装された前記基板のカラー画像を撮像する撮像装置と、
    前記基板に実装された前記部品の電極を前記認識対象として含む前記カラー画像を処理する請求項1ないしのいずれか1項に記載の前記画像処理装置と、
    を備える部品実装システム。
  5. 各画素がRGB三原色の階調値を有するカラー画像を処理する画像処理方法であって、
    (a)前記カラー画像として、認識対象としての部品の電極と、該認識対象と主要な色成分が異なり輝度が類似の類似箇所とを含む画像を取得するステップと、
    (b)前記類似箇所のRGB三原色の階調値のうち最も大きな値である原色を、主要な色成分に近い第1原色として、前記第1原色の階調値を前記カラー画像から抽出した第1原色画像と、前記第1原色以外の第2原色の階調値を前記カラー画像から抽出した第2原色画像とを用いて、前記第1原色画像の階調値から前記第2原色画像の階調値を減じた差分に基づく階調値を有する差分画像を生成するステップと、
    (c)前記第2原色画像の階調値から前記差分画像の階調値を減じた階調値を有する認識用画像を生成するステップと、
    (d)前記認識用画像を用いて前記認識対象の認識処理を行うステップと、
    を含む画像処理方法。
JP2021554461A 2019-11-06 2019-11-06 画像処理装置、部品実装システムおよび画像処理方法 Active JP7333408B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/043463 WO2021090395A1 (ja) 2019-11-06 2019-11-06 画像処理装置、部品実装システムおよび画像処理方法

Publications (2)

Publication Number Publication Date
JPWO2021090395A1 JPWO2021090395A1 (ja) 2021-05-14
JP7333408B2 true JP7333408B2 (ja) 2023-08-24

Family

ID=75848839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021554461A Active JP7333408B2 (ja) 2019-11-06 2019-11-06 画像処理装置、部品実装システムおよび画像処理方法

Country Status (5)

Country Link
US (1) US20220392190A1 (ja)
EP (1) EP4056992A4 (ja)
JP (1) JP7333408B2 (ja)
CN (1) CN114641683A (ja)
WO (1) WO2021090395A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023089767A1 (ja) * 2021-11-19 2023-05-25 株式会社Fuji 部品検査方法及び部品検査装置

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008180696A (ja) 2006-12-28 2008-08-07 Sharp Corp 欠陥検出装置、欠陥検出方法、イメージセンサデバイス、イメージセンサモジュール、欠陥検出プログラム、およびコンピュータ読取可能な記録媒体

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02140886A (ja) * 1988-11-21 1990-05-30 Omron Tateisi Electron Co 画像の前処理装置
JPH05332838A (ja) * 1992-05-26 1993-12-17 Imaizumi Shokai:Kk 色ムラ外観検査装置
JPH1089933A (ja) * 1996-09-18 1998-04-10 M I L:Kk 基板の検査方法及び基板検査装置及びlsi実装基板の製造方法
JP2001218070A (ja) * 2000-01-31 2001-08-10 Keyence Corp 画像処理方法及び画像処理装置
JP2002163650A (ja) * 2000-11-27 2002-06-07 Matsushita Electric Works Ltd 色抽出画像処理装置および色抽出方法
JP4099467B2 (ja) * 2004-08-04 2008-06-11 松下電器産業株式会社 部品の画像生成方法
JP3960346B2 (ja) * 2004-12-27 2007-08-15 オムロン株式会社 画像処理方法、基板検査方法、基板検査装置、および基板検査用の検査データ作成方法
JP5234639B2 (ja) 2009-01-31 2013-07-10 株式会社メガトレード スルーホールの検査装置
CN105473979B (zh) * 2013-08-22 2018-09-28 富士机械制造株式会社 基板的生产作业方法、基板的拍摄条件决定方法及基板的生产作业装置
DE102014100594A1 (de) * 2014-01-20 2015-07-23 Isra Surface Vision Gmbh Vorrichtung zur Inspektion eines mit einer beschichteten Oberfläche versehenen Materials und entsprechendes Verfahren
KR102175286B1 (ko) * 2018-10-11 2020-11-06 라온피플 주식회사 결함 검출 장치 및 방법

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008180696A (ja) 2006-12-28 2008-08-07 Sharp Corp 欠陥検出装置、欠陥検出方法、イメージセンサデバイス、イメージセンサモジュール、欠陥検出プログラム、およびコンピュータ読取可能な記録媒体

Also Published As

Publication number Publication date
EP4056992A4 (en) 2022-11-30
CN114641683A (zh) 2022-06-17
EP4056992A1 (en) 2022-09-14
WO2021090395A1 (ja) 2021-05-14
JPWO2021090395A1 (ja) 2021-05-14
US20220392190A1 (en) 2022-12-08

Similar Documents

Publication Publication Date Title
JP6109317B2 (ja) 基板の生産作業方法、基板の撮像条件決定方法、および基板の生産作業装置
US20120189188A1 (en) Component mounting system and mounting state inspection method in the component mounting system
JP7298017B2 (ja) 画像処理装置および実装装置、画像処理方法
CN110582686B (zh) 转印状态检查***以及元件安装机
WO2016016933A1 (ja) 部品データ取扱装置および部品データ取扱方法並びに部品実装システム
JP7333408B2 (ja) 画像処理装置、部品実装システムおよび画像処理方法
JP6472873B2 (ja) 部品検査機及び部品装着機
US11503753B2 (en) Substrate processing management system
JP2015001497A (ja) 基板検査方法および基板検査装置
CN105136818B (zh) 印刷基板的影像检测方法
WO2017098561A1 (ja) 基板用の画像処理装置および画像処理方法
JP6785404B2 (ja) スクリーン印刷装置及び部品実装ライン
JP4770517B2 (ja) 半田ペースト印刷検査方法
JP2012028460A (ja) 部品有無判定装置及び部品有無判定方法
JP6184746B2 (ja) 欠陥検出装置、欠陥修正装置および欠陥検出方法
WO2018154691A1 (ja) 対基板作業装置および画像処理方法
WO2023089767A1 (ja) 部品検査方法及び部品検査装置
EP3410834B1 (en) Electronic component mounting apparatus and production line
JP4263519B2 (ja) 自動部品マウント装置の検査方法
JP5003610B2 (ja) 基板検査方法
JP2017130592A (ja) 部品データ取扱装置および部品データ取扱方法並びに部品実装システム
WO2023248281A1 (ja) 検査装置、実装装置および検査方法
WO2023100247A1 (ja) 検査装置および検査方法
WO2024029048A1 (ja) 画像出力装置および画像出力システム
JPH06258243A (ja) 実装部品検査装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220419

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230418

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20230606

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230801

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230808

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230814

R150 Certificate of patent or registration of utility model

Ref document number: 7333408

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150