JP7365487B2 - 画像補正方法、撮像装置および検査装置 - Google Patents

画像補正方法、撮像装置および検査装置 Download PDF

Info

Publication number
JP7365487B2
JP7365487B2 JP2022502718A JP2022502718A JP7365487B2 JP 7365487 B2 JP7365487 B2 JP 7365487B2 JP 2022502718 A JP2022502718 A JP 2022502718A JP 2022502718 A JP2022502718 A JP 2022502718A JP 7365487 B2 JP7365487 B2 JP 7365487B2
Authority
JP
Japan
Prior art keywords
light source
image
source color
correction amount
correction
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022502718A
Other languages
English (en)
Other versions
JPWO2021171487A1 (ja
Inventor
雄哉 稲浦
秀一郎 鬼頭
勇太 横井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of JPWO2021171487A1 publication Critical patent/JPWO2021171487A1/ja
Application granted granted Critical
Publication of JP7365487B2 publication Critical patent/JP7365487B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N17/00Diagnosis, testing or measuring for television systems or their details
    • H04N17/002Diagnosis, testing or measuring for television systems or their details for television cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/46Colour picture communication systems
    • H04N1/56Processing of colour picture signals
    • H04N1/58Edge or detail enhancement; Noise or error suppression, e.g. colour misregistration correction
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/125Colour sequential image capture, e.g. using a colour wheel
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50Constructional details
    • H04N23/55Optical parts specially adapted for electronic image sensors; Mounting thereof
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/56Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/80Camera processing pipelines; Components thereof
    • H04N23/84Camera processing pipelines; Components thereof for processing colour signals
    • H04N23/88Camera processing pipelines; Components thereof for processing colour signals for colour balance, e.g. white-balance circuits or colour temperature control
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/60Noise processing, e.g. detecting, correcting, reducing or removing noise
    • H04N25/61Noise processing, e.g. detecting, correcting, reducing or removing noise the noise originating only from the lens unit, e.g. flare, shading, vignetting or "cos4"
    • H04N25/611Correction of chromatic aberration
    • HELECTRICITY
    • H05ELECTRIC TECHNIQUES NOT OTHERWISE PROVIDED FOR
    • H05KPRINTED CIRCUITS; CASINGS OR CONSTRUCTIONAL DETAILS OF ELECTRIC APPARATUS; MANUFACTURE OF ASSEMBLAGES OF ELECTRICAL COMPONENTS
    • H05K13/00Apparatus or processes specially adapted for manufacturing or adjusting assemblages of electric components
    • H05K13/08Monitoring manufacture of assemblages
    • H05K13/081Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines
    • H05K13/0812Integration of optical monitoring devices in assembly lines; Processes using optical monitoring devices specially adapted for controlling devices or machines in assembly lines the monitoring devices being integrated in the mounting machine, e.g. for monitoring components, leads, component placement

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Biomedical Technology (AREA)
  • General Health & Medical Sciences (AREA)
  • Operations Research (AREA)
  • Manufacturing & Machinery (AREA)
  • Microelectronics & Electronic Packaging (AREA)
  • Supply And Installment Of Electrical Components (AREA)

Description

本明細書は、画像補正方法、撮像装置および検査装置を開示する。
従来、この種の撮像装置としては、複数の色の光を照射する複数の光源を備え、複数の光源のうち選択したいずれかの光源から光を照射して被写体を撮像するものが提案されている(例えば、特許文献1参照)。この撮像装置では、選択した光源の光源色に応じて、分解能の適正値を選択したり、色収差を補正したりする。
国際公開第2019/111331号
上述したように、複数の光源を選択的に使用可能なものにおいて、各光源をそれぞれ照射して同一の被写体を撮像した各光源色の元画像をそれぞれ取得し、それらの元画像を重ね合わせて合成することで、擬似的にカラーの合成画像を生成する場合がある。その場合、重ね合わせた元画像同士のずれを抑えて高精度の合成画像を生成するために、元画像の歪曲収差と色収差とを補正する必要がある。しかし、歪曲収差の補正量と色収差の補正量をそれぞれ用いて各元画像に補正を行うため、補正に手間や時間がかかり合成画像の生成に時間を要することになる。
本開示は、元画像の歪曲収差と色収差との補正の手間を軽減して合成画像の速やかな生成を可能とすることを主目的とする。
本開示は、上述の主目的を達成するために以下の手段を採った。
本開示の画像補正方法は、
複数の異なる光源色のそれぞれの照明下で撮像された複数の元画像を重ね合わせて合成画像を生成する際に前記元画像を補正する画像補正方法であって、
(a)基準マークが設けられた部材が各光源色のそれぞれの照明下で撮像された光源色毎の基準画像のうち、特定の光源色の基準画像から認識した前記基準マークの位置を、前記特定の光源色の基準画像における前記基準位置に補正するための補正量を求めて、光源色に対応付けて設定するステップと、
(b)前記特定の光源色以外の他の光源色の前記基準画像から認識した前記基準マークの位置を、前記特定の光源色の基準画像における前記基準マークの基準位置に補正するための補正量を他の光源色毎にそれぞれ求めて、光源色に対応付けて設定するステップと、
(c)前記元画像が撮像されると、各光源色に対応付けられた補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正するステップと、
を含むことを要旨とする。
本開示の画像補正方法は、特定の光源色の基準画像から認識した基準マークの位置を、特定の光源色の基準画像における基準マークの基準位置に補正するための補正量を求める。また、他の光源色の基準画像から認識した基準マークの位置を、他の光源色の基準画像における基準マークの基準位置ではなく、特定の光源色の基準画像における基準マークの基準位置に補正するための補正量を他の光源色毎にそれぞれ求める。このため、歪曲収差の補正と色収差の補正とをまとめた補正量を、各光源色に対応付けて設定することができる。そして、元画像が撮像されると、各光源色に対応付けられた補正量を用いて元画像の歪曲収差と色収差とをまとめて補正する。このため、歪曲収差と色収差のそれぞれの補正量を用いて別々に補正する場合に比べて、元画像の歪曲収差と色収差との補正の手間を軽減して合成画像の速やかな生成を可能とすることができる。
部品実装機10の構成の概略を示す構成図。 マークカメラ50の構成の概略を示す構成図。 落射光源52のA視図。 側射光源54のB視図。 部品実装機10の制御に関わる構成を示すブロック図。 ジグプレートJPの一例を示す説明図。 補正量設定処理の一例を示すフローチャート。 各光源の補正量を設定する様子の一例を示す説明図。 実装検査処理の一例を示すフローチャート。 元画像の撮像・補正処理の一例を示すフローチャート。
次に、本開示を実施するための形態について説明する。図1は、本実施形態の部品実装機10の構成の概略を示す構成図である。図2は、マークカメラ50の構成の概略を示す構成図である。図3は、落射光源52のA視図である。図4は、側射光源54のB視図である。図5は、部品実装機10の制御に関わる構成を示すブロック図である。なお、図1の左右方向がX軸方向であり、前(手前)後(奥)方向がY軸方向であり、上下方向がZ軸方向である。部品実装機10は、基板搬送方向(X軸方向)に複数台並べて配置されて、生産ラインを構成する。
部品実装機10は、図1に示すように、フィーダ20と、基板搬送装置22と、部品を吸着する吸着ノズル45を有するヘッド40と、ヘッド40を移動させるヘッド移動装置30と、パーツカメラ23と、マークカメラ50とを備える。これらは、基台11上に設置される筐体12に収容されている。フィーダ20は、所定間隔毎に形成された収容部に部品が収容されたテープをリール21から引き出してピッチ送りすることで、部品を供給するテープフィーダとして構成されている。基板搬送装置22は、Y軸方向に間隔を空けて配置される一対のコンベアレールを備え、一対のコンベアレールを駆動することにより基板Sを図1の左から右(基板搬送方向)へと搬送する。
ヘッド40は、吸着ノズル45を上下方向(Z軸方向)に移動させるZ軸アクチュエータ41(図5参照)と、吸着ノズル45をZ軸周りに回転させるθ軸アクチュエータ42(図5参照)とを備える。ヘッド40は、吸着ノズル45の吸引口に負圧源を連通させることで、吸引口に負圧を作用させて部品を吸着し、吸着ノズル45の吸引口に正圧源を連通させることで、吸引口に正圧を作用させて部品の吸着を解除する。ヘッド移動装置30は、X軸スライダ32とY軸スライダ36とを備える。X軸スライダ32は、Y軸スライダ36の前面に左右方向(X軸方向)に延在するように設けられた上下一対のX軸ガイドレール31に支持され、X軸アクチュエータ33(図5参照)の駆動により左右方向に移動する。Y軸スライダ36は、筐体12の上段部に前後方向(Y軸方向)に延在するように設けられた左右一対のY軸ガイドレール35に支持され、Y軸アクチュエータ37(図5参照)の駆動により前後方向に移動する。X軸スライダ32にはヘッド40が取り付けられており、ヘッド40は、ヘッド移動装置30によりXY方向に移動可能となる。
パーツカメラ23は、基台11上に設置されている。パーツカメラ23は、吸着ノズル45に吸着させた部品がパーツカメラ23の上方を通過する際、当該部品を下方から撮像して撮像画像を生成し、生成した撮像画像を制御装置60へ出力する。
マークカメラ50は、X軸スライダ32に取り付けられ、ヘッド移動装置30によってヘッド40と共にXY方向に移動し、撮像対象物を上方から撮像する。撮像対象物としては、フィーダ20により供給された部品、基板Sに付されたマーク、基板Sに実装された後の部品、基板Sの回路配線(銅箔)に印刷された半田などが挙げられる。マークカメラ50は、図2に示すように、照明部50aと、カメラ本体部50bとを備える。照明部50aは、ハウジング51と、落射光源52と、ハーフミラー53と、側射光源54と、拡散板55とを有する。ハウジング51は、下面に開口する円筒状の部材であり、カメラ本体部50bの下方に取り付けられている。
落射光源52は、ハウジング51の内側の側面に設けられている。落射光源52は、図3に示すように、R(赤色)の単色光を発光する赤色LED52aと、G(緑色)の単色光を発光する緑色LED52bと、B(青色)の単色光を発光する青色LED52cとが四角形状の支持板52d上にそれぞれ同数又はほぼ同数配置されたものである。ハーフミラー53は、ハウジング51の内側に斜めに設けられており、落射光源52の各LED52a,52b,52cからの水平方向の光を下方に反射する。また、ハーフミラー53は、下方からの光をカメラ本体部50bに向けて透過する。側射光源54は、ハウジング51の下方開口付近に水平に設けられている。側射光源54は、図4に示すように、赤色LED54aと、緑色LED54bと、青色LED54cとがリング状の支持板54d上にそれぞれ同数又はほぼ同数配置されたものであり、下向きに光を照射する。拡散板55は、ハウジング51のうち側射光源54の下方に設けられている。落射光源52及び側射光源54から発せられた光は、拡散板55で拡散されたあと対象物に照射される。マークカメラ50は、落射光源52および側射光源54のうち赤光源(赤色LED52aや赤色LED54a)と緑光源(緑色LED52bや緑色LED54b)と青光源(青色LED52cや青色LED54c)とをそれぞれ個別に点灯可能となっている。
カメラ本体部50bは、図示しないレンズなどの光学系と、モノクロ撮像素子としての例えばモノクロCCD56とを備える。カメラ本体部50bは、落射光源52及び側射光源54から発せられ撮像対象物で反射した後の光がハーフミラー53を透過して到達すると、モノクロCCD56でこの光を受光して単色画像を生成する。なお、R,G,Bの各色の波長領域は、特に限定されるものではないが、例えば、Rを590-780nm、Gを490-570nm、Bを400-490nmとしてもよい。また、カメラ本体部50bは、図示しないCPUやROM,RAM,EEPROMなどを備え、機能ブロックとして、図5に示すように、制御部57と、画像処理部58と、記憶部59とを備える。制御部57は、落射光源52および側射光源54の各光源色の発光制御などを含むカメラ全体の制御を行う。画像処理部58は、モノクロCCD56で生成された画像に対して各種補正を含む画像処理を行う。記憶部59は、各種処理プログラムや画像処理用のデータなどを記憶する。記憶部59は、画像処理用のデータとして、後述する補正量ΔRS,ΔGS,ΔBSなどを記憶する。
制御装置60は、図示しないCPUやROM,RAM,HDDなどを備え、機能ブロックとして、図5に示すように、制御部61と、画像処理部62と、記憶部63とを備える。制御部61は、部品実装機10の全体の制御を行う。制御部61は、基板搬送装置22への制御信号やX軸アクチュエータ33やY軸アクチュエータ37への制御信号、Z軸アクチュエータ41やθ軸アクチュエータ42への制御信号、パーツカメラ23への制御信号、マークカメラ50への制御信号、フィーダ20への制御信号などを出力する。制御部61には、マークカメラ50からの画像やパーツカメラ23からの画像などが入力される。画像処理部62は、マークカメラ50やパーツカメラ23により撮像された画像を処理する。記憶部63は、各種処理プログラムや各種データなどを記憶する。
ここで、マークカメラ50は、落射光源52および側射光源54のうち赤光源と緑光源と青光源とをそれぞれ個別に点灯した照明下で、撮像対象物を撮像してR,G,Bの3つの元画像(単色画像)を生成する。生成された元画像は、制御装置60へ出力され、画像処理部62で3つの元画像が重ね合わせて合成処理されたカラー画像が生成される。各元画像を重ね合わせてカラー画像を生成することで、カラーカメラのベイヤー配列のように各画素を各光源色に割り当てる必要がないから、撮像時間はかかるが解像度を低下させずに撮像可能となる。ただし、光源色毎に像面の異なる位置で結像することにより画像周辺ほどずれが生じる色収差(倍率色収差)が発生する。このため、各元画像の撮像対象物をずれなく重ね合わせるために、レンズの歪みによる歪曲収差だけでなく色収差を補正する必要がある。マークカメラ50の記憶部59には、そのための補正量が記憶されている。
その補正量は、通常はマークカメラ50を部品実装機10に組み付ける前に設定され、例えばジグプレートJPを載せた台の上方にマークカメラ50を設置した状態で撮像された画像から設定される。図6は、ジグプレートJPの一例を示す説明図である。図示するように、ジグプレートJPは、規定のサイズに形成された矩形平板状のプレートであり、例えば円形状などの所定形状の基準マークMがマトリックス状に複数並んで設けられている。各基準マークMは、ジグプレートJPの中心位置JPcを基準として定められたそれぞれの理想位置に、マークの中心が位置するように設けられている。
図7は、補正量設定処理の一例を示すフローチャートである。この処理は、マークカメラ50の制御部57と画像処理部58とにより行われる。なお、画像処理部58が行う処理は、汎用のコンピュータなどで構成された画像処理装置が行ってもよい。補正量設定処理では、制御部57は、まず、赤光源(赤色LED52aや赤色LED54a)の照明下でジグプレートJPをマークカメラ50で撮像して赤基準画像R0を取得する(S100)。次に、画像処理部58は、赤基準画像R0からジグプレートJPの中心位置JPcと各基準マークMの位置を認識する(S110)。例えば、画像処理部58は、ジグプレートJPの領域を検出し、その領域の中心を中心位置JPcとして認識する。また、画像処理部58は、各基準マークMのそれぞれの領域を検出し、中心位置JPcを基準とする各領域の中心位置を各基準マークMのそれぞれの位置として認識する。
続いて、画像処理部58は、ジグプレートJPの中心位置JPcといくつかの基準マークMの位置からジグプレートJPの傾きを演算する(S120)。例えば、画像処理部58は、中心位置JPcの周囲の複数(例えば4個や12個など)の基準マークMの位置を用いて、中心位置JPcに対する各基準マークMの位置のずれからジグプレートJPの傾きを演算する。なお、中心位置JPcの周囲の基準マークMを用いるのは、中心位置JPcの近傍は歪曲収差の影響が小さいためである。
画像処理部58は、ジグプレートJPの傾きを演算すると、各基準マークMのそれぞれの理想位置と傾きから、赤基準画像R0における各基準マークMの基準位置RMPをそれぞれ導出する(S130)。基準位置RMPは、各基準マークMのそれぞれの理想位置に傾きを反映させた位置であり、赤基準画像R0において各基準マークMがあるべき位置となる。次に、画像処理部58は、S110で認識した各基準マークMの位置を、各基準マークMの基準位置RMPに位置合わせするための補正量ΔRSを基準マークM毎(位置座標毎)にそれぞれ演算し、赤光源に対応付けて記憶部59に記憶させる(S140)。
図8は、各光源の補正量を設定する様子の一例を示す説明図であり、図8Aは、赤光源に対応する補正量ΔRSを設定する様子の一例である。図8Aでは、赤基準画像R0における基準マークMを実線の白色の丸印で示し、一例として基準マークM(1)~(6)の6つのマークを示す。また、基準位置RMPを点線の丸印で示し、基準マークM(1)~(6)のそれぞれに対応する基準位置RMP(1)~(6)を示す。基準マークM(1)~(6)のそれぞれの補正量ΔRS(1)~(6)は、赤基準画像R0から認識した基準マークM(1)~(6)の位置を、基準位置RMP(1)~(6)にそれぞれ合わせるための補正量(矢印参照)となり、X軸方向およびY軸方向の移動量などとなる。
次に、制御部57は、落射光源52および側射光源54のうち緑光源の照明下でジグプレートJPをマークカメラ50で撮像して緑基準画像G0を取得する(S150)。画像処理部58は、緑基準画像G0から各基準マークMの位置を認識する(S160)。続いて、画像処理部58は、各基準マークMの位置を、S130で導出した赤基準画像R0における基準位置RMPに位置合わせするための補正量ΔGSを基準マークM毎(位置座標毎)にそれぞれ演算し、緑光源に対応付けて記憶部59に記憶させる(S170)。
図8Bは、緑光源に対応する補正量ΔGSを設定する様子の一例であり、緑基準画像G0における基準マークM(1)~(6)を実線の斜線付きの丸印で示す。また、赤基準画像R0における基準位置RMP(1)~(6)を示す。補正量ΔGS(1)~(6)は、緑基準画像G0から認識した基準マークM(1)~(6)の位置を、それぞれ基準位置RMP(1)~(6)に合わせるための補正量(X軸方向およびY軸方向の移動量など)となる。即ち、緑基準画像G0から認識した基準マークMの位置を、緑基準画像G0における基準位置ではなく、赤基準画像R0における基準位置RMPに合わせるための補正量ΔGSが設定される。このため、補正量ΔGSは、歪曲収差だけでなく緑光源の色収差を赤基準画像R0に合わせるように補正可能な補正量となる。
続いて、制御部57は、青光源(青色LED52cや青色LED54c)の照明下でジグプレートJPをマークカメラ50で撮像して青基準画像B0を取得する(S180)。画像処理部58は、青基準画像B0から各基準マークMの位置を認識する(S190)。続いて、画像処理部58は、各基準マークMの位置を、S130で導出した赤基準画像R0における基準位置RMPに位置合わせするための補正量ΔBSを基準マークM毎(位置座標毎)にそれぞれ演算し、青光源に対応付けて記憶部59に記憶させる(S200)。図8Cは、青光源に対応する補正量ΔBSを設定する様子の一例であり、図8Bと同様の手法で青光源の補正量ΔBSが設定される。即ち、青基準画像B0から認識した基準マークMの位置を、青基準画像B0における基準位置ではなく、赤基準画像R0における基準位置RMPに合わせるための補正量ΔBSが設定される。このため、緑光源の補正量ΔGSと同様に、青光源の補正量ΔBSは、歪曲収差だけでなく青光源の色収差を赤基準画像R0に合わせるように補正可能な補正量となる。これらの補正量ΔRS,ΔGS,ΔBSを記憶部59に記憶したマークカメラ50が、部品実装機10のヘッド40に組み付けられる。
次に、こうして構成された本実施形態の部品実装機10の動作について説明する。まず、部品実装処理について説明する。部品実装処理では、制御装置60の制御部61は、まず、フィーダ20の部品供給位置の上方に吸着ノズル45が来るようにヘッド移動装置30を制御し、吸着ノズル45に部品が吸着されるようにヘッド40を制御する。次に、制御部61は、ヘッド40がパーツカメラ23の上方を通過して基板Sの実装位置の上方へ移動するようにヘッド移動装置30を制御すると共に、吸着ノズル45に吸着された部品を撮像するようにパーツカメラ23を制御する。画像処理部62は、パーツカメラ23が撮像した画像を画像処理し、部品の姿勢を認識してその位置ずれ量を演算する。続いて、制御部61は、部品の位置ずれ量に基づいて補正した実装位置に、部品が実装されるようにヘッド40を制御する。制御部61は、こうした部品実装処理を繰り返し実行することにより、基板S上に予め定められた数・種類の部品を実装する。
続いて、部品実装機10が部品実装処理を行った後に行う部品の実装検査について説明する。図9は、実装検査処理の一例を示すフローチャートである。実装検査処理では、制御部61は、部品が実装された基板Sの上方にマークカメラ50が来るようにヘッド移動装置30を制御して合成元となる元画像の撮像・補正処理を実行する(S300)。図10は、元画像の撮像・補正処理の一例を示すフローチャートである。
元画像の撮像・補正処理では、マークカメラ50の制御部57は、まず、赤光源(赤色LED52aや赤色LED54a)の照明下で基板Sをマークカメラ50で撮像して元画像(単色画像)R1を取得する(S302)。そして、画像処理部58は、記憶部59に記憶された補正量ΔRSを用いて元画像R1を補正して制御部61に出力する(S304)。次に、制御部57は、緑光源(緑色LED52bや緑色LED54b)の照明下で基板Sをマークカメラ50で撮像して元画像G1を取得する(S306)。そして、画像処理部58は、記憶部59に記憶された補正量ΔGSを用いて元画像G1を補正して制御部61に出力する(S308)。続いて、制御部57は、青光源(青色LED52cや青色LED54c)の照明下で基板Sをマークカメラ50で撮像して元画像B1を取得する(S310)。そして、画像処理部58は、記憶部59に記憶された青光源の補正量ΔBSを用いて元画像B1を補正して制御部61に出力する(S312)。各光源色の補正量ΔRS,ΔGS,ΔBSをそれぞれ用いて各元画像R1,G1,B1を補正することにより、歪曲収差と色収差とをまとめて補正することができる。ここで、補正量設定処理において、緑基準画像G0や青基準画像B0のそれぞれで赤基準画像R0と同様の処理を行って歪曲収差の補正量と色収差の補正量とを光源色毎に設定した場合、歪曲収差の補正と色収差の補正とを別々に行うことになり補正に手間と時間がかかる。本実施形態では、歪曲収差と色収差とをまとめて補正することができるから、補正時間の短縮が可能となり、カラー画像を速やかに合成処理して実装検査を行うことができる。
画像処理部62は、こうして生成された補正後の各元画像R1,G1,B1を取得すると、各元画像R1,G1,B1を重ね合わせて合成処理することによりカラー画像を生成する(S320)。そして、画像処理部62は、生成したカラー画像を用いて実装検査を行って(S340)、実装検査処理を終了する。画像処理部62は、実装検査では、カラー画像から認識した部品の位置が当該部品の実装位置であるか否かを検査したり、部品の実装ずれ量(位置ずれ量や回転ずれ量)が許容範囲内であるか否かを検査したりする。上述した補正量ΔRS,ΔGS,ΔBSを用いて各元画像R1,G1,B1の歪曲収差と色収差とが適切に補正されているから、合成したカラー画像における重ね合わせのずれを抑えることができる。このため、重ね合わせのずれによる部品の位置の誤認識などを抑えることができるから、実装検査の検査精度を向上させることができる。
ここで、本実施形態の構成要素と本開示の構成要素との対応関係を明らかにする。本実施形態の記憶部59が記憶部に相当し、落射光源52と側射光源54とを備える照明部50aが光源部に相当し、モノクロCCD56を備えるカメラ本体部50bが撮像部に相当し、画像処理部58が補正部に相当し、制御部61が検査部に相当する。また、マークカメラ50が撮像装置に相当する。マークカメラ50と制御装置60とが検査装置に相当する。なお、本実施形態では、撮像装置や検査装置の動作を説明することにより本開示の画像補正方法の一例も明らかにしている。
以上説明した部品実装機10では、マークカメラ50の記憶部59に、R,G,Bの各補正量ΔRS,ΔGS,ΔBSが記憶されている。補正量ΔRSは、ジグプレートJPを赤光源の照明下で撮像した赤基準画像(特定の光源色の基準画像)R0から認識した基準マークMの位置を、赤基準画像R0における基準位置RMPに補正する補正量として設定される。一方、補正量ΔGS,ΔBSは、ジグプレートJPを緑光源,青光源の照明下で撮像した緑基準画像G0,青基準画像B0から認識した基準マークMの位置を、赤基準画像R0における基準位置RMPに補正する補正量としてそれぞれ設定される。そして、部品が実装された基板Sの元画像R1,G1,B1を撮像し、補正量ΔRS,ΔGS,ΔBSをそれぞれ用いて各元画像R1,G1,B1の歪曲収差と色収差とをまとめて補正する。このため、歪曲収差と色収差のそれぞれの補正量を用いて別々に補正する場合に比べて、元画像R1,G1,B1の歪曲収差と色収差との補正の手間を軽減することができる。
また、補正量ΔRSの設定では、赤基準画像R0におけるジグプレートJPの中心位置JPcと基準マークMの位置とに基づいてジグプレートJPの傾きを演算し、その傾きと基準マークMの理想位置とを用いて基準位置RMPが定められる。このため、ジグプレートJPの傾きを反映させた基準位置RMPを適切に定めて、補正量ΔRSを求めることができる。また、他の補正量ΔGS,ΔBSの設定では、ジグプレートJPの中心位置JPcや傾きを求めることなく基準マークMの位置を求めればよいから、各補正量を速やかに設定することができる。
また、部品実装機10では、補正後の元画像R1,G1,B1を重ね合わせてカラー画像を生成し、カラー画像を用いて部品の実装検査を行うから、歪曲収差と色収差を抑えたずれの少ないカラー画像に基づいて部品の実装検査を精度よく行うことができる。
なお、本開示は上述した実施形態に何ら限定されることはなく、本開示の技術的範囲に属する限り種々の態様で実施し得ることはいうまでもない。
例えば、上述した実施形態では、赤光源の補正量ΔRSを設定する際に用いた基準位置RMPを、緑光源の補正量ΔGSや青画像の補正量ΔBSを設定する際に用いた。即ち、特定の光源色の基準画像として赤基準画像R0を用いたが、これに限られず、特定の光源色の基準画像として緑基準画像G0を用いてもよいし、青基準画像B0を用いてもよい。
上述した実施形態では、各基準マークMの位置を各基準マークMの基準位置RMPに位置合わせするための補正量ΔRS,ΔGS,ΔBSを、基準マークM毎にそれぞれ演算し記憶部59に記憶させたが、これに限られるものではない。各色の基準画像の各基準マークMの補正量ΔRS,ΔGS,ΔBSを演算した後に、各色の基準画像におけるさらに細かいピッチの位置座標毎の補正量を、隣接する基準マークMの補正量を用いて補間演算し、記憶部59に記憶させてもよい。各色の基準画像において、演算された位置座標毎の補正量を用いてさらに補間演算し、最終的にピクセル毎の補正量を演算し、記憶部59に記憶させてもよい。
上述した実施形態では、マークカメラ50の画像処理部58が補正量ΔRS,ΔGS,ΔBSをそれぞれ用いて元画像R1,G1,B1を補正したが、これに限られず、制御装置60の制御部61が補正を行うものとしてもよい。そのようにする場合、マークカメラ50の記憶部59が補正量ΔRS,ΔGS,ΔBSを記憶していてもよく、制御装置60の記憶部63が補正量ΔRS,ΔGS,ΔBSを記憶していてもよい。
上述した実施形態では、R,G,Bの3色の元画像R1,G1,B1を合成するものを例示したが、これに限られず、これらの3色のうちいずれか2色以上または他の色を含む2色以上の元画像を合成するものであればよい。2色の場合でも一方を特定の光源色として補正量を設定すればよい。
上述した実施形態では、部品が実装された基板Sの検査を行うためのカラー画像を生成するものを例示したが、これに限られるものではない。検査対象となる基板Sや部品の色、素材、形状などによっては、画像処理部62は、カラー画像でなくても、いずれかの元画像(単色画像)R1,G1,B1のままで実装検査を行うことができる場合もある。このように実装検査においてカラー画像を用いない場合であっても、画像処理部62は、各元画像を合成処理することによりカラー画像を生成し、制御部61は、生成されたカラー画像を、部品実装機10の図示しない表示装置に表示してもよい。表示装置にカラー画像が表示されることにより、作業者は、検査対象の状況を容易に認識することができる。
上述した実施形態では、マークカメラ50が、R,G,Bの3色の光源(LED52a~52c,54a~54c)を有する照明部50aと、モノクロCCD56を有するカメラ本体部50bとを一体的に備えるものとしたが、これに限られるものではない。例えば、照明部50aと、カメラ本体部50bとが、別々に構成されていてもよい。
上述した実施形態では、部品実装機10が検査装置を兼ねるものとしたが、これに限られず、生産ラインにおける部品実装機10よりも基板搬送方向における下流側に専用の検査装置を備えてもよい。
上述した実施形態では、部品が実装された基板の検査を行うためのカラー画像を生成するものを例示したが、これに限られるものではない。部品が実装される前に基板Sの半田の検査を行うためのカラー画像を生成してもよいし、フィーダ20により供給された部品の認識を行うためのカラー画像を生成してもよい。また、マークカメラ50に適用するものを例示したが、パーツカメラ23など他の撮像装置に適用してもよい。また、部品の実装に関する検査に限られず、各色の元画像を合成した合成画像を用いて検査を行うものに適用してもよい。また、1または複数のコンピュータが本開示の画像補正方法を行うものであってもよく、例えば汎用のコンピュータとして構成された画像処理装置が本開示の画像補正方法を行ってもよい。
ここで、本開示の画像補正方法は、以下のようにしてもよい。例えば本開示の画像補正方法において、前記ステップ(a)では、前記特定の光源色の基準画像における前記部材の中心位置と前記基準マークの位置とを認識し、前記中心位置と前記基準マークの位置とに基づいて前記部材の傾きを導出し、前記部材の傾きと前記基準マークの理想位置とを用いて前記特定の光源色の基準画像における前記基準位置を定めて、前記補正量を求め、前記ステップ(b)では、前記他の光源色の前記基準画像毎に前記基準マークの位置を認識して、前記補正量を求めるものとしてもよい。こうすれば、基準マークが設けられた部材の傾きを基準マークの理想位置に反映させて特定の光源色の基準画像における基準マークの基準位置を適切に定めて、補正量を求めることができる。また、他の光源色の補正量を求める際に、他の光源色の基準画像毎に基準マークの位置を認識すればよく部材の中心位置などの認識を必要としないから、補正量を速やかに求めることができる。
本開示の撮像装置は、上述したいずれかの画像補正方法で設定された前記補正量を各光源色に対応付けて記憶する記憶部と、複数の異なる光源色を照射可能な光源部と、各光源色のそれぞれの照明下で合成画像の元画像を撮像する撮像部と、前記元画像が撮像されると、各光源色に対応付けられた前記補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正する補正部と、を備えることを要旨とする。
本開示の撮像装置は、上述したいずれかの画像補正方法で設定された補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正するから、上述した画像補正方法と同様に、元画像の歪曲収差と色収差との補正の手間を軽減して合成画像の速やかな生成を可能とすることができる。
本開示の検査装置は、上述したいずれかの画像補正方法で設定された前記補正量を各光源色に対応付けて記憶する記憶部と、複数の異なる光源色を照射可能な光源部と、部品が実装された基板の画像を元画像として各光源色のそれぞれの照明下で撮像する撮像部と、前記元画像が撮像されると、各光源色に対応付けられた前記補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正する補正部と、歪曲収差と色収差とが補正された前記元画像を重ね合わせて合成画像を生成し、前記合成画像に基づいて前記部品の実装検査を行う検査部と、を備えることを要旨とする。
本開示の検査装置は、上述したいずれかの画像補正方法で設定された補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正するから、上述した画像補正方法と同様に、元画像の歪曲収差と色収差との補正の手間を軽減して合成画像の速やかな生成を可能とすることができる。また、合成画像に基づいて部品の実装検査を精度よく行うことができる。
本開示は、撮像装置や検査装置、部品実装機の製造産業などに利用可能である。
10 部品実装機、11 基台、12 筐体、20 フィーダ、21 リール、22 基板搬送装置、23 パーツカメラ、30 ヘッド移動装置、31 X軸ガイドレール、32 X軸スライダ、33 X軸アクチュエータ、35 Y軸ガイドレール、36 Y軸スライダ、37 Y軸アクチュエータ、40 ヘッド、41 Z軸アクチュエータ、42 θ軸アクチュエータ、45 吸着ノズル、50 マークカメラ、50a 照明部、50b カメラ本体部、51 ハウジング、52 落射光源、52a 赤色LED、52b 緑色LED、52c 青色LED、52d 支持板、53 ハーフミラー、54 側射光源、54a 赤色LED、54b 緑色LED、54c 青色LED、54d 支持板、55 拡散板、56 モノクロCCD、57 制御部、58 画像処理部、59 記憶部、60 制御装置、61 制御部、62 画像処理部、63 記憶部、S 基板。

Claims (4)

  1. 複数の異なる光源色のそれぞれの照明下で撮像された複数の元画像を重ね合わせて合成画像を生成する際に前記元画像を補正する画像補正方法であって、
    (a)基準マークが設けられた部材が各光源色のそれぞれの照明下で撮像された光源色毎の基準画像のうち、特定の光源色の基準画像から認識した前記基準マークの位置を、前記特定の光源色の基準画像における前記基準マークの基準位置に補正するための補正量を求めて、光源色に対応付けて設定するステップと、
    (b)前記特定の光源色以外の他の光源色の前記基準画像から認識した前記基準マークの位置を、前記特定の光源色の基準画像における前記基準位置に補正するための補正量を他の光源色毎にそれぞれ求めて、光源色に対応付けて設定するステップと、
    (c)前記元画像が撮像されると、各光源色に対応付けられた補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正するステップと、
    を含む画像補正方法。
  2. 請求項1に記載の画像補正方法であって、
    前記ステップ(a)では、前記特定の光源色の基準画像における前記部材の中心位置と前記基準マークの位置とを認識し、前記中心位置と前記基準マークの位置とに基づいて前記部材の傾きを導出し、前記部材の傾きと前記基準マークの理想位置とを用いて前記特定の光源色の基準画像における前記基準位置を定めて、前記補正量を求め、
    前記ステップ(b)では、前記他の光源色の前記基準画像毎に前記基準マークの位置を認識して、前記補正量を求める
    画像補正方法。
  3. 請求項1または2の画像補正方法で設定された前記補正量を各光源色に対応付けて記憶する記憶部と、
    複数の異なる光源色を照射可能な光源部と、
    各光源色のそれぞれの照明下で合成画像の元画像を撮像する撮像部と、
    前記元画像が撮像されると、各光源色に対応付けられた前記補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正する補正部と、
    を備える撮像装置。
  4. 請求項1または2の画像補正方法で設定された前記補正量を各光源色に対応付けて記憶する記憶部と、
    複数の異なる光源色を照射可能な光源部と、
    部品が実装された基板の画像を元画像として各光源色のそれぞれの照明下で撮像する撮像部と、
    前記元画像が撮像されると、各光源色に対応付けられた前記補正量を用いて各光源色の元画像の歪曲収差と色収差とをまとめて補正する補正部と、
    歪曲収差と色収差とが補正された前記元画像を重ね合わせて合成画像を生成し、前記合成画像に基づいて前記部品の実装検査を行う検査部と、
    を備える検査装置。
JP2022502718A 2020-02-27 2020-02-27 画像補正方法、撮像装置および検査装置 Active JP7365487B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2020/008044 WO2021171487A1 (ja) 2020-02-27 2020-02-27 画像補正方法、撮像装置および検査装置

Publications (2)

Publication Number Publication Date
JPWO2021171487A1 JPWO2021171487A1 (ja) 2021-09-02
JP7365487B2 true JP7365487B2 (ja) 2023-10-19

Family

ID=77491096

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022502718A Active JP7365487B2 (ja) 2020-02-27 2020-02-27 画像補正方法、撮像装置および検査装置

Country Status (5)

Country Link
US (1) US11997375B2 (ja)
EP (1) EP4113967A4 (ja)
JP (1) JP7365487B2 (ja)
CN (1) CN115136579B (ja)
WO (1) WO2021171487A1 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN116075148B (zh) * 2023-03-14 2023-06-20 四川易景智能终端有限公司 一种基于人工智能的pcba板生产线智能监管***

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014035261A (ja) 2012-08-08 2014-02-24 Sony Corp 情報処理方法、情報処理装置、プログラム、撮像装置、検査方法、検査装置、及び基板の製造方法
JP2015032895A (ja) 2013-07-31 2015-02-16 ブラザー工業株式会社 画像処理装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08116490A (ja) * 1994-10-14 1996-05-07 Olympus Optical Co Ltd 画像処理装置
US6682863B2 (en) * 2002-06-27 2004-01-27 Eastman Kodak Company Depositing an emissive layer for use in an organic light-emitting display device (OLED)
EP1607041B1 (en) * 2004-06-17 2008-01-16 Cadent Ltd. Method for providing data associated with the intraoral cavity
JP5109352B2 (ja) * 2006-12-06 2012-12-26 ソニー株式会社 プロジェクタ及びプロジェクタの調整方法
JP5353361B2 (ja) * 2009-03-26 2013-11-27 ブラザー工業株式会社 カラー画像表示装置
JP2011215395A (ja) * 2010-03-31 2011-10-27 Canon Inc 収差補正機能を有する撮像装置及び撮像装置における収差補正方法
JP2012138891A (ja) * 2010-12-08 2012-07-19 Canon Inc 撮像装置
JP2013017142A (ja) * 2011-07-06 2013-01-24 Sony Corp 画像処理装置、撮像装置、画像処理方法及びプログラム
JP5762587B2 (ja) * 2013-04-15 2015-08-12 キヤノン株式会社 画像処理装置および画像処理方法
US10334770B2 (en) * 2013-07-08 2019-06-25 Fuji Corporation Component holding state detection method and component mounting machine
JP6408817B2 (ja) * 2014-07-22 2018-10-17 オリンパス株式会社 画像処理装置、画像処理方法、画像処理プログラム、及び撮像システム
DE102014112666A1 (de) * 2014-08-29 2016-03-03 Carl Zeiss Ag Bildaufnahmevorrichtung und Verfahren zur Bildaufnahme
WO2017110416A1 (ja) * 2015-12-21 2017-06-29 株式会社小糸製作所 車両用画像取得装置、および車両用画像取得装置を備えた車両
CN105915757B (zh) * 2016-06-06 2018-06-01 北京时代拓灵科技有限公司 一种基于rgb彩色通道误差函数的颜色校正方法
US11095800B2 (en) * 2017-12-05 2021-08-17 Fuji Corporation Imaging unit and component mounting machine
US11350063B2 (en) * 2020-04-14 2022-05-31 Apple Inc. Circuit for correcting lateral chromatic abberation

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014035261A (ja) 2012-08-08 2014-02-24 Sony Corp 情報処理方法、情報処理装置、プログラム、撮像装置、検査方法、検査装置、及び基板の製造方法
JP2015032895A (ja) 2013-07-31 2015-02-16 ブラザー工業株式会社 画像処理装置

Also Published As

Publication number Publication date
CN115136579B (zh) 2023-08-04
JPWO2021171487A1 (ja) 2021-09-02
CN115136579A (zh) 2022-09-30
US20230116070A1 (en) 2023-04-13
EP4113967A4 (en) 2023-03-29
WO2021171487A1 (ja) 2021-09-02
US11997375B2 (en) 2024-05-28
EP4113967A1 (en) 2023-01-04

Similar Documents

Publication Publication Date Title
KR101390890B1 (ko) 반도체 칩의 실장장치 및 실장방법
JP5877639B2 (ja) 画像生成装置および画像生成方法
JP2023118927A (ja) 対基板作業システム
KR101561895B1 (ko) 레이저 장치와 워크피스 표면에 레이저를 조사하는 방법
US10743448B2 (en) Substrate position detection device
JP7365487B2 (ja) 画像補正方法、撮像装置および検査装置
US11095800B2 (en) Imaging unit and component mounting machine
JP5787440B2 (ja) 部品実装機の画像処理装置
JP7301973B2 (ja) 検査装置
JP6836938B2 (ja) ダイボンディング装置および半導体装置の製造方法
WO2023276059A1 (ja) 部品実装機
US11557109B2 (en) Image-capturing unit and component-mounting device
JP7271738B2 (ja) 撮像ユニット
JP7225433B2 (ja) 作業機
WO2019030875A1 (ja) 画像処理システムおよび部品実装機
JP2022072260A (ja) 位置ずれ検出方法、位置ずれ検出装置、位置合せ装置および検査装置
WO2018100692A1 (ja) 電子部品の画像処理方法及び画像処理装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220816

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20231003

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231006

R150 Certificate of patent or registration of utility model

Ref document number: 7365487

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150