JP2023032090A - 画像処理装置、画像処理方法、プログラム - Google Patents
画像処理装置、画像処理方法、プログラム Download PDFInfo
- Publication number
- JP2023032090A JP2023032090A JP2021137993A JP2021137993A JP2023032090A JP 2023032090 A JP2023032090 A JP 2023032090A JP 2021137993 A JP2021137993 A JP 2021137993A JP 2021137993 A JP2021137993 A JP 2021137993A JP 2023032090 A JP2023032090 A JP 2023032090A
- Authority
- JP
- Japan
- Prior art keywords
- information
- unit
- subject
- imaging
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 57
- 238000003672 processing method Methods 0.000 title description 4
- 238000003384 imaging method Methods 0.000 claims abstract description 266
- 238000005286 illumination Methods 0.000 claims abstract description 60
- 230000010365 information processing Effects 0.000 claims description 15
- 230000000007 visual effect Effects 0.000 claims description 3
- 238000012790 confirmation Methods 0.000 abstract description 6
- 238000007689 inspection Methods 0.000 description 69
- 238000010586 diagram Methods 0.000 description 37
- 230000003287 optical effect Effects 0.000 description 33
- 230000006870 function Effects 0.000 description 26
- 230000007246 mechanism Effects 0.000 description 26
- 238000000034 method Methods 0.000 description 10
- 238000004364 calculation method Methods 0.000 description 9
- 238000007599 discharging Methods 0.000 description 9
- 230000007547 defect Effects 0.000 description 7
- 230000008569 process Effects 0.000 description 7
- 238000004891 communication Methods 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 5
- 238000013461 design Methods 0.000 description 4
- 235000019646 color tone Nutrition 0.000 description 3
- 230000001678 irradiating effect Effects 0.000 description 3
- 239000004973 liquid crystal related substance Substances 0.000 description 3
- 230000004044 response Effects 0.000 description 3
- 239000000203 mixture Substances 0.000 description 2
- 238000004088 simulation Methods 0.000 description 2
- 238000012546 transfer Methods 0.000 description 2
- 240000001973 Ficus microcarpa Species 0.000 description 1
- 230000008859 change Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000005484 gravity Effects 0.000 description 1
- 238000002347 injection Methods 0.000 description 1
- 239000007924 injection Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 239000007787 solid Substances 0.000 description 1
- 230000008685 targeting Effects 0.000 description 1
- 230000009466 transformation Effects 0.000 description 1
Images
Landscapes
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Processing Or Creating Images (AREA)
- Image Generation (AREA)
Abstract
【課題】反射光量を考慮したカメラ/ワーク位置関係を得るための確認作業の効率の向上。【解決手段】画像処理装置は、推定部と、属性付加部と、出力部とを備える。推定部は、被写体の第1の3次元モデルの外郭を示す情報を含む第1のモデル情報と、被写体を撮像の対象とする撮像部と被写体との相対的な位置関係を示す位置情報と、被写体を照射する照射光の特性を示す照明情報とに基づいて、撮像部によって撮像される被写体の画像を推定して得られる推定画像を示す情報である推定情報を得る。属性付加部は、推定情報と第1のモデル情報とに基づいて、照射光を被写体が反射して撮像部へ入射する光である反射光の状態を示す情報である反射情報を第1のモデル情報に対して付加し、被写体の第2の3次元モデルの外郭を示す情報を含む第2のモデル情報を生成する。出力部は、被写体を観察する観察位置に基づいて、第2の3次元モデルを視覚的に出力する。【選択図】図14
Description
本開示は画像処理に関する。
立体形状を有する部品における欠陥の検査は、例えば当該検査の対象(以下「検査対象物」あるいは「ワーク」と称される)に対して、人が様々な角度から目視して行われる。例えば、人員の削減および品質水準の担保を目的として、検査対象物の検査を自動的に行う検査装置が提案されている。
例えば、カメラで撮像された画像が画面に表示され、当該画像においてワークのうちの検査の対象となる部分が捉えられた領域が指定され得る(例えば特許文献1)。
例えば、人間の腕に似た構造を有する産業用のロボットアームの先端に光学機器を取り付けることで、検査の対象物の所望の部分を自在に撮像可能な欠陥検査装置が考えられている(例えば、特許文献2)。このような欠陥検査装置によれば、例えば、人による目視検査では対応しにくい大型のワークであっても、検査を行うことが可能となる。
ワークの外形が穴部や凹部を含むときや、ワークの表面の状態によっては、照明からワークに光が照射され、ワークで光が反射されても、ワークからカメラへ入射する光の量(以下「反射光量」と仮称される)が欠陥検査にとって不足である場合がある。
このような場合に反射光量を高めるために、カメラとワークとの相対的な位置関係(以下「カメラ/ワーク位置関係」とも仮称される。)を変更することが考えられる。特許文献2においては、カメラ/ワーク位置関係を変更する技術が開示される。特許文献3においては、検査に必要な強度の反射光の進行方向のばらつきを示す角度を特定し、その角度に基づく値を許容値として設定することにより、検査が可能な範囲の認識精度を確保する技術が開示される。
反射光量が欠陥検査に要求される光量を満足するカメラ/ワーク位置関係を得るには、しかし、多くの場合には試行錯誤的にカメラ/ワーク位置関係毎の反射光量を確認する必要がある。かかる確認を欠陥検査の度に行うことは、欠陥検査に必要な工数を増大させるという課題がある。
本開示は、上記課題に鑑みてなされたものであり、反射光量を考慮したカメラ/ワーク位置関係を得るための確認作業の効率の向上を目的とする。
第1の態様に係る画像処理装置は、推定部と、属性付加部と、出力部とを備える。前記推定部は、被写体の第1の3次元モデルの外郭を示す情報を含む第1のモデル情報と、前記被写体を撮像の対象とする撮像部と前記被写体との相対的な位置関係を示す位置情報と、前記被写体を照射する照射光の特性を示す照明情報とに基づいて、前記撮像部によって撮像される前記被写体の画像を推定して得られる推定画像を示す情報である推定情報を得る。前記属性付加部は、前記推定情報と、前記第1のモデル情報とに基づいて、前記照射光を前記被写体が反射して前記撮像部へ入射する光である反射光の状態を示す情報である反射情報を前記第1のモデル情報に対して付加して、前記被写体の第2の3次元モデルの外郭を示す情報を含む第2のモデル情報を生成する。前記出力部は、前記被写体を観察する観察位置に基づいて、前記第2の3次元モデルを視覚的に出力する。
第2の態様に係る画像処理装置は、第1の態様に係る画像処理装置であって、前記推定部は複数の前記位置情報にそれぞれ対応する複数の前記推定情報を得て、前記属性付加部は前記複数の前記推定情報に基づいて、前記複数の前記位置情報のそれぞれに対応する前記反射情報を一の前記第1のモデル情報に対して付加して、一の前記第2のモデル情報を生成し、前記出力部は、前記複数の前記位置情報のそれぞれに対応した前記反射情報同士を互いに異なる態様にして前記第2の3次元モデルを視覚的に出力する。
第3の態様に係る画像処理方法は、被写体の第1の3次元モデルの外郭を示す情報を含む第1のモデル情報と、前記被写体を撮像の対象とする撮像部と前記被写体との相対的な位置関係を示す位置情報と、前記被写体を照射する照射光の特性を示す照明情報とに基づいて、前記撮像部によって撮像される前記被写体の画像を推定して得られる推定画像を示す情報である推定情報を得るステップと、前記推定情報と、前記第1のモデル情報とに基づいて、前記照射光を前記被写体が反射して前記撮像部へ入射する光である反射光の状態を示す情報である反射情報を前記第1のモデル情報に対して付加して、前記被写体の第2の3次元モデルを生成するステップと、前記被写体を観察する観察位置に基づいて、前記第2の3次元モデルを視覚的に出力するステップとを備える。
第1の態様に係る画像処理装置は、反射光量を考慮したカメラ/ワーク位置関係を得るための確認作業の効率を向上する。
第2の態様に係る画像処理装置は、操作者が新たに設定する撮像部の位置の選定に寄与する。
第3の態様に係る画像処理方法は、反射光量を考慮したカメラ/ワーク位置関係を得るための確認作業の効率を向上する。
以下、添付の図面を参照しながら、本開示の各実施形態が説明される。各実施形態に記載されている構成要素はあくまでも例示であり、本開示の範囲をそれらのみに限定する趣旨のものではない。図面は、あくまでも模式的に示したものである。図面においては、容易に理解が可能となるように、必要に応じて各部の寸法および数が誇張または簡略化されて図示されている場合がある。図面においては、同様な構成および機能を有する部分に対して同じ符号が付されており、重複した説明が適宜省略されている。
本明細書では、相対的または絶対的な位置関係を示す表現(例えば「平行」「直交」「中心」等)は、特に断らない限り、その位置関係を厳密に表すのみならず、公差も含む状態を表すとともに、同程度の機能が得られる範囲で相対的に角度または距離に関して変位された状態も表すものとする。2つ以上のものが等しい状態であることを示す表現(例えば「同一」「等しい」「均質」等)は、特に断らない限り、定量的に厳密に等しい状態を表すのみならず、公差もしくは同程度の機能が得られる差が存在する状態も表すものとする。
形状を示す表現(例えば「四角形状」または「円筒形状」等)は、特に断らない限り、幾何学的に厳密に形状を表すのみならず、同程度の効果が得られる範囲で、例えば凹凸または面取り等を有する形状も表すものとする。
1つの構成要素を「備える」「具える」「具備する」「含む」または「有する」という表現は、他の構成要素の存在を除外する排他的表現ではない。
「連結」という表現は、特に断らない限り、2つの要素が接している状態のほか、2つの要素が他の要素を挟んで離れている状態も含む表現である。
<1.検査システムの構成>
図1から図10を参照しながら、本開示に係る検査システム1が説明される。図1は、本開示に係る検査システム1の外観を模式的に示す斜視図である。図2は、本開示に係る検査システム1の概略的な構成を示す図である。
図1から図10を参照しながら、本開示に係る検査システム1が説明される。図1は、本開示に係る検査システム1の外観を模式的に示す斜視図である。図2は、本開示に係る検査システム1の概略的な構成を示す図である。
図1および図2で示されるように、検査システム1は、例えば、投入装置11と、4つの撮像装置12と、反転装置13と、排出装置14と、を備えている。より具体的には、検査システム1では、例えば、投入装置11と、1つ目の撮像装置(第1撮像装置ともいう)121と、2つ目の撮像装置(第2撮像装置ともいう)122と、反転装置13と、3つ目の撮像装置(第3撮像装置ともいう)123と、4つ目の撮像装置(第4撮像装置ともいう)124と、排出装置14とが、+X方向においてこの記載の順に連結されている状態で位置している。投入装置11、撮像装置12、反転装置13および排出装置14は、適宜「装置」と略称される。ここでは、例えば、別々に作製された複数の装置11,12,13,14を+X方向において相互に連結されることで、検査システム1が製造される。例えば、1つまたは2つ以上の撮像装置12を含む2つ以上の装置を適宜組み合わせることで検査システムが製造される。装置11,12,13,14は、例えば、連結用の部材およびネジ等の締結部材等を用いて相互に連結される。
各装置11,12,13,14は、例えば、上部にワークW0が載置および搬送される内部空間を有する筒状の部分(筒状部ともいう)を有する。この筒状部は、例えば、+X方向に貫通するように位置している。具体的には、例えば、投入装置11は、筒状部11tbを有し、撮像装置12は、筒状部12tbを有し、反転装置13は、筒状部13tbを有し、排出装置14は、筒状部14tbを有する。
例えば、複数の装置11,12,13,14の間でワークW0の搬送が可能な経路(搬送経路ともいう)Rt1を成す1つの筒状の部分(筒状部)1tbを形成するように、複数の装置11,12,13,14が相互に連結されている。図2では、+X方向に沿った搬送経路Rt1に沿って2点鎖線の矢印が描かれている。
本開示において表示されるXYZ座標系は右手系であり、水平面に沿ってワークW0が搬送される方向が+X方向とされ、水平面に沿ってワークW0が搬送される方向に垂直な方向が+Y方向とされ、+X方向と+Y方向との両方に直交している重力方向が-Z方向とされている。
例えば、筒状部1tbは、投入装置11の筒状部11tbと、第1撮像装置121の筒状部12tbと、第2撮像装置122の筒状部12tbと、反転装置13の筒状部13tbと、第3撮像装置123の筒状部12tbと、第4撮像装置124の筒状部12tbと、排出装置14の筒状部14tbと、が+X方向においてこの順に連結されている状態で構成されている。
検査システム1は、例えば、投入装置11から、第1撮像装置121、第2撮像装置122、反転装置13、第3撮像装置123、第4撮像装置124および排出装置14の順に、ワークW0を搬送して、ワークW0を検査することができる。ここで、各筒状部11tb,12tb,13tb,14tbにおける+Z方向に位置する上面部および±Y方向に位置する側面部は、例えば、透明であっても透明でなくてもよい。
<1-1.投入装置の構成>
投入装置11は、検査システム1の外部からワークW0が投入される装置である。この投入装置11は、例えば、検査システム1に含まれる複数の装置のうちのワークW0の搬送経路Rt1における最初に位置している。
投入装置11は、検査システム1の外部からワークW0が投入される装置である。この投入装置11は、例えば、検査システム1に含まれる複数の装置のうちのワークW0の搬送経路Rt1における最初に位置している。
図1および図2の例では、投入装置11は、ワークW0を搬送可能な搬送部Cv1であるベルトコンベアを有し、各撮像装置12は、ワークW0を搬送可能な搬送部Cv2であるベルトコンベアを有し、反転装置13は、ワークW0を搬送可能な搬送部Cv3であるベルトコンベアを有し、排出装置14は、ワークW0を搬送可能な搬送部Cv4であるベルトコンベアを有する。
投入装置11の搬送部Cv1は、例えば、投入装置11と該投入装置11の外部との間でワークW0を搬送することができる。撮像装置12の搬送部Cv2は、例えば、撮像装置12と該撮像装置12の外部との間でワークW0を搬送することができる。反転装置13の搬送部Cv3は、例えば、反転装置13と該反転装置13の外部との間でワークW0を搬送することができる。排出装置14の搬送部Cv4は、例えば、排出装置14と該排出装置14の外部との間でワークW0を搬送することができてもよいし、排出装置14内における所定の位置までワークW0を搬送することができてもよい。
例えば、投入装置11は、筒状部11tbのうちの撮像装置12とは逆側の-X方向の端部に開閉可能な部分(開閉部ともいう)11ocを有する。開閉部11ocは、例えば、開閉可能な扉またはシャッター等を有する。例えば、開閉部11ocを介して投入装置11にワークW0を投入することができる。
例えば、作業者Op0が、投入装置11にワークW0を投入する態様が考えられる。この場合には、例えば、搬送部Cv1としてのベルトコンベアのベルト上に描画もしくは投影された目印に合わせて作業者Op0がベルトコンベアのベルト上にワークW0を載置する態様が考えられる。投入装置11では、例えば、ベルト上に載置されるワークW0を検知するセンサによって、投入装置11にワークW0が投入されたことが検知されてもよい。
例えば、検査システム1の外部に設けられたロボット等が、ベルトコンベアのベルト上にワークW0を載置することで、投入装置11にワークW0を投入してもよい。例えば、搬送部Cv1は、搬送部Cv1としてのベルトコンベアのベルト上に載置されたワークW0を、投入装置11の+X方向の外部に位置している第1撮像装置121の搬送部Cv2(搬送部Cv21ともいう)に受け渡すことができる。
<1-2.撮像装置の構成>
撮像装置12は、例えば、ワークW0を撮像の対象物(撮像対象物ともいう)とした検査用の処理としての撮像を行う。
撮像装置12は、例えば、ワークW0を撮像の対象物(撮像対象物ともいう)とした検査用の処理としての撮像を行う。
第1撮像装置121は、例えば、投入装置11の搬送部Cv1から第1撮像装置121の搬送部Cv21に受け渡されたワークW0を対象として、検査用の処理としての撮像を行うことができる。第1撮像装置121で撮像されたワークW0は、例えば、搬送部Cv21によって第1撮像装置121から該第1撮像装置121の+X方向の外部に位置している第2撮像装置122の搬送部Cv2(搬送部Cv22ともいう)に受け渡される。
第2撮像装置122は、例えば、第1撮像装置121の搬送部Cv21から第2撮像装置122の搬送部Cv22に受け渡されたワークW0を対象として、検査用の処理としての撮像を行うことができる。第2撮像装置122で撮像されたワークW0は、例えば、搬送部Cv22によって第2撮像装置122から該第2撮像装置122の+X方向の外部に位置している反転装置13の搬送部Cv3に受け渡される。
第3撮像装置123は、例えば、反転装置13の搬送部Cv3から第3撮像装置123の搬送部Cv2(搬送部Cv23ともいう)に受け渡されたワークW0を対象として、検査用の処理としての撮像を行うことができる。第3撮像装置123で撮像されたワークW0は、例えば、搬送部Cv23によって第3撮像装置123から該第3撮像装置123の+X方向の外部に位置している第4撮像装置124の搬送部Cv2(搬送部Cv24ともいう)に受け渡される。
第4撮像装置124は、例えば、第3撮像装置123の搬送部Cv23から第4撮像装置124の搬送部Cv24に受け渡されたワークW0を対象として、検査用の処理としての撮像を行うことができる。第4撮像装置124で撮像されたワークW0は、例えば、搬送部Cv24によって第4撮像装置124から該第4撮像装置124の+X方向の外部に位置している排出装置14の搬送部Cv4に受け渡される。
図3は、本開示に係る撮像装置12の主要な物理的構成の一例を示す図である。図4は、本開示に係る撮像ユニット12sの物理的構成の一例を示す図である。ここでは、第1撮像装置121、第2撮像装置122、第3撮像装置123および第4撮像装置124は、それぞれ同様な構成を有する場合が例示される。
図3で示されるように、撮像装置12は、例えば、搬送部Cv2と、撮像ユニット12sと、移動機構12tと、を有する。
搬送部Cv2は、例えば、撮像対象物としてのワークW0を載置するための部分(載置部ともいう)Sg2としての機能を有する。
撮像ユニット12sは、例えば、撮像対象物としてのワークW0を対象とした撮像を行うことができる。本開示では、撮像装置12は、1つの撮像ユニット12sを有する。具体的には、図4で示されるように、撮像ユニット12sは、例えば、撮像部I1および照明部F1を有する。
撮像部I1は、例えば、電荷結合素子(Charge Coupled Device:CCD)等の撮像素子と、この撮像素子にワークW0の光像を結像させるための光学系としてのレンズ部Lz1と、を有する。
照明部F1には、例えば、複数の発光ダイオード(Light Emitting Diode:LED)が2次元的に配列された面状の照明等が適用される。この場合には、例えば、照明部F1によって、ワークW0を広範囲にわたって照明することができる。
図4の例では、レンズ部Lz1は、照明部F1の孔部H1に挿通された状態で位置している。別の観点から言えば、レンズ部Lz1の光軸Pi1が、孔部H1を通るように設定されている。具体的には、撮像部I1のレンズ部Lz1が、照明部F1の孔部H1に挿通された状態で位置している。別の観点から言えば、レンズ部Lz1の光軸Pi1が、孔部H1を通るように設定されている。これにより、例えば、撮像部I1は、照明部F1によって照明されたワークW0の少なくとも一部を被写体として撮像を行うことができる。
移動機構12tは、例えば、載置部Sg2に載置されたワークW0に対して撮像ユニット12sを相対的に移動させることができる。別の観点から言えば、移動機構12tは、例えば、ワークW0を載置するための載置部Sg2に対して撮像ユニット12sを相対的に移動させることができる。
本開示では、撮像装置12は1つの移動機構12tを有する。具体的には移動機構12tは、図3で示されるように、例えば、載置部Sg2に載置されたワークW0に対して撮像ユニット12s1を相対的に移動させることができる。別の観点から言えば、移動機構12tは、例えば、ワークW0を載置するための載置部Sg2に対して撮像ユニット12sを相対的に移動させることができる。
このような構成が採用されれば、例えば、ワークW0に対して、照明部F1によって照明されたワークW0を、撮像部I1によって撮像することができる。
移動機構12tには、例えば、ロボットアーム等が適用される。ロボットアームには、例えば、多くの軸を基準として駆動可能なロボットアーム(多軸ロボットアームともいう)が適用される。ここで、例えば、移動機構12tが多軸ロボットアームであってもよい。このように、例えば、移動機構12tに多軸ロボットアームが適用されれば、ワークW0の各部分を複数の角度から撮像することができる。
多軸ロボットアームには、例えば、基準部Pt0と、第1可動部Pt1と、第2可動部Pt2と、第3可動部Pt3と、第4可動部Pt4と、第5可動部Pt5と、第6可動部Pt6と、を有する6軸で回動可能なロボットアーム(6軸ロボットアームともいう)が適用される。この場合には、基準部Pt0は、例えば、撮像装置12のベース部Bs12等に固定されている。このベース部Bs12には、例えば、搬送部Cv2のベルトコンベアが固定されていてもよい。
基準部Pt0は、例えば、+Z方向に沿った第1軸Pl1を中心として第1可動部Pt1を回動可動に保持する回動部Pr1を有する。第1可動部Pt1は、例えば、水平方向に沿った第2軸Pl2を中心として第2可動部Pt2を回動可動に保持する第2回動部Pr2を有する。第2可動部Pt2は、例えば、水平方向に沿った第3軸Pl3を中心として第3可動部Pt3を回動可動に保持する第3回動部Pr3を有する。第3可動部Pt3は、例えば、第3軸Pl3に垂直である第4軸Pl4を中心として第4可動部Pt4を回動可動に保持する第4回動部Pr4を有する。第4可動部Pt4は、例えば、第4軸Pl4に垂直である第5軸Pl5を中心として第5可動部Pt5を回動可動に保持する第5回動部Pr5を有する。第5可動部Pt5は、例えば、第5軸Pl5に垂直である第6軸Pl6を中心として第6可動部Pt6を回動可動に保持する第6回動部Pr6を有する。そして、第6可動部Pt6に撮像ユニット12sが固定された状態で位置している。
例えば撮像ユニット12sが、載置部Sg2上に載置されたワークW0を全周にわたって撮像可能であってもよい。この場合には、例えば、ワークW0の表面のさらに広いエリアについて、ワークW0の各部分を複数の角度から容易に撮像することができる。ここでは、ワークW0を全周にわたって撮像可能である態様には、例えば、載置部Sg2上に載置されたワークW0を、該ワークW0を通る鉛直方向(Z方向)に沿った仮想軸を中心とした周方向における360度のいずれの角度からも撮像が可能である態様が含まれる。
ワークW0を全周にわたって撮像可能な態様には、例えば、載置部Sg2上に載置されたワークW0を、載置部Sg2側を除く周囲におけるいずれの角度からも撮像が可能であってもよい。
移動機構12tおよび撮像ユニット12sが、それぞれ複数、例えばそれぞれ一対設けられてもよい(例えば特許文献2参照)。その場合、例えば、載置部Sg2としての搬送部Cv2を挟むように、一対の移動機構12tが設けられる。これにより、例えば、ワークW0の表面のより広いエリアについて、ワークW0の各部分を複数の照明条件で容易に撮像することが可能となる。例えば、一方の撮像ユニット12sが有する照明部F1から発せられた光のうち、ワークW0上で反射された光が、他方の撮像ユニット12sによって撮像されてもよい。
<1-3.反転装置の構成>
反転装置13は、例えば、ワークW0を反転させることができる。ワークW0の反転は、例えば、ワークW0の上下の反転を含む。ここで、反転装置13は、例えば、第2撮像装置122の搬送部Cv22から搬送部Cv3に受け渡されたワークW0を反転させることができる。
反転装置13は、例えば、ワークW0を反転させることができる。ワークW0の反転は、例えば、ワークW0の上下の反転を含む。ここで、反転装置13は、例えば、第2撮像装置122の搬送部Cv22から搬送部Cv3に受け渡されたワークW0を反転させることができる。
反転装置13は、例えば、ワークW0を反転させるためにワークW0を保持することが可能な保持部13h(図9参照)と、保持部13hによってワークW0を保持させた状態で保持部13hを移動させることでワークW0を反転させることが可能な移動機構13t(図9参照)と、を有する。
保持部13hには、例えば、ワークW0を挟持することが可能な2本以上の指部を有するハンド等が適用される。反転装置13の移動機構13tには、例えば、撮像装置12の移動機構12tと同様にロボットアーム等が適用される。
反転装置13は、例えば、1つの保持部13hに対して1つの移動機構13tを有していればよい。より具体的には、反転装置13は、例えば、1つの保持部13hが存在する場合には、1つの移動機構13tを有していればよいし、2つ以上の保持部13hが存在する場合には、2つ以上の移動機構13tを有していればよい。
<1-4.排出装置の構成>
排出装置14は、例えば、検査システム1の内部から検査システム1の外部にワークW0を排出するための装置である。この排出装置14は、例えば、検査システム1に含まれる1つまたは2つ以上の撮像装置12を含む2つ以上のモジュールのうちのワークW0の搬送経路Rt1における最後の部分に位置している。排出装置14は、例えば、筒状部14tbのうちの撮像装置12とは逆側の+X方向の端部に開閉可能な部分(開閉部)14ocを有する(図1参照)。開閉部14ocは、例えば、開閉可能な扉またはシャッター等を有する。ワークW0は、例えば、開閉部14ocを介して排出装置14の外部に排出される。例えば、作業者Op0が、排出装置14の外部にワークW0を排出する態様が考えられる。例えば、検査システム1の外部に設けられたロボット等が、排出装置14の内部から外部にワークW0を排出してもよい。
排出装置14は、例えば、検査システム1の内部から検査システム1の外部にワークW0を排出するための装置である。この排出装置14は、例えば、検査システム1に含まれる1つまたは2つ以上の撮像装置12を含む2つ以上のモジュールのうちのワークW0の搬送経路Rt1における最後の部分に位置している。排出装置14は、例えば、筒状部14tbのうちの撮像装置12とは逆側の+X方向の端部に開閉可能な部分(開閉部)14ocを有する(図1参照)。開閉部14ocは、例えば、開閉可能な扉またはシャッター等を有する。ワークW0は、例えば、開閉部14ocを介して排出装置14の外部に排出される。例えば、作業者Op0が、排出装置14の外部にワークW0を排出する態様が考えられる。例えば、検査システム1の外部に設けられたロボット等が、排出装置14の内部から外部にワークW0を排出してもよい。
<1-5.検査システムの機能的構成>
図5から図10は、本開示に係る検査システム1の機能的構成の一例を示すブロック図である。図5は、検査システム1の全体の機能的構成の一例を模式的に示すブロック図である。図6は、検査システム1の全体の機能的構成のうちの投入装置11の機能的構成の一例を示すブロック図である。図7は、検査システム1の全体の機能的構成のうちの撮像装置12の機能的構成の一例を示すブロック図である。図8は撮像装置12の機能的構成のうちの撮像ユニット12sの機能的構成の一例を示すブロック図である。図9は、検査システム1の全体の機能的構成のうちの反転装置13の機能的構成の一例を示すブロック図である。図10は、検査システム1の全体の機能的構成のうちの排出装置14の機能的構成の一例を示すブロック図である。
図5から図10は、本開示に係る検査システム1の機能的構成の一例を示すブロック図である。図5は、検査システム1の全体の機能的構成の一例を模式的に示すブロック図である。図6は、検査システム1の全体の機能的構成のうちの投入装置11の機能的構成の一例を示すブロック図である。図7は、検査システム1の全体の機能的構成のうちの撮像装置12の機能的構成の一例を示すブロック図である。図8は撮像装置12の機能的構成のうちの撮像ユニット12sの機能的構成の一例を示すブロック図である。図9は、検査システム1の全体の機能的構成のうちの反転装置13の機能的構成の一例を示すブロック図である。図10は、検査システム1の全体の機能的構成のうちの排出装置14の機能的構成の一例を示すブロック図である。
<1-6.投入装置の機能的構成>
図6で示されるように、投入装置11は、例えば、配線Wr1を介して電気的に接続された、統括制御部C0と、入力部11iと、搬送制御部Cc1と、接続部11hと、を有する。投入装置11は、例えば、統括制御部C0に接続された出力部11dと、搬送制御部Cc1に接続された搬送部Cv1と、を有する。
図6で示されるように、投入装置11は、例えば、配線Wr1を介して電気的に接続された、統括制御部C0と、入力部11iと、搬送制御部Cc1と、接続部11hと、を有する。投入装置11は、例えば、統括制御部C0に接続された出力部11dと、搬送制御部Cc1に接続された搬送部Cv1と、を有する。
統括制御部C0は、例えば、検査システム1の動作を統括して制御することができる。統括制御部C0は、例えば、演算部、メモリおよび記憶部等を有する。演算部は、例えば、1つ以上の中央演算ユニット(Central Processing Unit:CPU)等で構成される。メモリは、例えば、RAM(Random Access Memory)等の揮発性の記憶媒体で構成される。記憶部は、例えば、ハードディスクドライブ(Hard Disk Drive:HDD)またはソリッドステートドライブ(Solid State Drive:SSD)等の不揮発性の記憶媒体で構成される。記憶部は、例えば、プログラムおよび各種情報等を記憶することができる。演算部は、例えば、記憶部に記憶されたプログラムを読み込んで実行することで、各種の機能を実現することができる。このとき、RAMは、例えば、ワークスペースとして使用され、一時的に生成もしくは取得される情報等を記憶する。統括制御部C0で実現される機能的構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで実現されてもよい。
入力部11iは、例えば、作業者Op0の動作に応答して、各種の情報を入力することができる。入力部11iには、例えば、ボタンもしくはタッチパネル等の操作部または音声入力が可能なマイク部等が適用される。作業者Op0の動作は、例えば、操作および発声等の動作を含む。
出力部11dは、例えば、統括制御部C0からの情報に基づき、作業者Op0が認識可能な態様で情報を出力することができる。出力部11dには、例えば、情報を可視的に出力する表示部もしくはランプおよび情報を可聴的に出力するスピーカ等が適用される。
搬送制御部Cc1は、例えば、搬送部Cv1の動作を制御することができる。搬送制御部Cc1は、例えば、演算部、メモリおよび記憶部を含むコンピュータと同様な構成を有する。搬送制御部Cc1は、例えば、記憶部内のプログラムを演算部で実行することで、搬送制御部Cc1の機能を実現することができる。搬送制御部Cc1は、例えば、ベルトコンベアにおける少なくとも1つのプーリーを回転させるモータ等の駆動部の動作を制御することで、搬送部Cv1の動作を制御することができる。搬送制御部Cc1で実現される機能的構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで実現されてもよい。
接続部11hは、例えば、検査システム1を構成する複数の装置のうちの投入装置11以外の装置と電気的に接続する部分である。接続部11hは、例えば、複数の装置の配線Wr2が別々に電気的に接続されるハブ方式のものであっても、複数の装置の配線Wr2が電気的に直列に接続される方式のものであってもよい。
<1-7.撮像装置の機能的構成>
ここでは、第1撮像装置121、第2撮像装置122、第3撮像装置123および第4撮像装置124が、互いに同一の機能的構成を有する場合が例示される。
ここでは、第1撮像装置121、第2撮像装置122、第3撮像装置123および第4撮像装置124が、互いに同一の機能的構成を有する場合が例示される。
図7で示されるように、撮像装置12は、例えば、配線Wr2を介して相互に電気的に接続された、搬送制御部Cc2と、撮像制御部Cs2と、移動制御部Ct2と、を有する。撮像装置12は、例えば、搬送制御部Cc2に接続された搬送部Cv2と、撮像制御部Cs2に接続された撮像ユニット12sと、移動制御部Ct2に接続された移動機構12tと、を有する。
図7の例では、撮像装置12は撮像ユニット12sと、撮像制御部Cs2と、移動制御部Ct2と、移動機構12tとを有する。撮像制御部Cs2に撮像ユニット12sが接続され、移動制御部Ct2に移動機構12tが接続されている。撮像ユニット12sは、図8で示されるように、撮像部I1と照明部F1とを含む。
搬送制御部Cc2、撮像制御部Cs2および移動制御部Ct2のそれぞれは、例えば、演算部とメモリと記憶部とを含むコンピュータと同様な構成を有する。
搬送制御部Cc2は、例えば、記憶部内のプログラムを演算部で実行することで、搬送制御部Cc2の機能を実現することができる。搬送制御部Cc2は、例えば、ベルトコンベアにおける少なくとも1つのプーリーを回転させるモータ等の駆動部の動作を制御することで、搬送部Cv2の動作を制御することができる。搬送制御部Cc2で実現される機能的構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
撮像制御部Cs2は、例えば、記憶部内のプログラムを演算部で実行することで、撮像制御部Cs2の機能を実現することができる。撮像制御部Cs2は、例えば、撮像ユニット12sの動作を制御するとともに、撮像ユニット12sによるワークW0の撮像によって得られる情報(撮像情報ともいう)を取得することができる。具体的には、撮像制御部Cs2は、例えば、照明部F1の発光および撮像部I1の撮像の各タイミングを制御することができる。例えば、統括制御部C0(図6参照)から撮像制御部Cs2に対する制御信号によって撮像ユニット12sが動作し得る。
撮像制御部Cs2は、例えば、ワークW0に係る撮像情報をそのままあるいは各種の情報処理を施した上で配線Wr2および配線Wr1等を介して統括制御部C0に出力することができる。これにより、ワークW0を対象とした撮像の結果としての撮像情報が取得され得る。ここで、例えば、統括制御部C0が出力部11dに撮像情報に基づく画像を表示させ、その画像を作業者Op0が目視することでワークW0の外観を検査してもよいし、統括制御部C0が撮像情報に係る画像とワークW0の少なくとも一部に係る標準的な画像とを比較することでワークW0の外観を検査する演算を行ってもよい。ここで、例えば、撮像制御部Cs2が、ワークW0の外観を検査する演算を行い、その演算の結果を示す情報を統括制御部C0に送ってもよい。撮像制御部Cs2で実現される機能的構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
移動制御部Ct2は、例えば、記憶部内のプログラムを演算部で実行することで、移動制御部Ct2の機能を実現することができる。移動制御部Ct2は、例えば、移動機構12tの動作を制御することができる。ここでは、例えば、移動制御部Ct2は、載置部Sg2上に載置されたワークW0に対する撮像ユニット12sの相対的な位置を移動させることで、撮像ユニット12sによってワークW0の複数箇所について撮像を行うように制御することができる。移動制御部Ct2で実現される機能的な構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
<1-8.反転装置の機能的構成>
図9で示されるように、反転装置13は、例えば、配線Wr2を介して相互に電気的に接続された、搬送制御部Cc3と、反転制御部Cr3と、を有する。反転装置13は、例えば、搬送制御部Cc3に接続された搬送部Cv3と、反転制御部Cr3に接続された保持部13hおよび移動機構13tと、を有する。図6の例では、反転装置13は、1つの反転制御部Cr3を有する。ここで、例えば、反転装置13が、2つの保持部13hおよび2つの移動機構13tと、2つの反転制御部Cr3と、を有していてもよい。
図9で示されるように、反転装置13は、例えば、配線Wr2を介して相互に電気的に接続された、搬送制御部Cc3と、反転制御部Cr3と、を有する。反転装置13は、例えば、搬送制御部Cc3に接続された搬送部Cv3と、反転制御部Cr3に接続された保持部13hおよび移動機構13tと、を有する。図6の例では、反転装置13は、1つの反転制御部Cr3を有する。ここで、例えば、反転装置13が、2つの保持部13hおよび2つの移動機構13tと、2つの反転制御部Cr3と、を有していてもよい。
搬送制御部Cc3および反転制御部Cr3のそれぞれは、例えば、演算部とメモリと記憶部とを含むコンピュータと同様な構成を有する。
搬送制御部Cc3は、例えば、記憶部内のプログラムを演算部で実行することで、搬送制御部Cc3の機能を実現することができる。搬送制御部Cc3は、例えば、ベルトコンベアにおける少なくとも1つのプーリーを回転させるモータ等の駆動部の動作を制御することで、搬送部Cv3の動作を制御することができる。搬送制御部Cc3で実現される機能的構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
反転制御部Cr3は、例えば、記憶部内のプログラムを演算部で実行することで、反転制御部Cr3の機能を実現することができる。反転制御部Cr3は、例えば、保持部13hおよび移動機構13tの動作を制御することができる。具体的には、例えば、反転制御部Cr3は、保持部13hによってワークW0を挟持等によって保持させ、ワークW0を保持している状態の保持部13hを移動機構13tによって移動させることで、ワークW0を上下反転させることができる。これにより、例えば、第1撮像装置121および第2撮像装置122においてワークW0の表(おもて)面を対象とした撮像を行い、第3撮像装置123および第4撮像装置124においてワークW0の裏面を対象とした撮像を行うことができる。
<1-9.排出装置の機能的構成>
図10で示されるように、排出装置14は、例えば、配線Wr2に電気的に接続された搬送制御部Cc4と、この搬送制御部Cc4に接続された搬送部Cv4と、を有する。搬送制御部Cc4は、例えば、演算部とメモリと記憶部とを含むコンピュータと同様な構成を有する。搬送制御部Cc4は、例えば、記憶部内のプログラムを演算部で実行することで、搬送制御部Cc4の機能を実現することができる。搬送制御部Cc4は、例えば、ベルトコンベアにおける少なくとも1つのプーリーを回転させるモータ等の駆動部の動作を制御することで、搬送部Cv4の動作を制御することができる。搬送制御部Cc4で実現される機能的な構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
図10で示されるように、排出装置14は、例えば、配線Wr2に電気的に接続された搬送制御部Cc4と、この搬送制御部Cc4に接続された搬送部Cv4と、を有する。搬送制御部Cc4は、例えば、演算部とメモリと記憶部とを含むコンピュータと同様な構成を有する。搬送制御部Cc4は、例えば、記憶部内のプログラムを演算部で実行することで、搬送制御部Cc4の機能を実現することができる。搬送制御部Cc4は、例えば、ベルトコンベアにおける少なくとも1つのプーリーを回転させるモータ等の駆動部の動作を制御することで、搬送部Cv4の動作を制御することができる。搬送制御部Cc4で実現される機能的な構成の少なくとも一部は、例えば、専用の電子回路等のハードウェアで構成されてもよい。
<1-10.検査システム1の構成のまとめ>
以上のように、撮像装置12によれば、例えば、ワークW0に対して、撮像ユニット12sを移動させつつ、照明部F1によって照明されたワークW0を撮像部I1によって撮像することができる。これにより、例えば、ワークW0の各部分を複数の角度から撮像することができる。したがって、例えば、種々の形状を有するワークW0を十分に捉えた画像を容易に撮像することができる。
以上のように、撮像装置12によれば、例えば、ワークW0に対して、撮像ユニット12sを移動させつつ、照明部F1によって照明されたワークW0を撮像部I1によって撮像することができる。これにより、例えば、ワークW0の各部分を複数の角度から撮像することができる。したがって、例えば、種々の形状を有するワークW0を十分に捉えた画像を容易に撮像することができる。
<2.情報処理装置>
<2-1.情報処理装置の概略的な構成>
図11は、本開示に係る情報処理装置2の電気的な構成の一例を示すブロック図である。図11で示されるように、情報処理装置2は、例えばコンピュータで実現される。情報処理装置2は、例えば、バスライン2bを介して接続された、通信部21、入力部22、出力部23、記憶部24、制御部25およびドライブ26を備えている。
<2-1.情報処理装置の概略的な構成>
図11は、本開示に係る情報処理装置2の電気的な構成の一例を示すブロック図である。図11で示されるように、情報処理装置2は、例えばコンピュータで実現される。情報処理装置2は、例えば、バスライン2bを介して接続された、通信部21、入力部22、出力部23、記憶部24、制御部25およびドライブ26を備えている。
通信部21は、例えば通信回線を介して外部の装置との間でデータ通信を行うことができる機能を有する。この通信部21は、例えば、プログラム24pおよび各種データ24dを受信することができる。
入力部22は、例えば、情報処理装置2を使用する操作者の動作に応答して情報の入力を受け付けることができる機能を有する。入力部22には、例えば、操作部、マイクおよび各種センサが含まれ得る。操作部は、例えば、操作者の操作に応じた信号を入力することができるマウスおよびキーボードを含み得る。マイクは、例えば、操作者の音声に応じた信号を入力することができる。各種センサは、例えば、操作者の動きに応じた信号を入力することができる。
出力部23は、例えば、各種情報を操作者が認識可能な態様で出力することができる機能を有する。出力部23には、例えば、表示部、プロジェクタおよびスピーカが含まれ得る。表示部は、例えば、各種情報を操作者が認識可能な態様で可視的に出力することができる。表示部には、例えば、液晶ディスプレイまたは有機ELディスプレイが適用され得る。表示部は、入力部22と一体化されたタッチパネルの形態を有していてもよい。プロジェクタは、例えば、各種情報を操作者が認識可能な態様でスクリーンで例示される被投影物上に可視的に出力させることができる。プロジェクタと被投影物とが協働して各種情報を操作者が認識可能な態様で可視的に出力する表示部として機能し得る。スピーカは、例えば、各種情報を操作者が認識可能な態様で可聴的に出力することができる。
記憶部24は、例えば、各種情報を記憶することができる機能を有する。この記憶部24は、例えば、ハードディスクまたはフラッシュメモリで例示される不揮発性の記憶媒体で構成され得る。記憶部24では、例えば、1つの記憶媒体を有する構成、2つ以上の記憶媒体を一体的に有する構成、および2つ以上の記憶媒体を2つ以上の部分に分けて有する構成のいずれが採用されてもよい。記憶部24には、例えば、プログラム24pおよび各種データ24dが記憶され得る。
各種データ24dには、モデル情報と、位置姿勢情報と、照明情報とが含まれ得る。モデル情報は、例えば、検査対象物W0の3次元形状のモデル(3次元モデルともいう)Wmに係る情報である。位置姿勢情報は、例えば、撮像装置12における撮像部I1および検査対象物W0についての位置および姿勢に係る情報である。当該情報はカメラ/ワーク位置関係を含む。照明情報は、例えば照明部F1が発光する光の特性、例えばその強度分布にかかる情報である。例えば当該強度分布は光軸Pi1が基準とされる。
各種データ24dには、例えば、各撮像部I1が撮像可能な領域を規定する画角や焦点距離で例示されるパラメータに係る情報(撮像パラメータ情報ともいう)が含まれていてもよい。
モデル情報には、例えば、検査対象物W0の3次元形状についての設計上のデータ(物体設計データともいう)が適用される。物体設計データには、例えば、検査対象物W0の3次元形状を複数のポリゴンで例示される複数の平面で表現したデータが適用される。
このデータには、例えば、各平面の位置および向き、および光についての反射係数を規定するデータが含まれる。複数の平面として、例えば矩形状の平面や、三角形状の平面が適用される。各平面の位置を規定するデータには、例えば、平面の外形を規定する3つ以上の頂点の座標のデータが適用される。各平面の向きを規定するデータには、例えば、平面の法線が延びる方向(法線方向ともいう)を示すベクトル(法線ベクトルともいう)のデータが適用される。
図12は3次元モデルWmを示す模式図である。3次元モデルWmの外郭は、ワークW0の外郭をモデル化したものであるということができる。モデル情報においては、図12で示されるように、3次元モデルWmの位置および姿勢は、例えば、撮像装置12において検査対象物W0が配される領域の基準位置に対応する位置を原点とした、xyz座標系(3次元モデル座標系)を用いて示され得る。
具体的には、例えば3次元モデルWmの位置は、x座標、y座標およびz座標で示され、3次元モデルWmの姿勢は、3次元モデルWmについて一つ設定される位置ベクトルMによって示される。図12および以下の説明においては位置ベクトルMの方向がy軸と平行であり、その起点がxyz座標系の原点Oと一致する場合が例示される。
位置姿勢情報には、例えば、撮像装置12において検査対象物W0が配置されるときの、撮像装置12における撮像部I1との間における相対的な位置および姿勢の関係(以下「相対位置姿勢関係」)が適用され得る。
図13は、撮像装置12における撮像部I1の位置を説明する模式図である。図13において撮像部I1の位置は、図1および図3において示されたX軸、Y軸、Z軸にそれぞれ平行なx’軸、y’軸、z’軸と、検査対象物W0が配置される領域の基準となる位置を原点Qとするx’y’z’座標系(カメラ座標系)で表すことができる。例えば位置P1にあるときの撮像部I1の位置は(x1’,y1’,z1’)によって表され、位置P2にあるときの撮像部I1の位置は(x2’,y2’,z2’)によって表される。
以下、説明を簡単にするために、3次元モデル座標系のx軸、y軸、z軸および原点Oが、それぞれカメラ座標系のx’軸、y’軸、z’軸および原点Qと一致する場合が例示される。原点O,Qがずれても、x軸とx’軸とが非平行であっても、y軸とy’軸とが非平行であっても、z軸とz’軸とが非平行であっても、適宜の座標変換によって上述された座標系同士の一致に帰着できる。
位置姿勢情報には、例えば撮像装置12における撮像部I1の位置(上述の例で原点Qに対するx’座標、y’座標、z’座標)の情報、3次元モデルWmにおける各部位の位置(上述の例では原点Oに対するx座標、y座標、z座標)の情報が含まれ得る。
位置姿勢情報には、例えばxyz座標系におけるx’y’z’座標系の原点Qの位置、x’軸の方向、y’軸の方向、z’軸の方向の情報、あるいはx’y’z’座標系におけるxyz座標系の原点Oの位置、x軸、y軸、z軸の方向の情報が含まれ得る。
例えば、撮像部I1が有するレンズ部Lz1の光軸Pi1は、撮像部の位置から原点Qに向かう方向に設定される。具体的には撮像部I1が位置Pk(k=1,2,…;座標(xk’,yk’,zk’))に配置されるとき、当該撮像部が有するレンズ部Lz1の光軸Pi1は、位置Pkと原点Qを結ぶ直線へ設定される。
図11を参照して、制御部25は、例えば、プロセッサとして働く演算処理部25aおよび情報を一時的に記憶することができるメモリ25bを含む。演算処理部25aには、例えば、中央演算部(CPU)などの電気回路が適用される。この場合、演算処理部25aは、例えば、1つ以上のプロセッサを有する。メモリ25bには、例えば、ランダムアクセスメモリ(RAM)が適用される。
演算処理部25aでは、例えば、記憶部24に記憶されているプログラム24pが読み込まれて実行される。これにより、情報処理装置2は、例えば、各種の画像処理を行う装置(画像処理装置ともいう)200として機能し得る。換言すれば、例えば、プログラム24pが情報処理装置2に含まれる演算処理部25aによって実行されることで、情報処理装置2を画像処理装置200として機能させることができる。
画像処理装置200は、例えば、検査システム1の撮像装置12において所定のアングルで検査対象物W0を撮像することで取得され得る画像(撮像画像ともいう)について、検査対象物W0のうちの検査の対象となる部分が捉えられるものと予想される領域(検査画像領域ともいう)を指定する情報(領域指定情報ともいう)を作成することができる。
例えば、画像処理装置200では、同一の設計に基づく複数の検査対象物W0について連続的な検査を行う前、あるいは連続的な検査の初期段階において領域指定情報が作成される。あるいは、1つ以上の検査対象物W0について検査を行う前、あるいは検査の際において領域指定情報が作成される。
制御部25における各種情報処理によって一時的に得られる各種情報は、適宜メモリ25bなどに記憶され得る。
ドライブ26は、例えば、可搬性の記憶媒体26mの脱着が可能な部分である。ドライブ26では、例えば、記憶媒体26mが装着されている状態で、この記憶媒体26mと制御部25との間におけるデータの授受が行われ得る。ここで、例えば、プログラム24pが記憶された記憶媒体26mがドライブ26に装着されることで、記憶媒体26mから記憶部24内にプログラム24pが読み込まれて記憶されてもよい。
例えば、各種データ24dまたは各種データ24dの一部のデータが記憶された記憶媒体26mがドライブ26に装着されることで、記憶媒体26mから記憶部24内に各種データ24dまたは各種データ24dの一部のデータが読み込まれて記憶されてもよい。各種データ24dの一部のデータには、例えば、モデル情報が含まれてもよいし、位置姿勢情報が含まれていてもよい。
<2-2.画像処理装置の機能的な構成>
図14は、演算処理部25aによって実現される機能的な構成を例示するブロック図である。図14には、演算処理部25aにおいてプログラム24pの実行によって実現されるデータ処理に係る各種機能が例示されている。
図14は、演算処理部25aによって実現される機能的な構成を例示するブロック図である。図14には、演算処理部25aにおいてプログラム24pの実行によって実現されるデータ処理に係る各種機能が例示されている。
図14で示されるように、演算処理部25aは、実現される機能的な構成として、例えば、区分部251と、推定部252と、属性付加部253と、出力制御部254と、設定部255とを有する。これらの各部の処理におけるワークスペースとして、例えば、メモリ25bが使用される。演算処理部25aで実現される機能的な構成の少なくとも一部の機能は、例えば、専用の電子回路などのハードウェアで構成されてもよい。
<2-2-1.区分部>
モデル情報Wiは、3次元モデルWmの外郭を示す情報(以下「外郭情報」とも称される)を含む。区分部251は、例えば外郭情報に基づいて、3次元モデルWmの外郭を区分して複数の領域(以下「区分領域」)へ区分し、区分領域を示す情報(以下「区分情報」)Sを得る機能を有する。当該区分情報Sは、撮像画像を推定して得られた画像(以下「推定画像」)を示す情報(以下「推定情報」)Gを得る処理(以下「撮像画像推定処理」)に利用される。区分情報Sには、モデル情報Wiに含まれていた反射係数についての情報が伴われる。
モデル情報Wiは、3次元モデルWmの外郭を示す情報(以下「外郭情報」とも称される)を含む。区分部251は、例えば外郭情報に基づいて、3次元モデルWmの外郭を区分して複数の領域(以下「区分領域」)へ区分し、区分領域を示す情報(以下「区分情報」)Sを得る機能を有する。当該区分情報Sは、撮像画像を推定して得られた画像(以下「推定画像」)を示す情報(以下「推定情報」)Gを得る処理(以下「撮像画像推定処理」)に利用される。区分情報Sには、モデル情報Wiに含まれていた反射係数についての情報が伴われる。
区分部251には、例えば、記憶部24において各種データ24dとして記憶されたモデル情報Wiが入力される。
区分領域を得るための処理は、例えば二段階に分けておこなわれる。第1段階では、3次元モデルWmを構成する複数の平面の向きに係る情報に基づいて、3次元モデルWmの表面が複数の領域に区分される。当該向きに係る情報としては、例えば、平面の法線ベクトルが用いられる。第2段階では、第1段階で得られた複数の領域に区分された3次元モデルWmの表面を、3次元モデルWmを構成する複数の平面における平面の連結状態に基づいて、さらに複数の領域に区分し、区分領域が得られる。
<2-2-2.推定部>
推定部252は、具体的には区分情報Sと位置姿勢情報Rとから推定情報Gを得るという撮像画像推定処理を行う。推定画像は、3次元モデルWmによって表される検査対象物W0を撮像部I1が撮像するときの撮像画像が推定された画像である。
推定部252は、具体的には区分情報Sと位置姿勢情報Rとから推定情報Gを得るという撮像画像推定処理を行う。推定画像は、3次元モデルWmによって表される検査対象物W0を撮像部I1が撮像するときの撮像画像が推定された画像である。
例えば、撮像部I1について、x’軸,y’軸、z軸’を用いた座標系(カメラ座標系)における3次元モデルWmの位置および姿勢に係るパラメータ(位置姿勢パラメータ)と、モデル情報Wiと、照明情報Lとに基づいて、推定画像、より具体的には推定情報Gが生成される。
照明情報Lおよび位置姿勢情報Rは、例えば、記憶部24において各種データ24dとして記憶されており、推定部252へ入力される。かかる撮像画像推定処理は公知の技術であるので、以下では簡単な説明がなされる。
例えば、位置姿勢パラメータに従って、xyz座標系(3次元モデル座標系)における区分領域の位置が、x’y’z’座標系(カメラ座標系)における位置に変換される。図4に例示されるように、照明部F1と撮像部I1とは固定された位置関係にあるので、照明部F1の位置も位置姿勢情報Rによって、撮像部I1の位置毎に変換される。従って照明情報Lも位置姿勢情報Rに従って、撮像部I1の位置毎にx’y’z’座標系に変換される。
このようにして推定部252では、カメラ座標系における、撮像部I1の位置(ひいては光軸Pi1の方向)、区分領域の位置および反射係数、照明部F1からの光の強度分布が得られ、これらを用いた周知の3次元シミュレーションによって推定画像が得られる。このとき、例えば撮像パラメータも利用される。
図15は位置P1における撮像部I1がワークW0を撮像するときに撮像されると推定される推定画像G1を模式的に示す図である。図16は位置P2における撮像部I1がワークW0を撮像するときに撮像されると推定される推定画像G2を模式的に示す図である。
推定画像G1,G2においてはワークW0の全体ではなく、一部のみが撮像されると想定されている。推定画像G1,G2においては、3次元モデルWmの背景を除き、反射光量が多い程、明度が高く表現されている。
<2-2-3.属性付加部>
属性付加部253は、3次元モデルWmに対して、反射情報を付加し、ワークW0の3次元モデルWd(後述される図17、図18参照)を生成する。反射情報は、ワークW0の外郭のうち、撮像部I1によって撮像されると推定される部分(以下「推定撮像領域」)における反射の状態、例えば反射光量を示す情報である。3次元モデルWdは、ワークW0の外郭を示す情報と、反射情報とを含む。
属性付加部253は、3次元モデルWmに対して、反射情報を付加し、ワークW0の3次元モデルWd(後述される図17、図18参照)を生成する。反射情報は、ワークW0の外郭のうち、撮像部I1によって撮像されると推定される部分(以下「推定撮像領域」)における反射の状態、例えば反射光量を示す情報である。3次元モデルWdは、ワークW0の外郭を示す情報と、反射情報とを含む。
反射情報は、推定情報Gから得られる。周知の3次元シミュレーションによって推定画像において区分領域毎に反射光量が得られる。3次元モデルWmに対して、区分領域毎に反射情報が付加される。当該反射状態は、区分領域の属性、例えば区分領域に用いられる平面の位置ベクトルMに対する相対的な位置、姿勢と共に、属性の一つとして3次元モデルWmに付加される。
推定撮像領域以外の区分領域は、撮像されるとは推定されない位置のワークW0の領域に対応する。ワークW0のこのような領域においては、反射光量は実質的に0であり、例えば反射情報は0に設定されて区分領域に付与される。
推定撮像領域の区分領域は、撮像されると推定される位置のワークW0の領域に対応する。ワークW0のこのような領域においては、反射光量は種々の値をとる。そのような領域に対応する区分領域における反射情報も反射光量に応じた種々の値をとる。
上述の動作が行われるべく、属性付加部253にはモデル情報Wi、区分情報S、推定情報Gが入力され、属性付加部253はこれらを用いて3次元モデルWdを生成し、モデル情報Wjを出力する。モデル情報Wjは、3次元モデルWdを示す情報である。
反射情報は、撮像部I1の位置に依存するので、例えば撮像部I1の位置毎に設定される。上述の例に沿って説明すると、推定画像G1,G2毎に3次元モデルWdが生成される。
<2-2-4.出力制御部>
出力制御部254は、例えば、出力部23によって、各種情報を操作者が認識可能な態様で出力させる。出力部23は下記の様にして3次元モデルWdを可視的に出力する。
出力制御部254は、例えば、出力部23によって、各種情報を操作者が認識可能な態様で出力させる。出力部23は下記の様にして3次元モデルWdを可視的に出力する。
入力部22には、例えば操作者によって、観察位置情報Tが入力される。観察位置情報Tは、3次元モデルWdを観察する位置である観察位置を示す情報である。
観察位置は観察位置情報Tにおいて、例えばxyz座標系(3次元モデル座標系)を用いて表されてもよいし、x’y’z’座標系(カメラ座標系)で表されてもよい。観察位置は撮像部I1の位置と関連づけられる必要は無い。
出力制御部254には、モデル情報Wjと観察位置情報Tとが入力される。出力制御部254は、モデル情報Wjと観察位置情報Tとに基づいて画像情報Gsを生成し、画像情報Gsを出力部23へ出力する。画像情報Gsは、観察位置情報Tで指定される観察位置から見た3次元モデルWdの視覚的な出力についての情報である。
出力部23は画像情報Gsに基づいて、3次元モデルWdを視覚的に、具体的には画像(以下、当該画像を「反射情報付き画像」)として出力する。例えば出力部23は液晶ディスプレイを有しており、液晶ディスプレイに反射情報付き画像が表示され、操作者は反射情報付き画像によって3次元モデルWdを視認する。
反射情報付き画像において視認される3次元モデルWdは、推定情報Gに基づいて付加された反射情報に基づいた反射光量を示す。但し、反射情報付き画像において表示される反射光量は、観察位置において撮像部I1が撮像するときの反射光量を示すのではなく、撮像部I1が撮像する位置において得られる反射光量を示す。よって反射情報付き画像において示される反射光量は、観察位置情報Tによって指定される観察位置には依存しない。
図17は推定画像G1に基づいて生成された3次元モデルWdが視認される反射情報付き画像を示す図である。3次元モデルWdのうち、推定画像G1において現れない部分の3次元モデルWmに対応する領域については反射光量が示されず、その輪郭のみが描かれている。
図18は推定画像G2に基づいて生成された3次元モデルWdが視認される反射情報付き画像を示す図である。3次元モデルWdのうち、推定画像G2において現れない部分の3次元モデルWmに対応する領域については反射光量が示されず、その輪郭のみが描かれている。
操作者は反射情報付き画像を視認して、所望の観察位置から3次元モデルWdを観察することができ、撮像部I1が撮像する位置において得られる反射光量が検査に足りるか否かを判断できる。図17の例で言えば、ワークW0は原点Oよりもy軸の負方向側において撮像されていない領域があることが視認される。かかる視認により、操作者は、例えばかかる領域についての撮像画像を得るために、位置P1よりもz’座標が小さい位置へ撮像部I1を配置して撮像させる指示を、入力部22への操作として入力することができる。
3次元モデルWdにおいて反射光量が示されてワークW0が撮像されていると視認される領域であっても、y軸の負方向側における反射光量が検査には不足すると操作者は判断するかもしれない。操作者は、例えば反射光量を大きく得るために、位置P1よりもy’座標が小さい位置へ撮像部I1を配置して撮像させる指示を、入力部22への操作として入力することができる。
3次元モデルWdは一つの3次元モデルWmに対して複数の推定画像、上述の例では推定画像G1,G2に基づいて生成されてもよい。かかる3次元モデルWdは出力部23において、例えば図17で表示された反射光量と、図18で表示された反射光量とが重畳されて表示される。
但し、3次元モデルWdにおいて重畳して表示される反射光量は、3次元モデルWdを観察する位置において得られる反射光量ではなく、位置P1における撮像部I1において得られると推定される反射光量と、位置P2における撮像部I1において得られると推定される反射光量との重畳であり、3次元モデルWdを観察する位置において得られる反射光量ではない。よってこのように重畳された反射光量に基づいて、必ずしも、反射光量が検査に足りるか否かを判断することは適切ではない。
反射光量がこのように重畳されるとき、異なる位置における撮像部I1によって得られる反射光量が、3次元モデルWdの生成に用いられた複数の推定画像毎に異なる態様、例えば異なる色調を用いて表示されてもよい。撮像において得られると推定される反射光量が、撮像部I1の位置毎に異なる態様で表示されることは、操作者が新たに設定する撮像部I1の位置の選定に寄与する。
<2-2-5.設定部>
設定部255は、例えば、3次元モデルWdが出力部23によって可視的に出力された状態で、操作者の操作に基づいて入力部22で受け付けられた情報に応じて、種々の条件を設定することができる。例えば、撮像部I1の位置について操作者が容易に検査条件を設定することができる。当該位置は例えば記憶部24において各種データ24dとして記憶される。
設定部255は、例えば、3次元モデルWdが出力部23によって可視的に出力された状態で、操作者の操作に基づいて入力部22で受け付けられた情報に応じて、種々の条件を設定することができる。例えば、撮像部I1の位置について操作者が容易に検査条件を設定することができる。当該位置は例えば記憶部24において各種データ24dとして記憶される。
<2-3.画像処理のフロー>
図19は、本実施形態に係る画像処理方法に沿って画像処理装置200で実行される画像処理のフローの一例を示すフローチャートである。この処理のフローは、例えば、演算処理部25aにおいてプログラム24pが実行されることで実現され得る。この処理のフローは、例えば、記憶部24にプログラム24pおよび各種データ24dが記憶された状態で、操作者による入力部22を介した信号の入力に応答して開始される。ここでは、例えば、図19で示されるステップS1からステップS3の処理がこの記載の順に行われる。
図19は、本実施形態に係る画像処理方法に沿って画像処理装置200で実行される画像処理のフローの一例を示すフローチャートである。この処理のフローは、例えば、演算処理部25aにおいてプログラム24pが実行されることで実現され得る。この処理のフローは、例えば、記憶部24にプログラム24pおよび各種データ24dが記憶された状態で、操作者による入力部22を介した信号の入力に応答して開始される。ここでは、例えば、図19で示されるステップS1からステップS3の処理がこの記載の順に行われる。
ステップS1において、撮像画像推定処理が実行される。上述の例ではステップS1は演算処理部25aによって、より具体的には推定部252によって実行される。推定部252は、モデル情報Wiと、位置姿勢情報Rと、照明情報Lとに基づいて、推定情報Gを得る。
モデル情報Wiは、ワークW0の3次元モデルWmの外郭を示す情報を含む。ワークW0は、撮像部I1の撮像の対象たる被写体である。位置姿勢情報Rは、撮像部I1とその被写体たるワークW0との相対的な位置関係を示す位置情報であると言える。
照明情報Lは、被写体たるワークW0を照射する照射光の特性を示す。当該照射光は上述の例では照明部F1から発光される。照射光の特性は例えば照射光の強度分布である。推定情報Gは推定画像を示す情報である。推定画像は撮像部I1によって撮像されるワークW0の画像(撮像画像)を推定して得られる。推定画像を得る際に、例えば撮像パラメータ情報が利用される。
例えば位置姿勢情報Rが、撮像部I1が位置P1にあることを示すとき、推定画像G1が得られる(図13、図15参照)。位置姿勢情報Rが、撮像部I1が位置P2にあることを示すとき、推定画像G2が得られる(図13、図16参照)。
推定画像は必ずしも表示されなくてもよい。推定画像を表示する場合には、例えば推定情報Gがバスライン2bを介して出力部23に与えられ、出力部23は出力制御部254の制御の下で推定情報Gに基づいた推定画像を表示する(図14の破線矢印を参照)。
ステップS1において複数の推定情報Gが得られてもよい。上述の例に即して言えば、推定画像G1,G2をそれぞれ示す推定情報Gが得られてもよい。
ステップS2において、ワークW0の3次元モデルWdが生成される。上述の例ではステップS2は演算処理部25aによって、より具体的には属性付加部253によって実行される。
ステップS2においては、反射情報を3次元モデルWmを示すモデル情報Wiに付加してモデル情報Wjが生成される。モデル情報Wjは3次元モデルWdの外郭を示す情報を含む。反射情報は反射光の状態を示す。ここにいう反射光は、照射光をワークW0が反射して撮像部I1へ入射する光である。
ステップS3においては、反射情報付き画像が表示される。上述の例ではステップS3は出力部23と、演算処理部25a、より具体的には出力制御部254とによって実行される。
演算処理部25aは、観察位置情報Tで指定される観察位置から見た3次元モデルWdを画像情報Gsとして出力部23へ出力する。出力部23は3次元モデルWdを画像情報Gsに基づいて視覚的に出力する。このようにして出力部23は、ワークW0を観察する観察位置に基づいて、3次元モデルWdを視覚的に出力する。
操作者は観察位置情報Tを用いて、3次元モデルWdを様々な観察位置から観察することができる。このような観察は、反射光量を考慮したカメラ/ワーク位置関係を得るための確認作業の効率を向上する。
推定部252は複数の位置姿勢情報Rにそれぞれ対応する複数の推定情報Gを得てもよい。この場合、属性付加部253は、複数の推定情報Gに基づいて、複数の位置姿勢情報Rのそれぞれに対応する反射情報を、一のモデル情報Wiに対して付加して一のモデル情報Wjを生成する。そして出力制御部254は、モデル情報Wjにおいて、複数の位置姿勢情報Rのそれぞれに対応した反射情報同士を互いに異なる態様にした3次元モデルWdの画像情報Gsを生成する。出力部23は画像情報Gsに基づいて3次元モデルWdを視覚的に出力する。
出力部23は、複数の位置姿勢情報Rのそれぞれに対応した反射情報同士を互いに異なる態様にして3次元モデルWdを視覚的に、具体的には反射情報付き画像を出力する。複数の位置姿勢情報Rのそれぞれに対応した反射情報同士を互いに異なる態様にして視覚的に出力する例として、色調を異ならせることが挙げられる。
撮像において得られると推定される反射光量が、撮像部I1の位置毎に異なる態様、例えば色調で表示されることは、操作者が新たに設定する撮像部I1の位置の選定に寄与する。
<撮像ユニット12sの変形>
撮像ユニット12sは、2つ以上の撮像部I1を含んでいてもよいし、2つ以上の照明部F1を含んでいてもよい。
撮像ユニット12sは、2つ以上の撮像部I1を含んでいてもよいし、2つ以上の照明部F1を含んでいてもよい。
図20は撮像ユニット12sの物理的構成の他の例を模式的に示す図である。図20においては、撮像ユニット12sが撮像部I1a,I1b,I1cと、照明部F1a,F1b,F1cを含む場合が例示される。このような場合には、撮像ユニット12sを移動させることなく、より少ない動作で複数の照明条件においてワークW0の撮像を行うことができる。例えば、種々の形状を有するワークW0を十分に捉えた画像が容易である。
具体的には、載置部Sg2上に載置されたワークW0は、照明部F1aによって上方から照明されている状態で撮像部I1aによって上方から撮像され得る。載置部Sg2上に載置されたワークW0は、照明部F1bによって斜め上方から照明されている状態で撮像部I1bによって斜め上方から撮像され得る。載置部Sg2上に載置されたワークW0は、照明部F1cによってほぼ水平方向に向かって照明されている状態で撮像部I1cによってほぼ水平方向に向かって撮像され得る。
図20の例では、撮像部I1aにおける光学系としてのレンズ部Lz1aの光軸Pi1aと、ワークW0を通る仮想的な水平面Pn0とが成す角度θ1aが90度である。このとき撮像部I1aは、上方からワークW0を撮像可能であるカメラとして機能する。撮像部I1bにおける光学系としてのレンズ部Lz1bの光軸Pi1bと、水平面Pn0とが成す角度θ1bが45度である。このとき撮像部I1bは、斜め上方からワークW0を撮像可能であるカメラとして機能する。撮像部I1cにおける光学系としてのレンズ部Lz1cの光軸Pi1cと、水平面Pn0とが成す角度θ1cが5度である。このため、撮像部I1cは、ほぼ水平方向に沿ってワークW0を撮像可能であるカメラとして機能する。
例えば、ワークW0の略中央において、光軸Pi1aと、光軸Pi1bと、光軸Pi1cと、が交差するような形態が採用される。図20においては、光軸Pi1aと、光軸Pi1bと、光軸Pi1cと、がYZ平面に沿った仮想平面に沿って位置する場合が例示される。
例えばレンズ部Lz1aは、照明部F1aにおける孔部H1aに挿通された状態に位置する場合が例示される。別の観点から言えば、レンズ部Lz1aの光軸Pi1aが、孔部H1aを通るように設定される。例えばレンズ部Lz1bは、照明部F1bにおける孔部H1bに挿通された状態に位置する場合が例示される。別の観点から言えば、レンズ部Lz1bの光軸Pi1bが、孔部H1bを通るように設定される。例えばレンズ部Lz1cは、照明部F1cにおける孔部H1cに挿通された状態に位置する場合が例示される。別の観点から言えば、レンズ部Lz1cの光軸Pi1cが、孔部H1cを通るように設定される。
図20の例では、撮像部I1aによってワークW0を撮像する際に撮像部I1aが向いている方向が光軸Pi1aに沿い、矢印で示される。撮像部I1bによってワークW0を撮像する際に撮像部I1bが向いている方向が光軸Pi1bに沿い、矢印で示される。撮像部I1cによってワークW0を撮像する際に撮像部I1cが向いている方向が光軸Pi1cに沿い、矢印で示される。
図20の例では、照明部F1aが載置部Sg2上に載置されたワークW0に向けて光を照射することが可能な方向が1点鎖線の矢印Df1aで描かれている。照明部F1aは、上方からワークW0に光を照射する照明部として機能する。
照明部F1bが載置部Sg2上に載置されたワークW0に向けて光を照射することが可能な方向が1点鎖線の矢印Df1bで描かれている。照明部F1bは、斜め上方からワークW0に光を照射する照明部として機能する。
照明部F1cが載置部Sg2上に載置されたワークW0に向けて光を照射することが可能な方向が1点鎖線の矢印Df1cで描かれている。照明部F1cは、水平方向に沿ってワークW0に光を照射する照明部として機能する。
図21は、照明部F1aの一例を模式的に示す図である。照明部F1aには、ワークW0に向かって光を照射可能な1つの領域として発光領域F1a1を含む構成が採用され得る。
図22は、照明部F1bの一例を模式的に示す図である。照明部F1bには、ワークW0に向かって光を照射可能な5つの領域として、斜め発光領域F1b1,F1b2,F1b3,F1b4,F1b5を含む構成が採用され得る。
図23は、照明部F1cの一例を模式的に示す図である。照明部F1cには、ワークW0に向かって光を照射可能な3つの領域として、発光領域F1c1,F1c2,F1c3を含む構成が採用され得る。
例えば、発光領域F1a1が孔部H1aを有し、発光領域F1b3が孔部H1bを有し、発光領域F1c2が孔部H1cを有する。例えば、照明部F1bを真上から-Z方向に平面透視した場合には、発光領域F1b1,F1b2,F1b3,F1b4,F1b5が、この記載の順に光軸Pi1aを中心として45度ずつ回転した位置関係を有する。例えば、発光領域F1b3を基準とすれば、光軸Pi1aを中心として発光領域F1b3から時計回りに45度回転した位置に発光領域F1b2が配置され、光軸Pi1aを中心として発光領域F1b3から時計回りに90度回転した位置に発光領域F1b1が配置され、光軸Pi1aを中心として発光領域F1b3から反時計回りに45度回転した位置に発光領域F1b4が配置され、光軸Pi1aを中心として発光領域F1b3から反時計回りに90度回転した位置に発光領域F1b5が配置される。
例えば、照明部F1cを真上から-Z方向に平面透視した場合には、発光領域F1c1,F1c2,発光領域F1c3が、この記載の順に光軸Pi1aを中心として45度ずつ回転した位置関係を有する。例えば、発光領域F1c2を基準とすれば、光軸Pi1aを中心として発光領域F1c2から時計回りに45度回転した位置に発光領域F1c1が配置され、光軸Pi1aを中心として発光領域F1c2から反時計回りに45度回転した位置に発光領域F1c3が配置される。
上記構成を有する撮像部I1a,I1b,I1c、照明部F1a,F1b,F1cは、例えば、連結部材によって相互に連結されて一体的な構成を有する。この場合には、例えば、第1移動機構12t1が当該連結部材を移動させることによって、撮像ユニット12sを移動させることができる。かかる一体的な構成については例えば特許文献2において公知であるので、その詳細が省略される。
このように、例えば、照明部F1aが1つの発光領域F1a1を含み、照明部F1bが5つの発光領域F1b1,F1b2,F1b3,F1b4,F1b5を含み、照明部F1cが3つの発光領域F1c1,F1c2,F1c3を有することは、撮像ユニット12sを移動させることなく、発光領域F1a1,F1b1,F1b2,F1b3,F1b4,F1b5,F1c1,F1c2,F1c3ごとにワークW0に対する光の照射の有無を切り替えることによって、少ない動作で複数の照明条件における撮像に寄与する。したがって、例えば、種々の形状を有するワークW0を十分に捉えた画像の撮像が容易である。
例えば、照明部F1b,F1cのうちのいずれか一方の照明部が存在せず、撮像部I1a,I1b,I1cのうちの2つの撮像部が存在していない構成、が考えられる。角度θ1a,θ1b,θ1cは、0度から90度の間で適宜設定されてもよい。
撮像部I1aによってワークW0が撮像されるとき、発光領域F1a1からの発光は必須ではない。撮像部I1bによってワークW0が撮像されるとき、発光領域F1b1,F1b2,F1b3,F1b4,F1b5の少なくともいずれか一つから発光されることは必須ではない。撮像部I1cによってワークW0が撮像されるとき、発光領域F1c1,F1c2,F1c3の少なくともいずれか一つから発光されることは必須ではない。撮像部I1a,I1b,I1cのいずれがワークW0を撮像するときも、発光領域F1a1,F1b1,F1b2,F1b3,F1b4,F1b5,F1c1,F1c2,F1c3のいずれか一つもしくは複数の発光は、撮像部I1a,I1b,I1cのいずれの撮像にも寄与する。撮像部が有するレンズの光軸と、照射光の主たる照射方向とが非平行となることは、ワークW0における凹凸等の種々の形状を捉えた画像の撮像を容易にする。
例えば上述された画像処理において、照明情報Lは発光領域F1b1から発光される照射光の特性を示し、反射情報は発光領域F1b1から発光された照射光をワークW0が反射して撮像部I1aへ入射する光の状態を示す。あるいは例えば照明情報Lは発光領域F1b1,F1b2から発光される照射光の特性を示し、反射情報は発光領域F1b1,F1b2から発光された照射光をワークW0が反射して撮像部I1cへ入射する光の状態を示す。
<その他の変形>
上記実施形態において、例えば、検査システム1の動作が、統括制御部C0等の1つ以上の制御部によって制御されてもよい。ここで、例えば、検査システム1は、ワークW0の撮像を行う1つの撮像装置とみなしてもよい。
上記実施形態において、例えば、検査システム1の動作が、統括制御部C0等の1つ以上の制御部によって制御されてもよい。ここで、例えば、検査システム1は、ワークW0の撮像を行う1つの撮像装置とみなしてもよい。
なお、上記各実施形態および各種変形例をそれぞれ構成する全部または一部を、適宜、矛盾しない範囲で組み合わせ可能であることは、言うまでもない。
2 情報処理装置
22 入力部
23 出力部
24p プログラム
25a 演算処理部
200 画像処理装置
251 区分部
252 推定部
253 属性付加部
254 出力制御部
G 推定情報
G1,G2 推定画像
Gs 画像情報
I1 撮像部
L 照明情報
R 位置情報
S 区分情報
S1,S2,S3 ステップ
T 観察位置情報
W0 ワーク(被写体、検査対象物)
Wd (第2の)3次元モデル
Wi (第1の)モデル情報
Wj (第2の)モデル情報
Wm (第1の)3次元モデル
22 入力部
23 出力部
24p プログラム
25a 演算処理部
200 画像処理装置
251 区分部
252 推定部
253 属性付加部
254 出力制御部
G 推定情報
G1,G2 推定画像
Gs 画像情報
I1 撮像部
L 照明情報
R 位置情報
S 区分情報
S1,S2,S3 ステップ
T 観察位置情報
W0 ワーク(被写体、検査対象物)
Wd (第2の)3次元モデル
Wi (第1の)モデル情報
Wj (第2の)モデル情報
Wm (第1の)3次元モデル
Claims (7)
- 被写体の第1の3次元モデルの外郭を示す情報を含む第1のモデル情報と、前記被写体を撮像の対象とする撮像部と前記被写体との相対的な位置関係を示す位置情報と、前記被写体を照射する照射光の特性を示す照明情報とに基づいて、前記撮像部によって撮像される前記被写体の画像を推定して得られる推定画像を示す情報である推定情報を得る推定部と、
前記推定情報と、前記第1のモデル情報とに基づいて、前記照射光を前記被写体が反射して前記撮像部へ入射する光である反射光の状態を示す情報である反射情報を前記第1のモデル情報に対して付加して、前記被写体の第2の3次元モデルの外郭を示す情報を含む第2のモデル情報を生成する属性付加部と、
前記被写体を観察する観察位置に基づいて、前記第2の3次元モデルを視覚的に出力する出力部と
を備える、画像処理装置。 - 請求項1に記載の画像処理装置であって、
前記推定部は複数の前記位置情報にそれぞれ対応する複数の前記推定情報を得て、
前記属性付加部は前記複数の前記推定情報に基づいて、前記複数の前記位置情報のそれぞれに対応する前記反射情報を一の前記第1のモデル情報に対して付加して、一の前記第2のモデル情報を生成し、
前記出力部は、前記複数の前記位置情報のそれぞれに対応した前記反射情報同士を互いに異なる態様にして前記第2の3次元モデルを視覚的に出力する、画像処理装置。 - 請求項1または請求項2に記載の画像処理装置であって、
前記観察位置を示す情報である観察位置情報が入力される入力部と、
前記観察位置情報と前記第2のモデル情報とに基づいて、前記第2の3次元モデルの視覚的な出力についての情報である画像情報を生成し、前記画像情報を前記出力部に出力する出力制御部と
を更に備え、
前記出力部は前記画像情報に基づいて前記第2の3次元モデルを視覚的に出力する、画像処理装置。 - 請求項1から請求項3のいずれか一項に記載の画像処理装置であって、
前記出力部は前記推定画像を表示する、画像処理装置。 - 請求項1から請求項4のいずれか一項に記載の画像処理装置であって、
前記第1の3次元モデルの外郭を区分して複数の領域へ区分し、当該領域を示す情報である区分情報を得る区分部
を更に備え、
前記属性付加部は、前記区分情報を用いて、前記領域毎に前記反射情報を前記第1のモデル情報に対して付加して、前記第2のモデル情報を生成する、画像処理装置。 - 情報処理装置に含まれる演算処理部によって実行されることで、前記情報処理装置を、請求項1から請求項5のいずれか一項に記載の画像処理装置として機能させるプログラム。
- 被写体の第1の3次元モデルの外郭を示す情報を含む第1のモデル情報と、前記被写体を撮像の対象とする撮像部と前記被写体との相対的な位置関係を示す位置情報と、前記被写体を照射する照射光の特性を示す照明情報とに基づいて、前記撮像部によって撮像される前記被写体の画像を推定して得られる推定画像を示す情報である推定情報を得るステップと、
前記推定情報と、前記第1のモデル情報とに基づいて、前記照射光を前記被写体が反射して前記撮像部へ入射する光である反射光の状態を示す情報である反射情報を前記第1のモデル情報に対して付加して、前記被写体の第2の3次元モデルを生成するステップと、
前記被写体を観察する観察位置に基づいて、前記第2の3次元モデルを視覚的に出力するステップと
を備える、画像処理方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021137993A JP2023032090A (ja) | 2021-08-26 | 2021-08-26 | 画像処理装置、画像処理方法、プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2021137993A JP2023032090A (ja) | 2021-08-26 | 2021-08-26 | 画像処理装置、画像処理方法、プログラム |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2023032090A true JP2023032090A (ja) | 2023-03-09 |
Family
ID=85416118
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2021137993A Pending JP2023032090A (ja) | 2021-08-26 | 2021-08-26 | 画像処理装置、画像処理方法、プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP2023032090A (ja) |
-
2021
- 2021-08-26 JP JP2021137993A patent/JP2023032090A/ja active Pending
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US9529945B2 (en) | Robot simulation system which simulates takeout process of workpieces | |
JP2015040856A (ja) | 3dスキャナ | |
US20220305680A1 (en) | Perception module for a mobile manipulator robot | |
JP2020128000A (ja) | 非破壊検査装置及び方法 | |
WO2019131155A1 (ja) | 外観検査装置、外観検査方法、プログラム及びワークの製造方法 | |
TWI571627B (zh) | 運用多軸機臂的光學檢查設備 | |
CN108627515B (zh) | 计算成为检查***的检查对象外的图像区域的装置及方法 | |
US20190255706A1 (en) | Simulation device that simulates operation of robot | |
JP7173048B2 (ja) | 異音検査装置、異音検査方法、プログラム及びワークの製造方法 | |
KR20190128988A (ko) | 가려진 물체의 조작 도움 | |
WO2021054055A1 (ja) | 検査用モジュール、反転モジュールおよび検査装置 | |
JP2023032090A (ja) | 画像処理装置、画像処理方法、プログラム | |
US11260531B2 (en) | End effector calibration assemblies, systems, and methods | |
JP7506565B2 (ja) | 画像処理装置、検査装置およびプログラム | |
WO2021054059A1 (ja) | 撮像装置 | |
CN108426541A (zh) | 生成检查***的动作程序的装置及方法 | |
WO2021054052A1 (ja) | 反転装置 | |
Munaro et al. | Continuous mapping of large surfaces with a quality inspection robot | |
JP7278186B2 (ja) | 撮像装置 | |
JP7519222B2 (ja) | 画像処理装置 | |
JP2021052247A (ja) | 撮像装置 | |
JP2022120653A (ja) | 撮像ユニット、撮像装置、検査装置、および撮像装置の光軸調整方法 | |
JP6863397B2 (ja) | ロボット | |
WO2024004681A1 (ja) | ロボット教示装置、外観検査システムおよびロボット教示方法 | |
JP2003202296A (ja) | 画像入力装置、三次元測定装置および三次元画像処理システム |