JP2014126943A - 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 - Google Patents
画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 Download PDFInfo
- Publication number
- JP2014126943A JP2014126943A JP2012281662A JP2012281662A JP2014126943A JP 2014126943 A JP2014126943 A JP 2014126943A JP 2012281662 A JP2012281662 A JP 2012281662A JP 2012281662 A JP2012281662 A JP 2012281662A JP 2014126943 A JP2014126943 A JP 2014126943A
- Authority
- JP
- Japan
- Prior art keywords
- image
- imaging
- instruction
- projection
- imaging device
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title abstract description 12
- 238000003384 imaging method Methods 0.000 claims abstract description 187
- 230000004044 response Effects 0.000 claims abstract description 17
- 238000003672 processing method Methods 0.000 claims description 10
- 230000003287 optical effect Effects 0.000 description 13
- 238000010586 diagram Methods 0.000 description 8
- 230000008569 process Effects 0.000 description 7
- 230000008859 change Effects 0.000 description 3
- 238000003708 edge detection Methods 0.000 description 3
- 230000009466 transformation Effects 0.000 description 3
- PXFBZOLANLWPMH-UHFFFAOYSA-N 16-Epiaffinine Natural products C1C(C2=CC=CC=C2N2)=C2C(=O)CC2C(=CC)CN(C)C1C2CO PXFBZOLANLWPMH-UHFFFAOYSA-N 0.000 description 2
- 230000007423 decrease Effects 0.000 description 2
- 238000009434 installation Methods 0.000 description 2
- 238000004891 communication Methods 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005286 illumination Methods 0.000 description 1
- 239000011159 matrix material Substances 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/90—Dynamic range modification of images or parts thereof
- G06T5/94—Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V10/00—Arrangements for image or video recognition or understanding
- G06V10/10—Image acquisition
- G06V10/12—Details of acquisition arrangements; Constructional details thereof
- G06V10/14—Optical characteristics of the device performing the acquisition or on the illumination arrangements
- G06V10/145—Illumination specially adapted for pattern recognition, e.g. using gratings
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V20/00—Scenes; Scene-specific elements
- G06V20/60—Type of objects
- G06V20/64—Three-dimensional objects
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/56—Cameras or camera modules comprising electronic image sensors; Control thereof provided with illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/74—Circuitry for compensating brightness variation in the scene by influencing the scene brightness using illuminating means
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/80—Camera processing pipelines; Components thereof
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3179—Video signal processing therefor
- H04N9/3182—Colour adjustment, e.g. white balance, shading or gamut
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N9/00—Details of colour television systems
- H04N9/12—Picture reproducers
- H04N9/31—Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
- H04N9/3191—Testing thereof
- H04N9/3194—Testing thereof including sensor feedback
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V2201/00—Indexing scheme relating to image or video recognition or understanding
- G06V2201/06—Recognition of objects for industrial automation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Artificial Intelligence (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Image Processing (AREA)
- Studio Devices (AREA)
- Image Analysis (AREA)
Abstract
【課題】撮像装置が撮像した画像のコントラストが低下することなく当該画像に含まれる対象物の明るさが対象物の向きに応じて変動しない画像処理装置及び方法を提供する。
【解決手段】撮像指示部3bは、所定の濃淡値を画素ごとに設定した濃淡画像I1が投影された対象物を撮像するよう撮像装置2に指示する。画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I2を取得する。画像作成部3dは、画像I2の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した濃淡画像I3を作成する。撮像指示部3bは、濃淡画像I3が投影された対象物を撮像するよう撮像装置2に指示する。画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I4を取得する。対象物情報取得部3eは、濃淡画像I4に含まれる対象物に関する情報を、画像I4に基づいて取得する。
【選択図】図1
【解決手段】撮像指示部3bは、所定の濃淡値を画素ごとに設定した濃淡画像I1が投影された対象物を撮像するよう撮像装置2に指示する。画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I2を取得する。画像作成部3dは、画像I2の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した濃淡画像I3を作成する。撮像指示部3bは、濃淡画像I3が投影された対象物を撮像するよう撮像装置2に指示する。画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I4を取得する。対象物情報取得部3eは、濃淡画像I4に含まれる対象物に関する情報を、画像I4に基づいて取得する。
【選択図】図1
Description
本発明は、撮像装置によって撮像された画像に含まれる対象物を検出するために画像処理を行う画像処理装置及び方法に関する。
従来、複数の対象物(例えば、部品)が不規則に積まれている状態を撮像装置によって撮像し、撮像装置が撮像した画像に基づいて複数の対象物のうちの一つの対象物を検出し、検出した対象物をロボットによって取り出すシステムが提案されている(例えば、特許文献1,2)。このようなシステムでは、撮像装置の撮像面に対する対象物の面(表面、裏面又は側面)の向きは様々である。対象物の面が撮像装置の撮像面に平行である場合に撮像装置によって撮像された画像に含まれる対象物の明るさは、対象物の面が撮像装置の撮影面に平行でない場合、すなわち、対象物の面が撮像装置の撮影面に対して傾斜している場合に撮像装置によって撮像された画像に含まれる対象物の明るさよりも大きくなる。撮像装置の撮像面に対する対象物の面の向きが様々であるために撮像装置によって撮像された画像に含まれる対象物の明るさの変動が生じるので、撮像装置によって撮像された画像に含まれる対象物を検出するのが困難になることがある。
例えば、対象物の面が撮像装置の撮像面に平行である場合、照明装置等から対象物の面に入射した光の大部分が撮像装置の撮像面に向かう方向に反射するので、対象物の面から反射した光の大部分が撮像装置の撮像面に入射する。したがって、撮像装置によって撮像された画像に含まれる対象物の明るさが大きくなって画像中にハレーションが生じ、撮像装置によって撮像された画像に含まれる対象物の検出が困難になることがある。また、対象物の面が撮像装置の撮影面に平行でない場合、すなわち、対象物の面が撮像装置の撮影面に対して傾斜している場合、照明装置等から対象物の面に入射した光の大部分が撮像装置の撮像面に向かう方向以外の方向に反射するので、対象物の面から反射した光が撮像装置の撮像面にほとんど入射しない。したがって、撮像装置によって撮像された画像に含まれる対象物の明るさが小さくなるために撮像装置によって撮像された画像に含まれる対象物が暗くなるので、撮像装置によって撮像された画像に含まれる対象物の検出が困難になることがある。すなわち、撮像装置によって撮像された画像に含まれる対象物の明るさは、対象物の面から反射した光が撮像装置の撮像面に入射する割合に応じて変動する。
一方、対象物の面が撮像装置の撮像面に平行であるために撮像装置によって撮像された画像に含まれる対象物の明るさが過度に大きくなる事態及び対象物の面が撮像装置の撮影面に対して傾斜しているであるために撮像装置によって撮像された画像に含まれる対象物の明るさが過度に小さくなる事態を回避するために、複数種類の露光時間で露光を行い、ダイナミックレンジの広い画像を取得する撮像装置(例えば、特許文献3)と、複数種類の露光時間で撮像を行い、取得した複数の画像からダイナミックレンジの広い画像を生成する画像処理装置(例えば、特許文献4)と、が提案されている。
しかしながら、上述した撮像装置及び画像装置では、撮像装置によって撮像された画像に含まれる対象物の明るさの差、すなわち、画像のコントラストが低下し、撮像装置によって撮像された画像に含まれる対象物の検出が困難になるという不都合がある。
本発明の目的は、撮像装置が撮像した画像のコントラストが低下することなく当該画像に含まれる対象物の明るさが対象物の向きに応じて変動しない画像処理装置及び方法を提供することである。
本発明による画像処理装置は、撮像装置が撮像した画像に含まれる対象物を検出するために画像処理を行う画像処理装置であって、対象物を撮像するよう撮像装置に指示する撮像指示部と、撮像指示部の指示に応じて撮像装置が撮像した第1の画像を取得する画像取得部と、第1の画像に基づいて、第1の画像の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した第2の画像を作成する画像作成部と、第2の画像を対象物に投影するよう投影装置に指示する投影指示部と、撮像指示部の指示に応じて第2の画像が投影された対象物を撮像装置が撮像することによって画像取得部が取得する第3の画像に基づいて、対象物に関する情報を取得する対象物情報取得部と、を備えることを特徴とする。
好適には、投影指示部は、画像取得部が第1の画像を取得するために撮像指示部が対象物を撮像するよう撮像装置に指示する前に、所定の濃淡値を画素ごとに設定した第4の画像を対象物に投影するよう投影装置に指示し、撮像指示部は、画像取得部が第1の画像を取得するために、第4の画像が投影された対象物を撮像するよう撮像装置に指示する。
好適には、第4の画像は、対象物が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した画像である。
好適には、第4の画像は、画像作成部が前回作成した第2の画像である。
本発明による画像処理方法は、撮像装置が撮像した画像に含まれる対象物を検出するために画像処理をプロセッサによって行う画像処理方法であって、プロセッサが、対象物を撮像するよう撮像装置に指示する第1の撮像指示ステップと、プロセッサが、第1の撮像指示ステップでの指示に応じて撮像装置が撮像した第1の画像を取得する第1の画像取得ステップと、プロセッサが、第1の画像の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した第2の画像を作成する画像作成ステップと、プロセッサが、第2の画像を対象物に投影するよう投影装置に指示する第1の投影指示ステップと、プロセッサが、第2の画像が投影された対象物を撮像するよう撮像装置に指示する第2の撮像指示ステップと、プロセッサが、第2の撮像指示ステップでの指示に応じて撮像装置が撮像した第3の画像を取得する第2の画像取得ステップと、プロセッサが、第3の画像に含まれる対象物に関する情報を、第3の画像に基づいて取得する対象物情報取得ステップと、を備えることを特徴とする。
好適には、本発明による画像処理方法は、プロセッサが、第1の撮像指示ステップの前に、所定の濃淡値を画素ごとに設定した第4の画像を対象物に投影するよう投影装置に指示する第2の投影指示ステップを更に備え、第1の撮像指示ステップにおいて、プロセッサが、第4の画像が投影された対象物を撮像するよう撮像装置に指示する。
好適には、第4の画像は、対象物が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した画像である。
好適には、第4の画像は、画像作成ステップで前回作成した第2の画像である。
本発明によれば、撮像装置が撮像した画像のコントラストが低下することなく当該画像に含まれる対象物の明るさが対象物の向きに応じて変動しなくなる。
本発明による画像処理装置及び方法の実施の形態を、図面を参照しながら説明する。
図1は、本発明の実施の形態の画像処理装置を含むシステムのブロック図である。図1に示すシステムは、投影装置1と、撮像装置2と、画像処理装置3及びアーム操作部4を有するプロセッサ5と、ロボット6と、RAM7と、ROM8と、を有する。
図1は、本発明の実施の形態の画像処理装置を含むシステムのブロック図である。図1に示すシステムは、投影装置1と、撮像装置2と、画像処理装置3及びアーム操作部4を有するプロセッサ5と、ロボット6と、RAM7と、ROM8と、を有する。
投影装置1は、白黒の濃淡を有する濃淡画像を投影するプロジェクタ等によって構成され、不規則に積まれた複数の部品からなる対象物としての部品群11が入れられたコンテナ12の少なくとも一部に濃淡画像を投影するように架台13に固定される。図1に示す部品群11の状態は、物品取り出し工程中の第1のタイミングにおける部品群の状態に対応する。
撮像装置2は、白黒の濃淡画像を生成するカメラ等によって構成され、投影装置1が濃淡画像を投影する範囲が撮像装置2の視野に入るように架台13に固定される。本実施の形態では、投影装置1の光軸が撮像装置2の光軸と略同一である。
画像処理装置3は、撮像装置2が撮像した画像に含まれる部品群11を検出するためにテンプレートマッチング、エッジ検出等の画像処理を行う。このために、画像処理装置3は、投影指示部3aと、撮像指示部3bと、画像取得部3cと、画像作成部3dと、対象物情報取得部3eと、を備える。
投影指示部3aは、所定の濃淡値を画素ごとに設定した第4の画像としての濃淡画像I1を部品群11に投影するよう投影装置1に指示する。このために、投影指示部3aは、RAM7に予め格納されている濃淡画像I1を取り出し、濃淡画像I1を投影装置1に供給する。投影装置1は、濃淡画像I1が投影指示部3aから供給されると濃淡画像I1を対象物群11に投影する。したがって、濃淡画像I1は、濃淡画像I1を対象物群11に投影するよう投影装置1に指示するための投影指令としての役割も果たす。また、投影装置1は、濃淡画像I1の部品群11への投影を開始するとその旨を知らせる投影開始信号S1を撮像指示部3bに入力する。
濃淡画像I1は、部品群11が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した画像である。図2は、対象物が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した投影用の画像の一例を示す図である。図2において、濃淡画像I1のうちの部品群11が含まれる領域R1に対応する画素の全てに対して零を超える同じ濃淡値を設定し、それ以外の領域R2に対応する画素の全てに対して(黒に対応する)零の濃淡値を設定している。このように濃淡画像I1のうちの部品群11が含まれない領域R2に対応する画素の全てに対して零の濃淡値を設定することによって、部品群11の位置の特定が容易になる。
投影指示部3bは、濃淡画像I1が投影された部品群11を撮像するよう撮像装置2に指示する。このために、投影指示部3bは、投影開始信号S1に応答して、濃淡画像I1が投影された部品群11を撮像するよう撮像装置2に指示する撮像指令C1を撮像装置2に発する。撮像装置2は、撮像指令C1に応答して、濃淡画像I1が投影された部品群11を撮像し、撮像指令C1に応答して撮像した第1の画像としての濃淡画像I2を画像取得部3cに供給する。
画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I2を取得する。このために、撮像装置2から画像取得部3cに濃淡画像I2が供給され、画像取得部3cは、供給された濃淡画像I2をRAM7に格納する。
図3は、図2に示す投影用の画像が投影された対象物を撮像することによって取得される画像の一例を示す図である。図3に示す部品群11の状態は、物品取り出し工程中の(第1のタイミングとは異なる)第2のタイミングにおける部品群の状態に対応する。
図3に示すように、部品群11に含まれる部品の中では、撮像装置2の撮像面に平行な面を有する部品の明るさが最も大きく、撮像装置2の撮像面に対する面の傾斜が大きくなるに従って部品の明るさが小さくなっている。
画像作成部3dは、濃淡画像I2の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した第2の画像としての濃淡画像I3を作成する。このために、画像作成部3dは、投影装置1及び撮像装置2を架台13に固定する際に、濃淡画像I2の画素と濃淡画像I3の画素との対応関係を予め求め、濃淡画像I2及び求めた対応関係に基づいて濃淡画像I3を作成する。
図1に示すように投影装置1の光軸が撮像装置2の光軸と略同一である場合、投影装置1の設置位置と撮像装置2の設置位置との違いによる濃淡画像I2と濃淡画像I3との違いが生じない。したがって、濃淡画像I2に基づいて生成した明るさの分布を示す濃淡画像を単純に拡大又は縮小し、明るさの分布を反転させることによって濃淡画像I3を作成することができる。
本実施の形態では、画像作成部3dは、上述したように求めた対応関係に基づいて縮小した濃淡画像I2’にフィルタ処理を施すことによって濃淡画像I3を作成する。フィルタ処理の一例として、高周波成分を除去するためにガウシアンフィルタ等を用いたローパスフィルタ処理を挙げることができる。ローパスフィルタのサイズは、例えば、撮像装置2の視野の大きさ及び濃淡画像I2に含まれる物品群11の大きさに基づいて決定される。
図4は、図3に示す画像を予め求めた対応関係に基づいて縮小することによって取得される画像の明るさの分布を示す画像の一例を示す図であり、図5は、図4に示す画像をローパスフィルタ処理することによって取得される投影用の画像の一例を示す図である。図4に示す濃淡画像I2’の明るさの分布は、図3に示す濃淡画像I2の明るさの分布に対応し、図5に示す濃淡画像I3の明るさの分布は、図4に示す濃淡画像I2’の明るさの分布と正反対の明るさの分布を有する。
また、投影指示部3aは、濃淡画像I3を部品群11に投影するよう投影装置1に指示する。このために、投影指示部3aは、RAM7に格納されている濃淡画像I3を取り出し、濃淡画像I3を投影装置1に供給する。投影装置1は、濃淡画像I3が投影指示部3aから供給されると濃淡画像I3を対象物群11に投影する。したがって、濃淡画像I3は、濃淡画像I3を対象物群11に投影するよう投影装置1に指示するための投影指令としての役割も果たす。また、投影装置1は、濃淡画像I3の部品群11への投影を開始するとその旨を知らせる投影開始信号S2を撮像指示部3bに入力する。
また、撮像指示部3bは、濃淡画像I3が投影された部品群11を撮像するよう撮像装置2に指示する。このために、撮像指示部3bは、投影開始信号S2に応答して、濃淡画像I3が投影された部品群11を撮像するよう撮像装置2に指示する撮像指令C2を撮像装置2に発する。撮像装置2は、撮像指令C2に応答して、濃淡画像I3が投影された部品群11を撮像し、撮像指令C2に応答して撮像した第3の画像としての濃淡画像I4を画像取得部3cに供給する。
図6は、図5に示す投影用の画像が投影された対象物を撮像することによって取得される画像の一例を示す図である。図6に示すように、部品群11に含まれる部品の明るさは全て同程度になっている。すなわち、部品の面が撮像装置2の撮像面に平行であるために濃淡画像I4に含まれる部品の明るさが過度に大きくなる事態及び部品の面が撮像装置2の撮影面に対して傾斜しているであるために濃淡画像I4に含まれる部品の明るさが過度に小さくなる事態が生じない。また、画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I4を取得する。このために、撮像装置2から画像取得部3cに濃淡画像I4が供給され、画像取得部3cは、供給された濃淡画像I4をRAM7に格納する。
対象物情報取得部3eは、濃淡画像I4に含まれる物品群11に関する情報を濃淡画像I4に基づいて取得する。このために、対象物情報取得部3eは、テンプレートマッチング、エッジ検出等の画像処理を行い、物品群11に含まれる複数の物品の各々の位置、形状、大きさ、向き等の対象物情報Sを取得し、対象物情報Sをアーム操作部4に供給する。
アーム操作部4は、ロボット6のアームを操作するためのアーム操作指令Aを対象物情報Sに基づいて作成し、アーム操作指令Aをロボット6に発する。プロセッサ5は、図示しないロボットコントローラ内に設けられ、図示しない入出力ポート、シリアル通信回路、A/D変換器等を備えることによって実現され、ROM8に格納された処理プログラムPに従って各種処理を実行する。ロボット6は、アーム操作指令Aに応じて、物品群11に含まれる複数の物品のうちの一つを取り出すようアームを動かす。RAM7は、上述したように、画像処理装置3による画像処理中に濃淡画像I1,I2,I2’,I3,I4を一時的に格納する。ROM8は、上述したように、プロセッサ5が実行する処理プログラムPを格納する。
図7は、本発明の実施の形態の画像処理方法のフローチャートである。このフローチャートは、ロボット6による物品取り出し動作中に物品群11中の複数の物品のうちの一つの物品を取り出す度に画像処理装置3によって実行され、ROM8に格納された処理プログラムPによって制御される。
先ず、投影指示部3aは、RAM7に予め格納されている濃淡画像I1を取り出し、濃淡画像I1を投影装置1に供給する(ステップS1)。次に、投影指示部3bは、投影開始信号S1に応答して、濃淡画像I1が投影された部品群11を撮像するよう撮像装置2に指示する撮像指令C1を撮像装置2に発する(ステップS2)。次に、画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I2を取得し、取得した濃淡画像I2をRAM7に格納する(ステップS3)。次に、画像作成部3dは、投影装置1及び撮像装置2を架台13に固定する際に予め求めてあった投影装置1から投影される画像の画素と撮像装置2によって撮像される画像の画素との対応関係及び濃淡画像I2に基づいて、濃淡画像I3を作成する(ステップS4)。次に、投影指示部3aは、RAM7に格納されている濃淡画像I3を取り出し、濃淡画像I3を投影装置1に供給する(ステップS5)。次に、撮像指示部3bは、投影開始信号S2に応答して、濃淡画像I3が投影された部品群11を撮像するよう撮像装置2に指示する撮像指令C2を撮像装置2に発する(ステップS6)。次に、画像取得部3cは、撮像指示部3bの指示に応じて撮像装置2が撮像した濃淡画像I4を取得し、取得した濃淡画像I4をRAM7に格納する(ステップS7)。次に、対象物情報取得部3eは、テンプレートマッチング、エッジ検出等の画像処理を行い、物品群11に含まれる複数の物品の各々の位置、形状、大きさ、向き等の対象物情報Sを取得し、対象物情報Sをアーム操作部4に供給し(ステップS8)、本ルーチンを終了する。
本実施の形態によれば、物品群11に濃淡画像I3を投影することによって、物品群11中の複数の物品は、撮像装置2の撮像面に対する物品の面の傾きに応じて適切な明るさで照明される。このために、濃淡画像I4に含まれる物品群11中の複数の物品の明るさは、対象物の向きに応じて変動しなくなる。したがって、濃淡画像I4にハレーション及び暗い部分が生じなくなり、濃淡画像I4は、濃淡変化が先鋭化された画像となる。また、濃淡画像I4は、ダイナミックレンジを広げていないのでコントラストが低下しない。また、2回の濃淡画像の投影及び2回の濃淡画像の撮像を行っているので、従来のように複数種類の露光時間で露光又は撮像する場合に比べて処理時間を短くすることができる。さらに、本実施の形態では、上述したように濃淡変化が先鋭化された濃淡画像I4を用いるので、物品群11の検出等を容易に行うことができる。
本発明は、上記実施の形態に限定されるものではなく、幾多の変更及び変形が可能である。例えば、上記実施の形態において、本発明による画像処理装置をロボットに適用する場合について説明したが、本発明による画像処理装置をロボット以外に適用することもできる。
上記実施の形態において、画像処理装置3及びアーム操作部4をロボットコントローラ内の同一のプロセッサ5で実現する場合について説明したが、画像処理装置3及びアーム操作部4をロボットコントローラ内で別個のプロセッサで実現することもできる。
上記実施の形態において、画像処理装置3をロボットコントローラ内に設ける場合について説明したが、画像処理装置3を投影装置1内又は撮像装置2内に設けることもできる。画像処理装置3を投影装置1内に設けた場合、投影指示部3aは、投影装置1それ自体に投影指示を行い、画像処理装置3を撮像装置2内に設けた場合、撮像指示部3bは、撮像装置2それ自体に撮像指示を行う。
上記実施の形態において、投影装置1がコントローラを有しない場合について説明したが、投影装置1はコントローラを有してもよい。投影装置1がコントローラを有する場合、当該コントローラは、投影指示部3aによる投影指示に応じた投影動作を行う。
上記実施の形態において、撮像装置2がコントローラを有しない場合について説明したが、撮像装置2はコントローラを有してもよい。撮像装置2がコントローラを有する場合、当該コントローラは、撮像指示部3bによる撮像指示に応じた撮像動作を行う。また、投影装置1は、濃淡画像I1,I3を一時的に格納するメモリを有してもよく、撮像装置2は、濃淡画像I2,I4を一時的に格納するメモリを有してもよい。
上記実施の形態において、白黒の濃淡画像を用いる場合について説明したが、カラー画像の各色の濃淡画像を用いることができる。上記実施の形態において、撮像装置2が濃淡画像を直接取得する場合について説明したが、撮像装置2を白黒カメラ又はカラーカメラによって構成し、白黒カメラ又はカラーカメラが撮像した画像を画像処理装置3によって処理することによって濃淡画像を取得することもできる。
上記実施の形態において、対象物情報取得部3eが物品群11に含まれる複数の物品の各々の位置、形状、大きさ、向き等の対象物情報Sを取得し、対象物情報Sをアーム操作部4に供給する場合について説明したが、物品群11に含まれる複数の物品の各々を濃淡画像I4に基づいて検査する機能を対象物情報取得部3eとアーム操作部4のうちのいずれか一方に持たせることもできる。
上記実施の形態において、濃淡画像I1を部品群11に投影するよう投影装置1に指示する投影指示部3aを設け、濃淡画像I1が投影された部品群11を撮像するよう投影指示部3bが撮像装置2に指示する場合について説明したが、濃淡画像I1の部品群11への投影を省略し、部品群11を撮像するよう投影指示部3bが撮像装置2に指示することもできる。
上記実施の形態において、部品群11が含まれる領域に対応する画素の全てに対して零を超える濃淡値を設定した画像を濃淡画像I1として用いる場合について説明したが、濃淡画像I3がRAM7に格納されている、すなわち、画像作成部3cが濃淡画像I3を前回の対象物情報Sの取得時に作成している場合には、濃淡画像I3を濃淡画像I1として用いることができる。このように物品群11に前回作成した濃淡画像I3を投影することによって、物品群11中の複数の物品は、撮像装置2の撮像面に対する物品の面の傾きを考慮した明るさで照明される。このために、濃淡画像I3に含まれる物品群11中の複数の物品の明るさの対象物の向きに応じた変動を小さくすることができる。したがって、濃淡変化が先鋭化された濃淡画像I4を得るための処理を簡単にすることができる。
上記実施の形態において、投影装置1及び撮像装置2を架台13に固定した場合について説明したが、投影装置1及び撮像装置2をロボット6のアームの先端に取り付け、対象物情報Sの取得時にロボット6のアームの先端をコンテナ12の上に配置することもできる。
上記実施の形態において、投影装置1の光軸が撮像装置2の光軸と略同一である場合について説明したが、投影装置1の光軸が撮像装置2の光軸と同一である場合又は投影装置1の光軸が撮像装置2の光軸と同一でない場合も本発明に適用することができる。投影装置1の光軸が撮像装置2の光軸と同一でない場合、濃淡画像I2の画素と濃淡画像I3の画素との対応関係を、濃淡画像I2と濃淡画像I3との相対的な位置関係に基づいて幾何学的に求めることができる。この場合、中心投影を行うのが好ましいが、アフィン変換等の2次元的な幾何学変換を用いて濃淡画像I2の画素と濃淡画像I3の画素との対応関係を表現してもよい。アフィン変換を用いる場合、濃淡画像I2の画素Paと濃淡画像I3の画素Pbとの関係は、3行3列の行列Aを用いることによって以下のように表現することができる。
Pa=A×Pb
ここで、撮像装置2の光学系による濃淡画像I3に含まれる物品群11の歪みが問題になる場合、このような歪みを考慮しながら濃淡画像I2の画素と濃淡画像I3の画素との対応関係を求める。
Pa=A×Pb
ここで、撮像装置2の光学系による濃淡画像I3に含まれる物品群11の歪みが問題になる場合、このような歪みを考慮しながら濃淡画像I2の画素と濃淡画像I3の画素との対応関係を求める。
上記実施の形態において、濃淡画像I2の画素と濃淡画像I3の画素との対応関係に基づいて縮小した濃淡画像I2’にフィルタ処理を施すことによって濃淡画像I3を作成する場合について説明したが、濃淡画像I1の各画素の明るさを求め、濃淡画像I2の画素と濃淡画像I3の画素との対応関係及び濃淡画像I2の各画素の明るさが所定の明るさより大きいか否かに基づいて濃淡画像I3の各画素の明るさを決定することによって、濃淡画像I3を作成することもできる。例えば、濃淡画像I1の画素iの明るさをFiとし、画素iに対応する濃淡画像I2の画素の明るさをGiとし、所定の明るさをG0とした場合、画素iに対応する濃淡画素I3の明るさHiは、以下の式によって求めることができる。
Hi=Fi×(G0÷Gi)
Hi=Fi×(G0÷Gi)
1 投影装置
2 撮像装置
3 画像処理装置
3a 投影指示部
3b 撮像指示部
3c 画像取得部
3d 画像作成部
3e 対象物情報取得部
4 アーム操作部
5 プロセッサ
6 ロボット
7 RAM
8 ROM
11 部品群
12 コンテナ
13 架台
A アーム操作指令
C1,C2 撮像指令
I1,I2,I2’,I3,I4 濃淡画像
P 処理プログラム
R1,R2 領域
S1,S2 投影開始信号
S 対象物情報
2 撮像装置
3 画像処理装置
3a 投影指示部
3b 撮像指示部
3c 画像取得部
3d 画像作成部
3e 対象物情報取得部
4 アーム操作部
5 プロセッサ
6 ロボット
7 RAM
8 ROM
11 部品群
12 コンテナ
13 架台
A アーム操作指令
C1,C2 撮像指令
I1,I2,I2’,I3,I4 濃淡画像
P 処理プログラム
R1,R2 領域
S1,S2 投影開始信号
S 対象物情報
Claims (8)
- 撮像装置が撮像した画像に含まれる対象物を検出するために画像処理を行う画像処理装置であって、
対象物を撮像するよう撮像装置に指示する撮像指示部と、
前記撮像指示部の指示に応じて撮像装置が撮像した第1の画像を取得する画像取得部と、
前記第1の画像に基づいて、前記第1の画像の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した第2の画像を作成する画像作成部と、
前記第2の画像を対象物に投影するよう投影装置に指示する投影指示部と、
前記撮像指示部の指示に応じて前記第2の画像が投影された対象物を撮像装置が撮像することによって前記画像取得部が取得する第3の画像に基づいて、対象物に関する情報を取得する対象物情報取得部と、
を備えることを特徴とする画像処理装置。 - 前記投影指示部は、前記画像取得部が前記第1の画像を取得するために前記撮像指示部が対象物を撮像するよう撮像装置に指示する前に、所定の濃淡値を画素ごとに設定した第4の画像を対象物に投影するよう投影装置に指示し、前記撮像指示部は、前記画像取得部が前記第1の画像を取得するために、前記第4の画像が投影された対象物を撮像するよう撮像装置に指示する、請求項1に記載の画像処理装置。
- 前記第4の画像は、対象物が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した画像である、請求項2に記載の画像処理装置。
- 前記第4の画像は、前記画像作成部が前回作成した第2の画像である、請求項2に記載の画像処理装置。
- 撮像装置が撮像した画像に含まれる対象物を検出するために画像処理をプロセッサによって行う画像処理方法であって、
プロセッサが、対象物を撮像するよう撮像装置に指示する第1の撮像指示ステップと、
プロセッサが、前記第1の撮像指示ステップでの指示に応じて撮像装置が撮像した第1の画像を取得する第1の画像取得ステップと、
プロセッサが、前記第1の画像の明るさの分布と正反対の明るさの分布を有するように濃淡値を画素ごとに設定した第2の画像を作成する画像作成ステップと、
プロセッサが、前記第2の画像を対象物に投影するよう投影装置に指示する第1の投影指示ステップと、
プロセッサが、前記第2の画像が投影された対象物を撮像するよう撮像装置に指示する第2の撮像指示ステップと、
プロセッサが、前記第2の撮像指示ステップでの指示に応じて撮像装置が撮像した第3の画像を取得する第2の画像取得ステップと、
プロセッサが、前記第3の画像に含まれる対象物に関する情報を、前記第3の画像に基づいて取得する対象物情報取得ステップと、
を備えることを特徴とする画像処理方法。 - プロセッサが、前記第1の撮像指示ステップの前に、所定の濃淡値を画素ごとに設定した第4の画像を対象物に投影するよう投影装置に指示する第2の投影指示ステップを更に備え、
前記第1の撮像指示ステップにおいて、プロセッサが、前記第4の画像が投影された対象物を撮像するよう撮像装置に指示する、請求項5に記載の画像処理方法。 - 前記第4の画像は、対象物が含まれる領域に対応する画素の全てに対して零を超える同じ濃淡値を設定した画像である、請求項6に記載の画像処理方法。
- 前記第4の画像は、前記画像作成ステップで前回作成した第2の画像である、請求項6に記載の画像処理方法。
Priority Applications (4)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012281662A JP2014126943A (ja) | 2012-12-25 | 2012-12-25 | 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 |
DE102013021618.4A DE102013021618A1 (de) | 2012-12-25 | 2013-12-18 | Bildverarbeitungsvorrichtung und Bildverarbeitungsverfahren zum Ausführen einer Bildverarbeitung, um ein Objekt in einem Bild zu erfassen |
US14/139,611 US9060114B2 (en) | 2012-12-25 | 2013-12-23 | Image processing device and image processing method for executing image processing to detect object in image |
CN201310726118.8A CN103905722A (zh) | 2012-12-25 | 2013-12-25 | 图像处理装置以及图像处理方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2012281662A JP2014126943A (ja) | 2012-12-25 | 2012-12-25 | 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 |
Publications (1)
Publication Number | Publication Date |
---|---|
JP2014126943A true JP2014126943A (ja) | 2014-07-07 |
Family
ID=50974210
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2012281662A Pending JP2014126943A (ja) | 2012-12-25 | 2012-12-25 | 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 |
Country Status (4)
Country | Link |
---|---|
US (1) | US9060114B2 (ja) |
JP (1) | JP2014126943A (ja) |
CN (1) | CN103905722A (ja) |
DE (1) | DE102013021618A1 (ja) |
Families Citing this family (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2016174203A (ja) * | 2015-03-16 | 2016-09-29 | 株式会社東芝 | 半導体装置及びカメラ端末 |
JP6333871B2 (ja) * | 2016-02-25 | 2018-05-30 | ファナック株式会社 | 入力画像から検出した対象物を表示する画像処理装置 |
JP7007324B2 (ja) * | 2019-04-25 | 2022-01-24 | ファナック株式会社 | 画像処理装置、画像処理方法、及びロボットシステム |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07301513A (ja) * | 1994-05-02 | 1995-11-14 | Komatsu Ltd | 対象物の認識装置 |
JPH08320929A (ja) * | 1995-05-24 | 1996-12-03 | Sankyo Seiki Mfg Co Ltd | ワーク検出装置 |
JPH10154014A (ja) * | 1996-07-29 | 1998-06-09 | Elpatronic Ag | へりの追従方法、検査方法及び装置 |
JP2005003410A (ja) * | 2003-06-10 | 2005-01-06 | Kokan Keisoku Kk | 3次元曲面形状の測定装置及び測定方法 |
Family Cites Families (6)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3162066B2 (ja) | 1990-05-29 | 2001-04-25 | オリンパス光学工業株式会社 | 電子的撮像装置 |
US6993760B2 (en) | 2001-12-05 | 2006-01-31 | Microsoft Corporation | Installing software on a mobile computing device using the rollback and security features of a configuration manager |
JP4309439B2 (ja) | 2007-03-30 | 2009-08-05 | ファナック株式会社 | 対象物取出装置 |
JP4565023B2 (ja) | 2008-07-04 | 2010-10-20 | ファナック株式会社 | 物品取り出し装置 |
JP5370056B2 (ja) | 2008-11-04 | 2013-12-18 | オムロン株式会社 | 画像処理装置 |
JP5948731B2 (ja) * | 2011-04-19 | 2016-07-06 | 富士ゼロックス株式会社 | 画像処理装置、画像処理システム及びプログラム |
-
2012
- 2012-12-25 JP JP2012281662A patent/JP2014126943A/ja active Pending
-
2013
- 2013-12-18 DE DE102013021618.4A patent/DE102013021618A1/de not_active Withdrawn
- 2013-12-23 US US14/139,611 patent/US9060114B2/en active Active
- 2013-12-25 CN CN201310726118.8A patent/CN103905722A/zh active Pending
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH07301513A (ja) * | 1994-05-02 | 1995-11-14 | Komatsu Ltd | 対象物の認識装置 |
JPH08320929A (ja) * | 1995-05-24 | 1996-12-03 | Sankyo Seiki Mfg Co Ltd | ワーク検出装置 |
JPH10154014A (ja) * | 1996-07-29 | 1998-06-09 | Elpatronic Ag | へりの追従方法、検査方法及び装置 |
JP2005003410A (ja) * | 2003-06-10 | 2005-01-06 | Kokan Keisoku Kk | 3次元曲面形状の測定装置及び測定方法 |
Also Published As
Publication number | Publication date |
---|---|
DE102013021618A1 (de) | 2014-07-10 |
US9060114B2 (en) | 2015-06-16 |
US20140176761A1 (en) | 2014-06-26 |
CN103905722A (zh) | 2014-07-02 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US20170316558A1 (en) | Image processing apparatus, image processing method and storage medium | |
JP5311143B2 (ja) | 測定装置および方法、並びに、プログラム | |
JP2013197918A5 (ja) | ||
JP2007194794A (ja) | 撮影装置、撮影画像の画像処理方法及びプログラム | |
WO2015196896A1 (zh) | 对焦状态的提示方法和拍摄装置 | |
US9554121B2 (en) | 3D scanning apparatus and method using lighting based on smart phone | |
JP2007285754A (ja) | 欠陥検出方法および欠陥検出装置 | |
EP3499178B1 (en) | Image processing system, image processing program, and image processing method | |
JP2016220056A (ja) | 画像生成装置 | |
JP2005196543A (ja) | 光学情報読取装置 | |
CN111433811B (zh) | 减少图像中的图像伪影 | |
JP2014126943A (ja) | 画像中の対象物を検出するために画像処理を行う画像処理装置及び方法 | |
JP2003168103A (ja) | 画面の線欠陥検出方法及び装置並びに画像データの補正方法 | |
US10721395B2 (en) | Image processing apparatus, image pickup apparatus, image processing method, and non-transitory computer-readable storage medium | |
JP2004239733A (ja) | 画面の欠陥検出方法及び装置 | |
US7970238B2 (en) | Method and apparatus for acquiring image of internal structure, and computer product | |
JP6368593B2 (ja) | 画像処理プログラム、情報処理システム、画像処理方法 | |
JP6390163B2 (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP7289308B2 (ja) | 画像解析装置、画像解析方法およびプログラム | |
EP3798968B1 (en) | Image processing method and device, electronic device, computer apparatus, and storage medium | |
JP2005266042A (ja) | 画像の幾何補正方法及び補正装置 | |
JP6386837B2 (ja) | 画像処理プログラム、情報処理システム、情報処理装置、画像処理方法 | |
JP2005295302A (ja) | カメラ画像処理装置 | |
JP6459745B2 (ja) | 自己位置算出装置及び自己位置算出方法 | |
JP7289309B2 (ja) | 画像解析装置、画像解析方法およびプログラム |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A975 | Report on accelerated examination |
Free format text: JAPANESE INTERMEDIATE CODE: A971005 Effective date: 20140408 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20140513 |
|
A02 | Decision of refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A02 Effective date: 20141007 |