JP7159615B2 - 画像処理装置、及び、ロボットシステム - Google Patents

画像処理装置、及び、ロボットシステム Download PDF

Info

Publication number
JP7159615B2
JP7159615B2 JP2018097490A JP2018097490A JP7159615B2 JP 7159615 B2 JP7159615 B2 JP 7159615B2 JP 2018097490 A JP2018097490 A JP 2018097490A JP 2018097490 A JP2018097490 A JP 2018097490A JP 7159615 B2 JP7159615 B2 JP 7159615B2
Authority
JP
Japan
Prior art keywords
image processing
image
processing device
result
processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018097490A
Other languages
English (en)
Other versions
JP2019204185A5 (ja
JP2019204185A (ja
Inventor
崇 日向
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Seiko Epson Corp
Original Assignee
Seiko Epson Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Seiko Epson Corp filed Critical Seiko Epson Corp
Priority to JP2018097490A priority Critical patent/JP7159615B2/ja
Priority to US16/417,697 priority patent/US10931867B2/en
Publication of JP2019204185A publication Critical patent/JP2019204185A/ja
Publication of JP2019204185A5 publication Critical patent/JP2019204185A5/ja
Application granted granted Critical
Publication of JP7159615B2 publication Critical patent/JP7159615B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/62Control of parameters via user interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30168Image quality inspection

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Quality & Reliability (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Human Computer Interaction (AREA)
  • Image Analysis (AREA)
  • Manipulator (AREA)
  • Studio Devices (AREA)

Description

本発明は、画像処理装置、及び、ロボットシステムに関するものである。
ロボットなどの各種の装置において、被写体をカメラで撮影し、その画像を処理することによって被写体を認識し、ロボットに被写体に対する作業を行わせる技術が利用される。その際、ユーザーは被写体を認識させるための好ましい画像処理条件を設定する必要がある。特許文献1には、同一の画像に対して、複数の画像修正の選択と修正量を受け付け、画像修正を実施した結果の縮小画像を並べてプリントする技術が開示されている。縮小画像の表示欄の外周には、修正項目と修正値が表示される。この技術では、縮小画像と共にその修正項目と修正値を表示するので、複数項目の修正結果を比較しながら、好ましい画像が得られる画像処理条件を設定することができる。
特開2006-108810号公報
しかしながら、上述した従来技術では、縮小画像の画像サイズが小さいので、好ましい画像処理条件を判断することが困難な場合があった。
本発明の一形態によれば、画像処理装置が提供される。この表示部と接続される画像処理装置は、被写体を撮影して画像を取得するための撮影パラメーターと前記画像に対する画像処理を行うための画像処理パラメーターの組み合わせにより構成された複数組のパラメーター設定を受け付けるパラメーター受付部と;前記複数組のパラメーター設定に基づいて、同一の被写体について前記撮影と前記画像処理とを含む処理シーケンスを実行して結果画像を出力するシーケンス実行部と;前記結果画像に含まれる特徴量を予め定められた判定条件に基づいた合否判定を行う判定部と;前記複数組のパラメーター設定に対する前記処理シーケンスの実行結果を示す複数の縮小画像をそれぞれ複数の結果画像として表示部に一覧表示させる一覧表示実行部と;を備える。前記一覧表示実行部は、前記複数の結果画像のそれぞれの表示領域に前記判定部による合否判定結果を表示する。
ロボットシステムの概念図。 複数のプロセッサーを有する制御装置の一例を示す概念図。 複数のプロセッサーを有する制御装置の他の例を示す概念図。 制御装置の機能を示すブロック図。 被写体の一例を示す平面図。 処理シーケンスの作成に用いる入力画面の一例を示す説明図。 処理シーケンスの確認処理の手順を示すフローチャート。 撮影パラメーターの設定処理の手順を示すフローチャート。 撮影パラメーターの設定画面の一例を示す説明図。 画像処理パラメーターの設定処理の手順を示すフローチャート。 撮影された被写体の画像の一例を示す説明図。 画像処理パラメーターの設定画面の一例を示す説明図。 処理シーケンスの実行手順を示すフローチャート。 処理結果の一覧表示の例を示す説明図。 撮影パラメーターの調整画面の一例を示す説明図。 処理結果の一覧表示の他の例を示す説明図。 処理結果の一覧表示の他の例を示す説明図。
A. 第1実施形態:
図1は、ロボットシステムの概念図である。このロボットシステムは、架台700に設置されており、ロボット100と、ロボット100に接続された制御装置200と、ティーチングペンダント300と、パーツフィーダー400と、ホッパー500と、パーツトレイ600と、ストロボ810と、カメラ820とを備えている。ロボット100は、架台700の天板710の下に固定されている。パーツフィーダー400と、ホッパー500と、パーツトレイ600は、架台700のテーブル部720に載置されている。ロボット100は、ティーチングプレイバック方式のロボットである。ロボット100を用いた作業は、予め作成された教示データに従って実行される。このロボットシステムには、直交する3つの座標軸X,Y,Zで規定されるシステム座標系Σsが設定されている。図1の例では、X軸とY軸は水平方向であり、Z軸は鉛直上方向である。教示データに含まれる教示点やエンドエフェクターの姿勢は、このシステム座標系Σsの座標値と各軸回りの角度で表現される。
ロボット100は、基台120と、アーム130とを備えている。アーム130は、4つの関節J1~J4で順次接続されている。これらの関節J1~J4のうち、3つの関節J1,J2,J4はねじり関節であり、1つの関節J3は並進関節である。本実施形態では4軸ロボットを例示しているが、1個以上の関節を有する任意のアーム機構を有するロボットを用いることが可能である。
アーム130の先端部に設けられたアームフランジ132には、エンドエフェクター160が装着されている。図1の例では、エンドエフェクター160は、把持機構164を用いてパーツを把持して拾い上げるグリッパーである。但し、エンドエフェクター160としては、吸着ピックアップ機構などの他の機構を取り付けることも可能である。
パーツフィーダー400は、エンドエフェクター160が把持するパーツを収容する収容装置である。パーツフィーダー400は、パーツを振動させてパーツ同士を分散させる振動機構を有するように構成されていてもよい。ホッパー500は、パーツフィーダー400にパーツを補給するパーツ補給装置である。パーツトレイ600は、パーツを個別に収容するための多数の凹部を有するトレイである。本実施形態において、ロボット100は、パーツフィーダー400の中からパーツを拾い上げて、パーツトレイ600内の適切な位置に収納する作業を実行する。但し、ロボットシステムは、これ以外の他の作業を行う場合にも適用可能である。
制御装置200は、プロセッサー210と、メインメモリー220と、不揮発性メモリー230と、表示制御部240と、表示部250と、I/Oインターフェース260とを有している。これらの各部は、バスを介して接続されている。プロセッサー210は、例えばマイクロプロセッサー又はプロセッサー回路である。制御装置200は、I/Oインターフェース260を介して、ロボット100と、ティーチングペンダント300と、パーツフィーダー400と、ホッパー500とに接続される。制御装置200は、更に、I/Oインターフェース260を介してストロボ810とカメラ820にも接続される。また、ティーチングペンダント300はパーソナルコンピューターなどの情報処理装置であってもよい。
制御装置200の構成としては、図1に示した構成以外の種々の構成を採用することが可能である。例えば、プロセッサー210とメインメモリー220を図1の制御装置200から削除し、この制御装置200と通信可能に接続された他の装置にプロセッサー210とメインメモリー220を設けるようにしてもよい。この場合には、当該他の装置と制御装置200とを合わせた装置全体が、ロボット100の制御装置として機能する。他の実施形態では、制御装置200は、2つ以上のプロセッサー210を有していてもよい。更に他の実施形態では、制御装置200は、互いに通信可能に接続された複数の装置によって実現されていてもよい。これらの各種の実施形態において、制御装置200は、1つ以上のプロセッサー210を備える装置又は装置群として構成される。
図2は、複数のプロセッサーによってロボットの制御装置が構成される一例を示す概念図である。この例では、ロボット100及びその制御装置200の他に、パーソナルコンピューター1400,1410と、LANなどのネットワーク環境を介して提供されるクラウドサービス1500とが描かれている。パーソナルコンピューター1400,1410は、それぞれプロセッサーとメモリーとを含んでいる。また、クラウドサービス1500においてもプロセッサーとメモリーを利用可能である。これらの複数のプロセッサーの一部又は全部を利用して、ロボット100の制御装置を実現することが可能である。
図3は、複数のプロセッサーによってロボットの制御装置が構成される他の例を示す概念図である。この例では、ロボット100の制御装置200が、ロボット100の中に格納されている点が図2と異なる。この例においても、複数のプロセッサーの一部又は全部を利用して、ロボット100の制御装置を実現することが可能である。
図4は、制御装置200の機能を示すブロック図である。制御装置200のプロセッサー210は、メモリー220に予め記憶された各種のプログラム命令222を実行することにより、ロボット制御部211と、パーツフィーダー制御部212と、ホッパー制御部213と、画像処理部270の機能をそれぞれ実現する。画像処理部270は、「画像処理装置」に相当する。すなち、制御装置200は、画像処理装置としての画像処理部270を含んでおり、ロボット100に接続されている。また、画像処理部270と接続される表示部250は、制御装置200に含む構成であってもよいし、制御装置200の外部に設置され、有線または無線で接続された構成であってもよい。
画像処理部270は、カメラ820を用いた撮影と画像処理とを含む処理シーケンスを設定する処理シーケンス設定部271と、処理シーケンスのパラメーターを受け付けるパラメーター受付部272と、処理シーケンスを実行するシーケンス実行部273と、処理シーケンスの実行結果(以下、処理結果と記載する)を判定する判定部274と、処理結果の縮小画像の一覧表示を実行する一覧表示実行部275とを含んでいる。これらの各部の機能については後述する。
図5は、被写体としてのワークWKの一例を示す平面図である。このワークWKは、平坦で暗い表面を有している。ワークWKの表面上には、白抜きの文字「EP」がラベルとして描かれているパーツである。ロボット100がこのワークWKを把持する際には、このワークWKをカメラ820で撮像し、その画像からワークWKの外形、またはワークWKの持つ特徴量を正しく検出して認識することが必要となる。
図6は、処理シーケンス設定部271によって表示部250に表示されるウィンドウW1の一例を示している。このウィンドウW1は、撮影と画像処理とを含む処理シーケンスを作成するための入力画面であり、以下の領域を含んでいる。
(1)メインビュー領域MV:
処理シーケンスを構成する処理の分類を示す複数のカテゴリーと、各カテゴリーに属するオブジェクトの名称と、オブジェクトの内容の説明と、オブジェクトの概要を示す図とが表示される領域である。メインビュー領域MVに表示されたオブジェクトは、ドラッグアンドドロップ等の操作によって処理シーケンス作成領域FL内の処理シーケンスに任意に追加可能である。
(2)処理シーケンス作成領域FL:
1つ以上のオブジェクトがグラフィカルに配置された処理シーケンスが編集可能に表示される領域である。
(3)シーケンス表示領域SQ:
処理シーケンス作成領域FLに表示されたシーケンスのツリー構造が表示される領域である。
(4)パラメーター設定領域PR:
処理シーケンス全体に関するパラメーターや、個々の処理に関する処理パラメーターの設定を行うための領域である。処理シーケンス作成領域FLに配置されたブロックのいずれかが選択されると、選択されたブロックに対するパラメーターが表示される。
(5)結果領域RS:処理シーケンスの実行結果を表示する領域である。
(6)実行指示領域RN:処理シーケンスの実行を指示するための領域である。
図6の例では、ウィンドウW1の処理シーケンス作成領域FL内に、教示者が処理シーケンスを作成した状態が示されている。この例では、シーケンスブロックSB1の後に、以下のオブジェクトが順に配置されている。
(1)撮像オブジェクトOB1
被写体としてのワークWKをカメラ820で撮影する動作を規定するオブジェクト。
(2)2値化オブジェクトOB2
ワークWKの画像を2値化する処理を規定するオブジェクト。
(3)ノイズ除去オブジェクトOB3
2値化後の画像から、ノイズを除去する処理を規定するオブジェクト。
(4)ラベル消去オブジェクトOB4
ノイズ除去後の画像から、ラベルを消去する処理を規定するオブジェクト。「ラベル」とは、ワークWKの表面に表示されている文字やマークを意味しており、図5の例では文字「EP」がラベルに相当する。
(5)プロファイル検出オブジェクトOB5
各種の画像処理後の画像から、被写体であるワークWKの特徴量を示すプロファイルを検出する処理を規定するオブジェクト。ワークWKの特徴量としては、例えば、ワークWKの画素数や、重心位置、輝度平均値、輝度分散値、エッジ強度などの複数の項目を検出するようにプロファイル検出オブジェクトOB5のパラメーターを設定可能である。
各オブジェクトOB1~OB5のブロックの中には、そのオブジェクトの名称が表示される。処理シーケンスには、メインビュー領域MVに表示されたオブジェクトの選択肢の中から任意のオブジェクトを追加可能である。また、処理シーケンス中の任意のオブジェクトを削除することも可能である。なお、ウィンドウW1を用いた処理シーケンスの設定方法は、単なる例示であり、これ以外の任意の方法で処理シーケンスを設定してもよい。
処理シーケンス作成領域FLに配置されたブロックSB1,OB1~OB5のいずれかが選択されると、選択されたブロックに対するパラメーターがパラメーター設定領域PRに表示される。例えば、シーケンスブロックSB1が選択されると、シーケンス全体に関するパラメーターが表示される。また、オブジェクトのブロックOB1~OB5のいずれかが選択されると、そのオブジェクトに関するパラメーターが表示される。
図7は、処理シーケンスの確認処理の手順を示すフローチャートである。この処理は、処理シーケンス設定部271とパラメーター受付部272によって実行される。
ステップS110では、撮影パラメーターが設定される。例えば、図6の動作フロー領域FLの中の1番目の撮像オブジェクトOB1を教示者が選択することによって、ステップS110の処理が開始される。
図8は、図7のステップS110における撮影パラメーターの設定処理の手順を示すフローチャートである。この処理は、パラメーター受付部272によって実行される。まず、ステップS111では、撮影パラメーター設定ファイルが読み込まれる。撮影パラメーター設定ファイルは予め設定されて不揮発性メモリー230に格納されている。ある被写体について撮影を一度も行われていない場合には、撮影パラメーターの初期値が設定された撮影パラメーター設定ファイルを使用可能である。ステップS112では、表示部250に撮影パラメーター設定画面が表示される。
図9は、撮影パラメーターの設定画面W2の一例を示す説明図である。この例では、撮影パラメーターとして、露光時間と絞りの2つのパラメーターを設定可能となっている。また、各パラメーターについて、最小値と、最大値と、間隔とが設定可能である。この例では、露光時間の最小値は0.1秒であり、最大値が0.3秒であり、間隔が0.1秒である。この設定は、露光時間として、0.1秒、0.2秒、0.3秒の3つの値が設定されていることを意味する。この例では、露光時間と絞りについてそれぞれ3つの値が設定されており、その全ての組み合わせである9通りの組み合わせが、撮影パラメーターとして設定されている。撮影パラメーターとしては、これ以外のパラメーターを任意に設定可能である。例えば、撮影倍率やストロボ810の光量などを撮影パラメーターとして設定してもよい。
図8のステップS113では、教示者が撮影パラメーターの設定を変更するか否かを判断する。撮影パラメーターを変更しない場合には、後述するステップS116に進む。一方、撮影パラメーターを変更する場合には、ステップS114で教示者が設定を変更するとこれに応じて撮影パラメーター設定ファイルが更新される。設定の変更が終了していなければステップS115からステップS113に戻る。一方、設定が終了すると、ステップS116に進み、撮影パラメーター設定ファイルが保存されて、撮影パラメーターの設定処理が終了する。
図7のステップS120では、画像処理パラメーターが設定される。ステップS120は、ステップS110が終了すると自動的に開始されるようにしてもよい。あるいは、図6の動作フロー領域FLの中の2番目のオブジェクトOB2を教示者が選択することによって、ステップS120の処理が開始されるようにしてもよい。
図10は、図7のステップS120における画像処理パラメーターの設定処理の手順を示すフローチャートである。この処理も、パラメーター受付部272によって実行される。図10のステップS121~S126の処理は、図8のステップS111~S116における「撮影パラメーター」を「画像処理パラメーター」と置き換えたものなので、詳しい説明は省略する。
図11は、カメラ820でワークWKを撮影して得られる画像MRの一例を示している。以下ではこの画像MRを例として画像処理パラメーターの設定例について説明する。
図12は、画像処理パラメーターの設定画面W3の一例を示す説明図である。この例では、以下の画像処理パラメーターを設定可能である。
(1)2値化閾値
2値化オブジェクトOB2における2値化処理で使用する閾値である。
(2)ノイズ除去フィルターの種類
ノイズ除去オブジェクトOB3におけるノイズ除去処理で使用するフィルターの種類である。ノイズ除去フィルターとしては、例えばメジアンフィルターや平滑化フィルターを選択可能である。
(3)フィルターサイズ
ノイズ除去オブジェクトOB3におけるノイズ除去処理で使用するフィルターのサイズであり、フィルターの一辺の画素数を示す。
(4)消去ラベルサイズ
ラベル消去オブジェクトOB4において消去すべき文字の画素数を示す。例えば、図11に示すように、ワークWKの表面に2つの文字「E」,「P」が存在するとき、各文字「E],「P」の画素数が消去ラベルサイズ以下であれば、その文字が消去される。
(5)輝度平均値検出位置
プロファイル検出オブジェクトOB5において検出すべきプロファイルとして、被写体の輝度平均値を被写体のどの位置で算出するかを示す値である。ここでは、輝度平均値検出位置として「中央」が選択されている。このとき、図11に示すように、被写体であるワークWKのY方向の中心線CL上においてワークWKの輝度平均値が算出される。中心線CLは、ワークWKの重心を通り、画像MRの横方向に平行な直線である。なお、ワークWKのY方向の中央でなく、X方向の中央を選択できるようにしてもよい。また、輝度平均値検出位置として、中央以外の位置を任意に設置できるようにしてもよい。具体的には、例えば、ワークWKの上端から1cmの位置に設定できるようにしてもよい。
(6)輝度分散値検出位置
プロファイル検出オブジェクトOB5において検出すべきプロファイルとして、被写体の輝度分散値を被写体のどの位置で算出するかを示す値である。
(7)エッジ強度検出位置
プロファイル検出オブジェクトOB5において検出すべきプロファイルとして、被写体のエッジ強度を被写体のどの位置で算出するかを示す値である。図12の例では、「中央」が選択されているので、図10に示したワークWKの中心線CL上の各画素についてエッジ強度が算出される。
(8)シーケンス処理時間上限
撮影を除く画像処理の許容時間である。画像処理シーケンスの実行時間がこの上限を超える場合には、処理に時間が掛かりすぎるので処理シーケンスは不合格とされる。
(9)被写体認識サイズ下限
画像の中で認識された被写体の画素数の下限値である。被写体の画素数がこの下限値未満の場合には、被写体を正しく認識できていないので、処理シーケンスは不合格とされる。
上記(1)~(4)のパラメーターは、画像処理の結果の良否に影響のあるパラメーターであり、狭義の「画像処理パラメーター」に相当する。これらの画像処理パラメーターについては、図9に示した撮影パラメーターと同様に、1つのパラメーターについて複数の値を設定するようにしてもよい。この場合には、撮影パラメーターと画像処理パラメーターの複数の組み合わせについて、それぞれ処理シーケンスが実行されて、その処理結果の良否が判定される。
上記(5)~(7)の3つのパラメーターは、被写体の属性を示すプロファイルの項目に相当する。プロファイルの項目としては、これら以外の項目も使用可能である。
上記(8)、(9)の2つのパラメーターは、画像処理の処理結果が合格か否かを判定するための判定条件として使用される。これらの2つのパラメーターを判定条件として使用する場合には、これらを両方とも満足する場合に、判定条件を満足するものと判定される。但し、これらは一例であり、処理結果の判定条件は被写体や画像処理の種類に応じて任意に設定可能である。
こうして撮影パラメーターと画像処理パラメーターがすべて設定されると、図7のステップS130において、処理シーケンスが実行される。例えば、教示者が図6の実行指示領域RNに含まれる「実行」ボタンを押すと、ステップS130が開始される。
図13は、図7のステップS130における処理シーケンスの実行手順を示すフローチャートである。この処理は、シーケンス実行部273によって実行される。
ステップS131では、撮影パラメーター設定ファイルが読み込まれ、ステップS132では、撮影パラメーターに応じてカメラ820による被写体の撮影が実行される。この撮影の際には、必要に応じてストロボ810の発光も利用可能である。図9で説明したように、撮影条件としては、撮影パラメーターの9通りの組み合わせが設定されているので、それらの9通りの撮影条件において撮影が実行され、9枚の画像が生成される。ステップS133では、すべての撮影が終了したか否かが判断され、終了していなければステップS132に戻る。一方、すべての撮影が終了するとステップS134に進む。
ステップ134では、画像処理パラメーター設定ファイルが読み込まれ、ステップS135では、複数の画像のそれぞれについて処理シーケンスに従って画像処理が実行される。ステップS136では、その処理結果が保存される。
こうして処理シーケンスが終了すると、図7のステップS140に進み、処理結果についての判定が判定部274によって実行される。処理結果の判定は、図12で説明した「シーケンス処理時間」と「被写体サイズ」とを含む複数の項目に関して行われる。そして、ステップS150において、処理結果を示す一覧表示が一覧表示実行部275によって実行される。
図14は、処理結果の一覧表示の例を示す説明図である。ここでは、撮影パラメーター設定プロファイルで設定された複数の撮影条件に対応する複数の結果画像TM(i,j)が、表示部250に一覧表示されている。図9で説明したように、本実施形態では露光時間と絞りについて、それぞれ3つの値が設定されているので、それらの9つの組み合わせに対応する9つの結果画像TM(i,j)が一覧表示されている。図14の横軸iは例えば露光時間の3つの値に対応し、縦軸jは絞りの3つの値に対応している。複数の結果画像TM(i,j)を表示部250に一覧表示するために、各結果画像TM(i,j)は、画像処理後の画像の縮小画像を含んでいる。縮小画像としては、例えばサムネイル画像が使用される。
結果画像TM(i,j)の表示領域には、処理結果が判定条件を満足するか否かを示す符号「OK」又は「NG」が表示されている。すなわち、処理結果が判定条件を満足する場合には「OK」の文字が表示され、満足しない場合には「NG」の文字が表示されている。これらの2つの符号は、教示者が容易に識別可能な態様で表示されることが好ましい。例えば、「OK」の文字は緑色で表示し、「NG」の文字は赤色で表示するようにしてもよい。こうすれば、処理結果が良好であったパラメーターの組を教示者が容易に見つけ出すことが可能である。
更に、処理結果が判定条件を満たす結果画像TM(i,j)には、合格であることを強調するため、結果画像を囲むように枠線FR1が描かれている。この枠線FR1も、教示者が容易に識別可能な態様で表示されることが好ましい。例えば、枠線FR1を結果画像の辺縁部の少し外側に表示して囲むように表示してもよいし、結果画像の辺縁部に重なるように表示してもよいし、枠線FR1を結果画像の辺縁部に対して少し内側に表示してもよい。さらに、枠線FR1を緑色で表示するようにしてもよい。このように、判定条件を満足している場合に、結果画像TM(i,j)に特定の枠線FR1を表示するようにすれば、どのパラメーター設定が良好かを教示者が容易に判断できるという利点がある。但し、枠線FR1は省略してもよい。
結果画像TM(i,j)の縮小画像に隣接する位置には、エッジ強度の分布が表示されている。このエッジ強度の分布は、図12で設定されたエッジ強度検出位置における分布である。なお、エッジ強度に加えて、或いは、エッジ強度の代わりに、輝度平均値や輝度分散値を縮小画像の周囲に表示してもよい。このような被写体のプロファイルを結果画像TM(i,j)の表示領域に表示するようにすれば、各結果画像TM(i,j)の良否を教示者がより正確に判断できる。但し、被写体のプロファイルの表示は省略してもよい。
各結果画像TM(i,j)において、縮小画像以外の部分は、縮小画像が作成された後に描画されることが好ましい。こうすれば、合否判定結果を示す符号「OK」「NG」や枠線FR1の線幅が細くならないので、教示者がより視認し易い状態で表示できる。
図14の例では、2つの結果画像TM(3,2),TM(3,3)の処理結果が合格である。教示者はこれらの結果画像TM(3,2),TM(3,3)のいずれかに対応するパラメーターを処理シーケンスのパラメーターとして採用することが可能である。
図7のステップS160では、処理シーケンスの調整が終了したか否かが判断され、終了していない場合にはステップS170においてパラメーターの調整が行われる。パラメーターの調整は、例えば、図14のボタンBT2を押すことによって開始される。
図15は、撮影パラメーターの調整画面W4の一例を示す説明図である。ここでは、変更前と変更後の撮影パラメーターが表示されている。変更後の撮影パラメーターは、任意に入力可能である。但し、変更後のパラメーターの間隔は、変更前よりも細かい値に設定されることが好ましい。こうすれば、パラメーターをより細かい間隔で調べることができるので、良好なパラメーターを得ることが可能となる。このためには、初期のパラメーターの間隔を、設定し得る最小値よりも大きな値に設定しておくことが好ましい。画像処理パラメーターも必要に応じて調整してもよい。
ステップS170においてパラメーターが調整されると、ステップS130に戻り、上述したステップS130~S160が再度実行される。こうして、パラメーターを調整しながら処理シーケンスを繰り返し実行することにより、適切なパラメーターを得ることが可能である。
以上のように、第1実施形態では、複数組のパラメーター設定に対する処理結果の一覧表示として、複数の結果画像TM(i,j)のそれぞれの表示領域に、処理結果が判定条件を満足するか否かを識別可能に表示するので、各組のパラメーター設定が良好か否かを容易に判断することが可能である。特に、第1実施形態では、処理結果を示す符号として、結果の良否を直接的に表現する文字を使用するので、教示者がパラメーター設定の良否を理解しやすいという利点がある。
B. 他の実施形態:
図16は、処理結果の一覧表示の他の例を示す説明図である。この例では、図14で説明した一覧表示に加えて、処理結果が判定条件を満足しない場合に付される第2の枠線FR2と、判定条件達成度OMと、の2つの表示が追加されている。
第2の枠線FR2は、処理結果が判定条件を満たさない結果画像TM(i,j)に描かれている。また、この第2の枠線FR2は、処理結果が判定条件を満たす結果画像TM(i,j)に描かれる第1の枠線FR1と識別可能な態様で表示されることが好ましい。例えば、第1の枠線FR1と第2の枠線FR2は異なる色で表示されることが好ましい。具体的には、例えば、第1の枠線FR1を緑色で表示し、第2の枠線FR2を赤色で表示することが好ましい。こうすれば、どのパラメーター設定が良好かを更に容易に判断できるという利点がある。
判定条件達成度OMは、処理結果が判定条件を満足する程度を示す情報である。この例では、判定条件達成度OMには、判定項目の値が棒グラフとして描かれており、また、閾値OLを示す線も描かれている。被写体の画素数を判定条件として使用する場合には、図12で説明した「被写体認識サイズ下限」の値が閾値OLとして表示され、画像処理によって認識された被写体の画素数が棒グラフとして表示される。図16に示すように、判定条件達成度OMは、処理結果の値が閾値OLに対して低くなる場合、閾値OLよりも高くなる場合を含めて、処理結果が判定条件を満足する程度を示している。このように、複数の結果画像TM(i,j)のそれぞれの表示領域に、判定条件の満足の程度を示す情報を視認可能に表示すれば、各組のパラメーター設定がどの程度良好かを容易に判断できるという利点がある。
図17は、処理結果の一覧表示の更に他の例を示す説明図である。この例では、すべての結果画像TM(i,j)が判定条件を満足しておらず、「NG」の文字が表示されている。但し、判定条件達成度OMのグラフを見ると、結果画像TM(3,2)が最も判定条件達成度OMが高いことが理解できる。この結果画像TM(3,2)には、不合格を示す文字「NG」が、他の結果画像TM(i,j)における文字「NG」と識別可能な態様で表示されている。具体的に、例えば、結果画像TM(3,2)における文字「NG」は、他の結果画像における文字「NG」とは異なる色で表示される。このように、複数組のパラメーター設定がすべて判定条件を満足しない場合に、判定条件の満足の程度が最も高い結果画像の表示領域にその旨を視認可能に表示すれば、次にパラメーター設定をどの範囲に変更すれば判定条件を満足する結果画像が含まれるか予想出来るため、判定条件を満足するパラメーター設定を容易に調整できるという利点がある。
本発明は、上述した実施形態に限られるものではなく、その趣旨を逸脱しない範囲において種々の形態で実現することができる。例えば、本発明は、以下の形態(aspect)によっても実現可能である。以下に記載した各形態中の技術的特徴に対応する上記実施形態中の技術的特徴は、本発明の課題の一部又は全部を解決するために、あるいは、本発明の効果の一部又は全部を達成するために、適宜、差し替えや、組み合わせを行うことが可能である。また、その技術的特徴が本明細書中に必須なものとして説明されていなければ、適宜、削除することが可能である。
(1)本発明の第1の形態によれば、表示部と接続された画像処理装置が提供される。この画像処理装置は、被写体を撮影して画像を取得するための撮影パラメーターと、前記画像に対する画像処理を行うための画像処理パラメーターの組み合わせにより構成された複数組のパラメーター設定を受け付けるパラメーター受付部と;前記複数組のパラメーター設定に基づいて、前記撮影と前記画像処理とを含む処理シーケンスを実行して結果画像を出力するシーケンス実行部と;前記結果画像に含まれる特徴量を予め定められた判定条件に基づいて良否判定する判定部と;前記複数組のパラメーター設定に対する前記処理シーケンスの実行結果を示す複数の縮小画像をそれぞれ複数の結果画像として表示部に一覧表示させる一覧表示実行部と;を備える。前記一覧表示実行部は、前記複数の結果画像のそれぞれの表示領域に前記判定部による判定結果を表示する。
この画像処理装置によれば、複数組のパラメーター設定に対する処理結果の一覧表示として、複数の結果画像のそれぞれの表示領域に、処理シーケンスの結果が判定条件を満足するか否かを識別可能に表示するので、撮影パラメーターと画像処理パラメーターを含む各組のパラメーター設定が良好か否かを容易に判断できる。
(2)上記画像処理装置において、前記一覧表示実行部は、前記複数の結果画像のそれぞれの表示領域に、前記判定条件の満足の程度を表示するものとしてもよい。
この画像処理装置によれば、複数の結果画像のそれぞれの表示領域に判定条件の満足の程度を表示するので、各組のパラメーター設定がどの程度良好かを容易に判断できる。
(3)上記画像処理装置において、前記一覧表示実行部は、前記複数組のパラメーター設定がすべて前記判定条件を満足しない場合、前記判定条件の満足の程度が最も高い結果画像の表示領域に、前記判定条件の満足の程度が最も高いことを示す情報を表示するものとしてもよい。
この画像処理装置によれば、複数組のパラメーター設定がすべて判定条件を満足しない場合に、判定条件の満足の程度が最も高い結果画像の表示領域にその旨を視認可能に表示するので、次にパラメーター設定をどの範囲に変更すれば判定条件を満足する結果画像が含まれるか予想出来、判定条件を満足するようにパラメーター設定を容易に調整できる。
(4)上記画像処理装置において、前記一覧表示実行部は、前記判定条件を満足した場合に、前記判定結果を満足した結果画像を囲む第1の枠線を表示するものとしてもよい。
この画像処理装置によれば、判定条件を満足している場合に結果画像に第1の枠線を表示するので、どのパラメーター設定が良好かを容易に判断できる。
(5)上記画像処理装置において、前記一覧表示実行部は、前記判定条件を満足しない場合に前記結果画像に第2の枠線を表示し、前記第1の枠線と前記第2の枠線を異なる色で表示するものとしてもよい。
この画像処理装置によれば、前記判定条件を満足した場合と満足しない場合とで異なる色の枠線を結果画像に表示するので、どのパラメーター設定が良好かを容易に判断できる。
(6)上記画像処理装置において、前記判定条件は、前記処理シーケンスの処理時間が予め設定された許容時間以下であるという条件を含むものとしてもよい。
この画像処理装置によれば、処理シーケンスの処理時間が予め設定された許容時間以下であるという条件を含む判定条件を使用するので、過度に処理時間を要するパラメーター設定か否かを容易に判断できる。
(7)本発明の第2の形態によれば、表示部と接続される画像処理装置が提供される。この画像処理装置は、プロセッサーを備え、前記プロセッサーは、(a)被写体を撮影して画像を取得するための撮影パラメーターと、前記画像に対する画像処理を行うための画像処理パラメーターとの組み合わせにより構成された複数組のパラメーター設定を受け付け、(b)前記複数組のパラメーター設定に基づいて、前記撮影と前記画像処理とを含む処理シーケンスを実行して結果画像を出力し、(c)前記結果画像に含まれる特徴量を予め定められた判定条件に基づいて良否判定し、(d)前記複数組のパラメーター設定に対する前記処理シーケンスの実行結果を示す複数の縮小画像をそれぞれ複数の結果画像として前記表示部に一覧表示させる、ように構成されている。前記プロセッサーは、前記複数の結果画像のそれぞれの表示領域に前記良否判定による判定結果を表示する。
この画像処理装置によれば、複数組のパラメーター設定に対する処理結果の一覧表示として、複数の結果画像のそれぞれの表示領域に、処理シーケンスの結果が判定条件を満足するか否かを識別可能に表示するので、撮影パラメーターと画像処理パラメーターを含む各組のパラメーター設定が良好か否かを容易に判断できる。
(8)本発明の第3の形態は、画像処理装置を含む制御装置に接続されたロボットである。
このロボットによれば、ワークを被写体として処理シーケンスを実行する際に、各組のパラメーター設定が良好か否かを容易に判断できるので、ワークの撮影と画像処理のパラメーターを好ましい設定にすることが可能となる。
(9)本発明の第4の形態は、ロボットと、前記ロボットに接続された上記画像処理装置を含む制御装置と、を備えるロボットシステムである。
このロボットシステムによれば、ワークを被写体として処理シーケンスを実行する際に、各組のパラメーター設定が良好か否かを容易に判断できるので、ワークの撮影と画像処理のパラメーターを好ましい設定にすることが可能となる。
本発明は、上記以外の種々の形態で実現することも可能である。例えば、画像処理方法、画像処理装置の機能を実現するためのコンピュータープログラム、そのコンピュータープログラムを記録した一時的でない記録媒体(non-transitory storage medium)等の形態で実現することができる。
100…ロボット、120…基台、130…アーム、132…アームフランジ、160…エンドエフェクター、164…把持機構、200…制御装置、210…プロセッサー、211…ロボット制御部、212…パーツフィーダー制御部、213…ホッパー制御部、220…メインメモリー、222…プログラム命令、230…不揮発性メモリー、240…表示制御部、250…表示部、260…I/Oインターフェース、270…画像処理部、271…処理シーケンス設定部、272…パラメーター受付部、273…シーケンス実行部、274…判定部、275…一覧表示実行部、300…ティーチングペンダント、400…パーツフィーダー、500…ホッパー、600…パーツトレイ、700…架台、710…天板、720…テーブル部、810…ストロボ、820…カメラ、1400,1410…パーソナルコンピューター、1500…クラウドサービス

Claims (7)

  1. 表示部と接続する画像処理装置であって、
    被写体を撮影して画像を取得するための撮影パラメーターと前記画像に対する画像処理を行うための画像処理パラメーターの組み合わせにより構成された複数組のパラメーター設定を受け付けるパラメーター受付部と、
    前記複数組のパラメーター設定に基づいて、同一の被写体について前記撮影と前記画像処理とを含む処理シーケンスを実行して結果画像を出力するシーケンス実行部と、
    前記結果画像に含まれる特徴量を予め定められた判定条件に基づいた合否判定を行う判定部と、
    前記複数組のパラメーター設定に対する前記処理シーケンスの実行結果を示す複数の縮小画像をそれぞれ複数の結果画像として前記表示部に一覧表示させる一覧表示実行部と、を備え、
    前記一覧表示実行部は、前記複数の結果画像のそれぞれの表示領域に前記判定部による合否判定結果を表示する、画像処理装置。
  2. 請求項1に記載の画像処理装置であって、
    前記一覧表示実行部は、前記複数の結果画像のそれぞれの表示領域に、前記判定条件の満足の程度を表示する、画像処理装置。
  3. 請求項2に記載の画像処理装置であって、
    前記一覧表示実行部は、前記複数組のパラメーター設定がすべて前記判定条件を満足しない場合、前記判定条件の満足の程度が最も高い結果画像の表示領域に、前記判定条件の満足の程度が最も高いことを示す情報を表示する、画像処理装置。
  4. 請求項1~3のいずれか一項に記載の画像処理装置であって、
    前記一覧表示実行部は、前記判定条件を満足した場合、前記判定結果を満足した結果画像を囲む第1の枠線を表示する、画像処理装置。
  5. 請求項4に記載の画像処理装置であって、
    前記一覧表示実行部は、前記判定条件を満足しない場合に前記結果画像に第2の枠線を表示し、前記第1の枠線と前記第2の枠線を異なる色で表示する、画像処理装置。
  6. 請求項1~5のいずれか一項に記載の画像処理装置であって、
    前記判定条件は、前記処理シーケンスの処理時間が予め設定された許容時間以下であるという条件を含む、画像処理装置。
  7. ロボットと、
    前記ロボットに接続された請求項1~6のいずれか一項に記載の画像処理装置を含む制御装置と、
    を備えるロボットシステム。
JP2018097490A 2018-05-22 2018-05-22 画像処理装置、及び、ロボットシステム Active JP7159615B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2018097490A JP7159615B2 (ja) 2018-05-22 2018-05-22 画像処理装置、及び、ロボットシステム
US16/417,697 US10931867B2 (en) 2018-05-22 2019-05-21 Image processing apparatus, robot and robot system

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2018097490A JP7159615B2 (ja) 2018-05-22 2018-05-22 画像処理装置、及び、ロボットシステム

Publications (3)

Publication Number Publication Date
JP2019204185A JP2019204185A (ja) 2019-11-28
JP2019204185A5 JP2019204185A5 (ja) 2021-05-27
JP7159615B2 true JP7159615B2 (ja) 2022-10-25

Family

ID=68613564

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2018097490A Active JP7159615B2 (ja) 2018-05-22 2018-05-22 画像処理装置、及び、ロボットシステム

Country Status (2)

Country Link
US (1) US10931867B2 (ja)
JP (1) JP7159615B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TW202228080A (zh) 2021-01-06 2022-07-16 日商發那科股份有限公司 圖像處理裝置

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004294358A (ja) 2003-03-28 2004-10-21 Hitachi High-Technologies Corp 欠陥検査方法および装置
JP2006295244A (ja) 2005-04-05 2006-10-26 Olympus Imaging Corp デジタルカメラ
JP2010244320A (ja) 2009-04-07 2010-10-28 Panasonic Electric Works Co Ltd 画像処理装置
JP2012194641A (ja) 2011-03-15 2012-10-11 Omron Corp 画像処理装置および画像処理プログラム
JP2014116912A (ja) 2012-12-12 2014-06-26 Canon Inc 画像処理装置、画像処理装置の制御方法およびプログラム
WO2016136441A1 (ja) 2015-02-23 2016-09-01 コニカミノルタ株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2018047293A1 (ja) 2016-09-09 2018-03-15 オリンパス株式会社 画像取得装置、画像処理装置、画像処理方法、画像処理プログラムおよび画像取得システム

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6882750B2 (en) * 2000-05-02 2005-04-19 Zaxel Systems, Inc. Fast loss less image compression system based on neighborhood comparisons
JP3922102B2 (ja) 2002-06-04 2007-05-30 セイコーエプソン株式会社 複数画像の一覧表示
JP4230838B2 (ja) * 2003-06-27 2009-02-25 株式会社日立ハイテクノロジーズ 欠陥検査装置における検査レシピ設定方法および欠陥検査方法
JP4431887B2 (ja) 2004-09-30 2010-03-17 セイコーエプソン株式会社 画像処理装置、画像処理方法、画像処理プログラム、印刷制御装置、印刷制御方法および印刷制御プログラム
US20140067321A1 (en) * 2012-09-06 2014-03-06 Schmitt Industries, Inc. Systems and methods for monitoring machining of a workpiece
KR102065418B1 (ko) * 2013-09-24 2020-01-13 엘지전자 주식회사 이동 단말기 및 그 제어 방법
KR102327779B1 (ko) * 2014-02-21 2021-11-18 삼성전자주식회사 이미지 처리 방법 및 장치
US10509459B2 (en) * 2016-05-19 2019-12-17 Scenera, Inc. Scene-based sensor networks
US10891509B2 (en) * 2017-10-27 2021-01-12 Avigilon Corporation Method and system for facilitating identification of an object-of-interest
JP6977634B2 (ja) * 2018-03-13 2021-12-08 オムロン株式会社 外観検査装置、外観検査方法及びプログラム
KR102468068B1 (ko) * 2018-07-13 2022-11-16 엘지디스플레이 주식회사 플렉서블 디스플레이 장치

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2004294358A (ja) 2003-03-28 2004-10-21 Hitachi High-Technologies Corp 欠陥検査方法および装置
JP2006295244A (ja) 2005-04-05 2006-10-26 Olympus Imaging Corp デジタルカメラ
JP2010244320A (ja) 2009-04-07 2010-10-28 Panasonic Electric Works Co Ltd 画像処理装置
JP2012194641A (ja) 2011-03-15 2012-10-11 Omron Corp 画像処理装置および画像処理プログラム
JP2014116912A (ja) 2012-12-12 2014-06-26 Canon Inc 画像処理装置、画像処理装置の制御方法およびプログラム
WO2016136441A1 (ja) 2015-02-23 2016-09-01 コニカミノルタ株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
WO2018047293A1 (ja) 2016-09-09 2018-03-15 オリンパス株式会社 画像取得装置、画像処理装置、画像処理方法、画像処理プログラムおよび画像取得システム

Also Published As

Publication number Publication date
US20190364193A1 (en) 2019-11-28
JP2019204185A (ja) 2019-11-28
US10931867B2 (en) 2021-02-23

Similar Documents

Publication Publication Date Title
US10891520B2 (en) Machine learning device, inspection device and machine learning method
JP6396516B2 (ja) 視覚センサのキャリブレーション装置、方法及びプログラム
CN107048599B (zh) 自动化的斯创贝尔印刷
CN109426835B (zh) 信息处理装置、信息处理装置的控制方法和存储介质
CN108872265A (zh) 检测方法、装置及***
CN110599441B (zh) 接缝检查装置
JP2021037736A5 (ja) 検品装置とその制御方法、並びにプログラム
JP7159615B2 (ja) 画像処理装置、及び、ロボットシステム
CN208366871U (zh) 检测***
US10960550B2 (en) Identification code reading apparatus and machine learning device
CN110524538B (zh) 图像处理装置、机器人以及机器人***
US11922614B2 (en) Welding condition setting assistance device
JP6795512B2 (ja) 部品実装機
JP2009292088A (ja) 乱丁検知装置
JP7330864B2 (ja) スクラップ画像撮影システム、スクラップ画像撮影方法、撮影支援装置、及びプログラム
JP7391571B2 (ja) 電子機器、その制御方法、プログラム、および記憶媒体
JP7215218B2 (ja) 分光検査方法、画像処理装置、及びロボットシステム
JP7308436B2 (ja) 情報管理装置及び情報管理方法
WO2021235311A1 (ja) 機械学習装置及び機械学習システム
JP2005337870A (ja) 検出システム及び標識体
JP2020062707A (ja) 情報処理装置
US20230311308A1 (en) Machine-learning device
JP4858227B2 (ja) 検査パラメータ設定支援装置、その制御プログラムおよび制御方法
JP2024005533A (ja) 作業管理装置及び作業管理方法
JP2023148119A (ja) コンピュータプログラム、および、制御装置

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210414

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210414

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220308

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220322

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20220512

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20220913

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20220926

R150 Certificate of patent or registration of utility model

Ref document number: 7159615

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150