JP6875056B2 - コンピュータシステム、動作検証方法及びプログラム - Google Patents

コンピュータシステム、動作検証方法及びプログラム Download PDF

Info

Publication number
JP6875056B2
JP6875056B2 JP2020539904A JP2020539904A JP6875056B2 JP 6875056 B2 JP6875056 B2 JP 6875056B2 JP 2020539904 A JP2020539904 A JP 2020539904A JP 2020539904 A JP2020539904 A JP 2020539904A JP 6875056 B2 JP6875056 B2 JP 6875056B2
Authority
JP
Japan
Prior art keywords
machine tool
image
predetermined time
time
abnormality
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020539904A
Other languages
English (en)
Other versions
JPWO2020044440A1 (ja
Inventor
俊二 菅谷
俊二 菅谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Optim Corp
Original Assignee
Optim Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Optim Corp filed Critical Optim Corp
Application granted granted Critical
Publication of JP6875056B2 publication Critical patent/JP6875056B2/ja
Publication of JPWO2020044440A1 publication Critical patent/JPWO2020044440A1/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1674Programme controls characterised by safety, monitoring, diagnostic
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4068Verifying part programme on screen, by drawing or other means
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4063Monitoring general control system
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B19/00Programme-control systems
    • G05B19/02Programme-control systems electric
    • G05B19/18Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form
    • G05B19/406Numerical control [NC], i.e. automatically operating machines, in particular machine tools, e.g. in a manufacturing environment, so as to execute positioning, movement or co-ordinated operations by means of programme data in numerical form characterised by monitoring or safety
    • G05B19/4069Simulating machining process on screen
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0004Industrial image inspection
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B25HAND TOOLS; PORTABLE POWER-DRIVEN TOOLS; MANIPULATORS
    • B25JMANIPULATORS; CHAMBERS PROVIDED WITH MANIPULATION DEVICES
    • B25J9/00Programme-controlled manipulators
    • B25J9/16Programme controls
    • B25J9/1694Programme controls characterised by use of sensors other than normal servo-feedback from position, speed or acceleration sensors, perception control, multi-sensor controlled systems, sensor fusion
    • B25J9/1697Vision controlled systems
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/33Director till display
    • G05B2219/33301Simulation during machining
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37214Detect failed machine component, machine performance degradation
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/37Measurements
    • G05B2219/37563Ccd, tv camera
    • GPHYSICS
    • G05CONTROLLING; REGULATING
    • G05BCONTROL OR REGULATING SYSTEMS IN GENERAL; FUNCTIONAL ELEMENTS OF SUCH SYSTEMS; MONITORING OR TESTING ARRANGEMENTS FOR SUCH SYSTEMS OR ELEMENTS
    • G05B2219/00Program-control systems
    • G05B2219/30Nc systems
    • G05B2219/42Servomotor, servo controller kind till VSS
    • G05B2219/42329Defective measurement, sensor failure
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Automation & Control Theory (AREA)
  • Human Computer Interaction (AREA)
  • Manufacturing & Machinery (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Computer Graphics (AREA)
  • Mechanical Engineering (AREA)
  • Robotics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • General Factory Administration (AREA)
  • Numerical Control (AREA)
  • Image Analysis (AREA)
  • Testing And Monitoring For Control Systems (AREA)

Description

本発明は、工作用機械の動作検証を行うコンピュータシステム、動作検証方法及びプログラムに関する。
近年、工業分野において、製品の製造工程を、コンピュータグラフィックスで再現するデジタルツインという技術が知られている。このような技術において、工作用機械の姿勢や動作をセンサ情報から取得し、この取得したセンサ情報に基づいて工作用機械の姿勢や動作をコンピュータグラフィックスにより再現している。
このようなデジタルツインに類似する技術として、作業者が作業する作業空間の3次元データを取得し、この3次元データと、作業マニュアルに基づいた作業手順とを比較することにより、作業工程の終了条件を満たしたか否かを判断する技術が開示されている(特許文献1参照)。
特開2017−191351号公報
しかしながら、特許文献1の構成では、3次元データに必要なデータをセンサから取得するが、このセンサが不具合を起こしている場合、正確な3次元データを生成することができないため、3次元データが正確な動作を反映していないおそれがあった。
本発明は、工作用機械の動作をより正確に把握することが容易なコンピュータシステム、動作検証方法及びプログラムを提供することを目的とする。
本発明では、以下のような解決手段を提供する。
本発明は、工作用機械が所定時間動作する際に、動作したデータを取得するデータ取得手段と、
取得した前記データから前記工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックスを生成するCG生成手段と、
前記工作用機械を、前記所定時間撮影した画像を取得するカメラ画像取得手段と、
前記画像と、前記コンピュータグラフィックスとを前記所定時間において比較する比較手段と、
を備えることを特徴とするコンピュータシステムを提供する。
本発明によれば、コンピュータシステムは、工作用機械が所定時間動作する際に、動作したデータを取得し、取得した前記データから前記工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックスを生成し、前記工作用機械を、前記所定時間撮影した画像を取得し、前記画像と、前記コンピュータグラフィックスとを前記所定時間において比較する。
本発明は、コンピュータシステムのカテゴリであるが、方法及びプログラム等の他のカテゴリにおいても、そのカテゴリに応じた同様の作用・効果を発揮する。
本発明によれば、工作用機械の動作をより正確に把握することが容易なコンピュータシステム、動作検証方法及びプログラムを提供することが可能となる。
図1は、動作検証システム1の概要を示す図である。 図2は、動作検証システム1の全体構成図である。 図3は、コンピュータ10が実行する動作検証処理を示すフローチャートである。 図4は、コンピュータ10が生成するコンピュータグラフィックスを時系列の変化に従って模式的に示す図である。 図5は、コンピュータ10が取得する画像を時系列の変化に従って模式的に示す図である。
以下、本発明を実施するための最良の形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
[動作検証システム1の概要]
本発明の好適な実施形態の概要について、図1に基づいて説明する。図1は、本発明の好適な実施形態である動作検証システム1の概要を説明するための図である。動作検証システム1は、コンピュータ10から構成され、工作用機械の動作検証を実行するコンピュータシステムである。
なお、動作検証システム1は、工作用機械を撮影する撮影機器、工作用機械の動作や姿勢を検知する各種検知センサ、工作用機械を管理する管理者が所持する管理者端末等の他の機器やセンサ等が含まれていてもよい。
コンピュータ10は、図示してない上述した撮影機器、各種検知センサ、管理者端末等と公衆回線網等を介してデータ通信可能に接続されたコンピュータ装置である。
コンピュータ10は、工作用機械が所定時間動作する際、この工作用機械が動作したデータを各種検知センサから取得する。所定時間としては、予め決められた時間や、一又は複数の工程に必要な時間である。コンピュータ10は、このデータから、この工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックス(以下、CGと称す)を生成する。このとき、コンピュータ10は、工作用機械のみならず、この工作用機械が作業対象とする対象物も併せてCG化する。加えて、コンピュータ10は、工作用機械が動作するデータを取得する所定時間と同じタイミングで、この工作用機械を撮影した画像を取得する。この画像は、動画又は静止画である。コンピュータ10は、取得した画像と、生成したCGとを所定時間において比較する。コンピュータ10は、CGと画像とを比較することにより、これらの間に差異が存在するかを判断し、差異が存在する場合、工作用機械の異常を検知する。
コンピュータ10は、異常を検知した場合、この工作用機械の異常の原因となるパーツを異常の原因として推測する。このとき、コンピュータ10は、差異が発生した最初の時間に動作している部分に関するパーツを異常の原因と推測する。部分とは、例えば、アームである。部分に関するパーツとは、例えば、アームに設けられた位置センサである。
コンピュータ10は、この検知結果を、管理者端末に通知する。このとき、コンピュータ10は、推測した異常の原因とその発生した時間とを管理者に検知結果として通知する。
動作検証システム1が実行する処理の概要について説明する。
初めに、コンピュータ10は、工作用機械が所定時間動作する際、この工作用機械が動作したデータを示す動作データを取得する(ステップS01)。コンピュータ10は、この工作用機械に設置された各種検知センサや、この工作用機械の姿勢や動作等を検知可能なその他の場所に設置された各種検知センサにより、工作用機械の動作や姿勢に関するデータを、動作データとして取得する。所定時間とは、予め設定された時間や、1又は複数の工程に必要な時間や、予め設定された所定の動作(移動、握持、運搬、載置等)に必要な時間等である。コンピュータ10は、この動作データを取得することにより、工作用機械の動作や姿勢を把握する。
コンピュータ10は、取得した動作データから、工作用機械が所定時間動作することを仮想的に示すCGを生成する(ステップS02)。コンピュータ10は、工作用機械に加え、この工作用機械が作業対象とする対象物も併せてCGとして生成する。このとき、コンピュータ10は、工作用機械と対象物との初期位置を、予め設定された位置関係に基づいてこのCGを生成する。コンピュータ10が生成するCGは、取得する動作データに併せて随時更新される。
コンピュータ10は、CGを生成する所定時間と同一時間に撮影する画像を取得する(ステップS03)。コンピュータ10は、撮影機器が工作用機器及び対象物を撮影した動画や静止画等の画像を取得する。
コンピュータ10は、取得した画像と、生成したCGとを画像解析し、其々における工作用機械と対象物との位置関係を比較する(ステップS04)。このとき、コンピュータ10は、CGと画像との間で、工作用機械と対象物との位置関係に差異が存在しているか否かを判断する。例えば、コンピュータ10は、所定時間における開始時点から終了時点までの工作用機械と対象物との位置関係を比較する。
コンピュータ10は、比較した結果、差異が発生していると判断した場合、工作用機械に何らかの異常が発生していることを検知する(ステップS05)。
コンピュータ10は、検知した異常の原因を推測する(ステップS06)。コンピュータ10は、例えば、差異が発生した最初の時間(CGと画像とで差異が発生し始めた時間)を、比較した結果から抽出し、この時間において動作しているパーツや、この時間において動作する部分に関するパーツが異常の原因であるものと推測する。
コンピュータ10は、推測した異常を通知する(ステップS07)。コンピュータ10は、異常を検知した事実や、推測した異常の原因を管理者端末等に通知する。コンピュータ10は、工作用機械に異常が発生している旨、異常の原因として推測したパーツ等を管理者端末に通知する。
なお、コンピュータ10は、推測した異常を自身の表示部に表示してもよい。この場合、管理者端末に必ずしも通知する必要はない。
以上が、動作検証システム1の概要である。
[動作検証システム1のシステム構成]
図2に基づいて、本発明の好適な実施形態である動作検証システム1のシステム構成について説明する。図2は、本発明の好適な実施形態である動作検証システム1のシステム構成を示す図である。図2において、動作検証システム1は、コンピュータ10から構成され、工作用機械の動作検証を実行するコンピュータシステムである。
なお、動作検証システム1は、上述した通り、図示していない撮影機器、各種検知センサ、管理者端末等の他の機器やセンサ等が含まれていてもよい。動作検証システム1は、他の機器やセンサ等と公衆回線網等を介してデータ通信可能に接続される。
コンピュータ10は、制御部として、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備え、通信部として、上述した撮影機器、各種検知センサ、管理者端末等の他の機器やセンサ等と通信可能にするためのデバイス、例えば、IEEE802.11に準拠したWi―Fi(Wireless―Fidelity)対応デバイス等を備える。また、コンピュータ10は、記憶部として、ハードディスクや半導体メモリ、記録媒体、メモリカード等によるデータのストレージ部を備える。また、コンピュータ10は、処理部として、各種処理を実行する各種デバイス等を備える。
コンピュータ10において、制御部が所定のプログラムを読み込むことにより、通信部と協働して、データ取得モジュール20、画像取得モジュール21、通知モジュール22を実現する。また、コンピュータ10において、制御部が所定のプログラムを読み込むことにより、処理部と協働して、CG生成モジュール40、解析モジュール41、位置関係特定モジュール42、比較モジュール43、判断モジュール44、検知モジュール45、抽出モジュール46、動作部分特定モジュール47、推測モジュール48を実現する。
[動作検証処理]
図3に基づいて、動作検証システム1が実行する動作検証処理について説明する。図3は、コンピュータ10が実行する動作検証処理のフローチャートを示す図である。上述した各モジュール実行する処理について、本処理に併せて説明する。
データ取得モジュール20は、工作用機械が所定時間動作する際に、この工作用機械が動作したデータを、動作データとして取得する(ステップS10)。ステップS10において、データ取得モジュール20は、工作用機械の所定の位置に設置されたセンサ(例えば、アームに設置された位置センサ)から、この工作用機械の姿勢や動作等に関するデータを、動作データとして取得する。所定時間とは、予め設定された時間や、この工作用機械が1又は複数の作業工程を実行するために必要な時間や、予め設定された所定の動作(移動、握持、運搬、載置等)に必要な時間等である。この所定時間は、管理者等が任意に設定可能である。このセンサは、工作用機械の全体又は一部の姿勢や動作を検知するものである。
CG生成モジュール40は、取得した動作データに基づいて、この工作用機械を仮想的に示すCGを生成する(ステップS11)。ステップS11において、CG生成モジュール40は、工作用機械が所定時間動作する状態をCGとして生成する。このCGは、幅・奥行・高さを有する3次元のものである。CG生成モジュール40は、工作用機械に加えて、この工作用機械が動作する対象となる対象物も併せてCGとして生成する。この対象物は、予め設定された初期位置に基づいてCGとして生成する。CG生成モジュール40は、動作データに基づいた工作用機械と、予め設定された初期位置に基づいた対象物とをCGとして生成する。CG生成モジュール40は、動画及び静止画として、このCGを生成する。CG生成モジュール40が生成したCGは、所定時間(例えば、この工作用機械が動作を開始し、その動作が完了する時点や、この工作用機械が実行する一又は複数の作業工程が完了する時点)保存される。CG生成モジュール40は、後述する処理において、検知モジュール45が、異常が発生していないことを検知した場合、この保存したCGを削除する。
CG生成モジュール40は、取得した動作データに基づいて、随時CGを更新する。この場合、CG生成モジュール40は、最初に生成したCGのうち、工作用機械及びこの工作用機械が動作した対象物を、動作データに併せて変化させたものを生成する。
例えば、工作用機械がアームであり、このアームに位置センサ及び接触センサが設定され、対象物が組立て部品である場合、CG生成モジュール40は、動作データに基づいて、仮想的なアームを生成し、組立て部品の初期位置に基づいて、仮想的な組立て部品を生成する。CG生成モジュール40は、これらの仮想物をまとめた一のCGを生成する。CG生成モジュール40は、位置センサからの動作データに基づいて、アームの動作の動きをCGとして再現するとともに、この接触センサからの動作データに基づいて、アームが掴む組立て部品の位置や状態をCGとして再現する。CG生成モジュール40は、このCGの生成を、所定時間続行する。
画像取得モジュール21は、撮影機器が、工作用機械をCGとして生成する所定時間と同一時間に撮影した画像を取得する(ステップS12)。ステップS12において、撮影機器は、工作用機械及び対象物の動画や静止画等の画像を撮影する。このとき、撮影機器は、CGと同一のタイミングで画像を撮影する。画像取得モジュール21は、この撮影機器が撮影した画像を取得する。このとき、CG生成モジュール40が生成するCGと、画像取得モジュール21が取得する画像とは、その時間が同期されたものとなる。画像取得モジュール21は、この画像の取得を、所定時間続行する。画像取得モジュール21は、動画及び静止画として、この画像を取得する。画像取得モジュール21が取得した画像は、所定時間(例えば、この工作用機械が動作を開始し、その動作が完了する時点や、この工作用機械が実行する一又は複数の作業工程が完了する時点)保存される。画像取得モジュール21は、後述する処理において、検知モジュール45が、異常が発生していないことを検知した場合、この保存した画像を削除する。
撮影機器は、一又は複数である。一の撮影機器の場合、この撮影機器が設置された場所から、画像を撮影する。複数の撮影機器である場合、各撮影機器が設置された場所から、其々画像を撮影する。
解析モジュール41は、生成したCGと、取得した画像とを其々画像解析する(ステップS13)。ステップS13において、解析モジュール41は、CGと画像との其々の特徴点又は特徴量を抽出することにより、画像解析を実行する。解析モジュール41は、特徴点として、例えば、形状、輪郭を抽出する。解析モジュール41は、特徴量として、例えば、画素値の平均、分散、ヒストグラム等の統計的な数値を抽出する。解析モジュール41は、この画像解析を、所定時間続行する。
位置関係特定モジュール42は、画像解析の結果に基づいて、CGと画像との其々における工作用機械と対象物との位置関係を特定する(ステップS14)。ステップS14において、位置関係特定モジュール42は、抽出した特徴点又は特徴量に基づいて、CGと画像とにおける工作用機械と対象物との位置関係を特定する。この位置関係とは、例えば、工作用機械が対象物のどの位置を掴んでいるかの特定、工作用機械が対象物のどの位置と接触しているかの特定、工作用機械が対象物のどの位置に接近しているかの特定、工作用機械が一の対象物を他の対象物のどの位置に設置したかの特定である。位置関係特定モジュール42は、工作用機械と対象物との特定を、所定時間続行する。
比較モジュール43は、CGと画像とを、所定時間において比較する(ステップS15)。ステップS15において、比較モジュール43は、CGにおける工作用機械と対象物との位置関係と、画像における工作用機械と対象物との位置関係とを比較する。比較モジュール43は、所定時間として、工作用機械の動作開始時点から動作終了時点までの時間において、CGと画像とを比較する。動作開始時点とは、工作用機械が動作を開始したタイミングである。動作終了時点とは、工作用機械が予め設定された動作を終了したタイミングや、工作用機械に予め設定された作業工程の一部又は全部が終了したタイミングである。比較モジュール43は、CGと画像とを比較する際、静止画と動画の2種類で其々比較する。すなわち、比較モジュール43は、静止画として生成したCGと、静止画として取得した画像とを比較するとともに、動画として生成したCGと、動画として取得した画像とを比較する。コンピュータ10は、これら2種類を比較した結果を、後述する処理に利用する。
判断モジュール44は、比較した結果、CGと画像とで、工作用機械と対象物との位置関係に差異が発生しているか否かを判断する(ステップS16)。ステップS16において、判断モジュール44は、位置関係の差異として、例えば、工作用機械が対象物を掴む位置、工作用機械と対象物との接触位置、工作用機械と対象物との接近位置、工作用機械が一の対象物を他の対象物に設置した位置における相違が挙げられる。ステップS16において、判断モジュール44は、差異が発生していないと判断した場合(ステップS16 NO)、検知モジュール45は、異常が発生していないことを検知する(ステップS17)。
判断モジュール44は、工作用機械が動作終了したか否かを判断する(ステップS18)。ステップS18において、判断モジュール44は、CGと画像とにおいて、予め設定された所定時間が経過したか、予め設定された動作を終了したか、予め設定された作業工程の一部又は全部を終了したかに基づいて、動作終了したか否かを判断する。判断モジュール44は、工作用機械が動作終了したと判断した場合(ステップS18 YES)、検知モジュール45は、異常が発生していないことを検知し、本処理を終了する。
一方、ステップS18において、判断モジュール44は、工作用機械が動作終了していないと判断した場合(ステップS18 NO)、データ取得モジュール20は、上述したステップS10の処理を再度実行する。
ステップS16において、判断モジュール44は、差異が発生していると判断した場合(ステップS16 YES)、検知モジュール45は、異常が発生していることを検知する(ステップS19)。ステップS19において、検知モジュール45は、例えば、工作用機械が対象物を掴む位置、工作用機械と対象物との接触位置、工作用機械と対象物との接近位置、工作用機械が一の対象物を他の対象物に設置した位置がCGと画像とで異なっていることを異常として検知する。
抽出モジュール46は、異常を検知した最初の時間を抽出する(ステップS20)。ステップS20において、抽出モジュール46は、比較モジュール43が比較を開始した時点から、検知モジュール45が異常を検知した時点までの時間のうち、異常が発生したと考えられる最初の時間を抽出する。これは、検知モジュール45が異常を検知したタイミングは、あくまでも異常が発生したという結果を検知するものに過ぎず、実際の異常は、それ以前の段階で発生しているためである。抽出モジュール46は、例えば、工作用機械が対象物を掴む位置に異常を検知した場合、この工作用機械が対象物を掴むよりも前の段階での工作用機械の位置がずれている時間を最初の時間として抽出する。また、抽出モジュール46は、例えば、工作用機械と対象物との接触位置に異常を検知した場合、この工作用機械が対象物と接触するよりも前の段階での工作用機械の位置がずれている時間を最初の時間として抽出する。また、抽出モジュール46は、例えば、工作用機械と対象物との接近位置に異常を検知した場合、この工作用機械が対象物に接近するよりも前の段階での工作用機械の位置がずれている時間を最初の時間として抽出する。また、抽出モジュール46は、例えば、工作用機械が一の対象物を他の対象物に設置した位置に異常を検知した場合、この工作用機械が一の対象物を他の対象物に設置するよりも前の段階での工作用機械の位置がずれている時間を最初の時間として抽出する。
動作部分特定モジュール47は、抽出した最初の時間に動作する部分を特定する(ステップS21)。ステップS21において、動作部分特定モジュール47は、抽出した最初の時間に該当するタイミングで動作する工作用機械の部分(例えば、アーム、爪)を特定する。動作部分特定モジュール47は、CG又は画像の何れか又は双方において、この時間に動作する部分を特定する。動作部分特定モジュール47は、工作用機械においてこの時間に動作する又は動作した部分を、抽出した最初の時間に動作する部分として特定する。
動作部分特定モジュール47は、この特定した部分に設置されたパーツを特定する(ステップS22)。ステップS22において、動作部分特定モジュール47は、予め工作用機械の各部分と、設置するパーツとを対応付けて記憶させたテーブル等を参照することにより、今回特定した部分に設置されたパーツを特定する。このパーツとは、例えば、位置センサ、圧力センサ、方位センサである。部分特定モジュール47は、例えば、上述したテーブルにおいて、アームと位置センサとが対応付けられている場合、今回特定した部分がアームであるとき、このアームに対応付けられた位置センサを、この特定した部分に設置されたパーツとして特定する。
推測モジュール48は、特定したパーツを、異常の原因として推測する(ステップS23)。ステップS23において、推測モジュール48は、CGと画像とで差異が発生している原因が、このパーツによるものであると推測し、このパーツが異常の原因であると推測する。
推測モジュール48は、上述した処理において、異常が発生していることを検知した際、この異常の原因となるパーツを推測する構成であってもよい。例えば、抽出した最初の時間に動作する部分に関わらず、異常を検知したタイミングで動作する部分に設置されたパーツを、異常の原因として推測してもよい。これは、推測モジュール48は、動作部分特定モジュール47が、この部分に対応付けられたパーツを上述したテーブル等を参照することにより特定し、この特定したパーツを、異常の原因として推測する構成であってもよい。
通知モジュール22は、推測したパーツを、異常の原因として管理者端末に通知する(ステップS24)。ステップS24において、通知モジュール22は、工作用機械が、この工作用機械に設置されたパーツの異常により、想定通りの動作をしていないことを管理者端末に通知する。管理者端末は、この通知を自身の表示部に表示することにより、管理者に異常を通知する。このようにすることにより、通知モジュール22は、管理者端末に通知を表示させることにより、管理者に異常を通知する。このとき、通知モジュール22は、異常が発生した時間も併せて通知する。
なお、通知モジュール22は、推測したパーツに限らず、異常が発生したことを管理者端末に通知してもよい。また、通知モジュール22は、推測したパーツだけでなく、それ以外にも工作用機械の異常を通知してもよい。また、通知モジュール22は、自身の表示部に推測したパーツや異常が発生していることを通知する構成であってもよい。この場合、管理者端末へ通知は必ずしも必要としない。
以上が、動作検証処理である。
ここで、図4及び図5に基づいて、上述した動作検証処理について説明する。図4は、CG生成モジュール40が生成するCGを時系列の変化に従って模式的に示す図である。図5は、画像取得モジュール21が取得する画像を時系列の変化に従って模式的に示す図である。
図4において、CG生成モジュール40は、ステップS10の処理により取得した動作データに基づいて、ステップS11の処理として、工作用機械としてアーム200、対象物として組立て部品210−213をCGとして再現している。CG1は、アーム200の動作開始時点におけるCGである。CG2は、動作開始時点からT1分だけ時間が経過した時点におけるCGである。CG3は、CG2からT2分だけ時間が経過した時点におけるCGである。CG4は、CG3からT3分だけ時間が経過した時点におけるCGである。
図5において、画像取得モジュール21が、ステップS12の処理により取得する画像を示している。画像1は、アーム200の動作開始時点における画像である。画像2は、動作開始時点からT1分だけ時間が経過した時点における画像である。画像3は、画像2からT2分だけ時間が経過した時点における画像である。画像4は、画像3からT3分だけ時間が経過した時点における画像である。
図4及び図5において、時間T1、T2及びT3はCGと画像とで同じ時間である。
解析モジュール41は、ステップS13の処理によりCG及び画像に対して画像解析を実行する。位置関係特定モジュール42は、ステップS14の処理により、CG及び画像に対する画像解析の結果に基づいて、CG及び画像の其々におけるアーム200と対象物210−213との位置関係を特定する。
比較モジュール43は、ステップS15の処理により、この開始時点からT3分経過後までの時間においてCGと画像とを比較する。このとき、比較モジュール43は、画像1とCG1と(開始時点の時間)を比較し、画像2とCG2と(開始時点からT1分経過した時間)を比較し、画像3とCG3と(T1分経過時点からT2分経過した時間)を比較し、画像4とCG4と(T2分経過時点からT3分経過した時間)を比較する。比較モジュール43は、各画像とCGとにおいて、アーム200と、対象物210−213との位置関係を比較する。
判断モジュール44は、ステップS16の処理により、CGと画像とで差異が発生しているか否かを判断する。ここで、判断モジュール44は、画像4とCG4とで差異が発生していることから、差異が発生していると判断する。なお、判断モジュール44は、CGと画像とで差異が発生していない場合、判断モジュール44及び検知モジュール45は、ステップS17−S18の処理を実行する。
判断モジュール44は、T1分経過時点で、CG2では、アーム200が対象物212及び213を掴んでいるのに対して、画像2では、アーム200が対象物212のみを掴んでいることを判断する。また、判断モジュール44は、T2分経過時点で、CG3では、アーム200が対象物212及び213を掴んでいるのに対して、画像3では、アーム200が対象物212のみを掴んでいることを判断する。また、判断モジュール44は、T3分経過時点で、CG4では、アーム200が対象物212及び213を掴んでおり、この対象物212及び213を、対象物210に載置しているのに対して、画像4では、アーム200が対象物212を、対象物210に載置していることを判断する。
検知モジュール45は、ステップS19の処理により、CGと画像とで差異が発生していることから、この差異が発生している時間であるT1分経過から、T3分経過までの時点で異常が発生していることを検知する。
抽出モジュール46は、ステップS20の処理により、異常を検知した最初の時間を抽出する。抽出モジュール46は、差異が発生している最初の時間であるT1分経過時点を、異常を検知した最初の時間として抽出する。
動作部分特定モジュール47は、ステップS21の処理により、このT1分経過時点において動作する部分として、アーム200を特定する。
動作部分特定モジュール47は、ステップS22の処理により、このアーム200に設置されたパーツとして、このアーム200に予め対応付けられた位置センサを特定する。
推測モジュール48は、ステップS23の処理により、この特定した位置センサを、異常の原因として推測する。
通知モジュール22は、ステップS24の処理により、この位置センサに異常が発生しており、その結果、アーム200が想定通りの動作をしていない旨の通知を行う。
以上が、図4及び図5に基づいた動作検証処理である。
上述した手段、機能は、コンピュータ(CPU、情報処理装置、各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、コンピュータからネットワーク経由で提供される(SaaS:ソフトウェア・アズ・ア・サービス)形態で提供される。また、プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記録装置又は外部記録装置に転送し記録して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記録装置(記録媒体)に予め記録しておき、その記録装置から通信回線を介してコンピュータに提供するようにしてもよい。
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
1 動作検証システム、10 コンピュータ

Claims (6)

  1. 工作用機械が所定時間動作する際に、動作したデータを取得するデータ取得手段と、
    取得した前記データから前記工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックスを生成するCG生成手段と、
    前記工作用機械を、前記所定時間撮影した画像を取得するカメラ画像取得手段と、
    前記画像と、前記コンピュータグラフィックスとを前記所定時間において比較する比較手段と、
    を備えることを特徴とするコンピュータシステム。
  2. 比較した結果、前記工作用機械が異なる動作をしている場合、当該工作用機械の異常を検知する検知手段と、
    検知した前記異常を通知する通知手段と、
    をさらに備えることを特徴とする請求項1に記載のコンピュータシステム。
  3. 前記異常を検知した場合、前記工作用機械の異常の原因となるパーツを推測する推測手段と、
    をさらに備え、
    前記通知手段は、推測した前記パーツを通知する、
    ことを特徴とする請求項2に記載のコンピュータシステム。
  4. 前記異常を検知した場合、前記異なる動作が発生した最初の時間を抽出する抽出手段と、
    をさらに備え、
    前記推測手段は、抽出した前記最初の時間に動作する部分に関するパーツを、異常の原因と推測する、
    ことを特徴とする請求項3に記載のコンピュータシステム。
  5. コンピュータシステムが実行する動作検証方法であって、
    工作用機械が所定時間動作する際に、動作したデータを取得するステップと、
    取得した前記データから前記工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックスを生成するステップと、
    前記工作用機械を、前記所定時間撮影した画像を取得するステップと、
    前記画像と、前記コンピュータグラフィックスとを前記所定時間において比較するステップと、
    を備えることを特徴とする動作検証方法。
  6. コンピュータシステムに、
    工作用機械が所定時間動作する際に、動作したデータを取得するステップ、
    取得した前記データから前記工作用機械が所定時間動作することを仮想的に示すコンピュータグラフィックスを生成するステップ、
    前記工作用機械を、前記所定時間撮影した画像を取得するステップ、
    前記画像と、前記コンピュータグラフィックスとを前記所定時間において比較するステップ、
    を実行させるためのコンピュータ読み取り可能なプログラム。
JP2020539904A 2018-08-28 2018-08-28 コンピュータシステム、動作検証方法及びプログラム Active JP6875056B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2018/031784 WO2020044440A1 (ja) 2018-08-28 2018-08-28 コンピュータシステム、動作検証方法及びプログラム

Publications (2)

Publication Number Publication Date
JP6875056B2 true JP6875056B2 (ja) 2021-05-19
JPWO2020044440A1 JPWO2020044440A1 (ja) 2021-06-03

Family

ID=69643398

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020539904A Active JP6875056B2 (ja) 2018-08-28 2018-08-28 コンピュータシステム、動作検証方法及びプログラム

Country Status (4)

Country Link
US (1) US11188053B2 (ja)
JP (1) JP6875056B2 (ja)
CN (1) CN112805746A (ja)
WO (1) WO2020044440A1 (ja)

Family Cites Families (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20020133264A1 (en) * 2001-01-26 2002-09-19 New Jersey Institute Of Technology Virtual reality system for creation of design models and generation of numerically controlled machining trajectories
JP2005108108A (ja) * 2003-10-01 2005-04-21 Canon Inc 三次元cg操作装置および方法、並びに位置姿勢センサのキャリブレーション装置
JP4441332B2 (ja) * 2004-06-01 2010-03-31 シャープ株式会社 画面判定装置および画面判定方法
WO2008026723A1 (fr) * 2006-09-01 2008-03-06 Mori Seiki Co., Ltd. Procédé de confirmation de données de modèle tridimensionnel, et appareil de confirmation de données de modèle tridimensionnel
JP5465957B2 (ja) * 2008-09-05 2014-04-09 Dmg森精機株式会社 加工状態確認方法及び加工状態確認装置
JP4653836B2 (ja) * 2008-12-12 2011-03-16 ファナック株式会社 シミュレーション装置
JP5503510B2 (ja) * 2010-11-22 2014-05-28 日本放送協会 姿勢推定装置および姿勢推定プログラム
DE102012019026A1 (de) * 2012-09-26 2014-03-27 Blum-Novotest Gmbh Verfahren und Vorrichtung zum Vermessen eines in einer Werkstückbearbeitungsmaschine aufgenommenen Werkzeugs
JP6174906B2 (ja) * 2013-05-23 2017-08-02 中村留精密工業株式会社 機械の自己診断及び機械精度の補正方法
JP2016192000A (ja) * 2015-03-31 2016-11-10 横河電機株式会社 業務支援装置及び業務支援方法
WO2017042873A1 (ja) * 2015-09-08 2017-03-16 株式会社日立製作所 遠隔操作システムおよび操作支援システム
JP6643170B2 (ja) 2016-04-11 2020-02-12 株式会社日立製作所 作業支援システム及び方法
CN106127758B (zh) * 2016-06-21 2019-08-23 四川大学 一种基于虚拟现实技术的视觉检测方法及装置
JP6434476B2 (ja) * 2016-12-06 2018-12-05 ファナック株式会社 拡張現実シミュレーション装置及び拡張現実シミュレーションプログラム
US10249060B2 (en) * 2016-12-14 2019-04-02 Caterpillar Inc. Tool erosion detecting system using augmented reality
CN107037782B (zh) * 2017-05-10 2019-09-17 北京数码大方科技股份有限公司 监控机床的方法和装置
EP3432099B1 (en) * 2017-07-20 2021-09-01 Siemens Aktiengesellschaft Method and system for detection of an abnormal state of a machine
JP6570592B2 (ja) * 2017-09-29 2019-09-04 株式会社牧野フライス製作所 工作機械の機上測定方法および制御装置
EP3822022A4 (en) * 2018-07-10 2022-02-09 Makino Milling Machine Co., Ltd. MACHINE TOOL SYSTEM AND TOOL DETERMINATION METHOD

Also Published As

Publication number Publication date
WO2020044440A1 (ja) 2020-03-05
JPWO2020044440A1 (ja) 2021-06-03
CN112805746A (zh) 2021-05-14
US11188053B2 (en) 2021-11-30
US20210311455A1 (en) 2021-10-07

Similar Documents

Publication Publication Date Title
JP7019357B2 (ja) 棚情報推定装置及び情報処理プログラム
JP6161257B2 (ja) イベント検出装置及びその方法、動作認識装置及びその方法、プログラム
US11398049B2 (en) Object tracking device, object tracking method, and object tracking program
TW200511387A (en) Template creation method and device, pattern detection method, position detection method and device, exposure method and device, device manufacturing method, and recording medium to record the template creation program
JP6430914B2 (ja) 画像処理装置および画像処理方法
JP5170094B2 (ja) なりすまし検知システム、なりすまし検知方法およびなりすまし検知用プログラム
US8938132B2 (en) Image collation system, image collation method and computer program
US20150116543A1 (en) Information processing apparatus, information processing method, and storage medium
JP6875056B2 (ja) コンピュータシステム、動作検証方法及びプログラム
JP4576146B2 (ja) 特定画像位置推定装置
JP7187377B2 (ja) 物体情報登録装置及び物体情報登録方法
JP2008009938A (ja) 動画像データ処理装置、動画像データ処理方法、動画像データ処理プログラム、およびこれを記録した記録媒体
JP2017091202A (ja) 物体認識方法及び物体認識装置
WO2023007601A1 (ja) 動作検出システム、動作検出方法、及び非一時的なコンピュータ可読媒体
JP2020102245A (ja) 異常作業検出システムおよび異常作業検出方法
JP6908337B2 (ja) コンピュータシステム、物体状況判断方法及びプログラム
JP2007299051A (ja) 画像処理装置、方法およびプログラム
JP4627711B2 (ja) 動き領域検出システム、動き領域検出方法、及び動き領域検出プログラム
JP2003216935A5 (ja)
JP6977291B2 (ja) 個体識別装置、情報処理システム、個体識別装置の制御方法及びプログラム
JPWO2020185948A5 (ja)
JP2011154656A (ja) 試験装置、試験システム及び試験方法
JP2019182576A (ja) 不良物品検出システム、不良物品検出方法およびプログラム
JP6975666B2 (ja) 人物特定システム及び人物特定方法
WO2021192311A1 (ja) 判定装置、方法及びプログラムが格納された非一時的なコンピュータ可読媒体

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20210216

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20210216

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20210401

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210420

R150 Certificate of patent or registration of utility model

Ref document number: 6875056

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250