JP6833460B2 - 作業支援システム、作業方法、および処理装置 - Google Patents

作業支援システム、作業方法、および処理装置 Download PDF

Info

Publication number
JP6833460B2
JP6833460B2 JP2016218249A JP2016218249A JP6833460B2 JP 6833460 B2 JP6833460 B2 JP 6833460B2 JP 2016218249 A JP2016218249 A JP 2016218249A JP 2016218249 A JP2016218249 A JP 2016218249A JP 6833460 B2 JP6833460 B2 JP 6833460B2
Authority
JP
Japan
Prior art keywords
dimensional data
transported object
amount
transported
conveyed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2016218249A
Other languages
English (en)
Other versions
JP2018077628A (ja
Inventor
亮 森長
亮 森長
武者 整
整 武者
音晴 桑村
音晴 桑村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP2016218249A priority Critical patent/JP6833460B2/ja
Priority to US15/802,638 priority patent/US10650551B2/en
Priority to CN201711083280.7A priority patent/CN108062431B/zh
Publication of JP2018077628A publication Critical patent/JP2018077628A/ja
Priority to US16/814,445 priority patent/US20200211222A1/en
Application granted granted Critical
Publication of JP6833460B2 publication Critical patent/JP6833460B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F30/00Computer-aided design [CAD]
    • G06F30/10Geometric CAD
    • G06F30/13Architectural design, e.g. computer-aided architectural design [CAAD] related to design of buildings, bridges, landscapes, production plants or roads
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/04Forecasting or optimisation specially adapted for administrative or management purposes, e.g. linear programming or "cutting stock problem"
    • G06Q10/047Optimisation of routes or paths, e.g. travelling salesman problem
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06QINFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES; SYSTEMS OR METHODS SPECIALLY ADAPTED FOR ADMINISTRATIVE, COMMERCIAL, FINANCIAL, MANAGERIAL OR SUPERVISORY PURPOSES, NOT OTHERWISE PROVIDED FOR
    • G06Q10/00Administration; Management
    • G06Q10/08Logistics, e.g. warehousing, loading or distribution; Inventory or stock management
    • G06Q10/083Shipping
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/0007Image acquisition
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T17/00Three dimensional [3D] modelling, e.g. data description of 3D objects
    • G06T17/20Finite element generation, e.g. wire-frame surface description, tesselation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/254Analysis of motion involving subtraction of images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/04Indexing scheme for image data processing or generation, in general involving 3D image data
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/08Indexing scheme for image data processing or generation, in general involving all processing steps from image acquisition to 3D model generation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10004Still image; Photographic image
    • G06T2207/10008Still image; Photographic image from scanner, fax or copier
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30108Industrial image inspection
    • G06T2207/30164Workpiece; Machine component

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Business, Economics & Management (AREA)
  • Geometry (AREA)
  • Computer Hardware Design (AREA)
  • Human Resources & Organizations (AREA)
  • Economics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Strategic Management (AREA)
  • Multimedia (AREA)
  • Operations Research (AREA)
  • Entrepreneurship & Innovation (AREA)
  • Quality & Reliability (AREA)
  • Tourism & Hospitality (AREA)
  • General Business, Economics & Management (AREA)
  • Development Economics (AREA)
  • Marketing (AREA)
  • Computational Mathematics (AREA)
  • Structural Engineering (AREA)
  • Civil Engineering (AREA)
  • Mathematical Analysis (AREA)
  • Mathematical Optimization (AREA)
  • Pure & Applied Mathematics (AREA)
  • Evolutionary Computation (AREA)
  • Game Theory and Decision Science (AREA)
  • Architecture (AREA)
  • Processing Or Creating Images (AREA)
  • General Factory Administration (AREA)
  • Management, Administration, Business Operations System, And Electronic Commerce (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Description

本発明の実施形態は、作業支援システム作業方法、および処理装置に関する。
特許文献1には、レーザスキャナー等を用いて構造物の三次元データを取得し、構造物の内部へ資材や機器を搬入するための搬入経路を生成するシステムが開示されている。特許文献1に開示された技術によれば、搬入に伴う作業の効率を高めることができる。
しかし、特許文献1では、搬入された資材や機器の固定作業については言及されておらず、これらの作業効率については未だ改善の余地がある。
特開2014−178794号公報
本発明が解決しようとする課題は、構造物内に物体を搬送および固定する際の作業効率を向上させることが可能な作業支援システム作業方法、および処理装置を提供することである。
実施形態に係る作業支援システムは、撮影部と、格納部と、処理部と、を含む。前記撮影部は、構造物内に搬送されて前記構造物内に配された後の第1搬送物を撮影する。前記格納部は、前記構造物の三次元データと、前記三次元データの前記構造物内の所定位置に重ね合わせされた前記第1搬送物の三次元データと、を含む第1の三次元データを格納する。前記処理部は、前記第1の三次元データと、前記構造物内に配された前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において算出し、前記それぞれの方向における前記不一致量を、前記格納部に格納された閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を出力する。
実施形態に係る作業支援システムの構成を表すブロック図である。 作業の一例および実施形態に係る作業支援システムの動作を表すフローチャートである。 格納部に格納されるデータの一例を表す模式図である。 図2に表すステップS6およびS7における具体的な処理の一例を表すフローチャートである。 第1の三次元データと第2の三次元データを重ね合わせたときの一例を表す模式図である。 図5の三次元データを各面に投影させたときの様子を表す模式図である。
以下に、本発明の各実施形態について図面を参照しつつ説明する。
なお、図面は模式的または概念的なものである。同じ部分を表す場合であっても、図面により互いの寸法や比率が異なって表される場合もある。
また、本願明細書と各図において、既に説明したものと同様の要素には同一の符号を付して詳細な説明は適宜省略する。
図1は、実施形態に係る作業支援システム100の構成を表すブロック図である。
図1に表すように、作業支援システム100は、入力部10、撮影部20、格納部30、処理部40、表示部50、および端末60を含む。
実施形態に係る作業支援システム100は、例えば、第1搬送物B〜第n搬送物Bの複数の搬送物Bを構造物A内に順次搬送し、互いに連結し、固定する作業において、当該作業を支援するために用いられる。
このような作業として、例えば、既設の構造物内へ、紙葉類区分装置を構成する機器を搬送して据え付けつつ、組み立てていく作業が挙げられる。
あるいは、プラントの建設現場において、構造物内へ配管などの資材を搬送し、溶接等で固定しながら繋ぎ合わせていく作業が挙げられる。
入力部10は、作業支援システム100の使用者が、処理部40に対して情報の入力を行うためのものである。入力部10は、例えば、キーボード、タッチパネル、またはマイク(音声入力)などである。
撮影部20は、撮影した被写体の三次元データを取得する。撮影部20は、例えば、三次元レーザスキャナーであり、被写体の表面をレーザでスキャンし、その反射光から照射点の三次元座標を求め、被写体の外形を多数の点の集まり(点群データ)として取得する。撮影部20は、例えば、構造物A内の作業現場に設置され、構造物Aの内部構造の点群データおよび第1搬送物B〜第n搬送物Bの点群データを自動で取得する。
撮影部20は、構造物A内に複数設置されていても良い。複数の撮影部20が互いに異なる位置に設置されることで、死角が減り、より正確に対象の外形を表す点群データを取得することができる。複数の撮影部20が構造物A内に設置される場合、処理部40は、複数の点群データを比較し、マッチングする部分同士を重ね合わせていき、1つの点群データを作成する。
格納部30は、作業支援システム100で用いられる各種データを格納するものである。格納部30は、例えば、PCに内蔵されたハードディスクドライブ(HDD)、またはファイルサーバなどである。
格納部30は、構造物データベース31、搬送物データベース32、設計データベース33、撮影結果データベース34、およびスケジュールデータベース35を有する。
構造物データベース31は、作業が行われる構造物Aの内部構造の三次元データを格納している。より具体的には、構造物A内の、第1搬送物B〜第n搬送物Bが固定されるエリアと、および当該エリアまでの第1搬送物B〜第n搬送物Bの搬送経路と、の三次元データを格納している。構造物データベース31は、さらに、構造物A外の、第1搬送物B〜第n搬送物Bの搬送が行われる場所の三次元データを格納していてもよい。これらの三次元データは、例えば、作業前に構造物Aを撮影部20によって撮影し、点群データを取得することで得られる。あるいは、構造物Aおよび搬送が行われる場所の三次元CADデータが存在する場合は、その三次元CADデータが構造物データベース31に格納されていても良い。
搬送物データベース32は、第1搬送物B〜第n搬送物Bのそれぞれの三次元データ(例えば、三次元CADデータ)を格納している。これらの搬送物の三次元CADデータがない場合は、作業前に、各搬送物を撮影部20により撮影することで、三次元データを取得することができる。
設計データベース33は、構造物データベース31に格納された構造物Aの三次元データと、搬送物データベース32に格納された各搬送物の三次元データと、を三次元座標上に重ね合わせた三次元データが格納されている。
以降では、構造物Aの三次元データと搬送物Bの三次元データとが重ね合わせされた当該三次元データを、第1の三次元データと称する。
撮影結果データベース34は、構造物A内に、第1搬送物B〜第n搬送物Bが実際に配された状態の三次元データを格納している。具体的には、撮影結果データベース34は、第1搬送物B〜第n搬送物Bが構造物A内に配されて固定された後に、第1搬送物B〜第n搬送物Bを撮影部20によって撮影することで得られた三次元データを格納している。
以降では、作業後に、構造物A内の第1搬送物B〜第n搬送物Bを撮影して取得された当該三次元データを、第2の三次元データと称する。
なお、撮影結果データベース34には、第1搬送物B〜第n搬送物Bがそれぞれ固定されたときの状態の三次元データが格納されていても良い。例えば、撮影結果データベース34は、第1搬送物Bが固定された後であって第2搬送物Bが搬送される前の状態の三次元データ、第1搬送物Bおよび第2搬送物Bが固定された後であって第3搬送物Bが搬送される前の状態の三次元データ、などを格納していても良い。
スケジュールデータベース35は、作業のスケジュールを格納している。作業スケジュールは、例えば、一般に用いられているスケジューラによって作成されたものである。作業スケジュールは、作業の納期、搬送物の搬送順序および固定順序、各搬送物の搬送日時、搬送に用いられる資源(人員や機械など)、各資源の稼働時間帯、などの情報を含んでいる。
処理部40は、例えば、PCが備えるCPU(中央演算処理装置)およびメモリである。当該メモリには、処理部40に各種処理を実行させるためのプログラムが記憶されている。処理部40は、格納部30に格納された各種データを参照しつつ、処理を実行する。処理部40によって実行される具体的な処理については、後述する。
表示部50は、例えば、モニタまたはタッチパネルなどである。表示部50は、格納部30に格納された各データベースを、作業支援システム100の使用者が確認および編集できるように表示する。また、表示部50は、処理部40によって導出された結果を、使用者が確認できるように表示する。
端末60は、例えば、スマートフォンやタブレットなどのモバイル機器である。端末60は、構造物Aで作業を行う作業者が携帯する。処理部40は、導出された結果を、端末60に送信することができる。すなわち、端末60は、処理部40から送信された情報を受信する受信部として機能する。また、作業者は、端末60を用いて格納部30が有する各データベースを参照することも可能である。
上述した各構成要素は、必要な情報を互いに送受信できるように、USBケーブルやLANケーブル等の各種ケーブル、または無線ネットワークなどで相互に接続される。
次に、図2および図3を参照しつつ、作業の一例および実施形態に係る作業支援システム100の動作について説明する。
図2は、作業の一例および実施形態に係る作業支援システム100の動作を表すフローチャートである。
図3は、格納部30に格納されるデータの一例を表す模式図である。
図3(a)は、構造物データベース31に格納された構造物Aの三次元データを表している。図3(b)は、搬送物データベース32に格納され、互いに連結された第1搬送物B〜第n搬送物Bの三次元データを表している。図3(c)は、設計データベース33に格納された第1の三次元データを表している。図3(d)は、撮影結果データベース34に格納された第2の三次元データを表している。
なお、図3(a)〜図3(d)では、格納部30に格納される三次元データを、模式的に二次元で表している。
図2に表すフローは、主に、搬送物の搬送および固定を行うステップS4と、これらの作業前に行われるステップS1〜S3と、これらの作業後に作業支援システム100によって行われるステップS5〜S7と、を含む。
(ステップS1)
撮影部20を用いて構造物Aの内部を撮影して点群データを作成することで、構造物Aの内部構造の三次元データを取得する。なお、構造物Aの三次元CADデータなどが既に存在する場合は、当該三次元CADデータを利用することもできる。
このステップS1により、図3(a)に表すように、構造物Aの内部構造の三次元データが準備される。
(ステップS2)
第1搬送物B〜第n搬送物Bの三次元データを取得する。第1搬送物B〜第n搬送物Bの三次元CADデータなどがある場合は、それらのデータを用いることができる。三次元CADデータなどがない場合は、例えば、第1搬送物B〜第n搬送物Bをそれぞれレーザスキャナーにより撮影し、これらの搬送物の外形を反映した点群データを作成することで三次元データを取得する。
このステップS2により、図3(b)に表すように、第1搬送物B〜第n搬送物Bの三次元データが準備される。
(ステップS3)
ステップS1で準備された構造物Aの三次元データに、ステップS2で準備された第1搬送物B〜第n搬送物Bの三次元データを、三次元座標上で重ね合わせる。このとき、第1搬送物B〜第n搬送物Bの三次元データが構造物Aの三次元データと重ね合わせされる位置は、実際の作業において、各搬送物が構造物A内で固定される位置に対応している。
このステップS3により、図3(c)に表すように、三次元データの構造物A内の所定場所に、第1搬送物B〜第n搬送物Bの三次元データが配された第1の三次元データが作成される。
第1の三次元データの作成後に、使用者は、第1の三次元データ上において、構造物A内で第1搬送物B〜第n搬送物Bをそれぞれ動かし、各搬送物を構造物A内の固定場所まで搬送する際の搬送経路の検討および作成を行っても良い。第1の三次元データを用いることで、搬送時の構造物Aと各搬送物との干渉の有無を確認しつつ、搬送経路の検討を行うことができる。
あるいは、処理部40が、第1搬送物B〜第n搬送物Bの固定場所の座標や構造物Aの搬入口の座標などの情報をもとに、各搬送物の搬送経路を自動で導出するように、作業支援システム100を構成しても良い。このとき、処理部40は、スケジュールデータベース35を参照し、第1搬送物B〜第n搬送物Bの搬送順序を考慮しつつ、各搬送物の搬送経路を導出しても良い。
処理部40は、構造物Aの三次元データに設定された搬送経路に沿って各搬送物が動く様子を動画で表示部50に、表示させても良い。また、処理部40は、第1の三次元データを用いて、構造物A内の所定場所に第1搬送物B〜第n搬送物Bが配された状態を、表示部50に表示させても良い。
このような情報を表示部50に表示させることで、第1搬送物B〜第n搬送物Bを実際に搬送する前に、搬送時および搬送後の状態を具体的に把握することができ、作業をより円滑に行うことが可能となる。また、作業前にこれらの情報を納品先に提示することで、作業の様子および納品後の状態を、より具体的に納品先と共有することが可能となる。
また、ステップS1で構造物Aの内部構造の点群データを取得した場合、作業者は、構造物A内の床面の詳細な状態を、構造物データベース31に格納された三次元データで確認することができる。このとき、作業者は、第1の三次元データ上で、床面の凹凸が大きい部分を避けるように、第1搬送物B〜第n搬送物Bの固定位置を変更したり、各搬送物の水平方向に対する傾きを小さくするように、各搬送物と床面との間に挟み込まれる部材の高さを調節したりすることも可能である。
(ステップS4)
実際に構造物A内に第1搬送物B〜第n搬送物Bが搬送され、固定される。このとき、第1搬送物B〜第n搬送物Bは、事前に定められた構造物A内の所定場所に固定される。すなわち、第1搬送物B〜第n搬送物Bは、これらの搬送物の固定後の位置が、第1の三次元データにおいて各搬送物が配されている場所と一致するように、固定される。
(ステップS5)
固定された第1搬送物B〜第n搬送物Bが撮影部20によって撮影される。
このステップS5により、図3(d)に表すように、実際に構造物A内に固定された第1搬送物B〜第n搬送物Bの三次元データ(第2の三次元データ)が取得され、格納部30に格納される。
なお、図3(d)に表す例では、第1搬送物B〜第n搬送物Bとその周囲の三次元データのみが取得されているが、図3(c)のように第1搬送物B〜第n搬送物Bと構造物Aの内部全体の三次元データが取得されても良い。
(ステップS6)
処理部40は、ステップS3で得られた第1の三次元データと、ステップS5で得られた第2の三次元データと、を比較する。これにより、第1の三次元データの第1搬送物B〜第n搬送物Bに対する、第2の三次元データの第1搬送物B〜第n搬送物Bの変位が検出される。
より具体的には、処理部40は、第1の三次元データと第2の三次元データを同じ三次元座標系上に重ね合わせる。これにより、第1の三次元データと第2の三次元データとの間において、第1搬送物B〜第n搬送物Bの位置がどの程度変位しているかが検出される。すなわち、処理部40は、第1搬送物B〜第n搬送物Bについて、搬送前に設計された位置に対して、実際に固定された位置が、どの程度異なっているかを検出する。
(ステップS7)
処理部40は、検出結果を表示部50に表示させる。また、処理部40は、検出結果を端末60に向けて送信し、端末60は、受信した結果を画面に表示させる。端末60に検出結果を表示させることで、固定された第1搬送物B〜第n搬送物Bの位置が、事前に設計された位置と合っているかを作業者が容易に確認することができる。
実施形態に係る作業支援システム100によって上述したステップS5〜S7が行われることで、固定後の第1搬送物B〜第n搬送物Bの位置が、事前に設計された位置と合っているかを自動で検出することが可能となる。
このため、実施形態に係る作業支援システム100によれば、作業者が、固定後の第1搬送物B〜第n搬送物Bの位置を測定して確認する必要が無く、作業効率を向上させることができる。
また、実施形態に係る作業支援システム100を用いることで、検出結果が作業者の測量技術に依らないため、より高精度に変位の有無およびその程度を調べることができる。さらに、変位が高精度に検出されることで、作業者がその結果を受けて各搬送物を固定し直すことができるため、設計位置に対する各搬送物の最終的な固定位置の変位を小さくすることができ、作業の質を向上させることができる。
次に、図4〜図6を参照しつつ、ステップS6およびS7における変位の検出および検出結果の表示について、より具体的な一例を説明する。
図4は、図2に表すステップS6およびS7における具体的な処理の一例を表すフローチャートである。
図5は、第1の三次元データと第2の三次元データを重ね合わせたときの一例を表す模式図である。
図6は、図5の三次元データを各面に投影させたときの様子を表す模式図である。
図4に表す例では、ステップS6においてステップS61〜S64が行われ、ステップS7においてステップS71またはS72が行われる。
(ステップS61)
ステップS61では、上述したステップS6と同様に、第1の三次元データと第2の三次元データとを同じ三次元座標系上に重ね合わせる。
重ね合わせたときの模式的な様子を、図5に表す。なお、図5では、第1の三次元データに含まれる搬送物Bを破線で表し、第2の三次元データに含まれる搬送物Bを実線で表している。また、少なくとも第2の三次元データは、点群で表されるものであるが、ここではその外縁を模式的に直線で表している。
(ステップS62)
重ね合わせた後の第1の三次元データにおける搬送物Bと第2の三次元データにおける搬送物Bを、任意の方向に投影させる。ここでは、三次元座標上の各方向(X方向、Y方向、およびZ方向)に対して垂直な面(X−Y面、Y−Z面、およびX−Z面)に投影させた場合について説明する。
図5に表す三次元データを各面に投影したときの様子を、図6に表す。
図6(a)はX−Y面における様子を表し、図6(b)はY−Z面における様子を表し、図6(c)はX−Z面における様子を表す。
なお、図6(a)〜図6(c)では、第1の三次元データにおける搬送物Bを破線で表し、第2の三次元データにおける搬送物Bを実線で表している。また、ドットの密度が高い部分は、第1の三次元データと第2の三次元データの間で搬送物Bが重なっている(一致している)部分を表し、ドットの密度が低い部分は、第1の三次元データと第2の三次元データの間で搬送物Bが重なっていない(一致していない)部分を表している。
(ステップS63)
処理部40は、図6(a)〜図6(c)に表すように、それぞれの投影面において、第1の三次元データと第2の三次元データとの間における搬送物Bの三次元データの不一致量を算出する。
第1の三次元データが、搬送物Bの三次元CADデータを含む場合、三次元CADデータと点群データとが、投影面において重なっている割合を算出する。このとき、三次元CADデータにおいて、点群データに含まれるいずれの点からも所定距離以上離れている領域は、不一致と判定される。あるいは、三次元CADデータに重なっていない点は、不一致と判定される。
一例として、撮影部20によって点群データが作成される際に、撮影部20から照射されるレーザ光の照射角度ピッチが、10メートル先で3ミリメートル間隔である場合、当該所定距離は、10ミリメートルに設定される。
処理部40は、各々の投影面において、不一致と判定された点の数を不一致量として算出する。あるいは、処理部40は、各々の投影面において、不一致と判定された三次元CADデータの面積を不一致量として算出しても良い。
または、処理部40は、各々の投影面において、搬送物Bの点群データに含まれる点の数に対する、不一致と判定された点の数の割合を、不一致量として算出しても良い。あるいは、処理部40は、各々の投影面において、三次元CADデータの面積に対する、不一致と判定された面積の割合を、不一致量として算出しても良い。
また、第1の三次元データおよび第2の三次元データのそれぞれの搬送物Bが、色の情報を含んでいる場合、各点の色について、さらに一致の有無を判定しても良い。
あるいは、処理部40は、各々の投影面において、第1の三次元データおよび第2の三次元データのそれぞれの搬送物Bから、特徴となる部分を抽出し、特徴部分同士の間の距離を不一致量として算出しても良い。
このように、互いに直交する各方向(各投影面)における不一致量を算出することで、固定された搬送物Bが、予め設計された位置に対して、どの方向においてどの程度変位しているかを検出することができる。
あるいは、重ね合わせた第1の三次元データと第2の三次元データを、任意の方向に投影させることで、任意の投影面における不一致量を算出することもできる。
なお、ここでは、不一致と判定されたものの割合や数を不一致量として算出しているが、一致と判定されたものの割合や数を算出しても良い。これらも、実質的に、不一致量を算出しているものとみなすことができる。
また、処理部40は、ステップS63において、以上で説明した不一致量の算出の後に、以下の方法を実行しても良い。
処理部40は、各投影面において、第1の三次元データおよび第2の三次元データのいずれかの搬送物Bを、移動および回転させる。このとき、処理部40は、第1の三次元データと第2の三次元データとの間における搬送物Bの不一致量が最小となるように、搬送物Bを動かす。処理部40は、算出された、各方向における移動距離および回転角度の結果を、格納部30に格納する。
この方法によれば、各投影面において、不一致量を最小とするために、搬送物Bをどの方向にどの程度移動させ、どの程度回転させれば良いかを算出することができる。特に、複数の搬送物が順次搬送され、固定されていく作業においては、ある搬送物の固定位置が、予め決められた位置に対して回転していると、当該搬送物に固定される搬送物の変位の量(位置のずれ)が、固定される搬送物の数に応じて大きくなっていく。従って、このような作業に作業支援システム100を用いる場合は、処理部40によって、不一致量を最小とするための回転角が算出されることが望ましい。
(ステップS64)
ステップS63で検出された不一致量に対しては、あらかじめ閾値が設定され、格納部30に格納されている。処理部40は、各投影面における不一致量を、閾値と比較する。閾値としては、例えば、各方向において許容できる不一致量が設定される。
各投影面における不一致量が閾値未満である場合は、ステップS71に進む。
いずれかの投影面において、閾値以上の不一致量が存在する場合は、ステップS72に進む。
(ステップS71)
処理部40は、固定された第1搬送物B〜第n搬送物Bについて、不一致量がいずれの方向においても閾値未満であり許容範囲内であることを、表示部50に表示させたり、端末60に通知したりする。このとき、各方向における不一致量を、表示部50に表示させ、端末60に通知しても良い。
(ステップS72)
処理部40は、固定された第1搬送物B〜第n搬送物Bについて、不一致量が閾値以上の方向があることを、表示部50に表示させたり、端末60に通知したりする。併せて、処理部40は、不一致量が閾値以上の方向とその不一致量を、表示部50に表示させ、端末60に通知する。また、不一致量が閾値未満である方向についても、その不一致量を表示部50に表示させ、端末60に通知しても良い。
なお、ステップS71およびS72において、処理部40は、各方向において検出された不一致量を、ミリメートルやセンチメートル等の単位を用いた数値に変換して表示させても良い。これにより、作業支援システム100の使用者が、不一致量を直観的に把握し易くなる。
また、ステップS71においておよびS72において、不一致量が閾値未満である方向については、何ら通知を表示させないようにしても良い。すなわち、処理部40は、ステップS71において、何らの結果を表示したりおよび通知したりせず、ステップS72においては、不一致量が閾値以上の方向とその不一致量のみを表示させても良い。
なお、ここでは、第1搬送物B〜第n搬送物Bまでの複数の搬送物が搬送される場合について説明したが、実施形態に係る作業支援システム100は、1つの搬送物の搬送および固定を行う際にも適用可能である。すなわち、図2および図4のフローチャートに表す方法は、第1搬送物Bのみが構造物A内に搬送され、固定される場合にも適用することができる。
上述した例では、第1搬送物B〜第n搬送物Bを固定した後に、第1搬送物B〜第n搬送物Bを撮影し、その変位を検出する場合について説明したが、構造物A内に第1搬送物B〜第n搬送物Bが配された後、固定される前に、これらの搬送物の変位を検出してもよい。各搬送物を固定する前に変位を検出することで、より容易にその変位を修正することができる。
また、実施形態に係る作業支援システム100は、1つの搬送物が搬送され、構造物A内に配されるたびに、図2のステップS5〜S7を実行するものであっても良い。例えば、実施形態に係る作業支援システム100は、第1搬送物Bが搬送されて配された後であって、第2搬送物Bの固定および第1搬送物Bとの連結を行う前に、ステップS5〜S7を実行する。こうすることで、第2搬送物Bの固定および連結の前に、第1搬送物Bの変位を検出し、その修正を行うことができるため、全ての搬送物が固定および連結された後に、変位を修正する場合に比べて、作業に要する時間を短くすることができる。
以上、本発明のいくつかの実施形態を例示したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更などを行うことができる。これら実施形態やその変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。また、前述の各実施形態は、相互に組み合わせて実施することができる。
10 入力部、 20 撮影部、 30 格納部、 31 構造物データベース、 32 搬送物データベース、 33 設計データベース、 34 撮影結果データベース、 35 スケジュールデータベース、 40 処理部、 50 表示部、 60 端末、 100 作業支援システム


Claims (9)

  1. 構造物内に搬送されて前記構造物内に配された後の第1搬送物を撮影する撮影部と、
    前記構造物の三次元データと、前記三次元データの前記構造物内の所定位置に重ね合わせされた前記第1搬送物の三次元データと、を含む第1の三次元データを格納する格納部と、
    前記第1の三次元データと、前記構造物内に配された前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において算出し、前記それぞれの方向における前記不一致量を、前記格納部に格納された閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を出力する処理部と、
    を備えた作業支援システム。
  2. 構造物内への第1搬送物の搬送と、前記構造物内への第2搬送物の搬送および前記第1搬送物との連結と、を含む作業において用いられる作業支援システムであって、
    前記第1搬送物が前記構造物内に搬送されて前記構造物内に配された後であって、前記第2搬送物が前記第1搬送物と連結される前の、前記第1搬送物を撮影する撮影部と、
    前記構造物の三次元データと、前記三次元データの前記構造物内の所定位置に重ね合わせされた前記第1搬送物の三次元データと、を含む第1の三次元データを格納する格納部と、
    前記第1の三次元データと、前記構造物内に配された前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において算出し、前記それぞれの方向における前記不一致量を、前記格納部に格納された閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を出力する処理部と、
    を備えた作業支援システム。
  3. 前記処理部から出力された前記不一致量を受信する受信部をさらに備えた請求項1または2に記載の作業支援システム。
  4. 構造物内に搬送されて前記構造物内に配された後の第1搬送物を撮影部が撮影する第1工程と、
    前記構造物の三次元データ、および前記三次元データの前記構造物内の所定位置に重ね合わせされた前記第1搬送物の三次元データ、を含む第1の三次元データと、前記構造物内に配された前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において処理部が算出し、前記それぞれの方向における前記不一致量を、格納部に格納された閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を前記処理部が出力する第2工程と、
    を備えた作業方法。
  5. 前記第1搬送物は、前記構造物内に搬送される第2搬送物と連結されるものであって、
    前記第1工程および前記第2工程は、前記第1搬送物が前記構造物内に配された後であって、前記第1搬送物が前記第2搬送物と連結される前に行われる請求項記載の作業方法。
  6. 前記第2工程において、前記処理部から出力された前記不一致量を受信部が受信する請求項4または5に記載の作業方法
  7. 前記第2の三次元データを用いて、前記構造物内への第2搬送物の搬送経路を作成する第3工程をさらに備えた請求項のいずれか1つに記載の作業方法。
  8. 構造物の三次元データ、及び前記三次元データの前記構造物内の所定位置に重ね合わせされた第1搬送物の三次元データを含む第1の三次元データと、前記構造物内に配された前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において算出し、
    前記それぞれの方向における前記不一致量を、所定の閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を出力する、
    処理装置。
  9. 構造物の三次元データ、及び前記三次元データの前記構造物内の所定位置に重ね合わせされた第1搬送物の三次元データを含む第1の三次元データと、前記第1搬送物が前記構造物内に搬送されて前記構造物内に配された後であって、第2搬送物が前記第1搬送物と連結される前の、前記第1搬送物を撮影することで得られた第2の三次元データと、を用いて、前記第1の三次元データにおける前記第1搬送物に対する、前記第2の三次元データにおける前記第1搬送物の不一致量を、第1方向と、前記第1方向に直交する第2方向と、前記第1方向及び前記第2方向に直交する第3方向と、のそれぞれの方向において算出し、
    前記それぞれの方向における前記不一致量を、所定の閾値と比較し、いずれかの方向において前記不一致量が前記閾値よりも大きい場合、当該方向とその方向における前記不一致量を出力する、
    処理装置。
JP2016218249A 2016-11-08 2016-11-08 作業支援システム、作業方法、および処理装置 Active JP6833460B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP2016218249A JP6833460B2 (ja) 2016-11-08 2016-11-08 作業支援システム、作業方法、および処理装置
US15/802,638 US10650551B2 (en) 2016-11-08 2017-11-03 Work support system and work method
CN201711083280.7A CN108062431B (zh) 2016-11-08 2017-11-07 作业支援***以及作业方法
US16/814,445 US20200211222A1 (en) 2016-11-08 2020-03-10 Work support system and work method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2016218249A JP6833460B2 (ja) 2016-11-08 2016-11-08 作業支援システム、作業方法、および処理装置

Publications (2)

Publication Number Publication Date
JP2018077628A JP2018077628A (ja) 2018-05-17
JP6833460B2 true JP6833460B2 (ja) 2021-02-24

Family

ID=62063951

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2016218249A Active JP6833460B2 (ja) 2016-11-08 2016-11-08 作業支援システム、作業方法、および処理装置

Country Status (3)

Country Link
US (2) US10650551B2 (ja)
JP (1) JP6833460B2 (ja)
CN (1) CN108062431B (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200142012A (ko) 2018-04-13 2020-12-21 기꼬만 가부시키가이샤 신규 메디에이터

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5951075B2 (ja) 1980-03-31 1984-12-12 富士通株式会社 半導体記憶装置
EP1076237A3 (en) * 1999-08-10 2002-01-02 FUJI MACHINE Mfg. Co., Ltd. Method and apparatus for obtaining three-dimensional data
JP2002007485A (ja) * 2000-06-20 2002-01-11 Hitachi Ltd 原子力プラント構造物の設計支援システム
JP3910382B2 (ja) * 2001-07-11 2007-04-25 株式会社日立製作所 画像照合装置
US7367809B2 (en) * 2004-03-26 2008-05-06 Atsushi Takahashi Three-dimensional digital entity mesoscope system equipped with three-dimensional visual instruction functions
JP2005331383A (ja) * 2004-05-20 2005-12-02 Toshiba Corp 3次元座標位置評価方法及び評価装置
US7742634B2 (en) * 2005-03-15 2010-06-22 Omron Corporation Image processing method, three-dimensional position measuring method and image processing apparatus
JP4185074B2 (ja) 2005-06-29 2008-11-19 関西工事測量株式会社 防災システム及び被災者の位置を特定する方法
JP4093273B2 (ja) * 2006-03-13 2008-06-04 オムロン株式会社 特徴点検出装置、特徴点検出方法および特徴点検出プログラム
CN101249548B (zh) * 2008-02-26 2010-06-02 廊坊智通机器人***有限公司 一种机器人砂芯锁芯、下芯方法及***
EP2521058A1 (en) * 2011-05-06 2012-11-07 Dassault Systèmes Determining a geometrical CAD operation
JP2014178794A (ja) * 2013-03-14 2014-09-25 Hitachi Ltd 搬入経路計画システム
JP6138566B2 (ja) * 2013-04-24 2017-05-31 川崎重工業株式会社 部品取付作業支援システムおよび部品取付方法
CN108081268A (zh) * 2013-10-10 2018-05-29 精工爱普生株式会社 机器人控制***、机器人、程序以及机器人控制方法
EP2910512B1 (de) * 2014-02-21 2016-05-25 Siemens Aktiengesellschaft Verfahren zum Kalibrieren von Laserscannern an einem Containerumschlagkran
JP6463093B2 (ja) * 2014-11-25 2019-01-30 日立Geニュークリア・エナジー株式会社 建設計画支援装置
JP5951075B1 (ja) 2015-06-02 2016-07-13 三菱電機株式会社 据付調整高さ算出装置、据付調整高さ算出プログラム、および、据付方法

Also Published As

Publication number Publication date
CN108062431A (zh) 2018-05-22
JP2018077628A (ja) 2018-05-17
US10650551B2 (en) 2020-05-12
US20180130231A1 (en) 2018-05-10
US20200211222A1 (en) 2020-07-02
CN108062431B (zh) 2022-02-18

Similar Documents

Publication Publication Date Title
Tavares et al. Collaborative welding system using BIM for robotic reprogramming and spatial augmented reality
JP6965050B2 (ja) ガイド情報表示装置およびこれを備えたクレーンおよびガイド情報表示方法
JP6895835B2 (ja) ガイド情報表示装置およびクレーン
US20160125654A1 (en) Component assembly work support system and component assembly method
KR102037331B1 (ko) 플랜트 정밀 시공 지원 시스템 및 공간 정합성 검증 방법
US12002240B2 (en) Vision system for a robotic machine
KR102037332B1 (ko) 3차원 설계 도면의 정합성 검증 방법 및 이를 위한 시스템
US20180225839A1 (en) Information acquisition apparatus
CN101446482B (zh) 预埋金属设置位置核查方法及预埋金属设置位置核查***
JP6451139B2 (ja) 配置計画支援システム、配置計画支援方法及び配置計画支援プログラム
KR101897434B1 (ko) 시공 검수 장치 및 방법
WO2014141928A1 (ja) 搬入経路計画システム
US11648674B2 (en) System and method for robotic bin picking using advanced scanning techniques
US20210358201A1 (en) Construction visualization systems and methods
US10296697B2 (en) Interference check system
JP2019191927A (ja) 構造物の検査システム及び検査方法
JP2020005186A (ja) 画像表示システムおよび方法
JP6833460B2 (ja) 作業支援システム、作業方法、および処理装置
Nahangi et al. Parallel systems and structural frames realignment planning and actuation strategy
JP6538760B2 (ja) 複合現実シミュレーション装置及び複合現実シミュレーションプログラム
TW202130971A (zh) 測量系統及測量方法
US20230074990A1 (en) Data management system, management method, and storage medium
JP6660732B2 (ja) 鉄骨建方計測システム、その方法及びプログラム
JP6842819B2 (ja) 道路構造物の点検情報管理システム
JP2020111459A (ja) ロケーション管理システム、ロケーション管理装置、ロケーション管理方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20190325

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20200225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200324

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200522

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20201006

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201029

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210105

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210203

R151 Written notification of patent or utility model registration

Ref document number: 6833460

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151