JP2020198001A - 作業支援システム、作業支援方法及びプログラム - Google Patents

作業支援システム、作業支援方法及びプログラム Download PDF

Info

Publication number
JP2020198001A
JP2020198001A JP2019104849A JP2019104849A JP2020198001A JP 2020198001 A JP2020198001 A JP 2020198001A JP 2019104849 A JP2019104849 A JP 2019104849A JP 2019104849 A JP2019104849 A JP 2019104849A JP 2020198001 A JP2020198001 A JP 2020198001A
Authority
JP
Japan
Prior art keywords
related information
image
filtering
work support
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2019104849A
Other languages
English (en)
Inventor
智晴 中野
Tomoharu Nakano
智晴 中野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2019104849A priority Critical patent/JP2020198001A/ja
Publication of JP2020198001A publication Critical patent/JP2020198001A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

【課題】ユーザが容易に情報を把握できる作業支援システム等を提供する。【解決手段】作業支援装置10は、1以上の機器が設置された空間の撮像画像を取得する撮像画像取得部101と、撮像画像に写っている機器を個別に識別する機器識別部103と、識別された機器ごとに機器関連情報を取得する機器関連情報取得部104と、フィルタリング条件に基づいて機器関連情報をフィルタリングするフィルタリング部106と、フィルタリング後に残った機器関連情報の存在を機器ごとに通知するために機器を指し示す通知画像が撮像画像に重畳された重畳画像を生成する重畳画像生成部107と、重畳画像を表示部15に表示させる表示制御部108と、ユーザの操作に基づいて、通知画像により指し示された機器を選択する選択部109と、選択された機器に関連しフィルタリング後に残った機器関連情報をユーザに報知する報知部110と、を備える。【選択図】図7

Description

本発明は、作業支援システム、作業支援方法及びプログラムに関する。
機器の点検、修理、清掃など、機器に関する作業を、AR(Augmented Reality:拡張現実)により支援する技術が知られている。例えば特許文献1には、撮影された機器の映像に、当該機器の保全作業を支援するための情報を重畳して表示することにより、保全作業を支援する保全情報共有システムが開示されている。保全作業を支援するための情報とは、例えば、作業手順を示す映像、回路図、結線図等の図面、フィールド機器のパラメータなどを示す情報である。作業者は、保全作業を支援するための情報が重畳された映像を確認することで、機器ごとに必要な情報を確認しつつ作業を進めることができる。
特開2017−174127号公報
しかし、特許文献1の保全情報共有システムには、保全作業を支援するための情報が大量に存在すると、映像内に大量の情報が表示され、情報の把握が困難になるという問題がある。例えば、映像内に多数の機器が撮影されている場合において、大量の情報が表示されていると、どの情報がどの機器に関連する情報なのかを把握するのが困難になる。また、例えば、作業者の業務と関連性の薄い情報が大量に表示されていると、作業者は必要な情報を把握するのが困難になる。
本発明の目的は、上記の事情に鑑み、ユーザが容易に情報を把握できる作業支援システム等を提供することにある。
上記の目的を達成するため、本発明に係る作業支援システムは、1以上の機器が設置された空間の撮像画像を取得する撮像画像取得手段と、撮像画像に写っている機器を個別に識別する機器識別手段と、機器識別手段により識別された機器ごとに、該機器に関連する機器関連情報を取得する機器関連情報取得手段と、フィルタリング条件に基づいて機器関連情報をフィルタリングするフィルタリング手段と、フィルタリング手段によるフィルタリング後に残った機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が撮像画像に重畳された重畳画像を生成する重畳画像生成手段と、重畳画像を表示手段に表示させる表示制御手段と、操作手段を介したユーザの操作に基づいて、通知画像により指し示された機器を選択する選択手段と、選択手段により選択された機器に関連しフィルタリング後に残った機器関連情報をユーザに報知する報知手段と、を備える。
本発明によれば、フィルタリング条件に基づいて機器関連情報をフィルタリングし、フィルタリング後に残った機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が撮像画像に重畳されて表示手段に表示される。そのため、本発明によれば、大量の情報が表示されるのを防ぐことができるため、ユーザは容易に情報を把握できる。
本発明の実施の形態に係る作業支援システムの構成を示す図 本発明の実施の形態における、撮像画像が表示された画面の一例を示す図 図2において、作業支援装置を左に動かしたときの画面の一例を示す図 本発明の実施の形態における、重畳画像が表示された画面の一例を示す図 図4において、作業支援装置を左に動かしたときの画面の一例を示す図 本発明の実施の形態における、機器関連情報が表示された画面の一例を示す図 本発明の実施の形態に係る作業支援装置の機能的構成を示す図 本発明の実施の形態に係る位置対応情報の一例を示す図 本発明の実施の形態に係るサーバの機能的構成を示す図 本発明の実施の形態に係る機器関連情報テーブルの一例を示す図 本発明の実施の形態に係る作業者情報テーブルの一例を示す図 本発明の実施の形態に係るフィルタリング条件テーブルの一例を示す図 本発明の実施の形態に係る作業支援装置のハードウェア構成の一例を示す図 本発明の実施の形態に係る作業支援装置による重畳画像の表示の動作の一例を示すフローチャート 本発明の実施の形態に係る作業支援装置による機器関連情報の表示の動作の一例を示すフローチャート 本発明の実施の形態の変形例における、重畳画像が表示された画面の一例を示す図 本発明の実施の形態の変形例における、重畳画像が表示された画面の一例を示す図
以下、図面を参照しながら、本発明の実施の形態に係る作業支援システムを説明する。各図面においては、同一又は同等の部分に同一の符号を付す。
(実施の形態)
図1を参照しながら、実施の形態に係る作業支援システム1を説明する。作業支援システム1は、作業者が作業対象となる機器に関連する情報(以下、機器関連情報という)を容易に把握できるようにすることにより、作業者が機器に対して行うべき作業を支援する作業支援システムである。作業支援システム1は、機器関連情報を作業者に報知する作業支援装置10と、作業支援装置10とネットワークNTを介して通信するサーバ20とを備える。作業支援システム1は、本発明に係る作業支援システムの一例である。
機器関連情報は、例えば、機器の種別を示す情報、機器に対して行われた作業を示す情報、当該作業についての特記事項を示す情報などを含む。作業者は、作業対象となる機器についての機器関連情報を確認しつつ作業を行う。また、作業者が機器に対して行うべき作業とは、例えば点検、修理、清掃などである。
作業支援装置10は、機器が設置された空間を撮像し、機器関連情報の存在を機器ごとに通知する通知画像が撮像画像に重畳された重畳画像を表示する。詳細は後述するが、重畳画像を生成する際に、機器関連情報がフィルタリング条件に基づいてフィルタリングされる。これにより、作業支援装置10のユーザである作業者に必要な機器関連情報の存在のみが通知画像により示されるので、作業者は、機器関連情報を容易に把握できる。また、作業支援装置10は、作業者が撮像画像に写っている機器を選択する操作を行ったことに応じて、当該機器についての機器関連情報を表示する。作業支援装置10の機能的構成については後述する。なお、作業支援装置10は、本発明に係る作業支援システムの各構成を備えるので、作業支援装置10もまた、本発明に係る作業支援システムの一例である。
作業支援装置10は、例えばスマートフォン、タブレット端末など、カメラ及びタッチパネルディスプレイを備える携帯端末である。あるいは、作業支援装置10は、カメラとディスプレイと操作用コントローラとを備えるヘッドマウントディスプレイ装置であってもよい。また、上記いずれの場合であっても、作業支援装置10は、サーバ20と通信可能であるものとする。以下では、特段の断りが無い限り、作業支援装置10はタブレット端末であるものとして説明する。
サーバ20は、機器に関する情報、作業者に関する情報及びフィルタリング条件に関する情報を記憶し、必要に応じて作業支援装置10と通信する。作業支援装置10とサーバ20とはネットワークNTを介して通信する。ネットワークNTは、例えばインターネットであり、サーバ20は、例えばインターネット上のクラウドサーバである。ただし、サーバ20が、機器が設置された建物内に設置されたサーバであり、ネットワークNTが当該建物内にて構築されたローカルエリアネットワーク(LAN)であってもよい。サーバ20の機能的構成については後述する。
(作業支援の概略)
作業支援装置10及びサーバ20の機能的構成を説明する前に、理解を容易にするため、作業支援装置10による作業支援の概略を、作業支援装置10のタッチパネルディスプレイに表示される画像を例示して説明する。作業支援装置10は、機器が設置された空間を撮像し、撮像画像を図2に示すように表示する。なお、図2では、後述の表示部15及び操作部16がタッチパネルディスプレイとして一体となっている。図2に示す撮像画像では、機器A1−A5が写っている。なお、簡略のため、図2では各機器を立方体状のものとして記載している。作業支援装置10は、継続的に空間を撮像し、タッチパネルディスプレイに撮像画像を表示する。そのため、作業者が作業支援装置10を動かすと、表示される撮像画像も動きに追随して変化する。例えば、作業者が作業支援装置10を左に動かすと、図3に示すように、撮像画像内において各機器は右に移動するように見える。
作業支援装置10は、撮像画像に写っている各機器を個別に識別し、機器ごとに機器関連情報をサーバ20から取得する。どのようにして機器を個別に識別するかについては後述する。作業支援装置10は、フィルタリング条件に基づいて機器関連情報をフィルタリングする。フィルタリングの詳細については後述する。
作業支援装置10は、フィルタリング後に残った機器関連情報の存在を機器ごとに通知する通知画像が撮像画像に重畳された重畳画像を、図4に示すようにタッチパネルディスプレイに表示する。図4に示すように、通知画像B1,B3及びB4は吹き出しにより表され、それぞれ撮像画像に写っている機器A1,A3及びA4を指し示す。通知画像B1,B3及びB4により、作業者は、機器A1,A3及びA4にはフィルタリング後に残った機器関連情報が存在することを把握できる。図4では、機器A2及びA5については、フィルタリング後に残った機器関連情報が存在しないので、機器A2及びA5を指し示す通知画像が存在しない。各通知画像にて示されている数値は、フィルタリング後に存在する機器関連情報の件数である。また、図4には、フィルタリング条件を変更するための条件変更ボタンも表示されている。条件変更については後述する。
通知画像は、撮像画像に写っている機器を指し示すので、作業者が作業支援装置10を動かすことにより撮像画像が追随して変化すると、通知画像も追随して変化する。例えば、作業者が作業支援装置10を左に動かすことにより撮像画像内において各機器が右に移動するように見える場合、図5に示すように、重畳画像内の通知画像も指し示す機器に追随して右に移動するように見える。通知画像が重畳される前の撮像画像は現実空間を撮像することにより得られる画像なので、作業支援装置10により、あたかも機器を指し示す通知画像が現実空間に重畳されたかのような体験を作業者に提供できる。つまり、作業支援装置10により、拡張現実(AR)を実現できる。
作業者は、作業支援装置10のタッチパネルディスプレイに表示された通知画像をタッチして選択する操作をすることにより、図6に示すように、当該通知画像が指し示す機器についての機器関連情報を確認することができる。また、作業者が図6に示す「戻る」のボタンをタッチする操作をすることにより、機器関連情報の表示が消去され、再び図4に示すような重畳画像がタッチパネルディスプレイに表示される。
以上、作業支援装置10による作業支援の概略を説明した。作業支援装置10によれば、フィルタリング条件に基づいて機器関連情報をフィルタリングし、フィルタリング後に残った機器関連情報の存在を機器ごとに通知するために当該機器を指し示す通知画像が撮像画像に重畳されてタッチパネルディスプレイに表示される。そのため、作業支援装置10によれば、大量の情報が表示されるのを防ぐことができるため、作業者は容易に作業関連情報を把握できる。
(作業支援装置10の機能的構成)
次に、図7を参照しながら、作業支援装置10の機能的構成を説明する。作業支援装置10は、サーバ20と通信する通信部11と、機器が設置された空間を撮像する撮像部12と、作業支援装置10の現在位置を示す位置情報を取得する位置情報取得部13と、作業支援装置10の方位を示す方位情報を取得する方位情報取得部14と、画像を表示する表示部15と、ユーザの操作を受け付ける操作部16と、情報を記憶する記憶部17と、作業支援装置10を統括制御する制御部100と、を備える。詳細は後述するが、各機能部は、例えばタブレット端末である作業支援装置10が、当該端末に保存された制御プログラムを実行することにより実現される。
通信部11は、ネットワークNTを介してサーバ20と通信する。通信部11は、例えばLTE(Long Term Evolution)通信モジュールにより実現され、この場合、通信部11は携帯電話通信網を介してサーバ20と通信する。
撮像部12は、機器が設置された空間を撮像する。撮像部12は、例えばオートフォーカス機能を有するカメラモジュールにより実現される。撮像部12は、本発明に係る撮像手段の一例である。
位置情報取得部13は、作業支援装置10が現在存在する位置を示す位置情報を取得する。位置情報取得部13は、例えばGPS(Global Positioning System:全地球測位システム)モジュールにより実現される。また、位置情報取得部13は、例えば無線通信機器から発せられるビーコン信号に基づいて屋内測位を行う屋内測位モジュールにより実現されるものであってもよい。位置情報は、例えば緯度、経度及び標高の組により表されるが、建物内のある地点を基準とした相対的な座標により表されるものであってもよい。
方位情報取得部14は、作業支援装置10の方位、つまり作業支援装置10が現在どの方向を向いているかを示す方位情報を取得する。方位情報取得部14は、例えば地磁気センサモジュールにより実現される。なお、ここでいう方位とは、水平面上における向きのみでなく、高さ方向の向きも含むものとする。方位情報は、例えば方位角及び仰角の組により表される。
表示部15は、制御部100の制御に基づいて画像を表示する。表示部15は、例えば後述の操作部16と一体となったタッチパネルディスプレイにより実現される。また、例えば作業支援装置10がヘッドマウントディスプレイ装置である場合、当該ヘッドマウントディスプレイ装置に設けられたディスプレイにより表示部15が実現される。表示部15は、本発明に係る表示手段の一例である。
操作部16は、ユーザである作業者からの操作を受け付け、操作に対応する信号を制御部100に出力する。操作部16は、例えば表示部15と一体となったタッチパネルディスプレイにより実現される。また、例えば作業支援装置10がヘッドマウントディスプレイ装置である場合、当該ヘッドマウントディスプレイ装置に設けられた操作用コントローラにより操作部16が実現される。操作部16は、本発明に係る操作手段の一例である。
記憶部17は、作業者を個別に識別する作業者ID(Identifier:識別子)及びフィルタリング条件を記憶する。また記憶部17は、サーバ20から取得された後述の各種情報を一時的に保存するためにも使用される。
制御部100は、作業支援装置10を統括制御し、ユーザである作業者による作業を支援する。制御部100は、撮像部12により撮像された撮像画像を取得する撮像画像取得部101と、機器の空間内における設置位置を特定する設置位置特定部102と、撮像画像に写っている機器を個別に識別する機器識別部103と、識別された機器についての機器関連情報を取得する機器関連情報取得部104と、フィルタリング条件を取得するフィルタリング条件取得部105と、フィルタリング条件に基づいて機器関連情報をフィルタリングするフィルタリング部106と、通知画像が撮像画像に重畳された重畳画像を生成する重畳画像生成部107と、重畳画像を表示部15に表示させる表示制御部108と、ユーザである作業者の操作に基づいて機器を選択する選択部109と、選択された機器についての機器関連情報を作業者に報知する報知部110と、を備える。
撮像画像取得部101は、撮像部12を制御して、機器が設置された空間の撮像画像を取得する。撮像画像取得部101は、本発明に係る撮像画像取得手段の一例である。
設置位置特定部102は、撮像画像に写っている各機器の、空間内における設置位置を特定する。設置位置特定部102は、本発明に係る設置位置特定手段の一例である。
設置位置特定部102は、例えば、位置情報取得部13により取得された位置情報と、作業支援装置10の現在位置を基準とした機器の相対位置とに基づいて機器の設置位置を特定する。機器の相対位置は、例えば、方位情報取得部14により取得された方位情報と、撮像部12が機器に焦点を合わせた際にオートフォーカス機能により得られる焦点距離とに基づいて求めることができる。方位情報により作業支援装置10を基準としてどの方位に機器が存在するかがわかり、焦点距離により作業支援装置10から機器までの距離がわかるので、作業支援装置10を基準とした機器の相対位置を求めることができる。また、焦点距離に代えて、作業支援装置10に測距センサを設け、当該測距センサにより得られる作業支援装置10から機器までの距離を利用してもよい。
機器識別部103は、設置位置特定部102により特定された各機器の設置位置に基づいて、各機器を個別に識別する。機器識別部103は、機器の設置位置と機器との対応を示す位置対応情報を取得し、設置位置に基づいて機器を個別に識別する。機器識別部103は、本発明に係る機器識別手段の一例である。
位置対応情報は、例えば図8に示すような、機器を個別に識別するために各機器に割り当てられた機器IDと、機器の設置位置とが対応付けられた情報である。設置位置に対応する機器IDを特定することが、機器を個別に識別することとなる。機器の設置位置は、作業支援装置10の位置を示す位置情報と同様に、例えば緯度、経度及び標高の組により表される。機器識別部103は、サーバ20から位置対応情報を取得し、一時的に記憶部17に保存する。記憶部17に位置対応情報が保存されているとき、機器識別部103は、記憶部17から位置対応情報を取得する。位置対応情報は、例えば機器の設置時に設置者がサーバ20に登録する。位置対応情報を登録する機能は、作業支援装置10に設けられていてもよいし、位置対応情報を登録するための専用端末に設けられていてもよい。
機器関連情報取得部104は、機器識別部103により識別された機器についての機器関連情報をサーバ20から取得し記憶部17に一時的に保存する。機器関連情報取得部104は、例えば、機器識別部103により識別された機器の機器IDをサーバ20に送信しつつ当該機器IDに紐付けられた機器関連情報をサーバに要求し、当該機器IDに紐付けられた機器関連情報をサーバ20から受信する。機器関連情報取得部104は、本発明に係る機器関連情報取得手段の一例である。
フィルタリング条件取得部105は、フィルタリング条件を取得する。作業支援装置10の起動直後など、記憶部17にフィルタリング条件が保存されていないとき、フィルタリング条件取得部105は、サーバ20からフィルタリング条件を取得し、記憶部17に保存する。この際、フィルタリング条件取得部105は、記憶部17に保存された作業者IDをサーバ20に送信し、作業者の属性に応じて定められたフィルタリング条件をサーバ20から取得する。また、作業者が操作部16によりフィルタリング条件を変更する操作をしたとき、フィルタリング条件取得部105は、作業者の操作に基づくフィルタリング条件を取得し、記憶部17に保存する。つまり、フィルタリング条件取得部105は、フィルタリング条件の初期設定をサーバ20から取得し、作業者がフィルタリング条件を変更する操作をしたときには当該操作に応じたフィルタリング条件を取得し、記憶部17に保存する。また、記憶部17にフィルタリング条件が保存されており、かつフィルタリング条件を変更する操作がないとき、フィルタリング条件取得部105は、記憶部17に保存されたフィルタリング条件を取得する。
フィルタリング部106は、フィルタリング条件取得部105により取得されたフィルタリング条件に基づいて、機器関連情報取得部104により取得された各機器についての機器関連情報をフィルタリングする。機器関連情報のフィルタリングは、機器関連情報のうちフィルタリング条件を満たす機器関連情報のみを作業者に報知するために残し、フィルタリング条件を満たさない機器関連情報は報知対象としないために行われる。フィルタリング部106は、本発明に係るフィルタリング手段の一例である。
重畳画像生成部107は、フィルタリング部106によるフィルタリング後に残った機器関連情報の存在を機器ごとに通知するために当該機器を指し示す通知画像を撮像画像に重畳した重畳画像を生成する。前述のとおり、重畳画像は、例えば図4に示すようなものとして表示部15に表示される。なお、重畳画像生成部107は、通知画像のみでなく、図4に示すように、フィルタリング条件を変更するボタンをさらに撮像画像に重畳してもよい。フィルタリングの結果、機器関連情報が残らなかった機器については、通知画像が重畳されない。重畳画像生成部107は、本発明に係る重畳画像生成手段の一例である。
表示制御部108は、重畳画像生成部107により生成された重畳画像を表示部15に表示させる。表示制御部108は、本発明に係る表示制御手段の一例である。
選択部109は、ユーザである作業者による操作部16を介した操作に基づいて、通知画像にて指し示された機器を選択する。例えば、作業者が図4に示す通知画像B1をタッチする操作をしたとき、選択部109は、機器A1を選択する。具体的には、機器A1に対応する機器IDを特定することにより、機器A1を選択する。選択部109により選択された機器についての機器関連情報が、後述の報知部110により作業者に報知される。選択部109は、本発明に係る選択手段の一例である。
報知部110は、選択部109により選択された機器についての機器関連情報を作業者に報知する。具体的には、選択部109により特定された機器IDに対応する機器関連情報を作業者に報知する。報知部110は、例えば図6に示すように表示部15に機器関連情報を表示させることにより、機器関連情報を作業者に報知する。あるいは、作業支援装置10に表示部15とは異なる第2の表示部を設け、報知部110が当該第2の表示部に機器関連情報を表示させることにより機器関連情報を表示してもよい。そのほか、作業支援装置10にスピーカを設け、機器関連情報を読み上げた音声を当該スピーカに出力することにより機器関連情報を作業者に報知してもよい。報知部110は、本発明に係る報知手段の一例である。
(サーバ20の機能的構成)
次に、図9を参照しながら、サーバ20の機能的構成を説明する。サーバ20は、作業支援装置10と通信する通信部21と、作業支援装置10による作業支援に必要な情報を記憶する記憶部22と、サーバ20を統括制御する制御部200と、を備える。
通信部21は、ネットワークNTを介して作業支援装置10と通信する。通信部21は、例えばネットワークインタフェースにより実現される。
記憶部22は、位置対応情報を格納する位置対応情報テーブルD221と、各機器についての機器関連情報を格納する機器関連情報テーブルD222と、各作業者についての情報を示す作業者情報を格納する作業者情報テーブルD223と、作業者情報にて定められた作業者属性とフィルタリング条件との対応関係を格納するフィルタリング条件テーブルD224と、を記憶する。
位置対応情報テーブルD221は、機器の設置位置と機器との対応を示す位置対応情報を格納する。位置対応情報テーブルD221は、例えば前述の図8に示す形式にて表される位置対応情報を格納する。
機器関連情報テーブルD222は、各機器についての機器関連情報を格納する。機器関連情報テーブルD222は、例えば図10にて示す形式にて表される。図10に示す各行が1つの機器関連情報を示す。
機器IDの項目は、位置対応情報の場合と同様、機器を個別に識別するために各機器に割り当てられているIDを示す。機器IDを割り当てられた機器は、位置対応情報テーブルD221により設置位置と紐付けられ、機器関連情報テーブルD222により機器関連情報と紐付けられる。図10に示すように、1つの機器IDに対して機器関連情報は2以上存在しうる。
機器種別の項目は、巻上機、制御盤、室内機などの機器の種別を示す項目である。詳細は後述するが、機器種別の項目は、フィルタリング時に参照される。図10では、機器IDが1の機器と機器IDが4の機器がともに巻上機となっているが、これらの機器は機器IDが異なるので、機器種別は同一であるものの互いに異なる機器である。
作業内容の項目は、点検、修理、清掃など、作業者の作業内容を示す項目である。作業内容の項目もまた、フィルタリング時に使用される。
登録日時の項目は、ユーザによる登録操作により機器関連情報が機器関連情報テーブルD222に格納された日時を示す。登録操作は、例えば作業支援装置10に機器関連情報を登録する機能を設け、作業者が作業支援装置10の当該機能により機器関連情報を登録する操作を行うことである。あるいは、サーバ20に機器関連情報を登録する機能を設け、サーバ20の管理者が作業者により作成された報告書に基づいて機器関連情報を登録してもよい。
担当者の項目は、作業内容の項目にて示される作業を担当した者あるいは担当する予定の者を示す。特記事項の項目は、例えば注意事項、作業予定日時など、担当者が作成した任意の文字列を示す。
上記のほか、機器関連情報テーブルD222は、作業を支援するために有用な情報を任意に格納しうる。例えば、機器関連情報テーブルD222は、機器の仕様を示す情報を格納してもよいし、作業手順を示す映像の情報を格納してもよい。
作業者情報テーブルD223は、各作業者についての情報を示す作業者情報を格納する。作業者情報テーブルD223は、例えば図11に示す形式にて表される。
作業者IDの項目は、作業者を個別に識別するために各作業者に割り当てられた作業者IDを示す。作業支援装置10から送信された作業者IDを、作業者情報テーブルD223にて示される作業者IDと照合することにより、当該作業支援装置10のユーザである作業者についての情報を参照できる。
氏名の項目は、作業者の氏名を示す。担当業務の項目は、点検、修理、清掃など作業者の担当業務を示す。担当機器の項目は、作業者が担当する機器の種別を示す。担当業務及び担当機器を総括して、作業者属性という。作業者属性は、後述のフィルタリング条件決定の際に使用される。
フィルタリング条件テーブルD224は、作業者属性ごとに対応付けられたフィルタリング条件を格納する。フィルタリング条件テーブルD224は、例えば図12に示す形式により表される。フィルタリング条件テーブルD224は、後述のフィルタリング条件決定の際に参照される。また、前述のとおり、サーバ20が作業支援装置10に送信するフィルタリング条件は、作業支援装置10においてフィルタリング条件の初期設定として使用されるので、フィルタリング条件テーブルD224は、フィルタリング条件の初期設定を格納するものである。
再び図9を参照する。制御部200は、サーバ20を統括制御する。制御部200は、位置対応情報を作業支援装置10に送信する位置対応情報送信部201と、機器関連情報を作業支援装置10に送信する機器関連情報送信部202と、作業者属性を取得する作業者属性取得部203と、作業支援装置10に送信すべきフィルタリング条件を決定するフィルタリング条件決定部204と、フィルタリング条件を作業支援装置10に送信するフィルタリング条件送信部205と、を備える。
位置対応情報送信部201は、記憶部22に保存された位置対応情報テーブルD221を参照し、作業支援装置10からの要求に応じて、位置対応情報テーブルD221に格納された位置対応情報を作業支援装置10に送信する。
機器関連情報送信部202は、記憶部22に保存された機器関連情報テーブルD222を参照し、作業支援装置10から受信した機器IDに対応する機器関連情報を全て作業支援装置10に送信する。
作業者属性取得部203は、記憶部22に保存された作業者情報テーブルD223を参照し、作業支援装置10から受信した作業者IDに対応する作業者属性を取得する。
フィルタリング条件決定部204は、記憶部22に保存されたフィルタリング条件テーブルD224を参照し、作業者属性取得部203により取得された作業者属性に対応するフィルタリング条件を、作業支援装置10に送信すべきフィルタリング条件として決定する。
フィルタリング条件送信部205は、作業支援装置10からの要求に応じて、フィルタリング条件決定部204により決定されたフィルタリング条件を作業支援装置10に送信する。
(ハードウェア構成)
次に、作業支援装置10のハードウェア構成の一例について、図13を参照しながら説明する。図13に示す作業支援装置10は、例えばスマートフォン、タブレット端末、ヘッドマウントディスプレイ装置などの携帯可能なコンピュータにより実現される。
作業支援装置10は、バス1000を介して互いに接続された、プロセッサ1001と、メモリ1002と、インタフェース1003と、二次記憶装置1004と、を備える。
プロセッサ1001は、例えばCPU(Central Processing Unit:中央演算装置)である。プロセッサ1001が、二次記憶装置1004に記憶された動作プログラムをメモリ1002に読み込んで実行することにより、作業支援装置10の各機能が実現される。
メモリ1002は、例えば、RAM(Random Access Memory)により構成される主記憶装置である。メモリ1002は、プロセッサ1001が二次記憶装置1004から読み込んだ動作プログラムを記憶する。また、メモリ1002は、プロセッサ1001が動作プログラムを実行する際のワークメモリとして機能する。
インタフェース1003は、例えばシリアルポート、USB(Universal Serial Bus)ポート、ネットワークインタフェースなどのI/O(Input/Output)インタフェースである。インタフェース1003に各種モジュール、タッチパネルディスプレイなどが接続されることにより、通信部11、撮像部12、位置情報取得部13、方位情報取得部14、表示部15及び操作部16の機能が実現される。
二次記憶装置1004は、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)である。二次記憶装置1004は、プロセッサ1001が実行する動作プログラムを記憶する。また、二次記憶装置1004により、記憶部17の機能が実現される。
また、サーバ20も、例えばパーソナルコンピュータ、サーバ用コンピュータなどのコンピュータにより実現され、図13と同様のハードウェア構成を備える。
(フィルタリング条件)
次に、理解を容易にするため、図10、図11及び図12を参照しながら、フィルタリング条件を説明する。まず、作業者が「A田B郎」である場合を考える。このとき、図11から、作業者属性については、担当業務が「点検」となり、担当機器が「巻上機・制御盤」となる。そして、図12から、参照すべき作業者属性の項目は「担当機器が巻上機・制御盤」となり、対応するフィルタリング条件は「機器種別が巻上機または制御盤」となる。図12では、作業者属性の項目に「点検」に関する項目がないので、「A田B郎」についての担当業務「点検」は考慮されない。
フィルタリング条件が「機器種別が巻上機または制御盤」であるとき、図10に示す機器関連情報のうち、機器種別の項目が「巻上機」または「制御盤」である機器関連情報のみがフィルタリング後に残る。そのため、「巻上機」を指し示す通知画像及び「制御盤」を指し示す通知画像のみが撮像画像に重畳される。
作業者が「I川J次」である場合を考える。このとき、図11から、作業者属性については、担当業務が「清掃」となり、担当機器が「室内機」となる。そして、図12から、参照すべき作業者属性の項目は「担当機器が室内機 かつ 担当業務が清掃」となり、対応するフィルタリング条件は「機器種別が室内機 かつ 作業内容が点検または清掃」となる。「A田B郎」の場合と異なり、図12では、作業者属性の項目に「清掃」に関する項目があり、担当機器も一致するので、「I川J次」についての担当業務「清掃」が考慮される。
この場合、機器種別の項目が「室内機」である機器関連情報であっても、作業内容の項目が「点検」でも「清掃」でもない場合には、当該機器関連情報はフィルタリング後には残らない。したがって、作業者が「I川J次」である場合、例えば「修理」は行われているものの「点検」も「清掃」も行われていない「室内機」については通知画像が生成されない。室内機の清掃という業務において、点検及び清掃に関する情報は必要である一方、修理に関する情報はさほど重要でないと考えられるため、室内機の清掃を業務とする「I川J次」にとって、情報の把握が容易となる。
なお、前述のとおり、作業支援装置10がサーバ20から取得するフィルタリング条件は、フィルタリング条件の初期設定である。したがって、例えばユーザが図4に示す「条件変更」ボタンを選択する操作をし、作業支援装置10にて適用されるフィルタリング条件を変更できる。例えば、「A田B郎」が「巻上機」についての機器関連情報のみを残すためのフィルタリング条件を設定できる。
(重畳画像の表示の動作)
次に、図14を参照しながら、作業支援装置10による重畳画像の表示の動作の一例を説明する。図14に示す動作は、例えば作業者が作業支援装置10に保存された制御プログラムを実行したときに開始される。
作業支援装置10の制御部100の撮像画像取得部101は、撮像部12を制御して、機器が設置された空間の撮像画像を取得する(ステップS101)。なお、初めてこのステップを実行するときには、後述のステップS110が実行されるまで何も表示されないことを防ぐべく、制御部100は、図2に示すように撮像画像を表示部15に表示させることが好ましい。
制御部100の設置位置特定部102は、撮像画像に写っている各機器の設置位置を特定する(ステップS102)。
制御部100の機器識別部103は、位置対応情報を取得する(ステップS103)。位置対応情報が記憶部17に保存されていないとき、機器識別部103は、サーバ20から位置対応情報を取得して記憶部17に一時的に保存する。位置対応情報が記憶部17に保存されているとき、機器識別部103は、記憶部17に保存されている位置対応情報を取得する。
機器識別部103は、ステップS103にて取得した位置対応情報を参照し、ステップS102にて特定した各機器の設置位置に基づいて機器IDを特定することにより、機器を個別に識別する(ステップS104)。
制御部100の機器関連情報取得部104は、機器ごとに、ステップS104にて特定した機器IDに対応する機器関連情報をサーバ20から取得する(ステップS105)。前述の通り、機器関連情報取得部104は、機器IDをサーバ20に送信することにより、対応する機器関連情報をサーバ20から取得できる。
制御部100のフィルタリング条件取得部105は、フィルタリング条件を取得する(ステップS106)。前述のとおり、記憶部17にフィルタリング条件が保存されていないとき、フィルタリング条件取得部105は、作業者IDをサーバ20に送信し、サーバ20からフィルタリング条件を取得して記憶部17に保存する。作業者がフィルタリング条件を変更する操作をしたとき、フィルタリング条件取得部105は、当該操作に応じたフィルタリング条件を取得して記憶部17に保存する。記憶部17にフィルタリング条件が保存されており、かつフィルタリング条件を変更する操作がないとき、フィルタリング条件取得部105は、記憶部17に保存されたフィルタリング条件を取得する。なお、このステップS106の動作は、ステップS107より前であればどのタイミングで行われてもかまわない。例えば、ステップS101より前に実行されてもかまわない。
制御部100のフィルタリング部106は、ステップS106にて取得されたフィルタリング条件に基づいて、ステップS105にて取得された機器関連情報をフィルタリングする(ステップS107)。
制御部100の重畳画像生成部107は、ステップS107によるフィルタリング後に残った機器関連情報の存在を機器ごとに通知するために当該機器を指し示す通知画像を撮像画像に重畳した重畳画像を生成する(ステップS108)。
制御部100の表示制御部108は、ステップS108にて生成された重畳画像を、図4に示すように表示部15に表示させる(ステップS109)。そして制御部100は、ステップS101からの動作の流れを繰り返す。
次に、図15を参照しながら、作業支援装置10による機器関連情報の表示の動作の一例を説明する。図15に示す動作は、例えば作業者が作業支援装置10に保存された制御プログラムを実行したときに、図14に示す動作と並行して開始される。
制御部100は、通知画像により指し示された機器を選択する操作を待ち受ける(ステップS201)。制御部100は、作業者が操作部16を介して当該操作を行ったとき、ステップS202以降の動作を実行する。
制御部100の選択部109は、ステップS201にて待ち受けた作業者の選択操作に応じた機器を選択する(ステップS202)。例えば、作業者がタッチ操作により機器を選択する操作をしたとき、選択部109は、当該機器に対応する機器IDを特定することにより、機器を選択する。
制御部100の報知部110は、ステップS202にて選択された機器についての、フィルタリング後の機器関連情報を図6に示すように表示部15に表示させることにより、選択された機器についての機器関連情報を作業者に報知する(ステップS203)。
制御部100は、作業者によるリターン操作を待ち受ける(ステップS204)。リターン操作とは、例えば図6に示す「戻る」ボタンを選択し機器関連情報を表示する前の画面に戻るための操作である。リターン操作があったとき、制御部100はステップS205以降の動作を実行する。
制御部100は、表示部15に表示された機器関連情報の表示を消去し、再び図4に示すような画面に戻す(ステップS205)。そして制御部100は、ステップS201からの動作の流れを繰り返す。
(効果)
以上、実施の形態に係る作業支援システム1を説明した。作業支援システム1によれば、フィルタリング条件に基づいて機器関連情報をフィルタリングし、フィルタリング後に残った機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が撮像画像に重畳されて表示部15に表示される。そのため、作業支援システム1によれば、大量の情報が表示されるのを防ぐことができるため、ユーザである作業者は容易に情報を把握できる。
また、作業支援システム1によれば、フィルタリング条件の初期設定が作業者属性に応じて決定されるので、作業者の業務に適したフィルタリング条件が初期設定として設定され、作業者はフィルタリング条件を自ら設定しなくとも自身に必要な情報を容易に把握できる。
(変形例)
実施の形態において、図4に示すように、通知画像は機器関連情報の件数も示すものであったが、通知画像は必ずしも件数を示す必要はなく、例えば空白であってもよいし、機器種別、担当者など機器関連情報の一部を文字列にて示すものであってもよい。また、撮像位置(つまり、作業支援装置10の現在位置)の近くにある機器についてのみ件数を示し、遠くにある機器については空白としてもよい。
また、図4では、通知画像は吹き出しにより機器を指し示すものとしたが、通知画像が指し示す機器が明らかにわかるものであれば、通知画像は吹き出しに限られない。例えば図16に示すように、単純な形状の画像を通知画像としても、機器の近傍に通知画像を重畳することにより、通知画像が指し示す機器は明らかとなる。また、図17に示すように、通知画像を円状、楕円状などの形状とし、機器の一部または全部を当該通知画像にて囲む位置に通知画像を重畳することにより、通知画像が指し示す機器を明らかにしてもよい。
実施の形態において、作業支援装置10は、設置位置特定部102により撮像画像に写っている各機器の空間内における設置位置を特定し、機器識別部103により設置位置に基づいて各機器を個別に識別した。しかし、作業支援装置10に設置位置特定部102を設けず、機器識別部103は設置位置に依らずに撮像画像に写っている各機器を個別に識別してもよい。例えば、機器の設置時に各機器に個別のAR用のマーカを付し、機器識別部103は、撮像画像に写っている機器のAR用マーカを認識することにより各機器を個別に識別してもよい。
実施の形態の変形例として、作業支援システム1において、作業支援装置10の制御部100の機能の一部をサーバ20の制御部200が代わりに備える形態が採用されうる。例えば、機器識別部103と同様の機能部を制御部200が代わりに備え、制御部100は機器の設置位置を示す情報をサーバ20に送信し、制御部200が設置位置に基づいて機器を識別し当該機器の機器関連情報を作業支援装置10に送信してもよい。この形態により、作業支援装置10には位置対応情報が不要となるので、大量の機器を管理し位置対応情報のデータ容量が莫大となるときに有利となる。
実施の形態の変形例として、作業支援システム1において、サーバ20と通信することなく作業支援装置10単独での作業支援を可能とする形態が採用されうる。例えば、サーバ20の記憶部22に保存されている各テーブルと同様の内容のテーブルを作業支援装置10の記憶部17に保存し、作業支援装置10の制御部100にサーバ20の作業者属性取得部203及びフィルタリング条件決定部204と同様の機能部を設けることにより、作業支援装置10がサーバ20と通信しなくとも作業支援をすることができる。この形態は、例えば外部との通信が困難あるいは不可能な場所での作業にて有利となる。
実施の形態において、作業支援装置10は撮像部12、位置情報取得部13、方位情報取得部14、表示部15及び操作部16を備えるものとしたが、作業支援装置10がこれらの一部又は全部を備えず、これらの機能を備える外部装置と通信する形態も採用されうる。例えば、作業支援装置10が建物内に設置された携帯困難な装置であり、当該作業支援装置10がカメラモジュール、GPSモジュール、地磁気センサモジュール及びタッチパネルディスプレイを備える携帯端末と通信するものであってもよい。
図13に示すハードウェア構成においては、作業支援装置10が二次記憶装置1004を備えている。しかし、これに限らず、二次記憶装置1004を作業支援装置10の外部に設け、インタフェース1003を介して作業支援装置10と二次記憶装置1004とが接続される形態としてもよい。この形態においては、USBフラッシュドライブ、メモリカードなどのリムーバブルメディアも二次記憶装置1004として使用可能である。
また、図13に示すハードウェア構成に代えて、ASIC(Application Specific Integrated Circuit:特定用途向け集積回路)、FPGA(Field Programmable Gate Array)などを用いた専用回路により作業支援装置10を構成してもよい。また、図13に示すハードウェア構成において、作業支援装置10機能の一部を、例えばインタフェース1003に接続された専用回路により実現してもよい。
1 作業支援システム、10 作業支援装置、11 通信部、12 撮像部、13 位置情報取得部、14 方位情報取得部、15 表示部、16 操作部、17 記憶部、20 サーバ、21 通信部、22 記憶部、100 制御部、101 撮像画像取得部、102 設置位置特定部、103 機器識別部、104 機器関連情報取得部、105 フィルタリング条件取得部、106 フィルタリング部、107 重畳画像生成部、108 表示制御部、109 選択部、110 報知部、200 制御部、201 位置対応情報送信部、202 機器関連情報送信部、203 作業者属性取得部、204 フィルタリング条件決定部、205 フィルタリング条件送信部、1000 バス、1001 プロセッサ、1002 メモリ、1003 インタフェース、1004 二次記憶装置、A1−A5 機器、B1,B3,B4 通知画像、D221 位置対応情報テーブル、D222 機器関連情報テーブル、D223 作業者情報テーブル、D224 フィルタリング条件テーブル、NT ネットワーク。

Claims (7)

  1. 1以上の機器が設置された空間の撮像画像を取得する撮像画像取得手段と、
    前記撮像画像に写っている機器を個別に識別する機器識別手段と、
    前記機器識別手段により識別された機器ごとに、該機器に関連する機器関連情報を取得する機器関連情報取得手段と、
    フィルタリング条件に基づいて前記機器関連情報をフィルタリングするフィルタリング手段と、
    前記フィルタリング手段によるフィルタリング後に残った前記機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が前記撮像画像に重畳された重畳画像を生成する重畳画像生成手段と、
    前記重畳画像を表示手段に表示させる表示制御手段と、
    操作手段を介したユーザの操作に基づいて、前記通知画像により指し示された前記機器を選択する選択手段と、
    前記選択手段により選択された前記機器に関連しフィルタリング後に残った前記機器関連情報を前記ユーザに報知する報知手段と、
    を備える作業支援システム。
  2. 前記撮像画像に写っている機器の前記空間における設置位置を特定する設置位置特定手段をさらに備え、
    前記機器識別手段は、前記設置位置特定手段により特定された前記機器の設置位置に基づいて、前記撮像画像に写っている機器を個別に識別する、
    請求項1に記載の作業支援システム。
  3. 前記機器識別手段は、前記撮像画像に写っている前記機器に付されたマーカに基づいて、前記撮像画像に写っている機器を個別に識別する、
    請求項1に記載の作業支援システム。
  4. 前記報知手段は、前記機器関連情報を示す画像を前記表示手段に表示させることにより、前記機器関連情報を前記ユーザに報知する、
    請求項1から3のいずれか1項に記載の作業支援システム。
  5. 撮像手段と前記表示手段と前記操作手段とをさらに備え、
    前記撮像画像取得手段は、前記撮像手段により撮像された前記空間の撮像画像を取得する、
    請求項1から4のいずれか1項に記載の作業支援システム。
  6. 1以上の機器が設置された空間の撮像画像を取得し、
    前記撮像画像に写っている機器を個別に識別し、
    識別された機器ごとに、該機器に関連する機器関連情報を取得し、
    フィルタリング条件に基づいて前記機器関連情報をフィルタリングし、
    フィルタリング後に残った前記機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が前記撮像画像に重畳された重畳画像を表示手段に表示させ、
    操作手段を介したユーザの操作に基づいて、前記通知画像により指し示された前記機器を選択し、
    選択された前記機器に関連しフィルタリング後に残った前記機器関連情報を前記ユーザに報知する、
    作業支援方法。
  7. コンピュータを、
    1以上の機器が設置された空間の撮像画像を取得する撮像画像取得手段、
    前記撮像画像に写っている機器を個別に識別する機器識別手段、
    前記機器識別手段により識別された機器ごとに、該機器に関連する機器関連情報を取得する機器関連情報取得手段、
    フィルタリング条件に基づいて前記機器関連情報をフィルタリングするフィルタリング手段、
    前記フィルタリング手段によるフィルタリング後に残った前記機器関連情報の存在を機器ごとに通知するために該機器を指し示す通知画像が前記撮像画像に重畳された重畳画像を生成する重畳画像生成手段、
    前記重畳画像を表示手段に表示させる表示制御手段、
    操作手段を介したユーザの操作に基づいて、前記通知画像により指し示された前記機器を選択する選択手段、
    前記選択手段により選択された前記機器に関連しフィルタリング後に残った前記機器関連情報を前記ユーザに報知する報知手段、
    として機能させるプログラム。
JP2019104849A 2019-06-04 2019-06-04 作業支援システム、作業支援方法及びプログラム Pending JP2020198001A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019104849A JP2020198001A (ja) 2019-06-04 2019-06-04 作業支援システム、作業支援方法及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019104849A JP2020198001A (ja) 2019-06-04 2019-06-04 作業支援システム、作業支援方法及びプログラム

Publications (1)

Publication Number Publication Date
JP2020198001A true JP2020198001A (ja) 2020-12-10

Family

ID=73649223

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019104849A Pending JP2020198001A (ja) 2019-06-04 2019-06-04 作業支援システム、作業支援方法及びプログラム

Country Status (1)

Country Link
JP (1) JP2020198001A (ja)

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013162285A (ja) * 2012-02-03 2013-08-19 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2016004292A (ja) * 2014-06-13 2016-01-12 富士通株式会社 端末装置、情報処理システム、及び表示制御プログラム

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2013162285A (ja) * 2012-02-03 2013-08-19 Sony Corp 情報処理装置、情報処理方法、及びプログラム
JP2016004292A (ja) * 2014-06-13 2016-01-12 富士通株式会社 端末装置、情報処理システム、及び表示制御プログラム

Similar Documents

Publication Publication Date Title
US10438409B2 (en) Augmented reality asset locator
KR101977703B1 (ko) 단말의 촬영 제어 방법 및 그 단말
US20160327946A1 (en) Information processing device, information processing method, terminal device, and setting method
EP3190581B1 (en) Interior map establishment device and method using cloud point
JP2016018463A (ja) 状態変化管理システム及び状態変化管理方法
US20160071294A1 (en) Apparatus and method for constructing indoor map using cloud point
JP2012155403A (ja) フィールド機器監視システム
JP2015102880A (ja) 作業支援システム
US11048345B2 (en) Image processing device and image processing method
KR101466132B1 (ko) 카메라 통합 관리 시스템 및 그 방법
JP2020086980A (ja) 設備点検支援端末、設備点検支援システム及びプログラム
JP2017079019A (ja) 建築分野用システム
JP2020198001A (ja) 作業支援システム、作業支援方法及びプログラム
CN108303062B (zh) 图像信息处理装置及图像信息处理方法
JP7015130B2 (ja) データ処理装置
JP5586071B2 (ja) 撮影支援装置、撮影支援方法、及びプログラム
KR102057845B1 (ko) 단말기와의 연계를 통한 영상 관제 방법 및 이를 이용한 영상 관제 시스템
JP2019002747A (ja) 目的地特定システム
JP7368937B2 (ja) 設備管理システム
JP6818795B2 (ja) 情報処理装置、情報処理方法及びコンピュータプログラム
US10469673B2 (en) Terminal device, and non-transitory computer readable medium storing program for terminal device
JP2022126127A (ja) 表示方法、情報処理装置、及びプログラム
JP6348750B2 (ja) 電子機器、表示方法、プログラム及び通信システム
JP2016038682A (ja) 情報処理装置及びその制御方法、サーバ装置及びその制御方法、コンピュータプログラム
JP2015005700A (ja) 検査システム、検査方法及び端末

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20220405

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20230407

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20230425

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20231017