JP7374396B2 - 情報処理装置、情報処理方法、及び、情報処理プログラム - Google Patents

情報処理装置、情報処理方法、及び、情報処理プログラム Download PDF

Info

Publication number
JP7374396B2
JP7374396B2 JP2023550311A JP2023550311A JP7374396B2 JP 7374396 B2 JP7374396 B2 JP 7374396B2 JP 2023550311 A JP2023550311 A JP 2023550311A JP 2023550311 A JP2023550311 A JP 2023550311A JP 7374396 B2 JP7374396 B2 JP 7374396B2
Authority
JP
Japan
Prior art keywords
user
work
target device
relationship
information processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2023550311A
Other languages
English (en)
Other versions
JPWO2023073775A1 (ja
JPWO2023073775A5 (ja
Inventor
貴耶 谷口
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Publication of JPWO2023073775A1 publication Critical patent/JPWO2023073775A1/ja
Publication of JPWO2023073775A5 publication Critical patent/JPWO2023073775A5/ja
Application granted granted Critical
Publication of JP7374396B2 publication Critical patent/JP7374396B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09BEDUCATIONAL OR DEMONSTRATION APPLIANCES; APPLIANCES FOR TEACHING, OR COMMUNICATING WITH, THE BLIND, DEAF OR MUTE; MODELS; PLANETARIA; GLOBES; MAPS; DIAGRAMS
    • G09B5/00Electrically-operated educational appliances
    • G09B5/02Electrically-operated educational appliances with visual presentation of the material to be studied, e.g. using film strip
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Business, Economics & Management (AREA)
  • Educational Administration (AREA)
  • Educational Technology (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本開示は、情報処理装置、情報処理方法、及び、情報処理プログラムに関する。
ユーザの視線を計測してユーザが見ている領域を検出し、検出した領域に紐づいた情報をユーザに提示する技術がある。特許文献1は、ATM(Automatic Teller Machine)等において、ユーザが見ている画像に紐づいたガイダンス映像を表示することにより、適切なガイダンス映像をユーザに提供する技術を開示している。
特開2018-055320号公報
作業現場における作業者支援、又は仮想空間等を用いた作業教育等において、作業者であるユーザの機器の選択における迷いに応じてユーザに適切に情報を提示する技術が求められている。当該技術に係る作業の種類と作業対象機器の種類とは数多く存在することが通常であるため、当該技術を特許文献1が開示する技術に基づいて実現することは、紐付け作業の量が膨大となるために現実的ではないという課題がある。
本開示は、作業しているユーザが注目している注目機器群と、作業対象機器との関係性に基づいてユーザに提示する情報を決定することにより、作業現場における作業者支援、又は仮想空間等を用いた作業教育等において、ユーザの機器の選択における迷いに応じてユーザに適切に情報を提示することを目的とする。ここで、作業対象機器は、ユーザが実施すべき作業に対応する機器である。
本開示に係る情報処理装置は、
作業しているユーザが注目している少なくとも1つの機器から成る注目機器群を検出する作業対象検出部と、
前記注目機器群に含まれている機器のうち前記ユーザが実施すべき作業に対応する機器である作業対象機器を除いた機器の各々を対象注目機器とし、前記対象注目機器と前記作業対象機器との関係性を示すスコアであって、前記ユーザが前記対象注目機器と前記作業対象機器との間で選択に迷う度合いを示すスコアである関係性スコアを求める迷い要因推定部と、
前記ユーザに提示する情報であって、前記ユーザが前記作業対象機器に気づくことを補助する情報である提示情報を記録している提示情報データベースを参照して、求められた関係性スコアに基づいて提示情報を取得する提示情報制御部と
を備える。
本開示によれば、迷い要因推定部が注目機器群と作業対象機器とに基づいて関係性スコアを求め、提示情報制御部が関係性スコアに基づいて提示情報を取得する。ここで、関係性スコアは関係性を示す値に相当する。従って、本開示によれば、作業しているユーザが注目している注目機器群と、作業対象機器との関係性を示す値に基づいてユーザに提示する情報を決定することにより、作業現場における作業者支援、又は仮想空間等を用いた作業教育等において、ユーザの機器の選択における迷いに応じてユーザに適切に情報を提示することができる。
実施の形態1に係る情報処理装置10の構成例を示す図。 実施の形態1に係る作業手順DB91が格納しているデータを説明する図。 実施の形態1に係る機器DB92が格納しているデータを説明する図。 実施の形態1に係る提示情報DB93が格納しているデータを説明する図。 実施の形態1に係る情報処理装置10のハードウェア構成例を示す図。 実施の形態1に係る情報処理装置10の動作の概要を説明する図。 実施の形態1に係る作業スケジュールの具体例を示す図。 関係性スコアの算出方法を説明する図。 関係性スコアの算出方法を説明する図。 実施の形態1に係る情報処理装置10の動作を示すフローチャート。 実施の形態1の変形例に係る情報処理装置10のハードウェア構成例を示す図。 実施の形態2に係る情報処理装置10の構成例を示す図。 実施の形態3に係る情報処理装置10の構成例を示す図。 実施の形態4に係る情報処理装置10の構成例を示す図。 実施の形態4に係る関係性重みを説明する図。 実施の形態4に係る関係性重みDB94が格納しているデータを説明する図。 実施の形態5に係る情報処理装置10の構成例を示す図。 実施の形態5に係る情報処理装置10の動作を示すフローチャート。 実施の形態5に係る関係性重み更新部70が関係性重みを更新する様子を説明する図であり、(a)は一様な重みを示すテーブルデータ、(b)は機器の種類に応じた重みを示すテーブルデータ。 実施の形態6に係る情報処理装置10の動作を示すフローチャート。
実施の形態の説明及び図面において、同じ要素及び対応する要素には同じ符号を付している。同じ符号が付された要素の説明は、適宜に省略又は簡略化する。図中の矢印はデータの流れ又は処理の流れを主に示している。また、「部」を、「回路」、「工程」、「手順」、「処理」又は「サーキットリー」に適宜読み替えてもよい。
実施の形態1.
以下、本実施の形態について、図面を参照しながら詳細に説明する。
***構成の説明***
図1は、本実施の形態に係る情報処理装置10の構成例を示している。情報処理装置10は、図1に示すように、作業対象検出部20と、迷い要因推定部30と、提示情報制御部40と、作業手順DB91と、機器DB92と、提示情報DB93とを備える。DBはDatabaseの略記である。
作業対象検出部20は、注目機器群を検出し、また、作業対象機器を示す情報を取得する。注目機器群は、作業しているユーザが注目している少なくとも1つの機器から成る。作業対象機器は、ユーザが実施すべき作業に対応する機器である。作業対象機器は、作業スケジュール等に応じて定まる。作業対象機器が2つ以上の機器から成ってもよい。注目機器群に作業対象機器が含まれないこともある。作業対象検出部20は、ユーザが注視している領域に基づいて注目機器群を検出する。当該領域は、視線センサ3が計測したユーザの視線を示すデータに基づいて求められる。作業対象検出部20は、ユーザの作業スケジュールを外部から取得してもよく、ユーザ情報を取得し、取得したユーザ情報に対応する作業スケジュールを情報処理装置10が記録している作業スケジュールから選択してもよい。ユーザ情報はユーザの識別子等を示す情報である。
迷い要因推定部30は、注目機器群に含まれている機器のうち作業対象機器を除いた機器の各々を対象注目機器とし、対象注目機器と作業対象機器との関係性を示すスコアであって、ユーザが対象注目機器と作業対象機器との間で選択に迷う度合いを示すスコアである関係性スコアを求める迷い要因を推定する。迷い要因推定部30は、ユーザが実施すべき作業の内容に基づいて関係性スコアを求めてもよい。また、迷い要因推定部30は、迷い要因ごとに関係性スコアを求める。迷い要因は、ユーザが対象注目機器と作業対象機器との間で選択に迷う要因である。
提示情報制御部40は、迷い要因推定部30によって求められた関係性スコアに基づいて提示情報を取得する。提示情報は、ユーザに提示する情報であって、ユーザが作業対象機器に気づくことを補助する情報である。
作業手順DB91は、作業の順序と、対象機器に対して実施する作業の内容等の各々を示すデータを記録している。図2は、作業手順DB91が格納しているデータを説明する図である。作業手順DB91は、具体例として、手順IDと、手順名と、内容と、作業対象機器IDと、作業IDとの各々を示すデータを格納している。IDはIdentificationの略記である。
手順IDは、作業の各手順を識別する識別子を示す。
手順名は、作業の各手順に与えられた名称を示す。
内容は、作業の各手順において実施される具体的な処理を示す。
作業対象機器IDは、作業の各手順において対象とされる機器の識別子を示す。
作業IDは、各作業を識別する識別子を示す。
機器DB92は、各機器の位置関係と、機器の型名等の各々を示すデータを記録している。各機器の位置関係は、具体例として、3DCAD(3-dimension Computer Aided Design)モデル、又はアセンブリデータにより示される。図3は、機器DB92が格納しているデータを説明する図である。機器DB92は、具体例として、機器IDと、機器種類と、型名と、設置座標との各々を示すデータを格納している。迷い要因推定部30は、機器DB92を参照して機器を検索し、機器の設置座標に基づいて機器間の距離を算出し、算出した距離を用いて関連性スコアを求めてもよい。
機器IDは、各機器を識別する識別子を示す。
機器種類は、各機器の種類を示す。
型名は、各機器の型名を示す。
設置座標は、各機器が設置されている座標を示す。
なお、機器DB92が格納しているデータは、テーブルデータの代わりに3Dのアセンブリデータ等であってもよい。当該アセンブリデータに含まれる機器の座標情報を用いて機器同士の距離を算出すれば、テーブルデータを用いて機器同士の距離を算出した場合と同等の効果が得られる。
図4は、提示情報DB93が格納しているデータを説明する図である。提示情報DB93は、提示情報を記録しており、具体例として、提示情報IDと、機器IDと、提示情報の種類と、提示情報ファイル名との各々を示すデータを格納している。提示情報を記録していることには、ファイル名等の提示情報を指す情報を記録していることが含まれる。
提示情報IDは、ユーザに提示する情報を識別する識別子を示す。
機器IDは、ユーザに提示する情報に対応する機器を識別する識別子を示す。
提示情報の種類は、ユーザに提示する情報の種類を示す。
提示情報ファイル名は、ユーザに提示する情報に対応するファイルの名称を示す。
提示情報制御部40は、最も高い関係性スコアを手掛かりにユーザに提示する情報を提示情報DB93から検索する。具体例として、提示情報DB93内に図4に示すようなテーブルデータがある場合、提示情報制御部40は、テーブルデータを検索し、検索した結果が示すファイルを取得する。なお、関係性スコアに対応する関係性の種類と、提示情報の種類との関係を示すテーブルデータ等が予め用意されているものとする。
情報処理装置10は、視線センサ3と、表示装置5との各々に接続している。情報処理装置10は、視線センサ3と接続せず、視線センサ3が計測したデータを取得してもよい。
視線センサ3は、ユーザの視線を計測するセンサである。視線センサ3は、作業環境に取り付けられたカメラ又は赤外線センサであってもよく、ユーザが身に着けたウェアラブルデバイスに搭載されたものであってもよい。ウェアラブルデバイスは、具体例としてHMD(Head Mounted Display)である。
表示装置5は、LCD(Liquid Crystal Display)等、映像を表示する装置である。
図5は、本実施の形態に係る情報処理装置10のハードウェア構成例を示している。情報処理装置10は、コンピュータから成る。情報処理装置10は、複数のコンピュータから成ってもよい。
情報処理装置10は、図5に示すように、プロセッサ11と、メモリ12と、補助記憶装置13と、入出力IF(Interface)14と、通信装置15等のハードウェアを備えるコンピュータである。これらのハードウェアは、信号線19を介して適宜接続されている。
プロセッサ11は、演算処理を行うIC(Integrated Circuit)であり、かつ、コンピュータが備えるハードウェアを制御する。プロセッサ11は、具体例として、CPU(Central Processing Unit)、DSP(Digital Signal Processor)、又はGPU(Graphics Processing Unit)である。
情報処理装置10は、プロセッサ11を代替する複数のプロセッサを備えてもよい。複数のプロセッサは、プロセッサ11の役割を分担する。
メモリ12は、典型的には、揮発性の記憶装置である。メモリ12は、主記憶装置又はメインメモリとも呼ばれる。メモリ12は、具体例として、RAM(Random Access Memory)である。メモリ12に記憶されたデータは、必要に応じて補助記憶装置13に保存される。
補助記憶装置13は、典型的には、不揮発性の記憶装置である。補助記憶装置13は、具体例として、ROM(Read Only Memory)、HDD(Hard Disk Drive)、又はフラッシュメモリである。補助記憶装置13に記憶されたデータは、必要に応じてメモリ12にロードされる。
メモリ12及び補助記憶装置13は一体的に構成されていてもよい。
入出力IF14は、入力装置及び出力装置が接続されるポートである。入出力IF14は、具体例として、USB(Universal Serial Bus)端子である。入力装置は、具体例として、キーボード及びマウスである。出力装置は、具体例として、ディスプレイである。
通信装置15は、レシーバ及びトランスミッタである。通信装置15は、具体例として、通信チップ又はNIC(Network Interface Card)である。
情報処理装置10の各部は、他の装置等と通信する際に、入出力IF14及び通信装置15を適宜用いてもよい。
補助記憶装置13は、情報処理プログラムを記憶している。情報処理プログラムは、情報処理装置10が備える各部の機能をコンピュータに実現させるプログラムである。情報処理プログラムは、メモリ12にロードされて、プロセッサ11によって実行される。情報処理装置10が備える各部の機能は、ソフトウェアにより実現される。
情報処理プログラムを実行する際に用いられるデータと、情報処理プログラムを実行することによって得られるデータ等は、記憶装置に適宜記憶される。情報処理装置10の各部は、適宜記憶装置を利用する。記憶装置は、具体例として、メモリ12と、補助記憶装置13と、プロセッサ11内のレジスタと、プロセッサ11内のキャッシュメモリとの少なくとも1つから成る。なお、データと、情報とは、同等の意味を有することもある。記憶装置は、コンピュータと独立したものであってもよい。
メモリ12及び補助記憶装置13の機能は、他の記憶装置によって実現されてもよい。
情報処理プログラムは、コンピュータが読み取り可能な不揮発性の記録媒体に記録されていてもよい。不揮発性の記録媒体は、具体例として、光ディスク又はフラッシュメモリである。情報処理プログラムは、プログラムプロダクトとして提供されてもよい。
***動作の説明***
情報処理装置10の動作手順は、情報処理方法に相当する。また、情報処理装置10の動作を実現するプログラムは、情報処理プログラムに相当する。
図6は、情報処理装置10の動作の概要を説明する図である。図6を参照して情報処理装置10の動作の概要を説明する。
まず、作業対象検出部20は、一定期間におけるユーザの視線分布内に含まれる対象機器を抽出する。また、作業対象検出部20は、当日の作業スケジュール又は直前に操作した機器を示す情報等を参照して作業対象機器を示す情報を取得する。ここで、作業対象機器は機器D2であるものの、ユーザは、作業対象機器が機器D1と機器D2とのどちらであるのか選択に迷っているものとする。
次に、迷い要因推定部30は、機器D1と機器D2との関係性を探索する。この際、迷い要因推定部30は、作業手順DB91を参照して、機器D1に関わる手順と機器D2に関わる手順との間における順番の近さ又は処置内容の近さ等を評価してもよい。また、迷い要因推定部30は、機器DB92が示す設計データ又はCADデータ等を参照して、機器D1と機器D2との種類の近さ、又は機器D1と機器D2との物理的な距離の近さ等を評価してもよい。
次に、迷い要因推定部30は、探索した関係性毎に関係の近さを評価する。
次に、提示情報制御部40は、迷い要因推定部30が評価した結果に応じて提示情報を決定する。この際、具体例として、関係性の種類と提示情報の種類との対応関係に関するルールが予め設定されており、提示情報制御部40は、設定されたルールに則り提示情報を決定する。
図7は、作業スケジュールの具体例を示している。作業スケジュールは、具体例として、日付と、開始時刻と、終了時刻と、作業IDと、担当者IDとの各々を示す情報から成る。
日付は、ユーザが作業する日を示す。
開始時刻は、ユーザが作業を開始する時刻を示す。
終了時刻は、ユーザが作業を終了する時刻を示す。
作業IDは、作業を識別する識別子を示す。
担当者IDは、作業を担当するユーザを識別する識別子を示す。
図8は、関係性スコアの算出方法を説明する図である。迷い要因推定部30は、具体例として、作業スケジュールと作業手順DB91とを参照して関係性スコアを求める。
図8において、ユーザが次に実施すべき作業手順である真の作業手順を示す手順IDがSTEP001-0002であり、ユーザが機器P0008に加えて機器P0005にも注目しているものとする。このとき、迷い要因推定部30は、真の作業手順と、機器P0005に関係のある作業手順群との関係性をそれぞれ評価する。この際、迷い要因推定部30は、手順IDを手掛かりに<作業順序の近さ>に基づいて関係性スコアを求めてもよく、<処置内容の近さ>に基づいて関係性スコアを求めてもよい。
以下、関係性の種類である<作業順序の近さ>と<処置内容の近さ>との各々について説明する。
<作業順序の近さ>
<作業順序の近さ>に関する関係性スコアの値が大きい場合、作業順序が近いことが要因でユーザが迷ったと考えられる。
<作業順序の近さ>に関する関係性スコアを算出する方法の具体例を説明する。
まず、迷い要因推定部30は、機器群Aに含まれる各機器の名称等をキーとし、各キーに対応する機器を対象とする作業手順を作業スケジュールから検索する。
次に、迷い要因推定部30は、検索された作業手順の順番と、真の作業手順の順番の近さを探索し、順番が近い程関係性スコアの値が高くなるように関係性スコアを求める。
なお、作業手順DB91がグラフデータベースである場合、作業手順に対応するノード同士間の距離を用いて作業手順同士の近さを計算してもよい。この場合、エッジの属性情報が<作業順序の近さ>等の関係性の種類に相当する。
<処置内容の近さ>
<処置内容の近さ>に関する関係性スコアの値が大きい場合、作業内容の類似が要因でユーザが迷ったと考えられる。
<処置内容の近さ>に関する関係性スコアを算出する方法の具体例を説明する。
まず、迷い要因推定部30は、機器群Aに含まれる各機器の名称等をキーとし、各キーに対応する機器を対象とする作業手順を作業スケジュールから検索する。
次に、迷い要因推定部30は、検索された作業手順文章と、真の作業手順の作業手順文章とを比較し、比較した結果に基づいて関係性スコアを求める。この際、迷い要因推定部30は、Word2Vec等、文章をベクトル化することにより文章同士の距離を比較する方法等を用いる。
図9は、関係性スコアの算出方法を説明する図である。迷い要因推定部30は、具体例として、作業スケジュールと機器DB92とを参照して関係性スコアを求める。
図9において、真の作業手順を示す手順IDがSTEP001-0002であり、ユーザが機器P0008に加えて機器P0005にも注目しているものとする。この際、迷い要因推定部30は、<物理的な距離の近さ>に基づいて関係性スコアを求めてもよく、<特性の近さ>に基づいて関係性スコアを求めてもよい。
以下、関係性の種類である<物理的な距離の近さ>と<特性の近さ>との各々について説明する。
<物理的な距離の近さ>
<物理的な距離の近さ>に関する関係性スコアを算出する方法の具体例を説明する。
迷い要因推定部30は、3DCADデータ又はBIM(Building Information Modeling)等の機器の位置情報が表現されるデータを参照して探索の対象となっている機器同士の距離を計算し、距離が近い程関係性スコアの値が高くなるように関係性スコアを求める。
<特性の近さ>
<特性の近さ>に関する関係性スコアを算出する方法の具体例を説明する。機器の特性は、具体例として、機器の形状、機器の型番、又はこれらの組合せ等である。
迷い要因推定部30は、3Dモデル若しくはBIMデータ等に含まれるプロパティ、又は部品表等を示す情報を参照して機器同士の特性の近さ等を求める。プロパティは、具体例として、機器の型名と、機器の種類とである。機器の種類は、具体例として、ボルト又はブレーキである。迷い要因推定部30は、機器の型名が一致している場合、又は機器の種類が一致している場合等に関係性スコアの値が高くなるように関係性スコアを求める。なお、迷い要因推定部30は、特性の近さを求める際に、Word2Vec等の方法により単語同士の類似度を算出してもよい。
図10は、情報処理装置10の動作の一例を示すフローチャートである。図10を参照して情報処理装置10の動作を説明する。
(ステップS101)
作業対象検出部20は、視線センサ3が計測したデータに基づいて、ユーザが注目している機器群Aを検出する。機器群Aは注目機器群に当たる。機器群Aを検出する方法は、具体例として、一定期間内に取得されたユーザの目線画像と、ユーザの視点位置情報とを用いてユーザの視線分布を作成し、作成した視線分布の内部に含まれる機器を機器群Aとして検出する方法である。ユーザの視点位置は、具体例として、ユーザの眼球の黒目位置を、カメラで撮影すること又は赤外線センサ等で検出することにより取得される。
(ステップS102)
作業対象検出部20は、作業スケジュールを参照して、ユーザが実施すべき真の作業内容と作業対象機器Bとの各々を示す情報を取得する。
なお、真の作業内容と作業対象機器Bとの各々を示す情報は、当日の作業スケジュール、又はユーザが入力した作業の完了情報等を参照することにより得られる。また、作業対象検出部20は、ユーザの動作データに基づいて作業内容と作業対象機器Bとを推定してもよい。
(ステップS103)
迷い要因推定部30は、機器群Aが作業対象機器Bのみから成るか否かを判定する。
機器群Aが作業対象機器Bのみから成る場合、ユーザが迷っていないと考えられるため情報処理装置10は本フローチャートの処理を終了する。それ以外の場合、情報処理装置10はステップS104に進む。
なお、ステップS104以下において、迷い要因推定部30は、機器群Aに作業対象機器Bが含まれている場合に機器群Aに含まれる各機器についての関係性を探索し、それ以外の場合に機器群Aに含まれる各機器と作業対象機器Bとについての関係性を探索する。
(ステップS104)
迷い要因推定部30は、作業手順DB91と機器DB92とを参照して、機器群Aに含まれる機器のうち作業対象機器Bを除く各機器と、作業対象機器Bとの関係を探索する。この際、迷い要因推定部30は関係性スコアを算出する。
(ステップS105)
提示情報制御部40は、迷い要因推定部30が算出した関係性スコアを参照して最も近い関係性Cを抽出する。
図6に示す例において、<特性の近さ>に対応する関係性スコアが最も高い。そのため、提示情報制御部40は、関係性Cとして<特性の近さ>を抽出する。
(ステップS106)
提示情報制御部40は、機器群Aと、作業対象機器Bと、関係性Cとに基づいて提示情報の種類を選び、提示情報DB93を参照して選んだ提示情報の種類に応じた提示情報Dを取得する。この際、提示情報制御部40は、関係性の種類と提示情報の種類との対応関係を示す情報を参照する。
図6に示す例において、<特性の近さ>に対応する提示情報の種類は、「型名情報+図面」である。そのため、提示情報制御部40は、提示情報Dとして、作業対象機器の型名情報と図面との各々を示すデータを取得する。
(ステップS107)
提示情報制御部40は、ステップS106において取得した提示情報Dを表示装置5に表示する。
***実施の形態1の効果の説明***
以上のように、本実施の形態によれば、ユーザが注目している機器を抽出し、作業手順又は機器情報等を参照して抽出した機器と作業対象機器との関係性の種類及び関係性の近さをそれぞれ算出し、算出した結果に応じて情報をユーザに提示する。そのため、本実施の形態によれば、膨大な紐付け作業を実施することなく、作業対象機器と他の機器との間で選択に迷っているユーザに対して適切な情報を提示することができる。
***他の構成***
<変形例1>
図11は、本変形例に係る情報処理装置10のハードウェア構成例を示している。
情報処理装置10は、プロセッサ11、プロセッサ11とメモリ12、プロセッサ11と補助記憶装置13、あるいはプロセッサ11とメモリ12と補助記憶装置13とに代えて、処理回路18を備える。
処理回路18は、情報処理装置10が備える各部の少なくとも一部を実現するハードウェアである。
処理回路18は、専用のハードウェアであってもよく、また、メモリ12に格納されるプログラムを実行するプロセッサであってもよい。
処理回路18が専用のハードウェアである場合、処理回路18は、具体例として、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)又はこれらの組み合わせである。
情報処理装置10は、処理回路18を代替する複数の処理回路を備えてもよい。複数の処理回路は、処理回路18の役割を分担する。
情報処理装置10において、一部の機能が専用のハードウェアによって実現されて、残りの機能がソフトウェア又はファームウェアによって実現されてもよい。
処理回路18は、具体例として、ハードウェア、ソフトウェア、ファームウェア、又はこれらの組み合わせにより実現される。
プロセッサ11とメモリ12と補助記憶装置13と処理回路18とを、総称して「プロセッシングサーキットリー」という。つまり、情報処理装置10の各機能構成要素の機能は、プロセッシングサーキットリーにより実現される。
他の実施の形態に係る情報処理装置10についても、本変形例と同様の構成であってもよい。
実施の形態2.
以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
***構成の説明***
図12は、本実施の形態に係る情報処理装置10の構成例を示している。情報処理装置10は手指関節センサ4に接続している。情報処理装置10は、手指関節センサ4と接続せず、手指関節センサ4が計測したデータを取得してもよい。
本実施の形態に係る情報処理装置10と、実施の形態1に係る情報処理装置10との間の主な差異は、作業対象検出部20が、ユーザの手指の関節の位置に基づいて注目機器群を検出することである。
***動作の説明***
以下、本実施の形態に係る情報処理装置10の動作のうち、実施の形態1に係る情報処理装置10の動作と異なる動作を主に説明する。
(ステップS101)
本ステップは、実施の形態1に係るステップS101と同様である。ただし、作業対象検出部20は、視線センサ3が計測したデータの代わりに、手指関節センサ4が計測したデータを用いる。
***実施の形態2の効果の説明***
以上のように、本実施の形態によれば、視線位置を取得するセンサの代わりに手指関節位置を取得するセンサを用いることにより、実施の形態1に係る効果と同様の効果を奏する。
***他の構成***
<変形例2>
ステップS101において、作業対象検出部20は、視線センサ3が計測したデータと、手指関節センサ4が計測したデータとの双方を用いてもよい。
実施の形態3.
以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
***構成の説明***
図13は、本実施の形態に係る情報処理装置10の構成例を示している。情報処理装置10は、視線センサ3と手指関節センサ4との双方に接続している。
本実施の形態に係る情報処理装置10と、実施の形態1に係る情報処理装置10との間の主な差異は、作業対象検出部20が、ユーザが注視している領域と、ユーザの手指の関節の位置との双方に基づいて注目機器群を検出することである。
***動作の説明***
以下、本実施の形態に係る情報処理装置10の動作のうち、実施の形態1に係る情報処理装置10の動作と異なる動作を主に説明する。
(ステップS101)
本ステップは、実施の形態1に係るステップS101と同様である。ただし、作業対象検出部20は、視線センサ3が計測したデータと、手指関節センサ4が計測したデータとに基づいてユーザが注目している機器群Aを検出する。
(ステップS102)
本ステップは、実施の形態1に係るステップS102と同様である。ただし、機器群Aに作業対象機器Bを含む複数の機器が含まれている場合、かつ、ユーザの手指が作業対象機器Bに近い位置で滞留している場合において、作業対象検出部20は、ユーザが迷っていないと判定し、機器群Aに含まれる機器であって、作業対象機器B以外の機器を機器群Aから除外する。
***実施の形態3の効果の説明***
ユーザの視線を示すデータのみを用いる場合、ユーザが実際には迷っていなくても“ユーザが迷っている”と誤検出することがある。しかしながら、本実施の形態によれば、ユーザの視線と手指関節の位置とを併せて利用することにより誤検出を回避することができる。その結果、本実施の形態によればより適切な情報をユーザに提示することができる。
実施の形態4.
以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
***構成の説明***
図14は、本実施の形態に係る情報処理装置10の構成例を示している。
本実施の形態に係る情報処理装置10は、実施の形態1に係る情報処理装置10が備える構成要素に加え、ユーザ情報取得部50と、関係性重み取得部60と、関係性重みDB94とを備える。また、情報処理装置10は、センサ2と、入力装置7との各々と接続している。
ユーザ情報取得部50は、ユーザ情報を取得する。
関係性重み取得部60は、関係性重みDB94から関係性重みを適宜取得する。関係性重みは、関係性スコアを算出する際の重みパラメータであり、注目機器群に含まれている機器のうち作業対象機器を除いた機器の各々と作業対象機器との間に定義された重みである。重みパラメータの値は機器の組合せ毎に設定される。重みパラメータの値はユーザの属性に基づいて設定されてもよい。ユーザの属性は、具体例として、ユーザの勤続年数と、ユーザの過去の作業ミス履歴である。
なお、2つの機器間に複数種類の関係性がある場合において、当該2つの機器の組合せに対応する重みパラメータは、当該複数種類の関係性の各関係性について用意されていてもよい。図15は、2つの機器間に複数種類の関係性がある場合における関係性重みを説明する図である。図15において、機器D1と機器D2との組合せに対応する重みパラメータであって、各関係性についての重みパラメータが示されている。WD1D2-aは物理的な距離についての重みパラメータを示しており、WD1D2-bは作業手順の近さについての重みパラメータを示しており、WD1D2-cは特性の近さについての重みパラメータを示している。また、具体例として、作業対象機器である機器D1と、作業対象機器ではない機器D2との関係性スコアを算出する場合において、機器D1と機器D2とに対応する重みパラメータであって、作業手順の近さに関する重みパラメータが0.8とする。このとき、機器D1と機器D2とに対応する関係性スコアであって、作業手順の近さに関する関係性スコアの値は、機器D1と機器D2との組合せについての作業手順の近さに関する関係性重みを用いずに求めた関係性スコアの値の0.8倍となる。
迷い要因推定部30は、関係性重みを用いて関係性スコアを求める。
センサ2は、視線センサ3と、手指関節センサ4との総称である。
入力装置7は、キーボード等の入力装置である。
関係性重みDB94は、関係性重みを記録しているデータベースである。
図16は、関係性重みDB94を説明する図である。図16において、行方向は作業対象機器を示しており、列方向は作業対象機器以外の機器のうち、ユーザが注目している機器を示している。具体例として、ユーザごとに図16に示すようなデータが用意されている。なお、関係性の種類ごとに図16に示すようなデータが用意されていてもよい。
***動作の説明***
以下、本実施の形態に係る情報処理装置10の動作のうち、実施の形態1に係る情報処理装置10の動作と異なる動作を主に説明する。
(ステップS104)
本ステップは、実施の形態1に係るステップS104と同様である。ただし、迷い要因推定部30は、関係性スコアを算出する際に、関係性重みDB94を参照し、算出する関係性スコアに対応する機器に対応する関係性重みを用いる。この際、迷い要因推定部30は、入力装置7からユーザ情報を取得し、取得したユーザ情報に紐づく重みパラメータを関係性重みDB94からユーザ取得する。
***実施の形態4の効果の説明***
以上のように、本実施の形態によれば、各ユーザの特徴に合った関係性重みを用いて迷い要因を推定することにより、より適切な情報をユーザに提示することができる。
実施の形態5.
以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
***構成の説明***
図17は、本実施の形態に係る情報処理装置10の構成例を示している。
本実施の形態に係る情報処理装置10は、実施の形態4に係る情報処理装置10が備える構成要素に加え、関係性重み更新部70を備える。
関係性重み更新部70は、提示情報制御部40によって取得された提示情報に対応する迷い要因の正誤に基づいて関係性重みDB94に記録されている関係性重みを更新する。
***動作の説明***
図18は、本実施の形態に係る情報処理装置10の動作の一例を示すフローチャートである。図18を参照して情報処理装置10の動作を説明する。なお、ステップS101からステップS106については前述の通りである。
(ステップS507)
提示情報制御部40は、ステップS106において取得した提示情報Dと、ステップS105において抽出した関係性Cに対応する迷い要因を示す情報とを表示装置5に表示する。
(ステップS508)
ユーザは、表示装置5に表示された迷い要因の正誤を判定し、判定した結果を入力装置7に入力する。
関係性重み更新部70は、表示装置5に表示された迷い要因の正誤を判定した結果を示す情報を受け取り、受け取った情報に基づいて関係性重みDB94に記録されている関係性重みを更新する。具体例として、ユーザが機器D1と機器D2とについて<特性の近さ>に関する関係性で迷っていると迷い要因推定部30が推定した結果が誤っていた場合を考える。このとき、関係性重み更新部70が機器D1と機器D2とについての当該関係性に紐づく重みパラメータの値をより小さな値に更新することにより、機器D1と機器D2とについての当該関係性に対応する関係性スコアの値がより小さくなるようにする。本例において、図15に示すWD1D2-cの値がより小さな値に更新される。
図19は、関係性重み更新部70が関係性重みを更新する様子を説明する図である。具体例として、初期段階において(a)に示すような関係性重みが設定されている。その後、関係性重み更新部70が関係性重みを更新すると、関係性重みは(b)に示すようになる。
***実施の形態5の効果の説明***
以上のように、本実施の形態によれば、関係性重み更新部70が関係性重みを更新することにより、ユーザの成長等により作業中に発生する迷いの傾向が変化した場合において、より適切な情報をユーザに提示することができる。
実施の形態6.
以下、主に前述した実施の形態と異なる点について、図面を参照しながら説明する。
***構成の説明***
本実施の形態に係る情報処理装置10は、実施の形態5に係る情報処理装置10と同様である。
本実施の形態に係る提示情報制御部40は、提示情報DB93から関係性スコアの高さに応じて複数の提示情報を取得する。また、提示情報制御部40によって取得された複数の提示情報の各々は、取得された複数の提示情報の各々に対応する関係性スコアが高い順に表示装置5に表示される。
***動作の説明***
図20は、本実施の形態に係る情報処理装置10の動作の一例を示すフローチャートである。図20を参照して情報処理装置10の動作を説明する。なお、ステップS101からステップS104については前述の通りである。
(ステップS605)
提示情報制御部40は、関係性スコアの値が相対的に大きい関係性から成る関係性群C’を抽出する。提示情報制御部40は、各関係性を関係性群C’に含めるか否かをどのように決めてもよい。
(ステップS606)
提示情報制御部40は、機器群Aと、作業対象機器Bと、関係性群C’とに基づいて、提示情報DB93から提示情報群D’を取得する。
(ステップS607)
まず、提示情報制御部40は、提示情報群D’に含まれている各提示情報に紐づく関係性スコアの値を確認し、確認した関係性スコアの値の中で最も大きな関係性スコアの値に紐づく提示情報を提示情報Dとして選択する。この際、提示情報制御部40は、各提示情報に紐づく関係性スコアの値の大きさに応じて提示情報群D’に含まれている提示情報をソートしてもよい。
次に、提示情報制御部40は、提示情報Dと、提示情報Dに紐づく関係性に対応する迷い要因を示す情報とを表示装置5に表示する。
(ステップS608)
ユーザは、表示装置5に表示された迷い要因の正誤を判定し、判定した結果を入力装置7に入力する。
関係性重み更新部70は、迷い要因の正誤を示す情報を取得する。
(ステップS609)
ステップS608において関係性重み更新部70が取得した情報が正しいことを示す場合、情報処理装置10はステップS611に進む。それ以外の場合、情報処理装置10はステップS610に進む。
(ステップS610)
本ステップはステップS607と同様である。ただし、提示情報制御部40は、提示情報群D’の代わりに、提示情報群D’に含まれている提示情報の内、本フローチャートの処理においてまだ提示情報Dとして選択されていない提示情報から成る提示情報群に含まれている提示情報から提示情報Dを選択する。また、提示情報制御部40は、提示情報Dを選択する際にステップS607において関係性スコアの値を確認した結果を活用してもよい。
(ステップS611)
本ステップはステップS508と同様である。ただし、関係性重み更新部70は、複数の迷い要因の各々についての正誤を判定した結果を示す情報を受け取る場合がある。この場合において、受け取った情報全てに基づいて関係性重みDB94に記録されている関係性重みを更新してもよい。
***実施の形態6の効果の説明***
以上のように、本実施の形態によれば、迷い要因の正誤に基づいて関係性重み更新部70が関係性重みを更新することにより適切な情報をユーザに提示することができる確率が高まる。
***他の実施の形態***
前述した各実施の形態の自由な組み合わせ、あるいは各実施の形態の任意の構成要素の変形、もしくは各実施の形態において任意の構成要素の省略が可能である。
また、実施の形態は、実施の形態1から6で示したものに限定されるものではなく、必要に応じて種々の変更が可能である。フローチャート等を用いて説明した手順は、適宜変更されてもよい。
2 センサ、3 視線センサ、4 手指関節センサ、5 表示装置、7 入力装置、10 情報処理装置、11 プロセッサ、12 メモリ、13 補助記憶装置、14 入出力IF、15 通信装置、18 処理回路、19 信号線、20 作業対象検出部、30 迷い要因推定部、40 提示情報制御部、50 ユーザ情報取得部、60 関係性重み取得部、70 関係性重み更新部、91 作業手順DB、92 機器DB、93 提示情報DB、94 関係性重みDB。

Claims (9)

  1. 作業しているユーザが注目している少なくとも1つの機器から成る注目機器群を検出する作業対象検出部と、
    前記注目機器群に含まれている機器のうち前記ユーザが実施すべき作業に対応する機器である作業対象機器を除いた機器の各々を対象注目機器とし、前記対象注目機器と前記作業対象機器との関係性を示すスコアであって、前記ユーザが前記対象注目機器と前記作業対象機器との間で選択に迷う度合いを示すスコアである関係性スコアを求める迷い要因推定部と、
    前記ユーザに提示する情報であって、前記ユーザが前記作業対象機器に気づくことを補助する情報である提示情報を記録している提示情報データベースを参照して、求められた関係性スコアに基づいて提示情報を取得する提示情報制御部と
    を備える情報処理装置。
  2. 前記作業対象検出部は、前記ユーザが注視している領域に基づいて前記注目機器群を検出する請求項1に記載の情報処理装置。
  3. 前記作業対象検出部は、前記ユーザの手指の関節の位置に基づいて前記注目機器群を検出する請求項1又は2に記載の情報処理装置。
  4. 前記迷い要因推定部は、前記ユーザが実施すべき作業の内容に基づいて前記関係性スコアを求める請求項1から3のいずれか1項に記載の情報処理装置。
  5. 前記迷い要因推定部は、前記注目機器群に含まれている機器のうち前記作業対象機器を除いた機器の各々と前記作業対象機器との間に定義された重みである関係性重みを用いて前記関係性スコアを求める請求項1から4のいずれか1項に記載の情報処理装置。
  6. 前記迷い要因推定部は、前記ユーザが前記対象注目機器と前記作業対象機器との間で選択に迷う要因である迷い要因ごとに前記関係性スコアを求め、
    前記情報処理装置は、さらに、
    取得された提示情報に対応する迷い要因の正誤に基づいて前記関係性重みを更新する関係性重み更新部
    を備える請求項5に記載の情報処理装置。
  7. 前記提示情報制御部は、前記提示情報データベースを参照して前記関係性スコアの高さに応じて複数の提示情報を取得し、
    取得された複数の提示情報の各々は、前記取得された複数の提示情報の各々に対応する関係性スコアが高い順に表示装置に表示される請求項6に記載の情報処理装置。
  8. コンピュータが、作業しているユーザが注目している少なくとも1つの機器から成る注目機器群を検出し、
    前記コンピュータが、前記注目機器群に含まれている機器のうち前記ユーザが実施すべき作業に対応する機器である作業対象機器を除いた機器の各々を対象注目機器とし、前記対象注目機器と前記作業対象機器との関係性を示すスコアであって、前記ユーザが前記対象注目機器と前記作業対象機器との間で選択に迷う度合いを示すスコアである関係性スコアを求め、
    前記コンピュータが、前記ユーザに提示する情報であって、前記ユーザが前記作業対象機器に気づくことを補助する情報である提示情報を記録している提示情報データベースを参照して、求められた関係性スコアに基づいて提示情報を取得する情報処理方法。
  9. 作業しているユーザが注目している少なくとも1つの機器から成る注目機器群を検出する作業対象検出処理と、
    前記注目機器群に含まれている機器のうち前記ユーザが実施すべき作業に対応する機器である作業対象機器を除いた機器の各々を対象注目機器とし、前記対象注目機器と前記作業対象機器との関係性を示すスコアであって、前記ユーザが前記対象注目機器と前記作業対象機器との間で選択に迷う度合いを示すスコアである関係性スコアを求める迷い要因推定処理と、
    前記ユーザに提示する情報であって、前記ユーザが前記作業対象機器に気づくことを補助する情報である提示情報を記録している提示情報データベースを参照して、求められた関係性スコアに基づいて提示情報を取得する提示情報制御処理と
    をコンピュータである情報処理装置に実行させる情報処理プログラム。
JP2023550311A 2021-10-25 2021-10-25 情報処理装置、情報処理方法、及び、情報処理プログラム Active JP7374396B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2021/039343 WO2023073775A1 (ja) 2021-10-25 2021-10-25 情報処理装置、情報処理方法、及び、情報処理プログラム

Publications (3)

Publication Number Publication Date
JPWO2023073775A1 JPWO2023073775A1 (ja) 2023-05-04
JPWO2023073775A5 JPWO2023073775A5 (ja) 2023-10-26
JP7374396B2 true JP7374396B2 (ja) 2023-11-06

Family

ID=86157499

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2023550311A Active JP7374396B2 (ja) 2021-10-25 2021-10-25 情報処理装置、情報処理方法、及び、情報処理プログラム

Country Status (5)

Country Link
US (1) US20240203278A1 (ja)
JP (1) JP7374396B2 (ja)
CN (1) CN118140197A (ja)
DE (1) DE112021008145T5 (ja)
WO (1) WO2023073775A1 (ja)

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017158718A1 (ja) 2016-03-15 2017-09-21 三菱電機株式会社 遠隔作業支援装置、指示用端末及び現場用端末

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008009613A (ja) * 2006-06-28 2008-01-17 Matsushita Electric Ind Co Ltd ガイダンス表示装置
JP5787099B2 (ja) * 2012-11-06 2015-09-30 コニカミノルタ株式会社 案内情報表示装置
JP6733461B2 (ja) 2016-09-28 2020-07-29 沖電気工業株式会社 情報処理装置および情報処理方法

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2017158718A1 (ja) 2016-03-15 2017-09-21 三菱電機株式会社 遠隔作業支援装置、指示用端末及び現場用端末

Also Published As

Publication number Publication date
US20240203278A1 (en) 2024-06-20
JPWO2023073775A1 (ja) 2023-05-04
WO2023073775A1 (ja) 2023-05-04
DE112021008145T5 (de) 2024-06-13
CN118140197A (zh) 2024-06-04

Similar Documents

Publication Publication Date Title
JP5317716B2 (ja) 情報処理装置および情報処理方法
JP7272278B2 (ja) 情報処理装置、情報処理方法及びプログラム
JP5060097B2 (ja) 医用レポート作成システム、医用レポート作成方法
JP2013198817A (ja) 情報処理装置、情報処理方法、プログラムおよび記憶媒体
JP2017099907A (ja) 診断支援装置および診断支援方法
JP7236694B2 (ja) 情報処理方法、及び情報処理システム
EP4156089A1 (en) Method, device and system for automated processing of medical images to output alerts for detected dissimilarities
CN112990625A (zh) 标注任务的分配方法、装置及服务器
JP3978962B2 (ja) 情報検索方法および情報検索装置
JP7374396B2 (ja) 情報処理装置、情報処理方法、及び、情報処理プログラム
CN111338466B (zh) 控制虚拟现实显示单元的方法和装置
EP4207094A2 (en) Method of learning a target object by detecting an edge from a digital model of the target object and setting sample points, and method of augmenting a virtual model on a real object implementing the target object using the learning method
JP2020204812A5 (ja)
WO2022162844A1 (ja) 作業推定装置、作業推定方法、及び、作業推定プログラム
JP6700146B2 (ja) 評価値に基づいて推奨するコンテンツを決定するシステム
JP6641456B2 (ja) 計算機システム及びデータの分類方法
JP6604032B2 (ja) 評価支援装置、評価支援プログラム及び評価支援システム
JPWO2020085374A1 (ja) 熟練指数提供装置、熟練指数提供方法、及びプログラム
KR102665091B1 (ko) 의료 정보 처리 장치 및 방법
US20200042794A1 (en) Information processing method and information processing system
JP6293293B2 (ja) マルチセンサ計測装置のルーティンを確立する方法
JP2019164515A (ja) 文書改善箇所抽出装置、文書改善箇所抽出方法、及びプログラム
US11354007B2 (en) Diagram based visual procedure note writing tool
JP2002230527A (ja) 立体情報取得装置および立体情報取得方法ならびに立体情報取得プログラムを記録したコンピュータリーダブル記録媒体
WO2023105698A1 (ja) 情報提供装置、情報提供方法及び情報提供プログラム

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20230821

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20230821

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20230821

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20231024

R150 Certificate of patent or registration of utility model

Ref document number: 7374396

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150