JP7278152B2 - ソフトウェア操作支援システム - Google Patents

ソフトウェア操作支援システム Download PDF

Info

Publication number
JP7278152B2
JP7278152B2 JP2019103860A JP2019103860A JP7278152B2 JP 7278152 B2 JP7278152 B2 JP 7278152B2 JP 2019103860 A JP2019103860 A JP 2019103860A JP 2019103860 A JP2019103860 A JP 2019103860A JP 7278152 B2 JP7278152 B2 JP 7278152B2
Authority
JP
Japan
Prior art keywords
display
cursor
display device
software
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2019103860A
Other languages
English (en)
Other versions
JP2020197932A (ja
Inventor
七瀬 浅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mitsubishi Electric Corp
Original Assignee
Mitsubishi Electric Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mitsubishi Electric Corp filed Critical Mitsubishi Electric Corp
Priority to JP2019103860A priority Critical patent/JP7278152B2/ja
Publication of JP2020197932A publication Critical patent/JP2020197932A/ja
Application granted granted Critical
Publication of JP7278152B2 publication Critical patent/JP7278152B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Controls And Circuits For Display Device (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、ソフトウェア操作支援システムに関する。
従来、ソフトウェア操作支援システムが知られている。たとえば、特開2013-200440号公報(特許文献1)には、ガイド画面による操作支援が可能な映像表示装置が開示されている。当該映像表示装置によれば、操作者の視点から、視点が静止した位置の通常画面の情報に関連付けられた補助情報を、通常画面に重ね合わせて補助画面として表示できるため、操作者は補助情報を操作の際に映像表示部にて確認することができる。
特開2013-200440号公報
特許文献1においては、視線解析カメラから取り込んだ目線映像を判別して、操作者の視点であるアイポインタの静止位置にガイド情報が表示される。アイポインタの静止位置がマウスのカーソルの位置と異なり得るため、ガイド情報を参照しながら操作者がマウスを操作すると、マウスへのクリック操作によって選択されるGUI(Graphical User Interface)の情報とは異なる情報に基づいてソフトウェアが操作され得る。その結果、ソフトウェアを用いる作業の効率が低下し得る。
本発明は、上述のような課題を解決するためになされたものであり、その目的は、ソフトウェアを用いる作業の効率を向上させることである。
本発明に係るソフトウェア操作支援システムは、計算装置と、第1表示装置と、第2表示装置と、操作装置とを備える。計算装置は、複数のグラフィカルユーザインタフェース(GUI)へのユーザの入力を介して操作されるソフトウェアを実行する。第1表示装置は、複数のGUIおよびカーソルを表示する。操作装置は、第1表示装置の表示領域内においてカーソルを操作する。第2表示装置は、複数のGUIのうちカーソルの座標を含む特定GUIがクリックされた場合に実行される機能内容を表示する。計算装置は、カーソルの座標が特定GUIに含まれることに応じて特定GUIがクリックされた場合に実行される機能内容を第2表示装置に表示する。計算装置は、操作装置に対するユーザのクリック操作に応じて特定GUIの機能を実行する。第2表示装置は、第1表示装置の表示領域に重なるように特定GUIがクリックされた場合に実行される機能内容を表示可能である。
本発明によれば、第2表示装置が第1表示装置の表示領域に重なるように特定GUIの機能に関する情報を表示可能であることにより、ソフトウェアを用いる作業の効率を向上させることができる。
実施の形態に係るソフトウェア操作支援システムをユーザが操作している様子を示す図である。 図1のソフトウェア操作支援システムの構成を示す機能ブロック図である。 特定GUIの機能に関する情報がARメガネによって表示領域に重なるように表示される様子を説明するための図である。
以下、本発明の実施の形態について、図面を参照しながら詳細に説明する。なお、図中同一または相当部分には同一符号を付してその説明は原則として繰り返さない。
図1は、実施の形態に係るソフトウェア操作支援システム1をユーザUsが操作している様子を示す図である。図1に示されるように、ソフトウェア操作支援システム1は、ディスプレイ11(第1表示装置)と、AR(Augmented Reality)メガネ12(第2表示装置)と、マウス20(操作装置)と、計算装置30とを備える。図1においては、ユーザUsがARメガネ12を装着して、ディスプレイ11を見ながらマウス20を操作している様子が示されている。
計算装置30は、複数のGUI(Graphical User Interface)へのユーザUsの入力を介して操作されるソフトウェアを実行する。当該ソフトウェアは、たとえば電力系統の監視制御ソフトウェアである。ディスプレイ11の表示領域Rgには、当該ソフトウェアの複数のGUIに含まれるボタンBn1~Bn4、およびカーソルCrが表示されている。カーソルCrは、たとえば矢印の画像である。マウス20は、表示領域Rg内においてカーソルCrを操作する。マウス20は、作業平面(たとえば不図示の机)の上に置かれている。ユーザは、マウス20を作業平面上で移動させることによりカーソルCrの位置を変えることができる。ユーザは、マウス20へのクリック操作によって、表示領域Rg内のGUIを選択することができる。クリック操作としては、たとえばマウス20へのシングルクリックおよびダブルクリックを挙げることができる。
図2は、図1のソフトウェア操作支援システム1の構成を示す機能ブロック図である。図2に示されるように、計算装置30は、制御部31と、メモリ32(記憶部)とを含む。制御部31は、処理回路を含む。処理回路は、専用のハードウェアであってもよいし、メモリ32に格納されるプログラムを実行するCPU(Central Processing Unit)であってもよい。処理回路が専用のハードウェアである場合、処理回路は、たとえば、単一回路、複合回路、プログラム化されたプロセッサ、並列プログラム化されたプロセッサ、ASIC(Application Specific Integrated Circuit)、FPGA(Field Programmable Gate Array)、あるいはこれらを組み合わせたものが該当する。処理回路がCPUの場合、制御部31の機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアあるいはファームウェアはプログラムとして記述され、メモリ32に格納される。処理回路は、メモリに記憶されたプログラムを読み出して実行する。なお、CPUは、中央処理装置、処理装置、演算装置、マイクロプロセッサ、マイクロコンピュータ、プロセッサ、あるいはDSP(Digital Signal Processor)とも呼ばれる。
メモリ32には、不揮発性または揮発性の半導体メモリ(たとえばRAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ、EPROM(Erasable Programmable Read Only Memory)、あるいはEEPROM(Electrically Erasable Programmable Read Only Memory))、および磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、あるいはDVD(Digital Versatile Disc)が含まれる。
メモリ32には、画面情報321(第1データ)と、座標情報322(第2データ)と、詳細情報323(第3データ)とが互いに別個にモジュール化されて保存されている。画面情報321は、複数のGUI各々の配置に関する情報を含む。画面情報321においては、たとえば複数のGUI各々のID、当該GUIの画像、および当該GUIが表示される領域が関連付けられている。
座標情報322は、カーソルCrの座標に関する情報を含む。座標情報322においては、たとえばマウス20の作業平面上の座標と表示領域Rg内のカーソルCrの座標とが関連付けられている。カーソルCrの座標とは、たとえばカーソルCrの先端P1の座標である。
詳細情報323は、複数のGUI各々の機能に関する情報を含む。詳細情報323においては、たとえば複数のGUI各々のIDと当該GUIの機能に関する情報とが関連付けられている。
制御部31は、マウス20の位置に関する情報をマウス20から受ける。制御部31は、座標情報322を参照してマウス20の座標に関連付けられているカーソルCrの座標を特定する。制御部31は、画面情報321を参照してカーソルCrの座標がディスプレイ11に表示されているGUIに含まれているか否かを判定する。制御部31は、カーソルCrの座標が当該GUIに重なっていることに応じて、詳細情報323を参照して当該GUIの機能に関する情報をARメガネ12に送信する。
ARメガネ12は、レンズ121および122を含む。レンズ121および122は、可視光を透過させる透過性ディスプレイ120を形成している。ARメガネ12は、制御部31から受けたGUIの機能に関する情報を透過性ディスプレイ120に表示する。
なお、制御部31とディスプレイ11との通信は、有線通信および無線通信のいずれであってもよい。制御部31とARメガネ12との通信は、有線通信および無線通信のいずれであってもよい。制御部31とマウス20との通信は、有線通信および無線通信のいずれであってもよい。
図3は、ボタンBn1(特定GUI)の機能に関する情報がARメガネ12によって表示領域Rgに重なるように表示される様子を説明するための図である。図3(a)は、ディスプレイ11の表示領域Rgを示す。図3(b)は、ARメガネ12を装着しているユーザから見た透過性ディスプレイ120の様子を示す。図3(c)は、当該ユーザがディスプレイ11を見た様子を示す図である。
図3(a)に示されるように、表示領域Rgにおいて、カーソルCrの座標がボタンBn1に含まれている。図3(b)に示されるように、ARメガネ12の透過性ディスプレイ120には、ボタンBn1の機能に関する情報Msgが表示されている。図3(b)において情報Msgには、ボタンBn1の名称、およびボタンBn1がクリックされた場合に実行される機能内容が示されている。図3(c)に示されるように、情報Msgが表示領域Rgに重なるように表示されている。ユーザは、表示領域Rgを見ながら表示領域Rg内において情報Msgを視認可能である。
ソフトウェア操作支援システム1によれば、ユーザUsは、カーソルCrの位置に配置されているGUIの機能に関するガイド情報をリアルタイムに参照しながらソフトウェアを操作することができるため、ガイド情報とユーザUsの実際のマウス操作との食い違いによる操作ミスを低減することができる。その結果、ソフトウェアを用いた作業の効率を向上させることができる。また、ソフトウェアの操作に対する習熟度が比較的低いユーザの操作ミスを低減することができるともに、当該ユーザのソフトェアに対する習熟を促進することができる。
さらに、画面情報321と、座標情報322と、詳細情報323とが互い別個のデータとしてモジュール化されていることにより、既存のソフトウェア操作支援システムのバージョンアップとして画面情報321および座標情報322に詳細情報323を追加する場合に、画面情報321および座標情報322の変更が不要である。その結果、システム改変による不具合発生のリスクを低減することができるとともに、システム改変のコストを削減することができる。
なお、実施の形態に係る第2表示装置は、ARメガネに限定されず、第1表示装置の表示領域に重なるようにGUIの機能に関する情報を表示可能であればどのような構成でもよい。たとえば、第2表示装置は、第1表示装置の表示領域に重なるように映像を投影することが可能なプロジェクタでもよい。
以上、実施の形態に係るソフトウェア操作支援システムによれば、ソフトウェアを用いる作業の効率を向上させることができる。
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
1 ソフトウェア操作支援システム、11 ディスプレイ、12 ARメガネ、20 マウス、30 計算装置、31 制御部、32 メモリ、120 透過性ディスプレイ、121,122 レンズ、321 画面情報、322 座標情報、323 詳細情報、Bn1~Bn4 ボタン。

Claims (4)

  1. 複数のグラフィカルユーザインタフェース(GUI)へのユーザの入力を介して操作されるソフトウェアを実行する計算装置と、
    前記複数のGUIおよびカーソルを表示する第1表示装置と、
    前記第1表示装置の表示領域内において前記カーソルを操作する操作装置と、
    前記複数のGUIのうち前記カーソルの座標を含む特定GUIがクリックされた場合に実行される機能内容を表示する第2表示装置とを備え、
    前記計算装置は、
    前記カーソルの座標が前記特定GUIに含まれることに応じて前記機能内容を前記第2表示装置に表示し、
    前記操作装置に対する前記ユーザのクリック操作に応じて、前記カーソルの座標が含まれる機能を実行し、
    前記第2表示装置は、前記第1表示装置の表示領域に重なるように前記機能内容を表示可能である、ソフトウェア操作支援システム。
  2. 前記第2表示装置は、可視光を透過させる透過性ディスプレイを含み、前記透過性ディスプレイに前記機能内容を表示する、請求項1に記載のソフトウェア操作支援システム。
  3. 前記第2表示装置は、メガネとして装着可能であり、
    前記メガネのレンズは、前記透過性ディスプレイを形成している、請求項2に記載のソフトウェア操作支援システム。
  4. 前記計算装置は、
    前記ソフトウェアを実行する制御部と、
    第1データ、第2データ、および第3データとが互いに別個に保存された記憶部とを含み、
    前記第1データは、前記複数のGUI各々の配置に関する情報を含み、
    前記第2データは、前記カーソルの座標に関する情報を含み、
    前記第3データは、前記複数のGUI各々の機能に関する情報を含み、
    前記制御部は、
    前記第1データおよび前記第2データを参照して前記特定GUIを特定し、
    前記第3データを参照して、前記特定GUIの機能に関する情報を特定する、請求項1~3のいずれか1項に記載のソフトウェア操作支援システム。
JP2019103860A 2019-06-03 2019-06-03 ソフトウェア操作支援システム Active JP7278152B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2019103860A JP7278152B2 (ja) 2019-06-03 2019-06-03 ソフトウェア操作支援システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2019103860A JP7278152B2 (ja) 2019-06-03 2019-06-03 ソフトウェア操作支援システム

Publications (2)

Publication Number Publication Date
JP2020197932A JP2020197932A (ja) 2020-12-10
JP7278152B2 true JP7278152B2 (ja) 2023-05-19

Family

ID=73649242

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2019103860A Active JP7278152B2 (ja) 2019-06-03 2019-06-03 ソフトウェア操作支援システム

Country Status (1)

Country Link
JP (1) JP7278152B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2023248912A1 (ja) * 2022-06-23 2023-12-28 京セラドキュメントソリューションズ株式会社 電子機器及び制御方法

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014093036A (ja) 2012-11-06 2014-05-19 Konica Minolta Inc 案内情報表示装置
JP2015090569A (ja) 2013-11-06 2015-05-11 ソニー株式会社 情報処理装置及び情報処理方法
WO2016194844A1 (ja) 2015-05-29 2016-12-08 京セラ株式会社 ウェアラブル装置

Family Cites Families (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10240491A (ja) * 1997-02-26 1998-09-11 Olympus Optical Co Ltd 情報処理装置

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014093036A (ja) 2012-11-06 2014-05-19 Konica Minolta Inc 案内情報表示装置
JP2015090569A (ja) 2013-11-06 2015-05-11 ソニー株式会社 情報処理装置及び情報処理方法
WO2016194844A1 (ja) 2015-05-29 2016-12-08 京セラ株式会社 ウェアラブル装置

Also Published As

Publication number Publication date
JP2020197932A (ja) 2020-12-10

Similar Documents

Publication Publication Date Title
US20210004130A1 (en) Information processing apparatus, method, and non-transitory computer-readable medium
US9547374B2 (en) User interface interaction for transparent head-mounted displays
US10591729B2 (en) Wearable device
US9910506B2 (en) Method for interacting with an object displayed on data eyeglasses
JP6659644B2 (ja) 応用素子の代替的グラフィック表示の事前の生成による入力に対する低レイテンシの視覚的応答およびグラフィック処理ユニットの入力処理
Normand et al. Enlarging a smartphone with ar to create a handheld vesad (virtually extended screen-aligned display)
US9829975B2 (en) Gaze-controlled interface method and system
EP2375381B1 (en) Image processing apparatus
WO2021004415A1 (zh) 一种手持输入设备的鼠标光标控制方法和装置
JP4961432B2 (ja) 視覚的フィードバックを有するアイトラッカー
US10514842B2 (en) Input techniques for virtual reality headset devices with front touch screens
RU2623804C2 (ru) Устройство для обработки информации, способ обработки информации, программа и носитель для хранения информации
JP2008268726A (ja) 撮影装置
JP2011203830A (ja) 投写システム及びその制御方法
US20120280909A1 (en) Image display system and image display method
JP7278152B2 (ja) ソフトウェア操作支援システム
US20190221184A1 (en) Display device, display control device, and display control method
CN108459702B (zh) 基于手势识别与视觉反馈的人机交互方法与***
JP6638392B2 (ja) 表示装置、表示システム、表示装置の制御方法、及び、プログラム
US20200218198A1 (en) Movement control of holographic objects with crown movement of a watch device
JP6740613B2 (ja) 表示装置、表示装置の制御方法、及び、プログラム
JP5880459B2 (ja) 電子機器、表示制御方法及びプログラム
JP2016139174A (ja) ヘッドマウントディスプレイ、ヘッドマウントディスプレイの制御方法および制御プログラム
JP6823988B2 (ja) 画面操作方法及び画面操作装置
CN113196212A (zh) 作为用于交互的物理接口的移动平台

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20211119

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20220921

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20220927

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20221003

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20221208

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20230411

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20230509

R150 Certificate of patent or registration of utility model

Ref document number: 7278152

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150