JP2013168072A - 支援装置、支援プログラムおよび支援方法 - Google Patents

支援装置、支援プログラムおよび支援方法 Download PDF

Info

Publication number
JP2013168072A
JP2013168072A JP2012031863A JP2012031863A JP2013168072A JP 2013168072 A JP2013168072 A JP 2013168072A JP 2012031863 A JP2012031863 A JP 2012031863A JP 2012031863 A JP2012031863 A JP 2012031863A JP 2013168072 A JP2013168072 A JP 2013168072A
Authority
JP
Japan
Prior art keywords
target device
operation signal
mouse
control information
analysis unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2012031863A
Other languages
English (en)
Inventor
Yasumasa Ichinohe
保真 一戸
Takeshi Ezaki
武史 江崎
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu FSAS Inc
Original Assignee
Fujitsu FSAS Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu FSAS Inc filed Critical Fujitsu FSAS Inc
Priority to JP2012031863A priority Critical patent/JP2013168072A/ja
Publication of JP2013168072A publication Critical patent/JP2013168072A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Stored Programmes (AREA)

Abstract

【課題】対象装置に対するマウスを用いた設定作業を実行すること。
【解決手段】支援装置100は、解析部171と実行部172とを有する。解析部171は、対象PCの設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、対象PCに対するマウス操作を行うための擬似的な操作信号を生成する。実行部172は、解析部171が生成した操作信号を対象装置に送信することで、対象PCに対するマウス操作を実行する。
【選択図】図3

Description

本発明は、支援装置等に関する。
従来、PC(Personal Computer)を顧客に出荷する場合に、PCの環境を顧客の要望に応じてカスタムする設定作業が行われる。係る設定作業は、作業員によって手作業で行われる。例えば、作業員は、PCの電源ボタンを押下してPCが起動した後に、キーボードを操作して、パスワードを入力し、PCにログインする。そして、作業員は、キーボードおよびマウスを操作して、PC画面に表示される各項目に情報を入力し、設定作業を行う。
ここで、設定作業の対象となるPCの数が多い場合には、作業員に係る負担が大きいものとなる。このため、PCに対する設定作業の一部を自動化するための各種の従来技術が存在する。
例えば、従来技術1では、PCの画面を撮影し、ログオン画面を認識した場合に、PCにログインするためのキーを送信する技術が開示されている。また、従来技術2では、設定対象となるPC自体に、アプリケーションの自動設定を行うスクリプトを組み込んでおくという技術が開示されている。なお、従来技術3では、サーバの画面データをクライアントに表示させ、サーバの設定をクライアントから遠隔操作可能とする技術も存在する。
特開2003−316577号公報 特開平11−143613号公報 特開2010−20757号公報
しかしながら、上述した従来技術では、PCに対するマウスを用いた設定作業を実行することができないという問題があった。
例えば、上記の従来技術1では、PCにログインするためのキーを送信しているに過ぎず、ログイン操作に関する作業者の負荷を軽減できるものの、その他の設定作業を実行するものではない。また、上記の従来技術2では、スクリプトをPCに組み込む作業が前提となっており、結局のところ、作業者自身が設定作業を行うことになる。
開示の技術は、上記に鑑みてなされたものであって、対象装置に対するマウスを用いた設定作業を実行することができる支援装置、支援プログラムおよび支援方法を提供することを目的とする。
開示の支援装置は、解析部と実行部とを有する。解析部は、対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、対象装置に対するマウス操作を行うための擬似的な操作信号を生成する。実行部は、解析部が生成した操作信号を対象装置に送信することで、対象装置に対するマウス操作を実行する。
開示の支援装置によれば、対象装置に対するマウスを用いた設定作業を実行することができるという効果を奏する。
図1は、本実施例に係るシステムの構成を示す図である。 図2は、管理テーブルのデータ構造の一例を示す図である。 図3は、本実施例に係る支援装置の構成を示す機能ブロック図である。 図4は、制御スクリプトのデータ構造の一例を示す図である。 図5は、表示画面の一例を示す図である。 図6は、一致度を算出する過程を補足説明するための図(1)である。 図7は、一致度を算出する過程を補足説明するための図(2)である。 図8は、一致度を算出する過程を補足説明するための図(3)である。 図9は、一致度を算出する過程を補足説明するための図(4)である。 図10は、本実施例に係る支援装置の処理手順を示すフローチャートである。 図11は、スクリプト解析処理の処理手順を示すフローチャート(1)である。 図12は、スクリプト解析処理の処理手順を示すフローチャート(2)である。 図13は、キー入力送信処理の処理手順を示すフローチャートである。 図14は、マウスクリック送信処理の処理手順を示すフローチャートである。 図15は、一致度算出処理の処理手順を示すフローチャートである。
以下に、本願の開示する支援装置、支援プログラムおよび支援方法の実施例を図面に基づいて詳細に説明する。なお、この実施例によりこの発明が限定されるものではない。
本実施例に係るシステムの構成について説明する。図1は、本実施例に係るシステムの構成を示す図である。図1に示すように、このシステムは、対象PC(Personal Computer)10a、管理サーバ50、支援装置100を有する。例えば、支援装置100は、USB(Universal Serial Bus)等により、対象PC10aに接続される。支援装置100は、LAN(local Area Network)等により、管理サーバ50に接続される。また、管理サーバ50は、DB(Data Base)50aに接続される。
対象PC10aは、環境の設定対象となるPCである。対象PC10aは、USBポートを複数有し、作業者は、かかるUSBポートにマウスやキーボードなどを接続し、対象PC10aを操作することが可能である。例えば、対象PC10aは、USBポートを介して、支援装置100に接続される。
対象PC10aには、バーコード20が添付されている。例えば、バーコード20は、バーコードリーダ等によりコードに変換される。変換後のコードには、対象PC10aを一意に識別する識別情報が含まれる。
管理サーバ50は、支援装置100からの要求に応じて、DB50aに格納されたデータを、支援装置100に送信する。DB50aは、例えば、管理テーブルを記憶する。図2は、管理テーブルのデータ構造の一例を示す図である。図2に示すように、管理テーブルは、識別情報、制御スクリプト、比較元画像データの属性を有する。
識別情報は、対象PCを一意に識別する情報である。本実施例では一例として、対象PC10aの識別情報を「PC10a」とする。制御スクリプトは、対象PCの環境の設定作業を実行する一連の操作を記述した情報である。制御スクリプトに関する具体的な説明は後述する。比較元画像データは、支援装置100が対象PCの設定作業を実行する際に、対象PCの表示画面が適切な画面であるか否かを判定するために利用する画像データである。
例えば、管理サーバ50は、支援装置100から、識別情報「PC10a」を受信した場合には、管理テーブルを参照し、識別情報「PC10a」に対応する制御スクリプトと、比較元画像データを、支援装置100に送信する。
支援装置100は、対象PC10aの環境設定を行う装置である。支援装置100の構成の一例について説明する。図3は、本実施例に係る支援装置の構成を示す機能ブロック図である。図3に示すように、支援装置100は、入力部110、表示部120、カメラ130、USB送受信部140、LAN送受信部150、記憶部160、制御部170を有する。
入力部110は、支援装置100に各腫の情報を入力する入力装置である。例えば、入力部110は、タッチパネルや入力キー等に対応する。表示部120は、制御部170から出力される各腫の情報を表示する表示装置である。例えば、表示装置は、ディスプレイやタッチパネル等に対応する。
カメラ130は、制御部170からの指示に応じて、画像を撮影する撮像装置である。かかるカメラ130は、バーコードリーダの機能も有する。カメラ130は、画像撮影命令またはバーコード撮影命令を制御部170から受け付ける。
カメラ130が画像撮影命令を受け付けた場合の処理を説明する。カメラ130は、対象PC10aの表示画面の画像を撮影し、撮影した表示画面の画像データを、制御部170に出力する。以下の説明において、対象PC10aの表示画面の画像データを、比較先画像データと表記する。
カメラ130がバーコード撮影命令を受け付けた場合の処理を説明する。カメラ130は、対象PC10aのバーコード20の画像を撮影し、撮影したバーコードをコードに変換する。変換されたコードは、対象PC10aを識別する識別情報となる。カメラ130は、対象PC10aの識別情報を、制御部170に出力する。
図3では一例として、単一のカメラ130を示すがこれに限定されない。例えば、支援装置100は、比較先画像データを撮影するためのカメラと、バーコードを撮影するためのカメラとを備えていても良い。
USB送受信部140は、制御部170から操作信号を受け付け、受け付けた操作信号を対象PC10aに出力する処理部である。この操作信号は、対象PC10aのマウス操作やキーボード操作時の信号を擬似的に再現した信号である。ここで、マウス操作は、マウスポインタの移動、クリック、ダブルクリック、ドラッグなどに対応する。キーボード操作は、各腫キー入力、Ctrl、Shiftを押しながらのボタン入力等に対応する。
LAN送受信部150は、管理サーバ50とデータ通信を実行する処理部である。例えば、LAN送受信部150は、制御部170から対象PC10aの識別情報を受け付け、受け付けた識別情報を、管理サーバ50に送信する。また、LAN送受信部150は、管理サーバ50から受信したデータを、制御部170に出力する。例えば、LAN送受信部150は、管理サーバ50から、識別情報に対応する、制御スクリプトおよび比較元画像データを受信する。
記憶部160は、制御スクリプト161、比較元画像データ162、比較先画像データ163を記憶する。例えば、記憶部160は、RAM(Random Access Memory)、ROM(Read Only Memory)、フラッシュメモリ(Flash Memory)などの半導体メモリ素子、またはハードディスク、光ディスクなどの記憶装置に対応する。
制御スクリプト161は、対象PCの環境の設定作業を実行する一連の操作を記述した
データである。制御スクリプト161は、上述した管理サーバ50から得られる。図4は、制御スクリプトのデータ構造の一例を示す図である。図4に示すように、制御スクリプト161は、待機時間、機能、内容の属性を有する。待機時間、機能、内容に関する説明は後述する。
比較元画像データ162は、対象PC10aの表示画面が適切な画面であるか否かを判定するために利用する画像データである。例えば、比較元画像データ162は、対象PC10aの任意の設定画面の画像データとなる。
比較先画像データ163は、比較PC10aの表示画面の画像データであり、カメラ130によって撮影されたものである。
制御部170は、解析部171および実行部172を有する。制御部170は、例えば、ASIC(Application Specific Integrated Circuit)や、FPGA(Field Programmable Gate Array)などの集積装置に対応する。また、制御部170は、例えば、CPUやMPU(Micro Processing Unit)等の電子回路に対応する。
解析部171は、制御スクリプト161の行を順次読み出して解析し、解析結果に基づいて、対象PC10aに対するマウス操作およびキー操作を行うための擬似的な操作信号を生成する処理部である。解析部171は、生成した操作信号を、実行部172に出力する。以下において、解析部171の処理を具体的に説明する。解析部171は、準備処理と、スクリプト解析処理とを実行する。
解析部171が実行する準備処理について説明する。解析部171は、入力部110から、設定作業の開始命令を受け付け、カメラ130に対して、バーコード撮影命令を出力する。解析部171は、カメラ130から、対象PC10aの識別情報を取得し、識別情報をLAN送受信部150に出力する。識別情報は、LAN送受信部150により、管理サーバ50に送信される。
識別情報が管理サーバ50に送信された後、解析部171は、LAN送受信部150を介して、制御情報に対応する制御スクリプトおよび比較元画像データを管理サーバ50から受信する。解析部171は、制御スクリプトおよび比較元画像データを、記憶部160に格納する。
次に、解析部171が実行するスクリプト解析処理について説明する。解析部171は、制御スクリプト161の先頭の行から順に1行分のレコードを取り出す。解析部171は、レコードを解析し、待機時間、機能、内容を特定する。解析部171は、レコードの待機時間だけ待機した後に、機能に応じて各種処理を実行する。機能には、コメント、メッセージ、キー入力、クリック、画面待機が含まれている。
機能が「コメント」の場合の解析部171の処理について説明する。解析部171は、レコードの解析をスキップし、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。
機能が「メッセージ」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を、表示部120に出力し、内容を表示させる。例えば、図4の上から2段目に示すように、機能が「メッセージ」、内容が「対象PCの電源を入れてください」というレコードを取得した場合について説明する。この場合には、「対象PCの電源をいれてください」という表示画面を、表示部120に表示させる。図5は、表示画面の一例を示す図である。図5に示す表示画面30には、OKボタン31が含まれている。
解析部171は、表示画面を表示させた後に、表示画面30上のOKボタン31が押下されるまで待機する。例えば、作業員は、入力部110を操作してOKボタン31を押下する。解析部171は、OKボタン31が押下された場合には、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。
機能が「キー入力」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を字句解析し、対応する入力キーに変換する。例えば、内容が「A」の場合には、解析部171は、対応する入力キー「A」に変換する。解析部171は、入力キーに対応する操作信号を生成し、操作信号を実行部172に出力する。解析部171は、操作信号を出力した後に、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。
解析部171が、入力キーの操作信号を生成して出力する処理の一例について説明する。ここでは一例として、入力キーを「A」とする。解析部171は、例えば、下記の(1)〜(4)の処理を順次実行する。
(1)解析部171は、ShiftキーをDownした意味の操作信号を生成し、実行部172に出力する。解析部171は、(1)の処理を実行後、所定時間待機する。(2)解析部171は、aキーをDownした意味の操作信号を生成し、実行部172に出力する。解析部171は、(2)の処理を実行後、所定時間待機する。(3)解析部171は、aキーをUpした意味の操作信号を生成し、実行部172に出力する。解析部171は、(3)の処理を実行後、所定時間待機する。(4)解析部171は、ShiftキーをUpした意味の操作信号を生成し、実行部172に出力する。実行部172は、操作信号を順次、USB送受信部140に出力する。
上記(1)〜(4)の処理を実行することで、キーボードの入力キー「A」を押下した場合と同じ操作信号が、対象PC10aに入力される。
機能が「クリック」の場合の解析部171の処理について説明する。解析部171は、読み出したレコードの内容を解析し、クリックの種別と、x方向およびy方向の移動位置を判定する。解析部171は、判定結果に応じた操作信号を、実行部172に出力する。
内容が「SCLICK(x1、y1)」となる場合について説明する。x1、y1は、任意の数値である。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、左クリックする意味の操作信号を、実行部172に出力する。例えば、対象PC10aの表示画面の左上隅を、マウスポインタの原点とする。また、対象PC10aの表示画面の左側から右側に向かう方向をx軸のプラス方向とする。対象PC10aの表示画面の上側から下側に向かう方向をy軸のプラス方向とする。
内容が「RCLICK(x1、y1)」となる場合について説明する。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、右クリックする意味の操作信号を、実行部172に出力する。
内容が「WCLICK(x1、y1)」となる場合について説明する。解析部171は、マウスポインタを現座標から、原点からx方向にx1、y方向にy1の位置に移動させ、ダブルクリックする意味の操作信号を、実行部172に出力する。
内容が「DRAG(x1、y1)」となる場合について説明する。この操作は、ドラッグ操作に対応する。解析部171は、マウスポインタの左ボタンをDownさせたまま現座標から、原点からx方向にx1、y方向にy1の位置に移動させたのちに、左ボタンをUpする意味の操作信号を、実行部172に出力する。
ここでは一例として、内容が「SCLICK(500、360)」の場合の処理について説明する。解析部171は、例えば、下記の(1)〜(4)の処理を順次実行する。
(1)解析部171は、マウスポインタをx方向に−1000、y方向に−1000移動させる意味の操作信号を、実行部172に出力する。(1)の操作は、マウスポインタを原点に移動させる操作に対応する。解析部171は、(1)の処理を実行後、所定時間待機する。(2)解析部171は、マウスポインタをx方向に500、y方向に360移動する意味の操作信号を、実行部172に出力する。解析部171は、(2)の処理を実行後、所定時間待機する。(3)解析部171は、マウスの左ボタンをDownした意味の操作信号を、実行部172に出力する。解析部171は、(3)の処理を実行後、所定時間待機する。(4)解析部171は、マウスの左ボタンをUpした意味の操作信号を、実行部172に出力する。
上記(1)〜(4)の処理を実行することで、マウスのポインタを現座標から、原点からx方向に500、y方向に360の位置に移動させた後に、左クリックした場合と同じ操作信号が、対象PC10aに入力される。
機能が「画面待機」の場合の解析部171の処理について説明する。解析部171は、カメラ130に対して、画像撮影命令を出力する。解析部171は、カメラ130から、比較先画像データを取得し、取得した比較先画像データを記憶部160に格納する。
解析部171は、記憶部160の比較元画像データ162と比較先画像データ163とを比較して、一致度を算出する。解析部171は、一致度が閾値以上の場合には、制御スクリプト161から次の行のレコードを取り出し、上記処理を繰り返し実行する。
これに対して、解析部171は、一致度が閾値未満となる場合には、所定時間経過後、カメラ130に画像撮影命令を再度出力し、比較先画像データ163をカメラ130から取得する。解析部171は、記憶部160の比較先画像データ163を更新し、一致度を算出し、上記処理を繰り返し実行する。
解析部171が、一致度を算出する処理について説明する。図6〜図9は、一致度を算出する過程を補足説明するための図である。解析部171は、比較元画像データ162を2値化し、四隅から最短にある点を検出する。図6に示すように、解析部171は、点162a〜162dを検出する。
図7に示すように、解析部171は、比較先画像データ163を2値化し、比較先画像データ163の輪郭を抽出する。そして、図8に示すように、解析部171は、比較先画像データ163の四隅から最短にある点163a〜163dを検出する。
図9に示すように、解析部171は、比較元画像データ162の各点162a〜162dの位置と、比較先画像データ163の各点163a〜163dの位置がそれぞれ一致するように、比較先画像データ163を加工する。例えば、解析部171は、比較先画像データ163に対して回転、拡大、縮小などの処理を加える。
解析部171は、比較元画像データ162の各点162a〜162dの位置と、比較先画像データ163の各点163a〜163dの位置がそれぞれ一致させた後に、一致度を算出する。解析部171は、比較元画像データ162と比較先画像データ163とを画素毎に比較して、一致する画素の数を計数する。解析部171は、比較元画像データ162の全画素数に対する、一致する画素数の割合を、一致度として算出する。
上記のように、解析部171は、機能に応じて各種の処理を実行し、操作信号を実行部172に出力する。
実行部172は、解析部171から操作信号を受け付け、受け付けた操作信号を、USB送受信部140に出力する処理部である。
次に、解析部171が、図4に示した制御スクリプト161の各行のレコードを取り出して、処理を実行する過程について説明する。
解析部171は、図4の制御スクリプト161の1行目のレコードを取り出す。1行目のレコードの機能は「コメント」である。このため、解析部171は、処理をスキップし、2行目のレコードを取り出す。
2行目のレコードの機能は「メッセージ」である。このため、解析部171は、図5に示す表示画面30を表示させ、OKボタン31が押下されるまで待機する。解析部171は、OKボタンが押下された後に、3行目のレコードを取り出す。
3行目のレコードの機能は「画面待機」である。また、待機時間が「0025」である。解析部171は、待機時間「25秒」待機した後に、機能「画面待機」の処理を実行する。すなわち、解析部171は、比較元画像データ162と比較先画像データ163とを比較して、一致度を算出する。図4の3行目のレコードの内容は「WinLogon.jpg.80%」となっている。ここで、「WinLogon.jpg」は、比較元画像データの識別する名称である。また、「80%」は、一致度の閾値が「80%」であることを示している。解析部171は、一致度が「80%」以上となるまで、機能「画面待機」の処理を繰り返し実行する。解析部171は、一致度が「80%」以上となった場合に、4行目のレコードを取り出す。
4行目のレコードの機能は「キー入力」である。このため、解析部171は、内容「password」を、対応する入力キー「password」に変換する。解析部171は、入力キーの操作信号を生成し、対象PC10aに入力する。解析部171は、5行目のレコードを取り出す。
5行目のレコードの機能は「クリック」である。このため、解析部171は、レコードの内容「SCLICK(500、360)」を解析する。解析部171は、マウスポインタを現座標から、原点からx方向に500、y方向に360の位置に移動させた後に左クリックを行う操作信号を生成し、対象PC10aに入力する。
次に、本実施例に係る支援装置100の処理手順について説明する。図10は、本実施例に係る支援装置の処理手順を示すフローチャートである。例えば、図10に示す処理は、入力部110から、設定作業の開始命令を受け付けたことを契機として実行される。
図10に示すように、支援装置100は、カメラ130に対してバーコード撮影命令を出力し、対象PC10aの識別情報を取得する(ステップS101)。支援装置100は、識別情報を管理サーバ50に送信し、管理サーバ50から制御スクリプトおよび対象もと画像データを受信する(ステップS102)。
支援装置100は、制御スクリプト161および対象元画像データを記憶部160に記憶する(ステップS103)。支援装置100は、制御スクリプト161から1行取り出し(ステップS104)、スクリプト解析処理を実行する(ステップS105)。
支援装置100は、制御スクリプト161から全ての行を取り出したか否かを判定する(ステップS106)。支援装置100は、全ての行を取り出した場合には(ステップS106,Yes)、処理を終了する。
一方、支援装置100は、全ての行を取り出していない場合には(ステップS106,No)、制御スクリプト161から次の1行を取り出し(ステップS107)、ステップS104に移行する。
次に、図10のステップS105に示したスクリプト解析処理について説明する。図11および図12は、スクリプト解析処理の処理手順を示すフローチャートである。図11に示すように、支援装置100は、制御スクリプト161の1行を解析し、待機時間、機能、内容を特定する(ステップS110)。
支援装置100は、待機時間だけ待機し(ステップS111)、機能はコメントであるか否かを判定する(ステップS112)。支援装置100は、機能がコメントである場合には(ステップS112,Yes)、スキップし(ステップS113)、スクリプト解析処理を終了する。
一方、支援装置100は、機能がコメントではない場合には(ステップS112,No)、機能はメッセージであるか否かを判定する(ステップS114)。支援装置100は、機能がメッセージである場合には(ステップS114,Yes)、支援装置100の表示部120に、メッセージを表示し(ステップS115)、OKボタンが押下されたか否かを判定する(ステップS116)。
支援装置は、OKボタンが押下されない場合には(ステップS116,No)、再度、ステップS116に移行する。一方、OKボタンを押下された場合には(ステップS116,Yes)、スクリプト解析処理を終了する。
ステップS114において、支援装置100は、機能がメッセージではない場合には(ステップS114,No)、機能はキー入力であるか否かを判定する(ステップS117)。
機能がキー入力の場合には(ステップS117,Yes)、キーの内容を字句解析し(ステップS118)、字句を対応するキーに変換する(ステップS119)。支援装置100は、キー入力送信処理を実行し(ステップS120)、スクリプト解析処理を終了する。
ステップS117において、支援装置100は、機能がキー入力ではない場合には(ステップS117,No)、図12のステップS121に移行する。支援装置100は、クリックか否かを判定する(ステップS121)。支援装置100は、機能がクリックの場合には(ステップS121,Yes)、マウスクリック送信処理を実行し(ステップS122)、スクリプト解析処理を終了する。
支援装置100は、機能がクリックではない場合には(ステップS121,No)、機能は画面待機であると判定する(ステップS123)。支援装置100は、対象PC10aの画像を撮影し(ステップS124)、一致度算出処理を実行する(ステップS125)。
支援装置100は、一致度が閾値以上か否かを判定する(ステップS126)。支援装置100は、一致度が閾値未満の場合には(ステップS126,No)、所定時間待機し(ステップS127)、ステップS124に移行する。支援装置100は、一致度が閾値以上の場合には(ステップS126,Yes)、スクリプト解析処理を終了する。
次に、図11のステップS120に示したキー入力送信処理について説明する。図13は、キー入力送信処理の処理手順を示すフローチャートである。図13では一例として、「A」をキー入力する操作を行う場合について説明する。
図13に示すように、支援装置100は、ShiftキーをDownした意味の操作信号を対象PC10aに送信し(ステップS150)、所定時間待機する(ステップS151)。
支援装置100は、aキーをDownした意味の操作信号を対象PC10aに送信し(ステップS152)、所定時間待機する(ステップS153)。
支援装置100は、aキーをUpした意味の操作信号を対象PC10aに送信し(ステップS154)、所定時間待機する(ステップS155)。支援装置100は、ShiftキーをUpした意味の操作信号を対象PC10aに送信する(ステップS156)。
次に、図12のステップS122に示したマウスクリック送信処理について説明する。図14は、マウスクリック送信処理の処理手順を示すフローチャートである。図14では一例として、マウスポインタを原点からx方向に500、y方向に360の位置に移動させて、左クリックするマウス操作を行う場合について説明する。
支援装置100は、マウスポインタを(−1000、−1000)分移動する意味の操作信号を対象PC10aに送信し、マウスポインタを左上隅に移動させる(ステップS160)。
支援装置100は、所定時間待機し(ステップS161)、マウスポインタを(500、360)分移動する意味の操作信号を対象PC10aに送信する(ステップS162)。支援装置100は、所定時間待機し(ステップS163)、マウスの左ボタンをDownした意味の操作信号を対象PC10aに送信する(ステップS164)。
支援装置100は、所定時間待機し(ステップS165)、マウスの左ボタンをUpした意味の操作信号を対象PC10aに送信する(ステップS166)。
次に、図12のステップS125に示した一致度算出処理について説明する。図15は、一致度算出処理の処理手順を示すフローチャートである。図15に示すように、支援装置100は、比較元画像データ162の四隅から最短にある点を検出する(ステップS170)。
支援装置100は、比較先画像データ163から輪郭を抽出し(ステップS171)、比較先画像データ163の四隅から最短にある点を検出する(ステップS172)。
支援装置100は、比較先画像データ163を回転、拡大、縮小して、比較先画像データ163の外枠と、比較元画像データ162の外枠とが一致するように、比較先画像データ163を変換する(ステップS173)。
支援装置100は、比較先画像データ163と、比較元画像データ162とをピクセル単位に比較して、一致度を算出する(ステップS174)。
次に、本実施例に係る支援装置100の効果について説明する。支援装置100は、対象PC10aの設定作業を実行する一連のマウス操作を予め記述した制御スクリプト161を解析し、解析結果に基づいて、対象PC10aに対するマウス操作を行うための擬似的な操作信号を対象PC10aに送信する。このため、支援装置100によれば、対象PC10aに対するマウスを用いた設定作業を実行することができる。
また、支援装置100は、制御スクリプト161を解析し、マウス操作だけでなくキー操作を行うための擬似的な操作信号を対象PC10aに送信する。このため、支援装置100によれば、マウス操作とキー操作による複合的な設定作業を実行することができる。
また、支援装置100は、比較元画像データ162と比較先画像データ163とを比較して、一致度を算出し、一致度が閾値以上となった場合に、操作信号を送信する。このため、支援装置100によれば、対象PC10aの表示画面が、確かに設定作業の対象となる画面であることを確認した後に、設定作業を実行でき、設定作業の精度を向上させることができる。
また、支援装置100は、マウス操作を行うための操作信号を送信する場合に、マウスポインタの位置を左上隅の初期位置に移動させる信号を操作信号に含める。このため、マウスポインタがどの位置にあっても、一旦、初期位置に戻してから、各種マウス操作を実行でき、マウス操作による設定作業の精度を向上させることができる。なお、上記実施例の初期位置は一例であり、例えば、対象PC10aの表示画面の右上隅、左下隅、右下隅、中心などであっても良い。
また、支援装置100は、制御スクリプト161の1行を読み出し、読み出した行の待機時間に応じて、操作信号を生成する時間間隔を調整し、対象PC10aに送信する。このため、支援装置100によれば、適切なタイミングで、マウス操作およびキー操作に対応する操作信号を送信することができる。例えば、対象PC10aのログイン画面の表示画面が表示されていない段階で、ログインパスワードを送信してしまう等の状況を回避することができる。
更に、上記効果に加えて、これまでのマウスインターフェースにおける設定作業中の作業員による手作業が無くなり、設定作業の自動化ができる。また、人為的ミスなどが無くなり、設定作業の品質向上を期待することができる。また、作業員の人員を削減でき、コストを削減することも可能となる。
ところで、本実施例において説明した各処理のうち、自動的に行われるものとして説明した処理の全部または一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部あるいは一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、制御手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。
また、実施例に示した支援装置100の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部または一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的または物理的に分散・統合して構成することができる。さらに、各装置にて行われる各処理機能は、その全部または任意の一部がCPUおよび当該CPUにて解析実行されるプログラムにて実現され、あるいは、ワイヤードロジックによるハードウェアとして実現され得る。
10a 対象PC
50 管理サーバ
100 支援装置

Claims (15)

  1. 対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成する解析部と、
    前記解析部が生成した前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する実行部と
    を有することを特徴とする支援装置。
  2. 前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、前記解析部は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、前記実行部は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項1に記載の支援装置。
  3. 前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、前記解析部は、前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出し、
    前記実行部は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項1または請求項2に記載の支援装置。
  4. 前記解析部は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項1、2または3に記載の支援装置。
  5. 前記制御情報は待機時間の情報を含み、前記解析部は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項1〜4のいずれか一つに記載の支援装置。
  6. コンピュータに、
    対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成し、
    前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する
    各処理を実行させることを特徴とする支援プログラム。
  7. 前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、
    前記操作信号を生成する処理は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、
    前記操作信号を送信する処理は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項6に記載の支援プログラム。
  8. 前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、
    前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出する処理を更にコンピュータに実行させ、
    前記操作信号を送信する処理は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項6または7に記載の支援プログラム。
  9. 前記操作信号を生成する処理は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項6、7または8に記載の支援プログラム。
  10. 前記制御情報は待機時間の情報を含み、前記操作信号を生成する処理は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項6〜9のいずれか一つに記載の支援プログラム。
  11. コンピュータが実行する支援方法であって、
    対象装置の設定作業を実行する一連のマウス操作を予め記述した制御情報を解析し、解析結果に基づいて、前記対象装置に対するマウス操作を行うための擬似的な操作信号を生成し、
    前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作を実行する
    各処理を実行することを特徴とする支援方法。
  12. 前記制御情報は、前記対象装置の設定作業を実行する一連のキー操作を更に含み、
    前記操作信号を生成する処理は、前記制御情報を解析し、前記対象装置に対するマウス操作およびキー操作を行うための擬似的な操作信号を生成し、
    前記操作信号を送信する処理は、前記操作信号を前記対象装置に送信することで、前記対象装置に対するマウス操作およびキー操作を実行することを特徴とする請求項11に記載の支援方法。
  13. 前記制御情報は、前記対象装置の画面に対する撮影命令を更に含み、
    前記撮影命令に応じて、撮像装置を利用して前記対象装置の画面の画像を示す比較先画像を取得し、前記比較先画像と所定の比較元画像との一致度を算出する処理を更に実行し、
    前記操作信号を送信する処理は、前記一致度に基づいて、前記操作信号を前記対象装置に送信することを特徴とする請求項11または12に記載の支援方法。
  14. 前記操作信号を生成する処理は、マウス操作の前にマウスポインタを初期位置に移動させる擬似的な信号を前記操作信号に含ませることを特徴とする請求項11、12または13に記載の支援方法。
  15. 前記制御情報は待機時間の情報を含み、前記操作信号を生成する処理は、前記待機時間に応じて、前記操作信号を生成する時間間隔を調整することを特徴とする請求項11〜14のいずれか一つに記載の支援方法。
JP2012031863A 2012-02-16 2012-02-16 支援装置、支援プログラムおよび支援方法 Pending JP2013168072A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012031863A JP2013168072A (ja) 2012-02-16 2012-02-16 支援装置、支援プログラムおよび支援方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012031863A JP2013168072A (ja) 2012-02-16 2012-02-16 支援装置、支援プログラムおよび支援方法

Publications (1)

Publication Number Publication Date
JP2013168072A true JP2013168072A (ja) 2013-08-29

Family

ID=49178412

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012031863A Pending JP2013168072A (ja) 2012-02-16 2012-02-16 支援装置、支援プログラムおよび支援方法

Country Status (1)

Country Link
JP (1) JP2013168072A (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017049773A (ja) * 2015-09-01 2017-03-09 株式会社プロモート キッティングシステム、キッティングプログラム、及びキッティング方法
JP2020077028A (ja) * 2018-11-05 2020-05-21 株式会社Pfu エミュレータ
JPWO2020246209A1 (ja) * 2019-06-03 2020-12-10

Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02242460A (ja) * 1989-03-16 1990-09-26 Fujitsu Ltd 制御情報設定装置
JPH09185527A (ja) * 1995-12-29 1997-07-15 Nec Corp コンピュータシステムにおける動作評価システム
JPH11149339A (ja) * 1997-11-14 1999-06-02 Iisutec:Kk パソコン操作再現装置
JP2003280793A (ja) * 2002-03-20 2003-10-02 Fujitsu Ltd 入力装置及び情報処理装置の情報入力方法
JP2003316577A (ja) * 2002-04-19 2003-11-07 Fujitsu Ltd カストマイズシステムおよびカストマイズ方法
JP2005202774A (ja) * 2004-01-16 2005-07-28 Mitsubishi Electric Corp 生産設備保全システム、生産設備用制御装置および情報処理装置
JP2007086899A (ja) * 2005-09-20 2007-04-05 Fujitsu Ltd 試験結果判定表示方法、試験結果判定表示プログラム及び試験装置
JP2011198095A (ja) * 2010-03-19 2011-10-06 Fujitsu Fsas Inc カストマイズ支援装置
JP2011204139A (ja) * 2010-03-26 2011-10-13 Fujitsu Fsas Inc 操作記録プログラム及び装置

Patent Citations (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH02242460A (ja) * 1989-03-16 1990-09-26 Fujitsu Ltd 制御情報設定装置
JPH09185527A (ja) * 1995-12-29 1997-07-15 Nec Corp コンピュータシステムにおける動作評価システム
JPH11149339A (ja) * 1997-11-14 1999-06-02 Iisutec:Kk パソコン操作再現装置
JP2003280793A (ja) * 2002-03-20 2003-10-02 Fujitsu Ltd 入力装置及び情報処理装置の情報入力方法
JP2003316577A (ja) * 2002-04-19 2003-11-07 Fujitsu Ltd カストマイズシステムおよびカストマイズ方法
JP2005202774A (ja) * 2004-01-16 2005-07-28 Mitsubishi Electric Corp 生産設備保全システム、生産設備用制御装置および情報処理装置
JP2007086899A (ja) * 2005-09-20 2007-04-05 Fujitsu Ltd 試験結果判定表示方法、試験結果判定表示プログラム及び試験装置
JP2011198095A (ja) * 2010-03-19 2011-10-06 Fujitsu Fsas Inc カストマイズ支援装置
JP2011204139A (ja) * 2010-03-26 2011-10-13 Fujitsu Fsas Inc 操作記録プログラム及び装置

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017049773A (ja) * 2015-09-01 2017-03-09 株式会社プロモート キッティングシステム、キッティングプログラム、及びキッティング方法
JP2020077028A (ja) * 2018-11-05 2020-05-21 株式会社Pfu エミュレータ
JP7185493B2 (ja) 2018-11-05 2022-12-07 株式会社Pfu エミュレータ
JPWO2020246209A1 (ja) * 2019-06-03 2020-12-10
WO2020246209A1 (ja) * 2019-06-03 2020-12-10 株式会社Pfu 設定端末、設定方法、及びプログラム

Similar Documents

Publication Publication Date Title
EP2963513B1 (en) Teaching apparatus and robot system
CN108959068B (zh) 软件界面测试方法、设备及存储介质
CN107845113B (zh) 目标元素定位方法、装置以及用户界面测试方法、装置
US10030968B2 (en) Floor estimation for human computer interfaces
CN110851299A (zh) 自动化流程的异常排除方法、装置、设备及存储介质
CN105302413B (zh) 控件的ui测试方法及***
US11590657B2 (en) Image processing device, control method thereof, and program storage medium
JP2018026064A (ja) 画像処理装置、画像処理方法、システム
US10817716B2 (en) Coarse-to-fine hand detection method using deep neural network
WO2016170618A1 (ja) 自動試験装置
WO2022100075A1 (zh) 性能检测方法、装置、电子设备和计算机可读介质
JP2015049776A (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN105279514A (zh) 机器人***
JP2013168072A (ja) 支援装置、支援プログラムおよび支援方法
US20170249728A1 (en) Abnormality detection device, abnormality detection method and non-transitory computer-readable recording medium
CN112380094B (zh) 一种rpa业务流程处理方法及装置
US20200402266A1 (en) Information processing device, information processing system, and non-transitory computer-readable medium storing information processing program
EP3951616A1 (en) Identification information adding device, identification information adding method, and program
CN108805931B (zh) Ar产品的定位检测方法、装置及计算机可读存储介质
JP5266416B1 (ja) テストシステム及びテストプログラム
CN111831135A (zh) 鼠标光标影像侦测比对与回馈状态判断方法
US10133953B2 (en) System and method for enabling graphic-based interoperability with a run-time application
CN113167568B (zh) 坐标计算装置、坐标计算方法和计算机可读记录介质
US20240070894A1 (en) Object detection device and method
US20160241848A1 (en) Method of Testing Graphics Displayed by a Display Device

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130624

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20140115

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20140212

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140326

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140902

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20141127

A911 Transfer of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20141204

A912 Removal of reconsideration by examiner before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20141226

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20150924