JP6212373B2 - 操作ログ管理装置及び方法 - Google Patents

操作ログ管理装置及び方法 Download PDF

Info

Publication number
JP6212373B2
JP6212373B2 JP2013251909A JP2013251909A JP6212373B2 JP 6212373 B2 JP6212373 B2 JP 6212373B2 JP 2013251909 A JP2013251909 A JP 2013251909A JP 2013251909 A JP2013251909 A JP 2013251909A JP 6212373 B2 JP6212373 B2 JP 6212373B2
Authority
JP
Japan
Prior art keywords
model data
gui
operation log
unit
meta information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2013251909A
Other languages
English (en)
Other versions
JP2015109001A (ja
Inventor
弘毅 中西
弘毅 中西
増田 健
健 増田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2013251909A priority Critical patent/JP6212373B2/ja
Publication of JP2015109001A publication Critical patent/JP2015109001A/ja
Application granted granted Critical
Publication of JP6212373B2 publication Critical patent/JP6212373B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)

Description

本発明は、コンピュータ上で動作するGUI(Graphical User Interface)アプリケーションプログラムに対するオペレータ(ユーザ)の操作を支援する技術に関し、特に操作支援としてオペレータに提供する操作ログの管理技術に関する。
近年ICT(Information and Communication Technology)技術の進歩により、企業等における業務がシステム化され、さらに業務が集約されたことによって、一人のオペレータが様々な業務システムを使いこなす必要が発生している。その際に熟練者等の過去の操作事例から類似操作を検索し比較することによって、操作マニュアルからでは得られないきめ細かい操作支援情報を提供することが可能になると考えられる(非特許文献1及び2参照)。オペレータが操作の参考情報として参照する操作ログとしては操作画面ログがオペレータにとって直観的に理解しやすく適していると考えられる。
画像を検索する技術として様々な方法が考えられている(非特許文献3及び4参照)。操作画面をログとしデータベース化した場合、画像検索技術を操作画面画像に適用した方法が考えられている(非特許文献5参照)。しかし、画像検索技術を用いて操作画面の画像検索を行った場合、操作画面上の文字認識や、GUI部品の状態(ボタンの活性、非活性、スライダーの位置、チェックボックス、ラジオボタンのオン/オフ、GUI部品の位置など)を特定する状態認識技術等のメタな検索ができないという課題がある。そこで、OS(Operating System)から提供されるAccessibilityAPI(Application Programming Interface)によって得られるGUI部品の情報を操作画面画像のメタ情報として付与しメタ情報を検索する方法が提案されている。
森崎修司、 門田暁人、 松本健一、 井上克郎、 鳥居宏次、「機能実行履歴を用いたソフトウェア利用知識の共有」、 情報処理学会論文誌、 41(10)、 pp.2770-2781、2000年10月 海野瑛里、吉井光、櫨山淳雄、「操作履歴を用いたサーバ管理のための知識継承支援システム」、人工知能学会第10回知識流通ネットワーク研究会、2013年3月 長谷山美紀、「画像・映像意味理解の現状と検索インタフェース」、電子情報通信学会誌、Vol.93、No.9、2010年 Yeh, T., Chang, T.-H. and Miller, R.C. Sikuli, "Using GUI Screenshots for Search and Automation", UIST 2009, 183-192 Chang, T., Yeh, T., and Miller, M., "Associating the Visual Representation of User Interfaces with their Internal Structures and Metadata", UIST, 2011, 245-256
オペレータへの操作支援など操作ログを有効活用するためには、蓄積した操作ログから如何にして必要なものを検索するかが重要となる。近年、Google(登録商標)社のGoogleMapsなど高度なグラフィック機能を有したWEBアプリケーションが広まっているが、このようなアプリケーションではオペレータの操作によって操作画面が大きく変化することから従来の操作画面の画像情報の比較によって操作ログを検索した場合、適切な操作ログを得ることが困難であった。また、WEBアプリケーションでは、ブラウザの提供する各種スクリプトの実効環境や、更にブラウザ上に構築されるアプリケーション実行環境(例えばJAVA(登録商標)実効環境)上でスクリプトやアプレット等が動作されることが多いため、従来の技術では、取得可能なGUIメタ情報が操作ログの検索においては十分ではなく、適切な操作ログの検索が困難であった。
さらに、操作ログの検索では、操作画面の画像そのもの或いはメタ情報を基準として検索を行うだけではなく、アプリケーションの取り扱っている情報(モデルデータ)そのものを比較対象にしたいという要望がある。例えば前述のGoogleMapsでは、住所情報や緯度経度情報を基準として操作ログを抽出したいという要望があった。しかし、前述の従来の技術では、あくまで操作画面の画像そのもの或いはメタ情報のみで検索処理を行っているので、このような要望に応えることは困難であった。
本発明は、上記事情に鑑みてなされたものであり、その目的とするところの1つは、従来のGUIメタ情報や画像情報などの処理技術では実現できなかったアプリケーションが処理対象としているデータの情報を考慮した抽象度の高い操作ログの分析を可能にすることである。また、本発明の他の目的は、地図やネットワークトポロジー情報などを扱う高度なグラフィック機能を有するアプリケーションに対する操作ログを分析とすることである。
上記目的を達成するために、本願発明は、コンピュータ上で動作するGUI(Graphical User Interface)アプリケーションの操作ログを管理する操作ログ管理装置であって、前記GUIアプリケーションは少なくとも画面表示制御部とデータ供給部とに分割されており且つ画面表示制御部はデータ供給部から取得したモデルデータに基づき画面表示を制御するものであり、操作ログ管理装置は、GUIアプリケーションの操作画面に係るGUIメタ情報を取得するGUIメタ情報取得部と、操作画面の表示で用いられたモデルデータを取得するモデルデータ取得部と、取得したGUIメタ情報とモデルデータとを関連づけて操作ログとして所定の記憶部に記録する操作ログ記録部と、前記モデルデータ取得部により取得した第1のモデルデータと前記記憶部に記録されている第2のモデルデータとの類似性を評価することにより前記記憶部から操作ログを抽出する操作ログ検索部とを備えたことを特徴とする。本発明によれば、現在表示されているGUIアプリケーションの操作画面から、該操作画面と一致又は類似する操作画面を有する操作ログを抽出できる。
また、本発明によれば、操作ログとして、GUIアプリケーションが処理対象としているモデルデータと、操作画面のGUIメタ情報とを関連づけて記録するので、GUIメタ情報を用いた検索だけでなく、アプリケーションが処理対象としている情報を用いた検索が可能となるので、柔軟且つ高度な操作ログの活用が可能となる。また、高度なグラフィック機能を有するアプリケーションであっても、操作画面イメージではなく該操作画面イメージの表示で用いられるモデルデータでの検索が可能となるので、操作ログの検索を高精度且つ低負荷で行うことができる。
本発明の好適な態様の一例としては、さらに、前記モデルデータ取得部により取得した第1のモデルデータと前記操作ログ検索部により抽出した操作ログに係る第2のモデルデータとの一致点及び不一致点を各モデルデータのデータ要素毎に比較するモデルデータ比較部と、該モデルデータ比較部で一致したデータ要素及び不一致のデータ要素に対応するGUI部品のメタ情報を前記抽出した操作ログに含まれるGUIメタ情報からそれぞれ抽出するGUI部品抽出部を備えたものが挙げられる。本発明によれば、2つの操作画面の一致点及び不一致点をGUI部品毎に認識することができる。
本発明の好適な態様の一例としては、さらに、前記GUI部品抽出部により抽出されたGUI部品のメタ情報に基づき、第1のモデルデータに係る操作画面と第2のモデルデータの操作画面とを比較する比較画面を生成する比較画面生成部を備えたことを特徴とするものが挙げられる。本発明によれば、2つの操作画面の一致点及び不一致点を比較画面として表示できるのでオペレータにとって使い勝手のよいものとなる。
本発明においてGUIメタ情報の取得手段としては、GUIアプリケーションが動作しているコンピュータ環境上で提供されているアクセシビリティAPI(Application Programming Interface)を用いる方法や、GUIアプリケーションが動作しているコンピュータ環境で提供されているDOM(Document Object Model)を用いてGUIメタ情報を取得する方法などが挙げられる。
また本発明においてGUIメタ情報とモデルデータとの関連づけの手法としては種々のものが挙げられる。本発明の好適な態様の一例としては、前記GUIアプリケーションは、データ供給部から取得するモデルデータの各データ要素を一意に識別するモデルデータ識別子を、該モデルデータを表示するGUI部品のメタ情報として付加する識別子付与部を備えたものが挙げられる。本発明によれば、操作ログ記録部においてはモデルデータ識別子を用いてGUIメタ情報とモデルデータとを関連づければよい。
以上詳述したように、本発明によれば、操作ログとして、GUIアプリケーションが処理対象としているモデルデータと、操作画面のGUIメタ情報とを関連づけて記録するので、GUIメタ情報を用いた検索だけでなく、アプリケーションが処理対象としている情報を用いた検索が可能となるので、柔軟且つ高度な操作ログの活用が可能となる。また、高度なグラフィック機能を有するアプリケーションであっても、操作画面イメージではなく該操作画面イメージの表示で用いられるモデルデータでの検索が可能となるので、操作ログの検索を高精度且つ低負荷で行うことができる。
操作ログ管理装置のシステム構成図 WEBアプリケーションの動作を説明する図 モデルデータのデータ構造を説明する図 GUIメタ情報のデータ構造を説明する図 操作ログ管理装置の動作を説明するフローチャート 操作ログテーブルの一例を示す図 モデルデータのデータ要素とGUI部品情報との対応関係を記述した変換テーブルの一例を示す図 操作ログに記録された操作画面とモデルデータの一例 現在の操作画面とモデルデータの一例 モデルデータの比較・照合処理を説明する一例 比較画面の一例を説明する図 比較画面の他の例を説明する図 比較画面の他の例を説明する図
本発明の一実施の形態に係る操作ログ管理装置について図面を参照して説明する。図1は操作ログ管理装置のシステム構成図である。
本実施の形態に係る操作ログ管理装置100は、図1に示すように、オペレータが操作するコンピュータ端末10上に実装されている。端末10上では、GUIを有するアプリケーションが動作している。オペレータは入力装置11を用いてアプリケーションの操作を行い、操作画面は出力装置12に出力される。入力装置11としては、キーボード、マウス、トラックボール、タッチスクリーン、音声入力用のマイクなどが挙げられる。出力装置12は液晶ディスプレイなどが挙げられる。操作ログ管理装置100は、オペレータが操作するアプリケーションの操作ログを記録すること、及び、オペレータが操作しているアプリケーションの現在の操作画面から一致又は類似する操作画面を操作ログから抽出して表示することを主たる目的とする。また本実施の形態に係る操作ログ管理装置100は、現在の操作画面と操作ログから抽出した操作画面との相違点・一致点を明示することも目的としている。
まず、本実施の形態に係る操作ログ管理装置100が対象としているアプリケーションについて説明する。本実施の形態に係るアプリケーションは、WEBブラウザ200上で動作する所謂「WEBアプリケーション」である。該アプリケーションは、インターネットやイントラネットなどのネットワーク250を介してサーバ260からアプリケーション文書210を取得し、該文書をWEBブラウザで解釈することにより動作する。WEBブラウザ200は、例えばJAVAScriptなどの所定のスクリプト言語の実効環境を備えており、アプリケーション文書210に含まれるスクリプトを実行することによりアプリケーション固有の処理機能を実現する。
本実施の形態に係るアプリケーションは、WEBブラウザ200上で処理されるアプリケーション文書210と、WEBブラウザ200に対してアプリケーション文書210だけでなくアプリケーションで処理対象とする各種データ(以下「モデルデータ」と呼ぶ)を供給するサーバ260とにより構成される。WEBブラウザ200上には、サーバ260から取得したモデルデータを操作画面内の指定された位置に指定された態様で表示する画面表示制御部220が構成される。また、WEBブラウザ200上には、操作画面から導出されるGUIメタ情報に対して後述するモデルデータ識別子を付与するモデルデータ識別子付与部230が構成される。画面表示制御部220及びモデルデータ識別子付与部230は、前述したようにアプリケーション文書210に記述されたスクリプトにより構成される。なお、モデルデータ識別子付与部230をWEBブラウザ200へのプラグインとして構成することにより、既存のWEBアプリケーションに本願発明を容易に適用することができるので好適である。
本実施の形態に係るアプリケーションの一例について図2を参照して説明する。図2に示すアプリケーションは地図アプリケーションの一例であり、操作画面500上のテキストボックス501に地名や住所等を入力すると、その地名等で示される場所の周辺に位置する店舗(例えばレストラン)が検索され、検索結果として操作画面500上に既に表示されている地図上に各店舗の位置を示すマーカー510を表示するものである。このようなアプリケーションでは、テキストボックス501に地名等が入力され検索ボタンが押下されるとアプリケーション文書210により構成された検索機能部(図示省略)が当該地名を緯度経度に変換し、該緯度経度を検索キーとしたクエリー550をサーバ260に発行する(ステップS101)。サーバ260は、クエリー550に含まれる緯度経度で示される位置の周辺に含まれる店舗の情報をデータベース(図示省略)で検索し(ステップS102)、検索結果であるモデルデータ560をWEBブラウザ200に返信する(ステップS103)。画面表示制御部220は、取得したモデルデータ560に基づき該モデルデータ560のデータ要素に対応する店舗等をマーカー510として画面上に表示するよう制御する(ステップS104)。またモデルデータ識別子付与部230は、モデルデータ560の各データ要素の表示に係るGUI部品であるマーカー510のメタ情報に対して、各データ要素を一意に識別するモデルデータ識別子を付与する(ステップS105)。
本実施の形態に係るアプリケーションにおいて、モデルデータ560の記述形態としては種々のものを用いることができるが、例えばXML(Extensible Markup Language)やJSON(JavaScript Object Notation)などが挙げられる。図3にXMLにより上記地図アプリケーションで用いられるモデルデータ560の一例を示す。図3に示すように、モデルデータ560は、複数のデータ要素を含むことができるとともに、図3下側が示すようにデータ要素をツリー構造で表現することにより「パス」の形式で各データ要素を一意に識別することができる。なお、図3上側の図は階層構造が1層である一方、図3下側は多階層のツリー構造であり両者の整合性がとれていないが、これは単に説明の便宜上の問題である点に注意されたい。
本実施の形態に係るアプリケーションにおいて、GUIメタ情報の記述形態としては種々のものを用いることができるが、例えばOSで提供されるアクセシビリティAPI(Application Programming Interface)で取得可能なものや、DOM(Document Object Model)により記述されたものが挙げられる。図4にGUIメタ情報の一例を示す。GUIメタ情報は、複数のGUI部品のメタ情報を含むことができるとともに、各GUI部品をツリー構造で表現することにより「パス」の形式で各GUI部品のメタ情報を一意に識別することができる。各GUI部品のメタ情報には、各種メタ情報が含まれており、該GUI部品に対してモデルデータ560のデータ要素の表示が行われた際には、モデルデータ識別子付与部230により、該データ要素を一意に識別するモデルデータ識別子が付与されている。モデルデータ識別子としては種々のものを用いることができる。例えば、REST(REpresentational State Transfer)APIの規定にしたがって各モデルデータのデータ要素を一意に識別する識別子が挙げられる。
次に、本実施の形態に係る操作ログ管理装置100について再び図1を参照して説明する。図1に示すように、操作ログ管理装置100は、モデルデータ取得部111と、GUIメタ情報取得部112と、操作画面情報取得部113と、操作ログ記録部120と、モデルデータ検索部131と、モデルデータ比較部132と、GUI部品抽出部133と、表示機能部134と、操作ログを蓄積する記憶手段である記憶部150とを備えている。記憶部150には、操作ログテーブル151と、モデルデータ記憶部152と、GUIメタ情報記憶部153と、GUIメタ情報に含まれるGUI部品からモデルデータに含まれるデータ要素を導出するための変換テーブル154とが記憶される。以下、操作ログ管理装置100について図1及び図5のフローチャートを参照して説明する。
モデルデータ取得部111は、WEBブラウザ200とサーバ260間の通信トラヒックを監視し、WEBブラウザ200がサーバ260からモデルデータを取得したことを検出すると、検出したモデルデータを取得する。
GUIメタ情報取得部112は、前記モデルデータ取得部111がモデルデータを取得した際に、該モデルデータに基づき画面表示制御部220が画面表示制御を行った後におけるアプリケーションの操作画面のGUIメタ情報を取得する。ここで取得するGUIメタ情報には、モデルデータ識別子付与部230によりモデルデータ識別子が含まれている点に留意されたい。GUIメタ情報の取得方法としては種々のものを用いることができるが、アクセシビリティAPIを用いる方法やDOMを用いる方法が挙げられる。
操作画面情報取得部113は、前記モデルデータ取得部111がモデルデータを取得する契機となったオペレータの操作情報、操作日時、操作後の操作画面(すなわちモデルデータに基づき画面表示制御部220が画面表示制御を行った後におけるアプリケーションの操作画面)の画面イメージなど各種データ(操作画面情報)を取得する。
操作ログ記録部120は、モデルデータ取得部111で取得したモデルデータと、GUIメタ情報取得部112で取得したGUIメタ情報と、操作画面情報取得部113で取得した各種データとを、関連づけて記憶部150に記録する(図5のステップS201)。本実施の形態では、図6に示すように、操作ログテーブル151という形態で操作ログを保持するものとし、操作ログIDによりモデルデータとGUIメタ情報とを関連づける。なお本実施の形態では、図6に示すように、操作ログテーブル151には、モデルデータ及びGUIメタ情報の実体は保持せずにファイル名などの識別情報のみを保持し、その実体はそれぞれモデルデータ記憶部152、GUIメタ情報記憶部153に記録する。
モデルデータ検索部131は、現在のアプリケーションの操作画面についてモデルデータ取得部112により取得したモデルデータ(便宜的に「現モデルデータ」と呼ぶ。)に対して、現モデルデータに一致又は類似する過去のモデルデータをモデルデータ記憶部152から抽出する(図5のステップS202)。
モデルデータ比較部132は、現モデルデータと、モデルデータ取得部131で抽出したモデルデータとをデータ要素単位で比較し、両モデルデータの一致点及び不一致点を検出する。当該データ要素の比較においては、モデルデータのデータ要素を示すモデルデータパスに基づき一致・不一致を評価する(図5のステップS203)。
GUI部品抽出部133は、モデルデータ比較部132で検出されたモデルデータのデータ要素と、現モデルデータの各データ要素の一致点及び不一致点を検出し、各データ要素に対応するGUI部品を抽出する(図5のステップS204)。具体的には、まず操作ログテーブル151を参照してモデルデータに対応するGUIメタ情報をGUIメタ情報記憶部153から取得する。次に、該GUIメタ情報に含まれる各GUI部品のメタ情報にモデルデータ識別子が含まれる場合には、該GUI部品のメタ情報とモデルデータ識別子により特定されるモデルデータのデータ要素との対応関係を変換テーブル154に追加する。該GUI部品に対応するデータ要素は、モデルデータ識別子により導出する。前記変換テーブル154は、図7に示すように、GUI部品のパス(GUI部品パス)とモデルデータの要素のパス(モデルデータパス)が含まれる。そして、GUI部品抽出部133は、該変換テーブル154を参照して、モデルデータ比較部132で検出した一致しているデータ要素に対応するGUI部品のメタ情報、及び、不一致のデータ要素に対応するGUI部品のメタ情報を抽出する。
表示機能部134は、モデルデータ検索部131で検索されたモデルデータに係る操作画面情報を記憶部150の操作ログテーブル151から取得して、検索結果である操作画面を比較画面として表示する(図5のステップS204)。また表示機能部134は、GUI部品抽出部133により得られた一致・不一致点をオペレータに分かりやすく示すための画面制御を行う。当該画面制御としては種々の形態が考えられる。例えば、(a)現在のアプリケーションの操作画面に対して一致しているGUI部品を強調表示すること、(b)現在のアプリケーションの操作画面に対して、不一致のGUI部品について、現在の操作画面に存在しているものを強調表示すること、(c)現在のアプリケーションの操作画面に対して、不一致のGUI部品について、現在の操作画面に存在していないものを新たに追加表示すること、などが挙げられる。
図8〜図13を参照して本発明に係る操作ログ管理装置100による操作ログの検索及び表示の一例を説明する。まず、記憶部150には操作ログとして図8左の操作画面800に係る操作ログが記録されているとする。ここで、アプリケーションのモデルデータ810のデータ要素811〜814は、操作画面800に表示するGUI部品であるマーカー801〜804に対応しているものとする。一方、オペレータが現在操作しているアプリケーションの操作画面900が図9左に示すものであるとする。
操作ログ管理装置100は、該操作画面900についてモデルデータ取得部111により図9右に示すモデルデータ910を取得する。該モデルデータ910のデータ要素911〜913は、操作画面900に表示するGUI部品であるマーカー901〜903に対応している。モデルデータ検索部131は、モデルデータ910に一致又は類似する過去のモデルデータとして図8右のモデルデータ810を抽出する。次に、モデルデータ比較部132は、図10に示すように、モデルデータ810とモデルデータ910の各モデル要素を比較照合し、一致するモデル要素、不一致のモデル要素を検出する。次に、GUI部品抽出部133は、モデルデータ810及びモデルデータ910の各データ要素に対して対応するGUI部品(ここではマーカー)のメタ情報を抽出する。次に、表示機能部134は、検索結果であるモデルデータ810に係る操作画面である図9左の操作画面800を比較画面として表示する。また、表示機能部134は、現在の操作画面900に対して、過去の操作画面800との一致点・不一致点を種々の形態で表示する。例えば、図11に示すように、現在の操作画面900に含まれるが過去の操作画面800には含まれない要素について、他のGUI部品とは異なる形態で表示することができる。また例えば、図12に示すように、さらに、現在の操作画面900に含まれないが過去の操作画面800には含まれる要素について、他のGUI部品とは異なる形態で表示することができる。また例えば、図13に示すように、過去の操作画面800と現在の操作画面900を並べて表示させ、同一の要素について対応関係を示すように矢印等を表示する。
このように本実施の形態に係る操作ログ管理装置100によれば、操作ログとして、GUIアプリケーションが処理対象としているモデルデータと、操作画面のGUIメタ情報とを関連づけて記録するので、GUIメタ情報を用いた検索だけでなく、アプリケーションが処理対象としている情報を用いた検索が可能となるので、柔軟且つ高度な操作ログの活用が可能となる。また、高度なグラフィック機能を有するアプリケーションであっても、操作画面イメージではなく該操作画面イメージの表示で用いられるモデルデータでの検索が可能となるので、操作ログの検索を高精度且つ低負荷で行うことができる。
以上本発明の一実施の形態について詳述したが本発明はこれに限定されるものではない。すなわち、上記実施の形態で説明したデータ構造等は実装上の一例であり、他のデータ構造等であっても本発明を実施できる。また、上記実施の形態では、アプリケーションの一例としてWEBブラウザ200上で動作するものについて説明したが、専用のクライアントサーバシステムなど他のシステムであってもよい。また、上記実施の形態では、アプリケーションが、WEBブラウザ200上で動作する機能部と、モデルデータをWEBブラウザ250に供給する機能部が異なる装置上に実装されていたが、モデルデータの取得が可能であるならば同一の装置上に実装されていてもよい。また、上記実施の形態では、1つの装置上に操作ログ管理装置100が構成されているが、例えば記憶部150については他の装置上のデータベースに構築するなど各機能部を異なる装置上に分散して配置するようにしてもよい。すなわち、本願発明に係る操作ログ管理装置100を含むシステムの形態は、各種仮想技術や各種分散技術等によって任意に構成することができる。
また、上記実施の形態では、モデルデータ内のデータ要素とGUI部品のメタ情報とを対応づける方法としてアプリケーション側に実装したモデルデータ識別子付与部230を用いているが、実装形態・実装環境によっては該モデルデータ識別子付与部230を操作ログ管理装置100側に設けるようにしてもよい。また、モデルデータ識別子を用いることなくモデルデータ内のデータ要素とGUI部品のメタ情報との対応関係を得ることができるような実装形態・実装環境であるならば、モデルデータ識別子付与部は必ずしも必要ではない点に留意されたい。また、操作ログ管理装置100の記憶部には、モデルデータ内のデータ要素とGUI部品のメタ情報との対応付けを記述した変換テーブル154を保持することにより、重複する処理時の負荷を軽減しているが、重複処理の度に対応付けを導出するようにしてもよい。
100…操作ログ管理装置、111…モデルデータ取得部、112…GUIメタ情報取得部、113…操作画面情報取得部、120…操作ログ記録部、131…モデルデータ検索部、132…モデルデータ比較部、133…GUI部品抽出部、134…表示機能部、150…記憶部、151…操作ログテーブル、152…モデルデータ記憶部、153…GUIメタ情報記憶部、154…変換テーブル、200…WEBブラウザ、210…アプリケーション文書、220…画面表示制御部、230…モデルデータ識別子付与部、250…ネットワーク、260…サーバ

Claims (7)

  1. コンピュータ上で動作するGUI(Graphical User Interface)アプリケーションの操作ログを管理する操作ログ管理装置であって、
    前記GUIアプリケーションは少なくとも画面表示制御部とデータ供給部とに分割されており且つ画面表示制御部はデータ供給部から取得したモデルデータに基づき画面表示を制御するものであり、
    操作ログ管理装置は、GUIアプリケーションの操作画面に係るGUIメタ情報を取得するGUIメタ情報取得部と、操作画面の表示で用いられたモデルデータを取得するモデルデータ取得部と、取得したGUIメタ情報とモデルデータとを関連づけて操作ログとして所定の記憶部に記録する操作ログ記録部と
    前記モデルデータ取得部により取得した第1のモデルデータと前記記憶部に記録されている第2のモデルデータとの類似性を評価することにより前記記憶部から操作ログを抽出する操作ログ検索部とを備えた
    ことを特徴とする操作ログ管理装置。
  2. 前記モデルデータ取得部により取得した第1のモデルデータと前記操作ログ検索部により抽出した操作ログに係る第2のモデルデータとの一致点及び不一致点を各モデルデータのデータ要素毎に比較するモデルデータ比較部と、
    該モデルデータ比較部で一致したデータ要素及び不一致のデータ要素に対応するGUI部品のメタ情報を前記抽出した操作ログに含まれるGUIメタ情報からそれぞれ抽出するGUI部品抽出部を備えた
    ことを特徴とする請求項記載の操作ログ管理装置。
  3. 前記GUI部品抽出部により抽出されたGUI部品メタ情報に基づき、第1のモデルデータに係る操作画面と第2のモデルデータの操作画面とを比較する比較画面を生成する比較画面生成部を備えた
    ことを特徴とする請求項記載の操作ログ管理装置。
  4. 前記GUIメタ情報取得部は、GUIアプリケーションが動作しているコンピュータ環境上で提供されているアクセシビリティAPI(Application Programming Interface)を用いてGUIメタ情報を取得する
    ことを特徴とする請求項1乃至何れか1項記載の操作ログ管理装置。
  5. 前記GUIメタ情報取得部は、GUIアプリケーションが動作しているコンピュータ環境で提供されているDOM(Document Object Model)を用いてGUIメタ情報を取得する
    ことを特徴とする請求項1乃至何れか1項記載の操作ログ管理装置。
  6. 前記GUIアプリケーションは、データ供給部から取得するモデルデータの各データ要素を一意に識別するモデルデータ識別子を、該モデルデータを表示するGUI部品のメタ情報として付加する識別子付与部を備えた
    ことを特徴とする請求項1乃至何れか1項記載の操作ログ管理装置。
  7. コンピュータ上で動作するGUI(Graphical User Interface)アプリケーションの操作ログを管理する操作ログ管理方法であって、
    前記GUIアプリケーションは少なくとも画面表示制御部とデータ供給部とに分割されており且つ画面表示制御部はデータ供給部から取得したモデルデータに基づき画面表示を制御するものであり、
    操作ログ管理装置は、GUIアプリケーションの操作画面情報と、操作画面に係るGUIメタ情報と、操作画面の表示で用いられたモデルデータとを取得し、取得した操作画面情報とGUIメタ情報とモデルデータとを関連づけて操作ログとして所定の記憶部に記録し、
    前記操作画面の表示で用いられた第1のモデルデータと前記記憶部に記録されている第2のモデルデータとの類似性を評価することにより前記記憶部から操作ログを抽出する
    ことを特徴とする操作ログ管理方法。
JP2013251909A 2013-12-05 2013-12-05 操作ログ管理装置及び方法 Expired - Fee Related JP6212373B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2013251909A JP6212373B2 (ja) 2013-12-05 2013-12-05 操作ログ管理装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2013251909A JP6212373B2 (ja) 2013-12-05 2013-12-05 操作ログ管理装置及び方法

Publications (2)

Publication Number Publication Date
JP2015109001A JP2015109001A (ja) 2015-06-11
JP6212373B2 true JP6212373B2 (ja) 2017-10-11

Family

ID=53439295

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2013251909A Expired - Fee Related JP6212373B2 (ja) 2013-12-05 2013-12-05 操作ログ管理装置及び方法

Country Status (1)

Country Link
JP (1) JP6212373B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7359218B2 (ja) * 2019-11-01 2023-10-11 日本電信電話株式会社 管理装置、管理方法及び管理プログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3548065B2 (ja) * 1999-11-15 2004-07-28 インターナショナル・ビジネス・マシーンズ・コーポレーション リモートコントロールシステム、サーバ・クライアントシステム、製品端末機器の制御用サーバ、製品端末機器操作方法、機器情報共有方法、および記憶媒体
JP2006277290A (ja) * 2005-03-29 2006-10-12 Hitachi Ltd 操作支援装置及び方法、並びに業務ナビゲーションシステム
WO2009066762A1 (ja) * 2007-11-21 2009-05-28 Nec Corporation ユーザインタフェース認識装置及びユーザインタフェース認識方法
JP2010146483A (ja) * 2008-12-22 2010-07-01 Nec Corp 操作支援システム、操作支援方法および操作支援プログラム
JP2012088940A (ja) * 2010-10-20 2012-05-10 Nec System Technologies Ltd 情報処理装置、情報処理方法、及びプログラム

Also Published As

Publication number Publication date
JP2015109001A (ja) 2015-06-11

Similar Documents

Publication Publication Date Title
US10237295B2 (en) Automated event ID field analysis on heterogeneous logs
US12003591B2 (en) Automatic discovery and registration of service applications for files introduced to a user interface
US10366154B2 (en) Information processing device, information processing method, and computer program product
US10180984B2 (en) Pivot facets for text mining and search
JP4911438B2 (ja) 操作監視装置
US10878020B2 (en) Automated extraction tools and their use in social content tagging systems
US20140359488A1 (en) Centralized Management of Link Data for Multiple Applications, Computers and Resources, through Operating Systems and Networked Storage Services
US20180074818A1 (en) Source code mapping through context specific key word indexes and fingerprinting
US8682935B2 (en) System and method for application navigation
CN111866158B (zh) 路由方法、装置、计算机设备和存储介质
KR20130086005A (ko) 다수의 장치들에서 데이터 검색 방법 및 장치
CN113688288B (zh) 数据关联分析方法、装置、计算机设备和存储介质
US20130060805A1 (en) Methods and systems for detecting website orphan content
US8327329B2 (en) Application dehydration, synchronization, and rehydration
US20130346405A1 (en) Systems and methods for managing data items using structured tags
CN107291951B (zh) 数据处理方法、装置、存储介质和处理器
KR20210040310A (ko) 지도 검색 테스트 방법, 장치, 기기, 저장매체 및 프로그램
CN105550183A (zh) 一种网页中识别信息的标识方法及电子设备
JP6212373B2 (ja) 操作ログ管理装置及び方法
CN116414854A (zh) 数据资产查询方法、装置、计算机设备和存储介质
CN104834661B (zh) 管理方法、管理设备和管理***
JP6123344B2 (ja) 画面プログラム生成装置及びその画面プログラム生成方法、情報処理装置、並びにコンピュータ・プログラム
JP5931804B2 (ja) Gui部品メタ情報付与装置およびその方法、並びに操作ログ自動生成装置
CN113901332B (zh) 任职历程信息挖掘方法和装置、以及存储介质和电子设备
JP2013205904A (ja) サーバ装置、アノテーションシステム、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20151224

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20161019

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20161102

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170510

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170721

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170727

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20170906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20170915

R150 Certificate of patent or registration of utility model

Ref document number: 6212373

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees