JP6021272B2 - 情報処理システムおよび情報処理方法 - Google Patents

情報処理システムおよび情報処理方法 Download PDF

Info

Publication number
JP6021272B2
JP6021272B2 JP2014140115A JP2014140115A JP6021272B2 JP 6021272 B2 JP6021272 B2 JP 6021272B2 JP 2014140115 A JP2014140115 A JP 2014140115A JP 2014140115 A JP2014140115 A JP 2014140115A JP 6021272 B2 JP6021272 B2 JP 6021272B2
Authority
JP
Japan
Prior art keywords
user
information processing
data
graph
processing system
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2014140115A
Other languages
English (en)
Other versions
JP2016018351A (ja
Inventor
彩香 池嶋
彩香 池嶋
結城 明
明 結城
航 遠藤
航 遠藤
正登 丹波
正登 丹波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Document Solutions Inc
Original Assignee
Kyocera Document Solutions Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Document Solutions Inc filed Critical Kyocera Document Solutions Inc
Priority to JP2014140115A priority Critical patent/JP6021272B2/ja
Priority to US14/792,078 priority patent/US10061485B2/en
Publication of JP2016018351A publication Critical patent/JP2016018351A/ja
Application granted granted Critical
Publication of JP6021272B2 publication Critical patent/JP6021272B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0484Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/002D [Two Dimensional] image generation
    • G06T11/20Drawing from basic elements, e.g. lines or circles
    • G06T11/206Drawing of charts or graphs
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/048Indexing scheme relating to G06F3/048
    • G06F2203/04806Zoom, i.e. interaction techniques or interactors for controlling the zooming operation

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、ナチュラル・ユーザー・インターフェイス(NUI)を用いた情報処理システムおよび情報処理方法に関する。
近年、3次元でのユーザーからの入力を認識可能な、モーションキャプチャーデバイスなどの入力デバイスと、3次元での画像出力が可能な、空中ディスプレイやHMD(Head Mount Display)などの出力デバイスとを用いて、コンピューターとユーザーとの間で自然で直感的な遣り取りを行えるNUIが実現されてきている。
また、情報処理装置に蓄えられた大量のデータを整理してユーザーに分かり易く提示する技術が開発されてきている。
例えば、特許文献1では、ユーザーが画面に時系列で表示される多くのデータを見やすいように、そのデータが過去にどのタイムスケールで閲覧されたかの記録に基づき、自動的にタイムスケールが切り替えられて時系列データが表示されるという技術が開示されている。
また、例えば、特許文献2では、携帯電話端末において、自端末の通信の履歴情報に基づいて通信パターンを抽出し、抽出した通信パターンをカレンダーの各日に対応付けて視覚的により分かり易く表示する技術が開示されている。そして、特許文献2の技術では、通信の履歴情報を統計処理し、単位期間ごとの通信量を折れ線グラフで表示することも行われている。
また、例えば、特許文献3では、画像形成装置を用いて、送受信される大量の電子メールを、スレッドごとに管理する技術が開示されている。
特開2012−173846号公報 特開2007−110199号公報 特開2012−8635号公報
上述したように、大量のデータを扱う情報処理装置では、蓄えられた大量のデータを分かり易くユーザーに提示するために様々な工夫がなされてきた。
しかし、NUIを用いる情報処理装置において、大量のデータを整理して分かり易くユーザーに提示したり、ユーザーが提示されたデータを操作したりする仕組みには改善の余地があった。
以上のような事情に鑑み、本発明の目的は、ナチュラル・ユーザー・インターフェイスを用いて大量のデータを整理し分かり易くユーザーに提示でき、提示されたデータをユーザーが直感的に操作できる情報処理システムおよび情報処理方法を提供することにある。
上記目的を達成するため、本発明の一形態に係る情報処理システムは、情報処理装置と、表示装置と、操作検知装置とを含み、前記情報処理装置は、N(Nは3以上の整数)種類の属性を有するデータを複数記憶する記憶部と、(N−1)以上の互いに異なる前記属性を(N−1)次元空間の軸にそれぞれ割り当て、前記記憶された複数のデータを、前記複数のデータに各々対応する点として前記(N−1)次元空間上にプロットしたグラフを生成し、前記プロットされた複数のデータを、前記(N−1)以上の属性とは異なる他の1つの属性を用いてグループに分け、前記複数の点を、前記グループごとに識別可能なように処理する制御部とを有し、前記表示装置は、前記情報処理装置の前記制御部が処理したグラフを表示し、前記操作検知装置は、ユーザーが行う動作を検知し、前記情報処理装置の前記制御部は、更に、前記操作検知装置が検知した前記ユーザーの動作に基づいて、前記表示装置に表示させる前記グラフを移動、回転、拡大/縮小させて表示させる。
そのため、大量のデータを整理し分かり易くユーザーに提示でき、提示されたデータをユーザーが直感的に操作できる。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記情報処理装置の前記制御部は、前記グループごとに、前記グループに含まれるデータを表す前記点が乗る線を生成することにより、前記複数の点を、前記グループごとに識別可能とする構成でもよい。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記表示装置は、前記ユーザーの手指と重ね合わせて、前記グラフを立体的に前記ユーザーに視認させることが可能であり、前記操作検知装置は、前記ユーザーの手指の3次元空間内での絶対位置を検知可能であり、前記情報処理装置の前記制御部は、前記ユーザーが立体的に表示された前記グラフを直接触って操作する感覚が得られるナチュラル・ユーザー・インターフェイスにより前記ユーザーとの遣り取りを行う構成でもよい。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記情報処理装置の前記制御部は、前記操作検知装置により検知された、前記ユーザーが前記軸方向に手を振る動作により、前記ユーザーが操作対象とする前記線を選択する構成でもよい。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記情報処理装置の前記制御部は、前記操作検知装置により検知された、前記ユーザーが前記選択した線をつまむ動作により、前記ユーザーにつままれた箇所に応じた前記線上のデータを選択する構成でもよい。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記情報処理装置の前記制御部は、前記操作検知装置により検知された、前記ユーザーが前記選択した線をつまむ動作により、前記ユーザーにつままれた箇所に応じた前記線上のデータの内容を、前記ユーザーがつまんだ箇所の近傍に表示させる構成でもよい。
上記目的を達成するため、本発明の一形態に係る情報処理システムでは、前記複数のデータは、電子メールであり、前記(N−1)以上の互いに異なる属性は、前記電子メールの送受信時刻、前記電子メールの単位時間当り送受信頻度、および前記電子メールの宛先であり、前記他の1つの属性は、前記電子メールの件名であってもよい。
上記目的を達成するため、本発明の一形態に係る情報処理方法は、記憶部に複数記憶されたN(Nは3以上の整数)種類の属性を有するデータの、(N−1)以上の互いに異なる前記属性を(N−1)次元空間の軸にそれぞれ割り当て、前記記憶された複数のデータを、前記複数のデータに各々対応する点として前記(N−1)次元空間上にプロットしたグラフを生成し、前記プロットされた複数のデータを、前記(N−1)以上の属性とは異なる他の1つの属性を用いてグループに分け、前記複数の点を、前記グループごとに識別可能なように処理し、前記処理したグラフを表示装置に表示させ、操作検知装置が検知した、ユーザーの動作に基づき、前記表示装置に表示させた前記グラフを移動、回転、拡大/縮小させて表示させる。
以上のように、本発明によれば、ナチュラル・ユーザー・インターフェイスを用いて大量のデータを整理し分かり易くユーザーに提示でき、提示されたデータをユーザーが直感的に操作できる。
大量の電子メールのデータを、メールの件名に基づくスレッドごとに曲線で繋いでストリームを表し、送受信された時刻(t)、送受信の頻度、およびメールの宛先人数を3軸に取り、3次元のグラフ上にプロットしたグラフである。 特定の件名に関するストリームのうち、送受信の頻度の高い部分に絞ってメールを探す様子を示す図である。 本発明の一実施形態に係る情報処理装置10を含めた情報処理システム1の構成図である。 情報処理装置10が一般的なコンピューターにより構成される場合の構成図である。 ユーザーがピンチインやピンチアウトのジェスチャーを行う様子を示す図である。 ユーザーが親指と人差し指を伸ばした状態で、X軸、Y軸、またはZ軸回りに手を回転させるジェスチャーを行う様子を示す図である。 頻度軸回りに、図1に示した3次元グラフを90度回転させた状態を示す図である。 ユーザーが3次元グラフの軸に並行に手を振るジェスチャーを行う様子を示す図である。 ユーザーが選択したストリーム上で特定の箇所をつまむジェスチャーを行う様子を示す図である。 ユーザーが「案件A」の件名を持つストリームを選択した後、最も頻度の高い箇所をつまみ、つまんだ箇所の近傍に、つまんだ箇所にあるデータの内容(この例では、電子メールの内容)がプレビュー表示されている例を示す図である。
以下、図面を参照しながら、本発明の実施形態を説明する。
[本発明のポイント]
まず、本発明のポイントを説明する。本発明の第1のポイントは、NUIでユーザーが操作し易いように、大量のデータを扱い易い単位にまとめたことである。なお、以下の説明では、大量のデータを扱いやすくするための単位を「ストリーム」と呼ぶ。
例えば、大量のデータが、あるユーザーが保存している過去の多くの電子メールである場合を考える。
この場合、大量にある電子メールのデータを、3次元のグラフ上に、1件ずつプロットすることが出来る。点でプロットしただけでは、散布図となり、ユーザーが大量の点を区別して認識することは困難である。そこで、電子メールのデータをメールの件名に基づくスレッドごと(グループごと)に曲線で繋いでストリームとして表現することで、大量のデータをユーザーに分かり易く提示することが出来る。
なお、ここでは、ストリームごとの曲線としたが、これに限らず、グループごとにプロットした点を色分けしたりして、区別できるように表示するものであってもよい。
図1は、大量の電子メールのデータを、メールの件名に基づくスレッドごとに曲線で繋いでストリームを表し、送受信された時刻(t)、送受信の頻度、およびメールの宛先人数を3軸に取り、3次元のグラフ上にプロットしたグラフである。
なお、ストリームという呼称からわかるように、3軸のうちの1軸は、時間の経過とともにデータが1列に並ぶような、データの処理に関する時刻を表したものであってもよい。本発明の情報処理装置は、データが持つ様々な属性から、データをグラフ上で1列に並べられる属性をデータ解析により発見することが出来る。このように、1列で並ぶように、データを例えば時系列でプロットすることにより、ユーザーは時系列での変化を容易に把握することが出来る。
グラフでは、各ストリームの曲線は、区別できるように、互いに異なる色や線種で描かれていてもよい。
なお、ここでは、ある特定の電子メール1通の送受信頻度として、例えば、その電子メールが送受信された時刻を中心としてその前後、特定の時間内に送受信された同じ件名の電子メールの数を採用することが出来る。
各電子メールが持つ、上述した3つの属性を用いて3次元グラフ上にプロットした上で、電子メールの件名に基づいて関連するデータを紐付け、曲線で繋いでストリームとして表すことにより、ユーザーは、大量のデータを視覚的に容易に区別して把握することが出来る。
なお、上記の説明では、1つの具体例として、3次元空間に大量のデータがそれぞれ持つ3つの属性を軸としてグラフを描き、さらにもう一つの属性を用いてグループ分けしてストリームを形成した。
一般的にはN(Nは3以上の整数)種類の属性をそれぞれのデータが持つ大量のデータを(N−1)次元空間上にグラフ化して他の1つの属性でグラフ上にプロットされた大量のテータをグループ分けすることが出来る。
そして、本発明の第2のポイントは、NUI用に、ストリームごとにまとめた大量のデータをグラフ表示し、ユーザーが検索したいデータを曖昧な検索条件からも検索できるようにしたことである。
例えば、ユーザーが昔のメールを探すときに、正確な時期やキーワードは覚えていないが、そのメールを送受信した時期を、「プロジェクトが佳境に入っており、とても頻繁にメールの送受信を行った頃」と曖昧に覚えていた場合、図2に示すように、特定の件名(例えば「議事録」)に関するストリームのうち、送受信の頻度の高い部分に絞って当たりを付けてメールを探すことにより、目的のメールを容易に見いだすことが出来る。
このように、本発明では、従来、目的のメールを検索するときに、差出人や、宛先、キーワードなどを指定して行っていた検索より、曖昧な条件でも検索を行うことが出来る。
目的のデータを見いだした後は、例えば、データが電子メールである場合、通常のメーラーを用いてメールに返信したりメールを転送したりする構成でもよい。
なお、上記の説明では、グラフは3次元であるとしたが、これに限らず、ユーザーがデータを区別し易いものであれば、例えば2次元のグラフであってもよい。
以上、本発明のポイントについて説明した。
[システムの構成]
次に、本発明の一実施形態に係る情報処理装置を含めた情報処理システムの構成を説明する。図3は、本発明の一実施形態に係る情報処理装置10を含めた情報処理システム1の構成図である。
情報処理システム1は、情報処理装置10、HMD(表示装置)20、およびモーションキャプチャーデバイス(操作検知装置)30を含んで構成される。なお、HMD20およびモーションキャプチャーデバイス30は一体として構成されていてもよい。
情報処理装置10は、電子メールなどの大量のデータを記憶しており、ユーザーの指示などに基づいて、記憶しているデータから3次元のグラフを生成し、HMD20に表示させる。
また、情報処理装置10は、モーションキャプチャーデバイス30が検知したユーザーの動きやジェスチャーに基づき、HMD20に表示させている3次元グラフの表示を変化させる。すなわち、ユーザーが目の前に立体表示されたグラフを直接自分の手指で触って操作する感覚を得られるようにして、ナチュラル・ユーザー・インターフェイスを実現する。情報処理装置10は、具体的には、PC(Personal Computer)やテレビジョン受像器などの家電製品であってもよい。
HMD20は、ユーザーが頭部に装着する眼鏡型や帽子型のディスプレイである。ユーザーが目の前に表示された3次元グラフを直接触って操作するような、より自然なNUIを実現するために、ユーザーには、3次元表示されるグラフと、グラフを操作する自分の手や指とが重なって視認されることが好ましい。
そのため、HMD20として、外部の景色をユーザーが見ることが出来ない非透過型ではなく、HMD20に装着されたビデオカメラで外部の景色を撮影し、撮影した外部の景色と3次元グラフを重ねて表示させる(ビデオシースルー)HMDや、ユーザーが直接、外の景色を見られる(光学シースルー)HMDなどを用いることが出来る。
モーションキャプチャーデバイス30は、ユーザーが3次元グラフを見ながら行う手や指の動作やジェスチャーを検知する。すなわち、モーションキャプチャーデバイス30は、ユーザーが行う動作やジェスチャーにおける手指の絶対位置を検出可能であってもよい。モーションキャプチャーデバイス30は、情報処理装置10に検知したジェスチャーを伝える。
なお、上記の説明では、情報処理装置10、HMD20、およびモーションキャプチャーデバイス30を別個の機材とし、これらを組み合わせて情報処理システム1を構成するとしたが、この構成に限らず、情報処理装置10が、HMD20およびモーションキャプチャーデバイス30を含む構成でもよい。
なお、上記の構成に限らず、3次元グラフの映像を空中に浮かべることが可能なダイナミックディスプレイ技術と、高速3Dジェスチャー認識技術とを組み合わせて、ユーザーに対し、3次元空間の中で実際にグラフに直接手を触れて操作を行っているような感覚を与えるものであってもよい。
以上、本発明の一実施形態に係る情報処理装置を含めた情報処理システムの構成を説明した。
[情報処理装置の構成]
次に、情報処理装置10のハードウェア構成について説明する。情報処理装置10は、専用のハードウェアやソフトウェアにより構成されていてもよいし、一般的なコンピューターにより構成されてもよい。情報処理装置10が一般的なコンピューターにより構成される場合の構成図を図4に示す。
情報処理装置10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、入力インターフェイス部14、ネットワークインターフェイス部15、表示インターフェイス部16、および記憶部17を有し、これら各ブロックがバス18を介して接続されている。
ROM12は、各種の処理を実行するためのファームウェア等の複数のプログラムやデータを固定的に記憶する。RAM13は、CPU11の作業用領域として用いられ、OS(Operating System)、実行中の各種アプリケーション、処理中の各種データを一時的に保持する。
記憶部17は、例えばHDD(Hard Disk Drive)や、フラッシュメモリー、その他の不揮発性メモリーである。記憶部17には、OSや各種アプリケーション、各種データが記憶される。
ネットワークインターフェイス部15は、ネットワーク上の機器と情報のやりとりを行う為、ネットワークと結ばれている。
CPU11は、ROM12や記憶部17に格納された複数のプログラムのうち、入力インターフェイス部14から与えられる命令に対応するプログラムをRAM13に展開し、この展開されたプログラムにしたがって、表示インターフェイス部16及び記憶部17を適宜制御する。
CPU11がプログラムを実行することにより、記憶部17に記憶された大量のデータを3次元グラフで表示するためにデータを整理するデータ処理部11aが機能ブロックとして構成される。また、CPU11は、入力インターフェイス部14が受け付けたジェスチャーに応じた処理を実行する。
入力インターフェイス部14は、モーションキャプチャーデバイス30が検知したユーザーの動作やジェスチャーを受け付ける。
表示インターフェイス部16は、HMD20に3次元グラフを表示するためのデータを出力する。
以上、情報処理装置10のハードウェア構成について説明した。
[ジェスチャーおよび表示の例]
次に、ユーザーが目の前に表示された3次元グラフを操作するためのジェスチャーの例およびジェスチャーにより変化した表示の例を説明する。
図5から図10は、ユーザーが3次元グラフの表示を操作するためのジェスチャーの例を示す図および特定のジェスチャーにより変更された3次元グラフの例を示す図である。
図5に示すように、ユーザーがピンチインやピンチアウトのジェスチャーを行うことにより、情報処理装置10のデータ処理部11aは、3次元グラフの表示範囲を拡大したり縮小したりする。
図6に示すように、ユーザーが親指と人差し指を伸ばした状態で、X軸、Y軸、またはZ軸回りに手を回転させたり捻ったりするジェスチャーを行うことにより、情報処理装置10のデータ処理部11aは、3次元グラフを支持された軸の回りに回転させる。
図7は、頻度軸回りに、図1に示した3次元グラフを90度回転させた状態を示す図である。図7では、宛先人数の軸が手前に来るので、宛先人数が100人規模のストリームと、10人規模のストリームと、数人規模のストリームとを容易に区別することが出来る。
図8に示すように、ユーザーが3次元グラフの軸に並行に手を振るジェスチャーを行うことにより、情報処理装置10のデータ処理部11aは、手を振った軸に並行な方向に並んだ複数のストリームを、詳細に検索する対象の候補として特定する。
図9に示すように、ユーザーが選択したストリーム上で特定の箇所をつまむジェスチャーを行うことにより、情報処理装置10のデータ処理部11aは、つまんだ位置に対応するストリームを詳細な検索の対象として特定すると共に、つまんだ位置に対応するデータを特定する。
図10は、ユーザーが「案件A」の件名を持つストリームを選択した後、最も頻度の高い箇所をつまみ、つまんだ箇所の近傍に、つまんだ箇所にあるデータの内容(この例では、電子メールの内容)がプレビュー表示されている例を示す図である。
なお、ユーザーがつまもうとする箇所の近傍にあるデータの内容が、予め各データに応じた位置にプレビュー画像として複数表示されており、ユーザーは、それらのプレビュー画像を見ることにより、目的とするデータを選択する構成でもよい。
以上、ユーザーが目の前に表示された3次元グラフを操作するためのジェスチャーの例およびジェスチャーにより変化した表示の例を説明した。
[3軸およびストリームとして用いる項目例]
次に、複数の属性を持ち、コンピューターにより検索可能で有る大量のデータを3次元グラフに表す際に、グラフの3軸およびストリームの項目として採用することが出来る例を説明する。
例えば、大量のデータがブラウザの閲覧履歴である場合、サイトを閲覧した時刻、サイトランク、およびそのサイトを訪れる頻度を3軸にとり、1つのタブの閲覧履歴または1つのサイトの閲覧履歴をストリームとすることが出来る。
また、例えば、大量のデータが音楽データである場合、音楽が発表された時期、ヒット度、ユーザーが与えた評価、およびジャンルのうち3つを軸の項目として採用し、アーティスト名またはジャンル、ヒットチャートの上位10個などをストリームとすることが出来る。但し、軸にジャンルを採用した場合、ストリームにはジャンルを採用することは出来ない。
また、例えば、大量のデータがドキュメントである場合、ドキュメントが作成・更新された時刻、ドキュメントの更新頻度、およびジャンルを3軸にとり、作成者名、フォルダなどの分類名、文書の種類のうちの1つをストリームとすることが出来る。
また、例えば、大量のデータが録画されたビデオである場合、録画時刻、録画した番組のヒット度、評価、およびジャンルのうちの3つを軸に採用し、番組名またはジャンルをストリームとして採用することが出来る。
また、例えば、大量のデータがネットショッピングサイトの商品である場合、商品が掲載された時刻、商品のヒット度、評価、ジャンルのうち3つを軸に採用し、商品のブランド名やシリーズ名、ジャンルのうち1つをストリームとして採用することが出来る。
また、例えば、大量のデータが写真である場合、写真が撮影された時刻、撮影の頻度、および写真の評価を3軸にとり、写真に写っている、人物の名前や場所(GPSによる位置情報なども含む)、ユーザーが作成したアルバム名などをストリームとして採用することが出来る。
以上、大量のデータを3次元グラフに表す際に、グラフの3軸およびストリームの項目として採用することが出来る例を説明した。
[補足事項]
その他、本発明は、上述の実施形態にのみ限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。
1 … 情報処理システム
10 … 情報処理装置
11 … CPU
12 … ROM
13 … RAM
14 … 入力インターフェイス部
15 … ネットワークインターフェイス部
16 … 表示インターフェイス部
17 … 記憶部
18 … バス
20 … HMD
30 … モーションキャプチャーデバイス

Claims (8)

  1. 情報処理装置と、表示装置と、操作検知装置とを含み、
    前記情報処理装置は、
    種類の属性を有するデータを複数記憶する記憶部と、
    4種類の互いに異なる前記属性を次元空間の軸にそれぞれ割り当て、
    前記記憶された複数のデータを、前記複数のデータに各々対応する点として前記次元空間上にプロットしたグラフを生成し、
    前記プロットされた複数のデータを、前記4種類の属性のうちの3つの属性とは異なる他の1つの属性を用いてグループに分け、
    前記グループごとに、前記グループに含まれるデータを表す前記点が乗る線を生成することにより、前記複数の点を、前記グループごとに識別可能なように処理する制御部と
    を有し、
    前記表示装置は、前記情報処理装置の前記制御部が処理したグラフを表示し、
    前記操作検知装置は、ユーザーの手指の3次元空間内での絶対位置を検知可能であって、前記ユーザーが行う動作を検知し、
    前記情報処理装置の前記制御部は、更に、前記操作検知装置が検知した前記ユーザーの動作に基づいて、前記表示装置に表示させる前記グラフを移動、回転、拡大/縮小させ、
    前記ユーザーがつまもうとする箇所の近傍にあるデータの内容を、前記近傍にあるデータに応じた位置にプレビュー画像として表示させる
    て表示させる
    情報処理システム。
  2. 請求項1に記載の情報処理システムであって、
    前記情報処理装置の前記制御部は、
    前記操作検知装置により検知された、前記ユーザーが前記線をつまむ動作により、前記ユーザーにつままれた箇所に応じた前記線上のデータの内容を、前記ユーザーがつまんだ箇所の近傍にプレビュー画像として表示させる
    情報処理システム。
  3. 請求項2に記載の情報処理システムであって、
    前記表示装置は、前記ユーザーの手指と重ね合わせて、前記グラフを立体的に前記ユーザーに視認させることが可能であり、
    前記操作検知装置は、前記ユーザーの手指の3次元空間内での絶対位置を検知可能であり、
    前記情報処理装置の前記制御部は、前記ユーザーが立体的に表示された前記グラフを直接触って操作する感覚が得られるナチュラル・ユーザー・インターフェイスにより前記ユーザーとの遣り取りを行う
    情報処理システム。
  4. 請求項3に記載の情報処理システムであって、
    前記情報処理装置の前記制御部は、
    前記操作検知装置により検知された、前記ユーザーが前記軸方向に手を振る動作により、前記ユーザーが操作対象とする前記線を特定する
    情報処理システム。
  5. 請求項4に記載の情報処理システムであって、
    前記情報処理装置の前記制御部は、
    前記操作検知装置により検知された、前記ユーザーが前記選択した線をつまむ動作により、前記ユーザーにつままれた箇所に応じた前記線上のデータを特定する
    情報処理システム。
  6. 請求項1から5のうちいずれか1項に記載の情報処理システムであって、
    前記複数のデータは、電子メールであり、
    前記4種類の属性のうちの3つの属性は、
    前記電子メールの送受信時刻、
    前記電子メールの単位時間当り送受信頻度、および
    前記電子メールの宛先であり、
    前記3つの属性とは異なる他の1つの属性は、前記電子メールの件名である
    情報処理システム。
  7. 記憶部に複数記憶された4種類の属性を有するデータを3次元空間の軸にそれぞれ割り当て、
    前記記憶された複数のデータを、前記複数のデータに各々対応する点として前記3次元空間上にプロットしたグラフを生成し、
    前記プロットされた複数のデータを、前記4種類の属性のうちの3つの属性とは異なる他の1つの属性を用いてグループに分け、
    前記グループごとに、前記グループに含まれるデータを表す前記点が乗る線を生成することにより、前記複数の点を、前記グループごとに識別可能なように処理し、
    前記処理したグラフを表示装置に表示させ、
    ユーザーの手指の3次元空間内での絶対位置を検知可能な操作検知装置が検知した、ユーザーの動作に基づき、前記表示装置に表示させた前記グラフを移動、回転、拡大/縮小させて表示させ、
    前記ユーザーがつまもうとする箇所の近傍にあるデータの内容を、前記近傍にあるデータに応じた位置にプレビュー画像として表示させる
    情報処理方法。
  8. 請求項7に記載の情報処理方法であって、
    前記操作検知装置により検知された、前記ユーザーが前記線をつまむ動作により、前記ユーザーにつままれた箇所に応じた前記線上のデータの内容を、前記ユーザーがつまんだ箇所の近傍にプレビュー画像として表示させる
    情報処理方法。
JP2014140115A 2014-07-08 2014-07-08 情報処理システムおよび情報処理方法 Expired - Fee Related JP6021272B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014140115A JP6021272B2 (ja) 2014-07-08 2014-07-08 情報処理システムおよび情報処理方法
US14/792,078 US10061485B2 (en) 2014-07-08 2015-07-06 Information processing system that organizes and clearly presents mass data to user, information processing methods, and recording medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014140115A JP6021272B2 (ja) 2014-07-08 2014-07-08 情報処理システムおよび情報処理方法

Publications (2)

Publication Number Publication Date
JP2016018351A JP2016018351A (ja) 2016-02-01
JP6021272B2 true JP6021272B2 (ja) 2016-11-09

Family

ID=55067760

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014140115A Expired - Fee Related JP6021272B2 (ja) 2014-07-08 2014-07-08 情報処理システムおよび情報処理方法

Country Status (2)

Country Link
US (1) US10061485B2 (ja)
JP (1) JP6021272B2 (ja)

Families Citing this family (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP6511860B2 (ja) * 2015-02-27 2019-05-15 富士通株式会社 表示制御システム、グラフ表示方法およびグラフ表示プログラム
JP6532762B2 (ja) * 2015-06-02 2019-06-19 株式会社東芝 情報生成システム、装置、方法、及びプログラム
US10281976B2 (en) * 2015-07-07 2019-05-07 Seiko Epson Corporation Display device, control method for display device, and computer program
GB2556068A (en) * 2016-11-16 2018-05-23 Chartify It Ltd Data interation device
US10311608B2 (en) * 2016-12-08 2019-06-04 Microsoft Technology Licensing, Llc Custom multi axis chart visualization
JP7424048B2 (ja) 2019-12-25 2024-01-30 富士フイルムビジネスイノベーション株式会社 情報処理装置及びプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5664077A (en) * 1993-09-06 1997-09-02 Nec Corporation Three-dimensional graph displaying system
JP3613554B2 (ja) * 2000-08-24 2005-01-26 インターナショナル・ビジネス・マシーンズ・コーポレーション データ表示方法、該データ表示を行うためのコンピュータ・システムおよび記録媒体
JP4353933B2 (ja) 2005-10-11 2009-10-28 ソニー・エリクソン・モバイルコミュニケーションズ株式会社 通信装置およびコンピュータプログラム
AU2006332488A1 (en) * 2005-12-30 2007-07-12 Apple Inc. Portable electronic device with multi-touch input
JP5088731B2 (ja) * 2007-09-11 2012-12-05 株式会社 Jeol Resonance 多変量解析装置及びコンピュータプログラム
JP5348754B2 (ja) * 2008-02-12 2013-11-20 西日本電信電話株式会社 検索支援装置及び方法、ならびに、コンピュータプログラム
JP2009199240A (ja) * 2008-02-20 2009-09-03 Yokogawa Electric Corp トレンドグラフ表示装置
JP2012008635A (ja) 2010-06-22 2012-01-12 Konica Minolta Business Technologies Inc 情報処理装置
JP5500655B2 (ja) 2011-02-18 2014-05-21 Kddi株式会社 時系列データを最適なタイムスケールで表示するユーザインタフェースプログラム、端末、システム及び方法
JP5785753B2 (ja) * 2011-03-25 2015-09-30 京セラ株式会社 電子機器、制御方法および制御プログラム
JP2012208705A (ja) * 2011-03-29 2012-10-25 Nec Casio Mobile Communications Ltd 画像操作装置、画像操作方法およびプログラム
DE202013012510U1 (de) * 2012-06-06 2017-02-07 Google Inc. System zur Bereitstellung von Inhalten für einen Interessenpunkt
JP6112815B2 (ja) * 2012-09-27 2017-04-12 京セラ株式会社 表示装置、制御システムおよび制御プログラム

Also Published As

Publication number Publication date
US20160012154A1 (en) 2016-01-14
JP2016018351A (ja) 2016-02-01
US10061485B2 (en) 2018-08-28

Similar Documents

Publication Publication Date Title
JP6021272B2 (ja) 情報処理システムおよび情報処理方法
US11606327B2 (en) Method and system for organizing and interacting with messages on devices
JP6352377B2 (ja) デジタルコンテンツ項目を管理するシステム及び方法
JP6185656B2 (ja) モバイルデバイスインターフェース
JP5900393B2 (ja) 情報処理装置、操作制御方法及びプログラム
Millette et al. DualCAD: integrating augmented reality with a desktop GUI and smartphone interaction
US20120154444A1 (en) Social media platform
US20140232637A1 (en) Head mounted display apparatus and contents display method
US20130091462A1 (en) Multi-dimensional interface
US20160034058A1 (en) Mobile Device Input Controller For Secondary Display
US20180225032A1 (en) Generating interactive content items based on content displayed on a computing device
US11694413B2 (en) Image editing and sharing in an augmented reality system
US20150172245A1 (en) Contact-centric thread views for electronic message applications
US11962561B2 (en) Immersive message management
ElSayed et al. Blended ui controls for situated analytics
US11269419B2 (en) Virtual reality platform with haptic interface for interfacing with media items having metadata
US20220068025A1 (en) Auto arranging wall in an augmented reality system
WO2018111701A1 (en) Condensed communication chain control surfacing
WO2022046732A1 (en) Image editing and auto arranging wall in an augmented reality system
Ferreira et al. Back to MARS: The Unexplored Possibilities in Query Result Visualization.
Nishimoto Multi-User Interface for Scalable Resolution Touch Walls

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20160318

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20160322

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20160506

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160614

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160809

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160906

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20161003

R150 Certificate of patent or registration of utility model

Ref document number: 6021272

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

LAPS Cancellation because of no payment of annual fees