JP6368455B2 - 装置、方法、及びプログラム - Google Patents

装置、方法、及びプログラム Download PDF

Info

Publication number
JP6368455B2
JP6368455B2 JP2012132823A JP2012132823A JP6368455B2 JP 6368455 B2 JP6368455 B2 JP 6368455B2 JP 2012132823 A JP2012132823 A JP 2012132823A JP 2012132823 A JP2012132823 A JP 2012132823A JP 6368455 B2 JP6368455 B2 JP 6368455B2
Authority
JP
Japan
Prior art keywords
gesture
screen
display
displayed
smartphone
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2012132823A
Other languages
English (en)
Other versions
JP2013257694A (ja
Inventor
稔明 是枝
稔明 是枝
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Kyocera Corp
Original Assignee
Kyocera Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Kyocera Corp filed Critical Kyocera Corp
Priority to JP2012132823A priority Critical patent/JP6368455B2/ja
Publication of JP2013257694A publication Critical patent/JP2013257694A/ja
Application granted granted Critical
Publication of JP6368455B2 publication Critical patent/JP6368455B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • User Interface Of Digital Computer (AREA)
  • Telephone Function (AREA)

Description

本出願は、装置、方法、及びプログラムに関する。特に、本出願は、タッチスクリーンを有する装置、その装置を制御する方法、及びその装置を制御するためのプログラムに関する。
タッチスクリーンを備えるタッチスクリーンデバイスが知られている。タッチスクリーンデバイスは、例えば、スマートフォン及びタブレットを含むが、これらに限定されない。タッチスクリーンデバイスは、タッチスクリーンを介して指、ペン、又はスタイラスペンのジェスチャを検出する。そして、タッチスクリーンデバイスは、検出したジェスチャに従って動作する。検出したジェスチャに従った動作の例は、例えば、特許文献1に記載されている。
タッチスクリーンデバイスの基本的な動作は、デバイスに搭載されるOS(Operating System)によって実現される。タッチスクリーンデバイスに搭載されるOSは、例えば、Android(登録商標)、BlackBerry(登録商標) OS、iOS、Symbian(登録商標) OS、及びWindows(登録商標) Phoneを含むが、これらに限定されない。
国際公開第2008/086302号
タッチスクリーンデバイスは、直感的な操作性を利用者に提供すると言われる。しかしながら、タッチスクリーンデバイスが表示する画面によっては、どのようなジェスチャをすればどのような処理が実行されるのかが利用者に分かり難いことがある。
上記のことから、表示される画面にどのようなジェスチャが割り当てられているかを利用者が容易に知ることができる装置、方法、及びプログラムに対するニーズがある。
1つの態様に係る装置は、ジェスチャが割り当てられた画面を表示するディスプレイと、前記ジェスチャを検出するタッチスクリーンと、前記画面が表示されているときに前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するコントローラとを備える。前記コントローラは、前記画面が前記ディスプレイに表示されているときに、前記ジェスチャに関する情報を前記ディスプレイにさらに表示させる。
1つの態様に係る方法は、ディスプレイを有する装置を制御する方法であって、ジェスチャが割り当てられた画面をディスプレイに表示するステップと、前記画面が表示されているときに、前記ジェスチャに関する情報を前記ディスプレイにさらに表示するステップと、前記画面が表示されているときに前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するステップとを含む。
1つの態様に係るプログラムは、ディスプレイを有する装置に、ジェスチャが割り当てられた画面をディスプレイに表示するステップと、前記画面が表示されているときに、前記ジェスチャに関する情報を前記ディスプレイにさらに表示するステップと、前記画面が表示されているときに前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するステップとを実行させる。
図1は、実施形態に係るスマートフォンの斜視図である。 図2は、スマートフォンの正面図である。 図3は、スマートフォンの背面図である。 図4は、ホーム画面の例を示す図である。 図5は、スマートフォンのブロック図である。 図6は、ディスプレイに表示される画面の例を示す図である。 図7は、画面に割り当てられているジェスチャを利用者に提示する例を示す図である。 図8は、ジェスチャに応じて実行される処理に関する情報を操作ガイドに含める例を示す図である。 図9は、画面の中央に操作ガイドを表示する例を示す図である。 図10は、画面上の上部に操作ガイドを表示する例を示す図である。 図11は、操作ガイド情報を作成する方法の例を示す図である。 図12は、画面定義ファイルの例を示す図である。 図13は、操作履歴に基づいて操作ガイド情報を作成する例を示す図である。 図14は、操作ガイドを表示するための処理手順の例を示すフローチャートである。
本発明を実施するための実施形態を、図面を参照しつつ詳細に説明する。以下では、タッチスクリーンを備える装置の例として、スマートフォンについて説明する。
(実施形態)
図1から図3を参照しながら、実施形態に係るスマートフォン1の全体的な構成について説明する。図1から図3に示すように、スマートフォン1は、ハウジング20を有する。ハウジング20は、フロントフェイス1Aと、バックフェイス1Bと、サイドフェイス1C1〜1C4とを有する。フロントフェイス1Aは、ハウジング20の正面である。バックフェイス1Bは、ハウジング20の背面である。サイドフェイス1C1〜1C4は、フロントフェイス1Aとバックフェイス1Bとを接続する側面である。以下では、サイドフェイス1C1〜1C4を、どの面であるかを特定することなく、サイドフェイス1Cと総称することがある。
スマートフォン1は、タッチスクリーンディスプレイ2と、ボタン3A〜3Cと、照度センサ4と、近接センサ5と、レシーバ7と、マイク8と、カメラ12とをフロントフェイス1Aに有する。スマートフォン1は、スピーカ11と、カメラ13とをバックフェイス1Bに有する。スマートフォン1は、ボタン3D〜3Fと、コネクタ14とをサイドフェイス1Cに有する。以下では、ボタン3A〜3Fを、どのボタンであるかを特定することなく、ボタン3と総称することがある。
タッチスクリーンディスプレイ2は、ディスプレイ2Aと、タッチスクリーン2Bとを有する。図1の例では、ディスプレイ2A及びタッチスクリーン2Bはそれぞれ略長方形状であるが、ディスプレイ2A及びタッチスクリーン2Bの形状はこれに限定されない。ディスプレイ2A及びタッチスクリーン2Bは、それぞれが正方形又は円形等のどのような形状もとりうる。図1の例では、ディスプレイ2A及びタッチスクリーン2Bは重ねて配置されているが、ディスプレイ2A及びタッチスクリーン2Bの配置はこれに限定されない。ディスプレイ2A及びタッチスクリーン2Bは、例えば、並べて配置されてもよいし、離して配置されてもよい。図1の例では、ディスプレイ2Aの長辺はタッチスクリーン2Bの長辺に沿っており、ディスプレイ2Aの短辺はタッチスクリーン2Bの短辺に沿っているが、ディスプレイ2A及びタッチスクリーン2Bの重ね方はこれに限定されない。ディスプレイ2Aとタッチスクリーン2Bとが重ねて配置される場合、例えば、ディスプレイ2Aの1ないし複数の辺がタッチスクリーン2Bのいずれの辺とも沿っていなくてもよい。
ディスプレイ2Aは、液晶ディスプレイ(LCD:Liquid Crystal Display)、有機ELディスプレイ(OELD:Organic Electro−Luminescence Display)、又は無機ELディスプレイ(IELD:Inorganic Electro−Luminescence Display)等の表示デバイスを備える。ディスプレイ2Aは、文字、画像、記号、及び図形等を表示する。
タッチスクリーン2Bは、タッチスクリーン2Bに対する指、ペン、又はスタイラスペン等の接触を検出する。タッチスクリーン2Bは、複数の指、ペン、又はスタイラスペン等がタッチスクリーン2Bに接触した位置を検出することができる。以下の説明では、タッチスクリーン2Bに対して接触する指、ペン、又はスタイラスペン等を、「接触オブジェクト(接触物)」と呼ぶことがある。
タッチスクリーン2Bの検出方式は、静電容量方式、抵抗膜方式、表面弾性波方式(又は超音波方式)、赤外線方式、電磁誘導方式、及び荷重検出方式等の任意の方式でよい。以下の説明では、説明を簡単にするため、利用者はスマートフォン1を操作するために指を用いてタッチスクリーン2Bに接触するものと想定する。
スマートフォン1は、タッチスクリーン2Bにより検出された接触、接触が検出された位置、接触が検出された位置の変化、接触が検出された間隔、及び接触が検出された回数の少なくとも1つに基づいてジェスチャの種別を判別する。ジェスチャは、タッチスクリーン2Bに対して行われる操作である。スマートフォン1によって判別されるジェスチャは、例えば、タッチ、ロングタッチ、リリース、スワイプ、タップ、ダブルタップ、ロングタップ、ドラッグ、フリック、ピンチイン、及びピンチアウトを含むがこれらに限定されない。
「タッチ」は、タッチスクリーン2Bに指が触れるジェスチャである。スマートフォン1は、タッチスクリーン2Bに指が接触するジェスチャをタッチとして判別する。「ロングタッチ」は、タッチスクリーン2Bに指が一定時間より長く触れるジェスチャである。スマートフォン1は、タッチスクリーン2Bに指が一定時間より長く接触するジェスチャをロングタッチとして判別する。
「リリース」は、指がタッチスクリーン2Bから離れるジェスチャである。スマートフォン1は、指がタッチスクリーン2Bから離れるジェスチャをリリースとして判別する。「スワイプ」は、指がタッチスクリーン2Bに接触したままで移動するジェスチャである。スマートフォン1は、指がタッチスクリーン2Bに接触したままで移動するジェスチャをスワイプとして判別する。
「タップ」は、タッチに続いてリリースをするジェスチャである。スマートフォン1は、タッチに続いてリリースをするジェスチャをタップとして判別する。「ダブルタップ」は、タッチに続いてリリースをするジェスチャが2回連続するジェスチャである。スマートフォン1は、タッチに続いてリリースをするジェスチャが2回連続するジェスチャをダブルタップとして判別する。
「ロングタップ」は、ロングタッチに続いてリリースをするジェスチャである。スマートフォン1は、ロングタッチに続いてリリースをするジェスチャをロングタップとして判別する。「ドラッグ」は、移動可能なオブジェクトが表示されている領域を始点としてスワイプをするジェスチャである。スマートフォン1は、移動可能なオブジェクトが表示されている領域を始点としてスワイプをするジェスチャをドラッグとして判別する。
「フリック」は、指が、タッチスクリーン2Bに触れた後移動しながらタッチスクリーン2Bから離れるジェスチャである。すなわち、「フリック」は、タッチに続いて指が移動しながらリリースが行われるジェスチャである。スマートフォン1は、指が、タッチスクリーン2Bに触れた後移動しながらタッチスクリーン2Bから離れるジェスチャをフリックとして判別する。フリックは、指が一方方向へ移動しながら行われることが多い。フリックは、指が画面の上方向へ移動する「上フリック」、指が画面の下方向へ移動する「下フリック」、指が画面の右方向へ移動する「右フリック」、指が画面の左方向へ移動する「左フリック」等を含む。フリックにおける指の移動は、スワイプにおける指の移動よりも素早いことが多い。
「ピンチイン」は、複数の指が互いに近付く方向にスワイプするジェスチャである。スマートフォン1は、タッチスクリーン2Bにより検出されるある指の位置と他の指の位置との間の距離が短くなるジェスチャをピンチインとして判別する。「ピンチアウト」は、複数の指が互いに遠ざかる方向にスワイプするジェスチャである。スマートフォン1は、タッチスクリーン2Bにより検出されるある指の位置と他の指の位置との間の距離が長くなるジェスチャをピンチアウトとして判別する。
本実施形態では、1本の指により行われるジェスチャを「シングルタッチジェスチャ」と呼ぶことがある。本実施形態では、2本以上の指により行われるジェスチャを「マルチタッチジェスチャ」と呼ぶことがある。ピンチインおよびピンチアウトは、マルチタッチジェスチャである。タップ、フリックおよびスワイプ等は、1本の指で行われればシングルタッチジェスチャであり、2本以上の指で行われればマルチタッチジェスチャである。
スマートフォン1は、タッチスクリーン2Bを介して判別するこれらのジェスチャに従って動作を行う。このため、利用者にとって直感的で使いやすい操作性が実現される。判別されるジェスチャに従ってスマートフォン1が行う動作は、ディスプレイ2Aに表示されている画面に応じて異なることがある。以下の説明では、説明を簡単にするために、「タッチスクリーン2Bがジェスチャを検出し、検出されたジェスチャの種別をスマートフォン1がXと判別すること」を、「スマートフォン1がXを検出する」、又は「コントローラがXを検出する」と記載することがある。
図4を参照しながら、ディスプレイ2Aに表示される画面の例について説明する。図4は、ホーム画面の例を示している。ホーム画面は、デスクトップ、待受画面、アイドル画面又は標準画面と呼ばれることもある。ホーム画面は、ディスプレイ2Aに表示される。ホーム画面は、スマートフォン1にインストールされているアプリケーションのうち、どのアプリケーションを実行するかを利用者に選択させる画面である。スマートフォン1は、ホーム画面で選択されたアプリケーションをフォアグランドで実行する。フォアグランドで実行されるアプリケーションの画面は、ディスプレイ2Aに表示される。
スマートフォン1は、ホーム画面にアイコンを配置することができる。図4に示すホーム画面40には、複数のアイコン50が配置されている。それぞれのアイコン50は、スマートフォン1にインストールされているアプリケーションと予め対応付けられている。スマートフォン1は、アイコン50に対するジェスチャを検出すると、ジェスチャが検出されたアイコン50に対応付けられているアプリケーションを実行する。例えば、スマートフォン1は、メールアプリケーションに対応付けられたアイコン50に対するタップが検出されると、メールアプリケーションを実行する。
アイコン50は、画像と文字列を含む。アイコン50は、画像に代えて、記号又は図形を含んでもよい。アイコン50は、画像又は文字列のいずれか一方を含まなくてもよい。アイコン50は、配置パターンに基づいて配置される。アイコン50の背後には、壁紙41が表示される。壁紙は、フォトスクリーン、バックスクリーン、アイドル画像又は背景画像と呼ばれることもある。スマートフォン1は、任意の画像を壁紙41として用いることができる。スマートフォン1は、壁紙41として表示する画像を利用者が選択できるように構成されてもよい。
スマートフォン1は、複数のホーム画面を有していてよい。スマートフォン1は、例えば、ホーム画面の数を利用者による設定に従って決定する。スマートフォン1は、ホーム画面の数が複数であっても、選択された1つをディスプレイ2Aに表示する。
スマートフォン1は、ディスプレイ2Aに表示するホーム画面を変更することができる。スマートフォン1は、ホーム画面の1つを表示中にジェスチャが検出されると、ディスプレイ2Aに表示するホーム画面を別のホーム画面に変更する。例えば、スマートフォン1は、右フリックを検出すると、ディスプレイ2Aに表示するホーム画面を1つ左のホーム画面に変更する。例えば、スマートフォン1は、左フリックを検出すると、ディスプレイ2Aに表示するホーム画面を1つ右のホーム画面に変更する。スマートフォン1は、第1のホーム画面をディスプレイ2Aに表示中にジェスチャが検出されると、ディスプレイ2Aに表示される第1のホーム画面の面積が徐々に狭くなり、ディスプレイ2Aに表示される第2のホーム画面の面積が徐々に広くなるようにディスプレイ2Aに表示するホーム画面を第1のホーム画面から第2のホーム画面へ変更する。スマートフォン1は、第1のホーム画面が第2のホーム画面に即座に置き換わるようにホーム画面を切り替えてもよい。
ディスプレイ2Aの上端には、領域42が設けられている。領域42には、電源の残量を示す残量マーク43、及び通信用の電波の電界強度を示す電波レベルマーク44が表示される。スマートフォン1は、領域42に、時刻、天気、実行中のアプリケーション、通信システムの種別、電話のステータス、装置のモード、装置に生じたイベント等を表示してもよい。このように、領域42は、利用者に対して各種の通知を行うために用いられる。領域42は、ホーム画面40以外の画面でも設けられることがある。領域42が設けられる位置は、ディスプレイ2Aの上端に限定されない。
図4に示したホーム画面40は、例であり、各種の要素の形態、各種の要素の配置、ホーム画面40の数、及びホーム画面40での各種の操作の仕方等は上記の説明の通りでなくてもよい。
図5は、スマートフォン1のブロック図である。スマートフォン1は、タッチスクリーンディスプレイ2と、ボタン3と、照度センサ4と、近接センサ5と、通信ユニット6と、レシーバ7と、マイク8と、ストレージ9と、コントローラ10と、スピーカ11と、カメラ12及び13と、コネクタ14と、加速度センサ15と、方位センサ16と、ジャイロスコープ17とを有する。
タッチスクリーンディスプレイ2は、上述したように、ディスプレイ2Aと、タッチスクリーン2Bとを有する。ディスプレイ2Aは、文字、画像、記号、又は図形等を表示する。タッチスクリーン2Bは、ジェスチャを検出する。
ボタン3は、利用者によって操作される。ボタン3は、ボタン3A〜ボタン3Fを有する。コントローラ10はボタン3と協働することによってボタン3に対する操作を検出する。ボタン3に対する操作は、例えば、クリック、ダブルクリック、トリプルクリック、プッシュ、及びマルチプッシュを含むが、これらに限定されない。
ボタン3A〜3Cは、例えば、ホームボタン、バックボタンまたはメニューボタンである。ボタン3Dは、例えば、スマートフォン1のパワーオン/オフボタンである。ボタン3Dは、スリープ/スリープ解除ボタンを兼ねてもよい。ボタン3E及び3Fは、例えば、音量ボタンである。
照度センサ4は、スマートフォン1の周囲光の照度を検出する。照度は、光の強さ、明るさ、又は輝度を示す。照度センサ4は、例えば、ディスプレイ2Aの輝度の調整に用いられる。近接センサ5は、近隣の物体の存在を非接触で検出する。近接センサ5は、磁界の変化または超音波の反射波の帰還時間の変化等に基づいて物体の存在を検出する。近接センサ5は、例えば、タッチスクリーンディスプレイ2が顔に近付けられたことを検出する。照度センサ4及び近接センサ5は、一つのセンサとして構成されていてもよい。照度センサ4は、近接センサとして用いられてもよい。
通信ユニット6は、無線により通信する。通信ユニット6によってサポートされる通信方式は、無線通信規格である。無線通信規格として、例えば、2G、3G、4G等のセルラーフォンの通信規格がある。セルラーフォンの通信規格として、例えば、LTE(Long Term Evolution)、W−CDMA(Wideband Code Division Multiple Access)、CDMA2000、PDC(Personal Digital Cellular)、GSM(登録商標)(Global System for Mobile Communications)、PHS(Personal Handy−phone System)等がある。無線通信規格として、さらに、例えば、WiMAX(Worldwide Interoperability for Microwave Access)、IEEE802.11、Bluetooth(登録商標)、IrDA(Infrared Data Association)、NFC(Near Field Communication)等がある。通信ユニット6は、上述した通信規格の1つ又は複数をサポートしていてもよい。
レシーバ7及びスピーカ11は、音出力部である。レシーバ7及びスピーカ11は、コントローラ10から送信される音信号を音として出力する。レシーバ7は、例えば、通話時に相手の声を出力するために用いられる。スピーカ11は、例えば、着信音及び音楽を出力するために用いられる。レシーバ7及びスピーカ11の一方が、他方の機能を兼ねてもよい。マイク8は、音入力部である。マイク8は、利用者の音声等を音信号へ変換してコントローラ10へ送信する。
ストレージ9は、プログラム及びデータを記憶する。ストレージ9は、コントローラ10の処理結果を一時的に記憶する作業領域としても利用される。ストレージ9は、半導体記憶媒体、及び磁気記憶媒体等の任意の非一過的(non−transitory)な記憶媒体を含んでよい。ストレージ9は、複数の種類の記憶媒体を含んでよい。ストレージ9は、メモリカード、光ディスク、又は光磁気ディスク等の可搬の記憶媒体と、記憶媒体の読み取り装置との組み合わせを含んでよい。ストレージ9は、RAM(Random Access Memory)等の一時的な記憶領域として利用される記憶デバイスを含んでよい。
ストレージ9に記憶されるプログラムには、フォアグランド又はバックグランドで実行されるアプリケーションと、アプリケーションの動作を支援する制御プログラムとが含まれる。アプリケーションは、例えば、ディスプレイ2Aに画面を表示させ、タッチスクリーン2Bによって検出されるジェスチャに応じた処理をコントローラ10に実行させる。制御プログラムは、例えば、OSである。アプリケーション及び制御プログラムは、通信ユニット6による無線通信又は非一過的な記憶媒体を介してストレージ9にインストールされてもよい。
ストレージ9は、例えば、制御プログラム9A、メールアプリケーション9B、ブラウザアプリケーション9C、SNS(Social Networking Service)アプリケーション9D、操作ガイド情報9Y、及び設定データ9Zを記憶する。メールアプリケーション9Bは、電子メールの作成、送信、受信、及び表示等のための電子メール機能を提供する。ブラウザアプリケーション9Cは、WEBページを表示するためのWEBブラウジング機能を提供する。SNSアプリケーション9Dは、メッセージサービス、日記サービス、コミュニティサービス等を含むSNSへのアクセス機能を提供する。操作ガイド情報9Yは、ディスプレイ2Aに表示されるそれぞれの画面に割り当てられている操作(ジェスチャ)に関する情報を含む。設定データ9Zは、スマートフォン1の動作に関する各種の設定に関する情報を含む。
制御プログラム9Aは、スマートフォン1を稼働させるための各種制御に関する機能を提供する。制御プログラム9Aは、例えば、通信ユニット6、レシーバ7、及びマイク8等を制御することによって、通話を実現させる。制御プログラム9Aが提供する機能には、ディスプレイ2Aに表示される画面に割り当てられているジェスチャに関する情報を利用者に提示する機能が含まれる。制御プログラム9Aが提供する機能は、メールアプリケーション9B等の他のプログラムが提供する機能と組み合わせて利用されることがある。
コントローラ10は、演算処理装置である。演算処理装置は、例えば、CPU(Central Processing Unit)、SoC(System−on−a−chip)、MCU(Micro Control Unit)、及びFPGA(Field−Programmable Gate Array)を含むが、これらに限定されない。コントローラ10は、スマートフォン1の動作を統括的に制御して各種の機能を実現する。
具体的には、コントローラ10は、ストレージ9に記憶されているデータを必要に応じて参照しつつ、ストレージ9に記憶されているプログラムに含まれる命令を実行する。そして、コントローラ10は、データ及び命令に応じて機能部を制御し、それによって各種機能を実現する。機能部は、例えば、ディスプレイ2A、通信ユニット6、マイク8、及びスピーカ11を含むが、これらに限定されない。コントローラ10は、検出部の検出結果に応じて、制御を変更することがある。検出部は、例えば、タッチスクリーン2B、ボタン3、照度センサ4、近接センサ5、レシーバ7、カメラ12、カメラ13、加速度センサ15、方位センサ16、及びジャイロスコープ17を含むが、これらに限定されない。
コントローラ10は、例えば、制御プログラム9Aを実行することにより、ディスプレイ2Aに表示される画面に割り当てられているジェスチャに関する情報を利用者に提示する制御等の各種制御を実行する。
カメラ12は、フロントフェイス1Aに面している物体を撮影するインカメラである。カメラ13は、バックフェイス1Bに面している物体を撮影するアウトカメラである。
コネクタ14は、他の装置が接続される端子である。コネクタ14は、USB(Universal Serial Bus)、HDMI(登録商標)(High−Definition Multimedia Interface)、ライトピーク(サンダーボルト(登録商標))、イヤホンマイクコネクタのような汎用的な端子であってもよい。コネクタ14は、Dockコネクタのような専用の端子でもよい。コネクタ14に接続される装置は、例えば、外部ストレージ、スピーカ、及び通信装置を含むが、これらに限定されない。
加速度センサ15は、スマートフォン1に働く加速度の方向及び大きさを検出する。方位センサ16は、地磁気の向きを検出する。ジャイロスコープ17は、スマートフォン1の角度及び角速度を検出する。加速度センサ15、方位センサ16及びジャイロスコープ17の検出結果は、スマートフォン1の位置及び姿勢の変化を検出するために、組み合わせて利用される。
図5においてストレージ9が記憶するプログラム及びデータの一部又は全部は、通信ユニット6による無線通信で他の装置からダウンロードされてもよい。図5においてストレージ9が記憶するプログラム及びデータの一部又は全部は、ストレージ9に含まれる読み取り装置が読み取り可能な非一過的な記憶媒体に記憶されていてもよい。図5においてストレージ9が記憶するプログラム及びデータの一部又は全部は、コネクタ14に接続される読み取り装置が読み取り可能な非一過的な記憶媒体に記憶されていてもよい。非一過的な記憶媒体は、例えば、CD(登録商標)、DVD(登録商標)、Blu−ray(登録商標)等の光ディスク、光磁気ディスク、磁気記憶媒体、メモリカード、及びソリッドステート記憶媒体を含むが、これらに限定されない。
図5に示したスマートフォン1の構成は例であり、本発明の要旨を損なわない範囲において適宜変更してよい。例えば、ボタン3の数と種類は図5の例に限定されない。スマートフォン1は、画面に関する操作のためのボタンとして、ボタン3A〜3Cに代えて、テンキー配列又はQWERTY配列等のボタンを備えていてもよい。スマートフォン1は、画面に関する操作のために、ボタンを1つだけ備えてもよいし、ボタンを備えなくてもよい。図5に示した例では、スマートフォン1が2つのカメラを備えるが、スマートフォン1は、1つのカメラのみを備えてもよいし、カメラを備えなくてもよい。図5に示した例では、スマートフォン1が位置及び姿勢を検出するために3種類のセンサを備えるが、スマートフォン1は、このうちいくつかのセンサを備えなくてもよい。あるいは、スマートフォン1は、位置及び姿勢の少なくとも1つを検出するための他の種類のセンサを備えてもよい。
次に、図6から図10を参照しながら、画面に割り当てられているジェスチャに関する情報を利用者に提示する制御について説明する。図6は、ディスプレイ2Aに表示される画面の例を示す図である。図7は、画面に割り当てられているジェスチャを利用者に提示する例を示す図である。
図6に示す例において、ディスプレイ2Aは、日記画面60を表示している。日記画面60は、SNSアプリケーション9Dが提供する画面の1つである。日記画面60は、プロフィール表示領域61と、日記表示領域62と、ツールバー領域63とを含む。
プロフィール表示領域61は、日記の作者のプロフィールが表示される領域である。日記表示領域62は、日記が表示される領域である。日記表示領域62は、縦にスクロールするように構成されている。ツールバー領域63は、所定の処理を実行するためのアイコンが配置される領域である。図6に示す例において、ツールバー領域63は、利用者のホームページを表示するためのアイコン63a、日記の検索ページを表示するためのアイコン63b、及びコメントの入力画面を表示するためのアイコン63cを含んでいる。
スマートフォン1は、日記画面60に割り当てられているジェスチャを利用者に提示するために、図7に示すように、日記画面60に重ねて、操作ガイドを表示する。図7に示す例では、吹き出し61a、吹き出し62a、吹き出し63d、吹き出し63e、及び吹き出し63fが操作ガイドとして表示されている。
吹き出し61aは、「タップ」という文字列を含み、プロフィール表示領域61を指し示している。すなわち、吹き出し61aは、プロフィール表示領域61に、何らかの処理を実行するためのジェスチャとして、タップが割り当てられていることを示している。
吹き出し62aは、「タップ」、「ロングタップ」、「フリック」、及び「スワイプ」という文字列を含み、日記表示領域62を指し示している。すなわち、吹き出し62aは、日記表示領域62に、何らかの処理を実行するためのジェスチャとして、タップ、ロングタップ、フリック、及びスワイプが割り当てられていることを示している。
吹き出し63dは、「タップ」という文字列を含み、アイコン63aを指し示している。吹き出し63eは、「タップ」という文字列を含み、アイコン63bを指し示している。吹き出し63fは、「タップ」という文字列を含み、アイコン63cを指し示している。すなわち、吹き出し63d〜63fは、それぞれ、アイコン63a〜63cに、何らかの処理を実行するためのジェスチャとして、タップが割り当てられていることを示している。
このように、操作ガイドを表示することにより、スマートフォン1は、画面のどの部分にどのようなジェスチャを行えば何らかの処理が実行されるのかを、利用者に把握させることができる。利用者は、画面のどの部分にどのようなジェスチャが割り当てられているかを把握することができれば、類似の画面に関する知見又は試行錯誤によって、画面に対するジェスチャに応じて実行される処理を知ることができる。
スマートフォン1は、ジェスチャに応じて実行される処理に関する情報を操作ガイドに含めてもよい。図8は、ジェスチャに応じて実行される処理に関する情報を操作ガイドに含める例を示す図である。図8に示す例では、吹き出し61b、吹き出し62b、吹き出し63g、吹き出し63h、及び吹き出し63iが操作ガイドとして表示されている。
吹き出し61bは、「タップ:詳細表示」という文字列を含み、プロフィール表示領域61を指し示している。すなわち、吹き出し61bは、プロフィール表示領域61に、何らかの処理を実行するためのジェスチャとして、タップが割り当てられていることを示している。さらに、吹き出し61bは、プロフィール表示領域61に対するタップが行われた場合に日記の作者のプロフィールの詳細が表示されることを示している。
吹き出し62bは、「タップ:詳細表示」、「ロングタップ:メニュー」、「フリック:スクロール」、及び「スワイプ:スクロール」という文字列を含み、日記表示領域62を指し示している。すなわち、吹き出し62bは、日記表示領域62に、何らかの処理を実行するためのジェスチャとして、タップ、ロングタップ、フリック、及びスワイプが割り当てられていることを示している。さらに、吹き出し62bは、日記表示領域62に対するタップが行われた場合に日記の詳細が表示され、日記表示領域62対するロングタップが行われた場合にメニューが表示され、日記表示領域62対するフリック又はスワイプが行われた場合に日記がスクロールすることを示している。
吹き出し63gは、「タップ:ホーム」という文字列を含み、アイコン63aを指し示している。吹き出し63hは、「タップ:検索」という文字列を含み、アイコン63bを指し示している。吹き出し63iは、「タップ:コメント」という文字列を含み、アイコン63cを指し示している。すなわち、吹き出し63g〜63iは、それぞれ、アイコン63a〜63cに、何らかの処理を実行するためのジェスチャとして、タップが割り当てられていることを示している。さらに、吹き出し63gは、アイコン63aに対するタップが行われた場合に利用者のホームページが表示されることを示している。吹き出し63hは、アイコン63bに対するタップが行われた場合に日記の検索ページが表示されることを示している。吹き出し63iは、アイコン63cに対するタップが行われた場合にコメントの入力画面が表示されることを示している。
このように、ジェスチャに応じて実行される処理に関する情報を操作ガイドに含めることにより、スマートフォン1は、画面のどの部分にどのようなジェスチャを行えばどのような処理が実行されるのかを、利用者に把握させることができる。
図7および図8では、操作ガイドとして吹き出しを表示する例を示した。しかしながら、スマートフォン1は、画面に割り当てられているジェスチャの種類を利用者が把握できる情報を操作ガイドとして表示すればよい。ジェスチャの種類を利用者が把握できる情報は、例えば、ジェスチャを表す文字、画像、線図、又はアニメーション等のシンボルである。ジェスチャの種類を利用者が把握できる情報は、ジェスチャが割り当てられている領域に重ねて表示されてもよい。
図7および図8では、ジェスチャが割り当てられているそれぞれの領域に対応付けて操作ガイドを表示する例を示した。しかしながら、スマートフォン1は、少なくとも、ディスプレイ2Aに表示されている画面のどこかに割り当てられているジェスチャを利用者が把握できるように、操作ガイドを表示すればよい。
図9は、画面の中央に操作ガイドを表示する例を示す図である。図9に示す例では、タップ(Tap)を表すシンボル60aと、ロングタップ(Long Tap)を表すシンボル60bと、フリック(Flick)を表すシンボル60cと、スワイプ(Swipe)を表すシンボル60dとが日記画面60に重ねて表示されている。
シンボル60aは、日記画面60のどこかに、何らかの処理を実行するためのジェスチャとして、タップが割り当てられていることを示している。シンボル60bは、日記画面60のどこかに、何らかの処理を実行するためのジェスチャとして、ロングタップが割り当てられていることを示している。シンボル60cは、日記画面60のどこかに、何らかの処理を実行するためのジェスチャとして、フリックが割り当てられていることを示している。シンボル60dは、日記画面60のどこかに、何らかの処理を実行するためのジェスチャとして、スワイプが割り当てられていることを示している。
このように、スマートフォン1は、ジェスチャが割り当てられている領域に対応付けて操作ガイドを表示しなくても、画面に割り当てられているジェスチャを利用者に把握させることができる。
図9に示す例では、ジェスチャを表す情報として、ジェスチャの頭文字が表示されている。しかしながら、ジェスチャを表すシンボルは、これに限定されない。例えば、ジェスチャを表す画像、線図、又はアニメーションが、ジェスチャを表す情報として表示されてもよい。
図9に示す例では、画面の中央に操作ガイドが表示されている。しかしながら、操作ガイドを表示する位置は、これに限定されない。例えば、スマートフォン1は、利用者が画面上の要素を見ることを妨げない位置に操作ガイドを表示してもよい。
図10は、利用者が画面上の要素を見ることを妨げない位置に操作ガイドを表示する例を示す図である。図10に示す例では、日記画面60の上部に操作ガイド領域60eが表示されている。操作ガイド領域60eは、「タップ」、「ロングタップ」、「フリック」、及び「スワイプ」の文字列を含んでいる。これらの文字列は、日記画面60のどこかに、何らかの処理を実行するためのジェスチャとして、タップ、ロングタップ、フリック、及びスワイプが割り当てられていることを示している。
操作ガイド領域60eは、日記画面60のタイトル部分に重なるように表示されている。タイトル部分が操作ガイド領域60eに覆われても、日記画面60においてジェスチャが割り当てられているそれぞれの要素は露出したままである。このように、画面上に配置されている要素と重ならない位置に操作ガイドを表示することにより、操作ガイドの表示が画面の視認性を損なうことを抑止できる。
上述してきたように、スマートフォン1は、操作ガイドを表示することによって、画面に割り当てられているジェスチャに関する情報を利用者に提示する。利用者は、操作ガイドを見ることにより、初めて見る画面であっても、その画面にどのようなジェスチャが割り当てられているかを把握することができる。
スマートフォン1が操作ガイドを表示するタイミングは、例えば、画面が表示されたタイミング、画面に対するジェスチャが検出されない時間が所定の期間より長く継続したタイミング、及び利用者による所定の指示が検出されたタイミングの少なくとも1つである。利用者による所定の指示は、例えば、タッチスクリーン2Bに対する所定のジェスチャ、ボタン3の押下、スマートフォン1を振る操作、及び音声の入力の少なくとも1つによって行われる。
画面が表示されたタイミングで操作ガイドが表示される場合、利用者は、新たな画面が表示される度にその画面の操作ガイドを見ることができる。画面に対するジェスチャが検出されない時間が所定の期間より長く継続したタイミングで操作ガイドが表示される場合、利用者が画面に割り当てられているジェスチャが分からずに戸惑っているときに操作ガイドが自動的に表示される。利用者による所定の指示が検出されたタイミングで操作ガイドが表示される場合、利用者は、任意のタイミングで操作ガイドを表示させることができる。
スマートフォン1が操作ガイドの表示を終了するタイミングは、例えば、画面に割り当てられたジェスチャが検出されたタイミング、操作ガイドが表示されてから所定の期間が経過したタイミング、利用者による所定の指示が検出されたタイミング、及び画面が切り替わったタイミングの少なくとも1つである。利用者による所定の指示は、例えば、タッチスクリーン2Bに対する所定のジェスチャ、ボタン3の押下、スマートフォン1を振る操作、及び音声の入力の少なくとも1つによって行われる。
画面に割り当てられたジェスチャが検出されたタイミングで操作ガイドの表示が終了する場合、利用者は、所望の処理を実行するためのジェスチャをするだけで、余分な操作をすることなく操作ガイドを非表示にすることができる。操作ガイドが表示されてから所定の期間が経過したタイミングで操作ガイドの表示が終了する場合、利用者は、操作ガイドを非表示にするために特に操作を行う必要がない。利用者による所定の指示が検出されたタイミングで操作ガイドの表示が終了する場合、利用者は、任意のタイミングで操作ガイドを非表示にすることができる。
スマートフォン1は、操作ガイドを半透明で表示してもよい。この場合、スマートフォン1は、操作ガイドの透明度を利用者が設定できるように構成されてもよい。あるいは、スマートフォン1は、操作ガイドを点滅表示してもよい。このように操作ガイドの表示を制御することにより、利用者は、操作ガイドが表示されていても、画面がどのような要素を含んでいるかを把握することができる。
スマートフォン1は、ある画面の操作ガイドを所定の回数表示した後は、その画面を表示する場合に操作ガイドを表示しないようにしてもよい。所定の回数は、利用者が画面に割り当てられたジェスチャをほぼ覚えることができる回数に設定される。スマートフォン1は、所定の回数を利用者が設定できるように構成されてもよい。スマートフォン1は、操作ガイドを所定の回数表示した後であっても、利用者による所定の指示が検出された場合には操作ガイドを表示してもよい。
スマートフォン1は、操作ガイドを、操作ガイド情報9Yに基づいて表示する。操作ガイド情報9Yは、画面を識別するための情報と、その画面に割り当てられているジェスチャを示す情報とを対応付けて保持する。ジェスチャが画面上の特定の領域に割り当てられている場合、操作ガイド情報9Yは、ジェスチャを示す情報を、そのジェスチャが割り当てられている領域を示す情報とさらに対応付けて保持してもよい。図5では、操作ガイド情報9Yは、アプリケーションから独立した単一の情報として図示されているが、操作ガイド情報9Yは、アプリケーション毎に記憶されていてもよいし、それぞれのアプリケーションに埋め込まれていてもよい。
操作ガイド情報9Yは、画面を提供するアプリケーションの制作者によって提供され、アプリケーションと共にスマートフォン1に導入されてもよい。
操作ガイド情報9Yは、図11に示すように、画面を提供するアプリケーション9Xに対して解析処理を行った結果に基づいて作成されてもよい。アプリケーション9Xに対して解析処理を行う装置は、スマートフォン1であってもよいし、アプリケーション9Xを配布する業者が有する装置であってもよい。
アプリケーション9Xに対する解析処理は、例えば、アプリケーション9Xに含まれるコード又は文字列に基づいて、各種のジェスチャに対応するイベントにハンドラが作成されているかを判定する処理である。ハンドラは、イベントが検出された場合に実行すべき処理を実現するためのコードの集まりである。ある画面(画面上の要素)に対して、ジェスチャに対応するイベントにハンドラが作成されている場合、その画面(その画面上の要素)にそのジェスチャが割り当てられていると判定できる。
アプリケーションが、画面の定義を定義ファイルから読み込むように構成されている場合、操作ガイド情報9Yは、定義ファイルに基づいて作成されてもよい。定義ファイルは、例えば、画面定義ファイル、又はHTML(HyperText Markup Language)ファイルである。HTMLファイルは、JavaScriptを含んでもよい。定義ファイルは、アプリケーションの内部に埋め込まれていてもよいし、アプリケーションの外部に存在してもよい。
図12は、画面定義ファイルの例を示す図である。図12に示す画面定義ファイル70は、図6に示した日記画面60を表示するように、XML(Extensible Markup Language)形式で構成されている。画面定義ファイル70は、プロフィール表示領域61に対応するCanvasタグ71と、日記表示領域62に対応するListViewタグ72と、ツールバー領域63に対応するBarタグ73とを含む。
Canvasタグ71は、プロフィール表示領域61の位置及び大きさを指定する属性に加えて、onTap属性71aを含む。onTap属性71aには、対応する領域でタップが検出されたときに実行すべき処理を含むハンドラの名称と、ハンドラに含まれる処理の概要を表す文字列とが設定される。図12に示す例では、onTap属性71aには、「showDetails」というハンドラ名と、「詳細表示」という文字列が設定されている。onTap属性71aによれば、プロフィール表示領域61には、「詳細表示」に関する処理のためにタップが割り当てられていると判定される。
ListViewタグ72は、日記表示領域62の位置及び大きさを指定する属性に加えて、onTap属性72a、onLongTap属性72b、及びscrollable属性72cを含む。onTap属性72aには、対応する領域でタップが検出されたときに実行すべき処理を含むハンドラの名称と、ハンドラに含まれる処理の概要を表す文字列とが設定される。onLongTap属性72bには、対応する領域でロングタップが検出されたときに実行すべき処理を含むハンドラの名称と、ハンドラに含まれる処理の概要を表す文字列とが設定される。scrollable属性72cにはスクロールの可否を示す値が設定される。
図12に示す例では、onTap属性72aには、「showDetails」というハンドラ名と、「詳細表示」という文字列が設定されている。onTap属性72aによれば、日記表示領域62には、「詳細表示」に関する処理のためにタップが割り当てられていると判定される。図12に示す例では、onLongTap属性72bには、「showMenu」というハンドラ名と、「メニュー」という文字列が設定されている。onLongTap属性72bによれば、日記表示領域62には、「メニュー」に関する処理のためにロングタップが割り当てられていると判定される。
図12に示す例では、scrollable属性72cには、「true」が設定されている。scrollable属性72cによれば、日記表示領域62はスクロール可能に設定されていると判定される。すなわち、scrollable属性72cによれば、日記表示領域62には、スクロールのためのジェスチャであるフリック及びスワイプが割り当てられていると判定される。
Barタグ73は、アイコン63aに対応するIconタグ73aと、アイコン63bに対応するIconタグ73bと、アイコン63cに対応するIconタグ73cとを含む。アイコン63a〜63bは、それぞれ、アイコンとして表示される画像を指定する属性に加えて、onTap属性73d〜73fを含む。onTap属性73d〜73fのそれぞれには、対応するアイコンに対するタップが検出されたときに実行すべき処理を含むハンドラの名称と、ハンドラに含まれる処理の概要を表す文字列とが設定される。
図12に示す例では、onTap属性73dには、「showHome」というハンドラ名と、「ホーム」という文字列が設定されている。onTap属性73dによれば、アイコン63aには、「ホーム」に関する処理のためにタップが割り当てられていると判定される。図12に示す例では、onTap属性73eには、「inputQuery」というハンドラ名と、「検索」という文字列が設定されている。onTap属性73eによれば、アイコン63bには、「検索」に関する処理のためにタップが割り当てられていると判定される。図12に示す例では、onTap属性73fには、「inputComment」というハンドラ名と、「コメント」という文字列が設定されている。onTap属性73fによれば、アイコン63cには、「コメント」に関する処理のためにタップが割り当てられていると判定される。
スマートフォン1は、定義ファイルがアプリケーションに埋め込まれている場合、あるいは定義ファイルがアプリケーションとともに導入される場合、アプリケーションの導入時に定義ファイルを解析する。そして、スマートフォン1は、解析によって得られたジェスチャに関する情報を操作ガイド情報9Yに保存し、定義ファイルに基づいて画面を表示する場合にその情報を参照する。スマートフォン1は、定義ファイルに基づいて画面を表示する度に定義ファイルを解析してジェスチャに関する情報を取得するように構成されてもよい。
スマートフォン1は、定義ファイルが必要に応じて他の装置からダウンロードされる場合、定義ファイルをダウンロードしたとき、又は定義ファイルに基づいて画面を表示すときに定義ファイルを解析してジェスチャに関する情報を取得する。
図12に示した例では、ジェスチャに関連するタグの属性に、ハンドラの名称と、ハンドラに含まれる処理の概要を表す文字列とが対応付けて設定される。しかしながら、ジェスチャに関連するタグの属性には、ハンドラの名称、又はハンドラに含まれる処理の概要を表す文字列のいずれか一方が設定されてもよい。
操作ガイド情報9Yは、図13に示すように、操作履歴に基づいて作成されてもよい。図13に示す例において、スマートフォン2a〜2nは、スマートフォン1と同様の構成を有する携帯電子機器である。スマートフォン2a〜2nは、タッチスクリーンに対するジェスチャが検出されると、検出されたジェスチャに関する情報をサーバ80へ送信する。サーバ80へ送信される情報には、画面情報、操作情報、及び領域情報が含まれる。
画面情報は、ジェスチャが検出されたときにディスプレイに表示されていた画面を識別するための情報である。操作情報は、検出されたジェスチャを識別するための情報である。領域情報は、ジェスチャが検出された位置に表示されている画面上の要素の表示領域を示す情報である。
サーバ80は、スマートフォン2a〜2nから送信される情報をデータベース81に操作履歴情報82として蓄積する。そして、サーバ80は、操作履歴情報82に基づいて、画面の領域毎にそれぞれのジェスチャが実行された回数に関する統計値を算出する。統計値は、例えば、回数の合計値、頻度、スマートフォン毎の回数の平均値、スマートフォン毎の回数の最大値である。サーバ80は、こうして算出された統計値が閾値よりも高い大きいジェスチャを、対応する画面の領域に割り当てられているジェスチャと判定する。サーバ80は、画面と、その画面上の領域と、その領域に割り当てられていると判定したジェスチャの組み合わせを操作ガイド情報9Yとして、スマートフォン1を含む携帯電子機器へ送信する。
このように複数の利用者の操作履歴に基づいて操作ガイド情報9Yを生成することにより、個々の利用者が気付いたジェスチャの割り当てに関する知識を、多くの利用者で共有することができる。
図13に示した例では、サーバ80へ情報を送信する携帯電子機器と、サーバ80から情報を受信する携帯電子機器とが別個の携帯電子機器として図示されているが、これらは同じ携帯電子機器であってもよい。すなわち、サーバ80は、検出されたジェスチャに関する情報をスマートフォン1からも受信してよい。サーバ80は、操作ガイド情報9Yをスマートフォン2a〜2nへも送信してよい。
次に、図14を参照しながら、操作ガイドを表示するための処理手順の例について説明する。図14は、操作ガイドを表示するための処理手順の例を示すフローチャートである。図14に示す処理手順は、コントローラ10が制御プログラム9Aを実行することによって実現される。図14に示す処理手順では、操作ガイドは、画面が表示されるときに表示され、設定された時間が経過した後に消去される。コントローラ10は、図14に示す処理手順と並行して、他の処理手順を実行する。他の処理手順には、例えば、画面を表示するための処理手順、及び画面に対するジェスチャに応じた処理を実行するための処理手順が含まれる。
コントローラ10は、ステップS101として、ディスプレイ2Aに表示される画面が変更されたかを判定する。コントローラ10は、画面が変更されていない場合(ステップS101,No)、ステップS108へ進む。
画面が変更された場合(ステップS101,Yes)、コントローラ10は、ステップS102として、変更後の画面を特定する。そして、コントローラ10は、ステップS103として、特定した画面に関して操作ガイドを表示する必要があるか否かを判定する。コントローラ10は、例えば、その画面に関して操作ガイドを表示した回数が予め設定された回数よりも多い場合に、操作ガイドを表示する必要がないと判定する。コントローラ10は、操作ガイドを表示する必要がない場合(ステップS104,No)、ステップS108へ進む。
操作ガイドを表示する必要がある場合(ステップS104,Yes)、コントローラ10は、ステップS105として、表示されている画面に対応する操作ガイドを表示する。そして、コントローラ10は、操作ガイドを表示したときから、予め設定された時間が経過したかを判定する。予め設定された時間が経過していない場合(ステップS106,No)、コントローラ10は、ステップS106の判定を繰り返す。
予め設定された時間が経過している場合(ステップS106,Yes)、コントローラ10は、ステップS107として、操作ガイドを消去する。そして、コントローラ10は、ステップS101へ戻る。
ステップS108では、コントローラ10は、終了指示がなされたか否かを判定する。終了指示は、利用者によってなされてもよいし、スマートフォン1自身によってなされてもよい。終了指示がなされている場合(ステップS108,Yes)、コントローラ10は、処理手順を終了する。終了指示がなされていない場合(ステップS108,No)、コントローラ10は、ステップS101へ戻る。
本出願の開示する実施形態は、発明の要旨及び範囲を逸脱しない範囲で変更することができる。さらに、本出願の開示する実施形態及びその変形例は、適宜組み合わせることができる。例えば、上記の実施形態は、以下のように変形してもよい。
例えば、図5に示した各プログラムは、複数のモジュールに分割されていてもよいし、他のプログラムと結合されていてもよい。
ジェスチャが割り当てられている領域ごとにジェスチャに関する情報を表示する場合、スマートフォン1は、面積が設定された値よりも狭い領域については、その領域にジェスチャが割り当てられていてもジェスチャに関する情報を表示しなくてもよい。例えば、図7に示した例の場合、スマートフォン1は、表示領域が狭いアイコン63a〜63cに対応する吹き出し63d〜63fを表示しなくてもよい。このように構成することにより、画面がジェスチャに関する情報に占められて、画面が見難くなることを抑止できる。
スマートフォン1は、画面に割り当てられているジェスチャがアプリケーションのアップデートによって増えた場合、その画面を表示するときに、増えたジェスチャに関する情報のみを表示してもよい。あるいは、この場合、その画面を表示するときに、増えたジェスチャに関する情報を他のジェスチャに関する情報と異なる態様で表示してもよい。増えたジェスチャに関する情報は、アプリケーションのアップデート前の操作ガイド情報9Yとアプリケーションのアップデート後の操作ガイド情報9Yとを比較することによって取得できる。
スマートフォン1は、画面に割り当てられているジェスチャ毎に検出された回数を記憶してもよい。そして、スマートフォン1は、記憶している回数に基づいて、ジェスチャに関する情報の表示を制御してもよい。例えば、スマートフォン1は、対応する画面が表示されたときに、検出された回数が設定された回数よりも少ないジェスチャに関する情報のみを表示してもよい。この場合、画面を表示した回数が閾値を超えた場合には、検出された回数が設定された回数よりも少ないジェスチャがあっても操作ガイドを表示しないようにスマートフォン1を構成してもよい。
上記の実施形態では、タッチスクリーンを備える装置の例として、スマートフォンについて説明したが、添付の請求項に係る装置は、スマートフォンに限定されない。添付の請求項に係る装置は、スマートフォン以外の携帯電子機器であってもよい。携帯電子機器は、例えば、モバイルフォン、タブレット、携帯型パソコン、デジタルカメラ、メディアプレイヤ、電子書籍リーダ、ナビゲータ、及びゲーム機を含むが、これらに限定されない。添付の請求項に係る装置は、据え置き型の電子機器であってもよい。据え置き型の電子機器は、例えば、デスクトップパソコン、自動預入支払機(ATM)、及びテレビ受像器を含むが、これらに限定されない。
添付の請求項に係る技術を完全かつ明瞭に開示するために特徴的な実施形態に関し記載してきた。しかし、添付の請求項は、上記実施形態に限定されるべきものでなく、本明細書に示した基礎的事項の範囲内で当該技術分野の当業者が創作しうるすべての変形例及び代替可能な構成を具現化するように構成されるべきである。
1 スマートフォン
2 タッチスクリーンディスプレイ
2A ディスプレイ
2B タッチスクリーン
3 ボタン
4 照度センサ
5 近接センサ
6 通信ユニット
7 レシーバ
8 マイク
9 ストレージ
9A 制御プログラム
9B メールアプリケーション
9C ブラウザアプリケーション
9D SNSアプリケーション
9Z 設定データ
10 コントローラ
11 スピーカ
12、13 カメラ
14 コネクタ
15 加速度センサ
16 方位センサ
17 ジャイロスコープ
20 ハウジング
40 ホーム画面
50 アイコン

Claims (7)

  1. 一部の領域にユーザによるジェスチャが割り当てられた画面を表示するディスプレイと、
    前記ジェスチャを検出するタッチスクリーンと、
    前記一部の領域に前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するコントローラとを備え、
    前記コントローラは、前記ジェスチャが割り当てられた前記一部の領域が前記ディスプレイに複数表示されているときに、当該画面に表示された複数の前記一部の領域の各々に割り当てられた前記ジェスチャを、当該画面に表示された複数の前記一部の領域の各々に対応付けて前記ディスプレイにさらに表示させ
    前記コントローラは、表示される前記画面が変更され、当該画面に新たなジェスチャが割り当てられている場合に、当該新たなジェスチャを表示させ、当該新たなジェスチャを表示させた回数が予め設定された回数を超えた場合には、当該新たなジェスチャを表示させない装置。
  2. 前記コントローラは、予め設定された時間が経過した場合に、前記ジェスチャを消去させる請求項1に記載の装置。
  3. 前記コントローラは、第1の操作が検出された場合に、前記ジェスチャを消去させる請求項1または2に記載の装置。
  4. 前記コントローラは、第2の操作が検出された場合に、前記ジェスチャを表示させる請求項1からのいずれか1項に記載の装置。
  5. 前記コントローラは、操作が検出されない時間が所定の期間よりも長く継続した場合に、前記ジェスチャを表示させる請求項1からのいずれか1項に記載の装置。
  6. ディスプレイと、タッチスクリーンとを有する装置を制御する方法であって、
    一部の領域にユーザによるジェスチャが割り当てられた画面を前記ディスプレイに表示するステップと、
    前記タッチスクリーンによって前記ジェスチャを検出するステップと、
    前記ジェスチャが割り当てられた前記一部の領域が前記ディスプレイに複数表示されているときに、当該画面に表示された複数の前記一部の領域の各々に割り当てられた前記ジェスチャを、当該画面に表示された複数の前記一部の領域の各々に対応付けて前記ディスプレイにさらに表示するステップと、
    前記画面が表示されているときに前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するステップと
    前記ディスプレイに表示される前記画面が変更され、当該画面に新たなジェスチャが割り当てられている場合に、当該新たなジェスチャを前記ディスプレイに表示させ、当該新たなジェスチャを表示させた回数が予め設定された回数を超えた場合には、当該新たなジェスチャを前記ディスプレイに表示させないステップと
    を含む方法。
  7. ディスプレイと、タッチスクリーンとを有する装置に、
    一部の領域にユーザによるジェスチャが割り当てられた画面を前記ディスプレイに表示するステップと、
    前記タッチスクリーンによって前記ジェスチャを検出するステップと、
    前記ジェスチャが割り当てられた前記一部の領域が前記ディスプレイに複数表示されているときに、当該画面に表示された複数の前記一部の領域の各々に割り当てられた前記ジェスチャを、当該画面に表示された複数の前記一部の領域の各々に対応付けて前記ディスプレイにさらに表示するステップと、
    前記画面が表示されているときに前記ジェスチャが検出された場合に、前記ジェスチャに対応する処理を実行するステップと
    前記ディスプレイに表示される前記画面が変更され、当該画面に新たなジェスチャが割り当てられている場合に、当該新たなジェスチャを前記ディスプレイに表示させ、当該新たなジェスチャを表示させた回数が予め設定された回数を超えた場合には、当該新たなジェスチャを前記ディスプレイに表示させないステップと
    を実行させるプログラム。
JP2012132823A 2012-06-12 2012-06-12 装置、方法、及びプログラム Active JP6368455B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2012132823A JP6368455B2 (ja) 2012-06-12 2012-06-12 装置、方法、及びプログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012132823A JP6368455B2 (ja) 2012-06-12 2012-06-12 装置、方法、及びプログラム

Publications (2)

Publication Number Publication Date
JP2013257694A JP2013257694A (ja) 2013-12-26
JP6368455B2 true JP6368455B2 (ja) 2018-08-01

Family

ID=49954095

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012132823A Active JP6368455B2 (ja) 2012-06-12 2012-06-12 装置、方法、及びプログラム

Country Status (1)

Country Link
JP (1) JP6368455B2 (ja)

Families Citing this family (40)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8977255B2 (en) 2007-04-03 2015-03-10 Apple Inc. Method and system for operating a multi-function portable electronic device using voice-activation
US8676904B2 (en) 2008-10-02 2014-03-18 Apple Inc. Electronic devices with voice command and contextual data processing capabilities
US10417037B2 (en) 2012-05-15 2019-09-17 Apple Inc. Systems and methods for integrating third party services with a digital assistant
KR102516577B1 (ko) 2013-02-07 2023-04-03 애플 인크. 디지털 어시스턴트를 위한 음성 트리거
WO2015118578A1 (ja) * 2014-02-10 2015-08-13 三菱電機株式会社 マルチモーダル入力装置、端末装置およびマルチモーダル入力装置のタイムアウト制御方法
US9715875B2 (en) 2014-05-30 2017-07-25 Apple Inc. Reducing the need for manual start/end-pointing and trigger phrases
US10170123B2 (en) 2014-05-30 2019-01-01 Apple Inc. Intelligent assistant for home automation
US9338493B2 (en) 2014-06-30 2016-05-10 Apple Inc. Intelligent automated assistant for TV user interactions
US9886953B2 (en) 2015-03-08 2018-02-06 Apple Inc. Virtual assistant activation
US10460227B2 (en) 2015-05-15 2019-10-29 Apple Inc. Virtual assistant in a communication session
JP2016224523A (ja) * 2015-05-27 2016-12-28 京セラ株式会社 携帯端末
US10200824B2 (en) 2015-05-27 2019-02-05 Apple Inc. Systems and methods for proactively identifying and surfacing relevant content on a touch-sensitive device
US20160378747A1 (en) 2015-06-29 2016-12-29 Apple Inc. Virtual assistant for media playback
JP6512964B2 (ja) * 2015-06-30 2019-05-15 Kddi株式会社 端末、画像判定システム、画像判定方法およびプログラム
US10747498B2 (en) 2015-09-08 2020-08-18 Apple Inc. Zero latency digital assistant
JP6589496B2 (ja) * 2015-09-17 2019-10-16 日本精機株式会社 車両用表示装置
US10691473B2 (en) 2015-11-06 2020-06-23 Apple Inc. Intelligent automated assistant in a messaging environment
US11048533B2 (en) * 2016-05-10 2021-06-29 Ntt Docomo, Inc. Information processing device and method for selectively displaying support information based on urgency level
WO2017208454A1 (ja) * 2016-06-03 2017-12-07 三菱電機株式会社 プログラマブル表示器、画面表示システム、及びプログラマブル表示器の制御方法
US10586535B2 (en) 2016-06-10 2020-03-10 Apple Inc. Intelligent digital assistant in a multi-tasking environment
DK201670540A1 (en) 2016-06-11 2018-01-08 Apple Inc Application integration with a digital assistant
DK180048B1 (en) 2017-05-11 2020-02-04 Apple Inc. MAINTAINING THE DATA PROTECTION OF PERSONAL INFORMATION
DK201770427A1 (en) 2017-05-12 2018-12-20 Apple Inc. LOW-LATENCY INTELLIGENT AUTOMATED ASSISTANT
DK179496B1 (en) 2017-05-12 2019-01-15 Apple Inc. USER-SPECIFIC Acoustic Models
CN109491496A (zh) 2017-09-12 2019-03-19 精工爱普生株式会社 头部佩戴型显示装置和头部佩戴型显示装置的控制方法
US11145294B2 (en) 2018-05-07 2021-10-12 Apple Inc. Intelligent automated assistant for delivering content from user experiences
US10928918B2 (en) 2018-05-07 2021-02-23 Apple Inc. Raise to speak
DK180639B1 (en) 2018-06-01 2021-11-04 Apple Inc DISABILITY OF ATTENTION-ATTENTIVE VIRTUAL ASSISTANT
US11462215B2 (en) 2018-09-28 2022-10-04 Apple Inc. Multi-modal inputs for voice commands
US11348573B2 (en) 2019-03-18 2022-05-31 Apple Inc. Multimodality in digital assistant systems
US11307752B2 (en) 2019-05-06 2022-04-19 Apple Inc. User configurable task triggers
DK201970509A1 (en) 2019-05-06 2021-01-15 Apple Inc Spoken notifications
US11140099B2 (en) 2019-05-21 2021-10-05 Apple Inc. Providing message response suggestions
JP2020194410A (ja) * 2019-05-29 2020-12-03 株式会社デンソー 操作装置
US11227599B2 (en) 2019-06-01 2022-01-18 Apple Inc. Methods and user interfaces for voice-based control of electronic devices
US11183193B1 (en) 2020-05-11 2021-11-23 Apple Inc. Digital assistant hardware abstraction
US11061543B1 (en) 2020-05-11 2021-07-13 Apple Inc. Providing relevant data items based on context
US11490204B2 (en) 2020-07-20 2022-11-01 Apple Inc. Multi-device audio adjustment coordination
US11438683B2 (en) 2020-07-21 2022-09-06 Apple Inc. User identification using headphones
JP2023106716A (ja) * 2022-01-21 2023-08-02 ブラザー工業株式会社 サポートプログラム

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002007019A (ja) * 2000-06-22 2002-01-11 Hitachi Ltd ヘルプガイダンス自動表示・消去方式
US20060242607A1 (en) * 2003-06-13 2006-10-26 University Of Lancaster User interface
JP2006099468A (ja) * 2004-09-29 2006-04-13 Toshiba Corp ジェスチャ入力装置、ジェスチャ入力方法及びジェスチャ入力プログラム
US7657849B2 (en) * 2005-12-23 2010-02-02 Apple Inc. Unlocking a device by performing gestures on an unlock image
US8170798B2 (en) * 2006-09-22 2012-05-01 Mitsubishi Electric Corporation Navigation system and operation guidance display method for use in this navigation system
JP2008282092A (ja) * 2007-05-08 2008-11-20 Canon Inc ジェスチャーコマンドを覚えながら操作できる情報処理装置
JP2009294936A (ja) * 2008-06-05 2009-12-17 Fujitsu Ltd ヘルプメッセージ表示プログラム、ヘルプメッセージ表示装置、及びヘルプメッセージ表示方法
JP2010009240A (ja) * 2008-06-25 2010-01-14 Kyocera Mita Corp 表示装置及びヘルプメッセージ表示プログラム
JP2010128838A (ja) * 2008-11-28 2010-06-10 Toyota Motor Corp 入力デバイス
US8823749B2 (en) * 2009-06-10 2014-09-02 Qualcomm Incorporated User interface methods providing continuous zoom functionality
JP2011138237A (ja) * 2009-12-26 2011-07-14 Canon Inc 画像処理装置、画像処理装置の制御方法及びプログラム
JP5751934B2 (ja) * 2010-10-15 2015-07-22 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP2013218592A (ja) * 2012-04-11 2013-10-24 Seiko Epson Corp 文字入力装置

Also Published As

Publication number Publication date
JP2013257694A (ja) 2013-12-26

Similar Documents

Publication Publication Date Title
JP6368455B2 (ja) 装置、方法、及びプログラム
JP5850736B2 (ja) 装置、方法及びプログラム
JP5805588B2 (ja) 電子機器、制御方法及び制御プログラム
JP6017891B2 (ja) 装置、方法、及びプログラム
JP5891083B2 (ja) 装置、方法、及びプログラム
US9874994B2 (en) Device, method and program for icon and/or folder management
US20130167090A1 (en) Device, method, and storage medium storing program
JP2013084233A (ja) 装置、方法、及びプログラム
JP2013134729A (ja) 装置、方法、及びプログラム
JP5792017B2 (ja) 装置、方法、及びプログラム
JP5805685B2 (ja) 電子機器、制御方法、及び制御プログラム
JP5858896B2 (ja) 電子機器、制御方法及び制御プログラム
JP2014071724A (ja) 電子機器、制御方法及び制御プログラム
JP2013084237A (ja) 装置、方法、及びプログラム
JP2013073528A (ja) 装置、方法、及びプログラム
JP5762885B2 (ja) 装置、方法、及びプログラム
JP2013065291A (ja) 装置、方法、及びプログラム
JP6099537B2 (ja) 電子機器、方法、及びプログラム
JP2013092891A (ja) 装置、方法、及びプログラム
JP6139068B2 (ja) 装置及び方法
JP6080355B2 (ja) 装置、方法及びプログラム
JP2013101547A (ja) 装置、方法及びプログラム
JP5740366B2 (ja) 装置、方法、及びプログラム
JP2013092974A (ja) 装置、方法及びプログラム
JP2013047921A (ja) 装置、方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150113

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151130

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160105

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160307

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160719

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160916

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20170404

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20170703

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20170710

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20170908

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180523

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20180709

R150 Certificate of patent or registration of utility model

Ref document number: 6368455

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150