JP5929719B2 - 情報処理装置、通信システムおよび情報処理方法 - Google Patents

情報処理装置、通信システムおよび情報処理方法 Download PDF

Info

Publication number
JP5929719B2
JP5929719B2 JP2012247981A JP2012247981A JP5929719B2 JP 5929719 B2 JP5929719 B2 JP 5929719B2 JP 2012247981 A JP2012247981 A JP 2012247981A JP 2012247981 A JP2012247981 A JP 2012247981A JP 5929719 B2 JP5929719 B2 JP 5929719B2
Authority
JP
Japan
Prior art keywords
information processing
image
processing apparatus
received
displayed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2012247981A
Other languages
English (en)
Other versions
JP2014096074A (ja
Inventor
慶彦 池長
慶彦 池長
片山 靖
靖 片山
翔 天野
翔 天野
山浦 智也
智也 山浦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2012247981A priority Critical patent/JP5929719B2/ja
Priority to US14/072,347 priority patent/US9875725B2/en
Priority to CN201710930046.7A priority patent/CN107688433B/zh
Priority to CN201310547884.8A priority patent/CN103813114B/zh
Publication of JP2014096074A publication Critical patent/JP2014096074A/ja
Application granted granted Critical
Publication of JP5929719B2 publication Critical patent/JP5929719B2/ja
Priority to US15/209,459 priority patent/US10276132B2/en
Priority to US16/298,087 priority patent/US10679586B2/en
Priority to US16/869,036 priority patent/US11106292B2/en
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017Gesture based interaction, e.g. based on a set of recognized hand gestures
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/038Control and interface arrangements therefor, e.g. drivers or device-embedded control circuitry
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/14Digital output to display device ; Cooperation and interconnection of the display device with other functional units
    • G06F3/1423Digital output to display device ; Cooperation and interconnection of the display device with other functional units controlling a plurality of local displays, e.g. CRT and flat panel display
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/12Synchronisation between the display unit and other units, e.g. other display units, video-disc players
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M1/00Substation equipment, e.g. for use by subscribers
    • H04M1/72Mobile telephones; Cordless telephones, i.e. devices for establishing wireless links to base stations without route selection
    • H04M1/724User interfaces specially adapted for cordless or mobile telephones
    • H04M1/72403User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality
    • H04M1/72409User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories
    • H04M1/72412User interfaces specially adapted for cordless or mobile telephones with means for local support of applications that increase the functionality by interfacing with external accessories using two-way short-range wireless interfaces
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038Indexing scheme relating to G06F3/038
    • G06F2203/0383Remote input, i.e. interface arrangements in which the signals generated by a pointing device are transmitted to a PC at a remote location, e.g. to a PC in a LAN
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/02Handling of images in compressed format, e.g. JPEG, MPEG
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00Aspects of display data processing
    • G09G2340/12Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00Aspects of interface with display user
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2370/00Aspects of data communication
    • G09G2370/16Use of wireless transmission of display information
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04MTELEPHONIC COMMUNICATION
    • H04M2250/00Details of telephonic subscriber devices
    • H04M2250/22Details of telephonic subscriber devices including a touch pad, a touch sensor or a touch detector

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Computer Networks & Wireless Communication (AREA)
  • Computer Hardware Design (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • User Interface Of Digital Computer (AREA)
  • Position Input By Displaying (AREA)
  • Mobile Radio Communication Systems (AREA)
  • Digital Computer Display Output (AREA)
  • Information Transfer Between Computers (AREA)
  • Controls And Circuits For Display Device (AREA)

Description

本技術は、情報処理装置に関する。詳しくは、無線通信を利用して各種情報のやり取りを行う情報処理装置、通信システムおよび情報処理方法に関する。
従来、無線通信を利用して各種データのやり取りを行う無線通信技術が存在する。例えば、2つの無線通信装置間において近距離無線通信により各種データのやり取りを行う情報交換装置が提案されている(例えば、特許文献1参照。)。
特開2008−278388号公報
上述の従来技術によれば、有線回線で接続しなくても近距離無線通信により2つの無線通信装置間において各種データのやり取りを行うことができる。ただし、このように2つの無線通信装置間において各種データのやり取りを行う場合には、近距離無線通信による遅延が発生することがある。
ここで、例えば、送信側の情報処理装置から送信された画像データに基づく画像を表示部に表示している受信側の情報処理装置において、その画像に関する操作を行うための操作入力をユーザが行う場合を想定する。この場合には、その操作入力が反映された画像データに基づく画像が表示部に表示されるまでの時間は、その遅延分だけ遅くなることが想定される。このように、その操作入力が反映された画像が表示されるまでの時間が長くなると、その操作入力が正しく受け付けられたか否かをユーザが迅速に把握することができず、再度の操作入力のように誤操作等をしてしまうおそれがある。
本技術はこのような状況に鑑みて生み出されたものであり、ユーザ操作の受付状態をユーザが容易に把握することを目的とする。
本技術は、上述の問題点を解消するためになされたものであり、その第1の側面は、近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像が表示部に表示されている場合に当該画像に関するユーザ操作を受け付ける操作受付部と、上記ユーザ操作が受け付けられた場合に上記ユーザ操作を受け付けたことを通知するための通知情報を出力させ、上記ユーザ操作に応じた制御データを上記他の情報処理装置に送信する制御を行う制御部とを具備する情報処理装置およびその情報処理方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像が表示部に表示されている場合において、その画像に関するユーザ操作が受け付けられた場合にそのユーザ操作を受け付けたことを通知するための通知情報を出力させ、そのユーザ操作に応じた制御データを他の情報処理装置に送信するという作用をもたらす。
また、この第1の側面において、上記制御部は、上記ユーザ操作を受け付けたことを表す付加画像を上記表示部に表示されている画像に重ねて表示させることにより上記通知情報を出力させるようにしてもよい。これにより、ユーザ操作を受け付けたことを表す付加画像を表示部に表示されている画像に重ねて表示させるという作用をもたらす。
また、この第1の側面において、上記操作受付部および上記表示部は、タッチパネルにより構成され、上記ユーザ操作は、上記タッチパネルにおける接触操作または近接操作であり、上記制御部は、上記タッチパネルにおいて接触操作または近接操作が受け付けられた場合には当該接触操作または当該近接操作が受け付けられた上記タッチパネルにおける位置を基準として上記付加画像を表示させるようにしてもよい。これにより、タッチパネルにおいて接触操作または近接操作が受け付けられた場合には、その接触操作または近接操作が受け付けられたタッチパネルにおける位置を基準として付加画像を表示させるという作用をもたらす。
また、この第1の側面において、上記制御部は、上記タッチパネルにおいて操作画像を押下する押下操作が受け付けられた場合には当該押下操作が受け付けられた上記タッチパネルにおける位置を中心とする波紋画像を上記付加画像として表示させ、上記タッチパネルにおいて操作画像をなぞる操作が受け付けられた場合には当該なぞる操作の上記タッチパネルにおける軌跡を表す画像を上記付加画像として表示させるようにしてもよい。これにより、タッチパネルにおいて操作画像を押下する押下操作が受け付けられた場合には、その押下操作が受け付けられたタッチパネルにおける位置を中心とする波紋画像を表示させ、タッチパネルにおいて操作画像をなぞる操作が受け付けられた場合には、そのなぞる操作のタッチパネルにおける軌跡を表す画像を表示させるという作用をもたらす。
また、この第1の側面において、上記制御部は、上記付加画像を所定のタイミングで消去させるようにしてもよい。これにより、付加画像を所定のタイミングで消去させるという作用をもたらす。
また、この第1の側面において、上記制御部は、上記他の情報処理装置との間で生じる上記近距離無線通信の遅延時間に基づいて上記所定のタイミングを決定するようにしてもよい。これにより、他の情報処理装置との間で生じる近距離無線通信の遅延時間に基づいて所定のタイミングを決定するという作用をもたらす。
また、この第1の側面において、上記制御部は、上記制御データを受け付けた旨のデータを上記他の情報処理装置から受信したタイミングを上記所定のタイミングとするようにしてもよい。これにより、制御データを受け付けた旨のデータを他の情報処理装置から受信したタイミングを所定のタイミングとするという作用をもたらす。
また、この第1の側面において、上記制御部は、上記制御データを上記他の情報処理装置が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを上記他の情報処理装置から受信したタイミングまたは当該画像データに基づく画像を表示するタイミングを上記所定のタイミングとするようにしてもよい。これにより、制御データを他の情報処理装置が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを他の情報処理装置から受信したタイミング、または、その画像データに基づく画像を表示するタイミングを、所定のタイミングとするという作用をもたらす。
また、この第1の側面において、上記情報処理装置の姿勢を検出する姿勢検出部をさらに具備し、上記ユーザ操作は、上記情報処理装置の姿勢を変化させることにより行われる操作であり、上記制御部は、上記情報処理装置の姿勢が変化された場合には当該変化に基づく上記ユーザ操作を受け付けたことを通知するための上記通知情報を出力させるようにしてもよい。これにより、情報処理装置の姿勢が変化された場合には、その変化に基づくユーザ操作を受け付けたことを通知するための通知情報を出力させるという作用をもたらす。
また、この第1の側面において、上記制御部は、上記情報処理装置の姿勢が変化された場合には当該変化を視覚的に表す付加画像を上記表示部に表示されている画像に重ねて表示させることにより上記通知情報を出力させるようにしてもよい。これにより、情報処理装置の姿勢が変化された場合には、その変化を視覚的に表す付加画像を、表示部に表示されている画像に重ねて表示させるという作用をもたらす。
また、本技術の第2の側面は、近距離無線通信を利用して第2情報処理装置から受信した画像データに基づく画像を第1表示部に表示させ、上記画像に関するユーザ操作が受け付けられた場合には上記ユーザ操作に応じた制御データを上記第2情報処理装置に送信する第1情報処理装置と、上記近距離無線通信を利用して上記第1情報処理装置に上記画像を表示させるための画像データを送信するとともに上記画像と同一の画像を第2表示部に表示させ、上記第1情報処理装置から上記制御データを受信した場合には上記制御データを受信した旨のデータを上記第1情報処理装置に送信する第2情報処理装置とを具備し、上記第1情報処理装置が、上記ユーザ操作を受け付けたことを表す付加画像を上記第1表示部に表示されている上記画像に重ねて表示させる第1動作と、上記第2情報処理装置が、上記制御データを受け付けたことを表す付加画像を上記第2表示部に表示されている上記画像に重ねて表示させる第2動作とのうちの少なくとも一方が行われる通信システムおよびその情報処理方法ならびに当該方法をコンピュータに実行させるプログラムである。これにより、第1情報処理装置が、ユーザ操作を受け付けたことを表す付加画像を第1表示部に表示されている画像に重ねて表示させる第1動作と、第2情報処理装置が、制御データを受け付けたことを表す付加画像を第2表示部に表示されている画像に重ねて表示させる第2動作とのうちの少なくとも一方が行われるという作用をもたらす。
本技術によれば、ユーザ操作の受付状態をユーザが容易に把握することができるという優れた効果を奏し得る。
本技術の第1の実施の形態における通信システム100の構成例を示す図である。 本技術の第1の実施の形態における情報処理装置200の機能構成例を示すブロック図である。 本技術の第1の実施の形態における情報処理装置300の機能構成例を示すブロック図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。 本技術の第1の実施の形態における通信システム100を構成する各装置間における通信処理例を示すシーケンスチャートである。 本技術の第1の実施の形態における情報処理装置200によるデータ通信制御処理の処理手順の一例を示すフローチャートである。 本技術の第1の実施の形態における情報処理装置300によるデータ通信制御処理の処理手順の一例を示すフローチャートである。 本技術の第2の実施の形態における通信システム100を構成する各装置間における通信処理例を示すシーケンスチャートである。 本技術の第2の実施の形態における情報処理装置200によるデータ通信制御処理の処理手順の一例を示すフローチャートである。 本技術の第2の実施の形態における情報処理装置300によるデータ通信制御処理の処理手順の一例を示すフローチャートである。 本技術の第3の実施の形態における通信システム100を構成する各情報処理装置の表示例を示す図である。 本技術の実施の形態の変形例における情報処理装置201の機能構成例を示すブロック図である。 本技術の実施の形態の変形例における通信システム700の構成例を示す図である。 本技術の実施の形態の変形例における通信システム800の構成例を示す図である。
以下、本技術を実施するための形態(以下、実施の形態と称する)について説明する。説明は以下の順序により行う。
1.第1の実施の形態(表示制御:ユーザ操作が受け付けられた場合に付加画像を表示させ、遅延時間に基づいて付加画像を消去する例)
2.第2の実施の形態(表示制御:ユーザ操作が受け付けられた場合に付加画像を表示させ、送信側の情報処理装置からのデータに基づいて付加画像を消去する例)
3.第3の実施の形態(表示制御:送信側および受信側の情報処理装置に付加画像を表示させる例)
4.変形例
5.変形例
<1.第1の実施の形態>
[通信システムの構成例]
図1は、本技術の第1の実施の形態における通信システム100の構成例を示す図である。図1では、2つの情報処理装置(情報処理装置200および300)を直接無線接続する際におけるシステム構成の一例を示す。
通信システム100は、情報処理装置200および300を備える。また、情報処理装置200および300のそれぞれは、近距離無線通信機能を備える。これらは、例えば、IEEE(Institute of Electrical and Electronics Engineers)802.11仕様に準拠した無線通信装置である。そして、情報処理装置200および300は、近距離無線通信機能を利用して各種情報のやり取りを行うことができる。
ここで、通信システム100に用いられる近距離無線通信として、例えば、無線LAN(Local Area Network)、Wi−Fi Directを用いることができる。また、通信システム100に用いられる近距離無線通信として、例えば、TDLS(Tunneled Direct Link Setup)、アドホックネットワークを用いることができる。また、通信システム100に用いられる近距離無線AV(Audio Visual)伝送通信として、例えば、Wi−Fi CERTIFIED Miracastを用いることができる。なお、Wi−Fi CERTIFIED Miracastは、Wi−Fi DirectやTDLSの技術を利用して、一方の端末で再生される音声や表示映像を他の端末に送信し、他の端末でも同様にその音声、映像データを出力させるミラーリング技術である。
また、例えば、Wi−Fi CERTIFIED MiracastにUIBC(ユーザーインターフェイスバックチャネル)を適用することにより通信システム100が実現される。なお、UIBCは、例えば、Host PC(ホストコンピュータ)とUSB(Universal Serial Bus)とのやりとりで使用されるプロトコルである。Wi−Fi CERTIFIED MiracastではUIBCを、TCP IP(Transmission Control Protocol/Internet Protocol)上で実現している。なお、Wi−Fi CERTIFIED Miracastの代わりに、VNC(Virtual Network Computing)を適用するようにしてもよい。
なお、情報処理装置200は、例えば、無線通信機能を備える表示装置(例えば、テレビジョン、パーソナルコンピュータ)や携帯型の情報処理装置(例えば、カメラ、タブレット端末、スマートフォン)である。また、情報処理装置300は、例えば、無線通信機能を備える携帯型の情報処理装置(例えば、タブレット端末、スマートフォン)である。
また、図1では、情報処理装置300をユーザ10が手で持った状態で通信システム100を使用する状態を示す。例えば、近距離無線通信を利用して情報処理装置200が画像データを送信し、情報処理装置300がその画像データを受信して表示させることができる。また、ユーザ10は、手で持った情報処理装置300において各種操作を行うことができる。
[情報処理装置の構成例]
図2は、本技術の第1の実施の形態における情報処理装置200の機能構成例を示すブロック図である。
情報処理装置200は、アンテナ210と、無線通信部220と、エンコーダ230と、操作受付部240と、表示部250と、制御部260とを備える。
無線通信部220は、近距離無線通信を利用して、他の情報処理装置(例えば、情報処理装置300)との間で各情報(例えば、画像データ)の送受信をアンテナ210を介して行うものである。例えば、送信処理が行われる場合には、制御部260から出力された画像データ(映像データ)がエンコーダ230により圧縮され、この圧縮された画像データが無線通信部220を経由してアンテナ210から送信される。
エンコーダ230は、送信対象となる画像データを圧縮(エンコード)するものであり、圧縮された画像データを制御部260に出力する。なお、エンコーダ230は、ソフトウエアによるエンコードの実行により実現するようにしてもよく、ハードウエアによるエンコードの実行により実現するようにしてもよい。なお、送信対象となる画像データについては、エンコーダ230によるエンコードを行わずに、ローデータとして送信するようにしてもよい。
操作受付部240は、ユーザにより行われた操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作情報を制御部260に出力する。
表示部250は、制御部260の制御に基づいて、各種情報(画像、ゲーム等)を表示する表示部である。なお、表示部250として、例えば、有機EL(Electro Luminescence)パネル、LCD(Liquid Crystal Display)パネル等の表示パネルを用いることができる。なお、操作受付部240および表示部250については、使用者がその指を表示面に接触または近接することにより操作入力を行うことが可能なタッチパネルを用いて一体で構成することができる。
制御部260は、情報処理装置200の各部を制御するものである。例えば、制御部260は、画像を表示させるための画像データを情報処理装置300に送信する制御を行う。また、例えば、制御部260は、情報処理装置300において受け付けられたユーザ操作に応じた制御データを情報処理装置300から受信した場合には、その受信した制御データに基づく処理を行う。
[情報処理装置の構成例]
図3は、本技術の第1の実施の形態における情報処理装置300の機能構成例を示すブロック図である。
情報処理装置300は、アンテナ310と、無線通信部320と、デコーダ330と、操作受付部340と、表示部350と、姿勢検出部360と、遅延時間算出部370と、制御部380とを備える。
無線通信部320は、近距離無線通信を利用して、他の情報処理装置(例えば、情報処理装置200)との間で各情報(例えば、画像データ)の送受信をアンテナ310を介して行うものである。例えば、受信処理が行われる場合には、アンテナ310により受信された画像データが、無線通信部320を経由してデコーダ330により復号され、この復号された画像データが制御部380に供給される。そして、制御部380は、その復号された画像データに応じた画像を表示部350に表示させる。
デコーダ330は、情報処理装置200から出力された画像データを復号(デコード)するものであり、復号された画像データを制御部380に出力する。なお、デコーダ330は、ソフトウエアによるデコードの実行により実現するようにしてもよく、ハードウエアによるデコードの実行により実現するようにしてもよい。なお、情報処理装置200から送信された画像データがローデータである場合には、デコーダ330によるデコードを行わずにそのローデータを用いる。
操作受付部340は、ユーザにより行われた操作入力を受け付ける操作受付部であり、受け付けられた操作入力に応じた操作情報を制御部380に出力する。例えば、操作受付部340は、近距離無線通信を利用して情報処理装置200から受信した画像データに基づく表示画面が表示部350に表示されている場合に、その表示画面に関するユーザ操作を受け付ける。操作受付部340は、例えば、タッチパネル、キーボード、マウスにより実現される。
表示部350は、制御部380の制御に基づいて、各種情報(画像、ゲーム等)を表示する表示部である。表示部350は、例えば、情報処理装置200から送信された画像データに基づく画像(例えば、図4乃至図9に示す表示画面)を表示する。なお、表示部350として、例えば、有機ELパネル、LCDパネル等の表示パネルを用いることができる。なお、本技術の実施の形態では、使用者がその指を表示面に接触または近接することにより操作入力を行うことが可能なタッチパネルを用いて、操作受付部340および表示部350を一体で構成する例を示す。
姿勢検出部360は、情報処理装置300の加速度、動き、傾き等を検出することにより情報処理装置300の姿勢の変化を検出するものであり、検出された姿勢の変化に関する姿勢情報を制御部380に出力する。姿勢検出部360として、例えば、情報処理装置300における3軸(例えば、X軸、Y軸、Z軸)の回転角を検出することができるセンサを用いることが好ましい。例えば、姿勢検出部360として、加速度の方向を検出することができる加速度センサ、デバイスの傾きを検出する傾きセンサ、回転運動を検出することができる角速度センサ、ジャイロセンサを用いることができる。
遅延時間算出部370は、情報処理装置200との間で生じる近距離無線通信の遅延時間を算出するものであり、算出された遅延時間を制御部380に出力する。なお、遅延時間の算出方法については、図10を参照して詳細に説明する。
制御部380は、情報処理装置300の各部を制御するものである。例えば、制御部380は、情報処理装置200から受信した画像データに基づく表示画面を表示部350に表示させる制御を行う。この場合において、ユーザ操作が受け付けられた場合には、制御部380は、ユーザ操作を受け付けたことを通知するための通知情報を出力させる制御を行う。この通知情報として、例えば、ユーザ操作を受け付けたことを表す付加画像(例えば、図4のbに示す波紋画像402)が、表示部350に表示されている表示画面(情報処理装置200から受信した画像データに基づく表示画面)に重ねて表示される。また、制御部380は、ユーザ操作が受け付けられた場合には、そのユーザ操作に応じた制御データを情報処理装置200に送信する制御を行う。
また、例えば、制御部380は、表示部350に表示した付加画像を、所定のタイミングで消去させる制御を行う。例えば、制御部380は、遅延時間算出部370により算出された遅延時間に基づいて、そのタイミングを決定することができる。
[受信側の情報処理装置の表示例]
図4乃至図9は、本技術の第1の実施の形態における情報処理装置300をユーザが操作する場合における表示部350の表示遷移例を示す図である。
[押下操作を行う場合の表示例]
図4のaには、情報処理装置300の表示部350にコンテンツ一覧画面400が表示されている場合における表示例を示す。コンテンツ一覧画面400は、情報処理装置200から送信された画像データに基づいて表示される。例えば、コンテンツ一覧画面400には、コンテンツ(例えば、動画コンテンツ、静止画コンテンツ)を表す代表画像がコンテンツ毎に表示される。そして、ユーザは、コンテンツ一覧画面400において所望のコンテンツに対応する代表画像の選択操作(例えば、ユーザによるタッチ操作)を行うことにより、所望のコンテンツを利用することができる。
ここで、情報処理装置200から送信された画像データに基づく表示画面のみが表示部350に表示される場合に、その表示画面を見ながらユーザが操作入力(ユーザ操作)を行う場合を想定する。この場合に、例えば、コンテンツ一覧画面400においてユーザ操作が行われた場合には、このユーザ操作に応じた制御データが情報処理装置300から情報処理装置200に送信される。そして、情報処理装置200は、その制御データを受信すると、その制御データに応じた処理を行った後に、その処理後の表示画面(その制御データが反映された表示画面)を表示させるための画像データを情報処理装置300に送信する。
このように、コンテンツ一覧画面400においてユーザ操作が行われた場合には、情報処理装置300および情報処理装置200間において情報のやり取りを行った後に、その制御データが反映された表示画面が表示される。このため、そのユーザ操作が反映される表示画面が表示されるまでの時間が長くなることもある。このような場合には、ユーザは、コンテンツ一覧画面400においてユーザ操作を行ったにもかかわらず、そのユーザ操作が正しく受け付けられたか否かを迅速に認識することができず、そのユーザ操作が実際に受け付けられたか否かの判断が困難となる。この場合には、ユーザ操作が正しく受け付けられていないと判断し、再度の操作入力をしてしまう等の誤操作を行うおそれもある。
そこで、本技術の第1の実施の形態では、表示部350に表示されている表示画面についてユーザ操作が行われた場合に、そのユーザ操作が正しく受けつけられたことを示す付加画像(例えば、図4のbに示す波紋画像402)を即座に表示画面に重ねて表示する。これにより、そのユーザ操作を受け付けたことを素早くユーザに通知することができる。
図4のbには、コンテンツ一覧画面400においてユーザ操作が行われた直後における表示例を示す。この例では、コンテンツ一覧画面400における代表画像401を選択するためのユーザ操作が行われた場合における表示例を示す。
図4のbに示すように、コンテンツ一覧画面400において、代表画像401を選択するためのユーザ操作(例えば、押下操作)が行われた場合には、制御部380は、その選択された代表画像401の周りに波紋画像(付加画像)402を表示させる。そして、制御部380は、代表画像401が選択された旨の制御データ(押下位置、押下時間を含む)を送信側の情報処理装置200に送信する。このように、代表画像401を選択するためのユーザ操作が行われた直後に、そのユーザ操作が正しく受け付けられたことを表す波紋画像402を表示することにより、ユーザは、自分が行った操作が受け付けられたことを迅速に容易に把握することができる。
ここで、図4のbでは、複数の色を付した波模様の波紋画像402を付加画像として表示する例を示すが、半透明の波紋画像を付加画像として表示するようにしてもよい。また、他の形状の画像を付加画像として表示するようにしてもよい。
また、図4のbでは、ユーザ操作として押下操作を行う例を示したが、他の押下操作(例えば、長押し、ダブルタップ)を行う場合についても同様に、波紋画像を付加画像として表示するようにしてもよい。この場合には、ユーザ操作の種類に応じて波紋画像の色や形状を変更するようにしてもよい。また、例えば、ユーザ操作として長押し操作が行われた場合には、その押す時間の長さに応じて色、サイズを変更するようにしてもよい。また、他の押下操作についても、他の形状の画像を付加画像として表示するようにしてもよい。
また、押下操作以外の各操作(例えば、なぞる操作、拡大縮小操作)を行う場合についても同様に、付加画像を表示することができる。これらの表示例を図5乃至図7に示す。
[なぞる操作を行う場合の表示例]
図5のaには、図4に示すコンテンツ一覧画面400上に操作画面410が表示されている場合における表示例を示す。操作画面410は、例えば、所定タイミングまたはユーザ操作に応じて、情報処理装置200から送信された画像データに基づいて表示される。
操作画面410には、操作領域画像411および操作標識412が表示される。操作領域画像411は、操作標識412を移動させることにより、コンテンツ一覧画面400に関する各処理の設定(例えば、表示倍率の設定)を行うための操作領域画像である。
操作標識412は、操作領域画像411におけるユーザのタッチ操作やなぞる操作により移動させることができる。例えば、操作領域画像411における操作標識412の表示部分を指で触れた状態で、操作領域画像411における所望の位置にその指をユーザが移動させることにより操作標識412の移動操作(スクロール操作)を行うことができる。また、操作領域画像411における所望の位置に指を触れる操作(タッチ操作)をユーザが行うことにより、その指が触れた位置に操作標識412を移動させることができる。
図5のbには、操作画面410においてユーザ操作が行われた直後における表示例を示す。この例では、操作領域画像411における操作標識412を、左側から右側に移動するためのユーザ操作が行われた場合における表示例を示す。
図5のbに示すように、操作画面410において、操作標識412を左側から右側に移動するためのユーザ操作(例えば、なぞる操作)が行われた場合には、制御部380は、その最初および最後の位置を表す波紋画像(付加画像)415、416を表示させる。また、制御部380は、その移動の軌跡を表す軌跡画像(付加画像)417を表示させる。そして、制御部380は、操作標識412を左側から右側に移動するためのなぞる操作が行われた旨の制御データ(接触位置、その軌跡を含む)を送信側の情報処理装置200に送信する。このように、操作標識412を左側から右側に移動するためのユーザ操作が行われた直後に、そのユーザ操作が正しく受け付けられたことを表す付加画像(波紋画像415、416、軌跡画像417)を表示する。これにより、ユーザは、自分が行った操作が受け付けられたことを迅速に容易に把握することができる。
なお、図4のbと同様に、図5のbに示す各付加画像の代わりに、他の表示態様の画像を付加画像として表示するようにしてもよい。
[縮小操作を行う場合の表示例]
図6のaには、コンテンツ表示画面420が表示されている場合における表示例を示す。コンテンツ表示画面420は、例えば、図4に示す代表画像401の選択操作が行われた後に表示される表示画面(例えば、動画や静止画の再生画面)であり、情報処理装置200から送信された画像データに基づいて表示される。
ここで、矢印421および422に示すように、コンテンツ表示画面420に表示されている画像を縮小するためのユーザ操作(例えば、手20の2本の指でつまむような操作(ピンチ))が行われた場合を想定する。この場合には、図6のbに示すように、ユーザ操作に応じた矢印画像(付加画像)425、426が表示される。
図6のbには、コンテンツ表示画面420においてユーザ操作が行われた直後における表示例を示す。この例では、図6のaに示すユーザ操作が行われた場合における表示例を示す。なお、図6のbでは、説明の容易のため、手20の図示を省略する。
図6のbに示すように、コンテンツ表示画面420に表示されている画像を縮小するためのユーザ操作が行われた場合には、制御部380は、その最初および最後の位置を表す矢印画像(付加画像)425、426を表示させる。そして、制御部380は、コンテンツ表示画面420に表示されている画像を縮小するためのユーザ操作が行われた旨の制御データ(2つの接触位置、それらの軌跡を含む)を送信側の情報処理装置200に送信する。
ここで、コンテンツ表示画面420においてユーザ操作が行われた直後には、そのユーザ操作が反映された画像データが情報処理装置200から送信されていない状態である。このため、図6のbに示すように、そのユーザ操作時における表示画面上に矢印画像(付加画像)425、426が表示される。すなわち、そのユーザ操作に応じた画像の縮小処理が行われる前の状態で矢印画像(付加画像)425、426が表示される。そして、そのユーザ操作が反映された画像データが情報処理装置200から送信された場合には、そのユーザ操作に応じた縮小処理が行われた表示画面が表示される。
このように、コンテンツ表示画面420に表示されている画像を縮小するためのユーザ操作が行われた直後に、そのユーザ操作が正しく受け付けられたことを表す矢印画像(付加画像)425、426を表示する。これにより、ユーザは、自分が行った操作が受け付けられたことを迅速に容易に把握することができる。
[拡大操作を行う場合の表示例]
図7のaには、コンテンツ表示画面420が表示されている場合における表示例を示す。図7のbには、コンテンツ表示画面420に表示されている画像を拡大するためのユーザ操作が行われた直後における表示例を示す。
なお、図7に示す例は、図6に示す例における縮小操作を行う代わりに、拡大操作を行う例であるため、ここでの詳細な説明を省略する。すなわち、図7に示す例は、矢印431および432に示すように、コンテンツ表示画面420に表示されている画像を拡大するためのユーザ操作(例えば、手20の2本の指でつまむような操作(ピンチ))が行われた場合の例である。この場合には、図7のbに示すように、ユーザ操作に応じた矢印画像(付加画像)435、436が表示される。
このように、制御部380は、表示部350の表示面(タッチパネル)において接触操作(または、近接操作)が受け付けられた場合には、その接触操作(または、近接操作)が受け付けられた表示面における位置を基準として付加画像を表示させる。例えば、制御部380は、図4のbに示すように、代表画像401(操作画像)を押下する押下操作が受け付けられた場合には、その押下操作が受け付けられた表示面における位置を中心とする波紋画像402を付加画像として表示させる。また、例えば、制御部380は、図5乃至7に示すように、表示面において操作画像をなぞる操作が受け付けられた場合には、そのなぞる操作の表示面における軌跡を表す画像を付加画像として表示させる。この軌跡を表す画像は、例えば、図5のbに示す波紋画像415、416、軌跡画像417、図6のbに示す矢印画像425、426、図7のbに示す矢印画像435、436である。
[情報処理装置を傾けることにより操作を行う場合の表示例]
図8のaには、コンテンツ表示画面440が表示されている場合における表示例を示す。コンテンツ表示画面440は、例えば、ユーザ操作に基づいて表示される表示画面であり、情報処理装置200から送信された画像データに基づいて表示される。コンテンツ表示画面440は、例えば、道路上に存在する障害物(牛、切り株)を避けながら車441を操作するゲームを行うための表示画面である。例えば、情報処理装置300を左側に傾けることにより車441を左側に曲げることができ、情報処理装置300を右側に傾けることにより車441を右側に曲げることができるものとする。
ここで、情報処理装置300を右側に傾ける操作(車441を右側に曲げる操作)が行われた場合を想定する。この場合には、図8のbに示すように、ユーザ操作に応じた矢印画像(付加画像)442が表示される。
図8のbには、コンテンツ表示画面440においてユーザ操作が行われた直後における表示例を示す。この例では、情報処理装置300を右側に傾ける操作(車441を右側に曲げる操作)が行われた場合における表示例を示す。なお、図8では、説明の容易のため、ユーザの手の図示を省略する。
図8のbに示すように、情報処理装置300を右側に傾ける操作(車441を右側に曲げる操作)が行われた場合には、制御部380は、姿勢検出部360から出力される姿勢情報(姿勢の変化に関する情報)に基づいてその操作を検出することができる。このように、制御部380は、その操作が検出された場合には、その傾きの方向を表す矢印画像(付加画像)442を表示させる。そして、制御部380は、情報処理装置300を右側に傾けるユーザ操作(車441を右側に曲げるユーザ操作)が行われた旨の制御データ(傾き方向、傾き角度を含む)を送信側の情報処理装置200に送信する。
ここで、コンテンツ表示画面440においてユーザ操作が行われた直後には、そのユーザ操作が反映された画像データが情報処理装置200から送信されていない状態である。このため、図8のbに示すように、そのユーザ操作時における画像上に矢印画像(付加画像)442が表示される。すなわち、そのユーザ操作に応じた車441の移動がされる前の状態で矢印画像(付加画像)442が表示される。そして、そのユーザ操作が反映された画像データが情報処理装置200から送信された場合には、そのユーザ操作に応じた車441の移動がされた表示画面が表示される。
このように、情報処理装置300を右側に傾ける操作(車441を右側に曲げる操作)が行われた直後に、そのユーザ操作が正しく受け付けられたことを表す矢印画像(付加画像)442を表示する。これにより、ユーザは、自分が行った操作が受け付けられたことを迅速に容易に把握することができる。
[情報処理装置を回転させることにより操作を行う場合の表示例]
図9のaには、コンテンツ表示画面450が表示されている場合における表示例を示す。コンテンツ表示画面450は、例えば、ユーザ操作に基づいて表示される表示画面であり、情報処理装置200から送信された画像データに基づいて表示される。コンテンツ表示画面450は、例えば、アニメを再生するための表示画面である。また、表示部350の表示面に垂直となる軸を回転軸として、情報処理装置300を90度だけ回転させることにより、表示部350の縦長状態および横長状態を変更することができるものとする。
ここで、矢印451に示すように、表示部350の表示面に垂直となる軸を回転軸として、情報処理装置300をCW(ClockWise:時計回り)方向に90度だけ回転させる操作が行われた場合を想定する。この場合には、図9のbに示すように、ユーザ操作に応じた矢印画像(付加画像)452が表示される。
図9のbには、コンテンツ表示画面450においてユーザ操作が行われた直後における表示例を示す。この例では、情報処理装置300をCW方向に90度だけ回転させる操作が行われた場合における表示例を示す。なお、図9では、説明の容易のため、ユーザの手の図示を省略する。
図9のbに示すように、情報処理装置300をCW方向に90度だけ回転させる操作が行われた場合には、制御部380は、姿勢検出部360から出力される姿勢情報(姿勢の変化に関する情報)に基づいてその操作を検出することができる。このように、制御部380は、その操作が検出された場合には、その回転の方向を表す矢印画像(付加画像)452を表示させる。そして、制御部380は、情報処理装置300をCW方向に90度だけ回転させる操作が行われた旨の制御データ(回転方向、回転角度を含む)を送信側の情報処理装置200に送信する。
ここで、コンテンツ表示画面450においてユーザ操作が行われた直後には、そのユーザ操作が反映された画像データが情報処理装置200から送信されていない状態である。このため、図9のbに示すように、そのユーザ操作時における画像上に矢印画像(付加画像)452が表示される。すなわち、そのユーザ操作に応じて画像が回転される前の状態で矢印画像(付加画像)452が表示される。そして、そのユーザ操作が反映された画像データが情報処理装置200から送信された場合には、そのユーザ操作に応じて画像が回転された表示画面が表示される。
このように、情報処理装置300をCW方向に90度だけ回転させる操作が行われた直後に、そのユーザ操作が正しく受け付けられたことを表す付加画像452を表示する。これにより、ユーザは、自分が行った操作が受け付けられたことを迅速に容易に把握することができる。
このように、制御部380は、情報処理装置300の姿勢が変化された場合には、その変化に基づくユーザ操作(情報処理装置300の姿勢を変化させることにより行われる操作)を受け付けたことを通知するための通知情報を出力させる制御を行う。この場合に、例えば、制御部380は、その変化を視覚的に表す付加画像(図8に示す矢印画像442、図9に示す矢印画像452)を表示部350に表示されている画像に重ねて表示させることにより通知情報を出力させることができる。
なお、図4のb、図5のbと同様に、図6のb、図7のb、図8のb、図9のbに示す各付加画像の代わりに、他の表示態様の画像を付加画像として表示するようにしてもよい。例えば、図8のb、図9のbに示す矢印画像(付加画像)442、452については、表示画面の全体にさらに薄く表示させて点滅させるようにしてもよい。
[通信例]
図10は、本技術の第1の実施の形態における通信システム100を構成する各装置間における通信処理例を示すシーケンスチャートである。なお、この通信処理例では、ユーザによる操作入力が行われた場合における通信処理を簡略化して示す。
最初に、送信側の情報処理装置200と、受信側の情報処理装置300との間でネットワーク接続処理が行われる(601、602)。すなわち、送信側の情報処理装置200と、受信側の情報処理装置300との間で接続のセットアップが行われる(601、602)。
続いて、送信側の情報処理装置200と、受信側の情報処理装置300との通信において、ケーパビリティを交換するケーパビリティ交換処理(例えば、コーデック情報、その他のサポートするデータフォーマット情報の交換処理)が行われる(603、604)。このケーパビリティ交換処理では、例えば、画像データの圧縮形式、どのような画像サイズでデータを送信するか、どのような制御データが送信可能であるかを示す各情報の交換が行われる(603、604)。例えば、Wi−Fi CERTIFIED Miracastを使用する場合には、RTSP(Real Time Streaming Protocol)パケットを使用してそれらのデータを交換し、送信するデータ形式を決定することができる。なお、ケーパビリティを装置間で予め決めておき、その予め決められているケーパビリティで画像データを送信するようにしてもよい。この場合には、ケーパビリティ交換処理を省略することができる。
続いて、送信側の情報処理装置200および受信側の情報処理装置300のそれぞれにおいて、使用するコーデック(Video Codec)が決定される(605、606)。続いて、送信側の情報処理装置200は、受信側の情報処理装置300に表示させるための表示画面(UI画面)に応じた画像データを生成する(607)。そして、送信側の情報処理装置200は、生成された画像データをエンコードして受信側の情報処理装置300に送信する(608、609)。例えば、Wi−Fi CERTIFIED Miracastを使用する場合には、RTP(Real-time Transport Protocol)データを使用して画像データが送信される。
送信側の情報処理装置200から送信された画像データを受信した場合には(609)、受信側の情報処理装置300は、その受信した画像データをデコードして、デコード後の画像データに応じた表示画面を表示部350に表示させる(610)。例えば、図4のaに示すコンテンツ一覧画面400が表示部350に表示される。
続いて、受信側の情報処理装置300の遅延時間算出部370は、送信側の情報処理装置200および受信側の情報処理装置300間のおおよその遅延時間を算出する(611)。例えば、各装置間でやりとりされたパケットデータのRTT(Round Trip Time)値や受信側の情報処理装置300が備えるバッファサイズに基づいて遅延時間が算出される(611)。ここで、パケットデータのRTT値は、信号を送信してからその応答が返って来るまでの時間を意味する値である。また、パケットデータのRTT値として、例えば、ケーパビリティ交換処理(603、604)や画像データの通信処理(608、609)の通信において、情報処理装置200および300間でやりとりされたパケットデータのRTT値を用いることができる。
ここで、遅延時間(推定遅延時間)を算出する計算方法の一例を示す。遅延時間は、次の式1を用いて算出することができる。
遅延時間=ネットワーク遅延+(パケットの到着時刻−そのパケットの再生時刻) … 式1
ここで、ネットワーク遅延は、パケットデータのRTT値を用いて求めることができる。また、(パケットの到着時刻−そのパケットの再生時刻)は、情報処理装置300が備えるバッファサイズを用いて求めることができる。
そして、受信側の情報処理装置300は、その算出された遅延時間を保持する。なお、遅延時間の値は、パケットを送受信する毎に更新するようにしてもよく、最初に算出された値を固定値として使用するようにしてもよい。
ここで、送信側の情報処理装置200から送信された画像データに応じた表示画面が表示部350に表示されている状態で、ユーザによる操作入力(ユーザインプット)が行われた場合を想定する。このように操作入力が行われた場合には(612)、受信側の情報処理装置300は、その操作入力を受けつけた時点で、表示部350に表示されている表示画面に、その操作入力を受けつけたことを示す付加画像(エフェクト画像)を重ねて表示させる(613)。すなわち、送信側の情報処理装置200から送信された画像データに応じた表示画面に、その操作入力を受けつけたことを示す付加画像を重ねて表示する(オーバレイ表示)。例えば、図4のbに示すように、押下操作が受け付けられた場合には、波紋状の画像(波紋画像402)がオーバレイ表示される。また、図5のbに示すように、スクロール操作が受け付けられた場合には、その操作内容を表す付加画像(波紋画像415、416、軌跡画像417)がオーバレイ表示される。
続いて、受信側の情報処理装置300は、保持されている遅延時間に応じたタイマをセットする(614)。このタイマは、付加画像を消去するタイミングを計測するタイマである。すなわち、セットされたタイマが終了するまでの間、付加画像が表示され続け、そのタイマが終了したタイミングで付加画像が消去される。
続いて、受信側の情報処理装置300は、その操作入力に応じた制御データ(ユーザインプットデータ)を送信側の情報処理装置200に送信する(615、616)。例えば、その操作入力に応じた制御データは、UIBCのプロトコルで送信側の情報処理装置200に送信される(615、616)。
なお、この例では、付加画像の表示後に(613)、制御データを送信する(615、616)例を示すが、制御データの送信後に、付加画像を表示するようにしてもよい。
また、例えば、受信側の情報処理装置300に保持されている遅延時間が基準値よりも短い場合には、付加画像を表示させないようにしてもよい。すなわち、遅延がある程度発生しているときに限り、付加画像の表示を行い、ユーザ操作が正しく受け付けられたことをユーザに通知するようにしてもよい。
また、受信側の情報処理装置300は、セットされたタイマ(遅延時間に応じたタイマ)が終了したタイミングで付加画像を消去する(617)。すなわち、算出された遅延時間が経過した後に付加画像が消去される(617)。
ここで、付加画像については、その描画時間に応じてフェードアウトする等の画像処理を施すようにしてもよい。例えば、付加画像の表示タイミングから時間の経過に応じてその付加画像を薄くなるように画像処理を施し、所定時間に達したときに付加画像を消去するようにすることができる。
受信側の情報処理装置300から送信された制御データを受信した場合には(616)、送信側の情報処理装置200は、その受信した制御データに基づく処理を行う(618)。例えば、図4のbに示すように、代表画像401の押下操作が受け付けられた場合には、代表画像401に対応するコンテンツ表示画面420(図6、図7に示す)を情報処理装置300に表示させるための処理が、その制御データに基づく処理として行われる。
続いて、送信側の情報処理装置200は、制御データに基づく処理が反映された画像データを生成する(619)。続いて、送信側の情報処理装置200は、生成された画像データをエンコードして受信側の情報処理装置300に送信する(620、621)。また、受信側の情報処理装置300は、その画像データをデコードして、デコード後の画像データに応じた表示画面を表示部350に表示させる(622)。
ここで、ユーザによる操作入力が行われた直後に、その操作入力を受けつけたことを示す付加画像を重ねて表示させない場合を想定する。この場合に、ユーザによる操作入力に基づく処理が行われた結果が反映されるのは、その処理が反映された画像データを受信側の情報処理装置300が受信して表示するタイミングとなる。ただし、ユーザによる操作入力が行われてから、その操作入力に基づく処理が行われた結果が反映されるまでの期間(612から622までの期間)は、ネットワーク遅延や処理遅延等に左右されることが多い。そして、この期間が長ければ長いほど、ユーザビリティ(使いやすさ)の低下につながるおそれがある。
これに対して、本技術の第1の実施の形態では、ユーザによる操作入力が行われた直後に、その操作入力を受けつけたことを示す付加画像を重ねて表示させる(612、613)。このため、ユーザによる操作入力が行われたタイミングで、ユーザ操作(コマンド)が正しく受け付けられたことをユーザに迅速に通知することができる。
[情報処理装置の動作例]
図11は、本技術の第1の実施の形態における情報処理装置200によるデータ通信制御処理の処理手順の一例を示すフローチャートである。なお、この例では、送信側の情報処理装置200および受信側の情報処理装置300間で近距離無線通信を行う例を示す。
最初に、制御部260は、受信側の情報処理装置300との間でネットワーク接続処理を実行する(ステップS901)。すなわち、送信側の情報処理装置200と、受信側の情報処理装置300との間で接続のセットアップが行われる(ステップS901)。
続いて、制御部260は、受信側の情報処理装置300との通信において、ケーパビリティを交換するケーパビリティ交換処理を実行する(ステップS902)。続いて、制御部260は、受信側の情報処理装置300との間で行う近距離無線通信に使用するコーデック(Video Codec)を決定する(ステップS903)。
続いて、制御部260は、受信側の情報処理装置300に表示させるための表示画面(UI画面)に応じた画像データを生成する(ステップS904)。続いて、エンコーダ230は、生成された画像データをエンコードし、制御部260は、エンコードされた画像データを受信側の情報処理装置300に送信する(ステップS905)。
続いて、制御部260は、操作入力に応じた制御データを送信側の情報処理装置200から受信したか否かを判断する(ステップS906)。そして、操作入力に応じた制御データを受信していない場合には(ステップS906)、ステップS904に戻る。一方、操作入力に応じた制御データを送信側の情報処理装置200から受信した場合には(ステップS906)、制御部260は、その受信した制御データに基づく処理を行う(ステップS907)。
続いて、制御部260は、ネットワーク接続の終了指示が受け付けられたか否かを判断し(ステップS908)、その終了指示が受け付けられた場合には、データ通信制御処理の動作を終了する。一方、その終了指示が受け付けられていない場合には(ステップS908)、ステップS904に戻る。そして、制御部260は、受信側の情報処理装置300に表示させるための表示画面(UI画面)に応じた画像データ(その受信した制御データに基づく処理が反映された画像データ)を生成する(ステップS904)。
[情報処理装置の動作例]
図12は、本技術の第1の実施の形態における情報処理装置300によるデータ通信制御処理の処理手順の一例を示すフローチャートである。なお、この例では、送信側の情報処理装置200および受信側の情報処理装置300間で近距離無線通信を行う例を示す。
最初に、制御部380は、送信側の情報処理装置200との間でネットワーク接続処理を実行する(ステップS911)。すなわち、送信側の情報処理装置200と、受信側の情報処理装置300との間で接続のセットアップが行われる(ステップS911)。
続いて、制御部380は、送信側の情報処理装置200との通信において、ケーパビリティを交換するケーパビリティ交換処理を実行する(ステップS912)。続いて、制御部380は、送信側の情報処理装置200との間で行う近距離無線通信に使用するコーデック(Video Codec)を決定する(ステップS913)。
続いて、制御部380は、送信側の情報処理装置200により生成された画像データを受信したか否かを判断し(ステップS914)、その画像データを受信していない場合には、ステップS917に進む。一方、その画像データを受信した場合には(ステップS914)、デコーダ330は、その受信した画像データをデコードし、制御部380は、デコード後の画像データに応じた表示画面を表示部350に表示させる(ステップS915)。なお、ステップS915は、特許請求の範囲に記載の第1手順の一例である。
続いて、制御部380は、送信側の情報処理装置200および受信側の情報処理装置300間のおおよその遅延時間を算出する(ステップS916)。そして、制御部380は、その算出された遅延時間を保持する。
続いて、制御部380は、ユーザによる操作入力が行われたか否かを判断する(ステップS917)。そして、ユーザによる操作入力が行われていない場合には(ステップS917)、ステップS921に進む。一方、ユーザによる操作入力が行われた場合には(ステップS917)、制御部380は、その操作入力を受けつけた時点で、表示部350に表示されている表示画面に、その操作入力を受けつけたことを示す付加画像を重ねて表示させる(ステップS918)。なお、ステップS918は、特許請求の範囲に記載の第2手順の一例である。
続いて、制御部380は、保持されている遅延時間に応じたタイマをセットする(ステップS919)。続いて、制御部380は、その操作入力に応じた制御データを送信側の情報処理装置200に送信する(ステップS920)。なお、ステップS920は、特許請求の範囲に記載の第3手順の一例である。
続いて、制御部380は、セットされたタイマ(遅延時間に応じたタイマ)が終了したか否かを判断する(ステップS921)。そして、セットされたタイマが終了していない場合には(ステップS921)、ステップS923に進む。一方、セットされたタイマが終了した場合には(ステップS921)、制御部380は、タイマが終了した付加画像を消去する(ステップS922)。なお、複数回のユーザ操作が行われた場合には、その複数回のユーザ操作毎に付加画像が表示される。この場合には、付加画像毎にタイマがセットされ、タイマが終了した付加画像が順次消去される。
続いて、制御部380は、ネットワーク接続の終了指示が受け付けられたか否かを判断し(ステップS923)、その終了指示が受け付けられた場合には、データ通信制御処理の動作を終了する。一方、その終了指示が受け付けられていない場合には(ステップS923)、ステップS914に戻る。
なお、この例では、付加画像の表示後に(ステップS918)、制御データを送信する(ステップS920)例を示すが、制御データの送信後に、付加画像を表示するようにしてもよい。
このように、本技術の実施の形態では、表示部350に表示されている表示画面についてユーザ操作が行われた場合に、そのユーザ操作が正しく受けつけられたことを示す付加画像(そのユーザ操作に応じた付加画像)を即座に表示画面に重ねて表示する。これにより、そのユーザ操作を受け付けたことを迅速にユーザに通知することができる。
これにより、ユーザ操作が受け付けられたことを視覚的にフィードバックすることができ、そのユーザ操作の受付を明確、かつ、迅速にユーザに通知することができるため、快適な操作感をユーザに提供することができる。また、ユーザ操作の受付を明確、かつ、迅速にユーザに通知することができるため、誤操作を防ぐことができる。
また、遅延時間に応じて、付加画像を表示する期間を動的に変更することにより、付加画像の表示と、ユーザ操作に基づく処理がされた画像とが重なることを防止することができる。これにより、ユーザ操作に基づく処理がされた画像が見え難くなることを防止することができる。このように、本技術の実施の形態では、ユーザ操作の受付状態をユーザが容易に把握することができ、遠隔操作の遅延を考慮したユーザフィードバックを実現することができる。
<2.第2の実施の形態>
本技術の第1の実施の形態では、2つの情報処理装置間における通信の遅延時間を受信側の情報処理装置が算出し、この遅延時間に基づいて付加画像を消去する例を示した。ただし、送信側の情報処理装置からの情報に基づいて、受信側の情報処理装置が付加画像を消去するようにしてもよい。
そこで、本技術の第2の実施の形態では、送信側の情報処理装置からの情報に基づいて、受信側の情報処理装置が付加画像を消去する例を示す。なお、本技術の第2の実施の形態における通信システム(これを構成する情報処理装置)の構成は、図1等に示す通信システム100、情報処理装置200、300と略同様である。このため、通信システム100、情報処理装置200、300と共通する部分については、同一の符号を付して、これらの説明の一部を省略する。
[通信例]
図13は、本技術の第2の実施の形態における通信システム100を構成する各装置間における通信処理例を示すシーケンスチャートである。なお、図13は、図10の変形例であるため、図10と共通する部分については、同一の符号を付して、その説明の一部を省略する。
ここで、この例では、図10に示す遅延時間の算出(611)、タイマのセット(614)を行わない。
また、送信側の情報処理装置200は、受信した制御データに基づく処理を行った後に(618)、その制御データに対するAck(ACKnowledgement)を受信側の情報処理装置300に送信する(631、632)。すなわち、受信した制御データに対応する操作入力を受け付けた旨が、受信側の情報処理装置300に送信される(631、632)。
また、受信側の情報処理装置300は、その制御データに対するAckを受信したタイミング(632)で付加画像を消去するようにしてもよい(633)。ただし、送信側の情報処理装置200および受信側の情報処理装置300間には、遅延が発生するため、その制御データに基づく処理が反映された画像データを表示するタイミングで付加画像を消去することが好ましい。
そこで、例えば、送信側の情報処理装置200は、その制御データに対するAckのパケットに、その制御データを受け付けた時点における画像データに対応するシーケンス番号を記載しておく。そして、受信側の情報処理装置300が、そのシーケンス番号に対応する画像データを受信した際(または、そのシーケンス番号に対応する画像データを表示する際)に、付加画像を消去するようにしてもよい(633)。ここで、シーケンス番号を格納するAckのパケットについては、例えば、独自のパケットを定義して用いることができる。
このように、情報処理装置200の制御部260は、情報処理装置300において受け付けられたユーザ操作に応じた制御データを情報処理装置300から受信した場合には、その制御データを受信した旨のデータを情報処理装置300に送信する制御を行う。その制御データを受信した旨のデータは、例えば、図13の631、632に示すAckである。
また、情報処理装置300の制御部380は、例えば、その制御データを受け付けた旨のデータを情報処理装置200から受信したタイミングを、付加画像を消去するタイミングとすることができる。また、制御部380は、例えば、その制御データを情報処理装置200が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを情報処理装置200から受信したタイミングを、付加画像を消去するタイミングとすることができる。また、制御部380は、例えば、その制御データを情報処理装置200が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データに基づく画像を表示するタイミングを、付加画像を消去するタイミングとすることができる。なお、画像データ識別情報は、例えば、画像データを識別するためのシーケンス番号である。
[情報処理装置の動作例]
図14は、本技術の第2の実施の形態における情報処理装置200によるデータ通信制御処理の処理手順の一例を示すフローチャートである。なお、図14は、図11の変形例であるため、図11と共通する部分については、同一の符号を付して、その説明の一部を省略する。
制御部260は、その受信した制御データに基づく処理を行った後に(ステップS907)、その制御データに対するAckを受信側の情報処理装置300に送信する(ステップS931)。
[情報処理装置の動作例]
図15は、本技術の第2の実施の形態における情報処理装置300によるデータ通信制御処理の処理手順の一例を示すフローチャートである。なお、図15は、図12の変形例であるため、図12と共通する部分については、同一の符号を付して、その説明の一部を省略する。
制御部380は、その操作入力に応じた制御データを送信した後に(ステップS920)、その制御データに対するAckを受信したか否かを判断する(ステップS941)。その制御データに対するAckを受信している場合には(ステップS941)、制御部380は、制御データに対するAckのパケットに含まれるシーケンス番号に対応する画像データを受信しているか否かを判断する(ステップS942)。そのシーケンス番号に対応する画像データを受信している場合には(ステップS942)、制御部380は、そのAckに係る付加画像を消去する(ステップS943)。
また、その制御データに対するAckを受信していない場合には(ステップS941)、ステップS923に進む。また、その制御データに対するAckを受信しているが、そのAckのパケットに含まれるシーケンス番号に対応する画像データを受信していない場合には(ステップS942)、ステップS923に進む。
このように、本技術の第2の実施の形態では、2つの情報処理装置間における通信の遅延時間を算出しなくても、付加画像を適切に消去することができる。
<3.第3の実施の形態>
本技術の第1および第2の実施の形態では、受信側の情報処理装置に付加画像を表示する例を示した。ただし、送信側の情報処理装置に付加画像を表示するようにしてもよい。また、送信側および受信側の双方の情報処理装置に付加画像を表示するようにしてもよい。また、送信側および受信側の2つの情報処理装置のうちの何れか一方に付加画像を表示するようにしてもよい。
そこで、本技術の第3の実施の形態では、送信側および受信側の2つの情報処理装置に付加画像を表示する例を示す。なお、本技術の第3の実施の形態における通信システム(これを構成する情報処理装置)の構成は、図1等に示す通信システム100、情報処理装置200、300と略同様である。このため、通信システム100、情報処理装置200、300と共通する部分については、同一の符号を付して、これらの説明の一部を省略する。
[付加画像の表示例]
図16は、本技術の第3の実施の形態における通信システム100を構成する各情報処理装置の表示例を示す図である。なお、情報処理装置300における表示例については、図4のbと同様である。また、情報処理装置200の表示部250には、情報処理装置300の表示部350に表示されている表示画面と同一の表示画面が表示される。
ここで、送信側の情報処理装置200の制御部260は、受信側の情報処理装置300への送信対象となる画像(コンテンツ一覧画面400)と同一の画像(コンテンツ一覧画面405)を表示部250に表示させる。また、上述したように、コンテンツ一覧画面400において、代表画像401を選択するためのユーザ操作(例えば、押下操作)が行われた場合を想定する。この場合には、受信側の情報処理装置300の制御部380は、その選択された代表画像401の周りに波紋画像(付加画像)402を表示させる。そして、制御部380は、代表画像401が選択された旨の制御データを送信側の情報処理装置200に送信する。また、その制御データを受信した場合には、送信側の情報処理装置200の制御部260は、その制御データ(例えば、ユーザ操作の位置および種類)に基づいてコンテンツ一覧画面405に波紋画像(付加画像)406を表示させる。すなわち、コンテンツ一覧画面400および405において、同一の波紋画像(付加画像)402および406が重ねて表示される。
このように、代表画像401を選択するためのユーザ操作が行われた直後に波紋画像402を表示させるとともに、そのユーザ操作に係る制御データを受信した送信側の情報処理装置200にも波紋画像406を表示させることができる。これにより、ユーザは、自分が行った操作が受け付けられたことを、送信側の情報処理装置200および受信側の情報処理装置300の何れにおいても、明確、かつ、迅速に容易に把握することができる。
なお、送信側および受信側の双方の情報処理装置に付加画像を表示するか、その2つの情報処理装置のうちの何れか一方に付加画像を表示するかをユーザ操作により設定可能とするようにしてもよい。
このように、通信システム100において、第1動作および第2動作のうちの少なくとも一方を行うように設定することができる。ここで、第1動作は、情報処理装置300が、ユーザ操作を受け付けたことを表す付加画像を表示部350に表示されている画像に重ねて表示させる動作である。また、第2動作は、情報処理装置200が、そのユーザ操作に係る制御データを受け付けたことを表す付加画像を表示部250に表示されている画像に重ねて表示させる動作である。
<4.変形例>
図2では、送信側の情報処理装置が操作受付部および表示部を備える例を示した。ただし、操作受付部および表示部を備えていない送信側の情報処理装置についても、本技術の実施の形態を適用することができる。
そこで、この変形例では、操作受付部および表示部を備えていない送信側の情報処理装置の例を示す。
[情報処理装置の構成例]
図17は、本技術の実施の形態の変形例における情報処理装置201の機能構成例を示すブロック図である。
情報処理装置201は、アンテナ210と、無線通信部220と、エンコーダ230と、制御部260とを備える。なお、情報処理装置201は、図2に示す情報処理装置200の変形例であるため、情報処理装置200と共通する部分については、同一の符号を付してその説明を省略する。
このように、操作受付部および表示部を備えていない情報処理装置201を、送信側の情報処理装置とする場合についても、本技術の実施の形態を適用することができる。
<5.変形例>
本技術の第1乃至第3の実施の形態では、2つの情報処理装置(情報処理装置200および300)を直接無線接続する例を示した。ただし、他のネットワーク構成とするようにしてもよい。
そこで、この変形例では、他のネットワーク構成の例を示す。なお、この変形例における情報処理装置の構成については、図2、図3等に示す例と略同様である。このため、本技術の第1乃至第3の実施の形態と共通する部分については、その説明の一部を省略する。
[通信システムの構成例]
図18は、本技術の実施の形態の変形例における通信システム700の構成例を示す図である。図18では、ルータ730を経由して、2つの情報処理装置(情報処理装置710および720)を無線接続する際におけるシステム構成の一例を示す。
通信システム700は、情報処理装置710と、情報処理装置720と、ルータ(Router)730とを備える。なお、情報処理装置710は、図1に示す情報処理装置200に対応し、情報処理装置720は、図1に示す情報処理装置300に対応する。
また、図18では、ルータ730を用いて2つの情報処理装置(情報処理装置710および720)を無線接続する例を示すが、他の中継機器を用いて2つの情報処理装置を無線接続するようにしてもよい。例えば、アクセスポイント(無線LANアクセスポイント)を経由して、2つの情報処理装置(情報処理装置710および720)を無線接続するようにしてよい。
[通信システムの構成例]
図19は、本技術の実施の形態の変形例における通信システム800の構成例を示す図である。図19では、インターネット850を経由して、2つの情報処理装置(情報処理装置810および820)を無線接続する際におけるシステム構成の一例を示す。
通信システム800は、情報処理装置810と、情報処理装置820と、ルータ830、840と、インターネット850とを備える。なお、情報処理装置810は、図1に示す情報処理装置200に対応し、情報処理装置820は、図1に示す情報処理装置300に対応する。
また、図19では、インターネット850を経由して2つの情報処理装置(情報処理装置810および820)を無線接続する例を示すが、他のネットワーク(例えば、公衆回線網)を経由して2つの情報処理装置を無線接続するようにしてもよい。
図19に示すように、インターネット850を経由して遠隔地の映像を制御するように構成することができる。このように、本技術の実施の形態は、制御端末と画像出力端末の間のネットワーク経路には依存せずに実現することができる。
なお、本技術の実施の形態では、ユーザ操作を受け付けたことを通知するための通知情報として視覚的に出力する例(付加画像を表示する例)を示したが、他の通知情報を出力するようにしてもよい。例えば、ユーザ操作を受け付けたことを通知するための音声を出力させることにより聴覚的に通知情報を出力するようにしてもよい。また、例えば、ユーザ操作を受け付けたことを通知するため、情報処理装置を振動させることにより通知情報を出力するようにしてもよい(例えば、バイブレーション)。
また、本技術の実施の形態では、無線通信機能を備える表示装置、携帯型の情報処理装置を例にして説明したが、無線通信機能を備える他の情報処理装置についても本技術の実施の形態を適用することができる。例えば、家庭用ゲーム機器、携帯用映像処理装置、携帯用ゲーム機器、デジタルスチルカメラ、デジタルビデオカメラ(例えば、カメラ一体型レコーダ)、デジタルフォトフレーム等の情報処理装置に適用することができる。また、例えば、無線通信機能を備える無線通信機器を装着することにより、無線通信を行うことが可能な情報処理装置(例えば、無線通信機能を備えていないパーソナルコンピュータ)についても適用することができる。
なお、上述の実施の形態は本技術を具現化するための一例を示したものであり、実施の形態における事項と、特許請求の範囲における発明特定事項とはそれぞれ対応関係を有する。同様に、特許請求の範囲における発明特定事項と、これと同一名称を付した本技術の実施の形態における事項とはそれぞれ対応関係を有する。ただし、本技術は実施の形態に限定されるものではなく、その要旨を逸脱しない範囲において実施の形態に種々の変形を施すことにより具現化することができる。
また、上述の実施の形態において説明した処理手順は、これら一連の手順を有する方法として捉えてもよく、また、これら一連の手順をコンピュータに実行させるためのプログラム乃至そのプログラムを記憶する記録媒体として捉えてもよい。この記録媒体として、例えば、CD(Compact Disc)、MD(MiniDisc)、DVD(Digital Versatile Disk)、メモリカード、ブルーレイディスク(Blu-ray Disc(登録商標))等を用いることができる。
なお、本技術は以下のような構成もとることができる。
(1)
近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像が表示部に表示されている場合に当該画像に関するユーザ操作を受け付ける操作受付部と、
前記ユーザ操作が受け付けられた場合に前記ユーザ操作を受け付けたことを通知するための通知情報を出力させ、前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する制御を行う制御部と
を具備する情報処理装置。
(2)
前記制御部は、前記ユーザ操作を受け付けたことを表す付加画像を前記表示部に表示されている画像に重ねて表示させることにより前記通知情報を出力させる前記(1)に記載の情報処理装置。
(3)
前記操作受付部および前記表示部は、タッチパネルにより構成され、
前記ユーザ操作は、前記タッチパネルにおける接触操作または近接操作であり、
前記制御部は、前記タッチパネルにおいて接触操作または近接操作が受け付けられた場合には当該接触操作または当該近接操作が受け付けられた前記タッチパネルにおける位置を基準として前記付加画像を表示させる
前記(2)に記載の情報処理装置。
(4)
前記制御部は、前記タッチパネルにおいて操作画像を押下する押下操作が受け付けられた場合には当該押下操作が受け付けられた前記タッチパネルにおける位置を中心とする波紋画像を前記付加画像として表示させ、前記タッチパネルにおいて操作画像をなぞる操作が受け付けられた場合には当該なぞる操作の前記タッチパネルにおける軌跡を表す画像を前記付加画像として表示させる前記(3)に記載の情報処理装置。
(5)
前記制御部は、前記付加画像を所定のタイミングで消去させる前記(2)から(4)のいずれかに記載の情報処理装置。
(6)
前記制御部は、前記他の情報処理装置との間で生じる前記近距離無線通信の遅延時間に基づいて前記所定のタイミングを決定する前記(5)に記載の情報処理装置。
(7)
前記制御部は、前記制御データを受け付けた旨のデータを前記他の情報処理装置から受信したタイミングを前記所定のタイミングとする前記(5)に記載の情報処理装置。
(8)
前記制御部は、前記制御データを前記他の情報処理装置が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを前記他の情報処理装置から受信したタイミングまたは当該画像データに基づく画像を表示するタイミングを前記所定のタイミングとする前記(5)に記載の情報処理装置。
(9)
前記情報処理装置の姿勢を検出する姿勢検出部をさらに具備し、
前記ユーザ操作は、前記情報処理装置の姿勢を変化させることにより行われる操作であり、
前記制御部は、前記情報処理装置の姿勢が変化された場合には当該変化に基づく前記ユーザ操作を受け付けたことを通知するための前記通知情報を出力させる
前記(1)または(2)に記載の情報処理装置。
(10)
前記制御部は、前記情報処理装置の姿勢が変化された場合には当該変化を視覚的に表す付加画像を前記表示部に表示されている画像に重ねて表示させることにより前記通知情報を出力させる前記(9)に記載の情報処理装置。
(11)
近距離無線通信を利用して第2情報処理装置から受信した画像データに基づく画像を第1表示部に表示させ、前記画像に関するユーザ操作が受け付けられた場合には前記ユーザ操作に応じた制御データを前記第2情報処理装置に送信する第1情報処理装置と、
前記近距離無線通信を利用して前記第1情報処理装置に前記画像を表示させるための画像データを送信するとともに前記画像と同一の画像を第2表示部に表示させ、前記第1情報処理装置から前記制御データを受信した場合には前記制御データを受信した旨のデータを前記第1情報処理装置に送信する第2情報処理装置とを具備し、
前記第1情報処理装置が、前記ユーザ操作を受け付けたことを表す付加画像を前記第1表示部に表示されている前記画像に重ねて表示させる第1動作と、前記第2情報処理装置が、前記制御データを受け付けたことを表す付加画像を前記第2表示部に表示されている前記画像に重ねて表示させる第2動作とのうちの少なくとも一方が行われる
通信システム。
(12)
近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像を表示部に表示させる第1手順と、
前記表示部に表示されている画像に関するユーザ操作が受け付けられた場合に前記ユーザ操作を受け付けたことを表す通知情報を出力させる第2手順と、
前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する第3手順と
を具備する情報処理方法。
10 ユーザ
20 手
100、700、800 通信システム
200、201、300、710、720、810、820 情報処理装置
210、310 アンテナ
220、320 無線通信部
230 エンコーダ
240、340 操作受付部
250、350 表示部
260、380 制御部
330 デコーダ
360 姿勢検出部
370 遅延時間算出部
730、830、840 ルータ
850 インターネット

Claims (12)

  1. 近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像の表示と当該表示されている画像に関するユーザ操作として接触操作または近接操作の受け付けとを行うタッチパネルと、
    前記ユーザ操作が受け付けられた場合に前記ユーザ操作を受け付けたことを表す付加画像を前記ユーザ操作が受け付けられた前記タッチパネルにおける位置を基準として前記タッチパネルに表示されている画像に重ねて表示させ、前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する制御を行う制御部と
    を具備する情報処理装置。
  2. 前記制御部は、前記タッチパネルにおいて操作画像を押下する押下操作が受け付けられた場合には当該押下操作が受け付けられた前記タッチパネルにおける位置を中心とする波紋画像を前記付加画像として表示させる請求項1記載の情報処理装置。
  3. 前記制御部は、前記タッチパネルにおいて操作画像をなぞる操作が受け付けられた場合には当該なぞる操作の前記タッチパネルにおける軌跡を表す画像を前記付加画像として表示させる請求項1記載の情報処理装置。
  4. 近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像が表示部に表示されている場合に当該画像に関するユーザ操作を受け付ける操作受付部と、
    前記ユーザ操作が受け付けられた場合に前記ユーザ操作を受け付けたことを表す付加画像を前記表示部に表示されている画像に重ねて表示させ、当該表示された付加画像を所定のタイミングで消去させ、前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する制御を行う制御部と
    を具備する情報処理装置。
  5. 前記制御部は、前記他の情報処理装置との間で生じる前記近距離無線通信の遅延時間に基づいて前記所定のタイミングを決定する請求項4記載の情報処理装置。
  6. 前記制御部は、前記制御データを受け付けた旨のデータを前記他の情報処理装置から受信したタイミングを前記所定のタイミングとする請求項4記載の情報処理装置。
  7. 前記制御部は、前記制御データを前記他の情報処理装置が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを前記他の情報処理装置から受信したタイミングを前記所定のタイミングとする請求項4記載の情報処理装置。
  8. 前記制御部は、前記制御データを前記他の情報処理装置が受け付けた旨のデータに含まれる画像データ識別情報に対応する画像データを前記他の情報処理装置から受信して当該受信した画像データに基づく画像を表示するタイミングを前記所定のタイミングとする請求項4記載の情報処理装置。
  9. 姿勢を検出する姿勢検出部
    近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像が表示部に表示されている場合に前記姿勢を変化させることにより行われる操作を前記画像に関するユーザ操作として受け付ける操作受付部と、
    前記ユーザ操作が受け付けられた場合に前記ユーザ操作を受け付けたことを通知するための通知情報を出力させ、前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する制御を行う制御部と
    を具備する情報処理装置。
  10. 前記制御部は、前記情報処理装置の姿勢が変化された場合には当該変化を視覚的に表す付加画像を前記表示部に表示されている画像に重ねて表示させることにより前記通知情報を出力させる請求項9記載の情報処理装置。
  11. 近距離無線通信を利用して第2情報処理装置から受信した画像データに基づく画像を第1表示部に表示させ、前記画像に関するユーザ操作が受け付けられた場合には前記ユーザ操作に応じた制御データを前記第2情報処理装置に送信する第1情報処理装置と、
    前記近距離無線通信を利用して前記第1情報処理装置に前記画像を表示させるための画像データを送信するとともに前記画像と同一の画像を第2表示部に表示させ、前記第1情報処理装置から前記制御データを受信した場合には前記制御データを受信した旨のデータを前記第1情報処理装置に送信する第2情報処理装置とを具備し、
    前記第1情報処理装置が、前記ユーザ操作を受け付けたことを表す付加画像を前記第1表示部に表示されている前記画像に重ねて表示させる第1動作と、前記第2情報処理装置が、前記制御データを受け付けたことを表す付加画像を前記第2表示部に表示されている前記画像に重ねて表示させる第2動作とのうちの少なくとも一方が行われる
    通信システム。
  12. 近距離無線通信を利用して他の情報処理装置から受信した画像データに基づく画像をタッチパネルに表示させる第1手順と、
    前記タッチパネルに表示されている画像に関するユーザ操作として接触操作または近接操作が受け付けられた場合に前記ユーザ操作を受け付けたことを表す付加画像を前記ユーザ操作が受け付けられた前記タッチパネルにおける位置を基準として前記タッチパネルに表示されている画像に重ねて表示させる第2手順と、
    前記ユーザ操作に応じた制御データを前記他の情報処理装置に送信する第3手順と
    を具備する情報処理方法。
JP2012247981A 2012-11-12 2012-11-12 情報処理装置、通信システムおよび情報処理方法 Expired - Fee Related JP5929719B2 (ja)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2012247981A JP5929719B2 (ja) 2012-11-12 2012-11-12 情報処理装置、通信システムおよび情報処理方法
CN201710930046.7A CN107688433B (zh) 2012-11-12 2013-11-05 信息处理装置、通信***以及信息处理方法
CN201310547884.8A CN103813114B (zh) 2012-11-12 2013-11-05 信息处理装置、通信***以及信息处理方法
US14/072,347 US9875725B2 (en) 2012-11-12 2013-11-05 Information processing to exchange information via wireless communication
US15/209,459 US10276132B2 (en) 2012-11-12 2016-07-13 Information processing for recognition of acceptance of user operation
US16/298,087 US10679586B2 (en) 2012-11-12 2019-03-11 Information processing device, communication system, and information processing method
US16/869,036 US11106292B2 (en) 2012-11-12 2020-05-07 Information processing device, communication system, and information processing method

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2012247981A JP5929719B2 (ja) 2012-11-12 2012-11-12 情報処理装置、通信システムおよび情報処理方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2016091685A Division JP6057004B2 (ja) 2016-04-28 2016-04-28 情報処理装置、情報処理方法およびプログラム

Publications (2)

Publication Number Publication Date
JP2014096074A JP2014096074A (ja) 2014-05-22
JP5929719B2 true JP5929719B2 (ja) 2016-06-08

Family

ID=50681228

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2012247981A Expired - Fee Related JP5929719B2 (ja) 2012-11-12 2012-11-12 情報処理装置、通信システムおよび情報処理方法

Country Status (3)

Country Link
US (4) US9875725B2 (ja)
JP (1) JP5929719B2 (ja)
CN (2) CN107688433B (ja)

Families Citing this family (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011248768A (ja) * 2010-05-28 2011-12-08 Sony Corp 情報処理装置、情報処理システム及びプログラム
JP5929719B2 (ja) 2012-11-12 2016-06-08 ソニー株式会社 情報処理装置、通信システムおよび情報処理方法
JP2014149610A (ja) * 2013-01-31 2014-08-21 Toshiba Corp 情報処理装置、遠隔操作支援方法およびプログラム
JP6400280B2 (ja) * 2013-08-12 2018-10-03 株式会社ソニー・インタラクティブエンタテインメント 情報処理システムおよび情報処理装置
KR101543107B1 (ko) * 2013-12-11 2015-08-07 현대자동차주식회사 조작장치를 이용한 기능 선택 방법 및 이러한 방법을 이용하는 기능 선택 장치
JP5996605B2 (ja) * 2014-10-21 2016-09-21 株式会社コロプラ ヘッドマウントディスプレイとコントローラとを連動させて画面操作するシステム、プログラム、及び方法
EP3091747A4 (en) 2014-11-27 2017-03-08 Sony Corporation Information processing device and information processing method
JPWO2016117194A1 (ja) * 2015-01-21 2017-12-07 ソニー株式会社 情報処理装置、通信システム、情報処理方法およびプログラム
JP6520242B2 (ja) 2015-03-12 2019-05-29 ソニー株式会社 情報処理装置、通信システム、情報処理方法およびプログラム
CN107431921B (zh) * 2015-03-17 2021-05-28 索尼公司 信息处理设备、信息处理方法和程序
EP3282810B1 (en) 2015-04-08 2020-07-29 Sony Corporation Information processing device, information processing method and program
US10095266B2 (en) 2016-01-28 2018-10-09 Colopl, Inc. System and method for interfacing between a display and a controller
JP6690277B2 (ja) 2016-02-09 2020-04-28 富士通株式会社 画像処理制御方法、画像処理制御プログラムおよび情報処理装置
CN107850974A (zh) * 2016-05-20 2018-03-27 华为技术有限公司 识别误触摸操作的方法和电子设备
CN107807775B (zh) * 2016-09-09 2021-08-03 佳能株式会社 显示控制装置、其控制方法及存储其控制程序的存储介质
KR102607214B1 (ko) * 2019-03-25 2023-11-29 삼성전자주식회사 디스플레이 장치 및 그 제어 방법
CN111629339B (zh) * 2020-06-05 2022-02-11 上海永力信息科技股份有限公司 基于无线射频技术的用户密切接触追踪***
JP7463914B2 (ja) 2020-08-31 2024-04-09 富士通株式会社 入力受付プログラムおよび入力受付システム
US11787551B1 (en) 2022-10-06 2023-10-17 Archer Aviation, Inc. Vertical takeoff and landing aircraft electric engine configuration

Family Cites Families (28)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08227341A (ja) * 1995-02-22 1996-09-03 Mitsubishi Electric Corp ユーザインターフェース
US7688306B2 (en) * 2000-10-02 2010-03-30 Apple Inc. Methods and apparatuses for operating a portable device based on an accelerometer
US20020132609A1 (en) * 2001-03-14 2002-09-19 Lewis Allan D. Scalable and secure messaging system for a wireless network
US20040145660A1 (en) * 2001-06-06 2004-07-29 Yosuke Kusaka Electronic imaging apparatus and electronic imaging system
JP4192132B2 (ja) * 2004-09-28 2008-12-03 クラリオン株式会社 車載器及びテレビジョン番組表示方法
JP4595789B2 (ja) * 2005-11-17 2010-12-08 富士ゼロックス株式会社 画像処理装置、画像処理方法、及び画像処理プログラム
JP2007173952A (ja) * 2005-12-19 2007-07-05 Sony Corp コンテンツ再生システム、再生装置および方法、提供装置および提供方法、プログラム、並びに記録媒体
JP2008278388A (ja) 2007-05-07 2008-11-13 Sony Corp 情報交換装置および情報交換方法
JP5088017B2 (ja) * 2007-06-28 2012-12-05 ソニー株式会社 画像表示装置、撮像装置、画像表示方法、プログラム
US8363019B2 (en) * 2008-05-26 2013-01-29 Lg Electronics Inc. Mobile terminal using proximity sensor and method of controlling the mobile terminal
US8144232B2 (en) * 2008-07-03 2012-03-27 Sony Ericsson Mobile Communications Ab Camera system and method for picture sharing using geotagged pictures
US8643662B2 (en) * 2009-04-22 2014-02-04 Samsung Electronics Co., Ltd. Video entertainment picture quality adjustment
US20120044254A1 (en) * 2009-04-28 2012-02-23 Keiko Watanuki Display apparatus, display method and program for executing the same
US8549432B2 (en) * 2009-05-29 2013-10-01 Apple Inc. Radial menus
JP4999909B2 (ja) * 2009-12-02 2012-08-15 株式会社スクウェア・エニックス ユーザインタフェース処理装置、ユーザインタフェース処理方法、およびユーザインタフェース処理プログラム
US20110199386A1 (en) 2010-02-12 2011-08-18 Honeywell International Inc. Overlay feature to provide user assistance in a multi-touch interactive display environment
CN102158667B (zh) * 2010-09-21 2013-01-02 青岛海信传媒网络技术有限公司 基于控件原理的图标管理方法及设备
JP5655515B2 (ja) 2010-11-11 2015-01-21 ソニー株式会社 情報処理装置、テーブル、表示制御方法、プログラム、携帯端末、及び情報処理システム
US9454341B2 (en) * 2010-11-18 2016-09-27 Kodak Alaris Inc. Digital image display device with automatically adjusted image display durations
JP5703873B2 (ja) * 2011-03-17 2015-04-22 ソニー株式会社 情報処理装置、情報処理方法およびプログラム
US9076259B2 (en) * 2011-09-14 2015-07-07 Imagine Communications Corp Geospatial multiviewer
JP5879880B2 (ja) * 2011-09-29 2016-03-08 カシオ計算機株式会社 タッチパネル式電子機器
JP5284448B2 (ja) * 2011-11-25 2013-09-11 株式会社東芝 情報処理装置および表示制御方法
US9189876B2 (en) * 2012-03-06 2015-11-17 Apple Inc. Fanning user interface controls for a media editing application
KR101960306B1 (ko) * 2012-07-13 2019-03-20 엘지전자 주식회사 이동 단말기 및 이의 제어 방법
US9230287B2 (en) * 2012-08-21 2016-01-05 Google Inc. Real-time notifications and sharing of photos among users of a social network
JP5929719B2 (ja) 2012-11-12 2016-06-08 ソニー株式会社 情報処理装置、通信システムおよび情報処理方法
US9357357B2 (en) * 2013-10-22 2016-05-31 Qualcomm Incorporated Group owner selection for a peer-to-peer group

Also Published As

Publication number Publication date
US20140132536A1 (en) 2014-05-15
US20160322027A1 (en) 2016-11-03
US9875725B2 (en) 2018-01-23
US11106292B2 (en) 2021-08-31
CN103813114B (zh) 2017-11-07
US20200265800A1 (en) 2020-08-20
US10679586B2 (en) 2020-06-09
CN103813114A (zh) 2014-05-21
US10276132B2 (en) 2019-04-30
JP2014096074A (ja) 2014-05-22
CN107688433A (zh) 2018-02-13
US20190206366A1 (en) 2019-07-04
CN107688433B (zh) 2021-04-27

Similar Documents

Publication Publication Date Title
JP5929719B2 (ja) 情報処理装置、通信システムおよび情報処理方法
JP6241766B2 (ja) 携帯端末及び機器連携方法
TWI536855B (zh) 內容分享方法與裝置
KR101834995B1 (ko) 디바이스 간 컨텐츠 공유 방법 및 장치
EP2671148B1 (en) Apparatus, systems and methods for presenting displayed image information of a mobile media device on a large display and control of the mobile media device therefrom
JP6566698B2 (ja) 表示制御装置および表示制御方法
JP2016015150A5 (ja)
JP5331935B1 (ja) 無線による画面表示制御方法及びシステム
JP6386809B2 (ja) 情報処理装置およびその制御方法、システム、並びにプログラム
EP2429188A2 (en) Information processing device, information processing method, computer program, and content display system
JPWO2014155730A1 (ja) 表示処理装置、及び表示処理方法
JP6057004B2 (ja) 情報処理装置、情報処理方法およびプログラム
JP4264536B2 (ja) データ会議システム,送信側端末装置,受信側端末装置,プログラム,データ会議方法
JP5830997B2 (ja) 情報処理装置、情報処理方法、およびプログラム
WO2014168030A1 (ja) 通信端末及び通信方法
JP2019114941A (ja) 再生装置、遠隔再生システム、再生方法、及びコンピュータプログラム
KR20230128649A (ko) 디스플레이 장치 및 그의 동작 방법
JP6485352B2 (ja) 受信装置、方法、コンピュータプログラム
JP2014081891A (ja) 電子機器、電子機器の制御方法、電子機器の制御プログラム
JP2014044576A (ja) 画像音声装置、端末装置、及び情報処理システム
JP2016192006A (ja) 端末装置、表示制御方法、及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20150121

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20151225

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20160119

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20160304

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20160405

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20160418

R151 Written notification of patent or utility model registration

Ref document number: 5929719

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees