JP6708689B2 - 三次元ゲームプレイの共有 - Google Patents

三次元ゲームプレイの共有 Download PDF

Info

Publication number
JP6708689B2
JP6708689B2 JP2018072119A JP2018072119A JP6708689B2 JP 6708689 B2 JP6708689 B2 JP 6708689B2 JP 2018072119 A JP2018072119 A JP 2018072119A JP 2018072119 A JP2018072119 A JP 2018072119A JP 6708689 B2 JP6708689 B2 JP 6708689B2
Authority
JP
Japan
Prior art keywords
video
video clip
user
hmd
gameplay
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2018072119A
Other languages
English (en)
Other versions
JP2018143777A (ja
Inventor
ライモン、ノーム
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JP2018143777A publication Critical patent/JP2018143777A/ja
Application granted granted Critical
Publication of JP6708689B2 publication Critical patent/JP6708689B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/86Watching games played by other players
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/45Controlling the progress of the video game
    • A63F13/49Saving the game status; Pausing or ending the game
    • A63F13/497Partially or entirely replaying previous game actions
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/212Input arrangements for video game devices characterised by their sensors, purposes or types using sensors worn by the player, e.g. for measuring heart beat or leg activity
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/87Communicating with other players during game play, e.g. by e-mail or chat
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F2300/00Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game
    • A63F2300/80Features of games using an electronically generated display having two or more dimensions, e.g. on a television screen, showing representations related to the game specially adapted for executing a specific type of game
    • A63F2300/8082Virtual reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Biophysics (AREA)
  • Cardiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Processing Or Creating Images (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)

Description

本発明は、三次元ゲームプレイを共有する方法とシステムに関する。
ビデオゲーム業界では、ここ何年かの間に多くの変化があった。演算能力の拡大に応じて、ビデオゲーム開発者は、その演算能力の向上を利用するゲームソフトウェアを作成してきた。この目的のために、ビデオゲーム開発者は、非常にリアルなゲーム体験を生み出す高度な操作及び数学を組み込んだゲームをコーディングしてきた。
ゲームプラットフォームの例は、ソニープレイステーション(登録商標)、ソニープレイステーション2(登録商標)(PS2)、及び、ソニープレイステーション3(登録商標)(PS3)であってよく、それらはそれぞれ、ゲームコンソールの形で販売されている。周知のように、ゲームコンソールは、モニタ(通常は、テレビ)に接続して、ハンドヘルドコントローラを介してユーザインタラクションが可能なように設計されている。ゲームコンソールは、CPU、インテンシブなグラフィック操作を処理するためのグラフィックスシンセサイザ、ジオメトリ変換を行うベクトルユニット、及び、他のグルーハードウェアを含む専用処理ハードウェア、ファームウェア、並びに、ソフトウェアで設計される。ゲームコンソールは、ゲームコンソールを介してローカルでプレイするためにゲームコンパクトディスクを受け入れる光ディスクトレイを有するように、さらに設計される。オンラインゲームも可能であり、オンラインゲームでは、ユーザは、インターネット経由でインタラクティブに、他のユーザと対戦したり、他のユーザと共にプレイしたりできる。ゲームの複雑さがプレイヤーの興味を引き付け続けるので、ゲームやハードウェアの製造者は、追加の双方向性及びコンピュータプログラムが可能になるように革新し続けてきた。
コンピュータゲーム業界において増えている傾向は、ユーザとゲームシステムのインタラクションを増加させるゲームの開発である。より豊かな双方向体験を達成する1つの方法は、プレイヤーの動きを追跡し、その動きをゲームへの入力として用いるために、無線ゲームコントローラを使用して、ゲームコントローラの動きをゲームシステムが追跡することである。一般的に言うと、ジェスチャ入力は、プレイヤーが行い、電子デバイスが捕捉したジェスチャに、コンピュータシステム、ビデオゲームコンソール、スマート装置等の電子デバイスを反応させることを指す。
より没入型の双方向体験を達成する別の方法は、ヘッドマウンテッドディスプレイ(HMD)の使用である。ヘッドマウンテッドディスプレイは、ユーザが着用して、仮想空間のビュー等の様々なグラフィックスを提示するように構成することができる。ヘッドマウンテッドディスプレイ上に提示されたグラフィクスは、ユーザの視界の大部分または全てをカバーすることができる。よって、ヘッドマウンテッドディスプレイは、視覚的に没入型の体験をユーザに提供することができる。
同業界で増えている別の傾向は、クラウドベースのゲームシステムの開発を伴う。このようなシステムは遠隔処理サーバを含んでよく、遠隔処理サーバは、ゲームアプリケーションを実行し、ローカルシンクライアントと通信する。ローカルシンクライアントは、ユーザからの入力を受信し、ディスプレイにビデオをレンダリングするように構成することができる。
ビデオゲーミングを通して社会的交流を進めるために、ユーザは、自分のゲームプレイのビデオクリップを記録して、友達と共有することができる。ユーザが、HMDを用いてビデオゲームをすると、HMDは、ゲームプレイ中、高度に没入型の体験を提供することができる。しかしながら、他者が視聴するユーザのゲームプレイのビデオクリップは、元のゲームプレイ体験を再現することができるハードウェアに提示されない場合がある。代わりに、ビデオクリップは、ウェブサイトに埋め込まれたビデオプレイヤ内等、あまり没入型でない文脈で提示されるかもしれない。従って、元のゲームプレイの提示と、記録されたゲームプレイのビデオクリップの提示との間にミスマッチが起こり得る。このミスマッチが原因で、ユーザのゲームプレイを記録したビデオクリップは、視聴者にとって最適な視聴体験を提供しない場合がある。
この文脈で発明の実施形態を記載する。
本発明の実施形態は、ビデオゲームの三次元ゲームプレイを共有する方法及びシステムを提供する。本発明は、コンピュータ可読媒体上でプロセス、装置、システム、デバイス、または、方法等の多くの手段で実施することができることは、理解されよう。本発明の幾つかの実施形態を以下に記載する。
一実施形態においては、ビデオゲームの三次元ゲームプレイをソーシャルネットワークに共有する方法を提示する。方法は、三次元記録ビデオによって規定された記録されたゲームプレイ部分をソーシャルネットワークに共有する要求を受信することと、三次元記録ビデオに基づいて、二次元ビデオクリップを生成することと、二次元ビデオクリップをソーシャルネットワークに共有することと、を含む。方法は、プロセッサによって行われる。
一実施形態においては、要求を受信することは、ユーザのアクティブゲームプレイセッションから規定される。
一実施形態においては、要求を受信することは、コントローラデバイスのボタンを押すことによって規定される。
一実施形態においては、二次元ビデオクリップを生成することは、記録されたゲームプレイ部分中に生じているゲームプレイアクティビティを分析して、二次元ビデオクリップのフレームを規定する焦点深度を決定することを含む。
一実施形態においては、二次元ビデオクリップを生成することは、記録されたゲームプレイ部分中に生じているゲームプレイアクティビティを分析して、二次元ビデオクリップのフレームを規定する被写界深度を決定することを含む。
一実施形態においては、二次元ビデオクリップをソーシャルネットワークに共有することは、ソーシャルネットワークのユーザに関連付けられたソーシャルグラフへの投稿を生成することを含み、投稿は2次元ビデオを含むように規定される。
別の実施形態においては、三次元ゲームプレイのビデオクリップを視聴する方法を提供する。方法は、三次元フォーマットで規定されたゲームプレイビデオクリップを再生する要求を受信することと、ゲームプレイビデオクリップを三次元フォーマットから二次元フォーマットに変換するプラグインを起動することと、変換したゲームプレイビデオクリップを提示することと、を含む。方法は、プロセッサによって実行される。
一実施形態においては、要求を受信することは、ソーシャルネットワークのインタフェースから規定される。
一実施形態においては、ソーシャルネットワークのインタフェースは、ソーシャルネットワークへの1つまたは複数の投稿を規定する。
一実施形態においては、プラグインは、当該プラグインを実行する装置のハードウェア構成を検出するように構成される。
一実施形態においては、ゲームプレイビデオクリップを三次元フォーマットから二次元フォーマットに変換することは、記録されたゲームプレイデータを分析することを含む。
一実施形態においては、記録されたゲームプレイデータは、ゲーム状態データ、入力データ、動作データ、視線方向データの1つまたは複数を含む。
別の実施形態においては、記録されたゲームプレイビデオクリップを三次元フォーマットから二次元フォーマットに変換する方法を提供する。方法は、記録されたゲームプレイビデオクリップが生成されたゲームプレイセッションから記録されたゲームプレイデータを分析することと、記録されたゲームプレイビデオクリップを、記録されたゲームプレイデータに基づいて、三次元フォーマットから二次元フォーマットに変換することと、を含む。方法は、プロセッサによって実行される。
一実施形態においては、ゲームプレイデータは、ゲーム状態データを含む。
一実施形態においては、ゲームプレイデータは、入力データまたは動作データの1つまたは複数を含む。
一実施形態においては、ゲームプレイデータは、ゲームプレイセッション中、ユーザの眼の視線方向を規定する視線方向データを含む。
一実施形態においては、記録されたゲームプレイデータを分析することは、記録されたゲームプレイビデオクリップによって規定された三次元空間から焦点深度を識別することを含む。
一実施形態においては、記録されたゲームプレイデータを分析することは、識別された焦点深度の被写界深度を識別することを含む。
発明の他の態様は、例を挙げて発明の原理を示す以下の詳細な記載を添付図面と共に、読むと明らかとなろう。
発明は、添付図面と共に以下の記載を参照することによってよく理解されよう。
発明の実施形態に係る、ビデオゲームの双方向ゲームプレイのシステムを示す図である。
発明の実施形態に係る、ヘッドマウンテッドディスプレイ(HMD)を示す図である。
発明の実施形態に係る、実行中のビデオゲームに関連してHMDの機能を概念的に示す図である。
発明の実施形態に係る、記録されたゲームプレイビデオクリップを生成して、ソーシャルネットワークに共有するシステムを示す図である。
発明の実施形態に係る、ゲームプレイビデオクリップの作成と、ゲームプレイビデオクリップのソーシャルネットワークへの共有を可能にするためにユーザに提示される様々なビューを示す図である。
発明の実施形態に係る、ソーシャルネットワークサイトのビューを示す。
発明の実施形態に係る、3Dゲームプレイビデオクリップのソーシャルネットワークサイトでの共有を示す図である。
発明の実施形態に係る、3Dゲームプレイビデオクリップを2Dゲームプレイビデオクリップに変換するシステムを示す。
発明の実施形態に係る、2D画像を生成する元になる3D画像を示す図である。
発明の実施形態に係る、ヘッドマウンテッドディスプレイのコンポーネントを示す図である。
発明の様々な実施形態に係る、ゲームシステムのブロック図である。
以下の実施形態は、ビデオゲームの三次元ゲームプレイを共有する方法及び装置を記載する。
しかしながら、これらの具体的な詳細の一部または全てを用いずに、本発明を実施してよいことは当業者には明らかである。他の例においては、周知のプロセスの動作については、本発明を不必要に曖昧にしないために、詳細には記載しなかった。
図1は、発明の実施形態に係る、ビデオゲームの双方向ゲームプレイのシステムを示す。ヘッドマウンテッドディスプレイ(HMD)102を装着しているユーザ100が示されている。HMD102は、眼鏡、ゴーグル、または、ヘルメットと同じように装着され、ビデオゲームまたは他のコンテンツをユーザ100に表示するように構成される。HMD102は、ユーザの眼のごく近くにディスプレイ機構を設けることによって、高度に没入型の体験をユーザに提供する。従って、HMD102は、ユーザの各眼に、ユーザの視界の大部分または全体を占める表示領域を提供することができる。
一実施形態においては、HMD102は、コンピュータ106に接続することができる。コンピュータ106への接続は、有線であっても無線であってもよい。コンピュータ106は、ゲームコンソール、パーソナルコンピュータ、ラップトップ、タブレットコンピュータ、モバイルデバイス、携帯電話、タブレット、シンクライアント、セットトップボックス、メディアストリーミングデバイス等を含むが、それらに限られない、当分野で既知の任意の汎用または専用コンピュータであってよい。一実施形態においては、コンピュータ106は、ビデオゲームを実行し、HMD102でレンダリングするために、ビデオゲームからビデオ及び音声を出力するように構成することができる。
ユーザ100は、コントローラ104を操作して、ビデオゲームに入力を行ってよい。さらに、カメラ108は、ユーザ100がいる双方向環境の画像を撮影するように構成することができる。これらの撮影した画像を分析して、ユーザ100、HMD102、及び、コントローラ104の位置と動きを決定することができる。一実施形態においては、コントローラ104はライトを備え、そのライトを追跡してコントローラ104の位置と向きを決定することができる。さらに、以下に詳細に記載するように、HMD102は、1つまたは複数のライトを備えてよく、そのライトを追跡してHMD102の位置と向きを決定することができる。カメラ108は、1つまたは複数のマイクロフォンを備えて、双方向環境からの音を捕捉することができる。マイクロフォンアレイが捕捉した音を処理して、音源の位置を識別してよい。識別された位置からの音を選択的に利用または処理して、識別した位置以外の他の音を除くことができる。さらに、カメラ108は、複数の撮像装置(例えば、ステレオペアカメラ)、IRカメラ、デプスカメラ、及び、それらの組み合わせを含むように規定することができる。
別の実施形態においては、コンピュータ106は、クラウドゲームプロバイダ112とネットワークを介して通信するシンクライアントとして機能する。クラウドゲームプロバイダ112は、ユーザ102がプレイしているビデオゲームを維持、実行する。コンピュータ106は、HMD102、コントローラ104、及び、カメラ108からの入力を、クラウドゲームプロバイダに送信し、クラウドゲームプロバイダは、その入力を処理して、実行中のビデオゲームのゲーム状態に影響を与える。ビデオデータ、オーディオデータ、及び、触覚フィードバックデータ等の実行中のビデオゲームからの出力は、コンピュータ106に送信される。コンピュータ106は、送信前にデータをさらに処理してもよく、または、データを関連する装置に直接送信してもよい。例えば、ビデオストリーム及びオーディオストリームは、HMD102に提供され、振動フィードバックコマンドは、コントローラ104に提供される。
一実施形態においては、HMD102、コントローラ104、及び、カメラ108は、それ自体、ネットワーク110に接続して、クラウドゲームプロバイダ112と通信するネットワーク化された装置であってよい。例えば、コンピュータ106は、そうでなければ、ビデオゲーム処理を行わず、通路ネットワークトラフィックを促進するルータ等のローカルネットワーク装置であってよい。HMD102、コントローラ104、及び、カメラ108のネットワークへの接続は、有線であっても無線であってもよい。
図2は、発明の実施形態に係る、ヘッドマウンテッドディスプレイ(HMD)を示す。図に示すように、HMD102は、複数のライト200A〜200Hを備える。これらのライトはそれぞれ、特定の形を有するように構成されてよく、同じまたは異なる色を有するように構成することができる。ライト200A、200B、200C、200Dは、HMD102の前面に配置される。ライト200E、200Fは、HMD102の側面に配置される。ライト200G、200Hは、HMD102の前面と側面に及ぶように、HMD102のコーナーに配置される。ライトは、ユーザがHMD102を使用する双方向環境を撮影した画像で識別できることは、理解されよう。ライトの識別及び追跡に基づいて、双方向環境におけるHMD102の位置と向きを決定することができる。それらのライトの一部は、撮像装置に対するHMD102の個々の向きに応じて、見える場合もあり、見えない場合もあることも理解されよう。また、異なる部分のライト(例えば、ライト200G、200H)が、撮像装置に対するHMD102の向きに応じて、撮像のために露出されてよい。
一実施形態においては、ライトは、近くにいる他者に対してHMDの現在の状態を示すように構成することができる。例えば、ライトの一部または全ては、一定の配色、強度の組み合わせを有するように構成されてよく、点滅、一定のオン/オフ構成、または、HMD102の現在の状況を示す他の取り決めを有するように構成されてよい。例を挙げると、ライトは、ビデオゲームのゲームプレイがアクティブな間(一般的に、ゲームプレイがアクティブタイムライン中またはゲームシーン内で行われている)と、メニューインタフェースのナビゲートまたはゲーム設定の構成等のビデオゲームの他の非アクティブなゲームプレイ態様(この間、ゲームのタイムラインまたはシーンは非アクティブまたは一時停止)とは、異なる構成を表示するように構成することができる。ライトは、ゲームプレイの相対強度レベルを示すように構成されてもよい。例えば、ゲームプレイの強度が増加すると、ライトの強度、または、点滅速度が増加してよい。こうすると、ユーザの外部の人は、HMD102のライトを見て、ユーザが、積極的にゲームプレイに没頭しており、今は邪魔されたくないであろうことを理解し得る。
HMD102は、さらに、1つまたは複数のマイクロフォンを備えてよい。図示の実施形態においては、HMD102は、HMD102の前面に規定されたマイクロフォン204A、204Bと、HMD102の側面に規定されたマイクロフォン204Cとを備える。マイクロフォンアレイを利用することによって、各マイクロフォンからの音を処理して、音源の位置を決定することができる。この情報は、不要な音源を除くこと、音源を視覚的識別と関連付けることを含む、様々な方法で利用することができる。
HMD102は、また、1つまたは複数の撮像装置も含んでよい。図示の実施形態においては、撮像装置202A、202Bを備えるHMD102が示されている。ステレオペアの撮像装置を利用することによって、環境の三次元(3D)の画像及びビデオをHMD102の視点から撮影することができる。HMD102を装着したユーザにこのようなビデオを提示して、ユーザに「ビデオシースルー」能力を提供することができる。すなわち、ユーザは、厳密な意味では、HMD102を通して見ることはできないが、撮像装置202A、202Bが撮影したビデオは、HMD102を通して見るようにHMD102の外部の環境を見ることができる機能的に同等のものを提供することができる。このようなビデオは、仮想要素を用いて拡張されて、拡張現実体験を提供することができる、または、他の点においては、仮想要素と結合または融合させてもよい。図示の実施形態においては、2つのカメラは、HMD102の前面に示されているが、任意の数の外向きのカメラをHMD102上に任意の向きで設置してよいことは理解されよう。例えば、別の実施形態においては、環境の追加のパノラマ画像を撮影するためにHMD102の側面に搭載されたカメラがあってよい。
図3は、発明の実施形態に係る、実行中のビデオゲームに関連してHMD102の機能を概念的に示す図である。実行中のビデオゲームは、入力を受信してビデオゲームのゲーム状態を更新するゲームエンジン320によって規定される。ビデオゲームのゲーム状態は、オブジェクトの存在及び位置、仮想環境の条件、イベントのトリガ、ユーザプロフィール、ビューの遠近等の、現在のゲームプレイの様々な側面を規定するビデオゲームの様々なパラメータの値によって少なくとも部分的に規定することができる。
図示の実施形態においては、ゲームエンジンは、例として、コントローラ入力314、オーディオ入力316、及び、動作入力318を受信する。コントローラ入力314は、コントローラ104等の、HMD102とは別個のゲームコントローラの操作から規定されてよい。例として、コントローラ入力314は、方向入力、ボタンの押し下げ、トリガ起動、動き、または、ゲームコントローラの操作から処理される他の種類の入力を含んでよい。オーディオ入力316は、HMD102のマイクロフォン302、または、撮像装置108に含まれるマイクロフォンから処理できる。動作入力218は、HMD102に含まれる動作センサ300、または、撮像装置108がHMD102の画像を撮影すると撮像装置108から処理できる。ゲームエンジン320は、入力を受信し、入力は、ゲームエンジンの構成に従って処理されて、ビデオゲームのゲーム状態を更新する。ゲームエンジン320は、ゲーム状態データを様々なレンダリングモジュールに出力し、レンダリングモジュールは、ゲーム状態データを処理して、ユーザに提示するコンテンツを規定する。
図示の実施形態においては、ビデオレンダリングモジュール322は、HMD102に提示するためのビデオストリームをレンダリングすると規定される。ビデオストリームは、ディスプレイ/プロジェクタ機構310によって提示され、ユーザの眼306によってオプティクス308を介して見られてよい。オーディオレンダリングモジュール304は、ユーザが聞くために、オーディオストリームをレンダリングするように構成される。一実施形態においては、オーディオストリームは、HMD102に関連付けられたスピーカ304を介して出力される。スピーカ304は、オープンエアスピーカ、ヘッドフォーン、または、音声を出すことができる任意の他の種類のスピーカの形をとってよいことは、理解されたい。
一実施形態においては、視線追跡カメラ312が、ユーザの視線を追跡できるようにHMD102に備えられている。視線追跡カメラは、ユーザの眼の画像を撮影し、その画像は分析されて、ユーザの視線方向が決定される。一実施形態においては、ユーザの視線方向に関する情報を利用して、ビデオレンダリングに影響を与えることができる。例えば、ユーザの眼が特定の方向を見ていると決定されると、ユーザが見ている領域をより詳細に提供またはより速く更新することによって、その方向のビデオレンダリングを優先または強調することができる。
さらに、触覚フィードバックモジュール326は、HMD102またはコントローラ104等、ユーザが操作する別の装置に備えられた触覚フィードバックハードウェアに信号を供給するように構成される。触覚フィードバックは、振動フィードバック、温度フィードバック、圧力フィードバック等、様々な種類の触感の形態をとってよい。
図4は、発明の実施形態に係る、記録されたゲームプレイビデオクリップを生成して、ソーシャルネットワークに共有するシステムを示す。図では、ユーザ450は、HMD452を使用しており、HMD452は、コンピュータ454と通信している。コンピュータ454は、ネットワーク440を介してクラウドゲーミングプロバイダ400と通信する。クラウドゲーミングプロバイダ400は、ゲームライブラリ402を規定し、ゲームライブラリ402は、クラウドゲーミングプロバイダのストリーミングゲームサービスにアクセスするユーザがプレイしてよい複数のゲームタイトルを含む。ユーザプロフィールストレージ404は、クラウドゲーミングサービスの個別のユーザに関連付けられたユーザプロフィールを記憶する。一実施形態においては、ゲームセッション406は、クラウドゲーミングプロバイダによって規定される。ゲームセッション406は、ユーザ450によってプレイされていると、ビデオゲームのアクティブなゲームエンジンを規定することができる。ゲームセッション406の進行とともに、ゲームプレイは、記録ゲームプレイストレージ408に記録及び記憶される。記録されたゲームプレイは、ユーザに提示される記録されたビデオ及び音声と、ビデオゲームのゲームプレイ中に生じる記録された入力、イベント、パラメータ、または、他のゲーム状態データと、を含むことができる。
共有ロジック410が、ユーザのゲームプレイのビデオクリップをソーシャルネットワークに共有するために定義される。共有ロジック410は、クリップジェネレータ412を起動するように構成されてよい。クリップジェネレータ412は、ビデオクリップを生成するためのゲームプレイの一部をユーザが選択するためのインタフェースを提示してよく、ビデオクリップを生成し、ゲームプレイクリップストレージ414に記憶してよい。クリップジェネレータは、ゲーム入力、ユーザの視線方向データ、及び、ビデオゲームの様々なゲーム状態データ等、他の記録されたゲームプレイデータと共に、記録されたゲームプレイビデオに基づいて、ビデオクリップを生成してよいことは、理解されよう。
共有ロジック410は、ゲームプレイビデオクリップをソーシャルネットワーク420に共有するように構成される。図の実施形態に示すように、ソーシャルネットワークは、ユーザの設定、プリファレンス、パーソナルデータ等を含む、ユーザプロフィールデータ422を含む。さらに、ユーザグラフデータ424は、ソーシャルネットワークの様々なユーザのソーシャルグラフを規定するデータを含む。一般的に、このデータは、ソーシャルネットワークのユーザ間のつながりを規定する。
一実施形態においては、ソーシャルネットワークは、ソーシャルネットワークへの投稿を生成する投稿ロジック426を含む。一実施形態においては、投稿ロジック426には、ソーシャルネットワークのAPIを介してアクセスすることができる。投稿ロジック426は、クラウドゲーミングプロバイダ400が生成、記憶したビデオクリップのソーシャルネットワーク420への共有を容易にするように、クラウドゲーミングプロバイダ400の共有ロジック410によって起動されてよい。ソーシャルネットワーク420の投稿ロジック426は、ソーシャルネットワークへの投稿を規定するように構成することができる。投稿を規定するデータは、投稿データストレージ428に記憶することができる。所与の投稿を規定するデータは、テキスト、ネットワーク化されたリソース(例えば、ハイパーリンクまたはURL、ゲームプレイビデオクリップへの参照)への参照と、画像、音声、及び、ビデオコンテンツ(例えば、ゲームプレイビデオクリップ)等の様々な種類のメディアコンテンツと、を含むことができる。
セッションマネージャ432は、装置460を介してソーシャルネットワークにアクセスするユーザ462によってソーシャルネットワーク上のセッションを管理するように構成される。装置460は、ソーシャルネットワークにアクセスするように構成された任意のコンピュータ装置であってよく、ウェブブラウザや専用アプリケーション等のアプリケーション、または、アプリを介してアクセスしてよいことは理解されたい。ユーザ462のセッションは、ソーシャルネットワークに投稿のフィードを提供するように規定されてよく、投稿のフィードは、ユーザグラフデータ424によって規定されるように、ユーザ462のソーシャルグラフにユーザの投稿を含んでよい。この目的のために、フィードロジック430は、投稿のフィードを生成するよう構成される。投稿のフィードは、ユーザ462に固有で、ユーザ462のソーシャルグラフもしくはソーシャルグラフのサブグループのメンバーシップ、ユーザのプリファレンス、ソーシャルネットワーク上での活動履歴、投稿の最新性、または、投稿への任意のコメント等の様々な特徴に従って、優先順位を付けられる。
従って、一実施形態においては、自分のゲームプレイのビデオクリップを生成したユーザ450は、ソーシャルネットワーク上のユーザ462のソーシャルグラフのメンバーでもある。ユーザ450は、ソーシャルネットワークの投稿の一部として、ソーシャルネットワークへのゲームプレイビデオクリップを共有することができる。ソーシャルネットワークにアクセスすると、新しく作成された投稿が、ユーザ462のために生成されたフィードに現れる。このように、ユーザ462は、ユーザ450のビデオゲームのゲームプレイ体験を視聴、共有することができる。
図示の実施形態においては、クラウドゲーミングプロバイダは、ゲームプレイビデオクリップを生成して、ソーシャルネットワークに共有する機能を規定するとして記載してあるが、他の実施形態においては、このような機能は、コンピュータ454もしくはHMD452、または、ネットワーク440に接続されて上述のビデオクリップ生成及び共有の機能を行うように構成された任意の他の装置(単数または複数)上で規定できることを理解されたい。
さらに、ビデオゲームのゲームプレイは、HMD452に提示される時、三次元(3D)ビデオコンテンツによって規定することができる。しかしながら、ソーシャルネットワークにアクセスするユーザは、3Dビデオコンテンツを適切に視聴する能力を持たない場合がある。従って、一実施形態においては、クリップジェネレータ412は、3Dで記録されたゲームプレイビデオを二次元(2D)ビデオフォーマットに変換するように構成される。2Dビデオコンテンツは、ソーシャルネットワークの他者とより容易に共有することができる。
ソーシャルネットワーク420は、当分野で既知の任意のソーシャルネットワークであってよいことは理解されたい。ソーシャルネットワークは、ビデオゲームのゲームプレイと、ビデオクリップ生成を容易にするプロバイダまたはエンティティとは別個のプロバイダまたはエンティティによって提供されてよい。別の実施形態においては、ソーシャルネットワークは、クラウドゲーミングプロバイダ、または、ビデオゲームのゲームプレイを容易にするプロバイダ、によって提供されるゲーミングに固有のソーシャルネットワークであってよい。
図5A、5B、5C、5Dは、発明の実施形態に係る、ゲームプレイビデオクリップの作成と、そのゲームプレイビデオクリップのソーシャルネットワークへの共有を可能にするためにユーザに提示される様々なビューを示す。図5Aにおいては、ユーザは、ビデオゲームのゲームプレイのレベルを完了したところである。ゲームプレイのレベルを完了すると、ユーザは、ユーザのゲームプレイのビデオをソーシャルネットワークの他のユーザと共有するオプションを提示される。ユーザがゲームプレイビデオの共有を選択すると、図5Bに示すように、ユーザの記録されたゲームプレイビデオからシーンを選択するインタフェースが提示される。各シーンは、ユーザの記録されたゲームプレイビデオの識別された部分である。図示の実施形態においては、特定のシーン500がビュー内で強調表示される。
ビデオゲームとユーザのゲームプレイの様々な側面に基づいて、ユーザが選択するためのシーンを事前に規定することは理解されよう。例えば、線形のストーリー展開のビデオゲームは、ユーザが線形に進まなければならないセクション(時間的及び/または地理的)を規定しておいてよい。事前に規定されるシーンは、このようなセクションに基づいて生成することができる。他の実施形態においては、事前に規定されるシーンは、ビデオゲームの重要なイベントまたはゴールの達成、強度の高いゲームプレイ領域等の、ユーザのゲームプレイの他の局面(facets)に基づいて生成することができる。
事前に規定されたシーンを選択すると、図5Cに示すように、事前に規定されたシーンのビデオをトリミングするためのインタフェースが提供される。例として、事前に規定されたシーンの長さを示すスライダーバー504が示されており、スライダー506、510が、スライダーバー504に沿って移動可能で、それぞれ、生成するゲームプレイビデオクリップの所望のスタート時点と終了時点を示す。ビデオからの代表画像フレームを、スライダー508を動かすことによって選択してよい。ビデオクリップまたは代表画像のプレビューは、インタフェースの領域502に表示することができる。
事前に規定されたシーンのトリミングを行うと、ゲームプレイビデオクリップは、共有のための規定及び準備ができる。図5Dに示す共有インタフェースが提示される。共有インタフェースにおいては、参照番号512でビデオクリップのプレビューが示される。コメントフィールド514が、共有されるビデオクリップに添付するテキストコメントをユーザが入力するために備えられる。メニュー516は、ビデオクリップを共有するユーザまたは友達の特定のグループをユーザが選択できるように備えられている。さらに、チェックボックス518、520は、ビデオクリップを2Dで共有するか3Dで共有するかのオプションを示す。
一実施形態においては、記録されたゲームプレイビデオは、3Dビデオコンテンツによって規定される。従って、ユーザが、選択されたビデオクリップを2Dで共有することを選択する場合、変換プロセスを行うことによって、3Dビデオコンテンツは2Dビデオコンテンツに変換されてゲームプレイビデオクリップを規定する。記録されたゲームプレイビデオが2Dビデオコンテンツで規定されており、ユーザの要求により3Dビデオコンテンツに変換するという、逆の場合も起こり得る。
図6は、発明の実施形態に係る、ソーシャルネットワークサイト600のビューを示す。ソーシャルネットワークサイト600は、例として、現在のユーザのプロフィール写真602と、ソーシャルネットワークで検索を行うためにテキストを入力する検索フィールド604と、ユーザのプロフィール、ユーザの友達リスト、写真/ビデオ(例えば、ユーザによって投稿または記憶された、ユーザと共有した、ユーザがタグ付けされた等)、イベント、設定等のソーシャルネットワークの具体的な特徴にアクセスするための様々なオプション606と、を含む。
ソーシャルネットワークサイト600は、ソーシャルネットワークで共有された投稿に優先順位をつけてユーザに表示するフィードセクション608をさらに含む。図示の実施形態においては、ゲームプレイビデオクリップ612を含む投稿610が示されている。ゲームプレイビデオクリップ612は、投稿を生成したユーザ(「ボブ」)のプロフィール写真と名前、ビデオクリップをソーシャルネットワークに投稿した時刻、及び、投稿610に対するコメント618等の、テキスト及び他の情報を伴う。コメントフィールド614は、現在のユーザが投稿に応答してコメントを入力するために備えられ、エンドースメント(推薦)ボタン616は、ユーザがソーシャルネットワーク上で投稿のエンドースメント(推薦)を示すために提供される。
一実施形態においては、ビデオクリップ612 は、3Dソースビデオから変換された2Dビデオクリップである。従って、ビデオクリップ612の再生を起動すると、参照番号620で示すように、2Dで表示される。一実施形態においては、ビデオクリップ612は、3Dバージョンや対応する3Dビデオクリップをホストする他のサイトへの埋め込みリンク/参照を介して等、ゲームプレイビデオの3Dバージョンへのアクセスを提供するように構成することができる。図示の実施形態においては、2Dビデオクリップ612の提示620は、埋め込みリンクを備え、埋め込みリンクを起動すると、ユーザはゲーミングサイト622にリダイレクトされる。ゲーミングサイト622上では、ビデオクリップ612の3Dバージョンを含むクリップが視聴可能である。図示の実施形態においては、3Dビデオクリップ624は、2Dビデオクリップ612の3Dバージョンで、同じユーザ(「ボブ」)からの追加のビデオクリップ626、628と共に、ゲーミングサイト622においてアクセス可能である。
図7は、発明の実施形態に係る、ソーシャルネットワークサイトでの3Dゲームプレイビデオクリップの共有を示す。図示の実施形態においては、3Dゲームプレイビデオクリップ702は、ソーシャルネットワークサイト700上で共有されている。3Dゲームプレイビデオクリップ702は、ネイティブでない符号化スキームに従って規定されてよく、ウェブブラウザ等の所与の装置またはアプリケーションによってネイティブにプレイされなくてよい。さらに、3Dビデオが利用可能な所与の装置は、3D再生をサポートしていない場合がある。従って、一実施形態においては、参照番号704で示すように、3Dビデオクリップの再生を容易にするためにプラグインをロードすることができる。プラグインは、ユーザの装置で、3Dビデオクリップの再生を可能にするコーデックまたは他の復号スキームを規定してよい。
一実施形態においては、プラグインは、参照番号706に示すように3Dビデオクリップ702を2Dフォーマットに変換するように構成することができ、その結果、2Dビデオクリップ708が再生される。2Dビデオコンテンツへの変換は、当分野で既知の適切なバッファリングを用いて、ビデオ視聴中にリアルタイムで行えることは、理解されたい。または、2Dビデオ708の再生を開始する前に、部分的または全体的に変換を行うことができる。
別の実施形態においては、プラグインは、ユーザが3Dビデオクリップにアクセスしているユーザ装置を識別するように構成することができる。ユーザ装置の識別は、装置を識別するハードウェア検出に基づいて自動であってよく、または、ユーザが手動で入力することもできる。ユーザ装置が、3D再生をサポートすると判定された場合、3Dビデオクリップは、参照番号712で示されるように3Dで提示することができる。例えば、元のユーザのゲームプレイは、HMD上に提示されていたかもしれないが、ビデオクリップにアクセスする装置は、別のHMDであってよく、従って、ビデオクリップにアクセスしているユーザは、元のユーザがゲームプレイ中に体験したのと同じように、3Dゲームプレイビデオを視聴、体験してよい。装置が3D再生をサポートしていないとして識別された場合、3Dビデオは、ユーザ装置で再生されるために上記に示すように2Dに変換される。
別の実施形態においては、3Dビデオクリップ702は、ゲームプレイを記録した元のユーザにゲームプレイを提示した元の3Dフォーマットとは異なる3Dフォーマットに従って規定されてよい。例えば、元のユーザは、HMDを介して、そのHMDに固有の第1の3Dフォーマットで記録された3Dビデオでビデオゲームをプレイしたかもしれない。より広い共有を促進するためには、記録されたゲームプレイビデオは、第2の3Dフォーマットに変換されてよく、ビデオクリップは、この第2の3Dフォーマットで共有されてよい。しかしながら、別のユーザは、第1の3Dフォーマットをサポートしている別のHMDからビデオクリップにアクセスしてよく、従って、ビデオクリップは、ビデオクリップにアクセスしているユーザのHMD上での視聴のために、第2の3Dフォーマットから第1の3Dフォーマットに戻すように再変換することができる。
図8は、発明の実施形態に係る、3Dゲームプレイビデオクリップを2Dゲームプレイビデオクリップに変換するシステムを示す。図示のように、記録ゲームプレイデータストレージ800は、ビデオゲームのゲームプレイから様々なデータを記憶する。例として、ゲームプレイデータは、ゲーム状態データ802、入力データ804、動作データ806、及び、視線データ808を含むことができる。ゲーム状態データ802は、ゲーム状態を規定する変数及び他のパラメータの値等、ユーザのゲームプレイの最中にビデオゲームのゲーム状態を規定するデータを含む。入力データ804は、ゲームプレイ中に供給された、ユーザが生成した入力を記述するデータを含むことができる。動作データ806は、HMDやコントローラ等の様々なハードウェアの動きと、ユーザや他の追跡されるオブジェクトの動きと、を記述するデータを含むことができる。視線データ808は、ゲームプレイ中、ユーザの眼の視線方向を規定するデータを含むことができる。
3D記録ゲームプレイビデオストレージ810は、ユーザのゲームプレイを3Dで記録したゲームプレイビデオを記憶する。3Dで記録されたゲームプレイビデオは、共有のために別々のクリップまたはセグメントで規定することができる。3D−2Dコンバータ812は、3Dで記録されたゲームプレイビデオを2Dフォーマットに変換するために備えられる。2Dへの変換は、上記に規定の記録されたゲームプレイデータに部分的に基づいてよい。一実施形態においては、焦点深度判定モジュール814は、3Dで記録されたゲームプレイビデオによって規定された3D空間内で、2Dビデオコンテンツの1つまたは複数のフレームを規定する焦点深度を判定する。被写界深度判定モジュール816は、2Dビデオコンテンツの1つまたは複数のフレームの焦点深度に関連付けられた被写界深度特性を決定するように構成される。焦点深度及び被写界深度特性は、様々な記録されたゲームプレイデータに基づいてよいことは理解されたい。
例えば、ユーザが所与の焦点深度に存在するオブジェクトを見ていたことが、視線方向データ及びゲーム状態データに基づいて決定されると、2Dビデオ変換の焦点深度をオブジェクトのその焦点深度に設定することができる。シーンの性質に応じて、被写界深度は、所与の焦点深度もしくはその焦点深度の近くのオブジェクトに焦点を合わせて視聴者の注意を引き付ける映画のような効果を与えるように、より浅く決定することができる。または、被写界深度は、シーンのより多くの部分に焦点を合わせて視聴者が視聴、理解できるように、より広く決定してもよい。焦点深度と被写界深度は、記録されたゲームプレイデータの分析に基づいて決定される様々な考慮事項に基づいて決定してよいことは理解されたい。
2Dレンダリングモジュール818は、選択した焦点深度と被写界深度を3D記録ビデオに適用して2Dビデオデータをレンダリングし、2D記録ゲームプレイビデオストレージ820に記憶される2D記録ビデオをレンダリングする。
図9は、発明の実施形態に係る、2D画像を生成する元の3D画像を示す。3D画像900は、犬902、キャラクタ904及び木906等の様々なオブジェクトを示す3D空間を規定する。焦点深度910は、3D空間内の一定の奥行の平面によって概念的に規定される。2Dへの変換のために選択された被写界深度に応じて、キャラクタ904の前後のオブジェクトに焦点が合う場合もあれば合わない場合もある。例えば、浅い被写界深度を選ぶと、人904には焦点が合うが、犬902及び/または木906に焦点は合わない。広い被写界深度を選ぶと、犬902と木906は両方とも、人904と共に焦点が合う。
本明細書に記載の様々な実施形態に従って、記録されたゲームプレイビデオクリップの生成は、元のゲームプレイ中に収集されたデータに基づいて最適化できることを、理解されよう。このようなデータを考慮せずにゲームプレイビデオを生成すると、ビデオは、ビデオを視聴する文脈に適さない場合があり、その結果、視聴者にとって準最適な視聴体験となる。HMDデバイスは、(例えば、携帯電話、タブレット、ラップトップ、PCディスプレイ等で)ゲームプレイビデオを視聴する文脈と大きく異なり得る高度に没入型の体験を提供することができるので、元のゲームプレイをHMDデバイス上に提示した時、この影響は、より顕著になり得る。元のゲームプレイの提示に用いられるハードウェアの能力と、記録されたゲームプレイビデオの視聴に用いられるハードウェアの能力が大きく相違し得るので、記録されたゲームプレイビデオを生成する時、様々なゲームプレイ関連のデータを考えると役に立つ。
一部の実施形態においては、ゲームプレイ中に記録された視線追跡情報を適用して、ゲームプレイビデオクリップを最適化することができる。例えば、プレイヤーがゲームプレイ中に見ていたゲームプレイビデオの特定の領域を視線追跡情報に基づいて識別してよい。このような領域を、ユーザが直視していなかった他の領域より忠実に符号化することができる(例えば、解像度、詳細度、リフレッシュレートを上げる)。一実施形態においては、仮想環境内の特定のオブジェクトを、ゲームプレイ中にプレイヤーが見ていたオブジェクトとして視線追跡情報から識別してよく、これらのオブジェクトは、ゲームプレイビデオクリップ内でより忠実にレンダリングされてよい。コンピュータグラフィックスとアニメーションの分野で既知の様々なオブジェクトレンダリングパラメータは、このようなオブジェクトの総体的な出現を、ユーザがゲームプレイ中に特に見ていなかった他のオブジェクトに対して、増やすように調整できることは理解されよう。
別の実施形態においては、仮想環境の所与の領域に関してレンダリングされるオブジェクトの数は、視線追跡情報に基づいて調整し得る。例えば、一実施形態においては、プレイヤーが見ていた領域では、ゲームプレイビデオクリップでレンダリングするオブジェクトの最大許容数は、プレイヤーが見ていなかった領域の最大許容数より大きい。ビデオゲーム内で規定されるオブジェクトの異なるクラス/タイプがあってよく、最大許容数は、オブジェクトの各クラス/タイプに関して規定され、ゲームプレイビデオクリップを生成するために、視線追跡情報に基づいて調整されてよいことは、理解されたい。
このように、ゲームプレイビデオは最適化されて、プレイヤーが見ていたオブジェクトまたは領域はグラフィカルな忠実度を上げて強調されてゲームプレイビデオに提示されることによって、ゲームプレイ中にプレイヤーが見ていたエリアを視聴者に強調表示する。
さらに、追加の実施形態においては、焦点及び被写界深度は、視線追跡情報に基づいて調整することができる。プレイヤーの視線方向は、HMDデバイス自体の向き/位置の検出と組み合わせて、HMDデバイス内のプレイヤーの眼の向き/位置の検出に基づいて追跡してよいことは理解されよう。HMDデバイスの動きは、プレイヤーの頭の動きに相関しており、HMDデバイスの位置/向きと組み合わせたプレイヤーの眼の相対的な位置を利用して、物理的空間におけるプレイヤーの視線方向を決定することができる。この視線方向をビデオゲームのゲームプレイ中に利用して、ビデオゲームの仮想環境のプレイヤーに適切なビューを提供することができる。例えば、プレイヤーが様々な方向を見るように頭及び/または眼を動かすと、HMDデバイス上のビューによって、プレイヤーが仮想環境内にいるかのように、自然に仮想環境を見回している効果が与えられる。HMDデバイスの動きは、HMDデバイス内に備えられた慣性センサ(例えば、加速度計、ジャイロスコープ、磁力計)による検出、または、HMDデバイスを外部的に追跡すること(例えば、画像の撮影と認識を通してHMDデバイス上の照明特徴を追跡すること)によって等、様々な方法で検出できることは理解されよう。
本明細書に記載の実施形態においては、HMDデバイスの動きに関するデータ等、HMDデバイスデータを利用して、ゲームプレイビデオクリップの生成に影響を与えることができる。HMDデバイスの動きを記述するデータは、単独で、または、ゲームプレイビデオの側面を変更する他の種類のデータと共に利用できることは理解されたい。
一部の実施形態においては、プレイヤーがゲームプレイ中に見ていたと判定されるオブジェクトは、焦点を当てられて出現してよく、または、焦点距離は、このようなオブジェクトがゲームプレイビデオクリップ内に焦点を当てられて出現するように、調整されてよい。結果として生じる効果として、プレイヤーが見ていた様々なオブジェクトがゲームプレイビデオの間、焦点を当てられる。さらに、被写界深度は、視線追跡情報に基づいて調整されてよい。例えば、一実施形態においては、プレイヤーが長い時間、所与のオブジェクトを見る場合、所与のオブジェクトに焦点を当てたままで、被写界深度を減少させることができる。この結果、他のオブジェクト(例えば、背景及び前景のオブジェクト)がぼやけることがあり、結果として生じるゲームプレイビデオクリップにおいて、プレイヤーが長い時間見ていたオブジェクトが強調される。一実施形態においては、被写界深度の低減は、所与のオブジェクトへのプレイヤーの視線が閾値時間を超えると、適用されてよい。別の実施形態においては、被写界深度の変化速度は、最小被写界深度に達するまで、所与のオブジェクトにプレイヤーの視線が維持されている時間と共に増加するように規定することができる。結果、プレイヤーがオブジェクトを見続ける時、被写界深度は最初ゆっくりと減少し、次に、時間の経過に従ってより速い速度で加速度的に減少し、最後に、最小被写界深度に達して止まる。
プレイヤーがHMDデバイスを通してビデオゲームを体験している時、HMDデバイスの表示は、プレイヤーの視野の非常に広範な部分を占めてよい。しかしながら、視聴者がプレイヤーのゲームプレイのビデオクリップを見るとき、視聴者は、モバイルデバイス、テレビ、または、パーソナルコンピュータディスプレイ等のユーザの視野よりずっと小さい部分を占める装置で、ビデオクリップを見ている可能性がある。本開示の目的のために、プレイヤーの「視野(field of vision)」は、プレイヤーの「視界(field of view)」と区別されるべきであることは理解されたい。プレイヤーの視野は、プレイヤーの中心視線エリア及び周辺視野エリアを含む、プレイヤーの眼が理解できる物理的エリアである。人間は、典型的に、ほぼ180度の最大水平視野範囲(と典型的な135度の垂直視野範囲)を有する。他方、プレイヤーの視界は、ゲームプレイ中にプレイヤーに提示される仮想環境の部分によって規定される。従って、プレイヤーに提示される視界は、所与の方向(例えば、水平または垂直)において、360度までの任意の量であってよい。
従って、ゲームプレイ中にHMDデバイスのディスプレイによって占められるプレイヤーの視野部分は、記録されたゲームプレイビデオがレンダリングされる視聴者の装置が占める視聴者の視野部分よりずっと大きくてよい。従って、ゲームプレイ中にHMDデバイスを通して提供されたビデオゲームの仮想環境の視界は、視聴者にとって適切でない可能性がある。よって、一部の実施形態においては、ビデオクリップで提示される視界は、元のゲームプレイ中にプレイヤーに提示された視界と異なるように調整することができる。例えば、一実施形態においては、ビデオクリップで提示された視界は、元のゲームプレイ中に提示された視界より小さく設定される。さらに、ビデオクリップに提示される視界の方向は、ゲームプレイ中にプレイヤーの見ている方向を追跡して、ゲームプレイ中にプレイヤーが見た領域を確実に提示するように、視線追跡情報に基づいて決定することができる。
他の実施形態においては、ゲームプレイビデオクリップに提示される視界は、ゲームプレイデータに基づいて調整される。例えば、一実施形態においては、プレイヤーの視線の動きが大きいと判定されると、ビデオクリップの視界は広げられる。逆に、プレイヤーの視線の動きが小さいと判定されると、ビデオクリップの視界は狭められる。結果として生じる効果は、ビデオクリップにおける仮想環境の提示はプレイヤーの視線方向の動きが増加すると、ズームアウトされ、プレイヤーの視線方向の動きが減少すると、ズームインされる。プレイヤーの視線方向の動きが増加してズームアウトされることによって、ゲームプレイビデオクリップは、プレイヤーの動きが大きい間、あまりぶれずに見えて、視聴者によりスムーズな視聴体験を提供することができる。
プレイヤーの視聴方向の動きは、様々な方法で規定、定量化できることは理解されたい。例えば、動きは、方向の変化の速度、方向の変化の大きさ、所与の速度または大きさの動きが生じる時間長等に基づいて、規定することができる。動きとズームの間の相関は、様々な方法で規定できることは理解されたい。例えば、一実施形態においては、プレイヤーの視聴方向の動きが所定の閾値を超えると、視界はズームアウトするように調整される。逆に、視界は、その動きが所定の閾値未満になると、ズームインするように調整されてよい。その概念を組み合わせて、ズームのデフォルトレベルを提供することができる。デフォルトレベルは、プレイヤーの動きのレベルが第1の閾値を超えるか否かまたは第2の閾値未満になるか否かに応じて、それぞれ、ズームアウトまたはズームインするように調整してよい。
さらに、プレイヤーの動きのデータは、プレイヤーのゲームプレイ中に捕捉されるので、記録されたゲームプレイビデオを分析してぶれる部分を識別する必要がないことに留意する。むしろ、プレイヤーの動きのデータを分析して、プレイヤーの動きが多い期間または少ない期間を識別することができる。上記のように、動きのデータは、ゲームプレイ中のHMDデバイスの位置/向き及び動きに関するデータと、ゲームプレイ中のプレイヤーの眼の位置/向き及び動きに関するデータと、を含むことができる。
別の実施形態においては、視界またはズームをプレイヤーの動きのレベルに応じて調整できるだけでなく、ゲームプレイビデオクリップ用にビデオを生成するための仮想環境の視点の位置を移動させることができる。例えば、プレイヤーの動きが多い期間は、ビデオを生成するための視点は、実際のゲームプレイ中に適用された視点より後方及び/または上方にシフトされてよい。ゲームプレイ中に適用された(プレイヤーに提示された)視点から離れるように視点をシフトすることによって、視点は、場合によっては、一人称視点から三人称視点に変化してよいことは理解されよう。さらに、視点の位置の変化は、ゲームプレイ中にプレイヤーの視聴方向が動くレベルに基づいて、視界の変化と共に適用できることに留意する。
さらに、(元のゲームプレイ中に適用されたものとは異なるゲームプレイビデオクリップに適用される)視界/ズーム、視点、焦点、被写界深度、または、他のビデオパラメータの変化は、(ゲーム状態データから決定することができる)実際のゲームプレイ内で生じたアクティビティに基づいて決定することができる。一部の実施形態においては、ビデオパラメータは、ゲームプレイ中に、プレイヤー(例えば、プレイヤーのキャラクタ)が行っているアクティビティの種類に基づいて調整することができる。例えば、一人称視点のシューティングゲームにおいては、プレイヤーのキャラクタが、闘っていない時、ビデオクリップに適用されるビューは、三人称視点にズームアウトまたはシフトされてよく、プレイヤーのキャラクタが戦闘中の時は、ビューは一人称視点にズームインまたはシフトされてよい。別の実施形態においては、ビデオパラメータは、プレイヤーのキャラクタの近くにいる他の関心オブジェクト(例えば、他のキャラクタ)の存在に基づいて、調整することができる。例えば、他のキャラクタがプレイヤーのキャラクタの近くにいるとき、他のキャラクタを示すようにビューをズームアウトするのが望ましく、プレイヤーのキャラクタに近くに他のキャラクタがいないとき、プレイヤーの実際のゲームプレイ中に適用されたビューと同じようにビューをズームインして維持してよい。
ビデオパラメータの調整に関して実施形態を記載してきたが、プレイヤーのゲームプレイ中に提示された音声もゲームプレイビデオクリップの目的で、調整または維持してよいことは理解されよう。例えば、ゲームプレイ中に提示される3D音声は、ゲームプレイビデオクリップに対しては適切でない可能性がある。一実施形態においては、3D音声は、適切な方法で2D音声に変換される。例えば、ビデオクリップで提供された視界が、ゲームプレイ中のプレイヤーに本来、提示された視界より小さい場合、音声は、ビデオクリップのより小さい視界からの音声を強調するように調整してよい。別の実施形態においては、3D音声効果は、ビデオクリップで維持される。さらに他の実施形態においては、3D音声は、視界/ズーム、視点、焦点、被写界深度等に行われた変更に基づいて調整される。例えば、視点をシフトすると、音声は、元のゲームプレイ中に本来プレイヤーに提示された視点からではなく、シフトされた視点から提示される。同様に、視界を広げると、音声は、広げられた視界にあるオブジェクトからの音声を含むまたはさらに強調するように調整されてよい。別の実施例においては、焦点を特定のオブジェクトに合わせるように調整すると、そのオブジェクトからの音声が強調される。
ゲームプレイビデオクリップのソーシャルネットワークへの共有に関して実施形態を記載してきたが、ゲームプレイビデオクリップは、任意の文脈、及び、ビデオクリップの再生をサポートすることができる任意の種類の装置で、共有、配信、投稿、または、他の方法で、視聴者が利用できるようにされることは理解されよう。例として、様々な文脈には、任意の種類のウェブサイト、専用アプリケーション、モバイルデバイスアプリ、ストリーミングビデオプレイヤ、ゲーミングコンソールインタフェース等を含み得るが、それらに限られない。ビデオクリップを提示することができる装置は、携帯電話、PDA、ポータブルゲーミングデバイス、タブレット、ラップトップコンピュータ、パーソナルコンピュータ、テレビ、プロジェクタ、HMDデバイス、スマートウォッチ等を含み得るが、それらに限られない。
図10を参照すると、本発明の実施形態に係る、ヘッドマウンテッドディスプレイ102のコンポーネントを表す図が示されている。ヘッドマウンテッドディスプレイ102は、プログラム命令を実行するプロセッサ1300を備える。メモリ1302が記憶のために提供され、メモリ1302は、揮発性及び不揮発性のメモリの両方を含んでよい。ユーザが見ることが可能な視覚的インタフェースを提供するディスプレイ1304を備える。バッテリ1306が、ヘッドマウンテッドディスプレイ102の電源として備えられる。動作検出モジュール1308は、磁力計1310、加速度計1312、及び、ジャイロスコープ1314等の様々な種類の動作検知ハードウェアのうちの任意のハードウェアを備えてよい。
加速度計は、加速度と、重力によって引き起こされた反力を測定する装置である。1つまたは複数の軸モデルが、異なる方向の加速度の大きさ及び方向の検出に利用できる。加速度計を用いて、傾き、振動、及び、衝撃を感知する。一実施形態においては、3つの加速度計1312を用いて、2つの角度(ワールド空間のピッチ角とワールド空間のロール角)に絶対参照を与える重力の方向を提供する。
磁力計は、ヘッドマウンテッドディスプレイの近くの磁場の強さと方向を測定する。一実施形態においては、3つの磁力計1310をヘッドマウンテッドディスプレイ内で用いて、ワールド空間のヨー角に対する絶対参照を確保する。一実施形態においては、磁力計は、±80マイクロテスラである地球の磁場に及ぶように設計される。磁力計は、金属の影響を受け、実際のヨーに対して単調なヨー測定を提供する。磁場は、環境に金属があるとゆがむ可能性があり、ヨー測定でゆがみをもたらす。必要に応じて、このゆがみは、ジャイロスコープまたはカメラ等の他のセンサからの情報を用いて較正することができる。一実施形態においては、加速度計1312を磁力計1310と共に用いて、ヘッドマウンテッドディスプレイ102の傾きと方位角を取得する。
ジャイロスコープは、角運動量の原理に基づいて、向きを測定または維持する装置である。一実施形態においては、3つのジャイロスコープ1314が、慣性感知に基づいて、各軸(x、y、z)に関する動きの情報を提供する。ジャイロスコープは、速い回転の検出を支援する。しかしながら、ジャイロスコープは、絶対参照が存在しなければ、時間と共にドリフトし得る。これは、ジャイロスコープの周期的なリセットを必要とし、リセットは、オブジェクトの視覚的追跡、加速度計、磁力計等に基づいた位置/向きの決定等、他の入手可能な情報を用いて行うことができる。
カメラ1316が、実環境の画像及び画像ストリームを撮影するために備えられている。後ろ向き(ユーザがヘッドマウンテッドディスプレイ102の表示を見ている時、ユーザから離れる方向)のカメラと、前向き(ユーザがヘッドマウンテッドディスプレイ102の表示を見ている時、ユーザの方に向かう方向)のカメラを含む複数のカメラをヘッドマウンテッドディスプレイ102に備えてよい。さらに、デプスカメラ1318が、実環境のオブジェクトの奥行情報を感知するためにヘッドマウンテッドディスプレイ102に備えられてよい。
ヘッドマウンテッドディスプレイ102は、音声出力を行うスピーカ1320を備える。また、実環境から、周囲環境の音、ユーザの発話等を含む、音声を捕捉するためにマイクロフォン1322を備えてよい。ヘッドマウンテッドディスプレイ102は、触覚フィードバックをユーザに提供する触覚フィードバックモジュール1324を備える。一実施形態においては、触覚フィードバックモジュール1324は、触覚フィードバックをユーザに提供するように、ヘッドマウンテッドディスプレイ102の動き、及び/または、振動を引き起こすことができる。
LED1326は、ヘッドマウンテッドディスプレイ102の状態を視覚的に示すものとして備えられている。例えば、LEDは、バッテリレベル、電源オン等を示してよい。カードリーダ1328は、ヘッドマウンテッドディスプレイ102がメモリーカードから情報を読み取ったり、メモリーカードに情報を書き込んだりできるように備えられている。USBインタフェース1330は、周辺装置の接続、または、他のポータブルデバイス、コンピュータ等の他の装置への接続を可能にするインタフェースの一例として、備えられている。ヘッドマウンテッドディスプレイ102の様々な実施形態において、様々な種類のインタフェースのうちの任意のインタフェースをヘッドマウンテッドディスプレイ102の接続性を向上させるために、備えてよい。
WiFi(登録商標)モジュール1332は、無線ネットワーク技術を介してインターネットへの接続を可能にするために備えられる。また、ヘッドマウンテッドディスプレイ102は、他の装置への無線接続を可能にするブルートゥース(登録商標)モジュール1334を備える。通信リンク1336が、他の装置への接続のために含まれてもよい。一実施形態においては、通信リンク1336は、無線通信のために赤外線伝送を利用する。他の実施形態においては、通信リンク1336は、他の装置との通信のために、様々な無線または有線の送信プロトコルのうちの任意のプロトコルを利用してよい。
入力ボタン/センサ1338は、入力インタフェースをユーザに提供するために備えられている。ボタン、タッチパッド、ジョイスティック、トラックボール等の様々な種類の入力インタフェースの任意のインタフェースを備えてよい。超音波技術を介した他の装置との通信を容易にするために、超音波通信モジュール1340をヘッドマウンテッドディスプレイ102に備えてよい。
バイオセンサ1342が、ユーザから生理学的データの検出を可能にするために備えられている。一実施形態においては、バイオセンサ1342は、ユーザの皮膚を通してユーザの生体電気信号を検出するために1つまたは複数のドライ電極を備える。
ヘッドマウンテッドディスプレイ102の上記コンポーネントは、ヘッドマウンテッドディスプレイ102に備えられてよい単に例示のコンポーネントとして記載した。本発明の様々な実施形態において、ヘッドマウンテッドディスプレイ102は、様々な上記コンポーネントの一部を備えてもよく、備えなくてもよい。ヘッドマウンテッドディスプレイ102の実施形態は、本明細書に記載の本発明の態様を容易にするために、ここに記載していないが当分野では既知の他コンポーネントをさらに備えてよい。
発明の様々な実施形態において、上記ハンドヘルドデバイスは、様々なインタラクティブ機能を提供するためにディスプレイに表示されたインタラクティブアプリケーションと共に利用されてよいことを、当業者は理解されよう。本明細書に記載の例示の実施形態は、例として記載しており、制限のために記載しているのではない。
図11は、本発明の様々な実施形態に係る、ゲームシステム1400のブロック図である。ゲームシステム1400は、ネットワーク1415を介してビデオストリームを1つまたは複数のクライアント1410に提供するように構成される。ゲームシステム1400は、ビデオサーバシステム1420と、オプションのゲームサーバ1425とを典型的に備える。ビデオサーバシステム1420は、最小限の品質のサービスで、ビデオストリームを1つまたは複数のクライアント1410に提供するように構成されている。例えば、ビデオサーバシステム1420は、ビデオゲーム内のビューの状態または視点を変えるゲームコマンドを受信し、この状態の変化を反映した更新済みビデオストリームを最小の時間の遅れでクライアント1410に提供してよい。ビデオサーバシステム1420は、今後定義されるフォーマットを含む、多種多様の代替ビデオフォーマットのビデオストリームを提供するように構成されてよい。さらに、ビデオストリームは、多種多様なフレームレートでユーザに提示されるように構成されたビデオフレームを含んでよい。典型的なフレームレートは、毎秒30フレーム、毎秒60フレーム、及び、毎秒120フレームであるが、より高いまたはより低いフレームレートが発明の代替実施形態に含まれる。
ここでは、それぞれ、1410A、1410B等として呼ばれるクライアント1410は、ヘッドマウンテッドディスプレイ、ターミナル、パーソナルコンピュータ、ゲームコンソール、タブレットコンピュータ、電話、セットトップボックス、キオスク、無線装置、デジタルパッド、スタンドアロンデバイス、ハンドヘルドゲームプレイデバイス等を含んでよい。典型的には、クライアント1410は、符号化されたビデオストリームを受信し、そのビデオストリームを復号し、結果として生じるビデオをユーザ、例えば、ゲームのプレイヤーに提示するように構成される。符号化されたビデオストリームの受信、及び/または、そのビデオストリームの復号のプロセスは、典型的には、クライアントの受信バッファに個々のビデオフレームを記憶することを含む。ビデオストリームは、クライアント1410に一体化されたディスプレイ上で、または、モニタまたはテレビ等の別個の装置上でユーザに提示されてよい。クライアント1410は、オプションで、複数のゲームプレイヤーをサポートするように構成される。例えば、ゲームコンソールは、2人、3人、4人、または、それ以上のプレイヤーを同時にサポートするように構成されてよい。これらのプレイヤーはそれぞれ、別個のビデオストリームを受信してよい、または、単一のビデオストリームは、特に各プレイヤー用に生成されたフレームの領域、例えば、各プレイヤーの視線に基づいて生成されたフレームの領域を備えてよい。クライアント1410は、オプションで、地理的に分散している。ゲームシステム1400に含まれるクライアントの数は、1または2、何千、何万、それ以上まで大きく異なってよい。本明細書では、「ゲームプレイヤー」という語は、ゲームをする人を指し、「ゲームプレイデバイス」という語は、ゲームをするのに用いるデバイスを指す。一部の実施形態においては、ゲームプレイデバイスは、ゲーム体験をユーザに与えるために協働する複数のコンピュータ装置を指してよい。例えば、ゲームコンソールとHMDは、HMDを通して見るゲームを配信するビデオサーバシステム1420と協働してよい。一実施形態においては、ゲームコンソールは、ビデオサーバシステム1420からビデオストリームを受信する、そして、ゲームコンソールは、ビデオストリームまたはビデオストリームへの更新をレンダリングのためにHMDに転送する。
クライアント1410は、ネットワーク1415を介してビデオストリームを受信するように構成される。ネットワーク1415は、電話網、インターネット、無線ネットワーク、パワーラインネットワーク、ローカルエリアネットワーク、ワイドエリアネットワーク、プライベートネットワーク等を含む、任意の種類の通信ネットワークであってよい。典型的な実施形態においては、ビデオストリームは、TCP/IPまたはUDP/IP等の標準プロトコルを介して通信される。あるいは、ビデオストリームは、プロプリエタリ規格を介して通信される。
クライアント1410の典型的な例は、プロセッサ、不揮発メモリ、ディスプレイ、復号ロジック、ネットワーク通信能力、及び、入力装置を備える、パーソナルコンピュータである。復号ロジックは、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含んでよい。ビデオストリームを復号(及び符号化)するためのシステムは、当分野で周知であり、使用される具体的な符号化スキームに応じて変わる。
クライアント1410は、受信したビデオを修正するように構成されたシステムをさらに備えることを必要とはされないが、備えてよい。例えば、クライアントは、1つのビデオ画像を別のビデオ画像に重ね合わせる、ビデオ画像をトリミングする等、のために、さらなるレンダリングを行うように構成されてよい。例えば、クライアント1410は、Iフレーム、Pフレーム、及び、Bフレーム等の様々な種類のビデオフレームを受信し、これらのフレームを処理してユーザに表示する画像にするように構成されてよい。一部の実施形態においては、クライアント1410のメンバーは、レンダリング、シェーディング、3Dへの変換等のさらなる操作をビデオストリームに対して行うよう構成される。クライアント1410のメンバーは、オプションで、複数のオーディオストリームまたはビデオストリームを受信するように構成される。クライアント1410の入力装置は、例えば、片手ゲームコントローラ、両手ゲームコントローラ、ジェスチャ認識システム、視線認識システム、音声認識システム、キーボード、ジョイスティック、ポインティングデバイス、力フィードバックデバイス、動作及び/または位置検出装置、マウス、タッチスクリーン、神経インタフェース、カメラ、今後開発される入力装置等を含んでよい。
クライアント1410が受信するビデオストリーム(及び、オプションで、オーディオストリーム)は、ビデオサーバシステム1420によって生成、提供される。本明細書の他の箇所でさらに記載するように、このビデオストリームは、ビデオフレームを含み(そして、オーディオストリームはオーディオフレームを含む)。ビデオフレームは、ユーザに表示される画像に有意義に寄与するように構成される(例えば、ビデオフレームは、適切なデータ構造で画素情報を含む)。本明細書では、「ビデオフレーム」という語は、ユーザに示される画像に寄与、例えば、影響を与えるように構成される情報を大部分に含むフレームを指す。「ビデオフレーム」に関する本明細書の教示の大部分は、「オーディオフレーム」にも適用できる。
クライアント1410は、典型的に、ユーザから入力を受信するように構成される。これらの入力は、ビデオゲームの状態を変更、そうでなければ、ゲームプレイに影響を与えるように構成されるゲームコマンドを含んでよい。ゲームコマンドは、入力装置を用いて受信することができる、及び/または、クライアント1410上で実行されるコンピュータ命令によって自動的に生成されてもよい。受信されたゲームコマンドは、クライアント1410からネットワーク1415を介して、ビデオサーバシステム1420及び/またはゲームサーバ1425に通信される。例えば、一部の実施形態においては、ゲームコマンドは、ビデオサーバシステム1420を介してゲームサーバ1425に通信される。一部の実施形態においては、ゲームコマンドの別個のコピーは、クライアント1410からゲームサーバ1425及びビデオサーバシステム1420に通信される。ゲームコマンドの通信は、オプションで、コマンドIDに依存する。ゲームコマンドは、オプションで、オーディオストリームまたはビデオストリームをクライアント1410Aに提供するのに使用されるのと異なるルートまたは通信チャネルを介してクライアント1410Aから通信される。
ゲームサーバ1425は、オプションで、ビデオサーバシステム1420とは異なるエンティティによって運営される。例えば、ゲームサーバ1425は、マルチプレイヤーゲームの出版社によって運営されてよい。この実施例においては、ビデオサーバシステム1420は、オプションで、ゲームサーバ1425から見るとクライアントであり、オプションで、ゲームサーバ1425の視点からは、先行技術のゲームエンジンを実行する先行技術のクライアントに見えるように構成される。ビデオサーバシステム1420とゲームサーバ1425間の通信は、オプションで、ネットワーク1415を介して行われる。従って、ゲームサーバ1425は、ゲーム状態情報を複数のクライアントに送る先行技術のマルチプレイヤーゲームサーバであってよく、その複数のクライアントの1つは、ゲームサーバシステム1420である。ビデオサーバシステム1420は、ゲームサーバ1425の複数のインスタンスと同時に通信するように構成されてよい。例えば、ビデオサーバシステム1420は、複数の異なるビデオゲームを異なるユーザに提供するように構成することができる。これらの異なるビデオゲームのそれぞれは、異なるゲームサーバ1425によってサポートされてよく、及び/または、異なるエンティティが出版してよい。一部の実施形態においては、ビデオサーバシステム1420の幾つかの地理的に分散したインスタンスが、複数の異なるユーザにゲームビデオを提供するように構成される。ビデオサーバシステム1420のこれらのインスタンスのそれぞれは、ゲームサーバ1425の同じインスタンスと通信してよい。ビデオサーバシステム1420と1つまたは複数のゲームサーバ1425との間の通信は、オプションで、専用通信チャネルを介して生じる。例えば、ビデオサーバシステム1420は、これらの2つのシステム間の通信に専用の高帯域チャネルを介してゲームサーバ1425に接続されてよい。
ビデオサーバシステム1420は、少なくともビデオソース1430、I/O装置1445、プロセッサ1450、及び、非一時的ストレージ1455を備える。ビデオサーバシステム1420は、1つのコンピュータ装置を含んでよい、または、複数のコンピュータ装置に分散されてよい。これらのコンピュータ装置は、オプションで、ローカルエリアネットワーク等の通信システムを介して接続される。
ビデオソース1430は、ビデオストリーム、例えば、ストリーミングビデオ、または、動画を形成する一連のビデオフレームを提供するように構成される。一部の実施形態においては、ビデオソース1430は、ビデオゲームエンジン及びレンダリングロジックを備える。ビデオゲームエンジンは、プレイヤーからゲームコマンドを受信し、受信したコマンドに基づいてビデオゲームの状態のコピーを維持するように構成される。このゲーム状態は、ゲーム環境内のオブジェクトの位置と、典型的には視点を含む。ゲーム状態は、オブジェクトのプロパティ、画像、色、及び/または、テクスチャも含んでよい。ゲーム状態は、典型的には、ゲーム規則と、移動(move)、回転(turn)、攻撃(attack)、〜にフォーカス設定(set focus to)、インタラクト(interact)、使用(use)等のゲームコマンドと、に基づいて維持されてよい。ゲームエンジンの一部は、オプションで、ゲームサーバ1425内に置かれる。ゲームサーバ1425は、地理的に分散したクライアントを用いて、複数のプレイヤーから受信したゲームコマンドに基づいて、ゲームの状態のコピーを維持してよい。これらの場合、ゲーム状態は、ゲームサーバ1425によってビデオソース1430に提供され、そこで、ゲーム状態のコピーが記憶され、レンダリングが行われる。ゲームサーバ1425は、クライアント1410からネットワーク1415を介して直接ゲームコマンドを受信してよく、及び/または、ビデオサーバシステム1420を介してゲームコマンドを受信してよい。
ビデオソース1430は、典型的には、レンダリングロジック、例えば、ハードウェア、ファームウェア、及び/または、ストレージ1455等のコンピュータ可読媒体に記憶されたソフトウェアを備える。このレンダリングロジックは、ゲーム状態に基づいてビデオストリームのビデオフレームを作成するように構成される。レンダリングロジックの全てまたは一部は、オプションで、グラフィックスプロセッシングユニット(GPU)内に配置される。レンダリングロジックは、典型的には、ゲーム状態及び視点に基づいて、オブジェクト間の三次元空間関係を決定するために、及び/または、適切なテクスチャ等を適用するために、構成された処理段階を含む。レンダリングロジックは、未加工のビデオを生成し、通常、それらは、クライアント1410に通信する前に符号化される。例えば、未加工のビデオは、Adobe Flash(登録商標)規格、.wav、H.264、H.263、On2、VP6、VC−1、WMA、Huffyuv、Lagarith、MPG−x.Xvid.FFmpeg、x264、VP6−8、リアルビデオ、mp3等に従って、符号化してよい。符号化プロセスによって、遠隔装置上のデコーダに送るためにオプションでパッケージ化されるビデオストリームを生成する。ビデオストリームは、フレームサイズ及びフレームレートによって特徴付けられる。任意の他のフレームサイズを使用してよいが、典型的なフレームサイズは、800x600、1280x720(例えば、720p)、1024x768を含む。フレームレートは、秒あたりのビデオフレームの数である。ビデオストリームは、異なる種類のビデオフレームを含んでよい。例えば、H.264規格は、「P」フレームと「I」フレームを含む。Iフレームは、表示装置上の全てのマクロブロック/画素をリフレッシュする情報を含み、Pフレームは、そのサブセットをリフレッシュする情報を含む。Pフレームは、典型的に、Iフレームよりデータサイズが小さい。本明細書においては、「フレームサイズ」という語はフレーム内の画素数を指し、「フレームデータサイズ」という語は、フレームを記憶するのに必要なバイト数を指す。
代替実施形態においては、ビデオソース1430は、カメラ等のビデオ記録装置を備える。このカメラを用いて、コンピュータゲームのビデオストリームに含むことができる遅延ビデオまたはライブビデオを生成してよい。結果として生じるビデオストリームは、オプションで、レンダリングされた画像と、静止カメラまたはビデオカメラを用いて記録された画像の両方を含む。ビデオソース1430は、ビデオストリームに含むために以前記録されたビデオを記憶するように構成された記憶装置も備えてよい。ビデオソース1430は、オブジェクト、例えば、人、の動作と位置を検出するように構成された動作または位置検出装置と、検出された動作及び/または位置に基づいて、ゲーム状態を決定、または、ビデオを生成するように構成されたロジックも備えてよい。
ビデオソース1430は、オプションで、他のビデオ上に配置するように構成されたオーバーレイを提供するように構成される。例えば、これらのオーバーレイは、コマンドインタフェース、ログイン命令、ゲームプレイヤーへのメッセージ、他のゲームプレイヤーの画像、他のゲームプレイヤーのビデオフィード(例えば、ウェブカムビデオ)を含んでよい。タッチスクリーンインタフェースまたは視線検出インタフェースを備えるクライアント1410Aの実施形態においては、オーバーレイは、仮想のキーボード、ジョイスティック、タッチパッド等を含んでよい。オーバーレイの一実施例においては、プレイヤーの音声がオーディオストリーム上に重ねられる。ビデオソース1430は、オプションで、1つまたは複数のオーディオソースをさらに含む。
ビデオサーバシステム1420が複数のプレイヤーからの入力に基づいてゲーム状態を維持するように構成される実施形態においては、各プレイヤーは、ビューの位置及び方向を含む異なる視点を有してよい。ビデオソース1430は、オプションで、各プレイヤーに、各プレイヤーの視点に基づいて別個のビデオストリームを提供するように構成される。さらに、ビデオソース1430は、異なるフレームサイズ、フレームデータサイズ、及び/または、符号化を各クライアント1410に提供するように構成されてよい。ビデオソース1430は、オプションで、3Dビデオを提供するように構成される。
I/O装置1445は、ビデオ、コマンド、情報のリクエスト、ゲーム状態、視線情報、装置の動き、装置の位置、ユーザの動作、クライアントID、プレイヤーID、ゲームコマンド、セキュリティ情報、音声等の情報をビデオサーバシステム1420が送信及び/または受信するように構成される。I/O装置1445は、典型的には、ネットワークカードまたはモデム等の通信ハードウェアを備える。I/O装置1445は、ゲームサーバ1425、ネットワーク1415、及び/または、クライアント1410と通信するように構成される。
プロセッサ1450は、本明細書に記載のビデオサーバシステム1420の様々なコンポーネント内に含まれるロジック、例えば、ソフトウェア、を実行するように構成される。例えば、プロセッサ1450は、ビデオソース1430、ゲームサーバ1425、及び/または、クライアントクオリファイア(Client Qualifier)1460の機能を行うために、ソフトウェア命令でプログラムされてよい。ビデオサーバシステム1420は、オプションで、プロセッサ1450の複数のインスタンスを含む。プロセッサ1450も、ビデオサーバシステム1420が受信したコマンドを実行するために、または、本明細書に記載のゲームシステム1400の様々な要素の動作を調整するために、ソフトウェア命令でプログラムされてよい。プロセッサ1450は、1つまたは複数のハードウェア装置を備えてよい。プロセッサ1450は電子プロセッサである。
ストレージ1455は、非一時的なアナログ及び/またはデジタル記憶装置を含む。例えば、ストレージ1455は、ビデオフレームを記憶するように構成されたアナログ記憶装置を含んでよい。ストレージ1455は、コンピュータ可読デジタルストレージ、例えば、ハードドライブ、光学式ドライブ、または、半導体ストレージを含んでよい。ストレージ1415は、(例えば、適切なデータ構造またはファイルシステムによって)ビデオフレーム、疑似フレーム(artificial frames)、ビデオフレーム及び疑似フレームの両方を含むビデオストリーム、オーディオフレーム、オーディオストリーム等を記憶するように構成される。ストレージ1455は、オプションで、複数の装置に分散される。一部の実施形態においては、ストレージ1455は、本明細書の他の箇所に記載のビデオソース1430のソフトウェアコンポーネントを記憶するように構成される。これらのコンポーネントは、必要時にすぐに供給できるフォーマットで記憶されてよい。
ビデオサーバシステム1420は、オプションでクライアントクオリファイア1460をさらに備える。クライアントクオリファイア1460は、クライアント1410A、1410B等のクライアントの能力を遠隔で判定するように構成される。これらの能力は、クライアント1410A自体の能力と、クライアント1410Aとビデオサーバシステム1420との間の1つまたは複数の通信チャネルの能力の両方を含むことができる。例えば、クライアントクオリファイア1460は、ネットワーク1415を介して通信チャネルをテストするように構成されてよい。
クライアントクオリファイア1460は、クライアント1410Aの能力を手動または自動で判定(例えば、発見)することができる。手動の判定は、クライアント1410Aのユーザと通信することと、ユーザに能力を提供するように依頼することと、を含む。例えば、一部の実施形態においては、クライアントクオリファイア1460は、クライアント1410Aのブラウザ内に、画像、テキスト等を表示するように構成される。一実施形態においては、クライアント1410Aは、ブラウザを備えるHMDである。別の実施形態においては、クライアント1410Aは、ブラウザを有するゲームコンソールであり、ブラウザは、HMD上に表示されてよい。表示されたオブジェクトは、クライアント1410Aのオペレーティングシステム、プロセッサ、ビデオデコーダの種類、 ネットワーク接続の種類、ディスプレイ解像度等の情報をユーザが入力することを要求する。ユーザが入力した情報は、クライアントクオリファイア1460に返信される。
例えば、クライアント1410A上でエージェントを実行することにより、及び/または、テストビデオをクライアント1410Aに送信することにより、自動で判定してよい。エージェントは、ウェブページに埋め込まれた、または、アドオンとしてインストールされたJAVA(登録商標)スクリプト等のコンピュータ命令を含んでよい。エージェントは、オプションで、クライアントクオリファイア1460によって提供される。様々な実施形態において、エージェントは、クライアント1410Aの処理能力、クライアント1410Aの復号及び表示能力、クライアント1410Aとビデオサーバシステム1420の間の通信チャネルの遅延時間信頼性(lag time reliability)と帯域幅、クライアント1410Aのディスプレイの種類、クライアント1410Aに存在するファイヤフォール、クライアント1410Aのハードウェア、クライアント1410A上で実行されるソフトウェア、クライアント1410A内のレジストリエントリ等を見つけることができる。
クライアントクオリファイア1460は、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含む。クライアントクオリファイア1460は、オプションで、ビデオサーバシステム1420の1つまたは複数の他の要素とは別個のコンピュータ装置に配置される。例えば、一部の実施形態においては、クライアントクオリファイア1460は、クライアント1410と、ビデオサーバシステム1420の複数のインスタンスとの間の通信チャネルの特性を判定するように構成される。これらの実施形態においては、クライアントクオリファイアによって発見された情報を用いて、クライアント1410の1つにストリーミングビデオを配信するのに最も適しているのはビデオサーバシステム1420のどのインスタンスかを決定することができる。
本発明の実施形態は、ハンドヘルドデバイス、マイクロプロセッサシステム、マイクロプロセッサベースまたはプログラム可能な家庭用電化製品、ミニコンピュータ、メインフレームコンピュータ等を含む様々なコンピュータシステム構成で実践されてよい。発明は、有線または無線ネットワークを介してリンクされる遠隔処理装置によってタスクを行う分散コンピュータ環境で実践することもできる。
上記実施形態に留意して、発明は、コンピュータシステムに記憶されたデータを伴う様々なコンピュータで実施される操作を採用することができることは理解されたい。これらの操作は、物理量の物理的操作を必要とする操作である。発明の一部を形成する本明細書に記載の操作はいずれも、有用な機械操作である。発明は、これらの操作を行うデバイスまたは装置にも関する。装置は、必要な目的のために特に構築することができる。または、装置は、コンピュータに記憶されたコンピュータプログラムによって選択的に起動または構成される汎用コンピュータであってよい。詳細には、様々な汎用機械が、本明細書の教示に従って書かれたコンピュータプログラムと共に用いることができる、または、要求された操作を行うためにより専門化した装置を構築するとより便利であろう。
発明は、コンピュータ可読媒体上で、コンピュータ可読コードとして具体化することもできる。コンピュータ可読媒体は、データを記憶することができる任意のデータ記憶装置で、そのデータは、後にコンピュータシステムによって読み取ることができる。コンピュータ可読媒体の例には、ハードドライブ、ネットワーク接続型ストレージ(NAS)、リードオンリメモリ、ランダムアクセスメモリ、CD−ROM、CD−R、CD−RW、磁気テープ、及び、他の光学データ記憶装置や非光学式のデータ記憶装置が含まれる。コンピュータ可読媒体は、コンピュータ可読コードが分散して記憶、実行されるように、ネットワーク接続されたコンピュータシステムを介して分散されたコンピュータ可読有形媒体を含むことができる。
方法操作を特定の順で記載したが、オーバーレイ操作の処理が所望のように行われる限り、他のハウスキーピング操作を操作と操作の間に行ってよく、操作は、少し時間を違えて生じるように調整されてよく、または、操作は、処理に関連付けられた様々な間隔で処理操作が行われるのを可能にするシステムに分散されてよいことは理解されたい。
上記発明は理解しやすいように詳細に記載したが、請求項の範囲内で一定の変更及び修正を行ってよいことは明らかである。従って、本実施形態は、例証的で、非制限的であるとみなすべきで、かつ、発明は、本明細書に記載の詳細に制限されず、請求項の範囲及び同等物の範囲内で修正してよい。

Claims (14)

  1. ヘッドマウンテッドディスプレイ(HMD)にレンダリングされるビデオゲームの三次元ゲームプレイをソーシャルネットワークに共有する方法であって、
    第1のユーザによる前記HMDの双方向使用によって駆動される前記第1のユーザによるビデオゲームの三次元ゲームプレイから生成された三次元ビデオクリップを、HMDが接続されたコンピュータによって、ストレージに記録することと、
    前記三次元ビデオクリップをソーシャルネットワークに共有する要求を、前記HMDが接続されたコンピュータによって、受信することと、
    前記三次元ビデオクリップを二次元フォーマットに変換することによって二次元ビデオクリップを、前記HMDが接続されたコンピュータによって、生成することと、
    前記二次元ビデオクリップを、少なくとも一人の第2のユーザが視聴するために、前記HMDが接続されたコンピュータによって、前記ソーシャルネットワークに共有することとを含み、
    前記二次元ビデオクリップを生成することは、前記ビデオゲームの前記三次元ゲームプレイ中に生じる前記第1のユーザのゲームプレイアクティビティを分析して、前記二次元ビデオクリップのフレームに対して適用されるべき焦点深度、被写界深度、ズームのレベル、視聴方向、視界の1つまたは複数を決定することを含
    前記二次元ビデオクリップは、起動されると対応する前記三次元ビデオクリップが視聴可能であるサイトにユーザをリダイレクトする埋め込みリンクを含む、方法。
  2. 前記三次元ビデオクリップを前記ソーシャルネットワークに共有することをさらに含み、
    前記ソーシャルネットワークは、クライアントデバイスが三次元フォーマットの再生をサポートする場合に前記三次元ビデオクリップを前記クライアントデバイスに供給するように構成され、前記ソーシャルネットワークはさらに、前記クライアントデバイスが前記三次元フォーマットの再生をサポートしない場合に前記クライアントデバイスに前記二次元ビデオクリップを供給するように構成される、請求項1に記載の方法。
  3. 前記要求を受信することは、ユーザのアクティブゲームプレイセッションから規定される、請求項1に記載の方法。
  4. 前記要求を受信することは、前記ユーザの前記アクティブゲームプレイセッション中のコントローラデバイスのボタンの押し下げから規定される、請求項3に記載の方法。
  5. 前記二次元ビデオクリップを前記ソーシャルネットワークに共有することは、前記ソーシャルネットワークのユーザに関連付けられたソーシャルグラフのメンバーが前記二次元ビデオクリップを視聴できるように、前記ソーシャルネットワークへの投稿であって、前記二次元ビデオクリップを含むように規定された投稿を生成することを含む、請求項1に記載の方法。
  6. 前記二次元ビデオクリップを前記ソーシャルネットワークに共有することは、前記ソーシャルネットワークのAPIにアクセスして前記ソーシャルネットワークの投稿ロジックを起動し、前記二次元ビデオクリップを参照する前記ソーシャルネットワークへの前記投稿を規定することを含む、請求項5に記載の方法。
  7. 前記二次元ビデオクリップを生成することは、前記ビデオゲームの前記三次元ゲームプレイ中に生じるプレイヤの視線情報を分析して、前記二次元ビデオクリップのフレームに対して適用されるべき焦点深度、被写界深度、ズームのレベル、視聴方向、視界の1つまたは複数を決定することを含む、請求項1に記載の方法。
  8. 前記プレイヤの視線情報は、前記HMDによって生成された入力データから処理される、請求項7に記載の方法。
  9. ヘッドマウンテッドディスプレイ(HMD)にレンダリングされる三次元ビデオをソーシャルネットワークに共有する方法であって、
    第1のユーザによる前記HMDの双方向使用によって駆動される前記第1のユーザによる三次元仮想空間との双方向性から生成された三次元ビデオクリップを、HMDが接続されたコンピュータによって、ストレージに記録することと、
    前記三次元ビデオクリップをウェブサイト経由で共有する要求を、前記HMDが接続されたコンピュータによって、受信することと、
    前記三次元ビデオクリップを二次元フォーマットに変換することによって二次元ビデオクリップを、前記HMDが接続されたコンピュータによって、生成することと、
    前記三次元ビデオクリップと前記二次元ビデオクリップを、少なくとも一人の第2のユーザが視聴するために、前記HMDが接続されたコンピュータによって、前記ウェブサイトに供給することとを含み、
    前記二次元ビデオクリップを生成することは、前記三次元仮想空間との双方向性中に生じる前記第1のユーザの視線情報を分析して、前記二次元ビデオクリップのフレームに対して適用されるべき焦点深度、被写界深度、ズームのレベル、視聴方向、視界の1つまたは複数を決定することを含み、
    前記二次元ビデオクリップは、起動されると対応する前記三次元ビデオクリップが視聴可能であるサイトにユーザをリダイレクトする埋め込みリンクを含み、
    前記ウェブサイトは、クライアントデバイスが三次元レンダリングをサポートする場合に前記三次元ビデオクリップを前記クライアントデバイスに供給するように構成され、前記ウェブサイトはさらに、前記クライアントデバイスが三次元レンダリングをサポートしない場合に前記クライアントデバイスに前記二次元ビデオクリップを供給するように構成される、方法。
  10. 前記要求を受信することは、ユーザのアクティブ仮想現実セッションから規定される、請求項9に記載の方法。
  11. 前記要求を受信することは、前記ユーザの前記アクティブ仮想現実セッション中のコントローラデバイスのボタンの押し下げから規定される、請求項10に記載の方法。
  12. 前記二次元ビデオクリップを生成することは、前記三次元仮想空間との双方向性中に生じるアクティビティを分析して、前記二次元ビデオクリップのフレームに対して適用されるべき焦点深度、被写界深度、ズームのレベル、視聴方向、視界の1つまたは複数を決定することを含む、請求項9に記載の方法。
  13. ヘッドマウンテッドディスプレイ(HMD)にレンダリングされるビデオゲームの三次元ゲームプレイをソーシャルネットワークに共有する方法であって、
    第1のユーザによる前記HMDの双方向使用によって駆動される前記第1のユーザによるビデオゲームの三次元ゲームプレイから生成された三次元ビデオクリップを、HMDが接続されたコンピュータによって、ストレージに記録することと、
    前記三次元ビデオクリップをソーシャルネットワークに共有する要求を、前記HMDが接続されたコンピュータによって、受信することと、
    前記三次元ビデオクリップを二次元フォーマットに変換することによって二次元ビデオクリップを、前記HMDが接続されたコンピュータによって、生成することと、
    前記二次元ビデオクリップを、少なくとも一人の第2のユーザが視聴するために、前記HMDが接続されたコンピュータによって、前記ソーシャルネットワークに共有することとを含み、
    前記二次元ビデオクリップを生成することは、前記ビデオゲームの前記三次元ゲームプレイ中に生じる前記第1のユーザの視線情報を分析して、前記二次元ビデオクリップのフレームに対して適用されるべき焦点深度、被写界深度、ズームのレベル、視聴方向、視界の1つまたは複数を決定することを含
    前記二次元ビデオクリップは、起動されると対応する前記三次元ビデオクリップが視聴可能であるサイトにユーザをリダイレクトする埋め込みリンクを含む、方法。
  14. 前記ユーザの視線情報は、前記HMDによって生成された入力データから処理される、請求項13に記載の方法。
JP2018072119A 2013-06-07 2018-04-04 三次元ゲームプレイの共有 Active JP6708689B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US201361832765P 2013-06-07 2013-06-07
US61/832,765 2013-06-07
US14/220,420 2014-03-20
US14/220,420 US9452354B2 (en) 2013-06-07 2014-03-20 Sharing three-dimensional gameplay

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2016518056A Division JP6321150B2 (ja) 2013-06-07 2014-06-06 三次元ゲームプレイの共有

Publications (2)

Publication Number Publication Date
JP2018143777A JP2018143777A (ja) 2018-09-20
JP6708689B2 true JP6708689B2 (ja) 2020-06-10

Family

ID=52005911

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2016518056A Active JP6321150B2 (ja) 2013-06-07 2014-06-06 三次元ゲームプレイの共有
JP2018072119A Active JP6708689B2 (ja) 2013-06-07 2018-04-04 三次元ゲームプレイの共有

Family Applications Before (1)

Application Number Title Priority Date Filing Date
JP2016518056A Active JP6321150B2 (ja) 2013-06-07 2014-06-06 三次元ゲームプレイの共有

Country Status (5)

Country Link
US (4) US9452354B2 (ja)
EP (1) EP3003519B1 (ja)
JP (2) JP6321150B2 (ja)
CN (1) CN105358227B (ja)
WO (1) WO2014197876A2 (ja)

Families Citing this family (79)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2014008185A1 (en) * 2012-07-02 2014-01-09 Sony Computer Entertainment Inc. Methods and systems for interaction with an expanded information space
US20140009503A1 (en) * 2012-07-03 2014-01-09 Tourwrist, Inc. Systems and Methods for Tracking User Postures to Control Display of Panoramas
US9805479B2 (en) 2013-11-11 2017-10-31 Amazon Technologies, Inc. Session idle optimization for streaming server
US9596280B2 (en) 2013-11-11 2017-03-14 Amazon Technologies, Inc. Multiple stream content presentation
US9582904B2 (en) 2013-11-11 2017-02-28 Amazon Technologies, Inc. Image composition based on remote object data
US9641592B2 (en) 2013-11-11 2017-05-02 Amazon Technologies, Inc. Location of actor resources
US9634942B2 (en) * 2013-11-11 2017-04-25 Amazon Technologies, Inc. Adaptive scene complexity based on service quality
US9604139B2 (en) 2013-11-11 2017-03-28 Amazon Technologies, Inc. Service for generating graphics object data
US9811514B1 (en) * 2014-04-29 2017-11-07 Google Inc. Media object annotation with interactive elements
US9459454B1 (en) 2014-05-23 2016-10-04 Google Inc. Interactive social games on head-mountable devices
US11165596B2 (en) * 2014-11-04 2021-11-02 Tmrw Foundation Ip S. À R.L. System and method for inviting users to participate in activities based on interactive recordings
JP2016158795A (ja) * 2015-02-27 2016-09-05 株式会社ソニー・インタラクティブエンタテインメント 表示制御プログラム、表示制御装置、及び表示制御方法
WO2016176309A1 (en) * 2015-04-30 2016-11-03 Google Inc. Virtual eyeglass set for viewing actual scene that corrects for different location of lenses than eyes
JP2018524134A (ja) * 2015-06-14 2018-08-30 株式会社ソニー・インタラクティブエンタテインメント Vr観戦のための拡大された視野再レンダリング
US10713501B2 (en) * 2015-08-13 2020-07-14 Ford Global Technologies, Llc Focus system to enhance vehicle vision performance
JP6470843B2 (ja) * 2015-09-15 2019-02-13 株式会社カプコン ゲームシステム、ゲームシステムの制御方法、及び不揮発性記録媒体
US11420114B2 (en) * 2015-09-30 2022-08-23 Sony Interactive Entertainment LLC Systems and methods for enabling time-shifted coaching for cloud gaming systems
JP6098691B1 (ja) * 2015-10-16 2017-03-22 株式会社セガゲームス 映像生成システム、制御装置および加工装置
US9473758B1 (en) * 2015-12-06 2016-10-18 Sliver VR Technologies, Inc. Methods and systems for game video recording and virtual reality replay
US10229540B2 (en) * 2015-12-22 2019-03-12 Google Llc Adjusting video rendering rate of virtual reality content and processing of a stereoscopic image
CN106937135A (zh) * 2015-12-31 2017-07-07 幸福在线(北京)网络技术有限公司 一种游戏场景的实时播放方法及相关装置和***
US10112111B2 (en) * 2016-03-18 2018-10-30 Sony Interactive Entertainment Inc. Spectator view perspectives in VR environments
US11181990B2 (en) * 2016-03-18 2021-11-23 Sony Interactive Entertainment Inc. Spectator view tracking of virtual reality (VR) user in VR environments
CN105915766B (zh) * 2016-06-07 2018-11-09 腾讯科技(深圳)有限公司 基于虚拟现实的控制方法和装置
US9716825B1 (en) 2016-06-12 2017-07-25 Apple Inc. User interface for camera effects
WO2017218303A1 (en) * 2016-06-13 2017-12-21 Sony Interactive Entertainment LLC Game play companion application
WO2018002800A1 (en) * 2016-06-28 2018-01-04 Nokia Technologies Oy Method and apparatus for creating sub-content within a virtual reality content and sharing thereof
CN105959666A (zh) * 2016-06-30 2016-09-21 乐视控股(北京)有限公司 一种虚拟现实***中分享3d影像的方法和装置
CN106201259A (zh) * 2016-06-30 2016-12-07 乐视控股(北京)有限公司 一种虚拟现实***中分享全景影像的方法和装置
US10625156B2 (en) 2016-06-30 2020-04-21 Sony Interactive Entertainment LLC Method and system for sharing video game content
JP6714791B2 (ja) * 2016-07-13 2020-07-01 株式会社バンダイナムコエンターテインメント シミュレーションシステム及びプログラム
JP6694637B2 (ja) * 2016-08-30 2020-05-20 株式会社アルファコード 注目対象物に関する情報提供システムおよび情報提供方法
CN109891899B (zh) * 2016-10-25 2020-05-29 以太媒体公司 视频内容切换和同步***及用于在多种视频格式之间切换的方法
US11240567B2 (en) 2016-10-25 2022-02-01 Aether Media, Inc. Video content switching and synchronization system and method for switching between multiple video formats
JP6853013B2 (ja) * 2016-10-26 2021-03-31 グリー株式会社 情報処理システム、情報処理方法、および情報処理プログラム
US12020667B2 (en) 2016-12-05 2024-06-25 Case Western Reserve University Systems, methods, and media for displaying interactive augmented reality presentations
AU2017373858B2 (en) 2016-12-05 2022-09-29 Case Western Reserve University Systems, methods, and media for displaying interactive augmented reality presentations
JP6836379B2 (ja) * 2016-12-05 2021-03-03 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるプログラム
JP6392832B2 (ja) * 2016-12-06 2018-09-19 株式会社コロプラ 情報処理方法、装置、および当該情報処理方法をコンピュータに実行させるためのプログラム
US10123150B2 (en) 2017-01-31 2018-11-06 Microsoft Technology Licensing, Llc Game streaming with spatial audio
US11269580B2 (en) * 2017-02-13 2022-03-08 Comcast Cable Communications, Llc Guided collaborative viewing of navigable image content
JP7108389B2 (ja) * 2017-09-26 2022-07-28 株式会社コロプラ プログラム、情報処理装置、情報処理システム、および情報処理方法
KR102316327B1 (ko) * 2017-04-04 2021-10-22 엘지전자 주식회사 가상 공간의 캡쳐 방법 및 그 전자장치
US11494986B2 (en) 2017-04-20 2022-11-08 Samsung Electronics Co., Ltd. System and method for two dimensional application usage in three dimensional virtual reality environment
US10278001B2 (en) * 2017-05-12 2019-04-30 Microsoft Technology Licensing, Llc Multiple listener cloud render with enhanced instant replay
CN107158704A (zh) * 2017-05-14 2017-09-15 深圳游视虚拟现实技术有限公司 一种虚拟现实游戏***
DK180859B1 (en) 2017-06-04 2022-05-23 Apple Inc USER INTERFACE CAMERA EFFECTS
US10341537B2 (en) * 2017-09-29 2019-07-02 Sony Interactive Entertainment America Llc Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
WO2019151323A1 (ja) * 2018-02-05 2019-08-08 株式会社ソニー・インタラクティブエンタテインメント エンタテインメント装置、表示制御方法及び表示制御プログラム
CN110166764B (zh) 2018-02-14 2022-03-01 阿里巴巴集团控股有限公司 虚拟现实vr直播中的视角同步方法及装置
US20190259198A1 (en) * 2018-02-21 2019-08-22 Tsunami VR, Inc. Systems and methods for generating visual representations of a virtual object for display by user devices
GB2571306A (en) * 2018-02-23 2019-08-28 Sony Interactive Entertainment Europe Ltd Video recording and playback systems and methods
US10953322B2 (en) * 2018-02-28 2021-03-23 Sony Interactive Entertainment LLC Scaled VR engagement and views in an e-sports event
US10695667B2 (en) 2018-03-14 2020-06-30 Sony Interactive Entertainment LLC Pro gaming AR visor and method for parsing context specific HUD content from a video stream
JP6434667B1 (ja) * 2018-04-19 2018-12-05 株式会社 ディー・エヌ・エー 仮想空間を提供するためのプログラム、システム、及び方法
US11722764B2 (en) 2018-05-07 2023-08-08 Apple Inc. Creative camera
DK201870623A1 (en) 2018-09-11 2020-04-15 Apple Inc. USER INTERFACES FOR SIMULATED DEPTH EFFECTS
US11770601B2 (en) 2019-05-06 2023-09-26 Apple Inc. User interfaces for capturing and managing visual media
US11850508B2 (en) * 2018-09-28 2023-12-26 Osirius Group, Llc System for simulating an output in a virtual reality environment
US11321857B2 (en) 2018-09-28 2022-05-03 Apple Inc. Displaying and editing images with depth information
US11128792B2 (en) 2018-09-28 2021-09-21 Apple Inc. Capturing and displaying images with multiple focal planes
KR102212508B1 (ko) * 2019-01-22 2021-02-04 (주)스코넥엔터테인먼트 가상 환경 제어 시스템
US11706521B2 (en) 2019-05-06 2023-07-18 Apple Inc. User interfaces for capturing and managing visual media
US11287947B2 (en) 2019-05-15 2022-03-29 Microsoft Technology Licensing, Llc Contextual input in a three-dimensional environment
US11164395B2 (en) 2019-05-15 2021-11-02 Microsoft Technology Licensing, Llc Structure switching in a three-dimensional environment
US11048376B2 (en) * 2019-05-15 2021-06-29 Microsoft Technology Licensing, Llc Text editing system for 3D environment
CN110749994A (zh) * 2019-10-25 2020-02-04 江苏荣策士科技发展有限公司 一种穿透式hmd眼镜
US11154773B2 (en) * 2019-10-31 2021-10-26 Nvidia Corpration Game event recognition
US11673061B2 (en) 2020-01-17 2023-06-13 Nvidia Corporation Extensible dictionary for game events
US11170471B2 (en) 2020-01-20 2021-11-09 Nvidia Corporation Resolution upscaling for event detection
US11445246B1 (en) 2020-03-30 2022-09-13 Twitch Interactive, Inc. Activity-based selection of replacement content
US11838562B1 (en) * 2020-03-30 2023-12-05 Twitch Interactive, Inc. Activity-based streaming video replacement
US11039074B1 (en) 2020-06-01 2021-06-15 Apple Inc. User interfaces for managing media
US11517826B2 (en) 2020-06-10 2022-12-06 Snap Inc. Game result overlay system
US20220124385A1 (en) * 2020-10-21 2022-04-21 Allstar Gaming, Inc. Systems and methods for generating digital video content from non-video content
US11539876B2 (en) * 2021-04-30 2022-12-27 Apple Inc. User interfaces for altering visual media
US11778339B2 (en) * 2021-04-30 2023-10-03 Apple Inc. User interfaces for altering visual media
CN113852767B (zh) * 2021-09-23 2024-02-13 北京字跳网络技术有限公司 视频编辑方法、装置、设备及介质
US20240115942A1 (en) * 2022-10-11 2024-04-11 Sony Interactive Entertainment Inc. Customizable virtual reality scenes using eye tracking

Family Cites Families (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10334274A (ja) * 1997-05-29 1998-12-18 Canon Inc 仮想現実方法及び装置並びに記憶媒体
JP2004056335A (ja) * 2002-07-18 2004-02-19 Sony Corp 情報処理装置および方法、表示装置および方法、並びにプログラム
US7623726B1 (en) 2005-11-30 2009-11-24 Adobe Systems, Incorporated Method and apparatus for using a virtual camera to dynamically refocus a digital image
JP5051242B2 (ja) * 2007-01-29 2012-10-17 ソニー オンライン エンタテインメント エルエルシー ゲームイベントに基づく、ブログ、ウェブページ又はファイル共有サイトのための自動エントリ作成のためのシステム及び方法
US20080268961A1 (en) 2007-04-30 2008-10-30 Michael Brook Method of creating video in a virtual world and method of distributing and using same
CN101981589B (zh) * 2008-01-25 2015-07-22 索尼电脑娱乐美国有限责任公司 用于创建、编辑和共享与视频游戏事件有关的视频内容的***和方法
US20090199275A1 (en) * 2008-02-06 2009-08-06 David Brock Web-browser based three-dimensional media aggregation social networking application
JP5436794B2 (ja) * 2008-04-04 2014-03-05 株式会社バンダイナムコゲームス ゲーム動画配信システム
JP5199053B2 (ja) 2008-12-16 2013-05-15 株式会社スクウェア・エニックス ゲーム装置、ゲームのリプレイ表示方法、ゲームプログラム及び記録媒体
US20110225515A1 (en) * 2010-03-10 2011-09-15 Oddmobb, Inc. Sharing emotional reactions to social media
US20110244954A1 (en) * 2010-03-10 2011-10-06 Oddmobb, Inc. Online social media game
US20110239136A1 (en) * 2010-03-10 2011-09-29 Oddmobb, Inc. Instantiating widgets into a virtual social venue
US20110225519A1 (en) * 2010-03-10 2011-09-15 Oddmobb, Inc. Social media platform for simulating a live experience
CN102736728A (zh) * 2011-04-11 2012-10-17 宏碁股份有限公司 三维立体虚拟物体的操控方法、操控***及处理装置
US8657680B2 (en) 2011-05-31 2014-02-25 United Video Properties, Inc. Systems and methods for transmitting media associated with a measure of quality based on level of game play in an interactive video gaming environment
JP5878006B2 (ja) * 2011-11-24 2016-03-08 株式会社Nttドコモ 移動通信端末及び移動通信方法
CN102915553B (zh) * 2012-09-12 2016-02-10 珠海金山网络游戏科技有限公司 一种3d游戏视频拍摄***及其方法

Also Published As

Publication number Publication date
US10843088B2 (en) 2020-11-24
EP3003519A2 (en) 2016-04-13
WO2014197876A3 (en) 2015-01-29
WO2014197876A2 (en) 2014-12-11
US20140364228A1 (en) 2014-12-11
JP2018143777A (ja) 2018-09-20
CN105358227A (zh) 2016-02-24
EP3003519B1 (en) 2019-11-20
CN105358227B (zh) 2019-11-12
US20180133604A1 (en) 2018-05-17
US9452354B2 (en) 2016-09-27
US20170014722A1 (en) 2017-01-19
US10150042B2 (en) 2018-12-11
US20190111347A1 (en) 2019-04-18
US9855504B2 (en) 2018-01-02
JP2016526957A (ja) 2016-09-08
JP6321150B2 (ja) 2018-05-09

Similar Documents

Publication Publication Date Title
JP6708689B2 (ja) 三次元ゲームプレイの共有
US11389726B2 (en) Second screen virtual window into VR environment
JP7132280B2 (ja) Vr観戦のための拡大された視野再レンダリング
US11079999B2 (en) Display screen front panel of HMD for viewing by users viewing the HMD player
JP6679747B2 (ja) 仮想現実(vr)ユーザインタラクティブ性に関連付けられた仮想現実環境の観戦
JP6663505B2 (ja) Vr環境における観客ビュー視点
US10286299B2 (en) Transitioning gameplay on a head-mounted display
US10388071B2 (en) Virtual reality (VR) cadence profile adjustments for navigating VR users in VR environments
US10445925B2 (en) Using a portable device and a head-mounted display to view a shared virtual reality space
US10543425B2 (en) Systems and methods for detecting and displaying a boundary associated with player movement
JP7249975B2 (ja) 位置に基づくゲームプレイコンパニオンアプリケーションへユーザの注目を向ける方法及びシステム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180423

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20190425

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20190514

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20190716

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190821

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20191029

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200129

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20200206

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20200421

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200521

R150 Certificate of patent or registration of utility model

Ref document number: 6708689

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250