JP6976424B2 - 実世界会場で開催されたライブイベントで見せられるインタラクティブなゲーム世界の観客ビュー - Google Patents

実世界会場で開催されたライブイベントで見せられるインタラクティブなゲーム世界の観客ビュー Download PDF

Info

Publication number
JP6976424B2
JP6976424B2 JP2020517884A JP2020517884A JP6976424B2 JP 6976424 B2 JP6976424 B2 JP 6976424B2 JP 2020517884 A JP2020517884 A JP 2020517884A JP 2020517884 A JP2020517884 A JP 2020517884A JP 6976424 B2 JP6976424 B2 JP 6976424B2
Authority
JP
Japan
Prior art keywords
view
remote user
live
world
spectator
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020517884A
Other languages
English (en)
Other versions
JP2020534952A (ja
Inventor
サーカー バスワー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment LLC
Original Assignee
Sony Interactive Entertainment LLC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment LLC filed Critical Sony Interactive Entertainment LLC
Publication of JP2020534952A publication Critical patent/JP2020534952A/ja
Application granted granted Critical
Publication of JP6976424B2 publication Critical patent/JP6976424B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/2224Studio circuitry; Studio devices; Studio equipment related to virtual studio applications
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/60Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor
    • A63F13/65Generating or modifying game content before or while executing the game program, e.g. authoring tools specially adapted for game development or game-integrated level editor automatically by game devices or servers from real world data, e.g. measurement in live racing competition
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/211Input arrangements for video game devices characterised by their sensors, purposes or types using inertial sensors, e.g. accelerometers or gyroscopes
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/213Input arrangements for video game devices characterised by their sensors, purposes or types comprising photodetecting means, e.g. cameras, photodiodes or infrared cells
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/20Input arrangements for video game devices
    • A63F13/21Input arrangements for video game devices characterised by their sensors, purposes or types
    • A63F13/215Input arrangements for video game devices characterised by their sensors, purposes or types comprising means for detecting acoustic signals, e.g. using a microphone
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/25Output arrangements for video game devices
    • A63F13/27Output arrangements for video game devices characterised by a large display in a public venue, e.g. in a movie theatre, stadium or game arena
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/31Communication aspects specific to video games, e.g. between several handheld game devices at close range
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/33Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers using wide area network [WAN] connections
    • A63F13/335Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers using wide area network [WAN] connections using Internet
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/30Interconnection arrangements between game servers and game devices; Interconnection arrangements between game devices; Interconnection arrangements between game servers
    • A63F13/35Details of game servers
    • A63F13/355Performing operations on behalf of clients with restricted processing capabilities, e.g. servers transform changing game scene into an encoded video stream for transmitting to a mobile phone or a thin client
    • AHUMAN NECESSITIES
    • A63SPORTS; GAMES; AMUSEMENTS
    • A63FCARD, BOARD, OR ROULETTE GAMES; INDOOR GAMES USING SMALL MOVING PLAYING BODIES; VIDEO GAMES; GAMES NOT OTHERWISE PROVIDED FOR
    • A63F13/00Video games, i.e. games using an electronically generated display having two or more dimensions
    • A63F13/85Providing additional services to players
    • A63F13/86Watching games played by other players
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/275Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals
    • H04N13/279Image signal generators from 3D object models, e.g. computer-generated stereoscopic image signals the virtual viewpoint locations being selected by the viewers or determined by tracking
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/20Image signal generators
    • H04N13/282Image signal generators for generating image signals corresponding to three or more geometrical viewpoints, e.g. multi-view systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/332Displays for viewing with the aid of special glasses or head-mounted displays [HMD]
    • H04N13/344Displays for viewing with the aid of special glasses or head-mounted displays [HMD] with head-mounted left-right displays
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/30Image reproducers
    • H04N13/366Image reproducers using viewer tracking
    • H04N13/383Image reproducers using viewer tracking for tracking with gaze detection, i.e. detecting the lines of sight of the viewer's eyes
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/21805Source of audio or video content, e.g. local disk arrays enabling multiple viewpoints, e.g. using a plurality of cameras
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/21Server components or server architectures
    • H04N21/218Source of audio or video content, e.g. local disk arrays
    • H04N21/2187Live feed
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/47End-user applications
    • H04N21/472End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/80Generation or processing of content or additional data by content creator independently of the distribution process; Content per se
    • H04N21/81Monomedia components thereof
    • H04N21/816Monomedia components thereof involving special video data, e.g 3D video
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/272Means for inserting a foreground image in a background image, i.e. inlay, outlay
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N13/00Stereoscopic video systems; Multi-view video systems; Details thereof
    • H04N13/10Processing, recording or transmission of stereoscopic or multi-view image signals
    • H04N13/106Processing image signals
    • H04N13/111Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation
    • H04N13/117Transformation of image signals corresponding to virtual viewpoints, e.g. spatial image interpolation the virtual viewpoint locations being selected by the viewers or determined by viewer tracking

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Human Computer Interaction (AREA)
  • Databases & Information Systems (AREA)
  • User Interface Of Digital Computer (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Processing Or Creating Images (AREA)

Description

ビデオゲーム及びビデオゲームの関連産業(例えばビデオゲーミング)は、世界のエンターテイメント市場で大きな割合を占めており、近い将来、ビデオゲームの世界的な収入は、映画業界の収入を超えると予測されている。ビデオゲームをプレイしながら成長した子供たちは、今、ビデオゲームエンターテイメントの世界においてそのエンターテイメントのお金の消費先を左右する成人(若者及び老人)となっている。
ビデオゲームは、ゲーム機、デスクトップコンピュータ、ラップトップコンピュータ及び携帯電話等を含む、様々な種類のプラットフォームを用いて、いつでもどこでもプレイされる。ビデオゲームは、かつては少数の子供や若者を対象としたニッチな市場であったが、様々な世代で人気が上昇し、時代を経て大衆文化の重要な部分になった。
ビデオゲームの新しい夜明けが、競技ビデオゲームまたはプロフェッショナルビデオゲームとしても言われ、知られている、eスポーツの形で出現している。eスポーツの世界では、プロのゲーマーが、アリーナに集まって、典型的には、ローカルエリアネットワークまたはインターネットを通じて支援されるマルチプレイヤオンラインゲーム(MOG)形式でビデオゲームをプレイする。個人または個人から成るチームが、eスポーツアリーナでライブの聴衆の前においてライブで戦い、放送チームが、MOG内のアクションの実況放送をしながら、エネルギーと興奮を吹き込む。ビデオ制作チームは、舞台裏で必死に働いて、アリーナサイズのビデオディスプレイパネル上にMOGのゲーム環境のビューを投影し、その結果、聴衆は、プロのビデオゲーマーが見て体験するように、MOG内のアクションを見ることができる。また、聴衆もしくはプロのゲーマーに焦点を当てた実況カメラが、ビデオ制作チームが指示するように、アリーナのビデオディスプレイパネル上に投影されて、聴衆をさらに興奮させてもよい。ライブの聴衆は、従来のプロスポーツイベント(例えば、バスケットボール、野球、フットボール、ボクシング、総合格闘技等)に行く聴衆とあまり違わずに、ライブイベントに参加する。
さらに、ビデオ制作チームによって生成されるビデオディスプレイパネル上に提示されるビューは、放送、インターネット、モバイル等の任意のネットワークを介してより広い視聴者にライブストリーミングされ得る。ライブの聴衆は、何万の(3万を超える)数となり得るが、ストリーミングの聴衆は、何千万の(例えば、3千万を超える)数となり得る。9千万を超えるカジュアルゲーマーーを有するビデオゲームに関しては、そのビデオゲームにフィーチャーした世界選手権は、ライブ形式と、イベント後の視聴との両方で何百万ものストリーミング視聴者を引き付ける。eスポーツイベントの人気を分かってもらうには、2016年に開催された世界選手権は、約4万人のライブの聴衆を動員し、ライブストリーミングの視聴者は、2千5百万人を超えた。プロのゲーマーのゲームプレイは、ライブイベント終了後でさえ、引き続き視聴された。
eスポーツを支援する様々な技術が、最高の視聴体験をライブ及びリモートの視聴者に与えるために開発されている。
本開示の実施形態は、このような背景の下になされたものである。
本開示の実施形態は、ゲームアプリケーションをプレイする1人または複数のユーザの1つまたは複数のゲームプレイに関連して、ゲーム世界の1つまたは複数の観客ビューを提供するシステム及び方法に関する。本開示の幾つかの発明の実施形態を以下に記載する。
一実施形態においては、ライブイベントへの参加を可能にする方法を記載する。方法は、サーバでのゲームアプリケーションの実行を通じて、複数のプレイヤによって制御されるマルチプレイヤゲームセッションを確立することを含み、マルチプレイヤゲームセッションは、プレイヤがゲーム世界の中に参加できるインタラクティブなゲーム世界を生成し、ライブイベントは、複数のプレイヤが存在する実世界の会場である。この方法は、1つまたは複数の撮影されたビデオストリームに基づいて、実世界の会場の三次元(3D)ライブビューをサーバで生成することを含み、3Dライブビューは、ライブイベントの物理的視点(POV)に対して生成され、物理的POVは、実世界の会場の物理的位置に固定される。この方法では、サーバから第1のリモートユーザのHMDにネットワークを介して3Dライブビューをストリーミングがなされ、第1のリモートユーザは、実世界の会場の外におり、3Dライブビューは、ヘッドマウントディスプレイ(HMD)を通じて第1のリモートユーザにライブイベントの拡張現実ビューを提示される。この方法は、インタラクティブなゲーム世界の仮想位置によって規定された第1の仮想POVからインタラクティブなゲーム世界の観客としてゲームセッションに飛び込む要求を、第1のリモートユーザからサーバで受信する。この方法では、第1の仮想POVに関連付けられた第1の観客ビューをサーバが生成することを含む。この方法では、第1のリモートユーザのHMDに表示するためにネットワークを介して第1の観客ビューを配信し、第1の観客ビューは、HMDを通じて第1のリモートユーザにインタラクティブなゲーム世界の仮想現実ビューを提示する。
他の実施形態においては、ライブイベントの参加を可能にするコンピュータプログラムを記憶する非一時的コンピュータ可読媒体を記載する。コンピュータ可読媒体は、ゲームアプリケーションの実行を通じて複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立するプログラム命令を含み、マルチプレイヤゲームセッションは、プレイヤがゲーム世界の中に参加できるインタラクティブなゲーム世界を生成し、ライブイベントは、複数のプレイヤが存在する実世界の会場である。コンピュータ可読媒体は、1つまたは複数の撮影されたビデオストリームに基づいて、実世界の会場の三次元(3D)ライブビューを生成するプログラム命令を含み、3Dライブビューは、ライブイベントの物理的視点(POV)に対して生成され、物理的POVは、実世界の会場の物理的位置に固定される。
コンピュータ可読媒体は、サーバから第1のリモートユーザのHMDにネットワークを介して3Dライブビューをストリーミングするプログラム命令を含み、第1のリモートユーザは、実世界の会場の外におり、3Dライブビューは、ヘッドマウントディスプレイ(HMD)を通じて第1のリモートユーザにライブイベントの拡張現実ビューを提示する。コンピュータ可読媒体は、インタラクティブなゲーム世界の仮想位置によって規定された第1の仮想POVからインタラクティブなゲーム世界の観客としてゲームセッションに飛び込む要求を、第1のリモートユーザからサーバで受信するプログラム命令を含む。
コンピュータ可読媒体は、第1の仮想POVに関連付けられた第1の観客ビューをサーバが生成するプログラム命令を含む。コンピュータ可読媒体は、第1のリモートユーザのHMDに表示するために、ネットワークを介して第1の観客ビューを配信するプログラム命令を含み、第1の観客ビューは、HMDを通じてインタラクティブなゲーム世界の仮想現実ビューを第1のリモートユーザに提示する。
さらに他の実施形態においては、コンピュータシステムが記載され、コンピュータシステムは、プロセッサと、プロセッサに結合され、命令を記憶したメモリとを含み、命令は、コンピュータシステムによって実行されると、ライブイベントへの参加を可能にする方法をコンピュータシステムに実行させる。この方法では、ゲームアプリケーションの実行を通じて複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立し、マルチプレイヤゲームセッションは、プレイヤがゲーム世界の中に参加できるインタラクティブなゲーム世界を生成し、ライブイベントは、複数のプレイヤが存在する実世界の会場である。
この方法では、1つまたは複数の撮影されたビデオストリームに基づいて、実世界の会場の三次元(3D)ライブビューをサーバで生成し、3Dライブビューは、ライブイベントの物理的視点(POV)に対して生成され、物理的POVは、実世界の会場の物理的位置に固定される。この方法では、サーバから第1のリモートユーザのHMDにネットワークを介して3Dライブビューをストリーミングすることを含み、第1のリモートユーザは、実世界の会場の外におり、3Dライブビューは、ヘッドマウントディスプレイ(HMD)を通じて第1のリモートユーザにライブイベントの拡張現実ビューを提示する。この方法では、インタラクティブなゲーム世界の仮想位置によって規定された第1の仮想POVからインタラクティブなゲーム世界の観客として、ゲームセッションに飛び込む要求を第1のリモートユーザからサーバで受信することを含む。
この方法は、第1の仮想POVに関連付けられた第1の観客ビューをサーバが生成することを含む。この方法は、第1のリモートユーザのHMDに表示するためにネットワークを介して第1の観客ビューを配信することを含み、第1の観客ビューは、HMDを通じて第1のリモートユーザにインタラクティブなゲーム世界の仮想現実ビューを提示する。
本開示の他の態様は、例を挙げて本開示の趣旨を説明した以下の詳細な記載と添付の図面とを参照して明らかとされる。
本開示は、添付の図面と共に以下の記載を参照することによって最もよく理解できる。
本開示の一実施形態による、ライブのビデオゲーム競技を見せる電子スポーツ(eスポーツ)アリーナを示す図である。 本開示の一実施形態による、ビデオ及び音声データ収集装置の位置を含むeスポーツアリーナの平面図である。 本開示の一実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)等、VRコンテンツとのインタラクティブ体験を提供するように構成されたシステムを示す図である。 本発明の実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)等、VRコンテンツの表示と共に、HMDの機能を概念的に示す図である。 本開示の一実施形態による、図1Bで紹介されたeスポーツアリーナの平面図であり、eスポーツアリーナの2つの座席から生成された2つの視点(POV)を含む。 本開示の一実施形態による、eスポーツアリーナの後部座席から生成されたPOVを示す図である。 本開示の一実施形態による、eスポーツアリーナの前列のVIP席から生成されたPOVを示す図である。 本開示の一実施形態による、選択された座席の視点から撮影されたeスポーツライブイベントのプレビューを生成するために、eスポーツアリーナの1つまたは複数の座席を一度に一席選択する選択プロセスを示す図である。 本開示の一実施形態による、eスポーツアリーナの座席マップに関して示されるeスポーツアリーナの前列のVIP席から生成された図3Cで紹介されたPOVのプレビューを示す図である。 本開示の一実施形態による、eスポーツアリーナの座席マップに関して示されるeスポーツアリーナの後部座席から生成された図3Bで紹介されたPOVのプレビューを示す図である。 本開示の一実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)に参加し、eスポーツアリーナの物理的座席の1つに仮想で座っているリモートユーザU1のPOVを示す図で、リモートユーザが左を見ると、リモートユーザU1のPOVは、ライブ参加者(LP)の聴衆のビューを含む。 本開示の一実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)に参加し、eスポーツアリーナの物理的座席の1つに仮想で座っているリモートユーザU1のPOVを示す図で、リモートユーザが左を見ると、リモートユーザU1のPOVは、仮想参加者としてライブイベントに参加するリモートユーザ観客U2(例えば、リモートユーザU2は仮想の聴衆である)のビューを含む。 本開示の一実施形態による、アリーナ席に置かれた個人用座席パックと、eスポーツイベントを生で見ている関連付けられたライブ参加者に関するデータを収集するように構成された個人用機器ボードとを示す図である。 本開示の様々な実施形態の態様を行うために使用できるデバイスの例の構成要素を示す。 本開示の一実施形態による、図7Aで紹介されたリモート観客マネージャ750の構成要素を示す図で、生成部750は、ライブイベントの仮想体験をリモートユーザに提供するように構成される。 本開示の一実施形態による、SONY Computer Entertainment社発行のゴッド・オブ・ウォーのゲームアプリケーションの1つまたは複数のゲームプレイ内で、ゼウスの息子クレイトスと敵の戦闘員との間の戦いが生成されているゲーム世界を示す図である。 本開示の一実施形態による、リモートユーザがインタラクションするためのインタフェースの図で、インタフェースは、リモートユーザが選択可能な、ゲーム世界の1つまたは複数の観客ビューのウィンドウを含む。 本開示の一実施形態による、ゲーム世界内の所与の位置に対して生成される観客者視点のスケール合わせを示す図である。 本開示の一実施形態による、ゲーム世界内で2つの観客アバタ間のインタラクションの図で、2人のリモートユーザに対応する観客アバタが近接していると、2人のリモートユーザ間に通信チャネルが確立される。 本開示の一実施形態による、ライブイベント(例えば、eスポーツイベント)のリモートユーザによる観戦の方法を示すフロー図である。 開示の実施形態による、ヘッドマウントディスプレイの構成要素を示す図である。 開示の様々な実施形態による、ゲームシステムのブロック図である。
以下の詳細な記載は、説明のために多くの具体的な詳細を含むが、当業者であれば、以下の詳細に対する多くの変形及び修正は本開示の範囲内にあることが理解されよう。従って、以下に記載の本開示の態様は、この記載に続く請求項に対して一般性を失うことなく、制限を課すことなく、記載される。
一般的に、本開示の様々な実施形態は、本開示の実施形態による、リモートユーザが仮想の聴衆として、ライブイベント(例えば、競技ビデオゲームを含むライブeスポーツイベント)に参加する方法及びシステムを記載する。実世界の会場の選択された座席から取得されたPOVに対して仮想で生成されたeスポーツイベントのライブビューを提示することを含む、実世界の会場(例えば、eスポーツアリーナ)内の完全に没入型の体験をリモートユーザに与える様々な技術を記載する。
プレビューモードにおいて、リモートユーザは、eスポーツアリーナの1つまたは複数の選択された座席からPOVをプレビューすることができ、プレビューは、eスポーツイベントのライブビュー、または、eスポーツアリーナで開催された以前のイベントの一般的ビューを含む。eスポーツイベントの拡張現実ビューが、提示されてもよく、拡張ビューは、実世界の会場の選択された座席から取得されたPOVに対して仮想で生成され、デジタルデータで拡張されたeスポーツイベントのライブビューを含む(例えば、別の仮想の聴衆としてユーザの友達のデジタル化表現を挿入する)。
さらに、仮想の聴衆としてライブeスポーツイベントに参加するリモートユーザは、イベントのゲーム世界の1つまたは複数の飛び込みビュー(Jump in view:ジャンプインビュー)にアクセスしてもよい。例えば、eスポーツイベントは、個人またはチームで配置された複数のプロのゲーマー間のビデオゲーム競技を含んでよく、ゲーマーは、互いに同時にビデオゲームをプレイしている。リモートユーザは、ライブイベントを視聴者として視聴していてよく、仮想化されたPOVが、視聴者が実世界会場のどの座席を選択するかに基づいて、リモートユーザに対して生成される。完全に没入型のビューのためには、リモートユーザは、eスポーツライブイベントのプロのゲーマーによってプレイされているビデオゲームのゲーム世界内の観客ビューまたは飛び込みビューを提示され得る。
すなわち、eスポーツイベントのライブビュー及び/または拡張現実ビューを見るのではなく、リモートユーザは、任意の位置でゲーム世界に飛び込んで、アクションを見てもよい。この飛び込みビューは、必ずしも、プロのゲーマーの1人のPOVから生成される必要はなく、鳥瞰図、プロのゲーマーの1人がプレイしているキャラクタの側から生成された側面図等、リモートユーザが選択可能な位置から生成されたPOVを含んでもよい。このように、リモートユーザは、2人以上のプロのゲーマー間のアクションの中心にあり得るアクションへのクローズアップを提供するビューを選択し得る。
様々な実施形態の上記一般的な理解と共に、実施形態の詳細な例を様々な図面を参照して記載する。明瞭且つ簡潔にするために、ライブeスポーツのビデオゲームイベントに仮想で参加するリモートユーザの没入型体験を支援する様々な技術に関して本発明の実施形態を記載する。しかしながら、VRコンテンツは、現実のイベント及び/または仮想のイベントを含む、任意の種類のイベントに対して生成され得ることを理解されたい。
図1Aは、本開示の一実施形態による、実世界の会場の例として、ビデオゲーム競技等のライブeスポーツイベントを見せる電子スポーツ(eスポーツ)アリーナ100を示す。ライブeスポーツイベントは、互いに競い合う複数のプロのゲーマーが同時にプレイしているビデオゲームに基づいてもよい。前述のように、ライブeスポーツイベントは、それぞれ、ゲーム世界でビデオゲームをプレイしているプロのゲーマーと、ゲーム世界のアクションを追って聴衆(例えば、ライブ参加者、リモート参加者、及び/または、仮想参加者)に推進する1人または複数の放送者またはアナウンサと、ライブの聴衆とを含むように制作され得る。
例えば、eスポーツアリーナ100は、アリーナ席140を含み、ライブの聴衆は、アリーナ席140内に座ってよく、ライブの聴衆としてライブイベントに参加してもよい。図1Aに示すように、アリーナ席140は、ライブの聴衆でいっぱいである。さらに記載するように、リモートユーザもアリーナ席140内に座る仮想の聴衆としてライブイベントに参加してもよい。
アリーナ席140は、ステージ190の正面191を向いている。ステージは、プロのゲーマーの第1のチーム171を含む第1の演壇を含む。ステージは、プロのゲーマーの第2のチーム172を含む第2の演壇も含む。図に示すように、各チームは、3人のチームメンバを含む。各チームメンバは、マルチプレイヤビデオゲーム(例えば、MOB)を同時にプレイしている。説明のためだけに、ビデオゲームは、オートバイレースゲームであり、プロのゲーマーはそれぞれ、ビデオゲーム内のコースを走るオートバイレーサである。チームメンバは、全体として勝利するために互いに助け合ってもよい。例えば、全体として最高の最終結果を達成したチームがイベントに勝利する。
1つまたは複数のアリーナサイズのディスプレイ及び/またはモニタが、ステージ190にまたはステージ190の近くに存在する。ディスプレイに表示されるコンテンツは、eスポーツアリーナ内、及び、ストリーミングの視聴者の両方へのライブeスポーツイベントの提示を指示する舞台裏のビデオ制作チームによって制作される。例えば、メインディスプレイ101は、その瞬間に特に関心があり得るゲーム世界のビューを示す。説明のために、メインディスプレイ101は、プロのゲーマーの1人のキャラクタの視点からオートバイレースの先導者を示してもよい。詳細には、メインディスプレイ101に示される視点を持つレーサの目の前に3人のレーサがいる。別の実施態様においては、メインディスプレイ101は、ゲーム世界のビューを提供し、そのビューは、プロのゲーマーのキャラクタのいずれとも一致しない場合があるが、代わりに、ゲーム世界内でプロのゲーマー間のアクションの最適なビューを提供する。
図に示すように、サイドディスプレイ107は、第2のチーム172の真上に配置され、第2のチーム172のゲーマーの1人のゲームプレイに関連付けられたビューを提示してもよい。例えば、オートバイレーサ180は、第2のチーム172のプロのゲーマー172aによって制御されているキャラクタであってよく、オートバイレーサ180の視点は、サイドディスプレイ107に示されている。詳細には、オートバイレーサ180の視点は、オートバイレーサ181の背中を含む、コース上のレーサ180の前の他のライダのビューを含み、レーサ181は、レースコースでオートバイレーサ180の前にいる。レーサ181は、第1のチーム171または第2のチーム172の対応可能なプロのゲーマーの1人によって制御され得る。
サイドディスプレイ105は、第1のチーム171の真上に配置され、第1のチーム171のゲーマーの1人のゲームプレイに関連付けられたビューを提示してもよい。さらに、サイドディスプレイ105及び107のいずれに提示される画像も、プロのゲーマーの1人のゲームプレイに制限されない追加のコンテンツを提供してもよい。例えば、サイドディスプレイ105は、SONY PlayStationが支援するeスポーツリーグ(例えば、PlayStation Plus League)を表すシンボル185の画像を含む。説明のために、第1のチーム171及び第2のチーム172のプロのゲーマーのオートバイレースゲームプレイを生成するビデオゲームは、eスポーツリーグによって推進される。
ステージは、イベントの間中、実況のアナウンスとエンターテイメントを提供する1人または複数の放送者160の位置を高くするタワー161も含む。放送者160は、eスポーツアリーナ内のライブイベントと、ストリーミングの視聴者、及び、仮想の聴衆を促進するにあたって、極めて重要な役割を果たす。例えば、プロのゲーマーの1人のゲームプレイ内でエキサイティングな瞬間が生じると、アナウンサは、メインディスプレイ101に提示されているように、アナウンスを通じてそのゲームプレイを強調してもよい。聴衆は、典型的に、放送者160によるアナウンスに好意的に反応する。
図1Bは、本開示の一実施形態による、図1Aで紹介したeスポーツアリーナ100の平面図100Bを示し、ビデオ及び音声データ収集装置の位置を含む。ステージ190の正面191は、アリーナ席140の正面に提示される。ステージ190は第1のチーム171が座っている第1の演壇と、第2のチーム172が座っている第2の演壇とを含む。ステージ190の近くの位置に、前述のようにサイドディスプレイ105が、チーム171の上に配置され、サイドディスプレイ107は、チーム172の上に配置される。メインディスプレイ101は、ステージ190の中心の位置に示される。さらに、ステージ190は、放送者160がいるタワー161を支持する。
複数のデータ収集装置が示されている。例えば、1つまたは複数の音声収集装置120(例えば、レコーダ)は、マップ100Bに示すように、eスポーツアリーナ100のあらゆる場所に置かれている。このようにして、プロのゲーマーからの音声が録音されてもよく、聴衆全体からの、または、個々の聴衆からの音声も録音され得る。すなわち、音声収集装置120は、所望の対象からの音を最もよく捕捉するように配置される。収集された音声は、聴衆への投射を大きくするために、スピーカ175に戻されてもよい。スピーカ175は、ディスプレイ101、105及び107に提示された画像と共に音声を提供する。さらに、収集された音声は、eスポーツイベントのライブビュー内で使用されてもよい。さらに、収集された音声を使用して、ライブeスポーツイベントの仮想ビュー、または、ライブeスポーツイベントの拡張ビューを支援してもよい。
さらに、1つまたは複数のビデオ収集装置130(例えば、ビデオカメラ)が、マップ100Bに示すように、eスポーツアリーナ100のあらゆる場所に配置される。このようにして、ライブeスポーツイベントからのビデオが記録されてもよい。これは、聴衆、個々の聴衆、チーム171及び172、チーム171及び172の個々のゲーマー、ステージ190、ステージ190の画面101、105及び107等の、広角ビューとクローズアップビューとを含んでもよい。
詳細には、ビデオ収集装置から記録した画像を使用して、eスポーツアリーナのどこの位置からでも(例えば、アリーナ席140の選択された座席から)提示されるように、ライブeスポーツイベントの仮想ビューを生成してもよい。ライブeスポーツイベントの仮想ビューは、1つまたは複数のビデオ収集装置130から取得されたビデオ記録からつなぎ合わされてもよい。
VIPセクション150に対して生成されたライブeスポーツイベントの仮想体験は、より没入型であることを意図しているので、追加のビデオ収集装置130が、VIPセクション150またはVIPセクション150の周囲の位置からの画像を記録するために割り当てられてもよい。このようにして、より詳細なPOVが、最少の数のビデオ収集装置130からつなぎ合わされたVIPセクション150の座席に割り当てられた1つまたは2つのビューではなく、多数のビデオ収集装置からのビデオに基づいて、VIPセクション150の各座席に対して生成されてもよい。
図2Aは、発明の実施形態による、ビデオゲーム競技等のライブeスポーツイベントにリモートで参加するシステムを示す。ヘッドマウントディスプレイ(HMD)102を装着しているユーザU1が示されている。HMD102は、眼鏡、ゴーグル、または、ヘルメットと同じように装着され、インタラクティブビデオゲームからのビデオゲーム、または、インタラクティブアプリケーションからの他のコンテンツをユーザ100に表示するように構成される。HMD102は、ユーザの眼のごく近くにディスプレイ機構を設けることによって、高度に没入型の体験をユーザに提供する。従って、HMD102は、ユーザの各眼に、ユーザの視界の大部分または全体さえ占める表示領域を提供することができる。
一実施形態においては、HMD102は、eスポーツイベントのライブビューを提示するように構成可能である。ライブビューは、実世界会場のサーバ235によって管理されるように、実世界会場100(例えば、eスポーツアリーナ)に配置された実世界の会場のデータ収集装置231から生成されてもよい。サーバ235は、会場にローカルであってもよく、または、会場とリモートであってもよい。完全なライブビューまたはライブに近いビューにおいては、ライブビューは、収集されたデータに最小限の修正で、または、全く修正無しに生成される。
すなわち、ライブに近いビューは、ライブに近いビューが実世界の会場内で収集されたビューを投影している以外は、ライブの従来のスポーツイベント(例えば、バスケットボール、野球、ボクシング、フットボール、テニス等)を、ネットワークを介して視聴するのとよく似ている。収集データは、HMDを用いて表示できるフォーマットで収集してもよく、または、HMD内に表示するようにフォーマットされてもよい。
他の実施形態においては、HMDによって提示されるビューは、アリーナ100の特定の位置からのライブビューを提示するように修正されたライブイベントのハイブリッド及び/または拡張現実ビューであり、デジタルデータまたは変換を用いて拡張されてもよい。すなわち、ハイブリッドビューは、アリーナ100のあらゆる場所にあるデータ(例えば、ビデオ)収集装置231(例えば、ビデオ収集、カメラ、音声レコーダ、スピーカ、温度モニタ、圧力モニタ等)から収集されたライブビューから生成される。ハイブリッドビューは、ライブビューからつぎ合わされてもよく、より従来的なビデオまたは画像をユーザU1に提示してもよい。すなわち、ハイブリッドビューは、仮想とはみなされなくてもよい。
ある実施形態においては、ハイブリッドビューは、データ収集装置231から収集されたライブビューから一部、生成された拡張現実ビューであってもよい。すなわち、拡張現実ビューは、前述のようにデータ収集装置から収集され、最小限、修正されたライブビューにデジタルコンテンツを挿入する。さらに他の実施形態においては、HMDによって提示されるハイブリッドビューは、データ収集装置231から収集されたライブビューから生成されたライブイベントの仮想ビューである。すなわち、仮想ビューは、ライブeスポーツイベントのデジタル表現である。
一実施形態においては、データ収集装置231及び実世界の会場のサーバ235から集められた情報は、ネットワーク110等を介して、バックエンドエンターテイメントサーバ250に伝えられる。一実施形態においては、エンターテイメントサーバは、様々な位置(例えば、アリーナ100の座席位置に対応するPOV)に対して、前述のように、ライブビュー及びハイブリッドビューを生成するように構成される。詳細には、エンターテイメントサーバは、eスポーツアリーナで行われているライブイベントのライブビューを生成するように構成された座席ライブビュー生成部260を含む。
ライブビュー生成部260は、複数のソースから収集されたデータ(例えば、音声及び/またはビデオ)をつなぎ合わせるステッチング技術等を用いて、アリーナ内の任意の位置に対してライブビューを生成してもよい。さらに、エンターテイメントサーバは、ライブeスポーツイベントのライブビューにデジタルコンテンツをオーバーレイするように構成された拡張現実ライブビュー生成部270を含む。例えば、ライブeスポーツイベントに仮想の聴衆として参加しているリモートユーザは、eスポーツライブイベントの拡張ライブビューを通じて見るように、隣の席に座っている別のリモートユーザ(例えば、ユーザU1のソーシャルネットワークの友達)のデジタルアバタ表現を見てもよい。また、エンターテイメントサーバは、アリーナ100の1つまたは複数の選択された席のPOVに関連してユーザU1が体験し得るライブビュー及び/またはハイブリッドビューのプレビューを提示するように構成された座席プレビュー生成部280を含む。
具体的には、ユーザU1がプレビューインタフェースをナビゲートして、アリーナ席140の座席を選択すると、その座席に対して生成されたライブビュー及び/またはハイブリッドビューのプレビューを示すオプションが与えられてもよい。ユーザU1は、同じインタフェースから所与の座席を選択してもよい。さらに、エンターテイメントサーバは、リモート参加者が視聴位置を変更する(例えば、実世界の会場の仮想または拡張表現で座席を変更する)時、実世界の会場のライブビュー及び/または拡張現実ビューの生成に使用される構成要素及び装置のマッピングスケジュールを変更するように構成された再マッピングモジュール281を含む。すなわち、視聴位置が変更されると、キャプチャ装置の異なるセットを使用して、ライブビュー、ハイブリッドビュー、及び/または、拡張ビューを生成してもよい。
例えば、実世界の会場内の第1の位置及び第2の位置のビューを生成する時、ビデオキャプチャ装置、音声キャプチャ装置、スピーカ等の異なるセットを用いてもよい。従って、再マッピングモジュール281は、特定の位置のビューを生成するために使用される適切なキャプチャ装置を決定するように構成され、適切なライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを生成する目的のための再マッピング中にこれらの装置を新しい位置に割り当てる。ある実施形態においては、エンターテイメントサーバ260及び実世界の会場のサーバ235で提供された機能及び特徴は、実世界の会場のサーバ(複数可)またはエンターテイメントサーバ(複数可)等、1つの位置で行われてもよい。
一実施形態においては、HMD102は、コンピュータ106に接続されてもよい。コンピュータ106への接続は、接続211を介して有線であってもよく、または、接続212を介して無線であってもよい。コンピュータ106は、ゲーム機、パーソナルコンピュータ、ラップトップ、タブレットコンピュータ、モバイルデバイス、セルラーフォン、タブレット、シンクライアント、セットトップボックス、メディアストリーミングデバイス等を含むが、これらに限らない、当分野で既知の任意の汎用または特定用途コンピュータであってもよい。従来の意味では、コンピュータ106は、ビデオゲームを実行するように、且つ、HMD102によるレンダリングのためにビデオゲームからビデオ及び音声を出力するように構成されてもよい。
ビデオゲームの実行は、MOG、または、多人数同時参加型オンラインゲーム(MMOG)等、1人または複数のユーザによってプレイされるビデオゲームを維持及び実行するために構成されたクラウドゲームネットワーク200によってさらに支援されてもよい。例えば、クラウドゲームネットワーク200は、ライブeスポーツイベント内でプレイされているビデオゲームを支援してもよい。ある実施形態においては、エンターテイメントサーバ260及びクラウドゲームネットワーク200で提供される機能及び特徴は、クラウドゲームネットワーク200またはエンターテイメントサーバ(複数可)260等、1つの位置で行われてもよい。
さらに、コンピュータ106は、リモートユーザU1に配信されるeスポーツライブイベントのライブビュー及び/またはハイブリッドビューを受信するように構成されてもよい。すなわち、コンピュータ106は、ビデオゲームを実行することに制限されず、HMD102によるレンダリングのためにVRコンテンツ(例えば、eスポーツライブイベントのライブビュー及び/またはハイブリッドビュー)を出力するインタラクティブアプリケーションを実行するように構成されてもよい。
ユーザ100は、ライブeスポーツイベントのライブビュー及び/またはハイブリッドビューに参加する時、コントローラ104を操作して、インタラクティブ体験を制御する入力を提供してもよい。例えば、コントローラを使用して、アリーナ席140内の座席を選択してもよく、または、選択された座席に対応するライブビュー及び/またはハイブリッドビューのプレビューを選択してもよい。さらに、コントローラ104を使用して、実行中のビデオゲームに入力を行ってもよい。さらに、カメラ108は、ユーザ100がいるインタラクティブ環境の画像を撮影するように構成されてもよい。
これらの撮影された画像を分析して、ユーザ100、HMD102、及び、コントローラ104の位置及び動きを決定してもよい。一実施形態においては、コントローラ104は、コントローラの位置及び向きを決定するために追跡できるライトまたは他のマーカ要素を含む。カメラ108は、インタラクティブ環境からの音を捕捉する1つまたは複数のマイクロフォンを含み得る。マイクロフォンアレイが捕捉した音を処理して、音源の位置を特定してもよい。特定された位置からの音は、選択的に利用または処理されて、特定された位置からではない他の音を除去してもよい。さらに、カメラ108は、複数の画像撮影装置(例えば、立体写真カメラ)、IRカメラ、デプスカメラ、及び、これらの組み合わせを含むように規定されてもよい。
他の実施形態においては、コンピュータ106は、エンターテイメントサーバ250とネットワークを介して通信するシンクライアントとして機能する。すなわち、サーバ250は、HMD102によって示されるライブビュー及び/またはハイブリッドビューを生成し、コンピュータ106は、HMD102、コントローラ104、及び、カメラ108からサーバ250に入力を送信する。ビデオデータ、音声データ、デジタルデータ等のエンターテイメントサーバからの出力は、コンピュータ106に送信される。コンピュータ106は、送信前にさらにデータを処理してもよく、または、関連デバイスにデータを直接送信してもよい。例えば、ビデオストリーム及び音声ストリームは、HMD102に提供され、触覚フィードバックデータは、振動フィードバックコマンドの生成に使用され、振動フィードバックコマンドが、コントローラ104に提供される。
より従来的な意味では、コンピュータ106は、クラウドゲームプロバイダ112とネットワーク110を介して通信するシンクライアントとして機能してもよい。クラウドゲームプロバイダ112は、ユーザU1によってプレイされているビデオゲームを維持及び実行する。コンピュータ106は、HMD102、コントローラ104、及び、カメラ108からの入力をクラウドゲームプロバイダに送信し、クラウドゲームプロバイダは、入力を処理して、実行中のビデオゲームのゲーム状態に影響を及ぼす。ビデオデータ、音声データ、及び、触覚フィードバックデータ等、実行中のビデオゲームからの出力は、コンピュータ106に送信される。コンピュータ106は、送信前にさらにデータを処理してもよい、または、関連デバイスにデータを直接、送信してもよい。例えば、ビデオストリーム及び音声ストリームは、HMD102に提供され、触覚フィードバックデータは、振動フィードバックコマンドの生成に使用され、振動フィードバックコマンドが、コントローラ104に提供される。
一実施形態においては、HMD102、コントローラ104、及び、カメラ108は、それ自体、ネットワークデバイスであってよく、ネットワーク110に接続して、エンターテイメントサーバ250及び/またはクラウドゲームプロバイダ112と通信する。例えば、コンピュータ106は、ビデオゲーム処理を行わず経路のネットワークトラフィックを促進するルータ等のローカルネットワークデバイスであってもよい。HMD102、コントローラ104、及び、カメラ(すなわち、画像撮影装置)108によるネットワークへの接続は、有線または無線であってもよい。クラウドゲームプロバイダ112は、入力を処理して、実行中のビデオゲームのゲーム状態に影響を及ぼす。ビデオデータ、音声データ、及び、触覚フィードバックデータ等、実行中のビデオゲームからの出力は、各デバイスへの前方送信のためにコンピュータ106に送信される。
他の実施形態においては、コンピュータ106は、ダウンロードされたビデオゲームを実行するように構成されてもよい。コンピュータ106は、クラウドゲームプロバイダ112と協働して、ビデオゲームを実行してもよい。例えば、ビデオゲームの実行は、クラウドゲームプロバイダ112で開始してよく、ビデオゲームがコンピュータ106に完全にダウンロードされると、コンピュータ106は、ビデオゲームを実行してよく、クラウドゲームプロバイダ112で中断した所からビデオゲームのゲームプレイを再開してもよい。HMD102、コントローラ104、及び、カメラ108からの入力は、コンピュータ106によって処理され、ビデオゲームのゲーム状態は、HMD102、コントローラ104、及び、カメラ108から受信した入力に応答して、調整される。
一実施形態においては、複数のライブイベントが、1人または複数のリモートユーザに利用可能であってもよい。例えば、ライブイベントは、実世界の会場100'で行われてもよい。実世界の会場100'は、会場100と同様の構成であり、実世界の会場のサーバ235'と、1つまたは複数のデータ収集装置231'とを含む。従って、リモートユーザU1は、1つのイベントから次のイベントへと次から次に移動することによって、複数のライブイベントに参加できてもよい。すなわち、リモートユーザU1は、実世界の会場100で行われているライブイベントのライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを会場の選択された座席から体験でき、その後、実世界の会場100'で行われている別のライブイベントに移動して、そのライブイベントの別の異なった体験をすることができる。例として、任意の日曜日に、複数のライブイベント(例えば、フットボール、サッカー等)が行われている場合があり、リモートユーザは、1つのライブイベントから他のライブイベントに次々に移動して、選択したイベントの異なるライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを体験してもよい。
さらに他の実施形態においては、リモートユーザU1は、記録されたイベントを体験してもよい。すなわち、リモートユーザは、上記と同じように、記録済みのイベントを視聴したい場合がある。このように、リモートユーザは、記録済みのイベントのライブ(以前に記録された、視聴者にとってライブの)ビュー、ハイブリッドビュー、及び/または、拡張現実ビューに依然としてアクセスし得る。データがキャプチャ及び記憶されているので、イベントが行われて、リモートユーザにストリーミングされた後、これらのビューは再生できる。
前述のように、リモートユーザは、実世界の会場の特定の位置(例えば、座席)を選択してよく、異なる位置に移動して、現在は記録されているイベントのビューを取得してもよい。他の実施形態においては、リモートユーザのグループが、記録セッションを通じて記録されたイベントを体験したい場合がある。すなわち、リモートユーザのグループは、異なる物理的位置にいる場合がある。記録セッションは、グループの全てのユーザにとって共通のタイムラインを用いて、記録されたイベントの新しいプレイを生成する。従って、ユーザのグループの各ユーザは、グループの他のユーザと時間的に一致した記録済みのイベントの自分達自身の(記録済みの、視聴者にとってはライブの)ライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを有してもよい。例えば、ユーザのグループは、仮想または拡張の現実空間で一緒に音楽コンサートを体験してもよい。そのようにして、ユーザのグループは、実世界の会場の仮想表現の1つのエリアの座席を選択してよく、記録されたイベントの自分たちのビュー内にグループの他のユーザの表現を見ることができてもよい。さらに、グループのユーザは、記録されたイベントを視聴しながら、実世界で会話を行う等、実世界で互いにインタラクトもできる。
図2Bは、発明の実施形態による、VRコンテンツの生成(例えば、ライブeスポーツイベント及び/またはビデオゲーム等のライブビュー及び/またはハイブリッドビューを生成するアプリケーションの実行)と関連してHMD102の機能を概念的に示す。ある実施態様においては、VRコンテンツエンジン220は、コンピュータ106(図示せず)を介してHMD102に通信可能に結合されたバックエンドエンターテイメントサーバ250で実行及び/または生成されている。ある実施形態においては、コンピュータ106は、VRコンテンツの一部を実行及び/または生成する。コンピュータは、HMDにローカル(例えば、ローカルエリアネットワークの一部)であってもよく、または、リモートに位置して(例えば、広域ネットワーク、クラウドネットワーク等の一部)よく、ネットワークを介してアクセスされてもよい。
HMD102とコンピュータ106の間の通信は、有線または無線接続プロトコルに従ってもよい。例えば、アプリケーションを実行するVRコンテンツエンジン220は、ライブビュー及び/またはハイブリッドビュー選択及び/または生成エンジンであってよく、ライブビュー及び/またはハイブリッドビューは、eスポーツライブイベントに関連する。より従来的な意味では、VRコンテンツエンジンは、ビデオゲームを実行するビデオゲームエンジンであってよく、入力を受信して、ビデオゲームのゲーム状態を更新するように構成されてもよい。図1Bの以下の記載は、簡潔で明瞭にするために、ビデオゲームを実行するVRコンテンツエンジン220の文脈内で記載され、VRコンテンツを生成できる任意のアプリケーションの実行を表すことを意図している。ビデオゲームのゲーム状態は、物体の存在及び位置、仮想環境の条件、イベントのトリガ、ユーザプロフィール、透視図等、現在のゲームプレイの様々な態様を規定するビデオゲームの様々なパラメータの値によって、少なくとも部分的に規定されてもよい。
図示の実施形態において、VRコンテンツエンジン220は、例として、コントローラ入力161、音声入力162、及び、動作入力163を受信する。コントローラ入力161は、ハンドヘルドゲームコントローラ104(例えば、Sony DUALSHOCK(登録商標)4ワイヤレスコントローラ、Sony PlayStation(登録商標)Moveモーションコントローラ)、または、ウェアラブル手袋型インタフェースコントローラ等のウェアラブルコントローラなど、HMD102とは別個のゲームコントローラの操作から規定されてもよい。例として、コントローラ入力161は、方向入力、ボタン押し下げ、トリガ起動、動き、ジェスチャ、または、ゲームコントローラの操作から処理される他の種類の入力を含んでもよい。
音声入力162は、HMD102のマイクロフォン151から、または、ローカルシステム環境内の画像撮影装置108もしくは他の場所に含まれるマイクロフォンから、処理されてもよい。動作入力163は、HMD102に含まれるモーションセンサ159から、または、画像撮影装置108がHMD102の画像を撮影するので、画像撮影装置108から処理されてもよい。(例えば、ゲームアプリケーションを実行する)VRコンテンツエンジン220は、入力を受信し、入力は、ゲームエンジンの設定に従って処理されて、ビデオゲームのゲーム状態を更新する。エンジン220は、ゲーム状態データを様々なレンダリングモジュールに出力し、様々なレンダリングモジュールは、ゲーム状態データを処理して、ユーザに提示するコンテンツを規定する。
図示の実施形態において、ビデオレンダリングモジュール183は、HMD102に提示するためのビデオストリームをレンダリングするように規定される。HMD102の光学素子170のレンズは、VRコンテンツを見るように構成される。表示画面275は、HMD102がユーザによって装着される時、光学素子170のレンズが表示画面275とユーザの眼の間になるように、光学素子170のレンズの後ろに配置される。このようにして、ビデオストリームは、表示画面/プロジェクタ機構275によって提示されてもよく、ユーザの眼290は光学素子170を通じて見てもよい。HMDユーザは、HMDを装着して、例えば、eスポーツライブイベントのライブビュー及び/またはハイブリッドビュー、または、ゲームプレイのビデオゲームを選択することによって、インタラクティブなVRコンテンツ(例えば、VRビデオソース、ビデオゲームコンテンツ等)とインタラクトすることを選択してもよい。インタラクティブな仮想現実(VR)シーンは、HMDの表示画面175にレンダリングされる。
このようにして、ユーザの眼のすぐ近くにHMDの表示機構を備えることによって、HMDは、ユーザがeスポーツライブイベントのライブビュー及び/またはハイブリッドビュー、または、ゲームアプリケーションのゲームプレイに完全に没入することを可能にする。コンテンツをレンダリングするためにHMDの表示画面に規定される表示領域は、ユーザの視野の広い部分または全体さえ占める場合がある。一実施形態においては、光学素子170のレンズ及び表示画面は、HMD102の支持構造内に配置され、支持構造を装着すると、ユーザ102等のユーザの頭にぴったり合うように構成される。さらに、光学素子170のレンズと表示画面175とは、支持構造内に配置され、HMD102を装着した時、表示画面175がユーザの両眼または片眼の正面に位置する。典型的に、各眼は、1つまたは複数の表示画面を見ている光学素子170の関連するレンズによって支援される。
音声レンダリングモジュール182は、ユーザが聴くために音声ストリームをレンダリングするように構成される。一実施形態においては、音声ストリームは、HMD102に関連付けられたスピーカ152を通じて出力される。スピーカ152は、オープンエア型のスピーカ、ヘッドフォン、または、音声を出せる任意の他の種類のスピーカの形をとってもよいことは理解されたい。
一実施形態においては、視線追跡カメラ192が、ユーザの視線追跡を可能にするためにHMD102に含まれる。視線追跡カメラ192は1つだけ含まれているが、複数の視線追跡カメラを使用してユーザの視線を追跡してもよいことに注意されたい。視線追跡カメラは、ユーザの眼の画像を撮影し、その画像が分析されて、ユーザの視線方向が決定される。一実施形態においては、ユーザの視線方向に関する情報を利用して、ビデオレンダリングに影響を及ぼすことができる。例えば、ユーザの眼が特定の方向を見ていると決定される場合、その方向に対するビデオレンダリングが、ユーザが見ている領域でより多くの詳細を提供するように、または、より速く更新されるように等、優先または強調されてもよい。ユーザの視線方向は、ヘッドマウントディスプレイに対して、ユーザがいる現実環境に対して、及び/または、ヘッドマウントディスプレイ上にレンダリングされている仮想環境に対して、規定されてもよいことを理解されたい。
大まかに言うと、視線追跡カメラ192が撮影した画像の分析は、それだけを考慮すると、HMD102に対するユーザの視線の方向を提供する。しかしながら、HMD102の追跡された位置及び向きと共に考慮すると、HMD102の位置及び向きは、ユーザの頭の位置及び向きと同じなので、ユーザの実世界の視線方向が決定できる。すなわち、ユーザの実世界の視線方向は、ユーザの目の位置の移動を追跡し、HMD102の位置及び向きを追跡することとから決定できる。仮想環境のビューが、HMD102上にレンダリングされると、ユーザの実世界の視線方向は、仮想環境のユーザの仮想世界の視線方向の決定に適用できる。
さらに、触覚フィードバックモジュール181は、HMD102、または、コントローラ104等、HMDユーザによって操作される他のデバイスに含まれる触覚フィードバックハードウェアに信号を提供するように構成される。触覚フィードバックは、振動フィードバック、温度フィードバック、圧力フィードバック等、様々な種類の触感の形をとってもよい。
一実施形態においては、ビデオレンダリング183及び音声レンダリング182は、HMD103内に表示するようにライブeスポーツイベントのライブビュー及び/またはハイブリッドビューを提示するように構成されてもよい。例えば、ライブビュー及び/またはハイブリッドビューは、図1Aのeスポーツアリーナ100のアリーナ席140の特定の座席のPOVから生成されてもよい。前述のように、ライブビューは、eスポーツアリーナの1つまたは複数の撮影されたビューから記録されてもよく、選択された座席のPOVとして最少の修正で提示されてもよい。
他の実施形態においては、ハイブリッドビューは、eスポーツアリーナの1つまたは複数の撮影されたビューをつなぎ合わせることによって生成されてもよい。別のハイブリッドビューは、拡張現実ビューを提供する形態等において、デジタルコンテンツをつなぎ合わされたライブビューに組み込むことによって生成されてもよい。例えば、ユーザU1に対して友達のデジタル化された形が、U1の拡張現実ビューに提示される。さらに他の実施形態においては、ライブeスポーツイベントの完全な仮想ビューが、HMD102に提示される。
図3Aは、本開示の一実施形態による、図1Bで紹介されたeスポーツアリーナ100の平面図300Aを示し、eスポーツアリーナの2つの座席から生成された2つの視点(POV)を含む。図に示し、簡単に述べるように、平面図300Aは、ステージ190の正面191、VIPセクション150を含むアリーナ席140、メインディスプレイ101、サイドディスプレイ105、サイドディスプレイ107、第1のチーム171の演壇、第2のチーム172の演壇、及び、放送者160が座るためのタワー161を含む。複数のビデオデータ収集装置130も、ライブeスポーツイベントのビデオを収集するためにアリーナ100のあらゆる場所に配置されているのが示されている。さらに、音声収集装置(図示せず)が、eスポーツイベントに関する音声記録を収集するためにアリーナ100のあらゆる場所に配置されてもよい。
POV321は、アリーナ席140の座席301に関連付けられる。POV321は、1つまたは複数のライブビデオ記録から生成されてもよい。例えば、POV321は、座席301からのライブビューの再生に使用できる3〜6台のビデオ収集装置のビデオ記録から生成されてもよい。すなわち、ライブeスポーツイベントのライブビュー及び/またはハイブリッドビュー(例えば、現実、拡張現実、仮想のビュー)は、1つまたは複数のビデオ収集装置130から取得されたビデオ記録からつなぎ合わされてもよい。座席301は、VIPセクション150内に位置するので、そのセクション内の各座席に対して、高品質のレンダリングのライブビューを提供するために入手可能なより多くのビデオ記録があってもよい。
すなわち、VIPセクション150において、各座席は、ライブeスポーツイベントの一意に生成されたビューを有してもよい。VIPセクション150の外側では、同一場所に配置された座席(例えば、10〜20席)のグループは、ライブeスポーツイベントの一意に生成されたビューを共有してもよい。図に示すように、POV321は、ステージ190のクローズアップビューを含み、両方のチーム及び3つの全てのディスプレイのクローズビューを含む。座席301は、ステージ190の正面に近いので、POV321は、ステージ190の遮られていない、大きい、鮮明なビューを提供するために、より望ましい。
POV322は、座席302に関連付けられ、POV322も、1つまたは複数のライブビデオ記録から生成されてもよい。例えば、POV322は、座席302からのライブビューの再生に使用できる1〜2台のビデオ収集装置のビデオ記録から生成されてもよい。すなわち、ライブeスポーツイベントのライブビュー及び/またはハイブリッドビュー(例えば、現実、拡張現実、仮想のビュー)は、1つまたは複数のビデオ収集装置130から取得されたビデオ記録からつなぎ合わされてもよい。座席302はアリーナ100の後部の近くに位置するので、そのセクション内の各座席に対してはライブビューのレンダリングを提供するのに入手可能なビデオ記録は限られている場合がある。レンダリングされたライブビューは、高品質であるが、アリーナの後部の座席間のビューの解像度には限界がある。
すなわち、アリーナ100の後部、及び、VIPセクション150の外側に位置する座席に関しては、座席302の近くの同一場所に配置された座席(例えば、10〜20席)のグループは、ライブeスポーツイベントの一意に生成されたビューを共有してもよい。図に示すように、POV322は、ステージ190の遠いビューを含み、両方のチーム、3つのディスプレイ、及び、放送ブースの遠くのビューを含む。座席302は、アリーナ100の後部に近いので、ビューは少し遮られ、ステージ190から離れている場合があるので、POV322は、あまり望ましくない。
図3Aは、eスポーツライブイベントのライブビュー及び/またはハイブリッドビューにビデオ画像を提供することに関して記載するが、他の実施形態は、eスポーツアリーナ100の選択された座席に基づいたライブeスポーツイベントにライブ音声及び/またはハイブリッド音声を提供することにも適している。さらに、ライブ音声及び/またはハイブリッド音声は、eスポーツライブイベントに関して、ライブビデオ及び/またはハイブリッドビデオと組み合わされてもよく、例えば、仮想の聴衆として、ライブeスポーツイベントに参加しているリモートユーザに提示されてもよい。
図3Bは、本開示の一実施形態による、仮想の聴衆として、eスポーツライブイベントに参加しているリモートユーザ(例えば、Ul)のHMDに示されるビデオシーケンスの画像を示し、画像は、eスポーツアリーナで(リモートユーザによって選択された)後部座席に関連付けられたPOV322から生成される。例えば、選択された座席は、図3Aの平面図300Aに少なくとも示されるように、eスポーツアリーナ100のアリーナ席140の座席302である。
前述のように、リモートユーザのHMDに示されるPOV322のビデオ部分は、1つまたは複数のビデオ収集装置が撮影した1つまたは複数のライブビデオ記録から生成される。例えば、ライブビデオ記録をつなぎ合わせて、座席302に関連付けられた視点を有する画像のビデオシーケンスを生成してもよい。例えば、座席302は、eスポーツアリーナ100の後部に近いので、POV322は、ステージ190の遠いビューを有する。従って、プロのゲーマーの第1のチーム171のメンバと、プロのゲーマーの第2のチーム172のメンバとは、小さく遠くに見える。さらに、HMDに示されるPOV322内の他の聴衆(例えば、ライブ参加者、または、デジタルで挿入された)は、ステージ190のビューの少なくとも一部を遮る場合がある。
図3Bに示すように、複数の聴衆の頭部が、POV322に示される。さらに、POV322において、リモートユーザは、ステージ190に、または、ステージ190の近くに位置するディスプレイの遮られていないビューを有する。例えば、POV322は、オートバイコース上のレーサ(例えば、少なくともレーサ180及びレーサ181)を示すメインディスプレイ101のビューを含む。POV322は、第1のチーム171の上にある(例えば、PlayStation Plus LEAGUEロゴを示す)サイドディスプレイ105のビューを含む。また、POV322は、オートバイレーサ180を制御するチームメンバ172aのゲームプレイビューを示すサイドディスプレイ107のビューを含む。前述のように、サイドディスプレイは、オートバイレーサ181の背中のビューを含むオートバイレーサ180の視点を示し、レーサ181は、レースコースでオートバイレーサ180の前にいる。
図3Cは、本開示の一実施形態による、仮想の聴衆としてeスポーツライブイベントに参加しているリモートユーザ(例えば、U1)のHMDに示されているビデオシーケンスの画像を示し、画像は、eスポーツアリーナの(リモートユーザによって選択された)前列の席に関連付けられたPOV321から生成される。例えば、選択された座席は、図3Aの平面図300Aに少なくとも示されるようにeスポーツアリーナ100のアリーナ席140のVIPセクション150の座席301である。
前述のように、リモートユーザのHMDに示されるPOV321のビデオ部分は、1つまたは複数のビデオ収集装置が撮影した1つまたは複数のライブビデオ記録から生成される。例えば、ライブビデオ記録は、つなぎ合わされて、座席301に関連付けられた視点を有する画像のビデオシーケンスを生成してもよい。座席301は、VIPセクション150に位置するので、VIPセクションの外側の座席のPOVを生成するために撮影された記録の数と比較して、POV321を生成するためにより多くのライブビデオ記録が撮影されてもよい。
詳細には、座席301は、eスポーツアリーナ100の正面、または、正面に近いので、POV321は、ステージ190のクローズアップビューを有する。すなわち、座席301からのユーザのビューは、(例えば、ライブまたはデジタルで拡張された)他の聴衆に遮られず、ステージとステージ上の物体とが、視聴者にとって大きく鮮明に見える。例えば、プロのゲーマーの第1のチーム171のメンバは、POV321に鮮明に示され、散切り頭の男性ゲーマー171a、短い髪の女性ゲーマー171b、及び、長い髪の女性ゲーマー171cを含むメンバの顔が鮮明に識別できる。また、プロのゲーマーの第2のチーム172のメンバが、POV321に鮮明に示され、短い髪の男性ゲーマー172a、短い髪の女性ゲーマー172b、及び、短い髪の男性ゲーマー172cを含むメンバの顔は、鮮明に識別可能である。
さらに、POV321において、リモートユーザは、ステージ190にまたはステージ190の近くに位置するディスプレイの鮮明で大きなビューを有する。例えば、POV321は、少なくともレーサ180及びレーサ181を示すメインディスプレイ101の大きいビューを含む。POV322は、第1のチーム171の上に位置するサイドディスプレイ105の(例えば、PlayStation Plus LEAGUEロゴを示す)鮮明で大きなビューを含む。POV322は、(オートバイレーサ181の背中のビューを含む)オートバイレーサ180を制御するチームメンバ172aのゲームプレイビューを示すサイドディスプレイ107の鮮明で大きなビューも含む。
図3Bと図3Cを比較すると、前列の座席301のPOV321は、後部座席302のPOV322より鮮明なステージ190のビューを有する。これは、コンサートアリーナのコンサートに出席している聴衆、または、映画館で映画を見ている聴衆、または、劇場でブロードウェイショーを見ている聴衆、または、任意の種類のアリーナの任意の種類のイベントに出席している聴衆の体験と類似している。従って、座席301を選択しているリモートユーザの体験は、座席302を選択しているユーザより生き生きとしていてもよい。
図4Aは、本開示の一実施形態による、選択された座席の視点から取得したeスポーツライブイベントのプレビューを生成するために、一度に一席、eスポーツアリーナの1つまたは複数の座席を選択する選択プロセスを示す。例えば、図2AのリモートユーザU1は、ライブeスポーツイベントに仮想の聴衆として参加するために、バックエンドエンターテイメントサーバ250と通信する。詳細には、ユーザU1は、前述のeスポーツアリーナ100のアリーナ席140の1つまたは複数の座席からPOVをプレビューするために、座席プレビュー生成部280とインタフェースする。図4Aに示すプレビュー及び座席選択プロセスは、例示的なもので、アリーナ席140の座席のPOVをプレビューする能力を示すことを意図している。
図4Aに示すように、ユーザU1は、コントローラ5を使用して、座席プレビュー生成部280によって生成され得るインタフェース400とインタラクトしてもよい。例えば、インタフェース400は、eスポーツアリーナ100のステージ190及び座席140の平面図を示す。コントローラ5の方向ボタン410を使用して、ユーザU1は、アリーナ席140をナビゲートして、各POVのプレビューを取得するために、1つまたは複数の座席を選択してもよい。アナログスティック、タッチスクリーン等を用いる等、アリーナの座席を示す平面図をナビゲートする他の手段が企図される。例えば、経路420は、インタフェース400に提示されるように、ユーザU1によるアリーナ席140のナビゲーションを示す。経路420は、座席の一番目の列を左から右に横切り、VIPセクション150の座席301で最初に落ち着いて、図4Bに示すようなPOVプレビューを取得する。経路420は、座席302に続き、図4Cに示すようなPOVプレビューを取得する。
図4Bは、本開示の一実施形態による、eスポーツアリーナ100のVIPセクション150の前列の座席301から生成される図3Cで紹介されたPOV321のプレビューを示す。POV321のプレビューを、インタフェース400'に提供されたeスポーツアリーナの平面図に関して示す。詳細には、ユーザU1は、図4Aのインタフェース400で座席301を選択し、その座席からのPOVのプレビューを所望する。従って、図4Bのインタフェース400'は、座席301に対して生成されたPOV321を示すプレビューウィンドウ430を提供し、POV321に示される画像は、少なくとも図3Cで前述した。すなわち、ユーザが座席301を選択すると、ユーザが装着したHMDで最終的にPOV321を受信、見ることになる。すなわち、プレビューウィンドウ430は、座席301に座っているユーザが体験するPOV321のサンプリングを示す。
図4Cは、本開示の一実施形態による、eスポーツアリーナ100の後部座席302から生成された図3Bに紹介されたPOV322のプレビューを示す。POV322のプレビューを、インタフェース400’’に提供されたeスポーツアリーナの平面図に関して示す。詳細には、ユーザU1は、図4Aのインタフェース400で座席302を選択し、その座席からのPOVのプレビューを所望する。従って、図4Cのインタフェース400’’は座席302に対して生成されたPOV322を示すプレビューウィンドウ435を提供し、POV322に示される画像は、少なくとも図3Bで前述した。すなわち、ユーザが座席302を選択すると、最終的に、ユーザが装着したHMDでPOV322を受信し、見ることになる。すなわち、プレビューウィンドウ435は、座席302に座っているユーザが体験するPOV322のサンプリングを示す。
図5Aは、本開示の一実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)に参加し、eスポーツアリーナの物理的座席の1つに仮想で座っているリモートユーザU1のPOVを示し、リモートユーザが左側を見ると、リモートユーザU1のPOVは、ライブ参加者(LP)の聴衆のビューを含む。詳細には、リモートユーザU1は、U1の家のリビングルームでくつろいで等、ライブeスポーツイベントに参加できる。従って、eスポーツアリーナの座席を選択後、ユーザU1は、HMD102を通じて見る選択された座席から取得されたライブイベントのPOVを提示される。このようにして、ユーザU1は、選択された座席で実際にeスポーツアリーナに座っているかのように、ライブeスポーツイベントに参加できる。
前述のようにライブeスポーツイベントのライブビュー及び/またはハイブリッドビューは、生成されてもよく、HMDを通じてユーザU1に提示されてもよい。例えば、ライブビューまたはライブに近いビューは、1つまたは複数のデータ収集装置の記録等、ライブイベントの処理されていないまたは最小限に処理された音声及びビデオ記録を取得してもよい。すなわち、ライブに近いまたはライブのビューは、複数のテレビ記録カメラを通じて従来のライブのスポーツイベントを見る時等、収集されたデータに最小限の修正または修正無しに生成される。
さらに、ライブeスポーツイベントのハイブリッドビューは、eスポーツアリーナのあらゆる場所に配置されたデータ収集装置から収集されたライブビュー(例えば、音声、ビデオ等)から生成されてもよい。一実施態様においては、ハイブリッドビューは、1つまたは複数のライブビデオ記録をつなぎ合わせ、また、1つまたは複数の音声記録をつなぎ合わせてもよい。他の実施形態においては、ハイブリッドビューは、1つまたは複数のデータ収集装置から収集されたライブビューから部分的に生成され、ライブビューに挿入されたデジタルコンテンツを含む拡張現実として提示され、ライブビューは、データ収集装置から収集された1つまたは複数のライブビューをつなぎ合わせることによって生成されてもよい。さらに他の実施形態においては、HMDは、ライブeスポーツイベントを完全に仮想化したビューを提示してよく、仮想ビューは、ライブeスポーツイベントのデジタル表現である。
詳細には、図5Aは、ユーザU1がeスポーツアリーナ100のVIPセクション150の座席510を選択したことを示す。座席510のすぐ左が、座席520である。ライブ参加者(例えば、聴衆)が、座席520に実際に座っている。図5Aは、ユーザU1の没入型体験を示し、HMD102に示されるPOV530は、ユーザU1がeスポーツアリーナ100の左側を見る時のビューを表す。ユーザU1は、eスポーツアリーナ100に仮想でトランスポートされ、ユーザU1が実際に座席510に座っているのとあまり変わらない体験を有する。従って、HMD102に示されるPOV530は、座席520に実際に座っているライブ参加者(LP)のビューを含むことになる。
図5Bは、本開示の一実施形態による、eスポーツライブイベント(例えば、ビデオゲーム競技)に参加し、eスポーツアリーナの物理的座席の1つに仮想で座っているリモートユーザU1のPOVを示し、リモートユーザが左側を見ると、リモートユーザU1のPOVは、同様に仮想参加者としてライブイベントに参加しているリモートユーザ観客U2(すなわち、リモートユーザU2は仮想の聴衆である)のビューを含む。
詳細には、リモートユーザU1は、U1の家のリビングルームでくつろいで等、HMD102を通じてライブeスポーツイベントに参加できる。従って、eスポーツアリーナの座席510を選択後、ユーザU1は、HMD102を通じて視聴される選択された座席から取得されたライブイベントのPOVを提示される。このようにして、ユーザU1は、選択された座席でeスポーツアリーナに実際に座っているかのように、ライブeスポーツイベントに参加できる。
さらに、リモートユーザU2も、HMD102'を通じて等、ライブeスポーツイベントに参加できる。例えば、ユーザU1及びユーザU2は、ソーシャルネットワークを通した友達であってよく、(例えば、図2のエンターテイメントサーバ250を通じて提示される)ライブeスポーツイベントに一緒に参加することに同意していてもよい。従って、ユーザU1及びU2は、スポーツアリーナ100のVIPセクション150に両方とも、座席510及び520等の隣り合う座席を協力して選択してもよい。図に示すように、ユーザU1は、座席510に仮想で座っており、ユーザU2は、座席520に仮想で座っている。すなわち、ユーザU2は、ユーザU1の左に座っている。従って、ユーザU2が座席520を選択後、ユーザU2は、HMD102'を通じて視聴される選択された座席から取得されたライブeスポーツイベントのPOVを提示される。
ユーザU1とユーザU2の両方は、eスポーツアリーナの自分たちが選択した座席に実際に座っているかのように、ライブeスポーツイベントに参加できる。図5Bは、ライブeスポーツイベントに参加している時、2人のリモートユーザU1とU2の間のインタラクティブ体験を示す。詳細には、ユーザU1及びU2の両方に提示されるPOVは、拡張現実ビューであってもよい。すなわち、拡張現実ビューは、1つまたは複数のデータ収集装置から収集されたライブビューから部分的に生成されてもよく、ライブビューに挿入されたデジタルコンテンツを含み、ライブビューは、データ収集装置から収集された1つまたは複数のライブビューをつなぎ合わせることによって生成されてもよい。例えば、デジタルコンテンツは、ユーザU1またはU2のいずれかを表すアバタであってもよい。
詳細には、図5Bは、ユーザU1が、eスポーツアリーナ100のVIPセクション150の座席510を選択したことを示す。座席520の左側の座席520は、リモートユーザU2(例えば、ユーザU1の友達)が占める。すなわち、座席520は、仮想参加者であるリモートユーザU2が占める。図5Bは、ユーザU1の没入型体験を示し、HMD102に示されるPOV540は、ユーザU1がeスポーツアリーナ100で左側を見る時のビューを表す。
前述のように、ユーザU1は、eスポーツアリーナ100に仮想でトランスポートされ、何らかの拡張を用いて、座席510に実際に座席に座っているのとあまり変わらない体験をする。例えば、リモートユーザU2を表現するアバタ535は、座席520に座るアバタ535を示すようにPOV540に挿入できる。この拡張現実効果は、ライブ参加者(LP)が座席520に実際に座っていたとしても、デジタルで挿入されてもよい(その場合、LPは、POV540からフィルタリングして除かれる)。従って、HMD102に示されるPOV540は、座席520に仮想で座っているアバタ535のビューを含むことになる。
同様に、HMD102'に表示されるようにリモートユーザU2に対して生成されたPOVは、ユーザU2がeスポーツアリーナ100を見回しているビューを表現する。ユーザU2もeスポーツアリーナ100に仮想でトランスポートされ、何らかの拡張を用いて、ユーザU2が実際に座席520に座っているのと大して変わらない体験をする。例えば、リモートユーザU1を表すアバタが、POVに挿入されて、そのアバタが座席510に座っているのを示すことができる。すなわち、リモートユーザU2が右を見る場合、POVは、座席510に仮想で座っているユーザU1を表すアバタのビューを含む。
図6は、本開示の一実施形態による、アリーナ席610に置かれた個人用座席パック620と、eスポーツイベントを生で見ている関連するライブ参加者に関するデータを収集するように構成された個人用機器ボードとを示す。複数のアリーナ席610が、eスポーツアリーナ100に配置されてもよい。例えば、アリーナ席は、ある列が他の列の前後に位置するように、列で配置されてもよい。このようにして、第1列の席は、第1列の後ろの第2列の少なくとも1つの座席の正面に位置してもよい。
座席パック620は、1つまたは複数のアリーナ席610に置かれてもよい。座席パックは、1人または複数のライブ参加者からデータを収集するように置かれてもよい。図に示すように、座席パックは、アリーナ席の背もたれ615の背面上部に置かれ、その座席パックの後ろの列に座るライブ参加者からデータを収集するように構成される。例えば、座席610aは、背もたれ615の背面に座席パック620を含む。座席610aの座席パック620は、座席610aの後ろの列の座席610bにいるライブ参加者からデータを収集、及び/または、そのライブ参加者にデータを提供するように置かれる。
座席パック620は、少なくとも1人のライブ参加者からデータを収集するように構成される1つまたは複数のデータ収集装置を含む。例えば、座席610aの座席パック620は、アリーナ席610bに座っているライブ参加者からデータを収集するように構成される。例えば、座席パックは、画像及び/またはビデオデータを収集するように構成されたカメラ660を含んでもよい。このようにして、ライブ参加者の行動及び顔が収集されてもよい。
1つの例示の使用例においては、画像及び/またはビデオデータを使用して、リモートユーザに対するeスポーツイベントのライブビューを構築する。座席パックは、ライブ参加者がいるか否かを決定するように構成された人感センサ640を含んでもよい。例えば、座席610aの座席パック620の人感センサ640は、座席610bにライブ参加者が座っているか否かを決定するように構成されてもよい。人感センサ640は、赤外線検出、ソーナー検出、音波検出、超音波検出、磁気波検出、視覚検出等、任意の適切な検出技術を実施してもよい。
さらに、座席パック620は、アリーナ席610aに座っているライブ参加者が生成する音等、音声データを収集するように構成されたマイクロフォンアレイ630を含んでもよい。アレイ630は、ビーム操縦能力及びビーム形成能力に適したパターンで構成された複数の音声収集装置を含んでもよい。例えば、アリーナ席610aにある座席パックのアレイ630は、アリーナ席610bにいるライブ参加者から発生した音を決定でき、それらの音を近くの環境の他の音からフィルタリングできる。すなわち、アレイ630は、アリーナ席610bのライブ参加者からの音を拾うことができる。追加のセンサが、座席パック620に含まれてもよい。
座席パック620は、1つまたは複数のデータ提供装置を含むように構成されてもよい。例えば、アリーナ席610bに座っているライブ参加者は、アリーナ席610aの背面にある座席パックからデータを受け取るような位置にいる。説明のために、データ提供装置は、モニタ、スピーカ650、振動装置、香り生成装置等を含んでもよい。詳細には、スピーカ650は、アリーナ席610bに座っているライブ参加者、または、直ぐ近くの任意の参加者に音声を提供するように構成されてもよい。例えば、アリーナ席610aの座席パックにあるスピーカ650は、eスポーツイベントに仮想で参加しているリモートユーザから生成された音と関連付けられてもよい。リモートユーザからの音(例えば、声)は、座席610aに座っているライブ参加者を含む、座席610aの近くにいる座席の1つに座っている特定のライブ参加者に向けられてもよい。従って、スピーカ650を通じて、リモートユーザは、一般の1人または複数のライブ参加者に話しかけてもよく、または、座席610aに座っているライブ参加者を含む特定のライブ参加者に話しかけてもよい。
一実施態様においては、座席パック620のセンサ及びデバイスは、アリーナ席610から取り外せる座席パックの形で構成されてもよい。さらに他の実施態様においては、センサ及びデバイスは、アリーナ席610から取り外せるシート付属品の形で構成されてもよい。例えば、シート付属品は、座席610の少なくとも正面を囲むカバーであってもよい。説明として、人感センサは、圧力センサ等、座席クッションの隣の座席付属品の一部に位置してよく、各座席610に座っているライブ参加者の存在を検出してもよい。
図7Aは、本開示の様々な実施形態の態様を行うために使用できるデバイス700の例の構成要素を示す。例えば、図7Aは、本開示の一実施形態による、ライブeスポーツイベントに参加しているユーザを支援するサービスを提供するデバイスを実施するのに適切な例示のハードウェアシステムを示す。このブロック図は、デバイス700を示す。デバイス700は、開示の実施形態を実践するのに適したサーバコンピュータ、パーソナルコンピュータ、ビデオゲームコンソール、パーソナルデジタルアシスタント、または、他のデジタルデバイスを組み込むことができ、または、それらであってもよい。
デバイス700は、ソフトウェアアプリケーションと、任意で、オペレーティングシステムを実行する中央処理装置(CPU)702を含む。CPU702は、1つまたは複数の同種または異種の処理コアから構成されてもよい。例えば、デバイス700は、バックエンドサーバを支援しているクライアント側デバイスであってよく、バックエンドサーバ及びクライアント側デバイスの両方とも、ライブeスポーツイベントに参加しているユーザを支援するように構成される。他の例においては、デバイス700は、クライアント側デバイス(例えば、ゲーム機)を介してライブeスポーツイベントに参加しているユーザを支援するように構成されたサーバ側デバイスであってもよい。
様々な実施形態によると、CPU702は、1つまたは複数の処理コアを有する1つまたは複数の汎用マイクロプロセッサである。さらなる実施形態は、リモートユーザによるライブeスポーツイベントへの参加を支援するように構成されたアプリケーション等の、メディアアプリケーション及びインタラクティブエンターテイメントアプリケーション等、高度に並行で計算集約的なアプリケーションに特に適合したマイクロプロセッサアーキテクチャを有する1つまたは複数のCPUを用いて実施されてもよい。
詳細には、CPU702は、eスポーツイベント等のライブイベントのビューを生成するように構成された座席ライブビュー生成部720を含む。ライブビューは、ライブイベントの収集された1つまたは複数のライブ記録(例えば、ビデオ、音声)に基づいて、アリーナ(例えば、eスポーツアリーナ)の1つまたは複数の位置に対して生成される。例えば、ライブ記録は、ライブイベントの画像及び/またはビデオを収集するように構成されたビデオ収集部721と、アリーナの環境から音声を収集するように構成された音声収集部722とによって行われてもよい。
POV生成部723は、アリーナの特定の座席等、アリーナの特定の位置のライブビューを生成するように構成される。例えば、POV生成部は、アリーナの所定の位置から取得したライブイベントの1つまたは複数のビデオをつなぎ合わせて、アリーナの特定の位置からのイベントのライブビューを生成するように構成されたステッチング技術を実施してもよい。従って、特定の位置からライブ記録が収集されなかった場合でさえ、ライブビューは、ライブイベントの1つまたは複数のライブ記録に基づいて、その特定の位置に対して生成されてもよい。
CPU702は、(例えば、生成部720によって)アリーナの特定の位置に対して生成されたライブビューの拡張現実ビューを提示するように構成された拡張現実ライブビュー生成部730も含む。例えば、デジタルコンテンツが、その特定の位置に対して生成されたライブビューに挿入されてもよい。詳細には、アバタ挿入モジュール731は、アバタをライブビューに挿入するように構成される。
アバタは、ライブイベントに参加して、近くに座っている第2のリモートユーザを表してもよい。すなわち、座席ライブビュー生成部720及び拡張現実ライブビュー生成部730が生成したビューに対応するユーザは、ライブイベントに参加している第1のリモートユーザであってよく、さらに、第2のリモートユーザが占める座席の隣または近くに仮想で座っていてもよい。従って、第1のリモートユーザの拡張現実ビューは、第2のリモートユーザのアバタを含む。他のデジタルコンテンツも挿入されてもよい。CPU702は、アリーナ(例えば、eスポーツアリーナ100)の特定の位置に対応するライブイベントのビューのプレビューを生成するように構成された座席プレビュー生成部740も含む。
例えば、アリーナマップ生成部741は、座席チャートを含むようにアリーナの平面図を生成するように構成され、平面図は、プレビューが示されたアリーナ内の位置(例えば、座席)を選択するために使用できる。詳細には、座席選択エンジン742は、平面図を介して、アリーナ内の位置(例えば、座席)をユーザが選択するのを可能にするインタフェースを生成及び管理するように構成される。さらに、インタフェースに備えられた、POVウィンドウ生成部743は、選択された位置(例えば、座席)の視点から生成されたライブイベント(例えば、eスポーツイベント)のビューを含み得るプレビューを生成するように構成される。
CPU702は、ライブイベントのリモートユーザへの提示に関する追加の機能も備えてもよい。例えば、ライブイベントは、仮想の聴衆としてライブeスポーツイベントに仮想で参加したいリモートユーザに放送されているeスポーツイベントであってもよい。詳細には、リモート観客マネージャ750は、eスポーツイベント等、ライブイベントの仮想体験をリモートユーザに提供するように構成される。リモート観客マネージャ750のより詳細な記載を図7Bに示す。
メモリ704は、CPU702が使用するアプリケーション及びデータを記憶する。記憶装置706は、アプリケーション及びデータに不揮発性記憶装置及び他のコンピュータ可読媒体を提供し、固定ディスクドライブ、リムーバブルディスクドライブ、フラッシュメモリデバイス、及び、CD−ROM、DVD−ROM、Blu−ray(登録商標)、HD−DVD、もしくは、他の光学記憶装置、並びに、信号伝送及び記憶媒体を含んでもよい。ユーザ入力デバイス708は、1人または複数のユーザからのユーザ入力をデバイス700に通信し、ユーザ入力デバイス708の例は、キーボード、マウス、ジョイスティック、タッチパッド、タッチスクリーン、静止画もしくはビデオレコーダ/カメラ、及び/または、マイクロフォンを含んでもよい。
ネットワークインタフェース714は、デバイス700が電子通信ネットワークを介して他のコンピュータシステムと通信するのを可能にし、ローカルエリアネットワーク、及び、インターネット等の広域ネットワークを介した有線または無線の通信を含んでもよい。音声プロセッサ712は、CPU702、メモリ704、及び/または、記憶装置706によって提供された命令及び/またはデータからのアナログまたはデジタルの音声出力を生成するように適合される。CPU702、メモリ704、データ記憶装置706、ユーザ入力デバイス708、ネットワークインタフェース710、及び、音声プロセッサ712を含む、デバイス700の構成要素は、1つまたは複数のデータバス722を介して接続される。
グラフィックスサブシステム714は、データバス722とデバイス700の構成要素とにさらに接続される。グラフィックスサブシステム714は、グラフィックス処理ユニット(GPU)716及びグラフィックスメモリ718を含む。グラフィックスメモリ718は、出力画像の各画素の画素データの記憶に使用される表示メモリ(例えば、フレームバッファ)を含む。グラフィックスメモリ718は、GPU716と同じデバイスに一体化されてもよい、GPU716とは別個のデバイスとして接続されてもよい、及び/または、メモリ704内に実装されてもよい。
画素データは、CPU702から直接、グラフィックスメモリ718に提供されてもよい。あるいは、CPU702は、所望の出力画像を規定するデータ及び/または命令をGPU716に提供し、そのデータ及び/または命令から、GPU716は、1つまたは複数の出力画像の画素データを生成する。所望の出力画像を規定するデータ及び/または命令は、メモリ704及び/またはグラフィックスメモリ718に記憶されてもよい。ある実施形態においては、GPU716は、シーンの形状、光、テクスチャ、動き、及び/または、カメラパラメータを規定する命令及びデータから、出力画像の画素データを生成する3Dレンダリング能力を含む。GPU716は、シェーダプログラムを実行できる1つまたは複数のプログラム可能な実行ユニットをさらに含み得る。
グラフィックスサブシステム714は、表示装置710に表示、または、投影システム740によって投影するために、グラフィックスメモリ718から画像の画素データを定期的に出力する。表示装置710は、CRTディスプレイ、LCDディスプレイ、プラズマディスプレイ、及び、OLEDディスプレイを含むデバイス700からの信号に応答して、視覚情報を表示できる任意のデバイスであってもよい。デバイス700は、例えば、アナログまたはデジタルの信号を表示装置710に提供できる。
本明細書に記載の実施形態は、任意の種類のクライアントデバイスで実行されてもよいことは理解されたい。ある実施形態においては、クライアントデバイスは、ヘッドマウントディスプレイ(HMD)または投影システムである。
図7Bは、本開示の一実施形態による、図7Aで紹介したリモート観客マネージャ750の構成要素を示し、生成部750は、ライブイベントの仮想体験をリモートユーザに提供するように構成される。詳細には、観客ビュー生成部750は、1人または複数のユーザによってプレイされているマルチプレイヤゲームアプリケーションのゲーム世界のメインビューを生成するように構成された観客及びメインビュー生成部751を含む。
例えば、ゲームアプリケーションのマルチプレイヤゲームセッションは、ライブeスポーツイベントの1人または複数のゲーム競技者によってライブで行われてもよい。ゲームセッションは、CPU702の構成要素のいずれか、図2のクラウドゲームプロバイダ112、または、これらの任意の組み合わせによって確立及び管理されてもよい。メインビューは、1人または複数のユーザのゲームプレイに関連付けられたゲームアプリケーションのゲーム世界のビューに対応する。メインビューは、ゲーム世界内の視点(POV)に対応する。
例えば、メインビューは、ユーザの1人によって制御されているキャラクタの1つのPOVから生成されてもよい。他の実施形態においては、メインビューは、ゲームアプリケーションをプレイしている複数のプレイヤのゲームプレイを中心にeスポーツイベントを見せるeスポーツアリーナのライブビューであってもよい。メインビューは、リモートユーザに表示のために提供されてもよい。さらに、ゲーム世界の1つまたは複数の観客ビューが生成されてもよい。観客ビューは、ゲーム世界内の異なるPOVから取得される。すなわち、1人または複数のユーザのゲームプレイが、1人または複数のユーザによって制御されるゲームアプリケーションの実行を通じて生成されている間、観客ビューも生成されてもよい。
例えば、クラウドゲームプロバイダ112及び/またはバックエンドエンターテイメントサーバ250は、1つまたは複数のゲームプレイを生成するゲームアプリケーションの実行に関連して、観客ビューを生成してもよい。観客ビューは、ゲーム世界内の1つまたは複数の所定の位置に対応してもよい。さらに、観客ビューは、リモートユーザが選択したゲーム世界内の選択位置に対応してもよい。このようにして、リモートユーザは、1人または複数のユーザのゲームプレイによって生成されているライブアクションを見るために、ゲーム世界内の様々な視点を選ぶことができる。例えば、ユーザは、観客ビューの1つから取得されるように、ゲーム世界内のアクションの異なる透視図を取得したい。
ゲームセッションは、ゲームアプリケーションをプレイしている1人または複数のユーザ(例えば、マルチプレイヤゲームアプリケーションの同時ゲームプレイを特徴とするeスポーツイベントに参加しているプロのゲーマー)の1つまたは複数のゲームプレイに関連して、ゲームセッションマネージャ759によって確立及び管理されてもよい。セッションマネージャ285は、ゲームセッションのゲーム状態にアクセス及び/または管理するように構成される。セッションマネージャは、ゲームアプリケーションのゲームコードを実行してもよく、または、ゲーム実行エンジンにゲームコードを実行するように命令してもよい。
ゲームセッションマネージャ759及び/またはゲーム実行エンジンは、図2のクラウドゲームプロバイダ112に置かれてもよい。詳細には、ゲームセッションマネージャ759は、ゲーム実行エンジンと通信して、対応するゲームプレイの結果に影響を及ぼすように使用されるユーザ入力コマンドを伝え、取得してもよい。入力コマンドは、ユーザデバイスからゲームセッションマネージャ759に送信されてもよく、ゲームプレイの駆動に使用される。ゲームプレイは、ゲームセッションマネージャ759によって実行及び管理されるので、これらのゲームプレイから生成及び記憶される情報は、要求を行った任意のユーザが他のユーザのゲームプレイを体験するのを可能にする。例えば、ゲームプレイのゲーム世界の観客ビューが、ゲームセッションに対して生成された情報に基づいて、観客ビュー生成部751によって生成されてもよい。
リモート観客マネージャ750は、メインビュー及び観客ビューの少なくとも1つを表示するインタフェースを生成するように構成されたインタフェース生成部752を含む。一実施形態においては、インタフェースは、メインビューを表示するように、また、リモートユーザが選択するために1つまたは複数の観客ビューも表示するように、構成される。さらに、観客ビューセレクタ753は、インタフェースを通じて観客ビューの選択を管理するように構成される。従って、観客ビューが選択され、選択されたと認識されると、そのビューがすぐに、インタフェース内でリモートユーザに対して表示されてもよい。
リモート観客マネージャは、リモートユーザへのデータの配信を管理するように構成されたライブ及び観客ビューコーディネータ758も含む。詳細には、コーディネータ758は、実世界の会場のビュー及び/またはインタラクティブなゲーム世界の観客ビューのリモートユーザのHMDへの配信を管理する。従って、リモートユーザは、一度、実世界の会場を視聴して、拡張現実体験をしてよく、別の時に、観客ビューのインタラクティブなゲーム世界を視聴して、仮想現実体験をしてもよい。
リモート観客マネージャ750は、音声ローカリゼーションモジュール754を含み、音声ローカリゼーションモジュール754は、ゲームアプリケーションによって実行されるゲーム世界内で行われているゲームプレイに関連付けられた音声を生成するように構成される。詳細には、一意の音声信号が、メインビュー及び観客ビューのそれぞれに対して生成されてもよく、各音声信号は、対応するビューが生成された位置に基づいて生成される。例えば、メインビューが、特定のPOVから生成され、ゲームプレイ全てからの音声が、そのPOVでメインビューに対して生成された音声内に反映される。同様に、各観客ビューに対する音声が、各POVに対してローカライズされてもよい。例えば、クラウドゲームプロバイダ112及び/またはバックエンドエンターテイメントサーバ250は、ゲームプレイから音声を生成してよく、ローカリゼーションモジュール754は、ゲーム世界内の特定の位置に固有のローカリゼーションを通じて音声を修正できる。
リモート観客マネージャ750は、ゲーム世界内に位置する観客アバタの動きを追跡するように構成された近接性決定モジュール755を含む。例えば、1人または複数のリモートユーザは、1つまたは複数のPOVからゲームプレイを動的に観戦してもよい。各POVは、ゲーム世界内に置かれ、観客ビューを通じてライブイベントに参加している他のリモートユーザに見える観客アバタに対応してもよい。観客アバタは、ゲーム世界内で動くように制御可能であってもよい。従って、近接性決定モジュール755は、2つの観客アバタがゲーム世界内で近接している時を決定できる。例えば、2つの観客アバタは、会話できるほど十分に近い場合がある。従って、通信ペアリングモジュール756は、観客アバタを制御するリモートユーザに関連付けられたデバイス間に通信チャネルを作成するように構成される。例えば、デバイスは、ヘッドマウントディスプレイ(HMD)であってもよい。このようにして、リモートユーザは、マルチプレイヤゲームアプリケーションをプレイしている1人または複数のユーザのゲームプレイから生成されている音声とは別に会話を行ってもよい。
図8は、本開示の一実施形態による、ゲーム世界の1つまたは複数の観客ビューを含むインタラクティブなゲーム世界800の図である。インタラクティブなゲーム世界への(例えば、ゲームプレイを通した)プレイヤの参加が可能になる。本開示の一実施形態による、ゲーム世界800は、例示的であり、説明だけのために、ゼウスの息子クレイトスと敵の戦闘員との戦闘シーンを示し、戦闘シーンは、SONY Computer Entertainment発行のゴッド・オブ・ウォー・ゲームアプリケーションの1つまたは複数のゲームプレイ内で生成されている。詳細には、ゲーム世界800は、1人または複数のユーザの1つまたは複数のゲームプレイを通じて生成されてもよい。例えば、ゲームプレイは、ライブeスポーツイベントでゲームアプリケーションをプレイしている1人または複数のプロのゲーマーに関連して生成されてもよい。前述のように、ゲームプレイは、聴衆が見て楽しむために、eスポーツアリーナ内に表示されてもよい。
純粋に説明だけのために、ゲーム世界800は、クレイトス830と敵の戦闘員820との戦いを含み得る。ゴッド・オブ・ウォー・ゲームアプリケーションにおいて、クレイトスは、ギリシャ神話のスパルタの戦士であり、ゴッド・オブ・ウォーであるアレスを殺す任務を負っている。ゲーム世界において、プレイヤは、クレイトスを制御してもよい。図8に示すゲーム世界800は、ゴッド・オブ・ウォーのゲームプレイに関連した1つの戦闘のみを含み得るが、他のゲーム世界は、複数のプレイヤによって制御される複数のゲームプレイを含んでもよい。
ゲーム世界800の複数のビューが生成されてもよい。例えば、クラウドゲームプロバイダ112、エンターテイメントサーバ250、または、ゲーム機は、1つまたは複数のゲームプレイの生成に関連して、複数のビューを生成してもよい。他の実施形態においては、リモートプレイヤマネージャ750の観客ビュー生成部751は、独立して、または、クラウドゲームプロバイダ112、エンターテイメントサーバ250、実世界会場のサーバ235、及び/または、ゲーム機と共に、ビューを生成するように構成される。詳細には、ゲーム世界800の第1の観客ビューは、第1の位置から生成されてもよい。
例えば、POV810aは、第1の観客ビューに対応してよく、クレイトス830と敵820との戦闘の正面ビューとして示されてもよい。第1の観客ビューは、クレイトス830等のキャラクタのPOVに関連付けられてもよい。すなわち、第1の観客ビューは、クレイトス830のビューの視点から取得されてもよい。一実施形態においては、第1の観客ビューは、主なコンテンツとして、リモートユーザのHMDのディスプレイに投影されてもよい。第1の観客ビューは、ゲームアプリケーションをプレイしている複数のプロのゲーマーのゲームプレイを見せるeスポーツアリーナのビュー等、ライブイベントを開催している実世界の会場のライブビューと対照的であってもよい。HMDは、実世界会場のライブビュー、ハイブリッドビュー、もしくは、拡張現実ビュー、または、観客ビューの1つを表示するように選択可能であってもよい。
インタラクティブなゲーム世界の追加の観客ビューも生成されてもよい。ゲーム世界のこれらの観客ビューは、1人または複数のユーザ(例えば、プロのゲーマー)によって制御されるように、ゲームアプリケーションの実行を通じて生成されているゲームプレイのビューである。図に示すように、観客ビューは、1つまたは複数のPOV(例えば、POV810a、810b、810c、810d、810e、810f、810g、及び、810h)の視点から生成される。すなわち、観客ビューは、インタラクティブなゲーム世界の任意のビューであってもよい。これらのPOVの位置は、予め指定されてもよい、または、リモートユーザによって選択可能であってもよい。様々な位置は、ゲーム世界内に生成されている戦闘を囲んでもよい。例えば、POV810cは、クレイトス830の背後から取得され、POV810fは、敵820の背後から取得され、POV810hは、戦闘の側面から取得される。このようにして、複数の異なる観客ビューが、リモートユーザが見るために提示されてもよい。
さらに、各位置で、対応するビューが、その位置から上方に延びる垂直な線に沿った任意の数の点から取得されてもよい。例えば、ビューは、戦闘を見上げているように、地面の近くから取得されてもよい。ビューは、通常の人間(または、ゲームアプリケーション内のキャラクタ)の目の高さの近くで取得されて、クレイトス830と敵820との戦闘のゲーム世界の通常のビューを提供してもよい。さらに、ビューは、クレイトス830と敵820との戦闘を見下ろす上からのビューを提供するように上方から取得されてもよい。
図9は、本開示の一実施形態による、リモートユーザによるインタラクションのためのインタフェース900の図であり、インタフェースは、リモートユーザが選択可能なゲーム世界の1つまたは複数の観客ビューのウィンドウを含む。詳細には、インタフェースは、前述のインタフェース生成部750によって生成されてもよく、インタラクションのためにリモートユーザに配信されてもよい。例えば、インタフェースは、リモートユーザが装着しているHMDに送られてもよい。このようにして、インタフェースは、HMD内に表示されているメインコンテンツに挿入されてもよく、メインコンテンツは、ライブイベント(例えば、eスポーツイベント)を開催している実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューであってもよい。一実施態様においては、インタフェースは、メインコンテンツ上に重ね合わされてもよい。別の実施態様においては、インタフェースは、HMDに目立つように表示されているメインコンテンツであってもよい。
インタフェース900は、1人または複数のユーザ(例えば、eスポーツイベントに参加しているプロのゲーマー)によって制御されるように、対応するゲームアプリケーションの実行を通じて生成されているゲームプレイに関連付けられたゲーム世界の選択されたビューを表示するウィンドウ920を含む。選択されたビューは、図8で前述したように、ゲーム世界のPOV810aから取得されてもよい。具体的には、選択されたビューは、クレイトス830と敵820との戦闘の正面ビューを含む。ウィンドウ920は、前述した観客ビューのいずれか(例えば、POV810b〜810hの1つ)を表示してもよい。視聴者に関心のあるビューの選択を以下に記載する。
詳細には、インタフェース900は、リモートユーザとインタラクションするために構成された選択ウィンドウ910を含む。すなわち、選択ウィンドウ910は、1つまたは複数のプレビューウィンドウ(例えば、910a、910b、910c、910d、910e、910f、910g、及び、910h)を含む。各プレビューウィンドウは、図8に前述した観客ビュー等、ゲーム世界800の観客ビューの1つを含む。例えば、ウィンドウ910aは、POV810aから取得した観客ビューを含み、ウィンドウ910bは、POV810bから取得した観客ビューを含み、ウィンドウ910cは、POV810cから取得した観客ビューを含み、ウィンドウ910dは、POV810dから取得した観客ビューを含み、ウィンドウ910eは、POV810eから取得した観客ビューを含み、ウィンドウ910fは、POV810fから取得した観客ビューを含み、ウィンドウ910gは、POV810gから取得した観客ビューを含み、ウィンドウ910hは、POV810hから取得した観客ビューを含む。プレビューウィンドウ920は、1つまたは複数のプレビューウィンドウを含んでもよい。
対応するプレビューウィンドウのシーンは、一実施形態においては、定期的に更新される静止画像であってもよい。他の実施形態においては、対応するプレビューウィンドウは、(例えば、ゲームアプリケーションのゲームプレイ内で生成されている)ライブ、または、頻繁に更新されるので、(例えば、第2の更新まで)ライブに見える。他の実施形態においては、更新期間は、リアルタイムより遅くてもよい(例えば、1秒毎、5秒毎、10秒毎、20秒毎等)。プレビューウィンドウに提示される画像の解像度は、メインウィンドウ920に対して生成される解像度より低い解像度、または、等しい解像度であってもよい。
図9に示すように、プレビューウィンドウ910aが、視聴者によって選択される。従って、観客ビュー810aがインタフェース900で視聴するためにメインウィンドウ920に表示される。プレビューウィンドウの選択は、任意の数の方法で実施されてもよい。例えば、手認識制御が、実施されてもよく、または、コントローラ操作を介してもよい。
例えば、1つのボタンが、プレビューウィンドウのスクロールに使用でき、第2のボタンが特定のプレビューウィンドウの選択に使用できるコントローラ方法が実施されてもよい。プレビューウィンドウが選択されると、対応する観客ビューが、大きいウィンドウ920内に表示されてもよい。第3のボタンは、選択解除に使用されてもよく、第3のボタンを複数回、作動させて、大きいウィンドウのビューをPOV810aに対応するメインビューに戻してもよい。さらに他の実施態様は、クリック、または、物体(例えば、眼、手等)の動きを通じて移動及び/または選択されてもよいポインタを含む。
インタフェースは、トリガイベントで、HMDの表示から取り除かれ、そうすると、HMDは、再び、メインコンテンツに占められる。トリガイベントは、メインコンテンツ(例えば、実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビュー)に戻す役割の複数回の戻るボタンの連続であってもよい。トリガイベントは、メインコンテンツに戻ることを示す任意の他の信号(例えば、手の動き)であってもよい。
トリガイベントは、実世界の会場内のイベントであってもよい。例えば、実世界の会場内のメインディスプレイは、インタラクティブなゲーム世界のビューを示していてよく、放送アナウンサは、メインディスプレイに示されているゲームプレイの実況放送を行っている。観客ビューが(例えば、インタフェースを通じて、または、メインコンテンツとして)HMDに示されている時、ゲームプレイ間の切り替えがあると、HMDの表示は、聴衆及び放送者にとって矛盾がないように、実世界会場のビューに戻ってもよい。
図10は、本開示の一実施形態による、ゲーム世界1000内の所与の位置に対して生成されている観客者視点のスケール合わせの図である。前述のように、ゲーム世界は、1人または複数のユーザによって制御されるように、ゲームアプリケーションに対して実行されているゲームプレイに関連して生成される。例えば、ゲーム世界は、ライブeスポーツイベントに関連して生成されてもよく、ゲームアプリケーションは、1人または複数のプロのゲーマーによってプレイされている。
図10に示すように、ゲーム世界1000は、ピラミッド1010を含む。例えば、ゲームアプリケーションは、ゲーム世界内に1つまたは複数の物理的なまたは仮想の位置の三次元(3D)ビューを提供してもよい。3Dビューは、実際のビューまたは仮想ビューとして生成されてもよい。さらに、ゲーム世界1000は、ゲームアプリケーションによって生成されるように、完全に架空であってもよい。
一実施形態においては、1つまたは複数の観客のビューが、ゲーム世界1000に対して生成されてもよい。これらの観客ビューは、対応する観客アバタの視点から生成されてもよい。例えば、観客ビューは、アバタ1050に対して生成されてもよい。観客ビューは、線1030a、1030b、1030c、及び、1030dによって区切られる。観客ビューは、アバタ1050の位置から異なる距離にあるビューイングボックスによってさらに規定されてもよい。例えば、近くのビューイングボックス1020aと遠くのビューイングボックス1020bは、それぞれ、境界線1030a〜1030dによって規定される。詳細には、ビューイングボックス1020a及び1020bは、アバタ1050の特定の向きに対して、ゲーム世界の観客ビューを規定してもよい。例として、観客ビューは、図8のビュー810b〜810hの1つであってもよい。
図に示すように、境界線1030a〜1030dによって規定された観客ビューは、ピラミッド1010のビューを含む。例えば、アバタ1050は、遠くに(例えば、ピラミッド1010から1〜2マイル)に位置してよく、境界線1030a〜1030dによって規定された観客ビューは、ピラミッド1010の遠くのビューである。アバタ1050は、地面1060(例えば、エジプトの砂漠)に立っている。
詳細には、観客ビューは、観客ビュー内の物体が、視聴者(例えば、リモートユーザ)の所与の大きさに適切にスケールを合わせられるように、生成される。例えば、アバタは、適切な大きさの人間(例えば、子供、大人等)に合わせて生成される観客ビューを生成してもよい。すなわち、アバタのPOVは人間の大きさである。従って、観客ビューの物体は、そのPOVに適するようにスケールを合わせられる。従って、物体は、小さすぎず、大きすぎない。それに応じて、観客ビューのPOVに関連付けられたアバタ1050の大きさも、大きすぎず、小さすぎず、例えば、人間の適切な大きさになる。このようにして、観客ビュー内の物体が適切な大きさなので、観客ビューは、リモートユーザにとって最もなじみやすい。例えば、エジプトのピラミッドの観客ビューを示すアプリケーションは、巨大な巨人または小さいねずみの視点からではなく、典型的な人間の視点から取得される。
さらに、観客ビューの物体のスケール合わせは、アバタ1050がゲーム世界を通じて移動するので、矛盾のないままである。従って、アバタ1050がゲーム世界1000を移動すると、ピラミッド1010は、適切にスケールが合ったままである。
図11は、本開示の一実施形態による、図10に最初に紹介されたゲーム世界1000内の2つの観客アバタ間のインタラクションの図であり、2人のリモートユーザ間の通信チャネルは、対応する観客アバタ同士が近接している時、確立される。例えば、ゲーム世界1000は、世界の1つまたは複数の物理的または仮想の位置の3Dビューを提供してよく、3Dビューは、実際のビューまたは仮想ビューとして生成されてもよい。図に示すように、ゲーム世界1000は、ピラミッド1010a、1010b、及び、1010cを含んでもよい。
ゲーム世界1010において、地面1060が示される。アバタ1050も、図10に前述したように、地面1060に示される。例えば、図10の観客1050に対して生成されたビューと矛盾しないように、アバタ1050は、ピラミッドから約1〜2マイルに位置してもよい。
さらに、複数の観客アバタも、ゲーム世界1000内に置かれる。例えば、アバタのグループ1120は、アバタ1050よりピラミッドl010a〜1010cの近くに置かれる。すなわち、グループ1120は、ピラミッドから半マイル内にいてもよい。他の観客アバタもゲーム世界1000に示される。観客アバタの1つまたは複数は、対応するリモートユーザによって制御されてもよい。
観客アバタ1110もゲーム世界1000に示される。アバタ1110は、観客アバタ1050を制御するリモートユーザ(例えば、第1のリモートユーザ)とは別の他のリモートユーザ(例えば、第2のリモートユーザ)によって制御される。詳細には、アバタ1050は、第1のリモートユーザによって制御され、アバタ1050は、ゲーム世界1000の特定の位置1051に置かれる。観客ビューは、第1のリモートユーザに対して、アバタ1050に関連付けられたPOVから生成される。
同様に、アバタ1110は、第2のリモートユーザによって制御され、アバタ1110は、ゲーム世界1000の他の位置に置かれる。アバタ1110は最初に、ゲーム世界1000の点1111に置かれ、第2のユーザによる制御を通じて、経路1119に沿ってゲーム世界の位置1115に動かされる。観客ビューは、アバタ1110に関連付けられたPOVから経路1119に沿った様々な位置に生成される。
一実施形態においては、2人のリモートユーザは、ゲーム世界1000を通じて互いにインタラクトできる。すなわち、各アバタ1110及び1050の観客ビューは、それぞれ、おそらく、他のアバタを含み得る。例えば、アバタ1110の観客ビューは、アバタ1050を含んでよく、アバタ1050の観客ビューは、アバタ1110を含んでもよい。詳細には、近接性決定モジュール755は、アバタ1110が(第1のリモートユーザによって制御される)アバタ1050に近接している時を決定するように構成される。
観客ビューは、ゲーム世界の特定の位置から生成されているので、これらのPOV位置は、追跡されてもよい。従って、2つの異なる観客ビューに関連付けられた2つのアバタ1050及び1110が近接している時、通信ペアリングモジュール756は、交信を可能にするために、第1のリモートユーザと第2のリモートユーザとをペアにする通信チャネルを確立してもよい。例えば、バックエンドエンターテイメントサーバ250は、通信チャネルを確立するように構成されてもよい。このようにして、アバタ1110とアバタ1050が近接している(例えば、2人の人間が無理なく会話し得る距離の)時、通信チャネルは、確立され、自動的に有効にされる。実世界と同様に、2人の人の間の会話は、大掛かりな準備なく生じ得る。
一実施形態においては、観客ビューは、ゲームアプリケーションによって実行されるようにゲームプレイの結果に影響を与えることを意図していない。しかしながら、他の観客の参加者とさらにインタラクトするために、観客ビューを見ているリモートユーザは、対応するゲームプレイを制御しているユーザ(例えば、eスポーツイベントのプロのゲーマー)の1人とインタラクトしてもよい。例えば、eスポーツイベントは、ライブゴルフトーナメントであってよく、プロのゲーマーは、ゴルフゲームアプリケーションをプレイしている。リモートユーザは、ゲームアプリケーションのゲーム世界の1つまたは複数のアバタに対応する1つまたは複数の観客のビューを通じてeスポーツイベントに仮想で参加してもよい。一実施態様においては、対応するリモートユーザの観客アバタが、ゲームプロフェッショナルが制御するキャラクタに接近すると、2人が通信し得るように、ペアリングされた通信チャネルを通じてペアリングが確立されてもよい。例えば、リモートユーザは、ゲームプロフェッショナルに対してグリーンの傾斜に関する助言またはヒントを与えてもよい。
本開示の一実施形態による、マルチプレイヤゲームアプリケーションをプレイするユーザの1つまたは複数のゲームプレイに関連付けられたゲーム世界の1つまたは複数のビューを提供するように構成されたリモート観客マネージャの様々なモジュールの詳細な記載と共に、観戦の方法を、図12のフロー図1200に関して記載する。フロー図1200におおまかに記載した方法は、実施形態において、図2A、2B、及び、7Aの1つまたは複数のシステム及び/または構成要素によって実施される。
例えば、ゲームアプリケーションは、実世界の会場で開催されたライブイベント(例えば、eスポーツイベント)に関連するゲームアプリケーションの実行を通じてマルチプレイヤゲームセッションを促進するように実行されてもよく、1人または複数のプロのゲーマーは、ゲームセッション内のゲームアプリケーションをプレイしてもよい。ライブの聴衆は、実世界の会場のライブイベントに出席しており、より多くのリモートユーザも、前述のように、仮想の出席者または参加者としてライブイベントに参加できる。
方法は、操作1210で始まり、ゲームアプリケーションの実行を通じて複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立することを含む。すなわち、プレイヤは、ゲームセッションを通じてゲームアプリケーションをプレイしている。マルチプレイヤゲームセッションは、プレイヤの参加を可能にするインタラクティブなゲーム世界を生成する。ライブイベントは、複数のプレイヤが存在する実世界の会場である。例えば、ライブイベントは、アリーナで開催されるeスポーツイベントであってもよい。他の例においては、ライブイベントは、アリーナまたはスタジアムで開催されるスポーツイベントであってもよい。劇場のショー、音楽コンサート等、他のライブイベントが企図される。ゲームセッションは、ゲームセッションを示す実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを生成するように構成されたクラウドベースゲームサーバまたはエンターテイメントサーバ等、サーバで作成及び管理されてもよい。
1220において、方法は、1つまたは複数の撮影されたビデオストリームに基づいて、サーバで、実世界の会場の三次元(3D)ライブビューを生成することを含む。3Dライブビューは、ライブイベントの物理的視点(POV)に対して生成され、物理的POVは、実世界の会場の物理的位置に固定される。詳細には、撮影されたビデオストリームは、実世界の会場内の1つまたは複数のビデオキャプチャ装置から撮影される。撮影されたビデオストリームの1つまたは複数に基づいて、実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューも生成されてもよい。すなわち、実世界の会場のあらゆる位置に対して、会場のビューが、撮影されているビデオストリームのサブセットを用いて生成されてもよい。
従って、ビデオストリームの第1のサブセットを使用して、第1の座席からの会場の第1のビューを生成してよく、ビデオストリームの第2のサブセットを使用して、第2の座席から会場の第2のビューを生成してもよい。ビューは、実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューであってもよい。例えば、第1のビューに関して、ビューは、撮影されたビデオストリームの第1のサブセットからのビデオフレームをつなぎ合わせることによって生成されてもよい。
同様に、実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューは、ローカライズされた音声を用いて強調されてもよい。すなわち、音声は、会場の各位置に対して捕捉された音声ストリームの一意のサブセットを用いて生成される。
1230において、方法は、サーバから第1のリモートユーザのHMDにネットワークを介して3Dライブビューをストリーミングすることを含む。第1のリモートユーザは、ユーザの家のリビングルーム内等、実世界の会場の外にいる。ユーザは、異なるブロック、市、郡、州、及び/または、国にいる場合さえあり得る。すなわち、第1のリモートユーザは、実世界の会場のライブイベントに物理的に参加していないが、本発明の実施形態を通じて、実世界の会場のライブビュー、ハイブリッドビュー、及び/または、拡張現実ビューを通じてライブイベントに仮想で出席してもよい。詳細には、3Dライブビューは、ヘッドマウントディスプレイ(HMD)を通じて第1のリモートユーザにライブイベントの拡張現実ビューを提示する。前述のように、ライブビューは、ライブイベントを開催している実世界の会場の特定の位置に対して生成され、会場の1つまたは複数の位置から収集された1つまたは複数のビデオ記録及び音声記録に基づいている。
一実施形態においては、方法は、実世界の会場の物理的POVに対してローカライズされた3Dライブビューの音声を生成することを含む。一般に、音は、実世界の会場全体から生成されている。従って、実世界の会場の特定の物理的位置で収集または体験されている音声は、他の位置で体験されている音声と異なって聞こえる。例えば、会場のステージと多くのステージスピーカに近い第1の位置は、ステージから離れた位置と異なって聞こえる。従って、ライブビューに対して生成される音声は、物理的POVに対して(すなわち、実世界の会場内の物理的POVの位置に基づいて)ローカライズされる。すなわち、物理的POVに対して、遠くの音は弱められ、会場内の近くの音は増幅される。さらに、ライブビューは、ローカライズされた音声と合致している。このようにして、ライブビューを見ている第1のリモートユーザは、拡張現実空間のゲーム世界に参加できる。
1240において、方法は、インタラクティブなゲーム世界の観客としてゲームセッションに飛び込む要求を第1のリモートユーザから(例えば、ユーザに関連付けられたデバイスから)サーバで受信することを含む。第1のリモートユーザは、インタラクティブなゲーム世界の仮想位置によって規定される第1の仮想POVからインタラクティブなゲーム世界を観戦することになる。
1250において、方法は、第1のリモートユーザのHMDに表示するためにネットワークを介して第1の観客ビューを配信することを含む。第1の観客ビューは、インタラクティブなゲーム世界の仮想現実ビューを、HMDを通じて第1のリモートユーザに提示する。従って、リモートユーザは、(ライブイベントを見せる)実世界の会場の拡張現実ビューと、HMD内のマルチプレイヤゲームセッションの仮想現実ビューとを切り替えることができる。一実施形態においては、ライブビューの配信は、第1の観客ビューをHMDに伝える前に、停止または一時停止される。
他の実施形態においては、第1の観客ビューから飛び出るための要求が、第1のリモートユーザ(例えば、ユーザのデバイス)から生じ、サーバで受信される。このようにして、第1の観客ビューの配信は、一時停止及び/または終了され、ライブビューの配信が開始される。すなわち、サーバからネットワークを介して第1のリモートユーザのHMDへの3Dライブビューの配信が開始される。
一実施形態においては、インタラクティブなゲーム世界の複数の観客ビューが生成される。観客ビューは、ゲーム世界内を見て、それぞれ、インタラクティブなゲーム世界の対応するPOVから取得される。複数の観客ビューは、第1の仮想POVから生成された第1の観客ビューを含む。さらに、方法は、複数の観客ビューを提示する複数のプレビューウィンドウを含むインタフェースを生成することを含む。プレビューウィンドウが、インタラクト(例えば、スクロール)されると、第1の観客ビューの画像は、動画になってもよく、または、拡大されてもよく、そして、音声が、リモートユーザに聞こえるように起動されてもよい。この時点で、プレビューウィンドウは、以下に記載するように、追加の視聴のために選択されていなくてもよい。
さらに、インタフェースが、第1のリモートユーザのHMDに表示するためにネットワークを介して配信される。一実施形態においては、インタフェースは、ライブビューの一部にオーバーレイされるように、3Dライブビューに挿入される。さらに、音声は、観客ビューに関連付けて提供されてもよい。従って、第1のリモートユーザは、特定のプレビューウィンドウの観客ビューを選択してよく、この場合、メインウィンドウは、選択された観客ビューを表示してもよい。例えば、第1のリモートユーザによる第1のプレビューウィンドウの選択が、サーバで受信される。第1のプレビューウィンドウは、第1の観客ビューに対応する。選択、及び、サーバが選択を受信すると、第1の観客ビューが、第1のリモートユーザのHMDに配信され、音声が、リモートユーザが聴くために起動される。詳細には、インタフェースの配信は、一時停止及び/または終了され、サーバから第1のリモートユーザのHMDへの第1の観客ビューの配信が開始される。従って、第1の観客ビューは、実世界の会場のライブビューの代わりに、メインコンテンツとして表示される。
一実施形態においては、インタフェースは、プレビューウィンドウの観客ビューの1つを表示するように構成されたメインウィンドウを含み、メインウィンドウは、プレビューウィンドウより大きい。前述のように、対応するプレビューウィンドウは、ゲーム世界内で視聴するために用意された観客ビューのプレビューを表示し、音声と共に静止画または更新された画像を含み得る。このようにして、リモートユーザは、1つまたは複数の観客ビューをプレビューできる。
さらに、インタフェースは、リモートユーザによるインタラクションのためにリモートユーザのシステムに配信される。例えば、リモートユーザは、特定のプレビューウィンドウの観客ビューを選択してよく、この場合、メインウィンドウは、選択された観客ビューを表示してもよい。詳細には、方法は、インタフェースで第1のプレビューウィンドウの選択を受信することを含み、第1のプレビューウィンドウは、観客ビューまたは選択された観客ビューに関連付けられる。方法は、一実施態様においては、インタフェースのメインウィンドウに選択された観客ビューを提示することを含む。別の実施態様においては、選択された観客ビューは、前述のように、第1のリモートユーザのHMDに表示するために、メインコンテンツに拡大されてもよい。
一実施形態においては、第1の観客ビューは、ゲームサーバによって、ゲーム世界の第1の仮想POVから生成される。例えば、前述のように、第1の観客ビューは、対応するユーザ(例えば、eスポーツイベントのプロのゲーマー)によって制御されるキャラクタに関連付けられたPOVであってもよい。第1の観客ビューは、予め指定されたPOVから取得されてもよい。さらに、第1の観客ビューは、ゲーム世界内で生じている多くのゲームプレイの1つにフォーカスしてよく、各ゲームプレイは特定のプレイヤ(例えば、マルチプレイヤゲームセッションをプレイするプロのゲーマー)に関連付けられる。
このようにして、ゲーム世界の第1の観客ビューは、HMDを通じて見ている第1のリモートユーザにとって身近で個人的なものであり、ゲーム世界のアクションの遠くのビューを通した限定されたものではない。すなわち、アクションへのビューが近ければ近いほど、ゲーム世界を仮想で視聴している第1のリモートユーザにとって、より良くなる。さらに他の実施形態においては、第1の観客ビューは、マルチプレイヤゲームセッション(例えば、eスポーツイベント)を見せる実世界の会場のライブビューであってもよい。
前述のように、第1の観客ビューは、視聴者と一致した視点に対して適切にスケールを合わせられた物体を含む。例えば、物体は、対応する観客アバタを通じて表現されるゲーム世界の人間の観客に対応するPOVと矛盾しないように、スケールを合わせられる。このようにして、ゲーム世界の体験は、リモートユーザがゲーム世界内に実際に物理的にいるかのように一致する。これは、ゲーム世界が、博物館ツアー、または、世界の休暇地にいる時等、実世界の体験を提供する時、特に有益である。
例えば、方法は、第1のリモートユーザを表す第1のアバタと、第2のリモートユーザを表す第2のアバタとを含むインタラクティブなゲーム世界を含んでもよい。第2のリモートアバタは、ゲーム世界を観戦しており、第1のアバタに近接してもよい。例えば、第2のリモートユーザは、インタラクティブなゲーム世界の第2の観客ビューを受信し、第1のリモートユーザは、(例えば、第1の仮想POVで)ゲーム世界の第1の観客ビューを受信する。2つのアバタ同士が近接していると決定されると、第1のリモートユーザと第2のリモートユーザは、通信チャネルを2人のユーザ間に確立して、その通信チャネルを介して2人のユーザ間で交信できるように、ペアにされる。
一実施形態においては、方法は、第1の仮想POVに対してローカライズされる観客ビューに対する音声を生成することを含む。一般に、ゲーム世界は、1つまたは複数のゲームプレイからの音声を含む。説明として、ゲーム世界は、戦場で行われている大刀での戦いとして記載されてもよく、ここでは、競技者は、互いに接近戦を戦っている。音は、戦場全体から生成されている。従って、ゲーム世界内の特定の位置で収集または体験されている音声は、他の位置で体験されている音声とは異なって聞こえる。
例えば、2つのキャラクタの戦いに近い第1の位置は、戦場で行われている全ての接近戦から離れた位置(例えば、指揮官がいる見晴らしの良い位置)とは異なって聞こえる。従って、観客ビューに対して生成されている音声は、第1の仮想POVに対して(すなわち、ゲーム世界内の第1の仮想POVの位置に基づいて)ローカライズされる。すなわち、第1の仮想POVに対して、遠くの音は弱められ、ゲーム世界内の近くの音は増幅される。さらに、第1の観客ビューは、ローカライズされた音声と合致している。このようにして、第1の観客ビューを視聴している第1のリモートユーザは、仮想でゲーム世界に参加できる。
本発明の実施形態は、シングルプレイヤモード(例えば、プレイヤがゲームアプリケーションをプレイしている)またはマルチプレイヤモード(複数のプレイヤが、ゲームセッション内で一緒にゲームアプリケーションをプレイしている)のどちらかで、オンラインまたはネットワークゲームの実施態様にも適用できる。オンラインまたはネットワークゲームの実施態様は、必ずしもライブイベントに関連付けられなくてもよい。例えば、クラウドゲームプロバイダ112は、ゲーマーがプレイしているゲームアプリケーションを維持及び実行してもよい。さらに、クラウドゲームプロバイダ112は、1人または複数のゲーマーを支援するゲームアプリケーションのマルチプレイヤゲームセッションを確立及び管理してもよい。
シングルプレイヤモードまたはマルチプレイヤモードにおいて、クラウドゲームプロバイダは、1人または複数のゲーマーからのゲーマー入力を処理して、実行しているゲームアプリケーションのゲーム状態(複数可)に影響を及ぼす。さらに、ゲームシステム1400は、シングルプレイヤモードまたはマルチプレイヤモード及び/またはゲームセッションを支援するオンラインまたはネットワークゲームを実施するように構成されてもよい。
さらに、ゲーマーは、プレイヤの視点と、1つまたは複数の飛び込みビューもしくは観客ビューとの両方から、自分のアクションのビューに参加及び受信するオプションを有してもよい。このオプションは、シングルプレイヤモード及び/またはマルチプレイヤモード内で実施可能である。すなわち、ゲーマーは、インタラクティブなゲーム世界内の複数の視点から自分のアクションを見ることができる。さらに、ゲーマーは、前述のように、ゲーマーのアクションを必ずしも含まなくてもよい追加の観客ビューを見ることができる。すなわち、ゲーマーは、観客ビューを通じて他のゲーマーのアクションのビューを選択してもよい、または、インタラクティブなゲーム世界の任意の部分を見ることを選んでもよい。
例として、マルチプレイヤゲームセッションが、サッカーの試合に対して確立されてもよく、各サイド11人のプレイヤからなる2つのチームが、(例えば、トーナメントモードで)オンラインサッカーゲームをプレイするために署名した。1人のゲーマーが最初に一方のチームのゴールキーパとして開始する。そのゲーマーに関して、ゲームがプレイされていると、ボールがゴールキーパのゴールの方に来ない限り、アクションが持続しなくてもよい。ゲーマーは、ペナルティキックの状況では非常に忙しく、ゲーマーが、アクションの中心にいて、ホイッスルでボールを止めることに集中している。その瞬間、ゲーマーは、各HMDの内の主なビューを受信して、実際のゴールキーパの体験をシミュレーションする。完全に没入して、ゲーマーは、ペナルティキックが行われるとすぐに、ボールを止める反応をする。
このようにして、ゲーマーは、非常に没入型の現実に近い体験をして、プレイヤのビューでネットワークゲームをプレイする。他方、ゴールキーパとしてのゲーマーは、ゴールキーパが絶えずフィールドを走っているわけではないので、始終、集中してアクションに関与しなくてもよく、ゴールを囲む18ヤードのボックス内に主にいる。これも、ゴールキーパの没入型で現実に近い体験に一致する。
しかしながら、本発明の実施形態は、ゴールキーパをプレイしているゲーマーに、ゴールキーパが見ているものを超えたインタラクティブなゲーム世界(サッカーのピッチ)の1つまたは複数の観客ビュー等、1つまたは複数のビューを提供するように構成されてもよい。さらに、ゴールキーパをプレイしているゲーマーが、他のゲーマーと交代することを可能にしてもよい。すなわち、本発明の実施形態は、ゴールキーパをプレイしているゲーマーが他のゲーマーと交代して、(例えば、同じチームまたは反対チームの)センターフォワードになる等、ゲーマーに役割を切り替える追加の柔軟性を提供する。このようにして、マルチプレイヤゲームセッションをプレイしているプレイヤにより多くの興奮を与える。
図13は、開示の実施形態による、ヘッドマウントディスプレイ102の構成要素を示す図である。ヘッドマウントディスプレイ102は、プログラム命令を実行するプロセッサ1300を含む。メモリ1302は、記憶のために備えられ、揮発性及び不揮発性の両方のメモリを含み得る。ユーザが見ることができる視覚インタフェースを提供するディスプレイ1304が含まれる。電池1306は、ヘッドマウントディスプレイ102の電源として備えられる。動作検出モジュール1308は、磁力計1310、加速度計1312、及び、ジャイロスコープ1314等、様々な種類の動作感知ハードウェアのいずれかを含んでもよい。
加速度計は、加速度及び重力により誘発される反力を測定するデバイスである。単軸及び多軸のモデルは、異なる方向の加速度の大きさ及び方向を検出できる。加速度計は、傾斜、振動、及び衝撃を感知するために使用される。一実施形態においては、3つの加速度計1312を使用して重力の方向を提供し、重力の方向は、2つの角度(世界空間ピッチ及び世界空間ロール)の絶対基準を与える。
磁力計は、ヘッドマウントディスプレイの近傍で磁場の強さと方向とを測定する。一実施形態においては、3つの磁力計1310はヘッドマウントディスプレイ内で使用され、世界空間ヨー角度の絶対基準を保証する。一実施形態においては、磁力計は、±80マイクロテスラである地球磁場にわたるように設計される。磁力計は、金属の影響を受け、実際のヨーと単調であるヨー測定値を提供する。磁場は、環境の中の金属のために歪められ、このことがヨー測定の歪みを生じさせる。必要に応じて、この歪みは、ジャイロスコープまたはカメラ等の他のセンサからの情報を使用して、較正されてもよい。一実施形態においては、加速度計1312は、磁力計1310と共に使用されて、ヘッドマウントディスプレイ102の傾斜とアジマスとを取得する。
ジャイロスコープは、角運動量の原理に基づいて向きを測定または維持するデバイスである。一実施形態においては、3つのジャイロスコープ1314が慣性感知に基づいて各軸(x、y、z)に対する移動に関する情報を提供する。ジャイロスコープは高速回転を検出するのに役立つ。しかしながら、ジャイロスコープは、絶対基準が存在しなければ、経時的にドリフトし得る。このことは、ジャイロスコープの定期的なリセットを必要とし、リセットは、物体の視覚的追跡、加速度計、磁力計等に基づいた位置/向きの決定等、他の入手可能な情報を使用して行ってもよい。
カメラ1316は、実環境の画像及び画像ストリームを撮影するために備えられる。後ろを向いている(ユーザがヘッドマウントディスプレイ102のディスプレイを見ている時にユーザから離れる方に向けられた)カメラと、前を向いている(ユーザがヘッドマウントディスプレイ102のディスプレイを見ている時にユーザの方に向けられた)カメラとを含む複数のカメラがヘッドマウントディスプレイ102に含まれてもよい。さらに、デプスカメラ1318が、実環境の物体の奥行情報を感知するためにヘッドマウントディスプレイ102に含まれてもよい。
一実施形態においては、HMDの前面に一体化されたカメラを使用して、安全に関する警告を提供してもよい。例えば、ユーザは、壁または物体に接近している場合、警告を受けてもよい。一実施形態においては、ユーザは、部屋の中の物理的物体の存在をユーザに警告するために、物理的物体の輪郭を提供されてもよい。輪郭は、例えば、仮想環境のオーバーレイであってもよい。ある実施形態においては、HMDユーザは、例えば、床にオーバーレイされた基準マーカのビューを提供されてもよい。例えば、マーカは、ユーザがゲームをプレイしている部屋の中央がどこであるかの基準をユーザに提供してもよい。これは、例えば、ユーザが部屋の壁または部屋の中の他の物体にぶつかるのを避けるためにどこに動くべきかの視覚情報をユーザに提供してもよい。触覚警告もユーザに提供されてもよい、及び/または、ユーザがHMDを装着し、HMDを用いてゲームをプレイし、コンテンツをナビゲートしている時、より安全なように音声警告も提供されてもよい。
ヘッドマウントディスプレイ102は、音声出力を提供するためのスピーカ1320を含む。また、マイクロフォン1322が、周囲環境からの音、ユーザが行う発話等を含む、実環境からの音声を捕捉するために含まれてもよい。ヘッドマウントディスプレイ102は、ユーザに触覚フィードバックを提供する触覚フィードバックモジュール1324を含む。一実施形態においては、触覚フィードバックモジュール1324は、ユーザに触覚フィードバックを提供するようにヘッドマウントディスプレイ102の動き及び/または振動を起こすことができる。
LED1326は、ヘッドマウントディスプレイ102のステータスの視覚インジケータとして備えられる。例えば、LEDは、電池レベル、電源オン等を示してもよい。カードリーダ1328は、ヘッドマウントディスプレイ102が、メモリカードから情報を読み出し、メモリカードに情報を書き込むのを可能にするために備えられる。USBインタフェース1330は、周辺装置の接続、または、他のポータブルデバイス、コンピュータ等、他のデバイスへの接続を可能にするためのインタフェースの一例として含まれる。ヘッドマウントディスプレイ102の様々な実施形態において、様々な種類のインタフェースのいずれかが、ヘッドマウントディスプレイ102の接続性の向上を可能にするために含まれてもよい。
WiFiモジュール1332は、無線ネットワーク技術を介してインターネットへの接続を可能にするために含まれる。また、ヘッドマウントディスプレイ102は、他のデバイスへの無線接続を可能にするブルートゥース(登録商標)モジュール1334を含む。通信リンク1336も、他のデバイスへの接続のために含まれてもよい。一実施形態においては、通信リンク1336は、無線通信のために赤外線送信を利用する。他の実施形態においては、通信リンク1336は、他のデバイスとの通信のために、様々な無線または有線の送信プロトコルのいずれかを利用してもよい。
入力ボタン/センサ1338は、入力インタフェースをユーザに提供するために含まれる。ボタン、タッチパッド、ジョイスティック、トラックボール等の様々な種類の入力インタフェースのいずれかが含まれてもよい。超音波技術を介した他のデバイスとの通信を促進するために、超音波通信モジュール1340が、ヘッドマウントディスプレイ102に含まれてもよい。
バイオセンサ1342が、ユーザから生理学的データの検出を可能にするために含まれる。一実施形態においては、バイオセンサ1342は、ユーザの皮膚を通じてユーザの生体電気信号を検出するための1つまたは複数のドライ電極を含む。
三次元の物理的環境に置かれたエミッタ(例えば、赤外線ベースステーション)からの信号に応答するフォトセンサ1344が含まれる。ゲーム機は、フォトセンサ1344及びエミッタからの情報を分析して、ヘッドマウントディスプレイ102に関する位置及び向き情報を決定する。
さらに、視線追跡システム1365が、ユーザの視線の追跡を可能にするように含まれ、構成される。例えば、システム1365は、ユーザの眼の画像を撮影する視線追跡カメラを含んでよく、次に、ユーザの眼の画像が分析されて、ユーザの視線方向を決定する。一実施形態においては、ユーザの視線方向に関する情報を利用して、ビデオレンダリングに影響を及ぼしてもよい。視線方向のビデオレンダリングは、フォービエイテッドレンダリングを通じて、より詳細で、より高い解像度を与える等によって、優先または強調されてもよく、高い解像度の粒子系効果が中心窩領域(Foveal Region)に表示され、低い解像度の粒子系効果が中心窩領域の外側に表示される、または、ユーザが見ている領域はより速く更新される。
ヘッドマウントディスプレイ102の前述の構成要素は、ヘッドマウントディスプレイ102に含まれ得る例示の構成要素として記載したに過ぎない。開示の様々な実施形態において、ヘッドマウントディスプレイ102は、様々な上記構成要素の一部を含んでもよく、含まなくてもよい。ヘッドマウントディスプレイ102の実施形態は、本明細書に記載する本開示の態様を容易にするために、ここに記載はしないが、当技術分野で既知の他の構成要素をさらに含んでもよい。
開示の様々な実施形態において、上記ハンドヘルドデバイスは、ディスプレイに表示されたインタラクティブアプリケーションと共に利用されて、様々なインタラクティブ機能を提供してもよいことを、当業者は理解する。本明細書に記載の例示の実施形態は、制限ではなく、例としてのみ提供される。
図14は、開示の様々な実施形態による、ゲームシステム1400のブロック図である。ゲームシステム1400は、シングルプレイヤモードまたはマルチプレイヤモード等で、ネットワーク1415を介して1つまたは複数のクライアント1410にビデオストリームを提供するように構成される。ゲームシステム1400は、実施形態において、クラウドゲームプロバイダ112に類似している。ゲームシステム1400は、典型的に、ビデオサーバシステム1420及びオプションのゲームサーバ1425を含む。
ビデオサーバシステム1420は、ビデオストリームを最小限のサービス品質で1つまたは複数のクライアント1410に提供するように構成される。例えば、ビデオサーバシステム1420は、ビデオゲームの状態またはビデオゲーム内の視点を変えるゲームコマンドを受信してよく、この状態の変化を反映する更新されたビデオストリームを最小限の遅延時間でクライアント1410に提供してもよい。ビデオサーバシステム1420は、今後、規定されるフォーマットを含む、様々な他のビデオフォーマットでビデオストリームを提供するように構成されてもよい。さらに、ビデオストリームは、広範なフレームレートでユーザに提示すように構成されたビデオフレームを含み得る。典型的なフレームレートは、30フレーム毎秒、80フレーム毎秒、及び、820フレーム毎秒である。しかしながら、より高いまたは低いフレームレートが、開示された他の実施形態に含まれる。
1410A、1410B等として本明細書で個々に呼ばれるクライアント1410は、ヘッドマウントディスプレイ、端末、パーソナルコンピュータ、ゲームコンソール、タブレットコンピュータ、電話、セットトップボックス、キオスク、無線デバイス、デジタルパッド、スタンドアロンデバイス、ハンドヘルドゲームプレイデバイス等を含んでもよい。典型的に、クライアント1410は、エンコードされた(すなわち、圧縮された)ビデオストリームを受信し、そのビデオストリームをデコードし、生じるビデオをユーザ、例えば、ゲームのプレイヤに提示するように構成される。
エンコードされたビデオストリームを受信するプロセス及び/またはビデオストリームをデコードするプロセスは、典型的に、クライアントの受信バッファに個々のビデオフレームを記憶することを含む。ビデオストリームは、クライアント1410に一体化されたディスプレイで、または、モニタまたはテレビ等の別個のデバイスで、ユーザに提示されてもよい。クライアント1410は、任意で、複数のゲームプレイヤを支援するように構成される。
例えば、ゲームコンソールは、2人、3人、4人、または、それを超える同時プレイヤを支援するように構成されてもよい。これらの同時プレイヤはそれぞれ、別個のビデオストリームを受信してもよい、または、1つのビデオストリームは、各プレイヤに向けて特に生成されたフレームの領域、例えば、各プレイヤの視点に基づいて生成されたフレームの領域を含んでもよい。クライアント1410は、任意で、地理的に分散している。
ゲームシステム1400に含まれるクライアントの数は、1もしくは2から、何千、何万、または、それより多くまで、広範囲にわたってもよい。本明細書で使用される場合、「ゲームプレイヤ」という用語は、ゲームをプレイする人を指して使用され、「ゲームプレイデバイス」という用語は、ゲームのプレイに使用されるデバイスを指して使用される。ある実施形態においては、ゲームプレイデバイスは、協働してゲーム体験をユーザに伝える複数のコンピュータ装置を指してもよい。例えば、ゲームコンソール及びHMDは、ビデオサーバシステム1420と協働して、HMDを通じて視聴されるゲームを配信してもよい。一実施形態においては、ゲームコンソールは、ビデオサーバシステム1420からビデオストリームを受信し、ゲームコンソールは、ビデオストリームまたはビデオストリームへの更新をレンダリングのためにHMDに転送する。
クライアント1410は、ネットワーク1415を介してビデオストリームを受信するように構成される。ネットワーク1415は、電話網、インターネット、無線ネットワーク、送電線網、ローカルエリアネットワーク、広域ネットワーク、プライベートネットワーク等を含む、任意の種類の通信ネットワークであってもよい。典型的な実施形態においては、ビデオストリームは、TCP/IPまたはUDP/IP等の標準的なプロトコルを介して通信される。あるいは、ビデオストリームは、独自基準を介して通信される。
クライアント1410の典型的な例は、プロセッサ、不揮発メモリ、ディスプレイ、デコード論理、ネットワーク通信能力、及び、入力装置を含むパーソナルコンピュータである。デコード論理は、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含んでもよい。ビデオストリームをデコード(エンコード)するシステムは、当分野で周知であり、使用される特定のエンコードスキームに応じて変わる。
クライアント1410は、受信したビデオを修正するために構成されたシステムをさらに含んでよいが、含むことは要求されない。例えば、クライアントは、あるビデオ画像を他のビデオ画像にオーバーレイするために、ビデオ画像をクロップするために等、更なるレンダリングを行うように構成されてもよい。例えば、クライアント1410は、Iフレーム、Pフレーム及びBフレーム等、様々な種類のビデオフレームを受信するように、また、これらのフレームをユーザに表示する画像に処理するように構成されてもよい。ある実施形態においては、クライアント1410のメンバは、更なるレンダリング、シェーディング、3Dへの変換、または、同様の操作をビデオストリームに対して行うように構成される。クライアント1410のメンバは、任意で、複数の音声またはビデオストリームを受信するように構成される。クライアント1410の入力装置は、例えば、片手ゲームコントローラ、両手ゲームコントローラ、ジェスチャ認識システム、視線認識システム、音声認識システム、キーボード、ジョイスティック、ポインティングデバイス、力フィードバックデバイス、動作及び/または位置検出デバイス、マウス、タッチスクリーン、神経インタフェース、カメラ、今後開発される入力装置等を含んでもよい。
クライアント1410が受信したビデオストリーム(及び、任意で、音声ストリーム)は、ビデオサーバシステム1420によって生成、提供される。本明細書の他の箇所にさらに記載するように、このビデオストリームは、ビデオフレームを含む(また、音声ストリームは、音声フレームを含む)。ビデオフレームは、ユーザに表示される画像に意味のある寄与をするように構成される(例えば、ビデオフレームは、適切なデータ構造の画素情報を含む)。本明細書で使用される場合、「ビデオフレーム」という用語はユーザに示す画像に寄与するように、例えば、影響を与えるように構成された情報を主に含むフレームを指して使用される。「ビデオフレーム」に関する本明細書の教示の大半は、「音声フレーム」にも適用できる。
クライアント1410は、典型的にユーザからの入力を受信するように構成される。これらの入力は、ビデオゲームの状態を変更するように、または、他の点でゲームプレイに影響を与えるように構成されたゲームコマンドを含み得る。ゲームコマンドは、入力装置を用いて受信されてもよく、及び/または、クライアント1410で実行するコンピュータ命令によって自動的に生成されてもよい。受信したゲームコマンドは、クライアント1410からネットワーク1415を介してビデオサーバシステム1420及び/またはゲームサーバ1425に通信される。
例えば、ある実施形態においては、ゲームコマンドは、ビデオサーバシステム1420を介してゲームサーバ1425に通信される。ある実施形態においては、ゲームコマンドの別個のコピーは、クライアント1410からゲームサーバ1425及びビデオサーバシステム1420に通信される。ゲームコマンドの通信は、任意で、コマンドのIDに依存する。ゲームコマンドは、任意で、音声またはビデオストリームをクライアント1410Aに提供するために使用されるのとは異なるルートまたは通信チャネルを通じてクライアント1410Aから通信される。
ゲームサーバ1425は、任意で、ビデオサーバシステム1420とは異なるエンティティによって操作される。例えば、ゲームサーバ1425は、マルチプレイヤゲームの発行者によって操作されてもよい。この例においては、ビデオサーバシステム1420は、任意でゲームサーバ1425によってクライアントとして視聴され、任意で、ゲームサーバ1425の視点から、先行技術のゲームエンジンを実行する先行技術のクライアントに見えるように構成される。
ビデオサーバシステム1420とゲームサーバ1425の間の通信は、任意で、ネットワーク1415を介して行われる。従って、ゲームサーバ1425は、ゲーム状態情報を複数のクライアントに送信する先行技術のマルチプレイヤゲームサーバであってもよく、クライアントの1つは、ゲームサーバシステム1420である。ビデオサーバシステム1420は、ゲームサーバ1425の複数のインスタンスと同時に通信するように構成されてもよい。例えば、ビデオサーバシステム1420は、複数の異なるビデオゲームを異なるユーザに提供するように構成されてもよい。
これらの異なるビデオゲームは、それぞれ、異なるゲームサーバ1425によって支援されてもよく、及び/または、異なるエンティティによって発行されてもよい。ある実施形態においては、ビデオサーバシステム1420の幾つかの地理的に分散したインスタンスは、複数の異なるユーザにゲームビデオを提供するように構成される。ビデオサーバシステム1420のこれらのインスタンスは、それぞれ、ゲームサーバ1425の同じインスタンスと通信してもよい。ビデオサーバシステム1420と1つまたは複数のゲームサーバ1425の間の通信は、任意で専用通信チャネルを介して生じる。例えば、ビデオサーバシステム1420は、これら2つのシステム間の通信専用の広帯域チャネルを介して、ゲームサーバ1425に接続されてもよい。
ビデオサーバシステム1420は、少なくともビデオソース1430、I/O装置1445、プロセッサ1450、及び、非一時的記憶装置1455を含む。ビデオサーバシステム1420は、1つのコンピュータ装置を含んでよい、または、複数のコンピュータ装置間に分散されてもよい。これらのコンピュータ装置は、任意で、ローカルエリアネットワーク等の通信システムを介して接続される。
ビデオソース1430は、ビデオストリーム、例えば、ストリーミングビデオ、または、動画を形成する一連のビデオフレームを提供するように構成される。ある実施形態においては、ビデオソース1430は、ビデオゲームエンジン及びレンダリング論理を含む。ビデオゲームエンジンは、プレイヤからゲームコマンドを受信するように、また、受信したコマンドに基づいて、ビデオゲーム状態のコピーを維持するように構成される。このゲーム状態は、ゲーム環境における物体の位置と、典型的に、視点とを含む。ゲーム状態は、物体の特性、画像、色、及び/または、テクスチャも含んでもよい。
ゲーム状態は、典型的に、ゲーム規則と、移動、回転、攻撃、焦点を定める、対話、使用等のゲームコマンドとに基づいて維持される。ゲームエンジンの一部は、任意でゲームサーバ1425内に配置される。ゲームサーバ1425は、地理的に分散したクライアントを用いて、複数のプレイヤから受信したゲームコマンドに基づいて、ゲームの状態のコピーを維持してもよい。これらの場合、ゲーム状態は、ゲームサーバ1425によってビデオソース1430に提供され、ゲーム状態のコピーは記憶され、レンダリングが行われる。ゲームサーバ1425は、ネットワーク1415を介してクライアント1410から直接、ゲームコマンドを受信してもよく、及び/または、ビデオサーバシステム1420を介してゲームコマンドを受信してもよい。
ビデオソース1430は、典型的に、レンダリング論理、例えば、ハードウェア、ファームウェア、及び/または、記憶装置1455等のコンピュータ可読媒体に記憶されたソフトウェアを含む。このレンダリング論理は、ゲーム状態に基づいて、ビデオストリームのビデオフレームを作成するように構成される。レンダリング論理の全てまたは一部は、任意で、グラフィックス処理ユニット(GPU)内に配置される。レンダリング論理は、典型的に、ゲーム状態及び視点に基づいて、物体間の三次元空間関係を決定するために、及び/または、適切なテクスチャ等を適用するために構成された処理ステージを含む。
レンダリング論理は、未加工ビデオを生成し、未加工ビデオは、通常、クライアント1410に通信する前にエンコードされる。例えば、未加工ビデオは、Adobe Flash(登録商標)規格、.wav、H.264、H.263、On2、VP6、VC−1、WMA、Huffyuv、Lagarith、MPG−x.、Xvid.FFmpeg、x264、VP6−8、リアルビデオ、mp3等に従ってエンコードされてもよい。エンコードプロセスは、ビデオストリームを生成し、ビデオストリームは、任意で、リモートデバイスのデコーダに送るためにパッケージ化される。ビデオストリームは、フレームサイズ及びフレームレートによって特徴付けられる。
典型的なフレームサイズは、800x600、1280x720(例えば、720p)、1024x768を含むが、任意の他のフレームサイズが使用されてもよい。フレームレートは、ビデオフレーム数毎秒である。ビデオストリームは、異なる種類のビデオフレームを含んでもよい。例えば、H.264規格は、「P」フレーム及び「I」フレームを含む。Iフレームは、表示装置上の全てのマクロブロック/画素をリフレッシュする情報を含み、Pフレームは、マクロブロック/画素のサブセットをリフレッシュする情報を含む。Pフレームは、典型的に、Iフレームよりデータサイズが小さい。本明細書で使用する場合、「フレームサイズ」という用語は、フレーム内の画素の数を指す。「フレームデータサイズ」という用語は、フレームの記憶に必要なバイト数を指して使用される。
他の実施形態において、ビデオソース1430は、カメラ等のビデオ記録装置を含む。このカメラを使用して、コンピュータゲームのビデオストリームに含まれ得る表示されたまたはライブのビデオを生成してもよい。生じたビデオストリームは、任意で、レンダリングされた画像と、スチルカメラまたはビデオカメラを用いて記録された画像との両方を含む。ビデオソース1430は、記録済みのビデオがビデオストリームに含まれるように記憶するように構成された記憶装置も含んでもよい。ビデオソース1430は、また、物体、例えば、人の動きまたは位置を検出するように構成された動きまたは位置検出装置と、検出された動き及び/または位置に基づいてゲーム状態を決定するように、または、ビデオを生成するように構成された論理とを含んでもよい。
ビデオソース1430は、任意で、他のビデオ上に配置するように構成されたオーバーレイを提供するように構成される。例えば、これらのオーバーレイは、コマンドインタフェース、ログイン命令、ゲームプレイヤへのメッセージ、他のゲームプレイヤの画像、他のゲームプレイヤのビデオフィード(例えば、ウェブカムビデオ)を含んでもよい。タッチスクリーンインタフェースまたは視線検出インタフェースを含むクライアント1410Aの実施形態において、オーバーレイは、仮想のキーボード、ジョイスティック、タッチパッド等を含んでもよい。オーバーレイの一例において、プレイヤの音声が、音声ストリームにオーバーレイされる。ビデオソース1430は、任意で、1つまたは複数の音源をさらに含む。
ビデオサーバシステム1420が複数のプレイヤからの入力に基づいてゲーム状態を維持するように構成された実施形態において、各プレイヤは、ビューの位置及び方向を含む異なる視点を有し得る。ビデオソース1430は、任意で、各プレイヤに対して、そのプレイヤの視点に基づいた別個のビデオストリームを提供するように構成される。さらに、ビデオソース1430は、異なるフレームサイズ、フレームデータサイズ、及び/または、エンコードを各クライアント1410に提供するように構成されてもよい。ビデオソース1430は、任意で、3Dビデオを提供するように構成される。
I/O装置1445は、ビデオサーバシステム1420が、ビデオ、コマンド、情報の要求、ゲーム状態、視線情報、デバイスの動き、デバイスの位置、ユーザの動き、クライアントID、プレイヤID、ゲームコマンド、セキュリティ情報、音声等の情報を送信及び/または受信するように構成される。I/O装置1445は、典型的に、ネットワークカードまたはモデム等の通信ハードウェアを含む。I/O装置1445は、ゲームサーバ1425、ネットワーク1415、及び/または、クライアント1410に通信するように構成される。
プロセッサ1450は、本明細書に記載のビデオサーバシステム1420の様々な構成要素内に含まれた論理、例えば、ソフトウェアを実行するように構成される。例えば、プロセッサ1450は、ビデオソース1430、ゲームサーバ1425、及び/または、クライアントクオリファイア1460の機能を行うためにソフトウェア命令を用いてプログラムされてもよい。ビデオサーバシステム1420は、任意で、プロセッサ1450の複数のインスタンスを含む。プロセッサ1450は、ビデオサーバシステム1420が受信したコマンドを実行するために、または、本明細書に記載のゲームシステム1400の様々な要素の操作を調整するために、ソフトウェア命令を用いてプログラムされてもよい。プロセッサ1450は、1つまたは複数のハードウェアデバイスを含んでもよい。プロセッサ1450は、電子プロセッサである。
記憶装置1455は、非一時的なアナログ及び/またはデジタル記憶装置を含む。例えば、記憶装置1455は、ビデオフレームを記憶するように構成されたアナログ記憶装置を含んでもよい。記憶装置1455は、コンピュータ可読デジタル記憶装置、例えば、ハードドライブ、光学ドライブ、または、ソリッドステート記憶装置を含んでもよい。記憶装置1455は、(例えば、適切なデータ構造またはファイルシステムによって)ビデオフレーム、人工フレーム、ビデオフレームと人工フレームの両方を含むビデオストリーム、音声フレーム、音声ストリーム等を記憶するように構成される。記憶装置1455は、任意で、複数のデバイス間に分散される。ある実施形態においては、記憶装置1455は、本明細書の他の箇所に記載したビデオソース1430のソフトウェア構成要素を記憶するように構成される。これらの構成要素は、必要に応じてプロビジョニングされるように用意されたフォーマットで記憶されてもよい。
ビデオサーバシステム1420は、任意で、クライアントクオリファイア1460をさらに含む。クライアントクオリファイア1460は、クライアント1410Aまたは1410B等、クライアントの能力をリモートで決定するように構成される。これらの能力は、クライアント1410A自体の能力と、クライアント1410Aとビデオサーバシステム1420の間の1つまたは複数の通信チャネルの能力との両方を含み得る。例えば、クライアントクオリファイア1460は、ネットワーク1415を通じて通信チャネルをテストするように構成されてもよい。
クライアントクオリファイア1460は、クライアント1410Aの能力を手動または自動で決定(例えば、発見)できる。手動の決定は、クライアント1410Aのユーザと通信し、ユーザに能力を提供するように求めることとを含む。例えば、ある実施形態においては、クライアントクオリファイア1460は、クライアント1410Aのブラウザ内に、画像、テキスト等を表示するように構成される。一実施形態においては、クライアント1410Aは、ブラウザを含むHMDである。他の実施形態においては、クライアント1410Aは、ブラウザを有するゲームコンソールであり、ブラウザは、HMDに表示されてもよい。表示された物体は、クライアント1410Aの、オペレーティングシステム、プロセッサ、ビデオデコーダの種類、ネットワーク接続の種類、表示解像度等の情報を入力するようにユーザに要求する。ユーザが入力した情報は、クライアントクオリファイア1460に返信される。
自動決定は、例えば、クライアント1410Aでエージェントを実行することによって、及び/または、テストビデオをクライアント1410Aに送信することによって行われてもよい。エージェントは、ウェブページに組み込まれた、または、アドオンとしてインストールされた、javaスクリプト等のコンピュータ命令を含んでもよい。エージェントは、任意で、クライアントクオリファイア1460によって提供される。様々な実施形態において、エージェントは、クライアント1410Aの処理能力、クライアント1410Aのデコード及び表示能力、クライアント1410Aとビデオサーバシステム1420の間の通信チャネルの遅延時間信頼性及び帯域幅、クライアント1410Aのディスプレイの種類、クライアント1410Aに存在するファイヤウォール、クライアント1410Aのハードウェア、クライアント1410Aで実行しているソフトウェア、クライアント1410A内のレジストリエントリ等を発見できる。
クライアントクオリファイア1460は、ハードウェア、ファームウェア、及び/または、コンピュータ可読媒体に記憶されたソフトウェアを含む。クライアントクオリファイア1460は、任意で、ビデオサーバシステム1420の1つまたは複数の他の要素とは別に、コンピュータ装置に配置される。例えば、ある実施形態においては、クライアントクオリファイア1460は、クライアント1410とビデオサーバシステム1420の複数のインスタンスとの間の通信チャネルの特徴を決定するように構成される。これらの実施形態において、クライアントクオリファイアによって発見された情報を使用して、ビデオサーバシステム1420のどのインスタンスがクライアント1410の1つにストリーミングビデオを配信するのに最も適しているかを決定できる。
1人または複数のユーザによって制御されるマルチプレイヤゲームアプリケーションの実行を通じて生成される1つまたは複数のゲームプレイに関連付けられたゲーム世界の観客ビューを提供する特定の実施形態を記載したが、これらは、例として記載したものであり、制限ではない。本開示を読んだ当業者は、本開示の趣旨及び範囲内にある追加の実施形態を実現される。
本明細書に規定された様々な実施形態は、本明細書に開示の様々な特徴を用いて、特定の実施態様に組み合わせられてもよく、または、集めてもよいことを理解されたい。従って、提供した例は、可能な例の一部に過ぎず、様々な要素を組み合わせてより多くの実施態様を規定することによって可能な様々な実施態様を制限するものではない。ある例においては、ある実施態様は、開示のまたは同等の実施態様の趣旨を逸脱せずに、より少ない要素を含んでもよい。
本開示の実施形態は、ハンドヘルドデバイス、マイクロプロセッサシステム、マイクロプロセッサベースまたはプログラム可能な消費家電、ミニコンピュータ、メインフレームコンピュータ等を含む、様々なコンピュータシステム構成を用いて実践されてもよい。本開示の実施形態は、タスクが有線または無線ネットワークを通じてリンクされたリモート処理装置によって行われる分散コンピュータ環境でも実践されてもよい。
上記実施形態に留意して、本開示の実施形態は、コンピュータシステムに記憶されたデータを伴う様々なコンピュータ実施操作を使用できることを理解されたい。これらの操作は、物理量の物理的操作を必要とする操作である。本開示の実施形態の一部を形成する本明細書に記載の操作はいずれも、有用な機械操作である。発明の実施形態は、これらの操作を行うデバイスまたは装置にも関する。装置は、必要な目的のために特に構築できる、または、装置は、コンピュータに記憶されたコンピュータプログラムによって選択的に起動または構成される汎用コンピュータであってもよい。詳細には、様々な汎用機械が、本明細書の教示に従って書かれたコンピュータプログラムと共に使用できる、または、必要な操作を行うためにより専門化された装置を構築するとより便利な場合がある。
本開示は、コンピュータ可読媒体上のコンピュータ可読コードとしても実現できる。コンピュータ可読媒体は、データを記憶できる任意のデータ記憶装置で、データは、その後、コンピュータシステムによって読み取ることができる。コンピュータ可読媒体の例は、ハードドライブ、ネットワーク接続型記憶装置(NAS)、リードオンリメモリ、ランダムアクセスメモリ、CD−ROM、CD−R、CD−RW、磁気テープ、並びに、他の光学式及び非光学式のデータ記憶装置を含む。コンピュータ可読媒体は、コンピュータ可読コードが分散して記憶、実行されるように、ネットワーク結合コンピュータシステムを介して分散されたコンピュータ可読有形媒体を含み得る。
本方法の操作を特定の順序で記載したが、他のハウスキーピング操作が、操作間に行われてもよく、または、操作は、わずかに異なる時点に生じるように調整されてもよい、または、オーバーレイ操作の処理が所望のように行われる限り、処理と関連付けられた様々な間隔で処理操作の発生を可能にするシステムに分散されてもよいことを理解すべきである。
上記開示は、理解を明確にするためにある程度、詳細に記載したが、一定の変更及び修正が添付の特許請求の範囲内で実施できることは明らかである。従って、本実施形態は制限的ではなく説明的なものとみなされるべきであり、本開示の実施形態は、本明細書に示される詳細に限定されず、添付の特許請求の範囲及び同等物の範囲内で修正され得る。

Claims (20)

  1. ライブイベントへの参加を可能にする方法であって、
    ゲームアプリケーションの実行を通じて、複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立し、前記マルチプレイヤゲームセッションは、その中にプレイヤが参加できるインタラクティブなゲーム世界を生成し、前記ライブイベントは、前記複数のプレイヤが存在する実世界の会場で、かつ、前記ライブイベントで前記実世界内に設けられたスクリーンに表示されている前記マルチプレイヤゲームセッションの前記インタラクティブなゲーム世界に関するものであり、
    1つまたは複数の撮影されたビデオストリームからの画像をつなぎ合わせることで、前記サーバで、前記実世界の会場の三次元ライブビューを生成し、前記三次元ライブビューは、前記ライブイベントの物理的視点に対して生成され、前記物理的視点は、前記実世界の会場の物理的位置に固定されるものであり、
    前記サーバからネットワークを介して第1のリモートユーザのヘッドマウントディスプレイに前記三次元ライブビューをストリーミングし、前記第1のリモートユーザは、前記実世界の会場の外におり、前記三次元ライブビューは、前記ヘッドマウントディスプレイを通じて前記第1のリモートユーザに、前記スクリーンを含む前記ライブイベントの拡張現実ビューを提示するものであり、
    前記三次元ライブビューから、前記インタラクティブなゲーム世界の観客としての、前記インタラクティブなゲーム世界の仮想位置によって規定されるとともに第1の仮想物理的視点からの前記スクリーンに表示された前記マルチプレイヤゲームセッションの第1の観客ビューを見るための要求を、前記第1のリモートユーザから前記サーバで受信し、
    前記第1の仮想物理的視点に関連付けられた前記第1の観客ビューを前記サーバが生成し、前記第1の観客ビューは、前記ライブイベントで前記スクリーンに表示されている前記マルチプレイヤゲームセッションのために生成されたものであり、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために前記ネットワークを介して前記第1の観客ビューを配信し、前記第1の観客ビューは、前記第1のリモートユーザに前記ヘッドマウントディスプレイを通じて前記インタラクティブなゲーム世界の仮想現実ビューをリアルタイムで提示するものである、
    方法。
  2. 更に、前記第1の観客ビューを終了する要求を前記第1のリモートユーザから前記サーバで受信し、
    前記サーバから前記ネットワークを介して前記第1のリモートユーザの前記ヘッドマウントディスプレイに前記三次元ライブビューの配信を開始する、
    請求項1に記載の方法。
  3. 更に、前記第1の観客ビューの配信を行う前に、前記三次元ライブビューの配信を停止する、
    請求項1に記載の方法。
  4. 更に、前記第1の観客ビューを含む、前記インタラクティブなゲーム世界の複数の観客ビューを生成し、前記観客ビューはそれぞれ、前記インタラクティブなゲーム世界の対応する仮想物理的視点から撮影されるものであり、
    前記複数の観客ビューを提示する複数のプレビューウィンドウを含むインタフェースを生成し、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために、前記ネットワークを介して前記インタフェースを配信し、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイへの前記第1の観客ビューの配信をトリガするために、前記第1の観客ビューに対応する第1のプレビューウィンドウの選択を前記第1のリモートユーザから前記サーバで受信する、
    請求項1に記載の方法。
  5. 更に、前記三次元ライブビュー内に前記インタフェースを挿入し、
    前記インタフェースにメインウィンドウを生成し、
    前記対応する観客ビューをプレビューするための前記複数のプレビューウィンドウの1つの選択を受信し、
    前記対応する観客ビューを前記メインウィンドウに提示する、
    請求項4に記載の方法。
  6. 更に、前記第1の観客ビューは、前記第1のリモートユーザを表す第1のアバタに関連付けられ、前記第1のアバタは、前記インタラクティブなゲーム世界の前記第1の仮想物理的視点に対応する前記仮想位置におり、
    前記インタラクティブなゲーム世界で観戦している第2のリモートユーザを表す第2のアバタが前記第1のアバタに近接していると決定し、前記第2のリモートユーザは、前記インタラクティブなゲーム世界の第2の観客ビューを受信するものであり、
    交信を可能にするように通信チャネルを介して前記第1のリモートユーザと前記第2のリモートユーザとをペアにする、
    請求項1に記載の方法。
  7. 更に、前記インタラクティブなゲーム世界の人間の観客に対応する物理的視点と矛盾しないように、前記第1の観客ビューの物体のスケールを合わせる、
    請求項1に記載の方法。
  8. ライブイベントへの参加を可能にするコンピュータプログラムを記憶するコンピュータ可読媒体であって、
    ゲームアプリケーションの実行を通じて複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立するプログラム命令が記録され、前記マルチプレイヤゲームセッションは、その中にプレイヤが参加できるインタラクティブなゲーム世界を生成し、前記ライブイベントは、前記複数のプレイヤが存在する実世界の会場で、かつ、前記ライブイベントで前記実世界内に設けられたスクリーンに表示されている前記マルチプレイヤゲームセッションの前記インタラクティブなゲーム世界に関するものであり、
    1つまたは複数の撮影されたビデオストリームからの画像をつなぎ合わせることで、前記サーバで前記実世界の会場の三次元ライブビューを生成するプログラム命令が記録され、前記三次元ライブビューは、前記ライブイベントの物理的視点に対して生成され、前記物理的視点は、前記実世界の会場の物理的位置に固定されるものであり、
    前記サーバからネットワークを介して第1のリモートユーザのヘッドマウントディスプレイに前記三次元ライブビューをストリーミングするプログラム命令が記録され、前記第1のリモートユーザは、前記実世界の会場の外におり、前記三次元ライブビューは、前記スクリーンを含む前記ライブイベントの拡張現実ビューを、前記ヘッドマウントディスプレイを通じて前記第1のリモートユーザに提示するものであり、
    前記三次元ライブビューから、前記インタラクティブなゲーム世界の観客としての、前記インタラクティブなゲーム世界の仮想位置によって規定されるとともに第1の仮想物理的視点からの前記スクリーンに表示された前記マルチプレイヤゲームセッションの第1の観客ビューを見るための要求を、前記第1のリモートユーザから前記サーバで受信するプログラム命令が記録され、
    前記第1の仮想物理的視点に関連付けられた前記第1の観客ビューを前記サーバが生成するプログラム命令が記録され、前記第1の観客ビューは、前記ライブイベントで前記スクリーンに表示されている前記マルチプレイヤゲームセッションのために生成されたものであり、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために前記ネットワークを介して前記第1の観客ビューを配信するプログラム命令が記録され、前記第1の観客ビューは、前記インタラクティブなゲーム世界の仮想現実ビューを、前記ヘッドマウントディスプレイを通じて前記第1のリモートユーザにリアルタイムで提示するものである、
    コンピュータ可読媒体。
  9. 更に、前記第1の観客ビューを終了する要求を前記第1のリモートユーザから前記サーバで受信するプログラム命令と、
    前記サーバから前記第1のリモートユーザの前記ヘッドマウントディスプレイに前記ネットワークを介した前記三次元ライブビューの配信を開始するプログラム命令と、が記録された、
    請求項8に記載のコンピュータ可読媒体。
  10. 前記第1の観客ビューの配信を行う前に、前記ライブビューの配信を停止するプログラム命令が更に記録された、
    請求項8に記載のコンピュータ可読媒体。
  11. 更に、前記第1の観客ビューを含む、前記インタラクティブなゲーム世界の複数の観客ビューを生成するプログラム命令が記録され、前記観客ビューはそれぞれ、前記インタラクティブなゲーム世界の対応する仮想物理的視点から撮影されるものであり、
    前記複数の観客ビューを提示する複数のプレビューウィンドウを含むインタフェースを生成するプログラム命令が記録され、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために前記ネットワークを介して前記インタフェースを配信するプログラム命令が記録され、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイへの前記第1の観客ビューの配信をトリガするために、前記第1の観客ビューに対応する第1のプレビューウィンドウの選択を前記第1のリモートユーザから前記サーバで受信するプログラム命令が記録された、
    請求項8に記載のコンピュータ可読媒体。
  12. 前記三次元ライブビュー内に前記インタフェースを挿入するプログラム命令と、
    前記インタフェースにメインウィンドウを生成するプログラム命令と、
    前記対応する観客ビューをプレビューするための前記複数のプレビューウィンドウの1つの選択を受信するプログラム命令と、
    前記対応する観客ビューを前記メインウィンドウに提示するプログラム命令と、が更に記録された、
    請求項11に記載のコンピュータ可読媒体。
  13. 前記第1の観客ビューは、前記第1のリモートユーザを表す第1のアバタに関連付けられ、前記第1のアバタは、前記インタラクティブなゲーム世界の前記第1の仮想物理的視点に対応する前記仮想位置に置かれ、
    更に、前記インタラクティブなゲーム世界で観戦している第2のリモートユーザを表す第2のアバタが前記第1のアバタに近接していることを決定するプログラム命令が記録され、前記第2のリモートユーザは、前記インタラクティブなゲーム世界の第2の観客ビューを受信するものであり、
    交信を可能にするために通信チャネルを介して前記第1のリモートユーザと前記第2のリモートユーザとをペアにするプログラム命令が記録された、
    請求項8に記載のコンピュータ可読媒体。
  14. 前記インタラクティブなゲーム世界の人間の観客に対応する物理的視点と矛盾しないように、前記第1の観客ビューの物体のスケールを合わせるプログラム命令が更に記録された、
    請求項8に記載のコンピュータ可読媒体。
  15. プロセッサと、
    前記プロセッサに結合され、命令を記憶したメモリと、を有するコンピュータシステムであって、前記命令は、前記コンピュータシステムによって実行されると、前記コンピュータシステムに、ライブイベントへの参加を可能にする方法を実行させるものであり、前記方法は、
    ゲームアプリケーションの実行を通じて、複数のプレイヤによって制御されるマルチプレイヤゲームセッションをサーバで確立し、前記マルチプレイヤゲームセッションは、その中にプレイヤが参加できるインタラクティブなゲーム世界を生成し、前記ライブイベントは前記複数のプレイヤが存在する実世界の会場で、かつ、前記ライブイベントで前記実世界内に設けられたスクリーンに表示されている前記マルチプレイヤゲームセッションの前記インタラクティブなゲーム世界に関するものであり、
    1つまたは複数の撮影されたビデオストリームからの画像をつなぎ合わせることで、前記サーバで前記実世界の会場の三次元ライブビューを生成し、前記三次元ライブビューは、前記ライブイベントの物理的視点に対して生成され、前記物理的視点は、前記実世界の会場の物理的位置に固定されるものであり、
    前記サーバからネットワークを介して第1のリモートユーザのヘッドマウントディスプレイに前記三次元ライブビューをストリーミングし、前記第1のリモートユーザは、前記実世界の会場の外におり、前記三次元ライブビューは、前記ヘッドマウントディスプレイを通じて前記第1のリモートユーザに、前記スクリーンを含む前記ライブイベントの拡張現実ビューを提示するものであり、
    前記三次元ライブビューから、前記インタラクティブなゲーム世界の観客としての、前記インタラクティブなゲーム世界の仮想位置によって規定されるとともに第1の仮想物理的視点からの前記スクリーンに表示された前記マルチプレイヤゲームセッションの第1の観客ビューを見るための要求を、前記第1のリモートユーザから前記サーバで受信し、
    前記第1の仮想物理的視点に関連付けられた前記第1の観客ビューを前記サーバで生成し、前記第1の観客ビューは、前記ライブイベントで前記スクリーンに表示されている前記マルチプレイヤゲームセッションのために生成されたものであり、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために前記ネットワークを介して前記第1の観客ビューを配信し、前記第1の観客ビューは、前記インタラクティブなゲーム世界の仮想現実ビューを、前記ヘッドマウントディスプレイを通じて前記第1のリモートユーザにリアルタイムで提示するものである、
    コンピュータシステム。
  16. 前記方法は、更に、
    前記第1の観客ビューを終了する要求を前記第1のリモートユーザから前記サーバで受信し、
    前記サーバから前記ネットワークを介して前記第1のリモートユーザの前記ヘッドマウントディスプレイへの前記三次元ライブビューの配信を開始する、
    請求項15に記載のコンピュータシステム。
  17. 前記方法は、更に、
    前記第1の観客ビューを含む前記インタラクティブなゲーム世界の複数の観客ビューを生成し、前記観客ビューはそれぞれ、前記インタラクティブなゲーム世界の対応する仮想物理的視点から撮影されるものであり、
    前記複数の観客ビューを提示する複数のプレビューウィンドウを含むインタフェースを生成し、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイに表示するために前記ネットワークを介して前記インタフェースを配信し、
    前記第1のリモートユーザの前記ヘッドマウントディスプレイへの前記第1の観客ビューの配信をトリガするために、前記第1の観客ビューに対応する第1のプレビューウィンドウの選択を前記第1のリモートユーザから前記サーバで受信する、
    請求項15に記載のコンピュータシステム。
  18. 前記方法は、更に、
    前記三次元ライブビュー内に前記インタフェースを挿入し、
    前記インタフェースにメインウィンドウを生成し、
    前記対応する観客ビューをプレビューするための前記複数のプレビューウィンドウの1つの選択を受信し、
    前記対応する観客ビューを前記メインウィンドウに提示する、
    請求項17に記載のコンピュータシステム。
  19. 前記方法は、更に、
    前記第1の観客ビューは、前記第1のリモートユーザを表す第1のアバタに関連付けられ、前記第1のアバタは、前記インタラクティブなゲーム世界の前記第1の仮想物理的視点に対応する前記仮想位置に置かれ、
    前記インタラクティブなゲーム世界で観戦している第2のリモートユーザを表す第2のアバタが前記第1のアバタに近接していると決定し、前記第2のリモートユーザは、前記インタラクティブなゲーム世界の第2の観客ビューを受信するものであり、
    交信を可能にするために通信チャネルを介して前記第1のリモートユーザと前記第2のリモートユーザとをペアにする、
    請求項17に記載のコンピュータシステム。
  20. 前記方法は、更に、前記インタラクティブなゲーム世界の人間の観客に対応する物理的視点と矛盾しないように、前記第1の観客ビューの物体のスケールを合わせる、
    請求項17に記載のコンピュータシステム。
JP2020517884A 2017-09-29 2018-08-22 実世界会場で開催されたライブイベントで見せられるインタラクティブなゲーム世界の観客ビュー Active JP6976424B2 (ja)

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
US201762566203P 2017-09-29 2017-09-29
US62/566,203 2017-09-29
US15/727,137 US10341537B2 (en) 2017-09-29 2017-10-06 Spectator view into an interactive gaming world showcased in a live event held in a real-world venue
US15/727,137 2017-10-06
PCT/US2018/047606 WO2019067112A1 (en) 2017-09-29 2018-08-22 SPECTATOR VIEW IN AN INTERACTIVE GAMING WORLD PRESENTED IN A LIVE EVENT LOCATED IN A PLACE OF THE REAL WORLD

Publications (2)

Publication Number Publication Date
JP2020534952A JP2020534952A (ja) 2020-12-03
JP6976424B2 true JP6976424B2 (ja) 2021-12-08

Family

ID=65896977

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020517884A Active JP6976424B2 (ja) 2017-09-29 2018-08-22 実世界会場で開催されたライブイベントで見せられるインタラクティブなゲーム世界の観客ビュー

Country Status (5)

Country Link
US (3) US10341537B2 (ja)
EP (2) EP3687643B1 (ja)
JP (1) JP6976424B2 (ja)
CN (1) CN111201069B (ja)
WO (1) WO2019067112A1 (ja)

Families Citing this family (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11181990B2 (en) * 2016-03-18 2021-11-23 Sony Interactive Entertainment Inc. Spectator view tracking of virtual reality (VR) user in VR environments
WO2018147329A1 (ja) * 2017-02-10 2018-08-16 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 自由視点映像生成方法及び自由視点映像生成システム
US11113887B2 (en) * 2018-01-08 2021-09-07 Verizon Patent And Licensing Inc Generating three-dimensional content from two-dimensional images
WO2019237085A1 (en) 2018-06-08 2019-12-12 Vulcan Inc. Session-based information exchange
JP6707111B2 (ja) * 2018-07-25 2020-06-10 株式会社バーチャルキャスト 3次元コンテンツ配信システム、3次元コンテンツ配信方法、コンピュータプログラム
US11058950B2 (en) * 2019-03-15 2021-07-13 Sony Interactive Entertainment Inc. Methods and systems for spectating characters in virtual reality views
US10554596B1 (en) * 2019-03-28 2020-02-04 Wormhole Labs, Inc. Context linked messaging system
WO2020213098A1 (ja) * 2019-04-17 2020-10-22 マクセル株式会社 映像表示装置及びその表示制御方法
CN110366046A (zh) * 2019-07-25 2019-10-22 天脉聚源(杭州)传媒科技有限公司 一种虚拟观众席区域拼图方法、***、装置和存储介质
GB2586148A (en) * 2019-08-07 2021-02-10 Sony Interactive Entertainment Inc Content generation system and method
JP7383028B2 (ja) * 2019-08-20 2023-11-17 株式会社ソニー・インタラクティブエンタテインメント 情報処理装置および画像表示方法
US11557093B1 (en) * 2019-09-10 2023-01-17 Meta Platforms Technologies, Llc Using social connections to define graphical representations of users in an artificial reality setting
US11166050B2 (en) 2019-12-11 2021-11-02 At&T Intellectual Property I, L.P. Methods, systems, and devices for identifying viewed action of a live event and adjusting a group of resources to augment presentation of the action of the live event
US10705597B1 (en) 2019-12-17 2020-07-07 Liteboxer Technologies, Inc. Interactive exercise and training system and method
CN113141501A (zh) * 2020-01-20 2021-07-20 北京芯海视界三维科技有限公司 实现3d显示的方法、装置及3d显示***
US11344816B2 (en) 2020-03-20 2022-05-31 Amazon Technologies, Inc. Video game waiting queue and audience interaction
US11331587B2 (en) * 2020-03-20 2022-05-17 Amazon Technologies, Inc. Video game player, spectator and audience interaction
US11219831B2 (en) 2020-03-20 2022-01-11 Amazon Technologies, Inc. Live camera video character representations
WO2021200494A1 (ja) * 2020-03-30 2021-10-07 ソニーグループ株式会社 仮想空間における視点変更方法
US11395049B2 (en) * 2020-03-31 2022-07-19 Northwest Instrument Inc. Method and device for content recording and streaming
US11812084B2 (en) 2020-03-31 2023-11-07 Northwest Instrument Inc. Method and device for content recording and streaming
US11700353B2 (en) * 2020-04-06 2023-07-11 Eingot Llc Integration of remote audio into a performance venue
WO2021220866A1 (ja) * 2020-05-01 2021-11-04 ソニーグループ株式会社 サーバ装置、端末装置、情報処理システム及び情報処理方法
US11196944B2 (en) * 2020-05-06 2021-12-07 At&T Intellectual Property I, L.P. System for infinite windows with optical disparity and depth resolution
CN111447460B (zh) * 2020-05-15 2022-02-18 杭州当虹科技股份有限公司 一种将低延时网络应用于导播台的实现方法
JP2021182696A (ja) * 2020-05-19 2021-11-25 憲保 池田 双方向放送方法及びシステム
US20210377616A1 (en) * 2020-05-26 2021-12-02 Michael Behagen System and method for shared viewing of live tv and online content
CN111672105A (zh) * 2020-05-28 2020-09-18 腾讯科技(深圳)有限公司 基于虚拟环境的视野数据包发送方法、装置、设备及介质
CN111773658B (zh) * 2020-07-03 2024-02-23 珠海金山数字网络科技有限公司 一种基于计算机视觉库的游戏交互方法及装置
US20230269435A1 (en) * 2020-07-17 2023-08-24 Harman International Industries, Incorporated System and method for the creation and management of virtually enabled studio
WO2022016147A1 (en) * 2020-07-17 2022-01-20 Harman International Industries, Incorporated System and method for remotely creating an audio/video mix and master of live audio and video
US11070849B2 (en) * 2020-08-17 2021-07-20 Zoltan Bathory Event production and distribution networks, systems, apparatuses, and methods related thereto
US11438551B2 (en) * 2020-09-15 2022-09-06 At&T Intellectual Property I, L.P. Virtual audience using low bitrate avatars and laughter detection
US11606364B2 (en) 2020-09-15 2023-03-14 Meta Platforms Technologies, Llc Artificial reality collaborative working environments
CN113674520A (zh) * 2020-09-23 2021-11-19 许鲁辉 一种新型赛车竞技***
KR102495213B1 (ko) * 2020-11-05 2023-02-07 한국전자통신연구원 증강 현실 기반의 스크린 스포츠 체험 장치 및 방법
CN114501040B (zh) * 2020-11-13 2024-01-30 腾讯科技(深圳)有限公司 直播视频流的获取方法、装置、设备及存储介质
JP7129463B2 (ja) * 2020-12-21 2022-09-01 グリー株式会社 コンピュータプログラム、方法、及び、サーバ装置
US11854230B2 (en) 2020-12-01 2023-12-26 Meta Platforms Technologies, Llc Physical keyboard tracking
US20220176259A1 (en) * 2020-12-04 2022-06-09 Betsy Bowers Virtual Scent
WO2022124233A1 (ja) * 2020-12-07 2022-06-16 グリー株式会社 コンピュータプログラム、方法、及び、サーバ
JP2022134182A (ja) * 2021-03-03 2022-09-15 ヤマハ株式会社 映像出力方法、映像出力装置および映像出力システム
US12003806B2 (en) * 2021-03-11 2024-06-04 Quintar, Inc. Augmented reality system for viewing an event with multiple coordinate systems and automatically generated model
DE112022001916T5 (de) * 2021-03-31 2024-01-25 Sony Group Corporation Informationsverarbeitungsvorrichtung, informationsverarbeitungsverfahren und programm
US20220321944A1 (en) * 2021-04-02 2022-10-06 Comcast Cable Communications, Llc Augmenting Content Items
WO2022264536A1 (ja) * 2021-06-15 2022-12-22 ソニーグループ株式会社 情報処理装置、情報処理方法、及び情報処理システム
CN113440840B (zh) * 2021-07-14 2022-11-11 腾讯科技(深圳)有限公司 一种互动方法和相关装置
US11734893B2 (en) * 2021-08-17 2023-08-22 Sony Interactive Entertainment LLC Curating virtual tours
US11645841B2 (en) * 2021-08-30 2023-05-09 At&T Intellectual Property I, L.P. Augmented reality event switching
US11831814B2 (en) * 2021-09-03 2023-11-28 Meta Platforms Technologies, Llc Parallel video call and artificial reality spaces
JP7081860B1 (ja) 2021-09-22 2022-06-07 シンメトリー・ディメンションズ・インク 3次元モデル生成システム、3次元モデル生成サーバ、位置情報ゲームサーバ、および3次元モデル生成方法
US11921970B1 (en) 2021-10-11 2024-03-05 Meta Platforms Technologies, Llc Coordinating virtual interactions with a mini-map
US11954404B2 (en) * 2022-06-10 2024-04-09 Qualcomm Incorporated Verbal communication in a virtual world
US11890548B1 (en) 2022-07-21 2024-02-06 Sony Interactive Entertainment LLC Crowd-sourced esports stream production
EP4354877A1 (en) * 2022-10-12 2024-04-17 Holo-Light GmbH Multi-viewer xr streaming method and xr streaming system

Family Cites Families (33)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2001264723A1 (en) * 2000-05-18 2001-11-26 Imove Inc. Multiple camera video system which displays selected images
US7491123B2 (en) * 2004-07-29 2009-02-17 Nintendo Co., Ltd. Video game voice chat with amplitude-based virtual ranging
US7794315B2 (en) * 2005-09-09 2010-09-14 Microsoft Corporation Role play system
US7844724B2 (en) * 2007-10-24 2010-11-30 Social Communications Company Automated real-time data stream switching in a shared virtual area communication environment
GB0804274D0 (en) * 2008-03-07 2008-04-16 Virtually Live Ltd A media sysyem and method
WO2010019632A1 (en) * 2008-08-11 2010-02-18 Haven Holdings Llc Interactive entertainment and competition system
US20110225516A1 (en) 2010-03-10 2011-09-15 Oddmobb, Inc. Instantiating browser media into a virtual social venue
US9897805B2 (en) * 2013-06-07 2018-02-20 Sony Interactive Entertainment Inc. Image rendering responsive to user actions in head mounted display
US9268406B2 (en) 2011-09-30 2016-02-23 Microsoft Technology Licensing, Llc Virtual spectator experience with a personal audio/visual apparatus
US9403090B2 (en) 2012-04-26 2016-08-02 Riot Games, Inc. Video game system with spectator mode hud
CA2897539C (en) * 2013-04-04 2016-05-17 James S. RAND Unified communications system and method
US10137361B2 (en) * 2013-06-07 2018-11-27 Sony Interactive Entertainment America Llc Systems and methods for using reduced hops to generate an augmented virtual reality scene within a head mounted system
US9452354B2 (en) * 2013-06-07 2016-09-27 Sony Interactive Entertainment Inc. Sharing three-dimensional gameplay
US9229235B2 (en) * 2013-12-01 2016-01-05 Apx Labs, Inc. Systems and methods for unlocking a wearable device
US10203762B2 (en) * 2014-03-11 2019-02-12 Magic Leap, Inc. Methods and systems for creating virtual and augmented reality
CN204121731U (zh) * 2014-09-03 2015-01-28 珠海杨氏网络动画设计有限公司 一种具有多种体感效果的游戏机
US9818225B2 (en) 2014-09-30 2017-11-14 Sony Interactive Entertainment Inc. Synchronizing multiple head-mounted displays to a unified space and correlating movement of objects in the unified space
WO2016138178A1 (en) * 2015-02-25 2016-09-01 Brian Mullins Visual gestures for a head mounted device
AU2016240390B2 (en) 2015-04-02 2019-07-11 Catapult Group International Ltd Sports virtual reality system
US10062208B2 (en) * 2015-04-09 2018-08-28 Cinemoi North America, LLC Systems and methods to provide interactive virtual environments
US11071919B2 (en) * 2015-06-30 2021-07-27 Amazon Technologies, Inc. Joining games from a spectating system
JP6098691B1 (ja) * 2015-10-16 2017-03-22 株式会社セガゲームス 映像生成システム、制御装置および加工装置
US10471355B2 (en) * 2015-10-21 2019-11-12 Sharp Kabushiki Kaisha Display system, method of controlling display system, image generation control program, and computer-readable storage medium
US9573062B1 (en) * 2015-12-06 2017-02-21 Silver VR Technologies, Inc. Methods and systems for virtual reality streaming and replay of computer video games
US9782678B2 (en) * 2015-12-06 2017-10-10 Sliver VR Technologies, Inc. Methods and systems for computer video game streaming, highlight, and replay
US10559117B2 (en) * 2016-02-08 2020-02-11 Google Llc Interactions and scaling in virtual reality
US10412438B2 (en) * 2016-03-14 2019-09-10 The Directv Group, Inc. Method and system for viewing sports content within a virtual reality environment
US11163358B2 (en) 2016-03-17 2021-11-02 Sony Interactive Entertainment Inc. Spectating virtual (VR) environments associated with VR user interactivity
US10112111B2 (en) 2016-03-18 2018-10-30 Sony Interactive Entertainment Inc. Spectator view perspectives in VR environments
US9597567B1 (en) 2016-05-02 2017-03-21 Bao Tran Smart sport device
GB2555378B (en) 2016-10-18 2021-06-09 Virtually Live Switzerland Gmbh HMD delivery system and method
BR112019011452A2 (pt) * 2016-12-09 2019-10-15 Unity IPR ApS criar, transmitir e visualizar conteúdo 3d
CN106873767B (zh) * 2016-12-30 2020-06-23 深圳超多维科技有限公司 一种虚拟现实应用的运行控制方法和装置

Also Published As

Publication number Publication date
US11722629B2 (en) 2023-08-08
US10341537B2 (en) 2019-07-02
EP3687643A1 (en) 2020-08-05
CN111201069B (zh) 2023-09-05
WO2019067112A1 (en) 2019-04-04
US20190104235A1 (en) 2019-04-04
US11206339B2 (en) 2021-12-21
US20220191348A1 (en) 2022-06-16
CN111201069A (zh) 2020-05-26
EP4098335A1 (en) 2022-12-07
JP2020534952A (ja) 2020-12-03
EP3687643B1 (en) 2022-10-05
US20190327392A1 (en) 2019-10-24

Similar Documents

Publication Publication Date Title
JP6976424B2 (ja) 実世界会場で開催されたライブイベントで見せられるインタラクティブなゲーム世界の観客ビュー
US11179635B2 (en) Sound localization in an augmented reality view of a live event held in a real-world venue
US11662813B2 (en) Spectating virtual (VR) environments associated with VR user interactivity
US11436803B2 (en) Insertion of VR spectator in live video of a live event
US10857455B2 (en) Spectator management at view locations in virtual reality environments
CN109069933B (zh) 在vr环境中的观众视角
JP7057756B2 (ja) 仮想現実(vr)環境におけるvrユーザの観客ビュー追跡
JP6770178B2 (ja) Hmdユーザを現実世界空間内で安全に案内するために、仮想現実シーンにおいて対話型コンテンツを提供する方法
JP6929380B2 (ja) Vr環境への第2の画面の仮想ウィンドウ
US10380798B2 (en) Projectile object rendering for a virtual reality spectator

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200511

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200511

A871 Explanation of circumstances concerning accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A871

Effective date: 20200511

A975 Report on accelerated examination

Free format text: JAPANESE INTERMEDIATE CODE: A971005

Effective date: 20200818

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20200915

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20201215

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20201216

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210215

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20210420

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20210720

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20210917

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20211012

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20211109

R150 Certificate of patent or registration of utility model

Ref document number: 6976424

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150