JP6427258B1 - 表示制御装置、表示制御方法 - Google Patents

表示制御装置、表示制御方法 Download PDF

Info

Publication number
JP6427258B1
JP6427258B1 JP2017245392A JP2017245392A JP6427258B1 JP 6427258 B1 JP6427258 B1 JP 6427258B1 JP 2017245392 A JP2017245392 A JP 2017245392A JP 2017245392 A JP2017245392 A JP 2017245392A JP 6427258 B1 JP6427258 B1 JP 6427258B1
Authority
JP
Japan
Prior art keywords
virtual viewpoint
display control
virtual
image
viewpoints
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017245392A
Other languages
English (en)
Other versions
JP2019114869A (ja
Inventor
奥谷 泰夫
泰夫 奥谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority to JP2017245392A priority Critical patent/JP6427258B1/ja
Application filed by Canon Inc filed Critical Canon Inc
Priority to EP18891272.9A priority patent/EP3621300B1/en
Priority to PCT/JP2018/042948 priority patent/WO2019123957A1/ja
Priority to CN201880037860.9A priority patent/CN110720214B/zh
Priority to CA3070736A priority patent/CA3070736C/en
Priority to KR1020197035475A priority patent/KR102207457B1/ko
Priority to RU2019139424A priority patent/RU2747267C1/ru
Application granted granted Critical
Priority to BR112019025040-9A priority patent/BR112019025040A2/pt
Priority to AU2018391746A priority patent/AU2018391746B2/en
Publication of JP6427258B1 publication Critical patent/JP6427258B1/ja
Publication of JP2019114869A publication Critical patent/JP2019114869A/ja
Priority to US16/701,910 priority patent/US10733925B2/en
Priority to US16/917,683 priority patent/US11205360B2/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G3/00Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes
    • G09G3/04Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of a single character by selection from a plurality of characters, or by composing the character by combination of individual elements, e.g. segments using a combination of such display devices for composing words, rows or the like, in a frame with fixed character positions
    • G09G3/06Control arrangements or circuits, of interest only in connection with visual indicators other than cathode-ray tubes for presentation of a single character by selection from a plurality of characters, or by composing the character by combination of individual elements, e.g. segments using a combination of such display devices for composing words, rows or the like, in a frame with fixed character positions using controlled light sources
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/181Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a plurality of remote sources
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/041Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
    • G06F3/0412Digitisers structurally integrated in a display
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/14Display of multiple viewports
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37Details of the operation on graphic patterns
    • G09G5/377Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2320/00Control of display operating conditions
    • G09G2320/06Adjustment of display parameters
    • G09G2320/068Adjustment of display parameters for control of viewing angle adjustment
    • GPHYSICS
    • G09EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09GARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Hardware Design (AREA)
  • Computer Graphics (AREA)
  • General Engineering & Computer Science (AREA)
  • Signal Processing (AREA)
  • Multimedia (AREA)
  • Computing Systems (AREA)
  • Software Systems (AREA)
  • Geometry (AREA)
  • Human Computer Interaction (AREA)
  • Processing Or Creating Images (AREA)
  • User Interface Of Digital Computer (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
  • Image Generation (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

【課題】 ユーザに適切な仮想視点を選択させるための技術を提供すること。
【解決手段】 1以上の撮像装置による撮像画像に基づいて生成された仮想視点画像を取得する。複数の仮想視点それぞれに対応する仮想視点画像を表示させる画面であって、複数の仮想視点から操作対象とする選択仮想視点を選択するための画面を表示させる。
【選択図】 図2

Description

本発明は、撮像画像に基づく仮想視点画像の表示技術に関するものである。
近年、複数のカメラを異なる位置に設置して多視点で同期撮影し、該撮影により得られた複数枚の画像(複数視点画像)を用いて、カメラ設置位置からの画像だけでなく任意の視点(仮想視点)からの画像(仮想視点画像)を生成する技術が注目されている。
複数視点画像に基づく仮想視点画像の生成及び閲覧は、次のような処理によって実現できる。すなわち、複数のカメラが撮影した画像をサーバ等の画像処理部に集約し、該画像処理部にて仮想視点に基づくレンダリング等の処理を行って仮想視点画像を生成し、該仮想視点画像をユーザ端末に表示することで実現できる。
仮想視点画像を用いたサービスでは、例えば、サッカーやバスケットボールの試合を撮影した映像から、映像制作者によって迫力のある視点のコンテンツを制作することができる。また、コンテンツを視聴しているユーザ自身が自由に視点を移動させながら、試合観戦したりすることができるようにもなり、ユーザに高臨場感を与えることができる。特許文献1では、ユーザが複数の仮想視点の中からひとつの仮想視点を選択する技術が開示されている。
特開2014−215828号公報
特許文献1に記載の発明では、複数用意された仮想視点の中からユーザがひとつの仮想視点を選択し、該選択された仮想視点における仮想視点画像を表示することができる。また、仮想視点のおおよその位置が文字列で表示されるため、仮想視点の区別をすることができる。しかしながら、例えばスポーツの生中継において仮想視点のオペレータが利用する場合、仮想視点の切り替え前に切り替え後の仮想視点画像に何が映るのかを知ることができない。そのため、プレーに応じた仮想視点の適切な選択を行えない場合があった。本発明は、ユーザに適切な仮想視点を選択させるための技術を提供する。
本発明の一様態は、複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
を有し、
前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
前記複数の仮想視点のうち位置及び姿勢の操作対象として選択された仮想視点に応じた仮想視点画像は、他の装置へ送信されることを特徴とする。
本発明の構成により、ユーザに適切な仮想視点を選択させることができる。
システムの構成例を示すブロック図。 表示制御装置100の機能構成例を示すブロック図。 システムが行う処理のフローチャート。 表示画面の構成例、仮想視点の配置例を示す図。 「複数の仮想視点に係る情報」の構成例を示す図。 表示制御装置100の機能構成例を示すブロック図。 システムが行う処理のフローチャート。 入力デバイスの一例を示す図。 システムが行う処理のフローチャート。 表示制御装置100の機能構成例を示すブロック図。 システムが行う処理のフローチャート。 第4の実施形態を説明する図。 第4の実施形態を説明する図。 仮想視点セットの一例、テーブル情報の構成例を示す図。
以下、添付図面を参照し、本発明の実施形態について説明する。なお、以下説明する実施形態は、本発明を具体的に実施した場合の一例を示すもので、特許請求の範囲に記載した構成の具体的な実施形態の1つである。
[第1の実施形態]
先ず、本実施形態に係るシステムの構成例について、図1のブロック図を用いて説明する。図1に示す如く、本実施形態に係るシステムは、表示制御装置100、画像生成装置110、撮像装置109−1〜109−n(nは2以上の整数)、を有する。
先ず、撮像装置109−1〜109−nについて説明する。撮像装置109−1〜109−nは互いに異なる複数の方向から被写体の映像を撮像するために設けられたものであり、撮像装置109−1〜109−nのそれぞれは、撮像した映像を構成する各フレームの画像(撮像画像)を画像生成装置110に出力する。撮像装置109−1〜109−nと画像生成装置110との間の接続形態については特定の接続形態に限らない。すなわち、撮像装置109−1〜109−nと画像生成装置110との間の接続形態はデイジーチェーンであっても良いし、スター型のネットワーク構成であっても良い。また、この接続形態は無線であっても良いし有線であっても良いし、それらの組み合わせであっても良い。
次に、表示制御装置100について説明する。表示制御装置100は、仮想視点に基づく仮想視点画像の生成を画像生成装置110に要求し、該要求に応じて該画像生成装置110が生成した仮想視点画像の表示制御を行うものである。表示制御装置100は、PC(パーソナルコンピュータ)、スマートフォン、タブレット型端末装置、等のコンピュータ装置により構成される。
CPU(Central Processing Unit)101は、ROM(Read−Only Memory)102やRAM(Random Access Memory)103に格納されているコンピュータプログラムやデータを用いて処理を実行する。これによりCPU101は、表示制御装置100全体の動作制御を行うと共に、表示制御装置100が行うものとして後述する各処理を実行若しくは制御する。
ROM102には、起動プログラムや設定データなど、書換不要のコンピュータプログラムやデータが格納されている。
RAM103は、ROM102やHDD(ハードディスクドライブ)104からロードされたコンピュータプログラムやデータを格納するためのエリアを有する。更にRAM103は、通信I/F(インターフェース)106を介して画像生成装置110から受信したデータ(例えば仮想視点画像)、を格納するためのエリアを有する。またRAM103は、CPU101が各種の処理を実行する際に用いるワークエリアを有する。このようにRAM103は、各種のエリアを適宜提供することができる。
HDD104は、OS(オペレーティングシステム)や、表示制御装置100が行うものとして後述する各処理をCPU101に実行若しくは制御させるためのコンピュータプログラムやデータが保存されている。HDD104に保存されているデータには、以下の説明において既知の情報として説明するものが含まれている。HDD104に保存されているコンピュータプログラムやデータは、CPU101による制御に従って適宜RAM103にロードされ、CPU101による処理対象となる。
表示部105は、CRTや液晶画面などにより構成されており、CPU101による処理結果を画像や文字などでもって表示することができる。なお、表示部105は、CPU101による処理結果を画像や文字として投影する投影装置であっても良い。また表示部105は、タッチパネル画面であっても良いし、HMD(ヘッドマウントディスプレイ)等の頭部装着型表示装置、ハンドヘルドタイプの表示装置、スマートフォン、タブレット型端末装置であっても良い。
通信I/F106は、画像生成装置110との間のデータ通信を行うためのインターフェースとして機能するものである。表示制御装置100と画像生成装置110との間の接続形態は特定の接続形態に限るものではない。例えば、表示制御装置100と画像生成装置110との間のネットワークは無線ネットワークであっても良いし、有線ネットワークであっても良いし、それらの組み合わせであっても良い。
操作部107は、キーボード、マウス、ジョイスティック、ゲームパッド、タッチパネルなどのユーザインターフェースにより構成されており、ユーザが操作することで各種の指示をCPU101に対して入力することができる。
CPU101、ROM102、RAM103、HDD104、表示部105、通信I/F106、操作部107、は何れもバス108に接続されている。なお、図1に示した表示制御装置100の構成は一例であり、以下に表示制御装置100が行うものとして後述する処理を実現可能な構成であれば、如何なる構成を採用しても良い。例えば、フレキシブルディスク(FD)、CD−ROM、DVD、USBメモリ、MO、フラッシュメモリ等の情報記録媒体への情報の読み書きを行う構成を表示制御装置100に加えても良い。この場合、HDD104が保持するものとして説明する情報をこの情報記録媒体に格納させておいても良い。また、情報を記録する媒体として、表示制御装置100とネットワークを介して接続されているサーバ装置を使用しても良い。このように、表示制御装置100が取り扱うコンピュータプログラムやデータなどの情報を保持する機器は特定の機器に限らない。
次に、画像生成装置110について説明する。画像生成装置110は、表示制御装置100からの要求に応じて、仮想視点に基づく仮想視点画像の生成を、撮像装置109−1〜109−nのうち1つ以上の撮像装置による撮像画像に基づいて生成する。そして画像生成装置110は、該生成した仮想視点画像を表示制御装置100に対して送信する。画像生成装置110は、PC(パーソナルコンピュータ)、スマートフォン、タブレット型端末装置、等のコンピュータ装置により構成される。
次に、表示制御装置100の機能構成例について、図2のブロック図を用いて説明する。管理部201は、HDD104やRAM103に保持している複数の仮想視点に係る情報を管理する。管理部201が管理する「複数の仮想視点に係る情報」の構成例について、図5を用いて説明する。図5のテーブル情報は、「複数の仮想視点に係る情報」の一例である。図5のテーブル情報には、6つの仮想視点のそれぞれの視点情報(視点種類、視点ID、位置、方向、画角)が登録されている。なお、図5では、視点情報には視点種類、視点ID、位置、方向、画角が含まれているものとしたが、視点情報が含む情報はこれに限らず、例えば、視点種類、視点ID、位置、方向、画角に加えて焦点距離など他の情報を含んでも良い。また、各仮想視点を規定する情報の内容や各視点を規定する情報の管理方法については特定の形態に限らない。
図5に示す如く、6つの仮想視点のうち1つの仮想視点のみが選択仮想視点(視点種類)となり、残りの5つの仮想視点が切替用仮想視点(視点種類)となる。「選択仮想視点」とは、ユーザが操作部107を操作して操作する対象となる仮想視点であり、「切替用仮想視点」とは、ユーザが操作部107を操作して選択仮想視点として選択する候補となる仮想視点である。図5の場合、視点ID=408に対応する仮想視点が選択仮想視点であり、視点ID=409〜413に対応する仮想視点が切替用仮想視点である。
例えば、ユーザが操作部107を操作して視点ID=409の仮想視点を選択仮想視点として選択(指定)する操作を行ったとする。このとき管理部201は、視点ID=409に対応する視点種類を「選択仮想視点」に変更し、視点ID=408に対応する視点種類を「切替用仮想視点」に変更する。このようにして、ユーザは操作部107を操作することで、図5のテーブル情報に登録されている6つの仮想視点のうち任意の1つの仮想視点を選択仮想視点として選択することができる。以下では具体的な説明を行うために、HDD104やRAM103には図5に示すようなテーブル情報が登録されているものとし、管理部201は、このテーブル情報を管理しているものとする。切替用仮想視点の初期値は、事前にユーザにより任意に設定されたものでもよいし、システムによって定められた任意の値を用いてもよい。
そして管理部201は、テーブル情報に登録されている各切替用仮想視点の視点情報を読み出して出力部202に対して出力する。また管理部201は、テーブル情報に登録されている選択仮想視点の視点情報を読み出す。そして管理部201は、該読み出した視点情報に含まれている位置をコピーした第2位置、該視点情報に含まれている方向をコピーした第2方向、該視点情報に含まれている画角をコピーした第2画角を生成する。そして管理部201は、テーブル情報に登録されている選択仮想視点の視点情報に含まれている視点種類及び視点IDと、第2位置、第2方向、第2画角と、を含む選択視点情報を生成し、該選択視点情報を出力部202に対して出力する。
出力部202は、管理部201から出力された視点情報及び選択視点情報を通信I/F106を介して画像生成装置110に対して出力することで、選択仮想視点及び各切替用仮想視点に対応する仮想視点画像の生成を画像生成装置110に対して要求する。
受信部203は、出力部202による上記の要求に応じて画像生成装置110が生成した仮想視点画像(選択仮想視点に対応する仮想視点画像、切替用仮想視点に対応する仮想視点画像)を、通信I/F106を介して画像生成装置110から受信する。なお、画像生成装置110から出力される仮想視点画像には、該仮想視点画像に対応する仮想視点の視点IDが添付されているものとする。
制御部204は、受信部203が受信したそれぞれの仮想視点画像を互いに重複することなく、表示部105の表示画面上に並べて表示する。例えば図4(a)に示す如く、表示部105における表示領域401内の表示領域402には、受信部203が受信した仮想視点画像のうち選択仮想視点に対応する視点IDが添付された仮想視点画像が表示される。また、表示領域401内の表示領域403〜406には、受信部203が受信した仮想視点画像のうち切替用仮想視点の視点IDが添付された仮想視点画像が表示される。図5の場合、視点ID=408の選択仮想視点について画像生成装置110が生成した仮想視点画像は表示領域402内に表示される。また、視点ID=409〜412の切替用仮想視点について画像生成装置110が生成した仮想視点画像はそれぞれ、表示領域403〜406に表示される。
なお、表示領域401は、表示部105の表示画面の全体領域であっても良いし、表示部105の表示画面の一部領域(例えば表示部105に表示されているウィンドウ内の領域)であっても良い。
入力部205は、ユーザが操作部107を操作することで入力した操作入力(ユーザ操作)に応じて、選択視点情報に含まれている第2位置、第2方向、第2画角のうち少なくとも1つを変更操作することで、ユーザによる選択仮想視点の操作を実現する。つまり、ユーザが操作部107を操作して選択仮想視点の位置や方向や画角を変更しても、この変更は上記のテーブル情報には反映されず、選択仮想視点に対応する仮想視点画像の生成に反映されることになる。
更に入力部205は、ユーザが操作部107を操作して選択仮想視点の選択操作を行った場合には、管理部201に対して選択仮想視点の変更を指示する。管理部201による選択仮想視点の変更処理については上記の通りである。
なお、以下では、図2の各機能部(管理部201、出力部202、受信部203、制御部204、入力部205)を処理の主体として説明する。しかし、実際には、これらの機能部の機能をCPU101に実行させるためのコンピュータプログラムを該CPU101が実行することで、該機能部の機能が実現される。これは、後述する図6,10についても同様である。なお、図2に記載の機能構成の一部またはすべてを専用のハードウェアにより実現してもよい。専用のハードウェアは、例えば、ASIC、FPGA、GPUなどである。また、図2に記載の機能構成の一部を、表示制御装置100とは異なる1または複数の他の装置が有していてもよい。
また、図1では、画像生成装置110と表示制御装置100とは別個の装置としているが、画像生成装置110と表示制御装置100とを一体化させても良い。その場合、出力部202及び受信部203は省くことができる。
次に、本実施形態に係るシステムが行う処理について、図3のフローチャートに従って説明する。図3のフローチャートに従った処理は、仮想視点の設定用アプリケーションが起動した状態をスタートとし、仮想視点の設定用アプリケーションが終了するまでを対象としている。また図3のステップS302〜ステップS310の処理は仮想視点の設定画面(例えば図4(a)の表示領域401)に表示する仮想視点画像の1フレームにつき1回ループするものとする。例えば60fps(フレーム/秒)で仮想視点画像を生成する場合、このループは1秒間に60回繰り返されることになる。
ステップS301では、管理部201は、上記のテーブル情報に登録されているそれぞれの切替用仮想視点の視点情報を読み出すと共に、上記のテーブル情報に登録されている選択仮想視点の視点情報から選択視点情報を生成する。そして管理部201は、各切替用仮想視点の視点情報及び選択仮想視点の選択視点情報のそれぞれを出力部202に対して出力する。
ステップS302では、出力部202は、管理部201から出力された全ての切替用仮想視点の視点情報を画像生成装置110に対して送信したか否かを判断する。この判断の結果、管理部201から出力された各切替用仮想視点の視点情報のうち未だ画像生成装置110に対して送信していない視点情報が残っている場合には、処理はステップS303に進む。一方、この判断の結果、管理部201から出力された全ての切替用仮想視点の視点情報を画像生成装置110に対して送信済みである場合には、処理はステップS305に進む。
ステップS303では、出力部202は、管理部201から出力された切替用仮想視点の視点情報のうち未送信の視点情報を通信I/F106を介して画像生成装置110に対して出力する。画像生成装置110は、出力部202から出力された視点情報に含まれている位置、方向、画角と、撮像装置109−1〜109−nのうち1つ以上の撮像装置による撮像画像と、に基づいて仮想視点画像を生成する。そして画像生成装置110は、該生成した仮想視点画像に、該視点情報に含まれている視点IDを添付して表示制御装置100に対して送信する。
ステップS304では、受信部203は、画像生成装置110から送信された仮想視点画像を通信I/F106を介して受信する。そして、制御部204は、該受信した仮想視点画像を、該仮想視点画像に添付されている視点IDに対応する表示領域(表示領域403〜406の何れか)に表示する。
ステップS305で入力部205は、ユーザが操作部107を操作して選択仮想視点の位置/方向/画角を変更する操作入力を行った場合、選択視点情報に含まれている第2位置/第2方向/第2画角に対して、該操作入力に応じた変更を行う。例えばユーザが操作部107を操作することで選択仮想視点の位置を変更する操作入力を行った場合には、入力部205は、選択視点情報に含まれている第2位置をこの操作入力に応じて変更する。またユーザが操作部107を操作することで選択仮想視点の方向を変更する操作入力を行った場合には、入力部205は、選択視点情報に含まれている第2方向をこの操作入力に応じて変更する。またユーザが操作部107を操作することで選択仮想視点の画角を変更する操作入力を行った場合には、入力部205は、選択視点情報に含まれている第2画角をこの操作入力に応じて変更する。
ステップS306では、出力部202は、選択視点情報を通信I/F106を介して画像生成装置110に対して送信することで、該選択視点情報に基づいて選択仮想視点に対応する仮想視点画像の生成を画像生成装置110に対して要求する。画像生成装置110は、該要求に応じて、上記のステップS303と同様にして選択仮想視点に対応する仮想視点画像を生成し、該生成した仮想視点画像に、選択視点情報に含まれている視点IDを添付して表示制御装置100に対して送信する。
ステップS307では、受信部203は、ステップS306にて画像生成装置110から送信された仮想視点画像を通信I/F106を介して受信する。そして制御部204は、該受信した仮想視点画像を、該仮想視点画像に添付されている視点IDに対応する表示領域(表示領域402)に表示する。
ステップS308では、入力部205は、ユーザが操作部107を操作することで選択仮想視点の選択指示を入力したか否かを判断する。例えば、ユーザが操作部107を操作して図4(a)の表示領域403〜406のうち表示領域405を指定する操作を行ったとする。このとき入力部205は、表示領域405に表示される仮想視点画像に対応する仮想視点を選択仮想視点として選択する操作指示の入力があったと判断する。なお、選択仮想視点の選択操作方法は特定の選択操作方法に限らない。
この判断の結果、選択仮想視点の選択指示を入力した場合には、処理はステップS309に進み、選択仮想視点の選択指示を入力していない場合には、処理はステップS310に進む。
ステップS309では、管理部201は、ユーザが操作部107を操作することで表示領域401上で選択した仮想視点仮想に対応する切替用仮想視点についてテーブル情報で管理している視点種類を「選択仮想視点」に変更する。そして管理部201は、表示領域402に表示している仮想視点画像についてテーブル情報で管理している視点種類を「切替用仮想視点」に変更する。そして管理部201は、視点種類が「選択仮想視点」に変更された仮想視点についてテーブル情報にて管理している位置をコピーした第2位置を生成する。また管理部201は、視点種類が「選択仮想視点」に変更された仮想視点についてテーブル情報にて管理している方向をコピーした第2方向を生成する。また管理部201は、視点種類が「選択仮想視点」に変更された仮想視点についてテーブル情報にて管理している画角をコピーした第2画角を生成する。つまり、第2位置、第2方向、第2画角のそれぞれは常に、現在の選択仮想視点の最新の位置、方向、画角を表すものである。そして管理部201は、視点種類「選択視点情報」と、ステップS309で更新された第2位置、第2方向、第2画角と、視点種類が「選択仮想視点」に変更された仮想視点についてテーブル情報で管理している視点IDと、を含む選択視点情報を生成する。なお、管理部201は、選択仮想視点として設定されている視点IDに対応する位置/方向/画角を、切り替え指示により特定された切替用仮想視点の値と同じにしてもよい。
このように、ユーザ(仮想視点のオペレータ)は、表示領域402に表示されている仮想視点画像を見ながら、操作部107を操作して所望の仮想視点画像を得るべく仮想視点の位置や方向や画角を操作することができる。またユーザは、表示領域403〜406を参照することで所望の仮想視点画像を得るために望ましい視点を探すことができる。そして、望ましい視点の仮想視点画像を見つけた場合には、その仮想視点画像を選択指定することで、該該仮想視点画像が表示領域402に表示され、その仮想視点を操作することができる。然るに表示領域402〜406は図4(a)に示す如く、互いに重ならずに表示されることが望まれるし、一度に閲覧できることが望まれる。
ステップS310では、入力部205は、ユーザが操作部107を操作することで、仮想視点の設定用アプリケーションの終了指示を入力したか否かを判断する。この判断の結果、仮想視点の設定用アプリケーションの終了指示を入力した場合には、図3のフローチャートに従った処理は終了し、仮想視点の設定用アプリケーションの終了指示を入力していない場合には、処理はステップS302に進む。
仮想視点の配置例を図4(b)に示す。図4(b)に示す如く、仮想視点408〜413は、サッカーのフィールド407における様々な位置で様々な方向から該フィールド407を観察できるように設定されており、それぞれの仮想視点の位置、方向、画角は図5に示す如く管理されている。例えば、仮想視点の位置は、フィールド407に対して規定されている座標系における3次元位置、仮想視点の方向は、パン、チルト、ロールの値、仮想視点の画角は、該仮想視点の水平画角の値とする。表示制御装置100は、図4(b)に示す画面を図4(a)に示す画面とともに表示させてもよい。表示制御装置100は、撮影対象であるフィールド407の俯瞰図に、各仮想視点の位置を示すアイコン(図4(b)に示す例ではカメラを示すアイコン)を表示させる。また、表示制御装置100は、選択仮想視点の位置と切替用仮想視点の位置とを識別可能に区別して表示させてもよい。例えば、表示制御装置100は、選択仮想視点の位置と切替用仮想視点の位置とを異なる色またはアイコンにより表示してもよい。また、表示制御装置100は、仮想視点の位置を示すアイコンに視点IDを関連付けて表示してもよい。このように、図4(b)に示す仮想視点の配置を表示することで、選択仮想視点と切替用仮想視点との位置関係を容易に把握させることが可能となり、所望の仮想視点画像を得るために望ましい視点を探すことができる。
なお、図5のテーブル情報では、視点ID=413に対応する視点種類は「切替用仮想視点(非表示)」となっており、表示対象ではないことを示している。制御部204は、この視点種類に対応する仮想視点画像は表示しない。また、この視点種類に対応する仮想視点画像を生成しないようにしても良い。
このように、本実施形態によれば、各切替用仮想視点に対応する仮想視点画像を、次に選択仮想視点として選択するために参考にすべき参考情報として表示している。そのため、例えば、参考情報として各撮像装置による撮像画像を表示するよりも、次にどの仮想視点を選択すればよいのかをより直感的に把握することができる。
なお、表示領域402に表示されている仮想視点画像(選択仮想視点に対応する仮想視点画像)は、例えば、表示制御装置100のHDD104に保存するようにしても良いし、通信I/F106を介して外部の機器に対して送信しても良い。例えば後者の場合、表示領域402に表示されている仮想視点画像(選択仮想視点に対応する仮想視点画像)を通信I/F106を介して放送用として放送しても良い。
<変形例>
仮想視点のオペレータは、撮像装置が撮像している対象の状況が把握できればよいため、例えば、仮想視点画像として簡易仮想視点画像を生成してもよい。簡易仮想視点画像には、3DCG(三次元コンピュータグラフィック)を用いる。まず、受信部203は、画像生成装置110から撮像画像中の前景(例えば選手とボール)の位置を取得する。仮想視点画像の生成過程では通常、前景と背景とを分離する処理が行われる。その過程で前景の位置を求めることが一般的である。よって、表示制御装置100は、画像生成装置110から前景の位置を容易に取得することができる。次に表示制御装置100は事前に用意した選手とボールの三次元CGモデルを、画像生成装置110から取得した位置に配置する。また、背景であるスタジアムのフィールドや観客席の三次元CGモデルも別途用意しておくものとする。これらの三次元モデルを表示制御装置100が有する3DCGのレンダリングエンジンに入力すると、仮想視点から見た簡易仮想視点画像を生成することが可能である。表現能力の点で通常の仮想視点画像に劣ることは否めないが、オペレータは例えばプレーの状況が把握でき、かつ、計算機リソースを軽減できるというメリットがある。また、例えば、表示領域402に表示されている仮想視点画像と、表示領域403〜406に表示される切替用仮想視点に対応する仮想視点画像とを異なるフレームレートにより表示させてもよい。
このように本実施形態では複数の仮想視点のうち操作対象としてユーザにより選択された選択仮想視点に対応する仮想視点画像と複数の仮想視点のうち選択仮想視点以外の仮想視点に対応する仮想視点画像とが互いに重複することなく配置された画面を表示する。これにより、オペレータがある仮想視点に切り替える前に切り替え後の仮想視点画像に何が映るのかを知ることができるため、仮想視点の適切な選択を行うことができる。
[第2の実施形態]
以降の各実施形態や各変形例では、第1の実施形態との差分について説明し、以下で特に触れない限りは、第1の実施形態と同様であるものとする。第1の実施形態では、表示された仮想視点画像のうち何れか1つを指定することで、該指定された1つの仮想視点画像に対応する仮想視点を選択仮想視点として選択した。しかし、選択仮想視点の選択方法は第1の実施形態において説明した選択方法に限らない。本実施形態では、選択仮想視点の選択方法として第1の実施形態とは異なる選択方法について説明する。
本実施形態に係る表示制御装置100の機能構成例について、図6のブロック図を用いて説明する。図6において図2に示した機能部と同じ機能部には同じ参照番号を付しており、該機能部に係る説明は省略する。処理部601は、切替用仮想視点(図4(a)の場合は表示領域403〜406のそれぞれに対応する切替用仮想視点)を、操作部107が有する複数の選択ボタンの何れかに割り当てる。
そして入力部205は、ユーザが押下した選択ボタンに対応する切替用仮想視点が選択仮想視点として選択されたと判断する。管理部201は、テーブル情報において現時点で選択仮想視点となっているものを切替用仮想視点に変更し、ユーザが押下した選択ボタンに対応する切替用仮想視点を選択仮想視点に変更する。
次に、本実施形態に係るシステムが行う処理について、図7のフローチャートに従って説明する。図7のフローチャートに従った処理は、仮想視点の設定用アプリケーションが起動した状態をスタートとし、仮想視点の設定用アプリケーションが終了するまでを対象としている。図7において、図3に示した処理ステップと同じ処理ステップには同じステップ番号を付しており、該処理ステップに係る説明は省略する。
ステップS701では、処理部601は、切替用仮想視点(図4(a)の場合は表示領域403〜406のそれぞれに対応する切替用仮想視点)を、操作部107が有する複数の選択ボタンの何れかに割り当てる。
操作部107として適用可能な入力デバイスの一例を図8に示す。図8に示す入力デバイス801には、選択ボタン803〜806が設けられている。処理部601は、例えば、選択ボタン803〜806に表示領域403〜406(つまり表示領域403〜406のそれぞれに対応する切替用仮想視点)をそれぞれ割り当てる。これにより、ユーザが選択ボタン803を押下した場合には、入力部205は、表示領域403の仮想視点画像が選択された(該仮想視点画像に対応する仮想視点が選択された)と判断することができる。また、ユーザが選択ボタン804を押下した場合には、入力部205は、表示領域404の仮想視点画像が選択された(該仮想視点画像に対応する仮想視点が選択された)と判断することができる。ユーザが選択ボタン805を押下した場合には、入力部205は、表示領域405の仮想視点画像が選択された(該仮想視点画像に対応する仮想視点が選択された)と判断することができる。ユーザが選択ボタン806を押下した場合には、入力部205は、表示領域406の仮想視点画像が選択された(該仮想視点画像に対応する仮想視点が選択された)と判断することができる。
このように表示領域及び選択ボタンが共に横並びで配置されている場合、左端の表示領域を左端の選択ボタンに割り当て、左端から2番目の表示領域を左端から2番目の選択ボタンに割り当て、…というように並び順に従って選択ボタンに表示領域を割り当てる。また、表示領域及び選択ボタンが共に縦並びで配置されている場合、上端の表示領域を上端の選択ボタンに割り当て、上端から2番目の表示領域を上端から2番目の選択ボタンに割り当て、…というように並び順に従って選択ボタンに表示領域を割り当てる。なお、どの選択ボタンにどの表示領域を割り当てるのかについては特定の割り当て方法を採用することに限らない。
なお、切替用仮想視点の数が入力デバイス上の選択ボタンの数より多い場合は、例えば左から割り当てられる限りの切替用仮想視点を割り当てればよい。どの選択ボタンにどの切替用仮想視点を割り当てたのかの管理方法としては、例えば、テーブル情報において、各切替用仮想視点の視点情報に、該切替用仮想視点に割り当てた選択ボタンの識別情報を含めるようにしても良い。しかし、その管理方法は特定の管理方法に限らない。
然るに、ステップS308では、入力部205は、ユーザが押下した選択ボタンに対応する切替用仮想視点が選択仮想視点として選択された(選択指示が入力された)と判断する。
また、入力デバイス801には、選択仮想視点を移動させるためにユーザが操作するジョイスティック802が設けられている。ユーザはこのジョイスティック802を操作することで、視点の位置や方向などを移動させることができる。ユーザによるジョイスティック802の操作により、選択視点情報に含まれている第2位置、第2方向、第2画角のうち操作入力に応じた成分が変更される。
このように、本実施形態によれば、入力デバイス上の選択ボタンに切替用仮想視点を割り当てることによって、仮想視点のオペレータはマウスや画面に手を持っていくことなく、仮想視点の操作を行う入力デバイス上で仮想視点の選択も行うことができる。これによって、迅速に仮想視点を選択することができる。
[第3の実施形態]
本実施形態では、テーブル情報に対する編集操作を可能にする。本実施形態では、第2の実施形態に係るシステムの構成を利用する。本実施形態に係るシステムが行う処理について、図9のフローチャートに従って説明する。図9のフローチャートに従った処理は、仮想視点の設定用アプリケーションが起動した状態をスタートとし、仮想視点の設定用アプリケーションが終了するまでを対象としている。図9において、図3、7に示した処理ステップと同じ処理ステップには同じステップ番号を付しており、該処理ステップに係る説明は省略する。
ステップS901では、入力部205は、ユーザが操作部107を操作することで、現在の選択仮想視点の位置、方向、画角をテーブル情報に登録する指示(登録指示)を入力したか否かを判断する。登録指示の入力方法は特定の入力方法に限らない。例えば、表示部105の表示画面に表示されている登録ボタンをユーザが操作部107を操作して指示することで登録指示を入力しても良いし、ユーザが操作部107において特定のボタンを押下することで登録指示を入力しても良い。この判断の結果、登録指示を入力した場合には、処理はステップS902に進み、登録指示を入力していない場合には、処理はステップS903に進む。
ステップS902では、管理部201は、新たな視点IDを発行し、該発行した視点IDと、視点種類「切替用仮想視点」と、現在の選択視点情報に含まれている第2位置、第2方向、第2画角と、を含む新規の視点情報を生成してテーブル情報に登録する。また、管理部201は、この登録した仮想視点に対応する仮想視点画像を表示領域403〜406のどこに表示するのか、それとも非表示とするのかについてもテーブル情報に登録する若しくはテーブル情報とは別個の情報として登録する。
ステップS903では、入力部205は、ユーザが操作部107を操作することで、表示領域403〜406のそれぞれに表示されている仮想視点画像の並び順を変更する指示(並び替え指示)が入力されたのか否かを判断する。この判断の結果、並び替え指示が入力された場合には、処理はステップS904に進み、並び替え指示が入力されていない場合には、処理はステップS905に進む。
ステップS904では、制御部204は、ユーザが操作部107を操作することで入力した操作入力に応じて、表示領域403〜406のそれぞれに表示されている仮想視点画像の並び順を変更する。この並び替えのためにユーザが行う操作については特定の操作に限らない。例えば、ユーザは操作部107を操作して、表示部105の表示画面に表示されている変更ボタンを指示すると、入力部205は、表示領域403〜406に表示されている仮想視点画像に対する操作指示を受け付ける。なお、ユーザが操作部107における特定のボタンを押下した場合に、入力部205は、表示領域403〜406に表示されている仮想視点画像に対する操作指示を受け付けるようにしても良い。
そして例えば、ユーザが操作部107を操作して、表示領域404内の仮想視点画像をドラッグして表示領域406内に移動させたとする。このとき制御部204は、表示領域405,406内に表示されていた仮想視点画像をそれぞれ表示領域404,405に移動させる。また制御部204は、表示領域406内にドラッグされた仮想視点画像(表示領域404内に表示されていた仮想視点画像)を表示領域406内に移動させる。このとき、管理部201は、表示領域と切替用仮想視点との対応付けを変更する。
また例えば、ユーザが操作部107を操作して、表示領域404内の仮想視点画像をドラッグして表示領域401の外側に移動させたとする。このとき制御部204は、表示領域405,406内に表示されていた仮想視点画像をそれぞれ表示領域404,405に移動させる。管理部201は、ドラッグして表示領域401外に移動させた仮想視点画像の視点種類を非表示にし、代わりに、視点種類が非表示となっていた視点ID=413の切替用仮想視点の視点種類から非表示を削除する。そして、視点ID=413の切替用仮想視点に対応する仮想視点画像が上記の如く生成されて表示領域406内に表示される。なお、切替用仮想視点に対応する仮想視点画像の並び替え操作については様々な操作があり、特定の操作に限るものではない。
ステップS905では、入力部205は、ユーザが操作部107を操作することで、表示領域403〜406のそれぞれに表示されている仮想視点画像のうち何れかを削除する指示(削除指示)が入力されたか否かを判断する。この判断の結果、削除指示が入力された場合には、処理はステップS906に進み、削除指示が入力されていない場合には、処理はステップS907に進む。
ステップS906では、管理部201は、削除指示の対象となった仮想視点の視点情報をテーブル情報から削除し、制御部204は、削除指示の対象となった仮想視点に対応する仮想視点画像を表示部105の表示画面から消去する。この削除のためにユーザが行う操作については特定の操作に限らない。例えば、ユーザが操作部107を操作して表示部105の表示画面に表示されている削除ボタンを指示すると、入力部205は、表示領域403〜406に表示されている仮想視点画像に対する操作指示を受け付ける。なお、ユーザが操作部107における特定のボタンを押下した場合に、入力部205は、表示領域403〜406に表示されている仮想視点画像に対する操作指示を受け付けるようにしても良い。
そして例えばユーザが操作部107を操作して表示領域404を指定すると、管理部201は、テーブル情報から表示領域404に表示されていた仮想視点画像に対応する切替用仮想視点の視点情報をテーブル情報から削除する。そして制御部204は、表示領域404から仮想視点画像を消去する。
ステップS907では、入力部205は、ユーザが操作部107を操作することで、テーブル情報において切替用仮想視点の視点情報を、他の切替用仮想視点の視点情報に切り替える指示(視点セット切替指示)が入力されたのか否かを判断する。例えば、入力部205は、表示部105の表示画面に表示されている視点セット切替ボタンが指示された、若しくは操作部107における特定のボタンが押下された場合には、視点セット切替指示が入力されたと判断する。この判断の結果、視点セット切替指示が入力された場合には、処理はステップS908に進み、視点セット切替指示が入力されていない場合には、処理はステップS310に進む。
ステップS908では、管理部201は、テーブル情報において視点種類が「切替用仮想視点」の視点情報を、予め作成してHDD104に登録されている仮想視点セットの何れかに置き換える。仮想視点セットとは、後述するように、1つ以上の仮想視点の視点情報である。HDD104に登録されている仮想視点セットは1つであっても良いし、複数であっても良い。
HDD104に1つの仮想視点セットが登録されている場合、管理部201は、テーブル情報において視点種類が「切替用仮想視点」の視点情報を、該1つの仮想視点セットに置き換える。
HDD104に複数の仮想視点セットが登録されている場合、管理部201は、テーブル情報において視点種類が「切替用仮想視点」の視点情報を、該複数の仮想視点セットのうちの何れか1つに置き換える。複数の仮想視点セットから上記の置き換えに使用する1つの仮想視点セットを選択するための方法は特定の方法に限らない。例えば制御部204は、この複数の仮想視点セットの内容やファイル名が記載されたリストを表示部105の表示画面に表示する。この表示画面を見てユーザが操作部107を操作して該複数の仮想視点セットのうち1つを選択すると、管理部201は、テーブル情報において視点種類が「切替用仮想視点」の視点情報を、該選択された仮想視点セットに置き換える。
仮想視点セットを複数設けて、そこから1つを選択して使用する、という構成は、例えば、プレーの状況に応じて仮想視点のオペレータが使い分けることを想定している。例えば、コーナーキック用の仮想視点セット、キックオフ用の仮想視点セット、ペナルティキック用の仮想視点セットなどを事前に用意しておくと有用である。さらに、ペナルティキック用の仮想視点セットの場合は、ゴール側からペナルティスポットの方向を見る仮想視点、その逆方向の仮想視点、ペナルティスポット越しにゴール側を見る仮想視点、ベンチを見る仮想視点などをセットとして用意しておくと便利である。なお、ステップS908でテーブル情報を変更した場合、管理部201は、該変更したテーブル情報に登録されているそれぞれの切替用仮想視点の視点情報を読み出し、該各切替用仮想視点の視点情報を出力部202に対して出力する。
仮想視点セットの一例を図14に示す。図14(a)には、仮想視点セット1401、仮想視点セット1402、仮想視点セット1403のそれぞれの構成例を示している。仮想視点セット1401には4つの切替用仮想視点の視点情報が登録されている。仮想視点セット1402には、3つの切替用仮想視点の視点情報が登録されている。仮想視点セット1403には、5つの切替用仮想視点の視点情報が登録されている。
ここで、上記のステップS908において仮想視点セット1401が選択された場合に、図5のテーブル情報において視点種類が「切替用仮想視点」の視点情報を該仮想視点セット1401に置き換えた後のテーブル情報の構成例を図14(b)に示す。図14(b)のテーブル情報では、図5のテーブル情報から切替用仮想視点が4つに減り、位置、方向、画角が仮想視点セット1401の値に置き換わっており、また、新たに視点IDが割振られている(413〜416)。なお、選択仮想視点はこの操作により変わらないため、図5と同じ値が維持される。
[第4の実施形態]
第1〜3の実施形態では、表示領域402に表示する仮想視点画像のフレームレートと、表示領域403〜406に表示する仮想視点画像のフレームレートと、は同じであった。しかし、全ての仮想視点の仮想視点画像のフレームレートを同じにしなくても良い。画像生成装置110が仮想視点画像を生成するには、多くのデータの読み出しやデータ処理が必要となる。そのため、第1〜3の実施形態で説明したように選択仮想視点および切替用仮想視点のすべてに対応する仮想視点画像を60fps(フレーム/秒)で生成することは膨大な計算機リソースが必要となり、コストが高くなってしまう。そこで、本実施形態では、画像生成装置110の画像生成能力を考慮したフレームレート制御について説明する。
本実施形態に係る表示制御装置100の機能構成例について、図10のフロック図を用いて説明する。図10において図2,6と同じ機能部には同じ参照番号を付しており、該機能部に係る説明は省略する。
処理部1001は、画像生成装置110の画像生成能力に応じて、選択仮想視点に対応する仮想視点画像のフレームレートと、切替用仮想視点に対応する仮想視点画像のフレームレートと、を設定する。
本実施形態に係るシステムが行う処理について、図11のフローチャートに従って説明する。図11のフローチャートに従った処理は、仮想視点の設定用アプリケーションが起動した状態をスタートとし、仮想視点の設定用アプリケーションが終了するまでを対象としている。図11において、図3、7、9に示した処理ステップと同じ処理ステップには同じステップ番号を付しており、該処理ステップに係る説明は省略する。
ステップS1101では、処理部1001は、テーブル情報に登録されているそれぞれの仮想視点について、該仮想視点に対応する仮想視点画像のフレームレートを設定する。なお、本実施形態に係るステップS303では、出力部202は、管理部201から出力された切替用仮想視点の視点情報のうち、現フレームにおいて生成すべき仮想視点画像に対応する視点情報を通信I/F106を介して画像生成装置110に対して出力する。本実施形態に係るステップS306では、出力部202は、現フレームが選択仮想視点に対応する仮想視点画像を生成するフレームであれば、選択視点情報を通信I/F106を介して画像生成装置110に対して送信する。
上記のステップS1101における処理について、具体例を用いて説明する。ここでは、画像生成装置110の画像生成能力が120fps(1秒あたり120フレームの画像が生成可能)であるとし、図5に示す如く、選択仮想視点が1つ、切替用仮想視点が4つ存在する場合を考える。
選択仮想視点に対応する仮想視点画像は、選択仮想視点の操作に不可欠な画像であり、選択仮想視点を指定した結果が遅滞なく仮想視点画像として表示される必要がある。選択仮想視点の指定から仮想視点画像の表示までの遅延時間が大きくなるに従い、選択仮想視点の操作は困難になることが分かっている。よって、選択仮想視点には60fpsを割り当て、残りの60fpsを4つの切替用仮想視点で案分することにする。つまり図12(a)に示す如く、選択仮想視点に対応する仮想視点画像は60fpsで生成されて表示領域402に表示されることになり、各切替用仮想視点に対応する仮想視点画像は15fpsで生成されて表示領域403〜406に表示されることになる。切替用仮想視点に対応する仮想視点画像については、その表示は若干なめらかではなくなるものの、その仮想視点で何が映っているかを把握するには十分なフレームレートである。本実施形態では、ステップS1101において各仮想視点に対するフレームレートが決定すると、図12(b)に示す如く、管理部201が管理しているテーブル情報に、各仮想視点に対するフレームレートが登録される。
このとき、ステップS303及びステップS306にて画像生成装置110で生成される各フレームの仮想視点画像について、図13を用いて説明する。画像生成装置110の画像生成能力が120fpsであり、且つ選択仮想視点に対応する仮想視点画像のフレームレートが60fpsであるから、選択仮想視点に対応する仮想視点画像は2フレームに1回の割合で生成され、表示される。図13では、1フレーム目で選択仮想視点に対応する仮想視点画像が生成、表示されているので、以降、(2×f+1)(fは1以上の整数)フレーム目に生成、表示されることになる。
また、画像生成装置110の画像生成能力が120fpsで且つ4つの切替用仮想視点のそれぞれに対応する仮想視点画像のフレームレートが15fpsであるから、各切替用仮想視点に対応する仮想視点画像は8フレームに1回の割合で生成され、表示される。例えば、図13では、2フレーム目で切替用仮想視点1に対応する仮想視点画像が生成、表示されているので、以降、(8×f+2)フレーム目に生成、表示されることになる。同様に、切替用仮想視点2、切替用仮想視点3、切替用仮想視点4はそれぞれ、4,6,8フレーム目で表示され、以降、(8×f+4)フレーム目、(8×f+6)フレーム目、(8×f+8)フレーム目に生成、表示されることになる。
然るに出力部202は、現フレームで生成、表示されるべき仮想視点画像に対応する仮想視点の視点情報を画像生成装置110に対して出力し、画像生成装置110は、出力部202から受けた視点情報に対応する仮想視点画像を生成する。仮想視点画像を生成するタイミングを均等に分散することにより、よりなめらかな画像表示が可能になる。
なお、ここで挙げた数値は何れも具体例を説明するために使用した一例であり、上記の動作はこれらの数値に限ったものではない。つまり、システムの能力や、仮想視点画像を放送する放送システムの要件に合わせて適切に設定すべきものである。
このように本実施形態によれば、仮想視点画像を生成するフレームレートを選択仮想視点及び切替用仮想視点で適切に配分することにより、計算機リソースを増やすことなく、仮想視点の操作及びプレー等に応じた仮想視点の選択を同時に実現することができる。
[第5の実施形態]
第1〜4の実施形態では、選択仮想視点に対応する仮想視点画像と、切替用仮想視点に対応する仮想視点画像と、を1つの表示画面に表示するようにしたが、これに限るものではない。例えば、選択仮想視点に対応する仮想視点画像と、切替用仮想視点に対応する仮想視点画像と、を別個の表示装置に表示するようにしても良い。
また、第3,4の実施形態では、仮想視点画像の生成及び表示の処理ループの中で、仮想視点の登録、並び替え、削除、視点セットの切替、の処理を行うようにしたが、これに限るものではない。例えば、仮想視点画像の生成及び表示の処理ループとは別個のスレッドでもって、仮想視点の登録、並び替え、削除、視点セットの切替、の処理を行うようにしても良い。
なお、以上説明した各実施形態や各変形例の一部若しくは全部を適宜組み合わせて使用しても良い。また、以上説明した各実施形態や各変形例の一部若しくは全部を選択的に使用しても良い。
(その他の実施形態)
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
201:管理部 202:出力部 203:受信部 204:制御部 205:入力部

Claims (21)

  1. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記複数の仮想視点のうち位置及び姿勢の操作対象として選択された仮想視点に応じた仮想視点画像は、他の装置へ送信されることを特徴とする表示制御装置。
  2. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記複数の仮想視点のうち位置及び姿勢の操作対象として選択された仮想視点に応じた仮想視点画像は、放送されることを特徴とする表示制御装置。
  3. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記表示制御手段は、仮想視点を追加するためのユーザ操作に応じて、当該仮想視点の位置及び姿勢に応じた仮想視点画像を前記操作画面上に新たに表示させることを特徴とする表示制御装置。
  4. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記表示制御手段は、所定のユーザ操作に応じて、第1の複数の仮想視点に応じた第1の複数の仮想視点画像を前記操作画面上に表示させる状態から、第2の複数の仮想視点に応じた第2の複数の仮想視点画像を前記操作画面上に表示させる状態へ切り替えることを特徴とする表示制御装置。
  5. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記表示制御手段は、仮想視点を削除するためのユーザ操作に応じて、当該仮想視点の位置及び姿勢に応じた仮想視点画像が前記操作画面上に表示されなくなるように制御することを特徴とする表示制御装置。
  6. 複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得手段と、
    前記取得手段により取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御手段と
    を有し、
    前記表示制御手段により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記表示制御手段は、仮想視点画像の並び替えのためのユーザ操作に応じて、前記操作画面上に表示させる前記複数の仮想視点画像のうち、少なくとも一部の表示順序を変更することを特徴とする表示制御装置。
  7. 前記表示制御手段は、前記複数の仮想視点のうちユーザにより選択された仮想視点に応じた仮想視点画像を、前記複数の仮想視点のうちユーザにより選択されていない仮想視点に応じた仮想視点画像よりも大きく表示させることを特徴とする請求項1乃至6の何れか1項に記載の表示制御装置。
  8. 前記複数の仮想視点のうちユーザにより選択されていない仮想視点に応じた仮想視点画像は、前記複数の仮想視点のうちユーザにより選択された仮想視点に応じた仮想視点画像よりも負荷の小さい生成処理により生成される画像であることを特徴とする請求項1乃至6の何れか1項に記載の表示制御装置。
  9. 前記表示制御手段は、前記複数の仮想視点のうちユーザにより選択された仮想視点に応じた仮想視点画像を、前記複数の仮想視点のうちユーザにより選択されていない仮想視点に応じた仮想視点画像よりも高いフレームレートで表示させることを特徴とする請求項1乃至6の何れか1項に記載の表示制御装置。
  10. 前記表示制御手段により表示された前記複数の仮想視点画像に対応する前記複数の仮想視点の中からユーザが位置及び姿勢の操作対象とする仮想視点を選択するための操作を受け付ける受付手段を有することを特徴とする請求項1乃至9の何れか1項に記載の表示制御装置。
  11. 前記表示制御手段により表示された前記複数の仮想視点画像に対応する前記複数の仮想視点のうちユーザにより選択された仮想視点の位置及び姿勢を変更するためのユーザ操作を受け付ける受付手段を有することを特徴とする請求項1乃至9の何れか1項に記載の表示制御装置。
  12. 複数のボタンと前記複数の仮想視点とが対応付けられた入力デバイスから、押下されたボタンに応じた信号を受信する受信手段を有し、
    前記選択は、前記受信手段により受信された信号に基づいてなされることを特徴とする請求項1または2に記載の表示制御装置。
  13. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記複数の仮想視点のうち位置及び姿勢の操作対象として選択された仮想視点に応じた仮想視点画像は、他の装置へ送信されることを特徴とする表示制御方法。
  14. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    前記複数の仮想視点のうち位置及び姿勢の操作対象として選択された仮想視点に応じた仮想視点画像は、放送されることを特徴とする表示制御方法。
  15. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    仮想視点を追加するためのユーザ操作に応じて、当該仮想視点の位置及び姿勢に応じた仮想視点画像が前記操作画面上に新たに表示されることを特徴とする表示制御方法。
  16. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    所定のユーザ操作に応じて、第1の複数の仮想視点に応じた第1の複数の仮想視点画像が前記操作画面上に表示される状態から、第2の複数の仮想視点に応じた第2の複数の仮想視点画像が前記操作画面上に表示される状態へ切り替わることを特徴とする表示制御方法。
  17. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    仮想視点を削除するためのユーザ操作に応じて、当該仮想視点の位置及び姿勢に応じた仮想視点画像が前記操作画面上に表示されなくなるように制御されることを特徴とする表示制御方法。
  18. 表示制御装置が行う表示制御方法であって、
    複数の仮想視点の位置及び姿勢に応じた複数の仮想視点画像を取得する取得工程と、
    前記取得工程で取得された前記複数の仮想視点画像を、前記仮想視点の位置及び姿勢に関する操作のための操作画面上に表示させる表示制御工程と
    を有し、
    前記表示制御工程により前記操作画面上に表示される前記複数の仮想視点画像のうちの少なくとも1つは、撮像対象領域を複数のカメラが撮影して得られた複数の撮影画像に基づいて生成される画像であり、
    仮想視点画像の並び替えのためのユーザ操作に応じて、前記操作画面上に表示させる前記複数の仮想視点画像のうち、少なくとも一部の表示順序が変更されることを特徴とする表示制御方法。
  19. 前記表示制御工程では、前記複数の仮想視点のうちユーザにより選択された仮想視点に応じた仮想視点画像を、前記複数の仮想視点のうちユーザにより選択されていない仮想視点に応じた仮想視点画像よりも大きく表示させることを特徴とする請求項13乃至18の何れか1項に記載の表示制御方法。
  20. 前記複数の仮想視点のうちユーザにより選択されていない仮想視点に応じた仮想視点画像は、前記複数の仮想視点のうちユーザにより選択された仮想視点に応じた仮想視点画像よりも負荷の小さい生成処理により生成される画像であることを特徴とする請求項13乃至18の何れか1項に記載の表示制御方法。
  21. コンピュータを請求項1乃至12の何れか1項に記載の表示制御装置の各手段として機能させるためのコンピュータプログラム。
JP2017245392A 2017-12-21 2017-12-21 表示制御装置、表示制御方法 Active JP6427258B1 (ja)

Priority Applications (11)

Application Number Priority Date Filing Date Title
JP2017245392A JP6427258B1 (ja) 2017-12-21 2017-12-21 表示制御装置、表示制御方法
BR112019025040-9A BR112019025040A2 (pt) 2017-12-21 2018-11-21 Aparelho de controle de exibição e método de controle de exibição
CN201880037860.9A CN110720214B (zh) 2017-12-21 2018-11-21 显示控制设备、显示控制方法和存储介质
CA3070736A CA3070736C (en) 2017-12-21 2018-11-21 Display control apparatus and display control method
KR1020197035475A KR102207457B1 (ko) 2017-12-21 2018-11-21 표시 제어 장치 및 표시 제어 방법
RU2019139424A RU2747267C1 (ru) 2017-12-21 2018-11-21 Устройство управления отображением и способ управления отображением
EP18891272.9A EP3621300B1 (en) 2017-12-21 2018-11-21 Display control device and display control method
PCT/JP2018/042948 WO2019123957A1 (ja) 2017-12-21 2018-11-21 表示制御装置、表示制御方法
AU2018391746A AU2018391746B2 (en) 2017-12-21 2018-11-21 Display control device and display control method
US16/701,910 US10733925B2 (en) 2017-12-21 2019-12-03 Display control apparatus, display control method, and non-transitory computer-readable storage medium
US16/917,683 US11205360B2 (en) 2017-12-21 2020-06-30 Display control apparatus, display control method, and non-transitory computer-readable storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2017245392A JP6427258B1 (ja) 2017-12-21 2017-12-21 表示制御装置、表示制御方法

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2018201135A Division JP6685364B2 (ja) 2018-10-25 2018-10-25 表示制御装置、表示制御方法

Publications (2)

Publication Number Publication Date
JP6427258B1 true JP6427258B1 (ja) 2018-11-21
JP2019114869A JP2019114869A (ja) 2019-07-11

Family

ID=64394767

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2017245392A Active JP6427258B1 (ja) 2017-12-21 2017-12-21 表示制御装置、表示制御方法

Country Status (10)

Country Link
US (2) US10733925B2 (ja)
EP (1) EP3621300B1 (ja)
JP (1) JP6427258B1 (ja)
KR (1) KR102207457B1 (ja)
CN (1) CN110720214B (ja)
AU (1) AU2018391746B2 (ja)
BR (1) BR112019025040A2 (ja)
CA (1) CA3070736C (ja)
RU (1) RU2747267C1 (ja)
WO (1) WO2019123957A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11985294B2 (en) 2019-06-28 2024-05-14 Fujifilm Corporation Information processing apparatus, information processing method, and program

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7418101B2 (ja) * 2019-07-26 2024-01-19 キヤノン株式会社 情報処理装置、情報処理方法、及びプログラム
JP7476160B2 (ja) 2021-11-29 2024-04-30 キヤノン株式会社 情報処理装置、情報処理システム、及びプログラム

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011135138A (ja) * 2009-12-22 2011-07-07 Canon Inc 映像再生装置及びその制御方法
JP2012015990A (ja) * 2010-06-01 2012-01-19 Canon Inc 映像処理装置及びその制御方法
JP2017208702A (ja) * 2016-05-18 2017-11-24 キヤノン株式会社 情報処理装置及びその制御方法、撮影システム

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729471A (en) * 1995-03-31 1998-03-17 The Regents Of The University Of California Machine dynamic selection of one video camera/image of a scene from multiple video cameras/images of the scene in accordance with a particular perspective on the scene, an object in the scene, or an event in the scene
AU2001277259A1 (en) * 2000-06-30 2002-01-14 The Muller Sports Group, Inc. Sporting events broadcasting system
US20030210329A1 (en) * 2001-11-08 2003-11-13 Aagaard Kenneth Joseph Video system and methods for operating a video system
JP4186520B2 (ja) * 2002-06-21 2008-11-26 ソニー株式会社 多視点画像記録装置、および多視点画像フレーム同期処理方法、並びにコンピュータ・プログラム
GB2400513B (en) * 2003-03-14 2005-10-05 British Broadcasting Corp Video processing
US20070070210A1 (en) * 2003-04-11 2007-03-29 Piccionelli Gregory A Video production with selectable camera angles
KR100512616B1 (ko) * 2003-07-18 2005-09-05 엘지전자 주식회사 화면 비율 가변 기능을 갖는 영상표시기기 및 그 제어방법
JP2005242606A (ja) * 2004-02-26 2005-09-08 Olympus Corp 画像生成装置、画像生成プログラム、及び画像生成方法
US7292257B2 (en) * 2004-06-28 2007-11-06 Microsoft Corporation Interactive viewpoint video system and process
JP2007020092A (ja) * 2005-07-11 2007-01-25 Matsushita Electric Ind Co Ltd 画像表示装置、画像表示方法および画像表示システム
US8428048B2 (en) * 2006-02-21 2013-04-23 Qualcomm Incorporated Multi-program viewing in a wireless apparatus
CN100588250C (zh) * 2007-02-05 2010-02-03 北京大学 一种多视点视频流的自由视点视频重建方法及***
WO2011005563A1 (en) * 2009-06-24 2011-01-13 Delta Vidyo, Inc. System and method for an active video electronic programming guide
US9462301B2 (en) * 2013-03-15 2016-10-04 Google Inc. Generating videos with multiple viewpoints
JP2014215828A (ja) 2013-04-25 2014-11-17 シャープ株式会社 画像データ再生装置、および視点情報生成装置
US10015551B2 (en) * 2014-12-25 2018-07-03 Panasonic Intellectual Property Management Co., Ltd. Video delivery method for delivering videos captured from a plurality of viewpoints, video reception method, server, and terminal device
JP6502701B2 (ja) * 2015-02-26 2019-04-17 日本放送協会 要素画像群生成装置及びそのプログラム、並びにデジタル放送受信装置
JP6555056B2 (ja) * 2015-09-30 2019-08-07 アイシン精機株式会社 周辺監視装置
JP6735592B2 (ja) * 2016-04-08 2020-08-05 キヤノン株式会社 画像処理装置及びその制御方法、画像処理システム
JP6833348B2 (ja) * 2016-05-25 2021-02-24 キヤノン株式会社 情報処理装置、画像処理システム、情報処理装置の制御方法、仮想視点画像の生成方法、及び、プログラム
EP3261328B1 (en) * 2016-06-03 2021-10-13 Canon Kabushiki Kaisha Image processing apparatus, image processing method, and computer-readable storage medium

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2011135138A (ja) * 2009-12-22 2011-07-07 Canon Inc 映像再生装置及びその制御方法
JP2012015990A (ja) * 2010-06-01 2012-01-19 Canon Inc 映像処理装置及びその制御方法
JP2017208702A (ja) * 2016-05-18 2017-11-24 キヤノン株式会社 情報処理装置及びその制御方法、撮影システム

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11985294B2 (en) 2019-06-28 2024-05-14 Fujifilm Corporation Information processing apparatus, information processing method, and program

Also Published As

Publication number Publication date
AU2018391746A1 (en) 2019-12-12
CN110720214A (zh) 2020-01-21
CA3070736A1 (en) 2019-06-27
CA3070736C (en) 2023-01-10
KR102207457B1 (ko) 2021-01-26
AU2018391746B2 (en) 2020-03-12
WO2019123957A1 (ja) 2019-06-27
JP2019114869A (ja) 2019-07-11
EP3621300A4 (en) 2020-05-20
RU2747267C1 (ru) 2021-05-04
EP3621300A1 (en) 2020-03-11
US20200105174A1 (en) 2020-04-02
KR20190137939A (ko) 2019-12-11
US10733925B2 (en) 2020-08-04
EP3621300B1 (en) 2023-05-24
CN110720214B (zh) 2021-05-07
BR112019025040A2 (pt) 2020-06-16
US11205360B2 (en) 2021-12-21
US20200335020A1 (en) 2020-10-22

Similar Documents

Publication Publication Date Title
US11102520B2 (en) Image display method and image display apparatus
US11153625B2 (en) Image display method, image distribution method, image display apparatus, and image distribution apparatus
US9531984B2 (en) Terminal device, information processing device, and computer-readable medium
US20150373296A1 (en) Terminal Device and Computer-Readable Medium for the Same
CN103544441B (zh) 移动图像生成装置
US11205360B2 (en) Display control apparatus, display control method, and non-transitory computer-readable storage medium
US11202104B2 (en) Information processing apparatus, information processing method, and medium
JP2008146495A (ja) 表示制御システム、表示制御装置、表示制御方法および表示制御プログラム、画像出力装置、画像出力方法および画像出力プログラム、ならびに、表示装置
US20210266511A1 (en) Information processing system, information processing method, and storage medium
US20180146218A1 (en) Free viewpoint picture data distribution system
JP2024079736A (ja) 画像表示装置、制御方法、およびプログラム
JP6685364B2 (ja) 表示制御装置、表示制御方法
JP7229040B2 (ja) 情報処理装置及びその制御方法、プログラム
JP2018174376A (ja) 映像配信システム、端末装置及び映像データ配信装置
US11134236B2 (en) Image processing device and system
JP2020022189A (ja) 映像配信システム、映像データ配信装置、映像データ配信装置制御プログラム、映像データ配信方法、端末装置、端末装置制御プログラム及び端末制御方法
JP2019047502A (ja) 情報処理装置、情報処理方法、及びプログラム
WO2022234699A1 (ja) 動画配信装置、表示制御装置、動画配信システム、動画配信方法およびプログラム
JP2022173052A (ja) 動画配信装置、表示制御装置、動画配信システム、動画配信方法およびプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180410

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180528

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180622

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180808

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180903

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20180911

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20180928

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20181026

R151 Written notification of patent or utility model registration

Ref document number: 6427258

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R151