JP6672315B2 - 画像生成装置、及び画像表示制御装置 - Google Patents

画像生成装置、及び画像表示制御装置 Download PDF

Info

Publication number
JP6672315B2
JP6672315B2 JP2017535279A JP2017535279A JP6672315B2 JP 6672315 B2 JP6672315 B2 JP 6672315B2 JP 2017535279 A JP2017535279 A JP 2017535279A JP 2017535279 A JP2017535279 A JP 2017535279A JP 6672315 B2 JP6672315 B2 JP 6672315B2
Authority
JP
Japan
Prior art keywords
image
sphere
panoramic image
point
latitude
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2017535279A
Other languages
English (en)
Other versions
JPWO2017029885A1 (ja
Inventor
友博 大戸
友博 大戸
篠原 隆之
隆之 篠原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Interactive Entertainment Inc
Original Assignee
Sony Interactive Entertainment Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Interactive Entertainment Inc filed Critical Sony Interactive Entertainment Inc
Publication of JPWO2017029885A1 publication Critical patent/JPWO2017029885A1/ja
Application granted granted Critical
Publication of JP6672315B2 publication Critical patent/JP6672315B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/10Selection of transformation methods according to the characteristics of the input images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/08Projecting images onto non-planar surfaces, e.g. geodetic screens
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/06Topological mapping of higher dimensional structures onto lower dimensional surfaces
    • G06T3/073Transforming surfaces of revolution to planar images, e.g. cylindrical surfaces to planar images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N9/00Details of colour television systems
    • H04N9/12Picture reproducers
    • H04N9/31Projection devices for colour picture display, e.g. using electronic spatial light modulators [ESLM]
    • H04N9/3179Video signal processing therefor
    • H04N9/3185Geometric adjustment, e.g. keystone or convergence
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T3/00Geometric image transformations in the plane of the image
    • G06T3/40Scaling of whole images or parts thereof, e.g. expanding or contracting
    • G06T3/4007Scaling of whole images or parts thereof, e.g. expanding or contracting based on interpolation, e.g. bilinear interpolation
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/387Composing, repositioning or otherwise geometrically modifying originals
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/698Control of cameras or camera modules for achieving an enlarged field of view, e.g. panoramic image capture
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N5/00Details of television systems
    • H04N5/222Studio circuitry; Studio devices; Studio equipment
    • H04N5/262Studio circuits, e.g. for mixing, switching-over, change of character of image, other special effects ; Cameras specially adapted for the electronic generation of special effects
    • H04N5/265Mixing

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Geometry (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Image Processing (AREA)
  • Studio Devices (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Editing Of Facsimile Originals (AREA)
  • Control Of Indicators Other Than Cathode Ray Tubes (AREA)
  • Stereoscopic And Panoramic Photography (AREA)

Description

本発明は、パノラマ画像を生成する画像生成装置、パノラマ画像を表示する画像表示制御装置、画像生成方法、プログラム、及び画像データに関する。
観測点から見た全天周の景色を2次元平面に投影したパノラマ画像の画像フォーマットとして、正距円筒図法が知られている。この方式では、縦横比が1:2の矩形の画像データ内に、水平方向に360度、上下方向に180度の全方位の景色が含まれている。このようなパノラマ画像を用いることによって、例えばユーザーによる視点の向きの操作に応じて任意の方向の景色を表示するパノラマビューアを実現することができる。
上述した正距円筒図法の画像フォーマットでは、画像の上辺全体が天頂(真上)の一点に対応し、下辺全体が天底(真下)の一点に対応する。そのため、上辺や下辺の近傍の領域(観測点から見て真上や真下に近い向きの景色が含まれる領域)では、地平線に近い高さの景色が含まれる画像中段の領域と比較して、1画素あたりの情報量が極端に小さくなり、情報の無駄が多くなる。
本発明は上記実情を考慮してなされたものであって、その目的の一つは、パノラマ画像に含まれる情報の無駄を低減することのできる画像生成装置、画像表示制御装置、画像生成方法、プログラム、及び画像データを提供することにある。
本発明に係る画像生成装置は、観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のうち、前記景色を投影した範囲を含む少なくとも一つの分割領域を、互いに等しい緯度に対応する画素の数が高緯度になるにつれて減少するように変換して平面上に配置してなるパノラマ画像を生成するパノラマ画像生成部と、前記生成されたパノラマ画像を出力する画像出力部と、を含むことを特徴とする。
また、本発明に係る画像表示制御装置は、観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のうち、前記景色を投影した範囲を含む少なくとも一つの分割領域を、互いに等しい緯度に対応する画素の数が高緯度になるにつれて減少するように変換して平面上に配置してなるパノラマ画像を取得する取得部と、前記取得したパノラマ画像に基づいて、所与の視野範囲の景色を示す表示画像を描画し、表示装置の画面に表示させる描画部と、を含むことを特徴とする。
また、本発明に係る画像生成方法は、観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のうち、前記景色を投影した範囲を含む少なくとも一つの分割領域を、互いに等しい緯度に対応する画素の数が高緯度になるにつれて減少するように変換して平面上に配置してなるパノラマ画像を生成するステップと、前記生成されたパノラマ画像を出力するステップと、を含むことを特徴とする。
また、本発明に係るプログラムは、観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のうち、前記景色を投影した範囲を含む少なくとも一つの分割領域を、互いに等しい緯度に対応する画素の数が高緯度になるにつれて減少するように変換して平面上に配置してなるパノラマ画像を生成する手段、及び、前記生成されたパノラマ画像を出力する手段、としてコンピュータを機能させるためのプログラムである。このプログラムは、コンピュータ読み取り可能で非一時的な情報記憶媒体に格納されて提供されてよい。
また、本発明に係る画像データは、観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のうち、前記景色を投影した範囲を含む少なくとも一つの分割領域が、互いに等しい緯度に対応する画素の数が高緯度になるにつれて減少するように変換された状態で平面上に配置されてなる画像データである。
本発明の実施形態に係る画像生成装置が生成する第1の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球を正面側から見た斜視図である。 第1の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球を背面側から見た斜視図である。 第1の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球の正面図である。 正距円筒図法によるパノラマ画像を示す図である。 第1の例に係るパノラマ画像を示す図である。 本発明の実施形態に係る画像生成装置が生成する第2の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球を正面側から見た斜視図である。 第2の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球を背面側から見た斜視図である。 第2の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球の正面図である。 第2の例に係るパノラマ画像に含まれる全天周の景色を投影した仮想的な球の背面図である。 第2の例に係るパノラマ画像を示す図である。 第3の例に係るパノラマ画像を示す図である。 本発明の実施の形態に係る画像生成装置が生成するパノラマ画像の画素配置の一例を示す図である。 パノラマ画像を長方形とする場合の画素配置の一例を示す図である。 パノラマ画像を長方形とする場合の画素配置の別の例を示す図である。 本発明の実施の形態に係る画像生成装置、及び画像表示制御装置を含んだ画像表示システムの構成を示す構成ブロック図である。 画像表示システムの機能を示す機能ブロック図である。 表示画像描画時のサンプリング処理を説明する図である。 サンプリング用画素列を付加したパノラマ画像の例を示す図である。
以下、本発明の実施形態について、図面に基づき詳細に説明する。
本実施形態に係る画像生成装置は、観測点から見た全天周の景色を含む、正距円筒図法とは異なる画像フォーマットのパノラマ画像を生成する。以下では、本実施形態に係る画像生成装置によって生成されるパノラマ画像をパノラマ画像Pと表記する。パノラマ画像Pは、全天周の景色を含んだ2次元(平面)の画像データである。ここで全天周とは、観測点から見て水平方向(左右方向)に360度、鉛直方向(上下方向)に天頂から天底まで180度の全ての方位を意味している。
以下、パノラマ画像Pの画像フォーマットの三つの実施例について、正距円筒図法によるパノラマ画像と比較して説明する。まず、パノラマ画像Pの第1の例について説明する。以下では、この第1の例に係るパノラマ画像Pを第1パノラマ画像P1と表記する。また、正距円筒図法により生成されるパノラマ画像を正距円筒画像P0と表記する。
観測点から見た全天周の景色は、観測点の位置を中心とした仮想的な球面上に投影される。ここで、全天周の景色が投影された仮想的な球を球Sとする。図1A〜図1Cはこの球Sを示しており、図1Aが正面上方から見た斜視図、図1Bが背面下方から見た斜視図、図1Cが正面図である。なお、ここでは後述する点Eの位置を正面方向としている。球Sの表面において、天頂(観測点の真上)に対応する点を点Uとする。また、天底(観測点の真下)に対応する点を点Dとする。点Uと点Dとは、球Sの中心を挟んで対向している。直線UDに垂直な球Sの大円は、観測点から見た天文学的地平線に対応し、観測点から水平方向に見た景色がこの大円上に投影される。以下、この直線UDに垂直な球Sの大円を含む平面を地平面という。また、地平面と直交する平面を鉛直面という。
この第1の例では、球Sの表面上の位置を緯度θと経度φからなる座標系で表現することとする。また、地平面上の一つの点Fをこの座標系の原点(θ=0,φ=0)とする。球S上のある点の緯度θは、その点と球Sの中心とを結ぶ直線が地平面となす角度で表される。経度φは、その点と点U、及び点Dを含む球Sの大円が、点F、点U及び点Dを含む大円となす角度で表される。なお、ここでは図1Cに示すように、地平面から天頂に向かう方向を緯度θの正方向とする。そのため、点Uの緯度θはπ/2、点Dの緯度θは−π/2となる。また、観測点から点Fを見た場合の右手方向を経度φの正方向とする。
また、地平面に沿って90度ずつ離れた球S上の4点を点E〜点Eとする。具体的に、これらの4点の緯度θはいずれも0で、経度φについては点Eがπ/4、点Eが3π/4、点Eが5π/4(または−3π/4)、点Eが−π/4となる。例えば観測点上にいる観測者が点Eの方向を向いている場合、点Eが観測者の右手方向、点Eが背面方向、点Eが左手方向となる。点Eと点E、点Eと点Eはそれぞれ球Sの中心を挟んで対向し、直線Eと直線Eとは地平面上において互いに直交している。なお、図1A〜図1Cでは、地平面に含まれるθ=0の緯線と、点E〜Eのそれぞれを通る4本の経線とが実線で図示されている。また、何本かの緯線が破線で示されている。
さらに、球Sの中心を通り互いに直交する3個の平面により球Sの表面を分割して得られる8個の領域を、分割領域A〜Aと表記する。この第1の例において、互いに直交する3個の平面は、点E〜Eを含む地平面と、点E、点E、点U、及び点Dを含む鉛直面と、点E、点E、点U、及び点Dを含む鉛直面である。具体的に、点Uと点Eを結ぶ経線、点Eと点Eを結ぶ緯線、及び点Eと点Uを結ぶ経線に囲まれた領域を分割領域Aとする。同様にして、点U、点E、点Eで囲まれた領域を分割領域Aとし、点U、点E、点Eで囲まれた領域を分割領域Aとし、点U、点E、点Eで囲まれた領域を分割領域Aとし、点D、点E、点Eで囲まれた領域を分割領域Aとし、点D、点E、点Eで囲まれた領域を分割領域Aとし、点D、点E、点Eで囲まれた領域を分割領域Aとし、点D、点E、点Eで囲まれた領域を分割領域Aとする。これらの分割領域A〜Aは、いずれも球Sの大円の円周の1/4に相当する長さを持つ3本の緯線又は経線によって囲まれた領域であって、互いに等しい大きさ及び形状を備えている。
図2は、この球S上に投影される景色を含んだ正距円筒画像P0を示している。なお、ここでは経度φ=0の点Fを正距円筒画像P0の中心としている。正距円筒図法では、観測点から見た上下左右の位置関係が保たれるように、球Sの表面に投影された景色が縦横比1:2の長方形の正距円筒画像P0に変換される。正距円筒画像P0内では、球Sの緯線は左右方向に沿って互いに並行に延伸し、経線は上下方向に沿って互いに並行に延伸し、全ての緯線と経線とは直交する。また、分割領域A〜Aはそれぞれ正方形状の領域に変換され、正距円筒画像P0の上辺全体が点Uに対応し、下辺全体が点Dに対応する。このような変換により、球Sの表面において点U及び点Dの近傍に位置する領域(高緯度の領域)は、正距円筒画像P0内において左右方向に引き伸ばされることになる。そのため、正距円筒画像P0の上辺近傍、及び下辺近傍では、単位画素あたりに含まれる情報量が画像中段の低緯度の領域と比較して低下する。
図3は、球S上に投影される景色を含んだ第1パノラマ画像P1を示している。同図に示されるように、第1パノラマ画像P1は全体として正方形の形状をしている。そして、正方形の中心点が点Dに対応しており、球S上において点Dと対向する点Uは正方形の4隅に対応している。すなわち、第1パノラマ画像P1の4個の頂点は、球S上の一つの点Uに対応する。また、正方形の上辺の中点が点Eに、右辺の中点が点Eに、下辺の中点が点Eに、左辺の中点が点Eに、それぞれ対応している。なお、ここでは球Sの点Uに対応する第1パノラマ画像P1の4個の頂点のうち、右上の頂点を点U、右下の頂点を点U、左下の頂点を点U、左上の頂点を点Uとしている。
球Sにおけるθ=0の緯線は、第1パノラマ画像P1内において、4辺の中点を頂点とし、点Dを中心とする正方形Eを形成する。そして、θ<0の緯線は、第1パノラマ画像P1内において、直線ED、直線ED、直線ED、及び直線EDのそれぞれと交差する位置で90度折れ曲がり、点Dを中心とする正方形を形成する。一方、θ>0の緯線は、第1パノラマ画像P1を4分割してなる4個の正方形ED、正方形DE3、正方形UDE、及び正方形EDEのそれぞれに分割されている。これら4個の正方形は、互いに直交する二つの鉛直面で球Sの表面を4分割して得られる4個の領域に対応している。そして、これらの正方形それぞれの内部において、緯線(すなわち、二つの鉛直面に直交する平面と球Sとの交線)は、正方形の対角線と平行な向きに互いに並んで配置される。なお、球Sの経線は、第1パノラマ画像P1内において中心の点Dから放射状に延び、θ=0の緯線と交差する位置で屈曲して点Uに対応する正方形のいずれかの頂点まで延びている。
球Sの表面を8分割して得られる分割領域A〜Aのそれぞれは、第1パノラマ画像P1内において直角二等辺三角形の形状の領域に変換されている。第1パノラマ画像P1においては、正方形の形状に変換される正距円筒画像P0と比較して、各分割領域が元の球面上における形状と比較的近い形状に変換される。そのため、正距円筒画像P0と比較して、高緯度領域と低緯度領域との間における単位画素あたりに含まれる情報量の格差が小さくなる。なお、以下では各分割領域を変換して得られるパノラマ画像P内の領域を変換領域という。また、説明の便宜のため、パノラマ画像P内における個々の変換領域を球S上の対応する分割領域と同じ符号で参照する。つまり、球S上の分割領域Aを変換して得られる第1パノラマ画像P1内の変換領域は、変換領域Aと表記する。
ここで、球Sの表面上における位置座標と、第1パノラマ画像P1内の位置座標との対応関係について、説明する。ここでは第1パノラマ画像P1内の位置座標は、図3に示すように、横方向をx軸、縦方向をy軸とし、中心位置を原点とする直交座標系によって表されるものとする。この直交座標系において、第1パノラマ画像P1の右辺はx=1、左辺はx=−1、上辺はy=1、下辺はy=−1で表される。
この場合において、球Sの表面上の緯度θ、及び経度φは、変数u、v、aを用いて以下の数式により表される。
Figure 0006672315
ここで変数u、v、aは、それぞれ第1パノラマ画像P1内の位置座標(x、y)に応じて以下の数式により表される。
Figure 0006672315
これらの数式により、球S上の位置と第1パノラマ画像P1内の位置との対応関係が定義されている。これらの数式から分かるように、各分割領域内において緯度θはx、yのそれぞれと線形関係にある。
なお、第1パノラマ画像P1の外周上の点(x=1、x=−1、y=1、y=−1)を除けば、球S上の位置座標と第1パノラマ画像P1内の位置座標は一対一で対応する。さらに、第1パノラマ画像P1内において隣接する画素同士は、球S内においても互いに隣接する領域に対応する。つまり、第1パノラマ画像P1内において緯線や経線が屈曲する箇所は存在するが、球S上において互いに離れた不連続な領域が第1パノラマ画像P1内において隣接するような変換はされていない。なお、第1パノラマ画像P1の外周上の点は、正方形の各辺を中点で折り返した場合に対応する同じ辺上の箇所と、球S上で連続するようになっている。例えば正方形の上辺においては、左端からn番目の画素と右端からn番目の画素とが互いに球S上の隣接する領域に対応している。
正距円筒画像P0では、低緯度の領域(画像中段の領域)で単位画素あたりの情報量が最も大きくなる。ここで、正距円筒画像P0の縦方向の画素数を2Nとすると、横方向の画素数は4Nとなり、地平面上における90度の視野範囲(例えば点Eから点Eまでの範囲)に対応する画素数はNとなる。これに対して、縦方向の画素数が2Nである第1パノラマ画像P1においては、地平面上における90度の視野範囲に対応する画素は、例えば図3の直線Eのように斜め方向に沿って配列されるが、画素数自体は正距円筒画像P0の場合と同じくNになる。そのため第1パノラマ画像P1は、縦方向の画素数が同じ正距円筒画像P0と比較して、低緯度の領域でほぼ同等の画質を得ることができる。また、天頂(点U)から地平面を経て天底(点D)に至るまでの鉛直方向に沿った180度の視野範囲については、正距円筒画像P0におけるこの視野範囲に対応する画素数は、画像の縦方向の画素数2Nに一致する。これに対して第1パノラマ画像P1においては、この視野範囲は例えば図3の点Uから点Eを経て点Dに至る経路に相当するので、画素数は第1パノラマ画像P1の一辺の画素数2Nから1引いた数(2N−1)になる。ここで1が減じられるのは、点Eの位置の画素は直線Uの端点でもあり、かつ直線EDの端点でもあり、両者に共有されるからである。いずれにせよ、鉛直方向に沿った視野範囲に対応する画素数についても、第1パノラマ画像P1は縦方向の画素数が同じ正距円筒画像P0とほぼ同数となることから、ほぼ同等の解像度を得られることが分かる。なお、高緯度になるにつれて第1パノラマ画像P1内の画素数は減少するが、正距円筒画像P0の高緯度領域はもともと情報の無駄が大きいため、第1パノラマ画像P1は高緯度領域でも正距円筒画像P0と比較して画質がほとんど劣化しない。すなわち、第1パノラマ画像P1は、全天周にわたって、縦方向の画素数が同じ正距円筒画像P0と比べて遜色ない画質を備えている。
第1パノラマ画像P1と正距円筒画像P0の間で縦方向の画素数が一致する場合、第1パノラマ画像P1の横方向の画素数は正距円筒画像P0のちょうど半分になる。そのため、第1パノラマ画像P1は全体としてちょうど半分の画素数で正距円筒画像P0とほぼ同等の画質を得られることになる。このことから、第1パノラマ画像P1を利用すれば、画質を損なうことなく、データサイズを正距円筒画像P0と比較して小さくすることができる。また、正距円筒画像P0と比較して画像のデータサイズを肥大化させることなく、画像の高解像度化を実現できる。また、パノラマ画像を動画像として生成する場合に、フレームレートを向上させたり、動画像のエンコードやデコードの処理に必要な処理負荷を軽減させることができる。また、パノラマ画像を立体画像として表示したい場合、左目用と右目用の2枚のパノラマ画像を含んだ画像データを、1枚の正距円筒画像P0と同等の画素数で提供することができる。
次に、本実施形態におけるパノラマ画像Pの画像フォーマットの第2の例について説明する。以下では、この第2の例に係るパノラマ画像Pを第2パノラマ画像P2と表記する。この第2の例では、球S上の位置を第2パノラマ画像P2内の位置に変換する際に、球Sの表面を2分割して得られる二つの半球面について、互いに異なる座標系を用いて変換を行う。そこでまず、第2の例における球S上の位置座標の定義について、図4A〜4Dを用いて説明する。
図4Aは球Sを正面上方から見た斜視図であり、図4Bは球Sを背面下方から見た斜視図である。また、図4Cは正面図、図4Dは背面図である。なお、ここでは点Fの位置を正面方向としている。図1A〜図1Cと同様に、第2の例でも天頂に対応する点を点Uとし、天底に対応する点を点Dとする。また、地平面上において90度ずつ離れた4点を点F、点L、点B、及び点Rとする。球Sの中心点(観測点)にいる観測者が点Fの方向(正面方向)を向いた場合に、右手方向が点R、背面方向が点B、左手方向が点Lとなる。
球Sの正面側の半分、すなわち図4Cで表示されている範囲については、前述した第1の例と同様の緯度θと経度φによって位置座標が定義される。つまり、緯線は地平面と並行な線となり、経線は点U及び点Dを通る球Sの大円の円周となる。以下では、この球Sの正面側半分の半球面を正面領域といい、正面領域内の位置を示す座標系を正面座標系という。なお、図4A及び図4Cでは、正面領域内の何本かの緯線が破線により示されている。正面座標系では、点Fを原点(θ=0,φ=0)とし、図中矢印で示されるように、点Fから天頂(点U)に向かう方向を緯度θの正方向とし、点Rに向かう方向を経度φの正方向とする。これにより、第1の例と同様に点Uはθ=π/2、点Dはθ=−π/2となる。また、点Rはθ=0、φ=π/2となり、点Lはθ=0、φ=−π/2となる。
一方、球Sの背面側の半分、すなわち図4Dで表示されている範囲については、正面領域とは異なる向きに緯度θと経度φが定義される。具体的には、点Lを北極点、点Rを南極点とみなした場合の地球と同様の向き、つまり正面領域に対して90度傾いた向きで緯度θと経度φが定義される。これにより、緯線は直線LRに垂直な球Sの断面の外周となり、経線は点L及び点Rを通る球Sの大円の円周となる。以下では、この球Sの背面側半分の半球面を背面領域といい、背面領域内の位置を示す座標系を背面座標系という。図4B及び図4Dでは、背面座標系で定義される背面領域内の何本かの緯線が一点鎖線により示されている。図4Dに示されるように、背面座標系では緯線は背面側から見て直線UDに平行に(すなわち、正面座標系の緯線と直交する向きに)延伸している。背面座標系では、点Bを原点(θ=0、φ=0)とし、図中矢印で示されるように、点Bから点Lに向かう方向を緯度θの正方向とし、点Dに向かう方向を経度φの正方向とする。これにより、正面領域と背面領域の境界線上に位置する点U、点L、点D、及び点Rは、背面座標系においては正面座標系と異なる位置座標で表される。具体的に背面座標系では、点Lはθ=π/2となり、点Rはθ=−π/2となる。また、点Dはθ=0、φ=π/2となり、点Uはθ=0、φ=−π/2となる。
また、球Sの表面を互いに直交する3個の平面で分割して得られる8個の領域を分割領域A〜A16と表記する。ここでは互いに直交する3個の平面は、点F、点L、点B、及び点Rを含む地平面と、点U、点F、点D、及び点Bを含む鉛直面と、点U、点L、点D、及び点Rを含む鉛直面である。具体的に、点U、点F、点Lで囲まれた領域を分割領域Aとし、点D、点F、点Lで囲まれた領域を分割領域A10とし、点D、点R、点Fで囲まれた領域を分割領域A11とし、点U、点F、点Rで囲まれた領域を分割領域A12とし、点U、点B、点Rで囲まれた領域を分割領域A13とし、点D、点B、点Rで囲まれた領域を分割領域A14とし、点D、点L、点Bで囲まれた領域を分割領域A15とし、点U、点B、点Lで囲まれた領域を分割領域A16とする。これらの分割領域A〜A16は、いずれも球Sの大円の円周の1/4に相当する長さを持つ3本の緯線又は経線によって囲まれた領域であって、互いに等しい大きさ及び形状を備えている。
図5は、球S上に投影される景色を含んだ第2パノラマ画像P2を示している。同図に示されるように、第2パノラマ画像P2も第1パノラマ画像P1と同様に全体として正方形の形状をしている。そして、正方形の中心点が点Fに対応しており、球S上において点Fと対向する点Bは正方形の4隅に対応している。すなわち、第2パノラマ画像P2の4個の頂点は、球S上の一つの点Bに対応する。また、正方形の左辺の中点が点Lに、上辺の中点が点Uに、右辺の中点が点Rに、下辺の中点が点Dに、それぞれ対応している。なお、ここでは点Bに対応する4個の頂点のうち、右上の頂点を点B、右下の頂点を点B、左下の頂点を点B、左上の頂点を点Bとしている。
第2パノラマ画像P2においては、球Sの正面領域が、図5における正方形RULDに変換される。この正方形内においては、緯線は左右方向(直線LRと平行な方向)に沿って互いに平行に並んでいる。これに対して経線は、点Uから放射状に延び、直線RLと交差する位置で屈曲して点Dまで延びている。
一方、球Sの背面領域は、4分割されてそれぞれ直角二等辺三角形状の変換領域に変換され、正方形RULDの外側に配置されている。このとき、各変換領域の配置位置は、球S上の連続した領域が第2パノラマ画像P2内でも隣接するように決定されている。つまり、第2パノラマ画像P2においても、第1パノラマ画像P1と同様に、球Sの表面を8分割して得られる分割領域A〜A16はそれぞれ直角二等辺三角形状の変換領域A〜A16に変換され、球S上における隣接関係を保つように配列されて正方形のパノラマ画像を形成している。なお、正方形RULDの外側に配置される変換領域A13〜A16内において、背面座標系の緯線は正面座標系の緯線と同様に直線LRと平行な方向に沿って互いに並行に並んでいる。
ここで、球Sの表面上における位置座標と、第2パノラマ画像P2内の位置座標との対応関係について、説明する。ここでは第2パノラマ画像P2内の位置座標は、図4に示すように、横方向をx軸、縦方向をy軸とし、中心位置を原点とする直交座標系によって表されるものとする。この直交座標系において、第2パノラマ画像P2の右辺はx=1、左辺はx=−1、上辺はy=1、下辺はy=−1で表される。
この場合において、球Sの表面上の緯度θ、及び経度φは、変数u、vを用いて以下の数式により表される。
Figure 0006672315
ここで変数u、vは、それぞれ第2パノラマ画像P2内の位置座標(x、y)に応じて以下の数式により表される。
Figure 0006672315
これらの数式により、球S上の位置と第2パノラマ画像P2内の位置との対応関係が定義されている。ただし、この第2の例では、前述したように、正面領域内の緯度θ及び経度φは正面座標系によって定義され、背面領域内の緯度θ及び経度φは背面座標系によって定義されている。なお、この第2パノラマ画像P2においても、各分割領域内において緯度θはx、yのそれぞれと線形関係にある。
この第2パノラマ画像P2についても、外周上の点(x=1、x=−1、y=1、y=−1)を除いて球S上の位置座標と第2パノラマ画像P2内の位置座標は一対一で対応する。さらに、第2パノラマ画像P2内において隣接する画素同士は、球S内においても互いに隣接する領域に対応する。そして、第2パノラマ画像P2の外周上の点は、正方形の各辺を中点で折り返した場合に対応する同じ辺上の箇所と、球S上で連続するようになっている。この第2パノラマ画像P2も、第1パノラマ画像P1と同様に、正距円筒画像P0の半分の画素数で正距円筒画像P0とほぼ同等の画質を実現できる。
なお、第2の例では、第1パノラマ画像P1と異なり、観測者から見て正面側の景色(点Fを中心とする半球面に投影される景色)が、分割されることなく第2パノラマ画像P2と中心が一致する正方形に変換されている。そのため、特に後方よりも前方の景色をユーザーに提示したい場合、第2パノラマ画像P2の利用が適している。
以上説明したように、第1パノラマ画像P1では点Dが中心に配置されてこれと対向する点Uが4隅の頂点に対応し、第2パノラマ画像P2では点Fが中心に配置されてこれと対向する点Bが4隅の頂点に対応している。つまり、両者は球Sから平面のパノラマ画像Pに変換する際の変換の向きに違いがある。しかしながら、変換の内容自体は両者で類似するものになっている。具体的には、どちらの場合も、球Sの中心を通り互いに直交する3個の平面により分割される球面上の8個の分割領域を、それぞれ直角二等辺三角形状の変換領域に変換している。これにより、画素間の情報量の差異を減らすことができる。なお、ここで各分割領域を直角二等辺三角形に変換しているのは、8個の直角二等辺三角形を並べて配置することでパノラマ画像Pを正方形の形状とすることができるからである。パノラマ画像Pの形状をその他(例えば長方形)の形状とすることが許容されるのであれば、各分割領域を直角二等辺三角形ではない三角形(直角三角形など)に変換したとしても、正距円筒画像P0と比較して画素間の情報量の差異を減らすことは可能である。
次に、本実施形態におけるパノラマ画像Pの画像フォーマットの第3の例について説明する。以下では、この第3の例に係るパノラマ画像Pを第3パノラマ画像P3と表記する。説明の便宜のため、第3の例においても、第2の例と同様に球Sの表面を分割領域A〜A16の8個の領域に分割する。また、球S上の位置座標を、第2の例における正面座標系と同様に定義された緯度θ及び経度φによって表すこととする。つまり、第2の例とは異なり第3の例では、球Sの表面上の位置は球Sの全面にわたって単一の座標系によって表現されることになる。
図6は、球S上に投影される景色を含んだ第3パノラマ画像P3を示している。同図に示されるように、この第3パノラマ画像P3においては、8個の分割領域A〜A16は、それぞれ第2パノラマ画像P2と同様に直角二等辺三角形に変換され、第2パノラマ画像P2と同じ位置に配置される。さらに、分割領域A〜A12は、第2パノラマ画像P2と同様の変換式により第3パノラマ画像P3内の変換領域A〜A12に変換される。つまり、同じ景色を表現する場合、第2パノラマ画像P2と第3パノラマ画像P3とで正方形URDL内の画像データは一致することになる。
一方、分割領域A13〜A16については、第3パノラマ画像P3内において第2パノラマ画像P2と同様の位置及び形状の変換領域に変換されるが、分割領域内の位置は第2パノラマ画像P2とは異なる変換式によって対応する変換領域内の位置に変換される。その結果、第3パノラマ画像P3においては、θ>0の緯線は図中点線で示されるように上に開いたコの字型になる。逆にθ<0の緯線は下に開いたコの字型になる。
ここで、球Sの表面上における位置座標と、第3パノラマ画像P3内の位置座標との対応関係について、説明する。第3パノラマ画像P3内の位置座標は、第1パノラマ画像P1や第2パノラマ画像P2と同様に、横方向をx軸、縦方向をy軸とし、中心位置を原点とする直交座標系によって表されるものとする。
この場合において、球Sの表面上の緯度θ、及び経度φは、変数u、v、aを用いて以下の数式により表される。
Figure 0006672315
ここで変数u、v、aは、それぞれ第3パノラマ画像P3内の位置座標(x、y)に応じて以下の数式により表される。
Figure 0006672315
これらの数式により、球S上の位置と第3パノラマ画像P3内の位置との対応関係が定義される。なお、この第3パノラマ画像P3においても、各分割領域内において緯度θはx、yのそれぞれと線形関係にある。
第3の例においても、第2の例と同様に、観測者から見て正面側の景色(点Fを中心とする半球面に投影される景色)が、分割されることなく第3パノラマ画像P3内の正方形URDLに変換されている。そのため、第1の例と比較して、前方の景色をユーザーに提示する用途に適している。また、球Sの全体が一つの座標系によって定義されており、緯度と経度の入れ替えを行う必要がないため、第2の例と比較して、正距円筒画像P0をパノラマ画像Pに変換する場合における補間処理が容易になり、演算負荷を抑えることができる。
以上説明した3つの例においては、前述した互いに直交する3個の平面のうち、二つの平面により球Sの表面を分割して得られる4個の領域が、それぞれ正方形状の領域に変換されている。例えば第1パノラマ画像P1では、点U、点E、点D、及び点Eを含む鉛直面と点U、点E、点D、及び点Eを含む鉛直面によって球Sを分割して得られる4個の領域が、4個の正方形ED、正方形DE3、正方形UDE、及び正方形EDEに変換される。そして、前述した3個の平面のうち、残る一つの平面が球Sと直交して得られる円周が、4個の正方形それぞれの対角線に変換されている。例えば第1パノラマ画像P1では、前述した4個の正方形の対角線によって、地平面に対応する正方形Eが形成されている。すなわち、第1パノラマ画像P1、第2パノラマ画像P2及び第3パノラマ画像P3は、いずれも、8個の直角二等辺三角形を二つずつ組み合わせることによって4個の正方形とし、この4個の正方形を、各直角二等辺三角形の底辺が正方形を形成するように2行2列に並べて配置することによって、構成されている。
図7は、これまで説明した実施例において二つの直角二等辺三角形状の変換領域を組み合わせて形成された正方形の例を示す図であって、図3の第1パノラマ画像P1内における正方形EDの画素配置を示している。ここでは簡単のため、正方形の1辺が8個の画素によって構成されているものとしている。正方形の1辺が8個の画素を持つ場合、対角線上に並ぶ画素の数も同じく8個となる。なお、図7では対角線上の画素がハッチングで示されている。
図7のハッチングで示すように、底辺が斜め方向となるように配置した場合、一つの直角二等辺三角形は、底辺の画素数をNとしてN(N+1)/2個の画素で構成される。これを単純に2倍するとN(N+1)となる。つまり、各直角二等辺三角形の底辺の画素数をNとしたい場合、そのままでは、二つの直角二等辺三角形に対してN行(N+1)列の矩形の領域が必要になる。しかしながら以上説明した実施例では、図7に示すように、二つの直角二等辺三角形の間で底辺を共有させている。つまり、正方形の1の対角線上の画素が、二つの直角二等辺三角形状の変換領域それぞれの底辺を構成している。これにより、二つの直角二等辺三角形を組み合わせてなる矩形はちょうどN行N列の正方形となる。このように、球Sを互いに直交する2個の平面で分割して得られる4個の領域のそれぞれが正方形に変換されることで、パノラマ画像Pの全体も縦方向の画素数と横方向の画素数が等しい正方形となる。このような構成とすることで、動画圧縮などの処理がやりやすくなっている。
このN行N列の正方形は、直線Eに平行な直線に沿って並ぶ複数の画素からなる画素列が、右上から左下に向かって(2N−1)個配列して構成されているとみなすことができる。すなわち、点Uに最も近い右上の画素は、単独で1番目の画素列を構成している。この右上の画素の左隣の画素、及び真下の画素の2個の画素が、2番目の画素列を構成している。N番目の画素列は、図7においてハッチングで示されている、点Eから点EまでのN個の画素によって構成されている。さらに、(N+1)番目の画素列は図7のハッチングされた各画素の左隣に位置する(N−1)個の画素によって構成される。そして、(2N−1)番目の画素列は点Dに最も近い左下の画素によって構成されている。これらの各画素列を構成する画素の和をとると、
1+2+…+(N−1)+N+(N−1)+…+2+1=N
となり、全体でN行N列の正方形の画素数に一致する。
前述の通り、直線Eに平行な直線は球S上の緯線に相当する。そのため、同じ画素列に属する各画素は、球S上において同緯度の領域に対応する。このことからも、前述したように球Sの天頂から天底までの180度の視野範囲が第1パノラマ画像P1内において(2N−1)個の画素列に変換されていることが分かる。しかも、前述したように、球S上の点と第1パノラマ画像P1内の点とを変換する変換式において緯度θはx、yと線形な関係にある。そのため、上述した(2N−1)個の画素列は、球S上において互いに等しい緯度範囲に対応する。つまり、各画素列は、球S上においてπ/(2N−1)の緯度範囲に相当する帯状の領域に対応する。さらに、前述した変換式から、同じ画素列に含まれる画素は、球S上の帯状の領域内において同じ広さの領域に対応する。つまり、同緯度の領域に対応する画素列に含まれる画素は、互いに同じ情報量を持つことになる。第2パノラマ画像P2や第3パノラマ画像P3についても、画素列の向きなどが異なるものの、このような分割領域と変換領域との間の変換に関する特徴は同様に成り立つ。すなわち、前述したような変換式によって球S上の位置とパノラマ画像P内の位置との変換が行われていることにより、単純に球面上の分割領域の景色をそのまま球の内部の平面に投影して変換領域を生成する場合と比較して、パノラマ画像P内の各画素が持つ情報量の格差が小さくなっている。
ここでは三つの実施例について説明したが、本実施形態におけるパノラマ画像Pはこのようなものに限られず、変換に用いる座標系やパノラマ画像P内における各変換領域の配置などを変化させた種々のバリエーションがあり得る。いずれの場合であっても、球Sの中心を通り互いに直交する3個の平面により球Sの表面を分割して得られる8個の分割領域をそれぞれ三角形状の変換領域に変換し、平面上に配置することで、全天周の景色を含んだ正方形状のパノラマ画像Pを生成できる。さらに、球S表面の1/8に相当する各分割領域を三角形状に変換することで、正距円筒図法と比較して画素あたりの情報量の無駄を抑え、少ない画素数で高画質なパノラマ画像Pを実現できる。
以上の説明では、球S上の各分割領域を三角形状の領域に変換して平面上に配置することで、縦方向の画素数と横方向の画素数が等しい正方形のパノラマ画像Pを生成することとした。しかしながら、本実施形態におけるパノラマ画像Pはこのようなものに限られない。例えば、前述の図7の説明では、二つの変換領域が直角二等辺三角形の底辺を共有することで球S表面の1/4の領域がちょうどN行N列の正方形に変換されることとした。しかしながら、底辺を共有させずに、二つの分割領域をそれぞれN個の画素からなる画素列を底辺とする直角二等辺三角形状の領域に変換してもよい。この場合、球Sの1/4の領域がN行(N+1)列の長方形の領域に変換され、パノラマ画像Pは全体で2N行(2N+2)列の長方形の形状となる。
さらに、この底辺と交差する方向の解像度を向上させたい場合、球Sの1/4の領域をN行(N+m)列の長方形の領域に変換してもよい。ここで、mは1以上の自然数である。mの上限は特にないが、大きすぎるとパノラマ画像Pのデータサイズが増大してしまう。mをN未満とすることで、底辺方向の解像度が同程度の正距円筒画像P0と比較して、画像データサイズを小さくすることができる。図8は、この例において球S表面の1/4の領域を変換して得られるN行(N+m)列の長方形の一例を示している。ここでは、図3の第1パノラマ画像P1内における正方形EDに対応する球Sの領域(分割領域A及びA)を第1パノラマ画像P1と類似の変換方法により変換した例を示している。また、この図はN=8、m=3の場合の例を示している。この例では、球S上の分割領域は、これまでの実施例のような三角形状ではなく、台形状に変換されている。
図8では、球S上における同緯度の領域に対応する画素群に対して互いに同じ数字のラベルが付与されている。以下では、パノラマ画像P内において、対応する球S上の緯度が互いに等しい画素群を、同緯度画素群という。図8で同じラベルが付与された画素は、同じ同緯度画素群に属する。例えば、図8において「1」のラベルが付与された右上の画素は球S上で天頂(点U)に最も近い高緯度の領域に対応しており、「2」のラベルが付与された二つの画素は、球S上でラベル「1」に対応する領域を囲む一段下の領域に対応する同緯度画素群を構成する。また、ラベル「9」の同緯度画素群とラベル「10」の同緯度画素群が球S上の地平面に沿った領域に対応している。同図に示されるように、ここでは各同緯度画素群は左上から右下に向かう斜線に沿って帯状の画素列を形成している。そして、比較的低緯度の領域に対応するラベル「8」からラベル「11」の同緯度画素群が最も多くの画素によって構成されており、そこから点Uまたは点Dに近づくほど同緯度画素群を構成する画素の数は減少していく。この図8の例では、地平面に沿った90度の範囲を表現する画素の数は図7の例と同じくN個だが、点Uから点Eまたは点Eを経由して点Dに到達する180度の範囲を表現する画素数は、図7の(2N−1)個に対して(2N−1+m)個になっている。つまり、パノラマ画像Pの形状を正方形から長方形にして左右方向の画素数を増加させた分、球Sの鉛直方向を表現する解像度が向上していることになる。なお、ここではパノラマ画像Pは左右方向に引き延ばされた形状としているが、上下方向に引き延ばされた形状であってもよい。
図9は、パノラマ画像Pを長方形に形成する別の例を示している。ここでは、図6の正方形UFRBに相当する領域を第3パノラマ画像P3と類似の変換方法により長方形に変換した例を示している。また、図8と同様、同じ同緯度画素群に属する画素に対して互いに同じ数字のラベルを付与している。第3パノラマ画像P3では、球S表面の1/4に相当する変換領域A12及びA13のうち、点Uに最も近い同緯度の領域に対応するのは左上の1画素であったが、この図9の例ではラベル「1」を付与された4個(すなわち、1+m個)の画素が点Uに最も近い高緯度の同緯度画素群を形成している。ラベル「8」の同緯度画素群は、地平面に沿った領域に対応しており、(2N−1+m)個の画素によって構成されている。すなわち、この図9では、球Sの鉛直方向の90度の範囲はN個の画素で表現され、水平方向の180度の範囲は(2N−1+m)個の画素によって表現されており、図8とは逆に左右方向の解像度が向上している。なお、この図の例では、第3パノラマ画像Pと同様に、同緯度画素群はL字型の領域を形成している。また、分割領域A13は第3パノラマ画像P3と同様の直角二等辺三角形状に変換され、分割領域A12は台形状に変換されている。
以上例示したように、パノラマ画像Pを長方形とすることで、正方形にする場合と比較して、鉛直方向または水平方向の解像度を向上させることができる。以上説明したいずれの例でも、球S上の緯線に対応する同緯度画素群がパノラマ画像P内において帯状の領域を形成している。これまでの説明から分かるように、緯線は、球S上においてある点(以下、極点という)からの距離が等しい点の集合である。第1パノラマ画像P1、第2パノラマ画像P2の正面領域、及び第3パノラマ画像P3の場合には、極点は点U及び点Dであって、緯線は球S上において地平面に平行な平面と球S表面との交線に該当する。一方、第2パノラマ画像P3の背面領域については、点R及び点Lが極点となり、緯線は図4Dの一点鎖線で示されるように鉛直方向に沿って延伸している。そして、極点及び緯線をどのような位置及び向きで定義するかにかかわらず、本実施形態におけるパノラマ画像Pは、球S上の任意の緯線に着目した場合に、その緯線に対応する同緯度画素群に属する画素の数が、その緯線より低緯度の緯線(すなわち、極点に近い側の緯線)に対応する同緯度画素群に属する画素の数と同数か、それよりも少なくなっている。換言すると、パノラマ画像P内において、高緯度になるにつれて同緯度画素群に含まれる画素の数は減少していくことになる。これに対して正距円筒画像P0においては、どの緯線も画像の横方向に並ぶ同じ長さの画素列に相当するので、同緯度画素群に属する画素の数は緯度にかかわらず一定である。本実施形態におけるパノラマ画像Pは、以上説明したように高緯度の緯線に対応する同緯度画素群に属する画素の数が低緯度の緯線に対応する同緯度画素群の画素数よりも少なくなるようにすることで、正距円筒画像P0の高緯度領域で生じていた情報の無駄が減り、正距円筒画像P0と比較して少ない画素数で同等以上の解像度を実現することができる。
なお、以上の説明では全天周の景色の全てをパノラマ画像Pに含めることとしたが、本実施形態におけるパノラマ画像Pはこのようなものに限られない。例えばパノラマ画像Pは、球Sの表面を分割して得られる8個の分割領域に対応する8個の変換領域の全てを含むのではなく、一部の変換領域のみを含むものであってもよい。例えば図4A〜図4Dに示す球Sの表面を分割して得られる8個の分割領域のうち、4個の分割領域A〜A12だけを変換領域に変換して平面上に配置し、パノラマ画像Pとしてもよい。これにより、観測点から見て前方の半球内の景色だけを含んだパノラマ画像Pを得ることができる。この場合のパノラマ画像Pは、図5に示す第2パノラマ画像P2の一部である正方形RULDと同等のものであってよい。あるいは、4個の分割領域は正方形ではなく長方形を形成するように配列されてもよい。また、球Sを分割して得られる8個の分割領域のうち、2個の分割領域を直角二等辺三角形の変換領域に変換して、図7に例示するような正方形のパノラマ画像Pを形成してもよい。
さらに、本実施形態におけるパノラマ画像Pは、球Sの全体に観測点から見た景色を投影するのではなく、一部の範囲のみに景色を投影し、この景色が投影された球Sを分割して得られる8個の分割領域の少なくとも一つを変換領域に変換して形成されるものであってもよい。この例では、一つの分割領域の中の一部範囲にのみ景色が投影され、その他の範囲には景色が投影されていない状態で、この分割領域が変換領域に変換されることもあり得る。その場合には、景色が投影されていない範囲についてはパノラマ画像P内においてダミー情報を持った画素(例えば画素値0の画素)に変換すればよい。これにより、例えば天底に近い高緯度の範囲など、一部範囲の景色に関する情報がない場合であっても、本実施形態の手法によりパノラマ画像Pを生成することができる。
なお、第3パノラマ画像P3の場合、図6に例示されるように緯線がコの字型になっていることから、天頂や天底に近い高緯度の範囲は点U及び点D近傍の矩形の領域となる。この領域が不要な場合、その部分を除いた球Sの範囲を変換して得られるパノラマ画像Pを長方形に再配置することができる。この場合の各緯線に対応する画素列の配置は、図9に例示したものと同様になる。このように不要な範囲を除いた部分を矩形領域に再配置することで、ダミー情報を持った画素を含まないパノラマ画像Pを生成することができる。
また、以上の説明では、球S表面の位置座標である緯度θは、パノラマ画像P内の位置座標x、yと線形関係にあることとした。これは、パノラマ画像P内の全ての同緯度画素群は、球S上の互いに等しい緯度範囲に対応していることを意味している。例えば図8に示したようにパノラマ画像Pの1/4が8行11列の画素によって構成されている場合、180度の緯度範囲が18個の同緯度画素群に変換されているので、各同緯度画素群はいずれも緯度10度分の角度に対応することになる。つまり、ラベル「1」が付与された同緯度画素群は球S上の緯度が80度〜90度の範囲に相当し、ラベル「2」が付与された同緯度画素群は球S上の緯度70度〜80度の範囲に相当し、ラベル「18」が付与された同緯度画素群は緯度−80度〜−90度の範囲に相当する。また、経度方向に関しても、同じ同緯度画素群に属する各画素は互いに等しい経度範囲に対応している。しかしながら、本実施形態におけるパノラマ画像Pはこのようなものに限られず、各画素が対応する緯度範囲や経度範囲を互いに異ならせてもよい。
特に、球S表面上の重要な領域(ユーザーが注目すると想定される領域)については、パノラマ画像P内の画素に対応する球S上の緯度範囲や経度範囲を他の領域よりも狭めることとしてもよい。このように画素毎に対応する球S表面上の角度範囲を変化させることで、重要な領域の解像度を他の領域よりも高めることができる。一例として、ユーザーは高緯度の領域(天頂や天底に近い領域)よりも低緯度の領域(地平面に近い領域)に注目しやすいと考えられる。そこで、緯度が−45度から45度までの注目範囲については、同緯度画素群1個あたりの緯度範囲を、緯度45度以上、及び−45度以下の範囲における同緯度画素群1個あたりの緯度範囲の半分とする。このようにすると、180度の緯度範囲のうちの半分に相当する注目範囲について、それ以外の範囲の2倍の解像度とすることができる。なお、ここでは画素毎の対応緯度範囲を2段階で変化させることとしたが、これに限らずより多くの段階で変化させてもよい。また、同緯度画素群に属する各画素について、対応する経度範囲を緯度範囲と同じように変化させてもよい。なお、このように単位画素あたりの対応緯度範囲や対応経度範囲を異ならせる手法は、本実施形態におけるパノラマ画像Pだけでなく正距円筒画像P0にも適用することができる。
次に、本発明の実施形態に係る画像生成装置10、及び画像表示制御装置20を含んだ画像表示システム1の構成を説明する。
画像生成装置10は、パノラマ画像Pを生成する情報処理装置であって、例えば家庭用ゲーム機、携帯型ゲーム機、パーソナルコンピュータ、スマートフォン、タブレット等であってよい。図10に示されるように、画像生成装置10は、制御部11と、記憶部12と、通信部13と、を含んで構成される。
制御部11は、CPU等のプロセッサーを少なくとも一つ含み、記憶部12に記憶されているプログラムを実行して各種の情報処理を実行する。特に本実施形態では、制御部11はパノラマ画像Pの生成処理を実行する。記憶部12は、RAM等のメモリデバイスを少なくとも一つ含み、制御部11が実行するプログラム、及び当該プログラムによって処理されるデータを格納する。通信部13は、LANカード等の通信インタフェースであって、通信ネットワーク経由で画像表示制御装置20に対してパノラマ画像Pのデータを送信する。
画像表示制御装置20は、画像生成装置10で生成されたパノラマ画像Pに基づく画像の表示制御を行う情報処理装置であって、画像生成装置10と同様に、家庭用ゲーム機、携帯型ゲーム機、パーソナルコンピュータ、スマートフォン、タブレット等であってよい。画像表示制御装置20は、制御部21、記憶部22、及び通信部23を含んで構成されている。さらに画像表示制御装置20は、表示装置24及び操作デバイス25と接続されている。
制御部21は、CPU等のプロセッサーを少なくとも一つ含み、記憶部22に記憶されているプログラムを実行して各種の情報処理を実行する。特に本実施形態では、制御部21は、パノラマ画像Pに基づいて表示画像を描画する処理を実行する。記憶部22はRAM等のメモリデバイスを少なくとも一つ含み、制御部21が実行するプログラム、及び当該プログラムによって処理されるデータを格納する。通信部23は、LANカード等の通信インタフェースであって、画像生成装置10から送信されるデータを通信ネットワーク経由で受信する。
表示装置24は、液晶ディスプレイ等であって、画像表示制御装置20が供給する映像信号に従って画像を表示する。表示装置24は、画像表示制御装置20が供給する立体視可能な画像を表示する立体画像表示装置であってもよい。また、表示装置24は、ユーザーが頭部に装着可能なヘッドマウントディスプレイ等の頭部装着型表示装置であってもよい。
操作デバイス25は、家庭用ゲーム機のコントローラやポインティングデバイス等であって、ユーザーが画像生成装置10に対して各種の指示操作を行うために使用される。操作デバイス25に対するユーザーの操作入力の内容は、有線又は無線のいずれかにより画像表示制御装置20に送信される。なお、操作デバイス25は画像表示制御装置20の筐体表面に配置された操作ボタンやタッチパネル等を含んでもよい。
次に、画像生成装置10及び画像表示制御装置20が実現する機能について、図11を用いて説明する。図11に示すように、画像生成装置10は、機能的に、景色情報取得部31と、パノラマ画像生成部32と、を含む。これらの機能は、制御部11が記憶部12に記憶されたプログラムを実行することにより実現される。また、画像表示制御装置20は、機能的に、パノラマ画像取得部33と、方向取得部34と、表示画像描画部35と、を含む。これらの機能は、制御部21が記憶部22に記憶されたプログラムを実行することにより実現される。各装置で実行されるプログラムは、インターネット等の通信ネットワークを介して各装置に提供されてもよいし、光ディスク等のコンピュータ読み取り可能な情報記憶媒体に格納されて提供されてもよい。
景色情報取得部31は、パノラマ画像Pを生成するための元データとなる景色情報を取得する。景色情報は、観測点から見た全天周の景色を仮想的な球Sに投影した場合に、球Sの表面上の各単位領域の色(画素値)を特定するのに必要な情報である。例えば景色情報は、正距円筒図法のように本実施形態とは異なる画像フォーマットで生成されたパノラマ画像であってもよい。また、パノラマカメラによって撮影されたパノラマ写真の画像データであってもよい。景色情報取得部31は、景色情報を通信ネットワーク経由で他の装置から受信してもよいし、画像生成装置10に接続されたカメラ等のデバイスから読み込んでもよい。また、フラッシュメモリー等の情報記憶媒体に記憶された景色情報を読み出してもよい。
パノラマ画像生成部32は、景色情報取得部31が取得した景色情報を用いてパノラマ画像Pを生成する。パノラマ画像Pは、前述したように全天周(またはその一部)の景色が投影された2次元の画像データである。具体的にパノラマ画像生成部32は、前述したような球S上の点とパノラマ画像P内の点との対応関係を示す計算式に従って、パノラマ画像P内の各画素の画素値を景色情報に基づいて算出することにより、パノラマ画像Pを生成する。
なお、パノラマ画像生成部32は立体視用の画像データを生成してもよい。この場合に生成される画像データは、例えば左半分に左目用画像を生成するための正方形のパノラマ画像Pを含み、右半分に右目用画像を生成するための正方形のパノラマ画像Pを含んだ縦横比1:2の矩形の画像データであってよい。また、パノラマ画像生成部32は、時間とともに変化する動画像としてパノラマ画像Pを生成してもよい。
また、パノラマ画像生成部32は、前述した第1パノラマ画像P1、第2パノラマ画像P2のような複数種類の画像フォーマットの中から1の画像フォーマットを選択し、選択した画像フォーマットに従ってパノラマ画像Pを生成してもよい。この場合、パノラマ画像生成部32は、生成したパノラマ画像Pの画像フォーマットを特定する情報を当該パノラマ画像Pとともに出力する。
パノラマ画像取得部33は、画像生成装置10のパノラマ画像生成部32によって生成されたパノラマ画像Pを取得する。ここではパノラマ画像取得部33は、通信ネットワークを介して画像生成装置10から送信されるパノラマ画像Pを直接受信することとする。しかしながら、これに限らず、パノラマ画像取得部33はサーバコンピュータ等の他の装置を経由してパノラマ画像Pを受信してもよい。また、一旦フラッシュメモリー等の情報記憶媒体に記憶されたパノラマ画像Pをこの情報記憶媒体から読み出して取得してもよい。
方向取得部34は、ユーザーの指示などに基づいて、表示装置24に表示される表示画像の視野範囲(表示範囲)を決定するために用いられる方向情報を取得する。方向取得部34が取得する方向情報は、後述する表示画像描画部35が表示画像を生成する際の仮想カメラの撮像方向として使用される。この撮像方向は、例えば水平方向の角度を表すヨー角と上下方向の角度を表すピッチ角とによって定義される。さらに方向取得部34は、撮像方向を回転軸としたカメラの回転の角度を示すロール角も取得してもよい。
具体的に、例えば方向取得部34は、操作デバイス25に対するユーザーの方向を指示する操作入力を受け付けることによって、方向情報を取得する。あるいは方向取得部34は、ユーザーが画像表示制御装置20の本体を傾ける動作を行った場合に、画像表示制御装置20に内蔵されているモーションセンサーの検出結果から方向情報を取得してもよい。これにより、例えば画像表示制御装置20がスマートフォンやタブレットのように小型の筐体を備えている場合、ユーザーは画像表示制御装置20の向きを変化させることによって任意の向きに視野範囲を変化させることができる。また、表示装置24が頭部装着型表示装置である場合、方向取得部34は、この表示装置24内に内蔵されたモーションセンサーの検出結果から方向情報を取得してもよい。これにより、ユーザーの頭部の向きの変化に応じて視野範囲を変化させることができる。
表示画像描画部35は、パノラマ画像取得部33が取得したパノラマ画像Pに基づいて、方向取得部34が取得した方向情報に応じて決まる視野範囲内の景色を示す表示画像を描画し、表示装置24に表示させる。これによりユーザーは、パノラマ画像P内に含まれる特定の視野範囲内の景色を閲覧することができる。さらに、操作デバイス25に対する操作入力等によって視野範囲を変化させることで、全天周の任意の方向の景色を閲覧することができる。
具体的に、表示画像描画部35は、仮想空間内に球Sを配置するとともに、当該球Sの中心位置に仮想カメラを配置する。このとき仮想カメラは、方向取得部34が取得した方向情報に応じて決まる向き、及び傾きで配置される。さらに表示画像描画部35は、球Sの内面にパノラマ画像Pに基づいて生成されるテクスチャーを貼り付け、仮想カメラからこのテクスチャーが貼り付けられた球Sの内面を見た様子を描画することで、表示画像を生成する。なお、表示画像描画部35は、球Sに貼り付けるテクスチャーを生成する際には、パノラマ画像Pとともに出力された画像フォーマットを特定する情報を参照して、特定された画像フォーマットに応じて定められた計算式に従って、テクスチャーに含まれる各画素に対応するパノラマ画像P内の画素を特定する。
ここで、パノラマ画像Pに基づいて球Sの内面にテクスチャーを貼り付ける処理の具体例について、説明する。前述したように、球S上の各点は、パノラマ画像P内の一点と対応する。そのため、テクスチャーに含まれる画素(テクセル)の画素値(色)を決定する際には、そのテクセルが貼り付けられる球S上の位置と対応するパノラマ画像P内の画素の画素値を参照する。しかしながら、解像度や形状の違いなどにより、テクスチャー内のテクセルとパノラマ画像P内の画素とは1対1で対応するわけではない。そこで表示画像描画部35は、テクセルの球S上の位置をパノラマ画像P内の位置(ここでは点Xとする)に変換し、その点Xの近傍の複数の画素をサンプリング対象に決定する。そして、サンプリング対象の画素の画素値を用いて補間処理を実行することにより、テクセルの画素値を決定する。
ただし、パノラマ画像P内においては、画像の左右方向や上下方向が球Sの水平方向や鉛直方向と必ずしも一致しない。例えば第1パノラマ画像P1の場合、どの変換領域内でも球Sの水平方向(緯線の方向)は画像の左右方向に対して斜め45度傾いた方向に対応している。このような場合、例えば点Xを含む縦2行横2列の4個の画素をサンプリング対象とする通常のサンプリング処理では、適切にテクセルの画素値を算出できない。そこで表示画像描画部35は、パノラマ画像Pの画像フォーマットの種類、及び画像内の変換領域毎に定められる選択ルールに従って、サンプリング対象の画素を選択することとする。
例えば第1パノラマ画像P1の右上の変換領域A及びA内では、図3の破線で示されるように等緯度を結んだ緯線は左右方向と45度の角度をなす左上がりの直線となっている。この変換領域内でサンプリングを行う場合、表示画像描画部35は、図12に示すように、点Xの近傍の2本の緯線に沿って並んだ4個の画素X〜Xをサンプリング対象として選択する。ここで、画素Xと画素Xの組、及び画素Xと画素Xの組はそれぞれ対応する緯度が互いに等しい組み合わせになっている。そこで表示画像描画部35は、画素Xと画素Xの画素値から点Xの経度の端数に応じた補間値I1を得る。また、画素Xと画素Xの画素値から点Xの経度の端数に応じた補間値I2を得る。なお、各画素の経度の値は異なるため、補間値I1を算出する際と補間値I2を算出する際の係数は互いに異なる。さらに、補間値I1と補間値I2から点Xの緯度の端数に応じた補間値を算出することによって、点Xに対応するテクセルの画素値を決定する。このようにして、球Sの内面に貼り付けられるテクスチャーに含まれる各テクセルの画素値が算出される。
なお、パノラマ画像Pの外周近傍の画素をサンプリング対象として補間処理を行う場合、画像内で離れた位置に配置された複数の画素がサンプリング対象とされることがある。前述したように、パノラマ画像Pの外周では、辺の中点を中心として折り返された際に重なる画素同士が、球S上で隣接する位置に対応するからである。そこで、このように離れた位置にある画素をサンプリング対象として参照する必要をなくすために、サンプリング用画素列をパノラマ画像Pの外周に沿って配置してもよい。このサンプリング用画素列は、パノラマ画像Pの一辺の画素列を左右または上下に反転させた画素列であって、反転の対象とした画素列に隣接するように配置される。図13はサンプリング用画素列を付け加えたパノラマ画像Pの一例を示している。この図の例では、16行16列の正方形の形状を有する第3パノラマ画像P3に対して、上下に1列ずつサンプリング用画素列を付け加えたパノラマ画像Pを示している。図中においてサンプリング用画素列はハッチングで示されている。ここで、同じギリシア文字またはアルファベット小文字のラベルが付与された画素は、同じ画素値を有している。このラベルによって示されるように、図中最上段のサンプリング用画素列は、上から2段目の画素列を左右反転した画素列になっており、最下段のサンプリング用画素列は、下から2段目の画素列を左右反転させた画素列になっている。このサンプリング用画素列は、元のパノラマ画像P内における外周の画素に対して、球S上において隣接する画素がパノラマ画像P内においても隣接するように配置されている。このようなサンプリング用画素列は、情報としては冗長であるが、補間処理を容易にする効果がある。具体的に、図中の上から2段目の画素や下から2段目の画素をサンプリング対象として補間処理を行う場合に、必要な他のサンプリング対象をパノラマ画像P内の別の場所から取り出すのではなく、隣接するサンプリング用画素列から取り出すことができる。このような隣接する画素をサンプリング対象とした補間処理は、グラフィックプロセッサー等によりハードウェア的に実現できる場合がある。このような場合、サンプリング用画素列をパノラマ画像Pに付け加えることによって、端部まで含めて緯度方向の補間処理をハードウェアで実行することができ、補間演算を高速化することができる。
さらに本実施形態では、表示画像描画部35は、方向取得部34が取得する方向の変化に応じて、表示画像をリアルタイムで更新する。すなわち、表示画像描画部35は、方向取得部34が取得する方向が変化すると、その変化した向きと対応する方向に仮想カメラの向きを変化させる。より具体的に、ピッチ角、及びヨー角が変化した場合には、この変化に連動させて仮想カメラの撮像方向を変化させる。また、ロール角が変化した場合には、この変化に連動させて、撮像方向を回転軸として仮想カメラを傾けさせる。これにより、仮想カメラの視野範囲は方向取得部34が取得する方向の変化に連動して変化することになる。表示画像描画部35は、更新された視野範囲に基づいて球Sの内面の様子を再描画して表示画像を更新し、表示装置24の画面に表示する。表示画像描画部35は、このような方向取得部34が取得する方向の変化に応じた表示画像の再描画(更新)処理を、所定時間おきに繰り返し実行する。このような制御によれば、ユーザーは視野範囲を動かしてパノラマ画像P内に含まれる全天周の任意の位置の景色を閲覧することができる。
なお、以上の説明では表示画像は一つの平面画像であるとしたが、表示画像描画部35は立体画像を描画してもよい。この場合、表示画像描画部35は、仮想的な球Sの中心に左右方向に並んだ二つの仮想カメラを配置する。そして、左目用のパノラマ画像Pに基づいて生成したテクスチャーを貼り付けた球Sの内面を左側の仮想カメラから見た様子を描画することにより、左目用の表示画像を生成する。同様に、右目用のパノラマ画像Pに基づいて生成したテクスチャーを貼り付けた球Sの内面を右側の仮想カメラから見た様子を描画することにより、右目用の表示画像を生成する。これら二つの表示画像を立体視に対応する表示装置24に表示させることによって、ユーザーは全天周の景色を立体的に閲覧することが可能となる。
以上説明した本実施形態に係る画像生成装置10によれば、正距円筒図法のパノラマ画像と比較して情報の無駄が少なく、比較的少ない画素数で高画質のパノラマ画像Pを生成することができる。また、本実施形態に係る画像表示制御装置20は、このようにして生成されたパノラマ画像Pに基づいて、パノラマ画像Pに含まれる視野範囲内の景色を示す表示画像を生成し、ユーザーに閲覧させることができる。
なお、本発明の実施の形態は以上説明したものに限られない。例えば以上の説明では、画像生成装置10と画像表示制御装置20は互いに独立した装置であることとしたが、一つの情報処理装置がパノラマ画像Pの生成と表示制御の双方を実現してもよい。
1 画像表示システム、10 画像生成装置、11,21 制御部、12,22 記憶部、13,23 通信部、20 画像表示制御装置、24 表示装置、25 操作デバイス、31 景色情報取得部、32 パノラマ画像生成部、33 パノラマ画像取得部、34 方向取得部、35 表示画像描画部。

Claims (7)

  1. 観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のそれぞれを、互いに等しい緯度に対応する画素からなる同緯度画素群に属する画素の数が高緯度になるにつれて減少するように、かつ、互いに異なる緯度に対応する複数の同緯度画素群が互いに等しい緯度範囲に対応するように変換して平面上に配置してなるパノラマ画像を生成するパノラマ画像生成部と、
    前記生成されたパノラマ画像を出力する画像出力部と、
    を含み、
    前記3個の平面は、地平面、前記観測点から見てユーザーに提示したい方向である所与の正面方向に沿った鉛直面、及び、当該正面方向と交差する左右方向に沿った鉛直面であって、
    前記パノラマ画像生成部は、前記8個の分割領域のそれぞれを直角二等辺三角形状の変換領域に変換し、当該変換により得られる8個の変換領域を、全体として正方形になるように、かつ、前記所与の正面方向に対応する前記球上の一点が前記正方形の中心に位置し、前記所与の正面方向に接する4個の分割領域により構成される半球面が、前記正方形の4辺それぞれの中点を結んで形成される内接正方形に変換されるように平面上に配置して、前記パノラマ画像を生成する
    ことを特徴とする画像生成装置。
  2. 請求項1に記載の画像生成装置において、
    前記パノラマ画像生成部は、前記内接正方形の各辺上の画素が、当該辺を挟んで配置される2個の前記変換領域に共有されるように、前記8個の変換領域を配置して前記パノラマ画像を生成する
    ことを特徴とする画像生成装置。
  3. 請求項1に記載の画像生成装置において、
    前記パノラマ画像生成部は、前記パノラマ画像の外周の一辺を構成する画素列に隣接するように、補間処理に用いるサンプリング用画素列を付加して、前記パノラマ画像を生成する
    ことを特徴とする画像生成装置。
  4. 請求項3に記載の画像生成装置において、
    前記サンプリング用画素列は、前記一辺を構成する画素列の配置を反転させた画素列である
    ことを特徴とする画像生成装置。
  5. 請求項1に記載の画像生成装置において、
    前記パノラマ画像生成部は、前記球上の経度に応じて、前記パノラマ画像内の画素に対応する前記球上の角度範囲が異なるように前記パノラマ画像を生成する
    ことを特徴とする画像生成装置。
  6. 観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のそれぞれを、互いに等しい緯度に対応する画素からなる同緯度画素群に属する画素の数が高緯度になるにつれて減少するように、かつ、互いに異なる緯度に対応する複数の同緯度画素群が互いに等しい緯度範囲に対応するように変換して平面上に配置してなるパノラマ画像を生成するステップと、
    前記生成されたパノラマ画像を出力するステップと、
    を含み、
    前記3個の平面は、地平面、前記観測点から見てユーザーに提示したい方向である所与の正面方向に沿った鉛直面、及び、当該正面方向と交差する左右方向に沿った鉛直面であって、
    前記パノラマ画像を生成するステップでは、前記8個の分割領域のそれぞれを直角二等辺三角形状の変換領域に変換し、当該変換により得られる8個の変換領域を、全体として正方形になるように、かつ、前記所与の正面方向に対応する前記球上の一点が前記正方形の中心に位置し、前記所与の正面方向に接する4個の分割領域により構成される半球面が、前記正方形の4辺それぞれの中点を結んで形成される内接正方形に変換されるように平面上に配置して、前記パノラマ画像を生成する
    ことを特徴とする画像生成方法。
  7. 観測点から見た景色を少なくとも一部の範囲に投影した球の表面を、当該球の中心を通り互いに直交する3個の平面で分割して得られる8個の分割領域のそれぞれを、互いに等しい緯度に対応する画素からなる同緯度画素群に属する画素の数が高緯度になるにつれて減少するように、かつ、互いに異なる緯度に対応する複数の同緯度画素群が互いに等しい緯度範囲に対応するように変換して平面上に配置してなるパノラマ画像を生成する手段、及び、
    前記生成されたパノラマ画像を出力する手段、
    としてコンピュータを機能させるためのプログラムであって、
    前記3個の平面は、地平面、前記観測点から見てユーザーに提示したい方向である所与の正面方向に沿った鉛直面、及び、当該正面方向と交差する左右方向に沿った鉛直面であって、
    前記パノラマ画像を生成する手段は、前記8個の分割領域のそれぞれを直角二等辺三角形状の変換領域に変換し、当該変換により得られる8個の変換領域を、全体として正方形になるように、かつ、前記所与の正面方向に対応する前記球上の一点が前記正方形の中心に位置し、前記所与の正面方向に接する4個の分割領域により構成される半球面が、前記正方形の4辺それぞれの中点を結んで形成される内接正方形に変換されるように平面上に配置して、前記パノラマ画像を生成する
    プログラム。
JP2017535279A 2015-08-18 2016-06-24 画像生成装置、及び画像表示制御装置 Active JP6672315B2 (ja)

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP2015160951 2015-08-18
JP2015160951 2015-08-18
PCT/JP2016/068873 WO2017029885A1 (ja) 2015-08-18 2016-06-24 画像生成装置、及び画像表示制御装置

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2019080249A Division JP2019160330A (ja) 2015-08-18 2019-04-19 画像生成装置、及び画像表示制御装置

Publications (2)

Publication Number Publication Date
JPWO2017029885A1 JPWO2017029885A1 (ja) 2018-04-26
JP6672315B2 true JP6672315B2 (ja) 2020-03-25

Family

ID=58050968

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2017535279A Active JP6672315B2 (ja) 2015-08-18 2016-06-24 画像生成装置、及び画像表示制御装置
JP2019080249A Pending JP2019160330A (ja) 2015-08-18 2019-04-19 画像生成装置、及び画像表示制御装置

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2019080249A Pending JP2019160330A (ja) 2015-08-18 2019-04-19 画像生成装置、及び画像表示制御装置

Country Status (11)

Country Link
US (1) US10659742B2 (ja)
EP (1) EP3340164B1 (ja)
JP (2) JP6672315B2 (ja)
KR (1) KR102072639B1 (ja)
CN (1) CN107924556B (ja)
AU (1) AU2016308980B2 (ja)
BR (1) BR112018002918A2 (ja)
CA (1) CA2995665C (ja)
MX (1) MX2018001286A (ja)
RU (1) RU2686591C1 (ja)
WO (1) WO2017029885A1 (ja)

Families Citing this family (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10043237B2 (en) 2015-08-12 2018-08-07 Gopro, Inc. Equatorial stitching of hemispherical images in a spherical image capture system
US10339627B2 (en) * 2016-10-10 2019-07-02 Gopro, Inc. Apparatus and methods for the optimal stitch zone calculation of a generated projection of a spherical image
WO2018170917A1 (zh) * 2017-03-24 2018-09-27 深圳看到科技有限公司 全景画面播放方法及全景画面播放装置
CN107172412A (zh) * 2017-06-11 2017-09-15 成都吱吖科技有限公司 一种基于虚拟现实的交互式全景视频存储方法及装置
WO2019003609A1 (ja) * 2017-06-26 2019-01-03 ソニー株式会社 画像処理装置及び画像処理方法
CN110956583B (zh) * 2018-09-26 2022-05-10 华为技术有限公司 球面图像处理方法、装置及服务器
US11113870B2 (en) * 2019-03-18 2021-09-07 Samsung Electronics Co., Ltd. Method and apparatus for accessing and transferring point cloud content in 360-degree video environment
CN110084740B (zh) * 2019-04-25 2023-05-23 北京工业大学 一种基于规格化结构的球面图像生成及转换方法
US20220236062A1 (en) * 2019-07-26 2022-07-28 Cube Earth Co., Ltd. Position space identication method, position space identifier imparting device, and computer program
WO2021020274A1 (ja) * 2019-07-26 2021-02-04 株式会社イッツ・エムエムシー 位置空間識別方法、位置空間識別子付与装置及びコンピュータプログラム
CN112218110B (zh) * 2020-09-28 2022-10-28 京东方科技集团股份有限公司 Vr全景视频的传输方法、装置、服务器及交互***

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3744147B2 (ja) * 1997-04-21 2006-02-08 ソニー株式会社 パノラマ画像生成装置および方法
JP4012749B2 (ja) 2002-03-14 2007-11-21 国立大学法人 奈良先端科学技術大学院大学 遠隔操縦システム
US7308131B2 (en) * 2002-12-03 2007-12-11 Ntt Docomo, Inc. Representation and coding of panoramic and omnidirectional images
US8773500B2 (en) * 2006-01-18 2014-07-08 Capso Vision, Inc. In vivo image capturing system including capsule enclosing a camera
US7621647B1 (en) * 2006-06-23 2009-11-24 The Elumenati, Llc Optical projection system and method of use
JP4945578B2 (ja) * 2007-01-04 2012-06-06 肇 鳴川 情報処理方法
JP2010033573A (ja) * 2008-07-01 2010-02-12 Hajime Narukawa 情報処理方法
CN101561989A (zh) * 2009-05-20 2009-10-21 北京水晶石数字科技有限公司 一种全景图展示方法
CN101968890B (zh) * 2009-07-27 2013-07-10 西安费斯达自动化工程有限公司 基于球面显示的360°全景仿真***
CN102096949B (zh) * 2011-01-27 2013-12-11 深圳市远望落星山科技有限公司 一种360度数字球幕电影的制作方法
RU108651U1 (ru) * 2011-04-22 2011-09-20 Александр Сергеевич Шпагин Растровая система воспроизведения объемного изображения
CN104196282A (zh) * 2014-09-18 2014-12-10 江苏卡罗卡国际动漫城有限公司 球幕影院的动感乘坐设备
CN104834176A (zh) * 2015-04-28 2015-08-12 江苏卡罗卡国际动漫城有限公司 一种360°球幕播放***

Also Published As

Publication number Publication date
KR20180042346A (ko) 2018-04-25
MX2018001286A (es) 2018-06-19
EP3340164B1 (en) 2022-09-28
WO2017029885A1 (ja) 2017-02-23
EP3340164A4 (en) 2019-03-06
RU2686591C1 (ru) 2019-04-29
US10659742B2 (en) 2020-05-19
AU2016308980B2 (en) 2019-10-17
BR112018002918A2 (ja) 2018-09-18
CA2995665C (en) 2022-04-26
EP3340164A1 (en) 2018-06-27
AU2016308980A1 (en) 2018-02-15
US20180227558A1 (en) 2018-08-09
JP2019160330A (ja) 2019-09-19
JPWO2017029885A1 (ja) 2018-04-26
CN107924556A (zh) 2018-04-17
CA2995665A1 (en) 2017-02-23
KR102072639B1 (ko) 2020-02-03
CN107924556B (zh) 2021-06-29

Similar Documents

Publication Publication Date Title
JP6672315B2 (ja) 画像生成装置、及び画像表示制御装置
EP3438919B1 (en) Image displaying method and head-mounted display apparatus
JP2005339313A (ja) 画像提示方法及び装置
JP2020173529A (ja) 情報処理装置、情報処理方法、及びプログラム
JP6708444B2 (ja) 画像処理装置および画像処理方法
JP6719596B2 (ja) 画像生成装置、及び画像表示制御装置
JP2018109946A (ja) 表示装置、プログラム、表示方法
CN114511447A (zh) 图像处理方法、装置、设备及计算机存储介质
JP7150460B2 (ja) 画像処理装置および画像処理方法
CN109801351B (zh) 动态图像生成方法和处理设备
JP6791991B2 (ja) 画像配信装置
JP2020024687A (ja) 情報処理装置、情報処理システム、情報処理方法及びプログラム
TW202209250A (zh) 用以產生旋轉後全景影像的轉換方法
JP2004152047A (ja) 画像分割合成方法およびシステム、そのためのプログラムおよび記録媒体

Legal Events

Date Code Title Description
A524 Written submission of copy of amendment under article 19 pct

Free format text: JAPANESE INTERMEDIATE CODE: A527

Effective date: 20180111

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20180111

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20180807

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20190122

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20190419

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20190507

A912 Re-examination (zenchi) completed and case transferred to appeal board

Free format text: JAPANESE INTERMEDIATE CODE: A912

Effective date: 20190524

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20191224

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20200304

R150 Certificate of patent or registration of utility model

Ref document number: 6672315

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150