JP2003203251A - ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム - Google Patents

ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム

Info

Publication number
JP2003203251A
JP2003203251A JP2002270253A JP2002270253A JP2003203251A JP 2003203251 A JP2003203251 A JP 2003203251A JP 2002270253 A JP2002270253 A JP 2002270253A JP 2002270253 A JP2002270253 A JP 2002270253A JP 2003203251 A JP2003203251 A JP 2003203251A
Authority
JP
Japan
Prior art keywords
video
virtual
user interface
action
along
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002270253A
Other languages
English (en)
Other versions
JP4321028B2 (ja
Inventor
T Foote Jonathan
ティー. フート ジョナサン
Donald G Kimber
ジー. キンバー ドナルド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd filed Critical Fuji Xerox Co Ltd
Publication of JP2003203251A publication Critical patent/JP2003203251A/ja
Application granted granted Critical
Publication of JP4321028B2 publication Critical patent/JP4321028B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0481Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
    • G06F3/04815Interaction with a metaphor-based environment or interaction object displayed as three-dimensional, e.g. changing the user viewpoint with respect to the environment or object
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/20Information retrieval; Database structures therefor; File system structures therefor of structured data, e.g. relational data
    • G06F16/29Geographical information databases
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F16/00Information retrieval; Database structures therefor; File system structures therefor
    • G06F16/70Information retrieval; Database structures therefor; File system structures therefor of video data
    • G06F16/78Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2200/00Indexing scheme for image data processing or generation, in general
    • G06T2200/24Indexing scheme for image data processing or generation, in general involving graphical user interfaces [GUIs]

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Databases & Information Systems (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Data Mining & Analysis (AREA)
  • Library & Information Science (AREA)
  • Multimedia (AREA)
  • Human Computer Interaction (AREA)
  • Remote Sensing (AREA)
  • Processing Or Creating Images (AREA)
  • Closed-Circuit Television Systems (AREA)

Abstract

(57)【要約】 【課題】 パノラマであると共に空間的に索引付けされ
たビデオを作成するためのビデオシステムを生成するシ
ステム及び方法の提供。 【解決手段】 本発明のビデオシステムは、空間データ
を有するデータベースと、画像ディスプレイを有するユ
ーザインターフェースと、特定のアクションに応答して
レンダリングされるビデオであって、データベースから
リトリーブされる複数の画像を有し、各画像がパノラマ
であり、仮想環境での仮想経路に沿った所定のロケーシ
ョンに従って空間的に索引付けされたビデオと、を有す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、一般に、仮想現実
(バーチャルリアリティ)アプリケーションのためのビ
デオを使用するシステム及び方法に係り、より詳細に
は、仮想環境内の仮想経路に沿った仮想動作を実行する
ためにユーザによって要求されるアクションに応答し
て、パノラマ(panoramic)であると共に空間的
に索引付けされる、ビデオを生成するシステム及び方法
に関する。
【0002】
【従来の技術および発明が解決しようとする課題】「特
別な場所にいる」ことの体験を再生するために多くの試
みが行われてきた。従来、これは美術及び記述的散文を
通してのみ行われたものである。写真技術は、場所を描
く際の容易さ及び精度の点で大いなる前進を遂げた。モ
ーションピクチャ及びビデオは他の重要な改善点を提供
した。これらの従来の媒体は、前もって撮影者によって
選択された空間の視界(ビュー)をユーザに提供する。
【0003】理想的には、「特別な場所にいる」ことの
体験を再構築することによって、ユーザは自由に動き回
り、どこを見るべきかを選択することができる。従来の
一つの方法は、空間のコンピュータモデルと、この空間
を介してユーザが実際に航行(ナビゲート)するときの
リアルタイムビューをレンダリングすることとが必要と
される。他の最近のアプローチは、4次元のドメインを
介して、「ライトフィールド(light field
s)」又は「ルミグラフ(lumigraphs)」を
用いてストラクチャを表示することなどによって、空間
内の任意方向及び任意地点を介して光の流れを近似する
ために十分な画像を記録することである。
【0004】特別な場所にいる感覚を提供する試みにお
いて、二つの従来の画像ベースの方法が先立って開発さ
れている。一つの方法は、パノラマ式の映像であり、こ
れによって、ユーザは、固定された視点から見る方向を
自由に選択することができる。パノラマは、ディジタル
式で記録され、後処理中に高解像度でスキャンされるフ
ィルムベースの画像を使用することもできる。パノラマ
画像又はビデオは、ストリーミングシステムを用いてイ
ンターネットを介して分配されてもよい。他のアプロー
チは、ユーザがフォローできる経路とビデオとの関連付
け、即ち画像とこれらの経路に沿った地点との関連付け
である。
【0005】「特別な場所にいる」ことの体験を再生する
ための従来の方法の欠点を克服すべく本発明が提供され
た。例えば、静止画又は動画はいずれも記憶媒体の固有
にインタラクティブな形態ではない。これらは、空間の
いくつかのビューをユーザに提供するが、これらのビュ
ーは前もって撮影者によって選択されたものだけであ
る。エンドユーザは、彼が見るものを殆ど或いは全くコ
ントロールすることができない。ビデオが異なるビュー
を介してパンされる場合、又はいくつかの経路に沿った
モーションにおいて撮影される場合でさえも、ユーザの
体験は、「乗り物には乗っている」が、「どこに行くか
何を見るかを選択する」ものではない。
【0006】上述された従来の画像ベースの方法は、部
分的にしか問題点に、取り組んでいない。これらのアプ
リケーションはいずれも空間的に索引付けされたパノラ
マビデオを使用しない。代わりに、従来の画像ベースの
システムはタイムベースのビデオである。従来の空間的
に索引付けするシステムにおいて、連続様式で提供され
るフルパノラマ画像を提供することができるものは知ら
れていない。
【0007】すなわち、従来の技術では、上記記載され
たような課題は解決されていない(例えば、非特許文献
1〜12)。
【0008】
【非特許文献1】チェンら(Chen et al.)、「画像合
成のためのビュー補間」("View Interpolation for Im
age Synthesis")、アップルコンピュータ(Apple Compu
ter, Inc)、August 1993、pp.1-7
【非特許文献2】アリアガら(Aliaga et al.)、「プ
レノプチックステッチ:3Dインタラクティブウォーク
スルー再構成のスケーラブルな方法」("Plenoptic Sti
tching: A Scalable Method for Reconstructing 3D In
teractive Walkthroughs")、ルーセントテクノロジー
ベル研究所(Lucent Technologies Bell Laboratorie
s)、pp.443-450
【非特許文献3】キンバーら(Kimber et al.)、「飛
ぶ:空間的にインデックスされたパノラマビデオ」("F
lyAbout: Spatially Indexed PanoramicVideo")、エフ
エックス パロ アルト ラボラトリー インコーポレ
イテッド、パロアルト、CA 94304(FX Palo Alto Labora
tory, Inc., Palo Alto, CA94304)
【非特許文献4】ゴートラーら(Gortler et al.)、
「ルミグラフ」("Lumigraph")、マイクロソフトリサ
ーチ(Microsoft Research)、1996
【非特許文献5】ニコレスクら(Necolescu et al.)、
「エレクトロニックパン・チルト・ズーム:インテリジ
ェントルームシステムソリューション」("Electronic
Pan-Tilt-Zoom: A Solution for Intelligent RoomSyst
ems")、IEEE、August 2000
【非特許文献6】リップマン(Lippman)、「ムービー
マップ:コンピュータグラフィックスへの光ビデオディ
スク適用」("Movie-Maps: An Application of the Opt
ical Videodisc to Computer Graphics")、マサチュー
セッツ工科大学ケンブリッジ校アーキテクチャマシング
ループ(Architecture Machine Group, Massachusetts I
nstitute of Technology, Cambridge, MA 02139)、July
1980、ACM
【非特許文献7】ネーヤ(Nayar)、「カタディオプト
リック全方向カメラ」("Catadioptric Omnidirectiona
l Camera")、コロンビア大学、コンピュータサイエン
スデパートメント(Department of Computer Science, C
olumbia University, New York, New York 10027)、Jun
e 1997
【非特許文献8】フートら(Foote et al.)、「飛ぶ:
実用パノラマビデオおよび自動カメラコントロー
ル」("FlyCam: Practical Panoramic Video and Autom
atic Camera Control")、エフエックス パロ アルト
ラボラトリー インコーポレイテッド、パロアルト、CA
94304(FXPalo Alto Laboratory, Inc., Palo Alto, CA
94304)、2000
【非特許文献9】ナイマーク(Naimark)、「カールス
ルヘのVBK−Aムービーマップ(介在されるリアリテ
ィおよび場所の意識)」("VBK-A Moviemap of Karlsru
he (Mediated Reality and the Consciousness ofPlac
e)")、明日のリアリティカタログ(From Tomorrow's Re
alities catalog)、Siggraph 1991
【非特許文献10】カワサキら(Kawasaki et al.)、
「全方位カメラを用いた自動3D市街構築システ
ム」("Automatic 3D City Construction SystemUsing
Omni Camera")、東京大学、工業科学研究所、(Institu
teof Industrial Science, University of Tokyo)、Aug
ust 2000
【非特許文献11】レボイら(Levoy et al.)、「ライ
トフィールドレンダリング」("Light Field Renderin
g")、スタンフォード大学、コンピュータサイエンスデ
パートメント (Stanford University, Computer Scienc
e Department)、1996
【非特許文献12】ビューケミンら(Beauchemin et a
l.)、「オプティカルフローの計算」("The Computati
on of Optical Flow")、ウェスタンオンタリオ大学、
コンピュータサイエンスデパートメント (Universityof
Western Ontario, Computer Science Department)、AC
M Computing Surveys、1995、Vol. 27、No. 3、pp.
433〜467
【0009】
【課題を解決するための手段】本発明は、パノラマであ
ると共に空間的に索引付けされたビデオを作成するため
のビデオシステムを生成するシステム及び方法を提供す
ることによって、上述された長年の問題に取り組む。本
発明のシステム及び方法の種々の実施の形態によれば、
仮想環境内の仮想経路は現実の座標位置に基づく。
【0010】本発明のシステム及び方法の種々の実施の
形態は、パノラマであると共に空間的に索引付けされた
ビデオを生成することによってユーザから要求されたア
クションに応答し、これによって、ユーザは、選択され
た仮想経路に沿って移動しながら、仮想経路に沿って独
立にナビゲートし、様々な方向に独立にパンし、及び/
又は、特定のオブジェクト上に視界(gaze)を維持
する。ビデオは、再生されると、仮想環境内の仮想経路
に沿って移動する体験をユーザに提供することができ
る。ビデオを空間的に索引付けすることによって、ユー
ザインターフェースが提供されて、道路に沿って運転す
るなどの経路に沿ってユーザがナビゲートすることが可
能となる。経路のジャンクションや交差点では、ユーザ
はフォローする仮想経路だけでなく、見る方向も選択す
ることができ、これによって、従来のビデオでは不可能
とされた対話(インタラクション)が可能とされる。空
間索引をマップ及び/又はオブジェクトの空間データベ
ースと結合することによって、ユーザは、特定のロケー
ションへナビゲートすることや特別なオブジェクトをイ
ンタラクティブに調べることができる。
【0011】本発明による種々の例示的な実施の形態に
おいて、仮想現実の為のビデオシステムが提供される。
種々の実施の形態において、ビデオシステムは、空間デ
ータを有するデータベースと、画像ディスプレイを有す
るユーザインターフェースと、特定のアクションに応答
してレンダリングされデータベースからリトリーブされ
る複数の画像を有し、各画像がパノラマであり、仮想環
境での仮想経路に沿った所定のロケーションに従って空
間的に索引付けされるビデオと、を有する。このような
実施の形態において、ユーザインターフェースは、ビデ
オに関連付けられたマップディスプレイ、ビデオに関連
付けられたテキストディスプレイ、及び/又はビデオに
関連付けられたオーディオデータを伝達するオーディオ
出力を更に有する。
【0012】本発明による種々の例示的な実施の形態に
おいて、ビデオシステムはスタンドアローンシステムと
して実施される。或いは、ビデオシステムがサーバ上に
配置されてもよいし、ユーザインターフェースは、例え
ば、ウェブブラウザなどの、クライアントディスプレイ
プログラムとして実施されてもよい。
【0013】本発明による種々の例示的な実施の形態に
おいて、空間データはパノラマ画像、マップ、テキス
ト、オーディオシステム、及びハイパーテキストリンク
の少なくとも一つに対応する。空間データは空間索引付
けに適切とされる公知のタイプのデータ、又は今後、開
発されるデータであってもよい。
【0014】本発明による種々の例示的な実施の形態に
おいて、特定されたアクションが仮想動作に対する要求
である。例えば、仮想動作は、走行方向、停止、速度規
定、ビューするオブジェクトのスナップ、ポジションア
イコンのドラッグ、走行開始、及びパンの少なくとも一
つであってもよい。特定されたアクションは、本発明に
よる空間索引付けに適切とされる公知のタイプのアクシ
ョン、又は今後、開発されるアクションであってもよ
い。このような実施の形態において、特定されたアクシ
ョンは、キーボードコマンド、マウス、ノブ、ジョイス
ティック、ヘッドトラッキングデバイス、フローティン
グアロー(floating arrow)、フローテ
ィングテキスト(floating text)、ペダ
ル、ハイパーテキストリンク、及びコントローラの少な
くとも一つを含む選択デバイスによって選択される。特
定されたアクションは、本発明による空間索引付けに適
切とされる公知のタイプの選択デバイス又は今後、開発
される選択デバイスであってもよい。
【0015】本発明による種々の例示的な実施の形態に
よれば、仮想現実のためのビデオを生成する方法が提供
されている。実施の形態において、この方法は、アクシ
ョンを特定するステップと、パノラマであると共に仮想
経路の位置に沿って空間的に索引付けされたビデオを特
定されたアクションに基づいて仮想環境内の仮想経路に
沿って生成するステップと、ユーザインターフェースを
提供するステップと、ユーザインターフェースを介して
ビデオをディスプレイするステップと、を有する。
【0016】本発明は、本発明の種々の方法を実行する
ために、バーチャルリアリティ(仮想現実)のためのビ
デオの提供に使用可能なコントロールプログラムを転送
するため、トランスポートプロトコルの使用も更に考慮
に入れている。
【0017】本発明の第1の態様は、空間データを有す
るデータベースと、画像ディスプレイを有するユーザイ
ンターフェースと、特定のアクションに応答してレンダ
リングされるビデオであって、データベースからリトリ
ーブされる複数の画像を有し、各画像がパノラマであ
り、仮想環境での仮想経路に沿った所定のロケーション
に従って空間的に索引付けされたビデオと、を有する、
ビデオシステムである。
【0018】本発明の第2の態様は、ユーザインターフ
ェースが、所定のロケーションに関連付けられるマップ
ディスプレイを更に有する、本発明の第1の態様に記載
のビデオシステムである。
【0019】本発明の第3の態様は、ユーザインターフ
ェースが、所定のロケーションに関連付けられるテキス
トディスプレイを更に有する、本発明の第2の態様に記
載のビデオシステムである。
【0020】本発明の第4の態様は、ユーザインターフ
ェースが、所定のロケーションに関連付けられるオーデ
ィオデータを伝達するオーディオ出力を更に有する、本
発明の第3の態様に記載のビデオシステムである。
【0021】本発明の第5の態様は、ビデオシステム
は、スタンドアローンシステムである、本発明の第1の
態様に記載のビデオシステムである。
【0022】本発明の第6の態様は、ビデオシステム
は、サーバ上に配置され、ユーザインターフェースは、
クライアントディスプレイプログラムとして実施され
る、本発明の第1の態様に記載のビデオシステムであ
る。
【0023】本発明の第7の態様は、空間データがパノ
ラマ画像、マップ、テキスト、オーディオシステム、及
びハイパーテキストリンクの少なくとも一つである、本
発明の第1の態様に記載のビデオシステムである。
【0024】本発明の第8の態様は、特定されたアクシ
ョンが仮想動作に対する要求である、本発明の第1の態
様に記載のビデオシステムである。
【0025】本発明の第9の態様は、仮想動作が、走行
方向、停止、速度規定、ビューするオブジェクトのスナ
ップ、ポジションアイコンのドラッグ、走行開始、及び
パンの少なくとも一つである、本発明の第8の態様に記
載のビデオシステムである。
【0026】本発明の第10の態様は、特定のアクショ
ンが、キーボードコマンド、マウス、ノブ、ジョイステ
ィック、ヘッドトラッキングデバイス、フローティング
アロー、ペダル、ハイパーテキストリンク、及びコント
ローラの少なくとも一つを含む選択デバイスによって選
択される、本発明の第8の態様に記載のビデオシステム
である。
【0027】本発明の第11の態様は、特定されたアク
ションがビデオを連続提示でレンダリングすることへの
要求である、本発明の第1の態様に記載のビデオシステ
ムである。
【0028】本発明の第12の態様は、連続提示がガイ
ドされた走行である、請求項11に記載のビデオシステ
ムである。
【0029】本発明の第13の態様は、コントローラ
と、空間データとメタデータとを有するデータベース
と、ユーザインターフェースと、特定のアクションに応
答して生成されるユーザインターフェースにディスプレ
イされるビデオと、を有し、ユーザインターフェース
が、データベースからリトリーブされる複数の画像を有
するビデオをディスプレイする画像ディスプレイと、位
置に関連付けられた空間データを図示するマップディス
プレイと、位置に関連付けられた空間データを図示する
テキストディスプレイと、位置に関連付けられたオーデ
ィオデータを運ぶオーディオ出力と、を含み、画像の各
々が、パノラマであり、仮想環境内の仮想経路に沿った
所定位置によって空間的に索引付けされている、ビデオ
システムである。
【0030】本発明の第14の態様は、アクションを特
定するステップと、パノラマであると共に仮想経路の位
置に沿って空間的に索引付けされたビデオを特定された
アクションに基づいて仮想環境内の仮想経路に沿って生
成するステップと、ユーザインターフェースを提供する
ステップと、ユーザインターフェースを介してビデオを
ディスプレイするステップと、を有する、仮想現実のた
めのビデオを生成する方法である。
【0031】本発明の第15の態様は、仮想経路に沿っ
た位置に対応するマップをディスプレイするステップを
更に有する、本発明の第14の態様に記載の方法であ
る。
【0032】本発明の第16の態様は、仮想経路に沿っ
た位置に対応する空間データを示すテキストをディスプ
レイするステップを更に有する、本発明の第15の態様
に記載の方法である。
【0033】本発明の第17の態様は、仮想経路に沿っ
た位置に関連付けられたオーディオデータを出力するス
テップを更に有する、本発明の第16の態様に記載の方
法である。
【0034】本発明の第18の態様は、アクションを特
定するステップが仮想動作を要求することを有する、本
発明の第14の態様に記載の方法である。
【0035】本発明の第19の態様は、仮想環境内の仮
想経路に沿ってアクションを特定するステップと、特定
されたアクションに対応する要求を処理するステップ
と、ビデオを作成する、各々がパノラマであると共に仮
想経路の位置に沿って空間的に索引付けされた複数の画
像をリトリーブするステップと、ユーザインターフェー
スを提供するステップと、ビデオがディスプレイされる
画像ディスプレイウィンドウと、ビデオに対応するマッ
プがディスプレイされるマップディスプレイウィンドウ
と、を有するユーザインターフェースを提供するステッ
プと、特定されたアクションに応答してユーザインター
フェース上にビデオ及びマップをレンダリングするステ
ップと、を有する、仮想現実のためのビデオを生成する
方法である。
【0036】本発明の第20の態様は、コントロールプ
ログラムを実行するためのデバイスに仮想現実のための
ビデオを提供するために使用可能なコントロールプログ
ラムを伝送するために使用されるトランスポートプロト
コルであって、コントロールプログラムが、アクション
を特定するインストラクションと、パノラマであると共
に仮想経路の位置に沿って空間的に索引付けされたビデ
オを特定されたアクションに基づいて仮想環境内の仮想
経路に沿って生成するインストラクションと、ユーザイ
ンターフェースを提供するインストラクションと、ユー
ザインターフェースを介してビデオをディスプレイする
インストラクションと、を有する、トランスポートプロ
トコルである。
【0037】本発明の第21の態様は、コントロールプ
ログラムが、画像ディスプレイを提供するインストラク
ションと、マップディスプレイを提供するインストラク
ションと、テキストディスプレイを提供するインストラ
クションと、オーディオ出力を提供するインストラクシ
ョンと、を有する、本発明の第20の態様に記載のトラ
ンスポートプロトコルである。
【0038】本発明の第22の態様は、仮想現実にビデ
オを付与するシステムをプログラムするためのコンピュ
ータをプログラムするために使用可能なコンピュータ読
み取り可能プログラムコードを記憶したコンピュータ読
み取り可能記憶媒体であって、コンピュータ読み取り可
能プログラムコードが、アクションを特定するステップ
と、パノラマであると共に仮想経路の位置に沿って空間
的に索引付けされたビデオを特定されたアクションに基
づいて仮想環境内の仮想経路に沿って生成するステップ
と、ユーザインターフェースを提供するステップと、ユ
ーザインターフェースを介してビデオをディスプレイす
るステップと、を有する、コンピュータ読み取り可能記
憶媒体である。
【0039】本発明の種々の特徴及び利点が記述されて
いるが、その内容は、本発明によるシステム及び方法の
様々な例示的な実施の形態の以下の詳細な記述からより
明確に理解されるであろう。
【0040】以下に詳細に説明された本発明のシステム
及び方法の種々の例示的な実施の形態は添付図面によっ
てより詳細に理解されるであろう。
【0041】
【発明の実施の形態】バーチャルリアリティ(仮想現
実)のための空間的に索引付けされたパノラマビデオを
使用するシステムについては、2001年9月30日の
ACMマルチメディアコンファレンスにおける、Don
Kimberらに与えられた“FlyAbout: S
patially Indexed panoramic
Video”に開示されている、この開示内容全体が
本明細書中に参照することによって組み込まれている。
このシステムによれば、カメラを連続する経路に沿っ
て、360°移動することによってパノラマビデオがキ
ャプチャされ、再生されることによって、これらの軌跡
に沿って移動する体験、そして興味深いオブジェクト又
は方向をインタラクティブにビューする能力がユーザに
与えられる。
【0042】本発明の種々の実施の形態によれば、空間
的に索引付けされたパノラマビデオシステムが、フォト
リアリスティック空間又は仮想環境における仮想経路に
沿ったインタラクティブナビゲーションのために提供さ
れる。仮想環境でのユーザによる仮想移動は、空間的に
索引付けされたパノラマビデオシステムによって、ディ
スプレイのための空間的に索引付けされたパノラマビデ
オを生成させる。空間的に索引付けされたパノラマビデ
オシステムは、仮想現実のモデルを生成しレンダリング
するための経費を掛けずに仮想環境のイマーシブ(im
mersive)及びインタラクティブなナビゲーショ
ンを提供する。空間的に索引付けされたパノラマビデオ
は、(ユーザが任意の方向を見るのを可能とする)パノ
ラマにも空間的にも索引付けされていることによってビ
デオ再生がユーザの仮想動作によってコントロールされ
る。
【0043】この空間的に索引付けされたパノラマビデ
オシステムは、任意に設計されたパノラマカメラ又は広
角レンズカメラからキャプチャされた記録されたパノラ
マビデオに基づいている。現在のパノラマカメラの設計
は、広角レンズ、ミラー又は複数のカメラに基づいた設
計を含む。パノラマ画像はよく知られた多数の異なる種
類のカメラによって記録することができるので、これら
のカメラについての説明は以下省略する。
【0044】図1は、空間的に索引付けされたパノラマ
ビデオシステム10の第1の実施の形態を概略的に示し
た図である。空間的に索引付けされたパノラマビデオシ
ステム10は、モーションエンジン21、ユーザインタ
ーフェース30、空間データを記憶するデータベース4
0、及び種々のタイプのメタデータを記憶するデータベ
ース50を有する。ユーザインターフェース30は空間
的に索引付けされたパノラマビデオ65(図2)をビュ
ーすることができるディスプレイデバイス72に画像デ
ィスプレイ60を有する。ユーザインターフェース30
にマップディスプレイ70及びテキストディスプレイ8
0を任意に設けてもよい。オーディオも、空間的に索引
付けされたパノラマビデオシステム10の一部として設
けられてもよい。画像ディスプレイ60、マップディス
プレイ70及びテキストディスプレイ80は、空間デー
タ又はメタデータをディスプレイするためのビューワ実
行ソフトウェアプリケーションとして具体化され得る。
【0045】第1の実施の形態において、空間的に索引
付けされたパノラマビデオシステム10の基本構造は、
単一アドレススペースにおける一つのプログラムとして
実施される。例えば、空間的に索引付けされたパノラマ
ビデオシステム10のコンテンツは、例えば、空間的に
索引付けされたパノラマビデオシステム10のソフトウ
ェアが記憶されるDVDのようなローカルハードドライ
ブに、記憶される。
【0046】図2は、本発明の第1の実施の形態による
ユーザインターフェース30を示す。ユーザインターフ
ェース30は、画像ディスプレイ60、マップディスプ
レイ70、テキストディスプレイ80、及びオーディオ
インジケータ90を有する。空間的に索引付けされたパ
ノラマビデオシステム10のコンテンツは、例えば、空
間的に索引され得るビデオ、マップ、テキスト、オーデ
ィオ、及び他の任意のデータ、を含む統合マルチメディ
アフォームとして提供され得る。
【0047】画像ディスプレイ60は、空間的に索引付
けされたパノラマビデオ65をディスプレイする。空間
的に索引付けされたパノラマビデオ65は、システム1
0のユーザによって指定されるアクション又は仮想動作
に応答して生成される。空間的に索引付けされたパノラ
マビデオ65は空間的に索引付けされた複数の画像67
を有する。画像67はデータベース40に記憶される。
画像67は、仮想環境76において仮想経路75に沿っ
た所定の場所(ロケーション)に従って、パノラマ及び
空間的に索引付けされる。例えば、一つの方法は、図2
に示されるように、ウィンドウを介して実行される。画
像ディスプレイ60は、ユーザが(画像内に)実際に存
在した場合に見る画像67を示す。
【0048】ユーザインターフェース30は、画像ディ
スプレイ60、例えば、仮想環境76における連続した
仮想経路75の二次元即ちマップ状の表示に対応した空
間データをディスプレイするマップディスプレイ70も
有する。マップディスプレイ70は、ポジションアイコ
ン77に仮想環境76の現在ビューの方向で注視方向イ
ンジケータ78を提供することができる。例えば、図2
では、マップディスプレイ70は、エメラルド湾(Em
erald Bay)の道路地図を示し、仮想パス75
は、「ルート89」に沿って示されている。ポジション
アイコン77の注視方向インジケータ78は北西方向に
ある。注視方向は、画像ディスプレイ60内でユーザが
ビューする現在画像67と一致している。
【0049】さらに、ユーザインターフェース30は、
テキストディスプレイ80を有する。テキストディスプ
レイ80は、画像ディスプレイ60にディスプレイされ
た現在画像67に対応している。空間的に索引付けされ
たパノラマビデオシステム10に応じて、種々のタイプ
のテキストが使用され得る。ディスプレイされるテキス
トは、例えば、見出し85又はタイトルの形態における
ような短いものであってもよいし、現在画像67につい
ての記述のような長いものであってもよい。或いは、テ
キストは、選択すれば、他のウェブページからもっと多
くの情報が得られるハイパーテキストリンク87であっ
てもよい。テキストディスプレイ80は、このようなフ
ォームのテキストに限定されず、例えば、サムネイル画
像、図形、及びオーディオなどの現在画像67に関した
記述を提供する、あらゆるタイプの情報をディスプレイ
することができる。
【0050】一つ以上のテキストディスプレイを設け
て、ディスプレイのうちのいずれか一つからユーザへ情
報を供給することができる。仮想環境76において空間
的に索引付けされたパノラマビデオ65の視点が移動す
るにつれて、テキストディスプレイ80は更新されて、
ユーザがビューしているオブジェクトに対応する更な
る、より関連性の高いテキストを提供する。一方、テキ
ストディスプレイ80におけるハイパーテキストリンク
87は、仮想環境76においてロケーション又は注視方
向を変えるために使用され得る。例えば、ホテルやレス
トランを示す選択可能なアイコンのリストがディスプレ
イされ、アイコンの一つをクリックすることによって、
仮想経路75上のユーザのロケーションを選択されたホ
テル又はレストラン近くの仮想経路75上の他のロケー
ションへ変更することができる。種々のアイコンは、対
象となるオブジェクトへ、或いはその周辺への仮想経路
75に沿う仮想ツアーを含む、多数のオブジェクトに対
して設けられてもよい。
【0051】空間的に索引付けされたパノラマビデオシ
ステム10の特筆すべき利点は、空間的に索引付けされ
たパノラマビデオ65にハイパーテキストリンク87を
容易に付け加えられることである。視点とロケーション
とが一般的に知られているので、空間データベースにお
けるあらゆるオブジェクトに対する視点の範囲及び角度
が決定され、ハイパーテキストリンク87は、空間的に
索引付けされたパノラマビデオシステム10を自動的に
注釈するために使用され得る。例えば、ハイパーテキス
トリンク87は仮想環境76におけるユーザの空間的ロ
ケーションが対象となる特定なオブジェクトの一定の範
囲内にあるときにディスプレイされ得る。或いは又は更
に、テキストオーバーレイが、空間的に索引付けされた
パノラマビデオ65の適当な角度で配置され得る。従っ
て、建物や山等のオブジェクトを通過するときは、更な
るビデオ解析や処理を行わずに、オブジェクトの名前が
オブジェクトの上又はそれに隣接したオーバーレイとし
てディスプレイされる。
【0052】オーディオ出力は、空間的に索引付けされ
たパノラマビデオシステム10における現在画像67及
び/又はオブジェクトに対応するように提供される。例
えば、図2において、画像ディスプレイ60にディスプ
レイされた景色は空間的に索引付けされたパノラマビデ
オ65の現在画像67の空間的ロケーションに対応する
オーディオ出力によって記述されてもよい。また、ユー
ザが、方向マッピングソフトウェアによって、あるロケ
ーションから他へ方向をインタラクティブにマッピング
することを所望する場合は、「右折してください」、
「左折してください」、「まっすぐ1マイル進んでくだ
さい」などの可聴オーディオのインストラクションによ
ってユーザを方向付けるようにオーディオが提供されて
もよい。更に、空間的に索引付けされたパノラマビデオ
65では対象となる特定のオブジェクトが特定の空間的
ロケーションに現れた場合、オブジェクトを可聴的に記
述するオーディオ出力が提供されてもよい。オーディオ
伝送の使用は多種多様な状況で実施され得て上述の例に
限定されるものではない。
【0053】更に又は或いは、ユーザインターフェース
30は、オーディオインジケータ90を有する。ユーザ
は、オーディオインジケータ90を選択することによっ
て、空間的に索引付けされたパノラマビデオ65にディ
スプレイされた現在画像76を理解するのに役立つあら
ゆるタイプのオーディオナレーションが提供され得る。
オーディオインジケータ90から転送されたオーディオ
データは、オブジェクト、ナレーション、音楽、又は空
間的に索引付けされたパノラマビデオ65の指定された
ロケーションによって出力されるあらゆるタイプのオー
ディオ表示の記述を有する。
【0054】本発明の種々の実施の形態によれば、オー
ディオ表示は様々な方法で実施され得る。例えば、「プ
レイワンス(一回再生)」型のナレーション、「ループ
された」オーディオ表示として実施される。このような
例には、特定のロケーションまたはそのロケーション範
囲に関連付けられており、ユーザがそのロケーション又
はその領域にいるときに連続的に再生する環境サウンド
(例えば、交通、滝、鳥の鳴き声)が含まれる。ロケー
ションから離れて移動することによって、例えば、現実
においてそうであるように、距離の2乗の逆数に比例し
て、関連するオーディオを比例して消えさせることがで
きる。一つのサウンドのロケーションよりも近いロケー
ションにおいて、ユーザには、それぞれの距離の2乗の
逆数に比例したロケーションサウンドの混合したものが
聞こえる。更に、オーディオ空間化技術は、特殊なオー
ディオソースが特殊な方向から発するように見えさせる
ように使用されてもよい。更に、オーディオ空間化技術
は特別なオーディオソースが特別な方向から発するよう
に思わせるために使用され得る。そこで、ユーザがビュ
ーの本当らしさを高めるために回転すると、見掛けのオ
ーディオソース方向が回転され得る。例えば、ユーザが
そのビューを回転させると、滝は最初に左手に次に右手
に現れ、これにより、この滝に関連するオーディオは左
から右へ空間化され得る。
【0055】再び図1によれば、二つのタイプのデータ
ベースが空間的に索引付けされたパノラマビデオシステ
ム10に提供されている。データベース40は空間デー
タを記憶し、メタデータデータベース50はメタデータ
を記憶する。空間データは、パノラマ画像、ビデオ、テ
キスト、マップ、図形表示、及び空間的に索引付けされ
得る他の任意のタイプのデータを含むことができるが、
これらに限定されない。空間データは、従来と同様、時
間によってではなくロケーションによって索引付けされ
る。ロケーションによって空間的に索引付けされる空間
データのいくつかの例は、緯度、経度、及び高度、x−
y−zの空間座標、倉庫の並び及びアイル、道路の住所
表示、建物内の部屋番号、及びロケーションによって索
引付けされることが可能な既知の又は、今後、開発され
るデータによって定義付けられるグローバルポジショニ
ングサテライト(Global Positionin
ing Satellite(GPS))を含むが、こ
れらに限定されない。
【0056】空間データデータベース40及びメタデー
タデータベース50は、別個のエレメントとして示され
ているが、空間データデータベース40内の空間データ
とメタデータデータベース50内のメタデータを結合し
て単一データベースにすることも本発明によって考慮さ
れている。
【0057】メタデータは、例えば、任意の所定の瞬間
での仮想環境76内のx、y、z座標システムにおい
て、カメラの空間ロケーション又は画像ディスプレイ6
0上に示される現在画像67、を記述するために使用さ
れる。空間的に索引付けされたパノラマビデオシステム
10に関連する少なくとも二つのカテゴリのメタデータ
がある。一つのカテゴリは、例えば、図4に示されるよ
うに、キャプション68に関する。ロダンの彫刻(Ro
din Sculptures)と題されたキャプショ
ン68はメタデータである。キャプション68は、ユー
ザが特別な興味を示すかもしれないオブジェクトに関連
付けられている。キャプション68は、ユーザインター
フェース30にキャプションをディスプレイすることに
よって仮想環境76に関してユーザをナビゲートするの
に役立つ。キャプション68は、ユーザが興味を示すオ
ブジェトに隣接しているかその上にディスプレイされた
関連テキスト又はハイパーテキストを含む種々の形態を
取ることができるが、これらに限定されない。
【0058】メタデータは、既存の地図、空中写真、空
間データベース、又は建物の平面図などの他の使用可能
な画像からリトリーブすることもできる。GPSデータ
又は同様の正確な空間データを用いて、カメラ経路の単
純なマップをデータから直接レンダリングすることもで
きる。本発明の種々の実施の形態によれば、空間ロケー
ションデータは、GPS緯度/経度の対で記憶される。
【0059】メタデータデータベース50内に記憶され
た第2のカテゴリのメタデータはデータチュプル(組)
である。例えば、カメラの経路は、形式(x、y、a、
t)(x及びyはカメラのロケーション、aはカメラの
配向角度、tは時間)のデータチュプルとして従来は表
示されている。データチュプルは、空間的に索引付けさ
れたパノラマビデオ65の全ての画像に対して付与され
る。しかしながら、カメラモーションが比較的滑らかで
あると仮定した場合、チュプルの数はずっと少なくて済
み、中間点でのカメラの位置及び配向を予測するために
線形補間を使用することができる。
【0060】グローバルポジショニングサテライト(G
lobal Positionining Satel
lite(GPS))ユニットなどの空間センサは空間
メタデータを自動的に生成するために使用されてもよ
い。空間メタデータを決定する種々の他のソースは、車
両速度及び進行方向又は加速による無線ビーコン又は推
測航法を有するが、これらに限定されない。或いは、空
間メタデータは、例えば、知られているポイントから三
角測量を用いてカメラ位置を決定するなどして、パノラ
マ画像の画像処理によって生成されてもよい。また、本
発明は、地図、知られている経路、及び空間的に索引付
けされたパノラマビデオ65内の目に見えるランドマー
クを用いて、空間データを手動で生成することも考慮に
入れている。
【0061】空間的に索引付けされたパノラマビデオシ
ステム10は、時間ではなく、空間によって索引付けさ
れたパノラマ画像を記憶する。従来、ビデオ画像は、時
間によって序列付けされ、モーションは、時間の進行に
対応していた。しかしながら、現在画像67は、モーシ
ョンエンジン21の制御下で、仮想環境76内の仮想経
路75に沿った仮想動作を要求するユーザによって指定
されるモーションに応答して序列付けされる。
【0062】図3は、空間的に索引付けされたパノラマ
ビデオシステム10によるモーションエンジン21を概
略的に示す図である。モーションエンジン21は、プロ
グラミングされた汎用コンピュータを用いて実施され
る。プログラミングされた汎用コンピュータは、ユーザ
が仮想環境76内の仮想経路75に沿って移動するとき
にユーザによって指定されるモーションを処理するよう
にプログラミングされて空間的に索引付けされたパノラ
マビデオ65を生成することもできる。
【0063】図3に示されるように、モーションエンジ
ン21は、共通バス380によって相互接続された、コ
ントローラ20、メモリ320、入力インターフェース
350、少なくとも一つの入力デバイス210、ディス
プレイインターフェース370、及びディスプレイデバ
イス72を有する。モーションエンジン21は、空間デ
ータ及びメタデータを受け取るためのデータベース40
及びメタデータデータベースユニット50のそれぞれに
接続されている。
【0064】メモリ320は、スタティックRAM、ダ
イナミックRAM、又はフラッシュメモリを含む可変ラ
ンダムアクセスメモリであってもよい。メモリ320
は、コントローラ20によって実行されるプログラムの
一つ以上によって使用されるシステムの変数及びデータ
を記憶するために使用される。メモリ320は、例え
ば、インターネットなどの通信リンク305によってア
クセス可能なサーバ上のフロッピィ(商標)ディスク及
びディスクドライブ、書込み可能な光ディスク及びディ
スクドライブ、ハードドライブ、フラッシュメモリ、遠
隔記憶メモリなどの任意の不揮発性のメモリであっても
よい。メモリ320は、コントローラ20によって実行
されるプログラムのいずれかによって現在は未使用であ
るがやがては使用される空間データなどの任意のデータ
を記憶して、空間的に索引付けされたパノラマビデオシ
ステム10のソフトウェアアプリケーションを生成する
こともできる。
【0065】入力インターフェース350は、入力デバ
イス210をモーションエンジン21と接続させる。ユ
ーザは、入力デバイス210の少なくとも一つによって
アクションを入力してもよい。一般に、入力デバイス2
10は、空間的に索引付けされたパノラマビデオシステ
ム10に選択を生じさせることが可能な任意のデバイス
又はモードを有していてもよい。例えば、入力デバイス
210は、カーソルをドラッグ及びクリックしてオブジ
ェクトなどを選択するためのアイコン、マウス、トラッ
クボール、タッチパッド、キーボード、及びペン型デバ
イスなどを有していてもよいが、これらに限定されな
い。入力デバイスはまた、ジョイスティック、ゲームコ
ントローラ(例えば、ステアリングホイール、アクセル
/ブレーキペダル)、及びゲーム及び/又は他のアプリ
ケーションを駆動するために専用の他のコントローラを
有していてもよい。入力インターフェース350は、こ
れらの入力デバイスの二つ以上、例えば、マウス及びキ
ーボードを、モーションエンジン21と接続させるため
に使用されてもよい。従って、入力インターフェース3
50は、一つの物理的なデバイス又は二つ以上の別個の
デバイスであってもよい。
【0066】ディスプレイインターフェース370は、
ディスプレイデバイス72をモーションエンジン21の
コントローラ20と接続させる。ディスプレイインター
フェース370は、ビデオカードなどの任意の知られて
いるデバイスであってもよいし、ディスプレイデバイス
からのデータをコントローラへ伝達することができる任
意のこれから開発されるデバイスであってもよい。ディ
スプレイインターフェース370は、一般にそれ自体の
メモリを有し、コントローラ20によって生成されるデ
ィスプレイ信号から、ディスプレイ駆動信号を生成し、
ディスプレイデバイス72へ供給するために使用され
る。
【0067】モーションエンジン21は、サーバプッシ
ュ中、及び遠隔サーバへアクセスするために、搬送波が
伝達されるようなアプリケーションのための通信リンク
305を備えていてもよい。或いは、モーションエンジ
ン21の通信リンク305は、クライアント−プルシス
テムとして実施される空間的に索引付けされたパノラマ
ビデオシステム10に応答して搬送波が伝達されるよう
なところに用いられてもよい。
【0068】本発明の種々の実施の形態によれば、空間
的に索引付けされたパノラマビデオ65は、ユーザが要
求する仮想動作から指定されたモーションに応答して生
成される。さまざまなアクションがユーザによって指定
され得る。図2を再び参照すると、アクションは、マウ
ス、キーパッド、ボタン、ユーザインターフェース30
上のアイコン、テーブル、ドロップダウンテーブル、ノ
ブなどの入力デバイス210、音声起動、又はアクショ
ンを特定するための任意の他の方法を用いた様々な方
法、を使用することによって要求され得るが、これらに
限定されない。
【0069】本実施の形態によれば、ユーザインターフ
ェース30は、仮想経路75に沿った仮想環境76にお
いて仮想動作を実行するためにモーションを生成するた
めの入力デバイス210を備えている。種々の仮想動作
要求は、停止(Stop)220、前方駆動(Forw
ard)225、後方駆動(Backward)23
0、早い運転(Faster)235、ゆっくり運転
(Slower)240、及び運転停止(Stop)2
45を有する入力デバイス210によって示されるよう
に、空間的に索引付けされたパノラマビデオ65上で実
行され得るが、これらに限定されない。また、画像を水
平及び垂直方向へパンするために、時計回りパン(C
W)250、反時計回りパン(CCW)255、及びパ
ン停止260を有する更なる入力デバイス210が設け
られてもよいが、これらに限定されない。更なるアクシ
ョンには、例えば、速度設定、ビデオ位置設定、特定位
置への移動、現在位置の確保、注視方向設定、視界設
定、又は空間的に索引付けされたパノラマビデオシステ
ム10において仮想動作を指定するために適した任意の
他のアクションが含まれていてもよい。
【0070】例えば、空間的に索引付けされたパノラマ
ビデオシステム10がビデオの速度又は位置を制御する
ために使用されるとき、速度1はビデオが正常な速度で
再生されていることを示すことができる。他の速度は、
巻き戻し、スローモーションからなるリアルタイムの倍
数、又は選択可能な速度でのその逆(先送りや早回し)
を提供するために使用され得る。ユーザインターフェー
ス30はズームの視界方向や角度における変化を許容す
ることもできる。
【0071】例示的な実施の形態の作用において、モー
ションエンジン21は、データベース40に記憶された
パノラマ画像、マップ、テキスト、及びオーディオをメ
タデータデータベース50に記憶されたメタデータと相
互に関連付けることによって、画像ディスプレイ60内
の空間的に索引付けされたパノラマビデオ65、マップ
ディスプレイ70内のマップ、テキストディスプレイ8
0内のテキスト、空間的に索引付けされたパノラマビデ
オシステム10のユーザによって選択されたアクション
に基づいてユーザインターフェース30へのオーディオ
出力を、レンダリングする。特定されたアクションは、
空間的に索引付けされたパノラマビデオシステム10の
仮想環境76内の仮想経路75に沿ってユーザが作成し
たいとする仮想動作を定義付ける。ユーザによって選択
されたモーションに基づいて、データベース40からの
複数の画像とメタデータデータベース50からの対応す
るメタデータとをリトリーブするように要求されること
によって、空間的に索引付けされたパノラマビデオ65
が生成される。この要求が処理され、モーションエンジ
ン21内のコントローラ20によって画像がリトリーブ
され、処理された後、ユーザインターフェース30上の
画像ディスプレイ60内に空間的に索引付けされたパノ
ラマビデオ65がレンダリングされる。
【0072】所与の速度で仮想経路75に沿った入力デ
バイス210の少なくとも一つを選択することによっ
て、例えば、「前方へ進む」ようにモーションが指定さ
れた場合、モーションエンジン21は、仮想ナビゲーシ
ョンをコントロールするためにパラメータを指定する。
モーションエンジン21によって他の様々な特徴もコン
トロールされ得る。例えば、モーションエンジン21
は、好ましい方向を示すと共に仮想環境76において交
差点に到達した時にどの方向へ走行すべきかを決定する
ことができる。モーションエンジン21は、「デフォル
トルール」を課すことができ、即ち、好ましいとされる
方向に最も近い方向に進行する。モーションエンジン2
1は、好ましいとされる方向が仮想経路75に沿った
「前方」方向に合うように更新されるモード又は方向を
指定してもよい。このモーションは、常に「できるだけ
まっすぐ」であり、交差点が近づいた時、選択される方
向は、交差点に近づく前に走行した仮想経路75の方向
にできるだけ近い方向である。
【0073】図4は、同様の参照符号が図2の同様のエ
レメントに対応している他の例示的なユーザインターフ
ェース30を示す。ユーザインターフェース30は、画
像ディスプレイ60及びマップディスプレイ70を含
む。画像ディスプレイ60は、空間的に索引付けされた
パノラマビデオ65をディスプレイする。空間的に索引
付けされたパノラマビデオ65は、データベース40か
らリトリーブされた複数の画像67を有する。各画像6
7は、仮想環境76における仮想経路75に沿った所定
の位置に応じてパノラマ及び空間的に索引付けされてい
る。
【0074】本発明の種々の例示的な実施の形態におい
て、現在画像67によって示されるように注視方向を指
定するための注視方向インジケータ78を有するポジシ
ョンアイコン77が提供される。図3及び図4におい
て、ポジションアイコン77はフローティングアローと
して示されている。ポジションアイコン77は、種々の
モード、例えば、ノブ、マウスの水平モーション、左か
ら右またその逆に、好ましいとされる方向へ変更するた
めにキーを押下すること、ポジションアイコン77を回
転することによって、例えば、ポジションアイコンをク
リックして左から右へ回転させることによって注視方向
を変更すること、又はモーションをコントロールする他
の任意の方法によってコントロールされ得る。
【0075】仮想環境76を介したナビゲーションは、
仮想環境76内の仮想経路75に沿って交差点に出会っ
た時に好ましいとされる方向としての注視方向に基づい
て行われてもよい。他のナビゲーションモードは、モー
ションの現在方向を好ましいとされる方向として使用す
る。この場合、仮想環境76内の仮想経路75の交差点
に至った時に、空間的に索引付けされたパノラマビデオ
システム10は「できるだけ真直ぐ」な方向に向かうよ
うに設計されてもよい。これは、空間的に索引付けされ
たパノラマビデオシステム10が、モーションが連続的
に仮想経路75に沿って進む「ハンドオフ走行」として
実行されるときに有用である。或いは、例えば、走行距
離を短縮するため、又はユーザが仮想経路75の特別な
セグメントをビューするのを確実とするために、交差点
の選択を空間的に索引付けされたパノラマビデオシステ
ム10内の全ての交差点で前もって記録しておくことが
できるし、また、任意の地点で好ましいとされる方向が
セットされてもよい。
【0076】例えば、ポジショニングアイコン77及び
/又はボタン250、225、及び260を用いて注視
方向をコントロールすることに加えて、ユーザは、他の
入力デバイス210によってでもモーションをコントロ
ールすることができる。仮想環境76における任意の所
与の仮想経路75上で、ユーザは、二つの方向のいずれ
かに移動してもよいし、マウス、ジョイスティック、ボ
タン220,235,245又はペダルなどの少なくと
も一つの入力デバイス210を用いて、モーションの速
度をコントロールしてもよい。いくつかの仮想経路75
が結合する交差点に、仮想経路に沿ったモーションが、
視点位置を移動してきた時、ユーザはそれらが取るいく
つかの仮想経路75のどれかを指し示すことができる。
方向の選択があるときに起動される「左、右、真直ぐ」
ボタンなどのモーションを選択するための多種多様な例
示的なインターフェースが可能である。
【0077】ユーザは、例えば、ボタン225及び23
0を用いて、注視方向とは無関係にモーションの好まし
いとされる方向をコントロールしてもよい。このように
して、空間的に索引付けされたパノラマビデオシステム
10によって、ユーザが、特定の方向というよりはむし
ろ、見るオブジェクト又はロケーションを指定すること
を可能とする。図4において、例えば、ユーザが見たい
とする選択されたオブジェクトとして「ロダンの彫刻」
68を指定するために「ロダンの彫刻」68へスナップ
することができる。ユーザが仮想環境76内の仮想経路
75周辺を移動する時、ユーザの視点は、選択されたオ
ブジェクトに固定されたままである。これによって任意
の位置からオブジェクトをビューすることが簡単にな
る。複数の方向から単一のオブジェクトのビューを提供
する従来の「オブジェクトムービー」は、空間的に索引
付けされたパノラマビデオシステム10のように、人が
オブジェクト以外の方向で見ることを可能としない。更
に、一つより多くのオブジェクトの周辺をナビゲートす
るためのディスプレイ画像にディスプレイされ得る経路
セグメント73を提供することが望ましい。これは、例
えば、e−コマースのような自動車販売区域において特
に有用である。車がグリッド(格子)状に並べられてい
る場合、全てのグリッドの境界線に沿って空間的に索引
付けされたパノラマビデオ65をキャプチャすることに
よって、空間的に索引付けされたパノラマビデオシステ
ム10に任意の車のビューを任意の角度から自動的に生
成させることができる。
【0078】本発明の種々の実施の形態によれば、ユー
ザは、仮想環境76内の仮想経路75に沿って使用可能
なナビゲートできる選択又はモードをユーザに認識させ
る可視キューを与えられる。
【0079】有用な機能は、注視する特定の方向及び走
行する特定の方向をユーザが要求するのを可能とするこ
とである。多くの場合、視点から明白となり得る。例え
ば、コンテンツが仮想道路又は明確な仮想経路75に沿
って集められた場合、ユーザにとって他の仮想経路75
上のどこで曲がればよいのか、又はユーザが単一の仮想
経路75に制限されるべきなのかをユーザにはっきり示
さなければならない。しかしながら、可視キューのない
ところでは、どの仮想経路75が使用可能なのかが明ら
かではない。また、仮想環境76内の道路又はドライブ
ウェイに沿って集められた空間的に索引付けされたパノ
ラマビデオのフィート数によっては、いくつかのわき道
やドライブウェイにアクセスできないこともある。これ
らの状況においては、図4に示されるように、例えば、
マップディスプレイ70を調べることによってユーザは
彼の選択範囲を広げることができる。しかしながら、マ
ップを調べることは負担になるし、没頭して注意が散漫
になる。この状況では、フローティングアロー69など
の可視キューが航行可能な選択によってユーザに注意を
促すことができる。或いは、マップディスプレイ70の
小さな経路セグメント73は、ユーザの現在の注視方向
に対して方向付けられ、おそらく、ユーザの視界をシミ
ュレートするための注視方向インジケータ78によっ
て、画像ディスプレイ60内に示される。図4は、画像
ディスプレイ60の右下のコーナーにこの特徴を示して
いる。
【0080】ユーザインターフェース30を強調するた
めに着色してもよい。例えば、仮想環境76内の仮想経
路75は、仮想環境76から仮想経路75を識別するた
めに着色されてもよい。また、ユーザインターフェース
30内の任意のオブジェクトが、空間的に索引付けされ
たパノラマビデオシステム10の仮想環境76を理解す
るときのユーザを援助するために着色されてもよい。
【0081】“take−me−there tour
(私をそこへ連れてって走行)”は空間的に索引付けさ
れたパノラマビデオシステム10におけるナビケーショ
ンのための他の例示的な使用法である。“take−m
e−there tour”において、システム10
は、ユーザのアクションによって指定された目的地への
走行を自動的に生成する。例えば、ユーザは最初と最後
の目的地を入力してもよい。“take−me−the
re tour”が、仮想環境76内の仮想経路75に
沿って最初の目的地から最後の目的地までユーザをナビ
ゲートする。或いは、ユーザは最後の目的地のみを入力
してもよい。要求された時点でディスプレイされた現在
視点から最後の目的地まで進行することができる。
【0082】仮想環境76内の仮想経路75上のロケー
ションから移動するための他の例示的なモードは、例え
ば、図2に示されるように、サーチボックス63による
モードである。特別なサーチクエリー(Search
query)をサーチボックス(Search bo
x)63内へ入力することによって一つのロケーション
から他のロケーションまで移動させて、最終目的地をリ
トリーブすることができる。
【0083】本発明によって使用される他のナビゲーシ
ョンモードは、自動生成される仮想案内走行である。例
えば、ウェブ−ベースのマップサービスは、所与のルー
ト又は仮想経路75に沿って運転することがどのような
感じなのかを示す空間的に索引付けされたパノラマビデ
オシステム10の形態でのマップ又はテキストによる運
転命令に代わるものを提供することができる。
【0084】図5及び図6は、空間的に索引付けされた
パノラマビデオシステム10のための例示的な方法を示
す。
【0085】示されているように、コントロールルーチ
ンはステップ600から開始される。コントロールルー
チンはステップ610まで進む。
【0086】ステップ610において、コントロールル
ーチンは、空間的に索引付けされたパノラマビデオを生
成すべきアクションが要求されたか又はユーザによって
指定されたかを判断する。空間的に索引付けされたパノ
ラマビデオシステムのアクションは、仮想環境内の仮想
経路上でのユーザの空間ロケーション又は位置に基づ
く。アクションが要求された場合、コントロールルーチ
ンは、ステップ620へ進む。アクションは、ボタン、
ユーザインターフェース上のアイコン、ハイパーリンク
などによって、カーソルを移動して、ユーザインターフ
ェースの部分を選択し、サーチクエリーを入力し、上述
の入力デバイスのいずれか一つを用いてユーザインター
フェースの種々の部分上にオーバーレイされたテキスト
を選択し、及び他の任意の知られている、又は今後、開
発される選択を提供する方法などの多種多様な方法で要
求され得るが、これに限定されない。ステップ610
で、アクションが要求されなかった場合、コントロール
ルーチンは、ステップ610を繰り返す。
【0087】ステップ620において、要求がモーショ
ンエンジン内のコントローラへ送られる。
【0088】ステップ630において、要求が処理さ
れ、空間的に索引付けされたパノラマビデオを生成する
ためのこの要求に対応する空間データがデータベース及
びメタデータデータベースのそれぞれからリトリーブさ
れる。図6は、後述するように、この要求を処理する局
面を非常に詳細に示している。コントロールルーチンは
続いてステップ640へ進む。
【0089】ステップ640において、コントローラに
よって空間的に索引付けされたパノラマビデオを生成す
るための要求に対応する空間データが編集され、ユーザ
インターフェース上にレンダリングされる。コントロー
ルルーチンは次にステップ610に戻り、他のアクショ
ンがユーザによって生成されたかを判断する。
【0090】図6は、空間的に索引付けされたパノラマ
ビデオを生成するための要求に対応するデータベースか
ら空間データを要求するプロセスを示す。示されている
ように、ステップ620ではじまり、コントロールルー
チンはステップ621へ続く。
【0091】ステップ621において、コントロールル
ーチンは、データベースから画像をリトリーブし、アク
ションの空間ロケーションに対応するメタデータデータ
ベースからメタデータをリトリーブし、空間データをユ
ーザインターフェース30へ送る。画像はパノラマであ
り、空間的に索引付けされたパノラマビデオ内の空間ロ
ケーション又は位置に対応するように空間的に索引付け
される。リトリーブされる画像は、「停止」運転リクエ
ストが要求された場合にはほとんど一つに限られる。或
いは、加速された速度で「前方へ進め」運転リクエスト
が要求された場合は、多数の画像がコントローラによっ
て要求されると捉えられ、空間的に索引付けされたパノ
ラマビデオ内で高速で走行することの効果を発揮するよ
うに編集される。更に、図4に示されるように、現在画
像は、フローティングアローやキャプションなどの可視
キューの形態でメタデータを含むこともでき、ユーザ
に、使用可能なナビゲーション選択に対する注意を促
す。即ち、ユーザに詳細を報知するために、オーバーレ
イされたテキスト、又は,ユーザがテキストを選択した
場合は、ユーザが取り得る更なるアクションに対する注
意を促す。コントロールルーチンは引き続きステップ6
23へ進む。
【0092】ステップ623において、コントロールル
ーチンはアクションの空間ロケーションに対応するデー
タベースからマップをリトリーブし、このマップを空間
データとしてユーザインターフェース30へ送る。図2
及び図4に示されるように、マップディスプレイも、フ
ローティングアローなどの可視キューの形態で空間デー
タを含むこともでき、ユーザに対して、ユーザによって
要求されたナビゲーション選択に対する注意を促す。コ
ントロールルーチンは引き続きステップ625へ進む。
【0093】ステップ625において、コントロールル
ーチンは、アクションの空間ロケーションに対応するデ
ータベースからテキストをリトリーブし、このテキスト
を空間データとしてユーザインターフェース30へ送
る。再度、図2を参照すると、テキストは、画像ディス
プレイ、又はマップディスプレイへオーバーレイされた
テキスト、若しくは、画像ディスプレイ内の空間的に索
引付けされたパノラマビデオの現在画像をユーザが理解
するのを可能にするときに役立つ任意の他のタイプのテ
キストとしてのヘッディング、記述、ハイパーテキスト
リンクとして図示されてもよい。コントロールルーチン
は引き続きステップ627へ進む。
【0094】ステップ627において、コントロールル
ーチンは、アクションの空間ロケーションに対応するデ
ータベースからオーディオをリトリーブし、このオーデ
ィオを空間的にタグ付けされたオーディオデータとして
ユーザインターフェース30へ送る。オーディオは、画
像ディスプレイ内に示される画像についてのナレーショ
ン、歌、又は、ユーザが空間的に索引付けされたパノラ
マビデオシステムを方向ディスプレイソフトウェアと組
み合わせて使用する場合などに所望されるロケーション
への方向のセットを含むが、これに限定されない任意数
のオーディオセグメントを提供する。コントロールルー
チンは引き続きステップ628へ進む。
【0095】ステップ628において、コントロールル
ーチンは、アクションの空間ロケーションに対応するメ
タデータデータベースからメタデータをリトリーブし、
このデータをユーザインターフェース30へ送る。コン
トロールルーチンは引き続きステップ629へ進み、そ
こでステップ640へ戻る。
【0096】図7は、ネットワークシステムとして実施
される空間的に索引付けされたパノラマビデオシステム
510の第2の実施の形態を示す。この空間的に索引付
けされたパノラマビデオシステムは、機能的には、第1
の実施の形態における空間的に索引付けされたパノラマ
ビデオシステム10と同様に動作する。しかしながら、
この第2の実施の形態においては、空間的に索引付けさ
れたパノラマビデオシステム510は、ブラウザ503
として実施され、サーバプッシュ、或いは、例えば、ス
トリーミングメディアプレーヤーによって更新される画
像からなる。
【0097】図7は、空間的に索引付けされたパノラマ
ビデオシステム510を例示的に表示したものである。
空間的に索引付けされたパノラマビデオシステム510
は、クライアントコンピュータ504上に位置指定さ
れ、例えば、インターネットを介して転送する通信リン
ク305を介してサーバ501及びHTTP(Hype
rText Transfer Protocol)サ
ーバ501に接続されたクライアントディスプレイプロ
グラム503を有する。クライアントディスプレイプロ
グラム503内には、画像ディスプレイ560、マップ
ディスプレイ570、テキストディスプレイ580、及
びオーディオ出力590が設けられている。入力インタ
ーフェース530は複数の入力デバイス210からアク
ションを受け取り、空間的に索引付けされたパノラマビ
デオ65を生成する。サーバ501は、モーションエン
ジン520、空間データを記憶するデータベース54
0、及びメタデータを記憶するメタデータデータベース
550を有する。
【0098】この例示的な実施の形態において、画像デ
ィスプレイ560は、搬送波を介してサーバプッシュに
よって更新され得る、HTML(HyperText
Markup Language)画像である。これに
代わって、ストリーミング・ビデオフォーマットが使用
されてもよい。しかしながら、待ち時間がディスプレイ
インターフェース530内のインタラクティビティの意
義を損なわないようにバッファリングは十分に小さく保
たなければならない。マップディスプレイ570はイン
タラクティブであり、例えば、Java(登録商標)a
ppletとして実施され得る。シンプルHTTPベー
スのコントロールプロトコルは、モーションエンジン5
20をコントロールするために使用され得る。モーショ
ンエンジン520は、特別なコントロールURL(Un
iform Resourcelocation) を
用いてHTTP GET要求をサーバ501、502へ
送ることによってコントロールされ、これにより、HT
MLページのリンクからのJava(登録商標)app
letによるコントロール、又は、HTTP要求を生成
することができる任意の他のデバイス又はシステムによ
るコントロールが可能となる。
【0099】図8は、空間的に索引付けされたパノラマ
ビデオシステム510の第2の実施の形態による他の例
として示されたユーザインターフェース730を示す。
【0100】種々の他の実施の形態が本発明の範囲を逸
脱するものではない。例えば、空間的に索引付けされた
パノラマビデオ65は、テレビジョン又は投影ディスプ
レイ上で提供されてもよい。空間的に索引付けされたパ
ノラマビデオ65のフィート数は、通り又は道路に沿っ
て測られるので、図2及び図8に示されるメタファーの
ように車内にいるというメタファーが使用されてもよ
い。或いは、車の異なるウィンドウから人(ユーザ)が
期待するビューを提示するために複数の物理的なディス
プレイが使用されてもよい。
【0101】ヘッド・マウント・ディスプレイも、より
深い体験のために使用されてもよい。このような実施の
形態において、ヘッドトラッキングは注視方向を決定す
るために検知されてもよく、これによって、空間的に索
引付けされたパノラマビデオ65はユーザの頭部位置に
応じて変更される。
【0102】本発明による空間的に索引付けされたパノ
ラマビデオシステムは、例えば、不動産業などにおいて
は多数の利用可能な使用法がある。固定位置のパノラマ
ビューは従来家や地所をウェブ上で示すために使用され
るが、本発明による空間的に索引付けされたパノラマビ
デオシステムは、可能性のある買い手が多数の固定位置
から家を見るだけでなく、バーチャルに家の中を歩くこ
とも可能とする。また、本発明による空間的に索引付け
されたパノラマビデオシステムは町や近所をナビゲート
するために使用され、ユーザは、家の中を歩いたり外を
歩き回る前に家までのドライブをバーチャルに体験す
る。
【0103】本発明による空間的に索引付けされたパノ
ラマビデオシステムのほかの利用法は旅行業界で見られ
る。ユーザは、ハワイ、ワイキキなどのリゾート地域を
バーチャルに運転することができ、どのホテルが最も望
ましい位置や眺望を有するかを決定することができる。
これによって、ユーザは、特別なロケーションにいるこ
とが実際どういう感じなのかということのより良い感覚
をユーザに付与することができる。
【0104】更に、本発明による空間的に索引付けされ
たパノラマビデオシステムは、例えば、高級車のショー
ルームにような商品のバーチャルなショールームをユー
ザが見て回ることを可能とするe−コマースのために使
用され得る。空間的に索引付けされたパノラマビデオシ
ステムを車などのオブジェクトに対して方向付けること
によって、オブジェクトのレイアウトやナビゲーション
を気にせずに特別なオブジェクトをクリックすることが
できる。
【0105】異なるレベルの詳細が本発明による空間的
に索引付けされたパノラマビデオシステムのコンテンツ
に対して統合されている。例えば、ラスベガスストリッ
プの空間的に索引付けされたパノラマビデオが通りや側
道に沿った仮想経路によって生成することができる。こ
れは、特定のリゾートに対する詳細なコンテンツがなく
てもユーザにとって有用である。なぜならば、ユーザは
あちこち動き回ることができ、施設を外側から見ること
ができるためである。この空間的に索引付けされたパノ
ラマビデオシステムは、施設をクリックすることによっ
てウェブページや他のデータを呼び出す方法で、ホテル
の予約システム又は他の付加価値のあるサービスにリン
クされてもよい。更なる素材によってユーザは特別な施
設の中又はそれらの構内付近を歩くことが可能となる。
【0106】本発明の空間的に索引付けされたパノラマ
ビデオシステムの用途は、多数あり、娯楽、教育、グラ
ンドキャニオン、アルプス、又はタージマハールのよう
な名所旧跡などを含むことができるが、これらに限定さ
れない。
【0107】本発明による空間的に索引付けされたパノ
ラマビデオシステムのためのシステム及び方法は、プロ
グラムされた汎用コンピュータ上で実施され得る。しか
しながら、本発明による空間的に索引付けされたパノラ
マビデオシステムのためのシステム及び方法は、専用コ
ンピュータ、プログラムされたマイクロプロセッサ又は
マイクロ・コントローラ、及び周辺集積回路エレメン
ト、ASIC(application specif
ic integrated circuit)又は他
の集積回路、ディジタル信号プロセッサ、ディスクリー
トエレメント回路などのハードワイヤード電子又はロジ
ック回路、PLD(programmable log
ic device)、PLA(programmed
logic array)、FPGA(field
programmable gate array)、
又はPAL(programmable array
logic)などのプログラム可能ロジックデバイス等
で実施されてもよい。一般に、図5及び図6に示された
フローチャートを実施することを可能とする有限状態マ
シンを実施することが可能な任意のデバイスが、本発明
のシステム及び方法を実施するために使用され得る。
【0108】図1、図3及び図7に示された種々のブロ
ックが適切にプログラミングされた汎用コンピュータの
部分として実施され得る。或いは、図1、図3及び図7
に示された種々のブロックは、ASIC内の物理的に別
個のハードウェア回路として又はPLD、PLA、FP
GA、又はPALを用いて、又はディスクリートロジッ
クエレメント又はディスクリート回路エレメントを用い
て実施され得る。図1、図3及び図7に示されたブロッ
クの各々が取る特別な形態は設計上の選択であり、当業
者にとって明白であり予測可能なものである。
【0109】図3に示されているように、メモリ320
は、可変、揮発性又は不揮発性のメモリ、又は変更不能
若しくは固定されたメモリを任意に適当に組み合わせた
ものを用いて実施され得る。可変メモリは、揮発性又は
不揮発性のいずれでもよく、スタティック又はダイナミ
ックRAM、フロッピィ(商標)ディスク及びディスク
ドライブ、書込み可能又は書換え可能な光ディスク及び
ディクスドライブ、ハードドライブ、フラッシュメモリ
などの任意の一つ以上を用いることによって実施され得
る。同様に、変更不可能又は固定メモリは、ROM、P
ROM、EPROM、EEPROM、CD−ROM又は
DVD−ROMディスクなどの光ROMディスク、及び
ディスクドライブなどの任意の一つ以上を用いて実施さ
れていもよい。
【0110】図3及び図7に示されるように、リンク3
05は、空間的に索引付けされたパノラマビデオシステ
ム10の構成要素を接続するための任意の知られている
又は今後、開発されるデバイスであってもよい。空間的
に索引付けされたパノラマビデオシステム10は、直接
ケーブル接続、ワイドエリアネットワーク又はローカル
エリアネットワークを介した接続、イントラネットを介
した接続、インターネットを介した接続、又は任意の他
の分散処理ネットワーク又はシステムを介した接続の一
つ以上を含んでいてもよい。概して、通信リンク305
は、任意の知られている、又は今後、開発される接続シ
ステムであってもよい。
【0111】また、通信リンク305は、ネットワーク
にワイヤード又はワイヤレスでリンクされ得ることを理
解されたい。ネットワークは、ローカルエリアネットワ
ーク、ワイドエリアネットワーク、イントラネット、イ
ンターネット、又は任意の他の分散処理及び記憶ネット
ワークであってもよい。
【0112】本発明は、概略的に上述された例示的な実
施の形態に関して説明されてきたが、当業者にとって多
数の変形、改良及び変更が明白であることが明らかであ
る。従って、本発明の例示的な実施の形態は、説明のみ
を目的としており、これらに限定されるものではない。
本発明の精神及び範囲を逸脱することなく種々の変更が
行われてもよい。
【図面の簡単な説明】
【図1】本発明による空間的に索引付けされたパノラマ
ビデオシステムの第1の実施の形態を示す略図である。
【図2】本発明の第1の実施の形態による空間的に索引
付けされたパノラマビデオシステムのユーザインターフ
ェースを示す図である。
【図3】本発明の第1の実施の形態による空間的に索引
付けされたパノラマビデオシステムのモーションエンジ
ンを示す略図である。
【図4】本発明の第1の実施の形態による空間的に索引
付けされたパノラマビデオシステムの他のユーザインタ
ーフェースを示す略図である。
【図5】本発明による空間的に索引付けされたパノラマ
ビデオシステムのための例示的なプロセスを示すフロー
チャートである。
【図6】本発明による空間的に索引付けされたパノラマ
ビデオシステムのための例示的なプロセスを示すフロー
チャートである。
【図7】本発明による空間的に索引付けされたパノラマ
ビデオシステムの第2の実施の形態を示す略図である。
【図8】本発明の第2の実施の形態による空間的に索引
付けされたパノラマビデオシステムのユーザインターフ
ェースを示す略図である。
【符号の説明】
10:パノラマビデオシステム 21:モーションエンジン 30:ユーザインターフェース 40:データベース 50:データベース 60:画像ディスプレイ 65:空間的に索引付けされたパノラマビデオ 70:マップディスプレイ 72:ディスプレイデバイス 80:テキストディスプレイ
フロントページの続き (72)発明者 ドナルド ジー. キンバー アメリカ合衆国 94304 カリフォルニア 州 パロ アルト ヒルビュー アベニュ ー 3400 ビルディング 4 エフエック ス パロ アルト ラボラトリー インコ ーポレイテッド内 Fターム(参考) 5B050 AA08 BA08 BA11 BA17 CA07 EA24 FA02 FA08 FA12 FA13 5C054 AA02 CA04 ED07 FD02 GB11 GB16 HA17

Claims (16)

    【特許請求の範囲】
  1. 【請求項1】 空間データを有するデータベースと、 画像ディスプレイを有するユーザインターフェースと、 特定のアクションに応答してレンダリングされるビデオ
    であって、前記データベースからリトリーブされる複数
    の画像を有し、各画像がパノラマであり、仮想環境での
    仮想経路に沿った所定のロケーションに従って空間的に
    索引付けされたビデオと、 を有する、ビデオシステム。
  2. 【請求項2】 前記空間データがパノラマ画像、マッ
    プ、テキスト、オーディオシステム、及びハイパーテキ
    ストリンクの少なくとも一つである、請求項1に記載の
    ビデオシステム。
  3. 【請求項3】 特定されたアクションが仮想動作に対す
    る要求である、請求項1に記載のビデオシステム。
  4. 【請求項4】 前記仮想動作が、走行方向、停止、速度
    規定、ビューするオブジェクトのスナップ、ポジション
    アイコンのドラッグ、走行開始、及びパンの少なくとも
    一つである、請求項3に記載のビデオシステム。
  5. 【請求項5】 前記特定されたアクションがビデオを連
    続提示でレンダリングすることへの要求である、請求項
    1に記載のビデオシステム。
  6. 【請求項6】 前記連続提示がガイドされた走行であ
    る、請求項5に記載のビデオシステム。
  7. 【請求項7】 コントローラと、 空間データとメタデータとを有するデータベースと、 ユーザインターフェースと、 特定のアクションに応答して生成される前記ユーザイン
    ターフェースにディスプレイされるビデオと、 を有し、 前記ユーザインターフェースが、 前記データベースからリトリーブされる複数の画像を有
    するビデオをディスプレイする画像ディスプレイと、 位置に関連付けられた空間データを図示するマップディ
    スプレイと、 前記位置に関連付けられた空間データを図示するテキス
    トディスプレイと、前 記位置に関連付けられたオーディオデータを運ぶオーデ
    ィオ出力と、 を含み、 前記画像の各々が、パノラマであり、仮想環境内の仮想
    経路に沿った所定位置によって空間的に索引付けされて
    いる、 ビデオシステム。
  8. 【請求項8】 アクションを特定するステップと、 パノラマであると共に仮想経路の位置に沿って空間的に
    索引付けされたビデオを前記特定されたアクションに基
    づいて仮想環境内の前記仮想経路に沿って生成するステ
    ップと、 ユーザインターフェースを提供するステップと、 前記ユーザインターフェースを介して前記ビデオをディ
    スプレイするステップと、 を有する、仮想現実のためのビデオを生成する方法。
  9. 【請求項9】 前記仮想経路に沿った位置に対応するマ
    ップをディスプレイするステップを更に有する、請求項
    8に記載の方法。
  10. 【請求項10】 前記仮想経路に沿った位置に対応する
    空間データを示すテキストをディスプレイするステップ
    を更に有する、請求項9に記載の方法。
  11. 【請求項11】 前記仮想経路に沿った位置に関連付け
    られたオーディオデータを出力するステップを更に有す
    る、請求項10に記載の方法。
  12. 【請求項12】 前記アクションを特定するステップが
    仮想動作を要求することを有する、請求項8に記載の方
    法。
  13. 【請求項13】 仮想環境内の仮想経路に沿ってアクシ
    ョンを特定するステップと、 前記特定されたアクションに対応する要求を処理するス
    テップと、 前記ビデオを作成する、各々がパノラマであると共に仮
    想経路の位置に沿って空間的に索引付けされた複数の画
    像をリトリーブするステップと、 ユーザインターフェースを提供するステップと、 前記ビデオがディスプレイされる画像ディスプレイウィ
    ンドウと、前記ビデオに対応するマップがディスプレイ
    されるマップディスプレイウィンドウと、を有するユー
    ザインターフェースを提供するステップと、 前記特定されたアクションに応答して前記ユーザインタ
    ーフェース上に前記ビデオ及び前記マップをレンダリン
    グするステップと、 を有する、仮想現実のためのビデオを生成する方法。
  14. 【請求項14】 コントロールプログラムを実行するた
    めのデバイスに仮想現実のためのビデオを提供するため
    に使用可能なコントロールプログラムを伝送するために
    使用されるトランスポートプロトコルであって、 前記コントロールプログラムが、 アクションを特定するインストラクションと、 パノラマであると共に仮想経路の位置に沿って空間的に
    索引付けされたビデオを前記特定されたアクションに基
    づいて仮想環境内の仮想経路に沿って生成するインスト
    ラクションと、 ユーザインターフェースを提供するインストラクション
    と、 前記ユーザインターフェースを介して前記ビデオをディ
    スプレイするインストラクションと、 を有する、 トランスポートプロトコル。
  15. 【請求項15】 仮想現実にビデオを付与するシステム
    をプログラムするためのコンピュータをプログラムする
    ために使用可能なコンピュータ読み取り可能プログラム
    コードを記憶したコンピュータ読み取り可能記憶媒体で
    あって、 前記コンピュータ読み取り可能プログラムコードが、 アクションを特定するステップと、 パノラマであると共に仮想経路の位置に沿って空間的に
    索引付けされたビデオを前記特定されたアクションに基
    づいて仮想環境内の前記仮想経路に沿って生成するステ
    ップと、 ユーザインターフェースを提供するステップと、 前記ユーザインターフェースを介して前記ビデオをディ
    スプレイするステップと、 を有する、 コンピュータ読み取り可能記憶媒体。
  16. 【請求項16】 仮想現実にビデオを付与するシステム
    をプログラムするためのコンピュータのプログラムであ
    って、 アクションを特定するステップと、 パノラマであると共に仮想経路の位置に沿って空間的に
    索引付けされたビデオを前記特定されたアクションに基
    づいて仮想環境内の前記仮想経路に沿って生成するステ
    ップと、 ユーザインターフェースを提供するステップと、 前記ユーザインターフェースを介して前記ビデオをディ
    スプレイするステップと、 を有する、プログラム。
JP2002270253A 2001-09-28 2002-09-17 ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム Expired - Lifetime JP4321028B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US32517201P 2001-09-28 2001-09-28
US60/325172 2001-09-28
US10/115,959 US7096428B2 (en) 2001-09-28 2002-04-05 Systems and methods for providing a spatially indexed panoramic video
US10/115959 2002-04-05

Related Child Applications (1)

Application Number Title Priority Date Filing Date
JP2009078273A Division JP4735733B2 (ja) 2001-09-28 2009-03-27 ビデオシステム、及びビデオシステム用プログラム

Publications (2)

Publication Number Publication Date
JP2003203251A true JP2003203251A (ja) 2003-07-18
JP4321028B2 JP4321028B2 (ja) 2009-08-26

Family

ID=26813760

Family Applications (2)

Application Number Title Priority Date Filing Date
JP2002270253A Expired - Lifetime JP4321028B2 (ja) 2001-09-28 2002-09-17 ビデオシステム、仮想現実を生成するための方法、トランスポートプロトコル、コンピュータ読み取り可能記憶媒体、および、プログラム
JP2009078273A Expired - Lifetime JP4735733B2 (ja) 2001-09-28 2009-03-27 ビデオシステム、及びビデオシステム用プログラム

Family Applications After (1)

Application Number Title Priority Date Filing Date
JP2009078273A Expired - Lifetime JP4735733B2 (ja) 2001-09-28 2009-03-27 ビデオシステム、及びビデオシステム用プログラム

Country Status (2)

Country Link
US (1) US7096428B2 (ja)
JP (2) JP4321028B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007013432A1 (ja) 2005-07-26 2007-02-01 Matsushita Electric Industrial Co., Ltd. 画像データ管理装置および画像データ管理方法
WO2012002690A2 (ko) * 2010-06-27 2012-01-05 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 캡션 데이터 처리 방법

Families Citing this family (168)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9811237B2 (en) 1999-04-06 2017-11-07 Iii Holdings 2, Llc Visual navigation of virtual environments through logical processes
JP5037765B2 (ja) * 2001-09-07 2012-10-03 株式会社トプコン オペレータ誘導システム
US7411594B2 (en) * 2002-01-15 2008-08-12 Canon Kabushiki Kaisha Information processing apparatus and method
WO2003093954A2 (en) * 2002-05-03 2003-11-13 Pixearth, Corporation A system to navigate within images spatially referenced to a computed space
US7289138B2 (en) * 2002-07-02 2007-10-30 Fuji Xerox Co., Ltd. Intersection detection in panoramic video
DE60222890T2 (de) * 2002-08-12 2008-02-07 Alcatel Lucent Verfahren und Vorrichtungen zur Implementerung von hochinteraktiven Unterhaltungsdiensten unter Verwendung der Medienströmungstechnologie, das die Bereitstellung auf Abstand von Virtuelle Realitätdiensten ermöglicht
US7239311B2 (en) * 2002-09-26 2007-07-03 The United States Government As Represented By The Secretary Of The Navy Global visualization process (GVP) and system for implementing a GVP
US7564455B2 (en) * 2002-09-26 2009-07-21 The United States Of America As Represented By The Secretary Of The Navy Global visualization process for personal computer platforms (GVP+)
US7082572B2 (en) * 2002-12-30 2006-07-25 The Board Of Trustees Of The Leland Stanford Junior University Methods and apparatus for interactive map-based analysis of digital video content
US7911497B2 (en) * 2003-04-25 2011-03-22 Lockheed Martin Corporation Method and apparatus for video on demand
JP4168837B2 (ja) * 2003-06-03 2008-10-22 ソニー株式会社 情報生成装置、記録装置、再生装置、記録再生システムおよびその方法ならびにプログラム
CN1816792A (zh) * 2003-07-02 2006-08-09 新世代株式会社 信息处理装置、信息处理***、操作物、信息处理方法、信息处理程序以及游戏***
US6975089B2 (en) * 2003-07-28 2005-12-13 Cablecam International Inc. System and method for facilitating fluid three-dimensional movement of an object via directional force
US7299417B1 (en) * 2003-07-30 2007-11-20 Barris Joel M System or method for interacting with a representation of physical space
US7646401B2 (en) * 2004-01-30 2010-01-12 ObjectVideo, Inc Video-based passback event detection
US20080129818A1 (en) * 2004-02-11 2008-06-05 Jacob James Miller Methods for practically simulatnig compact 3d environments for display in a web browser
US20060114251A1 (en) * 2004-02-11 2006-06-01 Miller Jacob J Methods for simulating movement of a computer user through a remote environment
CA2559726C (en) * 2004-03-24 2015-10-20 A9.Com, Inc. System and method for displaying images in an online directory
US7813589B2 (en) * 2004-04-01 2010-10-12 Hewlett-Packard Development Company, L.P. System and method for blending images into a single image
US20050275602A1 (en) * 2004-06-15 2005-12-15 New Way Home Inc. Presentation system and associated method
US8751156B2 (en) 2004-06-30 2014-06-10 HERE North America LLC Method of operating a navigation system using images
US8207964B1 (en) * 2008-02-22 2012-06-26 Meadow William D Methods and apparatus for generating three-dimensional image data models
US7430473B2 (en) * 2004-10-01 2008-09-30 Bose Corporation Vehicle navigation display
KR20070086037A (ko) 2004-11-12 2007-08-27 목3, 인크. 장면 간 전환 방법
US20060123127A1 (en) * 2004-12-08 2006-06-08 Evil Twin Studios, Inc. System and method for organizing online communities and virtual dwellings within a virtual environment
US20060119598A1 (en) * 2004-12-08 2006-06-08 Evil Twin Studios, Inc. System and method for communicating travel progress within a virtual environment
US20060123351A1 (en) * 2004-12-08 2006-06-08 Evil Twin Studios, Inc. System and method for communicating objects status within a virtual environment using translucency
US7506264B2 (en) * 2005-04-28 2009-03-17 International Business Machines Corporation Method and apparatus for presenting navigable data center information in virtual reality using leading edge rendering engines
FI117576B (fi) * 2005-04-29 2006-11-30 Tracker Oy Menetelmä paikannettavien kohteiden esittämiseksi paikannuslaitteen näytöllä, paikannuslaite ja sovellus
US7933929B1 (en) 2005-06-27 2011-04-26 Google Inc. Network link for providing dynamic data layer in a geographic information system
KR100620125B1 (ko) * 2005-07-18 2006-09-06 인하대학교 산학협력단 공간 데이터 웨어하우스에서 부분 색인 전송을 이용한 색인재구성 시스템 및 방법
NO323509B1 (no) * 2005-08-10 2007-05-29 Telenor Asa Metode for a lage en animasjon av en serie stillbilder
US20070038945A1 (en) * 2005-08-10 2007-02-15 Miller Jacob J System and method allowing one computer system user to guide another computer system user through a remote environment
US20070070090A1 (en) * 2005-09-23 2007-03-29 Lisa Debettencourt Vehicle navigation system
US20070070069A1 (en) * 2005-09-26 2007-03-29 Supun Samarasekera System and method for enhanced situation awareness and visualization of environments
JP2007093661A (ja) * 2005-09-27 2007-04-12 Alpine Electronics Inc ナビゲーション装置及び地図表示装置
TW200806027A (en) 2005-11-11 2008-01-16 Sony Corp Imaging/reproducing device
US20070150840A1 (en) * 2005-12-22 2007-06-28 Andrew Olcott Browsing stored information
JP2007213385A (ja) * 2006-02-10 2007-08-23 Sony Corp 情報処理装置、情報処理方法、プログラム
US7823068B2 (en) * 2006-02-28 2010-10-26 Mark Anthony Ogle Cowtan Internet-based, dual-paned virtual tour presentation system with orientational capabilities and versatile tabbed menu-driven area for multi-media content delivery
US9070402B2 (en) * 2006-03-13 2015-06-30 Autodesk, Inc. 3D model presentation system with motion and transitions at each camera view point of interest (POI) with imageless jumps to each POI
WO2007124664A1 (fr) * 2006-04-29 2007-11-08 Shanghai Jietu Software Co., Ltd. Appareil et procédé permettant d'obtenir une représentation panoramique contenant des informations de position et procédé de création, d'annotation et d'affichage d'un service de cartographie électrique panoramique
JP2007306353A (ja) * 2006-05-12 2007-11-22 Opt Kk 動画の表示方法、動画表示システムおよび広角動画撮像装置
JP4360381B2 (ja) * 2006-06-05 2009-11-11 ソニー株式会社 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
US8085990B2 (en) * 2006-07-28 2011-12-27 Microsoft Corporation Hybrid maps with embedded street-side images
US20080043020A1 (en) * 2006-08-18 2008-02-21 Microsoft Corporation User interface for viewing street side imagery
US8607281B2 (en) * 2006-09-07 2013-12-10 Porto Vinci Ltd. Limited Liability Company Control of data presentation in multiple zones using a wireless home entertainment hub
US9319741B2 (en) 2006-09-07 2016-04-19 Rateze Remote Mgmt Llc Finding devices in an entertainment system
US9369679B2 (en) * 2006-11-07 2016-06-14 The Board Of Trustees Of The Leland Stanford Junior University System and process for projecting location-referenced panoramic images into a 3-D environment model and rendering panoramic images from arbitrary viewpoints within the 3-D environment model
US9361943B2 (en) * 2006-11-07 2016-06-07 The Board Of Trustees Of The Leland Stanford Jr. University System and method for tagging objects in a panoramic video and associating functions and indexing panoramic images with same
AU2007319441A1 (en) 2006-11-13 2008-05-22 Everyscape, Inc. Method for scripting inter-scene transitions
US20080143709A1 (en) * 2006-12-14 2008-06-19 Earthmine, Inc. System and method for accessing three dimensional information from a panoramic image
JP4870546B2 (ja) * 2006-12-27 2012-02-08 株式会社岩根研究所 レイヤー生成・選択機能を備えたcvタグ映像表示装置
GB0700163D0 (en) * 2007-01-05 2007-02-14 Kord Ali A Display Booth
US8074241B2 (en) * 2007-03-30 2011-12-06 The Board Of Trustees Of The Leland Stanford Jr. University Process for displaying and navigating panoramic video, and method and user interface for streaming panoramic video and images between a server and browser-based client application
US8855856B2 (en) * 2007-05-08 2014-10-07 GM Global Technology Operations LLC Vehicle roll control method using controllable friction force of MR dampers
US7843451B2 (en) * 2007-05-25 2010-11-30 Google Inc. Efficient rendering of panoramic images, and applications thereof
US7990394B2 (en) 2007-05-25 2011-08-02 Google Inc. Viewing and navigating within panoramic images, and applications thereof
US8515207B2 (en) * 2007-05-25 2013-08-20 Google Inc. Annotations in panoramic images, and applications thereof
US20100122208A1 (en) * 2007-08-07 2010-05-13 Adam Herr Panoramic Mapping Display
US8601392B2 (en) * 2007-08-22 2013-12-03 9224-5489 Quebec Inc. Timeline for presenting information
WO2009040491A1 (en) * 2007-09-25 2009-04-02 Nds Limited Multi-directional movement
EP2203895B1 (en) * 2007-09-26 2020-03-25 AQ Media, INC. Audio-visual navigation and communication dynamic memory architectures
US8314789B2 (en) 2007-09-26 2012-11-20 Autodesk, Inc. Navigation system for a 3D virtual scene
US8081186B2 (en) * 2007-11-16 2011-12-20 Microsoft Corporation Spatial exploration field of view preview mechanism
US8584044B2 (en) * 2007-11-16 2013-11-12 Microsoft Corporation Localized thumbnail preview of related content during spatial browsing
US20090132967A1 (en) * 2007-11-16 2009-05-21 Microsoft Corporation Linked-media narrative learning system
US8072448B2 (en) 2008-01-15 2011-12-06 Google Inc. Three-dimensional annotations for street view data
US8015144B2 (en) 2008-02-26 2011-09-06 Microsoft Corporation Learning transportation modes from raw GPS data
US8972177B2 (en) * 2008-02-26 2015-03-03 Microsoft Technology Licensing, Llc System for logging life experiences using geographic cues
US8525825B2 (en) * 2008-02-27 2013-09-03 Google Inc. Using image content to facilitate navigation in panoramic image data
US8966121B2 (en) 2008-03-03 2015-02-24 Microsoft Corporation Client-side management of domain name information
KR20090123227A (ko) * 2008-05-27 2009-12-02 삼성전자주식회사 검색 서비스 제공장치, 방법 및 프로그램
WO2010019205A1 (en) 2008-08-12 2010-02-18 Google Inc. Touring in a geographic information system
US20100082662A1 (en) * 2008-09-25 2010-04-01 Microsoft Corporation Information Retrieval System User Interface
JP5083150B2 (ja) * 2008-09-30 2012-11-28 カシオ計算機株式会社 画像処理装置、及びその処理順設定方法、処理順設定プログラム
US8259178B2 (en) * 2008-12-23 2012-09-04 At&T Intellectual Property I, L.P. System and method for creating and manipulating synthetic environments
US9063226B2 (en) * 2009-01-14 2015-06-23 Microsoft Technology Licensing, Llc Detecting spatial outliers in a location entity dataset
TWI416928B (zh) * 2009-01-21 2013-11-21 Htc Corp 管理與顯示行動裝置影像及關聯地理位置資料的方法、系統及裝置
US8311556B2 (en) 2009-01-22 2012-11-13 Htc Corporation Method and system for managing images and geographic location data in a mobile device
US20100228418A1 (en) * 2009-03-04 2010-09-09 Honeywell International Inc. System and methods for displaying video with improved spatial awareness
US9477368B1 (en) 2009-03-31 2016-10-25 Google Inc. System and method of indicating the distance or the surface of an image of a geographical object
JP2011009846A (ja) 2009-06-23 2011-01-13 Sony Corp 画像処理装置、画像処理方法及びプログラム
US8306732B2 (en) 2009-08-18 2012-11-06 Palo Alto Research Center Incorporated Model based method to assess road curvature effect on travel time and comfort for route planning
US8275649B2 (en) * 2009-09-18 2012-09-25 Microsoft Corporation Mining life pattern based on location history
IL201129A (en) * 2009-09-23 2014-02-27 Verint Systems Ltd A system and method for automatically switching cameras according to location measurements
US9009177B2 (en) 2009-09-25 2015-04-14 Microsoft Corporation Recommending points of interests in a region
BR112012007309A2 (pt) 2009-10-19 2016-04-19 Intergraph Technologies Co busca de dados, analisador e sincronização de dados de vídeo e de telemetria
US8934008B2 (en) 2009-12-07 2015-01-13 Cognitech, Inc. System and method for determining geo-location(s) in images
US8612134B2 (en) 2010-02-23 2013-12-17 Microsoft Corporation Mining correlation between locations using location history
US9261376B2 (en) * 2010-02-24 2016-02-16 Microsoft Technology Licensing, Llc Route computation based on route-oriented vehicle trajectories
US10288433B2 (en) * 2010-02-25 2019-05-14 Microsoft Technology Licensing, Llc Map-matching for low-sampling-rate GPS trajectories
US8896671B2 (en) 2010-04-09 2014-11-25 3D-4U, Inc. Apparatus and method for capturing images
US8719198B2 (en) 2010-05-04 2014-05-06 Microsoft Corporation Collaborative location and activity recommendations
US9204040B2 (en) * 2010-05-21 2015-12-01 Qualcomm Incorporated Online creation of panoramic augmented reality annotations on mobile platforms
US8933986B2 (en) 2010-05-28 2015-01-13 Qualcomm Incorporated North centered orientation tracking in uninformed environments
US9593957B2 (en) 2010-06-04 2017-03-14 Microsoft Technology Licensing, Llc Searching similar trajectories by locations
US20120042282A1 (en) * 2010-08-12 2012-02-16 Microsoft Corporation Presenting Suggested Items for Use in Navigating within a Virtual Space
JP5764982B2 (ja) 2011-03-08 2015-08-19 ソニー株式会社 再生処理装置、撮像装置、再生処理方法、及びプログラム
JP2014517569A (ja) * 2011-04-18 2014-07-17 アイシー360,インコーポレイテッド 携帯コンピュータデバイスを用いたパノラマビデオ撮像装置及び方法
CA3035118C (en) * 2011-05-06 2022-01-04 Magic Leap, Inc. Massive simultaneous remote digital presence world
JP5918618B2 (ja) 2011-06-03 2016-05-18 任天堂株式会社 情報処理プログラム、情報処理装置、情報処理システム、および情報処理方法
JP5591281B2 (ja) * 2011-06-03 2014-09-17 任天堂株式会社 情報処理システム、情報処理装置、情報処理プログラム、および動画再生制御方法
US9754226B2 (en) 2011-12-13 2017-09-05 Microsoft Technology Licensing, Llc Urban computing of route-oriented vehicles
US20130166188A1 (en) 2011-12-21 2013-06-27 Microsoft Corporation Determine Spatiotemporal Causal Interactions In Data
US9339691B2 (en) 2012-01-05 2016-05-17 Icon Health & Fitness, Inc. System and method for controlling an exercise device
US9691241B1 (en) * 2012-03-14 2017-06-27 Google Inc. Orientation of video based on the orientation of a display
WO2013158034A1 (en) * 2012-04-20 2013-10-24 Skydoor Pte Ltd A method for making a content sensitive video
TWI599988B (zh) * 2012-04-23 2017-09-21 天門有限公司 製作內容細膩的視訊之方法及其相關之電腦程式與電腦可讀取媒體
US9846960B2 (en) 2012-05-31 2017-12-19 Microsoft Technology Licensing, Llc Automated camera array calibration
US20130321564A1 (en) 2012-05-31 2013-12-05 Microsoft Corporation Perspective-correct communication window with motion parallax
US9767598B2 (en) 2012-05-31 2017-09-19 Microsoft Technology Licensing, Llc Smoothing and robust normal estimation for 3D point clouds
US9488489B2 (en) 2012-09-28 2016-11-08 Google Inc. Personalized mapping with photo tours
US8976224B2 (en) 2012-10-10 2015-03-10 Microsoft Technology Licensing, Llc Controlled three-dimensional communication endpoint
US9171527B2 (en) * 2012-11-20 2015-10-27 Google Inc. System and method for displaying geographic imagery
KR101984915B1 (ko) * 2012-12-03 2019-09-03 삼성전자주식회사 증강 현실 컨텐츠 운용 방법 및 이를 지원하는 단말기와 시스템
US20140181630A1 (en) * 2012-12-21 2014-06-26 Vidinoti Sa Method and apparatus for adding annotations to an image
US10203839B2 (en) 2012-12-27 2019-02-12 Avaya Inc. Three-dimensional generalized space
US9892743B2 (en) * 2012-12-27 2018-02-13 Avaya Inc. Security surveillance via three-dimensional audio space presentation
US20140210748A1 (en) * 2013-01-30 2014-07-31 Panasonic Corporation Information processing apparatus, system and method
US10482777B2 (en) 2013-02-22 2019-11-19 Fuji Xerox Co., Ltd. Systems and methods for content analysis to support navigation and annotation in expository videos
US9892761B2 (en) 2013-02-22 2018-02-13 Fuji Xerox Co., Ltd. Systems and methods for creating and using navigable spatial overviews for video
KR101277523B1 (ko) * 2013-03-08 2013-06-21 (주) 에이노드 사운드 신호 기반의 로컬 인터랙티브 플랫폼 시스템, 이를 이용한 로컬 인터랙티브 서비스 제공 방법 및 이를 위한 컴퓨터로 판독가능한 기록매체
WO2014153158A1 (en) 2013-03-14 2014-09-25 Icon Health & Fitness, Inc. Strength training apparatus with flywheel and related methods
US9310987B2 (en) * 2013-08-19 2016-04-12 Google Inc. Projections to fix pose of panoramic photos
US9244940B1 (en) 2013-09-27 2016-01-26 Google Inc. Navigation paths for panorama
EP3623020B1 (en) 2013-12-26 2024-05-01 iFIT Inc. Magnetic resistance mechanism in a cable machine
US9473745B2 (en) 2014-01-30 2016-10-18 Google Inc. System and method for providing live imagery associated with map locations
US20150221341A1 (en) * 2014-01-31 2015-08-06 Audi Ag System and method for enhanced time-lapse video generation using panoramic imagery
US9785152B2 (en) 2014-02-07 2017-10-10 Crown Equipment Corporation Systems, methods, and mobile client devices for supervising industrial vehicles
WO2015138339A1 (en) 2014-03-10 2015-09-17 Icon Health & Fitness, Inc. Pressure sensor to quantify work
US9189839B1 (en) 2014-04-24 2015-11-17 Google Inc. Automatically generating panorama tours
WO2015191445A1 (en) 2014-06-09 2015-12-17 Icon Health & Fitness, Inc. Cable system incorporated into a treadmill
WO2015195965A1 (en) 2014-06-20 2015-12-23 Icon Health & Fitness, Inc. Post workout massage device
US9002647B1 (en) 2014-06-27 2015-04-07 Google Inc. Generating turn-by-turn direction previews
US9418472B2 (en) 2014-07-17 2016-08-16 Google Inc. Blending between street view and earth view
US9471695B1 (en) * 2014-12-02 2016-10-18 Google Inc. Semantic image navigation experiences
US9740282B1 (en) * 2015-01-05 2017-08-22 Amazon Technologies, Inc. Gaze direction tracking
US10391361B2 (en) 2015-02-27 2019-08-27 Icon Health & Fitness, Inc. Simulating real-world terrain on an exercise device
US9754413B1 (en) 2015-03-26 2017-09-05 Google Inc. Method and system for navigating in panoramic images using voxel maps
US20160292966A1 (en) * 2015-03-31 2016-10-06 Gary Denham System and method of providing a virtual shopping experience
US10061492B2 (en) * 2015-06-04 2018-08-28 Microsoft Technology Licensing, Llc Path-linked viewpoints from point of interest
WO2017030985A1 (en) 2015-08-14 2017-02-23 Pcms Holdings, Inc. System and method for augmented reality multi-view telepresence
EP3338106B1 (en) * 2015-08-17 2022-06-22 C360 Technologies, Inc. Generating objects in real time panoramic video
US10217283B2 (en) 2015-12-17 2019-02-26 Google Llc Navigation through multidimensional images spaces
EP3206082A1 (en) * 2016-02-12 2017-08-16 Vroxtechnology B.V. System, method and computer program for recording a non-virtual environment for obtaining a virtual representation
US10625137B2 (en) 2016-03-18 2020-04-21 Icon Health & Fitness, Inc. Coordinated displays in an exercise device
US10272317B2 (en) 2016-03-18 2019-04-30 Icon Health & Fitness, Inc. Lighted pace feature in a treadmill
US10493349B2 (en) 2016-03-18 2019-12-03 Icon Health & Fitness, Inc. Display on exercise device
US10762712B2 (en) 2016-04-01 2020-09-01 Pcms Holdings, Inc. Apparatus and method for supporting interactive augmented reality functionalities
US9992429B2 (en) 2016-05-31 2018-06-05 Microsoft Technology Licensing, Llc Video pinning
US9762851B1 (en) * 2016-05-31 2017-09-12 Microsoft Technology Licensing, Llc Shared experience with contextual augmentation
CN107340852A (zh) * 2016-08-19 2017-11-10 北京市商汤科技开发有限公司 手势控制方法、装置和终端设备
WO2018033154A1 (zh) * 2016-08-19 2018-02-22 北京市商汤科技开发有限公司 手势控制方法、装置和电子设备
US10671705B2 (en) 2016-09-28 2020-06-02 Icon Health & Fitness, Inc. Customizing recipe recommendations
US10958890B2 (en) * 2017-03-31 2021-03-23 Samsung Electronics Co., Ltd. Method and apparatus for rendering timed text and graphics in virtual reality video
CN108882018B (zh) * 2017-05-09 2020-10-20 阿里巴巴(中国)有限公司 虚拟场景中的视频播放、数据提供方法、客户端及服务器
EP3635949A1 (en) 2017-06-09 2020-04-15 PCMS Holdings, Inc. Spatially faithful telepresence supporting varying geometries and moving users
US11087527B2 (en) 2017-12-01 2021-08-10 Koninklijke Kpn N.V. Selecting an omnidirectional image for display
CN115499686B (zh) * 2017-12-15 2024-03-08 Pcms控股公司 用于在360°视频导航中使用查看路径的方法
US11538128B2 (en) 2018-05-14 2022-12-27 Verint Americas Inc. User interface for fraud alert management
US10887452B2 (en) 2018-10-25 2021-01-05 Verint Americas Inc. System architecture for fraud detection
US11115521B2 (en) 2019-06-20 2021-09-07 Verint Americas Inc. Systems and methods for authentication and fraud detection
US11868453B2 (en) 2019-11-07 2024-01-09 Verint Americas Inc. Systems and methods for customer authentication based on audio-of-interest
US11871184B2 (en) * 2020-01-07 2024-01-09 Ramtrip Ventures, Llc Hearing improvement system
CN114089890A (zh) * 2021-09-18 2022-02-25 北京城市网邻信息技术有限公司 车辆模拟驾驶方法、设备、存储介质及程序产品
CN113824746B (zh) * 2021-11-25 2022-02-18 山东信息职业技术学院 一种虚拟现实信息传输方法及虚拟现实***
CN114697317A (zh) * 2022-05-11 2022-07-01 上海七牛信息技术有限公司 一种文件访问方法和***

Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091814A (ja) * 1996-08-05 1998-04-10 Internatl Business Mach Corp <Ibm> パノラマ3次元シーンにホットリンクを生成および表示する方法および装置
JPH10208074A (ja) * 1997-01-22 1998-08-07 Hitachi Ltd 画像生成方法
JPH11168754A (ja) * 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像の記録方法、画像データベースシステム、画像記録装置及びコンピュータプログラムの記憶媒体
JPH11168756A (ja) * 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像記録装置、画像データベース装置、画像記録方法及びコンピュータプログラムの記憶媒体
JPH11238143A (ja) * 1998-02-19 1999-08-31 Mr System Kenkyusho:Kk 画像処理方法、仮想現実感の提示方法およびそのプログラムの記憶媒体
JPH11259672A (ja) * 1998-03-13 1999-09-24 Mitsubishi Electric Corp 3次元仮想空間表示装置
JPH11259673A (ja) * 1998-01-08 1999-09-24 Nippon Telegr & Teleph Corp <Ntt> 空間散策映像表示方法及び空間内オブジェクト検索方法及び空間内オブジェクト抽出方法及びそれらの装置及びそれらの方法を記録した記録媒体
JP2000090232A (ja) * 1998-09-08 2000-03-31 Olympus Optical Co Ltd パノラマ画像合成装置及びパノラマ画像合成プログラムを格納した記録媒体
JP2000101999A (ja) * 1998-09-24 2000-04-07 Hitachi Information Systems Ltd インタラクティブ・ビデオシステムおよびビデオ再生方法、ならびにそのプログラムを記録した記録媒体
JP2000307949A (ja) * 1999-02-19 2000-11-02 Mr System Kenkyusho:Kk 画像の補間方法、画像処理方法、画像表示方法、画像処理装置、画像表示装置、及びコンピュータプログラム記憶媒体
JP2001167119A (ja) * 1999-12-10 2001-06-22 Mitsubishi Electric Corp 図書情報検索空間構築・検索装置および図書情報検索空間構築・検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2001215941A (ja) * 2000-01-31 2001-08-10 D Link Corp 画像表示方法及び装置
JP2001229397A (ja) * 2000-02-17 2001-08-24 Ricoh Co Ltd 3次元仮想空間構築方法及びシステム並びに記憶媒体

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6121966A (en) * 1992-11-02 2000-09-19 Apple Computer, Inc. Navigable viewing system
US5737533A (en) * 1995-10-26 1998-04-07 Wegener Internet Projects Bv System for generating a virtual reality scene in response to a database search
US6563529B1 (en) * 1999-10-08 2003-05-13 Jerry Jongerius Interactive system for displaying detailed view and direction in panoramic images
US6839880B1 (en) * 1999-10-21 2005-01-04 Home Debut, Inc. Electronic property viewing system for providing virtual tours via a public communications network, and a method of exchanging the same
US20020075295A1 (en) * 2000-02-07 2002-06-20 Stentz Anthony Joseph Telepresence using panoramic imaging and directional sound
US20020103722A1 (en) * 2001-02-01 2002-08-01 Brown Darrel O. Electronic recruiting station

Patent Citations (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1091814A (ja) * 1996-08-05 1998-04-10 Internatl Business Mach Corp <Ibm> パノラマ3次元シーンにホットリンクを生成および表示する方法および装置
JPH10208074A (ja) * 1997-01-22 1998-08-07 Hitachi Ltd 画像生成方法
JPH11168754A (ja) * 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像の記録方法、画像データベースシステム、画像記録装置及びコンピュータプログラムの記憶媒体
JPH11168756A (ja) * 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像記録装置、画像データベース装置、画像記録方法及びコンピュータプログラムの記憶媒体
JPH11259673A (ja) * 1998-01-08 1999-09-24 Nippon Telegr & Teleph Corp <Ntt> 空間散策映像表示方法及び空間内オブジェクト検索方法及び空間内オブジェクト抽出方法及びそれらの装置及びそれらの方法を記録した記録媒体
JPH11238143A (ja) * 1998-02-19 1999-08-31 Mr System Kenkyusho:Kk 画像処理方法、仮想現実感の提示方法およびそのプログラムの記憶媒体
JPH11259672A (ja) * 1998-03-13 1999-09-24 Mitsubishi Electric Corp 3次元仮想空間表示装置
JP2000090232A (ja) * 1998-09-08 2000-03-31 Olympus Optical Co Ltd パノラマ画像合成装置及びパノラマ画像合成プログラムを格納した記録媒体
JP2000101999A (ja) * 1998-09-24 2000-04-07 Hitachi Information Systems Ltd インタラクティブ・ビデオシステムおよびビデオ再生方法、ならびにそのプログラムを記録した記録媒体
JP2000307949A (ja) * 1999-02-19 2000-11-02 Mr System Kenkyusho:Kk 画像の補間方法、画像処理方法、画像表示方法、画像処理装置、画像表示装置、及びコンピュータプログラム記憶媒体
JP2001167119A (ja) * 1999-12-10 2001-06-22 Mitsubishi Electric Corp 図書情報検索空間構築・検索装置および図書情報検索空間構築・検索プログラムを記録したコンピュータ読み取り可能な記録媒体
JP2001215941A (ja) * 2000-01-31 2001-08-10 D Link Corp 画像表示方法及び装置
JP2001229397A (ja) * 2000-02-17 2001-08-24 Ricoh Co Ltd 3次元仮想空間構築方法及びシステム並びに記憶媒体

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
高橋拓二, 外1名: ""全方位画像のCGへの応用"", 情報処理学会研究報告, vol. 第2001巻, 第4号, JPN6008053203, 19 January 2001 (2001-01-19), JP, pages 189 - 196, ISSN: 0001161925 *

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2007013432A1 (ja) 2005-07-26 2007-02-01 Matsushita Electric Industrial Co., Ltd. 画像データ管理装置および画像データ管理方法
US8094974B2 (en) 2005-07-26 2012-01-10 Panasonic Corporation Picture data management apparatus and picture data management method
WO2012002690A2 (ko) * 2010-06-27 2012-01-05 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 캡션 데이터 처리 방법
WO2012002690A3 (ko) * 2010-06-27 2012-04-26 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 캡션 데이터 처리 방법
US9258544B2 (en) 2010-06-27 2016-02-09 Lg Electronics Inc. Digital receiver and method for processing caption data in the digital receiver
CN105812771A (zh) * 2010-06-27 2016-07-27 Lg电子株式会社 数字接收器以及在数字接收器中处理字幕数据的方法
US9578305B2 (en) 2010-06-27 2017-02-21 Lg Electronics Inc. Digital receiver and method for processing caption data in the digital receiver
KR101797495B1 (ko) 2010-06-27 2017-11-15 엘지전자 주식회사 디지털 수신기 및 디지털 수신기에서의 캡션 데이터 처리 방법
CN105812771B (zh) * 2010-06-27 2017-12-08 Lg电子株式会社 数字接收器以及在数字接收器中处理字幕数据的方法

Also Published As

Publication number Publication date
US20030063133A1 (en) 2003-04-03
JP4735733B2 (ja) 2011-07-27
JP4321028B2 (ja) 2009-08-26
JP2009181587A (ja) 2009-08-13
US7096428B2 (en) 2006-08-22

Similar Documents

Publication Publication Date Title
JP4735733B2 (ja) ビデオシステム、及びビデオシステム用プログラム
JP6092865B2 (ja) マップ特徴の顕著さをベースとした生成およびレンダリング
AU2009282475B2 (en) Touring in a geographic information system
Kimber et al. Flyabout: spatially indexed panoramic video
JP6818847B2 (ja) 多次元画像空間を通したナビゲーション
US20130229434A1 (en) Viewing media in the context of street-level images
US20110214072A1 (en) System and method for creating and broadcasting interactive panoramic walk-through applications
US20100122208A1 (en) Panoramic Mapping Display
JP2004507724A (ja) 目標情報を表示させるための方法、地図画面内でナビゲーションを行う方法、コンピュータプログラム製品及びナビゲーション装置
US20120179983A1 (en) Three-dimensional virtual environment website
JP2006526152A (ja) パス・エンハンスド・マルチメディアの表示、修正、及びそれとの対話を行うシステム及び方法
JP2009009129A (ja) 双方向性電子提示地図
JP2003227722A (ja) ナビゲーション装置
Mata et al. An experimental virtual museum based on augmented reality and navigation
US20070038945A1 (en) System and method allowing one computer system user to guide another computer system user through a remote environment
WO2007129065A1 (en) Virtual display method and apparatus
Kadobayashi et al. Design and evaluation of gesture interface of an immersive walk-through application for exploring cyberspace
JP2005003752A (ja) 地図誘導全方位映像システム
Tanaka et al. Guidance field: Potential field to guide users to target locations in virtual environments
JP2002236990A (ja) 地図誘導映像システム
JP5865708B2 (ja) 施設、自然、歴史、ルートに関する画像及び音声の再生及びデータの制作方法
de Silva et al. Interacting with location-based multimedia using sketches
EP3923162A1 (en) Augmented reality personalized guided tour method and system
Aizawa Movie Map for Virtual Exploration in a City
Shikhri A 360-Degree Look at Virtual Tours: Investigating Behavior, Pain Points and User Experience in Online Museum Virtual Tours

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050825

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20080410

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080422

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080623

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080722

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080922

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20081021

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20081211

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20090127

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20090327

A911 Transfer to examiner for re-examination before appeal (zenchi)

Free format text: JAPANESE INTERMEDIATE CODE: A911

Effective date: 20090406

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20090512

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20090525

R150 Certificate of patent or registration of utility model

Ref document number: 4321028

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120612

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130612

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140612

Year of fee payment: 5

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

EXPY Cancellation because of completion of term