JP2008165331A - レイヤー生成・選択機能を備えたcvタグ映像表示装置 - Google Patents
レイヤー生成・選択機能を備えたcvタグ映像表示装置 Download PDFInfo
- Publication number
- JP2008165331A JP2008165331A JP2006351698A JP2006351698A JP2008165331A JP 2008165331 A JP2008165331 A JP 2008165331A JP 2006351698 A JP2006351698 A JP 2006351698A JP 2006351698 A JP2006351698 A JP 2006351698A JP 2008165331 A JP2008165331 A JP 2008165331A
- Authority
- JP
- Japan
- Prior art keywords
- video
- tag
- layer
- image
- display
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000003860 storage Methods 0.000 claims description 77
- 230000010354 integration Effects 0.000 claims description 14
- 230000004044 response Effects 0.000 claims description 5
- 238000003384 imaging method Methods 0.000 abstract description 2
- 230000006870 function Effects 0.000 description 94
- 238000004364 calculation method Methods 0.000 description 87
- 239000013598 vector Substances 0.000 description 83
- 238000000034 method Methods 0.000 description 39
- 238000007726 management method Methods 0.000 description 37
- 230000006854 communication Effects 0.000 description 20
- 238000004891 communication Methods 0.000 description 20
- 238000012545 processing Methods 0.000 description 18
- 230000008569 process Effects 0.000 description 14
- 238000009826 distribution Methods 0.000 description 11
- 230000008859 change Effects 0.000 description 10
- 238000004519 manufacturing process Methods 0.000 description 10
- 238000005259 measurement Methods 0.000 description 9
- 230000033001 locomotion Effects 0.000 description 8
- 238000005516 engineering process Methods 0.000 description 7
- 238000001514 detection method Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 125000002066 L-histidyl group Chemical group [H]N1C([H])=NC(C([H])([H])[C@](C(=O)[*])([H])N([H])[H])=C1[H] 0.000 description 5
- 238000000605 extraction Methods 0.000 description 5
- 230000005540 biological transmission Effects 0.000 description 4
- 230000001360 synchronised effect Effects 0.000 description 4
- 238000006243 chemical reaction Methods 0.000 description 3
- 239000000284 extract Substances 0.000 description 3
- 238000012544 monitoring process Methods 0.000 description 3
- 230000002194 synthesizing effect Effects 0.000 description 3
- 230000008901 benefit Effects 0.000 description 2
- 230000007175 bidirectional communication Effects 0.000 description 2
- 239000003086 colorant Substances 0.000 description 2
- 239000002131 composite material Substances 0.000 description 2
- 238000010276 construction Methods 0.000 description 2
- 238000011161 development Methods 0.000 description 2
- 230000010365 information processing Effects 0.000 description 2
- 239000004973 liquid crystal related substance Substances 0.000 description 2
- 239000011159 matrix material Substances 0.000 description 2
- 239000000203 mixture Substances 0.000 description 2
- 230000002093 peripheral effect Effects 0.000 description 2
- 230000000007 visual effect Effects 0.000 description 2
- 230000009471 action Effects 0.000 description 1
- 238000012790 confirmation Methods 0.000 description 1
- 238000013523 data management Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 230000004069 differentiation Effects 0.000 description 1
- 230000008034 disappearance Effects 0.000 description 1
- 210000003128 head Anatomy 0.000 description 1
- 238000010438 heat treatment Methods 0.000 description 1
- 230000002452 interceptive effect Effects 0.000 description 1
- 238000002372 labelling Methods 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
- 230000007115 recruitment Effects 0.000 description 1
- 238000011160 research Methods 0.000 description 1
- 239000011435 rock Substances 0.000 description 1
- 239000000523 sample Substances 0.000 description 1
- 238000005070 sampling Methods 0.000 description 1
- 239000004065 semiconductor Substances 0.000 description 1
- 238000004088 simulation Methods 0.000 description 1
- 238000011895 specific detection Methods 0.000 description 1
- 230000007480 spreading Effects 0.000 description 1
- 238000003892 spreading Methods 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- XLYOFNOQVPJJNP-UHFFFAOYSA-N water Substances O XLYOFNOQVPJJNP-UHFFFAOYSA-N 0.000 description 1
Classifications
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T3/00—Geometric image transformations in the plane of the image
- G06T3/12—Panospheric to cylindrical image transformations
-
- G—PHYSICS
- G06—COMPUTING; CALCULATING OR COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F16/00—Information retrieval; Database structures therefor; File system structures therefor
- G06F16/70—Information retrieval; Database structures therefor; File system structures therefor of video data
- G06F16/78—Retrieval characterised by using metadata, e.g. metadata not derived from the content or metadata generated manually
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- General Engineering & Computer Science (AREA)
- Databases & Information Systems (AREA)
- Data Mining & Analysis (AREA)
- Multimedia (AREA)
- Library & Information Science (AREA)
- Processing Or Creating Images (AREA)
- Image Processing (AREA)
- Management, Administration, Business Operations System, And Electronic Commerce (AREA)
- Digital Computer Display Output (AREA)
- Closed-Circuit Television Systems (AREA)
Abstract
【解決手段】 管理者装置200は、任意の対象エリアを撮影したビデオ映像に撮影時のカメラの位置と姿勢の三次元値を示すCV値を付加したCV映像を記憶し、CV映像中の任意の指定位置に合成表示されるCVタグを所定の関連情報とともに記憶し、CV映像に重なる同じ座標系を持つ複数のレイヤーを生成し、生成されたレイヤーを対応するCV映像と関連付けて記憶し、管理者装置200にインターネットを介して接続される複数の各ユーザ装置300は、管理者装置200から所望のCV映像を受信して表示し、表示されたCV映像に重ねて所望のレイヤーを表示させ、CV映像・レイヤーの所望の位置にCVタグをディスプレイ300a上に合成表示させる。
【選択図】 図15
Description
インターネットを利用した商品販売では、商品の販売提供者が、自らが提供販売する商品の写真や詳細データを示したWebページ(仮想店舗)をサーバ(管理者装置)に登録し、商品を購入しようとする購入者は、自宅のPCや携帯端末等(ユーザ装置)からWebページが登録されているサーバにアクセスして、仮想店舗を訪問して商品の写真やデータを閲覧し、気に入った商品があれば所定の注文データを作成してサーバに送信する、注文データを受信した商品提供者側は、注文された商品を所定の方法により購入者に発送し、クレジットカードや代金振込等によって代金を決済する、という方法により商品の売買が行われている(特許文献1参照)。
また、このようなインターネットを利用した仮想店舗は、実際に店舗を構える商店や百貨店、飲食店など、様々な商品・サービスの提供者にとっても有益なものであり、実際の店舗への来店を促すための宣伝広告としても非常に効果の高いツールとして活用されている。
従って、Webページを見て商品やサービスに興味を持ったユーザは、まずその店舗等の所在地の地図を確認して最寄りの店舗等に訪問することになり、地図を表示するWebページの体裁やレイアウト、地図の見易さ等は、訪問・来店を促すためには非常に重要な要素となっている。
そこで、店舗等の所在地を示す地図として、より詳細でわかり易い地図を示す地図専用のWebページをリンク表示させる技術が提案されており、表示された地図は、任意の倍率で拡大・縮小させたり、隣接する周辺エリアに地図を移動することができ、ユーザに利便性の高い地図情報が提供できるようになっていた(特許文献2参照)。
すなわち、インターネット上のWebの世界は、現実とはかけ離れた文字の世界であり、距離感もなくいことが良さでもあり悪さでもあった。
最近は、会員登録制のコミュニケーションを主体とするサイトも存在しているが同様である。
そして、このように文字を主体としたWeb上の商店では、相手の顔が見えず、従って直感的ではなく、信用上の問題があり、犯罪も多発しているが、現状ではそれらの問題を有効に解決し得うる手段は提案されていない。
また、このCV値データを付加したビデオ映像(CV映像)を利用することにより、ビデオ映像中の対象物の三次元座標を検出して、その座標に自由にタグ(CVタグ)を貼り付け、そのタグに情報を打ち込むことができることに想到した。そのことにより映像を見ながら対象物を選択して、対象物の映像上に又は映像の中の三次元空間上に、自由にタグ(CVタグ)の貼り付け位置を設定し、姿勢を設定し、移動し、検索し、削除し得ることに想到した。
CV映像は、ビデオ映像中の任意の対象物の三次元座標データを備えており、その座標に自由にタグ(CVタグ)を貼り付けることができる。
さらに、CV映像に重ねて、当該CV映像と同じ座標系を持つCV映像やCVタグ等で構成されるレイヤーを生成し、複数のレイヤーを自由に生成・表示させることができる。
このように、インターネットを介してCV映像の中のすべての対象物をWeb上で共有し、多くの人が参加するコミュニケーションツールが実現する。このようなコミュニケーションツールにおいては、管理者のみならず、不特定多数の人が、CV映像中にCVタグを貼り付け、又はCVタグやレイヤーを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることが期待される。なお、この場合、公開するCVツールと非公開のものとを分離することは勿論可能であり、管理者が(ユーザ発信情報に関しては一部はユーザが)その選択権を持つことになる。
また、特に本発明のCVタグと「道路・河川等の現況ビデオ検索装置」(特許第3099103号)を利用して映像と地図をリンクさせることにより、単に地図と映像を結びつけるだけではなく、地図、空撮映像、地上撮影像を三次元的に結合して関連付けることができる。
また、CV映像に全周映像を用いることで、視点方向を自由に選択できる映像を生成できるので、本発明においては全周映像を用いてCV映像を生成し、その中に三次元CVタグを貼り付けることが好ましい。
本発明のCV映像をWeb上で配信・表示するに際しては、各CV映像の表示位置と方向を明確にするために、CV映像に連動し、動画映像の撮影位置を各種縮尺で表示する地図を同時表示するのが好ましい。また、地図に代えて、空撮映像や衛星写真を表示しても良い。
地図は無限遠点から観察した三次元スペースと捉えることができるが、本発明においては、レイヤーとはユーザが任意に選択し、又は生成する思考上の三次元スペースであり、地図はレイヤーではなく、三次元スペースの意味を持つレイヤーとは区別され、コンテンツの一つとして説明する。
これら、CGにもCVタグと同様にレイヤーが定義され、CVタグと同一の座標系を持つことから、CV映像と共に背景を構築するためのレイヤーとなる。
これらはWeb管理者用の特殊なレイヤーと、レイヤー内のCGコンテンツであると位置づけることができる。
さらに、上記以外の特殊なコンテンツとしては、CV映像やCVタグに関連づけて表現される音楽や効果音がある。これらは基本コンテンツではないが、システムを効果的に運用するために役に立つものと考えられる。
例えば、CV映像は映像撮影地域の近くの管理者のサーバが管理し、各レイヤーとその上に配置されたCGタグはレイヤーを生成した各ユーザのコンピュータ内で記憶・管理することができる。そして、Web管理者はCV映像、各レイヤー、地図のデータベースを格納した分散されたサーバの関係を管理し、ユーザの要求する構成画面をユーザ装置に送信してユーザ装置側のディスプレイに表示させることができる。
本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置を実現するためには、Web管理者側が、CV映像の莫大なデータをサーバに用意しなければならないことになる。さらにデータの更新も必要となる。
CV映像の対象が全国(あるいは全世界)の道路に関するものであれば、映像更新やCV演算のことを考慮して、各データは例えば地域別に管理することが好ましいともいえる。また、Webの環境には地域的偏り等もあり、サーバを設置することが不適切な地域や環境もある。
また、レイヤーの管理も分散が可能であり、各レイヤーは、当該レイヤーを設定したユーザ自身が自らのユーザ装置で管理することができる。
そして、究極的には管理者とユーザの区別がなくなり、すべてがユーザであり管理者であるという形にすることも可能である。または、管理の色合いが強いレイヤーを設定・管理するユーザグループと、単にレイヤーを含めたCV映像を閲覧・使用するだけのユーザという区分にすることも可能である。
本発明に係るレイヤーは、ユーザが自由に生成することができることから、レイヤーにリアルタイム映像を取り込んだり、リアルタイム情報から生成したCGを表示することで、他のユーザ等がリアルタイムで観察できるリアルタイム映像を配信・表示することができる。
例えば、独居老人が住む家をCV映像データベースに取り込んでおき、老人の位置を示す装置を設置することで、観察者は老人の位置をリアルタイムで観察できることになり、老人の安全を確保できることになり、老人介護に役立てることができる。
また、店舗等における閉店後の人の動きを検出する装置を設置することで、本発明に係るCV映像上において、夜間監視映像をリアルタイムで観察できることになる。
本発明に係るレイヤーとは、思考上あるいは管理上必要なものであり、共通のCV映像上に設定される複数レイヤーから構成される複数世界の中の一つの三次元世界に対応するものである。従って、必ずしもプログラム上のレイヤーである必要はなく、レイヤーの上に表示されるもの(例えば、CGや映像)の属性によって分類することでも、レイヤーによる分類と同じ効果を生むことが可能である。
但し、説明上又は思考上は、画像に画像を重ねて表示するレイヤーを想定することが好都合であるので、本明細書ではプログラム上のレイヤーが存在するものとして説明する。
また、上記方法はレイヤーの生成方法の一例であり、他の方法によることも勿論可能である。
本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置は、Webサイト管理者がすべてのコンテンツ及びデータを当該管理者の所有するサーバ(管理者装置)で管理し、各ユーザ装置に配信することで実現することができる。
しかし、コンテンツ及びデータの量が莫大となるため、サーバを分散して管理するのが望ましい。
さらに、Webサーバ管理者のサーバ負担を軽減する方法として、本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置に参加する企業のサーバに所定のデータを振り分けたり、地域別のコンテンツは当該地域のサーバに負担させることができる。
Webサイト管理者の管理者装置では、ID管理手段により、前記管理者装置の記録装置に登録されたユーザ装置、及びユーザ名を登録している。また各ユーザ装置との交信記録が残している。しかもID管理手段により、全てのCV映像、レイヤー、CVタグ、及びCVタグ内の関連情報を管理し、ネットワークを介して複数のユーザ装置から求められてくる要求に対し、必要なコンテンツ、レイヤー、データを選択し、組み合わせて配信し、記録する。また、ユーザ名が登録されていない場合でも、許された範囲で個別に対応し、許可された範囲で要求されたデータを配信する。
これにより、ユーザ側はID等を知らなくても、Webサイト管理者側から指定されたサーバに自動アクセスして、ユーザ画面内に画像を構成するすべてのコンテンツとデータを取り込み、目的の画面として構成することができる。
なお、各ユーザ装置のサーバ等で管理されるコンテンツやデータの例としては、全周映像、CV値、地図、空撮映像、課金情報等があり、各レイヤーは共通のフォーマットの下にレイヤー権利者が自由にコンテンツを組み立てることができる。
Webは空間の位置を超越しているので、地域サーバは必ずしもその地域に設置する必要はなく、地域とはデータ管理上の地域であり、必ずしも地図上の場所をいうものではない。
これにより、CV映像のデータベースを広範囲な地域に拡大して管理するのみならず、時間軸方向でも管理し、過去から現在に至る時間軸でも管理することで、複数レイヤーから構成される複数世界は時間軸方向にも展開することになる。
また、複数の相似形な世界を用意することで、観察者はその中から自由に選択して好みの世界に参加することができる。
さらに、現実世界に相似形な世界を参加者が自分の好みの世界に構成することもできる。
そして、Webサイト管理者とユーザ間の双方向のコミュニケーション、及びユーザ間の複数方向のコミュニケーションを実現し、その関係の中で活動を行う複数レイヤーによる複数世界を実現することができる。
WPWは現代宇宙論のParallel Worldから想起されるように、同じ現実の映像を元としていながら、複数の世界を同時に構築することが出来て、その一つ一つの世界に一つのルールを持ち込むことが可能である。
つまり、WPWは現実の世界を元としていながら、きわめて直感的な世界を同時に複数用意し、ユーザはそれを自由に選択することで、自分専用の世界を生成して利用することができる。これらの世界はレイヤーにより分離されている。
なお、この一つの世界を作る一つのレイヤーはプログラム上明確に分離することが適切ではあるが、必ずしもプログラム上明確なレイヤーが存在する必要はなく、思考上のレイヤーであってもよい。
そこで、レイヤーで分離された各世界に、それぞれ独立したルールを与えてサイト管理者のみならず、利用者によってもレイヤーの中に独自の世界を展開することができるようになる。
本発明に係るWPWは、三次元化された映像を主としているので、現実と同じように直感的に認識・理解でき、様々な処理・操作も直感的に行うことができる。すなわち、利用者は現実と同じ三次元の世界の中を移動しながら、目的の行動を起こすことができる。
なお、本発明により提供される複数世界の背景として利用される動画映像は、現実の映像でなくても良いが、現実の映像、あるいは現実の映像を基として生成した動画映像であることが好ましい。
これによって、Web上でより現実に近い仮想空間・仮想店舗、複数の空間が重畳的に設定される複数レイヤーによる複数世界(パラレルワールドモデル)を提供することが可能となり、インターネットを利用した商品の販売や、店舗・会社の宣伝広告、タウンガイド、地図情報等の提供に好適なレイヤー生成・選択機能を備えたCVタグ映像表示装置を提供することができる。
ここで、以下に示す本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置は、プログラム(ソフトウェア)の命令によりコンピュータで実行される処理,手段,機能によって実現される。プログラムは、コンピュータの各構成要素に指令を送り、以下に示すような所定の処理や機能、例えば、映像中からの基準点や特徴点の自動抽出,抽出した基準点の自動追跡,基準点の三次元座標の算出,CV(カメラベクトル)値の演算,CVタグの生成・貼り付け,CVタグにリンクしたデータベース情報の呼び出し・表示,CV映像に対応するレイヤーの生成や呼び出し・表示等を行わせる。このように、本発明における各処理や手段は、プログラムとコンピュータとが協働した具体的手段によって実現される。
なお、プログラムの全部又は一部は、例えば、磁気ディスク,光ディスク,半導体メモリ,その他任意のコンピュータで読取り可能な記録媒体により提供され、記録媒体から読み出されたプログラムがコンピュータにインストールされて実行される。また、プログラムは、記録媒体を介さず、通信回線を通じて直接にコンピュータにロードし実行することもできる。
まず、本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置の前提となるCV演算の概要について図1〜図13を参照しつつ説明する。
CV演算とはCV値を求めることを意味し、求められた結果をCV値,CVデータと呼ぶ。CVという表記は、カメラベクトル:Camera Vectorの略記であり、カメラベクトル(CV)とは計測等のために映像を取得するビデオカメラ等のカメラの三次元位置と3軸回転姿勢を示す値である。
CV演算は、動画像(ビデオ映像)を取得し、その映像内の特徴点を検出し、それを隣接する複数のフレームに追跡し、カメラ位置と特徴点の追跡軌跡とが作る三角形を画像内に数多く生成し、その三角形を解析することで、カメラの三次元位置とカメラの3軸回転姿勢を求めるものである。
また、動画像から演算で求められるCV値は、動画像の各フレームに対応して、三次元のカメラ位置と三次元のカメラ姿勢とが同時に求まる。しかも、原理的には一台のカメラで、映像と対応してCV値が求められる特性は、CV演算でしか実現し得ない優れた特徴である。
例えば、他の方法による計測手段(GPSやIMU等)では、動画像の各フレームと、その三次元的カメラ位置と三次元的カメラ姿勢とを同時に取得するためには画像フレームと計測サンプリング時刻を高精度で、しかも完全に同期しなければならないために、巨額な装置や設備等が必要となり、実質的には実現が困難である。
また、CVデータは画像から取得するため、取得されたデータは相対値であるが、画像内の任意の対象物との位置関係を計測することができるという他の方法では実現は可能な優れた特性を備える。
また、画像に対応したCV値が求まるので、画像内計測や測量において、画像から直接にカメラ位置とその3軸回転姿勢を求めることができるCV演算は画像内計測や画像内測量に好適となる。
そして、本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置は、このCV演算により得られたCV値データに基づいてCVタグの生成や映像中への貼り付け処理、レイヤーの生成・表示等の処理を行うものである。
CV演算は、後述する本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置100のCV映像記憶手段(図15参照)に記憶されるCV映像を生成するための演算処理であり、具体的には図1に示すようなCV演算部20で行われる。
CV演算部20は、図1に示すように、ビデオカメラ等からなる全周ビデオ映像部10から入力されるビデオ映像について所定のCV演算処理を行うようになっており、具体的には、特徴点抽出部21と、特徴点対応処理部22と、カメラベクトル演算部23と、誤差最小化部24と、三次元情報追跡部25と、高精度カメラベクトル演算部26とを備えている。
また、映像は、一般には予め記録した動画映像を使うことになるが、自動車等の移動体の移動に合わせてリアルタイムに取り込んだ映像を使用することも勿論可能である。
全周映像の平面展開とは、全周映像を、通常の画像として遠近法的に表現するものである。ここで、「遠近法」と呼称するのは、全周画像のそのものはメルカトール図法や球面投影図法のように、遠近法とは異なる方法で表示されているので(図4参照)、これを平面展開表示することで、通常の遠近法映像に変換表示できるからである。
なお、移動体11aには、その位置座標を取得する目的で、例えば、絶対座標を取得するGPS機器単独やIMU機器を付加したもの等により構成した位置計測機器等を備えることができる。
また、移動体11aに搭載される全周ビデオカメラ11としては、広範囲映像を撮影,取得するカメラであればどのような構成であってもよく、例えば、広角レンズや魚眼レンズ付きカメラ、移動カメラ、固定カメラ、複数のカメラを固定したカメラ、360度周囲に回転可能なカメラ等がある。
本実施形態では、図2及び図3に示すように、車輌に複数のカメラが一体的に固定され、移動体11aの移動に伴って広範囲映像を撮影する全周ビデオカメラ11を使用している。
ここで、全周ビデオカメラ11は、カメラの全周映像を直接取得できるビデオカメラであるが、カメラの全周囲の半分以上を映像として取得できれば全周映像として使用できる。
また、画角が制限された通常のカメラの場合でも、CV演算の精度としては低下するが、全周映像の一部分として取り扱うことが可能である。
仮想球面に貼り付けられた球面画像データは、仮想球面に貼り付けた状態の球面画像(360度画像)データとして保存・出力される。仮想球面は、広範囲映像を取得するカメラ部を中心点とした任意の球面状に設定することができる。
図4(a)は球面画像が貼り付けられる仮想球面の外観イメージであり、同図(b)は仮想球面に貼り付けられた球面画像の一例である。また、同図(c)は、(b)の球面画像をメルカトール図法に従って平面展開した画像例を示す。
CV演算部20では、まず、特徴点抽出部21が、全周ビデオ映像部10の全周ビデオカメラ11で撮影されて一時記録された動画像データの中から、十分な数の特徴点(基準点)を自動抽出する。
特徴点対応処理部22は、自動抽出された特徴点を、各フレーム間で各フレーム画像内において自動的に追跡することで、その対応関係を自動的に求める。
カメラベクトル演算部23は、対応関係が求められた特徴点の三次元位置座標から各フレーム画像に対応したカメラベクトルを演算で自動的に求める。
誤差最小化部24は、複数のカメラ位置の重複演算により、各カメラベクトルの解の分布が最小になるように統計処理し、誤差の最小化処理を施したカメラ位置方向を自動的に決定する。
ここで、三次元情報(三次元形状)とは、主に特徴点の三次元分布情報であり、すなわち、三次元の点の集まりであり、この三次元の点の集まりが三次元形状を構成する。
高精度カメラベクトル演算部26は、三次元情報追跡部25で得られた追跡データに基づいて、カメラベクトル演算部23で得られるカメラベクトルより、さらに高精度なカメラベクトルを生成,出力する。
そして、以上のようにして得られたカメラベクトル(CV値)が付加されたCV映像が、後述するレイヤー生成・選択機能を備えたCVタグ映像表示装置100に入力され、CVタグの生成や貼り付け処理、レイヤーの生成処理等に利用されることになる。
特徴点を充分に多くとることにより、カメラベクトル情報が重複することになり、重複する情報から誤差を最小化させて、より精度の高いカメラベクトルを求めることができる。
一般に、静止した三次元物体は、位置座標(X,Y,Z)と、それぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度を持つ。
従って、カメラベクトルは、カメラの位置座標(X,Y,Z)とそれぞれの座標軸の回転角(Φx,Φy,Φz)の六個の自由度のベクトルをいう。
なお、カメラが移動する場合は、自由度に移動方向も入るが、これは上記の六個の自由度から微分して導き出すことができる。
このように、本実施形態のカメラベクトルの検出とは、カメラは各フレーム毎に六個の自由度の値をとり、各フレーム毎に異なる六個の自由度を決定することである。
まず、上述した全周カメラ映像部10の全周ビデオカメラ11で取得された画像データは、間接に又は直接に、CV演算部20の特徴点抽出部21に入力され、特徴点抽出部21で、適切にサンプリングされたフレーム画像中に、特徴点となるべき点又は小領域画像が自動抽出され、特徴点対応処理部22で、複数のフレーム画像間で特徴点の対応関係が自動的に求められる。
具体的には、カメラベクトルの検出の基準となる、十分に必要な数以上の特徴点を求める。
画像間の特徴点とその対応関係の一例を、図5〜図7に示す。図中「+」が自動抽出された特徴点であり、複数のフレーム画像間で対応関係が自動追跡される(図7に示す対応点1〜4参照)。
ここで、特徴点の抽出は、図8に示すように、各画像中に充分に多くの特徴点を指定,抽出することが望ましく(図8の○印参照)、例えば、100点程度の特徴点を抽出する。
本実施形態では、例えば、360度全周画像のエピポーラ幾何からエピポーラ方程式を解くことによりカメラ運動(カメラ位置とカメラ回転)を計算するようになっている。
カメラの移動ベクトルをt、カメラの回転行列をR、とすると、z1T[t]×Rz2=0がエピポーラ方程式である。
十分な数の特徴点を与えることにより、線形代数演算により最小自乗法による解としてt及びRを計算することができる。この演算を対応する複数フレームに適用し演算する。
カメラベクトル演算に用いる画像としては、原理的にはどのような画像でも良いが、図7に示す360度全周画像のような広角画像の方が多くの方向に均等に特徴点を数多く選択し易くなる。
そこで、本実施形態では、CV演算に360度全周画像を用いており、これによって、特徴点の追跡距離を長くでき、特徴点をあらゆる方向に十分に多く選択することができ、遠距離、中距離、短距離それぞれに都合の良い特徴点を選択することができるようになる。また、回転ベクトルを補正する場合には、極回転変換処理を加えることで、演算処理も容易に行えるようになる。これらのことから、より精度の高い演算結果が得られるようになる。
なお、図7は、CV演算部20における処理を理解し易くするために、1台又は複数台のカメラで撮影した画像を合成した360度全周囲の球面画像を地図図法でいうメルカトール図法で展開したものを示しているが、実際のCV演算では、必ずしもメルカトール図法による展開画像である必要はない。
さらに、誤差の分布が大きい特徴点につては削除し、他の特徴点に基づいて再演算することで、各特徴点及びカメラ位置での演算の精度を上げるようにする。
このようにして、特徴点の位置とカメラベクトルを精度良く求めることができる。
図9では、図7の画像1,2に示した特徴点1〜4の三次元座標と、画像1と画像2の間で移動するカメラベクトル(X,Y,Z)が示されている。
図10及び図11は、充分に多くの特徴点とフレーム画像により得られた特徴点の位置と移動するカメラの位置が示されている。同図中、グラフ中央に直線状に連続する○印がカメラ位置であり、その周囲に位置する○印が特徴点の位置と高さを示している。
具体的には、CV演算部20では、画像内には映像的に特徴がある特徴点を自動検出し、各フレーム画像内に特徴点の対応点を求める際に、カメラベクトル演算に用いるn番目とn+m番目の二つのフレーム画像FnとFn+mに着目して単位演算とし、nとmを適切に設定した単位演算を繰り返すことができる。
mはフレーム間隔であり、カメラから画像内の特徴点までの距離によって特徴点を複数段に分類し、カメラから特徴点までの距離が遠いほどmが大きくなるように設定し、カメラから特徴点までの距離が近いほどmが小さくなるように設定する。このようにするのは、カメラから特徴点までの距離が遠ければ遠いほど、画像間における位置の変化が少ないからである。
このようにして、フレーム画像FnとFn+mに着目した単位演算を行うことにより、m枚毎にサンプリングした各フレーム間(フレーム間は駒落ちしている)では、長時間かけて精密カメラベクトルを演算し、フレーム画像FnとFn+mの間のm枚のフレーム(最小単位フレーム)では、短時間処理で行える簡易演算とすることができる。
このようにして、画像の進行とともにnが連続的に進行することにより、同一特徴点について複数回演算されて得られる各カメラベクトルの誤差が最小になるようにスケール調整して統合し、最終のカメラベクトルを決定することができる。これにより、誤差のない高精度のカメラベクトルを求めつつ、簡易演算を組み合わせることにより、演算処理を高速化することができるようになる。
これによって、各特徴点及びカメラ位置の誤差が最小になるようにスケール調整する形で統合し、距離演算を行い、さらに、誤差の分布が大きい特徴点を削除し、必要に応じて他の特徴点について再演算することで、各特徴点及びカメラ位置での演算の精度を上げることができる。
具体的には、まず、三次元情報追跡部25で、カメラベクトル演算部23,誤差最小化部24を経て得られたカメラベクトルを概略のカメラベクトルと位置づけ、その後のプロセスで生成される画像の一部として得られる三次元情報(三次元形状)に基づいて、複数のフレーム画像に含まれる部分的三次元情報を隣接するフレーム間で連続的に追跡して三次元形状の自動追跡を行う。
そして、この三次元情報追跡部25で得られた三次元情報の追跡結果から、高精度カメラベクトル演算部26においてより高精度なカメラベクトルが求められる。
そこで、特徴点追跡で得られるカメラベクトルを概略値と位置づけ、その後のプロセスで得られる三次元情報(三次元形状)を各フレーム画像上に追跡して、その軌跡から高精度カメラベクトルを求めることができる。
三次元形状の追跡は、マッチング及び相関の精度を得やすく、三次元形状はフレーム画像によって、その三次元形状も大きさも変化しないので、多くのフレームに亘って追跡が可能であり、そのことでカメラベクトル演算の精度を向上させることができる。これはカメラベクトル演算部23により概略のカメラベクトルが既知であり、三次元形状が既に分かっているから可能となるものである。
追跡において、二次元形状での追跡の場合、複数のフレームにおける形状の変化と大きさの変化を避けられないまま追跡することになるので、誤差が大きかったり、対応点が見つからないなどの問題があったが、三次元形状での追跡においては形状の変化が極めて少なく、しかも原理的に大きさの変化もないので、正確な追跡が可能となる。
また、得られた三次元形状を、カメラ位置から二次元画像に変換して、二次元画像として追跡することも可能である。カメラベクトルの概略値が既知であることから、カメラ視点からの二次元画像に投影変換が可能であり、カメラ視点の移動による対象の形状変化にも追従することが可能となる。
例えば、図13に示すように、車載カメラからの映像を平面展開して、各フレーム画像内の目的平面上の対応点を自動で探索し、対応点を一致させるように結合して目的平面の結合画像を生成し、同一の座標系に統合して表示する。
さらに、その共通座標系の中にカメラ位置とカメラ方向を次々に検出し、その位置や方向、軌跡をプロットしていくことができる。CVデータは、その三次元位置と3軸回転を示しており、ビデオ映像に重ねて表示することで、ビデオ映像の各フレームでCV値を同時に観察できる。CVデータをビデオ映像に重ねた表示した画像例を図13に示す。
なお、ビデオ映像(CV映像)内にカメラ位置を正しく表示すると、CV値が示すビデオ映像(CV映像)内の位置は画像の中心となり、カメラ移動が直線に近い場合は、すべてのフレームのCV値が重なって表示されてしまうので、例えば図13に示すように、敢えてカメラ位置から真下に1メートルの位置を表示することが適切である。あるいは道路面までの距離を基準として、道路面の高さにCV値を表示するのがより適切である。
次に、以上のようにしてCV値が求められたCV映像を利用して、CV映像中に対してCVタグの生成・貼り付け処理を行い、CVタグにリンクした諸データの設定・表示・更新等を行うとともに、元となるCV映像に重ねてレイヤーを生成・表示させる本発明に係るレイヤー生成・選択機能を備えたCVタグ映像表示装置の実施形態について、図面を参照しつつ具体的に説明する。
図14は、本発明の第一実施形態に係るレイヤー生成・選択機能を備えたCVタグ映像表示装置の基本構成を示すブロック図であり、インターネットやLAN等のネットワーク環境下での利用に好適なレイヤー生成・選択機能を備えたCVタグ映像表示装置の構成を示している。
このように、本実施形態では、データ通信及びコミュニケーションにインターネットを積極的に活用し、インターネットを介して不特定多数が自由に参加し、不特定多数のユーザが、Webサイト管理者が提供するCV映像にCVタグを貼り付け、CVタグ内に情報を記載し、更に任意のレイヤーを表示・生成し、それによって相互のコミュニケーションを図り、さらには、Webサイト管理者はデータを集計・生成するなど、二次データ加工処理をも追加して行うことが可能となる。
図15は、本実施形態に係るレイヤー生成・選択機能を備えたCVタグ映像表示装置100を構成する管理者装置200とユーザ装置300の具体的構成を示す機能ブロック図である。
管理者装置200は、Webサイト管理者側に備えられるサーバコンピュータやワークステーション等の情報処理装置によって構成されており、CPU,メモリ等で構成される演算制御手段、外部からデータ入力可能な入力手段、液晶ディスプレイ等の出力表示手段、データ通信を行うための送受信手段等の各部を備え、インターネットを介して各ユーザ装置300(300a,300b・・・300n)とデータ通信可能に接続されている。
具体的には、管理者装置200は、図15に示すように、CV映像記憶手段201と、レイヤー生成手段202と、レイヤー記憶手段203と、CVタグ入力手段204と、CVタグ記憶手段205と、CVタグ検索手段206と、二次元地図記憶手段207と、リアルタイム映像手段208と、ID管理手段209の各部を備えている。
CV映像の撮影対象としては、例えば道路や河川、市街地などの一定領域や、特定の建物の内部などがあり、その対象エリア内には様々な物体が存在しており、それらは全て撮影対象物となり得る。従って、対象物は複数存在する。
そして、CV映像記憶手段201には、任意の対象エリア及び周辺の映像を予め撮影して、上述したCV演算により求められるCV値を付加したCV映像が記録・保持されるようになっている。
CV映像は、上述したように、画像を取得したカメラ位置と姿勢の三次元座標と角度を6変数で、画像の各フレームについて求めたもので、カメラ位置と姿勢が既知となったことで、複数のフレームから対象の三次元座標が求められる。
このようにすると、CV映像のデータを更新し、同一地域、同一地点の過去から現在に至る時間軸方向のCV映像を配信・表示させることができる。
これにより、CV映像のデータベースを広範囲な地域に拡大して管理するのみならず、時間軸方向でも管理し、過去から現在に至る時間軸でも管理することで、複数レイヤーによる複数世界(パラレルワールドモデル)は時間軸方向にも展開することになる。
具体的には、レイヤー生成手段202は、管理者装置200又はユーザ装置300からの入力操作に応じて、CV映像に視点を一致させて重ねて他の画像を表示するための思考上のレイヤー、又はプログラム上のレイヤーを一つ又は複数生成する。
そして、生成されたレイヤーは、対応するCV映像と関連付けてレイヤー記憶手段204に記憶される。
図16に、本発明におけるレイヤーの概念を模式的に示す。
CV映像は、物理的にはディスプレイ上に二次元面として表示されるが、CV映像は元々三次元空間の複数物体をある視点から観察した映像であることから、思考的三次元スペースであるということができる。
その意味で、CV映像に視点を一致させた他の映像を重ねて表示することで、CV映像は元々は三次元空間を映像として表示しているものであるから、CV映像に重ねて表示するレイヤーは思考上の三次元スペースであり、従ってレイヤーは思考的には三次元スペースであると言うことができる。
すなわち、本実施形態では、プログラム上は二次元であっても視覚的には三次元となるレイヤーを、一つ又は複数を生成し用意することになる。従って、本発明におけるレイヤーとは、この視覚的には三次元スペースとなる表示上の二次元面を意味するものとする(図16参照)。
そして、一つのレイヤーを持つユーザは自らが展開する一つの「三次元世界」を持つことになり、複数のユーザがそれぞれのユーザの意志でレイヤーを自由に生成し又は選択して、インターネットを介して本発明に係るレイヤー生成・選択機能を備えたCVタグ映像表示装置100に参加することができる。これによって、Webサイト管理者は、複数のユーザが自らの三次元世界をWeb上に公表することができるような複数の三次元世界を提供できることになる。
もちろん、将来的にはユーザ自身がレイヤーのみならずCV映像をも用意することも可能であるが、本実施形態では、ベースとなるCV映像はWebサイト管理者が用意し、管理者装置200側に記憶されるものとする。
なお、CV映像はレイヤー上のCGと合成表示することから、動画映像としては全周動画映像、又は動画映像から生成したCG映像が適している。
具体的には、CVタグ入力手段204は、管理者装置200又はユーザ装置300からの入力操作に応じて、CV映像記憶手段201に記憶されたCV映像やレイヤー記憶手段203に記憶されたレイヤー中の任意の対象物や位置に対して、CV映像の中にCVタグを直接貼り付け、又はCV映像中の対象物の三次元的位置を確認できるように、矢印などで特定できるようにしたCVタグを、CV映像の中に三次元的に配置する(図17〜図22参照)。
三次元情報を持つCV映像には、アイコンのように情報のやり取りをするCVタグを貼り付けることができる。また、CV映像では、画像の中の対象物、又は画素そのものが三次元座標を持っていることから、対象物そのものをタグとして利用することができる。
また、CVタグは、実写をそのままCVタグとして利用する形態と、小型のCGをタグとして貼り付ける形態の二種類があり、本実施形態では、いずれのCVタグを使用することもできる。
具体的には、CVタグ入力手段204は、まず、表示されたCV映像の中の対象物又はその近傍に、対象物を特定して示すCVタグを映像面上に指定する。指定はマウス等の入力手段を使用して行うことができる。対象物が複数有れば複数の指定が可能である。
また、CVタグの配置の範囲は、二次元的又は三次元的に制限して指定することができる。具体的には、CVタグの配置の範囲を例えば二次元的な複数の面を用意して、その面内に配置するように制限して設定し、又は配置範囲を三次元的な範囲に制限して指定する。
次に、CVタグ入力手段204は、マウス等で指定されたCV映像面上の位置の三次元座標を演算して求める。なお、CVタグの座標を演算した後、位置や姿勢等の微調整も可能である。
そして、取得された三次元座標をCVタグの座標として固定し、対象物を三次元的に指定してCVタグと関連付ける。
最後に、取得されたCVタグの入力を完了して登録する。ここで登録されたCVデータは、後述するCVタグ記憶手段205に記録される。
これにより、CVタグの座標設定は完了する。
具体的には、CVタグ入力手段204は、CVタグがクリック(開封)されると、諸データの書き込み用の画面を展開し、そのフォーマットに従って所定情報が書き込まれると、当該データをCVタグ記憶手段(データベース)205に登録する。
まず、CVタグ入力手段204は、CVタグに書き込む属性又は通信内容を記録する。記録される属性や通信内容としては、例えば管理上の記録データ、写真、図面等がある(図17参照)。
なお、登録すべきCVタグの内容は確認することができ、必要に応じて、CVタグの内容又はCVタグの設定を解除することもできる。
以上により、CVタグのデータ入力は完了する。
すなわち、CVタグ記憶手段205は、上述のようにCV映像中に合成表示される所定のCVタグが、その関連情報、諸データとともに記憶されるデータベースとして機能する。
CVタグ記憶手段205に登録される諸データとしては、CV映像中の対象物に関する一切のデータであり、例えば、店舗案内目的であればそのエリアにある店や会社に関する情報(業種、店舗名、商品等の情報)、道路管理やカーナビゲーション目的であれば、道路標識に付加されたCVタグ(標識のCG)に、表示されている制限速度などが諸データとして登録されることになる。
さらに、CVタグに関連する諸データ・関連情報は、CVタグを開封してリンクしたファイルに当該タグが示す対象物に関する画像やテキストデータ等の諸データを書き込むことができ、Webサイト管理者が直接CVタグ記憶手段205に書き込む場合の他、ユーザ装置300側からCVタグ関連の諸データをCVタグ記憶手段205に書き込むことができる。
すなわち、CVタグ検索手段206は、管理者装置200に直接入力されるかユーザ装置300側から入力・送信された文字、座標、属性等の情報に基づいてCVタグ記憶手段205を検索し、該当するCVタグ又はその関連情報を抽出する。
検索の結果抽出されたCVタグは、CV映像中の対象物を示すCVタグそのものや、CV映像中の対象物の画像そのものを、色の変化やフラッシュ効果等の何らかの視覚効果のある三次元座標を持つ印として、動画としてのCV映像上に三次元的に矛盾無く表示され、検索者側で表示・閲覧できるようになっている。
例えば、タウンガイドや店舗案内目的の場合には、「レストラン」と文字検索すれば、CV映像中にあるレストランの映像やそれに付されたタグが点灯・点滅表示される。また、道路管理やカーナビゲーション対応のデータベースであれば、「40km速度制限」と文字検索をすれば、CV映像上にその標識が明るく表示される。また、緯度経度を数字で打ち込んで検索すれば、その緯度経度の所に画像が移動して、その地点が矢印で示される。また、「時速40km制限」と検索すれば40km制限の道路の側帯部分がフラッシュ表示されて、その範囲が示されることになる。
また、登録されている諸データであれば当然であるが、登録されていない管理対象物に対しても、画像の中から検索する画像検索、対象物認識技術により、検索することが可能である。
例えば、交通標識で一方通行の標識の画像を用意しておき、この一方通行の標識の画像で検索すると、画像中の一方通行の標識をすべて検索して、その位置を示すことができる。
なお、未登録の管理対象物の検索は対象物認識の技術が必要となり、検索にはある程度の時間がかかることになる。従って、前もって入力・登録してある管理対象物に関する諸データから検索する方が検索速度としては高速化されることになる。
二次元地図記憶手段207に記憶される地図は、対応するCV映像よりは高縮尺な地図を備えることが好ましい。すなわち、CV映像記憶手段201に記憶されるCV映像は、対応する対象エリアを示す地図よりも低縮尺である。
但し、ここで縮尺は本質的な問題ではない。すなわち、目的に応じて同一縮尺程度でも座標統合は可能である。もちろん低縮尺映像としてはCV映像だけではなく、両者の立場を入れ替えて二次元地図を低縮尺として、高縮尺のCV映像とすることも可能である。
さらに、地図は二次元のみならず三次元でもよく、CV映像との本質的な区別はない。また、CGであってもよく、座標を持つものはどのような手段でも座標統合は可能である。すなわち、地図は二次元でも三次元でも可能であり、地図が三次元地図であればCGと同じ意味となる。その場合には、ここでの座標統合はCGとCV映像との座標統合という意味になる。またそれは、CV映像とCV映像との座標統合という意味になる。その場合、同一縮尺CV映像でもよいし、地上撮と映像とを座標統合してもよい。
具体的には、リアルタイム映像手段208は、移動車輌等に積載されたビデオカメラによりリアルタイム映像を取得し、そのリアルタイム映像に上述したCV演算を施してリアルタイムCV映像を取得する手段であり、上述したCV演算部として機能するものである(図1〜図13参照)。
リアルタイム映像は単なるモニタとしてのみならず、直接CV演算するか、又はリアルタイム映像を予め用意したCV映像地図と位置合わせすることにより、CV値を取得してリアルタイムCV映像として様々に利用することができる。
なお、ユーザの中には、IDが登録されているユーザと、IDが登録されていないユーザなど、複数の種類とそれに応じた権限があり、その権限に応じて対応し、結果を記録する。
また、ユーザに対して課金が発生する場合には、ID管理手段209によるユーザ管理が重要となる。
例えば、独居老人が住む家をCV映像データベースに取り込んでおき、老人の位置を示す装置を設置することで、観察者は老人の位置をリアルタイムで観察できることになり、老人の安全を確保できることになり、老人介護に役立てることができる。
また、店舗等における閉店後の人の動きを検出する装置を設置することで、本発明に係るCV映像上において、夜間監視映像をリアルタイムで観察できることになる。
ユーザ装置300は、インターネットを利用する一般ユーザ側に備えられるパーソナルコンピュータや携帯通信端末等の情報処理装置によって構成されており、CPUやメモリ等で構成される演算制御手段、外部からデータ入力可能な入力手段、液晶ディスプレイやCRT等の出力表示手段(ディスプレイ300a)、データ通信を行うための送受信手段等の各部を備え、インターネットを介して管理者装置200とデータ通信可能に接続されている。
具体的には、ユーザ装置300は、図15に示すように、ディスプレイ300aと、CV映像選択表示手段301と、レイヤー選択統合手段302と、CVタグ選択表示手段303と、タグ情報選択表示手段304と、二次元地図表示手段305と、カメラ位置表示手段306の各部を備えている。
CV映像選択表示手段301は、管理者装置200のCV映像記憶手段201の中から所望のCV映像を選択して受信し、当該CV映像をユーザ装置300のディスプレイ300aに表示させる(図17〜図22参照)。
なお、CV映像は膨大なデータ量となるので、通常の通信ネットワークで配信するには時間がかかる。そこで映像の品質を多少落とすことで配信は十分可能である。但し、ユーザ装置側で映像を高品質のまま取得するには、前もって他の方法で映像を取得しておくのがよい。他の方法としては、例えば、ハードディスク、DVD、又は前記ネットワークの通信回線を利用し、前もって長時間かけて映像のみを受信しておくのがよい。このとき、CV値は前もって送らなくても、表示時にレイヤーと共に受信することでレイヤーとの同期がとれることになる。
但し、レイヤーは三次元空間であり、CV映像に重ねて表示しても目で見えるわけではない。すなわち、本発明におけるレイヤーとは、CV映像に座標を重ね合わせて、次のCVタグを表示する三次元空間を準備することである。
そして、本発明の特徴は、このようなレイヤーを複数用意し、ユーザが自由に選択し、又はユーザが自由に生成し、それを管理者装置内に置いて、他のユーザに配信し、ユーザ間で共有し、世界を無数に拡張していくことにある。
具体的には、CVタグ選択表示手段303は、CV映像選択表示手段301により表示されたCV映像中にCVタグを表示させ、動画として画像フレームが移動しても、映像とCVタグの三次元的位置関係を保持したままCVタグを表示し、及びCVタグを開封しその内容を表示する。
そして、本実施形態では、CVタグは、CV映像中に情報の出入り口として配置されるようになっている(図17参照)。
CVタグの置き方としては、対象物に重ねて、又は対象物から多少話した仮想位置に対象物を特定する位置に設置し、情報の出入り口とする。
そして、本発明の特徴は、このようにレイヤー単位で分類されているCVタグを映像の対象物に貼り付け、CVタグをその対象物に関連する情報の出入り口として利用することにある。
実写画像をそのままCVタグとして用いる場合の特徴は、画像中の対象物すべてがCVタグとして利用できることである。画像の持つ座標系とCVタグの座標系を共通にすることで、三次元座標そのものがタグの位置であり、目に見えないタグとして配置することができる。但し、CVタグの位置がピンポイントでは検索が困難となるので、二次元的に或いは三次元的に範囲を指定して、その範囲をタグ領域とすることが好ましい。
実写型CVタグは実写そのものを用いるので、タグは目では見えないことになり、映像を観察するときに障害とはならない点が、CG方式に比べて有利である。ただ、CV映像からタグの位置を指定したり検索するためには、画像内でその都度三次元計測を行う必要があり、この点はCG方式の方が有利となる。
なお、CGを用いたCVタグは、実写型と異なりタグが映像中に見えることになり、映像観察上不利になることはあるが、却って見えた方が都合の良いこともある。また、CGを透明化することも可能であり、目では見えないが、クリックすればそこでCGの三次元座標を取得し、タグを特定できることになる。
従って実写方式でなくCG方式でも、タグそのものを映像中に隠して、置くことが可能となる。透明であれ可視であれ、CV映像中に配置されたCVタグであるCGは、既に三次元座標を持っているので、その場で三次元座標を計測する必要はないことになり、実写方式に比較して、呼び出しや検索に有利となる。
具体的には、タグ情報選択表示手段304は、CVタグを選択することで、又はディスプレイ300a上に表示されたCV映像中の対象物をCV映像の中でタッチスクリーンにタッチし、又はマウス等でCVタグをクリックして、CVタグを選択することで、管理者装置200側のCVタグ記憶手段205からCVタグに対応する対象物のデータを読み出して管理する手段である。
なお、CVタグに関する情報・データは、上述したCVタグ検索手段206により、自動又は手動により検索することができる。
このように、CV映像上で所望の対象物を特定するには、検索によるか、画像上の対象物を直接マウスでクリックすることで完了する。
さらに、カメラ位置表示手段306は、表示された二次元地図上に、対応するCV映像の撮影位置及び進行方向を表示する。そして、CV映像選択表示手段301は、表示された前記二次元地図上で指定してされた任意の点に対応するCV映像をCV映像記憶手段301から受信して表示する。
二次元地図表示手段305は、まず、CV映像と対応する二次元地図の座標を統合してディスプレイ300a上に表示する。また、二次元地図表示手段305は、CVタグを、地図とCV映像とに同期表示して、ディスプレイ300a上でどちらのCVタグをクリックしても属性標示等を行わせるようにする。
これによって、CVタグを管理する上で、CV映像上に表示するだけではなく、CV映像と座標統合した地図上にもタグを貼り付けることができる。そして、地図とCV映像がリンクすることで、CVタグをCV映像と地図上に同期して表示することができる。
なお、上記の「道路・河川等の現況ビデオ検索装置」では、地図と映像のカメラ位置が点で面的(自由度2)に対応しているのみであるが、本発明においては、地図と映像の関係を、三次元的位置と姿勢、つまり6自由度で対応をとってあり、重ね合わせも可能である。つまり、三次元地図と映像が完全に対応がとれている表示が可能となる。
なお、地図が二次元の場合は、地図上に貼り付けるタグも二次元とし、地図が三次元の場合はタグも三次元とすることが好ましい。
上述したように、動画像をCV演算することで三次元的に扱うことができるようになり、任意の対象物や三次元空間の三次元情報を得ることができ、これらに自由にCVタグを貼り付け、レイヤーを生成・設定することができる。
なお、このようにCV値が付加されたCV映像には、CVタグ以外にも、別途CGを合成することもできる。CV映像とCGとの合成技術は本願発明者による特開平2005−122315号に提案されている。
これらの図に示すように、インターネット環境下で公開されたCV映像には、様々な関連情報とともにCVタグが設定され表示されるようになっており(図17)、各タグを指定・クリックすることで、関連情報を表示させたり、リンクされている他のWebページを表示させることができる。
また、CV映像と対応する二次元地図を同一画面上に同期表示させることができ(図18〜図22)、CV映像及び地図に登録されているタグ情報を検索することができる(図18)。
また、地図上の任意の点を指定することで、対応するCV映像を表示させることができ(図19)、CV映像中の任意の点にCVタグを入力するとともに、当該タグの関連情報を入力・登録することができる(図20)。
さらに、CV映像中のタグを指定・クリックすることで、リンクする他のWebページを表示させ(図21)、また、表示されたCV映像に登録されたタグを自由ワードで検索し、そのタグの位置の映像を表示させることができる(図22)。
なお、以上のようなレイヤー生成・選択機能を備えたCVタグ映像表示装置100を実現するために、本実施形態では、インターネット環境下に設置されるサーバ(管理者装置)側に多くの機能を負担させ、CV映像を管理者装置側に置き、ユーザ装置側の端末(ビュア)では単に二次元映像の表示だけが行われるようにし、上述したCV演算や三次元計測等の高度な作業はすべて管理者装置200側で行わせるようにしてある。このようにすることで、ユーザ装置300側の端末は、可能な限り低機能な設備でよくなり、広く不特定多数の一般ユーザに本発明に係るCVタグ技術を利用させることができる。勿論、ユーザ装置300側に多くの処理機能を持たせることで、管理者装置200側の負担を軽減することも可能である(後述する図23参照)。
これにより、管理者のみならず、不特定多数の人が、CVタグを貼り付け、又はCVタグを共有し、情報を共有し、自由に参加する環境を提供することができ、これまでのインターネット環境が大きく変わることになる。
なお、ここでは当然公開するCVツールと非公開とを分離することも可能であり、管理者がその選択権を持つことになる。
以上のような本実施形態のレイヤー生成・選択機能を備えたCVタグ映像表示装置100によれば、インターネットを介して複数のユーザにより、複数のレイヤーそれぞれが選択的にCV映像と合成されることで、レイヤーの数だけの合成CV映像が生成されることになる。
すなわち、レイヤーの数だけの三次元世界が生成されることになる。
ベースとなる動画映像(CV映像)は共通であるが、そこに重ねて表示されるレイヤーの数は原理的に制限が無く、どれだけの数のレイヤーでも生成できることは明らかである。それは結果として複数レイヤーによる複数世界が生成され、無制限の数の三次元世界を構築することができることを意味する。このことがパラレルワールドモデルの所以であり、本発明のきわめて優れた特徴である。
ユーザはレイヤーを選択することで、自分に適した世界を選択することになる。
Aユーザは必ずしも自らのレイヤーも持つことはなく、他のBユーザが用意して公表しているレイヤーを選択して観察することができる。
そして当然、このAユーザと他のBユーザはレイヤー上で双方向の情報交換や通信が可能となる。公表されているレイヤーは複数同時表示も可能である。また、公表されていないレイヤーは関係者の閉じた世界で利用されることになる。さらに、複数のユーザが同一レイヤーで相互情報交換や通信が可能となる。
ここで、各レイヤーは独立して生成されるか、複数レイヤーを合成し、動画映像と一体表示することも可能であり、その組み合わせや数には原則として制限はない。
各レイヤーには、CV映像のCV値(各フレームの三次元位置と姿勢)に適合し、動画映像と一体化したCGのアイコン(タグ)が用意され、レイヤー上に設置することができる。また、直接実写映像上の一部領域を実写によるアイコン(タグ無し)として用意し、設置することができる。
各レイヤーには、それぞれ独立にアイコンを用意し、設置することができる。ここでは、アイコン機能を持つCGをタグという。但し、タグはアイコン機能を持つことが重要であり、必ずしもCGである必要はなく、小さな実写映像そのものであっても良く、また動画や動くCGやアニメCGであっても良い。
なお、説明の便宜上、CGはレイヤー上に設置されるものとするが、レイヤーは思考上便利な存在であり、CGが直接レイヤーの属性を持つことで特にレイヤーを想定しなくても実際にはレイヤー構造と同じ効果を実現できるものである。
従って、Webサイト管理者側の管理者装置200とユーザ側のユーザ装置300は、まったく同様の構成とすることもできる。
但し、スタートにおいてはWebサイト管理者が、これらの複数の三次元世界を表示する装置を用意するのであるから、以下では両者を区別して説明する。
Webサイトを開いて、公開されている複数のレイヤーの中から一つ又は複数を選択してみることで参加し、その中のタグをクリックすることで情報交換し、その中に自らのタグを貼ることで参加ユーザをAユーザとする。
一方、Webサイト管理者の許可を取り、登録してレイヤーの権利をもらい、自らレイヤーを生成して、その中に自らの「三次元スペース」を構築し、そのレイヤーのルールを自ら設定し、専用のタグを貼り、積極的に情報を発信し、他のユーザと広く交流を求め同時に受信するユーザをBユーザとする。
つまり、Bユーザは複数で自分達の国(レイヤー)を持っていて、同じ国民同士での交流と共同活動ができる。Bユーザが複数で建国した国にAユーザを招き入れるが、Aユーザは国は持たず、そこを訪れて情報交換し、そこで買い物をしたり、意見を言ったりするだけである。
また、Bユーザであっても、他のBユーザの国を訪れるときはAユーザである。
また、BユーザはBユーザ国民のみで利用するタグもあり、訪問客にはすべてを公開しないことも可能となる。
Aユーザには、公開されたレイヤーにタグを貼る権利と既に貼られているタグを開きそこに情報を書き込んだり、読み取ったりする権利を与える。
Aユーザは、CV映像に視点を重ねて表示された公開されているレイヤーを任意に選択し、その中のタグをマウスでクリックするなどしてアクセスし、情報交換や買い物などができるものとする。
さらに、各ユーザはレイヤー上の任意の位置に、又は指定された範囲の位置に、自由にタグを貼り付けることができるものとする。
すなわち、ユーザは自らのユーザ装置300において表示されるCV映像中の任意のタグをマウス等で指定・クリックしてファイルを開き、そこに情報を書き込むことができる。なお、ここでいう情報とは、コンピュータで扱われるテキストデータ、音声データ、画像データ、等の一切を含むことができる。
CV映像中に表示されるアイコン機能を持つタグにより、適切なファイルを読み出し、あるいは書き込みが行える。
さらには、レイヤーにCV映像に重複して、店舗や会社をCGや映像で配置できるものとする。
Webサイト管理者とユーザは、CV映像に重複したレイヤー上の店舗や会社社屋を、双方向情報交流の出入り口を行えるものとして設置することができる。
このようにして、本実施形態では、主にWebサイト内で展開される多数のユーザによる情報交換が可能となる。
次に、本発明の一実施形態に係るレイヤー生成・選択機能を備えたCVタグ映像表示装置において、CV映像、レイヤー情報、地図情報を格納するサーバを、各ユーザ装置に分散させる場合について説明する。
上述した一本実施形態では、管理者装置200側に多くの機能を負担させ、ユーザ装置300側には単に端末(ビュア)としての映像表示だけが行われるようにして、ユーザ装置300側の端末を、可能な限り低機能な設備で済むようにし、広く不特定多数の一般ユーザに本発明に係るCVタグ技術を利用できるようにしていた(図15)。
しかしながら、本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置を実現するためには、Web管理者側でCV映像の莫大なデータをサーバに用意しなければならず、データの更新等も必要となる。CV映像の対象が全国(あるいは全世界)の道路に関するものであれば、映像更新やCV演算のことを考慮して、各データは例えば地域別に管理することが好ましいともいえる。また、Webの環境には地域的偏り等もあり、サーバを設置することが不適切な地域や環境もある。
また、レイヤーの管理も分散が可能であり、各レイヤーは、当該レイヤーを設定したユーザ自身が自らのユーザ装置で管理することができる。
そして、究極的には管理者とユーザの区別がなくなり、すべてがユーザであり管理者であるという形にすることも可能である。または、管理の色合いが強いレイヤーを設定・管理するユーザグループと、単にレイヤーを含めたCV映像を閲覧・使用するだけのユーザという区分にすることも可能である。
同図に示すレイヤー生成・選択機能を備えたCVタグ映像表示装置100では、Webサイト管理者側のサーバ(管理者装置200)では、必要最低限のデータを管理するようにしてある。
具体的には、Webサイト管理者側のサーバ(管理者装置200)では動画映像は持たず、動画映像の視点情報を持つCV値を全画像に対応させているCV値データベースと、ある種のコンテンツ利用が有料である場合を想定して、課金データを管理する。このCV値データと課金データは秘密性が強いので、Webサイト管理者側のサーバとするのが適切である。
また、Webサイト管理者側のサーバにおいては、レイヤー権利者のIDデータを持つことで、ユーザからのレイヤー指定や問い合わせに対応する。
その他コンテンツサーバ(ユーザ装置300)は、CV映像と切り離し、CV映像以外のコンテンツを記憶して、一般のユーザ装置の要求に応える。
地図サーバ(ユーザ装置300)は、その地図を更新も含めて管理するように、地図会社のサーバ(ユーザ装置300)において管理する。
また、レイヤーとそのレイヤー上に載るテキストデータや画像データやCGコンテンツは、レイヤーの権利を持つレイヤー権利者が管理責任とともに、更新を含めて自らの管轄においてサーバ(ユーザ装置300)を立ち上げて管理する。
一般ユーザが自らのユーザ装置300を介して管理者装置200で提供されWebサイトにアクセすると、自らの望む動画映像の地域が表示される。導入用の全周映像による動画映像が表示される。また、先にWebサイト画面上で、自らが求めるレイヤーを任意に選択することができる。
共通のレイヤーにおいては、Web管理者が用意したレイヤーをみることになる。ここではWeb管理者も管理用の少数の共通レイヤーを持つことになる。
Web管理者のサーバには、すべてのレイヤーのIDが記録されているので、選択されたタグのレイヤーのサーバにアクセスを許可する。
ここで、有料レイヤー(世界)であれば、この段階で課金される。
指定されたサーバからのコンテンツとデータが集められ、目的の画面をユーザ装置300側の画面上に構成・表示されることになる。
なお、全周動画映像とレイヤーのどちらを先に選択するかは自由であるが、結果としては、ユーザの好む地域の全周画像映像にレイヤーが重複表示された画像が表示されることになる。すなわちレイヤーは直接見えないが、レイヤー上に置かれたCG又は三次元化映像を、全周動画映像に重複した形で表示されることになる。
上記例では、Web管理者とユーザが存在していたが、システム管理とその責任の所在とID管理、及び課金等のために管理者及び管理者装置が必要であるといえる。しかし、これはシステム技術上必要なことではなく、システム管理をユーザ自身が行うことに決めれば、管理者装置もユーザ装置の一つとして、ユーザ自身が運用することが可能となる。
そこで、管理者装置を排除し、これまでの管理者装置の機能を全てユーザに分散して機能させることが十分可能となる。そのようなシステムの場合は、全てがユーザとなり、各種ユーザ装置を複数のユーザに分散させて、システム全体を機能させることが可能となる。
レイヤー(世界)を選択し又は追加したことで、当該レイヤーや共通レイヤーにおける経済活動が可能となる。例えば、選択又は追加されたレイヤー(世界)には、そのレイヤー独自の店舗や企業が存在し、そのCG表示された店舗や企業をマウスでクリックすることで、その店舗や企業の詳細な画像を含む内容に導かれ、画面上で買い物や予約ができ、また企業間取引ができる。
また、共通レイヤーの中には、Web世界銀行を設けることも可能であり、レイヤー世界での銀行取引も可能となる。
このようにして、本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置を発展させることで、およそリアル経済で行われることのほとんどが、Web経済圏においても可能となり、Web経済圏で通用する貨幣の発行や両替等も行えるようになる。
[動画ロックオン表示]
動画ロックオン表示は、選択及び検索した管理対象物を、管理対象物を画像の決められた位置に固定して表示する機能である。
ロックオン表示は、ロックオンすべき任意の対象物を画像内に指定すると、CV演算で得られたカメラベクトルに基づいて、画像内に指定した対象物を実写座標系で計測してその三次元座標を求め、三次元座標が求められた指定対象物が、常に画枠の中心位置(又は任意の所定位置)に表示されるように、画像表示又はカメラ(カメラが固定される固定物)の位置及び姿勢を制御することができる。
あるいは、目的対象物を画像内の指定位置に常に表示するようにカメラを制御することができる。
このロックオン機能により、CVタグや対象物をCV映像地図上で直接指示すれば、選択した管理対象物をロックオンで画像中央に常に表示することができるので、視認および操作が容易となる。
複数CV映像表示は、CV映像地図は縮尺の異なる複数のCV映像地図を表示し、しかも座標系を統一して、同じCVタグを複数のCV映像地図に上に表示する機能である。
なお、上述したように、CVタグはCGアイコンにより構成される場合と、実写アイコンにより構成される場合がある。また、アイコン機能を持たない単なるCGを表示することができることは勿論である。
地図同期表示は、CV映像地図と二次元地図を同時に表示し、二次元地図上にもCVタグを表示する機能である。
CVタグはもともと三次元座標を持つので、二次元化することは容易に行える。
リアルタイムCV映像表示は、選択及び検索した管理対象物を、CV映像地図と同じように、リアルタイムCV映像にCVタグを表示する機能である。これは現時点の現実映像であり最もリアリティーがある表示となる。なお、リアルタイム演算となるために、処理には一定の制限があり得る。
現実重複表示は、選択及び検索した管理対象物を、CV映像上に表示せずに、ヘッドマウント、又はハーフミラー等により、移動する車両等から直接観察する現実世界の管理対象物に重複して合成した、CVタグや案内矢印CG、看板CG等を示す機能である。
すなわち、CV映像を用いず、現実世界の実像そのものにハーフミラーで光学的に合成して、CVタグや案内矢印CGや看板CGを合成することができる。
ここで、カメラが取得した映像は見るための映像ではなく、CV値を取得するための映像となる。車両が揺れていても、CV演算によりCV値を求め、CVタグや案内矢印CGや看板CGをハーフミラーで合成した正しい位置表示できることになる。
観察者から見れば、車両が揺れていても、管理対象物に対して、ずれることなく正しい位置に安定してCVタグや案内矢印CGや看板CGが観察されることになる。
タグをクリックするには、マウスよりはライトペン、又は三次元プローブのような三次元空間上の一点を指示出る装置が好ましい。
音声案内表示は、選択及び検索した管理対象物に関するCVタグの内容を、音声で案内表示する機能である。これは、特にカーナビゲーションシステムには必要な機能となる。
なお、以上のような各機能は、すべてを行わせることもできるが、少なくともいずれか一部の機能を有するものであってもよい。
以上のような本発明のレイヤー生成・選択機能を備えたCVタグ映像表示装置においてCV映像・レイヤーに入力・表示されるCVタグは様々な分野で利用可能である。
CVタグの利用の具体例を以下に示す。
・現場CV映像の街灯をクリックすれば、街灯のライトをON,OFFすることができる。
・花壇のリアルタイムCV映像であれば、花がしおれている状況をCV映像で確認すれば、散水栓のスイッチをONにすることができる、等である。
・信号機、ビルのシャッター等、リアルタイムのCV映像でコントロールして結果を視覚的に確認することが可能になる。これはICタグではできないことであり、ユビキタス社会の目指す社会でもある。
・リアルタイムCV映像中で、バス停をクリックすれば、バス時刻表を表示する。
・道路の舗装が痛んでいる所をCVタグで示して通報する。
・CV映像中のビル面にタグを貼り付けて、テナント募集をする。
・CV映像中のホテル面にタグを貼り付けて、予約する。
・CV映像中のレストランのタグを開いて予約する。
・CV映像中の道路の事故現場に事故記録を書き込む。
・CV映像中の道路上のCVタグで、道路事務所から道路使用者への関係情報を送る。
・CV映像中のCVタグで対象を特定して、客からの他の客向けの情報発信をする。
・地図とCV映像をリンクし、又は地図と空撮CV映像と座標合わせし、空撮と地上撮とをリンクし、空撮映像にもCVタグを貼り付け、空撮のCV映像のCVタグから、地上のCV映像のCVタグに切り替え、さらに、ビルの内部のCV映像中へ入り、各階の個別の商品や対象物にCVタグを貼り付け、それを利用者で共有して扱う。
CVタグ利用を分野別に分類すると、以下のようになる。
・道路管理:人工構造物と自然物の属性、トレーサビリティー
・公共設備:標識、標示、電柱、電話柱、道路、河川、橋、鉄道、駅、街路樹、花壇、街灯、ロードヒーティング施設、ガードレール、縁石、バス停、港湾
・民間施設:民間看板、家、ビル、店舗
・工事現場、事故現場、商品価格
・PC:ホルダ、アイコン
・移動体:車両、荷物、入室者
・時間変化するもの:信号機、遮断器
・自然物:山、自然川、樹木、街路樹、岩
・スイッチ:ドアロック、ライト点灯、信号切り替え、線路切り替え、家電品、
・オフライン処理:Webによるタグ処理、スタンドアロン、Webによる配信
(1)情報提供者の立場でCVタグを貼り付け、CV映像とCVタグで場所を特定して利用者に情報を提供する。
(2)対象物施設管理者の立場で、管理情報としてCV映像とCVタグで場所を特定して管理者が自身で利用する。
(3)利用者の立場で、共通の目的を持つ人がCV映像とCVタグで場所を特定してCVタグを共用して共同作業をする。
(4)利用予定者の立場で、CV映像とCVタグで場所を特定して募集やイベントの集客としてCVタグを利用する。
(5)市民の立場で、CV映像とCVタグで場所を特定して国民の立場で、要望や考えをCVタグに書き込んでおく。
(6)行政の立場で情報発信をCVタグで場所を特定して行う。
・災害時の利用の立場で、CV映像とCVタグで場所を特定して情報を知らせる。
・消防警察の立場でCV映像とCVタグで場所を特定して情報を知らせる。
・建築現場確認として、CV映像とCVタグで場所を特定して情報を知らせる。
(7)第三者利用の立場で、CV映像とCVタグで場所を特定して掲示板的に情報媒体として利用する。
(8)関連広告媒体として、CV映像とCVタグで場所を特定して広告する。
(9)業者による利用として、CV映像とCVタグで場所を特定して業務に利用する。
・不動産等では対象の土地建物
・レストランでは、場所と環境と店内、及びメニュー、予約
・ホテルでは、場所、環境、案内、予約
・タクシー会社では、予約場所と着地点の映像と関連情報
・ゼネコンでは工事現場と、景観シミュレーション
また、管理者装置とユーザ装置の接続環境としては、インターネットのみに限らず、LAN,WAN,専用回線接続等、管理者装置とユーザ装置との間でデータ通信が行える形態であればどのようなものでもよい。
100 レイヤー生成・選択機能を備えたCVタグ映像表示装置
200 管理者装置(Webサイト管理者)
201 CV映像記憶手段
202 レイヤー生成手段
203 レイヤー記憶手段
204 CVタグ入力手段
205 CVタグ記憶手段
206 CVタグ検索手段
207 二次元地図記憶手段
208 リアルタイム映像手段
209 ID管理手段
300 ユーザ装置(ユーザ)
300a ディスプレイ
301 CV映像選択表示手段
302 レイヤー選択統合手段
303 CVタグ選択表示手段
304 タグ情報選択表示手段
305 二次元地図表示手段
306 カメラ位置表示手段
Claims (6)
- 管理者装置と、この管理者装置とネットワークを介して通信可能に接続された一又は二以上のユーザ装置とを備え、
前記管理者装置は、
任意の対象エリアを撮影したビデオ映像に撮影時のカメラの位置と姿勢の三次元値を示す所定のCV値を付加したCV映像を記憶したCV映像記憶手段と、
前記CV映像に重なる当該CV映像と同じ座標系を持つ一又は二以上のレイヤーを生成するレイヤー生成手段と、
前記レイヤーを対応するCV映像と関連付けて記憶するレイヤー記憶手段と、
前記レイヤー中の指定範囲内の任意の三次元座標に所定のCVタグを配置するCVタグ入力手段と、
前記レイヤー毎に配置されたCVタグを所定の関連情報とともに記憶するCVタグ記憶手段と、
前記レイヤー毎に前記CVタグ記憶手段に記憶されたCVタグ又はその関連情報を検索・抽出して前記ユーザ装置に配信するCVタグ検索手段と、
当該管理者装置内に記録された全てのCV映像、レイヤー、CVタグ、及びCVタグ内の関連情報を管理し、ユーザ装置から要求されたデータを選択し、組み合わせて前記ユーザ装置に配信し、又は記録するID管理手段と、を備え、
前記ユーザ装置は、
ユーザインターフェースの入力操作に応じて、ネットワークを介して前記管理者装置に接続され、
所定の画像を表示するディスプレイと、
前記管理者装置の前記CV映像記憶手段に記憶されるCV映像の中から所望の場所のCV映像を選択・受信して、前記ディスプレイ上に表示させるCV映像選択表示手段と、
前記管理者装置の前記レイヤー生成手段に所望のレイヤーを生成させ、又は前記レイヤー記憶手段に記憶されるレイヤーの中から、前記CV映像選択表示手段で選択されたCV映像に対応する複数のレイヤーの中から所望のレイヤーを選択し、前記生成又は選択したレイヤーを受信して前記CV映像と座標統合するレイヤー選択統合手段と、
前記レイヤー選択統合手段により選択されたレイヤーに配置されたCVタグを選択し、座標統合された前記レイヤー上に統合することで、前記ディスプレイ上に前記CV映像と合成表示するCVタグ選択表示手段と、
前記CV映像に合成表示された前記CVタグを指定して当該CVタグの関連情報を編集、分類、統合、検索、削除等を可能にして前記ディスプレイ上に表示させるタグ情報選択表示手段と、を備えることを特徴とするレイヤー生成・選択機能を備えたCVタグ映像表示装置。 - 前記管理者装置は、
前記CV映像記憶手段に記憶されたCV映像に対応する二次元地図を記憶する二次元地図記憶手段を備え、
前記ユーザ装置は、
前記二次元地図記憶手段から所望の二次元地図を選択し、受信して前記ディスプレイ上に表示させる二次元地図表示手段と、
前記ディスプレイ上に表示された前記二次元地図上に、対応するCV映像の撮影位置及び進行方向を表示するカメラ位置表示手段と、を備え、
前記CV映像選択表示手段が、表示された前記二次元地図上で指定してされた任意の点に対応するCV映像を前記CV映像記憶手段から選択し受信して、前記ディスプレイ上に表示させる請求項1記載のレイヤー生成・選択機能を備えたCVタグ映像表示装置。 - 前記ユーザ装置が、
前記管理者装置のCV映像記憶手段に記憶されるCV映像、前記CVタグ記憶手段に記憶されるCVタグ及び関連情報、前記レイヤー記憶手段に記憶されるレイヤー情報、前記二次元地図記憶手段に記憶される二次元地図情報のうち、所定の情報の一部又は全部を当該管理者装置に代わって記憶する記憶手段を備える請求項2記載のレイヤー生成・選択機能を備えたCVタグ映像表示装置。 - 前記管理者装置が、
前記CV映像記憶手段に記憶されたCV映像に対応するリアルタイム映像を取得して、前記ディスプレイ上に表示された当該CV映像中に合成表示するリアルタイム映像手段を備える請求項1乃至3のいずれか一項記載のレイヤー生成・選択機能を備えたCVタグ映像表示装置。 - 前記ユーザ装置が、
前記管理者装置の前記レイヤー記憶手段に記憶されるレイヤー情報のうち、当該ユーザ装置により生成されたレイヤーに関するレイヤー情報を、前記管理者装置に代わって記憶する記憶手段を備える請求項1乃至4のいずれか一項記載のレイヤー生成・選択機能を備えたCVタグ映像表示装置。 - 前記CV映像記憶手段が、
前記CV映像として、同一の対象エリアについて異なる時間で撮影した複数のCV映像を記憶する請求項1乃至5のいずれか一項記載のレイヤー生成・選択機能を備えたCVタグ映像表示装置。
Priority Applications (5)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006351698A JP4870546B2 (ja) | 2006-12-27 | 2006-12-27 | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
PCT/JP2007/075020 WO2008078790A1 (ja) | 2006-12-27 | 2007-12-26 | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
US12/448,611 US8218943B2 (en) | 2006-12-27 | 2007-12-26 | CV tag video image display device provided with layer generating and selection functions |
EP20070860249 EP2104074A4 (en) | 2006-12-27 | 2007-12-26 | VIDEO MARKER VIDEO DISPLAY DEVICE HAVING GENERATING AND LAYER SELECTION FUNCTIONS |
CA002673908A CA2673908A1 (en) | 2006-12-27 | 2007-12-26 | Cv tag video image display device provided with layer generating and selection functions |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2006351698A JP4870546B2 (ja) | 2006-12-27 | 2006-12-27 | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2008165331A true JP2008165331A (ja) | 2008-07-17 |
JP4870546B2 JP4870546B2 (ja) | 2012-02-08 |
Family
ID=39562581
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2006351698A Active JP4870546B2 (ja) | 2006-12-27 | 2006-12-27 | レイヤー生成・選択機能を備えたcvタグ映像表示装置 |
Country Status (5)
Country | Link |
---|---|
US (1) | US8218943B2 (ja) |
EP (1) | EP2104074A4 (ja) |
JP (1) | JP4870546B2 (ja) |
CA (1) | CA2673908A1 (ja) |
WO (1) | WO2008078790A1 (ja) |
Cited By (10)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010238066A (ja) * | 2009-03-31 | 2010-10-21 | Fujitsu Frontech Ltd | 自律移動ロボットおよびWebサーバ |
WO2010151836A2 (en) * | 2009-06-25 | 2010-12-29 | Adam Vital Iii | Robust tagging systems and methods |
JP2012220986A (ja) * | 2011-04-04 | 2012-11-12 | Nec Casio Mobile Communications Ltd | 表示システムおよび負荷分散方法 |
KR20150079005A (ko) * | 2013-12-31 | 2015-07-08 | 주식회사 케이티 | 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치 |
JP2016048856A (ja) * | 2014-08-27 | 2016-04-07 | 株式会社リコー | 画像表示システム、画像表示装置、画像表示方法、およびプログラム |
JP2016219020A (ja) * | 2010-06-30 | 2016-12-22 | ノキア テクノロジーズ オーユー | 拡張現実において、一定のレベルの情報を提供する方法・装置・コンピュータプログラム |
JP2017107434A (ja) * | 2015-12-10 | 2017-06-15 | 株式会社リコー | プログラム、情報処理装置、画像表示方法、画像処理システム |
JP2018194968A (ja) * | 2017-05-15 | 2018-12-06 | 富士通株式会社 | 表示プログラム、表示方法、表示装置 |
JP2019527437A (ja) * | 2016-09-29 | 2019-09-26 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 位置共有方法、位置共有装置及び位置共有システム |
US11256930B2 (en) | 2019-10-24 | 2022-02-22 | Kabushiki Kaisha Toshiba | Road surface management system and road surface management method thereof |
Families Citing this family (31)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8600098B2 (en) * | 2008-09-25 | 2013-12-03 | Volkswagen Ag | Method for processing a satellite image and/or an aerial image |
US8427508B2 (en) * | 2009-06-25 | 2013-04-23 | Nokia Corporation | Method and apparatus for an augmented reality user interface |
US8331611B2 (en) | 2009-07-13 | 2012-12-11 | Raytheon Company | Overlay information over video |
US8558847B2 (en) * | 2009-07-13 | 2013-10-15 | Raytheon Company | Displaying situational information based on geospatial data |
KR20110053133A (ko) * | 2009-11-13 | 2011-05-19 | 삼성전자주식회사 | 데이터 표시 방법 및 장치 |
US8543917B2 (en) * | 2009-12-11 | 2013-09-24 | Nokia Corporation | Method and apparatus for presenting a first-person world view of content |
WO2011144793A1 (en) * | 2010-05-18 | 2011-11-24 | Teknologian Tutkimuskeskus Vtt | Mobile device, server arrangement and method for augmented reality applications |
US9910866B2 (en) * | 2010-06-30 | 2018-03-06 | Nokia Technologies Oy | Methods, apparatuses and computer program products for automatically generating suggested information layers in augmented reality |
KR20120028491A (ko) * | 2010-09-15 | 2012-03-23 | 삼성전자주식회사 | 이미지 데이터 관리장치 및 방법 |
US8952983B2 (en) | 2010-11-04 | 2015-02-10 | Nokia Corporation | Method and apparatus for annotating point of interest information |
EP2527787B1 (en) * | 2011-05-23 | 2019-09-11 | Kabushiki Kaisha TOPCON | Aerial photograph image pickup method and aerial photograph image pickup apparatus |
US9497443B1 (en) | 2011-08-30 | 2016-11-15 | The United States Of America As Represented By The Secretary Of The Navy | 3-D environment mapping systems and methods of dynamically mapping a 3-D environment |
TWI456979B (zh) * | 2011-12-14 | 2014-10-11 | Acer Inc | 視訊播放裝置及其操作方法 |
US9797981B2 (en) * | 2012-03-06 | 2017-10-24 | Nissan Motor Co., Ltd. | Moving-object position/attitude estimation apparatus and moving-object position/attitude estimation method |
CN103473227B (zh) * | 2012-06-06 | 2015-07-01 | 腾讯科技(深圳)有限公司 | 微博动态显示方法和装置 |
EP2689650B1 (en) * | 2012-07-27 | 2014-09-10 | Honda Research Institute Europe GmbH | Trainable autonomous lawn mower |
JP6122591B2 (ja) | 2012-08-24 | 2017-04-26 | 株式会社トプコン | 写真測量用カメラ及び航空写真装置 |
US9317879B1 (en) | 2013-01-02 | 2016-04-19 | Imdb.Com, Inc. | Associating collections with subjects |
JP6271917B2 (ja) * | 2013-09-06 | 2018-01-31 | キヤノン株式会社 | 画像記録装置及び撮像装置 |
JP6201148B2 (ja) * | 2013-12-20 | 2017-09-27 | パナソニックIpマネジメント株式会社 | キャリブレーション装置、キャリブレーション方法、キャリブレーション機能を備えた移動体搭載用カメラ及びプログラム |
US9473745B2 (en) | 2014-01-30 | 2016-10-18 | Google Inc. | System and method for providing live imagery associated with map locations |
US10091418B2 (en) * | 2014-10-24 | 2018-10-02 | Bounce Imaging, Inc. | Imaging systems and methods |
US20170111587A1 (en) * | 2015-10-14 | 2017-04-20 | Garmin Switzerland Gmbh | Navigation device wirelessly coupled with auxiliary camera unit |
CN105872408A (zh) * | 2015-12-04 | 2016-08-17 | 乐视致新电子科技(天津)有限公司 | 图像处理方法及设备 |
JP2017138719A (ja) * | 2016-02-02 | 2017-08-10 | 株式会社リコー | 情報処理システム、情報処理方法、および情報処理プログラム |
KR20180051288A (ko) * | 2016-11-08 | 2018-05-16 | 삼성전자주식회사 | 디스플레이 장치 및 그 제어 방법 |
JP6775776B2 (ja) * | 2017-03-09 | 2020-10-28 | 株式会社岩根研究所 | 自由視点移動表示装置 |
US10757358B1 (en) * | 2019-06-05 | 2020-08-25 | Primesensor Technology Inc. | Photographing device having two output interfaces |
JP7373294B2 (ja) | 2019-04-12 | 2023-11-02 | 株式会社ソニー・インタラクティブエンタテインメント | 画像処理装置、画像提供サーバ、画像表示方法、および画像提供方法 |
JP2021043486A (ja) * | 2019-09-06 | 2021-03-18 | 株式会社東芝 | 位置推定装置 |
CN113505139B (zh) * | 2021-09-10 | 2021-12-07 | 成都国星宇航科技有限公司 | 基于单服务的遥感影像自动化更新及历史回溯方法及装置 |
Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09319896A (ja) * | 1996-03-25 | 1997-12-12 | Hitachi Ltd | 3次元画像作成装置 |
JP2003287434A (ja) * | 2002-01-25 | 2003-10-10 | Iwane Kenkyusho:Kk | 画像情報検索システム |
JP2005122315A (ja) * | 2003-10-14 | 2005-05-12 | Kazuo Iwane | 3dcg合成装置 |
JP2006053694A (ja) * | 2004-08-10 | 2006-02-23 | Riyuukoku Univ | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 |
Family Cites Families (9)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP3099103B2 (ja) | 1993-05-28 | 2000-10-16 | 建設省関東地方建設局長 | 道路・河川等の現況ビデオ検索装置 |
US6597818B2 (en) * | 1997-05-09 | 2003-07-22 | Sarnoff Corporation | Method and apparatus for performing geo-spatial registration of imagery |
JP2001005764A (ja) | 1999-06-21 | 2001-01-12 | To Be Life Institute Kk | インターネットを利用した位置情報提供システム |
JP2002304537A (ja) | 2001-04-06 | 2002-10-18 | Rakuten Books Kk | 商品注文システム |
US7096428B2 (en) * | 2001-09-28 | 2006-08-22 | Fuji Xerox Co., Ltd. | Systems and methods for providing a spatially indexed panoramic video |
US7389181B2 (en) * | 2004-08-31 | 2008-06-17 | Visre, Inc. | Apparatus and method for producing video drive-by data corresponding to a geographic location |
US6690883B2 (en) * | 2001-12-14 | 2004-02-10 | Koninklijke Philips Electronics N.V. | Self-annotating camera |
JP4446041B2 (ja) * | 2003-10-02 | 2010-04-07 | 株式会社岩根研究所 | カメラベクトル演算装置と、このカメラベクトル演算装置に備えられる揺れ成分検出装置,画像安定化装置,位置姿勢安定化装置,目的対象物ロックオン装置及び実写対象物属性呼出装置 |
WO2007027847A2 (en) * | 2005-09-01 | 2007-03-08 | Geosim Systems Ltd. | System and method for cost-effective, high-fidelity 3d-modeling of large-scale urban environments |
-
2006
- 2006-12-27 JP JP2006351698A patent/JP4870546B2/ja active Active
-
2007
- 2007-12-26 US US12/448,611 patent/US8218943B2/en active Active
- 2007-12-26 WO PCT/JP2007/075020 patent/WO2008078790A1/ja active Application Filing
- 2007-12-26 CA CA002673908A patent/CA2673908A1/en not_active Abandoned
- 2007-12-26 EP EP20070860249 patent/EP2104074A4/en not_active Withdrawn
Patent Citations (4)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JPH09319896A (ja) * | 1996-03-25 | 1997-12-12 | Hitachi Ltd | 3次元画像作成装置 |
JP2003287434A (ja) * | 2002-01-25 | 2003-10-10 | Iwane Kenkyusho:Kk | 画像情報検索システム |
JP2005122315A (ja) * | 2003-10-14 | 2005-05-12 | Kazuo Iwane | 3dcg合成装置 |
JP2006053694A (ja) * | 2004-08-10 | 2006-02-23 | Riyuukoku Univ | 空間シミュレータ、空間シミュレート方法、空間シミュレートプログラム、記録媒体 |
Cited By (13)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2010238066A (ja) * | 2009-03-31 | 2010-10-21 | Fujitsu Frontech Ltd | 自律移動ロボットおよびWebサーバ |
WO2010151836A2 (en) * | 2009-06-25 | 2010-12-29 | Adam Vital Iii | Robust tagging systems and methods |
WO2010151836A3 (en) * | 2009-06-25 | 2011-04-21 | Adam Vital Iii | Robust tagging systems and methods |
JP2016219020A (ja) * | 2010-06-30 | 2016-12-22 | ノキア テクノロジーズ オーユー | 拡張現実において、一定のレベルの情報を提供する方法・装置・コンピュータプログラム |
JP2012220986A (ja) * | 2011-04-04 | 2012-11-12 | Nec Casio Mobile Communications Ltd | 表示システムおよび負荷分散方法 |
KR20150079005A (ko) * | 2013-12-31 | 2015-07-08 | 주식회사 케이티 | 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치 |
KR102120786B1 (ko) | 2013-12-31 | 2020-06-09 | 주식회사 케이티 | 제약없는 시공간 위치 기반 비디오 컨텐츠를 제공하는 방법 및 장치 |
JP2016048856A (ja) * | 2014-08-27 | 2016-04-07 | 株式会社リコー | 画像表示システム、画像表示装置、画像表示方法、およびプログラム |
JP2017107434A (ja) * | 2015-12-10 | 2017-06-15 | 株式会社リコー | プログラム、情報処理装置、画像表示方法、画像処理システム |
JP2019527437A (ja) * | 2016-09-29 | 2019-09-26 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | 位置共有方法、位置共有装置及び位置共有システム |
US11347386B2 (en) | 2016-09-29 | 2022-05-31 | Beijing Baidu Netcom Science And Technology Co., Ltd. | Method and device for sharing position |
JP2018194968A (ja) * | 2017-05-15 | 2018-12-06 | 富士通株式会社 | 表示プログラム、表示方法、表示装置 |
US11256930B2 (en) | 2019-10-24 | 2022-02-22 | Kabushiki Kaisha Toshiba | Road surface management system and road surface management method thereof |
Also Published As
Publication number | Publication date |
---|---|
EP2104074A4 (en) | 2012-06-27 |
WO2008078790A1 (ja) | 2008-07-03 |
EP2104074A1 (en) | 2009-09-23 |
US8218943B2 (en) | 2012-07-10 |
CA2673908A1 (en) | 2008-07-03 |
JP4870546B2 (ja) | 2012-02-08 |
US20100061701A1 (en) | 2010-03-11 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP4870546B2 (ja) | レイヤー生成・選択機能を備えたcvタグ映像表示装置 | |
JP7133470B2 (ja) | ネットワークの拡張現実表現のためのシステムおよび方法 | |
US8315456B2 (en) | Methods and apparatus for auditing signage | |
US7570261B1 (en) | Apparatus and method for creating a virtual three-dimensional environment, and method of generating revenue therefrom | |
Behzadan et al. | Georeferenced registration of construction graphics in mobile outdoor augmented reality | |
JP4236372B2 (ja) | 空間情報利用システムおよびサーバシステム | |
CN103971589B (zh) | 将地图的兴趣点信息添加于街景图像中的处理方法及装置 | |
JP2004048674A (ja) | 視野一致型情報呈示システム、並びに、それに用いられる携帯情報端末及びサーバ | |
US20050128212A1 (en) | System and method for minimizing the amount of data necessary to create a virtual three-dimensional environment | |
US20080285886A1 (en) | System For Displaying Images | |
JP2006351024A (ja) | 視野一致型情報呈示システム及びそれに用いられる携帯情報端末 | |
Narzt et al. | Pervasive information acquisition for mobile AR-navigation systems | |
CN107131884A (zh) | 基于设备的方向信息的设备交易模型和服务 | |
CN102037325A (zh) | 用于以3d显示导航数据的计算机布置及方法 | |
CN102037326A (zh) | 以3d显示导航数据的方法 | |
CN101833896A (zh) | 基于增强现实的地理信息指引方法与*** | |
JP2006091390A (ja) | 情報表示システム及び情報表示方法及び情報表示方法をコンピュータに実行させるためのプログラム及び情報表示端末装置 | |
Mata et al. | An experimental virtual museum based on augmented reality and navigation | |
JP5111785B2 (ja) | Cv映像によるcvタグ入出力検索装置 | |
Ayyanchira et al. | Toward cross-platform immersive visualization for indoor navigation and collaboration with augmented reality | |
Kadi et al. | Mobile application development with augmented reality for promoting tourism objects in Southwest Sumba | |
Haala et al. | A multi-sensor system for positioning in urban environments | |
Adăscăliţei et al. | The Influence of Augmented Reality in Construction and Integration into Smart City. | |
Preetha et al. | Design and implementation of an augmented reality mobile application for navigating ATM counters (AR-ATM) | |
JP2006344226A (ja) | 視野一致型情報呈示システム及びそれに用いられる携帯情報端末 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090710 |
|
A711 | Notification of change in applicant |
Free format text: JAPANESE INTERMEDIATE CODE: A711 Effective date: 20090824 |
|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20091202 |
|
RD03 | Notification of appointment of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7423 Effective date: 20091202 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20111004 |
|
A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20111013 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20111115 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20111117 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 Ref document number: 4870546 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20141125 Year of fee payment: 3 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313114 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |