JP2002269592A - 画像処理装置及び方法 - Google Patents

画像処理装置及び方法

Info

Publication number
JP2002269592A
JP2002269592A JP2001063922A JP2001063922A JP2002269592A JP 2002269592 A JP2002269592 A JP 2002269592A JP 2001063922 A JP2001063922 A JP 2001063922A JP 2001063922 A JP2001063922 A JP 2001063922A JP 2002269592 A JP2002269592 A JP 2002269592A
Authority
JP
Japan
Prior art keywords
frame data
data
image
image processing
frame
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001063922A
Other languages
English (en)
Other versions
JP3432212B2 (ja
Inventor
Daisuke Kotake
大輔 小竹
Akihiro Katayama
昭宏 片山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mixed Reality Systems Laboratory Inc
Original Assignee
Mixed Reality Systems Laboratory Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Mixed Reality Systems Laboratory Inc filed Critical Mixed Reality Systems Laboratory Inc
Priority to JP2001063922A priority Critical patent/JP3432212B2/ja
Priority to US09/818,605 priority patent/US7120313B2/en
Publication of JP2002269592A publication Critical patent/JP2002269592A/ja
Application granted granted Critical
Publication of JP3432212B2 publication Critical patent/JP3432212B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/003D [Three Dimensional] image rendering
    • G06T15/10Geometric effects
    • G06T15/20Perspective computation
    • G06T15/205Image-based rendering
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • G06T1/20Processor architectures; Processor configuration, e.g. pipelining
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating 3D models or images for computer graphics
    • G06T19/003Navigation within 3D models or images
    • GPHYSICS
    • G06COMPUTING; CALCULATING OR COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/50Image enhancement or restoration using two or more images, e.g. averaging or subtraction

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Software Systems (AREA)
  • Computer Graphics (AREA)
  • Remote Sensing (AREA)
  • Radar, Positioning & Navigation (AREA)
  • Geometry (AREA)
  • Computing Systems (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Instructional Devices (AREA)
  • Processing Or Creating Images (AREA)
  • Studio Devices (AREA)

Abstract

(57)【要約】 【課題】IBR技術を用いてウォークスルー可能な仮想
空間を構築するにおいて、仮想空間再生のためのパノラ
マ画像を効率的に生成、保持可能とする。 【解決手段】それぞれ異なる方向を撮影する複数の撮像
装置を移動させながら撮影して得られた画像データに基
づいて、複数のフレームデータが生成、保持される。そ
して、保持された複数のフレームデータより、連続する
フレームデータからなるフレームデータ群であって、同
じ位置で撮影されたものと判定されたフレームデータか
らなるフレームデータ群を抽出する(S101〜S11
0)。そして、抽出されたフレームデータについて、同
じ位置で一つのフレームデータが存在するようにフレー
ムデータを削除する(S106、S111)。こうし
て、地図上の複数位置に対応したフレームデータを格納
するにあたって、間引かれたフレームデータが地図上の
位置に対応づけて格納される。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、実空間の撮影によ
って得られた画像データをもとに仮想空間を表現する画
像処理装置及びその方法に関する。
【0002】
【従来の技術】移動体に搭載された撮影装置によって現
実空間を撮影し、撮影された実写画像データをもとに、
撮影した現実空間を計算機を用いて仮想空間として表現
する試みが提案されている(例えば遠藤、片山、田村、
廣瀬、渡辺、谷川:“移動車輌搭載カメラを用いた都市
空間の電脳映像化について”(信学ソサイエティ、PA-3
-4、pp.276-277、1997年)、または廣瀬、渡辺、谷川、
遠藤、片山、田村:“移動車輌搭載カメラを用いた電脳
映像都市空間の構築(2)−実写画像を用いた広域仮想空
間の生成−”(日本バーチャルリアリティ学会第2回大
会論文集、pp.67-70、1997年)などを参照)。
【0003】移動体に搭載された撮影装置によって撮影
された実写画像データをもとに、撮影した現実空間を仮
想空間として表現する手法としては、実写画像データを
もとに現実空間の幾何形状モデルを再現し、従来のCG
技術で表現する手法が挙げられるが、モデルの正確性や
精密度、写実性などの点で限界がある。一方、モデルを
用いた再現を行わずに、実写画像を用いて仮想空間を表
現するImage-Based Rendering(IBR)技術が近年注
目を集めている。IBR技術は、複数の実写画像をもと
に、任意の視点から見た画像を生成する技術である。I
BR技術は実写画像に基づいているために、写実的な仮
想空間の表現が可能である。
【0004】このようなIBR技術を用いてウォークス
ルー可能な仮想空間を構築するためには、体験者の仮想
空間内の位置に応じた画像の生成・呈示を行う必要があ
る。そのため、この種のシステムにおいては、実写画像
データの各フレームと仮想空間内の位置とを対応付けて
保存しておき、体験者の仮想空間における位置と視点方
向に基づいて対応するフレームを取得し、これを再生す
る。
【0005】現実空間内の位置データを得る手法として
は、カー・ナビゲーション・システムなどにも用いられ
ているGPS(Global Positioning System)に代表さ
れる人工衛星を用いた測位システムを利用するのが一般
的である。GPSなどから得られる位置データと、実写
画像データを対応付ける手法としては、タイムコードを
用いて対応付ける手法が提案されている(特開平11-168
754)。この手法では、位置データに含まれる時刻デー
タと、実写画像データの各フレームに付加したタイムコ
ードとを対応付けることで、実写画像データの各フレー
ムと位置データとの対応付けを行う。
【0006】このような仮想空間内のウォークスルーに
おいては、体験者が各視点位置で所望の方向をみること
ができるようにする。このため、各視点位置の画像を、
再生時の画角よりも広い範囲をカバーするパノラマ画像
で保存しておき、体験者の仮想空間における視点位置と
視線方向とに基づいてパノラマ画像から再生すべき部分
画像を切り出し、これを表示することが考えられる。
【0007】
【発明が解決しようとする課題】しかしながら、移動体
として車輌を用いて、これに搭載された撮影装置によっ
て都市空間の撮影を行った場合、信号の状況や交通の混
雑状況等により、物理的に同じ地点の画像データが複数
フレームにわたって撮影されてしまう。このため、収集
された実写画像データは同一箇所のパノラマ画像を多く
含むことになる。これはいうまでもなくデータの重複の
原因となり、例えばウォークスルー再生のためのパノラ
マ画像のデータベースを構築する際に無駄なパノラマ画
像を蓄積することとなる。当然、ハードディスク等の記
憶媒体資源の無駄な消費にもつながる。
【0008】本発明は上記の課題に鑑みてなされたもの
であり、IBR技術を用いてウォークスルー可能な仮想
空間を構築するにおいて、仮想空間再生のためのパノラ
マ画像を効率的に生成、保持可能とすることを目的とす
る。
【0009】
【課題を解決するための手段】上記の目的を達成するた
めの本発明による画像再生装置は以下の構成を備える。
すなわち、複数の位置を移動しながら入力された画像デ
ータから得られる複数のフレームデータを保持する保持
手段と、前記保持手段に保持された複数のフレームデー
タより、実質的に同じ位置で撮影されたものと判定され
たフレームデータを抽出する抽出手段と、前記抽出手段
で抽出された重複するフレームデータを削除する削除手
段と、前記削除手段の実行後に残ったフレームデータ
を、地図上の位置に対応づけて格納する格納手段とを備
える。
【0010】また、上記の目的を達成するための本発明
による画像再生方法は以下の工程を備える。すなわち、
複数の撮像装置によって得られた画像データから得られ
る複数のフレームデータを保持した保持手段より、実質
的に同じ位置で撮影されたものと判定されたフレームデ
ータを抽出する抽出工程と、前記抽出工程で抽出された
重複するフレームデータを削除する削除工程と、前記削
除工程の実行後に残ったフレームデータを、地図上の位
置に対応づけて格納する格納工程とを備える。
【0011】
【発明の実施の形態】以下、添付図面を参照しながら、
本発明の好適な実施形態を説明する。
【0012】<第1の実施形態>まず、本実施形態によ
る仮想空間のウォークスルーシステムについて説明す
る。本実施形態では、例えば自動車などの移動体に搭載
された複数の撮影装置によって撮影して得られた実写画
像データからパノラマ画像データを生成し、このパノラ
マ画像データを現実空間の位置としての地図データと対
応付けて保持する。そして、体験者の仮想空間における
視点位置と視線方向に応じて、保持されているパノラマ
画像データから表示画像を生成することにより、仮想空
間内のウォークスルーを実現する。
【0013】図1は本実施形態によるウォークスルーシ
ステムの機能構成を説明するブロック図である。本ウォ
ークスルーシステムは、画像データ収集システム90と
画像再生装置1とを含んで構成される。画像再生装置1
は、画像データ保存部10、地図データ保存部20、画
像・地図対応付け部30、操作部40、対応付けデータ
保存部50、画像再生制御部60、表示部70を有す
る。
【0014】画像データ保存部10は、後で詳述する画
像データ収集システム90によって得られた実写画像デ
ータとしてのフレームデータを格納する。地図データ保
存部20は、地図のイメージ情報と該地図イメージ上の
各位置を経度と緯度に関連した座標で表すための座標情
報を含む地図データを格納する。地図データ保存部20
には、少なくとも画像データ収集システム90によって
撮影され、画像データ保存部10に保存されたフレーム
データの現実空間位置に対応した範囲の地図データが保
存されている。なお、地図データは、不図示のハードデ
ィスク、RAMまたは他の外部記憶装置に保存される。
【0015】画像・地図対応付け部30は、画像データ
保存部10に保存されているフレームデータから各視点
位置のパノラマ画像データを生成し、これを地図データ
保存部20に保存されている地図データと対応付ける。
こうして対応付けされたパノラマ画像データと地図デー
タは、対応付けデータとして対応付けデータ保存部50
に保存される。なお、画像・地図対応付け部30では、
同一時刻において複数の撮影装置から得られたフレーム
データからパノラマ画像を生成し、その時刻におけるG
PS情報から対応する地図データ(地図上の位置デー
タ)を特定し、これらを対応付け、対応付けデータ保存
部50に保存する。後述するように、GPS情報と複数
の撮影装置から得られたフレームデータの各々にはタイ
ムコードが付加され、このタイムコードにより同一時刻
のフレーム、GPS情報が取得される。
【0016】操作部40は、マウス、キーボード、ジョ
イスティック等を備える。なお、上述の画像・地図対応
付け部30において、操作部40からの操作入力に従っ
て、画像データ保存部10に保存されたフレームと地図
データ保存部20に保存された地図データとの対応付け
を編集可能としてもよい。
【0017】画像再生制御部60は、操作部40からの
操作入力に従って体験者の視点位置(地図上の位置)、
視線方向を決定し、対応付けデータ保存部50で保存さ
れたデータから必要な画像データを読み出し、表示部7
0で表示を行うための画像データを生成する。
【0018】図2は、画像データ保存部10に保存され
るフレームデータを収集するための画像データ収集シス
テム90の構成例を示す図である。図2に示されるよう
に、この画像データ収集システム90は、撮影部91、
記録部92、A/D変換部93の3つの部分に分けられ
る。以下、各部について、図3〜図5を参照して詳細に
説明する。
【0019】図3は、撮影部91の構成を詳細に示すブ
ロック図である。本実施形態では、撮影部91は車輌な
どの移動体に搭載して用いられる。撮影部91は、n台
(n≧1)のビデオカメラ(91−1〜n)と同期信号
発生部94から成る。ビデオカメラ91−1〜nにはそ
れぞれ同期信号発生部94からの外部同期信号を入力す
ることが可能であり、本実施形態では、同期信号発生部
94より出力される外部同期信号を用いてビデオカメラ
91−1〜nのn台の撮影タイミングを一致させてい
る。
【0020】図4は、記録部92の構成を詳細に示すブ
ロック図である。記録部92はタイムコード発生部95
と、ビデオカメラ91−1〜nに対応する録画部(本例
ではビデオカセットレコーダVCR)92−1〜nとを
備える。撮影部91のn台のビデオカメラ91−1〜n
からの画像出力は、それぞれ録画部92−1〜nの入力
となる。また、タイムコード発生部95は、撮影時刻を
表すタイムコードを各VCR92−1〜nに供給する。
VCR92−1〜nは、対応するビデオカメラからの画
像入力とタイムコード発生部95からのタイムコードを
取り込み、タイムコードつきのビデオデータとして記録
する。
【0021】以上のようにしてVCR92−1〜nのそ
れぞれに収集された画像情報は、A/D変換部93によ
ってディジタルの画像データに変換され、画像データ保
存部10に保存される。図5は、A/D変換部93の構
成を詳細に示すブロック図である。A/D変換部93
は、パーソナルコンピュータ(以下PC)96と、VC
R92−1〜nの各々に対応するビデオ・キャプチャ・
ボード(以下、キャプチャ・ボード)93−1〜nを有
する。キャプチャ・ボードは必ずしもビデオカメラの台
数分必要ではなく、PCに搭載できる数のキャプチャ・
ボードを共有してもよい。A/D変換部93は、各VC
Rから供給されるアナログ画像データをディジタル画像
データ(例えばAVIフォーマット)に変換し、PC9
6に接続された、ハードディスク等を含んで構成される
画像データ保存部10またはその他の記憶媒体に保存す
る。
【0022】更に、本システムにおいては、タイムコー
ド発生部95からタイムコードが発生するタイミングで
GPS97より位置データを取得し、取得した位置デー
タをその時点のタイムコードと対応付けて保持する。
【0023】図6は画像データ保存部10におけるビデ
オデータと位置データ(GPS測定結果データ)の格納
状態例を示す図である。図6に示すように、画像データ
保存部10には、タイムコードが付加されたフレームと
タイムコードが付加された位置データとが格納されるこ
とになる。よって、このタイムコードを介して、フレー
ムと位置データが対応付けられる。なお、図6では1つ
のビデオカメラからのビデオデータしか示していない
が、ビデオデータは上述したようにビデオカメラの台数
分(n台分)が存在する。
【0024】なお、GPSにおける3次元位置の算出は
公知であり、ここでは詳細な説明を省略する。以上のよ
うにして、n台のビデオカメラによって画像を撮影しな
がら、GPSによって逐次得られる緯度、経度データP
(θ,φ)をタイムコード発生部72からのタイムコー
ドに対応付けて格納していく。従って、このタイムコー
ドを介して、ビデオデータの各フレームと、GPSから
得られた緯度,経度データを対応付けることができる。
【0025】なお、画像データがキャプチャ・ボード9
3−1〜nを通じてPC96内に取り込まれる際には、
記録されているタイムコードを用いてキャプチャ開始部
分、終了部分を決定し、n台のVCRおよびキャプチャ
・ボードを介して取得されるディジタル画像データがす
べて同時刻に撮影された、同じ長さのキャプチャデータ
で構成されるようにする。
【0026】次に、画像再生装置1について説明する。
図7は、本実施形態による画像再生装置1のハード構成
を示すブロック図である。図7に示したハード構成は通
常のパーソナルコンピュータの構成と同等である。図7
において、ディスク105は画像データ保存部10を構
成するものであり、図2〜図6に関連して説明した画像
データ収集システム90によって得られたフレームデー
タと位置データが記憶されている。なお、ディスク10
5は上述の画像データ保存部10のみならず、図1に示
した地図データ保存部20、対応付けデータ保存部50
をも構成するものである。
【0027】CPU101は、ディスク105またはR
OM106、または外部記憶装置(不図示)に保存され
ているプログラムを実行することにより、画像データと
地図データとを対応付けて格納する画像・地図対応付け
部30として、また、対応付けデータ保存部50に保存
された画像データをもとに画像再生を行う画像再生制御
部60として機能する。
【0028】CPU101が表示コントローラ102に
対して各種の表示指示を行うことにより、表示コントロ
ーラ102およびフレームバッファ103によって表示
器104に所望の表示がなされる。なお、図では表示コ
ントローラ102としてCRTC、表示器104として
CRTを示したが、表示器としては陰極線管に限らず、
液晶表示器等を用いてもよいことはもちろんである。な
お、CRTC102、フレームバッファ103及びCR
T104は、上述の表示部70を構成する。マウス10
8、キーボード109及びジョイスティック110は、
当該画像保持・再生装置1へのユーザの操作入力を行う
ためのものであリ、上述の操作部40を構成する。
【0029】次に、以上の構成を備えた本実施形態のウ
ォークスルーシステムにおける、画像再生装置1の動作
の概要について説明する。図8は本実施形態のウォーク
スルーシステムにおける、画像再生装置1の処理内容を
説明する図である。
【0030】画像データ保存部10には、上述した画像
データ収集システム90によって、n台のビデオカメラ
91−1〜nによって得られたビデオデータに基づくタ
イムコード付のフレームデータと、GPS97によって
得られた位置データに基づくタイムコード付の位置デー
タが格納されている。
【0031】画像・地図対応付け部30は、同一のタイ
ムコードのフレームデータを接合してパノラマ画像を生
成するとともに、地図データ保存部20に保持されてい
る地図データを参照して当該タイムコードに対応する位
置データを地図上の位置に変換する。そして、得られた
パノラマ画像と、地図上の位置とを対応付けた対応付け
データ210を生成し、対応付けデータ保存部50に格
納する。
【0032】なお、対応付けデータ格納部50におい
て、本実施形態では次のデータ格納形態をとる。すなわ
ち、交差点や曲がり角を区分点とし、区分点と区分点で
挟まれた線分を道として、各区分点、道にIDを割り当
て、このIDを対応するフレームに付加する。1つの道
に対応するフレーム群には、先頭から順に番号が振られ
る。
【0033】図9はこの様子を説明する図である。図9
において、例えばIDがC1である区分点とC2である
区分点に挟まれた線分にR1というIDが付与されてい
る。これらIDや地図との対応は、地図データ保存部2
0に保存されている。
【0034】GPSデータ等に基づいて区分点C1とC
2に対応するフレームが特定されると、それらフレーム
に挟まれたフレーム群が道R1に対応することとなる。
図では、このフレーム群にn個のフレームが存在する。
そして、区分点C1とC2に対応するフレームにはそれ
ぞれC1、C2のIDが付与され、フレーム群の各フレ
ームには、順番にR1−1〜R1−nが付与される。
【0035】なお、区分点とフレームとの対応付けは、
GPSデータに従って自動的に行われるものとしたが、
ユーザがビデオを再生しながら、フレームと対応する地
図上の交差点を指定することによって対応付けすること
も可能である。この場合、区分点に挟まれたフレーム群
の各フレームの位置は、例えば、当該区分点を結ぶ線分
上に等間隔に割り当てる(上記例では、C1とC2を結
ぶ線分をn+1等分して、各分割位置に順番にn個のフ
レームを割り当てる)ようにすれば、GPSを用いずに
システムを構成することが可能である。
【0036】以上のようにして格納された対応付けデー
タを用いてウォークスルー再生が行われる。操作部40
よりジョイスティック110等を用いたウォークスルー
操作が行われると、これに従って、体験者の地図上の視
点位置(地図上の道における位置)と視線方向が生成さ
れる。画像再生制御部60は、この生成された視点位置
と視線方向、及び表示部70に表示される画角に基づい
て、表示部70に表示すべき画像を対応付けデータ21
0から取得し、これを表示部70に表示させる。例え
ば、地図上のa地点において15度の方向を向いている
場合は、a地点に対応するパノラマ画像中の15度の方
向に対応する部分画像が抽出されることになる。そし
て、体験者の位置が地図上を移動するのに従って順次決
定される視点位置及び視線方向について、画像再生制御
部60が上記のようにして表示画像の取得と、表示部7
0への表示を行うことにより、ウォークスルーが実現さ
れることになる。
【0037】以上のシステムにおいて、画像データ収集
システム90は、複数のカメラを有する撮影部91を車
輌などの移動体に搭載して撮影を行うことにより、画像
データの収集を行う。従って、一般道を走行しながら撮
影を行うことになり、低速で移動しながら撮影を行うこ
とはまず不可能である。特に、信号による停止、交通渋
滞による低速移動により、撮影内容が重複した不要なフ
レームが含まれた画像データが収集されてしまう。本実
施形態では、このような無駄なフレームを排除して、効
率的にパノラマデータを生成、保持可能とする。
【0038】本実施形態の画像・地図対応付け部30
は、まず、画像データ保存部10に保存されたフレーム
のうち、撮影位置が重複した不要なフレームを間引く間
引き処理を行う。そして、間引きされた後に残ったフレ
ームを用いてパノラマ画像を生成し、対応付けデータ保
存部50に保存する。以下、第1実施形態による間引き
処理について説明する。
【0039】間引き処理では、画像データ収集システム
90によって収集され、画像データ保存部10に保存さ
れている画像データのうちの、一つのビデオカメラから
得られたフレームについてその隣接するフレームが同一
位置の画像であるか調べ、同一であった場合に、隣接す
る同一位置の画像を表すフレームを削除する。
【0040】図10は第1実施形態による間引き処理を
説明するフローチャートである。まずステップS101
において、チェック対象の位置データ(以下、GPSデ
ータという)を指すiを、初期値「1」に設定する。次
にステップS102において、i番目のGPSデータP
iを画像データ保存部10より取得する(すなわち、P
iは、i番目のタイムコードに対応するフレームiに対
応するGPSデータである)。また、ステップS103
において、このGPSデータPiとの対比の対象となる
GPSデータを指すjを「i+1」、すなわちフレーム
iの隣のフレームjに対応するGPSデータに設定す
る。
【0041】ステップS104で、フレームjと対応す
るGPSデータ(すなわちj番目のGPSデータ)Pj
を画像データ保存部10より取得し、ステップS105
でPiとPjを比較する。そして、両者が等しい(Pi
=Pj)場合は、ステップS106へ進み、フレームj
を削除するべく、j番目のタイムコード或いはj番目の
GPSデータにマーキングする。そして、ステップS1
07で、更にその隣のフレームの位置を調べるべくjを
1つ加算し、ステップS108でjがn以下であればス
テップS104へ戻る。以上の処理により、フレームi
から連続するフレーム群であって、フレームiと同じ位
置で撮影されたフレームからなるフレーム群を削除する
べくマークが付されることになる。例えば、同じ位置で
撮影されたフレームが5つ(I1〜I5とする)連続し
ている場合、これら5つのフレームのGPSデータは等
しくなり、I2〜I5を削除するべく、たとえば、対応
するGPSデータ或いはタイムコードに削除マークが付
されることになる。なお、ステップS108でjがn
(処理対象のフレーム数)より大きくなった場合は、全
フレームについて調査を終えたことになるので、処理を
ステップS111へ進める。
【0042】一方、ステップS105において、Piと
Pjが等しくない場合は、ステップS109へ進み、i
の値をjに代入する。そして、ステップS110でi=
nでなければステップS102へ戻る。こうして、n個
全てのフレームの中に、同一位置で撮影された連続する
フレームからなるフレーム群が存在するか調べ、存在し
た場合には、重複するフレームを排除するべくマーキン
グを施すことができる。
【0043】次に、ステップS111において、マーキ
ングの施されたGPSデータ(或いはタイムコード)に
対応する全てのフレームを削除する。こうして、全ての
カメラから得られたフレーム系列について、同一位置の
画像データの重複を排除できる。
【0044】こうして重複するフレームが削除された
後、画像・地図対応付け部30は、残されたフレームを
用いてパノラマ画像を生成し、これを地図上の位置を示
すデータと対応付けて、対応付けデータ保存部50に保
存する。
【0045】なお、上記処理において、同一位置のもの
か否かの判断を、位置データが一致するか否かで行った
(ステップS105)が、GPSによる計測誤差等を考
慮して、厳密に一致しなくても、両者の差(距離)があ
る範囲にある場合に同一とみなすようにしてもよい。こ
の場合、ステップS105において、 f(Pi,Pj)<α を満足するか否かを判断すればよい。ここで、f()
は、緯度と経度で表わされるGPSデータを距離値に換
算する関数である。なお、その演算方法自体は当業者に
は自明であるので、説明を省略する。このようにすれ
ば、位置αの範囲にある連続したフレーム群を、その先
頭の1つのフレームで代表させることができる。
【0046】以上のように、第1の実施形態によれば、
フレームに対応づけられたGPSデータに基づいて、同
一位置で撮影されたとみなされる、連続するフレーム群
について、1つのフレーム(先頭のフレーム)を残して
他のデータを削除するようにしたので、パノラマ画像の
生成において無駄な処理を防止できる。
【0047】<第2の実施形態>上記第1実施形態で
は、専らGPSデータに従って同一位置の撮影データで
あるか否かを判断して間引きを行った。第2実施形態で
は、速度データを用いて同一位置の撮影データか否かを
判断する。
【0048】なお、第2の実施形態では、図5に示した
画像データ収集システム90のA/D変換部93におい
て、GPS97の代わりに速度計が接続され、その計測
値がタイムコード発生部95によるタイムコードの発生
と同期して記録される。
【0049】図11は第2実施形態による間引き処理を
説明するフローチャートである。まずステップS201
において、チェック対象の速度データを指すiを、初期
値「1」に設定する。次にステップS202において、
i番目の速度データ(すなわち、i番目のタイムコード
に対応する速度データ)Viを画像データ保存部10よ
り取得する。また、ステップS203において、この速
度データViとの対比の対象となる速度データを指すj
を「i+1」、すなわち隣のフレームに対応する速度デ
ータVjに設定する。
【0050】ステップS204で、フレームjと対応付
けられた速度データVjを画像データ保存部10より取
得し、ステップS205でViもVjもともに0である
かどうかをチェックする。そして、両者がともに0(V
i=Vj=0)の場合は、ステップS206へ進み、フ
レームjを削除するべく速度データVj或いはj番目の
タイムコードにマーキングする。そして、ステップS2
07で、更に隣のフレームにおける速度データを調べる
べくjを1つ加算し、ステップS208でjがn以下で
あればステップS204へ戻る。
【0051】速度データが0の連続するフレームでは、
何等かの原因でカメラの移動が停止しているので、同じ
位置のフレームが重複して存在することになる。従っ
て、上記処理により、最初のフレームだけを残して、他
のフレームを削除することで、重複を排除する。例え
ば、速度データが0のフレームが5つ(I1〜I5とす
る)連続している場合には、I2〜I5に削除マークが
付されることになる。なお、ステップS208でjがn
(処理対象のフレーム数)より大きくなった場合は、全
フレームについて調査を終えたことになるので、処理を
ステップS211へ進める。
【0052】一方、ステップS205において、Vi=
Vj=0とならない場合は、ステップS209へ進み、
iの値をjに代入する。そして、ステップS210でi
=nでなければステップS202へ戻る。こうして、n
個全てのフレームについて、同一位置で撮影された連続
するフレームを検出し、重複するフレームを削除するた
のマーキングを施すことができる。
【0053】次に、ステップS211において、マーキ
ングの施された速度データ或いはタイムコードに対応す
る全てのフレームを削除する。こうして、全てのカメラ
から得られたフレーム系列について、同一位置の画像デ
ータの重複を排除できる。
【0054】以上のように、第2の実施形態によれば、
車輌等の移動体に速度計を設けて計測された移動速度を
用いて、重複する画像データを検出し、削除することが
可能となる。
【0055】なお、第1の実施形態で説明したGPSデ
ータを用いた構成と併用してもよい。GPSは地形等に
よってデータ取得が不能となる場合があるので、GPS
データが得られなかった部分で速度データを用いた間引
き処理を実行するように構成することも可能である。
【0056】また、GPSデータは誤差を含む可能性が
あるので、重複するフレームの検出精度をより向上する
ために、速度データと併用してフレームを削除するよう
にしてもよい。この場合、たとえば、GPSデータと速
度データの両方から同一位置であると判定されたフレー
ムを削除対象とすればよい。
【0057】<第3実施形態>なお、第2実施形態では
速度センサを用いたが、カメラを搭載する車輌に距離計
を装着し、当該車輌の走行距離をタイムコードに同期し
て記録するようにし、その計測データが同じであるフレ
ーム群を同一箇所のフレームの集まりとして検出し、当
該フレーム群について重複するフレームを削除するよう
にしてもよい。
【0058】この場合、フレームiの距離計測値をP
i、フレームjの距離計測値をPjとすれば、第1の実
施形態と同様の処理手順で重複するフレームを検出し、
削除することができる。
【0059】また、距離計を用いた場合は、第1の実施
形態と同様に、ステップS105において、 |Pi−Pj|<α を満足するか否かを判断するようにすることで、厳密に
一致しなくても、両者の差がある範囲にある場合に同一
とみなすようにしてもよい。なお、第3実施形態では距
離計測値をPi、Pjとして用いるので、上記式では単
純に計測値の差分をとればよい。
【0060】<第4実施形態>第4実施形態では、GP
Sデータも速度データも用いず、隣接する画像の内容か
ら重複するフレームを検出し、これを削除する。
【0061】図12は第4実施形態による間引き処理を
説明するフローチャートである。ただし、以下の処理
は、画像データ収集部90が所有する複数のカメラのう
ちの一つから得られたフレーム系列について行われる。
まずステップS301において、チェック対象のフレー
ムを指すiを、初期値「1」に設定する。次にステップ
S302において、このフレームiとの対比の対象とな
るフレームを指すjを「i+1」、すなわち隣の画像に
設定する。
【0062】ステップS303で、フレームiとフレー
ムjの両画像間の最小二乗誤差Eを計算し、ステップS
304でこの誤差Eが所定の閾値よりも小さいかどうか
を判定する。そして、誤差Eの値が閾値よりも小さい場
合は、フレームi及びjは同一位置の画像であると判断
され、ステップS305でフレームjを当該画像系列か
ら削除するべくマーキングする。そして、ステップS3
06で、次のフレームを調べるべくjを1つ加算し、ス
テップS307でjがn以下であればステップS304
へ戻る。
【0063】一方、ステップS304において、誤差E
が閾値以上であった場合は、フレームi及びjによって
表わされる画像は同一ではない(同一位置の画像ではな
い)と判定され、ステップS308へ進み、iの値をj
に代入する。そして、ステップS309でi=nでなけ
ればステップS302へ戻る。こうして、n個全てのフ
レームについて、同一位置で撮影された連続するフレー
ムを検出し、重複するフレームを削除するたのマーキン
グを施すことができる。
【0064】次に、ステップS310において、マーキ
ングの施されたフレームを削除する。そして、ステップ
S311において、他のカメラから得られたフレーム系
列についても、ステップS310で削除されたフレーム
と同じフレーム番号(或いはタイムコード)のフレーム
を削除する。
【0065】なお、第4実施形態において用いるフレー
ムは図3に示されるn台のカメラのうちの一つから得ら
れた画像を用いるが、そのカメラは車輌に搭載された際
に、進行方向に対しておよそ90°の角度を向いたもの
であることが好ましい。移動の有無が画面に現れやすい
からである。
【0066】また、上記実施形態では一つのカメラから
のフレームを用いたが、複数のフレーム系列について上
記処理を行うようにしてもよい。例えば、進行方向に対
して左右方向を向いた2つのカメラから得られる2つの
フレーム系列のそれぞれについて図10に示した処理を
行い、両系列間で対応するフレームの両方に削除のマー
キングが施されている場合に、対応するフレーム番号の
フレームを削除する。こうすることにより、例えば進行
方向の一方の側の景色の変化が車輌移動中でも乏しい場
合(例えば海であった場合)でも、正しく削除対象であ
るか否かを判定できる。
【0067】<第5実施形態>第4実施形態では同一画
像であるかどうかの判定(ステップS303、S30
4)において、最小二乗誤差を用いた。しかしながら、
2つの画像が同一か否かの判断は、このような手法に限
られるものではない。第5実施形態では、2つの画像が
同一の位置から撮影されたものであるか否かを判断する
手順の一例として、画像中の対応点から両画像の相対位
置を求めることにより行う場合を説明する。
【0068】図13は第5実施形態による間引き処理を
説明するフローチャートである。ただし、以下の処理
は、画像データ収集部90が所有する複数のカメラのう
ちの一つから得られたフレーム系列について行われる。
まずステップS401において、チェック対象のフレー
ムを指すiを、初期値「1」に設定する。次にステップ
S402において、このフレームiとの対比の対象とな
るフレームを指すjを「i+1」、すなわち隣の画像に
設定する。
【0069】ステップS403で、フレームiとフレー
ムjの両画像中の対応点を抽出し、抽出した対応点から
両画像の相対的な位置関係を求める。なお、画像からの
対応点の抽出と、対応点に基づく位置の算出は当業者に
は周知であるので説明を省略する。
【0070】ステップS404では、ステップS403
で求めた相対位置から両画像間の相対距離を求め、該相
対距離が所定の閾値よりも小さいかどうかを判定する。
そして、相対距離が閾値よりも小さい場合は、フレーム
i及びjは同一位置の画像であると判断され、ステップ
S405でフレームjを当該画像系列から削除するべく
マーキングする。そして、ステップS406で、次のフ
レームを調べるべくjを1つ加算し、ステップS407
でjがn以下であればステップS404へ戻る。
【0071】一方、ステップS404において、相対距
離が閾値以上であった場合は、フレームi及びjによっ
て表わされる画像は同一ではない(同一位置の画像では
ない)と判定され、ステップS408へ進み、iの値を
jに代入する。そして、ステップS409でi=nでな
ければステップS402へ戻る。こうして、n個全ての
フレームについて、同一位置で撮影された連続するフレ
ームを検出し、重複するフレームを削除するたのマーキ
ングを施すことができる。
【0072】次に、ステップS410において、マーキ
ングの施されたフレームを削除する。そして、ステップ
S411において、他のカメラから得られたフレーム系
列についても、ステップS410で削除されたフレーム
と同じフレーム番号或いはタイムコードのフレームを削
除する。
【0073】<第6実施形態>上記第1〜第5実施形態
では、移動体としての車輌が停止中に撮影された同一位
置のフレームを検出して、これを削除することにより同
一フレームを除去して、資源の有効活用と処理の効率化
を図った。
【0074】第6実施形態では更に、フレームを、実空
間における所望の間隔でフレームを取得し、対応付けデ
ータ保存部50に格納可能とする。この効果は、第1実
施形態及び第3実施形態における、ステップS105の
処理で、f(Pi,Pj)<α、或いは |Pi−Pj|<α を用いて削除すべきフレームか否かを判定するようにし
てもよい旨を述べたが、このαをユーザが所望に設定出
来るように構成することで得られる。
【0075】このように構成することで、フレームの間
隔をほぼαの等間隔とすることができ、画像データ収集
時における移動体のスピードに関わらす、対応付けデー
タ保存部50に格納されるパノラマ画像の間隔をほぼ一
定(α)にすることができる。この結果、ウォークスル
ー再生に好適なパノラマ画像のデータベースが得られ
る。
【0076】なお、αの指定方法の一例としては、所望
のフレーム間隔を「50cm」、「1m」といったよう
に実空間の距離を与えるようにすればよい。
【0077】<第7実施形態>第1の実施形態におい
て、GPSデータを持たない場合にも、地図上の区分点
と道によってフレームデータを割り当てることが出来る
旨説明した。更に、GPSデータを持たない場合でも、
第2〜第5実施形態で説明したように、画像データ収集
中における移動体の停止によるビデオデータの重複を排
除できる。しかしながら、このような処理を行っても、
移動体の加減速によってフレームの疎密が残り、必要以
上に密な部分には無駄なフレームが存在することにな
る。
【0078】第6実施形態では、画像データ収集システ
ム90によって撮影を行った位置の情報(GPSデー
タ、距離計による計測値)を用いて、このような無駄な
フレームを排除し、フレームの等間隔化を行ったが、G
PS、距離計を持たないシステムであった場合には適用
できない。第7実施形態では、GPS、距離計を持たな
い場合に、フレームのサンプリング間隔の不均一さを吸
収する。ただし、図9で説明したような地図との対応付
けがなされているものとする。
【0079】図14は第7実施形態によるフレームの間
引き処理を説明するフローチャートである。なお、この
処理に先立って、第2実施形態、第4及び第5実施形態
で説明した手法により、重複したフレームの除去を行っ
ておくことが望ましい。
【0080】まず、ステップS501において、所望の
サンプリングレートS(枚/pixel)を設定する。サン
プリングレートSは、地図画像上の1ピクセルあたりの
フレーム数であり、例えば10ピクセル毎に1枚のフレ
ームとしたいのであれば、その逆数である0.1がサン
プリングレートSとして設定される。
【0081】次に、ステップS502に進み、所望の道
を指定することで、間引きを行うべきフレーム群を指定
する。道の指定は、地図画像を表示してポインティング
デバイスで指示してもよいし、道IDをキーボード等か
ら入力するようにしてもよい。道が指定されたら、ステ
ップS503へ進み、指定された道の両端の区分点の地
図画像上の座標を得て、これらから当該2区分点間の距
離D(pixel)を求める。ステップS504では、指定
された道に割り当てられているフレーム群のフレーム数
を求め、これをFとする。例えば、図9の例ではn枚の
フレームが存在し、F=nとなる。
【0082】指定された道の長さ(距離D)と設定され
たサンプリングレートSにより、当該指定された道に存
在すべきフレームの数がDSと表わされる。ステップS
506〜S509の処理では、指定された道に対応する
フレーム群のフレーム数(F枚)をD×S枚とするため
に、削除すべき画像が選択される。なお、本処理では、
F>D×Sであることを前提とするので、ステップS5
06以降の処理を実行する前に、F>D×Sであるかど
うかを判定し、否であれば本処理を終了する。
【0083】以下、ステップS506以降の処理につい
て説明する。ステップS506では、カウンタとして用
いる変数fを初期値1に設定する。次に、ステップS5
07において、(f−1)×((F−1)/(D×S−
1))番目のフレームを採用するフレームとしてチェッ
クする。なお、(f−1)×((F−1)/(D×S−
1))の値は、演算結果を整数化したものを用いる。ス
テップS508では、fに1を加算して、ステップS5
07とS508の処理をf=D×S+1(目標枚数)と
なるまで繰り返す(ステップS509)。
【0084】以上の処理により、D×S枚のチェックさ
れたフレームが得られるので、ステップS510におい
て、チェックされていないフレームを削除することによ
り、指定された道に対応するF枚のフレームをD×S枚
のフレームへと間引く。他の道についても処理を行う場
合は、ステップS511ステップS501へ戻り、上記
の処理を繰り返す。これ以上の編集を行わない場合は、
ステップS511より本処理を終了する。
【0085】以上のように、第7実施形態によれば、単
位距離あたり(ピクセルあたり)のパノラマ枚数を設定
して、フレームを間引くので、画像データ収集時のサン
プル間隔の不均一を吸収できる。また、道に割り当てら
れたフレーム群について、その順番に従って間引きを行
うので、GPSデータ等が無くても、適切に間引きを行
うことができる。
【0086】なお、本発明の目的は、前述した実施形態
の機能を実現するソフトウェアのプログラムコードを記
録した記憶媒体(または記録媒体)を、システムあるい
は装置に供給し、そのシステムあるいは装置のコンピュ
ータ(またはCPUやMPU)が記憶媒体に格納されたプログ
ラムコードを読み出し実行することによっても、達成さ
れることは言うまでもない。この場合、記憶媒体から読
み出されたプログラムコード自体が前述した実施形態の
機能を実現することになり、そのプログラムコードを記
憶した記憶媒体は本発明を構成することになる。また、
コンピュータが読み出したプログラムコードを実行する
ことにより、前述した実施形態の機能が実現されるだけ
でなく、そのプログラムコードの指示に基づき、コンピ
ュータ上で稼働しているオペレーティングシステム(OS)
などが実際の処理の一部または全部を行い、その処理に
よって前述した実施形態の機能が実現される場合も含ま
れることは言うまでもない。
【0087】さらに、記憶媒体から読み出されたプログ
ラムコードが、コンピュータに挿入された機能拡張カー
ドやコンピュータに接続された機能拡張ユニットに備わ
るメモリに書込まれた後、そのプログラムコードの指示
に基づき、その機能拡張カードや機能拡張ユニットに備
わるCPUなどが実際の処理の一部または全部を行い、そ
の処理によって前述した実施形態の機能が実現される場
合も含まれることは言うまでもない。
【0088】
【発明の効果】以上説明したように、本発明によれば、
IBR技術を用いてウォークスルー可能な仮想空間を構
築するにおいて、仮想空間再生のためのパノラマ画像等
を効率的に生成、保持可能となる。
【図面の簡単な説明】
【図1】本実施形態によるウォークスルーシステムの機
能構成を説明するブロック図である。
【図2】画像データ保存部10に保存されるフレームデ
ータを収集するための画像データ収集システム90の構
成例を示す図である。
【図3】撮影部91の構成を詳細に示すブロック図であ
る。
【図4】記録部92の構成を詳細に示すブロック図であ
る。
【図5】A/D変換部93の構成を詳細に示すブロック
図である。
【図6】画像データ保存部10におけるビデオデータと
位置データ(GPS測定結果データ)の格納状態例を示
す図である。
【図7】本実施形態による画像再生装置1のハード構成
を示すブロック図である。
【図8】本実施形態のウォークスルーシステムにおけ
る、画像再生装置1の処理内容を説明する図である。
【図9】フレームデータを地図上の区分点と道と対応付
ける様子を説明する図である。
【図10】第1実施形態による間引き処理を説明するフ
ローチャートである。
【図11】第2実施形態による間引き処理を説明するフ
ローチャートである。
【図12】第4実施形態による間引き処理を説明するフ
ローチャートである。
【図13】第5実施形態による間引き処理を説明するフ
ローチャートである。
【図14】第7実施形態によるフレームの間引き処理を
説明するフローチャートである。
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2C032 HB03 HB05 HB22 HC08 HC13 HC23 HD03 5B050 BA01 BA09 BA10 DA07 EA03 EA05 EA07 EA24 GA08

Claims (24)

    【特許請求の範囲】
  1. 【請求項1】 複数の位置を移動しながら入力された画
    像データから得られる複数のフレームデータを保持する
    保持手段と、 前記保持手段に保持された複数のフレームデータより、
    実質的に同じ位置で撮影されたものと判定されたフレー
    ムデータを抽出する抽出手段と、 前記抽出手段で抽出された重複するフレームデータを削
    除する削除手段と、 前記削除手段の実行後に残ったフレームデータを、地図
    上の位置に対応づけて格納する格納手段とを備えること
    を特徴とする画像処理装置。
  2. 【請求項2】 前記保持手段は、前記複数のフレームデ
    ータのそれぞれに撮影時の位置を示す位置データが対応
    付けて保持されており、 前記抽出手段は、位置データが一致するフレームデータ
    を抽出することを特徴とする請求項1に記載の画像処理
    装置。
  3. 【請求項3】 前記位置データはGPSによって得られ
    たものであることを特徴とする請求項2に記載の画像処
    理装置。
  4. 【請求項4】 前記画像データは異なる方向を撮影する
    複数の撮像装置を移動させながら撮影したものであっ
    て、 前記位置データは、前記複数の撮像装置を搭載して移動
    する移動体の移動距離を計測する距離計より得られたも
    のであることを特徴とする請求項2に記載の画像処理装
    置。
  5. 【請求項5】 前記保持手段は、前記複数のフレームデ
    ータのそれぞれに撮影時に得られた速度データが対応付
    けて保持されており、 前記抽出手段は、前記速度データが停止を示スフレーム
    データからなるフレームデータ群を抽出することを特徴
    とする請求項1に記載の画像処理装置。
  6. 【請求項6】 2つのフレームデータの比較によって、
    それらが同一位置のものか否かを判定する判定手段を更
    に備え、 前記抽出手段は、前記判定手段によって同一位置のもの
    と判定されたフレームデータを抽出することを特徴とす
    る請求項1に記載の画像処理装置。
  7. 【請求項7】 前記判定手段は、2つのフレームデータ
    間の最小二乗誤差を算出し、算出された最小二乗誤差が
    所定値以下であった場合に当該2つのフレームデータを
    同一位置のものと判定することを特徴とする請求項6に
    記載の画像処理装置。
  8. 【請求項8】 前記判定手段は、2つのフレームデータ
    の対応点に基づいて、該2つのフレームデータ間の相対
    距離を算出し、該相対距離が所定値以下であった場合に
    当該2つのフレームデータを同一位置のものと判定する
    ことを特徴とすることを特徴とする請求項6に記載の画
    像処理装置。
  9. 【請求項9】 前記画像データはそれぞれ異なる方向を
    撮影する複数の撮像装置を移動させながら撮影したもの
    であって、 前記判定手段において採用されるフレームデータは、前
    記複数の撮像装置のうち、移動方向に対して横向きの撮
    像装置から得られたものであることを特徴とする請求項
    6乃至8のいずれかに記載の画像処理装置。
  10. 【請求項10】 フレームデータのサンプリング間隔を
    設定する設定手段を更に備え、 前記抽出手段は、位置データによって得られる距離が、
    前記設定手段で設定されたサンプリング間隔に相当する
    距離よりも小さいフレームデータを抽出することを特徴
    とする請求項2に記載の画像処理装置。
  11. 【請求項11】 フレームデータのサンプリング間隔を
    設定する設定手段と、 地図上の2点間の線上に沿って撮影されたフレームデー
    タ群を取得する取得手段と、 前記2点間の距離と前記サンプリング間隔に基づいて、
    該2点間の線分上に存在すべきフレームデータ数を算出
    する算出手段と、 前記算出手段で算出されたフレームデータ数となるよう
    に、前記取得手段で取得した複数のフレームデータに対
    して間引きを実行する間引き手段とを更に備えることを
    特徴とする請求項1に記載の画像処理装置。
  12. 【請求項12】 複数の撮像装置によって得られた画像
    データから得られる複数のフレームデータを保持した保
    持手段より、実質的に同じ位置で撮影されたものと判定
    されたフレームデータを抽出する抽出工程と、 前記抽出工程で抽出された重複するフレームデータを削
    除する削除工程と、 前記削除工程の実行後に残ったフレームデータを、地図
    上の位置に対応づけて格納する格納工程とを備えること
    を特徴とする画像処理方法。
  13. 【請求項13】 前記保持手段には、前記複数のフレー
    ムデータのそれぞれに撮影時の位置を示す位置データが
    対応付けて保持されており、 前記抽出工程は、位置データが一致するフレームデータ
    を抽出することを特徴とする請求項12に記載の画像処
    理方法。
  14. 【請求項14】 前記位置データはGPSによって得ら
    れたものであることを特徴とする請求項12に記載の画
    像処理方法。
  15. 【請求項15】 前記画像データはそれぞれ異なる方向
    を撮影する複数の撮像装置を移動させながら撮影したも
    のであって、 前記位置データは、前記複数の撮像装置を搭載して移動
    する移動体の移動距離を計測する距離計より得られたも
    のであることを特徴とする請求項13に記載の画像処理
    方法。
  16. 【請求項16】 前記保持手段には、前記複数のフレー
    ムデータのそれぞれに撮影時に得られた速度データが対
    応付けて保持されており、 前記抽出工程は、前記速度データが停止を示すフレーム
    データを抽出することを特徴とする請求項12に記載の
    画像処理方法。
  17. 【請求項17】 2つのフレームデータの比較によっ
    て、それらが同一位置のものか否かを判定する判定工程
    を更に備え、 前記抽出工程は、前記判定工程によって同一位置のもの
    と判定されたフレームデータを抽出することを特徴とす
    る請求項12に記載の画像処理方法。
  18. 【請求項18】 前記判定工程は、2つのフレームデー
    タ間の最小二乗誤差を算出し、算出された最小二乗誤差
    が所定値以下であった場合に当該2つのフレームデータ
    を同一位置のものと判定することを特徴とする請求項1
    7に記載の画像処理方法。
  19. 【請求項19】 前記判定工程は、2つのフレームデー
    タの対応点に基づいて、該2つのフレームデータ間の相
    対距離を算出し、該相対距離が所定値以下であった場合
    に当該2つのフレームデータを同一位置のものと判定す
    ることを特徴とすることを特徴とする請求項17に記載
    の画像処理方法。
  20. 【請求項20】 前記画像データはそれぞれ異なる方向
    を撮影する複数の撮像装置を移動させながら撮影したも
    のであって、 前記判定工程において採用されるフレームデータは、前
    記複数の撮像装置のうち、移動方向に対して横向きの撮
    像装置から得られたものであることを特徴とする請求項
    17乃至19のいずれかに記載の画像処理方法。
  21. 【請求項21】 フレームデータのサンプリング間隔を
    設定する設定工程を更に備え、 前記抽出工程は、位置データによって得られる距離が、
    前記設定工程で設定されたサンプリング間隔に相当する
    距離よりも小さいフレームデータを抽出することを特徴
    とする請求項13に記載の画像処理方法。
  22. 【請求項22】 フレームデータのサンプリング間隔を
    設定する設定工程と、 地図上の2点間の線上に沿って撮影されたフレームデー
    タ群を取得する取得工程と、 前記2点間の距離と前記サンプリング間隔に基づいて、
    該2点間の線分上に存在すべきフレームデータ数を算出
    する算出工程と、 前記算出工程で算出されたフレームデータ数となるよう
    に、前記取得工程で取得したフレームデータ群に対して
    間引きを実行する間引き工程とを更に備えることを特徴
    とする請求項12に記載の画像処理方法。
  23. 【請求項23】 請求項12乃至22のいずれかに記載
    の画像処理方法をコンピュータによって実現するための
    制御プログラムを格納することを特徴とする記憶媒体。
  24. 【請求項24】 請求項12乃至22のいずれかに記載
    の画像処理方法をコンピュータによって実現するための
    制御プログラム。
JP2001063922A 2001-03-07 2001-03-07 画像処理装置及び方法 Expired - Lifetime JP3432212B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2001063922A JP3432212B2 (ja) 2001-03-07 2001-03-07 画像処理装置及び方法
US09/818,605 US7120313B2 (en) 2001-03-07 2001-03-28 Image processing apparatus and method for producing a virtual space for walk-through

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001063922A JP3432212B2 (ja) 2001-03-07 2001-03-07 画像処理装置及び方法

Publications (2)

Publication Number Publication Date
JP2002269592A true JP2002269592A (ja) 2002-09-20
JP3432212B2 JP3432212B2 (ja) 2003-08-04

Family

ID=18922827

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001063922A Expired - Lifetime JP3432212B2 (ja) 2001-03-07 2001-03-07 画像処理装置及び方法

Country Status (2)

Country Link
US (1) US7120313B2 (ja)
JP (1) JP3432212B2 (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2005071619A1 (ja) * 2004-01-21 2005-08-04 Campus Create Co., Ltd. 画像生成方法
JP2006139106A (ja) * 2004-11-12 2006-06-01 Noritsu Koki Co Ltd 画像処理システム及び画像処理方法
JP2008216841A (ja) * 2007-03-07 2008-09-18 Yahoo Japan Corp 地図表示システム
KR101059601B1 (ko) 2002-11-25 2011-08-25 멘토웨이브 테크놀로지 엘티디. 대화형 가상 영화를 제작하기 위한 방법 및 장치
US8421797B2 (en) 2008-11-28 2013-04-16 Yamaha Hatsudoki Kabushiki Kaisha Remote control system and remote control apparatus
KR101268391B1 (ko) * 2010-12-30 2013-05-28 국방과학연구소 영상 처리 장치 및 그 방법
JP2013156609A (ja) * 2012-02-01 2013-08-15 Mitsubishi Electric Corp 写真地図作成システム
JP2014132325A (ja) * 2012-12-04 2014-07-17 Nintendo Co Ltd 情報処理システム、情報処理装置、プログラムおよび表示方法
JP2017111209A (ja) * 2015-12-14 2017-06-22 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 3dマップの作成

Families Citing this family (30)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6996264B2 (en) 2002-10-18 2006-02-07 Leco Corporation Indentation hardness test system
WO2004093011A1 (ja) * 2003-04-17 2004-10-28 Seiko Epson Corporation 複数のフレーム画像からの静止画像の生成
JP2005050037A (ja) * 2003-07-31 2005-02-24 Canon Inc 画像処理方法および装置
JP2006065368A (ja) * 2004-08-24 2006-03-09 Sony Corp 画像表示装置,画像表示方法,およびコンピュータプログラム
US7333725B1 (en) * 2005-03-24 2008-02-19 L-3 Communications Sonoma Eo, Inc. Method and apparatus for metadata synchronization
US7720353B1 (en) * 2005-06-21 2010-05-18 Hewlett-Packard Development Company, L.P. Parallel communication streams from a multimedia system
JP4685562B2 (ja) * 2005-09-13 2011-05-18 クラリオン株式会社 移動体撮像装置
JP2007336516A (ja) * 2006-05-17 2007-12-27 Konica Minolta Business Technologies Inc 画像処理プログラム、画像処理装置、および画像処理方法
JP4407738B2 (ja) * 2007-10-05 2010-02-03 ソニー株式会社 情報処理装置、情報処理方法およびコンピュータプログラム
CN102132334A (zh) * 2008-09-16 2011-07-20 日本先锋公司 服务器设备、移动终端、路口引导***以及路口引导方法
JP4968320B2 (ja) 2009-12-25 2012-07-04 カシオ計算機株式会社 情報取得装置、位置情報記憶方法及びプログラム
JP5783739B2 (ja) * 2011-02-08 2015-09-24 キヤノン株式会社 撮像装置及びシステム
KR101694689B1 (ko) * 2011-03-25 2017-01-12 삼성전자주식회사 동영상 데이터 생성 방법 및 이를 적용한 영상 촬영 장치
US9088714B2 (en) 2011-05-17 2015-07-21 Apple Inc. Intelligent image blending for panoramic photography
US8957944B2 (en) * 2011-05-17 2015-02-17 Apple Inc. Positional sensor-assisted motion filtering for panoramic photography
US9762794B2 (en) 2011-05-17 2017-09-12 Apple Inc. Positional sensor-assisted perspective correction for panoramic photography
US9247133B2 (en) 2011-06-01 2016-01-26 Apple Inc. Image registration using sliding registration windows
US10306140B2 (en) 2012-06-06 2019-05-28 Apple Inc. Motion adaptive image slice selection
US9098922B2 (en) 2012-06-06 2015-08-04 Apple Inc. Adaptive image blending operations
CN104350734B (zh) * 2012-06-11 2017-12-12 索尼电脑娱乐公司 图像生成设备以及图像生成方法
US9832378B2 (en) 2013-06-06 2017-11-28 Apple Inc. Exposure mapping and dynamic thresholding for blending of multiple images using floating exposure
US9403482B2 (en) 2013-11-22 2016-08-02 At&T Intellectual Property I, L.P. Enhanced view for connected cars
GB2526263B (en) * 2014-05-08 2019-02-06 Sony Interactive Entertainment Europe Ltd Image capture method and apparatus
US9569693B2 (en) * 2014-12-31 2017-02-14 Here Global B.V. Method and apparatus for object identification and location correlation based on received images
US10373299B1 (en) * 2016-05-05 2019-08-06 Digimarc Corporation Compensating for geometric distortion of images in constrained processing environments
US10783618B2 (en) 2016-05-05 2020-09-22 Digimarc Corporation Compensating for geometric distortion of images in constrained processing environments
US11074672B2 (en) 2017-04-19 2021-07-27 Capsovision Inc. Method of image processing and display for images captured by a capsule camera
CN108063914B (zh) * 2017-11-22 2020-10-16 国政通科技股份有限公司 监控视频文件生成、播放方法、装置及终端设备
US10986287B2 (en) 2019-02-19 2021-04-20 Samsung Electronics Co., Ltd. Capturing a photo using a signature motion of a mobile device
US10616483B1 (en) * 2019-02-27 2020-04-07 Hong Kong Applied Science and Technology Research Institute Company Limited Apparatus and method of generating electronic three-dimensional walkthrough environment

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5517419A (en) * 1993-07-22 1996-05-14 Synectics Corporation Advanced terrain mapping system
MY113223A (en) * 1994-12-29 2001-12-31 Sony Corp Processing of redundant fields in a moving picture to achive synchronized system operation
EP1439372A1 (en) * 1996-11-25 2004-07-21 Toyota Jidosha Kabushiki Kaisha Navigation device for vehicle and preparation of road shape data used therefor
US6512857B1 (en) * 1997-05-09 2003-01-28 Sarnoff Corporation Method and apparatus for performing geo-spatial registration
JP3279960B2 (ja) 1997-06-27 2002-04-30 松下電器産業株式会社 経路画像情報記録再生装置及び経路画像情報記録方法
US6011558A (en) * 1997-09-23 2000-01-04 Industrial Technology Research Institute Intelligent stitcher for panoramic image-based virtual worlds
JP3528548B2 (ja) * 1997-11-18 2004-05-17 トヨタ自動車株式会社 車両用動画像処理方法および車両用動画像処理装置
JPH11168754A (ja) * 1997-12-03 1999-06-22 Mr System Kenkyusho:Kk 画像の記録方法、画像データベースシステム、画像記録装置及びコンピュータプログラムの記憶媒体
EP0977014B1 (en) * 1998-07-31 2005-09-14 Matsushita Electric Industrial Co., Ltd. Road image managing apparatus
US6266442B1 (en) * 1998-10-23 2001-07-24 Facet Technology Corp. Method and apparatus for identifying objects depicted in a videostream
US6870573B2 (en) * 1999-01-22 2005-03-22 Intel Corporation Method and apparatus for dynamically generating a visual program summary from a multi-source video feed
US6587601B1 (en) * 1999-06-29 2003-07-01 Sarnoff Corporation Method and apparatus for performing geo-spatial registration using a Euclidean representation

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101059601B1 (ko) 2002-11-25 2011-08-25 멘토웨이브 테크놀로지 엘티디. 대화형 가상 영화를 제작하기 위한 방법 및 장치
WO2005071619A1 (ja) * 2004-01-21 2005-08-04 Campus Create Co., Ltd. 画像生成方法
GB2427520A (en) * 2004-01-21 2006-12-27 Campus Create Co Ltd Image generation method
JP2006139106A (ja) * 2004-11-12 2006-06-01 Noritsu Koki Co Ltd 画像処理システム及び画像処理方法
JP4640578B2 (ja) * 2004-11-12 2011-03-02 ノーリツ鋼機株式会社 画像処理システム及び画像処理方法
JP2008216841A (ja) * 2007-03-07 2008-09-18 Yahoo Japan Corp 地図表示システム
US8421797B2 (en) 2008-11-28 2013-04-16 Yamaha Hatsudoki Kabushiki Kaisha Remote control system and remote control apparatus
KR101268391B1 (ko) * 2010-12-30 2013-05-28 국방과학연구소 영상 처리 장치 및 그 방법
JP2013156609A (ja) * 2012-02-01 2013-08-15 Mitsubishi Electric Corp 写真地図作成システム
JP2014132325A (ja) * 2012-12-04 2014-07-17 Nintendo Co Ltd 情報処理システム、情報処理装置、プログラムおよび表示方法
JP2017111209A (ja) * 2015-12-14 2017-06-22 インターナショナル・ビジネス・マシーンズ・コーポレーションInternational Business Machines Corporation 3dマップの作成

Also Published As

Publication number Publication date
US7120313B2 (en) 2006-10-10
US20020126913A1 (en) 2002-09-12
JP3432212B2 (ja) 2003-08-04

Similar Documents

Publication Publication Date Title
JP3432212B2 (ja) 画像処理装置及び方法
US9858717B2 (en) System and method for producing multi-angle views of an object-of-interest from images in an image dataset
KR101319471B1 (ko) 부감 화상 생성장치, 부감 화상 생성방법 및 기록매체
JP4486737B2 (ja) モービルマッピング用空間情報生成装置
JP5047515B2 (ja) 道路画像作成システム及び道路画像作成方法,及び道路画像合成装置
JP2011238242A (ja) ナビゲーション及びインスペクションシステム
JP6950832B2 (ja) 位置座標推定装置、位置座標推定方法およびプログラム
KR102200299B1 (ko) 3d-vr 멀티센서 시스템 기반의 도로 시설물 관리 솔루션을 구현하는 시스템 및 그 방법
JP4210309B2 (ja) 地図情報関連付き画像データ表示システムおよび地図情報関連付き画像データ表示のプログラム
US20090316012A1 (en) Method of processing multiple video images
CN101953165A (zh) 使用激光扫描的点云来形成选择性压缩遮掩的方法
JPH11259502A (ja) 映像情報表示装置
JP2009229182A (ja) 画像上地物計測方法および表示法並びに計測装置
JPH099197A (ja) 連続ステレオ画像データ記録装置
JP2011053024A (ja) 高架道特定装置、高架道特定方法及び高架道特定プログラム
JP2019085056A (ja) 軌道周辺の環境変化検出方法
JP2005056186A (ja) 交通状況観測システム
JP2001005994A (ja) 画像処理装置および画像処理方法
JP3572025B2 (ja) 画像再生装置及び画像処理装置とそれらの方法
JP6704134B1 (ja) 情報処理装置及び方法
JP2004070929A (ja) 画像処理装置及び方法
JP7467722B2 (ja) 地物管理システム
JP4025556B2 (ja) 特徴点追跡画像決定装置、特徴点追跡画像決定方法、この方法のプログラム、およびこのプログラムを記録した記録媒体
EP4361565A2 (en) Method, device, system and computer-readable storage medium for vehicle positioning
JP4109985B2 (ja) 映像情報表示装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20030506

R150 Certificate of patent or registration of utility model

Ref document number: 3432212

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090523

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100523

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100523

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110523

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120523

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130523

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140523

Year of fee payment: 11

EXPY Cancellation because of completion of term