JP2009237848A - 情報処理装置、および画像処理方法、並びにコンピュータ・プログラム - Google Patents
情報処理装置、および画像処理方法、並びにコンピュータ・プログラム Download PDFInfo
- Publication number
- JP2009237848A JP2009237848A JP2008082451A JP2008082451A JP2009237848A JP 2009237848 A JP2009237848 A JP 2009237848A JP 2008082451 A JP2008082451 A JP 2008082451A JP 2008082451 A JP2008082451 A JP 2008082451A JP 2009237848 A JP2009237848 A JP 2009237848A
- Authority
- JP
- Japan
- Prior art keywords
- image
- evaluation value
- feature point
- dimensional data
- dimensional
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Processing Or Creating Images (AREA)
Abstract
【解決手段】入力画像から選択した選択画像が3次元データの生成に適切な画像であるか否かを判定するために、(a)前記選択画像に含まれる3次元位置の推定された特徴点数、(b)選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、(c)参照画像のカメラモデルフィッティング誤差、これら(a)〜(c)の少なくともいずれかを評価値として算出し、これらの評価値が規定条件を満足する場合に、選択画像が3次元データの生成に適切な画像であると判定してSFMやEKF SLAMなどの3次元データ生成処理を実行する構成としたので、精度の高い3次元データの生成を実現することが可能となる。
【選択図】図8
Description
複数の撮影画像から十分な数の対応特徴点を取得すること、
撮影方向の異なる複数の画像に対応特徴点が含まれていること、
対応特徴点の情報から誤差の少ない正確な特徴点位置情報が算出できること、
など、解析対象とする画像フレームの選択が重要な要素となる。3次元画像解析の専門家であれば、このような条件を満足する画像を直感的に判断して適切な画像を選択することができるが、通常のユーザは、自分の撮影した多数の画像フレームから適切な画像を選択することは難しい。
"Shape and motion from image streams under orthography: a factorization method",C.Tomasi and T.Kanade,International Journal of Computer Vision, Volume 9, Number 2, pp.137−154,(1992).
画像に含まれる画素の3次元位置を算出する情報処理装置であり、
入力画像から複数画像を選択画像として選択する画像選択部と、
前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出する評価値算出部と、
前記評価値算出部の算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する評価値判定部を有し、
前記評価値算出部は、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出し、
前記評価値判定部は、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する構成であり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定することを特徴とする情報処理装置にある。
情報処理装置において、画像に含まれる画素の3次元位置を算出するために適用する画像の選択処理を実行する画像処理方法であり、
画像選択部が、入力画像から複数画像を選択画像として選択する画像選択ステップと、
評価値算出部が、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出する評価値算出ステップと、
評価値判定部が、前記評価値算出ステップにおいて算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する評価値判定ステップを有し、
前記評価値算出ステップは、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出するステップであり、
前記評価値判定ステップは、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するステップであり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定するステップであることを特徴とする画像処理方法にある。
情報処理装置において、画像に含まれる画素の3次元位置を算出するために適用する画像の選択処理を実行させるコンピュータ・プログラムであり、
画像選択部に、入力画像から複数画像を選択画像として選択させる画像選択ステップと、
評価値算出部に、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出させる評価値算出ステップと、
評価値判定部に、前記評価値算出ステップにおいて算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定させる評価値判定ステップを有し、
前記評価値算出ステップは、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出させるステップであり、
前記評価値判定ステップは、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するステップであり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定させるステップであることを特徴とするコンピュータ・プログラムにある。
ステップS101:初期情報取得処理(SFM)
ステップS102:拡張カルマンフィルタを適用したカメラ位置姿勢及び特徴点3次元位置情報取得処理(EKF SLAM)
ステップS103:バンドル調整処理(Bundle Adjustment)
「初期情報取得処理(SFM)」
→「拡張カルマンフィルタを適用したカメラ位置姿勢及び特徴点3次元位置情報取得処理(EKF SLAM)」
→「バンドル調整処理(Bundle Adjustment)」
このような処理シーケンスである。
複数の撮影画像から十分な数の対応特徴点を取得すること、
撮影方向の異なる複数の画像に対応特徴点が含まれていること、
対応特徴点の情報から誤差の少ない正確な特徴点位置情報が算出できること、
など、解析対象とする画像フレームの選択が重要な要素となる。3次元画像解析の専門家であれば、このような条件を満足する画像を直感的に判断して適切な画像を選択することができるが、通常のユーザは、自分の撮影した多数の画像フレームから適切な画像を選択することは難しい。
・映像データ(画像フレーム)313を撮影するカメラ312はピンホールカメラモデルに近似可能
・カメラ312の内部パラメータは既知
・映像の撮影中においては、カメラ内部パラメータの変化はない
・静止環境311をカメラ312で記録した映像データ313を予め用意してある(撮影処理時にリアルタイム処理を行うのではなく、撮影済みの映像データ313に対するオフライン処理を行う)
・映像データ313のフレーム間毎の時間的間隔は同一である。
・映像データ313は時間的に連続したデータである(急に別のシーンに移ることはない)
また、本例では計算で扱うことの出来る映像フレーム数は、メモリ・計算量の制約上、N(例えばN=5、NはN>1を満たせばよい)とする。
変数[T]と変数[F]は、以下の変数である。
T:選択フレーム間隔に対応する変数、
F:最初の選択フレームに対応する変数、
・Nフレーム分のカメラの位置と姿勢
・各特徴点の3次元位置
・各特徴点の特徴量(特徴点追跡に利用)
・各特徴点に対するNフレーム分の画像内位置(軌跡)
distは特徴点追跡部303で追跡した特徴点位置群と環境認識部302で算出した特徴点位置群との間の距離、
iは、特徴点番号、
tは、フレーム番号、
mitは、環境認識部302で用いたi番目の特徴点のフレームtでの画像内の位置、
m_refiは前述のi番目の特徴点に対応する参照画像内の位置を示す。
(a)環境認識部302で用いた特徴点の数
(b)光線同士の交差角(図12参照)の中央値
(c)参照画像のカメラモデルフィッティング誤差
これらの3種類の値を評価値として用いる。
以下、上記の(a)〜(c)それぞれの値について説明する。
環境認識部302で用いた特徴点の数は、環境認識部302において3次元位置を推定した特徴点の数である。
精度の高い3次元データを生成するためには特徴点の数は多いほど3次元データの精度を高めることが可能となる、従って、特徴点数は多いほど評価値が高くなる。
次に、光線同士の交差角の中央値について説明する。まず、「光線同士の交差角」の定義について図12を参照して説明する。図12に示すようなある2つの画像フレーム371,372のカメラ位置・姿勢と、その2つのフレーム371,372から見える1点の特徴点381があるとする。「光線同士の交差角」は、図12に示すように、2つのカメラ位置において撮影した2つの画像フレーム371,372から特徴点381を結ぶ光線が交差する角度φである。
交差角[φ]を求める式としては、以下に示す式(数式2)を用いる。
wは特徴点の位置、
cpはp番目のフレームのカメラ位置(焦点位置)、
‖ ‖はノルム、
はベクトル同士の内積、
を表し、
関数acosは逆コサイン関数である。
前述したように、特徴点の3次元位置を高精度に算出するためには、より大きな視差を持つフレームに対応する特徴点が存在することが重要な要素となる。従って、光線同士の交差角の中央値[angle]が大きいほど、評価値が高くなる。
次に、参照画像のカメラモデルフィッティング誤差について説明する。
環境認識部302による処理によって得られた特徴点の3次元位置と、参照画像から得られる画像内特徴点位置の双方(特徴点の3次元位置・参照画像での画像内特徴点位置)が正しいならば、ピンホールカメラモデルに従って、図13に示すように参照画像フレーム390を通る全ての光線(参照画像フレーム390上の特徴点位置と、特徴点391a〜fを結ぶ線)は1点で交差する。この交差点は、参照画像フレーム390の焦点392である。
λ:正規化パラメータ
A:カメラ内部パラメータ、
Cw:カメラ位置、
Rw:カメラ回転行列、
を意味している。
さらに、
λは、正規化パラメータであり、
f:焦点距離
θ:画像軸の直交性(理想値は90°)
ku:縦軸のスケール(3次元位置のスケールから二次元画像のスケールへの変換)
kv:横軸のスケール(3次元位置のスケールから二次元画像のスケールへの変換)
(u0,v0):画像中心位置
「参照画像のカメラモデルフィッティング誤差」の算出処理は、以下の2つの処理によって行われる。
(処理1)ピンホールカメラモデルを元に参照画像のカメラ位置・姿勢を求める処理、
(処理2)得られたカメラ位置・姿勢を元に各特徴点を像平面に再射影し、再射影した点とトラッキング点(観測点)との誤差を計算する処理、
(処理1)ピンホールカメラモデルを元に参照画像のカメラ位置・姿勢を求める処理、
について説明する。図16(a)は、先に説明した図13と同様の図である。参照画像フレーム390を撮影したカメラの位置・姿勢を求める。
カメラの位置・姿勢を求める数式は、以下の式(数式7)である。
wiは、i番目の特徴点の3次元位置、
xiは、下式(数式8)によって算出される値である。ただし、miは、特徴点の参照画像における位置、行列Aは先に説明した式(数式4)に記載の内部パラメータを示す。
I3は、3行3列の単位行列、
0は3行1列の零ベクトル、
r1,r2,r3は、参照画像フレームの姿勢を表す下式に示される回転行列の列ベクトルR、
なお、A,R,tは、先に図14、図15を参照して説明した「ピンホールカメラモデル」における値A,R,tに対応する値である。
行列BT・Bの最小固有値に対応する固有ベクトルがqであるという設定で解を求めることができる。
但し、r1,r2,r3は回転行列の列ベクトルでノルムが1になるように、qの各成分のスケールを算出後補正する必要がある。以上の処理により、上記式(数式7)を適用して参照画像のカメラ位置・姿勢が求めることができる。
(処理2)得られたカメラ位置・姿勢を元に各特徴点を像平面に再射影し、再射影した点とトラッキング点(観測点)との誤差を計算する処理、
この処理について説明する。
miはトラッキングで得られた特徴点の画像内位置、
参照画像のカメラモデルフィッティング誤差を[reproj_error]として、数式で表すと、以下の式(数式11)によって示される。
(a)環境認識部302で用いた特徴点の数
(b)光線同士の交差角(図12参照)の中央値
(c)参照画像のカメラモデルフィッティング誤差
これらの3種類の値を評価値として算出する。
(a)環境認識部302で用いた特徴点の数は大きいほど高い評価値、
(b)光線同士の交差角(図12参照)の中央値は大きいほど高い評価値、
(c)参照画像のカメラモデルフィッティング誤差は小さいほど高い評価値、
このような設定となる。
(a)環境認識部302で用いた特徴点の数が予め設定した閾値[Tha]以上であれば適切、閾値[Tha]未満であれば不適切、
(b)光線同士の交差角(図12参照)の中央値が予め設定した閾値[Thb]以上であれば適切、閾値[Thb]未満であれば不適切、
(c)参照画像のカメラモデルフィッティング誤差が予め設定した閾値[Thc]以下であれば適切、閾値[Thc]より大きい場合は不適切、
このような判定を行う。なお、閾値はカメラの画角や環境中の特徴点の数、要求される精度などに依存するものであり、例えばユーザ設定によって適宜変更してよい。
具体的には、例えば図5のフローチャートに示すステップS101のSFM(Structure from Motion)処理を実行し、その処理結果をステップS102の「EKF SLAM」の初期化情報(Initialize Data)として利用する。
(a)特徴点の数が予め設定した閾値[Tha]以上、
(b)光線同士の交差角(図12参照)の中央値が予め設定した閾値[Thb]以上、
(c)参照画像のカメラモデルフィッティング誤差が予め設定した閾値[Thc]以下、
このような条件を満足する画像フレームによって構成されることになり、これらの画像フレームを用いたSFM処理によって、精度の高い特徴点の3次元位置情報の取得が可能となり、その後の「EKF SLAM」においても精度の高い3次元データの生成が可能となる。
選択フレーム間隔に対応する変数[T]の初期値=1、
最初の選択フレームに対応する変数[F]の初期値=0、
この初期値を、まず選択して、満足する評価値が得られず、ステップS306に戻った場合に、変数を変更して新たな画像フレームのセットを選択する。
(1)評価値判定処理
(2)画像選択用変数設定処理
これらの2つの処理部分によって構成される。(1)評価値判定処理は、図8のフローチャート中のステップS306の評価値判定ステップについて、
(a)環境認識部302で用いた特徴点の数
(b)光線同士の交差角(図12参照)の中央値
(c)参照画像のカメラモデルフィッティング誤差
これらの各評価値各々についての判定処理を区分して記載したフローに相当する。(2)画像選択用変数設定処理は、(1)評価値判定処理の処理結果に応じて、
選択フレーム間隔に対応する変数[T]、
最初の選択フレームに対応する変数[F]、
これらの変数をどのように変更するかを決定するための処理である。なお、この図18に示す(2)画像選択用変数設定処理は、図7に示す構成の入力画像選択部301において実行する。
(a)特徴点の数が予め設定した閾値[Tha]以上、
(b)光線同士の交差角(図12参照)の中央値が予め設定した閾値[Thb]以上、
(c)参照画像のカメラモデルフィッティング誤差が予め設定した閾値[Thc]以下、
これらの判定を行うステップである。すべてがYesの判定が得られれば、ステップS504に進み、その時点で選択された画像フレーム、すなわち、図8に示すステップS301において選択した画像フレームのセットが、図5のフローチャートに示すステップS101のSFM(Structure from Motion)処理に適用するフレームとして選択される。
選択フレーム間隔に対応する変数[T]、
最初の選択フレームに対応する変数[F]、
これらの変数を新たに設定する処理が行われる。
特徴点の数が予め設定した閾値[Tha]以上でないと判定されると、ステップS511に進み、選択フレーム間隔に対応する変数[T]の設定値が1より大きい設定であるか否かを判定する。選択フレーム間隔[T]=1の場合は、図18に示すように(1)のルートに進み、ステップS514において、最初の選択フレームに対応する変数[F]を[F+1]とする変数更新を行う。
ルート(1)
これは、フレーム間隔[T]が[1]と最小値であるのに、特徴点数が少ない状態である。
この状態は、
「特徴のない環境を撮影している」、
「カメラ移動が余りにも速すぎてフレーム間の重畳領域がない」、
これらの状態であることが考えられる。
この場合は、ステップS514において、最初の選択フレームに対応する変数[F]を[F+1]とする変数更新を実行して、ステップS517に進み、現在の選択フレーム[F]の次のフレーム[F+1]から、画像フレームを選択する。この場合は、フレーム間隔[T]は更新しない。
このルート(2)の場合は、特徴点数が少なく、かつ光線の交差角が小さい状態である。
この状態は、
「特徴のない環境を撮影している」
この状態であると想定される。
この場合は、フレーム間隔[T]を1つデクリメント[T−1]するとともに、現在の選択フレーム[F]の次のフレーム[F+1]から、画像フレームを選択する設定とする。
このルート(3)の場合は、特徴点数が少なく、光線の交差角が大きい状態である。
この状態は、
「サンプリングフレーム[T]の間隔に対し、カメラ移動が速過ぎてフレーム間の重畳領域が少ない」
このような場合であることが想定される。
この場合は、フレーム間隔[T]を1つデクリメント[T−1]して画像フレームの選択を行う。最初の選択フレームに対応する変数[F]は変更しない。
このルート(4)の場合は、特徴点数は十分であるが光線の交差角が小さい状態である。
この状態は、
「サンプリングフレーム[T]の間隔に対し、カメラ移動が遅い」
このような場合であることが想定される。
この場合は、フレーム間隔[T]を1つインクリメント[T+1]して、変数[F]は変更せずに新たな画像フレームの選択を行う。
このルート(5)の場合は、特徴点数は十分であり、光線の交差角も十分大きいが、ピンホールカメラ誤差が大きい状態である。
この状態は、
3次元位置推定が特異解に陥った、
トラッキング失敗
これらの可能性がある。
この場合は、フレーム間隔[T]については変更せず、現在の選択フレーム[F]の次のフレーム[F+1]から、画像フレームを選択する設定とする。
(a)特徴点の数が予め設定した閾値[Tha]以上、
(b)光線同士の交差角(図12参照)の中央値が予め設定した閾値[Thb]以上、
(c)参照画像のカメラモデルフィッティング誤差が予め設定した閾値[Thc]以下、
これらのすべての条件が満足された場合であり、全ての条件を満たしているので、この時点で選択した画像フレームを処理フレームとして決定すればよい。
選択フレーム間隔に対応する変数[T]、
最初の選択フレームに対応する変数[F]、
これらの変数を更新して、画像選択を実行することで、効率的に評価値の高い画像フレームを選択することが可能となる。
21〜23 特徴点
101 ユーザ
102 カメラ
103 3次元画像情報
120 情報処理装置
131 疎な3次元マップ
132 密な3次元マップ
301 入力画像選択部
302 環境認識部
303 特徴点追跡部
304 参照画像選択部
305 評価値算出部
306 評価値判定部
311 静止環境
312 カメラ
313 映像データ
314 環境認識結果
321 参照画像候補
322 画像フレーム
331,341,342 特徴点
351 特徴点軌跡
352 特徴点
353 距離
371,372 画像フレーム
381 特徴点
390 参照画像フレーム
391 特徴点
392 焦点
500 像平面
501 再射影点
502 3次元位置トラッキング点(観測点)
Claims (19)
- 画像に含まれる画素の3次元位置を算出する情報処理装置であり、
入力画像から複数画像を選択画像として選択する画像選択部と、
前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出する評価値算出部と、
前記評価値算出部の算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する評価値判定部を有し、
前記評価値算出部は、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出し、
前記評価値判定部は、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する構成であり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定することを特徴とする情報処理装置。 - 前記評価値算出部は、
前記(a1)〜(c1)のすべてを評価値として算出し、
前記評価値判定部は、
前記(a2)〜(c2)のすべての条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定することを特徴とする請求項1に記載の情報処理装置。 - 前記評価値算出部は、
前記評価値中、光線同士の交差角については、複数の対応特徴点および画像フレームを適用して算出した複数の交差角の中央値を算出する構成であり、
前記評価値判定部は、
前記中央値が規定閾値(Thb)以上であることを満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定することを特徴とする請求項1または2に記載の情報処理装置。 - 前記情報処理装置は、
前記選択画像の解析により、画像に含まれる特徴点の3次元位置およびカメラの位置姿勢情報を含む環境認識結果を生成する環境認識部を有し、
前記評価値算出部は、前記環境認識結果に含まれる情報を適用して前記評価値を算出することを特徴とする請求項1または2に記載の情報処理装置。 - 前記情報処理装置は、
前記環境認識結果を検証するための参照画像を選択する参照画像選択部を有し、
前記参照画像選択部は、参照画像候補と、前記選択画像に共通に含まれる対応特徴点の1画像座標系内での距離が規定閾値以上であるとの条件を満足する画像を参照画像として選択する構成であり、
前記評価値算出部は、前記参照画像選択部において選択された参照画像を適用して前記評価値を算出することを特徴とする請求項4に記載の情報処理装置。 - 前記情報処理装置は、
前記選択画像の解析により、画像に含まれる特徴点軌跡を求める特徴点追跡部を有し、
前記評価値算出部は、前記特徴点軌跡を適用して前記評価値を算出することを特徴とする請求項1または2に記載の情報処理装置。 - 前記入力画像選択部は、
選択フレーム間隔に対応する変数[T]と、最初の選択フレームに対応する変数[F]を設定および更新して、異なる画像の選択処理を行う構成であり、
前記評価値判定部において、前記選択画像が3次元データの生成に適切な画像でないと判定された場合に、前記変数[T]または[F]の少なくともいずれかの変数の更新を実行して新たな画像選択を実行することを特徴とする請求項1または2に記載の情報処理装置。 - 前記入力画像選択部は、
前記評価値判定部における選択画像の評価態様に応じて、予め規定した変数更新アルゴリズムに従って、前記変数[T]または[F]の少なくともいずれかの変数の更新を実行して新たな画像選択を実行することを特徴とする請求項7に記載の情報処理装置。 - 前記情報処理装置は、さらに、
前記評価値判定部が3次元データの生成に適切な画像であると判定した選択画像を適用したSFM(Structure from Motion)処理と、該SFM処理による生成情報を初期情報として利用した拡張カルマンフィルタ(EKF)を適用した処理により3次元データ生成を実行する構成を有することを特徴とする請求項1〜8いずれかに記載の情報処理装置。 - 情報処理装置において、画像に含まれる画素の3次元位置を算出するために適用する画像の選択処理を実行する画像処理方法であり、
画像選択部が、入力画像から複数画像を選択画像として選択する画像選択ステップと、
評価値算出部が、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出する評価値算出ステップと、
評価値判定部が、前記評価値算出ステップにおいて算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定する評価値判定ステップを有し、
前記評価値算出ステップは、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出するステップであり、
前記評価値判定ステップは、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するステップであり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定するステップであることを特徴とする画像処理方法。 - 前記評価値算出ステップは、
前記(a1)〜(c1)のすべてを評価値として算出するステップであり、
前記評価値判定ステップは、
前記(a2)〜(c2)のすべての条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定するステップであることを特徴とする請求項10に記載の画像処理方法。 - 前記評価値算出ステップは、
前記評価値中、光線同士の交差角については、複数の対応特徴点および画像フレームを適用して算出した複数の交差角の中央値を算出するステップであり、
前記評価値判定ステップは、
前記中央値が規定閾値(Thb)以上であることを満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定するステップであることを特徴とする請求項10または11に記載の画像処理方法。 - 前記画像処理方法は、さらに、
環境認識部が、前記選択画像の解析により、画像に含まれる特徴点の3次元位置およびカメラの位置姿勢情報を含む環境認識結果を生成する環境認識ステップを有し、
前記評価値算出ステップは、前記環境認識結果に含まれる情報を適用して前記評価値を算出するステップであることを特徴とする請求項10または11に記載の画像処理方法。 - 前記画像処理方法は、さらに、
参照画像選択部が、前記環境認識結果を検証するための参照画像を選択する参照画像選択ステップを有し、
前記参照画像選択ステップは、参照画像候補と、前記選択画像に共通に含まれる対応特徴点の1画像座標系内での距離が規定閾値以上であるとの条件を満足する画像を参照画像として選択するステップであり、
前記評価値算出ステップは、前記参照画像選択ステップにおいて選択された参照画像を適用して前記評価値を算出するステップであることを特徴とする請求項13に記載の画像処理方法。 - 前記画像処理方法は、さらに、
特徴点追跡部が、前記選択画像の解析により、画像に含まれる特徴点軌跡を求める特徴点追跡ステップを有し、
前記評価値算出ステップは、前記特徴点軌跡を適用して前記評価値を算出するステップであることを特徴とする請求項10または11に記載の画像処理方法。 - 前記入力画像選択ステップは、
選択フレーム間隔に対応する変数[T]と、最初の選択フレームに対応する変数[F]を設定および更新して、異なる画像の選択処理を行うステップであり、
前記評価値判定ステップにおいて、前記選択画像が3次元データの生成に適切な画像でないと判定された場合に、前記変数[T]または[F]の少なくともいずれかの変数の更新を実行して新たな画像選択を実行するステップであることを特徴とする請求項10または11に記載の画像処理方法。 - 前記入力画像選択ステップは、
前記評価値判定ステップにおける選択画像の評価態様に応じて、予め規定した変数更新アルゴリズムに従って、前記変数[T]または[F]の少なくともいずれかの変数の更新を実行して新たな画像選択を実行するステップであることを特徴とする請求項16に記載の画像処理方法。 - 前記画像処理方法は、さらに、
3次元データ生成部が、前記評価値判定ステップにおいて3次元データの生成に適切な画像であると判定した選択画像を適用したSFM(Structure from Motion)処理と、該SFM処理による生成情報を初期情報として利用した拡張カルマンフィルタ(EKF)を適用した処理により3次元データ生成を実行するステップを有することを特徴とする請求項10〜17いずれかに記載の画像処理方法。 - 情報処理装置において、画像に含まれる画素の3次元位置を算出するために適用する画像の選択処理を実行させるコンピュータ・プログラムであり、
画像選択部に、入力画像から複数画像を選択画像として選択させる画像選択ステップと、
評価値算出部に、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するための評価値を算出させる評価値算出ステップと、
評価値判定部に、前記評価値算出ステップにおいて算出した評価値に基づいて、前記選択画像が3次元データの生成に適切な画像であるか否かを判定させる評価値判定ステップを有し、
前記評価値算出ステップは、
(a1)前記選択画像に含まれる3次元位置の推定された特徴点数
(b1)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角、
(c1)参照画像のカメラモデルフィッティング誤差
上記(a1)〜(c1)の少なくともいずれかを評価値として算出させるステップであり、
前記評価値判定ステップは、
上記(a1)〜(c1)の少なくともいずれかの値を予め設定した閾値と比較して、前記選択画像が3次元データの生成に適切な画像であるか否かを判定するステップであり、
(a2)前記選択画像に含まれる3次元位置の推定された特徴点数が規定閾値(Tha)以上であること、
(b2)前記選択画像に含まれる対応特徴点の推定3次元位置と各画像フレームの特徴点位置とを結ぶ光線同士の交差角が規定閾値(Thb)以上であること、
(c2)参照画像のカメラモデルフィッティング誤差が規定閾値(Thc)以下であること、
上記(a2)〜(c2)の少なくともいずれかの条件を満足する場合に、前記選択画像が3次元データの生成に適切な画像であると判定させるステップであることを特徴とするコンピュータ・プログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008082451A JP5012615B2 (ja) | 2008-03-27 | 2008-03-27 | 情報処理装置、および画像処理方法、並びにコンピュータ・プログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2008082451A JP5012615B2 (ja) | 2008-03-27 | 2008-03-27 | 情報処理装置、および画像処理方法、並びにコンピュータ・プログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2009237848A true JP2009237848A (ja) | 2009-10-15 |
JP5012615B2 JP5012615B2 (ja) | 2012-08-29 |
Family
ID=41251726
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2008082451A Expired - Fee Related JP5012615B2 (ja) | 2008-03-27 | 2008-03-27 | 情報処理装置、および画像処理方法、並びにコンピュータ・プログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP5012615B2 (ja) |
Cited By (14)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8787614B2 (en) | 2010-05-03 | 2014-07-22 | Samsung Electronics Co., Ltd. | System and method building a map |
CN104699842A (zh) * | 2015-03-31 | 2015-06-10 | 百度在线网络技术(北京)有限公司 | 图片展示方法和装置 |
WO2015134832A1 (en) * | 2014-03-06 | 2015-09-11 | Nec Laboratories America, Inc. | High accuracy monocular moving object localization |
JP2016502712A (ja) * | 2012-11-02 | 2016-01-28 | クアルコム,インコーポレイテッド | 単眼視覚slamのための高速初期化 |
CN105333869A (zh) * | 2015-11-04 | 2016-02-17 | 天津津航计算技术研究所 | 一种基于自适应ekf的无人侦察机同步定位与构图方法 |
EP3001384A1 (en) | 2014-09-26 | 2016-03-30 | Fujitsu Limited | Three-dimensional coordinate computing apparatus, three-dimensional coordinate computing method, and program for three-dimensional coordinate computing |
WO2016199605A1 (ja) * | 2015-06-12 | 2016-12-15 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
JP2017187861A (ja) * | 2016-04-01 | 2017-10-12 | キヤノン株式会社 | 情報処理装置およびその制御方法 |
JP6478305B1 (ja) * | 2018-07-04 | 2019-03-06 | 有限会社ネットライズ | Slamの手法を応用した矢板の地中位置測定方法とその装置 |
US10542212B2 (en) | 2015-04-06 | 2020-01-21 | Sony Corporation | Self-position estimation device and method |
US10809053B2 (en) | 2014-09-17 | 2020-10-20 | Kabushiki Kaisha Toshiba | Movement assisting device, movement assisting method, and computer program product |
US10929695B2 (en) | 2017-03-28 | 2021-02-23 | Denso Corporation | Obstacle detection apparatus |
CN112884124A (zh) * | 2021-02-24 | 2021-06-01 | 中国工商银行股份有限公司 | 神经网络的训练方法及设备、图像处理方法及设备 |
JP2021152909A (ja) * | 2020-06-05 | 2021-09-30 | ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド | オフラインマップの生成方法、生成装置、電子機器及び記憶媒体 |
Families Citing this family (1)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP7140368B2 (ja) | 2018-06-08 | 2022-09-21 | 株式会社ソミックマネージメントホールディングス | ボールジョイントのベアリングシート及びボールジョイント |
Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006252275A (ja) * | 2005-03-11 | 2006-09-21 | Japan Science & Technology Agency | カメラ運動及び物体形状の復元システム |
JP2007327938A (ja) * | 2006-05-10 | 2007-12-20 | Topcon Corp | 画像処理装置及びその処理方法 |
JP2008002980A (ja) * | 2006-06-23 | 2008-01-10 | Canon Inc | 情報処理方法および装置 |
-
2008
- 2008-03-27 JP JP2008082451A patent/JP5012615B2/ja not_active Expired - Fee Related
Patent Citations (3)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2006252275A (ja) * | 2005-03-11 | 2006-09-21 | Japan Science & Technology Agency | カメラ運動及び物体形状の復元システム |
JP2007327938A (ja) * | 2006-05-10 | 2007-12-20 | Topcon Corp | 画像処理装置及びその処理方法 |
JP2008002980A (ja) * | 2006-06-23 | 2008-01-10 | Canon Inc | 情報処理方法および装置 |
Cited By (20)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US8787614B2 (en) | 2010-05-03 | 2014-07-22 | Samsung Electronics Co., Ltd. | System and method building a map |
JP2016502712A (ja) * | 2012-11-02 | 2016-01-28 | クアルコム,インコーポレイテッド | 単眼視覚slamのための高速初期化 |
WO2015134832A1 (en) * | 2014-03-06 | 2015-09-11 | Nec Laboratories America, Inc. | High accuracy monocular moving object localization |
US10809053B2 (en) | 2014-09-17 | 2020-10-20 | Kabushiki Kaisha Toshiba | Movement assisting device, movement assisting method, and computer program product |
EP3001384A1 (en) | 2014-09-26 | 2016-03-30 | Fujitsu Limited | Three-dimensional coordinate computing apparatus, three-dimensional coordinate computing method, and program for three-dimensional coordinate computing |
US9892516B2 (en) | 2014-09-26 | 2018-02-13 | Fujitsu Limited | Three-dimensional coordinate computing apparatus, three-dimensional coordinate computing method, and non-transitory computer readable recording medium having therein program for three-dimensional coordinate computing |
US10410397B2 (en) | 2015-03-31 | 2019-09-10 | Baidu Online Network Technology (Beijing) Co., Ltd. | Picture presentation method and apparatus |
KR101820349B1 (ko) * | 2015-03-31 | 2018-01-19 | 바이두 온라인 네트웍 테크놀러지 (베이징) 캄파니 리미티드 | 화상 표시 방법 및 장치 |
CN104699842A (zh) * | 2015-03-31 | 2015-06-10 | 百度在线网络技术(北京)有限公司 | 图片展示方法和装置 |
US10542212B2 (en) | 2015-04-06 | 2020-01-21 | Sony Corporation | Self-position estimation device and method |
US10636168B2 (en) | 2015-06-12 | 2020-04-28 | Sony Corporation | Image processing apparatus, method, and program |
WO2016199605A1 (ja) * | 2015-06-12 | 2016-12-15 | ソニー株式会社 | 画像処理装置および方法、並びにプログラム |
CN105333869A (zh) * | 2015-11-04 | 2016-02-17 | 天津津航计算技术研究所 | 一种基于自适应ekf的无人侦察机同步定位与构图方法 |
JP2017187861A (ja) * | 2016-04-01 | 2017-10-12 | キヤノン株式会社 | 情報処理装置およびその制御方法 |
US10929695B2 (en) | 2017-03-28 | 2021-02-23 | Denso Corporation | Obstacle detection apparatus |
JP2020007732A (ja) * | 2018-07-04 | 2020-01-16 | 有限会社ネットライズ | Slamの手法を応用した矢板の地中位置測定方法とその装置 |
JP6478305B1 (ja) * | 2018-07-04 | 2019-03-06 | 有限会社ネットライズ | Slamの手法を応用した矢板の地中位置測定方法とその装置 |
JP2021152909A (ja) * | 2020-06-05 | 2021-09-30 | ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッド | オフラインマップの生成方法、生成装置、電子機器及び記憶媒体 |
JP7104215B2 (ja) | 2020-06-05 | 2022-07-20 | ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド | オフラインマップの生成方法、生成装置、電子機器及び記憶媒体 |
CN112884124A (zh) * | 2021-02-24 | 2021-06-01 | 中国工商银行股份有限公司 | 神经网络的训练方法及设备、图像处理方法及设备 |
Also Published As
Publication number | Publication date |
---|---|
JP5012615B2 (ja) | 2012-08-29 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
JP5012615B2 (ja) | 情報処理装置、および画像処理方法、並びにコンピュータ・プログラム | |
US10755428B2 (en) | Apparatuses and methods for machine vision system including creation of a point cloud model and/or three dimensional model | |
US10948297B2 (en) | Simultaneous location and mapping (SLAM) using dual event cameras | |
Zheng et al. | Hybridfusion: Real-time performance capture using a single depth sensor and sparse imus | |
US10133279B2 (en) | Apparatus of updating key frame of mobile robot and method thereof | |
US10109104B2 (en) | Generation of 3D models of an environment | |
KR102016551B1 (ko) | 위치 추정 장치 및 방법 | |
KR101776622B1 (ko) | 다이렉트 트래킹을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
US11210804B2 (en) | Methods, devices and computer program products for global bundle adjustment of 3D images | |
US9495761B2 (en) | Environment mapping with automatic motion model selection | |
KR101725060B1 (ko) | 그래디언트 기반 특징점을 이용한 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
EP2813082B1 (en) | Head pose tracking using a depth camera | |
KR101776621B1 (ko) | 에지 기반 재조정을 이용하여 이동 로봇의 위치를 인식하기 위한 장치 및 그 방법 | |
KR100855657B1 (ko) | 단안 줌 카메라를 이용한 이동로봇의 자기위치 추정 시스템및 방법 | |
KR20190042187A (ko) | 깊이 값을 추정하는 방법 및 장치 | |
Forster et al. | Appearance-based active, monocular, dense reconstruction for micro aerial vehicles | |
JP7116262B2 (ja) | 画像深度推定方法および装置、電子機器、ならびに記憶媒体 | |
KR20210058686A (ko) | 동시적 위치 추정 및 맵 작성을 구현하는 장치 및 방법 | |
GB2567245A (en) | Methods and apparatuses for depth rectification processing | |
US10061784B2 (en) | Method and device for fusing a plurality of uncertain or correlated data | |
US11145072B2 (en) | Methods, devices and computer program products for 3D mapping and pose estimation of 3D images | |
Das et al. | Entropy based keyframe selection for multi-camera visual slam | |
Pietzsch | Planar features for visual slam | |
JP2022138037A (ja) | 情報処理装置、情報処理方法およびプログラム | |
JP2022011821A (ja) | 情報処理装置、情報処理方法、移動ロボット |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20110106 |
|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20120214 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20120306 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20120416 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20120508 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20120521 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150615 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20150615 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |