JP2004145592A - 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体 - Google Patents

移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体 Download PDF

Info

Publication number
JP2004145592A
JP2004145592A JP2002309122A JP2002309122A JP2004145592A JP 2004145592 A JP2004145592 A JP 2004145592A JP 2002309122 A JP2002309122 A JP 2002309122A JP 2002309122 A JP2002309122 A JP 2002309122A JP 2004145592 A JP2004145592 A JP 2004145592A
Authority
JP
Japan
Prior art keywords
image
extracting
partial area
partial
motion vectors
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2002309122A
Other languages
English (en)
Inventor
Satoshi Sakuma
佐久間 聡
Hiroko Takahashi
高橋 裕子
Tomohiko Arikawa
有川 知彦
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nippon Telegraph and Telephone Corp
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP2002309122A priority Critical patent/JP2004145592A/ja
Publication of JP2004145592A publication Critical patent/JP2004145592A/ja
Pending legal-status Critical Current

Links

Images

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

【課題】周期性のあるパターンを含む場合でも、間違った対応付けを行うことなく、2枚の画像から、より高精度な移動ベクトルを抽出可能とする。
【解決手段】画像特徴点抽出手段102は、同一物体を撮影した2枚のフレーム画像A,Bのうち画像Aの濃淡値に局所フィルタ処理を施しガウス曲率の極大点や極小点を画像特徴点として抽出する。部分領域抽出手段104は、画像特徴点を含む設定された部分領域から画像A内の他の部分領域との画像類似度が所定値より低い部分領域を抽出する。部分領域の移動ベクトル抽出手段105は、画像B内の部分領域との対応付けを画像類似度に基づいて行い対応付けられた各部分領域から移動ベクトルを抽出する。物体の移動ベクトル抽出手段106は、部分領域の移動ベクトルのうち大きさと向きが所定範囲内にあるものをカテゴリ分類し、この移動ベクトルを対応する物体の移動ベクトルとして抽出する。
【選択図】 図1

Description

【0001】
【発明の属する技術分野】
本発明は、異なる時間に同一移動物体を撮影した画像から移動物体の画像上での移動ベクトルを抽出するための装置及び方法及びプログラム及びその記録媒体に関するものである。
【0002】
【従来の技術】
従来、移動物体の移動ベクトルを求めるには、対応点問題を解決する必要があり、その方法として、1)輝度勾配による方法(オプティカルフロー)、と2)相関による方法とがある。輝度勾配による方法では、移動前の点の輝度と移動後の点の輝度が変化しないことと画像全体での速度分布が滑らかに変化するという拘束条件を用いている。一方、相関による方法には、2−1)画像全体を対象とするものと、2−2)画像中で特徴がある部分のみを対象とするものがあるが、相関による方法では、予めエッジなどの特徴点を求め、その点の移動ベクトルを相関係数に基づいて決定する(非特許文献1参照)。
【0003】
【非特許文献1】
松山隆司、久野義徳、井宮淳 編、「コンピュータビジョン:技術評論と将来展望」、株式会社 新技術コミュニケーションズ、1998年、p.138−148
【0004】
【発明が解決しようとする課題】
しかしながら、従来の輝度勾配による方法や相関による方法では、チェッカーフラッグなどの周期性のあるパターンを含む場合には、間違った対応付けを行うことがある。
【0005】
また、画像全体を対象とした相関による移動ベクトル抽出では、画像中の濃淡変化が非常に小さい領域において対応が求まったとしても不確実である。
【0006】
また、画像中で特徴があるものを対象とした相関による移動ベクトル抽出では、予めエッジ抽出等の前処理を行って濃淡変化が大きい領域に対応付けを限定し確実性を向上させているが、多角形の辺等の周期性を持った特徴を含む場合にも間違った対応付けが生じる。輝度勾配法でも特徴の周期性により間違った対応付けが生じる。
【0007】
本発明の目的は、異なる時間に同一移動物体を撮影した2枚の画像から、間違った対応付けを行うことなく、移動物体の画像上での移動ベクトルを高精度に抽出可能とする技術を提供することである。また、撮影時間間隔及び対応する領域間の距離が既知であれば、移動物体の速度を求めることを可能とする技術を提供することである。
【0008】
【課題を解決するための手段】
上記の課題を解決するため、本発明は、同一物体を所定の時間間隔で撮影した第1及び第2の画像から該第1及び第2の画像間の該物体の移動ベクトルを抽出する装置であって、第1の画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する手段と、第1の画像において前記画像特徴点を含む部分領域を設定する手段と、前記設定された部分領域の中から第1の画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する手段と、前記抽出された部分領域と第2の画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する手段と、前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する手段とを有することを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0009】
あるいは、撮影ラインを対象物体が相対的に横切って移動するように設置した第1及び第2のラインセンサカメラによってそれぞれ撮影した第1及び第2の時系列画像から該第1及び第2の時系列画像間の該物体の移動ベクトルを抽出する装置であって、第1及び第2のラインセンサカメラを同期させて所定時間間隔で取得したライン画像をそれぞれつなぎ合わせて各ラインセンサに対する第1及び第2の時系列画像を合成する手段と、第1の時系列画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する手段と、第1の時系列画像において前記画像特徴点を含む部分領域を設定する手段と、前記設定された部分領域の中から第1の時系列画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する手段と、前記抽出された部分領域と第2の時系列画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する手段と、前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する手段とを有することを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0010】
あるいは、上記の移動ベクトル抽出装置において、前記特徴点を抽出する手段は、第1の画像または第1の時系列画像の濃淡値に対してガウス曲率が所定の正の閾値以上となる局所領域の中心点を画像特徴点として抽出するものであることを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0011】
あるいは、上記の移動ベクトル抽出装置において、前記部分領域を設定する手段は、1つの部分領域中に複数の前記画像特徴点を含むように該部分領域を設定するものであることを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0012】
あるいは、上記の移動ベクトル抽出装置において、前記物体の移動ベクトルを抽出する手段は、前記分類されたカテゴリに属する移動ベクトルの個数が所定の閾値以上である場合に該カテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出するものであることを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0013】
あるいは、上記の移動ベクトル抽出装置において、処理対象とする各部分画像の画素を間引いて画像分解能を低下させた後に画像類似度を計算する手段を備え、前記部分領域を抽出する手段及び前記部分領域の移動ベクトルを抽出する手段で用いる画像類似度は、前記画像類似度を計算する手段によって求めることを特徴とする移動ベクトル抽出装置を、その解決の手段とする。
【0014】
あるいは、同一物体を所定の時間間隔で撮影した第1及び第2の画像から該第1及び第2の画像間の該物体の移動ベクトルを抽出する方法であって、第1の画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する段階と、第1の画像において前記画像特徴点を含む部分領域を設定する段階と、前記設定された部分領域の中から第1の画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する段階と、前記抽出された部分領域と第2の画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する段階と、前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する段階とを有することを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0015】
あるいは、撮影ラインを対象物体が相対的に横切って移動するように設置した第1及び第2のラインセンサカメラによってそれぞれ撮影した第1及び第2の時系列画像から該第1及び第2の時系列画像間の該物体の移動ベクトルを抽出する方法であって、第1及び第2のラインセンサカメラを同期させて所定時間間隔で取得したライン画像をそれぞれつなぎ合わせて各ラインセンサに対する第1及び第2の時系列画像を合成する段階と、第1の時系列画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する段階と、第1の時系列画像において前記画像特徴点を含む部分領域を設定する段階と、前記設定された部分領域の中から第1の時系列画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する段階と、前記抽出された部分領域と第2の時系列画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する段階と、前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する段階とを有することを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0016】
あるいは、上記の移動ベクトル抽出方法において、前記特徴点を抽出する段階は、第1の画像または第1の時系列画像の濃淡値に対してガウス曲率が所定の正の閾値以上となる局所領域の中心点を画像特徴点として抽出することを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0017】
あるいは、上記の移動ベクトル抽出方法において、前記部分領域を設定する段階は、1つの部分領域中に複数の前記画像特徴点を含むように該部分領域を設定することを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0018】
あるいは、上記の移動ベクトル抽出方法において、前記物体の移動ベクトルを抽出する段階は、前記分類されたカテゴリに属する移動ベクトルの個数が所定の閾値以上である場合に該カテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出することを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0019】
あるいは、上記の移動ベクトル抽出方法において、前記部分領域を抽出する段階及び前記部分領域の移動ベクトルを抽出する段階で用いる画像類似度は、処理対象とする各部分画像の画素を間引いて画像分解能を低下させた後に画像類似度を計算することによって求めることを特徴とする移動ベクトル抽出方法を、その解決の手段とする。
【0020】
あるいは、上記の移動ベクトル抽出方法における段階をコンピュータに実行させるためのプログラムとしたことを特徴とする移動ベクトル抽出プログラムを、その解決の手段とする。
【0021】
あるいは、上記の移動ベクトル抽出方法における段階をコンピュータに実行させるためのプログラムとし、前記プログラムを前記コンピュータで読取り可能な記録媒体に記録したことを特徴とする移動ベクトル抽出プログラムを記録した記録媒体を、その解決の手段とする。
【0022】
本発明では、移動物体に周期的な画像特徴やパターンが含まれる場合、周期性のある画像特徴やパターンの領域を除外し、周期性のない独立した特徴点、あるいは他と類似しない特徴点を用いて移動ベクトルを求めることにより、間違った対応付けを行うことがなく、より高精度な移動ベクトルを抽出することができるようにする。例えば、周期性の無い極大点又は極小点を用いて画像の対応付けを行うことで、間違えることなく移動ベクトルを抽出できるようにする。また、複数の移動物体が画像中に存在したとしても、同一移動ベクトルを持つ部分領域のカテゴリ分類処理により、移動物体毎に移動ベクトルを抽出できるようにする。さらに、撮影時間間隔及び対応する部分領域間の既知の距離を用いて、移動物体の速度を求めることを可能とする。
【0023】
【発明の実施の形態】
本発明の実施形態について、図面を参照して説明する。ただし、本実施形態では、移動物体を道路上を移動する移動車両とし、上部から移動車両を撮影するものとする。
【0024】
〈実施形態1〉
本発明の第1の実施形態を以下に示す。
【0025】
図1は、本実施形態の移動ベクトル抽出装置の構成の一例であり、画像取得手段101、画像特徴点抽出手段102、部分領域設定手段103、部分領域抽出手段104、部分領域の移動ベクトル抽出手段105、移動物体の移動ベクトル抽出手段106からなる。画像取得手段101には、カメラ107が接続されている。移動物体の画像A108及び移動物体の画像B109は、カメラ107及び画像取得手段101によって取得された、異なる時間に同一移動物体を撮影した2枚の画像(第1の画像及び第2の画像に相当)である。
【0026】
図2は、本実施形態の移動ベクトル抽出装置の測定系の一例である。図2において道路上を移動する移動車両を201とし、移動車両201を上部より撮影するCCDカメラを202とする。CCDカメラ202は一般のビデオ映像を撮影できる撮影手段であり、図1のカメラ107に相当する。
【0027】
図3は、本実施形態の移動ベクトル抽出装置の動作例とともに本発明の方法の実施形態を示すフローチャートであり、図中、301〜308は処理のステップを表している。
【0028】
図3において、まず、301ではCCDカメラ309(カメラ107に相当)から画像取得手段101により2枚の各フレーム画像を取得し、302では画像特徴点抽出手段102により局所フィルタ処理して得られたガウス曲率に基づく画像特徴点を検出し、303では部分領域設定手段103により複数の画像特徴点を含む部分領域を設定する。以下、部分領域抽出手段104において、304では設定された部分領域をテンプレートとした同一画像内での部分領域毎の画像類似度を、閾値以上の画像類似度を持つ複数の部分領域がなくなるまで計算し、305では設定した部分領域をテンプレートとした次フレームの画像(第2の画像に相当)内での部分領域毎の画像類似度を、閾値以上の画像類似度を持つ部分領域がなくなるまで計算し、306では最大の画像類似度をもつ部分領域を対応付ける。307では対応付けられた部分領域の移動ベクトルを移動物体の移動ベクトル抽出手段106により抽出する。以上の303から307の処理を全ての部分領域に対して処理すると、308において、移動物体の移動ベクトル抽出手段106により部分領域の移動ベクトルをカテゴリ分類し同一移動ベクトルを持つ部分領域が閾値以上含まれるカテゴリを選択して決定し、移動物体の移動ベクトル抽出結果310として出力する。ここで、CCDカメラ309は、モノクロカメラでもカラーカメラでも構わない。
【0029】
図3のフローチャートに従い、以下に移動ベクトル抽出装置における処理の一例を説明する。なお、以下の処理が移動ベクトル抽出装置のどの手段でなされるかは、上記の説明のとおりである。
【0030】
まず、CCDカメラ309より各フレームの画像を取得する(301)。このフレーム画像は、例えば、1秒あたり30枚等の所定の時間間隔で撮影されるビデオ映像の各フレームを意味する。図4は、図2のCCDカメラより取得されたフレーム画像の一例であり、401は移動ベクトル抽出の基準となるフレームの濃淡画像、402は次フレームの濃淡画像である。CCDカメラがカラーカメラの場合は、例えば、YIQ表色系のY信号を選択する(参考文献1「画像解析ハンドブック」東京大学出版会、1991年)。
【0031】
次に、ガウス曲率に基づく画像特徴点検出を行う(302)。まず、基準となるフレームの濃淡画像401に対して、局所領域毎にガウス曲率を求める。ガウス曲率は、参考文献2(「微分幾何特徴に基づく距離画像分割のためのハイブリット手法」、情報処理学会論文誌、1989年)で示されているように、
【0032】
【数1】
Figure 2004145592
【0033】
で求めることができる。ここで、x及びyは濃淡画像上での位置、zはその位置での濃淡値である。ガウス曲率Kの符号と曲面形状の関係は、図5のようになる。画像の位置合わせを考えた場合、テンプレートとする部分領域に極大点又は極小点が含まれないと不確実となる。そこで、ガウス曲率が正の閾値以上となる局所領域の中心点を画像特徴点として抽出する。図6は、基準となるフレームの濃淡画像401内の画像特徴点(図6内の黒点)の分布を示す。
【0034】
次に、複数の画像特徴点を含む部分領域を設定する(303)。ここでは、複数の画像特徴点が含まれるような予め決められた大きさ部分領域を基準となるフレームの濃淡画像中から選択する。相互相関係数を用いた画像類似度の計算方法等では、通常、画像の濃淡の絶対値を無視して画像類似度を求めるため、部分領域内に1つの画像特徴点しか含まれていないと、画像間の正しい対応付けができなくなる場合がある。部分領域内に複数の画像特徴点を含めることにより、複数の画像特徴点間の位置関係や濃淡値の比によって、より確実な対応付けができるようになる。図7はその一例であり、701は基準となるフレームの濃淡画像、702は選択された部分領域A、703は選択された部分領域Bを示す。基準となるフレームの画像特徴点の分布601と比較すればわかるように、部分領域A702及び部分領域B703には画像特徴点が2つ含まれている。
【0035】
次に、設定した部分領域をテンプレートとした同一画像内での部分領域毎の類似度を計算する(304)。まず、基準となる画像領域とテンプレートの類似度を計算する。画像類似度は、例えば、相互相関係数による方法(参考文献1)を用いて計算する。相互相関係数法では、相互相関係数が大きいほど類似度が高くなる。従って、予め決められた閾値以上の相互相関係数値をもつ画像中の部分領域をテンプレートと一致したものと判断する。
【0036】
図8は部分領域A702及び部分領域B703をテンプレートとしたマッチング結果を示しており、801は、部分領域A702に対するマッチング結果、802は、部分領域Bに対するマッチング結果、803はテンプレートと一致した、部分領域A、804はテンプレートと一致した部分領域B、805はテンプレートと一致した部分領域Cである。802に示すように、画像特徴点がガウス曲率の極大点又は極小点であったとしても周期的なパターンであれば、不確実となる。従って、テンプレートに対して同一画像上に複数のマッチングする領域が存在する場合、そのテンプレートとなる部分領域に基づく移動ベクトル抽出処理は行わないことにする。
【0037】
ここでは、類似度計算に相互相関係数を用いたが、SSAD法等の画像マッチング方法を用いて類似度を計算しても構わない。また、類似度を計算する画像の画素数を一定と場合、部分画像の画素を間引いて画像分解能を低下させた後に画像類似度を計算することによって、撮影された元の画像に対してより広範囲なより多くの画像特徴点を含む部分の類似度を求めることができるため、同じ計算量でより確実な画像間の対応付けができるようになる。
【0038】
次に、テンプレートに対して同一画像上に複数のマッチングする領域が存在しない場合、選択した部分領域をテンプレートとして次フレームの画像内での部分領域毎の画像類似度計算(305)及び最大の類似度をもつ部分領域の選択(306)を行う。画像類似度計算は304と同様な方法で行う。計算された類似度に対して閾値処理を行い、閾値以上で且つ最大の類似度をもつ部分領域を選択する。図9は、部分領域A702とのマッチング結果であり、901は次フレームの濃淡画像、902は選択された部分領域Aである。
【0039】
次に、対応付けられた部分領域の移動ベクトルを抽出する(307)。基準となるフレーム内の部分領域Aの座標を(x,y)、次フレーム内の部分領域Aの座標を(x,y)とすれば、移動ベクトルfは(x−x,y−y)と求めることができる。
【0040】
次に、求められた全ての部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する。例えば、分類されたカテゴリに属する移動ベクトルの個数が所定の閾値以上である場合に該カテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する。図10は対応付けられた部分領域の一例を示しており、1001は基準となるフレームで選択された部分領域、1002は次フレームで対応する部分領域、1003はカテゴリA、1004はカテゴリBを示す。まず、対応する部分領域の移動ベクトルをf(i=1,2,…)とする。図10では10個の対応する領域があるので、iの最大値は10である。始めにfの属するカテゴリをCとする。ここで、移動ベクトルfとのユークリッド距離が閾値より小さくなる移動ベクトルfはカテゴリCに属するものとする。もし、ユークリッド距離が閾値以上であれば、その移動ベクトルfが属する新しくカテゴリCを作成する。以上を繰り返すことにより、カテゴリ分類をすることができる。この結果、カテゴリA1003及びカテゴリB1004のように分類できる。ここで、閾値を正の有限値とすれば、選択されたカテゴリが移動車両のカテゴリと見なすことができる。従って、移動車両の移動ベクトルは、例えば、カテゴリに含まれる移動ベクトルの平均値として求めても構わない。
【0041】
また、例えば、参考文献1に記載されているような、ある特定のベクトルとのユークリッド距離が所定の範囲内にある移動ベクトルを同じカテゴリに分類する方法を用いれば、3つ以上の任意の数のカテゴリヘの分類も可能となり、任意の速度で移動する複数の物体への対応も可能となる。さらに、移動ベクトルの大きさだけでなく、向きも同時に考慮してカテゴリ分類を行えば、任意の方向に任意の速度で移動する複数の物体への対応も可能となる。
【0042】
また、どちらか一方の画像で抽出された部分領域ともう一方の画像内の部分領域の対応付けをする場合、閾値以上の部分領域が複数存在しその部分領域間の距離が予め決められた距離以上離れていれば不確実として領域の対応付けを行わなくても構わない。
【0043】
以上では、固定されたカメラによって所定の時間間隔で撮影された2枚の画像を用いて、物体の移動ベクトルを求める例を説明したが、本発明において、移動物体上に設置したカメラによって景観を所定の時間間隔で撮影した2枚の画像を用いれば、景観中にある特定の物体の移動ベクトルを求めることも同様に可能である。
【0044】
〈実施形態2〉
次に、本発明の第2の実施形態を説明する。本実施形態は、カメラと画像取得手段の画像の取得処理を除けば、実施形態1と同様である。
【0045】
図11は、本実施形態の移動ベクトル抽出装置の構成の一例であり、画像取得手段1101、画像特徴点抽出手段1102、部分領域設定手段1103、部分領域抽出手段1104、部分領域の移動ベクトル抽出手段1105、移動物体の移動ベクトル抽出手段1106からなる。画像取得手段1101には、2台のラインセンサカメラ1107A,1107Bが接続されている。移動物体の時系列画像A1108及び移動物体の時系列画像B1109は、2台のラインセンサカメラ1107A,1107Bからのライン画像を画像取得手段1101によって合成して取得された、異なる時間に同一移動物体を撮影した2枚の時系列画像(第1の時系列画像及び第2の時系列画像に相当)である。
【0046】
図12は、本実施形態の移動ベクトル抽出装置の測定系の一例である。図12において道路上を移動する移動車両を1201とし、移動車両1201を上部より撮影するラインセンサカメラAを1202、ラインセンサカメラBを1203とする。ラインセンサカメラA1202、ラインセンサカメラB1203は、図11のラインセンサカメラA1107A、ラインセンサカメラB1107Bに相当する。
【0047】
図13は、本実施形態の移動ベクトル抽出装置の動作例とともに本発明の方法の実施形態を示すフローチャートであり、図中、1301〜1308は処理のステップを表している。
【0048】
図13において、まず、1301では2台のラインセンサカメラ1309A,1309B(ラインセンサカメラ1107A,1107Bに相当)からの各ライン画像を画像取得手段1101により合成して2枚の時系列画像を取得し、1302では画像特徴点抽出手段1102により局所フィルタ処理して得られたガウス曲率に基づく画像特徴点を検出し、1303では部分領域設定手段1103により複数の画像特徴点を含む部分領域を設定する。以下、部分領域抽出手段1104において、1304では設定された部分領域をテンプレートとした同一画像内での部分領域毎の画像類似度を、閾値以上の画像類似度を持つ複数の部分領域がなくなるまで計算し、1305では設定された部分領域をテンプレートとした次の時系列画像内での部分領域毎の画像類似度を、閾値以上の画像類似度を持つ部分領域がなくなるまで計算し、1306では最大の画像類似度をもつ部分領域を対応付ける。続いて、1307では対応付けられた部分領域の移動ベクトルを移動物体の移動ベクトル抽出手段1106により抽出する。以上の1303から1307の処理を全ての部分領域に対して処理すると、1308において、移動物体の移動ベクトル抽出手段1106により部分領域の移動ベクトルをカテゴリ分類し、同一移動ベクトルを持つ部分領域が閾値以上含まれるカテゴリを選択して決定し、移動物体の移動ベクトル抽出結果1310として出力する。ここで、ラインセンサカメラ1309A,1309Bは、モノクロのラインセンサカメラでもカラーのラインセンサカメラでも構わない。
【0049】
図14は、図12の測定系を横から見た図であり、1401は移動車両、1402はラインセンサカメラA、1403はラインセンサカメラB、1404はラインセンサカメラAの撮影ライン、1405はラインセンサカメラBの撮影ラインを示す。
【0050】
図15は、ラインセンサカメラA及びラインセンサカメラBを用いて取得された時系列画像の一例を示しており、1501は時系列画像A、1502は時系列画像Bを示す。ラインセンサカメラA及びラインセンサカメラBを同期させ、一定時間間隔で撮影する場合、移動車両が各撮影ラインを通過すると時間軸1503上で時間のずれた2枚の時系列画像A及び時系列画像Bが取得できる。従って、図13のフローチャートに示した方法であって、実施形態1と同様な方法で移動ベクトルを抽出することができる。ただし、実施形態1におけるフレームの画像は実施形態2では時系列画像である。
【0051】
ラインセンサカメラを用いた場合には、時系列画像の背景部分の濃淡値分布が時間軸方向には変化しないため、全て谷型か尾根型となり、従って、ガウス曲率は0になるので、画像特徴点抽出時に背景部分を容易に除去できるという利点がある。
【0052】
また、対応する部分領域間の距離が既知であれば、移動物体の速度を求めることが可能となる。また3台以上のカメラを用いた場合には、組み合わせ毎に速度を求め平均速度を求めても構わない。
【0053】
また、上記の実施形態ではカメラを固定し移動物体の移動ベクトルを抽出したが、カメラを移動させ景観画像を撮影し景観画像中の移動物体の移動ベクトルを求めても構わない。
【0054】
なお、図1、図11で示した装置における各部の一部もしくは全部の機能をコンピュータのプログラムで構成し、そのプログラムをコンピュータを用いて実行して本発明を実現することができること、あるいは、図3、図13で示した処理のステップをコンピュータのプログラムで構成し、そのプログラムをコンピュータに実行させることができることは言うまでもなく、コンピュータでその機能を実現するためのプログラム、あるいは、コンピュータにその処理のステップを実行させるためのプログラムを、そのコンピュータが読み取り可能な記録媒体、例えば、フレキシブルディスクや、MO、ROM、メモリカード、CD、DVD、リムーバブルディスクなどに記録して、保存したり、配布したりすることが可能である。また、上記のプログラムをインターネットや電子メールなど、ネットワークを通して提供することも可能である。このように、記録媒体やネットワークにより提供されたプログラムをコンピュータにインストールすることで、本発明が実施可能となる。
【0055】
【発明の効果】
以上説明したように、本発明による移動ベクトル抽出装置及び方法を使用することにより、フレーム間での移動物体の移動ベクトルを抽出することができるようになる。また、カテゴリ分類により複数の移動物体にも対応できるため、例えば、人のような物体の一部が動きをする場合でも部分ごとに移動ベクトルを抽出できるようになる。また、ラインセンサカメラを用いた場合には、背景部分の濃淡値分布が全て谷型か尾根型となりガウス分布が0になるので、画像特徴点抽出時に背景部分を除去でき、移動物体のみの移動ベクトルを容易に抽出することができるようになる。また、カメラを移動させ景観画像を撮影し景観画像中の物体の移動ベクトルが求められれば、ステレオの原理による物体の奥行き計測とカメラを設置した移動物体の速度計測が可能となる。
【図面の簡単な説明】
【図1】本発明による実施形態1の移動ベクトル抽出装置の構成の一例を示す図
【図2】実施形態1の測定系の一例を示す図
【図3】実施形態1の移動ベクトル抽出装置の処理の一例を示すフローチャート
【図4】(a),(b)は、実施形態1のCCDカメラから得られた各フレーム画像の一例を示す図
【図5】ガウス曲率と曲面形状との関係を示す図
【図6】実施形態1のフレーム画像から得られた画像特頂点の一例を示す図
【図7】実施形態1のフレーム画像から選択された部分領域の一例を示す図
【図8】(a),(b)は、実施形態1の同一画像での部分領域のマッチング結果の一例を示す図
【図9】実施形態1の部分領域の次フレーム画像に対するマッチング結果の一例を示す図
【図10】(a),(b)は、実施形態1の対応付けられた部分領域組に対するカテゴリ分類の一例を示す図
【図11】本発明による実施形態2の移動ベクトル抽出装置の構成の一例を示す図
【図12】実施形態2の測定系の一例を示す図
【図13】実施形態2の移動ベクトル抽出装置の動作の一例を示すフローチャート
【図14】実施形態2の測定系を横から見た図
【図15】(a),(b)は、実施形態2の時系列画像の一例を示す図
【符号の説明】
101…画像取得手段
102…画像特徴点抽出手段
103…部分領域設定手段
104…部分領域抽出手段
105…部分領域の移動ベクトル抽出手段
106…物体の移動ベクトル抽出手段
107…カメラ
108…移動物体の画像A
109…移動物体の画像B
1101…画像取得手段
1102…画像特徴点抽出手段
1103…部分領域設定手段
1104…部分領域抽出手段
1105…部分領域の移動ベクトル抽出手段
1106…物体の移動ベクトル抽出手段
1107A…ラインセンサカメラA
1107B…ラインセンサカメラB
1108…移動物体の画像A
1109…移動物体の画像B

Claims (14)

  1. 同一物体を所定の時間間隔で撮影した第1及び第2の画像から該第1及び第2の画像間の該物体の移動ベクトルを抽出する装置であって、
    第1の画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する手段と、
    第1の画像において前記画像特徴点を含む部分領域を設定する手段と、
    前記設定された部分領域の中から第1の画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する手段と、
    前記抽出された部分領域と第2の画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する手段と、
    前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する手段とを有する
    ことを特徴とする移動ベクトル抽出装置。
  2. 撮影ラインを対象物体が相対的に横切って移動するように設置した第1及び第2のラインセンサカメラによってそれぞれ撮影した第1及び第2の時系列画像から該第1及び第2の時系列画像間の該物体の移動ベクトルを抽出する装置であって、
    第1及び第2のラインセンサカメラを同期させて所定時間間隔で取得したライン画像をそれぞれつなぎ合わせて各ラインセンサに対する第1及び第2の時系列画像を合成する手段と、
    第1の時系列画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する手段と、
    第1の時系列画像において前記画像特徴点を含む部分領域を設定する手段と、前記設定された部分領域の中から第1の時系列画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する手段と、
    前記抽出された部分領域と第2の時系列画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する手段と、
    前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する手段とを有する
    ことを特徴とする移動ベクトル抽出装置。
  3. 前記特徴点を抽出する手段は、
    第1の画像または第1の時系列画像の濃淡値に対してガウス曲率が所定の正の閾値以上となる局所領域の中心点を画像特徴点として抽出するものである
    ことを特徴とする請求項1または2に記載の移動ベクトル抽出装置。
  4. 前記部分領域を設定する手段は、
    1つの部分領域中に複数の前記画像特徴点を含むように該部分領域を設定するものである
    ことを特徴とする請求項1ないし3のいずれかに記載の移動ベクトル抽出装置。
  5. 前記物体の移動ベクトルを抽出する手段は、
    前記分類されたカテゴリに属する移動ベクトルの個数が所定の閾値以上である場合に該カテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出するものである
    ことを特徴とする請求項1ないし4のいずれかに記載の移動ベクトル抽出装置。
  6. 処理対象とする各部分画像の画素を間引いて画像分解能を低下させた後に画像類似度を計算する手段を備え、
    前記部分領域を抽出する手段及び前記部分領域の移動ベクトルを抽出する手段で用いる画像類似度は、前記画像類似度を計算する手段によって求める
    ことを特徴とする請求項1ないし5のいずれかに記載の移動ベクトル抽出装置。
  7. 同一物体を所定の時間間隔で撮影した第1及び第2の画像から該第1及び第2の画像間の該物体の移動ベクトルを抽出する方法であって、
    第1の画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する段階と、
    第1の画像において前記画像特徴点を含む部分領域を設定する段階と、
    前記設定された部分領域の中から第1の画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する段階と、
    前記抽出された部分領域と第2の画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する段階と、
    前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する段階とを有する
    ことを特徴とする移動ベクトル抽出方法。
  8. 撮影ラインを対象物体が相対的に横切って移動するように設置した第1及び第2のラインセンサカメラによってそれぞれ撮影した第1及び第2の時系列画像から該第1及び第2の時系列画像間の該物体の移動ベクトルを抽出する方法であって、
    第1及び第2のラインセンサカメラを同期させて所定時間間隔で取得したライン画像をそれぞれつなぎ合わせて各ラインセンサに対する第1及び第2の時系列画像を合成する段階と、
    第1の時系列画像の濃淡値に対して局所フィルタ処理を施して得た値の極大点または極小点を画像特徴点として抽出する段階と、
    第1の時系列画像において前記画像特徴点を含む部分領域を設定する段階と、前記設定された部分領域の中から第1の時系列画像内の他の部分領域との画像類似度が全て所定の値より低い部分領域を抽出する段階と、
    前記抽出された部分領域と第2の時系列画像内の部分領域との対応付けを画像類似度に基づいて行い、前記対応付けられた各部分領域の位置から部分領域の移動ベクトルを抽出する段階と、
    前記部分領域の移動ベクトルのうち大きさ及び向きが所定の範囲内にある移動ベクトル毎にカテゴリに分類し、前記分類されたカテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する段階とを有する
    ことを特徴とする移動ベクトル抽出方法。
  9. 前記特徴点を抽出する段階は、
    第1の画像または第1の時系列画像の濃淡値に対してガウス曲率が所定の正の閾値以上となる局所領域の中心点を画像特徴点として抽出する
    ことを特徴とする請求項7または8に記載の移動ベクトル抽出方法。
  10. 前記部分領域を設定する段階は、
    1つの部分領域中に複数の前記画像特徴点を含むように該部分領域を設定することを特徴とする請求項7ないし9のいずれかに記載の移動ベクトル抽出方法。
  11. 前記物体の移動ベクトルを抽出する段階は、
    前記分類されたカテゴリに属する移動ベクトルの個数が所定の閾値以上である場合に該カテゴリに属する移動ベクトルを該カテゴリに対応する物体の移動ベクトルとして抽出する
    ことを特徴とする請求項7ないし10のいずれかに記載の移動ベクトル抽出方法。
  12. 前記部分領域を抽出する段階及び前記部分領域の移動ベクトルを抽出する段階で用いる画像類似度は、
    処理対象とする各部分画像の画素を間引いて画像分解能を低下させた後に画像類似度を計算することによって求める
    ことを特徴とする請求項7ないし11のいずれかに記載の移動ベクトル抽出方法。
  13. 請求項7ないし12のいずれかに記載の移動ベクトル抽出方法における段階をコンピュータに実行させるためのプログラムとした
    ことを特徴とする移動ベクトル抽出プログラム。
  14. 請求項7ないし12のいずれかに記載の移動ベクトル抽出方法における段階をコンピュータに実行させるためのプログラムとし、
    前記プログラムを前記コンピュータで読取り可能な記録媒体に記録した
    ことを特徴とする移動ベクトル抽出プログラムを記録した記録媒体。
JP2002309122A 2002-10-24 2002-10-24 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体 Pending JP2004145592A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002309122A JP2004145592A (ja) 2002-10-24 2002-10-24 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002309122A JP2004145592A (ja) 2002-10-24 2002-10-24 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体

Publications (1)

Publication Number Publication Date
JP2004145592A true JP2004145592A (ja) 2004-05-20

Family

ID=32455034

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002309122A Pending JP2004145592A (ja) 2002-10-24 2002-10-24 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体

Country Status (1)

Country Link
JP (1) JP2004145592A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009005025A1 (ja) * 2007-07-03 2009-01-08 Konica Minolta Holdings, Inc. 移動物体検出装置
JP2013229011A (ja) * 2012-03-30 2013-11-07 Toshiba Corp 帳票識別装置および帳票識別方法
JP2014228893A (ja) * 2013-05-17 2014-12-08 日本電信電話株式会社 テンプレート画像候補領域決定装置、テンプレート画像候補領域決定方法、及びプログラム
JP2015141676A (ja) * 2014-01-30 2015-08-03 Kddi株式会社 ガイダンス表示装置、方法及びプログラム
JP2015185138A (ja) * 2014-03-26 2015-10-22 富士通株式会社 移動物体検出装置、移動物体検出方法、及びプログラム
JP2017142661A (ja) * 2016-02-10 2017-08-17 株式会社デンソー 車両周辺監視システム及びコンピュータプログラム

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2009005025A1 (ja) * 2007-07-03 2009-01-08 Konica Minolta Holdings, Inc. 移動物体検出装置
JP2013229011A (ja) * 2012-03-30 2013-11-07 Toshiba Corp 帳票識別装置および帳票識別方法
JP2014228893A (ja) * 2013-05-17 2014-12-08 日本電信電話株式会社 テンプレート画像候補領域決定装置、テンプレート画像候補領域決定方法、及びプログラム
JP2015141676A (ja) * 2014-01-30 2015-08-03 Kddi株式会社 ガイダンス表示装置、方法及びプログラム
JP2015185138A (ja) * 2014-03-26 2015-10-22 富士通株式会社 移動物体検出装置、移動物体検出方法、及びプログラム
JP2017142661A (ja) * 2016-02-10 2017-08-17 株式会社デンソー 車両周辺監視システム及びコンピュータプログラム

Similar Documents

Publication Publication Date Title
JP4772839B2 (ja) 画像識別方法および撮像装置
JP6125188B2 (ja) 映像処理方法及び装置
US8879847B2 (en) Image processing device, method of controlling image processing device, and program for enabling computer to execute same method
KR100480781B1 (ko) 치아영상으로부터 치아영역 추출방법 및 치아영상을이용한 신원확인방법 및 장치
CN108229475B (zh) 车辆跟踪方法、***、计算机设备及可读存储介质
JP4597391B2 (ja) 顔領域検出装置およびその方法並びにコンピュータ読み取り可能な記録媒体
JP2000105829A (ja) 顔パーツ検出方法及びその装置
JP5538868B2 (ja) 画像処理装置、その画像処理方法及びプログラム
JP4518139B2 (ja) 画像処理装置
WO2009114967A1 (zh) 基于移动扫描的图像处理方法及装置
JP2000165648A (ja) 画像処理方法および装置並びに記録媒体
JP2002366963A (ja) 画像処理方法、画像処理装置、撮像装置及びコンピュータプログラム
CN111028263A (zh) 一种基于光流颜色聚类的运动物体分割方法及其***
JP4882577B2 (ja) 物体追跡装置およびその制御方法、物体追跡システム、物体追跡プログラム、ならびに該プログラムを記録した記録媒体
JPH10149449A (ja) 画像分割方法、画像識別方法、画像分割装置および画像識別装置
JP2004145592A (ja) 移動ベクトル抽出装置及び方法及びプログラム及びその記録媒体
KR101726692B1 (ko) 객체 추출 장치 및 방법
JP3860540B2 (ja) エントロピーフィルタ及び該フィルタを用いた領域抽出法
JPH11306348A (ja) 対象物検出装置及び対象物検出方法
KR100853267B1 (ko) 스테레오 시각 정보를 이용한 복수 인물 추적 방법 및 그시스템
CN108280815B (zh) 一种面向监控场景结构的几何校正方法
JP4812743B2 (ja) 顔認識装置、顔認識方法、顔認識プログラムおよびそのプログラムを記録した記録媒体
JP4274038B2 (ja) 画像処理装置および画像処理方法
JPH11283036A (ja) 対象物検出装置及び対象物検出方法
JP6150419B2 (ja) カメラおよびプログラム