JP3665430B2 - 画像特徴量判定装置及び画像特徴量判定方法 - Google Patents
画像特徴量判定装置及び画像特徴量判定方法 Download PDFInfo
- Publication number
- JP3665430B2 JP3665430B2 JP24161596A JP24161596A JP3665430B2 JP 3665430 B2 JP3665430 B2 JP 3665430B2 JP 24161596 A JP24161596 A JP 24161596A JP 24161596 A JP24161596 A JP 24161596A JP 3665430 B2 JP3665430 B2 JP 3665430B2
- Authority
- JP
- Japan
- Prior art keywords
- pattern
- dimensional pattern
- dictionary
- dimensional
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、例えば画像により不法侵入者などの検知を行なう画像監視装置において、入力画像から侵入物の検出を行なう移動物体検出のための特徴量判定方法に関する。
【0002】
【従来の技術】
セキュリティ装置のひとつにテレビジョンカメラによる撮影画像を用いて、不法侵入者などを検知する画像監視装置がある。このような画像監視装置において、例えば不法侵入者を検知するためには侵入者の動きを利用する場合が多い。すなわち、時間的に離れた画像間の差分処理や予め記憶しておいた侵入者がいない場合の背景画像と取り込み画像間での差分処理などにより、侵入物の移動した移動領域を変化領域として求め、その変化領域の有無や大きさなどで不法侵入者があるか否かを判断している。
【0003】
画像監視装置は、セキュリティの目的で使われる場合が多いために、誤報や検出漏れといった誤動作があると、装置の信頼性が低下して問題となる。多くの画像監視装置では、変化領域の有無だけで不法侵入者があると判断して警報を出力するが、一般的に画像にはノイズ成分を始めとして、目的とする対象物以外の画像変化など、誤動作の原因となりえる要素が含まれている。
【0004】
この対策として、画像処理を用いた手法が考えられている。その一例としては、第28図(a)に示すように差分画像をX軸、Y軸に投影してその投影パターンを作り、各軸で所定値Xth、Yth以上の数値が所定長さXw、Yw以上続く区間を求め、X軸、Y軸の共通部分を求めることにより塊となっている領域を抽出して、その大きさや縦横比などを求め、所定の範囲内ならば侵入者が存在するとして異常発生とみなすような方法を挙げることができる。
【0005】
図28(a)では変化領域の外接四角形A11、A22の部分が侵入物に該当する変化領域とみなすことができる。
【0006】
【発明が解決しようとする課題】
ところが監視環境によっては、図28(b)に示すように、侵入物ではない、例えば木の揺れなどによる画像変化も侵入者と同じような大きさで抽出されることがある。この場合、上述したような、差分画像の投影パターンの大きさだけを判断基準とする方法を用いると誤動作を起こすおそれがあった。
【0007】
こうした問題を防ぐためには、変化領域の形状を用いた判断を行なえばよいが、人物などの非剛体ではその形状が歩行により変化するために、テンプレートマッチングのような予め決められた固定形状との比較による判断は適さない。
【0008】
そこで、本出願人は先に特願平5−15668号によって、変化領域の横方向への投影パターンを求めて、その投影パターンを予め求めておいた辞書パターンと比較して評価値を求め、その評価値が所定値以上であれば侵入物であると判断する方式を提案している。この方式の概略を以下に示す。
【0009】
人間の動きのシルエットに着目してみると、図1(a)に示すように頭部の幅は狭く、肩・大腿部の部分の幅は太く、動きに伴う変化は少なく、腹部、脚部はカメラに対する移動方向により程度の差はあるものの、手足の振りによりその幅が変化する。
【0010】
図1(b)は、これらのシルエットの横方向への投影パターンを示しており、シルエットの変化の特徴が波形の形の違いとなって表れることがわかる。これら手足の振れが最大になった場合から最小になった場合までの投影パターンを、図29(a)に示すように重ね合わせると、図29(b)の網をかけた領域に全ての横移動の投影パターンが含まれる。図29(b)に示すように、頭部、肩部、大腿部などで分布する範囲が狭くて重なりが多いのに対して、腹部、脚部では分布する範囲が広くて重なりが少ないパターンとなることがわかる。
【0011】
そこで、重ねたパターンを予め作っておけば、被検定物である変化領域が人物であるか否か評価するための辞書パターンとして考えることができる。
【0012】
図30は、辞書パターンと被検定のシルエットの具体的な例を示す図である。図30に示すように、検定を行なう変化領域のシルエットの投影パターンを辞書パターンに重ね合わせて、投影パターンの通った場所の点数を加算して評価点を求める。この結果、人物の投影パターンであれば評価点が高くなり、非人物(木の揺れ等)であれば評価点が低くなるといった特徴があり、人物判別を行なうことができる。
【0013】
前述した方式は、変化領域が人物であると仮定して、そのシルエットの頭部、腹部、大腿部の幅の値が標準的な人物の幅に合っているか否かで判断する方式であり、先の人物の歩行の特徴のうち、ある一瞬の各部位の幅を評価していることに他ならない。
【0014】
つまり、幅については評価がなされているものの、頭部や肩、大腿部の幅が安定しているのに対して、腹部や脚部は幅の変化があるといった、各部位に対する時間に伴う変化特徴を積極的に利用した方式ではなかった。
【0015】
また、本来、人物シルエットの投影パターンは、図31(a)に示すように、滑らかな連続性のあるパターンになるはずであり、木の揺れの投影パターンは、図31(b)に示すように、凹凸の多いパターンになるはずであるが、辞書パターンに当てはめたときには、投影パターンの通る場所の点数を加算して行くことで評価点を求めるために、投影パターンが滑らかでなくても同様な判別結果となる場合があった。すなわち、対象とする投影パターンの変化特徴を積極的に利用して、評価点を求める方式ではなかった。
【0016】
さらに、辞書パターンを予め作成しておき、常時これを利用するようにしているが、人物の服装は季節により厚着、薄着が変わり、そのシルエットや投影パターンも変化することにより、辞書パターンが不適正なものとなる場合がある。また、辞書パターンを作成した環境と実際に監視カメラを設置する環境が一致していない場合などは、カメラの画角や俯角の違いにより辞書パターンが適切でない場合もあり、何れの場合も辞書の変更や更新の必要性が生じる可能性があった。
【0017】
本発明は前記の問題を解決するためになされたもので、変化領域の投影パターンを求めて、その投影パターン全体の時間的な変動、あるいは投影パターンの各部位に相当する幅の値の時間的な変化や投影パターンの連続性を解析することにより、被検定物に対する判定精度を向上させることが可能な画像特徴量判定方法及び画像特徴量判定装置を提供することを目的とする。
【0018】
また、評価に使用する辞書パターンを所定の条件で自動的に更新することにより、常に良好な判定精度を得ることが可能な画像特徴量判定方法及び画像特徴量判定装置を提供することを目的とする。
【0019】
【課題を解決するための手段】
本発明は、所定の時間間隔を設けながら画像を撮像する撮像手段と、前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、前記抽出手段によって抽出された異なる撮像画像での前記部分領域を対応づける対応づけ手段と、前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、前記対応づけ手段によって対応づけられた複数の異なる画像における部分領域の1次元パターンを組み合わせて2次元パターンを生成する2次元パターン変換手段と、前記2次元パターン変換手段によって生成された2次元パターンを検定するための2次元パターンを表すデータ列からなる辞書パターンを記憶する辞書パターン記憶手段と、前記2次元パターン変換手段によって生成された2次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする。
【0020】
すなわち、投影パターンの各部位に相当する幅の値の時間的な変化を解析するもので、所定時間毎に得られる画像間において、変化領域の対応付けを行い、各々のシルエットおよび投影パターンを求めてこの時間変化を解析することにより、人物の判定精度を向上させようとするものである。
【0021】
また本発明は、所定の時間間隔を設けながら画像を撮像する撮像手段と、前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、前記抽出手段によって抽出された異なる撮像画像での前記部分領域を対応づける対応づけ手段と、前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、前記対応づけ手段によって対応づけられた複数の異なる画像における部分領域の1次元パターンの各々に対応する各要素データ毎に統計処理を行ない、統計処理結果を要素とする統計量1次元パターンを生成する統計量変換手段と、前記統計量変換手段によって生成される統計量1次元パターンを検定するための1次元パターンを表すデータ列からなる辞書パターンを記憶する辞書パターン記憶手段と、前記統計量変換手段によって生成された統計量1次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする。
【0022】
すなわち、異なる画像で各々投影パターンを求め、各部位に相当する幅の値、すなわちその投影パターンの要素の値の時間的変化を解析することにより人物の判定精度を向上させるものである。
【0023】
また本発明は、所定の時間間隔を設けながら画像を撮像する撮像手段と、前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、前記1次元パターン変換手段によって生成された1次元パターンの複数個のデータ列について隣り合うデータ間で差分演算を行ない、差分演算結果を要素としする差分1次元パターンを生成する差分1次元パターン変換手段と、前記差分1次元パターン変換手段によって生成された差分1次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする。
【0024】
すなわち、変化領域の投影パターンを計算したのち、投影パターンの隣り合う各要素の差を求めることにより、投影パターンの連続性を表すパターンを求め、この連続性を辞書パターンと比較することにより、人物の判定精度を向上させようとするものである。
【0028】
【発明の実施の形態】
以下、図面を参照して本発明の実施の形態(第1乃至第4の実施形態)について説明する。はじめに、本発明の第1実施形態及び第2実施形態の理解を容易にするために基本的な考え方について説明する。
【0029】
第1実施形態及び第2実施形態の基本は、撮像した画像中から抽出された変化領域の投影パターンを、所定時間間隔でk回連続的に求め、各投影パターンを、幅を変数とするm×1のベクトルで表現して、k回分のベクトルを組合せて時間変動の成分が含まれているm×kの2次元マトリクスを生成し、さらに、この2次元マトリクスの要素データを解析して、予め求めておいた人物辞書パターンに照らし合わせることにより、変化領域が人物であるか否かを判定しようとするものである。
【0030】
まず一例として、変化領域が人物によるものと仮定して、そのシルエットと、投影パターンの変化の様子を図1、図2を用いて説明する。図1は、人の動きの一例として横方向に歩いた場合のシルエット(図1(a))と、各シルエットに対応する投影パターン(図1(b))の変化の例を示す図である。
【0031】
図1(a)において(1)は、手足の最小振れ状態、(2)は最大振れ状態にそれぞれ相当し、図1(b)は各状態における投影パターンである。シルエットの大きさは、移動物体の大きさとカメラからの距離、カメラのレンズ倍率により異なって見えるが、人物の身長を基準として頭部、腹部、脚部等の相対長さはほぼ等しいとみなし正規化を行なう。
【0032】
ここで、投影パターンに対する高さの基準値をm(辞書パターンの区分数)とする。正規化の方法としては、図2(a)に示すように、投影パターンの区分数をnとした場合に、単純に被検定データである投影パターンのn個の区分数をm/n倍するように間引いたり、図2(b)に示すように、n区分の投影データを辞書パターンに合わせて拡大または縮小をした後(図2(b)の例は縮小)、投影パターンの長さをm等分することにより、m×1の幅の値を変数とするベクトルに変換することができる。
【0033】
従って、図1における人物の歩行に伴うシルエットの変化は、m×1のベクトル列として表すことができる。ここで、例えば人物の歩行パターンは、開脚−閉脚−開脚−閉脚の繰り返しであることから、開脚から次の開脚までを1サイクルと考えることができる。
【0034】
この1サイクル中で画像取り込み回数をk回とすると、各々m×1のベクトル列が作成され、k個のm×1のベクトル列が作成できることから、図3に示すように、m×kの2次元マトリクスを生成することができる。m×kの2次元マトリクスによって、人物のシルエットの投影パターンの変化の様子を表現することができる。
【0035】
ここで、上述のように人物は手足を振りながら歩行するために、その腹部や脚部では手足の揺れが投影パターンに反映されて、ある範囲で幅の変化が生じるのに対し、頭や肩の部分では、振れる物がないためにその幅は安定していることがわかる。
【0036】
次に、人物以外の画像変化の一例として、木の揺れについて図4を用いて説明する。木の揺れは、通常、風の影響により発生し、強い風が吹く場合には、根本を支点として幹や枝全体が揺れるために、その幅の変化は中心から上部にかけて大きくなる。また、風が弱い場合には幹全体が揺れるのではなく、枝葉が風にそよぐことによりランダムに発生するために、幅の変化は場所により異なる。さらに、どちらの場合においても幅の変化の周期性が観測されることはない。
【0037】
図4は、これらの様子を表した図で、変化領域の外接四角形の大きさ、縦横比が人物とほぼ等しい場合の木の揺れのシルエットの例とその投影パターンを示したものである。
【0038】
図4において、図3に示す人物の例と同様に、投影パターンをm×1のベクトルで表し、さらに所定時間の間にk個のm×1のベクトルを求めてm×kの2次元マトリクスを作成する。この場合、その部位ごとに幅の変化を見ると、何れの部位でもランダムになる様子が観測される。
【0039】
本発明の第1実施形態及び第2実施形態では、図3(b)、図4(b)に示す2次元ベクトルの特徴により、人物をその他の画像変化から判別しようとするもので、その着目する点や計算方法の違いにより、異なる判別方式を提供しようとするものである。
【0040】
次に、本発明の第1実施形態について説明する。
【0041】
第1実施形態では、一般的な人物が歩行した場合に得られる図3(b)に示すような2次元マトリクスを予め辞書パターンとして求めておき、ある画像変化が観測された場合に、その画像変化に対して同じ方法により2次元マトリクスを作成し、辞書パターンと比較することにより人物であるか否かを判定しようとする方法である。
【0042】
図5はセキュリティ装置等の画像監視装置において用いられる画像特徴量判定装置の構成を示すブロック図である。図5に示すように、画像特徴量判定装置は、撮像部10、領域抽出部12、対応づけ部14、1次元パターン変換部16、1次元パターン記憶部18、2次元パターン変換部20、辞書パターン記憶部22、及び対応部24によって構成されている。
【0043】
撮像部10は、テレビジョンカメラ等により撮像して画像を取り込むもので、離れた時間ごとの画像を領域抽出部12に送出する。
【0044】
領域抽出部12は、撮像部10によって異なる時間で撮像された各々の画像から所定の条件を満たす部分領域、すなわち移動物体による変化領域を抽出する。
【0045】
対応づけ部14は、領域抽出部12によって抽出された部分領域(変化領域)を、異なる撮像画像間で対応づけを行なう。
【0046】
1次元パターン変換部16は、領域抽出部12によって抽出された各画像における部分領域からn個のデータ列からなる1次元パターンを生成し、後の辞書パターンによる検定に備え、m×1のデータ列に変換する。
【0047】
1次元パターン記憶部18は、1次元パターン変換部16によって生成された複数の画像分の1次元パターンを記憶する。
【0048】
2次元パターン変換部20は、対応づけ部14によって異なる撮像画像間で対応づけられた異なる複数の部分領域について、1次元パターン変換部16によって変換され、1次元パターン記憶部18に格納されたそれぞれの画像の1次元パターンを組み合わせてm×kの2次元パターンを生成する。
【0049】
辞書パターン記憶部22は、2次元パターン変換部20によって変換された2次元パターンを検定するための、2次元パターンを表すm×k個のデータ列からなる辞書パターンが予め記憶される。
【0050】
対応部24は、2次元パターン変換部20によって生成されたm×k個のデータ列からなる2次元パターンを、辞書パターン記憶部22に記憶されたm×k個のデータ列からなる辞書パターンに対応させて類似度を測定し、部分領域(変化領域)を検定、すなわち部分領域に対応する対象物(人物等)が何であるかを判定する。
【0051】
次に、第1実施形態における動作について、図6に示すフローチャートを参照しながら前述した図3を用いて説明する。図3は、標準的な人物が開脚−閉脚−開脚までのパターンを、図1と同様にして求めたものである。図3から得られるm×kの2次元マトリクスは、標準的な人物の投影パターンをもとにして求められているので人物の辞書パターンであると考えることができる。辞書パターンの作成方法の詳細については後述する。
【0052】
撮像部10は、所定時間ti(i=1,2,…,K)毎に画像を取り込み、領域抽出部12に送出する。
【0053】
領域抽出部12は、監視対象とする範囲の撮像画像中に変化があるかどうか、すなわち変化領域Ei(i=1,2,…,K)が存在するか否かを、撮像部10によって所定時間ti毎に入力される各撮像画像を用いて連続的に確認する(ステップA1,A2)。
【0054】
変化領域を抽出する方法としては、例えば移動物体が存在しない場合の映像を記憶しておき、取り込み画像との差分計算をして求める方法、あるいは連続する複数の画像間で差分をとることで差分画像を生成し、この差分画像から変化領域を求めてもかまわない。
【0055】
撮像画像から変化領域が抽出された場合、領域抽出部12は、変化領域に対する外接四角形を求める(ステップA4)。ここで、変化領域(外接四辺形)の高さがnであると仮定すると、領域抽出部12は、対応部24において辞書パターンを用いて検定する場合に備えて、例えば前述した図2に示したように、辞書パターンに合わせて高さがmとなるように正規化を行なう(ステップA5)。
【0056】
1次元パターン変換部16は、領域抽出部12によって正規化された変化領域(シルエット)について水平方向へ投影をとり、図2に示すようにして投影パターンベクトル(m×1のベクトルv1)を作成する(ステップA6)。1次元パターン変換部16によって作成されたm×1のベクトルv1は、1次元パターン記憶部18に記憶される。
【0057】
引き続き次の画像を取り込んだ際に、領域抽出部12は、対応する変化領域を求め、同様にm×1のベクトルv2を求める(ステップA1〜A5)。対応づけ部14は、領域抽出部12によって抽出される各画像から抽出される変化領域を、異なる画像間で対応づけて、その対応関係を2次元パターン変換部20に通知する。2次元パターン変換部20は、対応づけ部14からの変化領域の対応関係についての通知に基づいて、1次元パターン記憶部18に記憶された先のベクトルv1とベクトルv2とを組み合わせて、図7に示すように、m×2の2次元マトリクスを作成する(ステップA6)。
【0058】
ステップA1〜A6の処理をk回繰り返すことによって(ステップA7)、m×kの2次元マトリクスが得られた場合に、対応部24は、撮像画像から求められたm×kの2次元マトリクスと、辞書パターン記憶部22に予め記憶されている辞書パターンの2次元マトリクスとを比較してその類似度を測定する(ステップA8)。対応部24は、辞書パターンをもとにして得られた類似度をもとに、撮像画像中に存在する対象物を判定、すなわち人物が撮像されているか否かを判定する(ステップA9)。
【0059】
なお、類似度の計算方法としては、2次元マトリクスの類似性を計算する従来の方法を用いることが可能である。例えば、信号処理でしばしば用いられるパターンマッチングの方法などが考えられる。
【0060】
次に、辞書パターン記憶部22に予め記憶される辞書パターンの作成方法について説明する。辞書パターンの作成方法としてはいろいろと考えられるが、人物の歩行パターンに個人差があると考えられるために、辞書パターンを表す2次元マトリクスを多くの人物について作成し、その違い含むような2次元パターンにする。これにより、一般的な人物の歩行の際のシルエットの変化を表す2次元パターンとすることができる。
【0061】
つまり、図8(a)に示すように、複数人分の人物サンプル(シルエット)に対応するm×kマトリクスを求めて(図8(b))、各m×kマトリクスのi−j要素の平均を各々求めることにより、図8(c)に示すような、全ての人物サンプルの投影パターンを人物であると判定可能なm×kマトリクス(辞書パターン)を生成することができる。
【0062】
なお、前述した説明では、撮像画像中から変化領域が連続してk回求められることを前提とし、複数の撮像画像から得られたm×kの2次元マトリクスと辞書パターンとの比較により判定を行なっているが、途中の数回目で変化領域が検出されなかった場合には、検出できなかったことを根拠に該当する変化領域は人物でないと判断しても良い。あるいは、その後の抽出状態により、ある一瞬は何らかの理由で検出されなかったと解釈して、その間のベクトルを前後のベクトルから合成して生成するなどの対策をすることも考えられる。
【0063】
また、前述した説明では、複数の撮像画像中の変化領域から得られるk個の1次元ベクトルは、全て同一の移動物体に対応するとの前提に説明しているが、撮像画像内に複数の移動物体が存在するときには、対応づけ部14によって、異なる時間に取り込んだ画像間でそれぞれの変化領域についての対応付けが必要となる。これには、画像処理の分野で用いられる画像の追跡アルゴリズムを用いればよく、例えば変化領域外接四角形の位置や、形状などの特徴から、撮像画像中における抽出された位置が近く、形状が似ている変化領域を、前後の画像で対応づけるなどの方法により容易に実現することができる。なお、この画像の追跡アルゴリズムはあくまでも一例であり、どのような方式を用いても、本発明の目的とすることは同様に実現可能である。
【0064】
先に述べたように、人物の歩行パターンは周期性があるため、得られた2次元マトリクスを辞書パターンの2次元マトリクスと比較した場合、変化領域が人物によるものであったとしても、類似度が高くなるのは、辞書パターンと周期が合った瞬間である。従って、変化領域の2次元マトリクスを、k回の画像の取り込み後に作成する場合には、辞書パターンの2次元マトリクスとの周期が合わないと高い類似度が得られなくなってしまう。
【0065】
そこで、変化領域を抽出してn×1の1次元ベクトルが得られた場合に、次々に各1次元ベクトルに対して辞書パターンに合わせて正規化を行ない、組み合わせることによりm×kの2次元マトリクスを作成する。そして、k+1番目のベクトルが得られた場合には、図9に示すように、k+1番目のベクトルを組み合わせた後に、最も古い第1列のベクトルを取り去ることで、新たなm×kの2次元マトリクスを作成して評価を行えばよい。
【0066】
このようにすれば、常時、最新のk個の変化領域に対応する投影パターンから得られる2次元マトリクスにより評価が行われるために、全ての周期のそれぞれについて辞書パターンとの比較が行われることになり、必ず何れかの時点における2次元マトリクスと辞書パターンの2次元マトリクスとの比較において高い類似度が得られる。
【0067】
また、k回の画像の取り込み毎に1回の辞書パターンとの比較を行なうのではなく、辞書パターンとの比較の頻度をより多くすると共に、高い類似度を得る方法としては、図10に示すように、歩行パターンの周期がそれぞれ異なる複数の辞書パターン(2次元マトリクス)を作成しておき、これら複数の辞書パターンとの比較を行えば、類似度の高くなる頻度を増すことが可能となるし、周期の異なる辞書パターンを用意すれば、人により異なる歩行周期の影響も吸収することができる。
【0068】
なお、前述した説明では、2次元マトリクスのkを一般的な人物の一周期となる時間として説明してきたが、必ずしも一周期である必要はなく、例えば開脚から閉脚までの一周期中の部分的な短い周期であってもかまわない。
【0069】
また、前述した説明では、n×1の1次元マトリクスを辞書パターンに合わせてm×1の1次元マトリクスに変換した後、m×kの2次元マトリクスを生成するものとして説明しているが、n×1の1次元マトリクスを組合わせてn×kの2次元マトリクスを生成した後にm×kの2次元マトリクスに変換するようにしても良い。
【0070】
次に、本発明の第2実施形態について説明する。
【0071】
第1実施形態では辞書パターンの2次元マトリクス全体を辞書パターンと比較しているが、第2実施形態では2次元マトリクスの各行、つまり、変化領域の各部位ごとに統計量を計算して、その統計量が一般的な人物のそれに近いかどうかにより、人物を判別しようとする方式である。第1実施形態では、2次元マトリクス全体を比較して類似度を計算しているために、周期が合わない場合に類似度が高くならない場合や、画像の変化領域が人物によるものであった場合に、移動速度が辞書パターンのそれと合っていないと類似度が高くならない場合が発生する可能性があったが、第2実施形態では部位ごとに所定時間内での統計量として求めることによって、辞書パターンとの比較の条件と関係なく良好な判定が可能となる。
【0072】
統計量としてはいろいろな値が考えられるが、例えば各部位ごとの平均値や分散値などがその例として挙げられる。平均値の場合には、その人物の服装や体型が反映されてしまうが、分散値がある場合には平均からのばらつきとなるために服装や体型などの影響を低減できる特徴がある。
【0073】
図11は、第2実施形態における画像特徴量判定装置の構成を示すブロック図である。図11に示すように、画像特徴量判定装置は、撮像部10、領域抽出部12、対応づけ部14、1次元パターン変換部16、1次元パターン記憶部18、2次元パターン変換部20、統計量変換部30、辞書パターン記憶部32、及び対応部34によって構成されている。
【0074】
なお、撮像部10、領域抽出部12、対応づけ部14、1次元パターン変換部16、及び1次元パターン記憶部18については、前述した第1実施形態と同じ構成であるものとして、同一符号を付して詳細な説明を省略する。
【0075】
統計量変換部30は、2次元パターン変換部20に蓄えられたm×kのマトリクスの各行(各部位)毎に統計処理を行ない、統計量1次元パターンSを生成する。第2実施形態では、統計処理として分散計算を行なうものとし、m×1個のデータ列の1次元パターンを作成する。
【0076】
辞書パターン記憶部32は、統計量変換部30によって生成された統計量1次元パターンSを検定するためのm×1個のデータ列からなる辞書パターンDが予め記憶される。
【0077】
対応部34は、統計量変換部30によって生成された統計量1次元パターンSのm×1個のデータ列を、辞書パターン記憶部32に記憶された辞書パターンのm×1個のデータ列に対応させて類似度を測定し、対象物を判定する。
【0078】
次に、第2実施形態における動作について、図12に示すフローチャートを参照しながら説明する。
【0079】
撮像部10は、所定時間ti(i=1,2,…,K)毎に画像を取り込み、領域抽出部12に送出する。
【0080】
領域抽出部12は、監視対象とする範囲の撮像画像中に変化があるかどうか、すなわち変化領域Ei(i=1,2,…,K)が存在するか否かを、撮像部10によって所定時間ti毎に入力される各撮像画像を用いて連続的に確認する(ステップB1,B2)。変化領域を抽出する方法は、前述した第1実施形態と同様の方法を用いることができる。
【0081】
撮像画像から変化領域が抽出された場合、領域抽出部12は、変化領域に対する外接四角形を求める(ステップB4)。ここで、変化領域(外接四辺形)の高さがnであると仮定すると、領域抽出部12は、対応部34において辞書パターンを用いて検定する場合に備えて、例えば前述した図2に示したように、辞書パターンに合わせて高さがmとなるように正規化を行なう(ステップB5)。
【0082】
1次元パターン変換部16は、領域抽出部12によって正規化された変化領域(シルエット)について水平方向へ投影をとり、図2に示すようにして投影パターンベクトル(m×1のベクトルv1)を作成する(ステップB6)。1次元パターン変換部16によって作成されたm×1のベクトルv1は、1次元パターン記憶部18に記憶される。
【0083】
引き続き次の画像を取り込んだ際に、領域抽出部12は、対応する変化領域を求め、同様にしてm×1のベクトルv2を求める(ステップB1〜B5)。対応づけ部14は、領域抽出部12によって抽出される各画像から抽出される変化領域を、異なる画像間で対応づけて、その対応関係を2次元パターン変換部20に通知する。2次元パターン変換部20は、対応づけ部14からの変化領域の対応関係についての通知に基づいて、1次元パターン記憶部18に記憶された先のベクトルv1とベクトルv2とを組み合わせて、図7に示すように、m×2の2次元マトリクスを作成する(ステップB6)。以上までの処理は、第1実施形態における図6に示すフローチャートを用いたステップA1〜A7の処理と同じである。
【0084】
ステップB1〜B6の処理をk回繰り返すことによって(ステップB7)、m×kの2次元マトリクスが得られた場合に、統計量変換部30は、図13に示すように、k個のm×1のベクトルの第i要素毎、すなわち2次元マトリクスの行毎に分散値を計算し、新たな統計量1次元パターンSのm×1のベクトルを作成する(ステップB8)。ここで統計量1次元パターンSの各要素は、体の各部位に相当しているため、各要素は体の各部位の変動を表す数値となっている。
【0085】
次に、対応部34は、統計量変換部30によって作成された統計量1次元パターンSと、辞書パターン記憶部32に予め登録されているm×1の辞書パターンDと比較して類似度を計算する(ステップB9)。対応部34は、辞書パターンDをもとにして得られた類似度をもとに、撮像画像中に存在する対象物を判定、すなわち人物が撮像されているか否かを判定する(ステップB10)。
【0086】
辞書パターン記憶部32に記憶されている辞書パターンDは、図14に示すように、人物の頭部や肩部などのように比較的幅が安定している箇所について小さい値であり、腹部や脚部のように幅の変動の多い箇所について大きい値を持つようなパターンとなっている。
【0087】
従って、得られた統計量1次元パターンSのベクトルが、辞書パターンDの特徴を表しているものであれば類似度は高くなり、この特徴を有していなければ類似度は低くなる。対応部34は、測定して得た類似度について、予め設定しておいた判定基準となるしきい値と比較し、しきい値以上であれば人物であると判断し、そうでなければ非人物として判定する。
【0088】
なお、辞書パターンDの作成方法としては、第1実施形態と同様、人物の歩行パターンに個人差があると考えられるために、多くの人物について投影パターンを求めて、各部位毎に上記判定法同様各要素が各部位の分散値であるような1次元パターンを数多く作り、これらを用いて各要素毎に平均値を求めれば分散値の平均であるような1次元パターンとするようにして作成することができる。
【0089】
以上のように、第2実施形態においては、体の各部位の幅の変動等の統計量を用いることにより、シルエットの各部位の幅が時間変化と共に変化し、その変化量が部位により異なるという特徴を分散値で示し、良好な人物判別を行なうことが可能となる。
【0090】
なお、前述した第2実施形態の説明では、統計量1次元パターンS(1次元ベクトル)として、体の各部位の分散値を用いるとして説明してきたが、人物の時間的変化の特徴が表されるようなデータであれば、これに限るものではない。
【0091】
次に、本発明の第3実施形態について説明する。
【0092】
特願平5−15668号に記載された方式は、図30に示したように、被検定物である移動物体のシルエットを求めて、水平方向の投影計算によりシルエットの幅を要素に持つ投影パターンを求め、これを予め定められた辞書パターンで評価することにより人物であるか否かを判定しようとするものであった。
【0093】
人物のシルエットは、ひとつの塊であるので、投影パターンが図31(a)に示すように連続した滑らかなパターンになるはずであるが、特願平5−15668号に記載された方式が幅の値を比較するものであるために、例えば図31(b)に示すように、幅の変動が大きいようなパターンであっても、同様な評価値を与えるような場合があった。
【0094】
第3実施形態では、投影パターンの滑らかさを判定基準にすることによって、幅の変動が大きい図31(b)に示すようなパターンを対象外として確実に人物判別ができるようにする方式である。
【0095】
図15は、第3実施例における画像特徴量判定装置の構成を示すブロック図である。図11に示すように、画像特徴量判定装置は、撮像部10、領域抽出部12、1次元パターン変換部16、差分1次元パターン変換部40、差分1次元パターン記憶部42、辞書パターン記憶部44、及び対応部46によって構成されている。
【0096】
なお、撮像部10、領域抽出部12、及び1次元パターン変換部16については、前述した第1実施形態と同じ構成であるものとして、同一符号を付して詳細な説明を省略する。ただし、領域抽出部12は、変化領域に対応する1次元パターンを辞書パターンに合わせて正規化する処理は行なわないものとする。
【0097】
差分1次元パターン変換部40は、1次元パターン変換部16によって生成されたn個のデータ列からなる1次元パターンにおいて、隣り合うデータの差分演算を行なうことによりn−1個のデータ列からなる1次元パターンを生成する。
【0098】
差分1次元パターン記憶部42は、差分1次元パターン変換部40によって生成されたn−1個のデータ列からなる1次元パターンを記憶する。
【0099】
辞書パターン記憶部44は、差分1次元パターン変換部40によって生成されたn−1個のデータ列からなる1次元パターンを検定するための、m個のデータ列からなる辞書パターンが予め記憶される。
【0100】
対応部46は、差分1次元パターン変換部40によって生成され、差分1次元パターン記憶部42に記憶されたn−1個のデータ列からなる1次元パターンを、辞書パターン記憶部44に記憶されたm個のデータ列からなる辞書パターンに対応させて類似度を測定し、部分領域(変化領域)に対応する対象物を判定する。
【0101】
次に、第3実施形態の動作について、図16に示すフローチャートを参照しながら説明する。
【0102】
撮像部10は、所定時間ti(i=1,2,…,K)毎に画像を取り込み、領域抽出部12に送出する。
【0103】
領域抽出部12は、監視対象とする範囲の撮像画像中に変化があるかどうか、すなわち変化領域Ei(i=1,2,…,K)が存在するか否かを、撮像部10によって所定時間ti毎に入力される各撮像画像を用いて連続的に確認する(ステップC1,C2)。変化領域を抽出する方法は、前述した第1実施形態と同様の方法を用いることができる。
【0104】
撮像画像から変化領域が抽出された場合、領域抽出部12は、変化領域に対する外接四角形を求める(ステップC4)。
【0105】
1次元パターン変換部16は、領域抽出部12によって正規化された変化領域(シルエット)について水平方向へ投影をとり、図2に示すようにして投影パターンを表す1次元パターン(n×1のベクトル)を作成する(ステップC5)。
【0106】
差分1次元パターン変換部40は、1次元パターン変換部16によって生成されたn個のデータ列からなる1次元パターンにおいて、隣り合うデータの差分演算を行なうことによりn−1個のデータ列からなる1次元パターン((n−1)×1のベクトル)を生成し(ステップC6)、差分1次元パターン記憶部42に記憶させる。
【0107】
以下、具体例を用いて説明する。図17と図18は、図31(a)(b)に示す投影パターンに具体的な数値を当てはめて示した例である。図17は被検定物が人物である例を示し、図18は被検定物が非人物(木の揺れ)である例を示している。図17、図18に示す投影パターンは、同じ評価値(投影パターンが通過する点数の総和)を与えるようなパターンであるが、その違いは各部位の変化が滑らかであるか、凹凸が多いかである。
【0108】
各部位の変化の幅の大きさは、変化領域の投影パターンの1次元ベクトルにおいて、列方向で隣り合う要素間での差分処理を行なうことにより明らかとなる。図19は、差分1次元パターン変換部40による差分処理によって1次元パターン((n−1)×1のベクトル)を生成する様子を表したものである。
【0109】
すなわち、図19(a−1)(b−1)に示す投影パターンのそれぞれに対応するn×1の要素からなる1次元ベクトルを生成し、この1次元ベクトルについて列方向に隣り合う要素の値の差を求めることにより、それぞれ図19(a−2)(b−2)に示すような(n−1)×1の1次元ベクトルに変換する。図19(a−3)(b−3)は、それぞれに対応する(n−1)×1の要素からなる1次元ベクトルのパターン、すなわち図19(a−1)(b−1)に示す投影パターンの変位を表している。
【0110】
図19(a−1)に示す投影パターンが滑らかであるために、図19(a−3)に示すパターンは、要素の値0を中心として小さい値に分布している。これに対し、図19(b−1)に示す投影パターンに凹凸が多い(変動が大きい)ために、図19(b−3)に示すパターンは、要素の値0を中心としてプラスマイナスに絶対値が大きい範囲に分布している。従って、対応部46は、この違いを判別することにより投影パターンの滑らかさを判別でき、しいては変化領域が人物のシルエットを表すか否かを判別することができる。
【0111】
判別方式としては、例えば図20(b)に示すような、各要素の差のベクトルの重ね合わせ辞書パターンを辞書パターン記憶部44に予め登録しておき、差分1次元パターン変換部40における差分計算で作成された(n−1)×1の1次元ベクトルと比較することにより、その類似度を確認すれば良い。また、図20(b)に示すような辞書パターンをそのまま比較するのでなく、図20(c)に示すような、各要素の差の絶対値のベクトルの重ね合わせ辞書パターンを辞書パターン記憶部44に予め格納しておき、同様にして各要素の絶対値を取った上で辞書パターンとの比較を行っても良い。
【0112】
さらに、図21に示すように、(n−1)×1の1次元ベクトルの各要素の絶対値の和を求め、予め設定された各要素の絶対値の和に対する人物か非人物かを判定するための所定の値Cと比較することによって確認しても良い。
【0113】
図21(a−1)に示す人物のシルエット(投影パターン)から得られた(n−1)×1の1次元ベクトルの各要素(図21(a−2))の絶対値の和は、所定の値Cよりも小さな値となるので、人物であると判定される。また、図21(b−1)に示す非人物(木の揺れ)のシルエット(投影パターン)から得られた(n−1)×1の1次元ベクトルの各要素(図21(b−2))の絶対値の和は、各要素間での変動が大きいために所定の値C以上の値となるので、非人物であると判定される。
【0114】
さらに、別の判別方法としては、図22に示すように、(n−1)×1の要素からなる1次元ベクトルのパターンについてのプラス方向に対する所定値thp、マイナス方向に対する所定値thmを予め設定しておき、プラス方向で所定値thp以上、マイナス方向で所定値thm以下であるような要素の数を求める。そして、0から所定値(thp、thm)を離れた要素がいくつあるかを求めて、予め設定された要素の数の和に対する人物か非人物かを判定するための所定値thとを比較して判定する。所定値を離れた要素の数が所定値が所定値th以下であるならば、ルエットの投影パターンが滑らかであるので、人物である可能性が高いと判定する。
【0115】
その他、滑らかなパターンと凹凸のあるパターンを判別する方式はいろいろと考えられるが、本発明の範囲で数多くの応用例が考えられる。
【0116】
なお、前述した第3実施形態の説明においては、変化領域の投影パターンの滑らかさを単独で評価するものとして説明してきたが、これは図17、図18に示すような投影パターンの幅に基づく評価と同時に行なう事が可能であり、これらの判別方法を併用することにより精度良い人物判別が行えるものである。
【0117】
次に、第4実施形態について説明する。
【0118】
特願平5−15668号に記載された人物判別方式や、第1乃至第3実施形態においては、何れも辞書パターンが予め定められたものであるとして説明しているが、監視環境と辞書作成時のカメラ設置条件の違いや、環境内の人物の服装が季節により変動するなどの場合が想定され、辞書パターンを変更する必要が生じる場合がある。第4実施形態は、こうした辞書パターンの変更の必要性に応じた辞書パターンの更新に関わるものである。
【0119】
本実施形態における辞書パターンは、人物シルエットの投影パターンが人物特徴を有するか否かを判断するために用いるものである。その作成方法の一つとして、特願平5−15668号に示したように、人物の投影パターンを数多く集め重ね合わせることにより辞書を作成する方式がある。
【0120】
この方式は、予め人物歩行の映像を用いてシルエット像を求めてその投影パターンを計算することにより基準となる人物辞書を作成するものであり、移動物体のシルエットの投影パターンをこの辞書を用いて評価すると、被評価物が人物である場合には高い評価値を与え、被人物の場合には低い評価値を与える。
【0121】
本発明の第4実施形態においては、人物判別のための評価値のしきい値のほかに、辞書パターン更新をすべきか否かを判別するためのしきい値(辞書更新のしきい値)を設定しておき、移動物体のシルエットが得られた場合には投影パターンを求めて辞書パターンと照合し、所定の人物判定のしきい値を越えたか否かで人物かどうかを判定する一方、辞書更新のしきい値と比較して、このしきい値を越えた場合には、この投影パターンを辞書に反映させるように、その投影パターンを記録し、所定数集まった段階で新たな辞書パターンを作成しようとするものである。
【0122】
ここで、辞書更新のしきい値は、人物判別のしきい値と同じであっても良い。また人物である確率の高いものだけを用いて辞書パターン更新を行なっても良く、この場合には、辞書パターン更新のしきい値を、人物判別のしきい値より高く設定することにより、評価値の比較的高い非人物パターンを排除して、より良い辞書パターンを生成することができる。一方、可能性のある投影パターンをはなるべく多く取り入れようと考えるのであれば、辞書更新のしきい値を人物判別のしきい値より低く設定することもできる。
【0123】
辞書パターン変化の状況について考察すると、例えば季節の変わり目では気候が次第に変化するために、人物の服装が厚着になったり薄着になったりするが、傾向としてはある日を境に急に服装が変わるわけではなく、数日から数週間の期間で変わって行くために、辞書パターンが次第に更新されて行くと考えられる。ここで辞書更新のしきい値を人物判定のしきい値より大きくしておけば、急に服装が変わるような場合には、評価値があまり大きくならないために、辞書パターンの更新には取り込まれず、辞書パターンが急に変更されるようなことも起こり得ない。このように、本方式であれば、特に人物の服装がゆっくりと変わることにより、判定精度が変化すると思われる季節の変わり目等には有効に機能する。
【0124】
図23は、第4実施形態における辞書パターン作成機能を含む画像特徴量判定装置の構成を示すブロック図である。図23に示すように、画像特徴量判定装置は、撮像部10、領域抽出部12、1次元パターン変換部16、1次元パターン記憶部18、対応部50、辞書パターン記憶部52、及び辞書パターン作成部54によって構成されている。
【0125】
なお、撮像部10、領域抽出部12、1次元パターン変換部16、1次元パターン記憶部18については、前述した第1実施形態と同じ構成であるものとして、同一符号を付して詳細な説明を省略する。
【0126】
対応部50は、1次元パターン変換部16によって変換され、1次元パターン記憶部18に格納された1次元パターンを、辞書パターン記憶部52に記憶された辞書パターンに対応させて評価値を算出し、部分領域(変化領域)に対応する対象物を判定する。
【0127】
辞書パターン記憶部52は、1次元パターン変換部16によって変換された1次元パターンを検定するためのm個のデータ列からなる1次元パターンが複数個記憶される。辞書パターン記憶部52に記憶される辞書パターン(1次元パターン)は、対応部50における判定の状況に応じて辞書パターン作成部54によって更新される。
【0128】
辞書パターン作成部54は、1次元パターン変換部16によって変換された部分領域の1次元パターンを辞書パターンのうちの少なくとも一つの辞書パターンと比較することにより部分領域と辞書パターンの適合の検定を行い、その結果、適合していると見なされた部分領域の1次元パターンを複数個組み合わせることによって新たな辞書パターンを作成し、辞書パターン記憶部52に記憶させる。
【0129】
次に、第4実施形態における辞書パターン作成を含む動作について、図24に示すフローチャートを参照しながら説明する。ここでは、人物辞書パターンD1、更新用辞書Ds、人物判別しきい値th1、辞書更新しきい値th2、辞書更新必要投影パターン数Kuとしている。
【0130】
まず、撮像部10は、所定時間ti(i=1,2,…,K)毎に画像を取り込み、領域抽出部12に送出する。
【0131】
領域抽出部12は、監視対象とする範囲の撮像画像中に変化があるかどうか、すなわち変化領域Ei(i=1,2,…,K)が存在するか否かを、撮像部10によって所定時間ti毎に入力される各撮像画像を用いて連続的に確認する(ステップD1〜D3)。
【0132】
変化領域を抽出する方法としては、第1実施形態と同様にして、移動物体が存在しない場合の映像を記憶しておき、取り込み画像との差分計算をして求めてもかまわないし、連続する複数の画像間で差分をして変化領域を求めてもかまわない。
【0133】
領域抽出部12は、画像変化が検出された場合には、そのシルエットを求め、辞書パターン記憶部52に記憶された辞書パターンを用いて検定する場合に備えて、辞書パターンに合わせて高さがmとなるように正規化を行なう。
【0134】
1次元パターン変換部16は、領域抽出部12によって正規化された変化領域(シルエット)について水平方向へ投影をとり、正規化投影パターンベクトル(m×1のベクトルV1)を作成するステップD4)。1次元パターン変換部16によって作成されたm×1のベクトルV1は、1次元パターン記憶部18に記憶される。
【0135】
ここで、対応部50は、1次元パターンを表すベクトルV1を辞書パターン記憶部52に記憶されている既存の辞書D1により評価して、対象とする1次元パターンに対する評価値S1を求める(ステップD5)。
【0136】
ここで、評価値S1を人物判別のしきい値th1と比較して、th1より大きい値の場合には(ステップD6)、人物であるとみなして、人物検知時の処理である、警報出力やVTR記録などを行なう(ステップD7)。
【0137】
次に、対応部50は、評価値S1を辞書更新のしきい値th2と比較して、ベクトルV1が辞書更新のパターンとしてふさわしいか否かを判定する。評価値S1が辞書更新のしきい値th2より小さい場合には何もしないで他の変化領域の検定のステップに戻る。
【0138】
一方、評価値S1がth2より大きい場合には、辞書パターン作成部54は、ベクトルV1を辞書更新のために使用すべきパターンとして、これまで辞書更新のためのパターンとして記憶していた辞書更新用のパターンDsに組み合わせる(ステップD9)。ここで、辞書更新用のパターンDsへの組み合わせ方は、特願平5−15668号の方式であるならば、この投影パターンを重ね合わせて行くことで達成できる。
【0139】
次に、辞書パターン作成部54は、重ね合わせた投影パターンの数、すなわち辞書作成に用いたサンプル数(k)が辞書作成に必要な所定値Kuに到達したか否かを判定する(ステップD10)。ここで、サンプル数(k)が所定値を越えている場合には、辞書パターン作成部54は、その時点での投影パターンを重ね合わせた辞書更新用のパターンDsを新たな辞書パターンD2として採用する(ステップD11)。
【0140】
また、サンプル数(k)が所定数以下の場合には、その他の変化領域がないかを確認して、もしあれば同様の手順を繰り返し、なければ次の画像取り込みのステップに戻る(ステップD12,D13)。ここで、古い辞書パターンD1は消去しても良いし、辞書パターンD1,D2を両方とも辞書パターンとして採用しても構わない。その後、最初の変化領域の抽出ステップに移行する。
【0141】
以上の手順を繰り返すことにより、変化領域が人物であるか否かの判定を行ないながら辞書パターンを更新する事が可能となる。
【0142】
なお、前述した説明では、人物判定方式及び辞書作成方法として特願平5−15668号に記載された事例を挙げて説明してきたが、これらは必ずしもこの方式に限られるものではなく、本発明の第2実施形態及び第3実施形態において説明した判別方式においても同様なステップにより辞書更新を実現することが可能である。
【0143】
さらに、前述した説明では辞書パターンが一つであることを前提に説明してきたが、辞書パターンが複数ある場合においては、図25のフローチャートに示すように、二つの辞書パターンのそれぞれにおいて人物判定及び辞書更新の処理を行なうことにより、複数の辞書パターンを更新することも可能である。
【0144】
図25に示すフローチャートでは、人物辞書パターンD1、人物辞書パターンD2、更新用辞書Ds1、更新用辞書Ds2、辞書D1人物判別しきい値th11、辞書D2人物判別しきい値th12、辞書D1更新しきい値th21、辞書D2更新しきい値th22、辞書更新必要投影パターン数Kuとしている。
【0145】
図25におけるステップE1〜E5の処理は、図24に示すステップD1〜D5と同一なので説明を省略する。
【0146】
次に、評価値S1を更新用辞書Ds1用の辞書D1人物判別しきい値th11と、または更新用辞書Ds2用の辞書D2人物判別しきい値th12と比較して、th11またはth12より大きい値の場合には(ステップE6)、人物であるとみなして、人物検知時の処理である、警報出力やVTR記録などを行なう(ステップE7)。
【0147】
次に、対応部50は、評価値S1を更新用辞書Ds1用の辞書D1更新しきい値th21と比較して、ベクトルv1が辞書更新のパターンとしてふさわしいか否かを判定する。評価値S1が辞書更新のしきい値th21より小さい場合には、更新用辞書Ds2用の判定処理に移行する(ステップE8)。
【0148】
一方、評価値S1が辞書D1更新しきい値th21より大きい場合には、辞書パターン作成部54は、ベクトルV1を辞書更新のために使用すべきパターンとして、これまで辞書更新のためのパターンとして記憶していた辞書更新用のパターンDs1に組み合わせる(ステップE9)。ここで、辞書更新用のパターンDs1への組み合わせ方は、図24において説明したように、投影パターンを重ね合わせて行くことで達成できる。
【0149】
次に、辞書パターン作成部54は、更新用辞書Ds1の更新用に重ね合わせた投影パターンの数、すなわち辞書作成に用いたサンプル数(k1)が辞書作成に必要な所定値Kuに到達したか否かを判定する(ステップE10)。ここで、サンプル数(k1)が所定値を越えている場合には、辞書パターン作成部54は、その時点での投影パターンを重ね合わせた辞書更新用のパターンDs1を新たな辞書パターンD3として採用する。ここで、古い辞書パターンD1は消去しても良いし、辞書パターンD1,D3を両方とも辞書パターンとして採用しても構わない。
【0150】
次に、対応部50は、評価値S1を更新用辞書Ds2用の辞書D2更新しきい値th22と比較して、ベクトルv1が辞書更新のパターンとしてふさわしいか否かを判定する。評価値S1が辞書更新のしきい値th22より小さい場合には、何もしないで次の画像の取り込みの処理のステップに戻る(ステップE12)。
【0151】
一方、評価値S1が辞書D2更新しきい値th22より大きい場合には、辞書パターン作成部54は、ベクトルV1を辞書更新のために使用すべきパターンとして、これまで辞書更新のためのパターンとして記憶していた辞書更新用のパターンDs2に組み合わせる(ステップE13)。
【0152】
次に、辞書パターン作成部54は、更新用辞書Ds2の更新用に重ね合わせた投影パターンの数、すなわち辞書作成に用いたサンプル数(k2)が辞書作成に必要な所定値Kuに到達したか否かを判定する(ステップE14)。ここで、サンプル数(k2)が所定値を越えている場合には、辞書パターン作成部54は、その時点での投影パターンを重ね合わせた辞書更新用のパターンDs2を新たな辞書パターンD4として採用する。ここで、古い辞書パターンD2は消去しても良いし、辞書パターンD2,D4を両方とも辞書パターンとして採用しても構わない。
【0153】
また、サンプル数(k2)が所定数以下の場合には、何もしないで次の画像の取り込みの処理のステップに戻る(ステップE16)。
【0154】
なお、図25においては説明を簡単にするために、撮像画像内から一つの変化領域について検出されるものとして説明しているが、実際には複数の変化領域がある場合も考えられ、その場合には図24に示すフローチャートと同様にして(ステップD12、ステップD4〜D11)、全ての変化領域に対して同様の手順を繰り返す。
【0155】
さて、以上述べてきた辞書更新の方式では、投影パターン評価値が辞書更新のしきい値を越えたか否か、という条件で辞書更新をするとして説明してきたが、この方式では高い評価値を与えるような特異な投影パターンのみが辞書に登録されるという可能性がある。
【0156】
図1に示したように、人物が横方向に移動する際にはその歩行パターンは手足の振れによりシルエットが変形するが、前述した辞書更新の方法(図24,図25)を用いる場合には、更新時に採用される投影パターンがそのうちの特定のものに限定され、この変形を反映したものとならない可能性がある。このような場合には、以下のような手順によりこの問題を避けることが可能となる。
【0157】
第1実施形態で述べたように、連続的に取り込んだ画像で抽出された移動領域は、例えば外接四角形の位置や、形状などの特徴から、位置が近く、形状が似ている物を対応づけるといった追跡アルゴリズムにより対応づけが可能である。
【0158】
すなわち、ある瞬間に高い評価値となった投影パターンに対する移動物体はその前後の時刻でどのようなシルエットであり、どのような投影パターンとなっているかを対応づけることができる。つまり、移動物体の評価の際に、追跡された移動物体の投影パターンを全て記録しておき、ある時刻でしきい値より大きな評価値となって辞書に取り込む場合には、記録されているこの物体の前後の時刻での投影パターンも全て辞書パターンに取り込むようにすれば、人物である可能性の高い移動物体が取り得る、いろいろな投影パターンを取り込むことが可能となる。
【0159】
図26はこのような辞書パターン作成機能を含む画像特徴量判定装置の構成を示すブロック図である。図26に示すように、画像特徴量判定装置は、撮像部10、領域抽出部12、対応づけ部14、1次元パターン変換部16、1次元パターン記憶部60、対応部62、辞書パターン記憶部64、及び辞書パターン作成部66によって構成されている。
【0160】
なお、撮像部10、領域抽出部12、対応づけ部14、1次元パターン変換部16については、前述した第1実施形態と同じ構成であるものとして、同一符号を付して詳細な説明を省略する。
【0161】
1次元パターン記憶部60は、対応づけ部14によって異なる撮像画像間で対応づけられた異なる複数の部分領域について、1次元パターン変換部16によって変換された1次元パターンを記憶する。
【0162】
対応部62は、1次元パターン記憶部60によって記憶された1次元パターンを、辞書パターン記憶部64に格納されたm個のデータ列からなる辞書パターンに対応させて類似度を測定し、部分領域(変化領域)に対応する対象物を判定する。
【0163】
辞書パターン記憶部64は、1次元パターン記憶部60に記憶された1次元パターンを検定するための、m個のデータ列からなる辞書パターンが予め記憶される。
【0164】
辞書パターン作成部66は、1次元パターン記憶部60に記憶された部分領域の1次元パターンを辞書パターンのうちの少なくとも一つの辞書パターンと比較することにより部分領域と辞書パターンの適合の検定を行い、その結果、適合していると見なされた部分領域の1次元パターン、及びこの1次元パターンの生成のもとになった部分領域が対応づけ部14によって対応づけられた別の撮像画像における部分領域の1次元パターンを複数個組合わせることにより、新たな辞書パターンを生成し、辞書パターン記憶部64に記憶させる。
【0165】
次に、辞書パターン作成を含む動作について、図27に示すフローチャートを参照しながら説明する。ここでは、人物辞書パターンD1、更新用辞書パターンDs、追跡投影パターンD′n、人物判別しきい値th1、辞書更新しきい値th2、辞書更新必要投影パターン数Kuとしている。
【0166】
図27におけるステップF1〜F5の処理は、図24に示すステップD1〜D5と同一なので説明を省略する。
【0167】
一方、対応づけ部14は、領域抽出部12によって抽出された変化領域の投影パターンについて、前回に取り込まれた撮像画像(時刻ti−1に撮像した撮像画像)で求められた変化領域と同一の移動物体による変化領域があるかどうかを確認する。
【0168】
辞書パターン作成部66は、対応づけ部14によって対応する移動物体があることが確認されている場合(ステップF6)、新たに求まった1次元パターン(ベクトルV1)を、前回までの投影パターンの組み合わせである追跡投影パターンD′nに加えるものと判別する(ステップF7)。なお、nは追跡された変化領域毎に付与される番号を示している。
【0169】
ここで、評価値S1を人物判別のしきい値th1と比較して、th1より大きい値の場合には(ステップF8)、人物であるとみなして、人物検知時の処理である、警報出力やVTR記録などを行なう(ステップF9)。
【0170】
また、辞書パターン作成部66は、投影パターンの評価値S1が辞書更新のしきい値th2を越えた場合には、この変化領域の追跡投影パターンD′nを更新辞書パターンDsに組み合わせる(ステップF11)。ここで、組み合わせた投影パターン数がKuを越えた場合には、辞書更新用投影パターンDsを新たな辞書パターンD1として採用し、辞書パターンD1と置き換えることは同様である(ステップF12,F13)。
【0171】
このようにすれば、連続的に取り込んだ撮像画像間で変化領域が追跡され、全ての投影パターンが追跡投影パターンD′nとして記録されて、辞書パターン記憶部64に記憶されるので、特定の投影パターンばかりが辞書パターンの更新に用いられると言った問題がなくなる。
【0172】
なお、第4実施形態における各説明において(図24、図25、図27)、投影パターンを辞書更新用投影パターンに組合わせる条件としては、ある時刻tiでの撮像画像中の変化領域のパターンが辞書更新しきい値th2を越えれば良いとしたが、精度をあげるためには、対応づけられた移動物体が異なる時間において辞書更新しきい値th2を越えるような評価値に複数回連続した場合に限り、投影パターンを辞書パターンに加えるようにする方法を用いても良い。
【0173】
また、これまでの説明では投影パターンを全て記録しておき、ある時刻でth2を越えた場合にはその移動物体(変化領域)に対応する投影パターンを更新辞書に取り込むとして説明してきたが、予め投影パターンを記憶しておくのでなく、ある時刻でth2を越えた場合に、これに対応する移動物体を追跡して、その変化領域の投影パターンについて辞書パターンに登録すれば、投影パターンを記録するための使用メモリ等において必要とされる記憶容量を低減しつつ、同様な効果を期待できる。
【0174】
【発明の効果】
以上詳述したように本発明によれば、第1に、所定時間毎に得られる画像間において変化領域の対応付けを行ない、各々のシルエット及び投影パターンを求めてこの時間変化を解析することにより、人物の判定精度を向上させることができる。第2に、各部位に相当する値、すなわち変化領域に対応する投影パターンの要素の値の時間的変化を解析することにより人物の判定精度を向上させることができる。第3に、変化領域の投影パターンを計算した後、投影パターンにおける隣り合う各要素の差を求めて投影パターンの連続性を表すパターンを求め、この連続性を辞書パターンと比較することにより、人物の判定精度を向上させることが可能である。第4に、変化領域に対応する投影パターンを辞書パターンで評価した結果、評価値が所定値以上となった場合に、これらの投影パターンを複数組み合わせて新たな辞書パターンを構成し、辞書パターンを更新して行くことにより、季節の移り変わり等の服装の変化の影響や辞書作成時とカメラ設定時の環境が多少違った場合等の影響を受け難くすることが可能である。
【図面の簡単な説明】
【図1】人間の動きのシルエット(投影パターン)を示す図。
【図2】投影パターンの正規化の方法を説明するための図。
【図3】第1実施形態及び第2実施形態において生成される人物のシルエット(投影パターン)から得られる2次元マトリクスの一例を示す図。
【図4】第1実施形態及び第2実施形態において生成される木の揺れシルエット(投影パターン)から得られる2次元マトリクスの一例を示す図。
【図5】第1実施形態における画像監視装置において用いられる画像特徴量判定装置の構成を示すブロック図。
【図6】第1実施形態における動作を説明するためのフローチャート。
【図7】第1実施形態における2次元マトリクスの生成の方法を説明するための図。
【図8】第1実施形態における2次元マトリクスから生成されるm×kマトリクス(辞書パターン)の一例を示す図。
【図9】第1実施形態における動的に2次元マトリクスを生成して辞書パターンと比較を行なう動作を説明するための図。
【図10】第1実施形態における歩行パターンの周期の違いに対応する複数の辞書パターン(2次元マトリクス)の作成を説明するための図。
【図11】第2実施形態における画像監視装置において用いられる画像特徴量判定装置の構成を示すブロック図。
【図12】第2実施形態における動作を説明するためのフローチャート。
【図13】第2実施形態において生成される2次元マトリクスをもとに生成される特徴量パターンSを説明するための図。
【図14】第2実施形態における辞書パターン記憶部に予め登録されている辞書パターンDを説明するための図。
【図15】第3実施形態における画像監視装置において用いられる画像特徴量判定装置の構成を示すブロック図。
【図16】第3実施形態における動作を説明するためのフローチャート。
【図17】第3実施形態における被検定物が人物である場合の投影パターンに具体的な数値を当てはめた例を示す図。
【図18】第3実施形態における被検定物が非人物(木の揺れ)である場合のの投影パターンに具体的な数値を当てはめた例を示す図。
【図19】第3実施形態において差分1次元パターン変換部による差分処理によって1次元パターン((n−1)×1のベクトル)を生成する様子を示す図。
【図20】第3実施形態における投影パターンの滑らかさを判別するための辞書を説明するための図。
【図21】第3実施形態において(n−1)×1の1次元ベクトルの各要素の絶対値の和をもとに投影パターンの滑らかさを判別する方式を説明するための図。
【図22】第3実施形態において(n−1)×1の要素からなる1次元ベクトルのパターンに対する所定値をもとに投影パターンの滑らかさを判別する方式を説明するための図。
【図23】第4実施形態における画像監視装置において用いられる画像特徴量判定装置の構成を示すブロック図。
【図24】第4実施形態における辞書パターン作成を含む動作を説明するためのフローチャート。
【図25】第4実施形態における辞書パターンが複数ある場合の辞書パターン作成を含む動作を説明するためのフローチャート。
【図26】第4実施形態における画像監視装置において用いられる他の画像特徴量判定装置の構成を示すブロック図。
【図27】第4実施形態における動作を説明するためのフローチャート。
【図28】撮像画像中から抽出された変化領域の一例を示す図。
【図29】人間のシルエットの横方向への投影パターンの重ね合わせの一例を示す図。
【図30】辞書パターンと被検定のシルエットの具体的な例を示す図。
【図31】人物シルエットの投影パターンと木の揺れの投影パターンの違いを説明するための図。
【符号の説明】
10…撮像部
12…領域抽出部
14…対応づけ部
16…1次元パターン変換部
18…1次元パターン記憶部
20…二次元パターン変換部
22,52,64…辞書パターン記憶部
24,46,50,62…対応部
30…統計量変換部
40…差分1次元パターン変換部
42…差分1次元パターン記憶部
54,66…辞書パターン作成部
60…変化量1次元パターン変換部
Claims (9)
- 所定の時間間隔を設けながら画像を撮像する撮像手段と、
前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、
前記抽出手段によって抽出された異なる撮像画像での前記部分領域を対応づける対応づけ手段と、
前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、
前記対応づけ手段によって対応づけられた複数の異なる画像における部分領域の1次元パターンを組み合わせて2次元パターンを生成する2次元パターン変換手段と、
前記2次元パターン変換手段によって生成された2次元パターンを検定するための2次元パターンを表すデータ列からなる辞書パターンを記憶する辞書パターン記憶手段と、
前記2次元パターン変換手段によって生成された2次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする画像特徴量判定装置。 - 所定の時間間隔を設けながら画像を撮像する撮像手段と、
前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、
前記抽出手段によって抽出された異なる撮像画像での前記部分領域を対応づける対応づけ手段と、
前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、
前記対応づけ手段によって対応づけられた複数の異なる画像における部分領域の1次元パターンの各々に対応する各要素データ毎に統計処理を行ない、統計処理結果を要素とする統計量1次元パターンを生成する統計量変換手段と、
前記統計量変換手段によって生成される統計量1次元パターンを検定するための1次元パターンを表すデータ列からなる辞書パターンを記憶する記憶手段と、
前記統計量変換手段によって生成された統計量1次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする画像特徴量判定装置。 - 所定の時間間隔を設けながら画像を撮像する撮像手段と、
前記撮像手段によって撮像された各々の画像から所定の条件を満たす部分領域を抽出する抽出手段と、
前記抽出手段によって抽出された部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン変換手段と、
前記1次元パターン変換手段によって生成された1次元パターンの複数個のデータ列について隣り合うデータ間で差分演算を行ない、差分演算結果を要素とする差分1次元パターンを生成する差分1次元パターン変換手段と、
前記差分1次元パターン変換手段によって生成される差分1次元パターンを検定するための1次元パターンを表すデータ列からなる辞書パターンを記憶する辞書パターン記憶手段と、
前記差分1次元パターン変換手段によって生成された統計量1次元パターンを、前記辞書パターン記憶手段に記憶された辞書パターンと比較することによって、前記部分領域を検定する対応手段とを具備したことを特徴とする画像特徴量判定装置。 - 前記抽出手段は、
前記部分領域として、ある時刻に撮像された画像とそれ以前に撮像された画像と比較して変化領域を抽出することを特徴とする請求項1乃至請求項3の何れかに記載の画像特徴量判定装置。 - 前記1次元パターン変換手段は、
前記部分領域の水平方向または垂直方向の何れか一方への投影計算により1次元パターンを生成することを特徴とする請求項1記載乃至請求項4記載の何れかに記載の画像特徴量判定装置。 - 前記抽出手段によって抽出される部分領域が2値画像であることを特徴とする請求項1記載乃至請求項5記載の何れかに記載の画像特徴量判定装置。
- 画像の特徴量を判定するための画像監視装置が行う画像特徴量判定方法において、
所定の時間間隔毎に撮像された画像を取り込む撮像ステップと、
前記撮像ステップにより取り込んだ各々の画像から所定の条件を満たす部分領域を抽出する抽出ステップと、
前記部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン生成ステップと、
前記撮像ステップより取り込んだ各々の画像と前記部分領域とを対応づける対応づけステップと、
前記部分領域について1次元パターン生成ステップにより生成された1次元パターンを組み合わせて2次元パターンを生成する2次元パターン生成ステップと、
前記2次元パターン生成ステップにより生成された2次元パターンを、予め用意された2次元パターンを表すデータ列からなる辞書パターンと比較することによって前記部分領域を検定する検定ステップとを有することを特徴とする画像特徴量判定方法。 - 画像の特徴量を判定するための画像監視装置が行う画像特徴量判定方法において、
所定の時間間隔毎に撮像された画像を取り込む撮像ステップと、
前記撮像ステップにより取り込んだ各々の画像から所定の条件を満たす部分領域を抽出する抽出ステップと、
前記部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン生成ステップと、
前記撮像ステップより取り込んだ各々の画像と前記部分領域とを対応づける対応づけステップと、
前記対応づけステップにより対応づけられた複数の異なる画像における部分領域の1次元パターンの各々に対応する各要素データ毎に統計処理を行ない、統計処理結果を要素とする統計量1次元パターンを生成する統計量1次元パターン生成ステップと、
前記統計量1次元パターン生成ステップにより生成された統計量1次元パターンを、予め用意された1次元パターンを表すデータ列からなる辞書パターンと比較することによって、前記部分領域を検定する検定ステップとを有することを特徴とする画像特徴量判定方法。 - 画像の特徴量を判定するための画像監視装置が行う画像特徴量判定方法において、
所定の時間間隔毎に撮像された画像を取り込む撮像ステップと、
前記撮像ステップにより取り込んだ各々の画像から所定の条件を満たす部分領域を抽出する抽出ステップと、
前記部分領域をもとに複数個のデータ列からなる1次元パターンを生成する1次元パターン生成ステップと、
前記1次元パターン生成ステップにより生成された1次元パターンの複数個のデータ列について隣り合うデータ間で差分演算を行ない、差分演算結果を要素とする差分1次元パターンを生成する差分1次元パターン生成ステップと、
前記差分1次元パターン生成ステップにより生成された統計量1次元パターンを、予め用意された1次元パターンを表すデータ列からなる辞書パターンと比較することによって、前記部分領域を検定する検定ステップとを有することを特徴とする画像特徴量判定方法。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24161596A JP3665430B2 (ja) | 1996-09-12 | 1996-09-12 | 画像特徴量判定装置及び画像特徴量判定方法 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP24161596A JP3665430B2 (ja) | 1996-09-12 | 1996-09-12 | 画像特徴量判定装置及び画像特徴量判定方法 |
Publications (2)
Publication Number | Publication Date |
---|---|
JPH1091794A JPH1091794A (ja) | 1998-04-10 |
JP3665430B2 true JP3665430B2 (ja) | 2005-06-29 |
Family
ID=17076967
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP24161596A Expired - Fee Related JP3665430B2 (ja) | 1996-09-12 | 1996-09-12 | 画像特徴量判定装置及び画像特徴量判定方法 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3665430B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
JP2002298142A (ja) * | 2001-03-29 | 2002-10-11 | Minolta Co Ltd | 人物画像検出方法、この方法を実行するためのプログラムを記録した記録媒体、人物画像検出装置及びこの装置を備えた撮影装置 |
JP3981391B2 (ja) | 2003-10-21 | 2007-09-26 | 松下電器産業株式会社 | 監視装置 |
JP4708124B2 (ja) * | 2005-08-30 | 2011-06-22 | 富士重工業株式会社 | 画像処理装置 |
JP2007329762A (ja) * | 2006-06-08 | 2007-12-20 | Fujitsu Ten Ltd | 物体候補領域検出装置、物体候補領域検出方法、歩行者認識装置、および車両制御装置 |
US8681239B2 (en) | 2009-04-07 | 2014-03-25 | Panasonic Corporation | Image capturing device, image capturing method, program, and integrated circuit |
JP2012128638A (ja) * | 2010-12-15 | 2012-07-05 | Canon Inc | 画像処理装置、位置合わせ方法及びプログラム |
JP7419095B2 (ja) * | 2020-02-17 | 2024-01-22 | 株式会社東芝 | 画像センサ、計算装置、および画像センサシステム |
-
1996
- 1996-09-12 JP JP24161596A patent/JP3665430B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JPH1091794A (ja) | 1998-04-10 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7639840B2 (en) | Method and apparatus for improved video surveillance through classification of detected objects | |
US7215798B2 (en) | Method for forgery recognition in fingerprint recognition by using a texture classification of gray scale differential images | |
Yu et al. | Computer vision based fall detection by a convolutional neural network | |
Mirmahboub et al. | Automatic monocular system for human fall detection based on variations in silhouette area | |
Wang et al. | Silhouette analysis-based gait recognition for human identification | |
JP3812985B2 (ja) | 自動監視装置 | |
US7995843B2 (en) | Monitoring device which monitors moving objects | |
CN110781723B (zh) | 一种群体异常行为识别方法 | |
US20100111374A1 (en) | Method for using information in human shadows and their dynamics | |
WO2002075685A2 (en) | Automatic system for monitoring persons entering and leaving a changing room | |
KR100824757B1 (ko) | 걸음걸이를 이용한 생체 인식 방법 | |
KR100822476B1 (ko) | 원격 응급상황 모니터링 시스템 및 방법 | |
CN110929584A (zh) | 网络训练方法、监控方法、***、存储介质和计算机设备 | |
Poonsri et al. | Improvement of fall detection using consecutive-frame voting | |
EP2000998B1 (en) | Flame detecting method and device | |
JP3665430B2 (ja) | 画像特徴量判定装置及び画像特徴量判定方法 | |
Shajina et al. | Human gait recognition and classification using time series shapelets | |
Su et al. | Human gait recognition based on motion analysis | |
CN109147123B (zh) | 门禁锁的解锁方法、装置、电子设备和计算机存储介质 | |
De Silva | Audiovisual sensing of human movements for home-care and security in a smart environment | |
Zaman et al. | Efficient human motion detection with adaptive background for vision-based security system | |
WO2022049704A1 (ja) | 情報処理システム、情報処理方法、及びコンピュータプログラム | |
Ali et al. | Automated secure room system | |
ShanShan et al. | Fall detection method based on semi-contour distances | |
Ye et al. | Camouflage detection and gait recognition model |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20041029 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20041102 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20041222 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050329 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050401 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
S111 | Request for change of ownership or part of ownership |
Free format text: JAPANESE INTERMEDIATE CODE: R313117 |
|
R350 | Written notification of registration of transfer |
Free format text: JAPANESE INTERMEDIATE CODE: R350 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080408 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090408 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100408 Year of fee payment: 5 |
|
LAPS | Cancellation because of no payment of annual fees |