JP5007786B2 - 映像監視装置及び方法 - Google Patents

映像監視装置及び方法 Download PDF

Info

Publication number
JP5007786B2
JP5007786B2 JP2006101241A JP2006101241A JP5007786B2 JP 5007786 B2 JP5007786 B2 JP 5007786B2 JP 2006101241 A JP2006101241 A JP 2006101241A JP 2006101241 A JP2006101241 A JP 2006101241A JP 5007786 B2 JP5007786 B2 JP 5007786B2
Authority
JP
Japan
Prior art keywords
monitoring
dimensional
image
distance
photographing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2006101241A
Other languages
English (en)
Other versions
JP2007274653A (ja
Inventor
規之 望月
吉則 小関
Original Assignee
サクサ株式会社
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by サクサ株式会社 filed Critical サクサ株式会社
Priority to JP2006101241A priority Critical patent/JP5007786B2/ja
Publication of JP2007274653A publication Critical patent/JP2007274653A/ja
Application granted granted Critical
Publication of JP5007786B2 publication Critical patent/JP5007786B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Landscapes

  • Image Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Burglar Alarm Systems (AREA)
  • Alarm Systems (AREA)
  • Image Analysis (AREA)

Description

本発明は、監視カメラ等の撮影手段を用いて異常状態を監視する映像監視装置及び方法に関する。
こうした映像監視装置では、監視カメラ等で所定時間毎に撮影した映像をCRT等のモニタに表示して監視者が侵入者の有無を監視する。監視カメラを複数の場所に設置しておき、撮影した映像を監視センタ等で集中して表示すれば、複数の場所を同時に遠隔監視することが容易に行うことができる。
しかしながら、監視者が常時モニタに表示された映像をチェックすることは、大変な労力が必要となるため、撮影された映像に侵入者等の動物体が入ってきたことを自動的に検出して監視者に異常を知らせるようにした監視装置が提案されている。例えば、特許文献1では、撮像部が撮影した光学画像と基準画像を比較して差分画像を生成し、レーザ測距部が測定した対象物までの距離と基準距離との差分値を計算し、光学画像の変化領域と距離変化の生じた測距ポイントとの位置の相関を考慮して侵入者の判定を行う点が記載されている。また、特許文献2では、取得した映像のフレーム上又は画像上の変化領域を検出した時に警報音を生成し、変化領域の位置や度合いに基づいて警報音を変化させるようにした点が記載されている。
こうした監視カメラ等で撮影した映像に基づいて変化領域を検出する手法としては、予め基準画像として背景画像を生成しておき、背景画像と撮影画像とを比較して差分画像を生成し、変化領域を検出する手法(特許文献3参照)や撮影した映像のフレーム間差分を利用する手法(特許文献4参照)がある。また、2つのカメラで同時に撮影したステレオ画像を用いて撮影された領域の距離を測定する手法も開発されている(特許文献5参照)。
特開2002−208073号公報 特開2005−328236号公報 特開2001−333417号公報 特開2001−222719号公報 特開2001−289631号公報
監視カメラにより撮影された映像に基づいて画像処理を行って侵入者等の動物体を自動的に認識しようとする場合、例えばステレオ画像に基づいて3次元の距離データを算出して動物体の大きさ等を認識することができるが、画像処理に必要な演算処理が膨大なものとなってリアルタイムでの検出が難しいのが現状である。また、演算処理を減らして精度を落すことも考えられるが、そうした場合には、遠距離で壁面を伝って移動する浸入者を検出できなくなるといった問題がある。
撮影した映像の変化領域までの距離を測定する場合、ステレオ画像を撮影するためには監視カメラが2台必要となり、レーザで距離を算出するためにはレーザ測距装置が別途必要になるため、コスト負担が大きい。そのため、監視カメラ1台の映像でカメラの設置高さや俯角から映像上の物体までの距離を求める方法も考えられるが、監視エリアに坂や階段、フロアの段差といった凹凸が存在すると正確に距離を算出できない欠点がある。
そこで、本発明は、監視カメラ1台の映像を用いて監視エリアに凹凸が存在する場合でも正確に動物体を判定することができる映像監視装置及び方法を提供することを目的とするものである。
なお、本発明では、「動物体」は、監視エリア内で移動する対象物を指し、「異物」は、監視エリアの映像データから抽出した「動物体」のデータをいう。
本発明に係る映像監視装置は、監視エリアを撮影する撮影手段と、撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理手段と、異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出手段と、算出された動物体のサイズに基づいて監視対象物体か否か判別する判別手段と、撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出手段と、前記3次元距離データを記憶する記憶手段と、算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成手段と、撮影手段の監視位置から左右に同じ距離だけ離れた位置に設置された一対のミラーと、を備え、前記一対のミラーはそれぞれ監視エリアを映すようにセットされており、前記撮影手段は前記一対のミラーが映す監視エリアを撮影するため、前記一対のミラーに向かって回動自在であることを特徴とする。
本発明に係る映像監視装置は、監視エリアを撮影する撮影手段と、撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理手段と、異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出手段と、算出された動物体のサイズに基づいて監視対象物体か否か判別する判別手段と、撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出手段と、前記3次元距離データを記憶する記憶手段と、算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成手段と、撮影手段を監視位置から左右に同じ距離だけ離れた位置に移動させて位置決めする位置決め手段を備えていることを特徴とする。
本発明に係る映像監視方法は、監視エリアを撮影する撮影工程と、撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理工程と、異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出工程と、算出された動物体のサイズに基づいて監視対象物体か否か判別する判別工程と、撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出工程と、前記3次元距離データを記憶する記憶工程と、算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成工程と、を有し、前記撮影工程では、撮影手段の監視位置から左右に同じ距離だけ離れた位置に設置され、それぞれ監視エリアを映すようにセットされた一対のミラーが映す監視エリアを撮影するため、前記撮影手段を前記一対のミラーに向かって回動することを特徴とする。
上記のような構成を有することで、撮影手段により撮影された背景画像の2次元座標に対応する監視エリアの3次元距離データを予め作成して記憶しておき、撮影手段の撮影した映像データから抽出された異物とその異物の下端の2次元座標に対応する3次元距離データから動物体のサイズを算出して監視対象物体であるか否か判別するようにしているので、動物体に対して3次元距離データに基づいた正確な判定を行うことができ、異物の抽出処理や動物体のサイズ算出処理を行うだけなので、リアルタイムの判定が可能となる。
また、異物の縦又は横の画素数を用いて動物体のサイズを算出するようにすれば、動物体が人又は人以外のものであるか簡単に判定することができる。
そして、算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成することで、監視カメラを設置した際に距離テーブルを作成することができ、実際の監視エリアに対応した距離テーブルを正確に作成することが可能となる。また、撮影手段を異なる2つの位置に移動させて位置決めする位置決め手段又は異なる2つの位置から見た監視エリアを撮影手段に映すミラーを備えることで、監視カメラ1台だけで容易に距離テーブルの作成を行うことができる。
以下、本発明に係る実施形態について詳しく説明する。
図1は、本発明に係る実施形態に関する概略ブロック構成図である。装置本体1には、監視エリアの撮影手段である監視カメラ2、監視映像等を表示するモニタ3、操作に必要な情報を入力するための入力装置4、監視対象物体が判別された際に報知する警報装置5が接続されている。
装置本体1には、装置全体の制御に関する情報処理を行う制御部10、撮影された映像の画像処理を行う画像処理部11、監視カメラ2が撮影した映像から照明のゆらぎ等のノイズを除去して監視エリアの映像を取得する映像取得部12、画像処理部11から出力される入力画像13a、処理画像13b及び背景画像13c等を記憶する画像メモリ13、制御処理に必要なプログラム、後述する距離テーブル14a及び入力装置から入力された判別に用いる基準データ等の設定データ14bを記憶する記憶部14、及びモニタ3等の外部装置との間でデータを送受信する入出力部15を備えている。
制御部10は、距離データ算出部10a、動物体サイズ算出部10b及び判別部10cを備えており、画像処理部11は、異物処理部11a及び静止画像処理部11bを備えている。
距離データ算出部10aは、画像メモリに蓄積された監視エリアの背景画像13cのうち後述するように異なる2つの位置で撮影された2つの背景画像のデータを用い両者の視差を利用して公知の方法により背景画像の距離を算出している。具体的には、背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、その座標位置に対応する3次元距離データを2つの背景画像データに基づいて算出している。そして、算出された3次元距離データを2次元座標と関連付けた距離テーブル14aを作成し、記憶部14に記憶する。
監視カメラ2を用いて異なる2つの位置で撮影する場合、この例では、監視カメラ2をガイドレール20に移動可能に取り付けたキャリッジ(図示せず)に固定して、キャリッジ駆動部21によりガイドレール20に沿って監視カメラ2を移動させる。図2は、監視カメラ2の移動の様子を示す上面図であり、監視位置から左右に同じ距離だけ離れた位置2R及び2Lまで監視カメラ2をガイドレール20に沿って移動させて位置決めする。
図3は、背景画像の距離測定処理に関するフローである。この処理は、監視カメラ2が新たに設置された場合に最初に行う処理である。まず、監視位置に初期設定された監視カメラ2を右方に所定距離移動させて右方の位置2Rに位置決めする(S100)。位置決め後監視カメラ2により監視エリアを撮影し、撮影された映像を画像処理部11の静止画像処理部11bで処理して背景画像を得る(S101)。そして、監視カメラ2を移動させて左方の位置2Lに位置決めする(S102)。位置決め後監視カメラ2で監視エリアを撮影し、撮影された映像を画像処理部11の静止画像処理部11bで処理してもう1枚の背景画像を得る(S103)。こうして作成された2枚の背景画像のデータを照合して同じ対象位置での視差を利用して公知の方法で3次元距離データを算出する(S104)。監視位置で撮影した映像を基に作成された背景画像の各画素又は複数の画素をまとめたブロック毎の2次元座標に対応して算出された3次元距離データを格納し、距離テーブルを作成する(S105)。
図4は、監視カメラ2を用いて異なる2つの位置で撮影する別の実施形態を示している。この実施形態では、監視カメラ2の監視位置から左右に同じ距離だけ離れた位置に一対のミラー22R及び22Lが設置されており、ミラー22R及び22Lは、監視エリアを監視カメラ2の方に映すようにセットされている。そして、監視カメラ2を右方に回動させた位置2R’に位置決めしてミラー22Rが映す監視エリアの映像を撮影する。また、左方に回動させた位置2L’に位置決めしてミラー22Lが映す監視エリアの映像を撮影する。
なお、第1の実施形態では、監視カメラを別の位置に移動させて異なる位置から2枚の背景画像を撮影しているのに対し、この第2の実施形態では監視カメラ2の設置位置は変えないで2枚の背景画像を撮影するから、背景画像の撮影の仕方は相違する。しかし、その背景画像の距離測定処理に関するフローは、既に述べた第1の実施形態のものと同じであるため説明を省略する。
動物体サイズ算出部10bは、画像処理部11の異物抽出部11aで抽出されて画像メモリ13に蓄積された異物及び記憶部14に記憶された距離テーブル14aの距離データに基づいて動物体のサイズを算出する。そして、判別部10cは、算出された動物体のサイズを記憶部14に記憶された基準データと比較して監視対象物体であるか否か判別する。
図5は、動物体の判別処理に関するフローである。まず、監視カメラ2で撮影された映像が画像処理部11で処理されて入力画像が得られる(S200)。そして、異物抽出部11aで得られた入力画像13aが監視位置の背景画像13cと照合されて差分画像が生成され(S201)、差分画像のデータに基づいて公知の方法により異物が含まれるかチェックされる(S202)。異物がないと判断された場合にはステップS200に戻り、次の入力画像が取得される。
ステップS202において異物が含まれると判断された場合には、異物が抽出される(S203)。図6は、入力画像(図6(a))から抽出された動物体Sの異物(図6(b))を示している。この例では、監視エリアに入り込んだ侵入者Sが監視カメラ2により撮影されて背景画像と異なった画像が検出され異物として抽出されている。
次に、抽出された異物に基づいてその下端に位置する画素Scの距離データを距離テーブル14aから読み出す(S204)。そして、異物に基づいて算出された縦方向の画素数Sh及び横方向の画素数Swを読み出した3次元距離データで補正して動物体Sのサイズを算出する(S205)。図7は、動物体のサイズに関する算出方法を示す説明図である。読み出された3次元距離データLから縦方向の1画素に対応する実際の長さが算出されるため、実際の長さに縦方向の画素数を掛けることで長さShが求められる。そして、監視カメラ2の水平方向からの俯角θから動物体の垂直方向の長さSHは、
SH=Sh/cosθ
で近似的に算出される。横方向の長さについては、1画素に対応する実際の長さに横方向の画素数を掛けることで算出することができる。
こうして算出された動物体Sのサイズと予め設定された基準データを比較して監視対象物体か否か判別される(S206)。人の場合には縦方向に細長いサイズか否かで判別でき、自動車は横方向に長いサイズであり、猫や犬といった小動物は、縦横に小さいサイズとなるため、こうしたサイズデータを集めて統計的に平均的なデータを基準データとして設定しておけば、人の判別を正確かつ迅速に行うことができる。
以上説明した映像監視装置によれば、監視エリアに坂や階段といった凹凸が存在しても背景画像の距離データに正確に反映されるため、動物体のサイズを正確に算出することができる。また、壁面を伝って動物体が移動している場合でもその異物の下端に対応する距離データからサイズを算出することで、誤った判別をすることがなくなる。
本発明に係る実施形態に関する概略ブロック構成図である。 監視カメラの移動の様子を示す上面図である。 背景画像の距離測定処理に関するフローである。 監視カメラを用いて異なる2つの位置で撮影する第2の実施形態に関する上面図である。 動物体の判別処理に関するフローである。 入力画像及び異物を示す模式図である。 動物体のサイズに関する算出方法を示す説明図である。
符号の説明
S・・・動物体、1・・・装置本体、2・・・監視カメラ、3・・・モニタ。

Claims (3)

  1. 監視エリアを撮影する撮影手段と、
    撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理手段と、
    異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出手段と、
    算出された動物体のサイズに基づいて監視対象物体か否か判別する判別手段と、
    撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出手段と、
    前記3次元距離データを記憶する記憶手段と、
    算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成手段と
    撮影手段の監視位置から左右に同じ距離だけ離れた位置に設置された一対のミラーと、を備え、
    前記一対のミラーはそれぞれ監視エリアを映すようにセットされており、前記撮影手段は前記一対のミラーが映す監視エリアを撮影するため、前記一対のミラーに向かって回動自在であることを特徴とする映像監視装置。
  2. 監視エリアを撮影する撮影手段と、
    撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理手段と、
    異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出手段と、
    算出された動物体のサイズに基づいて監視対象物体か否か判別する判別手段と、
    撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出手段と、
    前記3次元距離データを記憶する記憶手段と、
    算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成手段と、
    撮影手段を監視位置から左右に同じ距離だけ離れた位置に移動させて位置決めする位置決め手段を備えていることを特徴とする映像監視装置。
  3. 監視エリアを撮影する撮影工程と、
    撮影手段の撮影した映像データに基づいて動物体に関する異物を抽出処理する画像処理工程と、
    異物及び異物の下端の2次元座標に対応する3次元距離データに基づいて動物体のサイズを異物の縦又は横の画素数を用いて算出するサイズ算出工程と、
    算出された動物体のサイズに基づいて監視対象物体か否か判別する判別工程と、
    撮影手段により撮影された異なる2つの背景画像の各画素毎又は複数の画素をまとめたブロック毎の2次元座標を設定し、背景画像の2次元座標に対応する監視エリアの3次元距離データを算出する距離算出工程と、
    前記3次元距離データを記憶する記憶工程と、
    算出された3次元距離データを背景画像の2次元座標に関連付けた距離テーブルを作成する作成工程と、を有し、
    前記撮影工程では、撮影手段の監視位置から左右に同じ距離だけ離れた位置に設置され、それぞれ監視エリアを映すようにセットされた一対のミラーが映す監視エリアを撮影するため、前記撮影手段を前記一対のミラーに向かって回動することを特徴とする映像監視方法
JP2006101241A 2006-03-31 2006-03-31 映像監視装置及び方法 Expired - Fee Related JP5007786B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2006101241A JP5007786B2 (ja) 2006-03-31 2006-03-31 映像監視装置及び方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2006101241A JP5007786B2 (ja) 2006-03-31 2006-03-31 映像監視装置及び方法

Publications (2)

Publication Number Publication Date
JP2007274653A JP2007274653A (ja) 2007-10-18
JP5007786B2 true JP5007786B2 (ja) 2012-08-22

Family

ID=38676916

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2006101241A Expired - Fee Related JP5007786B2 (ja) 2006-03-31 2006-03-31 映像監視装置及び方法

Country Status (1)

Country Link
JP (1) JP5007786B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009129131A (ja) * 2007-11-22 2009-06-11 Chuo Electronics Co Ltd 通過検出システム、および通過検出方法
CN117611592B (zh) * 2024-01-24 2024-04-05 长沙隼眼软件科技有限公司 一种异物检测方法、装置、电子设备以及存储介质

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2001005974A (ja) * 1999-06-17 2001-01-12 Matsushita Electric Ind Co Ltd 物体認識方法及び物体認識装置
JP2002236332A (ja) * 2001-02-09 2002-08-23 Olympus Optical Co Ltd ステレオアダプタ、パターン投影アダプタ、発光部材用アダプタ
JP2005024442A (ja) * 2003-07-04 2005-01-27 Meidensha Corp ステレオ画像撮影装置
JP2005157635A (ja) * 2003-11-25 2005-06-16 Matsushita Electric Ind Co Ltd 混雑度計測装置、設備制御システム、および混雑度計測方法

Also Published As

Publication number Publication date
JP2007274653A (ja) 2007-10-18

Similar Documents

Publication Publication Date Title
CN104902246B (zh) 视频监视方法和装置
JP4780455B2 (ja) 映像監視装置及び方法
JP5038234B2 (ja) サーバーコンピュータの温度監視方法、及びその装置
TWI521471B (zh) 3 - dimensional distance measuring device and method thereof
JP5007863B2 (ja) 3次元物***置計測装置
JPWO2014002725A1 (ja) 3次元測定方法、装置、及びシステム、並びに画像処理装置
WO2014171418A1 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP2008226109A (ja) 映像解析システムおよび映像解析方法
JP6725675B2 (ja) 自己位置推定装置、自己位置推定方法、プログラム、および画像処理装置
KR20220145752A (ko) 이미지를 이용한 3차원 객체의 존재 판독 방법 및 그 장치
JP5007786B2 (ja) 映像監視装置及び方法
JPH1144533A (ja) 先行車両検出装置
JP6409769B2 (ja) 3次元形状計測装置、3次元形状計測方法及び3次元形状計測プログラム
JP6431271B2 (ja) 車両検知及び車両番号認識装置
JP4707019B2 (ja) 映像監視装置及び方法
KR100756009B1 (ko) 컨테이너의 3차원 표면 영상획득시스템 및 그 방법
CN115619782B (zh) 基于机器视觉的井筒360全景拼接检测***及方法
JP2020088840A (ja) 監視装置、監視システム、監視方法、監視プログラム
JP2018201146A (ja) 画像補正装置、画像補正方法、注目点認識装置、注目点認識方法及び異常検知システム
JP2007010419A (ja) 対象物の3次元形状検証システム。
JP6581280B1 (ja) 監視装置、監視システム、監視方法、監視プログラム
KR100844640B1 (ko) 물체 인식 및 거리 계측 방법
KR101497396B1 (ko) 타겟 위치 측정시스템 및 이를 이용한 타겟 위치 측정방법
KR20170122508A (ko) 다중 마커 기반의 정합 가이드 방법 및 시스템
JP2005157635A (ja) 混雑度計測装置、設備制御システム、および混雑度計測方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20081022

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20110310

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20110328

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20110527

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20120213

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20120410

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20120502

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20120515

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20150608

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees