JP3702195B2 - 物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム - Google Patents
物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム Download PDFInfo
- Publication number
- JP3702195B2 JP3702195B2 JP2001133979A JP2001133979A JP3702195B2 JP 3702195 B2 JP3702195 B2 JP 3702195B2 JP 2001133979 A JP2001133979 A JP 2001133979A JP 2001133979 A JP2001133979 A JP 2001133979A JP 3702195 B2 JP3702195 B2 JP 3702195B2
- Authority
- JP
- Japan
- Prior art keywords
- image data
- data
- specific object
- template
- data representing
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Image Analysis (AREA)
Description
【発明の属する技術分野】
本発明は、置き忘れた物を検知する技術に関し、特に、記録された撮像画像に基づいて置き忘れた物の存在場所を人に認知させる技術に関する。
【0002】
【従来の技術】
日々の生活の中で、ある物の所在がわからなくなった場合、人は記憶をたどって、その物がどこにあるのかを思い出そうとする。しかし、所在がわからなくなった物を最後に手に取ったのが遠い過去である場合、所在がわからなくなった物を無意識にどこかへ格納した場合、加齢に伴い記憶能力が減退した人である場合には、記憶をたどってもその所在を明らかにすることができないことが多い。
【0003】
紛失物を検索する技術として、特開2000−188701号公報に開示される迷子リモコン探知システムがある。この公報に開示された迷子リモコン探知システムは、紛失したテレビ受像機用のリモコンを探すためのシステムであって、テレビ受像機側に設けられ、そのテレビ受像機のリモコンに向けて信号を発信するための発信手段と、リモコンに設けられ、発信手段からの信号を受信するための受信手段および受信手段により受信した信号に基づいて警報を出力するための出力手段とを含む。
【0004】
この公報に開示された迷子リモコン探知システムによると、テレビ受像機用のリモコンを紛失すると、テレビ受像機側に設けられた発信手段を用いて探知信号を発信する。探知信号の受信範囲内にリモコンがあると、リモコン側に設けられた受信手段が探知信号を受信して、出力手段が受信した探知信号に基づいて警報を出力する。人は、出力手段から出力された警報により、リモコンの所在を認知することができる。これにより、リモコンを紛失しても、容易に探し出すことができる。
【0005】
【発明が解決しようとする課題】
しかしながら、前述の公報に開示された迷子リモコン探知システムにおいては、探査対象となるリモコンに受信手段と出力手段とを設けなければならない。所在がわからなくなる可能性のある、身の周りの全ての物にこのような受信手段と出力手段とを設けることは不可能である。
【0006】
本発明は、上述の課題を解決するためになされたものであって、所在のわからなくなる可能性のある物に特別な機能を付加することなく、人が置き忘れた物を認知することができる物検索装置、物検索方法およびその装置をコンピュータに実現させるプログラムを提供することである。
【0007】
【課題を解決するための手段】
第1の発明に係る物検索装置は、画像データを受取るための受取手段と、特定の物を表わすデータを記憶するための第1の記憶手段と、受取手段と第1の記憶手段とに接続され、画像データと特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かを逐次検知するための検知手段と、受取手段と検知手段とに接続され、検知手段により検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶するための第2の記憶手段と、第1の記憶手段に接続され、第1の記憶手段に記憶されたデータの中から任意の物を表わすデータを、人が選択するための選択手段と、選択手段と第2の記憶手段とに接続され、選択手段により任意の物が選択されたことに応答して、選択手段により選択された任意の物に関連付けて第2の記憶手段に記憶された画像データを出力するための出力手段とを含む。
【0008】
第1の発明によると、検知手段は、画像データと特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かを逐次検知する。第2の記憶手段は、検知手段により検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶する。選択手段を用いて、人は、第1の記憶手段に記憶されたデータの中から任意の物を表わすデータを選択する。出力手段は、選択手段により任意の物が選択されたことに応答して、選択された任意の物に関連付けて第2の記憶手段に記憶された画像データを出力する。これにより、所在のわからなくなる可能性のある物を含む身の回りの物を、第1の記憶手段に記憶させる。検知手段は、人の視覚領域に検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データをその物に関連付けて記憶する。身の回りの物をどこかに置き忘れたことに人が気付いて、その物を選択する入力をすると、その物が検知されなくなる直前の画像が出力される。出力された画像を見た人は、その物の所在を容易に思い出すことができる。その結果、所在のわからなくなる可能性のある物に特別な機能を付加することなく、人が置き忘れた物を認知することができる物検索装置を提供できる。
【0009】
第2の発明に係る物検索装置は、第1の発明の構成に加えて、検知手段は、画像データと特定の物を表わすデータとを逐次比較することにより、画像データの中に特定の物があるか否かを検知するための手段を含む。
【0010】
第2の発明によると、検知手段は、画像データと特定の物を表わすデータとを逐次比較して、画像データの中に特定の物があるか否かを検知する。たとえば、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0011】
第3の発明に係る物検索装置は、第1の発明の構成に加えて、検知手段は、画像データと特定の物を表わすテンプレートデータとに基づくマッチング処理により、画像データの中にテンプレートデータにより表わされる特定の物があるか否かを検知するための手段を含む。
【0012】
第3の発明によると、検知手段は、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0013】
第4の発明に係る物検索装置は、第1の発明の構成に加えて、受取手段に接続され、画像データに基づいて、人が把持した物を抽出するための抽出手段をさらに含み、第1の記憶手段は、抽出手段により抽出された物を表わすデータを、特定の物を表わすデータとして記憶するための手段を含む。
【0014】
第4の発明によると、抽出手段は、画像データに基づいて、人が把持した物を抽出する。第1の記憶手段は、抽出手段により抽出された物を表わすデータを、特定の物を表わすデータとして記憶する。これにより、一旦人が物を把持すると、把持したものが紛失するおそれのある物として第1の記憶手段に記憶される。その結果、所在のわからなくなる可能性のある物を特別な登録することなく、人が置き忘れた物を認知することができる物検索装置を提供できる。
【0015】
第5の発明に係る物検索装置は、第1の発明の構成に加えて、画像を撮像するための撮像手段と、撮像手段に接続され、撮像手段により撮像された画像データを無線にて送信するための送信手段とをさらに含み、受取手段は、送信手段により無線にて送信された画像データを受信するための手段を含む。
【0016】
第5の発明によると、撮像手段により撮像された画像データは、送信手段により無線にて送信される。受取手段は、送信手段により無線にて送信された画像データを受信する。これにより、カメラと送信回路とを本体の処理装置から切り離して人に装着することができる。
【0017】
第6の発明に係る物検索装置においては、第5の発明の構成に加えて、撮像手段は、人に装着されるものである。
【0018】
第6の発明によると、撮像手段は、人の頭部または胸部などに装着され、人の視覚領域を撮像することができる。
【0019】
第7の発明に係る物検索方法は、画像データを受取る受取ステップと、特定の物を表わすデータを予め準備する準備ステップと、画像データと特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かを逐次検知する検知ステップと、検知ステップにて検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶する記憶ステップと、準備ステップにて準備されたデータの中から任意の物を表わすデータを、人が選択する選択ステップと、選択ステップにて任意の物が選択されたことに応答して、選択された任意の物に関連付けて記憶ステップにて記憶された画像データを出力する出力ステップとを含む。
【0020】
第7の発明によると、検知ステップにて、画像データと特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かが逐次検知される。記憶ステップにて、検知ステップにて検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶される。選択ステップにて、準備されたデータの中から任意の物を表わすデータを、人が選択する。出力ステップにて、選択ステップにて任意の物が選択されたことに応答して、選択された任意の物に関連付けて記憶ステップにて記憶された画像データが出力される。これにより、所在のわからなくなる可能性のある物を含む身の回りの物を、準備ステップにて準備する。検知ステップにて人の視覚領域に検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データをその物に関連付けて記憶される。身の回りの物をどこかに置き忘れたことに人が気付いて、その物を選択する入力をすると、その物が検知されなくなる直前の画像が出力される。出力された画像を見た人は、その物の所在を容易に思い出すことができる。その結果、所在のわからなくなる可能性のある物に特別な機能を付加することなく、人が置き忘れた物を認知することができる物検索方法を提供できる。
【0021】
第8の発明に係る物検索方法は、第7の発明の構成に加えて、検知ステップは、画像データと特定の物を表わすデータとを逐次比較することにより、画像データの中に特定の物があるか否かを検知するステップを含む
。
【0022】
第8の発明によると、検知ステップは、画像データと特定の物を表わすデータとを逐次比較して、画像データの中に特定の物があるか否かを検知する。たとえば、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0023】
第9の発明に係る物検索方法は、第7の発明の構成に加えて、検知ステップは、画像データと特定の物を表わすテンプレートデータとに基づくマッチング処理により、画像データの中にテンプレートデータにより表わされる特定の物があるか否かを検知するステップを含む。
【0024】
第9の発明によると、検知ステップは、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0025】
第10の発明に係る物検索方法は、第7の発明の構成に加えて、画像データに基づいて、人が把持した物を抽出する抽出ステップをさらに含み、準備ステップは、抽出ステップにて抽出された物を表わすデータを、特定の物を表わすデータとして準備するステップを含む。
【0026】
第10の発明によると、抽出ステップにて、画像データに基づいて、人が把持した物を抽出する。準備ステップは、抽出ステップにて抽出された物を表わすデータを、特定の物を表わすデータとして準備する。これにより、一旦人が物を把持すると、把持したものが紛失するおそれのある物として準備ステップにて準備される。その結果、所在のわからなくなる可能性のある物を特別な登録することなく、人が置き忘れた物を認知することができる物検索方法を提供できる。
【0027】
第11の発明に係る物検索方法は、第7の発明の構成に加えて、画像を撮像するステップと、撮像ステップにて撮像された画像データを無線にて送信する送信ステップとをさらに含み、受取ステップは、送信ステップにて無線にて送信された画像データを受信するステップを含む。
【0028】
第11の発明によると、撮像ステップにて、人の視覚領域を撮像して、撮像された画像データは、送信ステップにて無線にて送信される。受取ステップにて、送信ステップにて無線にて送信された画像データを受信する。これにより、カメラを本体の処理装置から切り離して人に装着することができる。
【0029】
第12の発明に係るプログラムは、画像データを受取るための受取手段と、記憶手段と、出力手段とを含むコンピュータを、特定の物を表わすデータを記憶手段に記憶するための手段と、受取手段により受取った画像データと記憶手段に記憶された特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かを逐次検知するための検知手段と、検知手段により検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶手段に記憶するための手段と、記憶手段に記憶されたデータの中から任意の物を表わすデータを、人が選択するための選択手段と、選択手段により任意の物が選択されたことに応答して、選択された任意の物に関連付けて記憶手段に記憶された画像データを出力するように出力手段を制御するための手段として機能させる。
【0030】
第12の発明によると、コンピュータは、画像データと特定の物を表わすデータとに基づいて、画像データの中に特定の物があるか否かを逐次検知する。コンピュータは、検知手段により検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データを、検知されていた特定の物に関連付けて記憶手段に記憶する。選択手段を用いて、人が、記憶手段に記憶されたデータの中から任意の物を表わすデータを選択すると、コンピュータは、任意の物が選択されたことに応答して、選択された任意の物に関連付けて記憶手段に記憶された画像データを出力する。これにより、所在のわからなくなる可能性のある物を含む身の回りの物を、記憶手段に記憶させる。コンピュータは、人の視覚領域に検知されていた特定の物が検知されなくなると、検知されなくなる直前の画像データをその物に関連付けて記憶する。身の回りの物をどこかに置き忘れたことに人が気付いて、その物を選択する入力をすると、その物が検知されなくなる直前の画像が出力される。出力された画像を見た人は、その物の所在を容易に思い出すことができる。その結果、所在のわからなくなる可能性のある物に特別な機能を付加することなく、人が置き忘れた物を認知することができる物検索装置をコンピュータにて実現することができるプログラムを提供できる。
【0031】
第13の発明に係るプログラムは、第12の発明の構成に加えて、検知手段は、画像データと特定の物を表わすデータとを逐次比較することにより、画像データの中に特定の物があるか否かを検知するための手段を含む。
【0032】
第13の発明によると、検知手段は、画像データと特定の物を表わすデータとを逐次比較して、画像データの中に特定の物があるか否かを検知する。たとえば、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0033】
第14の発明に係るプログラムは、第12の発明の構成に加えて、検知手段は、画像データと特定の物を表わすテンプレートデータとに基づくマッチング処理により、画像データの中にテンプレートデータにより表わされる特定の物があるか否かを検知するための手段を含む。
【0034】
第14の発明によると、検知手段は、特定の物をテンプレートとして記憶しておき、テンプレートマッチング処理により、テンプレートを検知して、特定の物があるか否かを検知することができる。
【0035】
第15の発明に係るプログラムは、第12の発明の構成に加えて、コンピュータを、画像データに基づいて、人が把持した物を抽出するための抽出手段として機能させるためのプログラムをさらに含み、特定の物を表わすデータを記憶手段に記憶するための手段は、抽出手段により抽出された物を表わすデータを、特定の物を表わすデータとして記憶手段に記憶するための手段を含む。
【0036】
第15の発明によると、抽出手段は、画像データに基づいて、人が把持した物を抽出する。コンピュータは、抽出手段により抽出された物を表わすデータを、特定の物を表わすデータとして記憶手段に記憶する。これにより、一旦人が物を把持すると、把持したものが紛失するおそれのある物として記憶手段に記憶される。その結果、所在のわからなくなる可能性のある物を特別な登録することなく、人が置き忘れた物を認知することができる物検索装置をコンピュータにて実現することができるプログラムを提供できる。
【0037】
【発明の実施の形態】
以下、図面を参照しつつ、本発明の実施の形態について説明する。以下の説明では、同一の部品には同一の符号を付してある。それらの名称および機能も同じである。したがってそれらについての詳細な説明は繰返さない。
【0038】
図1を参照して、本実施の形態に係る紛失物検索装置100は、カメラ部200と、カメラ部200から送信される画像データを受信する送受信回路102と、人がテンプレートの登録要求を入力したりテンプレートの名前を入力したりする入力回路106と、メニュー画面を表示したり、入力回路106からの要求に応答して画像を表示したりするモニタ108と、この紛失物検索装置100の全体を制御する制御回路110と、制御回路110で実行されるプログラムおよびそのプログラムの中間データを記憶する記憶回路120とを含む。
【0039】
制御回路110は、CPU(Central Processing Unit)を含む。CPUは、入力回路106から入力されたテンプレート登録要求に応答してテンプレートを登録したり、登録されたテンプレートと、送受信回路102を介してカメラ部200から受信した画像データとの間でテンプレートマッチングを行なったり、テンプレートマッチングの結果によってカメラ部200から受信した画像データを記憶回路120に記憶したりする。
【0040】
記憶回路120は、制御回路110のCPUで実行されるプログラムを記憶するプログラム記憶部122と、テンプレート画像、テンプレートマッチングの結果によりカメラ部200から入力された画像データを記憶する画像記憶部124とを含む。
【0041】
カメラ部200は、撮像カメラ202と、撮像カメラ202に接続された画像メモリ204と、画像メモリ200に接続された送受信回路206とを含む。撮像カメラ202は、人の視覚領域を撮像できるように人の頭部または胸部に装着される。送受信回路206は、撮像カメラ202により撮像された画像データを、前述の送受信回路102へ無線にて送信する。
【0042】
本実施の形態に係る紛失物検索装置100は、PDA(Personal Digital Assistant)、携帯電話またはパーソナルコンピュータなどのコンピュータにおいて、CPUにより所定のプログラムを実行することにより実現される。
【0043】
図1に示した紛失物検索装置100が前述のコンピュータにより実現される場合、図1に示した制御ブロックに加えて、メモリカード、FD(Flexible Disk)およびCD−ROM(Compact Disc−Read Only Memory)などの記録媒体の読取装置をさらに含む。これらの記録媒体には、所定のプログラムが記録されている。このようなプログラムは、一般的に、メモリカード、FDおよびCD−ROMなどの記録媒体に格納されて流通し、記録媒体の読取装置などにより記録媒体から読取られてプログラム記憶部122に一旦格納される。さらにプログラム記憶部122から制御回路110内のメモリに読出されて、制御回路110のCPUにより実行される。また、このような記録媒体を介さない場合には、紛失物検索装置100は、図1に示した制御ブロックに加えて、ネットワークに接続され、ネットワークに接続された他のコンピュータから所定のプログラムを受信する通信回路をさらに含む。この場合、他のコンピュータに記録されたプログラムは、ネットワークを介して通信回路により受信されて、プログラム記憶部122に一旦格納される。さらにプログラム記憶部122から制御回路110内のメモリに読出されて、制御回路110のCPUにより実行される。
【0044】
これらのコンピュータのハードウェア自体は、PDA、携帯電話およびパーソナルコンピュータ自体などのように一般的なものである。コンピュータは、CPUを含む制御回路、記憶回路、入力回路、出力回路およびOS(Operating System)を含み、プログラムを実行する環境を備えたものである。本発明のプログラムは、このようなPDA、携帯電話およびパーソナルコンピュータなどのコンピュータを、紛失物検索装置として機能させるプログラムである。したがって本発明の最も本質的な部分は、FD、CD−ROM、メモリカード、固定ディスクなどの記録媒体に記録されたプログラムおよびサーバから通信回線を介して送信されるプログラムである。
【0045】
図2を参照して、記憶回路120の画像記憶部120に記憶されるデータについて説明する。図2に示すように、画像記憶部124に記憶されるデータは、データを識別する番号ごとに、テンプレートの名前を表わす名前と、テンプレートデータID(Identification)と、最新テンプレートデータIDと、画像データIDとを含む。テンプレートデータIDは、テンプレートの名前を表わすデータに対応して、登録されたテンプレートを一意に特定するためのデータである。最新テンプレートデータIDは、後述するテンプレートマッチング処理の結果、最も類似度の高い最新のテンプレートデータを特定するためのデータである。画像データIDは、テンプレートマッチング処理の結果、視覚領域内に検知されていたテンプレートデータが検知されなくなったときに画像記憶部124に記憶された画像データを特定するためのデータである。
【0046】
画像記憶部124は、図2に示すデータを記憶する記憶部に加えて、少なくとも2フレーム分の画像データを記憶するバッファを含む。このバッファは、カメラ部200から受信した画像データの中の最新の2フレーム分を先入れ先出し方式で記憶する画像メモリにより実現される。
【0047】
図3を参照して、テンプレートデータについて説明する。図3に示すように、テンプレートデータは、図2に示すテンプレートデータIDに対応して画像記憶部124に記憶された画像を表わすデータである。
【0048】
図4を参照して、最新テンプレートデータについて説明する。図4に示すように、最新テンプレートデータは、テンプレートマッチング処理の結果、カメラ部200から受信した最新の画像データの中で、図2に示すテンプレートデータIDにより特定されるテンプレートと最も類似度がテンプレートを表わすデータである。たとえば、図2に示すように、テンプレートデータIDが「1003」はテンプレートの名前が「鉛筆」である。この「鉛筆」を表わすテンプレートデータとして、図3に示すデータが初期のテンプレートデータとして記憶される。この初期のテンプレートデータを用いてテンプレートマッチング処理された結果、この「鉛筆」を表わすテンプレートデータとして、図4に示すデータが最新テンプレートデータとして記憶される。これは、図3に示す「1003」の画像が表わすデータと、図4に示す「1003」の画像が表わすデータとは、同じ対象物である「鉛筆」を表わすテンプレートデータであるが、図4は、人の動きにより視覚領域が変動したため、「鉛筆」を見る角度が異なり、テンプレート図形の形態が変更されたことを示す。このようにして、図3に示すテンプレートデータを初期データとして、テンプレートマッチング処理が行なわれる度に最新のテンプレートデータが図4に示すように記憶される。この最新のテンプレートデータを用いて、テンプレートマッチング処理を行なうことにより、マッチング処理の正確さを向上させることができる。
【0049】
図5を参照して、紛失物検索装置100で実行されるプログラムは、テンプレート手動登録処理に関し、以下のような制御構造を有する。
【0050】
ステップ(以下ステップをSと略す。)100にて、制御回路110は、撮像カメラ202を作動させる。S102にて、制御回路110は、モニタ108にメニュー画面を表示させる。S104にて制御回路110は、入力回路106から登録要求が入力されたことを検知したか否かを判断する。登録要求が入力されたことを検知すると(S104にてYES)、処理はS106へ移される。一方、登録要求の入力を検知しないと(S104にてNO)、処理はS104へ戻され、登録要求の入力を検知するまで待つ。
【0051】
S106にて、制御回路110は、撮像カメラ202で撮像され、送受信回路206および送受信回路102を介して受信した撮像画像からテンプレート手動登録となる対象物を検出する。このとき、図3に示すような画像データが撮像カメラ202により撮像されているものとする。
【0052】
S108にて、制御回路110は、対象物の名前の入力を行なう。S110にて、制御回路110は、登録要求されたテンプレートが既に登録済みであるか否かを判断する。この判断は、たとえばS106にて検出した対象物を表わす画像データまたはS108にて入力された対象物の名前に基づいて行なわれる。具体的には、画像データまたは名前を表わすデータと、画像記憶部124に記憶されたデータ(図2)とを、比較することにより行なわれる。テンプレートデータが登録済みである場合には(S110にてYES)、処理はS114へ移される。一方、テンプレートデータが登録済みでない場合には(S110にてNO)、処理はS112に移される。
【0053】
S112にて、制御回路110は、S106にて検出された対象物およびS108にて入力された名前を画像記憶部124に登録する。S114にて、制御回路110は、処理を終了するか否かを判断する。この判断は、たとえば、入力回路106から、所定のキーが押されたことにより行なわれる。処理を終了する場合には(S114にてYES)、このテンプレート手動登録処理を終了する。一方、処理を終了しない場合には(S114にてNO)、処理はS102へ戻され、制御回路110は、モニタ108にメニュー画面を表示させる。
【0054】
図6を参照して、紛失物検索装置100で実行されるプログラムは、テンプレート自動登録処理に関し、以下のような制御構造を有する。以下の説明において、前述の図5と同じ処理については同じステップ番号を付してある。したがって、ここでのそれらの詳細な説明は繰返さない。
【0055】
S120にて、制御回路110は、撮像カメラ202を作動させた後、送受信回路206および送受信回路102を介して撮像カメラ202により撮像された画像データを、カメラ部200から受信したか否かを判断する。撮像された画像データを受信すると(S120にてYES)、処理はS122へ移される。一方、撮像された画像データを受信しないと(S120にてNO)、処理はS120へ戻され、カメラ部200からの画像データの受信を待つ。
【0056】
S122にて、制御回路110は、S120にて受信した撮像画像データから、人の手を表わすデータを抽出する。S124にて、制御回路110は、S122にて抽出した手を表わすデータに基づいて、手による把持物があるか否かを判断する。手による把持物がある場合には(S124にてYES)、処理はS126へ移される。一方、手による把持物がない場合には(S124にてNO)、処理はS114へ移される。
【0057】
S126にて、制御回路110は、S124にて判断された把持物をテンプレートとして検出する。S108にて、制御回路110は、S126にて検出した対象物の名前を入力する。
【0058】
S110にて、制御回路110は、S126にて検出されS108にて名前が入力されたテンプレートデータが既に登録済みであるか否かを判断する。登録済みである場合には(S110にてYES)、処理はS114へ移される。一方、登録済みでない場合には(S110にてNO)、処理はS112へ移される。
【0059】
S112にて、制御回路110は、S126にて検出された対象物およびS108にて入力された名前を画像記憶部124に登録する。
【0060】
図7を参照して、紛失物検索装置100で実行されるプログラムは、画像データ記憶処理に対し、以下のような制御構造を有する。以下の説明において、図7の処理の中で、前述の図5および図6と同じ処理については同じステップ番号を付してある。したがって、ここでのそれらの詳細な説明は繰返さない。
【0061】
S140にて、制御回路110は、S120にて受信したと判断した画像データをバッファの画像メモリに記憶する。前述の説明の通り、この画像メモリには、最新の2フレーム分の画像データが先入れ先出し方式で記憶される
S142にて、制御回路110は、バッファに記憶された撮像された最新の画像データと、図4に示すように画像記憶部124に記憶された最新テンプレートとに基づいて、テンプレートマッチング処理を行なう。テンプレートマッチング処理は、図4に示す最新テンプレートデータと、カメラ部200から受信した撮像された画像データの切出し枠との間で類似計算を行ない、最も類似度の高い切出し枠を探索する。この処理により、図4に示す登録されたテンプレートデータにより表わされる物が、撮像された画像データの中にあるか否かが判断される。
【0062】
S144にて、制御回路110は、S142におけるテンプレートマッチングの結果、対象物を検知できなくなったか否かを判断する。この判断は、最新の1つ前のフレームにおいては、テンプレートに基づいて対象物が検出されていた状態から、最新のフレームにおいては対象物が検知できなくなったか否かにより行なわれる。対象物が検知できなくなると(S144にてYES)、処理はS148へ移される。一方、対象物が検知できていると(S144にてNO)、処理はS146へ移される。
【0063】
S146にて、制御回路110は、S144にて検知していると判断された画像を、最新テンプレートとして図4に示すように画像記憶部124に記憶する。
【0064】
S148にて、制御回路110は、S144にて対象物が検知できなくなったと判断された場合、バッファの画像メモリに記憶された最新の1つ前の画像データを、テンプレートデータIDに関連付けて、図2に示すように画像記憶部124に記憶する。
【0065】
S150にて、制御回路110は、登録されたすべてのテンプレートについてテンプレートマッチング処理が完了したか否かを判断する。登録されたすべてのテンプレートについてのテンプレートマッチング処理が完了すると(S150にてYES)、処理はS114へ移される。一方、登録されたすべてのテンプレートについてのテンプレートマッチング処理が完了するまでは(S150にてNO)、処理はS152へ移される。
【0066】
S152にて、制御回路110は、検知対象を次のテンプレートに変更する。S152における処理の後、処理は、S142へ戻され、次のテンプレートを検知対象としたテンプレートマッチング処理が行なわれる。
【0067】
このようにして、処理終了になるまで、図2に示すように画像記憶部124に登録されたテンプレートが、カメラ部200にて撮像された画像データの中に存在するか否かが1フレームずつ検知される。検知されなくなると、検知されなくなる1つ前の画像データを、検知されなくなったテンプレートに関連付けて記憶される。
【0068】
図8を参照して、紛失物検索装置100で実行されるプログラムは、画像データ出力処理に関し、以下のような制御構造を有する。以下の説明において、図8の処理の中で、前述の図5と同じ処理については同じステップ番号を付してある。したがって、ここでのそれらの詳細な説明は繰返さない。
【0069】
S160にて、制御回路110は、入力回路106を介して探索要求の入力を検知したか否かを判断する。探索要求の入力を検知すると(S160にてYES)、処理はS162へ移される。一方、探索要求を検知しないと(S160にてNO)、処理はS160へ戻され、入力回路106を介した探索要求の入力を待つ。
【0070】
S162にて、制御回路110は、図2に示すように画像記憶部124に登録されたテンプレート一覧(画像または名前)をモニタ108に表示させる。S164にて、制御回路110は、入力回路106を介してテンプレートの選択の入力を検知したか否かを判断する。テンプレートの選択の入力を検知すると(S164にてYES)、処理はS166へ移される。一方、テンプレートの選択の入力を検知しないと(S164にてNO)、処理はS114へ移される。
【0071】
S166にて、制御回路110は、S164にて入力を検知した選択されたテンプレートに関連付けて記憶された画像をモニタ108に表示させる。このとき、表示される画像データを特定する情報は、図2に示すように、画像データIDにより特定される。画像データIDは、画像データIDに対応するテンプレートデータにより表わされる物が検知されなくなる直前の画像を表示する。すなわち、テンプレートデータにより表わされる物が最後に撮像されている画像が表示される。
【0072】
以上のような構造およびフローチャートに基づく、紛失物検索装置100の動作について説明する。
【0073】
[テンプレート手動登録動作]
人が入力回路106から撮像カメラ202の作動を指示すると、撮像カメラが動作を開始する(S100)。人は、頭部または胸部に装着された撮像カメラ202に写るように、テンプレートに登録したい対象物を見る。モニタ108に表示されたメニュー画面に従って(S102)、人が入力回路106から登録要求を入力すると(S104にてYES)、撮像カメラ202にて撮像された画像からテンプレート手動登録の対象となる対象物が検出される(S106)。
【0074】
人が入力回路106から対象物の名前を入力する(S108)。テンプレートを表わす画像データおよび名前に基づいて、検出された対象物が画像記憶部124に登録済みでない場合には(S110にてNO)、検出された対象物および名前が画像記憶部124に登録される。
【0075】
[テンプレート自動登録動作]
撮像カメラ202を作動させている状態において(S100)、図9に示すように、人の手310が印鑑308を把持した状態が撮像されると、撮像された画像から手が抽出される(S122)。手による把持物が判断され(S124にてYES)、把持物である印鑑がテンプレートの対象物として検出される(S126)。
【0076】
人が入力回路106から対象物の名前を入力する(S108)。テンプレートを表わす画像データおよび名前に基づいて、検出された対象物が画像記憶部124に登録済みでない場合には(S110にてNO)、検出された対象物および名前が画像記憶部120に登録される。
【0077】
このようにして、テンプレート自動登録動作の場合には、前述のテンプレート手動登録動作と異なり、人が手に物を持つ度に、手による把持物が対象物として検出され、登録済みでない場合には把持されたものがテンプレート図形として登録される。
【0078】
[画像データ記憶動作]
撮像カメラ202を作動状態にして(S100)、紛失物検索装置100に画像データ記憶動作状態にすると、撮像画像データを受信して(S120にてYES)、撮像された画像データがバッファの画像メモリに記憶される(S140)。このとき、バッファの画像メモリには、2フレーム分の画像データが記憶される。すなわち、現在撮像カメラ202から受信した画像データとその1フレーム前の画像データとである。
【0079】
受信した撮像画像と最新テンプレートとに基づくテンプレートマッチング処理が行なわれる(S142)。1つ前のフレームにおいてテンプレートマッチング処理により検出されていた対象物が、最新のフレームでは検出できなくなった場合(S144にてYES)、バッファに記憶された1つ前の画像データをテンプレートデータIDに関連付けて、図2に示すように画像記憶部124に記憶する。
【0080】
このような動作が、図2に示す登録されたすべてのテンプレートについて行なわれる。撮像カメラ202から、たとえば、1秒ごとに1フレーム分の画像データが送信され、すべてのテンプレートについてのテンプレートマッチング処理が1秒以内で行なわれるようにする。1秒間隔で、受信した画像データに対して、図2に示すように登録された複数のテンプレートのそれぞれについて、テンプレートマッチングが行なわれる。それぞれのテンプレートマッチングの結果、対象物が検知できなくなった場合には、バッファの画像メモリに記憶された1フレーム前の画像データがテンプレートデータIDに関連付けて画像記憶部124に記憶される。
【0081】
このとき、テンプレートマッチング処理は、図10に示すように、撮像カメラ202から受信した画像データの中の切出し枠400を走査して、切出し枠400に含まれる画像データと、最新テンプレートデータIDにより特定されるテンプレートデータとの類似度を計算する。最も類似度の高い切出し部のデータが抽出され、その画像データが最新テンプレートデータとして記憶される。なお、一定値以上の類似度を有する切出し部が存在しない場合には、そのテンプレート図形が存在しないものとして判断される。
【0082】
[画像データ出力動作]
人が紛失物検索装置100を装着している生活している場合において、印鑑の所在がわからなくなった場合について説明する。
【0083】
図10に示すように、印鑑308が撮像された画像データを撮像カメラ202から受信している場合には、印鑑を表わす最新のテンプレートデータに基づいて印鑑が検知される。この状態から、図11に示すように、印鑑を人が筆箱302などに格納した場合には、印鑑308をテンプレートマッチングにより検知することができなくなる。そのとき、図10に示す印鑑308が検知されなくなる直前の画像データが画像記憶部124に、印鑑を表わすテンプレートデータIDまたは名前に対応付けて記憶される。この場合、図10に示す画像データが画像記憶部124に記憶される。
【0084】
このようにして画像記憶部124に画像データが記憶されている場合において、人が印鑑308の所在がわからなくなったことに気付くと、人は入力回路106から探索要求を入力する(S106にてYES)。画像記憶部124に記憶されたテンプレートの一覧(画像または名前)が表示され(S162)、印鑑を表わすテンプレートの選択を入力する(164にてYES)。選択された印鑑を表わすテンプレートに関連付けて記憶された図10に示す画像がモニタ108に表示される。
【0085】
図10に示す画像がモニタ108に表示されると、人は、印鑑308が最後に検知された画像に基づいて、印鑑の所在を認知することができる。たとえばこの場合、筆箱302の中に格納されたことなどを思い出す。
【0086】
以上のようにして、本実施の形態に係る紛失物検索装置は、紛失するおそれのある対象物に新たな機能を設けることなく、人の視覚領域を撮像した画像データに基づいて、予めテンプレートデータを登録しておき、テンプレートデータと視覚領域を撮像した画像データとの間でテンプレートマッチングを行なう。撮像された画像データの中にテンプレート図形が存在しなくなると、その直前の画像データをテンプレート図形に対応付けて記憶しておく。人が検索したいテンプレートを入力すると、その入力されたテンプレートに対応付けて記憶された画像データがモニタに表示される。その結果、人はその画像データを見ることにより、所在がわからなくなったものが最後に撮像された画像データに基づいて、その物の所在を思い出すことができる。
【0087】
なお、図6のS108の処理を行なわない形態も考えられる。すなわち、自動登録処理においてテンプレートの名前を入力しないものである。このようにすると、テンプレートの名前を人が入力する必要がなくなり、完全に自動でテンプレートの登録ができる。
【0088】
今回開示された実施の形態はすべての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内でのすべての変更が含まれることが意図される。
【図面の簡単な説明】
【図1】 本発明の実施の形態に係る紛失物検索装置の全体構成図である。
【図2】 図1の画像記憶部に記憶されるデータを表わす図である。
【図3】 図1の画像記憶部に記憶されるテンプレートデータを表わす図である。
【図4】 図1の画像記憶部に記憶される最新テンプレートデータを表わす図である。
【図5】 本発明の実施の形態に係るテンプレート手動登録処理の手順を示すフローチャートである。
【図6】 本発明の実施の形態に係るテンプレート自動登録処理の手順を示すフローチャートである。
【図7】 本発明の実施の形態に係る画像データ記憶処理の手順を示すフローチャートである。
【図8】 本発明の実施の形態に係る画像データ出力処理の手順を示すフローチャートである。
【図9】 図1の撮像カメラによる撮像画像の例(その1)である。
【図10】 図1の撮像カメラによる撮像画像の例(その2)である。
【図11】 図1の撮像カメラによる撮像画像の例(その3)である。
【符号の説明】
100 紛失物検索装置、102 送受信回路、106 入力回路、108 モニタ、110 制御回路、120 記憶回路、122 プログラム記憶部、124 画像記憶部、200 カメラ部、202 撮像カメラ、204 画像メモリ、206 送受信回路
Claims (15)
- 画像データを受取るための受取手段と、
特定の物を表わすデータを記憶するための第1の記憶手段と、
前記受取手段と前記第1の記憶手段とに接続され、前記画像データと前記特定の物を表わすデータとに基づいて、前記画像データの中に前記特定の物があるか否かを逐次検知するための検知手段と、
前記受取手段と前記検知手段とに接続され、前記検知手段により検知されていた前記特定の物が検知されなくなると、前記検知されなくなる直前の画像データを、前記検知されていた特定の物に関連付けて記憶するための第2の記憶手段と、
前記第1の記憶手段に接続され、前記第1の記憶手段に記憶されたデータの中から任意の物を表わすデータを、人が選択するための選択手段と、
前記選択手段と前記第2の記憶手段とに接続され、前記選択手段により前記任意の物が選択されたことに応答して、前記選択手段により選択された任意の物に関連付けて前記第2の記憶手段に記憶された画像データを出力するための出力手段とを含む、物検索装置。 - 前記検知手段は、前記画像データと前記特定の物を表わすデータとを逐次比較することにより、前記画像データの中に前記特定の物があるか否かを検知するための手段を含む、請求項1に記載の物検索装置。
- 前記検知手段は、前記画像データと前記特定の物を表わすテンプレートデータとに基づくマッチング処理により、前記画像データの中に前記テンプレートデータにより表わされる特定の物があるか否かを検知するための手段を含む、請求項1に記載の物検索装置。
- 前記物検索装置は、前記受取手段に接続され、前記画像データに基づいて、人が把持した物を抽出するための抽出手段をさらに含み、
前記第1の記憶手段は、前記抽出手段により抽出された物を表わすデータを、前記特定の物を表わすデータとして記憶するための手段を含む、請求項1に記載の物検索装置。 - 前記物検索装置は、
画像を撮像するための撮像手段と、
前記撮像手段に接続され、前記撮像手段により撮像された画像データを無線にて送信するための送信手段とをさらに含み、
前記受取手段は、前記送信手段により無線にて送信された前記画像データを受信するための手段を含む、請求項1に記載の物検索装置。 - 前記撮像手段は、人に装着される、請求項5に記載の物検索装置。
- 画像データを受取る受取ステップと、
特定の物を表わすデータを予め準備する準備ステップと、
前記画像データと前記特定の物を表わすデータとに基づいて、前記画像データの中に前記特定の物があるか否かを逐次検知する検知ステップと、
前記検知ステップにて検知されていた前記特定の物が検知されなくなると、前記検知されなくなる直前の画像データを、前記検知されていた特定の物に関連付けて記憶する記憶ステップと、
前記準備ステップにて準備されたデータの中から任意の物を表わすデータを、人が選択する選択ステップと、
前記選択ステップにて前記任意の物が選択されたことに応答して、前記選択された任意の物に関連付けて前記記憶ステップにて記憶された画像データを出力する出力ステップとを含む、物検索方法。 - 前記検知ステップは、前記画像データと前記特定の物を表わすデータとを逐次比較することにより、前記画像データの中に前記特定の物があるか否かを検知するステップを含む、請求項7に記載の物検索方法。
- 前記検知ステップは、前記画像データと前記特定の物を表わすテンプレートデータとに基づくマッチング処理により、前記画像データの中に前記テンプレートデータにより表わされる特定の物があるか否かを検知するステップを含む、請求項7に記載の物検索方法。
- 前記物検索方法は、前記画像データに基づいて、人が把持した物を抽出する抽出ステップをさらに含み、
前記準備ステップは、前記抽出ステップにて抽出された物を表わすデータを、前記特定の物を表わすデータとして準備するステップを含む、請求項7に記載の物検索方法。 - 前記物検索方法は、
画像を撮像するステップと、
前記撮像ステップにて撮像された画像データを無線にて送信する送信ステップとをさらに含み、
前記受取ステップは、前記送信ステップにおいて無線にて送信された前記画像データを受信するステップを含む、請求項7に記載の物検索方法。 - 画像データを受取るための受取手段と、記憶手段と、出力手段とを含むコンピュータを、
特定の物を表わすデータを前記記憶手段に記憶するための手段と、
前記受取手段により受取った画像データと前記記憶手段に記憶された特定の物を表わすデータとに基づいて、前記画像データの中に前記特定の物があるか否かを逐次検知するための検知手段と、
前記検知手段により検知されていた前記特定の物が検知されなくなると、前記検知されなくなる直前の画像データを、前記検知されていた特定の物に関連付けて前記記憶手段に記憶するための手段と、
前記記憶手段に記憶されたデータの中から任意の物を表わすデータを、人が選択するための選択手段と、
前記選択手段により任意の物が選択されたことに応答して、選択された任意の物に関連付けて前記記憶手段に記憶された画像データを出力するように前記出力手段を制御するための手段として機能させるためのプログラム。 - 前記検知手段は、前記画像データと前記特定の物を表わすデータとを逐次比較することにより、前記画像データの中に前記特定の物があるか否かを検知するための手段を含む、請求項12に記載のプログラム。
- 前記検知手段は、前記画像データと前記特定の物を表わすテンプレートデータとに基づくマッチング処理により、前記画像データの中に前記テンプレートデータにより表わされる特定の物があるか否かを検知するための手段を含む、請求項12に記載のプログラム。
- 前記プログラムは、前記コンピュータを、前記画像データに基づいて、人が把持した物を抽出するための抽出手段として機能させるためのプログラムをさらに含み、
特定の物を表わすデータを前記記憶手段に記憶するための手段は、前記抽出手段により抽出された物を表わすデータを、前記特定の物を表わすデータとして前記記憶手段に記憶するための手段を含む、請求項12に記載のプログラム。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001133979A JP3702195B2 (ja) | 2001-05-01 | 2001-05-01 | 物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2001133979A JP3702195B2 (ja) | 2001-05-01 | 2001-05-01 | 物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002329201A JP2002329201A (ja) | 2002-11-15 |
JP3702195B2 true JP3702195B2 (ja) | 2005-10-05 |
Family
ID=18981746
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2001133979A Expired - Fee Related JP3702195B2 (ja) | 2001-05-01 | 2001-05-01 | 物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP3702195B2 (ja) |
Families Citing this family (7)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
WO2013144772A1 (en) * | 2012-03-27 | 2013-10-03 | Koninklijke Philips N.V. | System for determining clutter |
JP6721301B2 (ja) * | 2015-08-04 | 2020-07-15 | 株式会社日本総合研究所 | 画像情報検索サーバ、画像情報検索方法、及び利用者端末 |
JP6934709B2 (ja) * | 2016-08-26 | 2021-09-15 | 株式会社メニコン | 捜し物ロボット |
JP2021105935A (ja) * | 2019-12-27 | 2021-07-26 | 住友電気工業株式会社 | 物体検索装置、物体検索方法、及びコンピュータプログラム |
JP7466318B2 (ja) | 2020-01-27 | 2024-04-12 | キヤノンメディカルシステムズ株式会社 | 画像情報処理装置及び画像情報処理システム |
WO2022118411A1 (ja) * | 2020-12-02 | 2022-06-09 | マクセル株式会社 | 携帯端末装置、物品管理システムおよび物品管理方法 |
WO2023228340A1 (ja) * | 2022-05-26 | 2023-11-30 | マクセル株式会社 | 共用物品管理システムおよび共用物品管理方法 |
-
2001
- 2001-05-01 JP JP2001133979A patent/JP3702195B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002329201A (ja) | 2002-11-15 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
CN111093026B (zh) | 视频处理方法、电子设备及计算机可读存储介质 | |
US8416309B2 (en) | Camera-fitted information retrieval device | |
JP4167221B2 (ja) | 無線ハンドヘルド装置用の画像案内モデルベースト・ポイント&クリック・インターフェイス | |
JP4552632B2 (ja) | 携帯機器 | |
US10296778B2 (en) | Methods, devices, and computer-readable media for biometric collection, quality checking, and matching | |
JP5218989B2 (ja) | 通信端末装置、及び、プログラム | |
US9491438B2 (en) | Method and apparatus for communicating using 3-dimensional image display | |
EP1432226A1 (en) | Processed image data transmitting system, portable telephone and processed image data transmission program | |
JP2005185560A5 (ja) | ||
CN110062171B (zh) | 一种拍摄方法及终端 | |
JP2006293912A (ja) | 情報表示システム、情報表示方法および携帯端末装置 | |
JP2005267146A (ja) | 画像認識機能を利用した電子メール作成方法および装置 | |
CN108460817B (zh) | 一种拼图方法及移动终端 | |
US20040239765A1 (en) | Photographed image transmitting apparatus | |
JP3702195B2 (ja) | 物検索装置、物検索方法、およびコンピュータにおいてその装置を実現するプログラム | |
JP4074988B2 (ja) | 情報処理装置、通信処理装置、および方法、並びにコンピュータ・プログラム | |
KR20150007403A (ko) | 인물 인식 방법, 그리고 인물 정보 데이터 운용 방법 및 장치 | |
JP2006134008A (ja) | 営業店システム | |
WO2017175447A1 (ja) | 情報処理装置、情報処理方法、及びプログラム | |
WO2023005662A1 (zh) | 图像处理方法及装置、电子设备、程序产品及计算机可读存储介质 | |
US10140275B2 (en) | Message information generating apparatus, outgoing call control apparatus, message information generating method, and outgoing call control method | |
CN107844203A (zh) | 一种输入法候选词推荐方法及移动终端 | |
WO2015105075A1 (ja) | 情報処理装置及び電子機器 | |
WO2016161640A1 (zh) | 一种接入Wi-Fi网络的方法及装置 | |
CN104205799A (zh) | 信息处理装置、信息处理方法及程序 |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20050620 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20050628 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20050715 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080722 Year of fee payment: 3 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090722 Year of fee payment: 4 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100722 Year of fee payment: 5 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110722 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110722 Year of fee payment: 6 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120722 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120722 Year of fee payment: 7 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130722 Year of fee payment: 8 |
|
LAPS | Cancellation because of no payment of annual fees |