JP4215386B2 - 類似オブジェクト検索方法及び類似オブジェクト検索装置 - Google Patents
類似オブジェクト検索方法及び類似オブジェクト検索装置 Download PDFInfo
- Publication number
- JP4215386B2 JP4215386B2 JP2000381304A JP2000381304A JP4215386B2 JP 4215386 B2 JP4215386 B2 JP 4215386B2 JP 2000381304 A JP2000381304 A JP 2000381304A JP 2000381304 A JP2000381304 A JP 2000381304A JP 4215386 B2 JP4215386 B2 JP 4215386B2
- Authority
- JP
- Japan
- Prior art keywords
- objects
- representative point
- neighborhood
- candidate
- similarity
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Landscapes
- Information Retrieval, Db Structures And Fs Structures Therefor (AREA)
Description
【発明の属する技術分野】
本発明は、膨大な量のディジタル画像データ等のオブジェクトデータの中から入力指定されたオブジェクトと類似するオブジェクトを検索して提示する類似オブジェクト検索装置及びその方法、特に正しい検索結果をより高速に得るための装置及び方法に関する。
【0002】
【従来の技術】
例えば、n次元空間で構成されるデータベースの中から、類似検索の対象とする画像データ等のオブジェクトデータ(以下、「参照オブジェクト」)に類似する上位K個のオブジェクトを検索して、その処理結果を返す類似検索方法として、例えば特開平10−240765号公報に記載された類似オブジェクト検索方法がある。図9は、この従来例において類似検索処理を示したフローチャートであるが、この図に用いて従来例において参照オブジェクトに類似する上位K個のオブジェクトを返すための処理手順について説明する。なお、以下の説明で登場する「近傍オブジェクト」というのは、データベースに登録されているオブジェクトのうち参照オブジェクトに類似する所定個数のオブジェクトのことをいい、近傍オブジェクトのうち上位K個が処理結果として返される。
【0003】
まず、参照オブジェクト、オブジェクト間の類似度をはかるための観点である重み及び処理結果として返す近傍オブジェクト数(K個)というパラメータが入力されると、特徴量毎に処理を分割して類似する近傍オブジェクトを見つけている。すなわち、参照オブジェクトをObR=(VR1,VR2,…,VRn)とすると、特徴量1について参照オブジェクトのVR1の近傍するオブジェクトを検索して所定個数f(K)個の近傍オブジェクトを抽出する。同様に特徴量2について参照オブジェクトのVR2の近傍するオブジェクトを検索してf(K)個の近傍オブジェクトを抽出する。これをn個の各特徴量毎に行う。この結果、最大n×f(K)個の近傍オブジェクトからなる候補オブジェクト群を生成する。そして、候補オブジェクト群の中から各近傍オブジェクトと参照オブジェクトとの類似度を計算する。この類似度順に上位K個のオブジェクトを処理結果として返却する。
【0004】
従来例においては、以上のようにn次元あるうちの各次元(要素)毎に近傍のオブジェクトを探し出し、その上位f(K)個の中から上位K個を見つけ出している。つまり、データベースに含まれるオブジェクトを上位f(K)個に絞り込むことで候補オブジェクト群を生成し、その候補オブジェクト群に含まれるオブジェクト(以下、「候補オブジェクト」)に対してのみ類似度計算を行うようにしたので類似検索処理を高速に行うことができる。
【0005】
【発明が解決しようとする課題】
しかしながら、従来においては、以下の問題点がある。まず、第1に、正しい結果が得られないという問題がある。すなわち、従来例では、各特徴量(例えば第i特徴量)毎にオブジェクトと参照オブジェクトを比較し、参照オブジェクトの該当する特徴量(VRi)と近いf(K)個のオブジェクトを探し、全特徴量に関するそれらの和集合を求めて、そこから上位K個のオブジェクトを探し出すとしている。しかし、各次元毎に近いものを集めても、全体で本当に近いデータが含まれているとは限らないという反例を容易に示すことができる。例えば、次元数n=2、オブジェクト数m=3、K=1、f(K)=1、各オブジェクトOB1=(1,100)、OB2=(100,1)、OB3=(1.5,1.5)、参照オブジェクトObR=(0,0)、そして重みW=(1,1)と設定したとする。従来例に処理によると、第1次元に関するObRの近傍としてOb1を選ぶ。第2次元に関するObRの近傍としてOb2を選ぶ。以上の処理により候補オブジェクト群には、オブジェクトOb1,OB2が含まれることになり、上位K(=1)個のオブジェクトをこの2つの候補オブジェクトの中から選ぼうとする。ここで、オブジェクトObxとObyの類似度を与える類似度関数をsim(Obx,Oby)、オブジェクトObxとObyの第i特徴量間の距離をd(i)(Obx,Oby)と表すとすると、従来例の明細書に記載された例に従うと、類似度関数は、
sim(Obx,Oby)=w1/d(1)(Obx,Oby)+w2/d(2)(Obx,Oby) ・・・(1)
という式(1)で表すことができる。この式により、参照オブジェクトと候補オブジェクトOb1,OB2との類似度は、
sim(ObR,Ob1)=1/1+1/100=1.01
sim(ObR,Ob2)=1/100+1/1=1.01
となる。しかしながら、候補オブジェクトでないオブジェクトOb3の類似度は、
sim(ObR,Ob3)=1/1.5+1/1.5=1.333…
である。すなわち、参照オブジェクトに最も近いオブジェクトはOb3であり、従来例が選び出す候補オブジェクト群{Ob1,OB2}の中には含まれていない。以上のように、正しい結果が得られないということが容易に証明できる。
【0006】
第2に、次元数nや抽出数Kの値が大きいと計算量が減らないという問題がある。従来例において候補オブジェクト群を構成する候補オブジェクトの最大数はn×f(K)個である。また、f(K)≧Kとも規定されている。ここで、K=100,n=500,m=50000という例を考えてみると、候補オブジェクトは100×500=50000以上もあり得るという単純計算になるが、全体のオブジェクト数50000と比べれば全数を比較しているのと何ら変わりがない。この具体例をもって明らかなように、従来例は、Kやnの値が適度に小さいことを想定した技術である。
【0007】
第3に、各次元毎の近傍検索手段が不明確であるという問題がある。各次元毎のf(K)個の近傍検索手段としてR−treeやk−dtreeが記載されているが、その次元に区間の定義などがなければこれらのインデクスは適用できず、その次元において結局n個全体の比較をしなければならない。例えば、ObRの第i特徴量の値VRiが色だったとするとき、色に距離(例えばRGB成分の差による計算)は定義できても順序関係はなく、数直線で[0,1),[1,2),[2,3)のように区間を分けておくような方法で予め色空間の区分けをしておくことはできない。従って、第i特徴量から求められるObRの近傍を得ようとすると、結局全オブジェクト数m個の第i特徴量の比較を行なわなければならない。更に、色以外にも、言葉、名前など距離は定義できても区間は定義できない集合が存在するため、これらに対する全数比較を避けることができなければ、結局m個の大きさによる計算量の多さを回避することができない。
【0008】
本発明は以上のような問題を解決するためになされたものであり、その目的は、類似検索処理をより高速に行うことができる類似オブジェクト検索装置及びその方法を提供することにある。
【0009】
【課題を解決するための手段】
以上のような目的を達成するために、本発明に係る類似オブジェクト検索方法は、入力処理手段、オブジェクト分類処理手段、候補オブジェクト抽出処理手段及び検索処理手段を有する類似オブジェクト検索装置により実施され、前記入力処理手段が、類似検索の対象とするオブジェクトである参照オブジェクトと、類似検索処理結果として返す提示オブジェクト数とを受け付けるステップと、前記候補オブジェクト抽出処理手段が、所定の条件に従いn(nは正整数)次元の全オブジェクトの中から参照オブジェクトに類似した少なくとも提示オブジェクト数以上のオブジェクトを候補オブジェクトとして抽出する候補オブジェクト生成ステップと、前記検索処理手段が、各候補オブジェクトと参照オブジェクトとの間の類似度を算出し、類似度の高い順に取り出した提示オブジェクト数個のオブジェクトを類似検索処理の結果として得る検索ステップとを含む類似オブジェクト検索方法において、前記入力処理手段が、分類対象であるオブジェクトを受け付けるステップと、前記オブジェクト分類処理手段が、分類対象であるオブジェクトと近傍分類蓄積手段に代表点として既に蓄積されている各オブジェクトとの各特徴量から求められる距離関係上、分類対象オブジェクトがいずれかの代表点を中心とした予め決められている近傍半径内に位置する場合には、当該分類対象オブジェクトをその近傍半径内の中心となったいずれか一つの代表点の近傍内データとして前記近傍分類蓄積手段に登録し、当該分類対象オブジェクトがいずれの代表点を中心とした近傍半径内に位置しない場合には、分類対象オブジェクトを代表点としてかつその代表点の近傍内データとして前記近傍分類蓄積手段に登録する近傍分類ステップを含み、前記候補オブジェクト生成ステップは、前記近傍分類蓄積手段に蓄積された各代表点と参照オブジェクトとの間の類似度を算出し、代表点の近傍内データとして含まれるオブジェクト数の累計が提示オブジェクト数以上になるまで類似度の高い代表点の順に当該オブジェクト数を加算し、そのオブジェクト数の加算によりオブジェクト数の累計が提示オブジェクト数以上になった時点で加算した当該オブジェクト数に対応する代表点を基準代表点とした場合、参照オブジェクトとの距離が、基準代表点と参照オブジェクトとの間の距離に前記近傍半径の2倍の値を加算した値以下となる代表点を特定し、その特定した各代表点の近傍内データであるオブジェクトを候補オブジェクトとして抽出するものである。
【0011】
また、前記候補オブジェクト生成ステップは、提示オブジェクト数が1の場合、参照オブジェクトとの間の距離が、参照オブジェクトと基準代表点との間の距離に近傍半径を加算した値以下となる代表点の近傍内データに含まれるオブジェクト候補オブジェクトとして抽出するものである。
【0012】
また、前記近傍分類蓄積手段に登録した代表点を分類対象オブジェクトとして扱い前記近傍分類ステップを繰り返し実行することで代表点を多段階に設定可能としたものである。
【0013】
また、本発明に係る類似オブジェクト検索装置は、利用者が入力指定した類似検索の対象とするオブジェクトである参照オブジェクト及び提示オブジェクト数に基づき類似検索処理を実行することによってn(nは正整数)次元の全オブジェクトの中から、参照オブジェクトに類似したオブジェクトを、類似度の高い順に提示オブジェクト数取り出して利用者に提示する類似オブジェクト検索装置において、全オブジェクトのうち代表点となるオブジェクトに対応づけて、距離関係上当該代表点を中心とする予め決められた近傍半径内に位置するオブジェクトを近傍内データとして蓄積する近傍分類蓄積手段と、オブジェクトと各代表点との距離関係に応じて各オブジェクトを代表点とするか否かを決定すると共に当該オブジェクトをいずれかの代表点の近傍内データとして含まれるよう分類し、前記近傍分類蓄積手段に登録するオブジェクト分類処理手段と、全オブジェクトの中から参照オブジェクトと類似している少なくとも提示オブジェクト数以上のオブジェクトを候補オブジェクトとして抽出する候補オブジェクト抽出処理手段と、前記候補オブジェクト抽出処理手段が抽出した各候補オブジェクトと参照オブジェクトとの間の類似度を算出し、類似度の高い順に取り出した提示オブジェクト数個のオブジェクトを類似検索処理の結果として得る検索処理手段とを有し、前記候補オブジェクト抽出処理手段は、前記近傍分類蓄積手段に蓄積された各代表点と参照オブジェクトとの間の類似度を算出し、代表点の近傍内データとして含まれるオブジェクト数の累計が提示オブジェクト数以上になるまで類似度の高い代表点の順に当該オブジェクト数を加算し、そのオブジェクト数の加算によりオブジェクト数の累計が提示オブジェクト数以上になった時点で加算した当該オブジェクト数に対応する代表点を基準代表点とした場合、参照オブジェクトとの距離が、基準代表点と参照オブジェクトとの間の距離に前記近傍半径の2倍の値を加算した値以下となる代表点を特定し、その特定した各代表点の近傍内データであるオブジェクトを候補オブジェクトとして抽出するものである。
また、前記候補オブジェクト抽出処理手段は、提示オブジェクト数が1の場合、参照オブジェクトとの間の距離が、参照オブジェクトと基準代表点との間の距離に近傍半径を加算した値以下となる代表点の近傍内データに含まれるオブジェクト候補オブジェクトとして抽出するものである。
【0014】
また、代表点の数及び各代表点の近傍内データに含まれるオブジェクト数の偏りをなくすように近傍半径の設定値を調整する近傍半径調整手段を有するものである。
【0015】
【発明の実施の形態】
以下、図面に基づいて、本発明の好適な実施の形態について説明する。
【0016】
実施の形態1.
図1は、本発明に係る類似オブジェクト検索装置の一実施の形態を示した構成図である。本実施の形態における類似オブジェクト検索装置は、入力処理部1、ε近傍生成部2、特徴量算出部3、候補オブジェクト抽出部4、検索処理部5及び出力処理部6を有している。入力処理部1は、利用者が入力するオブジェクトデータ並びに類似検索処理のためのパラメータとして参照オブジェクト、重み、提示オブジェクト数を受け付ける。ε近傍生成部2は、入力されたn次元空間に含まれるオブジェクトデータ(以下、単に「オブジェクト」とも言う)をオブジェクトデータ蓄積部7に蓄積すると共に、全オブジェクトを代表点あるいはいずれかの代表点を中心とする近傍半径ε以内の近傍内データに分類し、その分類結果をε近傍分類蓄積部8に蓄積する。近傍半径εは、オブジェクトをグループ化するために予め決められている値である。代表点については後述する。特徴量算出部3は、オブジェクトの特徴量を計算する。算出された特徴量は、特徴量データ蓄積部9に蓄積される。候補オブジェクト抽出部4は、ε近傍分類蓄積部8に蓄積された代表点と参照オブジェクトの各特徴量を比較し、類似検索処理対象とする候補オブジェクトを全オブジェクトの中から抽出して候補オブジェクト一時蓄積部10に蓄積する。検索処理部5は、候補オブジェクト一時蓄積部10に蓄積された候補オブジェクトの中から参照オブジェクトに類似するオブジェクトを、類似度の高い順に指定された提示オブジェクト数個特定する。出力処理部6は、検索処理部5における検索処理結果を利用者に返す。
【0017】
ここで、本実施の形態において用いる用語について確認の意味で定義する。「参照オブジェクト」は、類似検索の対象とする画像データ等のオブジェクトデータである。「提示オブジェクト数」は、利用者が検索処理の結果として得たい参照オブジェクトに類似するオブジェクトの数である。「候補オブジェクト」は、オブジェクトデータ蓄積部7に蓄積された全オブジェクトの中から提示オブジェクトを検索するために、候補オブジェクト抽出部4によりある程度絞り込まれたオブジェクトのことである。
【0018】
類似オブジェクト検索装置においては、全オブジェクトの中から参照オブジェクトに類似するオブジェクトを所定の条件に従いある程度絞り込んで、その絞り込んだオブジェクトに対して類似検索処理を実行する。このように、検索処理の対象とするオブジェクト数を事前に減らすことで多大な処理時間を要する類似検索処理の総実行時間を削減し、この結果、検索処理の高速化を図っている。
【0019】
本実施の形態において特徴的なことは、全オブジェクトの中から参照オブジェクトに類似するオブジェクトを絞り込む際、代表点及び近傍半径εに基づくε近傍という概念を提示し、このε近傍を用いて提示オブジェクトとはなり得ないオブジェクトを事前に排除するようにしたことである。換言すると、提示オブジェクトとなりうるオブジェクトを確実に候補オブジェクトとして選ばれるようにしたことである。このように、決して提示オブジェクトとして選出されることのないオブジェクトを検索処理の対象外としたことで無用な検索処理を実行させないようにすることができる。また、検索処理対象外とする際にε近傍という概念を導入してグループ化したことにより検索処理の高速化を図ることができる。
【0020】
次に、本実施の形態における動作について説明する。まず、最初に本実施の形態において類似検索処理を実行する前に、ε近傍生成部2により全オブジェクトをε近傍という概念に基づき分類する必要があるので、このε近傍生成部2によるオブジェクト分類処理について図2に示したフローチャートを用いて説明する。この分類処理の結果、得られるε近傍分類蓄積部8のデータ構成例を図3に示す。なお、図4は、入力されたオブジェクトと代表点と近傍半径εとの関係を示した概念図であるが、図4では便宜的に2次元のオブジェクトを例にして図示している。
【0021】
オブジェクトが入力処理部1を介して入力されると(ステップ101)、ε近傍生成部2は、そのオブジェクトをオブジェクトデータ蓄積部7に蓄積すると共に、特徴量算出部3により算出された当該オブジェクトの特徴量を特徴量データ蓄積部9に蓄積する。そして、入力されたオブジェクトとε近傍分類蓄積部8に登録されているいずれかの代表点との間の距離が近傍半径εより大きいかどうかを判断する(ステップ102)。すなわち、入力されたオブジェクトと各代表点との各特徴量から求められる距離関係上、当該オブジェクトがいずれかの代表点を中心とした近傍半径内に位置するか否かを判断する。2つのオブジェクトObx,Obyの間の距離を求める関数をdist(Obx,Oby)と表すとすると、この処理は、入力されたオブジェクトをObx、代表点とされたオブジェクトをObyとしたとき、dist(Obx,Oby)と近傍半径εとの大小関係により判断することができる。dist(Obx,Oby)が近傍半径εと等しいかあるいは小さいとき(図4(a))、当該オブジェクトObxは、その代表点であるオブジェクトObyのε近傍内データとしてε近傍分類蓄積部8に登録される(ステップ103,104)。このように、本実施の形態においては、代表点を中心とする近傍半径εにより形成される空間を当該代表点の「ε近傍」と称している。
【0022】
一方、オブジェクトObxと全ての代表点との距離が近傍半径εより大きいときは(図4(b))、そのオブジェクトObxは、いずれの代表点のε近傍内データとはならず、新たな代表点としてε近傍分類蓄積部8に登録されると共に自代表点のε近傍内データとしてε近傍分類蓄積部8に登録される(ステップ105)。このように、処理対象のオブジェクトは、いずれの代表点のε近傍内データにも含まれない場合、すなわち、いずれの代表点とも距離が近傍半径εより離れている場合に代表点となる。
【0023】
上記説明したオブジェクト分類処理において、最初に処理されるオブジェクトOb1は、まだいずれのオブジェクトも代表点となっていないので必ず代表点となる。次に処理されるオブジェクトOb2は、dist(Ob1,Ob2)>εであれば代表点となり、dist(Ob1,Ob2)≦εであれば、オブジェクトOb1のε近傍内データとなる。この次に処理されるオブジェクトOb3は、オブジェクトOb2が代表点でない場合、dist(Ob1,Ob3)>εであれば代表点となり、dist(Ob1,Ob3)≦εであれば、オブジェクトOb1のε近傍内データとなる。一方、オブジェクトOb2が代表点の場合、オブジェクトOb3は、オブジェクトOb1、Ob2とも近傍半径εより離れていれば代表点となり、いずれかの代表点の近傍半径ε内であれば、該当する代表点のε近傍内データとなる。ここで、複数(この例の場合はオブジェクトOb1、Ob2)の代表点の近傍半径ε以内であれば(図4(c))、いずれか一方の代表点のε近傍内データとして登録する。どの代表点のε近傍内データに含ませるかということに関する制限は、いずれかただ1つの代表点のε近傍内データとして登録されればよい。このように、各オブジェクトは、いずれかの代表点のε近傍に含まれることによってグループ化される。
【0024】
なお、上記ステップ102において、本実施の形態では、処理を単純にするためにε近傍分類蓄積部8に登録された代表点の並び順に判断を行うことを想定しているが、距離が最も短くなる代表点を選択するなどの条件を設定するようにしてもよい。
【0025】
本実施の形態では、オブジェクトを新たにオブジェクトデータ蓄積部7に蓄積する際に併せてε近傍内データ群に分類するようにした。これにより、オブジェクトデータ蓄積部7に登録するオブジェクトが新たに発生したときでもε近傍分類蓄積部8を再構築する必要はなく、上記と同様の処理を新たに発生したオブジェクトに対して施し、そのオブジェクトをε近傍分類蓄積部8に代表点として、あるいはいずれかの代表点のε近傍内データとしてε近傍分類蓄積部8に追加していけばよいことが理解できる。このように、本実施の形態は、近傍半径εの値を変えない限りε近傍分類蓄積部8を再構築する必要がないので保守性に優れている。
【0026】
次に、本実施の形態における類似検索処理について図5に示したフローチャートを用いて説明する。
【0027】
入力処理部1から類似検索の対象とする参照オブジェクトObRと、オブジェクト間の類似度をはかるための観点である重みW(=w1,w2,…,wn)と、処理結果として返す提示オブジェクト数Kというパラメータが利用者により入力されると(ステップ111)、特徴量算出部3は、参照オブジェクトの特徴量VR1,VR2,…,VRnを計算する(ステップ112)。候補オブジェクト抽出部4は、参照オブジェクトとε近傍分類蓄積部8に登録された全ての代表点とを比較し、代表点を参照オブジェクトから類似度の高い順にソートして並べる(ステップ113)。類似度は、前述した類似度関数(式(1))により算出することができる。
【0028】
ソートした後、候補オブジェクト抽出部4は、類似度の高い代表点のε近傍内データに含まれる要素数を足していき、提示オブジェクト数K以上になった時点で加算した要素数に対応する代表点を得る(ステップ114)。つまり、各代表点の要素数をmx(x=1,2,…,n、nは代表点数)とすると、
m1+m2+…+mi≧K ・・・(2)
となった時点の要素数miの代表点Obiを得る。この候補オブジェクトヲ抽出する基準となる代表点を特に基準代表点と呼ぶことにする。図3に示したデータ内容例をソート後の結果とみなすと、K=4のときのObiは、Ob2である。そして、
dist(ObR,Obk)≦dist(ObR,Obi)+2ε ・・(3)
となる代表点Obkを特定し(ステップ115)、各代表点Obkのε近傍内データに含まれるオブジェクトをε近傍分類蓄積部8に基づきオブジェクトデータ蓄積部7から候補オブジェクトとして抽出し、候補オブジェクト一時蓄積部10に蓄積する(ステップ116)。この式(3)により絞り込まれた候補オブジェクトを類似検索範囲とすれば、オブジェクトデータ蓄積部7に蓄積されたオブジェクトの中で参照オブジェクトに近い順からK個のオブジェクトを確実かつ高速に得ることができる。参照オブジェクトに近い(距離が短い)ほど類似度が高くなるからである。以下、この式(3)が成立する理由について詳述する。
【0029】
まず、提示オブジェクト数Kが1、つまり、参照オブジェクトに最も近いオブジェクトを一つだけ抽出する場合について図6を用いて説明する。図6(a)に示したように、参照オブジェクトObRから最も近い代表点は、必ず基準代表点Obiとなる。基準代表点Obiの要素数は1以上だからである。この基準代表点Obiを中心とした近傍半径εの円に重なるように、近傍半径εの円を持つ代表点Obkが存在するとする。つまり、各代表点のε近傍が部分的に交わっている状態である。参照オブジェクトObRから各代表点Obi,Obkまでの距離は、それぞれdist(ObR,Obi),dist(ObR,Obk)と表すことができる。オブジェクトObi1は、参照オブジェクトObRに最も近い代表点Obiのε近傍内データであってもオブジェクトObk1との関係から明らかなように、他の代表点Obkのε近傍内データであるオブジェクトObk1より参照オブジェクトObRに遠い、つまり、類似していない場合がある。しかし、代表点Obkのε近傍内データは、いずれも代表点であるオブジェクトObiより参照オブジェクトObRに近くなることはない。すなわち、基準代表点Obiのε近傍と重なっていても
dist(ObR,Obk)>dist(ObR,Obi)+ε
となる代表点Obkのε近傍内データは、いずれも決して参照オブジェクトObRに最も近いオブジェクトにはなり得ない。
【0030】
一方、図6(b)に示したように、オブジェクトObk1は、基準代表点Obiより遠い代表点Obkのε近傍内データであっても基準代表点Obiより参照オブジェクトObRに近い場合がある。つまり、基準代表点Obiのε近傍内データのみならず、
dist(ObR,Obk)≦dist(ObR,Obi)+ε
となる代表点Obkのε近傍内データも参照オブジェクトPbRに最も近くなる可能性があるので、検索処理部5による類似検索処理の対象としなければならない。なお、言うまでもないが、
dist(ObR,Obi)≦dist(ObR,Obk)
という関係があることは前提条件である。
【0031】
以上のことから、提示オブジェクト数Kが1のときには、
dist(ObR,Obk)≦dist(ObR,Obi)+ε ・・・(4)
を満たす代表点Obkのε近傍内データに対しても検索処理の対象とする必要がある。なお、式(4)を満たす代表点は、必ず式(3)も満たすので、K=1のときも式(3)を用いることができる。この場合、抽出される候補オブジェクト数が増えることになる。
【0032】
次に、提示オブジェクト数Kが2以上の正整数、つまり、類似度の高い順に複数のオブジェクトを返す必要がある場合について図7を用いて説明する。類似度の高い代表点Ob1,Ob2のε近傍に含まれる要素数m1,m2を加算していき、提示オブジェクト数K以上になったとき、すなわち、式(2)を満たした時点の基準代表点Obiは既知である。図7(a)に示したように、基準代表点Obiのε近傍に重なるε近傍を持つ代表点Obkが存在したとする。代表点Obiの要素数miを加算したことで提示オブジェクト数Kを超えたとしてもオブジェクトObi1とオブジェクトObk1との関係から明らかなように、代表点Obkのε近傍のオブジェクトの方が参照オブジェクトに近い場合がある。つまり、代表点Obiの要素数miを加算したことによって提示オブジェクト数Kを超えたとしても代表点Obiのε近傍内にあるオブジェクトObji1ではなく代表点Obkのε近傍内データObk1が本来選ばれる可能性がある。従って、代表点Objのように基準代表点Obiのε近傍に交わるε近傍を持つ代表点は、候補オブジェクトとして残しておかなければ正しい結果が得ることはできなくなる。従って、図7(b)に示したように、
dist(ObR,Obk)>dist(ObR,Obi)+2ε
となったとき、すなわち、代表点Obkのε近傍が基準代表点Obiのε近傍に重ならないような位置関係にあるときには、代表点Obkのε近傍内データはいずれも基準代表点Obiのいずれのε近傍内データより参照オブジェクトObRより遠くなるので、代表点Obkのε近傍内データは選ばれることはない。
【0033】
一方、基準代表点Obiより参照オブジェクトObRから遠い代表点Obkであっても、
dist(ObR,Obk)≦dist(ObR,Obi)+2ε
を満たす代表点Obkであれば、図7(c)に示したオブジェクトObi1とオブジェクトObk1との関係のように、基準代表点Obiのε近傍との交わりに関係なく代表点Obkのε近傍内データは、候補オブジェクトとして残しておく必要がある。
【0034】
以上のことから、提示オブジェクト数Kが複数個の場合には、
dist(ObR,Obk)≦dist(ObR,Obi)+2ε
を満たす代表点Obkのε近傍内データに対しても検索処理の対象とする必要がある。
【0035】
以上のように、式(3)を満たす関係にある代表点Obkのε近傍内データに含まれるオブジェクトを候補オブジェクトとして抽出する必要がある。換言すると、式(3)を満たさない代表点に含まれるオブジェクトは、決して提示オブジェクトとして選ばれることはない。本実施の形態では、ε近傍という概念を導入したことで提示オブジェクトとして選出されうる候補オブジェクトを確実に抽出することができる。また、候補オブジェクトを絞り込む際、参照オブジェクトと比較するのは代表点のみでよいので、この候補オブジェクトを絞り込む処理も高速に行うことができる。
【0036】
続いて、検索処理部5は、候補オブジェクト一時蓄積部10に蓄積された各候補オブジェクトと参照オブジェクトの類似度を前述した類似度関数(式(1))により算出する(ステップ117)。なお、代表点となったオブジェクトに関しては、類似度を既に算出しているので、再度計算せずに計算結果を保持するようにしてもよい。そして、類似度の高い上位K個のオブジェクトを処理結果として返す(ステップ118)。出力処理部6は、検索処理部5における検索処理結果、すなわち上記K個のオブジェクトを利用者に提示する(ステップ119)。
【0037】
本実施の形態によれば、以上のようにして入力指定された参照オブジェクトに類似する提示オブジェクト数個のオブジェクトを利用者に提示することができるが、本実施の形態における処理結果は、全オブジェクトと参照オブジェクトとを個々に比較し、類似度の高い上位K個を取り出す処理と全く同じ処理結果を得ることができる。つまり、正確な検索結果を得ることができる。更に、全オブジェクトとの比較を行う必要がないので計算量を減らすことができ、このため、処理結果を高速かつ効率的に得ることができる。
【0038】
また、検索計算量は、オブジェクト群の分布によって構成されるε近傍の数とε近傍の中に含まれる要素の数により決まるため、提示オブジェクト数Kや次元数nが大きいことには影響されない。
【0039】
また、各オブジェクトの特徴量として距離関係以外を要求していないので、色、言葉などの距離は定義できても順序関係のないオブジェクトに対する類似検索にも適用することができる。つまり、本実施の形態を汎用的に用いることができる。
【0040】
実施の形態2.
上記実施の形態1では、近傍半径εは予め決められている値であるというだけで、その値については言及していないが、設定値次第では検索装置としての性能上効果的でなくなる場合がある。
【0041】
例えば、ε近傍生成部2が入力されたオブジェクトとε近傍分類蓄積部8に登録されているいずれかの代表点との間の距離が近傍半径εより大きいかどうかを判断するステップ102において、ε近傍分類蓄積部8に登録された代表点の並び順に判断を行うとする。もし、近傍半径εが極めて大きく設定されていれば、オブジェクトの多くが代表点Ob1のグループに含まれてしまうことになる可能性が高くなる。一方、近傍半径εが極めて小さく設定されていれば、より多くのオブジェクトが代表点として設定されてしまい、結果的に全オブジェクトと参照オブジェクトとの比較を行う場合と大差がなくなってしまう可能性がある。
【0042】
そこで、本実施の形態では、生成される代表点の数並びにε近傍のカバリングの適正化、すなわち、各代表点のε近傍内データに含まれるオブジェクト数が極力偏らないように近傍半径εの調整機能を有する手段を設けたことを特徴としている。つまり、ε近傍生成部2及び候補オブジェクト抽出部4は、図示しない近傍半径調整手段が設定した近傍半径εに基づき各処理を実行することになる。
【0043】
例えば、いずれかの代表点のε近傍内データの要素数が所定のしきい値に達したときには、設定されている近傍半径εが大きいと判断して小さい近傍半径εに設定変更する。もちろん、オブジェクト数が膨大であれば、要素数が全体的に増えてくるので、しきい値は全オブジェクト数に対する割合で設定するのが望ましい。例えば、全オブジェクト数の半分をしきい値とし、このしきい値に達する代表点のグループが存在したら近傍半径εを半分にするなどの規則を設けておく。また、このような規則を設けておけば、近傍半径εを自動的に調整することも可能になる。この調整の結果、オブジェクトが各代表点にほぼ均等に配分されることが最適な状態である。
【0044】
一方、全体オブジェクト数に対する代表点数の割合が大きければ、設定されている近傍半径εが小さいと判断して大きい近傍半径εに設定変更する。例えば、全オブジェクト数の0.001%をしきい値とし、いずれかの代表点のε近傍内データの要素数がこのしきい値を下回ったら近傍半径εを1.5倍にするなどの規則を設けておく。
【0045】
このように、近傍半径εの値を適正に設定することで、全オブジェクト数に対する代表点の割合、各代表点のε近傍内データに含まれるオブジェクトの数の割合が適切な割合になり、これにより、類似検索処理の効率の低下を防止することができる。
【0046】
なお、各代表点のε近傍内データに含まれるオブジェクト数の偏りを減少させるために、オブジェクト分類処理において分類処理対象のオブジェクトが複数の代表点のε近傍に位置した場合には、要素数の最も少ない代表点のε近傍内データに割り振るようにしてもよい。
【0047】
実施の形態3.
オブジェクト数が増大に伴い、代表点の数も非常に多くなると、オブジェクト分類処理において分類対象のオブジェクトと各代表点との間の距離計算、近傍半径εとの比較、ソーティングに要する処理時間も膨大になってくる。
【0048】
そこで、本実施の形態では、代表点の数の削減を図るために代表点を多段階に求めることで分類対象のオブジェクトと距離計算をする代表点の数を削減できるようにしたことを特徴とする。
【0049】
すなわち、上記実施の形態1では、各オブジェクトの代表点のみを設定していたが、本実施の形態では、設定した代表点の代表点を更に設定することで代表点を多段階にし、最上段の代表点とのみ分類対象のオブジェクトとの間の距離計算を行うようにした。つまり、最上段以外の代表点は、実施の形態1でいうε近傍内データとしても扱われる。
【0050】
このような代表点の多段階構造とするためには、これに併せて近傍半径εも複数要する必要がある。代表点の段階数と設定する近傍半径εの数は同じであり、当然ながら代表点の段階数が上がるに連れ分類対象オブジェクト(代表点が2段目以上の場合は代表点)を代表点とするか否かの判断基準となる近傍半径εの設定値は大きくなる。本実施の形態においては、図2に示したオブジェクト分類処理を代表点の段階数分繰り返し行えばよく、2回目以降は、前述したように分類対象のオブジェクトは、代表点である。具体的には、n回目のオブジェクト分類処理において設定される代表点は、n段目の代表点であり、分類対象のオブジェクトは、n−1段目の代表点である。図8は、本実施の形態において更に生成される代表点とε近傍内データとの関係を示したテーブルを示した図であり、図3に示した1段目の代表点と代表点ではないオブジェクトを含むε近傍内データとの関係テーブルと共にε近傍分類蓄積部8に登録される。図8には、2段階目の代表点によるテーブルの例が示されている。図8におけるε近傍内データは1段目の代表点であり、要素数は1段目の各代表点のε近傍内データに含まれるオブジェクト数の総和により求められる。
【0051】
本実施の形態におけるオブジェクト分類処理を簡単に説明すると、最初に実施の形態1と同様にして図3に示したテーブルを生成する。その後、生成した代表点を分類対象オブジェクトとしてオブジェクト分類処理を実行し、2段目の代表点のテーブルを生成する。これを繰り返すことで代表点を多段階とすることができる。
【0052】
この後の実行される類似検索処理では、ステップ115において式(3)を満たす代表点Obkを得る。ここで、式(3)を満たさない代表点を検索処理の対象外とする。次に、その代表点Obkに含まれる代表点を対象に再度ステップ115を実行して代表点Obkを得る。ここで、式(3)を満たさない代表点を検索処理の対象外とする。この処理を代表点でないオブジェクトを含む1段目のレベルまで繰り返し行うことで代表点をふるい落とし、ステップ116において候補オブジェクトを抽出する。以降の処理は実施の形態1と同じである。
【0053】
本実施の形態によれば、代表点を多段階で設定することにより代表点が増加したことに伴う類似検索処理の効率低下を防止することができる。
【0054】
【発明の効果】
本発明によれば、全オブジェクトの中から参照オブジェクトに類似するオブジェクトを絞り込む際、全オブジェクトを、代表点を中心とした近傍半径内に位置するオブジェクトでグループ化し、参照オブジェクトと代表点との距離関係に基づき候補オブジェクトを得るようにしたので、各オブジェクトを個々に参照オブジェクトと比較する必要がないので、計算量を減らすことができ、この結果、高速な類似検索処理を実現することができる。また、参照オブジェクトとの距離の関係上、提示オブジェクトとして選ばれる可能性のあるオブジェクトを近傍内データとして持つ代表点があれば、その代表点の近傍内データとして含まれるオブジェクトを候補オブジェクトとして確実に抽出されるようにしたので、正確な類似検索結果を提示することができる。一方、提示オブジェクトとして選ばれる可能性のないオブジェクトを事前に排除するようにしたことにより、類似検索処理に要する処理時間を短縮することができる。
【0055】
また、近傍半径調整手段を設けたことにより、近傍半径を適切に調整することができるので、生成される代表点を適正な数となるように調整することができる。また、各代表点の近傍内データに含まれるオブジェクト数の偏りを抑止することができるので、類似検索処理の効率の低下を防止することができる。
【0056】
また、代表点を多段階で設定することにより代表点の増加に伴う類似検索処理の効率低下を防止することができる。
【図面の簡単な説明】
【図1】 本発明に係る類似オブジェクト検索装置の一実施の形態を示した構成図である。
【図2】 実施の形態1におけるオブジェクト分類処理を示したフローチャートである。
【図3】 実施の形態1におけるε近傍分類蓄積部のデータ構成例を示した図である。
【図4】 実施の形態1において入力されたオブジェクトと代表点と近傍半径との関係を示した概念図である。
【図5】 実施の形態1における類似検索処理を示したフローチャートである。
【図6】 実施の形態1における類似検索処理において候補オブジェクトを抽出する代表点を特定する式を説明するために用いる図である。
【図7】 実施の形態1における類似検索処理において候補オブジェクトを抽出する代表点を特定する式を説明するために用いる図である。
【図8】 実施の形態3におけるε近傍分類蓄積部のデータ構成例を示した図である。
【図9】 従来の類似検索処理を示したフローチャートである。
【符号の説明】
1 入力処理部、2 ε近傍生成部、3 特徴量算出部、4 候補オブジェクト抽出部、5 検索処理部、6 出力処理部、7 オブジェクトデータ蓄積部、8 ε近傍分類蓄積部、9 特徴量データ蓄積部、10 候補オブジェクト一時蓄積部。
Claims (6)
- 入力処理手段、オブジェクト分類処理手段、候補オブジェクト抽出処理手段及び検索処理手段を有する類似オブジェクト検索装置により実施され、
前記入力処理手段が、類似検索の対象とするオブジェクトである参照オブジェクトと、類似検索処理結果として返す提示オブジェクト数とを受け付けるステップと、
前記候補オブジェクト抽出処理手段が、所定の条件に従いn(nは正整数)次元の全オブジェクトの中から参照オブジェクトに類似した少なくとも提示オブジェクト数以上のオブジェクトを候補オブジェクトとして抽出する候補オブジェクト生成ステップと、
前記検索処理手段が、各候補オブジェクトと参照オブジェクトとの間の類似度を算出し、類似度の高い順に取り出した提示オブジェクト数個のオブジェクトを類似検索処理の結果として得る検索ステップと、
を含む類似オブジェクト検索方法において、
前記入力処理手段が、分類対象であるオブジェクトを受け付けるステップと、
前記オブジェクト分類処理手段が、分類対象であるオブジェクトと近傍分類蓄積手段に代表点として既に蓄積されている各オブジェクトとの各特徴量から求められる距離関係上、分類対象オブジェクトがいずれかの代表点を中心とした予め決められている近傍半径内に位置する場合には、当該分類対象オブジェクトをその近傍半径内の中心となったいずれか一つの代表点の近傍内データとして前記近傍分類蓄積手段に登録し、当該分類対象オブジェクトがいずれの代表点を中心とした近傍半径内に位置しない場合には、分類対象オブジェクトを代表点としてかつその代表点の近傍内データとして前記近傍分類蓄積手段に登録する近傍分類ステップと、
を含み、
前記候補オブジェクト生成ステップは、
前記近傍分類蓄積手段に蓄積された各代表点と参照オブジェクトとの間の類似度を算出し、
代表点の近傍内データとして含まれるオブジェクト数の累計が提示オブジェクト数以上になるまで類似度の高い代表点の順に当該オブジェクト数を加算し、
そのオブジェクト数の加算によりオブジェクト数の累計が提示オブジェクト数以上になった時点で加算した当該オブジェクト数に対応する代表点を基準代表点とした場合、参照オブジェクトとの距離が、基準代表点と参照オブジェクトとの間の距離に前記近傍半径の2倍の値を加算した値以下となる代表点を特定し、
その特定した各代表点の近傍内データであるオブジェクトを候補オブジェクトとして抽出することを特徴とする類似オブジェクト検索方法。 - 前記候補オブジェクト生成ステップは、提示オブジェクト数が1の場合、参照オブジェクトとの間の距離が、参照オブジェクトと基準代表点との間の距離に近傍半径を加算した値以下となる代表点の近傍内データに含まれるオブジェクト候補オブジェクトとして抽出することを特徴とする請求項1記載の類似オブジェクト検索方法。
- 前記近傍分類蓄積手段に登録した代表点を分類対象オブジェクトとして扱い前記近傍分類ステップを繰り返し実行することで代表点を多段階に設定可能としたことを特徴とする請求項1記載の類似オブジェクト検索方法。
- 利用者が入力指定した類似検索の対象とするオブジェクトである参照オブジェクト及び提示オブジェクト数に基づき類似検索処理を実行することによってn(nは正整数)次元の全オブジェクトの中から、参照オブジェクトに類似したオブジェクトを、類似度の高い順に提示オブジェクト数取り出して利用者に提示する類似オブジェクト検索装置において、
全オブジェクトのうち代表点となるオブジェクトに対応づけて、距離関係上当該代表点を中心とする予め決められた近傍半径内に位置するオブジェクトを近傍内データとして蓄積する近傍分類蓄積手段と、
オブジェクトと各代表点との距離関係に応じて各オブジェクトを代表点とするか否かを決定すると共に当該オブジェクトをいずれかの代表点の近傍内データとして含まれるよう分類し、前記近傍分類蓄積手段に登録するオブジェクト分類処理手段と、
全オブジェクトの中から参照オブジェクトと類似している少なくとも提示オブジェクト数以上のオブジェクトを候補オブジェクトとして抽出する候補オブジェクト抽出処理手段と、
前記候補オブジェクト抽出処理手段が抽出した各候補オブジェクトと参照オブジェクトとの間の類似度を算出し、類似度の高い順に取り出した提示オブジェクト数個のオブジェクトを類似検索処理の結果として得る検索処理手段と、
を有し、
前記候補オブジェクト抽出処理手段は、
前記近傍分類蓄積手段に蓄積された各代表点と参照オブジェクトとの間の類似度を算出し、
代表点の近傍内データとして含まれるオブジェクト数の累計が提示オブジェクト数以上になるまで類似度の高い代表点の順に当該オブジェクト数を加算し、
そのオブジェクト数の加算によりオブジェクト数の累計が提示オブジェクト数以上になった時点で加算した当該オブジェクト数に対応する代表点を基準代表点とした場合、参照オブジェクトとの距離が、基準代表点と参照オブジェクトとの間の距離に前記近傍半径の2倍の値を加算した値以下となる代表点を特定し、
その特定した各代表点の近傍内データであるオブジェクトを候補オブジェクトとして抽出することを特徴とする類似オブジェクト検索装置。 - 前記候補オブジェクト抽出処理手段は、提示オブジェクト数が1の場合、参照オブジェクトとの間の距離が、参照オブジェクトと基準代表点との間の距離に近傍半径を加算した値以下となる代表点の近傍内データに含まれるオブジェクト候補オブジェクトとして抽出することを特徴とする請求項4記載の類似オブジェクト検索装置。
- 代表点の数及び各代表点の近傍内データに含まれるオブジェクト数の偏りをなくすように近傍半径の設定値を調整する近傍半径調整手段を有することを特徴とする請求項4記載の類似オブジェクト検索装置。
Priority Applications (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000381304A JP4215386B2 (ja) | 2000-12-15 | 2000-12-15 | 類似オブジェクト検索方法及び類似オブジェクト検索装置 |
Applications Claiming Priority (1)
Application Number | Priority Date | Filing Date | Title |
---|---|---|---|
JP2000381304A JP4215386B2 (ja) | 2000-12-15 | 2000-12-15 | 類似オブジェクト検索方法及び類似オブジェクト検索装置 |
Publications (2)
Publication Number | Publication Date |
---|---|
JP2002183206A JP2002183206A (ja) | 2002-06-28 |
JP4215386B2 true JP4215386B2 (ja) | 2009-01-28 |
Family
ID=18849325
Family Applications (1)
Application Number | Title | Priority Date | Filing Date |
---|---|---|---|
JP2000381304A Expired - Fee Related JP4215386B2 (ja) | 2000-12-15 | 2000-12-15 | 類似オブジェクト検索方法及び類似オブジェクト検索装置 |
Country Status (1)
Country | Link |
---|---|
JP (1) | JP4215386B2 (ja) |
Families Citing this family (11)
Publication number | Priority date | Publication date | Assignee | Title |
---|---|---|---|---|
US20040267746A1 (en) * | 2003-06-26 | 2004-12-30 | Cezary Marcjan | User interface for controlling access to computer objects |
JP4457660B2 (ja) | 2003-12-12 | 2010-04-28 | パナソニック株式会社 | 画像分類装置、画像分類システム、画像分類に関するプログラム、およびそのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
JP4556120B2 (ja) * | 2005-01-07 | 2010-10-06 | ソニー株式会社 | 情報処理装置および方法、並びにプログラム |
JP5502346B2 (ja) * | 2009-03-09 | 2014-05-28 | 富士フイルム株式会社 | 症例画像登録装置、方法およびプログラムならびに症例画像検索装置、方法、プログラムおよびシステム |
US9292555B2 (en) | 2011-04-05 | 2016-03-22 | Nec Corporation | Information processing device |
JP5601277B2 (ja) * | 2011-05-06 | 2014-10-08 | 富士通株式会社 | 情報処理装置、情報処理システムおよび検索方法 |
JP5632862B2 (ja) * | 2012-02-13 | 2014-11-26 | 日本電信電話株式会社 | データ検索装置、データ検索方法、及びデータ検索プログラム |
JP5711171B2 (ja) * | 2012-03-23 | 2015-04-30 | 日本電信電話株式会社 | データ検索装置、データ検索方法、及びデータ検索プログラム |
WO2015048232A1 (en) * | 2013-09-26 | 2015-04-02 | Tokitae Llc | Systems, devices, and methods for classification and sensor identification using enhanced sparsity |
CN113918598A (zh) * | 2021-10-21 | 2022-01-11 | 深圳云天励飞技术股份有限公司 | 一种乘积量化搜索方法、装置、终端和存储介质 |
CN115829143A (zh) * | 2022-12-15 | 2023-03-21 | 广东慧航天唯科技有限公司 | 一种基于时空数据清洗技术的水环境治理预测***及其方法 |
-
2000
- 2000-12-15 JP JP2000381304A patent/JP4215386B2/ja not_active Expired - Fee Related
Also Published As
Publication number | Publication date |
---|---|
JP2002183206A (ja) | 2002-06-28 |
Similar Documents
Publication | Publication Date | Title |
---|---|---|
US7184577B2 (en) | Image indexing search system and method | |
CN108319987B (zh) | 一种基于支持向量机的过滤-封装式组合流量特征选择方法 | |
JP4215386B2 (ja) | 類似オブジェクト検索方法及び類似オブジェクト検索装置 | |
Van Rijsbergen et al. | Document clustering: An evaluation of some experiments with the Cranfield 1400 collection | |
JP2002519748A (ja) | 像検索システム | |
US7895201B2 (en) | Information processing apparatus, methods, and program for searching sets for an element | |
EP3752930B1 (en) | Random draw forest index structure for searching large scale unstructured data | |
WO2014109127A1 (ja) | インデックス生成装置及び方法並びに検索装置及び検索方法 | |
EP2631815A1 (en) | Method and device for ordering search results, method and device for providing information | |
US6389424B1 (en) | Insertion method in a high-dimensional index structure for content-based image retrieval | |
CN109918496B (zh) | 一种基于多词汇摘要的精确文档检索方法 | |
CN104036261B (zh) | 人脸识别方法和*** | |
WO2020048145A1 (zh) | 数据检索的方法和装置 | |
CN109213886B (zh) | 基于图像分割和模糊模式识别的图像检索方法及*** | |
CN106909539A (zh) | 图像检索***、服务器、数据库及相关的方法 | |
CN111125408A (zh) | 基于特征提取的搜索方法、装置、计算机设备和存储介质 | |
Salmi et al. | Content based image retrieval based on cell color coherence vector (Cell-CCV) | |
CN104573036B (zh) | 一种基于距离的求解二维空间中代表性节点集的方法 | |
KR100671099B1 (ko) | 영상의 유사도 비교방법 및 그를 이용한 영상 검색 방법 및 장치 | |
EP1089198A2 (en) | Content-based image searching | |
CN107193979B (zh) | 一种同源图片检索的方法 | |
CN106909552A (zh) | 图像检索服务器、***、相关检索及排错方法 | |
CN108280209B (zh) | 一种基于烟花算法的图像检索方法和*** | |
JP3938815B2 (ja) | ノード作成方法、画像検索方法及び記録媒体 | |
WO2000070881A1 (en) | Color image processing method |
Legal Events
Date | Code | Title | Description |
---|---|---|---|
A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060117 |
|
RD04 | Notification of resignation of power of attorney |
Free format text: JAPANESE INTERMEDIATE CODE: A7424 Effective date: 20060117 |
|
A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20080819 |
|
A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20081017 |
|
TRDD | Decision of grant or rejection written | ||
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20081104 |
|
A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20081104 |
|
R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20111114 Year of fee payment: 3 |
|
LAPS | Cancellation because of no payment of annual fees |