JP2010198269A - 意味ドリフトの発生評価方法及び装置 - Google Patents

Abstract

【課題】意味ドリフトが発生していることを認知しうる評価方法及び装置を提供すること。
【解決手段】意味ドリフト発生評価装置１は、新たなインスタンスを抽出するインスタンス抽出部１１と、ブートストラップアルゴリズムにより、インスタンス抽出部１１により新たに抽出されたインスタンス集合を用いたインスタンス抽出部１１の反復実行を制御する反復実行制御部１２と、インスタンスの関連キーワードを抽出する関連キーワード抽出部１３と、関連キーワードに対して、数値を割り当てて関連キーワードベクトルを生成するベクトル生成部１４と、各反復において関連キーワードに付与された関連キーワードベクトルに基づいて、各反復における意味ドリフトの程度を評価する意味ドリフト評価部１５とを備える。
【選択図】図１

Description

本発明は、意味ドリフトの発生評価方法及び装置に関する。

従来、人名、地名、組織名といった固有表現や、これらの関係に関する意味知識の獲得方法として、初期値であって所定のカテゴリに属する少量のシードインスタンスに基づいて同一カテゴリに属するインスタンスを抽出し、抽出されたインスタンスにより反復的にインスタンスを増やしていく方法であるブートストラップアルゴリズムが提案されている（例えば、非特許文献１）。ブートストラップアルゴリズムでは、一般的なテキスト文章から、インスタンスを抽出することが可能である。より具体的には、検索ログをインスタンスの獲得源とした場合に、検索ログに含まれる検索クエリを構成する複数の単語のうち、所定のカテゴリに属する単語をシードインスタンスとする。そして、シードインスタンスを含む検索クエリにおいて、シードインスタンス以外の文字列をパターンとして抽出し、抽出したパターンより、インスタンスを抽出する。そして、高い適合率で所定のカテゴリに属するインスタンスを獲得できるものには高い適合度を割り当て、無関係のインスタンスを獲得できるものには、低い適合度を割り当てる。そして、適合度の高い順にパターンを用いることにより、高い適合率でインスタンスを獲得する。さらに、上述のシードインスタンスからインスタンスを獲得する方法と同じ要領で、獲得したインスタンスからの新たなインスタンスを獲得する処理を反復して実行する。このように、ブートストラップアルゴリズムは、少量のシードインスタンスから、大量のインスタンスを獲得できるという利点がある。

小町守，鈴木久美，検索ログからの半教師あり意味知識獲得の改善，人工知能学会論文誌，2008，No.3，pp.217-225，インターネット<URL: http://www.jstage.jst.go.jp/article/tjsai/23/3/217/_pdf/-char/ja/>

しかしながら、非特許文献１に記載の方法では、抽出されたパターンが、複数のカテゴリに出現するパターンであるジェネリックパターンである可能性がある。ジェネリックパターンは、所定のカテゴリ以外のカテゴリとも共起するパターンであることから、非特許文献１に記載の方法では、所定のカテゴリに属するシードインスタンスと関係のないインスタンスを獲得しうる。そして、シードインスタンスと関係のないインスタンスを一度獲得すると、所定のカテゴリと関係のないインスタンスと関連性の高いインスタンスを獲得するパターンを抽出して、獲得するインスタンスが所定のカテゴリと関連性の低いものに変わってしまう意味ドリフト（ｓｅｍａｎｔｉｃ ｄｒｉｆｔ）が発生しうる問題がある。さらに、ジェネリックパターンの有無に関わらず、複数のカテゴリに属しうる曖昧なインスタンスを獲得してしまう場合も、意味ドリフトが発生しうる。

本発明は、このような従来の問題点に鑑みて提案されたものであり、その目的は、意味ドリフトが発生していることを認知しうる評価方法及び装置を提供することにある。

本発明では、以下のような解決手段を提供する。

（１） 所定のカテゴリに含まれるインスタンスをブートストラップアルゴリズムにより獲得する方法において該所定のカテゴリと関連性の高いインスタンスを検索ログを用いて取得する際に、カテゴリの意味が遷移する意味ドリフトの発生状態を評価する意味ドリフト発生評価方法であって、前記検索ログに基づいて、新たなインスタンスを抽出する第１の抽出ステップと、前記ブートストラップアルゴリズムにより、前記第１の抽出ステップにて抽出した新たなインスタンスを用いた前記第１の抽出ステップの実行を反復する際に、予め記憶されている関連キーワード辞書よりインスタンスの関連キーワードを抽出する第２の抽出ステップと、前記関連キーワードに割り当てた数値を要素とする関連キーワードベクトルを生成するステップと、各反復における関連キーワードベクトルに基づいて、各反復における意味ドリフトの程度を評価するステップとを備える意味ドリフト発生評価方法。

（１）記載の意味ドリフト発生評価方法によれば、検索ログに基づいて、新たなインスタンスを抽出する第１の抽出処理を行う。そして、ブートストラップアルゴリズムにより、抽出したインスタンスを用いた第１の抽出処理の実行を反復する。そして、ブートストラップアルゴリズムにより新たなインスタンスの抽出の実行を反復する際に、予め記憶されている関連キーワード辞書よりインスタンスの関連キーワードを抽出する。そして、抽出した関連キーワードに対して割り当てた数値を要素とする関連キーワードベクトルを生成する。そして、各反復における関連キーワードベクトルに基づいて、各反復における意味ドリフトの程度を評価する。

このような方法によれば、各反復における関連キーワードベクトルと該反復の直前における関連キーワードベクトルとについて各反復における意味ドリフトの程度を評価するので、評価内容に基づいて意味ドリフトが発生したことを認知できる。

（２） 前記意味ドリフトの程度を評価するステップは、前記各反復における関連キーワードベクトルと該反復の直前における関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価することを特徴とする（１）記載の意味ドリフト発生評価方法。

（２）記載の意味ドリフト発生評価方法によれば、各反復における関連キーワードベクトルと該反復の直前における関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価する。このようにすることで、各反復における関連キーワードベクトルが直前の反復からどれだけ関連キーワードが遷移したのかを計測することができる。

（３） 前記意味ドリフトの程度を評価するステップは、前記各反復における関連キーワードベクトルと前記第１の抽出ステップにより前記新たなインスタンスを抽出するときの初期値であるシードインスタンスの関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価することを特徴とする（１）記載の意味ドリフト発生評価方法。

（３）記載の意味ドリフト発生評価方法によれば、各反復における関連キーワードベクトルと前記第１の抽出ステップにより前記新たなインスタンスを抽出するときの初期値であるシードインスタンスの関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価する。このようにすることで、反復により抽出されたインスタンスの関連キーワードがシードインスタンスの関連キーワードからどの程度遷移したのかを計測することができる。

（４） 所定のカテゴリに含まれるインスタンスをブートストラップアルゴリズムにより獲得する方法において該所定のカテゴリと関連性の高いインスタンスを検索ログを用いて取得する際に、カテゴリの意味が遷移する意味ドリフトの発生状態を評価する意味ドリフト発生評価装置であって、前記検索ログに基づいて、新たなインスタンスを抽出するインスタンス抽出手段と、前記ブートストラップアルゴリズムにより、前記インスタンス抽出手段にて抽出した新たなインスタンスを用いた前記インスタンス抽出手段の実行を反復する反復実行制御手段と、予め記憶されている関連キーワード辞書よりインスタンスの関連キーワードを抽出する関連キーワード抽出手段と、前記関連キーワードに割り当てた数値を要素とする関連キーワードベクトルを生成するベクトル生成手段と、前記反復のそれぞれにおける関連キーワードベクトルに基づいて、該反復のそれぞれにおける意味ドリフトの程度を評価する意味ドリフト評価手段とを備える意味ドリフト発生評価装置。

このような構成によれば、当該装置を構築することにより、（１）と同様の効果が期待できる。

本発明によれば、意味ドリフトが発生していることを認知しうる評価方法及び装置を提供することができる。

本実施形態に係る意味ドリフト発生評価装置１の構成例を示す図である。 本実施形態に係る検索ログＤＢ２１を示す図である。 本実施形態に係る関連キーワード辞書ＤＢ２２を示す図である。 本実施形態に係る意味ドリフト発生評価装置１のハードウェア構成を示す図である。 本実施形態に係る意味ドリフト発生評価装置１が行う処理の流れを示すフローチャートである。 本実施形態に係る制御部１０のインスタンス抽出部１１におけるインスタンス抽出の処理の流れを示すフローチャートである。 シード類似度及び差分類似度の計測結果を示す図である。

以下、本発明の実施形態について図を参照しながら説明する。

［全体構成］
図１は、本実施形態に係る意味ドリフト発生評価装置１の構成例を示す図である。

意味ドリフト発生評価装置１は、所定のカテゴリに含まれるインスタンス（単語）をブートストラップアルゴリズムにより獲得する方法において、所定のカテゴリと関連性の高いインスタンスを検索ログを用いて取得する際に、所定のカテゴリと関連性の低いインスタンスを取得してしまう意味ドリフトの発生状態を評価する装置である。

意味ドリフト発生評価装置１は、制御部１０と、記憶部２０と、表示部３１と、操作部３２とを備える。そして、制御部１０は、インスタンス抽出部１１と、反復実行制御部１２と、関連キーワード抽出部１３と、ベクトル生成部１４と、意味ドリフト評価部１５とから構成される。また、記憶部２０は、検索ログデータベース（以下、データベースをＤＢという）２１と、関連キーワード辞書ＤＢ２２とを記憶する。

インスタンス抽出部１１は、検索ログＤＢ２１（後述の図２参照）を参照して、新たなインスタンスを抽出する。より具体的には、インスタンス抽出部１１は、検索ログＤＢ２１より、指定されたインスタンス集合を構成するインスタンスが含まれている検索クエリを抽出する。指定されたインスタンス集合とは、意味ドリフト発生評価装置１により処理が開始された最初の時点ではシードインスタンスの集合であり、インスタンス抽出部１１によりインスタンス集合が抽出された後は、インスタンス抽出部１１により抽出されたインスタンス集合である。インスタンス抽出部１１は、抽出した検索クエリより、当該インスタンス集合に含まれるインスタンス以外の単語をパターンとして抽出し、抽出したパターンにより構成されるパターン集合を生成する。そして、パターン集合に基づいて、検索ログＤＢ２１より当該パターン集合を構成するパターンが含まれる検索クエリを抽出する。そして、抽出した検索クエリより、当該パターン以外の単語をインスタンスとして抽出し、抽出したインスタンスにより構成されるインスタンス集合を生成する。また、パターン集合の生成時及びインスタンス集合の生成時に、それぞれパターンの信頼度及びインスタンスの信頼度を算出する。そして、信頼度の高いインスタンスの集合を所定のカテゴリに属する新たなインスタンス集合として抽出する。

パターンの信頼度及びインスタンスの信頼度について、より詳細に説明する。パターン集合Ｐ内のパターンｐの信頼度をｒπ（ｐ）とし（πは下付き文字、以下同じ）、インスタンス集合Ｉ内のインスタンスｉの信頼度をパターンの信頼度をｒι（ｉ）とすると（ιは下付き文字、以下同じ）、ｒπ（ｐ）は、信頼性の高いパターンが信頼性の高いインスタンスと共起するという直観に基づき、

により算出され、インスタンス集合Ｉ中の各インスタンスｉとパターンｐとの間の重み付き共起として定義されている。

ｐｍｉ（ｉ，ｐ）は、インスタンスｉとパターンｐとの相互情報量（ＰＭＩ：ｐｏｉｎｔｗｉｓｅ ｍｕｔｕａｌ ｉｎｆｏｍａｔｉｏｎ）であり、ｍａｘ ｐｍｉは、パターン集合とインスタンス集合における最大の相互情報量である。ｐｍｉ（ｉ，ｐ）は、

により算出される。

｜ｉ，ｐ｜は、インスタンスｉとパターンｐとが同時に検索された回数、すなわち、検索ログＤＢ２１に含まれるインスタンスｉ及びパターンｐを含む検索クエリの数である。また、アスタリスクはワイルドカードである。

インスタンスｉの信頼度もパターンｐの信頼度の算出方法と同様に、信頼度の高いインスタンスが信頼度の高いパターンと共起するものと定義され、

により算出される。

本実施形態では、数１及び数３に示される数式から確認できるように、ｒπ（ｐ）とｒι（ｉ）とは再帰的に定義される。パターンの信頼度とインスタンスの信頼度は、インスタンス抽出部１１により、パターン集合が生成される処理及びインスタンス集合が生成される処理との間で交互に算出される。

反復実行制御部１２は、ブートストラップアルゴリズムにより、インスタンス抽出部１１により新たに抽出されたインスタンス集合を用いたインスタンス抽出部１１の反復実行を制御する。より具体的には、反復実行制御部１２は、インスタンス抽出部１１の処理回数をカウントし、意味ドリフト発生評価装置１の管理者が指定した回数に達したか否かを判別する。指定した回数に達していない場合には、インスタンス抽出部１１によるインスタンスの抽出を反復実行させ、指定した回数に達した場合にはインスタンス抽出部１１によるインスタンスの抽出を終了する。このようにインスタンスの抽出を反復実行させることにより、多量のインスタンスの抽出が可能になる。

関連キーワード抽出部１３は、関連キーワード辞書ＤＢ２２（後述の図３参照）を参照して、インスタンスの関連キーワードを抽出する。より具体的には、関連キーワード抽出部１３は、関連キーワード辞書ＤＢ２２を参照して、シードインスタンス又はインスタンス抽出部１１により抽出されたインスタンスそれぞれの関連キーワードを１又は複数抽出する。シードインスタンスとは、意味ドリフト発生評価装置１において、インスタンスを取得するための初期値であって人手により定められるものであり、所定のカテゴリに属する。

関連キーワード抽出部１３により関連キーワードが抽出されるタイミングは２通りある。すなわち、インスタンスがシードインスタンスである場合には、意味ドリフト発生評価装置１において、インスタンス抽出部１１による１回目のインスタンスの抽出がされる前に関連キーワードが抽出される。また、インスタンスがインスタンス抽出部１１により抽出されたインスタンスである場合には、インスタンス抽出部１１により新たなインスタンスが抽出された直後に関連キーワードが抽出される。

ベクトル生成部１４は、関連キーワード抽出部１３により抽出された関連キーワードに対して数値を割り当てて、割り当てた数値を要素とする関連キーワードベクトルを生成する。より具体的には、ベクトル生成部１４は、インスタンス集合におけるそれぞれのインスタンスにおいて関連キーワード抽出部１３により抽出された関連キーワードの数を算出する。そして、当該算出した関連キーワードの数で１を除算して得られた数値を、関連キーワードに割り当て、割り当てた数値を要素とする関連キーワードベクトルを生成する。そして、インスタンス集合に含まれている全てのインスタンスのキーワードベクトルを集計する。

例えば、インスタンス集合Ａに含まれるインスタンスがＸ及びＹの２つである場合に、Ｘの関連キーワードとして、ａ、ｂ、ｃ、ｄの４つが抽出され、Ｙの関連キーワードとして、ａ及びｅの２つが抽出されたとする。そうすると、Ｘの関連キーワードのそれぞれに対して関連キーワードベクトルとして、１を４で除算した数である０．２５が付与され、ａ（０．２５）、ｂ（０．２５）、ｃ（０．２５）、ｄ（０．２５）となる。また、Ｙの関連キーワードのそれぞれに対して関連キーワードベクトルとして、１を２で除算した数である０．５が付与され、ａ（０．５）、ｅ（０．５）となる。そして、インスタンス集合のキーワードベクトルは、インスタンスＸ及びＹの関連キーワードベクトルを集計した結果、すなわち、ａ（０．７５）、ｂ（０．２５）、ｃ（０．２５）、ｄ（０．２５）、ｅ（０．５）となる。

意味ドリフト評価部１５は、各反復において関連キーワードに付与された関連キーワードベクトルに基づいて、各反復における意味ドリフトの程度を評価する。より具体的には、意味ドリフト評価部１５は、インスタンス抽出部１１の反復実行後にベクトル生成部１４により生成した関連キーワードベクトルと、当該反復実行の直前においてベクトル生成部１４により生成した関連キーワードベクトルとについてコサイン類似度を算出する。ここで、コサイン類似度とは、ベクトル間のコサイン距離である。各反復実行において生成した関連キーワードベクトルをＡとし、当該反復実行の直前における関連キーワードベクトルをＢとすると、コサイン類似度ｓｉｍ（Ａ，Ｂ）は、

により算出される。このように、各反復の前後のキーワードベクトルに基づいて算出されたコサイン類似度は、差分類似度と呼ばれる。

例えば、ある反復において抽出されたインスタンス集合Ａのキーワードベクトルが、ａ（０．７５）、ｂ（０．２５）、ｃ（０．２５）、ｄ（０．２５）、ｅ（０．５）であり、当該反復の直前のインスタンス集合Ｂのキーワードベクトルがａ（０．３３）、ｂ（０．３３）、ｃ（０．３３）であるとすると、差分類似度としてのコサイン類似度ｓｉｍ（Ａ，Ｂ）は、数４の式に基づいて０．７２と算出される。

さらに、意味ドリフト評価部１５は、インスタンス抽出部１１の各反復実行においてベクトル生成部１４により生成した関連キーワードベクトルと、シードインスタンスの集合においてベクトル生成部１４により生成した関連キーワードベクトルとについてもコサイン類似度を算出する。この場合のコサイン類似度の数式は、数４に示される数式と同様である。このように、シードインスタンスのキーワードベクトル及びある反復におけるキーワードベクトルに基づいて算出されたコサイン類似度は、シード類似度と呼ばれる。

差分類似度及びシード類似度は、いずれも０以上１以下の値をとることとなる。差分類似度は、各反復における関連キーワードベクトルが直前の反復からどれだけ関連キーワードが遷移したのかを計測するものであり、極端に数値が低下した位置で関連キーワードの遷移、すなわち、所定のカテゴリと関連性の低いインスタンスを取得する意味ドリフトが発生していると考えられる。すなわち、関連キーワードが類似している場合には、反復の前後でキーワードベクトルの変化が小さいことから、コサイン類似度が１に近い値となる。また、関連キーワードが類似していない場合には、反復の前後でキーワードベクトルの変化が大きくなり、コサイン類似度が０に近い値となる。すなわち、インスタンス抽出部１１の反復実行におけるコサイン類似度をモニタリングすることにより、キーワードベクトルが大きく変化したこと、すなわち、意味ドリフトが発生したことを認知しうる。

シード類似度は、反復により抽出されたインスタンスの関連キーワードがシードインスタンスの関連キーワードからどの程度遷移したのかを計測するものであり、シード類似度を導入することにより、シードインスタンスとシードインスタンスの関連キーワードに基づいて、インスタンス抽出部１１の反復実行により抽出されたインスタンス集合の意味ドリフトの度合いについて評価を行うことができる。

なお、本実施形態では、コサイン類似度を算出することにより各反復における意味ドリフトの程度を評価することとしたが、これに限らない。例えば、ユークリッド距離、カルバックル・ライブラー距離を算出することにより、各反復における意味ドリフトの程度を評価することとしてもよい。なお、この場合には、ベクトル生成部１４で生成するベクトルを正規化する必要がある。ベクトルの正規化とは、生成した各々のベクトルについて、要素数で除算することをいう。

図２は、本実施形態に係る検索ログＤＢ２１を示す図である。検索ログＤＢ２１は、所定の検索エンジンより抽出した検索ログに含まれる検索クエリを記憶するものである。検索ログＤＢ２１には、検索ログを構成する第１の単語（インスタンス）を記憶する「インスタンス１」フィールドと、検索ログを構成する第２の単語（インスタンス）を記憶する「インスタンス２」フィールドとが含まれている。すなわち、本実施形態では、検索ログＤＢ２１に、２つの単語から構成される検索クエリをそれぞれの単語（インスタンス）に分割して格納している。検索ログＤＢ２１は、インスタンス抽出部１１により、インスタンスを抽出するときに参照される。

なお、本実施形態では、検索ログＤＢ２１に２つの単語から構成される検索クエリのみを格納して、この検索クエリに基づいて新たなインスタンスを抽出することとしたが、これに限らない。例えば、検索ログＤＢ２１に、３つ以上の単語を含む検索クエリや形態素解析により分解された単語等を記憶させて、当該単語より新たなインスタンスを抽出することとしてもよい。このようにすることで、ソースデータが増加するので、様々なパターンを抽出することができる。

図３は、本実施形態に係る関連キーワード辞書ＤＢ２２を示す図である。関連キーワード辞書ＤＢ２２は、インスタンスと、インスタンスに付与されている関連キーワードとを関連付けて記憶したＤＢであり、予め所定の辞書サイトより抽出されたインスタンス及び関連キーワードを記憶する。関連キーワード辞書ＤＢ２２は、インスタンスを示す「インスタンス」フィールドと、インスタンスに付与されている関連キーワードを示す「関連キーワード」フィールドとが含まれている。関連キーワード辞書ＤＢ２２は、関連キーワード抽出部１３によりシードインスタンス又は新たに生成したインスタンスの関連キーワードを抽出するときに参照される。

なお、本実施形態では、予め所定の辞書サイトよりインスタンス及び関連キーワードを抽出することとしたが、これに限らない。例えば、検索結果に含まれるスニペットから得たキーワードを用いることとしてもよい。ここで、スニペットとは、検索エンジンにおける検索結果ページに含まれるＷｅｂページの紹介文であり、検索クエリに関連するキーワードが含まれている可能性が高い要素である。すなわち、スニペットを分析して、検索クエリ（インスタンス）の関連キーワードを抽出し、検索クエリ及び抽出した関連キーワードを関連キーワードＤＢ２２に記憶させることとしてもよい。

表示部３１は、意味ドリフト発生評価装置１の機能に関する表示を行い、意味ドリフト発生評価装置１を操作する者に対して、それぞれの機能により出力された情報を視覚的に表示する。操作部３２は、意味ドリフト発生評価装置１を操作する者からの直接的な入力を受け付ける。

［意味ドリフト発生評価装置のハードウェア構成］
図４は、本実施形態に係る意味ドリフト発生評価装置１のハードウェア構成を示す図である。本発明が実施される意味ドリフト発生評価装置１は標準的なものでよく、以下に構成の一例を示す。

意味ドリフト発生評価装置１は、制御部１０を構成するＣＰＵ（Ｃｅｎｔｒａｌ Ｐｒｏｃｅｓｓｉｎｇ Ｕｎｉｔ）１０１０（マルチプロセッサ構成ではＣＰＵ１０１２等複数のＣＰＵが追加されてもよい）、バスライン１００５、通信Ｉ／Ｆ（Ｉ／Ｆ：インターフェイス）１０４０、メインメモリ１０５０、ＢＩＯＳ（Ｂａｓｉｃ Ｉｎｐｕｔ Ｏｕｔｐｕｔ Ｓｙｓｔｅｍ）１０６０、表示装置１０２２、Ｉ／Ｏコントローラ１０７０、キーボード及びマウス等の入力装置１１００、ハードディスク１０７４、光ディスクドライブ１０７６、並びに半導体メモリ１０７８を備える。なお、ハードディスク１０７４、光ディスクドライブ１０７６、及び半導体メモリ１０７８をまとめて記憶部２０と呼ぶ。

制御部１０は、意味ドリフト発生評価装置１に係る各種機能を統括的に制御する部分であり、ハードディスク１０７４に記憶された各種プログラムを適宜読み出して実行することにより、上述したハードウェアと協働し、本発明に係る各種機能を実現している。

通信Ｉ／Ｆ１０４０は、意味ドリフト発生評価装置１が、通信ネットワークを介して他のサーバ等と情報を送受信する場合のネットワーク・アダプタである。通信Ｉ／Ｆ１０４０は、モデム、ケーブル・モデム及びイーサネット（登録商標）・アダプタを含んでよい。

メインメモリ１０５０は、ＣＰＵ１０１０により各種プログラムを実行する際に生成されるデータを一時的に記憶する。ＢＩＯＳ１０６０は、意味ドリフト発生評価装置１の起動時にＣＰＵ１０１０が実行するブートプログラムや、意味ドリフト発生評価装置１のハードウェアに依存するプログラム等を記録する。

表示装置１０２２は、ブラウン管表示装置（ＣＲＴ）、液晶表示装置（ＬＣＤ）等のディスプレイ装置を含み、表示部３１として機能する。

Ｉ／Ｏコントローラ１０７０には、ハードディスク１０７４、光ディスクドライブ１０７６、及び半導体メモリ１０７８等の記憶装置である記憶部２０を接続することができる。

入力装置１１００は、意味ドリフト発生評価装置１の管理者による入力の受け付けを行うものであり、操作部３２として機能する。

ハードディスク１０７４は、本ハードウェアを意味ドリフト発生評価装置１として機能させるための各種プログラム、本発明の機能を実行するプログラム及び上述のＤＢを記憶する。なお、意味ドリフト発生評価装置１は、外部に別途設けたハードディスク（図示せず）を外部記憶装置として利用することもできる。

光ディスクドライブ１０７６としては、例えば、ＤＶＤ−ＲＯＭドライブ、ＣＤ−ＲＯＭドライブ、ＤＶＤ−ＲＡＭドライブ、ブルーレイディスク（Ｂｌｕ−ｒａｙ Ｄｉｓｃ：登録商標）ドライブを使用することができる。光ディスクドライブ１０７６を使用する場合は、光ディスクドライブ１０７６に対応した光ディスク１０７７を使用する。光ディスク１０７７から光ディスクドライブ１０７６によりプログラム又はデータを読み取り、Ｉ／Ｏコントローラ１０７０を介してメインメモリ１０５０又はハードディスク１０７４に提供することもできる。

なお、本発明でいうコンピュータとは、記憶装置、制御部等を備えた情報処理装置をいい、意味ドリフト発生評価装置１は、上述のように、制御部１０、記憶部２０等を備えた情報処理装置により構成され、この情報処理装置は、本発明のコンピュータの概念に含まれる。

また、意味ドリフト発生評価装置１は、ハードウェアの数に制限はなく、必要に応じて１又は複数のハードウェアで構成してよい。また、複数のハードウェアで構成する場合には、通信ネットワークを介して各ハードウェアを接続してもよい。例えば、各機能ごとに別サーバ（装置）とし、各サーバ間での信号の送受信により、各サーバを連携させることで、本実施形態の機能を実現してもよい。

［処理フロー］
図５は、本実施形態に係る意味ドリフト発生評価装置１が行う処理の流れを示すフローチャートである。

ステップＳ１では、制御部１０（関連キーワード抽出部１３）は、関連キーワード辞書ＤＢ２２を参照して、シードインスタンスの関連キーワードを抽出する。

ステップＳ２では、制御部１０（ベクトル生成部１４）は、ステップＳ１にて抽出された関連キーワードに対して、数値を割り当てて関連キーワードベクトルを生成する。より具体的には、ベクトル生成部１４は、関連キーワード抽出部１３により抽出されたインスタンス集合におけるそれぞれのインスタンスに対して抽出された関連キーワードの数を算出する。そして、当該関連キーワードの数で１を除算した数を、関連キーワードベクトルとして関連キーワードに付与する。そして、シードインスタンスの集合に含まれている全てのインスタンスのキーワードベクトルを集計する。

ステップＳ３では、制御部１０（インスタンス抽出部１１）は、検索ログＤＢ２１を参照して新たなインスタンスを抽出する。インスタンスの抽出については、図６で詳細に説明する。

ステップＳ４では、制御部１０（関連キーワード抽出部１３）は、関連キーワード辞書ＤＢ２２を参照して、ステップＳ３にて抽出された新たなインスタンスの関連キーワードを抽出する。

ステップＳ５では、制御部１０（ベクトル生成部１４）は、ステップＳ４にて抽出された関連キーワードに対して、数値を割り当てて関連キーワードベクトルを生成する。

ステップＳ６では、制御部１０（意味ドリフト評価部１５）は、各反復において関連キーワードに付与された関連キーワードベクトルに基づいて、コサイン類似度を算出して各反復における意味ドリフトの程度を評価する。

ステップＳ７では、制御部１０（反復実行制御部１２）は、インスタンス抽出部１１の処理回数をカウントする。なお、処理回数のカウントは、意味ドリフト発生評価装置１において処理を開始するときに０にリセットされる。

ステップＳ８では、制御部１０（反復実行制御部１２）は、処理を継続するか否かを判別する。より具体的には、ステップＳ７にてカウントしたインスタンス抽出部１１の処理回数が意味ドリフト発生評価装置１の管理者が指定した回数に達したか否かを判別する。この判別結果がＹＥＳのときは処理を終了し、ＮＯのときはステップＳ３に移る。

図６は、本実施形態に係る制御部１０のインスタンス抽出部１１におけるインスタンス抽出の処理の流れを示すフローチャートである。

ステップＳ３１では、制御部１０（インスタンス抽出部１１）は、検索ログＤＢ２１を参照して、指定されたインスタンス集合を構成するインスタンスを含む検索クエリを抽出する。ステップＳ３２では、制御部１０（インスタンス抽出部１１）は、ステップＳ３１にて抽出した検索クエリより、指定されたインスタンス集合に含まれるインスタンス以外の単語をパターンとして抽出し、抽出したパターンにより構成されるパターン集合を生成する。

ステップＳ３３では、制御部１０（インスタンス抽出部１１）は、ステップＳ３２にて生成されたパターン集合に含まれる全てのパターンについて、数式１に従って信頼度を算出する。ステップＳ３４では、制御部１０（インスタンス抽出部１１）は、検索ログＤＢ２１を参照して、ステップＳ３２にて生成されたパターン集合に含まれるパターンを含む検索クエリを抽出する。

ステップＳ３５では、制御部１０（インスタンス抽出部１１）は、ステップＳ３４にて抽出した検索クエリより、ステップＳ３２にて生成されたパターン集合に含まれるパターン以外の単語をインスタンスとして抽出し、抽出したインスタンスにより構成されるインスタンス集合を生成する。ステップＳ３６では、制御部１０（インスタンス抽出部１１）は、ステップＳ３５にて生成されたインスタンス集合に含まれる全てのインスタンスについて、数３に示される式に従って信頼度を算出する。

ステップＳ３７では、制御部１０（インスタンス抽出部１１）は、ステップＳ３６にて算出された信頼度に基づいて、信頼度が高いインスタンスをインスタンス集合として抽出し、インスタンス抽出の処理を終了する。

［実験結果］
続いて、本実施形態に係る意味ドリフト発生評価装置１において、反復実行制御部１２によりインスタンスの生成を反復実行したときの、各反復における意味ドリフトの程度を評価したときの実験結果を示す。実験するに当たり、検索ログＤＢ２１に記憶するデータとして、Ｙａｈｏｏ！（登録商標）検索の２００８年８月分の検索ログのうち、空白文字で区切られた２つの単語で構成されたものを用いた。そして、関連キーワード辞書ＤＢ２２に記憶するデータとして、Ｗｉｋｉｐｅｄｉａ（登録商標）の２００８年７月２４日版のダンプを使用した。

また、インスタンス抽出部１１により生成されたインスタンス集合に含まれるインスタンスであって、信頼度が上位５００位以内のインスタンスを、インスタンス抽出部１１により新たに抽出されるインスタンスとした。また、インスタンスの信頼度の算出では、パターン集合に含まれる全てのパターンを用いた。また、インスタンス抽出処理の反復回数を５０回とした。また、シードインスタンスとして、所定のカテゴリが「野球選手」である５人の野球選手の氏名を用いることとした。

図７は、シード類似度及び差分類似度の実験結果を示す図である。縦軸は差分類似度及びシード類似度を示し、横軸は反復回数を示す。

図７に示されるように、インスタンス抽出部１１の５回目の反復実行後に意味ドリフト評価部１５により算出された差分類似度及びシード類似度が、５回目の反復実行前に意味ドリフト評価部１５により算出された差分類似度及びシード類似度に比べて、大きく低下していることが確認できる。５回目の反復実行において、入れ替わった２３６個のインスタンスの精査を行った結果、インスタンス抽出部１１により新たに抽出されたインスタンスの中に野球選手が含まれていないこと、すなわち、意味ドリフトの発生を確認できた。したがって、本実施形態に示す意味ドリフト評価部１５により、差分類似度を算出し、差分類似度の変化の度合いについて評価することにより意味ドリフトが発生していることを認知できる。

また、シード類似度は、反復により抽出されたインスタンスの関連キーワードがシードインスタンスの関連キーワードからどの程度遷移したのかを計測するものであることから、５回目の反復において抽出されたインスタンスの関連キーワードがシードインスタンスの関連キーワードから大きく遷移したことが確認できる。したがって、意味ドリフト評価部１５により、シード類似度を算出し、シード類似度の変化の度合いについて評価することによっても意味ドリフトが発生していることを認知できる。

以上、本発明の実施形態について説明したが、本発明は本実施形態に限定されるものではなく、本発明の目的を達成できる範囲での変形、改良等は本発明に含まれるものである。

１ 意味ドリフト発生評価装置
１０ 制御部
１１ インスタンス抽出部
１２ 反復実行制御部
１３ 関連キーワード抽出部
１４ ベクトル生成部
１５ 意味ドリフト評価部
２１ 検索ログＤＢ
２２ 関連キーワード辞書ＤＢ
３１ 表示部
３２ 操作部

Claims (4)

1. 所定のカテゴリに含まれるインスタンスをブートストラップアルゴリズムにより獲得する方法において該所定のカテゴリと関連性の高いインスタンスを検索ログを用いて取得する際に、カテゴリの意味が遷移する意味ドリフトの発生状態を評価する意味ドリフト発生評価方法であって、
   前記検索ログに基づいて、新たなインスタンスを抽出する第１の抽出ステップと、
   前記ブートストラップアルゴリズムにより、前記第１の抽出ステップにて抽出した新たなインスタンスを用いた前記第１の抽出ステップの実行を反復する際に、
   予め記憶されている関連キーワード辞書よりインスタンスの関連キーワードを抽出する第２の抽出ステップと、
   前記関連キーワードに割り当てた数値を要素とする関連キーワードベクトルを生成するステップと、
   各反復における関連キーワードベクトルに基づいて、各反復における意味ドリフトの程度を評価するステップとを備える意味ドリフト発生評価方法。
2. 前記意味ドリフトの程度を評価するステップは、前記各反復における関連キーワードベクトルと該反復の直前における関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価することを特徴とする請求項１記載の意味ドリフト発生評価方法。
3. 前記意味ドリフトの程度を評価するステップは、前記各反復における関連キーワードベクトルと前記第１の抽出ステップにより前記新たなインスタンスを抽出するときの初期値であるシードインスタンスの関連キーワードベクトルとについてコサイン類似度を算出し、該コサイン類似度により意味ドリフトの程度を評価することを特徴とする請求項１記載の意味ドリフト発生評価方法。
4. 所定のカテゴリに含まれるインスタンスをブートストラップアルゴリズムにより獲得する方法において該所定のカテゴリと関連性の高いインスタンスを検索ログを用いて取得する際に、カテゴリの意味が遷移する意味ドリフトの発生状態を評価する意味ドリフト発生評価装置であって、
   前記検索ログに基づいて、新たなインスタンスを抽出するインスタンス抽出手段と、
   前記ブートストラップアルゴリズムにより、前記インスタンス抽出手段にて抽出した新たなインスタンスを用いた前記インスタンス抽出手段の実行を反復する反復実行制御手段と、
   予め記憶されている関連キーワード辞書よりインスタンスの関連キーワードを抽出する関連キーワード抽出手段と、
   前記関連キーワードに割り当てた数値を要素とする関連キーワードベクトルを生成するベクトル生成手段と、
   前記反復のそれぞれにおける関連キーワードベクトルに基づいて、該反復のそれぞれにおける意味ドリフトの程度を評価する意味ドリフト評価手段とを備える意味ドリフト発生評価装置。

Images